«Цифровая стена», вмешательство алгоритмов в выборы и мир симулякров: какие опасности несет в себе ИИ? - политтехнолог Дмитрий Зиновьев (1/2)

?Какие есть тревожащие факторы в развитии ИИ?

Сегодня ИИ встроен в три критически важные зоны общественной жизни:

Сервисы, которыми мы пользуемся;
Контент, который формирует наши взгляды;
Поиск, который стал главным фильтром информации.

Когда в службе поддержки мы не можем «дозвониться до человека», это вызывает раздражение. И если речь идёт о деньгах, документах, правах, социальных мерах, здоровье – это дает ощущение беспомощности: «государство со мной не разговаривает». Так возникает новый источник недоверия к институтам, «цифровая стена» между человеком и государством. А еще массовое внедрение автоматизации вытесняет живых сотрудников. Это уже ведет к социальному напряжению.

Как можно решить проблему «цифровой стены»?

Закрепить в законе право выбирать, с кем взаимодействовать: с ботом или живым оператором. «Путь к оператору» не должен превышать определённого количества шагов или минут;

Ограничить автоматизацию «первой линии» в чувствительных сервисах: социальная помощь, жалобы, консультации по правам, горячие линии;

Обязать сервисы честно информировать, когда с человеком говорит ИИ.

Это простые шаги снимут напряжение и вернут людям ощущение, что их слышат. Дальше можно сформулировать системный подход и социальный стандарт автоматизации.

ОГОНЬ