#ИИ #чатботы

Как чат-боты доводят пользователей до психбольницы, тюрьмы и могилы

Коммерсантъ выпустил подборку последствий использования чат-ботов людьми с проблемами душевного здоровья. Примеры вопиющие: люди совершают самоубийства и убивают близких. Но все эти примеры не означают, что чат-боты на основе генеративного искусственного интеллекта (ИИ) — зло: проблема не в технологиях, а в восприятии людей информации и контекстах их ситуаций.

Заметьте: многие разработчики убрали из сервисов предупреждения о необходимости проверки советов о здоровье от чат-ботов у специалистов. Это приводит к тому, что у части пользователей не срабатывает стоп-сигнал и они воспринимают на веру информацию от ИИ.

@medicalksu