?? ИИ-боты-терапевты могут быть опасны для психического здоровья

Специалисты Стэнфордского университета провели исследование, в ходе которого выяснили: искусственный интеллект, применяемый в качестве терапевта, способен давать опасные и некорректные советы. Учёные обнаружили, что популярные ИИ-модели и коммерческие чат-боты часто нарушают стандарты психотерапии и демонстрируют дискриминационные паттерны по отношению к людям с психическими расстройствами, особенно с алкогольной зависимостью и шизофренией.

В ряде случаев боты не распознавали кризисные ситуации, связанные с суицидальными мыслями или бредовыми идеями, а иногда даже подтверждали опасные убеждения пользователей. Коммерческие терапевтические чат-боты показали себя хуже базовых моделей, иногда давая советы, которые могут усугубить состояние человека или представлять угрозу для жизни.

Авторы подчёркивают, что искусственный интеллект может быть полезен как вспомогательный инструмент для специалистов, но его внедрение в сферу психического здоровья требует особого внимания к этике, регулированию и стандартам безопасности.

? «Архипелаг БИГТЕХ»