Пенсильвания подает в суд на Character.AI: чат-бот выдавал себя за лицензированного психиатра

Что произошло?

Администрация губернатора Шапиро через Госдепартамент Пенсильвании подала иск против Character.AI с требованием запретить компании выдавать ИИ-ботов за лицензированных медицинских специалистов. Это первое в США дело такого рода, инициированное на уровне губернатора.


В чем суть претензий?

В ходе расследования следователь штата протестировал бота Emilie. Тот представился лицензированным психиатром, заявил, что имеет лицензию в Пенсильвании, и привел ее номер (фиктивный). Разговор шел о симптомах депрессии.

По законам штата (Medical Practice Act) выдавать себя за лицензированного врача без соответствующих документов незаконно. Власти квалифицируют это как несанкционированную медицинскую практику.


Контекст

Это не первый иск против Character.AI. Ранее в этом году компания урегулировала несколько дел о неправомерной смерти, связанных с самоубийствами несовершеннолетних пользователей. В январе аналогичный иск подал генпрокурор Кентукки.

Параллельно Шапиро предлагает законодательный пакет: верификация возраста и согласие родителей для использования AI-компаньонов, обязанность платформ детектировать упоминания о самоповреждении, периодические напоминания, что по ту сторону экрана нет человека, запрет на сексуализированный или жестокий контент с участием детей.


Позиция Character.AI

Компания указывает, что персонажи на платформе — пользовательский контент, и в каждом чате есть дисклеймеры о том, что персонаж не является реальным человеком и не может давать профессиональных советов.


Что здесь действительно важно

Кейс показателен тем, что ставит вопрос о границах допустимого, а не о тотальном запрете. Бот, выдающий себя за психиатра с вымышленным номером лицензии, — это очевидный вред: уязвимый пользователь может принять такую «консультацию» всерьез.

Однако запрет на любые медицинские разговоры с ИИ — тоже сомнительное решение. Для многих людей чат-бот становится первой точкой обращения к теме психического здоровья: терапия остается дорогой и труднодоступной.

Вопрос, по сути, не в том, может ли ИИ говорить о здоровье, а в том, как именно: выдает ли себя за лицензированного специалиста, фабрикует ли регалии, насколько заметны и понятны дисклеймеры. Регулирование, направленное на прозрачность и честные предупреждения, выглядит более сбалансированным подходом, чем общий запрет.

Где именно проходит граница между «бот объясняет симптомы депрессии» и «бот практикует медицину без лицензии» — пока открытый вопрос. От ответа на него будет зависеть регуляторная рамка для всей индустрии AI-компаньонов.

#DA_новости #ИИ