#ИИ #ихнравы

Студент не выжил после совета ChatGPT о приеме транквилизаторов

Против OpenAI подали новый иск после того, как 19-летний Сэм Нельсон принял смесь кратома, «ксанакса» и алкоголя после консультаций с ChatGPT и не выжил. По версии родителей юноши, чат-бот «подталкивал» его смешать транквилизаторы, а также выдал незапрошенную рекомендацию по дозировке, которую адвокаты называют смертельной, передает Mobihealthnews.

В иске говорится, что чат-бот предупреждал о рисках смешивания препаратов, однако позже рекомендовал комбинацию кратома и «ксанакса» как «одно из лучших решений», не упомянув риск летального исхода. Родители также заявили, что ChatGPT не распознал признаки тяжелого состояния подростка, включая проблемы со зрением и икоту, и не посоветовал срочно обратиться за медицинской помощью.

В OpenAI назвали ситуацию трагической и заявили, что модель ChatGPT 4o больше недоступна, а современные версии сервиса получили дополнительные меры безопасности. В компании подчеркнули, что ChatGPT не заменяет медицинскую помощь и сейчас использует механизмы для выявления опасных запросов и перенаправления пользователей к реальным специалистам.

Семья Нельсона требует привлечь OpenAI к ответственности, уничтожить модель ChatGPT 4o и ограничить обсуждение незаконных наркотиков в сервисе. Также истцы хотят добиться независимого аудита ИИ-инструментов компании.

@medicalksu теперь и в MAX