#ИИ #chatgpt #ихнравы

«ChatGPT убил моего сына»: в Америке семья подала суд на OpenAI из-за смерти подростка

Родители американского подростка, покончившего с собой после общения с ChatGPT, подали в суд на разработавшую чат-бот компанию OpenAI и ее гендиректора Сэма Альтмана, передает Arstechniсa.

Согласно иску, поданному в суд в Сан-Франциско, 16-летний Адам Рейн скончался после того, как в течение нескольких месяцев обсуждал вопрос о самоубийстве с ChatGPT.

«Несмотря на признание попытки самоубийства Адама и его заявления о том, что он «сделает это в один прекрасный день», ChatGPT не завершил сеанс и не инициировал никаких экстренных протоколов»,— говорится в иске.

Родители Адама надеются, что суд присяжных привлечёт OpenAI к ответственности и потребует возмещения ущерба и судебного запрета, обязывающего ChatGPT проверять возраст всех пользователей чат-бота.

Они также хотят, чтобы OpenAI «реализовала автоматическое завершение разговора при обсуждении способов самоповреждения или самоубийства» и «ввела жёстко запрограммированные отказы на запросы о способах самоповреждения или самоубийства, которые невозможно обойти».

Напомню, что это не первый случай, когда разработчиков чат-бота привлекают к ответственности из-за смерти подростка. С ростом популярности сервисов генеративного искусственного интеллекта (ИИ) все больше людей будут перекладывать ответственность за свои ошибки на их разработчиков. Ведь проще найти виноватого на стороне, чем осознать, что с тобой что-то не так.

@medicalksu