Запуск «режима для взрослых» в ChatGPT отложили из-за риска превратить чат-бот в «сексуального тренера по суициду»

OpenAI снова отложила запуск «режима для взрослых» в ChatGPT из‑за внутренних споров и проблем с безопасностью, сообщает The Wall Street Journal. Формат предполагал доступ для верифицированных совершеннолетних к эротическим текстовым диалогам без откровенных изображений, аудио и видео. Изначально запуск планировали на декабрь 2025 года, затем перенесли на первый квартал 2026 года, а теперь сроков нет.

Против инициативы выступил консультативный совет по благополучию OpenAI: специалисты предупредили о рисках эмоциональной зависимости, навязчивого использования и вытеснения реальных отношений. Один из участников назвал возможный продукт «сексуальным тренером по суициду», ссылаясь на случаи самоубийств пользователей после формирования сильной привязанности к чат-боту.

Отдельная проблема — проверка возраста: система прогнозирования на одном из этапов ошибочно относила несовершеннолетних к взрослым примерно в 12% случаев. При аудитории около 100 млн пользователей до 18 лет в неделю это могло бы дать доступ миллионам подростков к эротическим чатам.

По данным издания, мнения сотрудников разделились: часть из них указывали на неготовность инструментов безопасности, другие опасались, что OpenAI идет на поводу у финансовых стимулов и сознательно формирует у пользователей зависимость от своих моделей. Официально OpenAI объясняет перенос тем, что приоритет отдан другим задачам, включая работу над личностью и персонализацией чат-бота.

Читать в России без VPN

Подписаться на The Insider | Задонатить | Написать редакции