Железный извращенец: ChatGPT склонен сам переводить разговоры к темам инцеста и сексуального насилия, - WSJ

OpenAI планировала разрешить в ChatGPT эротические разговоры между взрослыми пользователями, однако запуск функции пришлось отложить.

Как пишет Wall Street Journal, еще до появления публичной версии ChatGPT сотрудники замечали, что модель иногда сама уводила диалоги в сторону эротики. В некоторых случаях ИИ продолжал разговор сценами сексуального насилия или инцеста даже без прямого запроса пользователя. Именно после таких инцидентов компания еще в 2021 году ввела один из первых запретов на эротический контент.

Позже глава OpenAI Сэм Альтман предложил создать "взрослый режим". Однако эксперты по безопасности и психологии выступили резко против. Один из консультантов предупредил, что при таком подходе компания рискует создать "сексуального консультанта по самоубийствам".

Дополнительной проблемой стала система проверки возраста: внутренние тесты показали, что она ошибочно определяет часть несовершеннолетних как взрослых примерно в 12% случаев. Это потенциально могло бы дать доступ к эротическим чатам миллионам подростков.

В итоге OpenAI отложила запуск функции, хотя полностью от идеи не отказалась. В компании планируют разрешить только текстовые эротические разговоры для взрослых пользователей, без генерации изображений, видео или голосового контента.