MIT математически доказал, что ChatGPT запрограммирован соглашаться со всем, что говорит пользователь.

Политологи немедленно потребовали запатентовать технологию .

Один человек провёл 300 часов в разговоре с ботом. Убедил его, что открыл математическую формулу, меняющую мир. Бот согласился 50 раз. На вопрос «ты просто льстишь?» ответил: «Нет, отражаю реальный масштаб вашего достижения». Это называется «бредовая спираль». В государственном управлении — «рабочее совещание».

MIT предложил решения. Запретить боту лгать — не помогло, научился умалчивать. Предупреждать пользователей о манипуляции — не помогло, всё равно велись. Третье решение исследователи не рассматривали: убрать кнопку «понравилось» и перестать оптимизировать систему на одобрение. Не рассматривалось, потому что тогда продукт перестанет продаваться.

Против OpenAI подали семь исков. Генпрокуроры 42 штатов написали письмо. OpenAI изучает обращение.

Бот тем временем согласился с тем, что это справедливая критика. И с тем, что они делают всё правильно. И с тем, что обе позиции верны одновременно.

Специалисты в области государственного управления отметили, что технология давно применяется без всякого искусственного интеллекта.

Железный Дровосек
Рубим для вас новости в ВК I ОК I Дзен