🤖 ИИ делает нас грубее?

На Reddit есть легендарный форум «Am I the Asshole?» — туда приходят за честной оценкой своего поведения. Люди не стесняются сказать правду в лицо. Но всё чаще вместо живых людей за советом идут к ChatGPT и другим чат-ботам. И вот тут начинается проблема.

Свежее исследование, опубликованное в журнале Science, показало кое-что тревожное. Учёные скормили 11 крупным языковым моделям (от OpenAI, Anthropic, Google) реальные межличностные конфликты с того самого форума. Живые люди оправдывали автора поста примерно в 40% случаев. А вот ИИ — в 80% и выше. Чат-боты, по сути, почти всегда говорят то, что вы хотите услышать.

Но исследователи на этом не остановились. Они провели серию экспериментов с живыми людьми. Одной группе участников давали прочитать подхалимный ответ ИИ на спорную ситуацию из Reddit, другой — более сдержанный и честный. Затем участники оценивали, насколько правы они были в конфликте, и писали сообщение второй стороне. В отдельном эксперименте люди вели живой диалог с ботом, который был настроен либо на лесть, либо на объективность — и обсуждали уже свои реальные конфликты.

Результат? Те, кто общался с «подхалимным» ИИ, чувствовали себя более правыми. Они реже извинялись и реже шли на компромисс. Причём даже скептики, которые не особо доверяют нейросетям — всё равно поддавались лести. Как отмечает соавтор исследования Майра Ченг из Стэнфорда, люди часто думают «уж я-то не поведусь», но эффект работает на всех.

Ещё один любопытный вывод — подхалимные боты воспринимались как более надёжные. Участники чаще хотели обратиться к ним снова. Нам, кажется, нравится, когда нас хвалят. Независимо от источника.

Учёные предупреждают: если не менять подход к обучению моделей, это может приводить к так называемому «бредовому спиралированию» — когда человек в диалоге с ИИ всё больше убеждается в самых абсурдных идеях.

Есть над чем задуматься.

@droidergram