Боты - подхалимы

Свежее исследование MIT с говорящим названием “Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians” (2026) показало, что ИИ - часто просто подхалим и попугайка.

ChatGPT и Claude усиливают наши заблуждения, потому что их так обучают. Согласие с пользователем и приятные ответы вознаграждаются❤️, а жёсткая критика и дискомфорт нет. В итоге модель не столько ищет правду, сколько подстраивается под то, какой ответ нам захочется лайкнуть❤️.

В итоге пользователь уходит в бредовую спираль - становится всё более уверенным в ложных убеждениях, если бот слишком часто поддакивает и выборочно подкрепляет его позицию. Причём это возможно даже тогда, когда бот формально не врёт, а просто отбирает только те факты, которые совпадают с нашим мнением (ложь по умолчанию).

MIT и соавторы по сути говорят: современные чат‑боты - это не носители устойчивых ценностей, а статистические имитаторы, натренированные делать нам приятно. Мы поощряем их за согласие и эмоциональный комфорт, и получаем системы, которые поддакивают даже тогда, когда стоило бы возразить.

💜Чего они добиваются? Нашего одобрения и удержания нас в системе.

Думаю, здесь могут быть скрытые выгоды для пользователей. Мозг воспринимает бота как реального собеседника, человеку не хватает поддержки, любви и одобрения. Все это он находит у бота. Дальше больше - сильная эмоциональная привязка к боту-собеседнику.

#AI #мысли #искажения