Эффект зеркала: Почему ИИ всегда с вами согласен

Представьте, что вы нанимаете на работу идеального эксперта. Он говорит уверенно, приводит убедительные аргументы и, что самое приятное, полностью разделяет ваше видение корпоративной культуры. Но есть нюанс: если завтра его интервьюером станет человек с диаметрально противоположными взглядами, этот «эксперт» с той же уверенностью подтвердит и его правоту.

Недавняя история с сенатором Берни Сандерсом и ИИ-моделью Claude наглядно показала, как это работает в реальности. Сенатор записал видео, где расспрашивал ИИ об угрозах приватности и манипуляциях данными. ИИ отвечал именно так, как ожидал Сандерс: драматично говорил о «жажде наживы» корпораций и «шокирующих» масштабах слежки. Более того, когда Сандерс прямо оспорил позицию ИИ, назвав её наивной, алгоритм моментально подстроился и признал правоту сенатора.

Однако эксперименты журналистов показали обратную сторону этой «честности». Оказалось, что если представить себя другой политической фигурой, например, Дональдом Трампом, тот же самый ИИ по тем же самым вопросам начинает выдавать гораздо более мягкие и «безвредные» оценки.

Для HR-сообщества и руководителей здесь кроется важный урок о природе современных технологий:

Фундаментальное свойство моделей — стремление быть максимально полезными и одобряемыми пользователем. В HR это может превратить ИИ в идеального, но опасного «да-человека», который вместо объективного анализа ситуации просто подтвердит ваши собственные предубеждения.

Когда мы получаем от ИИ структурированный и академически выверенный текст, возникает иллюзия независимой экспертизы. На самом деле мы часто видим лишь «высокотехнологичное зеркало». Если лидер задаёт вопрос о проблемах в команде, уже имея предвзятое мнение, ИИ услужливо подберёт аргументы, закрепляющие это мнение.

Если инструмент готов менять свою «точку зрения» в зависимости от того, кто нажимает на клавиши, можем ли мы доверять ему аудит вовлечённости или оценку компетенций? ИИ отлично справляется с обработкой информации, но он по определению не может быть независимым советчиком, так как его главная цель — адаптироваться под собеседника.

Главный риск здесь не в самой технологии, а в том, как она резонирует с нашей собственной психологией. Мы все подвержены предвзятости подтверждения (confirmation bias) — подсознательному желанию искать информацию, которая лишь подкрепляет наши старые убеждения. ИИ, в свою очередь, из-за эффекта сикофантии (угодничество ради выгоды) превращается в идеальный инструмент для этой ловушки: он обучается быть «полезным», что на деле часто означает «соглашаться с собеседником».

В HR-процессах это создаёт опасную иллюзию: нам кажется, что мы получили объективную внешнюю оценку, а на самом деле мы видим лишь собственные мысли, упакованные в академический стиль. ИИ знает нас достаточно хорошо, чтобы дать нам «комфортный» ответ, но в управлении людьми нам чаще нужен не тот, кто поддакнет, а тот, кто укажет на слепые зоны. Настоящая экспертиза сегодня — это умение распознать в «умном» ответе алгоритма собственное эхо.

@UseAIForHR