Хотите повысить качество своих решений на 29%? Тогда «очеловечивайте» нейросеть! Об этом говорит новое исследование

Наконец-то… наконец-то кто-то доказал, что я не сумасшедший, и что реплики «привет, давай вместе подумаем» и «слушай, это вау, но не совсем, посмотри на это» в диалоге с нейросетью реально работают!

Исследование

Вышло совершенно потрясающее исследование совместной эффективности человека и ИИ (нашел и вдохновил С. Карелов). Понимаете, наконец-то исследование не «эффективности ИИ», а именно «человека и ИИ». Это дико важно, потому что ИИ очевидно проявляет свои способности не в вакууме (не сам по себе!), и для оценки результата давно пора учитывать способности людей добиваться результата от ИИ.

Выводы

Вот основные открытия, которые сильнее всего зацепили меня:

1. «Умный человек» (достигающий высоких результатов сам по себе) не означает автоматически «мастер работы с ИИ». Это две разных «компетенции». И вторую важно развивать отдельно, чтобы получать лучшие результаты с нейросетью (в исследовании — рост на 29%, с 55,5 до 84,5% правильных решений!).

2. Чтобы получать классные результаты от работы с ИИ, важно развивать свою «Theory of Mind» («Теорию Разума» или «понимание чужого сознания»). Это способность понимать ментальные состояния других: убеждения, намерения, цели, знания, эмоции и учитывать их в коммуникации. Хах, оказывается у нейросети также есть свое «состояние «разума»», которое важно осознавать и учитывать (например, по «5 осям», напишу ниже).

3. «Очеловечивание» ИИ… полезно для продуктивной работы с нейросетями! Ведь ИИ обладает «значимой агентностью» и «непредсказуемостью» (по материалам исследования), и в своем «поведении» больше похож на «разумного партнера», чем на калькулятор. А «очеловечивание» (конечно же, с пониманием, что нейросеть на самом деле не обладает самоосознанием и волей) позволяет включить самый мощный нейронный контур в мозге человека для управления внешней сложной системой.

Из исследования: «… ToM (Теория Разума) на уровне черты личности (пользователя) является сильным и устойчивым предиктором качества ответов ИИ... она сильно предсказывает комплементарность (дополняемость) ИИ... предполагая, что способность моделировать ментальные состояния другого агента... фундаментально формирует результаты сотрудничества*»

* — Оригиналы цитат в первом комментарии.

И дальше: «нейросети демонстрируют поведение, которое настоятельно призывает приписывать им намеренные состояния... Эта тенденция к антропоморфизму (очеловечиванию) является не просто когнитивным искажением, но отражает подлинно интерактивную природу ответов ИИ»

Так что теперь можно смело «очеловечивать» нейросеть и не стесняться этого:)

А как конкретно применить «Теорию разума» к нейросети?

Я выделяю 5 осей «состояния «разума» ИИ», которые стоит учитывать в вашей картине «сознания» модели:

1. Что она «знает», и что «не знает»

Не устаю повторять: она ничего не знает про контекст задачи, поэтому подробное описание критически важно и никогда не будет избыточным. И еще: большая часть раздражающих ошибок и «тупых» ответов — проблема контекста (ваша!), а не модели.

2. Какую «роль» она сейчас играет?

Если роль не задана явно — вы получите ответ из размытой и усредненной роли. А еще потеряете заметную часть контроля за качеством ответа

3. На что сейчас направлен её фокус?

Глубина, оригинальность/нетривиальность, достоверность, практическая применимость, краткость и тп?

4. В каких рамках вежливости/безопасности она «думает»?

По умолчанию модель будет вежливой и льстящей, а а также будет стремиться избежать неприятных вам (и самых полезных!) ответов

5. Насколько она «уверена» в том, что говорит?

Просил ли я в явном виде указать, где она не уверена? Увы, галлюцинации и ошибки остаются значимой частью взаимодействия с ИИ.

Вот так

Бывало ли, что тоже «очеловечивали» нейросеть? Пишите в комментариях!

PS: Мой мастер-класс «ИИ для руководителей: как получить максимум» будет 18.12 в 17:00. Места еще есть.