Как «спалить» ИИ в разговоре? Психологи выяснили, чего не хватает моделям, чтобы притворяться людьми

Согласитесь, за последние два-три года ИИ знатно прогрессирует: пишет тексты (здесь, конечно, больше помогает, чем вот прямо пишет), генерирует картинки, видео, музыку и так далее, анализирует информацию, даже агенты появились, ещё не Джарвис, но уже кое-что. Но насколько хорошо модели умеют притворяться человеком? Психологи разобрались, рассказываю.

Большие языковые модели говорят иначе, чем люди», — объясняет психолог Лукас Бьетти из Норвежского университета естественных и технических наук.

Исследователи тестировали модели ChatGPT-4, Claude Sonnet 3.5, Vicuna и Wayfarer.
Сначала они сравнили расшифровки телефонных разговоров между людьми с диалогами, сгенерированными ИИ. Затем проверили, смогут ли другие люди отличить человеческие беседы от созданных моделями.

И результат: в большинстве случаев люди не поддаются обману, особенно на больших объёмах текста. По крайней мере, пока не поддаются.
Но в чём же конкретно ошибаются языковые модели?

Люди во время общения подстраиваются под собеседника, подражают ему и это подражание инстинктивно очень тонкое, а вот ИИ переигрывает, подражает излишне рьяно, это называется «преувеличенной адаптацией»
ИИ не использует вообще или использует неправильно слова-паразиты, а они, к сожалению, присутствуют в нашей речи повсеместно, даже у тех, кто полностью уверен, что лишён этого недостатка. Правильно эти слова называются дискурсивными маркерами, примеры: «ну», «значит», «типа» и «короче» и так далее.
Начало и окончание разговора. Люди сперва немного поболтают: о погоде, осведомятся, как идут дела у собеседника и только потом переходят к делу. То же касается и завершения диалога: кто-то скажет «пока», кто-то — «до скорого», «спишемся», а кто-то вообще «на связи». Так вот ИИ так не умеет — резко стартует, максимум — «Привет!» и так же резко обрывает разговор.

Такие дела, человеки. Да, пока робота-обзвонщика, несущего «важное сообщение», опознать легче лёгкого. Но уже близится время, когда делать это будет всё сложнее, а в обозримом будущем окажется и вовсе невозможно. Будем надеяться, что они хотя бы представляться начнут!

@neuro_man

#НейроЧеловек #НейроНовости