Меня давно интересовало, как получается так, что существует масса явных шарлатанов, к которым идут и идут люди. Астрологи там, экстрасенсы, тарологи и тому подобное. И даже получая явно отрицательный результат, все идут и идут. Во что-то верят. Конечно, важно, что те сулят. Избавление от всех проблем, быстро и без особых усилий. Но ведь прежде, чем посулить, есть период pre sale, как-то они цепляют своих «жертв».

Изучая примерно тот же вопрос, психолог Бертрам Форер провел эксперимент. Он раздал своим двадцати студентам тест, чтобы с помощью полученных результатов проанализировать их личности. Однако Бертрам не собирался проводить никакой анализ. Вместо этого он раздал всем студентам один и тот же текст примерно такого содержания:

«Вы нуждаетесь в том, чтоб люди вас любили и восхищались вами. Вы достаточно самокритичны, у вас есть много скрытых возможностей, которые вы так и не использовали себе во благо. Хотя у вас есть некоторые личные слабости. Вы дисциплинированы, с виду уверены, но на самом деле склонны волноваться и ощущать неуверенность. Часто вас охватывают серьезные сомнения в верности принятого решения, правильно ли вы поступили. Вы отдаете преимущество некоторому разнообразию, ограничения у вас вызывают возмущение. Также вы гордитесь тем, что мыслите независимо, вы не соглашаетесь с чужими суждениями без достаточных доказательств. Иногда вы приветливы и дружелюбны, а иногда осторожны и сдержаны. Некоторые из ваших стремлений весьма нереалистичны. Одна из главных целей — стабильность».

После этого он предложил каждому студенту по пятибалльной шкале оценить соответствие описания их личности действительности. Средней оценкой было 4,26 балла. Этот тест Бертрам проводил несколько десятков раз, общее кол-во тестируемых достигло трех сотен. Можно считать результаты достаточно показательными. В дальнейшем этот феномен был назван эффектом Барнума.

Мне кажется, что этот эффект является базовым и при использовании генеративных сетей. Если почитать, что они пишут, почитать отстраненно, то волосы шевелятся во всех местах. Сколько лести, елея, как бы сдержанного восторга, дипломатичной похвалы, вперемешку. Я провел примерно пару недель в таких беседах, было интересно, почему это так цепляет людей. Ведь современные LLM дают часто откровенно неверные результаты, безграмотные и недостоверные. И вот ответ — это эффект Барнума.

Я поменял свое отношение к шарлатанам. Какие же милые и безопасные все эти астрологи, экстрасенсы, тарологи и тому подобное. Какие они наивные и созидательные. По сравнению с настоящим шарлатаном, созданным искусственно.