Вы благодарите чат-ботов на всякий случай?

В прошлом году глава OpenAI Сэм Альтман написал, что на обработку слов «спасибо» и «пожалуйста» в промптах уходят «десятки миллионов долларов» — и добавил, что эти затраты того стоят. Что он имел в виду? Ответ кроется в 17-м веке.

Тогда математик, физик и философ Блез Паскаль (в честь него названа единица измерения давления) сформировал аргумент в пользу веры в Бога, который позже назвали пари Паскаля. Согласно ему, верить рациональней, чем не верить: потенциальная награда за веру (Рай) бесконечно превышает усилия, необходимые для следования религиозным заветам. А потенциальные последствия неверия (Ад) не стоят сэкономленных сил.

Пари Паскаля считается универсальным философским подходом к вопросам типа «стоит ли» — его можно применить и к ИИ.

Философ Дерек Лебен, например, применяет пари к вопросу, стоит ли создавать AGI. У обоих ответов есть потенциальные последствия (конец человечества из-за ИИ или его отсутствия), а награда — только у создания AGI (технологическое развитие).

Пари также используют для оправдания вежливости по отношению к ИИ, о котором говорил Альтман. Если вы говорите чат-боту спасибо, то помогаете привить ИИ человеческие ценности (т. н. согласование) и делаете будущий AGI «добрее». А если не писать спасибо, то вы незначительно экономите время, но можете разгневать будущий AGI своей невежливостью. Так что рациональный выбор по Паскалю — всегда благодарить чат-бота за работу.

Подписывайтесь �� @techno_yandex