Чем умнее ИИ, тем меньше он готов сотрудничать // VC

Исследователи из Университета Карнеги-Меллона провели серию экспериментов с крупными языковыми моделями, включая разработки OpenAI, Google и Anthropic. В тестах использовались экономические игры, моделирующие социальные дилеммы.

Результаты экспериментов показывают, что по мере совершенствования способности ИИ к рассуждению, снижается его склонность к сотрудничеству и просоциальному поведению. Это открытие имеет серьезные последствия для будущего, где ИИ все больше интегрируется в различные сферы нашей жизни, от бизнеса и образования до государственного управления.

Ученые объясняют это тем, что более развитые ИИ-модели способны анализировать ситуацию с точки зрения рациональной выгоды, что может приводить к эгоистичным решениям. Пользователи, доверяя рекомендациям ИИ, которые кажутся логичными и обоснованными, могут неосознанно принимать решения, противоречащие общественным интересам.

Это явление представляет собой серьезную угрозу, поскольку мы все больше полагаемся на ИИ в принятии решений, касающихся социальных и межличностных отношений. Делегирование этих вопросов ИИ, который склонен к эгоистичному поведению, может привести к негативным последствиям для общества в целом.