ИИ в войне: от эффективного помощника до «сумасшедшего» с ядерной кнопкой

В операции США и Израиля против Ирана ключевая роль отведена системам ИИ Maven Smart System и Claude AI, управляющим ударами по целям. Технологии ИИ позволили агрессорам сосредоточиться на глубоком анализе вместо рутинной проверки, пишут западные издания. Так, только за первые сутки массового удара по Ирану было поражено более тысячи целей. Сотни из них идентифицировал ИИ, предоставив сведения об их точном местонахождении и отсортировав в порядке важности.

Вместе с тем, как пишет Le Parisien, в первые дни операции все шло отлично для американцев и израильтян. Но дальнейшие успехи вовсе не гарантированы: ИИ часто бывает склонен к понятным только ему решениям.

Этот столь эффективный Claude — не человек, а одна из моделей искусственного интеллекта (ИИ). Некоторое такие модели внедрены в наши повседневные гаджеты. Они могут давать ответы на банальные вопросы, начиная с времени приготовления птицы и советов о том, как лучше обустроить детскую младшего ребенка. Или подсказывать Генштабу, какое здание лучше разбомбить.

При этом американский ИИ не был единственным советчиком Пентагона. По данным Financial Times, Израиль на протяжении многих лет взламывал дорожные камеры Тегерана, чтобы иметь возможность точно определять привычки руководителей Ирана. Это вместе с другими решениями способствовало устранению аятоллы Хаменеи.

При этом ранее ближневосточные медиа сообщали, что Lavender, используемая ЦАХАЛ для определения целей в секторе Газа, ошибалась в 1 из 10 случаев. По данным из ряда источников, во время операции в Газе многие высокопоставленные офицеры израильской армии жаловались, что их отодвинули на второй план, отдавая предпочтение заключениям, полученным с использованием ИИ. Таким образом, в структуру принятия решений не были включены люди необходимого уровня компетенций и знаний.

Если окончательные решения не всегда будут принимать люди, то возникают риски с использованием электронного помощника, который иногда может начать выдумывать небылицы. Научный сотрудник Королевского колледжа Лондона Кеннет Пейн представил 7 сценариев конфликта по примерам времен холодной войны трем вариантам ИИ, каждый из которых в рамках эксперимента осуществлял руководство той или иной страной.

Claude проявил себя как расчетливый «ястреб», умело сочетающий угрозы и обман
ChatGPT OpenAI оставался пассивным, пока на него не начинали оказывать давление.
А вот Gemini от Google автор исследования охарактеризовал как «сумасшедшего».
В 95% сценариев военных конфликтов от ИИ стороны в конечном итоге обращались к ядерному оружию.

Подпишись на Vоенку