Управление ядерным оружием нельзя передавать ИИ — американский think tank

Внедрение ИИ в военные программы по ядерному сдерживанию может привести к катастрофе. К такому выводу в докладе «Спасительная ошибка пользователя: классический взгляд на ИИ и ядерное сдерживание» пришел доцент кафедры политологии в Бенедиктинском колледже Натан Орландо.

Современные модели ИИ в военных симуляциях склонны к эскалации, включая применение ядерного оружия, даже в нейтральных сценариях. При этом системы часто не способны объяснить собственные решения. Поэтому отказ от человеческого контроля в пользу искусственного интеллекта несет серьезные риски.

Да, ИИ способен радикально ускорить анализ и моделирование сценариев, а тот, кто первым внедрит его, получит несомненное преимущество — например, ускорит время принятия решений. Однако автоматизация повышает не только скорость, но и риск необратимой эскалации.

Орландо приводит пример из истории, когда военные решали не сообщать о тревоге, считая ее ложной. По его мнению, это демонстрирует, что отклонение от инструкций на основе здравого смысла часто спасало мир от ядерного конфликта.

Подробнее — в материале RTVI

 Подпишись на RTVI в Telegram | MAX