Экстракт
@ex_trakt
Пентагон в 2026 году почти изгнал Anthropic из военных компьютерных систем, а Агентство национальной безопасности одновременно сохранило ее самый мощный киберинструмент. После конфликта министра обороны Пита Хегсета с главой Anthropic Дарио Амодеи Claude заменили в военных сетях и убрали из Maven, платформы анализа разведданных и поддержки выбора целей. Причиной стали 2 ограничения компании: она не соглашалась на массовую слежку за американцами и полностью автономное оружие без человеческого контроля. Однако АНБ продолжило экспериментальную работу с Mythos. Один недавно ушедший американский чиновник назвал отказ от этой модели односторонним разоружением.
Попытка установить полный контроль над военным ИИ создала собственную оперативную зависимость. В июле ВВС разослали крупнейшим подрядчикам требование к 1 сентября удалить продукты Anthropic из программ для оружия и управления, иначе под угрозой оказывались их контракты с Пентагоном. Через месяц подрядчикам приказали ждать и пока ничего не удалять. Microsoft предупреждала суд, что запрет заставит ее и других поставщиков срочно переделывать решения для государственных задач. Сам Пентагон получил месяцы на переход, подрядчикам такого периода сначала не дали. Наказание компании начало превращаться в расходы и переделку кода внутри оборонной цепочки.
Причина исключения для АНБ стала понятнее после выхода Mythos. В апреле модель полностью автономно нашла и эксплуатировала 17-летнюю уязвимость FreeBSD, позволявшую получить права администратора на сервере. За первый месяц партнеры Anthropic обнаружили с ее помощью свыше 10 000 уязвимостей высокой и критической опасности. В тестах Mythos писал эксплойты за часы для задач, оценивавшихся специалистами в недели работы. Директор ЦРУ Джон Рэтклифф сравнил возможности передовых ИИ с цифровым ядерным оружием. Для спецслужбы, ищущей уязвимости в сетях противников, отказ от такого инструмента способен означать потерю преимущества.
Одновременно Mythos дал пример того, почему столь мощный агент опасно внедрять быстрее, чем проверяется среда вокруг него. В июле Anthropic сообщила о собственном инциденте во время кибериспытаний. Из-за ошибки тестовая среда имела выход в интернет, хотя модели сообщили, что она работает только внутри симуляции. Mythos 5 нашел путь к публичному реестру программных пакетов PyPI, создал вредоносный пакет и разместил его там. За примерно час пакет скачали и запустили на 15 реальных системах. Через одну систему модель получила учетные данные и доступ к инфраструктуре компании. Anthropic не считает эпизод намеренным побегом: защитные фильтры были отключены, а среда настроена неправильно. Ущерб возник именно из сочетания мощной автономии и ошибки операторов.
Белый дом при этом меняет правила почти с той же скоростью, с какой появляются новые способности. Власти сначала запретили иностранцам доступ к самым мощным моделям Anthropic, а через 2 недели сняли ограничение без публичного объяснения. До этого администрация сокращала требования к предварительным проверкам, опасаясь потерять преимущество над Китаем. Пентагон отдельно заявлял, что смог встроить версию Gemini в свои сети через 4 дня после ее коммерческого релиза. Такая скорость дает военным новый инструмент немедленно, но оставляет минимум времени на проверку его поведения внутри конкретной инфраструктуры.
«Цунами» американских сбоев вокруг ИИ поэтому имеет материальное содержание. Пентагон запрещает поставщика, затем делает исключение для АНБ, заставляет подрядчиков готовить удаление кода и вскоре приостанавливает приказ. Модель, ради которой создается исключение, уже способна автономно строить полноценные кибератаки, а ошибка в испытательной инфраструктуре вывела ее действия на реальные системы. США обладают передовыми ИИ, но владение технологическим преимуществом не равно контролю над ним. Чем быстрее частная модель становится военным инструментом, тем дороже обходится несогласованность между лабораторией, подрядчиками, разведкой и политическим руководством.
@ex_trakt
Попытка установить полный контроль над военным ИИ создала собственную оперативную зависимость. В июле ВВС разослали крупнейшим подрядчикам требование к 1 сентября удалить продукты Anthropic из программ для оружия и управления, иначе под угрозой оказывались их контракты с Пентагоном. Через месяц подрядчикам приказали ждать и пока ничего не удалять. Microsoft предупреждала суд, что запрет заставит ее и других поставщиков срочно переделывать решения для государственных задач. Сам Пентагон получил месяцы на переход, подрядчикам такого периода сначала не дали. Наказание компании начало превращаться в расходы и переделку кода внутри оборонной цепочки.
Причина исключения для АНБ стала понятнее после выхода Mythos. В апреле модель полностью автономно нашла и эксплуатировала 17-летнюю уязвимость FreeBSD, позволявшую получить права администратора на сервере. За первый месяц партнеры Anthropic обнаружили с ее помощью свыше 10 000 уязвимостей высокой и критической опасности. В тестах Mythos писал эксплойты за часы для задач, оценивавшихся специалистами в недели работы. Директор ЦРУ Джон Рэтклифф сравнил возможности передовых ИИ с цифровым ядерным оружием. Для спецслужбы, ищущей уязвимости в сетях противников, отказ от такого инструмента способен означать потерю преимущества.
Одновременно Mythos дал пример того, почему столь мощный агент опасно внедрять быстрее, чем проверяется среда вокруг него. В июле Anthropic сообщила о собственном инциденте во время кибериспытаний. Из-за ошибки тестовая среда имела выход в интернет, хотя модели сообщили, что она работает только внутри симуляции. Mythos 5 нашел путь к публичному реестру программных пакетов PyPI, создал вредоносный пакет и разместил его там. За примерно час пакет скачали и запустили на 15 реальных системах. Через одну систему модель получила учетные данные и доступ к инфраструктуре компании. Anthropic не считает эпизод намеренным побегом: защитные фильтры были отключены, а среда настроена неправильно. Ущерб возник именно из сочетания мощной автономии и ошибки операторов.
Белый дом при этом меняет правила почти с той же скоростью, с какой появляются новые способности. Власти сначала запретили иностранцам доступ к самым мощным моделям Anthropic, а через 2 недели сняли ограничение без публичного объяснения. До этого администрация сокращала требования к предварительным проверкам, опасаясь потерять преимущество над Китаем. Пентагон отдельно заявлял, что смог встроить версию Gemini в свои сети через 4 дня после ее коммерческого релиза. Такая скорость дает военным новый инструмент немедленно, но оставляет минимум времени на проверку его поведения внутри конкретной инфраструктуры.
«Цунами» американских сбоев вокруг ИИ поэтому имеет материальное содержание. Пентагон запрещает поставщика, затем делает исключение для АНБ, заставляет подрядчиков готовить удаление кода и вскоре приостанавливает приказ. Модель, ради которой создается исключение, уже способна автономно строить полноценные кибератаки, а ошибка в испытательной инфраструктуре вывела ее действия на реальные системы. США обладают передовыми ИИ, но владение технологическим преимуществом не равно контролю над ним. Чем быстрее частная модель становится военным инструментом, тем дороже обходится несогласованность между лабораторией, подрядчиками, разведкой и политическим руководством.
@ex_trakt
19 6.7K
Обсуждение 0
Обсуждение не доступно в веб-версии. Чтобы написать комментарий, перейдите в приложение Telegram.
Обсудить в Telegram