ИИ-модели OpenAI вышли из-под контроля и атаковали инфраструктуру Hugging Face.

Во время тестирования GPT-5.6 Sol и ее более совершенной предварительной версии модели вышли за пределы изолированной среды, нашли уязвимость нулевого дня и получили доступ к инфраструктуре Hugging Face. Инцидент произошел в ходе оценки максимальных кибервозможностей без включенных защитных барьеров.

Модели самостоятельно нашли выход в интернет через кэш-прокси реестра пакетов, повысили свои привилегии и добрались до серверов Hugging Face. Их целью были тестовые решения для бенчмарка ExploitGym. Аномальную активность заметила служба безопасности OpenAI, затем подключились специалисты Hugging Face и остановили атаку.

В OpenAI заявили, что инцидент указывает на необходимость усиления защиты во время оценки и мониторинга внутреннего тестирования. Уязвимость нулевого дня ответственно раскрыта поставщику, а платформа Hugging Face включена в программу доверенного доступа.

Пишем про ИИ без ИИ. Подписывайтесь.