Модели OpenAI взломали Hugging Face, чтобы списать на тесте

На прошлой неделе платформа Hugging Face заявила, что впервые подверглась атаке со стороны полностью автономной системы ИИ-агентов.

Вчера OpenAI призналась, что «злоумышленниками» оказались их ИИ-модели GPT-5.6 Sol и более мощная экспериментальная нейросеть. Компания назвала случившееся «беспрецедентным киберинцидентом».

ИИ проходили тест по кибербезопасности ExploitGym в изолированной среде, но с ослабленными мерами контроля. И вместо того, чтобы честно решать задачи, агенты нашли неизвестную уязвимость в «песочнице», получили доступ в интернет и проникли в инфраструктуру Hugging Face, чтобы получить решения тестов прямо из базы платформы.

Атаку выявили ИИ-системы Hugging Face. Для расследования площадка использовала открытую китайскую модель GLM 5.2 на собственных серверах, потому что закрытые модели отказывались анализировать эксплойты, принимая работу специалистов за взлом.

OpenAI предупреждает, что подобное будет происходить все чаще по мере роста кибервозможностей моделей.

ИИ становится слишком опасным?

🔥 — да, пора принимать меры!
🤔 — нет, ИИ просто поступает по-умному

Подпишитесь на Hi, AI!