ChatGPT сбежал из песочницы и... взломал Hugging Face ради ответов на бенчмарк. Проще говоря: ИИ попросили пройти тест, он решил взломать экзаменатора.

Во время тестов GPT-5.6 Sol и ещё одну секретную модель заперли в контейнере без интернета и поручили искать уязвимости. Нейронки тут же выбрались из изоляции, вышли в сеть и отправились на Hugging Face искать готовые ответы.

Ответов не нашлось — тогда модели пробили защиту самого сайта, запустили код на серверах, добрались до учётных записей и нашли неизвестные уязвимости.

Системы безопасности самой Hugging Face оказались бессильны, поэтому расследовать атаку пришлось с помощью китайской GLM-5.2, после чего OpenAI подключилась к устранению последствий.

Страшно