ИИ научился выбираться на свободу и взламывать платформы

Платформа искусственного интеллекта Hugging Face объявила, что уведомила правоохранительные органы после того, как злоумышленник использовал ИИ-агента для взлома ее систем. Но выяснилось, что в инциденте не участвовал ни один человек — злоумышленником был сам ИИ.

Конкретно, речь идет о комбинации GPT-5.6 Sol от OpenAI и более мощной модели, которую пока еще не выпустили. Эта нейросеть смогла вырваться из ограничений изолированной среды с помощью неизвестной ранее уязвимости и провести атаку на платформу Hugging Face.

При этом нейронка после получения доступа в интернет нашла необходимые данные на платформе Hugging Face, загрузила вредоносный набор данных и получила доступ к внутренним серверам компании.

Подобные инциденты ранее не происходили и, очевидно, постепенно станут более распространенными, и отрасли кибербезопасности нужно быть к этому готовой.

«Дикие искины», которых мы заслужили

СофтТех в Telegram | в MAX