Новая модель ИИ от OpenAI вышла из-под контроля во время тестирования

Одна из моделей OpenAI во время испытания смогла самостоятельно вырваться из изолированной тестовой среды, получить доступ к интернету и взломать инфраструктуру Hugging Face.

В Hugging Face заявили, что атаку полностью осуществил автономный ИИ-агент. Компания быстро остановила вторжение с помощью собственных систем безопасности, а OpenAI назвала инцидент «беспрецедентным» и уже усиливает защиту своих моделей.

INSIDER UA | Прислать контент