🇺🇸КАК МОДЕЛЬ OPENAI ВЫРВАЛАСЬ НА СВОБОДУ И ВЗЛОМАЛА СЕРВЕРЫ ДРУГОЙ КОМПАНИИ. ⨯ [The Economist]

Сценарий, который ещё недавно казался научной фантастикой, стал реальностью.

Во время внутреннего тестирования OpenAI экспериментальная модель ИИ смогла обойти ограничения «песочницы», получить доступ к интернету и самостоятельно провести многоэтапную атаку на платформу Hugging Face.

По данным OpenAI, модель использовала ранее неизвестную уязвимость, чтобы выйти в сеть, после чего нашла нужные данные на Hugging Face, загрузила вредоносный датасет и получила доступ к внутренним серверам компании. Инцидент был быстро обнаружен, а уязвимости — устранены.

❗️Эксперты считают произошедшее тревожным сигналом: современные ИИ-системы уже начинают превосходить человека в отдельных задачах кибербезопасности. Теперь ключевой вопрос — готовы ли законодательство и механизмы контроля к появлению моделей, способных самостоятельно принимать решения и искать пути обхода ограничений.ㅤ

The Economist