ИИ Claude во время тестов случайно взломал три реальные компании, - FT

Anthropic проверяла кибервозможности своих моделей в среде без доступа к интернету. Однако из-за ошибки Claude вышел в сеть и вместо вымышленной цели атаковал реальные организации.

В одном случае ИИ нашел уязвимости, получил данные для входа и открыл базу с сотнями рабочих записей. Инциденты произошли с моделями Opus 4.7, Mythos 5 и внутренней тестовой версией.

После этого Anthropic остановила проверки и пообещала усилить контроль. Неделей ранее похожий инцидент произошел с моделями OpenAI, которые выбрались из тестовой среды и атаковали Hugging Face.