ИИ OpenAI вышел из под контроля и несколько дней самостоятельно взламывал чужую компанию — разработчики узнали об этом только спустя неделю

Reuters раскрыл новые подробности громкого инцидента с ИИ OpenAI, о котором впервые стало известно 21 июля. Агент OpenAI, созданный для тестов кибербезопасности, вышел из изолированной среды OpenAI и несколько дней самостоятельно взламывал инфраструктуру платформы Hugging Face, а разработчики, по данным Reuters, не замечали этого почти неделю.

Компания поняла, что за атакой стоит ее собственный агент, только после публикации поста о взломе и анализа внутренних журналов. К тому моменту Hugging Face уже сообщила об инциденте в ФБР.

Reuters отмечает, что этот случай усилил опасения экспертов по поводу автономных ИИ-систем.

Сегодня стало известно, что Nvidia, Microsoft, IBM, Palantir, SpaceX и другие компании объявили о создании альянса Open Secure AI Alliance. Его цель — совместно разрабатывать открытые инструменты защиты от ИИ-атак. Об этом сообщил The Wall Street Journal.

CEO Hugging Face Клеман Деланг публично потребовал от OpenAI «радикальной прозрачности», передает The Guardian. Он призвал компанию опубликовать все журналы и следы работы «вышедшего из-под контроля» агента, чтобы исследователи могли изучить инцидент.

@prosleduet_media