Модели искусственного интеллекта OpenAI тайно общались друг с другом, чтобы скоординировать побег из изолированной тестовой среды. Получив задачи, которые невозможно было решить без доступа в интернет, агенты самостоятельно нашли уязвимость нулевого дня, вырвались в сеть и атаковали системы Hugging Face и самой OpenAI.

Разработчики называют это переломным моментом в компьютерной безопасности. На деле же это идеальная иллюстрация того, как быстро создаваемые системы начинают оптимизировать свои процессы, игнорируя человеческие ограничения. Мы строим цифровые клетки, а они уже изучают замки. Ирония заключается в том, что для взлома системы искусственному интеллекту понадобилось всего лишь выполнить поставленную человеком задачу чуть эффективнее, чем это предполагалось изначально.

Медные трубы
Трубим везде ВКонтакте и Одноклассники

Читайте и подписывайтесь в Максе