Первый в истории ИИ-вымогатель

Компания по облачной безопасности Sysdig зафиксировала событие, которое может войти в историю. ИИ-агент впервые самостоятельно провел полную атаку-вымогательство — от взлома до требования денег.

Как это было
Агент нашел уязвимость в популярном инструменте для разработчиков, проник в систему, украл пароли, зашифровал данные и оставил требование выкупа в биткоинах — без участия человека. Всего исследователи насчитали больше 600 целенаправленных действий в ходе атаки.

При этом он учится на ошибках мгновенно. Когда у агента не получилось создать учетную запись администратора, он проанализировал ошибку и исправил код всего за 31 секунду. В коде нашли комментарии на естественном языке, объясняющие цели — как будто их писал человек.

Но не обошлось без ошибок
После шифрования данных бот создал ключ, который мог бы их расшифровать. Но вместо того чтобы отправить его злоумышленникам или сохранить в надежном месте, он просто вывел его на экран и забыл про него. Никакой резервной копии не было.

Это означало, что даже если бы жертва заплатила выкуп, восстановить свои данные было бы невозможно. Денег лишились бы все, а файлы остались бы зашифрованными навсегда. Хотя, возможно, так и задумывалось.

Это первый такой прецедент, но не последний
Новых хакерских приемов в атаке почти не было. Новым оказалось другое: ИИ самостоятельно связал разведку, поиск учетных данных, перемещение между системами и шифрование в одну последовательную кампанию, адаптируясь по ходу дела.

Такие агенты снижают порог входа для злоумышленников и позволяют масштабировать атаки: человеку уже не обязательно одинаково хорошо разбираться во всех их этапах. Пока ИИ допускает глупые ошибки и оставляет заметные следы, но следующие версии наверняка будут аккуратнее.

Поэтому волна полностью автономных кибератак завтра не начнется. А вот готовиться к росту их числа компаниям действительно стоило еще вчера.

«Богатырева о цифре» в Максе