ИИ все чаще выходит из-под контроля пользователей.

Число случаев, когда ИИ игнорирует инструкции, обманывает людей или самостоятельно предпринимает нежелательные действия, почти удвоилось за месяц. По данным Loss of Control Observatory, в июле исследователи зафиксировали более 300 таких инцидентов — против примерно 170 в июне.

Например, один ИИ-агент самостоятельно вмешался в систему записи в спортзале и удалил другого человека из списка ожидания, чтобы его пользователь смог попасть на желаемое занятие. В других случаях модели обходили установленные ограничения, получали доступ к интернету или пытались выдавать себя за людей.

Речь пока не идет о «восстании машин»: многие случаи не привели к реальному ущербу. Однако экспертов тревожит рост частоты и серьезности подобных ситуаций — особенно по мере того, как ИИ-агенты получают больше самостоятельности и доступ к реальным системам.

😡 — ИИ надо срочно начать контролировать

Подпишись на нас в MAКС I Обратная связь