Британский институт стандартов предупредил о растущем «разрыве в управлении ИИ», поскольку руководители компаний спешат внедрить новую технологию изолированно от необходимых механизмов контроля

Организация провела исследование на основе минимум сотни годовых отчётов транснациональных корпораций и двух глобальных опросов более чем 850 топ-менеджеров.

С одной стороны, 62% руководителей планирует увеличить инвестиции в нейросети в следующем году для повышения производительности, эффективности и снижения затрат. С другой стороны, лишь четверть сообщила о наличии в их компаниях программы управления ИИ. Добровольные кодексы практики использует 34% респондентов, а протоколы оценки рисков и их снижения имеет 30%.

В BSI уверены, что управление данными, используемыми для обучения больших языковых моделей, является ключевым источником риска. При этом только 28% опрошенных менеджеров знает, откуда берётся эта информация. 40% при этом заверило, что внедрило процессы управления конфиденциальными данными, отправляемыми в LLM.

Лишь треть организаций сообщила экспертам о выстраивании процесса регистрации проблем или неточностей, связанных с нейросетями, и ещё меньше (29%) о том, что инициировало его для своевременного управления инцидентами.

?? — ИИ — это действительно двигатель прогресса, но с ним нужно правильно обращаться
?? — сначала внедряем, потом пытаемся разобраться, что натворили