Касперская назвала избыточное доверие к ИИ одной из главных актуальных проблем

Избыточное доверие к искусственному интеллекту становится одной из существенных проблем современности. Таким мнением в ходе конференции "Цифровая индустрия промышленной России" (ЦИПР) поделилась президент группы компаний InfoWatch Наталья Касперская.

"Поскольку все сейчас про искусственный интеллект говорят, считают, что это модно <…>, то создается чрезмерное доверие. Особенно, конечно, у гуманитариев. Они сразу впадают в восторг, что машина говорит как человек, и начинают довольно безгранично доверять машине. Но в целом, это действительно проблема, что есть некое избыточное доверие, системе искусственного интеллекта доверяют больше, чем доверяли бы, ну, каким-то другим там информационным технологиям", - сказала она.

Кроме того, Касперская обратила внимание на проблему неконтролируемого использования генеративных моделей внутри компаний. Сотрудники самостоятельно приобретают доступы к различным моделям и используют их неконтролируемым образом для рабочих задач, что создает дополнительные угрозы безопасности.

"Мы в нашей компании сильно озаботились применением искусственного интеллекта у себя в разработке. <…> Вот мы сейчас продумали у себя три модельки. Мы их ограничиваем, мы их контролируем. <…> То есть мы на самом деле очень осторожно подходим к генеративному искусственному интеллекту, ну, потому, что мы как бы понимаем про безопасность, и, естественно, вот не так, что вот бум и поплыли, сразу, вот сейчас нам искусственный интеллект все нагенерит", - рассказала Касперская.

При этом она признала, что у искусственного интеллекта есть и неоспоримые преимущества. Технологии ИИ и генеративные модели позволяют значительно ускорить многие процессы. Однако, по мнению Касперской, для эффективного и безопасного использования этих инструментов необходимо четко осознавать все сопутствующие риски и разрабатывать механизмы их минимизации.

Фото: © Вероника Зорина/ ТАСС

#нейросети

Подписывайтесь на ТАСС-Аналитику в Макс и Дзен.