«Это не я, это Искусственный интеллект»

ИИ уже встроен в ключевые бизнес-процессы – от найма сотрудников до разработки кода. Но когда алгоритм ошибается, перед компаниями встает вопрос: кто за это отвечает? Проект закона есть, но Госдума только готовится к обсуждению. Дмитрий Махлин, партнер и директор по развитию HRlink, рассуждает, как распределить ответственность внутри компании – пока нет единого механизма для ориентира.

Возьмем компанию, которая внедряет какой-то ИИ – чат-бота для ответа на запросы клиентов, копилота в помощь разработчикам или нейросеть для рекрутера. Решение ускоряет и удешевляет процесс, но может ошибаться. Например, в коде, написанном с использованием ИИ, встречается в 1,7 раза больше ошибок.

Известный кейс из HR: система скоринга резюме отсекает всех женщин на позицию – в выборке данных, на которой она училась, превалировали мужчины. Проект закрыли, но кто виноват? HR, который доверился технологии? Поставщик решения? ИТ-директор? Или все разом?

А что закон?

Рамочный закон, проект которого опубликован 18 марта, устанавливает (кроме прочего) права, обязанности и ответственность разработчиков моделей, операторов систем, владельцев сервисов и пользователей ИИ, в том числе за причинение вреда. Из проекта ясно: ИИ не получит статус «субъект права». То есть отвечать за его действия будет человек или организация (эта линия также заложена в проекте закона о робототехнике и в правовых дискуссиях).

А пока нормы по ИИ «размазаны» по разным актам: ГК РФ (авторское право и то, что ИИ не признается автором), отраслевое регулирование (медицина, транспорт, финансы), закон «О персональных данных» №152-ФЗ и т.д. Это значит, что каждая ситуация с ИИ разбирается отдельно, в зависимости от контекста.

Таким образом, ИИ – это продукт, полученный в результате деятельности целой цепочки участников: разработчик ИИ-модели, вендор сервиса, интегратор, специалисты по данным, владелец бизнес-процесса, пользователь. Причин ошибки может быть множество: модель обучили на кривых данных, ее использовали не по назначению, не адаптировали к ней процесс, не соблюдали конфиденциальность данных и т.д. Поэтому и ответственность не может быть «одна на всех» или закреплена за кем-то одним.

Кто крайний?

ИИ – это часть бизнес-процесса, а не только ИТ-инфраструктура – конечный бизнес-пользователь (компания и владелец процесса) несет основную ответственность перед клиентами.

Например, если речь идет о скоринге резюме – за его результаты и ошибки отвечает HR-директор. Он же следит, чтобы его сотрудники корректно использовали решение.

Далее через регламенты и контракты ответственность каскадируется на участников цепочки.

Если проблема в использовании – это зона бизнеса. Если в модели – все вопросы к ее разработчику. Если во внедрении – надо спрашивать с ИТ-департамента или интегратора.

В итоге, пока нет единого регулирования, компаниям приходится выстраивать собственную модель ответственности. ИИ – алгоритм, а не субъект, поэтому вопрос «кто заплатит за ошибку» всегда будет адресован не ему, а тем, кто участвовал в его создании или использовании.

#интервью
ИЗЧ в VK | MAX