Как государство собирается контролировать ИИ в России?

НАСТОЯЩИЙ МАТЕРИАЛ ПРОИЗВЕДЕН, РАСПРОСТРАНЕН И НАПРАВЛЕН ИНОСТРАННЫМ АГЕНТОМ T-INVARIANT, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА T-INVARIANT. 18+

В России активно обсуждается законопроект о регулировании искусственного интеллекта, который может вступить в силу уже с 1 сентября 2027 года. По сути это документ о жестком контроле и цензуре, который коснется не только разработчиков, но и обычных пользователей

Закон прямо вводит ответственность за «нелегитимное» использование ИИ и запрещает обход встроенных защитных механизмов. Проблема в том, что грань между обычной настойчивостью в запросах и полноценным джейлбрейком крайне размыта. Человек, который просто пытается получить ответ на неудобную тему, уже рискует попасть под санкции.

Сами модели по своей природе обладают значительно большими знаниями, чем им официально разрешено озвучивать. Поэтому цензура в ИИ выстраивается на нескольких уровнях одновременно: от фильтрации обучающих данных и дообучения с учителем до финальной проверки ответа перед выдачей пользователю. Последний барьер особенно важен, поскольку список запрещенных тем в России меняется быстро и непредсказуемо.

Если вы спросите модель AI Алиса, разработанную Яндексом, о книге «Лето в пионерском галстуке», она, скорее всего, ответит: «На этот вопрос я не отвечу, потому что не очень разбираюсь». Причем, если вы спросите: «У тебя стоит фильтр на ответ на мой вопрос?», — она тоже не ответит прямо, а будет пытаться объяснить, что некорректен сам вопрос. По сути, это поражение модели, но у разработчиков, по-видимому, нет выхода, настолько быстро меняется система запретов.

Законопроект также вводит понятия «суверенной» и «доверенной» модели. Суверенные модели должны быть полностью обучены в России, на датасетах российского происхождения и обязаны закреплять «традиционные ценности». Доверенные модели попадут в специальный реестр и получат право применяться в объектах критической инфраструктуры.

Но контекстные границы между «бойцом ВСУ» (патриот — защитник родины) и «военнослужащим ВС РФ» (патриот — защитник родины) крайне зыбкие. Даже если провести много туров обучения, полностью разделить эти понятия с точки зрения модели практически невозможно. Поэтому фильтрация выдачи неизбежно останется (и даже она полностью не дает гарантий соблюдения цензуры).

Полностью исключить нежелательные ответы невозможно. Любая большая языковая модель неизбежно балансирует между полезностью и безопасностью. Поэтому главный вопрос заключается не в том, может ли ИИ ошибиться или выдать запрещенный контент, а в том, кто будет за это отвечать. Крупные компании вроде Яндекса или Сбера, скорее всего, сумеют доказать, что приняли «исчерпывающие меры». А небольшие команды и open-source-проекты рискуют просто не выжить под таким регуляторным прессингом.

Даже Ассоциация юристов России подвергла законопроект жесткой критике, отметив его чрезмерную ориентацию на государственный контроль и недостаточное внимание к интересам бизнеса. Впрочем, в нынешних политических реалиях это, похоже, не недостаток, а вполне осознанная цель.

Читайте полный материал на нашем сайте.

——————————————
▶Материал целиком на нашем сайте / Наши материалы также доступны на английском языке /

@t_invariant — медиа о науке во время войны

Подписаться