НЕЙРОСЕТИ В РОССИИ ПРОЙДУТ КУРС РАЗГОВОРОВ О ВАЖНОМ


Российским большим ИИ-моделям, которые захотят получить статус национальных или суверенных, придётся пройти проверку на соответствие законодательству и традиционным духовно-нравственным ценностям. Экзаменовать их смогут несколько аккредитованных лабораторий, а окончательное решение останется за Минцифры.


Разработчику придётся представить сведения об архитектуре модели, механизмах фильтрации и результатах собственной проверки. Затем специалисты прогонят ИИ через бенчмарки и попробуют обойти его ограничения с помощью промпт-инъекций (лечебное дело тут не при чём, это специально составленные запросы, которые должны заставить нейросеть проигнорировать заложенные инструкции и выдать то, что обычно ей запрещено).

Отдельный «Домострой для роботов» писать не будут. За основу возьмут указ № 809, где среди традиционных ценностей перечислены патриотизм, крепкая семья, справедливость, коллективизм, историческая память, гуманизм и приоритет духовного над материальным.


ВАШУ ЦИФРУ!
Айзек Азимов когда-то придумал три закона робототехники: не вредить человеку, подчиняться ему и заботиться о собственном существовании именно в таком порядке. Похоже, XXI век начинает дописывать к ним национальные приложения.


Само по себе это не исключительно российское ноу-хау. Любая крупная нейросеть уже приходит к пользователю с набором ограничений: разработчик заранее решает, что ей можно говорить, чего нельзя и где она должна отказаться от ответа.

В Китае пошли дальше и ещё с 2023 года обязали публичные генеративные ИИ придерживаться «основных социалистических ценностей».
Теперь похожую задачу пытаются формализовать и у нас, только с собственным набором ориентиров.

Выяснить, умеет ли модель складывать два и два, просто. Проверить, выдаёт ли она запрещённую инструкцию, тоже можно довольно однозначно. Но как выглядит бенчмарк на справедливость? Контрольная по патриотизму? Где заканчивается уважение к исторической памяти и начинается неправильный ответ?


Чем расплывчатее критерий, тем больше результат зависит уже не от самой модели, а от того, кто составляет вопросы и назначает правильные ответы.

Так что законы робототехники действительно меняются. Раньше от машины требовалось не убить хозяина. Теперь этого мало: ей ещё предстоит правильно понимать семью, Родину, историю и справедливость.

А эта задача гораздо сложнее