Вчера я приняла участие в конференции ИСП РАН, в сессии «Перспективы информационной безопасности в искусственном интеллекте», которую организовал консорциум исследований безопасности технологий ИИ.

Консорциум был создан в мае 2021 года ИСП РАН, НТЦ ЦК и Академией криптографии при участии Минцифры России. Позже к нему присоединилось ещё 28 федеральных учреждений, институтов и компаний, включая «ИнфоВотч».

Главная цель этого объединения - способствовать созданию и развитию технологий ИИ, которым можно было бы доверять.

Цель замечательная, правда, не очень понятно, как её достичь в случае генеративного ИИ, который сам генерит результат. Как решить задачу доверенности для изначально недоверенной технологии? Над этим сейчас ломают голову и учёные из институтов, и практики из компаний, занимающихся разработкой ИИ, а также специалисты по информационной безопасности.

Консорциум имеет 4 направления (рабочих группы):

1️⃣ разработка нормативной базы для госрегулирования в этой сфере
2️⃣ создание методической, научно-технической и лабораторной базы, позволяющей проводить исследовательские испытания ИИ-систем (тестирование ИИ-систем)
3️⃣ создание реестра доверенных отечественных технологий ИИ
4️⃣ безопасная разработка технологий ИИ

В целом, консорциум работает как некий здравый противовес огульной «ИИ-зации» и кампании по ускоренному внедрению ИИ везде, где надо и не надо. Наверняка вы читали новость о ещё большем ускорении внедрении ИИ везде.

Кстати, подобная истерия ИИ в нашей стране довольно забавна, учитывая, что на родине ИИ – в США - «пузырь искусственного интеллекта» уже начал сдуваться. Даже аналитическая компания Gartner в этом году написала, что пик хайпа генеративного ИИ уже пройден.

Возвращаясь к заседанию консорциума: у меня остались хорошие впечатления от сессии. Доклад по технологическим рискам делал Николай Ляпичев из АНО «Цифровая экономика». Я же взяла тему рисков искусственного интеллекта в социальной сфере. На выступлении я повторила свои основные тезисы о том, что нужны ограничения применения ИИ в сферах, которые напрямую касаются человека и его жизни:

1️⃣ в образовании - запрет на любую автоматизацию обучения и выработку индивидуальных образовательных траекторий с помощью ИИ
2️⃣ госуправлении - запрет автоматических штрафов и любых социальных рейтингов
3️⃣ законотворчестве - запрет на написание НПА и законопроектов, а также на их автоматическую проверку с помощью ИИ
4️⃣ судопроизводстве - запрет на генерацию судебных решений и исков с помощью ИИ и пр.

Для реализации прав граждан и требуемых для их защиты запретов необходим законопроект о безопасном использовании ИИ в социальной сфере. Такие законы есть в США, ЕС, Китае, Латинской Америке, Индии и даже в Узбекистане. Россия здесь пока отстаёт.

Сейчас рабочая группа Комитета Совета Федерации по конституционному законодательству и гос. строительству во главе с сенатором Кожиным, куда вхожу и я, занимается разработкой законопроекта о безопасном использовании ИИ в социальной сфере. И, надеюсь, что такой закон в России появится.

Тем более, что вчера на встрече с СПЧ Владимир Владимирович на просьбу моего мужа о разработке такого законопроекта кивнул утвердительно.

Так что мы работаем семейным подрядом над этой важной темой.