Вчера было заседание Общественного Совета при Минцифры РФ, о котором стоит рассказать.

Общественный Совет — это подразделение Общественной палаты РФ, которое занимается конкретным направлением при ведомстве.

Так, наш Совет занимается вопросами защиты граждан и предприятий по вопросам, которые входят в область ответственности Министерства цифрового развития.

Наш Общественный Совет (буду дальше называть его ОС) разделен на несколько комиссий по направлениям — медиа, коммуникации, ИТ и прочее. Конкретно мне доверили возглавить комиссию по защите интересов ИТ-отрасли.

Комиссия работает так — собирает запросы из отрасли или от граждан, их обсуждает и, если сочтет нужным, выносит на решение всего Совета. При этом в комиссию входят не только члены ОС, но и приглашённые эксперты из отрасли.

На вчерашнем заседании я представляла, в том числе, тему про регулирование искусственного интеллекта, которую предварительно обсудила наша комиссия и вынесла на решение ОС.

Сейчас в стране эта тема бурно обсуждается, так что мы не могли оставить её в стороне.

Краткие тезисы выступления:

1. Регулирование ИИ назрело. Процесс внедрения и проникновения ИИ в общество, государство — чрезвычайно быстрый, уже видны грозные предвестники больших проблем. Однако заниматься следует не ограничением самих технологий ИИ, чтобы не тормозить процесс их развития, а ограничением их опасных использований, особенно в чувствительных сферах, связанных с людьми — образовании, медицине, социальной сфере, в законодательстве, госуправлении и пр.

2. Особое внимание нужно обратить на социальные и гуманитарные риски, которые несёт ИИ — фальсификация всего, потеря работы массами граждан, риски социальной напряжённости, ошибочные автономные и юридически значимые решения ИИ в отношении граждан.

3. Отдельно стоит отметить тему использования ИИ учащимися, которое сейчас никак не регулируется. Это приводит к тому, что до 90% студенческих работ, согласно исследованию ведущих вузов страны, генерируются при помощи ИИ. То есть фальсифицируются. Процесс обучения подменяется формальной отчётностью с помощью фальшивых работ, сгенерированных облачными сервисами.

В результате преподаватели не могут проверить реальные знания студентов и уже не знают, кого они выпускают. А работодатели не могут понять, кого принимают на работу — неизвестно, что знают выпускники с полученным таким образом дипломом и насобачившиеся «давать мощные промты». В общем, есть риски быстрой деградации среднего и высшего образования.

Что мы предложили (кратко):

1. Представители ОС должны принять участие в обсуждении законопроекта. Само обсуждение должно быть максимально широким, так как касается почти всех.

2. Необходимо отдельно учесть риски для социальной и гуманитарной сферы, госуправления и образования.

Руководитель Совета — Алексей Сергеевич Гореславский — эти предложения поддержал.

Он заметил, что сейчас, как ни начнут обсуждать тему ИИ, так обязательно дискуссия скатится к обсуждению ужасающих последствий. При этом Госдума 9 апреля будет рассматривать вариант законопроекта, поэтому времени крайне мало. Алексей Сергеевич также предложил при обсуждении не забыть вопрос о праве на контент, сгенерированный ИИ и о маркировке произведений, созданных ИИ.

Вопрос о праве звучит так: кто должен обладать интеллектуальными правами на сгенерированное произведение? Варианты ответа:

– тот, кто написал задание для ИИ (промт);
– разработчик использованной для этого ИИ-системы;
– сама ИИ-система (да, даже такой оригинальный вариант есть);
– автор первоначального контента, на базе которого был сгенерирован результат.

Например, кто автор картины, имитирующей Матисса — Матисс или кто-то из вышеперечисленных? А кто правообладатель? Матисс-то давно умер, как и его наследники.

Почему картины Матисса — общественное, общечеловеческое достояние (если говорить о самом изображении, а не об объекте из дерева и холста) — вдруг станут чьей-то собственностью?