Дистилированный диалог

США и Китай готовятся запустить официальный диалог по вопросам безопасности ИИ в середине сентября, сообщает Reuters. Договорённость об этом была достигнута в мае во время визита Дональда Трампа в Пекин. Консультации должны будут пройти в преддверии ответного визита Си Цзиньпина в Вашингтон 24 сентября, чтобы лидерам двух стран можно было обсудить первые итоги.

По словам источников Reuters, США могут поднять тему сотрудничества в отслеживании автономных кибератак под руководством ИИ типа инцидента с Hugging Face и предложить китайским лабораториям делиться информацией о таких случаях (хотя и американские компании делают это не всегда). Также американцев беспокоит возможность появления китайского аналога модели Mythos от Anthropic, с помощью которой можно взломать всё (как поговаривают). Наконец, на встрече с китайцами может быть затронута и проблема дистилляции: американские компании утверждают, что китайские компании недобросовестно обучают свои модели на американских. Вчера заявление о том, что китайские компании занимаются дистилляцией в промышленных масштабах, выпустили CISA, ФБР и АНБ; Китай эти обвинения отверг. Впрочем, за закрытыми дверями китайцы могут согласиться обсудить эту проблему, потому что известны и обратные примеры, когда дистилляции подвергаются китайские модели.

С китайской стороны комментариев о возможном содержании консультации пока не было. Но примерное представление о ходе мыслей в китайском экспертном сообществе даёт майская статья профессора Фуданьского университета Цай Цуйхун:

«Две страны могут обсудить такие вопросы, сопряжённые с высоким риском, как кибератаки, мошенничество с использованием ИИ, потеря контроля над автономными системами, защита критической инфраструктуры и связанные с ИИ "красные линии" в сфере управления ядерными силами. Они также могут изучить механизмы уведомления об инцидентах, коммуникации в кризисных ситуациях и раннего предупреждения. Но безопасность ИИ не должна становиться универсальным оправданием для "секьюритизации" гражданского ИИ, моделей с открытым исходным кодом, облачных сервисов, научного обмена или мобильности талантливых специалистов. Если управление будет чрезмерно заточено под вопросы безопасности, пространство для сотрудничества сузится, а глобальное развитие ИИ станет искусственно фрагментированным».

В любом случае уже сама подготовка к запуску такого двустороннего диалога напоминает о том, что США и Китай выступают лидерами текущей технологической гонки, от чьей позиции будет зависеть формирование международных правил в сфере ИИ.

Для России наблюдать за этим процессом со стороны непривычно: во время холодной войны Советский Союз и США вместе снижали ядерную опасность, с конца 1990-х Россия предлагала США разработать правила для киберпространства. Но обсуждать безопасность искусственного интеллекта Россию не зовут и о потенциале её суверенных моделей не переживают: теперь у американцев новый главный соперник и партнёр. Правда, и до каких-либо договорённостей между Вашингтоном и Пекином пока не близко.