Логика холодной кибервойны

В преддверии визита Си Цзиньпина в Вашингтон США и Китай обмениваются боевитыми сигналами.

Замдиректора ЦРУ заявил, что в условиях экономического соперничества между США и Китаем китайские фирмы становятся законной целью для шпионажа. Министерство торговли Китая назвало это обнажением гегемонистской логики давления и сделало США строгое предупреждение.

Гендиректор Anthropic Дарио Амодей призвал к замедлению развития ИИ в США с одновременным созданием барьеров для Китая, чтобы он не догнал демократии. Китайская газета Global Times сравнила это со стратегией сдерживания (containment) времён холодной войны, только в отношении сектора ИИ.

Даже анонсированную в американских СМИ реформу АНБ в Китае решили не оставлять без ответа, ведь Китай — единственная страна, которая упоминается по имени в обнародованных планах и для которой будет создан отдельный оперативный центр. Global Times попросила прокомментировать эту новость профессора Фуданьского университета Шэнь И. По его мнению, разведывательная деятельность и киберпроникновения США в отношении Китая могут стать более интенсивными, взаимное доверия ослабнет, а в добрые намерения Вашингтона поддерживать с Пекином стабильные отношения никто не будет верить.

Бывшего оперативника одного из самых засекреченных подразделений МВД Антона Нестерова приговорили к 13 годам колонии строгого режима.

Ему инкриминируют получение взятки, превышение полномочий и неправомерный доступ к компьютерной информации.

Согласно материалам дела, Нестеров во время службы в здании МВД на Большой Лубянке скопировал засекреченную базу данных на переносной носитель. Затем он опубликовал в интернете объявление о продаже информации.

Позже с ним связался хакер, согласившийся купить секретные данные за несколько миллионов рублей. Хакера успели задержать оперативники ФСБ до получения им закрытых сведений. Злоумышленник заключил сделку со следствием и дал показания на Антона Нестерова.

Подписывайтесь на «Ъ» в MAX | в Telegram

Группа хакеров Rhysida взломала компьютерные системы Сената Берлина, похитила около 5,79 ТБ данных и получила доступ к сотням документов об уязвимости немецкой столицы перед дронами. Об этом сообщает Bild, изучив опубликованные хакерами документы.

Хакеры требовали около €2 млн выкупа, а после того как власти земли не уложились в срок оплаты, выложили в сеть примерно 1,5 млн файлов — внутреннюю переписку, конфиденциальные отчеты, пароли и персональные данные граждан. Полный масштаб утечки пока не ясен даже самим пострадавшим ведомствам, отмечает Bild.

Приложение РБК для iOS и Android
Канал РБК в «Максе»

В Следкоме думают над криминализацией кибероружия

В научной статье «Кибероружие: новый вызов системе права» три сотрудника Следственного комитета предлагают включить в главу 34 (Преступления против мира и безопасности человечества) Уголовного кодекса новую статью 356.1 УК РФ, которая предусматривала бы ответственность за использование ИКТ в качестве оружия. (Правда, статья 356.1 УК РФ уже занята мародёрством.)

Необходимость новой уголовной статьи объясняется тем, что «использование кибероружия способно повлечь масштабные разрушения, вызвать массовые жертвы среди людей и животного мира, что нами подтверждено в настоящем исследовании».

На самом деле в статье про масштабные разрушения и жертвы ничего не говорится. Большая часть статьи посвящена кибератакам, их применению государствами и переговорам в этой области. Кибератаки, к счастью, непосредственно к таким масштабным последствиям не приводили.

Ближе к концу авторы относят к кибероружию и украинские дроны на том основании, что в них «для автоматического распознавания объектов, выбора наиболее безопасного маршрута, принятия решения о выполнении запрограммированной задачи используются нейросети». Но по этой логике в кибероружие можно записать все современные системы вооружения, да и не самые современные тоже, даже первые баллистические ракеты с бортовыми компьютерами.

В качестве аргумента в пользу своего предложения авторы отмечают, что такие идеи обсуждаются в научном обществе уже давно, и ссылаются на своего коллегу-юриста, который писал в 2016 году, что «очень сложно разграничить такие действия, как систематические кибератаки на компьютерную систему
страны, от агрессивной войны».

Я могу себе представить, что это неплохо звучит в теории: если представить себе катастрофические кибератаки на страну, которые парализуют её промышленность, приводят к гибели людей и недееспособности правительства, то это похоже на войну.

Если же вернуться в реальный мир, мы видим, что никакие массовые кибератаки нигде в мире даже близко не приблизились к тому, что такое война, к тем настоящим, а не гипотетическим разрушениям и жертвам, которые она влечёт.

Китай цифровизирует БРИКС

На саммите БРИКС в Нью-Дели Си Цзиньпин выдвинул Китай на роль лидера технологической трансформации участников этого объединения. Он предложил пять направлений для наращивания сотрудничества внутри БРИКС, из них четыре связаны с цифровыми технологиями, поставщиком которых готов выступить Китай:

«Во-первых, инициатива по созданию опенсорсного и инклюзивного ИИ. Китай положит начало созданию сообщества БРИКС по ИИ с открытым кодом, будет поддерживать сотрудничество в разработке и применении больших языковых моделей, проводить специализированные семинары и учебные курсы по ИИ, а также формировать открытую экосистему ИИ.

Во-вторых, инициатива по упрощению торговли и инвестиций. [...]

В-третьих, инициатива по сотрудничеству в сфере цифровой индустрии. Китай будет продвигать создание облачной платформы цифровой экосистемы БРИКС, а также проводить обучение цифровым навыкам, обмен технологиями и согласование отраслевых подходов, чтобы совместно способствовать развитию цифровой экономики.

В-четвёртых, инициатива по сотрудничеству в области интеллектуального производства. Китай готов оказывать помощь странам БРИКС в строительстве умных заводов и разработке стандартов и норм, а также совместно продвигать трансформацию и модернизацию промышленности.

В-пятых, инициатива по подготовке научно-технических кадров. Китай предлагает создать альянс БРИКС по обучению инженеров для совместной подготовки кадров и взаимного признания профессиональной квалификации. Китай запустит программу молодёжным обменов БРИКС в области научно-технических инноваций с целью подготовки большего числа высококвалифицированных кадров».

Эти идеи согласуются с другими инициативами Пекина, такими как создание Всемирной организации сотрудничества по искусственному интеллекту (WAICO): Китай активно формирует международные структуры, которые помогут ему увеличить влияние, нарастить технологический экспорт, а также станут подспорьем в соперничестве с США.

БРИКС, согласно выступлению Си Цзиньпина, тоже мог бы быть встроен в эту стратегию, с выгодой для остальных стран. Хотя не все из них ориентируются на Китай: ОАЭ участвует в конкурирующей американской технологической инициативе Pax Silica.

В Нью-Дели также была принята общая декларация БРИКС на 54 страницы, но это уже для опытных бриксологов. Я лишь мельком посмотрел на 140 пунктов, уверен, что всё так и будет, как написано. В нынешних условиях, когда Китай явно заявляет лидерские амбиции, его позиция заслуживает большего внимания.

Реформа АНБ

АНБ проводит крупную внутреннюю реорганизацию, сообщила Washington Post со ссылкой на источники. Инициатива исходит от нынешнего директора спецслужбы Джошуа Радда, руководству планы были представлены на прошлой неделе.

В рамках реформы планируется создать пять оперативных центров (mission centers) по ИИ, Китаю, кибербезопасности, поддержке ведения боевых действий и по глобальной разведке — в последнее войдёт и недавно воссозданное элитное хакерское подразделение Tailored Access Operations (TAO). Выбор направлений лучше отражает текущие и будущие приоритеты АНБ. Каждый центр получит своего руководителя, который может быть назначен не только из агентства, что беспокоит сотрудников.

Согласно источникам журналистов, реализовать эти планы АНБ планирует в самое ближайшее время: к концу месяца руководители новых центров должны предоставить директору агентства свои проекты реорганизации, в середине октября состоится их запуск, а к середине январе операционные центры должны заработать на полную мощность. В условиях такой спешки некоторые решения могут пересматриваться. Тем более что до сих пор непонятно, как изменения наложатся на существующую оргструктуру АНБ.

Признание двух хакерских группировок, взявших ответственность за взлом «Аэрофлота», экстремистскими доведено до завершения — на этой неделе на основании июльского решения Верховного суда «Киберпартизаны» и Silent Crow включены Минюстом в Перечень организаций, признанных в соответствии с законодательством Российской Федерации экстремистскими.

Но по-прежнему не отвеченным остаётся вопрос «И что?».

У «Киберпартизан» есть постоянная самоидентичность, ресурсы, изученный инструментарий. Теоретически её экстремистский статус может сыграть, если выяснится, что злоумышленники пользовались российским хостингом — окажется, что провайдер помогал экстремистам. Или, допустим, это может стать отягчающим обстоятельством для сисадмина организации-жертвы.

С Silent Crow (в версии Минюста России «Молчаливый ворон») даже сценарий, при котором этот статус может сыграть какую-то роль, придумать сложно. Как я уже писал, канал Silent Crow молчит со времён атаки на «Аэрофлот», а вообще под таким именем группировка существовала чуть больше полугода. Если группировка просто отказывается от своего имени, то, получается, всё, она избавилась от статуса, ведь других указаний на неё больше нет? При этом нельзя сказать, что хакеры совсем неактивны. Например, BI.ZONE связывает Silent Crow с ранее действовавшей Dumpforums и отслеживает под своим обозначением Phoenix Hyena. Её последняя активность фиксировалась в мае. Опять же теоретически, если бы в судебном порядке разбирались последствия какого-то взлома, который приписала бы себе группировка X, но который исследователи могли бы связать с Phoenix Hyena, то техническая атрибуция могла бы стать основанием для применения экстремистского статуса. Но это уже сильно теоретически.

На мой взгляд, признание группировок экстремистскими прежде всего свидетельствует о том, что к атаке на «Аэрофлот» российские власти отнеслись крайне серьёзно и решили особым образом маркировать её организаторов. То есть это в первую очередь символический шаг. Как применять этот статус на практике, можно будет придумать, если вообще появится такая возможность.

Scam With Your Friends

Телефонное мошенничество стало настолько распространённой проблемой, что про него сделали целую кооп-игру. Играть, разумеется, нужно не за хороших парней, а за плохих — сотрудников мошеннического колл-центра в Индии.

Ваша команда работает под руководством жёсткого босса, поэтому нужно как можно быстрее выманивать у жертв деньги. Чтобы было правдоподобнее, ответы собеседников генерируются с помощью ИИ. Если потребуется, можно взламывать компьютеры мамонтов и извлекать оттуда нужную информацию.

Scam With Your Friends выйдет на Steam 5 ноября. Можно использовать для повышения осведомлённости, тем более что разработчики обещают поддержку нескольких языков включая русский.

Хакерский кот и его друзья

Исследователи «Лаборатории Касперского» изучили инструментарий украинской группировки «Хакерьский кiт», которую они характеризуют как хактивистскую. Основное внимание уделено атакам последнего года, когда группировка от дефейсов перешла к шифрованию и уничтожению данных российских организаций.

Исследователи отмечают, что группировка, а также её партнёры использую разнообразные инструменты, часто собственной разработки. Это может указывать как на активное экспериментирование с функционалом, так и на применение генеративных моделей для упрощения доработки вредоносов: «Вероятнее всего, мы продолжим наблюдать переход хактивистов с общедоступных инструментов на созданные с помощью ИИ кастомные варианты».

Под партнёрами «Хакерьского кiта» в отчёте подразумеваются две другие группировки, Cyber Anarchy Squad и Ukrainian Cyber Alliance, совместно с которыми «Хакерьский кiт» брал ответственность за несколько атак.

Вместе с Cyber Anarchy Squad (CAS) «Хакерьский кiт» в марте брал ответственность за взлом одного из подрядчиков «Росатома» ООО «Завод ЭЛЕКТРОСЕВКАВМОНТАЖИНДУСТРИЯ» (ЗЭСКМИ). В этой атаке использовался шифровальщик ClearWater, популярный у проукраинских хактивистов. При этом ЛК отмечает ошибку в скрипте, предназначенном для запуска шифровальщика, из-за которой команда не сработала — но непонятно, означает ли это, что инфраструктура вообще не была пошифрована.

Вместе с Ukrainian Cyber Alliance (UCA) «Хакерьский кiт» в июне отчитался о деструктивной атаке на «Донбасстеплоэнерго». Расследуя этот инцидент, ЛК нашла пересечения с цепочкой атаки из совместных операций BO Team и 4BID с тем существенным отличием, что в конечном счёте для нанесения ущерба использовался не шифровальщик, а ранее не описанный вайпер Nemo Wiper.

В заключении отчёта повторяется очевидный вывод, что различные хактивистские группировки (имеются в виду украинские или проукраинские группировки) взаимодействуют между собой в том числе на уровне использования одних и тех же инструментов, которые могут разрабатываться и поддерживаться, например, одной командой. Из-за этого исследователи сталкиваются с проблемой при отнесении атак к конкретной группировке: «Подобная модель существенно усложняет атрибуцию атак. Чтобы выяснить, кто именно стоит за конкретной активностью, необходимо учитывать совокупность множества признаков, включая инфраструктуру, TTP и последовательность действий. В отдельных случаях полезными могут оказаться и менее очевидные артефакты: например, характерный стиль именования файлов, расширений зашифрованных данных или записок с требованиями выкупа».

Генпрокуратура поучаствовала в запуске китайского альянса против кибермошенничества

Вчера из китайских СМИ стало известно о том, что Россия стала одним из учредителей Международного альянса по борьбе с телекоммуникационным и кибермошенничеством. Сегодня пресс-релиз по этому поводу выпустила Генпрокуратура России.

Заместитель генпрокурора Петр Городов возглавлял российскую межведомственную делегацию в Китае с участием представителей Генпрокуратуры, МИД и МВД. В русском переводе новая структура названа Международным альянсом по борьбе с телекоммуникационным и сетевым мошенничеством (на мероприятии на плакатах было написано cyber fraud, но российским чиновникам приставка «кибер-» не очень нравится).

Текст пресс-релиза несколько расходится с тем, как итоги встречи описаны китайскими СМИ. С китайской стороны ситуация представлена так, что альянс уже был учреждён совместным заявлением, а Россия названа в числе 46 учредителей или основателей. С российской стороны формулировки иные: российская делегация приняла участие в запуске альянса, поддержала инициативу о его создании. Но процесс ещё до конца не оформлен: «Подтверждена готовность российской стороны предметно участвовать в согласовании подготовленного Министерством общественной безопасности Китая проекта учредительного документа альянса». То есть совместное заявление, о котором пишут китайские СМИ, Россия учреждающим документом не считает.

При этом Россия заинтересована в таком сотрудничестве и предлагает сосредоточить сотрудничество на четырёх направлениях: «на создании защищенных каналов связи и оперативном обмене сведениями о преступной инфраструктуре и ее организаторах, на незамедлительном сохранении и передаче электронных доказательств, на согласованных действиях по розыску, аресту, конфискации и возврату преступных доходов, на совместном анализе новых схем мошенничества, обмене технологиями и подготовке специалистов».

Замгенпрокурора напомнил о Конвенции ООН против киберпреступности, которая закладывает универсальную правовую основу сотрудничества между правоохранительными органами — как раз в ней предусмотрены предложенные направления практического сотрудничества. Также российская делегация привезла в Китай проект дополнительного протокола к конвенции, призвав заинтересованные государства одновременно способствовать вступлению в силу конвенции и подготовке доппротокола.

Алайнмент проблем

В сфере ИИ есть большой блок проблем, связанных с тем, что по-английски называют alignment: соответствует ли цель, на которую работает система ИИ, тем целям, достижения которых мы хотим. Грубо говоря, чтобы всех нас не превратили в скрепки. Или в менее катастрофическом сценарии, чтобы чатбот находил самый лучший ответ, а не выдумывал его.

С этим связана и лингвистическая проблема: в английском термины AI alignment, aligned и misaligned AI уже закрепились, а в русском общепринятого перевода по-прежнему нет. Вот несколько вариантов: выравнивание, соответствие, согласование, согласованность, сонастроенность, предотвращение рисков, контроль.

Причём любой из этих вариантов сам по себе не звучит, его надо дополнять: например, соответствие ценностям, целям, ожиданиям.

В российском техническом сообществе, компаниях-лидерах типа «Яндекса» и «Сбера» alignment чаще переводят как выравнивание. При этом и в «Яндексе», и в «Сбере» соответствующие направления возглавляют не руководители по выравниванию, а руководители по alignment, то есть «выравнивание» нельзя считать совсем устоявшимся переводом, тем более что оно тоже по логике русского языка просит дополнения.

За рамками технического сообщества alignment переводится как кому вздумается, поскольку специалистов из других сфер эта проблема интересует в более широком контексте, а не только как этап разработки.

Даже на международном уровне с alignment всё непросто. В ООН обычно стараются максимально точно переводить документы, но с новыми терминами случаются сбои. В июле Независимая международная научная группа по ИИ представила свой предварительный доклад. В английской версии термин alignment и его производные упоминается несколько раз, но в русской версии он переводится и как соответствие, и как (не)соответствие общему контексту, и как согласование поведения.

Если одного хорошего перевода нет, то естественный выход — это заимствование иностранного слова. И, конечно, для простоты и взаимопонимания специалисты уже пишут просто «алайнмент». Но звучит не очень благозвучно.

Государственник, прочитав эти размышления, покачает головой, нахмурится и строго скажет:

— Какой алайнмент? Какое выравнивание? Какое согласование поведения? Вы что, закон не читали? Только обеспечение применения больших фундаментальных моделей искусственного интеллекта на основе таких ценностей, как жизнь, достоинство, права и свободы человека, патриотизм, гражданственность, служение Отечеству и ответственность за его судьбу, высокие нравственные идеалы, крепкая семья, созидательный труд, приоритет духовного над материальным, гуманизм, милосердие, справедливость, коллективизм, взаимопомощь и взаимоуважение, историческая память и преемственность поколений, единство народов России.

Чиновница из Новосибирской области попалась на фишинг и открыла вредоносное вложение из электронного письма, дав доступ в систему администрации городского округа хакерам. Возможно, украинским: «Согласно заключению специалистов органов безопасности, указанный сценарий возникновения и развития компьютерного инцидента характерен для хакерских группировок, действующих с территории Украины». Инцидент попал в поле зрения регионального управления ФСБ, и дело могло закончиться даже уголовной статьёй о нарушении правил эксплуатации средств хранения, обработки или передачи компьютерной информации и информационно-телекоммуникационных сетей (ч. 1 ст. 274 УК РФ). Но ответственные органы не нашли в действиях женщины злого умысла и ограничились официальным предупреждением.

В США к 4 годам приговорили гражданина Украины Алексея Литвиненко за причастность к деятельности группировки кибервымогателей Conti. Литвиненко был экстрадирован в США из Ирландии и в июне признал вину по предъявленным обвинениям, по которым ему грозило до 20 лет лишения свободы.

Мосгорсуд оставил без движения жалобу бывшего майора ФСБ Дмитрия Докучаева, у которого по антикоррупционному иску Генпрокуратуры были изъяты активы на сотни миллионов рублей. Контрразведчик, работавший в сфере высоких технологий, был осужден за госизмену, признал вину и быстро вышел по УДО.

Но оказался в поле зрения СКР, расследовавшего дело оргпреступного сообщества создателей анонимной платежной системы UAPS, чьим крупнейшим пользователем оказался разжалованный чекист.

У него и его семьи изъяли пять квартир с машино-местами, пять иномарок, 5 кг золота в слитках, бриллианты и миллионы наличными, а также обязали вернуть деньги за уже проданную недвижимость и автомобили.

#Ъузнал

Дмитрий Медведев в интервью «Ведомостям» заявил, что «киберпространство давно превратилось в поле боя – такое же, как воздух, суша и море».

Действительно, концепция киберпространства как пятого театра военных действий или пятое измерение конфликта (fifth domain или fifth dimension) хорошо известна военным и исследователям-международникам, она начала использоваться ещё с 1990-х, а с 2010-х стала общим местом. Минобороны США признало, что киберпространство стало столь же значимой средой, как суша, морское и воздушное пространство и космос, и регламентировало, как будет действовать в нём.

При этом заявление Медведева несколько отходит от принятого в России отношения к этой концепции. Российская дипломатия, выступая против милитаризации киберпространства, не соглашалась считать его театром военных действий. Например, Сергей Лавров в 2020 году предостерегал от превращения мирового информационного пространства в новый театр военный действий в случае подменять «борьбу за равную и неделимую кибербезопасность плохо скрываемым желанием навязать свои "порядки"». В 2021 году Владимир Путин в интервью NBC подчеркнул, что сферой боевых действий киберпространство официально объявила НАТО: «Мы об этом не говорим никогда».

Теперь же Дмитрий Медведев именно об этом и говорит как о давно состоявшемся факте.

Коалиция желающих бороться со скамом вместе с Китаем

В Китае по его инициативе сегодня был учреждён Международный альянс по борьбе с телекоммуникационным и кибермошенничеством. Совместное заявление об учреждении новой структуры было принято на Глобальном форуме по сотрудничеству в области общественной безопасности в Ляньюньгане.

Среди учредителей названы Вьетнам, Лаос, Кения, Камбоджа, Пакистан и Россия, всего 46 стран плюс ещё 34 в качестве наблюдателей.

Текста заявления пока нет, как и полного списка подписантов; из сообщений в китайской прессе следует, что речь идёт о создании международной организации для правоохранительных органов государств-участников.

Вдобавок к созданию своего ИИ-альянса WAICO это ещё один пример активной роли Китая, ранее ему не свойственной, в деле создания международных институтов, в частности в технологической сфере.

В прошлом году Китай подписал Конвенцию ООН против киберпреступности, которая также предусматривает механизмы сотрудничества между правоохранителями. Но, похоже, Пекин не считает эту ещё не созданную структуру достаточной и подходящей под его задачи.

DENOминация

Исследователи Positive Technologies выявили новую хакерскую группировку, получившую название DENOmination Group и активную как минимум с конца марта по август. Название образовано по характерной особенности: в атаках злоумышленники использовали легитимную среду выполнения Deno для запуска вредоносного кода и получения дополнительных компонентов с командного сервера. Если Deno на машине не было, она скачивалась с официального сайта, а в одном варианте атаки была встроена в установочный файл.

Поведение группировки имеет отличительные особенности. Её целями были предприятия ОПК, военные структуры, банки, финансовые и консалтинговые организации. Например, в одной из кампаний в качестве приманки использовался документ с заголовком «Анкета обучения в 50 ОБрБпС» явно военной направленности — имеется в виду российская 50-я отдельная бригада беспилотных систем «Варяг». Подобный выбор целей характерен для кибершпионов.

При этом инструментарий, обнаруженный в атаках, не уникален для этой группировки: загрузчик DinDoor и троян DenoRAT уже встречались в других атаках. Исследователи предполагают, что несколько акторов могли пользоваться одной платформой, например, арендуя её по модели malware-as-a-service. И это уже больше напоминает подход киберпреступников, а не шпионов. Под названием DENOmination Group исследователи отслеживают не всю активность с использованием указанных инструментов, а только кластер активности, нацеленный на Россию.

DDoS-атака омрачила запуск маркетплейса «Ростеха»

Госкорпорация «Ростех» сегодня запустила портал PCAT.ru — «первый промышленный маркетплейс, который позволяет в едином пространстве состыковать поставщиков и заказчиков, показывать производственные возможности, формировать кооперацию под конкретные проекты».

Вскоре после запуска сайт оказался временно недоступен из-за DDoS-атаки:

«"Практически сразу же после старта портал промышленных технологий подвергся мощной хакерской атаке, сейчас он недоступен. Наши специалисты работают над устранением последствий и восстановлением доступа", - сообщила CNews пресс-служба госкорпорации "Ростех" в 11:00 по Москве».

Сейчас сайт открывается нормально, но включена геоблокировка для IP-адресов из-за пределов России.

Дистилированный диалог

США и Китай готовятся запустить официальный диалог по вопросам безопасности ИИ в середине сентября, сообщает Reuters. Договорённость об этом была достигнута в мае во время визита Дональда Трампа в Пекин. Консультации должны будут пройти в преддверии ответного визита Си Цзиньпина в Вашингтон 24 сентября, чтобы лидерам двух стран можно было обсудить первые итоги.

По словам источников Reuters, США могут поднять тему сотрудничества в отслеживании автономных кибератак под руководством ИИ типа инцидента с Hugging Face и предложить китайским лабораториям делиться информацией о таких случаях (хотя и американские компании делают это не всегда). Также американцев беспокоит возможность появления китайского аналога модели Mythos от Anthropic, с помощью которой можно взломать всё (как поговаривают). Наконец, на встрече с китайцами может быть затронута и проблема дистилляции: американские компании утверждают, что китайские компании недобросовестно обучают свои модели на американских. Вчера заявление о том, что китайские компании занимаются дистилляцией в промышленных масштабах, выпустили CISA, ФБР и АНБ; Китай эти обвинения отверг. Впрочем, за закрытыми дверями китайцы могут согласиться обсудить эту проблему, потому что известны и обратные примеры, когда дистилляции подвергаются китайские модели.

С китайской стороны комментариев о возможном содержании консультации пока не было. Но примерное представление о ходе мыслей в китайском экспертном сообществе даёт майская статья профессора Фуданьского университета Цай Цуйхун:

«Две страны могут обсудить такие вопросы, сопряжённые с высоким риском, как кибератаки, мошенничество с использованием ИИ, потеря контроля над автономными системами, защита критической инфраструктуры и связанные с ИИ "красные линии" в сфере управления ядерными силами. Они также могут изучить механизмы уведомления об инцидентах, коммуникации в кризисных ситуациях и раннего предупреждения. Но безопасность ИИ не должна становиться универсальным оправданием для "секьюритизации" гражданского ИИ, моделей с открытым исходным кодом, облачных сервисов, научного обмена или мобильности талантливых специалистов. Если управление будет чрезмерно заточено под вопросы безопасности, пространство для сотрудничества сузится, а глобальное развитие ИИ станет искусственно фрагментированным».

В любом случае уже сама подготовка к запуску такого двустороннего диалога напоминает о том, что США и Китай выступают лидерами текущей технологической гонки, от чьей позиции будет зависеть формирование международных правил в сфере ИИ.

Для России наблюдать за этим процессом со стороны непривычно: во время холодной войны Советский Союз и США вместе снижали ядерную опасность, с конца 1990-х Россия предлагала США разработать правила для киберпространства. Но обсуждать безопасность искусственного интеллекта Россию не зовут и о потенциале её суверенных моделей не переживают: теперь у американцев новый главный соперник и партнёр. Правда, и до каких-либо договорённостей между Вашингтоном и Пекином пока не близко.