Госаккредитация ИИ

Правительство готовит обязательную процедуру верификации новых ИИ-моделей до их публичного релиза. Под процедуру подпадут самые мощные модели, проверять будут на безопасность: автономный поиск уязвимостей в чужом коде, помощь в создании биологического оружия, способность самостоятельно действовать в сети, обход встроенных в модели блоков. Руководители крупнейших технологических компаний уже провели первую закрытую встречу с чиновниками.

Параллельно администрация президента готовит указ о рабочей группе из топ-менеджеров техкомпаний и чиновников. Группа должна прописать саму процедуру: какие модели подпадают под надзор, по каким критериям их оценивают, что делать с уже выпущенными.

Речь про США😏

На прошлой неделе на брифингах в Белом доме были представители Anthropic, Google и OpenAI.

Это разворот на 180 в штатовской политике вокруг ИИ: в январе 2025 Трамп отменил указ Байдена, требовавший от разработчиков сдавать результаты тестов безопасности до релиза, и до сих пор позиционировал регулирование как помеху конкуренции с Китаем. Триггером стал Mythos от Anthropic (перехайповали ребята): администрация боится политических последствий кибератаки с применением ИИ и параллельно оценивает, что из таких моделей можно вытащить для Пентагона и разведки.

И ещё один непрописанный вопрос это иностранные модели. Пойдут ли DeepSeek, Qwen и Mistral сдавать веса и доступ к моделям на проверку американским чиновникам перед релизом ради права быть доступными в США? Думается, что ответ «нет». Что в этом случае делать с их облачными API? И что будет с хостингом открытовесовых моделей в AWS и Azure? Да и в целом с весами на Hugging Face?

Проверка при таком сценарии превращается в нетарифный барьер: американские модели проходят и работают, иностранные не проходят и блокируются на инфраструктурном уровне. Экспортный контроль на чипы показывает, что механизмы для этого у Вашингтона уже отлажены.

Обязательная проверка ломает темп выпуска новых моделей у трёх лидеров, а дальше развилка:

Легкая и быстрая процедура как формальность и рычаг давления.

Тяжелая — лицензирование фронтир-моделей и удобный повод выдавить с рынка китайские и европейские.

@anti_agi