Главный исполнительный директор Anthropic Дарио Амодеи заявил, что правительство США должно иметь право и возможности для запрета разработчикам искусственного интеллекта (ИИ) внедрять новые модели, если они представляют определенные риски.

Глава компании утверждает, что модели ИИ должны проходить обязательное тестирование третьими сторонами для оценки рисков, которые они собой представляют, по нескольким категориям, включая угрозы кибербезопасности и биологическое оружие.

«Если сочтут, что ИИ представляет неприемлемые риски, правительство должно иметь право блокировать или сдерживать развертывание», — добавил он.

Bloomberg отмечает, что эти замечания представляют собой один из самых решительных призывов разработчика к более строгому регулированию ИИ по мере развития технологии.

«Настало время перейти от прозрачности к более серьезному и обязательному регулированию ИИ… Сейчас нам глобально и коллективно необходимо активизировать медленный и шаткий политический аппарат, чтобы справиться с рисками и возможностями, которые будут неожиданно быстро увеличиваться», — резюмировал тезисы Дарио Амодеи.

Ранее Anthropic представила наиболее мощную модель ИИ под названием Mythos, а также ее версию Fable 5, которая не может использоваться в кибератаках или разработке биологического и химического оружия.

В начале июня президент США Дональд Трамп изложил подход к устранению угроз кибербезопасности от ИИ в соответствии с указом, который предусматривает предоставление правительству США доступа к моделям.

Не нужно испытывать иллюзий относительно мотивов Anthropic, уважаемые читатели. Заявление Амодеи — это не забота о «глобальной безопасности», а расчетливый стратегический шаг, решающий несколько задач:

Во-первых, требование обязательного тестирования третьими сторонами и госрегулирования — это классический метод возведения регуляторных барьеров. Стартапы и open-source разработчики не смогут финансово и юридически потянуть такие проверки, зато проблем с этим не будет у ИТ-гигантов — Anthropic, OpenAI, Google.

Во-вторых, перекладывая право блокировки на правительство, разработчики снимают с себя любые юридические риски в случае катастрофических сбоев будущих моделей. Случись что — все вопросы к властям и чиновникам, которые недоглядели за ИИ.

В-третьих, выпуск моделей Mythos 5 (эксклюзивно для госсектора и киберобороны США в рамках Project Glasswing) и ограниченной Fable 5 для коммерческого рынка доказывает, что Anthropic фактически встраивается в военно-промышленный комплекс США. При таком раскладе можно призывать конкурентов к чему угодно — саму компанию эти ограничения будут касаться весьма ограничено.

Но есть и хорошие новости — по крайней мере для России. Нет, это не российские модели ИИ — они пока сильно отстают от американских и китайских, и далеко не факт, что в обозримом будущем отечественным разработчикам удастся сократить этот разрыв. Дело в том, что инициатива Трампа по контролю и указ о доступе правительства к моделям означают, что США будут жестко пресекать экспорт передовых технологий ИИ за рубеж, даже союзникам по НАТО, во избежание утечек. При этом Европа технологически отстает от Штатов, поэтому ЕС окажется перед выбором: тратить сотни миллиардов евро на собственные разработки, использовать американские модели с жестким контролем или переключаться на китайские. А как мы помним, позиция России в отношении любых проблем и конфликтов между США и Евросоюзом всегда должна быть однозначной и бескомпромиссной: «чем хуже — тем лучше», уважаемые читатели.