Твит, активно расходящийся в Интернете, продолжает историю противостояния американских и китайских LLM-моделей в контексте кибербеза. Напомню, у HuggingFace произошел инцидент и когда они пытались его расследовать, американские модели отказались это делать, "ссылаясь" на ограничения ИБ. Тогда HuggingFace развернули китайскую GLM без всяких ограничений, которая им помогла провести расследование.

И вот в твите история повторилась – исследователь попробовал запустить Codex и Fable для устранения уязвимостей в собственном коде, но обе модели отказались делать это из-за встроенных ограничений ИБ. А Kimi K3 сделала всю работу "не поперхнувшись". В конце автор пишет, что это все очень плохо закончится для Anthropic и OpenAI.

И все это несмотря на то, что американцы пытаются всеми правдами и неправдами остановить распространение открытых моделей из Поднебесной – министр финансов США Скотт Бессент вчера заявил, что они введут санкции против китайских разработчиков ИИ за воровство интеллектуальной собственности; да и в целом администрация Трампа пытается активно бороться с Китаем в этой области.

Ну а Россия пока подписала меморандум с Китаем о сотрудничестве в области ИИ, что на фоне желания нашего восточного соседа запретить использовать свои модели иностранцам, означает, что нам, скорее всего, это разрешат (пока это выгодно для Китая).

В общем, в интересное время живем. Будем наблюдать...

ЗЫ. Что касается кейса “OpenAI взломал HuggingFace”, то помимо алармисткой версии о побеге модели и взломе тех, кто был ближе и помогал в решении стоящей задачи, есть и более приземленная версия - Сэм Альтман взял на вооружение тактику Антропика, который на всех нагнал страха перед IPO со своей «вселомающей» Fable. Теперь тоже самое сделала и OpenAI.

#ии #оценказащищенности #суверенитет #санкции