Дистиллированный Grok

Илон Маск признался федеральному судье Калифорнии, что xAI использовала модели OpenAI для обучения Grok.

На прямой вопрос, Маск сначала ответил, что «все AI-компании так делают», а затем признался: «отчасти». Позже он добавил ещё более удобную формулировку — что использование других моделей нужно для «валидации» собственных систем.

Речь идёт о дистилляции моделей, когда более мощная модель выступает в роли «учителя», а другая — «ученика», перенимая её поведение и знания. Это в самом деле обычная практика, если компания использует свои же модели. Но когда речь идёт о копировании поведения чужих моделей, начинаются вопли. AI-компании давно ведут войну против такого своего рода «промышленного шпионажа». OpenAI и Anthropic регулярно обвиняют китайские лаборатории вроде DeepSeek, Moonshot и MiniMax в том, что те дистиллируют их модели. А Google даже ввёл термин «distillation attacks», называя это формой кражи интеллектуальной собственности.

Забавно, как «кража» превращается в «стандартную практику» и наоборот в зависимости от того, по какую сторону баррикад находится говорящий.

@anti_agi