OpenAI впервые за долгое время стали действительно Open?

Вчера OpenAI наконец-то выпустила новые открытые модели, сопроводив это смелым заявлением: теперь якобы каждый может запустить у себя на компьютере модели чуть ли не уровня o3 и o4-mini. Свет увидели gpt-oss на 20b и 120b.

Однако, как это часто бывает, громкие маркетинговые заявления не совсем соответствуют действительности. Во-первых, мы с вами знаем, что цифры в бенчмарках - далеко не всегда показатель реальной производительности. А во-вторых, «каждый» в понимании OpenAI - это человек с компьютером, на борту которого имеется как минимум 16 ГБ видеопамяти. Именно столько требуется для запуска 20b модели.

Тем не менее, это огромный шаг для всего open-source сообщества. Я практически уверен, что даже если цифры в отчетах немного завышены, это все равно будут очень крутые модели. Из интересного:
- Они построены на базе архитектуры MoE (Mixture of Experts), когда в память комьютера загружаются не все параметры сразу, а только нужные для задачи,что как раз и позволяет запускать большие модели на не самом мощном железе.
- У них есть встроенная способность к ризонингу, что уже становится базой.
- Они обучены использовать внешние инструменты, т.е. к ним можно подключать всякие MCP и другие полезные штуки.

Все это говорит о большом потенциале моделей для создания сложных ИИ-агентов.

В целом, я вижу, как мы постепенно движемся к действительно качественному ИИ, который можно запустить локально и комфортно с ним работать. Думаю, еще год-полтора, и действительно каждый, уже без особых требований к железу, сможет установить себе хорошую модель для решения рабочих задач.

Как обычно, не хочу спешить с выводами - модели нужно «пощупать» в реальных условиях. Для этого необходимо дождаться, пока сообщество подготовит квантизированные версии, а еще лучше - упакует их в формат MLX, чтобы можно было запускать их на Mac в полную мощность.

Через неделю у меня предстоит трансатлантический перелет. Надеюсь, к этому моменту появится что-то, что я смогу запустить у себя на ноуте. Из 19 часов полета я точно найду время, чтобы подробно протестировать модели не на технических бенчмарках, а на реальных задачах, с которыми я сталкиваюсь в разработке продуктов и ведении бизнеса.

Так что, у кого канал на мьюте - самое время это исправить, чтобы не пропустить подробный разбор 😉