Помните я говорил, что у меня есть задача которая уже очень долго крутится в goal режиме? Фишка в том что там равномерные сабтаски. Нужно аккуратно сделать и провалидировать в коде около тысячи игровых предметов, каждый из которх описан в тексте вместе со всеми свойствами. Поэтому скорость можно оценить более менее объективно.

Так вот, ГПТ 5.5 extra-high сделала за 2 дня примерно 30% объема работы. 5 дней работы с sol 5.6 max дали всего 15% сверху этого.

То есть она стала как минимум в 5 раз медленнее.

И по ощущениям, это вовсе не глубина думания, а тупо скорость исполнения запросов. Опенай не справляется с нагрузкой и ставит их в очередь, в которой не происходит генерации, а моделька тупо ждет.

Как вариант — думаю временно с этой задачей перейти на 5.5, благо качества ее там хватало. Но переключаться постоянно будет конечно очень неудобно.

А маркетингово, чувствую, нас готовят к выходу быстрого инференса на церебрас, с подпиской баксов за 500, а то и за 1000. Ведь слезть с этой иглы уже нереально 🌚