Kimi снова расчехили продажу аккаунтов, налетайте.

По рефке бонус мне и вам. Нужно в течение 3х часов от перехода зарегаться, скачать их аппку и авторизоваться (даже денег заносить не надо).
Тогда мне и вам дадут лотерейный билетик на халявную подписку.

Себе взял план за $99, гоняю модель K3 как ревьюера к солу, о результатах доложусь.

Я сейчас пишу порт PaddleOCR-VL под WebGPU
Это значит, что если все сработает, то на достаточно мощной машине OCR движок можно будет запускать прям в браузере.

И я при этом не использую transformers.js, реализация полностью с нуля. Задача абсолютно отбитая, но мне кажется вполне реалистичная. Расскажу, что получится.

В связи с этим чувствую в воздухе вайбы того, что очень скоро люди будут писать себе под задачи то, о чем раньше даже думать боялись.

Не просто трекер задач, а, например, свои операционные системы (полноценные). Свои аналоги средств виртуализации. Короче, то, что раньше считалось серьезным сложным слоем, в который лучше не лезть. Ощущение, что старшие модельки топовых вендоров уже добрались до того уровня, когда они это смогут делать.

Порвали личку, спасибо за реакцию, отвечу всем как смогу 👌

Вообще, как вы видите сейчас, нефть будущего — это вовсе не софт, а железки. Покрайней мере, пока мы не вошли в сингулярность, когда ИИ начнет штамповать их
себе самостоятельно.

Всем бизнесам нужен инференс, но есть проблема: когда компании переводят процессы на LLM, они просто охреневают от счетов за API OpenAI или Claude.

Рынок ломается о стоимость вычислений. Которые можно сильно сократить, если оптимизировать косты на железо и работать со специализированными небольшими моделями, четко подобранными под задачу.

К чему это я?

Мы с @neuraldeep хотим построить свой AI-датацентр в Европе. Мы даем бизнесу тот же результат, но в 90–100 раз дешевле крупных провайдеров.

Продуктово это не просто классический хостинг, а хаб, где мы монетизируем одну железяку трижды: продаем голые токены, сдаем GPU в аренду и продаем бандлы подписок на AI-продукты (чат, RAG, OCR, транскрибация и т.д.).

Самое важное: хаб уже работает в проде и генерит кэш. Без копейки платного маркетинга откручено 21.9 млрд токенов, за 2 месяца, собрано более 1000 платящих юзеров, а операционная маржинальность инференса 90%.

Сейчас мы поднимаем Seed-раунд на $5M (за 25% доли, оценка $20M post-money),
чтобы кратно отмасштабировать флот серверов на весь мир.

Почему мы порвем этот рынок:

1) Идеальная локация. Я живу в хостинговой столице мира — Финляндии. Тут самая дешевая электроэнергия в ЕС и сосредоточены мощности Google, Microsoft, Hetzner, Небиус. В самой Финке нет Амазона (мы платим за доставку из Германии), зато есть его датацентры.
2) Налоги. Местная система может отбирать 60% с зарплаты, но зато максимально благосклонно относится к реинвестированию хоть в трактора хоть в видеокарты. Будем эффективно списывать затраты на железо.
3) Умный CAPEX. Мы не сжигаем капитал на флагманские стойки с B300 под жидкостным охлаждением за бешеные миллионы. Наша ниша позволяет использовать просьюмерские RTX PRO 6000 — это дает нам на 58% больше токенов на каждый вложенный доллар.
4) Валера (@neuraldeep) — абсолютно гениальный технарь с лояльной аудиторией в 15k AI-разработчиков, который готов это отскелить на любой масштаб.

В отличие от венчура, где 90% хипстерских стартапов проедают деньги и закрываются, у нас большая часть раунда пойдет напрямую в закупку GPU.

Это хард-ассет бизнес. Риски даунсайда минимальны: даже если всё пойдет по одному месту, GPU сохраняют свою ликвидность и их можно продать любому другому датацентру, которым сейчас не хватает свободных мощностей. Вы инвестируете в ликвидное железо с окупаемостью 10-15 месяцев, а не в воздух.

Рынок GPU-инфраструктуры сейчас горячий как никогда, и окно возможностей открыто именно сейчас.

Так что если вы инвестор и вам интересно вложиться в понятную AI-инфраструктуру с подтвержденной экономикой — велкам в личку. Пришлю наш питч-дек, финмодель под NDA и отвечу на любые вопросы.

Если вы горите с того насколько 5.6 работает медленно, и при этом выжирает лимиты — держите лайфхак. Откатился на 5.5. xhigh и все летает 😁 Алтман что-то разочаровывает своими подкрутками, за два дня улетело два ресета. И это на тарифе за 200 баксов. Такое ощущение что лимиты опустили раз в пять.
Жду когда кими восстановят продажи.

Ну вот, Кими приостановили продажи — не вывозят нагрузки. Только поехал траву потрогать и на тебе. Хотел взять на неделе как сожгу лимиты в гпт 😬

Попробовал новую голосовую модель от Опенай. Впечатления двоякие.

1) На низком пинге она вклинивается фразами в твои рассуждения и сбивает с мысли. БЕСИТ.
2) Говорит с английским акцентом. Причем немножко карикатурным, как в фильме Брат-2. Тоже бесит.

Но за рулем поболтать удобно — для этого пожалуй формат идеален.

бухой админ патчит базу на проде

чет как-то не так я себе представлял максимально-эффективную работу 😁

Устал от агентов. Помогает выпить пива или кофе, тогда язык развязывается и готов им втирать дичь.
Можно утром кофе, а вечером пива.

А еще открытие года прям — агенты гораздо лучше делают, если 10 минут нести им голосом ахинею, вместо того чтобы закинуть сто страниц четкого ТЗ. Не знаю как это работает, просто факт.

Но долго в таком режиме конечно не протянуть. Надо что-то с этим делать 😁 А у вас какие лайфхаки?

Помните я говорил, что у меня есть задача которая уже очень долго крутится в goal режиме? Фишка в том что там равномерные сабтаски. Нужно аккуратно сделать и провалидировать в коде около тысячи игровых предметов, каждый из которх описан в тексте вместе со всеми свойствами. Поэтому скорость можно оценить более менее объективно.

Так вот, ГПТ 5.5 extra-high сделала за 2 дня примерно 30% объема работы. 5 дней работы с sol 5.6 max дали всего 15% сверху этого.

То есть она стала как минимум в 5 раз медленнее.

И по ощущениям, это вовсе не глубина думания, а тупо скорость исполнения запросов. Опенай не справляется с нагрузкой и ставит их в очередь, в которой не происходит генерации, а моделька тупо ждет.

Как вариант — думаю временно с этой задачей перейти на 5.5, благо качества ее там хватало. Но переключаться постоянно будет конечно очень неудобно.

А маркетингово, чувствую, нас готовят к выходу быстрого инференса на церебрас, с подпиской баксов за 500, а то и за 1000. Ведь слезть с этой иглы уже нереально 🌚

Я знаю, вы обожаете моих партнеров smartaipack.ru

Многие через них брали подписки, пока это работало. Сейчас работать перестало (баны), но товарищи нашли новую имбу.

Дешевые токены. Аттракцион невиданной щедрости в т.ч. на топовые модели.

Вот что предлагают
====

• Цена на топовые модели в 3 раза дешевле, чем в ОпенРоутер
• OpenAI-совместимые ендпоинты chat/completions и /responses (вторую версию мало кто поддерживает в принципе из роутеров в РФ)
• Поддержка нативного клиента Антропик SDK – /messages . Мало какой роутер в РФ такое умеет, кроме того же Опенроутера.

• Оплата картой РФ или по счёту от юр.лица с необходимыми документами и ЭДО
• Сейчас доступны модели ОпенАи и Антропиоков. Скоро будут zai, плюс ембэдинг и реранг для RAG пайплайнов. Так же будет поддержка voice-2-text и наоборот.

Токены берутся с подписок, за счет этого цена.
====

Если нужен оф. апи, то тоже могут организовать. Не в три раза дешевле, но вы это думаю и сами понимаете. Но с официальной оплатой и всем таким.

В общем, не щелкайте клювом, и берите, пока есть 🙂

Если вы видите в твиттере, что у кого-то там модель сошла с ума, что-то удалила и все пропало, то знайте

вам пиздят

Тупо хайпожорство и отсутствие культуры отрубания рук за вранье

Помните я говорил о совершенно жестком алго-бенче где надо планету разрушаемую сделать?

Так вот, 5.6 max ее прошел, первым среди всех моделек. Это не бенч уровня "нарисуй пеликана". Реально сложный 3d движок с нуля. Промпт не один, это итеративно дорабатывалось по много часов, в сумме часов 20 работы агента.

И анимации может нормально склеивать покадровые — там где у 5.5 проблемы были. В общем, возможности очень сильно выросли.

У многих на встречах есть умные агенты, но я себя давно ловлю на мысли, что они не очень-то умные, и мне нужен агент поуменее.

В итоге собрал себе скилл который разбирает на фичи и карточки мои комментарии насчет фичей продукта, просто на основе видео которое я с этим записываю.

Скилл создается одним промптом в кодексе. Результат прекрасный. Шуршит, анализирует, собирает полноценнный отчет с доказательствами в виде картинок и отрезков видеодорожки.

Дальше этот отчет можно прямо кинуть в агента чтобы фиксить, ну или читать глазами самому (как психопат)

Промпт для агента прям как есть — с диктофона, без исправлений и приукрашиваний:

Твоя задача взять видео и сделать видео, где я объясняю, что не так с интерфейсом сайта и что пофиксить, где шарю экран. Твоя задача сделать из этого некий документ типа HTML с нарезкой фраз, суммаризацией того, что сказано, и скриншотами соответствующих мест того, что я делаю. Соответственно, как бы я поступил? Берем видео, прогоняем через Whisper X, получаем диаризацию плюс тайм-коды, а далее по этим тайм-кодам делаем скриншоты соответствующих мест, ищем, если на скриншоте не совсем, то ищем рядом нужное место, проверяем глазами эти скриншоты и делаем такой некий отчет итоговый в HTML о том, что, собственно, о чем шла речь в видео, сопровождающийся скриншотами по каждому из пунктов.

Поймал себя на том, что мне перестают быть нужны кнопочки и всякие ui. Просто говорю задачу, а кодекс делает. Необходимость поддерживать кнопочки ощущается анахронизмом.

На одном из проектов нужен таск трекер. Сказал агенту «найди и разверни мне решение». Глазами смотреть не собираюсь, на это тоже есть агент (и даже с глазами). И уж тем более не собираюсь использовать трелло с ноушеном.

Какой-то сдвиг происходит в сознании. Чувствуете то же самое?

Кто там стонет про задачки по 10 часов? 😁 Половина из этого времени была еще на 5.5 с механизмом цели. 5.6 просто научили нативно ставить goal — она теперь сама фигачит до посинения. Так что формулируйте свои желания осторожно, если по-привычке думать, что она быстренько сварганит прототип и успокоиться, можно нехило так влететь в лимиты даже на $200.

Короче, если вы раньше писали что-то типа "обязательно все сделай, ни в коем случае не бросай", то сейчас стоит быть осторожным в своих желаниях 😉