AI для бизнеса
@ai_nom
NVIDIA раздаёт мощный ИИ бесплатно — и зарабатывает на этом больше конкурентов
NVIDIA выпустила Nemotron 3 Ultra — крупнейшую открытую модель в линейке Nemotron 3. В открытый доступ выложили веса, обучающие данные и сами методики обучения. Можно скачать, дообучить на своих данных и запустить на своей инфраструктуре.
Это гибрид из трёх подходов:
слои Mamba-2 (быстро обрабатывают длинные тексты)
слои внимания (удерживают большие объёмы в памяти
латентная смесь экспертов (направляет запрос только к нужным «специалистам»).
Всего 550 млрд параметров, но на обработку токена задействуется только около 55 млрд. Контекстное окно — 1 млн токенов, скорость свыше 300 токенов в секунду. Результат: в 5–6 раз большая пропускная способность и на 30% ниже стоимость задач.
На что рассчитывает NVIDIA
Главная ценность релиза не в самой модели, а в экосистеме вокруг оборудования NVIDIA. Тот, кто запускает Nemotron, скорее всего делает это на видеокартах NVIDIA, дообучает её программными инструментами компании и разворачивает на её же софте. Открытость — не благотворительность, а способ привести разработчиков обратно к покупке железа.
При капитализации свыше $5 трлн обучение модели, которое стоило вероятно сотни миллионов долларов, для NVIDIA почти незаметная статья расходов. Продажи видеокарт покрывают исследования с запасом.
По своей эффективности модель не лидер
48 баллов по Intelligence Index — лучший результат среди открытых моделей США, но в мире уступает Kimi K2.6 (54 балла) и DeepSeek. Отставание открытых моделей от закрытых оценивается в 3–7 месяцев.
Но для большинства задач это не критично.
Банку, который ставит модель для обработки кредитов на своих серверах, не нужен флагманский интеллект — нужна модель, которую можно дообучить на закрытых данных и держать в защищённом контуре.
Есть и политический контекст. Открытую модель можно проверить, изменить и развернуть на своих серверах — это привлекательно для стран, которые строят независимый национальный ИИ. Такую модель никто не отключит удалённо, что особенно ценно на фоне недавних ограничений вокруг закрытых моделей.
AI для бизнеса
NVIDIA выпустила Nemotron 3 Ultra — крупнейшую открытую модель в линейке Nemotron 3. В открытый доступ выложили веса, обучающие данные и сами методики обучения. Можно скачать, дообучить на своих данных и запустить на своей инфраструктуре.
Это гибрид из трёх подходов:
слои Mamba-2 (быстро обрабатывают длинные тексты)
слои внимания (удерживают большие объёмы в памяти
латентная смесь экспертов (направляет запрос только к нужным «специалистам»).
Всего 550 млрд параметров, но на обработку токена задействуется только около 55 млрд. Контекстное окно — 1 млн токенов, скорость свыше 300 токенов в секунду. Результат: в 5–6 раз большая пропускная способность и на 30% ниже стоимость задач.
На что рассчитывает NVIDIA
Главная ценность релиза не в самой модели, а в экосистеме вокруг оборудования NVIDIA. Тот, кто запускает Nemotron, скорее всего делает это на видеокартах NVIDIA, дообучает её программными инструментами компании и разворачивает на её же софте. Открытость — не благотворительность, а способ привести разработчиков обратно к покупке железа.
При капитализации свыше $5 трлн обучение модели, которое стоило вероятно сотни миллионов долларов, для NVIDIA почти незаметная статья расходов. Продажи видеокарт покрывают исследования с запасом.
По своей эффективности модель не лидер
48 баллов по Intelligence Index — лучший результат среди открытых моделей США, но в мире уступает Kimi K2.6 (54 балла) и DeepSeek. Отставание открытых моделей от закрытых оценивается в 3–7 месяцев.
Но для большинства задач это не критично.
Банку, который ставит модель для обработки кредитов на своих серверах, не нужен флагманский интеллект — нужна модель, которую можно дообучить на закрытых данных и держать в защищённом контуре.
Есть и политический контекст. Открытую модель можно проверить, изменить и развернуть на своих серверах — это привлекательно для стран, которые строят независимый национальный ИИ. Такую модель никто не отключит удалённо, что особенно ценно на фоне недавних ограничений вокруг закрытых моделей.
AI для бизнеса
22 2.4K
Обсуждение 0
Обсуждение не доступно в веб-версии. Чтобы написать комментарий, перейдите в приложение Telegram.
Обсудить в Telegram