Data Secrets
@data_secrets
Data Secrets
Фото:
OpenAI сделали собственный чип
Архитектура разработана с нуля вместе с Broadcom, а назвали чип Jalapeño. Предназначен халапеньо специально для инференса LLM и соответсвующих систем а-ля Codex.
Сейчас чип проходит стадию тестирования, но ранние внутренние замеры уже показали, что он перформит лучше текущей SOTA на целый ватт.
openai.com/index/openai-broadcom-jalapeno-inference-chip/
Новые замеры собственного чипа OpenAI
https://openai.com/index/jalapeno-first-results/
Заявляют, что Халапеньо превосходит Nvidia GB200 и GB300 по скорости и эффективности. Для высоко интерактивных нагрузок говорят о производительности в 2,1–4,1 раза выше.
Начать использовать планируют уже в конце 2026
https://openai.com/index/jalapeno-first-results/
Заявляют, что Халапеньо превосходит Nvidia GB200 и GB300 по скорости и эффективности. Для высоко интерактивных нагрузок говорят о производительности в 2,1–4,1 раза выше.
Начать использовать планируют уже в конце 2026
🤯 100
❤ 26
⚡ 8
🤩 5
4
😁 3
🕊 3
☃ 2
2
🤔 1
🎉 1
12 116 16.4K
Обсуждение 12
Обсуждение не доступно в веб-версии. Чтобы написать комментарий, перейдите в приложение Telegram.
Обсудить в Telegram