Валера Ковальский
@neuraldeep
Для pro тарифа доступен теперь и квен fp8 только веса кеш фп16, для быстрых и выделенных задач
120 t/s single request
70t/ 10 parallel
neuraldeep.ru
120 t/s single request
70t/ 10 parallel
neuraldeep.ru
🔥 23
👍 5
4
40 19 6.4K
Обсуждение 40
Обсуждение не доступно в веб-версии. Чтобы написать комментарий, перейдите в приложение Telegram.
Обсудить в Telegram