red_mad_router

Делюсь новостями; Мы запустили (на самом деле достаточно давано, но на этот раз публично) платформу для управления LLM в бизнесе. Доступ к множеству моделей как в облаке так и on-premise.

Как часто бывает, мы делали для внутренних целей и для своих продуктов, а потом клиенты попросили вывести и для них.