LiteLLM: Открытый AI-шлюз с единым интерфейсом к 100+ LLM-провайдерам в формате OpenAI.
Открытый AI-шлюз с единым интерфейсом к 100+ LLM-провайдерам в формате OpenAI.
Главное в цифрах
- Цена: Открытый исходный код, self-hosted бесплатно; есть корпоративный тариф (Enterprise).
- Создатели: BerriAI
- Стадия: запущен
Как это работает
Вызов разных LLM через OpenAI-совместимый API или Python SDK; есть прокси с виртуальными ключами, учётом расходов, guardrails и балансировкой нагрузки.
Почему мы это показываем
Продукт зрелый и полезный, но это не новый проект (LiteLLM давно известен, 60k звёзд), нишевый для разработчиков и есть много аналогов-шлюзов, а «Стартап-радар» берёт только новинки.
Источник: GitHub
Стартап-радар
Такие новости первыми, в Telegram