spinf-serve: Сервер инференса для массовой классификации и скоринга решений на одном GPU.
Сервер инференса для массовой классификации и скоринга решений на одном GPU.
Главное в цифрах
- Цена: Бесплатно, Apache 2.0 (self-hosted); облачный API api.spinf.com, отдельная оплата, цена не указана
- Создатели: spinfinc
- Стадия: показан на Hacker News
Как это работает
Читает контент один раз и оценивает много вопросов в одном проходе, возвращая вероятности по заданным вариантам; совместим с OpenAI API.
Почему мы это показываем
Полезная нишевая инфраструктура для массовой классификации с понятной ценностью, но интереса сообщества мало (18 звёзд, 20 очков), а требования к железу ограничивают аудиторию.
Нашли ошибку или есть что добавить? Напишите редакции
Источник: Show HN
Стартап-радар
Такие новости первыми, в Telegram