Meteron AI

Meteron — это бэкенд-платформа, помогающая легко создавать продукты на базе ИИ. Она устраняет сложности, связанные с автомасштабированием инфраструктуры и хранением данных.

Основные возможности

• Учёт использования: оплата за запрос, токен или оба параметра. При добавлении конечных точек моделей можно задать дневные и месячные лимиты для каждого пользователя. Заголовок X-User с ID или электронной почтой пользователя обеспечивает соблюдение этих лимитов.
• Эластичное масштабирование: запросы ставятся в очередь и распределяются между серверами. Серверы можно добавлять при скачках спроса. Поддерживаются управление параллелизмом, QoS, отслеживание производительности и автоматическая балансировка нагрузки; автоматические повторы появятся в ближайшее время.
• Неограниченное хранилище: изображения загружаются в облако. Поддерживаются все основные облачные провайдеры. Подключение собственного S3, GCS или Azure Storage появится в ближайшее время.
• Любые модели — текстовые и графические: можно подключать Llama, Mistral, Stable Diffusion v1, v2, DALL-E и другие модели генерации изображений.
• Приоритизация очереди: для каждого запроса можно указать высокий, средний или низкий приоритет. Высокий предназначен для VIP-пользователей без задержки в очереди, средний обслуживается с задержкой, но раньше низкого, а низкий — последним, для "бесплатных" пользователей при отсутствии нагрузки.
• Система кредитов: поддерживает кредиты для биллинга и ограничений.

Целевые пользователи и преимущества

• Целевые пользователи: разработчики и команды, создающие и монетизирующие продукты на базе ИИ.
• Преимущества: единый набор инструментов, освобождающий разработчиков от ненужных трудоёмких процессов. Это low-code-сервис, требующий только знания HTTP и поддерживающий curl, Python requests и JavaScript fetch.

Типичные сценарии

1. Генератор галереи изображений на базе Stable Diffusion XL, Vuetify, Lightning AI и Meteron.
2. Мультитенантное приложение, в котором пользователи регистрируются и создают изображения комнат с помощью модели Controlnet AI, а Meteron управляет ресурсами, очередями и учётом использования.
3. Интеграция с Python для отправки запросов генерации изображений, получения результатов, контроля лимитов пользователей и оплаты за запросы или токены.

Интеграции

Поддерживаются интеграции с PyTorch Lightning, TensorFlow, Python, OpenAI, AWS и другими решениями.

Цены

• Free ($0/mo): 1 администратор, 5GB файлового хранилища, 1,500 генераций изображений, 10,000 завершений чата LLM.
• Professional ($39/mo): 5 администраторов, 300GB файлового хранилища, 10,000 генераций изображений, 50,000 завершений чата LLM.
• Business ($199/mo): 30 администраторов, 2TB файлового хранилища, 100,000 генераций изображений, 800,000 завершений чата LLM.

Дополнительные хранилище и генерации можно приобрести. Принимаются все основные банковские карты и прямые банковские переводы. Также доступны лицензии для локального развёртывания. Предусмотрена ежемесячная и ежегодная оплата; скидка 10% на годовую оплату появится в ближайшее время.

Часто задаваемые вопросы

• Расположение серверов задаётся через веб-интерфейс для статических серверов или через простую API для динамического обновления в реальном времени, например на Lightning AI и RunPod.
• Самостоятельное размещение поддерживается: лицензии для локального развёртывания можно использовать у любого облачного провайдера.
• Способы оплаты: все основные банковские карты и прямые банковские переводы.