ToolAI.io · Канал GitHub

Инференс, развёртывание и среда выполнения · AI-проекты с открытым исходным кодом на GitHub

Фактический каталог проектов по разработке LLM, агентов, MCP, RAG и AI с информацией о лицензии, настройке, скачивании, скриншотами и связанными ресурсами для каждой записи.

Данные публичного репозитория

Индекс проекта

3 Проекты
Скриншот Hugging Face Transformers
Инференс, развёртывание и среда выполнения

Hugging Face Transformers

huggingface/transformers

A model-definition framework for state-of-the-art machine learning models across text, vision, audio, and multimodal domains, supporting both inference and training.

★ 163,3K⑂ 34,1KPython
Apache-2.0Q98
Инференс, развёртывание и среда выполнения

sglang

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

★ 32,2K⑂ 8,1KPython
Apache-2.0Q98
Скриншот Xorbits Inference (Xinference)
Инференс, развёртывание и среда выполнения

Xorbits Inference (Xinference)

xorbitsai/inference

A powerful and versatile library designed to serve language, speech recognition, and multimodal models. It allows users to swap GPT for any LLM by changing a single line of code and run models on cloud, on-prem, or locally via a unified, production-ready inference API.

★ 9,5K⑂ 853Python
Apache-2.0Q98

Недавно обновлено

cherry-studioCherryHQ/cherry-studio★ 51,5K siyuansiyuan-note/siyuan★ 46,2K career-opscareer-ops-hq/career-ops★ 70,2K tensorflowtensorflow/tensorflow★ 198,8K streamlitstreamlit/streamlit★ 45,7K pytorchpytorch/pytorch★ 102,8K

Наибольшее число звёзд

ECCaffaan-m/ECC★ 248,8K Hermes Agentnousresearch/hermes-agent★ 227,1K tensorflowtensorflow/tensorflow★ 198,8K AutoGPTSignificant-Gravitas/AutoGPT★ 187,1K ollamaollama/ollama★ 180,2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174,9K