ToolAI.io · GitHub-Kanal

Inferenz, Bereitstellung & Laufzeit · Open-Source-AI-Projekte auf GitHub

Ein faktenbasierter Index von LLM-, Agenten-, MCP-, RAG- und AI-Entwicklungsprojekten mit Lizenz, Einrichtung, Download, Screenshots und verwandten Ressourcen für jeden Eintrag.

Daten des öffentlichen Repositorys

Projektindex

3 Projekte
Screenshot von Hugging Face Transformers
Inferenz, Bereitstellung & Laufzeit

Hugging Face Transformers

huggingface/transformers

A model-definition framework for state-of-the-art machine learning models across text, vision, audio, and multimodal domains, supporting both inference and training.

★ 163,3K⑂ 34,1KPython
Apache-2.0Q98
Inferenz, Bereitstellung & Laufzeit

sglang

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

★ 32,2K⑂ 8,1KPython
Apache-2.0Q98
Screenshot von Xorbits Inference (Xinference)
Inferenz, Bereitstellung & Laufzeit

Xorbits Inference (Xinference)

xorbitsai/inference

A powerful and versatile library designed to serve language, speech recognition, and multimodal models. It allows users to swap GPT for any LLM by changing a single line of code and run models on cloud, on-prem, or locally via a unified, production-ready inference API.

★ 9,5K⑂ 853Python
Apache-2.0Q98

Kürzlich aktualisiert

TypeSafe Python SDKtypesafe-ai/typesafe-sdk-python★ 218 TypeSafe JavaScript SDKtypesafe-ai/typesafe-sdk-js★ 231 TypeSafe Agent Skillstypesafe-ai/skills★ 2K cherry-studioCherryHQ/cherry-studio★ 51,5K onyxonyx-dot-app/onyx★ 32K siyuansiyuan-note/siyuan★ 46,2K

Mit den meisten Sternen

ECCaffaan-m/ECC★ 248,8K Hermes Agentnousresearch/hermes-agent★ 227,1K tensorflowtensorflow/tensorflow★ 198,8K AutoGPTSignificant-Gravitas/AutoGPT★ 187,1K ollamaollama/ollama★ 180,2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174,9K