ToolAI.io · Canale GitHub

Inferenza, distribuzione e runtime · Progetti AI open source su GitHub

Un indice basato sui fatti di progetti di sviluppo LLM, agenti, MCP, RAG e AI, con licenza, configurazione, download, screenshot e risorse correlate per ogni voce.

Tag popolari Agente LLM RAG MCP Programmazione Inferenza Chiamata di strumenti Embedding Database vettoriale Multimodale Fine-tuning Valutazione Apri il codice sorgente Auto-ospitato Python TypeScript Rust Voce Visione Flusso di lavoro

Dati del repository pubblico

Indice del progetto

2 Progetti
Screenshot di Xorbits Inference (Xinference)
Inferenza, distribuzione e runtime

Xorbits Inference (Xinference)

xorbitsai/inference

A powerful and versatile library designed to serve language, speech recognition, and multimodal models. It allows users to swap GPT for any LLM by changing a single line of code and run models on cloud, on-prem, or locally via a unified, production-ready inference API.

★ 9,5K⑂ 853Python
Apache-2.0Q98
Screenshot di hal0
Inferenza, distribuzione e runtime

hal0

hal0ai/hal0

An open-source, self-hosted home AI inference platform designed to turn a Linux box into an OpenAI-compatible inference appliance, with native optimization for AMD Strix Halo hardware.

★ 67⑂ 7Python
Apache-2.0Q89

Aggiornato di recente

codex — Coding agent and developer workflowsopenai/codex★ 106,5K NemoClaw — Agent runtime and deployment toolingNVIDIA/NemoClaw★ 22,2K XERJxerj-org/xerj★ 1,4K LangWatchlangwatch/langwatch★ 3,5K OrchestKityonatangross/orchestkit★ 222 hal0hal0ai/hal0★ 67

I più stellati

Hermes Agentnousresearch/hermes-agent★ 227,1K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174,2K skills — Reusable agent skills and workflowsanthropics/skills★ 169,9K Hugging Face Transformershuggingface/transformers★ 163,3K Firecrawlfirecrawl/firecrawl★ 161,1K LangChainlangchain-ai/langchain★ 143,6K