ToolAI.io · GitHub-kanaal

Inferentie, implementatie en runtime · Open-source-AI-projecten op GitHub

Een feitengebaseerde index van LLM-, agent-, MCP-, RAG- en AI-ontwikkelingsprojecten, met licentie-, installatie-, download- en screenshotinformatie en gerelateerde bronnen voor elke vermelding.

Populaire tags Agent LLM RAG MCP Coderen Inferentie Toolaanroepen Embeddings Vectordatabank Multimodaal Fine-tuning Evaluatie Open source Zelfgehost Python TypeScript Rust Spraak Computer vision Workflow

Openbare repositorygegevens

Projectindex

3 Projecten
Schermafbeelding van Xorbits Inference (Xinference)
Inferentie, implementatie en runtime

Xorbits Inference (Xinference)

xorbitsai/inference

A powerful and versatile library designed to serve language, speech recognition, and multimodal models. It allows users to swap GPT for any LLM by changing a single line of code and run models on cloud, on-prem, or locally via a unified, production-ready inference API.

★ 9,5K⑂ 853Python
Apache-2.0Q98
Schermafbeelding van hal0
Inferentie, implementatie en runtime

hal0

hal0ai/hal0

An open-source, self-hosted home AI inference platform designed to turn a Linux box into an OpenAI-compatible inference appliance, with native optimization for AMD Strix Halo hardware.

★ 68⑂ 7Python
Apache-2.0Q89
Inferentie, implementatie en runtime

jan

janhq/jan

A local AI chat application for running models on a personal computer.

★ 44,3K⑂ 3KTypeScript
Licentie niet gedetecteerdQ80

Recent bijgewerkt

ComfyUIComfy-Org/ComfyUI★ 136,7K CrewAICrewAIInc/crewAI★ 59,5K Microsoft Agent Frameworkmicrosoft/agent-framework★ 14K TRLhuggingface/trl★ 19,5K mcp-usemcp-use/mcp-use★ 10,7K OpenLITopenlit/openlit★ 2,8K

Meeste sterren

ECCaffaan-m/ECC★ 248,8K Hermes Agentnousresearch/hermes-agent★ 227,1K tensorflowtensorflow/tensorflow★ 198,8K AutoGPTSignificant-Gravitas/AutoGPT★ 187,1K ollamaollama/ollama★ 180,2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174,9K