ToolAI.io · GitHub چینل

GitHub پر ٹرینڈنگ AI پروجیکٹس

LLM، ایجنٹ، MCP، RAG اور کوڈنگ کے موضوعات میں فعال اوپن سورس AI ریپوزٹریز کو اسٹارز اور تصدیق شدہ پروجیکٹ معلومات کے ساتھ ٹریک کریں۔

عوامی ریپوزٹری کا ڈیٹا

پروجیکٹ انڈیکس

253 پروجیکٹس
MCP اور ٹول کالنگ

Rapid-MLX

raullenchai/rapid-mlx

The fastest local AI engine for Apple Silicon. 4.2x faster than Ollama, 0.08s cached TTFT, 100% tool calling. 17 tool parsers, prompt cache, reasoning separation, cloud routing. Drop-in OpenAI replacement. Works with Claude Code, Cursor, Aider.

★ 3.5K⑂ 401Python
NOASSERTIONQ96
انفرنس، ڈپلائمنٹ اور رَن ٹائم

llmgateway

theopenco/llmgateway

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.

★ 1.6K⑂ 172TypeScript
NOASSERTIONQ98
انفرنس، ڈپلائمنٹ اور رَن ٹائم

sglang

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

★ 32.2K⑂ 8.1KPython
Apache-2.0Q98
فائن ٹیوننگ، تربیت اور ڈیٹا

DeepSpeed

deepspeedai/deepspeed

DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.

★ 43K⑂ 4.9KPython
Apache-2.0Q94
ایجنٹس اور ملٹی ایجنٹ

ctx

ctxrs/ctx

Search the coding agent history already on your machine

★ 1K⑂ 61Rust
Apache-2.0Q90
انفرنس، ڈپلائمنٹ اور رَن ٹائم

vllm

vllm-project/vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

★ 89.5K⑂ 21KPython
Apache-2.0Q98
ایجنٹس اور ملٹی ایجنٹ

CodeWhale

hmbown/codewhale

Open-source, community-driven agent harness

★ 40.8K⑂ 3.5KRust
MITQ92
ایجنٹس اور ملٹی ایجنٹ

matrixone

matrixorigin/matrixone

AI-native HTAP database with Git-for-Data and built-in vector search, serving as the data and memory backbone for intelligent agents and applications.

★ 1.9K⑂ 307Go
Apache-2.0Q94
1flowbase کا اسکرین شاٹ
ایجنٹس اور ملٹی ایجنٹ

1flowbase

taichuy/1flowbase

An open-source AI gateway that allows local agent clients to publish fusion-style multi-model workflows as OpenAI and Claude-compatible virtual models, providing full observability into traces, tokens, latency, and costs.

★ 259⑂ 19Rust
Apache-2.0Q89
TensorRT-LLM — Optimized LLM inference کا اسکرین شاٹ
انفرنس، ڈپلائمنٹ اور رَن ٹائم

TensorRT-LLM — Optimized LLM inference

NVIDIA/TensorRT-LLM

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way

★ 14.4K⑂ 2.7KC++
NOASSERTIONQ82
hal0 کا اسکرین شاٹ
انفرنس، ڈپلائمنٹ اور رَن ٹائم

hal0

hal0ai/hal0

An open-source, self-hosted home AI inference platform designed to turn a Linux box into an OpenAI-compatible inference appliance, with native optimization for AMD Strix Halo hardware.

★ 68⑂ 7Python
Apache-2.0Q89

صفحہ 5 / 22 · 253 پروجیکٹس

حال ہی میں اپ ڈیٹ کیا گیا

cherry-studioCherryHQ/cherry-studio★ 51.5K siyuansiyuan-note/siyuan★ 46.2K career-opscareer-ops-hq/career-ops★ 70.2K tensorflowtensorflow/tensorflow★ 198.8K streamlitstreamlit/streamlit★ 45.7K pytorchpytorch/pytorch★ 102.8K

سب سے زیادہ اسٹارز والے

ECCaffaan-m/ECC★ 248.8K Hermes Agentnousresearch/hermes-agent★ 227.1K tensorflowtensorflow/tensorflow★ 198.8K AutoGPTSignificant-Gravitas/AutoGPT★ 187.1K ollamaollama/ollama★ 180.2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174.9K