ToolAI.io · GitHub চ্যানেল

GitHub-এ ট্রেন্ডিং AI প্রজেক্ট

LLM, এজেন্ট, MCP, RAG এবং কোডিং বিষয়ের সক্রিয় ওপেন-সোর্স AI রিপোজিটরিগুলো স্টার ও যাচাইকৃত প্রজেক্ট তথ্যসহ ট্র্যাক করুন।

পাবলিক রিপোজিটরির তথ্য

প্রকল্পের সূচি

253 প্রকল্পসমূহ
MCP ও টুল কলিং

Rapid-MLX

raullenchai/rapid-mlx

The fastest local AI engine for Apple Silicon. 4.2x faster than Ollama, 0.08s cached TTFT, 100% tool calling. 17 tool parsers, prompt cache, reasoning separation, cloud routing. Drop-in OpenAI replacement. Works with Claude Code, Cursor, Aider.

★ 3.5K⑂ 401Python
NOASSERTIONQ96
ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম

llmgateway

theopenco/llmgateway

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.

★ 1.6K⑂ 172TypeScript
NOASSERTIONQ98
ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম

sglang

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

★ 32.2K⑂ 8.1KPython
Apache-2.0Q98
ফাইন-টিউনিং, প্রশিক্ষণ ও ডেটা

DeepSpeed

deepspeedai/deepspeed

DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.

★ 43K⑂ 4.9KPython
Apache-2.0Q94
এজেন্ট ও মাল্টি-এজেন্ট

ctx

ctxrs/ctx

Search the coding agent history already on your machine

★ 1K⑂ 61Rust
Apache-2.0Q90
ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম

vllm

vllm-project/vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

★ 89.5K⑂ 21KPython
Apache-2.0Q98
এজেন্ট ও মাল্টি-এজেন্ট

CodeWhale

hmbown/codewhale

Open-source, community-driven agent harness

★ 40.8K⑂ 3.5KRust
MITQ92
এজেন্ট ও মাল্টি-এজেন্ট

matrixone

matrixorigin/matrixone

AI-native HTAP database with Git-for-Data and built-in vector search, serving as the data and memory backbone for intelligent agents and applications.

★ 1.9K⑂ 307Go
Apache-2.0Q94
1flowbase-এর স্ক্রিনশট
এজেন্ট ও মাল্টি-এজেন্ট

1flowbase

taichuy/1flowbase

An open-source AI gateway that allows local agent clients to publish fusion-style multi-model workflows as OpenAI and Claude-compatible virtual models, providing full observability into traces, tokens, latency, and costs.

★ 259⑂ 19Rust
Apache-2.0Q89
TensorRT-LLM — Optimized LLM inference-এর স্ক্রিনশট
ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম

TensorRT-LLM — Optimized LLM inference

NVIDIA/TensorRT-LLM

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way

★ 14.4K⑂ 2.7KC++
NOASSERTIONQ82
hal0-এর স্ক্রিনশট
ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম

hal0

hal0ai/hal0

An open-source, self-hosted home AI inference platform designed to turn a Linux box into an OpenAI-compatible inference appliance, with native optimization for AMD Strix Halo hardware.

★ 68⑂ 7Python
Apache-2.0Q89

পৃষ্ঠা 5 / 22 · 253টি প্রজেক্ট

সম্প্রতি আপডেট করা হয়েছে

cherry-studioCherryHQ/cherry-studio★ 51.5K siyuansiyuan-note/siyuan★ 46.2K career-opscareer-ops-hq/career-ops★ 70.2K tensorflowtensorflow/tensorflow★ 198.8K streamlitstreamlit/streamlit★ 45.7K pytorchpytorch/pytorch★ 102.8K

সর্বাধিক স্টারপ্রাপ্ত

ECCaffaan-m/ECC★ 248.8K Hermes Agentnousresearch/hermes-agent★ 227.1K tensorflowtensorflow/tensorflow★ 198.8K AutoGPTSignificant-Gravitas/AutoGPT★ 187.1K ollamaollama/ollama★ 180.2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174.9K