ToolAI.io · Kênh GitHub

Các dự án AI mã nguồn mở trên GitHub

Chỉ mục dựa trên dữ kiện về các dự án phát triển LLM, tác nhân, MCP, RAG và AI, kèm giấy phép, thiết lập, tải xuống, ảnh chụp màn hình và tài nguyên liên quan cho từng mục.

Dữ liệu kho lưu trữ công khai

Mục lục dự án

132 Dự án
LLM & Mô hình nền tảng

Outlines

dottxt-ai/outlines

A library for generating structured, constrained outputs from language models.

★ 15,9K⑂ 901Python
Apache-2.0Q84
Đánh giá, khả năng quan sát & an toàn

OpenLIT

openlit/openlit

OpenTelemetry-native observability and evaluation tools for LLM applications and AI infrastructure.

★ 2,8K⑂ 423Python
Apache-2.0Q84
LLM & Mô hình nền tảng

MiniMax-M2

MiniMax-AI/MiniMax-M2

MiniMax-M2, a model built for Max coding & agentic workflows.

★ 2,6K⑂ 215—
NOASSERTIONQ83
Suy luận, Triển khai & Thời gian chạy

checkpoint-engine

MoonshotAI/checkpoint-engine

Checkpoint-engine is a simple middleware to update model weights in LLM inference engines

★ 982⑂ 100Python
MITQ83
Suy luận, Triển khai & Thời gian chạy

DeepInfer

deepseek-ai/DeepInfer

DeepSeek’s own high-performance inference framework, open-sourced for offline inference of DeepSeek-V4.1-Flash on NVIDIA SM100 GPUs and Huawei Ascend 950 NPUs.

★ 25,7K⑂ 3,2KPython
Apache-2.0Q82
Ảnh chụp màn hình của evals — Model evaluation framework
Đánh giá, khả năng quan sát & an toàn

evals — Model evaluation framework

openai/evals

Evals is a framework for evaluating LLMs and LLM systems, and an open-source registry of benchmarks

★ 19,2K⑂ 3,1KPython
NOASSERTIONQ82
Ảnh chụp màn hình của Qwen3-Coder — Code-focused language models
LLM & Mô hình nền tảng

Qwen3-Coder — Code-focused language models

QwenLM/Qwen3-Coder

Qwen3-Coder is the code version of Qwen3, the large language model series developed by Qwen team

★ 16,8K⑂ 1,2KPython
Không phát hiện giấy phépQ82
Ảnh chụp màn hình của TensorRT-LLM — Optimized LLM inference
Suy luận, Triển khai & Thời gian chạy

TensorRT-LLM — Optimized LLM inference

NVIDIA/TensorRT-LLM

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way

★ 14,4K⑂ 2,7KC++
NOASSERTIONQ82
LLM & Mô hình nền tảng

PaddleFormers

PaddlePaddle/PaddleFormers

PaddleFormers is an easy-to-use library of pre-trained large language model zoo based on PaddlePaddle.

★ 13K⑂ 2,2KPython
Apache-2.0Q81
Suy luận, Triển khai & Thời gian chạy

jan

janhq/jan

A local AI chat application for running models on a personal computer.

★ 44,3K⑂ 3KTypeScript
Không phát hiện giấy phépQ80

Trang 11 / 11 · 132 dự án

Đã cập nhật gần đây

Craft Anythingstorytold/craft-anything★ 27,4K elephant-goldfish-modelgoogle/elephant-goldfish-model★ 15,6K DeepInferdeepseek-ai/DeepInfer★ 25,7K ComfyUIComfy-Org/ComfyUI★ 136,7K CrewAICrewAIInc/crewAI★ 59,5K Microsoft Agent Frameworkmicrosoft/agent-framework★ 14K

Được gắn sao nhiều nhất

ECCaffaan-m/ECC★ 248,8K Hermes Agentnousresearch/hermes-agent★ 227,1K tensorflowtensorflow/tensorflow★ 198,8K AutoGPTSignificant-Gravitas/AutoGPT★ 187,1K ollamaollama/ollama★ 180,2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174,9K