机器人与边缘 AI
mediapipe
google-ai-edge/mediapipe
面向移动端、浏览器和边缘设备的机器学习组件，提供视觉、文本与音频任务 API、模型及定制工具。
★ 36.9K⑂ 6.2KC++
ToolAI.io · GitHub 频道
GitHub 上的热门 AI 项目
一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引；每个条目均包含许可证、设置、下载、截图及相关资源。
公开仓库数据
项目索引
计算机视觉
ultralytics
ultralytics/ultralytics
提供目标检测、分割、姿态估计等视觉模型的训练与推理工具。
★ 61.3K⑂ 11.7KPython
推理、部署与运行时
ray
ray-project/ray
为机器学习训练、调参和模型服务提供分布式计算运行时。
★ 43.7K⑂ 8KPython
推理、部署与运行时
ollama
ollama/ollama
帮助开发者在本地运行和管理大语言模型的工具。
★ 180.2K⑂ 17.7KGo
推理、部署与运行时
LocalAI
mudler/LocalAI
用于自托管多种模型和 AI 服务的本地推理引擎。
★ 48.9K⑂ 4.4KGo
推理、部署与运行时
jan
janhq/jan
支持在个人电脑上运行模型的本地 AI 对话应用。
★ 44.3K⑂ 3KTypeScript
计算机视觉
yolov5
ultralytics/yolov5
基于 PyTorch 的目标检测项目，支持模型训练、推理和导出。
★ 58K⑂ 17.5KPython
微调、训练与数据
ColossalAI
hpcaitech/ColossalAI
面向大模型训练与推理的分布式工具集，提供多种并行策略与内存管理，适合解决单卡装不下或多卡利用不足的问题。
★ 41.4K⑂ 4.5KPython
智能体与多智能体
NemoClaw：Agent runtime and deployment tooling
NVIDIA/NemoClaw
ToolAI 对 NVIDIA/NemoClaw 的客观项目介绍。Run agents like Hermes, LangChain Deep Agents, and OpenClaw more securely inside NVIDIA OpenShell with managed inference
★ 22.2K⑂ 3KPython
推理、部署与运行时
llmgateway
theopenco/llmgateway
Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.
★ 1.6K⑂ 172TypeScript
推理、部署与运行时
sglang
sgl-project/sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
★ 32.2K⑂ 8.1KPython
微调、训练与数据
DeepSpeed
deepspeedai/deepspeed
DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.
★ 43K⑂ 4.9KPython
第 1 / 4 页 · 46 个项目