ToolAI.io · Канал GitHub

Популярные AI-проекты на GitHub

Отслеживайте активные AI-репозитории с открытым исходным кодом по темам LLM, агентов, MCP, RAG и программирования, с количеством звёзд и проверенными сведениями о проектах.

Данные публичного репозитория

Индекс проекта

41 Проекты
Компьютерное зрение

ultralytics

ultralytics/ultralytics

Training and inference tools for object detection, segmentation and pose estimation models.

★ 61,3K⑂ 11,7KPython
AGPL-3.0Q90
Инференс, развёртывание и среда выполнения

ray

ray-project/ray

A distributed computing runtime for machine learning training, tuning and model serving.

★ 43,7K⑂ 8KPython
Apache-2.0Q85
Инференс, развёртывание и среда выполнения

ollama

ollama/ollama

A tool for running and managing large language models locally.

★ 180,2K⑂ 17,7KGo
MITQ90
Инференс, развёртывание и среда выполнения

LocalAI

mudler/LocalAI

A local inference engine for self-hosting models and AI services.

★ 48,9K⑂ 4,4KGo
MITQ85
Инференс, развёртывание и среда выполнения

jan

janhq/jan

A local AI chat application for running models on a personal computer.

★ 44,3K⑂ 3KTypeScript
Лицензия не обнаруженаQ80
Компьютерное зрение

yolov5

ultralytics/yolov5

A PyTorch-based object detection project with training, inference and export workflows.

★ 58K⑂ 17,5KPython
AGPL-3.0Q90
Скриншот NemoClaw — Agent runtime and deployment tooling
Агенты и мультиагенты

NemoClaw — Agent runtime and deployment tooling

NVIDIA/NemoClaw

Run agents like Hermes, LangChain Deep Agents, and OpenClaw more securely inside NVIDIA OpenShell with managed inference

★ 22,2K⑂ 3KPython
Apache-2.0Q86
Инференс, развёртывание и среда выполнения

llmgateway

theopenco/llmgateway

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.

★ 1,6K⑂ 172TypeScript
NOASSERTIONQ98
Инференс, развёртывание и среда выполнения

sglang

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

★ 32,2K⑂ 8,1KPython
Apache-2.0Q98
Дообучение, обучение и данные

DeepSpeed

deepspeedai/deepspeed

DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.

★ 43K⑂ 4,9KPython
Apache-2.0Q94
Инференс, развёртывание и среда выполнения

vllm

vllm-project/vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

★ 89,5K⑂ 21KPython
Apache-2.0Q98
Скриншот TensorRT-LLM — Optimized LLM inference
Инференс, развёртывание и среда выполнения

TensorRT-LLM — Optimized LLM inference

NVIDIA/TensorRT-LLM

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way

★ 14,4K⑂ 2,7KC++
NOASSERTIONQ82

Страница 1 / 4 · 41 проектов

Недавно обновлено

cherry-studioCherryHQ/cherry-studio★ 51,5K siyuansiyuan-note/siyuan★ 46,2K career-opscareer-ops-hq/career-ops★ 70,2K tensorflowtensorflow/tensorflow★ 198,8K streamlitstreamlit/streamlit★ 45,7K pytorchpytorch/pytorch★ 102,8K

Наибольшее число звёзд

ECCaffaan-m/ECC★ 248,8K Hermes Agentnousresearch/hermes-agent★ 227,1K tensorflowtensorflow/tensorflow★ 198,8K AutoGPTSignificant-Gravitas/AutoGPT★ 187,1K ollamaollama/ollama★ 180,2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174,9K