ToolAI.io · Канал GitHub

AI-проекты с открытым исходным кодом на GitHub

Фактический каталог проектов по разработке LLM, агентов, MCP, RAG и AI с информацией о лицензии, настройке, скачивании, скриншотами и связанными ресурсами для каждой записи.

Данные публичного репозитория

Индекс проекта

132 Проекты
LLM и базовые модели

Outlines

dottxt-ai/outlines

A library for generating structured, constrained outputs from language models.

★ 15,9K⑂ 901Python
Apache-2.0Q84
Оценка, наблюдаемость и безопасность

OpenLIT

openlit/openlit

OpenTelemetry-native observability and evaluation tools for LLM applications and AI infrastructure.

★ 2,8K⑂ 423Python
Apache-2.0Q84
LLM и базовые модели

MiniMax-M2

MiniMax-AI/MiniMax-M2

MiniMax-M2, a model built for Max coding & agentic workflows.

★ 2,6K⑂ 215—
NOASSERTIONQ83
Инференс, развёртывание и среда выполнения

checkpoint-engine

MoonshotAI/checkpoint-engine

Checkpoint-engine is a simple middleware to update model weights in LLM inference engines

★ 982⑂ 100Python
MITQ83
Инференс, развёртывание и среда выполнения

DeepInfer

deepseek-ai/DeepInfer

DeepSeek’s own high-performance inference framework, open-sourced for offline inference of DeepSeek-V4.1-Flash on NVIDIA SM100 GPUs and Huawei Ascend 950 NPUs.

★ 25,7K⑂ 3,2KPython
Apache-2.0Q82
Скриншот evals — Model evaluation framework
Оценка, наблюдаемость и безопасность

evals — Model evaluation framework

openai/evals

Evals is a framework for evaluating LLMs and LLM systems, and an open-source registry of benchmarks

★ 19,2K⑂ 3,1KPython
NOASSERTIONQ82
Скриншот Qwen3-Coder — Code-focused language models
LLM и базовые модели

Qwen3-Coder — Code-focused language models

QwenLM/Qwen3-Coder

Qwen3-Coder is the code version of Qwen3, the large language model series developed by Qwen team

★ 16,8K⑂ 1,2KPython
Лицензия не обнаруженаQ82
Скриншот TensorRT-LLM — Optimized LLM inference
Инференс, развёртывание и среда выполнения

TensorRT-LLM — Optimized LLM inference

NVIDIA/TensorRT-LLM

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way

★ 14,4K⑂ 2,7KC++
NOASSERTIONQ82
LLM и базовые модели

PaddleFormers

PaddlePaddle/PaddleFormers

PaddleFormers is an easy-to-use library of pre-trained large language model zoo based on PaddlePaddle.

★ 13K⑂ 2,2KPython
Apache-2.0Q81
Инференс, развёртывание и среда выполнения

jan

janhq/jan

A local AI chat application for running models on a personal computer.

★ 44,3K⑂ 3KTypeScript
Лицензия не обнаруженаQ80

Страница 11 / 11 · 132 проектов

Недавно обновлено

Craft Anythingstorytold/craft-anything★ 27,4K elephant-goldfish-modelgoogle/elephant-goldfish-model★ 15,6K DeepInferdeepseek-ai/DeepInfer★ 25,7K ComfyUIComfy-Org/ComfyUI★ 136,7K CrewAICrewAIInc/crewAI★ 59,5K Microsoft Agent Frameworkmicrosoft/agent-framework★ 14K

Наибольшее число звёзд

ECCaffaan-m/ECC★ 248,8K Hermes Agentnousresearch/hermes-agent★ 227,1K tensorflowtensorflow/tensorflow★ 198,8K AutoGPTSignificant-Gravitas/AutoGPT★ 187,1K ollamaollama/ollama★ 180,2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174,9K