ToolAI.io · GitHub-Kanal

Inferenz, Bereitstellung & Laufzeit · Open-Source-AI-Projekte auf GitHub

Ein faktenbasierter Index von LLM-, Agenten-, MCP-, RAG- und AI-Entwicklungsprojekten mit Lizenz, Einrichtung, Download, Screenshots und verwandten Ressourcen für jeden Eintrag.

Daten des öffentlichen Repositorys

Projektindex

2 Projekte
Inferenz, Bereitstellung & Laufzeit

Model-Optimizer

NVIDIA/Model-Optimizer

A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.

★ 3,3K⑂ 513Python
Apache-2.0Q86
Inferenz, Bereitstellung & Laufzeit

DeepInfer

deepseek-ai/DeepInfer

DeepSeek’s own high-performance inference framework, open-sourced for offline inference of DeepSeek-V4.1-Flash on NVIDIA SM100 GPUs and Huawei Ascend 950 NPUs.

★ 25,7K⑂ 3,2KPython
Apache-2.0Q82

Kürzlich aktualisiert

Craft Anythingstorytold/craft-anything★ 27,4K elephant-goldfish-modelgoogle/elephant-goldfish-model★ 15,6K DeepInferdeepseek-ai/DeepInfer★ 25,7K ComfyUIComfy-Org/ComfyUI★ 136,7K CrewAICrewAIInc/crewAI★ 59,5K Microsoft Agent Frameworkmicrosoft/agent-framework★ 14K

Mit den meisten Sternen

ECCaffaan-m/ECC★ 248,8K Hermes Agentnousresearch/hermes-agent★ 227,1K tensorflowtensorflow/tensorflow★ 198,8K AutoGPTSignificant-Gravitas/AutoGPT★ 187,1K ollamaollama/ollama★ 180,2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174,9K