ToolAI.io · GitHub 채널

추론, 배포 및 런타임 · GitHub의 오픈 소스 AI 프로젝트

각 항목에 라이선스, 설정, 다운로드, 스크린샷 및 관련 리소스를 제공하는 LLM, 에이전트, MCP, RAG 및 AI 개발 프로젝트의 사실 기반 색인입니다.

공개 리포지토리 데이터

프로젝트 색인

4 프로젝트
Xorbits Inference (Xinference) 스크린샷
추론, 배포 및 런타임

Xorbits Inference (Xinference)

xorbitsai/inference

A powerful and versatile library designed to serve language, speech recognition, and multimodal models. It allows users to swap GPT for any LLM by changing a single line of code and run models on cloud, on-prem, or locally via a unified, production-ready inference API.

★ 9.5K⑂ 853Python
Apache-2.0Q98
hal0 스크린샷
추론, 배포 및 런타임

hal0

hal0ai/hal0

An open-source, self-hosted home AI inference platform designed to turn a Linux box into an OpenAI-compatible inference appliance, with native optimization for AMD Strix Halo hardware.

★ 68⑂ 7Python
Apache-2.0Q89
추론, 배포 및 런타임

DeepInfer

deepseek-ai/DeepInfer

DeepSeek’s own high-performance inference framework, open-sourced for offline inference of DeepSeek-V4.1-Flash on NVIDIA SM100 GPUs and Huawei Ascend 950 NPUs.

★ 25.7K⑂ 3.2KPython
Apache-2.0Q82
추론, 배포 및 런타임

jan

janhq/jan

A local AI chat application for running models on a personal computer.

★ 44.3K⑂ 3KTypeScript
라이선스가 감지되지 않음Q80

최근 업데이트

Craft Anythingstorytold/craft-anything★ 27.4K elephant-goldfish-modelgoogle/elephant-goldfish-model★ 15.6K DeepInferdeepseek-ai/DeepInfer★ 25.7K ComfyUIComfy-Org/ComfyUI★ 136.7K CrewAICrewAIInc/crewAI★ 59.5K Microsoft Agent Frameworkmicrosoft/agent-framework★ 14K

별이 가장 많은

ECCaffaan-m/ECC★ 248.8K Hermes Agentnousresearch/hermes-agent★ 227.1K tensorflowtensorflow/tensorflow★ 198.8K AutoGPTSignificant-Gravitas/AutoGPT★ 187.1K ollamaollama/ollama★ 180.2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174.9K