ToolAI.io · Канал GitHub

Инференс, развёртывание и среда выполнения · AI-проекты с открытым исходным кодом на GitHub

Фактический каталог проектов по разработке LLM, агентов, MCP, RAG и AI с информацией о лицензии, настройке, скачивании, скриншотами и связанными ресурсами для каждой записи.

Популярные теги Агент LLM RAG MCP Программирование Инференс Вызов инструментов Эмбеддинги Векторная база данных Мультимодальный Дообучение Оценка Исходный код Самостоятельный хостинг Python TypeScript Rust Голос Компьютерное зрение Рабочий процесс

Данные публичного репозитория

Индекс проекта

3 Проекты
Скриншот Xorbits Inference (Xinference)
Инференс, развёртывание и среда выполнения

Xorbits Inference (Xinference)

xorbitsai/inference

A powerful and versatile library designed to serve language, speech recognition, and multimodal models. It allows users to swap GPT for any LLM by changing a single line of code and run models on cloud, on-prem, or locally via a unified, production-ready inference API.

★ 9,5K⑂ 853Python
Apache-2.0Q98
Скриншот hal0
Инференс, развёртывание и среда выполнения

hal0

hal0ai/hal0

An open-source, self-hosted home AI inference platform designed to turn a Linux box into an OpenAI-compatible inference appliance, with native optimization for AMD Strix Halo hardware.

★ 68⑂ 7Python
Apache-2.0Q89
Инференс, развёртывание и среда выполнения

jan

janhq/jan

A local AI chat application for running models on a personal computer.

★ 44,3K⑂ 3KTypeScript
Лицензия не обнаруженаQ80

Недавно обновлено

cherry-studioCherryHQ/cherry-studio★ 51,5K siyuansiyuan-note/siyuan★ 46,2K career-opscareer-ops-hq/career-ops★ 70,2K tensorflowtensorflow/tensorflow★ 198,8K streamlitstreamlit/streamlit★ 45,7K pytorchpytorch/pytorch★ 102,8K

Наибольшее число звёзд

ECCaffaan-m/ECC★ 248,8K Hermes Agentnousresearch/hermes-agent★ 227,1K tensorflowtensorflow/tensorflow★ 198,8K AutoGPTSignificant-Gravitas/AutoGPT★ 187,1K ollamaollama/ollama★ 180,2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174,9K