ToolAI.io · Canal de GitHub

Inferencia, implementación y tiempo de ejecución · Proyectos de AI de código abierto en GitHub

Un índice basado en hechos de proyectos de desarrollo de LLM, agentes, MCP, RAG y AI, con licencia, configuración, descarga, capturas de pantalla y recursos relacionados para cada entrada.

Etiquetas populares Agente LLM RAG MCP Programación Inferencia Llamadas a herramientas Embeddings Base de datos vectorial Multimodal Ajuste fino Evaluación Abrir código fuente Autohospedado Python TypeScript Rust Voz Visión Flujo de trabajo

Datos del repositorio público

Índice del proyecto

3 Proyectos
Captura de pantalla de Xorbits Inference (Xinference)
Inferencia, implementación y tiempo de ejecución

Xorbits Inference (Xinference)

xorbitsai/inference

A powerful and versatile library designed to serve language, speech recognition, and multimodal models. It allows users to swap GPT for any LLM by changing a single line of code and run models on cloud, on-prem, or locally via a unified, production-ready inference API.

★ 9,5K⑂ 853Python
Apache-2.0Q98
Captura de pantalla de hal0
Inferencia, implementación y tiempo de ejecución

hal0

hal0ai/hal0

An open-source, self-hosted home AI inference platform designed to turn a Linux box into an OpenAI-compatible inference appliance, with native optimization for AMD Strix Halo hardware.

★ 68⑂ 7Python
Apache-2.0Q89
Inferencia, implementación y tiempo de ejecución

jan

janhq/jan

A local AI chat application for running models on a personal computer.

★ 44,3K⑂ 3KTypeScript
Licencia no detectadaQ80

Actualizado recientemente

TypeSafe Python SDKtypesafe-ai/typesafe-sdk-python★ 218 TypeSafe JavaScript SDKtypesafe-ai/typesafe-sdk-js★ 231 TypeSafe Agent Skillstypesafe-ai/skills★ 2K cherry-studioCherryHQ/cherry-studio★ 51,5K onyxonyx-dot-app/onyx★ 32K siyuansiyuan-note/siyuan★ 46,2K

Con más estrellas

ECCaffaan-m/ECC★ 248,8K Hermes Agentnousresearch/hermes-agent★ 227,1K tensorflowtensorflow/tensorflow★ 198,8K AutoGPTSignificant-Gravitas/AutoGPT★ 187,1K ollamaollama/ollama★ 180,2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174,9K