Inferencia, implementación y tiempo de ejecución

checkpoint-engine

MoonshotAI/checkpoint-engine

Checkpoint-engine is a simple middleware to update model weights in LLM inference engines

★ 982Estrellas
⑂ 100Bifurcaciones
7Problemas abiertos
PythonIdioma
MITLicencia
Q83Puntuación editorial

Resumen

Checkpoint-engine is a simple middleware to update model weights in LLM inference engines

Requisitos, instalación y guía rápida

Los requisitos de instalación no se indican en los metadatos del repositorio.

Uso

El uso no se indica en los metadatos del repositorio.

Compatibilidad de modelos y casos de uso

La compatibilidad del modelo no se indica en los metadatos del repositorio.

Notas sobre la licencia y los riesgos

MIT

ToolAI metadata-only listing: repository metadata is public; editorial content and manual verification are still pending. Quality score was recomputed from live GitHub repository facts on 2026-08-27 UTC using the seven-dimension channel formula.

vllm

vllm-project/vllm

★ 89,5KPython

sglang

sgl-project/sglang

★ 32,2KPython

OpenVINO

openvinotoolkit/openvino

★ 10,6KC++

GPUStack

gpustack/gpustack

★ 5,4KPython