Inférence, déploiement et exécution

checkpoint-engine

MoonshotAI/checkpoint-engine

Checkpoint-engine is a simple middleware to update model weights in LLM inference engines

★ 982Étoiles
⑂ 100Forks
7Problèmes ouverts
PythonLangue
MITLicence
Q83Score éditorial

Vue d’ensemble

Checkpoint-engine is a simple middleware to update model weights in LLM inference engines

Prérequis, installation et démarrage rapide

Les exigences d'installation ne sont pas indiquées dans les métadonnées du dépôt.

Utilisation

L’utilisation n’est pas indiquée dans les métadonnées du dépôt.

Compatibilité des modèles et cas d’usage

La compatibilité des modèles n’est pas indiquée dans les métadonnées du dépôt.

Licence et notes sur les risques

MIT

ToolAI metadata-only listing: repository metadata is public; editorial content and manual verification are still pending. Quality score was recomputed from live GitHub repository facts on 2026-08-27 UTC using the seven-dimension channel formula.

vllm

vllm-project/vllm

★ 89,5KPython

sglang

sgl-project/sglang

★ 32,2KPython

OpenVINO

openvinotoolkit/openvino

★ 10,6KC++

GPUStack

gpustack/gpustack

★ 5,4KPython