추론, 배포 및 런타임

FastDeploy

PaddlePaddle/FastDeploy

High-performance Inference and Deployment Toolkit for LLMs and VLMs based on PaddlePaddle

★ 3.7K별점
⑂ 755포크 수
697미해결 이슈
Python언어
Apache-2.0라이선스
Q98편집 점수

개요

High-performance Inference and Deployment Toolkit for LLMs and VLMs based on PaddlePaddle

요구 사항, 설치 및 빠른 시작

저장소 메타데이터에 설치 요구 사항이 명시되어 있지 않습니다.

사용 정보

사용 정보는 저장소 메타데이터에 명시되어 있지 않습니다.

모델 호환성 및 사용 사례

저장소 메타데이터에 모델 호환성이 명시되어 있지 않습니다.

라이선스 및 위험 참고 사항

Apache-2.0

ToolAI metadata-only listing: repository metadata is public; editorial content and manual verification are still pending. Quality score was recomputed from live GitHub repository facts on 2026-08-22 UTC using the seven-dimension channel formula.

vllm

vllm-project/vllm

★ 89.5KPython

sglang

sgl-project/sglang

★ 32.2KPython

OpenVINO

openvinotoolkit/openvino

★ 10.6KC++

GPUStack

gpustack/gpustack

★ 5.4KPython