개요
A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.
요구 사항, 설치 및 빠른 시작
저장소 메타데이터에 설치 요구 사항이 명시되어 있지 않습니다.
사용 정보
사용 정보는 저장소 메타데이터에 명시되어 있지 않습니다.
모델 호환성 및 사용 사례
저장소 메타데이터에 모델 호환성이 명시되어 있지 않습니다.
라이선스 및 위험 참고 사항
Apache-2.0
ToolAI metadata-only listing: repository metadata is public; editorial content and manual verification are still pending. Quality score was recomputed from live GitHub repository facts on 2026-08-22 UTC using the seven-dimension channel formula.