Inferentie, implementatie en runtime

TensorRT

NVIDIA/TensorRT

NVIDIA® TensorRT™ is an SDK for high-performance deep learning inference on NVIDIA GPUs. This repository contains the open source components of TensorRT.

★ 13,2KSterren
⑂ 2,4KForks
615Openstaande problemen
C++Taal
Apache-2.0Licentie
Q94Redactionele score

Overzicht

NVIDIA® TensorRT™ is an SDK for high-performance deep learning inference on NVIDIA GPUs. This repository contains the open source components of TensorRT.

Vereisten, installatie en snel aan de slag

Installatievereisten staan niet vermeld in de metadata van de repository.

Gebruik

Het gebruik wordt niet vermeld in de metagegevens van de repository.

Modelcompatibiliteit en gebruiksscenario's

Modelcompatibiliteit staat niet vermeld in de metadata van de repository.

Licentie- en risiconotities

Apache-2.0

ToolAI metadata-only listing: repository metadata is public; editorial content and manual verification are still pending. Quality score was recomputed from live GitHub repository facts on 2026-08-22 UTC using the seven-dimension channel formula.

vllm

vllm-project/vllm

★ 89,5KPython

sglang

sgl-project/sglang

★ 32,2KPython

OpenVINO

openvinotoolkit/openvino

★ 10,6KC++

GPUStack

gpustack/gpustack

★ 5,4KPython