ToolAI.io · Canal de GitHub

Nuevos proyectos de AI en GitHub

Descubre nuevos proyectos de AI de código abierto en GitHub, con información del repositorio, notas de configuración, licencias y recursos relacionados.

Datos del repositorio público

Índice del proyecto

41 Proyectos
Captura de pantalla de TensorRT-LLM — Optimized LLM inference
Inferencia, implementación y tiempo de ejecución

TensorRT-LLM — Optimized LLM inference

NVIDIA/TensorRT-LLM

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way

★ 14,4K⑂ 2,7KC++
NOASSERTIONQ82
Captura de pantalla de tiktoken — Fast tokenization
Inferencia, implementación y tiempo de ejecución

tiktoken — Fast tokenization

openai/tiktoken

tiktoken is a fast BPE tokeniser for use with OpenAI's models

★ 19K⑂ 1,6KRust
MITQ86

Página 4 / 4 · 41 proyectos

Actualizado recientemente

cherry-studioCherryHQ/cherry-studio★ 51,5K siyuansiyuan-note/siyuan★ 46,2K career-opscareer-ops-hq/career-ops★ 70,2K tensorflowtensorflow/tensorflow★ 198,8K streamlitstreamlit/streamlit★ 45,7K pytorchpytorch/pytorch★ 102,8K

Con más estrellas

ECCaffaan-m/ECC★ 248,8K Hermes Agentnousresearch/hermes-agent★ 227,1K tensorflowtensorflow/tensorflow★ 198,8K AutoGPTSignificant-Gravitas/AutoGPT★ 187,1K ollamaollama/ollama★ 180,2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174,9K