ToolAI.io · Kênh GitHub

Các dự án AI mới trên GitHub

Khám phá các dự án AI nguồn mở mới được thêm trên GitHub, cùng thông tin kho lưu trữ, hướng dẫn thiết lập, giấy phép và tài nguyên liên quan.

Dữ liệu kho lưu trữ công khai

Mục lục dự án

41 Dự án
Ảnh chụp màn hình của TensorRT-LLM — Optimized LLM inference
Suy luận, Triển khai & Thời gian chạy

TensorRT-LLM — Optimized LLM inference

NVIDIA/TensorRT-LLM

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way

★ 14,4K⑂ 2,7KC++
NOASSERTIONQ82
Ảnh chụp màn hình của tiktoken — Fast tokenization
Suy luận, Triển khai & Thời gian chạy

tiktoken — Fast tokenization

openai/tiktoken

tiktoken is a fast BPE tokeniser for use with OpenAI's models

★ 19K⑂ 1,6KRust
MITQ86
Ảnh chụp màn hình của NemoClaw — Agent runtime and deployment tooling
Tác nhân & Đa tác nhân

NemoClaw — Agent runtime and deployment tooling

NVIDIA/NemoClaw

Run agents like Hermes, LangChain Deep Agents, and OpenClaw more securely inside NVIDIA OpenShell with managed inference

★ 22,2K⑂ 3KPython
Apache-2.0Q86

Trang 4 / 4 · 41 dự án

Đã cập nhật gần đây

cherry-studioCherryHQ/cherry-studio★ 51,5K siyuansiyuan-note/siyuan★ 46,2K career-opscareer-ops-hq/career-ops★ 70,2K tensorflowtensorflow/tensorflow★ 198,8K streamlitstreamlit/streamlit★ 45,7K pytorchpytorch/pytorch★ 102,8K

Được gắn sao nhiều nhất

ECCaffaan-m/ECC★ 248,8K Hermes Agentnousresearch/hermes-agent★ 227,1K tensorflowtensorflow/tensorflow★ 198,8K AutoGPTSignificant-Gravitas/AutoGPT★ 187,1K ollamaollama/ollama★ 180,2K markitdown — Document conversion and extractionmicrosoft/markitdown★ 174,9K