推理、部署与运行时

Hugging Face Transformers

huggingface/transformers

一个面向文本、视觉、音频和多模态领域最先进机器学习模型的模型定义框架,同时支持推理和训练。

★ 163.3K星级
⑂ 34.1KFork 数
2343未解决的问题
Python语言
Apache-2.0许可证
Q@project.QualityScore编辑评分

项目截图

Hugging Face Transformers 的截图 Hugging Face Transformers 的截图

概览

Transformers 作为一个中心化的模型定义框架,确保了与更广泛的机器学习生态系统的兼容性。通过标准化模型定义,它允许与各种训练框架(如 Axolotl、Unsloth、DeepSpeed 和 PyTorch-Lightning)以及推理引擎(如 vLLM、SGLang 和 TGI)进行无缝集成。该库提供了具有最少抽象的统一 API,使研究人员和开发者能够轻松利用 Hugging Face Hub 上超过 100 万个预训练模型检查点。

主要功能

  • 跨文本、视觉、音频和多模态任务的预训练模型统一 API
  • 与主要训练框架和推理引擎兼容
  • 访问 Hugging Face Hub 上超过 100 万个模型检查点
  • 用于跨模态轻松推理的高级 Pipeline API
  • 支持模型定制并暴露模型内部结构

要求、安装和快速入门

使用 venv 或 uv 创建并激活虚拟环境。通过 pip 安装支持 PyTorch 的 Transformers:'pip install "transformers[torch]"',或通过 uv 安装:'uv pip install "transformers[torch]"'。如需获取最新更改,请通过克隆仓库从源码安装,并运行 'pip install ".[torch]"'。

用法

通过指定任务和模型来实例化 pipeline,然后传入输入数据以获取结果。例如,使用 'pipeline(task="text-generation", model="Qwen/Qwen2.5-1.5B")' 进行文本生成。对于基于聊天的交互,构建聊天历史并将其传递给 pipeline。

模型兼容性与使用场景

支持广泛的模型,包括跨各种模态的 Qwen、Llama、Whisper、DINOv2、BLIP、Mixtral、BART、T5、Gemma 等。

许可证与风险说明

在 Apache 许可证 2.0 版本下授权。

Editorial verification 2026-08-09: repository URL, owner, description, license and repository statistics were reviewed. License metadata: Apache-2.0. README was fetched for the channel draft; re-check repository dependencies, releases and model terms before production use.

发布与维护

Not stated in the repository metadata

OpenVINO

openvinotoolkit/openvino

★ 10.6KC++

GPUStack

gpustack/gpustack

★ 5.4KPython