transformers(模型加载框架)

作者 模型前线

想把开源模型跑起来,最烦的是每个模型一套加载代码、换一个就要重写。Transformers 把文本、视觉、语音、多模态模型的加载和推理接口统一了,三行代码就能跑。GitHub 16.8 万星。

Github
项目 效率工具 v1.0.0 热度 465

项目说明

Transformers 是什么

Transformers 是 Hugging Face 维护的模型定义框架,用来加载和微调预训练模型。它的价值不是某个具体模型,而是统一:文本、视觉、音频、多模态任务都用同一套 pipeline 和 from_pretrained 接口。

模型权重托管在 Hub 上,写一个仓库名就能下载使用。它也支持从本地目录、私有仓库加载,方便离线部署。

任务类型调用方式典型用途
文本生成 / 对话pipeline 或 transformers chat本地跑对话模型
自动语音识别pipeline 的 ASR 任务音频转文字
图像分类 / 检测vision pipeline视觉识别
多模态 VLM视觉语言模型统一接口图文问答

Transformers 怎么安装

# 建虚拟环境
python -m venv .my-env
source .my-env/bin/activate

# 安装(pip)
pip install "transformers[torch]"

# 或者用 uv
uv pip install "transformers[torch]"

要从源码开发则先 git clone 仓库,再在仓库目录里执行 pip install '.[torch]'。

Transformers 怎么使用

  1. 最快验证:transformers chat Qwen/Qwen2.5-0.5B-Instruct,直接在终端对话
  2. 代码里用 AutoTokenizer 和 AutoModel 按仓库名加载模型
  3. 用 pipeline 把预处理、推理、后处理串成一行调用
  4. 换模型只改仓库名字符串,不用改代码结构

Transformers 适合谁用

  • 做 AI 应用、需要快速把开源模型接进产品的开发者
  • 想在本地或私有环境跑模型、不做训练的团队
  • 做研究、要对比多个预训练模型效果的人

Transformers 项目地址

  • GitHub 仓库:https://github.com/huggingface/transformers
  • 模型库:https://huggingface.co/models