transformers 完整教程机器学习模型推理与训练一站式框架【免费下载链接】transformers Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.项目地址: https://gitcode.com/GitHub_Trending/tra/transformers想跑一个新模型你得查它怎么加载、怎么预处理、怎么推理换个任务再来一遍。transformers 把这些统一成一套 API不管文本、图像还是语音入口都是同一个 pipeline。先跑起来看它输出什么from transformers import pipeline # 一行调用自动下载模型、分词、推理 clf pipeline(sentiment-analysis) print(clf(I really like this framework!))跑完你拿到类似{label: POSITIVE, score: 0.999...}的字典。模型下载、文本切词、前向推理全部自动完成。你不用写任何预处理也不用手动调 forward。它到底能干什么先给一张能力总表方便你对照自己的任务能力域典型任务它返回给你什么文本生成、分类、填空、问答、零样本分类句子、标签、答案位置视觉图像分类、目标检测、语义/全景分割类别、边界框、逐像素掩码音频语音识别、音频分类转写文本、类别多模态视觉语言理解、图文匹配自然语言回答这意味着你可以把看图打标、对话问答、语音转写串在同一个工程里只换模型名就能切换任务。仓库自带真实测试素材。下面这张苹果图就来自测试夹具目录视觉模型的测试拿这种实图当输入文本生成半句话进一段话出能力点GPT、LLaMA、Qwen 这类自回归模型共用同一个生成入口你只管给提示词。from transformers import pipeline gen pipeline(text-generation, modelgpt2) print(gen(The future of machine learning, max_length30, num_beams2))你传一句开头它返回候选续写和打分。想要更长的输出调大max_length就行。想调采样参数仓库里有个现成模板examples/pytorch/text-generation/run_generation.py温度、top-k、随机种子都有开关直接抄来对比生成效果。视觉先框出来再抠出来检测和分割是两个最常用的视觉能力差别就一句话检测回方框分割回逐像素掩码。det pipeline(object-detection, modelfacebook/detr-resnet-50) print(det(tests/fixtures/tests_samples/COCO/000000004016.png))输入这张厨房里的披萨图模型会告诉你披萨在哪、置信度多少。如果换成全景分割任务输出不再是框而是整张掩码图。仓库里这张猫咪照片和它的分割结果正好是一对同一张图经过分割后的输出每个像素都归到了猫、沙发或遥控器某个类别训练Trainer 跑通一轮推理走 pipeline训练走 Trainer还是同一套模型。你需要拼三块模型、数据集、训练参数。from transformers import Trainer, TrainingArguments trainer Trainer( modelmodel, argsTrainingArguments(output_dir./out, num_train_epochs1), train_datasetdataset, ) trainer.train()检查点保存、日志、混合精度都内置了。你翻一遍TrainingArguments的参数表就知道有哪些旋钮可以拧。完整走法看 quicktour 里的训练部分。装好、调通、找到源码pip install transformers要跑主干最新代码就拉仓库git clone https://gitcode.com/GitHub_Trending/tra/transformers四个常用入口先记这几行入口用途pipeline(...)一行推理上手首选AutoTokenizer/AutoModel手动拼分词器 模型对Trainer训练与评估quicktour 文档从推理到训练的完整路径想深入看 安装指南 和 pipeline 教程都在这两篇里。这几个坑不踩能省一晚上版本滞后新模型的model_type旧版库不认识会直接报错。先pip install -U transformers再怀疑模型本身。配对混搭分词器和模型必须同一家族混搭不报错只会给你胡话。设备没指定大模型默认落在 CPU 上跑慢到怀疑人生。显式.to(cuda)或传device参数。离线环境模型权重首次运行才从 Hub 拉取。离线机器要预下载推理时指向本地路径。注意力实现想用 flash attention 得显式传attn_implementationflash_attention_2否则静默回退到 eager。不用再为每个模型单独记加载流程同一套三行代码对新模型照样跑。装上它从 quicktour 的第一个 pipeline 开始跑顺了再看 Trainer。【免费下载链接】transformers Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.项目地址: https://gitcode.com/GitHub_Trending/tra/transformers创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考