YOLOv8 实例分割训练实战Mask 数据集、训练曲线与测试集预测这篇教程根据我复现 YOLOv8 实例分割流程时整理重点演示预训练分割推理、自定义 mask 数据训练、模型验证和测试集预测。本文整理自我的学习和项目复现过程尽量按实操顺序保留 notebook 的关键步骤同时把数据集获取方式调整为适合中文教程发布的写法。本文会重点跑通以下流程安装 YOLOv8 分割依赖运行 COCO 预训练分割模型从数据集后台获取分割数据集训练 YOLOv8 实例分割模型验证并展示测试集 mask 预测如果你正在系统学习目标检测、实例分割、OCR、多目标跟踪或视觉大模型建议收藏本文配套 notebook、示例图片和运行环境说明后续会继续整理。如果环境配置卡住可以在评论区说明具体报错。 文章目录YOLOv8 实例分割训练实战Mask 数据集、训练曲线与测试集预测⚙️ 环境准备 安装 YOLOv8 预训练分割推理 从数据集后台获取分割数据集️ 自定义训练 验证模型 自定义模型推理 部署说明 小结 同系列教程汇总⚙️ 环境准备先检查 GPU 与基础运行环境。建议优先使用 Colab GPU 或本地 NVIDIA GPU 环境。!nvidia-smiimportos HOMEos.getcwd()print(HOME) 安装 YOLOv8安装 Ultralytics 后先确认版本和环境检查通过。# Pip install method (recommended)!pip install ultralytics8.2.103-qfromIPythonimportdisplay display.clear_output()# 关闭 Ultralytics 运行统计同步!yolo settings syncFalseimportultralytics ultralytics.checks()fromultralyticsimportYOLOfromIPython.displayimportdisplay,Image 预训练分割推理先用预训练分割模型跑通示例图确认分割链路正常。%cd{HOME}!yolo tasksegment modepredict modelyolov8s-seg.pt conf0.25source/content/examplesavetrue%cd{HOME}Image(filenameruns/segment/predict/dog.jpeg,height600)modelYOLO(f{HOME}/yolov8s-seg.pt)resultsmodel.predict(source/content/example,conf0.25)results[0].boxes.xyxyresults[0].boxes.confresults[0].boxes.clsresults[0].masks.data 从数据集后台获取分割数据集从数据集后台导出分割数据确认data.yaml指向 train、valid、test。fromtypesimportSimpleNamespace# 从数据集后台下载 YOLO 分割 格式数据集后修改 DATASET_DIR 指向解压目录。DATASET_DIR/content/dataset# 修改为数据集后台导出的数据集目录datasetSimpleNamespace(locationDATASET_DIR,version1,namecustom-dataset)️ 自定义训练开始训练前重点检查数据路径和类别数量。%cd{HOME}!yolo tasksegment modetrain modelyolov8s-seg.pt data{dataset.location}/data.yaml epochs10imgsz640%cd{HOME}Image(filenamef{HOME}/runs/segment/train/confusion_matrix.png,width600)%cd{HOME}Image(filenamef{HOME}/runs/segment/train/results.png,width600)%cd{HOME}Image(filenamef{HOME}/runs/segment/train/val_batch0_pred.jpg,width600) 验证模型训练完成后先跑验证确认指标和输出目录。%cd{HOME}!yolo tasksegment modeval model{HOME}/runs/segment/train/weights/best.pt data{dataset.location}/data.yaml 自定义模型推理加载训练好的 best.pt在测试集图片上做批量推理。%cd{HOME}!yolo tasksegment modepredict model{HOME}/runs/segment/train/weights/best.pt conf0.25source{dataset.location}/test/images savetrueimportglobfromIPython.displayimportImage,displayforimage_pathinglob.glob(f{HOME}/runs/segment/predict2/*.jpg)[:3]:display(Image(filenameimage_path,height600))print(\n) 部署说明Notebook 原流程包含在线部署。这里保留本地模型路径方便接入自己的部署流程。# 可选将训练得到的模型目录接入自己的部署流程。MODEL_DIR./runsMODEL_DIR# 可选部署完成后可在这里接入自己的在线推理服务进行测试。 小结这篇教程完整整理了Fine-Tune YOLOv8 on Instance Segmentation Dataset的核心复现流程。实际操作时建议先确认 GPU、依赖版本、数据集路径和模型权重路径再逐段运行 notebook。后续我会继续按源项目顺序整理同系列中的目标检测、实例分割、OCR、多目标跟踪和视觉大模型教程。 同系列教程汇总Google Gemini 3.5 Flash 零样本目标检测教程从提示词到可视化结果GLM-OCR 文档识别实战教程从验证码、公式到车牌 OCRRF-DETR ByteTrack 多目标跟踪实战教程从命令行到 Python 视频轨迹可视化SAM 3 图像分割实战教程文本、框和点提示的多种分割方式SAM 3 视频分割实战教程用文本提示分割并跟踪视频中的目标YOLOv8 实例分割训练实战Mask 数据集、训练曲线与测试集预测-本文