文章目录01 论文信息02 论文主要贡献现存问题03 论文创新点04 方法4.1 核心方法框架4.2 预热阶段Burn‑in Stage4.3 师生互学阶段Teacher‑Student Mutual Learning4.3.1 学生学习Student Learning4.3.2 教师更新Teacher Refinement4.4 类别平衡损失Class‑balance loss05 实验分析06 个人声明01 论文信息论文题目Unbiased Teacher for Semi-Supervised Object Detection论文作者Yen-Cheng Liu, Chih-Yao Ma, Zijian He, Chia-Wen Kuo, Kan Chen, Peizhao Zhang, Bichen Wu, Zsolt Kira, Peter Vajda发表单位Georgia Tech, Facebook Inc发表会议ICLR 2021代码链接https://github.com/facebookresearch/unbiased-teacher02 论文主要贡献通过分析在少量标注下训练的目标检测器本文发现目标检测任务中类别不平衡的特性会让伪标签产生严重分布偏差。本文提出了无偏教师Unbiased Teacher以解决由真实标签中存在的类别不平衡导致的伪标签偏差问题以及由标注数据稀缺引发的过拟合问题。在半监督训练中引入类别平衡损失Focal Loss抑制类别偏置在COCO标准、COCO扩展和VOC数据集上的SS-OD任务中取得了最先进的性能。现存问题目标检测任务中固有的类别不平衡问题会阻碍伪标签方法的应用。目标检测中存在前景-背景不平衡以及前景类别间不平衡问题。这些不平衡问题使得在SSL框架下训练的模型容易生成有偏预测。模型可能会偏向占主导地位且置信度过高的类别背景类而忽略次要且置信度较低的类别前景类。因此在半监督训练中加入有偏的伪标签会加剧类别不平衡问题并引发严重的过拟合。(a) 半监督目标检测的示意图该模型在训练阶段会观察一组带标注数据和一组无标注数据。(b) 本文提出的模型能够高效利用无标注数据且性能优于现有的半监督目标检测方法。当标注占比不断降低纯监督模型性能急剧下滑传统半监督方法CSD、STAC虽有改善但提升有限Unbiased Teacher 在所有标注比例下性能最优标注越少优势越明显。03 论文创新点1系统地揭示了半监督目标检测中伪标签性能退化的根本原因—类别不平衡问题。2提出Unbiased Teacher 师生框架预热初始化教师通过 EMA 动态更新生成稳定伪标签。2使用Focal Loss缓解类别不平衡抑制伪标签向大类偏移。04 方法4.1 核心方法框架如图为Unbiased Teacher 整体框架流程图整个流程分为Burn‑In Stage预热阶段)与Teacher‑Student Mutual Learning Stage师生互学习阶段两大阶段。4.2 预热阶段Burn‑in Stage使用少量带标注数据集训练目标检测器完成模型权重初始化。从这个训练好的检测器出发进一步利用无监督数据优化目标检测器。4.3 师生互学阶段Teacher‑Student Mutual Learning复制预热阶段得到的检测器权重初始化结构完全相同的学生模型与教师模型。4.3.1 学生学习Student Learning无标注样本分别做两种数据增强弱增强送入教师模型强增强送入学生模型。伪标签过滤教师输出后通过置信度阈值τ 类别级NMS筛选得到可用伪框。伪标签仅用于分类损失不参与框回归因为分类置信度无法反映边界框定位质量框位置噪声大。伪标签同时监督RPN分支与ROIHead分支。学生损失由两部分加权构成L t o t a l L s u p λ L u n s u p L_{total}L_{sup}\lambda L_{unsup}LtotalLsupλLunsup4.3.2 教师更新Teacher Refinement学生完成一轮参数更新后采用EMA指数移动平均平滑更新教师权重θ t e a c h e r α ⋅ θ t e a c h e r ( 1 − α ) ⋅ θ s t u d e n t \theta_{teacher} \alpha\cdot\theta_{teacher}(1-\alpha)\cdot\theta_{student}θteacherα⋅θteacher(1−α)⋅θstudent4.4 类别平衡损失Class‑balance loss标准交叉熵会放大类别不平衡带来的伪标签偏置。本文将Focal Loss适配半监督伪标签场景压低高置信大类简单样本损失权重让模型关注少样本难例缓解类别分布偏移。边界框回归仅使用标注样本计算损失无标注样本不参与回归损失计算。05 实验分析该表为 COCO‑standard 数据集实验结果对比不同半监督检测算法在 0.5%‑10% 不同标注占比下的 mAP。Unbiased Teacher 在所有设置下性能最优标注越稀缺提升越显著结果稳定性优于 CSD*、STAC 等对比方法。表格为COCO‑additional数据集结果本文方法AP高于监督基线与CSD、STAC。(a)b)c曲线展示训练迭代过程伪标签质量变化(a) 伪标签分类准确率、(b) 框mIoU随训练迭代逐步升高并稳定、c生成伪框数量逐步提升但仍低于真实标注GT框数量。VOC数据集表格Unbiased Teacher对比CSD、STAC在VOC、跨数据集COCO20cls设置下均取得最优精度。(a)消融曲线同时使用EMAFocal Loss的mAP最高且稳定。(b)类别分布与KL散度KL值越大代表预测类别分布和真实GT偏差越大。仅交叉熵、不使用EMA时KL散度很高类别分布严重失衡EMAFocal Loss组合KL散度最小预测类别分布最贴近真实标注分布有效缓解伪标签带来的类别偏置。06 个人声明本文为作者对原论文的学习笔记与心得分享受个人学识与理解所限文中对论文内容的解读或有不够周全之处一切以原论文正式表述为准。本文仅用于学术交流与传播内容均由作者独立整理完成不代表本文立场。如文中所涉文字、图片等内容存在版权争议请及时与作者联系作者将在第一时间核实并妥善处理。 ICLR 2021 | 用于半监督目标检测的无偏教师
文章目录01 论文信息02 论文主要贡献现存问题03 论文创新点04 方法4.1 核心方法框架4.2 预热阶段Burn‑in Stage4.3 师生互学阶段Teacher‑Student Mutual Learning4.3.1 学生学习Student Learning4.3.2 教师更新Teacher Refinement4.4 类别平衡损失Class‑balance loss05 实验分析06 个人声明01 论文信息论文题目Unbiased Teacher for Semi-Supervised Object Detection论文作者Yen-Cheng Liu, Chih-Yao Ma, Zijian He, Chia-Wen Kuo, Kan Chen, Peizhao Zhang, Bichen Wu, Zsolt Kira, Peter Vajda发表单位Georgia Tech, Facebook Inc发表会议ICLR 2021代码链接https://github.com/facebookresearch/unbiased-teacher02 论文主要贡献通过分析在少量标注下训练的目标检测器本文发现目标检测任务中类别不平衡的特性会让伪标签产生严重分布偏差。本文提出了无偏教师Unbiased Teacher以解决由真实标签中存在的类别不平衡导致的伪标签偏差问题以及由标注数据稀缺引发的过拟合问题。在半监督训练中引入类别平衡损失Focal Loss抑制类别偏置在COCO标准、COCO扩展和VOC数据集上的SS-OD任务中取得了最先进的性能。现存问题目标检测任务中固有的类别不平衡问题会阻碍伪标签方法的应用。目标检测中存在前景-背景不平衡以及前景类别间不平衡问题。这些不平衡问题使得在SSL框架下训练的模型容易生成有偏预测。模型可能会偏向占主导地位且置信度过高的类别背景类而忽略次要且置信度较低的类别前景类。因此在半监督训练中加入有偏的伪标签会加剧类别不平衡问题并引发严重的过拟合。(a) 半监督目标检测的示意图该模型在训练阶段会观察一组带标注数据和一组无标注数据。(b) 本文提出的模型能够高效利用无标注数据且性能优于现有的半监督目标检测方法。当标注占比不断降低纯监督模型性能急剧下滑传统半监督方法CSD、STAC虽有改善但提升有限Unbiased Teacher 在所有标注比例下性能最优标注越少优势越明显。03 论文创新点1系统地揭示了半监督目标检测中伪标签性能退化的根本原因—类别不平衡问题。2提出Unbiased Teacher 师生框架预热初始化教师通过 EMA 动态更新生成稳定伪标签。2使用Focal Loss缓解类别不平衡抑制伪标签向大类偏移。04 方法4.1 核心方法框架如图为Unbiased Teacher 整体框架流程图整个流程分为Burn‑In Stage预热阶段)与Teacher‑Student Mutual Learning Stage师生互学习阶段两大阶段。4.2 预热阶段Burn‑in Stage使用少量带标注数据集训练目标检测器完成模型权重初始化。从这个训练好的检测器出发进一步利用无监督数据优化目标检测器。4.3 师生互学阶段Teacher‑Student Mutual Learning复制预热阶段得到的检测器权重初始化结构完全相同的学生模型与教师模型。4.3.1 学生学习Student Learning无标注样本分别做两种数据增强弱增强送入教师模型强增强送入学生模型。伪标签过滤教师输出后通过置信度阈值τ 类别级NMS筛选得到可用伪框。伪标签仅用于分类损失不参与框回归因为分类置信度无法反映边界框定位质量框位置噪声大。伪标签同时监督RPN分支与ROIHead分支。学生损失由两部分加权构成L t o t a l L s u p λ L u n s u p L_{total}L_{sup}\lambda L_{unsup}LtotalLsupλLunsup4.3.2 教师更新Teacher Refinement学生完成一轮参数更新后采用EMA指数移动平均平滑更新教师权重θ t e a c h e r α ⋅ θ t e a c h e r ( 1 − α ) ⋅ θ s t u d e n t \theta_{teacher} \alpha\cdot\theta_{teacher}(1-\alpha)\cdot\theta_{student}θteacherα⋅θteacher(1−α)⋅θstudent4.4 类别平衡损失Class‑balance loss标准交叉熵会放大类别不平衡带来的伪标签偏置。本文将Focal Loss适配半监督伪标签场景压低高置信大类简单样本损失权重让模型关注少样本难例缓解类别分布偏移。边界框回归仅使用标注样本计算损失无标注样本不参与回归损失计算。05 实验分析该表为 COCO‑standard 数据集实验结果对比不同半监督检测算法在 0.5%‑10% 不同标注占比下的 mAP。Unbiased Teacher 在所有设置下性能最优标注越稀缺提升越显著结果稳定性优于 CSD*、STAC 等对比方法。表格为COCO‑additional数据集结果本文方法AP高于监督基线与CSD、STAC。(a)b)c曲线展示训练迭代过程伪标签质量变化(a) 伪标签分类准确率、(b) 框mIoU随训练迭代逐步升高并稳定、c生成伪框数量逐步提升但仍低于真实标注GT框数量。VOC数据集表格Unbiased Teacher对比CSD、STAC在VOC、跨数据集COCO20cls设置下均取得最优精度。(a)消融曲线同时使用EMAFocal Loss的mAP最高且稳定。(b)类别分布与KL散度KL值越大代表预测类别分布和真实GT偏差越大。仅交叉熵、不使用EMA时KL散度很高类别分布严重失衡EMAFocal Loss组合KL散度最小预测类别分布最贴近真实标注分布有效缓解伪标签带来的类别偏置。06 个人声明本文为作者对原论文的学习笔记与心得分享受个人学识与理解所限文中对论文内容的解读或有不够周全之处一切以原论文正式表述为准。本文仅用于学术交流与传播内容均由作者独立整理完成不代表本文立场。如文中所涉文字、图片等内容存在版权争议请及时与作者联系作者将在第一时间核实并妥善处理。