yolo darknet的启示(为什么大家说的残差架构不一样?)
孩子打游戏知道并喜欢上了Knight我喜欢看经典电影近期看了一部叫做Dark Knight黑暗骑士学习神经网络有人出品了yolo系列里边出现了一个叫做darknet-53的神经网络架构非常经典我在想这个发明darknet和yolo的人是不是也喜欢电影黑暗骑士-蝙蝠侠有可能噢人工智能时代yolo系列拯救了工业自动化机器视觉不仅可以识别还可以检测测量还速度快没事就看看yolo-v3突然发现网上都在讲yolo用的darknet架构在使用cbl模块即conbnleakyrelu特别强调的是残差相加在leakyrelu之后即leakyrelu-f(x)x!这个家伙残差一直都是f(x)x-relu!怎么可能我一直就是这样用的有些不动脑筋的死板用cundnn实现的6bn2残差块训练cifar10很不错不过到了极限一旦增加bn层和残差块训练就失败一筹莫展今天似乎机会来了为什么我不试一试leakyrelu-f(x)x!我想先去看看发明人的源码yolo-v3惊奇的是看到没有激活函数leakyrelu在shortcut残差块之后说明什么我之前认真参考了yolo而且遵循了残差反复强调的f(x)x-relu那么真是这样吗为什么我不去试一试网上说的leakyrelu-f(x)x我知道我一旦怀疑我即将突破果然下一节讲怎么实验leakyrelu-f(x)x下下节讲bn层和残差块的继续增加7bn3residualshortcut下下下节用cudnn封装CBLconbnleakyrelu我真是越来越喜欢darknet对我这个机器视觉狂热分子来说darknet正在挽救我的机器视觉