通过结构重参数机制实现特征复用的作者们,赋予了ghostnet新的生命力,提出了硬件友好的方案repg
通过结构重参数机制实现特征复用的作者们,赋予了ghostnet新的生命力,提出了硬件友好的方案repghostnet。在imagenet和coco基线任务中,验证了该方案的有效性和高效性。下图显示,与mobileone、mobilenext等轻量型架构相比,repghostnet表现更加出色!速览版请继续阅读!
出发点
GhostNet通过引入廉价操作实现特征复用,但引入了对硬件不友好的Concat操作。尽管Concat特征复用无需参数和FLOPs,但其计算耗时不可忽视,如上图所示。那么,如何更高效地进行特征复用呢?答案是结构重参数!!!
上图展示了从Ghost到RepGhost的进化过程,包括以下三点:
使用Add替代Concat以降低耗时;迁移ReLU以符合重参数折叠机制;引入BN到shortcut分支进一步提升非线性。上图展示了Bottleneck的改进过程:主要体现在通道数的调整,这是因为从Concat到Add的过渡会导致通道数发生变化。作者主要调整了中间通道数,而保持输入与输出通道数不变。
本文的实验结果
以下两个表格展示了在ImageNet和COCO数据集上的性能对比,RepGhost在轻量化方面表现出色,FLOPs基本在300M以内。
菜鸟下载发布此文仅为传递信息,不代表菜鸟下载认同其观点或证实其描述。
版权投诉请发邮件到 cn486com#outlook.com (把#改成@),我们会尽快处理
Copyright © 2019-2020 菜鸟下载(www.cn486.com).All Reserved | 备案号:湘ICP备2023003002号-8
本站资源均收集整理于互联网,其著作权归原作者所有,如有侵犯你的版权,请来信告知,我们将及时下架删除相应资源