EfficientNet

EfficientNet

開發者	Google AI
首次发布	2019年5月
源代码库	github.com/tensorflow/tpu/tree/master/models/official/efficientnet
编程语言	Python
许可协议	Apache许可证 2.0
网站	Google AI博客

EfficientNet 是Google AI研究人员于2019年发表的一系列用于计算机视觉的卷积神经网络（CNN）。其核心创新在于复合缩放，即使用单一参数统一按比例缩放深度、宽度和分辨率的所有维度。

EfficientNet模型已被应用于包括图像分类、目标检测与图像分割在内的各种计算机视觉任务中。

复合缩放

EfficientNet引入了复合缩放方法。该方法不再一次仅缩放网络的单一维度，例如深度（层数）、宽度（通道数）或分辨率（输入图像尺寸），而是使用复合系数$\phi$同时对这三个维度进行统一缩放。具体而言，给定一个基准网络，其深度、宽度与分辨率依据以下公式进行缩放： $${\begin{aligned}{\text{depth multiplier: }}d&=\alpha ^{\phi }\\{\text{width multiplier: }}w&=\beta ^{\phi }\\{\text{resolution multiplier: }}r&=\gamma ^{\phi }\end{aligned}}$$ 需满足约束条件$\alpha \cdot \beta ^{2}\cdot \gamma ^{2}\approx 2$以及$\alpha \geq 1,\beta \geq 1,\gamma \geq 1$。设定$\alpha \cdot \beta ^{2}\cdot \gamma ^{2}\approx 2$的条件，是为了使$\phi$每增加$\phi _{0}$时，在图像上运行该网络所需的总浮点运算次数大约增加$2^{\phi _{0}}$倍。超参数$\alpha$、$\beta$与$\gamma$通过小型网格搜索确定；原论文给出的推荐值分别为1.2、1.1与1.15。

在网络架构方面，研究人员通过神经结构搜索（NAS）优化了模块的选择，并发现MobileNet中使用的倒瓶颈卷积（在其论文中称为MBConv）表现优异。

EfficientNet系列由一系列堆叠的MBConv层组成，各层的形状均由复合缩放决定。最初发表的文献共包含从EfficientNet-B0到EfficientNet-B7 8个模型，其模型规模与准确率依次递增。其中，EfficientNet-B0为基准网络，后续模型则是通过增大$\phi$值对基准网络进行缩放得到的。

变体

EfficientNet已通过神经结构搜索进行适配，以实现在边缘TPU以及集中式TPU或GPU集群上的快速推理。

EfficientNet V2于2021年6月发表。通过包含更多卷积层类型的进一步神经结构搜索，该版本的网络架构得到了持续改进。它还引入了一项新的训练方法，即在训练过程中逐步增大图像尺寸，并结合使用 Dropout、RandAugment和Mixup等正则化技术。作者指出，这种方法能够有效缓解通常与渐进式尺寸调整相关的准确率下降问题。