RTSeg
Bamboo Lv3

RTSeg: Real-time Semantic Segmentation Comparative Study

这一篇更加关注计算效率,以下是一些些翻译加一些些理解。

针对于编码和解码模块设计出了可以灵活替换的子模块,方便大家可以方便的替换编码或者解码模块,从而针对不同任务设计不同的网络结构。

ABSTRACT(摘要)

Semantic segmentation benefits robotics related applications, especially autonomous driving. Most of the research on semantic segmentation only focuses on increasing the accuracy of segmentation models with little attention to computationally efficient solutions. The few work conducted in this direction does not provide principled methods to evaluate the different design choices for segmentation. In this paper, we address this gap by presenting a real-time semantic segmentation benchmarking framework with a decoupled design for feature extraction and decoding methods. The framework is comprised of different network architectures for feature extraction such as VGG16, Resnet18, MobileNet, and ShuffleNet. It is also comprised of multiple meta-architectures for segmentation that define the decoding methodology. These include SkipNet, UNet, and Dilation Frontend. Experimental results are presented on the Cityscapes dataset for urban scenes. The modular design allows novel architectures to emerge, that lead to 143x GFLOPs reduction in comparison to SegNet. This benchmarking framework is publicly available at 1 .

在语义分割上大多数都是提升精度,但是很少关注计算效率高的解决方案,针对这一空白,提出了一个实时语义分割基准框架,对特征提取和解码进行了解耦设计。

特征提取用了不同的网络结构:VGG16、Resnet18、MobileNet和ShuffleNet;解码是由多个用于分割的元架构定义的:SkipNet、UNet和Dilation Frontend。

INTRODUCTION(介绍)

image-20231101224230740

主要贡献:

  1. 将特征提取模块和解码器进行了模块化解耦,并将器成为元架构(有助于理解网络不同部分对实时性能的影响)
  2. 消融实验突出了精度和速度的平衡
  3. 我们框架的模块化设计出现了两种新颖的分割架构,分别使用MobileNet [14] 和具有多种解码方法的 ShuffleNet [15]。与 SegNet 相比,ShuffleNet 减少了 143 倍的 GFLOPs。

SkipNet

解码器模块介绍

屏幕截图 2023-11-14 172740

图2(a)是SkipNet的解码结构,类似于FCN8s的结构,其中较高高分辨率的特征图通过1x1卷积来将通道数量减少到最终的类别数量,每一个通道都对应着一个类别。

图2(b)是UNet的解码结构,Unet结构提供的解码方式为:利用反卷积,将与下采样阶段对应的特征图进行上采样。上采样的特征图与下采样中有相同分辨率的特征图进行融合。逐级向上采样提供的精度比一次8倍向上采样的精度更高。目前采用的融合方法是逐元素相加,concatenation的方法可以提供更高的准确率,因为其确保了网络能够学习特征的加权融合,但是这样会增加计算量(concatenation会改变通道数量)。上采样之后的特征最后会接一个1x1的卷积来输出最后的逐元素分类。

对于Dilation Frontend的解码结构,文中并没有给出示意图,Dilation Frontend结构利用了空洞卷积来取代下采样。空洞卷积确保了网络能够保留足够的感受野的同时,不会降低特征图的分辨率。但是副作用就是计算量的增加,修改编码器网络使得下采样率从32变为8。下采样的减少是通过删除池化层或将步幅为2的卷积转换为步幅为1的卷积来完成的。然后,将池化或正常的卷积替换为两个空洞率为2和4的空洞卷积[3]。

Powered by Hexo & Theme Keep
Total words 28.5k Unique Visitor Page View