作者丨Lart
编辑丨极市平台
导读
本文在显著性目标检测任务（SOD）中，首次引入自监督预训练。凭借提出的有效的前置任务（pretext task），在仅使用少量无标签的RGB-D数据进行预训练的情况下，该模型仍能够具有竞争力的表现。
大连理工 IIAU Lab 提出 SSLSOD：自监督预训练的 RGB-D 显著性目标检测模型。该文在显著性目标检测任务（SOD）中，首次引入自监督预训练。凭借提出的有效的前置任务（pretext task），在仅使用少量无标签的RGB-D数据进行预训练的情况下，该模型仍能够具有竞争力的表现。
论文链接：/pdf/2101.12482.pdf
工作动机
现有的全监督SOD方法几乎都是采用基于ImageNet预训练的Backbone作为编码器，与解码器（随机初始化）同时进行微调来完成SOD这一下游任务（downstream task)。然而，ImageNet数据量庞大且需要人工标注，对ImageNet的过度依赖会产生许多负面影响。最近几年，自监督学习发展火热，潜力巨大。
对于 RGB-D SOD 任务本身，从特征融合角度，主要涉及跨模态融合以及跨层级融合。然而，现有的 RGB-D SOD 方法主要关注于跨模态融合，并为之设计了各式各样甚至繁琐的结构，却忽略了跨层级融合的设计。从网络结构角度，Saliency map的生成最终是由解码器完成的，倘若跨层级融合不充分，那么即使跨模态融合相当完美，最终的性能也将会大打折扣。RGB与Depth，High-level 与 Low-level 的融合，其根本属性都是一对具有互补属性关系的特征。因此，从互补属性出发，设计一个简单&有效&通用的融合模块是十分有必要的。
解决方案
为了制定合理的自监督预训练任务，我们需要详细分析为何采用 ImageNet 预训练可以在 SOD 获得不错的效果。首先，借助分类任务，经过 ImageNet 预训练的网络其通过类激活图（CAM）可以观察到，对于显著性目标往往有着较高的注意力。在现实生活中，显著性目标在深度位置上，相比于背景也往往有着较明显的对比（Depth）。
为此，利用 Depth Estimation 这一任务，能够帮助编码器提升显著性目标的定位能力。然后，我们列举了一个典型的基于 ImageNet 预训练的 RGB-D 抽象结构图。RGB 与 Depth 同时加载相同的 Classification 的预训练权重，解码器联合两个模态特征完成 SOD 这一相同任务。
类比以上过程，我们首先提出了第一个Pretext task：跨模态自编码器（Cross-modal Auto-encoder）。两模态间的相互预测，能够缩减其之间的 GAP（主要是指 RGB 模态反映了一个场景的外观，而深度模态体现了不同位置的相对空间距离。显著目标可能外观光滑，但深度不同，反之亦然。为了完整地分割目标，我们必须对齐多模态特征，即缩小两种模态之间的差距。跨模态自编码器可以促进 RGB 和深度编码器相互深度感知，使得每个编码器的特征流具有多模态属性，从而实现对齐）。设计 Depth 预测 RGB 的另一个好处是可以挖掘Depth编码器的潜能（越困难的任务往往越有利于上下文信息的挖掘 [Scaling and benchmarking self-supervised visual representation learning, CVPR ]。）
接着，我们按照图中类比设计了第二个Pretext task：深度轮廓估计（Depth-contour Estimation）。该任务的设计来源于三方面：（1）确定的预测任务为模态间的融合提供了条件。（2）Contour 是下游任务的预测图中的一个基本属性，倘若能够有着精准的 Contour Estimation，会极大的缓解下游任务的压力，即仅需完成 Contour 内外的前景/背景分类。（3）Depth-Contour 相比于 RGB-Contour 的背景干扰更少且关于显著性的信息更多。
我们提出了一个称为一致性-差异聚合（CDA）的通用模块，以实现跨模态和跨层级的融合。具体来说，对于具有互补关系的两类特征，我们计算它们的联合一致（JC）特征和联合差异（JD）特征。JC更加关注它们的一致性，抑制非显著信息的干扰，而 JD 描绘了它们在显著区域的差异，鼓励跨模态或跨层级对齐。
网络框架
本文的自监督预训练和下游任务均采用的同一个网络框架。因此，能够在预训练结束后，可以无缝地加载预训练权重，更容易训练。
实验结果
Ours-SSL 虽然没有超过 Ours-ImageNet，但是却可以超越一些其他 ImageNet-based 的方法。
我们设计的第一个前置任务的权重，可以直接作为其他 RGB-D SOD 的编码器初始化，可以看到相比于随机初始化，具有明显的优势。
我们给出一些本文的潜在/未来工作：
（1）对解码器进行自监督预训练。以往的方法忽视了对解码器预训练，仅是简单的使用随机初始化解码器权重（潜在工作）。
（2）半自监督。半监督与自监督交织在一起（未来工作）。
（3）虽然，本文设计的自监督模型与 ImageNet-based 模型之间的性能仍有差距，但是当前仅使用了少于 0.5% ImageNet 规模的数据量，增大预训练规模，潜力巨大（未来工作）。
总结
本文是第一个引入自监督预训练到SOD任务中的工作。
本文是第一个旨在统一跨模态与跨层级融合的RGB-D SOD工作。
代码后续开源（预计AAAI 线上开会结束后），请关注：/Xiaoqi-Zhao-DLUT/SSLSOD
更多相关工作，请关注作者个人主页：https://xiaoqi-zhao-dlut.github.io
本文仅做学术分享，如有侵权，请联系删文。
3D视觉精品课程推荐：
1.面向自动驾驶领域的多传感器数据融合技术
2.面向自动驾驶领域的3D点云目标检测全栈学习路线！(单模态+多模态/数据+代码)
3.彻底搞透视觉三维重建：原理剖析、代码讲解、及优化改进
4.国内首个面向工业级实战的点云处理课程
5.激光-视觉-IMU-GPS融合SLAM算法梳理和代码讲解
6.彻底搞懂视觉-惯性SLAM：基于VINS-Fusion正式开课啦
7.彻底搞懂基于LOAM框架的3D激光SLAM: 源码剖析到算法优化
8.彻底剖析室内、室外激光SLAM关键算法原理、代码和实战(cartographer+LOAM +LIO-SAM)
9.从零搭建一套结构光3D重建系统[理论+源码+实践]
10.单目深度估计方法：算法梳理与代码实现
11.自动驾驶中的深度学习模型部署实战
12.相机模型与标定(单目+双目+鱼眼）
13.重磅！四旋翼飞行器：算法与实战
重磅！3DCVer-学术论文写作投稿交流群已成立
扫码添加小助手微信，可申请加入3D视觉工坊-学术论文写作与投稿微信交流群，旨在交流顶会、顶刊、SCI、EI等写作与投稿事宜。
同时也可申请加入我们的细分方向交流群，目前主要有3D视觉、CV&深度学习、SLAM、三维重建、点云后处理、自动驾驶、多传感器融合、CV入门、三维测量、VR/AR、3D人脸识别、医疗影像、缺陷检测、行人重识别、目标跟踪、视觉产品落地、视觉竞赛、车牌识别、硬件选型、学术交流、求职交流、ORB-SLAM系列源码交流、深度估计等微信群。
一定要备注：研究方向+学校/公司+昵称，例如：”3D视觉+ 上海交大 + 静静“。请按照格式备注，可快速被通过且邀请进群。原创投稿也请联系。
▲长按加微信群或投稿
▲长按关注公众号
3D视觉从入门到精通知识星球：针对3D视觉领域的视频课程（三维重建系列、三维点云系列、结构光系列、手眼标定、相机标定、激光/视觉SLAM、自动驾驶等）、知识点汇总、入门进阶学习路线、最新paper分享、疑问解答五个方面进行深耕，更有各类大厂的算法工程人员进行技术指导。与此同时，星球将联合知名企业发布3D视觉相关算法开发岗位以及项目对接信息，打造成集技术与就业为一体的铁杆粉丝聚集区，近4000星球成员为创造更好的AI世界共同进步，知识星球入口：
学习3D视觉核心技术，扫描查看介绍，3天内无条件退款
圈里有高质量教程资料、答疑解惑、助你高效解决问题
觉得有用，麻烦给个赞和在看~
