自动驾驶样本库中雪天场景融合构建方法
Snowy scene integration construction method in autonomous driving sample library
通讯作者:
收稿日期: 2024-10-14
| 基金资助: |
|
Received: 2024-10-14
| Fund supported: | 国家自然科学基金资助项目(52472446);国家重点研发计划项目(2021YFB2501200);陕西省留学人员科技活动择优资助项目(2023001);中央高校基本科研业务费资助项目(300102325501). |
作者简介 About authors
董兆龙(2001—),男,硕士生,从事图像处理和信息融合研究.orcid.org/0009-0008-4426-8830.E-mail:
自动驾驶感知性能训练所需的雪天场景样本库数据收集难度大,样本数量较少,为此提出基于感知估计的雪天场景构建算法. 将雪天场景划分为积雪模型和雪线模型,提出基于空间感知的积雪平面构建算法,分析图像细微的梯度变化,估计初步积雪区域. 使用连通域分析方法细化初步积雪区域,将积雪区域与原图融合,获得积雪场景图像. 提出基于随机雪线模型的雪天场景构建算法,生成不同运动方向的雪花. 将积雪模型和雪线模型融合,利用多种基础雪线形态构建雪天场景. 多帧交通视频数据对比实验结果表明,在使用雪天场景融合方法构建的雪天场景中,随着雪量增加,图像的干扰信息和细节都明显增强,主观上接近实际雪天场景;随积雪和雪线密度的增加,加雪图像质量客观评价指标不断降低.
关键词:
A snow scene construction algorithm based on perception estimation was proposed to address the problems of difficulty in collecting data from existing snow scene sample libraries and limited sample sizes during the training of autonomous driving perception performance. The snow scene was divided into two models: snow-covered model and snow-line model, and a snow-covered plane construction algorithm based on spatial perception was proposed to analyze the subtle gradient changes in the image and estimate the preliminary snow area. The preliminary snow areas were refined using connected domain analysis, and the areas were fused with the original image to obtain snow-covered scene images. A snow scene construction algorithm based on a random snow-line model was proposed to generate different motion directions for snowflakes. Snow-covered model and snow-line model were integrated, and various basic snow-line forms were utilized to construct snow scenes. Experimental results from the comparison of multi-frame traffic video data show that, in the snowy scenes constructed using the snowy scene fusion method, as the amount of snow increases, both the interference information and the details of the image are significantly enhanced, subjectively approaching the actual snow scene. Moreover, objective evaluation metrics for snow image quality decrease with the increase of snow cover and snow-line density.
Keywords:
本文引用格式
董兆龙, 黄鹤, 李战一, 杨澜, 王会峰.
DONG Zhaolong, HUANG He, LI Zhanyi, YANG Lan, WANG Huifeng.
自动驾驶技术面临雪天视觉感知的挑战,有效的样本数据是测试视觉感知性能的关键. 雨雾天气里空气中的水雾颗粒折射或者反射导致场景信息的损失[1];在雪天场景中,雪花会直接阻挡光线传播,积雪覆盖还可能遮挡视野.
雪天样本库较少,已有的雪天样本库研究以雪线模型为主. Liu等[2]提出的Snow100k样本库包括合成样本数据和真实数据集,提供了100 000个合成雪天场景样本对和1 329个真实雪天场景样本. Chen等[3]提出的SRRS(snow removal in realistic scenario)样本库包含15 000个合成数据和1 000个来自网络的真实数据,其中合成原始数据集取自RESIDE(realistic single image dehazing)[4]数据集. Chen等[5]提出的CSD(comprehensive snow dataset)样本库包含10 000张合成图像,这些合成图像取自RESIDE数据集,采用图像编辑软件(如PhotoShop)进行雪线的数据合成. Chen等[6]提出的RVSD(realistic video desnowing dataset)视频样本库中有110组雪天视频数据,每组数据均包含雪、雾、晴朗场景数据,通过渲染引擎和各种增强技术生成具有多种逼真物理属性的雪. Zhang等[7]使用Photoshop建立基于公共数据集KITTI2012[8]的SnowKITTI2012数据集,它包含训练图片1 500张,测试图片1 000张. Zhang等[7]还提出基于Cityscapes[9-10]数据集的SnowCityScapes数据集,其中训练和测试图片各2 000张.
雪天模拟领域缺乏可任意控制雪量的仿真算法,本研究以自动驾驶视觉感知测试系统样本库中的雪天场景为对象,提出积雪区域与雪线模型结合的基于景深估计的雾天场景构建算法. 设定积雪模型为模拟地面积雪场景构建的模型,雪线模型为模拟不同雪花飘落形态场景构建的模型,开展不同模型条件下的多帧交通视频数据对比试验,测试所提算法性能.
1. 基于空间感知的积雪平面构建算法
1.1. 积雪区域感知
图 1
积雪通常出现在图像像素波动平缓的区域,积雪区域感知即图像像素波动平缓区域提取工作,具体操作如下. 获取图像梯度,计算式为
式中:
式中:Maps为积雪区域;Gl为波动阈值,在本研究中取为G的中位数. 梯度波动较小的区域包括天空,须将其从可积雪区域中消除. 天空受大气层散射影响,且图像主要呈现蓝色或者灰白色,通道B的数值往往高于通道R、G的数值,为此简化求解过程为
式中:IB、IG、IR分别为图像通道R、G、B;ɷ为色彩偏差参数,在本研究中取为0.1. 如图2所示,图像经式(3)处理后,受天空区域的影响明显降低.
图 2
图 2 去除天空区域影响前后的图像对比
Fig.2 Image comparison before and after removing influence of sky region
1.2. 积雪场景构建
在完成可积雪区域感知后,图像的部分区域光线较暗、细节不清晰,导致这部分区域的信息精度不高. 进行可积雪区域的细化,具体方法的伪代码见算法1. 将细化后的积雪区域与原图融合,得到积雪场景图像,融合计算式为
式中:ISG为雪天积雪图像,Maps′为细化后的积雪区域,J为原图. 如图3所示,地面区域存在较多积雪.
图 3
图 3 积雪区域的图像细化处理及图像融合
Fig.3 Image refinement process for snow-covered areas and image fusion
算法1 Maps细化算法伪代码
输入 Maps图像.
输出 细化后的Maps′图像.
1. 计算Map连通域,根据连通域大小排序,记各连通域内坐标为Oc,像素点数为Nc.
2. 计算各连通域内的区域利用率,vi=Nc/(max(Oc)−min(Oc)).
3. 取利用率大于vi区域,作为细化后的Maps′图像,取vi=0.5.
2. 基于随机雪线模型的场景构建算法
2.1. 雪线模型
图 4
式中:ISS为雪天场景图像,Si第i层雪线影响效果. 雪花的反射能力较强,雪线场景中雪花亮度受景深影响的衰减较少,因此不考虑场景深度对雪花亮度的影响.
2.2. 多源融合的雪天场景设计
2.2.1. 随机雪线生成算法设计
随机模拟雪线分布的位置,通过设计雪线滤波器对位置分布图进行滤波,获得单层雪线. 通过随机设置雪核信息(如雪线大小方向),融合多个单层雪线,获得多层雪天图像.
式中:SS,i为雪线层;SF为雪线滤波器;Rs为滤波雪核,为基础雪线形态;Map为雪线分布图. 考虑到雪花下落的形态各异,雪花的基础形态随机从雨滴形态中选择,如图5所示.
图 5
2.2.2. 雪天场景构建
在真实场景中,雪花受重力影响较小,飘落方向多变,雪花或雪团大小不一,在视觉中其大小与场景深度相关,景深越大,雪花尺寸越小,雪花感知密度越大. 通过多层雪线融合模拟不同景深下的雪线,计算式为
式中:SS为多源融合后的雪线效果,θr为随机角度,δs,i为单层雪线中的雪花形态. 如图6所示为不同雪线密度δs的效果图. 将积雪平面构建算法与随机雪线模型结合,得到雪天场景构建算法,计算式为
图 6
基于感知估计的雪天场景构建流程如图7所示.
图 7
图 7 基于感知估计的雪天场景构建算法流程图
Fig.7 Flowchart of snow scene construction algorithm based on perception estimation
3. 实验结果分析
3.1. 雪天模型效果及评价
3.1.1. 主观评价
图 8
图 8 交通视频关键帧加雪实验可视化结果
Fig.8 Visualization results of snow addition experiment on traffic video key frames
图 9
图 9 交通视频关键帧积雪实验可视化结果
Fig.9 Visualization results of snow-covered scene experiment on traffic video key frames
3.1.2. 客观评价
选用无参评价指标:信息熵E[14]、平均梯度AG[15]、雾感知密度评估FADE[16];有参评价指标:峰值信噪比PSNR[17]、结构相似性指数SSIM[18]、模糊系数FC[19-20]对所提算法的性能进行客观评价,各帧图像在不同雪线密度下客观评价指标曲线如图10所示. 受雪线影响,图像信息熵不断降低,FADE不断增加,由于雪线总体覆盖面积较小,平均梯度下降不明显. PSNR及SSIM均随雪线密度增大而降低,模糊系数不断增大. 由于受积雪影响,雪线对图像质量的影响降低,导致积雪条件下PSNR、SSIM及模糊系数变化缓慢. 如表1所示为各帧图像在不同雪线密度下客观评价指标的平均值. 可以看出,随着δs的增加,信息熵、平均梯度、PSNR、SSIM逐步减小,FADE和模糊系数不断增大,与实际情况相符合. 结果表明,所提算法处理可有效获得不同雪量下的雪天场景效果.
图 10
图 10 不同雪线密度条件下,2种实验场景的算法性能评价曲线(含4个交通视频关键帧)
Fig.10 Algorithm performance evaluation curves for two experimental scenarios under different snow-line density conditions (contains four traffic video key frames)
表 1 不同雪线密度条件下,2种实验场景的算法性能评价结果
Tab.1
| δs | 加雪实验 | 积雪实验 | |||||||||||
| E | AG | FADE | PSNR | SSIM | FC | E | AG | FADE | PSNR | SSIM | FC | ||
| 10 | 14.407 | 7.719 | 0.631 | 33.719 | 0.971 | 0.994 | 13.100 | 19.365 | 0.419 | 28.881 | 0.507 | 0.198 | |
| 20 | 14.499 | 7.684 | 0.659 | 28.535 | 0.920 | 1.010 | 13.138 | 19.137 | 0.422 | 28.589 | 0.489 | 0.201 | |
| 30 | 14.388 | 7.578 | 0.716 | 25.714 | 0.872 | 1.037 | 12.975 | 18.745 | 0.440 | 28.325 | 0.471 | 0.207 | |
| 40 | 14.156 | 7.460 | 0.800 | 24.457 | 0.823 | 1.061 | 12.718 | 18.216 | 0.468 | 28.079 | 0.456 | 0.214 | |
| 50 | 13.816 | 7.203 | 0.891 | 24.238 | 0.776 | 1.112 | 13.414 | 17.634 | 0.491 | 27.795 | 0.437 | 0.221 | |
3.2. 多场景下雪天模型效果及评价
图 11
图 11 不同雪线密度条件下,2种实验的可视化结果(使用其他数据集图像)
Fig.11 Visualization results of two experiments under different snow-line density conditions (using other dataset image)
表 2 不同雪线密度条件下,2种实验的算法性能评价结果(使用其他数据集图像)
Tab.2
| δs | 加雪实验 | 积雪实验 | |||||||||||
| E | AG | FADE | PSNR | SSIM | FC | E | AG | FADE | PSNR | SSIM | FC | ||
| 10 | 12.064 | 2.764 | 1.339 | 33.934 | 0.964 | 0.850 | 10.241 | 15.639 | 0.822 | 27.092 | 0.401 | 0.048 | |
| 20 | 12.180 | 2.892 | 1.341 | 33.021 | 0.928 | 0.873 | 10.327 | 15.589 | 0.845 | 26.996 | 0.381 | 0.048 | |
| 30 | 12.293 | 2.946 | 1.352 | 28.752 | 0.903 | 0.882 | 10.261 | 15.096 | 0.875 | 26.643 | 0.358 | 0.049 | |
| 40 | 12.291 | 3.097 | 1.354 | 25.753 | 0.852 | 0.890 | 12.291 | 14.925 | 0.898 | 26.432 | 0.353 | 0.049 | |
| 50 | 12.190 | 3.233 | 1.427 | 24.152 | 0.771 | 0.901 | 12.190 | 14.577 | 0.928 | 26.125 | 0.334 | 0.049 | |
4. 结 语
本研究针对雪天场景提出基于感知估计的雪天场景构建算法(包括积雪场景构建算法和雪线模型算法),分别完成积雪场景和雪花飘落成像的场景构建. 实验结果表明,经所提算法处理后,图像质量随雪线密度不断降低,主观上场景变化明显. 所提算法可大量扩展雪天数据样本库,应用价值明显. 在后续的工作中,将利用本研究构建的雪天场景对自动驾驶领域的相关算法进行测试,完成在实际应用场景中的测试环节.
参考文献
A survey of deep learning-based image restoration methods for enhancing situational awareness at disaster sites: the cases of rain, snow and haze
[J].
DesnowNet: context-aware deep network for snow removal
[J].DOI:10.1109/TIP.2018.2806202 [本文引用: 1]
Benchmarking single-image dehazing and beyond
[J].DOI:10.1109/TIP.2018.2867951 [本文引用: 1]
Deep dense multi-scale network for snow removal using semantic and depth priors
[J].DOI:10.1109/TIP.2021.3104166 [本文引用: 2]
Vision meets robotics: the KITTI dataset
[J].DOI:10.1177/0278364913491297 [本文引用: 1]
动态自适应特征融合的MFOPA跟踪器
[J].
MFOPA tracker with dynamic adaptive feature fusion
[J].
融合大气光值-图估计的无人机航拍图像去雾
[J].DOI:10.11918/202111001 [本文引用: 1]
UAV aerial image dehazing by fusion of atmospheric light value and graph estimation
[J].DOI:10.11918/202111001 [本文引用: 1]
A sea fog image defogging method based on the improved convex optimization model
[J].DOI:10.3390/jmse11091775 [本文引用: 1]
Referenceless prediction of perceptual fog density and perceptual image defogging
[J].DOI:10.1109/TIP.2015.2456502 [本文引用: 1]
Image quality assessment: from error visibility to structural similarity
[J].DOI:10.1109/TIP.2003.819861 [本文引用: 1]
雾霾线求解透射率的二次优化方法
[J].
A twice optimization method for solving transmittance with haze-lines
[J].
含明亮区域的无人机遥感定位图像去雾方法
[J].DOI:10.3969/j.issn.1002-0640.2024.05.018 [本文引用: 1]
Dehazing method for the remote sensing and positioning image of UAV with bright area
[J].DOI:10.3969/j.issn.1002-0640.2024.05.018 [本文引用: 1]
/
| 〈 |
|
〉 |

