浙江大学学报(工学版), 2024, 58(6): 1133-1141 doi: 10.3785/j.issn.1008-973X.2024.06.004

计算机技术

基于新型编码解码网络的复杂输电线识别

李运堂,, 李恒杰, 张坤, 王斌锐, 关山越, 陈源

中国计量大学 机电工程学院,浙江 杭州 310018

Recognition of complex power lines based on novel encoder-decoder network

LI Yuntang,, LI Hengjie, ZHANG Kun, WANG Binrui, GUAN Shanyue, CHEN Yuan

College of Mechanical and Electrical Engineering, China Jiliang University, Hangzhou 310018, China

收稿日期: 2023-08-14  

基金资助: 浙江省属高校基本科研业务费专项资金资助项目(2020YW29).

Received: 2023-08-14  

Fund supported: 浙江省属高校基本科研业务费专项资金资助项目(2020YW29).

作者简介 About authors

李运堂(1976—),男,教授,硕导,博士,从事无人机电力线巡检研究.orcid.org/0000-0003-0924-8187.E-mail:Yuntangli@cjlu.edu.cn , E-mail:Yuntangli@cjlu.edu.cn

摘要

构建新型编码解码网络实现图像中多根交叉复杂输电线的高精度快速识别. 为了减少网络参数,编码器取常规MobileNetV3的前16层,并且采用坐标注意力机制代替常规MobileNetV3的挤压和激励注意力机制,获取特征图的通道信息和位置信息;解码器通过金字塔池化模块获取输电线多尺度特征信息,提高识别精度;采用跳跃链接将编码器第2、4、7、11和13层特征图经锐化核卷积处理后分别与解码器的特征图堆叠,加强复杂输电线边缘特征提取;引入混合损失函数解决图像中输电线像素少、背景像素多的类别不平衡问题;利用迁移学习加快网络训练速度. 实验结果表明,新型编码解码网络的平均像素精度(MPA)、平均交并比(MIOU)和识别速度分别为92.18%、84.27%和32帧/s,优于PSPNet、U2Net和其他输电线识别网络的.

关键词: 复杂输电线 ; 编码解码网络 ; MobileNetV3 ; 注意力机制 ; 损失函数

Abstract

Accurate and quick recognition of multiple and intersecting complex power lines from images was achieved by constructing a novel encoder-decoder network. The first 16 layers of regular MobileNetV3 were taken by the encoder to reduce network parameters, and the coordinate attention mechanism was used to replace the squeeze and excitation attention mechanism of regular MobileNetV3 to obtain the channel and position information of feature maps. The multi-scale feature information of power lines was obtained by the decoder through the pyramid pooling module to improve the recognition accuracy. The encoder feature maps of 2nd, 4th, 7th, 11th and 13th layers were processed by the sharpened kernel convolution and were connected to the corresponding layers of decoder, enhancing the extraction of complex power lines edge features. The hybrid loss function was used to resolve the imbalance between classes of images with fewer power lines and more background pixels. The speed of network training was accelerated by transfer learning. Experimental results indicated that the mean pixel accuracy (MPA), mean intersection over union (MIOU) and recognition speed of the novel encoder-decoder network were 92.18%, 84.27%, and 32 frames per second, respectively, which were superior to those of PSPNet, U2Net, and other power lines recognition networks.

Keywords: complex power lines ; encoder-decoder network ; MobileNetV3 ; attention mechanism ; loss function

PDF (2429KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

李运堂, 李恒杰, 张坤, 王斌锐, 关山越, 陈源. 基于新型编码解码网络的复杂输电线识别. 浙江大学学报(工学版)[J], 2024, 58(6): 1133-1141 doi:10.3785/j.issn.1008-973X.2024.06.004

LI Yuntang, LI Hengjie, ZHANG Kun, WANG Binrui, GUAN Shanyue, CHEN Yuan. Recognition of complex power lines based on novel encoder-decoder network. Journal of Zhejiang University(Engineering Science)[J], 2024, 58(6): 1133-1141 doi:10.3785/j.issn.1008-973X.2024.06.004

输电线路巡检是电网定期维护的重要环节,对于确保电力系统安全稳定运行极为关键[1]. 人工巡检易受地理环境影响,成本高、效率低、危险性大. 无人机智能巡检具有成本低、效率高、机动性好等优点,近年来得到快速发展[2].

在复杂背景中快速准确地识别出输电线是实现无人机智能巡检的重要前提. 目前输电线识别主要有常规图像处理和基于深度学习的智能图像处理2种方法. 在常规图像处理方面,张从新等[3]通过形态学处理和Hough变换提取输电线,检测精度受背景噪声影响大. 赵乐等[4]采用Ratio算子检测输电线边缘,利用Hough变换提取输电线,识别精度高,但须根据背景设定检测阈值,适应性差. 周封等[5]结合RGB、灰度值和亮度值将图像分为6类,采用不同滤波器对图像进行预处理,通过Hough变换提取输电线. Li等[6]利用Sobel边缘检测和Hough变换提取输电线. Zhao等[7]基于Markov随机场区分输电线段与其他线段,采用分段拟合提取输电线.

常规图像处理输电线识别易受背景干扰,导致错检或漏检,识别精度低. 近年来,深度学习技术发展迅速,许多学者采用基于深度学习的智能图像处理方法识别输电线[8-9]. 许刚等[10]通过改进UNet分割输电线,采用自适应阈值提高网络鲁棒性. 黄巨挺等[11]构建U型编解码网络,编码器采用最大池化下采样,保存池化索引,解码器基于池化索引上采样,输电线识别速度快,但识别精度易受背景影响,泛化能力较差. 李运堂等[12]基于MobileNetV3构建编解码网络,复杂背景下输电线识别效果较好. Jaffari等[13]以UNet为基础,优化损失函数并添加辅助分类器,提高输电线识别精度,但背景复杂时易出现输电线漏检和误检. Li等[14]改进全卷积网络识别输电线,采用跳跃链接融合深、浅层特征提高识别精度. Yang等[15]在构建的编码解码网络中嵌入注意力机制,提高输电线识别精度.

随着“西电东送”工程的持续推进,多根线、长距离和多转向等复杂输电线路普遍存在. 现有常规图像处理和基于深度学习的智能图像处理大多以3根、平行和无转向的简单输电线为识别对象,应用于多根、交叉和有转向的复杂输电线识别时精度低,无法满足无人机智能巡检的实际需求. 因此,本研究构建新型编码解码网络实现复杂输电线的高精度高速度识别. 编码器采用改进MobileNetV3进行特征提取,高效利用计算资源. 解码器通过金字塔池化模块(pyramid pooling module, PPM)聚合不同区域的上下文信息. 编码器与解码器之间添加带有锐化块的跳跃链接,增强输电线边缘与背景对比度,加强输电线边缘特征提取. 引入混合损失函数解决图像中输电线像素少、背景像素多的类别不平衡问题. 利用迁移学习加快网络参数收敛,提高训练速度. 实验结果表明,相对于主流语义分割网络和其他输电线识别网络,新型编码解码网络分割精度更高,速度更快.

1. 新型编码解码网络

输电线在图像中像素数占比少,易受背景噪声干扰,识别难度大[13]. U2Net和PSPNet主流语义分割网络识别速度慢,常规MobileNetV3结构简单,识别速度较快,但精度低. 为了提高识别精度与速度,构建新型编码解码网络.

1.1. 整体结构

图1所示,新型编码解码网络包括特征提取的编码器和特征恢复的解码器,通过带有锐化块(Sharp Block-A和Sharp Block-B)的跳跃链接将编码器第2、4、7、11和13层特征信息传递至解码器,加强复杂输电线的边缘特征提取,提高识别精度.

图 1

图 1   新型编码解码网络

Fig.1   Novel encoder-decoder network


1.2. 编码器结构

1.2.1. 常规MobileNetV3

常规MobileNetV3[16]采用MobileNetV1的深度可分离卷积和MobileNetV2的逆残差结构,包括2个由深度可分离卷积(Dconv)、批量归一化(batch normalization, BN)和RELU6激活函数构成的DBL模块、15个Bneck模块、1个池化层(Pool)和2个普通卷积(Conv),如图2所示.

图 2

图 2   常规MobileNetV3

Fig.2   Regular MobileNetV3


Bneck模块如图3所示,包括Conv、BN、非线性(non linear, NL)激活函数、Dconv以及挤压和激励(squeeze and excitation, SE)注意力机制.

图 3

图 3   Bneck模块

Fig.3   Bneck module


1.2.2. 基于常规MobileNetV3改进的编码器结构

为了实现无人机智能巡检的高精度高速度需求,以常规MobileNetV3为基础,作如下改进.

1)常规MobileNetV3后4层(17~20层)参数多,计算量大. 采用前16层作为编码器主干特征提取网络,网络参数减少了43.23%,识别精度小幅降低,但识别速度明显提升.

2)常规MobileNetV3中的注意力机制SE模块仅考虑特征图的通道信息而忽略了位置信息. 选用轻量级坐标注意力(coordinate attention, CA)模块替代SE模块,同时获取特征图的通道信息与位置信息,有助于网络更好地定位和识别输电线,网络参数仅增加了0.22%.

CA模块[17]图4所示,采用尺寸为(M,1)与(1,N)的池化核分别沿水平方向(X方向)和垂直方向(Y方向)对每个通道进行编码(MN分别为输入特征图的高和宽),聚合位置信息,将得到的2个特征图堆叠后依次进行卷积、批量归一化和非线性激活处理,利用卷积和Sigmoid激活函数分别将分解的2个张量转换为与输入特征图维度相同的权重层后传递给输出.

图 4

图 4   坐标注意力模块

Fig.4   Coordinate attention module


基于常规MobileNetV3改进的编码器包括1个DBL模块和15个Bneck-CA模块. 如图5所示,Bneck-CA模块包括Conv、BN、NL、Dconv和注意力机制CA模块,输入特征图通过1×1Conv、BN和NL升维后利用3×3Dconv、BN和NL进行特征提取,采用CA模块聚焦关键信息后再利用1×1Conv和BN降维,最后通过快捷链路与输入特征图堆叠获取输出特征图.

图 5

图 5   Bneck-CA模块

Fig.5   Bneck-CA module


1.3. 构建解码器

为了聚合复杂输电线上下文信息和轻量化网络,引入PSPNet[18]中金字塔池化模块和深度可分离卷积构建解码器. 如图6所示为金字塔池化模块,输入特征图通过自适应池化生成4个尺寸为1×1、2×2、3×3和6×6的子特征图,利用1×1Conv分别将4个子特征图通道数调整为输入特征图的1/4后堆叠,利用上采样恢复特征图尺寸;最后将输入特征图通过快捷链路与上采样输出特征图堆叠. 金字塔池化模块融合4种不同尺度的自适应池化结果,聚合不同区域的语义信息,有效提高网络获取全局信息的能力,减少输电线特征信息丢失.

图 6

图 6   金字塔池化模块

Fig.6   Pyramid pooling module


深度可分离卷积通过逐深度卷积和逐点卷积提取特征,在逐深度卷积中,一个卷积核只计算一个输入特征图通道,卷积核数量与输入特征图通道数相同;逐点卷积为卷积核为1×1的普通卷积,卷积核数量与输出特征图通道数相同. 普通卷积的计算量为

$ {T_{\text{C}}} = D_{\text{K}}^2QRD_{\text{F}}^2. $

式中:DK为逐深度卷积中卷积核大小,Q为输入特征图通道数,R为输出特征图通道数,DF为输入特征图大小.

深度可分离卷积的计算量为

$ {T_{\text{D}}} = D_{\text{K}}^2QD_{\text{F}}^2+QRD_{\text{F}}^2. $

以16×16的3通道输入特征图、4通道输出、3×3逐深度卷积核为例,深度可分离卷积的计算量约为普通卷积的1/3. 因此,深度可分离卷积占用计算资源少,计算效率高.

堆叠编码器第13层的锐化核卷积处理输出与第16层输出得到解码器输入,通过PPM聚合多尺度特征信息,采用DBL模块调整通道数,利用上采样恢复特征图尺寸至32×32×136;将编码器第11层引出的跳跃链接输出经锐化核卷积处理后和解码器第1次上采样输出堆叠,经过PPM、DBL和上采样后与编码器第7层锐化卷积处理后的跳跃链接输出堆叠;将堆叠后的特征图再次通过PPM、DBL和上采样后尺寸为128×128×74;引出编码器第4层添加锐化块的跳跃链接输出和解码器第3次上采样输出堆叠至128×128×98,通过3次DBL和上采样后与编码器第2层添加锐化块的跳跃链接输出堆叠,再通过3次DBL、上采样后采用1×1卷积调整通道数至输电线与背景2类别后输出,实现图像中输电线像素点和背景像素点的分类.

1.4. 改进跳跃链接

跳跃链接融合深层、浅层特征信息,增强特征复用能力. 锐化块(sharp block)通过锐化核与输入特征图卷积处理以增强输电线边缘与背景对比度. 通过在编码器与解码器之间添加带有锐化块的跳跃链接,减少复杂输电线边缘特征信息丢失,提高复杂输电线识别精度. 用于锐化卷积处理的锐化核K结合参考像素的8个邻像素,能够响应任何方向上的梯度变化. K的表达式如下:

$ {\boldsymbol{K}} = \left[ {\begin{array}{*{20}{c}} 1&1&1 \\ 1&{ - 8}&1 \\ 1&1&1 \end{array}} \right]. $

将输入特征图与锐化核K卷积处理后与原输入特征图叠加,得到锐化卷积处理后的特征图:

$ {\boldsymbol{S}} = {\boldsymbol{I}}+{\boldsymbol{K}} * {\boldsymbol{I}}. $

式中:I为输入特征图,S为锐化卷积处理后的特征图,*表示卷积运算.

编码器引出跳跃链接输出的特征图尺寸为W×H×CWHC分别表示特征图宽度、高度和通道数,使用锐化核K对每个特征图进行深度卷积,锐化块Sharp Block-A和Sharp Block-B步距分别为1和2,得到C个大小为W×H×1和W/2×H/2×1的特征图,再将C个特征图与输入特征图叠加得到锐化卷积处理后的特征图. 锐化核K不变,因此,在网络训练期间不产生额外的计算成本.

1.5. 混合损失函数

输电线在图像中为细长线段,与背景区域相比,输电线像素数占比低. 常规MobileNetV3的类别交叉熵损失函数易使网络偏向于像素数占比高的背景而非输电线,不利于输电线特征提取. Focal Loss损失函数[19]计算网络分类各像素点的损失值,对于分类错误的像素赋予更多的权重;Dice Loss损失函数[20]计算预测值集合与标签值集合重叠度,更加关注前景信息提取,但单独使用时易出现损失值不稳定. 因此,为了解决图像中输电线像素数与背景像素数不平衡的问题,采用Focal Loss与Dice Loss相结合的混合损失函数LT训练网络,提高网络分割精度.

$ L_{\text{T}}^{}{\text{ = }}{L_{\text{F}}}+{L_{\text{D}}}. $

Focal Loss损失函数表达式为

$ \begin{split} {L_{\text{F}}} =& - \left( {1 - \alpha } \right){{\hat y}^\beta }\left( {1 - y} \right)\ln\; \left( {1 - \hat y} \right) - \\ &\alpha {\left( {1 - \hat y} \right)^\beta }y\ln\; \hat y.\end{split} $

式中:αβ分别取0.25和2.0,$y$$\hat y$分别表示标签值和预测值.

Dice Loss损失函数表达式为

$ {L_{\text{D}}} = 1 - {{2\displaystyle\sum\limits_{i = 1}^O {{y_i}} {{\hat y}_i}}}\Big/\left[{{\displaystyle\sum\limits_{i = 1}^O {{y_i}+\displaystyle\sum\limits_{i = 1}^O {{{\hat y}_i}} } }}\right]. $

式中:$O$为标签图像像素总数.

1.6. 特征图可视化

为了验证编码器特征提取和解码器特征恢复的有效性,进行不同深度的特征图可视化[21],如图7所示. 可以看出,编码器前7层特征图分辨率高,输电线纹理、边缘细节信息丰富,第11~16层特征图分辨率逐渐降低,特征信息被压缩,语义信息得到更多关注. 堆叠编码器第16层与第1 Sharp Block-B层(图7(h))特征图输入到解码器,通过PPM聚合多尺度信息,采用带有锐化块的跳跃链接融合深层语义信息与浅层细节信息. 第1~5 Concat层可视化结果逐渐清晰,表明解码器更加注重恢复输电线特征,忽略背景特征,有助于提高识别精度.

图 7

图 7   不同深度的特征图可视化

Fig.7   Visualization of feature maps at different depths


2. 复杂输电线数据集搭建

2.1. 数据集采集与扩充

目前多根、交叉和有转向等复杂输电线数据集较少,通过网络公开数据集获取,分别为百度飞桨输电线路数据集(https://aistudio.baidu.com/aistudio/datasetoverview),IEEE输电线数据集(https://ieee-dataport.org/open-access/epri-distribution-inspection-imagery),筛选得到4 000张清晰可用的复杂输电线样本.

为了使新型编码解码网络具有更好的泛化能力,采用Mosaic进行数据扩充. 随机在4 000张输电线样本集中选取4张图片进行翻转、缩放以及色域变换后调整尺寸分别放至扩充图片左上、右上、左下和右下4个位置,如图8所示. 去除Mosaic数据扩充随机生成的模糊、缩放比例过大或过小等不适合网络训练的图像,共得到5 000张复杂输电线数据,按照8∶1∶1随机划分为训练集、验证集和测试集,训练集有4 000张,验证集和测试集各有500张.

图 8

图 8   Mosaic数据扩充

Fig.8   Mosaic data augmentation


2.2. 数据集标注

采用图像标注工具Labelme标注复杂输电线数据集,得到包含复杂输电线位置、形状信息的Json文件,将Json文件转为png格式的标签文件后与原图jpg格式组合,制成PASCAL VOC格式数据集,标注实例如图9所示.

图 9

图 9   复杂输电线图像标注

Fig.9   Image mark of complex power lines


3. 实验与结果分析

3.1. 实验环境

深度学习框架为Pytorch-GPU V1.10.0,GPU运算平台为CUDA10.1,显卡为Nvidia GeForce RTX 2080 Ti,显存为11 GB,处理器为Inter Core i7-9700k 3.60 GHz八核八线程,内存为32 GB;图像处理库为opencv-python4.6.0.66和pillow9.2.0,数组运算库为numpy1.23.1,绘图工具库为matplotlib3.2.2,编程语言为Python3.9.12,操作系统为Windows10.

3.2. 评价指标

选用主流语义分割评价指标验证新型编码解码网络性能[22].

1)平均像素精度(mean pixel accuracy, MPA):各类别中网络正确预测像素所占比例的均值.

$ {\mathrm{MPA}} = \frac{1}{{n+1}}\displaystyle\sum_{i = 0}^n {\frac{{{p_{ii}}}}{{\displaystyle{\sum}_{j = 0}^n {{p_{ij}}} }}} . $

式中:n为输电线类别,n=1;pii表示正确预测的像素数;pij表示i类被预测为j类的像素数.

2)平均交并比(mean intersection over union, MIOU):各类别预测值与标签值的重合度均值.

$ {\mathrm{MIOU}} = \frac{1}{{n+1}}\displaystyle\sum_{i = 0}^n {\frac{{{p_{ii}}}}{{\displaystyle{\sum}_{j = 0}^n {{p_{ij}}+\displaystyle{\sum}_{j = 0}^n {{p_{ji}} - {p_{ii}}} } }}} . $

式中:pji表示j类被预测为i类的像素数.

3)每秒传输帧数(frames per second, FPS):网络一秒钟预测图片的数量.

$ {\text{FPS}} = {J}/{{\Delta t}}. $

式中:J为预测图片数量,Δt为预测时间.

3.3. 网络训练

利用迁移学习[23],将在开源PASCAL VOC数据集预训练获取的预训练权重迁移至新型编码解码网络,加快训练速度. 在网络训练中对比标签文件与预测结果计算损失值,选用Adam优化器加快网络参数更新. 网络训练参数如表1所示.

表 1   新型编码解码网络训练参数

Tab.1  Training parameters of novel encoder-decoder network

训练参数数值
Batch_size8
Initial_lr0.0001
Epoch500
CudaTrue

新窗口打开| 下载CSV


网络训练迭代500次,训练过程中损失变化如图10所示. 图中,E为迭代次数,L为损失值. 可以看到,随着迭代次数增加,损失值不断降低,前50次迭代的损失值下降速度快,迭代500次后损失值趋于稳定,收敛于0.1附近,表明新型编码解码网络已取得较好的训练结果.

图 10

图 10   网络训练损失变化

Fig.10   Loss changing of network training


3.4. 消融实验结果分析

为了验证新型编码解码网络性能,进行消融对比实验,各实验数据集和训练参数相同,测试集识别结果如表2所示.

表 2   消融实验结果对比

Tab.2  Comparison of ablation experiment results

方法MPA/%MIOU/%FPS/(帧·s−1)
方法189.6381.7722
方法288.1780.9228
方法388.9381.3827
方法488.2780.8735
方法589.6882.1534
方法690.7282.7732
方法791.5883.3431
方法891.9784.0231
方法992.1884.2732

新窗口打开| 下载CSV


方法1:采用MobileNetV3作为编码器,解码器为普通卷积、批量归一化和上采样,利用类别交叉熵损失函数计算网络损失;方法2:去除MobileNetV3后4层作为编码器,未更改注意力机制,解码器和损失函数不变;方法3:在方法2的基础上更改损失函数为混合损失函数LT;方法4:编码器和损失函数不变,解码器中采用深度可分离卷积替代普通卷积;方法5:在方法4的编码器中更改注意力机制,采用CA模块替代SE模块,混合损失函数LT和解码器不变;方法6:编码器和混合损失函数LT与方法5一致,解码器中添加金字塔池化模块;方法7:在方法6网络的编码器与解码器之间添加跳跃链接;方法8:以方法7为基础,在跳跃链接中添加锐化块;方法9:采用迁移学习机制,将通过开源PASCAL VOC数据集预训练得到的预训练权重迁移至方法8网络进行训练.

分析表2消融实验结果可以看出,方法2相对于方法1,虽然MPA和MIOU有小幅下降,但识别速度提升了6帧/s;方法3相对于方法2识别速度相差1帧/s,但MPA与MIOU分别提升了0.76%和0.46%;方法4的识别速度相对于方法2、3有明显提升,表明解码器中采用深度可分离卷积替代普通卷积后虽然识别精度有所下降,但识别速度显著提升;方法5中MPA和MIOU相对于方法4分别提升了1.41%和1.28%,表明选用的注意力机制CA模块结合特征图的通道信息与空间信息,能显著提高识别精度;在解码器中添加金字塔池化模块聚合不同区域的上下文信息,方法6相对于方法5在识别速度上降低2帧/s,但识别精度提升明显;单纯使用跳跃链接融合深层、浅层特征信息易受背景噪声影响,方法8在跳跃链接中添加锐化块,加强复杂输电线边缘特征提取,提高识别精度;方法9表明采用迁移学习能够加快网络收敛,有助于提高网络识别精度与速度.

3.5. 不同网络识别结果对比

为了验证新型编码解码网络的有效性,选取当前主流语义分割网络PSPNet[18]、U2Net[24]以及文献[12]、[13]输电线识别网络进行对比实验. PSPNet通过ResNet101进行特征提取,得到尺寸为输入图像1/8的特征图后经过金字塔池化模块聚合上下文信息,再利用卷积、上采样和Softmax处理获取预测结果;U2Net采用6个编码块进行特征提取,5个解码块进行特征恢复,将第6个编码块输出和5个解码块输出堆叠后得到网络预测结果;文献[12]中网络利用常规MobileNetV3作为编码器进行特征提取,在解码器中引入金字塔池化和上采样进行特征恢复获取预测结果;文献[13]中网络以UNet为基础,添加辅助分类器,结合UNet输出和辅助分类器输出获得预测结果.

5种网络的实验环境与数据集相同,测试集部分识别结果如图11所示. 可以看出,PSPNet在草地、人行道、沙石、森林和马路等背景下,识别多根、交叉和有转向等复杂输电线效果较差,输电线边缘锯齿化明显,并且出现输电线识别断裂的情况;U2Net在森林、沙石背景下识别输电线效果较好,但在复杂背景下识别效果较差,如将人行道边缘、缝隙线状物误检为输电线;文献[12]中网络在人行道背景下出现漏检,并且在输电线转向处出现识别断裂的情况,识别复杂输电线效果较差;文献[13]中网络在森林、草地背景下识别输电线效果较好,但当背景复杂时,易出现误检和漏检,如将人行道边缘、塔杆误检为输电线. 新型编码解码网络可以有效抑制人行道边缘、缝隙和塔杆等复杂背景影响,准确识别出多根、交叉和有转向等复杂输电线.

图 11

图 11   5种网络输电线识别结果

Fig.11   Power line recognition results of five types of networks


采用语义分割评价指标定量分析5种网络识别结果,如表3所示为测试集识别结果. 可以看出,新型编码解码网络识别复杂输电线精度高、速度快,MPA与MIOU分别达到92.18%与84.27%,相对于PSPNet、MPA与MIOU分别提高了10.57%和10.49%,相对于U2Net分别提高了2.46%和1.96%,相对于文献[12]中网络分别提高了1.93%和1.52%,相对于文献[13]中网络分别提高了4.81%和4.65%. 同时,新型编码解码网络的识别速度为32帧/s,优于其他4种网络的.

表 3   5种网络识别结果对比

Tab.3  Comparison of five network recognition results

网络MPA/%MIOU/%FPS/(帧·s−1)
PSPNet81.6173.789
U2Net89.7282.318
文献[12]90.2582.7529
文献[13]87.3779.6221
新型编码解码网络92.1884.2732

新窗口打开| 下载CSV


4. 结 语

针对现有常规图像处理和基于深度学习的智能图像处理识别多根、交叉和有转向等复杂输电线精度低、速度慢问题,构建新型高效的输电线识别编码解码网络. 通过带有锐化块的跳跃链接融合深层、浅层特征信息,有效降低输电线边缘特征信息丢失,提高识别精度;利用混合损失函数,加强网络对输电线的特征学习,解决图像中输电线像素少,特征提取困难问题. 实验结果表明,新型编码解码网络的识别精度与速度均优于PSPNet、U2Net、文献[12]和文献[13]中网络的,能有效抑制人行道边缘、缝隙和塔杆等复杂背景影响,快速准确识别出多根、交叉和有转向等复杂输电线. 后续计划将网络代码移植到嵌入式设备上进行实验,进一步提高网络的可应用性.

参考文献

周登文, 田金月, 马路遥, 等

基于多级特征并联的轻量级图像语义分割

[J]. 浙江大学学报:工学版, 2020, 54 (8): 1516- 1524

[本文引用: 1]

ZHOU Dengwen, TIAN Jinyue, MA luyao, et al

Lightweight image semantic segmentation based on multi-level feature cascaded network

[J]. Journal of Zhejiang University: Engineering Science, 2020, 54 (8): 1516- 1524

[本文引用: 1]

柴玉梅, 员武莲, 王黎明, 等

基于双注意力机制和迁移学习的跨领域推荐模型

[J]. 计算机学报, 2020, 43 (10): 1924- 1942

DOI:10.11897/SP.J.1016.2020.01924      [本文引用: 1]

CHAI Yumei, YUN Wulian, WANG Liming, et al

A cross-domain recommendation model based on dual attention mechanism and transfer learning

[J]. Chinese Journal of Computers, 2020, 43 (10): 1924- 1942

DOI:10.11897/SP.J.1016.2020.01924      [本文引用: 1]

YANG L, FAN J, LIU Y, et al

A review on state-of-the-art power line inspection techniques

[J]. IEEE Transactions on Instrumentation and Measurement, 2020, 69 (12): 9350- 9365

DOI:10.1109/TIM.2020.3031194      [本文引用: 1]

XU B, ZHAO Y, WANG T, et al

Development of power transmission line detection technology based on unmanned aerial vehicle image vision

[J]. SN Applied Sciences, 2023, 5 (3): 1- 15

[本文引用: 1]

张从新, 赵乐, 王先培

复杂地物背景下电力线的快速提取算法

[J]. 武汉大学学报:工学版, 2018, 51 (8): 732- 739

[本文引用: 1]

ZHANG Congxin, ZHAO Le, WANG Xianpei

Research on fast extraction algorithm of power line in complex ground object background

[J]. Engineering Journal of Wuhan University, 2018, 51 (8): 732- 739

[本文引用: 1]

赵乐, 王先培, 代荡荡, 等

复杂背景下电力线自动提取算法

[J]. 高电压技术, 2019, 45 (1): 218- 227

[本文引用: 1]

ZHAO Le, WANG Xianpei, DAI Dangdang, et al

Automatic extraction algorithm of power line in complex background

[J]. High Voltage Engineering, 2019, 45 (1): 218- 227

[本文引用: 1]

周封, 任贵新

基于颜色空间变量的输电线图像分类及特征提取

[J]. 电力系统保护与控制, 2018, 46 (5): 89- 98

DOI:10.7667/PSPC170283      [本文引用: 1]

ZHOU Feng, REN Guixin

Image classification and feature extraction of transmission line based on color space variable

[J]. Power System Protection and Control, 2018, 46 (5): 89- 98

DOI:10.7667/PSPC170283      [本文引用: 1]

LI P, QIU R, WANG M, et al

Online monitoring of overhead power lines against tree intrusion via a low-cost camera and mobile edge computing approach

[J]. Journal of Physics: Conference Series, 2023, 2422 (1): 1- 17

[本文引用: 1]

ZHAO L, WANG X, YAO H, et al

Power line extraction from aerial images using object-based markov random field with anisotropic weighted penalty

[J]. IEEE Access, 2019, 7: 125333- 125356

DOI:10.1109/ACCESS.2019.2939025      [本文引用: 1]

田萱, 王亮, 丁琪

基于深度学习的图像语义分割方法综述

[J]. 软件学报, 2019, 30 (2): 440- 468

[本文引用: 1]

TIAN Xuan, WANG Liang, DING Qi

Review of image semantic segmentation based on deep learning

[J]. Journal of Software, 2019, 30 (2): 440- 468

[本文引用: 1]

ZHOU Y, REN Y, XU E, et al

Supervised semantic segmentation based on deep learning: a survey

[J]. Multimedia Tools and Applications, 2022, 81 (20): 29283- 29304

DOI:10.1007/s11042-022-12842-y      [本文引用: 1]

许刚, 李果

轻量化航拍图像电力线语义分割

[J]. 中国图象图形学报, 2021, 26 (11): 2605- 2618

[本文引用: 1]

XU Gang, LI Guo

Research on lightweight neural network of aerial powerline image segmentation

[J]. Journal of Image and Graphics, 2021, 26 (11): 2605- 2618

[本文引用: 1]

黄巨挺, 高宏力, 戴志坤

基于编码解码结构的移动端电力线语义分割方法

[J]. 计算机应用, 2021, 41 (10): 2952- 2958

DOI:10.11772/j.issn.1001-9081.2020122037      [本文引用: 1]

HUANG Juting, GAO Hongli, DAI Zhikun

Semantic segmentation method of power line on mobile terminals based on encoder-decoder structure

[J]. Journal of Computer Applications, 2021, 41 (10): 2952- 2958

DOI:10.11772/j.issn.1001-9081.2020122037      [本文引用: 1]

李运堂, 詹叶君, 王鹏峰, 等

基于新型编解码网络的复杂背景航拍图像输电线识别

[J]. 传感技术学报, 2022, 35 (8): 1057- 1064

[本文引用: 7]

LI Yuntang, ZHAN Yejun, WANG Pengfeng, et al

Power line recognition from aerial images with complex background based on new codec network

[J]. Chinese Journal of Sensors and Actuators, 2022, 35 (8): 1057- 1064

[本文引用: 7]

JAFFARI R, HASHMANI M A, REYES-ALDASORO C C

A novel focal phi loss for power line segmentation with auxiliary classifier U-Net

[J]. Sensors, 2021, 21 (8): 1- 23

DOI:10.1109/JSEN.2021.3063942      [本文引用: 8]

LI B, CHEN C, DONG S, et al

Transmission line detection in aerial images: an instance segmentation approach based on multitask neural networks

[J]. Signal Processing: Image Communication, 2021, 96: 1- 9

[本文引用: 1]

YANG L, FAN J, XU S, et al

Vision-based power line segmentation with an attention fusion network

[J]. IEEE Sensors Journal, 2022, 22 (8): 8196- 8205

DOI:10.1109/JSEN.2022.3157336      [本文引用: 1]

QIN X, ZHANG Z, HUANG C, et al

U2-Net: going deeper with nested U-structure for salient object detection

[J]. Pattern Recognition, 2020, 106: 1- 12

[本文引用: 1]

YANG Y, HAN J

Real-time object detector based MobileNetV3 for UAV applications

[J]. Multimedia Tools and Applications, 2022, 82 (12): 18709- 18725

[本文引用: 1]

HOU Q, ZHOU D, FENG J. Coordinate attention for efficient mobile network design [C]// 2021 IEEE/CVF Conference on Computer Vision and Pattern Recognition . Nashville: IEEE, 2021: 13713−13722.

[本文引用: 1]

ZHANG Y, SIDIBE D, MOREL O, et al

Deep multimodal fusion for semantic image segmentation: a survey

[J]. Image and Vision Computing, 2021, 105: 1- 17

[本文引用: 2]

LIN T, GOYAL P, GIRSHICK R, et al

Focal loss for dense object detection

[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2020, 42 (2): 318- 327

DOI:10.1109/TPAMI.2018.2858826      [本文引用: 1]

KANG D, PARK S, PAIK J

SdBAN: salient object detection using bilateral attention network with dice coefficient loss

[J]. IEEE Access, 2020, 8: 104357- 104370

DOI:10.1109/ACCESS.2020.2999627      [本文引用: 1]

CHOO J, LIU S

Visual analytics for explainable deep learning

[J]. IEEE Computer Graphics and Applications, 2018, 38 (4): 84- 92

DOI:10.1109/MCG.2018.042731661      [本文引用: 1]

/