集中式光伏电站巡检无人机视觉定位与导航
Vision-based localization and navigation for UAV inspection in photovoltaic farms
通讯作者:
收稿日期: 2018-06-26
Received: 2018-06-26
作者简介 About authors
席志鹏(1993—),男,硕士,从事无人机光伏巡检研究.orcid.org/0000-0002-2394-4288.E-mail:
为了使无人机在集中式光伏电站实现自主飞行,完成光伏组件红外及可见光图像采集任务,针对集中式光伏厂区光伏组串分布特点,提出光伏组串边缘检测方法,并通过视线导引法实现无人机路径跟随控制. 同一厂区的不同光伏组件之间存在颜色差异,针对其颜色特征提出自定义分割方法,结合形状特征可有效识别光伏组件;提取光伏组串轮廓和边缘信息可获取无人机理论飞行路径,通过视线导引法实现无人机对理论飞行路径的精准跟随以确保图像数据采集的有效性和完整性. 实验结果表明,提出的光伏组串识别算法具有较好的适应性和实时性,能够用于无人机理论飞行方向与无人机和光伏组串间偏移量的计算,利用导航控制算法能够实现理想的光伏组串循迹. 光伏组串识别算法和视线导引法能分别有效实现定位和导航,2个程序的结合能够满足无人机飞行控制要求.
关键词:
In order to achieve autonomous flight for unmanned aerial vehicles (UAVs) in PV farms and complete infrared and visible-light image acquisition, an edge detecting method for photovoltaic (PV) strings was proposed and the line of sight guidance based path following control algorithm was carried out according to the distribution characteristics of PV strings. Color variance widely existes among different PV modules in the same PV farm, based on which a custom color segmentation technique was put forward. This technique could be combined with shape features to realize accurate identification for PV modules. Theoretical flight paths could be gained through contour and edge information of PV strings after which the line of sight guidance method was applied to accurate trajectory tracking control for theoretical path to guarantee the effectiveness and integrity of image data acquisition. Results showed that the proposed recognition algorithm for PV strings was excellent in adaptability and instantaneity and could be used to calculate the theoretical flight direction of UAV and the offsets between the UAV and PV strings, and the ideal trajectory tracking for PV strings can be realized through the navigation control algorithm. The identification approach for PV strings and the line of sight guidance method can work well in localization and navigation respectively, and combination of the two procedures can meet the requirements of UAV flight control.
Keywords:
本文引用格式
席志鹏, 楼卓, 李晓霞, 孙艳, 杨强, 颜文俊.
XI Zhi-peng, LOU Zhuo, LI Xiao-xia, SUN Yan, YANG Qiang, YAN Wen-jun.
国家能源局统计数据显示,2017年中国光伏发电新增装机53.06 GW,累计装机已达130.25 GW,连续3 a位居全球第一,占全球光伏总装机量30%以上[1];在低碳经济和可持续发展背景下,以光伏为代表的新能源将持续引领能源行业的发展. 与此同时,国内光伏电站的整体质量却不容乐观,光伏组件发电功率衰降现象较严重,迫切需要有效的巡检和运维手段,保障光伏电站在长达25 a运营周期内的发电效益. 目前的巡检方式仍以人工巡检为主,但由于集中式光伏电站安装环境较复杂,在大部分场景下人工巡检效率低下且难以满足要求. 利用无人机(unmanned aerial vehicle,UAV)搭载可见光相机以及红外相机采集图像数据,可大幅提高规模化集中式光伏电站的巡检效率,精准的图像数据是光伏组件故障分析与诊断、健康度评估的重要基础.
小型四旋翼无人机由于造价低廉、性能优良、控制简单,广泛地应用于农业植保、电力线路巡检等领域. 用于光伏巡检的无人机平台通常根据光伏厂区地理位置信息生成路径点,无人机在路径点采集图像数据,其准确性很大程度上依赖于路径点和光伏组件实际位置是否匹配. 对于区域环境复杂且装机容量较大的集中式光伏电站而言,较难获取光伏组件的精确位置信息;在GPS信号较弱或者精度要求较高的场合下,GPS导航通常难以满足要求. 无人机相机与图像处理算法相结合,具有设备简单、低功耗、完全自主等优点,在GPS导航失效或信号强度较弱的情况下,基于视觉伺服的导航方式成为重要选择. 考虑到光伏厂区的实际特点,可通过光伏组串识别引导无人机自主飞行. 本研究涉及到基于视觉伺服的无人机飞行控制策略,相关研究成果已被广泛应用于农业植保和电力线路巡检等领域. Yang等[2]通过无人机视频流实时检测架空电力线,并对复杂光照条件下的检测效果进行分析与讨论;Sarapura等[3]将基于视觉的无人机飞行控制应用到农作物巡检中,在排布规则的农作物种植区,通过检测农作物排布方向控制无人机飞行;Brandão等[4]将边缘检测和无人机自主飞行应用到无人机对水道边缘的跟随控制中;Huang等[5-11]对视觉伺服控制及机器人自动循迹进行了类似研究. 颜色、形状与纹理是目标检测的常用特征,Zhang等[12]将聚类算法与颜色、纹理相结合进行光伏组串识别,其结果依赖于聚类中心的选择,当局部环境变化较大时难以实现理想分割,且实时性较差;Wu等[13]借鉴局部二值模式(local binary pattern,LBP)思想,将相邻光伏组件颜色差异用于航拍图像拼接;作为无人机飞行控制的基础,实时的图像处理算法也应用于农业等领域[14].
将光伏组件识别与无人机自主飞行相结合,提出可应用于集中式光伏电站巡检无人机的视觉定位与导航算法,涉及光伏组串边缘检测、无人机飞行过程的反馈控制以及区域边缘的转弯策略等. 主要工作包括:1)根据光伏组件颜色和形状特征实现适应性较强的光伏组件识别算法;2)根据光伏组件分布特点在光伏厂区中实现无人机自主飞行方式;3)将视觉伺服应用到无人机光伏巡检领域.
1. 问题描述与算法设计
图 1
图 1 集中式光伏电站区域划分示意图
Fig.1 Sketch map of region division in a centralized PV farm
图 2
2. 光伏组件识别与目标定位
无人机速度控制的参考输入量是通过光伏组串边缘检测与计算得到的,因此光伏组件识别是无人机视觉伺服控制的首要步骤. 在实际光伏电站中,环境颜色随地域及季节变化而不同,背景较为多变,光伏组件识别算法应具有较强的适应性;无人机的飞行控制过程是实时的,组件识别算法应具有较高的执行效率.
2.1. 光伏组件颜色特征
图 3
图 4
图 4 4种光伏组件RGB颜色空间直方图分布
Fig.4 Histogram distribution of four PV modules in RGB color space
图像特征图谱表达式为
式中:R、G、B分别为输入图像RGB颜色空间的3个分量;等式右侧2项分别体现光伏组件的黑色和蓝色特征.
其中,
图 5
图 5 自定义规则下光伏组件颜色特征直方图
Fig.5 Color feature histogram of PV modules in custom rules
图 6
2.2. 光伏组件形状特征
式中:
如图6(e)所示,以不同颜色对满足式(4)的连通域进行填充,这些连通域可判定为光伏组件.
2.3. 形态学处理
通过颜色特征和形状特征可以对光伏组件进行精准识别,而无人机循迹的基础是光伏组串,因此需要采用形态学方法去除因装框造成的光伏组件间隔,使同一组串的不同光伏组件之间相互连通. 膨胀与腐蚀是最基本的形态学操作. 膨胀通过图像与内核的卷积,扩展前景区域,从而消除组件之间的间隙;腐蚀作用与膨胀相反,可使光伏组串外围边界与膨胀前保持一致. 膨胀、腐蚀的原理表达式分别为
式中:
采用相同尺寸的正方形内核分别对光伏组件二值图像进行膨胀与腐蚀操作,得到如图6(f)所示的光伏组串示意图.
2.4. 直线计算
在获取光伏组串二值图像后,可通过边缘检测获取光伏组串轮廓,如图7所示. 为了使无人机实现循迹,需要从光伏组串轮廓中提取直线信息作为理论飞行路径. Hough变换是应用广泛的直线检测算法,但Hough变换及其改进算法都涉及图像空间到参数空间的转换,依赖投票机制统计峰值,时间开销较大,难以满足实时性要求,因此本研究通过对光伏组串边缘轮廓点取样计算上下边缘的直线信息.
图 7
相邻2个取样点可以确定1条线段,光伏组串同一边缘应包含若干近似共线的线段,在选定合适坐标系的基础上,可根据式(7)判断2条线段是否属于光伏组串的同一边缘:
式中:
若2条线段近似共线,其斜率与截距都应近似相等,式(7)中等号右侧2项因子均近似为1.0,故应满足条件:
式中:
根据线段间的共线关系,可获取分属于光伏组串不同边缘的坐标点,通过最小二乘法进行直线拟合可获取光伏组串各边缘的直线特征. 光伏组串分布特点为上下边缘线较长且长度近似相等,这一特性可作为边缘线筛选依据. 如图8所示,将最终的直线检测结果在原始视频帧上进行标注.
图 8
3. 无人机导航与控制器设计
光伏组串近似东西走向,为了简化故障定位以及图像拼接等处理过程,在数据采集过程中光伏组串应定位于图像中心,其上下边缘平行于图像水平方向,控制对象是无人机飞行速度以及云台偏航角. 无人机飞行过程分为任务区域内的循迹过程以及区域边界处的转向过程.
3.1. 偏移量计算
在无人机飞行过程中须确定飞行方向以及云台偏航角调整量,首先应计算光伏组串排列方向以及无人机与光伏组串中心线的距离. 假设2.4节计算得到的光伏组串上下边缘直线斜率分别为
图 9
故导航坐标系中光伏组串排列方向为
无人机与光伏组串中心线的距离为
式中:
3.2. 循迹过程
循迹过程的控制目标为在无人机沿光伏组串方向飞行的同时,使视频帧中
图 10
式中:
定义李雅普诺夫函数:
根据图10中关系,可知
根据函数的奇偶性进行分析,易知
图 11
3.3. 转弯过程
在无人机飞行过程中可根据子区域顶点坐标集
式中:
无人机到达任务区域边界的完整判定条件如下:无人机位于集合
图 12
4. 实验结果与性能评价
4.1. 图像处理算法适应性分析
如图13(a)所示为浙江省台州市某工业厂房屋顶,图像右侧为平铺的光伏组件,左侧为颜色特征相近的背景,多数识别方法局限于组件颜色特征,在复杂场景下无法将光伏组件与背景有效分离;如图13(b)所示,白色像素点为符合光伏组件颜色特征的识别结果,光伏组件与背景混淆;在结合形状特征后,可对组件进行有效区分,光伏组件的最终识别结果如图13(c)所示. 如图13(d)所示为位于浙江省台州市玉环县某沿海光伏产业园的光伏组串分布,干扰主要来自于阴影以及沿海滩涂地带湿润的地表环境;由图13(e)可知,根据组件颜色以及形状特征可以准确识别光伏组件;如图13(f)所示为在此基础上展示光伏组串边缘检测效果. 如图13(g)所示为位于山东省聊城市某农光互补光伏电站,视野中绿色作物较多,光伏组件颜色特征较为明显,识别效果较好. 如图13(h)、13(i)所示为光伏组件识别结果以及光伏组串边缘检测效果. 如图13(j)所示为位于山西省大同市的光伏组串,当地地形以丘陵为主,地势高低起伏,图中光伏组件呈现灰色,光伏组串阴影下的积雪具有与光伏组件相似的颜色特征,且部分干扰在考虑形状特征后仍无法有效去除;如图13(k)所示,对检测结果中的环境干扰因素进行了标注. 尽管在特定情况下环境因素可能影响组件识别效果,但这些干扰的边缘通常不具有直线特性,故仍能在组串边缘检测中有效剔除. 如图13(l)所示为存在干扰时的光伏组串边缘检测最终结果.
图 13
图 13 不同场景下光伏组件识别结果以及光伏组串边缘检测效果
Fig.13 Identification results for PV modules and edge detection effect for PV strings under different scenarios
4.2. 图像处理算法实时性分析
表 1 图像处理算法实时性分析
Tab.1
特征时间 | T/ms |
颜色特征提取时间 | 20 |
形状特征提取时间 | 15 |
组串定位时间 | 4 |
边缘直线检测时间 | 12 |
总时间 | 51 |
4.3. 导航控制算法有效性分析
使用Matlab R2017b作为仿真平台验证导航控制算法的有效性. 光伏组件排列方向受地形影响,在不依托视觉传感器的情况下,预规划的无人机飞行路径与光伏组串实际位置的匹配精度难以满足巡检要求. 根据所提出的方法,设定飞行参数为:无人机巡航速度
图 14
图 14 基于视线导引法的无人机导航控制过程仿真结果
Fig.14 Simulation results of navigation and control process of UAV based on line of sight guidance algorithm
图 15
图 15 光伏组件分布与无人机飞行路径俯视图
Fig.15 Overhead view of distribution of PV modules and flight path of UAV
图 16
图 16 无人机与光伏组件偏移量变化趋势
Fig.16 Variation trend of offsets between UAV and PV modules
5. 结 语
根据集中式光伏电站中光伏组串分布特点,提出可用于光伏组件红外及可见光图像数据采集的无人机定位与导航方法. 根据光伏组件颜色特征提出自定义图像分割方法,将RGB彩色图像转换为二值图像,结合形状特征,可准确识别光伏组件;根据光伏组串识别结果可获取无人机理论飞行路径,计算偏移量并以视线导引法对无人机速度控制过程进行建模,实现无人机对光伏组串中心线的路径跟随. 所提出的图像处理算法具有较好的适应性和实时性,满足无人机飞行控制需求,可应用于光伏巡检以提升图像数据采集效率和系统的自动化水平.
所提出的方法能够对光伏组件进行有效识别,但不同电站和气象条件下的非结构化复杂环境会降低识别性能,仅基于颜色和形状特征的组件识别算法有其自身局限性,未来将研究鲁棒性更强的图像处理方法,将视觉导航与其他导航方式(如GPS导航)有机融合,并在实际场景中对视觉算法与导航算法进行系统测试以验证其有效性.
参考文献
A novel real-time moving target tracking and path planning system for a quadrotor UAV in unknown unstructured outdoor scenes
[J].
Hybrid visual servo trajectory tracking of wheeled mobile robots
[J].DOI:10.1109/ACCESS.2018.2829839
Visual servo feedback control of a novel large working range micro manipulation system for microassembly
[J].DOI:10.1109/JMEMS.2013.2268849 [本文引用: 1]
基于机器视觉的水果采摘机器人目标识别方法
[J].
A method of fruit picking robot target identification based on machine vision
[J].
/
〈 |
|
〉 |
