浙江大学学报(工学版), 2024, 58(12): 2596-2608 doi: 10.3785/j.issn.1008-973X.2024.12.019

交通工程

基于图神经网络的路面病害态势预测方法

马泽超,, 刘小明,, 夏汗青, 王伟强, 王久增, 申海涛

1. 北方工业大学 电气与控制工程学院,北京 100144

2. 南京航空航天大学 民航学院,江苏 南京 211106

3. 唐山高速公路集团有限公司,河北 唐山 063000

Pavement distress situation prediction method based on graph neural network

MA Zechao,, LIU Xiaoming,, XIA Hanqing, WANG Weiqiang, WANG Jiuzeng, SHEN Haitao

1. School of Electrical and Control Engineering, North China University of Technology, Beijing 100144, China

2. College of Civil Aviation, Nanjing University of Aeronautics and Astronautics, Nanjing 211106, China

3. Tangshan Expressway Group Company, Tangshan 063000, China

通讯作者: 刘小明,男,教授. orcid.org/0000-0002-9229-6544. E-mail: tslxm@sina.com

收稿日期: 2023-10-23  

基金资助: 北方工业大学毓秀创新项目 (2024NCUTYXCX109).

Received: 2023-10-23  

Fund supported: 北方工业大学毓秀创新项目(2024NCUTYXCX109).

作者简介 About authors

马泽超(2000—),男,硕士生,从事智能交通、交通时空大数据研究.orcid.org/0009-0009-2552-6280.E-mail:z2mazc@126.com , E-mail:z2mazc@126.com

摘要

针对路面病害生成和恶化的预测问题,提出应用图卷积神经网络的路面病害态势预测方法. 通过聚类算法建立拓扑网络,选取目标病害在演化过程中的主要影响因素;为了增强图神经网络对病害信息的表达能力,采用图拓扑增强的方法,从静态和动态方面分别构造与病害信息相关的视图;采用图神经网络(GNN)架构增强的方法,在视图维度上应用注意力机制调整不同视图的影响力,并在时间维度上应用Transformer和GRU模块,增强模型在长时间序列中对病害状态的预测性能. 设计模型的内部调整测试,经消融试验、多样本测试和超参数对照组的验证,证明所提模型的适用性和稳定性. 针对大型稀疏的路面病害数据集,此模型的平均绝对误差均值收敛在4.0以内,综合性能优于传统预测算法.

关键词: 公路养护 ; 路面病害 ; 图神经网络 ; 时间序列预测 ; 裂缝

Abstract

A road pavement distress situation forecasting method employing graph convolutional networks was introduced, addressing the prediction problem of road pavement distress generation and deterioration. Firstly, a topological network was established through clustering algorithms, selecting the main influencing factors of the target pavement distress during its evolution. Subsequently, to enhance the expressive capability of the graph neural network for distress information, a graph topology enhancement method was employed, constructing views related to distress information from both static and dynamic aspects. Finally, an enhanced graph neural network (GNN) architecture was applied, by incorporating attention mechanisms in the view dimension to adjust the influence of different views and utilizing Transformer and GRU modules in the temporal dimension to enhance the predictive performance of the model for pavement distress states over extended time sequences. The internal calibration tests of the model, including ablation studies, multi-sample testing, and hyperparameter control group validation, demonstrated the applicability and stability of the proposed model. For the large and sparse pavement disease dataset, the mean absolute error of this model converged within 4.0, which was better than the results of the traditional prediction algorithms in terms of comprehensive performance.

Keywords: highway maintenance ; pavement distress ; graph neural network ; time series forecast ; crack

PDF (1111KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

马泽超, 刘小明, 夏汗青, 王伟强, 王久增, 申海涛. 基于图神经网络的路面病害态势预测方法. 浙江大学学报(工学版)[J], 2024, 58(12): 2596-2608 doi:10.3785/j.issn.1008-973X.2024.12.019

MA Zechao, LIU Xiaoming, XIA Hanqing, WANG Weiqiang, WANG Jiuzeng, SHEN Haitao. Pavement distress situation prediction method based on graph neural network. Journal of Zhejiang University(Engineering Science)[J], 2024, 58(12): 2596-2608 doi:10.3785/j.issn.1008-973X.2024.12.019

全球高速公路总里程持续上升,随着基础设施建设的逐渐完备,高速公路的发展也从大规模建设阶段进入了长时间运营养护阶段. 研究表明,为健康的公路延长其使用寿命的费用远低于其发生病害后的修缮费用[1-2]. 因此,对高速公路各结构的预防性养护是一项关键环节[3].

近年来,从将机器学习技术应用于路面性能预测的相关研究[4]中可发现,由于美国长期路面性能(long term pavement performance, LTPP)项目具有30多年的路面性能数据积累,越来越多的学者使用LTPP的数据进行实验. 从LTPP对沥青路面病害的原始记录中可知,非零单元格的比例仅有11%,说明沥青路面原始病害记录是一个包含大量零值的大型稀疏矩阵[5]. 这表明路面病害具有偶发性、离散性、不明显的规律和复杂的时空相关性,具体表现如下:养护工作会使病害的演化态势在长时间序列中产生波动;各种类型病害的分布呈离散状,在欧几里得空间中距离较近的区域内可能也有完全不同的病害分布. 因此,对路面性能展开精准的预测须更多考虑时空关系.

路面性能预测主要分为确定性预测模型和概率性预测模型,大多数将一组自变量和响应变量联系起来的传统路面性能预测模型都可以被归类为确定性模型. 其中,经验模型的广泛适用性更加有利于对路面管理系统数据的分析[6]. Pityonesi等[7]通过拟合国际粗糙度指数和路面状况指数之间的线性回归方程,发现两者之间的关系会因位置、功能因素而显著变化. 邬晓光等[8]使用灰色关联度模型量化了4个因素对路面维修量的影响程度,并建立小修工程量的预测模型,实现对路面性能的预测. 史小丽等[9]使用多元非线性回归方法建立预测模型,但该方法无法适应不断变化的环境,不能从时空关联性的角度学习病害的演化态势. Abdelaziz等[10]使用LTPP数据库的稳定数据对国际粗糙度指数 (international roughness index,IRI)进行预测,证明了神经网络比线性回归有更好的预测性能.

近年来,机器学习技术因其强大的非线性拟合能力和快速的实时预测能力,被广泛应用于路面性能预测中. 滕伟玲等[11]基于BP神经网络建立了考虑9种特征的多元非线性模型,证明了神经网络对路面小修保养工程量预测的可行性. Marcelino等[4]使用随机森林算法解决了IRI的长时间预测问题. Nyirandayisabye等[12]使用基于回归的机器学习算法同时检测几种类型的路面病害,结果发现梯度提升回归器GBR的预测性能是最好的. Pandit等[13]使用不同的机器学习模型预测IRI,经对比后发现,人工神经网络和XGB回归模型的预测性能是最好的. Inkoom等[14]提出使用递归划分和人工神经网络组成的模型,结合多种影响因素实现了对路面裂缝等级的预测. Chopra等[15]应用遗传算法建立了面向路面病害的预测模型,预测对象直接面向了裂缝、剥落、坑槽、车辙.

通过以上研究可知,近年来,以神经网络和机器学习算法为代表的技术拥有更强的学习和泛化能力,它们在路面性能预测中得到了更多的应用. 但大多数路面性能预测模型所考虑的地理空间范围很广[8,15],并且传统机器学习算法在对路面病害分析时较难同时考虑时空特征,这将导致模型的泛化能力和精度会受到数据场景的限制,因此较难明确小范围内的路面破损状况. 由于缺乏路面病害的具体位置,养护人员在实际制定修复方案时仍难以根据已有模型做出准确判断[16]. 为此,本研究提出建立通过学习病害的时空特征来进行预测的模型,基于图卷积神经网络分析公路网络中各区域的时空关联性,通过多层注意力模块在时空维度中突出病害演化的显著周期.

1. 图神经网络原理

1.1. 图卷积神经网络

图神经网络[17](graph neural network, GNN)是在图域上运行的基于深度学习的扩展方法,它可以从底层数据中提取图网络中复杂的关联性. 其中,图是一种由节点和边构成的复杂数据结构,表示来自不同领域的各种不同类型、存在相互关联的数据. 图神经网络的核心思想是通过将节点及其邻居节点的信息进行聚合,逐步传递和更新信息,最终为每个节点提供一个表示其特征的嵌入. 在图神经网络的多个类型中,图卷积神经网络(graph convolutional network, GCN)的卷积核的大小可随着中心传感器相邻节点的个数而发生变换,只须对相邻节点的特征进行加权计算即可更新传感器节点自身的特征. 因此,GCN宜被用于分析路网的空间特征. GCN的结构如图1所示,其核心表达式如下:

图 1

图 1   图卷积神经网络结构

Fig.1   Graph convolutional network structure


$ \boldsymbol{Z}_i=\sum_{j \in N(i)} \dfrac{1}{c_i} \boldsymbol{X}_j \boldsymbol{W}, $

$ \boldsymbol{H}_i=f\left(\boldsymbol{Z}_i\right) . $

式中: $ {{\boldsymbol{Z}}_i} $为节点$i$经图卷积操作后的特征表示;${{\boldsymbol{X}}_j}$为节点$j$的特征;${\boldsymbol{W}}$为共享的权重矩阵;N(i)为节点i的邻居集合;${c_i}$为节点$i$的度数(邻居节点数量),用于对邻居节点特征的归一化;$f$通常是${\mathrm{ReLU}}$或其他非线性激活函数,这个更新规则对于每个节点$i$都会计算得到一个新的表示${{\boldsymbol{H}}_i}$,该表示包含了节点$i$及其邻居节点的信息.

由于交通路网包含复杂的时空连接关系,路网可以用图${\boldsymbol{G}} = \left( {V,E,{\boldsymbol{A}}} \right)$的形式来描述,其中,$V$表示路网中节点的集合,$E$表示边的集合,${\boldsymbol{A}}$表示路网拓扑图的邻接矩阵. 近年来,图神经网络已被广泛应用于交通预测的相关研究[18-22]中,交通预测问题可以描述为基于拓扑网络结构和历史时间序列数据来预测未来的交通状态,包括交通流、交通事故态势、车辆运行状态等.

由于路面病害在演化的过程中涉及到了时间和空间维度上的扩张变化,从时间相关性和空间相关性层面学习路面病害的演化态势对精准预测路面性能具有一定的研究意义. 对LTPP提供的长期数据做特征分析发现,在生成和演化的过程中,路面病害所具有的分布特性和时空关联性与城市内的交通事故特性相似,它们均发生于大范围的地理空间内、受内外部多重因素影响、数据分布离散、长时间规律性变化、具有偶发性. Trirat等[22]利用图卷积神经网络和时间注意力模块对交通事故进行预测,类似的方法已多有对交通事故预测方面的应用. 因此,本研究提出的对路面性能的预测也可基于图卷积神经网络开展,通过学习路面病害演化时的静态和动态关系,使预测模型对时空维度上的变化具有更高的敏感性,增强模型对路面病害长时间演变的预测精度.

1.2. 时空相关性

从时间相关性和空间相关性分别解释路网内路面病害的变化. 从时间相关性来说,当前时间步的每个空间节点可以直接影响下一个时间步的自身,即该空间节点内的路面病害进行长时间的恶化演变;从空间相关性来说,在同一个时间步内,每个空间节点可以直接影响其相邻节点,即该空间节点内的路面病害通过损坏公路性能,来提高相邻相似空间内的病害的生成概率.

Kipf等[17]使用图卷积神经网络对图进行半监督学习的方法,不能同时捕获路网拓扑结构内的时空特征及动态相关性. 对此,更多研究选择将递归神经网络(recurrent neural network, RNN)、长短期记忆网络(long short-term memory, LSTM)[23]和门控循环单元(gate recurrent unit, GRU)[24]作为时间模型,来和以GCN为代表的空间模型相结合,以达到对时空特征的同时分析. 在捕获路网的时空相关性时,使用前$ t\left(t=1,2,\cdots,T\right) $个历史时间序列数据作为输入,利用图卷积获取拓扑路网的空间相关性,然后将含有空间信息的时间序列输入至时间模型内,通过信息传递得到包含时空特征的$t$个隐藏状态. 以上过程可达到间接式捕获时空相关性的目的[25].

2. 路面病害数据处理与分析

2.1. LTPP数据

路面在实际服役过程中的性能劣化呈现出差异化的病害类型组合现象,现有研究证明,不同类型的病害之间具有相关性,这导致不同病害组合对路面使用性能造成的负面影响有很大区别[12,26-27]. 现实使用状况表明,根据规范路面综合评价体系计算的破损状况指标PCI与实际路况存在一定差距,一些情况下出现了破损指标评分良好,但路面破损情况整体较差的现象[28]. 因此,在对路面性能预测时,直接将预测对象面向为具体的各类病害,可以直观感知该段道路的破损情况. 基于大规模长时期的路面性能数据库开展预测,可以增强预测模型的泛化能力和精度,故本研究使用美国长期路面性能数据库开展研究.

美国长期路面性能研究计划是全球范围内规模和影响最大的路面长期性能研究项目,它覆盖了北美60多个州省地区的2400多个实验路段[29],用以研究高速公路路面系统的性能衰变. LTPP数据库有五大模块存储路面性能数据,包括概况(general)、结构状况(structure)、交通状况(traffic)以及路面性能状况(performance),这些性能数据从内部和外部对路面病害的生成和恶化产生影响[30]. 本研究基于这五大模块的部分存储数据,训练路面病害态势的预测模型,所使用的信息包括路面破损度量、气温、湿度、降水、试验路段位置、交通流量、年平均等效单轴载荷等.

2.2. 数据预处理与空间栅格化

LTPP数据库提供了长期路面病害和相关因素的信息,但受限于抽样思维和技术水平的限制,数据信息存在诸多缺陷. 例如,同一州省内部分路段的记录年限不统一、部分类型病害统计量缺失、病害度量的变化与养护工程关系不明确等. 因此,须对数据进行筛选和预处理,具体措施如下.

1)每条公路内的病害数据以年份记录,无法精准地获悉每个月或每个巡检季度内各种类型病害的数量. 对此,将1 a的病害总量分配给12个月,后一个月病害量为前一个月病害量与分配量之和,用累加的方法保证最终的统计量符合原始数据,保证前后两年病害量的合理衔接,以实现扩大时间序列范围的目的. 经该方法确定的时间步长以月为单位.

2)对病害数据的选取设置条件约束:有效记录数据的时间跨度不能低于3 a、在有效数据的时间段内不含有大中修工程.

3)栅格数据在空间分析方面更易进行叠置和组合,通过控制栅格大小可降低精度损失,适用于对现实空间中分布离散的病害进行细粒度预测. 故本研究使用栅格数据开展空间分析,将病害条目和路段位置信息与栅格空间匹配,将栅格视作拓扑图的节点.

4)为了构建图网络,首先使用DBSCAN密度聚类算法在墨卡托投影坐标系下对栅格做聚类处理. DBSCAN聚类算法将具有足够高密度的区域划分为簇,并可在带有噪声的空间数据库中发现任意形状的聚类. 该算法的核心公式为

$ {\text{Core}}\;\left( {p,D} \right) = \left\{ {q \in D|{\text{dist}}\;\left( {p,q} \right) \leqslant \varepsilon } \right\} \geqslant {\text{MinPts}}, $

$ {\text{Border}}\;\left( {p,D} \right) = \left\{ {q \in D\left| {{\text{dist}}\;\left( {p,q} \right) \leqslant \varepsilon } \right.} \right\} < {\text{MinPts}}. $

式中:${\text{Core}}$为核心点,${\text{Border}}$为边界点,$p$为考察的数据点,$D$为数据集,${\text{dist}}\;\left( {p,q} \right)$为点$p$和点$q$间的距离函数,$\varepsilon $为半径,${\text{MinPts}}$表示一个核心点周围必须包含的最小邻近点数目.

相较于K-means算法和层次聚类算法,DBSCAN算法擅长识别形态独特的异性簇,可直接判别离群点,并将噪声作为离群点分离出去,不将其纳入到邻接矩阵的建立中,更适用于地理空间数据的聚类. 依据公路里程桩的间隔设定搜索半径为1 km,最小包含点数为3个,可以将含有病害信息的栅格划归为簇. 排除离散点和点数较少的簇,选取栅格数量充足的聚类簇建立其内部的图网络结构,保证预测模型具有更广泛的泛化能力.

2.3. 病害相关性分析

除外部环境和交通荷载对路面病害的生成与恶化具有影响外,内部的病害与病害之间也存在相互影响. 在使用图神经网络对不同节点区域的各类路面病害进行预测时,须考虑与目标类型病害有强相关性的它类病害因素的影响,以减少特征融合时的噪声干扰. 实验选取美国佛罗里达州内有统计条目的全时段全地区的数据开展相关性分析. 对佛罗里达州的多年路面病害的出现频率进行可视化,如图2所示. 图中,Rate为病害发生率;M1~M23表示路面病害类型,分别为翻浆(面积、数量)、泛油、粒料磨损、松散、唧泥(长度、数量)、轮迹路面裂缝、大于1.83 m的横向裂缝、龟裂、块状裂缝、边缘裂缝、轮迹纵向裂缝、密封良好的轮迹纵向裂缝、非轮迹纵向裂缝、密封良好的非轮迹纵向裂缝、横向裂缝(长度、数量)、密封良好的横向裂缝、补丁(面积、数量)、坑洞(面积、数量). 结果表明诸多类型的路面病害在广泛的公路网络内是稀疏的,在长时间内是偶发的.

图 2

图 2   佛罗里达州各类型路面病害的发生频率

Fig.2   Frequency of various types of pavement distress in Florida


通过绘制线性拟合图证明病害之间是否存在线性关系,如图3所示. 图中,M2为翻浆,M3为泛油,M5为松散,M23为坑洞,其余病害为各类型裂缝. 线性拟合结果表明,只有少部分病害之间存在较为明显的线性关系,如车轮路径长度裂纹和非轮迹纵向裂缝;大多数病害之间的关系多为非线性关系或无关,如泛油和大部分裂缝病害. 因此,在计算病害之间的相关性时,宜选用Kendall Tau相关系数来计算病害的相关性. Kendall Tau相关系数是基于秩次的相关系数,它不需要假设数据服从特定的分布类型,只考虑变量之间的秩次关系,而不是具体的数值大小,因此适用于各种类型的数据. Kendall Tau相关系数的计算公式为

图 3

图 3   佛罗里达州部分路面病害之间的线性拟合图

Fig.3   Linear fit between pavement distress types in Florida


$ \tau = \dfrac{{C - D}}{{n\left( {n - 1} \right)/2}}. $

式中:n表示样本中个体的数量,C表示同序对的数量,D表示异序对的数量.

在图卷积时,对于所要预测的目标病害选取和其具有正相关性的它类病害作为特征. 相关性热力矩阵可视化如图4所示. 图中,R为2类病害的相关程度.

图 4

图 4   佛罗里达州的病害相关性热力图

Fig.4   Pavement distress-related heat maps of Florida


3. 路面病害态势预测

由于路面病害在广泛的公路网络和长期的运营时段内是稀疏且偶发的,简单的预测模型在对其态势进行预测时容易陷入“零膨胀”问题. 它们较难以捕捉到与零值相关的信息,并倾向于产生偏向于零值的结果,导致模型对非零值的预测性能下降,不易于在回归误差和分类准确性中达到良好的平衡.

包含不同信息的视图可以通过信息的互补,减少模型对零值的依赖,提取与路面病害演化相关的重点信息,提供更强大的特征表示. 因此,为了克服“零膨胀”问题,选择使用多视图图卷积神经网络来处理大型稀疏数据集. 利用3种关系构造对应的拓扑网络,所提出的路面病害态势预测模型结构如图5所示.

图 5

图 5   多视图图卷积模型结构

Fig.5   Multi-view graph convolution model structure


3.1. 多视图构造

近年来,有关图神经网络的应用型研究表明[31-32],空间相邻区域和上下文相关区域的信息对精确预测都至关重要. 因此,通过对多重图的学习来建模由多模态节点表征的区域之间的不同相关性. 实验会将区域之间不同类型的非欧几里德成对相关性编码成多个图,在实际应用中,多视图方法相较于单视图方法更为可取,因为前者提供了包含互补信息的更全面的表示. 该方法的关键思想是利用区域之间的上下文信息进行准确预测,因为不仅区域之间的空间邻近性是相关的,区域之间附加特征的相似性也是相关的.

针对不同区域的静态和动态上下文时空关系进行建模,通过计算具有静态特征的节点之间的相似性,建立地理空间邻接图和病害类型相似图. 通过计算各时间步长下区域的相似度,构建具有时变特征的病害波动相似图. 为了避免每个节点$ {v_i} $都与其他节点${v_j}$相接,将每个邻接矩阵各自的均值作为其对应的阈值${e_{{\mathrm{avg}}}}$,每条边的值${e_{ij}}$若符合特定要求,则可将这条边视作连接.

$ {A}_{\mathrm{S}, i j}=\left\{\begin{array}{l}1,\; v_i,\; v_j \in V,\;\; e_{i j} < e_{\mathrm{avg}} ; \\0,\; {\text { 其他. }}\end{array}\right. $

$ {{{A}}_{{\text{F}},ij}} = \left\{ \begin{gathered} 1{\text{, sim}}\left( {{f_{{\mathrm{f}},{vi}}},{f_{{\mathrm{f}},vj}}} \right) > {e_{{\mathrm{avg}}}} ; \\ 0,{\text{ 其他}}. \\ \end{gathered} \right. $

$ {{{A}}_{{\text{W}},ij}} = \left\{ \begin{gathered} 1{\text{, sim}}\left( {{f_{{\mathrm{w}},{vi}}},{f_{{\mathrm{w}},vj}}} \right) > {e_{{\mathrm{avg}}}} ; \\ 0,{\text{ 其他}}. \\ \end{gathered} \right. $

式中:${{\boldsymbol{A}}_{{\text{S}}}}$为地理空间的邻接矩阵,${{\boldsymbol{A}}_{{\text{F}}}}$为病害类型相似的邻接矩阵,${{\boldsymbol{A}}_{{\text{W}}}}$为病害波动相似的邻接矩阵,${\text{sim}}$为相似度计算方法,fw, vi表示节点vi在研究时段内的病害观测量的变化百分比. 本研究先后采用pearson、jaccard和cosine这3种方法来构造多视图. 由相关性热力分析可知,多种病害之间彼此影响,会使不同区域内的病害类型也呈现相似,从病害类型的发生频率相似度的角度分析,有助于理解病害在各区域内的演化态势. 在分析病害在长时期演化过程中的变化态势时,通过计算各时间步长下的目标病害的波动相似度,有助于从时间维度补全信息. 多视图构建案例如图6所示,首先依据DBSCAN聚类结果选取符合要求的簇,然后使用式(6)~(8)对簇内的每个栅格空间与其他空间的邻接关系进行确定,若边的权重为0,表示2个栅格空间不具备相邻关系.

图 6

图 6   多视图案例的构建

Fig.6   Construction of multi-view cases


3.2. 图卷积模块

使用图卷积神经网络捕获每一个构造图内节点之间的空间相关性,该模型的图卷积层为

$ \boldsymbol{h}_{l+1}^t=\operatorname{ReLU}\;\left[\left(\tilde{\boldsymbol{D}}^{-{1}/{2}} \tilde{\boldsymbol{A}} \tilde{\boldsymbol{D}}^{-{1}/{2}}\right)^t \boldsymbol{h}_l^t \boldsymbol{W}_l^t\right]. $

式中:t为时间步;$l$为层数;${\mathrm{ReLU}}$为激活函数;$\tilde {\boldsymbol{D}}$为不同构造图对应的度矩阵;$\tilde {\boldsymbol{A}}$表示自连接的邻接矩阵,$\tilde {\boldsymbol{A}}={\boldsymbol{A}}+{\boldsymbol{I}},\;{{\boldsymbol{A}}}$为不同构造图的邻接矩阵,${{\boldsymbol{I}}}$为单位矩阵;${\boldsymbol{h}}_l^t$表示图卷积网络的第l层的隐藏表征;${\boldsymbol{W}}_l^t$表示第$l$层对应的卷积核权值矩阵. 模型从所有GCN层中获得每一个时间步$t$的不同构造图对应的隐藏表征$ {\boldsymbol{H}}_{\mathrm{v}}^t $.

本研究的图卷积模块通过聚合节点自身的目标病害度量、不同视图内相邻节点的影响特征以及节点与相邻节点之间边的关系特征,来更新每个节点在每个时间步内的隐藏特征. 在对公路路面病害进行预测的实际应用场景中,可以利用隐藏特征来建立已知目标路面病害信息的区域与未知目标路面病害信息的区域之间的链接关系,从而实现对未知空间内目标病害态势的预测.

3.3. 注意力模块

对于多视图的图卷积应用,参考channel-wise attention的思想[33],将其推广到多视图依赖关系的建模中,以了解不同视图对路面病害预测的重要性,并通过赋予更高的权重来强调图的影响力. 首先,在每一个时间步$t$内,对不同视图的隐藏表征${{\boldsymbol{H}}_{\mathrm{v}}}$做全局平均池化(${G_{{\mathrm{pool}}}}$),将每个视图的特征图汇总成一个标量值,并将这标量值连接起来形成一个向量${\boldsymbol{z}}$,然后,对向量${\boldsymbol{z}}$应用注意力操作,用激活函数来对每个视图进行缩放和加权操作,表达式如下:

$ {z}_v=G_{\mathrm{pool}}\left(\boldsymbol{H}_{\mathrm{v}}\right)=\frac{1}{N} \sum_{i=1}^N {H}_{{\mathrm{v}}, i} . $

$ \left.\begin{split} &\boldsymbol{s}=\sigma\left(\boldsymbol{W}_2, \operatorname{ReLU}\;\left(\boldsymbol{W}_1 {\boldsymbol{z}}\right)\right), \\ &\boldsymbol{H}_{\mathrm{attn}}={\boldsymbol{H}}_{\mathrm{all}} \circ \boldsymbol{s} .\end{split}\right\} $

式中:${N}$为多视图的数量,${{\boldsymbol{W}}_1}$${{\boldsymbol{W}}_2}$为相应的权重,$\sigma $为sigmoid型激活函数,${\boldsymbol{s}}$为视向注意得分的向量,Hattn为经注意力模块处理后得到的表征,Hall为拼合所有视图对应的隐藏表征的张量.

对经过缩放和加权处理后的特征进行下一步时序上的预测. 使用Transformer和GRU组建时间注意力模块. Transformer层可以通过多头自注意机制突出病害演化的显著周期[34-35]. GRU采用门控机制控制记忆单元对路面病害信息的长期记忆,其结构简单且参数较少,能够在加速训练的同时更易收敛. 将特征重塑为适合GRU层处理的格式后,它能从高亮的关联性视图及其时间步内捕获时间相关性[36]. 该时间注意模块结构为

$ {\boldsymbol{H}} = {\text{GRU}}\;\left( {{\text{Transformer}}\;\left( {\left[ {{\boldsymbol{H}}_{{\mathrm{attn}}}^1, \cdots ,{\boldsymbol{H}}_{{\mathrm{attn}}}^T} \right]} \right)} \right). $

式中:1, ···, T表示预测的时间区间,H表示最终输出的向量表示,Hattn表示在时间步t的注意力机制之后的隐藏状态.

3.4. 预测与优化

经以上步骤得到最终的隐藏表征${\boldsymbol{H}}$,最后,在全连接层中应用${\mathrm{ReLU}}$激活函数,对隐藏表征进行非线性变换,表达式为

$ \hat y = {\mathrm{FC}}\;\left( {{\mathrm{ReLU}}\;\left( {{\mathrm{FC}}\;\left( {\boldsymbol{H}} \right)} \right)} \right). $

全连接层将学习节点的历史时间段$\left( t = \right. \left.1,2, \cdots ,T \right)$的特征,来影响未来时间段$\left( t' = T+1,\right. \left.T+2, \cdots ,T+L \right)$的病害演化态势. 在本研究中,$T=12,\;t=1, \;\cdots ,\;12$表示历史第1~12个月的时间步;$L=6,\;t'=13,\;14,\; \cdots ,\;18$表示未来第1~6个月的时间步.

病害数据不仅是一个充满大量零值的稀疏矩阵,而且其数值范围可能有巨大跨度. 并且,本研究对原始数据进行了数据增强,这会增加病害在时间轴上的分布. 对这样的病害进行演化预测,须考虑损失函数对预测结果的影响. 因此,使用Huber Loss[37]作为损失函数,这是一种用于回归问题的损失函数,它在损失计算时对真实值和预测值之间的差异进行鲁棒性处理,对于小误差采用平方损失(二次函数),对于大误差采用绝对损失(一次函数),在一定程度上对异常值具有鲁棒性.

4. 实证研究

4.1. 数据描述

实证研究主要以LTPP数据库提供的佛罗里达州的路面病害数据作为描述对象,其节选了1997—2006年符合要求的真实数据集,该数据集用于构建节点特征矩阵和多视图矩阵. 为了验证本模型的通用性,除佛罗里达州外还选择了纽约州、德克萨斯州和密歇根州的数据进行测试.

1)目标病害:该特征表示每个区域在每个时间点的目标病害数量. 先后选用非轮迹带状裂缝、轮迹带状裂缝、龟裂裂缝、纵向裂缝等路面病害作为目标病害进行预测训练.

2)它类病害:与目标病害具有中、强相关性的其他类型的病害,将此视作它类病害特征.

3)气候因素:该特征集表示每月的平均温度、湿度、降雨量、降雪量、冻融天数等数据.

4)交通因素:该特征集表示该区域内的交通流量,包含年平均每日卡车交通量.

4.2. 超参数与评价指标设定

将全体数据集按照7∶3的比例划分了训练集和测试集,其中,10%的训练集被用于验证. 由于LTPP提供的路段空间的长为152.4 m,宽为12.0 m,为了贴近原始空间的大小,实验设定栅格空间的大小为150 m×150 m. 由于各项特征的尺度不统一,须首先对各项特征做最大最小归一化处理,使它们缩放到统一范围内. 在构建的神经网络模型中,实验使用Adam优化器(lr=0.001,β1=0.9,β2=0.999,epsilon=10−7)对模型进行训练. 为了防止过拟合,实验对学习率进行指数衰减,同时还采用了早期停止技术,设置衰减步数为10000,衰减率为0.9. 实验设置训练轮数为100,指定每次训练使用的批量大小为17,对预测模型开展训练. 超参数在经过多次训练后,选择[GRU Units:256, GCN Filters:128, FC Units:512, GCN Layers:6, δ:9]做标准配置.

从回归和分类2个角度测评所建立的路面病害预测模型的性能. 使用平均绝对误差、均方误差和均方根误差作为回归评价的指标:

$ {\mathrm{MAE}} = \frac{1}{{T+L}}\sum\nolimits_{t' = T+1}^{T+L} {\left| {{{\hat y}_{t'}} - {y_{t'}}} \right|} , $

$ {\mathrm{MSE}} = \frac{1}{{T+L}}{\sum\nolimits_{t' = T+1}^{T+L} {\left( {{{\hat y}_{t'}} - {y_{t'}}} \right)} ^2}, $

$ {\mathrm{RMSE}} = \left[ {\frac{1}{{T+L}}{{\sum\nolimits_{t' = T+1}^{T+L} {\left( {{{\hat y}_{t'}} - {y_{t'}}} \right)} }^2}}\right]^{1/2} . $

式中:${\mathrm{MAE}}$为平均绝对误差,${\mathrm{MSE}}$为均方误差,${\mathrm{RMSE}}$为均方根误差;${y_{t'}}$${\hat y_{t'}}$为时间间隔$t'$内所有地区的真实值和预测值,$t'$表示未来第$T+1$时开始的时间步;

为了检验模型的实际适用性,使用准确率指标来评价模型对高频区域的预测精度. 选择前K个的召回率(recall of top K)作为分类评价的指标,它通常在信息检索领域,用于评估在给定的检索结果中,模型能够正确返回多少个相关文档. 研究设定病害量最多的前20%的地区为前K个地区,在时间间隔t内,Recall是实际病害量最高的前20%地区Rt'和预测病害量最高的前20%地区${\hat R}_{t'} $之间的重合比例:

${\mathrm{Recall}} = \frac{1}{{T+L}}\sum\nolimits_{t' = T+1}^{T+L} {\frac{{\left| {{R_{t'}} \cap {{\hat R}_{t'}}} \right|}}{{\left| {{R_{t'}}} \right|}}} . $

4.3. 与基线模型对比

已有研究[4,11-15]多采用传统机器学习算法来对路面病害态势进行预测,将所提出的基于多视图图卷积神经网络的路面病害预测模型(MV-GCN)与机器学习模型和近年来的深度学习模型进行对比. 选用佛罗里达州的路面病害数据集,以非轮迹带状裂缝为目标病害,所有基线模型和本研究模型均使用相同的输入特征和预测步长,得到的预测结果对比如表1图7所示.

表 1   MV-GCN与基线模型的平均性能对比

Tab.1  Average performance comparison of MV-GCN and baseline models

模型MAEMSERMSERecall
SVR[12]6.4418119.740610.93090.5518
DTR[12]5.7394134.038411.56220.7222
RFR[4]4.127066.14588.11470.6166
GBR[12]4.351993.62569.66810.7592
BPNN[8]6.4668140.622711.84790.5056
XGB[13]4.494272.76748.51100.6648
DF-TAR[38]3.293030.88215.89110.8306
MV-GCN2.776022.24194.71580.9333

新窗口打开| 下载CSV


图 7

图 7   MV-GCN与基线模型的逐月预测性能对比

Fig.7   Month-to-month performance comparison of MV-GCN and baseline models


每个模型的最终性能数据均为10轮训练的均值. 本研究所提模型对路面病害预测的回归误差显著低于机器学习算法的,对高危区域的预测准确度高于基线模型的,并且稳定性更加优秀. 相较于引用了时间注意力模块的深度学习模型DF-TAR,所提模型通过图卷积神经网络和图拓扑增强方式提高了对路面病害的预测精度. 该结果可解释为,模型能够通过对多重信息关系的学习,强化其对路面病害在回归和分类方面的预测性能.

4.4. 模型内部调整测试

4.4.1. 消融试验

为了评估模型的各个成分,从图拓扑增强和多重注意力模块2个角度进行消融试验. 图拓扑增强方案就是从静态和动态方面分别构造与病害信息相关的视图,丰富对病害信息的学习. 每个视图的贡献如表2所示. 可以看出,采用全部视图的模型性能最好,并且动态方面的视图对预测性能的影响力相对较大. 本研究在搭建模型时使用了视图和时间维度的注意力模块,时间注意力有助于减少高风险区域预测的误差,而视图注意力有助于捕获病害分布的全局上下文信息. 每个注意力模块的贡献如表3所示. 消融试验进一步证明了本研究模型引用图卷积模块和图拓扑增强方式的重要性.

表 2   视图对性能的影响

Tab.2  Effect of views on performance

上下文视图MAEMSERMSERecall
剔除波动相似视图2.679221.48384.63510.932
剔除类型相似视图2.640421.74774.66340.930
剔除空间关联性视图2.626321.28774.59960.933
仅波动相似视图2.625722.14854.70620.929
仅类型相似视图2.705221.86374.64380.932
仅空间关联性视图2.729223.29394.95350.929
全部视图2.610921.14814.59410.933

新窗口打开| 下载CSV


表 3   多重注意力模块对性能的影响

Tab.3  Effect of multi-attention module on performance

注意力模块MAEMSERMSERecall
仅视图注意力模块5.057083.08539.09820.861
仅时间注意力模块6.0533159.023812.60940.830
全部注意力模块2.610921.14814.59410.933

新窗口打开| 下载CSV


4.4.2. 时间序列预测性能

实验按照设定的超参数训练预测模型,使用输入特征的前12个时间步去预测未来6个时间步的目标病害态势. 选取1997—2006年内最后6个月的预测结果做展示,利用回归和分类2个评价指标对预测结果进行评估,如表4所示.

表 4   基于佛罗里达州的聚类簇的预测结果

Tab.4  Prediction results based on clustering in Florida

时间步MAEMSERMSERecall
综合平均性能2.610921.14814.59410.933
第1个时间步平均性能2.526820.01684.46940.930
第2个时间步平均性能2.547520.36564.51000.929
第3个时间步平均性能2.507526.84934.47960.938
第4个时间步平均性能2.600021.09654.59050.924
第5个时间步平均性能2.733422.32134.72350.930
第6个时间步平均性能2.750222.96334.79250.935

新窗口打开| 下载CSV


图8所示显示了15个研究区域在6个月内的预测结果和实际数值的对比. 图中,圆点大小表示数值大小,圆点大小越接近表示预测结果和实际情况越相似. 可以看出,本研究模型训练生成的预测值与真实情况相似度较高.

图 8

图 8   路面病害的预测值和真实值的对比

Fig.8   Comparison of predicted and true values of pavement distress


为了增加预测模型的可信度,按照统一标准将预测模型进行了10轮训练,得到了总体均值和每一个时间步的均值. 预测区域以栅格为单位,但并非全部面积都是有效面积,应以实际道路面积为基准. 每个栅格内所包含的路段面积约为1828.8 m2,而平均绝对误差约为2.610 9 m,预测病害数量前20%地区的平均准确率达到0.9333,结果表明该预测模型对于当地的非轮迹带状裂缝有着优秀的预测效果.

4.4.3. 多样本测试

选取符合要求的4个地区的数据集,使用本模型对不同类型的路面病害进行预测,结果如表5所示. 预测结果显示,该预测模型对不同地区不同类型的路面病害的预测结果具有良好的鲁棒性,但仍然存在预测精度上的差异.

表 5   不同地区不同类型的路面病害的预测结果

Tab.5  Prediction results of different types of pavement distresses in different regions

预测对象均值
MAEMSERecall
佛罗里达州,非轮迹带状裂缝2.610921.14810.93
纽约州,龟裂裂缝2.588826.66800.86
纽约州,轮迹带状裂缝2.255923.96550.91
德克萨斯州,轮迹带状裂缝1.097611.28480.76
密歇根州,纵向裂缝3.363719.11340.73

新窗口打开| 下载CSV


4.4.4. 超参数选取

为了获得性能良好的预测模型,更改了多种参数进行训练,以下从GCN层数、训练比、多视图的相似度算法3个方面展示了使用不同参数的结果.

表6所示为通过改变模型框架中的GCN层数NG来对比性能. 可以看出,不同GCN层数对预测性能产生差异,在实际应用中,应根据不同的内外部条件进行多次测试,选取适应于当地的最优条件. 结果表明,MAE的标准差为0.045,Recall的标准差为0.01,这证明所提模型对超参数设置具有较好的鲁棒性.

表 6   改变GCN层数的性能对比结果

Tab.6  Performance comparison results for varying number of GCN layers

NGMAEMSERMSERecall
22.623221.02164.58010.9301
42.719023.98044.79670.9189
62.610921.14844.59410.9333
82.637421.51724.63370.9254
102.711723.38284.79690.9046

新窗口打开| 下载CSV


由于过高或过低的训练比例可能会导致模型过拟合或欠拟合,并且还须保证数据得到充分利用. 为此调整训练集和测试集的比例,得到不同训练比Q下的性能比较结果,如表7所示. 结果表明,选择比例为7∶3的策略为最优.

表 7   不同训练比下的性能比较结果

Tab.7  Performance comparison results for varying training ratios

QMAEMSERMSERecall
0.83.119127.13765.20490.8889
0.72.719023.98044.79670.9323
0.63.419152.85136.78050.9130
0.53.693960.61987.52100.9173

新窗口打开| 下载CSV


由于本研究采用了不同的相似度计算方法建立了多种类型的视图,须考虑不同方法对预测性能的影响. 通过改变相似度算法建立的关联性图有3种,使用它们进行预测的模型性能如表8所示. 可以看出,宜选用jaccard相似度算法来建立关联性图.

表 8   不同相似度算法的性能对比结果

Tab.8  Performance comparison results of varying similarity algorithms

相似度算法MAEMSERMSERecall
Pearson2.626221.29254.60860.9333
Cosine2.673322.62324.71310.9333
Jaccard2.610921.14814.59410.9333

新窗口打开| 下载CSV


5. 结 语

本研究提出易于在网络级路面管理系统中实现的路面病害态势预测方法. 使用LTPP作为数据来源,提出基于多视图图卷积神经网络的路面病害态势预测模型,采用图拓扑增强和GNN架构增强的方法,强化模型对路面病害信息的表达能力. 为了区分不同相关性图结构对神经网络的影响,在空间维度上引入注意力模块,通过赋予不同的权重来强调视图的影响力. 同时,为了增强模型在长时间内的可靠性,使用Transformer和GRU作为时间维度上的注意力模块,以捕获路面病害演化的时空相关性. 真实数据验证表明,所提出的模型在不同环境下对多类路面病害预测的综合绝对平均误差维持在4以内,对高危区域的预测准确率较高.

由于空间规模、异质性和时间动态的区别,不同区域对模型的超参数和内部结构复杂性的需求不同,在应用于中国的道路数据进行研究时应适当调整,以达到适应当地场景的最优性能. 但仍须注意,受限于原始数据的局限,本研究采用数据增强手段来处理原始数据,这导致经处理后的数据与实际每个时刻的病害数据并不完全一致. 同时,由于统计范围的局限性,本研究只能选取一定范围的高速公路路网来进行实验,研究范围还有进一步扩大的空间.

参考文献

PAN Y, SHANG Y, LIU G, et al

Cost-effectiveness evaluation of pavement maintenance treatments using multiple regression and life-cycle cost analysis

[J]. Construction and Building Materials, 2021, 292 (6): 123461

[本文引用: 1]

HAFEZ M, KSAIBATI K, ATADERO R

Developing a methodology to evaluate the effectiveness of pavement treatments applied to low-volume paved roads

[J]. International Journal of Pavement Engineering, 2019, 20 (8): 894- 904

[本文引用: 1]

FRANCE-MENSAH J, KOTHARI C, BRIEN W J, et al

Integrating social equity in highway maintenance and rehabilitation programming: a quantitative approach

[J]. Sustainable Cities and Society, 2019, 48 (11): 101526

[本文引用: 1]

MARCELINO P, ANTUNES M L, FORTUNATO E, et al

Machine learning approach for pavement performance prediction

[J]. International Journal of Pavement Engineering, 2021, 22 (3): 341- 354

[本文引用: 4]

何西西. 基于大数据分析的沥青路面使用性能指标评价研究[D]. 南京: 东南大学, 2020.

[本文引用: 1]

HE Xixi. Research on the evaluation of asphalt pavement performance index based on big data analysis [D]. Nanjing: Southeast University, 2020.

[本文引用: 1]

MARCELINO P, ANTUNES M L, FORTUNATO E, et al

Transfer learning for pavement performance prediction

[J]. International Journal of Pavement Research and Technology, 2020, 13 (3): 154- 167

[本文引用: 1]

PITYONESI S M, EL-DIRABY T E

Examining the relationship between two road performance indicators: pavement condition index and international roughness index

[J]. Transportation Geotechnics, 2020, 26: 100441

[本文引用: 1]

邬晓光, 时元绪, 李院军, 等

基于灰色理论的高速公路小修保养维修量预测模型

[J]. 公路工程, 2020, 45: 123- 127

[本文引用: 3]

WU Xiaoguang, SHI Yuanxu, LI Yuanjun, et al

Prediction model of minor repair and maintenance amount of expressway based on grey theory

[J]. Highway Engineering, 2020, 45: 123- 127

[本文引用: 3]

史小丽, 王峰, 张平, 等. 高速公路小修保养工程量预估方法[C]//中国公路学会养护与管理分会第八届学术年会论文集. 厦门: 中国公路学会, 2018.

[本文引用: 1]

SHI Xiaoli, WANG Feng, ZHANG Ping, et al. Prediction method of highway minor repair and maintenance works [C]// Proceedings of 8th Annual Conference of Maintenance and Management Branch of China Highway Society . Xiamen: China Highway, 2018.

[本文引用: 1]

ABDELAZIZ N, EL-HAKIM R T, EL-BADAWY S M, et al

International roughness index prediction model for flexible pavements

[J]. International Journal of Pavement Engineering, 2020, 21 (1): 88- 99

DOI:10.1080/10298436.2018.1441414      [本文引用: 1]

滕伟玲, 姚玉玲

高速公路小修保养工程量的预测模型

[J]. 长安大学学报: 自然科学版, 2012, 32 (6): 23- 27

[本文引用: 2]

TENG Weiling, YAO Yuling

Expressway minor maintenance amount prediction based on neural network

[J]. Journal of Chang’an University: Natural Science Edition, 2012, 32 (6): 23- 27

[本文引用: 2]

NYIRANDAYISABYE R, LI H, DONG Q, et al

Automatic pavement damage predictions using various machine learning algorithms: evaluation and comparison

[J]. Results in Engineering, 2022, 16: 100657

[本文引用: 5]

PANDIT W H, SHARMA K P, SHARMA N. International roughness index (IRI) prediction using various machine learning techniques on Flexible Pavements [C]// 2022 2nd International Conference on Advance Computing and Innovative Technologies in Engineering . Greater Noida: IEEE, 2022: 1899–1905.

[本文引用: 2]

INKOOM S, SOBANJO J, BARBU A, et al

Prediction of the crack condition of highway pavements using machine learning models

[J]. Structure and Infrastructure Engineering, 2019, 15 (7): 940- 953

[本文引用: 1]

CHOPRA T, PARIDA M, KWATRA N, et al

Development of pavement distress deterioration prediction models for urban road network using genetic programming

[J]. Advances in Civil Engineering, 2018, (2): 1253108

[本文引用: 3]

LI J, YIN G, WANG X, et al

Automated decision making in highway pavement preventive maintenance based on deep learning

[J]. Automation in Construction, 2022, 135 (6): 104111

[本文引用: 1]

KIPF T N, WELLING M. Semi-supervised classification with graph convolutional networks [C]// 2017 International Conference on Learning Representations . Toulon: OpenReview, 2017.

[本文引用: 2]

LI Y, YU R, SHAHABI C, et al. Graph convolutional recurrent neural network: data-driven traffic forecasting [C]// 2018 International Conference on Learning Representations . Vancouver: OpenReview, 2018.

[本文引用: 1]

LI M, ZHU Z. Spatial-temporal fusion graph neural networks for traffic flow forecasting [C]// Proceedings of the AAAI Conference on Artificial Intelligence . Washington: AAAI, 2021: 4189–4196.

GUO K, HU Y, QIAN Z, et al

Optimized graph convolution recurrent neural network for traffic prediction

[J]. IEEE Transactions on Intelligent Transportation Systems, 2020, 22 (2): 1138- 1149

SHI X, QI H, SHEN Y, et al

A spatial-temporal attention approach for traffic prediction

[J]. IEEE Transactions on Intelligent Transportation Systems, 2020, 22 (8): 4909- 4918

TRIRAT P, YOON S, LEE J

MG-TAR: multi-view graph convolutional networks for traffic accident risk prediction

[J]. IEEE Transactions on Intelligent Transportation Systems, 2023, 24 (4): 3779- 3794

[本文引用: 2]

GUO J, SONG C, WANG H. A multi-step traffic speed forecasting model based on graph convolutional LSTM [C]// 2019 Chinese Automation Congress . Hangzhou: IEEE, 2019: 2466–2471.

[本文引用: 1]

ZHAO L, SONG Y, ZHANG C, et al

T-GCN: a temporal graph convolutional network for traffic prediction

[J]. IEEE Transactions on Intelligent Transportation Systems, 2019, 21 (9): 3848- 3858

[本文引用: 1]

周毅, 胡姝婷, 李伟, 等

图神经网络驱动的交通预测技术: 探索与挑战

[J]. 物联网学报, 2021, 5 (4): 1- 16

DOI:10.11959/j.issn.2096-3750.2021.00235      [本文引用: 1]

ZHOU Yi, HU Shuting, LI Wei, et al

Graph neural network driven traffic prediction technology: review and challenge

[J]. Chinese Journal on Internet of Things, 2021, 5 (4): 1- 16

DOI:10.11959/j.issn.2096-3750.2021.00235      [本文引用: 1]

柴明堂, 马腾, 李国玉, 等

新藏公路路面病害空间分布及相互关系分析

[J]. 冰川冻土, 2022, 44 (6): 1681- 1693

[本文引用: 1]

CHAI Mingtang, MA Teng, LI Guoyu, et al

Analysis on spatial distribution and correlation of pavement distress along the Xinjiang-Tibet highway

[J]. Journal of Glaciology and Geocryology, 2022, 44 (6): 1681- 1693

[本文引用: 1]

PHILIP B, JASSMI H A

A bayesian approach towards modelling the interrelationships of pavement deterioration factors

[J]. Buildings, 2022, 12 (7): 1039

[本文引用: 1]

易辉. 高速公路沥青路面使用性能评价及预测研究[D]. 西安: 长安大学, 2014.

[本文引用: 1]

YI Hui. Study on the evaluation and prediction of expressway asphalt pavement performance [D]. Xian’an: Chan’an University, 2014.

[本文引用: 1]

骆志元. 基于性能预测的路面养护智能决策研究[D]. 重庆: 西南大学, 2023.

[本文引用: 1]

LUO Zhiyuan. Research on intelligent decision-making of pavement maintenance based on performance prediction [D]. Chongqing: Southwest University, 2023.

[本文引用: 1]

GONG H, SUN Y, HU W, et al

Investigating impacts of asphalt mixture properties on pavement performance using LTPP data through random forests

[J]. Construction and Building Materials, 2019, 204: 203- 212

DOI:10.1016/j.conbuildmat.2019.01.198      [本文引用: 1]

LI Z, LIU Z, HUANG J, et al

MV-GCN: multi-view graph convolutional networks for link prediction

[J]. IEEE Access, 2019, 7: 176317- 176328

[本文引用: 1]

GENG X, LI Y, WANG L, et al. Spatiotemporal multi-graph convolution network for ride-hailing demand forecasting [C]// Proceedings of the AAAI Conference on Artificial Intelligence . Honolulu: AAAI, 2019, 449: 3656–3663.

[本文引用: 1]

CHEN L, ZHANG H, XIAO J, et al. SCA-CNN: spatial and channel-wise attention in convolutional networks for image captioning [C]// 2017 IEEE Conference on Computer Vision and Pattern Recognition . Honolulu: IEEE, 2017: 6298–6306.

[本文引用: 1]

VASWANI A, SHAZEER N, PARMAR N, et al. Attention is all you need [C]// 2017 IEEE Conference on Computer Vision and Pattern Recognition . Honolulu: IEEE, 2017: 6000-6010.

[本文引用: 1]

YAN H, LEI X, PU Z

Learning dynamic and hierarchical traffic spatiotemporal features with transformer

[J]. IEEE Transactions on Intelligent Transportation Systems, 2021, 23 (11): 22386- 22399

[本文引用: 1]

CHUNG J, GULCEHRE C, CHO K, et al. Empirical evaluation of gated recurrent neural networks on sequence modeling [C]// NIPS 2014 Workshop on Deep Learning . Montreal: MIT, 2014.

[本文引用: 1]

HUBER P J

Robust estimation of a location parameter

[J]. Breakthroughs in Statistics: Methodology and Distribution, 1992, (2): 492- 518

[本文引用: 1]

TRIRAT P, LEE J. DF-TAR: a deep fusion network for citywide traffic accident risk prediction with dangerous driving behavior [C]// Proceedings of the Web Conference 2021 . Ljubljana: ACM, 2021: 1146–1156.

[本文引用: 1]

/