浙江大学学报(工学版), 2026, 60(11): 2503-2512 doi: 10.3785/j.issn.1008-973X.2026.11.019

土木工程、交通工程

基于地层图像与时序数据的CNN-BiLSTM路堤沉降预测模型

韩同春,, 令狐知博, 汪全震, 周建, 余锦地

1. 浙江大学 滨海和城市岩土工程研究中心,浙江 杭州 310058

2. 全省地下空间开发利用重点实验室,浙江 杭州 310058

3. 浙江省水利水电勘测设计院有限责任公司,浙江 杭州 310002

CNN-BiLSTM prediction model for embankment settlement based on stratum images and time series data

HAN Tongchun,, LINGHU Zhibo, WANG Quanzhen, ZHOU Jian, YU Jindi

1. Research Center of Coastal and Urban Geotechnical Engineering, Zhejiang University, Hangzhou 310058, China

2. Zhejiang Key Laboratory of the Development and Utilization of Underground Space, Hangzhou 310058, China

3. Zhejiang Design Institute of Water Conservancy & Hydro-Electric Power Co., Ltd, Hangzhou 310002, China

收稿日期: 2025-09-9  

基金资助: 国家自然科学基金资助项目(52178360);浙江省水利工程带科研揭榜挂帅项目(RA+202303).

Received: 2025-09-9  

Fund supported: 国家自然科学基金资助项目(52178360);浙江省水利工程带科研揭榜挂帅项目(RA+202303).

作者简介 About authors

韩同春(1969—),男,副教授,博士,从事岩土工程研究.orcid.org/0000-0001-6553-6795.E-mail:htc@zju.edu.cn , E-mail:htc@zju.edu.cn

摘要

为了解决软土地区复杂地层路堤沉降预测中时空特征耦合建模难的问题,提出融合多源信息的神经网络模型. 以地层剖面图为模型输入,采用卷积神经网络(CNN)提取土层的空间分布特征,引入残差连接与自注意力机制加强特征提取;结合地下水位与历史沉降数据构成双变量时间序列,利用双向长短期记忆网络(BiLSTM)建模;通过贝叶斯优化算法寻找最佳参数组合. 基于西险大塘实测数据集上的训练、验证与测试的结果表明,模型的平均绝对误差、均方根误差和决定系数分别达到0.028 6 mm、0.04 mm和0.956 9,优于对比模型,证明了所提模型在复杂地质条件下进行地表沉降预测的有效性和工程应用价值.

关键词: 多源异构数据融合 ; 深度学习 ; 路堤沉降预测 ; CNN ; 双向长短期记忆网络(BiLSTM) ; 贝叶斯优化算法

Abstract

A neural network model integrating multi-source information was proposed to address the challenge of spatiotemporal feature coupling modeling for embankment settlement prediction in soft soil areas with complex stratigraphy. Stratigraphic profile maps were used as the model input. A convolutional neural network (CNN) was employed to extract the spatial distribution characteristics of soil layers. The feature extraction was enhanced with residual connections and a self-attention mechanism. Simultaneously, groundwater level and historical settlement data were combined to form a bivariate time series. This series was modeled using a bidirectional long short-term memory network (BiLSTM). The optimal parameter combination was identified through the Bayesian optimization algorithm. Based on training, validation, and testing results from the measured dataset of the Xixian Datang site, the model achieves a mean absolute error, root mean squared error, and coefficient of determination of 0.028 6 mm, 0.04 mm, and 0.956 9, respectively. These results demonstrate the superiority of the proposed model over comparison models and confirm its effectiveness and engineering application value for surface settlement prediction under complex geological conditions.

Keywords: multi-source heterogeneous data fusion ; deep learning ; embankment settlement prediction ; CNN ; bidirectional long short-term memory network (BiLSTM) ; Bayesian optimization algorithm

PDF (1237KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

韩同春, 令狐知博, 汪全震, 周建, 余锦地. 基于地层图像与时序数据的CNN-BiLSTM路堤沉降预测模型. 浙江大学学报(工学版)[J], 2026, 60(11): 2503-2512 doi:10.3785/j.issn.1008-973X.2026.11.019

HAN Tongchun, LINGHU Zhibo, WANG Quanzhen, ZHOU Jian, YU Jindi. CNN-BiLSTM prediction model for embankment settlement based on stratum images and time series data. Journal of Zhejiang University(Engineering Science)[J], 2026, 60(11): 2503-2512 doi:10.3785/j.issn.1008-973X.2026.11.019

软土在中国沿海地区分布广泛,软土地基大量应用于高速公路、高速铁路和城市快速路等工程中. 软土具有承载力弱和压缩性强的特点,导致软土路堤在施工和运营阶段易发生显著变形和不均匀沉降,严重时可引发如路面开裂和边坡失稳的次生灾害,危及结构安全和交通运行. 开展科学合理的软土路堤沉降预测,尤其是多源数据的有效整合,可为工程设计、施工阶段的加载速率控制以及工后沉降监测提供关键理论依据与数据支撑,对保障软土地区工程建设质量、降低后期维修成本具有重要意义. 软土路堤沉降预测面临多重挑战. 一方面,软土自身的物理力学特性具有显著的空间非均质性与时间依赖性;另一方面,软土路堤作为线状工程,其延伸方向的地质条件存在显著空间变异性. 此外,实际工程的复杂地质环境(如堤身、堤基土组成复杂,夹层多)进一步加大了预测难度. 同时,传统方法对勘察、监测和环境等多源数据的整合能力有限,加之地下水波动等外部因素的不可控性,进一步加剧了预测的不确定性.

人工智能技术在沉降预测研究上展现出独特优势,它能够高效处理勘察参数、监测时序数据和环境动态信息等多源异构数据,通过机器学习挖掘软土特性、荷载条件、环境因素与沉降之间的复杂非线性映射关系,突破了传统模型的局限. 研究人员已广泛应用梯度提升回归树[1]、随机森林[2]、极端梯度提升算法[3]、反向传播神经网络[4]和自然梯度提升算法[5]等机器学习模型,并进一步采用如一维卷积神经网络[6]和长短期记忆网络[2]的多种深度学习模型对各类沉降及变形进行预测. 超参数的选择对模型预测精度影响显著,遗传算法[7-8]、粒子群优化算法[9]、贝叶斯优化算法[10]和海鸥优化算法[11]等被广泛用于模型优化. 研究表明,将机器学习模型与优化算法结合,可有效提升模型性能. 在机器学习未广泛应用于沉降预测问题时,主要采用曲线拟合法,将已经观测好的实际沉降值进行拟合预测,主要有指数曲线法、双曲线法、泊松曲线法以及Asaoka法等[12]. 这类方法精度较低,容易受到拟合参数微小误差的影响[13],具有一定缺陷. 但曲线拟合法反映了沉降与时间的相关性,即沉降具有时序性. 长短期记忆网络(long short-term memory, LSTM)凭借其在处理具有时序数据方面独特的优势,被广泛应用于边坡位移预测[14]、材料力学行为建模[15]、孔隙水压力模拟[16]和缺失测井数据重建[17]等领域. 王启贵等[18]证明了LSTM能够应用于沉降预测,此后LSTM及各类改进后的LSTM在预测各类工程沉降中被广泛应用[19]. 常见的LSTM改进形式主要包括双向长短期记忆网络(bidirectional long short-term memory, BiLSTM)[20]、LSTM与其他模型的混合架构[21]以及BiLSTM与其他模型的融合方法[22-23]. LSTM模型也被应用在降水序列预测上[24].

现有的时间序列拟合模型往往忽略地层分布信息这一关键空间特征对沉降演化过程的影响,软土地区因其特有的性质,仅依赖时间序列数据难以全面反映沉降机理. 现有基于卷积神经网络(convolutional neural network, CNN)的深度学习方法多采用CNN处理一维数值数据,并未真正发挥其在图像空间特征提取上的优势. 本研究提出融合图像与时间序列数据的多源信息深度学习框架,构建集CNN、BiLSTM、残差块与自注意力机制(self-attention, SA)于一体的混合模型,结合贝叶斯优化算法提升模型性能.

1. 模型理论

本研究基于地层结构信息、历史沉降观测数据和地下水位变化,构建融合多源信息的神经网络模型,在复杂地质条件下对软土地区地表沉降进行精确预测. 该模型融合地层剖面图(图像数据)和多源时间序列(沉降与地下水位),通过CNN提取地层空间特质,结合BiLSTM建模时序演化过程,引入残差块和SA增强特征提取能力和序列建模能力.

1.1. 卷积神经网络

CNN的引入显著提高了如图像分类[25]和目标检测[26]的图像场景下深度学习模型的性能[27]. 为了有效利用地层剖面图所蕴含的空间结构信息,识别不同土层的分布模式和相对位置,采用CNN进行图像处理. CNN通过局部感受野、权重共享和池化操作对高维输入数据进行高效编码和降维处理,具有强大的特征提取能力. 典型的CNN由输入层、若干卷积与池化层构成的特征提取部分,以及末端的全连接层(用于分类或回归)组成. 卷积层是CNN中的核心模块. 通过卷积核(滤波器)在输入特征图上进行滑动窗口操作,提取输入特征图的边缘、纹理和形状等视觉特征,并生成相应的特征图. 卷积计算为

$ \boldsymbol{v}_{ij}^{xy}=\mathrm{ReLU}\left({\boldsymbol{b}}_{i,j}+\sum\limits_{m}\sum\limits_{p=0}^{{P}_{I}-1}\sum\limits_{q=0}^{{Q}_{i}-1}\boldsymbol{w}_{i,j,m}^{p,q}\boldsymbol{v}_{\left(i-1\right),m}^{\left(x+p\right),\left(y+q\right)}\right). $

式中:$ \boldsymbol{v}_{ij}^{xy} $为当前层(第i层)的第j个特征图在空间位置(x,y)处的激活值,$ {\boldsymbol{b}}_{i,j} $为对应偏置项,$ \text{ReLU} $为激活函数,$ \boldsymbol{w}_{i,j,m}^{p,q} $为连接第i−1层第m个输入通道与第i层第j个输出通道的卷积核在位置 (p,q) 的权重, $ \boldsymbol{v}_{\left(i-1\right),m}^{\left(x+p\right),\left(y+q\right)} $为前一层对应位置的输入值. 模型采用 3×3 卷积核,即 P和Q均为3. 池化层用于降低特征图的空间分辨率,减少计算量,同时增强模型对微小扰动的鲁棒性. 模型选用最大池化,在每个局部感受野中选取最大值以保留显著特征. 全连接层位于卷积神经网络末端,负责将提取出来的特征映射转化为网络的最终输出. 卷积操作后的特征图经过ReLU函数处理,有助于模型拟合复杂函数,并在一定程度上缓解梯度饱和问题,促进模型收敛.

1.2. 长短期记忆网络及双向长短期记忆网络

沉降数据的时间序列特性显著,其变化过程存在长期依赖关系,因此引入LSTM以捕捉其动态特征. LSTM在处理具有长距离依赖的时间序列数据方面具有显著优势,已广泛应用于语音识别、声学建模、轨迹预测和句子嵌入等领域[28],Graves[29]提出关于LSTM单元中输入门、遗忘门、输出门和细胞状态更新的详细数学表达式. 输入门$ {\boldsymbol{i}}_{t} $、遗忘门$ {\boldsymbol{f}}_{t} $、输出门$ {\boldsymbol{o}}_{t} $和当前细胞状态$ {\boldsymbol{C}}_{t} $的更新公式分别为

$ {\boldsymbol{i}}_{t}=\mathrm{sigmoid}\left({\boldsymbol{W}}_{\text{hi}}\cdot {\boldsymbol{h}}_{t-1}+{\boldsymbol{W}}_{\text{xi}}{\boldsymbol{x}}_{t}+{\boldsymbol{b}}_{i}\right), $

$ {\boldsymbol{f}}_{t}=\mathrm{sigmoid}\left({\boldsymbol{W}}_{\text{hf}}\cdot {\boldsymbol{h}}_{t-1}+{\boldsymbol{W}}_{\text{xf}}{\boldsymbol{x}}_{t}+{\boldsymbol{b}}_{f}\right), $

$ {\boldsymbol{o}}_{t}=\mathrm{sigmoid}\left({\boldsymbol{W}}_{\text{ho}}\cdot {\boldsymbol{h}}_{t-1}+{\boldsymbol{W}}_{\text{xo}}{\boldsymbol{x}}_{t}+{\boldsymbol{b}}_{o}\right), $

$ {\boldsymbol{C}}_{t}={\boldsymbol{f}}_{t}\cdot {\boldsymbol{C}}_{t-1}+{\boldsymbol{i}}_{t}\cdot {\tilde{\boldsymbol{C}}}_{t}, $

$ {\tilde{\boldsymbol{C}}}_{t}=\mathrm{tanh}\left({\boldsymbol{W}}_{\text{h}{\tilde{{\mathrm{C}}}}}\cdot {\boldsymbol{h}}_{t-1}+{\boldsymbol{W}}_{\text{x}{\tilde{{{\mathrm{C}}}}}}{\boldsymbol{x}}_{t}+{\boldsymbol{b}}_{\tilde{{{\mathrm{C}}}}}\right). $

式中:$ {\boldsymbol{W}}_{\text{hi}} $、$ {\boldsymbol{W}}_{\text{h}_{\mathrm{f}}} $、$ {\boldsymbol{W}}_{\text{ho}} $和$ {\boldsymbol{W}}_{\text{h}{\tilde{{{\mathrm{C}}}}}} $分别为从上一隐藏状态到输入门、遗忘门、输出门和候选状态的权重矩阵,$ {\boldsymbol{h}}_{t-1} $为上一时刻的隐藏状态,$ {\boldsymbol{W}}_{\text{xi}} $、$ {\boldsymbol{W}}_{\text{xf}} $、$ {\boldsymbol{W}}_{\text{xo}} $和$ {\boldsymbol{W}}_{\text{x}{\tilde{{{\mathrm{C}}}}} }$分别为从当前输入到输入门、遗忘门、输出门和候选状态的权重矩阵,$ {\boldsymbol{x}}_{t} $为当前时间步的输入向量,$ {\boldsymbol{b}}_{\text{i}} $、$ {\boldsymbol{b}}_{\text{f}} $、$ {\boldsymbol{b}}_{\text{o}} $和$ {\boldsymbol{b}}_{\tilde{{{\mathrm{C}}}}} $分别为输入门、输出门、遗忘门和候选状态的偏置向量,$ {\boldsymbol{f}}_{t}\cdot {\boldsymbol{C}}_{t-1} $为保留的旧记忆,$ {\boldsymbol{i}}_{t}\cdot {\tilde{\boldsymbol{C}}}_{t} $为新写入的记忆,$ {\tilde{\boldsymbol{C}}}_{t} $为候选细胞状态. 在地表沉降预测任务中,沉降演化受如历史沉降趋势和地下水位变化的多因素耦合影响,为了增强时序建模能力,采用BiLSTM,分别从历史正反2个时间方向提取特征,并将二者拼接作为时间序列特征表示,增强模型对全局时序依赖的感知能力.

1.3. 自注意力机制

SA通过计算序列中各元素间的相互依赖权重,建模任意2个位置之间的关联,从而增强特征表示的全局上下文感知能力. SA被应用于计算机视觉[30]和增强卷积网络[31]研究领域. 针对输入的每个元素$ {x}_{i} $,计算查询向量、键向量和值向量,

$ {\boldsymbol{Q}}_{i}={\boldsymbol{W}}_{{\mathrm{Q}}}\cdot {x}_{i}, $

$ {\boldsymbol{K}}_{i}={\boldsymbol{W}}_{{\mathrm{K}}}\cdot {x}_{i}, $

$ {\boldsymbol{V}}_{i}={\boldsymbol{W}}_{{\mathrm{V}}}\cdot {x}_{i}. $

式中:$ {\boldsymbol{Q}}_{i} $、$ {\boldsymbol{K}}_{i} $和$ {\boldsymbol{V}}_{i} $分别为第i个元素的查询、键和值向量,$ {\boldsymbol{W}}_{{\mathrm{Q}}} $、$ {\boldsymbol{W}}_{{\mathrm{K}}} $和$ {\boldsymbol{W}}_{{\mathrm{V}}} $分别为查询向量、键向量和值向量的权重矩阵. 计算得到每一对元素$ {x}_{i} $和$ {x}_{j} $的注意力分数,表示$ {x}_{i} $对$ {x}_{j} $的注意力程度:

$ \mathrm{score}\left( {\boldsymbol{Q}}_{i}\text{,}{\boldsymbol{K}}_{j}\right) =\frac{{\boldsymbol{Q}}_{i}\cdot {\boldsymbol{K}}_{j}}{\sqrt{{d}_{k}}}. $

式中:$ {d}_{k} $为键向量的维度. 将注意力分数通过softmax函数进行softmax归一化,将注意力分数转化为0~1的数字,且所有分数相加和为1,得到注意力权重:

$ {w}_{ij}=\mathrm{softmax}\left(\text{score}\left( {\boldsymbol{Q}}_{i}\text{,}{\boldsymbol{K}}_{i}\right) \right). $

输出向量$ {\boldsymbol{z}}_{i} $,计算式为

$ {\boldsymbol{z}}_{i}=\sum\limits_{j=1}^{n}{w}_{ij}{\boldsymbol{V}}_{j}. $

$ {\boldsymbol{z}}_{i} $融合了全局上下文信息,可作为增强特征输入后续网络层,提升模型对复杂依赖关系的建模能力.

1.4. 残差连接

为了缓解深层网络中的梯度消失问题并提升训练稳定性,引入残差学习,不再让CNN的多个层堆叠直接拟合期望的底层映射,而是让这些层拟合为残差映射[32],也就是将网络中后面的基层从学习恒等映射函数转变为学习残差函数,从而将模型简化为浅层网络[33]. 转换公式[32]为

$ H\left(x\right)=F\left(x\right)+x\rightarrow F\left(x\right)=H\left(x\right)-x. $

式中:x为输入,F(x)为残差函数,H(x)为期望的映射. 当H(x)接近恒等映射时,F(x)趋近于零,优化更为稳定. 本研究在CNN结构中融合如图1所示的2个残差块. 残差块1的输入与输出通道均为64,包含2个连续的3×3卷积层,每层后均接ReLU激活,通过恒等映射实现跨层连接;残差块2的输入通道为128,内部通道先经3×3卷积降至64,再升维回128,通过投影映射保持维度一致. 这2个残差块均不改变空间分辨率,仅提升特征表达能力.

图 1

图 1   用于加强特征提取的卷积神经网络残差块示意图

Fig.1   Residual block diagram for enhanced feature extraction in convolutional neural network


2. 数据库建立

2.1. 西险大塘工程概述

本研究所用数据源自浙江省的西险大塘工程. 该工程横跨杭州市余杭区及湖州市德清县,全长约44.6 km (其中杭州段约38.7 km,德清段约5.9 km),具有跨度大、地层复杂和使用周期长等特点. 选用该工程从2005—2020年共15 a的部分点位观测数据,自“Ⅱ西观0”起,至“Ⅱ西观387”,每隔100 m 布设1个观测点,共388个观测点,每年下半年观测一次沉降并记录. 采用数字水准仪天宝Dini03进行地面沉降观测,配套使用3 m 铟瓦条码水准标尺. 除沉降观测数据之外,根据西险大塘工程地质横剖面图,获得各个点位的地层图. 为了促进学术交流与成果验证,相关数据可在合理请求下向作者申请获取.

2.2. 数据处理及分析

2.2.1. 逐年沉降值

为了确保数据可靠性,对15 a的逐年沉降值进行人工清洗,剔除存在明显异常值或数据缺失的观测点,结合工程地质横剖面图进行比对,筛选出211个同时具备连续沉降记录与对应地层图像的有效点位作为实验数据. 累计地面沉降呈增长趋势,在个别年份,部分点位地面沉降出现回弹现象,即当年地面高度高于前一年,且沉降发展的表现具有显著的区域性,根据沉降趋势,将点位划分为3类. 第一类为一般沉降点位,如图2(a)所示,随着时间t推移,沉降s不断累积,主要集中在28~50号点位和其他零散分布点;第二和第三类均为特殊沉降点位,其中第二类主要集中在2~27号及51~126号点位,其余点位为第三类点位. 由于点位众多,沉降曲线高度密集,难以在单图中清晰呈现. 图2中每类区域选取4条具有代表性的曲线展示,反映不同区域的典型沉降行为. 工程资料表明,地面回弹主要由强降雨引发地下水位波动所致. 本研究将地下水位作为辅助时间序列输入模型,以增强模型对复杂沉降行为的建模与预测能力.

图 2

图 2   西险大塘路堤典型沉降趋势曲线

Fig.2   Typical settlement trend curve of Xixian Datang embankment


2.2.2. 地层剖面图

将地层剖面图作为图像信息,构建具有物理含义的地层剖面图供深度学习模型识别和学习. 根据勘察报告,获得不同沉降测量点位下的地层信息及土体物理力学特征,包括土层名称、土类、土体密度、渗透系数和地下水位等参数.

$ \Delta {\sigma }_{z}\leqslant 0.2{\sigma }_{{\mathrm{c}}z}. $

式中:$ \Delta {\sigma }_{z} $为深度z处的附加应力;$ {\sigma }_{{\mathrm{c}}z} $为z处的自重应力. 依据工程勘察报告中的工程地质横、纵剖面图,结合式(14)计算得到有效沉降厚度,绘制所需地层图. 有效沉降厚度用于限定剖面绘制的深度范围,避免包含对沉降贡献甚微的深层土体,提升地层图的针对性与计算效率. 绘制时采用颜色编码对不同土层进行标识,使模型能够准确识别各地层的空间分布与类别. 地层剖面图不仅保留了土层分布的空间结构信息,还为模型提供了更具工程意义的输入特征,有助于提高地表沉降预测的准确性与解释性.

3. 模型架构

如图3所示,本研究所提模型由图像特征提取模块(CNN)、时间序列建模模块(BiLSTM)、SA和残差结构组成,通过全连接网络实现预测输出. 图中$ {x}_{i} $和ti为输入信息,$ {y}_{i} $为输出信息,$ \boldsymbol{S}_{14}^{\text{'}} $~$ \boldsymbol{S}_{1}^{\text{'}} $为反向学习过程,$ {\boldsymbol{S}}_{1} $~$ {\boldsymbol{S}}_{14} $为正向学习过程.

图 3

图 3   融合多源信息的神经网络模型整体架构示意图

Fig.3   Overall architecture diagram of neural network model integrating multi-source information


3.1. 图像特征提取

原始地层剖面图尺寸不一,经线性缩放与边缘填充统一调整为128×128像素,进行归一化处理后输入CNN. 图像特征提取模块包含3个卷积层和2个残差块,用于逐层提取地层剖面的空间结构特征. 卷积层结合ReLU激活函数与最大池化操作,逐层提取从局部到全局的多尺度空间特征. 残差连接能够有效缓解深层网络中的梯度消失问题,提升图像特征的表达能力. 卷积输出的特征图经展平后送入全连接层,生成64维的图像特征向量.

3.2. 时间序列建模

输入的时间序列数据包含各个观测点位前14 a的地面沉降量和地下水位数据,维度为14×2. BiLSTM能够较好捕捉长期的时序依赖性,设置2个隐藏层,每层的隐藏单元数为256. 通过拼接正向和反向的最后时间步输出,生成512维的时序特征向量.

3.3. 自注意力机制

为了增强图像特征内部各维度间的依赖建模能力,在CNN输出的64维特征向量上引入SA. 通过计算权重,使模型自动聚焦到最突出的特征维度,提高预测准确性. SA模块置于CNN输出与特征拼接之间,对64维图像特征向量施加自注意力加权,生成增强后的特征表示,以突出关键信息. 随后,该加权特征向量与BiLSTM提取的时间特征向量进行拼接,共同用于最终的沉降预测. 如图4所示为自注意力机制的计算原理:①、②、③分别对应式(7)、(8)、(9),用于计算输入数据X的查询向量Q、键向量K以及值向量V;④对应式(10),用于计算输入Q、K之间的注意力分数;⑤、⑥对应式(11)、(12),通过softmax函数将注意力分数转化为注意力权重,并与值向量加权融合,输出结果Z供后续预测使用.

图 4

图 4   用于增强CNN特征提取的自注意力机制示意图

Fig.4   Self-attention mechanism diagram for enhancing CNN feature extraction


3.4. 特征融合与模型训练

特征融合阶段将提取出的图像特征和时间序列特征进行拼接,拼接后的特征向量输入全连接层. 通过两层线性变换和ReLU激活函数,输出第15年沉降的预测值. 在模型训练过程中,采用均方误差MSE作为损失函数,以Adam优化器进行参数更新,引入StepLR学习率调度器动态调整学习率,提升收敛稳定性与泛化性能,模型训练迭代60轮,批次大小为8. 为了充分利用有限的数据资源,防止过拟合,将所有数据按照比例8∶2随机划分为训练集和测试集,在训练集上使用5折交叉验证进行超参数优化和消融实验分析:将训练集数据划分为5个互斥子集,轮流以其中1份为验证集、其余4份为训练集,重复5次后取验证性能均值作为评估依据. 训练过程如图5所示. 超参数优化以各验证集上平均绝对误差MAE的均值为目标函数,搜索最优配置. 在确定最优超参数后,采用该配置在整个训练集上重新训练最终模型. 最终模型在独立测试集上评估,报告MAE、均方根误差RMSE和决定系数R2等指标,以全面衡量模型的收敛效果与预测精度.

图 5

图 5   采用5折交叉验证方法对神经网络模型进行训练评估

Fig.5   Training and evaluation of neural network model using 5-fold cross-validation method


4. 消融实验

为了量化各关键模块对预测性能的贡献,开展消融实验,基线模型为CNN+BiLSTM,以MAE、RMSE和R2为评价指标.

4.1. 实验设置

每个变体在固定的数据划分与随机种子下进行多次训练与评估,消融项包括1)CNN+BiLSTM+SA、2)CNN+BiLSTM+残差块、3)CNN+BiLSTM+SA+残差块.

4.2. 结果分析

如表1所示为基线模型及其不同变体的平均性能及标准差. 与基线模型相比,单独引入SA或残差块均能够降低 MAE;当二者协同使用时,MAE 较基线下降约 15%,表明这2个模块在提升预测精度方面具有积极作用. 尽管单独引入SA或残差块对 RMSE 的改善有限,但二者联合使用时 RMSE 显著降低,表明模型的整体预测误差减小,尤其对大偏差样本的预测能力得到增强. 此外,协同模型的 R2 亦有所提升,进一步验证了协同模型的拟合能力更强.

表 1   融合多源信息的神经网络模型消融实验性能指标对比

Tab.1  Performance indicator comparison for ablation study of neural network model integrating multi-source information

模块MAERMSER²
CNN+BiLSTM
(基线模型)
0.0381±0.00510.0571±0.01360.9373±0.0293
CNN+BiLSTM+
SA
0.0363±0.00680.0572±0.01520.9415±0.0172
CNN+BiLSTM+
残差连接
0.0371±0.00390.0595±0.00980.9297±0.0266
CNN+BiLSTM+
SA+残差连接
0.0323±0.00400.0476±0.00840.9591±0.0163

新窗口打开| 下载CSV


5. 模型训练与结果分析

5.1. 超参数优化

采用贝叶斯优化策略,借助 Optuna 框架,对学习率、Dropout 率、LSTM 隐藏单元数量和批量大小等关键超参数进行联合优化. 对于每组超参数配置,以其在5折交叉验证中 MAE 的平均值作为优化目标,最终选取性能最优的超参数组合. 结果显示,学习率对模型性能影响最大,最优值约为0.01,较小的Dropout率(小于0.2)和适中的批量大小(8~16)有助于提升精度,BiLSTM隐藏状态在较大寻参范围内影响较小. 最终选定的超参数组合明显优于初始配置,验证了超参数优化的有效性. 具体搜索范围与最优取值见表2. 超参数优化过程及各参数的影响分析包括目标函数收敛趋势(图6)、各超参数的重要性排序(图7)、单参数敏感性分析(图8)以及参数组合的交互效应(图9).

表 2   利用贝叶斯搜索优化神经网络模型超参数的范围设定及最佳值

Tab.2  Optimization range setting and optimal values of neural network model hyperparameters via Bayesian search

参数搜索范围最佳值
学习率[1.0×10−5, 1.0×10−2]0.002 2
Dropout率[0.0, 0.5]0.165
LSTM 隐藏单元数[32, 64, 128, ···, 512]256
批量大小[4, 8, 16, 32]8

新窗口打开| 下载CSV


图 6

图 6   基于贝叶斯优化算法的模型超参数寻优过程折线图

Fig.6   Optimization process line chart of model hyperparameter search based on Bayesian optimization algorithm


图 7

图 7   基于贝叶斯优化结果评估的神经网络模型超参数重要性柱状图

Fig.7   Hyperparameter importance bar chart of neural network model assessed based on Bayesian optimization results


图 8

图 8   贝叶斯优化过程中单个超参数对目标函数值的影响分析

Fig.8   Analysis of impact of individual hyperparameters on objective function value in Bayesian optimization


图 9

图 9   贝叶斯优化过程中超参数组合对目标函数值的影响分析

Fig.9   Analysis of impact of hyperparameter combination on objective function value in Bayesian optimization


5.2. 模型训练过程

模型基于 PyTorch 框架实现,训练数据包含地层剖面图(图像数据)以及沉降与地下水位的时间序列数据. 训练目标函数采用MSE,选用Adam优化器,初始学习率设置为0.002 2,引入权重衰减系数$ 1.0\times 1{0}^{-5} $缓解过拟合. 为了提高收敛稳定性,使用StepLR学习率调度器,每5轮将学习率衰减为原来的0.5. 训练持续60轮,批量大小设为8.

5.3. 对比实验

地下水位动态与地层空间分布对地面沉降具有显著影响. 为了验证二者在预测中的贡献,设计以下对比实验. 1)模型A: 输入时间序列数据包括14 a沉降历史与同期地下水位,大小为14×2;输入图片数据. 2)模型B: 输入时间序列数据只有14 a沉降历史,大小为14×1;输入图片数据. 3)模型C: 输入时间序列数据包括14 a沉降历史与同期地下水位,大小为14×2;不输入图片数据. 3组模型均采用相同的 CNN-BiLSTM 主干架构,保持损失函数与优化器一致. 各模型的超参数均通过贝叶斯优化独立搜索最优配置. 最终性能基于各自最优超参数下的模型在独立测试集上的表现进行比较.

5.4. 模型评估与结果分析

模型A、B和C在测试集上的真实值与预测值散点图如图10所示,其中虚线表示理想拟合线;误差分布直方图如图11所示,表示真实值与预测值误差的分布情况. 为了直观展示预测误差的分布形态,在直方图上叠加核密度估计(kernel density estimation, KDE)曲线. KDE 曲线近似误差的概率密度分布,反映集中趋势与离散程度,便于直观比较3组模型误差的分布形态、中心位置及尾部特性.

图 10

图 10   神经网络模型在测试集上的沉降预测值与真实值对比

Fig.10   Comparison of settlement prediction values and ground truth of neural network model on testing set


图 11

图 11   神经网络模型在测试集上的沉降预测误差分布直方图

Fig.11   Histogram of settlement prediction error distribution for neural network model on testing set


为了验证模型A的预测精度,将其与模型B和C进行配对样本t检验(基于10次随机实验的平均绝对误差). 结果显示,模型A的精度显著优于模型B (t (9) = −2.714, p = 0.026) 与模型C (t (9) = −3.141, p = 0.020). 所有p值均低于0.05的显著性水平,表明模型 A 的性能提升具有统计显著性. 模型A的MAE=0.028 6 mm,RMSE=0.040 0 mm,R2=0.956 9,表明其具有优异的预测精度和拟合能力,能够有效刻画地面沉降的演化规律,展现出良好的可靠性与实用价值. 图10中,模型A绝大多数数据点紧密分布在对角线附近,呈现出良好的线性相关性,仅个别点存在轻微偏离. 说明模型A在整体趋势上具有高度准确的预测能力,且系统偏差较小. 从图11可以看出,模型A误差主要集中在0附近,呈近似正态分布,峰值显著,模型预测值与真实值之间的偏差主要集中在微小范围内,随机误差较低,预测结果稳定可靠. KDE曲线近似对称且峰值处极为突出,表明误差分布高度集中. 此外,误差分布无明显离群点,表明模型的鲁棒性较好.

模型B的MAE=0.043 5 mm,RMSE=0.071 5 mm,R2=0.916 7. 尽管模型B在整体趋势上仍具有较强的拟合能力,但其误差水平高于模型A,表明模型的预测精度相对较低. 特别是RMSE明显升高,说明存在较大的波动. 图10中,模型B大部分数据点仍分布在对角线附近,但相比模型A,存在更多偏离对角线的点,尤其是在实测值大于0的区域表现出偏移. 这意味着模型B在处理部分样本时存在缺陷,导致整体精度下降. 经统计,实测值大于0的样本约占总体的10%,模型B在该区域表现出明显的预测偏差,反映其在特定工况下的泛化能力有待提升. 模型B误差分布同样呈近似正态分布,多条柱状图高度相近,误差分布不够集中. KDE曲线较宽,在峰值处较模型A平缓,显示出误差波动较大,曲线右端延伸至约0.3 mm,存在部分较大误差. 误差范围更广,反映出模型B预测结果稳定性略低于模型A.

模型C的MAE=0.036 7 mm,RMSE=0.050 4 mm,R2=0.904 7. 该模型在误差水平上优于模型B,但略逊于模型A. R2略低,表明模型对数据变异的解释能力稍弱,但整体仍具有较强的拟合能力. 图10中,模型C大部分数据点紧密分布在对角线附近,呈现出良好的线性关系;个别点存在轻微偏离,但整体趋势清晰,偏差不明显. 模型C误差分布呈单峰形态,峰值明显,集中在0附近,大多数预测结果与真实值接近,随机误差较小. KDE曲线形状与模型A相似,但略宽一些,且峰值较低,表明误差稍大于模型A,无明显离群点,但其分布略有偏移.

对比发现,模型A具有最高的预测精度和最强的拟合能力;模型C的MAE和RMSE优于模型B,但R2略低,说明其误差预测较小,但在反映数据整体波动方面略逊于模型A;模型B的MAE和RMSE显著高于其他模型,且误差分布较宽,部分预测值明显偏离对角线,表明其存在较大的误差. 完整模型(模型A)在各项指标上均达到最优,印证了多源信息融合的有效性. 模型B的指标表明,模型B能够通过学习地层图像来把握沉降的宏观空间背景趋势,但是无法捕捉到局部异常,导致出现较大误差. 模型C在核心精度指标(MAE和RMSE)上全面优于模型B. 分析结果表明在本研究中,动态地下水位相较于静态地层结构信息更重要. 地层空间分布是与地下水位动态变化与历史沉降数据的协同作用,共同构成预测框架的核心.

6. 结 论

本研究提出的融合地层图像与多源时间序列数据的深度学习模型,包含CNN、BiLSTM、SA、残差连接和贝叶斯优化策略. 引入地层剖面图作为图像输入,通过CNN提取图像信息,将历史沉降与地下水位信息作为时间序列数据输入,采用BiLSTM进行处理,分析时间规律,结合上述模块的模型从空间与时间维度提取沉降演化特征,实现对未来沉降值的有效预测. 选取西险大塘的地表沉降数据,对模型进行验证;证明了所提模型在软土地区及复杂地质条件下的实用性以及预测沉降的准确性. 1)地层分布对路堤沉降量具有基础性作用. 不同的地质条件下沉降量差异显著,与软弱层的厚度与分布密切和夹层性质及空间位置相关;在设计沉降预测模型时,须考虑地层分布对于沉降量的影响,确保预测结果的合理性及工程实用性. 2)路堤沉降过程具有显著的时间序列性. 针对该特点,进行神经网络模型训练,模型输入以固定时间窗形式组织沉降与地下水历史信息,用于预测下一阶段的沉降值,实现对时间依赖性的有效建模,提升未来沉降预测的稳定性和可靠性. 3)与对比模型相比,所提模型在预测精度上有明显提高,既从数据层面支持了“地下水位与沉降密切相关”的理论基础,也证明了多源时间序列融合在预测模型中的应用价值. 4)西险大塘地层分布复杂,软弱土层分布不均,夹层种类多. 图像中包含的地层分布模式,为模型提供了更具物理意义的输入;证明了地层位置和软弱夹层在预测模型中的重要性;对于其他同样位于复杂地层的工程项目有参考价值. 综上所述,所提模型能够从空间与时间双重维度捕捉沉降演化规律,在沉降预测任务中表现良好,尤其适合地质条件复杂、监测时长有限的工程场景,具有较高的工程实用价值与推广前景.

尽管本研究构建的模型在沉降预测问题上达到较高精度,但对于模型所提取的地层空间特征及其对沉降预测结果的影响仍可进一步分析. 未来将通过可解释性分析方法对模型的特征关注区域进行可视化,进一步探讨不同地层特征、软弱夹层及其空间分布对沉降预测结果的影响.

参考文献

ZHANG D M, ZHANG J Z, HUANG H W, et al

Machine learning-based prediction of soil compression modulus with application of 1D settlement

[J]. Journal of Zhejiang University: Science A, 2020, 21 (6): 430- 444

DOI:10.1631/jzus.A1900515      [本文引用: 1]

ZHANG P, WU H N, CHEN R P, et al

A critical evaluation of machine learning and deep learning in shield-ground interaction prediction

[J]. Tunnelling and Underground Space Technology, 2020, 106: 103593

DOI:10.1016/j.tust.2020.103593      [本文引用: 2]

SU J, WANG Y, NIU X, et al

Prediction of ground surface settlement by shield tunneling using XGBoost and Bayesian optimization

[J]. Engineering Applications of Artificial Intelligence, 2022, 114: 105020

DOI:10.1016/j.engappai.2022.105020      [本文引用: 1]

YE X W, JIN T, CHEN Y M

Machine learning-based forecasting of soil settlement induced by shield tunneling construction

[J]. Tunnelling and Underground Space Technology, 2022, 124: 104452

DOI:10.1016/j.tust.2022.104452      [本文引用: 1]

WU X, FENG Z, LIU J, et al

Predicting existing tunnel deformation from adjacent foundation pit construction using hybrid machine learning

[J]. Automation in Construction, 2024, 165: 105516

DOI:10.1016/j.autcon.2024.105516      [本文引用: 1]

LIU K, ZHANG J, LIU J, et al

Projection of land susceptibility to subsidence hazard in China using an interpretable CNN deep learning model

[J]. Science of the Total Environment, 2024, 913: 169502

DOI:10.1016/j.scitotenv.2023.169502      [本文引用: 1]

HONG C, LUO G, CHEN W

Safety analysis of a deep foundation ditch using deep learning methods

[J]. Gondwana Research, 2023, 123: 16- 26

DOI:10.1016/j.gr.2022.05.015      [本文引用: 1]

傅蕾, 吴惠明, 黄宏伟, 等

基于随机森林和MOPSO-CD的盾构隧道掘进沉降预测与施工参数优化

[J]. 隧道建设(中英文), 2025, 45 (Suppl.1): 318- 329

DOI:10.3973/j.issn.2096-4498.2025.S1.031      [本文引用: 1]

FU Lei, WU Huiming, HUANG Hongwei, et al

Settlement prediction and construction parameters optimization induced by shield tunneling based on random forest and multi-objective particle swarm optimization algorithm-crowding distance

[J]. Tunnel Construction, 2025, 45 (Suppl.1): 318- 329

DOI:10.3973/j.issn.2096-4498.2025.S1.031      [本文引用: 1]

HU M, LI W, YAN K, et al

Modern machine learning techniques for univariate tunnel settlement forecasting: a comparative study

[J]. Mathematical Problems in Engineering, 2019, 2019: 7057612

DOI:10.1155/2019/7057612      [本文引用: 1]

KIM D, KWON K, PHAM K, et al

Surface settlement prediction for urban tunneling using machine learning algorithms with Bayesian optimization

[J]. Automation in Construction, 2022, 140: 104331

DOI:10.1016/j.autcon.2022.104331      [本文引用: 1]

ZHOU X, ZHAO C, BIAN X

Prediction of maximum ground surface settlement induced by shield tunneling using XGBoost algorithm with golden-sine seagull optimization

[J]. Computers and Geotechnics, 2023, 154: 105156

DOI:10.1016/j.compgeo.2022.105156      [本文引用: 1]

潘林有, 谢新宇

用曲线拟合的方法预测软土地基沉降

[J]. 岩土力学, 2004, 25 (7): 1053- 1058

DOI:10.3969/j.issn.1000-7598.2004.07.010      [本文引用: 1]

PAN Linyou, XIE Xinyu

Observational settlement prediction by curve fitting methods

[J]. Rock and Soil Mechanics, 2004, 25 (7): 1053- 1058

DOI:10.3969/j.issn.1000-7598.2004.07.010      [本文引用: 1]

黄广军

Asaoka法预测软土地基沉降时存在的问题和对策

[J]. 岩土力学, 2016, 37 (4): 1061- 1065

DOI:10.16285/j.rsm.2016.04.019      [本文引用: 1]

HUANG Guangjun

Problems and their solutions in predicting soft ground settlement based on Asaoka’s method

[J]. Rock and Soil Mechanics, 2016, 37 (4): 1061- 1065

DOI:10.16285/j.rsm.2016.04.019      [本文引用: 1]

ZHENG H Q, HU L N, SUN X Y, et al

Slope displacement prediction based on multisource domain transfer learning for insufficient sample data

[J]. Applied Geophysics, 2024, 21 (3): 496- 504

DOI:10.1007/s11770-022-1003-x      [本文引用: 1]

LONG X, MAO M H, SU T X, et al

Machine learning method to predict dynamic compressive response of concrete-like material at high strain rates

[J]. Defence Technology, 2023, 23: 100- 111

DOI:10.1016/j.dt.2022.02.003      [本文引用: 1]

WEI X, ZHANG L, YANG H Q, et al

Machine learning for pore-water pressure time-series prediction: application of recurrent neural networks

[J]. Geoscience Frontiers, 2021, 12 (1): 453- 467

DOI:10.1016/j.gsf.2020.04.011      [本文引用: 1]

SHAN L, LIU Y, TANG M, et al

CNN-BiLSTM hybrid neural networks with attention mechanism for well log prediction

[J]. Journal of Petroleum Science and Engineering, 2021, 205: 108838

DOI:10.1016/j.petrol.2021.108838      [本文引用: 1]

王启贵, 吴忠明, 陈兴红

基于机器学习LSTM方法的大面积高填土沉降预测

[J]. 工程勘察, 2022, 50 (8): 41- 45

[本文引用: 1]

WANG Qigui, WU Zhongming, CHEN Xinghong

Settlement prediction of large-area high filling soil based on machine learning method with LSTM

[J]. Geotechnical Investigation and Surveying, 2022, 50 (8): 41- 45

[本文引用: 1]

梁煜婉, 肖朝昀, 李明广, 等

基于长短时记忆的真空预压地基沉降预测

[J]. 上海交通大学学报, 2025, 59 (4): 525- 532

DOI:10.16183/j.cnki.jsjtu.2023.340      [本文引用: 1]

LIANG Yuwan, XIAO Zhaoyun, LI Mingguang, et al

Ground settlement prediction by vacuum preloading based on LSTM

[J]. Journal of Shanghai Jiao Tong University, 2025, 59 (4): 525- 532

DOI:10.16183/j.cnki.jsjtu.2023.340      [本文引用: 1]

宋牧原, 杨明辉, 陈伟, 等

基于自注意力-循环神经网络模型的盾构引发的土体沉降预测

[J]. 岩土力学, 2025, 46 (8): 2613- 2625

DOI:10.16285/j.rsm.2024.0980      [本文引用: 1]

SONG Muyuan, YANG Minghui, CHEN Wei, et al

Prediction of shield tunneling-induced soil settlement based on self-attention recurrent neural network model

[J]. Rock and Soil Mechanics, 2025, 46 (8): 2613- 2625

DOI:10.16285/j.rsm.2024.0980      [本文引用: 1]

詹涛, 黄浩

基于盾构施工进程与时空因素的临近建筑物沉降预测研究

[J]. 土木工程学报, 2024, 57 (Suppl.1): 117- 121

DOI:10.15951/j.tmgcxb.2024.S06      [本文引用: 1]

ZHAN Tao, HUANG Hao

Research on settlement prediction of adjacent buildings based on shield construction process and space-time factors

[J]. China Civil Engineering Journal, 2024, 57 (Suppl.1): 117- 121

DOI:10.15951/j.tmgcxb.2024.S06      [本文引用: 1]

尹泉, 周怡, 饶军应

基于深度学习的盾构隧道施工地表沉降预测方法

[J]. 中南大学学报: 自然科学版, 2024, 55 (2): 607- 617

DOI:10.11817/j.issn.1672-7207.2024.02.014      [本文引用: 1]

YIN Quan, ZHOU Yi, RAO Junying

A deep learning-based method for predicting surface settlement induced by shield tunnel construction

[J]. Journal of Central South University: Science and Technology, 2024, 55 (2): 607- 617

DOI:10.11817/j.issn.1672-7207.2024.02.014      [本文引用: 1]

LONG W J, YU X X, ZHU M F, et al

SHAP-enhanced interpretive MGTWR-CNN-BILSTM-AM framework for predicting surface subsidence: a case study of Shanghai municipality

[J]. Scientific Reports, 2025, 15: 19771

DOI:10.1038/s41598-025-95694-4      [本文引用: 1]

HU C, WU Q, LI H, et al

Deep learning with a long short-term memory networks approach for rainfall-runoff simulation

[J]. Water, 2018, 10 (11): 1543

DOI:10.3390/w10111543      [本文引用: 1]

WU H, XIAO B, CODELLA N, et al. CvT: introducing convolutions to vision transformers [C]// Proceedings of the IEEE/CVF International Conference on Computer Vision. Montreal: IEEE, 2022: 22–31.

[本文引用: 1]

GIRSHICK R, DONAHUE J, DARRELL T, et al. Rich feature hierarchies for accurate object detection and semantic segmentation [C]// Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. Columbus: IEEE, 2014: 580–587.

[本文引用: 1]

YAO G, LEI T, ZHONG J

A review of convolutional-neural-network-based action recognition

[J]. Pattern Recognition Letters, 2019, 118: 14- 22

DOI:10.1016/j.patrec.2018.05.018      [本文引用: 1]

CONTRERAS S, KACHROO P, AGARWAL S

Observability and sensor placement problem on highway segments: a traffic dynamics-based approach

[J]. IEEE Transactions on Intelligent Transportation Systems, 2016, 17 (3): 848- 858

DOI:10.1109/TITS.2015.2491282      [本文引用: 1]

GRAVES A. Generating sequences with recurrent neural networks [EB/OL]. (2014–06–05)[2025–08–27]. https://arxiv.org/pdf/1308.0850.

[本文引用: 1]

FU J, LIU J, TIAN H, et al. Dual attention network for scene segmentation [C]// Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. Long Beach: IEEE, 2019: 3141–3149.

[本文引用: 1]

BELLO I, ZOPH B, LE Q, et al. Attention augmented convolutional networks [C]// Proceedings of the IEEE/CVF International Conference on Computer Vision. Seoul: IEEE, 2019: 3285–3294.

[本文引用: 1]

HE K, ZHANG X, REN S, et al. Deep residual learning for image recognition [C]// Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. Las Vegas: IEEE, 2016: 770–778.

[本文引用: 2]

WANG X W, SHI S Z, YAO X J, et al

Automatic identification of seismic faults via integrating Residual Network-50 residual blocks and convolutional block attention modules

[J]. Applied Geophysics, 2023, 20 (1): 20- 35

DOI:10.1007/s11770-023-1014-2      [本文引用: 1]

/

〈 〉