面向变工况迁移学习的泵阀小波残差网络异常检测
Anomaly detection using wavelet residual network for pump valves via transfer learning under variable operating conditions
通讯作者:
收稿日期: 2025-12-8
| 基金资助: |
|
Received: 2025-12-8
| Fund supported: | 国家自然科学基金资助项目(72571173,72401187);上海市自然科学基金资助项目(25ZR1401196);国家重点研发计划资助项目(2022YFF0605700). |
作者简介 About authors
吴晓(2002—),男,硕士生,从事机械设备健康管理研究.orcid.org/0009-0007-5744-8067.E-mail:
针对压裂泵泵阀异常检测中因工况动态变化导致的泛化性不足问题,提出面向变工况迁移学习的泵阀小波残差网络异常检测方法. 构建融入小波卷积的多分支残差网络故障特征提取器,从采集的振动信号中提取关键故障特征. 利用多分支挤压激励注意力机制对关键故障特征通道进行自适应权重校准,增强关键故障特征的表征能力. 采用可训练的投影梯度方法来最小化源域与目标域间的分布差异,优化模型在变工况条件下的迁移效果,增强模型的泛化性能. 使用某油田实际作业现场采集的压裂泵泵阀振动数据进行效果验证,实验结果表明,所提方法的检测准确率可达99.51%,较现有先进模型提升1.73%以上,在变工况条件下具有优异的鲁棒性和泛化性能.
关键词:
A wavelet residual network-based anomaly detection method for transfer learning under variable operating conditions was proposed to address the insufficient generalization performance of fracturing pump valve anomaly detection caused by dynamically varying operating conditions. A multi-branch residual network incorporating wavelet convolution was constructed to extract discriminative fault features from vibration signals. A multi-branch squeeze-and-excitation attention mechanism was utilized to adaptively recalibrate the channels of key fault features, thereby enhancing feature representation capability. A trainable projected gradient method was adopted to minimize the distribution discrepancy between source and target domains, improving the transfer effectiveness and generalization performance of the model under variable operating conditions. The proposed method was validated using vibration data collected from pump valves of fracturing pumps in a real oilfield environment. The experimental results demonstrated that the proposed method achieved a detection accuracy of 99.51%, outperforming existing state-of-the-art methods by more than 1.73%, and exhibited favorable robustness and generalization capability under variable operating conditions.
Keywords:
本文引用格式
吴晓, 张铭轩, 何智烨, 罗风, 司国锦, 夏唐斌.
WU Xiao, ZHANG Mingxuan, HE Zhiye, LUO Feng, SI Guojin, XIA Tangbin.
为了应对石油开采中油层压力下降、开采难度增大的挑战,国内油田普遍采用压裂泵向油层注水以维持压力,保障高效安全的开采. 泵阀作为压裂泵的关键部件,长期在砂石磨损和流体腐蚀下运行,极易发生故障,传统人工巡检难以满足精度与效率的双重需求,亟须发展高效、准确的泵阀异常检测技术.
近年来,基于数据驱动的检测方法逐步兴起,卷积神经网络[1-2](convolutional neural network,CNN)与长短期记忆网络[3-4](long short-term memory,LSTM)被广泛应用于工业故障检测. Wang等[5]提出时空融合CNN-LSTM模型,实现了阀门故障的高效诊断. 吴泽林等[6]采用多级Inception-LSTM网络,提升了在数据不平衡情况下注水泵的诊断精度. Wang等[7]提出多小波对抗网络,实现了跨工况的轴承故障诊断. 崔曦文等[8]通过融合度量学习和采样适应机制,克服了数据不平衡对模型性能的制约. Liang等[9]提出多尺度动态卷积网络,增强了复杂工况下特征提取与泛化能力.
针对上述问题,本文提出面向变工况迁移学习的泵阀小波残差网络异常检测方法. 以融合多分支挤压-激励注意力机制的残差网络(multi-branch squeeze-and-excitation residual network, MSE-ResNet)为骨干,用多尺度卷积替换残差网络的第一层卷积核来提升特征提取能力. 在前端嵌入改进的连续小波卷积模块(continuous wavelet convolution module, CWCM),以优化时频特征捕获能力. 结合可训练投影梯度方法(trainable projected gradient method, TPGM)增强模型在动态工况下的迁移适应性,使用油田现场实测振动数据集对所提方法进行验证.
1. 方法框架
本文提出的面向变工况迁移学习的泵阀小波残差网络异常检测方法可以实现端到端的泵阀故障检测,其中输入信号为压裂车工作现场采集的原始振动数据,输出结果为模型判断的泵阀健康状态,模型框架如图1所示.
图 1
图 1 面向变工况迁移学习的泵阀异常检测模型整体框架图
Fig.1 Framework of pump valve abnormal detection model for variable-condition transfer learning
将采集的一维振动信号输入所构建的连续小波卷积模块,生成具有明确物理意义的二维时频特征图. 将生成的二维时频特征图输入多尺度残差网络,利用卷积核来提取故障特征,利用MSE注意力机制来增强对关键频带特征的自适应选择能力. 模型通过在源域数据集上充分训练,学习到具有强判别性的故障特征表征. 利用目标域少量样本对训练的源域模型进行微调,利用TPGM方法来最小化目标域验证集损失,从而在适应目标域分布的同时,通过参数约束保留源域的特征提取能力,增强模型在变工况下的泛化性能,实现知识的有效迁移.
2. 面向变工况迁移学习的泵阀小波残差网络异常检测方法
2.1. 小波残差网络
在工业设备故障诊断领域,卷积神经网络应用广泛. 单纯增加网络深度或宽度易引发过拟合、梯度消失及计算效率下降等部署难题. 引入残差连接可以有效缓解深层网络的训练退化. 多尺度卷积通过将稀疏矩阵聚类为密集子矩阵,利用不同大小的卷积核并行提取特征,可以有效提升模型对多尺度特征的感知能力与计算效能.
提出融合小波卷积的多分支残差网络,采用具备多尺度卷积层的Inception模块代替Resnet18网络的第1个卷积层. 该Inception模块由3个核大小不一的并行卷积层与1个归一化层组成,通过提供差异化的感受野,赋予网络捕捉样本多尺度特征的能力.
考虑到传统卷积在初始阶段缺乏时频联合特性的物理先验建模,难以精准捕捉早期故障的瞬态冲击,而小波变换具备自适应时频窗特性,常用于分析非平稳信号. 本文在多分支残差网络前端引入CWCM模块. 该模块作为固定滤波器组前置接入,不参与权重学习,旨在从物理机制层面提升网络对振动信号的初级特征解析与多尺度表征能力.
CWCM采用改进的Morlet小波函数[18]作为卷积核基底. 原始Morlet小波函数通过引入可调参数
式中:
将该小波函数作为卷积核,对输入一维振动信号
式中:
CWCM通过多尺度并行计算,提取信号的高低频信息并生成多通道初级时频特征图. 将CWCM作为不可学习的特征解耦层置于网络最前端,可以为后续卷积提供具有物理意义的时频表示. 与直接替换首层卷积相比,前置小波卷积既保留了原网络结构与非线性拟合能力,又在输入端注入了时频先验知识,降低了对标注数据的依赖. 此外,固定滤波器组保证了特征提取的稳定性,有效提升了模型在变工况下的感知能力与鲁棒性. 融合小波卷积的多分支残差网络结构如图2所示.
图 2
2.2. 多分支挤压激励注意力机制
在深度学习模型中,不同特征通道所承载的信息重要性并非均等. 挤压-激励(squeeze-and-excitation,SE)注意力机制能够使模型自动校准各通道特征的重要性,抑制不重要的或冗余的通道,从而增强模型对关键特征的表达能力,实现高效的特征重用.
SE注意力机制包含挤压和激励2个核心模块. 挤压操作利用全局平均池化函数,在空间维度上对每个特征通道进行压缩,将每个二维特征通道(
式中:
激励操作通过简单的门控机制实现,通常由1个包含2层全连接层的小型神经网络构成. 第1个全连接层起到降维作用,并接1个ReLU激活函数以引入非线性. 第2个全连接层恢复至原始通道数
式中:
标准的SE模块依赖于单一路径的全连接层来生成通道权重,这种单一映射方式下的特征表达能力有限,无法充分捕捉通道间复杂的依赖关系. 通过将原SE注意力机制中的单路径全连接层扩展为并行的全连接分支,模型可以从不同的角度学习输入数据的表示形式,提升模型对通道间复杂依赖关系的建模能力. 3个并行的全连接分支结构可以在增强模型表达能力的同时保持较低的复杂度增长[19],每个分支的输出为
式中:
通过
式中:
通过MSE注意力机制,模型能够更加精细地校准通道特征,从而在变工况泵阀异常检测任务中更聚焦于泵阀故障相关的关键频带或特征模式,提升异常检测的准确性和鲁棒性. 该机制的结构如图3所示.
图 3
图 3 多分支挤压激励注意力机制结构图
Fig.3 Multi-branch extrusion attention mechanism structure
具体而言,在小波残差网络中,MSE注意力模块被嵌入于各残差块内部,置于卷积特征提取之后、残差连接之前,用于对多尺度特征通道进行自适应加权.
2.3. 融合可训练投影梯度的迁移学习
在石油开采作业现场,以压裂泵为代表的复杂设备受转速变化、环境噪声、负载波动等干扰因素影响,使得变工况下的源域与目标域数据分布差异显著. 传统故障检测算法通常假设训练集与测试集独立同分布,但在实际工业应用中,这种假设往往难以成立,导致模型跨域泛化性能显著下降.
迁移学习通过复用源域知识,为解决此类问题提供了有效途径. 在实际工程应用中,模型通过预训练-微调框架,利用源域的充足标签数据进行预训练,再利用目标域的小规模标签数据微调以适应新分布. 传统微调方法在动态调整模型参数约束方面存在局限性.
为了解决这一问题,引入可训练投影梯度方法[20]来实现自适应的参数迁移并防止过拟合. TPGM的核心在于分层投影约束,通过为神经网络设定独立的投影半径,表示该层参数与预训练模型参数之间的最大允许距离,进而将变工况下的模型微调转化为双层约束优化问题. 在最小化目标域训练损失的同时,利用验证集优化投影半径,以动态确定模型参数与预训练参数之间的最佳距离约束.
TPGM的数学表达基于源域数据集
式中:
TPGM采用投影操作将模型参数强制约束在以
式中:
整个迁移优化过程通过交替执行以下2个步骤来完成.
1)模型参数更新. 在目标域训练集上计算梯度,使用Adam优化器更新模型参数
2)投影半径更新. 固定模型参数,基于投影操作的可微性,计算目标域验证集损失关于
式中:
3. 实例验证
3.1. 自建压裂泵工业运行数据集
图 4
图 4 SQP2800五缸压裂泵及传感器布置图
Fig.4 Schematic diagram of SQP2800 five-cylinder fracturing pump and sensor arrangement
表 1 压裂泵数据集工况参数与样本分布
Tab.1
| 变速箱 挡位 | 发动机转速/ (r·min−1) | 类别 | 正常 样本 | 故障 样本 | 总计 |
| 3 | 工况1 | 300 | 300 | 600 | |
| 1或2 | 工况2 | 73 | 73 | 146 | |
| 1 | 工况3 | 99 | 99 | 198 | |
| 4 | 工况4 | 93 | 93 | 186 |
实验基于PyTorch框架搭建所提出的异常检测模型,所使用的处理器为Intel i5-13500HX,GPU为NVIDIA 4060,内存容量为16 GB. 在数据预处理后,各工况样本均按8∶2比例划分为训练集和测试集,目标域训练集进一步按8∶2划分为训练子集和验证子集,其中训练子集用于TPGM约束下的模型参数更新,验证子集用于外层优化中的模型泛化性能评估,测试集用于测试模型迁移效果. 工况1代表常规高功率泵送模式,且数据样本数量最多,因此选取工况1作为源域,其余工况作为目标域. 采用交叉熵损失函数作为训练损失,使用Adam优化器来优化训练过程,初始学习率设定为0.001. 表2中,k为注意力分支数,
表 2 参数m与k对平均准确率的影响分析
Tab.2
| 0.1 | 96.12 | 1 | 97.85 | |
| 0.3 | 97.45 | 2 | 98.92 | |
| 0.5 | 98.51 | 3 | 99.51 | |
| 0.7 | 97.62 | 4 | 98.46 | |
| 0.9 | 97.05 | 5 | 98.38 |
表 3 小波残差网络各模块卷积核尺寸配置
Tab.3
| 模块 | 卷积层 | 核大小 |
| Inception模块 | 卷积层1-1 | 1×1 |
| 卷积层1-2 | 3×3 | |
| 卷积层1-3 | 5×5 | |
| 残差模块 | 卷积层 | 3×3 |
3.2. 对比实验
图 5
图 5 不同异常检测模型的性能指标对比
Fig.5 Comparison of performance metrics for different anomaly detection models
图 6
图 7
图 7 工况1→4下不同迁移学习方法的T-SNE可视化对比
Fig.7 T-SNE visualization comparison of different transfer learning methods under working condition 1→4
为了评估所提方法在噪声干扰条件下的鲁棒性,在目标域测试集上引入加性高斯白噪声(additive white Gaussian noise,AWGN),并设置∞(无噪声)、20 dB、10 dB、5 dB 4种不同信噪比(signal-to-noise ratio, SNR)进行测试. 训练阶段均沿用原始信号以确保对比的客观性,针对工况1→2、1→3、1→4 3种迁移任务,分别记录平均准确率.
实验结果如图8所示,随着信噪比降低,各模型性能均出现不同程度的退化. 相比于对比方法,所提方法在不同噪声强度下均保持了更高的识别精度与更小的性能退化幅度. 这表明本文方法在变工况及噪声干扰环境中具备更稳定的跨域判别能力,从而有效验证了所提方法的抗干扰能力和鲁棒性.
图 8
图 8 不同信噪比下各模型平均故障检测准确率对比
Fig.8 Comparison of average fault detection accuracy among models under different SNR
3.3. 消融实验
为了系统评估所提方法中各关键模块对模型性能的影响,以小波残差网络(CWNet)为基准设计4组消融实验. 其中,TL表示基于预训练-微调框架的传统参数迁移学习方法,ITL表示引入TPGM的改进迁移学习策略,具体设置如下.
1)传统迁移学习(TL-CWNet)是利用目标域少量样本对预训练模型直接进行微调,且无任何显式分布对齐策略.
2)基于TPGM优化的迁移学习(ITL-CWNet)是在CWNet的基础上,引入可训练投影梯度方法.
3)引入Inception模块的迁移学习(ITL-ICWNet)是在ITL-CWNet的基础上融入多尺度Inception模块.
4)引入多分支挤压激励注意力机制的迁移学习(ITL-ICWMNet),即本文所提方法,是在ITL-ICWNet的基础上进一步引入多分支挤压激励注意力机制.
表 4 不同模块对模型跨工况迁移平均准确率的影响分析
Tab.4
| 模型 | Acc | ||||
| 工况1→1 | 工况1→2 | 工况1→3 | 工况1→4 | ||
| TL-CWNet | 92.79 | 91.10 | 92.49 | 92.59 | 92.24 |
| ITL-CWNet | 95.79 | 96.30 | 95.65 | 96.70 | 96.11 |
| ITL-ICWNet | 99.04 | 97.11 | 97.78 | 97.66 | 97.90 |
| ITL-ICWMNet | 99.90 | 99.15 | 99.54 | 99.85 | 99.61 |
图 9
图 9 工况1→4下各消融模块对异常检测影响的T-SNE可视化对比
Fig.9 T-SNE visualization comparison of different ablation modules on anomaly detection performance under working conditions 1→4
4. 结 语
针对传统方法在变工况场景下泵阀异常检测泛化能力不足的问题,提出面向变工况迁移学习的泵阀小波残差网络异常检测方法,并基于现有油田压裂泵泵阀数据集对该方法进行验证. 实验结果表明,所提方法在多种跨工况迁移任务及不同信噪比噪声干扰条件下均展现出良好的泛化性能和稳定性,验证了该方法在复杂工业环境中的实用性. 未来将进一步探索物理机理约束与深度模型协同建模的方法,同时将该方法扩展应用于更多种类的关键设备,以推动该方法在实际工业健康监测与智能运维系统中的工程化应用.
参考文献
Intelligent fault diagnosis of rolling bearing using hierarchical convolutional network based health state classification
[J].DOI:10.1016/j.aei.2017.02.005 [本文引用: 1]
Fault diagnosis of marine diesel generators based on gram angle fields and convolutional neural networks
[J].
Potential, challenges and future directions for deep learning in prognostics and health management applications
[J].DOI:10.1016/j.engappai.2020.103678 [本文引用: 1]
基于迁移学习的交互时序数据可视化生成方法
[J].DOI:10.3785/j.issn.1008-973X.2024.02.002 [本文引用: 1]
Interactive visualization generation method for time series data based on transfer learning
[J].DOI:10.3785/j.issn.1008-973X.2024.02.002 [本文引用: 1]
Fault identification and localization for the fast switching valve in the equal-coded digital hydraulic system based on hybrid CNN-LSTM model
[J].DOI:10.1016/j.ymssp.2024.112201 [本文引用: 1]
融合深度学习的油田柱塞式注水泵不平衡数据故障诊断方法
[J].DOI:10.16183/j.cnki.jsjtu.2024.308 [本文引用: 1]
A deep learning-based fault diagnosis method for unbalanced data in oilfield plunger-type water injection pumps
[J].DOI:10.16183/j.cnki.jsjtu.2024.308 [本文引用: 1]
Attention guided multi-wavelet adversarial network for cross domain fault diagnosis
[J].DOI:10.1016/j.knosys.2023.111285 [本文引用: 1]
Multibranch and multiscale dynamic convolutional network for small sample fault diagnosis of rotating machinery
[J].DOI:10.1109/JSEN.2023.3255203 [本文引用: 1]
A novel bearing intelligent fault diagnosis framework under time-varying working conditions using recurrent neural network
[J].DOI:10.1016/j.isatra.2019.11.010 [本文引用: 1]
A hybrid LSTM-KLD approach to condition monitoring of operational wind turbines
[J].DOI:10.1016/j.renene.2021.09.067
Fault diagnosis of hydro-turbine via the incorporation of Bayesian algorithm optimized CNN-LSTM neural network
[J].DOI:10.1016/j.energy.2024.130326
An efficient approach for diagnosing faults in photovoltaic array using 1D-CNN and feature selection techniques
[J].DOI:10.1016/j.ijepes.2025.110526 [本文引用: 1]
基于对不平衡数据集进行二次迁移学习的滚动轴承剥落类故障诊断方法
[J].DOI:10.16183/j.cnki.jsjtu.2022.008 [本文引用: 1]
Fault diagnosis of rolling bearing with roller spalling based on two-step transfer learning on unbalanced dataset
[J].DOI:10.16183/j.cnki.jsjtu.2022.008 [本文引用: 1]
Physics-driven feature alignment combined with dynamic distribution adaptation for three-cylinder drilling pump cross-speed fault diagnosis
[J].DOI:10.1016/j.ress.2024.110369 [本文引用: 1]
Deep imbalanced domain adaptation for transfer learning fault diagnosis of bearings under multiple working conditions
[J].DOI:10.1016/j.ress.2022.108890 [本文引用: 1]
Deep transfer learning-based fault diagnosis using wavelet transform for limited data
[J].DOI:10.3390/app12157450 [本文引用: 1]
基于连续小波卷积神经网络的轴承智能故障诊断方法
[J].DOI:10.3785/j.issn.1008-973X.2024.10.010 [本文引用: 1]
Bearing intelligent fault diagnosis method based on continuous wavelet convolutional neural network
[J].DOI:10.3785/j.issn.1008-973X.2024.10.010 [本文引用: 1]
CNN-BiLSTM hybrid neural networks with attention mechanism for well log prediction
[J].DOI:10.1016/j.petrol.2021.108838 [本文引用: 1]
Deep subdomain adaptation network for image classification
[J].DOI:10.1109/TNNLS.2020.2988928 [本文引用: 1]
Improved techniques for adversarial discriminative domain adaptation
[J].DOI:10.1109/TIP.2019.2950768 [本文引用: 1]
Weighted domain adaptation networks for machinery fault diagnosis
[J].DOI:10.1016/j.ymssp.2021.107744 [本文引用: 1]
Open-set domain adaptive fault diagnosis based on supervised contrastive learning and a complementary weighted dual adversarial network
[J].DOI:10.1016/j.ymssp.2024.111780 [本文引用: 1]
/
| 〈 |
|
〉 |

