浙江大学学报(工学版), 2022, 56(10): 2084-2092 doi: 10.3785/j.issn.1008-973X.2022.10.020

能源工程、机械工程

基于物理信息神经网络的燃烧化学微分方程求解

王意存,, 邢江宽, 罗坤,, 王海鸥, 樊建人

1. 浙江大学 能源清洁利用国家重点实验室,浙江 杭州 310027

2. 京都大学 机械工程与科学系,日本 京都 6158540

Solving combustion chemical differential equations via physics-informed neural network

WANG Yi-cun,, XING Jiang-kuan, LUO Kun,, WANG Hai-ou, FAN Jian-ren

1. State Key Laboratory of Clean Energy Utilization, Zhejiang University, Hangzhou 310027, China

2. Department of Mechanical Engineering and Science, Kyoto University, Kyoto 6158540, Japan

通讯作者: 罗坤,男,教授,博导. orcid.org/0000-0003-3644-9400. E-mail: zjulk@zju.edu.cn

收稿日期: 2022-03-17  

基金资助: 国家杰出青年科学基金资助项目(51925603)

Received: 2022-03-17  

Fund supported: 国家杰出青年科学基金资助项目(51925603)

作者简介 About authors

王意存(1996—),男,博士生,从事喷雾燃烧数值模拟及模型研究.orcid.org/0000-0001-7554-5919.E-mail:wangyicun@zju.edu.cn , E-mail:wangyicun@zju.edu.cn

摘要

为了有效地将湍流燃烧复杂的物理化学信息嵌入到物理信息神经网络(PINNs),选取湍流燃烧模拟中的2个典型场景案例,即刚性常微分方程ROBER问题及稳态射流火焰混合分数方程求解,探索PINNs在燃烧化学微分方程计算中的应用潜力. 结果表明,对于零维刚性反应系统,利用PINNs模型可以较好地捕捉到系统的演化过程;对于稳态射流火焰,PINNs的预测解与传统的数值解有较好的一致性. 残差点的选取对于燃烧化学领域内的复杂微分方程求解尤为重要,应基于具体的构型详细考虑.

关键词: 物理信息神经网络 ; 人工神经网络 ; 燃烧数值模拟 ; 微分方程 ; 残差点

Abstract

Two typical cases including the stiff system of ordinary differential equations ROBER problem and the steady-state mixture fraction equation in jet flame were selected in order to efficiently embed the complex physicochemical information of turbulent combustion into physics-informed neural networks (PINNs). The potential of PINNs in solving combustion chemical differential equations was explored. Results show that the PINNs model can correctly capture the evolution of the zero-dimensional stiff reaction system. PINNs solution accorded well with the conventional numerical solution for steady jet flame. The selection of residual points was particularly important for solving complex differential equations in the field of combustion and chemistry, which should be considered based on the specific configuration in detail.

Keywords: physics-informed neural network ; artificial neural network ; numerical simulation of combustion ; differential equation ; residual point

PDF (2369KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

王意存, 邢江宽, 罗坤, 王海鸥, 樊建人. 基于物理信息神经网络的燃烧化学微分方程求解. 浙江大学学报(工学版)[J], 2022, 56(10): 2084-2092 doi:10.3785/j.issn.1008-973X.2022.10.020

WANG Yi-cun, XING Jiang-kuan, LUO Kun, WANG Hai-ou, FAN Jian-ren. Solving combustion chemical differential equations via physics-informed neural network. Journal of Zhejiang University(Engineering Science)[J], 2022, 56(10): 2084-2092 doi:10.3785/j.issn.1008-973X.2022.10.020

近年来,机器学习(machine learning,ML)方法在计算机视觉、自然语言处理和智能机器人等多项任务中取得了成功的应用,近期在科学计算领域中掀起了机器学习的热潮. 湍流、多相流和燃烧数值模拟技术以计算流体力学(computational fluid dynamics,CFD)为核心,本质上是各种偏微分方程和常微分方程的求解,求解微分方程组是代价高昂的计算密集型任务. 研究者们试图利用机器学习技术求解传统数值模拟中的复杂微分方程,以加速数值模拟过程,在保持一定精度的前提下,提高数值模拟的效率. Raissi等[1]利用自动微分的最新进展[2],提出物理信息神经网络(physics-informed neural networks,PINNs),并成功用于解决涉及非线性偏微分方程的正向问题和反向问题. PINNs模型有别于那些被视为“黑盒”工具的传统机器学习算法,除了可以利用物理系统产生的数据样本,还能够充分利用物理系统的内在规律,将物理信息融入到机器学习模型中,可以在小数据集样本上取得较好的训练效果[3].

目前,已有相关研究者基于PINNs求解其遇到的多种微分方程,涵盖的领域包括不可压流动[4]、高速流动[5]、非牛顿流体[6]、传热学[7-9]、生命科学[10]等,在多相流领域中出现了初步研究[11-12]. 应用于燃烧化学领域内微分方程求解的研究[13]较少,这主要是在燃烧数值模拟中所遇到的化学反应常微分方程组(system of ordinary differential equations,SODEs)具有很强的刚性,即便采用算子分裂方法(operator splitting)[14-16]将输运方程中的化学反应项与其他输运项解耦[17],在一定程度上降低了计算量,也需要耗费大量的计算资源. 实际的湍流燃烧系统包含很宽的化学反应时间尺度[18],一步反应不能描述不同的化学时间尺度,对流动耦合作用的描述存在不足. 许多燃烧过程,比如点火、熄火、污染物生成(NOx、碳烟等)和火焰增厚等物理过程对反应机理有很强的依赖性[19],这些过程无法通过简单的一步反应或者两步反应来精确描述[20]. 采用包含更多组分、更多步基元反应的机理,这进一步增大了刚性常微分方程组的复杂性,而这些复杂性给湍流燃烧的PINNs建模带来很大挑战.

与传统的偏微分方程数值解法相比,PINNs是无网格方法,需要计算域内及边界上的残差点(residual points)进行梯度计算、评估损失及更新训练参数. 残差点的选取至关重要,一组理想的残差点可以改善PINNs训练的收敛行为,提高计算效率. 残差点的选取较灵活,一般采用类网格点均匀采样或伪随机采样以及其他方法[21-22]. 针对燃烧化学领域内的复杂微分方程,残差点的选取对结果的影响需要更具体的分析.

本文采用物理信息神经网络PINNs,选取燃烧数值模拟中的2个典型场景案例,包括刚性常微分方程ROBER问题以及稳态射流火焰混合分数方程求解,探索PINNs在燃烧化学微分方程计算中的应用潜力. 选取这2个案例,是因为两者分别代表了ODE和PDE问题. 针对上述复杂方程,检验残差点的选取对结果的影响.

1. 物理信息神经网络

本文的求解算法均不依赖已有参考解作为训练数据,属于对微分方程的正向求解. 下面以求解非线性偏微分方程(partial differential equations,PDE)的正向问题为例,简要阐释PINNs的基本网络结构及训练方式. 求解PDE的PINNs网络结构如图1所示,考虑解为u(x)的偏微分方程的一般形式[23]

图 1

图 1   PINNs网络拓扑结构示意图

Fig.1   Schematic topology diagram of PINNs


$ f\left(\boldsymbol{x};\dfrac{\partial u}{\partial x_{1}}, \ldots, \dfrac{\partial u}{\partial x_{d}}; \dfrac{\partial^{2} u}{\partial x_{1} \partial x_{1}}, \ldots, \dfrac{\partial^{2} u}{\partial x_{1} \partial x_{d}} ; \ldots\right)=0;\; {\boldsymbol{x}} \in \varOmega. $

式中:x = [x1, x2, $\cdots, $ xd]的定义域为 $\varOmega $. u(x)满足边界条件:

$ \mathcal{B}(u, {\boldsymbol{x}})=0; \;{\boldsymbol{x}} \in \partial \varOmega . $

式中: $\mathcal{B}(u, {\boldsymbol{x}})$可以是Dirichlet、Neumann或者周期性边界条件. 对于与时间相关的问题,可以将时间t视为x的特殊分量, $\varOmega $中包含时间域,将初始条件视为时空域上特殊类型的Dirichlet边界条件.

针对该问题,需要确定训练集τ. 主要包括2组点:一组点是在整个时空域上的配置点 $\tau_{{\rm{f}}}=\left\{({\boldsymbol{x}}_{{\rm{f}}}^{(i)},\right. \Big.0\Big\}_{i=1}^{N_{{\rm{f}}}}$,另一组是初边界上的数据点 $\tau_{\mathrm{u}} = \left\{ \left( \boldsymbol{x}_{\mathrm{u}}^{(i)}, \right. \left. u\left( \boldsymbol{x}_{{\rm{u}}}^{(i)} \right) \right) \right\}_{i=1}^{N_{\mathrm{u}}}$. 通过自动微分和算术运算,将替代模型uNN代入物理控制方程后,得到残差网络:

$ \begin{split} & f_{N N}({\boldsymbol{x}} ;{\boldsymbol{\theta}})=\\ & f \left( {\boldsymbol{x}} ; \dfrac{\partial u_{N N}}{\partial x_{1}}, \cdots, \dfrac{\partial u_{N N}}{\partial x_{d}},\dfrac{\partial^{2} u_{N N}}{\partial x_{1} \partial x_{1}},\; \cdots,\; \dfrac{\partial^{2} u_{N N}}{\partial x_{1} \partial x_{d}} ; \cdots \right). \end{split} $

本文算例都采用均方误差(mean square error,MSE)损失函数,以评价神经网络uNN(x; ${\boldsymbol{\theta}} $)对物理控制方程和初边界条件的符合程度,总的损失表达式如下:

$ \mathcal{L}({\boldsymbol{\theta}})=\frac{1}{N_{{\rm{u}}}} \sum_{\boldsymbol{x} \in \tau_{{\rm{u}}}}\left|u_{N N}(\boldsymbol{x} ; {\boldsymbol{\theta}})-u(\boldsymbol{x})\right|^{2} +\frac{1}{N_{{\rm{f}}}} \sum_{\boldsymbol{x} \in \tau_{{\rm{f}}}}\left|f_{N N}(\boldsymbol{x} ; {\boldsymbol{\theta}})\right|^{2}. $

其中,第1部分评估替代模型满足已知初边界条件的程度,第2部分评估替代模型在定义域内满足物理控制方程的程度. 通过最小化损失函数训练神经网络,找出最优参数 ${\boldsymbol{\theta}}^* $,即

$ {\boldsymbol{\theta}}^{*}=\operatorname{argmin}\;\mathcal{L}({\boldsymbol{\theta}} ; \tau) . $

利用训练好的神经网络模型,可以推断方程在任意时间和位置的预测解.

2. 求解过程与结果

2.1. ROBER问题求解

2.1.1. 案例描述与参数配置

在化学动力学中,组分演化过程可以描述为以组分的净反应速率为源项的常微分方程系统(SODEs). 若组分的特征时间尺度跨越很大的范围,则整个SODEs积分求解需要大量的迭代计算. 以经典的刚性常微分方程组ROBER问题[24]为例,评估PINNs在解决刚性动力学问题时的性能. ROBER问题由3种组分和3步反应组成,由于反应速率常数有着较大的差异,方程组具有很强的刚性. ROBER问题的反应网络如下:

$ \left. {\begin{split} &A \xrightarrow{\;\;\;k_1\;\;\;} B \\ &B+B \xrightarrow{\;\;\;k_2\;\;\;} C+B \\ &B+C \xrightarrow{\;\;\;k_3\;\;\;} A+C \end{split} } \right\}$

其中,ABC指3种化学组分. 相应地,描述ROBER问题的动力方程组如下:

$ \left. {\begin{array}{*{20}{l}} \dfrac{{\rm{d}} y_{1}}{{\rm{d}} t}=-k_{1} y_{1}+k_{3} y_{2} y_{3}, \\ \dfrac{{\rm{d}} y_{2}}{{\rm{d}} t}=k_{1} y_{1}-k_{2} y_{2}^{2}-k_{3} y_{2} y_{3}, \\ \dfrac{{\rm{d}} y_{3}}{{\rm{d}} t}=k_{2} y_{2}^{2}. \end{array}} \right\} $

式中:k1k2k3为反应速率常数,k1 = 0.04,k2 = 3×107k3 = 104y1y2y3分别表示组分ABC的体积分数,初始条件为y1(0) = 1,y2(0) = 0,y3(0) = 0. 反应速率常数在9个数量级的范围内变化,导致系统具有很强的刚性. 计算域为[0, Te],本文构建了2个算例,第1个计算域终点为Te = 1 s,第2个计算域终点为Te= 103 s,用来对比评估PINNs模型在2种计算时间域范围内的性能.

使用的PINNs代码基于开源代码库DeepXDE[21],选用的后端是基于TensorFlow 2.5.0框架[25],本文算例均是在NVIDIA GeForce GTX 1660 Ti GPU上进行训练,使用Windows操作系统. 数值求解器基于开源CFD代码OpenFOAM[26]中的刚性ODE求解器seulex[24, 27],求出数值解作为参考值,以验证PINNs解. 对于2个算例,均在计算域[0, Te]上按照对数分布进行采样. 对于计算域终点Te = 1 s的算例,采集了1 000个数据点;对于Te = 103 s的算例,采集了3 000个数据点,以评估残差. 考虑到组分演化曲线在线性坐标轴中会出现突变,按照线性分布采样将难以捕捉到组分演化过程,所以按照对数分布取样. 网络输入为时间t,预测输出是3种组分对应的y1y2y3. 网络结构和超参数配置基于DeepXDE[21]代码库中经过验证的案例,隐藏层激活函数为tanh函数,损失函数为均方误差(见式(4)),函数网络权重使用Xavier[28]初始化,通过Adam优化器[29]进行优化,学习率为10−5. 考虑本文算例的复杂性,对隐藏层数目和神经元节点数以网格搜索方式进行超参数优化,搜索的隐藏层数目为3、4和5,搜索的每层神经元节点数Nl为50、100、150和200,结果如表1所示. 表中,L为训练损失.

表 1   ROBER问题(Te = 1 s)不同隐藏层配置的训练损失

Tab.1  Training loss for different hidden layers for ROBER problem (Te = 1 s)

隐藏层层数 L
Nl = 50 Nl = 100 Nl = 150 Nl = 200
3 3.01×10−3 5.47×10−6 7.30×10−6 9.46×10−6
4 2.30×10-3 4.40×10-7 5.21×10-7 3.16×10-7
5 7.15×10−4 7.48×10−7 1.88×10−7 1.96×10−7

新窗口打开| 下载CSV


针对ROBER问题,选用包含4层隐藏层、每层有100个神经元节点的超参数配置. 使用的PINNs网络结构汇总如表2所示. 表中,“#”表示输出层不使用激活函数. 对于ROBER问题,为了加快网络训练过程,在网络结构设计时,在网络输出层之前增加输出转换.

表 2   顺序的PINNs结构

Tab.2  Structure of sequential PINNs model

层类型 激活函数 输出类型
ROBER问题 混合分数PDE
Input (None, 1): t (None, 2): x, y
Dense tanh (None, 100) (None, 200)
Dense tanh (None, 100) (None, 200)
Dense tanh (None, 100) (None, 200)
Dense tanh (None, 100) (None, 200)
Output # (None, 3): y1, y2, y3 (None, 1): Z

新窗口打开| 下载CSV


实质上,在默认情况下,DeepXDE通过损失函数的方式来使计算结果满足给定的初始和边界条件,这是一种软约束[21]. 对于本文案例,可以采用更直接的硬边界方式[30],使得网络结构输出满足给定的初始条件. 陆至彬等[9]针对传热问题求解,评估了软边界和硬边界2种方法所构建PINNs模型的性能. 结果表明,硬边界PINNs模型的预测能力较优. 为了降低SODEs的刚度,Ji等[13]采用准稳态假设(quasi steady state assumptions,QSSA)的方法对方程进行变换,提出Stiff-PINN模型,取得了较好的预测结果. 本文案例无需QSSA,采用硬边界约束的方式. 下面证明硬边界PINNs的优势. 对于ROBER问题,本文提供的输出转换如下:

$ \left.\begin{split} &y_{1}^{*}=-0.1y_{1} \ln\; (t+1) +1, \\ &y_{2}^{*}=y_{2}^{2}\ln \;(t+1) \times 10^{-7}, \\ &y_{3}^{*}=y_{3}^{2}\ln \;(t+1) \times 10^{-2}. \end{split}\right\} $

式中:上标*表示经过转换后的输出. 经过式(8)转换后,得到的网络结构满足给定的初始条件(当t = 0时, $ y_{1}^{*} $ = 1, $ y_{2}^{*} $ = 0, $ y_{3}^{*} $ = 0),因此是硬边界. 式(8)避免了非物理解(当t > 0时, $ y_{2}^{*} $ ≥ 0, $ y_{3}^{*} $ ≥ 0),加速了PINNs模型的收敛.

2.1.2. 结果分析

对于计算区间[0, 1]s,研究动力系统组分的演化过程,如图2所示,将数值方法的结果作为参考真实解,以验证PINNs解. 结果表明,利用PINNs模型可以准确地捕获y1y2y3的演化过程. 事实上,y2在[0, 10−2] s内迅速增加,这种快速增加的趋势是很难捕捉的. y1y2y3处于不同的数量级,跨度为O(10−5)~O(1)量级,这进一步加大了预测的难度. PINNs预测解与数值解的一致性,显示了硬边界PINNs模型可以正确地预测刚性化学动力系统的演化. PINNs模型在训练残差点和测试残差点(取1 000个训练点之外的残差点)上的损失值分别为4.40×10−7和3.73×10−7,未出现过拟合问题.

图 2

图 2   动力系统组分的演化过程(Te= 1 s)

Fig.2   Evolutionary process of species in dynamic system (Te = 1 s)


对于计算区间[0, 103] s,相应使用的残差点数目从1 000增加到3 000,计算结果如图3所示,硬边界PINNs模型可以成功地捕捉到3种组分演化的过程. 对于图3(b),PINNs预测解与Seulex解出现了一定的误差,但误差对应的时间区间仅为[0, 10−2] s,这对于整个计算域[0, 103] s来说是非常短暂的. y2处于10−5量级,进一步增加了PINNs模型预测的难度. 在10−2 s之后,利用PINNs模型准确捕捉到了y2的演化过程.

图 3

图 3   动力系统组分的演化过程(Te= 103 s)

Fig.3   Evolutionary process of species in dynamic system (Te = 103 s)


2.2. 稳态射流火焰混合分数方程的求解
2.2.1. 案例描述与参数配置

在湍流燃烧的数值模拟中,小火焰类燃烧模型[31-32]能够以合理的计算成本考虑详细的化学机理,受到广泛的应用. 燃烧数值模拟中一个重要参数是混合分数Z,在一般的两股流动组成的系统中,混合分数定义为来自燃料流的质量流量与总质量流之比. 基于系统中的元素质量守恒,可以得到更具普遍意义的基于元素的混合分数[33]. 基于Lewis数为1的假设[34],可以将含有源项的主动标量组分质量分数wi的输运方程转换为无源项的被动标量Z的输运方程:

$ \dfrac{\partial (\rho Z)}{\partial t}+\dfrac{\partial\left(\rho u_{i} Z\right)}{\partial x_{i}}=\dfrac{\partial}{\partial x_{i}}\left(\rho D \dfrac{\partial Z}{\partial x_{i}}\right). $

基于混合分数,可以将扩散火焰的计算解耦为混合问题和火焰构型问题[35]. 其中,混合问题主要用于获得混合分数场Z(x,t),火焰构型问题是建立热化学标量(例如温度和组分质量分数)与Z之间的联系. 对于后者,经典的火焰结构是Burke-Schumann火焰构型[35],它假设燃烧化学反应是一步、无限快且不可逆的,此时热化学标量仅依赖于Z. Burke-Schumann火焰构型的关系式如下.

式中: $w_{{\rm{F}}}^{0}$为燃料质量分数, $w_{{\rm{O}}}^{0}$为氧化剂质量分数, $T_{{\rm{F}}}^{0}$为燃料流温度, $T_{{\rm{O}}}^{0}$为氧化剂流温度,Q为燃烧反应热,cp为比定压热容. 式(10a)、(10b)分别对应Z > ZstZZst的情形(其中Zst为化学计量混合分数). 式(10)提供了组分质量分数、温度与混合分数Z(x)(x为空间坐标)之间的联系. 本文案例分别使用OpenFOAM中的数值求解器和PINNs模型,求解均匀流场中二维稳态射流扩散火焰中的混合分数Z输运方程,算例构型如图4所示.

图 4

图 4   二维射流扩散火焰算例构型

Fig.4   Two-dimensional configuration of jet diffusion flame


将燃料射流(Z = 1、密度为 $\;\rho_{\rm{F}}^{0}$、入口速度 $u_{{\rm{F}}}^{0}$ = 8 mm/s、运动黏度DF= 1.5×10−3 m2/s)注入到氧化剂伴随流(Z = 0、密度为 $\;\rho_{{\rm{O}}}^{0}$、入口速度为 $u_{{\rm{O}}}^{0}$)中. 假设入口的质量流量恒定,流场为均匀流场且只有流向方向的速度. Z输运方程式中只保留对流项和扩散项[35],如下所示:

将式(11)用于PINNs求解,下面介绍边界条件的实施. 令在无穷远处Z(∞,∞) = 0,对于与初始射流直径相比较大的下游位置y值,近似解为

$ Z(x, y) \Leftrightarrow \dfrac{r_{0}}{\sqrt{\text{π} \alpha y}} \exp\; \left(-\dfrac{\left(R_{0}-x\right)^{2}}{4 \alpha y}\right) . $

其中,燃料射流半径r0 = 5 mm,计算域宽度R0 = 40 mm,参数 $\alpha=D_{{\rm{F}}} / u_{{\rm{F}}}^{0}$. 混合分数边界条件的施加是通过利用已有的近似解表达式(12),对左边界(leftBC)和出口边界(outlet)施加近似的Dirichlet边界条件. 入口边界对应于y = 0 m,出口边界对应于y = 0.08 m,左边界对应于x = 0 m. 最终施加的边界条件如下:

$ \left.\begin{array}{ll} Z_{\text {inlet }}(x)=0.5[\operatorname{sgn}\;(x-0.035)+1], & y=0 ;\\ Z_{\text {out }}(x)=0.23 \exp \;\left(-\dfrac{(0.04-x)^{2}}{0.000\;6}\right), & y=0.08; \\ Z_{\text {left }}(y)=\dfrac{0.065\;1}{\sqrt{y}} \exp \left(-\dfrac{0.213}{y}\right), & x=0. \end{array}\right\} $

为了在同等条件下比较数值解与PINNs解,将数值算例中使用的网格点转换为PINNs模型的采样点进行训练. 整个计算域包含了27 200个网格单元,沿射流方向和径向分别使用160和170个网格,对射流中心区域进行网格加密. 对应PINNs模型也包含27 200个采样点,并在射流入口边界上增加20个采样点. 网络输入为空间坐标xy,预测输出是对应的混合分数Z. 整体上,本文案例PINNs模型的参数配置与ROBER问题一致(见2.1.1节),但考虑到训练数据量增多,将每个隐藏层的神经元数量增加到200个,具体的网络结构见表2.

2.2.2. 结果分析

经过OpenFOAM数值计算及PINNs计算得到混合分数分布云图如图5所示. 图中,实线为对应标量的等值线. 整体上看,数值解与网络解具有较好的一致性,能够较好地捕捉到混合分数从射流核心向外的扩散过程. 利用2种方法求解的误差e图5(c)所示. 可以看出,误差主要位于射流与伴随流的剪切作用区域,是因为该区域存在较大的混合分数梯度. 随着往下游发展,这种梯度逐渐减小,两者的偏差逐渐减小.

图 5

图 5   混合分数分布云图的对比

Fig.5   Comparison of mixture fraction distributions


为了更进一步分析PINNs模型求解的准确性,截取计算域中的典型剖面进行定量分析. 如图6(a)所示为计算域x = 0.04 m即射流中心轴线上混合分数的分布曲线,如图6(b)所示为不同流向位置(y = 0.02、0.04、0.06 m)处混合分数沿径向分布的曲线. 可以发现,利用PINNs模型取得了合理的定量预测结果. 沿着射流方向,PINNs解相对于数值解的误差逐渐降低,这主要是由于在入口处,燃料射流存在明显的混合分数梯度,使得PINNs模型难以精细捕捉.

图 6

图 6   2种求解器在不同位置处的混合分数解对比

Fig.6   Comparison of mixture fraction profiles at different locations


在获取了计算域中的混合分数分布后,基于Burke-Schumann火焰构型,得到热化学标量的分布情况. 选取的典型参数如下: $w_{\rm{F}}^{0}$ = 1.0, $w_{{\rm{O}}}^{0}$ = 0.23, $T_{{\rm{F}}}^{0}$= 300 K, $T_{{\rm{O}}}^{0}$= 300 K,Q = 50 100 kJ/kg,cp = 1 400 J/(kg·K). 基于OpenFOAM数值解和PINNs解所对应的温度场如图7所示. 图中,实线为温度的等值线. 整体上,两者在温度较高的火焰内部区域取得了较好的一致性;在火焰区域外部的低温区域,数值解更加光滑连续,入口处梯度的存在导致误差沿着射流方向逐渐降低,这与图5中观察到的现象一致.

图 7

图 7   温度分布云图的对比

Fig.7   Comparison of temperature distributions


2.3. 残差点采样方式对结果的影响

前文所使用的残差点均是根据案例构型采样的,其中,ROBER问题选取的残差点是按照对数分布进行采样,混合分数方程求解选取的残差点是由网格点转换而来的,网格是根据射流构型进行局部加密或拉伸的. 实际上,这些采样均是根据构型的内在物理特性而进行局部加密或粗糙化,将其记为“基于构型采样”. 作为对比,下面分别采用较常用的均匀采样和伪随机采样方法进行训练,分析残差点的选取对结果的影响. 不同残差点采样方式的抽象示意图如图8所示.

图 8

图 8   残差点分布示意图

Fig.8   Distribution of residual points


ROBER问题(Te = 1 s)使用的残差点个数保持为1 000,迭代次数为105. 混合分数PDE求解使用的内部残差点个数保持为27 200,迭代次数为104. 如表3所示为训练所需的时间ttr及最后的损失.

表 3   不同采样方式训练所需的时间及损失大小

Tab.3  Training time and loss value for different sampling approaches

案例 采样方式 ttr/s L
ROBER问题 基于构型 621.64 4.40×10−7
ROBER问题 均匀 619.89 3.36×10−4
ROBER问题 伪随机 607.62 2.46×10−4
混合分数PDE 基于构型 691.61 5.48×10−3
混合分数PDE 均匀 700.52 4.67×10−3
混合分数PDE 伪随机 700.82 2.55×10−3

新窗口打开| 下载CSV


整体来看,对于3种残差点采样方式,由于使用的残差点个数相同,训练耗费的时间基本一致,在最终的训练损失上出现差异. 对于ROBER问题,使用基于构型的对数分布采样的训练损失远小于均匀采样和伪随机采样(约小3个数量级). 对于混合分数PDE求解,3种采样方式的训练损失值处于同一个数量级. 这种现象的差异可以结合训练过程曲线进行分析,如图9所示. 图中,Ni为迭代次数.

图 9

图 9   不同采样方式的损失值随迭代步数的变化

Fig.9   Loss value vs. iterations for different sampling approaches


不同采样方式下训练过程的损失值随迭代次数的变化如图9所示. 对于ROBER问题(见图9(a)),基于构型采样的损失值高于另外2种采样方式,这是因为基于构型的对数分布采样能够在系统演化的初始阶段选取更多的残差点,所包含的残差点在时间尺度上更加分散,采集的残差点位置更有代表性,这使得一开始的训练损失值较大. 约5×104次迭代时,均匀和伪随机采样方式的损失值缓慢减小,基于构型采样的损失值开始快速减小,最终收敛至O(10−7)量级的损失值,远小于另外2种采样方式. 这使得训练好的模型能够准确捕捉到[0, 10−2] s内的组分演化,尤其是y2的快速增加过程. 对于混合分数PDE的求解,如图9(b)所示,混合分数从射流核心向外的梯度变化过程较缓,因此基于构型的局部加密或拉伸采样方式未展现优势,从训练曲线可以看出3种采样方式在混合分数PDE求解时的相似性能. 尽管基于构型的采样方法在约8×103次迭代时出现了振荡,但3种采样方式都收敛至O(10−3)量级的损失值. PINNs作为无网格方法,残差点的选取方式将对计算结果造成重要影响,盲目采用常用的均匀采样和伪随机采样方法,可能会出现非物理解,应基于构型仔细权衡,这对于燃烧化学领域内的复杂微分方程求解尤为重要.

3. 结 语

本文以燃烧数值模拟为背景,应用物理信息神经网络PINNs,选取燃烧化学计算中遇到的2个典型案例,对问题中的微分方程进行求解. 在刚性常微分方程组ROBER问题中,硬边界PINNs模型可以准确地捕获y2快速增加的趋势,同时可以捕捉到跨域5个数量级的3种组分演化过程. 对于稳态射流火焰混合分数方程的案例,数值解与PINNs预测解有较好的一致性,入口处梯度的存在导致误差沿着射流方向逐渐降低. 使用3种不同的残差点采样方式来评估残差点选取对结果的影响,对于ROBER问题,基于构型的对数分布采样展现明显优势,而对于混合分数方程的求解,3种采样方式展现相似的性能. 对于燃烧化学领域内的复杂微分方程求解,应基于构型权衡残差点的选取. 从应用层面来看,PINNs算法将在传统数值模拟算法难以处理的领域展现优势,如数据同化、不适定问题、逆问题、参数化代理模型、参数化优化设计等. 这将在未来的工作中进行研究和发展. 本文不依赖已有参考解作为训练数据,聚焦于对微分方程的正向求解,对参数化求解方法的发展有一定的参考价值.

参考文献

RAISSI M, PERDIKARIS P, KARNIADAKIS G E

Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations

[J]. Journal of Computational Physics, 2019, 378: 686- 707

DOI:10.1016/j.jcp.2018.10.045      [本文引用: 1]

BAYDIN A G, PEARLMUTTER B A, RADUL A A, et al

Automatic differentiation in machine learning: a survey

[J]. Journal of Machine Learning Research, 2018, 18: 1- 43

[本文引用: 1]

RAISSI M, YAZDANI A, KARNIADAKIS G E

Hidden fluid mechanics: Learning velocity and pressure fields from flow visualizations

[J]. Science, 2020, 367 (6481): 1026- 1030

DOI:10.1126/science.aaw4741      [本文引用: 1]

JIN X W, CAI S Z, LI H, et al

NSFnets (Navier-Stokes flow nets): physics-informed neural networks for the incompressible Navier-Stokes equations

[J]. Journal of Computational Physics, 2021, 426: 109951

DOI:10.1016/j.jcp.2020.109951      [本文引用: 1]

MAO Z P, JAGTAP A D, KARNIADAKIS G E

Physics-informed neural networks for high-speed flows

[J]. Computer Methods in Applied Mechanics and Engineering, 2020, 360: 112789

DOI:10.1016/j.cma.2019.112789      [本文引用: 1]

KUMAR A, RIDHA S, NARAHARI M, et al

Physics-guided deep neural network to characterize non-Newtonian fluid flow for optimal use of energy resources

[J]. Expert Systems with Applications, 2021, 183: 115409

DOI:10.1016/j.eswa.2021.115409      [本文引用: 1]

赵暾, 周宇, 程艳青, 等

基于内嵌物理机理神经网络的热传导方程的正问题及逆问题求解

[J]. 空气动力学学报, 2021, 39 (5): 19- 26

DOI:10.7638/kqdlxxb-2020.0176      [本文引用: 1]

ZHAO Tun, ZHOU Yu, CHENG Yan-qing, et al

Solving forward and inverse problems of partial differential equations of heat conduction using physics-informed neural networks

[J]. Acta Aerodynamica Sinica, 2021, 39 (5): 19- 26

DOI:10.7638/kqdlxxb-2020.0176      [本文引用: 1]

ZOBEIRY N, HUMFELD K D

A physics-informed machine learning approach for solving heat transfer equation in advanced manufacturing and engineering applications

[J]. Engineering Applications of Artificial Intelligence, 2021, 101: 104232

DOI:10.1016/j.engappai.2021.104232     

陆至彬, 瞿景辉, 刘桦, 等

基于物理信息神经网络的传热过程物理场代理模型的构建

[J]. 化工学报, 2021, 72 (3): 1496- 1503

DOI:10.11949/0438-1157.20201879      [本文引用: 2]

LU Zhi-bin, QU Jing-hui, LIU Hua, et al

Surrogate modeling for physical fields of heat transfer processes based on physics-informed neural network

[J]. Journal of Chemical Industry and Engineering (China), 2021, 72 (3): 1496- 1503

DOI:10.11949/0438-1157.20201879      [本文引用: 2]

PENG G, ALBER M, TEPOLE A B, et al

Multiscale modeling meets machine learning: what can we learn?

[J]. Archives of Computational Methods in Engineering, 2021, 28 (3): 1017- 1037

DOI:10.1007/s11831-020-09405-5      [本文引用: 1]

HUANG Y, ZHANG Z, ZHANG X

A direct-forcing immersed boundary method for incompressible flows based on physics-informed neural network

[J]. Fluids, 2022, 7 (2): 56

DOI:10.3390/fluids7020056      [本文引用: 1]

FUKS O, TCHELEPI H A

Limitations of physics informed machine learning for nonlinear two-phase transport in porous media

[J]. Journal of Machine Learning for Modeling and Computing, 2020, 1 (1): 19- 37

DOI:10.1615/JMachLearnModelComput.2020033905      [本文引用: 1]

JI W, QIU W, SHI Z, et al

Stiff-pinn: physics-informed neural network for stiff chemical kinetics

[J]. The Journal of Physical Chemistry A, 2021, 125 (36): 8098- 8106

DOI:10.1021/acs.jpca.1c05102      [本文引用: 2]

KNIO O M, NAJM H N, WYCKOFF P S

A semi-implicit numerical scheme for reacting flow II. Stiff, operator-split formulation

[J]. Journal of Computational Physics, 1999, 154 (2): 428- 467

DOI:10.1006/jcph.1999.6322      [本文引用: 1]

LANSER D, VERWER J G

Analysis of operator splitting for advection-diffusion-reaction problems from air pollution modelling

[J]. Journal of Computational and Applied Mathematics, 1999, 111 (1/2): 201- 216

DOI:10.1016/S0377-0427(99)00143-0     

ORAN E S, BORIS J P, BORIS J P. Numerical simulation of reactive flow [M]. Cambridge: Cambridge University Press, 2001.

[本文引用: 1]

SPORTISSE B

An analysis of operator splitting techniques in the stiff case

[J]. Journal of Computational Physics, 2000, 161 (1): 140- 168

DOI:10.1006/jcph.2000.6495      [本文引用: 1]

GICQUEL L, STAFFELBACH G, POINSOT T

Large eddy simulations of gaseous flames in gas turbine combustion chambers

[J]. Progress in Energy and Combustion Science, 2012, 38 (6): 782- 817

DOI:10.1016/j.pecs.2012.04.004      [本文引用: 1]

夏一帆. 面向航空发动机燃烧室点火问题的数值计算方法研究[D]. 杭州: 浙江大学, 2019.

[本文引用: 1]

XIA Yi-fan. A study of numerical methods for the ignition process in aeroengine combustors [D]. Hangzhou: Zhejiang University, 2019.

[本文引用: 1]

ECHEKKI T, MASTORAKOS E. Turbulent combustion modeling: Advances, new trends and perspectives [M]. Berlin: Springer, 2010.

[本文引用: 1]

LU L, MENG X H, MAO Z P, et al

DeepXDE: A deep learning library for solving differential equations

[J]. SIAM Review, 2021, 63 (1): 208- 228

DOI:10.1137/19M1274067      [本文引用: 4]

NABIAN M A, GLADSTONE R J, MEIDANI H

Efficient training of physics-informed neural networks via importance sampling

[J]. Computer-Aided Civil and Infrastructure Engineering, 2021, 36 (8): 962- 977

DOI:10.1111/mice.12685      [本文引用: 1]

武育宏. 基于物理机制的深度神经网络在数值求解非线性Degasperis-Procesi方程中的应用[D]. 上海: 上海师范大学, 2020.

[本文引用: 1]

WU Yu-hong. Application of physics-informed neural network in numerical solving of nonlinear Degasperis-Procesi equation [D]. Shanghai: Shanghai Normal University, 2020.

[本文引用: 1]

WANNER G, HAIRER E. Solving ordinary differential equations II [M]. Berlin: Springer, 1996.

[本文引用: 2]

ABADI M, BARHAM P, CHEN J, et al. TensorFlow: a system for large-scale machine learning [C]// 12th USENIX Symposium on Operating Systems Design and Implementation. Savannah: USENIX Association, 2016: 265-283.

[本文引用: 1]

WELLER H G, TABOR G, JASAK H, et al

A tensorial approach to computational continuum mechanics using object-oriented techniques

[J]. Computers in Physics, 1998, 12 (6): 620- 631

DOI:10.1063/1.168744      [本文引用: 1]

IMREN A, HAWORTH D C

On the merits of extrapolation-based stiff ODE solvers for combustion CFD

[J]. Combustion and Flame, 2016, 174: 1- 15

DOI:10.1016/j.combustflame.2016.09.018      [本文引用: 1]

GLOROT X, BENGIO Y. Understanding the difficulty of training deep feedforward neural networks [C]// Proceedings of the 13th International Conference on Artificial Intelligence and Statistics. Sardinia: [s. n.], 2010: 249-256.

[本文引用: 1]

KINGMA D P, BA J. Adam: A method for stochastic optimization [EB/OL]. [2022-03-01]. https://arxiv.org/abs/1412.6980.

[本文引用: 1]

LAGARIS I E, LIKAS A, FOTIADIS D I

Artificial neural networks for solving ordinary and partial differential equations

[J]. IEEE Transactions on Neural Networks, 1998, 9 (5): 987- 1000

DOI:10.1109/72.712178      [本文引用: 1]

VAN OIJEN J A, LAMMERS F A, DE GOEY L

Modeling of complex premixed burner systems by using flamelet-generated manifolds

[J]. Combustion and Flame, 2001, 127 (3): 2124- 2134

DOI:10.1016/S0010-2180(01)00316-9      [本文引用: 1]

PIERCE C D, MOIN P

Progress-variable approach for large-eddy simulation of non-premixed turbulent combustion

[J]. Journal of Fluid Mechanics, 2004, 504: 73- 97

DOI:10.1017/S0022112004008213      [本文引用: 1]

BILGER R W, STARNER S H, KEE R J

On reduced mechanisms for methane air combustion in nonpremixed flames

[J]. Combustion and Flame, 1990, 80 (2): 135- 149

DOI:10.1016/0010-2180(90)90122-8      [本文引用: 1]

NAKAMURA M, AKAMATSU F, KUROSE R, et al

Combustion mechanism of liquid fuel spray in a gaseous flame

[J]. Physics of Fluids, 2005, 17 (12): 123301

DOI:10.1063/1.2140294      [本文引用: 1]

POINSOT T, VEYNANTE D. Theoretical and numerical combustion [M]. Philadelphia: R. T. Edwards Inc. , 2005.

[本文引用: 3]

/