物理信息神经网络(PINNs)作为人工智能助力科学研究(AI for Science)求解偏微分方程(PDEs)的一种无网格化求解框架,近年来受到广泛关注.然而,传统PINNs存在局限性:一方面,PINNs网络结构使用单向信息传递的多层感知机(MLPs),难以有效聚...物理信息神经网络(PINNs)作为人工智能助力科学研究(AI for Science)求解偏微分方程(PDEs)的一种无网格化求解框架,近年来受到广泛关注.然而,传统PINNs存在局限性:一方面,PINNs网络结构使用单向信息传递的多层感知机(MLPs),难以有效聚焦序列数据中蕴含的关键特征,信息表征能力弱;另一方面,PINNs的损失函数为嵌入物理约束的二次罚函数,其未受约束而无限膨胀的惩罚因子影响模型训练寻优效率.为应对上述挑战,本文提出一种基于信息表征-损失优化改进的PINNs——allaPINNs,旨在增强模型关键特征提取和训练寻优能力,提升其求解PDEs数值解的准确性和泛化能力.在信息表征方面,allaPINNs引入高效线性注意力(LA)增强模型关键特征识别能力,同时降低权重动态加权的计算复杂度.在损失优化方面,allaPINNs通过引入增广拉格朗日(AL)函数重构目标损失函数,利用可学习的拉格朗日乘子和惩罚因子有效调控各损失残差项的相互作用.由Helmholtz,Black-Scholes,Burgers和非线性Schrödinger四个基准方程验证allaPINNs的有效性.结果表明,allaPINNs能够有效求解不同类型PDEs,并展现出卓越的数值解预测精度与泛化能力.相较于当前先进PINNs,其预测精度提升一至两个数量级.展开更多
摘要物理信息神经网络(PINNs)作为人工智能助力科学研究(AI for Science)求解偏微分方程(PDEs)的一种无网格化求解框架,近年来受到广泛关注.然而,传统PINNs存在局限性:一方面,PINNs网络结构使用单向信息传递的多层感知机(MLPs),难以有效聚焦序列数据中蕴含的关键特征,信息表征能力弱;另一方面,PINNs的损失函数为嵌入物理约束的二次罚函数,其未受约束而无限膨胀的惩罚因子影响模型训练寻优效率.为应对上述挑战,本文提出一种基于信息表征-损失优化改进的PINNs——allaPINNs,旨在增强模型关键特征提取和训练寻优能力,提升其求解PDEs数值解的准确性和泛化能力.在信息表征方面,allaPINNs引入高效线性注意力(LA)增强模型关键特征识别能力,同时降低权重动态加权的计算复杂度.在损失优化方面,allaPINNs通过引入增广拉格朗日(AL)函数重构目标损失函数,利用可学习的拉格朗日乘子和惩罚因子有效调控各损失残差项的相互作用.由Helmholtz,Black-Scholes,Burgers和非线性Schrödinger四个基准方程验证allaPINNs的有效性.结果表明,allaPINNs能够有效求解不同类型PDEs,并展现出卓越的数值解预测精度与泛化能力.相较于当前先进PINNs,其预测精度提升一至两个数量级.