CN113836828A - 用于流体流动预测的组合可微分偏微分方程求解器和图形神经网络的系统和方法 - Google Patents

用于流体流动预测的组合可微分偏微分方程求解器和图形神经网络的系统和方法 Download PDF

Info

Publication number
CN113836828A
CN113836828A CN202110629887.0A CN202110629887A CN113836828A CN 113836828 A CN113836828 A CN 113836828A CN 202110629887 A CN202110629887 A CN 202110629887A CN 113836828 A CN113836828 A CN 113836828A
Authority
CN
China
Prior art keywords
nodes
grid
coarse
input
fine
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110629887.0A
Other languages
English (en)
Other versions
CN113836828B (zh
Inventor
F·D·A·贝尔巴特-佩雷斯
T·D·依科诺蒙
J·柯尔特
D·维尔莫特
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of CN113836828A publication Critical patent/CN113836828A/zh
Application granted granted Critical
Publication of CN113836828B publication Critical patent/CN113836828B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/18Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/11Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
    • G06F17/13Differential equations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/11Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • G06F30/23Design optimisation, verification or simulation using finite element methods [FEM] or finite difference methods [FDM]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • G06F30/27Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • G06F30/28Design optimisation, verification or simulation using fluid dynamics, e.g. using Navier-Stokes equations or computational fluid dynamics [CFD]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2111/00Details relating to CAD techniques
    • G06F2111/10Numerical modelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2113/00Details relating to the application field
    • G06F2113/08Fluids

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Mathematical Analysis (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Computational Mathematics (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Algebra (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Geometry (AREA)
  • Operations Research (AREA)
  • Databases & Information Systems (AREA)
  • Fluid Mechanics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

用于流体流动预测的组合可微分偏微分方程求解器和图形神经网络的系统和方法。一种计算机实现的方法包括接收包括第一节点集合的粗网格输入,其中粗网格被输入到具有物理参数的计算流体动力学求解器以获得粗网格解,接收具有第二节点集合的细网格输入,其中第二节点集合包括比第一节点集合多的节点,将细网格输入与物理参数级联,并通过图形卷积层运行所述级联以获得细网格隐藏层,对粗网格解进行上采样以获得包括与第二节点集合相同数量的节点的粗网格上采样,并至少响应于粗网格上采样而输出预测。

Description

用于流体流动预测的组合可微分偏微分方程求解器和图形神 经网络的系统和方法
技术领域
本公开涉及利用计算流体动力学(CFD)和CFD求解器的系统。
背景技术
求解大型复杂的偏微分方程(PDE)、诸如计算流体动力学(CFD)中出现的偏微分方程是计算昂贵的过程。这促进了对深度学习方案的使用来近似PDE解,而从这些方案预测的模拟结果通常没有良好地推广到新的场景。
发明内容
根据一个实施例,一种系统,其包括处理器,所述处理器被编程为接收包括第一节点集合的粗网格输入,其中粗网格被输入到具有物理参数的计算流体动力学求解器以获得粗网格解,接收第二节点集合的细网格输入,其中第二节点集合包括比第一节点集合更多的节点,将细网格输入与物理参数级联(concatenate),并通过图形卷积层运行所述级联以获得细网格隐藏层,对粗网格解进行上采样以获得包括与第二节点集合相同数量的节点的粗网格上采样,将细网格隐藏层与粗网格上采样级联,并响应于细网格隐藏层和粗网格上采样的级联而输出预测。
根据第二实施例,一种计算机实现的方法包括接收包括第一节点集合的粗网格输入,其中粗网格被输入到具有物理参数的计算流体动力学求解器以获得粗网格解,接收具有第二节点集合的细网格输入,其中第二节点集合包括比第一节点集合更多的节点,将细网格输入与物理参数级联,并通过图形卷积层运行所述级联以获得细网格隐藏层,对粗网格解进行上采样以获得包括与第二节点集合相同数量的节点的粗网格上采样,并至少响应于粗网格上采样而输出预测。
根据第三实施例,一种系统包括:处理器,被编程为接收包括第一节点集合的粗网格输入,其中粗网格被输入到具有物理参数的计算流体动力学求解器以获得粗网格解,接收第二节点集合的细网格输入,其中第二节点集合包括比第一节点集合更多的节点,对粗网格解进行上采样以获得包括与第二节点集合相同数量的节点的粗网格上采样,并响应于细网格输入和粗网格上采样而输出预测。
附图说明
图1公开了用于训练神经网络的系统100。
图2公开了用于训练神经网络的计算机实现的方法200。
图3公开了网格的示例。
图4示出了优化节点的结果的示例图形。
具体实施方式
本文中描述了本公开的实施例。然而,将理解,公开的实施例仅仅是示例,并且其他实施例可以采取各种形式和替代形式。各图不一定是按比例的;一些特征可以被放大或最小化以示出特定组件的细节。因此,本文中公开的具体结构和功能细节不应被解释为限制性的,而仅仅是作为用于教导本领域技术人员以各种方式采用实施例的代表性基础。如本领域普通技术人员将理解的,参考任一图所图示和描述的各种特征可以与一个或多个其他图中图示的特征相组合,以产生未被明确图示或描述的实施例。图示的特征的组合提供了典型应用的代表性实施例。然而,对于特定的应用或实现,可能期望与本公开的教导一致的特征的各种组合和修改。
本公开讨论了一种混合(图形)神经网络,其将传统的图形卷积网络与网络本身内部的嵌入式可微分流体动力学模拟器相组合。通过将实际的CFD模拟器(运行在问题的更粗分辨率表示上)与图形网络相组合,我们示出了,我们可以既良好地推广到新的情形又受益于神经网络CFD预测的显著加速,同时还显著优于单独的粗CFD模拟。
下面公开了一种混合方案,其将用于快速预测的(图形)神经网络的益处与工业级CFD模拟器的物理真实性相组合。该系统可以包括图形卷积网络(GCN),其直接对典型的CFD模拟任务中使用的非均匀网格进行操作。GCN的使用可能是重要的,因为所有真实的CFD求解器都在这些非结构化网格上操作,而不是直接在规则栅格上操作,所述规则栅格通常可以用在卷积网络上来近似CFD模拟。第二,所述系统可以嵌入(可微分的)CFD求解器,在粗得多的分辨率上操作,直接进入GCN本身。尽管通常被视为黑盒,但现代CFD模拟器本身可以被用作深度网络中的(高成本)“层”。使用研究充分的伴随方法,现代求解器可以计算模拟输出量相对于输入网格的梯度。这允许系统将快速CFD模拟(由于在小得多的网格上操作而变得快速)集成到网络本身中,并允许我们全部以端到端的方式将GCN和网格输入联合训练成模拟引擎。组合方案可能比单独的粗CFD模拟表现得显著更好(例如,网络可能能够提供与简单地运行更快的模拟来开始相比更高的保真度结果),并且比纯基于图形网络的方案好得多地推广到新颖情形。所述方案可以比在原始大小网格本身上运行CFD模拟显著更快。与在没有深度学习的情况下而使用的CFD求解器相比,下面示出的各种实施例的公开内容更准确并且更快地执行模拟,这是因为CFD求解器正在更粗的网格上操作。相对于没有并入CFD求解器的深度学习方案,该方法也更能够推广到新的情形。
图1示出了用于训练神经网络的系统100。系统100可以包括用于访问神经网络的训练数据192的输入接口。例如,如图1中所图示,输入接口可以由数据存储接口180构成,数据存储接口180可以从数据存储装置190访问训练数据192。例如,数据存储接口180可以是存储器接口或永久存储接口30,例如硬盘或SSD接口,但也可以是个域网、局域网或广域网接口,诸如蓝牙、Zigbee或Wi-Fi接口或以太网或光纤接口。数据存储装置190可以是系统100的内部数据存储装置,诸如硬盘驱动器或SSD,但也可以是外部数据存储装置,例如网络可访问的数据存储装置。
在一些实施例中,数据存储装置190可以进一步包括神经网络的未训练版本的数据表示194,该数据表示194可以由系统100从数据存储装置190访问。然而,将领会,未训练神经网络的训练数据192和数据表示194也可以各自例如经由数据存储装置5接口180的不同子系统从不同的数据存储装置访问。每个子系统可以具有如上针对数据存储接口180所述的类型。在其他实施例中,未训练神经网络的数据表示194可以由系统100在神经网络的设计参数的基础上在内部生成,并且因此可以不明确地存储在数据存储装置190上。系统100可以进一步包括处理器子系统160,处理器子系统160可以被配置为在系统100的操作期间,提供迭代函数作为待训练的神经网络的层堆叠的代替物。这里,被代替的层堆叠的相应层可以具有相互共享的权重,并且可以接收前一层的输出作为输入,或者对于层堆叠的第一层,接收初始激活和层堆叠的输入的一部分。处理器子系统160可以进一步被配置为使用训练数据192迭代地训练神经网络。这里,处理器子系统160的训练迭代可以包括前向传播部分和后向传播部分。处理器子系统160可以被配置为除了其他操作之外还通过如下操作来执行前向传播部分:定义可以执行的前向传播部分;确定迭代函数的平衡点,迭代函数在该平衡点处收敛到固定点,其中确定平衡点包括使用数值寻根算法来找到迭代函数减去其输入的根解;以及通过提供平衡点作为神经网络中的层堆叠的输出的代替物。系统100可以进一步包括用于输出经训练神经网络的数据表示196的输出接口,该数据也可以被称为经训练模型数据196。例如,也如图1中所图示,输出接口可以由数据存储接口180构成,其中在这些实施例中所述接口是输入/输出(“IO”)接口,经由所述输入/输出(“IO”)接口,经训练模型数据196可以被存储在数据存储装置190中。例如,定义“未训练”神经网络的数据表示194可以在训练期间或之后至少部分地被经训练神经网络的数据表示196替换,因为诸如神经网络的权重、超参数和其他类型的参数之类的神经网络的参数可以适于反映训练数据192上的训练。这也通过指代数据存储装置190上的相同数据记录的参考标号194、196图示在图1中。在其他实施例中,数据表示196可以与定义“未训练”神经网络的数据表示194分离存储。在一些实施例中,输出接口可以与数据存储接口180分离,但是一般可以具有如上针对数据存储接口180所述的类型。
图2是CFD_GCN模型的示意图示例。该网络在两个不同的图形——在其上计算CFD模拟的“细”网格211以及充当到CFD求解器203的输入的“粗”网格201(最初是细网格的简单粗化版本,但最终由模型调谐)——上操作。作为输入,网络采用管控模拟的少量参数。对于下面描述的实施例中的实验的情况,其中系统可以预测翼型周围的流场,这些参数202可以包括迎角(the angle of attack,AoA)和马赫数。这些参数202可以被提供给CFD模拟,并且也可以被附加到初始GCN节点213特征。尽管其可能看起来是相对低维的任务,但这两个组件可以极大地变化模拟的输出,并且当在用于“训练”网络的精确值范围之外进行推广时,对于传统模型而言难以学习。附加地,CFD-GCN模型可以用在利用温度和迎角或其他设计参数来确定通过管道的流体流动和湍流的应用中,或利用几何或形状优化参数来确定由风扇叶片或对象的其他移动部件生成的噪声或湍流的应用中。这可以包括但不限于在散热器应用、风扇叶片循环、螺旋桨、循环等中利用的应用。
该网络可以通过首先在粗网格输入201上运行CFD模拟而同时用一个或多个GCN213处理由细网格211定义的图形来操作。然后,在步骤209,该系统可以对模拟结果进行上采样207,并将这些结果与来自GCN的中间输出215级联。在又一替代实施例中,该系统可以组合未上采样的粗网格解U 0 和细网格,这通过仅从上述每个中取得所有节点并由此形成网格,使得所得网格中的节点数量为(粗网格节点的数量)+(细网格节点的数量)。
最后,该系统可以将附加的GCN层217、213应用于这些关节特征,最终预测期望的输出值225(在该实施例中,它可以是细网格211中每个节点处的速度和压力场)。例如,细网格211可以包括6600个节点,而粗网格201可以包括550个节点用于相同的翼型或相同的参数集。细网格211可以包括粗网格201的1.5倍、2倍、3倍、4倍、5倍、10倍等之多的节点。在各种实施例中,这两个网格可以是混合的三角形或四边形网格。
可以用于CFD-GCN的图形结构可以直接从传统CFD软件用于模拟物理系统的网格结构导出。该系统可以考虑二维三角形网格
Figure DEST_PATH_IMAGE002AA
。第一元素
Figure 191631DEST_PATH_IMAGE003
可以是包含构成网格的N个节点的(x,y)坐标的矩阵。第二,
Figure 374351DEST_PATH_IMAGE004
可以是M个三角形元素的集合,所述三角形元素由其分量节点的索引
Figure 904821DEST_PATH_IMAGE005
定义。第三,
Figure 627926DEST_PATH_IMAGE006
可以是L个边界点的集合,定义为由节点的索引和标识该点属于哪个边界(例如翼型、远场等)的标签b组成的一对。这样的网格M清楚定义了图形
Figure 239036DEST_PATH_IMAGE007
,其节点是同一个X,并且其边E G 可以直接从网格元素E推断。相反,如果图形的边的结构是适当的,并且提供了边界点的集合B,那么该图形也可以被转换成网格。
除了用于计算CFD模拟的细网格211之外,该系统还可以考虑标示为M C 的粗网格201。粗网格201具有与细网格M相同的结构,其中节点的数量下采样超过10倍(或任何其他值),这因此允许快得多的模拟。尽管该网格在技术上也定义了图形,但是该系统可能不直接计算该图形上的任何GCN,而是取而代之仅将其用作到模拟引擎的输入。
除了图形本身之外,模型还接收两个物理参数202作为输入,这两个物理参数202定义了翼型周围的流动行为:迎角(AoA)和马赫数。这两个参数都被馈送到模拟中,并作为GCN中每个节点的初始节点特征被附加。这两个参数或用于其他应用的任何其他参数可以是在模拟间变化的量,并且因此GCN的主要任务是要学习如何根据定义模拟的这两个参数来预测所得流场。
CFD-CGN模型的中心组件可以是集成的可微分流体模拟器203。作为输入,流体模拟器203可以采用粗网格201 M C 加上迎角和马赫数,并输出粗图形中每个节点处的速度和压力的预测205。该系统可以采用SU2流体模拟器203(在一个示例中),该SU2流体模拟器203是被航空航天及其他中的许多研究人员广泛使用的开源、工业级的CFD模拟。简而言之,SU2使用有限体积法(FVM)在其输入网格上求解纳维尔-斯托克斯方程。对我们的目的至关重要的是,SU2求解器还支持伴随方法,该伴随方法使该系统相对于模拟的输入和参数(在这种情况下,粗网格201 M C 本身加上迎角和马赫数)区分模拟的输出。
直观地,CFD求解器203(例如,SU2求解器)应当被认为是我们网络中的附加层,它将迎角和马赫数取作输入,并在求解器输出205处产生输出速度和压力场。传统层的“参数”的等同物是粗网格本身:针对粗网格的不同配置将不同地适用于CFD-GCN剩余部分内的集成。因此,我们模型的SU2部分的主要学习任务之一是要以最终使所得的完整CFD-GCN模型的准确度最大化的方式调整粗网格。SU2中的伴随方法使用反向模式微分,因此梯度可以相对于标量值损失(诸如CFD-GCN的总体预测误差)进行高效计算。
最后,尽管不是严格的研究贡献,但是作为该项目的一部分,我们已经开发了SU2求解器203和PyTorch库之间的接口层。该接口允许像PyTorch模块内的任何其他层一样处理完整的SU2模拟,并且我们希望它将在深度学习和(工业级)CFD模拟的交叉点处找到附加应用。
上述粗模拟的输出是具有每个节点处每个场的预测值的网格。为了将其用于生成最终预测,该系统可能需要将其上采样到细网格的大小。该系统可以通过执行平方距离加权的k近邻插值的连续应用来实现此。粗网格中的节点位置可以指代可互换利用的以下符号,
第一符号 替代符号 含义
Figure 654974DEST_PATH_IMAGE009
Figure 945841DEST_PATH_IMAGE011
粗网格中的节点位置
Figure 675900DEST_PATH_IMAGE013
Figure 610358DEST_PATH_IMAGE015
粗网格中的节点特征
Figure 869301DEST_PATH_IMAGE017
Figure 889210DEST_PATH_IMAGE019
细网格中的节点位置
Figure 157380DEST_PATH_IMAGE021
Figure 946344DEST_PATH_IMAGE023
细网格中的节点特征
让我们称第一元素
Figure 172926DEST_PATH_IMAGE024
为某个更粗图形
Figure 680131DEST_PATH_IMAGE025
的上采样版本。对于每一行
Figure 486413DEST_PATH_IMAGE026
,在细网格中具有对应的节点位置,该系统可以找到包含到更粗的图形X D 中的对应节点位置的k个闭合节点的索引的集合
Figure 896928DEST_PATH_IMAGE027
。该系统可以定义细网格
Figure 497674DEST_PATH_IMAGE028
中的每个节点特征。因此,给定具有位置X C 和特征U C 的粗网格和细网格位置X F ,该操作产生细网格特征U F 。这是使用k近邻操作完成的。将细网格中具有索引i的节点标示为
Figure 492174DEST_PATH_IMAGE029
,并令
Figure 102147DEST_PATH_IMAGE030
为粗网格X C 中最靠近
Figure 865704DEST_PATH_IMAGE031
k个节点(默认可以为3个节点,k = 3)。然后,细网格中节点i的特征由下式给出
Figure 902930DEST_PATH_IMAGE032
其中
Figure 119148DEST_PATH_IMAGE033
如图2中所描绘的,粗模拟的输出由卷积层序列处理。为了在CFD模拟的网格输出上直接操作,该系统可以利用图形卷积网络(GCN)架构。该架构可以为图形定义卷积层。
N Z 个节点——每个节点具有F个特征——组成的一般图形由它的特征矩阵
Figure 532812DEST_PATH_IMAGE034
和它的邻接矩阵
Figure 150875DEST_PATH_IMAGE035
定义。然后我们可以进一步定义
Figure 359002DEST_PATH_IMAGE036
Figure 62516DEST_PATH_IMAGE037
,其中I是单位矩阵并且
Figure 748712DEST_PATH_IMAGE038
是对角度矩阵,其中它的对角由
Figure 486861DEST_PATH_IMAGE039
给出。然后,由权重矩阵
Figure 865890DEST_PATH_IMAGE040
和偏置项
Figure 820814DEST_PATH_IMAGE041
参数化的具有F个输入通道和F'个输出通道的GCN层217将具有下式作为输出
Figure 310701DEST_PATH_IMAGE042
在所有组件一起起作用的情况下,该系统可以用粗网格201和物理参数202运行SU2模拟。该粗模拟的输出205被上采样L次。
Figure 434515DEST_PATH_IMAGE043
同时,细网格211具有附加到其每个节点特征的物理参数和带符号距离函数(SDF)。这里,节点处的SDF可以被定义为其到翼型边界处最近节点的欧几里得距离。所得图形然后穿过一系列图形卷积213,如图形卷积213、219、221、223所示。在某个指定的卷积层k处,最终的上采样值U L 被附加到第k个卷积的输出Z k 221。执行另一组卷积223,以便生成最终预测
Figure 515604DEST_PATH_IMAGE044
225。下面的公式中概述了这些步骤中的每一个:
Figure 193710DEST_PATH_IMAGE045
在这样的示例中,
Figure 487288DEST_PATH_IMAGE046
可以是列维度上的矩阵级联操作。
给定如上面公式化的整个CFD-GCN可以被视为单个可区分的深度网络(包括SU2“层”或CFD求解器“层”),训练过程本身可能是直接的。通过使预测
Figure 200029DEST_PATH_IMAGE047
和基础真值(groundtruth)之间的均方误差(MSE)损失
Figure 655281DEST_PATH_IMAGE048
(或将基础真值与网络输出进行比较的任何其他类型的损失函数)最小化,训练该模型来预测输出场
Figure 820683DEST_PATH_IMAGE049
,该输出场
Figure 153838DEST_PATH_IMAGE049
由细网格中每个节点处的速度和压力的xy分量组成
Figure 721085DEST_PATH_IMAGE050
其中在这种情况下,通过运行完整的SU2求解器以在原始细网格上收敛来获得基础真值Y。训练过程通过经由CFD模拟进行反向传播来优化GCN的权重矩阵W i b i ,以及粗网格X C 中节点的位置。可以使用具有学习速率
Figure 347239DEST_PATH_IMAGE051
的Adam优化器(或任何其他优化器)最小化该损失。
该系统也可以运行反向传递序列,以随着时间改进该系统。总之,该系统可以通过比较预测
Figure 265516DEST_PATH_IMAGE047
与基础真值Y(使用均方误差或任何其他损失函数)来获得损失L。反向传递函数或反向传递序列可以利用各种步骤。该系统可以利用以下序列(不以特定顺序):
a. 对于
Figure 900897DEST_PATH_IMAGE052
Figure 57072DEST_PATH_IMAGE053
,损失相对于图形卷积层参数的梯度
Figure 385285DEST_PATH_IMAGE054
b. 损失相对于求解器输出的梯度
Figure 259700DEST_PATH_IMAGE055
c. 使用
Figure 698771DEST_PATH_IMAGE056
和伴随方法计算梯度
Figure 975032DEST_PATH_IMAGE057
因此,该系统可以使用梯度和某种深度学习优化算法(随机梯度下降,ADAM等)来更新参数θ i 和粗网格位置X C
网络可以使用通过求解器函数进行区分的能力来学习粗网格X C 中节点的最佳位置。该系统可以将卷积层放置在CFD求解器之前,并且也可以通过相同的方法学习那些层中的参数。该算法还可以包括单个上采样操作(例如,
Figure 474146DEST_PATH_IMAGE058
)以对粗网格进行扩展,来匹配细网格的大小;然而,如果期望,替代方案也可以将样本分解成多个上采样操作。如果粗网格远小于细网格,则这可能是有益的。
在替代实施例中,图形卷积可以用在图形上操作的任何类型的神经网络层(例如,图形自关注层、图形变换器)来替换,或者如果网格在栅格中,则图形卷积可以用卷积层替换。该系统可以改变损失函数、优化器或激活函数。网络架构可以与标准深度学习训练技术或修改(丢弃、批量标准化、层标准化等)兼容。在又一替代实施例中,该系统可以组合未上采样的粗网格解U 0 和细网格,这通过从上述每个中取得所有节点并由此形成网格,使得所得网格中的节点数量为(粗网格节点的数量)+(细网格节点的数量)。
图3图示了网格的示例。当优化输入粗网格时可能出现问题。逐渐地,随着节点位置通过梯度下降更新而移动,在给定的三角形元素中,节点之一(例如,节点301)可以越过如交叉节点303所示的边是可能的。这可能生成非物理体积,其可能损害模拟的稳定性,从而频繁地阻碍收敛。换言之,在每个梯度更新步骤处,优化器可以通过执行更新来更新网格节点301
Figure 835858DEST_PATH_IMAGE059
具有与Xc形状相同的某个小更新矩阵
Figure DEST_PATH_IMAGE061AA
。如果不经修改,该
Figure DEST_PATH_IMAGE061AAA
可能引起上面提及的问题。因此,节点可能被推过其三角形元素的边,从而生成元素的重叠。这样的非物理情形可能损害模拟的收敛性。当这发生时,有序边之间的叉积改变。更新之前,
Figure 910911DEST_PATH_IMAGE062
,而之后
Figure 307257DEST_PATH_IMAGE063
为了避免非物理体积,该系统可以生成规划更新
Figure 711694DEST_PATH_IMAGE064
,使得仅执行非退化更新。该系统可以以
Figure 921220DEST_PATH_IMAGE065
Figure 436515DEST_PATH_IMAGE066
开始。然后,该系统可以检查网格中的哪些元素可以将节点推过边
Figure 687368DEST_PATH_IMAGE067
。这可以通过以一致的顺序计算每个三角形元素中两条边的叉积来完成。如果叉积的符号随着更新
Figure 262706DEST_PATH_IMAGE068
翻转,
这意味着节点越过边,因为它引起节点的排序改变。这可以在图3中描绘,其中边e 1 e 2 的叉积在更新之前是正的,但是之后是负的。
对于已经翻转的每个元素
Figure 864589DEST_PATH_IMAGE069
,该系统可以将
Figure 183574DEST_PATH_IMAGE070
的行ijk设置为0,从而不对Xc中的那些点执行更新。由于移除对一些节点的更新可能引起新元素翻转,因此可以重复该过程,直到没有点被翻转。一旦该系统达到该状态,该系统就可以执行投影梯度更新
Figure 288934DEST_PATH_IMAGE071
图4示出了优化节点的结果的示例图形。在具有和不具有梯度更新校正的情况下均优化网格的节点以改进预测损失。而在不具有校正的情况下优化的网格快速退化并且损失发散,具有投影梯度更新的网格甚至对于更高的学习速率
Figure 35173DEST_PATH_IMAGE072
平滑地学习。
本文公开的过程、方法或算法可以被可递送到处理设备、控制器或计算机/由处理设备、控制器或计算机实现,处理设备、控制器或计算机可以包括任何现有的可编程电子控制单元或专用电子控制单元。类似地,过程、方法或算法可以以多种形式存储为可由控制器或计算机执行的数据和指令,包括但不限于永久存储在诸如ROM设备的不可写存储介质上的信息和可变更地存储在诸如软盘、磁带、CD、RAM设备以及其他磁性和光学介质之类的可写存储介质上的信息。过程、方法或算法也可以在软件可执行对象中实现。替代地,可以使用诸如专用集成电路(ASIC)、现场可编程门阵列(FPGA)、状态机、控制器之类的合适的硬件组件,或其他硬件组件或设备,或者硬件、软件和固件组件的组合,来整体或部分地体现过程、方法或算法。
虽然上面描述了示例性实施例,但是不旨在这些实施例描述权利要求所包含的所有可能的形式。说明书中使用的词语是描述的词语,而不是限制的词语,并且理解,可以在不脱离本公开的精神和范围的情况下做出各种改变。如先前描述的,各种实施例的特征可以被组合以形成可能未被明确描述或图示的本发明的另外的实施例。虽然各种实施例可能已经被描述为在一个或多个期望的特性方面提供了优于其他实施例或现有技术实现的优点或者比其他实施例或现有技术实现优选,但是本领域的普通技术人员认识到,一个或多个特征或特性可以取决于具体的应用和实现被折衷以实现期望的总体系统属性。这些属性可以包括但不限于成本、强度、耐用性、生命周期成本、适销性、外观、包装、大小、适用性、重量、可制造性、组装容易性等。照此,在任何实施例都被描述为在一个或多个特征方面与其他实施例或现有技术实现相比不太合期望的程度上,这些实施例不在本公开的范围之外,并且对于特定应用可以是合期望的。

Claims (20)

1.一种系统,包括:
处理器,被编程为:
接收包括第一节点集合的粗网格输入,其中粗网格被输入到具有物理参数的计算流体动力学(CFD)求解器以获得粗网格解;
接收第二节点集合的细网格输入,其中第二节点集合包括比第一节点集合更多的节点;
将细网格输入与物理参数级联,并通过图形卷积层运行所述级联以获得细网格隐藏层;
对粗网格解进行上采样,以获得包括与第二节点集合相同数量的节点的粗网格上采样;
将细网格隐藏层与粗网格上采样级联;
响应于细网格隐藏层和粗网格上采样的级联而输出预测。
2.根据权利要求1所述的系统,其中CFD求解器是神经网络的一层。
3.根据权利要求1所述的系统,其中粗网格输入和细网格输入均是混合三角形网格或四边形网格。
4.根据权利要求1所述的系统,其中粗网格输入和细网格输入均是四边形网格。
5.根据权利要求1所述的系统,其中通过沿着对角线划分每个四边形元素,将粗网格转换成三角形网格。
6.根据权利要求1所述的系统,其中细网格输入在与粗网格解级联之前被输入到图形卷积网络层。
7.根据权利要求1所述的系统,其中物理参数包括迎角和马赫数两者。
8.根据权利要求1所述的系统,其中粗网格输入包括第一节点集合。
9.根据权利要求1所述的系统,其中处理器进一步被编程为将所述预测与后向传递序列中的基础真值进行比较。
10.根据权利要求1所述的系统,其中粗网格解包括每个节点的压力。
11.一种计算机实现的方法,包括:
接收包括第一节点集合的粗网格输入,其中粗网格被输入到具有物理参数的计算流体动力学求解器以获得粗网格解;
接收第二节点集合的细网格输入,其中第二节点集合包括比第一节点集合更多的节点;
将细网格输入与物理参数级联,并通过图形卷积层运行所述级联以获得细网格隐藏层;
对粗网格解进行上采样,以获得包括与第二节点集合相同数量的节点的粗网格上采样;以及
至少响应于粗网格上采样而输出预测。
12.根据权利要求11所述的计算机实现的方法,其中第二节点集合包括是第一节点集合两倍之多的节点。
13.根据权利要求11所述的计算机实现的方法,其中物理参数包括迎角或马赫数。
14.根据权利要求11所述的计算机实现的方法,将细网格隐藏层与粗网格上采样级联。
15.根据权利要求11所述的计算机实现的方法,其中第二节点集合包括是第一节点集合十倍之多的节点。
16.根据权利要求11所述的计算机实现的方法,其中对粗网格解进行上采样以获得包括与第二节点集合加上第一节点集合相同数量的节点的粗网格上采样。
17.一种系统,包括:
处理器,被编程为:
接收包括第一节点集合的粗网格输入,其中粗网格被输入到具有物理参数的计算流体动力学求解器以获得粗网格解;
接收第二节点集合的细网格输入,其中第二节点集合包括比第一节点集合多的节点;
对粗网格解进行上采样,以获得包括与第二节点集合相同数量的节点的粗网格上采样;
响应于细网格输入和粗网格上采样而输出预测。
18.根据权利要求17所述的系统,其中处理器进一步被编程为将细网格输入与物理参数级联,并通过图形卷积层运行所述级联以获得细网格隐藏层。
19.根据权利要求18所述的系统,其中处理器进一步被编程为将粗网格上采样与至少包括细网格输入的细网格隐藏层级联。
20.根据权利要求19所述的系统,响应于细网格隐藏层和粗网格上采样的级联而输出预测。
CN202110629887.0A 2020-06-08 2021-06-07 用于流体流动预测的组合可微分偏微分方程求解器和图形神经网络的系统和方法 Active CN113836828B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/895766 2020-06-08
US16/895,766 US11455374B2 (en) 2020-06-08 2020-06-08 System and method for combining differentiable partial differential equation solvers and graph neural networks for fluid flow prediction

Publications (2)

Publication Number Publication Date
CN113836828A true CN113836828A (zh) 2021-12-24
CN113836828B CN113836828B (zh) 2024-06-28

Family

ID=78605385

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110629887.0A Active CN113836828B (zh) 2020-06-08 2021-06-07 用于流体流动预测的组合可微分偏微分方程求解器和图形神经网络的系统和方法

Country Status (3)

Country Link
US (1) US11455374B2 (zh)
CN (1) CN113836828B (zh)
DE (1) DE102021205714A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109635917B (zh) * 2018-10-17 2020-08-25 北京大学 一种多智能体合作决策及训练方法
EP4354337A1 (en) * 2022-10-13 2024-04-17 Tata Consultancy Services Limited Machine learning based prediction of fastest solver combination for solution of matrix equations
CN115758911B (zh) * 2022-12-07 2023-05-26 中国石油大学(华东) 融合点云残差网络和考虑滑移的流场和压力场预测方法
CN115983148B (zh) * 2022-12-13 2024-04-12 北京景行锐创软件有限公司 一种cfd仿真云图预测方法、系统、电子设备及介质
CN116562094B (zh) * 2023-05-12 2023-11-14 大连海事大学 一种基于pinn模型的auv编队流场预测方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130118736A1 (en) * 2010-07-29 2013-05-16 Adam Usadi Methods and Systems For Machine - Learning Based Simulation of Flow
CN108763718A (zh) * 2018-05-23 2018-11-06 西安交通大学 绕流物体和工况改变时流场特征量的快速预测方法
WO2019048085A1 (en) * 2017-09-08 2019-03-14 Ecole polytechnique fédérale de Lausanne (EPFL) OPTIMIZING THE FORM OF TECHNICAL DEVICES THROUGH GRADIENT DESCENT USING CONVOLUTION NEURAL NETWORK REPRESENTATIVES
US20190325572A1 (en) * 2018-04-20 2019-10-24 Siemens Healthcare Gmbh Real-time and accurate soft tissue deformation prediction

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9971856B2 (en) * 2015-05-28 2018-05-15 International Business Machines Corporation CFD modeling of a bounded domain with viscous region partitioning
US20210350620A1 (en) * 2020-05-07 2021-11-11 Imperial College Innovations Limited Generative geometric neural networks for 3d shape modelling

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130118736A1 (en) * 2010-07-29 2013-05-16 Adam Usadi Methods and Systems For Machine - Learning Based Simulation of Flow
WO2019048085A1 (en) * 2017-09-08 2019-03-14 Ecole polytechnique fédérale de Lausanne (EPFL) OPTIMIZING THE FORM OF TECHNICAL DEVICES THROUGH GRADIENT DESCENT USING CONVOLUTION NEURAL NETWORK REPRESENTATIVES
US20190325572A1 (en) * 2018-04-20 2019-10-24 Siemens Healthcare Gmbh Real-time and accurate soft tissue deformation prediction
CN108763718A (zh) * 2018-05-23 2018-11-06 西安交通大学 绕流物体和工况改变时流场特征量的快速预测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
段景耀;: "基于二级网格和卷积神经网络的流体模拟方法", 计算机应用与软件, no. 04, 12 April 2020 (2020-04-12) *

Also Published As

Publication number Publication date
DE102021205714A1 (de) 2021-12-09
US20210382963A1 (en) 2021-12-09
CN113836828B (zh) 2024-06-28
US11455374B2 (en) 2022-09-27

Similar Documents

Publication Publication Date Title
CN113836828B (zh) 用于流体流动预测的组合可微分偏微分方程求解器和图形神经网络的系统和方法
Belbute-Peres et al. Combining differentiable PDE solvers and graph neural networks for fluid flow prediction
Li et al. Review of design optimization methods for turbomachinery aerodynamics
Siller et al. Automated multidisciplinary optimization of a transonic axial compressor
Biancolini et al. Glider fuselage-wing junction optimization using CFD and RBF mesh morphing
Xing et al. Fixture layout optimisation based on a non-domination sorting social radiation algorithm for auto-body parts
JP7492083B2 (ja) メッシュ表現およびグラフニューラルネットワークを使用した物理的環境のシミュレーション
JP2022553866A (ja) シミュレーションの計算コストの推定のための方法およびシステム
US20210295167A1 (en) Generative networks for physics based simulations
Kyriacou et al. Efficient PCA-driven EAs and metamodel-assisted EAs, with applications in turbomachinery
Zeinalzadeh et al. Evaluation of novel-objective functions in the design optimization of a transonic rotor by using deep learning
CN110705183A (zh) 一种带缓冲区的多层网格lbm演化方法
Mourousias et al. Multi-fidelity multi-objective optimization of a high-altitude propeller
Wei et al. Diffairfoil: An efficient novel airfoil sampler based on latent space diffusion model for aerodynamic shape optimization
Selvan On the effect of shape parameterization on aerofoil shape optimization
GB2491598A (en) Datum determination in a turbulent flow aircraft simulation
Xiang et al. A Manifold-Based Airfoil Geometric-Feature Extraction and Discrepant Data Fusion Learning Method
Hao et al. Evolutionary neural network-based method for constructing surrogate model with small scattered dataset and monotonicity experience
Ugolotti et al. A conceptual alternative machine learning-based method for mesh sensitivities calculation in a turbomachinery blades optimisation framework
Ugolotti et al. Differentiated ML-based modeling of structured grids for gradient-based optimization
Ahlfeld A data-driven uncertainty quantification method for scarce data and rare events
Vorspel et al. A benchmark study on the efficiency of unconstrained optimization algorithms in 2D-aerodynamic shape design
Li et al. Leveraging deep reinforcement learning for design space exploration with multi-fidelity surrogate model
Duta et al. Multi‐objective turbomachinery optimization using a gradient‐enhanced multi‐layer perceptron
Wei et al. Multi-scale graph neural network for physics-informed fluid simulation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant