CN114391150A - 基于逆向和前向建模机器学习的生成式设计 - Google Patents

基于逆向和前向建模机器学习的生成式设计 Download PDF

Info

Publication number
CN114391150A
CN114391150A CN201980096554.7A CN201980096554A CN114391150A CN 114391150 A CN114391150 A CN 114391150A CN 201980096554 A CN201980096554 A CN 201980096554A CN 114391150 A CN114391150 A CN 114391150A
Authority
CN
China
Prior art keywords
design
designs
network
machine
machine learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201980096554.7A
Other languages
English (en)
Inventor
贾纳尼·韦努戈帕兰
桑吉乌·斯里瓦斯塔瓦
克日什托夫·查卢普卡
马尔桑·斯坦尼谢夫斯基
弗雷德里克·维尔纳夫
爱德华·斯莱文三世
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Siemens AG
Original Assignee
Siemens AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens AG filed Critical Siemens AG
Publication of CN114391150A publication Critical patent/CN114391150A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/10—Interfaces, programming languages or software development kits, e.g. for simulating neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/047—Probabilistic or stochastic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2111/00—Details relating to CAD techniques
    • G06F2111/04—Constraint-based CAD

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Geometry (AREA)
  • Probability & Statistics with Applications (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Supply And Distribution Of Alternating Current (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

机器学习的网络提供生成式设计。不是模仿典型的人类设计过程，而是对逆向模型进行机器训练，以根据要求生成设计。对模拟模型进行机器训练，以相关于所生成的设计的要求来恢复性能。在优化中使用这两种机器训练模型，该优化根据逆向模型输出设计来创建其它设计并用模拟模型来测试那些设计。在这个循环中使用机器训练模型来探索多种不同设计，减少了探索的时间，因此可以为设计工程师带来更优化的设计或使其更好地开始设计。

Description

基于逆向和前向建模机器学习的生成式设计
背景技术
本实施例涉及设计诸如高效低排放燃气涡轮之类的对象。此类设计考虑了诸如温度、涡轮轴功率、涡轮排气压力及其它特性之类的属性。在涡轮用例中，考虑到对于给定设计的限制，将使效率最大化，同时将排气温度限制在最大值以下，并保持环境温度、涡轮轴功率固定。
设计工程师使用这些参数、约束和评估标准(例如，轴功率必须在设计标准的0.05％之内，总误差必须在设计参数的5％之内)来设计高效的燃气涡轮和发动机。设计工程师花费大量时间使用大量耗时的基于模拟的工具来生成新的设计迭代。对于复杂的涡轮系统，使用模拟软件进行验证可能花费数小时，从而减慢设计-评估-重新设计的循环。结果，由于设计创建和分析过程相当耗时，设计工程师可能无法探索完整的设计空间。可能无法产生更高效的最佳设计。
发明内容
作为介绍，以下描述的优选实施例包括用于通过机器学习网络进行生成式设计的方法、系统、指令和计算机可读介质。不是模仿典型的人类设计过程，而是对逆向模型机器学习模型进行训练，以根据要求生成设计。对代理模型(模拟或机器学习)进行训练，以估计给定设计的发动机性能。这两个经过训练的机器学习模型被用于优化设计。根据逆向模型创建其它的设计以输出设计，并使用代理模型来测试那些设计。在这个循环中使用机器学习模型来探索多种不同设计，减少了探索的时间，因此可以为设计工程师带来更优化的设计或使其更好地开始设计。
在第一方面，提供了一种用于通过人工智能处理器进行生成式设计的方法。通过人工智能处理器生成待设计的第一对象(目标)的一个或多个设计。该生成是通过第一(例如，逆向的)机器学习网络响应于待设计的第一对象的设计要求、约束和目标而进行的。人工智能处理器通过第二机器学习网络(例如，代理模型)模拟一个或多个设计中的每一个的运行。模拟提供基于设计要求、约束和/或目标的种子设计。扰动一个或多个设计，并且对于被扰动的一个或多个设计进行重复模拟。确定被扰动的一个或多个设计的误差，该误差是来自模拟的第二值与第一值(例如，设计输出与那些目标)的误差。基于该误差，选择被扰动或被生成的一个或多个设计中的至少一个。所选择的被扰动或被生成的一个或多个设计中的至少一个被存储。
在第二方面，提供了一种用于基于机器学习的设计的系统。处理器由存储在存储器中的指令来配置。当由处理器执行时，指令用于：根据设计规格来逆向建模设计参数，逆向建模使用由第一机器所训练的第一神经网络；基于使用来自逆向建模的设计参数对设计进行模拟来优化设计参数，该模拟使用由第一机器或第二机器训练为前向模型或代理模型的第二神经网络；以及输出用于该设计的设计参数。
在第三方面，提供了一种用于机器学习设计系统的方法。机器训练第一神经网络(例如，生成式模型或逆向模型)作为生成式模型，以根据设计的要求的第一值来逆向建模以生成设计(例如，根据功能要求来建模一组设计)。机器或另一机器训练第二神经网络作为预测模型或代理模型，以根据设计值来预测性能的值。使用第二神经网络(例如，设计和第二神经网络的组合)对设计系统进行编程以优化设计。
本发明由以下权利要求限定，并且这一部分不应当被认为是对那些权利要求的限制。下面结合优选实施例来讨论本发明的其它方面和优点，并且在随后可以独立地或结合地要求保护。
附图说明
部件和附图不需要按比例绘制，而是强调说明本发明的原理。此外，在附图中，相同的附图标记在不同的视图中表示相应的部件。
图1是用于对设计系统进行机器训练以生成设计的方法的一个实施例的流程图；
图2是由人工智能处理器进行生成式设计的方法的一个实施例的流程图；
图3示出了根据要求和约束来生成机器学习设计的示例；
图4示出了根据设计对性能的机器学习模拟的示例；以及
图5是用于基于机器学习的设计的系统的一个实施例的框图。
具体实施方式
机器学习驱动的优化被用于生成式设计。基于机器学习的生成式设计生成了对象的新设计，诸如涡轮设计。基于机器学习的生成式设计遵循用户定义的性能或设计参数及标准。此外，基于机器学习的优化技术改进了设计，以满足用户定义的功能要求并达到一定的目的。
使用基于机器学习的设计生成和优化可使处理器更快地执行设计运行。与具有编程模拟的人工设计相比，处理器以基于机器学习的代理模型更好地并且更有效地运行。该基于机器学习的设计生成和优化在使用历史数据进行初始训练之后是自动的，仅要求用户指定设计的所期望属性以及接受或拒绝自动设计的评估标准。由于设计系统能够自主地建议满足新要求的设计，基于机器学习的自主设计建议器加快了设计生命周期，使得新设计得以被快速创建和评估。机器学习的使用能够更好地探索用于生成设计的设计选项，使得有机会在给定的周期时间内探索更多的设计选项，或者通过更快的决策缩短设计周期时间。
待设计的对象可以是任何类型的。在以下示例中，设计了一种涡轮，诸如低排放燃气涡轮。可被生成式设计的其它对象包括悬架、印刷电路板、叶片(例如风力涡轮叶片)、轴、电路、变速器、变压器、叶轮、任何类型部件的拓扑结构、任何类型部件的结构(例如车轮或船体设计)、路由器或叶片、或其它对象。
图1示出了用于对设计系统进行机器训练的方法的一个实施例。该训练使用深度学习来训练设计的生成器和模拟器或代理模型两者，以模拟所生成的设计的性能。该模拟器可被用于优化设计以更彻底地探索可能的设计。
该方法由机器、数据库和/或程序员来实现。程序员可以手动编程或创建软件来优化。机器使用深度学习来创建生成式模型和预测模拟器模型，因此提供了一种基于机器而非基于人类的设计生成和性能模拟的方法。深度学习的训练数据(例如，设计和性能测量值)被存储在数据库中。诸如处理器、工作站、服务器、控制器或其它处理器之类的机器基于数据库中的训练数据来训练定义的神经网络架构。
以所示顺序(即，从上到下或数字顺序)或其它顺序来执行动作。可以提供附加的、不同的或更少的动作。例如，没有提供动作16。作为另一个示例，使用经创建的训练数据的数据库来执行动作12。在另一示例中，动作12被分为两个动作，一个用于训练设计生成式模型，另一个用于训练模拟模型。在又一示例中，提供了用于定义神经网络架构、激活训练、选择训练数据、测试机器学习网络和/或控制学习的动作。
在动作10中，获得训练数据。对于机器训练，使用数百、数千、数万或其它数量的具有基本事实的样本。生成式模型将预期性能信息(诸如运行的要求和约束)作为输入，并输出设计信息(诸如设置)。这是一种逆向方法。模拟模型是前向预测器，因此接收设计信息并输出性能信息。相同的训练数据可被用于训练两个模型，其中一个模型的基本事实是另一个模型的输入样本，反之亦然。在替代实施例中，获取不同的训练数据以训练不同的模型。
从传感器、测量值和/或其它记录收集训练数据。对于实施的设计，从现场测量或测试中获得性能测量值。从设计的数据库或记录中获得经实现的设计的设计信息。对于训练数据中的其它样本，使用物理模拟用于提议的或先前的模拟。被提议的设计信息和模拟性能提供了样本。可以使用设计工具。
性能信息可以包括用户要求和/或约束。设计的所需运行的规格和任何可接受的范围(例如，最小值和/或最大值)作为约束定义了性能信息的参数。性能信息是设计的运行特性、设计的尺寸和重量等。要求可以是具有将由设计来固定的值的性能参数。约束可以是具有被约束至最大值和/或最小值的值的性能参数。性能信息可以包括目标的一个或多个性能参数。一个或多个要求和/或约束可以被识别为目标。例如，需要优化效率(例如，涡轮效率)。目标是一个性能参数，在该性能参数下，设计将以可能的最佳方式或比其它设计更好的方式运行。
在燃气涡轮的示例中，用户输入性能参数的值，诸如环境温度、涡轮轴功率、涡轮排气温度和燃烧器冷却部分进气流量。目标是在满足上述约束和/或要求的情况下使涡轮效率的性能参数最大化。可以使用作为要求或约束的其它性能参数的值，诸如燃料低热值、外部冷却器功率、燃气涡轮排气(总)压力、燃烧器冷却部分进气流量、燃烧器冷却效率、燃烧器冷却功率、外部冷却存在或不存在、环境空气冷却部分进气流量、增量相比于任意量、压气机出口温度、燃料流量、CO2排气成分、H2O排气成分、N2排气成分、Ar排气成分、O2排气成分、SO2排气成分、压气机进气流量、涡轮入口温度、压气机出口压力和/或压气机出口处的焓。不同的性能参数可被用作要求、约束和/或目标的参数。取决于设计需要，有些可能不会被使用。其它性能参数可被用于燃气涡轮或其它对象。可以使用任意数量的性能参数和相应的要求或约束。
设计信息包括用于受控特性的设置。设计中的特定选择可能会导致特定的设计特性。设计参数是由对象来控制运行的变量，从而产生性能参数。
设计参数可以与性能参数相同或不同。在不需要或约束性能的情况下，参数可以是设计的一部分。
在燃气涡轮示例的一个实施例中，设计参数包括燃气涡轮轴效率、多变压气机效率、等熵ISO涡轮效率、ISO涡轮入口温度、压气机压力比、SAS等效质量流量、主区温度、燃气涡轮排气流量、涡轮冷却部分进气流量、压气机进气流量、涡轮入口温度、压气机出口压力、压气机出口处的焓、燃烧器冷却功率、冷却的冷却空气流量、压气机出口温度、燃料流量、CO2排气成分、H2O排气成分、N2排气成分、Ar排气成分和O2排气成分。在另一个实施例中，设计参数包括环境温度、多变压气机效率、等熵ISO涡轮效率、ISO涡轮入口温度、压气机压力比、SAS等效质量流量、主区温度、燃气涡轮排气流量、燃料低热值、燃烧器冷却部分进气流量、涡轮冷却部分进气流量、冷却的冷却空气流、存在或不存在外部冷却、存在或不存在SiCAT、环境空气冷却部分进气流量、以及增量相比于任意量。附加的、不同的或更少的参数可被用于设计。
在动作12中，机器训练第一神经网络作为生成式模型，以根据设计的要求和/或约束的第一值来逆向建模以生成设计。该机器训练网络以接收逆向模型中的性能参数值和输出设计参数值。相同或不同的机器训练第二神经网络作为预测模型，来预测设计要求的值(例如，第二神经网络作为代理模型来模拟设计的性能)。机器训练网络以接收设计参数值并且输出性能参数值。机器训练网络以模拟被设计的对象的运行。
深度学习被用于训练人工神经网络。可以使用任何深度学习方法或架构。深度学习训练过滤器内核、连接、权重和/或其它特征，这些特征结合起来指示给定输入的输出值。可以使用深度学习来学习可用于确定输出的特征。深度学习提供了深度机器学习网络，其在给定先前看不见的输入值的情况下输出结果。由机器使用训练数据来学习在给定看不见输入值的情况下输出值。
网络的架构可以包括卷积、子采样(例如，最大或平均池化)、全连接层、循环层、SoftMax、串联、随机失活(英语：dropout)、残差和/或其它类型的层。可以提供层的任何组合。可以使用任何层排列。可以使用层内或层之间的跳过、反馈或其它连接。可以采用分层结构，用于学习特征或表示或用于分类或回归。
用于深度学习的架构可以包括卷积神经网络(CNN)或卷积层。CNN定义了一个或多个层，其中每一层都有一个过滤器内核，用于与该层的输入进行卷积。其它卷积层可以提供进一步的提取，诸如接收来自前一层的输出并将输出与另一个过滤器内核卷积。机器学习识别过滤器内核，以提取指示太阳辐射的特征。
架构可以包括一个或多个密集层。密集层将来自前一层的各种特征连接到该层的输出。在一实施例中，密集层是全连接层。提供了一个或多个全连接层。密集层可以形成多层感知器。
在一个实施例中，生成式模型的架构是生成式对抗网络(GAN)或混合密度网络(高斯混合或内核密度估计器)。GAN包括一个与瓶颈相连的编码器和解码器，通过增加然后减少提取级别而根据输入生成输出信息。在训练中提供了判别器来预测编码器-解码器的输出的准确性。该预测在训练中被反馈给编码器-解码器。判别器和编码器-解码器都在训练期间学习。用于模拟的前向或预测模型的架构是全连接残差网络。可以使用其它类型的架构或相应的网络，诸如其它生成式模型或用于生成式模型的前馈神经网络或用于预测或模拟模型的其它残差网络。可以使用其它类型的机器学习和相应的网络来代替神经网络和深度学习，诸如支持向量机。
使用任何优化(诸如Adam、0.0001的学习率和/或均方误差损失(例如，L1))针对任意数量的历元(英语：epoch)(例如，300)来训练网络。可以使用其它排列、层、单元、激活函数、架构、学习率、优化、损失函数和/或归一化。可以使用其它架构。
训练识别内核、权重、连接和/或将输入与地面实况输出相关的架构的其它信息。深度学习训练的神经网络被存储在动作14中。一旦训练完成，就可以应用机器学习的人工神经网络。存储网络，以便网络可被用于特定设计的应用中。
根据训练，生成式或逆向网络可以输出考虑到给定用户要求、约束和/或目标的一个或多个设计。模拟或预测网络可为每个设计输出一个或多个性能特性值。为了探索设计空间，尝试了其它的设计。在动作16中，创建了程序来更改提议的设计。然后使用机器学习模拟或预测网络对更改后的设计进行模拟。可以使用机器学习网络对许多设计进行快速测试，因此编程会根据机器学习网络的输出来优化设计。目标以及对要求和/或约束的满足或差异被用于优化设计，从而为对象产生一个或多个设计。
编程是手动的。程序员对机器进行编程以使用机器学习网络来提供一个或多个优化的设计。
图2示出了人工智能处理器的生成式设计的方法的流程图的一个实施例。机器学习的生成式和预测网络被用于设计对象。机器学习网络被用于优化设计。
人工智能处理器是用于应用机器学习网络的处理器。人工智能处理器可以包括大规模并行处理，也可以是通用处理器、图像处理器、图形处理单元、专用集成电路、现场可编程门阵列或其它能够使用机器学习网络的处理器。在一个实施例中，使用图5的设计系统。处理器执行动作22-26。用户或处理器执行动作20和21。制造系统或组件可以执行动作27。可替代地，存储器执行动作27。
以所示的顺序(即，从上到下或数字顺序)或其它顺序执行动作。例如，同时或以任何顺序执行动作20和21。作为另一示例，可以在动作23和/或动作25之后对所有设计执行动作27，和/或可以在动作22之后在动作23之前对设计输出执行动作27。
可以提供附加的、不同的或更少的动作。例如，不执行动作28。作为另一示例，没有提供动作26和/或动作27。在又一示例中，提供用于进一步设计修改和/或模拟的动作，诸如在优化被用于提供由设计工程师改进的初始设计的情况下。
在动作20中，输入当前项目的要求和约束。用户提供项目的规格。处理器将性能参数的值输入到生成式模型中。
在动作21中，识别一个或多个目标。用户指示待优化的性能参数，诸如指示燃气涡轮效率。处理器标记或标识待在动作24的优化中使用的目标。目标也可以是要求或约束，因此显示为动作22的输入。在替代实施例中，目标是动作24的优化的输入.
在动作22中，处理器生成待设计对象的一个或多个设计。设计是指示对象的结构、控制和/或制造的设计参数的值。
由机器学习网络所提供的生成式模型会生成一个或多个设计。响应于生成式模型的一个输入或请求，生成单个或多个不同的可能设计。生成式模型是一种逆向模型，它根据设计要求来生成设计，而不是根据输入设计来生成性能参数值。给定性能特征，逆向模型设计多组设计值来生成这些性能输出。
图3示出了一个示例。作为要求列出的运行或性能参数的值被输入到机器学习生成式网络30。机器学习网络30输出设计参数的值。要求被表示为待输入到逆向模型的输出变量，并且设计参数被表示为输入变量，反映逆向建模。
生成式模型的功能是采用一组用户要求或目标并生成一组满足目标的设计(即，在给定要求和约束的情况下工作的设计解决方案)。这些设计解决方案(设计1、设计2、……设计n)是可满足目标的燃气涡轮发动机的生成式设计。
可以输出任意数量的设计，诸如固定数量或满足要求和约束的所有可能设计。例如，响应输入而输出三个设计或至少三个设计(例如，1,500)。用户要求和约束(包括将要被最大化或最小化的目标参数)被输入到生成式模型，该生成式模型输出多个设计。
输入目标被用于选择一些或少于所有的输出设计。目标是将要被最大化或最小化的要求、约束或其它性能参数。在机器学习逆向网络的输出上执行选择，但网络可能被训练来执行选择。可以基于目标来选择输出设计的子集，诸如选择n个输出设计作为具有最大效率的n个设计。在一个示例中，针对将要被最大化或最小化(例如最大效率)的每个因子的值，选择100个设计作为初始种子。可以通过多个目标值的范围(例如，多个效率)对选择进行抽样，诸如选择效率值为100、95、90、85、80、75、70、68、65、63、60、58、55、53和50的设计。可替代地，使用所有输出设计(例如，全选)。
所选择的设计符合要求和约束。可以输出和选择满足一些、大多数或接近满足的设计，而不是严格满足。生成式模型的结果是可能满足目标(例如，约束和/或要求)的设计，但不一定是最佳设计。
生成式模型所输出的设计随后由优化模块使用，以找到更优化的设计。所选择的设计被用作初始种子。给定用户输入和种子效率值，优化通过逆向模型根据这些初始种子输出来产生附加的设计。
在动作23中，处理器模拟每个所选择设计的运行。模拟一个或多个设计的运行。模拟提供一个或多个性能或运行参数的值。模拟可以估计要求和/或约束的参数值。模拟可以估计目标的一个或多个值。模拟可以估计其它运行或性能参数的值。
由前向或预测模型提供模拟。经过训练的机器学习网络模拟输出性能参数的值。机器学习模型输出每个输入设计的性能参数值(例如，设计要求、约束和/或目标)。给定输入特征(即设计参数的输入值)，前向模型预测输出特征(例如，充当模拟代理模型)。预测模型估计所提议设计的运行。
图4示出了一个示例。将设计参数的值输入到机器学习残差神经网络40。机器学习网络40输出性能或运行参数的值。性能参数与要求、约束和/或目标相同或不同。性能参数被表示为输出变量，并且设计参数被表示为输入变量，反映前向建模。
模拟验证了设计。每个设计(例如，每个初始种子)都是按顺序输入的。模拟机器学习模型输出每个输入设计的性能参数值。生成式模型的输出是一组待验证的设计参数。模拟模型表明设计是否满足用户要求、约束和/或目标。机器学习预测模型并非执行昂贵且耗时的模拟，而是在几分之一秒内近似模拟结果。
可以进行另一选择。性能参数的值可被用于选择。使用前向模型针对标准(例如，诸如效率等的目标)评估初始种子。针对要求和/或约束的评估也可被用于选择。选择符合或接近标准的有希望的种子(即设计)。
模拟输出来自生成式模型的设计的初始种子的性能结果或模拟运行。最能满足一个或多个目标的初始设计种子是经优化的设计。
在动作24中，可以创建其它的设计以进一步优化设计。生成式模型和模拟模型被用于通过使目标参数(诸如涡轮效率)的值最大化或最小化来进行优化。优化会生成m个接近最佳设计的设计。该m个设计是根据由动作22输出的n个初始设计种子或n个初始设计种子的子集(例如，具有最大效率的种子)创建的。优化选择设计参数的输入值，使得目标的输出值被最大化或最小化。可以基于要求和/或约束的满足来选择设计以进行优化。
在动作25中，根据初始设计种子来生成附加设计。设计被扰动。扰动生成式模型的设计输出或设计输出的被选择子集。先前被扰动的设计可能会受到扰动。
通过改变一个或多个设计参数的一个或多个值来扰动设计。来自逆向模型或先前扰动的设计参数受到扰动。可以基于模式来确定变化量和/或变化方向。该变化可以是基于参数的偏移量和/或百分比变化。
在一个实施例中，优化基于先前的改变或扰动而扰动。使用基于目标的梯度。目标值相对于先前变化的变化量被用于选择变化量和/或要变化的参数。例如，更改一个或多个具有更高效率的初始设计。变化的量和/或方向基于目标值和设计参数值差异的比较。扰动设计，以使目标最大化标准被最大化。可以使用搜索模式，诸如按顺序扰动每个设计的设计参数值的每个值或子集。
在一个示例中，对于每个初始种子，相对于输入值(I)评估效率梯度。在评估中使用针对效率目标而训练的前向模型(f)。梯度由下式给出：
Figure BDA0003361534120000121
梯度是效率性能变化与设计值变化的比率。梯度值大于0表示哪些输入将导致效率提高，因此选择这些值进行变化。扰动的量可以被限制，诸如通过根据大于0的梯度的绝对梯度值缩放的最大1％扰动。可以使用其它限制或变化量。
如动作25至动作23的箭头所表示的，优化用模拟来测试每个扰动。被扰动的设计被输入到机器学习模拟模型，该模型输出性能变量的值，包括每个被扰动设计的目标(例如，效率)。使用前向模型，根据目标或标准来评估被扰动设计。
可以重复优化(例如，扰动和模拟)，直到梯度低于阈值为止或直到出现重复次数阈值为止。重复发生直至关于每个输入的梯度小于阈值为止和/或迭代次数(例如，100)不超过阈值为止。可以使用没有其它终止标准的有限迭代次数(例如，执行500次然后停止)。
与遗传算法相比，使用机器学习生成和模拟提高了探索设计选项的速度。优化评估设计并使设计朝向最佳设计移动。
在优化期间，设计被馈送到前向模型中，并且在动作26中针对用户提供的目标来测试结果。处理器确定一个或多个被扰动设计和/或初始的种子设计中的每一个的误差。误差介于模拟性能值与用户或指定性能值之间。将受限及受约束性能参数的值与模拟中相同参数的值进行比较。
可以进行任何比较，诸如测量平均百分比差异。可以使用加权组合，该加权组合具有基于参数重要性和/或其它相似性度量的权重。在一个实施例中，确定相对误差。通过扰动而优化的输出设计通过模拟模型运行以进行评估。根据用户输入目标或者根据规格，对性能参数的模拟值进行评估。计算相对误差并给出所生成的设计与目标的偏差的估计值。如果误差是不可接受的(例如，高于阈值)，则用户可以触发更多设计，直到设计可接受为止。
在动作27中，处理器基于各种设计的误差，选择一个或多个设计。选择可以是初始种子的设计和/或受到扰动的设计。可以选择测试或模拟设计的子集或单个设计。
选择基于模拟。在动作26中确定的误差使用来自前向模型的性能参数的值。误差被用于选择，诸如选择相对误差最小的设计。可以使用加权误差，诸如对某些性能参数(例如，要求或约束)的加权比其它参数更大。
在一个实施例中，将误差和目标的性能参数值一起用于选择。使用一组具有最高或最低目标值(例如最高效率)的设计和/或误差。可替代地，使用目标值高于或低于阈值的设计。对于这些基于目标的选择，选择相对误差最低的一个或多个设计。低于阈值的一组数字或错误将作为所选设计被输出。在其它实施例中，误差被用于确定子集(例如，选择低于阈值误差的设计)，并且通过选择具有最大或最小目标值的低误差设计来完成选择。在一个实施例中，选择具有与要求和约束零误差的最高效率的一个设计或多个设计。
在一个实施例中，沿优化设计方向进行扰动之后，选择几个候选设计(例如，三个或任何数量的目标的具有高于或低于阈值的值)。在其它实施例中，最佳设计是基于误差和目标参数值的加权组合的输出。在其它实施例中，当目标参数被包括在用于误差的参数中时，单独使用误差。
在动作28中，所选择的一个或多个设计被存储在存储器中。一个或多个设计被存储以供一名或多名工程师评估，诸如对一个或多个设计运行基于实体的模拟。可以存储设计用于生产。一个或多个对象(例如，燃气涡轮发动机)是根据所选择的设计来制造的。可以测试所制造对象以与模拟性能进行比较。
所选择的一个或多个设计可被用作进一步设计过程中的初始设计。例如，对于高保真运行，基于机器学习的优化的设计输出被用于基于初始约束而不是基于随机种子的种子生成，以使用传统或手动控制的优化技术显著加快优化设计的生成。所选择的一个或多个设计被手动更改和/或在基于实体的模拟器中使用以进一步评估。
专家批准的任何设计都可被用于进一步改进机器学习。使用经批准的设计对生成式模型或逆向模型和/或模拟器或前向模型进行再训练，提供其它的训练数据。可替代地，执行增量或在线机器学习，以基于批准的设计更新机器学习网络。
图5示出了用于基于机器学习的设计的系统的一个实施例。应用了两个经过深度训练的神经网络54、56。该系统实施图2的方法，但也可以实施其它方法。在替代实施例中，该系统用于训练网络54、56。该系统可以实施图1的方法，但是可以使用另一种机器学习。
该系统包括设计处理器50和存储器52。可以提供附加的、不同的或更少的部件。例如，提供网络或网络连接，诸如用于将设计处理器50和存储器52联网。在另一示例中，提供显示器和/或用户界面(例如，显示器和用户输入设备—鼠标和键盘)用于与学习和/或设计的交互。
设计处理器50和/或存储器52是工程工作站的一部分。可替代地，设计处理器50和/或存储器52是单独的计算机或服务器的一部分。
存储器52是图形处理存储器、视频随机存取存储器、随机存取存储器、系统存储器、高速缓冲存储器、硬盘驱动器、光学介质、磁介质、闪存驱动器、缓冲器、数据库、它们的组合，或其它目前已知或以后开发的用于存储数据的非暂时性存储设备。存储器52是设计处理器50的一部分、与设计处理器50相关联的计算机的一部分、数据库的一部分、另一系统的一部分或独立设备。
存储器52存储训练数据、规格、参数、参数值、逆向机器学习网络54和/或前向机器学习网络56。存储器52可以存储其它信息。例如，存储输入特征向量的值、输出向量的值、深度机器学习网络54、56的连接/节点/权重/卷积核、应用网络时的计算值54、56、选择、误差、优化信息、梯度和/或来自设计的其它数据。设计处理器50可以使用存储器52在图2的方法的执行期间临时存储信息。
存储器52或其它存储器可替代地或附加地是非暂时性计算机可读存储介质，其存储表示可由编程设计处理器50执行的指令的数据。在非暂时性计算机可读存储介质或存储器上，诸如高速缓冲存储器、缓冲器、RAM、可移动介质、硬盘驱动器或其它计算机可读存储介质，提供用于实现本文讨论的过程、方法和/或技术的指令。非暂时性计算机可读存储介质包括各种类型的易失性和非易失性存储介质。响应于存储在计算机可读存储介质中或计算机可读存储介质上的一组或多组指令，执行图中所示或本文所述的功能、动作或任务。功能、动作或任务独立于特定类型的指令集、存储介质、处理器或处理策略，并且可以由软件、硬件、集成电路、固件、微代码等执行，单独运行或组合运行。同样，处理策略可以包括多处理、多任务、并行处理等。
在一个实施例中，指令被存储在可移动媒体设备上，以供本地或远程系统读取。在其它实施例中，指令被存储在远程位置以通过计算机网络或电话线传输。在其它实施例中，指令被存储在给定的计算机、CPU、GPU或系统内。
设计处理器50为人工智能处理器，诸如通用处理器、中央处理器、控制处理器、图形处理器、数字信号处理器、专用集成电路、现场可编程门阵列、大规模并行处理器、专门设计用于实现机器学习网络处理器、数字电路、模拟电路、它们的组合或其它目前已知或以后开发的用于生成和评估工程设计的设备。设计处理器50是单个设备或以串行、并行或分开的方式运行的多个设备。设计处理器50可以是诸如膝上型计算机、服务器或台式计算机之类的计算机的主处理器，或者可以是用于处理较大系统中的一些任务的处理器。设计处理器50由指令、固件、设计、硬件和/或软件来配置，以执行本文讨论的动作。
由存储在存储器52中的指令或软件来配置设计处理器50，以根据设计规格对设计参数进行逆向建模。逆向建模使用经过机器训练的神经网络。要求、约束、目标参数和/或表示设计的期望运行特性的规格的其它参数被用于逆向建模设计参数，诸如设计变量的设置。给定规格的值，逆向模型为一个或多个(例如，多个)可能的设计生成设计参数。
由存储在存储器52中的指令或软件来配置设计处理器50，以基于对设计的模拟来优化设计参数。使用来自逆向建模的设计参数，设计处理器50使用被相同机器或不同机器训练为前向模型的神经网络来模拟设计的性能或运行。通过改变设计，设计的性能标准可以被最大化或最小化，同时还满足或在规格的要求和/或约束的容限内。通过扰动来自逆向模型的多个可能设计的设计参数，优化可以生成附加的可能设计。
由存储在存储器52中的指令或软件来配置设计处理器50，以选择可能的设计之一作为用于设计参数输出的设计。可以选择多于一种可能的设计用于输出。然后将所选择的设计输出到诸如存储器和/或显示器。输出设计可以被更改和/或被用于设计对象的制造。由于在设计创建中使用了两个机器学习网络，制造的对象更有可能提供最佳性能。
虽然上面已经参考各种实施例描述了本发明，但是应当理解，在不脱离本发明的范围的情况下可以做出许多改变和修改。因此，前面的详细描述旨在被视为说明性的而非限制性的，并且应当理解，旨在定义本发明的精神和范围的是包括所有等同物的后续权利要求。

Claims (20)

1.一种通过人工智能处理器进行生成式设计的方法，所述方法包括：
通过所述人工智能处理器来生成待设计的第一对象的一个或多个设计，所述生成是响应于所述待设计的第一对象的设计要求、约束和目标的第一值的输入通过第一机器学习网络来进行的；
通过所述人工智能处理器由第二机器学习网络模拟所述一个或多个设计中的每一个的运行，所述模拟提供所述设计要求、所述约束和/或所述目标的第二值；
扰动所述一个或多个设计；
重复对于被扰动的所述一个或多个设计的所述模拟；
确定被扰动的所述一个或多个设计的误差，所述误差是所述模拟的所述第二值与所述第一值的误差；以及
基于所述误差，选择被扰动或被生成的所述一个或多个设计中的至少一个；以及
存储所选择的被扰动或被生成的所述一个或多个设计中的至少一个。
2.根据权利要求1所述的方法，其中，所述生成包括使用包括逆向模型的所述第一机器学习网络来生成。
3.根据权利要求1所述的方法，其中，所述生成包括使用包括生成式对抗网络或混合密度网络的所述第一机器学习网络来生成。
4.根据权利要求1所述的方法，其中，所述生成包括响应于所述目标是所述要求之一或是所述约束的所述输入来生成。
5.根据权利要求1所述的方法，其中，所述生成包括响应于所述目标是效率的所述输入来生成。
6.根据权利要求1所述的方法，其中，生成所述一个或多个设计包括响应于所述输入生成至少三个设计。
7.根据权利要求1所述的方法，其中，所述模拟包括由包括全连接残差网络的所述第二机器学习网络来模拟。
8.根据权利要求1所述的方法，其中，所述模拟包括由包括预测模型的所述第二机器学习网络来模拟。
9.根据权利要求1所述的方法，其中，所述模拟包括响应于所述一个或多个设计的设计参数的值的输入来模拟。
10.根据权利要求1所述的方法，其中，所述模拟包括验证所述一个或多个设计。
11.根据权利要求1所述的方法，其中，所述扰动包括根据基于所述目标的梯度来扰动。
12.根据权利要求1所述的方法，其中，所述重复包括重复所述扰动和所述模拟直到梯度低于第一阈值为止或直到出现第二阈值次数的重复为止。
13.根据权利要求1所述的方法，其中，确定所述误差包括确定相对误差。
14.根据权利要求1所述的方法，还包括基于所述模拟来选择被扰动的所述一个或多个设计的子集。
15.一种用于基于机器学习的设计的系统，所述系统包括：
由存储在存储器中的指令所配置的处理器，当由所述处理器执行所述指令时，所述指令用于：
逆向建模来自设计的规格的设计参数，所述逆向建模使用由第一机器所训练的第一神经网络；
基于使用来自所述逆向建模的所述设计参数进行所述设计的模拟来优化所述设计参数，所述模拟使用由所述第一机器或第二机器训练为前向模型的第二神经网络；以及
输出用于所述设计的所述设计参数。
16.根据权利要求15所述的系统，其中，所述规格包括要求和约束，所述优化是在满足所述要求和所述约束的同时使所述设计的性能标准最大化。
17.根据权利要求15所述的系统，其中，所述逆向建模为多个第一可能设计生成所述设计参数，所述优化通过扰动所述多个第一可能设计的所述设计参数来生成附加的第二可能设计，并且所述指令还包括选择所述第一可能设计和所述第二可能设计中的一者作为用于输出所述设计参数的所述设计的指令。
18.根据权利要求15所述的系统，其中，所述设计参数包括所述设计的变量的设置，并且其中所述规格包括所述设计的运行特性的值。
19.一种用于机器训练设计系统的方法，所述方法包括：
由机器来训练第一神经网络作为生成式模型，以根据设计的要求的第一值来逆向建模，以生成所述设计；
由所述机器或另一机器来训练第二神经网络作为预测模型，以预测所述设计的所述要求的值；以及
使用所述第二神经网络进行编程以优化所述设计。
20.根据权利要求19所述的方法，其中，训练所述第一神经网络包括训练生成式对抗网络或混合密度网络，并且其中训练所述第二神经网络包括训练全连接残差网络。
CN201980096554.7A 2019-03-22 2019-03-22 基于逆向和前向建模机器学习的生成式设计 Pending CN114391150A (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2019/023527 WO2020197529A1 (en) 2019-03-22 2019-03-22 Inverse and forward modeling machine learning-based generative design

Publications (1)

Publication Number Publication Date
CN114391150A true CN114391150A (zh) 2022-04-22

Family

ID=66049718

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980096554.7A Pending CN114391150A (zh) 2019-03-22 2019-03-22 基于逆向和前向建模机器学习的生成式设计

Country Status (4)

Country Link
US (1) US20220108185A1 (zh)
EP (1) EP3928175A1 (zh)
CN (1) CN114391150A (zh)
WO (1) WO2020197529A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117057238A (zh) * 2023-08-15 2023-11-14 天津大学 基于物理信息算子网络模型的燃烧器稳燃钝体设计方法

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11676063B2 (en) * 2019-03-28 2023-06-13 International Business Machines Corporation Exposing payload data from non-integrated machine learning systems
WO2021041455A1 (en) * 2019-08-29 2021-03-04 Siemens Aktiengesellschaft Performance based system configuration as preprocessing for system peformance simulation
US11836633B2 (en) * 2020-09-08 2023-12-05 Vettery, Inc. Generating realistic counterfactuals with residual generative adversarial nets
CA3195434A1 (en) * 2020-10-13 2022-04-21 Gharib GHARIBI Systems and methods for providing a systemic error in artificial intelligence algorithms
CN113640297A (zh) * 2021-06-30 2021-11-12 华北电力大学 基于深度学习的双叶轮风力发电机叶片损伤在线检测方法
WO2024043902A1 (en) * 2022-08-26 2024-02-29 Siemens Industry Software Nv Inverse modelling and transfer learning system in autonomous vehicle virtual testing
CN115810016B (zh) * 2023-02-13 2023-04-28 四川大学 肺部感染cxr图像自动识别方法、系统、存储介质及终端
FR3147027A1 (fr) * 2023-03-24 2024-09-27 Vitesco Technologies Procédé de dimensionnement de pièces automobiles
CN118672140B (zh) * 2024-08-22 2024-10-29 中国航空工业集团公司金城南京机电液压工程研究中心 一种涡轮冷却器在线控制神经网络模型训练方法和装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117057238A (zh) * 2023-08-15 2023-11-14 天津大学 基于物理信息算子网络模型的燃烧器稳燃钝体设计方法
CN117057238B (zh) * 2023-08-15 2024-04-19 天津大学 基于物理信息算子网络模型的燃烧器稳燃钝体设计方法

Also Published As

Publication number Publication date
WO2020197529A1 (en) 2020-10-01
US20220108185A1 (en) 2022-04-07
EP3928175A1 (en) 2021-12-29

Similar Documents

Publication Publication Date Title
CN114391150A (zh) 基于逆向和前向建模机器学习的生成式设计
US11915142B2 (en) Creating equipment control sequences from constraint data
US10635978B2 (en) Ensembling of neural network models
Ryberg et al. Metamodel-based multidisciplinary design optimization for automotive applications
Chen et al. MO-PaDGAN: Reparameterizing Engineering Designs for augmented multi-objective optimization
Menon et al. Clearance of nonlinear flight control laws using hybrid evolutionary optimization
US11416654B2 (en) Analysis apparatus using learned model and method therefor
US20210295167A1 (en) Generative networks for physics based simulations
Lin et al. Digital-twin-based improvements to diagnosis, prognosis, strategy assessment, and discrepancy checking in a nearly autonomous management and control system
Xie et al. Wind farm power generation control via double-network-based deep reinforcement learning
US20070179917A1 (en) Intelligent design optimization method and system
CN117236278B (zh) 一种基于数字孪生技术的芯片生产仿真方法及系统
Ren et al. MAPFAST: A deep algorithm selector for multi agent path finding using shortest path embeddings
US10803218B1 (en) Processor-implemented systems using neural networks for simulating high quantile behaviors in physical systems
Büche Multi-objective evolutionary optimization of gas turbine components
KR102138227B1 (ko) 유동 해석을 최적화하기 위한 장치 및 이를 위한 방법
CN116841707A (zh) 基于hdabc算法的传感器资源调度方法
KR20200021766A (ko) 유동 해석 장치 및 이를 위한 방법
CN112416913B (zh) 一种基于gwo-bp算法的飞机燃油系统状态缺失值补充方法
Bernard et al. Creating FCM models from quantitative data with evolutionary algorithms
Khumprom et al. A hybrid evolutionary CNN-LSTM model for prognostics of C-MAPSS aircraft dataset
US20240241487A1 (en) Method and system for controlling a production system
Tyas et al. Implementation of Particle Swarm Optimization (PSO) to improve neural network performance in univariate time series prediction
CN117933104B (zh) 固体姿轨控发动机燃气调节阀压强修正方法
US20230162062A1 (en) Optimization and decision-making using causal aware machine learning models trained from simulators

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination