CN114880775B - 一种基于主动学习Kriging模型的可行域搜索方法及装置 - Google Patents

Abstract

本发明提供了一种基于主动学习Kriging模型的可行域搜索方法及装置，选取初始样本点，并计算所述初始样本点的损失函数，分别构建或更新损失函数和所有约束函数的Kriging代理模型，以损失函数的绝对值作为优化目标，求解优化方程；引入多个主动学习函数并构造多种约束主动学习函数，优化多种约束主动学习函数，获取最优帕累托前沿；从最优帕累托前沿中获取多个最佳样本点，并计算最佳样本点的损失函数真实值；当算法收敛时，获得精确的可行域边界的Kriging代理模型，使得损失函数

即为优化问题的可行域。本发明可高效搜索多约束下的可行域，进而缩小优化问题的搜索空间，提高求解效率。

Description

一种基于主动学习Kriging模型的可行域搜索方法及装置

技术领域

本发明属于机器学习技术领域，具体涉及一种基于主动学习Kriging模型的可行域搜索方法及装置。

背景技术

随着计算机技术和CAE技术的快速发展，人们越来越多地应用计算机仿真的方法来模拟和研究许多工程问题，尤其是在汽车领域，基于计算机虚拟仿真分析与优化设计已经占据了主导地位。在未来市场对车辆技术的需求下，车辆设计过程变得更加复杂。为了缩短研发周期、提高产品质量和降低研发成本，人们要求计算机虚拟仿真的精度要越来越高，分析和优化的时间要越来越短，因此为了适应这些需求，求解可行域可以提高设计过程的效率，决策者通过了解满足所有约束函数的可行域来减少严重无用的返工。在实际的工程优化设计中，涉及到的设计变量较多且设计目标和设计约束关系比较复杂，虽然现有的全局优化算法可以探索整个设计空间，但由于迭代过程中许多在不可行区域的样本计算大大降低了优化效率，使得收敛速度相对较低。因而，如何利用尽量少量的样本满足多种约束，得到高精度的可行域已成为急迫需要解决的问题。

发明内容

有鉴于此，本发明提供了一种基于主动学习Kriging模型的可行域搜索方法及装置。

本发明是通过以下技术手段实现上述技术目的的。

一种基于主动学习Kriging模型的可行域搜索方法，具体为：

选取初始样本点，并计算所述初始样本点的损失函数J(x)'；

分别构建或更新损失函数J(x)'和所有约束函数的Kriging代理模型

以损失函数的绝对值

作为优化目标，求解优化方程；

引入多个主动学习函数并构造多种约束主动学习函数，优化多种约束主动学习函数，获取最优帕累托前沿；

从最优帕累托前沿中获取多个最佳样本点，并计算最佳样本点的损失函数真实值；

当算法收敛时，获得精确的可行域边界的Kriging代理模型，满足

即为优化问题的可行域。

进一步地，所述初始样本点的损失函数是通过计算各样本点的约束函数值，进一步计算所有约束函数的损失函数值，再利用KS函数进行近似最大得到的。

进一步地，所述所有约束函数的损失函数值满足：

式中：J_i(x)为第i个约束函数的损失函数值，f_i(x)为变量矩阵x对应第i个约束函数的函数值，f_i ^min为第i个约束函数的下边界，f_i ^max为第i个约束函数的上边界，f_i ^base为第i个约束函数的初始取值，_ρ为正实数，c为约束函数个数，J(x)为损失函数。

进一步地，所述Kriging代理模型

分别为：

其中：

为损失函数的预测值，s(x)为预测误差，

为第i个约束函数的预测值，e_i(x)为第i个约束函数的预测误差，c为约束函数个数。

进一步地，所述优化方程为：

s.t.g_i(x)＜0,i∈{1,2,...,l_ineq}

h_i(x)＝0,i∈{1,2,...,l_eq}

x^L≤x≤x^U

其中：g_i(x)为不等式约束，l_ineq为不等式约束个数，h_i(x)为等式约束，l_eq为等式约束个数，x^L为变量的下限，x^U为变量的上限。

进一步地，所述约束主动学习函数为：

其中：f_min为当前所有样本点中损失函数最小值，

为满足所有约束函数的概率，Φ为标准正态分布的累计分布函数，φ为标准正态分布分概率密度函数，κ是描述采集开发-探索平衡的超参数；

所述主动学习函数包括期望改进EI、改进概率PI、置信上限UCB，所述约束主动学习函数包括CEI、CPI和CUCB。

进一步地，所述最优帕累托前沿是利用多目标遗传算法优化多种约束主动学习函数获取的。

进一步地，所述从最优帕累托前沿中获取多个最佳样本点是基于优劣解距离法。

进一步地，当算法不收敛时，合并当前样本点，并重新构建或更新损失函数和所有约束函数的Kriging代理模型。

一种基于主动学习Kriging模型的可行域搜索装置，包括：

构建损失函数模块，用于构建初始样本点损失函数；

构建代理模型模块，用于构建或更新损失函数和所有约束函数的Kriging代理模型；

最优帕累托前沿获取模块，基于多目标遗传算法优化多种约束主动学习函数，获取最优帕累托前沿；

计算最佳样本点的损失函数值模块，基于优劣解距离法从最优帕累托前沿中获取多个最佳样本点，并计算最佳样本点的损失函数真实值；

可行域确定模块，用于确定可行域。

本发明的有益效果为：

1)本发明基于主动学习Kriging模型的可行域搜索方法，基于KS函数将系统多个约束函数转化为单个连续可微的损失函数，可以根据损失函数的正负来判断所选设计变量的可行性，保证可行域边界周围进行搜索，有效提高可行域搜索效率；

2)本发明基于主动学习Kriging模型的可行域搜索方法，Kriging模型的训练数据是基于优劣解距离法从多种主动学习函数的帕累托最优前沿中得到的，有效提高可行域的准确率，减少训练模型所需的样本数量，减少计算资源耗费；

3)本发明基于主动学习Kriging模型的可行域搜索方法，能够高效处理系统多约束可行域问题，可广泛应用于汽车领域。

附图说明

图1为本发明所述基于主动学习Kriging模型的可行域搜索流程图；

图2是算例1利用本发明方法得到的可行域结果示意图；

图3是算例1利用单一主动学习函数得到的可行域结果示意图；

图4是算例2利用本发明方法得到的可行域结果示意图；

图5是算例2利用单一主动学习函数得到的可行域结果示意图。

具体实施方式

下面结合附图以及具体实施例对本发明作进一步的说明，但本发明的保护范围并不限于此。

如图1所示，本发明一种基于主动学习Kriging模型的可行域搜索方法，具体包括如下步骤：

步骤(1)，根据所有约束函数构造一个损失函数J(x)，满足J(x)＝0的变量矩阵x组成的边界为可行域边界；

首先按照式(1)，计算所有约束函数的损失函数值J_i(x)，再按照式(2)，利用KS函数(Kreisselmeier-Steinhauser)进行近似最大，运算得到J(x)；

式中：J_i(x)为第i个约束函数的损失函数值，f_i(x)为变量矩阵x对应第i个约束函数的函数值，f_i ^min为第i个约束函数的下边界，f_i ^max为第i个约束函数的上边界，f_i ^base为第i个约束函数的初始取值，_ρ为正实数，c为约束函数个数。

步骤(2)，利用随机采样算法选取初始样本点，样本个数记为Ns；计算得到各样本点约束函数值f_i(x)'，并计算初始样本点损失函数J(x)'。

步骤(3)，构建或更新损失函数J(x)'和所有约束函数的Kriging代理模型

式中：

为损失函数的预测值，s(x)为预测误差，

为第i个约束函数的预测值，e_i(x)为第i个约束函数的预测误差。

步骤(4)，以最小化损失函数的绝对值作为目标函数，考虑变量之间的约束，利用主动学习Kriging求解优化方程；

以损失函数的绝对值

作为优化目标，考虑变量之间的等式约束和不等式约束，优化方程如下：

式中：g_i(x)为不等式约束，l_ineq为不等式约束个数，h_i(x)为等式约束，l_eq为等式约束个数，x^L为变量的下限，x^U为变量的上限。

步骤(5)，引入多个主动学习函数并构造多种约束主动学习函数，利用多目标遗传算法优化多种约束主动学习函数，获取最优帕累托前沿；

步骤(5.1)，引入多个主动学习函数，如期望改进EI、改进概率PI和置信上限UCB，将满足所有约束函数的概率与主动学习函数相乘构造得到约束主动学习函数，如CEI(Constrained Expected Improvement)、CPI(Constrained Probability ofImprovement)和CUCB(Constrained Upper Confidence Bound)，如式(5)-(7)：

式中：f_min为当前所有样本点中损失函数最小值，

为满足所有约束函数的概率，Φ为标准正态分布的累计分布函数，φ为标准正态分布分概率密度函数，κ是描述采集开发-探索平衡的超参数；

步骤(5.2)，利用多目标遗传算法优化多种约束主动学习函数，获取帕累托最优前沿min{-CEI(x)，-CPI(x)，CUCB(x)}。

步骤(6)，基于优劣解距离法从最优帕累托前沿中获取多个最佳样本点，并计算最佳样本点的损失函数真实值；步骤(6)的实现方法为现有技术。

步骤(7)，判断算法是否收敛：若算法不收敛，则合并当前样本点并返回步骤(3)；若算法收敛，执行步骤(8)；其中算法收敛的判断依据是：迭代次数达到上限或者有了精确的可行域边界。

步骤(8)，获得精确的可行域边界的Kriging模型，其中

即为优化问题的可行域。

实施例

以下以若干算例，对本算法的有效性进行验证。

算例1：Branin函数，x₁的取值范围为[-5,10]，x₂的取值范围为[0,15]，函数表达式如式(8)，约束函数表达式如式(9)：

F(x)＝-(x₁-10)²-(x₂-15)² (8)

步骤(1)：首先按照式(8)计算约束函数的损失函数值J₁(x)，其中f₁ ^min＝-∞、f₁ ^max＝0；利用KS函数进行近似最大运算得到J(x)，其中_ρ＝10；

步骤(2)：利用随机采样算法选取初始样本，样本个数Ns＝5，计算得到各样本点约束函数值f_i(x)'，并计算得到初始样本点损失函数J(x)'；

步骤(3)：构建或更新损失函数J(x)'和约束函数f_i(x)'的Kriging代理模型

如式(3)；

步骤(4)：利用主动学习Kriging求解优化方程，以损失函数的绝对值作为优化目标，优化方程如下：

步骤(5)：引入期望改进EI、改进概率PI，将满足约束函数的概率与主动学习函数相乘构造得到约束主动学习函数CEI及CPI，如式(5)、(6)，利用多目标遗传算法优化2种约束主动学习函数，获取帕累托最优前沿，优化方程如式(7)；

步骤(6)：每次迭代基于优劣解距离法从帕累托最优前沿中获取5个最佳样本点，并计算最佳样本点的损失函数真实值；

步骤(7)：进行收敛判断，若算法不收敛，则合并当前样本点并返回步骤(3)；若算法收敛，执行步骤(8)；

步骤(8)：算法共迭代6步，共计评估35个样本点，获得了精确的可行域边界的Kriging模型，其中

为优化问题的可行域，如图2所示：

为了对比本发明方法的优越性，利用单一主动学习函数总共评估70个样本点，最终得到算例1的可行域如图3所示，而本发明方法评估了35个样本点就获取了可行域，本方法利用多种主动学习函数在可行域边界周围精确获取样本点，减少在不可行区域内样本点的评估，以更少的样本点获取高精度可行域。

算例2：方差

的Gaussian函数，表达式如式(11)，x₁的取值范围为[-5,5]，x₂的取值范围为[-5,5]，约束函数表达式如式(12)，按照本发明方法共评估16个样本点得到算例2的可行域如图4所示，利用单一主动学习函数评估66个样本点得到算例2的可行域如图5所示，具体步骤与算例1类似，此处不再赘述。

综上两个算例可以发现本发明的方法能够精确的在可行域边界周围搜索样本点，比常规方法具有更高的效率。

一种基于主动学习Kriging模型的可行域搜索装置，包括：

构建损失函数模块，用于构建初始样本点损失函数；

构建代理模型模块，用于构建或更新损失函数和所有约束函数的Kriging代理模型；

最优帕累托前沿获取模块，基于多目标遗传算法优化多种约束主动学习函数，获取最优帕累托前沿；

计算最佳样本点的损失函数值模块，基于优劣解距离法从最优帕累托前沿中获取多个最佳样本点，并计算最佳样本点的损失函数真实值；

可行域确定模块，用于确定可行域。

基于与一种基于主动学习Kriging模型的可行域搜索方法相同的发明构思，本申请还提供了一种电子设备，该电子设备包括一个或多个处理器和一个或多个存储器，存储器中存储了计算机可读代码，其中，计算机可读代码当由一个或多个处理器执行时，进行本发明一种基于主动学习Kriging模型的可行域搜索方法的实施。其中，存储器可以包括非易失性存储介质和内存储器；非易失性存储介质可存储操作系统和计算机可读代码。该计算机可读代码包括程序指令，该程序指令被执行时，可使得处理器执行任意一种基于主动学习Kriging模型的可行域搜索方法。处理器用于提供计算和控制能力，支撑整个电子设备的运行。存储器为非易失性存储介质中的计算机可读代码的运行提供环境，该计算机可读代码被处理器执行时，可使得处理器执行任意一种基于主动学习Kriging模型的可行域搜索方法。

应当理解的是，处理器可以是中央处理单元(Central Processing Unit，CPU)，该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中，通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

其中，所述计算机可读存储介质可以是前述实施例所述电子设备的内部存储单元，例如所述计算机设备的硬盘或内存。所述计算机可读存储介质也可以是所述电子设备的外部存储设备，例如所述电子设备上配备的插接式硬盘、智能存储卡(SmartMedia Card，SMC)、安全数字(Secure Digital，SD)卡、闪存卡(Flash Card)等。

所述实施例为本发明的优选的实施方式，但本发明并不限于上述实施方式，在不背离本发明的实质内容的情况下，本领域技术人员能够做出的任何显而易见的改进、替换或变型均属于本发明的保护范围。

Claims (9)

1.一种基于主动学习Kriging模型的可行域搜索方法，其特征在于：

选取初始样本点，并计算所述初始样本点的损失函数J(x)'；

分别构建或更新损失函数J(x)'和所有约束函数的Kriging代理模型

以损失函数的绝对值

作为优化目标，求解优化方程；

引入多个主动学习函数并构造多种约束主动学习函数，优化多种约束主动学习函数，获取最优帕累托前沿；

从最优帕累托前沿中获取多个最佳样本点，并计算最佳样本点的损失函数真实值；

当算法收敛时，获得精确的可行域边界的Kriging代理模型，满足

即为优化问题的可行域；

所述约束主动学习函数为：

其中：f_min为当前所有样本点中损失函数最小值，

为满足所有约束函数的概率，Φ为标准正态分布的累计分布函数，φ为标准正态分布分概率密度函数，κ是描述采集开发-探索平衡的超参数；

所述主动学习函数包括期望改进EI、改进概率PI、置信上限UCB，所述约束主动学习函数包括CEI、CPI和CUCB。

2.根据权利要求1所述的可行域搜索方法，其特征在于，所述初始样本点的损失函数是通过计算各样本点的约束函数值，进一步计算所有约束函数的损失函数值，再利用KS函数进行近似最大得到的。

3.根据权利要求2所述的可行域搜索方法，其特征在于，所述所有约束函数的损失函数值满足：

式中：J_i(x)为第i个约束函数的损失函数值，f_i(x)为变量矩阵x对应第i个约束函数的函数值，f_i ^min为第i个约束函数的下边界，f_i ^max为第i个约束函数的上边界，f_i ^base为第i个约束函数的初始取值，ρ为正实数，c为约束函数个数，J(x)为损失函数。

4.根据权利要求1所述的可行域搜索方法，其特征在于，所述Kriging代理模型

分别为：

其中：

为损失函数的预测值，s(x)为预测误差，

为第i个约束函数的预测值，e_i(x)为第i个约束函数的预测误差，c为约束函数个数。

5.根据权利要求1所述的可行域搜索方法，其特征在于，所述优化方程为：

s.t.g_i(x)＜0,i∈{1,2,...,l_ineq}

h_i(x)＝0,i∈{1,2,...,l_eq}

x^L≤x≤x^U

其中：g_i(x)为不等式约束，l_ineq为不等式约束个数，h_i(x)为等式约束，l_eq为等式约束个数，x^L为变量的下限，x^U为变量的上限。

6.根据权利要求1所述的可行域搜索方法，其特征在于，所述最优帕累托前沿是利用多目标遗传算法优化多种约束主动学习函数获取的。

7.根据权利要求1所述的可行域搜索方法，其特征在于，所述从最优帕累托前沿中获取多个最佳样本点是基于优劣解距离法。

8.根据权利要求1所述的可行域搜索方法，其特征在于，当算法不收敛时，合并当前样本点，并重新构建或更新损失函数和所有约束函数的Kriging代理模型。

9.一种实现权利要求1-8任一项所述的可行域搜索方法的装置，包括：

构建损失函数模块，用于构建初始样本点损失函数；

构建代理模型模块，用于构建或更新损失函数和所有约束函数的Kriging代理模型；

最优帕累托前沿获取模块，基于多目标遗传算法优化多种约束主动学习函数，获取最优帕累托前沿；

计算最佳样本点的损失函数值模块，基于优劣解距离法从最优帕累托前沿中获取多个最佳样本点，并计算最佳样本点的损失函数真实值；

可行域确定模块，用于确定可行域。

Images