CN113033105B - 基于力学理论指导迁移学习的钢铁材料疲劳性能预测方法 - Google Patents

Abstract

本发明提供一种基于力学理论指导迁移学习的钢铁材料疲劳性能预测方法，涉及钢铁材料的设计和机器学习应用技术领域。本发明将力学理论机制引入到机器学习中，解决了材料高成本属性预测的小样本问题。通过基于力学理论指导建立钢种成分、工艺与目标性能之间的关系。本方法针对获取成本高的目标性能，利用目标性能与源性能间的高相关性，即基于力学理论指导，仅利用数十组目标性能数据便可建立起准确预测目标性能的迁移学习模型。该方法显著降低了机器学习对于高成本目标性能的数据量要求，显著提高了高成本目标性能评估、预测效率，并最终有利于提高新材料研发速率。

Description

基于力学理论指导迁移学习的钢铁材料疲劳性能预测方法

技术领域

本发明涉及钢铁材料的设计和机器学习应用技术领域，尤其涉及一种基于力学理论指导迁移学习的钢铁材料疲劳性能预测方法。

背景技术

疲劳失效是工程材料的主要失效形式之一，其约占金属结构部件机械失效的90％。因此，评估和预测金属材料的疲劳性能至关重要。金属材料的疲劳可分为高周疲劳(HCF)和低周疲劳(LCF)。对于HCF，应力-寿命方法在疲劳分析中得到了广泛应用，其最早由Wohler提出，并提出疲劳极限。许多高强度钢通常不表现出疲劳极限，此条件下耐久极限称为疲劳强度，通常将其定义为在给定的循环(107～109)后无失效的最大应力振幅。疲劳强度是最重要的性能之一。然而，为了获得疲劳强度，诸如阶梯法的疲劳测试非常昂贵且耗时。随着材料基因组和大数据技术概念的发展，机器学习已广泛应用于材料属性预测和新材料发现。与传统实验方法相比，依靠材料大数据的统计学习，组成/过程属性与材料性能间的关系相对容易建立。从传统机器学习方法例如人工神经网络和支持向量回归到新颖机器学习方法例如极限梯度增强和深度学习算法(如卷积神经网络)，它们对各种材料属性均实现了良好的预测。对于金属材料疲劳性能的预测，目前已有部分研究并取得一些应用成果，例如疲劳寿命预测、疲劳裂纹驱动力预测、疲劳强度预测等。然而先前研究是基于相对较大的数据集，其中包含数十年来积累的数百个样本。而对于新材料的疲劳强度而言，为机器学习积累足够的数据既昂贵又费时。即使我们目前在某些材料科学领域处于大数据时代，但就钢铁领域而言，仍然相距甚远，因为开放、可访问和标准的统一数据相当有限，尤其是对于新材料。因此，通常只能获得数十个疲劳数据，这不足以建立良好的机器学习模型。

长期以来，人们发现疲劳强度与其他机械性能有关，例如硬度、拉伸性能和冲击韧性。与疲劳强度相比，拉伸测试显然易于进行，因此可以获得大量数据。依靠足够的数据，通过机器学习方法实现以上性能预测是可行的。同时，考虑到疲劳强度与拉伸性能之间的良好相关性，它们可以用作材料疲劳强度预测的中间阶段。因此，当疲劳数据不足时，借助拉伸性能预测疲劳强度是一种有效的策略。它可以被称为基于力学理论指导的迁移学习。

发明内容

针对现有技术存在的不足，本发明提出了一种基于力学理论指导迁移学习的钢铁材料疲劳性能预测方法，本方法将力学理论机制引入到机器学习中，解决了材料高成本属性预测的小样本问题。

本发明所采取的技术方案是：

一种基于力学理论指导迁移学习的钢铁材料疲劳性能预测方法，包括以下步骤：

步骤1：建立钢铁材料成分、工艺及性能数据集；

步骤1.1：获取钢铁材料中m种材料的成分、工艺及其对应的源性能，每一种材料的成分、工艺、源性能为一组原始数据；m组原始数据形成源数据集；所述成分为材料的元素及含量，所述工艺为材料的工艺参数；源数据集用于作为材料源性能预测的有效数据；对源数据集中的所有数据进行标准化处理，形成源性能初始数据集，标准化处理公式为：z＝(x-μ)/σ，其中z是标准化数据，x是原始数据，μ是原始数据中每一维变量的均值，σ是原始数据中每一维变量的标准差；

步骤1.2：获取钢铁材料中n种材料的成分、工艺及其对应的目标性能，即疲劳性能，每一种材料的成分、工艺、目标性能为一组原始数据；n组原始数据形成目标数据集；所述成分为材料的元素及含量，所述工艺为材料的工艺参数；目标数据集用于作为材料目标性能预测的有效数据；对目标数据集中的所有数据进行标准化处理，形成目标性能初始数据集；

步骤2：对源性能初始数据集及目标性能初始数据集进行预处理；

步骤2.1：令划分比例为6：2：2，将源数据集采用随机法第i次划分为源训练集、源测试集及源验证集；其中划分次数i∈F，F为设置的划分总次数；令划分比例为3：1：10，将目标数据集采用随机法第i次划分为目标训练集、目标测试集及目标验证集；

步骤2.2：源数据集、目标数据集中输入(input)即d维的成分和工艺重塑为K×K维矩阵，矩阵中不足K²位置补充为0；

步骤3：使用步骤2.2处理后的源数据集中源训练集建立卷积神经网络源模型；训练好的卷积神经网络源模型通过输入成分、工艺获得源性能；

步骤3.1：建立卷积神经网络源模型，模型由卷积层、全连接层、输出层组成，其中卷积层为数量为2，全连接层数量为1；所述卷积层均采用3×3卷积核，激活函数选择ReLU，ReLU公式近似推导如下：

f(x)＝≈max(0,x)

其中x为输入数值；

步骤3.2：将步骤2.2中源数据集的输入数据即K×K维矩阵和输出数据源性能分别输入卷积神经网络源模型中，采用Adam优化器对源模型进行训练，并对Adam优化器进行参数优化；

所述Adam优化器的公式参数设定：为g_t的元素乘操作；α为学习率；β₁,β₂∈[0,1)为矩估计的指数衰减率；f(θ)为参数θ的随机目标函数值；θ₀为初始的参数向量；m₀←0为初始第一矩向量；v₀←0为第二矩向量；t←0为时间步长；

所述Adam优化器的参数优化过程：

当θ_t未收敛时：{t←t+1，获得新一轮的梯度值；

m_t←β₁·m_t-1+(1-β₁)·g_t更新第一矩向量；

更新第二矩向量；

计算偏差校正的第一矩向量；

计算偏差校正的第二矩向量；

更新参数；}

优化过程结束；优化过程中采用MeanSquareError(MSE)作为源模型性能的评价指标；设置源模型训练的迭代次数为t'；

步骤3.3：对源模型训练完毕后，使用该模型对源验证集进行预测，预测精度使用平方相关系数(R²)和平均绝对误差(MAE)指标评价，公式如下：

n代表源验证集的样本数据总量，x_i代表测试集内第i个样本，f(x_i)为模型预测的源性能值，y_i所对应的源性能的真实值。

若验证集中数据预测结果的R²均值大于95％，则模型精度达到应用要求；否则返回到步骤3.2，通过调节前述参数优化中优化器学习率、调节迭代次数重新对卷积神经网络源模型进行训练，直至满足应用要求；

步骤4：根据步骤2.2处理后的目标数据集建立卷积神经网络迁移模型，并对卷积神经网络迁移模型进行训练；将训练好的卷积神经网络迁移模型通过输入成分、工艺获得目标性能；

步骤4.1：建立迁移模型，模型由卷积层、全连接层、输出层组成，其中卷积层为数量为2，全连接层数量为1；其中卷积层和全连接层应用步骤3中建立源模型的模型参数，在迁移模型训练中，卷积层和全连接层保持冻结状态；所述卷积层均采用3×3卷积核，激活函数选择步骤3.1中ReLU函数；

步骤4.2：将步骤2中目标数据集的即K×K维矩阵和输出数据目标性能分别输入到卷积神经网络迁移模型中，采用步骤3.2中Adam优化器对目标模型进行训练，并进行参数优化；

步骤4.3：对迁移模型训练完毕后，对目标验证集进行预测，预测精度使用平方相关系数(R²)和平均绝对误差(MAE)指标评价；若验证集中数据预测结果的R²均值大于90％，MAE低于15MPa，则模型精度达到应用要求；否则返回到步骤4.2，通过调节前述参数优化中优化器学习率、调节迭代次数重新对卷积神经网络迁移模型进行训练，直至满足应用要求；

步骤4.4：基于力学理论指导卷积神经网络迁移模型的应用；

通过基于力学理论指导的迁移学习模型的训练建立成分、工艺与目标性能的关系，在迁移学习模型的应用过程中，将目标钢铁材料的成分、工艺参数输入到迁移模型中预测得到对应的目标性能。

采用上述技术方法所产生的有益效果在于：

本发明提供一种基于力学理论指导迁移学习的钢铁材料性能预测方法，基于力学理论指导建立钢种成分、工艺与目标性能之间的关系。该方法针对获取成本高的目标性能，利用目标性能与源性能间的高相关性，即基于力学理论指导，仅利用数十组目标性能数据便可建立起准确预测目标性能的迁移学习模型。该方法显著降低了机器学习对于高成本目标性能的数据量要求，显著提高了高成本目标性能评估、预测效率，并最终有利于提高新材料研发速率。

附图说明

图1为本发明钢铁材料疲劳性能预测方法流程图；

图2为本发明实施例迁移模型预测结果图。

具体实施方式

下面结合附图和实施例，对本发明的具体实施方式作进一步详细描述。以下实施例用于说明本发明，但不用来限制本发明的范围。

一种基于力学理论指导迁移学习的钢铁材料疲劳性能预测方法，如图1所示，包括以下步骤：

步骤1：建立钢铁材料成分、工艺及性能数据集；本实施例从大量文献中收集目标材料的数据，建立起不低于400条数据的源数据集和100条左右数据的目标数据集

步骤1.1：获取钢铁材料中m种材料的成分、工艺及其对应的源性能，每一种材料的成分、工艺、源性能为一组原始数据；m组原始数据形成源数据集；所述成分为材料的元素及含量，所述工艺为材料的工艺参数；源数据集用于作为材料源性能预测的有效数据；对源数据集中的所有数据进行标准化处理，形成源性能初始数据集，标准化处理公式为：z＝(x-μ)/σ，其中z是标准化数据，x是原始数据，μ是原始数据中每一维变量的均值，σ是原始数据中每一维变量的标准差；

步骤1.2：获取钢铁材料中n种材料的成分、工艺及其对应的目标性能，即疲劳性能，每一种材料的成分、工艺、目标性能为一组原始数据；n组原始数据形成目标数据集；所述成分为材料的元素及含量，所述工艺为材料的工艺参数；目标数据集用于作为材料目标性能预测的有效数据；对目标数据集中的所有数据进行标准化处理，形成目标性能初始数据集；

在本实施例中采用低碳钢、低合金钢和不锈钢类材料，获取材料中m＝411种材料的成分、工艺及其对应的拉伸性能，包括屈服强度、抗拉强度、延伸率；获取n＝115种材料的成分、工艺及其对应的疲劳强度。

本实施例中数据集内数据分布情况如表1所示：

表1数据集中数据分布情况

步骤2：对源性能初始数据集及目标性能初始数据集进行预处理；

步骤2.1：令划分比例为6：2：2，将源数据集采用随机法第i次划分为源训练集、源测试集及源验证集；其中划分次数i∈F，F为设置的划分总次数；令划分比例为3：1：10，将目标数据集采用随机法第i次划分为目标训练集、目标测试集及目标验证集；

本实施例中F＝100；

步骤2.2：源数据集、目标数据集中输入(input)即d维的成分和工艺重塑为K×K维矩阵，矩阵中不足K²位置补充为0；

本数据集中d＝20，K＝5；

步骤3：使用步骤2.2处理后的源数据集中源训练集建立卷积神经网络源模型；训练好的卷积神经网络源模型通过输入成分、工艺获得源性能；

步骤3.1：建立卷积神经网络源模型，模型由卷积层、全连接层、输出层组成，其中卷积层为数量为2，全连接层数量为1；所述卷积层均采用3×3卷积核，激活函数选择ReLU，ReLU公式近似推导如下：

f(x)＝≈max(0,x)

其中x为输入数值；

步骤3.2：将步骤2.2中源数据集的输入数据即K×K维矩阵和输出数据源性能分别输入卷积神经网络源模型中，采用Adam优化器对源模型进行训练，并对Adam优化器进行参数优化；

所述Adam优化器的公式参数设定：为g_t的元素乘操作；α为学习率；β₁,β₂∈[0,1)为矩估计的指数衰减率；f(θ)为参数θ的随机目标函数值；θ₀为初始的参数向量；m₀←0为初始第一矩向量；v₀←0为第二矩向量；t←0为时间步长；

所述Adam优化器的参数优化过程：

当θ_t未收敛时：获得新一轮的梯度值；

m_t←β₁·m_t-1+(1-β₁)·g_t更新第一矩向量；

更新第二矩向量；

计算偏差校正的第一矩向量；

计算偏差校正的第二矩向量；

更新参数；}

优化过程结束；优化过程中采用MeanSquareError(MSE)作为源模型性能的评价指标；设置源模型训练的迭代次数为t'；

在本实施例中优化器Adam中学习率α设置为10^-3，模型训练中的评价函数选择MSE，模型迭代次数t'＝1000。

步骤3.3：对源模型训练完毕后，使用该模型对源验证集进行预测，预测精度使用平方相关系数(R²)和平均绝对误差(MAE)指标评价，公式如下：

n代表源验证集的样本数据总量，x_i代表测试集内第i个样本，f(x_i)为模型预测的源性能值，y_i所对应的源性能的真实值。

若验证集中数据预测结果的R²均值大于95％，则模型精度达到应用要求；否则返回到步骤3.2，通过调节前述参数优化中优化器学习率、调节迭代次数重新对卷积神经网络源模型进行训练，直至满足应用要求；

本实例中应用上述数据及模型参数，训练得到模型对验证集数据的预测结果屈服强度、抗拉强度、延伸率R²均值分别为97.3％、97.6％、94.1％，MAE均值分别为27.1MPa、22.4MPa、0.88％。

步骤4：根据步骤2.2处理后的目标数据集建立卷积神经网络迁移模型，并对卷积神经网络迁移模型进行训练；将训练好的卷积神经网络迁移模型通过输入成分、工艺获得目标性能；

步骤4.1：建立迁移模型，模型由卷积层、全连接层、输出层组成，其中卷积层为数量为2，全连接层数量为1；其中卷积层和全连接层应用步骤3中建立源模型的模型参数，在迁移模型训练中，卷积层和全连接层保持冻结状态；所述卷积层均采用3×3卷积核，激活函数选择步骤3.1中ReLU函数；

步骤4.2：将步骤2中目标数据集的即K×K维矩阵和输出数据目标性能分别输入到卷积神经网络迁移模型中，采用步骤3.2中Adam优化器对目标模型进行训练，并进行参数优化；

在本实施例中优化器Adam中学习率α设置为10^-3，模型训练中的评价函数选择MSE，模型迭代次数t＝10000。

步骤4.3：对迁移模型训练完毕后，对目标验证集进行预测，预测精度使用平方相关系数(R²)和平均绝对误差(MAE)指标评价；若验证集中数据预测结果的R²均值大于90％，MAE低于15MPa，则模型精度达到应用要求；否则返回到步骤4.2，通过调节前述参数优化中优化器学习率、调节迭代次数重新对卷积神经网络迁移模型进行训练，直至满足应用要求；

步骤4.4：基于力学理论指导卷积神经网络迁移模型的应用；

通过基于力学理论指导的迁移学习模型的训练建立成分、工艺与目标性能的关系，在迁移学习模型的应用过程中，将目标钢铁材料的成分、工艺参数输入到迁移模型中预测得到对应的目标性能。

本实例中应用上述数据及模型参数，训练得到模型对验证集数据的预测结果R²均值为92.9％，MAE均值为20.2MPa，实验值与预测值对比的预测结果如图2所示。

Claims (3)

1.一种基于力学理论指导迁移学习的钢铁材料疲劳性能预测方法，其特征在于，包括以下步骤：

步骤1：建立钢铁材料成分、工艺及性能数据集；

步骤1.1：获取钢铁材料中m种材料的成分、工艺及其对应的源性能，每一种材料的成分、工艺、源性能为一组原始数据；m组原始数据形成源数据集；所述成分为材料的元素及含量，所述工艺为材料的工艺参数；源数据集用于作为材料源性能预测的有效数据；对源数据集中的所有数据进行标准化处理，形成源性能初始数据集，标准化处理公式为：z＝(x-μ)/σ，其中z是标准化数据，x是原始数据，μ是原始数据中每一维变量的均值，σ是原始数据中每一维变量的标准差；

步骤1.2：获取钢铁材料中n种材料的成分、工艺及其对应的目标性能，即疲劳性能，每一种材料的成分、工艺、目标性能为一组原始数据；n组原始数据形成目标数据集；所述成分为材料的元素及含量，所述工艺为材料的工艺参数；目标数据集用于作为材料目标性能预测的有效数据；对目标数据集中的所有数据进行标准化处理，形成目标性能初始数据集；

步骤2：对源性能初始数据集及目标性能初始数据集进行预处理；

步骤2.1：令划分比例为6：2：2，将源数据集采用随机法第i次划分为源训练集、源测试集及源验证集；其中划分次数i∈F，F为设置的划分总次数；令划分比例为3：1：10，将目标数据集采用随机法第i次划分为目标训练集、目标测试集及目标验证集；其中划分次数i∈F，F为设置的划分总次数；

步骤2.2：源数据集、目标数据集中输入input即d维的成分和工艺重塑为K×K维矩阵，矩阵中不足K²位置补充为0；

步骤3：使用步骤2.2处理后的源数据集中源训练集建立卷积神经网络源模型；训练好的卷积神经网络源模型通过输入成分、工艺获得源性能；

步骤4：根据步骤2.2处理后的目标数据集建立卷积神经网络迁移模型，并对卷积神经网络迁移模型进行训练；将训练好的卷积神经网络迁移模型通过输入成分、工艺获得目标性能。

2.根据权利要求1所述的一种基于力学理论指导迁移学习的钢铁材料疲劳性能预测方法，其特征在于，所述步骤3具体包括以下步骤：

步骤3.1：建立卷积神经网络源模型，模型由卷积层、全连接层、输出层组成，其中卷积层为数量为2，全连接层数量为1；所述卷积层均采用3×3卷积核，激活函数选择ReLU，ReLU公式近似推导如下：

f(x)＝≈max(0,x)

其中x为输入数值；

步骤3.2：将步骤2.2中源数据集的输入数据即K×K维矩阵和输出数据源性能分别输入卷积神经网络源模型中，采用Adam优化器对源模型进行训练，并对Adam优化器进行参数优化；

所述Adam优化器的公式参数设定：为g_t的元素乘操作；α为学习率；β₁,β₂∈[0,1)为矩估计的指数衰减率；f(θ)为参数θ的随机目标函数值；θ₀为初始的参数向量；m₀←0为初始第一矩向量；v₀←0为第二矩向量；t←0为时间步长；

所述Adam优化器的参数优化过程：

当θ_t未收敛时：{t←t+1，获得新一轮的梯度值；

m_t←β₁·m_t-1+(1-β₁)·g_t更新第一矩向量；

更新第二矩向量；

计算偏差校正的第一矩向量；

计算偏差校正的第二矩向量；

更新参数；}

优化过程结束；优化过程中采用MeanSquareError，即MSE作为源模型性能的评价指标；设置源模型训练的迭代次数为t'；

步骤3.3：对源模型训练完毕后，使用该模型对源验证集进行预测，预测精度使用平方相关系数R²和平均绝对误差MAE指标评价，公式如下：

n代表源验证集的样本数据总量，x_i代表测试集内第i个样本，f(x_i)为模型预测的源性能值，y_i所对应的源性能的真实值；

若验证集中数据预测结果的R²均值大于95％，则模型精度达到应用要求；否则返回到步骤3.2，通过调节前述参数优化中优化器学习率、调节迭代次数重新对卷积神经网络源模型进行训练，直至满足应用要求。

3.根据权利要求2所述的一种基于力学理论指导迁移学习的钢铁材料疲劳性能预测方法，其特征在于，所述步骤4具体包括以下步骤：

步骤4.1：建立迁移模型，模型由卷积层、全连接层、输出层组成，其中卷积层为数量为2，全连接层数量为1；其中卷积层和全连接层应用步骤3中建立源模型的模型参数，在迁移模型训练中，卷积层和全连接层保持冻结状态；所述卷积层均采用3×3卷积核，激活函数选择步骤3.1中ReLU函数；

步骤4.2：将步骤2中目标数据集的即K×K维矩阵和输出数据目标性能分别输入到卷积神经网络迁移模型中，采用步骤3.2中Adam优化器对目标模型进行训练，并进行参数优化；

步骤4.3：对迁移模型训练完毕后，对目标验证集进行预测，预测精度使用平方相关系数R²和平均绝对误差MAE指标评价；若验证集中数据预测结果的R²均值大于90％，MAE低于15MPa，则模型精度达到应用要求；否则返回到步骤4.2，通过调节前述参数优化中优化器学习率、调节迭代次数重新对卷积神经网络迁移模型进行训练，直至满足应用要求；

步骤4.4：基于力学理论指导卷积神经网络迁移模型的应用；

通过基于力学理论指导的迁移学习模型的训练建立成分、工艺与目标性能的关系，在迁移学习模型的应用过程中，将目标钢铁材料的成分、工艺参数输入到迁移模型中预测得到对应的目标性能。