CN111854822B - 一种基于相关熵和深层神经网络的半导体过程数据矫正方法 - Google Patents

Abstract

本发明公开了一种基于相关熵和深层神经网络的半导体过程数据矫正方法，包括：(1)采集与待矫正变量对应的过程变量传感器的输出信号；(2)将每个变量输入建立好的深层神经网络模型，逐层提取变量的相关性信息，收集模型最后一层的特征输出至映射函数，并与输入变量对比，建立回归模型；(3)保存当前模型的参数权重，计算最终目标函数值，若不满足停止条件，更新参数权重并重复步骤(2)；(4)更改网络层数与特征迭代层数，并重复步骤(2)和(3)，直到达到最大层数；(5)选择得到矫正结果最好的网络层数和特征迭代层数；保存各层参数值，对待矫正数据进行计算并获得矫正值。利用本发明，获取更低误差的数据矫正结果。

Description

一种基于相关熵和深层神经网络的半导体过程数据矫正方法

技术领域

本发明属于工业系统中过程监控领域，尤其是涉及一种基于相关熵和深层神经网络的半导体过程数据矫正方法。

背景技术

近年来，诸如过程监控，软测量之类的数据驱动方法已被确立为半导体行业中强大的过程控制工具。因此，测量过程数据的可靠性和准确性对于化学工业中工厂的高效，盈利和安全运行至关重要。

但是，由于过程的可变性和测量技术的局限性等因素，在线测量的数据通常会受到随机误差和重大误差的干扰。通过改进原始数据集，可以显着提高过程性能和维护效率。因此，可以减轻原始数据中的错误影响的数据矫正已成为数据分析中的重要领域研究。

在半导体行业中，数据矫正也称为偏差估计。研究人员基于已知的变量关系模型，结合变量的统计信息，选择有效的估计方法，进而改进目标函数并消除误差。尽管这些方法在工程过程中表现出色，但所有这些方法都需要精准的模型关系作为先验知识，否则校正后的数据将因模型不匹配而失真。

而对于部分真实工业过程，想要准确得到过程模型比较困难。另一方面，对于模型里的重大误差，传统的模型基于变量的统计关系，预先判断是否为重大误差，之后采用补零或补平均值的方式解决。但是这一方法仅考虑单一变量的统计知识，没有考虑到整个过程其他变量之间的关系，可能会造成不恰当的矫正结果。

基于以上背景，需要考虑找到一种方法，可以通过采集的原始样本数据挖掘出数据关系，代替难以获取的先验知识，并以此作为矫正的依据，得到更好的校正值。

发明内容

本发明提供了一种基于相关熵和深层神经网络的半导体过程数据矫正方法，能够适用于含有随机误差和重大误差的过程测量值，只需获取常规运行数据，无需任何先验知识或预处理。

一种基于相关熵和深层神经网络的半导体过程数据矫正方法，包括：

(1)对于存在扰动的控制过程，采集与待矫正变量对应的过程变量传感器的输出信号；

(2)将每个变量直接输入建立好的深层神经网络模型，逐层提取变量中的相关性信息，收集模型最后一层的特征输出至输出映射函数，并与输入变量数值对比，建立回归模型；具体过程如下：

(2-1)x∈R^D表示D维带有误差的变量输入，对于第t(t＝1，2，…，T)步骤的第一层隐节点得到：

其中，φ_h为非线性激活函数，W₁，U₁与b₁分别为第一层水平和垂直方向权重矩阵，以及第一层隐节点偏差向量；以第一层隐节点为基础，深层神经网络模型的深层特征表示为：

为第l层特征深层传递函数，W_l，U_l与b_l分别为第l层水平和垂直方向权重矩阵，以及第l层隐节点偏差向量；隐节点

右上标表示特征层数，右下标表示迭代步骤；

(2-2)经由多层多步骤连续迭代后，最后一层网络输出为矫正值o_T：

g_o为输出层映射函数，φ_o为输出非线性激活函数；V与b_o分别为输出层权重矩阵与偏差向量；

(3)保存当前深层神经网络模型的参数权重，计算最终目标函数值，目标函数采用相关熵函数；若不满足停止条件，更新参数权重并重复步骤(2)，直至达到停止条件；

(4)更改网络层数与特征迭代层数，并重复步骤(2)和(3)，直到达到最大层数；

(5)选择得到矫正结果最好的网络层数与特征迭代层数；保存各层参数值，将新的待矫正数据输入深层神经网络模型，重新计算并获得矫正值。

本发明可以减少随机和严重误差的干扰，改进原始数据，显著提高过程性能与维护效率，从而降低生产损失，在提高经济效益方面具有重要的实用价值。

本发明与传统基于模型方法不同，不必依赖先验知识的准确性，可以通过直接建立模型挖掘数据之间关系并将其用于调整数据误差，而矫正的好的数据也能得到准确的变量模型；考虑到半导体过程的复杂性，深度神经网络用于提取过程变量的浅层与深层特征；与一般基于数据的原始空间矫正模型不同，本发明考虑特征空间的逐步矫正；与传统进行预处理的方法不同，本发明在获取关系的同时进行数据矫正，直接在目标函数中引入相关熵，可以更有效的考虑各变量之间的关系，不依赖于某一变量自身的特点，从而得到更好的矫正结果。

步骤(2)中，输入的变量包含随机误差和重大误差，无需经过预处理直接输入深层神经网络模型。

深层神经网络模型的输入输出均为测量变量，用以得到变量之间的关系。

步骤(3)中，所述的相关熵函数表示为：

ξ_d＝x_d-o_T,d

其中，

为相关熵函数，σ_d表示相关熵函数中对应第d维变量的可调参数，ξ_d为对应第d维变量测量值与矫正值的差值。

采用梯度下降法训练更新参数：

其中，α表示固定的学习率并且α＞0，输出层参数梯度

以及目标函数对输出值偏导由以下公式得到，

其中，符号

表示按元素一对一相乘，

对

偏导，δ_o,d为δ_o向量内部数值；而深层网络参数梯度

与

由以下公式得到：

其中，φ'_h为

对

偏导；另外，其余的迭代部分，即目标函数对每一层隐节点偏导表示为：

所述的停止条件为：目标函数达到最小值或循环次数达到设定最大循环次数。

(4)更改网络层数与特征迭代层数，并重复步骤(2)和(3)，直到达到最大层数；

(5)选择得到矫正结果最好的网络层数和特征迭代层数；保存各层参数值，将新的待矫正数据输入深层神经网络模型，重新计算并获得矫正值。

与现有技术相比，本发明具有以下有益效果：

1、本发明将输入输出都定义为变量本身，类比黑盒模型，有效地提取了变量之间的关系，由此替代原有的先验知识，作为变量内部的约束，更好的矫正数据。

2、本发明中，得到一定矫正的数据可以进一步促进模型关系更准确地表达，在一定程度上也推进了矫正结果的准确性。

3、本发明中不采用原空间数据的迭代，使用浅层与深层特征迭代，更好更全面地表达数据之间关系，同时，每一步骤特征均可映射为校正值输出，直到选取合适层数步骤数，同时得到准确的矫正值。

4、对于选择合适的模型，由于模型权重矩阵及偏差向量在每一层每一步骤共享，所以在选择模型时，只需要调整模型层数，减少调参压力。

5、本发明采用基于相关熵的估计方法，进一步优化目标函数，使得目标函数也可以处理重大误差；可通过有效的基于梯度的方法自动调整内置参数。

6、本发明完全采用数据驱动型的方法，无需过程先验知识，无需预先设计滤波器。

附图说明

图1为本发明一种基于相关熵和深层神经网络的半导体过程数据矫正方法流程示意图；

图2为本发明实施例中深层神经网络模型的结构示意图；

图3为本发明实施例中过程带误差的测量值与模型输出校正值的示意图。

具体实施方式

下面结合附图和实施例对本发明做进一步详细描述，需要指出的是，以下所述实施例旨在便于对本发明的理解，而对其不起任何限定作用。

下面以国内某工厂的沉积过程结果预估为例，对经由多阶段化工过程的晶圆高度值进行虚拟计量。

在生产过程中，化学气相沉积过程，与半导体工业中经常使用的在表面上涂覆固体薄膜涂层工艺相似。此过程是复杂的，因为它涉及许多化学反应，多反应器系统中的反应器是独立控制的，以便在各种条件下使膜沉积在工艺室中。化学气相沉积设备配备了相当数量的传感器。由于不稳定的生产环境和不可靠的测量仪器，这些测量包括随机误差和严重误差。因此，用于获得可靠测量结果的准确模型有助于优化操作，以及随后进行一系列控制。

如图1所示，一种基于相关熵和深层神经网络的半导体过程数据矫正方法，包括以下步骤：

步骤1，对于存在扰动的控制过程，采集与待矫正变量对应的过程变量传感器的输出信号。

步骤2，将每个变量直接输入建立好的深层神经网络模型，逐层提取变量中的相关性信息，收集模型最后一层的特征输出至输出映射函数，并与输入变量数值对比，建立回归模型；

如图2所示，整个模型建模步骤如下：

(2-1)x∈R^D表示D维带有误差的变量输入，对于第t(t＝1，2，…，T)步骤的第一层隐节点可以得到：

其中，φ_h为非线性激活函数，W₁，U₁与b₁分别为第一层水平和垂直方向权重矩阵，以及第一层隐节点偏差向量。以第一层隐节点为基础，模型深层特征表示为：

为第l层特征深层传递函数，W_l，U_l与b_l分别为第l层水平和垂直方向权重矩阵，以及第l层隐节点偏差向量。隐节点

右上标表示特征层数，右下标表示迭代步骤。

(2-2)经由多层多步骤连续迭代后，最后一层网络输出为矫正值o_T：

g_o为输出层映射函数，φ_o为输出非线性激活函数。V与b_o分别为输出层权重矩阵与偏差向量。

步骤3，保存当前模型的参数权重，计算最终目标函数值，目标函数采用相关熵函数；若不满足停止条件，更新参数权重并重复步骤(2)，直至达到停止条件。

由于除了随机误差，本文还考虑工业过程中由于额外的扰动变量内会出现的重大误差，而传统的均方差目标函数对这一类误差较为敏感，所以无法在此处将均方差作为目标函数。由此，引入基于相关熵的目标函数，可以表示为：

ξ_d＝x_d-o_T,d

其中，

为相关熵函数，σ_d表示相关熵函数中对应第d维变量的可调参数，ξ_d为对应第d维变量测量值与矫正值的差值。

根据梯度下降法训练更新参数：

其中，α表示固定的学习率并且α＞0，输出层参数梯度

以及目标函数对输出值偏导由以下公式得到，

其中，符号

表示按元素一对一相乘，φ'_o为

对

偏导，δ_o,d为δ_o向量内部数值。而深层网络参数梯度

与

由以下公式得到：

其中，φ'_h为

对

偏导。另外，其余的迭代部分可表示为：

步骤4，更改网络层数与特征迭代层数，并重复步骤2和3，直到达到最大层数。

步骤5，选择得到矫正结果最好的网络层数与特征迭代层数；保存各层参数值，将新的待矫正数据输入深层神经网络模型，重新计算并获得矫正值。

本实施例中，结果如图3所示，所提出的方法表现很好，矫正了随机误差，也检测出重大误差并获得相应的校正值。

以上所述的实施例对本发明的技术方案和有益效果进行了详细说明，应理解的是以上所述仅为本发明的具体实施例，并不用于限制本发明，凡在本发明的原则范围内所做的任何修改、补充和等同替换，均应包含在本发明的保护范围之内。

Claims (3)

1.一种基于相关熵和深层神经网络的半导体过程数据矫正方法，其特征在于，包括：

(1)对于存在扰动的控制过程，采集与待矫正变量对应的过程变量传感器的输出信号；

(2)将每个变量直接输入建立好的深层神经网络模型，逐层提取变量中的相关性信息，收集模型最后一层的特征输出至输出映射函数，并与输入变量数值对比，建立回归模型；具体过程如下：

(2-1)x∈R^D表示D维带有误差的变量输入，对于第t步骤的第一层隐节点得到：

其中，t＝1,2,…,T，φ_h为非线性激活函数，W₁，U₁与b₁分别为第一层水平和垂直方向权重矩阵，以及第一层隐节点偏差向量；以第一层隐节点为基础，深层神经网络模型的深层特征表示为：

为第l层特征深层传递函数，W_l，U_l与b_l分别为第l层水平和垂直方向权重矩阵，以及第l层隐节点偏差向量；隐节点

右上标表示特征层数，右下标表示迭代步骤；

(2-2)经由多层多步骤连续迭代后，最后一层网络输出为矫正值o_T：

g_o为输出层映射函数，φ_o为输出非线性激活函数；V与b_o分别为输出层权重矩阵与偏差向量；

(3)保存当前深层神经网络模型的参数权重，计算最终目标函数值，目标函数采用相关熵函数；若不满足停止条件，更新参数权重并重复步骤(2)，直至达到停止条件；所述的停止条件为：目标函数达到最小值或循环次数达到设定最大循环次数；

所述的相关熵函数表示为：

ξ_d＝x_d-o_T,d

其中，

为相关熵函数，σ_d表示相关熵函数中对应第d维变量的可调参数，ξ_d为对应第d维变量测量值与矫正值的差值；

采用梯度下降法训练更新参数：

其中，α表示固定的学习率并且α＞0，输出层参数梯度

以及目标函数对输出值偏导由以下公式得到，

其中，符号

表示按元素一对一相乘，φ'_o为

对

偏导，δ_o,d为δ_o向量内部数值；而深层网络参数梯度

与

由以下公式得到：

其中，φ'_h为

对

偏导；另外，其余的迭代部分，即目标函数对每一层隐节点偏导表示为：

(4)更改网络层数与特征迭代层数，并重复步骤(2)和(3)，直到达到最大层数；

(5)选择得到矫正结果最好的网络层数和特征迭代层数；保存各层参数值，将新的待矫正数据输入深层神经网络模型，重新计算并获得矫正值。

2.根据权利要求1所述的基于相关熵和深层神经网络的半导体过程数据矫正方法，其特征在于，步骤(2)中，输入的变量包含随机误差和重大误差，无需经过预处理直接输入深层神经网络模型。

3.根据权利要求1所述的基于相关熵和深层神经网络的半导体过程数据矫正方法，其特征在于，步骤(2)中，深层神经网络模型的输入输出均为测量变量，用以得到变量之间的关系。

Images