CN111209709B - 一种基于人工神经网络的pcm阻值预测方法 - Google Patents

Abstract

本发明公开了一种基于人工神经网络的PCM阻值预测方法，包括以下步骤：步骤S1：选取样本数据；步骤S2：将数据进行仿真处理；步骤S3：将仿真数据转化为数组，并进行归一化处理；步骤S4：将处理后的数据分为训练集和测试集；步骤S5：搭建神经网络模型，将训练集的数据通过神经网络进行训练；步骤S6：将测试集的数据通过训练好的神经网络进行测试。本发明通过选取合适的相变存储器尺寸参数作为神经网络的样本，进行神经网络模型的搭建，通过训练集数据样本对神经网络进行训练，通过测试集数据样本对神经网络进行测试，保证了神经网络的输出准确性，将PCM的阻值预测与人工神经网络进行结合，达到快速准确预测PCM阻值的目的，减少了PCM阻值预测的时长。

Description

一种基于人工神经网络的PCM阻值预测方法

技术领域

本发明涉及存储器技术领域，尤其涉及一种基于人工神经网络的PCM阻值预测方法。

背景技术

当今世界信息技术发展迅猛，人类社会进入了大数据时代，人们通过不断地创造、获取信息而逐步形成了一个庞大的数据网络，如何高效完整地保存这些数据给存储领域带来了诸多挑战，因此为了对海量信息进行存储，人们对于发展高速存储器的需求也显得越来越迫切。

目前，市场上的主流存储器件包括动态随机存储器(Dynamic RandomAccessMemory，DRAM)与闪存(Flash Memory，FM)，DRAM和FM占据了半导体存储的大部分市场，传统的DRAM具有容量大、读写速度快、可靠性高等优点，但是存在破坏性读取等缺点，FM虽然具有容量大，非易失性等优点，但是存在存取速度慢，工作电压较高等缺点，且随着存储器的持续发展，DRAM与FM在尺寸缩小方向进入瓶颈，基于此，人们迫切需要开发出理想的半导体存储器来解决存储技术上所面临的问题，近年来，人们开始致力于研究新型非易失性存储器(Non-Volatile Random Access Memory，NVM)来解决传统存储设备所带的问题，其中典型的NVM包括相变存储器(Phase Change Random Access Memory，PRAM)、磁性随机存储器(Magnetic Random Access Memory，MRAM)、阻变存储器(Resistive SwitchingRandom Access Memory，RRAM)、铁电存储器(Ferroelectric Random Access Memory，FeRAM)，与传统的存储设备相比，新型存储器件具有更高的集成度、更低功耗以及非易失性等优点。

PCM(Phase Change Memory,即相变存储器)是一种非易失存储设备,利用材料的可逆转的相变来存储信息。利用特殊材料(比如硫族化合物)在晶态和非晶态巨大的导电性差异来存储数据。PCM是业界公认的第四代相变存储器的最成熟的技术,以其高集成度、低功耗等特点被认为是替代DRAM的新型NVM技术之一。

PCM的具体实现是利用电能产生的热量变化使得相变材料在晶态(低阻)与非晶态(高阻)之间相互转换,因此可以用非晶态代表“0”,晶态代表“1”从而实现信息的存储。信息的读取操作主要是在PCM两端加一个低电压，若得到一个较大电流则此时PCM的代表状态为“1”，反之存储为“0”。综上，对于PCM阻值是影响其存储性能的关键因素，所以对于PCM的阻值进行测量和预测具有很重要的意义。

传统对于PCM阻值仿真的方式是通过ANSYS、COMSOL等仿真工具的研究居多，也有通过MATLAB或者C++等自行设计仿真算法并编写仿真程序来得到PCM的阻值，但是使用类似的仿真软件，或者自己编写的仿真代码都有一个通病，就是当施加一个比较复杂的脉冲时仿真时间会大大延长，如果预估很多组不同参数的相变存储器的阻值那仿真时间将更加的漫长。

例如，一种在中国专利文献上公开的“相变存储器器件单元测试系统及测试方法”，其公告号：CN1905077B，其申请日：2013年10月30日，包括由主控计算机、脉冲信号发生器、数字信号源、微控探针台和转换连接部件组成的测试系统；通过通用接口总线使主控计算机与脉冲信号发生器和数字信号源相连；主控计算机通过控制卡以及控制电缆使脉冲信号发生器和数字信号源与微控探针台相连；所述的转换连接部件通过控制电缆与主控计算机相连，且它与脉冲信号发生器、数字信号源和微控探针台相连，主控计算机通过控制卡控制微控探针台在脉冲信号发生器和数字信号源之间切换；微控探针台的两个探针分别与相变存储器的上、下电极接触，构成一个相变存储器器件单元；通过相对应的操作软件模块进行电流-电压测试、电压-电流测试、电阻与写脉高测试、电阻与写脉宽测试、电阻与擦脉高的测试、电阻与擦脉宽测试或疲劳特性测试。通过仿真代码软件对相变存储器进行单元测试，依然存在当施加一个比较复杂的脉冲时仿真时间较长的问题。

发明内容

本发明主要解决现有的技术存在对PCM阻值预测时耗时较长的问题；提供一种基于人工神经网络的PCM阻值预测方法，对相变存储器的阻值进行快速预测，提升相变存储器阻值估计效率。

本发明的上述技术问题主要是通过下述技术方案得以解决的：一种基于人工神经网络的PCM阻值预测方法，包括以下步骤：步骤S1：选取样本数据；步骤S2：将数据进行仿真处理；步骤S3：将仿真数据转化为数组，并进行归一化处理；步骤S4：将处理后的数据分为训练集和测试集；步骤S5：搭建神经网络模型，将训练集的数据通过神经网络进行训练；步骤S6：将测试集的数据通过训练好的神经网络进行测试。通过选取合适的样本后制作神经网络模型，利用训练集数据对神经网络进行训练，利用测试集数据对神经网络进行测试，当测试集对神经网络的测试不通过时，将神经网络返回训练集继续进行训练，直到训练好的神经网络通过测试集数据的测试，当神经网络训练好后，即可实现对任意尺寸的任意初始状态的相变存储器，施加任意脉冲后的阻值预测，无需等待太长时间，大大减少了PCM的阻值预测时长，实现对相变存储器的阻值进行快速预测，提升相变存储器阻值估计效率。

作为优选，所述的步骤S1中，数据集的获取通过许多固定尺寸下的不同相态作为初始状态，相变层长宽高的范围分别是400-1400nm,400-1400nm,100-400nm，首先确定具体的固定尺寸，长和宽的维度以200nm为步长，即长选择(400,600,800，...，1400)宽选择(400,600,800，...，1400)，高维度以100nm为步长选择(100,200,300,400)，不同长宽高进行排列组合共6*6*4种，排除掉重复的组合后共84种不同尺寸，每种尺寸以全晶态为初始态施加一个脉冲，逐渐增大脉冲幅值获得不同的相态，每种尺寸下的相态数目为每个数量级(百，千，万，十万)3-4个，百万数量级选取1-2个，总共的相态个数在16个，由此，得出的不同固定尺寸下的相态为84*16＝1344种。将相变层固定尺寸下的不同相态用电阻表示，相变存储器的尺寸参数包括相变存储器的上下电极的长宽高、相变层的长宽高、加热层的长宽高、脉冲波形的幅值以及脉冲波形的脉宽。

作为优选，所述的步骤S2中，根据步骤S1得到的不同固定尺寸下的相态进行仿真，除了固定初始态对应的相变层尺寸，其余尺寸和脉冲参数都设置为随机值，每种初始相态随机仿真8次，获得11000组数据。

作为优选，所述的步骤S3中，对数据进行归一化的方法为：将最大值设为1，最小值设为0，对每个参数按比例进行缩小到0至1之间，使处理完后的输入数据都是0到1之间的数值。由于输入参数的种类不相同，数值差异较大，需要对输入参数进行处理，应对这类问题的主要解决策略为将输入参数中的尺寸参数和脉冲参数进行最大最小归一化处理，同时，因为相变存储器在不同脉冲参数下的阻值差异很大，高阻态与低阻态相差4个数量级，因此对输出的阻值参数和输入参数中的初始阻值参数采用取对数的操作，即使用numpy库中的对数运算函数np.log10()对阻值进行对数运算，最终得到的数值就是阻值的数量级。

作为优选，所述的步骤S4中，设置训练集和测试集时，训练集设置的数据比测试集设置的数据多。将已经仿真出的数据使用python的pandas库中的pd.DataFrame(pd.read_csv())函数将数据读入并使用numpy库中的np.array()函数将读入的数据转化为numpy数组的形式，通过数组的形式将数据分为训练集和测试集，训练集用于神经网络模型的训练，测试集用于对训练好的神经网络模型进行测试。

作为优选，所述的步骤S5中，神经网络的模型搭建包括以下步骤：步骤S51：确定神经网络的输入层、隐藏层和输出层；步骤S52：设置神经网络的偏置值为0.1，对神经网络进行初始化；步骤S53：定义损失函数和优化器使神经网络进行权值更新；步骤S54：将学习率设置为0.01，对训练集数据进行神经网络训练。输入层的神经元个数对应输入参数，设置12个输入神经元，输出层为经过神经网络预测的阻值，隐藏层设置为两层隐藏层，隐藏层神经元个数可调，整个神经网络结构为四层网络结构。

作为优选，所述的步骤S52中，对神经网络的初始化方法为：采用tanh函数为激活函数，通过Xavier初始化方法进行初始化，其计算式为：

其中w代表权值，n_in表示输入层的神经元个数，n_out表示输出层的神经元个数。

作为优选，所述的步骤S53中，损失函数的计算式为：

其中Y_i表示第i组数据的真实电阻值，Y_ipre表示第i组数据的预测电阻值，n为训练集样本容量；

优化器采用Adam算法，其计算式为：

其中，M(t)为梯度的第一时刻平均值，V(t)为梯度的第二时刻非中心方差值，β₁、β₂和∈均为常数，η为偏置值，θ_t为t时刻的神经网络权值，θ_t+1为t+1时刻的神经网络权值。Adam算法即自适应时刻估计方法(Adaptive Moment Estimation)，能计算每个参数的自适应学习率。这个方法不仅存储了AdaDelta(适应性梯度算法)先前平方梯度的指数衰减平均值，而且保持了先前梯度M(t)的指数衰减平均值，这一点与动量类似，在实际应用中，Adam方法效果良好，与其他自适应学习率算法相比，其收敛速度更快，学习效果更为有效，而且可以纠正其他优化技术中存在的问题，如学习率消失、收敛过慢或是高方差的参数更新导致损失函数波动较大等问题。

本发明的有益效果是：通过选取合适的相变存储器尺寸参数作为神经网络的样本，进行神经网络模型的搭建，通过训练集数据样本对神经网络进行训练，通过测试集数据样本对神经网络进行测试，保证了神经网络的输出准确性，将PCM的阻值预测与人工神经网络进行结合，达到快速准确预测PCM阻值的目的，大大减少了PCM阻值预测的时长。

附图说明

图1是实施例一的阻值预测方法流程示意图。

图2是实施例一的神经网络模型示意图。

图3是实施例一的相变存储器的结构示意图。

图中1.上电极，2.下电极，3.绝缘层，4.热阻层，5.存储介质，6.加热器。

具体实施方式

下面通过实施例，并结合附图，对本发明的技术方案作进一步具体的说明。

实施例一：一种基于人工神经网络的PCM阻值预测方法，如图1所示，包括以下步骤：步骤S1：选取样本数据；如图3所示，相变存储器包括上电极1、下电极2、绝缘层3、热阻层4、存储介质5和加热器6，存储介质5为相变层，数据集样本的获取通过许多固定尺寸下的不同相态作为初始状态，相变存储器的参数信息包括上下电极的长宽高、相变层的长宽高、加热层的长宽高、脉冲波形的幅值以及脉冲波形的脉宽，相变层长宽高的范围分别是400-1400nm,400-1400nm,100-400nm，首先确定具体的固定尺寸，长和宽的维度以200nm为步长，即长选择(400,600,800，...，1400)宽选择(400,600,800，...，1400)，高维度以100nm为步长选择(100,200,300,400)，不同长宽高进行排列组合共6*6*4种，排除掉重复的组合后共84种不同尺寸，每种尺寸以全晶态为初始态施加一个脉冲，逐渐增大脉冲幅值获得不同的相态，每种尺寸下的相态数目为每个数量级(百，千，万，十万)3-4个，百万数量级选取1-2个，总共的相态个数在16个，由此，得出的不同固定尺寸下的相态为84*16＝1344种。

步骤S2：将数据进行仿真处理；根据步骤S1得到的不同固定尺寸下的相态进行仿真，除了固定初始态对应的相变层尺寸，其余尺寸和脉冲参数都设置为随机值，每种初始相态随机仿真8次，获得11000组数据。

步骤S3：将仿真数据转化为数组，并进行归一化处理；对数据进行归一化的方法为：将最大值设为1，最小值设为0，对每个参数按比例进行缩小到0至1之间，使处理完后的输入数据都是0到1之间的数值。

步骤S4：将处理后的数据分为训练集和测试集；将已经仿真出的数据使用python的pandas库中的pd.DataFrame(pd.read_csv())函数将数据读入并使用numpy库中的np.array()函数将读入的数据转化为numpy数组的形式，通过数组的形式将数据分为训练集和测试集，训练集用于神经网络模型的训练，测试集用于对训练好的神经网络模型进行测试，训练集设置多一些的数据样本，测试集设置少一些的数据样本。

步骤S5：如图2所示，搭建神经网络模型，将训练集的数据通过神经网络进行训练；神经网络的模型搭建包括以下步骤：步骤S51：确定神经网络的输入层、隐藏层和输出层，输入层的神经元个数对应输入参数，设置12个输入神经元，输出层为经过神经网络预测的阻值，隐藏层设置为两层隐藏层，隐藏层神经元个数可调，整个神经网络结构为四层网络结构。

步骤S52：设置神经网络的偏置值为0.1，对神经网络进行初始化；对神经网络的初始化方法为：采用tanh函数为激活函数，通过Xavier初始化方法进行初始化，其计算式为：

其中w代表权值，n_in表示输入层的神经元个数，n_out表示输出层的神经元个数。

步骤S53：定义损失函数和优化器使神经网络进行权值更新；损失函数的计算式为：

其中Y_i表示第i组数据的真实电阻值，Y_ipre表示第i组数据的预测电阻值，n为训练集样本容量；

优化器采用Adam算法，其计算式为：

其中，M(t)为梯度的第一时刻平均值，V(t)为梯度的第二时刻非中心方差值，β₁、β₂和∈均为常数，η为偏置值，θ_t为t时刻的神经网络权值，θ_t+1为t+1时刻的神经网络权值，Adam算法即自适应时刻估计方法(Adaptive Moment Estimation)，能计算每个参数的自适应学习率。这个方法不仅存储了AdaDelta(适应性梯度算法)先前平方梯度的指数衰减平均值，而且保持了先前梯度M(t)的指数衰减平均值，这一点与动量类似，在实际应用中，Adam方法效果良好，与其他自适应学习率算法相比，其收敛速度更快，学习效果更为有效，而且可以纠正其他优化技术中存在的问题，如学习率消失、收敛过慢或是高方差的参数更新导致损失函数波动较大等问题；步骤S54：将学习率设置为0.01，对训练集数据进行神经网络训练。

步骤S6：将测试集的数据通过训练好的神经网络进行测试。

在具体应用中，选取合适的样本数据后，进行神经网络的搭建，设置神经网络偏置值、学习率以及迭代次数，设置迭代次数为50000次，保证神经网络能输出全局最优解，同时，使用python中的matplotlib.pyplot中的函数将损失函数随训练次数下降的图绘画出来，方便测试时进行损失函数曲线图的对比，当神经网络通过测试后，即可应用于PCM阻值的预测，只需将一个已知电阻值的PCM并将其阻值，尺寸参数和脉冲值输入到训练好的网络中就可以得到这组尺寸下的PCM经过脉冲后的电阻值，从而实现对阻值的预测功能。

以上所述的实施例只是本发明的一种较佳的方案，并非对本发明作任何形式上的限制，在不超出权利要求所记载的技术方案的前提下还有其它的变体及改型。

Claims (5)

1.一种基于人工神经网络的PCM阻值预测方法，其特征在于，包括以下步骤：

步骤S1：选取样本数据；

步骤S2：将数据进行仿真处理；

步骤S3：将仿真数据转化为数组，并进行归一化处理；

步骤S4：将处理后的数据分为训练集和测试集；

步骤S5：搭建神经网络模型，将训练集的数据通过神经网络进行训练；

步骤S6：将测试集的数据通过训练好的神经网络进行测试；

所述步骤S1中，数据集的获取通过许多固定尺寸下的不同相态作为初始状态，相变层长宽高的范围分别是400-1400nm,400-1400nm,100-400nm，首先确定具体的固定尺寸，长和宽的维度以200nm为步长，即长选择(400,600,800，...，1400)宽选择(400,600,800，...，1400)，高维度以100nm为步长选择(100,200,300,400)，不同长宽高进行排列组合共6*6*4种，排除掉重复的组合后共84种不同尺寸，每种尺寸以全晶态为初始态施加一个脉冲，逐渐增大脉冲幅值获得不同的相态，每种尺寸下的相态数目为百、千、万、十万数量级各3-4个，百万数量级选取1-2个，总共的相态个数在16个，由此，得出的不同固定尺寸下的相态为84*16＝1344种；

步骤S2中，根据步骤S1得到的不同固定尺寸下的相态进行仿真，除了固定初始态对应的相变层尺寸，其余尺寸和脉冲参数都设置为随机值，每种初始相态随机仿真8次，获得11000组数据；

步骤S5中，神经网络的模型搭建包括以下步骤：

步骤S51：确定神经网络的输入层、隐藏层和输出层；

步骤S52：设置神经网络的偏置值为0.1，对神经网络进行初始化；

步骤S53：定义损失函数和优化器使神经网络进行权值更新；

步骤S54：将学习率设置为0.01，对训练集数据进行神经网络训练。

2.根据权利要求1所述的一种基于人工神经网络的PCM阻值预测方法，其特征在于，所述步骤S3中，对数据进行归一化的方法为：将最大值设为1，最小值设为0，对每个参数按比例进行缩小到0至1之间，使处理完后的输入数据都是0到1之间的数值。

3.根据权利要求1所述的一种基于人工神经网络的PCM阻值预测方法，其特征在于，所述步骤S4中，设置训练集和测试集时，训练集设置的数据比测试集设置的数据多。

4.根据权利要求1所述的一种基于人工神经网络的PCM阻值预测方法，其特征在于，所述步骤S52中，对神经网络的初始化方法为：采用tanh函数为激活函数，通过Xavier初始化方法进行初始化，其计算式为：

其中w代表权值，n_in表示输入层的神经元个数，n_out表示输出层的神经元个数。

5.根据权利要求1或4所述的一种基于人工神经网络的PCM阻值预测方法，其特征在于，所述步骤S53中，损失函数的计算式为：

其中Y_i表示第i组数据的真实电阻值，Y_ipre表示第i组数据的预测电阻值，n为训练集样本容量；

优化器采用Adam算法，其计算式为：

其中，M(t)为梯度的第一时刻平均值，V(t)为梯度的第二时刻非中心方差值，β₁、β₂和∈均为常数，η为偏置值，θ_t为t时刻的神经网络权值，θ_t+1为t+1时刻的神经网络权值。