CN109947588B - 一种基于支持向量回归法的NAND Flash位错误率预测方法 - Google Patents

Abstract

本发明公开了一种基于支持向量回归法的NAND Flash位错误率预测方法，根据NAND Flash芯片中数据驻留时间和P/E周期数对位错误率影响较大的特性，以及支持向量回归小样本、高准确度的特性，对芯片进行人为磨损实验，获得数据，通过已有数据，建立位错误率与数据驻留时间及P/E周期数之间的三维模型，从而对芯片的位错误率进行预测，以此来指导纠错算法的适配，提高数据的存储可靠性，相较于传统的利用神经网络法进行预测，本发明的基于支持向量回归法的位错误率预测方法在精确度相同的情况下，效率提高了五倍多。

Description

一种基于支持向量回归法的NAND Flash位错误率预测方法

技术领域

本发明涉及固态存储技术领域，更具体的说是涉及一种基于支持向量回归法的NAND Flash位错误率预测方法。

背景技术

目前，随着Flash技术的不断提高，NAND Flash凭借高密度、大容量、低功耗、数据非易失、I/O响应快等独有的特性而得到了快速的发展，逐渐成为高速大容量存储系统的主要存储介质，得益于全球半导体生产工艺的迅速提高，NAND Flash的特征尺寸在不断缩小，其存储密度不断增加，但是在降低单位存储成本的同时，牺牲了其存储可靠性，结构尺寸缩小，导致NAND Flash相邻单元阈值电压的间隔变小，在数据存取时，存储胞元极易受到干扰，使得其存储可靠性不断降低，尤其随着MLC(Multi-Level Cell)以及TLC(Trinary-Level Cell)芯片的出现，NAND Flash的不稳定性更加明显。

为了保证NAND Flash存储数据的可靠性，需要为NAND Flash适配各种不同纠错能力的纠错编码，而具体使用何种纠错码依赖于对Flash位错误率的准确把握，NAND Flash投入应用的前期，因为其氧化层特性稳定，一般不会出现严重的错误，但是随着NAND Flash使用过程中P/E周期数的不断增加，其发生错误的概率将近似呈现出指数级上升。影响NANDFlash存储可靠性的错误类型宏观上主要表现为数据驻留错误、编程干扰错误、读错误和擦除错误四种，对于各种不同类型的错误，其错误发生的比率有显著差异。数据驻留错误是占支配地位的，并且高度依赖于驻留时间，编程干扰错误则排第二，读取错误比驻留错误的错误率稍低，擦除错误的错误率最低，通常只有读取错误的7％左右。因此，如果能够得到存储芯片在不同P/E周期数，不同驻留时间下的位错误率，就可以适配合适的纠错算法，以提高NAND Flash的可靠性。

因此，如何获得NAND Flash在不同P/E周期数和不同驻留时间下的位错误率，提前预知并综合错误分布情况，寻找NAND Flash合适的纠错算法是本领域技术人员亟需解决的问题。

发明内容

有鉴于此，本发明提供了一种基于支持向量回归法的NAND Flash位错误率预测方法，利用NAND Flash芯片位错误率随着P/E周期数和驻留时间的增加而增加的特性，对芯片中各个物理块的位错误率进行预测，针对不同的错误率所需纠错编码的纠错能力不同，根据提前预测出的NAND Flash位错误率的分布情况，为纠错算法的适配提供指导，保证NANDFlash存储数据的可靠性。

为了实现上述目的，本发明采用如下技术方案：

一种基于支持向量回归法的NAND Flash位错误率预测方法，包括：利用支持向量回归法根据P/E周期数和驻留时间预测芯片的位错误率，具体步骤如下：

步骤1：建立芯片位错误率模型，选取与待预测芯片相同型号的测试芯片进行磨损试验，根据试验数据，建立所述位错误率与所述P/E周期数和所述驻留时间之间的三维模型；

步骤2：进行待预测芯片位错误率的预测，选取所述待预测芯片内要预测的物理块，读取所述物理块的所述P/E周期数和所述驻留时间，代入所述三维模型评估出所述位错误率。

优选的，所述三维模型的具体建立步骤如下：

步骤11：选取与所述待预测芯片相同型号的所述测试芯片，在所述测试芯片内选取m个所述物理块进行不同程度的人为磨损，每个所述物理块对应一个所述P/E周期数，则选取不同的所述P/E周期数共m次，并连续采集每个所述物理块不同所述驻留时间n天的位错误率数据；

步骤12：将所述P/E周期数m、所述驻留时间n和所述位错误率数据整理成N*2矩阵格式的输入表格和N*1矩阵格式的输出表格，其中N＝n*m，所述输入表格和所述输出表格的每一行内容相互对应；

步骤13：设定所述待预测芯片的所述物理块的所述驻留时间和所述P/E周期数的最大值，设定建模所需的所述测试芯片采集数据的范围，获得设定范围内所述P/E周期数和所述驻留时间的最小值，以及所述设定范围内的所述位错误率数据的最大值和最小值，采用数据归一化公式X＝2*(x-x_min)/(x_max-x_min)-1，对所述驻留时间、所述P/E周期数和所述位错误率数据分别进行归一化处理，所有数据都处于[-1,1]区间内，x_min为所述最小值，x_max为所述最大值；

步骤14：采用支持向量回归法进行模型训练首先要选取支持向量参数，利用遗传算法进行支持向量参数寻优，得到最优参数；

步骤15：根据所述最优参数并采用支持向量回归法对所述位错误率数据进行模型训练，并保存所得所述三维模型。

优选的，所述待预测芯片位错误率预测的具体计算过程如下：

步骤21：从所述待预测芯片中选择需要预测的M个所述物理块，读取出被选中的所述物理块的数据，所述数据包括所述物理块所经历的所述P/E周期数和所述驻留时间；

步骤22：将读取出的所述数据整理成M*2矩阵格式，并采用与步骤13中相同的归一化因子，对所述数据做归一化处理，得到归一化数据，所述归一化因子包括所述x_min、所述x_max和x_max-x_min；

步骤23：调用训练好的所述三维模型，将所述归一化数据输入所述三维模型，得到模型输出结果；

步骤24：对所述模型输出结果进行反归一化处理，得到预测结果并将所述预测结果输出。

经由上述的技术方案可知，与现有技术相比，本发明公开提供了一种基于支持向量回归法的NAND Flash位错误率预测方法，采用支持向量回归法根据驻留时间、P/E周期数和位错误数据进行模型训练，建立的模型用于待预测芯片的后期指导纠错算法的自动配适，本发明的NAND Flash芯片位错误率预测方法相较于传统的神经网络算法进行预测，在保证准确率的情况下，其工作效率更高，所需入口参数较少，预测用时更短。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1附图为本发明提供的NAND Flash芯片位错误率预测方法结构示意图；

图2附图为本发明提供的NAND Flash芯片位错误率模型建立流程结构示意图；

图3附图为本发明提供的位错误率预测流程结构示意图；

图4附图为本发明提供的实施例中神经网络模型预测及误差示意图；

图5附图为本发明提供的实施例中支持向量回归模型预测及误差示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明实施例公开了一种基于支持向量回归法的NAND Flash位错误率预测方法，包括：利用支持向量回归法根据P/E周期数和驻留时间预测芯片的位错误率，具体步骤如下：

S1：建立芯片位错误率模型，选取与待预测芯片相同型号的测试芯片进行磨损试验，根据试验数据，建立位错误率与P/E周期数和驻留时间的三维模型；S2：进行待预测芯片位错误率的预测，选取待预测芯片内要测试的物理块，读取物理块的P/E周期数和驻留时间，代入三维模型评估出位错误率。

为了进一步优化上述技术方案，三维模型的具体建立步骤如下：

S11：选取与待预测芯片相同型号的测试芯片，在测试芯片内选取m个物理块进行不同程度的人为磨损，每个物理块对应一个P/E周期数，则选取不同的P/E周期数共m次，并连续采集每个物理块不同驻留时间n天的位错误率数据；

S12：将P/E周期数m、驻留时间n和位错误率数据整理成N*2矩阵格式的输入表格和N*1矩阵格式的输出表格，其中N＝n*m，输入表格和输出表格的每一行内容相互对应；

S13：设定待预测芯片的物理块的驻留时间和P/E周期数的最大值x_max，设定建模所需的测试芯片采集数据的范围，获得设定范围内P/E周期数和驻留时间的最小值x_min，以及设定范围内的位错误率数据的最大值x_max和最小值x_min，采用数据归一化公式X＝2*(x-x_min)/(x_max-x_min)-1，根据获得的驻留天数的最大值X_max和最小值x_min对驻留时间进行归一化处理，根据获得的P/E周期数的最大值X_max和最小值x_min对P/E周期数进行归一化处理，根据获得的位错误率数据的最大值X_max和最小值x_min对位错误率数据进行归一化处理，所有数据都处于[-1,1]区间内，最终生成归一化后的输入表格和输出表格；

S14：利用支持向量回归法进行模型训练需要选取支持向量参数，利用遗传算法进行支持向量参数寻优，得到最优参数；

S15：根据最优参数采用支持向量回归法对数据进行模型训练，并保存所得三维模型。

为了进一步优化上述技术方案，待预测芯片位错误率预测的具体计算过程如下：

S21：从待预测芯片中选择需要预测的M个物理块，读取出被选中的物理块的数据，数据包括物理块所经历的P/E周期数和驻留时间；

S22：将读取出的数据整理成M*2矩阵格式，并采用与S13中相同的归一化因子，对数据做归一化处理，得到归一化数据，归一化因子包括x_min、x_max和x_max-x_min；

S23：调用训练好的三维模型，将归一化数据输入三维模型，得到模型输出结果；

S24：对模型输出结果进行反归一化处理，得到预测结果并将预测结果输出。

为了进一步优化上述技术方案，步骤S14中利用遗传算法进行参数寻优的具体计算过程为：

S1421：参数初始化，定义种群中个体数数量为I，最大遗传代数为Q，K折交叉验证，交叉概率为Pc，变异概率为Pm＝0.7/L和终止进化条件，并随机生成I个个体作为初始种群X(0)，设置进化代数计数器t＝0；

S1422：染色体编码及初始种群的产生，定义染色体长度为L，并按经验设定径向基核函数的尺度参数和SVR(支持向量回归机)惩罚因子C的范围，然后根据设定的惩罚因子C的范围和染色体长度L进行离散化及二进制编码，随机产生I个编码的初始种群；

离散化及二进制编码方法为：例如设定惩罚因子C的范围为[-1,2]，染色体长度L＝12，则分为的端点二进制表示为<000000000000>和<111111111111>，因此每间隔s＝[2-(-1)]/[2^(12)-1]为一个编码，如随机数为-0.677，则其对应的编码为[-0.677-(-1)]/s，二进制表示为<000110111001>；

S1423：用SVR算法计算个体适应度值，即建立适应度函数，从而得到不同染色体的适应度值；

具体计算过程为：首先，将已知数据分为K份，用K-1份作为训练集，剩余一份作为测试集，进行SVR运算，重复K次该过程，令每一份样本均充当一次测试集；然后，用K次测试产生的均方误差MSE的平均值作为K折交叉验证的平均绝对误差MAE，记为MSEcv，MSEcv能够很好的衡量整个训练集的训练效果，所以本发明将适应度函数定义为MSEcv。公式定义如下：

式(1)中n表示训练集中样本的数目，

为样本数据的预测值，y_i为实际值，若适应度函数值越小，则个体效果越优，适应度越高，被选择的遗传到下一代的概率就越大；

S1424：进行选择、交叉和变异，首先应用选择算子，采用随机遍历法从进化种群X(t-1)中选择出一部分个体，共S个，构建集合为X(t)；其次，对所选择的S个优势个体，依照交叉概率Pc进行两两单点交叉操作；最后，将经过交叉的S个个体，依照变异概率Pm对S个个体对应的编码进行变异操作，形成S个候选个体，使用步骤S1423中的适应度函数计算S个候选个体的适应度。

S1425：产生子代，从经过适应度计算所形成的S个候选个体和步骤S1421中的I个父代个体中，根据适应度排序选择出适应度较高的I个个体组成新一代种群X(t+1)，同时令t＝t+1。

S1426：判断是否满足终止进化条件，若种群中最优个体所对应的适应度函数值足够大或者算法已连续运行多代，且个体的最佳适应度值无明显改进，或者达到设定最大进化代数则结束，否则进入步骤S1424继续进行；

S1427：解码，如种群X(t+1)已满足终止进化条件,则对该组种群X(t+1)中适应度最高的个体进行解码，即找到对应的SVR参数，此为最优解。

为了进一步优化上述技术方案，步骤S15中的支持向量回归法进行模型训练的具体计算过程为：

S1411：采集数据，确定训练集{(x₁,y₁),…,(x_l,y_l)}，其中x_i∈R²,y_i∈R,i＝1,…l；S1412：选择合适的不敏感损失函数ε，利用遗传算法寻优得到适当的核函数的尺度参数σ和SVR惩罚因子C，遗传算法的输入数据集为步骤S13中归一化后的输入和输出表格，选择径向基核函数为

S1413：进行约束优化，构造Lagrange函数的对偶行驶，求解决策函数中的系数：

K(x_i,y_j)为步骤S1412中的径向基核函数结果，(x_i,y_j)_T为输入表格数据，y_i为输出表格数据，最终得到最优解集合

S1414：构造决策函数

式(4)中

的计算过程如下：

选择开区间(0，C)中的

或

若选到的是

则

若选到的是

则

决策函数为回归函数，用来预测位错误率，输入步骤S22中的归一化表格，输出预测的位错误率。

为了进一步优化上述技术方案，步骤S24通过调用归一化过程中已建立的归一化因子进行反归一化，利用如下公式进行计算：

Y＝(X+1)*(x_max-x_min)/2+x_min (7)

式(7)中X为步骤S23中的模型输出结果，Y为反归一化结果，即为预测结果。

实施例1

采用美光公司一款页宽为4096字节的MLC型NAND Flash芯片做实验，进行位错误率预测，首先利用随机数生成函数，生成大小为4k字节‘0’，‘1’比例为1:1的数据，分别写入NAND Flash芯片不同的数据页，然后选取芯片中不同的66个物理块，每个物理块对应一个固定的P/E周期进行不间断的编程/擦除周期(P/E)循环，本实施例P/E周期数采集数据的选取规则为，间隔100P/E周期的磨损力度，从1P/E周期到5000P/E周期共采集51组数据，以1000P/E周期的间隔，从5000P/E周期到20000P/E周期，共采集15组数据。按照这种采集规则，连续采集不同驻留时间的位错误率数据，共采集200天，根据采集的位错误率数据、P/E周期数和驻留时间，利用支持向量回归法建立三维模型，以此来评估不同的P/E周期和驻留时间对位错误率的影响。在本实施例中选取驻留时间为15-114天的数据利用支持向量回归法进行训练和预测，其预测效果与一个两层神经网络预测效果的对比结果如下：

(1)对比支持向量法与神经网络法的精度

表1神经网络模型和支持向量回归模型预测效果对比

图4中a)为神经网络模型115-164天位错误率预测，b)为神经网络模型位错误率预测误差；图5中a)为支持向量回归模型115-164天位错误率预测，b)为支持向量回归模型位错误率预测误差。由上述图和表1可看出，忽略P/E周期数较低时的较大误差，支持向量回归模型和神经网络模型的预测效果相当，在P/E周期数为1000次以上，支持向量回归模型的平均相对误差为2.57％，与神经网络模型的平均相对误差2.53％相差很小，说明采用神经网络模型和支持向量回归模型预测效果相近。

(2)对比支持向量法模型与神经网络法模型预测位错误率的效率

由于本发明所建模型是为了预测位错误率为纠错算法提供指导，因此对速度有一定要求，故当需要对大量数据进行预测时，其所需的时间长短就极为重要，表2是输入一个驻留时间与P/E周期数的数据对时，预测其位错误率所需的时间。

表2预测一组数据所需时间

从表2中可看出，神经网络模型做预测所需时间是支持向量回归模型的5倍多，因此支持向量回归模型进行预测的效率远远高于采用神经网络模型进行预测，具有显著的有益效果。

NAND Flash芯片因氧化层特性的稳定性随使用过程中P/E周期数的不断增加而降低，其发生错误的概率将呈现出指数级上升，为了提高存储的可靠性，需要在Flash工作过程中对存储数据进行纠错，在不同位错误率情况下，所需纠错算法的纠错能力不同，而NANDFlash会在数据的不同存储阶段发生不同的错误，其错误发生的规律会与编程/擦除(Program/Erase，P/E)周期数以及数据驻留时间呈现数值相关，因此本发明采用支持向量回归法根据驻留时间和P/E周期数，以及收集的位错误数据建立一个三维模型，进行待预测芯片的位错误率预测，来指导待预测芯片的纠错算法的适配，从而进一步提高数据存储的可靠性，本发明采用的支持向量回归法在保证预测精确度的情况下大大提高了位错误率预测的效率。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (2)

1.一种基于支持向量回归法的NAND Flash位错误率预测方法，其特征在于，包括：利用支持向量回归法根据P/E周期数和驻留时间预测芯片的位错误率，具体步骤如下：

步骤1：建立芯片位错误率模型，选取与待预测芯片相同型号的测试芯片进行磨损试验，设定所述P/E周期数和所述驻留时间，获得位错误率数据，建立所述位错误率与所述P/E周期数和所述驻留时间之间的三维模型；

步骤11：选取与所述待预测芯片相同型号的所述测试芯片，在所述测试芯片内选取m个物理块进行不同程度的人为磨损，每个所述物理块对应一个所述P/E周期数，则选取不同的所述P/E周期数共m次，并连续采集每个所述物理块不同所述驻留时间n天的位错误率数据；

步骤12：将所述P/E周期数m、所述驻留时间n和所述位错误率数据整理成N*2矩阵格式的输入表格和N*1矩阵格式的输出表格，其中N＝n*m，所述输入表格和所述输出表格的每一行内容相互对应；

步骤13：设定所述待预测芯片的所述物理块的所述驻留时间和所述P/E周期数的最大值，设定建模所需的所述测试芯片采集数据的范围，获得设定范围内所述P/E周期数和所述驻留时间的最小值，以及所述设定范围内的所述位错误率数据的最大值和最小值，采用数据归一化公式X＝2*(x-x_min)/(x_max-x_min)-1，对所述驻留时间、所述P/E周期数和所述位错误率数据分别进行归一化处理，所有数据都处于[-1,1]区间内，x_min为所述最小值，x_max为所述最大值，最终生成归一化后的输入表格和输出表格；

步骤14：利用遗传算法进行支持向量参数寻优，得到最优参数；

利用遗传算法进行参数寻优的具体计算过程为：

步骤1421：参数初始化，定义种群中个体数数量为I，最大遗传代数为Q，K折交叉验证，交叉概率为Pc，变异概率为Pm＝0.7/L和终止进化条件，并随机生成I个个体作为初始种群X(0)，设置进化代数计数器t＝0；

步骤1422：染色体编码及初始种群的产生，定义染色体长度为L，设定径向基核函数的尺度参数和SVR惩罚因子C的范围，然后根据设定的惩罚因子C的范围和染色体长度L进行离散化及二进制编码，随机产生I个编码的初始种群；

步骤1423：用SVR算法计算个体适应度值，建立适应度函数，从而得到不同染色体的适应度值；

具体计算过程为：首先，将已知数据分为K份，用K-1份作为训练集，剩余一份作为测试集，进行SVR运算，重复K次该过程，令每一份样本均充当一次测试集；然后，用K次测试产生的均方误差MSE的平均值作为K折交叉验证的平均绝对误差MAE，记为MSEcv，公式定义如下：

式(1)中n表示训练集中样本的数目，

为样本数据的预测值，y_i为实际值，若适应度函数值越小，则个体效果越优，适应度越高，被选择的遗传到下一代的概率就越大；

步骤1424：进行选择、交叉和变异，首先应用选择算子，采用随机遍历法从进化种群X(t-1)中选择出一部分个体，共S个，构建集合为X(t)；其次，对所选择的S个优势个体，依照交叉概率Pc进行两两单点交叉操作；最后，将经过交叉的S个个体，依照变异概率Pm对S个个体对应的编码进行变异操作，形成S个候选个体，使用步骤1423中的适应度函数计算S个候选个体的适应度；

步骤1425：产生子代，从经过适应度计算所形成的S个候选个体和步骤1421中的I个父代个体中，根据适应度排序选择出适应度较高的I个个体组成新一代种群X(t+1)，同时令t＝t+1；

步骤1426：判断是否满足终止进化条件，若种群中最优个体所对应的适应度函数值足够大或者算法已连续运行多代，且个体的最佳适应度值无明显改进，或者达到设定最大进化代数则结束，否则进入步骤1424继续进行；

步骤1427：解码，如种群X(t+1)已满足终止进化条件，则对该种群X(t+1)中适应度最高的个体进行解码，即找到对应的SVR参数，此为最优参数；

步骤15：根据所述最优参数并采用支持向量回归法对所述位错误率数据进行模型训练，并保存所得所述三维模型；

步骤2：进行待预测芯片位错误率的预测，选取所述待预测芯片内要预测的物理块，读取所述物理块的所述P/E周期数和所述驻留时间，代入所述三维模型评估出所述位错误率。

2.根据权利要求1所述的一种基于支持向量回归法的NAND Flash位错误率预测方法，其特征在于，所述待预测芯片位错误率预测的具体计算过程如下：

步骤21：从所述待预测芯片中选择需要预测的M个所述物理块，读取出被选中的所述物理块的数据，所述数据包括所述物理块所经历的所述P/E周期数和所述驻留时间；

步骤22：将读取出的所述数据整理成M*2矩阵格式，并采用与步骤13中相同的归一化因子，对所述数据做归一化处理，得到归一化数据，所述归一化因子包括所述x_min、所述x_max和x_max-x_min；

步骤23：调用训练好的所述三维模型，将所述归一化数据输入所述三维模型，得到模型输出结果；

步骤24：对所述模型输出结果进行反归一化处理，得到预测结果并将所述预测结果输出。

Images