CN106571832A - 一种多进制ldpc码级联神经网络解码方法及装置 - Google Patents

Abstract

本发明公开了一种多进制LDPC码级联神经网络解码方法及装置，所述解码方法包括：多进制LDPC译码初始化；神经网络级联解码。其中多进制LDPC译码首先对各码元符号进行初始化得到后验概率；神经网络将后验概率软信息作为输入信息输入到输入层，经过神经网络的训练和学习，由输出层得到输出软信息并进行判决译码，得到译码结果。本发明在传统多进制LDPC置信传播译码算法的基础上引入神经网络的级联译码方法，降低译码计算量和复杂度，提高译码效率。

Description

一种多进制LDPC码级联神经网络解码方法及装置

技术领域

本发明涉及信息编解码技术领域，具体涉及一种多进制LDPC码级联神经网络解码方法及装置。

背景技术

Nand Flash是目前消费性电子产品中被广泛使用的元件之一。由于Nand Flash的物理机构特点，容易发生错误，如何保证数据的可靠性，成为一项重要的研究课题。采用纠错码(Error Correction Coding,ECC)的纠错控制技术是目前提高闪存数据可靠性的关键技术之一，而LDPC码(Low-Density Parity-Check codes)是目前被广泛应用在闪存上的纠错码。对比传统的二进制LDPC码，多进制LDPC编译码方法与二进制类似，抗随机错误能力和抗突发错误能力均优于二进制LDPC码，为当前编码领域性能最优的一种编码方案。另外，由于多进制LDPC码是基于高阶有限域设计的，因此非常适合与高阶调制系统接合，更适合高速率传输系统，适合NAND闪存的高速数据传输。

目前，神经网络已被应用于包括计算机、交通、金融业、智能机器人等很多领域，在多个方面展现出其特殊性，成为了站在科技最前沿的技术。神经网络专家J.C.Platt和J.J.Hopfield首先提出将人工神经网络技术应用于线性纠错码。用神经网络对二进制LDPC码进行译码，其误码率和算法复杂度上都有明显提升。由于神经网络结构适用于并行结构，而基于迭代计算的多进制LDPC译码算法也易于拆分成多个部分进行并行译码，将神经网络技术与多进制LDPC译码算法进行结合，一方面使得有学习能力的神经网络可以适合不同多进制LDPC码的译码过程，另一方面也可以改善译码性能，提高译码速度和容错性。

发明内容

本发明的第一个目的是为了创新译码方法，改善译码性能，提出一种多进制LDPC码级联神经网络解码方法。

本发明的第二个目的是为了创新译码方法，改善译码性能，提供一种多进制LDPC码级联神经网络解码装置。

本发明的第一个目的可以通过采取如下技术方案达到：

一种多进制LDPC码级联神经网络解码方法，所述方法包括如下步骤：

S1、确定H_mn为M*N的校验矩阵，令N(m):＝{n:H_mn≠0}为参与第m个校验方程的校验节点的变量节点的集合，令M(n):＝{m:H_mn≠0}为包含第n个变量节点的校验节点的集合；

S2、获取N个经过信道后的信息比特yi，i＝1,2,…,N；其中每一个yi代表一个符号，其中包含了b个二进制比特；

S3、在高斯信道下建立多进制LDPC初始化译码模型，

初始化

式中，每个二进制比特的似然比为其中s为输入符号的幅度，σ²为信道高斯噪声∑的方差，

S4、所述多进制LDPC初始化译码模型对各码元符号进行初始化得到后验概率；

S5、将所述后验概率软信息作为输入信息输入到神经网络，经过神经网络的训练和学习，由输出缓冲层得到输出软信息；

S6、选取神经元输出概率u_i(t+τ)的最大值所带表的码字进行译码判决，如果H*u_i＝0，则迭代结束得到译码结果；否则，返回步骤S3将输出软信息作为新的输入进行下次迭代。

进一步地，所述神经网络包括输出缓冲层和神经网络层，有n个输入，每层有N个神经元，N为该码所有可能码字的个数，每个神经元输出满足

其中，

进一步地，所述多进制LDPC初始化译码模型只进行信息初始化，并将初始化后得到的后验概率作为输入直接输入到所述神经网络。

进一步地，所述方法采用所述神经网络模仿多进制LDPC置信传播译码算法进行迭代译码。

进一步地，所述迭代译码过程还包括硬判决和校验判决，用于将输出软信息硬判决为0或1。

本发明的第二个目的可以通过采取如下技术方案达到：

一种多进制LDPC码级联神经网络解码装置，所述装置包括：

校验矩阵确定模块，用于确定H_mn为M*N的校验矩阵，令N(m):＝{n:H_mn≠0}为参与第m个校验方程的校验节点的变量节点的集合，令M(n):＝{m:H_mn≠0}为包含第n个变量节点的校验节点的集合；

信道信息获取模块，用于获取N个经过信道后的信息比特yi，i＝1,2,…,N；其中每一个yi代表一个符号，其中包含了b个二进制比特；

LDPC译码模型模块，用在高斯信道下建立多进制LDPC初始化译码模型，

初始化

式中，每个二进制比特的似然比为其中s为输入符号的幅度，σ²为信道高斯噪声∑的方差，

码元初始化模块，用于所述多进制LDPC初始化译码模型对各码元符号进行初始化得到后验概率；

神经网络解码模块，用于将所述后验概率软信息作为输入信息输入到神经网络，经过神经网络的训练和学习，由输出缓冲层得到输出软信息；

判决迭代模块，用于选取神经元输出概率u_i(t+τ)的最大值所带表的码字进行译码判决，如果H*u_i＝0，则迭代结束得到译码结果；否则，返回所述LDPC译码模型模块将输出软信息作为新的输入进行下次迭代。

本发明相对于现有技术具有如下的优点及效果：

本发明公开的一种多进制LDPC码级联神经网络解码方法在传统多进制LDPC置信传播译码算法的基础上引入神经网络的级联译码方法，降低译码计算量和复杂度，提高译码效率。

附图说明

图1是本发明公开的一种多进制LDPC码级联神经网络解码方法的流程示意图；

图2是一种人工神经网络译码结构示意图；

图3是定义在GF(8)上的(10,5)的LDPC码的校验矩阵示意图；

图4是本发明公开的一种多进制LDPC码级联神经网络解码装置的结构框图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例一

如图1所示，本实施例公开了一种多进制LDPC码级联神经网络解码方法，包括如下步骤：

S1、确定H_mn为M*N的校验矩阵，令N(m):＝{n:H_mn≠0}为参与第m个校验方程的校验节点的变量节点的集合，令M(n):＝{m:H_mn≠0}为包含第n个变量节点的校验节点的集合；

S2、获取N个经过信道后的信息比特yi,i＝1,2,…,N；其中每一个yi代表一个符号，其中包含了b个二进制比特；

S3、在高斯信道下建立多进制LDPC初始化译码模型，

初始化

式中，每个二进制比特的似然比为其中s为输入符号的幅度，σ²为信道高斯噪声∑的方差，

S4、所述多进制LDPC初始化译码模型对各码元符号进行初始化得到后验概率；

S5、将所述后验概率软信息作为输入信息输入到神经网络，经过神经网络的训练和学习，由输出缓冲层得到输出软信息；

所述神经网络由双层结构构成，输出缓冲层和神经网络层，有n个输入，每层有N个神经元，N为该码所有可能码字的个数，每个神经元输出满足

其中，

S6、选取神经元输出概率u_i(t+T)的最大值所带表的码字进行译码判决，如果H*u_i＝0，则迭代结束得到译码结果；否则，返回步骤S3将输出软信息作为新的输入进行下次迭代。

具体应用中，所述多进制LDPC初始化译码模型只进行信息初始化，并将初始化信息作为输入直接输入到神经网络输入层。

本实施例公开的一种多进制LDPC码级联神经网络解码方法，用神经网络模仿多进制LDPC置信传播译码算法进行迭代译码。

上述迭代译码过程还包括硬判决和校验判决，用于将输出软信息硬判决为0或1。

实施例二

本实施例以1/2码率，定义在GF(8)上的(10,5)的多进制LDPC码为例，下面结合附图2和附图3对本发明提供的一种多进制LDPC码级联神经网络解码方法进行详细的说明。

S1、对于码率为1/2的(10，5)校验矩阵H，该矩阵行重为4，列重为2，用m和n分别代表校验节点和变量节点的集合，其中m＝{1，2，3，4，5}，n＝{1，2，……，10}，令N(m)：＝{n：H_mn≠0}为参与第m个校验方程的校验节点的变量节点的集合，令M(n)：＝{m：H_mn≠0}为包含第n个变量节点的校验节点的集合，y_i表示经过信道后接受到的信息比特。

S2、获取10个经过信道后的信息比特y_i，i＝1，2，…，10。其中每一个y_i代表一个符号，其中包含了3个二进制比特。

S3、在高斯信道下建立多进制LDPC初始化译码模型，

初始化

式中，每个二进制比特的似然比为其中s为输入符号的幅度，σ²为信道高斯噪声∑的方差，

S4、所述多进制LDPC初始化译码模型对各码元符号进行初始化得到后验概率；

S5、将所述后验概率软信息作为输入信息输入到神经网络，经过神经网络的训练和学习，由输出缓冲层得到输出软信息；

具体公式是：

其中，

权重系数

其中是码字X_h的第j个分量，W_H()表示码字的汉明重量，W_max(X)＝max(W_H(X_h))；

阈值

u_i(t)是神经元在时刻t的状态，u_i(0)＝x_i，即开始时神经元i的状态为输入节点的i状态；θ是神经元i的阈值，初始值为1-ε(其中ε为无穷小)；ω_ij代表神经元j到神经元i的连接权重系数。

S6、求出种经元输出概率u_i(t+T)的最大值u_max进行译码判决，如果H*u_i＝0，则迭代结束得到译码结果；否则，返回步骤S3将输出软信息作为新的输入进行下次迭代。

综上所述，本发明公开的一种多进制LDPC码级联神经网络解码方法在传统多进制LDPC置信传播译码算法的基础上引入神经网络的级联译码方法，降低译码计算量和复杂度，提高译码效率。

实施例三

如附图4所示，本实施公开了一种多进制LDPC码级联神经网络解码装置，所述装置包括：校验矩阵确定模块、信道信息获取模块、LDPC译码模型模块、码元初始化模块、神经网络解码模块以及判决迭代模块。

下面具体说明各个模块：

校验矩阵确定模块，用于确定H_mn为M*N的校验矩阵，令N(m)：＝{n：H_mn≠0}为参与第m个校验方程的校验节点的变量节点的集合，令M(n)：＝{m：H_mn≠0}为包含第n个变量节点的校验节点的集合。

信道信息获取模块，用于获取N个经过信道后的信息比特yi，i＝1,2,…,N；其中每一个yi代表一个符号，其中包含了b个二进制比特。

LDPC译码模型模块，用在高斯信道下建立多进制LDPC初始化译码模型，

初始化

式中，每个二进制比特的似然比为其中s为输入符号的幅度，σ²为信道高斯噪声∑的方差，

具体应用中，所述多进制LDPC初始化译码模型只进行信息初始化，并将初始化后得到的后验概率作为输入直接输入到所述神经网络。

码元初始化模块，用于所述多进制LDPC初始化译码模型对各码元符号进行初始化得到后验概率。

神经网络解码模块，用于将所述后验概率软信息作为输入信息输入到神经网络，经过神经网络的训练和学习，由输出缓冲层得到输出软信息。

具体应用中，所述神经网络包括输出缓冲层和神经网络层，有n个输入，每层有N个神经元，N为该码所有可能码字的个数，每个神经元输出满足

其中，

具体应用中，采用所述神经网络模仿多进制LDPC置信传播译码算法进行迭代译码。

上述迭代译码过程还包括硬判决和校验判决，用于将输出软信息硬判决为0或1。

判块迭代模块，用于选取种经元输出概率u_i(t+T)的最大值所带表的码字进行译码判块，如果H*u_i＝0，则迭代结束得到译码结果；否则，返回所述LDPC译码模型模块将输出软信息作为新的输入进行下次迭代。

值得注意的是，上述装置实施例中，所包括的各个模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各模块的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。

上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (6)

1.一种多进制LDPC码级联神经网络解码方法，其特征在于，所述方法包括如下步骤：

S1、确定H_mn为M*N的校验矩阵，令N(m):＝{n:H_mn≠0}为参与第m个校验方程的校验节点的变量节点的集合，令M(n):＝{m:H_mn≠0}为包含第n个变量节点的校验节点的集合；

S2、获取N个经过信道后的信息比特yi，i＝1,2,…,N；其中每一个yi代表一个符号，其中包含了b个二进制比特；

S3、在高斯信道下建立多进制LDPC初始化译码模型，

初始化

式中，每个二进制比特的似然比为其中s为输入符号的幅度，σ²为信道高斯噪声∑的方差，

S4、所述多进制LDPC初始化译码模型对各码元符号进行初始化得到后验概率；

S5、将所述后验概率软信息作为输入信息输入到神经网络，经过神经网络的训练和学习，由输出缓冲层得到输出软信息；

S6、选取神经元输出概率u_i(t+τ)的最大值所带表的码字进行译码判决，如果H*u_i＝0，则迭代结束得到译码结果；否则，返回步骤S3将输出软信息作为新的输入进行下次迭代。

2.根据权利要求1所述的一种多进制LDPC码级联神经网络解码方法，其特征在于，所述神经网络包括输出缓冲层和神经网络层，有n个输入，每层有N个神经元，N为该码所有可能码字的个数，每个神经元输出满足

$\begin{array}{cc}{u}_i(t+T)=\mathrm{sgn}\&lsqb;{\mathrm{\&Sigma;}}_{j=1}^n{\mathrm{\&omega;}}_{ij}{u}_j\left(t\right)-\mathrm{\&theta;}\&rsqb;& 0<x\&le;N\end{array}$

其中，

$\mathrm{sgn}\&lsqb;x\&rsqb;=\left\{\begin{array}{ccc}1& if& x>0\\ 0& if& x\&le;0\end{array}\right..$

3.根据权利要求1所述的一种多进制LDPC码级联神经网络解码方法，其特征在于，所述多进制LDPC初始化译码模型只进行信息初始化，并将初始化后得到的后验概率作为输入直接输入到所述神经网络。

4.根据权利要求1所述的一种多进制LDPC码级联神经网络解码方法，其特征在于，

所述方法采用所述神经网络模仿多进制LDPC置信传播译码算法进行迭代译码。

5.根据权利要求4所述的一种多进制LDPC码级联神经网络解码方法，其特征在于，

所述迭代译码过程还包括硬判决和校验判决，用于将输出软信息硬判决为0或1。

6.一种多进制LDPC码级联神经网络解码装置，其特征在于，所述装置包括：

校验矩阵确定模块，用于确定H_mn为M*N的校验矩阵，令N(m):＝{n:H_mn≠0}为参与第m个校验方程的校验节点的变量节点的集合，令M(n):＝{m:H_mn≠0}为包含第n个变量节点的校验节点的集合；

信道信息获取模块，用于获取N个经过信道后的信息比特yi，i＝1,2,…,N；其中每一个yi代表一个符号，其中包含了b个二进制比特；

LDPC译码模型模块，用在高斯信道下建立多进制LDPC初始化译码模型，

初始化

式中，每个二进制比特的似然比为其中s为输入符号的幅度，σ²为信道高斯噪声∑的方差，

码元初始化模块，用于所述多进制LDPC初始化译码模型对各码元符号进行初始化得到后验概率；

神经网络解码模块，用于将所述后验概率软信息作为输入信息输入到神经网络，经过神经网络的训练和学习，由输出缓冲层得到输出软信息；

判决迭代模块，用于选取神经元输出概率u_i(t+τ)的最大值所带表的码字进行译码判决，如果H*u_i＝0，则迭代结束得到译码结果；否则，返回所述LDPC译码模型模块将输出软信息作为新的输入进行下次迭代。