CN1118536A - 均衡失真数据信号的方法 - Google Patents

Abstract

均衡数据信号的方法。线性滤波器被用来均衡失真的数据信号。在数据密度日益提高的情况下，用线性滤波器对磁记录数据信号(如记录在磁带上的信号)进行均衡，变得越来越困难。神经网络被用于均衡失真数据信号的目的。待均衡的数据信号(DS)，通过延时元件(Nz1，…，Nz5)被馈送到一组加权网络(NG1，…，NG5)中。加权网络(NG1，…，NG5)的输出与一组神经元(N1，…，N5)的输入相连，各神经元的输出，每种情况下经放大器(V1，…，V5)都连到下面神经元(N6)的输入端上，在该神经元(N6)的输出端即可输出均衡的数据信号(DA)。

Description

均衡失真数据信号的方法

本发明涉及一种用于均衡失真数据信号的方法。

已知的方法是用线性滤波器来均衡失真的数据信号的。

图1表示了磁带上所记录的数据信号。

图2表示了从磁带上重放出来的数据信号。

从图中可以清楚地看出，边缘陡度有严重的失真。如上所述，线性滤波器被用来均衡数据信号。但是，随着数据密度的增大，用线性滤波器进行磁记录数据信号的均衡变得越来越困难。

因此，本发明的目的是改进失真数据信号，特别是磁记录数据信号的均衡。

为实现此目的，本发明提供了一种用于均衡失真数据信号的神经网络。

现在以磁记录数据信号为例，说明在均衡失真数据信号过程中用神经网络代替线性滤波器的优点。

本发明首先发现：在磁带信道的情况下，线性滤波器方案所需的因果传输系统的问题比非因果系统的要少。

数据记录和以后的重放代表了两段过程。由于非点状磁化并由于远大于高频信号波长的杂散场的存在，故在记录过程中不仅对现行区段位置产生作用，而且对先前事件(即已经记录的事件)也产生影响。其结果是，在重放时，现行事件将不断受到后续的“未来”事件的影响，当然更不必说实际的因果传输系统了。原因与结果的时间顺序无法得到。从图2中可清楚地看出，重放信号总是在记录信号中看到的边缘上升之前就已明显上升了。但是在非因果系统中使用线性滤波器受到限制，并导致不能很好地均衡失真的数据信号。因此常常需要使用全通滤波器，只是调整较为困难。

本发明从把重放信号视为实际值，数字化的记录信号视为理想值的构思出发去做。神经网络并不进行滤波，而是把记录信号的信号图形与重放信号的信号图形进行比较。即本发明是对信号图形进行比较，而不是用线性滤波器对信号滤波。

神经网络理论是以建立在对神经纤维进行探索而得到的生物学和神经学方面的研究成果基础上的。这些研究成果向技术领域转化的推广工作是1961年由D.O.Hebb所做的。本发明主要涉及以下三个特征：所谓突触间的神经原传导，这些突触被视为转换点，通过它们将特定强度的信号引导到细胞的中心。

所有输入的加权信号在细胞中相加，并且对它们施加一个非线性激活作用，以产生神经原输出信号，该输出信号通过突触依次传达到其他神经原。脑神经细胞的主要特点是他们的学习能力。假设该学习过程是通过在神经原之间设定加权系数而实现的。

生物神经网络的上述三个特征可以转用到数字和模拟电路中。

图1表示了被记录在磁带上的记录信号，

图2表示了从磁带上重放的信号，以及

图3表示了本发明一个示范性的实施方案。

现在将借助于图3所示的示范性实施方案说明本发明。

在图3中，从磁带读出的有待均衡的数据信号DS被传递到一个由4个延时元件VZ1到VZ4构成的串联电路中。未被延迟的数据信号DS则被送至第一网络的输入端，以用加权系数W00，W01，W02，W03，W04进行加权。同样，从第一延时元件输出端输出的延迟数据信号DS1被送至第二网络，以用加权系数W10，W11，W12，W13，W14进行加权。第二延时元件VZ2输出端所输出的延迟数据信号DS2，被送至第三网络，以用加系数W20，W21，W22，W23和W24进行加权。同样，第三延时元件VZ3输出端所提供的延迟数据信号DS3，被送到一个用加权系数W30，W31，W32，W33，W34进行加权的网络中。最后，由第四延时元件VZ4提供的延迟数据信号DS4被送到下一个网络中，以用加权系数W40，W41，W42，W43，W44进行加权。

每个加权网络的第一输出端连接到各神经元N₁至N₅的一个输入端。同样，加权网络其余输出端也连到各神经元N₁至N₅的一个输入端。各神经元N₁至N₅的输出端分别与放大器V₁至V₅的输入端相连。放大器V₁至V₅用于对神经元N₁至N₅的输出信号进行加权。放大器V₁至V₅的输出端连到下一个神经元N₆的输入端，在该神经元输出端即可录到均衡的数据信号DA。一个神经元由一个加法器和随后的一个非线性激活函数单元构成。

神经网络的使用分为学习阶段和工作阶段。在学习阶段中，加权系数经受一个训练过程，以优化图形鉴别。为此目的，它们被可改变地设定。但是在工作阶段，加权系数要保持恒定。

训练算法的目的是要快速地转变到设定的最优加权系数，而不是把网络调整到饱和状态，或者仅控制到区域最小值。已知的算法例如可以是误差逆运算，也常常表示为误差逆传导。

第一步，加权网络的所有加权系数Wij和放大器V1至Vn中的Vi，用一个小值进行随机初始化。输入矢量u此时可被送到每个第j神经元来求加权和Xi $X_j=\underset{i=0}{\overset{4}{\mathrm{\Σ}}}{W}_{\mathrm{ij}}*u_i--------------\left(1\right)$ 或者用状态矢量 x和加权系数矩阵W把被遮盖层全部神经元用矢量表示：

第一步是要建立一个函数，以激活作为信号传输非线性元件的神经元。这是为了模拟生物神经元工作点的样式。所谓S形函数常常用于此目的： $f\left(x\right)=\frac{1}{1+e^{-\mathrm{\λ}*x}}-------\left(3\right)$ 通过选择很大的λ值，S形函数近似为一个阶跃函数。此时神经网络的整体响应特性可以用一个公式来表示，其中Y是一输出变量，υ是输出加权系数矢量： $Y=:f(\underset{j=0}{\overset{4}{\mathrm{\Σ}}}{v}_j*f\left(x_j\right))=f(\underset{j=0}{\overset{4}{\mathrm{\Σ}}}{v}_j*f(\underset{i=0}{\overset{4}{\mathrm{\Σ}}}{w}_{\mathrm{ij}}*u_i))--------\left(4\right)$ $Y=f({\stackrel{\‾}{v}}^T*f(W*\stackrel{\‾}{u}))-----------\left(5\right)$ $Y=\frac{1}{1+e^{-\mathrm{\λ}*{\stackrel{\‾}{v}}^T*f\left(\stackrel{\‾}{x}\right)}}--------------\left(6\right)$ $Y=\frac{1}{1+e^{-\mathrm{\λ}*{\stackrel{\‾}{v}}^T*\frac{1}{1+e^{-\mathrm{\λ}*W*\stackrel{\‾}{u}}}}}------------------\left(7\right)$

由此看出，加权系数被随机初始化之后，输出变量Y，在施加一个输入图形 u时，明显地偏离目标变量Z。

误差＝Z-Y

计算出来的误差可以用于改进加权系数的设定。为了防止饱和，利用一个参数对误差另外加权，这个参数表示Y的准备状态，Y作为输出神经元的输入总和 $\underset{j=0}{\overset{4}{\mathrm{\Σ}}}{v}_j\•f\left(X_j\right)$ 的函数而进行变化。在数学的专业术语中，该参数是公式(3)激活函数的导数，它可简练地表示为 $f=\stackrel{\•}{\mathrm{\λ}}\•f\•(1-f)$ 。结果就是误差：

δ＝λ*Y*(1-Y)*(Z-Y)    (9)它可以被反馈回去。另外，当考虑用以确定反馈强度的学习速率η时，其中(0＜η＜1)，可以用δ计算出新的W_ij和V_i(用第n＋1次迭代步骤表示)：W_ij(n＋1)＝W_ij(n)＝η·λ·f(x_i)·[1-f(x_j)]·δ·υ_j·u_i(10)

                        误差逆传递υ_j(n＋1)－υ_j(n)＋η·δ·f(x_j)    (11)

在训练阶段，输入矢量 u形成的时间窗在图1中整个试验时序范围内反复地被操纵，每个图形反复地自身重复。

逆传递算法全面且容易理解的表达式，由Philip D.Wassermann 1989年于Nostrand Reinhold Book在《神经计算理论与实践》中给出。

在其规定范围的任务中，神经网络的作用是一个多变量函数。

很明确，要学习的图形被送入网络中并受到训练。系统响应的重要方面应该被选出的图形所包括。这也包括来自实际操作的干扰影响因素。训练的目的是要通过适当选择学习速率η和图形本身重复次数，在整个加权系数多维空间范围内把网络控制在误差函数整体最小的状态下。

网络结构，即多少层以及每层含多少个神经元，确定了可以学到和识别的最多图形数。结构与容量之间的关系现在还是未知的。不是在10ns期间内一个接一个地五个输入值，而可能是在不同时间间隔内的更多的值。

适合的激活函数是根据用途而选出的。《Elektronik》6.1992，Christian M.Haffer，Worauf等人的“Entwerfenneuronaler Netze ankommt”提出了一个正弦形处理函数(对设计神经网络来说非常重要)，它可以用于对其输入信号进行付里叶级数展开的网络。S形函数适用于该用途，而变换的梯度是更为重要的影响参数。

对于学习阶段网络的收敛性及其工作阶段的稳定性来讲，可变目标是否与实际记录信号一致，即有一有限的边沿陡度，或是否规定了理想的阶跃形数字信号，是很重要的。

而且用小的随机值对加权系数进行初始化尤其起作用，是由于在初始化中两个随机序列不相同时，给定的同一训练可得到不同的结束状态。

在训练神经网络时，会遇到生物网络中已知的效果，尤其当要学的材料是多种多样的且很广泛的时候。如果通过太多地重复来学习特定的输入，则网络会忘记在前已学过的内容。但是如果重复次数太少，则仅能完成粗浅的学习，便开始进行另外图形的学习。本发明的目的是从模拟神经网络的经验中得到一个优选的训练方法，以优化现有网络的利用率。可用的方案由下述四个步骤描述：1.用小值对加权系数进行随机初始化。2.低重复次数和高学习速率的学习过程。在该过程中，网络学习无固定特殊图形的处理器动态特性。3.在低学习速率下以高重复次数获得精度。当配置加权系数的时候，每个图形都有机会为自己获得一个适当位置。4.以少的重复次数和很低的学习速率，按相似于第二步骤的方式进行整体考虑，以进行细调。

在后三个步骤中，所有可得到的图形，即全部试验数据序列，依次被处理。为了降低网络对噪声的敏感度，数据序列的通道数可以达到能完成学习而没有附加噪声的程度。在多个训练通道中，加权系数在微机上优化并最终可设定一个硬件项目。

在网络中涉及的过程较为模糊的情况下，神经网络常常不能符合要求和成功的使用。通过在激活函数前考虑神经元相加点的因素可以提高网络的透明度。

如果在六位序列的情况下在输出神经元相加点处的信号非常接近零线，则可以料到在该点重叠的噪声将引起一个错误的判断。

通过加入来自微机随机校检发生器的、其信噪比为-20dB的白噪声这样一个噪声信号，将可大大地改善网络的信噪比，因为在学习阶段已发生了错误判断且因此可得以补偿。

内层的五个相加点每个都代表了一个FIR(有限冲激响应型)滤波器的输出。加权系数的随机初始化及随后的学习过程，由此便产生了五个具有不同响应特性的FIR滤波器。在激活函数确定了五个滤波器之后，输出层的加权系数Vj代表对该滤波器的评价。最后，输出神经元的激活函数相当于一个鉴别器，该鉴别器为了检测的目的也被用于每个传统的均衡器之后。

模拟电路设计中的网络方案是实现本发明的一个简单解决办法，尤其是在需要有高处理速度的时候。电位器可用来设定加权系数，且加权的信号在连接成加法器的运算放大器中被加在一起。为了表示加权系数可以是负值，信号可分接到一个三极管上，该三极管或发射极受控或集电极受控。如果限于用阶跃式激活函数，则要用比较器来反映这种运行状态。用S型激活函数较为困难，但它在训练过程和实际运行过程中都很适合。

信号可以被引入模拟电路中的并行分支中并被同时处理。这与生物网络中的情形一样。因此，计算速度和可能的信号带宽都很大。

在表示简单电路测量结果时，最好使用检测失真数字信号的神经网络，而不用线性均衡器的组件。与此相对应，原始的数字数据在可能范围内被完全复原。很陡的边沿，即高频点被准确地找到，而且不会在低频序列中出现回波起伏(glitches)，即线性均衡处理的薄弱点。

直接在微机硬件中设计加权系数是有利的，因为用电位器手

动设定太费工且不精确。可惜市场上售的数字化设置电位器

具有的传输带宽太小(＜1KHz)。

许多干扰的影响可以用一般射频技术常用的微分信号控制来

消除。

用比较器执行激活函数有时不能代表最好的效果。首先，鉴别器陡峭的边沿会由于串话干扰其它信号，其次要考虑对激活的软变换。

信号线之间的串话，可通过匹配彼此信号的电平而减小。

在神经网络的训练过程中，在非迅速收敛情况下的长时间学习过程是很麻烦的，所得到的设定也非最优化的一种。

按照这种关系补救的起点是学习速率η。它可以被选成网络结构和刚算出误差的函数，致使现时图形的误差早在第二次重复之后即变得很小。这种学习速率控制近似于自动控制工程的临界阻尼方式。因而可以迅速地收敛，因为误差被确定并反馈之后，防止了网络因过大的η而产生过量调整，并防止产生反方向的误差。恰逢区域最小的危险还不知有多大。

加权系统的随机初始化，有时并不是要被训练的网络初始化条件的最佳选择。如果想让加权矢量有尽可能不同的起点，则可以用例如施密特正交化法处理它们，并使其标准化。另外的可能性是把系统特征专门插入作为加权系数初始值，这样，可以把每个加权系数矢量通过对其计算初始化到可能的信号范围内的特定频率，对它的计算则利用了仅含各自频率的时间序列伪反转，如FIR滤波器那样。

在工作阶段网络的适应能力，可以从前述的优选频率分支中自身结构的容量获得。输出加权系数Vi以及相应频率的加权系数，可以根据磁带信道的特性来设定。

除了借助于用逆传送训练出来的网络进行均衡操作之外，还可以用神经网络。

数字磁带系统的信道编码限制着码字数目，例如分别有10比特，而信道编码依次又由允许运行长度的有限码数构成，例如在1至6比特之间。现在可以把网络组合成相联存储器的形式，该存储器的输入加权系数矢量是信道码字的二进制形式。在重放信号被予滤波之后，首先是要找到码字的开头。如果后者通过了相联存储器，则它将与代表原始数字码字的加权系数矢量有最大相关。此最大相关用最大标量积表示，该标量积是用一个加权系数矢量乘以输入矢量而得到的。在理想情况下，它与该加权系数矢量的平方相对应。

在对重放信号予滤波的同时进行微分。在一级近似的情况下，由于已从信道中获得了微分特性，故可以通过再次微分得到记录与重放信息之间-180°的相角，也就是最大负相关。

实现相联存储器对解决现存问题是很重要的，但由于“相联”的建立要利用许多乘法运算，故无法有所需的高处理速度。相反地，模拟电路所采用的网络，及其在微机上用逆传导算法优化的并用电位器设定的加权系数，更为快捷和便宜。

Claims (10)

1.均衡数据信号的方法，其特征在于用一个神经网络来对失真的数据信号进行均衡处理。

2.根据权利要求1的方法，其特征在于神经网络的响应特性通过规定的数据时序被学到。

3.根据权利要求2的方法，其特征在于学习速率是随神经网络的学习变化的。

4.根据权利要求2或3的方法，其特征在于重复次数是随神经网络学习变化的。

5.根据权利要求2的方法，其特征在于神经网络用低重复次数和高学习速率进行学习。

6.根据权利要求2的方法，其特征在于：对于神经网络的学习过程而言，重复次数要选得高，而学习速率要选择得低。

7.根据权利要求2的方法，其特征在于：对于神经网络的学习过程而言，学习速率和重复次数都选得很低。

8.根据权利要求2到7的方法，其特征在于：在神经网络学习过程中，为了改善信噪比，把噪声信号馈入神经网络。

9.根据权利要求1的方法，其特征在于神经网络构成了一个相联存储器，它的输入加权矢量由数据信号的码字组成，其中输入加权矢量的标量积用分别接收到的码字构成，最大标量积标志着最大相关。

10.用于均衡数据信号的电路结构，其特征在于：要被均衡的数据信号(DS)被馈入由一组延时元件(VZ1，…，VZ5)组成的串联电路中；其中该未被延时的数据信号(DS)被送到加权网络(NG1)中，而被延时元件延迟的且能从每个延时元件(VZ1，…，VZ5)出口得到的数据信号(DS1，…，DS4)，每种情况下均被送到下面的加权网络(NG2，…，NG5)中；其中加权网络(NG1，…，NG4)的输出分别与神经元(N1，…，N5)的输入相连，每个神经元的输出在每种情况下都连到加权放大器(V1，…，V5)上，而且放大器(V1，…，V5)的输出与下面的神经元(N6)的输入相连，在该神经元的输出端可输出均衡的数据信号(DA)。

Images