CN109639258A - 一种基于Hopfield神经网络二维FIR陷波滤波器的设计方法 - Google Patents

Abstract

本发明公开了一种基于Hopfield神经网络设计二维FIR陷波滤波器的算法设计方法。本算法采取最小均方误差准则，将误差函数转化为Hopfield神经网络的李雅普诺夫能量函数。能量函数的最小值即为误差函数的最小值，此时神经网络的输出即为所要设计的二维FIR陷波滤波器的系数。利用Hopfield神经网络，可以降低运算的复杂程度。仿真结果表明了本文算法所设计的滤波器对图像处理是有效的。

Description

一种基于Hopfield神经网络二维FIR陷波滤波器的设计方法

技术领域

本发明属于数字信号处理技术领域，提供了一种基于Hopfield神经网络的稀疏二维FIR(有限脉冲响应)陷波滤波器的设计方法。

背景技术

随着计算机技术在存储容量和速度方面的快速发展，二维数字滤波器广泛应用于医学图像处理、卫星图像处理、视频压缩、雷达和声纳信号处理等很多方面。二维数字滤波器分为有限长单位脉冲响应(FIR)数字滤波器和无限长单位脉冲响应(IIR)数字滤波两大类。FIR数字滤波器由于具有内秉稳定性、容易设计成线性相位等显著特点得到了更多的研究。陷波滤波器是一种通带极窄的带通滤波器，其阻带在理想情况下只有一个频率点。这种滤波器主要用于消除某个特定频率的干扰。二维FIR陷波滤波器可以消除二维信号中具有特定频率的干扰，因此得到广泛关注。

目前首次将Hopfileld神经网络应用到二维FIR陷波滤波器的设计，通过将最小均方误差函数转化为李雅普诺夫能量函数并将陷波条件加入能量函数，能量函数的最小值即为误差函数的最小值，此时神经网络的输出值即为所设计的二维FIR陷波滤波器的系数。

发明内容

本发明目的是设计实现减少运算的复杂程度，能很好的滤除具有特定频率的噪声干扰，得到稀疏二维FIR陷波滤波器，并提供一种全新的设计方法——可设计基于Hopfield神经网络的稀疏二维FIR(有限脉冲响应)陷波滤波器的方法。

本发明提供的基于Hopfield神经网络二维FIR陷波滤波器的设计方法具体步骤如下：

第1，将二维FIR陷波滤波器的参数与Hopfield神经网络中的参数一一对应，将滤波器的频域采样矩阵和理想幅度响应与神经网络的权重矩阵和偏重矩阵建立对应关系；

第2，在每次计算过程中，利用OMP算法计算出系数矩阵中的稀疏点位置集合；

第3，利用Hopfield神经网络来对非稀疏位置的系数进行优化；

(以下面I类二维FIR陷波滤波器为例)

(一)理想的四象限对称的二维FIR陷波滤波器的频率响应如下：

其中Ω^notch，Ω⁰和Ω¹分别定义为

Ω₁＝[-π，π]×[-π，π]-Ω₀ (4)

其中，是给定的陷波频率点，BW₁和BW₂分别表示在频率ω₁和ω₂方向上阻带的带宽，根据附录1中，在基于Hopfield神经网络设计稀疏二维FIR陷波滤波器的模型得到建立后，可以将其应用到稀疏二维FIR陷波滤波器的非零系数优化过程中，利用OMP算法解决以下问题：

s.t.||h||₀＝k (5b)

其中，

(ω_1l，ω_2l)∈Ω¹，l＝1，2，L，L

L表示二维滤波器在频域上的采样点数，δ是给定的通带纹波，是陷波频率点出的采样矩阵的按列展开的向量形式，h是所要设计的稀疏二维FIR陷波滤波器的单位脉冲响应的向量形式。将计算得到的非零系数位置的集合记为Λ^(k)＝{n₁，n₂，...，n_k}。

(二)根据式得到Hopfield神经网络中的权重矩阵T，偏置矩阵I。

(三)根据步骤(一)得到的稀疏点位置的集合Λ^(k)＝{n₁，n₂，...，n_k}，得到需要进行训练的非零参数对应的权重矩阵T_s和偏置矩阵I_s，只对非零位置的参数进行训练，当Hopfield神经网络达到稳定时，误差函数达到最小值，对输出的电压根据集合Λ^(k)＝{n₁，n₂，...，n_k}进行零填充，得到稀疏二维FIR陷波滤波器的单位脉冲响应的向量形式h。

(四)根据上述计算得到的稀疏二维FIR陷波滤波器的单位脉冲响应h，可以通过等式(4)获得滤波器的频率响应。则通带纹波可以计算为：

检查通带纹波是否满足给定的参数条件，如果满足，则停止。否则转到步骤4。

(五)增加一个非零点位置，即k＝k+1，并重复以上操作过程。本发明具有如下有益效果：

1、本发明首次提供了一种基于Hopfield神经网络二维FIR陷波滤波器的设计方法。

2、本发明利用HNN来实现基于最小均方误差准则的二维FIR陷波滤波器设计，利用软限制函数来实现HNN运行过程中的高速收敛，节省了运算时间。同时，神经元个数仅与滤波器的阶数有关，与频域采样点数无关，减少了神经元的个数。

3、仿真部分证明了本算法设计的滤波器能很好的滤除具有特定频率的噪声干扰。

附图说明

图1是本发明算法流程图；

图2是利用Hopfield神经网络设计的稀疏二维FIR陷波滤波器的频率响应图；

图3是利用Hopfield神经网络设计的稀疏二维FIR陷波滤波器的频率响应等高线图；

图4(a)是原始输入图像，图4(b)是对原始图像加入噪声，被噪声干扰的图像，图4(c)是将受到噪声干扰的图片与设计所得到的的滤波器进行卷积，得到输出图像。

具体实施方式

实施例1：

本发明提供的基于Hopfield神经网络二维FIR陷波滤波器的设计方法具体步骤如下：

第1，将二维FIR陷波滤波器的参数与Hopfield神经网络中的参数一一对应，将滤波器的频域采样矩阵和理想幅度响应与神经网络的权重矩阵和偏重矩阵建立对应关系；

第2，在每次计算过程中，利用OMP算法计算出系数矩阵中的稀疏点位置集合；

第3，利用Hopfield神经网络来对非稀疏位置的系数进行优化；

为了验证该滤波器设计方法的有效性，对该方法进行了计算机模拟仿真。

设计要求：本部分利用MATLAB软件来实现基于最小均方误差的二维FIR陷波滤波器的设计。HNN的所有神经元的初始状态设置为u_ik(0)＝10^-3，v_ik(0)＝0。输入电容和电阻分别设置为C_ik＝0.01μF，R_ik＝1Ω。陷波频率点为在频率ω₁和ω₂方向上阻带的带宽BW₁＝BW₂＝0.1π，在频率ω₁和ω₂方向上的通带纹波均为δ＝-1dB，在频率ω₁和ω₂方向上的频率采样点数均为L＝51，所要设计的稀疏二维FIR陷波滤波器的大小为45×45，因此脉冲响应矩阵中系数个数为2025。

步骤一：根据附录1中，基于Hopfield神经网络设计稀疏二维FIR陷波滤波器的模型得到建立后，可以将其应用到稀疏二维FIR陷波滤波器的非零系数优化过程中，利用OMP算法解决以下问题：

s.t.||h||₀＝k (5b)

利用OMP算法来找到陷波频率在(0.3π，0.7π)处的稀疏二维FIR陷波滤波器的系数矩阵中的稀疏点的位置；

步骤二：利用Hopfield神经网络来对非零系数进行训练和优化。

步骤三：得到的稀疏二维FIR陷波滤波器的系数矩阵中，零点个数为870，通带纹波阻带带宽为BW₁＝BW₂＝0.1π。

所获得的频率响应如图所示，根据频率响应图可知，陷波频率点处的衰减深度为-52.5336dB。频率响应的等高线图如图3所示，为了验证利用本算法得到的稀疏二维FIR陷波滤波器具有良好的滤波效果，我们将该滤波器应用到图像处理中。原始图像如图4(a)所示。对原始图像加入噪声，被噪声干扰的图像如图4(b)所示，且噪声的频率为(0.3π，0.7π)。我们将受到噪声干扰的图片与设计所得到的的滤波器进行卷积，得到输出图像如图4(c)所示。由输出图像可知，本算法设计得到的稀疏二维FIR陷波滤波器对特定频率的噪声干扰具有很好的滤除效果。

附录1

二维FIR滤波器的HNN的模型的构建

利用最小均方误差准则来计算设计滤波器的误差函数，即误差函数最小，其中，是二维FIR滤波器的理想的频率响应，L分别表示等间隔采样点数。因此，第一类线性相位的滤波器的均方误差可以表示为：

由于是滤波器的理想频率响应，与所要设计的滤波器系数无关，所以上式中的最后一项可以忽略。显然误差函数E₂是没有约束条件的二次方程，所以存在唯一一个最小值且是全局最小值。为了解决式(1)并且保证满足实时条件的要求，本文利用Hopfield神经网络来解决二维FIR滤波器的最小均方设计。则(1)式可以表达成如下李雅普诺夫能量函数：

式中，p₁，p₂分别表示水平和垂直两个方向上的神经元个数，且p₁＝M+1，p₂＝N+1，i，j＝1，2，L，p₁，k，n＝1，2，L，p₂，p₁×p₂为神经网络中神经元的总数。v_ik表示第(k-1)p₂+i个神经元的输出状态，v_jn表示第(n-1)p₂+j个神经元的输出状态，T_ik，jn和I_ik分别表示在神经网络中第(k-1)p₂+i个神经元的权重和偏置。比较式(1)和(2)，可知Hopfield神经网络参数T_ik，jn和I_ik分别定义为：

其中，a_ik-1＝v_ik，1≤(k-1)p₂+i≤(M+1)(N+1)。

当神经网络中的这两个参数确定之后，HNN的动态非线性差分方程可直接用于解决优化问题，即

u_ik代表第(k-1)p₂+i个神经元的初始状态，C_ik和ρ_ik代表输入电容和并联后的电阻。根据最小二乘准则设计的反馈神经网络的电路如图1所示。由图可知，本系统较之前的设计方法电路图更为简单且所需要的神经元个数显著减少。这是由于在本系统中所需要的的神经元的个数只与滤波器的大小有关，而与采样点数无关。因此，在硬件实现复杂度和成本上都显著降低。

在本系统中，软限制神经元确定了输入电压u_ik和输出电压v_ik的关系：

v_ik＝g(u_ik)＝u_ik/λ，-bλ＜u_ik＜bλ，1≤(k-1)p₂+i≤p₁p₂ (6)

其中，b和1/λ分别代表电压的动态范围和软门限的斜率。如果u_ik不在(6)式的范围内，将其设置为-bλ或者bλ。

为了增加系统的收敛速度，可以对上述的参数进行修改。基于式(5)和(6)，我们可以得到由于T_ik，jn＜0，所以-(1/ρ_ik)+(T_ik，jn/λ)＜0。此外，为了执行非递减非线性激活功能，在ik≠jn时应有1/ρ_ik始终小于|T_ik，jn|/λ，这是由于权重矩阵T_ik，jn并不是总小于零。因此，电阻值应该满足ρ_ik≥λ/|T_ik，jn|。在实际中，以往的文献为了实现Hopfield神经网络的快速收敛，往往忽略式(5)中-u_ik/ρ_ik项，即认为电路为开路ρ_ik＝∞。因此，式(5)可以表示成为：

通过式(10)可以得到T_ik，jn/λ将会决定Hopfield神经网络的收敛时间。但是由于T_ik，jn仅仅与采样点数有关，所以参数λ决定了Hopfield神经网络的收敛速度和系统性能。较小的λ值将会得到较快的收敛速度和较小的收敛误差。另外，所提出的算法最终收敛为较大的λ值，相应的收敛速度将会很慢。因此提出了一种新的自适应函数来提高HNN的收敛速度，即

其中参数ε和μ分别控制λ的初始值和最终值。

附录2

二维FIR滤波器的HNN稳定性证明

已知二维FIR滤波器的李雅普诺夫能量函数为：

则能量函数关于时间的导数为：

其中

由上式可得，

假如则存在

由以上推到过程，二维FIR滤波器的李雅普诺夫能量函数的稳定性得到证明。

Claims (1)

1.一种基于Hopfield神经网络设计二维FIR陷波滤波器的设计方法，其特征在于借助Hopfield神经网络的线性拟合和运算速度快的特点，可以省去复杂的数学矩阵运算，减少运算时间，该方法按照下述步骤进行：

第1、理想的四象限对称的二维FIR陷波滤波器的频率响应如下：

其中Ω^notch，Ω⁰和Ω¹分别定义为

Ω₁＝[-π，π]×[-π，π]-Ω₀ (4)

其中，是给定的陷波频率点，BW₁和BW₂分别表示在频率ω₁和ω₂方向上阻带的带宽，根据附录1中，在基于Hopfield神经网络设计稀疏二维FIR陷波滤波器的模型得到建立后，可以将其应用到稀疏二维FIR陷波滤波器的非零系数优化过程中，利用OMP算法解决以下问题

s.t. ||h||₀＝k (5b)

其中，

L表示二维滤波器在频域上的采样点数，δ是给定的通带纹波，是陷波频率点出的采样矩阵的按列展开的向量形式，h是所要设计的稀疏二维FIR陷波滤波器的单位脉冲响应的向量形式。将计算得到的非零系数位置的集合记为Λ^(k)＝{n₁，n₂，...，n_k}。

第2、根据式得到Hopfield神经网络中的权重矩阵T，偏置矩阵I

第3、根据步骤(1)得到的稀疏点位置的集合Λ^(k)＝{n₁，n₂，...，n_k}，得到需要进行训练的非零参数对应的权重矩阵T_s和偏置矩阵I_s，只对非零位置的参数进行训练，当Hopfield神经网络达到稳定时，误差函数达到最小值，对输出的电压根据集合Λ^(k)＝{n₁，n₂，...，n_k}进行零填充，得到稀疏二维FIR陷波滤波器的单位脉冲响应的向量形式h。

第4、根据上述计算得到的稀疏二维FIR陷波滤波器的单位脉冲响应h，可以通过等式(4)获得滤波器的频率响应。则通带纹波可以计算为：

检查通带纹波是否满足给定的参数条件，如果满足，则停止。否则转到步骤4。

第5、增加一个非零点位置，即k＝k+1，并重复以上操作过程。