CN110365310B - 一种可分离二维fir滤波器的系数量化方法 - Google Patents

一种可分离二维fir滤波器的系数量化方法 Download PDF

Info

Publication number
CN110365310B
CN110365310B CN201910560764.9A CN201910560764A CN110365310B CN 110365310 B CN110365310 B CN 110365310B CN 201910560764 A CN201910560764 A CN 201910560764A CN 110365310 B CN110365310 B CN 110365310B
Authority
CN
China
Prior art keywords
formula
quantization
filter
dimensional fir
coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910560764.9A
Other languages
English (en)
Other versions
CN110365310A (zh
Inventor
王浩
李伟琪
赵知劲
赵晨子
李祥振
靳一
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Electronic Science and Technology University
Original Assignee
Hangzhou Electronic Science and Technology University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Electronic Science and Technology University filed Critical Hangzhou Electronic Science and Technology University
Priority to CN201910560764.9A priority Critical patent/CN110365310B/zh
Publication of CN110365310A publication Critical patent/CN110365310A/zh
Application granted granted Critical
Publication of CN110365310B publication Critical patent/CN110365310B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03H—IMPEDANCE NETWORKS, e.g. RESONANT CIRCUITS; RESONATORS
    • H03H17/00—Networks using digital techniques
    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03H—IMPEDANCE NETWORKS, e.g. RESONANT CIRCUITS; RESONATORS
    • H03H17/00—Networks using digital techniques
    • H03H2017/0072—Theoretical filter design
    • H03H2017/0081—Theoretical filter design of FIR filters

Landscapes

  • Image Processing (AREA)
  • Complex Calculations (AREA)

Abstract

本发明提供一种可分离二维FIR滤波器的系数量化方法。本发明不同于普通的量化方法，而是以最大纹波误差最小化(l∞范数)为目标函数，采用分步式整数规划算法求解。首先利用一部分已知的连续函数系数，采用整数规划算法求解其余部分量化整数系数，然后利用求解出的这一部分量化系数再次采用整数规划算法求解原来部分的量化系数，最终获得全部量化系数。本发明的优点是有效减少了可分离二维FIR滤波器的系数量化误差，降低了有限字长效应，提高滤波器性能指标，获得具有最优有限字长属性的可分离二维FIR滤波器。

Description

一种可分离二维FIR滤波器的系数量化方法
技术领域
本发明属于数字信号处理技术领域，具体涉及一种具有最优有限字长属性的可分离二维FIR滤波器的量化方法。
背景技术
二维FIR数字滤波器作为二维数字信号处理的重要组成部分，已经被广泛应用于医学图像处理、卫星图像处理、雷达、声纳以及地震信号处理等很多方面，而拥有较低复杂度的可分离二维FIR数字滤波器也有着广泛的应用。
在滤波器设计与硬件实现过程中，滤波器存在系数量化误差和运算误差。实际的数字滤波器是由有限精度的数字和算法实现，因此对于滤波器的系数以及信号的输入输出都需要通过有限数量的比特来量化，并且随着比特数的增加，硬件系统的存储和计算负担会急剧增加，所以需要尽可能减少比特位数，这就造成了滤波器有限字长效应问题。有限位的滤波器系数会影响滤波器零极点的位置，造成滤波的不稳定性，导致实际滤波器的频率响应与所设计的理想频率响应有着细微的差别，这就是所谓的系数量化误差，而这种误差在某种程度上会影响滤波器的滤波性能。
在可分离二维FIR滤波器结构中，由多个并联结构的级联一维FIR滤波器构成，这种非线性的滤波器结构更增加了系数量化误差的不确定性。一些适用于一维FIR滤波器的系数量化方法，如果直接使用在这种滤波器结构上，很可能造成不理想的有限字长效应。因此，需要对设计出的可分离二维FIR稀疏滤波器进行系数量化研究，寻找出适用于此滤波器结构的量化方法，得到具有最优有限字长效应的可分离二维FIR滤波器。
发明内容
本发明针对现有技术的不足。提供一种可分离二维FIR滤波器的系数量化方法。
本发明一种可分离二维FIR滤波器的系数量化方法，该方法具体如下：
步骤一、根据设计要求，确定滤波器的基本参数，包括二维FIR滤波器的类型、阶数N2、频率点数Γ，通带截止频率ωp，阻带截止频率ωs，设计出可分离的二维FIR滤波器原型，称之为原型滤波器。
设计的可分离二维FIR滤波器的脉冲响应系数矩阵描述如式(1)。
Figure BDA0002108183900000021
其中列向量ri和si是一维FIR子滤波器的脉冲响应，ri尺寸大小为2·N1+1，si尺寸大小为2·N2+1，其中N1＝N2＝(N-1)/2，K是并行结构的数量。为保证滤波器是线性相位，这些列向量满足中心对称或者反中心对称，所以只需要考虑ri和si列向量中的一半元素，分别记为
ri_half＝[ri(N1+1) ri(N1+2) … ri(2·N1+1)]T (2)
si_half＝[si(N2+1) si(N2+1) … si(2·N2+1)]T，i＝1,2,...,K (3)
所设计具有线性相位的可分离二维FIR滤波器的每个频率点的响应见式(4)。
Figure BDA0002108183900000022
式(4)中ωl是感兴趣的频率点，l∈{1,2,...,Γ}，
Figure BDA0002108183900000023
所要设计的可分离二维FIR滤波器系数向量记为x，定义如下：x＝[r1_half T r2_half T ... rK_half T s1_half Ts2_half T ... sK_half T]T。
步骤二、使用信赖域迭代梯度搜索(TR-IGS)技术优化原型滤波器中的系数向量x。
2-1.确定求解目标函数及约束条件。
根据式(4)可分离二维FIR滤波器的整体频率响应为H(ω|x)＝[H(ω1|x) H(ω2|x) ... H(ωΓ|x)]T，记理想滤波器的频率响应为Hd(ω)＝[Hd(ω1) Hd(ω2) ... Hd(ωΓ)]T。记w＝[w(ω1) w(ω2) ... w(ωΓ)]T为权重向量。采用最大误差最小化(也称
Figure BDA0002108183900000025
)设计准则，使用TR-IGS优化系数向量x见式(5)。
Subject to:||w·(H(ω|x)-Hd(ω))||∞≤δ (5.b)
式(5)中，||·||∞无穷范数运算，xv指的是x中的非0和非1的元素，“·”指两向量中逐元素相乘，δ指通带、阻带中最大峰值纹波误差。
2-2.求解H(ω|x)的雅克比矩阵(梯度矩阵)G(x)。
Figure BDA0002108183900000031
式(6)中，M为x的长度，若x(e)＝0，e＝1,2,...,M，则令
Figure BDA0002108183900000032
2-3.求解H(ω|x)的泰勒一阶近似，见式(7)。
Figure BDA0002108183900000033
式(7)中，xI是x的初始值，
Figure BDA0002108183900000034
是x＝xI时沿G(xI)下降的步长，若x(e)＝0，则令
Figure BDA0002108183900000035
ε是一个正实数，可根据实际系数情况进行取值。将式(7)代入式(5)中，将问题(5)转化成凸规划问题(8)。
Figure BDA0002108183900000036
Figure BDA0002108183900000037
Figure BDA0002108183900000038
2-4.求解凸规划问题(8)。
记j为迭代次数，初始值j＝0，xI (j)＝x，根据式(6)求出此时的G(xI (j))，代入式(8)并进行求解，求出的解记为
Figure BDA0002108183900000039
然后求出新的
Figure BDA00021081839000000310
并将此时的x(j+1)作为第j+1迭代的初始值xI (j+1)重复上述求解过程，直到x不能进一步优化或不再满足式(8)的约束条件或达到最大迭代次数。
步骤三、确定系数量化的表达式。
设步骤二得出的x经过量化后的整数系数向量为
Figure BDA0002108183900000041
量化后的实际频率响应记为
Figure BDA0002108183900000042
设要求的滤波器系数的最大有限字长为Q比特，其中字长包含符号位，量化目标准则采用最大误差最小化设计准则，则系数量化问题描述为
Figure BDA0002108183900000043
Figure BDA0002108183900000044
Figure BDA0002108183900000045
其中δQ表示最大有限字长为Q比特时滤波器的最大峰值纹波误差，也称为Q比特下的量化误差。记
Figure BDA0002108183900000046
和
Figure BDA0002108183900000047
分别是ri和si量化后的系数，则
Figure BDA0002108183900000048
Figure BDA0002108183900000049
记
Figure BDA00021081839000000411
则
Figure BDA00021081839000000412
量化后际每个频率点的实际响应见式(10)。
式(10)中ρ＝1/||x||∞为归一化因子，Ω＝2(Q-1)-1。记
Figure BDA00021081839000000414
Figure BDA00021081839000000415
则量化后的实际频率响应
Figure BDA00021081839000000416
又可以表述为式(13)。
Figure BDA0002108183900000051
将式(13)代入式(9)，可将系数量化问题具体化简为式(14)。
Figure BDA0002108183900000052
Figure BDA0002108183900000053
Figure BDA0002108183900000054
步骤四、采用分步式整数规划算法求解式(14)。
式(14)是一个整数规划问题，由于变量
Figure BDA0002108183900000055
包含着级联的一维FIR子滤波器的系数变量和
Figure BDA0002108183900000057
在计算频率响应时，两者是一种相乘的关系，是非线性的，所以无法采用相关的整数规划算法直接求解，提出分步式整数规划算法量化方案。
4.1利用步骤二得出的连续系数ri_half，求解
Figure BDA0002108183900000058
中的量化系数，目标函数和相应的约束条件为
Figure BDA0002108183900000059
Figure BDA00021081839000000510
Figure BDA00021081839000000511
式(15)中，δ′Q是当前量化状态下所获得的最小峰值纹波误差，式(15.b)中除以(Ω·ρ)表示将量化的整数值转化为小数值用于计算实际的频率响应。
Figure BDA0002108183900000061
Figure BDA0002108183900000062
式(15.c)表示
Figure BDA0002108183900000063
的动态取值范围，式(15.d)中，Ψs表示向量xs中0元素的集合，量化过程中，0元素不参与量化。采用Gurobi求解器与yalmip工具箱嵌套使用的方式求解式(15)中的
Figure BDA0002108183900000064
4.2利用4.1求解出的
Figure BDA0002108183900000065
再求解
Figure BDA0002108183900000066
中的量化系数，目标函数和相应的约束条件为
Figure BDA0002108183900000068
式(18)中，
Figure BDA00021081839000000611
Figure BDA00021081839000000612
式(18.c)表示
Figure BDA00021081839000000613
的动态取值范围，式(18.d)中Ψr表示ri_half系数中的0元素的集合。采用Gurobi求解器与yalmip工具箱嵌套使用的方式求解式(15)中的
Figure BDA00021081839000000614
最终获得量化后的整数系数向量
Figure BDA00021081839000000615
本发明具有的有益效果是：
本发明可以在硬件实现过程中，不改变可分离二维FIR滤波器结构复杂度，利用分步式整数规划算法降低滤波器系数的量化误差，减少滤波器有限字长效应，提高滤波器性能指标，得到具有最优有限字长属性的可分离二维FIR滤波器。
附图说明
图1为本发明的总体设计流程框图。
图2为可分离二维FIR滤波器的结构图。
图3为设计出的可分离二维FIR圆型滤波器的频率响应图。
图4为设计出的可分离二维FIR钻石型滤波器的频率响应图。
图5为可分离二维FIR圆型滤波器Q＝5～20时两种量化方法的量化误差曲线图。
图6为可分离二维FIR钻石型滤波器Q＝5～20时两种量化方法的量化误差曲线图。
具体实施方式
以下结合附图对本发明作进一步说明。
如图1所示，具有最优有限字长属性的可分离二维FIR滤波器的设计方法的具体步骤如下：
步骤一、根据设计要求，确定滤波器的基本参数，包括二维FIR滤波器的类型、阶数N2、频率点数Γ，通带截止频率ωp，阻带截止频率ωs，设计出可分离的二维FIR滤波器原型，称之为原型滤波器，可分离二维FIR滤波器的结构如图2所示；。
设计的可分离二维FIR滤波器的脉冲响应系数矩阵描述如式(1)。
Figure BDA0002108183900000071
其中列向量ri和si是一维FIR子滤波器的脉冲响应，ri尺寸大小为2·N1+1，si尺寸大小为2·N2+1，其中N1＝N2＝N-1/2，K是并行结构的数量。为保证滤波器是线性相位，这些列向量满足中心对称或者反中心对称，所以只需要考虑ri和si列向量中的一半元素，分别记为
ri_half＝[ri(N1+1) ri(N1+2) … ri(2·N1+1)]T (2)
si_half＝[si(N2+1) si(N2+1) … si(2·N2+1)]T，i＝1,2,...,K (3)
所设计具有线性相位的可分离二维FIR滤波器的每个频率点的响应见式(4)。
Figure BDA0002108183900000072
式(4)中ωl是感兴趣的频率点，l∈{1,2,...,Γ}，
Figure BDA0002108183900000081
所要设计的可分离二维FIR滤波器系数向量记为x，定义如下：x＝[r1_half T r2_half T ... rK_half T s1_half Ts2_half T ... sK_half T]T。
步骤二、使用信赖域迭代梯度搜索(TR-IGS)技术优化原型滤波器中的系数向量x。
2-1.确定求解目标函数及约束条件。
根据式(4)可分离二维FIR滤波器的整体频率响应为H(ω|x)＝[H(ω1|x) H(ω2|x) ... H(ωΓ|x)]T，记理想滤波器的频率响应为Hd(ω)＝[Hd(ω1) Hd(ω2) ... Hd(ωΓ)]T。记w＝[w(ω1) w(ω2) ... w(ωΓ)]T为权重向量。采用最大误差最小化(也称
Figure BDA0002108183900000086
)设计准则，使用TR-IGS优化系数向量x见式(5)。
Figure BDA0002108183900000082
Subject to:||w·(H(ω|x)-Hd(ω))||∞≤δ (5.b)
式(5)中，||·||∞无穷范数运算，xv指的是x中的非0和非1的元素，“·”指两向量中逐元素相乘，δ指通带、阻带中最大峰值纹波误差。
2-2.求解H(ω|x)的雅克比矩阵(梯度矩阵)G(x)。
Figure BDA0002108183900000083
式(6)中，M为x的长度，若x(e)＝0，e＝1,2,...,M，则令
Figure BDA0002108183900000084
2-3.求解H(ω|x)的泰勒一阶近似，见式(7)。
Figure BDA0002108183900000085
式(7)中，xI是x的初始值，
Figure BDA0002108183900000091
是x＝xI时沿G(xI)下降的步长，若x(e)＝0，则令
Figure BDA0002108183900000092
ε是一个正实数，可根据实际系数情况进行取值。将式(7)代入式(5)中，将问题(5)转化成凸规划问题(8)。
Figure BDA0002108183900000093
Figure BDA0002108183900000094
Figure BDA0002108183900000095
2-4.求解凸规划问题(8)。
记j为迭代次数，初始值j＝0，xI (j)＝x，根据式(6)求出此时的G(xI (j))，代入式(8)并进行求解，求出的解记为
Figure BDA0002108183900000096
然后求出新的
Figure BDA0002108183900000097
并将此时的x(j+1)作为第j+1迭代的初始值xI (j+1)重复上述求解过程，直到x不能进一步优化或不再满足式(8)的约束条件或达到最大迭代次数。
步骤三、确定系数量化的表达式。
设步骤二得出的x经过量化后的整数系数向量为
Figure BDA0002108183900000098
量化后的实际频率响应记为
Figure BDA0002108183900000099
设要求的滤波器系数的最大有限字长(包含符号位)为Q比特，量化目标准则采用最大误差最小化设计准则，则系数量化问题可以描述为
Figure BDA00021081839000000910
Figure BDA00021081839000000911
Figure BDA00021081839000000912
其中δQ表示最大有限字长为Q比特时滤波器的最大峰值纹波误差，也称为Q比特下的量化误差。记
Figure BDA00021081839000000913
和
Figure BDA00021081839000000914
分别是ri和si量化后的系数，则
Figure BDA00021081839000000915
Figure BDA00021081839000000916
记
Figure BDA00021081839000000918
则
Figure BDA00021081839000000919
量化后际每个频率点的实际响应见式(10)。
Figure BDA0002108183900000101
式(10)中ρ＝1/||x||∞为归一化因子，Ω＝2(Q-1)-1。记
Figure BDA0002108183900000102
Figure BDA0002108183900000103
则量化后的实际频率响应
Figure BDA0002108183900000104
又可以表述为式(13)。
Figure BDA0002108183900000105
将式(13)代入式(9)，可将系数量化问题具体化简为式(14)。
Figure BDA0002108183900000106
Figure BDA0002108183900000107
Figure BDA0002108183900000108
步骤四、采用分步式整数规划算法求解式(14)。
式(14)是一个整数规划问题，由于变量
Figure BDA0002108183900000111
包含着级联的一维FIR子滤波器的系数变量
Figure BDA0002108183900000112
和
Figure BDA0002108183900000113
在计算频率响应时，两者是一种相乘的关系，是非线性的，所以无法采用相关的整数规划算法直接求解，提出分步式整数规划算法量化方案。
4.1利用步骤二得出的连续系数ri_half，求解
Figure BDA0002108183900000114
中的量化系数，目标函数和相应的约束条件为
Figure BDA0002108183900000115
Figure BDA0002108183900000116
Figure BDA0002108183900000117
式(15)中，d′Q是当前量化状态下所获得的最小峰值纹波误差，式(15.b)中除以(Ω·ρ)表示将量化的整数值转化为小数值用于计算实际的频率响应。
Figure BDA0002108183900000119
Figure BDA00021081839000001110
式(15.c)表示的动态取值范围，式(15.d)中，Ψs表示向量xs中0元素的集合，量化过程中，0元素不参与量化。采用Gurobi求解器与yalmip工具箱嵌套使用的方式求解式(15)中的
Figure BDA00021081839000001112
4.2利用4.1求解出的
Figure BDA00021081839000001113
再求解
Figure BDA00021081839000001114
中的量化系数，目标函数和相应的约束条件为
Figure BDA00021081839000001115
Figure BDA00021081839000001116
Figure BDA00021081839000001117
Figure BDA00021081839000001118
式(18)中，
Figure BDA0002108183900000121
Figure BDA0002108183900000122
式(18.c)表示
Figure BDA0002108183900000123
的动态取值范围，式(18.d)中Ψr表示ri_half系数中的0元素的集合。采用Gurobi求解器与yalmip工具箱嵌套使用的方式求解式(15)中的
Figure BDA0002108183900000124
最终获得量化后的整数系数向量
Figure BDA0002108183900000125
为了本发明的有效性，对本发明进行了计算机模拟仿真。
实例1.设计一个四分之一对称的圆型二维FIR滤波器，理想的频率响应如下：
Figure BDA0002108183900000126
其中ωp＝0.5·π，ωs＝0.7·π，滤波器的阶数为N2＝17×17。频率采样点数Γ取值为1521；K的取值为4。步骤二的参数ε＝0.15，迭代次数为15。系数量化的有限字长Q的取值范围为5～20比特，ρ＝1.59689438141。连续系数状态下的频率响应见图3；表1为可分离二维FIR圆型滤波器舍入法和分步式整数规划算法下的量化误差结果，量化误差曲线图见图5；表2和表3是可分离二维FIR圆型滤波器的连续系数；表4和表5分别是使用舍入法和分步式整数规划法得出的量化系数。
表1圆型滤波器舍入法和分步式整数规划算法下的量化误差结果
Figure BDA0002108183900000127
Figure BDA0002108183900000131
表2可分离二维FIR圆型滤波器的归一化的连续系数(ρ·ri_half)
Figure BDA0002108183900000132
表3可分离二维FIR圆型滤波器的归一化的连续系数(ρ·si_half)
Figure BDA0002108183900000133
表4可分离二维FIR圆型滤波器系数在两种量化法下的量化系数(
Figure BDA0002108183900000134
Q＝9)
Figure BDA0002108183900000135
表5可分离二维FIR圆型滤波器系数在两种量化法下的量化系数(
Figure BDA0002108183900000136
Q＝9)
Figure BDA0002108183900000141
实例2.设计一个四分之一对称的钻石型二维FIR滤波器，理想的频率响应如下：
Figure BDA0002108183900000142
其中ωp＝0.6·π，ωs＝π，滤波器的阶数为N2＝17×17阶。对于不同的阶数，频率采样点数Γ取值1521；K的取值依次为5。步骤二的参数ε＝0.15，迭代次数为15。系数量化的有限字长Q的取值范围为5～20比特，ρ＝1.706190735。连续系数状态下的频率响应见图4；表6为可分离二维FIR钻石型滤波器舍入法和分步式整数规划算法下的量化误差结果，量化误差曲线图见图6；表7和表8是可分离二维FIR钻石型滤波器的连续系数；表9和表10分别是使用舍入法和分步式整数规划法得出的量化系数。
表6钻石型滤波器舍入法和分步式整数规划算法下的量化误差结果
Figure BDA0002108183900000143
表7可分离二维FIR钻石型滤波器的归一化的连续系数(ρ·ri_half)
表8可分离二维FIR滤波器的归一化的连续系数(ρ·si_half)
Figure BDA0002108183900000152
表9可分离二维FIR圆型滤波器系数在两种量化法下的量化系数(
Figure BDA0002108183900000153
Q＝11)
表10可分离二维FIR圆型滤波器系数在两种量化法下的量化系数(
Figure BDA0002108183900000155
Q＝11)
Figure BDA0002108183900000156
Figure BDA0002108183900000161
从表1和表6中可以看出，本发明所设计的可分离二维FIR滤波器的分步式整数规划算法量化方法明显优于舍入量化法，特别是在量化比特Q较小的情况下，差距更为明显。可见，本发明设计的方法能有效降低可分离二维FIR滤波器的系数量化误差，获得最优的有限字长属性。

Claims (1)

1.一种可分离二维FIR滤波器的系数量化方法，其特征在于：该方法具体包括以下步骤：
步骤一、根据设计要求，确定滤波器的基本参数，包括二维FIR滤波器的类型、阶数N2、频率点数Γ，通带截止频率ωp，阻带截止频率ωs，设计出可分离的二维FIR滤波器原型，称之为原型滤波器；
设计的可分离二维FIR滤波器的脉冲响应系数矩阵描述如式(1)；
Figure FDA0002321515070000011
其中列向量ri和si是一维FIR子滤波器的脉冲响应，ri尺寸大小为2·N1+1，si尺寸大小为2·N2+1，其中N1＝N2＝(N-1)/2，K是并行结构的数量；为保证滤波器是线性相位，这些列向量满足中心对称或者反中心对称，所以只需要考虑ri和si列向量中的一半元素，分别记为
ri_half＝[ri(N1+1) ri(N1+2)…ri(2·N1+1)]T (2)
si_half＝[si(N2+1) si(N2+1)…si(2·N2+1)]T，i＝1,2,...,K (3)
所设计具有线性相位的可分离二维FIR滤波器的每个频率点的响应见式(4)；
Figure FDA0002321515070000012
式(4)中ωl是感兴趣的频率点，l∈{1,2,...,Γ}，
Figure FDA0002321515070000013
所要设计的可分离二维FIR滤波器系数向量记为x，定义如下：x＝[r1_half Τ r2_half Τ...rK_half Τ s1_half Τs2_half Τ...sK_half Τ]Τ；
步骤二、使用信赖域迭代梯度搜索技术优化原型滤波器中的系数向量x；
2-1.确定求解目标函数及约束条件；
根据式(4)可分离二维FIR滤波器的整体频率响应为H(ω|x)＝[H(ω1|x) H(ω2|x)...H(ωΓ|x)]Τ，记理想滤波器的频率响应为Hd(ω)＝[Hd(ω1) Hd(ω2)...Hd(ωΓ)]Τ；记w＝[w(ω1) w(ω2)...w(ωΓ)]T为权重向量；采用最大误差最小化设计准则，使用TR-IGS优化系数向量x见式(5)；
Figure FDA0002321515070000021
Subject to:||w·(H(ω|x)-Hd(ω))||∞≤δ (5.b)
式(5)中，||·||∞无穷范数运算，xv指的是x中的非0和非1的元素，“·”指两向量中逐元素相乘，δ指通带、阻带中最大峰值纹波误差；
2-2.求解H(ω|x)的雅克比矩阵G(x)；
式(6)中，M为x的长度，若x(e)＝0，e＝1,2,...,M，则令
Figure FDA0002321515070000023
2-3.求解H(ω|x)的泰勒一阶近似，见式(7)；
Figure FDA0002321515070000024
式(7)中，xI是x的初始值，▽x是x＝xI时沿G(xI)下降的步长，若x(e)＝0，则令▽x＝0，ε是一个正实数，可根据实际系数情况进行取值；将式(7)代入式(5)中，将问题(5)转化成凸规划问题(8)；
Figure FDA0002321515070000025
Subject to:||w·(H(ω|xI)+G(xI)·▽x-Hd(ω))||∞≤δ (8.b)
||▽x||∞≤ε (8.c)
2-4.求解凸规划问题(8)；
记j为迭代次数，初始值j＝0，xI (j)＝x，根据式(6)求出此时的G(xI (j))，代入式(8)并进行求解，求出的解记为▽x(j)；然后求出新的x(j+1)＝xI (j)+▽x(j)，并将此时的x(j+1)作为第j+1迭代的初始值xI (j+1)重复上述求解过程，直到x不能进一步优化或不再满足式(8)的约束条件或达到最大迭代次数；
步骤三、确定系数量化的表达式；
设步骤二得出的x经过量化后的整数系数向量为
Figure FDA0002321515070000031
量化后的实际频率响应记为
Figure FDA0002321515070000032
设要求的滤波器系数的最大有限字长为Q比特，其中字长包含符号位，量化目标准则采用最大误差最小化设计准则，则系数量化问题描述为
Figure FDA0002321515070000033
Figure FDA0002321515070000035
其中δQ表示最大有限字长为Q比特时滤波器的最大峰值纹波误差，也称为Q比特下的量化误差；记
Figure FDA0002321515070000036
和
Figure FDA0002321515070000037
分别是ri和si量化后的系数，则
Figure FDA0002321515070000038
Figure FDA0002321515070000039
记
Figure FDA00023215150700000310
Figure FDA00023215150700000311
则
Figure FDA00023215150700000312
量化后每个频率点的实际响应见式(10)；
Figure FDA00023215150700000313
式(10)中ρ＝1/||x||∞为归一化因子，Ω＝2(Q-1)-1；记
Figure FDA0002321515070000041
Figure FDA0002321515070000042
则量化后的实际频率响应
Figure FDA0002321515070000043
又可以表述为式(13)；
Figure FDA0002321515070000044
将式(13)代入式(9)，可将系数量化问题具体化简为式(14)；
Figure FDA0002321515070000045
Figure FDA0002321515070000046
Figure FDA0002321515070000047
步骤四、采用分步式整数规划算法求解式(14)；
式(14)是一个整数规划问题，由于变量
Figure FDA0002321515070000048
包含着级联的一维FIR子滤波器的系数变量
Figure FDA0002321515070000049
和
Figure FDA00023215150700000410
在计算频率响应时，两者是一种相乘的关系，是非线性的，所以无法采用相关的整数规划算法直接求解，提出分步式整数规划算法量化方案；
4.1利用步骤二得出的连续系数ri_half，求解
Figure FDA00023215150700000411
中的量化系数，目标函数和相应的约束条件为
Figure FDA0002321515070000051
Figure FDA0002321515070000052
Figure FDA0002321515070000054
式(15)中，δ′Q是当前量化状态下所获得的最小峰值纹波误差，式(15.b)中除以(Ω·ρ)表示将量化的整数值转化为小数值用于计算实际的频率响应；
Figure FDA0002321515070000055
Figure FDA0002321515070000056
式(15.c)表示
Figure FDA0002321515070000057
的动态取值范围，式(15.d)中，Ψs表示向量xs中0元素的集合，量化过程中，0元素不参与量化；采用Gurobi求解器与yalmip工具箱嵌套使用的方式求解式(15)中的
Figure FDA0002321515070000058
4.2利用4.1求解出的
Figure FDA0002321515070000059
再求解
Figure FDA00023215150700000510
中的量化系数，目标函数和相应的约束条件为
Figure FDA00023215150700000511
Figure FDA00023215150700000512
Figure FDA00023215150700000513
Figure FDA00023215150700000514
式(18)中，
Figure FDA00023215150700000515
Figure FDA00023215150700000516
式(18.c)表示
Figure FDA0002321515070000061
的动态取值范围，式(18.d)中Ψr表示ri_half系数中的0元素的集合；采用Gurobi求解器与yalmip工具箱嵌套使用的方式求解式(15)中的
Figure FDA0002321515070000062
最终获得量化后的整数系数向量
Figure FDA0002321515070000063
CN201910560764.9A 2019-06-26 2019-06-26 一种可分离二维fir滤波器的系数量化方法 Active CN110365310B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910560764.9A CN110365310B (zh) 2019-06-26 2019-06-26 一种可分离二维fir滤波器的系数量化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910560764.9A CN110365310B (zh) 2019-06-26 2019-06-26 一种可分离二维fir滤波器的系数量化方法

Publications (2)

Publication Number Publication Date
CN110365310A CN110365310A (zh) 2019-10-22
CN110365310B true CN110365310B (zh) 2020-03-03

Family

ID=68217554

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910560764.9A Active CN110365310B (zh) 2019-06-26 2019-06-26 一种可分离二维fir滤波器的系数量化方法

Country Status (1)

Country Link
CN (1) CN110365310B (zh)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10250555A1 (de) * 2002-10-30 2004-05-19 Philips Intellectual Property & Standards Gmbh Verfahren zur Ermittlung von Filterköffizienten eines digitalen Filters und digitales Filter
US7916961B2 (en) * 2005-09-06 2011-03-29 Megachips Corporation Compression encoder, compression encoding method and program
CN101807903B (zh) * 2010-03-26 2012-05-23 深圳市云海通讯股份有限公司 一种自适应滤波器、滤波方法及直放站

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
《基于粗糙集和支持向量机的表面肌电特征约简和分类研究》;颜志国;《www.cnki.net》;20080301;全文 *

Also Published As

Publication number Publication date
CN110365310A (zh) 2019-10-22

Similar Documents

Publication Publication Date Title
CN110365314B (zh) 具有稀疏系数的可分离二维fir滤波器的设计方法
CN110365312B (zh) 两通道正交镜像滤波器组的多相结构及其系数设计方法
CN107241081B (zh) 余弦调制滤波器组的稀疏fir原型滤波器的设计方法
CN108092644B (zh) 一种陷波频率精准可调的稀疏二维fir陷波滤波器的设计方法
Tseng Digital integrator design using Simpson rule and fractional delay filter
US20060218213A1 (en) Optimization technique for FIR and IIR filter design
Beylkin et al. On the design of highly accurate and efficient IIR and FIR filters
CN110365310B (zh) 一种可分离二维fir滤波器的系数量化方法
Stošić The effects of coefficient quantization on new CIC FIR filters
CN110086452B (zh) 一种低复杂度的稀疏fir陷波滤波器的设计方法
Mitra et al. New methods of digital ladder realization
Lee et al. A weighted least-square-based approach to FIR filter design using the frequency-response masking technique
CN107276559B (zh) 量子生物地理学演进机制的多约束fir数字滤波器生成方法
Stošić Improved classes of CIC filter functions: Design and analysis of the quantized-coefficient errors
CN111010144B (zh) 改进的两通道iir的qmfb设计方法
Lian A modified frequency-response masking structure for high-speed FPGA implementation of sharp FIR filters
CN107947760B (zh) 一种稀疏fir陷波器的设计方法
CN114189229B (zh) 一种基于自适应分段算法的小数延时滤波方法
Nakamoto et al. Optimal Least-Squares Design of Sparse FIR Filters for Big-Data Signal Processing
Dam et al. FIR filter design over discrete coefficients and least square error
Williams et al. Design of 2D FIR and IIR digital filters with canonical signed digit coefficients using singular value decomposition and genetic algorithms
Gray Parallel sub-convolution filter bank architectures
Velukar et al. FPGA implementation of fir filter using distributed arithmetic architecture for DWT
Prokopenko et al. Usage of numerical methods for differential equations solving in digital filters synthesis
Reddy et al. Application of Symmetry: Two-Dimensional Polynomials, Fourier Transforms, and Filter

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant