[0078] 以下结合附图对本发明作进一步说明。
[0079] 如图1所示,具有最优有限字长属性的可分离二维FIR滤波器的设计方法的具体步骤如下:
[0080] 步骤一、根据设计要求,确定滤波器的基本参数,包括二维FIR滤波器的类型、阶数2
N、频率点数Γ,通带截止频率ωp,阻带截止频率ωs,设计出可分离的二维FIR滤波器原型,称之为原型滤波器,可分离二维FIR滤波器的结构如图2所示;。
[0081] 设计的可分离二维FIR滤波器的脉冲响应系数矩阵描述如式(1)。
[0082]
[0083] 其中列向量ri和si是一维FIR子滤波器的脉冲响应,ri尺寸大小为2·N1+1,si尺寸大小为2·N2+1,其中N1=N2=N-1/2,K是并行结构的数量。为保证滤波器是线性相位,这些列向量满足中心对称或者反中心对称,所以只需要考虑ri和si列向量中的一半元素,分别记为
[0084] ri_half=[ri(N1+1) ri(N1+2) … ri(2·N1+1)]T (2)
[0085] si_half=[si(N2+1) si(N2+1) … si(2·N2+1)]T,i=1,2,...,K (3)[0086] 所设计具有线性相位的可分离二维FIR滤波器的每个频率点的响应见式(4)。
[0087]
[0088] 式(4)中ωl是感兴趣的频率点,l∈{1,2,...,Γ}, 所要设计的可分离二维FIR滤波器系数向量记为x,定义如下:x=[r1_halfT r2_halfT ... rK_halfT s1_halfT s2_halfT ... sK_halfT]T。
[0089] 步骤二、使用信赖域迭代梯度搜索(TR-IGS)技术优化原型滤波器中的系数向量x。
[0090] 2-1.确定求解目标函数及约束条件。
[0091] 根据式(4)可分离二维FIR滤波器的整体频率响应为H(ω|x)=[H(ω1|x) H(ω2|x) ... H(ωΓ|x)]T,记理想滤波器的频率响应为Hd(ω)=[Hd(ω1) Hd(ω2) ... Hd(ωΓ)]T。记w=[w(ω1) w(ω2) ... w(ωΓ)]T为权重向量。采用最大误差最小化(也称 )设计准则,使用TR-IGS优化系数向量x见式(5)。
[0092]
[0093] Subject to:||w·(H(ω|x)-Hd(ω))||∞≤δ (5.b)
[0094] 式(5)中,||·||∞无穷范数运算,xv指的是x中的非0和非1的元素,“·”指两向量中逐元素相乘,δ指通带、阻带中最大峰值纹波误差。
[0095] 2-2.求解H(ω|x)的雅克比矩阵(梯度矩阵)G(x)。
[0096]
[0097] 式(6)中,M为x的长度,若x(e)=0,e=1,2,...,M,则令
[0098] 2-3.求解H(ω|x)的泰勒一阶近似,见式(7)。
[0099]
[0100] 式(7)中,xI是x的初始值, 是x=xI时沿G(xI)下降的步长,若x(e)=0,则令ε是一个正实数,可根据实际系数情况进行取值。将式(7)代入式(5)中,将问题(5)转化成凸规划问题(8)。
[0101]
[0102]
[0103]
[0104] 2-4.求解凸规划问题(8)。
[0105] 记j为迭代次数,初始值j=0,xI(j)=x,根据式(6)求出此时的G(xI(j)),代入式(8)并进行求解,求出的解记为 然后求出新的 并将此时的x(j+1)作为第j+1迭代的初始值xI(j+1)重复上述求解过程,直到x不能进一步优化或不再满足式(8)的约束条件或达到最大迭代次数。
[0106] 步骤三、确定系数量化的表达式。
[0107] 设步骤二得出的x经过量化后的整数系数向量为 量化后的实际频率响应记为设要求的滤波器系数的最大有限字长(包含符号位)为Q比特,量化目标准则采用最大误差最小化设计准则,则系数量化问题可以描述为
[0108]
[0109]
[0110]
[0111] 其中δQ表示最大有限字长为Q比特时滤波器的最大峰值纹波误差,也称为Q比特下的量化误差。记 和 分别是ri和si量化后的系数,则记
则 量化后际每个频率点的实际响应见式
(10)。
[0112]
[0113] 式(10)中ρ=1/||x||∞为归一化因子,Ω=2(Q-1)-1。记
[0114]
[0115]
[0116] 则量化后的实际频率响应 又可以表述为式(13)。
[0117]
[0118] 将式(13)代入式(9),可将系数量化问题具体化简为式(14)。
[0119]
[0120]
[0121]
[0122] 步骤四、采用分步式整数规划算法求解式(14)。
[0123] 式(14)是一个整数规划问题,由于变量 包含着级联的一维FIR子滤波器的系数变量 和 在计算频率响应时,两者是一种相乘的关系,是非线性的,所以无法采用相关的整数规划算法直接求解,提出分步式整数规划算法量化方案。
[0124] 4.1利用步骤二得出的连续系数ri_half,求解 中的量化系数,目标函数和相应的约束条件为
[0125]
[0126]
[0127]
[0128]
[0129] 式(15)中,d′Q是当前量化状态下所获得的最小峰值纹波误差,式(15.b)中除以(Ω·ρ)表示将量化的整数值转化为小数值用于计算实际的频率响应。
[0130]
[0131]
[0132] 式(15.c)表示 的动态取值范围,式(15.d)中,Ψs表示向量xs中0元素的集合,量化过程中,0元素不参与量化。采用Gurobi求解器与yalmip工具箱嵌套使用的方式求解式(15)中的
[0133] 4.2利用4.1求解出的 再求解 中的量化系数,目标函数和相应的约束条件为
[0134]
[0135]
[0136]
[0137]
[0138] 式(18)中,
[0139]
[0140]
[0141] 式(18.c)表示 的动态取值范围,式(18.d)中Ψr表示ri_half系数中的0元素的集合。采用Gurobi求解器与yalmip工具箱嵌套使用的方式求解式(15)中的
[0142] 最终获得量化后的整数系数向量
[0143] 为了本发明的有效性,对本发明进行了计算机模拟仿真。
[0144] 实例1.设计一个四分之一对称的圆型二维FIR滤波器,理想的频率响应如下:
[0145]
[0146] 其中ωp=0.5·π,ωs=0.7·π,滤波器的阶数为N2=17×17。频率采样点数Γ取值为1521;K的取值为4。步骤二的参数ε=0.15,迭代次数为15。系数量化的有限字长Q的取值范围为5~20比特,ρ=1.59689438141。连续系数状态下的频率响应见图3;表1为可分离二维FIR圆型滤波器舍入法和分步式整数规划算法下的量化误差结果,量化误差曲线图见图5;表2和表3是可分离二维FIR圆型滤波器的连续系数;表4和表5分别是使用舍入法和分步式整数规划法得出的量化系数。
[0147] 表1圆型滤波器舍入法和分步式整数规划算法下的量化误差结果
[0148]
[0149]
[0150] 表2可分离二维FIR圆型滤波器的归一化的连续系数(ρ·ri_half)
[0151]
[0152] 表3可分离二维FIR圆型滤波器的归一化的连续系数(ρ·si_half)
[0153]
[0154] 表4可分离二维FIR圆型滤波器系数在两种量化法下的量化系数( Q=9)
[0155]
[0156] 表5可分离二维FIR圆型滤波器系数在两种量化法下的量化系数( Q=9)
[0157]
[0158] 实例2.设计一个四分之一对称的钻石型二维FIR滤波器,理想的频率响应如下:
[0159]
[0160] 其中ωp=0.6·π,ωs=π,滤波器的阶数为N2=17×17阶。对于不同的阶数,频率采样点数Γ取值1521;K的取值依次为5。步骤二的参数ε=0.15,迭代次数为15。系数量化的有限字长Q的取值范围为5~20比特,ρ=1.706190735。连续系数状态下的频率响应见图4;表6为可分离二维FIR钻石型滤波器舍入法和分步式整数规划算法下的量化误差结果,量化误差曲线图见图6;表7和表8是可分离二维FIR钻石型滤波器的连续系数;表9和表10分别是使用舍入法和分步式整数规划法得出的量化系数。
[0161] 表6钻石型滤波器舍入法和分步式整数规划算法下的量化误差结果
[0162]
[0163] 表7可分离二维FIR钻石型滤波器的归一化的连续系数(ρ·ri_half)
[0164]
[0165] 表8可分离二维FIR滤波器的归一化的连续系数(ρ·si_half)
[0166]
[0167] 表9可分离二维FIR圆型滤波器系数在两种量化法下的量化系数( Q=11)
[0168]
[0169] 表10可分离二维FIR圆型滤波器系数在两种量化法下的量化系数( Q=11)
[0170]
[0171]
[0172] 从表1和表6中可以看出,本发明所设计的可分离二维FIR滤波器的分步式整数规划算法量化方法明显优于舍入量化法,特别是在量化比特Q较小的情况下,差距更为明显。可见,本发明设计的方法能有效降低可分离二维FIR滤波器的系数量化误差,获得最优的有限字长属性。