JP2543753B2 - 浮動小数点ディジタルフイルタの出力誤差最小化方法及び装置 - Google Patents

浮動小数点ディジタルフイルタの出力誤差最小化方法及び装置

Info

Publication number
JP2543753B2
JP2543753B2 JP63267831A JP26783188A JP2543753B2 JP 2543753 B2 JP2543753 B2 JP 2543753B2 JP 63267831 A JP63267831 A JP 63267831A JP 26783188 A JP26783188 A JP 26783188A JP 2543753 B2 JP2543753 B2 JP 2543753B2
Authority
JP
Japan
Prior art keywords
ordering
error
section
output
maximum value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP63267831A
Other languages
English (en)
Other versions
JPH02113711A (ja
Inventor
徹 村上
茂義 河原井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Anritsu Corp
Original Assignee
Anritsu Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Anritsu Corp filed Critical Anritsu Corp
Priority to JP63267831A priority Critical patent/JP2543753B2/ja
Priority to JP1276654A priority patent/JPH02191352A/ja
Publication of JPH02113711A publication Critical patent/JPH02113711A/ja
Application granted granted Critical
Publication of JP2543753B2 publication Critical patent/JP2543753B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Description

【発明の詳細な説明】 〔産業上の利用分野〕 この発明は、電子情報通信工学の分野で使用されるデ
ィジタルフィルタに関する。さらに詳しく述べればカス
ケード形浮動小数点ディジタルフィルタの出力誤差をで
きるだけ小さくする技術に関する。特に、この技術は、
高次高精度の浮動小数点ディジタルフィルタを構成する
際に有用な技術に係るものである。
〔従来の技術〕
ディジタルフィルタとしては、カスケード形のものが
広く採用されている。この種のディジタルフィルタはつ
ぎの(1)式のように、伝達関数の分母と分子とがそれ
ぞれZ-1(Z変換)の2次の多項式である関数(つま
り、2次式)の積で表される。
ただし、 また、a0は入力のスケーリングファクターであり、N
は2次のカスケード接続のセクション数であり、αK1
αK2,βK1,βK2は第k番目のセクションにおけるフィ
ルタ係数である。
ここで、ディジタルフィルタの出力誤差は前記(1)
式で与えられる極 のペアリング・オーダリングに依存する。その理由はDS
P(ディジタルシグナルプロセッサ)内部のレジスタが
有限語長だからである。ここで、オーダリングは の並び順を意味し、ペアリングは の組み合わせを意味する。
第1図に6次のディジタルフィルタを示す。この第1
図(a)、(b)において両者のディジタルフィルタに
おけるペアリング・オーダリングは異なるので出力に生
じる誤差も異なる。したがって、この出力誤差が最小と
なるようなペアリング・オーダリングが必要となる。
しかしながら、もし20次のディジタルフィルタの出力
誤差が最小となる構成を見つけようとすると(10!)2
13,168,189,440,000回ペアリング・オーダリングを繰り
返さなければならず、膨大な時間が必要となる。
そこで、この出力誤差を最小にする高速な手法が必要
となった。
現在のところ、この最適化の手法は固定小数点におい
てしか用いられておらず、浮動小数点についての手法は
まだ発表されていない。
固定小数点についてはランダムにペアリング・オーダ
リングを複数個定めて、その中で一番小さい出力誤差を
もつオーダリングを採用する方法が使われており、その
技術はたとえばB.Liv and A.P.Peled,“Heuristic opti
mization of the cascade realization of fixed−poin
t digital filters,"IEEE Trans.,vol.ASSP−23,pp.464
−473,Oct.1975に開示されている。
〔発明が解決しようとする課題〕
この発明は、特定の語長をもつカスケード形浮動小数
点ディジタルフィルタにおいて、その出力誤差を最小に
する高速な方法及び装置を実現することを目的とする。
〔課題を解決するための手段〕
前記課題を解決するために、本発明の浮動小数点ディ
ジタルフィルタの出力誤差最小化方法及び装置は、次の
ようにする。
零点 のフィルタ係数の変化が及ぼす出力誤差への影響(係数
感度)は、極 のフィルタ係数の変化が及ぼす出力誤差への影響(係数
感度)と比べるとかなり小さくなるので、零点のオーダ
リングを行っても効果がないといわれている。
そこで、零点 のオーダリングは固定したままで極 のオーダリングのみを行うこととする。
浮動小数点ディジタルフィルタの出力に生じる丸め
誤差は、入力から丸め誤差を生じるノードまでの伝達関
数のL2ノルムとそのノードから出力までの伝達関数のL2
ノルムの積に相対誤差の分散値を掛けたものの総和とな
る。したがって、k番目のセクションにおける丸め誤差
を生じるノードが出力に及ぼす丸め誤差は、(k+1)
番目以降の伝達関数に対してペアリングまたはオーダリ
ングを行っても変わらないことになる。
そこで、各セクションが出力に及ぼす誤差の最大値を
減少させることができない極 のオーダリングを省いていくことにより高速に最適な極 のオーダリングを求めることとする。
所定の判別式を用いることにより、所望のオーダリ
ングが求められたかどうかを判別し、プログラムを終了
させることとする。
後に詳述するように、本発明は、従来知られている固
定小数点用の理論とは全く異なるアルゴリズムによっ
て、高速にカスケード形浮動小数点ディジタルフィルタ
の出力誤差を最小化する構成を実現する。
〔作用〕
本発明による技術手段を前記のLiv等によって与えら
れた22次のバンドストッチフィルタ(B.S.F)に適用し
たところ、出力誤差は約70dB(12bit)減少し、オーダ
リングの繰り返し回数も990(判別式の右辺u=0にお
いて)、89(判別式の右辺u=3において)と大幅に減
少し、ほぼ最適な極のオーダリングを短時間で求めるこ
とができた。このように本発明は、任意の次数のカスケ
ード形浮動小数点ディジタルフィルタに対して出力誤差
を最小化できるものである。
〔実施例1〕 統計的モデルをNECのμpD77230に適用すると各セクシ
ョンが出力に及ぼす誤差分散 は、下記の(2)式によって与えられる。
ここでbは仮数部のビット数から符号ビットを除いたビ
ット数であり、||X||2はL2ノルムで下記の(3),
(4)式によって与えられる。
また、 である。
前記(3)式により各セクションが出力に及ぼす誤差
の求め方について、具体的に10次の例を用いて説明す
る。
この場合のセクション数は5である。
A)まず、最初の極のオーダリングは第2図(a)に示
すようにβ1 *(Z),β2 *(Z),β3 *(Z),β
4 *(Z),β5 *(Z),の並び順と定める。
今後{βk *(Z)}のkの並び順は、最小値12345か
ら最大値54321まで、{βk *(Z)}を並び換えること
によって増加していく数値と考える。
B)第2図(a)のオーダリングでそれぞれのセクショ
ンが出力に及ぼす誤差のうちで例えば、第3番目のセク
ションが出力に及ぼす誤差が最大値であるとすると、そ
の最大値とオーダリングを記憶する。
C)第3番目のセクションの極β3 *(Z)を移動する。
そのとき、誤差の最大値を減少させることができない極
のオーダリングをスキップするために、第1番目のセク
ションから第3番目のセクションまでのオーダリングを
最小ステップ(1ステップ)増加する。その結果は第2
図(b)のようになる。
D)このオーダリングにおいて第1番目のセクションか
ら第5番目のセクションまで順番に、各セクションが出
力に及ぼす誤差を算出し、前記B)の段階で記憶されて
いる値と比較する。
i)第2番目のセクションが出力に及ぼす誤差の値が記
憶されている値より大きかったとすると、第1番目のセ
クションから第2番目のセクションまでのオーダリング
を1ステップ増加する。その結果は第2図(c)のよう
になる。
ii)各セクションが出力に及ぼす誤差の値のいずれもが
記憶されている値より小さかったときは、そのオーダリ
ングにおいて各セクションが出力に及ぼす誤差の最大値
を検出し、検出した最大値を記憶されている最大値の代
わりに記憶し、また、そのオーダリングを記憶し、あわ
せて判別式 〔ここでNはセクション数でσfk 2はk番目のセクショ
ンが出力に及ぼす誤差の分散値でuは6以下の任意の値
である。〕で判別し、 iia)前記判別式が成立しないときは第1番目のセクシ
ョンから各セクションが出力に及ぼす誤差のうち最大の
誤差を生じるセクションまでを1ステップ更新するため
に前記D)の段階以降を繰り返す。ここで第3番目のセ
クションが出力に及ぼす誤差が最大値であるとすると、
オーダリングは第2図(d)のようになる。
iib)前記判別式が成立するときは、そのオーダリング
がほぼ最適なオーダリングとなり、実行を停止する。
なお説明を加えれば、前記判別式は、現在の極のオー
ダリングにおいてカスケード形浮動小数点ディジタルフ
ィルタの出力に生じる誤差と最適なオーダリングにおけ
る誤差との差がある値uより小さくなったかどうかを判
別する式であり、実用上の要請からは、誤差は1bit(6b
B)以内にすることが望ましいので、uを6dB以下の値と
定義することとした。
第2図の(a),(b)からオーダリング(β:1235
4)がスキップされ、(b),(c)から(β:12453)
(β:12534)(β:12543)がスキップされていることが
わかる。このスキップ操作は高次になればなるほど有効
になり、レジスタに記憶される誤差の値は徐々に小さく
なるのでスキップする可能性はこのアルゴリズムが進む
と増加する。そして、高速にほぼ最適なオーダリングが
得られるのである。
〔実施例2〕 以下に本発明を、図示する実施例に基づき詳細に説明
する。
第3図は、本発明に係るカソケード形の浮動小数点デ
ィジタルフィルタの出力誤差を低減するオーダリング決
定の装置ブロック図である。
A)入力されたディジタルフィルタの極のオーダリング
は、初期オーダリング設定手段1によって番号を付され
る。
B)誤差計算手段2によって各セクションが出力に及ぼ
す誤差がそれぞれ計算され、その最大値とオーダリング
がレジスタ3に記憶される。
C)オーダリング設定手段4によって第1番目のセクシ
ョンからその最大値を生じるセクションまでのオーダリ
ングを1ステップ増加する。
D)比較器5により第1番目のセクションからセクショ
ン番号が増加する順に各セクションが出力に及ぼす誤差
とレジスタ3に記憶されている値とを比較する。
i)あるセクションが出力に及ぼす誤差がレジスタ3の
記憶値より大きかったとすると、オーダリング設定手段
4に進む。
ii)セクションが出力に及ぼす誤差のすべての値がレジ
スタ3の値より小さい場合は、そのオーダリングにおい
て各セクションが出力に及ぼす誤差の最大値と、このオ
ーダリングをメモリ3に記憶し、判別器6で判別し、 iia)判別式が成立しないときはオーダリング設定手段
4に戻る。
iib)判別式が成立するときは、そのオーダリングをほ
ぼ最適なオーダリングとして実行を停止する。
〔発明の効果〕
実施例で述べたように本発明では、極のオーダリング
に特に着目して、各セクションが出力に及ぼす誤差を吟
味し、その最大値を記憶して、最大値を小さくするよう
にオーダリングを変更する手順を繰り返し、それを発明
者の創作した所定の判別式が成立する値になるまで行う
こととしたから、カスケード形の浮動小数点ディジタル
フィルタの出力誤差を最小にする極のオーダリングを高
速に求めることができた。
【図面の簡単な説明】
第1図はディジタルフィルタの出力誤差の生ずる機構の
説明図で、(a)と(b)とはペアリング及びオーダリ
ングが異なる例を示す。第2図は本発明に係る原理の作
用を説明するための図で、(a)は1番初めの極のオー
ダリングを示し、(b)は(a)において第3番目のセ
クションが出力に及ぼす誤差が最大値となったときの極
のオーダリングを示し、(c)は(b)においてレジス
タに記憶されている値より第2番目のセクションが出力
に及ぼす誤差が大きかった場合の極のオーダリングを示
し、(d)は(b)において第3番目のセクションが出
力に及ぼす誤差が最大値となった場合の極のオーダリン
グを示す。第3図は本発明に係る浮動小数点ディジタル
フィルタの出力誤差最小化装置のブロック図を示す。 図において、1は初期オーダリング設定手段、2は誤差
計算手段、3はレジスタ、4はオーダリング設定手段、
5は比較器、6は判別器をそれぞれ示す。
フロントページの続き (56)参考文献 特開 昭59−198020(JP,A) IEEE Transaction orson Acoustics,Sp eech and Sigual Pr ocessing,ASSP−23,N o.5,October1975,P.464 −473 IEEE Transactouso n Audio Electroaco ust,AU−18,No.2,June 1970,P.107−122

Claims (3)

    (57)【特許請求の範囲】
  1. 【請求項1】伝達関数の分母と分子が、それぞれZ変換
    の2次の多項式である関数の積で表されるディジタルフ
    ィルタの出力誤差を最小化する極のオーダリングを決定
    するための浮動小数点ディジタルフィルタの出力誤差最
    小化方法であって、 A)前記極の初期オーダリングに対して2次セクション
    の並び順に合理的初期値を付与する段階と、 B)予め順序付けられた各セクションが出力に及ぼす誤
    差の最大値と前記オーダリングとを検出してそれらを記
    憶する段階と、 C)前記最大値が検出されたセクションの極をその位置
    から移動するために第1番目のセクションから該最大値
    が検出されたセクションまでのオーダリングを最小ステ
    ップで変更する段階と、 D)前記B)の段階で記憶されている最大値と前記各セ
    クションが出力に及ぼす誤差の値とを第1番目のセクシ
    ョンから順に比較して、 i)前記各セクションが、出力に及ぼす誤差の値がいず
    れか1つでも前記記憶されている最大値よりも大きいと
    きは、第1番目のセクションから最初に前記記憶されて
    いる最大値より大きくなった誤差をもつセクションまで
    のオーダリングを最小ステップで変更する段階と、 ii)前記各セクションが、出力に及ぼすすべての誤差の
    値が前記記憶されている最大値よりも小さいときは、そ
    のときのオーダリングにおける各セクションが出力に及
    ぼす誤差のうちの最大値を前記記憶されている最大値の
    代わりに記憶するとともに、そのときのオーダリングを
    記憶し、併せて所定の判別式で判別し、 iia)該判別式が成立しないときは第1番目のセクショ
    ンから最大値が検出されたセクションまでのオーダリン
    グを最小ステップで変更し前記D)の段階以降を繰り返
    す段階と、 iib)該判別式が成立するときは、そのオーダリングを
    採用することを決定する段階とから成る浮動小数点ディ
    ジタルフィルタの出力誤差最小化方法。
  2. 【請求項2】前記所定の判別式が、 (ただし、Nは各々のカスケード接続されたセクション
    数、 はk番目のセクションが出力に及ぼす誤差の分散値、u
    は6以下の任意の値)である請求項1記載の浮動小数点
    ディジタルフィルタの出力誤差最小化方法。
  3. 【請求項3】伝達関数の分母と分子が、それぞれZ変換
    の2次の多項式である関数の積で表されるディジタルフ
    ィルタの出力誤差を最小化する極のオーダリングを決定
    するための浮動小数点ディジタルフィルタの出力誤差最
    小化装置であって、 前記極の初期オーダリングに対して2次セクションの並
    べ順に合理的初期化を付与する初期オーダリング設定手
    段(1)と、 該付与された初期値に基づいて各セクションが出力に及
    ぼす誤差の最大値を検知する誤差計算手段(2)と、 該検知された誤差の最大値と前記オーダリングを記憶す
    るレジスタ(3)と、 該最大値を生じたセクションの極をその位置から移動す
    るためのオーダリング設定手段(4)と、 前記レジスタ(3)に記憶されている最大値とセクショ
    ンが出力に及ぼす誤差の値とを第1番目のセクションか
    ら順に比較していく比較器(5)と、 該極のオーダリングがほぼ最適なオーダリングとなった
    かどうかを判別する判別器(6)とから成る浮動小数点
    ディジタルフィルタの出力誤差最小化装置。
JP63267831A 1988-10-24 1988-10-24 浮動小数点ディジタルフイルタの出力誤差最小化方法及び装置 Expired - Lifetime JP2543753B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP63267831A JP2543753B2 (ja) 1988-10-24 1988-10-24 浮動小数点ディジタルフイルタの出力誤差最小化方法及び装置
JP1276654A JPH02191352A (ja) 1988-10-24 1989-10-24 プローブ装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP63267831A JP2543753B2 (ja) 1988-10-24 1988-10-24 浮動小数点ディジタルフイルタの出力誤差最小化方法及び装置

Publications (2)

Publication Number Publication Date
JPH02113711A JPH02113711A (ja) 1990-04-25
JP2543753B2 true JP2543753B2 (ja) 1996-10-16

Family

ID=17450224

Family Applications (1)

Application Number Title Priority Date Filing Date
JP63267831A Expired - Lifetime JP2543753B2 (ja) 1988-10-24 1988-10-24 浮動小数点ディジタルフイルタの出力誤差最小化方法及び装置

Country Status (1)

Country Link
JP (1) JP2543753B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5339264A (en) * 1992-07-27 1994-08-16 Tektronix, Inc. Symmetric transposed FIR digital filter

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
IEEETransactionorsonAcoustics,SpeechandSigualProcessing,ASSP−23,No.5,October1975,P.464−473
IEEETransactousonAudioElectroacoust,AU−18,No.2,June1970,P.107−122

Also Published As

Publication number Publication date
JPH02113711A (ja) 1990-04-25

Similar Documents

Publication Publication Date Title
US4926369A (en) Leading 0/1 anticipator (LZA)
Imai et al. Mel log spectrum approximation (MLSA) filter for speech synthesis
US5357250A (en) Adaptive computation of symbol probabilities in n-ary strings
EP1176718B1 (en) Hardware accelerator for normal least-mean-square algorithm-based coefficient adaptation
Kobayashi et al. Design of IIR digital filters with arbitrary log magnitude function by WLS techniques
Davisson Data compression using straight line interpolation
CN114708855B (zh) 一种基于二值残差神经网络的语音唤醒方法及系统
Bose et al. Conjugate gradient method in adaptive bilinear filtering
JP2543753B2 (ja) 浮動小数点ディジタルフイルタの出力誤差最小化方法及び装置
US11651766B2 (en) Ultra-low-power speech feature extraction circuit based on non-overlapping framing and serial FFT
US6016469A (en) Process for the vector quantization of low bit rate vocoders
CN111667819B (zh) 基于crnn的语音识别方法、系统、存储介质及电子设备
US5604752A (en) Communication method and apparatus therefor
Li et al. The comparison of the constrained and unconstrained frequency-domain block-LMS adaptive algorithms
US20020126750A1 (en) Cascaded biquad infinite impulse response filter
JPH09128213A (ja) ブロックフローティング処理システムおよび方法
EP1444569A1 (en) Method and systeme for converting varying-radix numbers
Scott A simplified method for the bilinear sz transformation
JP2773701B2 (ja) 誤り訂正復号装置
CN115035897B (zh) 一种关键词检测方法及系统
Chandra Accumulation of coefficient roundoff error in fast Fourier transforms implemented with logarithmic number system
CN110739934B (zh) 一种iir滤波器系数的转换方法及转换装置
Duhamel An algorithm for the design of digital filters with finite-wordlength coefficients
Marciniak et al. On representations of coefficients in implicit interval methods of runge-kutta type
US20210326711A1 (en) Dual-momentum gradient optimization with reduced memory requirements