JPH02113711A - 浮動小数点ディジタルフイルタの出力誤差最小化方法及び装置 - Google Patents
浮動小数点ディジタルフイルタの出力誤差最小化方法及び装置Info
- Publication number
- JPH02113711A JPH02113711A JP26783188A JP26783188A JPH02113711A JP H02113711 A JPH02113711 A JP H02113711A JP 26783188 A JP26783188 A JP 26783188A JP 26783188 A JP26783188 A JP 26783188A JP H02113711 A JPH02113711 A JP H02113711A
- Authority
- JP
- Japan
- Prior art keywords
- ordering
- error
- section
- output
- maximum value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 15
- 238000007667 floating Methods 0.000 title claims abstract description 9
- 238000004364 calculation method Methods 0.000 claims abstract description 3
- 230000006870 function Effects 0.000 claims description 6
- 230000003247 decreasing effect Effects 0.000 abstract 2
- 238000010586 diagram Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000013179 statistical model Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Landscapes
- Complex Calculations (AREA)
Abstract
(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。
め要約のデータは記録されません。
Description
【発明の詳細な説明】
（産業上の利用分野〕
この発明は、電子情報通信工学の分野で使用されるディ
ジタルフィルタに関する。さらに詳しく述べればカスケ
ード形浮動小数点ディジタルフィルタの出力誤差をでき
るだけ小さくする技術に関する。特に、この技術は、高
次高精度の浮動小数点ディジタルフィルタを構成する際
にを用な技術に係るものである。
ジタルフィルタに関する。さらに詳しく述べればカスケ
ード形浮動小数点ディジタルフィルタの出力誤差をでき
るだけ小さくする技術に関する。特に、この技術は、高
次高精度の浮動小数点ディジタルフィルタを構成する際
にを用な技術に係るものである。
ディジタルフィルタとしては、カスケード形のものが広
く採用されている。この種のディジタルフィルタはつぎ
の（１）弐のように伝達関数の分母と分子とがそれぞれ
Ｚ（Ｚ変換）の２次の多項式である関数（つまり、２次
式）の積で表される。
く採用されている。この種のディジタルフィルタはつぎ
の（１）弐のように伝達関数の分母と分子とがそれぞれ
Ｚ（Ｚ変換）の２次の多項式である関数（つまり、２次
式）の積で表される。
β、 （Ｚ）
ただし、
また、ａＤは入力のスケーリングファクターであり、Ｎ
は２次のカスケード接続のセクション数であり、α、、
α、２．β、１．β、２は第に番目のセクションにおけ
るフィルタ係数である。
は２次のカスケード接続のセクション数であり、α、、
α、２．β、１．β、２は第に番目のセクションにおけ
るフィルタ係数である。
ここで、ディジタルフィルタの出力誤差は前記（１）式
で与えられる極（βｈ （ｚ） ｌと零点（αｋ （Ｚ
） ｌのベアリング・オーダリングに依存する。その理
由はＤＳＰ（ディジタルシグナルプロセッサ）内部のレ
ジスタが有ＩＩＩ詔長だからである。ここで、オーダリ
ングは（β、 （Ｚ） ）または（α、 （Ｚ） ）の
並び順を意味し、ベアリングは１組のα、 （Ｚ）、β
、（２）を意味する。
で与えられる極（βｈ （ｚ） ｌと零点（αｋ （Ｚ
） ｌのベアリング・オーダリングに依存する。その理
由はＤＳＰ（ディジタルシグナルプロセッサ）内部のレ
ジスタが有ＩＩＩ詔長だからである。ここで、オーダリ
ングは（β、 （Ｚ） ）または（α、 （Ｚ） ）の
並び順を意味し、ベアリングは１組のα、 （Ｚ）、β
、（２）を意味する。
第１図に６次のディジタルフィルタを示す。この第１図
（ａ）、（ｂ）において両者のディジタルフィルタにお
けるベアリング・オーダリングは異なるので出力に生じ
る誤差も異なる。したがって、この出力誤差が最小とな
るようなベアリング・オーダリングが必要となる。
（ａ）、（ｂ）において両者のディジタルフィルタにお
けるベアリング・オーダリングは異なるので出力に生じ
る誤差も異なる。したがって、この出力誤差が最小とな
るようなベアリング・オーダリングが必要となる。
しかしながら、もし２０次のディジタルフィルタの出力
誤差が最小となる構成を見つけようとすると （１０！
）”＝ １３，１６８，１８９，４４０，０００回ベ
アリング・オーダリングを繰り返さなければならず、膨
大な時間が必要となる。
誤差が最小となる構成を見つけようとすると （１０！
）”＝ １３，１６８，１８９，４４０，０００回ベ
アリング・オーダリングを繰り返さなければならず、膨
大な時間が必要となる。
そこで、この出力誤差を最小にする高速な手法が必要と
なった。
なった。
現在のところ、この最適化の手法としては固定小数点に
おいてしか用いられておらず、浮動小数１、′、につい
てはまだ発表されていない。
おいてしか用いられておらず、浮動小数１、′、につい
てはまだ発表されていない。
固定小数点についてはランダムにベアリング・オーダリ
ングを複数個定めて、その中で一番小さい出力誤差をも
つオーダリングを採用する方法が使われており、その技
術はたとえばＢ、Ｌｉｖ ａｒｉｄＡ、Ｐ、Ｐｅ１ｅｄ
、 ”Ｈｅｕｒｉｓｔｉｃ ｏｐｔｉｍｉｚａｔｉｏｎ
ｏｆ ｔｈｅｃａｓｃａｄｅ ｒｅａｌｉｚａｔ
ｉｏｎ ｏｆ ｆｌｘｅｄ−ｐｏｒｎｔ ｄｉｇｉｔ
ａｌｆｉｌｔｅｒｓ、” ＩＥＥＥ Ｔｒａｎｓ、 Ａ
ｃｏｕｓｔ、、５ｐｅｅｃｈ、ＳｉｇｎａｌＰｒｏｃｅ
ｓｓｉｎｇ、ｖｏｌ、Ａｓ５Ｐ−２３，ｐｐ、４６４−
４７３．Ｏｃｔ、１９７５に開示されている。
ングを複数個定めて、その中で一番小さい出力誤差をも
つオーダリングを採用する方法が使われており、その技
術はたとえばＢ、Ｌｉｖ ａｒｉｄＡ、Ｐ、Ｐｅ１ｅｄ
、 ”Ｈｅｕｒｉｓｔｉｃ ｏｐｔｉｍｉｚａｔｉｏｎ
ｏｆ ｔｈｅｃａｓｃａｄｅ ｒｅａｌｉｚａｔ
ｉｏｎ ｏｆ ｆｌｘｅｄ−ｐｏｒｎｔ ｄｉｇｉｔ
ａｌｆｉｌｔｅｒｓ、” ＩＥＥＥ Ｔｒａｎｓ、 Ａ
ｃｏｕｓｔ、、５ｐｅｅｃｈ、ＳｉｇｎａｌＰｒｏｃｅ
ｓｓｉｎｇ、ｖｏｌ、Ａｓ５Ｐ−２３，ｐｐ、４６４−
４７３．Ｏｃｔ、１９７５に開示されている。
この発明は、特定の語長をもつカスケード形浮動小数点
ディジタルフィルタにおいて、その出力誤差を最小にす
るフィルタを実現する。特に高次の狭帯域のディジタル
フィルタを実現した場合、その出力誤差は非常に大きく
なるので、その出力誤差を最小化することを目的とする
。
ディジタルフィルタにおいて、その出力誤差を最小にす
るフィルタを実現する。特に高次の狭帯域のディジタル
フィルタを実現した場合、その出力誤差は非常に大きく
なるので、その出力誤差を最小化することを目的とする
。
〔課題を解決するための手段］
本発明が解決する課題は、次の事柄である。
■零点（αｋ （Ｚ） ｌのオーダリングは固定したま
まで極（８ｗ （Ｚ） ｌのオーダリングのみを行う。
まで極（８ｗ （Ｚ） ｌのオーダリングのみを行う。
■各セクションが出力に及ぼす誤差の最大値を減少させ
得ることができない極（βｈ （Ｚ） ｌのオーダリン
グを省いていくことにより高速に最適な極（βｋ（ｚ）
ｌのオーダリングを求める。
得ることができない極（βｈ （Ｚ） ｌのオーダリン
グを省いていくことにより高速に最適な極（βｋ（ｚ）
ｌのオーダリングを求める。
■所定の判別式を用いることにより、最適な極（βｋ
（Ｚ） ｌが求められたかどうかを判別し、プログラム
を終了させることにより高速化する。
（Ｚ） ｌが求められたかどうかを判別し、プログラム
を終了させることにより高速化する。
後に詳述するように、本発明は、従来知られている理論
とは全く異なるアルゴリズムを考案し、高速にカスケー
ド形浮動小数点ディジタルフィルタの出力誤差を最小化
する構成を実現する。
とは全く異なるアルゴリズムを考案し、高速にカスケー
ド形浮動小数点ディジタルフィルタの出力誤差を最小化
する構成を実現する。
［作用］
本発明による技術手段を前記のＬｉｖらによっζ与えら
れた２２次のハンドストップフィルタ（Ｂ、Ｓ、Ｆ）に
適用したところ、出力誤差は約７０ｄＢ（１２ｂｉｔ）
減少し、繰り返し回数も９９０ （ｕ・０）、８９
（ｕ＝３）と大幅に減少し、はぼ最適な極のオーダリン
グを求めることができた。このように本発明は、任意の
次数のカスケード形ディジクルフィルタに対して出力誤
差を最小化できるものである。
れた２２次のハンドストップフィルタ（Ｂ、Ｓ、Ｆ）に
適用したところ、出力誤差は約７０ｄＢ（１２ｂｉｔ）
減少し、繰り返し回数も９９０ （ｕ・０）、８９
（ｕ＝３）と大幅に減少し、はぼ最適な極のオーダリン
グを求めることができた。このように本発明は、任意の
次数のカスケード形ディジクルフィルタに対して出力誤
差を最小化できるものである。
（実施例〕
統計的モデルをＮＥＣのμｐＤ７７２３０に適用すると
各セクションが出力に及ぼす誤差分散σｆｋは、下記の
（２）式によって与えられる。
各セクションが出力に及ぼす誤差分散σｆｋは、下記の
（２）式によって与えられる。
σｒｋ＝ ２−２ｂ Ｐｋ □ Ｑｈｔ−・・−・−
・−（２）ここでｂは仮数部のビット数から符号ビット
を除いたビット数であり、 × ２はＬｘノルムで下β
、 （２） β、 （２） β、 （２） βｈ （ｚ） である。
・−（２）ここでｂは仮数部のビット数から符号ビット
を除いたビット数であり、 × ２はＬｘノルムで下β
、 （２） β、 （２） β、 （２） βｈ （ｚ） である。
前記（３）式により各セクションが出力に及ぼす誤差の
求め方について、具体的に１０次の例を用いて説明する
。
求め方について、具体的に１０次の例を用いて説明する
。
この場合のセクション数は５である。
Ａ） まず、最初の極のオーダリングは第２図（ａ）に
示すようにβ１ 、β２ 、β３ 、β４β５ 、の並
べ順と定める。
示すようにβ１ 、β２ 、β３ 、β４β５ 、の並
べ順と定める。
今後 （β、”（Ｚ））のＫの並び順は、最小値１２３
４５から最大値５４３２１まで、（βｋ” （ｚ） ）
を並び換えることによって増加していく数値と考える。
４５から最大値５４３２１まで、（βｋ” （ｚ） ）
を並び換えることによって増加していく数値と考える。
Ｂ） 第２図（ａ）のオーダリングでそれぞれのセクシ
ョンが出力に及ぼす誤差のうちで例えば、第２番目のセ
クションが最大値であるとすると、その最大値とオーダ
リングをレジスタに記憶する。
ョンが出力に及ぼす誤差のうちで例えば、第２番目のセ
クションが最大値であるとすると、その最大値とオーダ
リングをレジスタに記憶する。
Ｃ） 各セクションが出力に及ぼす誤差のうち、第３番
目のセクションの誤差が最大値であるとすると、第３番
目のセクションを移動して、誤差の最大値を減少させ得
ることができない極のオーダリングをスキップするため
に、第１番目のセクションから第３番目のセクションま
でのオーダリングを最小ステップ（１ステツプ）増加し
、 第２図（ｂ）のようになる。
目のセクションの誤差が最大値であるとすると、第３番
目のセクションを移動して、誤差の最大値を減少させ得
ることができない極のオーダリングをスキップするため
に、第１番目のセクションから第３番目のセクションま
でのオーダリングを最小ステップ（１ステツプ）増加し
、 第２図（ｂ）のようになる。
Ｄ） このオーダリングにおいて第１番目のセクション
から第５番目のセクションまで１＠番に、各セクション
が出力に及ぼす誤差を算出し、レジスタに記憶されてい
る値と比較する。
から第５番目のセクションまで１＠番に、各セクション
が出力に及ぼす誤差を算出し、レジスタに記憶されてい
る値と比較する。
）第２番目のセクションが出力に及ぼす誤差の値がレジ
スタに記憶されている値より大きかったとすると、第１
番目のセクションから第２番目のセクションまでのオー
ダリングを１ステツプ増加し、第２図（ｃ）のようにな
る。
スタに記憶されている値より大きかったとすると、第１
番目のセクションから第２番目のセクションまでのオー
ダリングを１ステツプ増加し、第２図（ｃ）のようにな
る。
ｉｔ ）セクションが出力に及ぼす誤差のすべての値が
レジスタの値より小さかったときは、そのオーダリング
において各セクションから出力に生じる誤差の最大値を
検出し、そのオーダリングをメモリに記憶し、あわせて
判別式 で判別し ｉｉａ） 前記判別式が成立しないときは第１番目の
セクションから各セクションが出力に及ぼす誤差の最大
値を生しるセクションまでを１ステツプ更新するために
前記Ｄ）の階段以降を繰り返す。ここで第３番目のセク
ションの値が最大値とすると、オーダリングは第２図（
ｄ）のようになる。
レジスタの値より小さかったときは、そのオーダリング
において各セクションから出力に生じる誤差の最大値を
検出し、そのオーダリングをメモリに記憶し、あわせて
判別式 で判別し ｉｉａ） 前記判別式が成立しないときは第１番目の
セクションから各セクションが出力に及ぼす誤差の最大
値を生しるセクションまでを１ステツプ更新するために
前記Ｄ）の階段以降を繰り返す。ここで第３番目のセク
ションの値が最大値とすると、オーダリングは第２図（
ｄ）のようになる。
１ｉｂ） 前記判別式が成立するときは、そのオーダ
リングがほぼ最適なオーダリングとなり、実行を停止す
る。
リングがほぼ最適なオーダリングとなり、実行を停止す
る。
なお説明を加えれば、前記判別式は、現在の極のオーダ
リングにおいてカスケード形ディジタルフィルタの出力
に生じる誤差から最適なオーダリングにおける出力誤差
を引いたものと考えることができる。
リングにおいてカスケード形ディジタルフィルタの出力
に生じる誤差から最適なオーダリングにおける出力誤差
を引いたものと考えることができる。
実用上の要請からは、誤差は１ ｂｉｔ（６ｄＢ）以内
にすることが望ましいので、Ｕを６ｄＢ以下の値と定義
することとした。
にすることが望ましいので、Ｕを６ｄＢ以下の値と定義
することとした。
第２図の（ａ）、（ｂｌからオーダリング（β：１２３
５４）がスキップされ、（ｂ）、（Ｃ）から （β：１
２４５３）（β：１２５３４）（β：１２５４３）がス
キンツブされてし）ることがわかる。このスキップ操作
は高次になればなるほど有効になり、レジスタに記憶さ
れる誤差の値は徐々に小さくなるのでスキップする可能
性はこのアルゴリズムが進むと増加する。そして、高速
にほぼ最適なオーダリングが得られるのである。
５４）がスキップされ、（ｂ）、（Ｃ）から （β：１
２４５３）（β：１２５３４）（β：１２５４３）がス
キンツブされてし）ることがわかる。このスキップ操作
は高次になればなるほど有効になり、レジスタに記憶さ
れる誤差の値は徐々に小さくなるのでスキップする可能
性はこのアルゴリズムが進むと増加する。そして、高速
にほぼ最適なオーダリングが得られるのである。
以下に本発明を、図示する実施例に基づき詳細に説明す
る。
る。
第３図は、本発明に係るカスケード形の浮動小数点ディ
ジタルフィルタの出力誤差を低減するオーダリング決定
の装置ブロック図である。
ジタルフィルタの出力誤差を低減するオーダリング決定
の装置ブロック図である。
Ａ）入力されたディジタルフィルタの極のオーダリング
は、初期オーダリング設定手段１によって番号を付され
る。
は、初期オーダリング設定手段１によって番号を付され
る。
Ｂ）誤差計算手段２によって各セクションが出力に及ぼ
す誤差がそれぞれ計算され、その最大値とオーダリング
がレジスタ３に記憶される。
す誤差がそれぞれ計算され、その最大値とオーダリング
がレジスタ３に記憶される。
Ｃ） オーダリング設定手段４によって第１番目のセク
ションからその最大値を生じるセクションまでのオーダ
リングを１ステツプ増加する。
ションからその最大値を生じるセクションまでのオーダ
リングを１ステツプ増加する。
Ｄ）比較器５により第１番目のセクションからセクショ
ン番号が増加する順に各セクションが出力に及ぼす誤差
とレジスタ３に記憶されている値とを比較する。
ン番号が増加する順に各セクションが出力に及ぼす誤差
とレジスタ３に記憶されている値とを比較する。
１）あるセクションが出力に及ばず誤差がレジスタ３の
記憶値より大きかったとすると、オーダリング設定手段
４に進む。
記憶値より大きかったとすると、オーダリング設定手段
４に進む。
ｉｉ）セクションが出力に及ぼす誤差のすべての値がレ
ジスタ３の値より小さい場合は、そのオーダリングにお
いて各セクションが出力に及ぼす誤差の最大値と、ごの
オーダリングをメモリ３に記憶し、判別器６で判別し、 ｉｉａ） 判別式が成立しないときはオーダリング設
定手段４に戻る。
ジスタ３の値より小さい場合は、そのオーダリングにお
いて各セクションが出力に及ぼす誤差の最大値と、ごの
オーダリングをメモリ３に記憶し、判別器６で判別し、 ｉｉａ） 判別式が成立しないときはオーダリング設
定手段４に戻る。
１ｉｂ） 判別式が成立するときは、そのオーダリン
グをほぼ最適なオーダリングとして実行を停止する。
グをほぼ最適なオーダリングとして実行を停止する。
（発明の効果）
実施例で述べたように本発明では、極のオーダリングに
特に着目して、各セクションから発生する誤差を吟味し
、その最大値を別途記憶して、最大値を小さくするよう
にオーダリングを変更する手順を繰り返し、それを発明
者の創作した所定の判別式により判定される値になるま
で行うこととしたから、カスケード形の浮動小数点ディ
ジタルフィルタの出力誤差を最小にする極のオーダリン
グを高速に求めることができた。
特に着目して、各セクションから発生する誤差を吟味し
、その最大値を別途記憶して、最大値を小さくするよう
にオーダリングを変更する手順を繰り返し、それを発明
者の創作した所定の判別式により判定される値になるま
で行うこととしたから、カスケード形の浮動小数点ディ
ジタルフィルタの出力誤差を最小にする極のオーダリン
グを高速に求めることができた。
第１図はディジタルフィルタの出力誤差の生ずる機構の
説明図で、（ａ）と（ｂ）とはベアリング及びオ・−ダ
リングが異なる例を示す。第２図は本発明に係る原理の
作用を説明するための図で、（ａ）はｊ番初めの極のオ
ーダリングを示し、ら）は（ａ）において第３番目のセ
クションが出力に及ばず誤差が最大値となったときの極
のオーダリングを示し、（Ｃ）は（ｂ）においてレジス
タに記憶されている値より第２番目のセクションが出力
に及ぼす誤差が大きかった場合の極のオーダリングを示
し、（ｄ）は（ｂ）において第３番目のセクションが出
力に及ばず誤差が最大値となった場合の極のオーダリン
グを示す。第３図は本発明に係る浮動小数点ディジタル
フィルタの出力誤差最小化装置のブロック図を示す。 図において、１は初期オーダリング設定手段、２は誤差
計算手段、３はレジスタ、４はオーダリング設定手段、
５は比較器、６は判別器をそれぞれ示す。 特許出願人 アンリツ株式会社 代理人 弁理士 小 池 龍太部
説明図で、（ａ）と（ｂ）とはベアリング及びオ・−ダ
リングが異なる例を示す。第２図は本発明に係る原理の
作用を説明するための図で、（ａ）はｊ番初めの極のオ
ーダリングを示し、ら）は（ａ）において第３番目のセ
クションが出力に及ばず誤差が最大値となったときの極
のオーダリングを示し、（Ｃ）は（ｂ）においてレジス
タに記憶されている値より第２番目のセクションが出力
に及ぼす誤差が大きかった場合の極のオーダリングを示
し、（ｄ）は（ｂ）において第３番目のセクションが出
力に及ばず誤差が最大値となった場合の極のオーダリン
グを示す。第３図は本発明に係る浮動小数点ディジタル
フィルタの出力誤差最小化装置のブロック図を示す。 図において、１は初期オーダリング設定手段、２は誤差
計算手段、３はレジスタ、４はオーダリング設定手段、
５は比較器、６は判別器をそれぞれ示す。 特許出願人 アンリツ株式会社 代理人 弁理士 小 池 龍太部
Claims (1)
- 【特許請求の範囲】 １）伝達関数の分母と分子が、それぞれＺ変換の２次の
多項式である関数の積で表されるディジタルフィルタの
出力誤差を最小化する極のオーダリングを決定するため
の浮動小数点ディジタルフィルタの出力誤差最小化方法
であって、 Ａ）前記極の初期オーダリングに対して２次セクション
の並び順に合理的初期値を付与する段階と； Ｂ）予め順序付けられた各セクションが出力に及ぼす誤
差の最大値と前記オーダリングとを検出してそれらをレ
ジスタに記憶する段階と； Ｃ）前記最大値が検出されたセクションの極をその位置
から移動するために第１番目のセクションから該最大値
が検出されたセクションまでのオーダリングを最小ステ
ップに変更する段階と；Ｄ）前記レジスタに記憶されて
いる最大値とセクションが出力に及ぼす誤差の値とを第
１番目のセクションから順に比較して ｉ）該セクションが、出力に及ぼす誤差の値が該レジス
タに記憶されている値よりも大きいときは、第１番目の
セクションから最初に該レジスタに記憶されている値よ
り大きくなった誤差をもつセクションまでのオーダリン
グを最小ステップに変更する段階と； ｉｉ）該セクションが、出力に及ぼすすべての誤差の値
が該レジスタに記憶されている値よりも小さいときは、
そのときのオーダリングにおける各セクションが出力に
及ぼす誤差を、セクションごとに検出し、そのうちの最
大値を該レジスタに記憶するとともに、そのときのオー
ダリングを該レジスタに書き込み、併せて所定の判別式
で判別し ｉｉａ）該判別式が成立しないときは第１番目のセクシ
ョンから最大値が検出されたセクションまでのオーダリ
ングを最小ステップに変更し前記Ｄ）の段階以降を繰り
返す段階と、 ｉｉｂ）該判別式が成立するときは、そのオーダリング
を採用することを決定する段階と から成る浮動小数点ディジタルフィルタの出力誤差最小
化方法。 ２）前記所定の判別式が、 ▲数式、化学式、表等があります▼ （ただし、Ｎは各々のカスケード接続されたセククショ
ン数、σ＾２＿ｆ＿ｋはｋ番目のセクションが出力に及
ぼす誤差の分散値、ｕは６以下の任意の値）である請求
項１記載の浮動小数点ディジタルフィルタの出力誤差最
小化方法。 ３）伝達関数の分母と分子が、それぞれＺ変換の２次の
多項式である関数の積で表されるディジタルフィルタの
出力誤差を最小化する極のオーダリングを決定するため
の浮動小数点ディジタルフィルタの出力誤差最小化装置
であって、 前記極の初期オーダリングに対して２次セクションの並
べ順に合理的初期化を付与する初期オーダリング設定手
段（１）と； 該付与された初期値に基づいて各セクションが出力に及
ぼす誤差の最大値を検知する誤差計算手段（２）と； 該検知された誤差の最大値と前記オーダリングを記憶す
るレジスタ（３）と； 該最大値を生じたセクションの極をその位置から移動す
るためのオーダリング設定手段（４）と；前記レジスタ
（３）に記憶されている最大値とセクションが出力に及
ぼす誤差の値とを第１番目のセクションから順に比較し
ていく比較器（５）と；該極のオーダリングがほぼ最適
なオーダリングとなったかどうかを判別する判別器（６
）とから成る浮動小数点ディジタルフィルタの出力誤差
最小化装置。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP63267831A JP2543753B2 (ja) | 1988-10-24 | 1988-10-24 | 浮動小数点ディジタルフイルタの出力誤差最小化方法及び装置 |
| JP1276654A JPH02191352A (ja) | 1988-10-24 | 1989-10-24 | プローブ装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP63267831A JP2543753B2 (ja) | 1988-10-24 | 1988-10-24 | 浮動小数点ディジタルフイルタの出力誤差最小化方法及び装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH02113711A true JPH02113711A (ja) | 1990-04-25 |
| JP2543753B2 JP2543753B2 (ja) | 1996-10-16 |
Family
ID=17450224
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP63267831A Expired - Lifetime JP2543753B2 (ja) | 1988-10-24 | 1988-10-24 | 浮動小数点ディジタルフイルタの出力誤差最小化方法及び装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2543753B2 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0661792A (ja) * | 1992-07-27 | 1994-03-04 | Sony Tektronix Corp | デジタル・フィルタ |
-
1988
- 1988-10-24 JP JP63267831A patent/JP2543753B2/ja not_active Expired - Lifetime
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0661792A (ja) * | 1992-07-27 | 1994-03-04 | Sony Tektronix Corp | デジタル・フィルタ |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2543753B2 (ja) | 1996-10-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Schulte et al. | Hardware designs for exactly rounded elementary functions | |
| US4926369A (en) | Leading 0/1 anticipator (LZA) | |
| Hestenes et al. | Methods of conjugate gradients for solving linear systems | |
| US5696712A (en) | Three overlapped stages of radix-2 square root/division with speculative execution | |
| Schulte et al. | Hardware design and arithmetic algorithms for a variable-precision, interval arithmetic coprocessor | |
| Sowden et al. | Computation of the bi-variate normal integral | |
| Bose et al. | Conjugate gradient method in adaptive bilinear filtering | |
| JPH02113711A (ja) | 浮動小数点ディジタルフイルタの出力誤差最小化方法及び装置 | |
| Helstrom | Detectability of signals in Laplace noise | |
| US5272659A (en) | Engine control with fixed point digital overflow prevention | |
| CN116166217A (zh) | 执行浮点操作的系统和方法 | |
| JPS61256436A (ja) | 演算装置 | |
| Hashemian | Square rooting algorithms for integer and floating-point numbers | |
| Parthasarathy et al. | Modelling of linear discrete-time systems using modified cauer continued fraction | |
| US6845135B2 (en) | Cascaded biquad infinite impulse response filter | |
| US11423315B2 (en) | Quantization method for partial sums of convolution neural network based on computing-in-memory hardware and system thereof | |
| US5602768A (en) | Method and apparatus for reducing the processing time required to solve square root problems | |
| US5940312A (en) | Signed binary logarithm system | |
| Jenkins et al. | An analysis of quantization error in digital filters based on interval algebras | |
| Scott | A simplified method for the bilinear sz transformation | |
| Hertz et al. | A general property of the transformation matrices associated with the n-variable bilinear transformation | |
| Hagglund et al. | A polynomial-based division algorithm | |
| US5325319A (en) | Filtering a signal with the use of approximate arithmetical division | |
| Ye et al. | GEBA: Gradient-Error-Based Approximation of Activation Functions | |
| JPH08202533A (ja) | 除算処理装置 |