JPH02227770A

JPH02227770A - 直交変換器

Info

Publication number: JPH02227770A
Application number: JP1048863A
Authority: JP
Inventors: Takashi Mochizuki; 孝志望月
Original assignee: NEC Corp
Current assignee: NEC Corp
Priority date: 1989-02-28
Filing date: 1989-02-28
Publication date: 1990-09-10

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】（産業上の利用分野）本発明は、２の補数形式のデータを直交変換する直交変
換器に関するものである。

（従来の技術）従来の直交変換器としては、例えばインモス社（ｉｎｍ
ｏｓ）のＩＭＳ　Ａ１２１がある。従来の直交変換器で
は演算誤差を抑えるために、最終段直前の行列計算を行
なう段では、演算に１８ビツト以」−のビット数を用い
て計算し、内部演算結果を少ないビット数に丸めて出力
する最終段では、丸められるビットの中で、最上位のビ
ットに１を加算した後、上位のビットを切り出す丸めを
行なっている。

（発明が解決しようとする問題点）従来技術では、最終段で下位Ｌビットを丸める場合には
、第３図に示す特性のように、丸めた結果がＫとなるの
は、丸める前の値がＫ・２Ｌ２Ｌ−１、Ｋ・２Ｌ−２Ｌ
−１＋１、・・・・・・、Ｋ・２”＋２”−１の時であ
り、丸めの中心はＫ・２Ｌ−０，５でＫ・２Ｌより−０
，５ずれており、厳密な意味でのＯレベルに対して対称
な丸めではない。この丸めの中心ずれは当該直交変換器
の演算誤差、特にその平均値に大きく影響するので、小
さく抑えなければならない。特に、直交変換を画像のデ
ータ圧縮等に用いる場合にはこの演算誤差の平均値はＯ
となることが望まれている。従来方法では丸めの中心の
ずれを小さく抑えるためには、丸められるビット数りを
太きくして、ずれの値を相対的に小さくしなければなら
ず、そのため最終段階直前の段においてビット数の多い
演算を行なわなければならなかった。この結果、従来技
術では回路規模が大きくなるという欠点があった。本発
明の目的は、高い演算精度をより小さな回路規模で実現
する直交変換器を提供することにある。

（問題点を解決するための手段）本発明は２の補数形式のデータを扱う直交変換器であり
、内部演算結果を少ないビット数に変換して外部に出力
する手段を有し、かつ前記ビット数変換では０レベルに
対称な丸め処理を行う。

本発明の限定された構成として、前記直交変換が２次元
逆離散コサイン変換である場合がある。

（作用）本発明では、０レベルに対して対称な丸めを行うことで
、最終段の丸めずれをなくし、少ないビット数演算で必
要な演算精度を得ている。

例えば、最終段で下位Ｌビットを丸める時に、丸める値
が正の場合には、Ｋ・２Ｌ−２Ｌ−１＋１、Ｋ・２Ｌ−
２Ｌ−１＋２、・・・・・・、Ｋ・２Ｌ＋２Ｌ−１をＫ
に丸め、丸める値が負の値の場合には、Ｋ・２Ｌ−２Ｌ
−１、Ｋ・２Ｌ−２Ｌ−１＋１、・・・・・・、Ｋ・２
Ｌ＋２Ｌ−１−１をＫに丸める。この丸めによる演算誤
差の平均値は、丸める前のデータの分布が正負等確率の
場合にはＯになる。

（実施例）第１図は、本発明の基本構成を示す図である。直交変換
器１では、Ｎ１ビットの人力信号をＮ２−Ｌビットの信
号に変換して出力する。直交変換器１の内部では、入力
信号は直交変換演算回路２でＮ２ビットの信号に直交変
換した後、０レベルに７＝Ｊ称な丸めを行う丸めＲＯＭ
３でＮ２−Ｌビットの信号に丸めて出力する。

丸めＲＯＭ３の特性例としては、第２図（ａ）、（ｂ）
、（ｃ）、（ｄ）がある。

第２図（ａ）では、丸める値が正の場合には、Ｋ、２Ｌ
−２Ｌ−１＋１、Ｋ・２Ｌ−２Ｌ’＋２、・・・・・・
、Ｋ・２Ｌ　＋　２Ｌ−１をＫに丸め、丸める値が負の
値の場合には、Ｋ・２Ｌ＝２Ｌ−１、Ｋ・２Ｌ−２Ｌ−
１＋１、・・・・・・、Ｋ・２Ｌ＋２Ｌ−１−１をＫに
丸める。この丸めによる演算誤差の平均値は、丸める前
のデータの分布が正負等確率の場合には０になる。

第２図（ｂ）では、丸める値が正の場合には、Ｋ・２Ｌ
−２Ｌ−１、Ｋ・２Ｌ−２Ｌ−１＋１、・・・・・・、
Ｋ・２”＋２”　　”−１をＫに丸め、丸める値が負の
値の場合には、Ｋ・２Ｌ−２Ｌ−１＋１、Ｋ・２Ｌ−２
Ｌ−１＋２、・・・・・・、Ｋ・２Ｌ　＋　２Ｌ−１を
Ｋに丸める。この丸めによる演算誤差の平均値は、丸め
る前のデータの分布が正負等確率の場合には０になる。

第２図（Ｃ）では、丸めの境界線上にあるデータは、丸
めた結果Ｋが偶数になるように丸める。Ｋが偶数の場合
には、Ｋ・２Ｌ２Ｌ−１、Ｋ・２Ｌ−２Ｌ−１＋１、・
・・・・・Ｋ・２Ｌ＋２Ｌ　１をＫに丸め、Ｋが奇数の
場合には、Ｋ・２Ｌ−２Ｌ−１＋１、Ｋ・２Ｌ−２Ｌ−
１＋２、・・・・・・、Ｋ・２Ｌ＋２Ｌ−１−１をＫに
丸める。Ｋが偶数奇数を問わず、丸めの中心はＫ・２Ｌ
になり、丸めの中心にずれはないので演算誤差の平均値
もＯになる。

第２図（ｄ）では、丸めの境界線上にあるデータは、丸
めた結果Ｋが奇数になるように丸める。Ｋが偶数の場合
には、Ｋ・２Ｌ−２Ｌ−１＋１、Ｋ・２Ｌ−２Ｌ−１＋
２、・・・・・・、Ｋ−仙−２Ｌ−１１をＫに丸め、Ｋ
が奇数の場合には、Ｋ・２Ｌ２Ｌ−１、Ｋ・２Ｌ　２Ｌ
−１＋１、・・・・・・、Ｋ・２Ｌ　＋２Ｌ−１をＫに
丸める。Ｋが偶数奇数を問わず、丸めの中心はＫ・２Ｌ
になり、丸めの中心にずれはないので演算誤差の平均値
も０になる。

（発明の効果）２次元逆離散コサイン変換を例にとって本発明の詳細な
説明する。変換のブロックサイズは、８×８とする。ま
ず、−２５６から２５５に一様に分布する乱数で８×８
のブロックデータを作り、これを６４ビット浮動小数点
演算により２次元離散コザイン変換し、変換結果の小数
点以下を四捨五入して−２０４８から＋２０４７の整数
データを得る。この整数データを原データとする。次に
、原データを６４ビット浮動小数点演算によす２′！Ａ
元逆離散コサイン変換し、変換結果の小数点以下を四捨
五入して−２５６から＋２５５の整数としたものを理論
値とする。一方、原データは２の補数形式で表現すると
１２ビットのデータになり、これを１６ビツトの上詰め
として１６ビツト固定小数点演算で２次元逆離散コサイ
ン変換し、変換結果を従来方式で丸めた場合と、本発明
による装置の方式で丸めた場合を比較する。なお、２次
元逆離散コサイン変換は１次元逆離散コサイン変換を垂
直方式と水平方向の縦続処理により実現することとし、
各１次元逆離散コサイン変換は変換行列とデータとの行
列演算により処理する。

逆離散コサイン変換の変換係数は、１６ビソト２の補数
形式で表現し小数点位置はＭＳＢの次に設定する。変換
係数１６ビツトとデータ１６ビツトとの乗算結果３１ビ
ツトは、下から１５ビツト目に１を加算してから、上位
１６ビツトを実際の乗算結果とする。原データ１０００
０ブロツクについて、６４ビット浮動小数点演算で計算
した理論値と、１６ビツト固定小数点演算で計算した値
との誤差の平均値を求めると、従来方式では０．０２１
０となり、本発明の装置による方式では０．０００１と
なる。本発明の装置の方式による誤差の平均値は、従来
方式による誤差の平均値の１／２１０であり、本発明が
非常に有効であることがわかる。

【図面の簡単な説明】

第１図は本発明の基本構成を示すブロック図、第２図（
ａ）、（ｂ）、（ｃ）、（ｄ）は本発明でのＯレベルに
対称な丸め処理の特性例を示す図、第３図は従来方式の
丸め処理の特性を示す図である。図において、１は直交変換器、２は直交変換演算回路、
３は丸めＲＯＭである。

Claims

【特許請求の範囲】

（１）２の補数形式のデータを直交変換する直交変換演
算回路と、前記直交変換演算回路出力に正負対称の丸め
処理を施すとともに少ないビット数に変換して外部に出
力する手段とを有することを特徴とする直交変換器。