JP2007020201A

JP2007020201A - 高速演算方法及び高速演算処理プログラムを記録した記録媒体

Info

Publication number: JP2007020201A
Application number: JP2006213130A
Authority: JP
Inventors: Hiroe Iwasaki; 裕江岩崎; Jiro Naganuma; 次郎長沼; Makoto Endo; 真遠藤
Original assignee: Nippon Telegraph and Telephone Corp
Current assignee: Nippon Telegraph and Telephone Corp
Priority date: 2006-08-04
Filing date: 2006-08-04
Publication date: 2007-01-25

Abstract

【課題】計算機上で離散コサイン変換演算と、量子化演算と、可変長符号化演算の高速演算方法及び高速演算処理プログラムを記憶した記憶媒体を提供する。
【解決手段】本発明は、離散コサイン変換演算において、離散コサイン変換演算の入力値を加減算することによって得られる値を被乗算値、コサイン係数を乗算係数とし、被乗算値の最大値より大きな値offset値を定め、（被乗算値＋offset）と（乗算結果＝被乗算値＊乗算係数）の要素から構成されている乗算係数毎のテーブルを利用して、乗算結果を取得する。また、量子化演算においても、予め用意している除算係数の逆数テーブルを利用して、除算結果を取得する。さらに、可変長符号化演算において、符号語から構成されるテーブルを利用し、符号語を取得する。
【選択図】図１

Description

本発明は、計算機上での離散コサイン変換演算と、量子化演算と、可変長符号化演算の高速演算方法及び高速演算処理プログラムを記憶した記憶媒体に関するものである。

従来の離散コサイン変換演算では、文献［１］に示されているchenのアルゴリズムを用いて高速化するのが一般的である。
chenのアルゴリズムは、図９に示すように、８要素の一次元離散コサイン変換において、１６回の乗算と２６回の加減算が必要である。
また、量子化演算では、入力された各要素をクリッピングするために、除算を行なって結果を求めるのが一般的である。
さらに、可変長符号化演算では、先行するゼロ係数の個数をラン（run）、非ゼロの値を絶対値レベル（abs(level)）とし、入力されるラン、絶対値レベルの組合せに対する符号語を可変長符号語が存在するランと絶対値レベルの組合せのみで構成されているテーブルから検索し、その後、該テーブルに存在しなかったランと絶対値レベルの組合せに対して、固定長符号語を作成するのが一般的である。

文献［１］：WEN-HSIUNG, C. HARRISON SMITH, and S. C. FRALICK: A Fast Computational Algorithm for the Discrete Cosine Transform, IEEE Transaction on Communications, Vol. COM-25, NO.9, September 1977.

従来の演算方式では、高速演算を行なう場合に、以下のような問題が生じる。
従来の離散コサイン変換演算では、８要素の一次元離散コサイン変換において、chenのアルゴリズムを用いても、１６回の乗算と２６回の加減算が必要であった。
従って、画像圧縮符号化において、４：２：０の色差フォーマットを持つ７２０ｘ４８０の１フレームに対して離散コサイン変換を行なう場合、２５９２００回の乗算と４２１２００回の加減算が必要となり、離散コサイン変換におけるオーバーヘッドが大きいという問題があった。
特に、計算機上では、加減算より乗算の方が演算時間が遅く、chenのアルゴリズムを用いた８要素の一次元離散コサイン変換においても乗算の処理時間が大きいという問題があった。

また、従来の量子化演算では、入力された各要素をクリッピングするために、除算を行なっていた。
計算機上での除算演算は、非常に遅く、さらに、画像圧縮符号化の量子化演算では、１画素毎に１回の除算が必要である。
従って、画像圧縮符号化において、４：２：０の色差フォーマットを持つ７２０ｘ４８０の１フレームに対して量子化を行なう場合、５１８４００回もの除算を必要とし、除算に要する処理時間が大きいという問題があった。

さらに、可変長符号化では、先行するゼロ係数の個数をラン（run）、非ゼロの値を絶対値レベル（abs(level)）とし、入力されるラン、絶対値レベルに対する符号語を可変長符号語が存在するランと絶対値レベルの組合せのみで構成されているテーブルから検索し、その後、該テーブルに存在しなかったランと絶対値レベルの組合せに対して、固定長符号語を作成していたため、固定長符号語を作成する場合の逐次的なテーブル検索処理や入力されたランと絶対値レベルとの一致を判断する処理時間が大きいという問題があった。

本発明の目的は、計算機上で離散コサイン変換演算と、量子化演算と、可変長符号化演算の高速演算方法及び高速演算処理プログラムを記憶した記憶媒体を提供することである。

本発明は、離散コサイン変換演算において、離散コサイン変換演算の入力値を加減算することによって得られる値を被乗算値、コサイン係数を乗算係数とし、被乗算値の最大値より大きな値（以下offsetと呼ぶ）を定め、（被乗算値＋offset）と（乗算結果＝被乗算値＊乗算係数）の要素から構成されている乗算係数毎のテーブルを利用して、乗算結果を取得する第１の演算ステップを有する。

また、本発明は、量子化演算において、被除算値と除算係数の大小を比較することにより、量子化後ゼロにクリッピングされる値を判断し、除算結果をゼロとする第２の演算ステップと、量子化における各除算結果をresult[i]、除算係数をＷ[j]（ｊ：有限数）、被除算値をＸ[i]とし、予め用意している除算係数の逆数テーブル（Inverse-W[j]＝1/W[j]）を利用して、除算結果をresult[i]＝X[i]＊Inverse-W[j] の式で演算する第３の演算ステップとを有する。

さらに、本発明は、可変長符号化演算において、先行するゼロ係数の個数をラン（run）、非ゼロの値を絶対値レベル（abs(level)）、可変長符号語が与えられるlevelの最大値のビット数より大きな値をlevel_maxbit とし、Index（Index＝run＜＜level_maxbit ＋level）とそのrun，abs(level) の組合せで与えられる符号語から構成されるテーブルを利用し、符号語を取得する第４の演算ステップと、入力される（run_i）、絶対値レベル（abs(level_i)）の組合せが第４の演算ステップに記載されているテーブルに存在するかどうかを判断する第５の演算ステップとを有する。

更に、本発明の計算機上で離散コサイン変換演算を処理する高速演算処理プログラムを記憶した記憶媒体は、離散コサイン変換演算の入力値を加減算することによって得られる値を被乗算値、コサイン係数を乗算係数、被乗算値の最大値より大きな値をoffset値とし、（被乗算値＋ offset値）と（乗算結果＝被乗算値＊乗算係数）の要素から構成され、乗算係数毎のテーブルとして予め記憶領域上に設定した第１のテーブルと、第１のテーブルを参照することにより、乗算結果を取得し、離散コサイン変換演算を行う第１の処理プログラムとを有する。

また、本発明の計算機上で量子化演算を処理する高速演算処理プログラムを記憶した記憶媒体は、被除算値と除算係数の大小を比較することにより、量子化後ゼロにクリッピングされる値を判断し、除算結果をゼロとする第２の処理プログラムと、量子化における各除算結果をresult、除算係数をＷ、被除算値をＸとし、除算係数の逆数テーブルをInverse-Wとして予め記憶領域上に設定した第２のテーブルと、第２のテーブルを利用して、除算結果result＝Ｘ＊Inverse-Wを演算する第３の処理プログラムとを有する。

また、本発明の計算機上で可変長符号化演算を処理する高速演算処理プログラムを記憶した記憶媒体は、先行するゼロ係数の個数をrun、非ゼロの値を絶対値レベルをabs(level)、可変長符号語が与えられるlevelの最大値のビット数より大きな値をlevel_maxbitとし、Indexをrun＜＜level_maxbit＋level）とした時のIndexと前記Indexのrun，abs(level) の組合せで与えられる符号語から構成されるテーブルとして予め記憶領域上に設定した第３のテーブルと、第３のテーブルを参照して符号語を取得する第４の処理プログラムと、入力されるrunと絶対値レベル（abs(level)）の組合せが第４の処理プログラムで参照した第３のテーブルに存在するか否かを判断する第５の処理プログラムとを有する。

以上説明したように、本発明は、（１）離散コサイン変換において、入力値を加減算することによって得られる値を乗算値、コサイン係数を乗算係数とし、被乗算値の最大値より大きな値offset値を定め、（被乗算値＋offset）と（乗算結果＝被乗算値＊乗算係数）の要素から構成されている乗算係数毎のテーブルを利用し、乗算演算を行なわずに離散コサイン変換演算を処理するので、従来の方法に比べ、高速に処理し得る効果を有する。

また、本発明は、（２）量子化演算における除算をゼロにクリッピングされる値の計算を削除し、逆数テーブルを用いて量子化演算を乗算で処理するので、従来の方法に比べ、高速に処理し得る効果を有する。

また、本発明は、（３）可変長符号化演算において、先行するゼロ係数の個数をラン（run）、非ゼロの値を絶対値レベル（abs(level)）とし、入力されたランと絶対値レベルが、予め保持しているテーブルに存在するかどうかを先に判断するため、テーブルに存在しない場合のテーブル検索処理を削除できる。
また、ランをrun、絶対値レベルをabs(level)、可変長符号語が与えられるlevelの最大値のビット数より大きな値をlevel_maxbitとし、index（index＝run＜＜level_maxbit＋level）とそのrun，abs(level) の組合せで与えられる符号語から構成されるテーブルを用いることにより、run，levelの一致を判断する処理時間が必要なく、瞬時にテーブルから符号語を取得するので、従来の方法に比べ、高速に処理し得る効果を有する。

次に、本発明の実施の形態について図面を参照して、詳細に説明する。

図１は、本発明の離散コサイン変換の高速演算方法を示す図である。
本発明の離散コサイン変換の高速演算方法は、乗算結果をテーブルから得る第１の演算処理を持つことを特徴としている。

図は、例として、８要素の一次元離散コサイン変換を示している。
図に示す参照番号１ａ〜１ｈは離散コサイン変換に入力される値を示し、２ａ〜２ｈは離散コサイン変換後に出力される値を示している。
図に示す参照番号３ａ〜３ｐは加減算、４ａ〜４ｄは１回のテーブルを用いる第１の演算処理と１回の加減算、５ａ〜５ｆは２回のテーブルを用いる第１の演算処理と１回の加減算を示す。
テーブルを用いる第１の演算処理を用いて、４ａ〜４ｄと、５ａ〜５ｆの演算を行うことにより、離散コサイン変換の演算処理を実現する。

図２は、図１の離散コサイン変換の第１の演算処理に使用する乗算結果のテーブルを具体例を用いて説明する図である。
図に示すテーブルは、乗算係数がＣの場合の例である。
図は（被乗算値＋offset値）に対する（被乗算値＊乗算係数）の乗算結果を示すテーブルである。
離散コサイン変換に入力される値をｆとすると、ＭＰＥＧ−２の規定においては、−２５５＜ｆ＜２５５であり、被乗算値の範囲を固定することができる。
被乗算値の最大値より大きな値をoffset値とし、（被乗算値＋offset値）と乗算結果から構成されるテーブルを利用して、乗算演算を行なわずに結果を取得することにより、高速な離散コサイン変換を実現することができる。

図３は、本発明の量子化演算の高速演算方法を示す図である。
本発明の量子化演算の高速演算方法は、被除算値と除算係数の大小を比較することにより、量子化演算後にゼロにクリッピングされる値を判断する第２の演算処理と、量子化における各除算結果をresult[i]、除算係数をＷ[j]、被除算値をＸ[i]とし、除算係数の逆数テーブル（Inverse-W[j]＝1/W[j]）を利用して、result[i]＝X[i]＊Inverse-W[j] を除算結果として用いる第３の演算処理を実行することにより量子化演算の高速演算が達成される。

図に示すように、被除算値（Ｘ[i]）３１が入力され、結果（result[i]）３２が出力される。
図に示す第２の演算処理３３は、入力される被除算値と除算係数の大小を比較し、除算係数の方が大きい場合は、演算を行なわずに結果をゼロとして出力する。
被除算値が除算係数以上であると判断された場合は、第３の演算処理３４により、予め用意されている除算係数の逆数を用いて、乗算で演算を行なう。

図４は、本発明の可変長符号化の高速演算方法を示す図である。
本発明の可変長符号化の高速演算方法は、先行するゼロ係数の個数をラン（run）、非ゼロの値を絶対値レベル（abs(level)）、可変長符号語が与えられるlevelの最大値のビット数より大きな値をlevel_maxbitとし、index（index＝run＜＜level_maxbit＋level）とそのrun、abs(level) の組合せで与えられる符号語から構成されるテーブルを利用して、符号語を取得する第４の演算処理と、可変長符号化演算に入力される（run_i，abs(level_i)）の組合せが第４の演算処理に記載されているテーブルに存在するかどうかを判断する第５の演算処理とを実行し、可変長符号化の高速演算が達成される。

図中の参照番号４１は入力（ラン（run_i)と絶対値レベル（level_i)）を示し、４２は出力（ＣＯＤＥ_out）を示している。
図中の第５の演算処理４３により、入力されたrun_i，level_iの値４１が、可変長符号語が与えられるrunの最大値（run_maxとし、図では３１とする）より小さく、かつ、可変長符号語が与えられるlevelの最大値（level_maxとし、図では４０とする）より小さいかどうかを判断する。
run_i＞ run_maxあるいは level_i＞ level_maxである場合、図中の参照番号４４により、ＭＰＥＧ−２規格による固定長符号語を作成し、出力する符号語４２を決定する。

一方、run_i ＜ run_maxかつ level_i ＜ level_maxである場合、第４の演算処理４５により符号語４２を取得する。
level_maxのビット数より大きな値をlevel_maxbit（図では６とする）とし、index＝run_i＜＜level_maxbit＋level_iとする。
図中の参照番号４６のindexと、その時のランと絶対値レベルに対応する符号語から構成されるテーブル４６を利用して、出力する符号語４２を決定する。

次に、本発明の高速演算方法を使用した具体的な実施例について図面を参照して詳細に説明する。

図５は、本発明の第１の実施例を示している。
図は動画像圧縮符号化のブロック構成図を示す。
図中の参照番号５１は入力（フレーム間における差分値（−２５５〜２５５））を示し、５２は出力（圧縮された符号列）を示す。
図中の参照番号５３は離散コサイン変換、５４は量子化、５５は可変長符号化、５６は逆量子化、５７は逆離散コサイン変換、５８はレート制御を示している。
動画像圧縮符号化の離散コサイン変換では、８ｘ８の二次元離散コサイン変換が用いられる。
この８ｘ８の二次元離散コサイン変換は、８ｘ８の一次元コサイン変換を２回（水平／垂直）実行する。
８ｘ８の一次元コサイン変換において、第１の演算処理を用いて、図１に示した中４ａ〜４ｄと５ａ〜５ｆの演算を行うことにより、高速な離散コサイン変換を実現することができる。

第１の演算処理で使用されるテ−ブルは、８×８の一次元離散コサイン変換の７個の乗算係数毎に作成する。
各々の乗算係数毎に第１の演算処理に入力される被乗算係数分のテーブルを作成する。
具体的には、２回（水平／垂直）の８×８の一次元コサイン変換における被乗算係数の範囲の乗算結果を持つテーブルを用いて、第１の演算処理を用いて演算を行なう。
１回目の８×８の一次元離散コサイン変換に入力される値（ｆ（０）‥ｆ（７））の範囲は、−２５５〜２５５である。
また、２回目の８×８の一次元離散コサイン変換に入力される値の範囲は、−１０２０〜１０２０である。
従って、２回の８×８の一次元離散コサイン変換を考慮した場合、用意するテーブルは、−８１６０〜８１６０の被乗算係数との乗算結果を持つ大きさ１６３２１のテーブルを１つと、−４０８０〜４０８０の被乗算係数との乗算結果を持つ大きさ８１６１のテーブルを２つと−２０４０〜２０４０の被乗算係数との乗算結果を持つ大きき４０８１のテーブルを４つが必要である。
これらの４つのテーブルを用いて、高速に２回の８×８の一次元離散コサイン変換を実現することができる。

図６は、本発明の第２の実施例を示している。
図は動画像圧縮符号化のブロック構成図を示す。
図中の参照番号６１は入力（フレーム間における差分値（−２５５〜２５５））を示し、６２は出力（圧縮された符号列）を示す。
図中の参照番号６３は離散コサイン変換、６４は量子化、６５は可変長符号化、６６は逆量子化、６７は逆離散コサイン変換、６８はレート制御を示している。

図中の参照番号６４１は量子化に入力される被除算値（Ｘ[i]）を示し、ｉの値の範囲は０＜ｉ＜６４である。
図中の参照番号６４２は量子化後に出力される結果（result[i]）を示す。
図中の参照番号６４３は第２の演算処理を示し、入力された被除算値と除算係数（W[j]：０＜ｊ＜３２）の大小を比較し、除算係数の方が大きい場合は、演算を行なわずに結果をゼロとする。
第２の演算処理６４３により、被除算値が除算係数以上であると判断された場合は、第３の演算処理６４４により、予め用意されている除算係数の逆数を用いて、乗算で演算を行なう。

図７は、本発明の第３の実施例を示している。
図は動画像圧縮符号化のブロック構成図を示す。
図中の参照番号７１は入力（フレーム間における差分値（−２５５〜２５５））を示し、７２は出力（圧縮された符号列）を示す。
図中の参照番号７３は離散コサイン変換、７４は量子化、７５は可変長符号化、７６は逆量子化、７７は逆離散コサイン変換、７８はレート制御を示している。
図中の参照番号７５１は入力（ラン（run_i）と絶対値レベル（level_i））を示し、７５２は出力（ＣＯＤＥ_out）を示している。
図中の第５の演算処理７５３は、入力されたrun_i，level_iの値７５１が、可変長符号語が与えられるrunの最大値より小さく、かつ、可変長符号語が与えられるlevelの最大値より小さいかどうかを判断する。
run_i＞ run_maxあるいは level_i＞ level_maxである場合、固定長符号器７５４により、ＭＰＥＧ−２規格による固定長符号語を作成し、出力する符号語７５２を決定する。
一方、run_i ＜ run_maxかつ level_i ＜ level_maxである場合、第４の演算処理７５５により符号語を取得する。
level_maxのビット数より大きな値をlevel_maxbitとし、index＝run_i＜＜level_maxbit＋level_iとする。
第４の演算処理７５５のindexと、その時のランと絶対値レベルに対応する符号語から構成されるテーブル７５６を利用して、出力する符号語７５２を決定する。

次に、本発明の高速演算処理プログラムを記憶した記憶媒体の実施の形態について図面を参照して説明する。

図８は本発明の高速演算処理プログラムを動画像圧縮符号化に適用する計算機の構成を示す図である。
入力装置８１は、圧縮しようとしている動画像を取り込むＴＶカメラ装置、モデムなどの入力装置である。
記憶装置８２は、記憶媒体８４から各種プログラム、テーブルを読み込み、演算処理のためデータ処理装置８５に渡し、データ処理装置８５からのデータを記憶する記憶装置である。
出力装置８３は、圧縮された動画像が出力されるディスプレイ装置、記録を印字するプリンタ装置などの出力装置である。
記憶媒体８４は図５〜図７に示される本発明の第１の演算処理〜第５演算処理に関するプログラムと第１テーブル〜第３テーブル及び動画像圧縮符号化処理プログラムを記録したフロッピーディスク、ＣＤ−ＲＯＭ、光磁気ディスク、半導体メモリなどの記憶媒体である。
データ処理装置８５は、記憶媒体８４から第１の演算処理〜第５演算処理に関するプログラムと第１テーブル〜第３テーブル及び動画像圧縮符号化処理プログラムを読み込んで、これを実行するＣＰＵである。

本発明の離散コサイン変換の高速演算方法を示す図である。図１の離散コサイン変換の演算処理に使用する乗算結果のテーブルを説明する図である。本発明の量子化演算の高速演算方法を示す図である。図は、被除算値と除算係数の大小を比較することにより、量子化演算後にゼロにクリッピングされる値を判断する第２の演算処理と、量子化における各除算結果をresult[i]、除算係数をＷ[j]、被除算値をＸ[i]とし、除算係数の逆数テーブル（Inverse-W[j]＝1/W[j]）を利用して、result[i]＝X[i]＊Inverse-W[j] を除算結果として用いる第３の演算処理とを具備した量子化演算の高速演算方法を示している。本発明の可変長符号化の高速演算方法である。図は、先行するゼロ係数の個数をラン（run）、非ゼロの値を絶対値レベル（abs(level)）、可変長符号語が与えられるlevelの最大値のビット数より大きな値をlevel_maxbitとし、index（index＝run＜＜level_maxbit＋level）とそのrun，abs(level) の組合せで与えられる符号語から構成されるテーブルを利用して、符号語を取得する第４の演算処理と、可変長符号化演算に入力される（run_i，abs(level_i)）の組合せが第４の演算処理に記載されているテーブルに存在するかどうかを判断する第５の演算処理とを具備した可変長符号化の高速演算方法を示している。本発明の第１の実施例を示し、乗算結果をテーブルから得る第１の演算処理を具備した動画像圧縮符号化の離散コサイン変換の高速演算方法を示す図である。本発明の第２の実施例を示し、被除算値と除算係数の大小を比較することにより、量子化演算後にゼロにクリッピングされる値を判断する第２の演算処理、量子化における各除算結果をresult[i]、除算係数をＷ[j]、被除算値をＸ[i]とし、除算係数の逆数テーブル（Inverse-W[j]＝1/W[j]）を利用して、result[i]＝X[i]＊Inverse-W[j] を除算結果として用いる第３の演算処理、を具備した動画像圧縮符号化の量子化演算の高速演算方法を示す図である。本発明の第３の実施例を示し、先行するゼロ係数の個数をラン（run）、非ゼロの値を絶対値レベル（abs(level)）、可変長符号語が与えられるlevelの最大値のビット数より大きな値をlevel_maxbitとし、index（index＝run＜＜level_maxbit＋level）とそのrun，abs(level) の組合せで与えられる符号語から構成されるテーブルを利用して、符号語を取得する第４の演算処理、可変長符号化演算に入力される（run_i，abs(level_i)）の組合せが第４の演算処理に記載されているテーブルに存在するかどうかを判断する第５の演算処理、を具備した動画像圧縮符号化の可変長符号化の高速演算方法を示す図である。本発明の高速演算処理プログラムを実行させる計算機の構成を示す図である。従来技術の離散コサイン変換の一般の高速化アルゴリズム（chenのアルゴリズム）を示す図である。

符号の説明

１ａ〜１ｈ離散コサイン変換に入力される値
２ａ〜２ｈ離散コサイン変換後に出力される値
３ａ〜３ｐ加減算処理
４ａ〜４ｄ１回の第１の演算処理と１回の加減算処理
５ａ〜５ｆ２回の第１の演算処理と１回の加減算処理
３１、４１、５１、６１、７１入力値
３２、４２、５２、６２、７２出力値
３３第２の演算処理
３４第３の演算処理
４３第５の演算処理
４４固定長符号語処理
４５第４の演算処理
４６符号語から構成されるテーブル
５３、６３、７３離散コサイン変換処理
５４、６４、７４量子化処理
、５５、６５、７５可変長符号化処理
、５６、６６、７６逆量子化処理
５７、６７、７７逆離散コサイン変換処理
５８、６８、７８レート制御処理
８１入力装置
８２記憶装置
８３出力装置
８４記憶媒体
８５データ処理装置

Claims

動画像圧縮符号化における可変長符号化演算方法において、
先行するゼロ係数の個数を０から31(run_max=31)、非ゼロの値の絶対値としてMPEG-2の可変長符号語を生成するrunとlevelの組み合わせの最大絶対値を40、その最大ビット数を6bitとし、
１から31<<6+abs(level_max)のアドレスを持つ一次元のテーブルを生成するステップと、
先行するrun_iと非ゼロの値の絶対値level_iを入力し、run_i、level_iをそれぞれ可変長符号語が与えられるrunの最大値31、可変長符号語が与えられるlevelの最大値40と比較するステップと、
run_i<=31、かつlevel_i<=40の場合、index=run_i<<6+level_iを予め用意したテーブルのアドレスとして可変長符号語あるいは固定長符号語を決定するステップと、
を有することを特徴とする可変長符号化演算方法。
請求項1記載の可変長符号化演算方法をコンピュータに実行させるためのプログラムを、該コンピュータが読み取り可能な記録媒体に記録したことを特徴とする記録媒体