JPH10173538A - ベクトル量子化圧縮を高速化する方法 - Google Patents

Abstract

(57)【要約】 （修正有） 【課題】圧縮に時間がかかりすぎるという難点があるベ
クトル量子化圧縮を高速化し、圧縮率も上げ、なおか
つ、２５６色環境で減色なしに表示できる様に改良する
ことで、応用範囲を広げ、ＪＰＥＧやＭＰＥＧと競合す
るほどの画像圧縮方式にする。 【解決手段】まず、圧縮時にニューラルネットワークな
ど繰り返しを必要とする時間の掛かる方法ではなく、ヘ
ックバートの中央値分割を基本に改良を加えた方法を用
いる。バケット法の様なデータ構造を用いていては、無
闇にメモリーを消費するので実現できないが、データを
一次元方向に並べ、それをベクトルが張る空間を分割す
る度に、並び替えるという方法を用いることによって、
メモリーの制約も解決した。その他、コードブックを繰
り返しベクトル量子化することや、小ブロックを正規化
した上でベクトルとして登録することで、小さなコード
ブックで済ませて、圧縮率もあげた。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】画像通信や、画像データベース、
ビデオゲームなど、高い圧縮率と、高速な表示、再生を
必要とする分野。

【０００２】

【従来の技術】・画像圧縮に関して 高い圧縮率を必要とする場面での非可逆画像圧縮の方法
としては、大まかに言ってＤＣＴ圧縮と、ベクトル量子
化圧縮の２種類が有力です。動画では、ＤＣＴ圧縮であ
るＭＰＥＧが有力です。インターネット上の静止画で
は、ＤＣＴ圧縮の代表であるＪＰＥＧ圧縮の他、２５６
色以下に減色する段階で広い意味でのベクトル量子化圧
縮を行なっているＧＩＦが主に使われています。 ・多次元のクラスタリング この問題は、分野毎にそれぞれ別の用語で呼ばれ、別の
問題として扱われています。パターン認識の分野では、
多次元のクラスタリングと呼ばれ、画像変換では、減色
または限定色表示のアルゴリズムとされ、また、不可逆
圧縮の分野ではベクトル量子化圧縮や、ＢＴＣ圧縮とし
て、計算幾何学では地理的最適化問題Ｐ１として、取り
扱われています。しかし、これらは、本質的には同じ問
題で、次元の数や、必要な精度や、要求される計算時間
などが異なるだけす。さらに、言えば、データベースに
おける多次元領域探索の問題も多少似た部分がありま
す。 ・ベクトル量子化圧縮とは 画像をデジタルで扱う場合、ＸＹ平面方向に標本化し、
濃度あるいは明度方向に量子化する必要がありますが、
この量子化をわざわざスカラー量子化と呼ぶこともあり
ます。スカラー量子化というのは、例えば、下位ビット
を切り捨て有効桁数を減らす事で、少ないビット数で情
報を近似的に現すことです。画像圧縮の分野では、ＪＰ
ＥＧ圧縮の中でＤＣＴ変換した後で、量子化を行ってい
ます。単なる切り捨てではなくデータのヒストグラムに
応じて、近傍の値を分布に応じて最適化した代表値の入
った配列のインデックスで置き換える処理を適応的スカ
ラー量子化と言います。ベクトル量子化圧縮のベクトル
は、スカラーに対するベクトルです。つまり、ベクトル
量子化の量子化というのは、代表のベクトルで近傍のベ
クトルを置き換えて近似表現することです。ベクトル量
子化において、単に精度を落とすだけではあまり意味が
ないので、ベクトル量子化圧縮という場合には、適応的
というのが省略されています。具体的に言うと、例えば
２５６×２５６ドットのフルカラー画像をプレーン毎４
×４ドット程度の小ブロックに分割し、小ブロック内の
データを１６次元のベクトルとみなし、そのベクトルを
例えば、２５６種類にクラスタリングすることで、４０
９６×３バイトのクラス番号と、２５６×１６バイトの
コードブックに圧縮するという様な圧縮の方法です。画
像処理の分野でベクトルというと、画像データをポリゴ
ンなどで表現するベクトル方式と、メッシュごとのデー
タで表現するラスター方式の方を思い出して誤解してし
まう人がいるのですが、それとは関係ありません。ま
た、量子化というと、量子力学を思い出してしまう人も
いますが、それも関係ありません。 ・多次元多値のクラスタリングの方法 パターン認識などの前処理として使われる多次元多値の
クラスタリングについては、「パターン認識−理論と応
用 行動計量学シリーズ１２」大津 展之＋栗田多喜夫
＋関田 巌 著 朝倉書店９６／７／１０発行の７．４
多次元への場合への応用（８２ページ）に書いてあるよ
うに、誤差の二乗和を最小にするという意味では極めて
膨大な計算が必要です。また、近似解を求める方法につ
いても、一応紹介されていますが、実用的なものはあり
ませんでした。「パターン認識」では次善の策として、
Ｋ−Ｌ変換と等価なアルゴリズムを３次元の減色問題に
応用したような方法を提示してあります。これは、減色
の分野での経験から言って、彩度が著しく落ちる画像が
得られるなど、効果的な方法ではありません。 ・ベクトル量子化圧縮の方法 ベクトル量子化圧縮ついても、数学的には多次元多値の
クラスタリングと同じです。最適解を求める方法につい
ては、３分割以上は次元乗に比例する時間がかかり、非
現実的です。実際的に意味があるのは、近似解を求める
方法です。その中には、ＫＬ変換を用いる方法と、Ｋ−
ｍｅａｎ法やニューラルネットを用いる繰返しによっ
て、徐々に近似解の精度を高めて行く方法が用いられて
います。 ・減色の方法 減色の分野では、扱う次元が３次元と少なくまた、パソ
コンの初期においては、８色や１６色への減色の重要性
があっために、ＫＬ変換の限界は、自明なものでした。
従来の技術を単純な方から並べると、 １）適当な精度でヒストグラムを作り、頻度の高い色か
ら順に採用する。 ２）目的の色数になるように、ビットの切り捨てを行な
う。 ３）色空間内に、他の球に含まれていない色を中心とし
た適当な半径の球を配置していく ４）Ｈｅｃｋｂｅｒｔの中央値分割 ５）以上のいずれかを初期状態としてＫ−ｍｅａｎｓ法
を使って、繰返し代表点をずらしていくことで、徐々に
最適化する ６）ボトムアップで結合を行なう 「カラー画像複製論」田島穣二著には、中央値分割を改
良した方法、ボトムアップで結合していく方法などが紹
介されています。 ・ＫＬ変換 直交変換の中ではＫＬ変換が最適であるとして、画像処
理の本には必ずと言って良いほど紹介されていますが、
ベクトル量子化圧縮にこれを用いる場合には、多次元の
逆行列を求める処理があるので、時間がかかるだけで、
あまり実用的ではありません。さらに、ＫＬ変換をベク
トル量子化に応用した場合、たとえば、第一主成分方向
を５分割し、第二主成分方向を３分割し、その積の１５
の代表ベクトルで置き換えるという様なことになるわけ
です。しかし、実際のデータは、多次元の正規分布をア
フィン変換しただけのものではなく、むらがあるので、
結果として、近傍にほとんどサンプルが存在しない領域
に代表ベクトルを割り当ててしまうことになります。最
適化と言うにはほど遠い結果になります。 ・ボロノイ分割 ボロノイ分割というのは、計算幾何学の用語です。空間
内に、複数の点が分布していて、それを母点と呼びま
す。空間を、どの母点が最も近いかによって分割するこ
とをボロノイ分割と呼びます。減色やベクトル量子化圧
縮を行なう時に、近傍の色や、ベクトルを、代表色また
は代表ベクトルで置き換える処理は、ボロノイ分割を行
なっていることになります。ボロノイ分割を行うのに
は、２次元までが実用的な限度とされていました。 ・Ｋ−ｍｅａｎｓ法 これは、代表点を母点として色空間をボロノイ分割し、
ボロノイ分割されたそれぞれの領域内の点の重心を求め
それを新たな代表点とするという処理を、誤差が一定値
以上減少しなくなるまで繰り返す方法です。初期状態が
悪ければ、局所的最適解に陥ってしまう可能性がありま
すし、ボロノイ分割と、重心の計算の繰返しは、かなり
時間がかかる処理なので、効率的ではありません。 ・ニューラルネットワークを用いる ニューラルネットワークを用いる方法については、詳細
はしりませんが、ゲン（あるいはゲンテック）という会
社が、ＮｕＶＥＱという方法を特許出願しているという
記事が載っていました。ニューラルネットワークである
以上繰返しが存在しているはずで、あまり効率的である
とは思えません。システムとしての販売が主で、パソコ
ン用のソフトとしては出てきていないと聞いています。
かなりの計算量が必要なはずです。 ・ＬＢＧアルゴリズム 「画像情報処理」安居院 猛＋中嶋 正之 共著では、
均等にベクトルを配置し、ボロノイ分割を行い、各領域
の重心を代表点にし、使用されない代表ベクトルが生じ
た場合には、分散の大きいクラスを２分割するというア
ルゴリズムとして紹介されています。これは、きわめて
少ない頻度で現れるベクトルのために、１つのクラスを
割り当てる可能性が高く、適当なクラス数になるまで下
位ビットを切り捨てて行くアルゴリズムと大差ない性能
になります。一方、「画像情報圧縮」原島 博 著の中
では、Ｋ−ｍｅａｎｓ法と同じ方法が、ＬＢＧアルゴリ
ズムとして紹介されています。 ・中央値分割 Ｈｅｃｋｂｅｒｔが限定色表示のアルゴリズムとして提
案した物です。ＲＧＢ各５ｂｉｔ精度の多次元配列に頻
度のデータをしまい、最大最小の差が最大の軸を、中央
値で分割するというアルゴリズムです。分散最大の軸
を、誤差の二乗和を最小にする点で分割するという改良
が、「カラー画像複製論」田島穣二著に載っていまし
た。 ・多次元配列 多次元配列にデータを保存すると、次元が上がれば大量
のデータが必要になります。１つの次元毎に２つの状態
に限ったとしても、４８次元では、テラバイトより大き
なメモリーが必要になってしまいます。 ・バケット法 多次元空間を扱う場合によく使われる方法で、大まかな
多次元配列から、セル内にあるデータをリンクで順次つ
なぎます。この方法も、２次元までは良くても、次元が
高くなると、空っぽのセルばかり増えるので、現実的で
はなくなります。４８次元ではこれも大まかな多次元配
列の分だけでテラバイトを超え、使えません。 ・多次元化した二分木 データベースなどでよく使われる二分木を多次元にした
もので、各ノードには、分割する軸と分割の値があり、
その大小で、どちらの枝につながるかが決まります。デ
ータを追加していくためにはこういう構造である必要が
ありますが、ひとまとまりの与えられたデータを、分割
する場合には、多くのノードを順にたどっていく必要が
あります。これでは、複数のＣＰＵを使って並列処理す
るこもできず、また、リンクがあちこちに飛ぶので、キ
ャッシュのヒットの確率もさがり、高速化が期待できず
効率の悪いデータ構造になります。

【０００３】

【発明が解決しようとする課題】ベクトル量子化圧縮
に、Ｋ−Ｌ変換を用いる方法では、多次元空間内に、正
規分布に近い分布をしている場合には有効でも、むらが
ある場合には、無駄が生じてしまい精度の高い近似解が
得られません。Ｋ−ｍｅａｎｓ法や、ニューラルネット
を使った方法では、繰返しによって徐々に近似精度を高
めることになり、パソコンで実際的に圧縮を行なうには
時間がかかりすぎます。中央値分割をベースにしている
方法でも、バケット法や、荒い精度のヒストグラムを使
う方法が主であったので、ベクトル量子化の様な高い次
元を扱う場合には、無理であると考えられていました。
既存の方法では、高い次元のベクトルを扱うベクトル量
子化圧縮において、現実的なメモリーサイズと、高い近
似精度と、高い処理速度を両立することはできなかっ
た。この様に、従来の方式では、圧縮に時間がかかりす
ぎていました。そのため、エンドユーザーがベクトル量
子化圧縮を行えるソフトウェア製品はありませんでし
た。本発明では、それを実用的な時間で可能にします。
また、圧縮率の点で言うと、単なるベクトル量子化圧縮
では、同程度の画質で比べた場合、主流の技術であるＪ
ＰＥＧ圧縮にさえ負けていました。ＮｕＶＥＱによるベ
クトル量子化圧縮を行った製品の場合１／５．６程度の
サイズに圧縮しただけで、部分的にブロックノイズが現
れていました。本発明では、同程度の画質において、Ｊ
ＰＥＧに負けない圧縮率を可能にします。さらに、ＪＥ
ＰＧやフラクタル圧縮などこれまでの圧縮方式では、２
５６色表示のディスプレーで表示するためには、減色処
理が必要になっていましたこれに時間がかかるために、
簡単な方法で済ませるために２５６色表示になると極端
に画質が落ちるのが通常でした。本発明では、旧来はエ
ントロピー圧縮するしか無かった２５６色画像を非可逆
圧縮によって大幅に圧縮することを可能にします。ま
た、テレビ電話など、リアルタイムの圧縮に便利なＢＴ
Ｃ圧縮においても多次元多値のクラスタリングが実用的
な時間でできていなかったためにあまり使われていませ
んでした。

【０００４】

【課題を解決するための手段】減色（限定色表示）の分
野に関してすでに出願済みの発明（平７−１８２０１
０）をベクトル量子化圧縮に対して応用することで高速
化します。具体的には、繰り返しを用いない中央値分割
を基本としたアルゴリズムを採用し、なおかつ、ヒスト
グラムを求める場面と、空間分割を行う場面でデータ構
造を変更することで、高い精度のデータに対して高速に
空間分割を可能にしました。ヒストグラムを求める場面
では、多次元配列もしくは、ハッシュを使った配列で、
メモリーが不足するとその時点で、精度を落として再度
ヒストグラムを取り直すという方法を用います。ただ
し、画像サイズが小さい場合、いったんヒストグラムを
求める必要がなく、直接データへのポインターを並べ替
える操作にかかった方が良い。空間分割を行う場合に
は、データまたはデータへのポインターを一次元方向に
ならべることでデータの存在しない無駄な領域へのアク
セスを防ぎ、さらに、二分割を行うたびに、範囲内のデ
ータを並べ直すことによって、次回にアクセスする範囲
を減らすという方法を採った。この方法は、減色の場合
は、３次元ですが、きわめて高速な方法でした。この方
法では同じデータに関して、次元が上がっても次元の対
数に比例した時間しかかからないので、他の方法で減色
する場合と比べても速くベクトル量子化圧縮ができま
す。同様に、多次元多値のＢＴＣ圧縮も高速化できま
す。さらに圧縮率をあげるために、様々な方法で小ブロ
ックを正規化することで、コードブックを共通化した
り、多段のベクトル量子化圧縮によって解決します。

【０００５】

【作用】繰り返しを行うアルゴリズムとの比較して、繰
り返しがないために数倍以上の高速化になっています。
また、ＫＬ変換を用いる方法と比べると、データ自体の
分布のむらを無視することによる無駄が生じないので高
画質になります。中央値分割と同様のアルゴリズムを、
画像のベクトル量子化圧縮に用いることは、そのままで
は、メモリーが不足するために、不可能ですが、場面毎
にデータ構造を変更することによって、実行時間が次元
の対数にしか比例しない高速な処理が可能になっていま
す。

【０００６】

【実施例】

【図１】参照 （１）ベクトルの配列を作る ・フルカラー画像を、たとえば４Ｘ４（ブロックサイズ
は大きくした方が圧縮率は上がります）のサイズに分割
する ・４８次元のデータの入った配列に変換する。（２５６
環境での表示をしない場合には、ＲＧＢ毎の輝度情報を
別々のコードブックで置き換える普通の方法の方が、圧
縮率が２割程度高くなります）（場合によっては、ハッ
シュ関数によって収納位置を求めて、４８次元のデータ
と頻度のデータからなる配列に変換する。）（回転など
の単純な変換によって共通のコードブックを利用する場
合には、この段階で、小ブロックに変換を施した中の１
つをベクトルとして登録する。たとえば、すべての可能
なベクトルに一意の番号を付け、その番号の小さい方
を、その小ブロックを表すベクトルとして扱うことで、
コードブックが多次元空間の中の限定された領域に集ま
る。） ・４８次元のデータが入った配列を捜査し、データの位
置を指すポインターのインデックスを作る １つの領域を示すためには、インデックスの最初と最後
を指す２つの変数が用意されていれば良い （段階Ａ） （２）軸毎に領域内のデータのヒストグラムを作る そのインデックスの順に、範囲内のデータについて、軸
毎のヒストグラムを求める （３）２分割する領域と軸と値を決める 時間より精度が重要な場合は、特定の軸の値毎に、他の
軸の値と、値の二乗の累積も計算し配列に保持すること
で、より高い精度の空間分割が可能になる。 ・分割されたそれぞれの領域を平均で置き換えた場合に
生じる誤差の二乗和が最小になるという条件を満たす分
割点を求め、最適な分割を行う軸と位置を求める。 （４）領域を２分割する ・すべての領域のなかでどの領域を分割するのが最も誤
差の二乗和を減少させるかを調べ、それで分割する。こ
れは、その分割が最後の１度であると考えた場合の最適
に過ぎないが、もしも時間が許せば、この時点で、深読
みすることによって、多少改善される。さらに、将来、
コンピューターパワーが上がれば、順次２分割するとい
うアルゴリズムではなく、動的計画法を用いて、最適解
を求めることも可能になるだろう。時間が重要な場合に
は、分散最大の領域の分散最大の軸を平均で分割する。 （５）２分割を行う 分割する位置が決まれば、ポインターの配列の範囲内
を、大小によって２分割する。２分割の方法は、クイッ
クソートの時に、範囲内のデータを２分割する手法と同
じである。必要な数に分割されるまで（段階Ａ）に戻っ
て繰り返し分割を行う （６）代表ベクトルを求める 必要な領域に分割されればその平均を、代表ベクトルと
する。もしも時間が許せば、この段階で、ボロノイ分割
と重心の計算を繰り返すＫ−ｍｅａｎｓ法を用いて多少
の改善が可能になる。 （７）元画像をコードブックで符号化する 代表ベクトルが、コードブックとなる。この段階ですで
にサンプルは、それぞれの代表ベクトルに対応づけられ
ている。つまりコード化されている。 （８）コードブックの減色を行う コードブックがＲＧＢ画像の場合、これをさらに減色す
ることによる圧縮が可能になる。減色の方法について
は、圧縮と次元が異なるだけで、平７−１８２０１０で
すでに出願しました。あるいは、コードブックの減色で
はなく、さらに小さいブロック単位にコードブックをベ
クトル量子化圧縮することによっても全体として２割程
度データ量が減ります。

【０００７】

【発明の効果】ベクトル量子化圧縮は統計を使った単純
素朴な圧縮方法にすぎませんが、その分、特別なハード
ウェアなしで展開が高速にできるという利点がありま
す。従来は圧縮側に時間が掛かりすぎていましたが、本
発明では、縦横がそれぞれ２５６ピクセルのフルカラー
画像を、Ｐｅｎｔｉｕｍ−９０ＭＨｚのパソコンを使っ
てベクトル量子化圧縮するのに７秒しか掛かりませんで
した。つまり、大きなメモリーを乗せた専用のワークス
テーションという様な仕組みをもう必要としません。ｊ
ａｖａなどの遅い言語を使う環境や、消費電力に制約の
ある携帯型のコンピュータ端末などでも、高速な圧縮や
展開が有用とされるでしょう。

【図面の簡単な説明】

【図１】ベクトル量子化圧縮のフローチャート

Claims (7)

【特許請求の範囲】
1. 【請求項１】ベクトル量子化圧縮において、小ブロック
   のデータをベクトルと見なして多次元ベクトルのクラス
   タリングを行なう際に、データを一次元方向に配置し、
   分割のたびに並べ替えを行なう方法
2. 【請求項２】画像、音声、映像のベクトル量子化圧縮に
   おいて、小ブロックのデータをベクトルと見なして多次
   元ベクトルのクラスタリングを行なう際に、データを一
   次元方向に配置し、分割のたびに並べ替えを行なう方法
3. 【請求項３】画像、音声、映像のベクトル量子化圧縮に
   おいて、繰り返しより小さいブロック単位でコードブッ
   クをベクトル量子化圧縮することによって、コードブッ
   クのサイズを減らし圧縮率を高める方法
4. 【請求項４】画像、映像のベクトル量子化圧縮におい
   て、コードブックを減色することによって、圧縮率を高
   める方法
5. 【請求項５】画像、映像のベクトル量子化圧縮におい
   て、上下左右反転、回転、輝度反転によって共通にでき
   るコードブックを共通化することで、圧縮率を高める方
   法
6. 【請求項６】画像、映像のベクトル量子化圧縮におい
   て、小ブロックをトーラスと見なし左上の位置を変更す
   ることによって、共通にできるコードブックを共通化す
   ることで、圧縮率を高める方法
7. 【請求項７】多値ＢＴＣ圧縮での、小ブロック内の多次
   元多値クラスタリングにおいて、多次元ベクトルを一次
   元方向に並べ、分割のたびに、データの並べ替えを行な
   う方法