JPH03204232A - 圧縮データの符号化方法 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 Ａ、産業上の利用分野 本発明は、一般にデータ処理方法、より具体的には伝送
または記憶用に圧縮データを符号化する方法に関するも
のである。

Ｂ、従来の技術及びその課題 圧縮とは、データの表現を最小にするためのデータの符
号化である。たとえば、圧縮を用いて、ファイルの必要
記憶容量を減少させ、チャネル上の通信速度を高める、
もしくは安全保護向上のための暗号化に先だって冗長度
を減少させることが可能になる。

データ圧縮の１方法が、ジブ（Ｚｉｖ）　　とレンペル
（Ｌｅｍｐｅｌ）の論文”Ａ　Ｕｎｉｖｅｒｓａｌ　Ａ
ｌｇｏｒｉｔｈｍＦｏｒ　５ｅｑｕｅｎｔｉａｌ　Ｄａ
ｔａ　Ｃｏｍｐｒｅｓｓｉｏｎ″、　ＩＥＥＥＴｒａｎ
ｓａｃｔｉｏｎｓ　ｏｎ　ｒｎｆｏｒｍａｔｉｏｎ　Ｔ
ｈｅｏｒｙ、　Ｖ　ｏ　１　。

ＩＴ−２３、Ｎｏ、３、ｐｐ、３３７−４３．１９７７
年５月に開示されている。レンベルージブ・アルゴリズ
ムは基本的に、データ列の履歴を後方参照し、一致が見
つかったとき、実際のデータを短縮された符号で置き換
える機構である。シンベル−ジブ法の種々の実施様態で
は、５１２（小テーブル）、１０２４（中テーブル）ま
たは４０９６（大テーブル）の特定の列または後方参照
を辞典または辞書に記録する。これらは、辞典に挿入さ
れる列の選択方法が異なる。

基本的なレンペルージブ・アルゴリズムに対スる様々な
改良がある。１つは、バイトまたは文字拡張の改良であ
り、辞典内の各列は、辞典内の他の列の末尾に１つまた
は複数のバイトを追加したものと同じである。もう１つ
は、列拡張しンペルージブ・アルゴリズムであり、辞典
内の各列は、辞典内の他の２つの列を連結したものであ
る。はとんどの状況では、列拡張技法の方がよい圧縮結
果をもたらす。

大テーブル列拡張しンベルージブ・アルゴリズムは、優
れた汎用適応データ圧縮技法であると一般に考えられて
いる。大テーブル列拡張しンペルージブ技法の欠点は、
圧縮を行う機械内にかなりのメモリと高速の中央演算処
理装置を必要とすることである。復元は、メモリ及びプ
ロセッサ・サイクルの点で相対的に低コストである。多
数の並列なデータ・ストリームの圧縮を支援しなければ
ならない装置では、一般にメモリの方が実行速度よりも
大きな問題である。これは、並列なデータ・ストリーム
のすべてが同時に活動状態であるわけではなく、シたが
ってＣＰＵ負荷が最悪の場合に近くなることがほとんど
ないためである。また、ＣＰＵに対する要求が過度にな
ったときの性能低下は、漸次的であり、破局的ではない
。すなわち、ある装置が支援しなければならないデータ
・ストリームの数は、プロセッサの実行速度の弱い関数
である。それとは対照的に、適応圧縮テーブル専用のメ
モリは、データ・ストリームが遊休状態のときでも割り
当てられていなければならない。このため、特定の装置
が支援できるデータ・ストリームの数が効果的に制限さ
れる。

Ｃ０課題を解決するための手段 本発明の適応圧縮方法は、２つのデータ構造、すなわち
履歴バッファおよび辞典（レキシコン）を効率的に利用
して、通信またはデータ記憶環境に適した、汎用のスト
リーム本位のデータ圧縮を実行する。この場合、列とは
、を眼側の記号の集合のうちから選択された一連の順序
付けられたデータ記号であると定義する。

履歴バッファとは、最も最近に圧縮機能を通過した未圧
縮のデータの正確な記録である。辞典とは、長さが１以
上の列の集合である。

本発明の圧縮方法は、入力データ・ストリームを履歴参
照、辞典参照およびリテラル参照のシーケンスに変換す
ると同時に、圧縮効率が最大になるように履歴バッファ
と辞典をインクレメンタルに更新することによって動作
する。圧縮機構に入るデータおよび復元機構から出るデ
ータは、８ビット・バイトとして取り扱われるが、圧縮
機構から復元機構へ流れる圧縮済みデータは自由形式の
ビット・ストリームである。本発明の符号化方法は、参
照の形式または性格を一意的に識別し、圧縮効率が最大
となるように参照の長さを定義し、同時に前記の変換操
作を逆にして元のデータ・ストリームを正確に再構成す
るのに十分な情報を、対をなす復元方法に提供する。こ
の復元機能は、圧縮されたデータ・ストリーム自体以外
の追加データは必要としない。

本発明の符号化方法の１様態では、各リテラル参照にリ
テラル識別子を割り当て、各履歴参照に履歴識別子を割
り当て、各辞典参照に辞典識別子を割り当てる。そして
、上記参照に上記識別子を割り当てたデータ・ストリー
ムを発行（ｅｍｉｔ）する。本発明の符号化方法の別の
様態では、入力データ・ストリームの記号を履歴バッフ
ァに記録する。

記号の列が履歴バッファ内で複製されるとき、履歴識別
子、オフセット値および長さの値を含む履歴参照が発行
される。発行された履歴参照によって表される列は、辞
典に記録される。記号の列が辞典内で複製されるとき、
辞典識別子および指標値を含む辞典参照が発行される。

記号が履歴バッファ内でも辞典内でも複製されないとき
、リテラル識別子および記号自体を含むリテラル参照が
発行される。入力データ・ストリームが終りになると、
リテラル識別子が発行され、それによってデータ・スト
リームの終りを知らせる。

Ｄ、実施例 本発明の圧縮方法を第１図に図示する。本発明の圧縮方
法の最初のステップであるブロック１１では、履歴バッ
ファ、辞典およびトークンをクリアする。トークンは、
データ・シーケンスの記号が付加される、作業用のサブ
ストリングである。

トークン、履歴バッファおよび辞典は最初は空である。

履歴バッファは、０の基底から始まる正の整数を指標と
する、記号値の１次元配列として実施される。履歴バッ
ファの長さは、ある値に固定される。履歴バッファの長
さはちょうど２の累乗であることが好ましい。好ましい
実施例では、多くの形式の２進データ・ファイルおよび
テキスト・ファイルで、８ビット・パイ）２０４８個の
履歴バッファ長がうまく働く。

履歴バッファ内の記号列は、オフセット値と長さ値を含
む履歴参照によって一義的に指定できる。

オフセット値とは、参照列内の最初の記号のバッファを
指すインデックスであると定義される。長さ値は、オフ
セットによって識別される記号から始まる参照列に属す
る記号の数である。履歴参照の長さの最大値を選択する
ことが好ましい。可能な最大の圧縮比はこの値に直接相
関して増加するが、データ・ストリーム形式ごとに、そ
の値を超えると、各一致ごとに平均文字数に対して、符
号化された列の長さの値が大きすぎるため、平均圧縮比
が低下し始めるという、最適の長さが存在する。ちょう
ど２の累乗であることが好ましいのは、一致を符号化す
るのに必要なビット数が、次の２の累乗まで変化しない
ためである。すなわち、長さの値を次の２の累乗ぴった
りに釘付けしないでおくと、潜在的な圧縮比の浪費とな
る。好ましい実施例では、２０４８文字の履歴バッファ
に対して、履歴参照の最大長が８ビット・バイト１６個
であればうま（働くことが判明している。

辞典は、それぞれが１個から履歴参照の最大長によって
指定される数までの記号を含む列を保持できる、単純な
要素配列として実施される。圧縮の間、辞典内の列は、
補助ハツシュ・テーブルを用いてルック・アップされる
。補助／１ツシユ・テーブルは、ハツシュ・テーブルが
まばらで効率的であることを保証するため、辞典自体の
数倍の要素を含むべきである。本発明の好ましい実施例
の２０４８バイトの履歴バッファでは、辞典のサイズが
１０２４であればうまく働くことが判明している。この
サイズの辞典は、ハツシュ・テーブルの過度な衝突を避
けるため、少なくとも２０４８個のエントリを備えたハ
ツシュ・テーブルで支援すべきである。

ハツシュ・テーブルは当業者にとって周知であり、テー
ブル内にルックアップされる列を含む記号に対して数学
的操作を行なうことによって形成される。この数学的操
作で、ハツシュ・テーブル指標として有効な範囲内の１
個の整数が与えられる。その指標が指すハツシュ・テー
ブル・エントリは、辞典内の対応するエントリのインデ
ックスを含んでいる。この間接指定により、辞典がほと
んど空である圧縮の初期段階の間に辞典エントリの指標
を効率的に割り当てることが可能になる。

辞典の最初のエントリから始めて、順次高位のエントリ
を構築して順序通り辞典を満たすことによって、この段
階の間に指標の値を送るのに必要なビット数が少なくな
るという利点を得ることができる。

辞典自体に比べてまばらな状態にハツシュ・テーブルを
保つことにより、複数の列が同じハツシュ・テーブル指
標にハツシュされるとき（これをハツシュ・テーブルの
衝突と称する）にどんな形のオーバフロ一連鎖も必要と
せずに優れた性能を実現することができる。このような
衝突は、必要に応じて古いデータを捨て、それを新しい
データで置き換えることによって処理される。リンクさ
れた辞典エントリのＬＲＵ待ち行列をハツシュ・テーブ
ルと共に用いると、辞典が最終的に満杯になったとき、
辞典エントリの挿入と削除が容易になる。

固定サイズの辞典内で新しいエントリの場所をあけるた
めにあるエントリを捨てざるを得ないときは、長時間使
用されなかったエントリを捨てた方がよい。ＬＲＵ待ち
行列を使用すると、それが効率的に行なえる。

本発明の圧縮方法の次のステップであるプロ・ツク１３
では、変数ＭＡＴＣＨをリテラル形式にセットする。Ｍ
ＡＴＣＨは、記号の列が履歴バッファ内と辞典内のどち
らに複製されているかに応じて、リテラル、履歴または
辞典のいずれかの形式となる。列が履歴バッファにも辞
典にも複製されていない場合は、ＭＡＴＣＨはリテラル
形式になる。

本発明の圧縮方法の次のステップであるブロック１５で
は、入力列から記号を読み取って、それをトークンに付
加する。当初は、トークンは１個の文字からなっている
。しかし、本発明の方法が進行して、履歴バッファと辞
典とが満杯になったとき、トークンは複数の文字からな
る列となる。

判断ブロック１７で、このトークンを辞典の内容と比較
する。当初は辞典が空であるため、一致は見つからない
。しかし、本発明の方法がし、ばらく進行した後には、
辞典に列が挿入され、一致が見つかるようになる。辞典
で一致が見つかった場合、ブロック１９で、ＭＡＴＣＨ
を対応する指標値を伴う辞典形式にセットし、次にブロ
ック１５に戻って、入力列から次の記号を読み取ってト
ークンに付加する。

トークンが辞典内で複製されていない場合、判断ブロッ
ク２１で、このトークンを履歴バッファの内容と比較す
る。この場合も、当初は履歴バッファが空であるため、
履歴バッファ内での一致は見つからない。しかし、本発
明の圧縮方法がしばらく進行した後には、このトークン
が履歴バッファ内で複製されている可能性がある。この
トークンが履歴バッファ内で複製されている場合、ブロ
ック２３で、ＭＡＴＣＨをオフセットと長さの値とを伴
う履歴形式にセットし、ブロック１５に戻って、入力列
から次の記号を読み取ってトークンに付加する。次に、
ブロックエフで、トークンを再び辞典の内容と比較する
。本発明の圧縮方法では、トークンが履歴参照の最大長
辺下である限り、辞典内でも履歴バッファ内でもトーク
ンが複製されていない状態になるまで、記号をトークン
に付加して、そのトークンを辞典および履歴バッファの
内容と比較することを続ける。こうして本方法は、辞典
内または履歴バッファ内で複製されている、許容される
最長の文字列を形成する。この最長の文字列は、トーク
ンから最後の文字を除いたものである。本開示では、１
個のリテラルを列であると見なす。

本発明の圧縮方法は、許容される最長の列を形成し終え
た後に、その列を象徴する参照を発行する。判断ブロッ
ク２５でＭＡＴＣＨが辞典形式であった場合は、ブロッ
ク２７で、ＭＡＴＣＨによって指定された辞典参照が出
力または発行される。

ＭＡＴＣＨが辞典形式ではない場合は、履歴形式または
リテラル形式のいずれかである。判断ブロック２９で、
ＭＡＴＣＨが履歴形式であった場合は、ブロック３１で
、ＭＡＴＣＨによって指定された履歴参照が発行または
出力される。また、ＭＡＴＣＨが履歴形式であった場合
は、履歴参照によって指定された参照列が辞典に追加さ
れ、辞典のサイズが記録される。

ＭＡＴＣＨが履歴形式ではない場合、それはリテラル形
式である。ブロック３３で、トークン内の記号に対する
リテラル参照が発行または出力される。辞典参照、履歴
参照またはリテラル参照が発行された後、ブロック３５
で、参照列が履歴バッファに付加され、トークンの先頭
から削除される。

同時に、履歴バッファのサイズが記録される。次に、ト
ークンはブロック１３に戻り、入力記号列が終りになる
までこの処理を続ける。

代表的なデータ・ストリームの確率論的研究に基づいて
、下記の符号化方式が最適に近い結果を生むことが判明
した。

リテラル参照　　０＋「記号」 履歴参照　　　１＋０＋　ｒオフセット」＋「長さ」 辞典参照　　　　１＋１＋　ｒ指標」 ”１″および０″は２進数の１桁を表し、「オフセット
」、「長さ」および「指標」は、特定の場合にそれらの
潜在的な最大値を表すのに必要な最小のビット数で符号
化されている。より具体的には、必要なビット数は、潜
在的な最大値を最も近い２の累乗に切り上げた値の、２
を底とする対数に等しい。たとえば、辞典が１２個のエ
ントリを含む場合、１２は１６（次の２の累乗）に切上
げられ、１６の２を底とする対数は４なので、指標を符
号化するのに必要なビット数は４である。

「記号」は記号自体の８ビット表現である。

本発明の圧縮機能に入るデータは、８ビット・バイトと
して処理されるが、圧縮機能から出力されるデータは自
由形式のビット・ストリームである。前述のリテラル参
照、履歴参照および辞典参照に対する符号化規則により
、復元機能でこの自由形式のビット・ストリームを容易
にかつ曖昧さなしに解析することが可能となる。

典型的なアプリケーション環境では、各リテラル記号を
符号化するのに必要なビット数は、圧縮機能と復元機能
とを相互接続するシリアル通信チャネルの基本ブロック
・サイズに等しくなる。たとえば、ＥＢＣＤＩＣ環境で
は、記号の値は８ビットを用いて符号化され、代表的な
通信リンク上を流れる基本的情報単位は、８ビット文字
に量子化される。リテラル参照を符号化するのに必要な
ビット数は、常にこのようなリンクの基本ブロック・サ
イズよりも１だけ大きいので、最後のデータ・ブロック
内に利用可能な追加ビットが存在する場合は、最後の有
効な参照の末尾に１個の０ビットを追加することによっ
て、最後の有効な文字の末尾の後ろの使用されていない
ビットを復元機能に強制的に無視させることが常に可能
である。０ビットを用いてリテラル参照の先頭を模倣す
ることにより、圧縮されたデータ・ストリームが次のブ
ロック境界で打ち切られたためにその参照が完了できな
いことを知った復元機能は、最後のデータ・ブロック内
の余分なビットを自動的に無視する。言い換えれば、復
元機能は０ビットを「見る」と、それは８ビット・リテ
ラルを得ることを期待する。

０ビットの後に何も続かない場合、復元機能はそのシー
ケンスが完了したことを「知る」。

第２図には、本発明の復元方法の流れ図が示されている
。最初のステップであるブロック３７で、履歴バッファ
および辞典をクリアする。履歴バッファと辞典がクリア
された後、ブロック３９で、入力から参照が読み取られ
、それに従ってＭＡＴＣＨがセットされる。参照の第１
ビットが０である場合、ＭＡＴＣＨはリテラル形式であ
る。参照の第１ビットが１である場合、ＭＡＴＣＨは辞
典形式または履歴形式のいずれかである。１に続くビッ
トが０である場合、ＭＡＴＣＨは履歴形式である。１に
続くビットが１である場合、ＭＡＴＣＨは辞典形式であ
る。

判断ブロック４１でＭＡＴＣＨが辞典形式であった場合
、ブロック４３で、ＭＡＴＣＨによって指定された辞典
の列が出力される。

ＭＡＴＣＨが辞典形式ではない場合、判断ブロック４５
でＭＡＴＣＨが履歴形式であった場合は、ブロック４７
で、ＭＡＴＣＨによって指定された履歴列を出力し、そ
の列を辞典に追加し、現在の辞典のエン）　ＩＪ数を記
録する。ＭＡＴＣＨが辞典形式でも履歴形式でもない場
合は、ブロック４９で、ＭＡＴＣＨによって指定された
リテラル記号が出力される。最後に、ブロック４３．４
７または４９でＭＡＴＣＨによって指定された列を出力
した後に、ブロック５１で、その列を履歴バッファに付
加し、現在の履歴バッファのサイズを記録して、入力列
が終りになるまでこの処理を繰り返す。

当初は、復元機能の辞典と履歴バッファは空である。し
かし、復元機能が受は取る最初の参照はリテラル形式で
ある。リテラル参照を処理する際には、これを履歴バッ
ファに追加する。復元機能は、その履歴バッファ内で一
致を見つけると、履歴参照を発行する。圧縮機能と復元
機能の履歴バッファは同一であるため、履歴参照は復元
機能の履歴バッファ内の正しい記号列を識別する。圧縮
機能が履歴参照を発行し、復元機能がそれを受は取ると
、その履歴参照によって参照される列が、圧縮機能およ
び復元機能の当該の辞典に挿入される。

本発明の方法は、このように２つのデータ構造すなわち
履歴バッファおよび辞典を使用して、データ列の効率的
な圧縮を達成する。履歴バッファを固定された深さに制
限し、履歴参照の最大長を相対的に小さな値に制限し、
辞典内のエントリの最大数を固定した数に制限すること
により、極めて効率的にメモリを利用し、ずっと大量の
メモリを必要とする方法に匹敵する圧縮比をもたらす、
相互に関連した１組のデータ構造を設計することが可能
である。

Ｅ１発明の効果 本発明によれば、圧縮データの符号化が可能となる。

【図面の簡単な説明】

第１図は、本発明の圧縮方法を示す流れ図である。 第２図は、本発明の復元方法を示す流れ図である。

Claims (10)

【特許請求の範囲】
1. （１）リテラル参照、辞典参照および履歴参照のシーケ
   ンスからなる圧縮されたデータを符号化する方法であっ
   て、 各リテラル参照にリテラル識別子を割り当てるステップ
   と、 各履歴参照に履歴識別子を割り当てるステップと、 各辞典参照に辞典識別子を割り当てるステップと を含むことを特徴とする方法。
2. （２）請求項１に記載の方法であって、前記リテラル識
   別子が、１個の０ビットからなることを特徴とする方法
   。
3. （３）請求項２に記載の方法であって、前記履歴識別子
   が１個の１ビットとそれに続く１個の０ビットからなり
   、前記辞典識別子が１個の１ビットとそれに続く１個の
   １ビットからなることを特徴とする方法。
4. （４）記号のシーケンスからなるデータ・ストリームを
   符号化する方法であって、 履歴バッファ内に前記シーケンスの記号を記録するステ
   ップと、 前記シーケンスからの記号の列が前記履歴バッファ内で
   複製されるとき、履歴識別子、オフセット値および長さ
   の値を含む履歴参照を発行するステップと、 履歴参照によって発行された記号の列を辞典に記録する
   ステップと、 前記シーケンスからの記号の列が前記辞典内で複製され
   るとき、辞典識別子および指標値を含む辞典参照を発行
   するステップと、 ある記号が前記履歴バッファ内でも前記辞典内でも複製
   されないとき、リテラル識別子および前記の記号を含む
   リテラル参照を発行するステップと を含むことを特徴とする方法。
5. （５）請求項４に記載の方法であって、前記の履歴バッ
   ファへの現在の最大オフセットを記録するステップを含
   むことを特徴とする方法。
6. （６）請求項５に記載の方法であって、前記履歴参照の
   オフセット部分の長さが、前記履歴バッファへの前記の
   現在の最大オフセットの２を底とする対数を最も近い整
   数値に切り上げた値と等しいことを特徴とする方法。
7. （７）請求項４に記載の方法であって、前記辞典内の現
   在のエントリ数を記録するステップを含むことを特徴と
   する方法。
8. （８）請求項７に記載の方法であって、前記辞典参照の
   長さが、前記の現在の辞典エントリ数の２を底とする対
   数を最も近い整数値に切り上げた値に等しいことを特徴
   とする方法。
9. （９）請求項４に記載の方法であって、前記のデータ・
   ストリームが終りになったとき、参照識別子を発行する
   ステップを含むことを特徴とする方法。
10. （１０）請求項９に記載の方法であって、前記参照識別
    子がリテラル識別子であることを特徴とする方法。