JPH04223717A

JPH04223717A - データ圧縮モデル選択方法及びシステム

Info

Publication number: JPH04223717A
Application number: JP3042191A
Authority: JP
Inventors: Joan L Mitchell; ジョン・ラベルニ・ミッチェル; William B Pennebaker; ウイリアム・ブーン・ペニベーカー; Jorma J Rissanen; ジョルマ・ジョニハス・リッサネン
Original assignee: International Business Machines Corp
Current assignee: International Business Machines Corp
Priority date: 1990-03-30
Filing date: 1991-02-15
Publication date: 1992-08-13
Anticipated expiration: 2010-10-09
Also published as: JPH0793586B2; EP0448802A2; EP0448802A3; US5045852A

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明はデータ圧縮に関するもの
であり、より具体的には、データ・ストリームの様々な
部分の圧縮を最適化し、それによってストリーム全体の
圧縮を最適化するため、データ・ストリームの圧縮符号
化中に使用する符号化モデルを動的に選択する方法およ
び手段に関するものである。

【０００２】

【従来の技術】データ・セットの圧縮符号化用の様々な
モデルが既知である。それらのモデルはそれぞれ、デー
タ項目またはシンボルの確率分布を推定する目的でコン
テキストを確定する。通常、２値ファクシミリ画像など
所与のエンティティを記述するモデルは、前述の画像を
表現する所与のデータ・セットに対して良好な圧縮を行
うように最適化される。この１例が周知のハフマン（Ｈ
ｕｆｆｍａｎ）符号化である。残念ながら、ある所与の
データ・セットの圧縮を最適化する画像モデルを、その
統計的特性が非常に異なる第２のデータ・セットに適用
しても、ほとんどの場合うまく働かない。その反対に第
２のデータ・セットを最もよく圧縮するよう最適化され
たモデルは、第１のデータ・セットに対してうまく働か
ないと予想される。可能なデータ・セットの全範囲で働
く単一のモデルを考案できれば望ましいが、これらのデ
ータ・セットは統計的特性がさまざまに変化するので、
全データ・セットに対して最適化された単一のモデルが
もたらす性能は、単一のデータ・セットまたはデータ・
セットの一部分に対する可能な最高の性能には及ばない
ことが示唆される。明らかに、最高の性能が実現される
のは、各データ・セットまたはその一部分の符号化中に
実際に符号化を行っている時に、最適のモデルが動的に
選択できる場合である。

【０００３】モデル選択は従来技術で一般に使用されて
きたが、その技法は、次のいずれかであった。１．米国
特許第３３９４３５２号明細書に開示されているような
、データ構造から巧妙に導出された値を使用して、それ
を効率的に単一のより複雑なモデルにする、決定論的な
技法。２．米国特許第４９０１３６３号明細書に開示さ
れているような、ディザ・ハーフトーン画像用の算術符
号化技法を伴う、２つの選択枝のうちの１つを使用する
もの。３．米国特許第３８３０９６４号明細書に開示さ
れているような、各データ・ブロックごとに選択判断の
ハフマン符号化を使用するもの。

【０００４】第３の場合、その基礎となる発想は、同じ
入力データ・ブロックを圧縮する際に使用される２つの
異なるモデルの符号化速度を測定し、そのブロックに対
して最も効率的なモデルを選択するものである。しかし
、この従来技術および、符号化テーブルを使用する米国
特許第４７３０３４８号明細書などの関連する従来技術
では、テスト区間が常に所与のサイズの入力データ・ブ
ロックであり、固定式のコード割当てを使用していたの
で、この手法では、モデル選択を符号化するのに必要な
ビットに関してかなりの追加コストが生じた。

【０００５】データ圧縮に算術符号化を用いる場合（Ｇ
．　Ｇ．　Ｌａｎｇｄｏｎ，　”Ａｎ　Ｉｎｔｒｏｄｕ
ｃｔｉｏｎ　ｔｏＡｒｉｔｈｍｅｔｉｃ　Ｃｏｄｉｎｇ
”，　ＩＢＭ　Ｊｏｕｒｎａｌ　ｏｆ　Ｒｅｓｅａｒｃ
ｈ　ａｎｄ　Ｄｅｖｅｌｏｐｍｅｎｔ，　Ｖｏｌ．２８
，　Ｎｏ．２，　ｐｐ．　１３５−１４９，　Ｍａｒｃ
ｈ　１９８４　を参照）、圧縮手順は２つの部分に分割
できる。すなわち、１．入力シンボルのストリームおよ
び２値判断のコンテキストから一連の２値判断を発生す
るモデル・セクションと、２．所与のコンテキスト内で各判断の確率を推定し、そ
れを符号化する、アダプタ／コーダ・セクションである
。この符号化プロセスは適応的な性質であるので、所与の
判断を高い成功率で予測できる場合、その判断を行うた
めの圧縮ビットに関するコストが非常に低いという長所
がある。この技法をモデル選択に適用する場合、あるモ
デルが他のモデルに比べてはるかによく所与のデータ・
セットを圧縮するとき、良い方のモデルを使用するよう
に判断を符号化すると、圧縮されたデータ・ストリーム
に対するオーバヘッドは大して増加しない。

【０００６】”Ａｄａｐｔｉｖｅ　Ｍｏｄｅｌｓ　ｆｏ
ｒ　Ｎｏｎｓｔａｔｉｏｎａｒｙ　Ｓｏｕｒｃｅｓ”，
　ＩＢＭ　Ｉｎｔｅｒｎａｌ　Ｒｅｐｏｒｔ　ＲＪ　４
６７３，　Ａｐｒｉｌ　２４，　１９８５　で、Ｍ．　
Ｗａｘ、　Ｊ．Ｒｉｓｓａｎｅｎ　および　Ｋ．　Ｍｏ
ｈｉｕｄｄｉｎ　は、”ＡＰｒｅｄｉｃｔｉｖｅ　Ｍｉ
ｎｉｍｕｍ　Ｄｅｓｃｒｉｐｔｉｏｎ　Ｌｅｎｇｔｈ　
Ｐｒｉｎｃｉｐｌｅ”，ＩＢＭ　Ｉｎｔｅｒｎａｌ　Ｒ
ｅｓｅａｒｃｈ　Ｒｅｐｏｒｔ　ＲＪ　５００２，　Ｊ
ａｎｕａｒｙ　１９８６　（”Ｓｔｏｃｈａｓｔｉｃ　
Ｃｏｍｐｌｅｘｉｔｙ　ａｎｄ　Ｍｏｄｅｌｉｎｇ”　
として　Ａｎｎ．　ｏｆ　Ｓｔａｔｉｓｔｉｃｓ，　Ｓ
ｅｐｔｅｍｂｅｒ，　１９８６　にも掲載）に本発明の
共同発明者　Ｊ．　Ｊ．Ｒｉｓｓａｎｅｎ　が記載した
原理を、算術コーダ用の確率推定に適用している。そこ
で述べられている基本的発想は、簡単に記すと、確率の
値を複数個維持し、各シンボルを符号化する際に、その
とき最短のコード・ストリームを提供する値を選択する
というものである。本発明の好ましい実施例では、モデ
ルを算術符号化技法によって符号化する際にモデルを動
的に選択する問題に、Ｒｉｓｓａｎｅｎ　の予測的最短
記述子長（ＰＭＤＬ）原理を修正した形で適用する。具
体的に言うと、本発明は、ＰＭＤＬ原理を逆転した形で
適用し、すなわち、圧縮データの所与のブロックに送ら
れるデータ・セットの量を最大にして、２つまたはそれ
以上のモデル間で選択を行う機構を提供する。

【０００７】

【発明が解決しようとする課題】したがって、本発明の
目的は、圧縮されるデータの各セクションに対してそれ
ぞれ最適のモデルが利用されるように、様々な圧縮符号
化技法によってデータを圧縮する際に用いられる様々な
モデル間で選択を行うための、効率的な一般的技法を提
供することである。

【０００８】

【課題を解決するための手段】したがって、本発明は、
改良された符号化手順をモデル選択の概念に適用する方
法および手段を実施する。この方法および手段では、少
なくとも２つのモデルが、たとえばハードウェア実施様
態内で並列に、実行され、圧縮データの所与のセットま
たはセグメントに対して最高の符号化性能をもたらすモ
デルが使用される。より具体的には、最高の性能を決定
するために、１）２つまたはそれ以上のモデルを用いて
、比較可能なサイズのセグメントまたはブロックの圧縮
されたデータをそれぞれ生成し、２）最も多くの入力デ
ータを圧縮したモデルを選択する。これは、１）各モデ
ルを用いて所与のサイズの入力データ・セットを圧縮し
、２）圧縮された出力データのそれぞれのサイズによっ
て最適モデルを決定する、という従来技術の手法とは対
照的である。好ましい実施例では、所与のモデルを用い
て生成された判断シーケンスとモデル選択判断の両方が
、適応算術コーダを用いて、圧縮データに符号化される
。圧縮データの各セグメントまたはブロックは、現在実
行されているモデルを使用するように判断を符号化する
ことによってスタートする。各モデルは、算術コーダの
パラメータが前のブロックの終りに確立されてからスタ
ートする。最適モデルが圧縮したコード・ストリームだ
けが出力に使用される。そのコード・ストリームは、そ
のモデルを選択するためのオーバヘッドをその中に含ん
でいる。どのモデルを実行するかの判断は、所与の数の
入力シンボルを符号化した後ではなくて、圧縮されたデ
ータの定義域内で行われるので、モデル選択判断のオー
バヘッドは圧縮されたデータに比例する。どのモデルが
所与のサイズの圧縮されたブロックに対して最も多くの
入力シンボルを符号化したかに基づいて、最適モデルを
選ぶ。すなわち、競争に負けたモデルは、それだけの量
の入力データ・セットを符号化しなかったことになる。続いて選択された圧縮ブロックは、記憶または転送のた
め、入力シンボルから、圧縮データの最適な出力を生成
するために、出力コード・ストリームとしてまとめられ
る。

【０００９】本発明のもう１つの特徴は、いつ選択が行
われるか、すなわちいつブロックが完了するかを決定す
るために、入力データ・ストリーム中の特徴的な確率が
最も低いシンボル（ＬＰＳ）を使用することである。切
替えの判断は、ＬＰＳが符号化された後に始めて行われ
る。この特徴により、選択される圧縮ブロックのサイズ
がその結果わずかに変化するかもしれないが、モデル選
択の不安定性が取り除かれる。また、使用されなかった
モデル経路の統計値は、ブロックのスタート時にそのモ
デル経路が持っていた値にリセットされる。したがって
、コード・ストリームを復号するのに用いる手段は、１
パス型のデコーダである。算術符号化で使用される被加
数レジスタ内のシフト・カウントを用いて、いつブロッ
クが完了したかを決定し、そのため、ビットの詰込み（
ｓｔｕｆｆｉｎｇ）が必要なときの余分な計算が不要に
なる。

【００１０】好ましい実施例は算術符号化を対象として
いるが、本発明のモデル選択のための技法は、全く一般
的であり、２つ以上のモデルが存在するほとんどどんな
データ圧縮問題にも適用可能であり、どんな形の圧縮符
号化をも使用できる。

【００１１】

【実施例】本発明は、圧縮されるデータの各セクション
に対して最適のモデルが利用されるように、データ、好
ましくは算術符号化技法によって符号化されるデータを
圧縮するための複数のモデルのうちから選択を行う、効
率的な一般的技法を提供することを対象としている。以
下に説明する好ましい実施例のすべての特徴の意味を完
全に理解するために、「従来の技術」で述べた関係論文
を研究して、算術符号化の実施の知識を十分に習得する
ことを推奨する。また、以下の特許および特許出願は、
関連する算術符号化の具体的な改良された実施様態を教
示している。米国特許第４２８６２５６号明細書米国特許第４３６９４６３号明細書米国特許第４６３３４９０号明細書米国特許第４４６３３４２号明細書米国特許第４６５２８５６号明細書米国特許第４８９１６４３号明細書米国特許第４９０５２９７号明細書米国特許出願第１９３１７０号明細書米国特許出願第２２２３３２号明細書

【００１２】本発明で利用する算術符号化技法のあらゆ
る詳細および長所の完全な理解を助けるために、前述の
論文および特許の教示を参照により本明細書に合体する
。

【００１３】以下の本発明の好ましい実施例の特徴につ
いての以下の説明を理解するには、まず、データの圧縮
と解除を行うための算術符号化を実施する際に、たとえ
ば連続するシンボルの形の入力データ・ストリームが、
コンピュータ内部で作用を受けて判断またはデータの列
を生成し、それが記憶または転送のために圧縮されたデ
ータの出力ストリームに符号化されることを理解された
い。圧縮されたデータ・ストリームを復号すると、入力
ストリームを再生することができる。より具体的には、
この目的のために、シンボルを、何らかの物理エンティ
ティを表し、符号化アルゴリズムの１回の繰り返しで符
号化される原始データの１要素であると定義する。これ
は通常、大きな字母系から取り出される。たとえば、１
バイトのデータは、２５６個の要素を含む字母系から取
り出した１つのシンボルであり、したがってこのような
シンボルは、２５６個の値のうちのどの値をも取り得る
。物理エンティティに関連する現象または事象に基づき
、１つのモデルを用いて、シンボルのストリームから一
連の判断またはデータのストリングが生成される。事象
とは、事前には未知である結果をともなう出来事である
。モデルは判断のコンテキストを提供する。このコンテ
キストは、原始データの部分集合または他の関数から導
出され、連続するシンボルの確率分布の推定を助ける。アダプタ／コーダは、所与のコンテキストにおける、そ
れぞれの判断の確率を推定し、符号化する。算術符号化
プロセスでは、データ・ストリーム内の判断が次々に符
号化されて、前の区間に内包された、だんだん小さくな
る数直線上の区間を定義する。最初の区間は、たとえば
、０から１まででよい。それぞれの判断が符号化される
につれて、現区間は、それぞれ次の判断の起こり得る結
果の１つに対応する複数のセグメントに分割される。そ
れぞれの判断で起こり得る結果が２つだけ（すなわち、
各判断＝２値事象）の場合、現区間は、それぞれ関連す
る確率に基づく長さを有する２つのセグメントに分割さ
れる。確率は、固定されたままであっても、判断データ
が符号化されるとき適応させても良い。頻繁に発生する
シンボルに大きなセグメントを相関させると、圧縮効果
が高まる。

【００１４】具体例として、各判断の結果、事象“ａ”
（確率５０％）、事象“ｂ”（確率２５％）、事象“ｃ
”（確率１２．５％）または事象“ｄ”（確率１２．５
％）のいずれが生じる、４シンボル算術符号化の例が、
上述の論文”Ａｎ　Ｉｎｔｒｏｄｕｃｔｉｏｎｔｏ　Ａ
ｒｉｔｈｍｅｔｉｃ　Ｃｏｄｉｎｇ”　に記述されてい
る。これらの事象は、本明細書の図１に示すように数直
線上で表すことができる。図１では、これらは、０から
１までの単位区間の直線上のコード・ポイントである。単位区間は、それぞれが左端の点に対応するシンボルで
識別される４つの副区間に分割される。２進小数形式の
シンボル“ａ”に対応する副区間は０から０．１までで
あり、“ｂ”に対応するのは０．１から０．１１まで、
“ｃ”に対応するのは０．１１から０．１１１まで、“
ｄ”に対応するのは０．１１１から１．０までである。ただし、副区間はその起点を含み、終点を含まない。各
コード・ポイントの右側の副区間が、そのシンボルの確
率に対応する幅またはサイズを有することに留意された
い。たとえば、“ａ”ではそれは単位区間の１／２であ
り、“ｄ”では１／８である。また、４つの事象を２進
形式で表現するには、各判断ごとに２ビットが必要であ
る。事象はそれぞれ００、０１、１０、１１で表される
。

【００１５】符号化手法を比較すると、たとえば高い確
率を有する“ａａｂ”など３判断セットの場合、符号化
されない直接データは、００　　００　　０１となり、
６ビットが必要であることがわかる。しかし、図２に見
られるように、算術符号化手法によれば、シーケンス“
ａａｂ”を値．００１で表現することができる。手短か
に言えば、算術符号化のプロセスは以下のように進行す
る。符号化された“ａ”の副区間が（０，．１）であるとす
ると、この区間は次に、元の単位区間と同じ比率で再分
割され、その結果、２番目のシンボル“ａ”に割り当て
られる副区間は（０，．．０１）になる。次に、３番目
のシンボル“ｂ”について、副区間（０，．０１）が再
分割された結果、副区間（．００１，　．０１１）にな
る。したがって、“ａａｂ”情報は、２進形式での６ビ
ットではなく、３ビット、すなわち．００１で表現でき
る。

【００１６】このビットの保存は、比較的高い関連する
確率をもつ連続する事象が発生するときに生じる。一方
、確率が低く、線分が比較的短い事象が多数発生する場
合には、保存は悪くなる。すなわち、上述の確率の場合
、事象“ｄｄ”のシーケンスは、．１１１１１１で表さ
れる。その結果、大きなセグメントが、それに応じた高
い頻度で発生する事象に対応づけられている場合、確率
の低いシンボルに必要な追加ビットよりも、確率の高い
シンボルが発生した場合に達成される保存の方が大きく
なる。したがって、関連する確率（およびそれに対応す
るセグメント長）をそれぞれの事象の実際の確率に適度
に追随させることが重要である。

【００１７】より多くの判断データ履歴が集められるに
つれて、事象確率を推定するための様々な技法が提案さ
れてきた。確率エスティメータ（推定機能）を適応させ
るための一般的な方法が、上記の特許出願第２２２２３
２号明細書に記載されている。本発明の環境の理解を助
けるため、上記の特許出願を参照により本明細書に合体
する。前述の手短かな説明から理解されるように、区間
の境界を定めるコード・ポイントは、大きさとして取り
扱われ、その結果、区間を定義するために、左端の点Ｃ
および区間幅Ａが指定される。これら２つのパラメータ
の値は、２つのシフト・レジスタに保持され、さらに分
割を行うためにＡが利用できる符号化の間、コード・ポ
イントＣおよび利用可能な幅Ａの「現在値」を用いて繰
返し演算が開始する。この演算は、符号化されたシンボ
ルの値を利用して、ＣおよびＡの「新しい」値を決定す
る。新しい区間の左端の点は、現コード・ポイント値Ｃ
に、現区間の区間幅Ａと符号化されるシンボルｉの累積
確率Ｐｉの積を加えた和である。すなわち、新しいＣ　
　＝　　現在のＣ＋（Ａ×Ｐｉ）たとえば、“ａａ”を
符号化した後、現在のコード・ポイントＣは０であり、
区間幅Ａは０．０１である。“ａａｂ”の場合、新しい
コード・ポイントは０．００１であり、これは現在のＣ
＝０にＡとＰｉの積すなわち（０．０１×０．１００）
を加えることによって求められる。現区間の幅Ａは、そ
れまでに符号化されたデータ・シンボルの確率の積であ
る。すなわち、新しいＡ　　＝　　現在のＡ×Ｐｉただし、Ｐｉは現シンボルｉの確率である。従って、“
ａａｂ”を符号化した後、区間幅は（０．１）×（０．
１）×（０．０１）すなわち０．０００１となる。

【００１８】したがって、上述の米国特許第４９０５２
９７号明細書で開示されているような簡単な実施例では
、ある事象に対する複数の可能な確率値Ｑｅが、テーブ
ル内などで規定される。数直線区間または被加数値Ａが
定義され、各判断ごとに被加数値が減少される。被加数
値をどれだけ減少させるかは、事象に依存する。すなわ
ち、各判断の結果それぞれ、１）現推定確率がＱｅであ
る確率の低いシンボル（ＬＰＳ）、または２）確率の高
いシンボル（ＭＰＳ）のいずれかが入力される２値応用
例では、ＬＰＳが入力されると被加数値は現在のＱｅ値
に減少され、ＭＰＳが入力されると被加数値ＡはＡ−Ｑ
ｅと計算される結果となる。更新されたＡの値が所定の
最小値ＡＭＩＮ（Ｑｅの最大値よりも大きい）より小さ
い場合、更新された値は、Ａが少なくともＡＭＩＮにな
るまで（好ましくは２倍にすることによって）正規化し
直される。この同時係属の特許出願の技法の基本的な着
想は、Ａが正規化し直されるたびにＱｅの値が更新され
ることである。ＬＰＳ事象に続いて再正規化が行われる
場合、Ｑｅ値（このＬＰＳ事象の推定確率を表す）が増
加される。ＭＰＳ事象に続いて再正規化が行われる場合
は、Ｑｅ値が減少する。Ｑｅの変化を被加数値の再正規
化と連動させることによって、カウンタを必要とせずに
Ｑｅが変化する時点が容易に決定され、従来の技法とは
違って、Ｑｅ値に基づいて実際のＱｅ確率を詳細に追跡
できる。線区間または被加数値Ａは、通常はコンピュー
タ内のシフト・レジスタ（被加数レジスタまたはＡレジ
スタ）に保持されているので、再正規化は最上位の０ビ
ットをシフト・アウトすることによって実施される。

【００１９】この算術符号化の実施様態は、更新された
判断履歴に基づいて確率を適応させることに加えて、「
繰上り伝播」や「借り伝播」など、問題となる他の様態
を含んでいる。「繰上り伝播」の問題は、下記の規約に
従って、連続する判断入力でコード・ストリームＣを更
新する、第１のタイプの算術符号化エンコーダで顕著で
ある。（１）符号化中のシンボルがＬＰＳである場合、Ｃは同
じ値を保ち、新しいＡ＝Ｑｅが現区間になる。（２）符号化中のシンボルがＭＰＳである場合、ＣはＣ
＋Ｑｅに更新され、新しいＡ＝現在のＡ−Ｑｅが現区間
になる。区間Ａが小さくなり、Ｃに加えられる区間がず
っと小さくなるにつれて、Ｃの精度（すなわち、コード
・ストリームの長さ）が増加する。この精度は、符号化
のために判断データが入力される限り、際限なく増大す
る。Ｃは不定の長さ（および精度）でよいが、コード・
ストリーム情報を保持するためにコンピュータ内で利用
できるメモリは有限なので、繰上りが発生する場合に問
題が生じ得る。具体的には、コード・ストリーム値が数
百個の１のシーケンスであるのに、Ｃの最近のビットし
かシフト・レジスタ（コード・レジスタまたはＣレジス
タ）に保持されていない場合、何らかのＡをＣに加えな
ければならない場合に問題が生ずる。最近のビットしか
アクセス可能ではないので、繰上りが数百個の１ビット
に伝播することができなくなる。繰上り伝播の解決策の
１つは、ビット詰込みと称し、従来技術で既知である。従来技術のビット詰込みは、１列に並んだ所定の数の１
ビットの後に、少なくとも１つの繰上りを受けるビット
を挿入することを提案している。

【００２０】算術符号化パラメータおよびその環境に関
する前述の情報を利用して、これより本発明の好ましい
実施例の特徴を具体的に説明する。最初に、本発明によ
るモデル選択を評価する際に、好ましい手法では以下の
ステップまたは考慮を組み込んでいる。１．各モデルによって、物理的現象を表す連続するシン
ボルの入力データ・ストリームから、所与のサイズの長
さより大きいまたはそれに等しい圧縮データの新しいブ
ロックが生成されるまで、２つまたはそれ以上のモデル
を、ハードウェア実施様態内で効果的に並列に実行する
。前記シンボルは、一連の算術的に符号化された判断デ
ータまたは類似データを生成するのに用いられる。各モ
デルは、被加数（Ａ）レジスタ、コード（Ｃ）レジスタ
および以前に圧縮された算術コーダのデータを用いて、
同じ開始点からスタートする。各モデルごとに別々の統
計区域がコンピュータ内に確保される。２．モデルごとに、圧縮された各ブロックの始めに符号
化された最初の判断が、実行されているモデルを識別す
る。したがって、モデルはそれぞれ、そのモデルを選択
する判断を符号化する。モデル選択のための判断は、そ
のモデルが前のブロックで使用されたかどうかに基づい
て条件づけられる。多くの場合、これは「１次」モデル
と称する所与のモデルの継続が有利になる。３．必要なすべての再正規化を含めてシンボルの符号化
が完了した後に、圧縮データのブロックが完成したかど
うか検査する。４．２値算術符号化を使用する際、ブロックの終りかど
うか調べる検査は、確率の低いシンボル（ＬＰＳ）が符
号化または復号されたときに限って行う。この結果、圧
縮されたブロックの「所与のサイズ」は、モデルが異な
るとわずかにサイズが異なる可能性があるが、このよう
なブロックは、ほぼ同じサイズ、すなわち本発明の目的
に適合する比較可能なサイズのものになる。５．現ブロックの符号化されたデータの長さは、被加数
シフト・カウントによって決定できる。これにより、実
際に符号化されたデータ・ストリームにビットを詰め込
むことによって生じる複雑さが回避される。６．現ブロック内で最も多くの入力シンボルを圧縮した
モデルを選択する。７．最適のモデルによって生成された圧縮データ・スト
リームまたはブロックが、出力データ・ストリームに追
加され、選択されなかったモデルに関する統計が、その
ブロックの始めに有効であった値にリセットされる。ス
テップ２および７のおかげで、デコーダは、データを圧
縮解除する際に、ブロックごとに最適のモデルだけを実
行すれば十分である。したがって、エンコーダの計算労
力は、実行されるモデルの数にほぼ比例して増加するも
のの、デコーダは１パス形デコーダである。

【００２１】実験による証明２つの７画素プレディクタを２つのモデルとして用いた
符号化試験で、前述の考察は、様々な面で望ましいこと
が確認された。一方の７画素プレディクタ“Ｐｒｅｕｓ
ｓ”モデル（Ｇ．　Ｇ．　Ｌａｎｇｄｏｎ　ａｎｄ　Ｊ
．　Ｒｉｓｓａｎｅｎ，　”Ｃｏｍｐｒｅｓｓｉｏｎ　
ｏｆ　Ｂｌａｃｋ−Ｗｈｉｔｅ　Ｉｍａｇｅｓ　ｗｉｔ
ｈ　Ａｒｉｔｈｍｅｔｉｃ　Ｃｏｄｉｎｇ”，　ＩＥＥ
Ｅ　Ｔｒａｎｓ．　Ｃｏｍｍｕｎ．　Ｖｏｌ．　ＣＯＭ
−２９，ＮＯ．６，　Ｊｕｎｅ　１９８１　を参照）は
、算術符号化技法と共に用いると、標準ＣＣＩＴＴ文書
セットＣＣＩＴＴ１−ＣＣＩＴＴ８に対して優れた圧縮
を達成することがわかっている（Ｒ．　Ｈｕｎｔｅｒ　
ａｎｄ　Ａ．　Ｒｏｂｉｎｓｏｎ，　”Ｉｎｔｅｒｎａ
ｔｉｏｎａｌ　Ｄｉｇｉｔａｌ　ＦａｃｓｉｍｉｌｅＣ
ｏｄｉｎｇ　Ｓｔａｎｄａｒｄｓ”，　Ｐｒｏｃ．　Ｉ
ＥＥＥ　６８，　ＮＯ．７，　１９８０を参照）が、デ
ジタル・ハーフトーン画像ではあまりうまく働かない。もう一方の単純な水平７画素プレディクタ（すなわち、
最後の７画素）は、デジタル・ハーフトーンにはうまく
動作するが、標準ＣＣＩＴＴ画像には、“Ｐｒｅｕｓｓ
”モデルに比べてあまりうまく働かないことが判明して
いる。これら２つのモデルは、この２種類の画像に対す
る挙動がかなり異なるので、本発明のモデル選択アルゴ
リズムを実験するための優れた基礎となる。実験に使用
した算術コーダは、共同発明者　Ｗ．　Ｂ．　Ｐｅｎｎ
ｅｂａｃｋｅｒ　および　Ｊ．　Ｌ．　Ｍｉｔｃｈｅｌ
ｌ　が論文　”Ｓｏｆｔｗａｒｅ　ｉｍｐｌｅｍｅｎｔ
ａｔｉｏｎｓ　ｏｆ　ｔｈｅ　Ｑ−Ｃｏｄｅｒ”，　Ｉ
ＢＭ　Ｊ．　Ｒｅｓ．　Ｄｅｖｅｌｏｐ．，　Ｖｏｌ．
３２，　ＮＯ．６，　ｐｐ．　７５３−７７４，Ｎｏｖ
ｅｍｂｅｒ　１９８８　に記載したバージョンの「Ｑコ
ーダ」である。Ｐｒｅｕｓｓモデル・データは、Ｒ．Ｂ
．　Ａｒｐｓ　らが論文　”Ａ　ｍｕｌｔｉ−ｐｕｒｐ
ｏｓｅ　ＶＬＳＩ　ｃｈｉｐ　ｆｏｒ　ａｄａｐｔｉｖ
ｅｄａｔａ　ｃｏｍｐｒｅｓｓｉｏｎ　ｏｆｂｉｌｅｖ
ｅｌ　ｉｍａｇｅｓ”，ＩＢＭ　Ｊｏｕｒｎａｌ　ｏｆ
　Ｒｅｓｅａｒｃｈ　ａｎｄ　Ｄｅｖｅｌｏｐｍｅｎｔ
，　Ｎｏｖｅｍｂｅｒ１９８８，ｐｐ．７７５−７９５
　に記載した、７ビット・テンプレート・モデルと共に
「Ｑコーダ」を使用して開発された。

【００２２】以下の３つの表は、上に示した７つのステ
ップを用いると効率がよいことを裏付ける実験的な証拠
を与える。表した欄中、“２Ｄ”は２次元Ｐｒｅｕｓｓ
モデルを指し、“１Ｄ”は水平７画素プレディクタ・モ
デルを指す。“２Ｖ”は、２Ｄモデルが（両者の性能が
等しい場合に選択される）１次モデルとなるモデル選択
を指し、“１Ｖ”は１Ｄモデルが１次モデルとなるモデ
ル選択を指す。“１Ｖｒ”および“２Ｖｒ”は、モデル
が使用されなかった場合に統計表がリセットされること
を示す。“ｂｌｏｃｋ”（ブロック）と題した欄の“３
２”は、モデル選択が３２個（またはそれ以上）の圧縮
ビットごとに行われたことを示す。特に注記した場合を
除き、右の欄は、完全に復号可能なファイルの圧縮後の
ビット・カウントの総計である。

【００２３】表　Ｉ：〓各モデル単独の場合に関する動的モデル選択の結果を示
す試験データ。ＣＣＩＴＴ２は、ＣＣＩＴＴ文書セット
中の回路図のファクシミリ画像であり、ｂｏａｔ２ｘは
、上述の　Ｒ．　Ｂ．　Ａｒｐｓ　らの論文で図示され
考察されている、ボートの比較的小さなデジタル・ハー
フトーン画像の回転バージョンである。

【００２４】表　ＩＩ：〓ブロック・サイズの影響がないことを示す試験データ。２つのモデルを別々に実行した場合の性能データは表

【
００２５】表　ＩＩＩ：複数の試験ファイルに関する結果の一覧表。この表に引
用された数値は、すべて２Ｄモデルを１次モデルとして
用い、使用されなかったモデルの統計表をリセットした
場合のものである。

【００２６】

【００２７】＊　同じ原グレイスケール画像から５つの
技法でハーフトーン化されたファイル（９０バイト／行
）＊＊　右端に白を埋め込んで２１６バイト／行にした

【００２８】使用したＭＭＲアルゴリズムは、Ｋ．　Ｌ
．　Ａｎｄｅｒｓｏｎ，　Ｆ．　Ｃ．　Ｍｉｎｔｚｅｒ
，　Ｇ．　Ｇｏｅｒｔｚｅｌ，Ｊ．　Ｌ．　Ｍｉｔｃｈ
ｅｌｌ，　Ｋ．　Ｓ．　Ｐｅｎｎｉｎｇｔｏｎ，　ａｎ
ｄ　Ｗ．　Ｂ．Ｐｅｎｎｅｂａｋｅｒ　の論文　”Ｂｉ
ｎａｒｙ−Ｉｍａｇｅ−Ｍａｎｉｐｕｌａｔｉｏｎ　Ａ
ｌｇｏｒｉｔｈｍｓ　ｉｎ　ｔｈｅ　Ｉｍａｇｅ　Ｖｉ
ｅｗＦａｃｉｌｉｔｙ”，ｔｈｅ　ＩＢＭ　Ｊ．　Ｒｅ
ｓ．Ｄｅｖｅｌｏｐ．　Ｖｏｌ．３１，　Ｎｏ．１，　
ｐｐ．　１６−３１，　Ｊａｎｕａｒｙ　１９８７　に
記載のＣＣＩＴＴグループ４アルゴリズムの変形である
。最初の２つのハーフトーン画像は、上述の　ＩＥＥＥ
　Ｔｒａｎｓ．　Ｃｏｍｍｕｎ．　Ｖｏｌ．　ＣＯＭ−
２９，Ｎｏ．６，　Ｊｕｎｅ　１９８１　に所載の　Ｇ
．　Ｇ．　Ｌａｎｇｄｏｎ　ａｎｄ　Ｊ．　Ｒｉｓｓａ
ｎｅｎ　の論文で論じられているデジタル・ハーフトー
ン画像である。第３のハーフトーンは、Ｗ．　Ｂ．　Ｐ
ｅｎｎｅｂａｋｅｒ　ａｎｄ　Ｊ．　Ｌ．　Ｍｉｔｃｈ
ｅｌｌ　の論文”Ｐｒｏｂａｂｉｌｉｔｙ　Ｅｓｔｉｍ
ａｔｉｏｎ　ｆｏｒ　ｔｈｅ　Ｑ−Ｃｏｄｅｒ”，ＩＢ
Ｍ　Ｊ．　Ｒｅｓ．　Ｄｅｖｅｌｏｐ．，　Ｖｏｌ．３
２，　Ｎｏ．６，ｐｐ．７３７−７５２，　Ｎｏｖｅｍ
ｂｅｒ　１９８８　に記載されている。次の１０個のハ
ーフトーン画像は、それぞれ　Ｙ．　Ｃｈｅｎ，　Ｆ．
　Ｍｉｎｔｚｅｒ　ａｎｄ　Ｋ．　Ｐｅｎｎｉｎｇｔｏ
ｎ　の論文　”ＰＡＮＤＡ：Ｐｒｏｃｅｓｓｉｎｇ　Ａ
ｌｇｏｒｉｔｈｍ　ｆｏｒ　Ｎｏｎｃｏｄｅｄ　Ｄｏｃ
ｕｍｅｎｔ　Ａｃｑｕｉｓｉｔｉｏｎ”，ｔｈｅ　ＩＢ
Ｍ　Ｊ．　Ｒｅｓ．　Ｄｅｖｅｌｏｐ．　Ｖｏｌ．３１
，　Ｎｏ．１，　ｐｐ．　３２−４３，　Ｊａｎｕａｒ
ｙ　１９８７　に記載された画像の２つのバージョンで
ある。最後のハーフトーンは、Ｇ．　Ｇｏｅｒｔｚｅｌ　ａｎ
ｄ　Ｇ．　Ｒ．　Ｔｈｏｍｐｓｏｎ　　の論文　”Ｄｉ
ｇｉｔａｌ　Ｈａｌｆｔｏｎｉｎｇ　ｏｎ　ｔｈｅ　Ｉ
ＢＭ　４２５０　Ｐｒｉｎｔｅｒ”，ｔｈｅ　ＩＢＭ　
Ｊ．　Ｒｅｓ．　Ｄｅｖｅｌｏｐ．　Ｖｏｌ．　３１，
Ｎｏ．１，ｐｐ．　３２−１５，　Ｊａｎｕａｒｙ　１
９８７　の図１６である。ｔｈｅ　ＩＢＭ　Ｊ．　Ｒｅ
ｓ．　Ｄｅｖｅｌｏｐ．，　Ｎｏｖｅｍｂｅｒ　１９８
８　のｐ．７５９の表２も参照されたい。

【００２９】前述したように、モデル選択は、過去にい
くつかの異なる意味で試行されてきたが、本発明の好ま
しい技法は、多くの重要な点で従来技術を改良すること
がわかる。たとえば、１．モデル選択判断は、現在実行されているモデルを使
用するように判断を符号化することによって、圧縮デー
タの各ブロックがスタートするように、算術的に符号化
することができる。すべてのモデルは、算術コーダのパ
ラメータが前のブロックの終りに確立されてからスター
トする。最適モデルが圧縮したコード・ストリームだけ
が記憶または転送のために送られ、そのコード・ストリ
ームは、そのモデルを選択するためのオーバヘッドをそ
の中に含んでいる。２．どのモデルを実行するかの判断は、所与の数の入力
シンボルを符号化した後ではなくて、圧縮されたデータ
の定義域内で行われる。したがって、モデル選択判断の
オーバヘッドは、圧縮されたデータに比例する。どのモ
デルが所与のサイズの圧縮されたブロックに対して最も
多くの入力シンボルを符号化したかに基づいて、最適の
モデルを選択する。競争に負けたモデルは、それだけの
量の入力データ・セットを符号化しなかったことになる
。したがって、選択プロセスに要する時間に対して符号
化された入力データの量が最大になる。３．切換え、すなわち所与のサイズでブロックを終了さ
せるかどうかの判断は、確率が低いシンボル（ＬＰＳ）
が符号化された後にだけ行われる。したがって、各モデ
ルごとにブロックのサイズがわずかに変化するかもしれ
ないが、モデル選択の目的では比較可能なままである。ただし、この手法では、モデル選択の不安定性が取り除
かれる。４．使用されなかったモデル経路の統計値または推定確
率が、ブロックのスタート時にそのモデル経路が持って
いた値にリセットされる。したがって、デコーダは１パ
ス形デコーダである。５．被加数レジスタのシフト・カウントを用いて、いつ
ブロックが完了するかを決定できる。これによって、ビ
ット詰込みが必要なときの余分な計算が不要になる。

【００３０】２つの特定のモデルおよび２値算術符号化
に関して、好ましい実施例を基本的に説明し、これらを
用いて上述の実験的証明試験を行ったが、本発明のモデ
ル選択のための技法は、全く一般的であり、２つ以上の
モデルが存在するほとんどどんなデータ圧縮問題に適用
可能であり、どんな形の圧縮符号化をも使用できること
を理解されたい。

【００３１】圧縮データ・ブロックのサイズを、処理さ
れた入力データのサイズと比較し、そのモデルが入力デ
ータを引き延ばしている場合には「非圧縮」モデルに切
り換える実施例を含むことも意図されている。また、上
述したように、１次モデルは、以前に使用したモデルに
基づいて最初に使用されるモデルであり、その結果、１
次モデルともう１つのモデルの間で優劣がつかなかった
場合、１次モデルを選択してモデルの切換えを避けるこ
とが好ましい。さらにこの点に関して、圧縮データ・ブ
ロックあたりの符号化された入力シンボルの数に基づい
て、１次モデルに対する閾値を選択することができる。その場合、圧縮された入力シンボルの数が閾値を越える
限り、別のモデルは処理されない。したがって、１次モ
デルが優れた圧縮を達成しているとき、エンコーダは１
パス形エンコーダとなることができる。

【００３２】所与のモデルによって出力される圧縮デー
タの量を選択プロセスで使用する本発明の技法は、新し
い可変長コードワード・テーブルを生成するために適応
区間を決定する際の可変長符号化に適用できることも意
図されている。この場合も、選択されたモデルだけが、
その可変長コードワード・テーブルが変更される。

【００３３】好ましい実施例では、圧縮のために選択さ
れたモデルをデコーダに知らせるモデル識別子が、各ブ
ロックの始めに組み込まれる。デコーダは、受け取った
圧縮データの量に基づいて、いつ識別子を探すべきかを
知るように適合されている。また、モデル識別子の符号
化を回避するため、エンコーダおよびデコーダが、符号
化されたデータの過去の履歴を参照して、次の圧縮デー
タ・ブロックに使用されるモデルを識別することも可能
である。

【００３４】本発明は、ハードウェアおよびソフトウェ
アのいずれでも実施できることが理解されよう。前者の
場合、上述の　Ｒ．Ｂ　Ａｒｐｓ　らの論文で論じられ
たＩＢＭの適応２値画像圧縮（ＡＢＩＣ）チップなどの
タイプのＶＬＳＩチップに機能を組め込むことができる
。後者の場合、ソフトウェアを、ＩＢＭ　　Ｓ／３７０
などの汎用コンピュータ上で実行できるように適合させ
ることができる。

【００３５】

【発明の効果】本発明は、圧縮されるデータの各セクシ
ョンに対して最適のモデルが利用されるように、圧縮符
号化技法によってデータを圧縮する際に用いられる２つ
またはそれ以上のモデルの間で選択を行うための、効率
的な一般的技法を提供する。

【図面の簡単な説明】

【図１】事象ａ、ｂ、ｃおよびｄが直線上のコード・ポ
イントとして表されそれぞれの幅が推定確率に対応し、
それぞれが左端の点のシンボルで識別される４つの副区
間に分割されている、算術符号化で使用される数直線ま
たは０から１までの単位区間を示す図である。

【図２】データ・ストリング“ａａｂ”を符号化する際
の単位区間の連続する再分割を示す、図１の数直線を示
す図である。

Claims

【特許請求の範囲】

【請求項１】複数のモデルを具備し、各モデルは、入力
シンボルに応答して、モデルの特性に基づき、データ・
ストリングの形で符号化されたデータを生成するもので
あり、入力シンボルのストリームの連続する各部分をそ
れぞれ符号化するための複数のデータ圧縮モデルのうち
で最適のものを動的に選択することにより、前記ストリ
ームの圧縮を最大にするコンピュータ化された方法であ
って、前記ストリーム中の同一のシンボルから始めて、
各モデルを用いて入力シンボルのストリームからデータ
・ストリングをそれぞれ生成するステップと、前記デー
タ・ストリングを圧縮符号化して、各ブロックが比較可
能なサイズである圧縮データ・ブロックを生成するステ
ップと、入力シンボルの圧縮が最大になった圧縮データ
・ブロックを選択するステップと、選択された圧縮デー
タ・ブロックを出力データ・ストリームに加えるステッ
プと、前記選択されたモデルに入力された最後のシンボ
ルの後に続く入力シンボルから始めて、前記入力シンボ
ル・ストリームの次に続く部分について前述の諸ステッ
プを繰り返すステップとを含むことを特徴とする方法。
【請求項２】圧縮符号化ステップが算術符号化を含むこ
とを特徴とする、請求項１に記載の方法。
【請求項３】圧縮符号化ステップが２値算術符号化を含
み、前記圧縮データ・ブロックが確率の低いシンボルが
符号化された後にのみ完了することを特徴とする、請求
項１に記載の方法。
【請求項４】当該のブロックを生成するモデルを示すモ
デル識別子を、各圧縮データ・ブロックの始めに符号化
するステップと、選択された圧縮データ・ブロックを出
力データ・ストリームに加える際に、選択されたブロッ
ク用のモデル識別子をその中に含めるステップとをさら
に含むことを特徴とする、請求項１に記載の方法。
【請求項５】前記モデル識別子を、圧縮データ・ブロッ
クを復号するのに使用することを特徴とする、請求項４
に記載の方法。
【請求項６】前記当該のデータ・ストリングの過去の履
歴を用いて、次の圧縮データ・ブロックに使用されるモ
デルを識別することを特徴とする、請求項１に記載の方
法。
【請求項７】圧縮データ・ブロック当たりの符号化され
た入力シンボルの数に基づいて閾値が選択され、圧縮デ
ータ・ブロック当たりの符号化された入力シンボルの数
が前記閾値を上回る限り、次の圧縮データ・ブロックに
使用される前記モデルが使用され続け、代わりのモデル
は処理されないことを特徴とする、請求項６に記載の方
法。
【請求項８】前記圧縮データ・ブロックに推定確率値が
関連付けられ、さらに、次のブロックの生成の始めに、
選択されなかったモデルに対する推定確率値を以前の推
定値にリセットするステップを含むことを特徴とする、
請求項１に記載の方法。
【請求項９】前記モデルのうちの１つが、選択された圧
縮データ・ブロックのサイズを圧縮済みの入力シンボル
の数のサイズと比較し、両者のうちの小さい方を出力デ
ータ・ストリームに加えるべく選択することを含むこと
を特徴とする、請求項１に記載の方法。
【請求項１０】圧縮符号化ステップが可変長符号化を含
むことを特徴とする、請求項１に記載の方法。
【請求項１１】データ・シンボルのストリームの圧縮が
最大になるように、ストリーム中のデータ・シンボルを
圧縮するための複数のデータ圧縮モデルのうちの１つを
選択するための、コンピュータ化された方法であって、
各モデルについて、当該モデルを使用し、前記ストリー
ム中の同一のデータ・シンボルから始めて、形成される
圧縮データ・ブロックが比較可能なサイズになるまで、
ストリームから入力されたデータ・シンボルから圧縮デ
ータ・ブロックを形成するステップと、前記形成された
ブロックのうちからの最も多くの入力シンボルが圧縮さ
れたブロックを生成したモデルを選択するステップとを
含むことを特徴とする方法。
【請求項１２】前記圧縮データ・ブロックが、前記スト
リーム中の同一のシンボルから始めて、各モデルを用い
て入力シンボルのストリームから当該のデータ・ストリ
ングを生成するステップと、前記データ・ストリングを
圧縮符号化して、前記圧縮データ・ブロックを生成する
ステップとによって形成されることを特徴とする、請求
項１１に記載の方法
【請求項１３】確率の低いシンボルが符号化された後の
み、前記当該の圧縮データ・ブロックが完了することを
特徴とする、請求項１２に記載の方法。
【請求項１４】各モデルが入力シンボルのストリームに
応答してデータ・ストリングを生成するという、算術符
号化および復号で使用するための複数のデータ圧縮モデ
ルのうちで最適のものを動的に選択するコンピュータ化
された方法であって、前記入力シンボル・ストリーム中
の同一のシンボルから始めて、前記モデルのそれぞれを
用いて、当該のモデルに対するモデル選択判断を含む前
記入力シンボルから、当該のデータ・ストリングを生成
するステップと、前記ブロックのそれぞれが少なくとも
所与のサイズであり、所与のブロックに対する各モデル
の符号化を、同一のコード・ストリームおよび確率区間
で開始して、適応算術コーダを用いて、各モデルごとに
モデル選択判断およびデータ・ストリングを符号化して
、各モデルごとに当該の圧縮データ・ブロックを生成す
るステップと、圧縮された入力データ・シンボルの量に
基づいて、算術符号化中に生成された圧縮データ・ブロ
ックのうちから最高の符号化性能をもつモデルを選択す
るステップとを含むことを特徴とする方法。
【請求項１５】複数のモデルを具備し、各モデルは、入
力シンボルに応答して、モデルの特性に基づき、当該の
データ・ストリングの形で符号化されたデータを生成す
るものであり、入力シンボルのストリームの連続する各
部分をそれぞれ符号化するための複数のデータ圧縮モデ
ルのうちで最適のものを動的に選択することにより、前
記ストリームの圧縮を最大にするコンピュータ化された
システムであって、前記ストリーム中の同一の入力シン
ボルから始めて、前記データ圧縮モデルのそれぞれを用
いて入力シンボルのストリームからデータ・ストリング
をそれぞれ生成する手段と、前記データ・ストリングを
圧縮符号化してそれぞれ比較可能なサイズである当該の
圧縮データ・ブロックを生成する手段と、入力シンボル
の圧縮が最大になった圧縮データ・ブロックを選択する
手段と、選択された圧縮データ・ブロックを出力データ
・ストリームに加える手段と、前記選択されたモデルに
入力された最後のシンボルの後に続く入力シンボルから
始めて、前記入力ストリームのすべての部分が圧縮され
て前記出力データ・ストリームに加えられるまで、前記
入力シンボル・ストリームの次に続く部分に作用するよ
う前記の手段を作動させる手段とを含むことを特徴とす
るシステム。
【請求項１６】前記圧縮符号化手段が、前記データ・ス
トリングを算術的に符号化する手段を含むことを特徴と
する、請求項１５に記載のシステム。
【請求項１７】前記圧縮符号化手段が、前記データ・ス
トリングを可変長符号化する手段を含むことを特徴とす
る、請求項１５に記載のシステム。
【請求項１８】さらに、次のブロックの生成の開始時に
、選択されなかったモデルに対する、前記圧縮データ・
ブロックに関連する推定確率値を、前の推定値にリセッ
トする手段を含むことを特徴とする、請求項１５に記載
のシステム。
【請求項１９】データ・シンボルのストリームの圧縮が
最大になるように、ストリーム中のデータ・シンボルを
圧縮するための複数のデータ圧縮モデルのうちの１つを
選択するための、コンピュータ化されたシステムであっ
て、各モデルについて当該モデルを使用し、前記ストリ
ーム中の同一のデータ・シンボルから始めて、形成され
る圧縮データ・ブロックが比較可能なサイズになるまで
、ストリームから入力されたデータ・シンボルから圧縮
データ・ブロックを形成する手段と、前記形成されたブ
ロックのうちの最も多くの入力シンボルが圧縮されたブ
ロックを選択する手段とを含むことを特徴とするシステ
ム。
【請求項２０】各モデルが入力シンボルのストリームに
応答してデータ・ストリングを生成するという、算術符
号化および復号で使用するための複数のデータ圧縮モデ
ルのうちの１つを動的に選択するコンピュータ化された
システムであって、前記入力シンボル・ストリーム中の
同一のシンボルから始めて、前記モデルのそれぞれを用
いて、当該のモデルに対するモデル選択判断を含む前記
入力シンボルから、当該のデータ・ストリングを生成す
る手段と、前記ブロックのそれぞれが、少なくとも所与
のサイズであり、所与のブロックに対する各モデルの符
号化を、同一のコード・ストリームおよび確率区間で開
始して、各モデルごとにモデル選択判断およびデータ・
ストリングを符号化して、各モデルごとに当該の圧縮デ
ータ・ブロックを生成する適応算術コーダ手段と、圧縮
された入力データ・シンボルの量に基づいて、算術符号
化中に生成された圧縮データ・ブロックのうちから最適
の符号化性能をもつモデルを選択する手段とを含むこと
を特徴とするシステム。