JPH0793586B2 - データ圧縮モデル選択方法及びシステム - Google Patents
データ圧縮モデル選択方法及びシステムInfo
- Publication number
- JPH0793586B2 JPH0793586B2 JP3042191A JP4219191A JPH0793586B2 JP H0793586 B2 JPH0793586 B2 JP H0793586B2 JP 3042191 A JP3042191 A JP 3042191A JP 4219191 A JP4219191 A JP 4219191A JP H0793586 B2 JPH0793586 B2 JP H0793586B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- model
- stream
- compressed
- compression
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Classifications
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
- H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
- H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
- H03M7/40—Conversion to or from variable length codes, e.g. Shannon-Fano code, Huffman code, Morse code
- H03M7/4006—Conversion to or from arithmetic code
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
- H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
- H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
- H03M7/46—Conversion to or from run-length codes, i.e. by representing the number of consecutive digits, or groups of digits, of the same kind by a code word and a digit indicative of that kind
- H03M7/48—Conversion to or from run-length codes, i.e. by representing the number of consecutive digits, or groups of digits, of the same kind by a code word and a digit indicative of that kind alternating with other codes during the code conversion process, e.g. run-length coding being performed only as long as sufficientlylong runs of digits of the same kind are present
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Image Processing (AREA)
Description
【０００１】
【産業上の利用分野】本発明はデータ圧縮に関するもの
であり、より具体的には、データ・ストリームの様々な
部分の圧縮を最適化し、それによってストリーム全体の
圧縮を最適化するため、データ・ストリームの圧縮符号
化中に使用する符号化モデルを動的に選択する方法およ
び手段に関するものである。
であり、より具体的には、データ・ストリームの様々な
部分の圧縮を最適化し、それによってストリーム全体の
圧縮を最適化するため、データ・ストリームの圧縮符号
化中に使用する符号化モデルを動的に選択する方法およ
び手段に関するものである。
【０００２】
【従来の技術】データ・セットの圧縮符号化用の様々な
モデルが既知である。それらのモデルはそれぞれ、デー
タ項目またはシンボルの確率分布を推定する目的でコン
テキストを確定する。通常、２値ファクシミリ画像など
所与のエンティティを記述するモデルは、前述の画像を
表現する所与のデータ・セットに対して良好な圧縮を行
うように最適化される。この１例が周知のハフマン（Ｈ
ｕｆｆｍａｎ）符号化である。残念ながら、ある所与の
データ・セットの圧縮を最適化する画像モデルを、その
統計的特性が非常に異なる第２のデータ・セットに適用
しても、ほとんどの場合うまく働かない。その反対に第
２のデータ・セットを最もよく圧縮するよう最適化され
たモデルは、第１のデータ・セットに対してうまく働か
ないと予想される。可能なデータ・セットの全範囲で働
く単一のモデルを考案できれば望ましいが、これらのデ
ータ・セットは統計的特性がさまざまに変化するので、
全データ・セットに対して最適化された単一のモデルが
もたらす性能は、単一のデータ・セットまたはデータ・
セットの一部分に対する可能な最高の性能には及ばない
ことが示唆される。明らかに、最高の性能が実現される
のは、各データ・セットまたはその一部分の符号化中に
実際に符号化を行っている時に、最適のモデルが動的に
選択できる場合である。
モデルが既知である。それらのモデルはそれぞれ、デー
タ項目またはシンボルの確率分布を推定する目的でコン
テキストを確定する。通常、２値ファクシミリ画像など
所与のエンティティを記述するモデルは、前述の画像を
表現する所与のデータ・セットに対して良好な圧縮を行
うように最適化される。この１例が周知のハフマン（Ｈ
ｕｆｆｍａｎ）符号化である。残念ながら、ある所与の
データ・セットの圧縮を最適化する画像モデルを、その
統計的特性が非常に異なる第２のデータ・セットに適用
しても、ほとんどの場合うまく働かない。その反対に第
２のデータ・セットを最もよく圧縮するよう最適化され
たモデルは、第１のデータ・セットに対してうまく働か
ないと予想される。可能なデータ・セットの全範囲で働
く単一のモデルを考案できれば望ましいが、これらのデ
ータ・セットは統計的特性がさまざまに変化するので、
全データ・セットに対して最適化された単一のモデルが
もたらす性能は、単一のデータ・セットまたはデータ・
セットの一部分に対する可能な最高の性能には及ばない
ことが示唆される。明らかに、最高の性能が実現される
のは、各データ・セットまたはその一部分の符号化中に
実際に符号化を行っている時に、最適のモデルが動的に
選択できる場合である。
【０００３】モデル選択は従来技術で一般に使用されて
きたが、その技法は、次のいずれかであった。１．米国
特許第３３９４３５２号明細書に開示されているよう
な、データ構造から巧妙に導出された値を使用して、そ
れを効率的に単一のより複雑なモデルにする、決定論的
な技法。２．米国特許第４９０１３６３号明細書に開示
されているような、ディザ・ハーフトーン画像用の算術
符号化技法を伴う、２つの選択枝のうちの１つを使用す
るもの。３．米国特許第３８３０９６４号明細書に開示
されているような、各データ・ブロックごとに選択判断
のハフマン符号化を使用するもの。
きたが、その技法は、次のいずれかであった。１．米国
特許第３３９４３５２号明細書に開示されているよう
な、データ構造から巧妙に導出された値を使用して、そ
れを効率的に単一のより複雑なモデルにする、決定論的
な技法。２．米国特許第４９０１３６３号明細書に開示
されているような、ディザ・ハーフトーン画像用の算術
符号化技法を伴う、２つの選択枝のうちの１つを使用す
るもの。３．米国特許第３８３０９６４号明細書に開示
されているような、各データ・ブロックごとに選択判断
のハフマン符号化を使用するもの。
【０００４】第３の場合、その基礎となる発想は、同じ
入力データ・ブロックを圧縮する際に使用される２つの
異なるモデルの符号化速度を測定し、そのブロックに対
して最も効率的なモデルを選択するものである。しか
し、この従来技術および、符号化テーブルを使用する米
国特許第４７３０３４８号明細書などの関連する従来技
術では、テスト区間が常に所与のサイズの入力データ・
ブロックであり、固定式のコード割当てを使用していた
ので、この手法では、モデル選択を符号化するのに必要
なビットに関してかなりの追加コストが生じた。
入力データ・ブロックを圧縮する際に使用される２つの
異なるモデルの符号化速度を測定し、そのブロックに対
して最も効率的なモデルを選択するものである。しか
し、この従来技術および、符号化テーブルを使用する米
国特許第４７３０３４８号明細書などの関連する従来技
術では、テスト区間が常に所与のサイズの入力データ・
ブロックであり、固定式のコード割当てを使用していた
ので、この手法では、モデル選択を符号化するのに必要
なビットに関してかなりの追加コストが生じた。
【０００５】データ圧縮に算術符号化を用いる場合（G.
G. Langdon, "An Introduction toArithmetic Codin
g", IBM Journal of Research and Development, Vol.2
8, No.2, pp. 135-149, March 1984 を参照）、圧縮手
順は２つの部分に分割できる。すなわち、 １．入力シンボルのストリームおよび２値判断のコンテ
キストから一連の２値判断を発生するモデル・セクショ
ンと、 ２．所与のコンテキスト内で各判断の確率を推定し、そ
れを符号化する、アダプタ／コーダ・セクションであ
る。 この符号化プロセスは適応的な性質であるので、所与の
判断を高い成功率で予測できる場合、その判断を行うた
めの圧縮ビットに関するコストが非常に低いという長所
がある。この技法をモデル選択に適用する場合、あるモ
デルが他のモデルに比べてはるかによく所与のデータ・
セットを圧縮するとき、良い方のモデルを使用するよう
に判断を符号化すると、圧縮されたデータ・ストリーム
に対するオーバヘッドは大して増加しない。
G. Langdon, "An Introduction toArithmetic Codin
g", IBM Journal of Research and Development, Vol.2
8, No.2, pp. 135-149, March 1984 を参照）、圧縮手
順は２つの部分に分割できる。すなわち、 １．入力シンボルのストリームおよび２値判断のコンテ
キストから一連の２値判断を発生するモデル・セクショ
ンと、 ２．所与のコンテキスト内で各判断の確率を推定し、そ
れを符号化する、アダプタ／コーダ・セクションであ
る。 この符号化プロセスは適応的な性質であるので、所与の
判断を高い成功率で予測できる場合、その判断を行うた
めの圧縮ビットに関するコストが非常に低いという長所
がある。この技法をモデル選択に適用する場合、あるモ
デルが他のモデルに比べてはるかによく所与のデータ・
セットを圧縮するとき、良い方のモデルを使用するよう
に判断を符号化すると、圧縮されたデータ・ストリーム
に対するオーバヘッドは大して増加しない。
【０００６】"Adaptive Models for Nonstationary Sou
rces", IBM Internal Report RJ 4673, April 24, 1985
で、M. Wax、 J.Rissanen および K. Mohiuddin は、"A
Predictive Minimum Description Length Principle",I
BM Internal Research Report RJ 5002, January 1986
（"Stochastic Complexity and Modeling" として Ann.
of Statistics, September, 1986 にも掲載）に本発明
の共同発明者 J. J.Rissanen が記載した原理を、算術
コーダ用の確率推定に適用している。そこで述べられて
いる基本的発想は、簡単に記すと、確率の値を複数個維
持し、各シンボルを符号化する際に、そのとき最短のコ
ード・ストリームを提供する値を選択するというもので
ある。本発明の好ましい実施例では、モデルを算術符号
化技法によって符号化する際にモデルを動的に選択する
問題に、Rissanen の予測的最短記述子長（ＰＭＤＬ）
原理を修正した形で適用する。具体的に言うと、本発明
は、ＰＭＤＬ原理を逆転した形で適用し、すなわち、圧
縮データの所与のブロックに送られるデータ・セットの
量を最大にして、２つまたはそれ以上のモデル間で選択
を行う機構を提供する。
rces", IBM Internal Report RJ 4673, April 24, 1985
で、M. Wax、 J.Rissanen および K. Mohiuddin は、"A
Predictive Minimum Description Length Principle",I
BM Internal Research Report RJ 5002, January 1986
（"Stochastic Complexity and Modeling" として Ann.
of Statistics, September, 1986 にも掲載）に本発明
の共同発明者 J. J.Rissanen が記載した原理を、算術
コーダ用の確率推定に適用している。そこで述べられて
いる基本的発想は、簡単に記すと、確率の値を複数個維
持し、各シンボルを符号化する際に、そのとき最短のコ
ード・ストリームを提供する値を選択するというもので
ある。本発明の好ましい実施例では、モデルを算術符号
化技法によって符号化する際にモデルを動的に選択する
問題に、Rissanen の予測的最短記述子長（ＰＭＤＬ）
原理を修正した形で適用する。具体的に言うと、本発明
は、ＰＭＤＬ原理を逆転した形で適用し、すなわち、圧
縮データの所与のブロックに送られるデータ・セットの
量を最大にして、２つまたはそれ以上のモデル間で選択
を行う機構を提供する。
【０００７】
【発明が解決しようとする課題】したがって、本発明の
目的は、圧縮されるデータの各セクションに対してそれ
ぞれ最適のモデルが利用されるように、様々な圧縮符号
化技法によってデータを圧縮する際に用いられる様々な
モデル間で選択を行うための、効率的な一般的技法を提
供することである。
目的は、圧縮されるデータの各セクションに対してそれ
ぞれ最適のモデルが利用されるように、様々な圧縮符号
化技法によってデータを圧縮する際に用いられる様々な
モデル間で選択を行うための、効率的な一般的技法を提
供することである。
【０００８】
【課題を解決するための手段】したがって、本発明は、
改良された符号化手順をモデル選択の概念に適用する方
法および手段を実施する。この方法および手段では、少
なくとも２つのモデルが、たとえばハードウェア実施様
態内で並列に、実行され、圧縮データの所与のセットま
たはセグメントに対して最高の符号化性能をもたらすモ
デルが使用される。より具体的には、最高の性能を決定
するために、１）２つまたはそれ以上のモデルを用い
て、比較可能なサイズのセグメントまたはブロックの圧
縮されたデータをそれぞれ生成し、２）最も多くの入力
データを圧縮したモデルを選択する。これは、１）各モ
デルを用いて所与のサイズの入力データ・セットを圧縮
し、２）圧縮された出力データのそれぞれのサイズによ
って最適モデルを決定する、という従来技術の手法とは
対照的である。好ましい実施例では、所与のモデルを用
いて生成された判断シーケンスとモデル選択判断の両方
が、適応算術コーダを用いて、圧縮データに符号化され
る。圧縮データの各セグメントまたはブロックは、現在
実行されているモデルを使用するように判断を符号化す
ることによってスタートする。各モデルは、算術コーダ
のパラメータが前のブロックの終りに確立されてからス
タートする。最適モデルが圧縮したコード・ストリーム
だけが出力に使用される。そのコード・ストリームは、
そのモデルを選択するためのオーバヘッドをその中に含
んでいる。どのモデルを実行するかの判断は、所与の数
の入力シンボルを符号化した後ではなくて、圧縮された
データの定義域内で行われるので、モデル選択判断のオ
ーバヘッドは圧縮されたデータに比例する。どのモデル
が所与のサイズの圧縮されたブロックに対して最も多く
の入力シンボルを符号化したかに基づいて、最適モデル
を選ぶ。すなわち、競争に負けたモデルは、それだけの
量の入力データ・セットを符号化しなかったことにな
る。続いて選択された圧縮ブロックは、記憶または転送
のため、入力シンボルから、圧縮データの最適な出力を
生成するために、出力コード・ストリームとしてまとめ
られる。
改良された符号化手順をモデル選択の概念に適用する方
法および手段を実施する。この方法および手段では、少
なくとも２つのモデルが、たとえばハードウェア実施様
態内で並列に、実行され、圧縮データの所与のセットま
たはセグメントに対して最高の符号化性能をもたらすモ
デルが使用される。より具体的には、最高の性能を決定
するために、１）２つまたはそれ以上のモデルを用い
て、比較可能なサイズのセグメントまたはブロックの圧
縮されたデータをそれぞれ生成し、２）最も多くの入力
データを圧縮したモデルを選択する。これは、１）各モ
デルを用いて所与のサイズの入力データ・セットを圧縮
し、２）圧縮された出力データのそれぞれのサイズによ
って最適モデルを決定する、という従来技術の手法とは
対照的である。好ましい実施例では、所与のモデルを用
いて生成された判断シーケンスとモデル選択判断の両方
が、適応算術コーダを用いて、圧縮データに符号化され
る。圧縮データの各セグメントまたはブロックは、現在
実行されているモデルを使用するように判断を符号化す
ることによってスタートする。各モデルは、算術コーダ
のパラメータが前のブロックの終りに確立されてからス
タートする。最適モデルが圧縮したコード・ストリーム
だけが出力に使用される。そのコード・ストリームは、
そのモデルを選択するためのオーバヘッドをその中に含
んでいる。どのモデルを実行するかの判断は、所与の数
の入力シンボルを符号化した後ではなくて、圧縮された
データの定義域内で行われるので、モデル選択判断のオ
ーバヘッドは圧縮されたデータに比例する。どのモデル
が所与のサイズの圧縮されたブロックに対して最も多く
の入力シンボルを符号化したかに基づいて、最適モデル
を選ぶ。すなわち、競争に負けたモデルは、それだけの
量の入力データ・セットを符号化しなかったことにな
る。続いて選択された圧縮ブロックは、記憶または転送
のため、入力シンボルから、圧縮データの最適な出力を
生成するために、出力コード・ストリームとしてまとめ
られる。
【０００９】本発明のもう１つの特徴は、いつ選択が行
われるか、すなわちいつブロックが完了するかを決定す
るために、入力データ・ストリーム中の特徴的な確率が
最も低いシンボル（ＬＰＳ）を使用することである。切
替えの判断は、ＬＰＳが符号化された後に始めて行われ
る。この特徴により、選択される圧縮ブロックのサイズ
がその結果わずかに変化するかもしれないが、モデル選
択の不安定性が取り除かれる。また、使用されなかった
モデル経路の統計値は、ブロックのスタート時にそのモ
デル経路が持っていた値にリセットされる。したがっ
て、コード・ストリームを復号するのに用いる手段は、
１パス型のデコーダである。算術符号化で使用される被
加数レジスタ内のシフト・カウントを用いて、いつブロ
ックが完了したかを決定し、そのため、ビットの詰込み
（stuffing)が必要なときの余分な計算が不要になる。
われるか、すなわちいつブロックが完了するかを決定す
るために、入力データ・ストリーム中の特徴的な確率が
最も低いシンボル（ＬＰＳ）を使用することである。切
替えの判断は、ＬＰＳが符号化された後に始めて行われ
る。この特徴により、選択される圧縮ブロックのサイズ
がその結果わずかに変化するかもしれないが、モデル選
択の不安定性が取り除かれる。また、使用されなかった
モデル経路の統計値は、ブロックのスタート時にそのモ
デル経路が持っていた値にリセットされる。したがっ
て、コード・ストリームを復号するのに用いる手段は、
１パス型のデコーダである。算術符号化で使用される被
加数レジスタ内のシフト・カウントを用いて、いつブロ
ックが完了したかを決定し、そのため、ビットの詰込み
（stuffing)が必要なときの余分な計算が不要になる。
【００１０】好ましい実施例は算術符号化を対象として
いるが、本発明のモデル選択のための技法は、全く一般
的であり、２つ以上のモデルが存在するほとんどどんな
データ圧縮問題にも適用可能であり、どんな形の圧縮符
号化をも使用できる。
いるが、本発明のモデル選択のための技法は、全く一般
的であり、２つ以上のモデルが存在するほとんどどんな
データ圧縮問題にも適用可能であり、どんな形の圧縮符
号化をも使用できる。
【００１１】
【実施例】本発明は、圧縮されるデータの各セクション
に対して最適のモデルが利用されるように、データ、好
ましくは算術符号化技法によって符号化されるデータを
圧縮するための複数のモデルのうちから選択を行う、効
率的な一般的技法を提供することを対象としている。以
下に説明する好ましい実施例のすべての特徴の意味を完
全に理解するために、「従来の技術」で述べた関係論文
を研究して、算術符号化の実施の知識を十分に習得する
ことを推奨する。また、以下の特許および特許出願は、
関連する算術符号化の具体的な改良された実施様態を教
示している。 米国特許第４２８６２５６号明細書 米国特許第４３６９４６３号明細書 米国特許第４６３３４９０号明細書 米国特許第４４６３３４２号明細書 米国特許第４６５２８５６号明細書 米国特許第４８９１６４３号明細書 米国特許第４９０５２９７号明細書 米国特許出願第１９３１７０号明細書 米国特許出願第２２２３３２号明細書
に対して最適のモデルが利用されるように、データ、好
ましくは算術符号化技法によって符号化されるデータを
圧縮するための複数のモデルのうちから選択を行う、効
率的な一般的技法を提供することを対象としている。以
下に説明する好ましい実施例のすべての特徴の意味を完
全に理解するために、「従来の技術」で述べた関係論文
を研究して、算術符号化の実施の知識を十分に習得する
ことを推奨する。また、以下の特許および特許出願は、
関連する算術符号化の具体的な改良された実施様態を教
示している。 米国特許第４２８６２５６号明細書 米国特許第４３６９４６３号明細書 米国特許第４６３３４９０号明細書 米国特許第４４６３３４２号明細書 米国特許第４６５２８５６号明細書 米国特許第４８９１６４３号明細書 米国特許第４９０５２９７号明細書 米国特許出願第１９３１７０号明細書 米国特許出願第２２２３３２号明細書
【００１２】本発明で利用する算術符号化技法のあらゆ
る詳細および長所の完全な理解を助けるために、前述の
論文および特許の教示を参照により本明細書に合体す
る。
る詳細および長所の完全な理解を助けるために、前述の
論文および特許の教示を参照により本明細書に合体す
る。
【００１３】以下の本発明の好ましい実施例の特徴につ
いての以下の説明を理解するには、まず、データの圧縮
と解除を行うための算術符号化を実施する際に、たとえ
ば連続するシンボルの形の入力データ・ストリームが、
コンピュータ内部で作用を受けて判断またはデータの列
を生成し、それが記憶または転送のために圧縮されたデ
ータの出力ストリームに符号化されることを理解された
い。圧縮されたデータ・ストリームを復号すると、入力
ストリームを再生することができる。より具体的には、
この目的のために、シンボルを、何らかの物理エンティ
ティを表し、符号化アルゴリズムの１回の繰り返しで符
号化される原始データの１要素であると定義する。これ
は通常、大きな字母系から取り出される。たとえば、１
バイトのデータは、２５６個の要素を含む字母系から取
り出した１つのシンボルであり、したがってこのような
シンボルは、２５６個の値のうちのどの値をも取り得
る。物理エンティティに関連する現象または事象に基づ
き、１つのモデルを用いて、シンボルのストリームから
一連の判断またはデータのストリングが生成される。事
象とは、事前には未知である結果をともなう出来事であ
る。モデルは判断のコンテキストを提供する。このコン
テキストは、原始データの部分集合または他の関数から
導出され、連続するシンボルの確率分布の推定を助け
る。アダプタ／コーダは、所与のコンテキストにおけ
る、それぞれの判断の確率を推定し、符号化する。算術
符号化プロセスでは、データ・ストリーム内の判断が次
々に符号化されて、前の区間に内包された、だんだん小
さくなる数直線上の区間を定義する。最初の区間は、た
とえば、０から１まででよい。それぞれの判断が符号化
されるにつれて、現区間は、それぞれ次の判断の起こり
得る結果の１つに対応する複数のセグメントに分割され
る。それぞれの判断で起こり得る結果が２つだけ（すな
わち、各判断＝２値事象）の場合、現区間は、それぞれ
関連する確率に基づく長さを有する２つのセグメントに
分割される。確率は、固定されたままであっても、判断
データが符号化されるとき適応させても良い。頻繁に発
生するシンボルに大きなセグメントを相関させると、圧
縮効果が高まる。
いての以下の説明を理解するには、まず、データの圧縮
と解除を行うための算術符号化を実施する際に、たとえ
ば連続するシンボルの形の入力データ・ストリームが、
コンピュータ内部で作用を受けて判断またはデータの列
を生成し、それが記憶または転送のために圧縮されたデ
ータの出力ストリームに符号化されることを理解された
い。圧縮されたデータ・ストリームを復号すると、入力
ストリームを再生することができる。より具体的には、
この目的のために、シンボルを、何らかの物理エンティ
ティを表し、符号化アルゴリズムの１回の繰り返しで符
号化される原始データの１要素であると定義する。これ
は通常、大きな字母系から取り出される。たとえば、１
バイトのデータは、２５６個の要素を含む字母系から取
り出した１つのシンボルであり、したがってこのような
シンボルは、２５６個の値のうちのどの値をも取り得
る。物理エンティティに関連する現象または事象に基づ
き、１つのモデルを用いて、シンボルのストリームから
一連の判断またはデータのストリングが生成される。事
象とは、事前には未知である結果をともなう出来事であ
る。モデルは判断のコンテキストを提供する。このコン
テキストは、原始データの部分集合または他の関数から
導出され、連続するシンボルの確率分布の推定を助け
る。アダプタ／コーダは、所与のコンテキストにおけ
る、それぞれの判断の確率を推定し、符号化する。算術
符号化プロセスでは、データ・ストリーム内の判断が次
々に符号化されて、前の区間に内包された、だんだん小
さくなる数直線上の区間を定義する。最初の区間は、た
とえば、０から１まででよい。それぞれの判断が符号化
されるにつれて、現区間は、それぞれ次の判断の起こり
得る結果の１つに対応する複数のセグメントに分割され
る。それぞれの判断で起こり得る結果が２つだけ（すな
わち、各判断＝２値事象）の場合、現区間は、それぞれ
関連する確率に基づく長さを有する２つのセグメントに
分割される。確率は、固定されたままであっても、判断
データが符号化されるとき適応させても良い。頻繁に発
生するシンボルに大きなセグメントを相関させると、圧
縮効果が高まる。
【００１４】具体例として、各判断の結果、事象“ａ”
（確率５０％）、事象“ｂ”（確率２５％）、事象
“ｃ”（確率１２．５％）または事象“ｄ”（確率１
２．５％）のいずれが生じる、４シンボル算術符号化の
例が、上述の論文"An Introductionto Arithmetic Codi
ng" に記述されている。これらの事象は、本明細書の図
１に示すように数直線上で表すことができる。図１で
は、これらは、０から１までの単位区間の直線上のコー
ド・ポイントである。単位区間は、それぞれが左端の点
に対応するシンボルで識別される４つの副区間に分割さ
れる。２進小数形式のシンボル“ａ”に対応する副区間
は０から０.１までであり、“ｂ”に対応するのは０.１
から０.１１まで、“ｃ”に対応するのは０.１１から
０.１１１まで、“ｄ”に対応するのは０.１１１から
１.０までである。ただし、副区間はその起点を含み、
終点を含まない。各コード・ポイントの右側の副区間
が、そのシンボルの確率に対応する幅またはサイズを有
することに留意されたい。たとえば、“ａ”ではそれは
単位区間の１／２であり、“ｄ”では１／８である。ま
た、４つの事象を２進形式で表現するには、各判断ごと
に２ビットが必要である。事象はそれぞれ００、０１、
１０、１１で表される。
（確率５０％）、事象“ｂ”（確率２５％）、事象
“ｃ”（確率１２．５％）または事象“ｄ”（確率１
２．５％）のいずれが生じる、４シンボル算術符号化の
例が、上述の論文"An Introductionto Arithmetic Codi
ng" に記述されている。これらの事象は、本明細書の図
１に示すように数直線上で表すことができる。図１で
は、これらは、０から１までの単位区間の直線上のコー
ド・ポイントである。単位区間は、それぞれが左端の点
に対応するシンボルで識別される４つの副区間に分割さ
れる。２進小数形式のシンボル“ａ”に対応する副区間
は０から０.１までであり、“ｂ”に対応するのは０.１
から０.１１まで、“ｃ”に対応するのは０.１１から
０.１１１まで、“ｄ”に対応するのは０.１１１から
１.０までである。ただし、副区間はその起点を含み、
終点を含まない。各コード・ポイントの右側の副区間
が、そのシンボルの確率に対応する幅またはサイズを有
することに留意されたい。たとえば、“ａ”ではそれは
単位区間の１／２であり、“ｄ”では１／８である。ま
た、４つの事象を２進形式で表現するには、各判断ごと
に２ビットが必要である。事象はそれぞれ００、０１、
１０、１１で表される。
【００１５】符号化手法を比較すると、たとえば高い確
率を有する“ａａｂ”など３判断セットの場合、符号化
されない直接データは、００ ００ ０１となり、６ビ
ットが必要であることがわかる。しかし、図２に見られ
るように、算術符号化手法によれば、シーケンス“ａａ
ｂ”を値.００１で表現することができる。手短かに言
えば、算術符号化のプロセスは以下のように進行する。
符号化された“ａ”の副区間が（０，.１）であるとす
ると、この区間は次に、元の単位区間と同じ比率で再分
割され、その結果、２番目のシンボル“ａ”に割り当て
られる副区間は（０，..０１）になる。次に、３番目の
シンボル“ｂ”について、副区間（０，.０１）が再分
割された結果、副区間（.００１, .０１１）になる。し
たがって、“ａａｂ”情報は、２進形式での６ビットで
はなく、３ビット、すなわち.００１で表現できる。
率を有する“ａａｂ”など３判断セットの場合、符号化
されない直接データは、００ ００ ０１となり、６ビ
ットが必要であることがわかる。しかし、図２に見られ
るように、算術符号化手法によれば、シーケンス“ａａ
ｂ”を値.００１で表現することができる。手短かに言
えば、算術符号化のプロセスは以下のように進行する。
符号化された“ａ”の副区間が（０，.１）であるとす
ると、この区間は次に、元の単位区間と同じ比率で再分
割され、その結果、２番目のシンボル“ａ”に割り当て
られる副区間は（０，..０１）になる。次に、３番目の
シンボル“ｂ”について、副区間（０，.０１）が再分
割された結果、副区間（.００１, .０１１）になる。し
たがって、“ａａｂ”情報は、２進形式での６ビットで
はなく、３ビット、すなわち.００１で表現できる。
【００１６】このビットの保存は、比較的高い関連する
確率をもつ連続する事象が発生するときに生じる。一
方、確率が低く、線分が比較的短い事象が多数発生する
場合には、保存は悪くなる。すなわち、上述の確率の場
合、事象“ｄｄ”のシーケンスは、.１１１１１１で表
される。その結果、大きなセグメントが、それに応じた
高い頻度で発生する事象に対応づけられている場合、確
率の低いシンボルに必要な追加ビットよりも、確率の高
いシンボルが発生した場合に達成される保存の方が大き
くなる。したがって、関連する確率（およびそれに対応
するセグメント長）をそれぞれの事象の実際の確率に適
度に追随させることが重要である。
確率をもつ連続する事象が発生するときに生じる。一
方、確率が低く、線分が比較的短い事象が多数発生する
場合には、保存は悪くなる。すなわち、上述の確率の場
合、事象“ｄｄ”のシーケンスは、.１１１１１１で表
される。その結果、大きなセグメントが、それに応じた
高い頻度で発生する事象に対応づけられている場合、確
率の低いシンボルに必要な追加ビットよりも、確率の高
いシンボルが発生した場合に達成される保存の方が大き
くなる。したがって、関連する確率（およびそれに対応
するセグメント長）をそれぞれの事象の実際の確率に適
度に追随させることが重要である。
【００１７】より多くの判断データ履歴が集められるに
つれて、事象確率を推定するための様々な技法が提案さ
れてきた。確率エスティメータ（推定機能）を適応させ
るための一般的な方法が、上記の特許出願第２２２２３
２号明細書に記載されている。本発明の環境の理解を助
けるため、上記の特許出願を参照により本明細書に合体
する。前述の手短かな説明から理解されるように、区間
の境界を定めるコード・ポイントは、大きさとして取り
扱われ、その結果、区間を定義するために、左端の点Ｃ
および区間幅Ａが指定される。これら２つのパラメータ
の値は、２つのシフト・レジスタに保持され、さらに分
割を行うためにＡが利用できる符号化の間、コード・ポ
イントＣおよび利用可能な幅Ａの「現在値」を用いて繰
返し演算が開始する。この演算は、符号化されたシンボ
ルの値を利用して、ＣおよびＡの「新しい」値を決定す
る。新しい区間の左端の点は、現コード・ポイント値Ｃ
に、現区間の区間幅Ａと符号化されるシンボルｉの累積
確率Ｐｉの積を加えた和である。すなわち、 新しいＣ ＝ 現在のＣ＋（Ａ×Ｐｉ） たとえば、“ａａ”を符号化した後、現在のコード・ポ
イントＣは０であり、区間幅Ａは０.０１である。“ａ
ａｂ”の場合、新しいコード・ポイントは０.００１で
あり、これは現在のＣ＝０にＡとＰｉの積すなわち
（０.０１×０.１００）を加えることによって求められ
る。現区間の幅Ａは、それまでに符号化されたデータ・
シンボルの確率の積である。すなわち、 新しいＡ ＝ 現在のＡ×Ｐｉ ただし、Ｐｉは現シンボルｉの確率である。従って、
“ａａｂ”を符号化した後、区間幅は（０.１）×（０.
１）×（０.０１）すなわち０.０００１となる。
つれて、事象確率を推定するための様々な技法が提案さ
れてきた。確率エスティメータ（推定機能）を適応させ
るための一般的な方法が、上記の特許出願第２２２２３
２号明細書に記載されている。本発明の環境の理解を助
けるため、上記の特許出願を参照により本明細書に合体
する。前述の手短かな説明から理解されるように、区間
の境界を定めるコード・ポイントは、大きさとして取り
扱われ、その結果、区間を定義するために、左端の点Ｃ
および区間幅Ａが指定される。これら２つのパラメータ
の値は、２つのシフト・レジスタに保持され、さらに分
割を行うためにＡが利用できる符号化の間、コード・ポ
イントＣおよび利用可能な幅Ａの「現在値」を用いて繰
返し演算が開始する。この演算は、符号化されたシンボ
ルの値を利用して、ＣおよびＡの「新しい」値を決定す
る。新しい区間の左端の点は、現コード・ポイント値Ｃ
に、現区間の区間幅Ａと符号化されるシンボルｉの累積
確率Ｐｉの積を加えた和である。すなわち、 新しいＣ ＝ 現在のＣ＋（Ａ×Ｐｉ） たとえば、“ａａ”を符号化した後、現在のコード・ポ
イントＣは０であり、区間幅Ａは０.０１である。“ａ
ａｂ”の場合、新しいコード・ポイントは０.００１で
あり、これは現在のＣ＝０にＡとＰｉの積すなわち
（０.０１×０.１００）を加えることによって求められ
る。現区間の幅Ａは、それまでに符号化されたデータ・
シンボルの確率の積である。すなわち、 新しいＡ ＝ 現在のＡ×Ｐｉ ただし、Ｐｉは現シンボルｉの確率である。従って、
“ａａｂ”を符号化した後、区間幅は（０.１）×（０.
１）×（０.０１）すなわち０.０００１となる。
【００１８】したがって、上述の米国特許第４９０５２
９７号明細書で開示されているような簡単な実施例で
は、ある事象に対する複数の可能な確率値Ｑｅが、テー
ブル内などで規定される。数直線区間または被加数値Ａ
が定義され、各判断ごとに被加数値が減少される。被加
数値をどれだけ減少させるかは、事象に依存する。すな
わち、各判断の結果それぞれ、１）現推定確率がＱｅで
ある確率の低いシンボル（ＬＰＳ）、または２）確率の
高いシンボル（ＭＰＳ）のいずれかが入力される２値応
用例では、ＬＰＳが入力されると被加数値は現在のＱｅ
値に減少され、ＭＰＳが入力されると被加数値ＡはＡ−
Ｑｅと計算される結果となる。更新されたＡの値が所定
の最小値ＡＭＩＮ（Ｑｅの最大値よりも大きい）より小
さい場合、更新された値は、Ａが少なくともＡＭＩＮに
なるまで（好ましくは２倍にすることによって）正規化
し直される。この同時係属の特許出願の技法の基本的な
着想は、Ａが正規化し直されるたびにＱｅの値が更新さ
れることである。ＬＰＳ事象に続いて再正規化が行われ
る場合、Ｑｅ値（このＬＰＳ事象の推定確率を表す）が
増加される。ＭＰＳ事象に続いて再正規化が行われる場
合は、Ｑｅ値が減少する。Ｑｅの変化を被加数値の再正
規化と連動させることによって、カウンタを必要とせず
にＱｅが変化する時点が容易に決定され、従来の技法と
は違って、Ｑｅ値に基づいて実際のＱｅ確率を詳細に追
跡できる。線区間または被加数値Ａは、通常はコンピュ
ータ内のシフト・レジスタ（被加数レジスタまたはＡレ
ジスタ）に保持されているので、再正規化は最上位の０
ビットをシフト・アウトすることによって実施される。
９７号明細書で開示されているような簡単な実施例で
は、ある事象に対する複数の可能な確率値Ｑｅが、テー
ブル内などで規定される。数直線区間または被加数値Ａ
が定義され、各判断ごとに被加数値が減少される。被加
数値をどれだけ減少させるかは、事象に依存する。すな
わち、各判断の結果それぞれ、１）現推定確率がＱｅで
ある確率の低いシンボル（ＬＰＳ）、または２）確率の
高いシンボル（ＭＰＳ）のいずれかが入力される２値応
用例では、ＬＰＳが入力されると被加数値は現在のＱｅ
値に減少され、ＭＰＳが入力されると被加数値ＡはＡ−
Ｑｅと計算される結果となる。更新されたＡの値が所定
の最小値ＡＭＩＮ（Ｑｅの最大値よりも大きい）より小
さい場合、更新された値は、Ａが少なくともＡＭＩＮに
なるまで（好ましくは２倍にすることによって）正規化
し直される。この同時係属の特許出願の技法の基本的な
着想は、Ａが正規化し直されるたびにＱｅの値が更新さ
れることである。ＬＰＳ事象に続いて再正規化が行われ
る場合、Ｑｅ値（このＬＰＳ事象の推定確率を表す）が
増加される。ＭＰＳ事象に続いて再正規化が行われる場
合は、Ｑｅ値が減少する。Ｑｅの変化を被加数値の再正
規化と連動させることによって、カウンタを必要とせず
にＱｅが変化する時点が容易に決定され、従来の技法と
は違って、Ｑｅ値に基づいて実際のＱｅ確率を詳細に追
跡できる。線区間または被加数値Ａは、通常はコンピュ
ータ内のシフト・レジスタ（被加数レジスタまたはＡレ
ジスタ）に保持されているので、再正規化は最上位の０
ビットをシフト・アウトすることによって実施される。
【００１９】この算術符号化の実施様態は、更新された
判断履歴に基づいて確率を適応させることに加えて、
「繰上り伝播」や「借り伝播」など、問題となる他の様
態を含んでいる。「繰上り伝播」の問題は、下記の規約
に従って、連続する判断入力でコード・ストリームＣを
更新する、第１のタイプの算術符号化エンコーダで顕著
である。 （１）符号化中のシンボルがＬＰＳである場合、Ｃは同
じ値を保ち、新しいＡ＝Ｑｅが現区間になる。 （２）符号化中のシンボルがＭＰＳである場合、ＣはＣ
＋Ｑｅに更新され、新しいＡ＝現在のＡ−Ｑｅが現区間
になる。区間Ａが小さくなり、Ｃに加えられる区間がず
っと小さくなるにつれて、Ｃの精度（すなわち、コード
・ストリームの長さ）が増加する。この精度は、符号化
のために判断データが入力される限り、際限なく増大す
る。Ｃは不定の長さ（および精度）でよいが、コード・
ストリーム情報を保持するためにコンピュータ内で利用
できるメモリは有限なので、繰上りが発生する場合に問
題が生じ得る。具体的には、コード・ストリーム値が数
百個の１のシーケンスであるのに、Ｃの最近のビットし
かシフト・レジスタ（コード・レジスタまたはＣレジス
タ）に保持されていない場合、何らかのＡをＣに加えな
ければならない場合に問題が生ずる。最近のビットしか
アクセス可能ではないので、繰上りが数百個の１ビット
に伝播することができなくなる。繰上り伝播の解決策の
１つは、ビット詰込みと称し、従来技術で既知である。
従来技術のビット詰込みは、１列に並んだ所定の数の１
ビットの後に、少なくとも１つの繰上りを受けるビット
を挿入することを提案している。
判断履歴に基づいて確率を適応させることに加えて、
「繰上り伝播」や「借り伝播」など、問題となる他の様
態を含んでいる。「繰上り伝播」の問題は、下記の規約
に従って、連続する判断入力でコード・ストリームＣを
更新する、第１のタイプの算術符号化エンコーダで顕著
である。 （１）符号化中のシンボルがＬＰＳである場合、Ｃは同
じ値を保ち、新しいＡ＝Ｑｅが現区間になる。 （２）符号化中のシンボルがＭＰＳである場合、ＣはＣ
＋Ｑｅに更新され、新しいＡ＝現在のＡ−Ｑｅが現区間
になる。区間Ａが小さくなり、Ｃに加えられる区間がず
っと小さくなるにつれて、Ｃの精度（すなわち、コード
・ストリームの長さ）が増加する。この精度は、符号化
のために判断データが入力される限り、際限なく増大す
る。Ｃは不定の長さ（および精度）でよいが、コード・
ストリーム情報を保持するためにコンピュータ内で利用
できるメモリは有限なので、繰上りが発生する場合に問
題が生じ得る。具体的には、コード・ストリーム値が数
百個の１のシーケンスであるのに、Ｃの最近のビットし
かシフト・レジスタ（コード・レジスタまたはＣレジス
タ）に保持されていない場合、何らかのＡをＣに加えな
ければならない場合に問題が生ずる。最近のビットしか
アクセス可能ではないので、繰上りが数百個の１ビット
に伝播することができなくなる。繰上り伝播の解決策の
１つは、ビット詰込みと称し、従来技術で既知である。
従来技術のビット詰込みは、１列に並んだ所定の数の１
ビットの後に、少なくとも１つの繰上りを受けるビット
を挿入することを提案している。
【００２０】算術符号化パラメータおよびその環境に関
する前述の情報を利用して、これより本発明の好ましい
実施例の特徴を具体的に説明する。最初に、本発明によ
るモデル選択を評価する際に、好ましい手法では以下の
ステップまたは考慮を組み込んでいる。 １．各モデルによって、物理的現象を表す連続するシン
ボルの入力データ・ストリームから、所与のサイズの長
さより大きいまたはそれに等しい圧縮データの新しいブ
ロックが生成されるまで、２つまたはそれ以上のモデル
を、ハードウェア実施様態内で効果的に並列に実行す
る。前記シンボルは、一連の算術的に符号化された判断
データまたは類似データを生成するのに用いられる。各
モデルは、被加数（Ａ）レジスタ、コード（Ｃ）レジス
タおよび以前に圧縮された算術コーダのデータを用い
て、同じ開始点からスタートする。各モデルごとに別々
の統計区域がコンピュータ内に確保される。 ２．モデルごとに、圧縮された各ブロックの始めに符号
化された最初の判断が、実行されているモデルを識別す
る。したがって、モデルはそれぞれ、そのモデルを選択
する判断を符号化する。モデル選択のための判断は、そ
のモデルが前のブロックで使用されたかどうかに基づい
て条件づけられる。多くの場合、これは「１次」モデル
と称する所与のモデルの継続が有利になる。 ３．必要なすべての再正規化を含めてシンボルの符号化
が完了した後に、圧縮データのブロックが完成したかど
うか検査する。 ４．２値算術符号化を使用する際、ブロックの終りかど
うか調べる検査は、確率の低いシンボル（ＬＰＳ）が符
号化または復号されたときに限って行う。この結果、圧
縮されたブロックの「所与のサイズ」は、モデルが異な
るとわずかにサイズが異なる可能性があるが、このよう
なブロックは、ほぼ同じサイズ、すなわち本発明の目的
に適合する比較可能なサイズのものになる。 ５．現ブロックの符号化されたデータの長さは、被加数
シフト・カウントによって決定できる。これにより、実
際に符号化されたデータ・ストリームにビットを詰め込
むことによって生じる複雑さが回避される。 ６．現ブロック内で最も多くの入力シンボルを圧縮した
モデルを選択する。 ７．最適のモデルによって生成された圧縮データ・スト
リームまたはブロックが、出力データ・ストリームに追
加され、選択されなかったモデルに関する統計が、その
ブロックの始めに有効であった値にリセットされる。ス
テップ２および７のおかげで、デコーダは、データを圧
縮解除する際に、ブロックごとに最適のモデルだけを実
行すれば十分である。したがって、エンコーダの計算労
力は、実行されるモデルの数にほぼ比例して増加するも
のの、デコーダは１パス形デコーダである。
する前述の情報を利用して、これより本発明の好ましい
実施例の特徴を具体的に説明する。最初に、本発明によ
るモデル選択を評価する際に、好ましい手法では以下の
ステップまたは考慮を組み込んでいる。 １．各モデルによって、物理的現象を表す連続するシン
ボルの入力データ・ストリームから、所与のサイズの長
さより大きいまたはそれに等しい圧縮データの新しいブ
ロックが生成されるまで、２つまたはそれ以上のモデル
を、ハードウェア実施様態内で効果的に並列に実行す
る。前記シンボルは、一連の算術的に符号化された判断
データまたは類似データを生成するのに用いられる。各
モデルは、被加数（Ａ）レジスタ、コード（Ｃ）レジス
タおよび以前に圧縮された算術コーダのデータを用い
て、同じ開始点からスタートする。各モデルごとに別々
の統計区域がコンピュータ内に確保される。 ２．モデルごとに、圧縮された各ブロックの始めに符号
化された最初の判断が、実行されているモデルを識別す
る。したがって、モデルはそれぞれ、そのモデルを選択
する判断を符号化する。モデル選択のための判断は、そ
のモデルが前のブロックで使用されたかどうかに基づい
て条件づけられる。多くの場合、これは「１次」モデル
と称する所与のモデルの継続が有利になる。 ３．必要なすべての再正規化を含めてシンボルの符号化
が完了した後に、圧縮データのブロックが完成したかど
うか検査する。 ４．２値算術符号化を使用する際、ブロックの終りかど
うか調べる検査は、確率の低いシンボル（ＬＰＳ）が符
号化または復号されたときに限って行う。この結果、圧
縮されたブロックの「所与のサイズ」は、モデルが異な
るとわずかにサイズが異なる可能性があるが、このよう
なブロックは、ほぼ同じサイズ、すなわち本発明の目的
に適合する比較可能なサイズのものになる。 ５．現ブロックの符号化されたデータの長さは、被加数
シフト・カウントによって決定できる。これにより、実
際に符号化されたデータ・ストリームにビットを詰め込
むことによって生じる複雑さが回避される。 ６．現ブロック内で最も多くの入力シンボルを圧縮した
モデルを選択する。 ７．最適のモデルによって生成された圧縮データ・スト
リームまたはブロックが、出力データ・ストリームに追
加され、選択されなかったモデルに関する統計が、その
ブロックの始めに有効であった値にリセットされる。ス
テップ２および７のおかげで、デコーダは、データを圧
縮解除する際に、ブロックごとに最適のモデルだけを実
行すれば十分である。したがって、エンコーダの計算労
力は、実行されるモデルの数にほぼ比例して増加するも
のの、デコーダは１パス形デコーダである。
【００２１】実験による証明 ２つの７画素プレディクタを２つのモデルとして用いた
符号化試験で、前述の考察は、様々な面で望ましいこと
が確認された。一方の７画素プレディクタ“Ｐｒｅｕｓ
ｓ”モデル（G. G. Langdon and J. Rissanen, "Compre
ssion of Black-White Images with Arithmetic Codin
g", IEEE Trans. Commun. Vol. COM-29,NO.6, June 198
1 を参照）は、算術符号化技法と共に用いると、標準Ｃ
ＣＩＴＴ文書セットＣＣＩＴＴ１−ＣＣＩＴＴ８に対し
て優れた圧縮を達成することがわかっている（R. Hunte
r and A. Robinson, "International Digital Facsimil
eCoding Standards", Proc. IEEE 68, NO.7, 1980を参
照）が、デジタル・ハーフトーン画像ではあまりうまく
働かない。もう一方の単純な水平７画素プレディクタ
（すなわち、最後の７画素）は、デジタル・ハーフトー
ンにはうまく動作するが、標準ＣＣＩＴＴ画像には、
“Ｐｒｅｕｓｓ”モデルに比べてあまりうまく働かない
ことが判明している。これら２つのモデルは、この２種
類の画像に対する挙動がかなり異なるので、本発明のモ
デル選択アルゴリズムを実験するための優れた基礎とな
る。実験に使用した算術コーダは、共同発明者 W. B. P
ennebacker および J. L. Mitchell が論文 "Software
implementations of the Q-Coder", IBM J. Res. Devel
op., Vol.32, NO.6, pp. 753-774,November 1988 に記
載したバージョンの「Ｑコーダ」である。Ｐｒｅｕｓｓ
モデル・データは、R.B. Arps らが論文 "A multi-purp
ose VLSI chip for adaptivedata compression ofbilev
el images",IBM Journal of Research and Developmen
t, November1988,pp.775-795 に記載した、７ビット・
テンプレート・モデルと共に「Ｑコーダ」を使用して開
発された。
符号化試験で、前述の考察は、様々な面で望ましいこと
が確認された。一方の７画素プレディクタ“Ｐｒｅｕｓ
ｓ”モデル（G. G. Langdon and J. Rissanen, "Compre
ssion of Black-White Images with Arithmetic Codin
g", IEEE Trans. Commun. Vol. COM-29,NO.6, June 198
1 を参照）は、算術符号化技法と共に用いると、標準Ｃ
ＣＩＴＴ文書セットＣＣＩＴＴ１−ＣＣＩＴＴ８に対し
て優れた圧縮を達成することがわかっている（R. Hunte
r and A. Robinson, "International Digital Facsimil
eCoding Standards", Proc. IEEE 68, NO.7, 1980を参
照）が、デジタル・ハーフトーン画像ではあまりうまく
働かない。もう一方の単純な水平７画素プレディクタ
（すなわち、最後の７画素）は、デジタル・ハーフトー
ンにはうまく動作するが、標準ＣＣＩＴＴ画像には、
“Ｐｒｅｕｓｓ”モデルに比べてあまりうまく働かない
ことが判明している。これら２つのモデルは、この２種
類の画像に対する挙動がかなり異なるので、本発明のモ
デル選択アルゴリズムを実験するための優れた基礎とな
る。実験に使用した算術コーダは、共同発明者 W. B. P
ennebacker および J. L. Mitchell が論文 "Software
implementations of the Q-Coder", IBM J. Res. Devel
op., Vol.32, NO.6, pp. 753-774,November 1988 に記
載したバージョンの「Ｑコーダ」である。Ｐｒｅｕｓｓ
モデル・データは、R.B. Arps らが論文 "A multi-purp
ose VLSI chip for adaptivedata compression ofbilev
el images",IBM Journal of Research and Developmen
t, November1988,pp.775-795 に記載した、７ビット・
テンプレート・モデルと共に「Ｑコーダ」を使用して開
発された。
【００２２】以下の３つの表は、上に示した７つのステ
ップを用いると効率がよいことを裏付ける実験的な証拠
を与える。表した欄中、“２Ｄ”は２次元Ｐｒｅｕｓｓ
モデルを指し、“１Ｄ”は水平７画素プレディクタ・モ
デルを指す。“２Ｖ”は、２Ｄモデルが（両者の性能が
等しい場合に選択される）１次モデルとなるモデル選択
を指し、“１Ｖ”は１Ｄモデルが１次モデルとなるモデ
ル選択を指す。“１Ｖｒ”および“２Ｖｒ”は、モデル
が使用されなかった場合に統計表がリセットされること
を示す。“ｂｌｏｃｋ”（ブロック）と題した欄の“３
２”は、モデル選択が３２個（またはそれ以上）の圧縮
ビットごとに行われたことを示す。特に注記した場合を
除き、右の欄は、完全に復号可能なファイルの圧縮後の
ビット・カウントの総計である。
ップを用いると効率がよいことを裏付ける実験的な証拠
を与える。表した欄中、“２Ｄ”は２次元Ｐｒｅｕｓｓ
モデルを指し、“１Ｄ”は水平７画素プレディクタ・モ
デルを指す。“２Ｖ”は、２Ｄモデルが（両者の性能が
等しい場合に選択される）１次モデルとなるモデル選択
を指し、“１Ｖ”は１Ｄモデルが１次モデルとなるモデ
ル選択を指す。“１Ｖｒ”および“２Ｖｒ”は、モデル
が使用されなかった場合に統計表がリセットされること
を示す。“ｂｌｏｃｋ”（ブロック）と題した欄の“３
２”は、モデル選択が３２個（またはそれ以上）の圧縮
ビットごとに行われたことを示す。特に注記した場合を
除き、右の欄は、完全に復号可能なファイルの圧縮後の
ビット・カウントの総計である。
【００２３】表 I：〓 各モデル単独の場合に関する動的モデル選択の結果を示
す試験データ。ＣＣＩＴＴ２は、ＣＣＩＴＴ文書セット
中の回路図のファクシミリ画像であり、ｂｏａｔ２ｘ
は、上述の R. B. Arps らの論文で図示され考察されて
いる、ボートの比較的小さなデジタル・ハーフトーン画
像の回転バージョンである。
す試験データ。ＣＣＩＴＴ２は、ＣＣＩＴＴ文書セット
中の回路図のファクシミリ画像であり、ｂｏａｔ２ｘ
は、上述の R. B. Arps らの論文で図示され考察されて
いる、ボートの比較的小さなデジタル・ハーフトーン画
像の回転バージョンである。
【００２４】表 II：〓 ブロック・サイズの影響がないことを示す試験データ。
２つのモデルを別々に実行した場合の性能データは表
２つのモデルを別々に実行した場合の性能データは表
【００２５】表 III： 複数の試験ファイルに関する結果の一覧表。この表に引
用された数値は、すべて２Ｄモデルを１次モデルとして
用い、使用されなかったモデルの統計表をリセットした
場合のものである。
用された数値は、すべて２Ｄモデルを１次モデルとして
用い、使用されなかったモデルの統計表をリセットした
場合のものである。
【００２６】
【００２７】* 同じ原グレイスケール画像から５つの技
法でハーフトーン化されたファイル（９０バイト／行）
** 右端に白を埋め込んで２１６バイト／行にした
法でハーフトーン化されたファイル（９０バイト／行）
** 右端に白を埋め込んで２１６バイト／行にした
【００２８】使用したＭＭＲアルゴリズムは、K. L. An
derson, F. C. Mintzer, G. Goertzel,J. L. Mitchell,
K. S. Pennington, and W. B.Pennebaker の論文 "Bin
ary-Image-Manipulation Algorithms in the Image Vie
wFacility",the IBM J. Res.Develop. Vol.31, No.1, p
p. 16-31, January 1987 に記載のＣＣＩＴＴグループ
４アルゴリズムの変形である。最初の２つのハーフトー
ン画像は、上述の IEEE Trans. Commun. Vol. COM-29,N
o.6, June 1981 に所載の G. G. Langdon and J. Rissa
nen の論文で論じられているデジタル・ハーフトーン画
像である。第３のハーフトーンは、W. B. Pennebaker a
nd J. L. Mitchell の論文"Probability Estimation fo
r the Q-Coder",IBM J. Res. Develop., Vol.32, No.6,
pp.737-752, November 1988 に記載されている。次の１
０個のハーフトーン画像は、それぞれ Y. Chen, F. Min
tzer and K. Pennington の論文 "PANDA:Processing Al
gorithm for Noncoded Document Acquisition"，the IB
M J. Res. Develop. Vol.31, No.1, pp. 32-43, Januar
y 1987 に記載された画像の２つのバージョンである。
最後のハーフトーンは、G. Goertzel and G. R. Thomps
on の論文 "Digital Halftoning on the IBM 4250 Pri
nter"，the IBM J. Res. Develop. Vol. 31,No.1,pp. 3
2-15, January 1987 の図１６である。the IBM J. Res.
Develop., November 1988 のｐ．７５９の表２も参照
されたい。
derson, F. C. Mintzer, G. Goertzel,J. L. Mitchell,
K. S. Pennington, and W. B.Pennebaker の論文 "Bin
ary-Image-Manipulation Algorithms in the Image Vie
wFacility",the IBM J. Res.Develop. Vol.31, No.1, p
p. 16-31, January 1987 に記載のＣＣＩＴＴグループ
４アルゴリズムの変形である。最初の２つのハーフトー
ン画像は、上述の IEEE Trans. Commun. Vol. COM-29,N
o.6, June 1981 に所載の G. G. Langdon and J. Rissa
nen の論文で論じられているデジタル・ハーフトーン画
像である。第３のハーフトーンは、W. B. Pennebaker a
nd J. L. Mitchell の論文"Probability Estimation fo
r the Q-Coder",IBM J. Res. Develop., Vol.32, No.6,
pp.737-752, November 1988 に記載されている。次の１
０個のハーフトーン画像は、それぞれ Y. Chen, F. Min
tzer and K. Pennington の論文 "PANDA:Processing Al
gorithm for Noncoded Document Acquisition"，the IB
M J. Res. Develop. Vol.31, No.1, pp. 32-43, Januar
y 1987 に記載された画像の２つのバージョンである。
最後のハーフトーンは、G. Goertzel and G. R. Thomps
on の論文 "Digital Halftoning on the IBM 4250 Pri
nter"，the IBM J. Res. Develop. Vol. 31,No.1,pp. 3
2-15, January 1987 の図１６である。the IBM J. Res.
Develop., November 1988 のｐ．７５９の表２も参照
されたい。
【００２９】前述したように、モデル選択は、過去にい
くつかの異なる意味で試行されてきたが、本発明の好ま
しい技法は、多くの重要な点で従来技術を改良すること
がわかる。たとえば、 １．モデル選択判断は、現在実行されているモデルを使
用するように判断を符号化することによって、圧縮デー
タの各ブロックがスタートするように、算術的に符号化
することができる。すべてのモデルは、算術コーダのパ
ラメータが前のブロックの終りに確立されてからスター
トする。最適モデルが圧縮したコード・ストリームだけ
が記憶または転送のために送られ、そのコード・ストリ
ームは、そのモデルを選択するためのオーバヘッドをそ
の中に含んでいる。 ２．どのモデルを実行するかの判断は、所与の数の入力
シンボルを符号化した後ではなくて、圧縮されたデータ
の定義域内で行われる。したがって、モデル選択判断の
オーバヘッドは、圧縮されたデータに比例する。どのモ
デルが所与のサイズの圧縮されたブロックに対して最も
多くの入力シンボルを符号化したかに基づいて、最適の
モデルを選択する。競争に負けたモデルは、それだけの
量の入力データ・セットを符号化しなかったことにな
る。したがって、選択プロセスに要する時間に対して符
号化された入力データの量が最大になる。 ３．切換え、すなわち所与のサイズでブロックを終了さ
せるかどうかの判断は、確率が低いシンボル（ＬＰＳ）
が符号化された後にだけ行われる。したがって、各モデ
ルごとにブロックのサイズがわずかに変化するかもしれ
ないが、モデル選択の目的では比較可能なままである。
ただし、この手法では、モデル選択の不安定性が取り除
かれる。 ４．使用されなかったモデル経路の統計値または推定確
率が、ブロックのスタート時にそのモデル経路が持って
いた値にリセットされる。したがって、デコーダは１パ
ス形デコーダである。 ５．被加数レジスタのシフト・カウントを用いて、いつ
ブロックが完了するかを決定できる。これによって、ビ
ット詰込みが必要なときの余分な計算が不要になる。
くつかの異なる意味で試行されてきたが、本発明の好ま
しい技法は、多くの重要な点で従来技術を改良すること
がわかる。たとえば、 １．モデル選択判断は、現在実行されているモデルを使
用するように判断を符号化することによって、圧縮デー
タの各ブロックがスタートするように、算術的に符号化
することができる。すべてのモデルは、算術コーダのパ
ラメータが前のブロックの終りに確立されてからスター
トする。最適モデルが圧縮したコード・ストリームだけ
が記憶または転送のために送られ、そのコード・ストリ
ームは、そのモデルを選択するためのオーバヘッドをそ
の中に含んでいる。 ２．どのモデルを実行するかの判断は、所与の数の入力
シンボルを符号化した後ではなくて、圧縮されたデータ
の定義域内で行われる。したがって、モデル選択判断の
オーバヘッドは、圧縮されたデータに比例する。どのモ
デルが所与のサイズの圧縮されたブロックに対して最も
多くの入力シンボルを符号化したかに基づいて、最適の
モデルを選択する。競争に負けたモデルは、それだけの
量の入力データ・セットを符号化しなかったことにな
る。したがって、選択プロセスに要する時間に対して符
号化された入力データの量が最大になる。 ３．切換え、すなわち所与のサイズでブロックを終了さ
せるかどうかの判断は、確率が低いシンボル（ＬＰＳ）
が符号化された後にだけ行われる。したがって、各モデ
ルごとにブロックのサイズがわずかに変化するかもしれ
ないが、モデル選択の目的では比較可能なままである。
ただし、この手法では、モデル選択の不安定性が取り除
かれる。 ４．使用されなかったモデル経路の統計値または推定確
率が、ブロックのスタート時にそのモデル経路が持って
いた値にリセットされる。したがって、デコーダは１パ
ス形デコーダである。 ５．被加数レジスタのシフト・カウントを用いて、いつ
ブロックが完了するかを決定できる。これによって、ビ
ット詰込みが必要なときの余分な計算が不要になる。
【００３０】２つの特定のモデルおよび２値算術符号化
に関して、好ましい実施例を基本的に説明し、これらを
用いて上述の実験的証明試験を行ったが、本発明のモデ
ル選択のための技法は、全く一般的であり、２つ以上の
モデルが存在するほとんどどんなデータ圧縮問題に適用
可能であり、どんな形の圧縮符号化をも使用できること
を理解されたい。
に関して、好ましい実施例を基本的に説明し、これらを
用いて上述の実験的証明試験を行ったが、本発明のモデ
ル選択のための技法は、全く一般的であり、２つ以上の
モデルが存在するほとんどどんなデータ圧縮問題に適用
可能であり、どんな形の圧縮符号化をも使用できること
を理解されたい。
【００３１】圧縮データ・ブロックのサイズを、処理さ
れた入力データのサイズと比較し、そのモデルが入力デ
ータを引き延ばしている場合には「非圧縮」モデルに切
り換える実施例を含むことも意図されている。また、上
述したように、１次モデルは、以前に使用したモデルに
基づいて最初に使用されるモデルであり、その結果、１
次モデルともう１つのモデルの間で優劣がつかなかった
場合、１次モデルを選択してモデルの切換えを避けるこ
とが好ましい。さらにこの点に関して、圧縮データ・ブ
ロックあたりの符号化された入力シンボルの数に基づい
て、１次モデルに対する閾値を選択することができる。
その場合、圧縮された入力シンボルの数が閾値を越える
限り、別のモデルは処理されない。したがって、１次モ
デルが優れた圧縮を達成しているとき、エンコーダは１
パス形エンコーダとなることができる。
れた入力データのサイズと比較し、そのモデルが入力デ
ータを引き延ばしている場合には「非圧縮」モデルに切
り換える実施例を含むことも意図されている。また、上
述したように、１次モデルは、以前に使用したモデルに
基づいて最初に使用されるモデルであり、その結果、１
次モデルともう１つのモデルの間で優劣がつかなかった
場合、１次モデルを選択してモデルの切換えを避けるこ
とが好ましい。さらにこの点に関して、圧縮データ・ブ
ロックあたりの符号化された入力シンボルの数に基づい
て、１次モデルに対する閾値を選択することができる。
その場合、圧縮された入力シンボルの数が閾値を越える
限り、別のモデルは処理されない。したがって、１次モ
デルが優れた圧縮を達成しているとき、エンコーダは１
パス形エンコーダとなることができる。
【００３２】所与のモデルによって出力される圧縮デー
タの量を選択プロセスで使用する本発明の技法は、新し
い可変長コードワード・テーブルを生成するために適応
区間を決定する際の可変長符号化に適用できることも意
図されている。この場合も、選択されたモデルだけが、
その可変長コードワード・テーブルが変更される。
タの量を選択プロセスで使用する本発明の技法は、新し
い可変長コードワード・テーブルを生成するために適応
区間を決定する際の可変長符号化に適用できることも意
図されている。この場合も、選択されたモデルだけが、
その可変長コードワード・テーブルが変更される。
【００３３】好ましい実施例では、圧縮のために選択さ
れたモデルをデコーダに知らせるモデル識別子が、各ブ
ロックの始めに組み込まれる。デコーダは、受け取った
圧縮データの量に基づいて、いつ識別子を探すべきかを
知るように適合されている。また、モデル識別子の符号
化を回避するため、エンコーダおよびデコーダが、符号
化されたデータの過去の履歴を参照して、次の圧縮デー
タ・ブロックに使用されるモデルを識別することも可能
である。
れたモデルをデコーダに知らせるモデル識別子が、各ブ
ロックの始めに組み込まれる。デコーダは、受け取った
圧縮データの量に基づいて、いつ識別子を探すべきかを
知るように適合されている。また、モデル識別子の符号
化を回避するため、エンコーダおよびデコーダが、符号
化されたデータの過去の履歴を参照して、次の圧縮デー
タ・ブロックに使用されるモデルを識別することも可能
である。
【００３４】本発明は、ハードウェアおよびソフトウェ
アのいずれでも実施できることが理解されよう。前者の
場合、上述の R.B Arps らの論文で論じられたＩＢＭの
適応２値画像圧縮（ＡＢＩＣ）チップなどのタイプのＶ
ＬＳＩチップに機能を組め込むことができる。後者の場
合、ソフトウェアを、ＩＢＭ Ｓ／３７０などの汎用コ
ンピュータ上で実行できるように適合させることができ
る。
アのいずれでも実施できることが理解されよう。前者の
場合、上述の R.B Arps らの論文で論じられたＩＢＭの
適応２値画像圧縮（ＡＢＩＣ）チップなどのタイプのＶ
ＬＳＩチップに機能を組め込むことができる。後者の場
合、ソフトウェアを、ＩＢＭ Ｓ／３７０などの汎用コ
ンピュータ上で実行できるように適合させることができ
る。
【００３５】
【発明の効果】本発明は、圧縮されるデータの各セクシ
ョンに対して最適のモデルが利用されるように、圧縮符
号化技法によってデータを圧縮する際に用いられる２つ
またはそれ以上のモデルの間で選択を行うための、効率
的な一般的技法を提供する。
ョンに対して最適のモデルが利用されるように、圧縮符
号化技法によってデータを圧縮する際に用いられる２つ
またはそれ以上のモデルの間で選択を行うための、効率
的な一般的技法を提供する。
【図１】事象ａ、ｂ、ｃおよびｄが直線上のコード・ポ
イントとして表されそれぞれの幅が推定確率に対応し、
それぞれが左端の点のシンボルで識別される４つの副区
間に分割されている、算術符号化で使用される数直線ま
たは０から１までの単位区間を示す図である。
イントとして表されそれぞれの幅が推定確率に対応し、
それぞれが左端の点のシンボルで識別される４つの副区
間に分割されている、算術符号化で使用される数直線ま
たは０から１までの単位区間を示す図である。
【図２】データ・ストリング“ａａｂ”を符号化する際
の単位区間の連続する再分割を示す、図１の数直線を示
す図である。
の単位区間の連続する再分割を示す、図１の数直線を示
す図である。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 ジョルマ・ジョニハス・リッサネン アメリカ合衆国カリフォルニア州ロス・ガ トス、テレシタ・ウエイ 140番地 (56)参考文献 特開 平１−158825（ＪＰ，Ａ) 特開 昭62−21389（ＪＰ，Ａ) 特開 平２−34038（ＪＰ，Ａ)
Claims (12)
- 【請求項１】 各モデルが、入力シンボルに応答して、
該モデルの特性に基づき、データ・ストリングの形で符
号化されたデータを生成する複数のデータ圧縮モデルを
具備するコンピュータ・システムにおいて、 入力シンボルのストリームの連続する各部分をそれぞれ
符号化する複数のデータ圧縮モデルのうちで前記ストリ
ームの圧縮を最大にするモデルを動的に選択する方法で
あって、 前記ストリーム中の同一のシンボルから始めて、各モデ
ルを用いて入力シンボルのストリームからそれぞれのデ
ータ・ストリングを生成するステップと、予め定めたサイズの長さに等しい圧縮データ・ブロック
が生成されるまで、前記各モデルを用いて、 前記データ
・ストリングを圧縮符号化するステップと、前記各モデルによって生成された圧縮データ・ブロック
のうちから、圧縮された入力シンボルの数が 最大になっ
た圧縮データ・ブロックを選択するステップと、 選択された圧縮データ・ブロックを出力データ・ストリ
ームに加えるステップと、 前記選択されたモデルに入力された最後のシンボルの後
に続く入力シンボルから始めて、前記入力シンボル・ス
トリームの次に続く部分について前述の諸ステップを繰
り返すステップと、 を含む方法。 - 【請求項２】 圧縮符号化ステップが算術符号化を含
む、請求項１に記載の方法。 - 【請求項３】 圧縮符号化ステップが２値算術符号化を
含み、前記圧縮データ・ブロックの生成が確率の低いシ
ンボルが符号化された後にのみ完了する、請求項１に記
載の方法。 - 【請求項４】 当該のブロックを生成するモデルを示す
モデル識別子を、各圧縮データ・ブロックの始めに符号
化するステップと、 選択された圧縮データ・ブロックを出力データ・ストリ
ームに加える際に、選択されたブロック用のモデル識別
子を該出力データ・ストリームに含めるステップと、 をさらに含む、請求項１に記載の方法。 - 【請求項５】 前記モデル識別子が、圧縮データ・ブロ
ックを復号するのに使用される、請求項４に記載の方
法。 - 【請求項６】 圧縮符号化ステップが可変長符号化を含
む、請求項１に記載の方法。 - 【請求項７】 コンピュータ・システムにおいて、スト
リーム中のデータ・シンボルを圧縮する複数のデータ圧
縮モデルの中から、データ・シンボルのストリームの圧
縮を最大にするモデルを１つ選択する方法であって、前記複数のモデルの各々を使用して、 前記ストリーム中
の同一のデータ・シンボルから始めて、形成される圧縮
データ・ブロックがあらかじめ定めたサイズの長さに等
しくなるまで、前記ストリームから入力されたデータ・
シンボルから圧縮データ・ブロックを形成するステップ
と、 前記形成されたブロックのうち、最も多くの入力シンボ
ルが圧縮されたブロックを生成したモデルを選択するス
テップと、 を含む方法。 - 【請求項８】 前記圧縮データ・ブロックが、 前記ストリーム中の同一のシンボルから始めて、前記各
モデルを用いて入力シンボルのストリームから各モデル
それぞれのデータ・ストリングを生成するステップと、 前記それぞれのデータ・ストリングを圧縮符号化して、
前記圧縮データ・ブロックを生成するステップと、 によって形成される、請求項７に記載の方法 - 【請求項９】 各モデルが、入力シンボルに応答して、
該モデルの特性に基づき、データ・ストリングの形で符
号化されたデータを生成する複数のデータ圧縮モデルを
具備し、前記入力シンボルのストリームの連続する各部
分をそれぞれ符号化する複数のデータ圧縮モデルのうち
で前記ストリームの圧縮を最大にするモデルを動的に選
択するためのコンピュータ・システムであって、 前記ストリーム中の同一のシンボルから始めて、前記各
モデルを用いて入力シンボルのストリームからそれぞれ
のデータ・ストリングを生成する手段と、予め定めたサイズの長さに等しい圧縮データ・ブロック
が生成されるまで、前記各モデルを用いて、 前記データ
・ストリングを圧縮符号化する手段と、前記各モデルによって生成された圧縮データ・ブロック
のうちから、圧縮された入力シンボルの数が 最大になっ
た圧縮データ・ブロックを選択する手段と、 選択された圧縮データ・ブロックを出力データ・ストリ
ームに加える手段と、 前記選択されたモデルに入力された最後のシンボルの後
に続く入力シンボルから始めて、前記入力ストリームの
すべての部分が圧縮されて前記出力データ・ストリーム
に加えられるまで、前記入力シンボル・ストリームの次
に続く部分に作用するよう前記の手段を作動させる手段
と、 を有するコンピュータ・システム。 - 【請求項１０】 前記圧縮符号化手段が、前記データ・
ストリングを算術的に符号化する手段を含む、請求項９
に記載のコンピュータ・システム。 - 【請求項１１】 前記圧縮符号化手段が、前記データ・
ストリングを可変長符号化する手段を含む、請求項９に
記載のコンピュータ・システム。 - 【請求項１２】 ストリーム中のデータ・シンボルを圧
縮する複数のデータ圧縮モデルの中から、データ・シン
ボルのストリームの圧縮を最大にするモデルを１つ選択
するためのコンピュータ・システムであって、前記複数のモデルの各々を使用して、 前記ストリーム中
の同一のデータ・シンボルから始めて、形成される圧縮
データ・ブロックがあらかじめ定めたサイズの長さに等
しくなるまで、前記ストリームから入力されたデータ・
シンボルから圧縮データ・ブロックを形成する手段と、 前記形成されたブロックのうち、最も多くの入力シンボ
ルが圧縮されたブロックを選択する手段と、 を有するコンピュータ・システム。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US07/502,909 US5045852A (en) | 1990-03-30 | 1990-03-30 | Dynamic model selection during data compression |
| US502909 | 1990-03-30 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH04223717A JPH04223717A (ja) | 1992-08-13 |
| JPH0793586B2 true JPH0793586B2 (ja) | 1995-10-09 |
Family
ID=23999919
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP3042191A Expired - Lifetime JPH0793586B2 (ja) | 1990-03-30 | 1991-02-15 | データ圧縮モデル選択方法及びシステム |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US5045852A (ja) |
| EP (1) | EP0448802A3 (ja) |
| JP (1) | JPH0793586B2 (ja) |
Families Citing this family (90)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CA2065578C (en) * | 1991-04-22 | 1999-02-23 | David W. Carr | Packet-based data compression method |
| JP3123792B2 (ja) * | 1991-11-05 | 2001-01-15 | 株式会社リコー | 算術符号を用いる符号化装置および復号化装置 |
| EP0574167B1 (en) * | 1992-06-09 | 2007-02-28 | Canon Kabushiki Kaisha | Coding apparatus |
| US5272478A (en) * | 1992-08-17 | 1993-12-21 | Ricoh Corporation | Method and apparatus for entropy coding |
| US5424732A (en) * | 1992-12-04 | 1995-06-13 | International Business Machines Corporation | Transmission compatibility using custom compression method and hardware |
| US5323155A (en) * | 1992-12-04 | 1994-06-21 | International Business Machines Corporation | Semi-static data compression/expansion method |
| US5467087A (en) * | 1992-12-18 | 1995-11-14 | Apple Computer, Inc. | High speed lossless data compression system |
| US5602976A (en) * | 1993-02-23 | 1997-02-11 | Adobe Systems Incorporated | Method and apparatus for saving printer memory |
| US5640551A (en) * | 1993-04-14 | 1997-06-17 | Apple Computer, Inc. | Efficient high speed trie search process |
| JPH07205496A (ja) * | 1994-01-14 | 1995-08-08 | Oki Electric Ind Co Ltd | ページプリンタ及びデータ圧縮方法 |
| JP3274284B2 (ja) * | 1994-08-08 | 2002-04-15 | キヤノン株式会社 | 符号化装置およびその方法 |
| CA2156889C (en) * | 1994-09-30 | 1999-11-02 | Edward L. Schwartz | Method and apparatus for encoding and decoding data |
| KR960015195A (ko) * | 1994-10-31 | 1996-05-22 | 배순훈 | 트리 구조 이원 연산 코딩 장치 |
| US5684478A (en) * | 1994-12-06 | 1997-11-04 | Cennoid Technologies, Inc. | Method and apparatus for adaptive data compression |
| US5654702A (en) * | 1994-12-16 | 1997-08-05 | National Semiconductor Corp. | Syntax-based arithmetic coding for low bit rate videophone |
| JPH0969951A (ja) * | 1995-06-20 | 1997-03-11 | Ricoh Co Ltd | 符号化方法及び復号化方法 |
| US6021433A (en) * | 1996-01-26 | 2000-02-01 | Wireless Internet, Inc. | System and method for transmission of data |
| US7035914B1 (en) | 1996-01-26 | 2006-04-25 | Simpleair Holdings, Inc. | System and method for transmission of data |
| BR9702155A (pt) * | 1996-03-15 | 1999-07-20 | Philips Electronics Nv | Processo de codificar blocos de sinais de informação e aparelho para formar blocos de sinal de informação codificados |
| JP3267504B2 (ja) * | 1996-03-26 | 2002-03-18 | 富士通株式会社 | データ圧縮装置およびデータ復元装置 |
| US6188795B1 (en) | 1996-06-13 | 2001-02-13 | Dublin City University | Data compression |
| EP0820149A3 (de) * | 1996-07-16 | 2000-10-04 | Connect Plus Ingenieurgesellschaft für Datentechnik mbH | Verfahren zur zeitoptimierten Datenübertragung zwischen mindestens einem Sender und mindestens einem Empfänger |
| DE19630127C1 (de) * | 1996-07-25 | 1998-01-08 | Connect Plus Ingenieurgesellsc | Verfahren zur zeitoptimierten Datenübertragung zwischen mindestens einem Sender und mindestens einem Empfänger |
| US6236365B1 (en) | 1996-09-09 | 2001-05-22 | Tracbeam, Llc | Location of a mobile station using a plurality of commercial wireless infrastructures |
| US7714778B2 (en) | 1997-08-20 | 2010-05-11 | Tracbeam Llc | Wireless location gateway and applications therefor |
| US7274332B1 (en) | 1996-09-09 | 2007-09-25 | Tracbeam Llc | Multiple evaluators for evaluation of a purality of conditions |
| US9134398B2 (en) | 1996-09-09 | 2015-09-15 | Tracbeam Llc | Wireless location using network centric location estimators |
| GB2337386B (en) | 1996-09-09 | 2001-04-04 | Dennis J Dupray | Location of a mobile station |
| US7903029B2 (en) | 1996-09-09 | 2011-03-08 | Tracbeam Llc | Wireless location routing applications and architecture therefor |
| US5912636A (en) * | 1996-09-26 | 1999-06-15 | Ricoh Company, Ltd. | Apparatus and method for performing m-ary finite state machine entropy coding |
| US6094453A (en) * | 1996-10-11 | 2000-07-25 | Digital Accelerator Corporation | Digital data compression with quad-tree coding of header file |
| ATE246858T1 (de) * | 1996-11-11 | 2003-08-15 | Koninkl Philips Electronics Nv | Datenkompression und -dekompression durch rice- kodierer/-dekodierer |
| US6167426A (en) | 1996-11-15 | 2000-12-26 | Wireless Internet, Inc. | Contact alerts for unconnected users |
| EP1359755B1 (en) * | 1996-12-20 | 2005-11-09 | Koninklijke Philips Electronics N.V. | A coded information signal |
| US5880688A (en) * | 1997-04-09 | 1999-03-09 | Hewlett-Packard Company | Arithmetic coding context model that adapts to the amount of data |
| US5886655A (en) * | 1997-04-09 | 1999-03-23 | Hewlett-Packard Company | Arithmetic coding context model that accelerates adaptation for small amounts of data |
| AU757819B2 (en) * | 1997-06-19 | 2003-03-06 | Electronics For Imaging, Inc. | Method and apparatus for data compression |
| US6757440B2 (en) | 1997-06-19 | 2004-06-29 | Electronics For Imaging, Inc. | Methods and apparatus for data compression |
| US6757436B2 (en) * | 1997-06-19 | 2004-06-29 | Electroncs For Imaging, Inc. | Methods and apparatus for data compression based on modeling schemes |
| US6230200B1 (en) * | 1997-09-08 | 2001-05-08 | Emc Corporation | Dynamic modeling for resource allocation in a file server |
| KR100281321B1 (ko) * | 1998-03-26 | 2001-02-01 | 전주범 | 적응적인 산술 부호화 및 그 복호화 방법 |
| US8135413B2 (en) | 1998-11-24 | 2012-03-13 | Tracbeam Llc | Platform and applications for wireless location and other complex services |
| US6195024B1 (en) | 1998-12-11 | 2001-02-27 | Realtime Data, Llc | Content independent data compression method and system |
| US6624761B2 (en) | 1998-12-11 | 2003-09-23 | Realtime Data, Llc | Content independent data compression method and system |
| US6442680B1 (en) * | 1999-01-29 | 2002-08-27 | International Business Machines Corporation | Method and system for compressing reduced instruction set computer (RISC) executable code |
| US6583887B1 (en) * | 1999-02-26 | 2003-06-24 | Hewlett-Packard Development Company, L.P. | Method and apparatus for data compression |
| US6604158B1 (en) | 1999-03-11 | 2003-08-05 | Realtime Data, Llc | System and methods for accelerated data storage and retrieval |
| US6601104B1 (en) | 1999-03-11 | 2003-07-29 | Realtime Data Llc | System and methods for accelerated data storage and retrieval |
| US6611213B1 (en) * | 1999-03-22 | 2003-08-26 | Lucent Technologies Inc. | Method and apparatus for data compression using fingerprinting |
| DE19914645A1 (de) * | 1999-03-31 | 2000-10-26 | Bosch Gmbh Robert | Verfahren und Vorrichtung zur Codierung/Decodierung |
| US6304833B1 (en) * | 1999-04-27 | 2001-10-16 | The United States Of America As Represented By The Secretary Of The Navy | Hypothesis selection for evidential reasoning systems |
| WO2002000316A1 (en) | 1999-09-24 | 2002-01-03 | Goldberg Sheldon F | Geographically constrained network services |
| US6748457B2 (en) | 2000-02-03 | 2004-06-08 | Realtime Data, Llc | Data storewidth accelerator |
| US20030191876A1 (en) | 2000-02-03 | 2003-10-09 | Fallon James J. | Data storewidth accelerator |
| US10641861B2 (en) | 2000-06-02 | 2020-05-05 | Dennis J. Dupray | Services and applications for a communications network |
| US9875492B2 (en) | 2001-05-22 | 2018-01-23 | Dennis J. Dupray | Real estate transaction system |
| US10684350B2 (en) | 2000-06-02 | 2020-06-16 | Tracbeam Llc | Services and applications for a communications network |
| US9143546B2 (en) | 2000-10-03 | 2015-09-22 | Realtime Data Llc | System and method for data feed acceleration and encryption |
| US7417568B2 (en) | 2000-10-03 | 2008-08-26 | Realtime Data Llc | System and method for data feed acceleration and encryption |
| US8692695B2 (en) | 2000-10-03 | 2014-04-08 | Realtime Data, Llc | Methods for encoding and decoding data |
| US6731229B2 (en) | 2001-02-09 | 2004-05-04 | International Business Machines Corporation | Method to reduce storage requirements when storing semi-redundant information in a database |
| US7386046B2 (en) | 2001-02-13 | 2008-06-10 | Realtime Data Llc | Bandwidth sensitive data compression and decompression |
| US20020118885A1 (en) * | 2001-02-27 | 2002-08-29 | Bernard Smeets | Font compression and retrieval |
| US8082096B2 (en) | 2001-05-22 | 2011-12-20 | Tracbeam Llc | Wireless location routing applications and architecture therefor |
| GB2381606A (en) * | 2001-10-31 | 2003-05-07 | Hewlett Packard Co | Data compression, storage and analysis |
| US7903892B2 (en) * | 2002-10-29 | 2011-03-08 | Ati Technologies Ulc | Image analysis for image compression suitability and real-time selection |
| US8111928B2 (en) * | 2003-02-13 | 2012-02-07 | Ati Technologies Ulc | Method and apparatus for compression of multi-sampled anti-aliasing color data |
| US7643679B2 (en) | 2003-02-13 | 2010-01-05 | Ati Technologies Ulc | Method and apparatus for block based image compression with multiple non-uniform block encodings |
| US7764833B2 (en) * | 2003-02-13 | 2010-07-27 | Ati Technologies Ulc | Method and apparatus for anti-aliasing using floating point subpixel color values and compression of same |
| US7161507B2 (en) * | 2004-08-20 | 2007-01-09 | 1St Works Corporation | Fast, practically optimal entropy coding |
| US7420992B1 (en) | 2005-03-17 | 2008-09-02 | Packeteer, Inc. | Adaptive network traffic compression mechanism including dynamic selection of compression algorithms |
| US7606429B2 (en) * | 2005-03-25 | 2009-10-20 | Ati Technologies Ulc | Block-based image compression method and apparatus |
| WO2007002468A2 (en) * | 2005-06-23 | 2007-01-04 | 1Stworks Corporation | Modeling for enumerative encoding |
| US7649909B1 (en) | 2006-06-30 | 2010-01-19 | Packeteer, Inc. | Adaptive tunnel transport protocol |
| EP2153610A4 (en) * | 2007-06-01 | 2010-09-15 | Research In Motion Ltd | INTERACTIVE COMPRESSION WITH SEVERAL UNITS OF COMPRESSION STATUS INFORMATION |
| US7616132B2 (en) * | 2007-07-19 | 2009-11-10 | Research In Motion Limited | Method and system for reducing contexts for context based compression systems |
| EP2261859A1 (en) * | 2009-06-10 | 2010-12-15 | Thomson Licensing | Method for encoding/decoding a 3D mesh model that comprises one or more components |
| EP2449683A1 (en) | 2009-07-01 | 2012-05-09 | Thomson Licensing | Methods for arithmetic coding and decoding |
| US9214042B2 (en) | 2010-01-25 | 2015-12-15 | Thomson Licensing | Method for encoding normals of a 3D mesh model, method for decoding normals of a 3D mesh model, encoder and decoder |
| US9538493B2 (en) | 2010-08-23 | 2017-01-03 | Finetrak, Llc | Locating a mobile station and applications therefor |
| US20130054836A1 (en) * | 2011-08-24 | 2013-02-28 | Raphael Linus Levien | System and Method for Improved Compression with Arithmetic Encoding by Shared Initial |
| US8779950B2 (en) | 2012-03-05 | 2014-07-15 | Dcba, Llc | Command encoded data compression |
| CN102684703A (zh) * | 2012-04-26 | 2012-09-19 | 北京师范大学 | 一种高效的数字高程模型数据无损压缩的方法 |
| US9305368B2 (en) * | 2013-06-21 | 2016-04-05 | Intel Corporation | Compression and decompression of graphics data using pixel region bit values |
| US10147046B2 (en) * | 2014-10-30 | 2018-12-04 | International Business Machines Corporation | System and methodology to handle misdirected input data during multi partitioned real time analytics |
| US9736081B2 (en) | 2015-06-04 | 2017-08-15 | At&T Intellectual Property I, L.P. | Apparatus and method to improve compression and storage data |
| US10419772B2 (en) * | 2015-10-28 | 2019-09-17 | Qualcomm Incorporated | Parallel arithmetic coding techniques |
| US9952771B1 (en) * | 2016-03-31 | 2018-04-24 | EMC IP Holding Company LLC | Method and system for choosing an optimal compression algorithm |
| US10387991B2 (en) | 2016-07-01 | 2019-08-20 | Intel Corporation | Method and apparatus for frame buffer compression |
| US11281641B1 (en) | 2017-05-23 | 2022-03-22 | Amazon Technologies, Inc. | Evaluating encoding history for late encoding binding of data |
Family Cites Families (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US3394352A (en) * | 1965-07-22 | 1968-07-23 | Electronic Image Systems Corp | Method of and apparatus for code communication |
| US4286256A (en) * | 1979-11-28 | 1981-08-25 | International Business Machines Corporation | Method and means for arithmetic coding utilizing a reduced number of operations |
| US4646061A (en) * | 1985-03-13 | 1987-02-24 | Racal Data Communications Inc. | Data communication with modified Huffman coding |
| JPS6221389A (ja) * | 1985-07-19 | 1987-01-29 | Matsushita Electric Ind Co Ltd | ブロツク符号化装置 |
| US4905297A (en) * | 1986-09-15 | 1990-02-27 | International Business Machines Corporation | Arithmetic coding encoder and decoder system |
| US4891643A (en) * | 1986-09-15 | 1990-01-02 | International Business Machines Corporation | Arithmetic coding data compression/de-compression by selectively employed, diverse arithmetic coding encoders and decoders |
| US4730348A (en) * | 1986-09-19 | 1988-03-08 | Adaptive Computer Technologies | Adaptive data compression system |
| JPH01158825A (ja) * | 1987-12-16 | 1989-06-21 | Fujitsu Ltd | 適応型符号化制御方式 |
| JPH0234038A (ja) * | 1988-07-23 | 1990-02-05 | Hitachi Ltd | データ圧縮装置 |
| US4929946A (en) * | 1989-02-09 | 1990-05-29 | Storage Technology Corporation | Adaptive data compression apparatus including run length encoding for a tape drive system |
-
1990
- 1990-03-30 US US07/502,909 patent/US5045852A/en not_active Expired - Fee Related
- 1990-12-13 EP EP19900124057 patent/EP0448802A3/en not_active Ceased
-
1991
- 1991-02-15 JP JP3042191A patent/JPH0793586B2/ja not_active Expired - Lifetime
Also Published As
| Publication number | Publication date |
|---|---|
| EP0448802A2 (en) | 1991-10-02 |
| US5045852A (en) | 1991-09-03 |
| JPH04223717A (ja) | 1992-08-13 |
| EP0448802A3 (en) | 1992-01-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JPH0793586B2 (ja) | データ圧縮モデル選択方法及びシステム | |
| US10045034B2 (en) | System and method for using pattern vectors for video and image coding and decoding | |
| US4905297A (en) | Arithmetic coding encoder and decoder system | |
| US6054943A (en) | Multilevel digital information compression based on lawrence algorithm | |
| US5363099A (en) | Method and apparatus for entropy coding | |
| KR100648258B1 (ko) | 고속의 디코딩을 수행하는 파이프라인 구조의 내용 기반적응적 이진 산술 디코더 | |
| US6677869B2 (en) | Arithmetic coding apparatus and image processing apparatus | |
| US6567562B1 (en) | Encoding apparatus and method | |
| US5959560A (en) | Data compression via alphabet partitioning and group partitioning | |
| US20180124430A1 (en) | Method for Producing Video Coding and Programme-Product | |
| EP0982949A2 (en) | Image processing apparatus and method | |
| JPH0695645B2 (ja) | 符号化装置および符号化方法ならびに復号化装置および復号化方法 | |
| WO1997034375A1 (en) | Method for reducing storage requirements for digital data | |
| JPH0744462B2 (ja) | 圧縮符号化方法及び復号方法 | |
| US6919826B1 (en) | Systems and methods for efficient and compact encoding | |
| CN115882866A (zh) | 一种基于数据差值特征的数据压缩方法 | |
| US6055273A (en) | Data encoding and decoding method and device of a multiple-valued information source | |
| JP2954438B2 (ja) | 符号化装置 | |
| US7209593B2 (en) | Apparatus, method, and programs for arithmetic encoding and decoding | |
| Ahmadvand et al. | A new pipelined architecture for JPEG2000 MQ-coder | |
| KR100462789B1 (ko) | 이진 산술 부호화를 이용한 다중 부호 데이터 압축 방법및 장치 | |
| JPH07249995A (ja) | データ符号化装置 | |
| JP3127513B2 (ja) | 符号化装置 | |
| JPH0936749A (ja) | 符号化復号化装置およびこれに用いられる符号化方法 | |
| JP3708744B2 (ja) | 適応確率推定方法、適応符号化方法、適応復号方法、適応確率推定装置、適応符号化装置及び適応復号装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080901 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090901 Year of fee payment: 9 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100901 Year of fee payment: 10 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100901 Year of fee payment: 10 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110901 Year of fee payment: 11 |
|
| EXPY | Cancellation because of completion of term | ||
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110901 Year of fee payment: 11 |