JPS62104224A - 可変長符号化方式 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 （技術分野） 本発明は、多量のデータの処理に適した可変長符号化方
式に関するものである。

（従来技術と問題点） 符号化しようとする情報源に含まれる情報源要素のそれ
ぞれの出現確率に片寄りがある場合には、符号化効率を
高めるうえで、固定長符号化よりも可変長符号化の方が
有利である。可変長符号化とは、出現確率の高い情報源
要素には短い符号語を割り当て、出現確率の低い情報源
要素には長い符号語をυｊり当てて符号化効率を高める
ものであり、この種の符号としてハフマン（Ｈｕｆｍａ
ｎ）の符号構成法やファン　（Ｆ　ａｎｏ）の符号構成
法が広く知られている。

これらの符号構成法は、符号化しようとする情報源に含
まれるすべての情報源要素についてその出現確率を求め
、この分布より情報源要素と符号語との対応を示す符号
化テーブルを作成し、この作成された符号化テーブルを
用いて情報源を符号化するものである。

その際、符号化効率を高めるうえでは、平均符号長を最
小化することは重要であるが、同時に、一定速度で符号
を伝送するための符号化出力の時間的な平滑化も重要で
ある。この場合、一般にはバッファメモリが使用される
が、発生する符号語どうしが独立ならば、メモリ内の記
憶情報量の平均および分散は、符号長の平均および分散
により時間に比例して増大する。従って、バッファメモ
リのメモリ容量の増大防止およびメモリオーバーフロ一
対策から、符号長の分散を最小にすることには注意が向
けられていなかった。

（発明の目的） 本発明は、パンツアメモリ容量の増大防止の観点から、
従来考慮されてなかった符号長の分散に着目し、生成さ
れる符号長の分散を最小に、かつ平均符号長を最小とす
る可変長符号を得ることのできる可変長符号化器を提供
することを目的とする。

本発明は符号化しようとする情報源に含まれる情報源要
素のそれぞれの出現確率を予め求め、その出現確率の分
布から作成される符号化テーブルを用いて出現確率の高
い情報源要素には短い符号語を割当て、出現確率の低い
情報源要素には長い符号語を割り当てる可変符号化方式
において、入力された情報源要素を出現確率の高い順に
並べる入力部と、出現確率の下位２個の要素に対して符
号を割り当てる符号割り当て部と、該下位２個の要素を
その出現確率の和を出現確率をする新しい要素に縮退し
た後、該縮退要素が同じ出現確率を有する要素群の最高
位になるように再度出現確率の高い順に並びかえる分布
縮退手段とを有し、情報源要素が２個になるまで符号割
り当て操作と分布縮退操作を繰り返し、この後縮退操作
の経緯をたどって前記符号を連結することにより前記情
報源要素に対する符号語を作成し、該情報源と符号語の
対応を前記テーブルの内容とすることを特徴とするもの
である。

（発明の原理） 以下、本発明の詳細な説明する。なお、情報源要素の出
現確率から平均符号長を最小とする符号語を算出する符
号構成法としては、前述のハフマンの符号構成法を用い
て説明する。

（ｉ）　　　情報源要素の数をＭとすると、Ｍ個の情報
源要素を発生確率ＰＫの高い順に並べ、これらの情報源
要素の集合をｇとする。

＆　＝　（Ｓ　、Ｓ　ｇ、−−−−一・、ＳＮ）　　　
　　（１）Ｐ＋≧Ｐ２≧−・・・・−・−≧Ｐ　Ｍ　　
　　　（２）（ｉｉ）　　　情報源要素５Ｎ−１＋ＳＮ
をまとめ、縮退された情報源要素Ｓ′、、とし、同時に
Ｐ’、４−１４−１＝Ｐ＋ｐ、ｌとする。この時、情報
源要素の数はＭ−１個に縮退される。（縮退ステップ） （ｉｉ）　　　（ｉｌと（ｉｉｌを繰り返し、最終的に
縮退された情報源要素の数を２個にする。

（ｉｖ）　　　（ｉｉ）の縮退ステップを逆にたどり、
各ステップの下位２つの情報源要素にＯ，ｌを割り当て
る。その際、ステップｎ　（ｎ　＝１．２．−−−Ｍ−
２）におけるｉ番目の情報源要素をＳｌ、確率をＭ　−
ｎ　）とすると、ステップ（ｎ−１）の下位２つの情報
源要素とステップｎの縮退された情報となる関係を満た
すように、ｉを選択する。すなわち、等確率の情報源要
素の符号長が等しくなるように縮退光を決めてゆくので
ある。

上に述べた手順で構成される２元ハフマン符号は以下の
定理により、最小の符号長分散値をもつこ゛とが示され
る。

定理：　ハフマン符号の構成において、縮退された情報
源５（ｎ）に対して、ある符号構成が最小の符号長分散
値を有するならば、情報源Ｓ（ト）の符号構成において
、式（３）の条件が満たされていればその符号構成が最
小の符号長分散値を有する。

以下にこれを説明する。

今、縮退された情報源５ｉｎ＋　に対する符号が最小の
分散値Ｖ（”）を有するとし、この符号をＣ（Ｉｌｌと
する。この時、ハフマンの符号化による情報源６（ｎ−
１＋の符号をＣ”−”　１分散値をｙ（ｎ−１＋とする
。ｌ５（１１−１１の情報源要素の中の下位２つの情報
源要素が５ｆｎｌ　の１つの情報源要素に縮退されるよ
り情報源要素ＳＪが作られるとし、それらの符この時、
次式が成立する。

また、分散値ｙ　（ｎ−１１、ｙ　ｆｎｌは、各々の情
報源での平均符号長Ｉ　Ｔｎ−１１，１ｆｎｌおよび式
（４）を用いて以下の関係で表せる。

Ｖｌｎ−１＋＋（１（ｒ＋−１１）！　＝ｙ（ｎｌ　＋
（Ａ　ｆｎ）　）２ここで、ハフマン符号という前提よ
り、各ステップでの平均符号長ｚ＋ｎ−１１と、２（ｎ
ｌは最小であるから、式（５）において■３°−“ゝが
最小になるのは　Ｔが最小になる場合である。従って、
式（３）の条件を満たす場合、ｌｌ’１−１１は最小で
あることが証明された。

ここで、最終的な縮退情報源は情報源要素が２個であり
符号長の分散値は最小である。従って、上述の定理を用
い、元の情報源の符号長の分散値は最小であることが帰
納的に示される。

（実施例） 以下に、２元符号を使用する場合を例にして本発明の一
実施例を説明する。第１図は符号化器の構成を示す。入
力された情報は、入力部に一端蓄積されるとともに、情
報源要素が抽出され、この情報源要素は符号割り当て部
２へ出力される。符号割り当て部２においては、最下位
２個の要素に符号０．１を割り当てる。

次に、分布縮退部３において、最下位２個の要素をまと
めて１個の要素に縮退し、その２個の要素の出現確率の
和をその新要素の出現確率とする。

このとき縮退された要素の数が２個より多ければ、情報
源要素を出現確率の高い順に並べ替え、符号割り当て部
２へ入力し、符号割り当ておよび分布縮退操作処理を繰
り返す。このとき、縮退要素と等しい確率をもつ要素群
の中の最高位の要素とするように、縮退の前の各要素か
ら縮退後の各要素への有向対応表を作成し、保持してお
く。

分布縮退部３において、情報源要素の数が２個になると
、符号語出力部４に有向対応表を出力し、符号語出力部
４において有向対応表を逆にたどり、各要素に割り当て
られた符号を、ＭＳＢからＬＳＢの向きに読んだ符号語
として出力する。

この符号語は、符号化テーブル５に情報源要素と対応付
けられて書き込まれ、符号化部６は、入力部１より情報
を逐次読み出し、符号化テーブル５を参照しつつ符号化
し出力する。

以下に表２中の情報源要素Ｓ　１　、−−−−−−−、
　Ｓ　５に対する符号語が作成される過程を第２図のフ
ロー図に従って詳細に説明する。

表　　１ 表２　ハフマン符号の生成法の原理 ＭＳＢ 要素ＳＬ、−・−・、Ｓ５は出現確率が高い順になって
いるので入力部１において出現確率の順位並べ替え（１
１）は終了しているものとする。

符号割り当て部２においては入力部１から出力された情
報源要素の順位の最下位の要素２個（要素Ｓ４．Ｓ５）
に符号０．１を割り当てる（２１）。次に、分布縮退部
３において、要素Ｓ４．Ｓ５をまとめて新しい要素とし
、その出現確率を要素Ｓ４と８５の出現確率の和０．２
とする（３１）。次に、各要素を出現確率の高い順に並
べ替え、縮退要素と等しい確率をもつ要素群の中の最高
位の要素とするように、縮退前の各要素から縮退後の各
要素への有向対応表を作成して保持（３２）　Ｌ、要素
の数が２個になっていなければ（３３）、各要素を符号
割り当て部２へ出力し、要素の数が２個であれば（３３
）、符号語出力部４へ有向対応表を出力し、縮退に関す
る有向対応表を逆にたどり、各要素に割り当てられた符
号を、ＭＳＢからＬＳＢへと読んだ符号語として出力（
４１）Ｌ、終了（４２）とする。なお、表２において、
括弧内は縮退要素である。

（発明の効果） 表３に符号長の分散を最小化した符号語（ｂ）と従来の
符号語（ａｌとの比較を示す。この比較によれば、平均
符号長１は共に３．４２で同じであるが最大符号長は１
シンボル短縮され、分散■は０．２９小さくなっており
、本発明が可変長符号化方式として優れていることがわ
かる。

表３　符号長の分散が異なるハフマン符号の比較ｎ＝３
．４２　　　　　Ａ＝３．４２ Ｖ＝１．３３　　　　　Ｖ＝１．０４ 最大符号長＝６　最大符号長−５

【図面の簡単な説明】

第１図は本発明の実施例を示すブロック図、第２図は本
発明による符号構成の動作を説明するためのフロー図で
ある。

Claims (1)

【特許請求の範囲】
1. 符号化しようとする情報源に含まれる情報源要素のそれ
   ぞれの出現確率を予め求め、その出現確率の分布から作
   成される符号化テーブルを用いて出現確率の高い情報源
   要素には短い符号語を割当て、出現確率の低い情報源要
   素には長い符号語を割り当てる可変符号化方式において
   、入力された情報源要素を出現確率の高い順に並べる入
   力部と、出現確率の下位２個の要素に対して符号を割り
   当てる符号割り当て部と、該下位２個の要素をその出現
   確率の和を出現確率をする新しい要素に縮退した後、該
   縮退要素が同じ出現確率を有する要素群の最高位になる
   ように再度出現確率の高い順に並びかえる分布縮退手段
   とを有し、情報源要素が２個になるまで符号割り当て操
   作と分布縮退操作を繰り返し、この後縮退操作の経緯を
   たどって前記符号を連結することにより前記情報源要素
   に対する符号語を作成し、該情報源と符号語の対応を前
   記テーブルの内容とすることを特徴とする可変長符号化
   方式。