JP3264626B2 - ベクトル量子化装置 - Google Patents

ベクトル量子化装置

Info

Publication number
JP3264626B2
JP3264626B2 JP21962396A JP21962396A JP3264626B2 JP 3264626 B2 JP3264626 B2 JP 3264626B2 JP 21962396 A JP21962396 A JP 21962396A JP 21962396 A JP21962396 A JP 21962396A JP 3264626 B2 JP3264626 B2 JP 3264626B2
Authority
JP
Japan
Prior art keywords
codeword
state
markov model
vector
codebook
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP21962396A
Other languages
English (en)
Other versions
JPH1063299A (ja
Inventor
崎 正 米
野 清 宏 鹿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP21962396A priority Critical patent/JP3264626B2/ja
Publication of JPH1063299A publication Critical patent/JPH1063299A/ja
Application granted granted Critical
Publication of JP3264626B2 publication Critical patent/JP3264626B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Transmission Systems Not Characterized By The Medium Used For Transmission (AREA)

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、ディジタル電話や
ディジタル録音器で必要な音声情報圧縮分野において使
用されるベクトル量子化装置に関するものである。
【0002】
【従来の技術】従来、ベクトル量子化装置は文献「Alle
n Gersho and Robert M.Grey,VectorQuantization and
Signal Compression, Kluwer Academic Publishers,Cha
pter14 pp.519-553 」に記載されたものが知られてい
る。図7は従来のベクトル量子化装置の構成を示してお
り、501 は入力されたベクトルと最も近い符号語を符号
帳505 から選択し、その符号語番号を出力するベクトル
量子化器である。502 は状態更新器で、ベクトル量子化
器501 で得られた符号語番号に基づき、マルコフモデル
503 の状態を更新する。マルコフモデル503 は、信号源
の統計モデルである。504 は符号帳選択器で、マルコフ
モデル503 の状態に応じて、次に使用する符号帳を選択
する。505 は符号帳で、マルコフモデル503 の全ての状
態に対応して複数の符号帳を蓄積している。506 は符号
化器で、符号語番号を伝送路上の符号へ変換する。以上
が符号化側(a)の構成である。
【0003】次に復号側(b)の構成を示す。507 は復
号器で、符号化側(a)から伝送された符号を符号語番
号へ変換する。508 はベクトル再生器で、符号語番号を
符号帳512 を用いて符号語へ変換し、出力ベクトルを得
る。509 は状態更新器で、復号した符号語に基づき、マ
ルコフモデル510 の状態を更新する。マルコフモデル51
0 は、符号化側のマルコフモデル503 と同じ構造を有し
ている。511 は符号帳選択器で、マルコフモデル510 の
状態に応じて、次に使用する符号帳を選択する。512 は
符号帳で、符号化側の符号帳505 と同じ符号語を有し、
マルコフモデル510 の状態に対応して複数の符号帳を蓄
積している。
【0004】以上のように構成されたベクトル量子化装
置について、以下、図8および図9を用いてその動作を
説明する。図8は4状態のマルコフモデルである。マル
コフモデルは、信号源の統計モデルであり、一つの信号
源の状態に対して一つの状態( 図8の○印) が対応して
いる。図8の各状態間を結ぶ矢は符号帳505 の符号語に
対応しており、状態が決定すると、その状態を起点とす
る矢に対応する符号語の集合として符号帳は一意に決定
する。図9は4状態マルコフモデルの状態遷移を図解し
たものである。図9の太線はマルコフモデルの状態遷移
を表している。図9では時刻(t−1)においてマルコ
フモデルの状態は状態1である。このとき、状態1を起
点とする実線の矢に対応した符号語が符号帳505 とな
る。従って符号化側(a)では、入力されたベクトル
は、ベクトル量子化器501 により、上記符号帳505 の符
号語の中で最も近い符号語に量子化される。状態更新器
502 では、得られた符号語に対応する状態間の矢に従っ
て、マルコフモデルの状態を更新する( 図9の時刻t、
状態3)。符号帳選択器504 では、更新されたマルコフ
モデルの状態( 図9では状態3)を起点とする矢( 図9
では実線の矢) に対応する符号語を符号帳505 の中から
選択する。これが次時刻tにおけるベクトル量子化のた
めの符号帳となる。ベクトル量子化器501 で得られた符
号語は、符号化器506 で符号帳505 を基に符号化され、
復号側(b)へ伝送される。
【0005】一方、復号側(b)では、伝送された符号
は復号器507 で復号されて符号語となる。ベクトル再生
器508 では、この符号語を出力ベクトルとして出力す
る。状態更新器509 、マルコフモデル510 、符号帳選択
器511 、符号帳512 は、符号化側(a)と同じもので、
符号化側と同じ動作で、マルコフモデル510 の状態を更
新し、次時刻で用いる符号帳を決定する。以上が従来の
ベクトル量子化装置の動作である。
【0006】
【発明が解決しようとする課題】このようなベクトル量
子化装置においては、符号化効率が良く、伝送誤りに対
して耐性がある構成が要求されている。効率が良いベク
トル量子化を実現するためには、信号源を精度良くモデ
ル化することが必要である。しかしながら、上記のよう
な従来のベクトル量子化装置では、信号源の状態とマル
コフモデルの状態が一対一に対応しているため、信号源
を精度良くモデル化するためには莫大な状態数が必要と
なり、非現実的なシステム規模が要求されるという問題
があった。また、前時刻で伝送された符号を利用して現
時刻の符号帳を決定するため、伝送路での符号誤りに対
して弱い量子化系であるという問題があった。
【0007】本発明は、このようなベクトル量子化装置
において、高符号化効率を実現し、伝送路誤りに対して
強い耐性を有するベクトル量子化装置を提供することを
目的とする。
【0008】
【課題を解決するための手段】上記目的を達成するため
に、本発明は、信号源を隠れマルコフモデルでモデル化
し、エントロピー符号化を用いて符号化および復号する
ように構成したものである。これにより、少ない状態数
で高精度な信号源モデルを構築することができるので、
信号源の状態に適合した符号系を構成することができ、
情報を効率良く圧縮することができるとともに、誤りの
伝搬を分散させることで、伝送路誤りに対して耐性の強
いベクトル量子化装置を実現することができる。
【0009】
【発明の実施の形態】本発明の請求項1に記載の発明
は、符号化側に、あらかじめ学習によって得られるベク
トルである符号語を蓄積している符号帳と、入力された
ベクトルに最も近い符号語を選択し、その符号語番号を
出力するベクトル量子化器と、入力ベクトル系列を生成
する信号源をモデル化した隠れマルコフモデルと、選択
された符号語番号に基づき隠れマルコフモデルの状態を
更新する状態分布更新器と、隠れマルコフモデルの状態
に基づき符号帳の全符号語の出力確率を算出する符号語
生起確率算出器と、ベクトル量子化器で選択された符号
語番号を全符号語の出力確率に基づきエントロピー符号
化するエントロピー符号化器とを備え、復号側に、符号
化側と同じ符号語を蓄積している符号帳と、符号化側か
ら伝送される符号を符号語生起確率算出器で算出される
全符号語の出力確率に基づき復号し、符号語番号を求め
るエントロピー復号器と、符号化側と同じ構造の隠れマ
ルコフモデルと、復号された符号語番号に基づき隠れマ
ルコフモデルの状態を更新する状態分布更新器と、隠れ
マルコフモデルの状態に基づき符号帳の全符号語の出力
確率を算出する符号語生起確率算出器と、復号された符
号語番号から符号帳を使って符号語を再現するベクトル
再生器とを備えたベクトル量子化装置であり、隠れマル
コフモデルで信号源をモデル化し、モデルに基づいてエ
ントロピー符号化系を構成することにより、少ない状態
数で精度良くモデル化した信号源のモデルに基づいて効
率良い符号系を構成することができ、また、隠れマルコ
フモデルでは信号源の状態を確率分布として表現してい
るため、誤りの伝搬を分散させることができるので、誤
り耐性の強いベクトル量子化系を構成することができ
る。
【0010】本発明の請求項2に記載の発明は、請求項
1の構成に加え、符号化側および復号側双方に、隠れマ
ルコフモデルの状態数を制限する状態分布制約器を備え
たものであり、隠れマルコフモデルの状態数を制限する
ことにより、伝送路誤りに対する耐性を強化することが
できる。
【0011】本発明の請求項3に記載の発明は、請求項
1の構成に加え、符号化側および復号側双方に、符号語
の生起確率分布数を制限する符号語生起確率制約器を備
えたものであり、符号語生起確率の取り得る確率分布数
を制限することにより、伝送路誤りに対する耐性を強化
することができる。
【0012】本発明の請求項4に記載の発明は、請求項
3における符号語生起確率制約器の構成として、符号語
の生起確率の降順に符号語を並べ換える確率降順並べ換
え器と、並べ換えた確率を量子化する確率量子化器と、
確率降順並べ換え器で行なった並べ換えの規則を記憶し
ておく符号語番号制御器と、符号語番号制御器に従って
量子化した確率を元の符号語番号順に並べ換える符号語
番号並べ換え器とを備えたものであり、これにより、符
号語生起確率制約器の規模を小さく押えたまま自由度の
大きなシステムを構築することが可能となり、情報圧縮
効率を劣化させることなく伝送路誤りに対する耐性を強
化することができる。
【0013】本発明の請求項5に記載の発明は、請求項
1から4までのいずれかに記載のベクトル量子化装置を
ソフトウェアで実現し、そのプログラムを記録した記録
媒体を使用するベクトル量子化装置であり、例えば、そ
のプログラムをROMや磁気ディスク等の記録媒体に記
憶させることにより、パーソナルコンピュータ等の汎用
信号処理装置上で本発明を実現することができる。
【0014】以下、本発明の実施の形態について、図1
から図6を用いて説明する。 (実施の形態1)図1は本発明の請求項1に対応する第
1の実施の形態におけるベクトル量子化装置の構成を示
すものである。図1において、101 は入力されたベクト
ルを符号帳102 の中で最も近い符号語の番号へ変換する
ベクトル量子化器である。102 は符号帳で、符号語を蓄
積している。103 は状態分布更新器で、変換された符号
語番号に基づき隠れマルコフモデル104 の状態を更新す
る。隠れマルコフモデル104 は信号源をモデル化したも
のである。105 は符号語生起確率算出器で、符号帳102
の全符号語の出力確率を算出する。106 はエントロピー
符号化器で、ベクトル量子化器101 で選択された符号語
を全符号語の出力確率に基づきエントロピー符号化す
る。以上が符号化側(a)である。復号側(b)におい
て、107 はエントロピー復号器で、符号化側(a)で得
られた符号を符号語生起確率算出器108で算出される全
符号語の出力確率に基づき復号し、符号語番号を得る。
108 は符号語生起確率算出器で、隠れマルコフモデル10
9 の状態に基づき符号帳111 の全符号語の出力確率を算
出する。109 は隠れマルコフモデルで、符号化側の隠れ
マルコフモデル104 と同じ構成を有している。110 は状
態分布更新器で、復号された符号語番号に基づき隠れマ
ルコフモデル109 の状態を更新する。111 は符号帳で、
符号化側の符号帳102 と同じものである。112 はベクト
ル再生器で、符号語番号からベクトルを再現する。
【0015】以上のように構成されたベクトル量子化装
置について、まず、隠れマルコフモデルについて説明す
る。図5は4状態隠れマルコフモデルを摸式的に示す。
隠れマルコフモデルは、統計モデルであるマルコフモデ
ルに確率的要素を加えたもので、図5の{a 1i|i=1,2,
3,4 }は状態1から状態iへ遷移する確率、{ck |k
は符号語番号}はその遷移で符号語ck を出力する確率
を示している。即ち、図8のマルコフモデルと違い、符
号語と状態間の矢が一対一に対応していない。従って、
隠れマルコフモデルでは、各状態へ存在する確率の分布
( 以下、状態分布という) が隠れマルコフモデルの状
態、即ち信号源の状態を表すこととなる。この確率は連
続値を取ることができるので、少ない状態数で無限の状
態分布を表現することができ、マルコフモデルと比較し
て、高精度な信号源のモデル化が可能である。
【0016】次に、ベクトル量子化装置の動作を説明す
る。まず、符号化側(a)では、入力されたベクトルと
符号帳102 の中で最も近い符号語の番号をベクトル量子
化101 で求める。この符号語番号は、符号語の生起確率
分布に基づいてエントロピー符号化器106 で符号化され
る。状態分布更新器103 では、隠れマルコフモデル104
の状態分布を式(1)を用いて更新する。
【0017】
【数1】
【0018】式(1)は状態iから状態sへの遷移確率
がais、その遷移で符号語番号kの符号語ck を出力す
る確率がbis(ck )の隠れマルコフモデルにおいて、
時刻(n−1)で状態分布が{Pe (i;n-1) |i=1,...,
s ;Ns は状態数}の時、符号語ck を出力して時刻
nで状態sに存在する確率を算出している。これを全て
の状態に対して算出することにより次状態分布{P
e (i;n) |i=1,...,Ns }を求めることができる。この
ように更新した状態分布から、符号語生起確率算出器10
5 で符号帳102 の全符号語の生起確率を式(2)により
算出する。
【0019】
【数2】
【0020】式(2)では、時刻nの状態分布から可能
な全ての状態分布への遷移に対して符号語ck を出力す
る確率の総和を算出している。これを全符号語に対して
算出し、符号語の生起確率分布を求める。エントロピー
符号化器106 では、符号語の生起確率分布に基づいて、
ベクトル量子化器101 で得られる符号語番号を符号化
し、復号側へ伝送する。一方、復号側は、符号化側と同
じ構造の隠れマルコフモデル109 、符号帳111 を有して
おり、符号化側と同じアルゴリズムで状態の更新および
生起確率分布の算出を行なう。まず、エントロピー復号
器107 で、符号語生起確率算出器108 で算出された符号
語の生起確率分布を用いて、伝送された符号を符号化側
と同じ符号系を使って復号し、符号語番号を得る。この
符号語番号に基づき、状態分布更新器110 で式(3)を
用いて隠れマルコフモデル109 の状態分布{P´e (i;n
-1) |i=1,...,Ns }を更新する。
【0021】
【数3】
【0022】式(3)において、c^k はエントロピー
復号器107 で復号した符号語である。このようにして更
新した隠れマルコフモデル109 の状態分布に基づき、符
号語生起確率算出器108 で式(4)を用いて符号語の生
起確率分布を算出する。そして、復号された符号語番号
は、ベクトル再生器112 で符号帳111 に基づき符号語へ
変換され、出力ベクトルとなる。
【0023】
【数4】
【0024】以上のように、本実施の形態1によれば、
隠れマルコフモデルを用いることにより、小さなシステ
ム規模で、信号源の状態を高精度にモデル化することが
可能となり、量子化効率の良いベクトル量子化装置が実
現できる。また、信号源の状態を存在確率の分散で表現
しているため、伝送路誤りが分散して伝搬するので、誤
り耐性の強い構成とすることができる。
【0025】(実施の形態2)図2は本発明の請求項2
に対応する第2の実施の形態におけるベクトル量子化装
置の構成を示すものである。図2において、201 は入力
されたベクトルを最も近い符号語の番号へ変換するベク
トル量子化器である。202 は符号帳で、符号語を蓄積し
ている。203 は状態分布更新器で、変換された符号語番
号に基づき隠れマルコフモデル205 の状態を更新する。
204 は状態分布制約器で、無限に取り得る隠れマルコフ
モデル205 の状態分布数を制限する。205 は信号源をモ
デル化した隠れマルコフモデルである。206 は符号語生
起確率算出器で、符号帳202 の全符号語の出力確率を算
出する。207 はエントロピー符号化器で、ベクトル量子
化器201 で変換された符号語番号を全符号語の出力確率
に基づきエントロピー符号化する。以上が符号化側
(a)である。復号側(b)において、208 はエントロ
ピー復号器で、符号化側(a)から伝送された符号を符
号語生起確率算出器209で算出される全符号語の出力確
率に基づき復号し、符号語番号を得る。209 は符号語生
起確率算出器で、隠れマルコフモデル210 の状態に基づ
き符号帳213 の全符号語の出力確率を算出する。210 は
隠れマルコフモデルで、符号化側の隠れマルコフモデル
205 と同じ構造を有する。211 は状態分布制約器で、符
号化側の状態分布制約器204 と同様に、隠れマルコフモ
デル210 の状態分布数を制限する。212 は状態分布更新
器で、復号された符号語に基づき隠れマルコフモデル21
0 の状態を更新する。213 は符号帳で、符号化側の符号
帳202 と同じものである。214 はベクトル再生器で、符
号語番号からベクトルを再現する。
【0026】以上のように構成されたベクトル量子化装
置について、その動作を説明する。実施の形態1と同じ
ように、ベクトル量子化器201 で符号帳202 に含まれる
符号語のうち、入力されたベクトルに最も近い符号語の
番号を求める。この符号語番号は、エントロピー符号化
器207 で、符号語生起確率算出器206 で算出される符号
語の生起確率分布に基づいて符号化され、復号側へ伝送
される。また、状態分布更新器203 では、ベクトル量子
化器201 で得られる符号語番号に従い、隠れマルコフモ
デル205 の状態分布を更新する。実施の形態1の隠れマ
ルコフモデルの説明で述べたように、各状態に存在する
確率は連続値であり、状態分布は無限に存在する。状態
分布制約器204 では、この存在確率を離散化し、状態分
布を量子化する。以下、量子化された状態分布に従って
符号語生起確率算出器206 で符号語の生起確率を算出す
る。一方、復号側は、符号化側と同じ構造の隠れマルコ
フモデル210 、符号帳213 を有しており、符号化側と同
じアルゴリズムで状態の更新、状態分布の制限、生起確
率分布の算出を行なう。まず、エントロピー復号器208
で、符号語生起確率算出器209 で算出された符号語の生
起確率分布を用いて、伝送された符号を復号し、符号語
番号を得る。この符号語番号に基づき、状態分布更新器
212 で隠れマルコフモデル210 の状態分布を更新する。
更新された状態分布は、状態分布制約器211 で量子化さ
れる。このようにして得られた隠れマルコフモデル210
の状態分布に基づき、符号語生起確率算出器209 で符号
語の生起確率分布を算出する。そして、復号された符号
語番号は、ベクトル再生器214で符号帳213 に基づき符
号語へ変換され、出力ベクトルとなる。
【0027】以上のように、本実施の形態2によれば、
取り得る隠れマルコフモデルの状態分布数を制限するこ
とで、伝送路誤りによって符復号側双方の状態分布が非
同期する確率が減少し、伝送路誤りに対して耐性の強い
ベクトル量子化装置が実現できる。
【0028】(実施の形態3)図3は本発明の請求項3
に対応する第3の実施の形態におけるベクトル量子化装
置の構成を示すものである。図3において、301 は入力
されたベクトルを最も近い符号語の番号へ変換するベク
トル量子化器である。302 は符号帳で、符号語を蓄積し
ている。303 は状態分布更新器で、変換された符号語番
号に基づき隠れマルコフモデル304 の状態を更新する。
304 は信号源をモデル化した隠れマルコフモデルであ
る。305 は符号語生起確率算出器で、隠れマルコフモデ
ル304 の状態分布に基づき符号帳302 の全符号語の出力
確率を算出する。306 は符号語生起確率制約器で、符号
語生起確率算出器305 で算出された符号語の生起確率分
布を量子化する。307 はエントロピー符号化器で、ベク
トル量子化器301 で変換された符号語番号を全符号語の
出力確率に基づきエントロピー符号化する。以上が符号
化側(a)である。復号側(b)において、308 はエン
トロピー復号器で、符号化側(a)で得られた符号を符
号語生起確率制約器309 で量子化される全符号語の出力
確率に基づき復号し、符号語番号を得る。309 は符号語
生起確率制約器で、符号語生起確率算出器310 で算出さ
れた符号語の生起確率分布を量子化する。310 は符号語
生起確率算出器で、隠れマルコフモデル311 の状態に基
づき符号帳313 の全符号語の出力確率を算出する。311
は隠れマルコフモデル311 で、符号化側の隠れマルコフ
モデル304 と同じ構造を有する。312 は状態分布更新器
で、復号された符号語に基づき隠れマルコフモデル311
の状態を更新する。313 は符号帳で、符号化側の符号帳
302 と同じものである。314 はベクトル再生器で、符号
語番号からベクトルを再現する。
【0029】以上のように構成されたベクトル量子化装
置について、その動作を説明する。実施の形態1と同じ
ように、ベクトル量子化器301 で符号帳302 に含まれる
符号語のうち入力されたベクトルに最も近い符号語の番
号を求める。この符号語番号はエントロピー符号化器30
7 で、符号語生起確率制約器306 で得られる符号語の生
起確率分布に基づいて符号化され、復号側へ伝送され
る。また、状態分布更新器303 では、ベクトル量子化器
301 で得られる符号語番号に従い、隠れマルコフモデル
304 の状態分布を更新する。この状態分布に従い、符号
語生起確率算出器305 で符号語の生起確率を算出する。
取り得る状態分布が無数に存在するため、符号語生起確
率算出器305 で算出される符号語生起確率分布も無数に
存在する。従って、符号語生起確率制約器306 では、こ
の符号語生起確率分布を量子化し、取り得る符号語生起
確率分布数を制限する。一方、復号側は、符号化側と同
じ構造の隠れマルコフモデル3110、符号帳313を有して
おり、、符号化側と同じアルゴリズムで状態の更新、符
号語生起確率分布の算出、符号語生起確率の制限を行な
う。まず、エントロピー復号器308 で、符号語生起確率
制約器309 で算出された符号語の生起確率分布を用い
て、伝送された符号を復号し符号語番号を得る。この符
号語番号に基づき、状態分布更新器312 で隠れマルコフ
モデル311 の状態分布を更新する。更新された状態分布
に基づき、符号語生起確率算出器310 で符号語の生起確
率分布を算出する。この符号語生起確率分布は、符号語
生起確率制約器309 で量子化される。そして、復号され
た符号語番号は、ベクトル再生器314 で符号帳313 に基
づき符号語へ変換され、出力ベクトルとなる。
【0030】以上のように、本実施の形態3によれば、
取り得る符号語生起確率分布数を制限することで、伝送
路誤りによって符復号側双方で異なるエントロピー符号
系で符復号する確率が減少し、伝送路誤りに対して耐性
の強いベクトル量子化装置が実現できる。
【0031】(実施の形態4)本発明の請求項4に対応
する第4の実施の形態は、第3の実施の形態におけるベ
クトル量子化装置の符号語生起確率制約器306 、309 を
具体化したものであり、その構成を図4に示す。図4に
おいて、401 は算出された符号語生起確率の降順に確率
を並べ換える確率降順並べ換え器である。402 は確率量
子化器で、並べ換えられた符号語生起確率を量子化す
る。403 は符号語番号並べ換え器で、確率の降順に並べ
換えて量子化された符号語生起確率を符号語番号順に並
べ換える。404 は符号語番号制御器で、確率降順並べ換
え器401 で並べ換えられた符号語の順番を記憶し、符号
語番号並べ換え器403 の並べ換えを制御する。
【0032】以上のように構成された符号語生起確率制
約器について、図6を用いてその動作を説明する。図6
(a) のように、入力された符号語生起確率分布は、確
率降順並べ換え器401 で図6(b)のように並べ換えら
れる。降順に並べ換えられた確率分布は、確率量子化器
402 で量子化され、分布数が制限される。一方、符号語
番号制御器404 は確率降順並べ換え器401 の並べ換え規
則を記憶しており、これに基づき、符号語番号並べ換え
器403 で量子化された確率分布を、入力された符号語番
号順の符号語生起確率分布へ変換する。
【0033】以上のように、本実施の形態4によれば、
符号語生起確率分布を並べ換えた後に量子化することに
より、量子化器の効率が向上するので、符号語生起分布
制約器のシステム規模を小さくすることができ、情報圧
縮効率が良く、伝送路誤り耐性の強いベクトル量子化装
置が実現できる。
【0034】なお、以上の説明では、符号語生起確率分
布を並べ換えた後、量子化する例で説明したが、状態分
布を並べ換えた後、量子化する手法についても同様に実
施可能である。
【0035】また、上記実施の形態1から4までのいず
れかに記載のベクトル量子化装置をソフトウェアで実現
し、そのプログラムを記録した記録媒体を使用すること
により、例えば、そのプログラムをROMや磁気ディス
ク等の記録媒体に記憶させることにより、パーソナルコ
ンピュータ等の汎用信号処理装置上で本発明を実現する
ことができる。
【0036】
【発明の効果】以上のように本発明によれば、信号源モ
デルとしての隠れマルコフモデルとエントロピー符号化
と組み合わせることにより、信号源の状態に応じて適応
的に符号系を構成することができ、効率の良いベクトル
量子化が可能となる。また、取り得る状態分布、符号語
生起確率分布数を制限することで、誤り耐性の強い構成
とすることができる。
【図面の簡単な説明】
【図1】本発明の実施の形態1におけるベクトル量子化
装置のブロック図
【図2】本発明の実施の形態2におけるベクトル量子化
装置のブロック図
【図3】本発明の実施の形態3におけるベクトル量子化
装置のブロック図
【図4】本発明の実施の形態4におけるベクトル量子化
装置の符号語生起確率制約器のブロック図
【図5】本発明の実施の形態における4状態隠れマルコ
フモデルの模式図
【図6】本発明の実施の形態4における動作を説明する
ための符号語生起確率分布図
【図7】従来例におけるベクトル量子化装置のブロック
【図8】4状態マルコフモデルの模式図
【図9】4状態マルコフモデルの状態遷移図
【符号の説明】
101 ベクトル量子化器 102 符号帳 103 状態分布更新器 104 隠れマルコフモデル 105 符号語生起確率算出器 106 エントロピー符号化器 107 エントロピー復号器 108 符号語生起確率算出器 109 隠れマルコフモデル 110 状態分布更新器 111 符号帳 112 ベクトル再生器 201 ベクトル量子化器 202 符号帳 203 状態分布更新器 204 状態分布制約器 205 隠れマルコフモデル 206 符号語生起確率算出器 207 エントロピー符号化器 208 エントロピー復号器 209 符号語生起確率算出器 210 隠れマルコフモデル 211 状態分布制約器 212 状態分布更新器 213 符号帳 214 ベクトル再生器 301 ベクトル量子化器 302 符号帳 303 状態分布更新器 304 隠れマルコフモデル 305 符号語生起確率算出器 306 符号語生起確率制約器 307 エントロピー符号化器 308 エントロピー復号器 309 符号語生起確率制約器 310 符号語生起確率算出器 311 隠れマルコフモデル 312 状態分布更新器 313 符号帳 314 ベクトル再生器 401 確率降順並べ換え器 402 確率量子化器 403 符号語番号並べ換え器 404 符号語番号制御器 501 ベクトル量子化器 502 状態更新器 503 マルコフモデル 504 符号帳選択器 505 符号帳 506 ベクトル再生器 507 状態更新器 508 マルコフモデル 509 符号帳選択器 510 符号帳

Claims (5)

    (57)【特許請求の範囲】
  1. 【請求項1】 ベクトル量子化装置において、符号化側
    に、あらかじめ学習によって得られるベクトルである符
    号語を蓄積している符号帳と、入力されたベクトルに最
    も近い符号語を選択し、その符号語番号を出力するベク
    トル量子化器と、入力ベクトル系列を生成する信号源を
    モデル化した隠れマルコフモデルと、選択された符号語
    番号に基づき隠れマルコフモデルの状態を更新する状態
    分布更新器と、隠れマルコフモデルの状態に基づき符号
    帳の全符号語の出力確率を算出する符号語生起確率算出
    器と、ベクトル量子化器で選択された符号語番号を全符
    号語の出力確率に基づきエントロピー符号化するエント
    ロピー符号化器とを備え、復号側に、符号化側と同じ符
    号語を蓄積している符号帳と、符号化側から伝送される
    符号を符号語生起確率算出器で算出される全符号語の出
    力確率に基づき復号し、符号語番号を求めるエントロピ
    ー復号器と、符号化側と同じ構造の隠れマルコフモデル
    と、復号された符号語番号に基づき隠れマルコフモデル
    の状態を更新する状態分布更新器と、隠れマルコフモデ
    ルの状態に基づき符号帳の全符号語の出力確率を算出す
    る符号語生起確率算出器と、復号された符号語番号から
    符号帳を使って符号語を再現するベクトル再生器とを備
    えたベクトル量子化装置。
  2. 【請求項2】 符号化側および復号側に隠れマルコフモ
    デルの状態を量子化する状態分布制約器を備えた請求項
    1記載のベクトル量子化装置。
  3. 【請求項3】 符号化側および復号側に符号語生起確率
    算出器より得られる符号語の出力確率分布を量子化する
    符号語生起確率制約器を備えた請求項1記載のベクトル
    量子化装置。
  4. 【請求項4】 符号化側および復号側の符号語生起確率
    制約器が、符号語の生起確率の降順に符号語を並べ換え
    る確率降順並べ換え器と、並べ換えた確率を量子化する
    確率量子化器と、確率降順並べ換え器で行なった並べ換
    えの規則を記憶しておく符号語番号制御器と、符号語番
    号制御器に従って量子化した確率を元の符号語番号順に
    並べ換える符号語番号並べ換え器とを備えた請求項3記
    載のベクトル量子化装置。
  5. 【請求項5】 請求項1から4までのいずれかに記載の
    ベクトル量子化装置をソフトウェアで実現し、そのプロ
    グラムを記録した記録媒体を使用するベクトル量子化装
    置。
JP21962396A 1996-08-21 1996-08-21 ベクトル量子化装置 Expired - Fee Related JP3264626B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP21962396A JP3264626B2 (ja) 1996-08-21 1996-08-21 ベクトル量子化装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP21962396A JP3264626B2 (ja) 1996-08-21 1996-08-21 ベクトル量子化装置

Publications (2)

Publication Number Publication Date
JPH1063299A JPH1063299A (ja) 1998-03-06
JP3264626B2 true JP3264626B2 (ja) 2002-03-11

Family

ID=16738437

Family Applications (1)

Application Number Title Priority Date Filing Date
JP21962396A Expired - Fee Related JP3264626B2 (ja) 1996-08-21 1996-08-21 ベクトル量子化装置

Country Status (1)

Country Link
JP (1) JP3264626B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1999062189A2 (en) * 1998-05-27 1999-12-02 Microsoft Corporation System and method for masking quantization noise of audio signals
US7158684B2 (en) * 2002-04-25 2007-01-02 Texas Instruments Incoporated Entropy coding scheme for video coding
WO2007138875A1 (ja) * 2006-05-31 2007-12-06 Nec Corporation 音声認識用単語辞書・言語モデル作成システム、方法、プログラムおよび音声認識システム
CN111583910B (zh) * 2019-01-30 2023-09-26 北京猎户星空科技有限公司 模型更新方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
JPH1063299A (ja) 1998-03-06

Similar Documents

Publication Publication Date Title
JP3017379B2 (ja) 符号化方法、符号化装置、復号方法、復号器、データ圧縮装置及び遷移マシン生成方法
US7733345B2 (en) Method and apparatus for encoding and decoding position interpolator
Linder et al. Rates of convergence in the source coding theorem, in empirical quantizer design, and in universal lossy source coding
Ortega et al. Adaptive scalar quantization without side information
WO2006062993A2 (en) Lossy data compression exploiting distortion side information
JP2022527447A (ja) ニューラルネットワークのパラメータを圧縮する方法および装置
US20060015330A1 (en) Voice coding/decoding method and apparatus
JP3264626B2 (ja) ベクトル量子化装置
Mahmud An improved data compression method for general data
JP2956473B2 (ja) ベクトル量子化装置
Zeger et al. Universal source coding with codebook transmission
US6798362B2 (en) Polynomial-time, sequential, adaptive system and method for lossy data compression
JP5619326B2 (ja) 符号化装置、復号装置、符号化方法、符号化プログラム、復号方法および復号プログラム
Kontoyiannis et al. Arbitrary source models and Bayesian codebooks in rate-distortion theory
Goyal et al. On optimal permutation codes
JP2509039B2 (ja) ベクトルコ―ドブック量子化装置
Frey et al. Efficient stochastic source coding and an application to a Bayesian network source model
Cheng et al. Robust zero-redundancy vector quantization for noisy channels
JP2626492B2 (ja) ベクトル量子化装置
Pic et al. Mq-coder inspired arithmetic coder for synthetic dna data storage
CN111971902B (zh) 编码装置、解码装置、编码方法、解码方法、程序及记录介质
JP2002091497A (ja) オーディオ信号符号化方法、復号化方法及びそれらの方法を実行するプログラム記憶媒体
Lightstone et al. Entropy-constrained product code vector quantization with application to image coding
JP2004120623A (ja) 符号化装置、符号化方法、復号装置及び復号方法
Rissanen et al. Coding and compression: A happy union of theory and practice

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees