JPH0537397A - ベクトル量子化器の符号帳設計方法 - Google Patents

Abstract

(57)【要約】 【目的】 符号誤りに強く、より高性能な符号帳を設計
し得るベクトル量子化器の符号帳設計方法を提供する。 【構成】 学習ベクトルを量子化して符号誤りのある伝
送路を伝送すると仮定した場合に符号誤りをも考慮して
各学習ベクトルを符号帳の中のそれぞれどの代表ベクト
ルに帰属させるかを更新し、この仮定のもとで学習ベク
トルと受信側の再生ベクトルとの歪みの平均値の総和の
極小化に基づいて代表ベクトルを更新し、受信側の再生
ベクトルと学習ベクトルとの歪みの平均値を反映する符
号帳の評価関数を小さくするように符号帳インデックス
の付け換えを行い、上記処理を交互に繰り返し用いるこ
とにより符号誤りのある場合の最適な符号帳を設計して
いる。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、音声または画像信号を
符号化するためのベクトル量子化器を設計する方法に関
する。

【０００２】

【従来の技術】音声信号や画像信号を符号化するための
高能率な量子化法のひとつとして、ベクトル量子化やマ
トリクス量子化（以後、これらをベクトル量子化という
言葉で代表させる）が知られている。ベクトル量子化に
おいては、与えられたビット数に応じて、符号帳と呼ば
れる部分に代表ベクトルパターンを蓄えておくが、この
代表パターンをどのように決めるかによって量子化器の
性能が左右される。

【０００３】ベクトル量子化における符号帳の設計手法
としてＬＢＧアルゴリズムが知られている。この手法は
ベクトル量子化すべきベクトル空間の分布をよく表すよ
うな分布を持つ学習用ベクトルデータ系列を用意し、こ
れらの学習用データを量子化したときの歪みの総和を極
小にするように符号帳を設計する手法である。

【０００４】ＬＢＧアルゴリズムは、代表ベクトルの初
期数を１とし、最適な代表ベクトルを求める操作と代表
ベクトルの数を２倍に増加させる操作を交互に行って、
目的とする数の代表ベクトルを得る。

【０００５】最適な代表ベクトルを求める操作は、まず
学習用データがどの代表ベクトルに帰属するかを更新す
る処理を行い、その帰属状態において、歪みの総和が極
小となるように、代表ベクトルを更新する。上記帰属更
新処理と、代表ベクトルの更新処理を収束するまで交互
に繰り返し行うことにより、代表ベクトルは次第に最適
なものに近づいていく。この操作は Lloyd-Maxまたはｋ
平均アルゴリズムと呼ばれる。

【０００６】ＬＢＧアルゴリズムは、学習ベクトルの集
合をいくつかの部分集合に分割する操作を意味し、上記
部分集合をクラスタ、分割操作をクラスタリングと呼
ぶ。ＬＢＧアルゴリズムの詳細は文献 Y.Linde.A.Buzo.
R.M.Gray著”An Algorithm forVector Quantizer Desig
n”．IEEE Trans.Commun.COM-28 p.p.84-95,1980 に記
載されている。

【０００７】

【発明が解決しようとする課題】ベクトル量子化では、
代表ベクトルと実際に伝送される符号との間に何等関係
がないため、伝送路において符号誤りが生じると著しく
品質劣化が生じることが指摘されている。

【０００８】この問題を解決する一手法として、上記Ｌ
ＢＧアルゴリズムの歪み尺度に、符号誤りを考慮した尺
度を用い、この尺度の総和が最小になるように学習すれ
ば、符号誤りが生じても被害が比較的少ないと報告され
ている。

【０００９】文献：熊沢、笠原、滑川 「通信路誤りを考慮したベクトル量子化器の構成」電子
通信学会論文誌 Vol.J67-B No.1 1984 しかし実際には、上記手法によっても、”最適”な解は
得られず、局所最小解に陥って期待したほどに符号誤り
に強い構造に設計できない。この理由は、ＬＢＧアルゴ
リズムが除々に最適解に近づける漸近的な手法であるた
め、容易に局所最小解に陥り、いったん陥るとそこから
抜け出す手段を有しないからである。

【００１０】本発明は、上記に鑑みてなされたもので、
その目的とするところは、符号誤りに強く、より高性能
な符号帳を設計し得るベクトル量子化器の符号帳設計方
法を提供することにある。

【００１１】

【課題を解決するための手段】上記目的を達成するた
め、本発明のベクトル量子化器の符号帳設計方法は、学
習用データを用いてベクトル量子化器の最適符号帳を設
計するベクトル量子化器の符号帳設計方法であって、学
習ベクトルを量子化して符号誤りのある伝送路を伝送す
ると仮定した場合に符号誤りをも考慮して各学習ベクト
ルを符号帳の中のそれぞれどの代表ベクトルに帰属させ
るかを更新し、前記仮定のもとにおける学習ベクトルと
受信側の再生ベクトルとの歪みの平均値の総和の極小化
に基づいて代表ベクトルを更新し、前記仮定のもとにお
いて受信側の再生ベクトルと学習ベクトルとの歪みの平
均値を反映する符号帳の評価関数を小さくするように符
号帳インデックスの付け換えを行う、上記処理を交互に
繰り返し用いることにより符号誤りのある場合の最適な
符号帳を設計することを要旨とする。

【００１２】また、本発明では、より”最適”に近い
解、即ちより符号誤りに強い符号帳を得るために、前述
のＬＢＧアルゴリズムにインデックス付けかえ操作を導
入する。インデックス付けかえ操作は、ＬＢＧアルゴリ
ズムにおいて、上記局所最小解から抜け出し、「真」の
解に近づける手段を与える。言い換えると、インデック
ス付けかえ操作は、ダイナミックに状態を変える働きを
する。

【００１３】ＬＢＧアルゴリズムにおいて、既に代表ベ
クトル（クラスタ）数Ｎ_i の符号帳が得られていると仮
定する。もし、Ｎ_i が目的とする数に達していれば、処
理を終了する。達していない場合には各クラスタの分割
操作を行う。

【００１４】次に、分割された各クラスタの代表ベクト
ルを初期値として、各学習データの帰属更新処理と、代
表ベクトルの更新処理を収束するまで交互に繰り返し行
う（Lloyd-Max アルゴリズム）。このときの歪み尺度に
は、符号誤りを考慮した尺度を用いる。上記処理が収束
すると、それ以上続けても歪みの総和は小さくならな
い。

【００１５】ここで、符号帳インデックスの付けかえ操
作を行う。符号誤りを考慮した歪み尺度とは、例えば、
符号誤りがある伝送路を伝送したと仮定した場合の、受
信側における歪みの平均値を表す。従って、前記 Lloyd
-Maxアルゴリズムによっては、もはや歪みの総和を小さ
くできない場合でも、インデックスの付けかえ操作、例
えば任意の２つのインデックスの交換によって、歪みの
総和を小さくすることができる。一例として、任意の２
つのインデックスを交換して、符号誤りを考慮した歪み
の総和が小さくなれば交換し、小さくならなければ別の
インデックスの組を交換してみる。この操作を繰り返し
行い、どのインデックスの組を交換しても歪みの総和が
小さくならないようになるまで続ける。ここで、インデ
ックスの交換は、２つの間で交換してもよいし、３つ以
上で交換してもよい。

【００１６】この後のクラスタの分割操作に戻っても良
いが、インデックスの付けかえ操作によって、 Lloyd-M
axの局所最小解を抜け出していると考えられるので、再
度 Lloyd-Max、即ち、各学習データの帰属更新処理と、
代表ベクトルの更新処理を収束するまで交互に繰り返し
行う。

【００１７】この後、クラスタの分割操作に戻る。クラ
スタの分割処理と、上記歪み最小化操作を繰り返し、目
的とする数の代表ベクトルが得られた時点で終了する。

【００１８】

【作用】本発明のベクトル量子化器の符号帳設計方法で
は、学習ベクトルを量子化して符号誤りのある伝送路を
伝送すると仮定した場合に符号誤りをも考慮して各学習
ベクトルを符号帳の中のそれぞれどの代表ベクトルに帰
属させるかを更新し、この仮定のもとで学習ベクトルと
受信側の再生ベクトルとの歪みの平均値の総和の極小化
に基づいて代表ベクトルを更新し、受信側の再生ベクト
ルと学習ベクトルとの歪みの平均値を反映する符号帳の
評価関数を小さくするように符号帳インデックスの付け
換えを行い、上記処理を交互に繰り返し用いることによ
り符号誤りのある場合の最適な符号帳を設計している。

【００１９】既に報告されているＬＢＧアルゴリズムに
誤りを考慮した歪み尺度を導入しただけでは、局所最小
解に陥って、十分に符号誤りに強い符号帳を設計できな
いことが多いが、本発明の手法を用いることによって局
所最小解に陥る危険を減らし、より高性能な符号帳を設
計することができる。

【００２０】また、インデックス付けかえ操作は、符号
誤りを考慮した距離尺度を用いたＬＢＧ法で、最終的に
できあがった目的数の代表ベクトルを持つ符号帳に対し
て１回だけ適用することもでき、一見この方が計算量が
少なくて済むように思われる。しかし実際には、このよ
うなインデックス付けかえ操作の最適化は非常に難し
い。なぜなら、インデックス付けかえ操作そのものが、
容易に局所最小解に陥ってしまうからである。従って、
本発明に比べてはるかに多くの計算時間を費やしても、
ＬＢＧ法によって作成した符号帳に比べ、ほとんど性能
は向上しない。

【００２１】一方、本発明による方法では、ＬＢＧ法と
インデックス付けかえ操作が相互に影響しあい、わずか
な計算量の増加で、容易に最適に近い状態へと導くこと
ができる。

【００２２】

【実施例】以下、本発明の一実施例を図面を参照して説
明する。図１は本発明によって設計した符号帳を用い
た、ベクトル量子化法の構成例を示したものである。送
信側では、符号帳１に蓄えられたＭ個の代表ベクトルｃ
（ｒ）と入力ベクトルｘとの歪みを歪み算出部２で算出
し、歪みが最小となるインデックスｒを歪み判定部３で
判定し、符号化部４で符号化して伝送する。一方、受信
側では、符号化されて伝送されてくるインデックスｒを
復号化部５で受信して、インデックスｒ’として復号化
し、符号帳６を介して対応する代表ベクトルをｃ
（ｒ’）として出力する。ここで、伝送路に符号誤りが
ない、すなわちｒ＝ｒ’ならば問題はないが、例えば無
線通信のように品質の悪い伝送路の場合には、符号ｒの
うちの１ないし２ビットが反転して検波されることも少
なくない。そこで、仮にｒの１ないし２ビットが反転し
てもｃ（ｒ）とｃ（ｒ’）の間に大きな差が生じないよ
うに符号帳を設計すれば、符号誤りによる品質の劣化を
最小限に抑えることができる。

【００２３】図２及び図３は、上記のように、符号誤り
が生じても品質劣化が少ないという観点で高性能な符号
帳の設計法の一例の概略をフローチャートで示したもの
である。これに先立ち、学習用のデータを用意する。学
習用データは、実際の符号化において符号化されるべき
データが分布する空間を有限のデータ系列で効果的に表
すように選択するのがよい。一般的には、学習データの
数は多いほうがよい。学習用データの分布が実際に符号
化されるデータの分布に比べて著しい偏りがある場合に
は、本発明によって設計した符号帳の性能が低下するこ
とになる。

【００２４】用意した学習用ベクトルデータ系列を ｛ｘ_i ｝， ｉ＝１，２，・・・，Ｎ とする。図２においてＭはクラスタ、すなわち代表ベク
トルの数を表す。初期値としてＭをＭ_o に設定する（ス
テップ１１０）。通常Ｍ_o は１に設定すると非常に都合
がよいが、必ずしも１にする必要はない。次に、代表ベ
クトルの初期値を決定する（ステップ１２０）。Ｍ_o ＝
１の場合には任意の値に設定してよい。なぜなら、Ｍ_o
のときの代表ベクトルの初期値は全く意味を持たないか
らである。なお、Ｍ_o ≠１のときには、適当な初期値を
設定しなければならない。一例として、適当に学習ベク
トルの中からピックアップして初期値とする方法があ
る。次に、ループカウンタ Repを０にリセットする（ス
テップ１３０）。次にステップ１２０で決定された代表
ベクトルを初期値として、誤りを考慮した歪み尺度によ
る Lloyd-Maxアルゴリズムにより、代表ベクトルを更新
する（ステップ１４０）。ステップ１４０の更新操作の
詳細を図４に示す。さらに図４における学習データの帰
属更新処理（ステップ３１０）の詳細を図５に示す。い
ま、Ｍ個の代表ベクトルが決まっているとする。これら
を ｛ｃ_j ｝， ｊ＝１，２，・・・，Ｍ とする。学習データの帰属更新では、Ｎ個の学習用デー
タが、それぞれどの代表ベクトルに帰属するかを決定す
る。図５において、第ｉ番目の学習データと第ｊ番目の
代表ベクトルとの符号誤りを考慮した歪み尺度 ｄ（ｘ_i ，ｃ_j ） を計算する（ステップ４４０）。

【００２５】上記歪み尺度は次のように定義される。符
号ｊを伝送したときに受信側で符号ｋが受信される確率
を ｐ（ｋ｜ｊ） と表す。ｐ（ｋ｜ｊ）を簡易的に計算する一例として、
通信路をランダムな二元対象通信路を仮定し、符号のビ
ット数をｎ、符号ｋと符号ｊとの間のハミング距離を
ｈ、伝送路のランダムビット誤り率をｅとすると、 ｐ（ｋ｜ｊ）＝ｅ^h （１−ｅ）^n-h としてもよい。また、バースト誤りなど、ランダム誤り
とは異なった特性の誤りが生じる可能性がある場合に
は、ｐ（ｋ｜ｊ）として、それらを考慮した誤り確率を
用いてもよい。さらに、伝送するための符号化に誤り訂
正符号を併用したときには、誤り訂正符号を併用したと
きの誤り確率を用いればよく、誤り検出符号を併用した
場合には、受信側で誤りを検出し、修復処理をした後の
誤り確率を用いればよい。また、実際の確率よりも多少
誤り率を大きく見積もっても学習することにより、信頼
性を高めることもできる。

【００２６】２つのベクトルｘ_i とｃ_j との間の距離を
表す尺度を ｄ_v （ｘ_i ，ｃ_j ） で表すと、

【００２７】

【数１】

【００２８】と定義する。これは符号誤りが生じたとき
の、受信側における ｄ_v （ｘ_i ，ｃ_j ） の期待値を表す。なお、ｄ_v （ｘ_i ，ｃ_j ）の定義のし
かたは任意であるが、一般にはユークリッド距離や重み
付きユークリッド距離が用いられる。ｘ_i ，ｃ_j をそれ
ぞれ ｘ_i ＝（ｘ_i1，ｘ_i2，ｘ_i3，・・・，ｘ_ip） ｃ_j ＝（ｃ_j1，ｃ_j2，ｃ_j3，・・・，ｃ_jp） で表すと、重み付きユークリッド距離は

【００２９】

【数２】

【００３０】で表される。重みのないユークリッドの場
合には、 ｗ_ir＝１．０ とすればよい。これらの距離を用いた場合には、上記ｄ
（ｘ_i ，ｄ_j ）の計算を高速に実現できることが知られ
ている。すなわち、

【００３１】

【数３】

【００３２】であるから、

【００３３】

【数４】

【００３４】とおくことにより、ｙ_jr，ａ_jrは入力に関
係なく、量子化器の初期化時に一度計算すればよく、

【００３５】

【数５】

【００３６】となって、計算を簡略化できる。なお、符
号帳を探索する尺度としては、上式において、ｘ_ir ² も
計算する必要がない。

【００３７】上記ｄ（ｘ_i ，ｃ_j ）をｊが１からＭまで
計算し、最もｄ（ｘ_i ，ｃ_j ）が小さくなった代表ベク
トルに、学習用の第ｉ番目のデータを帰属させる。第ｉ
番目のデータが第ｊ番目の代表ベクトルに帰属すること
を Ｂｅ（ｉ）＝ｊ で表す。

【００３８】上記操作をすべてのｉについて実行し、各
学習用データをどの代表ベクトルに帰属させるかを決定
する。

【００３９】次に、図４に戻り、歪みの総和Ｄを算出す
る（ステップ３２０）。歪みの総和Ｄは次のように定義
される。

【００４０】

【数６】

【００４１】または

【００４２】

【数７】

【００４３】上記２つの式は等価である。なお、上式２
つめのΣはＢｅ（ｉ）＝ｊを満たすｉについての和を表
す。上式で求めたＤがあらかじめ決められたしきい値よ
りも小さくなれば、ここで処理を終了し、小さくなけれ
ばステップ３１０で更新した学習データの帰属に対して
代表ベクトルが最適なものとなるように更新する。

【００４４】代表ベクトル更新のための式は、ベクトル
間距離の定義式ｄ_v（ｘ_i ，ｃ_j ）によって異なる。前
述のように、重み付きユークリッド距離を用いると、新
代表ベクトル ｃ’_j ＝（ｃ’_j1，ｃ’_j2，ｃ’_j3，・・・，ｃ’_jp） は、

【００４５】

【数８】

【００４６】となる。なお、本式は上記（＊１）式をｃ
_jrで偏微分したものを０とおくことにより導出され、Ｄ
が極小となるｃ_jrを示す。この新代表ベクトルを用い
て、再びステップ３１０に戻り、学習データの帰属更新
処理を行う。

【００４７】図４の処理が収束して終了した時点で、図
２における Lloyd-Maxアルゴリズムによる代表ベクトル
の更新処理（ステップ１４０）が終了する。次のステッ
プ１５０ではループカウンタ Repの値を調べ、あらかじ
め決められた最大ループ回数Rep_- max 以上ならステッ
プ１８０へ、それ未満ならばステップ１６０へ進む。Re
p_- max は通常１で十分である。なお、 Rep_- max が０
のときは、従来のＬＢＧ法に等しい。

【００４８】ステップ１６０では、符号帳のインデック
ス付け換えを行う。その処理の詳細を図６に示す。

【００４９】図６においてｈはループのカウンタを表
す。ｈの初期値は０に設定する（ステップ５１０）。符
号帳評価関数Ｅ算出処理（ステップ５２０）では、現在
の符号帳に対する初期評価関数Ｅを計算する。評価関数
Ｅには、前述の歪みの総和Ｄ、すなわち（＊１）式を用
いるべきである。しかし、あるインデックスとあるイン
デックスを交換するたびに全学習用データを用いて歪み
の総和Ｄを計算しなおすことは、非常に多くの計算量を
必要とする。そこで、簡略的な手段として、確率ｐ（ｋ
｜ｊ）を用いて次の様に定義してもよい。

【００５０】

【数９】

【００５１】ただし、ｄ_e （ｃ_j ，ｃ_k ）は代表ベクト
ルｃ_j とｃ_k の間の距離を表し、一例として

【００５２】

【数１０】

【００５３】のように、ユークリッド距離で定義しても
よい。

【００５４】また、ｃ_j が使われる頻度を考慮して

【００５５】

【数１１】

【００５６】としてもよい。ただし、Ｐｒ（ｊ）はｊ番
目の代表ベクトルが使用される確率を表す。このように
Lloyd-Maxアルゴリズムの評価尺度と、インデックス付
け換えの尺度を異なったものに定義すると、一方で歪み
が減少したにもかかわらず、他方の処理で逆に歪みが増
大する可能性も生じる。しかし、実験の結果、インデッ
クス付け換えの評価関数を簡略化しても、悪影響は観察
されない。

【００５７】上式で求められた初期評価関数値をＥ min
に設定する（ステップ５３０）。次にｊ≠ｋなる任意の
２つのインデックスを交換したと仮定したときの評価関
数値Ｅを計算する（ステップ５４０，５５０）。ｊ，ｋ
の決め方は乱数を用いて決定してもよい。また、１≦ｊ
≦Ｍ、１≦ｋ≦Ｍのすべての組み合わせについて評価関
数Ｅを計算して、Ｅが最も小さくなったときのｊとｋを
用いても良い。ｊ，ｋを交換して得られた評価関数の値
ＥがＥ minよりも小さければ、インデックスｊとｋが割
り当てられた代表ベクトルをお互いに交換する（ステッ
プ５７０）。このとき、ループのカウンタｈは０にクリ
ア、再びステップ５４０に戻る。逆にＥがＥ minよりも
小さくならなかった場合には、ループカウンタｈの値に
１を加える（ステップ５８０）。このとき、ｈの値があ
らかじめ決められた値Ｌよりも大きくなった場合には、
どのインデックスを交換しても評価関数が小さくならな
いとみなして処理を終了する（ステップ５９０）。Ｌよ
りも小さい場合には、ステップ５４０に戻る。なお、こ
こでは、インデックスの交換を２つのインデックスで行
っているが、より局所最小解の危険を避けるため、３つ
以上で交換してみて、評価関数を計算してもよい。

【００５８】インデックス付けかえの後、ループカウン
タ Repを１インクリメントし（ステップ１７０）、ステ
ップ１４０に戻って再び誤り尺度 Lloyd-Maxアルゴリズ
ムを適用して代表ベクトルを更新する。ステップ１４０
と１６０を交互に行うことは、仮にステップ１４０で局
所最小解に陥って十分な性能が得られなくとも、ステッ
プ１６０におけるインデックスの付け換えにより局所最
小を抜け出す可能性があり、より真の最小解に近づくこ
とが期待される。計算量の増加が許されるならば、 Rep
_- max の値を２以上にするとよい。

【００５９】ステップ１８０において、クラスタすなわ
ち代表ベクトルの数Ｍが、あらかじめ割り当てられたビ
ット数Ｂによって定まるクラスタ数２^B に達していない
場合には、１６−ａによってそれぞれのクラスタを分割
する（ステップ１９０）。分割によってクラスタ数は２
倍になる。これまでのクラスタ数をＭ、分割後のクラス
タ数をＭ’とすると、 Ｍ’＝２Ｍ 分割により、Ｍ＋１から２Ｍまでのインデックスが新た
に使用可能となる。ここで代表ベクトルの初期値をステ
ップ２１０において決定してステップ１３０に戻る。な
お、上記例では、クラスタを分割して２倍に増加させた
が、必ずしも２倍でなくてもよいし、クラスタによって
分割するものと、しないものがあってもよい。Ｍの初期
値Ｍ_o を１に設定し、１回の分割によって２倍ずつにし
ていくと、ステップ１８０において、容易にＭ＝２^B と
して終了することができ、都合がよい。

【００６０】代表ベクトルの初期値は次の様に決定す
る。

【００６１】１からＭまでの代表ベクトルの初期値は、
現在の代表ベクトルをそのまま初期値とする。新しい初
期値をｃ_j ’とすると、 ｃ’_j ＝ｃ_j ， ｊ＝１，２，・・・，Ｍ である。また、新しく生成されたインデックスに対応す
る初期値は、 ｃ’_j ＝ｃ_j ＋Δ， ｊ＝Ｍ＋１，Ｍ＋２，・・・，２Ｍ とする。Δは微小なベクトルである。

【００６２】こうしてクラスタ数を増やし、Ｍ’←Ｍと
してステップ１３０に戻り、以上の手順を繰り返す。

【００６３】ステップ１８０において、クラスタ数が目
的とする数に達した場合には、学習の処理を終了し、そ
のときの代表ベクトルを最終的な符号帳の代表ベクトル
とする。

【００６４】なお、代表ベクトルの初期数がＭ_o ＝２^B
である場合には、ステップ１９０，２００，２１０など
のクラスタの分割に伴う処理が不要であることは明らか
である。

【００６５】図３は、図２の手順の簡略版を示す。図２
との違いは、ステップ２５０と２６０の処理を、それぞ
れ１回ずつ行っている点である。当然、図２の方が良好
な結果が得られるが、計算を簡略化するために、図３の
構成にしてもよい。また、基本的には図３の構成で行
い、ステップ２７０において、Ｍ＝２^B となる直前のル
ープのみ図２のようにステップ１４０と１６０を交互に
行ってもよい。

【００６６】ここまでは、一般的なベクトル量子化器の
符号帳の学習方法について説明した。しかし、上記のよ
うな単純構成のベクトル量子化器では、割り当てるビッ
ト数の増加にもとなって、量子化するための計算量と記
憶量が指数関数的に増大し、現在のハードウェア技術を
考慮しても、実時間処理するためや、計算コストを下げ
るためには、量子化ビット数を１０から１３ビット程度
以下に抑える必要がある。しかし、実際には、良好な量
子化品質を得るために、２０ビットないし３０ビットを
必要とすることも少なくない。このような問題に対し
て、少ない計算量で、しかも品質の劣化が少ない方法と
して、多段ベクトル量子化法が知られている。多段ベク
トル量子化法の構成を図７に示す。図７は、説明を簡単
にするために、３段の場合について説明した。多段ベク
トル量子化法とは、複数の小規模なベクトル量子化器を
縦続接続する方法である。各小規模なベクトル量子化器
は、大きく分けて、それぞれ符号帳、ベクトル加算器、
歪み判定部の３つの部分から成る。なお、１段目につい
ては、ベクトル加算器を省略してよい。１段目のベクト
ル量子化器の動作は、既に述べた通常のベクトル量子化
器と同じである。符号帳５０の中に、Ｍ₁ 個の代表ベク
トルを蓄え、これらを順に歪み判定部５３に送る。ｊ番
目の代表ベクトルをｃ_jr ⁽¹⁾ （ｒはベクトルの次元を表
す）とすると、歪み判定部５３では、ｃ_jr ⁽¹⁾ と入力ベ
クトルｘ_irとの歪みを判定し、最も歪みの小さくなった
代表ベクトルを１段目の量子化値（ベクトル）ｑ_ir ⁽¹⁾
とする。２段目以降のｓ段目では、ｓ−１段目までの量
子化値ｑ_ir ^(s-1) にｓ段目の符号帳に蓄えられたｊ番目
の代表ベクトルｃ_jr ^(s) を加えた、 ｑ_ir ^(s-1) ＋ｃ_jr ^(s) と入力ベクトルｘ_irとの歪みが最小になるｊ’番目の代
表ベクトルｃ_{j ’r} ^(s) をｓ段目の代表ベクトルとし、 ｑ_ir ^(s) ＝ｑ_ir ^(s-1) ＋ｃ_j’r ^(s) をｓ段目までの量子化値とする。

【００６７】このときの歪み尺度は、ユークリッド距離
などの任意の尺度でよい。後述する例えば（＊２）式の
ような符号誤りを考慮した歪み尺度を用いると、符号誤
りが生じても劣化の少ない量子化器とすることができ
る。

【００６８】この操作を段数分だけ繰り返し、最終段ま
での量子化値が決定されると、端子５８より入力ベクト
ルｘ_irの量子化値ｘ_ir ^*として出力される。なお、上記
説明では、各段において代表ベクトル（各段までの量子
化値）を最適なものひとつに決定したが、途中の段で
は、いくつか量子化候補を残しておき、最終段までの量
子化値が最適になるように決定した方が、若干の計算量
増大につながるけれども、量子化性能はよい。なお、多
段ベクトル量子化法の詳細については、文献：B.H.Juan
g,A.H.Gray著”Multiple Stage Vector Quantization f
or Speech Coding”Proc.ICASSP82,p.p597-600（1982）
に記載されている。

【００６９】このような多段ベクトル量子化器の符号帳
の設計にも、歪み尺度を変更するだけで、容易に本発明
を利用できる。すなわち、多段ベクトル量子化器の符号
帳の設計は、１段目から順に設計していくのであるが、
１段目は通常のベクトル量子化器と実質的に同等である
ので、本発明をそのまま利用可能である。２段目以降に
ついても、図５における歪み尺度算出処理（ステップ４
４０）の歪みの定義式、および図４における代表ベクト
ル更新処理（ステップ３４０）の更新式、ならびに図６
における符号帳評価関数Ｅ算出処理ステップ５２０，５
５０の定義式を変更し、各段の符号帳設計において本発
明を適用するだけである。

【００７０】まず、歪み尺度の定義は、前述のように、
入力ベクトルｘ_irと量子化値（ベクトル） ｑ_ijr ^(s) ＝ｑ_ir ^(s-1) ＋ｃ_jr ^(s) とのベクトル間距離を重み付きユークリッド距離で表す
と、

【００７１】

【数１２】

【００７２】となる。なお、このときｘ_irとｑ_ijr ^(s)
をいったんケプストラムになおしてからユークリッド距
離をとってもよい。ベクトル間距離を上記ｄ_v （ｘ_i ，
ｑ_ij ^{(s )} ）のように表すと、符号誤りを考慮した歪み尺
度は、

【００７３】

【数１３】

【００７４】となり、上記ｄ（ｘ_i ，ｑ_ij ^(s) ）をｊが
１からＭ（Ｍは代表ベクトルの数）まで計算し、最もｄ
（ｘ_i ，ｑ_ij ^(s) ）が小さくなったｊ’番目の代表ベク
トルに学習用の第ｉ番目のデータを帰属させる。なおこ
こで、前段までの量子化値（ベクトル）ｑ_ir ^(s-1) は、

【００７５】

【数１４】

【００７６】のように各段の代表ベクトルの和で表して
もよいし、

【００７７】

【数１５】

【００７８】とおいて、

【００７９】

【数１６】

【００８０】即ち、受信したときの平均値（期待値）で
表してもよい。一般には、後者のほうが性能が良い。ま
た、ｄ（ｘ_i ，ｑ_ij ^(s) ）の式を展開し、

【００８１】

【数１７】

【００８２】を事前に計算しておくことにより、実際の
量子化時に処理を高速化することができる。

【００８３】歪みの総和は、前述のように、

【００８４】

【数１８】

【００８５】または

【００８６】

【数１９】

【００８７】で表す。ここで、 Ｂｅ（ｉ）＝ｊ は、第ｉ番目の学習データベクトルが、ｓ段目において
代表ベクトルｊに帰属することを表す。また、Ｎは学習
データ数である。

【００８８】代表ベクトルの更新は、次の式によって行
う。

【００８９】

【数２０】

【００９０】通常のベクトル量子化器の符号帳の設計と
異なるのは、ｘ_irから１段前までの量子化値ｑ_ir ^(s-1)
を差し引いて平均することである。なお、通常のベクト
ル量子化の場合、および多段ベクトル量子化における１
段目の量子化の場合でも、１段前までの量子化値を０と
考えれば、多段ベクトル量子化の特殊な場合であると考
えることができる。

【００９１】図６における符号帳評価関数Ｅ算出処理
（ステップ５２０，５５０）の定義式は、前述のよう
に、歪みの総和Ｄすなわち、（＊３）式で表すのが望ま
しい。しかし、簡単のため

【００９２】

【数２１】

【００９３】としてもよいし、ｃ_j ^(s) が使われる頻度
を考慮して

【００９４】

【数２２】

【００９５】としてもよい。ただし、Ｐｒ（ｊ）は、ｊ
番目の代表ベクトルが使用される確率を、ｄ_c （ｃ_j
^(s) ，ｃ_k ^(s) ）は代表ベクトルｃ_j ^(s) とｃ_k ^(s) の
間の距離を表し、一例としてユークリッド距離で定義し
てもよい。

【００９６】以上の変更のもとに、本発明を多段ベクト
ル量子化器の符号帳設計にも使用することができる。

【００９７】前にも述べたが、実際の通信をする場合に
は、なんらかのエラー訂正符号をつけて送信する場合が
多い。しかし、通信路のビットレートの制約によって
は、十分なエラー訂正符号を付加することができないこ
とも多い。そのような場合に、本発明の方法が威力を発
揮する。誤り訂正符号を用いないで本発明のみによって
全段の符号誤り対策をしてもよいが、部分的に誤り訂正
符号を用い、本発明と組み合わせる方法も効果的であ
る。多段ベクトル量子化の場合には、１段目が最も符号
誤りに対して品質の劣化が大きく、順に２段目、３段目
・・・と符号誤りに対する感度が下がっていくという性
質がある。そこで、誤り訂正符号を十分付加することが
できない場合には、１段目を誤り訂正符号によって強力
に保護し、２段目以降は誤り訂正符号によってよりも、
本発明において符号誤り率を適当に定めて符号誤りに強
い符号帳を設計することにより、エラーのないところで
の品質劣化が少なく、エラーが生じても品質の劣化が少
ない符号化器を構成することができる。例えば、本発明
によって、１段目はビット誤り率をゼロまたは、十分小
さな値で符号帳を学習し、２段目以降は、伝送路の符号
誤り率程度、または、２段目以降のはじめの方の段を実
際の符号誤り率よりも若干高めに、後ろの方の段は実際
の誤り率か、若干低めになるように設定して符号帳を設
計し、実際の符号化の場面では、１段目の符号のみに誤
り訂正符号をつけて伝送すると能率がよい。

【００９８】誤り訂正符号の中には、誤り訂正能力は若
干低いが、誤り検出能力の高いものが存在する。これ
は、受信した複数のビットの組のなかで、どのビットが
反転しているかを検出することはできないが、どれかが
反転していることを検出できるものである。このよう
に、訂正はできなくても、誤っていることさえわかれ
ば、受信側でその符号を使うことをやめ、しかるべき処
置をとることができる。例えば、音声信号などの場合に
は、時間軸において、前後のデータと相関が強いため、
受信したまちがった符号を使うよりも、前後の誤りのな
い受信信号（符号）から、誤りを検出した時点の信号を
推定するほうが劣化を小さく抑えることができる場合が
多い。例えば、１フレーム（伝送単位）前のデータをそ
のまま繰り返して使うか、前後の再生ベクトルを線形に
補間して当該時点の再生ベクトルとする方法がよく用い
られる。このように、本発明を用いて符号帳を設計する
場合には、伝送路の誤り率、誤り訂正符号、および、誤
り検出符号を用いた時の修復方法をも考慮に入れるとよ
い。

【００９９】本発明は、例えば音声の符号化に応用する
とよい。本発明の方法が威力を発揮する音声符号化の方
式のひとつに、ＣＥＬＰ方式がある。この方式は、入力
音声信号を線形予測分析し、その結果得られた線形予測
係数を例えば線スペクトル対（ＬＳＰ）と呼ばれるパラ
メータに変換する。ＬＳＰはその量子化特性が非常に優
れているので、よく用いられるが、ＬＳＰ以外にも、Ｐ
ＡＲＣＯＲ係数と呼ばれるパラメータに変換する方法も
ある。ここでは、これらのパラメータを総称して、線形
予測パラメータと呼ぶ。ＣＥＬＰ方式ではまず、この線
形予測パラメータを量子化する。次に、上記線形予測パ
ラメータから得られる線形フィルタを、音源信号で駆動
して得られる信号と、入力信号との歪みが最小となるよ
うに音源信号を決定する。線形予測パラメータの量子
化、音源信号の量子化とも、通常はベクトル量子化を用
いるため、ともに本発明の手法は優れた結果をもたら
す。

【０１００】線形予測パラメータの量子化に本発明を適
用する方法の一例を述べる。まず、入力音声信号の線形
予測分析を行って得られた線形予測係数を線スペクトル
対（ＬＳＰ）に変換する。線形予測分析の次数をｐとす
ると、ＬＳＰはｐ次のベクトルとして得られ、このベク
トルをある符号で表すことができるように量子化する。
なお、ＬＳＰは、音声スペクトルの包絡特性を表すパラ
メータである。音声信号からＬＳＰを算出する方法につ
いては、例えば、文献：吉井貞煕著「ディジタル音声処
理」（東海大学出版会）に記載されている。

【０１０１】ここでは、一例として、線形予測分析次数
１０次、ＬＳＰを計算する時間周期（フレーム周期）は
２０ms程度で行うとよい。なお通常、分析次数は１０次
〜１６次、フレーム周期は１０〜４０ms程度に設定す
る。学習用のデータは、計算時間の許す限り多くのデー
タを準備するとよいが、複数話者の異なった発声およそ
１５００秒もあれば十分である。ＬＳＰをベクトル量子
化する際に、十分な品質を維持するためには、１ベクト
ルあたり２０〜３０ビット必要であるので、１段のベク
トル量子化器で実現することは、計算量と記憶量の観点
から現実的でない。そこで一例として、３段の多段ベク
トル量子化を用い、例えば１段目を８ビット、２段目を
８ビット、３段目を６ビットの、１ベクトルあたり２２
ビットとする。１ベクトルあたりの必要ビット数は駆動
音源の量子化方法によって異なり、ＣＥＬＰでは２０〜
２２ビットで十分な品質が得られる。

【０１０２】符号誤りを考慮したＬＢＧ学習、および、
実際の量子化時における距離尺度の誤り率の設定は、用
途によって異なるが、例えば移動体通信用では、１．０
〜３．０％程度に設定するとよい。ただし、符号誤り率
を高く設定すると、符号誤りのないところでの品質が劣
化するため、符号誤りのないときの品質を重視したい場
合には、誤り率は上記値よりも低めに設定するとよく、
また、符号誤りが生じたときの劣化防止を重視するので
あれば、上記値よりも若干高めに設定してもよい。ま
た、１段目は相対的に符号誤りに対する感度が高いの
で、１段目のみ誤り訂正符号または誤り検出符号を使用
すると効率がよい。この場合には１段目の学習・量子化
時の誤り率の設定は、十分低いかまたは０に設定してよ
く、２段目以降は伝送路に合わせた誤り率を設定する。
なお、誤り検出符号を用い、受信側で誤りが生じたこと
のみが検出された時には、受信した符号からベクトルを
再生することをやめ、前後の時間のベクトルから誤りを
検出した時刻のベクトルを推定するとよい。ベクトル間
の歪み尺度には、ユークリッド距離や重み付きユークリ
ッド距離、ケプストラム歪み等を用いるとよい。

【０１０３】本発明によって、ベクトル量子化器の符号
帳を設計する方法の効果を調べるために、以下の条件に
よる実験を、コンピュータシミュレーションによって行
った。

【０１０４】本実験では、無記憶ガウス情報源をベクト
ル量子化して、従来法との性能を比較する。ベクトル次
元は８次元、量子化ビット数は８ビットで、ベクトル量
子化器は１段で構成した。ベクトル間距離尺度はユーク
リッド距離を用いた。学習データは１０，０００ベクト
ル、テスト用には学習外の５，０００ベクトルを用い、
全体のＳＮ比で評価した。学習時および量子化時の符号
誤り率は１．０％に設定し、テストでは、チャネル誤り
率を０．０〜１０％まで変化させてＳＮ比の変化を調べ
た。比較した方法は、本発明の方法の他、従来法として
符号誤り率を全く考慮しないＬＢＧ法、歪み尺度として
符号誤りを考慮した尺度（誤り率１．０％に設定）を用
いたＬＢＧ法、また、上記誤りを考慮したＬＢＧ法が終
了したあとに、できあがった符号帳に対してインデック
ス付けかえを適用した方法について調べた。結果を図７
に示す。全く符号誤りを考慮しない場合には、△印と破
線で示すように、符号誤りとともに急速に劣化する。一
方、本発明による方法では、符号誤りのないところでわ
ずかに品質が劣化しているものの、符号誤りが生じても
劣化を少なく抑えている。また、●印と実線で示される
誤り尺度のＬＢＧ法でも、十分良好な品質が維持されて
いるが、本発明のほうが優れた結果を示している。ま
た、ＬＢＧ法終了後にインデックス付けかえを行う方法
（□印と一点鎖線）では、誤り尺度ＬＢＧに比べてほと
んど改善していない。

【０１０５】以上より、本発明が、符号誤りのある場合
のベクトル量子化器の設計において、非常に優れた方法
であることが示された。なお、本実験では無記憶ガウス
情報源を用いて性能を比較したが、実際の音声信号や画
像信号のような相関が強い信号の場合には、さらに大き
な効果が期待される。

【０１０６】

【発明の効果】以上説明したように、本発明によれば、
局所最小解に陥る危険を低減し、より高性能な符号帳を
設計することができるとともに、またわずかな計算量の
増加により容易に最適に近い状態に導くことができる。

【図面の簡単な説明】

【図１】本発明によって設計した符号帳を用いてベクト
ル量子化器を構成する一例を示すブロック図である。

【図２】本発明による符号帳の学習法の流れの概略を示
すフローチャートである。

【図３】本発明による符号帳の学習法の流れの概略を示
すフローチャートである。

【図４】図３の処理における Lloyd-Maxアルゴリズムに
よる代表ベクトルの更新処理であるステップ１４０の詳
細な処理を示すフローチャートである。

【図５】図４の処理における学習データの帰属更新処理
であるステップ３１０の詳細な処理を示すフローチャー
トである。

【図６】図２に示す符号帳インデックス付け換え処理で
あるステップ１６０の詳細な処理を示すフローチャート
である。

【図７】多段ベクトル量子化の構成例を示すブロック図
である。

【図８】本発明の効果を調べるためにコンピュータシミ
ュレーションによる符号誤りの実験を行った結果を示す
図である。

【符号の説明】

１ 符号帳 ２ 歪み算出部 ３ 歪み判定部 ４ 符号化部 ５ 復号化部 ６ 符号帳

フロントページの続き (72)発明者 須田 博人 東京都千代田区内幸町一丁目１番６号 日 本電信電話株式会社内

Claims (3)

【特許請求の範囲】
1. 【請求項１】 学習用データを用いてベクトル量子化器
   の最適符号帳を設計するベクトル量子化器の符号帳設計
   方法であって、学習ベクトルを量子化して符号誤りのあ
   る伝送路を伝送すると仮定した場合に符号誤りをも考慮
   して各学習ベクトルを符号帳の中のそれぞれどの代表ベ
   クトルに帰属させるかを更新し、前記仮定のもとにおけ
   る学習ベクトルと受信側の再生ベクトルとの歪みの平均
   値の総和の極小化に基づいて代表ベクトルを更新し、前
   記仮定のもとにおいて受信側の再生ベクトルと学習ベク
   トルとの歪みの平均値を反映する符号帳の評価関数を小
   さくするように符号帳インデックスの付け換えを行い、
   上記処理を交互に繰り返し用いることにより符号誤りの
   ある場合の最適な符号帳を設計することを特徴とするベ
   クトル量子化器の符号帳設計方法。
2. 【請求項２】 代表ベクトルの初期数と代表ベクトルの
   初期値を決定し、前記学習ベクトルの帰属を更新する処
   理と前記代表ベクトルを更新する処理とを交互に繰り返
   し使用する処理と、前記符号帳インデックスの付け換え
   を行う処理を用いたインデックスの付け換えを行う処理
   と、前記代表ベクトルの数を増加させる処理を繰り返し
   行うことにより、所望の数の代表ベクトルを決定するこ
   とを特徴とする請求項１記載のベクトル量子化器の符号
   帳設計方法。
3. 【請求項３】 前記学習ベクトルの帰属を更新する処理
   と、前記代表ベクトルを更新する処理を交互に繰り返し
   使用する処理と、前記符号帳インデックスの付け換えを
   行う処理を用いたインデックスの付け換え処理の２つの
   処理を交互に繰り返し行った後、代表ベクトルの数を増
   加させる処理を行うことを特徴とする請求項１または２
   記載のベクトル量子化器の符号帳設計方法。