JPH01232829A - 学習型多段ベクトル量子化方法と装置 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 ［産業上の利用分野］ 本発明は画像情報等の圧縮に用いられる高能率有歪情報
圧縮符号化に係り、とくに情報源の統計的性質を学習適
応する学部量子化に好適な学習型多段ベクトル量子化方
法と装置に関する。

［従来の技術］ まずベクトル量子化の原理について説明する。

ベクトル量子化は１次元または多次元の系列をいくつか
まとめて多次元数として量子化することによる情報圧縮
技術である。

この次元数は、情報源が１次元の音声や２次元の画像と
いうことではなく、値を複数個まとめて形成される次元
である。すなわち、ｎ次元をｍ個まとめればｎｘｍ次元
となる。まとめ方には多くの方法がある。たとえば画像
の小領域の２×２の画素から輝度サンプルをまとめて１
×４の４次元数、４Ｘ４の領域のＲ，Ｇ、Ｂサンプルを
まとめると３×１６の４８次元数となる。まとめられた
多次元数を入力ベクトルと言い、Ｋ次元のベクトルをＸ
とすると、 五−（五１．五２．入３．・・・、入に）入力ベクトル
基をに次元空間の中で歪（距離）尺度または類似度尺度
である所定の尺度を用いて番号の付いた有限個の代表点
ベクトルに変換するのが、ベクトル量子化である。代表
点の総数をＮとしｉ（１≦ｉ≦Ｎ）番目の代表点ベクト
ルをｙｌとし、所定の尺度を、 ｄ　（Ｘ、　Ｖｉ　）とし、ベクトル量子化の変換をＱ
（）とすると、 Ｑ（入）＝ｙＨ（２） ｄ（ん’ｉ／Ｈ）≦ｄ（ム’ｉ／ｊ）！≠ｊ上記代表点
ベクトルＶｉはコード・ワードと言い、対応するインデ
ックスｉはコード・インデックスという。

さらに−膜化すれば、多次元空間をＮ個に分割し、各部
分空間をＰｉとし、各部分空間にはそれぞれ代表点ベク
トルｙｉをもつと解釈すれば、Ｑ（凶＞＝、ｚｉ　　　
　ｉｆ　　入ｅＰＨこの変換Ｑは符号化Ｃと復号化りの
縦続接続とみなすことができる。符号化Ｃは多次元数か
ら代表点インデックスｉ　（番号）に変換することであ
り、復号化はインデックスｉから代表点ベクトルｙｉに
変換することである。これを式で表わすとつぎのように
なる。

Ｃ（Ｘ＞＝ｉ Ｄ（ｉ＞＝ｙＨ（４） 入力ベクトル基と代表点ベクトル′ｉｉの差のベクトル
はベクトル量子化誤差ベクトル回である。

旦−入−ｉ−１（５） 距離（歪）尺度ｄＢ（ｘ、ｚ）は２個のベクトルのスカ
ラー関数であり、たとえば以下のようなものがある。

ｄＯＯ（Ｘ’、Ｖ）＝ＭＡＸ（ＩＸｋ−ｙｋＩ）ここで
、ｎは整数、ｒは実数を意味する。

ベクトル量子化においては、その効率が代表点ベクトル
Ｖｉの設定に大きく依存する。代表点ベクトルＶｉの設
定方法は、通称り、Ｂ、Ｇ、アルゴリズムと呼ばれる方
法が存在する。ワイ・リント（Ｙ、　Ｌｉｎｄｅ）　、
　Ｘ　−−ブゾ（Ａ、　８０３０　）およびアール・エ
ム・グレイ（Ｒ，Ｈ，ＧｒａＶ＞の論文“ベクトル量子
化設計用アルゴリズム”アイ・イー・イー・イー　トラ
ンザクション　オン　コミュニケーションズ、　　Ｖｏ
ｌ　、　Ｃｏｍ−２８，Ｎｏ　１．１９８０年１月　　
（“Ａｎ　Ａｌｇｏｒｉｔｈｍ　　ｆｏｒ　　Ｖｅｃｔ
ｏｒ　Ｑｕａｎｔｉｚｅｒ　Ｄｅｓｉｇｎ”ＩＥＥＥ　
　Ｔｒａｎｓａｃｔｉｏｎ　Ｏｎ　ＣＯｍｍｕｎｉＣａ
ｔｉＯｎＳ　。

Ｖｏｌ、　Ｃｏｎ−２８，ＮＯ，１，Ｊａｎｕａｒｙ　
１９８０）に説明されている。

代表点数Ｎが大きくなると、最近傍の代表点の探索を全
探索でなく木探索法で行う例も多い。木探索ベクトル量
子化は、量子化演算量が０　（Ｎ）からＯ（１０（７２
Ｎ　）に減少する。メモリ量は中間節点の仮の出力ベク
トルを用意する必要があり、２倍弱になる。また、選択
された代表点は最近傍でない場合があり、性能が劣化す
ることがある。

以上ベクトル量子化の原理的な説明をおこなった。ベク
トル量子化の符号化の多くの方式は、斎藤隆弘および原
島博の論文（“ベクトル量子化とその画像符号化への応
用″信学技報ＩＥ８７−４８．４７−５４頁）に説明さ
れている。

つぎに多段ベクトル量子化の原理を説明する。

多段ベクトル量子化は複数のベクトル量子化を縦続的に
接続、して多段的にω子化を行う量子化手法である。す
なわち前段ベクトル量子化の残差（量子化誤差）ベクト
ルを次段においてベクトル量子化して行く。このような
多段構成は量子化演算量のみならずコード・ブック・メ
モリ量も削減することができる。

ｒ段の各ベクトル量子化が、レベル数（代表点数）Ｎ１
．Ｎ２．・・・、Ｎｒとすると、措子化演算ωとメモリ
量は、ともに０（Ｎ１ＸＮ２ｘ、・・・。

ｘＮｒ）から０　（Ｎ１＋Ｎ２＋、−、＋Ｎｒ＞に減少
する。

多段ベクトル量子化における段数が２段である場合につ
いての説明ををするために、第１表を示す（３段以上の
場合も同様である）。

第１表 前段　　後段 入力ベクトル　　　　　　　凶　　　入−ｙ１コード・
インデックス　　　ｉｊ 量子化出力ベクトル　　　　２１　　　ｙ２２段ベクト
ル量子化全体の量子化出力はｙ１＋ｙ２であり、全体の
コード・インデックスは（：。

ｊ）になる。

このような従来の多段ベクトル量子化装置の構成は、第
５図に示されている。

送信側には、前段および後段の符号化ベクトル量子化器
１０Ｂおよび６０Ｂがあり、入力ベクトル４１　（Ｘ）
が符号化ベクトル量子化器１０Ｂに印加されると、入力
ベクトル４１　（ｘ）に対応する代表点を選択し、符号
化ベクトル量子化器１０Ｂに含まれたコード・ブック記
憶部から、その代表点のコード・ワードである量子化出
力ベクトル４２Ｂ（２１）を出力する。これと同時に、
この選択された代表点の多段構成のコード・インデック
ス４５Ｂ（ｉ）を伝送手段により受信側へ出力している
。

この量子化出力ベクトル４２Ｂ（ｚｌ＞と入力ベクトル
４１　（Ｘ）との差でめる量子化誤差ベクトル４３Ｂ　
（ｘ−、ｚｌ　＞が後段の符号化ベクトル量子化器６０
Ｂの入力ベクトルとして印加されている。

量子化誤差ベクトル４３Ｂ（ｘ−２１＞を印加された後
段の符号化ベクトル量子化器６０Ｂにおいても、前段の
符号化ベクトル量子化器１０Ｂにおける動作と同様にし
て、ｍ子化誤差ベクトル４３Ｂ　（ｘ−ｚｌ　＞に対応
する代表点を選択し、符号化ベクトル量子化器６０Ｂに
含まれたコード・ブック記憶部から、その代表点のコー
ド・ワードである量子化出力ベクトル７２Ｂ（ｆｉ２）
を出力し、これと同時に、この選択された代表点に対応
するコード・インデックス７５Ｂ（ｊ＞を伝送手段によ
り受信側へ出力している。

受信側には前段および後段の復号化ベクトル量子化器１
１０Ｂおよび１６０Ｂがあり、伝送手段で送られてきた
２つのコード・インデックス４５Ｂ（１）および７５Ｂ
（ｊ＞を受けて、それぞれの内部に含まれたコード・ブ
ック記憶部からそれぞれのコード・インデックス４５Ｂ
（ｉ）および７５Ｂ　（ｊ　＞に対応する量子化出力１
４２Ｂ（ｙｌ）および１７２Ｂ　（ｙｌ　）を出力し、
加算して総合量子化出力ベクトル１６９Ｂ　（ＶＩ　＋
ｙ２　）を１ｑでいる。

［発明が解決しようとする課題］ ベクトル量子化は次元の数を増大すれば理論的にはレー
ト歪限界にまで近づくことのできる符号化方式と言われ
ている。ところが同一ビット・レートの仮定のちとに単
純に次元数を増大すると量子化演算量とメモリ量は指数
的に増大する。これが第１の問題点である。

これは第５図に示した多段ベクトル量子化で解決できた
かにみえるが、段数を多く各段のレベル数を小さく設定
した場合、前段の代表ベクトルの個々のボロノイ領域の
統計的構造を次段が無視して一括して扱うため性能は劣
化する。これを回避するため以下の２種類の対策方法が
従来からとられている。

（１）前段のインデックスによって異なる変換を誤差ベ
クトルに掛けることで、ボロノイ領域内の統計的性質を
均一化する。

（２）段数を極力少なく保ち、前段のレベル数を大きく
保つ。

しかしながら（１）の対策には変換種類の限界があり、
（２）の対策は多段ベクトル量子化の利点を減少させる
ため、その効果に限界がある。

また第２の問題点として、ベクトル量子化全体に関する
コード・ブックの汎用性に対する問題点がある。コード
・ブック作成の際に使用したトレーニング集合は有限で
、一般に、符号化復号化に使用する入力ベクトル集合よ
り狭いものが使われることが多い。この第２の問題点に
対する対策としては、入力ベクトルの統計的偏りを仮定
し変換することで、一定の統計的性質に合致するように
変換して、その後にベクトル量子化を行うもので、平均
値分離ベクトル四子化、ゲインーシエイプ（Ｇａｉｎ−
ｓｈａｐｅ　）ベクトル量子化およびディスクリート・
コサイン変換ベクトル量子化等の直交変換ベクトル量子
化がこれにあたる。この対策は有用であるが、その限界
も存在し、入力ベクトルの統計的性質の経時的な変動へ
の対応を基本的に持たないために、統計的性質が大きく
異なる入力が与えられたような場合には、量子化の性能
が劣化するという解決されるべき課題があった。

［課題を解決するための手段］ このような課題を解決する方法として入力ベクトルの統
計的性質をコード・ブックに取り込んでいく方式が望ま
れる。本発明においては、コード・ブックに入力ベクト
ルの統計的性質を直接に順次取り込み、学習適応を可能
にし、入力ベクトルの統計的性質の非定常性にコード・
ブックが追随するようにすることにある。

これは、たとえば量子化出力ｙｉを入力ベクトルＸにあ
る比率で近ずけることができれば達成される。

テウボ・コホーネン（ＴｅＵｂＯ，にｏｈｏｎｅｎ　）
による論文（“Ｓｅｌｆ−Ｏｒｇａｎｉｚａｔｉｏｎ　
ａｎｄ　ＡｓｓｏｃｉａｔｉｖｅＭｅｆｆ）Ｏｒｙ”、
　ｓｐｒ＋ｎｇｅｒ−ｖｅｒ＋ａｇ、　１９８４　）で
述べられているような学習機構、すなわちコホーネンの
ニューロン層の場合、入力ベクトルは絶対値が１に正規
化され、代表点の各次元の成分は、入力ベクトルに内積
される重みの各次元成分となっている。

しかも重みの絶対値も１に正規化されている。

そのため極小距離代表点を求めることは極大内積の重み
ベクトルをもつニューロンを求めることにおき替えうる
。そのようなコホーネン学習は、入力ベクトルの最近例
の重みについてのみ、重みを入力ベクトルに近づけると
いう、重みの更新を行う。

このような機能を実現するために、 多くの量子化出力ベクトルであるコード・ワードと各コ
ード・ワードに対応するコード・インデックスを内容と
するコード・ブックと、類似度尺度をも含むことのある
距離尺度により入力ベクトルがコード・ブック中のどの
コード・ワードに最も接近（類似）しているかを識別し
てコード・ワードを選択し、これに対応するコード・イ
ンデックスを出力する最小距離識別部とを有する複数個
の多段接続されたベクトル量子化器を具備し、前段のベ
クトル量子化器の量子化誤差ベクトルを次段のベクトル
量子化器の入力ベクトルとする多段ベクトル量子化装置
において、前段のベクトル量子化器から出力される選択
されたコード・ワードに対して、次段のベクトル量子化
器から出力されるコード・ワードを用いて学習適応作用
を有する学習部 を設けた。

さらに、入力ベクトルの印加に対して、前段のベクトル
量子化誤差ベクトルが所定値を越えた場合には、この入
力ベクトルをそのまま受信側へも伝送し、これを送信側
および受信側の前段コード・ブック中に格納するように
した。

［作用］ このような手段を構することによって、従来の多段ベク
トル量子化装置と異なり、本発明においては、最終段を
除く各段のベクトル量子化器の各コード・ブックにおい
て、符号化（送信側）または復号化（受信側）の処理ご
とに１つのコード・ワードを学習適応により順次更新す
るようにした。

また入力ベクトルに対して、送信側の前段における誤差
ベクトルが所定値を越えた場合には、この入力ベクトル
が受信側へも伝送され送信側および受信側のコード・ブ
ックのコード・ワードを更新し、あるいは追加すること
により学習機能を得るようにした。

このように動作する結果、学習後のコード・ワードは、
多次元空間内の近傍に落ちた入力ベクトルの時間的平均
値を表わすように移動されて、コード・ブック全体では
、入力ベクトルの統計的分布を反映したコード・ワード
配置をもつようになり、また、統計的性質の経時的変化
への適応性により、大きなＳ／Ｎ　（信号対雑音）比の
向上が得られる。

［実施例］ 本発明による学習型多段ベクトル量子化装置の一実施例
を示す回路構成を第１図に示す。

符号化側でおる送信側には、前段および後段の符号化ベ
クトル量子化器１０および６０と、学習制御部８０がお
り、入力ベクトル４１　（Ｘ）が符号化ベクトル量子化
器１０に印加されると、入力ベクトル４１　（Ｘ）に対
応する代表点を選択し、前段の符号化ベクトル量子化器
１０に含まれたコード・ブック記憶部から、その代表点
のコード・ワードである量子化出力ベクトル４２（、ｙ
ｌ）を出力する。これと同時に、この選択された代表点
のコード・インデックス４５（ｉ）を伝送線により受信
側へ出力している。

この量子化出力ベクトル４２（２１）と、入力ベクトル
４１　（Ｘ）との差である量子化誤差ベクトル４３（ｘ
−２１＞が、後段の符号化ベクトル量子化器６０の入力
ベクトルとして印加されている。

量子化誤差ベクトル４３（ｘ−、ｚｌ＞を印加された後
段の符号化ベクトル量子化器６０においても、前段の符
号化ベクトル量子化器１０における動作と同様にして、
量子化誤差ベクトル４３（ｘ−ｙｌ）に対応する代表点
を選択し、符号化ベクトル量子化器６０に含まれたコー
ド・ブック記憶部から、その代表点のコード・ワードで
ある量子化出力ベクトル７２（，１２）を出力し、これ
と同時に、この選択された代表点のコード・インデック
ス７５（ｊ）を伝送手段により受信側へ出力している。

ここで前段の符号化ベクトル量子化器１０の出力でおる
量子化出力ベクトル４２と、それに対応する後段の符号
化ベクトル量子化器６０の出力である量子化出力ベクト
ル７２とは、ともに学習制御部８０に印加される。ここ
で量子化出力ベクトル４２は、量子化出力ベクトル７２
によって学習効果を受けて、学習後量子化出力ベクトル
８５が出力され、これによって、前段の符号化ベクトル
量子化器１０のコード・ブックのコード・ワードは更新
され、更新されたコード・ワードによって、次回の量子
化動作が行われる。

受信側には、前段および後段の復号化ベクトル量子化仝
１１０および１６０と学習制御部１８０があり、伝送線
で送られてきた２つの多段構成のコード・インデックス
４５（ｉ＞および７５（ｊ＞を受けて、それぞれの内部
に含まれたコード・ブック記憶部から、それぞれのコー
ド・インデックス４５（ｉ）および７５（ｊ＞に対応す
る量子化出力１４２（ｙｌ）および１７２（（、ｚ２＞
を出力し、加算して総合量子化出力ベクトル１８１（２
１＋ｐ２　）を得ている。

ここで、前段の復号化ベクトル量子化器１１０の出力で
ある量子化出力ベクトル１４２と、それに対応する後段
の復号化ベクトル量子化器１６０の出力で競る量子化出
力ベクトル１７２とは、ともに学習制御部１８０に印加
される。ここで量子化出力ベクトル１４２は、量子化出
力ベクトル１７２によって学習効果を受けて、学習後量
子化出力ベクトル１８５を出力し、これによって、前段
の復号化ベクトル量子化器１１０のコード・ブックのコ
ード・ワードは更新され、更新されたコード・ワードに
よって、次回のベクトル量子化動作が行われる。

このようにして、量子化出力ベクトル１４２は量子化出
力ベクトル４２を、量子化出力ベクトル１７２は量子化
出力ベクトル７２をを忠実に再瑛している。このことは
送信側と受信側において常に等しい学習後量子化ベクト
ル８５および１８５によりコード・ブックが更新され、
両者のコード・ブックの内容は常に等しいものに保たれ
ることを意味している。

その結果、Ｓ／Ｎ　（信号対雑音）比の良好な総合組子
化出力ベクトル１８１　（］１−＋１２　）が得られる
。この学習過程をざらに詳細に説明する。

学習制御部８０および１８０の機能は同じであるから、
学習制御部８０の場合について説明する。

テウボ・コホーネン（丁ｅｕｂｏ、にｏｈｏｎｅｎ　）
による論文（“Ｓｅｌｆ−Ｏｒｇａｎｉｚａｔｉｏｎ　
ａｎｄ　Ａｓｓｏｃｉａｔｉｖｅ）１ｅｍｏｒｙ　”、
　Ｓｐｒｉｎｇｅｒ−Ｖｅｒｌａｇ、　１９８４　）で
述べられているような学と機構すなわちコホーネンのニ
ューロン層の場合、入力ベクトルは絶対値が１に正規化
され、代表点の各次元の成分は、入力ベクトルに内積さ
れる重みの各次元成分となっている。

しかも重みの絶対値も１に正規化されている。

そのため極小距離代表点を求めることは極大内積の重み
ベクトルをもつニューロンを求めることにおき替えうる
。

１番目のニューロンの重みベクトルをＷｉとすると、コ
ホーネン学邑は最近例の重み１についてのみ、次式によ
る重みの更新を行う。

ｏｌｄ ＷＨｎ０ｗ＝（１−ａ＞Ｗ−＋ａｘ （Ｑ＜ａ≦１） ｎｅｗは更新後、ｏｌｄは更新前を意味する。

その他の重みは変化を受けないので次式のようになる。

Ｗｉ　　　−Ｗ・ｏｌｄ ００ｗ 、　　　　　　　　　　　　（７） 本発明では、これを一般の（正規化されていない）ベク
トル量子化に拡張して極（最）小距離代表ベクトルにつ
いてのみ、次式による代表点移動を行う。

１ｄ Ｘｌ　００’　＝　（１−ｋ）　”ｙ’−＋ｋｘ（０＜
ｋ≦１） その他の代表点は、変化を受けないので次式のようにな
る。

ｎｅＷ　　　　ｏｌｄ　　　　　　　　（９）！ｉ　　
　−Ｖｉ 一般のベクトル量子化の場合には、移動による重みの正
規化の問題（（６）式により重みの絶対値が１ではなく
なること）は避けられ、かつ距離計算をチェビチェフ距
離ｄ１（ｘ、ｚ）で行う高速処理が可能となることの利
点がある。

また逆伝播型のニューラル・ネットと同じく、エラー・
パワー（誤差ベクトルの絶対値の２乗）のすべての代表
点の成分による偏微分に比例して、それらを修正すると
いう最急降下法による解も、上式〈８）および（９）を
導くことができることを以下に示す。

エラー・パワーＥを前段の量子化誤差ベクトル４３のパ
ワーとし、 Ｅ＝　（ｘ−ｙ・＞２／２　　　　　　（１０）一１ ｙｋｉの変化量を、 ｋａＥ／ａＶＨＨ＝ｋ　（Ｘｋ−Ｖｋｉ）とすると、選
択された代表点（入力ベクトル４１の五とは掻（最）小
距離）のみがＯａ外の値をもち、上記の（８）および（
９）式が導かれる。ここでｋはＯ＜ｋ≦１なるスカラー
定数である。

ところが、明らかに入力ベクトル４１の凶は送信側では
知ることができても、受信側では不明である。

そこで多段ベクトル量子化の構成を設定し、前段の量子
化出力ベクトル４２のＶｉを次段の量子化出力ベクトル
７２で学習させる構成を採用した。

以下、第１表の表記法にしたがい説明を進める。

この構成の場合に入力ベクトル４１の凶の近似として、
ｙ１＋ｙ２が用いられることになる。

ｚｌ　＝　（１−ｋ）　ｉｌ　＋ｋ　（、ｙｌ　＋２２
　）−ｚｌ　＋ｋｚ２　　　　　　　　　（１２＞この
方式により、多段ベクトル量子化における学習機能が実
現される。

第２図には、送信側の前段の符号化ベクトル量子化器１
０および字画制御部８０の一実施例の、より詳細な回路
構成が示されている。この実施例においては、全探索方
式のベクトル量子化を行っており、符号化ベクトル量子
化器６０の量子化出力ベクトル７２（，１２）に、Ｑ＜
ｋ≦１なるスカラー定数ｋを乗じて、前段の符号化ベク
トル量子化器１０の量子化出力ベクトル４２（２１）に
加痒して、学習後量子化出力ベクトル８５としている。

第２図において、１１はインデックス・カウンタであり
、図示されてはいないクロック発生器からのクロックを
受けてコード・インデックス５５を発生する。このコー
ド・インデックス５５はコード・ブック記憶部１２に印
加され、コード・インデックス５５をアドレスとしてデ
ータであるコード・ワードを、このコード・ブック記憶
部１２に読み書きしている。コード・ブック記憶部１２
の出力であるコード・ワード５２はコード・ワード・ラ
ッチ１３によってラッチされ、その出力はω子化出力ベ
クトル４２（２１）として出力される。

インデックス・カウンタ１１の出力であるコード・イン
デックス５５はコード・インデックス・ラッチ１４にも
印加されて、ラッチされ、そこからコード・インデック
ス４５（ｉ）として出力される。

距離尺度検出部１５には、量子化出力ベクトル４２とな
るべきコード・ワード５２　（、ｚｉ　＞と入力ベクト
ル４１　（Ｘ）とが印加され、印加された両者の距離（
歪）尺度が算出され、スカラー量である距離尺度５３が
出力される。

この距離尺度５３は、最小値ラッチ１６に保持されてい
る最小距離である最小値５４と比較部１７において比較
され、その結果、距離尺度５３の値が小さいときには、
コード・ワード・ラッチ１３、コード・インデックス・
ラッチ１４および最小値ラッチ１６の３つのラッチに保
持されている値は更新されて、新しい値が保持される。

このように、距離尺度検出部１５．最小値ラッチ１６お
よび比較部１７は、コード・ブック記憶部１２中のコー
ド・ワードから入力ベクトル４１に最も近い値を識別す
る最小距離識別手段として作用している。

学習制御部８０には、スカラー乗算器８１とベクトル加
算器８２とがあり、スカラー乗算器８１には、後段の量
子化出力ベクトル７２（ｙ２）が印加され、ここでＱ＜
ｋ≦１なるスカラー定数ｋを乗算されて乗算出力ベクト
ル９１（ｋｚ２＞が出力され、これと量子化出力ベクト
ル４２（ｚｌ）とがベクトル加算器８２で加算されて、
学習後量子化出力ベクトル８５　（ｚｌ　＋ｋｙ２　）
が得られ、コード・ブック記憶部１２に加えられる。

学習後量子化ベクトル８５を受けたコード・ブック記憶
部１２は、全コード・ワードの探索終了時にインデック
ス・カウンタ１１が出力するキャリー信号５１により、
学習後最子化出力ベクトル８５　（ｉｌ　＋ｋｙ２　）
を、コード・インデックス・ラッチ１４が出力するコー
ド・インデックス４５の指示するアドレスに書き込む。

このようにして符号化動作が行われるごとに学習動作が
行われる。

後段の符号化ベクトル量子化器６０の内部構成は、第５
図の後段の符号化ベクトル量子化器６０Ｂと同じであり
、第２図に示した前段の符号化ベクトル量子化器１０と
異なる点は、最終段であるために学習機能を要しないこ
とから、コード・ブック記憶部１２に、学習後量子化出
力ベクトル８５が印加されていない点であり、その他の
構成要素は同じものを使用することができる。

第３図には、受信側の前段の復号化ベクトル量子化器１
１０および学習制御部１８０の一実施例の、より詳細な
回路構成が示されている。復号化ベクトル量子化器１６
０の量子化出力ベクトル１７２（ｚ２）にＱ＜ｋ≦１な
るスカラー定数ｋを乗じて前段の復号化ベクトル量子化
器１１０の組子化出力ベクトル１４２（，１１＞に加算
して、学習後量子化出力ベクトル１８５としている。

第３図において、１１４はコード・インデックス・ラッ
チであり、伝送手段を介して送信側から送られてくるコ
ード・インデックス４５を受けてラッチし、コード・イ
ンデックス１５１を出力する。このコード・インデック
ス１５１はコード・ブック記憶部１１２に印加され、コ
ード・インデックス１５１をアドレスとして、データで
あるコード・ワードをこのコード・ブック記憶部１１２
に読み書きすることができる。コード・ブック記憶部１
１２の出力であるコード・ワード１５２は、コード・ワ
ード・ラッチ１１３によってラッチされ、その出力は量
子化出力ベクトル１４２として出力される。

学習制御部１８０には、スカラー乗算器１８１とベクト
ル加算器１８２とがあり、後段の量子化出力ベクトル１
７２（ｙ２＞が印加され、ここでＱ＜ｋ≦１なるスカラ
ー定数ｋを乗算されて乗算出力ベクトル１９１（ｋｚ２
＞が出力され、これと量子化出力ベクトル１４２（ｚｌ
＞とがベクトル加算器１８２で加算されて、学習後量子
化出力ベクトル１８５　（ｙｉ　＋ｋｙ２　）が１ｑら
れ、コード・ブック記憶部１１２に加えられる。

学習後量子化ベクトル１８５を受けたコード・ブック記
憶部１１２は、学習後量子化出力ベクトル１８５　（ｚ
ｌ　＋ｋｚ２　）の１直を、コード・ワード・ラッチ１
１３の動作タイミングよりも遅れたタイミングで、コー
ド・インデックス・ラッチ１１４が指示するコード・イ
ンデックス１５１の指示するアドレスに書き込む。この
ようにして復号化動作が行われるごとに学習動作が行わ
れる。

後段の復号化ベクトル量子化器１６０の内部構成は、第
５図の後段の復号化ベクトル量子化器１６０Ｂと同じで
あり、第３図に示した前段の復帰化ベクトル量子化器１
１０と異なる点は、最終段であるために学習機能を要し
ないことから、コード・ブック記憶部１１２に、学習後
量子化出力ベクトル１８５が印加されていない点であり
、その他の構成要素には同じものを使用することができ
る。

第４図は、Ｍ段の符号化ベクトル量子化器の装置の動作
の流れを示すフローチャートであり、第１図ないし第３
図に示した本発明の実施例の動作においてはＭ＝２であ
る。

動作を開始すると、量子化誤差ベクトル４３の値旦を入
力ベクトル４１の値入に設定する（Ｓ２０１、第４図）
。

そこで第１段目（段数変数ｎ＝１）のベクトル量子化器
における処理の準備をする。（３２０２）そこで第ｎ段
目（ｎ＝１＞のベクトル量子化器（１０，１１０）にお
いて、コード・インデックス（５１，１５１＞に指示さ
れたコード・ブック記憶部（１２，１１２＞におけるア
ドレスから、コード・ワード（５２，１５２＞を読み出
し、ベクトル量子化処理を行い、コード・インデックス
ｉ　ｎ　（４５）と量子化出力ベクトルｙｎ　　（４２
゜１４２）を求め（Ｓ２０３＞、量子化誤差ベクトル（
４３）す＝回−ｙｎ　　（ここで、段数変数ｎ＝１のと
きはｄ＝ｘ−ｙｌ　）が得られ、次段の入力ベクトルと
して使われる（３２０４＞。

このベクトル量子化処理が、段数変数ｎ＝１段目のもの
ではない場合には（３２０５ＮＯ＞　、学習制御部（８
０，１８０＞からの学習後量子化出力ベクトル＜８５．
１ｓ５＞　ｙ（ｎ−１）を、ｚ（ｎ−１）＋ｋｙｎにし
て、コード・ブック記憶部１２゜１１２の書き替えを行
い、学習して、次の作業に適応する（３２０６＞。

ステップ５２０５で段数変数ｎ＝’ｌであった場合（Ｓ
２０５ＹＥＳ）、またはステップ３２０６の学習を終了
した場合には、処理すべきベクトル量子化器の段数でお
る段数変数ｎ＠ｎ＋１にインクリメントし、（３２０７
＞、ｎが総段数Ｍに達していないときにはステップ５２
０３にもどって処理を続け（３２０８ＮＯ）　、段数変
数ｎがＭに達したときには作業は終了する（８２０８Ｙ
ＥＳ）。このようにしてＭ段のベクトル量子化器の装置
の動作は行われる。

第２図の距離尺度検出部１５において、入力ベクトル４
１　（Ｘ）のコード・ワード５２からの距離を検出する
場合に、所定値を越えてしまうことが発生し得る。この
ような現象は、コード・ブック記憶部１２にすでに格納
されているコード・ワード５２の示すベクトル値に対し
て、入力ベクトル４１の直入が著しく離れている場合に
発生する。

そして、量子化誤差ベクトル４３の値も著しく大きなも
のになる。

このような現象が予想される場合には、探索終了時に距
離尺度検出部１５において、所定値を越えた入力ベクト
ル４１　（Ｘ）とコード・ワード５２の距離を検出した
ときに、この入力ベクトル４１のｉＦ！１（ｘ）をコー
ド・ブック記憶部１２に格納すると同時に、この入力ベ
クトル４１の値Ｘをそのまま受信側にも送り、復号化ベ
クトル量子化器１１０のコード・ブック記憶部１１２に
も格納することによって、以後の符号化復号化の動作は
大きな学習効果を受けることが可能となる。

この所定値を越えた入力ベクトル４１の直入をコード・
ブック記憶部１２および１１２に新たなコード・ワード
として格納する場合には、すでに格納されているコード
・ワードに追加してもよいし、あるいは使用頻度の最も
少ないコード・ワードを消去し、新たなコード・ワード
に置き替えてもよいことは以上の説明から明らかであろ
う。

［発明の効果］ 以上の説明から明らかなように本発明によれば、多段ベ
クトル量子化の最終段を除く各段のベクトル量子化器の
コード・ブックを符号化または復号化の処理ごとに１つ
のコード・ワードずつ更新を受けることができ、コード
・ワードは多次元空間内の近傍に落ちた入力ベクトルの
時間的平均に移動されて、コード・ブック総体では、入
力ベクトルの統計的分布を反映したコード・ワード配置
をもつことが可能になった。この効果は、コード・ブッ
ク製作に使用したトレーニング集合と統計的にかなり性
質の異なる入力ベクトル集合が与えられたときに、顕著
なＳ／Ｎ比の向上をもたらす。

また、統計的性質が経時的に変動することに対しても対
応することができる。第１図〜第３図に示した構成で数
ｄＢのＳ／Ｎ比向上がもたらされることを確認した。し
たがって本発明の効果は極めて大きい。

【図面の簡単な説明】

第１図は本発明の一実施例を示す回路構成図、第２図は
第１図に示した要部の構成要素である送信側の前段の符
号化ベクトル量子化器１０および学習制御部８０の一実
施例を示す回路構成図、第３図は第１図に示した要部の
構成要素である受信側の前段の復号化ベクトル量子化器
１１０および学習制御部１８０の一実施例を示す回路構
成図、 第４図は第１図ないし第３図に示した実施例の動作の流
れを示すためのフローチャート、第５図は従来の多段ベ
クトル量子化装置の回路構成図である。 １０．１０８・・・符号化ベクトル団子化器（前段）１
１・・・インデックス・カウンタ １２・・・コード・ブック １３・・・コード・ワード・ラッチ １４・・・コード・インデックス・ラッチ１５・・・距
離尺度検出部 １６・・・最小値ラッチ １７・・・比較部 ４１・・・入力ベクトル ４２．４２８・・・組子化出力ベクトル４３．４３Ｂ・
・・量子化誤差ベクトル４５．４５Ｂ・・・コード・イ
ンデックス５１・・・キャリー信号 ５２・・・コード・ワード ５３・・・距離尺度ベクトル ５４・・・最小値ベクトル ５５・・・コード・インデックス ６０．６０８・・・符号化ベクトル量子化器（次段）７
２．７２８・・・」子化出力ベクトル７５．７５８・・
・コード・インデックス８０・・・学習制御部 ８１・・・スカラー乗算器 ８２・・・ベクトル加算器 ８５・・・学習後量子化出力ベクトル ９１・・・乗算出力ベクトル １１０．１１０Ｂ・・・復号化ベクトル量子化器（前段
） １１２・・・コード・ブック記憶部 １１３・・・コード・ワード・ラッチ １１４・・・コード・インデックス・ラッチ１５１・・
・コード・インデックス １５２・・・コード・ワード １６０．１６０Ｂ・・・復号化ベクトル量子化器（次段
） １６９．１６９８・・・総合量子化出力ベクトル１７２
・・・量子化出力ベクトル １８０・・・学習制御部 １８１・・・スカラー乗算器 １８２・・・ベクトル加算器 １９１・・・乗算出力ベクトル

Claims (1)

1. 【特許請求の範囲】 １、量子化出力ベクトルとなるべき複数のコード・ワー
   ドと、前記コード・ワードに対応するコード・インデッ
   クスとをコード・ブック（１２、１１２）に格納し、 入力ベクトルが前記コード・ブック中のどのコード・ワ
   ードにより近いかを所定の尺度により識別して、選択さ
   れたコード・ワードとそれに対応するコード・インデッ
   クスを出力する複数のベクトル量子化手段を有し、前段
   のベクトル量子化手段（１０、１１０）の量子化誤差ベ
   クトルを次段のベクトル量子化手段（６０、１６０）の
   入力ベクトルとすることのある多段ベクトル量子化方法
   において、 前記前段のベクトル量子化手段において前記選択された
   コード・ワードに対して、前記次段の出力ベクトルであ
   るコード・ワードを用いて学習適応を行うようにした 学習型多段ベクトル量子化方法。 ２、前記次段のベクトル量子化手段の出力ベクトルであ
   るコード・ワード（７２、１７２）に１以内の正のスカ
   ラー定数を乗じて前記前段のベクトル量子化手段におい
   て選択されたコード・ワードに加算して学習適応を行う
   ようにした請求項１記載の学習型多段ベクトル量子化方
   法。 ３、前記前段のベクトル量子化手段の量子化誤差ベクト
   ルの絶対値が所定の値を越えない場合に、前記次段のベ
   クトル量子化手段の出力ベクトルであるコード・ワード
   に１以内の正のスカラー定数を乗じて、前記前段のベク
   トル量子化手段において前記選択されたコード・ワード
   に加算する学習適応を行い、 前記前段のベクトル量子化手段の量子化誤差ベクトルの
   絶対値が所定の値を越えてしまうような入力ベクトルを
   受けた場合には、前記入力ベクトルの符号化を行う送信
   側から復号化を行う受信側へ伝送し、送信側および受信
   側における前段のベクトル量子化手段（１０、１１０）
   の有するコード・ブック（１２、１１２）に前記入力ベ
   クトルを格納するようにした請求項１記載の学習型多段
   ベクトル量子化方法。 ４、量子化出力ベクトルとなるべき複数のコード・ワー
   ドと、前記コード・ワードに対応するコード・インデッ
   クスとを格納するコード・ブック（１２、１１２）と、
   入力ベクトルが前記コード・ブック中のどのコード・ワ
   ードにより近いかを所定の尺度により識別して選択する
   最小尺度検出手段（１５、１６、１７）と、 前記選択されたコード・ワードを出力するための出力手
   段（１３、１１３）とを含む複数のベクトル量子化手段
   を含み、符号化において前段のベクトル量子化手段（１
   ０、１１０）の量子化誤差ベクトルを後段のベクトル量
   子化手段（６０、１６０）の入力ベクトルとすることの
   ある多段接続された多段ベクトル量子化装置において、 前記前段のベクトル量子化手段において前記選択された
   コード・ワードに対して、前記次段のベクトル量子化手
   段の出力ベクトルであるコード・ワードを用いて学習適
   応を行わせて前記コード・ブックに対して学習後量子化
   出力ベクトルを出力するための学習制御手段（８０、１
   ８０） を具備した学習型多段ベクトル量子化装置。 ５、前記学習制御手段が、 前記次段のベクトル量子化手段の出力ベクトルであるコ
   ード・ワード（７２、１７２）に１以内の正のスカラー
   定数を乗じて前記前段のベクトル量子化手段において選
   択されたコード・ワードに加算して前記学習後量子化出
   力ベクトルを出力するものである請求項４記載の学習型
   多段ベクトル量子化装置。 ６、前記学習制御手段が、 前記次段のベクトル量子化手段の出力ベクトルであるコ
   ード・ワードに１以内の正のスカラー定数を乗じて乗算
   出力（９１、１９１）を得るためのスカラー乗算手段（
   ８１、１８１）と、 前記前段のベクトル量子化手段において選択されたコー
   ド・ワードと前記乗算出力とを加算して前記学習後量子
   化出力ベクトルを出力するためのベクトル加算手段（８
   ２、１８２）と を含むものである請求項５記載の学習型多段ベクトル量
   子化装置。 ７、前記学習制御手段が、 送信側の前段のベクトル量子化手段における量子化誤差
   ベクトルの絶対値が所定の値を越えてしまうような入力
   ベクトルを受けた場合に、前記入力ベクトルを、前記入
   力ベクトルの符号化を行う送信側から復号化を行う受信
   側へ伝送し、送信側および受信側における前段のベクト
   ル量子化手段（１０、１１０）の有するコード・ブック
   （１２、１１２）に前記入力ベクトルを格納し、かつ前
   記学習適応を行うものである請求項４記載の学習型多段
   ベクトル量子化装置。