JP2829083B2 - ベクトル量子化方式 - Google Patents

ベクトル量子化方式

Info

Publication number
JP2829083B2
JP2829083B2 JP2044405A JP4440590A JP2829083B2 JP 2829083 B2 JP2829083 B2 JP 2829083B2 JP 2044405 A JP2044405 A JP 2044405A JP 4440590 A JP4440590 A JP 4440590A JP 2829083 B2 JP2829083 B2 JP 2829083B2
Authority
JP
Japan
Prior art keywords
value
vector
gain
inner product
index
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2044405A
Other languages
English (en)
Other versions
JPH03248624A (ja
Inventor
公生 三関
政巳 赤嶺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2044405A priority Critical patent/JP2829083B2/ja
Priority to CA002027705A priority patent/CA2027705C/en
Priority to US07/598,989 priority patent/US5230036A/en
Priority to DE69032551T priority patent/DE69032551T2/de
Priority to EP90311396A priority patent/EP0424121B1/en
Publication of JPH03248624A publication Critical patent/JPH03248624A/ja
Priority to US08/504,227 priority patent/USRE36646E/en
Application granted granted Critical
Publication of JP2829083B2 publication Critical patent/JP2829083B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【発明の詳細な説明】 〔発明の目的〕 (産業上の利用分野) この発明は、音声や画像信号を高能率に圧縮する符号
化方式で広く用いられるベクトル量子化方式に係り、特
にベクトルをゲインとインデックスの情報に分離して量
子化するベクトル量子化方式に関する。
(従来の技術) 音声や画像信号を高能率に圧縮する方式としてベクト
ル量子化が広く用いられている。
L個のサンプルから構成される目標ベクトルu=
[u1,u2,…,uL]に対し、コード・ベクトル又はコード
・ベクトルから生成されるベクトルu(i)=[u1 (i),u2
(i),…,uL (i)](i=1,2,…,Ns)とゲインテーブルTG
内に格納されるNG個のゲイン量子化値Gq(q=1,2,…,N
G)を用いて、ベクトル量子化を行う方法について説明
する。
このベクトル量子化で最終的に選択されるコードベク
トルのインデックスIとゲインコードQを用いて、目標
ベクトルuの量子化ベクトルは次のように表される。
=GQ・u(I) (1) 以下に従来法のベクトル量子化法に基づきインデック
スIとゲイン・コードQの選択法について詳細に説明を
行う。
目標ベクトルuと量子化ベクトルの候補ベクトルとの
誤差Eは次式で表される。
上式においてすべてのiとqの組合せについて誤差E
を求め、誤差Eが最小となるときのiとqの組合わせを
見つけることが誤差最小という意味では最適なiとqの
選択法である。しかし、この方法では、最小誤差Eを求
めるために、(2)式の計算及び比較の計算をNS×NG
行う必要があるため、NSとNGの値にも依るが、通常計算
量が莫大になるため、以下に述べる方法が用いられる。
まず(2)式を(3)式のように書きかえる。
ここでG(i)は各インデックスiに対して(3)式のE
(i)を最小化する最適なゲインを表す。(3)式の両辺
をG(i)で偏微分して零とおくことによりG(i)は決定す
る。
すなわち これをG(i)について解くと、 の置きかえを行うと、(5)式は と表すことができ、これを(3)式に代入すると、 が成立する。従って最適なゲインG(i)が与えられている
場合には、誤差E(i)を最小化する最適なインデックスは
[A(i)2/B(i)を最大にするインデックスであることが
わかる。
従来法のベクトル量子化はこの原理に基づいて、ま
ず、[A(i)2/B(i)を最大にするインデックスIをすべ
て候補インデックスの中から選択し、その後で、確定し
たインデックスIに対し(8)式に基づいて計算される
最適ゲインG(I)の量子化値をゲイン量子化値Gq(q=1,
2,…,NG)の中から選択することによりゲイン・コード
Qを決定することに特徴がある。
この方法を用いると、直接誤差E(i)を計算する必要が
ない上にiとqのすべての組合わせについての計算は行
わずに、候補インデックスの個数NSに依存した回数の計
算量でインデックスIとゲインQの選択を行うことが可
能となる。
第5図のフローチャートは上述した従来法のベクトル
量子化方式の処理手順の1例を示したものである。
第5図において、処理31は候補インデックスiを基に
生成されるベクトルu(i)のパワーB(i)を(7)式により
求めるとともに、上記ベクトルu(i)と目標ベクトルuと
の内積値A(i)を(6)式により求める。
処理32はこのパワーB(i)と内積値A(i)とを用いて評価
値[A(i)2/B(i)が最大となるインデックスIの検索を
行い、選ばれたインデックスの値を保持する。
処理33は、上記の処理で確定した量子化出力インデッ
クスIに基づくパワーと内積値とを用いてゲインの量子
化を行う。
上述の処理32で行われるインデックスiとjの比較の
方法で、割り算を用いずに比較処理を行うために次式を
用いる方法が知られている。
Δij=[A(i)・B(j)−[A(j)・B(i) (10) (10)式で、Δijが正ならばインデックスiを選択
し、Δijが負ならばインデックスjを選択する。
こうして所定数のインデックスの比較を終えた時点で
最終的に選択されるインデックスを量子化出力インデッ
クスとする。
以上説明した従来法は比較的少ない演算量でインデッ
クスとゲインを選択できるベクトル量子化方式である
が、その量子化の性能に問題がある。
すなわち、従来法ではインデックスの選択時に、ゲイ
ンの量子化誤差は零であると仮定しているため、実際に
後で決定するゲインの量子化誤差が大きな場合には
(3)式の誤差E(i)が無視できないほど大きくなること
がある。このことを以下に詳細に説明する。
第5図で説明した方法で処理32が終了し、インデック
スIが確定しているとする。処理33で(8)式を用いて
計算されるインデックスIの最適なゲインG(i)の量子化
を行い、その量子化された値を(I)とする。このとき
ゲインの量子化誤差δは δ=G(I)(I) (11) と表すことができる。このときインデックスIと量子化
されたゲイン(I)を用いて生成される。量子化ベクト
ルと目標ベクトルとの誤差E(I)は、(3)式により
(6)〜(8)式および(11)式を代入することにより と表すことができる。
(12)式の右辺はゲインの量子化誤差δを考慮に入れ
た総合的なベクトル量子化の誤差を示している。
従来法は、ゲイインの量子化誤差δが総合的なベクト
ル量子化の誤差に与える影響を全く考慮に入れずに(1
2)式の右辺第2項の−[A(I)2/B(I)の値だけを最小
とするようにインデックスIの選択を行っているのでゲ
インの量子化誤差δが大きなとき、すなわち、最適ゲイ
ンG(I)の値が予め用意されるゲイン・テーブル中の値と
かけ離れているとき、δ2B(I)の値が無視できない程大
きな値となることが実際の処理で起こりうる。
この場合、総合的なベクトル量子化の誤差が非常に大
きなものとなるので、従来法のベクトル量子化方式では
安定した品質のベクトル量子化を提供できない。
(発明が解決しようとする課題) 上述したように、従来のベクトル量子化方式はゲイン
の量子化誤差が総合的なベクトル量子化の誤差に与える
影響を考慮に入れずにインデックスの選択を行うので、
その後の段で行われるゲインの量子化誤差が無視できな
い程大きくなる場合に、総合的なベクトル量子化の誤差
が著しく大きくなってしまい、安定した品質のベクトル
量子化を提供できないという問題があった。
本発明はこのような問題に鑑みてなされたもので、イ
ンデックスの選択をした後にゲインの量子化を行うとい
う手順にもかかわらず、安定した高品質のベクトル量子
化を行うことのできるベクトル量子化方式を提供するこ
とを目的とする。
〔発明の構成〕
(課題を解決するための手段) 本発明は、ベクトル量子化装置において、候補インデ
ックスを基に生成されるベクトルの各要素を二乗した値
の総和たるパワーの値を得る手段と、このベクトルの各
要素と目標ベクトルの相対応する要素との積の線形和た
る内積値を得る手段と、前記内積値を前記パワーの値で
除算した結果たるゲインの大きさが、予め設定されたコ
ード・ベクトルのゲインの上限値よりも小さく、且つゲ
インの下限値よりも大きい条件を満たすこととなる候補
インデックスを選択する手段と、選択された候補インデ
ックスに基づく前記パワーの値と前記内積値とを用い
て、内積値の二乗値をパワーの値で除算した結果が最大
となるような量子化出力インデックスを選択する手段と
を有することを特徴とするベクトル量子化方式である。
(作用) 本発明では、候補インデックスを基に生成されるベク
トルのパワーと、このベクトルと目標ベクトルとの内積
値と予め設定されるベクトルのゲインの限界値を用い
て、最適ゲイン限界値を超えるかどうかの判定を行い、
この判定結果に基づいて、候補インデックスを限定する
ことにより、ゲインの量子化誤差が大きくなる候補イン
デックスを除外して、インデックスの選択を行うことが
できるので、インデックスの選択後にゲインの量子化を
行っても、安定した高品質のベクトル量子化を提供でき
る。
(実施例) 以下、本発明の実施例を図面を参照しながら説明す
る。
第1図は本発明の原理的構成を示す第1の実施例に係
るベクトル量子化方式の処理手順を示すフローチャート
である。
第1図において、処理21は候補インデックスiを基に
生成されるベクトルu(i)のパワーB(i)を(7)式により
求める。(パワーB(i)はオフ・ラインで求めておくこと
ができる場合は、メモリに格納しておいて必要なときに
メモリから読み出すようにしてもよい。)また処理62は
これとともに上記ベクトルu(i)と目標ベクトルuとの内
積値A(i)を(6)式により求める。
処理22は、予め設定されるコード・ベクトルのゲイン
・テーブル内の値の上限値または下限値または両方をゲ
インの限界値として、パワーB(i)および内積値A(i)
(8)式で関係づけられる最適ゲインG(i)がゲインの限
界値を逸脱していないかのチェックを行い、ゲインの限
界値を逸脱しないときのインデックスのみを処理23へ送
る。
処理23はパワーB(i)と内積値A(i)とを用いて評価値
[A(i)2/B(i)が最大となるインデックスの探索を処理
22で限定されたインデックスに対してのみ行い、量子化
出力インデックスを選択する。
処理24は上記の処理で選択された量子化出力インデッ
クスに基づくパワーおよび内積値を用いて(8)式で関
係づけられるゲインの量子化を行う。
処理24におけるゲインの量子化法としては、上述した
方法に限られることはなく、例えば実際にゲイン・テー
ブル内の量子化値を用いて直接的に目標ベクトルとベク
トル量子化されたベクトルとの誤差を計算し、誤差が最
小となるゲイン量子化値を探索することでゲインの量子
化を行うことができる。
以上で第1の実施例の説明を終る。
第2図は本発明の第2の実施例に係るベクトル量子化
方式の処理手順を示すフローチャートである。
第2図において、第1図と同一の番号を付した処理は
第1図に於いて説明したものと同一の処理であるのでこ
こでは説明を省略する。
処理13は処理22で決定する限定されたインデックスに
対して、ベクトル量子化の誤差が最小となるようなイン
デックスとゲイン量子化出力値を探索する。
この探索法の1例は、すべての限定されたインデック
スi′とゲイン・テーブル内のゲインの限界値内にある
すべてのゲイン量子化値Gqを用いてi′とqの組み合わ
しに対してベクトル量子化の誤差が最小となる組み合わ
せを探索し、探索されたi′とqの組み合わせを量子化
出力インデックスとゲイン量子化出力値とすることであ
る。
以上で第2の実施例の説明を終る。
以上の実施例は各処理段階で入力されるインデックス
に対し、共通の処理はまとめて行い、ベクトル量子化を
行うために必要なすべての処理が終了してから次の処理
に進む処理手順となっていたが、例えば第1図で示され
る処理は第3図に示すようにインデックスiに対して必
要なすべての処理を行い、次にインデックスi+1に対
して必要なすべての処理を行うという様な処理手順に変
えて行うこともできる。この場合は現候補インデックイ
に基づくパラメータと前候補インデックスに基づくパラ
メータの比較という形で量子化出力インデックスの探索
が行われるので比較に用いるパラメータの初期設定が必
要となる。
また、本発明のベクトル量子化方式は、フィルタを組
み入れたベクトル量子化方式にも全く同じように適用で
きる。
例えば音声符号化は第4図に示すようにインデックス
iを基にコード・ブック50から引き出したコード・ベク
トルc(i)を入力信号としてフィルタ52に入力して得られ
る出力信号をベクトルu(i)として、入力音声信号より生
成される目標ベクトルuのベクトル量子化を行う方法が
知られている。この方法を用いる代表的な音声符号化方
式として10Kbps以下の低レート符号化方式として有力な
CELP方式がある。
CELP方式の詳細な点については、M.R.Schroeder氏と
B.S.Atal氏の“CODE−EXCITEDLINEAR PREDICTION(CEL
P):HIGH−QUALITY SPEECH AT VERY LOW BIT RATES",in
Proc.ICASSP 85,pp.937−939,1984(文献1)に詳しく
述べられている。
〔発明の効果〕
本発明によれば最適ゲインの値がゲイン限界値を超え
るかどうかの判定を行い、この判定結果に基づいて、候
補インデックスを限定することにより、ゲインの量子化
誤差が大きくなる候補インデックスを除外してインデッ
クスの選択を行うことができるので、インデックスの選
択後にゲインの量子化を行っても、安定した高品質のベ
クトル量子化を提供できる。
【図面の簡単な説明】
第1図は本発明の第1の実施例に係るベクトル量子化方
式のフローチャート、第2図は本発明の第2の実施例に
係るベクトル量子化方式のフローチャート、第3図は第
1図の実施例を別な手順で実現するベクトル量子化方式
のフローチャート、第4図はフィルタを組み入れたベク
トル量子化の1例を示すブロック図、第5図は従来方式
のベクトル量子化の処理手順の1例を示すフローチャー
トである。
フロントページの続き (58)調査した分野(Int.Cl.6,DB名) H03M 7/30

Claims (4)

    (57)【特許請求の範囲】
  1. 【請求項1】候補インデックスを基に生成されるベクト
    ルの各要素を二乗した値の総和たるパワーの値を得る手
    段と、このベクトルの各要素と目標ベクトルの相対応す
    る要素との積の線形和たる内積値を得る手段と、前記内
    積値を前記パワーの値で除算した結果たるゲインの大き
    さが、予め設定されたコード・ベクトルのゲインの上限
    値よりも小さく、且つゲインの下限値よりも大きい条件
    を満たすこととなる候補インデックスを選択する手段
    と、選択された候補インデックスに基づく前記パワーの
    値と前記内積値とを用いて、内積値の二乗値をパワーの
    値で除算した結果が最大となるような量子化出力インデ
    ックスを選択する手段とを有することを特徴とするベク
    トル量子化方式。
  2. 【請求項2】候補インデックスを基に生成されるベクト
    ルの各要素を二乗した値の総和たるパワーの値を得る手
    段と、このベクトルの各要素と目標ベクトルの相対応す
    る要素との積の線形和たる内積値を得る手段と、前記内
    積値を前記パワーの値で除算した結果たるゲインの大き
    さが、予め設定されたコード・ベクトルのゲインの上限
    値よりも小さく、且つゲインの下限値よりも大きい条件
    を満たすこととなる候補インデックスを選択する手段
    と、選択された候補インデックスに基づく前記パワーの
    値と前記内積値とを用いて、内積値の二乗値をパワーの
    値で除算した結果が最大となるような量子化出力インデ
    ックスを選択する手段と、選択された候補インデックス
    に対応するコード・ベクトルのゲインの量子化を行なう
    手段を有することを特徴とするベクトル量子化方式。
  3. 【請求項3】候補インデックスを基に生成されるベクト
    ルの各要素を二乗した値の総和たるパワーの値を得る手
    段と、このベクトルの各要素と目標ベクトルの相対応す
    る要素との積の線形和たる内積値を得る手段と、前記内
    積値を前記パワーの値で除算した結果たるゲインの大き
    さが、予め設定されたコード・ベクトルのゲインの上限
    値よりも小さく、且つゲインの下限値よりも大きい条件
    を満たすこととなる候補インデックスを選択する手段
    と、選択された候補インデックスに基づく前記パワーの
    値と前記内積値とを用いて、内積値の二乗値をパワーの
    値で除算した結果が最大となるような量子化出力インデ
    ックスを選択する手段と、選択された候補インデックス
    に対応するパワーの値と内積値とを用いてコード・ベク
    トルのゲインの量子化を行なう手段を有することを特徴
    とするベクトル量子化方式。
  4. 【請求項4】候補インデックスを基に生成されるベクト
    ルの各要素を二乗した値の総和たるパワーの値を得る手
    段と、このベクトルの各要素と目標ベクトルの相対応す
    る要素との積の線形和たる内積値を得る手段と、前記内
    積値を前記パワーの値で除算した結果たるゲインの大き
    さが、予め設定されたコード・ベクトルのゲインの上限
    値よりも小さく、且つゲインの下限値よりも大きい条件
    を満たすこととなる候補インデックスを選択する手段
    と、選択された候補インデックスに基づく前記パワーの
    値と前記内積値とを用いて、内積値の二乗値をパワーの
    値で除算した結果が最大となるような量子化出力インデ
    ックスを選択すると共に、選択された候補インデックス
    に対応するパワーの値と内積値とを用いてコード・ベク
    トルのゲインを選択する手段を有することを特徴とする
    ベクトル量子化方式。
JP2044405A 1989-10-17 1990-02-27 ベクトル量子化方式 Expired - Lifetime JP2829083B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2044405A JP2829083B2 (ja) 1990-02-27 1990-02-27 ベクトル量子化方式
CA002027705A CA2027705C (en) 1989-10-17 1990-10-16 Speech coding system utilizing a recursive computation technique for improvement in processing speed
US07/598,989 US5230036A (en) 1989-10-17 1990-10-17 Speech coding system utilizing a recursive computation technique for improvement in processing speed
DE69032551T DE69032551T2 (de) 1989-10-17 1990-10-17 Einrichtung zur Sprachkodierung
EP90311396A EP0424121B1 (en) 1989-10-17 1990-10-17 Speech coding system
US08/504,227 USRE36646E (en) 1989-10-17 1995-07-19 Speech coding system utilizing a recursive computation technique for improvement in processing speed

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2044405A JP2829083B2 (ja) 1990-02-27 1990-02-27 ベクトル量子化方式

Publications (2)

Publication Number Publication Date
JPH03248624A JPH03248624A (ja) 1991-11-06
JP2829083B2 true JP2829083B2 (ja) 1998-11-25

Family

ID=12690603

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2044405A Expired - Lifetime JP2829083B2 (ja) 1989-10-17 1990-02-27 ベクトル量子化方式

Country Status (1)

Country Link
JP (1) JP2829083B2 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2537245B2 (ja) * 1987-09-17 1996-09-25 富士通株式会社 ゲイン/シェイプ・ベクトル量子化方式
JP2583089B2 (ja) * 1988-01-29 1997-02-19 日本電信電話株式会社 適応的ベクトル量子化法
JP2788257B2 (ja) * 1988-08-26 1998-08-20 富士通株式会社 ベクトル量子化の最適出力ベクトル探索方法

Also Published As

Publication number Publication date
JPH03248624A (ja) 1991-11-06

Similar Documents

Publication Publication Date Title
Buzo et al. Speech coding based upon vector quantization
US5271089A (en) Speech parameter encoding method capable of transmitting a spectrum parameter at a reduced number of bits
KR100190183B1 (ko) 벡터 양자화장치 및 벡터 양자화방법
JP2004526213A (ja) 音声コーデックにおける線スペクトル周波数ベクトル量子化のための方法およびシステム
KR20100085998A (ko) 다단계 양자화 방법 및 장치
JPH04270398A (ja) 音声符号化方式
JPH04134400A (ja) 音声符号化装置
US20180332287A1 (en) Method, apparatus and computer program product for providing improved data compression
EP0550657A1 (en) METHOD AND DEVICE FOR CODING ANALOG SIGNALS.
CA2335284A1 (en) Speech and music signal coder/decoder
CA2225102C (en) High quality speech coder and coding method
JP2829083B2 (ja) ベクトル量子化方式
JPH05232997A (ja) 音声符号化装置
EP0484339B1 (en) Digital speech coder with vector excitation source having improved speech quality
EP0952572B1 (en) Vector quantization apparatus and vector quantization method
JP3209248B2 (ja) 音声の励振信号符号化法
EP0483882B1 (en) Speech parameter encoding method capable of transmitting a spectrum parameter with a reduced number of bits
KR100446594B1 (ko) 음성선스펙트럼주파수의부호화/복호화장치및그방법
JP3471889B2 (ja) 音声符号化方法及び装置
Chang et al. Efficient quantization of LSF parameters using classified SVQ combined with conditional splitting
JP2936757B2 (ja) 量子化器
JP3261691B2 (ja) 符号帳予備選択装置
EP0753841B1 (en) Speech parameter encoding method capable of transmitting a spectrum parameter at a reduced number of bits
JPH03171828A (ja) 圧縮符号化装置及び方法
JP3046871B2 (ja) ベクトル量子化方法及びベクトル量子化装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070918

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080918

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080918

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090918

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090918

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100918

Year of fee payment: 12

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100918

Year of fee payment: 12