JPH11308112A - コードブック作成方法およびコードブック作成装置 - Google Patents

コードブック作成方法およびコードブック作成装置

Info

Publication number
JPH11308112A
JPH11308112A JP10760998A JP10760998A JPH11308112A JP H11308112 A JPH11308112 A JP H11308112A JP 10760998 A JP10760998 A JP 10760998A JP 10760998 A JP10760998 A JP 10760998A JP H11308112 A JPH11308112 A JP H11308112A
Authority
JP
Japan
Prior art keywords
codebook
vector
initial value
learning
distortion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP10760998A
Other languages
English (en)
Inventor
Masaaki Kobayashi
正明 小林
Mutsuaki Noma
睦明 野間
Haruaki Shimoda
晴朗 下田
Akihiro Kono
昭宏 河野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP10760998A priority Critical patent/JPH11308112A/ja
Publication of JPH11308112A publication Critical patent/JPH11308112A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】 【課題】 高速にコードブックを作成するためのコード
ブック作成方法およびコードブック作成装置を提供する
ことを目的とする。 【解決手段】 学習ベクトル系列の一つのベクトルをコ
ードブック代表ベクトルの初期値(コードブック初期
値)の一つとして設定する初期設定ステップ(S20
3)と、順次選択された学習ベクトルに対して選択以前
に決定されたコードブック初期値群との歪みの値をそれ
ぞれ計算する歪み計算ステップ(S206)と、選択さ
れた学習ベクトルをコードブック初期値として新たに追
加する追加ステップ(S208)と、しきい値を大きく
して最初から操作をやり直すやり直しステップ(S20
9)と、繰り返す繰返しステップ(S204〜S20
8)と、コードブック初期値の近傍に不足分のコードブ
ック初期値を割り当てる割当てステップ(S211)
と、作成ステップ(S212、S213)とを有する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、LBGアルゴリズ
ムを使ってコードブックを作成するコードブック作成方
法およびコードブック作成装置に関する。
【0002】
【従来の技術】従来から、画像符号化方法は情報量の多
い画像を圧縮するための手法として用いられ、特に最近
では圧縮率の高い、高速高細精な圧縮方法への要求が高
まっている。このような画像圧縮の手法のひとつとして
ベクトル量子化を用いた符号化方法が提案されている。
以下に従来のベクトル量子化による画像符号化方法につ
いて説明する。
【0003】図6は、一般的なベクトル量子化による画
像符号化器を示すブロック図である。図6において、6
01はコードブックと呼ばれる代表ベクトルを並べたコ
ードブックテーブル、602は探索処理を行うベクトル
量子化器である。ベクトル量子化器602は、入力され
る画像ベクトルに対して最も近似した代表ベクトルをコ
ードブックの中から探索し、そのインデックスを出力す
る。
【0004】図7は、ベクトル量子化における代表ベク
トルの配置例を示す配置図である。図7において、Sは
入力ベクトルとなる画像ベクトルの分布範囲、Vは代表
ベクトルである。代表ベクトルVは入力ベクトルとなる
画像ベクトルの分布範囲Sに均等に割り当てられる。画
像ベクトルの分布範囲Sのみに代表ベクトルを配置する
ことにより少ないコードで効率よく量子化できるため、
ベクトル量子化は高い圧縮率を実現している。
【0005】従来のコードブック作成方法では、このコ
ードブックと呼ばれる代表ベクトル(コードブック代表
ベクトル)を画像圧縮の都度、作成していた。ベクトル
量子化においてコードブックを作成する場合、LBGア
ルゴリズムを使用することが知られている。このLBG
アルゴリズムによって設計されたコードブックの良否は
コードブック代表ベクトルの初期値と学習データの選定
法とに強く依存する。コードブック代表ベクトルの初期
値の選定法に関してはいくつかの手法が考案されている
が分割方式が極小値に陥りにくい決定法として知られて
いる。
【0006】以下に、分割方式によるコードブック作成
方法について説明する。図8は分割方式によるコードブ
ック作成の流れを表す説明図である。分割方式では最初
に、入力された学習データに対して1つのコードブック
代表ベクトルの初期値(初期コードブック)を決定し、
LBGアルゴリズムを適用する。次に、出来上がったコ
ードブックの近傍に新たにコードブックを追加し、2分
割された2つのコードブックをコードブック代表ベクト
ルの初期値として再びLBGアルゴリズムを適用する。
次に、出来上がった2つのコードブックの近傍にそれぞ
れ新たにコードブックを追加し、2分割された4つのコ
ードブックをコードブック代表ベクトルの初期値として
LBGアルゴリズムを適用する。このようにして必要と
するコードブック数になるまで分割とLBGアルゴリズ
ムの適用を繰り返すことによりコードブックを作成す
る。
【0007】
【発明が解決しようとする課題】しかしながら、上記従
来のコードブック作成方法では、LBGアルゴリズムの
適用回数が多いため処理時間が大きいという問題点を有
していた。
【0008】このコードブック作成方法およびコードブ
ック作成装置では、学習データの分散に合わせてコード
ブック代表ベクトルの初期値を高速に決定してLBGア
ルゴリズムを適用することにより、高速にコードブック
を作成することが要求されている。
【0009】本発明は、高速にコードブックを作成する
ためのコードブック作成方法および高速にコードブック
を作成することができるコードブック作成装置を提供す
ることを目的とする。
【0010】
【課題を解決するための手段】上記課題を解決するため
に本発明のコードブック作成方法は、LBGアルゴリズ
ムを使ってベクトル量子化のためのコードブックを作成
する方法であって、学習ベクトル系列の一つのベクトル
をコードブック代表ベクトルの初期値の一つとして設定
する初期設定ステップと、学習ベクトル系列から順次選
択された学習ベクトルに対して学習ベクトル選択以前に
決定されたコードブック代表ベクトルの初期値群との歪
みの値をそれぞれ計算する歪み計算ステップと、計算さ
れた歪みのいずれの値もしきい値より大きい場合は選択
された学習ベクトルをコードブック代表ベクトルの初期
値として新たに追加する追加ステップと、コードブック
代表ベクトルの初期値数が作成したいコードブック数を
超えた場合はしきい値を大きくして最初から操作をやり
直すやり直しステップと、初期設定ステップと歪み計算
ステップと追加ステップとやり直しステップとを全ての
学習ベクトル系列に対して繰り返す繰返しステップと、
全ての学習ベクトル系列に対して操作を終了した時点で
コードブック代表ベクトルの初期値数が作成したいコー
ドブック数以下に収まった場合は、歪みがしきい値以内
に含まれる学習ベクトル系列の割合が多いコードブック
代表ベクトルの初期値から順番にその初期値の近傍に不
足分のコードブック代表ベクトルの初期値を割り当てる
割当てステップと、作成されたコードブック代表ベクト
ルの初期値を使ってLBGアルゴリズムを適用すること
によりコードブックを作成する作成ステップとを有する
構成を備えている。
【0011】これにより、高速にコードブックを作成す
るためのコードブック作成方法が得られる。
【0012】上記課題を解決するためのコードブック作
成装置は、学習ベクトルの処理を制御する制御装置と、
学習ベクトル系列の入力と作成されたコードブックの出
力とを行なうデータ入出力装置と、学習ベクトル系列を
格納するメモリと、学習ベクトル系列をノルム順に並べ
替える並べ替え装置と、コードブックの初期値を格納す
るメモリと、学習ベクトル系列に対してコードブックと
の歪みを計算する歪み計算装置と、作成するコードブッ
ク数に対してコードブック代表ベクトルの初期値の不足
分を追加する不足分追加装置と、LBGアルゴリズムに
よりコードブックを作成するLBGコードブック作成装
置とを有する構成を備えている。
【0013】これにより、高速にコードブックを作成す
ることができるコードブック作成装置が得られる。
【0014】
【発明の実施の形態】本発明の請求項1に記載の発明
は、LBGアルゴリズムを使ってベクトル量子化のため
のコードブックを作成する方法であって、学習ベクトル
系列の一つのベクトルをコードブック代表ベクトルの初
期値の一つとして設定する初期設定ステップと、学習ベ
クトル系列から順次選択された学習ベクトルに対して学
習ベクトル選択以前に決定されたコードブック代表ベク
トルの初期値群との歪みの値をそれぞれ計算する歪み計
算ステップと、計算された歪みのいずれの値もしきい値
より大きい場合は選択された学習ベクトルをコードブッ
ク代表ベクトルの初期値として新たに追加する追加ステ
ップと、コードブック代表ベクトルの初期値数が作成し
たいコードブック数を超えた場合はしきい値を大きくし
て最初から操作をやり直すやり直しステップと、初期設
定ステップと歪み計算ステップと追加ステップとやり直
しステップとを全ての学習ベクトル系列に対して繰り返
す繰返しステップと、全ての学習ベクトル系列に対して
操作を終了した時点でコードブック代表ベクトルの初期
値数が作成したいコードブック数以下に収まった場合
は、歪みがしきい値以内に含まれる学習ベクトル系列の
割合が多いコードブック代表ベクトルの初期値から順番
にその初期値の近傍に不足分のコードブック代表ベクト
ルの初期値を割り当てる割当てステップと、作成された
コードブック代表ベクトルの初期値を使ってLBGアル
ゴリズムを適用することによりコードブックを作成する
作成ステップとを有することとしたものであり、学習デ
ータの分散に合わせてコードブックが作成されるので、
作成されたコードブックが極小値に陥りにくく、また、
LBGアルゴリズムの適用回数が1回なので、高速にコ
ードブックが作成されるという作用を有する。
【0015】請求項2に記載の発明は、請求項1に記載
の発明において、歪み計算ステップにおいて、学習ベク
トル系列から学習ベクトルをノルム順に順次選択し、選
択した学習ベクトルに対して選択以前に決定されたコー
ドブック代表ベクトルの初期値群との歪みの値をそれぞ
れ計算する際にノルムの大きいコードブック代表ベクト
ルの初期値から順に歪み計算を行うこととしたものであ
り、歪み計算の回数が削減され、高速にコードブックが
作成されるという作用を有する。
【0016】請求項3に記載の発明は、請求項1に記載
の発明において、割当てステップにおいて、コードブッ
ク代表ベクトルの初期値の不足分を、歪みがしきい値以
内に含まれる学習ベクトル系列の割合が多いコードブッ
ク代表ベクトルの初期値から順番にその初期値の近傍に
割り当てる場合に、歪みがしきい値以内に含まれる学習
ベクトル系列の割合に応じて割り当てるベクトル数を決
定することとしたものであり、学習ベクトル系列の分布
頻度が多い部分に多くのコードブック代表ベクトルの初
期値を割り当てることにより、極小値に陥りにくいコー
ドブックが作成され、また、LBGアルゴリズムの収束
が速くなるため、高速にコードブックが作成されるとい
う作用を有する。
【0017】請求項4に記載の発明は、請求項1に記載
の発明において、割当てステップにおいて、コードブッ
ク代表ベクトルの初期値の不足分に対して再度しきい値
を大きくして学習ベクトル系列の一つのベクトルをコー
ドブック代表ベクトルの初期値の不足分の一つとして設
定し、学習ベクトル系列から順次選択された学習ベクト
ルに対して学習ベクトル選択以前に決定されたコードブ
ック代表ベクトルの初期値の不足分群との歪みの値をそ
れぞれ計算し、その歪みのいずれの値もしきい値より大
きい場合は選択された学習ベクトルをコードブック代表
ベクトルの初期値の不足分として新たに追加することを
繰り返し、コードブック代表ベクトルの初期値の不足分
数が作成したい不足分数を超えた場合はしきい値を大き
くして最初から操作をやり直し、全ての学習ベクトル系
列に対して操作を終了した時点でコードブック代表ベク
トルの初期値の不足分数が作成したい不足分数以下に収
まった場合は、歪みがしきい値以内に含まれる学習ベク
トル系列の割合が多いコードブック代表ベクトルの初期
値の不足分から順番にその初期値の近傍に最終的な不足
分のコードブック代表ベクトルの初期値を割り当て、作
成されたコードブック代表ベクトルの初期値を使ってL
BGアルゴリズムによりコードブックを作成することと
したものであり、コードブック代表ベクトルの初期値の
不足分に対して再度しきい値を大きくして同様の操作を
行うことにより、学習ベクトル系列の分布に対応したコ
ードブック代表ベクトルの初期値が設定されるので、極
小値に陥りにくいコードブックが作成され、また、LB
Gアルゴリズムの収束が速くなるため高速にコードブッ
クが作成されるという作用を有する。
【0018】請求項5に記載の発明は、学習ベクトルの
処理を制御する制御装置と、学習ベクトル系列の入力と
作成されたコードブックの出力とを行なうデータ入出力
装置と、学習ベクトル系列を格納するメモリと、学習ベ
クトル系列をノルム順に並べ替える並べ替え装置と、コ
ードブックの初期値を格納するメモリと、学習ベクトル
系列に対してコードブックとの歪みを計算する歪み計算
装置と、作成するコードブック数に対してコードブック
代表ベクトルの初期値の不足分を追加する不足分追加装
置と、LBGアルゴリズムによりコードブックを作成す
るLBGコードブック作成装置とを有することとしたも
のであり、上記コードブック作成方法を実現することが
できるので、学習データの分散に合わせてコードブック
代表ベクトルの初期値を作成しその初期値にLBGアル
ゴリズムを適用するためコードブックが極小値に陥りに
くいようにすることができ、また、LBGアルゴリズム
の適用回数を1回として高速にコードブックを作成する
ことができるという作用を有する。
【0019】以下、本発明の実施の形態について、図1
〜図5を用いて説明する。 (実施の形態1)図1は、本発明の実施の形態1による
コードブック作成方法を実現するためのコードブック作
成装置を示すブロック図である。また、図2は本発明の
実施の形態1によるコードブック作成方法を示すフロー
チャートであり、図3(a)〜(d)は本発明の実施の
形態1によるコードブック作成方法におけるコードブッ
ク代表ベクトルの初期値決定法の説明図、図4は本発明
の実施の形態1によるコードブック代表ベクトルの初期
値の決定時の歪み計算の説明図、図5は本発明の実施の
形態1によるコードブック作成方法におけるコードブッ
ク代表ベクトルの初期値の不足分の追加方法の説明図で
ある。
【0020】図1において、101は学習ベクトル系列
に施す処理を制御する制御装置、102は学習ベクトル
系列の入力と作成されたコードブックの出力とを行うデ
ータ入出力装置、103は学習ベクトル系列を格納する
学習ベクトル系列格納メモリ、104は学習ベクトル系
列をノルム順に並べ替えるノルム順並べ替え装置、10
5はコードブック代表ベクトルの初期値を格納するコー
ドブック初期値格納メモリ、106は学習ベクトルとコ
ードブック代表ベクトルの初期値群との歪みを計算する
歪み計算装置、107はコードブック代表ベクトルの初
期値の不足分を追加する不足分追加装置、108は作成
されたコードブック代表ベクトルの初期値を用いてLB
Gアルゴリズムによりコードブックを作成するLBGコ
ードブック作成装置である。
【0021】また、図3、図5において、S1は学習ベ
クトルの分布範囲、C1〜C3はコードブック代表ベク
トルの初期値、CR1、CR2はサークルであり、図4
において、105は図1に示したコードブック初期値格
納メモリである。
【0022】以上のように構成されたコードブック作成
装置について、以下その動作を図2を用いて説明する。
【0023】まず最初にデータ入出力装置102から学
習ベクトル系列が入力され、学習ベクトル系列格納メモ
リ103に格納される(S201)。次に、制御装置1
01はノルム順並べ替え装置104を選択し、学習ベク
トル系列をノルム順に並べ替えて再び学習ベクトル系列
格納メモリ103に格納する(S202)。次に、初期
設定としてしきい値(規定された一定の値)θと作成コ
ードブック数Nを設定する(S203)。次に、ノルム
順に並べられた学習ベクトル系列の先頭の学習ベクトル
をコードブック代表ベクトルの初期値の一つとして設定
し、コードブック初期値格納メモリ105に格納する
(S204)。次に、学習ベクトル系列からノルムが次
に小さい学習ベクトルを選択する(S205)。選択さ
れた学習ベクトルとコードブック初期値格納メモリ10
5に格納されているベクトルとの歪みを歪み計算装置1
06で計算する。歪みDの計算式の例としては、 D=Σ(Xi−Ci)2 ここでXiは学習ベクトルのi番目の要素を表し、Ci
はコードブック代表ベクトルのi番目の要素を表してい
る。このときコードブック初期値格納メモリ105から
はノルムの大きい方から順にコードブック代表ベクトル
の初期値を選択して歪みを計算する(S206)。歪み
がしきい値θより小さいコードブック代表ベクトルの初
期値が見つかった時点でS209に進む。コードブック
初期値格納メモリ105に格納された全てのコードブッ
ク代表ベクトルの初期値とステップ205で選択した学
習ベクトルとの歪み計算を行った後、全ての歪みがしき
い値θより大きかった場合は学習ベクトルを新たにコー
ドブック代表ベクトルの初期値に設定し、コードブック
初期値格納メモリ105に追加する(S208)。
【0024】次に、コードブック初期値格納メモリ10
5に格納されているコードブック代表ベクトルの初期値
の数と作成コードブック数Nとを比較し、格納されてい
るコードブック代表ベクトルの初期値の数が作成コード
ブック数Nを越えている場合はしきい値θを大きくして
ステップ204に戻り、越えていない場合はステップ2
10へ進む(S209)。
【0025】次に、全ての学習ベクトル系列に対して以
上の操作が終了していない場合はステップ205へ戻
り、終了している場合はステップ211へ進む(S21
0)。
【0026】ここまでの操作の概略を模式的に示したの
が図3(a)〜(d)である。図3(a)は、学習ベク
トル系列の先頭ベクトルを1番目のコードブック代表ベ
クトルの初期値C1にすることを示し、図3(b)は、
以前に決定されたコードブック代表ベクトルの初期値か
らの一定距離θ以内に学習ベクトルがない場合はその学
習ベクトルをコードブック代表ベクトルの初期値に追加
すること、および追加されたコードブック代表ベクトル
の初期値C2を示し、図3(c)は、以前に決定された
コードブック代表ベクトルの初期値からの一定距離θ以
内に学習ベクトルがない場合はその学習ベクトルをコー
ドブック代表ベクトルの初期値に追加すること、および
追加されたコードブック代表ベクトルの初期値C3を示
し、図3(d)は、学習データの分布範囲S1をコード
ブック代表ベクトルの初期値が占有した状態を示してい
る。この状態でステップ204〜ステップ210の繰返
し処理を終了する。
【0027】次に、この時点では作成コードブック数N
に対して格納されているコードブック代表ベクトルの初
期値数が不足しているので、不足分追加装置107によ
って格納されているコードブック代表ベクトルの初期値
群に対して学習ベクトル系列がどのコードブック代表ベ
クトルの初期値に対して歪みが最も小さいか計算し、歪
みの小さい学習ベクトル系列を多く含むコードブック代
表ベクトルの初期値の近傍にコードブック代表ベクトル
の初期値の不足分を追加する(S211)。次に、LB
Gコードブック作成装置108を使って、作成されたコ
ードブック代表ベクトルの初期値をLBGアルゴリズム
により計算し、コードブックを作成する(S212)。
そして、データ入出力装置102から完成したコードブ
ックを出力する(S213)。
【0028】次に、一部を具体的に説明する。ステップ
206ではメモリ105に格納されているコードブック
代表ベクトルの初期値群と学習ベクトルとの歪みを計算
するが、歪み計算の対象となるコードブック代表ベクト
ルの初期値はノルムの大きい方から選択して歪みの計算
を行う。図4にコードブック代表ベクトルの初期値の決
定時の歪み計算の様子を示す。図4は或る学習ベクトル
Xm(m番目の学習ベクトル)に対して歪み計算を行う
場合にコードブック代表ベクトルの初期値を格納するコ
ードブック初期値格納メモリ105にn個の初期値が格
納されている場合の例である。コードブックはノルム順
に並んでいてCn(n番目のコードブック代表ベクトル
の初期値)が最もノルムが大きくC1が最もノルムが小
さい。Xmに対する歪み計算はCnからC1に向けて順
に行う。ここで、歪み計算1と歪み計算2の例について
説明する。
【0029】(1)歪み計算1 まず最初にCnとXmの歪みD(Cn,Xm)を計算
し、歪みがしきい値θより大きいとき(D(Cn,X
m)>θであるとき)、次にCn−1とXmの歪みD
(Cn−1,Xm)を計算しCn−1との歪みもしきい
値θより大きいとき(D(Cn−1,Xm)>θである
とき)、Cn−2とXmの歪みを計算し、ここではじめ
て歪みがしきい値θより小さくなったならば(D(Cn
−2,Xm)<θとなったならば)計算を終了し、次の
学習ベクトルの歪み計算に移る。
【0030】(2)歪み計算2 CnからC1まで順にXmとの歪み計算を行うが、いず
れも歪みの値がしきい値θより大きいならば(D(C
n,Xm)>θ、D(Cn−1,Xm)>θ、・・・、
D(C1,Xm)>θであるならば)、学習ベクトルX
mを新たにコードブック代表ベクトルの初期値として追
加し、コードブック代表ベクトルの初期値の数がn+1
個になる。ここで、 Cn+1=Xm である。学習ベクトル系列はノルム順に並んでいるので
コードブック初期値格納メモリ105に追加されていく
コードブック代表ベクトルの初期値はノルム順となって
いる。また、ノルムの大きいCnから順に歪み計算を行
なうということは対象となる学習ベクトルXmとノルム
の大きさが近いコードブック代表ベクトルの初期値から
順に歪み計算を行なうということになり、従って上記
(1)歪み計算1のように歪みがしきい値以下となって
計算を打ち切る場合に打ち切るまでの計算量が少なくな
る。
【0031】次に、ステップ211では、格納されてい
るコードブック代表ベクトルの初期値群に対して学習ベ
クトル系列がどのコードブック代表ベクトルの初期値に
対して歪みが最も小さいか計算し、歪みの小さい学習ベ
クトル系列を多く含むコードブック代表ベクトルの初期
値の近傍にコードブック代表ベクトルの不足分を追加す
る。図5にその様子を示す。全ての学習ベクトル系列に
対してしきい値を用いてコードブック代表ベクトルの初
期値を割り当てた状態の例が図5(a)である。この状
態で作成コードブック数Nに対して不足しているベクト
ル数だけコードブック代表ベクトルの初期値を追加する
が、学習ベクトル系列の分布に偏りがあり図5(b)の
ようにcr1:cr2=4:1(cr1はサークルCR
1に含まれる学習ベクトル系列の分布密度、cr2はサ
ークルCR2に含まれる学習ベクトル系列の分布密度)
のような割合で学習ベクトル系列が存在しているとする
と、学習ベクトル系列の歪みがしきい値θ以下になるよ
うな範囲すなわちサークルCR1を形成するコードブッ
ク代表ベクトルの初期値の近傍に4個のコードブック代
表ベクトルの初期値を追加し、サークルCR2を形成す
るコードブック代表ベクトルの初期値の近傍には1個の
コードブック代表ベクトルの初期値を割り当てるような
方法が考えられる(図5(c)参照)。サークル内の学
習ベクトル系列の分布密度に応じて不足分を割り当てる
場合、コードブック代表ベクトルの初期値の不足分が少
ない場合は全てのサークルにコードブックを追加するこ
とができない場合もある。
【0032】以上のように本実施の形態によれば、学習
ベクトル系列の一つのベクトルをコードブック代表ベク
トルの初期値の一つとして設定する初期設定ステップ
(S203)と、学習ベクトル系列から順次選択された
学習ベクトルに対して学習ベクトル選択以前に決定され
たコードブック代表ベクトルの初期値群との歪みの値を
それぞれ計算する歪み計算ステップ(S206)と、計
算された歪みのいずれの値もしきい値より大きい場合は
選択された学習ベクトルをコードブック代表ベクトルの
初期値として新たに追加する追加ステップ(S208)
と、コードブック代表ベクトルの初期値数が作成したい
コードブック数を超えた場合はしきい値を大きくして最
初から操作をやり直すやり直しステップ(S209)
と、初期設定ステップと歪み計算ステップと追加ステッ
プとやり直しステップとを全ての学習ベクトル系列に対
して繰り返す繰返しステップ(S204〜S208)
と、全ての学習ベクトル系列に対して操作を終了した時
点でコードブック代表ベクトルの初期値数が作成したい
コードブック数以下に収まった場合は、歪みがしきい値
以内に含まれる学習ベクトル系列の割合が多いコードブ
ック代表ベクトルの初期値から順番にその初期値の近傍
に不足分のコードブック代表ベクトルの初期値を割り当
てる割当てステップ(S211)と、作成されたコード
ブック代表ベクトルの初期値を使ってLBGアルゴリズ
ムを適用することによりコードブックを作成する作成ス
テップ(S212、S213)とを有するようにしたの
で、学習データの分散(学習ベクトル系列の分布密度)
に合わせてコードブックを作成することができ、作成さ
れたコードブックが極小値に陥りにくく、また、LBG
アルゴリズムの適用回数が1回なので、高速にコードブ
ックが作成される。
【0033】
【発明の効果】以上のように本発明の請求項1に記載の
コードブック作成方法によれば、LBGアルゴリズムを
使ってベクトル量子化のためのコードブックを作成する
方法であって、学習ベクトル系列の一つのベクトルをコ
ードブック代表ベクトルの初期値の一つとして設定する
初期設定ステップと、学習ベクトル系列から順次選択さ
れた学習ベクトルに対して学習ベクトル選択以前に決定
されたコードブック代表ベクトルの初期値群との歪みの
値をそれぞれ計算する歪み計算ステップと、計算された
歪みのいずれの値もしきい値より大きい場合は選択され
た学習ベクトルをコードブック代表ベクトルの初期値と
して新たに追加する追加ステップと、コードブック代表
ベクトルの初期値数が作成したいコードブック数を超え
た場合はしきい値を大きくして最初から操作をやり直す
やり直しステップと、初期設定ステップと歪み計算ステ
ップと追加ステップとやり直しステップとを全ての学習
ベクトル系列に対して繰り返す繰返しステップと、全て
の学習ベクトル系列に対して操作を終了した時点でコー
ドブック代表ベクトルの初期値数が作成したいコードブ
ック数以下に収まった場合は、歪みがしきい値以内に含
まれる学習ベクトル系列の割合が多いコードブック代表
ベクトルの初期値から順番にその初期値の近傍に不足分
のコードブック代表ベクトルの初期値を割り当てる割当
てステップと、作成されたコードブック代表ベクトルの
初期値を使ってLBGアルゴリズムを適用することによ
りコードブックを作成する作成ステップとを有すること
により、学習データの分散に合わせてコードブックを作
成することができるので、作成されたコードブックが極
小値に陥りにくく、また、LBGアルゴリズムの適用回
数が1回なので、高速にコードブックが作成されるとい
う有利な効果が得られる。
【0034】請求項2に記載の発明によれば、請求項1
に記載の発明において、歪み計算ステップにおいて、学
習ベクトル系列から学習ベクトルをノルム順に順次選択
し、選択した学習ベクトルに対して選択以前に決定され
たコードブック代表ベクトルの初期値群との歪みの値を
それぞれ計算する際にノルムの大きいコードブック代表
ベクトルの初期値から順に歪み計算を行うことにより、
歪み計算の回数を削減することができるので、高速にコ
ードブックを作成することができるという有利な効果が
得られる。
【0035】請求項3に記載の発明によれば、請求項1
に記載の発明において、割当てステップにおいて、コー
ドブック代表ベクトルの初期値の不足分を、歪みがしき
い値以内に含まれる学習ベクトル系列の割合が多いコー
ドブック代表ベクトルの初期値から順番にその初期値の
近傍に割り当てる場合に、歪みがしきい値以内に含まれ
る学習ベクトル系列の割合に応じて割り当てるベクトル
数を決定することにより、学習ベクトル系列の分布頻度
が多い部分に多くのコードブック代表ベクトルの初期値
を割り当てることとすれば、極小値に陥りにくいコード
ブックを作成することができ、また、LBGアルゴリズ
ムの収束が速くなるために高速にコードブックを作成す
ることができるという有利な効果が得られる。
【0036】請求項4に記載の発明によれば、請求項1
に記載の発明において、割当てステップにおいて、コー
ドブック代表ベクトルの初期値の不足分に対して再度し
きい値を大きくして学習ベクトル系列の一つのベクトル
をコードブック代表ベクトルの初期値の不足分の一つと
して設定し、学習ベクトル系列から順次選択された学習
ベクトルに対して学習ベクトル選択以前に決定されたコ
ードブック代表ベクトルの初期値の不足分群との歪みの
値をそれぞれ計算し、その歪みのいずれの値もしきい値
より大きい場合は選択された学習ベクトルをコードブッ
ク代表ベクトルの初期値の不足分として新たに追加する
ことを繰り返し、コードブック代表ベクトルの初期値の
不足分数が作成したい不足分数を超えた場合はしきい値
を大きくして最初から操作をやり直し、全ての学習ベク
トル系列に対して操作を終了した時点でコードブック代
表ベクトルの初期値の不足分数が作成したい不足分数以
下に収まった場合は、歪みがしきい値以内に含まれる学
習ベクトル系列の割合が多いコードブック代表ベクトル
の初期値の不足分から順番にその初期値の近傍に最終的
な不足分のコードブック代表ベクトルの初期値を割り当
て、作成されたコードブック代表ベクトルの初期値を使
ってLBGアルゴリズムによりコードブックを作成する
ことにより、コードブック代表ベクトルの初期値の不足
分に対して再度しきい値を大きくして同様の操作を行う
ので、学習ベクトル系列の分布に対応したコードブック
代表ベクトルの初期値を設定することができ、極小値に
陥りにくいコードブックを作成することができ、また、
LBGアルゴリズムの収束が速くなるために高速にコー
ドブックを作成することができるという有利な効果が得
られる。
【0037】本発明の請求項5に記載のコードブック作
成装置によれば、学習ベクトルの処理を制御する制御装
置と、学習ベクトル系列の入力と作成されたコードブッ
クの出力とを行なうデータ入出力装置と、学習ベクトル
系列を格納するメモリと、学習ベクトル系列をノルム順
に並べ替える並べ替え装置と、コードブックの初期値を
格納するメモリと、学習ベクトル系列に対してコードブ
ックとの歪みを計算する歪み計算装置と、作成するコー
ドブック数に対してコードブック代表ベクトルの初期値
の不足分を追加する不足分追加装置と、LBGアルゴリ
ズムによりコードブックを作成するLBGコードブック
作成装置とを有することにより、上記コードブック作成
方法を実現することができるので、学習データの分散に
合わせてコードブック代表ベクトルの初期値を作成しそ
の初期値にLBGアルゴリズムを適用するためコードブ
ックが極小値に陥りにくいようにすることができ、ま
た、LBGアルゴリズムの適用回数を1回として高速に
コードブックを作成することができるという有利な効果
が得られる。
【図面の簡単な説明】
【図1】本発明の実施の形態1によるコードブック作成
方法を実現するためのコードブック作成装置を示すブロ
ック図
【図2】本発明の実施の形態1によるコードブック作成
方法を示すフローチャート
【図3】(a)本発明の実施の形態1によるコードブッ
ク作成方法におけるコードブック代表ベクトルの初期値
決定法の説明図 (b)本発明の実施の形態1によるコードブック作成方
法におけるコードブック代表ベクトルの初期値決定法の
説明図 (c)本発明の実施の形態1によるコードブック作成方
法におけるコードブック代表ベクトルの初期値決定法の
説明図 (d)本発明の実施の形態1によるコードブック作成方
法におけるコードブック代表ベクトルの初期値決定法の
説明図
【図4】本発明の実施の形態1によるコードブック代表
ベクトルの初期値の決定時の歪み計算の説明図
【図5】(a)本発明の実施の形態1によるコードブッ
ク作成方法におけるコードブック代表ベクトルの初期値
の不足分の追加方法の説明図 (b)本発明の実施の形態1によるコードブック作成方
法におけるコードブック代表ベクトルの初期値の不足分
の追加方法の説明図 (c)本発明の実施の形態1によるコードブック作成方
法におけるコードブック代表ベクトルの初期値の不足分
の追加方法の説明図
【図6】一般的なベクトル量子化による画像符号化器を
示すブロック図
【図7】ベクトル量子化における代表ベクトルの配置例
を示す配置図
【図8】分割方式によるコードブック作成の流れを表す
説明図
【符号の説明】
101 制御装置 102 データ入出力装置 103 学習ベクトル系列格納メモリ 104 ノルム順並べ替え装置 105 コードブック初期値格納メモリ 106 歪み計算装置 107 不足分追加装置 108 LBGコードブック作成装置
フロントページの続き (72)発明者 河野 昭宏 大阪府門真市大字門真1006番地 松下電器 産業株式会社内

Claims (5)

    【特許請求の範囲】
  1. 【請求項1】LBGアルゴリズムを使ってベクトル量子
    化のためのコードブックを作成する方法であって、学習
    ベクトル系列の一つのベクトルをコードブック代表ベク
    トルの初期値の一つとして設定する初期設定ステップ
    と、学習ベクトル系列から順次選択された学習ベクトル
    に対して学習ベクトル選択以前に決定されたコードブッ
    ク代表ベクトルの初期値群との歪みの値をそれぞれ計算
    する歪み計算ステップと、前記計算された歪みのいずれ
    の値もしきい値より大きい場合は前記選択された学習ベ
    クトルをコードブック代表ベクトルの初期値として新た
    に追加する追加ステップと、コードブック代表ベクトル
    の初期値数が作成したいコードブック数を超えた場合は
    しきい値を大きくして最初から操作をやり直すやり直し
    ステップと、前記初期設定ステップと前記歪み計算ステ
    ップと前記追加ステップと前記やり直しステップとを全
    ての学習ベクトル系列に対して繰り返す繰返しステップ
    と、全ての学習ベクトル系列に対して操作を終了した時
    点でコードブック代表ベクトルの初期値数が作成したい
    コードブック数以下に収まった場合は、歪みがしきい値
    以内に含まれる学習ベクトル系列の割合が多いコードブ
    ック代表ベクトルの初期値から順番にその初期値の近傍
    に不足分のコードブック代表ベクトルの初期値を割り当
    てる割当てステップと、作成されたコードブック代表ベ
    クトルの初期値を使ってLBGアルゴリズムを適用する
    ことによりコードブックを作成する作成ステップとを有
    することを特徴とするコードブック作成方法。
  2. 【請求項2】前記歪み計算ステップにおいて、学習ベク
    トル系列から学習ベクトルをノルム順に順次選択し、選
    択した学習ベクトルに対して選択以前に決定されたコー
    ドブック代表ベクトルの初期値群との歪みの値をそれぞ
    れ計算する際にノルムの大きいコードブック代表ベクト
    ルの初期値から順に歪み計算を行うことを特徴とする請
    求項1に記載のコードブック作成方法。
  3. 【請求項3】前記割当てステップにおいて、コードブッ
    ク代表ベクトルの初期値の不足分を、歪みがしきい値以
    内に含まれる学習ベクトル系列の割合が多いコードブッ
    ク代表ベクトルの初期値から順番にその初期値の近傍に
    割り当てる場合に、歪みがしきい値以内に含まれる学習
    ベクトル系列の割合に応じて割り当てるベクトル数を決
    定することを特徴とする請求項1に記載のコードブック
    作成方法。
  4. 【請求項4】前記割当てステップにおいて、コードブッ
    ク代表ベクトルの初期値の不足分に対して再度しきい値
    を大きくして学習ベクトル系列の一つのベクトルをコー
    ドブック代表ベクトルの初期値の不足分の一つとして設
    定し、学習ベクトル系列から順次選択された学習ベクト
    ルに対して学習ベクトル選択以前に決定されたコードブ
    ック代表ベクトルの初期値の不足分群との歪みの値をそ
    れぞれ計算し、その歪みのいずれの値もしきい値より大
    きい場合は選択された学習ベクトルをコードブック代表
    ベクトルの初期値の不足分として新たに追加することを
    繰り返し、コードブック代表ベクトルの初期値の不足分
    数が作成したい不足分数を超えた場合はしきい値を大き
    くして最初から操作をやり直し、全ての学習ベクトル系
    列に対して操作を終了した時点でコードブック代表ベク
    トルの初期値の不足分数が作成したい不足分数以下に収
    まった場合は、歪みがしきい値以内に含まれる学習ベク
    トル系列の割合が多いコードブック代表ベクトルの初期
    値の不足分から順番にその初期値の近傍に最終的な不足
    分のコードブック代表ベクトルの初期値を割り当て、作
    成されたコードブック代表ベクトルの初期値を使ってL
    BGアルゴリズムによりコードブックを作成することを
    特徴とする請求項1に記載のコードブック作成方法。
  5. 【請求項5】学習ベクトルの処理を制御する制御装置
    と、学習ベクトル系列の入力と作成されたコードブック
    の出力とを行なうデータ入出力装置と、学習ベクトル系
    列を格納するメモリと、学習ベクトル系列をノルム順に
    並べ替える並べ替え装置と、コードブックの初期値を格
    納するメモリと、学習ベクトル系列に対してコードブッ
    クとの歪みを計算する歪み計算装置と、作成するコード
    ブック数に対してコードブック代表ベクトルの初期値の
    不足分を追加する不足分追加装置と、LBGアルゴリズ
    ムによりコードブックを作成するLBGコードブック作
    成装置とを有することを特徴とするコードブック作成装
    置。
JP10760998A 1998-04-17 1998-04-17 コードブック作成方法およびコードブック作成装置 Pending JPH11308112A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP10760998A JPH11308112A (ja) 1998-04-17 1998-04-17 コードブック作成方法およびコードブック作成装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP10760998A JPH11308112A (ja) 1998-04-17 1998-04-17 コードブック作成方法およびコードブック作成装置

Publications (1)

Publication Number Publication Date
JPH11308112A true JPH11308112A (ja) 1999-11-05

Family

ID=14463521

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10760998A Pending JPH11308112A (ja) 1998-04-17 1998-04-17 コードブック作成方法およびコードブック作成装置

Country Status (1)

Country Link
JP (1) JPH11308112A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019139670A (ja) * 2018-02-15 2019-08-22 株式会社東芝 データ処理装置、データ処理方法およびプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019139670A (ja) * 2018-02-15 2019-08-22 株式会社東芝 データ処理装置、データ処理方法およびプログラム

Similar Documents

Publication Publication Date Title
EP1697899B1 (en) Multi-mode alpha imag eprocessing
KR102214837B1 (ko) 컨벌루션 신경망 파라미터 최적화 방법, 컨벌루션 신경망 연산방법 및 그 장치
CN112506879B (zh) 数据处理方法及相关设备
JP4442891B2 (ja) 可変長符号化装置及び可変長符号化方法
JP2020149156A (ja) データ圧縮装置、データ処理装置、データ圧縮方法、プログラム、及び学習済みモデル
KR20210015990A (ko) 학습된 파라미터의 형태변환을 이용한 컨벌루션 신경망 파라미터 최적화 방법, 컨벌루션 신경망 연산방법 및 그 장치
JPH07193720A (ja) 画像符号化復号装置
JPH11340838A (ja) 符号化装置および復号装置
CN117155405A (zh) 一种基于梯度下降的tANS编码、解码转换表快速建立方法
JPH11308112A (ja) コードブック作成方法およびコードブック作成装置
KR101987475B1 (ko) 하드웨어 구현에 적합한 신경망 파라미터 최적화 방법, 신경망 연산방법 및 그 장치
JP2000059774A (ja) 映像符号化制御装置
CN112612762B (zh) 数据处理方法及相关设备
US10938412B2 (en) Decompression of model parameters using functions based upon cumulative count distributions
TWI708196B (zh) 使用基於累積計數分佈之函數之用於模型參數之解壓縮之方法及處理器
CN113688108B (zh) 数据处理方法及相关设备
Hwang et al. Genetic entropy-constrained vector quantizer design algorithm
Sohel et al. A generic shape descriptor using Bezier curves
WO2020185238A1 (en) Decompression of model parameters using functions based upon cumulative count distributions
JP6303636B2 (ja) 画像処理装置及び画像処理方法
CN112436923B (zh) 一种极化码的编码方法、装置及计算机可读存储介质
JP3142356B2 (ja) 量子化装置および画像データ量子化装置
KR101461840B1 (ko) 낮은 복잡도의 타깃 벡터 식별
JP7120288B2 (ja) ニューラルネットワーク軽量化装置、ニューラルネットワーク軽量化方法およびプログラム
TWI729939B (zh) 使用基於累積計數分佈之函數之用於模型參數之解壓縮之方法及處理器