JP2840659B2 - 高速固有ベクトル計算装置 - Google Patents

高速固有ベクトル計算装置

Info

Publication number
JP2840659B2
JP2840659B2 JP22241390A JP22241390A JP2840659B2 JP 2840659 B2 JP2840659 B2 JP 2840659B2 JP 22241390 A JP22241390 A JP 22241390A JP 22241390 A JP22241390 A JP 22241390A JP 2840659 B2 JP2840659 B2 JP 2840659B2
Authority
JP
Japan
Prior art keywords
eigenvector
matrix
image
run
calculation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP22241390A
Other languages
English (en)
Other versions
JPH04105179A (ja
Inventor
洋 村瀬
ジェームス・ブライアン・ローズボロー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP22241390A priority Critical patent/JP2840659B2/ja
Publication of JPH04105179A publication Critical patent/JPH04105179A/ja
Application granted granted Critical
Publication of JP2840659B2 publication Critical patent/JP2840659B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Complex Calculations (AREA)
  • Image Processing (AREA)

Description

【発明の詳細な説明】 〔発明の目的〕 (産業上の利用分野) 本発明は高速固有ベクトル計算装置に関し、特に、画
像等のデータの持つ特性を利用して固有ベクトルを高速
に、かつ少ない作業用の記憶領域で計算する装置に関す
るものである。
画像データは、画素の濃淡値をベクトルの要素とする
多次元ベクトル(この場合、画素数が次元数となる。)
で表現することができる。複数の画像サンプルから得ら
れた多次元ベクトルの自己相関行列の固有ベクトルは、
画像のデータ圧縮(例えば、ローゼンフェルト、長尾真
監訳、「ディジタル画像処理化」、p111、近代科学社、
1978)や、文字認識(例えば、村瀬他、「パターン整合
法における特性核の改良とその手書き文字認識への応
用」、電子通信学会論文誌、Vol.J64−D.No.3,p276,198
1)などの画像認識に広く適用できることが知られてい
る。一方、画像を多次元ベクトルで表現した場合にその
次元数はかなり高くなり、それに伴い自己相関行列の大
きさも大規模なものとなる。一般に、大規模サイズの行
列の固有ベクトルの計算には、多くの記憶領域と、膨大
な計算時間が掛ることが知られている。そこで、画像等
のデータの持つ特性を利用して固有ベクトルを高速に、
かつ、少ない作業用の記憶領域で計算する装置が望まれ
ている。
(従来の技術) 従来、入力ベクトル(入力データ)の自己相関行列の
固有ベクトルを計算するには、まず、入力ベクトルから
自己相関行列を作成し、その行列の固有ベクトルをヤコ
ビ法やギヴンス・ハウスホルダー法や累積法(例えば、
磯田和男監修「数値計算ハンドブック」1.4節、オーム
社、1971)などにより計算する手法が一般的である。こ
こで、入力ベクトル全体を行列X(行列のサイズはn×
m)で表することにする。但し、Xは{X1,X2,…,Xm
で表現する。Xiは第i番目のサンプルを縦ベクトルで表
したものであり、mはサンプルの数である。ベクトルXi
の次元nは、例えば256×256の画像の場合には65536に
なる。上記の手法では、自己相関行列としてまずXXT
計算し、次にその行列の固有ベクトルの計算を行う。こ
の手法を手法Aとする。
一方、画像データのように次元数が大きくてもサンプ
ル数が少ないような場合には、XXTの行列サイズに比較
してXTXのサイズは小さくなる。ここで、XXTの固有値と
XTXの固有値は同じであることが数学的な性質より知ら
れている。そこでこの性質を利用してベクトルの次元に
比較してサンプル数が少ない場合にはまずXTXの固有値
を計算し、この固有値を利用して、変換式によりXXT
固有ベクトルを求める手法が開発されている。この手法
を手法Bとする。
(発明が解決しようとする課題) ところが、手法Aの場合には、自己相関行列のサイズ
n×nは65536×65536と非常に多くなり、実際にこの行
列を用いて固有ベクトルを計算することは一般的でない
という問題がある。また、手法Bの場合には、データの
次元数が大きくなるとやはり積和計算の回数が非常に大
きくなり計算時間は膨大なものとなり、実際的に高次元
ベクトルの固有ベクトルの計算は困難である。
この発明は上記従来技術の欠点を解消することを課題
とし、その目的とするところは、基本的には手法Bを適
用するもののXTXを計算する前にランレングス符号化を
適用することにより、計算時間及び、計算機の記憶容量
を極端に減らすことを可能とし、画像などの高次元ベク
トルの自己相関行列の固有ベクトルを計算することを可
能とする高速固有ベクトル計算装置を提供することにあ
る。
〔発明の構成〕
(課題を解決するための手段) 上記目的を達成する本発明の高速固有ベクトル計算装
置の原理を第1図に示す。
本発明の高速固有ベクトル計算装置は、画像などの次
元の高いベクトルに対する自己相関行列の固有ベクトル
を計算する高速固有ベクトル計算装置であって、第1図
に示すように、入力データをランレングス符号化するラ
ンレングス符号化手段1と、ランレングス符号化したデ
ータ間の内積を計算し作業用行列を作成する内積計算手
段2と、作業用行列の固有値と固有ベクトルを計算する
固有値計算手段3、および、作業用行列の固有値、固有
ベクトルと入力データから元の自己相関行列の固有ベク
トルを計算する固有ベクトル導出手段4とからなる。
(作用) 本発明の高速固有ベクトル計算装置は、画像などのデ
ータは一般的にランレングス符号化により効率的に圧縮
できる特性を利用したものであり、入力データはランレ
ングス符号化手段によりランレングス符号化し、内積計
算手段によりランレングス符号化したデータ間の内積を
計算して作業用行列を作成し、この作業用行列の固有値
と固有ベクトルを固有値計算手段によって計算し、計算
した作業用行列の固有値と固有ベクトル、および入力デ
ータを用いて元の自己相関行列の固有ベクトルが固有ベ
クトル導出手段により計算する。この結果、高速、かつ
少ない作業用記憶領域で大次元ベクトルの自己相関行列
の固有ベクトルが計算できる。
(実施例) 以下添付図面を用いて本発明の実施例を詳細に説明す
る。
第2図に本発明の高速固有ベクトル計算装置の一実施
例の構成を示すものである。図において、10はランレン
グス符号化装置、20は内積計算装置、30は固有値計算装
置、40は固有ベクトル導出装置を示している。
この高速固有ベクトル計算装置では、例えば、入力デ
ータは複数枚の画像データ、出力はその画像の自己相関
行列の固有値と固有ベクトルとする。そして、出力した
固有値は大きいものからp個とし、出力した固有ベクト
ルはその固有値に対応するp個のベクトルとする。以下
説明の都合上、入力した画像データを行列X={X1,X2,
…Xm}で表現する(ここで行列Xのサイズはm×nとす
る)。Xiは第i番目の画像サンプルを縦ベクトルで表し
たものであり、mはサンプル数である。ここでベクトル
Xiの次元はnである。例えば、256画素×256画素の画像
の場合には、nは65536(256×256)になる。画像から
固有ベクトルを作成する場合には一般的にnの数は非常
に大きい。mの数やpの数は応用する用途によって異な
るが、ここでは説明の都合上仮にmの値を100,pの値を
4とする。入力データXはランレングス符号化装置10
と、固有ベクトル導出装置40に送出する。
ランレングス符号化装置10は画像データからランレン
グスを計算し符号化する装置である。ランレングス符号
とは例えば画像の左上からTVのラスター走査の様に画素
を走査し、画素の値と同じ画素の値が続く長さで1つの
ランレングス符号を表現し、このランレングス符号の系
列で画像全体を表現する手法である。
第3図にランレングス符号化の様子を模式的に示す。
この例の場合には、3つの濃淡値{a1,a2,a3}をもつ領
域から構成した画像であるが、着目している走査線のラ
ンレングス符号は{(a1,11),(a2,12),(a1,
13),(a3,14),(a1,15)}のようになる。この操作
を画像の全領域に対して行なえばよい。画像の圧縮率
は、画像により異なるが、文字データ等の2値画像は比
較的効率良く符号化できる。例えば、画像のサイズを25
6×256で取込んだ2値文字データは基のデータ量の数%
程度に圧縮できる。一方、自然画などの濃淡画像はあま
り効率良く符号化できないが、濃度レベルを256に設定
し、室内風景などの画像を取込むとデータ量で3分の1
程度に圧縮できることが予備実験で確認した。ランレン
グス符号化装置10は、各画像サンプルに付いてランレン
グス符号化し、mサンプル分のランレングス符号化した
データXは内積計算装置20に送出する。
内積計算装置20は、本発明の中で最も重要な役割をす
る装置である、すなわち、ランレングス符号化装置10か
ら送出したデータXからXTXの行列の各要素を計算する
装置で、その結果を固有値計算装置30に送出する。XTX
の行列の各要素ijは2つの画像Xi,Xjの間の内積値(X
i,Xj)である。もしランレングス符号化してない場合に
は、この内積演算にはベクトルの次元数に相当する数の
積和演算が必要になる。しかし、画像がランレングス符
号化されている場合には、その計算量はランレングス符
号の単位(濃淡値とその値の続く長さから構成される単
位)の数に依存し、一般的にその量は極端に減少する。
最悪でも、積和の数はそのランレングス単位の数の2倍
である。
第4図は内積値の計算の様子を示すものである。この
例には2つのランレングス符号化したベクトル{X1,
X2}の間の内積を示す。内積値(X1,X2)は(X1,X2
=a1×a3×11+a2×a3×(13−11)+a2×a4×14により
計算する。計算した結果は作業用行列XTXの形で固有値
計算装置30に送出する。この行列のサイズm×mは、こ
の例の場合には100×100になる。
固有値計算装置30は、内積計算装置20から送出した行
列XTXに対して、その固有値を大きい方からp個計算
し、更にそれらの固有値に対する固有ベクトルを計算す
る装置で、その結果を固有ベクトル導出装置40に送出す
る。但し、ここで計算した固有値は、目的とするXXT
固有値と一致するが、固有ベクトルは目的とする固有ベ
クトルとは異なる。この計算には従来の各種数値計算手
法が適用可能である。ここでは、固有値と固有ベクトル
は全て必要ではない(固有値の大きい方からp個が必要
である)。この例の場合には100×100(m=100)の対
称行列の固有値を大きい方から4個(p=4)計算する
ことになる。
ここでは、部分的な固有値、固有ベクトルだけを計算
する際に良く用いられる累積法(例えば、磯田和男監修
「数値計算ハンドブック」1.4節、オーム社、1971)と
呼ばれる手法について説明する。但し、ここでは累積法
の最も基本的なアルゴリズムについてのみ説明するが、
実際には本手法に既存の技術である共役勾配法を追加す
ることにより更に計算時間の短縮が図れる。
行列XTXをRとする。まず、大きさ(ノルム)1の適
当なn次元ベクトルをe0とする。
vt=Ret−1, at=‖vt‖, et=vt/at という3つの漸化式をtが1から順に繰返す。但し、R
はn×nの行列、vtはn次元のベクトル、atはスカラー
量、‖vt‖はベクトルvtのノルムである。そして、|at/
at-1−1|が誤差範囲内になった段階でこの繰返しを終了
する。繰返しを終了した段階でこのatが第1固有値(最
大の固有値)λとなる。第2固有値(2番目に大きい
固有値)λは、R1=R−λ1e1e1 Tとし、R1に対し上記
と同様の処理を繰返すことにより計算できる。第3固有
値(3番目に大きい固有値)λは、R2=R1−λ2e2e2 T
としR2に対し上記と同様の処理を繰返すことにより計算
できる。以下、同様に第p固有値λまで計算する。計
算したp個の固有値{λ1,λ2,…,λ}と、それに対
するXTXの固有ベクトル{e1,2,…,eP}は固有ベクト
ル導出装置40に送出する。
固有ベクトル導出装置40は、固有値計算装置30から送
出されてきたp個の固有値から、XXTのこれらの固有値
に対する固有ベクトルを導出する装置で、以下の変換式
により構成する。求める固有ベクトルをV1,2,…,VP
として固有ベクトルVkは、 により計算できる。計算したp個の固有ベクトル{V1,
2,…,VP}と固有値{λ1,λ2,…,λ}を本装置の
結果として出力する。
以上説明したように、本発明により、画像などの次元
の高いベクトルの自己相関行列の固有値と固有ベクトル
が高速にかつ少量の記憶容量で計算できるようになっ
た。
計算機でシミュレーション実験を行なったので参考ま
でにその結果を以下に示す。次頁の表1,2に使用記憶容
量とその計算時間を示す。比較のために、前述の手法A
(自己相関行列としてまずXXTを計算し、次にその行列
の固有ベクトルの計算を行う手法)と手法B(まずXTX
の固有値を計算し、この固有値を利用して、変換式によ
XXTの固有ベクトルを求める手法)および本手法につい
ても実験を行なった。本手法は、ランレングス符号化を
使用しているので、対象とする画像の性質(画像の複雑
度)によって計算時間や使用記憶装置の容量はかなり異
なる。実験では性質の異なる4種類の画像データ、 (1) 簡単な手書き文字「一」(2値)、 (2) やや複雑な手書き文字「日」(2値)、 (3) 複雑な手書き文字「瀬」(2値)、 (4) 室内風景をカメラで撮影した濃淡画像(256
値)をテストデータとして使用した。
画像のサンプル数mは各100、次元数nは32,64,256の
3種類で行なった。また固有ベクトルの個数pは4とし
た。使用計算機はApollo Domain DN4000(CPU:68020,25
MHz,主記憶16Mbyte)である。なお、両表中の計算不能
の記述は、使用記憶容量が16MBYTE以上になり、実記憶
領域上での計算が不能になったことを示す。それ以外は
全て実記憶装置上でプログラムおよびデータは動作した
(つまりプログラムサイズが実記憶領域を越えた際に発
生する仮想記憶による頻繁なページングは発生しなかっ
た。)。表1,2からわかるように、本発明の手法では、
従来手法A,Bに比較して使用記憶容量は大幅に低減で
き、計算時間も短くなった。その効果は2値画像でかつ
単純なパターンの場合に高くなる。更に従来の手法では
ワークステーション上で計算出来ない規模の固有値、固
有ベクトルの計算まで本手法により計算することが可能
となった。
なお、本発明はランレングス符号化によりデータ圧縮
が可能なデータに対して一般的に適用可能であり、必ず
しも画像データに限られるものではない。
〔発明の効果〕
以上説明したように本発明の高速固有ベクトル計算装
置によれば、XTXを計算する前にランレングス符号化を
適用することにより、計算時間及び、計算機の記憶容量
の極端に減らすことが可能となり、画像などの高次元ベ
クトルの自己相関行列の固有値と固有ベクトルが高速に
かつ少量の記憶容量で計算できるようになるという効果
がある。
【図面の簡単な説明】
第1図は本発明の高速固有ベクトル計算装置の原理図、 第2図は本発明の高速固有ベクトル計算装置の一実施例
に使用する装置の機能ブロック図、 第3図はランレングス符号化作成の説明図、 第4図はランレングス符号化したデータの内積の計算を
示す説明図である。 10……ランレングス符号化装置、 20……内積計算装置、 30……固有値計算装置、 40……固有ベクトル導出装置。

Claims (1)

    (57)【特許請求の範囲】
  1. 【請求項1】画像などの次元の高いベクトルに対する自
    己相関行列の固有ベクトルを計算する高速固有ベクトル
    計算装置であって、 入力データをランレングス符号化するランレングス符号
    化手段(1)と、 ランレングス符号化したデータ間の内積を計算し作業用
    行列を作成する内積計算手段(2)と、 作業用行列の固有値と固有ベクトルを計算する固有値計
    算手段(3)と、 作業用行列の固有値、固有ベクトルと入力データから元
    の自己相関行列の固有ベクトルを計算する固有ベクトル
    導出手段(4)と、 から構成することを特徴とする高速固有ベクトル計算装
    置。
JP22241390A 1990-08-27 1990-08-27 高速固有ベクトル計算装置 Expired - Fee Related JP2840659B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP22241390A JP2840659B2 (ja) 1990-08-27 1990-08-27 高速固有ベクトル計算装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP22241390A JP2840659B2 (ja) 1990-08-27 1990-08-27 高速固有ベクトル計算装置

Publications (2)

Publication Number Publication Date
JPH04105179A JPH04105179A (ja) 1992-04-07
JP2840659B2 true JP2840659B2 (ja) 1998-12-24

Family

ID=16781997

Family Applications (1)

Application Number Title Priority Date Filing Date
JP22241390A Expired - Fee Related JP2840659B2 (ja) 1990-08-27 1990-08-27 高速固有ベクトル計算装置

Country Status (1)

Country Link
JP (1) JP2840659B2 (ja)

Also Published As

Publication number Publication date
JPH04105179A (ja) 1992-04-07

Similar Documents

Publication Publication Date Title
Zomet Learning how to inpaint from global image statistics
Lai et al. A fast fractal image coding based on kick-out and zero contrast conditions
CN112001914A (zh) 深度图像补全的方法和装置
Peter et al. Turning diffusion-based image colorization into efficient color compression
Patel et al. Deep perceptual compression
Liu et al. CAS: Correlation adaptive sparse modeling for image denoising
CN110414516B (zh) 一种基于深度学习的单个汉字识别方法
Qi et al. Two dimensional synthesis sparse model
Amar et al. Wavelet networks approach for image compression
CN111399041A (zh) 一种小波紧框架自适应稀疏三维地震数据重构方法
Zou et al. A nonlocal low-rank regularization method for fractal image coding
CN115632660B (zh) 一种数据压缩方法、装置、设备及介质
JP2840659B2 (ja) 高速固有ベクトル計算装置
CN111898493B (zh) 基于二进制量化三维特征描述子的物体识别方法
CN109840888B (zh) 一种基于联合约束的图像超分辨率重建方法
Jobst et al. Efficient MPS representations and quantum circuits from the Fourier modes of classical image data
JP2858683B2 (ja) 高速固有ベクトル計算装置
Chen et al. Fast Image Artistic Style Learning Using Twin-Codebook Vector Quantization.
Ahadullah et al. Competitive improvement of the time complexity to encode fractal image: By applying symmetric central pixel of the block
Bharathi et al. Fractal image compression using quantum search algorithm
Nihal et al. A Survey and Study of Image Compression Methods
Shimizu et al. An image approximation method using deformable continuous functions
Archibald et al. A dictionary learning algorithm for compression and reconstruction of streaming data in preset order
Zubko IMPROVING THE EFFICIENCY OF FRACTAL IMAGE COMPRESSION BY THE CRITERION OF DETAIL OF RANK AND DOMAIN BLOCKS
Szoke et al. A comparative study of using the LBC format for compressing medical images

Legal Events

Date Code Title Description
FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071023

Year of fee payment: 9

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081023

Year of fee payment: 10

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091023

Year of fee payment: 11

LAPS Cancellation because of no payment of annual fees