JP3598051B2 - 画像検索装置、画像検索方法および画像検索処理プログラムを記録した記録媒体 - Google Patents
画像検索装置、画像検索方法および画像検索処理プログラムを記録した記録媒体 Download PDFInfo
- Publication number
- JP3598051B2 JP3598051B2 JP2000247213A JP2000247213A JP3598051B2 JP 3598051 B2 JP3598051 B2 JP 3598051B2 JP 2000247213 A JP2000247213 A JP 2000247213A JP 2000247213 A JP2000247213 A JP 2000247213A JP 3598051 B2 JP3598051 B2 JP 3598051B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- filter means
- hue
- similarity
- standard deviation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Color Television Systems (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
- Image Analysis (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、比較画像の中から基準画像に類似する類似画像を検索する画像検索装置、画像検索方法および画像検索処理プログラムを記録した記録媒体に関するものである。
【0002】
【従来の技術】
画像の大域的(全体的)な色彩分布は、当該画像が表示するシーンや物体等により特徴的なパターンを示す。したがって、大域的な色彩分布に関する情報は、画像を構成するシーンおよび物体等を検索、分類および識別等をするための手がかりとなる。
【0003】
このような画像の色彩分布に関する情報を利用した従来の画像符号化方法としては、DCT(離散コサイン変換)等を用いた画像符号化方法がある。また、上記のような画像の色彩分布に関する情報を利用した従来の画像検索方法としては、テキストデータを用いずにRGB(レッド・グリーン・ブルー)やHSV(色相・彩度・輝度)等の色空間内で各画像の色情報のヒストグラムを利用し、基準画像に類似する類似画像を検索する手法が種々提案されている。
【0004】
【発明が解決しようとする課題】
しかしながら、DCT等を用いた画像符号化方法は、信号処理的な観点から画像データを圧縮符号化するものであり、人の視覚特性のうち空間周波数感度のみが考慮され、それ以外が考慮されていないため、人が見るという観点からみると、十分な情報圧縮が行われているとはいえない。
【0005】
また、上記のRGBおよびHSV等の色空間に基づく画像検索方法では、信号処理的な観点から見た類似度により基準画像に類似する類似画像を検索しているため、実際に画像を見たときの人間の視覚的な印象とは異なる場合が多い。このため、検索された画像が人の視覚的印象から判断して必ずしも類似しているとはいえない場合があり、人の視覚特性に基づいて基準画像に類似する類似画像を抽出することができない。
【0007】
本発明の目的は、人の視覚特性に基づいて基準画像に類似する類似画像を効率よく検索することができる画像検索装置、画像検索方法および画像検索処理プログラムを記録した記録媒体を提供することである。
【0021】
(1)第1の発明
第1の発明に係る画像検索装置は、比較画像の中から基準画像に類似する類似画像を検索する画像検索装置であって、互いに異なる色相に選択的に反応する5個以上の色相フィルタ手段と、基準画像に対する色相フィルタ手段の各出力の平均値および標準偏差と比較画像に対する色相フィルタ手段の各出力の平均値および標準偏差との差を加算して基準画像に対する比較画像の類似度を算出する類似度算出手段と、類似度算出手段により算出された類似度に基づき比較画像の中から類似画像を抽出する抽出手段とを備えたものである。
【0022】
本発明に係る画像検索装置においては、基準画像に対する色相フィルタ手段の各出力と比較画像に対する色相フィルタ手段の各出力とを基に基準画像に対する比較画像の類似度が算出され、算出された類似度に基づき比較画像の中から類似画像が抽出される。
【0023】
ここで、色相フィルタ手段は、少なくとも5個設けられ、互いに異なる色相に選択的に反応することができるので、この色相フィルタ手段を通過させることにより、人間の視覚特性に適合した画像の応答出力を得ることができる。したがって、基準画像に対する色相フィルタ手段の各出力と比較画像に対する色相フィルタ手段の各出力とを用いることにより、人の視覚特性に適合した基準画像と比較画像との相違を類似度として求めることができる。この結果、人の視覚特性に基づいて基準画像に類似する類似画像を効率よく検索することができる。
【0025】
この場合、基準画像と比較画像との色相フィルタ手段の各出力の平均値および標準偏差の差を加算した値を類似度として算出することができるので、人の視覚特性に基づく色彩的な類似度を算出することができ、より高効率に類似する類似画像を抽出することができる。
【0026】
(2)第2の発明
第2の発明に係る画像検索装置は、第1の発明に係る画像検索装置の構成において、類似度算出手段は、基準画像の輝度の平均値および/または標準偏差と比較画像の輝度の平均値および/または標準偏差との差をさらに類似度に加算して基準画像に対する比較画像の類似度を算出するものである。
【0027】
この場合、基準画像と比較画像との輝度の平均値および/または標準偏差の差を含めた類似度を算出することができるので、人の視覚特性に基づく色彩的な類似度のみならず、輝度の類似度を含めて画像の類似度を算出することができ、より高精度に類似する類似画像を抽出することができる。
【0028】
(3)第3の発明
第3の発明に係る画像検索装置は、第1または第2の発明に係る画像検索装置の構成において、色相フィルタ手段は、L−M軸とS軸とからなる色空間におけるL−M軸と色度点とがなす角度を色相とするものである。
【0029】
この場合、L−M軸とS軸とからなる色空間におけるL−M軸と色度点とがなす角度が、色相フィルタ手段の色相となるので、人間の網膜の錐体応答の線型和で定義されるL−M軸およびS軸からなる色空間を用いて定義された色相に対する応答出力を得ることができ、より人の視覚特性に適合した応答出力を用いて類似度を算出することができる。
【0030】
(4)第4の発明
第4の発明に係る画像検索装置は、第3の発明に係る画像検索装置の構成において、色相フィルタ手段は、選択的に反応する色相の範囲を45度ずつずらせた8個の色相フィルタ手段を含むものである。
【0031】
この場合、選択的に反応する色相の範囲を45度ずつずらせた8個の色相フィルタ手段を用いているので、より人間の視覚特性に適合した色相フィルタ手段を用いることができ、人の視覚特性により適合した画像検索を行うことができる。
【0032】
(5)第5の発明
第5の発明に係る画像検索方法は、比較画像の中から基準画像に類似する類似画像を検索する画像検索方法であって、基準画像の各データを互いに異なる色相に選択的に反応する5個以上の色相フィルタ手段の各々に入力し、基準画像に対する色相フィルタ手段の出力を得るステップと、比較画像の各データを色相フィルタ手段の各々に入力し、比較画像に対する色相フィルタ手段の出力を得るステップと、基準画像に対する色相フィルタ手段の各出力の平均値および標準偏差と比較画像に対する色相フィルタ手段の各出力の平均値および標準偏差との差を加算して基準画像に対する比較画像の類似度を算出するステップと、算出された類似度に基づき比較画像の中から類似画像を抽出するステップとを含むものである。
【0033】
本発明に係る画像検索方法においては、基準画像に対する色相フィルタ手段の各出力と比較画像に対する色相フィルタ手段の各出力とを基に基準画像に対する比較画像の類似度が算出され、算出された類似度に基づき比較画像の中から類似画像が抽出される。
【0034】
ここで、色相フィルタ手段は、少なくとも5個設けられ、互いに異なる色相に選択的に反応することができるので、この色相フィルタ手段を通過させることにより、人間の視覚特性に適合した画像の応答出力を得ることができる。したがって、基準画像に対する色相フィルタ手段の各出力と比較画像に対する色相フィルタ手段の各出力とを用いることにより、人の視覚特性に適合した基準画像と比較画像との相違を類似度として求めることができる。この結果、人の視覚特性に基づいて基準画像に類似する類似画像を効率よく検索することができる。
この場合、基準画像と比較画像との色相フィルタ手段の各出力の平均値および標準偏差の差を加算した値を類似度として算出することができるので、人の視覚特性に基づく色彩的な類似度を算出することができ、より高効率に類似する類似画像を抽出することができる。
【0035】
(6)第6の発明
第6の発明に係る画像検索処理プログラムを記録した記録媒体は、比較画像の中から基準画像に類似する類似画像を検索する画像検索処理を演算処理装置に実行させる画像検索処理プログラムを記録した記録媒体であって、画像検索処理プログラムは、基準画像の各データを互いに異なる色相に選択的に反応する5個以上の色相フィルタ手段の各々に入力し、基準画像に対する色相フィルタ手段の出力を得る処理と、比較画像の各データを色相フィルタ手段の各々に入力し、比較画像に対する色相フィルタ手段の出力を得る処理と、基準画像に対する色相フィルタ手段の各出力の平均値および標準偏差と比較画像に対する色相フィルタ手段の各出力の平均値および標準偏差との差を加算して基準画像に対する比較画像の類似度を算出する処理と、算出された類似度に基づき比較画像の中から類似画像を抽出する処理とを演算処理装置に実行させるものである。
【0036】
本発明に係る画像検索処理プログラムを記録した記録媒体によれば、基準画像に対する色相フィルタ手段の各出力と比較画像に対する色相フィルタ手段の各出力とを基に基準画像に対する比較画像の類似度が算出され、算出された類似度に基づき比較画像の中から類似画像が抽出される。
【0037】
ここで、色相フィルタ手段は、少なくとも5個設けられ、互いに異なる色相に選択的に反応することができるので、この色相フィルタ手段を通過させることにより、人間の視覚特性に適合した画像の応答出力を得ることができる。したがって、基準画像に対する色相フィルタ手段の各出力と比較画像に対する色相フィルタ手段の各出力とを用いることにより、人の視覚特性に適合した基準画像と比較画像との相違を類似度として求めることができる。この結果、人の視覚特性に基づいて基準画像に類似する類似画像を効率よく検索することができる。
この場合、基準画像と比較画像との色相フィルタ手段の各出力の平均値および標準偏差の差を加算した値を類似度として算出することができるので、人の視覚特性に基づく色彩的な類似度を算出することができ、より高効率に類似する類似画像を抽出することができる。
【0038】
【発明の実施の形態】
以下、本発明の一実施の形態による画像検索装置について図面を参照しながら説明する。図1は、本発明の一実施の形態による画像検索装置の構成を示すブロック図である。
【0039】
図1において、画像検索装置は、入力部1、制御部2、記憶部3、類似度算出部4および表示部5を備える。
【0040】
入力部1は、ユーザが種々の入力を行うために用いられ、例えば、ユーザは、入力部1を用いて、画像検索を行う場合の基準となる基準画像を選択したり、基準画像に類似する類似画像を検索する検索指令を入力したり、検索結果として基準画像に類似する類似画像を一覧表示するための検索結果指令を入力したりする。
【0041】
制御部2は、入力部1を介して入力された種々の指令に応じて、記憶部3、類似度算出部4および表示部5の動作を制御する。例えば、入力部1から基準画像を指定するデータが入力された場合、制御部2は、当該データに対応する画像を基準画像として記憶部3に記憶させる。また、入力部1から類似画像の検索指令が入力された場合、制御部2は、記憶部3に記憶されている基準画像および比較画像を順次類似度算出部4へ出力し、類似度算出部4により算出された各画像の類似度を記憶部3に記憶させ、記憶部3に記憶されている各画像の類似度を基に基準画像に類似する類似画像を表示部5で表示するためのデータを表示部5へ出力する。
【0042】
記憶部3は、複数の画像を予め記憶しており、例えば、記憶されている複数の画像の中から基準画像が選択され、残りの画像が比較画像となり類似画像を検索する場合の検索対象となる。
【0043】
類似度算出部4は、制御部2を介して記憶部3から入力された基準画像および比較画像の類似度を算出し、算出した類似度が制御部2を介して記憶部3に記憶される。
【0044】
表示部5は、制御部2に制御され、種々の表示画面を表示し、例えば、ユーザが基準画像を選択するための選択画面を表示したり、記憶部3に記憶されている類似度に基づき類似画像を一覧表示する。
【0045】
図2は、図1に示す類似度算出部4の構成を示すブロック図である。図2において、類似度算出部4は、複数の色相フィルタF1a〜F8a,F1b〜F8b、平均値算出部A1a〜A8a,A1b〜A8b、標準偏差算出部S1a〜S8a,S1b〜S8b、輝度平均値算出部Aa,Ab、輝度標準偏差算出部Sa,Sb、減算器D1〜D18および加算器ADを含む。
【0046】
図2に示す類似度算出部4では、基準画像Iaの処理用に8個の色相フィルタF1a〜F8a、8個の平均値算出部A1a〜A8a、8個の標準偏差算出部S1a〜S8a、輝度平均値算出部Aaおよび輝度標準偏差算出部Saが設けられるとともに、比較画像Ibの処理用に8個の色相フィルタF1b〜F8b、8個の平均値算出部A1b〜A8b、8個の標準偏差算出部S1b〜S8b、輝度平均値算出部Abおよび輝度標準偏差算出部Sbが設けられている。
【0047】
図3は、図2に示す色相フィルタF1a〜F8a,F1b〜F8bの色相に対する感度プロファイルを示す図である。
【0048】
図3に示す感度プロファイルS1が色相フィルタF1a,F1bの感度プロファイルであり、感度プロファイルS2が色相フィルタF2a,F2bの感度プロファイルであり、以降同様に感度プロファイルS3〜S8が色相フィルタF3a,F3b,…,F8a,F8bの感度プロファイルとなる。
【0049】
ここで、画像は、人間の目を通って網膜に結像し、網膜の受光体である錐体により知覚される。すなわち、色覚は錐体の働きによるものであり、錐体には分光感度の違いにより、波長の長い赤(Long)を感じるL錐体、中間の波長の緑(Middle)を感じるM錐体、波長の短い紫(Short)を感じるS錐体がある。この3種類の分光吸収特性を持つ錐体細胞により光を吸収することにより人の色覚が始まる。
【0050】
しかしながら、本願発明者らによる心理実験により得られた色彩分布弁別特性は、色覚過程の初期過程である錐体機構および反対色機構の働きのみでは説明できず、RGB、YIQ等の3次元色彩情報表現では、この視覚特性に適合しないことが判明した。一方、高次色覚機構である異なる色相に選択的に反応する複数の機構を用いた場合、上記の色彩分布弁別特性をよく説明することができることが判明した。
【0051】
上記の検討結果を基に、本実施の形態では、図3に示す各感度プロファイルS1〜S8を有する色相フィルタF1a〜F8a,F1b〜F8bを用い、人の視覚特性に適合した色相フィルタの応答出力の平均値および標準偏差を求めることにより画像データを符号化して圧縮するとともに、基準画像および比較画像に対する色相フィルタの応答出力の平均値および標準偏差等の差を用いて基準画像と比較画像との類似度を求めている。
【0052】
このように、色相フィルタF1a〜F8a,F1b〜F8bは、人の色彩知覚モデルに基づき、互いに異なる色相に選択的に反応する色相フィルタである。各感度プロファイルS1〜S8は、基本的に同様の波形を有し、感度のピーク点が45度ずつずれ、8つの方向の色相にそれぞれ選択的に反応する。
【0053】
ここで、色相フィルタF1a〜F8a,F1b〜F8bの色相は、図4に示すように、L−M軸と色度点PDとがなす角度θを色相として定義したものである。また、L−M軸およびS軸は、白色点(D65など、他の白色でもよい)を通る、MacLeod−Boynton (MB)色空間(MacLeod, D.I.A. & Boynton, R.M. (1979). Chromaticity diagram showing cone excitation by stimuli of equal luminance. Journal of the Optical Society of America, 69, 1183−1186. を参照)におけるl軸およびs軸に平行な軸であり、単位色差を白色からの弁別閾値とするものである。MB色空間は、人の網膜の錐体応答の線型和で定義されており、視覚系の初期反対色系の特性に基づくものである。
【0054】
上記のように、図3に示す各感度プロファイルS1〜S8は、図4に示すL−M軸と色度点PDとのなす角度により定義される色相に対してそのピーク点が45度ずつずれ、互いに異なる色相に選択的に反応するように設定されている。
【0055】
具体的には、色相フィルタFia,Fib(i=1〜8)の感度プロファイルSi (θ)は、以下の式により表される。
【0056】
【数1】
【0057】
ここで、pは所定の振幅係数であり、nは1以上5以下の整数であり、n=3の場合に人の視覚特性に最も適合したものとなる。なお、各感度プロファイルSi (θ)としては、上記の例に特に限定されず、ガウス分布等を用いてもよい。
【0058】
なお、色相は、上記の色空間におけるL−M軸と色度点PDとがなす角度θを色相として定義したもの用いることが好ましいが、他の色空間により定義される色相を用いることもできる。また、上記の色相フィルタの数は、各画像に対して5個以上であれば、人の色彩知覚モデルに適合した色相フィルタとなり、人の視覚特性に基づき類似する画像を弁別することができる。また、より高精度に弁別するためには、本実施の形態のように8個の色相フィルタF1a〜F8a,F1b〜F8bを用いることが好ましい。
【0059】
再び、図2を参照して、色相フィルタF1a〜F8aには、基準画像Iaを構成する各画素データが順次入力され、色相フィルタF1b〜F8bには、比較画像Ibを構成する各画素データが順次入力される。
【0060】
各色相フィルタF1a〜F8aは、基準画像Iaを構成する各画素データに対して図3に示す感度プロファイルS1に基づき各画素データをフィルタリングすし、各応答出力が平均値算出部A1a〜A8aおよび標準偏差算出部S1a〜S8aに入力される。
【0061】
ここで、色相フィルタFia(i=1〜8)に基準画像Iaの画素データ(rj (a) θj (a))が入力されたとすると、下式により各色相フィルタF1a〜F8aの応答出力の平均値Ri (a)が算出され、平均値算出部A1a〜A8aは、算出された応答出力の平均値Ri (a)を対応する減算器D1,D3,D5,D7,D9,D11,D13,D15へ出力する。
【0062】
【数2】
【0063】
ここで、Mは、基準画像Iaを構成する画素データの総数である。
また、下式により各色相フィルタF1a〜F8aの応答出力の標準偏差σi (a)が算出され、標準偏差算出部S1a〜S8aは、算出された応答出力の標準偏差σi (a)を対応する減算器D2,D4,D6,D8,D10,D12,D14,D16へ出力する。
【0064】
【数3】
【0065】
上記と同様に、各色相フィルタF1b〜F8bも、比較画像Ibの各画素データ(rj (b),θj (b))に対してフィルタリングを行い、平均値算出部A1b〜A8bおよび標準偏差算出部S1b〜S8bは、各色相フィルタF1b〜F8bの応答出力の平均値Ri (b)および標準偏差σi (b)を、対応する減算器D1〜D16へ出力する。
【0066】
ここで、平均値算出部A1a〜A8a(A1b〜A8b)および標準偏差算出部S1a〜S8a(S1b〜S8b)の各出力は、色相フィルタF1a〜F8a(F1b〜F8b)に入力される画像データの符号化データとして用いることができる。すなわち、画像データを符号化して圧縮する画像符号化装置が、色相フィルタF1a〜F8a(F1b〜F8b)、平均値算出部A1a〜A8a(A1b〜A8b)および標準偏差算出部S1a〜S8a(S1b〜S8b)により構成されている。
【0067】
この場合、互いに異なる色相に選択的に反応する8個の色相フィルタF1a〜F8a(F1b〜F8b)を通過させることにより、人間の視覚特性に適合した画像データの応答出力を得ることができるので、人の視覚特性に適合して十分に圧縮された符号化データを得ることができ、人の見え方に影響を及ぼすことなく、人の視覚特性に基づき画像データを十分に圧縮して符号化することができる。
【0068】
減算器D1は、色相フィルタF1aの基準画像Iaに対する応答出力の平均値R1 (a)と色相フィルタF1bの比較画像Ibに対する応答出力の平均値R1 (b)との差を求め、求めた差を加算器ADへ出力する。減算器D2は、色相フィルタF1aの基準画像Iaに対する応答出力の標準偏差σ1 (a)と色相フィルタF1bの比較画像Ibに対する応答出力の標準偏差σ1 (b)との差を求め、求めた差を加算器ADへ出力する。
【0069】
同様に、減算器D2〜D16は、色相フィルタF2a〜F8aの基準画像Iaに対する応答出力の平均値Ri (a)および標準偏差σi (a)(i=2〜8)と、色相フィルタF2b〜F8bの比較画像Ibに対する応答出力の平均値Ri (b)および標準偏差σi (b)(i=2〜8)との差をそれぞれ求め、求めた差を加算器ADへ出力する。
【0070】
輝度平均値算出部Aaは、基準画像Iaの輝度の平均値を算出し、算出した輝度の平均値を減算器D17へ出力する。輝度平均値算出部Abは、比較画像Ibの輝度の平均値を算出し、算出した輝度の平均値を減算器D17へ出力する。減算器D17は、基準画像Iaの輝度の平均値と比較画像Ibの輝度の平均値との差を求め、求めた差を加算器ADへ出力する。
【0071】
輝度標準偏差算出部Saは、基準画像Iaの輝度の標準偏差を算出し、算出した輝度の標準偏差を減算器D18へ出力する。輝度標準偏差算出部Sbは、比較画像Ibの輝度の標準偏差を算出し、算出された輝度の標準偏差を減算器D18へ出力する。減算器D18は、基準画像Iaの輝度の標準偏差と比較画像Ibの輝度の標準偏差との差を求め、求めた差を加算器ADへ出力する。
【0072】
加算器ADは、減算器D1〜D18の各出力をΔDi とすると、次式に従って各出力に所定の重み付けを行った後に各出力を加算し、類似度ΔDを出力する。
【0073】
【数4】
【0074】
ここで、ωi は重み付け係数であり、Nは18であり、Qは2以上4以下の実数であり、Q=2の場合に人の視覚特性に最も適合したものとなる。
【0075】
上記の処理により算出された類似度ΔDが0に近い場合、基準画像Iaと比較画像Ibとが類似し、類似度ΔDが大きい場合、基準画像Iaに比較画像Ibが類似していないことが示される。
【0076】
なお、上記の説明では、基準画像および比較画像用に8個の色相フィルタ、8個の平均値算出部、8個の標準偏差算出部、輝度平均値算出部および輝度標準偏差算出部を2組設けたが、1組の色相フィルタ、平均値算出部、標準偏差算出部、輝度平均値算出部および輝度標準偏差算出部を基準画像および比較画像用に兼用し、基準画像および比較画像を時分割に入力して類似度を求めてもよい。
【0077】
本実施の形態では、色相フィルタF1a〜F8a,F1b〜F8bが色相フィルタ手段に相当し、平均値算出部A1a〜A8a,A1b〜A8b、標準偏差算出部S1a〜S8a,S1b〜S8b、輝度平均値算出部Aa,Ab、輝度標準偏差算出部Sa,Sb、減算器D1〜D18および加算器ADが類似度算出手段に相当し、制御部2が抽出手段に相当し、平均値算出部A1a〜A8a,A1b〜A8bが平均値算出手段に相当し、標準偏差算出部S1a〜S8a,S1b〜S8bが標準偏差算出手段に相当する。
【0078】
ここで、図1に示す画像検索装置は、ソフトウェアを用いてパーソナルコンピュータ等により実現することもでき、その場合のハードウェア構成について以下に説明する。図5は、図1に示す画像検索装置の機能をソフトウェアにより実現する場合のハードウェア構成を示すブロック図である。
【0079】
図5に示すCPU(中央演算処理装置)21、ROM(リードオンリメモリ)22、RAM(ランダムアクセスメモリ)23、外部記憶装置24、入力部25および表示部26は、バス27にそれぞれ接続され、バス27を介して種々の制御信号およびデータが送受信される。
【0080】
CPU21は、ROM22に記憶されている画像検索処理プログラムに従って動作し、RAM23等を制御し、制御部2および類似度算出部4の機能を実行する。外部記憶装置24は、ハードディスクドライブ、光ディスクドライブ等の記憶装置から構成され、記憶部3として機能し、上記の各画像が記録される。入力部25は、キーボード、マウス等から構成され、入力部1の機能を実行する。表示部26は、CRT等のディスプレイ装置から構成され、表示部5の機能を実行する。
【0081】
なお、ROM22に記憶した画像検索処理プログラムはフロッピィディスクドライブ、CD−ROMドライブ、光ディスクドライブ等の外部記憶装置等により記憶媒体であるフロッピィディスクドライブ、CD−ROM、光ディスク等に記憶されたものを読み出し、CPU21で実行するようにしてもよい。また、インターネット等の通信媒体により伝送された画像検索処理プログラムを外部記憶装置24またはRAM23等に記憶し、記憶した画像検索処理プログラムをCPU21で実行することにより上記各機能を実現するようにしてもよい。
【0082】
また、外部記憶装置24を用いずに、インターネット等の通信媒体を介して、記憶部3に対応する機能を有する他のサーバ等の記憶装置にアクセスすることにより、画像を検索するようにしてもよい。
【0083】
また、ハードウェアとしては、外部記憶装置24内に記憶されている画像のデータ量等に応じて、パーソナルコンピュータ、ワークステーション、大型計算機等の種々のものを用いることができ、画像検索処理プログラムを記述する言語も特に限定されず、種々のプログラミング言語を用いることができる。
【0084】
次に、上記のように構成された画像検索装置の画像検索処理について説明する。図6は、図1に示す画像検索装置による情報検索処理を説明するためのフローチャートである。
【0085】
まず、ユーザが入力部1を用いて記憶部3に記憶されている基準画像を選択するとともに、基準画像に類似する類似画像の検索を指示すると、ステップS1において、制御部2は、入力部1を介して入力される基準画像に対応する画像データを記憶部3から読み出し、類似度算出部4へ出力する。
【0086】
次に、ステップS2において、類似度算出部4は、上記の処理により色相フィルタF1a〜F8aの基準画像に対する応答出力の平均値および標準偏差を算出するとともに、基準画像の輝度の平均値および標準偏差を算出する。
【0087】
次に、ステップS3において、制御部2は、記憶部3に記憶されている画像の中から1つの比較画像を読み込み、類似度算出部4へ出力する。
【0088】
次に、ステップS4において、類似度算出部4は、上記の処理により色相フィルタF1a〜F8aの比較画像に対する応答出力の平均値および標準偏差を算出するとともに、比較画像の輝度の平均値および標準偏差を算出する。
【0089】
次に、ステップS5において、類似度算出部4は、ステップS2で算出した基準画像の応答出力の平均値および標準偏差等とステップS4で算出した比較画像の応答出力の平均値および標準偏差等との各差分を加算して類似度を算出し、制御部2へ出力する。制御部2は、算出された類似度を記憶部3に記憶させる。
【0090】
次に、ステップS6において、制御部2は、記憶部3から全ての比較画像を読み出したか否かを判断し、全ての比較画像を読み込んでいない場合は、ステップS3へ移行し、次の比較画像を読み込み、上記と同様にして読み込んだ比較画像と基準画像との類似度を算出して記憶する。
【0091】
一方、全ての比較画像の読み込みが終了し、全ての比較画像と基準画像との類似度の算出が終了している場合は、ステップS7へ移行し、制御部2は、記憶部3に記憶されている類似画像と比較画像との類似度を参照し、当該類似度が所定の閾値以下の場合に比較画像が基準画像に類似する類似画像であると判断し、読み出した各比較画像を類似画像として表示部5に一覧表示する。
【0092】
上記のように、本実施の形態では、互いに異なる色相に選択的に反応する8個の色相フィルタF1a〜F8a,F1b〜F8bを通過させることにより、人間の視覚特性に適合した画像の応答出力を得ることができるので、基準画像に対する色相フィルタF1a〜F8aの各応答出力の平均値および標準偏差等と比較画像に対する色相フィルタF1b〜F8bの各応答出力の平均値および標準偏差等との差を加算することにより、人の視覚特性に適合した基準画像と比較画像との相違を類似度として求めることができ、人の視覚特性に基づいて基準画像に類似する類似画像を効率よく検索することができる。
【0093】
なお、本実施の形態では、基準画像および比較画像の色相フィルタの応答出力の平均値および標準偏差の差を用いて類似度を算出したが、平均値および標準偏差のいずれか一方のみの差を用いて類似度を算出するようにしてもよい。
【0094】
また、本実施の形態では、基準画像および比較画像の輝度の平均値および標準偏差の差を用いて類似度を算出したが、平均値および標準偏差のいずれか一方の差のみと色相フィルタの応答出力の平均値および/または標準偏差の差とを用いて類似度を算出するようにしてもよく、また、色相フィルタの応答出力の平均値および/または標準偏差の差のみを用いて類似度を算出するようにしてもよい。
【0095】
また、本実施の形態では、一つの画像全体のデータから類似度を算出したが、画像を複数に分割し、分割された画像を用いて類似度を算出してもよく、また、画像から背景部分を分離し、見る人にとって画像の印象的な部分となる、背景部分以外の非背景部分を用いて類似度を算出するようにしてもよい。
【0096】
また、特定の物体を表す物体画像と風景を表す風景画像とでは、全体の色彩が似ていても、見る人の印象が異なるため、類似度を算出する前に、色彩の空間的な分布を基準にして比較画像を物体画像か背景画像かを分類し、基準画像が物体画像の場合に、分類された物体画像の中から類似画像を検索し、基準画像が風景画像の場合に、分類された風景画像の中から類似画像を検索するようにしてもよい。
【図面の簡単な説明】
【図1】本発明の一実施の形態による画像検索装置の構成を示すブロック図である。
【図2】図1に示す類似度算出部の構成を示すブロック図である。
【図3】図2に示す色相フィルタの色相に対する感度プロファイルを示す図である。
【図4】L−M軸およびS軸からなる色空間の座標系を示す図である。
【図5】図1に示す画像検索装置の機能をソフトウェアにより実現する場合のハードウェア構成を示すブロック図である。
【図6】図1に示す画像検索装置による情報検索処理を説明するためのフローチャートである。
【符号の説明】
1 入力部
2 制御部
3 記憶部
4 類似度算出部
5 表示部
F1a〜F8a,F1b〜F8b 色相フィルタ
A1a〜A8a,A1b〜A8b 平均値算出部
S1a〜S8a,S1b〜S8b 標準偏差算出部
Aa,Ab 輝度平均値算出部
Sa,Sb 輝度標準偏差算出部
D1〜D18 減算器
AD 加算器
【発明の属する技術分野】
本発明は、比較画像の中から基準画像に類似する類似画像を検索する画像検索装置、画像検索方法および画像検索処理プログラムを記録した記録媒体に関するものである。
【0002】
【従来の技術】
画像の大域的(全体的)な色彩分布は、当該画像が表示するシーンや物体等により特徴的なパターンを示す。したがって、大域的な色彩分布に関する情報は、画像を構成するシーンおよび物体等を検索、分類および識別等をするための手がかりとなる。
【0003】
このような画像の色彩分布に関する情報を利用した従来の画像符号化方法としては、DCT(離散コサイン変換)等を用いた画像符号化方法がある。また、上記のような画像の色彩分布に関する情報を利用した従来の画像検索方法としては、テキストデータを用いずにRGB(レッド・グリーン・ブルー)やHSV(色相・彩度・輝度)等の色空間内で各画像の色情報のヒストグラムを利用し、基準画像に類似する類似画像を検索する手法が種々提案されている。
【0004】
【発明が解決しようとする課題】
しかしながら、DCT等を用いた画像符号化方法は、信号処理的な観点から画像データを圧縮符号化するものであり、人の視覚特性のうち空間周波数感度のみが考慮され、それ以外が考慮されていないため、人が見るという観点からみると、十分な情報圧縮が行われているとはいえない。
【0005】
また、上記のRGBおよびHSV等の色空間に基づく画像検索方法では、信号処理的な観点から見た類似度により基準画像に類似する類似画像を検索しているため、実際に画像を見たときの人間の視覚的な印象とは異なる場合が多い。このため、検索された画像が人の視覚的印象から判断して必ずしも類似しているとはいえない場合があり、人の視覚特性に基づいて基準画像に類似する類似画像を抽出することができない。
【0007】
本発明の目的は、人の視覚特性に基づいて基準画像に類似する類似画像を効率よく検索することができる画像検索装置、画像検索方法および画像検索処理プログラムを記録した記録媒体を提供することである。
【0021】
(1)第1の発明
第1の発明に係る画像検索装置は、比較画像の中から基準画像に類似する類似画像を検索する画像検索装置であって、互いに異なる色相に選択的に反応する5個以上の色相フィルタ手段と、基準画像に対する色相フィルタ手段の各出力の平均値および標準偏差と比較画像に対する色相フィルタ手段の各出力の平均値および標準偏差との差を加算して基準画像に対する比較画像の類似度を算出する類似度算出手段と、類似度算出手段により算出された類似度に基づき比較画像の中から類似画像を抽出する抽出手段とを備えたものである。
【0022】
本発明に係る画像検索装置においては、基準画像に対する色相フィルタ手段の各出力と比較画像に対する色相フィルタ手段の各出力とを基に基準画像に対する比較画像の類似度が算出され、算出された類似度に基づき比較画像の中から類似画像が抽出される。
【0023】
ここで、色相フィルタ手段は、少なくとも5個設けられ、互いに異なる色相に選択的に反応することができるので、この色相フィルタ手段を通過させることにより、人間の視覚特性に適合した画像の応答出力を得ることができる。したがって、基準画像に対する色相フィルタ手段の各出力と比較画像に対する色相フィルタ手段の各出力とを用いることにより、人の視覚特性に適合した基準画像と比較画像との相違を類似度として求めることができる。この結果、人の視覚特性に基づいて基準画像に類似する類似画像を効率よく検索することができる。
【0025】
この場合、基準画像と比較画像との色相フィルタ手段の各出力の平均値および標準偏差の差を加算した値を類似度として算出することができるので、人の視覚特性に基づく色彩的な類似度を算出することができ、より高効率に類似する類似画像を抽出することができる。
【0026】
(2)第2の発明
第2の発明に係る画像検索装置は、第1の発明に係る画像検索装置の構成において、類似度算出手段は、基準画像の輝度の平均値および/または標準偏差と比較画像の輝度の平均値および/または標準偏差との差をさらに類似度に加算して基準画像に対する比較画像の類似度を算出するものである。
【0027】
この場合、基準画像と比較画像との輝度の平均値および/または標準偏差の差を含めた類似度を算出することができるので、人の視覚特性に基づく色彩的な類似度のみならず、輝度の類似度を含めて画像の類似度を算出することができ、より高精度に類似する類似画像を抽出することができる。
【0028】
(3)第3の発明
第3の発明に係る画像検索装置は、第1または第2の発明に係る画像検索装置の構成において、色相フィルタ手段は、L−M軸とS軸とからなる色空間におけるL−M軸と色度点とがなす角度を色相とするものである。
【0029】
この場合、L−M軸とS軸とからなる色空間におけるL−M軸と色度点とがなす角度が、色相フィルタ手段の色相となるので、人間の網膜の錐体応答の線型和で定義されるL−M軸およびS軸からなる色空間を用いて定義された色相に対する応答出力を得ることができ、より人の視覚特性に適合した応答出力を用いて類似度を算出することができる。
【0030】
(4)第4の発明
第4の発明に係る画像検索装置は、第3の発明に係る画像検索装置の構成において、色相フィルタ手段は、選択的に反応する色相の範囲を45度ずつずらせた8個の色相フィルタ手段を含むものである。
【0031】
この場合、選択的に反応する色相の範囲を45度ずつずらせた8個の色相フィルタ手段を用いているので、より人間の視覚特性に適合した色相フィルタ手段を用いることができ、人の視覚特性により適合した画像検索を行うことができる。
【0032】
(5)第5の発明
第5の発明に係る画像検索方法は、比較画像の中から基準画像に類似する類似画像を検索する画像検索方法であって、基準画像の各データを互いに異なる色相に選択的に反応する5個以上の色相フィルタ手段の各々に入力し、基準画像に対する色相フィルタ手段の出力を得るステップと、比較画像の各データを色相フィルタ手段の各々に入力し、比較画像に対する色相フィルタ手段の出力を得るステップと、基準画像に対する色相フィルタ手段の各出力の平均値および標準偏差と比較画像に対する色相フィルタ手段の各出力の平均値および標準偏差との差を加算して基準画像に対する比較画像の類似度を算出するステップと、算出された類似度に基づき比較画像の中から類似画像を抽出するステップとを含むものである。
【0033】
本発明に係る画像検索方法においては、基準画像に対する色相フィルタ手段の各出力と比較画像に対する色相フィルタ手段の各出力とを基に基準画像に対する比較画像の類似度が算出され、算出された類似度に基づき比較画像の中から類似画像が抽出される。
【0034】
ここで、色相フィルタ手段は、少なくとも5個設けられ、互いに異なる色相に選択的に反応することができるので、この色相フィルタ手段を通過させることにより、人間の視覚特性に適合した画像の応答出力を得ることができる。したがって、基準画像に対する色相フィルタ手段の各出力と比較画像に対する色相フィルタ手段の各出力とを用いることにより、人の視覚特性に適合した基準画像と比較画像との相違を類似度として求めることができる。この結果、人の視覚特性に基づいて基準画像に類似する類似画像を効率よく検索することができる。
この場合、基準画像と比較画像との色相フィルタ手段の各出力の平均値および標準偏差の差を加算した値を類似度として算出することができるので、人の視覚特性に基づく色彩的な類似度を算出することができ、より高効率に類似する類似画像を抽出することができる。
【0035】
(6)第6の発明
第6の発明に係る画像検索処理プログラムを記録した記録媒体は、比較画像の中から基準画像に類似する類似画像を検索する画像検索処理を演算処理装置に実行させる画像検索処理プログラムを記録した記録媒体であって、画像検索処理プログラムは、基準画像の各データを互いに異なる色相に選択的に反応する5個以上の色相フィルタ手段の各々に入力し、基準画像に対する色相フィルタ手段の出力を得る処理と、比較画像の各データを色相フィルタ手段の各々に入力し、比較画像に対する色相フィルタ手段の出力を得る処理と、基準画像に対する色相フィルタ手段の各出力の平均値および標準偏差と比較画像に対する色相フィルタ手段の各出力の平均値および標準偏差との差を加算して基準画像に対する比較画像の類似度を算出する処理と、算出された類似度に基づき比較画像の中から類似画像を抽出する処理とを演算処理装置に実行させるものである。
【0036】
本発明に係る画像検索処理プログラムを記録した記録媒体によれば、基準画像に対する色相フィルタ手段の各出力と比較画像に対する色相フィルタ手段の各出力とを基に基準画像に対する比較画像の類似度が算出され、算出された類似度に基づき比較画像の中から類似画像が抽出される。
【0037】
ここで、色相フィルタ手段は、少なくとも5個設けられ、互いに異なる色相に選択的に反応することができるので、この色相フィルタ手段を通過させることにより、人間の視覚特性に適合した画像の応答出力を得ることができる。したがって、基準画像に対する色相フィルタ手段の各出力と比較画像に対する色相フィルタ手段の各出力とを用いることにより、人の視覚特性に適合した基準画像と比較画像との相違を類似度として求めることができる。この結果、人の視覚特性に基づいて基準画像に類似する類似画像を効率よく検索することができる。
この場合、基準画像と比較画像との色相フィルタ手段の各出力の平均値および標準偏差の差を加算した値を類似度として算出することができるので、人の視覚特性に基づく色彩的な類似度を算出することができ、より高効率に類似する類似画像を抽出することができる。
【0038】
【発明の実施の形態】
以下、本発明の一実施の形態による画像検索装置について図面を参照しながら説明する。図1は、本発明の一実施の形態による画像検索装置の構成を示すブロック図である。
【0039】
図1において、画像検索装置は、入力部1、制御部2、記憶部3、類似度算出部4および表示部5を備える。
【0040】
入力部1は、ユーザが種々の入力を行うために用いられ、例えば、ユーザは、入力部1を用いて、画像検索を行う場合の基準となる基準画像を選択したり、基準画像に類似する類似画像を検索する検索指令を入力したり、検索結果として基準画像に類似する類似画像を一覧表示するための検索結果指令を入力したりする。
【0041】
制御部2は、入力部1を介して入力された種々の指令に応じて、記憶部3、類似度算出部4および表示部5の動作を制御する。例えば、入力部1から基準画像を指定するデータが入力された場合、制御部2は、当該データに対応する画像を基準画像として記憶部3に記憶させる。また、入力部1から類似画像の検索指令が入力された場合、制御部2は、記憶部3に記憶されている基準画像および比較画像を順次類似度算出部4へ出力し、類似度算出部4により算出された各画像の類似度を記憶部3に記憶させ、記憶部3に記憶されている各画像の類似度を基に基準画像に類似する類似画像を表示部5で表示するためのデータを表示部5へ出力する。
【0042】
記憶部3は、複数の画像を予め記憶しており、例えば、記憶されている複数の画像の中から基準画像が選択され、残りの画像が比較画像となり類似画像を検索する場合の検索対象となる。
【0043】
類似度算出部4は、制御部2を介して記憶部3から入力された基準画像および比較画像の類似度を算出し、算出した類似度が制御部2を介して記憶部3に記憶される。
【0044】
表示部5は、制御部2に制御され、種々の表示画面を表示し、例えば、ユーザが基準画像を選択するための選択画面を表示したり、記憶部3に記憶されている類似度に基づき類似画像を一覧表示する。
【0045】
図2は、図1に示す類似度算出部4の構成を示すブロック図である。図2において、類似度算出部4は、複数の色相フィルタF1a〜F8a,F1b〜F8b、平均値算出部A1a〜A8a,A1b〜A8b、標準偏差算出部S1a〜S8a,S1b〜S8b、輝度平均値算出部Aa,Ab、輝度標準偏差算出部Sa,Sb、減算器D1〜D18および加算器ADを含む。
【0046】
図2に示す類似度算出部4では、基準画像Iaの処理用に8個の色相フィルタF1a〜F8a、8個の平均値算出部A1a〜A8a、8個の標準偏差算出部S1a〜S8a、輝度平均値算出部Aaおよび輝度標準偏差算出部Saが設けられるとともに、比較画像Ibの処理用に8個の色相フィルタF1b〜F8b、8個の平均値算出部A1b〜A8b、8個の標準偏差算出部S1b〜S8b、輝度平均値算出部Abおよび輝度標準偏差算出部Sbが設けられている。
【0047】
図3は、図2に示す色相フィルタF1a〜F8a,F1b〜F8bの色相に対する感度プロファイルを示す図である。
【0048】
図3に示す感度プロファイルS1が色相フィルタF1a,F1bの感度プロファイルであり、感度プロファイルS2が色相フィルタF2a,F2bの感度プロファイルであり、以降同様に感度プロファイルS3〜S8が色相フィルタF3a,F3b,…,F8a,F8bの感度プロファイルとなる。
【0049】
ここで、画像は、人間の目を通って網膜に結像し、網膜の受光体である錐体により知覚される。すなわち、色覚は錐体の働きによるものであり、錐体には分光感度の違いにより、波長の長い赤(Long)を感じるL錐体、中間の波長の緑(Middle)を感じるM錐体、波長の短い紫(Short)を感じるS錐体がある。この3種類の分光吸収特性を持つ錐体細胞により光を吸収することにより人の色覚が始まる。
【0050】
しかしながら、本願発明者らによる心理実験により得られた色彩分布弁別特性は、色覚過程の初期過程である錐体機構および反対色機構の働きのみでは説明できず、RGB、YIQ等の3次元色彩情報表現では、この視覚特性に適合しないことが判明した。一方、高次色覚機構である異なる色相に選択的に反応する複数の機構を用いた場合、上記の色彩分布弁別特性をよく説明することができることが判明した。
【0051】
上記の検討結果を基に、本実施の形態では、図3に示す各感度プロファイルS1〜S8を有する色相フィルタF1a〜F8a,F1b〜F8bを用い、人の視覚特性に適合した色相フィルタの応答出力の平均値および標準偏差を求めることにより画像データを符号化して圧縮するとともに、基準画像および比較画像に対する色相フィルタの応答出力の平均値および標準偏差等の差を用いて基準画像と比較画像との類似度を求めている。
【0052】
このように、色相フィルタF1a〜F8a,F1b〜F8bは、人の色彩知覚モデルに基づき、互いに異なる色相に選択的に反応する色相フィルタである。各感度プロファイルS1〜S8は、基本的に同様の波形を有し、感度のピーク点が45度ずつずれ、8つの方向の色相にそれぞれ選択的に反応する。
【0053】
ここで、色相フィルタF1a〜F8a,F1b〜F8bの色相は、図4に示すように、L−M軸と色度点PDとがなす角度θを色相として定義したものである。また、L−M軸およびS軸は、白色点(D65など、他の白色でもよい)を通る、MacLeod−Boynton (MB)色空間(MacLeod, D.I.A. & Boynton, R.M. (1979). Chromaticity diagram showing cone excitation by stimuli of equal luminance. Journal of the Optical Society of America, 69, 1183−1186. を参照)におけるl軸およびs軸に平行な軸であり、単位色差を白色からの弁別閾値とするものである。MB色空間は、人の網膜の錐体応答の線型和で定義されており、視覚系の初期反対色系の特性に基づくものである。
【0054】
上記のように、図3に示す各感度プロファイルS1〜S8は、図4に示すL−M軸と色度点PDとのなす角度により定義される色相に対してそのピーク点が45度ずつずれ、互いに異なる色相に選択的に反応するように設定されている。
【0055】
具体的には、色相フィルタFia,Fib(i=1〜8)の感度プロファイルSi (θ)は、以下の式により表される。
【0056】
【数1】
【0057】
ここで、pは所定の振幅係数であり、nは1以上5以下の整数であり、n=3の場合に人の視覚特性に最も適合したものとなる。なお、各感度プロファイルSi (θ)としては、上記の例に特に限定されず、ガウス分布等を用いてもよい。
【0058】
なお、色相は、上記の色空間におけるL−M軸と色度点PDとがなす角度θを色相として定義したもの用いることが好ましいが、他の色空間により定義される色相を用いることもできる。また、上記の色相フィルタの数は、各画像に対して5個以上であれば、人の色彩知覚モデルに適合した色相フィルタとなり、人の視覚特性に基づき類似する画像を弁別することができる。また、より高精度に弁別するためには、本実施の形態のように8個の色相フィルタF1a〜F8a,F1b〜F8bを用いることが好ましい。
【0059】
再び、図2を参照して、色相フィルタF1a〜F8aには、基準画像Iaを構成する各画素データが順次入力され、色相フィルタF1b〜F8bには、比較画像Ibを構成する各画素データが順次入力される。
【0060】
各色相フィルタF1a〜F8aは、基準画像Iaを構成する各画素データに対して図3に示す感度プロファイルS1に基づき各画素データをフィルタリングすし、各応答出力が平均値算出部A1a〜A8aおよび標準偏差算出部S1a〜S8aに入力される。
【0061】
ここで、色相フィルタFia(i=1〜8)に基準画像Iaの画素データ(rj (a) θj (a))が入力されたとすると、下式により各色相フィルタF1a〜F8aの応答出力の平均値Ri (a)が算出され、平均値算出部A1a〜A8aは、算出された応答出力の平均値Ri (a)を対応する減算器D1,D3,D5,D7,D9,D11,D13,D15へ出力する。
【0062】
【数2】
【0063】
ここで、Mは、基準画像Iaを構成する画素データの総数である。
また、下式により各色相フィルタF1a〜F8aの応答出力の標準偏差σi (a)が算出され、標準偏差算出部S1a〜S8aは、算出された応答出力の標準偏差σi (a)を対応する減算器D2,D4,D6,D8,D10,D12,D14,D16へ出力する。
【0064】
【数3】
【0065】
上記と同様に、各色相フィルタF1b〜F8bも、比較画像Ibの各画素データ(rj (b),θj (b))に対してフィルタリングを行い、平均値算出部A1b〜A8bおよび標準偏差算出部S1b〜S8bは、各色相フィルタF1b〜F8bの応答出力の平均値Ri (b)および標準偏差σi (b)を、対応する減算器D1〜D16へ出力する。
【0066】
ここで、平均値算出部A1a〜A8a(A1b〜A8b)および標準偏差算出部S1a〜S8a(S1b〜S8b)の各出力は、色相フィルタF1a〜F8a(F1b〜F8b)に入力される画像データの符号化データとして用いることができる。すなわち、画像データを符号化して圧縮する画像符号化装置が、色相フィルタF1a〜F8a(F1b〜F8b)、平均値算出部A1a〜A8a(A1b〜A8b)および標準偏差算出部S1a〜S8a(S1b〜S8b)により構成されている。
【0067】
この場合、互いに異なる色相に選択的に反応する8個の色相フィルタF1a〜F8a(F1b〜F8b)を通過させることにより、人間の視覚特性に適合した画像データの応答出力を得ることができるので、人の視覚特性に適合して十分に圧縮された符号化データを得ることができ、人の見え方に影響を及ぼすことなく、人の視覚特性に基づき画像データを十分に圧縮して符号化することができる。
【0068】
減算器D1は、色相フィルタF1aの基準画像Iaに対する応答出力の平均値R1 (a)と色相フィルタF1bの比較画像Ibに対する応答出力の平均値R1 (b)との差を求め、求めた差を加算器ADへ出力する。減算器D2は、色相フィルタF1aの基準画像Iaに対する応答出力の標準偏差σ1 (a)と色相フィルタF1bの比較画像Ibに対する応答出力の標準偏差σ1 (b)との差を求め、求めた差を加算器ADへ出力する。
【0069】
同様に、減算器D2〜D16は、色相フィルタF2a〜F8aの基準画像Iaに対する応答出力の平均値Ri (a)および標準偏差σi (a)(i=2〜8)と、色相フィルタF2b〜F8bの比較画像Ibに対する応答出力の平均値Ri (b)および標準偏差σi (b)(i=2〜8)との差をそれぞれ求め、求めた差を加算器ADへ出力する。
【0070】
輝度平均値算出部Aaは、基準画像Iaの輝度の平均値を算出し、算出した輝度の平均値を減算器D17へ出力する。輝度平均値算出部Abは、比較画像Ibの輝度の平均値を算出し、算出した輝度の平均値を減算器D17へ出力する。減算器D17は、基準画像Iaの輝度の平均値と比較画像Ibの輝度の平均値との差を求め、求めた差を加算器ADへ出力する。
【0071】
輝度標準偏差算出部Saは、基準画像Iaの輝度の標準偏差を算出し、算出した輝度の標準偏差を減算器D18へ出力する。輝度標準偏差算出部Sbは、比較画像Ibの輝度の標準偏差を算出し、算出された輝度の標準偏差を減算器D18へ出力する。減算器D18は、基準画像Iaの輝度の標準偏差と比較画像Ibの輝度の標準偏差との差を求め、求めた差を加算器ADへ出力する。
【0072】
加算器ADは、減算器D1〜D18の各出力をΔDi とすると、次式に従って各出力に所定の重み付けを行った後に各出力を加算し、類似度ΔDを出力する。
【0073】
【数4】
【0074】
ここで、ωi は重み付け係数であり、Nは18であり、Qは2以上4以下の実数であり、Q=2の場合に人の視覚特性に最も適合したものとなる。
【0075】
上記の処理により算出された類似度ΔDが0に近い場合、基準画像Iaと比較画像Ibとが類似し、類似度ΔDが大きい場合、基準画像Iaに比較画像Ibが類似していないことが示される。
【0076】
なお、上記の説明では、基準画像および比較画像用に8個の色相フィルタ、8個の平均値算出部、8個の標準偏差算出部、輝度平均値算出部および輝度標準偏差算出部を2組設けたが、1組の色相フィルタ、平均値算出部、標準偏差算出部、輝度平均値算出部および輝度標準偏差算出部を基準画像および比較画像用に兼用し、基準画像および比較画像を時分割に入力して類似度を求めてもよい。
【0077】
本実施の形態では、色相フィルタF1a〜F8a,F1b〜F8bが色相フィルタ手段に相当し、平均値算出部A1a〜A8a,A1b〜A8b、標準偏差算出部S1a〜S8a,S1b〜S8b、輝度平均値算出部Aa,Ab、輝度標準偏差算出部Sa,Sb、減算器D1〜D18および加算器ADが類似度算出手段に相当し、制御部2が抽出手段に相当し、平均値算出部A1a〜A8a,A1b〜A8bが平均値算出手段に相当し、標準偏差算出部S1a〜S8a,S1b〜S8bが標準偏差算出手段に相当する。
【0078】
ここで、図1に示す画像検索装置は、ソフトウェアを用いてパーソナルコンピュータ等により実現することもでき、その場合のハードウェア構成について以下に説明する。図5は、図1に示す画像検索装置の機能をソフトウェアにより実現する場合のハードウェア構成を示すブロック図である。
【0079】
図5に示すCPU(中央演算処理装置)21、ROM(リードオンリメモリ)22、RAM(ランダムアクセスメモリ)23、外部記憶装置24、入力部25および表示部26は、バス27にそれぞれ接続され、バス27を介して種々の制御信号およびデータが送受信される。
【0080】
CPU21は、ROM22に記憶されている画像検索処理プログラムに従って動作し、RAM23等を制御し、制御部2および類似度算出部4の機能を実行する。外部記憶装置24は、ハードディスクドライブ、光ディスクドライブ等の記憶装置から構成され、記憶部3として機能し、上記の各画像が記録される。入力部25は、キーボード、マウス等から構成され、入力部1の機能を実行する。表示部26は、CRT等のディスプレイ装置から構成され、表示部5の機能を実行する。
【0081】
なお、ROM22に記憶した画像検索処理プログラムはフロッピィディスクドライブ、CD−ROMドライブ、光ディスクドライブ等の外部記憶装置等により記憶媒体であるフロッピィディスクドライブ、CD−ROM、光ディスク等に記憶されたものを読み出し、CPU21で実行するようにしてもよい。また、インターネット等の通信媒体により伝送された画像検索処理プログラムを外部記憶装置24またはRAM23等に記憶し、記憶した画像検索処理プログラムをCPU21で実行することにより上記各機能を実現するようにしてもよい。
【0082】
また、外部記憶装置24を用いずに、インターネット等の通信媒体を介して、記憶部3に対応する機能を有する他のサーバ等の記憶装置にアクセスすることにより、画像を検索するようにしてもよい。
【0083】
また、ハードウェアとしては、外部記憶装置24内に記憶されている画像のデータ量等に応じて、パーソナルコンピュータ、ワークステーション、大型計算機等の種々のものを用いることができ、画像検索処理プログラムを記述する言語も特に限定されず、種々のプログラミング言語を用いることができる。
【0084】
次に、上記のように構成された画像検索装置の画像検索処理について説明する。図6は、図1に示す画像検索装置による情報検索処理を説明するためのフローチャートである。
【0085】
まず、ユーザが入力部1を用いて記憶部3に記憶されている基準画像を選択するとともに、基準画像に類似する類似画像の検索を指示すると、ステップS1において、制御部2は、入力部1を介して入力される基準画像に対応する画像データを記憶部3から読み出し、類似度算出部4へ出力する。
【0086】
次に、ステップS2において、類似度算出部4は、上記の処理により色相フィルタF1a〜F8aの基準画像に対する応答出力の平均値および標準偏差を算出するとともに、基準画像の輝度の平均値および標準偏差を算出する。
【0087】
次に、ステップS3において、制御部2は、記憶部3に記憶されている画像の中から1つの比較画像を読み込み、類似度算出部4へ出力する。
【0088】
次に、ステップS4において、類似度算出部4は、上記の処理により色相フィルタF1a〜F8aの比較画像に対する応答出力の平均値および標準偏差を算出するとともに、比較画像の輝度の平均値および標準偏差を算出する。
【0089】
次に、ステップS5において、類似度算出部4は、ステップS2で算出した基準画像の応答出力の平均値および標準偏差等とステップS4で算出した比較画像の応答出力の平均値および標準偏差等との各差分を加算して類似度を算出し、制御部2へ出力する。制御部2は、算出された類似度を記憶部3に記憶させる。
【0090】
次に、ステップS6において、制御部2は、記憶部3から全ての比較画像を読み出したか否かを判断し、全ての比較画像を読み込んでいない場合は、ステップS3へ移行し、次の比較画像を読み込み、上記と同様にして読み込んだ比較画像と基準画像との類似度を算出して記憶する。
【0091】
一方、全ての比較画像の読み込みが終了し、全ての比較画像と基準画像との類似度の算出が終了している場合は、ステップS7へ移行し、制御部2は、記憶部3に記憶されている類似画像と比較画像との類似度を参照し、当該類似度が所定の閾値以下の場合に比較画像が基準画像に類似する類似画像であると判断し、読み出した各比較画像を類似画像として表示部5に一覧表示する。
【0092】
上記のように、本実施の形態では、互いに異なる色相に選択的に反応する8個の色相フィルタF1a〜F8a,F1b〜F8bを通過させることにより、人間の視覚特性に適合した画像の応答出力を得ることができるので、基準画像に対する色相フィルタF1a〜F8aの各応答出力の平均値および標準偏差等と比較画像に対する色相フィルタF1b〜F8bの各応答出力の平均値および標準偏差等との差を加算することにより、人の視覚特性に適合した基準画像と比較画像との相違を類似度として求めることができ、人の視覚特性に基づいて基準画像に類似する類似画像を効率よく検索することができる。
【0093】
なお、本実施の形態では、基準画像および比較画像の色相フィルタの応答出力の平均値および標準偏差の差を用いて類似度を算出したが、平均値および標準偏差のいずれか一方のみの差を用いて類似度を算出するようにしてもよい。
【0094】
また、本実施の形態では、基準画像および比較画像の輝度の平均値および標準偏差の差を用いて類似度を算出したが、平均値および標準偏差のいずれか一方の差のみと色相フィルタの応答出力の平均値および/または標準偏差の差とを用いて類似度を算出するようにしてもよく、また、色相フィルタの応答出力の平均値および/または標準偏差の差のみを用いて類似度を算出するようにしてもよい。
【0095】
また、本実施の形態では、一つの画像全体のデータから類似度を算出したが、画像を複数に分割し、分割された画像を用いて類似度を算出してもよく、また、画像から背景部分を分離し、見る人にとって画像の印象的な部分となる、背景部分以外の非背景部分を用いて類似度を算出するようにしてもよい。
【0096】
また、特定の物体を表す物体画像と風景を表す風景画像とでは、全体の色彩が似ていても、見る人の印象が異なるため、類似度を算出する前に、色彩の空間的な分布を基準にして比較画像を物体画像か背景画像かを分類し、基準画像が物体画像の場合に、分類された物体画像の中から類似画像を検索し、基準画像が風景画像の場合に、分類された風景画像の中から類似画像を検索するようにしてもよい。
【図面の簡単な説明】
【図1】本発明の一実施の形態による画像検索装置の構成を示すブロック図である。
【図2】図1に示す類似度算出部の構成を示すブロック図である。
【図3】図2に示す色相フィルタの色相に対する感度プロファイルを示す図である。
【図4】L−M軸およびS軸からなる色空間の座標系を示す図である。
【図5】図1に示す画像検索装置の機能をソフトウェアにより実現する場合のハードウェア構成を示すブロック図である。
【図6】図1に示す画像検索装置による情報検索処理を説明するためのフローチャートである。
【符号の説明】
1 入力部
2 制御部
3 記憶部
4 類似度算出部
5 表示部
F1a〜F8a,F1b〜F8b 色相フィルタ
A1a〜A8a,A1b〜A8b 平均値算出部
S1a〜S8a,S1b〜S8b 標準偏差算出部
Aa,Ab 輝度平均値算出部
Sa,Sb 輝度標準偏差算出部
D1〜D18 減算器
AD 加算器
Claims (6)
- 比較画像の中から基準画像に類似する類似画像を検索する画像検索装置であって、
互いに異なる色相に選択的に反応する5個以上の色相フィルタ手段と、
前記基準画像に対する前記色相フィルタ手段の各出力の平均値および標準偏差と前記比較画像に対する前記色相フィルタ手段の各出力の平均値および標準偏差との差を加算して基準画像に対する比較画像の類似度を算出する類似度算出手段と、
前記類似度算出手段により算出された類似度に基づき前記比較画像の中から前記類似画像を抽出する抽出手段とを備えたことを特徴とする画像検索装置。 - 前記類似度算出手段は、前記基準画像の輝度の平均値および/または標準偏差と前記比較画像の輝度の平均値および/または標準偏差との差をさらに前記類似度に加算して基準画像に対する比較画像の類似度を算出することを特徴とする請求項1記載の画像検索装置。
- 前記色相フィルタ手段は、L−M軸とS軸とからなる色空間におけるL−M軸と色度点とがなす角度を色相とすることを特徴とする請求項1または2記載の画像検索装置。
- 前記色相フィルタ手段は、選択的に反応する色相の範囲を45度ずつずらせた8個の色相フィルタ手段を含むことを特徴とする請求項3記載の画像検索装置。
- 比較画像の中から基準画像に類似する類似画像を検索する画像検索方法であって、
前記基準画像の各データを互いに異なる色相に選択的に反応する5個以上の色相フィルタ手段の各々に入力し、前記基準画像に対する前記色相フィルタ手段の出力を得るステップと、
前記比較画像の各データを前記色相フィルタ手段の各々に入力し、前記比較画像に対する前記色相フィルタ手段の出力を得るステップと、
前記基準画像に対する前記色相フィルタ手段の各出力の平均値および標準偏差と前記比較画像に対する前記色相フィルタ手段の各出力の平均値および標準偏差との差を加算して基準画像に対する比較画像の類似度を算出するステップと、
算出された類似度に基づき前記比較画像の中から前記類似画像を抽出するステップとを含む画像検索方法。 - 比較画像の中から基準画像に類似する類似画像を検索する画像検索処理を演算処理装置に実行させる画像検索処理プログラムを記録した記録媒体であって、
前記画像検索処理プログラムは、
前記基準画像の各データを互いに異なる色相に選択的に反応する5個以上の色相フィルタ手段の各々に入力し、前記基準画像に対する前記色相フィルタ手段の出力を得る処理と、
前記比較画像の各データを前記色相フィルタ手段の各々に入力し、前記比較画像に対する前記色相フィルタ手段の出力を得る処理と、
前記基準画像に対する前記色相フィルタ手段の各出力の平均値および標準偏差と前記比較画像に対する前記色相フィルタ手段の各出力の平均値および標準偏差との差を加算して基準画像に対する比較画像の類似度を算出する処理と、
算出された類似度に基づき前記比較画像の中から前記類似画像を抽出する処理とを、前記演算処理装置に実行させることを特徴とする画像検索処理プログラムを記録した記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000247213A JP3598051B2 (ja) | 2000-08-17 | 2000-08-17 | 画像検索装置、画像検索方法および画像検索処理プログラムを記録した記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000247213A JP3598051B2 (ja) | 2000-08-17 | 2000-08-17 | 画像検索装置、画像検索方法および画像検索処理プログラムを記録した記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002063208A JP2002063208A (ja) | 2002-02-28 |
JP3598051B2 true JP3598051B2 (ja) | 2004-12-08 |
Family
ID=18737352
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000247213A Expired - Fee Related JP3598051B2 (ja) | 2000-08-17 | 2000-08-17 | 画像検索装置、画像検索方法および画像検索処理プログラムを記録した記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3598051B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5009638B2 (ja) * | 2007-02-09 | 2012-08-22 | シャープ株式会社 | 類似映像検索装置及び類似映像検索方法 |
-
2000
- 2000-08-17 JP JP2000247213A patent/JP3598051B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002063208A (ja) | 2002-02-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4194025B2 (ja) | 照明不変の客体追跡方法及びこれを用いた映像編集装置 | |
EP2063393B1 (en) | Color classifying method, color recognizing method, color classifying device, color recognizing device, color recognizing system, computer program, and recording medium | |
CN101601287B (zh) | 产生照片级真实感图像缩略图的设备和方法 | |
US7440638B2 (en) | Image retrieving system, image classifying system, image retrieving program, image classifying program, image retrieving method and image classifying method | |
US11861810B2 (en) | Image dehazing method, apparatus, and device, and computer storage medium | |
JP6872742B2 (ja) | 顔画像処理システム、顔画像処理方法及び顔画像処理プログラム | |
EP1280107A2 (en) | Quality based image compression | |
US20100014781A1 (en) | Example-Based Two-Dimensional to Three-Dimensional Image Conversion Method, Computer Readable Medium Therefor, and System | |
WO2013069605A1 (ja) | 類似画像検索システム | |
JP2003507793A (ja) | 色ベースセグメンテーションを用いて領域ベース画像検索を実行するシステム及び方法 | |
JPH03218581A (ja) | 画像セグメンテーション方法 | |
US5742520A (en) | Color picture processing method and color picture processing apparatus | |
Hristova et al. | Style-aware robust color transfer. | |
Gritzman et al. | Comparison of colour transforms used in lip segmentation algorithms | |
US20030107570A1 (en) | Incorporating a personalized wireframe image in a computer software application | |
CN113301409A (zh) | 视频合成方法、装置、电子设备和可读存储介质 | |
CN112272295A (zh) | 具有三维效果的视频的生成方法、播放方法、装置及设备 | |
CN111274946B (zh) | 一种人脸识别方法和系统及设备 | |
CN114449362B (zh) | 视频封面的选取方法、装置、设备及存储介质 | |
CN115689882A (zh) | 一种图像处理方法、装置和计算机可读存储介质 | |
CN113178018A (zh) | 一种信息显示方法、装置、ar设备及存储介质 | |
JP3598051B2 (ja) | 画像検索装置、画像検索方法および画像検索処理プログラムを記録した記録媒体 | |
US6526167B1 (en) | Image processing apparatus and method and provision medium | |
CN112508847A (zh) | 一种基于深度特征与结构加权lbp特征的图像质量评价方法 | |
KR100340035B1 (ko) | 영상유사도가중치조절장치및방법과그를이용한내용기반영상검색시스템및방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040330 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040527 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040907 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040910 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |