JP4343038B2 - 部分画像検索システム及び方法並びにプログラム - Google Patents

部分画像検索システム及び方法並びにプログラム Download PDF

Info

Publication number
JP4343038B2
JP4343038B2 JP2004184966A JP2004184966A JP4343038B2 JP 4343038 B2 JP4343038 B2 JP 4343038B2 JP 2004184966 A JP2004184966 A JP 2004184966A JP 2004184966 A JP2004184966 A JP 2004184966A JP 4343038 B2 JP4343038 B2 JP 4343038B2
Authority
JP
Japan
Prior art keywords
feature
target
image
unit
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004184966A
Other languages
English (en)
Other versions
JP2006011622A (ja
Inventor
昭悟 木村
隆仁 川西
邦夫 柏野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2004184966A priority Critical patent/JP4343038B2/ja
Publication of JP2006011622A publication Critical patent/JP2006011622A/ja
Application granted granted Critical
Publication of JP4343038B2 publication Critical patent/JP4343038B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、蓄積された複数の画像から、与えられた画像と類似した部分画像を含む画像及びその部分画像が含まれている位置を同定するのに適した部分画像検索システム及び方法並びにプログラムに関する。
デジタルカメラの普及や記録媒体の大容量化・低価格化、さらに大容量ネットワークの普及により、容易に大容量のデジタル画像を取得して保存する環境が整ってきている。
そのため、大量の画像から所望の画像を高速に探し出す高速画像検索技術が必要となってきており、特に画像の部分検索は、検索したい画像が蓄積されている画像の一部分であるため、比較の処理が多くなり、さらに高速性が要求される。
この部分画像検索技術は、膨大な画像データベースの中から、高速に目的の画像をその一部分として含む画像を検索する画像検出技術に用いられる。
例えば、画像データベースに蓄積された画像の中から、特定人物の顔が撮影されている画像を検出してユーザに提示したり、特定の物体や建造物などが撮影されている画像を含まれるホームページを検索したりする検索技術に用いられる。
従来、上記部分画像検索方法に関しては、見本となる検索したい画像と類似した画像の場所の探索を、より大きなサイズの画像の中から漏れなく正確に、高速に実行するための高速部分画像検出方法として、画像を小領域に分割して抽出した特徴をベクトル量子化し、その結果に基づいて、信号全体から照合のための特徴であるヒストグラムを作成する高速信号照合方法が知られている(例えば、特許文献1及び2参照)。
特開平07−262373号公報 特許第3065314号
しかしながら、上述した従来の部分画像検出方法にあっては、小領域の特徴をベクトル量子化し、その量子化結果からヒストグラムを作成して、比較のためのデータ量を低減しているが、比較演算するデータ量から考えると、データ量の削減が十分ではなく、ヒストグラムによる比較においても計算時間が非常に長く必要となるため、蓄積画像における部分画像の探索の時間を大幅に低減できないという欠点がある。
また、従来の部分画像検出方法にあっては、画像の特徴をベクトル量子化したものを、ヒストグラムに変換してしまうため、照合の際に部分画像内における目的画像の位置関係を正確に考慮することができないという欠点がある。
本発明は、このような事情に鑑みてなされたもので、目的画像と、蓄積画像における目的画像に類似した部分画像との類似を判定する際に、比較するデータ量を低減させ、検索処理にかかる時間を短縮し、かつ照合の際に部分画像内における目的画像の位置関係を、正確に検出する部分画像検索システム及び方法並びにプログラムを提供することを目的とする。
本発明の部分画像検索方法は、データベースに登録されている蓄積画像群から、検索対象の目的画像に類似した部分画像を含む画像及び該画像における部分画像の位置を検出する部分画像検索方法であり、部分画像を検出するとき、見本となる典型的な特徴パターンを有する見本特徴を複数種類作成する見本特徴作成過程と、該見本特徴各々の間の距離である見本特徴間距離を演算する見本特徴間距離計算過程と、蓄積画像群の各画像から複数の少領域を選択し、各小領域における画像の特徴である蓄積特徴を抽出する蓄積特徴抽出過程と、該蓄積特徴と前記見本特徴とを比較し、各蓄積特徴に対して前記見本特徴に対応する符号を割り当てる蓄積特徴量子化過程と、該符号の集合に対して、所定の大きさの注目窓を所定の間隔にて配置して、各注目窓内の符号の集合である蓄積部分領域特徴を抽出する蓄積部分領域特徴抽出過程と、前記蓄積部分領域特徴に索引を付与する索引付与過程と、目的画像から複数の小領域を選択し、この小領域各々の特徴を目的特徴として抽出する目的特徴抽出過程と、該目的特徴と、前記見本特徴とを比較することにより、前記目的特徴に対して、見本特徴に対応する符号を割り当てる目的特徴量子化過程と、前記目的特徴量子化過程で求められた符号の集合に予め定められた所定の大きさの注目窓を設定し、この注目窓をずらしながら各注目窓内の符号の集合である目的部分領域特徴を抽出する目的部分領域特徴抽出過程と、前記索引により、目的部分領域特徴の集合に類似する蓄積部分領域特徴を抽出する索引検索過程と、前記索引検索過程において導かれた蓄積部分領域特徴と前記目的部分領域特徴抽出過程で導かれた目的部分領域特徴との距離を、前記見本特徴間距離に基づいて演算する特徴照合過程と、前記距離に基づいて、目的画像に類似する部分画像が、蓄積画像群中の当該箇所に存在する可能性の有無の判定を行う照合結果判定過程と、前記照合結果判定過程において目的画像と類似する部分画像が存在する可能性があると判定された蓄積画像中の箇所において、前記蓄積特徴の符号に目的画像と同一の大きさの照合窓を設定し、該照合窓内の符号の集合と、前記目的特徴の符号の集合との特徴距離を前記見本特徴間距離に基づいて演算する特徴再照合過程と、前記特徴距離に基づいて、目的画像と類似する部分画像が蓄積画像群中の当該箇所に存在するか否かを判定す
る照合結果再判定過程と、前記照合結果再判定過程において、目的画像と類似する部分画像が存在すると判定された蓄積画像中の箇所を検索結果候補とする検索結果候補選択過程と、前記目的部分領域特徴の集合の中から、次に照合すべき目的部分領域特徴を指定する次目的部分領域特徴選定過程と、記検索候補特徴の集合の中から、次の照合すべき検索候補特徴を指定する次検索候補特徴選定過程とを有することを特徴とする。
以上説明したように、本発明によれば、画像の特徴の典型的なパターンである見本特徴の集合を準備し、この見本特徴各々の間の距離を予め計算しておき、目的特徴及び蓄積特徴おのおのに対応する見本特徴を選択して、照合時にこの見本特徴の距離を用いることにより、照合に於ける距離の演算を行わないようにし、かつ照合のための特徴を符号列で表現することにより、従来例に比較して照合処理を高速化することができる。
また、本発明によれば、照合のための特徴を、ヒストグラムを用いた量子化処理を行わなわずに、特徴に対して符号を付して表現することにより、画像内の位置関係を保持することができる。
<第1の実施例>
以下、本発明の第1の実施例による部分画像検索装置を図面を参照して説明する。図1は上記第1の実施例の部分画像検索装置の一構成例を示すブロック図である。
この図において、本実施例の部分画像検索システムは、見本特徴作成部1と、見本特徴間距離計算部2と、蓄積特徴抽出部3と、蓄積特徴量子化部4と、蓄積部分領域特徴抽出部5と、索引付与部6と、目的特徴抽出部7と、目的特徴量子化部8と、目的部分領域特徴抽出部9と、索引検索部10と、特徴照合部11と、照合結果判定部12と、特徴再照合部13と、照合結果再判定部14と、検索結果候補選択部l5と、次目的部分領域特徴選定定部16と、次検索候補特徴選定部17とを有しており、目的画像、すなわち参照している検索したい画像と、データベース等に蓄積されている蓄積画像群、すなわち検索される被検索画像である蓄積画像の集合を入力とし、上記目的画像と類似する部分画像が含まれている蓄積画像内の箇所を出力する。
見本特徴作成部1は、画像を検索する際に用いるため、画像の特徴において、見本となる典型的な特徴パターンである見本特徴を、複数の画像パターンに対応して作成する。
見本特徴間距離計算部2は、上述した各見本特徴間の距離である見本特徴間距離を計算する。また、見本特徴間距離計算部2は、データベースにおいて、上記見本特徴間距離を、各見本特徴の組合せに対応して記憶させても良い。
上記見本特徴間距離は、ユークリッド距離,マンハッタン距離,内積,正規化相互相関などを用いることが出来る。
蓄積特徴抽出部3は、蓄積画像群の画像各々において、所定の大きさの小領域を設定して、この小領域単位に画像を切り出し、この複数の小領域の画像各々の特徴を、蓄積特徴として抽出する。
蓄積特徴量子化部4は、上記蓄積特徴抽出部3の出力する蓄積特徴について、上記見本特徴作成部1から出力される各見本特徴と比較し、この蓄積特徴に近似する見本特徴に対応する所定の符号を割り当てる。
蓄積部分領域特徴抽出部5は、上記蓄積特徴抽出部3から出力された符号の集合に対し、予め定められた所定の大きさの注目窓を、予め定められた所定の間隔で設定し(所定の間隔でずらし)、各注目窓内に含まれる上記符号の集合である蓄積部分領域特徴を抽出する。
索引付与部6は、上記蓄積部分領域特徴抽出部5から出力される各蓄積部分領域特徴を、各々ベクトル量子化し、ベクトル量子化の符号語を、標識のための索引として付与する。
目的特徴抽出部7は、目的画像において、所定の大きさの小領域を設定して、この小領域単位に画像を切り出し、この複数の小領域の画像各々の特徴を、目的特徴として抽出する。
目的特徴量子化部8は、上記目的特徴抽出部7の出力する目的特徴について、上記見本特徴作成部1から出力される各見本特徴と比較し、この蓄積特徴に近似する見本特徴に対応する所定の符号を割り当てる。
目的部分領域特徴抽出部9は、上記目的特徴抽出部4から出力された符号の集合に対し、予め定められた所定の大きさの注目窓を、予め定められた所定の間隔で設定し(所定の間隔でずらし)、各注目窓内に含まれる上記符号の集合である目的部分領域特徴を抽出する。
索引検索部10は、上記索引付与部6から出力される索引を用いて、上記目的部分領域特徴抽出部9から出力される目的部分領域特徴の集合に対して、類似する蓄積部分領域特徴の抽出を行う。
特徴照合部11は、上記索引検索部10の抽出した蓄積部分領域特徴と、目的部分領域特徴抽出部9の抽出した目的部分領域特徴との距離を、各々の符号に対応する見本特徴の組合せにより、上記データベースから対応する見本特徴間距離を抽出することにより演算する。
照合結果判定部12は、上記特徴照合部11の演算した距離に基づいて、目的画像と類似する部分画像が蓄積画像群中の当該箇所に存在する可能性があるか否かの判定を行う。
特徴再照合部13は、上記照合結果判定部12により、目的画像と類似する部分蓄像が存在する可能性があると判定した場合、判定された蓄積画像における箇所において、蓄積特徴抽出部3の抽出した蓄積特徴に対し、目的画像と同じ大きさの照合窓を設定して、この照合窓内に含まれる符号の集合と、前記蓄積特徴量子化部4から出力された符号の集合との特徴距離を、特徴照合部11と同様に前記見本特徴間距離に基づいて演算する。
照合結果再判定部14は、上記照合結果判定部13において用いられた距離に基づいて、目的画像と類似する部分画像が、蓄積画像群中の当該箇所に存在するか否かの判定を行う。
検索結果候補選択部15は、上記照合結果再判定部14において目的画像と類似する部分画像が存在すると判定された蓄積画像中の箇所を、詳細な類似性の検討を行う検索結果候補とする。
次目的部分領域特徴選定部16は、上記目的部分領域特徴抽出部9において抽出された目的部分領域特徴の集合の中から、次に照合すべき目的部分領域特徴の指定を行う。
次検索候補特徴選定部17は、上記索引検索部10から検索結果として出力された蓄積部分領域特徴の集合の中から、次に照合すべき蓄積部分領域の指定を行う。
次に、図1及び図2を参照して、上述した部分画像検索装置の動作を説明する。図2は、図1の第1の実施例による部分画像検索システムの一動作例を具体的に示すフローチャートである。
見本特徴作成部1は、学習信号(画像)を読み込み(ステップS1)、この学習信号から見本特徴を抽出しても良いし、後に述べるように学習信号を読み込まずに、蓄積画像から見本特徴を抽出するための画像を選択して、見本特徴を抽出してもよい。
学習信号としては、複数の画像、例えば、1000枚の画像群など、十分に学習可能な多数の画像を用いるのが好ましい。ここで、見本特徴作成部1は、クラスタリングアルゴリズムを用いて、典型的に出現する特徴パターンの学習を行う。
また、これ以降の処理において、見本特徴の抽出に対して、学習信号を用いない場合、学習信号を読み込む必要、すなわち、ステップS1の処理を行う必要はない。
次に、見本特徴作成部1は、入力した学習信号の画像から、後に述べる蓄積特徴抽出部3と同様の処理により、この画像を識別できる特徴を抽出する。
ここで、学習信号の画像から抽出した特徴を、以下、学習特徴と呼ぶ。
また、学習信号を用いない場合、このステップS2の処理を行わない。
そして、見本特徴作成部1は、以降の処理に用いる典型的な画像の特徴パターンである見本特徴の抽出を行う(ステップS2)。
このとき、見本特徴作成部1は、学習信号を用いない場合、見本特徴の抽出処理として、予め定められた確率分布、例えば、多次元ガウス分布に従って見本特徴をランダムに発生させることにより行う。
本実施例の場合は、上述したように見本特徴作成部1に見本特徴を発生させ、学習信号を用いずに見本特徴を作成している。
また、他の実施例として、学習特徴をベクトルとして、そのベクトルに対してベクトル量子化を行いて分類して(クラスタリングを行い)、見本特徴の抽出を行う様にしても良い。例えば、ベクトル量子化の符号の語数が1024個で有れば、学習特徴を1024の集合(以下、クラスタと呼ぶ)のいずれか一つのクラスタに分類することができる。
ここで、各クラスタに所属する学習特徴の重心となる特徴を、見本特徴とする。
そして、見本特徴作成部1は、上述のいずれかの方法により生成した見本特徴の集合を出力する。
次に、見本特徴間距離計算部2は、上記見本特徴の集合を読み込む(必要に応じて、特徴存在範囲確定部22の出力する、見本特徴に対応した特徴存在範囲を読み込む)。
そして、見本特徴間距離計算部2は、見本特徴の集合において、全ての見本特徴の組合せを選択し、この組合せ毎に見本特徴間の距離である見本特徴間距離の演算を行う。
このとき、見本特徴間距離計算部2は、上記見本特徴間距離として、例えば、見本特徴ベクトル間の自乗誤差を計算し、見本特徴間距離とする(ステップS3)。
他の実施例として、見本特徴に対応した特徴存在範囲を用いて見本特徴間距離を定義することもできる。
例えば、特徴存在範囲を見本特徴を中心とした特徴ベクトル空間内の超球で表現した場合、特徴存在範囲間の最小距離及び最大距離を、見本特徴ベクトル間の距離(自乗誤差)d(fi,fj)と対応する特徴存在範囲の半径ri及びrjを用い、以下の(1)式及び(2)式を用いて計算できる。
Figure 0004343038
Figure 0004343038
上記(1)式で求まる特徴存在範囲間の最小距離dmin、または(2)式で求まる特徴存在範囲間の最大距離dmax、もしくはその両方(最小距離及び最大距離)を、見本特徴間距離として定義する。
これにより、見本特徴間距離計算部2は、全見本特徴の組合せ毎に、見本特徴間距離の集合を出力する(データベース等に記憶させることも可能である)。
次に、蓄積特徴抽出部3は、初めに、蓄積画像群を、図示しないデータベースから読み込む(ステップS4)。
そして、蓄積特徴抽出部3は、読み込んだ蓄積画像群の各画像から、例えば、「8×8」ピクセル程度の大きさの小領域を、縦方向及び横方向に1ピクセルずつずらしながら、画像を切り出し、各小領域に含まれる画像の特徴の抽出を行う(ステップS5)。
ここで、画像の特徴の抽出方法として、例えば、各小領域のRGB値をそのまま用いる。
例えば、蓄積画像の大きさが「384×256」ピクセルであるとき、「8×8×3=192」次元の特徴ベクトルが、1画像あたり、「(384−8+1)×(256−8+1)=93873」個得られる。
他の実施例として、蓄積特徴抽出部3は、各小領域のRGB値各々に対して、2次元DCT(デジタルコサイン変換)を施し、その係数ベクトルを特徴とすることもできる。
ここで、例えば、蓄積画像の大きさが「384×256」ピクセルであるとすると、「8×8×3=192」次元の特徴ベタトルが、1画像あたり、「(384−8+1)×(256−8+1)=93873」個得られる。
蓄積特徴抽出部3は、上述したいずれかの方法により、蓄積画像から抽出された特徴である蓄積特徴の集合を出力する.
次に、蓄積特徴量子化部4は、見本特徴作成部1から出力された見本特徴の集合と、蓄積特徴抽出部3から出力された蓄積特徴の集合とを読み込む。
そして、蓄積特徴量子化部4は、各蓄積特徴毎に、見本特徴の集合の各見本特徴と照合し、蓄積特徴量各々に対して、見本特徴に対応した符号を1つ割り当てる。
このとき、蓄積特徴量子化部4は、蓄積特徴と各見本特徴との距離、例えば自乗誤差を計算し、最も距離が近い見本特徴に対応した符号をこの蓄積特徴に割り当てる(ステップS6)。
例えば、1024個の見本特徴を準備した場合、各見本特徴毎に1から1024までの番号をそれぞれ割り当て、その番号を符号とする。
他の実施形態として、蓄積特徴量子化部4は、蓄積特徴と各見本特徴との距離を計算し、最も距離が近い見本特徴との距離が予め定められた閾値である割当閾値を下回る場合、その見本特徴に対応した符号を割り当て、距離が割当閾値を上回る場合、どの見本特徴にも対応しない別の符号、例えば、上述した例においては、 1025等の番号を符号として割り当てる構成としてもよい。
そして、蓄積特徴量子化部4は、上述した方法のいずれかを用い、各蓄積特徴から抽出した符号列の集合を出力する。
次に、蓄積部分領域特徴抽出部5は、蓄積特徴量子化部4から、符号列の集合を読み込み、蓄積画像のある1つの箇所に、予め定められた所定の大きさの第1注目窓を設定する。
例えば、この第1注目窓は、大きさが64×64ピクセルであり、初期状態として蓄積画像の左上の角に配置される。
そして、蓄積部分領域特徴抽出部5は、設定された上記第1注目窓内に含まれる符号の集合を抽出し、抽出した符号を順に並べてベクトルとしたものを照合のための特徴として用い、以下、この特徴を蓄積部分領域特徴とする(ステップS7)。
ここで、符号の集合の抽出方法として、例えば、第1注目窓内に、重複することも隙間も存在しない状態に、上記小領域を配置して、この各小領域毎に対応する符号を抽出する。
このとき、「(64/8)×(64/8)×3=64」次元の特徴のベクトル、すなわち蓄積部分領域特徴を1つ得る。
上記第1注目窓は、各蓄積画像内において、予め定められた所定の間隔により、複数設定され、各注目窓内の部分領域から蓄積部分領域特徴を抽出する。
すなわち、第1注目窓(横ωxピクセル×縦ωyピクセル)は、各蓄積画像内において、縦及び横方向に、上記所定の間隔(各注目窓の同一の辺同士の間隔であり、例えば左辺同士、上辺同士の間隔として、横方向にmxピクセル,縦方向にmyピクセル)で順次ずらして配置されている。
例えば、第1注目窓を縦横それぞれ16ピクセルの間隔で配置し、蓄積画像の大きさが「384×256」ピクセルであるとすると、第1注目窓が「64×64」ピクセルであるために1画像あたり、「21×13=273」個の第1注目窓が設定されることになる。
また、第1注目窓の配置間隔を、以下マージンと呼ぶことにする。
そして、蓄積部分領域特徴抽出部5は、上記第1注目窓毎に得られた蓄積部分領域特徴の集合を出力する。
次に、索引付与部6は、蓄積部分領域特徴抽出部5の抽出した蓄積部分領域特徴の集合を読み込み、この読み込んだ各部分領域特徴に対して、検索を容易にするための索引を付与する。
このとき、索引付与部6は、必要に応じて、見本特徴作成部1から出力される見本特徴の集合と、見本特徴間距離計算部2から出力される見本特徴間距離を読み込む。
ここで、索引付与部6は、部分領域特徴を構成する符号列に対して、索引を付与する(ステップS8)。
例えば、予め作成された部分領域特徴である蓄積代表特徴の集合を用いて、各部分領域特徴を構成する符号列を量子化し、量子化の符号語を索引とする。
すなわち、上記方法について簡単に説明すると、はじめに、索引付与部6は、蓄積部分領域特徴の集合を読み込む。
次に、索引付与部6は、各部分領域特徴(符号列)のクラスタリングを行う。すなわち、部分領域特徴間の距離を、後述する特徴照合部11と同様に計算することとし、上記蓄積代表特徴の集合から、蓄積部分領域特徴との距離が最も小さくなる蓄積代表特徴を選び出し、該蓄積代表特徴に対応する符号である代表特徴番号を出力することによって行われる。
そして、索引付与部6は、索引として、各部分領域特徴に対応する代表特徴番号を出力する。
他の実施例として、例えば、読み込んだ見本特徴の集合を用いて、部分領域特徴を構成する各符号を、対応する見本特徴ベクトルに展開し、それらを連結したベクトルに対して索引を付与する。
例えば、「信号検出方法、信号検出装置、記録媒体及びプログラム」(特開2002−236496)記載の実施例のように、予め作成されたベクトル量子化符号帳を用いて、各部分領域画像の特徴ベクトルをベクトル量子化し、ベクトル量子化の符号語を索引とする。
すなわち、上記方法について簡単に説明すると、はじめに、索引付与部6は、蓄積部分領域特徴の符号列を展開したベクトルである展開ベクトルの集合を読み込む。
次に、索引付与部6は、各展開ベクトルのクラスタリングを行う。このクラスタリングは、例えば、各展開ベクトルを、ベクトル量子化を用いて符号化することによって行う。
例えば、ベクトル量子化の符号語数が1024個であれば、展開ベクトルは1024個のクラスタのいずれかに分類されることになる。
ここで、ベクトル量子化は、例えば、自乗誤差を距離関数として用い、クラスタ重心との距離が他のどのクラスタ重心との距離よりも小さくなるクラスタに展開ベクトルを所属させ、クラスタに対応する符号語を出力することによって行われる。
このクラスタは、例えば、クラスタ作成のために予め容易された、展開ベクトルと同じ次元数のベクトルである学習ベクトルを用いて予め作成しておく。
すなわち、クラスタは、それに所属する学習ベクトルとクラスタ重心との距離の総和が最小になるように、かつそのクラスタに所属する学習ベクトルについて、所属するクラスタのクラスタ重心との距離が、他のどのクラスタ重心との距離よりも小さくなるように構成される。
そして、索引付与部6は、索引として、各展開ベクトルに対応する、ベクトル量子化の符号語を出力する。
また、別の実施形態として、例えば、R-Tree(「The R-Tree: an efficient and robust access method for points and rectangles」,(N.Beckman他1名,Proc. of ACM SIGMOD Conference,pp.322-331,1990))やSR-Tree(「SR-Tree: 高次元データに対する最近接探索のためのインデックス構造の提案」(片山紀生 他1名,電子情報通信学会論文誌D-I,Vol.J80-D-I,No.8,pp.703-717,1997年8月))など、多次元インデックスと総称される手法を用いて、特徴の存在する多次元空間内で特徴を包含する領域を階層的に作成し、最下層の領域と特徴とを対応付けることにより索引を付与することも可能である。
特徴を包含する領域は、例えば、R-Treeであれば、3次元空間における直方体に相当する超直方体、SR-Treeであれば、超直方体と、3次元空間における球に相当する超球との重なりとなる。
そして、索引付与部6は、上述のように求められた、各部分領域特徴に対する索引を出力する(ステップS8)。
次に、目的特徴抽出部7は、目的画像を読み込むが(ステップS9)、この目的画像の大きさは、例えば、マージンと第1注目窓の大ききとの和(合計)以上に設定すると、完全に蓄積画像の特徴の抽出を行う範囲を包含するために、検索漏れを生じることがない。
そして、目的特徴抽出部7は、小領域を縦方向及び横方向に1ピクセルずつずらしながら目的画像を切り出し、各小領域に含まれる画像の特徴の抽出を、上記蓄積特徴抽出部3と同様の手法で行い、目的画像から抽出された特徴である目的特徴の集合を出力する(ステップS10)。
次に、目的特徴量子化部8は、見本特徴作成部1から出力される見本特徴の集合と、目的特徴抽出部7から出力される目的特徴の集合を読み込み、各目標特徴毎に見本特徴の集合の各見本特徴と照合し、目標特徴各々に対して見本特徴に対応した符号を1つ割り当てる。ここで、目的特徴量子化部8が符号を割り当てる手順は、蓄積特徴量子化部4と同様である。
そして、目的特徴量子化部8は、目的特徴の集合の各目的特徴から抽出した符号列の集合を出力する(ステップS11)。
次に、目的部分領域特徴抽出部9は、目的特徴量子化部8の抽出した符号列の集合を読み込み、この目的画像のある1つの箇所に、蓄積部分領域特徴抽出部5で用いた注目窓と同様の大きさ(縦×横)の注目窓、すなわち、第1注目窓を用い、この第1注目窓内に含まれる符号の集合を抽出する。
そして、目的部分領域特徴抽出部9は、上記蓄積部分領域特徴抽出部5と同様の抽出方法を用いて、目的画像のある1つの箇所から抽出した符号を順に並べて、ベクトルとしたものを照合に用いる特徴とし、この特徴を目的部分領域特徴の集合として出力する。(ステップS12)。
ここで、目的部分領域特徴抽出部9は、蓄積部分領域特徴抽出部2における特徴抽出の場合と異なり、上記第1注目窓を、目的画像内に重複することもなく、かつ隙間もない状態に設定し、それらを1ピクセルずつずらしながら、各位置において上記目的部分領域特徴の抽出を行う。
このとき、第1抽出窓は、例えば、少なくともマージンの大きさの分だけずらせば、検索漏れを生じさせることがない。
例えば、目的画像の大きさが「80×80」ピクセル、第1注目窓の大きさが「64×64」ピクセル、マージンが「16×16」ピクセルであるとき、目的画像内に重複することもなく、かつ隙間もない状態に設定できる第1注目窓の数が1つなので、目的画像全体において、「16×16=256」個の第1注目窓が設定される。
そして、目的部分領域特徴抽出部9は、上述した処理により抽出した、目的部分領域特徴の集合を出力する。
次に、索引検索部10は、索引付与部6から出力される索引と、目的部分領域特徴抽出部9から出力される目的部分領域特徴の集合とを読み込む。
そして、目的代表特徴抽出部19において、目的部分領域特徴から目的代表特徴を抽出する処理を行った場合、索引検索部10は、目的部分領域特徴の集合の代わりに、目的代表特徴抽出部19から出力される目的代表特徴の集合を読み込む。
目的代表特徴抽出部19は、後述する他の実施形態において詳細に説明する。
また、必要に応じて、索引検索部10は、目的部分領域間距離計算部16から出力される目的部分領域間距離を読み込む構成もある。
また、検索閾値更新部18が検索閾値及び選択閾値を更新する処理を行った場合、索引検索部10は更新された選択閾値を読み込む。この検索閾値更新部18については後述する他の実施形態において、詳細に説明する。
そして、索引検索部10は、読み込んだ索引を用い、目的部分領域特徴の集合に類似する蓄積部分領域特徴を、検索候補特徴として抽出する(ステップS13)。
このとき、索引検索部10は、目的部分領域特徴の集合内におけるいずれかの目的部分領域特徴に対し、該部分領域特徴との距離dtが、予め定められた閾値である選択閾値θを下回るような(以下となるような)蓄積部分領域特徴を、索引から抽出する。
索引検索部10は、部分領域特徴間の距離を特徴照合部11と同様の処理により計算する(特徴照合部11の構成については後述)。
上記選択閾値θは後述するパラメータから自動的に決定される値であり、また、この選択閾値の決定方法は後述する。
また、別の実施例として、目的部分領域特徴の集合の代わりに、目的部分領域特徴から代表的な特徴を目的代表特徴として抽出し、この目的代表特徴の集合を用いて、集合内のいずれかの目的代表特徴との距離dtが選択閾値θを下回る蓄積部分領域特徴を、上記索引から抽出する構成とすることも可能である(後述)。
さらに、別の実施例として、目的部分領域間距離を用い、各目的代表特徴との距離dtを、該目的代表特徴に対応する目的部分領域間距離の最大値分だけ小さくし、この距離dtの値が選択閾値θを下回る蓄積部分領域特徴を索引から抽出する構成とすることも可能である(後述)。
ここで上述した、ある1つの目的部分領域特徴あるいは目的代表特徴との距離が選択閾値を下回る蓄積部分領域特徴を索引から抽出する抽出方法について説明する。
この抽出方法は、上記索引付与部3において用いられた索引の種類によって異なり、上記索引に対応する特許明細書記載の方法あるいは非特許文献記載の方法と同様にして実施することができる。
例えば、上記蓄積代表特徴を用いた量子化によって索引を付与した場合、及び「信号検出方法、信号検出装置、記録媒体及びプログラム」(特開2002−236496)に記載の方法を用いて索引を付与した場合、以下のようにして所望の蓄積部分領域特徴を抽出することができる。
はじめに、索引検索部10は、目的部分領域特徴あるいは目的代表特徴と、索引付与部3で作成された索引(クラスタ)、及び選択閾値θを読み込む。
以下では、簡単のため、目的代表特徴ではなく、本実施例で採用した構成において目的部分領域特徴を読み込んだものとして説明する。目的代表特徴を読み込んだ場合でも、全く同様に行うことができる。
そして、索引検索部10は、読み込んだ目的部分領域特徴と、各クラスタ重心との距離を計算する。
続いて、索引検索部10は、計算された距離dtに基づいて、目的部分領域特徴との距離が選択閾値θを下回る蓄積部分領域特徴を含む可能性のあるクラスタを選択する。
上述したクラスタを選択する原理を以下に説明する。
図4は、点Q,C1,C2の3点が乗るような平面であり、特徴ベクトルが配置される特徴空間を切り出した様子を示している。
ここで、点Qは目的部分領域特徴、C1は部分領域特徴Qが所属しているクラスタのクラスタ重心、C2は他のクラスタのクラスタ重心を表しており、距離dQ1,dQ2,d12はそれぞれ、点Qと点C1との距離、点Qと点C2との距離、点C1と点C2との距離を示している。
ここで、目的部分領域特徴の座標である点Qからの距離dtが選択閾値θ以内である蓄積部分領域特徴を抽出しなければならないとすると、点Qを中心とする半径θの超球(図4においては半径dθの円)の内部にある蓄積部分領域特徴がそれに該当する。
そして、点Qを中心とする超球の半径が図4におけるdθより大きくなったとき、点C2に対応するクラスタに所属する蓄積部分領域特徴の中に、所望の蓄積部分領域特徴が含まれている可能性がある。
そこで、選択閾値θが図4におけるdθより大きくなったとき、そのクラスタを選択する。
θは、以下の(5)式から(4)式を用いて求められる。
Figure 0004343038
上記(3)式より、
Figure 0004343038
が求められる。
最終的に、索引検索部10は、以下の(5)式が成り立つとき、点C2に対応するクラスタを選択し、そのクラスタに所属する蓄積部分領域特徴を全て抽出する。
そして、この手順を、目的部分領域特徴Qが所属するクラスタを除く全てのクラスタに対して行い、抽出された蓄積部分領域特徴を、検索候補特徴として出力する。
Figure 0004343038
次に、特徴照合部11は、目的部分領域特徴抽出部9から出力される目的部分領域特徴の集合と、索引検索部10から出力される検索候補特徴の集合を読み込む。
そして、特徴照合部11は、次目的部分領域特徴選定部16により、次に照合すべき目的部分領域特徴が指定されている場合、該目的部分領域特徴を読み込む。この次目的部分領域特徴選定部16は、本実施形態において後述する。
また、特徴照合部11は、次検索候補特徴選定部17から、次に照合すべき検索候補特徴が指定されている場合、該検索候補特徴を読み込む。この次検索候補特徴選定部17は、本実施形態において後述する。
次に、特徴照合部11は、次目的部分領域特徴選定部16から読み込んだ目的部分領域特徴と、次検索候補特徴選定部17から読み込んだ検索候補特徴の集合との照合を行う。
そして、特徴照合部11は、目的部分領域特徴と検索候補特徴との距離を、見本特徴間距離を用いて計算する。
例えば、特徴照合部11は、目的部分領域特徴及び検索候補特徴が単一の符号で構成されている場合、検索候補特徴及び目的部分領域特徴との間の距離を符号間の距離として求め、読み込まれた見本特徴間距離そのものを距離として出力する。
また、特徴照合部11は、目的部分領域特徴及び検索候補特徴が符号列で構成されている場合、例えば、符号列の対応する要素である符号同士の距離として、各符号同士の組合せに対応した見本特徴間距離を入力し、要素同士の見本特徴間距離を積算することにより、検索候補特徴及び目的部分領域特徴の間の距離として出力する。
そして、特徴照合部11は、見本特徴の集合において、いずれの見本特徴にも対応しない符号が検出された場合、例えば、符号間の距離を「0」とする。
また、他の実施例として、特徴照合部11は、見本特徴の集合において、いずれの見本特徴にも対応しない符号が検出された場合、符号間の距離を十分大きな値、例えば、全ての見本特徴間距離の中での最大値に設定するよう構成してもよい。
ここで、特徴照合部11は、指定された目的部分領域特徴がなければ、初期目的部分領域特徴として、例えば、目的画像の左上角の位置に対応する目的部分領域特徴を指定し、上記検索候補特徴と照合処理を行う(ステップS14)。
また、特徴照合部11は、指定された検索候補特徴がなければ、初期の検索候補特徴として、例えば、任意に選択した検索候補特徴を指定し、上記目的部分領域特徴と照合する。
そして、特徴照合部11は、照合計算(検索候補特徴と目的部分領域特徴との間の距離の演算)の結果として、照合した検索候補特徴と目的部分領域特徴との距離値d(ω)を出力する。
次に、照合結果判定部12は、特徴照合部11から出力される距離値d(ω)を読み込み、目的画像と類似する部分画像が、現在の照合箇所に存在する可能性があるか否かの判定、すなわち、該距離値d(ω)と、前記選択閾値θとの比較を行う。
そして、照合結果判定部12は、距離値d(ω)が選択閾値θを以下となったとき、目的画像と類似する部分画像が現在の照合箇所に存在する可能性があると判定し、蓄積部分領域特徴を照合箇所として出力し、一方、距離値d(ω)が選択閾値θを超えているとき、目的画像と類似する部分画像が現在の照合箇所に存在する可能性がないと判定し、処理をステップS14へ進める(ステップS15)。
次に、特徴再照合部13は、見本特徴間距離計算部2から出力される見本特徴間距離、蓄積特徴量子化部4から出力される符号の集合である蓄積特徴の集合と、目的特徴量子化部8から出力される符号の集合である目的特徴の集合と、照合結果判定部12から出力される照合箇所とを読み込む。
そして、特徴再照合部13は、読み込んだ蓄積画像に、目的画像と同じ大きさ(縦×横)の注目窓である第2注目窓を設定する。
ここで、特徴再照合部13は、第2注目窓の配置箇所を、照合結果判定部12から出力された照合箇所に対応して決定する。
すなわち、特徴再照合部13は、図5の概念図に示すように、第2注目窓の配置箇所に対する蓄積部分領域の相対的な位置が、目的画像における目的部分領域の相対的な位置と同一になるように、つまり、照合箇所における蓄積部分領域と目的部分領域とが重なる位置に、上記第2注目窓を配置する。
このとき、特徴再照合部13は、蓄積部分領域特徴部5と同様な処理を行い、蓄積部分領域と目的部分領域との符号の集合の抽出を行う。
次に、特徴再照合部13は、第2注目窓内において抽出した、蓄積特徴の符号の集合と、目的特徴の符号の集合との照合を行う。
ここで、特徴再照合部13は、例えば、特徴照合部11と同様の計算処理により、第2注目窓内の蓄積特徴と目的特徴との距離値dの演算を行う。
そして、特徴再照合部9は、照合計算結果である距離値dを出力する(ステップS16)。
次に、照合結果再判定部14は、特徴再照合部13から出力される距離値dを読み込み、目的画像と類似する部分画像が現在の照合箇所に存在する可能性があるか否かの判定、すなわち、該距離値dと、前記検索閾値θとの比較を行う。
このとき、照合結果再判定部14は、距離値dが検索閾値θ以下であるとき、目的画像と類似する部分画像が現在の照合箇所に存在すると判定し、蓄積画像における該照合箇所を検出箇所として、この検出箇所の位置及び判定結果(存在したことを示す情報)を出力し、一方、距離値dが検索閾値θを超えたとき、目的画像と類似する部分画像が現在の照合箇所に存在しないと判定し、処理をステップS19へ進める(ステップS17)。
上記選択閾値θは、前記検索閾値θから決定され、以下に示す(6)式に示すように、選択閾値θを設定すると、検索漏れを生じることがない。
Figure 0004343038
上記(6)式において、Nは第1注目窓を重複も隙間もなく蓄積画像中に配置したと仮定したとき、任意位置に配置された第2照合窓に含まれる第1照合窓の最少数であり、以下に示す(7)〜(9)式により与えられる。
Figure 0004343038
Figure 0004343038
Figure 0004343038
ここで、(8)式におけるNxは横方向の第1の照合窓の数であり、(9)式におけるNyは縦方向の第1の照合窓の数である。
ただし、(qx、qy)は目的画像の大きさ、すなわち、第2注目窓の大きさであり、(ωx,ωy)は第1注目窓の大きさである。
次に、検索結果候補選択部15は、照合結果再判定部14から出力される検出箇所(位置情報を含む)と、特徴再照合部13から出力される距離値dを読み込む。
次に、検索結果候補選択部15は、上記検出箇所と、この検出箇所における距離値dとを、検索結果候補として登録する。
検索結果候補選択部15は、例えば、距離値の大小にかかわらず、読み込んだ検出箇所と距離値dとの組を全て登録する。
また、検索結果候補選択部15は、他の実施形態として、検索結果候補が予め定められた数量以下になるように登録する構成とすることも可能である。
すなわち、検索結果候補選択部15は、検索結果候補を該数量までは無条件に検出箇所と距離値の組を登録し、該数量を超過する場合、例えば、すでに読み込まれた検索結果候補の中における最大距離値dmaxと、以降読み込んだ距離値dとを比較し、読み込んだ距離値dが最大距離値dmaxを下回る場合、最大距離値dmaxに対応する候補を削除し、新たに読み込んだ検出箇所と距離値dの組とを候補として登録する。
このように、検索結果候補選択部15は、蓄積画像から上述した方法により検索結果候補を出力する(ステップS18)。
次に、次目的部分領域特徴選定部16は、目的部分領域特徴抽出部9から出力される目的部分領域特徴の集合を読み込み、必要に応じて、特徴照合部11から出力される距離値d(ω),検索閾値更新部18から出力される選択閾値θ,及び周辺距離下限値計算部21から出力される周辺距離下限値を読み込む。
上記検索閾値更新部18及び周辺距離下限値計算部21は、他の実施例において後述する。
そして、次目的部分領域特徴選定部16は、次に照合すべき目的部分領域特徴の選択、すなわち次に照合する目的部分領域特徴の有無の検出を行い、照合箇所がないことを検出すると処理をステップS20へ進め、一方、照合箇所があることを検出すると、次に照合する目的部分領域特徴を選択して、処理をステップS14へ進める(ステップS19)。
このとき、次目的部分領域特徴選定部16は、例えば、現在注目している蓄積部分領域特徴に対して、照合が終了していない目的部分領域特徴があるか否かを判定して、終了していない目的部分領域特徴があれば、この中から任意の目的部分領域特徴を1つ選択し、全ての目的部分領域特徴の照合が終了している場合、次の、蓄積部分領域特徴に注目を変更するため、処理をステップS20へ進める。
また、別の実施形態として、次目的部分領域特徴選定部16は、上記周辺距離下限値を読み込んだ場合、この距離下限値が、読み込んだ選択閾値θを上回る目的部分領域特徴との照合を省略し、この距離下限値が選択閾値θ以下の目的部分領域特徴から任意に1つ選択する構成とすることも可能である。
そして、次目的部分領域特徴選定部16は、終了していない目的部分領域特徴があれば、照合箇所が選択された目的部分領域特徴と、この目的部分特徴に対応する目的画像内の位置を出力する。
次に、次検索候補特徴選定部17は、索引検索部10から出力される蓄積部分領域特徴の集合を読み込み、次に照合すべき検索候補特徴を選択、すなわち次に照合する検索候補特徴の有無の検出を行い、照合する検索候補特徴がないことを検出すると処理を終了させ、一方、照合する検索候補特徴があることを検出すると、次に照合すべき検索候補特徴を選択して、処理をステップS14へ進める(ステップS20)。
このとき、次検索候補特徴選定部17は、例えば、照合する検索候補特徴があることを検出すると、照合が終了していない検索候補特徴から任意に1つ選択する。
これにより、次検索候補特徴選定部17は、選択された検索候補特徴を、特徴照合部11に対して出力する。
<第2の実施例>(請求項3に対応)
図6は、請求項3に記載の方法を適用した第2の実施例による部分画像検索システムの構成例を示すブロック図である。
第2の実施例の部分画像検索システムは、請求項1に記載の方法を適用した第1の実施例による部分画像検索システムと同様な構成であり、異なる構成として、図6に示すように、検索閾値更新部18を追加して設け、任意の目的画像、すなわち見本となる検索したい画像と、蓄積画像群、すなわち検索される複数の画像である蓄積画像の集合を入力とし、目的画像と類似する画像が含まれている部分画像の蓄積画像内における箇所を出力する。
上記検索閾値更新部18は、上記検索結果候補選択部15から出力された検索結果候補から、上記特徴再照合部13から出力された距離値に基づいて、所定の距離内にある候補を検出し、この検出した候補の距離値に基づいて新たに検索閾値θを設定する。
次に、上述した見本特徴作成部1から検索閾値更新部18における部分画像の検出処理を、図7を用いて具体的に説明する。ここで、図7は、図6に示す部分画像検索装置の動作例を示すフローチャートである。
図7のフローチャートは、図2に示す第1の実施例のフローチャートに対して、ステップS13の「検索結果の候補選択」の処理の次に、ステップS16の「検索閾値更新」の処理が追加されたのみで、他の処理については同様であるため、このステップS16の処理の説明のみを行う。
検索閾値更新部18は、検索結果候補選択部15から出力される検索結果候補を読み込み、この読み込んだ検索結果候補の中から、距離値が最大の検索結果候補を選び出し、選択した検索結果候補の距離値が検索閾値θ以下であるか否かの判定を行い、この距離値が検索閾値θ以下であることを検出した場合、検索閾値θをその距離値と同じ値に更新する。
そして、検索閾値更新部18は、(5)式に基づいて検索閾値θから選択閾値θを計算し、更新した検索閾値θとともに出力する(ステップS21)。これ以降は、この更新された検索閾値θ及び選択閾値θが照合結果の判定に用いられる。
<第3の実施例>(請求項5に対応)
図8は、請求項5に記載の方法を適用した第3の実施例による部分画像検索システムの構成例を示すブロック図である。
この第3の実施例による部分画像検索システムは、第2の実施例と同様の構成であり、異なる構成として、第2の実施例の部分画像検索システムに対して、目的代表特徴抽出部19を加えたものであり、目的画像、すなわち見本となる検索したい画像と、蓄積画像群、すなわち検索される画像である蓄積画像の集合とを入力し、目的画像と類似する画像が含まれてた部分画像の、上記蓄積画像内における箇所を検索し、検索結果を出力する。
この目的代表特徴抽出部19は、上記目的部分領域特徴抽出部9から出力された目的部分領域特徴の集合における目的部分領域集合を分類(クラスタリング)して、各目的部分領域特徴に共通する特徴としての目的代表特徴を抽出する。
次に、上述した見本特徴作成部1から目的代表特徴抽出部19における部分画像の検出処理を、図9を用いて具体的に説明する。ここで、図9は、図8に示す部分画像検索システムの動作例を示すフローチャートである。
図9のフローチャートは、図7に示す第2の実施例のフローチャートに対して、ステップS12の「目的部分領域特徴の抽出」の処理の次に、ステップS22の「目的代表特徴の抽出」の処理が追加されたのみで、他の処理については同様であるため、このステップS22の処理の説明のみを行う。
目的代表特徴抽出部19は、目的部分領域特徴抽出部9から出力される目的部分領域特徴の集合を読み込み、これら複数の目的部分領域特徴に対してクラスタリング処理を行う。
このとき、目的代表特徴抽出部19は、例えば、クラスタを1つだけ用意し(共通の特徴ベクトルを抽出する)、上記集合における全ての目的部分領域特徴をそのクラスタに所属させる(1つの目的代表特徴を出力することになる)。
また、目的代表特徴抽出部19は、別の実施例として、読み込んだ目的部分領域特徴の数だけクラスタを用意し、これら各クラスタに1つずつ目的部分領域特徴を割り当てる構成とすることもできる(目的代表特徴の集合を出力することになる)。
さらに、目的代表特徴抽出部19は、別の実施例として、目的部分領域特徴に対応する目的画像中の位置を、読み込んだ全ての目的部分領域特徴について抽出し、その存在範囲を格子状に区切り、各格子をクラスタと対応させる構成とすることも可能である。
また、さらに、目的代表特徴抽出部19は、別の実施例として、同一クラスタ内の目的部分領域特徴同士の距離の最大値が、予め定められた閾値である分類閾値を上回らないように、クラスタを併合することも可能である。
このとき、目的代表特徴抽出部19は、クラスタの初期状態として、例えば、読み込んだ目的部分領域特徴の数だけ用意したクラスタに1つずつ目的部分領域を割り当てたものを用いる。
次に、目的代表特徴抽出部19は、上記各クラスタから、該クラスタを代表する部分領域特徴である代表特徴を抽出する。目的代表特徴抽出部19は、例えば、クラスタ内の任意に選択した1つの目的部分領域特徴を代表特徴とする。
また、目的代表特徴抽出部19は、別の実施例として、ある特定位置に対応する目的部分領域特徴を代表特徴とすることもできる。
この特定位置とは、例えば、目的画像の左上角の位置などである。
さらに、目的代表特徴抽出部19は、別の実施例として、クラスタ内の目的部分領域特徴の重心にある目的部分特徴を代表特徴とする構成とすることもできる。
そして、目的代表特徴抽出部19は、上述した第3の実施例における各実施例により求めた、代表特徴あるいはその集合を出力する(ステップS22)。
次のステップS13において、索引検索部10は、上記目的代表特徴を用いて、蓄積画像の索引との照合処理を行う。
<第4の実施例>(請求項7に対応)
図10は、請求項7に記載の方法を適用した第4の実施例による部分画像検索システムの構成例を示すブロック図である。
この第4の実施例による部分画像検索システムは、第3の実施例と同様な構成であり、異なる構成として、第3の実施例の部分画像検索システムに対して、目的部分領域間距離計算部20と、周辺距離下限値計算部21とを加えたものであり、目的画像、すなわち見本となる検索したい画像と、蓄積画像群、すなわち検索される画像である蓄積画像の集合とを入力し、目的画像と類似する画像が含まれてた部分画像の、上記蓄積画像内における箇所を検索し、検索結果を出力する。
上記目的部分領域間距離計算部20は、上記目的部分領域特徴抽出部9から出力された目的部分領域特徴について、部分領域特徴同士の距離である距離を計算する。
また、目的代表特徴抽出部15がある場合には、目的部分領域特徴と、それに対応する目的代表特徴との距離を計算する。
上記周辺距離下限値計算部21は、特徴照合部11から出力された距離値と、目的部分領域間距離計算部20から出力された部分領域間距離の数値とを用い、特徴照合部11で照合を行った検索候補特徴と、上記目的部分領域特徴抽出部9から出力された各目的部分領域特徴との距離の下限値を計算する。
次に、上述した見本特徴作成部1から周辺距離下限値計算部21における部分画像の検出処理を、図11を用いて具体的に説明する。ここで、図11は、図10に示す部分画像検索システムの動作例を示すフローチャートである。
図11のフローチャートは、図9に示す第3の実施例のフローチャートに対して、ステップS22の「目的代表特徴の抽出」の処理の次に、ステップS23の「目的部分領域間距離の演算」の処理が追加され、また、ステップS21の「検索閾値の更新」の処理の次に、ステップS24の「周辺距離下限値の演算」の処理が追加されたのみで、他の処理については同様であるため、このステップS23及びステップS24の処理の説明のみを行う。
目的部分領域間距離計算部20は、目的部分領域特徴抽出部9から出力される目的部分領域特徴の集合を読み込み、各目的部分領域特徴同士の距離を計算する。
そして、目的部分領域間距離計算部20は、例えば、全ての目的部分領域特徴の組に対して距離計算を行う。
また、別の実施例として、目的代表特徴抽出部19が設けられている場合には、さらにこの目的代表特徴抽出部19から出力される目的代表特徴の集合を読み込み、各目的部分領域特徴と、それに対応する目的部分領域特徴との距離を計算することも可能である。
上述したように、目的部分領域間距離計算部20は、目的部分領域特徴同士の距離、あるいは目的部分領域特徴と目的代表特徴との距離を出力する。
上述した距離を用いて、ステップS8において、索引による検索が行われる。
次に、周辺距離下限値計算部21は、特徴照合部11から出力される距離値と、目的部分領域間距離計算部20から出力される部分領域間距離とを読み込む。
そして、周辺距離下限値計算部21は、読み込んだ距離値と部分領域間距離とから、蓄積部分領域特徴と各目的部分領域特徴との距離下限値を計算する。
このとき、周辺距離下限値計算部21は、蓄積部分領域特徴f (W)と、目的部分領域特徴fQ2 (W)との距離の下限値d(f (W),fQ2 (W))は、三角不等式に基づいて、以下の(10)式により求められる。,
Figure 0004343038
上記(10)式において、d(f (W),fQ1 (W))は特徴照合部11から読み込んだ距離値であり、d(fQ1 (W),fQ2 (W))は読み込んだ目的部分領域間距離である。
上述したように、周辺距離下限値計算部21は、蓄積部分領域特徴と、目的部分領域特徴との距離の下限値である周辺距離下限値を出力する。
そして、次のステップS19において、次目的部分領域特徴選定部16は、上記周辺距離下限値を入力し、この距離下限値が、読み込んだ選択閾値θを上回る目的部分領域特徴との照合を省略し、この距離下限値が選択閾値θ以下の目的部分領域特徴から任意に1つ選択する。
<第5の実施例>(請求項13に対応)
図12は、請求項13に記載の方法を適用した第5の実施例による部分画像検索システムの構成例を示すブロック図である。
この第5の実施例による部分画像検索システムは、第4の実施例と同様な構成であり、異なる構成として、第4の実施例の部分画像検索システムに対して、特徴存在範囲確定部22を加えたものであり、目的画像、すなわち見本となる検索したい画像と、蓄積画像群、すなわち検索される画像である蓄積画像の集合とを入力し、目的画像と類似する画像が含まれてた部分画像の、上記蓄積画像内における箇所を検索し、検索結果を出力する。
上記特徴存在範囲確定部22は、上記見本特徴作成部1から出力される各見本特徴について、この見本特徴に割り当てられる可能性のある上記蓄積特徴抽出部3及び目的特徴抽出部7から出力される各々の画像の特徴(蓄積特徴,目的特徴)が存在し得る範囲である特徴存在範囲を計算する。
次に、上述した見本特徴作成部1から特徴存在範囲確定部22における部分画像の検出処理を、図13を用いて具体的に説明する。ここで、図13は、図12に示す部分画像検索システムの動作例を示すフローチャートである。
図13のフローチャートは、図11に示す第4の実施例のフローチャートに対して、ステップS2の「見本特徴の作成」とステップS3の「見本特徴間距離の計算」のと処理の間に、ステップS25の「特徴存在範囲の確定」の処理が追加されたのみで、他の処理については同様であるため、このステップS25の処理の説明のみを行う。
特徴存在範囲確定部22は、見本特徴作成部1から出力される見本特徴の集合を読み込み、この集合の各見本特徴に割り当てられる蓄積特徴及び目的特徴が存在する可能性のある特徴空間内の範囲である特徴存在範囲を、上記各々の見本特徴に対して設定する。
このとき、特徴存在範囲確定部22は、例えば、蓄積特徴量子化部4及び目的特徴量子化部8において、割当閾値以下で最も距離の近い見本特徴に対して割り当てを行う場合、見本特徴を中心として、半径が割当閾値に等しい超球を特徴存在範囲として設定する(ステップS25)。
また、特徴存在範囲確定部22は、別の実施例として、蓄積特徴量子化部4及び索引付与部6において、最も距離の近い見本特徴に対して割り当てを行う場合、見本特徴を中心として、半径が見本特徴間の距離の最大値の半分に等しい超球を特徴存在範囲として設定するように構成されても良い。
上述したように、特徴存在範囲確定部22は、上述した方法のいずれかで求めた特徴存在範囲の集合を出力する。
上述した特徴存在範囲を用いて、ステップS3において、見本特徴間の距離が計算される。
<実験>
本発明を適用した装置の動作例を以下に示す。
ここで、蓄積画像群として、大きさ384×256ピクセルの画像1000枚を用い、目的画像として、大きさ80×80ピクセルの画像10枚を、上記蓄積画像群中の任意の箇所から切り出して用いた。
また、部分領域は大きさを64×64ピクセルとし、マージンを縦方向及び横方向共に16ピクセルと設定して、部分画像の切り出しを行った。
すなわち、蓄積画像1枚あたりの部分領域の数は273個であり、目的画像の部分領域の数は289個である。
蓄積画像及び目的画像の特徴、すなわち蓄積特徴及び目的特徴としては、大きさ8×8ピクセルの小領域におけるRGB値を用いたため、部分領域特徴の次元は192次元となっている。
代表特徴は、学習信号を用いてベクトル量子化の符号帳を作成することによって、64個生成し、学習信号として蓄積画像群から10枚の画像を選択して取り出して用いた。
索引付与部6及び索引検索部10は、「信号検出方法、信号検出装置、記録媒体及びプログラム」(特開2002-236496)記載の実施例のように、ベクトル量子化に基づく索引付与と索引検索と実施し、クラスタ数を128とした。
また、距離尺度は自乗誤差を用い、検索閾値は2000とした。
本発明の効果を確認するため、本発明を適用した場合と、適用しない場合とにおける検索所要時間の比較を行った。
本実験の結果は、図14の表に示すように、従来例(適用しない)においては検索時間として「8.37秒」であったが、本発明(適用した)においては検索時間として「3.17秒」となった。
上記図14からわかるように、見本特徴を用いることにより、予め見本特徴間距離を求めておくことができるので、後の蓄積特徴及び目的特徴間の距離の演算が、上記見本特徴間距離を用いることにより大幅に低減することができるので、検索時間を短縮することが可能となる。
なお、図1における部分画像検索装置の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、部分画像の検索処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、ホームページ提供環境(あるいは表示環境)を備えたWWWシステムも含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
本発明の第1の実施例による部分画像検索システムの構成例を示すブロック図である。 図1の部分画像検索システムの動作例を示すフローチャートである。 蓄積画像において部分画像を設定する際に、配置のマージンについて説明する概念図である。 索引検索部6がクラスタを選択するときの原理を説明する概念図である。 蓄積画像における照合窓の設定を説明する概念図である。 本発明の第2の実施例による部分画像検索システムの構成例を示すブロック図である。 図6の部分画像検索システムの動作例を示すフローチャートである。 本発明の第3の実施例による部分画像検索システムの構成例を示すブロック図である。 図8の部分画像検索システムの動作例を示すフローチャートである。 本発明の第4の実施例による部分画像検索システムの構成例を示すブロック図である。 図10の部分画像検索システムの動作例を示すフローチャートである。 本発明の第5の実施例による部分画像検索システムの構成例を示すブロック図である。 図12の部分画像検索システムの動作例を示すフローチャートである。 画像を検索する際の、従来例と本発明との検索所要時間の比較を示す表である。
符号の説明
1…見本特徴作成部 2…見本特徴間距離計算部 3…蓄積特徴抽出部 4…蓄積特徴量子化部 5…蓄積部分領域特徴抽出部 6…索引付与部
7…目的特徴抽出部 8…目的特徴量子化部 9…目的部分領域特徴抽出部
10…索引検索部 11…特徴照合部 12…照合結果判定部 13…特徴再照合部 14…照合結果再判定部 15…検索結果候補選択部
16…次目的部分領域特徴選定部 17…次検索候補特徴選定部 18…検索閾値更新部
19…目的代表特徴抽出部 20…目的部分領域間距離計算部
21…周辺距離下限値計算部 22…特徴存在範囲確定部

Claims (15)

  1. データベースに登録されている蓄積画像群から、検索対象の目的画像に類似した部分画像を含む画像及び該画像における部分画像の位置を検出する部分画像検索方法であり、
    見本特徴作成部が、部分画像を検出するとき、入力された学習画像から複数の小領域を選択して各小領域における画像の特徴である学習特徴を抽出し、前記学習特徴の中で頻出する画像の特徴である見本特徴を作成する見本特徴作成過程と、
    蓄積特徴抽出部が、前記蓄積画像群の各画像から複数の小領域を選択し、各小領域における画像の特徴である蓄積特徴を抽出する蓄積特徴抽出過程と、
    蓄積特徴量子化部が、前記蓄積特徴抽出部で抽出した蓄積特徴と前記見本特徴作成で作成した前記見本特徴とを比較し、各蓄積特徴に対して前記見本特徴に対応する符号を割り当てる蓄積特徴量子化過程と、
    蓄積部分領域特徴抽出部が、前記蓄積画像群の各画像に対して、予め定められた所定の大きさの注目窓を予め定めた間隔にて配置して、各注目窓内の前記蓄積特徴量子化部が割り当てた符号の集合である蓄積部分領域特徴を抽出する蓄積部分領域特徴抽出過程と、
    目的特徴抽出部が、前記目的画像から複数の小領域を選択し、この小領域各々の特徴を目的特徴として抽出する目的特徴抽出過程と、
    目的特徴量子化部が、前記目的特徴抽出部が抽出した目的特徴と、前記見本特徴作成で作成した前記見本特徴とを比較することにより、前記目的特徴に対して、見本特徴に対応する符号を割り当てる目的特徴量子化過程と、
    目的部分領域特徴抽出部が、前記目的画像に対して、予め定められた所定の大きさの注目窓を設定し、この注目窓をずらしながら各注目窓内の前記目的特徴量子化部が割り当てた符号の集合である目的部分領域特徴を抽出する目的部分領域特徴抽出過程と、
    索引検索部が、前記目的部分領域特徴抽出部が抽出した目的部分領域特徴に類似する前記蓄積部分領域特徴抽出部が抽出した蓄積部分領域特徴を検索候補特徴として抽出する索引検索過程と、
    特徴照合部が、前記索引検索部が抽出した前記検索候補特徴と前記目的部分領域特徴抽出部が抽出した目的部分領域特徴との距離を演算する特徴照合過程と、
    照合結果判定部が、前記特徴照合部が演算した距離に基づいて、前記目的画像に類似する前記検索候補特徴を照合箇所として出力する照合結果判定過程と、
    特徴再照合部が、前記照合結果判定部が出力した照合箇所において、前記蓄積画像に前記目的画像と同一の大きさの照合窓を設定し、照合窓内において抽出した前記蓄積特徴に割り当てた符号の集合と、前記目的特徴に割り当てた符号の集合との特徴距離を演算する特徴再照合過程と、
    照合結果再判定部が、前記特徴再照合部が算出した前記特徴距離に基づいて、前記目的画像と類似する前記照合箇所を検出箇所として出力する照合結果再判定過程と、
    を有することを特徴とする部分画像検索方法。
  2. 前記見本特徴作成過程において、
    前記学習特徴をクラスタリングして各クラスタに属する学習特徴の重心となる特徴を見本特徴とする請求項1に記載の部分画像検索方法。
  3. 前記索引検索過程において、前記目的部分領域特徴抽出部が抽出したいずれかの目的部分領域特徴との距離が、予め定めた選択閾値を下回る前記蓄積部分領域特徴を前記目的部分領域特徴に類似する蓄積部分領域特徴として抽出し、
    前記照合結果判定過程において、前記特徴照合部が算出した距離が前記選択閾値を下回る前記蓄積部分領域特徴を前記照合箇所として出力し、
    前記照合結果再判定過程において、前記特徴再照合部が算出した前記特徴距離が予め定めた検索閾値を下回る照合箇所を前記検出箇所として出力する
    ことを特徴とする請求項1または2に記載の部分画像検索方法。
  4. 索結果候補選択部が、前記照合結果再判定部が出力した前記検出箇所を、前記特徴再照合部が算出した前記特徴距離の小さい順に、予め定められた数量だけ選択して検索結果候補を求める検索結果候補選択過程と、
    検索閾値更新部が、該検索結果候補から、前記特徴再照合部が算出した前記特徴距離に基づいて、予め設定された所定の距離内にある検索結果候補を検出し、その距離の値から前記検索閾値と前記選択閾値の値を更新する検索閾値更新過程と、
    次目的部分領域特徴選定部が、まだ照合が終了していない前記目的部分領域特徴の中から次に照合を行う目的部分領域特徴を1つ選択する次目的部分領域特徴選定過程と、
    次検索候補特徴選定部が、まだ照合を終了していない検索候補特徴の中から次に照合を行う検索候補特徴を1つ選択する次検索候補特徴選定過程と、
    を備えたことを特徴とする請求項3に記載の部分画像検索方法。
  5. 索引付与部が、前記蓄積部分領域特徴抽出部が抽出した蓄積部分領域特徴に索引を付与する索引付与過程を備え、
    前記索引検索過程において、
    前記索引に対して、前記目的部分領域特徴抽出部が抽出した全ての目的部分領域特徴を用い、前記検索結果候補を抽出することを特徴とする請求項4に記載の部分画像検索方法。
  6. 目的代表特徴抽出部が、前記目的部分領域特徴抽出部が抽出した前記目的部分領域特徴を分類し、この各分類に共通する特徴である目的代表特徴を抽出する目的代表特徴抽出過程を備え、
    前記索引検索過程において、前記目的部分領域特徴の代わりに、前記目的代表特徴を用いることを特徴とする請求項に記載の部分画像検索方法。
  7. 的部分領域間距離計算部が、前記目的部分領域特徴抽出部が抽出した前記目的部分領域特徴の集合において、各目的部分領域特徴間の距離を計算する目的部分領域間距離計算過程と、
    周辺距離下限値計算部が、前記特徴照合部が算出した距離と前記目的部分領域間距離計算部が計算した前記目的部分領域間の距離とを用い、前記特徴照合部において照合を行った蓄積部分領域特徴と、前記目的部分領域特徴抽出過程で導かれた各目的部分領域特徴との距離の下限値を計算する周辺距離下限値計算過程と
    前記次目的部分領域特徴選定部において、前記距離の下限値が前記選択閾値を下回る蓄積信号中の箇所の中から次に照合する箇所を選択することを特徴とする請求項6に記載の部分画像検索方法。
  8. 見本特徴間距離計算部が、前記見本特徴各々の間の距離である見本特徴間距離を演算する見本特徴間距離計算過程
    を備え、
    前記特徴照合過程において、
    記距離を、前記検索候補特徴の符号列と前記目的部分領域特徴の符号列の要素同士の組合せに対応した前記見本特徴間距離を加算した積算値とし、
    前記特徴再照合過程において、
    前記特徴距離を、前記特徴再照合部における前記照合窓内の前記蓄積特徴に対応する符号列と前記目的特徴に対応する符号列の要素同士の組合せに対応した前記見本特徴間距離を加算した積算値とす
    ことを特徴とする請求項1から請求項7のいずれかに記載の部分画像検索方法。
  9. 前記蓄積特徴量子化過程において、
    前記蓄積特徴に対して、前記見本特徴のうち該蓄積特徴との距離が最も小さい見本特徴に対応する符号を割り当て、
    前記目的特徴量子化過程において、
    前記目的特徴に対して、前記見本特徴のうち該目的特徴との距離が最も小さい見本特徴に対応する符号を割り当てる
    ことを特徴とする求項8に記載の部分画像検索方法。
  10. 前記蓄積特徴量子化過程において、
    前記蓄積特徴に対して、前記見本特徴のうち該蓄積特徴との距離が予め定められた割当閾値以下にて最も小さい見本特徴に対応する符号を割り当て、該当する見本特徴が存在しない場合、いずれの見本特徴にも対応しない他の符号を割り当て、
    前記目的特徴量子化過程において、
    前記目的特徴に対して、前記見本特徴のうち該目的特徴との距離が予め定められた割当閾値以下にて最も小さい見本特徴に対応する符号を割り当て、該当する見本特徴が存在しない場合、いずれの見本特徴にも対応しない他の符号を割り当てる
    ことを特徴とする求項8に記載の部分画像検索方法。
  11. 特徴存在範囲確定が、前記見本特徴作成部が出力した前記見本特徴各々について、前記見本特徴を中心とする予め設定した割当閾値に等しい半径の超球を、該見本特徴に割り当てられる前記蓄積特徴及び前記目的特徴が存在し得る特徴空間内の範囲である特徴存在範囲として設定する特徴存在範囲確定過程を備え、
    前記見本特徴間距離計算過程において、前記特徴存在範囲を用い、各々の見本特徴間の距離を演算することを特徴とする請求項から請求項10のいずれかに記載の部分画像検索方法。
  12. 前記見本特徴間距離計算過程において、
    前記特徴存在範囲に基づいて、見本特徴各々に対応する前記特徴存在範囲の間の最大距離、または前記特徴存在範囲の間の最小距離、あるいはその双方を計算し、それらを新たに見本特徴間の距離とすることを特徴とする請求項11記載の部分画像検索方法。
  13. データベースに登録されている蓄積画像群から、検索対象の目的画像に類似した部分画像を含む画像及び該画像における部分画像の位置を検出する部分画像検索システムであり、
    部分画像を検出するとき、入力された学習画像から複数の小領域を選択して各小領域における画像の特徴である学習特徴を抽出し、前記学習特徴の中で頻出する画像の特徴である見本特徴を作成する見本特徴作成部と、
    前記見本特徴各々の間の距離である見本特徴間距離を演算する見本特徴間距離計算部と、
    蓄積画像群の各画像から複数の小領域を選択し、各小領域における画像の特徴である蓄積特徴を抽出する蓄積特徴抽出部と、
    前記蓄積特徴抽出部で抽出した蓄積特徴と前記見本特徴作成で作成した前記見本特徴とを比較し、各蓄積特徴に対して前記見本特徴に対応する符号を割り当てる蓄積特徴量子化部と、
    前記蓄積画像群の各画像に対して、予め定められた所定の大きさの注目窓を予め定めた間隔にて配置して、各注目窓内の前記蓄積特徴量子化部が割り当てた符号の集合である蓄積部分領域特徴を抽出する蓄積部分領域特徴抽出部と、
    前記目的画像から複数の小領域を選択し、この小領域各々の特徴を目的特徴として抽出する目的特徴抽出部と、
    前記目的特徴抽出部が抽出した目的特徴と、前記見本特徴作成で作成した前記見本特徴とを比較することにより、前記目的特徴に対して、見本特徴に対応する符号を割り当てる目的特徴量子化部と、
    前記目的画像に対して、予め定められた所定の大きさの注目窓を設定し、この注目窓をずらしながら各注目窓内の前記目的特徴量子化部が割り当てた符号の集合である目的部分領域特徴を抽出する目的部分領域特徴抽出部と、
    前記目的部分領域特徴抽出部が抽出した目的部分領域特徴に類似する前記蓄積部分領域特徴抽出部が抽出した蓄積部分領域特徴を検索候補特徴として抽出する索引検索部と、
    前記索引検索部が抽出した前記検索候補特徴と、前記目的部分領域特徴抽出部が抽出した目的部分領域特徴との距離を演算する特徴照合部と、
    前記特徴照合部が演算した距離に基づいて、前記目的画像に類似する前記検索候補特徴を照合箇所として出力する照合結果判定部と、
    前記照合結果判定部が出力した照合箇所において、前記蓄積画像に前記目的画像と同一の大きさの照合窓を設定し、該照合窓内において抽出した前記蓄積特徴に割り当てた符号の集合との特徴距離を前記見本特徴間距離に基づいて演算する特徴再照合部と、
    前記特徴再照合部が算出した前記特徴距離に基づいて、前記目的画像と類似する前記照合箇所を検出箇所として出力する照合結果再判定部と
    を有することを特徴とする部分画像検索システム。
  14. データベースに登録されている蓄積画像群から、検索対象の目的画像に類似した部分画像を含む画像及び該画像における部分画像の位置を検出する部分画像検索処理をコンピュータに実行させるプログラムであり、
    見本特徴作成部が、部分画像を検出するとき、入力された学習画像から複数の小領域を選択して各小領域における画像の特徴である学習特徴を抽出し、前記学習特徴の中で頻出する画像の特徴である見本特徴を作成する見本特徴作成処理と、
    蓄積特徴抽出部が、前記蓄積画像群の各画像から複数の小領域を選択し、各小領域における画像の特徴である蓄積特徴を抽出する蓄積特徴抽出処理と、
    蓄積特徴量子化部が、前記蓄積特徴抽出部で抽出した蓄積特徴と前記見本特徴作成で作成した前記見本特徴とを比較し、各蓄積特徴に対して前記見本特徴に対応する符号を割り当てる蓄積特徴量子化処理と、
    蓄積部分領域特徴抽出部が、前記蓄積画像群の各画像に対して、予め定められた所定の大きさの注目窓を予め定めた間隔にて配置して、各注目窓内の前記蓄積特徴量子化部が割り当てた符号の集合である蓄積部分領域特徴を抽出する蓄積部分領域特徴抽出処理と、
    目的特徴抽出部が、前記目的画像から複数の小領域を選択し、この小領域各々の特徴を目的特徴として抽出する目的特徴抽出処理と、
    目的特徴量子化部が、前記目的特徴抽出部が抽出した目的特徴と、前記見本特徴作成で作成した前記見本特徴とを比較することにより、前記目的特徴に対して、見本特徴に対応する符号を割り当てる目的特徴量子化処理と、
    目的部分領域特徴抽出部が、前記目的画像に対して、予め定められた所定の大きさの注目窓を設定し、この注目窓をずらしながら各注目窓内の前記目的特徴量子化部が割り当てた符号の集合である目的部分領域特徴を抽出する目的部分領域特徴抽出処理と、
    索引検索部が、前記目的部分領域特徴抽出部が抽出した目的部分領域特徴に類似する前記蓄積部分領域特徴抽出部が抽出した蓄積部分領域特徴を検索候補特徴として抽出する索引検索処理と、
    特徴照合部が、前記索引検索部が抽出した前記検索候補特徴と前記目的部分領域特徴抽出部が抽出した目的部分領域特徴との距離を演算する特徴照合処理と、
    照合結果判定部が、前記特徴照合部が演算した距離に基づいて、前記目的画像に類似する前記検索候補特徴を照合箇所として出力する照合結果判定処理と、
    特徴再照合部が、前記照合結果判定部が出力した照合箇所において、前記蓄積画像に前記目的画像と同一の大きさの照合窓を設定し、照合窓内において抽出した前記蓄積特徴に割り当てた符号の集合と、前記目的特徴に割り当てた符号の集合との特徴距離を演算する特徴再照合処理と、
    照合結果再判定部が、前記特徴再照合部が算出した前記特徴距離に基づいて、前記目的画像と類似する前記照合箇所を検出箇所として出力する照合結果再判定処理と、
    を有する部分画像検索処理をコンピュータに実行させるプログラム。
  15. 請求項14に記載の部分画像検索プログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2004184966A 2004-06-23 2004-06-23 部分画像検索システム及び方法並びにプログラム Expired - Fee Related JP4343038B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004184966A JP4343038B2 (ja) 2004-06-23 2004-06-23 部分画像検索システム及び方法並びにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004184966A JP4343038B2 (ja) 2004-06-23 2004-06-23 部分画像検索システム及び方法並びにプログラム

Publications (2)

Publication Number Publication Date
JP2006011622A JP2006011622A (ja) 2006-01-12
JP4343038B2 true JP4343038B2 (ja) 2009-10-14

Family

ID=35778846

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004184966A Expired - Fee Related JP4343038B2 (ja) 2004-06-23 2004-06-23 部分画像検索システム及び方法並びにプログラム

Country Status (1)

Country Link
JP (1) JP4343038B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4929859B2 (ja) * 2006-06-12 2012-05-09 富士ゼロックス株式会社 画像処理装置及びプログラム
KR101193728B1 (ko) * 2007-12-05 2012-10-22 시바우라 메카트로닉스 가부시키가이샤 특징 해석 장치
JP2015133085A (ja) * 2014-01-15 2015-07-23 キヤノン株式会社 情報処理装置およびその方法
JP5995916B2 (ja) * 2014-07-09 2016-09-21 日本電信電話株式会社 画像検索装置、方法、及びプログラム

Also Published As

Publication number Publication date
JP2006011622A (ja) 2006-01-12

Similar Documents

Publication Publication Date Title
CN110263659B (zh) 一种基于三元组损失和轻量级网络的指静脉识别方法及系统
KR101191223B1 (ko) 이미지 검색 방법, 장치, 및 이 방법을 실행하기 위한 컴퓨터 판독 가능한 기록 매체
JP4545641B2 (ja) 類似画像検索方法,類似画像検索システム,類似画像検索プログラム及び記録媒体
CN110502664B (zh) 视频标签索引库创建方法、视频标签生成方法及装置
US20120084305A1 (en) Compiling method, compiling apparatus, and compiling program of image database used for object recognition
CN112395457B (zh) 一种应用于视频版权保护的视频待检索定位方法
CN106780639B (zh) 基于显著性特征稀疏嵌入和极限学习机的哈希编码方法
JP5598925B2 (ja) 高次元の特徴ベクトルを高精度で検索する検索装置及びプログラム
US10489681B2 (en) Method of clustering digital images, corresponding system, apparatus and computer program product
JP5014479B2 (ja) 画像検索装置、画像検索方法及びプログラム
CN110209863B (zh) 用于相似图片检索的方法与设备
JP4421527B2 (ja) 映像検索装置,方法及びプログラム並びにプログラムを記録した記録媒体
CN111353055A (zh) 基于智能标签扩展元数据的编目方法及系统
CN113254687B (zh) 图像检索、图像量化模型训练方法、装置和存储介质
CN114972506A (zh) 一种基于深度学习和街景图像的图像定位方法
CN104778272B (zh) 一种基于区域挖掘和空间编码的图像位置估计方法
CN113657504A (zh) 图像检索方法、装置、计算机设备和存储介质
JP4343038B2 (ja) 部分画像検索システム及び方法並びにプログラム
JP3903613B2 (ja) 検索装置及び検索プログラムを記録したコンピュータ読み取り可能な記録媒体
JP6017277B2 (ja) 特徴ベクトルの集合で表されるコンテンツ間の類似度を算出するプログラム、装置及び方法
US20170262718A1 (en) Information processing apparatus and method of searching for similar data
JP5833499B2 (ja) 高次元の特徴ベクトル集合で表現されるコンテンツを高精度で検索する検索装置及びプログラム
JP6364387B2 (ja) 特徴量生成装置、方法、及びプログラム
JP4425719B2 (ja) 部分画像検索方法、部分画像検索装置、部分画像検索プログラム、および、部分画像検索プログラムを記録したコンピュータ読み取り可能な記録媒体
CN114882495A (zh) 一种基于上下文感知特征聚集的3d目标检测方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060407

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090113

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090414

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090630

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090708

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120717

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120717

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130717

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees