JP7044677B2 - 判定装置、判定方法および判定プログラム - Google Patents

判定装置、判定方法および判定プログラム Download PDF

Info

Publication number
JP7044677B2
JP7044677B2 JP2018174125A JP2018174125A JP7044677B2 JP 7044677 B2 JP7044677 B2 JP 7044677B2 JP 2018174125 A JP2018174125 A JP 2018174125A JP 2018174125 A JP2018174125 A JP 2018174125A JP 7044677 B2 JP7044677 B2 JP 7044677B2
Authority
JP
Japan
Prior art keywords
information
feature amount
similar
feature
conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018174125A
Other languages
English (en)
Other versions
JP2020046872A (ja
Inventor
雅二郎 岩崎
渉 大神
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yahoo Japan Corp
Original Assignee
Yahoo Japan Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yahoo Japan Corp filed Critical Yahoo Japan Corp
Priority to JP2018174125A priority Critical patent/JP7044677B2/ja
Publication of JP2020046872A publication Critical patent/JP2020046872A/ja
Application granted granted Critical
Publication of JP7044677B2 publication Critical patent/JP7044677B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Description

本発明は、判定装置、判定方法および判定プログラムに関する。
従来、検索クエリとなる情報が有する特徴量と、検索対象となる情報が有する特徴量とを比較することで、検索クエリと類似する情報を検索する技術が知られている。このような技術の一例として、検索クエリとなる画像から抽出した複数の局所的な特徴量(以下、「局所特徴量」と記載する。)と、検索対象となる画像が有する複数の局所特徴量との類似度に加え、局所特徴量を抽出した範囲の座標関係の類似度に基づいて、検索クエリとなる画像と類似する画像を検索する技術が知られている。
特開2014-157443号公報
しかしながら、上述した従来技術では、類似検索の精度が必ずしも良いとは言えない場合がある。
例えば、上述した従来技術では、検索クエリから抽出した複数の局所特徴量と、検索対象となる画像が有する複数の局所特徴量とを比較し、類似する局所特徴量を特定する。そして、従来技術では、検索クエリから抽出した局所特徴量のうち特定した局所特徴量の座標関係と、検索対象となる画像が有する局所特徴量のうち特定した局所特徴量の座標関係との類似性を比較する。このように、上述した従来技術では、各情報が有する局所特徴量のうち一部の局所特徴量の座標関係に基づいて、類似性を判断するので、検索クエリとなる画像と類似しない画像を検索結果に含める恐れがある。
本願は、上記に鑑みてなされたものであって、類似検索の精度を向上させることを目的とする。
本願に係る判定装置は、第1情報が有する複数の第1特徴量のうち第2情報が有する複数の第2特徴量のいずれかに類似する第1類似特徴量の特徴点の位置を、前記第2特徴量のうち前記第1類似特徴量に類似する第2類似特徴量の特徴点の位置へと変換する変換情報を推定する推定部と、前記第1特徴量の特徴点の位置を前記変換情報により変換した変換位置と、前記第2特徴量の特徴点の位置との比較結果に基づいて、前記第1情報と前記第2情報とが類似するか否かを判定する判定部とを有することを特徴とする。
実施形態の一態様によれば、類似検索の精度を向上させることができる。
図1は、実施形態に係る情報提供装置が実行する検索処理の一例を示す図である。 図2は、実施形態に係る情報提供装置が実行する処理の対象の一例を示す図である。 図3は、実施形態に係る情報提供装置の構成例を示す図である。 図4は、実施形態に係る検索対象データベースに登録される情報の一例を示す図である。 図5は、実施形態に係る情報提供装置が実行する表示処理の流れの一例を示すフローチャートである。 図6は、ハードウェア構成の一例を示す図である。
以下に、本願に係る判定装置、判定方法および判定プログラムを実施するための形態(以下、「実施形態」と記載する。)について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る判定装置、判定方法および判定プログラムが限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略する。
〔1-1.情報提供装置の一例について〕
まず、図1を用いて、判定装置の一例である情報提供装置が実行する検索処理の一例について説明する。図1は、実施形態に係る情報提供装置が実行する検索処理の一例を示す図である。
図1では、インターネット等の所定のネットワークN(例えば、図3参照)を介して、各利用者が使用する端末装置100と情報提供装置10は、相互に通信可能である。また、情報提供装置10は、端末装置100以外にも、各種の外部サーバと相互に通信可能であるものとする。また、情報提供装置10は、任意の数の端末装置100と通信可能であってもよい。
端末装置100は、スマートフォンやタブレット等のスマートデバイスであり、3G(3rd Generation)やLTE(Long Term Evolution)等の無線通信網を介して任意のサーバ装置と通信を行うことができる携帯端末装置である。なお、端末装置100は、スマートデバイスのみならず、デスクトップPC(Personal Computer)やノートPC等の情報処理装置であってもよい。
情報提供装置10は、検索処理を実行する情報処理装置であり、例えば、サーバ装置やクラウドシステム等により実現される。例えば、情報提供装置10は、端末装置100から検索クエリとなるコンテンツ(以下、「クエリコンテンツ」と記載する。)を受信すると、受信したクエリコンテンツと類似する内容のコンテンツを検索し、検索したコンテンツや、検索したコンテンツを示す他のコンテンツを検索結果として端末装置100に提供する検索処理を実行する。
より具体的な例を挙げると、情報提供装置10は、検索対象となる複数の画像(以下「対象画像」と記載する。)を保持する。そして、情報提供装置10は、端末装置100から検索クエリとなる画像(以下、「クエリ画像」と記載する。)を受信すると、受信したクエリ画像と類似する対象画像を検索し、クエリ画像と類似する対象画像の情報を検索結果として端末装置100へと送信する。なお、以下の説明では、クエリ画像と類似する対象画像を検索する処理について記載するが、実施形態は、これに限定するものではない。例えば、情報提供装置10は、静止画像や動画像といった画像のみならず、文章、映画、音楽コンテンツ等、任意のコンテンツについて後述する検索処理を実行してよい。
〔1-2.局所特徴量を用いた検索処理の概要について〕
ここで、クエリコンテンツと類似するコンテンツを検索する手法として、各コンテンツが有する局所的な特徴量である局所特徴量の比較結果に基づいて、類似するコンテンツを検索する技術が知られている。より具体的な例を挙げると、クエリ画像から複数の局所特徴量を抽出し、抽出した局所特徴量と対象画像から予め抽出された局所特徴量との比較結果に基づいて、クエリ画像と類似する対象画像を検索する技術が知られている。
〔1-2-1.局所特徴量同士の比較について〕
まず、情報提供装置10は、複数の対象画像について、対象画像ごとに局所特徴量の算出を行う。例えば、情報提供装置10は、対象画像の中から自動的に選択された特徴的な点及び範囲(半径)及び方向に基づいて、その範囲における局所特徴量を算出する。このような処理において、各特徴点は、不規則な位置となり、局所特徴量が算出される範囲(半径)も様々な大きさのものが採用される。なお、局所特徴量が算出される範囲は、円形に限定されるものではなく、楕円や矩形等、任意の形状が採用可能である。続いて、情報提供装置10は、クエリ画像についても同様に、自動的に選択された特徴的な点及び範囲(半径)及び方向に基づいて、その範囲における特徴量を算出する。
なお、上述した局所特徴量は、GIST(http://ilab.usc.edu/siagian/Research/Gist/Gist.html)、カラーヒストグラム、色分布などの広域特徴量やSIFT(Scale-Invariant Feature Transform)、SURF(Speed-Up Robust Features)、局所特徴量等、画像が有する特徴量を取得する任意の技術が採用可能である。なお、ニューラルネットで生成される特徴量も利用可能である。また、以下の説明では、クエリ画像から抽出された局所特徴量を「クエリ画像の局所特徴量」と記載し、対象画像から抽出された局所特徴量を「対象画像の局所特徴量」と記載する場合がある。
続いて、情報提供装置10は、クエリ画像の局所特徴量と対象画像の局所特徴量とをそれぞれ比較することで、対象画像の局所特徴量のうち、クエリ画像の局所特徴量と類似する局所特徴量を特定する。より具体的には、情報提供装置10は、クエリ画像の局所特徴量ごとに、各対象画像から抽出された全ての局所特徴量のうち、クエリ画像の局所特徴量と最も類似する局所特徴量を特定する。例えば、情報提供装置10は、NGT(Neighborhood Graph and Tree)等といった技術を用いて、クエリ画像の局所特徴量と類似する対象画像の局所特徴量を検索する。
なお、以下の説明では、クエリ画像の局所特徴量に最も類似する局所特徴量として対象画像の局所特徴量の中から特定された局所特徴量を、画像対応特徴量と記載する場合がある。また、画像対応特徴量と対応するクエリ画像の局所特徴量、すなわち、画像対応特徴量と最も類似するクエリ画像の局所特徴量をクエリ対応特徴量と記載する場合がある。また、以下の説明では、クエリ対応特徴量や画像対応特徴量を単に対応特徴量と記載する場合がある。
そして、情報提供装置10は、対象画像のうち、クエリ画像の局所特徴量と類似する局所特徴量の数が閾値を超える対象画像を、クエリ画像と類似する画像の候補(以下、「候補画像」と記載する。)として選択する。すなわち、情報提供装置10は、局所特徴量同士の類似性に基づく投票形式で、候補画像の選択を行う。例えば、情報提供装置10は、対象画像のうち、対応特徴量の数が多い方から所定の数の対象画像を候補画像としてもよく、対応特徴量の数が所定の閾値を超える対象画像を候補画像としてもよい。なお、以下の説明では、上述した局所特徴量同士が類似するか否かを判定する処理を「部分特徴量照合処理」と記載する場合がある。
〔1-2-2.局所特徴量の特徴点の位置の比較について〕
ここで、候補画像をそのまま検索結果として出力する手法も考えられるが、情報提供装置10は、さらに精度を高めるため、局所特徴量を算出した特徴点の位置の比較に基づいて、クエリ画像と類似する対象画像を検索する。より具体的には、情報提供装置10は、以下に説明する判定処理を実行することで、クエリ画像と類似する対象画像の絞り込みを行う。
まず、情報提供装置10は、第1情報(例えば、クエリ画像)が有する複数の第1特徴量のうち第2情報(例えば、対象画像)が有する複数の第2特徴量のいずれかに類似する第1類似特徴量(例えば、クエリ対応特徴量)の位置を、第2特徴量のうち第1類似特徴量に類似する第2類似特徴量(例えば、画像対応特徴量)の位置へと変換する変換情報を推定する。そして、情報提供装置10は、第1特徴量の特徴点の位置を変換情報により変換した変換位置と、第2特徴量の特徴点の位置との比較結果に基づいて、第1情報と第2情報とが類似するか否かを判定する。
例えば、情報提供装置10は、複数の第2情報が有する第2特徴量のうち、第1情報が有する第1特徴量と最も類似する特徴量を、第1特徴量と対応する第2対応特徴量として特定する。また、情報提供装置10は、第1情報が有する第1特徴量のうち、処理対象となる第2情報に含まれる第2対応特徴量と対応する第1特徴量である第1対応特徴量を特定する。そして、情報提供装置10は、第1対応特徴量の特徴点の位置を、処理対象となる第2情報に含まれる第2対応特徴量の特徴点の位置へと変換する変換情報を推定する。
例えば、情報提供装置10は、クエリ画像の局所特徴量と、各対象画像の局所特徴量との比較により、画像対応特徴量の特定を行う。続いて、情報提供装置10は、処理対象となる対象画像を1つ選択し、以下の処理を実行する。まず、情報提供装置10は、選択した対象画像に含まれる画像対応特徴量に対応するクエリ対応特徴量を特定する。そして、情報提供装置10は、特定したクエリ対応特徴量を算出する際の特徴点の位置を、処理対象となる対象画像における画像対応特徴量の特徴点の位置へと変換する変換情報を推定する。例えば、情報提供装置10は、クエリ対応特徴量を算出した際の特徴点の位置を、画像対応特徴量を算出した際の特徴点の位置へとアフィン変換するためのパラメータを変換情報として推定する。
続いて、情報提供装置10は、クエリ画像が有する全ての局所特徴量、若しくは一部の局所特徴量の特徴点の位置を、推定した変換情報で変換する。そして、情報提供装置10は、変換後の位置と、対象画像の局所特徴量の特徴点の位置とを比較し、比較結果に基づいて、クエリ画像と処理対象となる対象画像とが類似するか否かを判定する。
例えば、情報提供装置10は、クエリ画像の局所特徴量ごとに、特徴点の位置を変換情報で変換し、変換後の位置から所定の範囲内に、処理対象となる対象画像の局所特徴量のうちいずれかの局所特徴量の特徴点の位置が含まれているか否かを判定する。そして、情報提供装置10は、クエリ画像の局所特徴量のうち、変換後の位置から所定の範囲内に、処理対象となる対象画像の局所特徴量のうちいずれかの局所特徴量の特徴点の位置が含まれている局所特徴量の割合を算出する。その後、情報提供装置10は、算出した割合が所定の閾値を超える場合は、処理対象となる対象画像がクエリ画像に類似すると判定する。
すなわち、情報提供装置10は、部分特徴量照合処理において特定されたクエリ対応特徴量の特徴点の位置を、部分特徴量照合処理において特定された画像対応特徴量の特徴点の位置へと変換する変換情報を推定する。そして、情報提供装置10は、クエリ画像の各局所特徴量の特徴点の位置を変換情報で変換した位置と、対象画像の局所特徴量の特徴点の位置との一致度に基づいて、クエリ画像と対象画像とが類似するか否かを判定する。このような処理により、情報提供装置10は、類似検索の精度を向上させることができる。
なお、候補画像ごとに、クエリ画像の全局所特徴量と、候補画像の全局所特徴量とを比較しなおし、類似する局所特徴量の特徴点の位置関係の類似性に基づいて、クエリ画像と候補画像とが類似するか否かを推定するといった処理が考えられる。しかしながら、このような処理を実行した場合、類似検索の精度を向上させることができるものの、クエリ画像や対象画像から抽出される局所特徴量の数が増大した場合は、局所特徴量同士が類似するか否かの計算コストが上昇してしまう。
一方、情報提供装置10は、クエリ画像の局所特徴量と候補画像の局所特徴量とが類似するか否かの処理を実行せずに、候補画像の抽出を行う際に用いた対応特徴量の特徴点の位置関係から変換情報を推定し、推定した変換情報を用いてクエリ画像の局所特徴量の特徴点の位置を変換し、変換後の位置と候補画像の局所特徴量の特徴点の位置との一致度に応じて、候補画像がクエリ画像に類似するか否かを判定する。このため、情報提供装置10は、クエリ画像の局所特徴量と候補画像の局所特徴量とが類似するか否かの処理に伴う計算コストを削減することができるので、より容易に類似検索の精度を向上させることができる。
〔1-3.判定処理の一例について〕
次に、図1を用いて、情報提供装置10が実行する判定処理の具体的な流れの一例について説明する。例えば、情報提供装置10は、検索対象となる対象画像の局所特徴量をあらかじめ抽出する(ステップS1)。例えば、情報提供装置10は、対象画像T1の中から自動的に選択された複数の特徴点P1、P2・・・ごとに、特徴点からそれぞれ自動的に決定された方向の、自動的に決定された範囲内(例えば、半径が数十ピクセルの範囲内)に含まれる画素の特徴量を局所特徴量FP1、FP2・・・として取得する。このように、各画像から特徴点を自動的に抽出した場合、同一物体を撮影した2画像から物体上の同じ位置が特徴点として抽出されるので、座標照合が可能となる。
続いて、情報提供装置10は、端末装置100から画像を取得する(ステップS2)。このような場合、情報提供装置10は、取得した画像をクエリ画像とし、クエリ画像の局所特徴量を抽出する。そして、情報提供装置10は、クエリ画像の局所特徴量ごとに、対象画像の局所特徴量のうち最も類似する局所特徴量を対応特徴量として特定する(ステップS3)。より具体的には、情報提供装置10は、部分特徴量照合処理を実行する。
例えば、情報提供装置10は、点線で示すように、クエリ画像Q1から自動的に選択された特徴点、範囲および方向について、それぞれ特徴量を局所特徴量として抽出する。そして、情報提供装置10は、クエリ画像Q1の各局所特徴量と、各対象画像の局所特徴量とを比較し、類似するか否かを判定する。より具体的には、情報提供装置10は、クエリ画像が有する複数の局所特徴量から処理対象となる局所特徴量を選択し、各対象画像が有する局所特徴量のうち、クエリ画像から選択した局所特徴量と最も類似する局所特徴量を特定する。そして、情報提供装置10は、選択したクエリ画像の局所特徴量と、特定した対象画像の局所特徴量とを対応特徴量として相互に対応付ける。
続いて、情報提供装置10は、クエリ画像における対応特徴量の特徴点の位置を、対象画像における対応特徴量の特徴点の位置に変換する変換情報と確度とを推定する。例えば、情報提供装置10は、対応特徴量の数が多い方から順に所定の数の対応画像を候補画像として選択する。また、情報提供装置10は、候補画像から処理対象となる候補画像を選択する。そして、情報提供装置10は、クエリ画像Q1の局所特徴量のうち、処理対象として選択した候補画像に含まれる画像対応特徴量に対応するクエリ対応特徴量の特徴点の位置を、処理対象として選択した候補画像に含まれる画像対応特徴量の特徴点の位置へとアフィン変換するためのパラメータを変換情報として推定する。
例えば、図1に示す例では、情報提供装置10は、クエリ画像Q1に含まれる局所特徴量のうち、対応画像T1に含まれる局所特徴量と対応付けられた5つのクエリ対応特徴量を特定する。また、情報提供装置10は、対応画像T1に含まれる5つの画像対応特徴量を特定する。そして、情報提供装置10は、特定したクエリ対応特徴量の特徴点の位置を、特定した画像対応特徴量の特徴点の位置へと変換する変換情報を推定する。また、情報提供装置10は、変換情報の正確さを示す確度の推定を行う。なお、図1のステップS4においては、クエリ画像Q1と対象画像T1とが有する局所特徴量のうち、対応特徴量となる局所特徴量の特徴点のみを丸印で示した。
続いて、情報提供装置10は、対象画像のうち推定された確度が所定の条件を満たす対象画像を抽出する。例えば、情報提供装置10は、候補画像ごとに変換情報と確度とを推定し、候補画像を確度が高い方から順位づけする。続いて、情報提供装置10は、隣接する順位における確度の変化率(減少率)を算出し、算出した変化率が所定の閾値を超えるる順位を特定する。そして、情報提供装置10は、特定した順位よりも上位の候補画像を処理対象として抽出する。なお、情報提供装置10は、推定された確度が所定の閾値以上となる候補画像を処理対象として抽出してもよい。
そして、情報提供装置10は、クエリ画像の局所特徴量の特徴点の位置を変換情報で変換した位置に、対象画像の局所特徴量が存在する割合を算出する(ステップS6)。例えば、情報提供装置10は、クエリ画像が有する局所特徴量から変換対象とする局所特徴量を選択する。ここで、情報提供装置10は、クエリ対象特徴量以外の局所特徴量から少なくとも1つの局所特徴量を変換対象として選択する。例えば、情報提供装置10は、クエリ画像が有する全ての局所特徴量を変換対象としてもよく、ランダムに選択された所定の数の局所特徴量を変換対象としてもよい。また、情報提供装置10は、クエリ画像が有するクエリ対応特徴量以外の局所特徴量の変換後の位置と、対象画像に含まれる画像対応特徴量以外の局所特徴量の特徴点の位置とを比較してもよい。
また、情報提供装置10は、第1情報から第1対応特徴量を含む特定領域を特定し、特定領域内に含まれる第1特徴量の特徴点の位置を変換情報で変換した変換位置と、第2特徴量の特徴点の位置との比較結果に基づいて、第1情報と第2情報とが類似するか否かを、第2情報ごとに判定してもよい。以下、図1中ステップS6に示す図を用いて、このような処理の一例について説明する。なお、図1のステップS6に示す例では、各対応特徴量と対応する特徴点を実線の丸印で示し、対応特徴量以外の局所特徴量と対応する特徴点を点線の丸印で示した。
例えば、画像から特徴的な点を特徴点として選択した場合、各特徴点は、撮像されたオブジェクト(例えば、取引対象)上から選択される場合が多い。このため、情報提供装置10は、第1対応特徴量を含む最小の矩形を特定領域として特定する。このような処理の結果、情報提供装置10は、画像のうちオブジェクトを含み、背景を極力除外した領域を特定領域として特定することができる。なお、情報提供装置10は、第1対応特徴量を含む領域であれば、最小の矩形ではなく、任意の形状および大きさを有する領域を特定領域として特定して良い。
例えば、図1のステップS6に示す例では、情報提供装置10は、クエリ画像Q1が有する局所特徴量のうち、対象画像T1が有する画像対応特徴量に対応するクエリ対応特徴量を含む特定領域AQ1を特定する。続いて、情報提供装置10は、クエリ画像Q1の局所特徴量のうち、特定領域AQ1に含まれる局所特徴量を特定する。そして、情報提供装置10は、クエリQ1と対象画像T1との対応特徴量同士の位置から推定した変換情報を用いて、特定領域AQ1に含まれる局所特徴量の特徴点の位置をそれぞれ変換する。
続いて、情報提供装置10は、変換後の位置と、対象画像T1に含まれる局所特徴量の各位置を比較する。そして、情報提供装置10は、特定領域AQ1に含まれる局所特徴量のうち、変換後の位置から所定の範囲内に対象画像T1の局所特徴量の特徴点の位置が所在する局所特徴量の割合を算出する。例えば、情報提供装置10は、特定領域AQ1に10個の局所特徴量が含まれており、そのうち8個の局所特徴量の特徴点について、変換後の位置の近傍に対象画像T1の局所特徴量の特徴点が所在する場合は、割合「8/10」を算出する。
また、情報提供装置10は、ステップS5にて抽出した各対象画像ごとにステップS6の処理を実行する。そして、情報提供装置10は、算出した割合に基づいて、クエリ画像と類似する対象画像を検索する(ステップS7)。例えば、対象画像T1について算出された割合が「8/10」であり、対象画像T22について算出された割合が「2/10」であり、対象画像T45について算出された割合が「3/3」であるものとする。このような場合、例えば、情報提供装置10は、割合が所定の閾値(例えば、「6/10」)を超える対象画像T1、T45をクエリ画像Q1と類似する画像として選択する。
そして、情報提供装置10は、検索結果を端末装置100に送信する(ステップS8)。例えば、情報提供装置10は、候補画像T1、T45のデータやサムネイル等を端末装置100に送信する。なお、情報提供装置10は、例えば、部分特徴量照合処理の結果や、算出された割合、変換情報の確度等に応じたランキング形式で、検索した候補画像の情報を配信してもよい。例えば、情報提供装置10は、算出された割合が所定の閾値を超える対象画像について、対応特徴量の数が多ければ多いほど、算出された割合が多ければ多い程、若しくは、変換情報の確度が高ければ高い程値が高くなるスコアを算出し、算出したスコアの順に各対応画像の情報を並べたコンテンツを配信してもよい。
〔1-4.比較内容について〕
ここで、上述した説明では、情報提供装置10は、クエリ画像の局所特徴量の特徴点の位置を変換情報により変換した位置から所定の範囲内に、対象画像に含まれるいずれかの局所特徴量の特徴点が含まれるか否かを判定し、判定結果に基づいて、クエリ画像と対象画像とが類似するか否かを判定した。しかしながら、情報提供装置10が実行する判定処理は、これに限定されるものではない。例えば、情報提供装置10は、判定精度を向上させるため、位置以外の情報を考慮してもよい。
〔1-4-1.局所特徴量の比較について〕
例えば、情報提供装置10は、第1特徴量と第2特徴量との比較結果に基づいて、第1情報と第2情報とが類似するか否かを判定してもよい。例えば、情報提供装置10は、クエリ画像の局所特徴量から処理対象となる局所特徴量を1つ選択し、選択した局所特徴量の特徴点の位置を変換情報により変換する。なお、以下の説明では、変換後の位置を変換位置と記載する。続いて、情報提供装置10は、対象画像の局所特徴量のうち、特徴点が変換位置から所定の範囲内に含まれる局所特徴量を特定する。そして、情報提供装置10は、特定した対象画像の局所特徴量と、処理対象として選択したクエリ画像の局所特徴量とを比較し、同一若しくは類似する局所特徴量が存在するか否かを判定する。
続いて、情報提供装置10は、特定した対象画像の局所特徴量の中に、処理対象として選択したクエリ画像の局所特徴量と同一又は類似する局所特徴量が存在する場合は、処理対象として選択したクエリ画像の局所特徴量を、変換情報により位置を変換した際に対応する局所特徴量が存在する局所特徴量(以下、「対象所在特徴量」と記載する。)とする。そして、情報提供装置10は、クエリ画像の各局所特徴量について上述した処理を実行し、クエリ画像の局所特徴量のうち、対象所在特徴量の割合を算出する。すなわち、情報提供装置10は、特徴点の位置の類似性のみならず、局所特徴量の類似性を考慮して、クエリ画像の局所特徴量のうち、対象所在特徴量の割合を算出する。
そして、情報提供装置10は、対象画像ごとにクエリ画像における対象所在特徴量の割合を算出し、算出した割合が所定の条件を満たす対象画像をクエリ画像に類似する画像として選択すればよい。なお、情報提供装置10は、クエリ画像の局所特徴量のうち、クエリ対応特徴量以外の局所特徴量について、対象所在特徴量であるか否かを判定してもよく、クエリ対応特徴量についても、対象所在特徴量であるか否かを判定を行ってもよい。
〔1-4-2.局所特徴量の算出に用いた範囲の比較について〕
ここで、クエリ画像と対象画像とに同じ撮像対象が含まれる場合、撮像対象うち類似する位置が特徴点として選択され、撮像対象のうち類似する範囲から局所特徴量が算出されることが知られている。このため、同じ撮像対象を含むクエリ画像と対象画像とにおいては、クエリ画像の局所特徴量を算出した際の範囲を変換情報により変換すると、対象画像の局所特徴量を算出した範囲と同一または類似する範囲を得られると考えられる。
そこで、情報提供装置10は、局所特徴量を算出する際に用いられた範囲の大きさを考慮して、クエリ画像の局所特徴量が対象所在特徴量であるか否かを判定してもよい。すなわち、情報提供装置10は、第1情報のうち第1特徴量の算出に用いられた範囲を変換情報で変換した範囲の広さと、第2情報のうち第2特徴量の算出に用いられた範囲の広さとの比較結果に基づいて、第1情報と前記第2情報とが類似するか否かを判定してもよい。
例えば、情報提供装置10は、対象画像の局所特徴量のうち、クエリ画像の局所特徴量の変換位置から所定の範囲内に含まれる局所特徴量を特定する。続いて、情報提供装置10は、クエリ画像の局所特徴量を算出する際に用いた範囲の広さを変換情報で変換した広さと、対象画像から特定した局所特徴量を算出する際に用いた範囲の広さとを比較する。そして、情報提供装置10は、クエリ画像の局所特徴量を算出する際に用いた範囲の広さを変換情報で変換した広さと、対象画像から特定した局所特徴量を算出する際に用いた範囲の広さとが同一又は類似する場合は、そのクエリ画像の局所特徴量を対象所在特徴量としてもよい。
〔1-4-3.類似の判断について〕
ここで、情報提供装置10は、対象所在特徴量の数が所定の条件を満たすか否かに応じて、クエリ画像と対象画像とが類似するか否かを判定してもよい。すなわち、情報提供装置10は、変換位置が第2特徴量の特徴点の位置と類似する第1特徴量の数が所定の条件を満たす場合は、第1情報と第2情報とが類似すると判定してもよい。例えば、情報提供装置10は、対象所在特徴量の数が所定の閾値を超える場合は、クエリ画像と対象画像とが類似すると判定してもよい。また、情報提供装置10は、対象所在特徴量の数が多い方から順に所定の数の対象画像をクエリ画像に類似する画像として抽出してもよく、対象所在特徴量の割合が多い方から順に所定の数の対象画像をクエリ画像に類似する画像として抽出してもよい。
〔1-4-4.比較の仕方について〕
上述した例では、情報提供装置10は、クエリ画像の局所特徴量のうち、対象所在特徴量の数や割合を対象画像ごとに算出し、算出した数や割合に基づいて、クエリ画像と各対象画像とが類似するか否かを判定した。しかしながら、実施形態は、これに限定されるものではない。
例えば、情報提供装置10は、対象画像の局所特徴量のうち、クエリ画像の対象所在特徴量と対応する局所特徴量の割合に基づいて、クエリ画像と対象画像とが類似するか否かを判定してもよい。すなわち、情報提供装置10は、第2特徴量のうち特徴点の位置が第1特徴量の変換位置と類似する第2特徴量の割合が所定の閾値を超える場合は、第1情報と第2情報とが類似すると判定してもよい。
例えば、情報提供装置10は、クエリ画像に含まれる第1局所特徴量の特徴点の位置を変換情報で変換した第1変換位置を算出する。そして、情報提供装置10は、対象画像T1が有する局所特徴量のうち、特徴点の位置が第1変換位置と一致する第2局所特徴量が存在する場合、第1局所特徴量を対象所在特徴量とするとともに、第2局所特徴量を対象所在特徴量に対応する局所特徴量である対応所在特徴量として特定する。そして、情報提供装置10は、対象画像T1が有する局所特徴量のうち、対応所在特徴量の割合が所定の閾値を超える場合は、対象画像T1がクエリ画像に類似すると判定してもよい。
また、情報提供装置10は、クエリ画像における対象所在特徴量の割合を第1割合として算出するとともに、対象画像における対象所在特徴量の割合を第2割合として算出する。そして、情報提供装置10は、第1割合と第2割合とが所定の条件を満たす場合は、クエリ画像と対象画像とが類似すると判定してもよい。例えば、情報提供装置10は、第1割合と第2割合との差が所定の範囲内に収まり、かつ、第1割合と第2割合とがそれぞれ所定の閾値を超える場合に、クエリ画像と対象画像とが類似すると判定してもよい。すなわち、情報提供装置10は、第1特徴量のうち変換位置が第2特徴量の特徴点の位置と類似する第1特徴量の割合と、第2特徴量のうち特徴点の位置が第1特徴量の変換位置と類似する第2特徴量の割合との比較結果に基づいて、第1情報と第2情報とが類似するか否かを判定してもよい。
すなわち、情報提供装置10は、クエリ画像を第1情報とし、対象画像を第2情報として、第1情報と第2情報とが類似するか否かを判定してもよく、対象画像を第1情報とし、クエリ画像を第2情報として、第1情報と第2情報とが類似するか否かを判定してもよい。例えば、情報提供装置10は、対象画像が有する複数の局所特徴量のうちクエリ画像が有する複数の局所特徴量のいずれかに類似する画像対応特徴量の特徴点の位置を、クエリ対応特徴量の特徴点の位置へと変換する変換情報を推定する。そして、情報提供装置10は、対象画像の局所特徴量の特徴点の位置を変換情報により変換した変換位置と、クエリ画像の局所特徴量の特徴点の位置との比較結果に基づいて、対象画像とクエリ画像とが類似するか否かを判定してもよい。
〔1-4-5.その他の比較要因について〕
なお、情報提供装置10は、クエリ画像の局所特徴量の数と、対象画像の局所特徴量の数とが同程度であるか否かを考慮してもよい。例えば、情報提供装置10は、クエリ画像の局所特徴量の数と、対象画像の局所特徴量の数とが同程度であり、かつ、第1割合や第2割合が所定の閾値を超える場合は、クエリ画像と対象画像とが類似すると判定してもよい。また、情報提供装置10は、クエリ画像の局所特徴量のうちクエリ対応特徴量を含む範囲内の局所特徴量の数と、対象画像の局所特徴量のうち画像対応特徴量を含む範囲内の局所特徴量の数とが同程度であり、かつ、第1割合や第2割合が所定の閾値を超える場合は、クエリ画像と対象画像とが類似すると判定してもよい。
また、情報提供装置10は、クエリ画像の局所特徴量のうちクエリ対応特徴量を含む範囲(以下、「クエリ対応範囲」と記載する。)内の局所特徴量の数を算出するとともに、対象画像の局所特徴量のうち、クエリ対応範囲を変換情報で変換した範囲内に含まれる局所特徴量の数を算出する。そして、情報提供装置10は、算出した各局所特徴量の数が同程度であり、かつ、第1割合や第2割合が所定の閾値を超える場合は、クエリ画像と対象画像とが類似すると判定してもよい。例えば、情報提供装置10は、クエリ対応特徴量を含む最小の矩形をクエリ対応範囲として特定し、クエリ対応範囲内の局所特徴量と、対象画像のうちクエリ対応範囲を変換情報で変換した範囲内に含まれる局所特徴量との比較結果に基づいて、クエリ画像と対象画像とが類似するか否かを判定してもよい。
また、情報提供装置10は、変換情報に応じて、第1割合と第2割合との比較の仕方を変更してもよい。例えば、情報提供装置10は、変換情報として、アフィン変換のパラメータを算出する。このようなアフィン変換のパラメータには、位置を平行移動させるためのパラメータのみならず、拡大縮小に関するパラメータが含まれる。そこで、情報提供装置10は、第1割合を算出する際に分母として用いた局所特徴量の数と、拡大縮小に関するパラメータとに基づいて、第2割合を算出する際に分母として用いる局所特徴量の数の指標を算出し、算出した指標と第2割合を算出する際に実際に用いる局所特徴量の数とが同程度に収まる場合にのみ、クエリ画像と対象画像とが類似すると判定してもよい。
〔1-5.対象画像の足切について〕
上述した処理では、情報提供装置10は、対応特徴量の数が所定の閾値を超える対象画像のみを候補画像とし、候補画像の中からクエリ画像と類似する画像を検索した。また、上述した処理では、情報提供装置10は、候補画像のうち、変換情報の確度が所定の条件を満たす対象画像についてのみ、クエリ画像と類似するか否かを判定した。すなわち、情報提供装置10は、変換情報と、変換情報が正しい確度とを第2情報ごとに推定し、複数の第2情報のうち、確度が所定の条件を満たす第2情報を特定し、特定した第2情報ごとに、変換位置と、第2情報に含まれる第2特徴量の特徴点の位置との比較結果に基づいて、第1情報と第2情報とが類似するか否かを判定した。
しかしながら、実施形態は、これに限定されるものではない。例えば、情報提供装置10は、対応特徴量を含む全ての対象画像について変換情報を算出し、算出した変換情報を用いてクエリ画像の局所特徴量の特徴点の位置を変換し、変換後の変換位置と対象画像の局所特徴量の特徴点の位置とを比較することで、クエリ画像と類似する対象画像の検索を行ってもよい。
〔1-6.処理の中断について〕
ここで、情報提供装置10は、クエリ画像の局所特徴量ごとに、変換位置と対象画像の局所特徴量の特徴点の位置とを比較し、比較するごとに第1割合や第2割合の算出を行い、算出した第1割合や第2割合の値が所定の閾値を下回り続けた場合は、比較対象としていない局所特徴量が存在していても、クエリ画像と対象画像とが類似しないと判定してもよい。すなわち、情報提供装置10は、第1情報が有する第1特徴量ごとに、第1特徴量の特徴点の位置を変換情報により変換した変換位置と第2特徴量の特徴点の位置とが類似するか否かを判定する。そして、情報提供装置10は、第1情報が有する第1特徴量のうち変換位置が第2特徴量の特徴点の位置に類似すると判定された第1特徴量の割合が所定の閾値を下回った場合は、変換位置を第2特徴量の特徴点の位置と比較していない第1特徴量が存在していても、第1情報と第2情報とが類似しないと判定してもよい。
例えば、情報提供装置10は、クエリ対応特徴量を含む範囲内の局所特徴量の数を第1割合の分母として計数し、画像対応特徴量を含む範囲内の局所特徴量の数を第2割合の分母として計数する。続いて、情報提供装置10は、クエリ対応特徴量を含む範囲内の局所特徴量から処理対象となる局所特徴量ごとに、対象所在特徴量であるか否かを判定する。そして、情報提供装置10は、判定を行う度に第1割合と第2割合とを算出し、算出した第1割合と第2割合とが所定の条件を満たすか否かを判定する。
例えば、情報提供装置10は、判定が所定の回数行われたにも関わらず、第1割合や第2割合が所定の閾値を下回ったままであるか否かを判定する。そして、情報提供装置10は、判定が所定の回数行われたにも関わらず、第1割合や第2割合が所定の閾値を下回ったままである場合は、対象所在特徴量であるか否かを判定していない局所特徴量が存在していたとしても、処理を中断し、クエリ画像と対象画像とが類似しないと判定する。
〔1-7.変換情報について〕
上述した説明では、情報提供装置10は、クエリ対応特徴量の特徴点の位置を画像対応特徴量の特徴点の位置へとアフィン変換するパラメータを算出した。しかしながら、実施形態は、これに限定されるものではない。例えば、情報提供装置10は、画像から各特徴点における奥行方向の情報を取得することができるのであれば、このような奥行を考慮してもよい。例えば、情報提供装置10は、クエリ対応特徴量の特徴点における奥行の情報を、画像対応特徴量の特徴点における奥行の情報へと変換する変換情報を算出してもよい。また、情報提供装置10は、クエリ対応特徴量の特徴点の位置や特徴量そのものを画像対応特徴量の特徴点の位置や特徴量そのものへと変換する線形変換するための変換情報を算出してもよい。
〔1-8.処理の対象について〕
ここで、上述した例では、情報提供装置10は、クエリ画像と類似する対象画像の検索を行った。しかしながら、実施形態は、これに限定されるものではない。例えば、情報提供装置10は、文章や音楽等、任意のコンテンツについて、上述した検索処理や判定処理を適用可能である。
例えば、図2は、実施形態に係る情報提供装置が実行する処理の対象の一例を示す図である。なお、図2に示す例では、処理の対象として、文章や音楽を採用する際の処理の一例を記載した。例えば、情報提供装置10は、検索対象が文章である場合、クエリ文章の中から特徴点としていくつかの単語を選択し、選択した単語の前後に存在する複数の単語を抽出する。そして、情報提供装置10は、抽出した単語の特徴量を、局所特徴量QF1~QF3として算出するとともに、単語の相対的な出現位置(例えば、特徴点として選択した単語から次の単語までの間に存在する単語の数等)を座標、すなわち、特徴点の位置とみなす。例えば、情報提供装置10は、局所特徴量QF1の特徴点となる単語から、局所特徴量QF2の特徴点となる単語までの間の単語数を座標T1とし、局所特徴量QF2の特徴点となる単語から、局所特徴量QF3の特徴点となる単語までの間の単語数を座標T2とする。
同様に、情報提供装置10は、対象情報となる文章である対象文章の中から特徴点としていくつかの単語を選択し、選択した単語の前後に存在する複数の単語を抽出する。そして、情報提供装置10は、抽出した単語の特徴量を、局所特徴量F1~F3として算出するとともに、局所特徴量F1の特徴点となる単語から、局所特徴量F2の特徴点となる単語までの間の単語数を座標T3とし、局所特徴量F2の特徴点となる単語から、局所特徴量F3の特徴点となる単語までの間の単語数を座標T4とする。
そして、情報提供装置10は、特徴量の比較を行う場合、各局所特徴量WF1~QF3と、各局所特徴量F1~F3の比較を行う。また、情報提供装置10は、座標の比較を行う場合、座標T1を座標T3へと変換するアフィン変換により、座標T2が座標T4に一致するか否かを判定してもよい。
なお、情報提供装置10は、音声の検索を行う場合、特徴点となる再生位置から前後所定の領域に含まれる音声から局所特徴量を算出し、特徴点となる再生位置の座標関係から、座標関係の類似性を判定すればよい。すなわち、情報提供装置10は、クエリとなるコンテンツの局所的な範囲が有する特徴量と、検索対象となるコンテンツの局所的な範囲が有する特徴量とを比較する。そして、情報提供装置10は、局所的な範囲の出現位置や再生位置を座標とみなし、コンテンツ内における座標関係を比較する。
なお、情報提供装置10は、異種間の類似検索を行ってもよい。例えば、情報提供装置10は、クエリ文章と類似する対象音声の検索を行ってもよく、クエリ音声と類似する対象文章の検索を行ってもよい。すなわち、情報提供装置10は、局所的な特徴を示す多次元量を局所特徴量として設定することができるコンテンツであれば、任意のコンテンツについて、上述した検索処理を適用してよい。
〔2.情報提供装置の構成〕
以下、上記した検索処理を実現する情報提供装置10が有する機能構成の一例について説明する。なお、以下の説明では、クエリ画像の局所特徴量の特徴点の位置を変換情報により変換した変換位置と、対象画像の局所特徴量の特徴点の位置との比較結果に基づいて、クエリ画像と対象画像とが類似するか否かを判定する処理の一例について説明するが、実施形態は、これに限定されるものではない。例えば、以下の機能構成においては、クエリ画像を対象画像と読み替え、対象画像をクエリ画像と読み替えてもよい。すなわち、情報提供装置10は、対象画像の局所特徴量の特徴点の位置を変換情報により変換した変換位置と、クエリ画像の局所特徴量の特徴点の位置との比較結果に基づいて、クエリ画像と対象画像とが類似するか否かを判定してもよい。
図3は、実施形態に係る情報提供装置の構成例を示す図である。図3に示すように、情報提供装置10は、通信部20、記憶部30、および制御部40を有する。
通信部20は、例えば、NIC(Network Interface Card)等によって実現される。そして、通信部20は、ネットワークNと有線または無線で接続され、端末装置100との間で情報の送受信を行う。
記憶部30は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。また、記憶部30は、検索対象データベース31を記憶する。
検索対象データベース31には、検索対象となる対象情報が登録されている。例えば、図4は、実施形態に係る検索対象データベースに登録される情報の一例を示す図である。図4に示す例では、検索対象データベース31には、「検索対象ID(Identifier)」、「検索対象データ」、「特徴量ID」、「特徴量」、「座標情報」、「半径情報」、および「方向情報」といった情報が登録されている。
ここで、「検索対象ID」とは、検索対象となる対象情報を識別する識別子である。また、「検索対象データ」とは、対象情報のデータである。また、「特徴量ID」とは、対象情報から算出される局所特徴量を識別する識別子である。また、「特徴量」とは、局所特徴量である。また、「座標情報」とは、局所特徴量と対応する特徴点の座標である。なお、「座標情報」は、対象情報が音声である場合は、再生位置を示す情報であってもよく、対象情報が文章である場合は、特徴点となる単語の出現位置であってもよい。また、「半径情報」とは、局所特徴量を算出する際に用いた領域が特徴点を中心としてどれくらいの範囲であるかを示す。また、「方向情報」とは、局所特徴量を算出する際に用いた領域の方向である。
例えば、図4に示す例では、検索対象データベース31には、検索対象ID「T1」、検索対象データ「TD#1」、特徴量ID「P1」、特徴量「FP1」、座標情報「PC1」、半径情報「PR1」、および方向情報「PD1」が対応付けて登録されている。このような情報は、検索対象ID「T1」が示す検索対象T1のデータが「TD#1」である旨を示す。また、このような情報は、検索対象T1が、局所特徴量として、特徴量ID「P1」で示される局所特徴量を有する旨を示す。また、このような情報は、特徴量ID「P1」で示される局所特徴量の値が特徴量「FP1」であり、座標情報「PC1」が示す位置を中心として、半径情報「PR1」が示す円形の範囲内のうち、方向情報「PD1」が示す方向の情報(例えば、画素)に基づいて算出された特徴量である旨を示す。
なお、図4に示した各種の値は、概念的なものであり、実際には、検索対象データベース31には、各特徴量や座標等を示す数値が登録されるものとする。また、検索対象データベース31には、図4に示す情報以外にも、検索対象に関する任意の情報が登録されていてよい。
図3に戻り、説明を続ける。制御部40は、コントローラ(controller)であり、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)等のプロセッサによって、情報提供装置10内部の記憶装置に記憶されている各種プログラムがRAM等を作業領域として実行されることにより実現される。また、制御部40は、コントローラ(controller)であり、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現されてもよい。図3に示すように、制御部40は、特定部41、推定部42、抽出部43、判定部44、および提供部45を有する。
特定部41は、部分特徴量照合処理を実行する。例えば、特定部41は、複数の対象画像が有する局所特徴量のうち、クエリ画像が有する局所特徴量と最も類似する局所特徴量を、クエリ画像の局所特徴量と対応する画像対応特徴量として特定する。例えば、特定部41は、クエリ画像を受付けると、クエリ画像から局所特徴量の抽出を行う。そして、特定部41は、抽出したクエリ画像の局所特徴量ごとに、検索対象データベース31に登録された局所特徴量のうちクエリ画像の局所特徴量との類似度が最も高い局所特徴量を画像対応特徴量として特定する。
続いて、特定部41は、検索対象データベース31に登録された対象画像ごとに、画像対応特徴量の数を計数し、計数した画像対応特徴量の数が多い方から順に所定の数の対象画像を選択する。なお、特定部41は、画像対応特徴量の数が所定の閾値以上となる対象画像を選択してもよい。そして、特定部41は、選択した対象画像を候補画像として推定部42に通知する。
推定部42は、クエリ画像が有する複数の局所特徴量のうち対象画像が有する複数の局所特徴量のいずれかに類似する局所特徴量、すなわち、クエリ対応特徴量の特徴点の位置を、第2特徴量のうちクエリ対応特徴量に類似する局所特徴量、すなわち、画像対応特徴量の特徴点の位置へと変換する変換情報と、変換情報の確度とを対象画像ごとに推定する。
例えば、推定部42は、特定部41から候補画像の通知を受付ける。このような場合、推定部42は、候補画像ごとに変換情報と確度との推定を行う。例えば、推定部42は、処理対象となる候補画像を1つ選択し、選択した候補画像に含まれる画像対応特徴量を特定する。また、推定部42は、クエリ画像の局所特徴量のうち、処理対象となる候補画像の画像対応特徴量と対応するクエリ対応特徴量を特定する。そして、推定部42は、特定したクエリ対応特徴量の特徴点の位置を、特定した画像対応特徴量の特徴点の位置へと変換する変換情報を推定する。
例えば、推定部42は、クエリ対応特徴量とそのクエリ対応特徴量に対応する画像対応特徴量へとアフィン変換するためのパラメータをそれぞれ算出し、算出したパラメータの平均値を変換情報として採用してもよい。また、推定部42は、変換情報で各クエリ対応特徴量の特徴点の位置を変換した変換位置と、各画像対応特徴量の特徴点の位置との一致度の平均値を、変換情報の確度として採用してもよく、対応特徴量ごとのパラメータのバラつきに基づく確度を算出してもよい。
抽出部43は、推定された確度が所定の条件を満たす候補画像を処理対象となる対象画像として抽出する。例えば、抽出部43は、推定された変換情報の確度が高い方から順に候補画像順位づけし、確度の減少率が所定の閾値を超える順位を特定する。そして、抽出部43は、特定した順位よりも上位の候補画像を処理対象となる対応画像として抽出する。
判定部44は、クエリ画像の局所特徴量の特徴点の位置を変換情報により変換した変換位置と、対象画像の局所特徴量の特徴点の位置との比較結果に基づいて、クエリ画像と対象画像とが類似するか否かを判定する。また、判定部44は、複数の対象画像のうち、確度が所定の条件を満たす対象画像ごとに、変換位置と、その対象画像に含まれる局所特徴量の特徴点の位置との比較結果に基づいて、クエリ画像とその対象画像とが類似するか否かを判定する。例えば、判定部44は、抽出部43から処理対象となる対応画像の通知を受付ける。このような場合、判定部44は、通知された対応画像ごとに以下の処理を実行する。
まず、判定部44は、クエリ画像の局所特徴量のうち、処理対象となる対応画像の画像対応特徴量に対応するクエリ対応特徴量を特定する。続いて、判定部44は、クエリ画像からクエリ対応特徴量を含む特定領域を特定し、特定領域内に含まれる局所特徴量を特定する。そして、判定部44は、特定した局所特徴量の特徴点の位置を変換情報で変換した変換位置を算出する。
続いて、判定部44は、各変換位置と対応画像に含まれる各局所特徴量の特徴点の位置とを比較し、各変換位置から所定の範囲内に、対応画像に含まれるいずれかの特徴点が所在するか否かを判定する。そして、判定部44は、クエリ画像の局所特徴量のうち、変換位置から所定の範囲内に、対応画像のいずれかの特徴点が所在する局所特徴量を対象所在特徴量とする。
ここで、判定部44は、クエリ画像から抽出されたある局所特徴量について、変換位置から所定の範囲内に特徴点が存在し、かつ、その特徴点と対応する局所特徴量と、クエリ画像の局所特徴量とが類似する場合に、その局所特徴量が対象所在特徴量であると判定してもよい。また、判定部44は、クエリ画像から抽出されたある局所特徴量について、変換位置から所定の範囲内に特徴点が存在し、かつ、その特徴点と対応する局所特徴量を算出する際に用いられた範囲の広さと、クエリ画像の局所特徴量を算出する際の範囲の広さを変換情報で変換した範囲の広さとが類似する場合に、その局所特徴量が対象所在特徴量であると判定してもよい。
そして、判定部44は、対象所在特徴量の数が所定の条件を満たす場合は、クエリ画像と処理対象となる対象画像とが類似すると判定する。例えば、判定部44は、対象所在特徴量の数が所定の閾値を超えた場合に、クエリ画像と対象画像とが類似すると判定してもよい。また、判定部44は、クエリ画像の局所特徴量のうち対象所在特徴量の割合が所定の閾値を超える場合は、クエリ画像と対象画像とが類似すると判定してもよい。例えば、判定部44は、クエリ対応特徴量を含む特定領域内の局所特徴量のうち対象所在特徴量となる局所特徴量の割合が所定の閾値を超えた場合に、クエリ画像と対象画像とが類似すると判定してもよい。
なお、判定部44は、クエリ画像に含まれる全ての局所特徴量について、変換位置と対象画像の局所特徴量の特徴点の位置とを比較し、比較結果に基づいて、対象所在特徴量であるか否かを判定してもよい。そして、判定部44は、クエリ画像に含まれる全ての局所特徴量のうち、対象所在特徴量となる局所特徴量の割合に基づいて、クエリ画像と対象画像とが類似すると判定してもよい。また、判定部44は、クエリ画像から所定の条件に基づいて抽出される任意の領域について、同様の処理を実行してもよい。すなわち、判定部44は、クエリ画像の局所特徴量のうち、少なくとも一部の局所特徴量について、変換位置が対象画像の局所特徴量の特徴点と類似するか否かを判定すればよい。
また、判定部44は、対象画像の局所特徴量のうち特徴点の位置がいずれかの変換位置と類似する局所特徴量の割合が所定の閾値を超える場合は、クエリ画像と対象画像とが類似すると判定してもよい。すなわち、判定部44は、対象所在特徴量の数ではなく、対象画像における対応所在特徴量の数に基づいて、クエリ画像と対象画像とが類似するか否かを判定してもよい。例えば、判定部44は、対象画像における局所特徴量のうち対応所在特徴量の数の割合が所定の閾値を超える場合に、クエリ画像と対象画像とが類似すると判定してもよい。
また、判定部44は、クエリ画像における対象所在特徴量の割合と、対象画像における対応所在特徴量の割合とが所定の条件を満たした場合に、クエリ画像と対象画像とが類似すると判定してもよい。例えば、判定部44は、クエリ画像における対象所在特徴量の割合と、対象画像における対応所在特徴量の割合との差が所定の範囲内に収まり、かつ、各割合が所定の閾値を超える場合は、クエリ画像と対象画像とが類似すると判定してもよい。
また、判定部44は、クエリ画像における局所特徴量の数と、対象画像における局所特徴量の数との差が所定の範囲内に収まる場合にのみ、クエリ画像と対象画像とが類似すると判定してもよい。例えば、判定部44は、クエリ画像のうちクエリ対応特徴量を含む特定領域を特定するとともに、対象画像のうち特定領域を変換情報で変換した変換領域を特定する。そして、判定部44は、クエリ画像の局所特徴量のうち特定領域内の局所特徴量の数と、対象画像の局所特徴量のうち変換領域内の局所特徴量の数との差が所定の範囲内に収まる場合にのみ、クエリ画像と対象画像とが類似すると判定してもよい。
また、判定部44は、クエリ画像が有する局所特徴量ごとに、その局所特徴量の特徴点の位置を変換情報により変換した変換位置と対象画像の局所特徴量の特徴点の位置とが類似するか否かを判定する。そして、判定部44は、クエリ画像が有する局所特徴量のうち変換位置が対象画像の局所特徴量の特徴点の位置に類似すると判定された局所特徴量の割合が所定の閾値を下回った場合は、変換位置の比較を行っていない局所特徴量が存在していても、クエリ画像と対象画像とが類似しないと判定してもよい。
例えば、判定部44は、クエリ画像が有する局所特徴量を1つづつ選択し、選択を行う度に、選択した局所特徴量が対象所在特徴量であるか否かを判定する。そして、判定部44は、それまでに対象所在特徴量であると判定した局所特徴量の数を、それまでに選択した局所特徴量の数で除算した割合、すなわち、第1割合を算出する。そして、判定部44は、所定の数の局所特徴量を選択した際に、第1割合の値が所定の閾値を下回り続けた場合は、選択していない局所特徴量が存在していたとしても、クエリ画像と対象画像とが類似しないと判定してもよい。
提供部45は、クエリ画像と類似すると判定された対象画像の情報を利用者に提供する。例えば、提供部45は、判定部44によってクエリ画像と類似すると判定された対象画像を示す情報を、類似度に応じたランキング形式で並べた検索結果を生成し、生成した検索結果を端末装置100に提供する。
〔3.情報提供装置が実行する処理の流れの一例〕
続いて、図5を用いて、情報提供装置10が実行する処理の流れの一例を説明する。図5は、実施形態に係る情報提供装置が実行する表示処理の流れの一例を示すフローチャートである。
例えば、情報提供装置10は、クエリ画像を受付ける(ステップS101)。このような場合、情報提供装置10は、クエリ画像の局所特徴量を算出する(ステップS102)。そして、情報提供装置10は、クエリ画像の局所特徴量ごとに、各対象画像の局所特徴量のうち、クエリ画像の局所特徴量と最も類似する局所特徴量を対応特徴量として特定する(ステップS103)。
続いて、情報提供装置10は、対応特徴量の位置関係に基づいて、変換情報を推定する(ステップS104)。そして、情報提供装置10は、クエリ画像の局所特徴量の位置を変換情報で変換した位置に、変換画像の局所特徴量が所在する割合を算出する(ステップS105)。続いて、情報提供装置10は、算出した割合に基づいて、クエリ画像と類似する対象画像を検索し(ステップS106)、処理を終了する。
〔4.変形例〕
上記では、情報提供装置10による処理の一例について説明した。しかしながら、実施形態は、これに限定されるものではない。以下、検索処理や判定処理のバリエーションについて説明する。
〔4-1.特徴量の比較について〕
上述した例では、情報提供装置10は、クエリ画像の局所特徴量と、対象画像のクエリ特徴量とを比較した。ここで、情報提供装置10は、任意の情報が有する特徴量を局所特徴量としてもよい。例えば、情報提供装置10は、検索対象が画像である場合、特徴点の周囲の画素の彩度や明度の平均値等を特徴量としてもよく、検索対象が音声である場合、特徴点の周囲数秒の周囲の周波数特性を特徴量としてもよい。また、上述した処理以外にも、情報提供装置10は、任意の特徴量比較技術を併用してもよい。
〔4-2.その他〕
また、上記実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、逆に、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
また、上記してきた各実施形態は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
〔4-3.プログラム〕
また、上述した実施形態に係る情報提供装置10および端末装置100は、例えば図6に示すような構成のコンピュータ1000によって実現される。図6は、ハードウェア構成の一例を示す図である。コンピュータ1000は、出力装置1010、入力装置1020と接続され、演算装置1030、一次記憶装置1040、二次記憶装置1050、出力IF(Interface)1060、入力IF1070、ネットワークIF1080がバス1090により接続された形態を有する。
演算装置1030は、一次記憶装置1040や二次記憶装置1050に格納されたプログラムや入力装置1020から読み出したプログラム等に基づいて動作し、各種の処理を実行する。一次記憶装置1040は、RAM等、演算装置1030が各種の演算に用いるデータを一次的に記憶するメモリ装置である。また、二次記憶装置1050は、演算装置1030が各種の演算に用いるデータや、各種のデータベースが登録される記憶装置であり、ROM(Read Only Memory)、HDD(Hard Disk Drive)、フラッシュメモリ等により実現される。
出力IF1060は、モニタやプリンタといった各種の情報を出力する出力装置1010に対し、出力対象となる情報を送信するためのインタフェースであり、例えば、USB(Universal Serial Bus)やDVI(Digital Visual Interface)、HDMI(登録商標)(High Definition Multimedia Interface)といった規格のコネクタにより実現される。また、入力IF1070は、マウス、キーボード、およびスキャナ等といった各種の入力装置1020から情報を受信するためのインタフェースであり、例えば、USB等により実現される。
なお、入力装置1020は、例えば、CD(Compact Disc)、DVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等から情報を読み出す装置であってもよい。また、入力装置1020は、USBメモリ等の外付け記憶媒体であってもよい。
ネットワークIF1080は、ネットワークNを介して他の機器からデータを受信して演算装置1030へ送り、また、ネットワークNを介して演算装置1030が生成したデータを他の機器へ送信する。
演算装置1030は、出力IF1060や入力IF1070を介して、出力装置1010や入力装置1020の制御を行う。例えば、演算装置1030は、入力装置1020や二次記憶装置1050からプログラムを一次記憶装置1040上にロードし、ロードしたプログラムを実行する。
例えば、コンピュータ1000が情報提供装置10として機能する場合、コンピュータ1000の演算装置1030は、一次記憶装置1040上にロードされたプログラムを実行することにより、制御部40の機能を実現する。また、例えば、コンピュータ1000が端末装置100として機能する場合、コンピュータ1000の演算装置1030は、一次記憶装置1040上にロードされたプログラムを実行することにより、制御部40の機能を実現する。
〔5.効果〕
上述したように、情報提供装置10は、第1情報(例えば、クエリ情報)が有する複数の第1特徴量(例えば、クエリ情報の局所特徴量)のうち第2情報(例えば、対象画像)が有する複数の第2特徴量(例えば、対象画像の局所特徴量)のいずれかに類似する第1類似特徴量(例えば、クエリ対応特徴量)の特徴点の位置を、第2特徴量のうち第1類似特徴量に類似する第2類似特徴量(例えば、画像対応特徴量)の特徴点の位置へと変換する変換情報を推定する。そして、情報提供装置10は、第1特徴量の特徴点の位置を変換情報により変換した変換位置と、第2特徴量の特徴点の位置との比較結果に基づいて、第1情報と第2情報とが類似するか否かを判定する。このような処理を実行する結果、情報提供装置10は、処理負荷の上昇を抑えつつ、類似検索の精度を向上させることができる。
また、情報提供装置10は、変換位置が第2特徴量の特徴点の位置と類似する第1特徴量の数が所定の条件を満たす場合は、第1情報と第2情報とが類似すると判定する。例えば、情報提供装置10は、変換位置から所定の範囲内にいずれかの第2特徴量が含まれる第1特徴量の数が所定の条件を満たす場合は、第1情報と第2情報とが類似すると判定する。また、情報提供装置10は、変換位置が第2特徴量の特徴点の位置と類似する第1特徴量の数が所定の閾値を超える場合は、第1情報と第2情報とが類似すると判定する。
また、情報提供装置10は、第1特徴量のうち変換位置が第2特徴量の特徴点の位置と類似する第1特徴量の割合が所定の閾値を超える場合は、第1情報と第2情報とが類似すると判定する。また、情報提供装置10は、第2特徴量のうち特徴点の位置が第1特徴量の変換位置と類似する第2特徴量の割合が所定の閾値を超える場合は、第1情報と第2情報とが類似すると判定する。このため、情報提供装置10は、同じ特徴を有する被写体が含まれる画像を精度良く特定することができる。
また、情報提供装置10は、第1特徴量のうち変換位置が第2特徴量の特徴点の位置と類似する第1特徴量の割合と、第2特徴量のうち特徴点の位置が第1特徴量の変換位置と類似する第2特徴量の割合との比較結果に基づいて、第1情報と第2情報とが類似するか否かを判定する。このような処理の結果、情報提供装置10は、偶然同じ特徴を有しているが、撮影対象が異なる画像を類似対象から除外することができる。
また、情報提供装置10は、第1情報が有する複数の第1特徴量のうち一部の第1特徴量の特徴点の位置の変換位置と、第2特徴量の特徴点の位置との変換結果に基づいて、第1情報と第2情報とが類似するか否かを判定する。このため、情報提供装置10は、処理負荷の上昇を抑えることができる。
また、情報提供装置10は、複数の第2情報が有する第2特徴量のうち、第1情報が有する第1特徴量と最も類似する特徴量を、その第1特徴量と対応する第2類似特徴量(例えば、画像対応特徴量)として特定する。また、情報提供装置10は、第1情報が有する第1特徴量のうち処理対象となる第2情報に含まれる第2類似特徴量と対応する第1特徴量である第1類似特徴量(例えば、クエリ対応特徴量)の特徴点の位置を、その処理対象となる第2情報に含まれる第2類似特徴量の特徴点の位置へと変換する変換情報を、第2情報ごとに推定する。そして、情報提供装置10は、第1類似特徴量の特徴点の位置を変換情報で変換した変換位置と、第2類似特徴量の特徴点の位置との比較結果に基づいて、第1情報と第2情報とが類似するか否かを、第2情報ごとに判定する。このため、情報提供装置10は、部分特徴量照合処理の結果を用いて、類似検索の精度を向上させることができる。
また、情報提供装置10は、第1情報から第1類似特徴量を含む領域を特定し、特定した領域内に含まれる第1特徴量の特徴点の位置を変換情報で変換した変換位置と、第2特徴量の特徴点の位置との比較結果に基づいて、第1情報と第2情報とが類似するか否かを、第2情報ごとに判定する。このため、情報提供装置10は、各情報が有する特徴的な部分であって、特徴が類似する部分の比較結果に基づき、情報が類似するか否かを判定することができる。
また、情報提供装置10は、第1情報が有する第1特徴量ごとに、その第1特徴量の特徴点の位置を変換情報により変換した変換位置と第2特徴量の特徴点の位置とが類似するか否かを判定し、第1情報が有する第1特徴量のうち変換位置が第2特徴量の特徴点の位置に類似すると判定された第1特徴量の割合が所定の閾値を下回った場合は、変換位置を第2特徴量の特徴点の位置と比較していない第1特徴量が存在していても、第1情報と第2情報とが類似しないと判定する。このため、情報提供装置10は、処理負荷をさらに低下させることができる。
また、情報提供装置10は、さらに、第1情報のうち第1特徴量の算出に用いられた範囲を変換情報で変換した範囲の広さと、第2情報のうち第2特徴量の算出に用いられた範囲の広さとの比較結果に基づいて、第1情報と第2情報とが類似するか否かを判定する。また、情報提供装置10は、第1特徴量と第2特徴量との比較結果に基づいて、第1情報と第2情報とが類似するか否かを判定する。このため、情報提供装置10は、各情報が類似するか否かの判定精度をさらに向上させることができる。
また、情報提供装置10は、第1類似特徴量の特徴点の位置を第2類似特徴量の特徴点の位置へと変換するアフィン変換のパラメータを変換情報として推定する。また、情報提供装置10は、変換情報と、その変換情報が正しい確度とを第2情報ごとに推定する。そして、情報提供装置10は、複数の第2情報のうち、確度が所定の条件を満たす第2情報を特定し、特定した第2情報ごとに、変換位置と、その第2情報に含まれる第2特徴量の特徴点の位置との比較結果に基づいて、第1情報とその第2情報とが類似するか否かを判定する。このため、情報提供装置10は、比較対象とする情報をあらかじめ削減することができるので、処理負荷をさらに低下させることができる。
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
また、上記してきた「部(section、module、unit)」は、「手段」や「回路」などに読み替えることができる。例えば、推定部は、推定手段や推定回路に読み替えることができる。
10 情報提供装置
20 通信部
30 記憶部
31 検索対象データベース
40 制御部
41 特定部
42 推定部
43 抽出部
44 判定部
45 提供部
100 端末装置

Claims (15)

  1. 第1情報が有する複数の第1特徴量のうち第2情報が有する複数の第2特徴量のいずれかに類似する第1類似特徴量の特徴点の位置を、前記第2特徴量のうち前記第1類似特徴量に類似する第2類似特徴量の特徴点の位置へと変換する変換情報を、第2情報ごとに推定する推定部と、
    前記第1特徴量の特徴点の位置を前記変換情報により変換した変換位置と、前記第2特徴量の特徴点の位置との比較結果に基づいて、前記第1情報と前記第2情報とが類似するか否かを判定する判定部と
    を有し、
    前記推定部は、前記変換情報と、当該変換情報が正しい確度とを第2情報ごとに推定し
    前記判定部は、複数の第2情報のうち、前記確度が所定の条件を満たす第2情報を特定し、特定した第2情報ごとに、前記変換位置と、当該第2情報に含まれる第2特徴量の特徴点の位置との比較結果に基づいて、前記第1情報と当該第2情報とが類似するか否かを判定する
    ことを特徴とする判定装置。
  2. 前記判定部は、前記変換位置が前記第2特徴量の特徴点の位置と類似する第1特徴量の数が所定の条件を満たす場合は、前記第1情報と前記第2情報とが類似すると判定する
    ことを特徴とする請求項1に記載の判定装置。
  3. 前記判定部は、前記変換位置から所定の範囲内にいずれかの前記第2特徴量が含まれる第1特徴量の数が所定の条件を満たす場合は、前記第1情報と前記第2情報とが類似すると判定する
    ことを特徴とする請求項2に記載の判定装置。
  4. 前記判定部は、前記変換位置が前記第2特徴量の特徴点の位置と類似する第1特徴量の数が所定の閾値を超える場合は、前記第1情報と前記第2情報とが類似すると判定する
    ことを特徴とする請求項1~3のうちいずれか1つに記載の判定装置。
  5. 前記判定部は、前記第1特徴量のうち前記変換位置が前記第2特徴量の特徴点の位置と類似する第1特徴量の割合が所定の閾値を超える場合は、前記第1情報と前記第2情報とが類似すると判定する
    ことを特徴とする請求項1~4のうちいずれか1つに記載の判定装置。
  6. 前記判定部は、前記第2特徴量のうち特徴点の位置が前記第1特徴量の変換位置と類似する第2特徴量の割合が所定の閾値を超える場合は、前記第1情報と前記第2情報とが類似すると判定する
    ことを特徴とする請求項1~5のうちいずれか1つに記載の判定装置。
  7. 前記判定部は、前記第1特徴量のうち前記変換位置が前記第2特徴量の特徴点の位置と類似する第1特徴量の割合と、前記第2特徴量のうち特徴点の位置が前記第1特徴量の変換位置と類似する第2特徴量の割合との比較結果に基づいて、前記第1情報と前記第2情報とが類似するか否かを判定する
    ことを特徴とする請求項1~6のうちいずれか1つに記載の判定装置。
  8. 前記判定部は、前記第1情報が有する複数の第1特徴量のうち一部の第1特徴量の特徴点の位置の変換位置と、前記第2特徴量の特徴点の位置との比較結果に基づいて、前記第1情報と前記第2情報とが類似するか否かを判定する
    ことを特徴とする請求項1~7のうちいずれか1つに記載の判定装置。
  9. 複数の第2情報が有する第2特徴量のうち、前記第1情報が有する第1特徴量と最も類似する特徴量を、当該第1特徴量と対応する第2類似特徴量として特定する特定部
    を有し、
    前記推定部は、前記第1情報が有する第1特徴量のうち、第2情報ごとに計数された第2類似特徴量の数に基づいて選択された、処理対象となる第2情報に含まれる第2類似特徴量と対応する第1特徴量である第1類似特徴量の特徴点の位置を、当該処理対象となる第2情報に含まれる第2類似特徴量の特徴点の位置へと変換する変換情報を、前記第2情報ごとに推定し、
    前記判定部は、前記第1類似特徴量を含む領域内に含まれる第1特徴量の特徴点の位置を前記変換情報で変換した変換位置と、前記第2類似特徴量の特徴点の位置との比較結果に基づいて、前記第1情報と前記第2情報とが類似するか否かを、前記第2情報ごとに判定する
    ことを特徴とする請求項1~8のうちいずれか1つに記載の判定装置。
  10. 前記判定部は、前記第1情報から前記第1類似特徴量を含む領域を特定し、特定した領域内に含まれる第1特徴量の特徴点の位置を前記変換情報で変換した変換位置と、前記第2特徴量の特徴点の位置との比較結果に基づいて、前記第1情報と前記第2情報とが類似するか否かを、前記第2情報ごとに判定する
    ことを特徴とする請求項9に記載の判定装置。
  11. 前記判定部は、さらに、前記第1情報のうち前記第1特徴量の算出に用いられた範囲を前記変換情報で変換した範囲の広さと、前記第2情報のうち前記第2特徴量の算出に用いられた範囲の広さとの比較結果に基づいて、前記第1情報と前記第2情報とが類似するか否かを判定する
    ことを特徴とする請求項1~10のうちいずれか1つに記載の判定装置。
  12. 前記判定部は、前記第1特徴量と前記第2特徴量との比較結果に基づいて、前記第1情報と前記第2情報とが類似するか否かを判定する
    ことを特徴とする請求項1~11のうちいずれか1つに記載の判定装置。
  13. 前記推定部は、前記第1類似特徴量の特徴点の位置を前記第2類似特徴量の特徴点の位置へと変換するアフィン変換のパラメータを前記変換情報として推定する
    ことを特徴とする請求項1~12のうちいずれか1つに記載の判定装置。
  14. 判定装置が実行する判定方法であって、
    第1情報が有する複数の第1特徴量のうち第2情報が有する複数の第2特徴量のいずれかに類似する第1類似特徴量の特徴点の位置を、前記第2特徴量のうち前記第1類似特徴量に類似する第2類似特徴量の特徴点の位置へと変換する変換情報を、第2情報ごとに推定する推定工程と、
    前記第1特徴量の特徴点の位置を前記変換情報により変換した変換位置と、前記第2特徴量の特徴点の位置との比較結果に基づいて、前記第1情報と前記第2情報とが類似するか否かを判定する判定工程と
    を含み、
    前記推定工程は、前記変換情報と、当該変換情報が正しい確度とを第2情報ごとに推定し
    前記判定工程は、複数の第2情報のうち、前記確度が所定の条件を満たす第2情報を特定し、特定した第2情報ごとに、前記変換位置と、当該第2情報に含まれる第2特徴量の特徴点の位置との比較結果に基づいて、前記第1情報と当該第2情報とが類似するか否かを判定する
    ことを特徴とする判定方法。
  15. 第1情報が有する複数の第1特徴量のうち第2情報が有する複数の第2特徴量のいずれかに類似する第1類似特徴量の特徴点の位置を、前記第2特徴量のうち前記第1類似特徴量に類似する第2類似特徴量の特徴点の位置へと変換する変換情報を、第2情報ごとに推定する推定手順と、
    前記第1特徴量の特徴点の位置を前記変換情報により変換した変換位置と、前記第2特徴量の特徴点の位置との比較結果に基づいて、前記第1情報と前記第2情報とが類似するか否かを判定する判定手順と
    をコンピュータに実行させ
    前記推定手順は、前記変換情報と、当該変換情報が正しい確度とを第2情報ごとに推定し
    前記判定手順は、複数の第2情報のうち、前記確度が所定の条件を満たす第2情報を特定し、特定した第2情報ごとに、前記変換位置と、当該第2情報に含まれる第2特徴量の特徴点の位置との比較結果に基づいて、前記第1情報と当該第2情報とが類似するか否かを判定する
    ことを特徴とする判定プログラム。
JP2018174125A 2018-09-18 2018-09-18 判定装置、判定方法および判定プログラム Active JP7044677B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018174125A JP7044677B2 (ja) 2018-09-18 2018-09-18 判定装置、判定方法および判定プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018174125A JP7044677B2 (ja) 2018-09-18 2018-09-18 判定装置、判定方法および判定プログラム

Publications (2)

Publication Number Publication Date
JP2020046872A JP2020046872A (ja) 2020-03-26
JP7044677B2 true JP7044677B2 (ja) 2022-03-30

Family

ID=69901529

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018174125A Active JP7044677B2 (ja) 2018-09-18 2018-09-18 判定装置、判定方法および判定プログラム

Country Status (1)

Country Link
JP (1) JP7044677B2 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014157443A (ja) 2013-02-15 2014-08-28 Yahoo Japan Corp 画像照合装置及び画像照合方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014157443A (ja) 2013-02-15 2014-08-28 Yahoo Japan Corp 画像照合装置及び画像照合方法

Also Published As

Publication number Publication date
JP2020046872A (ja) 2020-03-26

Similar Documents

Publication Publication Date Title
US10599709B2 (en) Object recognition device, object recognition method, and program for recognizing an object in an image based on tag information
US8560517B2 (en) Object retrieval using visual query context
KR100353798B1 (ko) 영상 객체 모양 정보 추출 방법 및 그를 이용한 내용기반 이미지 검색 시스템 및 그 방법
CN104994426B (zh) 节目视频识别方法及系统
KR102206184B1 (ko) 동영상 내 객체 관련 정보 검색 방법 및 동영상 재생 장치
US9606975B2 (en) Apparatus and method for automatically generating visual annotation based on visual language
US20170243077A1 (en) Image processing apparatus and non-transitory computer readable medium
US20140241592A1 (en) Systems and Methods for Automatic Image Editing
JP2013045122A (ja) 画像検索装置、画像検索方法、およびプログラム
JP2017219984A (ja) 画像検索システム、画像辞書生成システム、画像処理システム及びプログラム
CN112954455B (zh) 一种字幕跟踪方法、装置及电子设备
JP6997656B2 (ja) 検索装置、検索方法および検索プログラム
JP7044677B2 (ja) 判定装置、判定方法および判定プログラム
US9224069B2 (en) Program, method and apparatus for accumulating images that have associated text information
JP6705763B2 (ja) 生成装置、生成方法および生成プログラム
JP7091055B2 (ja) 検索装置、検索方法および検索プログラム
JP2014142783A (ja) 情報処理装置及びプログラム
CN110019874B (zh) 索引文件的生成方法、装置及系统
JP7088665B2 (ja) 検索装置、検索方法および検索プログラム
US10360471B2 (en) Image retrieving device, image retrieving method, and recording medium
JP2010250634A (ja) 画像サーバー、画像検索システム、画像検索方法およびインデックス作成方法
JP6974222B2 (ja) 検索装置、検索方法および検索プログラム
US20160162752A1 (en) Retrieval apparatus, retrieval method, and computer program product
JP2012226429A (ja) 画像検索および認識システム
JP6756648B2 (ja) 生成装置、生成方法および生成プログラム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20191101

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20191108

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200917

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210820

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211105

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220222

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220317

R150 Certificate of patent or registration of utility model

Ref document number: 7044677

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350