JP2015007919A - 異なる視点の画像間で高精度な幾何検証を実現するプログラム、装置及び方法 - Google Patents
異なる視点の画像間で高精度な幾何検証を実現するプログラム、装置及び方法 Download PDFInfo
- Publication number
- JP2015007919A JP2015007919A JP2013133127A JP2013133127A JP2015007919A JP 2015007919 A JP2015007919 A JP 2015007919A JP 2013133127 A JP2013133127 A JP 2013133127A JP 2013133127 A JP2013133127 A JP 2013133127A JP 2015007919 A JP2015007919 A JP 2015007919A
- Authority
- JP
- Japan
- Prior art keywords
- point
- feature point
- reference image
- query image
- homography matrix
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 27
- 238000007689 inspection Methods 0.000 title abstract 2
- 239000011159 matrix material Substances 0.000 claims abstract description 72
- 238000004364 calculation method Methods 0.000 claims description 25
- 238000000605 extraction Methods 0.000 claims description 9
- 239000013598 vector Substances 0.000 claims description 9
- 238000012545 processing Methods 0.000 claims description 7
- 238000012795 verification Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 4
- 238000009825 accumulation Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Images
Landscapes
- Image Analysis (AREA)
Abstract
【課題】リファレンス画像とクエリ画像とが異なる視点から撮影された場合に、高精度な幾何検証を実現するプログラム、装置及び方法を提供する。
【解決手段】クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合から、点対応の組を任意に複数選択する第1のステップと、選択された複数の点対応の組を用いて、リファレンス画像をクエリ画像系へ射影するHomography行列Hを算出する第2のステップと、Homography行列Hを用いてリファレンス画像の特徴点pを射影することによって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|が、所定角度以下であるか否かを判定する第3のステップとを有し、真と判定された点対応の組の数が、所定数以上となるまで、第1のステップから第3のステップを繰り返すように実行するHomography行列判定手段としてコンピュータを機能させる。
【選択図】図1
【解決手段】クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合から、点対応の組を任意に複数選択する第1のステップと、選択された複数の点対応の組を用いて、リファレンス画像をクエリ画像系へ射影するHomography行列Hを算出する第2のステップと、Homography行列Hを用いてリファレンス画像の特徴点pを射影することによって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|が、所定角度以下であるか否かを判定する第3のステップとを有し、真と判定された点対応の組の数が、所定数以上となるまで、第1のステップから第3のステップを繰り返すように実行するHomography行列判定手段としてコンピュータを機能させる。
【選択図】図1
Description
本発明は、局所特徴を用いて画像間の類似度を算出する技術に関する。特に、特徴点集合で表されるリファレンス画像(検索対象の画像)の集合から、同じく特徴点集合で表されるクエリ画像(検索キーとなる画像)に類似したリファレンス画像を高精度に検索する技術に関する。
近年、局所特徴点(特徴ベクトル)に基づいた画像認識や検索技術が注目されている。画像認識では、画像から抽出した様々な特徴量を利用する方法が一般的であるが、高精度な認識を実現するために、撮影条件による物体の見え方の変化(大きさ、方向、明るさ等)に対して、ロバストな特徴量抽出技術が用いられる。例えば、SIFT(Scale-Invariant Feature Transform)やSURF(Speeded Up Robust Features)、ORB(Oriented FAST and Rotated BRIEF)のようなアルゴリズムが、回転やスケールの変化にロバストであって、広く利用されている。
局所特徴量を用いた類似度画像検索には、特徴ベースマッチング(Feature-Based Matching)と称される技術が用いられる。これは各画像から特徴点や特徴領域を抽出し、その周囲の領域から特徴量を算出し、その特徴量を比較することで画像間のマッチングを実行する。
従来、クエリ画像と保存画像から抽出した特徴点を対応付け、その対応付けの確からしさを示すスコアを投票し、クエリ画像とマッチングする保存画像を求める技術が開示されている(例えば特許文献1参照)。
ここで、認識精度を高めるために、幾何検証の処理を実行することも好ましい。例えば、リファレンス画像とクエリ画像と間のHomography行列を推定し、そのHomography行列によって定義される拘束条件を満たす対応組(inlier)の数をスコアとして利用する技術がある(例えば非特許文献1参照)。Homography行列の推定には、一般的に、2枚の画像間がアフィン変換で表現されると仮定して、RANSAC(RANdom SAmple Consensus)等のロバスト推定技術が用いられる。
J. Philbin, O. Chum, M. Isard, J. Sivic, and A. Zisserman,"Object Retrieval with Large Vocabularies and Fast Spatial Matching",in Proc of CVPR, 2007.
しかしながら、前述した従来技術によれば、リファレンス画像とクエリ画像とが異なる視点から撮影されたものである場合、Homography行列による幾何検証の処理が不十分であるために、誤った対応組をinlierと判定してしまうという問題があった。
そこで、本発明は、リファレンス画像とクエリ画像とが異なる視点から撮影された場合に、高精度な幾何検証を実現するプログラム、装置及び方法を提供することを目的とする。
本発明によれば、局所特徴点集合で表されるクエリ画像とリファレンス画像との間の類似度をHomography行列Hに基づいて算出するべく、装置に搭載されたコンピュータを機能させるプログラムであって、
クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合から、点対応の組を任意に複数選択する第1のステップと、
選択された複数の点対応の組を用いて、リファレンス画像をクエリ画像系へ射影するHomography行列Hを算出する第2のステップと、
Homography行列Hを用いてリファレンス画像の特徴点pを、クエリ座標系へ射影する第3のステップと、
リファレンス画像の特徴点pの射影によって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|を算出する第4のステップと
を有し、
角度誤差|θH−θ'|が所定角度以下となる点対応の組の数が、所定数以上となるまで、第1のステップから第4のステップまでを繰り返す
ように実行するHomography行列判定手段としてコンピュータを機能させることを特徴とする。
クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合から、点対応の組を任意に複数選択する第1のステップと、
選択された複数の点対応の組を用いて、リファレンス画像をクエリ画像系へ射影するHomography行列Hを算出する第2のステップと、
Homography行列Hを用いてリファレンス画像の特徴点pを、クエリ座標系へ射影する第3のステップと、
リファレンス画像の特徴点pの射影によって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|を算出する第4のステップと
を有し、
角度誤差|θH−θ'|が所定角度以下となる点対応の組の数が、所定数以上となるまで、第1のステップから第4のステップまでを繰り返す
ように実行するHomography行列判定手段としてコンピュータを機能させることを特徴とする。
本発明のプログラムにおける他の実施形態によれば、
Homography行列判定手段の第4のステップについて、
リファレンス画像の特徴点pと、当該特徴点pから局所特徴の方向θへ所定長だけ離れた点aとをクエリ画像系へ射影し、リファレンス画像からクエリ画像系へ射影された特徴点pから点aへの方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'とから、角度誤差|θH−θ'|が算出される
ようにコンピュータを機能させることも好ましい。
Homography行列判定手段の第4のステップについて、
リファレンス画像の特徴点pと、当該特徴点pから局所特徴の方向θへ所定長だけ離れた点aとをクエリ画像系へ射影し、リファレンス画像からクエリ画像系へ射影された特徴点pから点aへの方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'とから、角度誤差|θH−θ'|が算出される
ようにコンピュータを機能させることも好ましい。
本発明のプログラムにおける他の実施形態によれば、
Homography行列Hは、3行×3列(h11〜h33)であり、
リファレンス画像の特徴点p=(x,y,1)
クエリ画像の特徴点 p'=(x',y',1) (ベクトルの第3成分s=1)
点a=(x+cosθ,y+sinθ,1)
点aについてクエリ画像系への射影 a'=s1・H・a
点pについてクエリ画像系への射影 p'=s2・H・p
(X,Y,0)=s1・H・a−s2・H・p
θH=tan-1(Y/X)
によって算出するようにコンピュータを機能させることも好ましい。
Homography行列Hは、3行×3列(h11〜h33)であり、
リファレンス画像の特徴点p=(x,y,1)
クエリ画像の特徴点 p'=(x',y',1) (ベクトルの第3成分s=1)
点a=(x+cosθ,y+sinθ,1)
点aについてクエリ画像系への射影 a'=s1・H・a
点pについてクエリ画像系への射影 p'=s2・H・p
(X,Y,0)=s1・H・a−s2・H・p
θH=tan-1(Y/X)
によって算出するようにコンピュータを機能させることも好ましい。
本発明のプログラムにおける他の実施形態によれば、
Homography行列判定手段によって出力されたHomography行列を用いて、クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合における全ての点対応の組について、
リファレンス画像の特徴点pを射影することによって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|が、所定角度以下である
ものを近傍点対応(inliner)と判定する全特徴点判定手段としてコンピュータを更に機能させることも好ましい。
Homography行列判定手段によって出力されたHomography行列を用いて、クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合における全ての点対応の組について、
リファレンス画像の特徴点pを射影することによって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|が、所定角度以下である
ものを近傍点対応(inliner)と判定する全特徴点判定手段としてコンピュータを更に機能させることも好ましい。
本発明のプログラムにおける他の実施形態によれば、
Homography行列判定手段によって出力されたHomography行列を用いて、クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合における全ての点対応の組について、
リファレンス画像の特徴点pをクエリ画像系に射影した点と、クエリ画像の特徴点p'との距離誤差が、所定閾値以内である
ものを近傍点対応(inliner)と判定する全特徴点判定手段としてコンピュータを更に機能させることも好ましい。
Homography行列判定手段によって出力されたHomography行列を用いて、クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合における全ての点対応の組について、
リファレンス画像の特徴点pをクエリ画像系に射影した点と、クエリ画像の特徴点p'との距離誤差が、所定閾値以内である
ものを近傍点対応(inliner)と判定する全特徴点判定手段としてコンピュータを更に機能させることも好ましい。
本発明のプログラムにおける他の実施形態によれば、
Homography行列判定手段によって出力されたHomography行列を用いて、クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合における全ての点対応の組について、
リファレンス画像の特徴点pを射影することによって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|が、所定角度以下であって、且つ、
リファレンス画像の特徴点pをクエリ画像系に射影して点と、クエリ画像の特徴点p'との距離誤差が、所定閾値以内である
ものを近傍点対応(inliner)と判定する全特徴点判定手段としてコンピュータを更に機能させることも好ましい。
Homography行列判定手段によって出力されたHomography行列を用いて、クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合における全ての点対応の組について、
リファレンス画像の特徴点pを射影することによって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|が、所定角度以下であって、且つ、
リファレンス画像の特徴点pをクエリ画像系に射影して点と、クエリ画像の特徴点p'との距離誤差が、所定閾値以内である
ものを近傍点対応(inliner)と判定する全特徴点判定手段としてコンピュータを更に機能させることも好ましい。
本発明のプログラムにおける他の実施形態によれば、
全特徴点判定手段によって判定されたinlierの数を、類似度とする類似度算出手段としてコンピュータを更に機能させることも好ましい。
全特徴点判定手段によって判定されたinlierの数を、類似度とする類似度算出手段としてコンピュータを更に機能させることも好ましい。
本発明のプログラムにおける他の実施形態によれば、
類似度算出手段は、Homography行列判定手段及び全特徴点判定手段の処理を複数回繰り返すように制御すると共に、inlierの数が最大となる点対応の組を導出し、その際のinlierの数を類似度とする
ようにコンピュータを機能させることも好ましい。
類似度算出手段は、Homography行列判定手段及び全特徴点判定手段の処理を複数回繰り返すように制御すると共に、inlierの数が最大となる点対応の組を導出し、その際のinlierの数を類似度とする
ようにコンピュータを機能させることも好ましい。
本発明のプログラムにおける他の実施形態によれば、
クエリ画像及びリファレンス画像から局所特徴点の特徴点集合を抽出する局所特徴点抽出手段と、
クエリ画像から抽出された各特徴点に対し、最も類似するリファレンス画像の特徴点を対応付け組集合を導出するマッチング手段と
を更に有し、マッチング手段によって導出された組集合は、Homography行列判定手段及び全特徴点判定手段へ出力される
ようにコンピュータを機能させることも好ましい。
クエリ画像及びリファレンス画像から局所特徴点の特徴点集合を抽出する局所特徴点抽出手段と、
クエリ画像から抽出された各特徴点に対し、最も類似するリファレンス画像の特徴点を対応付け組集合を導出するマッチング手段と
を更に有し、マッチング手段によって導出された組集合は、Homography行列判定手段及び全特徴点判定手段へ出力される
ようにコンピュータを機能させることも好ましい。
本発明によれば、局所特徴点集合で表されるクエリ画像とリファレンス画像との間の類似度をHomography行列Hに基づいて算出する装置であって、
クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合から、点対応の組を任意に複数選択する第1のステップと、
選択された複数の点対応の組を用いて、リファレンス画像をクエリ画像系へ射影するHomography行列Hを算出する第2のステップと、
Homography行列Hを用いてリファレンス画像の特徴点pを、クエリ座標系へ射影する第3のステップと、
リファレンス画像の特徴点pの射影によって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|を算出する第4のステップと
を有し、
角度誤差|θH−θ'|が所定角度以下となる点対応の組の数が、所定数以上となるまで、第1のステップから第4のステップまでを繰り返す
ように実行するHomography行列判定手段を有することを特徴とする。
クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合から、点対応の組を任意に複数選択する第1のステップと、
選択された複数の点対応の組を用いて、リファレンス画像をクエリ画像系へ射影するHomography行列Hを算出する第2のステップと、
Homography行列Hを用いてリファレンス画像の特徴点pを、クエリ座標系へ射影する第3のステップと、
リファレンス画像の特徴点pの射影によって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|を算出する第4のステップと
を有し、
角度誤差|θH−θ'|が所定角度以下となる点対応の組の数が、所定数以上となるまで、第1のステップから第4のステップまでを繰り返す
ように実行するHomography行列判定手段を有することを特徴とする。
本発明によれば、装置を用いて、局所特徴点集合で表されるクエリ画像とリファレンス画像との間の類似度をHomography行列Hに基づいて算出する方法であって、
クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合から、点対応の組を任意に複数選択する第1のステップと、
選択された複数の点対応の組を用いて、リファレンス画像をクエリ画像系へ射影するHomography行列Hを算出する第2のステップと、
Homography行列Hを用いてリファレンス画像の特徴点pを、クエリ座標系へ射影する第3のステップと、
リファレンス画像の特徴点pの射影によって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|を算出する第4のステップと
を有し、
角度誤差|θH−θ'|が所定角度以下となる点対応の組の数が、所定数以上となるまで、第1のステップから第4のステップまでを繰り返す
ことを特徴とする。
クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合から、点対応の組を任意に複数選択する第1のステップと、
選択された複数の点対応の組を用いて、リファレンス画像をクエリ画像系へ射影するHomography行列Hを算出する第2のステップと、
Homography行列Hを用いてリファレンス画像の特徴点pを、クエリ座標系へ射影する第3のステップと、
リファレンス画像の特徴点pの射影によって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|を算出する第4のステップと
を有し、
角度誤差|θH−θ'|が所定角度以下となる点対応の組の数が、所定数以上となるまで、第1のステップから第4のステップまでを繰り返す
ことを特徴とする。
本発明のプログラム、装置及び方法によれば、リファレンス画像とクエリ画像とが異なる視点から撮影された場合に、高精度な幾何検証を実現することができる。
以下では、本発明の実施の形態について、図面を用いて詳細に説明する。
本発明によれば、以下のように2つの実施の形態に区分できる。
(1)類似度算出機能:局所特徴点集合で表されるクエリ画像とリファレンス画像との間における、単一の静止画像同士の類似度を算出する。
(2)検索装置:類似度算出機能を用いて、大量のリファレンス画像の中から、クエリ画像に写る1つ以上のリファレンス画像を検索する。
尚、以下では、本発明を、類似度算出装置として説明する。
(1)類似度算出機能:局所特徴点集合で表されるクエリ画像とリファレンス画像との間における、単一の静止画像同士の類似度を算出する。
(2)検索装置:類似度算出機能を用いて、大量のリファレンス画像の中から、クエリ画像に写る1つ以上のリファレンス画像を検索する。
尚、以下では、本発明を、類似度算出装置として説明する。
図1は、本発明における類似度算出装置の機能構成図である。
図1によれば、類似度算出装置1は、局所特徴点集合で表されるクエリ画像とリファレンス画像とを入力し、それら画像間の類似度をHomography行列Hに基づいて算出する。類似度算出装置は1は、局所特徴点抽出部11と、マッチング部12と、Homography行列判定部13と、類似度算出部15と、リファレンス特徴点蓄積部16とを有する。これら機能構成部は、類似度算出装置に搭載されたコンピュータを機能させるプログラムを実行することによって実現できる。
図2は、本発明におけるフローチャートである。図1における各機能構成の処理の流れは、図2のような方法としても理解できる。図3は、リファレンス画像とクエリ画像との間における特徴点対応の組を表す説明図である。図4及び図5は、本発明における画像間の処理を表す説明図である。以下では、図1の類似度算出装置1の機能構成の説明の中で、図2〜図5を参照する。
[局所特徴点抽出部11]
局所特徴点抽出部11は、リファレンス画像及びクエリ画像を入力する。ここで、リファレンス画像とクエリ画像とは、異なる視点となる場合が多い(図3(a)参照)。リファレンス画像は、対象物が正面から撮影された画像である場合が多いのに対し、クエリ画像は、撮影者の状況によって様々な視点から撮影された画像である場合が多い。従って、リファレンス画像とクエリ画像との間では、高精度な幾何検証を実現する必要がある。
局所特徴点抽出部11は、リファレンス画像及びクエリ画像を入力する。ここで、リファレンス画像とクエリ画像とは、異なる視点となる場合が多い(図3(a)参照)。リファレンス画像は、対象物が正面から撮影された画像である場合が多いのに対し、クエリ画像は、撮影者の状況によって様々な視点から撮影された画像である場合が多い。従って、リファレンス画像とクエリ画像との間では、高精度な幾何検証を実現する必要がある。
局所特徴点抽出部11は、クエリ画像及びリファレンス画像それぞれから、局所特徴点の特徴点集合を抽出する(図2のS11参照)。
局所特徴点の抽出アルゴリズムとしては、例えばSIFTやSURF、ORBが用いられる。これらの局所特徴点は、「座標p=(x,y)」「方向θ」「特徴量ベクトルf」によって記述される(図3(b)参照)。尚、クエリ画像の局所特徴点と、リファレンス画像の局所特徴点とは、その特徴ベクトルについて同じ次元数である。
局所特徴点の抽出アルゴリズムとしては、例えばSIFTやSURF、ORBが用いられる。これらの局所特徴点は、「座標p=(x,y)」「方向θ」「特徴量ベクトルf」によって記述される(図3(b)参照)。尚、クエリ画像の局所特徴点と、リファレンス画像の局所特徴点とは、その特徴ベクトルについて同じ次元数である。
SIFTの場合、1枚の画像からは128次元の特徴点集合が抽出される。SIFTとは、スケールスペースを用いて特徴的な局所領域を解析し、そのスケール変化及び回転に不変となる特徴ベクトルを記述する技術である。
SURFの場合、SIFTよりも高速処理が可能であって、1枚の画像から64次元の特徴点集合が抽出される。
ORBの場合、バイナリコードによる特徴記述としてBRIEF(Binary Robust Independent Elementary Features)を用いて、1つのコンテンツから256ビットのバイナリ特徴ベクトルの集合が抽出される。特に、ORBによれば、SIFTやSURFと比較して、同等以上の精度を保持すると共に、数百倍の高速化を実現することができる。
SURFの場合、SIFTよりも高速処理が可能であって、1枚の画像から64次元の特徴点集合が抽出される。
ORBの場合、バイナリコードによる特徴記述としてBRIEF(Binary Robust Independent Elementary Features)を用いて、1つのコンテンツから256ビットのバイナリ特徴ベクトルの集合が抽出される。特に、ORBによれば、SIFTやSURFと比較して、同等以上の精度を保持すると共に、数百倍の高速化を実現することができる。
抽出されたリファレンス画像の特徴点集合とクエリ画像の特徴点集合とは、マッチング部12へ出力される。ここでは、類似度算出装置として説明しているが、本発明を検索装置に適用した場合、リファレンス画像の特徴点集合は、リファレンス特徴点蓄積部16へ出力される。
本発明を検索装置に適用した場合、リファレンス特徴点蓄積部16は、大量のリファレンス画像における局所特徴点の特徴点集合を蓄積する。リファレンス画像には、同一の物体又は同一カテゴリに属する少なくとも1つのインスタンス(対象物、マーカ)が写っている。そして、検索装置として、検索キーとなる「クエリ画像」を入力し、そのクエリ画像に写る1枚以上のリファレンス画像を検索する。
[マッチング部12]
マッチング部12は、リファレンス画像の特徴点pとクエリ画像の特徴点p'とをマッチングさせる(図2のS12参照)。具体的には、リファレンス画像の特徴点それぞれについて、クエリ画像の中で最も類似する特徴点とを対応付ける(図3(c)参照)。これによって、特徴点の点対応の集合が生成される。
ここで、クエリ画像の1つの特徴点に、リファレンス画像の複数の特徴点が対応付けられることがある。この場合、クエリ特徴点から見て最も類似するリファレンス特徴点のみを点対応として残し、その他の点対応を削除してもよい。
これら局所特徴点の点対応の集合は、Homography行列判定部13及び類似度算出部15へ出力される。
マッチング部12は、リファレンス画像の特徴点pとクエリ画像の特徴点p'とをマッチングさせる(図2のS12参照)。具体的には、リファレンス画像の特徴点それぞれについて、クエリ画像の中で最も類似する特徴点とを対応付ける(図3(c)参照)。これによって、特徴点の点対応の集合が生成される。
ここで、クエリ画像の1つの特徴点に、リファレンス画像の複数の特徴点が対応付けられることがある。この場合、クエリ特徴点から見て最も類似するリファレンス特徴点のみを点対応として残し、その他の点対応を削除してもよい。
これら局所特徴点の点対応の集合は、Homography行列判定部13及び類似度算出部15へ出力される。
[Homography行列判定部13]
(S131)Homography行列判定部13は、クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合から、点対応の組を任意(ランダム)に複数選択する(図4(a)参照)。具体的には、ランダムに4組の点対応(p1,p1')(p2,p2')(p3,p3')(p4,p4')が選択される。
リファレンス画像の特徴点pとクエリ画像の特徴点p'とは、以下のように表される。
x座標:第1成分
y座標:第2成分
s=1:第3成分(正規化)
(S131)Homography行列判定部13は、クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合から、点対応の組を任意(ランダム)に複数選択する(図4(a)参照)。具体的には、ランダムに4組の点対応(p1,p1')(p2,p2')(p3,p3')(p4,p4')が選択される。
リファレンス画像の特徴点pとクエリ画像の特徴点p'とは、以下のように表される。
y座標:第2成分
s=1:第3成分(正規化)
(S132)次に、Homography行列判定部13は、リファレンス画像の特徴点pとクエリ画像の特徴点p'との点対応の集合から、Homography行列H(3行×3列(h11〜h33))を算出する(図4(b)参照)。このとき、「p'=s・H・p」の関係が成立する。
クエリ画像及び対象リファレンス画像は、類似度が高いほど、特徴ベクトル同士が射影幾何学的に線形となる。従って、平面射影変換行列であるHomography行列Hによって、座標を置き換えることができる。即ち、Homography行列Hは、リファレンス画像をクエリ画像系へ射影するためのものである。
Homography行列Hの未知パラメータ数は、8個(h11〜h33、h33=1)であり、一組の点対応は2個の制約式を与える。従って、この行列Hは、4組以上の対応点があれば、最小二乗法によって算出することができる。
Homography行列Hの未知パラメータ数は、8個(h11〜h33、h33=1)であり、一組の点対応は2個の制約式を与える。従って、この行列Hは、4組以上の対応点があれば、最小二乗法によって算出することができる。
(S133)次に、Homography行列判定部13は、先に算出したHomography行列Hを用いてリファレンス画像の特徴点pを、クエリ座標系へ射影する(図4(c)参照)。ここで、リファレンス画像の特徴点pと、当該特徴点pから局所特徴の方向θへ所定長(例えば単位長1)だけ離れた点aも、クエリ画像系へ射影する。
リファレンス画像の特徴点p及び点aを、クエリ画像系へ射影した点は、以下のように表される。
点aについてクエリ画像系への射影 a'=s1・H・a
点pについてクエリ画像系への射影 p'=s2・H・p
hiT: Hの行ベクトル
点aについてクエリ画像系への射影 a'=s1・H・a
点pについてクエリ画像系への射影 p'=s2・H・p
hiT: Hの行ベクトル
(S134)次に、Homography行列判定部13は、リファレンス画像の特徴点pの射影によって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|を算出する(図4(c)参照)。方向θHは、具体的には、リファレンス画像からクエリ画像系へ射影された特徴点pから点aへの方向である。
(S135)そして、Homography行列判定部13は、角度誤差|θH−θ'|が所定角度以下となる点対応の組の数が、所定数以上となるまで、S131(第1のステップ)からS134(第4のステップ)までを繰り返す(図5(a)参照)。所定数とは、1組から4組までのいずれであってもよい。
そして、最終的に算出されたHomography行列Hは、全特徴点判定部14へ出力される。
そして、最終的に算出されたHomography行列Hは、全特徴点判定部14へ出力される。
[全特徴点判定部14]
全特徴点判定部14は、Homography行列判定部12によって出力されたHomography行列Hを用いて、リファレンス画像の特徴点全点を、クエリ座標系へ射影する(図2のS141参照)。そして、クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合における全ての点対応の組について、近傍点対応(inliner)か否かを判定する(図2のS142参照、図5(b)参照)。ここでは、以下の3つの判定方法があって、いずれであってもよい。最終的に計数されたinlinerの数が、類似度算出部15へ出力される。
全特徴点判定部14は、Homography行列判定部12によって出力されたHomography行列Hを用いて、リファレンス画像の特徴点全点を、クエリ座標系へ射影する(図2のS141参照)。そして、クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合における全ての点対応の組について、近傍点対応(inliner)か否かを判定する(図2のS142参照、図5(b)参照)。ここでは、以下の3つの判定方法があって、いずれであってもよい。最終的に計数されたinlinerの数が、類似度算出部15へ出力される。
(判定1)リファレンス画像の特徴点pを射影することによって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|が、所定角度以下であるものをinlinerと判定する。所定角度としては、例えば20°程度であってもよい。
(判定2)リファレンス画像の特徴点pをクエリ画像系に射影した点と、クエリ画像の特徴点p'との距離誤差(ユークリッド距離)が、所定閾値以内であるものをinlinerと判定する。距離誤差は、例えば以下のように算出される。
|p'−s2Hp|
尚、距離誤差の算出方法は、マンハッタン距離等の他の公知の方法を用いてもよい。
|p'−s2Hp|
尚、距離誤差の算出方法は、マンハッタン距離等の他の公知の方法を用いてもよい。
(判定3)判定1及び判定2の両方の条件が成立した際に、inlinerと判定する。
[類似度算出部15]
類似度算出部15は、全特徴点判定部14によって判定されたinlierの数を、類似度とする(図2のS15参照)。ここで、類似度算出部15は、Homography行列判定部13及び全特徴点判定部14の処理を複数回繰り返すように制御すると共に、inlierの数が最大となる点対応の組を導出し、その際のinlierの数を類似度とする。
類似度算出部15は、全特徴点判定部14によって判定されたinlierの数を、類似度とする(図2のS15参照)。ここで、類似度算出部15は、Homography行列判定部13及び全特徴点判定部14の処理を複数回繰り返すように制御すると共に、inlierの数が最大となる点対応の組を導出し、その際のinlierの数を類似度とする。
以上、詳細に説明したように、本発明のプログラム、装置及び方法によれば、リファレンス画像とクエリ画像とが異なる視点から撮影された場合に、高精度な幾何検証を実現することができる。具体的には、リファレンス画像系からクエリ画像系へのHomography行列を用いて、リファレンス画像の特徴点の方向を補正することによって、従来技術に角度成分を加えた幾何検証を実現し、inlierの誤判定を削減することができる。
前述した本発明の種々の実施形態について、本発明の技術思想及び見地の範囲の種々の変更、修正及び省略は、当業者によれば容易に行うことができる。前述の説明はあくまで例であって、何ら制約しようとするものではない。本発明は、特許請求の範囲及びその均等物として限定するものにのみ制約される。
1 類似度算出装置
11 局所特徴点抽出部
12 マッチング部
13 Homography行列判定部
14 全特徴点判定部
15 類似度算出部
16 リファレンス特徴点蓄積部
11 局所特徴点抽出部
12 マッチング部
13 Homography行列判定部
14 全特徴点判定部
15 類似度算出部
16 リファレンス特徴点蓄積部
Claims (11)
- 局所特徴点集合で表されるクエリ画像とリファレンス画像との間の類似度をHomography行列Hに基づいて算出するべく、装置に搭載されたコンピュータを機能させるプログラムであって、
クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合から、点対応の組を任意に複数選択する第1のステップと、
選択された複数の点対応の組を用いて、リファレンス画像をクエリ画像系へ射影するHomography行列Hを算出する第2のステップと、
前記Homography行列Hを用いて前記リファレンス画像の特徴点pを、クエリ座標系へ射影する第3のステップと、
前記リファレンス画像の特徴点pの射影によって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|を算出する第4のステップと
を有し、
前記角度誤差|θH−θ'|が所定角度以下となる点対応の組の数が、所定数以上となるまで、第1のステップから第4のステップまでを繰り返す
ように実行するHomography行列判定手段としてコンピュータを機能させることを特徴とするプログラム。 - 前記Homography行列判定手段の第4のステップについて、
リファレンス画像の特徴点pと、当該特徴点pから局所特徴の方向θへ所定長だけ離れた点aとをクエリ画像系へ射影し、リファレンス画像からクエリ画像系へ射影された特徴点pから点aへの方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'とから、角度誤差|θH−θ'|が算出される
ようにコンピュータを機能させることを特徴とする請求項1に記載のプログラム。 - 前記Homography行列Hは、3行×3列(h11〜h33)であり、
リファレンス画像の特徴点p=(x,y,1)
クエリ画像の特徴点 p'=(x',y',1) (ベクトルの第3成分s=1)
点a=(x+cosθ,y+sinθ,1)
点aについてクエリ画像系への射影 a'=s1・H・a
点pについてクエリ画像系への射影 p'=s2・H・p
(X,Y,0)=s1・H・a−s2・H・p
θH=tan-1(Y/X)
によって算出するようにコンピュータを機能させることを特徴とする請求項2に記載のプログラム。 - 前記Homography行列判定手段によって出力された前記Homography行列を用いて、クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合における全ての点対応の組について、
前記リファレンス画像の特徴点pを射影することによって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|が、所定角度以下である
ものを近傍点対応(inliner)と判定する全特徴点判定手段としてコンピュータを更に機能させることを特徴とする請求項1から3のいずれか1項に記載のプログラム。 - 前記Homography行列判定手段によって出力された前記Homography行列を用いて、クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合における全ての点対応の組について、
リファレンス画像の特徴点pをクエリ画像系に射影した点と、クエリ画像の特徴点p'との距離誤差が、所定閾値以内である
ものを近傍点対応(inliner)と判定する全特徴点判定手段としてコンピュータを更に機能させることを特徴とする請求項1から3のいずれか1項に記載のプログラム。 - 前記Homography行列判定手段によって出力された前記Homography行列を用いて、クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合における全ての点対応の組について、
前記リファレンス画像の特徴点pを射影することによって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|が、所定角度以下であって、且つ、
リファレンス画像の特徴点pをクエリ画像系に射影して点と、クエリ画像の特徴点p'との距離誤差が、所定閾値以内である
ものを近傍点対応(inliner)と判定する全特徴点判定手段としてコンピュータを更に機能させることを特徴とする請求項1から3のいずれか1項に記載のプログラム。 - 前記全特徴点判定手段によって判定されたinlierの数を、類似度とする類似度算出手段としてコンピュータを更に機能させることを特徴とする請求項4から6のいずれか1項に記載のプログラム。
- 前記類似度算出手段は、前記Homography行列判定手段及び前記全特徴点判定手段の処理を複数回繰り返すように制御すると共に、前記inlierの数が最大となる点対応の組を導出し、その際のinlierの数を類似度とする
ようにコンピュータを機能させることを特徴とする請求項7に記載のプログラム。 - クエリ画像及びリファレンス画像から局所特徴点の特徴点集合を抽出する局所特徴点抽出手段と、
クエリ画像から抽出された各特徴点に対し、最も類似するリファレンス画像の特徴点を対応付け組集合を導出するマッチング手段と
を更に有し、マッチング手段によって導出された前記組集合は、前記Homography行列判定手段及び前記全特徴点判定手段へ出力される
ようにコンピュータを機能させることを特徴とする請求項1から8のいずれか1項に記載のプログラム。 - 局所特徴点集合で表されるクエリ画像とリファレンス画像との間の類似度をHomography行列Hに基づいて算出する装置であって、
クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合から、点対応の組を任意に複数選択する第1のステップと、
選択された複数の点対応の組を用いて、リファレンス画像をクエリ画像系へ射影するHomography行列Hを算出する第2のステップと、
前記Homography行列Hを用いて前記リファレンス画像の特徴点pを、クエリ座標系へ射影する第3のステップと、
前記リファレンス画像の特徴点pの射影によって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|を算出する第4のステップと
を有し、
前記角度誤差|θH−θ'|が所定角度以下となる点対応の組の数が、所定数以上となるまで、第1のステップから第4のステップまでを繰り返す
ように実行するHomography行列判定手段を有することを特徴とする装置。 - 装置を用いて、局所特徴点集合で表されるクエリ画像とリファレンス画像との間の類似度をHomography行列Hに基づいて算出する方法であって、
クエリ画像の特徴点p'とリファレンス画像の特徴点pとの点対応集合から、点対応の組を任意に複数選択する第1のステップと、
選択された複数の点対応の組を用いて、リファレンス画像をクエリ画像系へ射影するHomography行列Hを算出する第2のステップと、
前記Homography行列Hを用いて前記リファレンス画像の特徴点pを、クエリ座標系へ射影する第3のステップと、
前記リファレンス画像の特徴点pの射影によって得られた方向θHと、その点対応となるクエリ画像の特徴点p'の方向θ'との角度誤差|θH−θ'|を算出する第4のステップと
を有し、
前記角度誤差|θH−θ'|が所定角度以下となる点対応の組の数が、所定数以上となるまで、第1のステップから第4のステップまでを繰り返す
ことを特徴とする方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013133127A JP2015007919A (ja) | 2013-06-25 | 2013-06-25 | 異なる視点の画像間で高精度な幾何検証を実現するプログラム、装置及び方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013133127A JP2015007919A (ja) | 2013-06-25 | 2013-06-25 | 異なる視点の画像間で高精度な幾何検証を実現するプログラム、装置及び方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015007919A true JP2015007919A (ja) | 2015-01-15 |
Family
ID=52338146
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013133127A Pending JP2015007919A (ja) | 2013-06-25 | 2013-06-25 | 異なる視点の画像間で高精度な幾何検証を実現するプログラム、装置及び方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015007919A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016181229A (ja) * | 2015-03-25 | 2016-10-13 | Kddi株式会社 | 類似度算出装置及びプログラム |
CN111242221A (zh) * | 2020-01-14 | 2020-06-05 | 西交利物浦大学 | 基于图匹配的图像匹配方法、系统及存储介质 |
CN112884049A (zh) * | 2021-02-24 | 2021-06-01 | 浙江商汤科技开发有限公司 | 在输入图像中检测注册图像的方法及相关装置、设备 |
CN113658041A (zh) * | 2021-07-23 | 2021-11-16 | 华南理工大学 | 一种基于多图特征联合匹配的图像快速拼接方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2010050206A1 (ja) * | 2008-10-28 | 2010-05-06 | 日本電気株式会社 | なりすまし検知システム、なりすまし検知方法及びなりすまし検知プログラム |
JP2012515405A (ja) * | 2009-01-16 | 2012-07-05 | エーナイン・ドット・コム インコーポレイテッド | 画像マッチングのための方法およびシステム |
-
2013
- 2013-06-25 JP JP2013133127A patent/JP2015007919A/ja active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2010050206A1 (ja) * | 2008-10-28 | 2010-05-06 | 日本電気株式会社 | なりすまし検知システム、なりすまし検知方法及びなりすまし検知プログラム |
JP2012515405A (ja) * | 2009-01-16 | 2012-07-05 | エーナイン・ドット・コム インコーポレイテッド | 画像マッチングのための方法およびシステム |
Non-Patent Citations (1)
Title |
---|
小林 正季、亀山 啓輔: ""照明不変特徴量に基づくSIFTを利用した画像内容検索"", 電子情報通信学会技術研究報告, vol. 109, no. 249, JPN6016046126, 15 October 2009 (2009-10-15), JP, pages 1 - 6, ISSN: 0003451512 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016181229A (ja) * | 2015-03-25 | 2016-10-13 | Kddi株式会社 | 類似度算出装置及びプログラム |
CN111242221A (zh) * | 2020-01-14 | 2020-06-05 | 西交利物浦大学 | 基于图匹配的图像匹配方法、系统及存储介质 |
CN112884049A (zh) * | 2021-02-24 | 2021-06-01 | 浙江商汤科技开发有限公司 | 在输入图像中检测注册图像的方法及相关装置、设备 |
CN113658041A (zh) * | 2021-07-23 | 2021-11-16 | 华南理工大学 | 一种基于多图特征联合匹配的图像快速拼接方法 |
CN113658041B (zh) * | 2021-07-23 | 2024-04-02 | 华南理工大学 | 一种基于多图特征联合匹配的图像快速拼接方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5164222B2 (ja) | 画像検索方法およびシステム | |
CN106682700B (zh) | 基于关键点描述算子的分块快速匹配方法 | |
CN110546651B (zh) | 用于识别对象的方法、系统和计算机可读介质 | |
CN111783770B (zh) | 图像的矫正方法、装置和计算机可读存储介质 | |
US10339409B2 (en) | Method and a device for extracting local features of a three-dimensional point cloud | |
EP3301641B1 (en) | Image collation device, image collation method, and program | |
KR20140102038A (ko) | 영상 정합 장치 및 영상 정합 방법 | |
Konishi et al. | Real-time 6D object pose estimation on CPU | |
JP5468824B2 (ja) | 3次元における形状の一致を判定する方法および装置 | |
CN111898428A (zh) | 一种基于orb的无人机特征点匹配方法 | |
US20200005078A1 (en) | Content aware forensic detection of image manipulations | |
Seib et al. | Object recognition using hough-transform clustering of surf features | |
CN108961164A (zh) | 基于几何不变量的图像配准拼接方法和装置及计算机设备 | |
CN110942473A (zh) | 一种基于特征点网格化匹配的运动目标跟踪检测方法 | |
JP2015007919A (ja) | 異なる視点の画像間で高精度な幾何検証を実現するプログラム、装置及び方法 | |
CN109840529B (zh) | 一种基于局部敏感置信度评估的图像匹配方法 | |
JP2019028700A (ja) | 検証装置、方法、及びプログラム | |
CN105190689A (zh) | 包括基于毗连特征的对象检测和/或双边对称对象分段的图像处理 | |
JP2014225168A (ja) | 特徴点集合で表される画像間の類似度を算出するプログラム、装置及び方法 | |
JP6393495B2 (ja) | 画像処理装置および物体認識方法 | |
WO2017179728A1 (ja) | 画像認識装置、画像認識方法および画像認識プログラム | |
JP6544482B2 (ja) | 物体認識装置、物体認識方法及び記憶媒体 | |
JP2007140729A (ja) | 物品の位置及び姿勢を検出する方法および装置 | |
CN103823889A (zh) | 基于l1范数全局几何一致性检验的错误匹配检测方法 | |
KR101915402B1 (ko) | 점진적 그래프 최적화를 통한 특징점 매칭 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160119 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20161128 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20161202 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20170602 |