JP6459981B2 - 画像処理装置、被写体識別方法及びプログラム - Google Patents

画像処理装置、被写体識別方法及びプログラム Download PDF

Info

Publication number
JP6459981B2
JP6459981B2 JP2015554986A JP2015554986A JP6459981B2 JP 6459981 B2 JP6459981 B2 JP 6459981B2 JP 2015554986 A JP2015554986 A JP 2015554986A JP 2015554986 A JP2015554986 A JP 2015554986A JP 6459981 B2 JP6459981 B2 JP 6459981B2
Authority
JP
Japan
Prior art keywords
corresponding point
feature
point
information group
relative
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015554986A
Other languages
English (en)
Other versions
JPWO2015099016A1 (ja
Inventor
蕊寒 包
蕊寒 包
恭太 比嘉
恭太 比嘉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2015099016A1 publication Critical patent/JPWO2015099016A1/ja
Application granted granted Critical
Publication of JP6459981B2 publication Critical patent/JP6459981B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/757Matching configurations of points or features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/35Determination of transform parameters for the alignment of images, i.e. image registration using statistical methods

Description

(関連出願についての記載)
本発明は、日本国特許出願:特願2013−268852号(2013年12月26日出願)の優先権主張に基づくものであり、同出願の全記載内容は引用をもって本書に組み込み記載されているものとする。
本発明は、画像処理装置、被写体識別方法及びプログラムに関する。
画像内の被写体(例えば、商品、建物、印刷物など)を、撮影サイズや角度の変化、オクルージョンに対して頑健に識別するために、画像内の特徴的な点(以下、特徴点と呼ぶ)を検出し、各特徴点周辺の局所領域の特徴量(以下、局所特徴量と呼ぶ)を抽出する方式が提案されている。その代表的な方式として、特許文献1には、SIFT(Scale Invariant Feature Transform)特徴量を用いて、被写体を識別する装置が開示されている。また、特許文献2において、特徴量を用いて、検索対象画像のインデクスを作成し、作成したインデクスに基づいて、画像の類似度を算出する技術が開示されている。
米国特許第6711293号明細書 特開2004−341940号公報
なお、上記先行技術文献の開示を、本書に引用をもって繰り込むものとする。以下の分析は、本発明の観点からなされたものである。
特許文献1に記載された技術においては、第1の局所特徴量群の各局所特徴量と、第2の局所特徴量群の各局所特徴量との間の距離に基づいて、画像間で同一または類似の被写体を識別する。そのため、ノイズ等の影響を受けて、特徴点の対応付けに誤りが生じた場合、特許文献1に記載された技術においては、対応付けに誤りが生じるほどに、識別精度が低下する。また、特許文献2においても、特徴点の対応付けに誤りが生じるほど、算出する類似度の精度が低下する。
そこで、本発明は、特徴点の対応付けに誤りがある場合であっても、被写体の識別精度の低下を抑制することに寄与する画像処理装置、被写体識別方法及びプログラムを提供することを目的とする。
本発明の第1の視点によれば、下記の機能を備える画像処理装置が提供される。画像処理装置は、第1の画像から、1又は2以上の第1の特徴点を検出し、検出した前記各第1の特徴点を含む所定の範囲の領域から、前記各第1の特徴点に対応する、第1の局所特徴量情報群を算出する、第1の局所特徴量生成部を備える。
さらに、前記第1の特徴点と、第2の画像から算出した第2の局所特徴量情報群に含まれる第2の特徴点との対応関係を、対応点情報として算出する対応点算出が備えられる。
さらに、前記第1の局所特徴量情報群と、前記第2の局所特徴量情報群と、前記対応点情報とに基づいて、前記第1の特徴点のスケールと、前記第2の特徴点のスケールとの相対関係を、対応点相対スケール情報として算出する対応点相対スケール算出部が備えられる。
さらに、前記対応点相対スケール情報に基づいて、前記第1の特徴点、前記第2の特徴点の少なくとも一の特徴点をクラスタリングし、クラスタリング結果に基づいて、少なくとも一の特徴点を選定する対応点選定部が備えられる。
さらに、前記対応点選定部が選定した特徴点に基づいて、クラスタ毎に、前記第1の画像と、前記第2の画像を比較し、被写体の同一性を判定する判定部が備えられる。
本発明の第2の視点によれば、被写体識別方法が提供される。該方法は、
第1の画像から、1又は2以上の第1の特徴点を検出し、検出した前記各第1の特徴点を含む所定の範囲の領域から、前記各第1の特徴点に対応する、第1の局所特徴量情報群を算出する工程と、
前記第1の特徴点と、第2の画像から算出した第2の局所特徴量情報群に含まれる第2の特徴点との対応関係を、対応点情報として算出する工程と、
前記第1の局所特徴量情報群と、前記第2の局所特徴量情報群と、前記対応点情報とに基づいて、前記第1の特徴点のスケールと、前記第2の特徴点のスケールとの相対関係を、対応点相対スケール情報として算出する工程と、を含む。
さらに、該方法は、前記対応点相対スケール情報に基づいて、前記第1の特徴点、前記第2の特徴点の少なくとも一の特徴点をクラスタリングし、クラスタリング結果に基づいて、少なくとも一の特徴点を選定する工程と、
選定された特徴点に基づいて、クラスタ毎に、前記第1の画像と、前記第2の画像を比較し、被写体の同一性を判定する工程と、
を含む。
なお、本方法は、第1の画像の被写体と、第2の画像の被写体の同一性を判定する画像処理装置という、特定の機械に結び付けられている。
本発明の第3の視点によれば、画像処理装置を制御するコンピュータに実行させるプログラムが提供される。該プログラムは、
第1の画像から、1又は2以上の第1の特徴点を検出し、検出した前記各第1の特徴点を含む所定の範囲の領域から、前記各第1の特徴点に対応する、第1の局所特徴量情報群を算出する処理と、
前記第1の特徴点と、第2の画像から算出した第2の局所特徴量情報群に含まれる第2の特徴点との対応関係を、対応点情報として算出する工程と、
前記第1の局所特徴量情報群と、前記第2の局所特徴量情報群と、前記対応点情報とに基づいて、前記第1の特徴点のスケールと、前記第2の特徴点のスケールとの相対関係を、対応点相対スケール情報として算出する処理と、を含む。
さらに、該プログラムは、前記対応点相対スケール情報に基づいて、前記第1の特徴点、前記第2の特徴点の少なくとも一の特徴点をクラスタリングし、クラスタリング結果に基づいて、少なくとも一の特徴点を選定する処理と、
選定された特徴点に基づいて、クラスタ毎に、前記第1の画像と、前記第2の画像を比較し、被写体の同一性を判定する処理と、を含む。
なお、本プログラムは、コンピュータが読み取り可能な記憶媒体に記録することができる。記憶媒体は、半導体メモリ、ハードディスク、磁気記録媒体、光記録媒体等の非トランジェント(non-transient)なものとすることができる。本発明は、コンピュータプログラム製品として具現することも可能である。
本発明の各視点によれば、特徴点の対応付けに誤りがある場合であっても、被写体の識別精度の低下を抑制することに寄与する画像処理装置、被写体識別方法及びプログラムが提供される。
従来の画像処理装置の構成を示すブロック図である。 実施形態1の構成を示すブロック図である。 実施形態1の動作を示すフローチャートである。 実施形態2の構成を示すブロック図である。 実施形態2の動作を示すフローチャートである。 実施形態3の構成を示すブロック図である。 実施形態3の動作を示すフローチャートである。 変形例1の構成を示すブロック図である。 変形例1の動作を示すフローチャートである。 実施形態4の構成を示すブロック図である。 実施形態4の動作を示すフローチャートである。 変形例2の構成を示すブロック図である。 変形例2の動作を示すフローチャートである。 実施形態5の構成を示すブロック図である。 実施形態5の動作を示すフローチャートである。 変形例3の構成を示すブロック図である。 変形例3の動作を示すフローチャートである。 変形例4の構成を示すブロック図である。 変形例4の動作を示すフローチャートである。 変形例5の構成を示すブロック図である。 変形例5の動作を示すフローチャートである。 実施形態6の構成を示すブロック図である。 実施形態6の動作を示すフローチャートである。 変形例6の構成を示すブロック図である。 変形例6の動作を示すフローチャートである。 変形例7の構成を示すブロック図である。 変形例7の動作を示すフローチャートである。 変形例8の構成を示すブロック図である。 変形例8の動作を示すフローチャートである。 変形例9の構成を示すブロック図である。 変形例9の動作を示すフローチャートである。 変形例10の構成を示すブロック図である。 変形例10の動作を示すフローチャートである。 変形例11の構成を示すブロック図である。 変形例11の動作を示すフローチャートである。 変形例12の構成を示すブロック図である。 変形例12の動作を示すフローチャートである。 変形例13の構成を示すブロック図である。 変形例13の動作を示すフローチャートである。 変形例14の構成を示すブロック図である。 変形例14の動作を示すフローチャートである。 実施形態7の構成を示すブロック図である。 実施形態7の動作を示すフローチャートである。 変形例15の構成を示すブロック図である。 変形例15の動作を示すフローチャートである。 変形例16の構成を示すブロック図である。 変形例16の動作を示すフローチャートである。 変形例17の構成を示すブロック図である。 変形例17の動作を示すフローチャートである。 変形例18の構成を示すブロック図である。 変形例18の動作を示すフローチャートである。 変形例19の構成を示すブロック図である。 変形例19の動作を示すフローチャートである。 変形例20の構成を示すブロック図である。 変形例20の動作を示すフローチャートである。 変形例21の構成を示すブロック図である。 変形例21の動作を示すフローチャートである。 変形例22の構成を示すブロック図である。 変形例22の動作を示すフローチャートである。 変形例23の構成を示すブロック図である。 変形例23の動作を示すフローチャートである。 特徴点のスケール値の一例を示す図である。 画像の特徴点の正規化スケール値の分布の一例を示す図である。 特徴点の方向の一例を示す図である。
初めに、図1を用いて一実施形態の概要について説明する。なお、この概要に付記した図面参照符号は、理解を助けるための一例として各要素に便宜上付記したものであり、この概要の記載はなんらの限定を意図するものではない。
上述の通り、特徴点の対応付けに誤りがある場合であっても、被写体の識別精度の低下を抑制することに寄与する画像処理装置が望まれる。
そこで、一例として、図1に示す画像処理装置10を提供する。画像処理装置10は、第1の局所特徴量生成部11と、対応点算出部13と、対応点相対スケール算出部14と、対応点選定部15と、判定部16と、を含んで構成される。
第1の局所特徴量生成部11は、第1の画像から、1又は2以上の第1の特徴点を検出する。そして、第1の局所特徴量生成部11は、検出した前記各第1の特徴点を含む所定の範囲の領域から、各第1の特徴点に対応する、第1の局所特徴量情報群を算出する。
対応点算出部13は、第1の特徴点と、第2の画像から算出した第2の局所特徴量情報群に含まれる第2の特徴点との対応関係を、対応点情報として算出する。ここで、対応点情報とは、第1の画像の任意の特徴点が第2の画像のどの特徴点に対応するかを示す情報である。
対応点相対スケール算出部14は、第1の局所特徴量情報群と、第2の局所特徴量情報群と、対応点情報とに基づいて、第1の特徴点のスケールと、第2の特徴点のスケールとの相対関係を、対応点相対スケール情報として算出する。
対応点選定部15は、対応点相対スケール情報に基づいて、第1の特徴点、第2の特徴点の少なくとも一の特徴点をクラスタリングし、クラスタリング結果に基づいて、少なくとも一の特徴点を選定する。そのため、対応点選定部15は、特徴点のスケールの相対関係に基づいて、所定の条件を満たすクラスタにクラスタリングされた特徴点を選定する。そのため、対応点算出部13が、誤った対応関係を算出した場合であっても、対応点選定部15は、誤った対応関係の特徴点を排除できる。
そして、判定部16は、対応点選定部15が選定した特徴点に基づいて、クラスタ毎に、前記第1の画像と、前記第2の画像を比較する。
以上の通り、画像処理装置10は、誤った対応関係の特徴点を排除できるため、誤った特徴点に基づいて、被写体を識別することを防止できる。従って、画像処理装置10は、特徴点の対応付けに誤りがある場合であっても、被写体の識別精度の低下を抑制することに寄与する。
[第1の実施形態]
第1の実施形態について、図面を用いて詳細に説明する。
(第1の実施形態の構成)
図2を参照して、実施形態1を説明する。図2は、実施形態1に係る画像処理装置20の機能構成を示すブロック図である。図2に示すように、画像処理装置20は、第1の局所特徴量生成部201と、第2の局所特徴量生成部202と、対応点算出部203と、対応点相対スケール算出部204と、対応点選定部205と、判定部206を含んで構成される。ここで、図2は、画像処理装置20を、図2に示す構成に限定する趣旨ではない。なお、以下の説明では、第1の画像は同一または類似の被写体を一つ以上含み、第2の画像には一の被写体を含むとして説明する。ただし、これは、第1の画像、及び第2の画像を、この条件に限定する趣旨ではない。
(特徴量生成)
第1の局所特徴量生成部201は、第1の画像から、所定の条件を満たす数の特徴点を検出し、検出した各特徴点を含む周辺領域(近傍領域)の局所特徴量を生成する。例えば、特徴点の数が所定の閾値を超えることを、上記の所定の条件としても良い。
具体的には、第1の局所特徴量生成部201は、検出した各特徴点のスケール値で構成される第1のスケール情報群を、対応点相対スケール算出部204に出力する。そして、第1の局所特徴量生成部201は、検出した各特徴点の座標値から局所特徴量を生成する。そして、生成した局所特徴量で構成される第1の局所特徴量群を対応点算出部203に出力する。
特徴点のスケール値は、例えば、各特徴点に付随する大きさの情報であり、特徴点を含む周辺領域の画像からその値が算出される。特徴点のスケール値は、例えば、特徴点を含む周辺領域が拡大または縮小すると、それに応じて値が変化する性質を有することが望ましい。周辺領域の拡大または縮小に応じた変化は、例えば、線形的に変化しても良いし、非線形的に変化しても良いし、対数的に変化しても良いし、指数的に変化しても良い。
第2の局所特徴量生成部202は、第1の局所特徴量生成部201と同様の動作により、第2の画像の各特徴点の局所特徴量で構成される第2の局所特徴量群と、第2の画像の各特徴点のスケール値で構成される第2のスケール情報群とを生成する。そして、第2の局所特徴量生成部202は、第2の局所特徴量群を対応点算出部203に出力する。さらに、第2の局所特徴量生成部202は、第2のスケール情報群を対応点相対スケール算出部204に出力する。全ての実施形態において、例えば、第2の画像の各特徴点の局所特徴量を事前に生成してデータベースなどに記憶しておき、第2の局所特徴量生成部202の替わりに、事前に作成したデータベースに記憶した局所特徴量群を用いてもよい。
(対応点算出)
対応点算出部203は、第1の局所特徴量生成部201が出力した第1の局所特徴量情報群と、第2の局所特徴量生成部202が出力した第2の局所特徴量群とを用いて、所定の条件を満たす数の対応点情報を生成する。例えば、対応点情報の数が所定の閾値を超えることを、上記の所定の条件としても良い。
具体的には、対応点算出部203は、第1の画像の任意の特徴点と、第2の画像の任意の特徴点との間の局所特徴量間距離を算出する。そして、対応点算出部203は、算出した局所特徴量間距離に基づき、第1の局所特徴量情報群と、第2の局所特徴量情報群との対応関係を、所定の条件を満たす数、算出する。
特徴点間の距離には、例えば、ユークリッド距離を用いてもよい。また、距離値が最も小さい特徴点を、対応する特徴点として算出してもよい。また、対応関係が存在しない特徴点があってもよい。例えば、最も小さい距離値と2番目に小さい距離値との比率を評価尺度として、対応関係の有無を判定してもよい。なお、特徴点検出の手法は、適宜決定することが好ましく、上記に例示する手法に限定する趣旨ではない。
そして、対応点算出部203は、算出した対応関係で構成される対応点情報群を対応点相対スケール算出部204に出力する。
(対応点相対スケール算出)
対応点相対スケール算出部204は、対応点算出部203が出力した対応点情報群と、第1の局所特徴量生成部201が出力した第1のスケール情報群と、第2の局所特徴量生成部202が出力した第2のスケール情報群を用いて、画像間で対応付けられた特徴点(以下、対応点と言う)のスケール値の相対関係を、所定の条件を満たす数を超えて算出する。そして、対応点相対スケール算出部204は、算出された相対関係で構成される対応点相対スケール情報群を、対応点選定部205に出力する。
具体的には、対応点相対スケールは、例えば、対応点のスケール値の比率としてもよい。スケール値の比率の算出には、例えば、数1の式を用いても良い。
[数1]
Figure 0006459981
ここで、σは対応点のスケール比率を、s(q)は第1の画像から検出したq番目の特徴点のスケール値を、s(p)は第2の画像から検出したp番目の特徴点のスケール値を示す。また、例えば、特徴点のスケール値の対数値を用いてスケール比率を算出しても良い。
また、特徴点から対数関数の性質をもつスケール値を抽出した場合、対応点相対スケールは、例えば、対応点のスケール値の差分値としても良い。スケール値の差分値の算出には、例えば、数2の式を用いても良い。
[数2]
Figure 0006459981
ここで、σ’は対応点のスケール値の差分値を、s’(q)は第1の画像から検出したq番目の特徴点のスケール値を、s’(p)は第2の画像から検出したp番目の特徴点のスケール値を示す。
ここで、図62を参照して特徴点のスケール値の特性について説明する。図62は画像10001の被写体が2倍のサイズで画像10002に写っている一例であり、矢印の大きさはスケール値の大きさを示す。特徴点のスケール値は、画像内の被写体サイズに応じて相対的に変化するという性質を持つ。すなわち、図62に示すように、特徴点のスケール値は、例えば、画像内の被写体サイズが2倍になると2倍になるという性質を持つ。また、特徴点のスケール値は、例えば、被写体サイズが0.5倍になると0.5倍になるという性質を持つ。そのため、数1及び数2で算出された対応点相対スケールは、第1の画像の特徴点と第2の画像の特徴点の対応付けが正しい場合、被写体ごとに一定になるという特性を持つ。
(対応点選定)
対応点選定部205は、対応点相対スケール算出部204が出力した対応点相対スケール情報群を用いて、第1の画像に含まれる特徴点をクラスタリングする。そして、対応点選定部205は、クラスタリング結果に基づいて特徴点を選定する。具体的には、例えば、対応点選定部205は、任意のクラスタに含まれる対応点の数が所定の閾値以上ならば、当該クラスタに含まれる特徴点を選定するようにしても良い。
そして、対応点選定部205は、選定された特徴点の対応点情報群と、クラスタ情報とを含んで構成される選定情報群を、判定部206に出力する。
以下、特徴点のクラスタリングについて、詳細に説明する。
特徴点のクラスタリングには、例えば、第1の画像に含まれる、画像間で対応付けられた任意の特徴点の対応点相対スケールと、各クラスタ重心との距離を算出すると共に、算出した距離が最も小さくなるクラスタに当該特徴点を分類するという方法を用いてもよい。この際、任意のクラスタ内に対応点相対スケールの類似度が、所定の閾値未満の特徴点が含まれる場合には、例えば、クラスタ重心までの距離が長い対応点相対スケールを持つ特徴点を、当該クラスタから除外して別のクラスタに分類すればよい。ここで、クラスタ重心と対応点相対スケールの距離には、例えば、ユークリッド距離を用いても良いし、マハラノビス距離を用いても良いし、市街地距離を用いても良い。
また、特徴点のクラスタリングには、例えば、全ての値の間の距離を算出し、算出した距離をグラフカットによってクラスタリングするという方法を用いても良い。この場合、例えば、第1の画像に含まれる、画像間で対応付けられた各特徴点をノードとして、特徴点間の距離をノード間のエッジとしたグラフを生成する。グラフカットには、例えば、公知の手法であるノーマライズドカットを用いてもよいし、Markov Clusterアルゴリズムを用いてもよい。なお、ノーマラズドカット、Markov Clusterアルゴリズムの詳細については、ここでの説明を省略する。
また、特徴点のクラスタリングには、例えば、公知の手法であるk-means法を用いてもよいし、LBG(Linde-Buzo-Gray)法でもよいし、LBQ(Learning Bayesian Quantization)法を用いてもよい。なお、k-means法、LBG法、LBQ法の詳細については、ここでの説明を省略する。
また、特徴点のクラスタリングには、例えば、任意のサイズの分析領域ごとに当該領域に含まれる特徴点を計数し、計数値が所定の閾値以上であれば、当該領域に含まれる特徴点を同一のクラスタに分類するという方法を用いてもよい。
分析領域の生成には、例えば、第1の画像を任意のサイズのグリッドに分割し、各グリッドを分析領域とするという方法を用いてもよい。また、分析領域は、例えば、重複していてもよいし、重複していなくてもよい。また、分析領域のサイズは、例えば、固定でもよいし、可変でもよい。可変の場合は、例えば、分析領域の中心と画像中心との間の距離が近いほど分析領域サイズを小さくし、分析領域の中心と画像中心との間の距離が遠いほど分析領域サイズを大きくするという方法を用いてもよい。
特徴点のクラスタリングには、例えば、計数値が所定の閾値以上の分析領域に含まれる特徴点を同一のクラスタに分類するという方法を用いてもよいし、当該領域とその周囲の分析領域に含まれる特徴点を、同一のクラスタにクラスタリングという方法を用いてもよい。また、計数値が所定の閾値以上の分析領域が隣接、あるいは重複している場合は、例えば、これらの分析領域に含まれる特徴点を同一のクラスタにクラスタリングするという方法を用いてもよいし、異なるクラスタに分類するというクラスタリングを用いてもよい。
このように特徴点をクラスタリングすることで、Markov Clusterアルゴリズム、k-means法、LBG法等に比べ、高速に処理できる。
(判定)
判定部206は、対応点選定部205が出力した選定情報群を用いて、クラスタ単位で、画像間で同一性または類似の被写体を判定する。例えば、選定された特徴点の数が、ある閾値を超える場合に、対象クラスタと第2の画像とが、同一(または類似)の被写体であると判定しても良い。そして、判定部206は、その判定結果を出力する。
以下、判定処理に詳細に説明する。
例えば、判定部206は、選定された特徴点の数が、ある閾値を超える場合に、対象クラスタと第2の画像とが、同一(または類似)の被写体であると判定しても良い。
また、判定部206は、求められた画像間の特徴点の対応関係を用いて幾何学的検証を行って、同一性または類似性を判定してもよい。例えば、対応点の座標値の幾何学的関係性を射影変換(ホモグラフィ)と仮定したうえで、ロバスト推定手法を用いて射影変換のパラメータを推定し、推定パラメータに対する入力された対応関係の外れ値を求めることで、外れ値の数に基づいて同一性または類似性を判定してもよい。ロバスト推定手法には、例えば、RANSAC(RANdom Sample Consensus)や最小二乗法等を用いても良く、ロバスト推定手法は詳細は限定されない。
また、判定部206は、例えば、対象クラスタに属する二つの対応点から成る対応点ペアの座標値から回転やスケール変化を推定し、対応点相対スケールと対応点の方向情報の差分値に基づいて回転やスケール変化を推定し、各々の方法で算出した回転やスケール変化を比較し、それらの類似性が十分に大きければ、対象クラスタと第2の画像とが、同一と判定しても良い。具体的には、対象クラスタから二つの対応点から成る対応点ペアを取り、対応点ペアの画像1に属する二つの特徴点を端点とする線分と、対応点ペアで画像2に属する二つの特徴点を端点とする線分と比較し、二つ線分の回転やスケールの変化を算出し、対応点相対スケールと対応点の方向情報の差分値に基づいて算出された回転やスケール変化と比較する。比較するときに、回転とスケール変化のいずれかまたは両方を使って比較しても良い。また、対応点ペアから対応点相対スケールと対応点の方向情報の差分値に基づいて算出された回転やスケールの変化値は二つ求まるため、それぞれの値を独立に比較しても良いし、いずれかの値を使って比較しても良いし、その平均値を使って比較しても良い。また、同一判定するとき、対象クラスタに属する任意の二つの対応点から成る対応点ペアに基づいて、同一判定しても良いし、対象クラスタからN個(N>1)の対応点ペアを上記の方法で判定し、同一と判定される対応点ペアが一定の割合以上を存在した場合は、対象クラスタと第2の画像とが、同一と判定しても良い。また、ここでNは、対象クラスタに属する全対応点ペアでも良いし、一部の対応点ペアでも良い。
また、判定部206は、例えば、対象クラスタに属する二つ以上の対応点の座標値から回転やスケール変化を推定し、対応点相対スケールと対応点の方向情報の差分値に基づいて回転やスケール変化を推定し、各々の方法で算出した回転やスケール変化を比較し、それらの類似性が十分に大きければ、対象クラスタと第2の画像とが、同一と判定しても良い。具体的には、対象クラスタからN個の対応点ペアを取り、各対応点ペアで画像1に属する二つの特徴点を端点とする線分と、対応点ペアで画像2に属する二つの特徴点を端点とする線分と比較し、二つ線分から線分の回転やスケールの変化を算出し、対応点相対スケールと対応点の方向情報の差分値に基づいて算出された回転やスケール変化と比較する。比較するときに、回転とスケール変化のいずれかまたは両方を使って比較しても良い。また、N個の対応点ペアから線分の回転とスケールの変化を算出するときに、それぞれの平均値を使っても良いし、中央値でも良いし、任意の対応点ペアから算出した値でも良い。また、対応点相対スケールと対応点の方向情報の差分値に基づいて回転やスケール変化を推定するとき、N個の対応点相対スケールと対応点の方向情報の差分値の平均値でも良いし、中央値でも良いし、任意の一つの対応点から算出した値でも良い。また、ここでNは、対象クラスタに属する全対応点ペアでも良いし、一部の対応点ペアでも良い。
また、判定部206は、例えば、ロバスト推定手法にて推定した、対応点の座標値の幾何変換モデルと、対応点相対スケールと対応点の方向情報の差分値とに基づいて推定した、対応点の幾何変換モデルとを比較し、2つの幾何変換モデルの類似性が十分に大きければ、対象クラスタと第2の画像とが、同一と判定しても良い。対応点の座標値の幾何変換モデルには、例えば、相似変換モデルや、アフィン変換モデルや射影変換モデルを用いても良い。
対応点相対スケールと対応の方向情報の差分値とに基づいて対応点の幾何変換モデルを推定するには、例えば、次の式を用いても良い。
[数3]
Figure 0006459981
ここで、σijは第1の画像のi番目の特徴点のスケール値と、第2の画像のj番目の特徴点のスケール値とを含んで構成される、対応点相対スケール値をしめす。ρijは、特徴点iと特徴点jの方向情報の差分値を示す。
2つの幾何変換モデルの類似性の判定には、例えば、推定した変換モデルのパラメータのうち、スケールと回転に関するパラメータ間の距離値の合計が閾値未満なら同一と判定しても良いし、各パラメータ間の距離値が全て閾値未満なら同一と判定しても良い。
このように、異なる指標に基づいて算出した2つの幾何変換モデルを比較して対象クラスタと第2の画像との同一性を判定することにより、どちらか一方の幾何変換モデルで同一性を判定するよりも頑健に判定できる。
(実施形態1の動作)
次に、実施形態1の動作について詳細に説明する。
図3は本実施形態の動作を示すフローチャートである。
第1の局所特徴量生成部201は第1の画像から、所定の条件を満たす数の特徴点を検出し、第2の局所特徴量生成部202は第2の画像から、所定の条件を満たす数の特徴点を検出する(ステップS301)。次に、第1の局所特徴量生成部201及び第2の局所特徴量生成部202は、各特徴点の座標値から局所特徴量及びスケール情報を生成する(ステップS302)。対応点算出部203は、第1の局所特徴量情報群の任意の局所特徴量と第2の局所特徴量群の任意の局所特徴量との間の距離に基づき、画像間の特徴点の対応関係を求める(ステップS303)。対応点相対スケール算出部204は、第1のスケール情報群と、第2のスケール情報群と、対応点情報群とに基づき相対スケール関係を算出する(ステップS304)。対応点選定部205は、対応点相対スケールに基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS305)。判定部206は、クラスタ単位で、選定した特徴点の数などで画像の間の類似性また同一性を判断する(ステップS306)。
(実施形態1の効果)
以上説明したように、実施形態1においては、画像処理装置10は、対応点相対スケール情報に基づいて、特徴点をクラスタリングすると共に、クラスタ単位で、画像間で同一または類似の被写体を判定する。画像間で正しく対応付けられた特徴点間の相対スケールは被写体ごとに一定となるため、対応点相対スケール情報に基づいて特徴点をクラスタリングすることにより、第1の画像の特徴点と、第2の画像の特徴点との誤った対応付けを削除することができる。これにより、画像間で同一または類似の被写体を精度良く識別することができる。
[第2の実施形態]
次に、第2の実施形態について、詳細に説明する。本実施形態は、特徴点のクラスタリングの際に、相対スケール範囲を限定して、特徴点をクラスタリングする形態である。以下の説明では、実施形態1と同一または類似の構成については同一の符号を振ると共に、適宜、説明を省略する。また、作用効果の記載についても、実施形態1と同様の場合には、適宜、説明を省略する。この点、実施形態3以降についても同様である。
図4は、実施形態2に係る画像処理装置40の機能構成を示すブロック図である。図4に示すように、画像処理装置40は、図2に示す画像処理装置20と同様の構成であり、対応点選定部401の構成と動作が異なる。
対応点選定部401は、対応点相対スケール算出部204が出力した対応点相対スケール情報群と、相対スケール範囲とを用いて、第1の画像に含まれる特徴点をクラスタリングする。特徴点のクラスタリング及び対応点の選定には、実施形態1と同様の方法を用いても良く、詳細な説明は省略する。
相対スケール範囲は、例えば、経験や観測に基づいた値でも良いし、学習データを用いて機械的に学習した値でも良いし、教師なしクラスタリングによって対応点相対スケール情報群から算出した値でも良い。
また、相対スケール範囲は1つでも良いし、2以上であっても良い。画像間の特徴点の対応付けが正しい場合、対応点の相対スケール値は被写体ごとに一定になるため、対応点選定部401は、例えば、相対スケール範囲内に分布する相対スケール値を持つ特徴点を同一のクラスタに分類すれば良い。特徴点のクラスタリング及び対応点の選定には、実施形態1と同様の方法を用いても良く、詳細な説明は省略する。
(実施形態2の動作)
図5は本実施形態の動作を示すフローチャートである。図5を用いて、本実施形態の動作を詳細に説明する。なお、図5に示すステップS501〜ステップS503、及びステップS506は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図5に示すステップS501〜ステップS503の処理を実行後、対応点相対スケール算出部204は、第1のスケール情報群と、第2のスケール情報群と、対応点情報群とに基づき、相対スケール関係を算出する(ステップS504)。対応点選定部401は、対応点相対スケールと相対スケール範囲とに基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS505)。そして、図5に示すステップS506に遷移する。
(実施形態2の効果)
実施形態2は、実施形態1と同様の効果が得られるとともに、相対スケール範囲内の相対スケール情報を持つ特徴点だけをクラスタリングするため、実施形態1より計算量を低減できる。
[第3の実施形態]
次に、実施形態3について、詳細に説明する。本実施形態は、対応点相対スケールを正規化する形態である。
図6は、実施形態3に係る画像処理装置60の機能構成を示すブロック図である。図6に示すように、画像処理装置60は、図2に示す画像処理装置20と同様の構成であり、対応点正規化相対スケール算出部601の構成と動作が異なる。
対応点正規化相対スケール算出部601は、対応点算出部203が出力した対応点情報群と、第1の局所特徴量生成部201が出力した第1のスケール情報群と、第2の局所特徴量生成部202が出力した第2のスケール情報群とを用いて、対応点のスケール値の相対関係である対応点相対スケールを、所定の条件を満たす数を超えて算出する。
次に、対応点正規化相対スケール算出部601は、算出した対応点相対スケールを正規化値に基づいて正規化し、正規化した対応点相対正規化スケールで構成される対応点正規化相対スケール情報群を生成する。
そして、生成した対応点正規化相対スケール情報群を対応点選定部205に出力する。対応点相対スケールの算出には、例えば、実施形態1に係る対応点相対スケール算出部204と同様の方法を用いても良い。
以下、対応点相対スケールの正規化について詳細に説明する。
対応点相対スケールの正規化には、例えば、数4の式を用いても良い。
[数4]
Figure 0006459981
ここで、σ正規値は正規化された対応点相対スケール値を、σ(n)はn番目の対応点(例えば、第1の画像のq番目の特徴点と第2の画像のp番目の特徴点)の相対スケール値を、zは正規化値を示す。
正規化値は、例えば、第2の画像のサイズでもよいし、第2の画像内の被写体の実際のサイズでもよいし、第2の画像における被写体のサイズでもよい。ここで、画像のサイズは、例えば、画像の幅でも良いし、画像の高さでも良いし、画像の画素数でも良いし、画像のアスペクト比でも良い。また、被写体の実際のサイズは、例えば、実物の幅でも良いし、実物の高さでも良い。また、被写体のサイズは、例えば、画像内での被写体の幅でも良いし、高さでも良いし、画素数でも良いし、アスペクト比でも良い。
対応点正規化相対スケール値の一例を図63に示す。図63の横軸は正規化した相対スケール値の対数値を、縦軸は頻度を示す。図63に示すように、画像間の特徴点の対応付けが正しい場合、正規化した相対スケール値は画像内の全ての被写体で一定になるという特性がある。従って、対応点選定部205は、例えば、所定の頻度以上の相対スケール値を持つ特徴点を同一クラスタに分類するようにクラスタリングすれば良い。クラスタリングには、例えば、実施形態1と同様の方法を用いても良い。
(実施形態3の動作)
図7は本実施形態の動作を示すフローチャートである。図7を用いて、本実施形態の動作を詳細に説明する。なお、図7に示すステップS701〜ステップS703、及びステップS706は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図7に示すステップS701〜ステップS703の処理を実行後、対応点正規化相対スケール算出部601は、第1のスケール情報群と、第2のスケール情報群と対応点情報群に基づき相対スケール関係を算出し、算出された相対スケール関係を画像サイズあるいは実際の被写体サイズ等に基づいて正規化する(ステップS704)。対応点選定部205は、対応点正規化相対スケール情報群に基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS705)。そして、図7に示すステップS706に遷移する。
(実施形態3の効果)
実施形態3は、実施形態1と同様の効果が得られるとともに、画像間で正しく対応付けられた特徴点間の相対スケールを正規化すると、正規化した対応点相対スケールは第1の画像内の全ての被写体で一定となる。そのため、対応点の正規化相対スケール値に基づいて特徴点をクラスタリングすることにより、例えば、ロゴなどの一部の模様が同じでサイズが異なる被写体同士の特徴点を対応付けるなど、第1の画像の特徴点と第2の画像の特徴点の誤った対応付けを削除することができる。これにより、画像間でサイズが異なる被写体が含まれていても、実施形態1よりもそれらを精度良く識別することができる。
[実施形態4]
次に、実施形態4について、詳細に説明する。本実施形態は、特徴点の相対方向関係に基づいて、クラスタリングする形態である。
図10は、実施形態4に係る画像処理装置100の機能構成を示すブロック図である。図10に示すように、画像処理装置100は、第1の局所特徴量生成部1001と、第2の局所特徴量生成部1002と、対応点算出部203と、対応点相対方向算出部1003と、対応点選定部1004と、判定部206と、を含んで構成される。ここで、対応点算出部203と判定部206の動作は実施形態1と同様であるため説明を省略する。
(特徴量生成)
第1の局所特徴量生成部1001は、第1の画像から、所定の条件を満たす数の特徴点を検出する。そして、第1の局所特徴量生成部1001は、検出した各特徴点の座標値から、特徴点を含む周辺領域(近傍領域)の局所特徴量を生成する。そして、第1の局所特徴量生成部1001は、生成した局所特徴量で構成される第1の局所特徴量群を対応点算出部203に出力する。
また、第1の局所特徴量生成部1001は、第1の画像から検出した各特徴点の方向情報を算出する。そして、第1の局所特徴量生成部1001は、算出した特徴点の方向情報で構成される第1の方向情報群を対応点相対方向算出部1003に出力する。
特徴点の方向情報は、例えば、各特徴点に付随する方向(角度)の情報であり、特徴点を含む周辺領域の画像からその値が算出される。特徴点の方向情報は、例えば、特徴点を含む周辺領域の画像が回転すると、それに応じてその角度も回転する性質を有することが望ましい。例えば、第1の局所特徴量生成部1001は、当該特徴点を含む周辺領域の輝度勾配の方向を、特徴点の方向情報として算出しても良い。
または、第1の局所特徴量生成部1001は、特徴点の方向情報は、任意の特徴点を含む周辺領域を4x4のパッチ領域に分割し、分割したパッチ領域内の輝度変化を算出しても良い。算出した輝度変化が最も大きい方向を、特徴点の方向情報として算出しても良い。
または、第1の局所特徴量生成部1001は、ウェブレットフィルターを用いて、ウェブレット係数の強度の大きい方向を、特徴点の方向情報として算出しても良い。
第2の局所特徴量生成部1002は、第1の局所特徴量生成部1001と同様の動作により、第2の画像の各特徴点の局所特徴量で構成される第2の局所特徴量群と、第2の画像の各特徴点の方向情報で構成される第2の方向情報群とを生成しても良い。そして、第2の局所特徴量生成部1002は、第2の局所特徴量群を対応点算出部203に出力する。また、第2の局所特徴量生成部1002は、第2の方向情報群を対応点相対方向算出部1003に出力する。
対応点相対方向算出部1003は、対応点算出部203が出力した対応点情報群と、第1の局所特徴量生成部1001が出力した第1の方向情報群と、第2の局所特徴量生成部1002が出力した第2の方向情報群を用いて、対応点の方向情報の相対関係(以下、対応点相対方向情報と呼ぶ)を、所定の条件を満たす数を超えて算出する。そして、対応点相対方向算出部1003は、算出された対応点相対方向情報で構成される、対応点相対方向情報群を、対応点選定部1004に出力する。
以下、対応点相対方向情報の算出について、詳細に説明する。
対応点相対方向算出部1003は、対応点の方向情報の差分値を、対応点相対方向情報として算出しても良い。対応点の方向情報の差分値の算出には、例えば、数5の式を用いても良い。
[数5]
Figure 0006459981
ここで、ρは、対応点の方向情報の差分値を示す。θ(q)は、第1の画像から検出したq番目の特徴点の方向情報を示す。θ(p)は、第2の画像から検出したp番目の特徴点の方向情報を示す。
また、特徴点から指数関数の性質をもつ方向情報を抽出した場合、対応点相対方向は、例えば、対応点の方向情報の比率としても良い。方向情報の比率の算出には、例えば、数6の式を用いても良い。
[数6]
Figure 0006459981
ここで、ρ’は対応点の方向情報の比率を示す。
次に、図64を参照して特徴点の方向情報の特性を説明する。図64は画像10011の被写体に対して画像10012の被写体が45度回転している一例である。図64の矢印の方向は、特徴点の方向情報を示す。図64に示すように、特徴点の方向情報は、画像内の被写体の回転に応じて相対的に変化するという性質を持つ。すなわち、画像内の被写体が45度回転すると、当該被写体の全ての特徴点の方向情報が45度回転する。そのため、数5及び数6により算出された対応点相対方向は、第1の画像の特徴点と第2の画像の特徴点の対応付けが正しい場合、被写体ごとに一定になるという特性を持つ。
対応点選定部1004は、対応点相対方向算出部1003が出力した対応点相対方向情報群を用いて、第1の画像に含まれる特徴点をクラスタリングする。そして、対応点選定部1004は、クラスタリング結果に基づいて特徴点を選定し、選定情報群を出力する。特徴点の選定、及び選定情報群の出力については、上記の実施形態と同様であるため、詳細な説明は省略する。
ここで、対応点選定部1004は、例えば、対応点相対方向の類似度が大きい(距離値が小さい)特徴点が同じクラスタに分類されるようにクラスタリングしても良い。特徴点のクラスタリングには、例えば、実施形態1の対応点選定部205が対応点相対スケールに基づいて特徴点をクラスタリングしたのと同様の方法を用いても良い。対応点の選定には、例えば、任意のクラスタに含まれる特徴点の数が所定の閾値以上ならば、当該クラスタに含まれる特徴点を選定するようにしても良い。
(実施形態4の動作)
図11は本実施形態の動作を示すフローチャートである。図11を用いて、本実施形態の動作を詳細に説明する。なお、図11に示すステップS1101〜ステップS1103、及びステップS1106は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図11に示すステップS1101〜ステップS1103の処理を実行後、対応点相対方向算出部1003は、第1の方向情報群と、第2の方向情報群と対応点情報群に基づき対応点相対方向情報を算出する(ステップS1104)。対応点選定部1004は、対応点相対方向情報群に基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS1105)。そして、図11に示すステップS1106に遷移する。
(実施形態4の効果)
実施形態4は、対応点相対方向情報に基づいて特徴点をクラスタリングすると共に、クラスタ単位で、画像間で同一または類似の被写体を判定する。画像間で正しく対応付けられた特徴点間の相対方向は被写体ごとに一定となるため、対応点相対方向情報に基づいて特徴点をクラスタリングすることにより、第1の画像の特徴点と第2の画像の特徴点の誤った対応付けを削除することができる。これにより、画像間で同一または類似の被写体を精度良く識別することができる。
[実施形態5]
次に、実施形態5について、詳細に説明する。本実施形態は、対応点相対スケール情報、及び対応点相対方向情報をクラスタリングに用いる形態である。
図14は、実施形態5に係る画像処理装置140の機能構成を示すブロック図である。図14に示すように、画像処理装置140は、第1の局所特徴量生成部1401と、第2の局所特徴量生成部1402と、対応点算出部203と、対応点相対スケール算出部204と、対応点相対方向算出部1003と、対応点選定部1403と、判定部206と、を含んで構成される。ここで、対応点算出部203、対応点相対方向算出部1003、及び判定部206の構成と動作は、上述の実施形態と同様であるため説明を省略する。
(特徴量生成)
第1の局所特徴量生成部1401は、第1の局所特徴量群と、第1のスケール情報群とを生成する。そして、第1の局所特徴量生成部1401は、生成した第1の局所特徴量群を、対応点算出部203に出力する、また、第1の局所特徴量生成部1401は、生成した第1のスケール情報群を、対応点相対スケール算出部204に出力する。また、第1の局所特徴量生成部1401は、第1の方向情報群を対応点相対方向算出部1003に出力する。
第2の局所特徴量生成部1402は、第2の局所特徴量群と、第2のスケール情報群と、第2の方向情報群と、を生成する。そして、第2の局所特徴量生成部1402は、第2の局所特徴量群を対応点算出部203に出力する。さらに、第2の局所特徴量生成部1402は、第2のスケール情報群を対応点相対スケール算出部204に出力する。さらに、第2の局所特徴量生成部1402は、第2の方向情報群を対応点相対方向算出部1003に出力する。
(対応点選定)
対応点選定部1403は、対応点相対スケール算出部204が出力した対応点相対スケール情報群と、対応点相対方向算出部1003が出力した対応点相対方向情報群とを用いて、第1の画像に含まれる特徴点をクラスタリングする。
ここで、対応点選定部1403は、例えば、対応点スケール情報の類似度、及び対応点相対方向の類似度が所定の閾値を超える特徴点が、同じクラスタに分類されるようにクラスタリングすることが好ましい。対応点相対スケール方向に基づく特徴点のクラスタリング及び対応点の選定には、例えば、実施形態1と同様の方法を用いても良い。
(実施形態5の動作)
図15は本実施形態の動作を示すフローチャートである。図15を用いて、本実施形態の動作を詳細に説明する。なお、図15に示すステップS1501〜ステップS1503、及びステップS1506は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図15に示すステップS1501〜ステップS1503の処理を実行後、対応点相対スケール算出部204は、対応点情報群と、第1のスケール情報群と、第2のスケール情報群とに基づき、相対スケール関係を算出する。また、対応点相対方向算出部1003は、対応点情報群と、第1の方向情報群と、第2の方向情報群とに基づき、対応点相対方向情報を算出する(ステップS1504)。対応点選定部1403は、対応点相対スケール情報群と対応点相対方向情報群とに基づいて特徴点をクラスタリングし、クラスタリングの結果に基づいて特徴点を選定する(ステップS1505)。そして、図15に示すステップS1506に遷移する。
(実施形態5の効果)
実施形態5は、実施形態1と同様の効果が得られるとともに、画像間で正しく対応付けられた特徴点間の相対方向は被写体ごとに一定となる。そして、実施形態5は、相対方向情報に基づいて特徴点をクラスタリングすることにより、第1の画像の特徴点と第2の画像の特徴点の誤った対応付けを削除することができる。これにより、実施形態5は、実施形態1よりも認識精度を向上することができる。
[実施形態6]
次に、実施形態6について、詳細に説明する。本実施形態は、特徴点の座標値をクラスタリングに用いる形態である。
図22は、実施形態6に係る画像処理装置220の構成を示すブロック図である。図22に示すように、画像処理装置220は、図2に示す画像処理装置20と同様の構成であり、第1の局所特徴量生成部2201、及び対応点選定部2202の構成と動作が異なる。
(特徴量生成)
第1の局所特徴量生成部2201は、実施形態1に係る第1の局所特徴量生成部201と同様の動作により、第1の局所特徴量群を生成し、対応点算出部203に出力する。また、第1の局所特徴量生成部2201は、特徴点から生成した第1のスケール情報群を対応点相対スケール算出部204に出力する。また、第1の局所特徴量生成部2201は、第1の画像から検出した特徴点の座標値で構成される第1の座標値情報群を対応点選定部2202に出力する。
(対応点選定)
対応点選定部2202は、対応点相対スケール算出部204が出力した対応点相対スケール情報群と、第1の局所特徴量生成部2201が出力した第1の座標値情報群とを用いて、第1の画像に含まれる特徴点をクラスタリングする。そして、対応点選定部2202は、クラスタリング結果に基づいて特徴点を選定し、選定情報群を出力する。特徴点の選定、及び選定情報群の出力については、上記の実施形態と同様であるため、詳細な説明は省略する。
以下、対応点の選定について、詳細に説明する。
対応点選定部2202は、選定された特徴点の対応点情報群と、クラスタ情報群とを含んで構成される、選定情報群を判定部206に出力する。ここで、クラスタ情報群は、1以上の特徴点を含む複数のクラスタに係る、複数のクラスタ情報で構成される。
また、対応点選定部2202は、例えば、対応点相対スケール情報群に基づき特徴点をクラスタリングし、そのクラスタリング結果に基づいて特徴点を選定した後、選定した特徴点を第1の座標値情報群に基づきクラスタリングしてもよい。
また、対応点選定部2202は、例えば、対応点相対スケール情報、及び第1の座標値情報群の両方を用いて、特徴点をクラスタリングしてもよい。特徴点のクラスタリングには、前述の実施形態と同様の方法を用いても良く、詳細な説明は省略する。
(実施形態6の動作)
図23は本実施形態の動作を示すフローチャートである。図23を用いて、本実施形態の動作を詳細に説明する。なお、図23に示すステップS2301〜ステップS2303、及びステップS2306は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図23に示すステップS2301〜ステップS2303の処理を実行後、対応点相対スケール算出部204は、第1のスケール情報群と第2のスケール情報群と対応点情報群とに基づいて相対スケール関係を算出する(ステップS2304)。対応点選定部2202は、対応点相対スケール情報群と第1の座標値情報群とに基づいて特徴点をクラスタリングし、クラスタリングの結果に基づいて特徴点を選定する(ステップS2305)。そして、図23に示すステップS2306に遷移する。
(実施形態6の効果)
実施形態6は、実施形態1と同様の効果が得られるとともに、画像内の特徴点の座標値に基づいてそれらをクラスタリングし、クラスタ単位で、画像間で同一または類似の被写体を判定する。そのため、実施形態6は、画像間で正しく対応付けられた特徴点は被写体ごとに密集するため、座標値情報に基づいて特徴点をクラスタリングすることにより、同一スケールの被写体が複数存在する場合であっても、実施形態1よりもそれらを個別に認識できる。
[実施形態7]
次に、実施形態7について詳細に説明する。実施形態7は、特徴点の相対座標値を算出し、クラスタリングに用いる形態である。
図42は、実施形態7に係る画像処理装置420の機能構成を示すブロック図である。図42に示すように、画像処理装置420は、図14に示す画像処理装置140と同様の構成であり、第2の局所特徴量生成部4201、相対座標値算出部4202、及び対応点選定部4203の構成と動作が異なる。
(特徴量生成)
第1の局所特徴量生成部3401は、第1の局所特徴量群と第1の方向情報群と第1の座標値情報群とを生成し、それぞれ、対応点算出部203と対応点相対方向算出部1003と対応点選定部4203とに出力する。また、第1の局所特徴量生成部3401は、図2に示す第1の局所特徴量生成部201と同様の動作により生成した第1のスケール情報群を対応点相対スケール算出部204に出力する。
第2の局所特徴量生成部4201は、第2の局所特徴量群と、第2のスケール情報群と、第2の方向情報群と、第2の座標値情報群を、それぞれ、対応点算出部203と、対応点相対スケール算出部204と、対応点相対方向算出部1003と、相対座標値算出部4202とへ出力する。
(相対座標生成)
相対座標値算出部4202は、対応点相対スケール算出部204が出力した対応点相対スケール情報群と、対応点相対方向算出部1003が出力した対応点相対方向情報群と、第1の局所特徴量生成部3401が出力した第1の座標値情報群と、第2の局所特徴量生成部4201が出力した第2の座標値情報群と、基準点座標値とを用いて、第1の画像の特徴点の座標値を任意の座標系の点に変換する。そして、相対座標値算出部4202は、変換された座標値(以下、対応点相対座標値と呼ぶ)を、対応点選定部4203に出力する。ここで、基準点とは、あらかじめ定められた座標値であり、例えば、第2の画像と同じデカルト座標系内の任意の点でも良い。以下では、被写体中心点を基準点として説明する。
以下、対応点相対座標値の算出について、詳細に説明する。
相対座標値算出部4202は、第2の画像の任意の基準点である基準点座標値(例えば、被写体中心点)と、第2の座標値情報群と、対応点相対スケール情報群と、対応点相対方向情報群と、第1の座標値情報群とに基づき、第1の画像中の各被写体の中心点を算出する。そして、相対座標値算出部4202は、算出した被写体中心点で構成される相対座標値情報群を、対応点選定部4203に出力する。
対応点相対座標値の算出には、例えば、以下の式、数7を用いてもよい。
[数7]
Figure 0006459981
ここで、i及びjは、それぞれ、第1の画像及び第2の画像の特徴点番号を、viは第1の画像のi番目の特徴点の座標値を、σijは対応点相対スケールを、ρijは対応点相対方向を、cijは第1の画像中の被写体中心の座標値を、uj’は第2の画像のj番目の特徴点から第2の画像の被写体中心点へのベクトルを示している。ベクトルは、例えば、以下の式、数8のように算出してもよい。
[数8]
Figure 0006459981
ここで、xjはj番目の特徴点のx座標値を、yjはj番目の特徴点のy座標値を、xcは選定された、第2の画像の基準点のx座標値を、ycは第2の画像の基準点のy座標値を示す。
(対応点選定)
対応点選定部4203は、相対座標値算出部4202が出力した相対座標値情報群と、対応点相対スケール算出部204が出力した対応点相対スケール情報群とを用いて、第1の画像に含まれる特徴点をクラスタリングする。そして、対応点選定部4203は、クラスタリング結果に基づいて特徴点を選定し、選定情報群を出力する。特徴点の選定、及び選定情報群の出力については、上記の実施形態と同様であるため、詳細な説明は省略する。
対応点選定部4203は、例えば、対応点相対スケール群に基づく特徴点のクラスタリング及び対応点の選定には、実施形態6と同様の方法を用いても良い。また、相対座標値情報群に基づく特徴点のクラスタリング及び対応点の選定には、例えば、実施形態6にて第1の座標値情報群に基づいて特徴点をクラスタリングした方法と同様の方法を用いても良い。
また、相対座標値算出部4202は、例えば、基準点座標値を用いなくても良い。この場合、相対座標値算出部4202および対応点選定部4203は、例えば、次のように動作しても良い。
相対座標値算出部4202は、第2の座標値情報群と、対応点相対スケール情報群と、対応点相対方向情報群と、第1の座標値情報群とに基づき、第1の画像中の各特徴点と第2の画像中の各特徴点の相対移動量を算出する。そして、相対座標値算出部4202は、算出した相対移動量で構成される相対座標値情報群を、対応点選定部4203に出力する。
この場合、対応点相対座標値の算出には、例えば、以下の式、数9を用いても良い。
[数9]
Figure 0006459981
ここで、vjjは相対移動量を、vjは第2の画像のj番目の特徴点の座標値を示している。
画像間で同一の被写体の対応点の相対移動量は一定となるため、対応点選定部4203は、例えば、相対座標値情報群に基づく特徴点のクラスタリング及び対応点の選定には、例えば、実施形態6にて第1の座標値情報群に基づいて特徴点をクラスタリングした方法と同様の方法を用いても良い。
これ以降の実施形態では特に明記しないが、相対座標値算出部4202は、基準点座標値の入力がない場合は、上述のように相対座標値情報群を算出しても良い。
(実施形態7の動作)
図43は本実施形態の動作を示すフローチャートである。図43を用いて、本実施形態の動作を詳細に説明する。なお、図43に示すステップS4301〜ステップS4303、及びステップS4306は、上記のステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図43に示すステップS4301〜ステップS4303の処理を実行後、対応点相対スケール算出部204は、第1のスケール情報群と第2のスケール情報群と対応点情報群に基づき相対スケール関係を算出し、対応点相対方向算出部1003は第1の方向情報群と第2に方向情報群と対応点情報群とに基づき対応点相対方向情報を算出する(ステップS4304)。相対座標値算出部4202は、対応点相対スケール情報群と、対応点相対方向情報群と、基準点座標値、第1の座標値情報群と、第2の座標値情報群とを用いて、相対座標値を算出する(ステップS4305)。対応点選定部4203は、相対座標値情報群と対応点相対スケール情報群とに基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS4306)。そして、図43に示すステップS4307に遷移する。
(実施形態7の効果)
実施形態7は、実施形態1と同様の効果が得られるとともに、第1の画像の各特徴点を被写体中心に集めてから、それらをクラスタリングするため、実施形態1よりも特徴点を精度良くクラスタリングできる。従って、実施形態7は、画像内の同一または類似の被写体を実施形態1よりも精度良く識別できる。
以下、上記実施形態の変形例について説明する。
[変形例1]
図8を参照して、変形例1を説明する。図8は、変形例1に係る画像処理装置80の機能構成を示すブロック図である。図8に示すように、画像処理装置80は、図6に示す画像処理装置60と同様の構成であり、対応点選定部401の構成と動作が異なる。また、対応点選定部401は実施形態2と同様の構成と動作であり、ここでの説明を省略する。
(変形例1の動作)
図9は変形例1の動作を示すフローチャートである。図9を用いて、変形例1の動作を詳細に説明する。なお、図9に示すステップS901〜ステップS903、及びステップS906は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図9に示すステップS901〜ステップS903の処理を実行後、対応点正規化相対スケール算出部601は、第1のスケール情報群と、第2のスケール情報群と、対応点情報群とに基づき、相対スケール関係を算出し、画像サイズあるいは実際の被写体のサイズ等に基づいて正規化する(ステップS904)。対応点選定部401は、対応点正規化相対スケール情報群と相対スケール範囲に基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS905)。そして、図9に示すステップS906に遷移する。
(変形例1の効果)
変形例1は、実施形態3と同様の効果が得られるとともに、相対スケール範囲内の正規化相対スケール情報を持つ特徴点だけをクラスタリングするため、実施形態3より計算量を低減できる。
[変形例2]
次に、図12を参照して、変形例2を説明する。図12は、変形例2に係る画像処理装置120の機能構成を示すブロック図である。図12に示すように、画像処理装置120は、図10に示す画像処理装置100と同様の構成であり、対応点選定部1201の構成と動作が異なる。
対応点選定部1201は、対応点相対方向算出部1003が出力した対応点相対方向情報群と、相対方向範囲とを用いて、第1の画像に含まれる特徴点をクラスタリングする。
相対方向範囲は、例えば、経験や観測に基づいた値でも良いし、学習データを用いて機械的に学習した値でも良いし、教師なしクラスタリングによって対応点相対方向情報群から算出した値でも良い。また、相対方向範囲は1つでも良いし、複数でも良い。
画像間の特徴点の対応付けが正しい場合、対応点の相対方向情報は被写体ごとに一定になるため、対応点選定部1201は、例えば、相対方向範囲内に分布する相対方向情報を持つ特徴点を同一のクラスタにクラスタリングすれば良い。特徴点のクラスタリング及び対応点の選定には、例えば、変形例1と同様の方法を用いても良い。
(変形例2の動作)
図13は変形例2の動作を示すフローチャートである。図13を用いて、変形例2の動作を詳細に説明する。なお、図13に示すステップS1301〜ステップS1303、及びステップS1306は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図13に示すステップS1301〜ステップS1303の処理を実行後、対応点相対方向算出部1003は、第1の方向情報群と、第2の方向情報群と、対応点情報群とに基づき、対応点相対方向情報を算出する(ステップS1304)。対応点選定部1201は、対応点相対方向情報群と相対方向範囲とに基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS1305)。そして、図13に示すステップS1306に遷移する。
(変形例2の効果)
変形例2は、実施形態4と同様の効果が得られるとともに、相対方向範囲内の方向情報を持つ特徴点だけをクラスタリングするため、実施形態4より計算量を低減できる。
[変形例3]
次に、図16を参照して、変形例3を説明する。図16は、変形例3に係る画像処理装置160の機能構成を示すブロック図である。図16に示すように、画像処理装置160は、図14に示す画像処理装置140と同様の構成であり、対応点選定部1601の構成と動作が異なる。
対応点選定部1601は、対応点相対スケール算出部204が出力した対応点相対スケール情報群と、対応点相対方向算出部1003が出力した対応点相対方向情報群と、対応点相対スケールの範囲と、対応点相対方向範囲とを用いて、第1の画像に含まれる特徴点をクラスタリングする。
画像間の特徴点の対応付けが正しい場合、対応点の相対スケール値と対応点の相対方向情報は被写体ごとに一定になるため、対応点選定部1601は、例えば、対応点相対スケール情報と、相対方向範囲内に分布する対応点相対スケール情報と、対応点相対方向情報とを持つ特徴点を、同一のクラスタに分類すれば良い。特徴点のクラスタリング及び対応点の選定には、例えば、実施形態5と同様の方法を用いても良い。
(変形例3の動作)
図17は変形例3の動作を示すフローチャートである。図17を用いて、変形例3の動作を詳細に説明する。なお、図17に示すステップS1701〜ステップS1703、及びステップS1706は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図17に示すステップS1701〜ステップS1703の処理を実行後、対応点相対スケール算出部204は、第1のスケール情報群と第2のスケール情報群と対応点情報群に基づき相対スケール関係を算出する。また、対応点相対方向算出部1003は、第1の方向情報群と、第2の方向情報群と対応点情報群に基づき対応点相対方向情報を算出する(ステップS1704)。対応点選定部1601は、対応点相対スケール情報群と、対応点相対方向情報群と、相対スケール範囲と、相対方向範囲とに基づいて、特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS1705)。そして、図17に示すステップS1706に遷移する。
(変形例3の効果)
変形例3は、実施形態5と同様の効果が得られるとともに、相対スケール範囲内の対応点相対スケール情報と相対方向範囲内の対応点相対方向情報を持つ特徴点だけをクラスタリングするため、実施形態5より計算量を低減できる。
[変形例4]
次に、図18を参照して、変形例4を説明する。図18は、変形例4に係る画像処理装置180の機能構成を示すブロック図である。図18に示すように、画像処理装置180は、図14に示す画像処理装置140と同様の構成であり、対応点正規化相対スケール算出部601の構成と動作が異なる。また、対応点正規化相対スケール算出部601の動作は、変形例1と同様であるため説明を省略する。
(変形例4の動作)
図19は変形例4の動作を示すフローチャートである。図19を用いて、変形例4の動作を詳細に説明する。なお、図19に示すステップS1901〜ステップS1903、及びステップS1906は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図19に示すステップS1901〜ステップS1903の処理を実行後、対応点正規化相対スケール算出部601は、第1のスケール情報群と、第2のスケール情報群と対応点情報群とに基づき相対スケール関係を算出し、算出された相対スケール関係を画像サイズあるいは実際の被写体サイズ等に基づいて正規化する。また、対応点相対方向算出部1003は第1の方向情報群と、第2の方向情報群と対応点情報群に基づき対応点相対方向情報を算出する(ステップS1904)。対応点選定部1403は、対応点正規化相対スケール情報と対応点相対方向情報とに基づいて特徴点をクラスタリングし、クラスタリングの結果に基づいて特徴点を選定する(ステップS1905)。そして、図19に示すステップS1906に遷移する。
(変形例4の効果)
変形例4は、実施形態5と同様の効果が得られるともに。また、画像間で正しく対応付けられた特徴点間の相対スケールを正規化すると、正規化した対応点相対スケールは第1の画像内の全ての被写体で一定となるため、実施形態5よりもそれらを精度良く識別することができる。
[変形例5]
次に、図20を参照して、変形例5を説明する。図20は、変形例5に係る画像処理装置200の機能構成を示すブロック図である。図20に示すように、画像処理装置200は、図18に示す画像処理装置180と同様の構成であり、対応点選定部1601の構成と動作が異なる。また、対応点選定部1601の動作は、変形例3と同様であるため説明を省略する。
図21は変形例5の動作を示すフローチャートである。図21を用いて、変形例5の動作を詳細に説明する。なお、図21に示すステップS2101〜ステップS2103、及びステップS2106は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図21に示すステップS2101〜ステップS2103の処理を実行後、対応点正規化相対スケール算出部601は、第1のスケール情報群と第2のスケール情報群と対応点情報群に基づいて相対スケール関係を算出し、算出された相対スケール関係を画像サイズあるいは実際の被写体サイズ等に基づいて正規化する。また、対応点相対方向算出部1003は、第1の方向情報群と、第2の方向情報群と、対応点情報群とに基づき、対応点相対方向情報を算出する(ステップS2104)。対応点選定部1601は、対応点正規化相対スケール情報群と、対応点相対方向情報群と、相対スケール範囲と、相対方向範囲とに基づいて、特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS2105)。そして、図21に示すステップS2106に遷移する。
(変形例5の効果)
変形例5は、変形例4と同様の効果が得られるとともに、相対スケール範囲内の正規化相対スケール値を持つ特徴点と、相対方向範囲内の方向情報を持つ特徴点とだけをクラスタリングするため、変形例4より計算量を低減できる。
[変形例6]
次に、図24を参照して、変形例6を説明する。図24は、変形例6に係る画像処理装置240の機能構成を示すブロック図である。図24に示すように、画像処理装置240は、図22に示す画像処理装置220と同様の構成であり、対応点選定部2401の構成と動作が異なる。
対応点選定部2401は、対応点相対スケール算出部204が出力した対応点相対スケール情報群と相対スケール範囲、及び、第1の局所特徴量生成部2201が出力した特徴点座標値と、座標値範囲とを用いて、第1の画像に含まれる特徴点をクラスタリングする。
相対座標値範囲は、例えば、画像中の被写体範囲が存在する範囲を示す座標値とすれば良い。被写体範囲が存在する範囲の算出には、例えば、経験や観測に基づいて点pと点qを外接する矩形としてもよいし、学習データを用いて、画像のどのあたりに被写体が存在しやすいかという被写体存在確率を機械的に算出し、所定の確率密度以上の領域としても良い。また、相対座標値範囲は、一つでも良いし、複数でも良い。
画像間の特徴点の対応付けが正しい場合、対応点の相対スケール値は被写体ごとに一定になるため、対応点選定部2401は、例えば、相対スケール範囲内に分布する相対スケール値を持つ特徴点を同一のクラスタに分類すれば良い。また、対応点選定部2401は、例えば、相対座標値範囲内の特徴点を同一のクラスタに分類すれば良い。相対スケールに基づくクラスタリング、及び座標値に基づくクラスタリングには、例えば、実施形態1や実施形態6と同様の方法を用いればよい。対応点の選定には、例えば、変形例5と同様の方法を用いても良い。
また、対応点選定部2401は、例えば、対応点相対方向情報群に基づいて特徴点をクラスタリングし、そのクラスタリング結果に基づいて特徴点を選定した後、第1の座標値情報群に基づき選定した特徴点をクラスタリングしてもよい。また、対応点選定部2401は、例えば、第1の座標値情報群に基づいて特徴点をクラスタリングし、そのクラスタリング結果に基づいて特徴点を選定した後、対応点相対方向情報群に基づいて選定した特徴点をクラスタリングしてもよい。また、例えば、対応点選定部2401は、対応点相対方向情報群と第1の座標値情報群との両方を用いて特徴点をクラスタリングしてもよい。
(変形例6の動作)
図25は変形例6の動作を示すフローチャートである。図25を用いて、変形例6の動作を詳細に説明する。なお、図25に示すステップS2501〜ステップS2503、及びステップS2506は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図25に示すステップS2501〜ステップS2503の処理を実行後、対応点相対スケール算出部204は、第1のスケール情報群と、第2のスケール情報群と、対応点情報群に基づき相対スケール関係を算出する(ステップS2504)。対応点選定部2401は、対応点相対スケール情報群と、第1の座標値情報群と、相対スケール範囲と、相対座標値範囲とに基づいて、特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS2505)。そして、図25に示すステップS2506に遷移する。
(変形例6の効果)
変形例6は、実施形態6と同様の効果が得られるとともに、相対スケール範囲内の相対スケール値を持つ特徴点と、相対座標値範囲内の座標値を持つ特徴点とだけをクラスタリングするため、実施形態6より計算量を低減できる。
[変形例7]
次に、図26を参照して、変形例7を説明する。図26は、変形例7に係る画像処理装置260の機能構成を示すブロック図である。図26に示すように、画像処理装置260は、図22に示す画像処理装置220と同様の構成であり、対応点正規化相対スケール算出部601の構成と動作が異なる。また、対応点正規化相対スケール算出部601の動作は、変形例1と同様であるため説明を省略する。
(変形例7の動作)
図27は変形例7の動作を示すフローチャートである。図27を用いて、変形例7の動作を詳細に説明する。なお、図27に示すステップS2701〜ステップS2703、及びステップS2706は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図27に示すステップS2701〜ステップS2703の処理を実行後、対応点正規化相対スケール算出部601は第1のスケール情報群と、第2のスケール情報群と、対応点情報群に基づき、相対スケール関係を算出し、算出された相対スケール関係を画像サイズあるいは実際の被写体サイズ等に基づいて正規化する(ステップS2704)。対応点選定部2202は、対応点正規化相対スケール情報と第1の座標値情報群とに基づいて特徴点をクラスタリングし、クラスタリングの結果に基づいて特徴点を選定する(ステップS2705)。そして、図27に示すステップS2706に遷移する。
(変形例7の効果)
変形例7は、実施形態6と同様の効果が得られるとともに、画像間で正しく対応付けられた特徴点間の相対スケールを正規化すると、正規化した対応点相対スケールは第1の画像内の全ての被写体で一定となるため、実施形態6よりもそれらを精度良く識別することができる。
[変形例8]
次に、図28を参照して、変形例8を説明する。図28は、変形例8に係る画像処理装置280の機能構成を示すブロック図である。図28に示すように、画像処理装置280は、図26に示す画像処理装置260と同様の構成であり、対応点選定部2401の構成と動作が異なる。また、対応点選定部2401の動作は、変形例6と同様であるため説明を省略する。
(変形例8の動作)
図29は本実施形態の動作を示すフローチャートである。図29を用いて、本実施形態の動作を詳細に説明する。なお、図29に示すステップS2901〜ステップS2903、及びステップS2906は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図29に示すステップS2901〜ステップS2903の処理を実行後、対応点正規化相対スケール算出部601は第1のスケール情報群と、第2のスケール情報群と対応点情報群に基づき相対スケール関係を算出し、算出された相対スケール関係を画像サイズあるいは実際の被写体サイズ等に基づいて正規化する(ステップS2904)。対応点選定部2401は、対応点相対スケールと第1の座標値情報群と相対スケール範囲と相対座標値範囲とに基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS2905)。そして、図29に示すステップS2906に遷移する。
(変形例8の効果)
変形例8は、変形例7と同様の効果が得られるとともに正規化相対スケール範囲内の相対スケール値を持つ特徴点と、特徴点座標範囲内の座標情報を持つ特徴点とだけをクラスタリングするため、変形例7より計算量を低減できる。
[変形例9]
次に、図30を参照して、変形例9を説明する。図30は、変形例9に係る画像処理装置300の機能構成を示すブロック図である。図30に示すように、画像処理装置300は、図10に示す画像処理装置100と同様の構成であり、第1の局所特徴量生成部3001、及び対応点選定部3002の構成と動作が異なる。
第1の局所特徴量生成部3001は、実施形態1に係る第1の局所特徴量生成部201と同様の動作により生成した第1の方向情報群を対応点相対方向算出部1003に出力する。また、第1の局所特徴量生成部3001は、実施形態6に係る第1の局所特徴量生成部2201と同様の動作により生成した、第1の局所特徴量群と第1の座標値情報群を、それぞれ、対応点算出部203と対応点選定部3002に出力する。
対応点選定部3002は、対応点相対方向算出部1003が出力した対応点相対方向情報群と、第1の局所特徴量生成部3001が出力した第1の座標値情報群とを用いて、第1の画像に含まれる特徴点をクラスタリングする。
(変形例9の動作)
図31は変形例9の動作を示すフローチャートである。図31を用いて、変形例9の動作を詳細に説明する。なお、図31に示すステップS3101〜ステップS3103、及びステップS3106は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図31に示すステップS3101〜ステップS3103の処理を実行後、対応点相対方向算出部1003は、第1の方向情報群と第2の方向情報群と対応点情報群とに基づいて対応点相対方向情報を算出する(ステップS3104)。対応点選定部3002は、対応点相対方向情報群と第1の座標値情報群とに基づいて特徴点をクラスタリングし、クラスタリングの結果に基づいて特徴点を選定する(ステップS3105)。そして、図31に示すステップS3106に遷移する。
(変形例9の効果)
変形例9は、実施形態4と同様の効果が得られるとともに、画像間で正しく対応付けられた特徴点は被写体ごとに密集するため、座標値に基づいて特徴点をクラスタリングすることにより、相対方向が同じ被写体が複数存在する場合でも実施形態4よりもそれらを個別に認識できる。
[変形例10]
次に、図32を参照して、変形例10を説明する。図32は、変形例10に係る画像処理装置320の機能構成を示すブロック図である。図32に示すように、画像処理装置320は、図30に示す画像処理装置300と同様の構成であり、対応点選定部3201の構成と動作が異なるため、対応点選定部3201について説明する。
対応点選定部3201は、対応点相対方向算出部1003が出力した対応点相対方向情報群と相対方向範囲、及び、第1の局所特徴量生成部3001が出力した特徴点座標値と座標値範囲とを用いて第1の画像に含まれる特徴点をクラスタリングする。
また、対応点選定部3201は、例えば、対応点相対方向情報群に基づいて特徴点をクラスタリングし、そのクラスタリング結果に基づいて特徴点を選定した後、第1の座標値情報群に基づき選定した特徴点をクラスタリングしてもよい。また、対応点選定部3201は、例えば、第1の座標値情報群に基づいて特徴点をクラスタリングし、そのクラスタリング結果に基づいて特徴点を選定した後、対応点相対方向情報群に基づいて選定した特徴点をクラスタリングしてもよい。また、対応点選定部3201は、例えば、対応点相対方向情報群と第1の座標値情報群の両方を用いて特徴点をクラスタリングしてもよい。
(変形例10の動作)
図33は変形例10の動作を示すフローチャートである。図33を用いて、変形例10の動作を詳細に説明する。なお、図33に示すステップS3301〜ステップS3303、及びステップS3306は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図33に示すステップS3301〜ステップS3303の処理を実行後、対応点相対方向算出部1003は、第1の方向情報群と第2の方向情報群と対応点情報群に基づき対応点相対方向情報を算出する(ステップS3304)。対応点選定部3201は、対応点相対方向情報群と第1の座標値情報群と相対方向範囲と相対座標値範囲とに基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS3305)。そして、図33に示すステップS3306に遷移する。
(変形例10の効果)
変形例10は、変形例9と同様の効果が得られるとともに、相対方向範囲内の相対方向情報を持つ特徴点と、相対座標値範囲内の座標値を持つ特徴点とだけをクラスタリングするため、変形例9より計算量を低減できる。
[変形例11]
次に、図34を参照して、変形例11を説明する。図34は、変形例11に係る画像処理装置340の機能構成を示すブロック図である。図34に示すように、画像処理装置340は、図14に示す画像処理装置140と同様の構成であり、第1の局所特徴量生成部3401、及び対応点選定部3402の構成と動作が異なる。
第1の局所特徴量生成部3401は、図30に示す第1の局所特徴量生成部3001と同様の動作により、第1の局所特徴量群と第1の方向情報群と第1の座標値情報群とを生成し、それぞれ、対応点算出部203と対応点相対方向算出部1003と対応点選定部3402とに出力する。また、第1の局所特徴量生成部3401は、実施形態1に係る第1の局所特徴量生成部201と同様の動作により生成した第1のスケール情報群を対応点相対スケール算出部204に出力する。
対応点選定部3402は、対応点相対スケール算出部204が出力した対応点相対スケール情報群と、対応点相対方向算出部1003が出力した対応点相対方向情報群と、第1の局所特徴量生成部3401が出力した第1の座標値情報群とを用いて、第1の画像に含まれる特徴点をクラスタリングする。
(変形例11の動作)
図35は本実施形態の動作を示すフローチャートである。図35を用いて、本実施形態の動作を詳細に説明する。なお、図35に示すステップS3501〜ステップS3503、及びステップS3506は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図35に示すステップS3501〜ステップS3503の処理を実行後、対応点相対スケール算出部204は第1のスケール情報群と第2のスケール情報群と対応点情報群とに基づき相対スケール関係を算出し、対応点相対方向算出部1003は第1の方向情報群と第2の方向情報群と対応点情報群とに基づき対応点相対方向情報を算出する(ステップS3504)。対応点選定部3402は、対応点相対スケール情報群と対応点相対方向情報群と第1の座標値情報群とに基づいて特徴点をクラスタリングし、クラスタリングの結果に基づいて特徴点を選定する(ステップS3505)。そして、図35に示すステップS3506に遷移する。
(変形例11の効果)
変形例11は、実施形態5と同様の効果が得られるとともに、画像内の特徴点の座標値に基づいてそれらをクラスタリングし、クラスタ単位で、画像間で同一または類似の被写体を判定する。画像間で正しく対応付けられた特徴点は被写体ごとに密集するため、座標値情報に基づいて特徴点をクラスタリングすることにより、変形例11は、同一スケールまたは相対方向が同じ被写体が複数存在する場合でも実施形態5よりもそれらを個別に認識できる。
[変形例12]
次に、図36を参照して、変形例12を説明する。図36は、変形例12に係る画像処理装置360の機能構成を示すブロック図である。図36に示すように、画像処理装置360は、図34に示す画像処理装置340と同様の構成であり、対応点選定部3601の構成と動作が異なる。
対応点選定部3601は、対応点相対スケール算出部204が出力した対応点相対スケール情報群と、対応点相対方向算出部1003が出力した対応点相対方向情報群と、第1の局所特徴量生成部3401が出力した第1の座標値情報群と、相対スケール範囲と、相対方向範囲と、相対座標値範囲とを用いて、第1の画像に含まれる特徴点をクラスタリングする。
(変形例12の動作)
図37は変形例12の動作を示すフローチャートである。図37を用いて、変形例12の動作を詳細に説明する。なお、図37に示すステップS3701〜ステップS3703、及びステップS3706は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図37に示すステップS3701〜ステップS3703の処理を実行後、対応点相対スケール算出部204は、第1のスケール情報群と第2のスケール情報群と対応点情報群に基づき相対スケール関係を算出する。また、対応点相対方向算出部1003は、第1の方向情報群と、第2の方向情報群と対応点情報群に基づき対応点相対方向情報を算出する(ステップS3704)。対応点選定部3601は、対応点相対スケール情報群と、対応点相対方向情報群と、第1の座標値情報群と、相対スケール範囲と、相対方向範囲と、相対座標値範囲とに基づいて、特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS3705)。そして、図37に示すステップS3706に遷移する。
(変形例12の効果)
変形例12は、変形例11と同様の効果が得られるとともに、相対スケール範囲内の相対スケール情報を持つ特徴点と、相対方向範囲内の相対方向情報を持つ特徴点と、相対座標値範囲内の座標値情報を持つ特徴点だけをクラスタリングするため、変形例11より計算量を低減できる。
[変形例13]
次に、図38を参照して、変形例13を説明する。図38は、変形例13に係る画像処理装置380の機能構成を示すブロック図である。図38に示すように、画像処理装置380は、図34に示す画像処理装置340と同様の構成であり、対応点正規化相対スケール算出部601の構成と動作が異なる。また、対応点正規化相対スケール算出部601の動作は、第14の実施形態と同様であるため説明を省略する。
(変形例13の動作)
図39は変形例13の動作を示すフローチャートである。図39を用いて、変形例13の動作を詳細に説明する。なお、図39に示すステップS3901〜ステップS3903、及びステップS3906は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図39に示すステップS3901〜ステップS3903の処理を実行後、対応点正規化相対スケール算出部601は、第1のスケール情報群と第2のスケール情報群と対応点情報群に基づき相対スケール関係を算出する。また、対応点相対方向算出部1003は、第1の方向情報群と、第2の方向情報群と対応点情報群に基づき対応点相対方向情報を算出する(ステップS3904)。対応点選定部3402は、対応点相対スケール情報群と、対応点相対方向情報群と、第1の座標値情報群とに基づいて、特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS3905)。そして、図39に示すステップS3906に遷移する。
(変形例13の効果)
変形例13は、変形例11と同様の効果が得られるとともに、また、画像間で正しく対応付けられた特徴点間の相対スケールを正規化すると、正規化した対応点相対スケールは第1の画像内の全ての被写体で一定となるため、変形例11よりもそれらを精度良く識別することができる。
[変形例14]
次に、図40を参照して、変形例14を説明する。図40は、変形例14に係る画像処理装置400の機能構成を示すブロック図である。図40に示すように、画像処理装置400は、図38に示す画像処理装置380と同様の構成であり、対応点選定部3601の構成と動作が異なる。また、対応点選定部3601の動作は、変形例12と同様であるため説明を省略する。
(変形例14の動作)
図41は変形例14の動作を示すフローチャートである。図41を用いて、変形例14の動作を詳細に説明する。なお、図41に示すステップS4101〜ステップS4103、及びステップS4106は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図41に示すステップS4101〜ステップS4103の処理を実行後、対応点正規化相対スケール算出部601は、第1のスケール情報群と第2のスケール情報群と対応点情報群に基づき相対スケール関係を算出する。そして、対応点正規化相対スケール算出部601は、算出された相対スケール関係を画像サイズあるいは実際の被写体サイズ等に基づいて正規化する。また、対応点相対方向算出部1003は、第1の方向情報群と、第2の方向情報群と対応点情報群に基づき対応点相対方向情報を算出する(ステップS4104)。対応点選定部3601は、対応点正規化相対スケール情報群と対応点相対方向情報群と第1の座標値情報群と相対スケール範囲と相対方向範囲と相対座標値範囲とに基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS4105)。そして、図41に示すステップS4106に遷移する。
(変形例14の効果)
変形例14は、変形例13と同様の効果が得られるとともに、相対スケール範囲内の正規化相対スケール値を持つ特徴点と、相対方向範囲内の方向情報を持つ特徴点と、相対座標値範囲内にある特徴点とだけをクラスタリングするため、変形例13より計算量を低減できる。
[変形例15]
次に、図44を参照して、変形例15を説明する。図44は、変形例15に係る画像処理装置440の機能構成を示すブロック図である。図44に示すように、画像処理装置440は、図42に示す画像処理装置420と同様の構成であり、対応点選定部4401の構成と動作が異なる。
対応点選定部4401は、対応点相対スケール算出部204が出力した対応点相対スケール情報群と相対スケール範囲、及び、相対座標値算出部4202が出力した相対座標値情報群と相対座標値範囲とを用いて、特徴点をクラスタリングする。
(変形例15の動作)
図45は変形例15の動作を示すフローチャートである。図45を用いて、変形例15の動作を詳細に説明する。なお、図45に示すステップS4501〜ステップS4503、及びステップS4507は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図45に示すステップS4501〜ステップS4503の処理を実行後、対応点相対スケール算出部204は対応点相対スケールを算出し、対応点相対方向算出部1003は対応点相対方向を算出する(ステップS4504)。相対座標値算出部4202は、対応点相対スケール情報群と、対応点相対方向情報群と、基準点座標値、第1の座標値情報群と、第2の座標値情報群とを用いて、相対座標値を算出する(ステップS4505)。対応点選定部4401は、対応点相対スケール情報群と相対スケール範囲、及び相対座標値情報群と相対座標値範囲とに基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS4506)。そして、図45に示すステップS4507に遷移する。
変形例15は、実施形態7と同様の効果が得られるとともに、相対スケール範囲内の相対スケール値を持つ特徴点と、相対座標値範囲内の相対座標値を持つ特徴点とだけをクラスタリングするため、実施形態7より計算量を低減できる。
[変形例16]
次に、図46を参照して、変形例16を説明する。図46は、変形例16に係る画像処理装置460の機能構成を示すブロック図である。図46に示すように、画像処理装置460は、図42に示す画像処理装置420と同様の構成であり、対応点正規化相対スケール算出部601の構成と動作が異なる。また、対応点正規化相対スケール算出部601の動作は、変形例14と同様であるため説明を省略する。
(変形例16の動作)
図47は変形例16の動作を示すフローチャートである。図47を用いて、変形例16の動作を詳細に説明する。なお、図47に示すステップS4701〜ステップS4703、及びステップS4707は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図47に示すステップS4701〜ステップS4703の処理を実行後、対応点正規化相対スケール算出部601は、第1のスケール情報群と第2のスケール情報群と対応点情報群に基づき相対スケール関係を算出し、算出された相対スケール関係を画像サイズあるいは実際の被写体サイズ等に基づいて正規化する。また、対応点相対方向算出部1003は、第1の方向情報群と、第2の方向情報群と対応点情報群に基づき対応点相対方向情報を算出する(ステップS4704)。相対座標値算出部4202は、対応点正規化相対スケール情報群と、対応点相対方向情報群と、基準点座標値、第1の座標値情報群と、第2の座標値情報群とを用いて、相対座標値を算出する(ステップS4705)。対応点選定部4203は、対応点正規化相対スケール情報群と相対スケール範囲、及び相対座標値情報群と相対座標値範囲とに基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS4706)。そして、図47に示すステップS4707に遷移する。
(変形例16の効果)
変形例16は、実施形態7と同様の効果が得られる。また、画像間で正しく対応付けられた特徴点間の相対スケールを正規化すると、正規化した対応点相対スケールは第1の画像内の全ての被写体で一定となる。そのため、変形例16は、対応点の正規化相対スケール値に基づいて特徴点をクラスタリングすることにより、画像間でサイズが異なる被写体が含まれていても、実施形態7よりもそれらを精度良く識別することができる。
[変形例17]
次に、図48を参照して、変形例17を説明する。図48は、変形例17に係る画像処理装置480の機能構成を示すブロック図である。図48に示すように、画像処理装置480は、図46に示す画像処理装置460と同様の構成であり、対応点選定部4401の構成と動作が異なる。また、対応点選定部4401は、変形例16と同様であるため説明を省略する。
(変形例17の動作)
図49は変形例17の動作を示すフローチャートである。図49を用いて、変形例17の動作を詳細に説明する。なお、図49に示すステップS4901〜ステップS4903、及びステップS4907は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図49に示すステップS4901〜ステップS4903の処理を実行後、対応点正規化相対スケール算出部601は、第1のスケール情報群と第2のスケール情報群と対応点情報群に基づき相対スケール関係を算出し、算出された相対スケール関係を画像サイズあるいは実際の被写体サイズ等に基づいて正規化する。また、対応点相対方向算出部1003は、第1の方向情報群と、第2の方向情報群と対応点情報群に基づき対応点相対方向情報を算出する(ステップS4904)。相対座標値算出部4202は、対応点正規化相対スケール情報群と、対応点相対方向情報群と、基準点座標値、第1の座標値情報群と、第2の座標値情報群とを用いて、相対座標値を算出する(ステップS4905)。対応点選定部4401は、対応点相対スケール情報群と相対スケール範囲、及び相対座標値情報群と相対座標値範囲とに基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS4906)。そして、図49に示すステップS4907に遷移する。
(変形例17の効果)
変形例17は、変形例15と同様の効果が得られるとともに、正規化した対応点相対スケールは第1の画像内の全ての被写体で一定となるため、対応点の正規化相対スケール値に基づいて特徴点をクラスタリングすることにより、変形例16と同様の効果が得られる。また、本実施形態は、相対スケール範囲内の相対スケール値を持つ特徴点と、相対座標値範囲内の相対座標値を持つ特徴点とだけをクラスタリングするため、変形例16よりも計算量を低減できる。
[変形例18]
次に、図50を参照して、変形例18を説明する。図50は、変形例18に係る画像処理装置500の機能構成を示すブロック図である。図50に示すように、画像処理装置500は、図34に示す画像処理装置340と同様の構成であり、第2の局所特徴量生成部4201、相対座標値算出部4202、及び対応点選定部5001の構成と動作が異なる。第2の局所特徴量生成部4201と相対座標値算出部4202の構成と動作は、変形例17と同様の構成であるため説明を省略する。
対応点選定部5001は、相対座標値算出部4202が出力した相対座標値情報群と対応点相対方向算出部1003が出力した対応点相対方向情報群とを用いて、特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する。
(変形例18の動作)
図51は変形例18の動作を示すフローチャートである。図51を用いて、変形例18の動作を詳細に説明する。なお、図51に示すステップS5101〜ステップS5103、及びステップS5107は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図51に示すステップS5101〜ステップS5103の処理を実行後、対応点相対スケール算出部204は、第1のスケール情報群と第2のスケール情報群と対応点情報群とに基づいて相対スケール関係を算出し、対応点相対方向算出部1003は、第1の方向情報群と第2の方向情報群と対応点情報群とに基づいて対応点相対方向情報を算出する(ステップS5104)。相対座標値算出部4202は、対応点相対スケール情報群と、対応点相対方向情報群と、基準点座標値、第1の座標値情報群と、第2の座標値情報群とを用いて、相対座標値を算出する(ステップS5105)。対応点選定部5001は、対応点相対方向情報群と相対座標値情報群とに基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS5106)。そして、図51に示すステップS5107に遷移する。
(変形例18の効果)
変形例18は、変形例11と同様の効果が得られるとともに、第1の画像の各特徴点を被写体中心に集めてから、それらをクラスタリングするため、変形例11よりも特徴点を精度良くクラスタリングできる。従って、画像内の同一または類似の被写体を変形例11よりも精度良く識別できる。
[変形例19]
次に、図52を参照して、変形例19を説明する。図52は、変形例19に示す画像処理装置520の機能構成を示すブロック図である。図52に示すように、画像処理装置520は、図50に示す画像処理装置500と同様の構成であり、対応点選定部5201の構成と動作が異なる。
対応点選定部5201は、相対座標値算出部4202が出力した相対座標値情報群と相対座標値範囲、及び、対応点相対方向算出部1003が出力した対応点相対方向情報群と相対方向範囲とを用いて、特徴点をクラスタリングする。
(変形例19の動作)
図53は変形例19の動作を示すフローチャートである。図53を用いて、変形例19の動作を詳細に説明する。なお、図53に示すステップS5301〜ステップS5303、及びステップS5307は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図53に示すステップS5301〜ステップS5303の処理を実行後、対応点相対スケール算出部204は、第1のスケール情報群と第2のスケール情報群と対応点情報群とに基づいて相対スケール関係を算出し、対応点相対方向算出部1003は、第1の方向情報群と第2の方向情報群と対応点情報群とに基づいて対応点相対方向情報を算出する(ステップS5304)。相対座標値算出部4202は、対応点相対スケール情報群と、対応点相対方向情報群と、基準点座標値、第1の座標値情報群と、第2の座標値情報群を用いて、相対座標値を算出する(ステップS5305)。対応点選定部5201は、対応点相対方向情報群と相対座標値情報群と相対方向範囲と相対座標値範囲とに基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS5306)。そして、図53に示すステップS5307に遷移する。
(変形例19の効果)
変形例19は、変形例18と同様の効果が得られるとともに、相対方向範囲内の相対方向値を持つ特徴点と、相対座標値範囲内の相対座標値を持つ特徴点とだけをクラスタリングするため、変形例18より計算量を低減できる。
[変形例20]
次に、図54を参照して、変形例20を説明する。図54は、変形例20に係る画像処理装置540の機能構成を示すブロック図である。図54に示すように、画像処理装置540は、図42に示す画像処理装置420と同様の構成であり、対応点選定部5401の構成と動作が異なる。
対応点選定部5401は、相対座標値算出部4202が出力した相対座標値情報群と、対応点相対スケール算出部204が出力した対応点相対スケール情報群と、対応点相対方向算出部1003が出力した対応点相対方向情報群とを用いて、特徴点をクラスタリングする。
(変形例20の動作)
図55は変形例20の動作を示すフローチャートである。図55を用いて、変形例20の動作を詳細に説明する。なお、図55に示すステップS5501〜ステップS5503、及びステップS5507は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図55に示すステップS5501〜ステップS5503の処理を実行後、対応点相対スケール算出部204は、第1のスケール情報群と第2のスケール情報群と対応点情報群とに基づき、相対スケール関係を算出し、対応点相対方向算出部1003は第1の方向情報群と第2に方向情報群と対応点情報群とに基づき対応点相対方向情報を算出する(ステップS5504)。相対座標値算出部4202は、対応点相対スケール情報群と、対応点相対方向情報群と、基準点座標値と、第1の座標値情報群と、第2の座標値情報群とを用いて、相対座標値を算出する(ステップS5505)。対応点選定部5401は、対応点相対スケール情報群と対応点相対方向情報群と相対座標値情報群とに基づいて特徴点をクラスタリングし、クラスタリングの結果に基づいて特徴点を選定する(ステップS5506)。そして、図55に示すステップS5507に遷移する。
(変形例20の効果)
変形例20は、実施形態7と同様の効果が得られるとともに、画像間で正しく対応付けられた特徴点間の相対方向は被写体ごとに一定となる。そのため、対応点相対方向情報に基づいて特徴点をクラスタリングすることにより、第1の画像の特徴点と第2の画像の特徴点の誤った対応付けを削除することができる。これにより、本実施形態は、実施形態7よりも画像内の同一または類似の被写体を精度良く識別できる。
[変形例21]
次に、図56を参照して、変形例21を説明する。図56は、変形例21に係る画像処理装置560の機能構成を示すブロック図である。図56に示すように、画像処理装置560は、図54に示す画像処理装置540と同様の構成であり、対応点選定部5601の構成と動作が異なる。
対応点選定部5601は、相対座標値算出部4202が出力した相対座標値情報群と、相対座標値範囲と、対応点相対スケール算出部204が出力した対応点相対スケール情報群と相対スケール範囲、及び、対応点相対方向算出部1003が出力した対応点相対方向情報群と相対方向範囲とを用いて、特徴点をクラスタリングする。
(変形例21の動作)
図57は変形例21の動作を示すフローチャートである。図57を用いて、変形例21の動作を詳細に説明する。なお、図57に示すステップS5701〜ステップS5703、及びステップS5707は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図57に示すステップS5701〜ステップS5703の処理を実行後、対応点相対スケール算出部204は、第1のスケール情報群と第2のスケール情報群と対応点情報群に基づき相対スケール関係を算出し、対応点相対方向算出部1003は第1の方向情報群と第2に方向情報群と対応点情報群とに基づき対応点相対方向情報を算出する(ステップS5704)。相対座標値算出部4202は、対応点相対スケール情報群と、対応点相対方向情報群と、基準点座標値、第1の座標値情報群と、第2の座標値情報群とを用いて、相対座標値を算出する(ステップS5705)。対応点選定部5601は、対応点相対スケール情報群と対応点相対方向情報群と相対座標値情報群と相対スケール範囲と相対方向範囲と相対座標値範囲とに基づいて特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS5706)。そして、図57に示すステップS5707に遷移する。
(変形例21の効果)
変形例21は、変形例20と同様の効果が得られるとともに相対スケール範囲内の相対スケール値を持つ特徴点と、相対方向範囲内の方向情報を持つ特徴点と、相対座標値範囲内の相対座標値を持つ特徴点とだけをクラスタリングするため、変形例20より計算量を低減できる。
[変形例22]
次に、図58を参照して、変形例22を説明する。図58は、変形例22に係る画像処理装置580の機能構成を示すブロック図である。図58に示すように、画像処理装置580は、図54に示す画像処理装置540と同様の構成であり、対応点正規化相対スケール算出部601の構成と動作が異なる。また、対応点正規化相対スケール算出部601の動作は、変形例17と同様であるため説明を省略する。
(変形例22の動作)
図59は変形例22の動作を示すフローチャートである。図59を用いて、変形例22の動作を詳細に説明する。なお、図59に示すステップS5901〜ステップS5903、及びステップS5907は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図59に示すステップS5901〜ステップS5903の処理を実行後、対応点正規化相対スケール算出部601は、第1のスケール情報群と第2のスケール情報群と対応点情報群に基づき相対スケール関係を算出し、算出された相対スケール関係を画像サイズあるいは実際の被写体サイズ等に基づいて正規化する。また、対応点相対方向算出部1003は、第1の方向情報群と、第2の方向情報群と対応点情報群に基づき対応点相対方向情報を算出する(ステップS5904)。相対座標値算出部4202は、対応点相対スケール情報群と、対応点相対方向情報群と、基準点座標値、第1の座標値情報群と、第2の座標値情報群を用いて、相対座標値を算出する(ステップS5905)。対応点選定部5401は、対応点相対スケール情報群と対応点相対方向情報群と相対座標値情報群とに基づいて特徴点をクラスタリングし、クラスタリングの結果に基づいて特徴点を選定する(ステップS5906)。そして、図59に示すステップS5907に遷移する。
(変形例22の効果)
変形例22は、変形例20と同様の効果が得られるとともに、画像間で正しく対応付けられた特徴点間の相対スケールを正規化すると、正規化した対応点相対スケールは第1の画像内の全ての被写体で一定となる。そのため、変形例22は、対応点の正規化相対スケール値に基づいて特徴点をクラスタリングすることにより、画像間でサイズが異なる被写体が含まれていても、変形例20よりもそれらを精度良く識別することができる。
[変形例23]
次に、図60を参照して、変形例23を説明する。図60は、変形例23に係る画像処理装置600の機能構成を示すブロック図である。図60に示すように、画像処理装置600は、図58に示す画像処理装置580と同様の構成であり、対応点選定部5601の構成と動作が異なる。また、対応点選定部5601の動作は、変形例21と同様であるため説明を省略する。
(変形例23の動作)
図61は本実施形態の動作を示すフローチャートである。図61を用いて、変形例23の動作を詳細に説明する。なお、図61に示すステップS6101〜ステップS6103、及びステップS6107は、図3に示すステップS301〜ステップS303、及びステップS306と同一であるため、詳細な説明は省略する。
図61に示すステップS6101〜ステップS6103の処理を実行後、対応点正規化相対スケール算出部601は、第1のスケール情報群と、第2のスケール情報群と、対応点情報群に基づき、相対スケール関係を算出し、算出された相対スケール関係を画像サイズあるいは実際の被写体サイズ等に基づいて正規化する。また、対応点相対方向算出部1003は、第1の方向情報群と、第2の方向情報群と対応点情報群に基づき対応点相対方向情報を算出する(ステップS6104)。相対座標値算出部4202は、対応点相対スケール情報群と、対応点相対方向情報群と、基準点座標値と、第1の座標値情報群と、第2の座標値情報群とを用いて、相対座標値を算出する(ステップS6105)。対応点選定部5601は、対応点相対スケール情報群と、対応点相対方向情報群と、相対座標値情報群と、相対スケール範囲と、相対方向範囲と、相対座標値範囲とに基づいて、特徴点をクラスタリングし、クラスタリング結果に基づいて特徴点を選定する(ステップS6106)。そして、図61に示すステップS6107に遷移する。
(変形例23の効果)
変形例23は、変形例22と同様の効果が得られるとともに、相対スケール範囲内の相対スケール値を持つ特徴点と、相対方向範囲内の相対方向情報を持つ特徴点と、相対座標値範囲内の相対座標値を持つ特徴点とだけをクラスタリングするため、変形例22より計算量を低減できる。
上述の実施形態の一部又は全部は、以下の形態のようにも記載され得るが、以下には限られない。
(形態1)上記第1の視点に係る画像処理装置の通りである。
(形態2)第1の画像から、1又は2以上の第1の特徴点を検出し、検出した前記各第1の特徴点を含む所定の範囲の領域から、前記各第1の特徴点に対応する、第1の局所特徴量情報群を算出する、第1の局所特徴量生成部と、
前記第1の特徴点と、第2の画像から算出した第2の局所特徴量情報群に含まれる第2の特徴点との対応関係を、対応点情報として算出する対応点算出部と、
前記第1の局所特徴量情報群と、前記第2の局所特徴量情報群と、前記対応点情報とに基づいて、前記第1の特徴点の方向と、前記第2の特徴点の方向との相対関係を、対応点相対方向情報として算出する対応点相対方向算出部と、
前記対応点相対方向情報に基づいて、前記第1の特徴点、前記第2の特徴点の少なくとも一の特徴点をクラスタリングし、クラスタリング結果に基づいて、少なくとも一の特徴点を選定する対応点選定部と、
前記対応点選定部が選定した特徴点に基づいて、クラスタ毎に、前記第1の画像と、前記第2の画像を比較し、被写体の同一性を判定する判定部と、
を備える画像処理装置。
(形態3)前記対応点相対情報算出部は、前記対応点相対スケール情報を正規化する、形態1に記載の画像処理装置。
(形態4)前記対応点選定部は、前記対応点相対情報、及び前記第1の特徴点の座標値に基づいて、前記第1の特徴点をクラスタリングする、形態1乃至3のいずれか一に記載の画像処理装置。
(形態5)前記対応点選定部は、選定した特徴点の前記対応点情報と、1又は2以上のクラスタ情報と、を対応付けた選定情報を生成する、形態1乃至4のいずれか一に記載の画像処理装置。
(形態6)前記第2の画像から基準点を選択し、前記第1の特徴点と、前記第2の特徴点と、前記対応点相対情報とに基づいて、前記第1の特徴点と、前記基準点との相対関係を、相対座標情報として算出する、相対座標値算出部をさらに備える形態1乃至5のいずれか一に記載の画像処理装置。
(形態7)前記対応点選定部は、前記対応点相対情報と、所定の対応点相対情報範囲とに基づいて、前記第1の特徴点、前記第2の特徴点の少なくとも一の特徴点をクラスタリングする、形態1乃至6のいずれか一に記載の画像処理装置。
(形態8)上記第2の視点に係る被写体識別方法の通りである。
(形態9)第1の画像から、1又は2以上の第1の特徴点を検出し、検出した前記各第1の特徴点を含む所定の範囲の領域から、前記各第1の特徴点に対応する、第1の局所特徴量情報群を算出する工程と、
前記第1の特徴点と、第2の画像から算出した第2の局所特徴量情報群に含まれる第2の特徴点との対応関係を、対応点情報として算出する工程と、
前記第1の局所特徴量情報群と、前記第2の局所特徴量情報群と、前記対応点情報とに基づいて、前記第1の特徴点の方向と、前記第2の特徴点の方向との相対関係を、対応点相対方向情報として算出する工程と、
前記対応点相対方向情報に基づいて、前記第1の特徴点、前記第2の特徴点の少なくとも一の特徴点をクラスタリングし、クラスタリング結果に基づいて、少なくとも一の特徴点を選定する工程と、
選定された特徴点に基づいて、クラスタ毎に、前記第1の画像と、前記第2の画像を比較し、被写体の同一性を判定する工程と、
を含む被写体識別方法。
(形態10)上記第3の視点に係るプログラムの通りである。
(形態11)画像処理装置を制御するコンピュータに実行させるプログラムであって、
第1の画像から、1又は2以上の第1の特徴点を検出し、検出した前記各第1の特徴点を含む所定の範囲の領域から、前記各第1の特徴点に対応する、第1の局所特徴量情報群を算出する処理と、
前記第1の特徴点と、第2の画像から算出した第2の局所特徴量情報群に含まれる第2の特徴点との対応関係を、対応点情報として算出する工程と、
前記第1の局所特徴量情報群と、前記第2の局所特徴量情報群と、前記対応点情報とに基づいて、前記第1の特徴点の方向と、前記第2の特徴点の方向との相対関係を、対応点相対方向情報として算出する処理と、
前記対応点相対方向情報に基づいて、前記第1の特徴点、前記第2の特徴点の少なくとも一の特徴点をクラスタリングし、クラスタリング結果に基づいて、少なくとも一の特徴点を選定する処理と、
選定された特徴点に基づいて、クラスタ毎に、前記第1の画像と、前記第2の画像を比較し、被写体の同一性を判定する処理と、
を画像処理装置を制御するコンピュータに実行させるプログラム。
なお、引用した上述の特許文献等の開示は、本書に引用をもって繰り込むものとする。本発明の全開示(請求の範囲を含む)の枠内において、さらにその基本的技術思想に基づいて、実施形態ないし実施例の変更・調整が可能である。また、本発明の全開示の枠内において種々の開示要素(各請求項の各要素、各実施形態ないし実施例の各要素、各図面の各要素等を含む)の多様な組み合わせ、ないし、選択が可能である。すなわち、本明は、請求の範囲を含む全開示、技術的思想にしたがって当業者であればなし得るであろう各種変形、修正を含むことは勿論である。特に、本書に記載した数値範囲については、当該範囲内に含まれる任意の数値ないし小範囲が、別段の記載のない場合でも具体的に記載されているものと解釈されるべきである。
10、20、40、60、80、100、120、140、160、180、200、220、240、260、280、300、320、340、360、380、400、420、440、460、480、500、520、540、560、580、600 画像処理装置
11 第1の局所特徴量生成部
13 対応点算出部
14 対応点相対スケール算出部
15 対応点選定部
16 判定部
101、201、1001、1401、2201、3001、3401 第1の局所特徴量生成部
102、202、1002、1402、4201 第2の局所特徴量生成部
103、203 対応点算出部
104、206 判定部
204 対応点相対スケール算出部
205、401、1004、1201、1403、1601、2202、2401、3002、3201、3402、3601、4203、4401、5001、5201、5401、5601 対応点選定部
601 対応点正規化相対スケール算出部
1003 対応点相対方向算出部
4202 相対座標値算出部
10001、10002、10011、10012 画像

Claims (10)

  1. 第1の画像から、1又は2以上の第1の特徴点を検出し、検出した前記各第1の特徴点を含む所定の範囲の領域から、前記各第1の特徴点に対応する、第1の局所特徴量情報群を算出する、第1の局所特徴量生成部と、
    前記第1の特徴点と、第2の画像から算出した第2の局所特徴量情報群に含まれる第2の特徴点との対応関係を、対応点情報として算出する対応点算出部と、
    前記第1の局所特徴量情報群と、前記第2の局所特徴量情報群と、前記対応点情報とに基づいて、前記第1の特徴点のスケールと、前記第2の特徴点のスケールとの相対関係を、対応点相対スケール情報として算出する対応点相対スケール算出部と、
    前記対応点相対スケール情報に基づいて、前記第1の特徴点、前記第2の特徴点の少なくとも一の特徴点をクラスタリングし、クラスタリング結果に基づいて、少なくとも一の特徴点を選定する対応点選定部と、
    前記対応点選定部が選定した特徴点に基づいて、クラスタ毎に、前記第1の画像と、前記第2の画像を比較し、被写体の同一性を判定する判定部と、
    を備える画像処理装置。
  2. 第1の画像から、1又は2以上の第1の特徴点を検出し、検出した前記各第1の特徴点を含む所定の範囲の領域から、前記各第1の特徴点に対応する、第1の局所特徴量情報群を算出する、第1の局所特徴量生成部と、
    前記第1の特徴点と、第2の画像から算出した第2の局所特徴量情報群に含まれる第2の特徴点との対応関係を、対応点情報として算出する対応点算出部と、
    前記第1の局所特徴量情報群と、前記第2の局所特徴量情報群と、前記対応点情報とに基づいて、前記第1の特徴点の方向と、前記第2の特徴点の方向との相対関係を、対応点相対方向情報として算出する対応点相対方向算出部と、
    前記対応点相対方向情報に基づいて、前記第1の特徴点、前記第2の特徴点の少なくとも一の特徴点をクラスタリングし、クラスタリング結果に基づいて、少なくとも一の特徴点を選定する対応点選定部と、
    前記対応点選定部が選定した特徴点に基づいて、クラスタ毎に、前記第1の画像と、前記第2の画像を比較し、被写体の同一性を判定する判定部と、
    を備える画像処理装置。
  3. 前記対応点相対情報算出部は、前記対応点相対スケール情報を正規化する、請求項1に記載の画像処理装置。
  4. 前記対応点選定部は、前記対応点相対情報、及び前記第1の特徴点の座標値に基づいて、前記第1の特徴点をクラスタリングする、請求項1乃至3のいずれか一に記載の画像処理装置。
  5. 前記対応点選定部は、選定した特徴点の前記対応点情報と、1又は2以上のクラスタ情報と、を対応付けた選定情報を生成する、請求項1乃至4のいずれか一に記載の画像処理装置。
  6. 前記第2の画像から基準点を選択し、前記第1の特徴点と、前記第2の特徴点と、前記対応点相対情報とに基づいて、前記第1の特徴点と、前記基準点との相対関係を、相対座標情報として算出する、相対座標値算出部をさらに備える請求項1乃至5のいずれか一に記載の画像処理装置。
  7. 前記対応点選定部は、前記対応点相対情報と、所定の対応点相対情報範囲とに基づいて、前記第1の特徴点、前記第2の特徴点の少なくとも一の特徴点をクラスタリングする、請求項1乃至6のいずれか一に記載の画像処理装置。
  8. 第1の画像から、1又は2以上の第1の特徴点を検出し、検出した前記各第1の特徴点を含む所定の範囲の領域から、前記各第1の特徴点に対応する、第1の局所特徴量情報群を算出する工程と、
    前記第1の特徴点と、第2の画像から算出した第2の局所特徴量情報群に含まれる第2の特徴点との対応関係を、対応点情報として算出する工程と、
    前記第1の局所特徴量情報群と、前記第2の局所特徴量情報群と、前記対応点情報とに基づいて、前記第1の特徴点のスケールと、前記第2の特徴点のスケールとの相対関係を、対応点相対スケール情報として算出する工程と、
    前記対応点相対スケール情報に基づいて、前記第1の特徴点、前記第2の特徴点の少なくとも一の特徴点をクラスタリングし、クラスタリング結果に基づいて、少なくとも一の特徴点を選定する工程と、
    選定された特徴点に基づいて、クラスタ毎に、前記第1の画像と、前記第2の画像を比較し、被写体の同一性を判定する工程と、
    を含む被写体識別方法。
  9. 第1の画像から、1又は2以上の第1の特徴点を検出し、検出した前記各第1の特徴点を含む所定の範囲の領域から、前記各第1の特徴点に対応する、第1の局所特徴量情報群を算出する工程と、
    前記第1の特徴点と、第2の画像から算出した第2の局所特徴量情報群に含まれる第2の特徴点との対応関係を、対応点情報として算出する工程と、
    前記第1の局所特徴量情報群と、前記第2の局所特徴量情報群と、前記対応点情報とに基づいて、前記第1の特徴点の方向と、前記第2の特徴点の方向との相対関係を、対応点相対方向情報として算出する工程と、
    前記対応点相対方向情報に基づいて、前記第1の特徴点、前記第2の特徴点の少なくとも一の特徴点をクラスタリングし、クラスタリング結果に基づいて、少なくとも一の特徴点を選定する工程と、
    選定された特徴点に基づいて、クラスタ毎に、前記第1の画像と、前記第2の画像を比較し、被写体の同一性を判定する工程と、
    を含む被写体識別方法。
  10. 第1の画像から、1又は2以上の第1の特徴点を検出し、検出した前記各第1の特徴点を含む所定の範囲の領域から、前記各第1の特徴点に対応する、第1の局所特徴量情報群を算出する処理と、
    前記第1の特徴点と、第2の画像から算出した第2の局所特徴量情報群に含まれる第2の特徴点との対応関係を、対応点情報として算出する工程と、
    前記第1の局所特徴量情報群と、前記第2の局所特徴量情報群と、前記対応点情報とに基づいて、前記第1の特徴点のスケールと、前記第2の特徴点のスケールとの相対関係を、対応点相対スケール情報として算出する処理と、
    前記対応点相対スケール情報に基づいて、前記第1の特徴点、前記第2の特徴点の少なくとも一の特徴点をクラスタリングし、クラスタリング結果に基づいて、少なくとも一の特徴点を選定する処理と、
    選定された特徴点に基づいて、クラスタ毎に、前記第1の画像と、前記第2の画像を比較し、被写体の同一性を判定する処理と、
    を画像処理装置を制御するコンピュータに実行させるプログラム。
JP2015554986A 2013-12-26 2014-12-25 画像処理装置、被写体識別方法及びプログラム Active JP6459981B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013268852 2013-12-26
JP2013268852 2013-12-26
PCT/JP2014/084254 WO2015099016A1 (ja) 2013-12-26 2014-12-25 画像処理装置、被写体識別方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2015099016A1 JPWO2015099016A1 (ja) 2017-03-23
JP6459981B2 true JP6459981B2 (ja) 2019-01-30

Family

ID=53478863

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015554986A Active JP6459981B2 (ja) 2013-12-26 2014-12-25 画像処理装置、被写体識別方法及びプログラム

Country Status (7)

Country Link
US (1) US9798955B2 (ja)
EP (1) EP3089108B1 (ja)
JP (1) JP6459981B2 (ja)
KR (1) KR101822317B1 (ja)
CN (1) CN105849776A (ja)
HK (1) HK1224069A1 (ja)
WO (1) WO2015099016A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015170461A1 (ja) * 2014-05-07 2015-11-12 日本電気株式会社 画像処理装置、画像処理方法およびコンピュータ可読記録媒体
JP6435048B2 (ja) * 2015-07-06 2018-12-05 日本電信電話株式会社 画像照合装置、画像照合方法、及びプログラム
KR101647691B1 (ko) * 2016-02-12 2016-08-16 데이터킹주식회사 하이브리드 기반의 영상 클러스터링 방법 및 이를 운용하는 서버
WO2017179728A1 (ja) * 2016-04-14 2017-10-19 シャープ株式会社 画像認識装置、画像認識方法および画像認識プログラム
CN110941989A (zh) * 2019-10-18 2020-03-31 北京达佳互联信息技术有限公司 图像校验、视频校验方法、装置、设备及存储介质
KR102395166B1 (ko) * 2021-10-29 2022-05-09 주식회사 딥노이드 특징 좌표 기반의 유사도 산출 장치 및 방법

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6711293B1 (en) 1999-03-08 2004-03-23 The University Of British Columbia Method and apparatus for identifying scale invariant features in an image and use of same for locating an object in an image
JP4374902B2 (ja) 2003-05-16 2009-12-02 富士通株式会社 類似画像検索装置、類似画像検索方法、および類似画像検索プログラム
JP4889351B2 (ja) 2006-04-06 2012-03-07 株式会社トプコン 画像処理装置及びその処理方法
JP4946878B2 (ja) * 2008-01-10 2012-06-06 株式会社豊田中央研究所 画像識別装置及びプログラム
JP5290867B2 (ja) * 2009-05-25 2013-09-18 キヤノン株式会社 画像検索装置およびその方法
JP5385105B2 (ja) * 2009-11-25 2014-01-08 Kddi株式会社 画像検索方法およびシステム
JP2011221688A (ja) * 2010-04-07 2011-11-04 Sony Corp 認識装置、認識方法、およびプログラム
GB2487377B (en) * 2011-01-18 2018-02-14 Aptina Imaging Corp Matching interest points
JP5746550B2 (ja) * 2011-04-25 2015-07-08 キヤノン株式会社 画像処理装置、画像処理方法
CN103065150A (zh) * 2011-10-24 2013-04-24 康佳集团股份有限公司 基于智能移动终端的场景识别方法
CN103946891B (zh) * 2011-11-18 2017-02-22 日本电气株式会社 局部特征量提取装置和局部特征量提取方法
CN102521838B (zh) * 2011-12-19 2013-11-27 国家计算机网络与信息安全管理中心 一种图像匹配方法及系统
JP6280382B2 (ja) * 2013-03-08 2018-02-14 キヤノン株式会社 画像処理装置および画像処理方法
CN103456022B (zh) * 2013-09-24 2016-04-06 中国科学院自动化研究所 一种高分辨率遥感图像特征匹配方法

Also Published As

Publication number Publication date
EP3089108B1 (en) 2022-02-02
US9798955B2 (en) 2017-10-24
US20160300122A1 (en) 2016-10-13
KR20160103053A (ko) 2016-08-31
CN105849776A (zh) 2016-08-10
JPWO2015099016A1 (ja) 2017-03-23
KR101822317B1 (ko) 2018-01-25
WO2015099016A1 (ja) 2015-07-02
EP3089108A1 (en) 2016-11-02
HK1224069A1 (zh) 2017-08-11
EP3089108A4 (en) 2017-08-23

Similar Documents

Publication Publication Date Title
JP6459981B2 (ja) 画像処理装置、被写体識別方法及びプログラム
US10902292B2 (en) Method of training neural network, and recognition method and apparatus using neural network
EP3186780B1 (en) System and method for image scanning
WO2023138300A1 (zh) 目标检测方法及应用其的移动目标跟踪方法
US10878295B2 (en) Method and apparatus for recognizing image
CN111797709B (zh) 一种基于回归检测的实时动态手势轨迹识别方法
WO2022166363A1 (zh) 一种基于近邻子空间划分高光谱影像波段选择方法及系统
JP2020144626A (ja) 異常検出システム、及び異常検出プログラム
KR102366364B1 (ko) 기하학적 패턴 매칭 방법 및 이러한 방법을 수행하는 장치
CN117291936B (zh) 点云分割方法、装置、设备和介质
CN113918744A (zh) 相似图像检索方法、装置、存储介质及计算机程序产品
CN111091022A (zh) 机器视觉的效能评估方法与系统
Steckenrider et al. A probabilistic superpixel-based method for road crack network detection
CN113920073A (zh) 薄卡计数方法、装置、电子设备及存储介质
WO2015178001A1 (ja) 画像照合システム、画像照合方法、およびプログラムを記憶する記録媒体
CN112632601A (zh) 面向地铁车厢场景的人群计数方法
CN113065428A (zh) 基于特征选择的自动驾驶目标识别方法
CN112712123A (zh) 匹配筛选方法、装置、电子设备和计算机可读存储介质
Jumanov et al. Optimization of recognition of microorganisms based on histological information structures of images
CN117495891B (zh) 点云边缘检测方法、装置和电子设备
US20220383514A1 (en) Method and apparatus with object tracking
CN115661552A (zh) 一种点云处理、点云异常检测方法、介质及计算设备
CN115601410A (zh) 一种散斑深度估计方法、系统、电子设备及存储介质
CN116797781A (zh) 一种目标检测方法、装置、电子设备及存储介质
CN115439457A (zh) 一种太赫兹图像衍射条纹识别与定位方法及系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181217

R150 Certificate of patent or registration of utility model

Ref document number: 6459981

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150