JP2019200516A - テンプレート姿勢推定装置、方法、及びプログラム - Google Patents

テンプレート姿勢推定装置、方法、及びプログラム Download PDF

Info

Publication number
JP2019200516A
JP2019200516A JP2018093705A JP2018093705A JP2019200516A JP 2019200516 A JP2019200516 A JP 2019200516A JP 2018093705 A JP2018093705 A JP 2018093705A JP 2018093705 A JP2018093705 A JP 2018093705A JP 2019200516 A JP2019200516 A JP 2019200516A
Authority
JP
Japan
Prior art keywords
geometric transformation
transformation matrix
inlier
corresponding point
point group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018093705A
Other languages
English (en)
Other versions
JP6973285B2 (ja
Inventor
島村 潤
Jun Shimamura
潤 島村
之人 渡邉
Yukito Watanabe
之人 渡邉
杵渕 哲也
Tetsuya Kinebuchi
哲也 杵渕
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2018093705A priority Critical patent/JP6973285B2/ja
Priority to PCT/JP2019/019187 priority patent/WO2019221149A1/ja
Priority to US17/054,752 priority patent/US11651515B2/en
Publication of JP2019200516A publication Critical patent/JP2019200516A/ja
Application granted granted Critical
Publication of JP6973285B2 publication Critical patent/JP6973285B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/344Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/77Determining position or orientation of objects or cameras using statistical methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction

Abstract

【課題】入力画像とテンプレート画像との間の幾何変換を表す幾何変換行列を精度よく求めることができる。【解決手段】幾何変換行列・インライヤ推定部32が、インライヤとなる対応点群を求めると共に、前記入力画像と前記テンプレート画像との間の幾何変換を表す幾何変換行列を推定する。散布度推定部34が、インライヤとなる対応点群に基づいて、対応点の散布度を推定する。平面追跡収束判定閾値算出部36が、推定された前記散布度に基づいて、平面追跡部38での前記幾何変換行列の繰り返し更新を行う際の収束判定に用いる閾値を算出する。平面追跡部38は、算出された閾値を用いて収束したと判定されるまで、入力画像及びテンプレート画像の一方を、幾何変換行列を用いて変換した幾何変換画像との間における対応する画素値の差を最小化するように、幾何変換行列を更新することを繰り返す。【選択図】図1

Description

本発明は、テンプレート姿勢推定装置、方法、及びプログラムに係り、特に、実空間中に存在する平面を撮影した入力画像と所定のテンプレート画像から、入力画像とテンプレートとの間の幾何変換行列を推定し出力する、テンプレート姿勢推定装置、方法、及びプログラムに関する。
実空間中に存在する平面を撮影した入力画像と所定のテンプレート画像から、前記入力画像と前記テンプレート間の幾何変換行列を推定する技術は、例えば前記平面をマーカと見做して、該マーカの位置・姿勢に併せてコンピュータグラフィックス(CG)を重畳表示する拡張現実などを可能としている。幾何変換行列としては、ホモグラフィと呼ばれる3*3の行列やアフィン変換行列と呼ばれる2*3の行列がよく用いられる。
例えば非特許文献1の方法では、テンプレート画像と入力画像間で抽出した特徴点を、特徴点近傍から抽出した特徴量を比較することで対応付け、RANSACと呼ばれる外れ値除去の方法を用いて、テンプレート画像と入力画像間の幾何変換行列を精度よく推定している。
Matthew Brown, David G. Lowe, "Automatic Panoramic Image Stitching using Invariant Features", International Journal of Computer Vision, Volume 74, Issue 1, pp 59-73, August 2007.
従来の方法では、テンプレート画像間と入力画像での対応点を用いて幾何変換行列の推定を実現している。この時、テンプレート画像から抽出した特徴点が、テンプレート画像中の或る部分に集中するなど、幾何変換行列の推定に用いる対応点の位置に偏りがあると、量子化誤差の影響等によって、幾何変換行列の推定精度が悪くなるといった問題がある。
本発明は、上記問題点を解決するために成されたものであり、入力画像とテンプレート画像との間の幾何変換を表す幾何変換行列を精度よく求めることができるテンプレート姿勢推定装置、方法、及びプログラムを提供することを目的とする。
上記目的を達成するために、本発明に係るテンプレート姿勢推定装置は、入力画像とテンプレート画像との間での対応する特徴点同士の複数の対応点からなる対応点群を抽出する対応付け部と、前記抽出された前記対応点群に基づいて、前記抽出された前記対応点群から誤対応点を除去したインライヤとなる対応点群を求めると共に、前記入力画像と前記テンプレート画像との間の幾何変換を表す幾何変換行列を推定する幾何変換行列・インライヤ推定部と、前記入力画像及び前記テンプレート画像の一方を、前記幾何変換行列・インライヤ推定部によって求められた前記幾何変換行列又は前回更新された前記幾何変換行列を用いて変換した幾何変換画像と、前記入力画像及び前記テンプレート画像の他方との間における対応する画素値の差を最小化するように、前記幾何変換行列を更新することを繰り返すことにより、最適な幾何変換行列を求める平面追跡部と、を含んで構成されている。
本発明に係るテンプレート姿勢推定方法は、対応付け部が、入力画像とテンプレート画像との間での対応する特徴点同士の複数の対応点からなる対応点群を抽出し、幾何変換行列・インライヤ推定部が、前記抽出された前記対応点群に基づいて、前記抽出された前記対応点群から誤対応点を除去したインライヤとなる対応点群を求めると共に、前記入力画像と前記テンプレート画像との間の幾何変換を表す幾何変換行列を推定し、平面追跡部が、前記入力画像及び前記テンプレート画像の一方を、前記幾何変換行列・インライヤ推定部によって求められた前記幾何変換行列又は前回更新された前記幾何変換行列を用いて変換した幾何変換画像と、前記入力画像及び前記テンプレート画像の他方との間における対応する画素値の差を最小化するように、前記幾何変換行列を更新することを繰り返すことにより、最適な幾何変換行列を求める。
本発明に係るプログラムは、コンピュータを、上記の発明に係るテンプレート姿勢推定装置の各部として機能させるためのプログラムである。
本発明のテンプレート姿勢推定装置、方法、及びプログラムによれば、インライヤとなる対応点群を求めると共に、前記入力画像と前記テンプレート画像との間の幾何変換を表す幾何変換行列を推定し、前記入力画像及び前記テンプレート画像の一方を、前記幾何変換行列を用いて変換した幾何変換画像との間における対応する画素値の差を最小化するように、前記幾何変換行列を更新することを繰り返すことにより、入力画像とテンプレート画像との間の幾何変換を表す幾何変換行列を精度よく求めることができる、という効果が得られる。
本発明の第1の実施の形態に係るテンプレート姿勢推定装置の構成を示すブロック図である。 本発明の第1の実施の形態に係るテンプレート姿勢推定装置におけるテンプレート姿勢推定処理ルーチンを示すフローチャートである。 本発明の第1の実施の形態に係るテンプレート姿勢推定装置における散布度推定処理を示すフローチャートである。 テンプレート画像と入力画像の一例を示す図である。 テンプレート画像と入力画像との間の対応点群の一例を示す図である。 テンプレート画像と入力画像との間のインライヤとなる対応点群の一例を示す図である。 散布度を推定する方法を説明するための図である。 散布度を推定する方法を説明するための図である。
以下、図面を参照して本発明の実施の形態を詳細に説明する。
<本発明の実施の形態に係る概要>
まず、本発明の実施の形態における概要を説明する。
テンプレート画像と入力画像と間での特徴点同士の対応点を用いて幾何変換行列を推定した後に、空間を運動する平面の画像上の位置と姿勢を高速に追跡する平面追跡法を適用する。平面追跡処理の時に必要となる収束判定の閾値を、特徴点同士の対応点位置から散布度を推定して自動決定することで、幾何変換行列の推定に用いる対応点の位置に偏りがある場合でも、テンプレート画像と入力画像間の幾何変換行列を高精度に推定することができる。
<本発明の実施の形態に係るテンプレート姿勢推定装置の構成>
次に、本発明の実施の形態に係るテンプレート姿勢推定装置の構成について説明する。図1に示すように、本発明の実施の形態に係るテンプレート姿勢推定装置100は、CPUと、RAMと、後述するテンプレート姿勢推定処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含むコンピュータで構成することが出来る。このテンプレート姿勢推定装置100は、機能的には図1に示すように入力部10と、演算部20と、出力部60とを備えている。
入力部10は、少なくともテンプレート画像と入力画像の入力を受け付ける。例えば、図4に示すような、実空間中に存在する同一平面を撮影したテンプレート画像と入力画像とを受け付ける。
演算部20は、対応付け部30と、幾何変換行列・インライヤ推定部32と、散布度推定部34と、平面追跡収束判定閾値算出部36と、平面追跡部38と、メモリ40とを含んで構成されている。
対応付け部30は、入力画像とテンプレート画像との間での特徴点の対応付けを行って、対応する特徴点同士の対応点を求め、複数の対応点からなる対応点群を抽出し、メモリ40に格納する。
幾何変換行列・インライヤ推定部32は、抽出された対応点群を入力とし、外れ値除去の方法を用いて、抽出された対応点群から誤対応点を除去したインライヤとなる対応点群を求めると共に、インライヤとなる対応点群から入力画像とテンプレート画像との間の幾何変換を表す幾何変換行列を推定し、メモリ40に格納する。
散布度推定部34は、インライヤとなる対応点群を入力とし、対応点群の位置のばらつき度合いを算出し、対応点の散布度としてメモリ40に格納する。具体的には、インライヤとなる対応点群に基づいて得られる座標値の最小値及び最大値、インライヤとなる対応点群に基づいて得られる面積、インライヤとなる対応点群に基づいて得られる座標値の標準偏差、又はインライヤとなる対応点群に基づいて得られる座標値の四分位範囲から、散布度を推定する。
平面追跡収束判定閾値算出部36は、散布度を入力とし、散布度と所定の閾値とから、平面追跡部38での幾何変換行列の繰り返し更新を行う際の収束判定に用いる閾値を算出する。
平面追跡部38は、平面追跡処理の収束判定に用いる閾値と、入力画像と、テンプレート画像と、幾何変換行列・インライヤ推定部32によって求められた前記幾何変換行列とを入力とし、該幾何変換行列を初期値とし、平面追跡処理の収束判定に用いる閾値を用いて収束したと判定されるまで、入力画像及びテンプレート画像の一方を、初期値又は前回更新した幾何変換行列を用いて変換した幾何変換画像と、入力画像及びテンプレート画像の他方との間における対応する画素値の差を最小化するように、幾何変換行列を更新することを繰り返すことにより、最適な幾何変換行列を求めて出力部60により出力する。
<本発明の実施の形態に係るテンプレート姿勢推定装置の作用>
次に、本発明の実施の形態に係るテンプレート姿勢推定装置100の作用について説明する。入力部10において入力画像とテンプレート画像の入力を受け付けると、テンプレート姿勢推定装置100は、図2に示すテンプレート姿勢推定処理ルーチンを実行する。
まず、ステップS100において、対応付け部30による対応付け処理が起動される。対応付け部30にはテンプレート画像と入力画像が入力される。本実施の形態では図4に示すようなテンプレート画像と入力画像がそれぞれ入力されたものとして以降の説明を進める。対応付け部30はテンプレート画像と入力画像の両画像間で対応する特徴点同士の対応点を決定する。この対応点決定処理は例えば非特許文献1や非特許文献2など従来の方法によって実現できるため、ここでは簡単に説明する。対応付け部30ではまず、テンプレート画像と入力画像それぞれから、画像上でのコーナーやエッジなどを示す特徴点を抽出する。すべての特徴点について特徴点近傍の画素を用いて特徴量記述を行う。次に一方の画像上のある特徴点の特徴量に最も類似する特徴量を、他方の画像上の全特徴点の中から決定し、これを対応点とする。この処理をすべてに特徴点にわたって行うことで、対応点群を決定する。
[非特許文献2]David G. Lowe, "Distinctive image features from scale-invariant keypoints," International Journal of Computer Vision, 60, 2 (2004), pp. 91-110.
対応付け部30は、最後に、決定した対応点群を出力して処理を終える。本実施の形態では図5に示す対応点群が決定され、出力されたものとして以降説明する。
次に、ステップS102において、幾何変換行列・インライヤ推定部32による幾何変換行列・インライヤ推定処理が起動される。上記ステップS100で得られた対応点群を入力し、外れ値除去の方法を用いて幾何変換行列とインライヤとなる対応点群を推定する。この処理は例えば、ロバスト推定を用いることによって実現できる。つまり、幾何モデルを示す幾何変換行列としてアフィン変換行列やHomography変換行列などを用い、RANSACなどのロバスト推定を適用することで誤対応点を除去しながら同じ平面上の対応点を推定する。この処理によって平面上以外の対応点が誤対応点として除去されながら幾何変換行列が推定される。例えば、図5において類似パターンの存在等によって生じた誤対応点(図5の(a)参照)は除去され、それ以外はインライヤとして残される。ここで、ロバスト推定の手法としてRANSAC以外に、PROSAC(非特許文献3)やMLESAC(非特許文献4)を用いてもよい。
[非特許文献3]Chum, O.; and Matas, J.: Matching with PROSAC - Progressive Sample Consensus, CVPR 2005
[非特許文献4]P. H. S. Torr and A. Zisserman,“MLESAC: a new robust estimator with application to estimating image geometry,” Computer Vision and Image Understanding - Special issue on robusst statistical techniques in image understanding archive, Volume 78, Issue 1, April 2000, Pages 138-156
幾何変換行列・インライヤ推定部32は、最後に決定した幾何変換行列とインライヤとなる対応点群を出力して処理を終える。本実施の形態では図6に示す対応点群がインライヤとして出力されたものとして以降説明する。
次に、ステップS104において、散布度推定部34による散布度推定処理が起動される。散布度推定部34で行われる処理を図3のフローチャートに基づき説明する。散布度推定部34による散布度推定処理が起動されると、ステップS110において、インライヤとなる対応点群を入力として受け付ける。次に、ステップS112において、散布度推定方法として、“最大値・最小値”、“標準偏差”、及び“四分位範囲”の何れを用いるかを判定する。
“最大値・最小値”を用いた散布度推定方法であると定められている場合には、以下のステップS114、S116の処理を行う。
まず、ステップS114では、インライヤとなる対応点群を構成する特徴点のうち、テンプレート画像上の特徴点群を包含するバウンディングボックスを特定する。本実施の形態では図6に示すインライヤとなる対応点群のうち、テンプレート画像上の特徴点は図7に示すものとなる。この特徴点を包含するバウンディングボックスは図8に示すような枠となる。次に該バウンディングボックスの横幅・縦幅、及びテンプレート画像の横幅・縦幅から、後段の平面追跡収束判定閾値算出部36において利用する散布度を算出する。
例えば、バウンディングボックスの右上座標を(min_x, min_y)、右下座標を(max_x, max_y)、テンプレート画像の横幅をTw、縦幅をTh、αを0〜1の値とすると、散布度Wは例えば以下の式(1)で算出できる。
W = α*(max_x-min_x) / Tw + (1-α)*(max_x-min_x) / Th・・・(1)
ここでバウンディングボックスの代わりに、与えられた2次元点集合を囲む、回転を考慮した最小の矩形を求めても良い。また、最大値・最小値の代わりにバウンディングボックスもしくは回転を考慮した最小矩形の面積S_areaを用いて、散布度Wを式(2)で算出しても良い。
W = S_area / Tw*Th・・・(2)
また、“標準偏差”を用いた散布度推定方法であると定められている場合には、以下のステップS118、S120の処理を行う。
ステップS118では、インライヤとなる対応点群を構成する特徴点のうち、テンプレート画像上の特徴点群のX座標、Y座標の標準偏差をそれぞれ算出する。次に、ステップS120において、X座標の標準偏差stddev_x、Y座標の標準偏差stddev_y、テンプレート画像の横幅Tw・縦幅Thから、散布度Wを式(3)により算出する。
W =α*stddev_x / Tw + (1-α)* stddev_y / Th・・・(3)
また、“四分位範囲” を用いた散布度推定方法であると定められている場合には、以下のステップS122、S124の処理を行う。
ステップS122では、インライヤとなる対応点群を構成する特徴点のうち、テンプレート画像上の特徴点群のX座標、Y座標の四分位範囲をそれぞれ算出する。次に、ステップS124では、X座標の四分位範囲IQR_x、Y座標の四分位範囲IQR_y、テンプレート画像の横幅Tw・縦幅Thから散布度Wを式(4)により算出する。
W =α*IQR_x / Tw + (1-α)*IQR_y / Th・・・(4)
ここで、データを大きさの順に並べたときに下から25%に位置する値・50%に位置する値・75%に位置する値のことを第1四分位数・第2四分位数・第3四分位数と呼び、第3四分位数から第1四分位数を引いた値が四分位範囲である。四分位範囲は、極端な値に比較的影響されない特徴がある。本実施の形態では、インライヤに例えば図5の(b)に示すような実際には誤対応である対応点が含まれていた場合でも、四分位範囲を用いることでこの存在の影響を受けずに正しく散布度を算出することが可能となる。例えば、図5の(b)のような誤対応点には影響されない値となる。
このようにして算出された散布度Wは、テンプレート画像に対してインライヤとなる対応点群を構成する特徴点位置の散布度が大きいほど大きな値を取り、或る部分に特徴点が集中するなど偏りがある場合は小さい値となる。
ステップS126において、散布度推定部34は、算出した散布度をメモリ40に記録して処理を終える。
次に、ステップS106では、平面追跡収束判定閾値算出部36による平面追跡収束判定閾値算出処理が起動される。平面追跡収束判定閾値算出部36は散布度を入力し、該散布度と所定の閾値から、平面追跡処理の収束判定に用いる閾値を算出する。平面追跡処理とは、実空間中の平面を捉えた入力画像上でその位置と姿勢を高速に追跡する方法であり、特徴抽出を行わず、平面の見えを直接用いた最適化計算により少ない計算量で追跡可能である。最適化計算とは、例えばテンプレート画像を、幾何変換行列を用いて変換することにより入力画像に位置合わせした幾何変換画像と、入力画像との対応する画素値の差を最小化するように、幾何変換行列を繰り返し処理で更新することで最適な幾何変換行列を推定する方法である。繰り返し処理の収束判定の閾値には、最大繰り返し回数や前記幾何変換画像と入力画像の差を示すRoot mean square(RMS) Error値がよく用いられる。例えば非特許文献5の方法では、最大繰り返し回数Iterを超えた場合、もしくは、幾何変換行列更新前のRMS値から更新後のRMS値を引いたΔRMSが所定の要求精度閾値ΔRMS_thを下回った場合に収束したと判定する。最大繰り返し回数Iterが大きいほど、ΔRMS_thの値が小さいほど、収束条件は厳しいことを意味し、繰り返し回数が多くなる。逆に、最大繰り返し回数Iterが小さいほど、ΔRMS_thの値が大きいほど、収束条件が緩いことを意味し、繰り返し回数が小さくなる。
[非特許文献5]Selim, Benhimane and Ezio Malis, “Real-time image-based tracking of planes using efficient second-order minimization,”IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS). 1. pp. 943-948 vol.1, 2004.
この閾値の設定は、正しい幾何変換行列の推定に大きく影響するが、その設定は経験に委ねられており、スキルの無い者にとっては非常に難しい。この問題を解消するために、平面追跡収束判定閾値算出部36では、散布度推定部34から受信した散布度と所定の閾値を用いて、平面追跡処理に必要な閾値を自動決定する。
前述のとおり、入力された散布度推定部34で算出した散布度Wは、テンプレート画像に対してインライヤとなる対応点群を構成する特徴点位置の散布度が大きいほど大きな値を取り、或る部分に特徴点が集中するなど偏りがある場合は小さい値となる。つまり、散布度Wが小さい時はテンプレート画像中の一部に偏った対応点群から幾何変換行列を推定したこととなり、その精度は悪いと推定される。このような場合は、収束条件を厳しくする必要がある。逆に散布度Wが大きい時は、テンプレート画像中の全体から抽出された対応点群から幾何変換行列を推定したこととなり、その精度は良いと推定される。このような場合は、収束条件を緩くしても良いことになる。平面追跡収束判定閾値算出部36では、この考えに基づき入力された散布度W、所定の閾値である最大繰り返し回数Iter_ini、要求精度閾値ΔRMS_iniから、最大繰り返し回数Iter、要求精度閾値ΔRMS_thを自動決定する。具体的には、自動決定する最大繰り返し回数Iter、要求精度閾値ΔRMS_thはそれぞれ式(5)、式(6)で算出できる。
Iter = Iter_ini / W・・・(5)
ΔRMS_th = ΔRMS_ini*W*W・・・(6)
最後に平面追跡収束判定閾値算出部36は、平面追跡処理の収束判定に用いる最大繰り返し回数Iter、要求精度閾値ΔRMS_thを出力して処理を終える。
最後に、ステップS108において、平面追跡部38による平面追跡処理が起動される。平面追跡部38は、平面追跡処理の収束判定に用いる閾値である最大繰り返し回数Iter、要求精度閾値ΔRMS_thと、テンプレート画像、入力画像、及び、幾何変換行列・インライヤ推定部32で算出された幾何変換行列を入力し、該幾何変換行列を初期値とし、平面追跡処理の収束判定に用いる閾値を用いて収束したと判定されるまで平面追跡処理を実施することで、幾何変換行列を更新し、これを出力する。この処理は非特許文献5に記載の方法と何らか変わらないため、ここでの詳述は割愛する。
以上説明したように、本発明の実施の形態に係るテンプレート姿勢推定装置によれば、インライヤとなる対応点群を求めると共に、前記入力画像と前記テンプレート画像との間の幾何変換を表す幾何変換行列を推定し、前記入力画像及び前記テンプレート画像の一方を、前記幾何変換行列を用いて変換した幾何変換画像との間における対応する画素値の差を最小化するように、前記幾何変換行列を更新することを繰り返すことにより、幾何変換行列の推定に用いる特徴点の位置に偏りがある場合でも、入力画像とテンプレート画像との間の幾何変換を表す幾何変換行列を精度よく求めることができる。
また、対応点の散布度に応じて、平面追跡処理の収束判定に用いる閾値を算出することにより、実空間中に存在する平面を撮影した入力画像と所定のテンプレート画像から、幾何変換行列の推定に用いる特徴点の位置に偏りがある場合でも、より高精度に入力画像とテンプレート間の幾何変換行列を推定することができる。
以上、本発明を実施形態の例に基づき具体的に説明したが、上述の実施形態の説明は、本発明を説明するためのものであって、特許請求の範囲に記載の発明を限定しあるいは範囲を減縮するように解すべきではない。また、本発明の各手段構成は上述の実施形態に限らず、特許請求の範囲に記載の技術的範囲内で種々の変形が可能であることは勿論である。
例えば、最適化計算において、入力画像を、幾何変換行列を用いて変換することによりテンプレート画像に位置合わせした幾何変換画像と、テンプレート画像との対応する画素値の差を最小化するように、幾何変換行列を更新するようにしてもよい。
10 入力部
20 演算部
30 対応付け部
32 幾何変換行列・インライヤ推定部
34 散布度推定部
36 平面追跡収束判定閾値算出部
38 平面追跡部
40 メモリ
60 出力部
100 テンプレート姿勢推定装置

Claims (8)

  1. 入力画像とテンプレート画像との間での対応する特徴点同士の複数の対応点からなる対応点群を抽出する対応付け部と、
    前記抽出された前記対応点群に基づいて、前記抽出された前記対応点群から誤対応点を除去したインライヤとなる対応点群を求めると共に、前記入力画像と前記テンプレート画像との間の幾何変換を表す幾何変換行列を推定する幾何変換行列・インライヤ推定部と、
    前記入力画像及び前記テンプレート画像の一方を、前記幾何変換行列・インライヤ推定部によって求められた前記幾何変換行列又は前回更新された前記幾何変換行列を用いて変換した幾何変換画像と、前記入力画像及び前記テンプレート画像の他方との間における対応する画素値の差を最小化するように、前記幾何変換行列を更新することを繰り返すことにより、最適な幾何変換行列を求める平面追跡部と、
    を含むテンプレート姿勢推定装置。
  2. 前記インライヤとなる対応点群に基づいて、対応点の散布度を推定する散布度推定部と、
    前記推定された前記散布度に基づいて、前記平面追跡部での前記幾何変換行列の繰り返し更新を行う際の収束判定に用いる閾値を算出する平面追跡収束判定閾値算出部と、を更に含み、
    前記平面追跡部は、前記算出された閾値を用いて収束したと判定されるまで、前記幾何変換行列を更新することを繰り返す請求項1記載のテンプレート姿勢推定装置。
  3. 前記散布度推定部は、
    前記インライヤとなる対応点群に基づいて得られる座標値の最小値及び最大値、
    前記インライヤとなる対応点群に基づいて得られる面積、
    前記インライヤとなる対応点群に基づいて得られる座標値の標準偏差、又は
    前記インライヤとなる対応点群に基づいて得られる座標値の四分位範囲から、前記散布度を推定する請求項2記載のテンプレート姿勢推定装置。
  4. 前記閾値は、最大繰り返し回数又は前記画素値の差に関する閾値であって、
    前記平面追跡収束判定閾値算出部は、前記散布度に基づいて、前記インライヤとなる対応点群の分布に偏りがあるほど、前記最大繰り返し回数を多くするように、又は前記画素値の差に関する閾値を小さくするように算出する請求項2又は3記載のテンプレート姿勢推定装置。
  5. 対応付け部が、入力画像とテンプレート画像との間での対応する特徴点同士の複数の対応点からなる対応点群を抽出し、
    幾何変換行列・インライヤ推定部が、前記抽出された前記対応点群に基づいて、前記抽出された前記対応点群から誤対応点を除去したインライヤとなる対応点群を求めると共に、前記入力画像と前記テンプレート画像との間の幾何変換を表す幾何変換行列を推定し、
    平面追跡部が、前記入力画像及び前記テンプレート画像の一方を、前記幾何変換行列・インライヤ推定部によって求められた前記幾何変換行列又は前回更新された前記幾何変換行列を用いて変換した幾何変換画像と、前記入力画像及び前記テンプレート画像の他方との間における対応する画素値の差を最小化するように、前記幾何変換行列を更新することを繰り返すことにより、最適な幾何変換行列を求める
    テンプレート姿勢推定方法。
  6. 散布度推定部が、前記インライヤとなる対応点群に基づいて、対応点の散布度を推定し、
    平面追跡収束判定閾値算出部が、前記推定された前記散布度に基づいて、前記平面追跡部での前記幾何変換行列の繰り返し更新を行う際の収束判定に用いる閾値を算出することを更に含み、
    前記平面追跡部が求めることでは、前記算出された閾値を用いて収束したと判定されるまで、前記幾何変換行列を更新することを繰り返す請求項5記載のテンプレート姿勢推定方法。
  7. 前記散布度推定部が推定することでは、
    前記インライヤとなる対応点群に基づいて得られる座標値の最小値及び最大値、
    前記インライヤとなる対応点群に基づいて得られる面積、
    前記インライヤとなる対応点群に基づいて得られる座標値の標準偏差、又は
    前記インライヤとなる対応点群に基づいて得られる座標値の四分位範囲から、前記散布度を推定する請求項6記載のテンプレート姿勢推定方法。
  8. コンピュータを、請求項1〜請求項4のいずれか1項に記載のテンプレート姿勢推定装置の各部として機能させるためのプログラム。
JP2018093705A 2018-05-15 2018-05-15 テンプレート姿勢推定装置、方法、及びプログラム Active JP6973285B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018093705A JP6973285B2 (ja) 2018-05-15 2018-05-15 テンプレート姿勢推定装置、方法、及びプログラム
PCT/JP2019/019187 WO2019221149A1 (ja) 2018-05-15 2019-05-14 テンプレート姿勢推定装置、方法、及びプログラム
US17/054,752 US11651515B2 (en) 2018-05-15 2019-05-14 Template orientation estimation device, method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018093705A JP6973285B2 (ja) 2018-05-15 2018-05-15 テンプレート姿勢推定装置、方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2019200516A true JP2019200516A (ja) 2019-11-21
JP6973285B2 JP6973285B2 (ja) 2021-11-24

Family

ID=68540028

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018093705A Active JP6973285B2 (ja) 2018-05-15 2018-05-15 テンプレート姿勢推定装置、方法、及びプログラム

Country Status (3)

Country Link
US (1) US11651515B2 (ja)
JP (1) JP6973285B2 (ja)
WO (1) WO2019221149A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117495970A (zh) * 2024-01-03 2024-02-02 中国科学技术大学 基于模板多级匹配的化学仪器位姿估计方法、设备及介质
CN117495970B (zh) * 2024-01-03 2024-05-14 中国科学技术大学 基于模板多级匹配的化学仪器位姿估计方法、设备及介质

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113177582B (zh) * 2021-04-16 2024-03-15 江西航天鄱湖云科技有限公司 一种目标位置的卫星电子信息和光学图像信息关联方法
US20230079864A1 (en) * 2021-09-13 2023-03-16 Wen Li Apparatus and methodology for aiming point and aiming device 6dof detection using image registration

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7590264B2 (en) * 2001-03-08 2009-09-15 Julian Mattes Quantitative analysis, visualization and movement correction in dynamic processes
JP5154751B2 (ja) * 2005-12-22 2013-02-27 株式会社日立メディコ 医用画像処理装置
EP2400461A4 (en) 2009-02-19 2017-08-02 Nec Corporation Image processing system, image processing method, and image processing program
CA2687913A1 (en) * 2009-03-10 2010-09-10 Her Majesty The Queen In Right Of Canada, As Represented By The Minister Of Industry Through The Communications Research Centre Canada Estimation of image relations from point correspondences between images
EP2339537B1 (en) * 2009-12-23 2016-02-24 Metaio GmbH Method of determining reference features for use in an optical object initialization tracking process and object initialization tracking method
EP2668617A1 (en) * 2011-01-27 2013-12-04 Metaio GmbH Method for determining correspondences between a first and a second image, and method for determining the pose of a camera
WO2013071981A1 (en) * 2011-11-18 2013-05-23 Metaio Gmbh Method of matching image features with reference features and integrated circuit therefor
JP6248647B2 (ja) * 2014-01-22 2017-12-20 富士通株式会社 画像照合方法、画像処理システム、及びプログラム
JP2016095668A (ja) * 2014-11-14 2016-05-26 株式会社東芝 パラメータ算出装置、画像補正装置、パラメータ算出方法およびプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117495970A (zh) * 2024-01-03 2024-02-02 中国科学技术大学 基于模板多级匹配的化学仪器位姿估计方法、设备及介质
CN117495970B (zh) * 2024-01-03 2024-05-14 中国科学技术大学 基于模板多级匹配的化学仪器位姿估计方法、设备及介质

Also Published As

Publication number Publication date
WO2019221149A1 (ja) 2019-11-21
JP6973285B2 (ja) 2021-11-24
US20210217196A1 (en) 2021-07-15
US11651515B2 (en) 2023-05-16

Similar Documents

Publication Publication Date Title
US11227144B2 (en) Image processing device and method for detecting image of object to be detected from input data
KR101404640B1 (ko) 영상 매칭 방법 및 이를 수행하는 시스템
US7616807B2 (en) System and method for using texture landmarks for improved markerless tracking in augmented reality applications
CN109934065B (zh) 一种用于手势识别的方法和装置
US20160005145A1 (en) Aligning Ground Based Images and Aerial Imagery
US10636165B2 (en) Information processing apparatus, method and non-transitory computer-readable storage medium
US9721387B2 (en) Systems and methods for implementing augmented reality
US9846974B2 (en) Absolute rotation estimation including outlier detection via low-rank and sparse matrix decomposition
JP6515039B2 (ja) 連続的な撮影画像に映り込む平面物体の法線ベクトルを算出するプログラム、装置及び方法
CN111062966B (zh) 基于l-m算法和多项式插值对相机跟踪进行优化的方法
CN110807459B (zh) 车牌矫正方法、装置以及可读存储介质
KR100951309B1 (ko) 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법
JP6597914B2 (ja) 画像処理装置、画像処理方法、及びプログラム
WO2019221149A1 (ja) テンプレート姿勢推定装置、方法、及びプログラム
CN114998773B (zh) 适用于无人机系统航拍图像的特征误匹配剔除方法及系统
CN113643365A (zh) 一种相机位姿估计方法、装置、设备以及可读存储介质
JP2017130067A (ja) 衛星映像の位置正確度改善のための自動映像処理システム及びその方法
KR20220017697A (ko) 복수의 센서간 캘리브레이션 방법 및 장치
CN113744307A (zh) 一种基于阈值动态调整的图像特征点跟踪方法和系统
CN111951178B (zh) 显著提升图像质量的图像处理方法、装置和电子设备
JP6086491B2 (ja) 画像処理装置およびそのデータベース構築装置
EP2879090B1 (en) Aligning ground based images and aerial imagery
WO2020098532A1 (zh) 移动机器人的定位方法和移动机器人
CN112509058B (zh) 外参的计算方法、装置、电子设备和存储介质
KR101775124B1 (ko) 위성영상의 위치 정확도 개선을 위한 자동영상처리시스템 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200818

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210713

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210826

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211005

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211018

R150 Certificate of patent or registration of utility model

Ref document number: 6973285

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150