JP5719277B2 - 物体座標系変換行列推定成否判定装置および物体座標系変換行列推定成否判定方法ならびにそのプログラム - Google Patents
物体座標系変換行列推定成否判定装置および物体座標系変換行列推定成否判定方法ならびにそのプログラム Download PDFInfo
- Publication number
- JP5719277B2 JP5719277B2 JP2011245666A JP2011245666A JP5719277B2 JP 5719277 B2 JP5719277 B2 JP 5719277B2 JP 2011245666 A JP2011245666 A JP 2011245666A JP 2011245666 A JP2011245666 A JP 2011245666A JP 5719277 B2 JP5719277 B2 JP 5719277B2
- Authority
- JP
- Japan
- Prior art keywords
- score
- coordinate system
- image
- superimposed
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
(1)実空間の3次元点がフレーム画像で観測された画像点を決定し、
(2)3次元点の3次元座標と画像点の座標の組から非線形最小自乗法によってカメラポーズを算出し、
(3)過去に亘った複数時刻のフレーム画像を用いて3次元点の3次元座標を更新する処理を時々刻々繰り返すことによって正確にカメラポーズと3次元点の3次元座標を算出する。
以下、従来の物体座標系変換装置を詳解する。
物体座標系変換装置への入力データは、カメラで撮像したある時刻tのフレーム画像F(t)と、平面物体が写されているテンプレート画像と、カメラの焦点距離等を示すカメラパラメータ、及びテンプレート画像内の平面物体に相当する物体を表示するフレーム画像F(t)上の当該物体に合成したいCGデータである。ここで夫々のデータは予め与えられるものである。ここでは説明の簡単化のためテンプレート画像は1枚のみテンプレート画像記憶部251に格納されているものとする。物体座標系変換装置ではまず、カメラポーズ・3次元座標推定部252によって、フレーム画像F(t)上の物体等の角や交点となる特徴点を追跡した結果に基づき時刻tの特徴点(3次元点)の3次元座標及びカメラポーズを推定する。このカメラポーズと、3次元点の3次元座標はカメラポーズ・3次元座標推定部252で適当に設定されたワールド座標系で記述表現される。
次に3次元座標算出部254にて、前記テンプレート画像内の平面物体の特徴点の三次元座標と、フレーム画像F(t)上のテンプレート画像の端点位置の三次元座標を、フレーム画像F(t)が撮影された時刻t以前の、他の撮影時刻が近いフレーム画像に対するステレオ対応付けによって算出する。続いて平面算出部255が、算出したテンプレート画像内の平面物体内の特徴点の三次元座標に基づいて、3次元空間内でのワールド座標系で記述される平面の法線を算出する。
そして平面算出部255は、フレーム画像F(t)上のテンプレート画像の端点位置の三次元座標と、ワールド座標系での当該平面の法線と、予めテンプレート画像の4隅点に設定された物体座標系での三次元座標と、当該三次元座標から算出した、物体座標系でのテンプレート画像の3次元空間内での平面法線とから、テンプレート画像の平面物体の座標系である物体座標系への剛体変換を表現する物体座標系変換行列を算出する。
ワールド座標系は空間全体を表す座標系であり、3次元点の3次元座標は該ワールド座標系での位置を示す。また本実施形態において「カメラポーズ」とは、ワールド座標系における基準点および基準方向を基準とするカメラの並進(並進位置)、回転(回転角度)を示す。またフレーム画像F(t)は、時刻tにおいてカメラが撮像した画像を示す。
図1は物体座標系変換行列推定成否判定装置の構成を示すブロック図である。
図1に示すとおり、物体座標系変換行列推定成否判定装置1は、合成画像点算出部11と、スコア算出部12と、成否判定部13とを備える。本実施形態による物体座標系変換行列推定成否判定装置1の各処理に用いるデータは、物体座標系変換行列推定成否判定装置1が備える記憶部14に適宜格納することができる。
スコア算出部12は、以下の第1,2の実施形態では、対象画像点及び、対象画像点に関連付けられた合成画像点を夫々入力し、物体座標系変換行列の推定精度を定量化したスコアを出力する。なお合成画像点と対象画像点との距離が離れるほど、CGがフレーム画像F(t)上の合成対象の物体から離れて合成されることとなり、またスコア値も高くなる。スコア算出部12は、以下の第3の実施形態では第1、2の実施形態の入力データに加えてフレーム画像を、第4の実施形態では第3の実施形態の入力データに加えて被写体の3D−CGと、物体座標系変換行列、カメラポーズ、カメラパラメータを、夫々入力し、物体座標系変換行列の推定精度を定量化したスコアを出力する。なおスコアは、物体座標変換行列によってフレーム画像上の重畳対象の物体にCGが重畳される場合の、当該重畳対象の物体とCGとの不一致の度合いを示す値でもある。成否判定部13は、スコア算出部12からスコアを入力し、記憶部14から最小スコアを読出し、成功と判定した場合は成功信号を、失敗と判定した場合は失敗信号を出力する。
第1の実施形態に係る物体座標系変換行列推定成否判定装置で実行される詳細な処理を以下に説明する。
図3は、合成画像点算出部の入力する入力データを示す図である。
図4は、合成画像点算出部の記録するデータを示す図である。
第1の実施形態における物体座標系変換行列推定成否判定装置1では、まず合成画像点算出部11が起動される。合成画像点算出部11は起動されると物体座標系変換行列、カメラポーズ、カメラパラメータ、フレーム画像F(t)上のCGの重畳対象の物体を示す対象画像点、CGについてのオブジェクト上3次元点を入力する(ステップS201)。ここで、対象画像点とオブジェクト上3次元点は図3に示すように、唯一割り振られたIDによって関連付けられている。
図6は、スコア算出部の処理概要を示す図である。
次に、第1の実施形態でのスコア算出部12は、対象画像点及び、対象画像点に関連付けられた合成画像点を入力する。続いて、全ての対象画像点を包含するフレーム画像F(t)上領域を決定する(ステップS502)。この処理は例えば非特許文献『Michael Kass, Andrew Witkin and Demetri Terzopoulos,“Snakes: Active contour models,”International Journal of Computer Vision, vol. 1, no. 4, pp. 321-331,1988.』に記載の動的輪郭法を用いることで実現できる。動的輪郭法とは条件に従って動的に複数個の離散的な点列を結んだ閉曲線の変形を繰り返すことで、輪郭を抽出する方法である。
続いて、成否判定部13が起動される。成否判定部13は起動すると、スコア算出部12からスコアを入力する(ステップS701)。続いて成否判定部13は、記憶部14から過去に算出された最小スコアを読み出す(ステップS702)。該最小スコアとは、処理対象であるフレーム画像F(t)以前のフレーム画像を用いて算出したスコアであり、物体座標系変換装置が起動した時刻からフレーム画像F(t)を撮像した時刻tまでの間での最小のスコア値を示す。続いて成否判定部13は、スコアが最小スコアより小さいかを判定し(ステップS703)、スコアが最小スコアより小さい場合は、スコア算出部12がスコアの算出に用いた物体座標変換行列によるCG重畳の精度向上が成功したと判定し、最小スコアをスコアで更新し記憶部14に記録する(ステップS704)。成否判定部13は、スコアが最小スコアより大きい場合は、スコア算出部12がスコアの算出に用いた物体座標変換行列によるCG重畳の精度向上が失敗したと判定する。そして、更新判定部13は、上記処理で更新と判定した場合は成功信号を出力し(ステップS705)、失敗と判定した場合は失敗信号を出力し(ステップS706)、処理を終える。
第1の実施形態では、対象画像点と、該対象画像点に関連付けて記録された合成画像点間のユークリッド距離をスコアとするため、対象画像点数が多い場合は、物体座標系変換行列推定精度を良好に定量化できる。しかしながら、対象画像点数が少ない場合はスコアの信頼性が下がり、成否判定に失敗することがある。
そこで第2の実施形態では、対象画像点が構成する領域と、合成画像点が構成する領域を比較することで、物体座標系変換行列推定精度をより高い信頼度で表現するスコアの算出方法について述べる。
図9は、第2の実施形態によるスコア算出部の処理概要を示す第1の図である。
図10は、第2の実施形態によるスコア算出部の処理概要を示す第2の図である。
図11は、第2の実施形態によるスコア算出部の処理概要を示す第3の図である。
第2の実施形態では、対象画像点が構成する領域と、合成画像点が構成する領域の重なり度で物体座標系変換行列推定精度を表現するが、フレーム画像のテクスチャ情報の類似度まで含めてスコアを表現した方が、物体座標系変換行列推定精度をより高い信頼度で表現できる。
第3の実施形態におけるスコア算出部12では、第1の実施形態同様、対象画像点及び、対象画像点に関連付けられた合成画像点を入力する。第3の実施形態では加えてフレーム画像F(t)も入力する(ステップS1201)。続いて、スコア算出部12は、第1の実施形態同様に全ての対象画像点を包含するフレーム画像上領域を決定する(ステップS1202)。続いて、スコア算出部12は、同様に全ての合成画像点を包含する合成画像上領域を決定する(ステップS1203)。
図14は、第3の実施形態によるスコア算出部の処理概要を示す第2の図である。
図15は、第3の実施形態によるスコア算出部の処理概要を示す第3の図である。
フレーム画像上領域内の各画素のテクスチャ情報を合成画像上領域にマッピングする処理の詳細について、図13,14,15を用いて説明する。
まず、フレーム画像上領域は図13に示すような5角形の(5つの対象画像点を頂点とする)領域である。スコア算出部12は、当該フレーム画像上領域を構成する全ての対象画像点について、横座標および縦座標ともに0.0〜1.0の座標範囲で正規化し、各対象画像点についての座標をそれぞれ決定し、対象画像点の情報に関連付けて記録しておく。
続いて、スコア算出部12は、フレーム画像上領域内に表示された文字「A」と同一位置に当該文字「A」が表示されている場合の合成画像上領域内の各画素についてのテクスチャ情報と、図15で示すようなマッピング後の合成画像上領域内の各画素についてのテクスチャ情報との差分総和値Idiffを算出する(ステップS1205)。ここで、図16におけるフレーム画像内において合成画像上領域外のテクスチャ情報を0、合成画像上領域内にマッピングされた後(図15)の合成画像上領域の各画素の座標(p,q)のテクスチャ情報をIm(p,q)、文字「A」が表示された場合(図14)の合成画像上領域内の各画素の座標(p,q)のテクスチャ情報をIr(p,q)とした場合、差分総和値Idiffは、式(8)によって算出できる。
第3の実施形態では、フレーム画像F(t)内における対象画像点が構成する領域に属する各画素のテクスチャ情報を、合成画像点が構成する領域へマッピングしたものと、当該マッピング以前に合成画像点が構成する領域に属する各画素のテクスチャ情報を比較することで、物体座標系変換行列推定精度を表現するが、テクスチャ情報の取得やマッピングに幾何変換を要するため計算量が大きいといった問題がある。
第4の実施形態におけるスコア算出部12では、第1の実施形態同様、対象画像点及び、対象画像点に関連付けられた合成画像点を入力する。第4の実施形態では加えてフレーム画像F(t)も入力する(ステップS1701)。続いてスコア算出部12は、フレーム画像F(t)内に写る所定の被写体と同じ被写体についての3D−CGとカメラパラメータ、及び、物体座標系変換装置が算出した物体座標系変換行列、カメラポーズを入力する(ステップS1702)。
図19は、第4の実施形態によるスコア算出部の処理の説明に用いる第2の図である。
図20は、第4の実施形態によるスコア算出部の処理の説明に用いる第3の図である。
図21は、第4の実施形態によるスコア算出部の処理の説明に用いる第4の図である。
図22は、第4の実施形態によるスコア算出部の処理の説明に用いる第5の図である。
図23は、第4の実施形態によるスコア算出部の処理の説明に用いる第6の図である。
第4の実施形態では、例えば図18に示すような3D−CGが予め準備されており、これを物体座標系変換行列推定成否判定装置1が入力したものとして以降の説明を進める。ここで、被写体の3D−CGは3次元座標で表現される頂点と頂点同士を結んだ面から構成されるソリッドモデルであるものとする。当該3D−CGに面の色を示すテクスチャは付与されていてもされていなくてもよい。
11・・・合成画像点算出部
12・・・スコア算出部
13・・・成否判定部
14・・・記憶部
Claims (3)
- ワールド座標系における基準点および基準方向を基準とするカメラの並進位置および回転角度を示すカメラポーズと、少なくとも前記カメラの焦点距離を示すカメラパラメータと、前記カメラの撮影に基づいて得られたフレーム画像上において重畳画像の重畳対象の物体を示す対象画像点と、前記ワールド座標系とは異なる座標系である物体座標系での前記重畳画像の3次元点を示すオブジェクト上3次元点と、前記ワールド座標系における座標を前記物体座標系の座標への変換に利用する物体座標変換行列と、に基づいて、前記オブジェクト上3次元点が前記物体座標変換行列によって前記フレーム画像上に重畳される場合の対応する合成画像点を算出する合成画像点算出部と、
前記対象画像点と対応する前記合成画像点とに基づいて、前記物体座標変換行列によって前記フレーム画像上の重畳対象の物体に重畳画像が重畳される場合の、当該重畳対象の物体と重畳画像との不一致の度合いを示すスコアを算出するスコア算出部と、
当該算出されたスコアが過去に算出された何れの他のスコアよりも値が低い場合には、前記スコア算出部がスコアの算出に用いた物体座標変換行列による重畳画像の重畳の精度向上が成功した旨を示す成功信号を出力し、前記スコア算出部の算出したスコアが過去に算出された最も値の低いスコアよりも値が高い場合には、前記スコア算出部がスコアの算出に用いた物体座標変換行列による重畳画像の重畳の精度向上が失敗した旨を示す失敗信号を出力する成否判定部と、
を備え、
前記スコア算出部は、前記対象画像点の全てを包含する前記フレーム画像上の領域と、前記合成画像点の全てを包含する前記フレーム画像上の領域との重複領域を決定し、当該重複領域の大きさに基づく値の逆数を前記スコアとして算出する
ことを特徴とする物体座標系変換行列推定成否判定装置。 - 物体座標系変換行列推定成否判定装置が、
ワールド座標系における基準点および基準方向を基準とするカメラの並進位置および回転角度を示すカメラポーズと、少なくとも前記カメラの焦点距離を示すカメラパラメータと、前記カメラの撮影に基づいて得られたフレーム画像上において重畳画像の重畳対象の物体を示す対象画像点と、前記ワールド座標系とは異なる座標系である物体座標系での前記重畳画像の3次元点を示すオブジェクト上3次元点と、前記ワールド座標系における座標を前記物体座標系の座標への変換に利用する物体座標変換行列と、に基づいて、前記オブジェクト上3次元点が前記物体座標変換行列によって前記フレーム画像上に重畳される場合の対応する合成画像点を算出し、
前記対象画像点と対応する前記合成画像点とに基づいて、前記物体座標変換行列によって前記フレーム画像上の重畳対象の物体に重畳画像が重畳される場合の、当該重畳対象の物体と重畳画像との不一致の度合いを示すスコアを算出する処理において、前記対象画像点の全てを包含する前記フレーム画像上の領域と、前記合成画像点の全てを包含する前記フレーム画像上の領域との重複領域を決定し、当該重複領域の大きさに基づく値の逆数を前記スコアとして算出し、
当該算出されたスコアが過去に算出された何れの他のスコアよりも値が低い場合には、前記スコアの算出に用いた物体座標変換行列による重畳画像の重畳の精度向上が成功した旨を示す成功信号を出力し、前記算出したスコアが過去に算出された最も値の低いスコアよりも値が高い場合には、前記スコアの算出に用いた物体座標変換行列による重畳画像の重畳の精度向上が失敗した旨を示す失敗信号を出力する
ことを特徴とする物体座標系変換行列推定成否判定方法。 - 物体座標系変換行列推定成否判定装置のコンピュータを、
ワールド座標系における基準点および基準方向を基準とするカメラの並進位置および回転角度を示すカメラポーズと、少なくとも前記カメラの焦点距離を示すカメラパラメータと、前記カメラの撮影に基づいて得られたフレーム画像上において重畳画像の重畳対象の物体を示す対象画像点と、前記ワールド座標系とは異なる座標系である物体座標系での前記重畳画像の3次元点を示すオブジェクト上3次元点と、前記ワールド座標系における座標を前記物体座標系の座標への変換に利用する物体座標変換行列と、に基づいて、前記オブジェクト上3次元点が前記物体座標変換行列によって前記フレーム画像上に重畳される場合の対応する合成画像点を算出する合成画像点算出手段、
前記対象画像点と対応する前記合成画像点とに基づいて、前記物体座標変換行列によって前記フレーム画像上の重畳対象の物体に重畳画像が重畳される場合の、当該重畳対象の物体と重畳画像との不一致の度合いを示すスコアを算出するスコア算出手段、
当該算出されたスコアが過去に算出された何れの他のスコアよりも値が低い場合には、前記スコア算出手段がスコアの算出に用いた物体座標変換行列による重畳画像の重畳の精度向上が成功した旨を示す成功信号を出力し、前記スコア算出手段の算出したスコアが過去に算出された最も値の低いスコアよりも値が高い場合には、前記スコア算出手段がスコアの算出に用いた物体座標変換行列による重畳画像の重畳の精度向上が失敗した旨を示す失敗信号を出力する成否判定手段、
として機能させ、
前記スコア算出手段は、前記対象画像点の全てを包含する前記フレーム画像上の領域と、前記合成画像点の全てを包含する前記フレーム画像上の領域との重複領域を決定し、当該重複領域の大きさに基づく値の逆数を前記スコアとして算出する
プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011245666A JP5719277B2 (ja) | 2011-11-09 | 2011-11-09 | 物体座標系変換行列推定成否判定装置および物体座標系変換行列推定成否判定方法ならびにそのプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011245666A JP5719277B2 (ja) | 2011-11-09 | 2011-11-09 | 物体座標系変換行列推定成否判定装置および物体座標系変換行列推定成否判定方法ならびにそのプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013101552A JP2013101552A (ja) | 2013-05-23 |
JP5719277B2 true JP5719277B2 (ja) | 2015-05-13 |
Family
ID=48622104
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011245666A Expired - Fee Related JP5719277B2 (ja) | 2011-11-09 | 2011-11-09 | 物体座標系変換行列推定成否判定装置および物体座標系変換行列推定成否判定方法ならびにそのプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5719277B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111327840A (zh) * | 2020-02-27 | 2020-06-23 | 努比亚技术有限公司 | 一种多帧特效视频获取方法、终端及计算机可读存储介质 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6952488B2 (en) * | 2001-08-27 | 2005-10-04 | Carnegie Mellon University | System and method for object localization |
WO2007119870A1 (ja) * | 2006-04-14 | 2007-10-25 | Nec Corporation | 照合装置および照合方法 |
CN101542520B (zh) * | 2007-03-09 | 2011-12-07 | 欧姆龙株式会社 | 识别处理方法及使用该方法的图像处理装置 |
JP2011220752A (ja) * | 2010-04-07 | 2011-11-04 | Seiko Epson Corp | 三次元形状計測装置および三次元形状計測装置のキャリブレーション方法 |
-
2011
- 2011-11-09 JP JP2011245666A patent/JP5719277B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2013101552A (ja) | 2013-05-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Poirson et al. | Fast single shot detection and pose estimation | |
CN110568447B (zh) | 视觉定位的方法、装置及计算机可读介质 | |
US10254845B2 (en) | Hand gesture recognition for cursor control | |
US10776936B2 (en) | Point cloud matching method | |
US10354129B2 (en) | Hand gesture recognition for virtual reality and augmented reality devices | |
JP6011102B2 (ja) | 物体姿勢推定方法 | |
JP6560480B2 (ja) | 画像処理システム、画像処理方法、及びプログラム | |
US9420265B2 (en) | Tracking poses of 3D camera using points and planes | |
US9892323B2 (en) | Augmented reality device based on recognition of spatial structure and method thereof | |
JP5771413B2 (ja) | 姿勢推定装置、姿勢推定システム、および姿勢推定方法 | |
CN110853100B (zh) | 一种基于改进点线特征的结构化场景视觉slam方法 | |
JP2016099941A (ja) | オブジェクト位置推定システム、及びそのプログラム | |
CN111160291B (zh) | 基于深度信息与cnn的人眼检测方法 | |
WO2020152927A1 (ja) | 学習用データ生成方法、学習用データ生成装置、および、推論処理方法 | |
US10460472B2 (en) | System and method for model adaptation | |
CN110546644A (zh) | 识别装置、识别方法以及识别程序 | |
WO2021114776A1 (en) | Object detection method, object detection device, terminal device, and medium | |
KR101478709B1 (ko) | Rgb-d 영상 특징점 추출 및 특징 기술자 생성 방법 및 장치 | |
Li et al. | RGBD relocalisation using pairwise geometry and concise key point sets | |
EP3825804A1 (en) | Map construction method, apparatus, storage medium and electronic device | |
JP5719277B2 (ja) | 物体座標系変換行列推定成否判定装置および物体座標系変換行列推定成否判定方法ならびにそのプログラム | |
JP6717049B2 (ja) | 画像解析装置、画像解析方法およびプログラム | |
KR101225644B1 (ko) | 로봇의 물체 인식 및 자세 추정 방법 | |
Afzal et al. | Kinect Deform: enhanced 3d reconstruction of non-rigidly deforming objects | |
EP3846136A1 (en) | Augmenting a video flux of a real scene |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20130606 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20130802 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140115 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140912 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140924 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20141120 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150317 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150320 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5719277 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |