JP6806160B2 - 3次元運動評価装置、3次元運動評価方法、及びプログラム - Google Patents
3次元運動評価装置、3次元運動評価方法、及びプログラム Download PDFInfo
- Publication number
- JP6806160B2 JP6806160B2 JP2018548017A JP2018548017A JP6806160B2 JP 6806160 B2 JP6806160 B2 JP 6806160B2 JP 2018548017 A JP2018548017 A JP 2018548017A JP 2018548017 A JP2018548017 A JP 2018548017A JP 6806160 B2 JP6806160 B2 JP 6806160B2
- Authority
- JP
- Japan
- Prior art keywords
- motion
- dimensional
- pixel
- error
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/579—Depth or shape recovery from multiple images from motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Description
後続のフレーム間の密な2次元の対応点を探索し、フレーム画像間の画素単位での2次元の動きを出力する、2次元画像対応点探索部と、
正確な実世界の3次元の動きを取得するために、単一のフレームで観察された単一点の深さを用いて、画素単位での2次元の動きの誤差を最適化し、この画素単位での2次元の動きの誤差の最適化によって、対象物の3次元の実世界の動きを算出する、3次元運動最適化部と、
を備えている、ことを特徴とする。
(a)後続のフレーム間の密な2次元の対応点を探索し、フレーム画像間の画素単位での2次元の動きを出力する、ステップと、
(b)正確な実世界の3次元の動きを取得するために、単一のフレームで観察された単一点の深さを用いて、画素単位での2次元の動きの誤差を最適化し、この画素単位での2次元の動きの誤差の最適化によって、対象物の3次元の実世界の動きを算出する、ステップと、
を有する、ことを特徴とする。
前記コンピュータに、
(a)後続のフレーム間の密な2次元の対応点を探索し、フレーム画像間の画素単位での2次元の動きを出力する、ステップと、
(b)正確な実世界の3次元の動きを取得するために、単一のフレームで観察された単一点の深さを用いて、画素単位での2次元の動きの誤差を最適化し、この画素単位での2次元の動きの誤差の最適化によって、対象物の3次元の実世界の動きを算出する、ステップと、
を実行させることを特徴とする。
[技術的な問題点]
2次元画像シーケンスからの非剛体表面の3次元再構成のプロセスは、非常に難しい問題であり、信頼できる3次元ポーズ及び構造の推定のための、カメラ及びオブジェクトの構造の様々な条件に依存する。運動のモデリングは、対象物及びカメラの構成が回復可能であるかを決定するために重要な役割を果たす。例えば、運動の問題(例えば、非特許文献4のような)に由来する多くの高密度構造において、アフィンカメラモデルは、光軸に沿った変換を回復することができない。従って、カメラが固定され、対象物が光軸に沿って移動している場合、アフィンモデルのみを使用して正確な解を得ることは不可能となる。この問題を解決するためには、本質的に深さにおいて曖昧さを持つ射影カメラモデルを想定しなければならず、この結果、故意の問題が生じ、高密度再構成のための計算上のスケールアップが困難となる。
してうまく調整できない。
上述した技術的問題を解決するため、全体のアプローチを以下に概略的に説明する。3次元非剛体の再構成のプロセスは、増分プロセスとして扱われ、現在のフレームにおける形状は、以前のフレームの形状と現在のフレームにおける3次元の動きとの組合せで構成されている。3次元再構成プロセスのこのような処理は、上述の問題を下位の2つの問題に下げ、(i)対象物の信頼できる初期の剛体モデルを特定し、(ii)剛体モデルをアニメーション化するためにフレーム毎に3次元の動きを計算し、この結果、シーンにおける非剛体の3次元の再構成を実行する。対象物の信頼性のある初期のモデルの生成に利用可能な、多くの技術が、文献(例えば、非特許文献3)に存在している。
以下、本発明の実施の形態における、ネットワークシステム、3次元運動評価装置、3次元運動評価方法、及びプログラムについて、図1〜図5を参照しながら説明する。
最初に、本発明の3次元運動評価装置の構成について図1を用いて説明する。図1は、本発明の3次元運動評価装置の構成を示す概略ブロック図である。
運動評価装置は、更に、種々のユニットに分けることができる。ここで、各ユニットの機能を、図1を用いて説明する。
的な整合性が維持されることを保証する。これにより、異常値に対する、最終的なソリューションの堅牢性が保証される。最適化が収束すると、3次元運動最適化部102は、現在のフレームにおける最適な3次元の運動として、出力を提供する。
これにより、対応する画像シーケンスから、対象物における、最終的な非剛体形状の再構成が達成される。
次に、高密度の2次元の対応点からの高密度3次元運動の算出プロセスの全体と、その結果による3次元構造の検索と、について説明する。
It-1との間の3次元運動野をMtとし、現フレームMtにおける3次元運動の計算中に、以前の各フレームの3次元運動、Mt-1がバッファに格納されていると想定する。次に、現フレームにおける3次元運動を計算するため、数2がエネルギー関数としてフレーム化される。数2により、最適な3次元運動Mt*の値が最小化される。
値と誤差とにロバストな、全体的な最適解である。最適化が全体的に収束することを保証する凸関数として、重み関数φ(.)及びΨ(.)が選択される。最適化は、3次元運動の初期化に依存し、全体的な最適化に近い初期化は、より速い収束をもたらすことができる。運動フレームがシーケンス内の最初のフレームである場合、運動に関する過去の情報はありません。この場合、運動がブロック単位の剛体であり、3次元運動が各ブロックであると仮定されて、初期化が行われ、計算される。他のフレームについては、連続するフレーム間の動きが非常にゆっくりと時間と共に変化すると仮定する、等速モデルを考える。この仮定により、3次元運動は、前のフレームにおける3次元運動として初期化される。
Memory)及びRAM(Random Access Memory)と、情報の処理及び命令の実行を行うためのCPU(Central Processing Unit)及びデータバスと、ローカルネットワーク又はインターネット504を用いて、ホスト又はクライアントシステムに接続するためのネットワークカードとを備えている。また、コンピュータプラットフォームは、ベーシック・入出力装置501に接続されていても良い。また、コンピュータプラットフォームは、例えば、キーボード、マウス、ディスプレイ、及び外部記憶装置を含んでいても良い。
語で実装されてもよい。更には、本発明の技術の他の実装形態は、当業者には明らかになるであろう。
101 2次元対応点探索部
102 3次元運動最適化部
103 3次元運動ワーピング部
200 画像シーケンス
201 単一点深度
202 前の形状
203 現フレームでの3次元形状
401 タイムフレームt
402 タイムフレームt+1
403 特定点Xt
404 点Xt+1
405 画像面
406 点mt
407 点mt+1
408 T=(Tx,Ty,Tz)T
501 対象物の実際の3次元形状
502 対象物の推定された3次元形状
601 ベーシック入出力装置
602 コンピュータプラットフォーム
603 クライアントシステム
604 ローカルネットワーク又はインターネット
605 ホストシステム
Claims (9)
- 単眼画像から対象物の高密度非剛体3次元運動を算出するための3次元運動評価装置であって、
後続のフレーム間の密な2次元の対応点を探索し、フレーム画像間の画素単位での2次元の動きを出力する、2次元画像対応点探索部と、
正確な実世界の3次元の動きを取得するために、単一のフレームにおいて測定機器によって物理的に測定された単一点の深さを用いて、画素単位での2次元の動きの誤差を最適化し、この画素単位での2次元の動きの誤差の最適化によって、対象物の3次元の実世界の動きを算出する、3次元運動最適化部と、
を備えている、ことを特徴とする、3次元運動評価装置。 - 前記3次元運動最適化部は、
カメラと前記対象物との間の相対的な変換のみを想定する透視投影モデルを用いて、3次元の運動を2次元に投影し、
現フレームにおける画素単位での2次元の動きと、モデル化された絶対的な3次元から2次元への動きと、の間の誤差を、前記カメラの固有パラメータと単一フレームにおける単一点の深さ値とを用いて、計算し、
前記誤差を最小化し、最適な3次元運動のために、フレーム毎の空間平滑度とフレーム間の時間平滑度とを保存し、前記誤差を最小化する3次元の実世界の運動を算出する、
請求項1に記載の3次元運動評価装置。 - 入力として、以前の非剛体3次元形状を受け取り、計算された現フレームの3次元運動を追加して、現在の非剛体3次元モデルを更新する、3次元運動ワーピング部を更に備えている、
請求項1または2に記載の3次元運動評価装置。 - 単眼画像から対象物の高密度非剛体3次元運動を算出するための3次元運動評価方法であって、
(a)後続のフレーム間の密な2次元の対応点を探索し、フレーム画像間の画素単位での2次元の動きを出力する、ステップと、
(b)正確な実世界の3次元の動きを取得するために、単一のフレームにおいて測定機器によって物理的に測定された単一点の深さを用いて、画素単位での2次元の動きの誤差を最適化し、この画素単位での2次元の動きの誤差の最適化によって、対象物の3次元の実世界の動きを算出する、ステップと、
を有する、ことを特徴とする3次元運動評価方法。 - 前記ステップ(b)において、
カメラと前記対象物との間の相対的な変換のみを想定する透視投影モデルを用いて、3次元の運動を2次元に投影し、
現フレームにおける画素単位での2次元の動きと、モデル化された絶対的な3次元から2次元への動きと、の間の誤差を、前記カメラの固有パラメータと単一フレームにおける単一点の深さ値とを用いて、計算し、
前記誤差を最小化し、最適な3次元運動のために、フレーム毎の空間平滑度とフレーム間の時間平滑度とを保存し、前記誤差を最小化する3次元の実世界の運動を算出する、
請求項4に記載の3次元運動評価方法。 - (c)入力として、以前の非剛体3次元形状を受け取り、計算された現フレームの3次元運動を追加して、現在の非剛体3次元モデルを更新する、ステップを、
更に有する、
請求項4または5に記載の3次元運動評価方法 - コンピュータによって、単眼画像から対象物の高密度非剛体3次元運動を算出するためのプログラムであって、
前記コンピュータに、
(a)後続のフレーム間の密な2次元の対応点を探索し、フレーム画像間の画素単位での2次元の動きを出力する、ステップと、
(b)正確な実世界の3次元の動きを取得するために、単一のフレームにおいて測定機器によって物理的に測定された単一点の深さを用いて、画素単位での2次元の動きの誤差を最適化し、この画素単位での2次元の動きの誤差の最適化によって、対象物の3次元の実世界の動きを算出する、ステップと、
を実行させることを特徴とするプログラム。 - 前記ステップ(b)において、
カメラと前記対象物との間の相対的な変換のみを想定する透視投影モデルを用いて、3次元の運動を2次元に投影し、
現フレームにおける画素単位での2次元の動きと、モデル化された絶対的な3次元から2次元への動きと、の間の誤差を、前記カメラの固有パラメータと単一フレームにおける単一点の深さ値とを用いて、計算し、
前記誤差を最小化し、最適な3次元運動のために、フレーム毎の空間平滑度とフレーム間の時間平滑度とを保存し、前記誤差を最小化する3次元の実世界の運動を算出する、
請求項7に記載のプログラム。 - 前記コンピュータに、
(c)入力として、以前の非剛体3次元形状を受け取り、計算された現フレームの3次元運動を追加して、現在の非剛体3次元モデルを更新する、ステップを更に実行させる、
請求項7または8に記載のプログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2016/001406 WO2017154045A1 (en) | 2016-03-11 | 2016-03-11 | 3d motion estimation device, 3d motion estimation method, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019507934A JP2019507934A (ja) | 2019-03-22 |
JP6806160B2 true JP6806160B2 (ja) | 2021-01-06 |
Family
ID=59789048
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018548017A Active JP6806160B2 (ja) | 2016-03-11 | 2016-03-11 | 3次元運動評価装置、3次元運動評価方法、及びプログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6806160B2 (ja) |
WO (1) | WO2017154045A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11501507B2 (en) | 2018-06-26 | 2022-11-15 | Sony Group Corporation | Motion compensation of geometry information |
CN110232705B (zh) * | 2019-05-17 | 2023-05-12 | 沈阳大学 | 一种融合分数阶变分调整的反向低秩稀疏学习目标跟踪方法 |
US11321859B2 (en) | 2020-06-22 | 2022-05-03 | Toyota Research Institute, Inc. | Pixel-wise residual pose estimation for monocular depth estimation |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3349632B2 (ja) * | 1996-06-04 | 2002-11-25 | 富士通株式会社 | 3次元計測方法及び装置 |
-
2016
- 2016-03-11 WO PCT/JP2016/001406 patent/WO2017154045A1/en active Application Filing
- 2016-03-11 JP JP2018548017A patent/JP6806160B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
WO2017154045A1 (en) | 2017-09-14 |
JP2019507934A (ja) | 2019-03-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11379688B2 (en) | Systems and methods for keypoint detection with convolutional neural networks | |
US10217234B2 (en) | Modeling method and apparatus using three-dimensional (3D) point cloud | |
US10553026B2 (en) | Dense visual SLAM with probabilistic surfel map | |
CN110998659B (zh) | 图像处理系统、图像处理方法、及程序 | |
Wu et al. | Real-time shading-based refinement for consumer depth cameras | |
US9830715B2 (en) | Method for determining a parameter set designed for determining the pose of a camera and/or for determining a three-dimensional structure of the at least one real object | |
US7623731B2 (en) | Direct method for modeling non-rigid motion with thin plate spline transformation | |
US9619704B2 (en) | Fast articulated motion tracking | |
JP5099965B2 (ja) | Helmholtz相互画像ペアを用いた表面再構成及びレジストレーション | |
US20170330375A1 (en) | Data Processing Method and Apparatus | |
US8824801B2 (en) | Video processing | |
EP3326156B1 (en) | Consistent tessellation via topology-aware surface tracking | |
US20140168204A1 (en) | Model based video projection | |
JP6806160B2 (ja) | 3次元運動評価装置、3次元運動評価方法、及びプログラム | |
Xu et al. | Optical flow-based video completion in spherical image sequences | |
Afzal et al. | Full 3D reconstruction of non-rigidly deforming objects | |
Figueroa et al. | A combined approach toward consistent reconstructions of indoor spaces based on 6D RGB-D odometry and KinectFusion | |
Rouhani et al. | Non-rigid registration meets surface reconstruction | |
Souza et al. | Multi-frame adaptive non-rigid registration for markerless augmented reality | |
Tumurbaatar et al. | Development of real-time object motion estimation from single camera | |
Zinßer et al. | High-speed feature point tracking | |
WO2022087932A1 (en) | Non-rigid 3d object modeling using scene flow estimation | |
Qian | Efficient poisson-based surface reconstruction of 3D model from a non-homogenous sparse point cloud | |
Wöhler et al. | Three-dimensional pose estimation and segmentation methods | |
Wuest et al. | Acquisition of high quality planar patch features |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190206 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200421 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200618 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201104 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201117 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6806160 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |