JP2016148588A - デプス推定モデル生成装置及びデプス推定装置 - Google Patents

デプス推定モデル生成装置及びデプス推定装置 Download PDF

Info

Publication number
JP2016148588A
JP2016148588A JP2015025429A JP2015025429A JP2016148588A JP 2016148588 A JP2016148588 A JP 2016148588A JP 2015025429 A JP2015025429 A JP 2015025429A JP 2015025429 A JP2015025429 A JP 2015025429A JP 2016148588 A JP2016148588 A JP 2016148588A
Authority
JP
Japan
Prior art keywords
depth
estimation model
image
pixel
interest
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015025429A
Other languages
English (en)
Other versions
JP6359985B2 (ja
Inventor
雄介 関川
Yusuke Sekikawa
雄介 関川
鈴木 幸一郎
Koichiro Suzuki
幸一郎 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso IT Laboratory Inc
Original Assignee
Denso IT Laboratory Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso IT Laboratory Inc filed Critical Denso IT Laboratory Inc
Priority to JP2015025429A priority Critical patent/JP6359985B2/ja
Publication of JP2016148588A publication Critical patent/JP2016148588A/ja
Application granted granted Critical
Publication of JP6359985B2 publication Critical patent/JP6359985B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Image Analysis (AREA)

Abstract

【課題】 パッシブな構成によって、対象物のテクスチャが少ない場合でも精度よくデプス推定を行うことができる、デプス推定モデル生成装置及びデプス推定装置を提供する。
【解決手段】 デプス推定モデル生成装置10は、RGB画像組を取得するRGB画像取得部11と、仮想的なデプス撮像装置によって仮想的に撮像されるデプス画像を生成するデプス画像生成部12と、同一の注目領域内の注目ピクセルの周辺の輝度分布と、当該注目ピクセルにおけるデプス値との関係を学習することで、デプス推定モデルを生成する推定モデル生成部13とを備えている。
【選択図】 図1

Description

本発明は、撮像したRGB画像データから被写体のデプスを推定するための、デプス推定モデル生成装置等に関するものである。
従来、被写体のデプス(カメラと被写体表面の距離)に基づいて、被写体の姿勢推定や表面形状の計測を行う技術が知られている。このようなデプスの推定手法は、アクティブセンサを用いる手法と、パッシブセンサを用いる手法とに大別される。
アクティブセンサを用いたデプス推定手法の一例として、赤外線照明を用いる手法がある。例えば、非特許文献1に記載の技術は、注目ピクセル周辺の輝度分布とデプスの関係の学習によって、デプス推定モデルを生成する技術である。これは、カメラ付近の赤外線照明を被写体に照射した場合に、被写体からの反射によって得られる輝度データが、概ね、距離に反比例して減衰することに着目した手法である。しかし、この手法では、アクティブな赤外線照明が必要であり、遠くの被写体や、屋外における被写体のデプスの推定を精度よく行うことは困難である。
したがって、遠くの被写体や、屋外における被写体の推定を行う場合には、パッシブセンサを用いたデプス推定手法が好適である。かかる手法として、ステレオカメラを用いて左右の視差画像を撮影し、この視差画像を用いてデプスを推定する技術が知られている。例えば、非特許文献2の技術は、適当なサイズのブロックで、エピポーラ線(視差画像上の対応点が存在する直線)上をサーチし、輝度の相関値から左右画像の対応を求め、既知のカメラのベースラインと内部パラメータから幾何的に対応ピクセルの輝度を算出する技術である。また、非特許文献3の技術は、左右視差画像の同一の注目領域内において、デプス復元エラーが小さくなるような相関関数を学習し、デプスの推定を行う技術である。
なお、本発明に関連する先行技術として、以下の先行技術文献がある。
Sean Fanello他:Learning to be a Depth Camera for Close-Range Human Capture AND Interaction, ACM Transactions on Graphics,Vol. 33, No. 4, Article 86, Publication Date: July 2014 金田憲明他、ステレオビジョン画像処理技術の実用化研究(新潟県工業技術総合研究所工業技術研究報告書)、2006年 Kishore Konda, Roland Memisevic:Unsupervised learning of depth AND motion,2013
しかし、上述の先行技術の場合、アルゴリズムの実現上、パッチ(各注目領域)のサイズをあまり大きくとることができない。他方で、パッチ内にある程度のテクスチャ(輝度差)が現れないと、左右画像の対応点を正しく求めることができない。このため、従来技術では、被写体によっては、精度よくデプス推定を行うことができない場合があった。
本発明は、上記の問題に鑑みてなされたものであり、パッシブな構成によって、対象物のテクスチャが少ない場合でも精度よくデプス推定を行うことができる、デプス推定モデル生成装置及びデプス推定装置を提供することを目的とする。
本発明のデプス推定モデル生成装置は、平行等位に設置された複数の撮像デバイスによって撮像されたRGB画像組を取得するRGB画像取得部と、前記複数の撮像デバイスの略中央に位置する仮想的なデプス撮像装置によって仮想的に撮像される、前記RGB画像組に対応するデプス画像を生成するデプス画像生成部と、前記RGB画像取得部にて取得されたRGB画像組における、同一の注目ピクセル周辺の輝度分布と、前記デプス画像生成部にて生成されたデプス画像内の当該注目ピクセルにおけるデプス値との関係を学習することで、デプス推定モデルを生成するデプス推定モデル生成部とを備えた構成を有している。
この構成によれば、ステレオカメラ等、平行等位に設置された複数の撮像デバイスによって撮像された複数の画像組における注目領域内のRGB輝度分布と、仮想カメラからみたデプス値とに基づいて、デプス推定モデルを生成することができる。この構成においては、正解データとなるデプス値は、仮想カメラからデプス画像を撮像した場合を想定して算出される。したがって、かかる構成によれば、デプスカメラ等のアクティブセンサを用いることなく、パッシブな構成で、デプス推定を行うためのモデルを生成することができる。また、デプス推定対象である被写体のテクスチャ(輝度差)が小さい場合でも、左右の画像組においては、同じ注目領域内のRGB輝度分布は、カメラから対象物までの距離に応じて変化する。したがって、かかる構成により、被写体のテクスチャが小さい場合にも精度よくデプス推定を行うことができるモデルを生成することができる。
本発明のデプス推定モデル生成装置において、前記デプス推定モデル生成部は、ランダムフォレストに基づいて、前記注目ピクセルから、前記RGB画像組を構成する画像ごとに異なる量でオフセットさせた周辺ピクセルにおける輝度値の差に応じて、前記注目ピクセルにおけるデプス値集合のノード分割を繰り返し行うことで、前記仮想カメラから見たデプス値を回帰する1以上の回帰木からなる推定モデルを生成してよい。
上述のように、左右画像の同じ関心領域内の画像の輝度分布は、対象物までの距離に応じて変化する。しかし、輝度分布をデプス変化に対してパラメータ化することは困難である。したがって、この構成のように、ランダムフォレストに基づいて、注目ピクセル周辺におけるRGB画像間の輝度差に基づいて、デプス値集合のノード分割を繰り返し行うことで、輝度分布からデプス値を推定するためのモデルを簡易に生成することができる。
本発明のデプス推定モデル生成装置において、前記学習部は、カメラβによって撮像された画像のあるピクセルにおけるRGB輝度をIβ(pi,γ)として、
ω1、ω2:オフセット量
γ1、γ2:RGB輝度
β:カメラID
で表されるf(ω,γ,pi,β)と、分割閾値τとを比較して、ノード分割後の前記注目ピクセルにおけるデプス値の分散が最も小さくなるように、前記注目ピクセルにおけるノード分割を行ってよい。
この構成のように、注目ピクセル周辺におけるRGB画像間の輝度差と分割閾値τとの比較によって、ノード分割後のデプス値の分散が最も小さくなるように、ノード分割を繰り返し行うことで、輝度分布からデプス値を推定するためのモデルを簡易に生成することができる。
本発明のデプス推定装置は、平行等位に設置された複数の撮像デバイスによって撮像されたRGB画像組を取得するRGB画像取得部と、前記複数の撮像デバイスの略中央に位置する仮想的なデプス撮像装置によって仮想的に撮像される、前記RGB画像組に対応するデプス画像を生成するデプス画像生成部と、前記RGB画像取得部にて取得されたRGB画像組における、同一の注目ピクセルの周辺の輝度分布と、前記デプス画像生成部にて生成されたデプス画像内の当該注目ピクセルにおけるデプス値との関係を学習することで、デプス推定モデルを生成するデプス推定モデル生成部と、前記デプス推定モデル生成部にて生成された推定モデルを用いてデプス値の推定を行うデプス推定部とを備えた構成を有している。
この構成によれば、ステレオカメラ等、平行等位に設置された複数の撮像デバイスによって撮像された左右の画像組における注目領域内のRGB輝度分布から、デプスを推定することが可能なモデルを生成することができる。この構成においては、正解データとなるデプス値は、仮想カメラからデプス画像を撮像した場合を想定して算出される。したがって、かかる構成によれば、デプスカメラ等のアクティブセンサを用いることなく、パッシブな構成で、デプス推定を行うためのモデルを生成することができる。また、デプス推定対象である被写体のテクスチャ(輝度差)が小さい場合でも、左右の画像組においては、同じ注目領域内のRGB輝度分布は、カメラから対象物までの距離に応じて変化する。したがって、かかる構成により、被写体のテクスチャが小さい場合にも精度よくデプス推定を行うことができる。
本発明のデプス推定装置において、前記デプス推定モデル生成部は、ランダムフォレストに基づいて、前記注目ピクセルから、前記RGB画像組を構成する画像ごとに異なる量でオフセットさせた周辺ピクセルにおける輝度値の差に応じて、当該注目ピクセルにおけるデプス値のノード分割を繰り返し行うことで、前記仮想カメラから見たデプス値を回帰する1以上の回帰木からなる推定モデルを生成し、前記デプス推定部は、各前記回帰木から得られるデプス値の確率の合計値に基づいて、推定デプス値を算出してよい。
本発明のデプス推定モデル生成方法は、平行等位に設置された複数の撮像デバイスによって撮像されたRGB画像組を取得するステップと、前記複数の撮像デバイスの略中央に位置する仮想的なデプス撮像装置によって仮想的に撮像される、前記RGB画像組に対応するデプス画像を生成するステップと、前記RGB画像取得部にて取得されたRGB画像組における、同一の注目ピクセルの周辺の輝度分布と、前記デプス画像生成部にて生成されたデプス画像内の当該注目ピクセルにおけるデプス値との関係を学習することで、デプス推定モデルを生成するステップと、を備える。
本発明のプログラムは、デプス推定モデルを生成するためのプログラムであって、コンピュータに、平行等位に設置された複数の撮像デバイスによって撮像されたRGB画像組を取得するステップと、前記複数の撮像デバイスの略中央に位置する仮想的なデプス撮像装置によって仮想的に撮像される、前記RGB画像組に対応するデプス画像を生成するステップと、前記RGB画像取得部にて取得されたRGB画像組における、同一の注目ピクセルの周辺の輝度分布と、前記デプス画像生成部にて生成されたデプス画像内の当該注目ピクセルにおけるデプス値との関係を学習することで、デプス推定モデルを生成するステップと、を実行させる。
本発明によれば、推定対象となる被写体のテクスチャが小さい場合にも精度よくデプス推定を行うことができるモデルを生成することができる。
本発明の実施の形態におけるデプス推定装置及びデプス推定モデル生成装置の構成を示すブロック図 本発明の実施の形態におけるデプス推定モデル生成装置の動作フロー図 (a)〜(c) 教師画像の一例を示す図 ノード分割を模式的に説明するための図 本発明の実施の形態におけるデプス推定モデル生成装置によって生成された回帰木の一例を示す図 本発明の実施の形態におけるデプス推定装置の動作フロー図
以下、本発明の実施の形態のデプス推定モデル生成装置及びデプス推定装置について、図面を参照しながら説明する。
図1は、本発明の実施の形態のデプス推定装置の構成を示す図である。図1に示すように、本発明の実施の形態のデプス推定装置1は、デプス推定モデル生成装置10と、デプス推定部14と、記憶部15とを備える。デプス推定モデル生成装置10は、RGB画像取得部11と、デプス画像生成部12と、デプス推定モデル生成部13とを備える。記憶部15は、学習データ記憶部16と、デプス推定モデル記憶部17とを備える。
RGB画像取得部11は、ステレオカメラにて撮像された左右のRGB画像を取得し、学習データ記憶部16に出力する。デプス画像生成部12は、RGB画像取得部11にて取得された左右1組のRGB画像に対応する、仮想カメラのデプス画像をコンピュータグラフィックスによって生成し、学習データ記憶部16に出力する。ここで、仮想カメラとは、RGB画像取得部11にて取得されたRGB画像を撮像したステレオカメラの左右のカメラの中央に、仮想的に設置されたカメラを意味する。すなわち、デプス画像生成部12にて生成されるデプス画像は、ステレオカメラの左右カメラ及び仮想的な中央カメラによって、同時に撮影を行った場合において、当該仮想的中央カメラから取得されるデプス画像に対応する。
デプス推定モデル生成部13は、学習データ記憶部16に記憶される、RGB画像及びデプス画像生成部12にて生成されたデプス画像を用いて、デプス推定モデルを生成する。被写体をステレオカメラによって、距離を様々に変えて撮像した場合、カメラからの距離(デプス)と左右カメラ画像の輝度変化との間には、確率的な関数関係が存在すると考えられる。本実施の形態においては、デプスと左右画像とのこのような関係性に着目し、左右画像データからデプス値へ変換する確率的関係の逆関数を、デプス推定モデルとして学習によって取得する。
より具体的には、デプス推定モデル生成部13は、左右のRGB画像における、同一の注目ピクセル周辺の左右画像の輝度分布と、当該注目ピクセルにおける仮想カメラから見たデプス値との関係を学習することで、あるピクセル周辺における左右画像の輝度値に基づいて、仮想カメラから見たデプスの推定を行うことができる推定モデルを生成する。すなわち、デプス推定モデル生成部13にて生成されるモデルは、次式によって表現することができる。
ここで、ILは左画像データ、IRは右画像データ、piは、注目ピクセルである。後述のように、本実施の形態において、デプス推定モデルは、ランダムフォレストに基づいて生成される、仮想カメラから見たデプス値を回帰する複数の回帰木として生成される。
デプス推定部14は、デプス推定対象画像として、ステレオカメラから取得した左右のRGB画像について、デプス推定モデル生成部13にて生成された推定モデルを用いて、仮想カメラから見たデプス値の推定を行う。上述のように、デプス推定モデルは、複数の回帰木であるから、推定対象画像中の1つのピクセルについて推定モデルへの当てはめを行うと、デプス値の複数の確率値が得られる。本実施の形態においては、デプス推定部14は、これらの複数の確率値の合計値を算出した上で、その値をデプス方向及び空間方向に平滑化フィルタ処理を行い、デプス出力値とする。
なお、図1に示すデプス推定装置1及びデプス推定モデル生成装置10は、CPU、RAM、ROM、HDD等を備えたコンピュータにより実現される。CPUがROMに記憶されたプログラムを読み出して実行することにより、デプス推定モデル生成部13等の機能が実現される。このようなデプス推定装置1等を実現するためのプログラムも本発明の範囲に含まれる。
図2は、本実施の形態におけるデプス推定モデル生成装置10の動作フロー図である。デプス推定モデル生成装置10は、まず、RGB画像を取得し、学習データ記憶部16に記憶する(ステップS1)。ステップS1にて取得されるRGB画像は、ステレオカメラによって、視線の方向及び/または距離を様々に変えて撮像された左右のペア画像である。続いて、デプス推定モデル生成装置10は、ステップS1にて取得したRGB画像の各左右画像のペアについて、仮想カメラのデプス画像を生成し、各画像ペアに対応付けて、学習データ記憶部16に記憶する(ステップS2)。図3(a)、(b)は、ステップS1にて取得されたRGB画像の一例、図3(c)は、ステップS2にて生成されたデプス画像の一例を示す図である。これらのRGB画像のペア及びそれに対応するデプス画像が、1組の教師データとなる。
図2に戻り、デプス推定モデル生成装置10は、各教師データの組について、注目領域(ROI)のサンプリングを行う(ステップS3)。以下では、サンプリングされた注目領域の中心のピクセルを「注目ピクセル」と呼ぶ。デプス推定モデル生成装置10は、注目ピクセルについて、左画像はω1、右画像はω2だけオフセットし(ステップS4)、オフセット後の左右画像のRGB輝度の差に基づいて、デプス値の集合のノード分割を行う(ステップS5)。具体的には、各ノードにおいて、次式で表されるオフセット後の左右画像のRGB輝度の差f(ω、γ、pi
について、分割閾値をτとし、分割後のデプス値の分散E(j)
が最小となるように、上式のパラメータを決定して、ノード分割を行う。本実施の形態では、i)RGBの組み合わせ(γ1及びγ2として、どのRGB輝度値を、単独でまたはいくつ組み合わせて用いるか)、ii)オフセット量ω1、ω2、iii)分割閾値τが、学習により決定するパラメータとなる。なお、i)RGBの組み合わせについては、例えば、右画像はR輝度値のみ、左画像はGとB輝度値のみ、等、左画像と右画像とで、異なる画素の輝度値を用いてもよい。
図4は、ステップS4及びS5における、ノード分割を模式的に説明するための図である。今、あるノードJにおいて、図3(c)のデプス画像の注目ピクセルpiにおけるデプス値diを2つの子ノード(ノードK、ノードL)のうちのいずれかに分類する例を考える。図4のRGB画像の左画像において、オフセット後のピクセル(pi+ω1)のR/G/Bの少なくとも1つの輝度値(2つ以上の輝度値を用いる場合は、その合計値)が、上式におけるIL(pi+ω1,γ1)であり、また、RGB画像の右画像において、オフセット後のピクセル(pi+ω2)のR/G/Bの少なくとも1つの輝度値(2つ以上の輝度値を用いる場合は、その合計値)が、上式におけるIR(pi+ω2,γ2)である。本実施の形態においては、これらの2つの輝度値の差が入力値となる。この入力値は、図4に模式的に示すように、同じ注目領域内の注目ピクセルpi周辺の2つのピクセル間の輝度差を意味する。
iにおけるデプス値diが、ノードJからノードKに分類されたとすると、ノードKでは、注目ピクセルpiからのオフセット量を変えて、pi周辺の2つのピクセル間の輝度差に基づいて、デプス値diを2つの子ノードのいずれに分類するかが決定される。このように、1回のノード分割でデプス値と対応付けられるのは、左右画像の2つのピクセル間の輝度差である。しかし、図4から理解されるように、ステップS4及びS5の処理を繰り返してノードを順次分割していくことで、左右画像の同じ注目領域内の輝度分布と、中心ピクセルである注目ピクセルにおける仮想カメラから見たデプスとの関係を学習していくことになる。本願の発明者は、推定対象となる被写体にテクスチャが少ない場合であっても、左右画像の同じ注目領域内の画像の輝度分布は、対象物までの距離に応じて変化することを見出した。したがって、本実施の形態のように、ある注目ピクセルについて、オフセット量を変化させながら、繰り返し左右画像の輝度差とデプス値との対応付けを行う学習によって、推定対象にテクスチャが少ない場合でも、精度よくデプス値を推定することができるモデルを生成することができる。
再び図2に戻り、デプス値推定モデル生成装置10は、ステップS6にて、所定の収束条件を満足したと判断されるまで、ステップS5及びS6の処理を繰り返す。なお、所定の収束条件としては、例えば、ノードが所定の深さに達することや、ノード分割後のデプス値の分散値の減少幅が所定の閾値以下になること、等を設定することができる。
所定の収束条件を満たすと判断された場合には(ステップS6にてYes)、1つの回帰木の生成を終了し、所定数の回帰木が生成されるまで(ステップS7にてYes)、注目領域のサンプリング(ステップS3)に戻り、回帰木の生成を繰り返す。
図5は、以上の処理によって生成された1つの回帰木の一例を示す図である。図5に示すように、生成された回帰木の各リーフには、デプス値のヒストグラムが対応付けられることになる。
図6は、本実施の形態のデプス推定装置1の動作フロー図である。デプス推定装置1は、まず、推定対象となるステレオ画像の入力を受け付ける(ステップS11)。そして、入力された左右画像の各ピクセルについて、複数の回帰木である推定モデルを適用し、(ステップS12)、デプス確率値の合計を算出する(ステップS13)。デプス推定装置1は、さらに、デプス方向及び空間方向に平滑化フィルタ処理を行い、デプス出力値とする(ステップS14)。
なお、ステップS14におけるフィルタ処理には、種々のアルゴリズムをベースとする線形フィルタまたは非線形フィルタを用いてよい。その際、例えば、空間方向にはバイラテラルフィルタ等のように、エッジを保存するような非線形フィルタを適用することもできる。
また、本実施の形態では、デプス推定モデルの生成において学習したオブジェクト以外の物が存在する領域については、デプス値をゼロとして出力する。
以上、説明したように、上記の実施の形態のデプス推定モデル生成装置は、仮想カメラから見たデプス画像を生成し、ランダムフォレストに基づいて、注目ピクセル周辺におけるRGB画像間の輝度差に基づいて、デプス値集合のノード分割を繰り返し行うことで、輝度分布からデプス値を推定するためのモデルを生成する。このようにして生成されたデプス推定モデルによれば、デプスカメラ等のアクティブセンサを用いないパッシブなシステムでデプス推定を行うことができる。そして、デプス推定対象である被写体のテクスチャ(輝度差)が小さい場合でも、左右の画像組においては、同じ注目領域内のRGB輝度分布は、カメラから対象物までの距離に応じて変化する。したがって、上記の実施の形態によれば、被写体のテクスチャが小さい場合にも精度よくデプス推定を行うことができるモデルを生成することができる。
なお、上記の実施の形態では、ステレオカメラによって撮影された2つの左右画像を輝度分布を求める教師データとして利用する場合について説明したが、本発明の範囲はこれに限られない。例えば、2つ以上の撮像デバイスによって撮像された、2つ以上の左右画像をセットとしてもよい。この場合、分割閾値τと比較される輝度差特徴は、そのうちの1つまたは2つのカメラによって撮像された1つまたは2つの画像間の輝度値の差
としてもよい。また、分割閾値τと比較する輝度差特徴の算出式は、上式に限られない。例えば、
等、2つ以上の画像を用いて、各画像のオフセット後の輝度値を用いた所定の演算結果を分割閾値τと比較してもよい。
また、上記の実施の形態では、ステレオカメラの中央に仮想カメラを設置した場合のデプス画像を生成する場合について説明したが、仮想カメラの設置位置は、中央でなくてもよいし、仮想カメラは1つに限られない。例えば、RGB撮像デバイスが、等位平行に4つ設置されている場合、左端の撮像デバイスおよび右端の撮像デバイスによって取得したRGB画像に対し、左から2番目、3番目の撮像デバイスから見たデプス画像を生成してもよい。この場合、輝度差特徴の変形例として説明したように、任意の仮想カメラを組み合わせてデプス差特徴を算出してもよく、また、2つ以上のデプス画像のデプス値を用いた所定の演算結果をデプス差特徴としてもよい。
本発明は、推定対象となる被写体のテクスチャが小さい場合にも精度よくデプス推定を行うことができるモデルを生成することができるという効果を有し、デプス推定モデル生成装置等として有用である。
1 デプス推定装置
10 デプス推定モデル生成装置
11 RGB画像取得部
12 デプス画像生成部
13 デプス推定モデル生成部
14 デプス推定部
15 記憶部
16 学習データ記憶部
17 デプス推定モデル記憶部

Claims (7)

  1. 平行等位に設置された複数の撮像デバイスによって撮像されたRGB画像組を取得するRGB画像取得部と、
    前記複数の撮像デバイスの略中央に位置する仮想的なデプス撮像装置によって仮想的に撮像される、前記RGB画像組に対応するデプス画像を生成するデプス画像生成部と、
    前記RGB画像取得部にて取得されたRGB画像組における、同一の注目ピクセルの周辺の輝度分布と、前記デプス画像生成部にて生成されたデプス画像内の当該注目ピクセルにおけるデプス値との関係を学習することで、デプス推定モデルを生成するデプス推定モデル生成部と、
    を備えたデプス推定モデル生成装置。
  2. 前記デプス推定モデル生成部は、ランダムフォレストに基づいて、前記注目ピクセルから、前記RGB画像組を構成する画像ごとに異なる量でオフセットさせた周辺ピクセルにおける輝度値の差に応じて、前記注目ピクセルにおけるデプス値集合のノード分割を繰り返し行うことで、前記仮想カメラから見たデプス値を回帰する1以上の回帰木からなる推定モデルを生成する、請求項1に記載のデプス推定モデル生成装置。
  3. 前記学習部は、カメラβによって撮像された画像のあるピクセルにおけるRGB輝度をIβ(pi,γ)として、
    ω1、ω2:ピクセルのオフセット量
    γ1、γ2:RGB輝度
    β:カメラID
    で表されるf(ω,γ,pi,β)と、分割閾値τとを比較して、ノード分割後の前記注目ピクセルにおけるデプス値の分散が最も小さくなるように、前記注目ピクセルにおけるノード分割を行う請求項2に記載のデプス推定モデル生成装置。
  4. 平行等位に設置された複数の撮像デバイスによって撮像されたRGB画像組を取得するRGB画像取得部と、
    前記複数の撮像デバイスの略中央に位置する仮想的なデプス撮像装置によって仮想的に撮像される、前記RGB画像組に対応するデプス画像を生成するデプス画像生成部と、
    前記RGB画像取得部にて取得されたRGB画像組における、同一の注目ピクセルの周辺の輝度分布と、前記デプス画像生成部にて生成されたデプス画像内の当該注目ピクセルにおけるデプス値との関係を学習することで、デプス推定モデルを生成するデプス推定モデル生成部と、
    前記デプス推定モデル生成部にて生成された推定モデルを用いてデプス値の推定を行うデプス推定部と
    を備えたデプス推定装置。
  5. 前記デプス推定モデル生成部は、ランダムフォレストに基づいて、前記注目ピクセルから、前記RGB画像組を構成する画像ごとに異なる量でオフセットさせた周辺ピクセルにおける輝度値の差に応じて、当該注目ピクセルにおけるデプス値のノード分割を繰り返し行うことで、前記仮想カメラから見たデプス値を回帰する1以上の回帰木からなる推定モデルを生成し、
    前記デプス推定部は、各前記回帰木から得られるデプス値の確率の合計値に基づいて、推定デプス値を算出する請求項4に記載のデプス推定装置。
  6. 平行等位に設置された複数の撮像デバイスによって撮像されたRGB画像組を取得するステップと、
    前記複数の撮像デバイスの略中央に位置する仮想的なデプス撮像装置によって仮想的に撮像される、前記RGB画像組に対応するデプス画像を生成するステップと、
    前記RGB画像取得部にて取得されたRGB画像組における、同一の注目ピクセルの周辺の輝度分布と、前記デプス画像生成部にて生成されたデプス画像内の当該注目ピクセルにおけるデプス値との関係を学習することで、デプス推定モデルを生成するステップと、
    を備えたデプス推定モデル生成方法。
  7. デプス推定モデルを生成するためのプログラムであって、コンピュータに、
    平行等位に設置された複数の撮像デバイスによって撮像されたRGB画像組を取得するステップと、
    前記複数の撮像デバイスの略中央に位置する仮想的なデプス撮像装置によって仮想的に撮像される、前記RGB画像組に対応するデプス画像を生成するステップと、
    前記RGB画像取得部にて取得されたRGB画像組における、同一の注目ピクセルの周辺の輝度分布と、前記デプス画像生成部にて生成されたデプス画像内の当該注目ピクセルにおけるデプス値との関係を学習することで、デプス推定モデルを生成するステップと、
    を実行させるプログラム。
JP2015025429A 2015-02-12 2015-02-12 デプス推定モデル生成装置及びデプス推定装置 Expired - Fee Related JP6359985B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015025429A JP6359985B2 (ja) 2015-02-12 2015-02-12 デプス推定モデル生成装置及びデプス推定装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015025429A JP6359985B2 (ja) 2015-02-12 2015-02-12 デプス推定モデル生成装置及びデプス推定装置

Publications (2)

Publication Number Publication Date
JP2016148588A true JP2016148588A (ja) 2016-08-18
JP6359985B2 JP6359985B2 (ja) 2018-07-18

Family

ID=56688302

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015025429A Expired - Fee Related JP6359985B2 (ja) 2015-02-12 2015-02-12 デプス推定モデル生成装置及びデプス推定装置

Country Status (1)

Country Link
JP (1) JP6359985B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102051074B1 (ko) * 2018-07-26 2019-12-02 샐터스 주식회사 영상 처리 장치 및 방법
JP2021522603A (ja) * 2019-05-02 2021-08-30 ナイアンティック, インコーポレイテッドNiantic,Inc. 深度ヒントを使用した深度推定モデルの自己教師ありトレーニング
CN114119698A (zh) * 2021-06-18 2022-03-01 湖南大学 基于注意力机制的无监督单目深度估计方法
US11991342B2 (en) 2018-05-17 2024-05-21 Niantic, Inc. Self-supervised training of a depth estimation system

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110229020A1 (en) * 2010-03-19 2011-09-22 Canon Kabushiki Kaisha Learning method and apparatus for pattern recognition
JP2012043156A (ja) * 2010-08-18 2012-03-01 Canon Inc 情報処理装置、情報処理方法およびプログラム
JP2014232470A (ja) * 2013-05-30 2014-12-11 オリンパス株式会社 検出装置、学習装置、検出方法、学習方法及びプログラム
JP2015005237A (ja) * 2013-06-24 2015-01-08 オリンパス株式会社 検出装置、学習装置、検出方法、学習方法及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110229020A1 (en) * 2010-03-19 2011-09-22 Canon Kabushiki Kaisha Learning method and apparatus for pattern recognition
JP2012043156A (ja) * 2010-08-18 2012-03-01 Canon Inc 情報処理装置、情報処理方法およびプログラム
JP2014232470A (ja) * 2013-05-30 2014-12-11 オリンパス株式会社 検出装置、学習装置、検出方法、学習方法及びプログラム
JP2015005237A (ja) * 2013-06-24 2015-01-08 オリンパス株式会社 検出装置、学習装置、検出方法、学習方法及びプログラム

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11991342B2 (en) 2018-05-17 2024-05-21 Niantic, Inc. Self-supervised training of a depth estimation system
KR102051074B1 (ko) * 2018-07-26 2019-12-02 샐터스 주식회사 영상 처리 장치 및 방법
JP2021522603A (ja) * 2019-05-02 2021-08-30 ナイアンティック, インコーポレイテッドNiantic,Inc. 深度ヒントを使用した深度推定モデルの自己教師ありトレーニング
JP6996009B2 (ja) 2019-05-02 2022-01-17 ナイアンティック, インコーポレイテッド 深度ヒントを使用した深度推定モデルの自己教師ありトレーニング
JP2022037113A (ja) * 2019-05-02 2022-03-08 ナイアンティック, インコーポレイテッド 深度ヒントを使用した深度推定モデルの自己教師ありトレーニング
US11317079B2 (en) 2019-05-02 2022-04-26 Niantic, Inc. Self-supervised training of a depth estimation model using depth hints
JP7174139B2 (ja) 2019-05-02 2022-11-17 ナイアンティック, インコーポレイテッド 深度ヒントを使用した深度推定モデルの自己教師ありトレーニング
US11711508B2 (en) 2019-05-02 2023-07-25 Niantic, Inc. Self-supervised training of a depth estimation model using depth hints
CN114119698A (zh) * 2021-06-18 2022-03-01 湖南大学 基于注意力机制的无监督单目深度估计方法

Also Published As

Publication number Publication date
JP6359985B2 (ja) 2018-07-18

Similar Documents

Publication Publication Date Title
JP2021503134A (ja) 画像深度とエゴモーション予測ニューラルネットワークの教師なし学習
CN107507277B (zh) 三维点云重构方法和装置、服务器及可读存储介质
CN107316326B (zh) 应用于双目立体视觉的基于边的视差图计算方法和装置
US20120127275A1 (en) Image processing method for determining depth information from at least two input images recorded with the aid of a stereo camera system
KR102483641B1 (ko) 양안 시차 영상의 처리 방법 및 장치
JP6431404B2 (ja) 姿勢推定モデル生成装置及び姿勢推定装置
US10460471B2 (en) Camera pose estimating method and system
CN102289803A (zh) 图像处理设备、图像处理方法及程序
JP6328351B2 (ja) 3dシーンを3dモデルとして再構成する方法
JP6359985B2 (ja) デプス推定モデル生成装置及びデプス推定装置
JP6664579B2 (ja) 学習装置、学習方法及び学習プログラム
JP2021534600A (ja) ビデオ安定化方法及び装置、並びに非一時的コンピュータ可読媒体
US11651581B2 (en) System and method for correspondence map determination
JP2017021759A (ja) 画像処理装置、画像処理方法及びプログラム
CN111696196A (zh) 一种三维人脸模型重建方法及装置
CN109887008B (zh) 基于前后向平滑和o(1)复杂度视差立体匹配方法、装置和设备
TW201436552A (zh) 用於使用至少一較高訊框率之影像流而增加影像流之訊框率之方法及裝置
CN108305280B (zh) 一种双目图像基于最小生成树的立体匹配方法及系统
CN110443228B (zh) 一种行人匹配方法、装置、电子设备及存储介质
JP2017229067A5 (ja)
US10529085B2 (en) Hardware disparity evaluation for stereo matching
CN107403448B (zh) 代价函数生成方法和代价函数生成装置
JP2010506482A (ja) ビデオストリームの視差回復方法及びフィルタ
JP2017096817A (ja) 距離情報補正装置、距離情報補正方法及び距離情報補正プログラム
EP2980752B1 (en) Image processing device, image processing system, image processing method, and image processing program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170612

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180419

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180605

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180621

R150 Certificate of patent or registration of utility model

Ref document number: 6359985

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees