JP2018205205A - ステレオマッチング装置とステレオマッチング方法及びステレオマッチングプログラム - Google Patents
ステレオマッチング装置とステレオマッチング方法及びステレオマッチングプログラム Download PDFInfo
- Publication number
- JP2018205205A JP2018205205A JP2017112580A JP2017112580A JP2018205205A JP 2018205205 A JP2018205205 A JP 2018205205A JP 2017112580 A JP2017112580 A JP 2017112580A JP 2017112580 A JP2017112580 A JP 2017112580A JP 2018205205 A JP2018205205 A JP 2018205205A
- Authority
- JP
- Japan
- Prior art keywords
- stereo matching
- images
- index
- smoothing
- luminance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Measurement Of Optical Distance (AREA)
Abstract
【課題】複数の画像間において、より精度の高いステレオマッチングを実現するための装置と方法及びプログラムを提供する。
【解決手段】少なくとも二つの視点から撮像された複数の画像間におけるステレオマッチングを行うステレオマッチング装置であって、複数の画像における画素間の非類似性を示す指標を算出する非類似性算出部4と、上記指標及び上記画像に基づいて、上記指標を平滑化する平滑化部5と、平滑化部5により平滑化された上記指標に応じて、上記複数の画像間におけるステレオマッチングを実行するマッチング部6とを備えたステレオマッチング装置1を提供する。
【選択図】図1
【解決手段】少なくとも二つの視点から撮像された複数の画像間におけるステレオマッチングを行うステレオマッチング装置であって、複数の画像における画素間の非類似性を示す指標を算出する非類似性算出部4と、上記指標及び上記画像に基づいて、上記指標を平滑化する平滑化部5と、平滑化部5により平滑化された上記指標に応じて、上記複数の画像間におけるステレオマッチングを実行するマッチング部6とを備えたステレオマッチング装置1を提供する。
【選択図】図1
Description
本発明は、ステレオ画像間において正確なステレオマッチングを実現する装置と方法及びプログラムに関するものである。
被写体の三次元計測を可能にするステレオ画像に関しては、これまで種々の画像処理技術が考案されているが、例えば特許文献1においては、視差画像を用いたステレオマッチングにおいて視差を補正する技術が開示されている。
また、非特許文献1には、上記画像処理技術の一つとして、一つ(片眼)のガイド画像を重み付けに用いたコストボリュームフィルタリングが開示されている。なお、非特許文献1には、二つのガイド画像を用いた場合につき言及がなされているものの、詳細については説明がなされておらず、また改善効果は得られなかったと記されている。
C.Rhemann, A.Hosni, M.Bleyer, C.Rother, M.Gelautz, "Fast cost-volume filtering for visual correspondence and beyond", Computer Vision and Pattern Recognition (CVPR), 2011 IEEE Conference on, pp.3017-3024, 2011
しかし、一般的にステレオ画像は、異なる点から撮像された少なくとも二つの画像からなるため、ステレオ画像間における対応点候補の評価値に平滑化を施す際、一つの画像ではなく、これら少なくとも二つの画像をガイド画像として利用した方が、より正確なステレオマッチングを実現できるのではないかが課題となる。
本発明は、このような課題を解決するためになされたもので、複数の画像間において、より精度の高いステレオマッチングを実現するための装置と方法及びプログラムを提供することを目的とする。
上記課題を解決するため、本発明は、少なくとも二つの視点から撮像された複数の画像間におけるステレオマッチングを行うステレオマッチング装置であって、上記複数の画像における画素間の非類似性を示す指標を算出する非類似性算出手段と、上記指標及び上記画像に基づいて、上記指標を平滑化する平滑化手段と、平滑化手段により平滑化された上記指標に応じて、上記複数の画像間におけるステレオマッチングを実行するマッチング手段とを備えたステレオマッチング装置を提供する。
また、上記課題を解決するため、本発明は、少なくとも二つの視点から撮像された複数の画像間におけるステレオマッチングを行うステレオマッチング方法であって、複数の画像における画素間の非類似性を示す指標を算出する第一のステップと、上記指標及び上記画像に基づいて、上記指標を平滑化する第二のステップと、第二のステップで平滑化された上記指標に応じて、上記複数の画像間におけるステレオマッチングを実行する第三のステップとを有するステレオマッチング方法を提供する。
また、上記課題を解決するため、本発明は、コンピュータに対して、少なくとも二つの視点から撮像された複数の画像間におけるステレオマッチングを行わせるためのステレオマッチングプログラムであって、上記コンピュータに対し、上記複数の画像における画素間の非類似性を示す指標を算出させる第一の手順と、上記指標及び上記画像に基づいて、上記指標を平滑化させる第二の手順と、第二の手順において平滑化された上記指標に応じて、上記複数の画像間におけるステレオマッチングを実行させる第三の手順とを有するステレオマッチングプログラムを提供する。
本発明によれば、複数の画像間において、より精度の高いステレオマッチングを実現することができる。
以下において、本発明の実施の形態を図面を参照しつつ詳しく説明する。なお、図中同一符号は同一又は相当部分を示す。
図1は、本発明の実施の形態に係るステレオマッチング装置1の構成を示すブロック図である。図1に示されるように、本発明の実施の形態に係るステレオマッチング装置1は、入出力端子2と、入出力端子2に接続されたバス3と、それぞれバス3に接続された非類似性算出部4、平滑化部5、マッチング部6、及び記憶部7を備える。
図2は、本発明の実施の形態に係るステレオマッチング方法を示すフローチャートである。以下においては、図2に示されたステレオマッチング方法を、図1に示されたステレオマッチング装置1の動作により実現する場合について説明するが、本方法は図1に示されたステレオマッチング装置1を用いる場合に限られず広く適用できることは言うまでもない。
本発明の実施の形態に係るステレオマッチング方法は、少なくとも二つの視点から撮像された複数の画像間におけるステレオマッチングを行う方法であって、ステップS1では、非類似性算出部4が複数の画像における画素間の非類似性を示す指標(以下「コスト」という。)を算出する。なお、図1に示されたステレオマッチング装置1においては、撮像された画像は入出力端子2及びバス3を介して記憶部7に記憶され、非類似性算出部4は記憶部7に記憶された画像を用いてコストを算出する。
次に、ステップS2では、平滑化部5が上記コスト及び上記画像に基づいて、コストを平滑化する。なお、ここで「複数の画像」は、ステレオ画像の他、少なくとも三つの視点から撮像された他の画像であってもよい。
次に、ステップS3では、マッチング部6がステップS2で平滑化されたコストに応じて、上記複数の画像間におけるステレオマッチングを実行する。以下においては、図2に示されたステレオマッチング方法の具体例を詳しく説明する。
上記ステップS2における平滑化の対象は、視差毎に各画素について算出されたコストとされる。ここで、平滑化を行う際に用いるカーネル、すなわち畳み込み演算で使用する係数の集合は、例えば、図3に示されるように、注目画素pを中心に画像全体へ放射線状に広がる直線群とされる。なお、図3における横方向の位置は水平座標u、縦方向の位置は垂直座標vで示される。また、カーネルは係数を再帰的に計算できるものであればよく、図3に示されたものに限られない。
そして、図4に示されるように、カーネルの広がる方向を0から7の数字で示し、方向iを0から7のいずれかとするとき、注目画素pに対する相対座標Oiを次式(1)のように定義する。
このとき、注目画素pに対して方向kで隣接する画素qkを次式(2)で表す。
基準画像の注目画素pと視差dにある参照画像の画素との非類似性をコストC(p,d)とする。なお、ここではコストを次式(3)のように、上記注目画素pの輝度ILと上記参照画像の画素における輝度IRの絶対差として定義する。
なお、式(3)で示されたコストC(p,d)は、画素間の非類似性を示す指標であればよく、式(3)により算出されるものに限られず、輝度の差の二乗やセンサス変換(Census Transform)した結果のハミング距離であってもよい。
次に、注目画素pの方向kにおける部分コストGk(p,d)を次式(4)で定義する。なお、式(4)において、Dは視差の探索範囲を示し、wは重み関数を示す。
ただし、式(4)においては、次式(5)の関係が成立する。なお、式(5)において、Tpは視差の変化に対するペナルティのしきい値を示し、物体表面を滑らかに連続させる拘束の強さを決める因子となる。
このとき、集約コストが次式(6)で示される。ただし、式(6)においてnは上記方向の数を示す。
上式(6)により算出された集約コストを用いて、注目画素pにおける最適な視差dpは次式(7)により求められる。
ところで、立体視において、あるカメラで撮像された画像に写る一点は、他のカメラで撮像された画像の一点のみに対応することが期待される。ここで図5は、視差d及び水平座標uがなす面から見たコストボリュームを示す。図5において、それぞれ斜線部分は対応点を、破線は基準カメラML及び参照カメラMRの視線を示す。これら両カメラにエッジ、すなわち大きな輝度勾配が写るとき、対応点は同じエッジとなり、網掛け部分は異なるエッジ(誤対応)となる。従って、上式(4)において、図5の太枠で示される斜線部分では相対的に弱く、網掛け部分では斜線部分よりも強い、すなわち大きな重みで平滑化を行うような重み関数wを用いる。
具体的には、例えば次式(8)により示される重み関数wを用いる。なお、式(8)における画素pハット(以下「/p」と記す。)及び画素qハット(以下「/q」と記す。)は、それぞれ参照画像の画素を示し、Δp及びΔpハットは、それぞれ基準画像における注目画素pから画素qへの輝度勾配、参照画像における注目画素/pから画素/qへの輝度勾配、σは標準偏差を示す。
図6は、式(8)のσが1のときにおける重み関数wのグラフを示す。なお、図6のグラフにおいて縦軸は重み、底面の二軸はそれぞれ基準画像の輝度勾配1及び参照画像の輝度勾配2を示す。ここで、輝度勾配1及び輝度勾配2は、基準画像と参照画像とで同じ方向に対する勾配の大きさとされ、例えば左向きの輝度勾配を評価するとき、輝度が左に行くにつれて減少するなら勾配は正の値、左に行くにつれて増加するなら勾配は負の値とされる。
また、図7は、上記の輝度勾配1と輝度勾配2を示す両軸のマイナス方向が共に左向きになるよう横に並べた場合における図6のグラフを示し、図8は、上記輝度勾配2を示す軸のプラス方向と、上記輝度勾配1を示す軸のマイナス方向が共に左側に位置するよう横に並べた場合における図6のグラフを示す。
これら図6から図8に示されたグラフから分かるように、式(8)に示された重み関数wによれば、画像上のある方向において輝度勾配1と輝度勾配2の符号が全て一致する場合は、輝度勾配のノルムが小さいほど大きな重みで平滑化することになる。また、画像上のある方向において輝度勾配1と輝度勾配2の符号が少なくとも一対において異なる場合は、輝度勾配のノルムが大きいほど大きな重みで平滑化することになる。
従って、このような重み関数wを用いた平滑化を実行することにより、基準画像と参照画像間において対応点に限り輝度勾配1と輝度勾配2の符号が等しくかつノルムが小さいことが期待できることから、誤対応の重みが小さくなることを回避できるため、誤対応の集約コストが対応点の集約コストより大きくなり、3次元計測における精度の改善を図ることができる。
なお、上記の重み関数wは式(8)で示されたものに限らない。すなわち、上記のように、輝度勾配1と輝度勾配2の符号が同じなら値が大きいほど重みが小さく、輝度勾配1と輝度勾配2の符号が異なれば値が大きいほど重みが大きい関数であれば良い。
さらに、上記の平滑化は、ガイド画像を三つ以上利用して行ってもよい。以下において、ガイド画像を三つ以上用いて上記平滑化を行う場合の具体例について説明する。なお、説明を簡略化するため、三台のカメラ1〜3で撮像された画像における輝度勾配をそれぞれg1、g2、g3で表し、重み関数の引数を座標ではなく輝度勾配とする。すると、単眼、ステレオ、三眼カメラの重み関数w1,w2,w3はそれぞれ次式(9)〜(11)で表すことができる。
以上の重み関数w1,w2,w3を一般化すると以下のようになる。n個の輝度勾配を要素とするベクトルgは次式(12)で表すことができる。
このとき、ベクトル集合Agを次式(13)のように定義する。なお、式(13)における「\」は、除くことを示す。
ここで、n枚のガイド画像による重み関数wnは、次式(14)により表すことができる。
ところで、ガイド画像が3枚以上ある場合、重み付けには別の選択肢がある。すなわち、上記の重み付けは、ある方向に並ぶ各画素につき輝度勾配の符号が全て一致する場合、輝度勾配のノルムが小さいほど重みを大きくしてもよい。また、別の方法として、上記輝度勾配の符号が少なくとも一対において一致する場合において、輝度勾配のノルムが小さいほど重みを大きくしてもよい。
次に、図9に示されるように、三台のカメラをL字に配置して撮像することにより得られた基準画像Lと参照画像R、及び検証画像Vの三枚の画像をガイド画像として、ステレオマッチングを行う場合の例について説明する。
図10(a)に示されるように、基準画像Lと参照画像Rの間でステレオマッチングを行う場合、これらの画像は図9に示されるように互いに水平方向に並んだカメラで撮像されたものであるため、対応する画素PLと画素PRの間において水平方向の視差を計算する。
一方、基準画像Lと検証画像Vの間でステレオマッチングを行う場合、これらの画像は図9に示されるように互いに垂直方向に並んだカメラで撮像されたものであるため、図10(b)に示されるように基準画像Lと検証画像Vを時計回りに90度回転させた上で、対応する画素PLと画素PVの間における水平方向の視差を計算する。
なお、上記コストを算出するに当たっては、上記のように90度回転されたガイド画像の輝度勾配を求め、重みの計算における輝度勾配の方向については、上記回転を戻すよう逆回転した方向を用いることになる。また、ガイド画像がステレオマッチングの対象とされる画像と異なる場合は、ガイド画像もステレオマッチングの対象とされる画像と同様に回転させた上で計算する。
以上のような本発明の実施の形態に係るステレオマッチング方法は、本方法をアルゴリズムにより表記したプログラムを、コンピュータに実行させることによっても実現することができる。ここで、本コンピュータの一例は、図11のステレオマッチング装置10として示される。
図11に示されたステレオマッチング装置10は、入出力端子12と、入出力端子12に接続されたバス13と、それぞれバス13に接続された中央演算処理装置(CPU)14及びメモリ15を備える。このような構成を有するステレオマッチング装置10においては、メモリ15が上記プログラムを格納し、CPU14がメモリ15に格納された上記プログラムをバス13を介して読み出した上で実行する。
以上より、本発明の実施の形態に係るステレオマッチング装置1,10とステレオマッチング方法及びステレオマッチングプログラムによれば、複数の画像間において非類似性を的確に平滑化した上でマッチングを行うことにより、ステレオマッチングの精度を高めることができる。
1,10 ステレオマッチング装置
4 非類似性算出部
5 平滑化部
6 マッチング部
14 中央演算処理装置(CPU)
15 メモリ
4 非類似性算出部
5 平滑化部
6 マッチング部
14 中央演算処理装置(CPU)
15 メモリ
Claims (15)
- 少なくとも二つの視点から撮像された複数の画像間におけるステレオマッチングを行うステレオマッチング装置であって、
前記複数の画像における画素間の非類似性を示す指標を算出する非類似性算出手段と、
前記指標及び前記画像に基づいて、前記指標を平滑化する平滑化手段と、
前記平滑化手段により平滑化された前記指標に応じて、前記複数の画像間におけるステレオマッチングを実行するマッチング手段とを備えたステレオマッチング装置。 - 前記平滑化手段は、前記複数の画像間において、誤対応における前記指標については対応点における前記指標よりも大きな重みで前記平滑化を行う、請求項1に記載のステレオマッチング装置。
- 前記平滑化手段は、前記複数の画像間において、ある方向に並ぶ各画素につき輝度勾配の符号が全て一致する場合は前記輝度勾配のノルムが小さいほど、前記符号が少なくとも一対において異なる場合は前記ノルムが大きいほど大きな重みで前記平滑化を行う、請求項1に記載のステレオマッチング装置。
- 前記複数の画像は3つ以上の画像からなり、
前記平滑化手段は、前記複数の画像間において、ある方向に並ぶ各画素につき輝度勾配の符号が少なくとも一対において一致する場合は、前記輝度勾配のノルムが小さいほど大きな重みで前記平滑化を行う、請求項1に記載のステレオマッチング装置。 - 前記指標は輝度の絶対差である、請求項1に記載のステレオマッチング装置。
- 少なくとも二つの視点から撮像された複数の画像間におけるステレオマッチングを行うステレオマッチング方法であって、
前記複数の画像における画素間の非類似性を示す指標を算出する第一のステップと、
前記指標及び前記画像に基づいて、前記指標を平滑化する第二のステップと、
前記第二のステップで平滑化された前記指標に応じて、前記複数の画像間におけるステレオマッチングを実行する第三のステップとを有するステレオマッチング方法。 - 前記第二のステップでは、前記複数の画像間において、誤対応における前記指標については対応点における前記指標よりも大きな重みで前記平滑化を行う、請求項6に記載のステレオマッチング方法。
- 前記第二のステップでは、前記複数の画像間において、ある方向に並ぶ各画素につき輝度勾配の符号が全て一致する場合は前記輝度勾配のノルムが小さいほど、前記符号が少なくとも一対において異なる場合は前記ノルムが大きいほど大きな重みで前記平滑化を行う、請求項6に記載のステレオマッチング方法。
- 前記複数の画像は3つ以上の画像からなり、
前記第二のステップでは、前記複数の画像間において、ある方向に並ぶ各画素につき輝度勾配の符号が少なくとも一対において一致する場合は、前記輝度勾配のノルムが小さいほど大きな重みで前記平滑化を行う、請求項6に記載のステレオマッチング方法。 - 前記指標は輝度の絶対差である、請求項6に記載のステレオマッチング方法。
- コンピュータに対して、少なくとも二つの視点から撮像された複数の画像間におけるステレオマッチングを行わせるためのステレオマッチングプログラムであって、前記コンピュータに対し、
前記複数の画像における画素間の非類似性を示す指標を算出させる第一の手順と、
前記指標及び前記画像に基づいて、前記指標を平滑化させる第二の手順と、
前記第二の手順において平滑化された前記指標に応じて、前記複数の画像間におけるステレオマッチングを実行させる第三の手順とを有するステレオマッチングプログラム。 - 前記第二の手順では、前記複数の画像間において、誤対応における前記指標については対応点における前記指標よりも大きな重みで前記平滑化を行わせる、請求項11に記載のステレオマッチングプログラム。
- 前記第二の手順では、前記複数の画像間において、ある方向に並ぶ各画素につき輝度勾配の符号が全て一致する場合は前記輝度勾配のノルムが小さいほど、前記符号が少なくとも一対において異なる場合は前記ノルムが大きいほど大きな重みで前記平滑化を行わせる、請求項11に記載のステレオマッチングプログラム。
- 前記複数の画像は3つ以上の画像からなり、
前記第二の手順では、前記複数の画像間において、ある方向に並ぶ各画素につき輝度勾配の符号が少なくとも一対において一致する場合は、前記輝度勾配のノルムが小さいほど大きな重みで前記平滑化を行わせる、請求項11に記載のステレオマッチングプログラム。 - 前記指標は輝度の絶対差である、請求項11に記載のステレオマッチングプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017112580A JP2018205205A (ja) | 2017-06-07 | 2017-06-07 | ステレオマッチング装置とステレオマッチング方法及びステレオマッチングプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017112580A JP2018205205A (ja) | 2017-06-07 | 2017-06-07 | ステレオマッチング装置とステレオマッチング方法及びステレオマッチングプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018205205A true JP2018205205A (ja) | 2018-12-27 |
Family
ID=64956936
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017112580A Pending JP2018205205A (ja) | 2017-06-07 | 2017-06-07 | ステレオマッチング装置とステレオマッチング方法及びステレオマッチングプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018205205A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020090960A1 (ja) | 2018-10-31 | 2020-05-07 | 広栄化学工業株式会社 | シリルアミン化合物および該シリルアミン化合物を含む潜在性硬化剤 |
-
2017
- 2017-06-07 JP JP2017112580A patent/JP2018205205A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020090960A1 (ja) | 2018-10-31 | 2020-05-07 | 広栄化学工業株式会社 | シリルアミン化合物および該シリルアミン化合物を含む潜在性硬化剤 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110135455B (zh) | 影像匹配方法、装置及计算机可读存储介质 | |
US10559090B2 (en) | Method and apparatus for calculating dual-camera relative position, and device | |
CN109727288B (zh) | 用于单目同时定位与地图构建的系统和方法 | |
US11120254B2 (en) | Methods and apparatuses for determining hand three-dimensional data | |
JP6760957B2 (ja) | 3次元モデリング方法及び装置 | |
US10706567B2 (en) | Data processing method, apparatus, system and storage media | |
CN109523581B (zh) | 一种三维点云对齐的方法和装置 | |
KR102483641B1 (ko) | 양안 시차 영상의 처리 방법 및 장치 | |
JP6570296B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
US20130136302A1 (en) | Apparatus and method for calculating three dimensional (3d) positions of feature points | |
US9613404B2 (en) | Image processing method, image processing apparatus and electronic device | |
CN109640066B (zh) | 高精度稠密深度图像的生成方法和装置 | |
CN112652016A (zh) | 点云预测模型的生成方法、位姿估计方法及其装置 | |
JP2014096062A (ja) | 画像処理方法及び画像処理装置 | |
JPWO2013038833A1 (ja) | 画像処理システム、画像処理方法および画像処理プログラム | |
US9292932B2 (en) | Three dimension measurement method, three dimension measurement program and robot device | |
CA3233222A1 (en) | Method, apparatus and device for photogrammetry, and storage medium | |
WO2023005457A1 (zh) | 位姿计算方法和装置、电子设备、可读存储介质 | |
CN111105452A (zh) | 基于双目视觉的高低分辨率融合立体匹配方法 | |
TWI528783B (zh) | 產生深度影像之方法及其系統及電腦程式產品 | |
US8340399B2 (en) | Method for determining a depth map from images, device for determining a depth map | |
US20140152862A1 (en) | Image processing apparatus, image pickup apparatus, image pickup system, image processing method, and non-transitory computer-readable storage medium | |
JP2018205205A (ja) | ステレオマッチング装置とステレオマッチング方法及びステレオマッチングプログラム | |
JP5728399B2 (ja) | 計測装置、方法及びプログラム | |
CN113436269B (zh) | 图像稠密立体匹配方法、装置和计算机设备 |