JP5949314B2 - 視差マップ生成装置および視差マップ生成装置用のプログラム - Google Patents

視差マップ生成装置および視差マップ生成装置用のプログラム Download PDF

Info

Publication number
JP5949314B2
JP5949314B2 JP2012181587A JP2012181587A JP5949314B2 JP 5949314 B2 JP5949314 B2 JP 5949314B2 JP 2012181587 A JP2012181587 A JP 2012181587A JP 2012181587 A JP2012181587 A JP 2012181587A JP 5949314 B2 JP5949314 B2 JP 5949314B2
Authority
JP
Japan
Prior art keywords
weight
target pixel
image
pixel
parallax
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012181587A
Other languages
English (en)
Other versions
JP2014038546A (ja
Inventor
裕丈 石神
裕丈 石神
白井 孝昌
孝昌 白井
勝之 今西
勝之 今西
嘉修 竹前
嘉修 竹前
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Toyota Motor Corp
Soken Inc
Original Assignee
Denso Corp
Nippon Soken Inc
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp, Nippon Soken Inc, Toyota Motor Corp filed Critical Denso Corp
Priority to JP2012181587A priority Critical patent/JP5949314B2/ja
Priority to US14/422,502 priority patent/US9361668B2/en
Priority to PCT/JP2013/072156 priority patent/WO2014030630A1/ja
Priority to DE112013004103.0T priority patent/DE112013004103B4/de
Publication of JP2014038546A publication Critical patent/JP2014038546A/ja
Application granted granted Critical
Publication of JP5949314B2 publication Critical patent/JP5949314B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration by the use of local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20228Disparity calculation for image-based rendering

Description

本発明は、互いに異なる視点から撮影された複数の画像の各々対応する画素毎の画素位置の差で表される視差を含む視差マップを生成する視差マップ生成装置、および、当該視差マップ生成装置用のプログラム用のプログラムに関するものである。
従来、上記のような視差マップ生成装置において、ある画素の視差を補正する際、補正対象の画素と色が類似する画素を、補正対象の周辺の画素群から抽出し、抽出した画素群の視差のヒストグラムを生成し、作成したヒストグラムの最頻値となる視差を、当該補正対象画素の視差とする技術が、特許文献1に記載されている。
特開2011−203811号公報
しかし、上記のようなヒストグラムを用いて補正する方法は、以下のような点で問題がある。まず、ヒストグラムの最頻値を決める必要があるため、ビンの区切り幅をある程度大きくする必要があり、その結果、補正後の視差の値がビンの区切り幅に応じて粗くなってしまう。そしてこの結果、例えば、実際には3次元空間中で連続的に配置されているもの(例えば道路上の白線)が、あたかもぶつ切りに配置されているかのように判定されてしまう可能性がある。
本発明は上記点に鑑み、視差マップの補正の際、ビンによって補正後の視差の値が粗くなってしまわないようにすることを目的とする。
上記目的を達成するための請求項1に記載の発明は、カメラ(1、2)によって互いに異なる視点からによって撮影された第1の画像(21)および第2の画像(22)を取得する画像取得手段(31)と、前記取得された前記第1の画像と前記第2の画像との各々対応する画素毎の画素位置の差で表される視差を含む視差マップを生成する視差マップ生成手段(32)と、前記視差マップ中の補正対象画素(41)および前記補正対象画素の周辺に存在する周辺画素に対して補正に対する寄与度となる重みを決定する重み決定手段(33)と、決定された前記重みに基づいた加重平均により前記補正対象画素の視差を補正する視差マップ補正手段(34)と、を備え、視差マップ生成手段(32)は、第1の画像中の注目画素に対応付ける画素を、第2の画像中で、注目画素と同じ上下位置において水平に探索し、重み決定手段(33)は、重み算出対象画素の位置において検出されるエッジの傾きが水平に近いほど、重み算出対象画素の重みを小さくすることを特徴とする。
このように、補正の方法として、加重平均を用いた方法を採用するので、ビンによって補正後の視差の値が粗くなってしまうことがない。なお、この発明は、対象(画像)の物理的性質(互いに異なる視点からカメラによって撮影されている)に基づく情報処理を具体的に行うものであるから、特許法上の発明に該当する。
また、請求項2に記載の発明は、カメラ(1、2)によって互いに異なる視点からによって撮影された第1の画像(21)および第2の画像(22)を取得する画像取得手段(31)と、取得された第1の画像と第2の画像との各々対応する画素毎の画素位置の差で表される視差を含む視差マップを生成する視差マップ生成手段(32)と、視差マップ中の補正対象画素(41)および補正対象画素の周辺に存在する周辺画素に対して補正に対する寄与度となる重みを決定する重み決定手段(33)と、決定された重みに基づいた加重平均により補正対象画素の視差を補正する視差マップ補正手段(34)と、を備え、重み決定手段(33)は、重みを算出する対象の重み算出対象画素の位置においてエッジが検出されなかった場合、重み算出対象画素の重みをゼロとすることを特徴とする。
これによると、請求項1に記載の発明と同様の効果を得ることができる。
なお、上記および特許請求の範囲における括弧内の符号は、特許請求の範囲に記載された用語と後述の実施形態に記載される当該用語を例示する具体物等との対応関係を示すものである。
本発明の実施形態に係る視差マップ生成システムの構成図である。 演算回路が実行する処理のフローチャートである。 ステレオマッチングの概要を示す図である。 視差マップ中の補正対象画素41と周辺画像とを 補正対象画素41と重み算出対象画素の画像座標上の距離に応じた重み設定を概念的に示す図である。 補正対象画素41と重み算出対象画素の輝度差に応じた重み設定の意義を概念的に示す図である。 補正対象画素41と重み算出対象画素の奥行き方向の位置の差に応じた重み設定の意義を概念的に示す図である。 奥行き方向の位置Lと視差dとの関係を示す図である。 重み算出対象画素のエッジの勾配に応じた重み設定を概念的に示す図である。 エッジの傾きと視差誤差edとの関係を示す図である。
以下、本発明の一実施形態について説明する。図1に示すように、本実施形態に係る視差マップ生成システムは、右カメラ1、左カメラ2、演算回路3、メモリ4を備えている。
右カメラ1および左カメラ2は、互いに異なる位置に配置され、同じ被写体を互いに異なる視点から同時に撮影するようになっている。例えば、視差マップ生成システムが車両に搭載されている場合は、車両のフロントガラスの右端付近および左端付近にそれぞれ右カメラ1および左カメラ2が取り付けられ、右カメラ1および左カメラ2は共に車両前方を撮影するようになっていてもよい。
演算回路3(視差マップ生成装置の一例に相当する)は、右カメラ1が撮影した撮影画像および左カメラ2が撮影した撮影画像を取得し、取得した撮影画像に基づいて視差マップを作成する装置である。この演算回路3はメモリ4中のROMに記録されたプログラムを実行することで、後述する図2の処理を実現するようになっている。また、演算回路3は、図2の処理の実行において、メモリ4中のRAMを、計算結果の一時保存用の作業領域として使用する。
また、演算回路3は、図2の処理を実行することで、画像取得部31、視差マップ生成部32、重み決定部33、視差マップ補正部34として機能する。
画像取得部31は、右カメラ1、左カメラ2によって互いに異なる視点から撮影された2つの画像を取得し、視差マップ生成部32は、取得された2つの画像の各々対応する画素毎の画素位置の差で表される視差を含む視差マップを生成する。
重み決定部33は、視差マップ中の補正対象画素41(順に1個ずつ選ばれる)および補正対象画素の周辺に存在する周辺画素に対して補正に対する寄与度となる重みを決定する。画像補正部34は、決定された重みに基づいて加重平均により補正対象画素の視差を補正する。
次に、図2の処理について説明する。演算回路3は、図2の処理において、まずステップ105で、右カメラ1によって撮影された右カメラ画像(第1の画像の一例に相当する)と、左カメラ2によって撮影された左カメラ画像(第2の画像の一例に相当する)を取得してメモリ4のRAMに記録する。このステップ105を実行することで、演算回路3が画像取得部31として機能する。
続いてステップ110では、このRAM中に記録された右カメラ画像および左カメラ画像を用いて周知のステレオマッチングを行うことで、視差マップを生成する。このステップ110を実行することで、演算回路3が視差マップ生成部32として機能する。
このステップ110において、視差は、右カメラ画像および左カメラ画像の双方に含まれる同じ被写体の、右カメラ画像および左カメラ画像横における横方向の画素位置の相違(乖離量)として算出される。
ステレオマッチングとしては、周知のブロックマッチング法を採用する。ブロックマッチング法においては、演算回路3は、図3に示すように、右カメラ画像21中に、注目画素を中心に含む注目ブロック23(例えば縦5画素×横5画素のブロック)を設定し、左カメラ画像22中で、注目ブロック23と同じ被写体が含まれているブロックを探索し、探索の結果見つかったブロックを選び出し、選び出したブロックの中心画素と、当該注目画素とを対応付ける、という一連の処理を、注目画素の位置をラスタスキャンで1画素ずつずらしながら、右カメラ画像21中の全画素が注目画素となるまで、繰り返す。
この際、注目ブロック23と同じ被写体が含まれているブロックを探索するため、候補となる比較ブロック24(注目ブロックと同形状かつ同サイズのブロック)を左カメラ画像22中に複数個設け、それら比較ブロック24のうち、周知のSAD(Sum of Absolute Difference)が最も小さくなる比較ブロック(つまり、注目ブロック23と最も相関が高い比較ブロック)を、注目ブロック23と同じ被写体が含まれているブロックとして選び出す。なお、SADとは、2つのブロック(注目ブロックと比較ブロック)内における対応する各画素の輝度差の絶対値の総和である。
ここで、上記複数の比較ブロック24は、左カメラ画像22中で、中心画素の画像座標中の上下位置(図3中の上下位置に相当する)が、右カメラ画像中の注目画素と同じになるブロックのみから選ぶ。つまり、注目ブロック23と同じ被写体が含まれているブロックは、矢印25のように、水平方向に探索する。したがって、注目画素に対応する画素も、注目画素と同じ上下位置において水平に探索される。
上述のように、ブロックマッチングによって、右カメラ画像21中の各画素について、左カメラ画像22中で対応する画素が決まる。これに基づき、右カメラ画像21中の各画素について、左カメラ画像22中の対応する画素との視差(横方向の画像座標位置の差)を算出し、算出した視差を、当該右カメラ画像21中の画素に対応する視差として、メモリ4のRAMに記録する。
このように、右カメラ画像21中の各画素に対応付けられて記録された視差のデータが視差マップとなる。つまり、視差マップは、右カメラ画像21中の各画素の座標に、当該画素に写された被写体の視差が対応付けられたデータである。
ステップ110に続いては、ステップ115〜150の処理を、視差マップの画素の数だけ繰り返す。繰り返しの各回におけるステップ115では、その回における補正対象画素および複数の周辺画素を新たに設定する。
図4に示すように、複数の周辺画素は、補正対象画素41を中心とする縦9ドット×横9ドットのブロック領域40を設定し、そのブロック領域40内の全画素から補正対象画素41を除外した残りの画素である。なお、ブロック領域40のサイズおよび形状は適宜変更してもよい。
続くステップ120、125、130、135では、補正対象画素41および周辺画素のそれぞれに対して各種重み設定を行う。設定された重みは、後述するステップ145で補正対象画素41の視差を加重平均で補正する際に、補正に対する寄与度を表す量として用いられる。
まずステップ120では、補正対象画素41および周辺画素のそれぞれに対して第1の重みwを設定する。この重みwは、重みを算出する対象の画素(補正対象画素41または周辺画素、以下重み算出対象画素という)の補正対象画素41に対する画像座標上の距離に応じて設定される。図5の矢印41に示すように、右カメラ画像21中のブロック領域40内において、補正対象画素41から遠く離れた位置ほど、その位置の重み算出対象画素と補正対象画素41との画像座標上の距離は長くなる。
重み設定は、具体的には、図5に示すような画像座標(X、Y)上の、補正対象画素41の画素座標値を(x、y)とし、重み算出対象画素の画素座標値を(x’、y’)とすると、
Figure 0005949314
のようになる。つまり、補正対象画素41と重み算出対象画素との画像座標上の距離が長くなるほど、当該重み算出対象画素の重みwを小さくする。なお、σxは、あらかじめ定められた定数である。このようにするのは、補正対象画素41に近い画素ほど、補正対象画素41の視差との関連性が高いと考えられるからである。
続くステップ125では、補正対象画素41および周辺画素のそれぞれに対して第2の重みwを設定する。この重みwは、重み算出対象画素と補正対象画素41の輝度値の差(右カメラ画像21における輝度値の差)に応じて設定される。図7に示すように、補正対象画素41が人の一部を被写体としており、ブロック領域40内において、人が写った領域43の輝度と背景が写った領域44の輝度とが明確に異なっている場合があるが、このような場合は、輝度の違いを利用して、補正対象画素41の視差にあまり関係がない背景の視差については、補正対象画素41の視差補正計算において寄与度を低くする。
具体的には、補正対象画素41の(右カメラ画像21における)輝度値をIxyとし、重み算出対象画素の(右カメラ画像21における)輝度値をIx’y’とすると、
Figure 0005949314
のように算出する。つまり、補正対象画素41の輝度値と重み算出対象画素の輝度値との差が大きくなるほど、当該重み算出対象画素の重みwを小さくする。なお、σは、あらかじめ定められた定数である。
続くステップ130では、補正対象画素41および周辺画素のそれぞれに対して第3の重みwを設定する。この重みwは、重み算出対象画素と補正対象画素41の3次元座標変換時の奥行き方向の位置の差に応じて設定される。図7に示すように、補正対象画素41が人の一部を被写体としており、ブロック領域40内において、人の輝度に近いがカメラ1、2からの距離が大きく異なる被写体45(例えば路面上の白線)がある場合は、そのカメラ1、2からの距離(すなわち、上記奥行き方向の位置)の違いを利用して、補正対象画素41の視差にあまり関係がない被写体45の視差については、補正対象画素41の視差補正計算において寄与度を低くする。
具体的には、補正対象画素41の上記奥行き方向の位置をZxyとし、重み算出対象画素の上記奥行き方向の位置をZx’y’とすると、
Figure 0005949314
のように算出する。つまり、補正対象画素41の奥行き方向の位置(カメラから遠いほど大きくなる)と重み算出対象画素の奥行き方向の位置との差が大きくなるほど、当該重み算出対象画素の重みwを小さくする。なお、σは、あらかじめ定められた定数である。
なお、ある画素の3次元座標変換時の奥行き方向の位置は、その画素の視差(直前のステップ110で算出された視差)に応じて決まる。具体的には、図8に示すように、2つのカメラ1、2の光軸1a、1b間の距離をbとし、カメラ1のレンズ1bから結増面1cまでの距離(カメラ2のレンズ2bから結増面2cまでの距離と同じ)に相当するレンズ焦点距離をfとし、視差をdとすると、被写体51の奥行き方向の位置Lは、L=b×f/dという式によって得られる。なお、焦点距離fおよび距離bは既知である。
従って、2つの画素の奥行き方向の位置の差が大きいときは、2つの画素の視差の差も大きくなるので、補正対象画素41の視差と重み算出対象画素の視差との差が大きくなるほど、当該重み算出対象画素の重みwが小さくなる。
続くステップ135では、補正対象画素41および周辺画素のそれぞれに対して第4の重みwθを設定する。
この重みwθは、重み算出対象画素に存在するエッジ(右カメラ画像21中のエッジ)の勾配に応じて設定される。具体的には、エッジの勾配が水平に近い画素ほど、その画素の重みwθを小さくするので、図9に示すように、エッジ46の位置の画素の重みは、エッジ47の位置の画素の重みよりも小さくなる。
より具体的には、補正対象画素41のエッジの傾きをθx’y’とすると(ただし、θx’y’は0≦θx’y’<πの間で決められる)、
Figure 0005949314
のように算出する。ここで、σθは、あらかじめ定められた定数である。
このようにして第4の重みwθを算出するのは、エッジが水平に近い重み算出対象画素ほど、ステップ110のステレオマッチングによる視差計算の誤差が高くなる傾向にあるので、補正対象画素41の視差補正計算においてそのような重み算出対象画素の寄与度を低くしたいからである。
エッジが水平に近い画素ほどステレオマッチングの誤差が高くなる理由について説明する。本実施形態では、右カメラ画像および左カメラ画像において同じ被写体が写った2つの画素については、水平方向の位置がずれるものの、上下方向の位置がずれないように、あらかじめカメラ1、2の位置および向きが調整されている。
また、カメラ1、2の位置および向きの若干のずれを検出するため、演算回路3は、カメラ1、2の設置時に、右カメラ画像および左カメラ画像を用いたキャリブレーションを行い、そのキャリブレーションによって検出したずれを解消するよう、右カメラ画像および左カメラ画像の補正パラメータを決定し、以後のステップ105では毎回、この補正パラメータを用いた補正を、最新の右カメラ画像および左カメラ画像に対して施している。
しかしながら、キャリブレーションにも誤差が発生する場合がある。そのような場合には、図10に示すように、画像座標上において、右カメラ画像中で或る被写体が写った画素61と、左カメラ画像中で同じ被写体が写った画素62とが、同じ水平ライン61上にない(すなわち上下にずれている)場合が生じる。なお、図10の例では、画素61は右カメラ画像中のエッジ61上にあり、画素62は左カメラ画像中のエッジ62(被写体としてはエッジ61と同じ)上にある。
このような場合であっても、ステップ110のステレオマッチングでは、上述の通り、注目画素に対応する画素は、注目画素と同じ上下位置において水平に探索されるので、画素61に真に対応する画素62は、実際には画素61に対応付けられることはない。
このような場合、左カメラ画像内で画素61に実際に対応付けられる画素は、ブロックマッチングの性質上、水平ライン63と画素62を通るエッジ65とが交わる位置の画素66となる可能性が高い。その結果、画素61について計算される視差は、視差誤差edを含むものとなってしまう。
この視差誤差edは、エッジ61、62の水平ラインを基準とした勾配をθとし、画素61に対する画素62の上下方向のずれを平行化誤差erとすると、画像左上端を原点とする座標系では
ed=er×tan(π/2−θ)
となる(図10の例ではed、erはマイナスの値を持つ)。つまり、視差誤差edは、0≦θ<πの範囲内では、θ=π/2のとき(すなわち、エッジが水平ラインに対して直交しているとき)最小であり、θ=π/2から離れるほど(すなわち、エッジが水平に近づくほど)大きくなる。
なお、右カメラ画像21中でエッジが検出されなかった画素については、重みwθの値をゼロ(寄与度ゼロ)とする。このようにするのは、エッジが検出されない画素は、エッジが検出された画素に比べて、ステレオマッチングによる視差計算の誤差が高くなる傾向にあるからである。
また、右カメラ画像21のエッジ検出は、Sobelフィルタを用いた方法等、周知のものを用いればよい。また、エッジ検出のタイミングは、ステップ105で右カメラ画像21を取得した時点でもよいし、ステップ135の実行開始時点においてブロック領域40に対してエッジ検出を行う方法でもよい。
ステップ135に続いては、ステップ140に進み、ステップ120、125、130、135で算出した重みw、w、w、wθを統合する。具体的には、今回のブロック領域40中の重み算出対象画素のそれぞれについて、当該画素の重みw、w、w、wθの積w=w×w×w×wθを、最終的な当該画素の重みとする。
なお、このような統合方法によれば、最終的な重みwは、重みw、w、w、wθのうちいずれかがゼロになれば必ずゼロになるので、第4の重みwθを考慮すれば、重みwも、エッジが検出されなかった画素については、ゼロとなる。
演算回路3は、上記のようなステップ115〜140を実行することで、重み決定部(33)として機能する。
続くステップ145では、ステップ140で統合した重みwを用いた加重平均によって、今回の補正対象画素41の視差の補正を行う。演算回路3は、このステップ145を実行することで、視差マップ補整部として機能する。
具体的には、直前のステップ110で算出した画像座標値(x’、y’)の画素の視差をdx’y’とし、補正後の画像座標値(x、y)の画素の視差をfxyとすると、fxyは、
Figure 0005949314
のようになる。なお、この数式中の二重のΣは、今回のブロック領域40中のすべての重み算出対象画素について総和を取ることを意味している。したがっって、ブロック領域40が縦9画素×横9画素の領域の場合、Rは4画素分を表す量に相当する。
ステップ150では、対象となる全画素(右カメラ画像21の全画素)が補正対象画素になったか否かを判定し、なっていない場合、ステップ115に戻り、なっている場合、補正後の視差マップをメモリ4のRAMに記録した後、図2の処理を終了する。
このように、ステップ115〜150の処理を右カメラ画像21の画素分実行することで、各画素の視差を補正することができる。
なお、このような補正によって得た視差マップは、どのような用途に用いてもよい。例えば、本実施形態に係る視差マップ生成システムが車両に搭載され、車両のフロントガラスの右端付近および左端付近にそれぞれ右カメラ1および左カメラ2が取り付けられ、右カメラ1および左カメラ2は共に車両前方を撮影するようになっている場合は、この視差マップに基づいて、自車両から障害物までの距離を検知するようになっていてもよい。
なお、上記実施形態においては、演算回路3の画像取得部31、視差マップ生成部32、重み決定部33、および視差マップ生成部32が、それぞれ、画像取得手段、視差マップ生成手段、重み決定手段、および視差マップ生成手段に対応する。
(他の実施形態)
以上、本発明の実施形態について説明したが、本発明の範囲は、上記実施形態のみに限定されるものではなく、本発明の各発明特定事項の機能を実現し得る種々の形態を包含するものである。例えば、以下のような形態も許容される。
(1)上記実施形態では、ステップ140で、重みw、w、w、wθをすべて掛け合わせた量w=w×w×w×wθを最終的な重みとして加重平均に用いているが、最終的な重みは必ずしもこのようになっておらずともよい。例えば、w、w、w、wθのいずれか1つを最終的な重みとしてもよいし、w、w、w、wθのうちどの2つを選んで掛け合わせたものも最終的な重みとしてよい。
(2)上記実施形態では、視差マップにおいては、右カメラ画像21の各画素にその画素の視差が対応付けられている。しかし、視差マップにおいては、左カメラ画像22の各画素にその画素の視差が対応付けられていてもよいし、右カメラ画像21と左カメラ画像22と視差とに基づいて仮想的に作成された中間視点の画像の各画素にその画素の視差が対応付けられていてもよい。
(3)また、上記の実施形態において、演算回路3がプログラムを実行することで実現している各機能は、それらの機能を有するハードウェア(例えば回路構成をプログラムすることが可能なFPGA)を用いて実現するようになっていてもよい。
1、2 カメラ
3 演算回路
21、22 カメラ画像
31 画像取得部
32 視差マップ生成部
33 重み決定部
34 視差マップ補正部

Claims (8)

  1. カメラ(1、2)によって互いに異なる視点からによって撮影された第1の画像(21)および第2の画像(22)を取得する画像取得手段(31)と、
    前記取得された前記第1の画像と前記第2の画像との各々対応する画素毎の画素位置の差で表される視差を含む視差マップを生成する視差マップ生成手段(32)と、
    前記視差マップ中の補正対象画素(41)および前記補正対象画素の周辺に存在する周辺画素に対して補正に対する寄与度となる重みを決定する重み決定手段(33)と、
    決定された前記重みに基づいた加重平均により前記補正対象画素の視差を補正する視差マップ補正手段(34)と、を備え
    前記視差マップ生成手段(32)は、前記第1の画像中の注目画素に対応付ける画素を、前記第2の画像中で、注目画素と同じ上下位置において水平に探索し、
    前記重み決定手段(33)は、前記重み算出対象画素の位置において検出されるエッジの傾きが水平に近いほど、前記重み算出対象画素の重みを小さくすることを特徴とする視差マップ生成装置。
  2. カメラ(1、2)によって互いに異なる視点からによって撮影された第1の画像(21)および第2の画像(22)を取得する画像取得手段(31)と、
    前記取得された前記第1の画像と前記第2の画像との各々対応する画素毎の画素位置の差で表される視差を含む視差マップを生成する視差マップ生成手段(32)と、
    前記視差マップ中の補正対象画素(41)および前記補正対象画素の周辺に存在する周辺画素に対して補正に対する寄与度となる重みを決定する重み決定手段(33)と、
    決定された前記重みに基づいた加重平均により前記補正対象画素の視差を補正する視差マップ補正手段(34)と、を備え
    前記重み決定手段(33)は、重みを算出する対象の重み算出対象画素の位置においてエッジが検出されなかった場合、前記重み算出対象画素の重みをゼロとすることを特徴とする視差マップ生成装置。
  3. 前記重み決定手段(33)は、前記第1の画像における前記補正対象画素の輝度値と重みを算出する対象の重み算出対象画素の輝度値に基づいて、前記重み算出対象画素の重みを決定することを特徴とする請求項1または2に記載の視差マップ生成装置。
  4. 前記重み決定手段(33)は、前記第1の画像における前記補正対象画素の輝度値と重みを算出する対象の重み算出対象画素の輝度値との差が大きくなるほど、前記重み算出対象画素の重みを小さくすることを特徴とする請求項に記載の視差マップ生成装置。
  5. 前記重み決定手段(33)は、前記補正対象画素と重みを算出する対象の重み算出対象画素との画像座標上の距離が長くなるほど、前記重み算出対象画素の重みを小さくすることを特徴とする請求項1ないし4のいずれか1つに記載の視差マップ生成装置。
  6. 前記重み決定手段(33)は、前記補正対象画素の視差と重みを算出する対象の重み算出対象画素の視差との差が大きくなるほど、前記重み算出対象画素の重みを小さくすることを特徴とする請求項1ないし5のいずれか1つに記載の視差マップ生成装置。
  7. 視差マップ生成装置を、
    互いに異なる視点から撮影された第1の画像(21)および第2の画像(22)を取得する画像取得手段(31)、
    前記取得された前記第1の画像と前記第2の画像との各々対応する画素毎の画素位置の差で表される視差を含む視差マップを生成するとともに、前記第1の画像中の注目画素に対応付ける画素を、前記第2の画像中で、注目画素と同じ上下位置において水平に探索する視差マップ生成手段(32)、
    前記視差マップ中の補正対象画素(41)および前記補正対象画素の周辺に存在する周辺画素に対して補正に対する寄与度となる重みを決定するとともに、前記重み算出対象画素の位置において検出されるエッジの傾きが水平に近いほど、前記重み算出対象画素の重みを小さくする重み決定手段(33)、および
    決定された前記重みに基づいて加重平均により前記補正対象画素の視差を補正する視差マップ補正手段(34)として機能させるプログラム。
  8. 視差マップ生成装置を、
    互いに異なる視点から撮影された第1の画像(21)および第2の画像(22)を取得する画像取得手段(31)、
    前記取得された前記第1の画像と前記第2の画像との各々対応する画素毎の画素位置の差で表される視差を含む視差マップを生成する視差マップ生成手段(32)、
    前記視差マップ中の補正対象画素(41)および前記補正対象画素の周辺に存在する周辺画素に対して補正に対する寄与度となる重みを決定するとともに、重みを算出する対象の重み算出対象画素の位置においてエッジが検出されなかった場合、前記重み算出対象画素の重みをゼロとする重み決定手段(33)、および
    決定された前記重みに基づいて加重平均により前記補正対象画素の視差を補正する視差マップ補正手段(34)として機能させるプログラム。
JP2012181587A 2012-08-20 2012-08-20 視差マップ生成装置および視差マップ生成装置用のプログラム Active JP5949314B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2012181587A JP5949314B2 (ja) 2012-08-20 2012-08-20 視差マップ生成装置および視差マップ生成装置用のプログラム
US14/422,502 US9361668B2 (en) 2012-08-20 2013-08-20 Method and apparatus for generating disparity map
PCT/JP2013/072156 WO2014030630A1 (ja) 2012-08-20 2013-08-20 視差マップを生成する装置及びその方法
DE112013004103.0T DE112013004103B4 (de) 2012-08-20 2013-08-20 Verfahren und Vorrichtung zum Erzeugen einer Disparitätskarte

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012181587A JP5949314B2 (ja) 2012-08-20 2012-08-20 視差マップ生成装置および視差マップ生成装置用のプログラム

Publications (2)

Publication Number Publication Date
JP2014038546A JP2014038546A (ja) 2014-02-27
JP5949314B2 true JP5949314B2 (ja) 2016-07-06

Family

ID=50149939

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012181587A Active JP5949314B2 (ja) 2012-08-20 2012-08-20 視差マップ生成装置および視差マップ生成装置用のプログラム

Country Status (4)

Country Link
US (1) US9361668B2 (ja)
JP (1) JP5949314B2 (ja)
DE (1) DE112013004103B4 (ja)
WO (1) WO2014030630A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9058657B2 (en) * 2011-04-28 2015-06-16 Technologies Holdings Corp. System and method for filtering data captured by a 3D camera
CN104322061B (zh) * 2012-06-22 2017-01-18 株式会社尼康 图像处理装置、摄像装置及图像处理方法
US20150346115A1 (en) * 2014-05-30 2015-12-03 Eric J. Seibel 3d optical metrology of internal surfaces
JP6377970B2 (ja) * 2014-06-12 2018-08-22 トヨタ自動車株式会社 視差画像生成装置及び視差画像生成方法
CN105120255B (zh) * 2015-09-15 2018-11-20 Tcl集团股份有限公司 一种视差图的平滑方法、装置及电子设备
US10554947B1 (en) * 2015-12-16 2020-02-04 Marvell International Ltd. Method and apparatus for stereo vision matching including disparity refinement based on matching merit values
JP6707022B2 (ja) * 2016-12-26 2020-06-10 日立オートモティブシステムズ株式会社 ステレオカメラ
CN108254738A (zh) * 2018-01-31 2018-07-06 沈阳上博智像科技有限公司 避障告警方法、装置及存储介质
US11245888B2 (en) * 2018-03-19 2022-02-08 Ricoh Company, Ltd. Information processing apparatus, image capture apparatus, image processing system, and method of processing a plurality of captured images of a traveling surface where a moveable apparatus travels
US10902556B2 (en) 2018-07-16 2021-01-26 Nvidia Corporation Compensating for disparity variation when viewing captured multi video image streams
JP7417166B2 (ja) * 2020-07-22 2024-01-18 日本電信電話株式会社 デプスマップの精度向上装置、方法、およびプログラム
CN112767293B (zh) * 2021-01-11 2023-04-11 达闼机器人股份有限公司 获取视差图像的方法、电子设备及存储介质

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3826236B2 (ja) 1995-05-08 2006-09-27 松下電器産業株式会社 中間像生成方法、中間像生成装置、視差推定方法、及び画像伝送表示装置
JPH10289315A (ja) * 1997-04-16 1998-10-27 Sony Corp 視差算出装置、距離算出装置およびこれらの方法
GB9823689D0 (en) 1998-10-30 1998-12-23 Greenagate Limited Improved methods and apparatus for 3-D imaging
JP2001351200A (ja) 2000-06-09 2001-12-21 Nissan Motor Co Ltd 車載用物体検知装置
US7035451B2 (en) * 2000-08-09 2006-04-25 Dynamic Digital Depth Research Pty Ltd. Image conversion and encoding techniques
JP2003209858A (ja) 2002-01-17 2003-07-25 Canon Inc 立体画像生成方法及び記録媒体
US7257272B2 (en) * 2004-04-16 2007-08-14 Microsoft Corporation Virtual image generation
US7292735B2 (en) * 2004-04-16 2007-11-06 Microsoft Corporation Virtual image artifact detection
US7330593B2 (en) * 2004-06-25 2008-02-12 Stmicroelectronics, Inc. Segment based image matching method and system
CN102428501A (zh) * 2009-09-18 2012-04-25 株式会社东芝 图像处理装置
JP5387377B2 (ja) 2009-12-14 2014-01-15 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
JP2011203811A (ja) 2010-03-24 2011-10-13 Fujifilm Corp 画像処理装置、画像処理方法、画像処理プログラム、及び複眼デジタルカメラ
JP4875762B2 (ja) * 2010-05-26 2012-02-15 シャープ株式会社 画像処理装置、画像表示装置および画像撮像装置
JP5752618B2 (ja) 2012-02-10 2015-07-22 トヨタ自動車株式会社 ステレオ視差算出装置
US20140009462A1 (en) * 2012-04-17 2014-01-09 3Dmedia Corporation Systems and methods for improving overall quality of three-dimensional content by altering parallax budget or compensating for moving objects

Also Published As

Publication number Publication date
WO2014030630A1 (ja) 2014-02-27
US9361668B2 (en) 2016-06-07
DE112013004103B4 (de) 2018-09-13
JP2014038546A (ja) 2014-02-27
DE112013004103T5 (de) 2015-05-28
US20150228057A1 (en) 2015-08-13

Similar Documents

Publication Publication Date Title
JP5949314B2 (ja) 視差マップ生成装置および視差マップ生成装置用のプログラム
JP6013884B2 (ja) 物体検出装置及び物体検出方法
JP5752618B2 (ja) ステレオ視差算出装置
CN105069804B (zh) 基于智能手机的三维模型扫描重建方法
CN105551020B (zh) 一种检测目标物尺寸的方法及装置
JP6020471B2 (ja) 画像処理方法、画像処理装置および画像処理プログラム
KR20120068470A (ko) 스테레오 영상 정합 장치 및 그 방법
JP4772494B2 (ja) データ処理装置
US10205928B2 (en) Image processing apparatus that estimates distance information, method of controlling the same, and storage medium
JP2015194487A (ja) 視差値導出装置、移動体、ロボット、視差値導出方法、視差値生産方法及びプログラム
KR101875532B1 (ko) 계층적 스테레오 매칭 장치 및 방법
JP2004028727A (ja) 監視システムおよび監視方法、当該監視システムにおける距離補正装置および距離補正方法
US20080226159A1 (en) Method and System For Calculating Depth Information of Object in Image
KR101888969B1 (ko) 영상특성을 이용한 스테레오 매칭장치
JP4696925B2 (ja) 画像処理装置
CN111260538B (zh) 基于长基线双目鱼眼相机的定位及车载终端
JP2015184121A (ja) 距離算出装置
JP6668740B2 (ja) 道路面推定装置
US20120154388A1 (en) Stereo image processing method, stereo image processing device and display device
US10430971B2 (en) Parallax calculating apparatus
JP2016111585A (ja) 画像処理装置、システム、画像処理方法、およびプログラム
JP4410521B2 (ja) 画像処理装置および画像処理方法
WO2016047220A1 (ja) 撮像装置及び撮像方法
JP7146608B2 (ja) 画像処理装置
KR101813371B1 (ko) 영상 처리 장치 및 영상 처리 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160331

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160523

R150 Certificate of patent or registration of utility model

Ref document number: 5949314

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250