JP2011203811A - 画像処理装置、画像処理方法、画像処理プログラム、及び複眼デジタルカメラ - Google Patents
画像処理装置、画像処理方法、画像処理プログラム、及び複眼デジタルカメラ Download PDFInfo
- Publication number
- JP2011203811A JP2011203811A JP2010068122A JP2010068122A JP2011203811A JP 2011203811 A JP2011203811 A JP 2011203811A JP 2010068122 A JP2010068122 A JP 2010068122A JP 2010068122 A JP2010068122 A JP 2010068122A JP 2011203811 A JP2011203811 A JP 2011203811A
- Authority
- JP
- Japan
- Prior art keywords
- parallax
- pixel
- image
- histogram
- map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000003672 processing method Methods 0.000 title claims description 8
- 150000001875 compounds Chemical class 0.000 title claims description 6
- 230000002093 peripheral effect Effects 0.000 claims description 11
- 239000000284 extract Substances 0.000 claims description 4
- 238000000034 method Methods 0.000 description 31
- 239000003086 colorant Substances 0.000 description 10
- 125000000205 L-threonino group Chemical group [H]OC(=O)[C@@]([H])(N([H])[*])[C@](C([H])([H])[H])([H])O[H] 0.000 description 8
- 238000003384 imaging method Methods 0.000 description 6
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 3
- 230000006837 decompression Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
Images
Classifications
-
- G06T5/77—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/122—Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/257—Colour aspects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Abstract
【課題】誤補正を抑制し、精度の高い視差マップを生成する。
【解決手段】左画像と右画像とを左画像を基準としてステレオマッチングにより対応させて視差マップを生成する。視差マップ上に注目画素を設定し、注目画素に対応する左画像上の画素(左画像注目画素)を中心とした所定サイズのウインドウを左画像に設定し、ウインドウ内に含まれる画素のうち、左画像注目画素のRGB値と近いRGB値を持つ画素を抽出し、抽出された画素の各々に対応する視差マップ上の画素の各々の視差を視差ヒストグラムにエントリして視差ヒストグラムを生成する。注目画素の頻度が所定値未満の場合には、視差ヒストグラムの最頻値の視差で、注目画素の視差を補正する。
【選択図】図6
【解決手段】左画像と右画像とを左画像を基準としてステレオマッチングにより対応させて視差マップを生成する。視差マップ上に注目画素を設定し、注目画素に対応する左画像上の画素(左画像注目画素)を中心とした所定サイズのウインドウを左画像に設定し、ウインドウ内に含まれる画素のうち、左画像注目画素のRGB値と近いRGB値を持つ画素を抽出し、抽出された画素の各々に対応する視差マップ上の画素の各々の視差を視差ヒストグラムにエントリして視差ヒストグラムを生成する。注目画素の頻度が所定値未満の場合には、視差ヒストグラムの最頻値の視差で、注目画素の視差を補正する。
【選択図】図6
Description
本発明は、画像処理装置、画像処理方法、画像処理プログラム、及び複眼デジタルカメラに係り、特に立体視用画像を生成するための視差マップを生成及び補正する画像処理装置、画像処理方法、画像処理プログラム、及び複眼デジタルカメラに関する。
従来、異なる2以上の視点から撮影された画像間でステレオマッチングを行って、互いに対応する画素の間の視差情報を得て、対象物上の各点の距離を求めたり、対象物の形状を計測したりすることが行われている。
例えば、ステレオカメラで撮影したステレオ画像対を基に、ステレオ処理部で小領域毎の距離情報を作成するステレオ画像処理装置が提案されている(特許文献1参照。)特許文献1のステレオ画像処理装置では、多数決フィルタ部で、作成した距離情報から、注目する小領域を中心とした3×3の小領域群を抽出し、小領域のアドレス及び視差に応じて度数を加算したヒストグラムを作成し、このヒストグラムの最大度数視差と注目する小領域の視差を比較し、これらが予め設定した条件を満たしたとき、注目する小領域の視差を最大度数視差で補正している。
また、第1及び第2の画像間をエリアベースマッチングにより対応させて距離関係情報画像を生成し、距離関係情報画像の画素のうち、真の対応点である確実性が一定以下の画素を距離関係情報の補正を行う対象とする補正対象画素として選択する画像処理装置が提案されている(特許文献2参照)。特許文献2の画像処理装置では、補正対象画素を含む所定の領域を検索ブロックとして、検索ブロック内の複数の画素の中から、確実性が所定の条件を満たす画素を選択し、選択された画素の距離関係情報を用いて補正対象画素の距離関係情報を補正している。
しかしながら、特許文献1の技術では、注目する小領域の視差をヒストグラムの最大度数視差にて補正しているが、前景と背景とが混在するシーンにおいては、前景と背景との境界近辺の小領域に注目した際、同領域が前景部分であるにも関わらず、同領域の視差が背景部分の視差で補正されてしまう場合がある、という問題がある。
また、特許文献2の技術では、補正対象画素の距離関係情報を補正するために、確実性が所定の条件を満たす画素として、エリアベースマッチングの評価値が最も小さい(最も評価が高い)画素を選択しているが、エリアベースマッチグの評価値が最も小さい画素が補正対象画素の距離関係情報を補正するための画素として最尤とは限らないため、この方法では、誤補正が生じる可能性が高い、という問題がある。
本発明は、上記問題を解決するためになされたもので、前景と背景との境界近辺において生じやすい誤補正を抑制し、精度の高い視差マップを生成することができる画像処理装置、画像処理方法、画像処理プログラム、及び複眼デジタルカメラを提供することを目的とする。
上記目的を達成するために、第1の発明の画像処理装置は、異なる2以上の視点から撮影された複数の画像を取得する取得手段と、前記取得手段により取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成する視差マップ生成手段と、前記視差マップ生成手段により生成された視差マップの注目画素及び該注目画素の周辺に存在する周辺画素に対応する前記第1の画像の画素のうち、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の画素を抽出し、抽出された画素の各々に対応する前記視差マップの画素の各々の視差に基づいて、視差のヒストグラムを生成するヒストグラム生成手段と、前記ヒストグラム生成手段により生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する補正手段と、を含んで構成されている。
第1の発明の画像処理装置によれば、取得手段が、異なる2以上の視点から撮影された複数の画像を取得し、視差マップ生成手段が、取得手段により取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、第1の画像の画素位置に対応させた視差マップを生成する。ここで、第1の画像と第2の画像との対応に誤対応が生じると、その誤対応が視差マップ上のノイズとなる。
そこで、ヒストグラム生成手段が、視差マップ生成手段により生成された視差マップの注目画素及び該注目画素の周辺に存在する周辺画素に対応する第1の画像の画素のうち、視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の画素を抽出し、抽出された画素の各々に対応する視差マップの画素の各々の視差に基づいて、視差のヒストグラムを生成し、補正手段が、ヒストグラム生成手段により生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する。
このように、注目画素に対応する第1の画像の画素のうち、注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の画素、すなわち色情報が近い画素に対応する視差に基づいて生成した視差のヒストグラムを用いて、注目画素の視差を補正するため、特に、前景と背景との境界近辺において生じやすい誤補正を抑制して、精度の高い視差マップを生成することができる。
また、第2の発明の画像処理装置は、異なる2以上の視点から撮影された複数の画像を取得する取得手段と、前記取得手段により取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成する視差マップ生成手段と、前記視差マップ生成手段により生成された視差マップの注目画素に対応する前記第1の画像の画素を含み、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の隣接する画素同士を連結した連結領域を抽出し、抽出された連結領域に対応する前記視差マップの領域に含まれる画素の各々の視差に基づいて、視差のヒストグラムを生成するヒストグラム生成手段と、前記ヒストグラム生成手段により生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する補正手段と、を含んで構成されている。
第2の発明の画像処理装置によれば、取得手段が、異なる2以上の視点から撮影された複数の画像を取得し、視差マップ生成手段が、取得手段により取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、第1の画像の画素位置に対応させた視差マップを生成する。ここで、第1の画像と第2の画像との対応に誤対応が生じると、その誤対応が視差マップ上のノイズとなる。
そこで、ヒストグラム生成手段が、視差マップ生成手段により生成された視差マップの注目画素に対応する第1の画像の画素を含み、視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の隣接する画素同士を連結した連結領域を抽出し、抽出された連結領域に対応する視差マップの領域に含まれる画素の各々の視差に基づいて、視差のヒストグラムを生成し、補正手段が、ヒストグラム生成手段により生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する。
このように、注目画素に対応する第1の画像の画素のうち、注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の隣接する画素同士、すなわち色情報が近い画素同士を連結した連結領域に対応する画素の視差に基づいて生成した視差のヒストグラムを用いて、注目画素の視差を補正するため、特に、前景と背景との境界近辺において生じやすい誤補正を抑制して、精度の高い視差マップを生成することができる。
また、第2の発明の画像処理装置において、前記ヒストグラム生成手段は、前記連結領域に含まれる画素数が所定個以上の場合に、前記視差のヒストグラムを生成するようにすることができる。これにより、視差のヒストグラムの精度を保ち、誤補正を抑制することができる。
また、第2の発明の画像処理装置において、前記補正手段は、前記連結領域に対応する前記視差マップの領域に含まれる画素の各々の視差を補正することができる。連結領域内は略同一平面とみなすことができるため、注目画素だけでなく、連結領域に対応する画素も合わせて補正対象とすることで、処理の効率化が図れる。
また、第1及び第2の発明の画像処理装置において、前記補正手段は、前記視差のヒストグラムに基づいて、前記注目画素の視差の頻度が予め定めた頻度閾値より小さい場合に、該注目画素を補正対象とすることができる。このように、注目画素の視差の頻度が少数派の場合には補正を行い、多数派の場合には補正を行わないようにすることで、適切な補正対象の画素を検出することができると共に、無駄な補正を抑制することができる。
また、第1及び第2の発明の画像処理装置において、前記補正手段は、補正対象の画素の視差を、前記視差のヒストグラムの最頻値の視差に補正することができる。これにより、より確からしい視差で補正することができるため、特に、前景と背景との境界近辺において生じやすい誤補正をより抑制することができる。
また、第1及び第2の発明の画像処理装置は、前記視差のヒストグラムに基づいて、頻度が予め定めた選択閾値以上の視差を仮補正視差として選択し、選択した仮補正視差に基づいて得られる注目画素に対応する前記第2の画像の画素及び前記注目画素の色情報に基づいて、前記仮補正視差で補正対象の画素の視差を補正するか否かを判定する判定手段を含んで構成することができ、前記補正手段は、前記視差のヒストグラム及び前記判定手段の判定結果に基づいて、補正対象の画素の視差を補正することができる。
このように、第1の画像の色情報と第2の画像の色情報に基づいて、選択した仮補正視差で補正するか否かを判定するため、より精度よく前景と背景との境界近辺において生じやすい誤補正を抑制することができる。
また、第1及び第2の発明の画像処理装置において、前記補正手段は、注目画素を含み、前記注目画素の視差と比較して視差の差が所定範囲内の隣接する画素同士を連結した視差連結領域を前記視差マップ上から抽出し、抽出された視差連結領域に含まれる画素数が所定個未満の場合に、前記視差のヒストグラムに基づいて、前記視差連結領域に含まれる画素の各々の視差を補正することができる。このように、画素数が所定個未満の視差連結領域を補正対象とすることで、視差マップ上のスパイク状のノイズを効果的に補正することができる。
また第3の発明の画像処理装置は、異なる2以上の視点から撮影された複数の画像を取得する取得手段と、前記取得手段により取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成する視差マップ生成手段と、前記視差マップ生成手段により生成された視差マップの注目画素に対応する前記第1の画像の画素を含み、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の隣接する画素同士を連結した連結領域を抽出し、抽出された連結領域に対応する前記視差マップの領域に輪郭が含まれる場合に、抽出された連結領域に対応する前記視差マップの領域に含まれる画素の各々の視差に基づいて、視差のヒストグラムを生成するヒストグラム生成手段と、前記ヒストグラム生成手段により生成された視差のヒストグラムに基づいて、前記連結領域に対応する前記視差マップの領域に含まれる画素の各々の視差を補正する補正手段と、を含んで構成されている。
第3の発明の画像処理装置によれば、取得手段が、異なる2以上の視点から撮影された複数の画像を取得し、視差マップ生成手段が、取得手段により取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、第1の画像の画素位置に対応させた視差マップを生成する。ここで、第1の画像と第2の画像との対応に誤対応が生じると、その誤対応が視差マップ上のノイズとなる。
そこで、ヒストグラム生成手段が、視差マップ生成手段により生成された視差マップの注目画素に対応する第1の画像の画素を含み、視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の隣接する画素同士を連結した連結領域を抽出し、抽出された連結領域に対応する視差マップの領域に輪郭が含まれる場合に、抽出された連結領域に対応する視差マップの領域に含まれる画素の各々の視差に基づいて、視差のヒストグラムを生成し、補正手段が、ヒストグラム生成手段により生成された視差のヒストグラムに基づいて、前記連結領域に対応する前記視差マップの領域に含まれる画素の各々視差を補正する。
このように、連結領域内の画素は略同一平面とみなすことができるため、連結領域に対応する視差マップの領域に輪郭(視差の段差)は本来生じないはずであるので、視差のヒストグラムに基づいて、連結領域に対応する画素の視差を補正することで、効果的に視差マップ上のノイズを補正することができる。
第4の発明の画像処理方法は、異なる2以上の視点から撮影された複数の画像を取得し、取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成し、生成された視差マップの注目画素及び該注目画素の周辺に存在する周辺画素に対応する前記第1の画像の画素のうち、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の画素を抽出し、抽出された画素の各々に対応する前記視差マップの画素の各々の視差に基づいて、視差のヒストグラムを生成し、生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する方法である。
第5の発明の画像処理方法は、異なる2以上の視点から撮影された複数の画像を取得し、取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成し、生成された視差マップの注目画素に対応する前記第1の画像の画素を含み、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の隣接する画素同士を連結した連結領域を抽出し、抽出された連結領域に対応する前記視差マップの領域に含まれる画素の各々の視差に基づいて、視差のヒストグラムを生成し、生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する方法である。
第6の発明の画像処理プログラムは、コンピュータを、異なる2以上の視点から撮影された複数の画像を取得する取得手段、前記取得手段により取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成する視差マップ生成手段、前記視差マップ生成手段により生成された視差マップの注目画素及び該注目画素の周辺に存在する周辺画素に対応する前記第1の画像の画素のうち、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の画素を抽出し、抽出された画素の各々に対応する前記視差マップの画素の各々の視差に基づいて、視差のヒストグラムを生成するヒストグラム生成手段、及び前記ヒストグラム生成手段により生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する補正手段として機能させるためのプログラムである。
第7の発明の画像処理プログラムは、コンピュータを、異なる2以上の視点から撮影された複数の画像を取得する取得手段、前記取得手段により取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成する視差マップ生成手段、前記視差マップ生成手段により生成された視差マップの注目画素に対応する前記第1の画像の画素を含み、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の隣接する画素同士を連結した連結領域を抽出し、抽出された連結領域に対応する前記視差マップの領域に含まれる画素の各々の視差に基づいて、視差のヒストグラムを生成するヒストグラム生成手段、及び前記ヒストグラム生成手段により生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する補正手段として機能させるためのプログラムである。
第7の発明の複眼デジタルカメラは、第1〜第3の発明のいずれかの画像処理装置と、前記画像処理装置で生成及び補正された視差マップに基づいて、画像を立体視表示するための表示手段と、を含んで構成されている。
なお、画素の色情報には、画素の輝度値が含まれる。
以上説明したように、本発明によれば、実画像である第1の画像の色情報に基づいてヒストグラムへのエントリを制限して生成された視差のヒストグラムを用いて注目画素の視差を補正するため、特に、前景と背景との境界近辺において生じやすい誤補正を抑制して精度の高い視差マップを生成することができる、という効果が得られる。
以下、図面を参照して、本発明の実施の形態を詳細に説明する。なお、本実施の形態では、本発明の画像処理装置を複眼デジタルカメラに適用した場合について説明する。
図1は、第1の実施の形態の複眼デジタルカメラ1の正面側斜視図、図2は背面側斜視図である。図1に示すように、複眼デジタルカメラ1の上部には、レリーズボタン2、電源ボタン3、及びズームレバー4が備えられている。また、複眼デジタルカメラ1の正面には、フラッシュ5及び2つの撮影部21A、21Bのレンズが配設されている。また、複眼デジタルカメラの1の背面には、各種表示を行う液晶モニタ7、及び各種操作ボタン8が配設されている。
図3は、複眼デジタルカメラ1の内部構成を示す概略ブロック図である。図3に示すように、複眼デジタルカメラ1は、2つの撮影部21A、21B、撮影制御部22、画像処理部23、圧縮/伸長処理部24、フレームメモリ25、メディア制御部26、内部メモリ27、及び表示制御部28を備えている。なお、撮影部21A、21Bは、被写体を見込む輻輳角を持って、予め定められた基線長となるように配置されている。なお、輻輳角及び基線長の情報は内部メモリ27に記憶されている。
撮影制御部22は、不図示のAF処理部及びAE処理部からなる。AF処理部はレリーズボタン2の半押し操作により撮影部21A、21Bが取得したプレ画像に基づいて、合焦領域を決定すると共に、レンズの焦点位置を決定し、撮影部21A、21Bに出力する。AE処理部は、プレ画像に基づいて絞り値とシャッタ速度とを決定し、撮影部21A、21Bに出力する。
また、撮影制御部22は、レリーズボタン2の全押し操作により、撮影部21Aに対して左画像、撮影部21Bに対して右画像の本画像を取得させる本撮影の指示を行う。なお、レリーズボタン2が操作される前は、撮影制御部22は、撮影範囲を確認させるための本画像よりも画素数が少ないスルー画像を、所定時間間隔(例えば1/30秒間隔)にて順次取得させる指示を撮影部21A、21Bに対して行う。
画像処理部23は、撮影部21A、21Bが取得した左画像及び右画像のデジタルの画像データに対して、ホワイトバランスを調整する処理、階調補正、シャープネス補正、及び色補正等の画像処理を施す。
圧縮/伸長処理部24は、画像処理部23によって処理が施された左画像及び右画像を表す画像データに対して、例えば、JPEG等の圧縮形式で圧縮処理を行い、立体視用の画像ファイルを生成する。この立体視用の画像ファイルには、左画像及び右画像の画像データを含み、Exifフォーマット等に基づいて、基線長、輻輳角、及び撮影日時等の付帯情報、並びに視点位置を表す視点情報が格納される。
フレームメモリ25は、撮影部21A、21Bが取得した左画像及び右画像を表す画像データに対して、前述の画像処理部23が行う処理を含む各種処理を行う際に使用する作業用メモリである。
メディア制御部26は、記録メディア29にアクセスして画像ファイル等の書き込み及び読み込みの制御を行う。
内部メモリ27は、複眼デジタルカメラ1において設定される各種定数、及びCPU35が実行するプログラム等を記憶する。
表示制御部28は、撮影時においてフレームメモリ25に格納された左画像及び右画像から生成された立体視用画像を液晶モニタ7に表示させたり、記録メディア29に記録されている左画像及び右画像、または立体視用画像を液晶モニタ7に表示させたりする。
また、複眼デジタルカメラ1は、3次元処理部30、及び視差マップ生成部31を備える。
3次元処理部30は、左画像及び右画像をモニタ7に立体視表示を行うために、左画像及び右画像に3次元処理を行って立体視用画像を生成する。
視差マップ生成部31は、立体視用画像の立体感を適切なものとするために、左画像及び右画像に基づく視差マップを生成し、また、後述する処理により視差マップを補正する。ここで、視差は、左画像及び右画像の双方に含まれる被写体の左画像と右画像との横方向における画素位置の相違として算出することができる。視差マップを適切に生成及び補正することにより、立体視用画像に含まれる被写体の立体感を適切なものとすることができる。
より具体的には、視差マップが適切に生成されれば、その視差マップを用いて中間視点画像を生成することができる。中間視点画像とは、図15に示すように、複眼カメラの左カメラ(左視点)と右カメラ(右視点)との中間に位置する視点(同図中破線の丸の視点)からの画像を仮想的に生成した画像である。例えば、視差マップから、左視点の左画像と右視点の右画像との間に生じている視差が過度に大きいということが分かれば、左画像、右画像、及び視差マップを基に仮想的に中間視点画像を生成し、左画像及び中間視点画像を用いて立体表示する。これにより、あたかも基線長が半分になったかのような画像を取得することができ、立体視用画像の立体感を適切なものとすることができる。
次に、図4を参照して、第1の実施の形態の複眼デジタルカメラにおける画像処理ルーチンについて説明する。
ステップ100で、撮影部21A、21Bで撮影された左画像及び右画像を取得し、次に、ステップ102で、左画像と右画像とに対してステレオマッチングを行って視差マップを生成する。具体的には、図5に示すように、ステレオマッチングにより、例えば左画像を基準として、左画像上の画素(x1,y1)に対応する右画像上の対応画素(x2,y2)を抽出する。なお、ここでは、視差が画像の横方向(水平方向)に発生しており、縦方向(垂直方向)にずれは生じていないものとして説明する。左画像上の画素(x1,y1)と右画像上の対応画素(x2,y2)との視差dは、d=x2−x1と計算でき、この視差dを、基準とした左画像の画素位置(x1,y1)に格納する。そして、左画像の各画素について計算した視差dを左画像の画素位置に対応させて格納して画像化する。この画像化したものを視差マップと呼ぶ。
次に、ステップ104で、視差マップ上に注目画素(以下、視差マップ上の注目画素を単に注目画素ともいう)を設定する。例えば、視差マップの左上角の画素を最初の注目画素として設定する。以降、ラスタスキャン順に1画素ずつ注目画素として設定する。
次に、ステップ106で、注目画素の画素位置に対応する左画像上の画素(以下、左画像注目画素という)、及び左画像注目画素の周辺に存在する周辺画素を含む所定サイズのウインドウを設定する。ウインドウは、例えば、左画像注目画素を中心とした周辺のn×n画素(nは正数、例えば13×13画素)の範囲のサイズとすることができる。そして、左画像上のウインドウ内に含まれる各画素のRGB値を抽出する。
次に、ステップ108で、左画像上のウインドウ内に含まれる周辺画素のうち、左画像注目画素のRGB値と近いRGB値を持つ画素の数をカウントする。RGB値が近いとは、左画像注目画素と周辺画素とが類似色であることを示し、ここでは、左画像注目画素のRGB値と比較してRGB値の差が所定範囲内である場合を類似色であると定める。例えば、左画像注目画素のRGB値を(r0,g0,b0)とし、比較する周辺画素のRGB値を(r,g,b)とすると、下記(1)式により類似色か否かを判定する。
ここで、color_thresは閾値であり、RGB値がそれぞれ256階調の場合には、例えば30程度の値を設定することができる。なお、ここでは、色情報としてRGB値を用いる場合について説明するが、例えばYCbCrやLUV等の他の色空間を用いてもよいし、輝度値を用いてもよい。
次に、ステップ110で、ウインドウ内の左画像注目画素の類似色の画素のカウント値が所定値以上か否かを判定する。カウント値が小さい場合、すなわち左画像注目画素の類似色が少ない場合には、後述する視差ヒストグラムへのエントリ数が少なくなって視差ヒストグラムの精度が悪くなるため、カウント値をチェックするものである。所定値は、ウインドウのサイズやヒストグラムに要求される精度等に基づいて予め定めておく。ウインドウ内の全画素数に対する割合として定めることもでき、例えば、ウインドウ(n×n画素)内の画素数に対して2割以上類似色の画素が存在する場合には、ヒストグラムの精度に問題はないとする場合には、所定値をn×n×0.2として定めることができる。カウント値が所定値以上の場合には、ステップ112へ移行し、カウント値が所定値未満の場合には、ステップ114へ移行する。
ステップ112では、ウインドウ内の左画像注目画素の類似色の画素に対応する視差マップ上の画素の視差を、視差ヒストグラムにエントリして視差ヒストグラムを生成する。図6中に、視差ヒストグラムの一例を示す。図6に示すように、実画像上(ここでは左画像上)でRGB値が近いということは、ウインドウを設定した領域内においてこれらの画素が示す被写体が略同一平面上にあると考えられる。このような画素に対応する視差をエントリして視差ヒストグラムを生成することで、後述の処理で、この視差ヒストグラムに基づいて補正に用いる視差を選択する際に、適切な視差を選択することができる。一方、ステップ114では、ウインドウ内の全ての画素に対応する視差マップ上の画素の視差を、視差ヒストグラムにエントリして視差ヒストグラムを生成する。
次に、ステップ116で、生成した視差ヒストグラムに基づいて、注目画素の視差diの頻度が予め定めた頻度閾値freq_thres未満か否かを判定することにより、視差ヒストグラムにエントリした画素の視差の中で、注目画素の視差diが少数派か否かを判定する。頻度閾値freq_thresは、視差ヒストグラムのエントリ数に対する割合として定めておくことができ、例えば、エントリ数Nの3割未満の頻度であれば注目画素の視差diが少数派であるとする場合には、頻度閾値freq_thres=N×0.3として定めることができる。di<freq_thresの場合には、注目画素の視差diが少数派、すなわちノイズの可能性が高いと判定して、ステップ118へ移行する。一方、di≧freq_thresの場合には、注目画素の視差diが多数派であり、補正の必要はないと判定して、ステップ118をスキップして、ステップ120へ移行する。
ステップ118では、視差ヒストグラムから最頻値の視差dmを選択し、この最頻値の視差dmを注目画素の視差に補正する。すなわち、注目画素の視差を多数派の視差で埋める。
次に、ステップ120で、視差マップ上の全画素を注目画素に設定したか否かを判定する。まだ注目画素に設定していない画素が残っている場合には、ステップ104へ戻って、次の画素を注目画素に設定し、処理を繰り返す。注目画素に設定していない画素が存在しなくなった場合には、処理を終了する。
以上説明したように、第1の実施の形態の複眼デジタルカメラによれば、注目画素に対応する実画像上の画素の類似色の画素に対応する視差をエントリして視差マップを生成し、この視差マップの最頻値で補正対象となる注目画素の視差を補正するため、特に、前景と背景との境界近辺において生じやすい誤補正を抑制し、精度の高い視差マップを生成することができる。
なお、第1の実施の形態では、視差ヒストグラムの最頻値で注目画素の視差を補正する場合について説明したが、多数派とみなせる所定値以上の頻度の視差が複数存在する場合には、その中から選択したいずれかの視差を用いて補正してもよい。選択する際には、注目画素の画素位置と近い画素位置の画素が多くエントリされている視差や、色情報がより類似している画素がエントリされている視差等を選択するようにすることができる。
次に、第2の実施の形態について説明する。第2の実施の形態の複眼デジタルカメラの構成は、第1の実施の形態の複眼デジタルカメラ1と同一であるため、説明を省略する。
図7を参照して、第2の実施の形態の複眼デジタルカメラにおける画像処理ルーチンについて説明する。なお、第1の実施の形態の画像処理ルーチンと同一の処理については、同一の符号を付して説明を省略する。
ステップ100〜104で、視差マップを生成し、視差マップ上に注目画素を設定する。
次に、ステップ200で、左画像注目画素のRGB値に基づいて、左画像注目画素を含み、左画像注目画素のRGB値に近いRGB値を持つ画素、すなわち左画像注目画素の類似色の画素で、隣接する画素同士を連結した連結領域を抽出する。RGB値が近いか否かは、例えば、第1の実施の形態と同様に、(1)式を用いて判断する。
次に、ステップ202で、連結領域に含まれる画素数が所定値未満か否かを判定する。画素数が小さい場合、すなわち左画像注目画素の類似色が少ない場合には、視差ヒストグラムへのエントリ数が少なくなって視差ヒストグラムの精度が悪くなるため、画素数をチェックするものである。所定値は、ヒストグラムに要求される精度等に基づいて予め定めておく。所定値を、左画像全体の画素数に対する割合として定めることもでき、例えば、左画像全体の画素数に対して0.1%以上の画素が存在する場合には、ヒストグラムの精度に問題はないとする場合には、所定値を全画素数×0.1%として定めることができる。
連結領域内の画素数が所定値未満の場合には、連結領域内の画素に対応する視差をエントリした視差ヒストグラムでは、精度が悪くなると判定して、ステップ106へ移行し、第1の実施の形態と同様に、ウインドウ内の類似色の画素またはウインドウ内の全画素に対応する視差を用いて視差ヒストグラムを生成する。
一方、連結領域内の画素数が所定値以上の場合には、ステップ204へ移行し、連結領域に対応する視差マップの領域に含まれる画素の視差を、視差ヒストグラムにエントリして視差ヒストグラムを生成する。図8中に、視差ヒストグラムの一例を示す。図8に示すように、実画像上(ここでは左画像上)で類似色の画素を連結した連結領域内においては、この連結領域内に含まれる画素が示す被写体が略同一平面上にあると考えられる。このような画素に対応する視差をエントリして視差ヒストグラムを生成することで、この視差ヒストグラムに基づいて補正に用いる視差を選択する際に、適切な視差を選択することができる。
以下、第1の実施の形態の場合と同様に処理する。
以上説明したように、第2の実施の形態の複眼デジタルカメラによれば、注目画素に対応する実画像上の画素の類似色の画素で、隣接する画素同士を連結した連結領域に含まれる画素に対応する視差をエントリして視差マップを生成し、この視差マップの最頻値で補正対象となる注目画素の視差を補正するため、特に、前景と背景との境界近辺において生じやすい誤補正を抑制し、精度の高い視差マップを生成することができる。
なお、第2の実施の形態では、注目画素の視差のみを視差ヒストグラムの最頻値の視差で補正する場合について説明したが、連結領域内の画素は、略同一平面の被写体を示す傾向がより強いため、注目画素だけでなく、連結領域に対応する視差マップの領域に含まれる画素の全てを視差ヒストグラムの最頻値の視差で補正してもよい。これにより、処理の効率化が図れる。
次に、第3の実施の形態について説明する。第3の実施の形態の複眼デジタルカメラの構成は、第1の実施の形態の複眼デジタルカメラ1と同一であるため、説明を省略する。
図9を参照して、第3の実施の形態の複眼デジタルカメラにおける画像処理ルーチンについて説明する。なお、第1の実施の形態の画像処理ルーチンと同一の処理については、同一の符号を付して説明を省略する。
ステップ100〜114を経て、ステップ116で、注目画素の視差diの頻度が予め定めた頻度閾値freq_thres未満か否か、すなわち注目画素の視差の補正が必要か否かを判定し、di<freq_thresと判定された場合には、ステップ300へ移行する。
ステップ300では、視差ヒストグラムの頻度が所定値以上の視差を補正候補として抽出する。例えば、図10に示すように、視差ヒストグラムにおいて、所定の閾値以上の頻度が2つ(dc1、dc2)存在する場合には、これらを補正候補として抽出する。
次に、ステップ302で、補正候補から1つを選択して仮補正値とし、右画像の対応画素位置を計算する。複数の補正候補から1つを選択する際には、視差ヒストグラムの頻度が高い順に選択するようにするとよい。まず、視差dc1を選択して仮補正値とした場合には、左画像注目画素の画素位置を(x1,y1)とすると、右画像の対応画素位置は、(x1+dc1,y1)として計算できる。
次に、ステップ304で、左画像注目画素のRGB値と右画像の対応画素のRGB値とを比較して、両画素が類似色か否かを判定する。両画素が類似色か否かは、例えば、第1の実施の形態と同様に(1)式を用いて判断する。両画素が類似色の場合には、仮補正値により補正した場合に左画像と右画像との対応が正しいという確度が高いと判定して、ステップ306へ移行し、仮補正値で注目画素の視差を補正する。
一方、両画素が類似色ではない場合には、仮補正値により補正した場合に左画像と右画像との対応が正しいという確度が低いと判定して、ステップ308へ移行する。例えば、図10の例で、仮補正値としてdc2を選択した場合には、右画像の対応画素位置は、(x1+dc2,y1)として計算できる。この場合、左画像の人物上の画素と右画像の背景上の画素とが対応することになり、両画素のRGB値が大きく異なり、仮補正値dc2を用いて補正することが適切でないことがわかる。
ステップ308では、抽出された全ての補正候補を仮補正値として選択したか否かを判定する。まだ仮補正値として選択していない補正候補が存在する場合には、ステップ302に戻って、次の仮補正値を選択して処理を繰り返す。一方、全ての補正候補を仮補正値として選択したと判定された場合には、視差ヒストグラムからは適切な補正値が得られなかったと判断して、現在の注目画素の視差については補正を行うことなく、ステップ120へ移行する。
以下、第1の実施の形態の場合と同様に処理する。
以上説明したように、第3の実施の形態の複眼デジタルカメラによれば、視差ヒストグラムの頻度が所定値以上の視差を仮補正値として右画像の対応画素位置を計算し、左画像と右画像との対応する両画素が類似色か否かを判定することにより、仮補正値を用いて注目画素の視差を補正するか否かを決定するため、特に、前景と背景との境界近辺において生じやすい誤補正を抑制し、精度の高い視差マップを生成することができる。
なお、第3の実施の形態は、第1の実施の形態における画像処理ルーチンのステップ118をステップ300〜308に置き換えたものであるが、第2の実施の形態における画像処理ルーチンのステップ118も同様にステップ300〜308に置き換えることができる。
次に、第4の実施の形態について説明する。第4の実施の形態の複眼デジタルカメラの構成は、第1の実施の形態の複眼デジタルカメラ1と同一であるため、説明を省略する。
図11を参照して、第4の実施の形態の複眼デジタルカメラにおける画像処理ルーチンについて説明する。なお、第1の実施の形態の画像処理ルーチンと同一の処理については、同一の符号を付して説明を省略する。
ステップ100〜114を経て、ステップ400で、注目画素を含み、注目画素の視差と比較して視差の差が所定範囲内の隣接する画素同士を連結した視差連結領域を視差マップ上から抽出する。
次に、ステップ402で、視差連結領域内の画素数が所定値未満か否かを判定する。図12に示すように、視差連結領域の面積(画素数)が小さい場合には、その視差連結領域はスパイク状のノイズであると考えられる。所定値は、例えば視差マップ全体の画素数の0.5〜1%の値を定めることができる。視差連結領域内の画素数が所定値未満の場合には、ステップ404へ移行し、所定値以上の場合には、ステップ404をスキップして、ステップ120へ移行する。
ステップ404では、視差連結領域内の画素の視差を、視差ヒストグラムの最頻値で補正する。
以下、第1の実施の形態の場合と同様に処理する。
以上説明したように、第4の実施の形態の複眼デジタルカメラによれば、視差マップ上から視差連結領域を抽出し、視差連結領域内の画素数が所定値未満の場合には、その視差連結領域をスパイク状のノイズとみなして、視差連結領域内の画素の視差を視差ヒストグラムの最頻値で補正するため、視差マップを精度よく生成することができる。特に、視差マップ上のスパイク状のノイズを軽減することができる。
なお、第4の実施の形態は、第1の実施の形態における画像処理ルーチンのステップ116及び118をステップ400〜304に置き換えたものであるが、第2の実施の形態における画像処理ルーチンのステップ116及び118も同様にステップ300〜308に置き換えることができる。また、第1〜第3の実施の形態に組合せて実施してもよい。
次に、第5の実施の形態について説明する。第5の実施の形態の複眼デジタルカメラの構成は、第1の実施の形態の複眼デジタルカメラ1と同一であるため、説明を省略する。
図13を参照して、第5の実施の形態の複眼デジタルカメラにおける画像処理ルーチンについて説明する。なお、第1及び第2の実施の形態の画像処理ルーチンと同一の処理については、同一の符号を付して説明を省略する。
ステップ100〜104、及びステップ200を経て、左画像から連結領域を抽出し、次に、ステップ500で、連結領域内の画素数が所定値以上か否かを判定し、所定値以上の場合には、ステップ502へ移行し、所定値未満の場合には、ステップ120へ移行する。
ステップ502では、図14に示すように、連結領域に対応する視差マップ上の領域に対して、ハイパス処理やバンドパス処理などを施して、輪郭を抽出し、次に、ステップ504で、輪郭が抽出されたか否かを判定する。類似色の画素を連結した連結領域内に含まれる画素が示す被写体は略同一平面上にあると考えられるため、この連結領域に対応する視差マップ上に視差の段差が発生することは通常ありえない。そこで、輪郭が存在する場合はノイズであると判定して、補正対象とする。輪郭が存在する場合には、ステップ204へ移行する。
ステップ204で、連結領域に対応する視差マップの領域に含まれる画素の視差を、視差ヒストグラムにエントリして視差ヒストグラムを生成し、次に、ステップ506で、視差ヒストグラムの最頻値の視差で、連結領域に対応する視差マップの領域に含まれる画素の視差を補正する。
以下、第1の実施の形態の場合と同様に処理する。
以上説明したように、第5の実施の形態の複眼デジタルカメラによれば、連結領域に対応する視差マップの領域に輪郭が存在する場合に、連結領域に対応する視差マップの領域に含まれる画素の視差を視差ヒストグラムの最頻値で補正するため、効果的にノイズ領域を検出することができ、視差マップを精度よく生成することができる。
なお、上記第1〜第5の実施の形態では、左画像と右画像とを左画像を基準としてステレオマッチングして視差マップを生成する場合について説明したが、右画像を基準としてもよい。
また、3以上の画像を取得した場合には、いずれかの画像を第1の画像(基準画像)とし、その他の画像を第2の画像として、それぞれについて視差マップを生成するようにするとよい。
また、上記第1〜第5の実施の形態の画像処理ルーチンをプログラム化して、そのプログラムをCPUにより実行するようにしてもよい。
1 複眼デジタルカメラ
7 液晶モニタ
21A、21B 撮影部
30 3次元処理部
31 視差マップ生成部
7 液晶モニタ
21A、21B 撮影部
30 3次元処理部
31 視差マップ生成部
Claims (15)
- 異なる2以上の視点から撮影された複数の画像を取得する取得手段と、
前記取得手段により取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成する視差マップ生成手段と、
前記視差マップ生成手段により生成された視差マップの注目画素及び該注目画素の周辺に存在する周辺画素に対応する前記第1の画像の画素のうち、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の画素を抽出し、抽出された画素の各々に対応する前記視差マップの画素の各々の視差に基づいて、視差のヒストグラムを生成するヒストグラム生成手段と、
前記ヒストグラム生成手段により生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する補正手段と、
を含む画像処理装置。 - 異なる2以上の視点から撮影された複数の画像を取得する取得手段と、
前記取得手段により取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成する視差マップ生成手段と、
前記視差マップ生成手段により生成された視差マップの注目画素に対応する前記第1の画像の画素を含み、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の隣接する画素同士を連結した連結領域を抽出し、抽出された連結領域に対応する前記視差マップの領域に含まれる画素の各々の視差に基づいて、視差のヒストグラムを生成するヒストグラム生成手段と、
前記ヒストグラム生成手段により生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する補正手段と、
を含む画像処理装置。 - 前記ヒストグラム生成手段は、前記連結領域に含まれる画素数が所定個以上の場合に、前記視差のヒストグラムを生成する請求項2記載の画像処理装置。
- 前記補正手段は、前記連結領域に対応する前記視差マップの領域に含まれる画素の各々の視差を補正する請求項2または請求項3記載の画像処理装置。
- 前記補正手段は、前記視差のヒストグラムに基づいて、前記注目画素の視差の頻度が予め定めた頻度閾値より小さい場合に、該注目画素を補正対象とする請求項1〜請求項3のいずれか1項記載の画像処理装置。
- 前記補正手段は、補正対象の画素の視差を、前記視差のヒストグラムの最頻値の視差に補正する請求項1〜請求項5のいずれか1項記載の画像処理装置。
- 前記視差のヒストグラムに基づいて、頻度が予め定めた選択閾値以上の視差を仮補正視差として選択し、選択した仮補正視差に基づいて得られる注目画素に対応する前記第2の画像の画素及び前記注目画素の色情報に基づいて、前記仮補正視差で補正対象の画素の視差を補正するか否かを判定する判定手段を含み、
前記補正手段は、前記視差のヒストグラム及び前記判定手段の判定結果に基づいて、補正対象の画素の視差を補正する
請求項1〜請求項5のいずれか1項記載の画像処理装置。 - 前記補正手段は、注目画素を含み、前記注目画素の視差と比較して視差の差が所定範囲内の隣接する画素同士を連結した視差連結領域を前記視差マップ上から抽出し、抽出された視差連結領域に含まれる画素数が所定個未満の場合に、前記視差のヒストグラムに基づいて、前記視差連結領域に含まれる画素の各々の視差を補正する請求項1〜請求項5のいずれか1項記載の画像処理装置。
- 異なる2以上の視点から撮影された複数の画像を取得する取得手段と、
前記取得手段により取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成する視差マップ生成手段と、
前記視差マップ生成手段により生成された視差マップの注目画素に対応する前記第1の画像の画素を含み、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の隣接する画素同士を連結した連結領域を抽出し、抽出された連結領域に対応する前記視差マップの領域に輪郭が含まれる場合に、抽出された連結領域に対応する前記視差マップの領域に含まれる画素の各々の視差に基づいて、視差のヒストグラムを生成するヒストグラム生成手段と、
前記ヒストグラム生成手段により生成された視差のヒストグラムに基づいて、前記連結領域に対応する前記視差マップの領域に含まれる画素の各々の視差を補正する補正手段と、
を含む画像処理装置。 - 前記画素の色情報は、画素の輝度値を含む請求項1〜請求項9のいずれか1項記載の画像処理装置。
- 異なる2以上の視点から撮影された複数の画像を取得し、
取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成し、
生成された視差マップの注目画素及び該注目画素の周辺に存在する周辺画素に対応する前記第1の画像の画素のうち、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の画素を抽出し、
抽出された画素の各々に対応する前記視差マップの画素の各々の視差に基づいて、視差のヒストグラムを生成し、
生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する
画像処理方法。 - 異なる2以上の視点から撮影された複数の画像を取得し、
取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成し、
生成された視差マップの注目画素に対応する前記第1の画像の画素を含み、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の隣接する画素同士を連結した連結領域を抽出し、
抽出された連結領域に対応する前記視差マップの領域に含まれる画素の各々の視差に基づいて、視差のヒストグラムを生成し、
生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する
画像処理方法。 - コンピュータを、
異なる2以上の視点から撮影された複数の画像を取得する取得手段、
前記取得手段により取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成する視差マップ生成手段、
前記視差マップ生成手段により生成された視差マップの注目画素及び該注目画素の周辺に存在する周辺画素に対応する前記第1の画像の画素のうち、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の画素を抽出し、抽出された画素の各々に対応する前記視差マップの画素の各々の視差に基づいて、視差のヒストグラムを生成するヒストグラム生成手段、及び
前記ヒストグラム生成手段により生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する補正手段
として機能させるための画像処理プログラム。 - コンピュータを、
異なる2以上の視点から撮影された複数の画像を取得する取得手段、
前記取得手段により取得された複数の画像に含まれる第1の画像と該第1の画像とは異なる視点から撮影された第2の画像との各々対応する画素毎の画素位置の差で表される視差を、前記第1の画像の画素位置に対応させた視差マップを生成する視差マップ生成手段、
前記視差マップ生成手段により生成された視差マップの注目画素に対応する前記第1の画像の画素を含み、前記視差マップの注目画素に対応する画素の色情報と比較して色情報の差が所定範囲内の隣接する画素同士を連結した連結領域を抽出し、抽出された連結領域に対応する前記視差マップの領域に含まれる画素の各々の視差に基づいて、視差のヒストグラムを生成するヒストグラム生成手段、及び
前記ヒストグラム生成手段により生成された視差のヒストグラムに基づいて、補正対象となる注目画素の視差を補正する補正手段
として機能させるための画像処理プログラム。 - 請求項1〜請求項10のいずれか1項記載の画像処理装置と、
前記画像処理装置で生成及び補正された視差マップに基づいて、画像を立体視表示するための表示手段と、
を含む複眼デジタルカメラ。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010068122A JP2011203811A (ja) | 2010-03-24 | 2010-03-24 | 画像処理装置、画像処理方法、画像処理プログラム、及び複眼デジタルカメラ |
US13/040,944 US20110234765A1 (en) | 2010-03-24 | 2011-03-04 | Image processing apparatus, image processing method, image processing program, and compound eye digital camera |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010068122A JP2011203811A (ja) | 2010-03-24 | 2010-03-24 | 画像処理装置、画像処理方法、画像処理プログラム、及び複眼デジタルカメラ |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011203811A true JP2011203811A (ja) | 2011-10-13 |
Family
ID=44655971
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010068122A Withdrawn JP2011203811A (ja) | 2010-03-24 | 2010-03-24 | 画像処理装置、画像処理方法、画像処理プログラム、及び複眼デジタルカメラ |
Country Status (2)
Country | Link |
---|---|
US (1) | US20110234765A1 (ja) |
JP (1) | JP2011203811A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013114477A (ja) * | 2011-11-29 | 2013-06-10 | Konica Minolta Inc | 画像処理装置、画像処理方法および画像処理プログラム |
US9361668B2 (en) | 2012-08-20 | 2016-06-07 | Denso Corporation | Method and apparatus for generating disparity map |
US9641821B2 (en) | 2012-09-24 | 2017-05-02 | Panasonic Intellectual Property Management Co., Ltd. | Image signal processing device and image signal processing method |
CN108364308A (zh) * | 2018-01-17 | 2018-08-03 | 西南交通大学 | 一种基于跨图像置信传播的人工复眼相机深度估计方法 |
US10817054B2 (en) | 2017-09-06 | 2020-10-27 | Samsung Electronics Co., Ltd. | Eye watch point tracking via binocular and stereo images |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101735311B1 (ko) * | 2010-12-10 | 2017-05-15 | 삼성전자 주식회사 | 3차원카메라장치 및 3차원카메라장치 제어방법 |
JP5979137B2 (ja) * | 2011-05-06 | 2016-08-24 | 株式会社ニコン | 撮像装置および撮像装置の制御プログラム |
JP5860663B2 (ja) * | 2011-10-18 | 2016-02-16 | 日立オートモティブシステムズ株式会社 | ステレオ撮像装置 |
WO2014024500A1 (ja) * | 2012-08-10 | 2014-02-13 | 株式会社ニコン | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム |
BR112015014288A2 (pt) * | 2012-12-20 | 2017-07-11 | Koninklijke Philips Nv | método, e, sistema de processamento de dados de imagem |
US9503654B2 (en) * | 2014-05-30 | 2016-11-22 | Intel Corporation | Automatic anti-glare exposures for imaging devices |
CA2964292A1 (en) | 2014-10-14 | 2016-04-21 | Koninklijke Philips N.V. | Processing of disparity of a three dimensional image |
KR102500836B1 (ko) * | 2016-09-27 | 2023-02-16 | 한화테크윈 주식회사 | 광각 영상 처리 방법 및 이를 위한 장치 |
CN109284509B (zh) * | 2017-07-21 | 2022-10-14 | 北京搜狗科技发展有限公司 | 一种文本处理方法、系统和一种用于文本处理的装置 |
JP7071088B2 (ja) * | 2017-10-24 | 2022-05-18 | キヤノン株式会社 | 距離検出装置、撮像装置、距離検出方法、及びプログラム |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003018619A (ja) * | 2001-07-03 | 2003-01-17 | Olympus Optical Co Ltd | 立体映像評価装置およびそれを用いた表示装置 |
GB0212367D0 (en) * | 2002-05-29 | 2002-07-10 | Eastman Kodak Co | Image processing |
KR100505334B1 (ko) * | 2003-03-28 | 2005-08-04 | (주)플렛디스 | 운동 시차를 이용한 입체 영상 변환 장치 |
JP4693900B2 (ja) * | 2006-04-07 | 2011-06-01 | シャープ株式会社 | 画像処理装置 |
KR101311896B1 (ko) * | 2006-11-14 | 2013-10-14 | 삼성전자주식회사 | 입체 영상의 변위 조정방법 및 이를 적용한 입체 영상장치 |
-
2010
- 2010-03-24 JP JP2010068122A patent/JP2011203811A/ja not_active Withdrawn
-
2011
- 2011-03-04 US US13/040,944 patent/US20110234765A1/en not_active Abandoned
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013114477A (ja) * | 2011-11-29 | 2013-06-10 | Konica Minolta Inc | 画像処理装置、画像処理方法および画像処理プログラム |
US9361668B2 (en) | 2012-08-20 | 2016-06-07 | Denso Corporation | Method and apparatus for generating disparity map |
US9641821B2 (en) | 2012-09-24 | 2017-05-02 | Panasonic Intellectual Property Management Co., Ltd. | Image signal processing device and image signal processing method |
US10817054B2 (en) | 2017-09-06 | 2020-10-27 | Samsung Electronics Co., Ltd. | Eye watch point tracking via binocular and stereo images |
CN108364308A (zh) * | 2018-01-17 | 2018-08-03 | 西南交通大学 | 一种基于跨图像置信传播的人工复眼相机深度估计方法 |
CN108364308B (zh) * | 2018-01-17 | 2020-04-07 | 西南交通大学 | 一种基于跨图像置信传播的人工复眼相机深度估计方法 |
Also Published As
Publication number | Publication date |
---|---|
US20110234765A1 (en) | 2011-09-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2011203811A (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び複眼デジタルカメラ | |
US10997696B2 (en) | Image processing method, apparatus and device | |
US8180145B2 (en) | Method for producing image with depth by using 2D images | |
JP4657313B2 (ja) | 立体画像表示装置および方法並びにプログラム | |
JP5750505B2 (ja) | 立体映像エラー改善方法及び装置 | |
US20150278996A1 (en) | Image processing apparatus, method, and medium for generating color image data | |
TW201029443A (en) | Method and device for generating a depth map | |
US20120169722A1 (en) | Method and apparatus generating multi-view images for three-dimensional display | |
JP6020471B2 (ja) | 画像処理方法、画像処理装置および画像処理プログラム | |
WO2011125461A1 (ja) | 画像生成装置及び方法並びにプリンタ | |
JP2009146034A (ja) | 多視点画像奥行値抽出装置、その方法およびそのプログラム | |
US20110080463A1 (en) | Image processing apparatus, method, and recording medium | |
US20160180514A1 (en) | Image processing method and electronic device thereof | |
US20120257088A1 (en) | Image processing apparatus and method thereof | |
US10074209B2 (en) | Method for processing a current image of an image sequence, and corresponding computer program and processing device | |
TW201225658A (en) | Imaging device, image-processing device, image-processing method, and image-processing program | |
US20130083169A1 (en) | Image capturing apparatus, image processing apparatus, image processing method and program | |
JP6016180B2 (ja) | 画像処理方法及び画像処理装置 | |
JP5627498B2 (ja) | 立体画像生成装置及び方法 | |
JP5453552B2 (ja) | 撮影装置、方法及びプログラム | |
JPWO2012120880A1 (ja) | 立体画像出力装置及び立体画像出力方法 | |
KR20110133677A (ko) | 3d 영상 처리 장치 및 그 방법 | |
US9380285B2 (en) | Stereo image processing method, stereo image processing device and display device | |
US8600151B2 (en) | Producing stereoscopic image | |
KR20130057586A (ko) | 깊이 맵 생성 장치 및 방법과 이를 이용한 입체 영상 변환 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120620 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20130422 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130501 |