JP2014220704A - 画像処理装置および画像処理方法 - Google Patents
画像処理装置および画像処理方法 Download PDFInfo
- Publication number
- JP2014220704A JP2014220704A JP2013099599A JP2013099599A JP2014220704A JP 2014220704 A JP2014220704 A JP 2014220704A JP 2013099599 A JP2013099599 A JP 2013099599A JP 2013099599 A JP2013099599 A JP 2013099599A JP 2014220704 A JP2014220704 A JP 2014220704A
- Authority
- JP
- Japan
- Prior art keywords
- image
- parallax
- pixel
- color image
- filter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
- G06T2207/10021—Stereoscopic video; Stereoscopic image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
Abstract
【課題】高精度の視差画像を生成することができるようにする。
【解決手段】係数設定部は、カラー画像の相関値に基づいてフィルタ係数を設定する。処理部は、フィルタ係数を用いてカラー画像に対応する視差画像をフィルタ処理し、視差画像を補正する。本開示は、例えば、カラー画像の相関値に基づいてフィルタ係数を設定し、フィルタ係数を用いて視差画像をフィルタ処理することにより視差画像を補正する画像処理装置等に適用することができる。
【選択図】図2
【解決手段】係数設定部は、カラー画像の相関値に基づいてフィルタ係数を設定する。処理部は、フィルタ係数を用いてカラー画像に対応する視差画像をフィルタ処理し、視差画像を補正する。本開示は、例えば、カラー画像の相関値に基づいてフィルタ係数を設定し、フィルタ係数を用いて視差画像をフィルタ処理することにより視差画像を補正する画像処理装置等に適用することができる。
【選択図】図2
Description
本開示は、画像処理装置および画像処理方法に関し、特に、高精度の視差画像を生成することができるようにした画像処理装置および画像処理方法に関する。
近年、3D画像が注目を集めてきており、3D画像を表示可能な表示装置が開発されている(例えば、特許文献1参照)。このような3D画像は、2以上の視点のカラー画像からなり、各視点のカラー画像は、撮影により取得されたり、撮影によって取得された他の視点のカラー画像の各画素の視差値を画素値として表す視差画像(視差マップ)から生成されたりする。
視差画像は、複数の視点のカラー画像から生成されたり、1視点のカラー画像から推定して生成されたりすることができるが、視差画像を精度良く生成するためには、多くの処理量や大きい回路が必要となる。従って、処理量や回路規模の許容範囲等により、視差画像を精度良く生成することが困難である場合がある。視差画像の精度が十分ではない場合、視差画像を用いて生成されるカラー画像に歪み等が発生する。
また、撮影時の視差値が圧縮されている複数の視点のカラー画像から視差画像が求められる場合や、視差画像の生成時に局所的な視差値の変化が精度良く検出されない場合、視差画像における視差値の変化が小さくなる。その結果、視差画像を用いて生成される3D画像において、書き割り感が発生することがある。
そこで、生成された視差画像を補正し、高精度の視差画像を生成することが求められている。
本開示は、このような状況に鑑みてなされたものであり、高精度の視差画像を生成することができるようにするものである。
本開示の一側面の画像処理装置は、カラー画像の相関値に基づいてフィルタ係数を設定する係数設定部と、前記係数設定部により設定された前記フィルタ係数を用いて前記カラー画像に対応する視差画像をフィルタ処理し、前記視差画像を補正する処理部とを備える画像処理装置である。
本開示の一側面の画像処理方法は、本開示の一側面の画像処理装置に対応する。
本開示の一側面においては、カラー画像の相関値に基づいてフィルタ係数が設定され、前記フィルタ係数を用いて前記カラー画像に対応する視差画像がフィルタ処理され、前記視差画像が補正される。
なお、本開示の一側面の画像処理装置は、コンピュータにプログラムを実行させることにより実現することができる。
また、本開示の一側面の画像処理装置を実現するために、コンピュータに実行させるプログラムは、伝送媒体を介して伝送することにより、又は、記録媒体に記録して、提供することができる。
本開示の一側面によれば、高精度の視差画像を生成することができる。
<第1実施の形態>
(画像処理装置の第1実施の形態の構成例)
図1は、本開示を適用した画像処理装置の第1実施の形態の構成例を示すブロック図である。
(画像処理装置の第1実施の形態の構成例)
図1は、本開示を適用した画像処理装置の第1実施の形態の構成例を示すブロック図である。
図1の画像処理装置10は、視差検出部11、非対称非線形フィルタ12−1および12−2、並びに他視点画像生成部13−1および13−2により構成される。画像処理装置10は、視差画像を生成して補正し、補正後の視差画像を用いて所定の視点のカラー画像を生成する。
具体的には、画像処理装置10の視差検出部11は、外部から3D画像のうちの所定の視点の左目用のカラー画像と、所定の視点の右目用のカラー画像とを取得する。視差検出部11は、取得された左目用のカラー画像と右目用のカラー画像を用いて、マッチング等の方法により、左目用のカラー画像に対応する視差画像と、右目用のカラー画像に対応する視差画像を生成する。
なお、本明細書では、視差値が大きいほど奥行き方向の位置が手前側であることを表し、視差値が小さいほど奥行き方向の位置が奥側であることを表し、視差値が中間値である場合奥行き方向の位置が表示面の位置であることを表す。視差検出部11は、生成された左目用の視差画像を非対称非線形フィルタ12−1に供給し、右目用の視差画像を非対称非線形フィルタ12−2に供給する。
非対称非線形フィルタ12−1は、例えば1次元の水平方向のFIR(finite impulse response)フィルタなどにより構成される。非対称非線形フィルタ12−1は、外部から入力されるカラー画像から各画素の相関値を求める。非対称非線形フィルタ12−1は、画素ごとに、相関値に基づいてフィルタ係数を設定し、そのフィルタ係数を用いて視差検出部11から供給される左目用の視差画像をフィルタ処理することにより、左目用の視差画像を補正する。非対称非線形フィルタ12−1は、補正後の左目用の視差画像を他視点画像生成部13−1に供給する。
非対称非線形フィルタ12−2は、非対称非線形フィルタ12−1と同様に構成される。非対称非線形フィルタ12−2は、カラー画像から各画素の相関値を求め、画素ごとに、相関値に基づいてフィルタ係数を設定し、そのフィルタ係数を用いて右目用の視差画像をフィルタ処理することにより、右目用の視差画像を補正する。非対称非線形フィルタ12−2は、補正後の右目用の視差画像を他視点画像生成部13−2に供給する。
なお、ここでは、非対称非線形フィルタ12−1と非対称非線形フィルタ12−2は、1次元の水平方向のFIRフィルタなどにより構成されるものとするが、2次元のFIRフィルタなどにより構成されるようにしてもよい。
他視点画像生成部13−1は、非対称非線形フィルタ12−1から供給される補正後の左目用の視差画像と、画像処理装置10に入力されるカラー画像とを用いて、そのカラー画像に対応する視点とは異なる視点の左目用のカラー画像を生成する。他視点画像生成部13−1は、生成された左目用のカラー画像を出力する。
他視点画像生成部13−2は、他視点画像生成部13−1と同様に構成される。他視点画像生成部13−2は、非対称非線形フィルタ12−2から供給される補正後の右目用の視差画像と、画像処理装置10に入力されるカラー画像とを用いて、そのカラー画像に対応する視点とは異なる視点の右目用のカラー画像を生成する。他視点画像生成部13−2は、生成された右目用のカラー画像を出力する。
なお、以下では、非対称非線形フィルタ12−1と非対称非線形フィルタ12−2と特に区別する必要がない場合、それらをまとめて非対称非線形フィルタ12という。同様に、他視点画像生成部13−1と他視点画像生成部13−2をまとめて他視点画像生成部13といい、左目用のカラー画像と右目用のカラー画像をまとめて単にカラー画像という。
(非対称非線形フィルタの構成例)
図2は、図1の非対称非線形フィルタ12の構成例を示すブロック図である。
図2は、図1の非対称非線形フィルタ12の構成例を示すブロック図である。
図2の非対称非線形フィルタ12は、差分演算部31、閾値設定部32、係数設定部33、および処理部34により構成される。
非対称非線形フィルタ12の差分演算部31は、外部から入力されるカラー画像の各画素を順次処理対象の画素とし、処理対象の画素とその画素の周辺画素の間の画素値の相関値を、処理対象の画素の画面内の相関値として演算する。具体的には、差分演算部31は、処理対象の画素の画素値と、その画素の周辺画素の画素値との差分の絶対値を演算する。
ここで、周辺画素とは、処理対象の画素のフィルタ処理に用いられる処理対象の画素およびその画素のフィルタの方向としての水平方向に並ぶ画素(以下、参照画素という)と、処理対象の画素のフィルタの方向と直交する垂直方向に並ぶ画素である。
差分演算部31は、演算された差分の絶対値のうち、処理対象の画素の上下の周辺画素の画素値との差分の絶対値を閾値設定部32に供給する。また、差分演算部31は、参照画素の画素値との差分の絶対値を、係数設定部33に供給する。
閾値設定部32は、差分演算部31から供給される差分の絶対値の最小値に基づいて、後述するフィルタ係数の設定に用いられる閾値を設定する。この閾値の設定方法は、例えば、特開2007-128206号公報に記載されている。閾値設定部32は、設定された閾値を係数設定部33に供給する。
係数設定部33は、閾値設定部32から供給される閾値と、差分演算部31から供給される差分の絶対値とに基づいて、参照画素に対するフィルタ係数を設定し、処理部34に供給する。
処理部34は、係数設定部33から供給されるフィルタ係数を用いて、図1の視差検出部11から供給される視差画像のうちの参照画素の視差値をフィルタ処理することにより、処理対象の画素の視差値を補正する。処理部34は、全ての画素の補正後の視差値からなる視差画像を補正後の視差画像として、図1の他視点画像生成部13に供給する。
(周辺画素の例)
図3は、周辺画素の例を示す図である。
図3は、周辺画素の例を示す図である。
なお、図3において丸は画素を表す。
図3の例では、周辺画素は、処理対象の画素P3の上の画素PAおよび下の画素PBと、画素P3、画素P3の左の2つの画素P1および画素P2、および右の2つの画素P4および画素P5からなる参照画素とにより構成される。
この場合、以下の式(1)により閾値THが設定される。
なお、式(1)において、aとbは、所定値である。
式(1)によれば、処理対象の画素P3の画素値と画素PAの画素値の差分の絶対値と、画素P3の画素値と画素PBの画素値の差分の絶対値のうちの小さい方に基づいて閾値THが設定される。
そして、閾値THに基づいて、以下の式(2)により参照画素である画素Pi(i=1,2,3,4,5)に対するフィルタ係数Ki(i=1,2,3,4,5)が設定される。
なお、式(2)においてFは所定の関数である。式(2)によれば、フィルタ係数Kiは、画素Piと画素P3の画素値の差分の絶対値に対する関数Fの値である。
処理部34は、フィルタ係数Kiを用いて以下の式(3)によりフィルタ処理を行う。
なお、式(3)において、RDは、補正後の画素P3の画素値を表し、Di(i=1,2,3,4,5)は補正前の画素Piの画素値を表している。
(関数Fの例)
図4は、式(2)における関数Fの例を示す図である。
図4は、式(2)における関数Fの例を示す図である。
なお、図4において、横軸は、画素Piと画素P3の画素値の差分の絶対値abs(Pi-P3)を表し、縦軸はフィルタ係数Kiを表している。
図4の関数Fは、差分の絶対値abs(Pi-P3)が閾値THより小さい場合最大値となり、差分の絶対値abs(Pi-P3)が閾値THより大きい場合、差分の絶対値abs(Pi-P3)が大きいほど小さくなる関数である。
(補正後の視差画像の例)
図5は、図2の処理部34により生成される補正後の視差画像の例を示す図である。
図5は、図2の処理部34により生成される補正後の視差画像の例を示す図である。
なお、図5において、L1は、入力されるカラー画像の画素値を表し、DL1は、そのカラー画像に対応する補正前の視差画像の視差値を表し、DL2は、補正後の視差画像の視差値を表している。また、図5において、横軸は、画素の水平方向の位置を表している。
図5の例では、位置p3の画素の左側と右側でカラー画像L1の画素値が大きく変化している。しかしながら、補正前の視差画像DL1の視差値は、位置p2の画素の左側と右側で大きく変化している。即ち、カラー画像L1と視差画像DL1の間で位相がずれている。
このような場合、画像処理装置10では、位置p3の画素の視差値は、カラー画像L1の相関値に基づいて小さくなるように補正される。即ち、位置p3の画素の画素値は、位置p3の左側の位置p1やp2の画素の画素値との相関が高いため、処理対象の画素を位置P3の画素としたときのフィルタ係数Kiでは、K1乃至K3が大きく、K4およびK5が小さい。従って、位置p3の画素の視差値は、位置p1および位置p2の画素の視差値に近づくように補正される。これにより、カラー画像L1と視差画像DL1の間の位相のずれが補正される。
また、カラー画像L1の相関値に基づいて、位置p3の左側の画素の視差値と、位置p3の右側の画素の視差値は、それぞれ、平滑化される。これにより、視差画像のノイズ成分等が削減される。
なお、差分の絶対値の最大値が比較的大きい場合、係数設定部33は、差分の絶対値が大きく変化する境界の、差分の絶対値が小さい画素に対するフィルタ係数を大きくするようにしてもよい。これにより、補正後の視差画像における視差値のエッジを強調することができる。この場合、フィルタ係数の設定処理が単純な閾値処理ではなくなるため、空間的なロバスト性が高められる。
(他視点のカラー画像の生成の説明)
図6は、図1の他視点画像生成部13による他視点のカラー画像の生成を説明する図である。
図6は、図1の他視点画像生成部13による他視点のカラー画像の生成を説明する図である。
図6の例では、カラー画像L1が正方形を含むカラー画像である。また、カラー画像L1の補正後の視差画像DL2の正方形のカラー画像に対する視差値は所定値であり、それ以外の視差値が0である。
この場合、他視点画像生成部13は、カラー画像L1の視点と、生成するカラー画像L2の視点との距離等に基づいて、視差画像DL2からカラー画像L2の視差画像を生成する。そして、他視点画像生成部13は、生成された視差画像に基づいて、画素ごとに、カラー画像L1の画素を移動させ、図6に示すカラー画像L2を生成する。これにより、図6の例では、カラー画像L2内の正方形は、カラー画像L1内の正方形より右側に移動する。
これに対して、視差画像が補正されず、視差画像の精度が悪い場合、例えば、図7に示すように、矩形を含むカラー画像L3の視差画像DL3は、矩形の境界が凸凹した視差画像となる。従って、生成するカラー画像L4に対応する視差画像も、矩形の境界が凸凹した視差画像となる。その結果、カラー画像L4に対応する視差画像に基づいて、カラー画像L3の矩形内の画素の一部が他部と同様に移動されず、カラー画像L4内の矩形に歪みが生じる。
(画像処理装置の処理の説明)
図8は、画像処理装置10の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図8は、画像処理装置10の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図8のステップS11において、画像処理装置10は、外部から入力される1フレームのカラー画像を取得する。ステップS12において、画像処理装置10の視差検出部11は、取得されたカラー画像を用いて、そのカラー画像に対応する視差画像を生成する。
ステップS13において、非対称非線形フィルタ12の差分演算部31(図2)は、カラー画像を構成する画素のうちのまだ処理対象の画素としていない画素を処理対象の画素に決定する。
ステップS14において、差分演算部31は、処理対象の画素の画素値と、その画素の周辺画素の画素値の差分の絶対値を演算する。差分演算部31は、演算された差分の絶対値のうち、処理対象の画素の上下の画素の画素値との差分の絶対値を閾値設定部32に供給する。また、差分演算部31は、参照画素の画素値との差分の絶対値を係数設定部33に供給する。
ステップS15において、閾値設定部32は、差分演算部31から供給される差分の絶対値の最小値に基づいて上述した式(1)により閾値を設定し、係数設定部33に供給する。
ステップS16において、係数設定部33は、差分演算部31から供給される差分の絶対値と閾値設定部32から供給される閾値とに基づいて、上述した式(2)により参照画素に対するフィルタ係数を設定し、処理部34に供給する。
ステップS17において、処理部34は、係数設定部33から供給されるフィルタ係数を用いて、図1の視差検出部11から供給される視差画像のうちの参照画素の視差値をフィルタ処理する。ステップS18において、処理部34は、フィルタ処理後の視差値を保持する。
ステップS19において、差分演算部31は、カラー画像を構成する全ての画素を処理対象の画素としたかどうかを判定する。ステップS19でまだ全ての画素を処理対象の画素としていないと判定された場合、処理はステップS13に戻り、全ての画素を処理対象の画素とするまで、ステップS13乃至S19の処理が繰り返される。
一方、ステップS19で全ての画素を処理対象の画素としたと判定された場合、ステップS20において、処理部34は、保持している全ての画素のフィルタ処理後の視差値からなる視差画像を補正後の視差画像として、図1の他視点画像生成部13に出力する。
ステップS21において、他視点画像生成部13は、非対称非線形フィルタ12から供給される補正後の視差画像とカラー画像とを用いて、そのカラー画像に対応する視点とは異なる視点のカラー画像を生成し、出力する。そして、処理は終了する。
以上のように、非対称非線形フィルタ12は、カラー画像の相関値としての画素値の差分の絶対値に基づいてフィルタ係数を設定し、そのフィルタ係数を用いてカラー画像に対応する視差画像をフィルタ処理することにより視差画像を補正する。従って、カラー画像を用いて生成される視差画像の精度が悪い場合であっても、カラー画像と位相が同期した高精度の視差画像を生成することができる。
<第2実施の形態>
(画像処理装置の第2実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第2実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
(画像処理装置の第2実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第2実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
図9は、本開示を適用した画像処理装置の第2実施の形態における非対称非線形フィルタの構成例を示すブロック図である。
図9に示す構成のうち、図2の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
図9の非対称非線形フィルタ50は、テクスチャ抽出部51、相関演算部52、係数設定部53、および処理部34により構成される。非対称非線形フィルタ50は、画素値の差分の絶対値ではなく、テクスチャ成分の類似度に基づいてフィルタ係数を設定する。
具体的には、非対称非線形フィルタ50のテクスチャ抽出部51は、外部から入力されるカラー画像のテクスチャ成分を抽出し、相関演算部52に供給する。
相関演算部52は、カラー画像の各画素を順次処理対象の画素とする。相関演算部52は、テクスチャ抽出部51から供給されるテクスチャ成分に基づいて、処理対象の画素と参照画素の間のテクスチャ成分の相関値を、処理対象の画素の画面内の相関値として演算する。
具体的には、テクスチャ抽出部51は、処理対象の画素のテクスチャ成分と参照画素のテクスチャ成分の類似度を演算する。テクスチャ抽出部51は、演算された類似度を係数設定部53に供給する。
係数設定部53は、相関演算部52から供給される類似度に基づいて、類似度が大きいほど、即ち類似しているほど、大きくなるようにフィルタ係数を設定し、処理部34に供給する。
(補正後の視差画像の例)
図10は、図9の処理部34により生成される補正後の視差画像の例を示す図である。
図10は、図9の処理部34により生成される補正後の視差画像の例を示す図である。
なお、図10において、横軸は、水平方向の位置(X)を表す。また、図10Aにおいて縦軸は画素値を表し、図10Bにおいて縦軸はフィルタ係数を表し、図10Cおよび図10Dにおいて縦軸は視差値を表す。
図10の例では、カラー画像が図10Aに示すようになっており、補正前の視差画像が図10Cに示すようになっている。ここで、図10A中丸で示す画素を処理対象の画素とすると、処理対象の画素のフィルタ係数は図10Bに示すようになる。
即ち、図10Aのカラー画像では、処理対象の画素の少し左側の画素(以下、境界画素という)と、その画素の左に隣接する画素との間にテクスチャ成分が大きく変化する境界が存在する。従って、境界画素と境界画素の右側の画素のテクスチャ成分が、処理対象の画素のテクスチャ成分と類似している。よって、境界画素である参照画素と境界画素の右側の参照画素に対する処理対象の画素のフィルタ係数は最大値となり、境界画素より左側の参照画素に対する処理対象の画素のフィルタ係数は小さい。
従って、このようなフィルタ係数を用いてフィルタ処理された補正後の視差画像は、図10Dに示すようになる。即ち、境界画素より左側の画素の視差値は、その画素より左側の画素の視差値に近づき、境界画素より右側の画素の視差値は、その画素より右側の画素値に近づく。その結果、補正後の視差画像における視差値のエッジは、補正前の視差画像における視差値のエッジに比べて急峻になり、カラー画像と視差画像の位相差がより削減される。
(画像処理装置の処理の説明)
図11は、画像処理装置の第2実施の形態の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図11は、画像処理装置の第2実施の形態の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図11のステップS41およびS42の処理は、図8のステップS11およびS12の処理と同様であるので、説明は省略する。
ステップS43において、非対称非線形フィルタ50のテクスチャ抽出部51(図9)は、外部から入力されるカラー画像のテクスチャ成分を抽出し、相関演算部52に供給する。
ステップS44において、相関演算部52は、カラー画像を構成する画素のうちのまだ処理対象の画素としていない画素を処理対象の画素に決定する。
ステップS45において、相関演算部52は、処理対象の画素のテクスチャ成分と、その画素の参照画素のテクスチャ成分の類似度を演算し、係数設定部53に供給する。
ステップS46において、係数設定部53は、相関演算部52から供給されるテクスチャ成分の類似度に基づいて、参照画素に対するフィルタ係数を設定し、処理部34に供給する。
ステップS47乃至S51の処理は、図8のステップS17乃至S21の処理と同様であるので、説明は省略する。
以上のように、非対称非線形フィルタ50は、カラー画像のテクスチャ成分の類似度に基づいてフィルタ係数を設定し、そのフィルタ係数を用いてカラー画像に対応する視差画像をフィルタ処理することにより視差画像を補正する。従って、カラー画像を用いて生成される視差画像の精度が悪い場合であっても、カラー画像と位相が同期した高精度の視差画像を生成することができる。
<第3実施の形態>
(画像処理装置の第3実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第3実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
(画像処理装置の第3実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第3実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
図12は、本開示を適用した画像処理装置の第3実施の形態における非対称非線形フィルタの構成例を示すブロック図である。
図12に示す構成のうち、図2の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
図12の非対称非線形フィルタ70の構成は、信頼度決定部71が新たに設けられる点、および、係数設定部33の代わりに係数設定部72が設けられる点が、図2の非対称非線形フィルタ12の構成と異なる。非対称非線形フィルタ70は、各画素の視差値の信頼度を決定し、信頼度が低い参照画素に対するフィルタ係数を0に置換する。
具体的には、非対称非線形フィルタ70の信頼度決定部71は、外部から入力されるカラー画像と、図1の視差検出部11から供給される視差画像とに基づいて、カラー画像を構成する各画素の視差値の信頼度を決定する。
例えば、信頼度検出部71は、カラー画像から顔画像を抽出する。そして、信頼度検出部71は、その顔画像の領域の画素のうち、周囲の画素の視差値より視差値が所定値以上小さい画素の信頼度を低くする。即ち、顔画像は、奥側に大きく引っ込んでいることはないため、視差値が周囲の画素の視差値より所定値以上小さい顔画像の画素の信頼度は低くされる。信頼度決定部71は、決定された信頼度を係数設定部72に供給する。
係数設定部72は、図1の係数設定部33と同様に、閾値設定部32から供給される閾値と、差分演算部31から供給される差分の絶対値とに基づいて、参照画素に対するフィルタ係数を設定する。係数設定部72は、信頼度決定部71から供給される信頼度に基づいて、設定されたフィルタ係数のうち信頼度の低い参照画素に対するフィルタ係数を0に置換する。係数設定部72は、置換後のフィルタ係数を処理部34に供給する。
(補正後の視差画像の例)
図13は、図12の処理部34により生成される補正後の視差画像の例を示す図である。
図13は、図12の処理部34により生成される補正後の視差画像の例を示す図である。
なお、図13において、横軸は、水平方向の位置(X)を表す。また、図13Aにおいて縦軸は画素値を表し、図13Bにおいて縦軸はフィルタ係数を表し、図13Cおよび図13Dにおいて縦軸は視差値を表す。
図13の例では、カラー画像が図13Aに示すようになっており、補正前の視差画像が図13Cに示すようになっている。ここで、顔画像の領域内の図13A中丸で示す画素を処理対象の画素とすると、処理対象の画素のフィルタ係数は図13Bに示すようになる。
即ち、図13Aのカラー画像では、処理対象の画素を含む画素値が一定値である領域が顔画像の領域となっているが、図13Cの視差画像では、顔画像の領域内のある参照画素の視差値が周囲に比べて極めて小さい0となっている。従って、顔画像の領域内の参照画素のフィルタ係数は大きくなるが、図13Bに示すように、視差値が0である参照画素のフィルタ係数は0に置換される。
よって、このようなフィルタ係数を用いてフィルタ処理された補正後の視差画像は、図13Dに示すようになる。即ち、顔画像の領域内の視差値が0となる画素の視差値は、その画素を参照画素とする画素の視差値の補正に用いられず、顔画像の領域内の全画素の視差値は一定となる。
(画像処理装置の処理の説明)
図14は、画像処理装置の第3実施の形態の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図14は、画像処理装置の第3実施の形態の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図14のステップS71およびS72の処理は、図8のステップS11およびS12の処理と同様であるので、説明は省略する。
ステップS73において、非対称非線形フィルタ70の信頼度決定部71(図12)は、外部から入力されるカラー画像と、図1の視差検出部11から供給される視差画像とに基づいて、カラー画像を構成する各画素の視差値の信頼度を決定する。そして、信頼度決定部71は、決定された信頼度を係数設定部72に供給する。
ステップS74乃至S77の処理は、図8のステップS13乃至S16の処理と同様であるので、説明は省略する。
ステップS78において、係数設定部72は、信頼度決定部71から供給される信頼度に基づいて、設定されたフィルタ係数のうち信頼度の低い参照画素に対するフィルタ係数を0に置換する。係数設定部72は、置換後のフィルタ係数を処理部34に供給する。ステップS79乃至S83の処理は、図8のステップS17乃至S21の処理と同様であるので、説明は省略する。
以上のように、非対称非線形フィルタ70は、信頼度に基づいてフィルタ係数を補正するので、信頼度の低い画素の視差値の影響を受けないように視差画像を補正することができる。その結果、より高精度の視差画像を生成することができる。
<第4実施の形態>
(画像処理装置の第4実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第4実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
(画像処理装置の第4実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第4実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
図15は、本開示を適用した画像処理装置の第4実施の形態における非対称非線形フィルタの構成例を示すブロック図である。
図15に示す構成のうち、図2の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
図15の非対称非線形フィルタ90の構成は、除外画素決定部91と置換部92が新たに設けられる点が、図1の非対称非線形フィルタ12の構成と異なる。非対称非線形フィルタ90は、フィルタ処理を行わない画素を除外画素に決定し、除外画素の視差値を所定値に置換する。
具体的には、非対称非線形フィルタ90の除外画素決定部91は、外部から入力されるカラー画像に基づいて、カラー画像を構成する画素のうちの除外画素を決定する。例えば、除外画素決定部91は、カラー画像から空の画像の領域を検出し、その領域の画素を除外画素とする。除外画素決定部91は、決定された除外画素を指定する除外画素情報を置換部92に供給する。
置換部92は、除外画素情報に基づいて、処理部34から出力される補正後の視差画像のうちの除外画素の視差値を所定値に置換する。ここでは、除外画素が空の画像の画素であるとし、所定値は、図1の視差検出部11から供給される補正前の視差画像の最小値とするが、所定値は、これに限定されず、例えば予め設定された視差値であってもよい。
(画像処理装置の処理の説明)
図16は、画像処理装置の第4実施の形態の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図16は、画像処理装置の第4実施の形態の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図16のステップS101およびS102の処理は、図8のステップS11およびS12の処理と同様であるので、説明は省略する。
ステップS103において、非対称非線形フィルタ90の除外画素決定部91(図15)は、外部から入力されるカラー画像に基づいて、カラー画像を構成する画素のうちの除外画素を決定し、除外画素情報を置換部92に供給する。
ステップS104乃至S110の処理は、図8のステップS13乃至S19の処理と同様であるので、説明は省略する。
ステップS111において、置換部92は、除外画素情報に基づいて、処理部34から出力される補正後の視差画像のうちの除外画素の視差値を、補正前の視差画像の最小値に置換する。
ステップS112およびS113の処理は、図8のステップS20およびS21の処理と同様であるので、説明は省略する。
以上のように、非対称非線形フィルタ90は、除外画素情報に基づいて補正後の視差画像を補正するので、正確な視差値を予め推定可能な画素の視差値がフィルタ処理により誤った視差値に補正されることを防止することができる。その結果、より高精度の視差画像を生成することができる。
<第5実施の形態>
(画像処理装置の第5実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第5実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
(画像処理装置の第5実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第5実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
図17は、本開示を適用した画像処理装置の第5実施の形態における非対称非線形フィルタの構成例を示すブロック図である。
図17の非対称非線形フィルタ110は、メモリ111、差分演算部112、閾値設定部113、係数設定部114、メモリ115、および処理部116により構成される。非対称非線形フィルタ110は、カラー画像の画面内の相関値だけでなく画面間の相関値にも基づいて視差画像を補正する。
具体的には、非対称非線形フィルタ110のメモリ111は、外部から入力されるカラー画像を保持する。
差分演算部112は、メモリ111に保持されている、いま外部から入力されるカラー画像のフレーム(以下、現フレームという)より1フレーム前のフレーム(以下、前フレームという)のカラー画像を読み出す。差分演算部112は、現フレームのカラー画像の各画素を順次処理対象の画素とする。
差分演算部112は、処理対象の画素の画素値と、その画素と同一のフレームである現フレームのカラー画像における周辺画素の画素値との差分の絶対値を、処理対象の画素の画面内の相関値として演算する。また、差分演算部112は、処理対象の画素の画素値と、その画素の前フレームのカラー画像における周辺画素の画素値との差分の絶対値を、処理対象の画素の画面間の相関値として演算する。
なお、前フレームのカラー画像における周辺画素とは、処理対象の画素のフィルタ処理に用いられる前フレームの参照画素と、処理対象の画素と同一の位置に存在する前フレームの画素(以下、前対象画素という)の垂直方向に並ぶ画素である。また、前フレームの参照画素とは、前対象画素と、前対象画素の水平方向に並ぶ画素である。
差分演算部112は、演算された差分の絶対値のうち、処理対象の画素の現フレームおよび前フレームの上下の画素の画素値との差分の絶対値を閾値設定部113に供給する。また、差分演算部112は、現フレームおよび前フレームの参照画素の画素値との差分の絶対値を係数設定部114に供給する。
閾値設定部113は、フレームごとに、差分演算部31から供給される差分の絶対値の最小値に基づいて、図2の閾値設定部32と同様に閾値を設定し、係数設定部114に供給する。
係数設定部114は、閾値設定部113からの現フレームの閾値と、差分演算部112からの現フレームの差分の絶対値とに基づいて、図2の係数設定部33と同様に、現フレームの参照画素に対するフィルタ係数を設定する。
また、係数設定部114は、閾値設定部113からの前フレームの閾値と、差分演算部31からの前フレームの差分の絶対値とに基づいて、係数設定部33と同様に、前フレームの参照画素に対するフィルタ係数を設定する。そして、係数設定部114は、設定されたフィルタ係数を処理部116に供給する。
メモリ115は、図1の視差検出部11から供給される視差画像を保持する。
処理部116は、係数設定部114からの現フレームのフィルタ係数を用いて、図2の処理部34と同様に、視差検出部11から供給される現フレームの視差画像の参照画素の視差値をフィルタ処理する。
また、処理部116は、メモリ115に保持されている前フレームの視差画像を読み出す。そして、処理部116は、係数設定部114からの前フレームのフィルタ係数を用いて、処理部34と同様に、前フレームの視差画像の参照画素の視差値をフィルタ処理する。
処理部116は、現フレームのフィルタ処理後の視差値と前フレームのフィルタ処理後の視差値とを平均化し、平均化後の視差値を処理対象の画素の補正後の視差値とする。処理部116は、全ての画素の補正後の視差値からなる視差画像を補正後の視差画像として、図1の他視点画像生成部13に供給する。
(補正後の視差画像の例)
図18は、図17の処理部116により生成される補正後の視差画像の例を示す図である。
図18は、図17の処理部116により生成される補正後の視差画像の例を示す図である。
なお、図18において、横軸は、水平方向の位置(X)を表す。また、図18Aおよび図18Eにおいて縦軸は画素値を表し、図18Bおよび図18Fにおいて縦軸はフィルタ係数を表し、図18C,図18D,および図18G乃至図18Iにおいて縦軸は視差値を表す。
図18の例では、前フレームのカラー画像が図18Aに示すようになっており、図18Eに示すように、現フレームのカラー画像は、前フレームのカラー画像と同一である。しかしながら、図18Cに示すように前フレームの補正前の視差画像では視差値が大きく変化しているのに対して、図18Gに示すように、現フレームの補正前の視差画像の視差値は一定値となっている。
ここで、図18E中丸で示す画素を処理対象の画素とすると、処理対象の画素の現フレームのフィルタ係数は図18Fに示すようになる。
即ち、図18Eのカラー画像では、処理対象の画素の少し左側の境界画素と、その境界画素の左に隣接する画素との間に画素値が大きく変化する境界が存在する。従って、境界画素と境界画素の右側の画素の画素値が、処理対象の画素の画素値と類似している。よって、境界画素である参照画素と境界画素の右側の参照画素に対する処理対象の画素のフィルタ係数は最大値となり、境界画素より左側の参照画素に対する処理対象の画素のフィルタ係数は小さい。
また、図18Aと図18Eに示すように現フレームと前フレームのカラー画像は同一であるため、図18Bに示すように、処理対象の画素の前フレームのフィルタ係数は、図18Fに示した現フレームのフィルタ係数と同一になる。
従って、このようなフィルタ係数を用いてフィルタ処理された現フレームの補正後の視差画像は、図18Hに示すようになる。即ち、視差値が一定値である現フレームの視差画像だけでなく、前フレームの視差画像も用いてフィルタ処理が行われるため、現フレームの補正後の視差画像では、境界画素と境界画素の右側の視差値が、左側の視差値に比べて大きくなる。即ち、カラー画像と視差画像の位相が同期する。
一方、前フレームの視差画像は、例えば、図18Dに示すように、図18Cに示した補正前の視差画像に比べてエッジが急峻となり、カラー画像との位相差が削減されるように補正される。従って、補正後の視差画像は、前フレームと現フレームの間で急激に変化せず、補正後の視差画像は時間的に安定する。
これに対して、現フレームの補正前の視差画像の視差値は一定であるため、フィルタ処理に前フレームの視差画像が用いられない場合、フィルタ処理後の現フレームの視差画像の視差値は、図18Iに示すように一定である。従って、この場合、補正後の視差画像は、前フレームと現フレームの間で急激に変化する。
(画像処理装置の処理の説明)
図19は、画像処理装置の第5実施の形態の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図19は、画像処理装置の第5実施の形態の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図19のステップS130において、図8のS11の処理と同様に、外部から入力される1フレームのカラー画像が取得される。ステップS131において、非対称非線形フィルタ110のメモリ111(図17)は、取得されたカラー画像を保持する。
ステップS132において、視差検出部11は、取得されたカラー画像を用いて、そのカラー画像に対応する視差画像を生成し、非対称非線形フィルタ110に供給する。ステップS133において、メモリ115は、視差検出部11から供給される視差画像を保持する。
ステップS134において、差分演算部112は、現フレームのカラー画像を構成する画素のうちのまだ処理対象の画素としていない画素を処理対象の画素に決定する。
ステップS135において、差分演算部112は、メモリ111から前フレームのカラー画像を読み出し、処理対象の画素の画素値と、その画素の現フレームおよび前フレームの周辺画素の画素値の差分の絶対値を演算する。
そして、差分演算部112は、演算された差分の絶対値のうち、処理対象の画素の現フレームと前フレームの上下の画素の画素値との差分の絶対値を閾値設定部113に供給する。また、差分演算部112は、現フレームと前フレームの参照画素の画素値との差分の絶対値を係数設定部114に供給する。
ステップS136において、閾値設定部113は、差分演算部112から供給される差分の絶対値の最小値に基づいて、現フレームと前フレームの閾値を設定し、係数設定部114に供給する。
ステップS137において、係数設定部114は、差分演算部112から供給される差分の絶対値と閾値設定部113から供給される閾値とに基づいて、現フレームと前フレームのフィルタ係数を設定し、処理部116に供給する。
ステップS138において、処理部116は、メモリ115から前フレームの視差画像を読み出し、現フレームと前フレームについて、係数設定部114からのフィルタ係数を用いて視差画像の参照画素の視差値をフィルタ処理する。
ステップS139において、処理部116は、現フレームと前フレームのフィルタ処理後の視差値を平均化する。ステップS140において、処理部116は、平均化後の視差値を補正後の視差値として保持する。
ステップS141乃至S143の処理は、図8のステップS19乃至S21の処理と同様であるので、説明は省略する。
以上のように、非対称非線形フィルタ110は、カラー画像の画面内の相関値と画面間の相関値に基づいてフィルタ係数を設定し、そのフィルタ係数を用いて現フレームおよび前フレームの視差画像をフィルタ処理し、平均化することにより視差画像を補正する。従って、時間的に安定した高精度の視差画像を生成することができる。
<第6実施の形態>
(画像処理装置の第6実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第6実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
(画像処理装置の第6実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第6実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
図20は、本開示を適用した画像処理装置の第6実施の形態における非対称非線形フィルタの構成例を示すブロック図である。
図20に示す構成のうち、図17の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
図20の非対称非線形フィルタ130の構成は、動き検出部131が新たに設けられる点、および係数設定部114の代わりに係数設定部132が設けられる点が、図17の非対称非線形フィルタ110の構成と異なる。非対称非線形フィルタ130は、カラー画像の動きベクトルに基づいてフィルタ係数を補正し、補正後のフィルタ係数を用いて視差画像を補正する。
具体的には、非対称非線形フィルタ130の動き検出部131は、メモリ111に保持されている前フレームのカラー画像を読み出す。動き検出部131は、外部から入力される現フレームのカラー画像と前フレームのカラー画像を用いて、現フレームのカラー画像の各画素の動きベクトルを検出する。動き検出部131は、検出された動きベクトルを係数設定部132に供給する。
係数設定部132は、図17の係数設定部114と同様に、現フレームおよび前フレームのフィルタ係数を設定する。係数設定部132は、動き検出部131から供給される処理対象の画素の動きベクトルに基づいてフィルタ係数を補正し、処理部116に供給する。
(補正後の視差画像の例)
図21は、補正前のフィルタ係数を用いて補正された視差画像の例を示す図であり、図22は、図20の処理部116により生成される補正後の視差画像の例を示す図である。
図21は、補正前のフィルタ係数を用いて補正された視差画像の例を示す図であり、図22は、図20の処理部116により生成される補正後の視差画像の例を示す図である。
なお、図21および図22において、横軸は、水平方向の位置(X)を表す。また、図21Aおよび図21Eにおいて縦軸は画素値を表し、図21B,図21D,図21F、図21H,図22B、および図22Dにおいて縦軸は視差値を表す。さらに、図21C,図21G,図22A、および図22Cにおいて縦軸はフィルタ係数を表す。
図21の例では、前フレームのカラー画像が図21Aに示すようになっており、図21Eに示すように、現フレームのカラー画像は、図21E中点線の矩形で表される領域141が右方向に移動したカラー画像である。このように領域141が移動している場合、領域141の境界には動きぼけが発生し、図21Aや図21Eに示すように、エッジが鈍くなる場合がある。
この場合、図21Bに示す前フレームの補正前の視差画像と図21Fに示す現フレームの補正前の視差画像においても、エッジが鈍くなる。
ここで、図21E中丸で示す画素を処理対象の画素とすると、処理対象の画素の現フレームの補正前のフィルタ係数は図21Gに示すようになる。即ち、図21Gに示すように、処理対象の画素に対するフィルタ係数が最大値となり、その画素より離れるほど参照画素に対するフィルタ係数が小さくなって、一定値となる。
また、図21Aと図21Eに示すように、前フレームのカラー画像は、現フレームのカラー画像の領域141を左方向に移動したカラー画像である。従って、図21Cに示すように、処理対象の画素の前フレームのフィルタ係数の波形は、図21Gの領域141に対するフィルタ係数を左方向に移動した波形となる。
よって、このようなフィルタ係数を用いてフィルタ処理された現フレームの補正後の視差画像は、図21Hに示すようになる。即ち、視差値のエッジが急峻になるように現フレームの視差画像は補正される。また、前フレームの視差画像は、現フレームの視差画像と同様に補正されるため、例えば、図21Dに示すように、図21Hに示した現フレームの補正後の視差画像の領域141の視差値が左方向に移動したものとなる。
これに対して、動きベクトルに基づいてフィルタ係数が補正される場合、処理対象の画素の現フレームの補正後のフィルタ係数は図22Cに示すようになる。即ち、現フレームのカラー画像は、前フレームのカラー画像の領域141が右方向に移動したものであるため、動きベクトルは右方向のベクトルである。従って、図21Gに示した補正前のフィルタ係数は、処理対象の画素の動きベクトルの反対の方向である左方向の参照画素のフィルタ係数が大きくなるように補正される。
また、処理対象の画素の前フレームのフィルタ係数も、現フレームの場合と同様に動きベクトルに基づいて補正され、補正後のフィルタ係数は図22Aに示すようになる。即ち、図21Cに示した補正前の相関値に基づくフィルタ係数は、処理対象の画素に対応する参照画素、即ちフィルタ係数が最大値である参照画素の左側の参照画素のフィルタ係数が大きくなるように補正される。
以上のように補正されたフィルタ係数を用いてフィルタ処理された現フレームの補正後の視差画像は、図21Dに示すようになる。即ち、現フレームの補正後の視差画像において処理対象の画素の視差値は小さくなり、図21Hに示した視差画像に比べてエッジが急峻になる。また、前フレームの視差画像は、現フレームの視差画像と同様に補正されるため、図22Bに示すように、図21Dに示した視差画像に比べてエッジが急峻な視差画像となる。
(画像処理装置の処理の説明)
図23は、画像処理装置の第6実施の形態の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図23は、画像処理装置の第6実施の形態の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図23のステップS160およびS161の処理は、図19のステップS130およびS131の処理と同様であるので、説明は省略する。
ステップS162において、動き検出部131は、メモリ111から前フレームのカラー画像を読み出し、前フレームのカラー画像と現フレームのカラー画像に基づいてカラー画像の各画素の動きベクトルを検出して、係数設定部132に供給する。
ステップS163乃至S168の処理は、図19のステップS132乃至S137の処理と同様であるので、説明は省略する。
ステップS169において、係数設定部132は、動き検出部131から供給される処理対象の画素の動きベクトルに基づいて、設定された現フレームおよび前フレームのフィルタ係数を補正し、処理部116に供給する。
ステップS170乃至S175の処理は、図19のステップS138乃至S143の処理と同様であるので、説明は省略する。
以上のように、非対称非線形フィルタ130は、動きベクトルに基づいてフィルタ係数を補正するので、エッジがより急峻な高精度の視差画像を生成することができる。
なお、第6実施の形態では、動きベクトルに基づいてフィルタ係数を補正したが、動きベクトルに基づいて相関値を補正するようにしてもよい。また、非対称非線形フィルタ130は、画面全体の動きベクトルに基づいてフィルタ係数を補正するようにしてもよい。
<第7実施の形態>
(画像処理装置の第7実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第7実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
(画像処理装置の第7実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第7実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
図24は、本開示を適用した画像処理装置の第7実施の形態における非対称非線形フィルタの構成例を示すブロック図である。
図24に示す構成のうち、図17の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
図24の非対称非線形フィルタ150の構成は、処理部116の代わりに処理部151が設けられている点、およびメモリ115の代わりにメモリ152が設けられている点を除いて図17の非対称非線形フィルタ110の構成と同様である。非対称非線形フィルタ150は、前フレームの補正後の視差画像を用いて現フレームの視差画像を補正する。
具体的には、非対称非線形フィルタ150の処理部151は、図17の処理部116と同様に、係数設定部132からの現フレームのフィルタ係数を用いて、視差検出部11から供給される現フレームの視差画像の参照画素の視差値をフィルタ処理する。
また、処理部151は、メモリ152に保持されている前フレームの補正後の視差画像を読み出す。そして、処理部151は、係数設定部114からの前フレームのフィルタ係数を用いて、前フレームの補正後の視差画像の参照画素の視差値をフィルタ処理する。
処理部151は、IIR(Infinite Impulse Response)フィルタなどを用いて、現フレームのフィルタ処理後の視差値と前フレームのフィルタ処理後の視差値とを平均化し、補正後の視差値とする。処理部151は、全ての画素の補正後の視差値からなる視差画像を補正後の視差画像として、図1の他視点画像生成部13とメモリ152に供給する。
メモリ152は、処理部151から供給される補正後の視差画像を保持する。
(補正後の視差画像の例)
図25は、図24の処理部151により生成される補正後の視差画像の例を示す図である。
図25は、図24の処理部151により生成される補正後の視差画像の例を示す図である。
なお、図25において、横軸は、水平方向の位置(X)を表す。また、図25Aにおいて縦軸は画素値を表し、図25B,図25D、および図25Eにおいて縦軸は視差値を表し、図25Cにおいて縦軸はフィルタ係数を表す。
図25の例では、現フレームのカラー画像が図25Aに示すようになっており、現フレームの補正前の視差画像は図25Bに示すようになっている
ここで、図25A中丸で示す画素を処理対象の画素とすると、処理対象の画素の現フレームのフィルタ係数は図25Cに示すようになる。即ち、図25Cに示すように、処理対象の画素に対するフィルタ係数が最大値となり、その画素より離れるほど参照画素に対するフィルタ係数が小さくなって、一定値となる。
なお、図25Aに示すように、処理対象の画素の画素値は、右側の小さい画素値より左側の大きい画素値に近いため、処理対象の画素の左側の参照画素に対するフィルタ係数の一定値の方が、処理対象の画素の右側の参照画素に対するフィルタ係数の一定値より大きい。また、図示は省略するが、前フレームのフィルタ係数も、前フレームのカラー画像に基づいて設定される。
このような現フレームと前フレームのフィルタ係数を用いて補正前の現フレームと前フレームの視差画像をフィルタ処理した結果得られる現フレームの補正後の視差画像は、例えば、図25Dに示すようになる。即ち、視差値のエッジが急峻になるように現フレームの視差画像は補正される。
そして、このようにして補正された現フレームの視差画像を前フレームの視差画像として用いて現フレームの次のフレームの視差画像が補正される場合、そのフレームのカラー画像が変化しないとき、補正後の視差画像は、例えば、図25Eに示すようになる。即ち、エッジが急峻になるように補正された視差画像を用いて補正が行われるため、補正後の視差画像のエッジは、図25Dの場合に比べて急峻になる。
(画像処理装置の処理の説明)
図26は、画像処理装置の第7実施の形態の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図26は、画像処理装置の第7実施の形態の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図26のステップS190乃至S192の処理は、図19のステップS130乃至S132の処理と同様であり、ステップS193乃至S196の処理は、図19のステップS134乃至S137の処理と同様であるので、説明は省略する。
ステップS197において、処理部116は、メモリ152から前フレームの補正後の視差画像を読み出し、現フレームと前フレームについて、係数設定部114からのフィルタ係数を用いて視差画像をフィルタ処理する。
ステップS198乃至S200の処理は、図19のステップS139乃至S141の処理と同様であるので、説明は省略する。ステップS200の処理後、処理部34は、保持している全ての画素のフィルタ処理後の視差値からなる視差画像を補正後の視差画像として、メモリ152に供給する。
そして、ステップS201において、メモリ152は、処理部151から供給される補正後の視差画像を保持する。この視差画像は、現フレームの次のフレームの視差画像の補正時に用いられる。
ステップS202およびS203の処理は、図19のステップS142およびS143の処理と同様であるので、説明は省略する。
以上のように、非対称非線形フィルタ150は、前フレームの補正後の視差画像を用いて現フレームの視差画像を補正するので、カラー画像に時間的変化がない場合、エッジがより急峻な高精度の視差画像を生成することができる。
<第8実施の形態>
(画像処理装置の第8実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第8実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
(画像処理装置の第8実施の形態における非対称非線形フィルタの構成例)
本開示を適用した画像処理装置の第8実施の形態は、非対称非線形フィルタ12を除いて図1の画像処理装置10と同様である。従って、以下では、非対称非線形フィルタについてのみ説明する。
図27は、本開示を適用した画像処理装置の第8実施の形態における非対称非線形フィルタの構成例を示すブロック図である。
図27に示す構成のうち、図24の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
図27の非対称非線形フィルタ170の構成は、処理部151の代わりに現処理部171、前処理部172、および加重平均部174が設けられる点、および重み設定部173が新たに設けられる点を除いて図24の非対称非線形フィルタ150の構成と同様である。
非対称非線形フィルタ170は、カラー画像の画面間の相関値に基づいて、前フレームのフィルタ処理後の視差画像と現フレームのフィルタ処理後の視差画像を加重平均化し、現フレームの補正後の視差画像を生成する。
具体的には、非対称非線形フィルタ170の現処理部171は、図24の処理部151と同様に、係数設定部132により設定された現フレームのフィルタ係数を用いて、視差検出部11から供給される現フレームの視差画像の参照画素の視差値をフィルタ処理する。現処理部171は、現フレームのフィルタ処理後の視差画像を加重平均部174に供給する。
また、前処理部172は、処理部151と同様に、メモリ152に保持されている前フレームの補正後の視差画像を読み出す。そして、前処理部172は、処理部151と同様に、係数設定部114により設定された前フレームのフィルタ係数を用いて、前フレームの補正後の視差画像の参照画素の視差値をフィルタ処理する。前処理部172は、前フレームのフィルタ処理後の視差画像を加重平均部174に供給する。
重み設定部173は、差分演算部112により演算された処理対象の画素の画素値と、前フレームの参照画素の画素値の差分の絶対値に基づいて、処理対象の画素に対する現フレームと前フレームの重み係数を設定する。
具体的には、重み設定部173は、例えば、差分の絶対値の平均値が大きいほど、前フレームの重み係数が大きくなり、現フレームの重み係数が小さくなるように重み係数を設定する。重み設定部173は、設定された重み係数を加重平均部174に供給する。
加重平均部174は、重み設定部173からの重み係数に基づいて、現処理部171からの現フレームのフィルタ処理後の視差値と、前処理部172からの前フレームのフィルタ処理後の視差値とを加重平均化する。そして、加重平均部174は、加重平均化後の視差値を処理対象の画素の補正後の視差値とする。
具体的には、加重平均部174は、例えばIIRフィルタなどにより構成され、以下の式(4)により補正後の視差値を演算する。
なお、式(4)において、dt´は、処理対象の画素の補正後の視差値である。また、w1は、処理対象の画素に対する現フレームの重み係数であり、w2は、処理対象の画素に対する前フレームの重み係数である。さらに、f(dt)は、現フレームのフィルタ処理後の視差値であり、f(d´t−1)は、前フレームのフィルタ処理後の視差値である。
加重平均部174は、全ての画素の補正後の視差値からなる視差画像を、補正後の視差画像として図1の他視点画像生成部13とメモリ152に供給する。
(補正後の視差画像の例)
図28は、図27の加重平均部174により生成される補正後の視差画像の例を示す図である。
図28は、図27の加重平均部174により生成される補正後の視差画像の例を示す図である。
なお、図28において、横軸は、水平方向の位置(X)を表す。また、図28Aおよび図28Dにおいて縦軸は画素値を表し、図28B,図28C、および図28E乃至図28Gにおいて縦軸は視差値を表す。
図28の例では、前フレームのカラー画像が図28Aに示すようになっており、図28Dに示すように、現フレームのカラー画像は図28Aの前フレームのカラー画像と同一である。また、前フレームのフィルタ処理後の視差画像は図28Bに示すようになっており、前フレームより1つ前のフレームと前フレームのフィルタ処理後の視差画像を用いて補正された前フレームの視差画像は図28Cに示すようになっている。
さらに、現フレームの補正前の視差画像は図28Eに示すようになっている。即ち、フィルタ処理が行われていないため、図28Eの現フレームの補正前の視差画像のエッジは、図28Cの前フレームのフィルタ処理後の視差画像に比べて緩やかになっている。
図28の例の場合、前フレームと現フレームのカラー画像が同一であるため、図28Fに示すように、現フレームのフィルタ処理後の視差画像は、例えば、図28Bに示した前フレームのフィルタ処理後の視差画像と同一になる。
また、前フレームと現フレームのカラー画像が同一であり、カラー画像の画素値の画面間の相関値が高いため、前フレームの重み係数が大きく、現フレームの重み係数が小さい。従って、現フレームの補正後の視差画像は、図28Fの現フレームのフィルタ処理後の視差画像より図28Cの前フレームの補正後の視差画像に近づくように補正される。その結果、現フレームの補正後の視差画像のエッジは、図28Gに示すように、図28Fの現フレームのフィルタ処理後の視差画像に比べて急峻になる。
なお、前フレームと現フレームのカラー画像が全く異なるものであり、カラー画像の画素値の画面間の相関値が低い場合、前フレームの重み係数が小さく、現フレームの重み係数が小さい。従って、現フレームの補正後の視差画像は、より現フレームのフィルタ処理後の視差画像に近くなる。
(画像処理装置の処理の説明)
図29は、画像処理装置10の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図29は、画像処理装置10の他視点画像生成処理を説明するフローチャートである。この他視点画像生成処理は、例えば、外部から1フレームのカラー画像が入力されたとき、開始される。
図29のステップS220乃至S226の処理は、図26のステップS190乃至S196の処理と同様であるので、説明は省略する。
ステップS227において、現処理部171と前処理部172は、現フレームと前フレームについて、係数設定部114からのフィルタ係数を用いて視差画像の参照画素の視差値をフィルタ処理する。このとき、前処理部172は、メモリ152から前フレームの補正後の視差画像を読み出し、その視差画像をフィルタ処理する。
ステップS228において、重み設定部173は、差分演算部112により演算された処理対象の画素の画素値と前フレームの参照画素の画素値の差分の絶対値に基づいて、処理対象の画素に対する現フレームと前フレームの重み係数を設定する。重み設定部173は、設定された重み係数を加重平均部174に供給する。
ステップS229において、加重平均部174は、重み設定部173からの重み係数に基づいて、上述した式(4)により、現処理部171からの現フレームのフィルタ処理後の視差値と、前処理部172からの前フレームのフィルタ処理後の視差値とを加重平均化する。
ステップS230において、加重平均部174は、加重平均化後の視差値を処理対象の画素の補正後の視差値とし、保持する。
ステップS231乃至S234の処理は、図26のステップS200乃至S203の処理と同様であるので、説明は省略する。
以上のように、非対称非線形フィルタ170は、カラー画像の画面間の相関値に基づいて、前フレームと現フレームのフィルタ処理後の視差画像を加重平均化する。従って、カラー画像に時間的変化がある場合であっても、高精度の視差画像を生成することができる。
なお、第8実施の形態では、処理対象の画素の画素値の画面間の相関値に基づいて重み係数が設定されたが、処理対象の画素の視差値の画面間の相関値やカラー画像の動きベクトルなどに基づいて重み係数が設定されるようにしてもよい。
<第7および第8実施の形態による効果>
図30は、第7および第8実施の形態による効果を説明する図である。
図30は、第7および第8実施の形態による効果を説明する図である。
なお、図30では、非対称非線形フィルタ150(170)が2次元のFIRフィルタなどにより構成されるものとし、参照画素は、処理対象の水平方向の画素だけでなく垂直方向の画素も含むものとする。
第7および第8実施の形態のように、前フレームの補正後の視差画像を用いて現フレームの視差画像を補正することにより、フィルタ処理に用いられる参照画素の空間的な範囲を広げることができる。
具体的には、例えば、図30に示すように、tフレームの補正後の視差画像dt´内の画素191の視差値は、t−1フレームの補正後の視差画像dt−1´内の画素191の前対象画素である画素192を中心とする領域193内の画素の視差値を用いて補正される。
また、視差画像dt−1´の領域193内の画素194の視差値は、t−2フレームの補正後の視差画像dt−2内の画素194の前対象画素である画素195を中心とする領域196内の画素の視差値を用いて補正される。以降も同様に、あるフレームの視差値は、そのフレームより1つ前の補正後の視差値を用いて補正される。
従って、画素191の補正に用いられる参照画素の空間的な範囲は、同一時刻の参照画素の視差値のみを用いて補正する場合に比べて大きくなる。よって、視差画像の補正精度が向上する。
なお、第8実施の形態は、第7実施の形態においてフィルタ処理後の視差値の加重平均化が行われたものであるが、第5および第6実施の形態においてもフィルタ処理後の視差値の加重平均化が行われるようにしてもよい。
<第9実施の形態>
(画像処理装置の第9実施の形態の構成例)
図31は、本開示を適用した画像処理装置の第9実施の形態の構成例を示すブロック図である。
(画像処理装置の第9実施の形態の構成例)
図31は、本開示を適用した画像処理装置の第9実施の形態の構成例を示すブロック図である。
図31に示す構成のうち、図1の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
図31の画像処理装置210の構成は、視差検出部11の代わりに視差推定部211が設けられ、非対称非線形フィルタ12−1と12−2の代わりに非対称非線形フィルタ12が設けられ、他視点画像生成部13−1と13−2の代わりに他視点画像生成部13が設けられる点が、図1の画像処理装置10と異なっている。
画像処理装置210は、1視点のカラー画像から視差画像を推定して補正し、補正後の視差画像を用いて他の視点のカラー画像を生成する。
具体的には、画像処理装置210の視差推定部211は、外部から入力される1視点のカラー画像を取得し、そのカラー画像から視差画像を推定する。視差推定部211は、推定された視差画像を非対称非線形フィルタ12に供給する。
なお、第9実施の形態は、第1実施の形態において入力されるカラー画像の視点数を1にしたものであるが、第2乃至第8実施の形態においても同様に、入力されるカラー画像の視点数を1にするようにしてもよい。
また、第1乃至第9実施の形態では、視差画像の補正に用いられる相関値は、画素値の相関値であったが、視差値の相関値であってもよい。
<第10実施の形態>
(画像処理装置の第10実施の形態の構成例)
図32は、本開示を適用した画像処理装置の第10実施の形態の構成例を示すブロック図である。
(画像処理装置の第10実施の形態の構成例)
図32は、本開示を適用した画像処理装置の第10実施の形態の構成例を示すブロック図である。
図32に示す構成のうち、図1の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
図32の画像処理装置230の構成は、非対称非線形フィルタ12−1および12−2の代わりに非線形フィルタ231−1および231−2が設けられ、新たに減算部232−1および232−2並びに局所的視差調整部233−1および233−2が設けられる点が、図1の画像処理装置10の構成と異なる。
画像処理装置230は、補正後の視差画像を用いて補正前の視差画像の局所的な視差値を強調し、強調後の視差画像を用いて所定の視点のカラー画像を生成する。
具体的には、画像処理装置230の非線形フィルタ231−1は、例えば1次元の水平方向のFIRフィルタなどにより構成される。非線形フィルタ231−1は、図1の非対称非線形フィルタ12と同様に、外部から入力される左目用のカラー画像から各画素の画素値の相関値を求め、相関値に基づいて閾値を設定する。
非線形フィルタ231−1は、非対称非線形フィルタ12と同様に、閾値と相関値に基づいてフィルタ係数を設定する。そして、非線形フィルタ231−1は、以下の式(5)により、フィルタ係数が対称になるように補正する。
なお、式(5)において、Ki´(i=1,2,3,4,5)は、画素Pi(i=1,2,3,4,5)に対する補正後のフィルタ係数である。
非線形フィルタ231−1は、補正後のフィルタ係数を用いて視差検出部11から供給される左目用の視差画像をフィルタ処理することにより、左目用の視差画像を補正する。非線形フィルタ231−1は、補正後の左目用の視差画像を減算部232−1と局所的視差調整部233−1に供給する。
非線形フィルタ231−2は、非線形フィルタ231−1と同様に構成される。非線形フィルタ231−2は、右目用のカラー画像から各画素の画素値の相関値を求め、その相関値に基づいてフィルタ係数を設定して補正する。非線形フィルタ231−2は、補正後のフィルタ係数を用いて右目用の視差画像をフィルタ処理することにより、右目用の視差画像を補正する。非線形フィルタ231−2は、補正後の右目用の視差画像を減算部232−2と局所的視差調整部233−2に供給する。
減算部232−1は、視差検出部11により検出された補正前の左目用の視差画像から、非線形フィルタ231−1から供給される補正後の左目用の視差画像を減算し、その結果得られる左目用の視差画像の差分を局所的視差調整部233−1に供給する。
減算部232−2は、減算部232−1と同様に、視差検出部11により検出された補正前の右目用の視差画像から、非線形フィルタ231−2から供給される補正後の右目用の視差画像を減算し、右目用の視差画像の差分を局所的視差調整部233−2に供給する。
局所的視差調整部233−1は、減算部232−1から供給される左目用の視差画像の差分を増幅する。局所的視差調整部233−1は、増幅後の差分を非線形フィルタ231−1から供給される補正後の左目用の視差画像に加算し、その結果得られる局所的な視差が強調された左目用の視差画像を他視点画像生成部13−1に供給する。
局所的視差調整部233−2は、局所的視差調整部233−1と同様に、減算部232−1からの差分を増幅し、増幅後の差分を非線形フィルタ231−2から供給される視差画像に加算する。そして、局所的視差調整部233−2は、その結果得られる局所的な視差が強調された右目用の視差画像を他視点画像生成部13−2に供給する。
なお、以下では、非線形フィルタ231−1と非線形フィルタ231−2を特に区別する必要がない場合それらをまとめて非線形フィルタ231という。同様に、減算部232−1と減算部232−2をまとめて減算部232といい、局所的視差調整部233−1と局所的視差調整部233−2をまとめて局所的視差調整部233という。
(局所的な視差の強調の説明)
図33は、図32の画像処理装置230による局所的な視差の強調を説明する図である。
図33は、図32の画像処理装置230による局所的な視差の強調を説明する図である。
図33に示すように、視差検出部11により生成された視差画像DL1は、非線形フィルタ231により補正され、局所的に平滑化された補正後の視差画像DL2となる。減算部232は、視差画像DL1から視差画像DL2を減算し、差分DLTを得る。この差分DLTは、局所的な視差値の変化を表している。
また、局所的視差調整部233は、差分DLTを所定のゲイン(Gain)で増幅し、増幅後の差分DLT×GAINを視差画像DL2に加算して、視差画像DL3を得る。これにより、図33に示すように、視差画像DL3は、視差画像DL1に比べて局所的な視差値が強調された高精度の視差画像となる。
画像処理装置230では、このようにして局所的な視差値が強調された左目用の視差画像と右目用の視差画像を用いて所定の視点の左目用のカラー画像と右目用のカラー画像が生成されるので、書き割り感が低減した3D画像を得ることができる。
また、局所的視差調整部233により補正される対象は、局所的な視差値の変化量であるため、補正の前後で画面全体の視差値の最大値および最小値は変化せず、補正により立体視としての視認性は損なわれない。
なお、第10実施の形態では、2視点のカラー画像から視差画像が生成されたが、第9実施の形態のように1視点のカラー画像から視差画像が生成されるようにしてもよい。また、第10実施の形態では、カラー画像の相関値に基づいてフィルタ係数が設定されたが、視差画像の相関値に基づいてフィルタ係数が設定されるようにしてもよい。
さらに、第10実施の形態において、非線形フィルタ231の代わりに第1乃至第8実施の形態の非対称非線形フィルタを用いることにより、視差画像とカラー画像の位相差を補正するようにしてもよい。また、非線形フィルタ231により補正された視差画像の位相差を、レベル制限や周波数帯域制限等により補正し、減算部232に供給するようにしてもよい。
また、上述した説明では、補正後の視差画像が、他視点のカラー画像を生成する処理に用いられたが、その他の画像処理に用いられるようにしてもよい。
さらに、上述した説明では、補正前と補正後の視差画像の解像度は同一であったが、補正後の視差画像の解像度を補正前の視差画像の解像度に比べて高くするようにしてもよい。この場合、例えば、視差画像の各画素の視差値は、その画素に最も近い補正前の視差画像の画素を処理対象の画素として補正されるが、フィルタ係数は、補正後の視差画像の画素と処理対象の画素の距離にも基づいて設定される。
また、相関値の決定方法は、上述した方法に限定されない。例えば、カラー画像から所定の領域(例えば、顔領域、空領域)などを検出し、同一の領域内の画素の相関値が高くなるように相関値が決定されてもよい。また、カラー画像の構成に基づいて相関値が決定されるようにしてもよい。
さらに、上述した説明では、周辺画素のうちの処理対象の画素の上下の画素の数は1画素ずつであるが、左右の画素の数と同一の2画素ずつにしてもよい。また、閾値の設定には、処理対象の画素の上下の画素の画素値だけでなく、処理対象の画素の斜め方向の画素の画素値も用いられるようにしてもよい。また、フィルタのタップ数が5に限定されない。
<第11実施の形態>
(本開示を適用したコンピュータの説明)
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
(本開示を適用したコンピュータの説明)
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
図34は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
コンピュータにおいて、CPU(Central Processing Unit)601,ROM(Read Only Memory)602,RAM(Random Access Memory)603は、バス604により相互に接続されている。
バス604には、さらに、入出力インタフェース605が接続されている。入出力インタフェース605には、入力部606、出力部607、記憶部608、通信部609、及びドライブ610が接続されている。
入力部606は、キーボード、マウス、マイクロフォンなどよりなる。出力部607は、ディスプレイ、スピーカなどよりなる。記憶部608は、ハードディスクや不揮発性のメモリなどよりなる。通信部609は、ネットワークインタフェースなどよりなる。ドライブ610は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア611を駆動する。
以上のように構成されるコンピュータでは、CPU601が、例えば、記憶部608に記憶されているプログラムを、入出力インタフェース605及びバス604を介して、RAM603にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU601)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア611に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
コンピュータでは、プログラムは、リムーバブルメディア611をドライブ610に装着することにより、入出力インタフェース605を介して、記憶部608にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部609で受信し、記憶部608にインストールすることができる。その他、プログラムは、ROM602や記憶部608に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
なお、本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、本開示は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
また、第3乃至第10実施の形態では、カラー画像の画面内の相関値として画素値の差分の絶対値が用いられたが、第2実施の形態のように、テクスチャ成分の類似度が用いられるようにしてもよい。また、第3実施の形態および第4実施の形態を組み合わせ、第3実施の形態において信頼度が決定され、フィルタ係数が補正されるようにしてもよい。
また、第5乃至第10実施の形態において、第3実施の形態と同様に信頼度に基づいてフィルタ係数が補正されたり、第4実施の形態と同様に除外画素に基づいて置換されたりするようにしてもよい。また、第6実施の形態において、前フレームの視差画像として前フレームの補正後の視差画像が用いられるようにしてもよい。
さらに、参照画素は、上述した処理対象の画素およびその画素の水平方向または垂直方向に並ぶ画素以外の画素であってもよい。例えば、参照画素は、処理対象の画素を中心とした円状の範囲に含まれる画素や、処理対象の画素およびその画素を中心とした対角線上の画素であってもよい。また、参照画素は、連続して並ばず、例えば、所定数の画素おきの画素であってもよい。
また、第3実施の形態において、信頼度が低い参照画素に対するフィルタ係数の置換後の値は0以外の比較的小さい値であってもよい。
また、本開示は、以下のような構成もとることができる。
(1)
カラー画像の相関値に基づいてフィルタ係数を設定する係数設定部と、
前記係数設定部により設定された前記フィルタ係数を用いて前記カラー画像に対応する視差画像をフィルタ処理し、前記視差画像を補正する処理部と
を備える画像処理装置。
(2)
前記係数設定部は、前記カラー画像の画面内の相関値に基づいてフィルタ係数を設定する
前記(1)に記載の画像処理装置。
(3)
前記係数設定部は、前記カラー画像の画素間の画素値の相関値に基づいてフィルタ係数を設定する
前記(2)に記載の画像処理装置。
(4)
前記係数設定部は、前記カラー画像の画素間のテクスチャの相関値に基づいてフィルタ係数を設定する
前記(2)に記載の画像処理装置。
(5)
前記カラー画像と前記視差画像に基づいて前記カラー画像の各画素の信頼度を決定する信頼度決定部
をさらに備え、
前記係数設定部は、前記相関値と前記信頼度に基づいて前記フィルタ係数を設定する
前記(1)乃至(4)のいずれかに記載の画像処理装置。
(6)
前記カラー画像に基づいて前記フィルタ処理を行わない画素である除外画素を決定する除外画素決定部
をさらに備え、
前記処理部は、補正後の前記視差画像のうちの除外画素の視差値を所定値に置換する
前記(1)乃至(5)のいずれかに記載の画像処理装置。
(7)
前記係数設定部は、前記カラー画像の画面間の相関値に基づいてフィルタ係数を設定する
前記(1)乃至(6)のいずれかに記載の画像処理装置。
(8)
前記係数設定部は、前記カラー画像の画面内の相関値に基づいて、前記カラー画像に対応する視差画像についてのフィルタ係数を設定するとともに、前記カラー画像と、そのカラー画像より時間的に前のカラー画像である前カラー画像の相関値である前記カラー画像の画面間の相関値に基づいて、前記前カラー画像に対応する視差画像である前視差画像についてのフィルタ係数を設定し、
前記処理部は、前記視差画像についてのフィルタ係数を用いて前記視差画像をフィルタ処理するとともに、前記前視差画像についてのフィルタ係数を用いて前記前視差画像をフィルタ処理し、フィルタ処理後の前記視差画像と前記前視差画像を用いて補正後の前記視差画像を生成する
前記(7)に記載の画像処理装置。
(9)
前記カラー画像と前記前カラー画像に基づいて前記カラー画像の動きベクトルを検出する動き検出部
をさらに備え、
前記係数設定部は、前記動きベクトルに基づいて前記視差画像のフィルタ係数と前記前視差画像のフィルタ係数を補正し、
前記処理部は、前記係数設定部による補正後の前記フィルタ係数を用いてフィルタ処理する
前記(8)に記載の画像処理装置。
(10)
前記処理部は、前記フィルタ処理により補正された前記前視差画像をフィルタ処理する
前記(8)または(9)に記載の画像処理装置。
(11)
前記画面間の相関値に基づいて前記視差画像と前記前視差画像に対する重み係数を設定する重み設定部
をさらに備え、
前記処理部は、前記重み設定部により設定された前記重み係数を用いてフィルタ処理後の前記視差画像と前記前視差画像を加重平均化することにより、補正後の前記視差画像を生成する
前記(8)乃至(10)のいずれかに記載の画像処理装置。
(12)
前記処理部により補正された前記視差画像と前記カラー画像を用いて、前記カラー画像に対応する視点以外の視点のカラー画像を生成する他視点画像生成部
をさらに備える
前記(1)乃至(11)のいずれかに記載の画像処理装置。
(13)
前記処理部により補正された前記視差画像と補正前の前記視差画像の差分を増幅し、増幅後の差分を前記処理部により補正された前記視差画像に加算する視差調整部
をさらに備える
前記(1)乃至(12)のいずれかに記載の画像処理装置。
(14)
画像処理装置が、
カラー画像の相関値に基づいてフィルタ係数を設定する係数設定ステップと、
前記係数設定ステップの処理により設定された前記フィルタ係数を用いて前記カラー画像に対応する視差画像をフィルタ処理し、前記視差画像を補正する処理ステップと
を含む画像処理方法。
カラー画像の相関値に基づいてフィルタ係数を設定する係数設定部と、
前記係数設定部により設定された前記フィルタ係数を用いて前記カラー画像に対応する視差画像をフィルタ処理し、前記視差画像を補正する処理部と
を備える画像処理装置。
(2)
前記係数設定部は、前記カラー画像の画面内の相関値に基づいてフィルタ係数を設定する
前記(1)に記載の画像処理装置。
(3)
前記係数設定部は、前記カラー画像の画素間の画素値の相関値に基づいてフィルタ係数を設定する
前記(2)に記載の画像処理装置。
(4)
前記係数設定部は、前記カラー画像の画素間のテクスチャの相関値に基づいてフィルタ係数を設定する
前記(2)に記載の画像処理装置。
(5)
前記カラー画像と前記視差画像に基づいて前記カラー画像の各画素の信頼度を決定する信頼度決定部
をさらに備え、
前記係数設定部は、前記相関値と前記信頼度に基づいて前記フィルタ係数を設定する
前記(1)乃至(4)のいずれかに記載の画像処理装置。
(6)
前記カラー画像に基づいて前記フィルタ処理を行わない画素である除外画素を決定する除外画素決定部
をさらに備え、
前記処理部は、補正後の前記視差画像のうちの除外画素の視差値を所定値に置換する
前記(1)乃至(5)のいずれかに記載の画像処理装置。
(7)
前記係数設定部は、前記カラー画像の画面間の相関値に基づいてフィルタ係数を設定する
前記(1)乃至(6)のいずれかに記載の画像処理装置。
(8)
前記係数設定部は、前記カラー画像の画面内の相関値に基づいて、前記カラー画像に対応する視差画像についてのフィルタ係数を設定するとともに、前記カラー画像と、そのカラー画像より時間的に前のカラー画像である前カラー画像の相関値である前記カラー画像の画面間の相関値に基づいて、前記前カラー画像に対応する視差画像である前視差画像についてのフィルタ係数を設定し、
前記処理部は、前記視差画像についてのフィルタ係数を用いて前記視差画像をフィルタ処理するとともに、前記前視差画像についてのフィルタ係数を用いて前記前視差画像をフィルタ処理し、フィルタ処理後の前記視差画像と前記前視差画像を用いて補正後の前記視差画像を生成する
前記(7)に記載の画像処理装置。
(9)
前記カラー画像と前記前カラー画像に基づいて前記カラー画像の動きベクトルを検出する動き検出部
をさらに備え、
前記係数設定部は、前記動きベクトルに基づいて前記視差画像のフィルタ係数と前記前視差画像のフィルタ係数を補正し、
前記処理部は、前記係数設定部による補正後の前記フィルタ係数を用いてフィルタ処理する
前記(8)に記載の画像処理装置。
(10)
前記処理部は、前記フィルタ処理により補正された前記前視差画像をフィルタ処理する
前記(8)または(9)に記載の画像処理装置。
(11)
前記画面間の相関値に基づいて前記視差画像と前記前視差画像に対する重み係数を設定する重み設定部
をさらに備え、
前記処理部は、前記重み設定部により設定された前記重み係数を用いてフィルタ処理後の前記視差画像と前記前視差画像を加重平均化することにより、補正後の前記視差画像を生成する
前記(8)乃至(10)のいずれかに記載の画像処理装置。
(12)
前記処理部により補正された前記視差画像と前記カラー画像を用いて、前記カラー画像に対応する視点以外の視点のカラー画像を生成する他視点画像生成部
をさらに備える
前記(1)乃至(11)のいずれかに記載の画像処理装置。
(13)
前記処理部により補正された前記視差画像と補正前の前記視差画像の差分を増幅し、増幅後の差分を前記処理部により補正された前記視差画像に加算する視差調整部
をさらに備える
前記(1)乃至(12)のいずれかに記載の画像処理装置。
(14)
画像処理装置が、
カラー画像の相関値に基づいてフィルタ係数を設定する係数設定ステップと、
前記係数設定ステップの処理により設定された前記フィルタ係数を用いて前記カラー画像に対応する視差画像をフィルタ処理し、前記視差画像を補正する処理ステップと
を含む画像処理方法。
10 画像処理装置, 13−1,13−2 他視点画像生成部, 33 係数設定部, 34 処理部, 53 係数設定部, 71 信頼度決定部, 72 係数設定部, 91 除外画素決定部, 92 置換部,114 係数設定部, 116 処理部, 131 動き検出部, 132 係数設定部, 151 処理部, 171 現処理部, 172 前処理部, 173 重み設定部, 174 加重平均部, 233−1,233−2 局所的視差調整部
Claims (14)
- カラー画像の相関値に基づいてフィルタ係数を設定する係数設定部と、
前記係数設定部により設定された前記フィルタ係数を用いて前記カラー画像に対応する視差画像をフィルタ処理し、前記視差画像を補正する処理部と
を備える画像処理装置。 - 前記係数設定部は、前記カラー画像の画面内の相関値に基づいてフィルタ係数を設定する
請求項1に記載の画像処理装置。 - 前記係数設定部は、前記カラー画像の画素間の画素値の相関値に基づいてフィルタ係数を設定する
請求項2に記載の画像処理装置。 - 前記係数設定部は、前記カラー画像の画素間のテクスチャの相関値に基づいてフィルタ係数を設定する
請求項2に記載の画像処理装置。 - 前記カラー画像と前記視差画像に基づいて前記カラー画像の各画素の信頼度を決定する信頼度決定部
をさらに備え、
前記係数設定部は、前記相関値と前記信頼度に基づいて前記フィルタ係数を設定する
請求項1に記載の画像処理装置。 - 前記カラー画像に基づいて前記フィルタ処理を行わない画素である除外画素を決定する除外画素決定部
をさらに備え、
前記処理部は、補正後の前記視差画像のうちの除外画素の視差値を所定値に置換する
請求項1に記載の画像処理装置。 - 前記係数設定部は、前記カラー画像の画面間の相関値に基づいてフィルタ係数を設定する
請求項1に記載の画像処理装置。 - 前記係数設定部は、前記カラー画像の画面内の相関値に基づいて、前記カラー画像に対応する視差画像についてのフィルタ係数を設定するとともに、前記カラー画像と、そのカラー画像より時間的に前のカラー画像である前カラー画像の相関値である前記カラー画像の画面間の相関値に基づいて、前記前カラー画像に対応する視差画像である前視差画像についてのフィルタ係数を設定し、
前記処理部は、前記視差画像についてのフィルタ係数を用いて前記視差画像をフィルタ処理するとともに、前記前視差画像についてのフィルタ係数を用いて前記前視差画像をフィルタ処理し、フィルタ処理後の前記視差画像と前記前視差画像を用いて補正後の前記視差画像を生成する
請求項7に記載の画像処理装置。 - 前記カラー画像と前記前カラー画像に基づいて前記カラー画像の動きベクトルを検出する動き検出部
をさらに備え、
前記係数設定部は、前記動きベクトルに基づいて前記視差画像のフィルタ係数と前記前視差画像のフィルタ係数を補正し、
前記処理部は、前記係数設定部による補正後の前記フィルタ係数を用いてフィルタ処理する
請求項8に記載の画像処理装置。 - 前記処理部は、前記フィルタ処理により補正された前記前視差画像をフィルタ処理する
請求項8に記載の画像処理装置。 - 前記画面間の相関値に基づいて前記視差画像と前記前視差画像に対する重み係数を設定する重み設定部
をさらに備え、
前記処理部は、前記重み設定部により設定された前記重み係数を用いてフィルタ処理後の前記視差画像と前記前視差画像を加重平均化することにより、補正後の前記視差画像を生成する
請求項8に記載の画像処理装置。 - 前記処理部により補正された前記視差画像と前記カラー画像を用いて、前記カラー画像に対応する視点以外の視点のカラー画像を生成する他視点画像生成部
をさらに備える
請求項1に記載の画像処理装置。 - 前記処理部により補正された前記視差画像と補正前の前記視差画像の差分を増幅し、増幅後の差分を前記処理部により補正された前記視差画像に加算する視差調整部
をさらに備える
請求項1に記載の画像処理装置。 - 画像処理装置が、
カラー画像の相関値に基づいてフィルタ係数を設定する係数設定ステップと、
前記係数設定ステップの処理により設定された前記フィルタ係数を用いて前記カラー画像に対応する視差画像をフィルタ処理し、前記視差画像を補正する処理ステップと
を含む画像処理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013099599A JP2014220704A (ja) | 2013-05-09 | 2013-05-09 | 画像処理装置および画像処理方法 |
US14/243,934 US9761058B2 (en) | 2013-05-09 | 2014-04-03 | Image processing apparatus and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013099599A JP2014220704A (ja) | 2013-05-09 | 2013-05-09 | 画像処理装置および画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014220704A true JP2014220704A (ja) | 2014-11-20 |
Family
ID=51864824
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013099599A Pending JP2014220704A (ja) | 2013-05-09 | 2013-05-09 | 画像処理装置および画像処理方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US9761058B2 (ja) |
JP (1) | JP2014220704A (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9756312B2 (en) * | 2014-05-01 | 2017-09-05 | Ecole polytechnique fédérale de Lausanne (EPFL) | Hardware-oriented dynamically adaptive disparity estimation algorithm and its real-time hardware |
US9836831B1 (en) * | 2014-07-30 | 2017-12-05 | Google Inc. | Simulating long-exposure images |
KR20200097865A (ko) | 2019-02-08 | 2020-08-20 | 삼성전자주식회사 | 깊이 측정을 위한 이미지 처리 시스템 및 이의 동작 방법 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3571819B2 (ja) * | 1995-01-09 | 2004-09-29 | 富士写真フイルム株式会社 | 生化学画像解析装置 |
US6215898B1 (en) * | 1997-04-15 | 2001-04-10 | Interval Research Corporation | Data processing system and method |
JP2010211036A (ja) | 2009-03-11 | 2010-09-24 | Sony Corp | 立体表示装置 |
WO2011033673A1 (ja) * | 2009-09-18 | 2011-03-24 | 株式会社 東芝 | 画像処理装置 |
JP4875762B2 (ja) * | 2010-05-26 | 2012-02-15 | シャープ株式会社 | 画像処理装置、画像表示装置および画像撮像装置 |
US9087375B2 (en) * | 2011-03-28 | 2015-07-21 | Sony Corporation | Image processing device, image processing method, and program |
-
2013
- 2013-05-09 JP JP2013099599A patent/JP2014220704A/ja active Pending
-
2014
- 2014-04-03 US US14/243,934 patent/US9761058B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US9761058B2 (en) | 2017-09-12 |
US20140334715A1 (en) | 2014-11-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Peng et al. | Single underwater image enhancement using depth estimation based on blurriness | |
JP5980294B2 (ja) | データ処理装置、撮像装置、およびデータ処理方法 | |
US8478002B2 (en) | Method for analyzing object motion in multi frames | |
CN107316326B (zh) | 应用于双目立体视觉的基于边的视差图计算方法和装置 | |
KR101742120B1 (ko) | 영상 처리 장치 및 방법 | |
CN107481271B (zh) | 一种立体匹配方法、系统及移动终端 | |
US8810692B2 (en) | Rolling shutter distortion correction | |
KR20120072245A (ko) | 스테레오 영상 정합 장치 및 방법 | |
KR102049080B1 (ko) | 영상 처리 장치 및 방법 | |
WO2021114868A1 (zh) | 降噪方法、终端及存储介质 | |
US20150248745A1 (en) | Processing stereo images | |
CN106952247B (zh) | 一种双摄像头终端及其图像处理方法和系统 | |
KR102516495B1 (ko) | 스테레오-시간적 이미지 시퀀스들로부터 향상된 3-d 데이터 재구성을 위한 방법들 및 장치 | |
TW201601117A (zh) | 去雜訊方法以及影像系統 | |
Jung | Enhancement of low light level images using color-plus-mono dual camera | |
CN109788216A (zh) | 用于tof的抗干扰方法、装置及tof传感器芯片 | |
TWI608447B (zh) | 立體影像深度圖產生裝置及方法 | |
US9769453B2 (en) | Flicker reduction in 3D imaging | |
JP2014220704A (ja) | 画像処理装置および画像処理方法 | |
KR102122905B1 (ko) | 히스토그램 구간 교정을 이용한 스테레오 영상의 휘도 보정 방법 및 이에 이용되는 기록매체 | |
Hermann et al. | Inclusion of a second-order prior into semi-global matching | |
JP6221333B2 (ja) | 画像処理装置、画像処理回路及び画像処理方法 | |
RU2580466C1 (ru) | Устройство восстановления карты глубины сцены | |
JP2015207090A (ja) | 画像処理装置、及びその制御方法 | |
TWI514325B (zh) | 三維影像對的深度修正系統及其方法 |