<実施形態1について:>
<◎画像処理システム100Aについて:>
図1は、実施形態1に係る画像処理システム100Aの主な構成の1例を示すブロック図である。図1に示されるように、画像処理システム100Aは、ステレオカメラ300と画像処理装置200Aとを主に備えて構成されている。画像処理システム100Aでは、ステレオカメラ300が撮影した基準画像21(図1、図2)および参照画像22(図1、図2)を画像処理装置200Aが取得し、画像処理装置200Aが基準画像21および参照画像22を処理することによって、基準画像21が撮影された第1の視点とは別の仮想視点からの被写体の撮影に対応した疑似画像24a(図2)、すなわち第1の視点とは別の仮想視点から撮影した被写体の画像に相当する疑似画像24aを生成する。
◎ステレオカメラ300について:
図1に示されるように、ステレオカメラ300は、基準カメラ61と参照カメラ62とを主に備えて構成されている。また、基準カメラ61および参照カメラ62は、それぞれ、不図示の撮影光学系および制御処理回路を主に備えて構成されている。また、基準カメラ61と参照カメラ62とは、垂直方向に所定の基線長を隔てて設けられており、撮影光学系に入射した被写体からの光線情報を制御処理回路等で同期して処理することによって、被写体のステレオ画像を構成する、例えば、3456×2592画素サイズなどの所定サイズのデジタル画像である基準画像21(図1、図3)および参照画像22(図1、図4)を生成する。また、ステレオカメラ300の各種動作は、画像処理装置200Aから入出力部41およびデータ線DLを介して供給される制御信号に基づいて制御される。
なお、基準画像21と参照画像22とのそれぞれの撮影時におけるステレオカメラ300に対する被写体の位置関係が同じであれば、基準画像21と参照画像22とは、同時刻に撮影されていなくても良い。また、ステレオカメラ300は、基準カメラ61と参照カメラ62との同期をとりつつ被写体を時間順次に連続的に撮影することによって、複数の基準画像21および複数の参照画像22を生成可能な構成であっても良い。また、基準画像21および参照画像22は、カラー画像であってもモノクロ画像であってもよい。
生成された基準画像21および参照画像22は、データ線DLを介して画像処理装置200Aの入出力部41へと供給される。画像処理装置200Aは、基準画像21および参照画像22に基づいて被写体についての距離情報である第1の各距離情報27(図2)を生成し、さらに基準画像21と、第1の各距離情報27とに基づいて疑似画像24a(図2)を生成する。
◎画像処理装置200Aの構成について:
図1に示されるように、画像処理装置200Aは、CPU11A、入出力部41、操作部42、表示部43、ROM44、RAM45および記憶装置46を主に備えて構成されており、例えば、汎用のコンピュータでプログラムを実行することなどによって実現される。
入出力部41は、例えばUSBインタフェースなどの入出力インタフェース、マルチメディアドライブ、およびネットワークアダプタなどのLANやインターネットに接続するためのインタフェースなどを備えて構成され、CPU11Aとの間でデータの授受を行うものである。具体的には、入出力部41は、例えば、CPU11Aがステレオカメラ300を制御するための各種の制御信号を、データ線DLなどを介して入出力部41に接続されたステレオカメラ300へと供給する。また、入出力部41は、ステレオカメラ300が撮影した基準画像21および参照画像22を画像処理装置200Aへとそれぞれ供給する。なお、入出力部41は、予め第1原画像1および第2原画像2が記憶された光ディスクなどの記憶媒体を受け付けることなどによっても、第1原画像1および第2原画像2を画像処理装置200Aへとそれぞれ供給することができる。
操作部42は、例えば、キーボードあるいはマウスなどによって構成されており、操作者が操作部42を操作することによって、画像処理装置200Aへの各種制御パラメータの設定、画像処理装置200Aの各種動作モードの設定などが行われる。また、画像処理装置200Aの機能部は、操作部42から設定される各動作モードに応じた処理を行うことができるように構成されている。
表示部43は、例えば、液晶ディスプレイなどによって構成されており、ステレオカメラ300から供給される基準画像21、参照画像22、および画像処理装置200Aが生成する疑似画像24a(図2)などの各種画像情報の表示、ならびに画像処理システム100Aに関する各種情報および制御用GUI(Graphical User Interface)などの表示を行う。
ROM(Read Only Memory)44は、読出し専用メモリであり、CPU11Aを動作させるプログラムなどを格納している。なお、読み書き自在の不揮発性メモリ(例えば、フラッシュメモリ)が、ROM44に代えて使用されてもよい。
RAM(Random Access Memory)45は、読み書き自在の揮発性メモリであり、画像処理装置200Aが取得した各種画像、ならびに画像処理装置200Aが生成する疑似画像、距離情報(距離画像)、および平滑化強度画像などを一時的に記憶する画像格納部、CPU11Aの処理情報を一時的に記憶するワークメモリなどとして機能する。
記憶装置46は、例えば、フラッシュメモリなどの読み書き自在な不揮発性メモリやハードディスク装置等によって構成されており、画像処理装置200Aの各種制御パラメータや各種動作モードなどの情報を恒久的に記録する。また、記憶装置46には平滑化情報格納部48が設けられており、平滑化情報格納部48には、被写体の画像情報などの平滑化を行うための種々の平滑化情報が格納されている。平滑化情報は、例えば、平滑化フィルタを規定する情報、すなわち平滑化フィルタの種類、平滑化の強度などを規定する情報、または平滑化処理に対応したプログラムなどの平滑化処理に関する種々の情報、すなわち平滑化規則である。平滑化情報は、第1生成部14A(図2)によって参照されて、第2の各距離情報28(図2)の取得処理に供される。
CPU(Central Processing Unit)11Aは、画像処理装置200Aの各機能部を統轄制御する制御処理装置であり、ROM44に格納されたプログラムに従った制御および処理を実行する。CPU11Aは、後述するように、第1取得部12、第2取得部13、第1生成部14A、第2生成部15A、および特定部17Aとしても機能する。
CPU11Aは、これらの機能部などによって、第1の視点から撮影された被写体についての基準画像21(図2、図3)から、第1の視点とは異なる仮想視点からの撮影に対応した被写体についての疑似画像24a(図2、図18)を生成する。また、CPU11Aは、ステレオカメラ300の撮像動作の制御を行うとともに、表示部43を制御して、各種画像、算出結果、および各種制御情報などを表示部43に表示させる。
また、CPU11A、入出力部41、操作部42、表示部43、ROM44、RAM45、記憶装置46等のそれぞれは、信号線49を介して電気的に接続されている。したがって、CPU11Aは、例えば、入出力部41を介したステレオカメラ300の制御およびステレオカメラ300からの画像情報の取得、および表示部43への表示等を所定のタイミングで実行できる。
なお、図1に示される構成例では、第1取得部12、第2取得部13、第1生成部14A、第2生成部15A、および特定部17Aの各機能部は、CPU11Aで所定のプログラムを実行することによって実現されているが、これらの各機能部はそれぞれ、例えば、専用のハードウェア回路などによって実現されてもよい。
<◎画像処理装置200Aの各機能部の動作について:>
図2は、実施形態1に係る画像処理装置200Aの主な機能構成の1例を示すブロック図である。図3および図4は、実施形態1に係るステレオカメラ300の基準カメラ61および参照カメラ62が、それぞれ被写体を撮影した基準画像21および参照画像22の1例をそれぞれ示す図である。また、図23〜図26は、実施形態1に係る画像処理装置200Aの動作フローをそれぞれ例示する図である。以下では、画像処理装置200Aが、基準画像21と参照画像22とに基づいて、基準画像21が撮影された第1の視点とは別の仮想視点からの被写体の撮影に対応した疑似画像24a(図18)を生成する場合を例に、画像処理装置200Aの各機能部の動作について図23〜図26の動作フローを適宜参照しつつ説明する。
仮想視点からの撮影に対応した疑似画像の生成の対象となる被写体の撮影に先立って、基準カメラ61と参照カメラ62との両方から該被写体が撮影できるように、ステレオカメラ300の位置および姿勢が調整される。この状態におけるステレオカメラ300の基準カメラ61の位置が第1の視点となる。より具体的には、例えば、基準カメラ61の撮影光学系の主点位置が第1の視点となる。ステレオカメラ300の位置および姿勢が調整された状態で、操作者からの操作などに応答して、ステレオカメラ300に撮影動作を行わせる制御信号がCPU11Aからステレオカメラ300へと供給されると、ステレオカメラ300の撮影動作が行われる。該撮影動作が終了すると、基準カメラ61および参照カメラ62によってそれぞれ撮影された被写体についての基準画像21および参照画像22がそれぞれ生成されて画像処理装置200Aの入出力部41に供給される。
○第1取得部12の動作:
被写体が第1の視点から撮影された基準画像21と参照画像22とが入出力部41に供給されると、第1取得部12(図2)は、入出力部41を介して基準画像21を取得するとともに(図23の動作フローS100AにおけるステップS110)、参照画像22を取得する。
図3および図4は、基準画像21および参照画像22の1例をそれぞれ示す図である。基準カメラ61と参照カメラ62との基線長の方向が垂直方向(図3、図4のY軸方向)に沿っているため、基準画像21と参照画像22とには、後述する視差がY軸方向に沿って生じている。また、基準画像21の領域5aには立て看板が撮影されている。該立て看板は、直線などの基本図形要素を多く有して構成された人工物の1例である。また、該立て看板が撮影されている領域の内部には、該立て看板よりもステレオカメラ300に対して近くに存在する木々が撮像されているとともに、該立て看板が撮影された領域の周りの領域には、該立て看板よりもステレオカメラ300に対して遠くに存在する木々が撮像されている。このため、領域5aの各画素におけるステレオカメラ300からの各距離の分布状態は、分布の幅が広く、また、離散的な分布となっている。なお、図3および図4においては、説明を容易にするため座標軸が設けられている。また、本願の他の図面においても座標軸を適宜設けて説明に使用することがある。
図2に示されるように、取得された基準画像21は、第2取得部13、第2生成部15A、および特定部17Aへと供給される。また、参照画像22は、第2取得部13へと供給される。なお、第1取得部12は、予め撮影されて記録メデイアに保存された基準画像21および参照画像22を、入出力部41を介して取得してもよい。
○第2取得部13の動作:
図7は、第2取得部13(図2)が取得する原距離画像31(第1の各距離情報27)の1例を示す図である。基準画像21および参照画像22が第2取得部13に供給されると、第2取得部13は、基準画像21と参照画像2とを対象として、相関演算法などを用いたマッチング処理を行うことによって、基準画像21の各注目画素に対応する参照画像22の各対応画素を特定する。そして、第2取得部13は、相互に対応する注目画素と対応画素とについて、基準画像21の画像座標系における該注目画素の画素座標と、参照画像22の画像座標系における該対応画素の画素座標との差(本願において、「視差」とも称する)を求める処理を、基準画像21の各注目画素に対して行う。
なお、後述するように、視差は、被写体上の点のステレオカメラ300からの距離に関する指標値となっており、本願においては、視差と、距離との総称として「距離情報」という用語を使用する。すなわち、第2取得部13は、基準画像21の各画素にそれぞれ対応した被写体上の点についての第1の各距離情報27(図7)を取得する(図23のステップS120)。また、第1の各距離情報27においては、第1の各距離情報27を構成する各視差が、対応する基準画像21の各画素の画素座標と関連づけられている。このため、第1の各距離情報27は、例えば、基準画像21の画素配列に応じて配列された原距離画像31などとして取得され得る。第2取得部13によって取得された第1の各距離情報27(原距離画像31)は、特定部17Aと、第1生成部14Aとにそれぞれ供給される。
なお、基準画像21の注目画素に対応する参照画像22の対応画素を特定するマッチング処理に用いられる相関演算手法としては、例えば、NCC(Normalized Cross Correlation)法、SAD(Sum of Absolute Difference)法、またはPOC(Phase Only Correlation)法などが採用される。また、画像の画像座標系としては、例えば、画像の左上端部(例えば、図3の基準画像21では、画像の−X方向の端であり、かつ、画像の−Y方向の端でもある画像の角部)を原点とし、画像の横方向(X軸方向)および縦方向(Y軸方向)をそれぞれ座標軸とする直交座標系が採用される。
○視差の例について:
図5は、基準画像21aと参照画像22aとにおける視差の1例を説明するための図である。なお、基準画像21aは、基準カメラ61によって撮影された被写体の基準画像21(図2)の1例であり、参照画像22aは、基準カメラ61に対して垂直方向(図5の+Y方向)に所定の基線長を隔てて設けられた参照カメラ62によって撮影された該被写体の参照画像22(図2)の1例である。図5おいては、基準画像21aと参照画像22aとは、視差の把握を容易にするため該両画像の上端(下端)のY座標が等しくなるように水平方向(図5のX軸方向)に並べて表示されている。
基準画像21aと、参照画像22aとには、ステレオカメラ300に対して+Z方向に位置する同一の近側被写体についての近景被写体像66aおよび66bがそれぞれ撮影されているとともに、ステレオカメラ300に対して+Z方向に該近側被写体より遠方にある同一の遠側被写体についての遠景被写体像67aおよび67bがそれぞれ撮影されている。図5においては、説明を容易にするために、各被写体像のそれぞれにおける各特徴部のエッジ(輪郭)のみが表示されている。また、近景被写体像66a上の画素68aおよび近景被写体像66b上の画素68bは、近側被写体の同一の点にそれぞれ対応した画素であり、遠景被写体像67a上の画素69aおよび遠景被写体像67b上の画素69bは、遠側被写体の同一の点にそれぞれ対応した画素である。また、視差9aは、画素68aと画素68bとについての視差であり、視差9bは、画素69aと画素69bとについての視差である。ここで、ステレオカメラ300に対する近側被写体と遠側被写体との距離の差異に起因して視差9aと視差9bとは異なった値となっている。より詳細には、近側被写体に対応した視差9aの方が遠側被写体に対応した視差9bよりも視差の大きさが大きくなっている。このように視差の大きさは、画像上の画素に対応した被写体上の点のステレオカメラ300からの距離に応じて変動する。
ここで、基準カメラ61と参照カメラ62とのそれぞれの主点の位置がXY平面に平行な同一の平面状にあって焦点距離が等しく、基準カメラ61と参照カメラ62とのそれぞれの光軸がZ軸にそって相互に平行で、基準カメラ61と参照カメラ62とのそれぞれの撮像素子は光軸に垂直な同一平面上にあり、それぞれの撮像素子間で走査線が相互に平行である。実際の構成においては、通常、上述した基準カメラ61と参照カメラ62との構成条件に対して誤差があるが、基準画像21aおよび参照画像22aに対して画像処理装置200Aがパラメータ格納部47に格納された主点位置、焦点距離情報などのカメラパラメータなどを用いた処理(「平行化処理」とも称する)を行うことによってステレオカメラ300の各機能要素が上述した構成条件を満たす場合と同等の状態を実現することができる。
基準画像21aおよび参照画像22aに対して平行化処理が行われた場合には、基準カメラ61の主点と、基準画像21a上の1の画素に対応した被写体上の物点とのZ軸方向の距離Dは、該1の画素と、該1の画素に対応する参照画像22a上の他の画素との視差d、基準カメラ61と参照カメラ62との焦点距離fr(より正確には、主点と撮像素子との距離)、および基準カメラ61と参照カメラ62との基線長bを用いて(1)式によって与えられる。
(1)式に示されるように、視差は、被写体上の点のステレオカメラ300からの距離に関する指標値となっている。
○距離情報に基づいて疑似画像を生成する基本手法について:
次に、基準画像の各画素に対応した各視差、または各距離などの各距離情報に基づいて疑似画像を生成する手法について説明する。図6は、図5に示された基準画像21aと参照画像22aとについての各視差と、基準画像21aとに基づいて、基準画像21aが撮影された第1の視点とは別の仮想視点からの被写体の撮影に対応した疑似画像24cを生成する基本手法の1例を説明するための図である。
図6における疑似画像24cに対応した仮想視点は、基準画像21aが撮影された第1の視点に対して、X軸に沿って+X方向に、基準カメラ61と参照カメラ62との基線長を隔てた位置に存在している。また、疑似画像24cにおける近景被写体像66cおよび遠景被写体像67cは、基準画像21における近景被写体像66aおよび遠景被写体像67aにそれぞれ対応している。また、近景被写体像66a上の画素68aには、近景被写体像66c上の画素68cが対応し、遠景被写体像67a上の画素69aには、遠景被写体像67c上の画素69cが対応している。なお、図6においても、図5と同様に、説明を容易にするために、各被写体像のそれぞれにおける各特徴部のエッジ(輪郭)のみが表示されているとともに、視差の把握を容易にするため基準画像21aと疑似画像24aの左端(右端)のX座標が等しくなるように垂直方向(図6のY軸方向)に並べて表示されている。
この場合、基準画像21aの画素68aと、疑似画像24cの画素68cとの視差として、図5における画素68aと画素68bとの視差9aが設定されるとともに、基準画像21aの画素69aと、疑似画像24cの画素69cとの視差として、図5における画素69aと画素69bとの視差9bが設定される。また、疑似画像24cの他の画素についても同様に基準画像21aの画素との視差が設定されることによって、疑似画像24cの各画素についての基準画像21aの各画素との視差が取得される。そして、取得された視差に基づいて基準画像21aを変形させることによって疑似画像24cが取得される。
次に、基準画像と視差とに基づいて疑似画像を生成する上述した基本手法について詳しく説明する。図34は、基準画像21aと、基準画像21aの各画素についての距離情報とに基づいて疑似画像24cを生成する上述した基本手法の動作フローS10を例示する図である。
図34の動作フローS10の処理が開始されると、基準画像21a(図6)の上端(−Y方向端)における水平走査方向(X軸方向)の1ライン分の部分画像23a(図21)が選択される(ステップS20)。
図21は、基準画像21a(図6)の上端(−Y方向端)の水平走査方向(X軸方向)の1ライン分の部分画像23a(図21)の一部の各画素7a〜7jと、基準画像21aに対応した疑似画像24c(図6)の上端(−Y方向端)の水平走査方向の1ライン分の部分画像23b(図21)の一部の各画素8a〜8jとの対応関係の1例を示す図である。また、部分画像23aと部分画像23bとは、被写体の同一部分にそれぞれ対応している。なお、該対応関係の把握を容易にするために、各画素7a〜7jと、各画素8a〜8jとは、画素値に応じた濃淡によって画素毎に区分されて表示されている。
図22は、部分画像23a(図21)の各画素7a〜7jの画素座標および視差(距離情報)と、部分画像23b(図21)の各画素8a〜8jの画素座標との対応の1例を示す図である。図22の第1行目と第5行目には、部分画像23aの各画素7a〜7jをそれぞれ特定する画素番号と、部分画像23bの各画素8a〜8jをそれぞれ特定する画素番号とが示されている。また、図22の第2行目には、各画素7a〜7jのX座標が第1行目に示された画素番号に対応づけられて示されている。また、図22の第3行目には基準画像21aと参照画像22a(図5)とについて算出された視差(距離情報)のうち各画素7a〜7jに対応した視差が第1行目に示された画素番号に対応づけられて示されている。
図34のステップS20において、1ライン分の部分画像23aが選択されると、選択された部分画像23aの各画素について、疑似画像24cにおいて対応する画素、すなわち部分画像23bの各画素8a〜8jの水平走査方向(X軸方向)の画素座標(X座標)が取得される(図34のステップS30)。
ここで、上述した基本手法は、疑似画像24c(図6)に対応した仮想視点が、基準画像21a(図5、図6)が撮影された第1の視点に対して、X軸に沿って+X方向に、基準カメラ61と参照カメラ62との基線長を隔てた位置に存在している場合の手法である。従って、部分画像23aと部分画像23bとのそれぞれの垂直方向(Y軸方向)の画素座標(Y座標)は同じである。また、図22の第3行目に示された視差は、部分画像23aと、部分画像23bとの視差でもある。
従って、部分画像23bの各画素のX座標は、(2)式によって算出される。図22の第4行目には、(2)式によって算出された各画素8a〜8jのX座標がそれぞれ第5行目に示された各画素番号に対応づけられて示されている。
疑似画像24cの水平方向の1ライン分の部分画像23bにおける各画素の画素座標が取得されると、次に、部分画像23bの各画素の画素値がそれぞれ取得される。すなわち、1ライン分の部分画像23bの画像が生成される(図34のステップS40)。次に、ステップS40における処理を、図21に示された部分画像23aの各画素7a〜7jと、部分画像23bの各画素8a〜8jを例として説明する。
図22の第4行目に示された各画素8a〜8jのX座標によれば、部分画像23aの各画素7a、7b、7c、7d、7e、7f、7g、7h、7i、7jは、部分画像23bの各画素8a、8b、8b、8c、8d、8d、8e、8g、8i、8jにそれぞれ対応している。すなわち、各画素8a〜8jには、各画素7a〜7jのうち1つの画素が対応している第1種の画素、2つの画素が対応している第2種の画素、および各画素7a〜7jの何れの画素も対応していない第3種の画素の3種類の画素が存在している。
図34のステップS40の処理においては、該第1種の画素の画素値として、該画素に対応する部分画像23aの画素の画素値が採用され、また、該第2種の画素の画素値として、該画素に対応する部分画像23aの2つの画素の画素値の代表値、例えば、平均値が採用される。また、該第3種の画素の画素値としては、例えば、部分画像23aとの対応関係に基づいて画素値が取得された部分画像23bの画素のうち該第3種の画素に最も空間的に近い画素の画素値が採用される。そして、部分画像23bの画像は、部分画像23bの各画素についてそれぞれ特定された画素座標(X座標)と、画素値とによって特定される。
ステップS40の処理が終了すると、基準画像21aの水平方向(X軸方向)の全てのラインについて、対応する疑似画像の部分画像を生成する処理(ステップS30〜S40)が終了したか否かが確認される(図34のステップS50)。ステップS50での確認の結果、水平方向の全てのラインについて処理が終了していなければ、基準画像21のうち、処理されたラインの+Y方向の次のラインが新たな処理対象として選択されて(図34のステップS60)、処理はステップS30へと戻される。また、ステップS50での確認の結果、水平方向の全てのラインについて疑似画像の部分画像を生成する処理が終了していれば、疑似画像24cの生成処理は終了される。
なお、視差に基づいた基準画像21の変形は、画素サイズを最小単位として行えばよい。従って、画素サイズ単位で視差が取得されれば疑似画像24aを取得できるが、例えば、視差を求めるための対応点探索を画素サイズ以下のサブピクセル単位で実施することにより視差をサブピクセル単位で取得したとしても、視差に基づいた基準画像21の変形の際に、該変形量を画素単位で行えば疑似画像24aが取得できるので、本発明の有用性を損なうものではない。
次に、仮想視点と、基準画像21aの撮影に係る第1の視点との基線長が、図5における基準画像21aと参照画像22aとにそれぞれ対応した基準カメラ61と参照カメラ62との基線長とは異なる場合における疑似画像の取得手法について説明する。この場合には、例えば、先ず、基準画像21aの各点の視差から(1)式を用いて該各点に対応した被写体の各点の距離を算出し、算出された距離、および仮想視点と第1の視点との基線長に基づいて、基準画像21aの各画素と、疑似画像24aの各画素との視差を(1)式によって取得し、取得された視差に基づいて基準画像21aの画像を変形することによって該異なる基線長に対応した疑似画像24aを取得することが出来る。
従って、ステレオカメラ300に代えて、例えば、基準カメラ61と、レーザ光などの形状計測用の各種検出光を被写体へと投影する投光装置とを備えて構成され、三角測量の原理、または、TOF(Time of Flight)方式などによって被写体の基準画像21と、基準画像21の各画素に対応した被写体の各点についての距離情報とを取得するアクティブ測距方式の三次元測定機が採用されたとしても、該距離情報と(1)式とによって、基準画像21に対する疑似画像24aの視差を取得し、該視差と基準画像21とに基づいて疑似画像24aを取得することが出来るので、本発明の有用性を損なうものではない。
また、通常、被写体を撮影した画像の彩度は、被写体が近いほど彩度が高く、被写体が遠いほど彩度が低くなるので、ステレオカメラ300に代えて、基準カメラ61によって基準画像21を取得するとともに、基準画像21の彩度に基づいて、基準画像21の各画素に対応する距離情報を取得する方式の三次元測定機が採用されたとしても本発明の有用性を損なうものではない。また、例えば、基準画像21(図3)の各画素について、画素のY座標が増加すればするほど該画素に対応した被写体上の点が基準カメラ61に対して遠距離であるとの仮定に基づいて、基準画像21の各画素に対応する距離情報を推定して取得する手法が採用されたとしても本発明の有用性を損なうものではない。
なお、基準画像21の撮影に係る視点とは異なる視点から撮影される画像に基づいて被写体についての距離情報の測定を行う三次元測定機と、基準カメラ61とがステレオカメラ300に代えて採用されたとしても、該異なる視点に係る画像と、基準画像21とのマッチングを介することによって、基準画像21と測定された距離情報との対応付けを行うことができるので、本発明の有用性を損なうものではない。
○平滑化処理の必要性について:
ところで、ステレオカメラ300においては、通常、基準画像21の各画素にそれぞれ対応した参照画像22の各画素を特定する対応付けなどにおいて誤差が発生する。また、アクティブ測距方式の三次元測定機においても基準カメラ61のカメラ視線と、被写体に投影される検出光との交差に関する位置情報、時間情報などについての誤差が発生する。このため、図7に例示された第1の各距離情報27(原距離画像31)には、通常、ランダムノイズ状の測定のばらつきなどの各種の測定誤差が含まれる。
そして、第1の各距離情報27から上述した基本手法によって直接、疑似画像を生成した場合には、該測定誤差に起因して、基準画像21における直線の像が、例えば、直線に対してぎざぎざ状の凹凸成分が重畳された像として疑似画像において再現されるなど、生成される疑似画像はノイズ成分が著しく含まれた画像となる。
従って、該ノイズ成分を除去するために、第1の各距離情報27を上述した疑似画像生成に係る基本手法で直接処理して疑似画像を生成する処理に変えて、例えば、先ず、第1の各距離情報27に対して各距離情報のばらつきを低減させ、次に、ばらつきが低減された第1の各距離情報27から上述した基本手法によって疑似画像を生成する処理などが必要となる。
○距離情報などのばらつきを低減させる一般的な平滑化処理について:
次に、距離情報などのばらつきを低減させる一般的な平滑化処理ついて説明する。原距離画像31などの画像データの平滑化処理として、一般的に、例えば、平均化フィルタ、メディアンフィルタ、またはガウシアンフィルタなどの各種の平滑化フィルタを採用した平滑化処理が行われる。該平滑化処理においては、平滑化対象の画像の各画素に対して、平滑化の強度(「平滑化強度」とも称する)が一定である平滑化フィルタが適用される。なお、平滑化フィルタの平滑化強度は、例えば、フィルタのサイズを変更することなどによって変更され得る。
図19は、平均化フィルタ55の1例を示す図である。図19に示された平均化フィルタ55は、各行列要素の値が1であり、図示の都合上、5×5画素(5行5列)サイズとして表示されている。平均化フィルタ55では、X方向およびY方向のそれぞれ画素数を規定するパラメータKの値に応じて、フィルタサイズ、すなわち平滑化強度が変動する。平均化フィルタ55が平滑化処理の対象である画像データに適用される場合には、平滑化対象の画像データに係る画像空間のうち着目画素を中心とした、平均化フィルタ55と同サイズの領域に対して平均化フィルタ55が重ねられる。そして、該領域内の各画素の画素値と、各画素にそれぞれ正対している平均化フィルタ55の各行列要素の値との積和演算が行われ、該演算結果を積和演算の対象となった画素数で除算した値を、着目画素の画素値に置き換える処理が行われる。
図8は、平滑化強度画像の1例として平滑化強度画像35aを示す図である。平滑化強度画像は、平滑化対象の画像の各画素に対する平滑化の強度をそれぞれ画素値とする画像である。そして、平滑化強度画像35aは、平滑化対象の画像の各画素に適用される平均化フィルタ55(図19)の平滑化強度を規定したパラメータKの値を画素値とする画像であり、平滑化強度画像35aの全ての画素の画素値として一定の値94が採用されている。なお、パラメータKの値94は、(3)式における画素数U、画素数V、およびパラメータLの値をそれぞれ3456画素、2592画素、および64として算出される。
図9は、平滑化強度画像35aに応じて、値94のパラメータKによって規定された同一強度の平滑化作用を有する各平均化フィルタ55が図7に示された原距離画像31の各画素にそれぞれ適用された結果、原距離画像31が平滑化された距離画像33(第1の各距離情報27が平滑化された各距離情報29)を示す図である。
また、図10は、距離画像33(各距離情報29)に対して上述した疑似画像生成の基本手法が適用されることにより生成された疑似画像25の1例を示す図である。疑似画像25の領域5bには、図3の基準画像21の領域5aの画像、すなわち直線などの基本図形要素を多く有して構成された人工物(立て看板)の画像に対応した画像が生成されている。
領域5b(図10)に示されるように、領域5bの画像のうち領域5a(図3)において直線状である立て看板の外縁に対応した部分は、ぎざぎざ状の凹凸成分が重畳されてはいないものの、−X方向に凸状に湾曲している。ここで、原距離画像31(図7)のうち基準画像21(図3)の領域5aに対応した領域では、領域5aに撮影された立て看板、およびステレオカメラ300に対して該立て看板の前後にそれぞれ存在する木々のそれぞれの距離情報が混在しており、該対応領域における各距離情報の統計的な分布状態は、分布の幅が広く、また、離散的な分布となっている。
そして、平滑化強度画像35aに基づいた原距離画像31の平滑化処理によって、距離画像33(図9)のうち領域5a(図3)の立て看板に対応した部分においては、Y軸方向(図9)に沿った部分の各距離情報が、領域5aの立て看板と木々との距離の相違に起因してなだらかに変動している。ところで、図21、図22、および(2)式などを参照しつつ上述した疑似画像の生成に係る基本手法によれば、例えば、距離画像33のY軸に沿った部分の各距離情報がなだらかに変動する場合には、生成される疑似画像のうち該各距離情報に対応した部分の各画素のX座標が該変動に応じてなだらかに変動する。従って、上述した疑似画像25(図10)の領域5bにおける−X方向へ凸状に湾曲した歪みも、距離画像のY軸方向に沿った部分の各距離情報がなだらかな変動していることに起因して生じている。
なお、上述した疑似画像の生成に係る基本手法によれば、例えば、距離画像のX軸に沿った部分の各距離情報がなだらかに変動したとしても、生成される疑似画像のうち該各距離情報に対応した部分は、Y軸方向に凸状に湾曲することなく直線状態を維持したまま、X軸方向に沿って平行移動および伸張される。従って、該疑似画像に対しては、観察者は違和感を覚えることが少ない。
◎疑似画像の歪みへの対策について:
このため、画像処理装置200Aにおいては、該疑似画像における歪みを抑制するための本願発明に係る対策が行われている。該対策において、画像処理装置200Aは、人工物判定のための所定の判定条件に基づいて、疑似画像の生成に供される距離画像(各距離情報)に対応した画像空間における着目領域と、該着目領域以外の領域を非着目領域とを特定する。そして、画像処理装置200Aは、疑似画像の生成に供される各距離情報のうち着目領域に対応した各距離情報のばらつきが、疑似画像の生成に供される各距離情報のうち非着目領域に対応した各距離情報のばらつきよりも小さくなるように疑似画像の生成に供される距離画像(各距離情報)を生成し、生成された各距離情報に基づいて疑似画像を生成する。
上述した対策によって、画像処理装置200Aは、疑似画像の生成に供される距離画像のうち非着目領域に対応した領域、すなわち、画像の歪みを生じさせ得る可能性が人工物領域に比べて相対的に低い領域に対しては、ランダムノイズなどの距離情報のばらつきを抑制するための強度の弱い平滑化処理を適用し、疑似画像の生成に供される距離画像のうち着目領域に対応した領域、すなわち、疑似画像に対して湾曲などの画像の歪みを生じさせ得る可能性が非着目領域に対して相対的に高い人工物領域については、非着目領域に適用される平滑化処理よりも強度の強い平滑化処理を適用する。従って、基準画像のうち着目領域に対応した領域が、後述する遠近競合領域であったとしても、疑似画像の生成に供される距離画像のうち着目領域に対応した領域については、疑似画像における湾曲等の画像の歪みを抑制するように該領域の各距離情報を一様化できる可能性を高めることができる。すなわち、上述した対策によって、画像処理装置200Aは、疑似画像に発生する画像の歪みを低減させ得る。
以下では、画像処理装置200Aが、基準画像21に基づいて、該疑似画像における歪みが抑制された疑似画像24a(図18)を生成する過程を対象として、疑似画像の歪み抑制処理に係る特定部17A、第1生成部14A、および第2生成部15Aの動作を説明する。
○特定部17Aの動作:
特定部17A(図2)は、人工物判定のための所定の判定条件に基づいて、歪みが抑制された疑似画像24aの生成に用いられる第2の各距離情報28(派生距離画像32)(図2、図17)に対応した画像空間を、基準画像21(図3)に撮影された人工物を含むと判定される領域(「人工物領域」とも称する)である着目領域と、着目領域以外の非着目領域とに分類して特定する。なお、本願においては、第2の各距離情報28、すなわち第1の各距離情報27のばらつきを低減する処理によって第1の各距離情報27から派生する第2の各距離情報28が、基準画像21の画素配列に応じて配列された各距離情報を「派生距離画像」とも称する。すなわち、特定部17Aは、人工物判定のための所定の判定条件に基づいて、派生距離画像32(図17)に対応した画像空間を、人工物を含むと判定される着目領域と、着目領域以外の非着目領域とに分類して特定する。
具体的には、特定部17Aは、先ず、基準画像21における人工物領域を特定する(図23のステップS130)。図25は、図23のステップS130の動作フローを説明する図である。ステップS130の処理が開始されると、処理は、図25の動作フローに移され、特定部17Aは、例えば、Cannyアルゴリズムなどを使用した画像処理を行うことによって、基準画像21(図3)に存在する輪郭(エッジ)を検出する(ステップS131)。また輪郭検出の手法としては、例えば、ソーベルフィルタなどの微分フィルタを用いた画像処理なども採用され得る。
基準画像21に存在する各輪郭が検出されると、特定部17Aは、各輪郭に対してハフ変換を行うことによって、各輪郭を構成する各基本図形を検出する(ステップS132)。ここで本願においては、例えば、直線、2次曲線、円弧、および楕円弧などのように、所定の数式のパラメータに具体的数値を与えることによって座標空間での形状およびサイズが特定される図形を「基本図形」とも称する。特定部17Aは、検出された輪郭から、これら基本図形のうち少なくとも1つの基本図形の検出処理を行う。
検出された各輪郭について、輪郭を構成する各基本図形が検出されると、特定部17Aは、検出された各基本図形の長さを測定し、検出された各基本図形のうち長さが、例えば、300画素長以上であるなど、所定の基準値以上の長さである基本図形を検出するとともに(図25のステップS133)、検出された基本図形に対して膨張処理を施すことによって、該基本図形の線を太線化する(ステップS134)。
次に、特定部17Aは、検出された各輪郭について、輪郭の長さに対する該輪郭を構成する基本図形の長さの比を算出し(ステップS135)、検出された各輪郭のうち算出された長さの比が、例えば、75%以上であるなどの所定の基準を満たす輪郭を検出して、該輪郭の内部を人工物領域として特定する(ステップS136)。すなわち、特定部17Aは、基準画像21についての幾何学的条件である、基準画像21における輪郭の長さに対する該輪郭を構成する1種類以上の所定の基本図形の長さの割合を、人工物判定のための判定条件として基準画像21における人工物領域を特定する。
図11は、基準画像21(図3)において特定された人工物領域の1例を示す図である。図11では、特定部17Aが行う上述した人工物領域の特定処理によって、人工物領域4a、4b、および4cが特定されている。なお、人工物領域4aは、基準画像21の領域5a(図3)に内包された立て看板の像に対応した領域であり、人工物領域4bおよび4cは、基準画像21における歩道の像の外縁部に対応した領域である。なお、図11の基準画像21においては、把握を容易にするために特定された人工物領域のみが示されている。
また、特定部17Aは、例えば、基準画像21の輪郭を構成する線分の点列情報から検出される屈折点などのなどの特徴点情報に基づいて、少なくとも3個の基本図形によって構成された三角形、四角形などの各閉図形を検出し、検出された各閉図形を所定の基準値以上の割合で内包する矩形領域などを基準画像21における人工物領域として特定する処理を行うことも出来る。
また、特定部17Aは、例えば、基準画像21の複雑さに基づいて基準画像21における人工物領域を特定する処理を採用することもできる。人工物領域は、通常、人工物でない自然物に対応した領域に比べて画像の複雑さの度合いが低くなるので、画像の複雑さを表現する指標値を取得し、該指標値に基づいて人工物領域を特定することができる。すなわち、特定部17Aは、基準画像21についての幾何学的条件である基準画像21についての画像の複雑さを、人工物判定のための判定条件として基準画像21における人工物領域を特定する。画像の複雑さを表現する指標値としては、例えば、図形の自己相関性を表現した尺度であるフラクタル次元などが採用され得る。フラクタル次元は、通常、画像が複雑であればあるほど値が大きくなるため、該指標値として採用され得る。
図23のステップS130において、基準画像21の人工物領域が特定されると、特定部17Aは、第1の各距離情報27に対応した原距離画像31(図7)の人工物領域を特定する処理を行う(ステップS140)。
図26は、図23のステップS140の動作フローを説明する図である。ステップS140の処理が開始されると、処理は、図26の動作フローに移され、特定部17Aは、原距離画像31に1以上の、例えば、矩形領域などのブロック領域を設定する(図26のステップS141)。図12は、原距離画像31に設定されたブロック領域6aの1例を示す図である。ブロック領域6aは、例えば、320×320画素サイズなど矩形領域である。
各ブロック領域の設定がなされると、特定部17Aは、設定されたブロック領域の1つを選択し(ステップS142)、選択されたブロック領域に対応した各距離情報の統計的な分布状態を取得する(ステップS143)。図13は、ブロック領域6a(図12)における距離情報の統計的な分布状態の1例を示すヒストグラム64であり、ヒストグラム64の横軸には、区分けされた視差(距離情報)が変数として示され、縦軸には、区分けされた視差の各区間に属する画素の度数(個数)が示されている。
ここで、例えば、ブロック領域6aが、基準画像21(図3)の領域5aに設定されているとすると、ブロック領域6aには、立て看板と、該立て看板に対してステレオカメラ300側、またはその反対側に離れて位置する木々とが同時に撮影されている。このようなブロック領域6aの各画素の距離情報の分布を、視差(距離情報)を変数するヒストグラムとして表現すると、該ヒストグラムにおいては、ヒストグラム64に例示されているように、度数分布のピークが離散的(不連続)に現れ、かつ、距離情報の分布幅も広くなる。
なお、ヒストグラム64に示されるように、視差(距離情報)を変数とするヒストグラムにおいて度数分布のピークが離散的に現れ、かつ、距離情報の分布幅も広くなる場合は、ヒストグラムとして表現された対象領域は、通常、基準画像21の領域5aのように、ステレオカメラ300からの距離が相互に離散的である近景被写体と遠景被写体とが混在した領域である。
本願においては、該領域を「遠近競合領域」とも称し、遠近競合領域における距離情報の統計的な分布状態を「遠近競合状態」とも称する。なお、領域5aに示されるように、遠近競合領域は、また、遠近競合状態にある人工物領域でもある場合がある。そこで、特定部17Aは、原距離画像31の距離情報の統計的な分布状態に基づいて遠近競合領域を検出して人工物領域として特定する。
なお、ヒストグラム64において幅w1は、ブロック領域6aに属する全ての画素のうち、該全ての画素を視差の値が大きい方から順に計数したときにブロック領域6a内の全画素数の上位5%および下位5%に入る画素以外の各画素に対応した視差(距離情報)の分布幅である。なお、該上位5%および下位5%に入る画素の除去は、基準画像21と参照画像22との対応点探索の誤りに起因して、取得された距離情報が実際の距離情報とは大きく異なっている画素を除くために行われる。
また、ヒストグラム64における幅w2およびw3は、度数についての所定の閾値th1よりも度数が低くなっている各視差区間のうち連続している区間に対応した視差(距離情報)の分布幅である。幅w2またはw3が大きい場合には、ブロック領域6aの視差の分布は離散的である。
そこで、特定部17Aは、例えば、ヒストグラム64における幅w1と、幅w2(w3)との少なくとも1つを、原距離画像31のブロック領域についての各距離情報の統計的な分布状態を表現する指標値として取得する。また、特定部17Aが、例えば、原距離画像31のブロック領域についての各距離情報の標準偏差を、該距離情報の統計的な分布状態を表現する指標値として採用したとしても、該ブロック領域が遠近競合領域であるか否かを判定できるので、本発明の有用性を損なうものではない。
選択されたブロック領域に対応した各距離情報の統計的な分布状態を取得すると、特定部17Aは、取得された各距離情報の統計的な分布状態が遠近競合の度合いを規定した所定の基準を満たすか否かを判定する(図26のステップS144)。具体的には、特定部17Aは、選択されたブロック領域について、例えば、前述した幅w1を各距離情報の統計的な分布状態を表現した指標値として取得し、幅w1が所定の基準値以上であるか否か、すなわち該ブロック領域についての各距離情報の統計的な分布状態が遠近競合の度合いを規定した所定の基準を満たすか否かを判定する。
該判定の結果、該ブロック領域についての各距離情報の統計的な分布状態が遠近競合の度合いを規定した所定の基準を満たす場合には、特定部17Aは、該ブロック領域を遠近競合状態にある人工物領域として特定する(ステップS145)。
次に、特定部17Aは、原距離画像31に設定された全てのブロック領域について、ステップS145の判定が終了したか否かを確認する(ステップS146)。該確認の結果、全てのブロック領域について、ステップS145の判定が終了していなければ、特定部17Aは、処理をステップS142へと戻し、ステップS146での確認の結果、全てのブロック領域について、ステップS145の判定が終了していれば、特定部17Aは、原距離画像31の人工物領域を特定する処理を終了し、処理を図23のステップS150に移す。上述したように、特定部17Aは、原距離画像31における各距離情報の統計的な分布状態を判定条件として原距離画像31における人工物領域を特定する。
図14は、原距離画像31において特定された人工物領域の1例として人工物領域4dを示す図である。人工物領域4dは、選択されたブロック領域についての各距離情報の統計的な分布状態として前述した幅w1を採用した特定部17Aによって特定されている。人工物領域4dには、遠近競合領域であるブロック領域以外に、距離情報がなだらかに変動し、かつ、距離情報の分布幅が所定の基準を満たすブロック領域も含まれている。また、既述したように、特定部17Aが、選択されたブロック領域についての各距離情報の統計的な分布状態として、前述した幅w2(w3)、該ブロック領域について各距離情報の標準偏差、またはこれらの組み合わせ、または該組み合わせと幅w1との組み合わせなどを採用すれば、原距離画像31において特定される人工物領域のサイズは、人工物領域4dよりも小さくなり、遠近競合状態にある人工物領域の特定精度を高め得る。
次に、特定部17Aは、図23のステップS150において、図17に示される派生距離画像32(第2の各距離情報28)に対応した画像空間57(図15)における着目領域1a(図15)を特定する処理を行う。具体的には、特定部17Aは、例えば、基準画像21(図11)において特定された人工物領域4a〜4c(図11)と、原距離画像31(図14)において特定された人工物領域4dとが、画像空間57において相互に重なり合う領域を着目領域1aとして特定する。特定された着目領域1aについての領域情報2a(図2)は、第1生成部14Aへと供給される。なお、画像空間57は、派生距離画像32(第2の各距離情報28)に対応した画像空間であるので、基準画像21(図3)、参照画像22(図4)にも対応するとともに、原距離画像31(図7)、後述する原平滑化強度画像および平滑化強度画像35b(図16)などにも対応している。従って、CPU11Aは、領域情報2aを参照することによって上述した各画像などにおいても着目領域1aを特定し、着目領域1aに係る各種の処理を行うことができる。
このように、基準画像21において特定された人工物領域4a〜4cと、原距離画像31において特定された人工物領域4dとの重なり領域に基づいて画像空間57における着目領域1aを特定すれば、人工物領域であり、かつ、遠近競合領域でもある領域を着目領域1aとして高精度に特定できる。
なお、人工物領域4a〜4cと人工物領域4dとの重なり領域に基づいて着目領域1aを特定する手法に代えて、例えば、人工物領域4a〜4cおよび人工物領域4dの何れか一方に基づいて着目領域1aを特定する手法が採用されたとしても、人工物領域が着目領域1aとして特定されるか、または遠近競合状態の人工物領域が着目領域1aとして特定されるので、本願発明の有用性を損なうものではない。また、該手法によれば、着目領域1aの特定処理をより高速に行うことが出来る。
また、基準画像21において特定された人工物領域4a〜4cと、原距離画像31において特定された人工物領域4dとの結合領域に基づいて着目領域1aを特定する手法する手法が採用されたとしても、人工物領域と、遠近競合状態の人工物領域とが結合された広範囲の領域が着目領域1aとして特定されることにより、生成される疑似画像における歪みの発生を抑制できる可能性を高め得るので、本願発明の有用性を損なうものではない。
図20は、画像空間57において特定された複数の着目領域の1例を示す図であり、画像空間57では3つの着目領域1a〜1cが非着目領域3bに内包されて特定されている。そして、着目領域1a〜1cには、後述する人工物の存在についての定量的な判定結果がそれぞれ付与されている。
次に、該定量的な判定結果の付与について説明する。図25に示された、特定部17Aが基準画像21における人工物領域を特定する動作フローにおいて、ステップS133における基本図形の長さの基準値、およびステップS136における基準画像21において検出された輪郭の長さに対する検出された基本図形の長さの比(割合)の基準値の少なくも一方を大きくすればするほど、特定された人工物領域における人工物の存在についての信頼度は高くなる。
同様に、図26に示された、特定部17Aが距離画像33における遠近競合状態にある人工物領域を特定する動作フローにおいて、ステップ144における幅w1などの各距離情報の統計的な分布状態についての遠近競合の度合いを規定した基準値を大きくすればするほど、距離画像33に置いて特定された人工物領域における人工物の存在についての信頼度は高くなる。
従って、図25のステップS133、S136、または図26のステップS144における上述した基準値を大きくすればするほど、特定部17Aが図23の動作フローのステップS150において特定する画像空間57における着目領域における人工物の存在についての信頼度も高くなる。
そこで、特定部17Aは、画像空間57において特定された着目領域を特定する際に、設定された動作モードに応じて、図25のステップS133、S136、または図26のステップS144における上述した基準値に応じた、人工物の存在についての定量的な判定結果(信頼度)を付与することもできる。すなわち、特定部17Aは、人工物判定のための判定条件として、人工物の存在についての定量的な判定結果を特定された着目領域に付与する判定規則を用いることもできる。なお、特定された着目領域に付与された該定量的な判定結果は、着目領域についての領域情報2aとともに第1生成部14Aに供給される。
○第1生成部14Aの動作:
第1生成部14A(図2)は、第2の各距離情報28(図17)のうち着目領域1a(図15)に対応した各距離情報のばらつきが、第2の各距離情報28のうち非着目領域3a(図15)に対応した各距離情報のばらつきよりも小さくなるように第1の各距離情報27(図7)に基づいて第2の各距離情報28を生成する。以下に、図24の動作フローを用いて第1生成部14Aの動作を説明する。
第2取得部13と特定部17Aとから、第1の各距離情報27と、着目領域1aについての領域情報2a(図2)をそれぞれ供給されると、第1生成部14Aは、非着目領域3aおよび着目領域1aに対してそれぞれ適用される第1および第2平滑化フィルタにそれぞれ対応した平滑化情報53aおよび平滑化情報53b(図2)を平滑化情報格納部48(図2)から取得することによって、第1および第2平滑化フィルタをそれぞれ取得する(図24のステップS160)。なお、平滑化情報53aおよび平滑化情報53bは、第1および第2平滑化フィルタをそれぞれ特定する情報であり、予め、平滑化情報格納部48に格納されている。
平滑化情報としては、例えば、平滑化フィルタの種類、および平滑化フィルタの平滑化強度などが採用される。例えば、第1平滑化フィルタとしてメディアンフィルタが使用され、第2平滑化フィルタとして平均化フィルタが使用される場合には、平滑化情報53aとしてメディアンフィルタというフィルタ種類を指定する変数と、該フィルタの平滑化強度を指定する変数とが採用され、平滑化情報53bとして、平均化フィルタというフィルタ種類を指定する変数と、該フィルタの平滑化強度を指定する変数とが採用される。
一方、例えば、第1および第2平滑化フィルタとして平均化フィルタを採用する場合など、同一種類の平滑化フィルタを使用する場合には、平滑化情報として平滑化強度のみが採用されても良い。以下では、第1および第2平滑化フィルタとして、平均化フィルタが採用される場合を例として、第1生成部14Aの動作を説明する。
具体的には、第1生成部14Aは、例えば、平滑化情報53aおよび53bとして、値94および値378のパラメータK(図19、(3)式)を平滑化情報格納部48からそれぞれ取得する。なお、値94のパラメータKは、(3)式における画素数U、画素数V、およびパラメータLの値をそれぞれ3456画素、2592画素、および64として算出され、値378のパラメータKは、(3)式における画素数U、画素数V、およびパラメータLの値をそれぞれ3456画素、2592画素、および64として算出される。
なお、第1生成部14Aは、第1および第2平滑化フィルタをそれぞれ使用した各平滑化処理にそれぞれ対応した各平滑化処理プログラムを平滑化情報53aおよび平滑化情報53bとして平滑化情報格納部48から取得し、取得した各平滑化処理プログラムをそれぞれ実行することによって、第1および第2平滑化フィルタをそれぞれ使用した各平滑化処理を行う構成であってもよい。
第1および第2平滑化フィルタをそれぞれ取得すると、第1生成部14Aは、第2平滑化フィルタの平滑化強度の調整を行う(図24のステップS170)。ここで、距離情報のばらつきを抑制するための一般的な平滑化処理についての説明欄において、図21、図22、および(2)式などを参照しつつ既述した疑似画像の生成に係る基本手法においては、距離画像のY軸に沿った部分の各距離情報がなだらかに変動する場合には、生成される疑似画像のうち該各距離情報に対応した部分の各画素のX座標も該変動に応じてなだらかに変動するが、距離画像のX軸に沿った部分の各距離情報がなだらかに変動したとしても、生成される疑似画像のうち該各距離情報に対応した部分は、Y軸方向に凸状に湾曲することなく直線状態を維持したまま、X軸方向に沿って平行移動および伸張される。
従って、着目領域1aが水平方向(図15のX軸方向)に細長い領域である場合には、着目領域1aが垂直方向(図15のY軸方向)に細長い領域である場合に比べて、観察者に違和感を覚えさせる湾曲などの歪みを生ずる度合いが少なくなる。すなわち、基準画像21を撮影する基準カメラ61の視点(第1の視点)と、疑似画像に係る仮想視点との仮の基線が疑似画像に投影される直線の像の方向に沿って、着目領域1aが細長い場合には、該直線の像の方向に直交する方向に沿って、着目領域1aが細長い場合に比べて、観察者に違和感を覚えさせる湾曲などの歪みを生ずる度合いが少なくなる。
そこで、第1生成部14Aは、基準画像21の撮影に係る基準カメラ61の第1の視点と、疑似画像24aに係る仮想視点とを結ぶ直線、すなわち仮の基線長が、後述する派生距離画像32(図17)に投影される方向である基線方向に関して、特定された着目領域1aにおける該基線方向の画素数に対する着目領域1aにおける該基線方向に直交する方向の画素数の比が大きければ第2平滑化フィルタの平滑化強度を強くし、該比が小さければ第2平滑化フィルタの平滑化強度を弱くする。具体的には、例えば、ステップS170における調整後の第2平滑化フィルタの平滑化強度が、ステップS160で取得された第1平滑化フィルタの平滑化強度から第2平滑化フィルタの平滑化強度までの範囲内で、該比に応じた平滑化強度となるように調整がなされる。
次に、図24のステップS170における第2平滑化フィルタの平滑化強度の調整手法について、他の具体例を説明する。特定部17Aの動作の説明欄において、図20を参照しつつ上述したように、特定部17Aが特定した着目領域1aに対して、人工物の存在についての定量的な判定結果(人工物領域としての確からしさ)を対応づけた場合には、第1生成部14Aは、設定された動作モードに応じて、該定量的な判定結果が高ければ高いほど(人工物領域としての確からしさが高ければ高いほど)、第2平滑化フィルタの平滑化強度を強く設定することができる。特定された着目領域の人工物領域としての確からしさが高ければ高いほど、疑似画像のうち該着目領域に対応した部分において観察者に違和感を覚えさせる湾曲等の画像の歪みが発生する確率が高まる。このため、第1生成部14Aが、人工物領域としての確からしさ、すなわち人工物の存在についての定量的な判定結果に応じた第2平滑化フィルタの平滑化強度の設定を行うことによって、例えば、人工物領域としての確からしさが低い着目領域に対して強い平滑化強度の平滑化処理が行われて、該着目領域における距離情報の情報量が低下してしまう現象の発生を効果的に抑制することができる。おな、工物の存在についての定量的な判定結果に基づいた平滑化強度の調整の具体的な手法は、例えば、着目領域1aの基線方向の画素数に対する着目領域1aの基線方向に直交する方向の画素数の比に基づいて平滑化強度を調整する場合と同様に調整すればよい。
第2平滑化フィルタの平滑化強度の調整が終了すると、第1生成部14Aは、画像空間57(図15)と同サイズの原平滑化強度画像を作成する(図24のステップS172)。なお、原平滑化強度画像の各画素のうち非着目領域3aに対応する各画素の画素値として第1平滑化フィルタのパラメータKが採用され、原平滑化強度画像の各画素のうち着目領域1aに対応する各画素の画素値として平滑化強度が調整された第2平滑化フィルタのパラメータKが採用される。
図16は、平滑化強度画像の1例として平滑化強度画像35bを示す図である。原平滑化強度画像が作成されると、第1生成部14Aは、例えば、パラメータKが値64をとる平均化フィルタ55(図19)を原平滑化強度画像の各画素にそれぞれ適用することによって、原平滑化強度画像のうち着目領域1aと非着目領域3aとの境界部分の各画素の画素値が該境界領域を横切る方向について徐々に変化するように原平滑化強度画像を平滑化し、平滑化強度画像35bを生成する(ステップS180)。すなわち、第1生成部14Aは、原距離画像31のうち着目領域1a(図15)と非着目領域3a(図15)との境界部分の平滑化強度が該境界領域を横切る方向について徐々に変化するように該境界部分の平滑化強度を調整する。
図17は、派生距離画像32(第2の各距離情報28)の1例を示す図である。平滑化強度画像35bが生成されると、第2生成部15Aは、平滑化強度画像35bの各画素値によって特定される各平滑化強度に従って、原距離画像31(第1の各距離情報27)の各画素の画素値の平滑化を行い、派生距離画像32(第2の各距離情報28)を生成する(図24のステップS190)。すなわち、第1生成部14Aは、第1の各距離情報27のうち非着目領域3aに対応した各距離情報には、第1平滑化フィルタに基づいた第1の平滑化規則を、第1の各距離情報27(原距離画像31)のうち着目領域1aに対応した各距離情報には、第1の平滑化規則よりも平滑化の強度が強い第2平滑化フィルタに基づいた第2の平滑化規則を、選択的にそれぞれ適用することによって第1の各距離情報27を平滑化して第2の各距離情報28(派生距離画像32)を生成する。図17に示された派生距離画像32においては、上述した距離画像33(図9)に比べて、着目領域1a(図15)に対応する部分の各距離情報が、より平滑化されている。
なお、第1生成部14Aが、例えば、原平滑化強度画像に基づいて原距離画像31を平滑化し、該平滑化がなされた原距離画像31の各画素にパラメータKが値64をとる平均化フィルタ55を適用して原距離画像31を平滑化することによって派生距離画像32を生成したとしても本発明の有用性を損なうものではない。
また、第1生成部14Aが、第2平滑化フィルタの平滑化強度の調整処理(ステップS170)、および原平滑化強度画像のうち着目領域1aと非着目領域3aとの境界部分の各画素の画素値が徐々に変化するように原平滑化強度画像を平滑化して平滑化強度画像35bを生成する処理(ステップS180)の少なくとも一方を行わない場合であっても、第2の各距離情報28(図17)のうち着目領域1a(図15)に対応した各距離情報のばらつきが、第2の各距離情報28のうち非着目領域3a(図15)に対応した各距離情報のばらつきよりも小さくなるように第1の各距離情報27(図7)に基づいて第2の各距離情報28が生成されるので、本発明の有用性を損なうものではない。
また、第1生成部14Aが、平滑化強度画像35bなどに基づいて原距離画像31の各画素に平均化フィルタ55を適用する際には、例えば、平均化フィルタ55が重ねられる原距離画像31の領域の各画素のうち、例えば、X軸方向およびY軸方向にそれぞれ20画素ごとに選択される画素など、該領域から離散的に選択された画素のみを積和演算の対象として平均化フィルタ55による平滑化処理を行ったとしても、該領域を全画素を対象として平均化フィルタ55による平滑化処理を行う場合とほぼ同じ平滑化処理が行われるので、本発明の有用性を損なうものではない。
また、第1生成部14Aが、例えば、原距離画像31のうち着目領域1aの各画素の画素値(距離情報)の平均値を算出し、算出された平均値を派生距離画像32の着目領域1aの各画素の画素値として採用する処理、または、該平均値と、原距離画像31のうち着目領域1aの各画素の画素値とを、例えば、4対1の割合で合成する処理によって、第2の各距離情報28のうち着目領域1aに対応した各距離情報のばらつきが、第2の各距離情報28のうち非着目領域3aに対応した各距離情報のばらつきよりも小さくなるように27に基づいて第2の各距離情報28を生成したとしても本発明の有用性を損なうものではない。
○第2生成部15Aの動作:
図18は、画像の歪みが抑制された疑似画像24aの1例を示す図である。第2生成部15Aは、基準画像21(図3)と第2の各距離情報28(派生距離画像32)とに基づいて疑似画像24aを生成する(図24のステップS200)。具体的には、第2生成部15Aは、例えば、図21、図22、および(2)式などを参照しつつ上述した疑似画像の生成に係る基本手法を採用し、第1生成部14Aから供給される派生距離画像32(第2の各距離情報28)の距離情報(視差)に基づいて基準画像21を変形させることなどによって仮想視点からの被写体の撮影に対応した疑似画像24aを取得する。
疑似画像24aにおける領域5cは、基準画像21(図3)における領域5aと、画像の歪みが補正されていない疑似画像25(図10)における領域5bとのそれぞれに対応した領域である。領域5cの画像では、領域5bにおいて−X方向に凸状に湾曲していた画像の空間的な歪みが、抑制されている。
上述したように、画像処理装置200Aは、人工物判定のための所定の判定条件に基づいて、疑似画像24aの生成に供される派生距離画像32(第2の各距離情報28)に対応した画像空間57を、人工物を含むと判定される着目領域1aと、着目領域以外の非着目領域3aとに分類して特定する。画像処理装置200Aは、像疑似画像24aの生成に供される第2の各距離情報28のうち着目領域1aに対応した各距離情報のばらつきが、疑似画像24aの生成に供される第2の各距離情報28のうち非着目領域3aに対応した各距離情報のばらつきよりも小さくなるように疑似画像24aの生成に供される派生距離画像32(第2の各距離情報28)を生成し、生成された派生距離画像32(第2の各距離情報28)に基づいて疑似画像24aを生成する。
上述した対策によって、画像処理装置200Aは、疑似画像24aの生成に供される派生距離画像32のうち非着目領域3aに対応した領域、すなわち、画像の空間的な歪みを生じさせ得る可能性が人工物領域に比べて相対的に低い領域に対しては、ランダムノイズなどの距離情報のばらつきを抑制するための強度の弱い平滑化処理を適用し、疑似画像の生成に供される距離画像のうち着目領域に対応した領域、すなわち、疑似画像に対して湾曲などの画像の空間的な歪みを生じさせ得る可能性が非着目領域3aに対して相対的に高い着目領域1a(人工物領域)については、非着目領域3aに適用される平滑化処理よりも強度の強い平滑化処理を適用する。従って、基準画像21のうち着目領域1aに対応した領域が、遠近競合領域であったとしても、疑似画像24aの生成に供される派生距離画像32のうち着目領域1aに対応した領域については、疑似画像疑似画像24aにおける湾曲等の画像の歪みを抑制できる程度まで該領域の各距離情報を一様化できる可能性を高めることができる。すなわち、上述した対策によって、画像処理装置200Aは、疑似画像24aに発生する画像の歪みを低減させ得る。
<実施形態2について:>
<◎画像処理システム100Bについて:>
図27は、実施形態2に係る画像処理システム100Bの主な構成の1例を示すブロック図である。図に示されるように、画像処理システム100Bは、ステレオカメラ300と画像処理装置200Bとを主に備えて構成されている。画像処理システム100Bでは、ステレオカメラ300が撮影した基準画像21(図3、図27、図28)および参照画像22(図4、図27、図28)を画像処理装置200Bが取得し、画像処理装置200Bが基準画像21および参照画像22を処理することによって、基準画像21が撮影された第1の視点とは別の仮想視点からの被写体の撮影に対応した疑似画像24b(図28、図31)、すなわち第1の視点とは別の仮想視点から撮影した被写体の画像に相当する疑似画像24bを生成する。
画像処理システム100Bに備えられたステレオカメラ300は、実施形態1の説明において既述した画像処理システム100Aに備えられたステレオカメラ300と同様の構成を有する。ステレオカメラ300によって撮影された基準画像21および参照画像22は、データ線DLを介して画像処理装置200Bの入出力部41へと供給される。画像処理装置200Bは、基準画像21および参照画像22に基づいて疑似画像24b(図28)を生成する。なお、画像処理システム100Aと同様に、ステレオカメラ300に代えて、基準画像21と、基準画像21の各画素に対応する被写体上の各点の距離情報とを取得できる三次元測定機が採用されたとしても本発明の有用性を損なうものではない。
◎画像処理装置200Bの構成について:
図27に示されるように、画像処理装置200Bは、CPU11B、入出力部41、操作部42、表示部43、ROM44、RAM45および記憶装置46を主に備えて構成されており、例えば、汎用のコンピュータでプログラムを実行することなどによって実現される。
入出力部41、操作部42、表示部43、ROM44、RAM45および記憶装置46は、実施形態1の説明において既述した画像処理装置200Aにおける同一符号の各機能部とそれぞれ同様の構成を有している。
CPU(Central Processing Unit)11Bは、画像処理装置200Bの各機能部を統轄制御する制御処理装置であり、ROM44に格納されたプログラムに従った制御および処理を実行する。CPU11Bは、後述するように、第1取得部12、第2取得部13、第1生成部14B、第2生成部15B、第3生成部16、および特定部17Bとしても機能する。
CPU11Bは、これらの機能部などによって、第1の視点から撮影された被写体についての基準画像21から、第1の視点とは異なる仮想視点からの撮影に対応した被写体についての疑似画像24b(図28、図31)を生成する。また、CPU11Bは、ステレオカメラ300の撮像動作の制御を行うとともに、表示部43を制御して、各種画像、算出結果、および各種制御情報などを表示部43に表示させる。
また、CPU11B、入出力部41、操作部42、表示部43、ROM44、RAM45、記憶装置46等のそれぞれは、信号線49を介して電気的に接続されている。したがって、CPU11Bは、例えば、入出力部41を介したステレオカメラ300の制御およびステレオカメラ300からの画像情報の取得、および表示部43への表示等を所定のタイミングで実行できる。
なお、図27に示される構成例では、第1取得部12、第2取得部13、第1生成部14B、第2生成部15B、第3生成部16、および特定部17Bの各機能部は、CPU11Bで所定のプログラムを実行することによって実現されているが、これらの各機能部はそれぞれ、例えば、専用のハードウェア回路などによって実現されてもよい。
<◎画像処理装置200Bの各機能部の動作について:>
図28は、実施形態2に係る画像処理装置200Bの主な機能構成の1例を示すブロック図である。図3および図4は、実施形態2に係るステレオカメラ300の基準カメラ61および参照カメラ62が、それぞれ被写体を撮影した基準画像21および参照画像22の1例をそれぞれ示す図である。また、図32および図33は、実施形態2に係る画像処理装置200Bの動作フローをそれぞれ例示する図である。以下では、画像処理装置200Bが、基準画像21と参照画像22とに基づいて、基準画像21が撮影された第1の視点とは別の仮想視点からの被写体の撮影に対応した疑似画像24b(図28、図31)を生成する場合を例に、画像処理装置200Bの各機能部の動作について図32および図33の動作フローを適宜参照しつつ説明する。
実施形態1に係る画像処理システム100Aと同様に、ステレオカメラ300の位置および姿勢が調整されたときの基準カメラ61の位置を第1の視点として、ステレオカメラ300の撮影動作が行われると、基準カメラ61および参照カメラ62によってそれぞれ撮影された被写体についての基準画像21および参照画像22がそれぞれ生成されて画像処理装置200Bの入出力部41に供給される。
○第1取得部12の動作:
画像処理装置200Bの第1取得部12は、実施形態1の画像処理装置200Aに係る第1取得部12と同様の動作を行う機能部であり、被写体が第1の視点から撮影された基準画像21と参照画像22とが入出力部41に供給されると、第1取得部12(図2)は、入出力部41を介して実施形態1の説明において既述した基準画像21(図3)を取得するとともに(図32の動作フローS100BにおけるステップS110)、参照画像22(図4)を取得する。取得された基準画像21は、第2取得部13、第2生成部15B、第3生成部16、および特定部17Bへと供給される。また、参照画像22は、第2取得部13へと供給される。
○第2取得部13の動作:
図7は、第2取得部13(図28)が取得する原距離画像31(第1の各距離情報27)の1例を示す図である。画像処理装置200Bの第2取得部13は、実施形態1の画像処理装置200Aに係る第2取得部13と同様の動作によって、基準画像21の注目画素と、該注目画素に対応する参照画像22の対応画素との視差を求める処理を、基準画像21の各画素について行い、取得した各視差を、基準画像21の各画素にそれぞれ対応した被写体上の点についての第1の各距離情報27(原距離画像31)(図7)として取得する(図32のステップS120)。取得された第1の各距離情報27(原距離画像31)は、第1生成部14Bに供給される。
○第1生成部14Bの動作:
第1生成部14Bは、同一強度の平滑化作用を有する平滑化フィルタを、原距離画像31の各画素にそれぞれ適用することによって、第1の各距離情報27のばらつきが低減された各距離情報29(距離画像33)(図9)を取得する(図32のステップS122)。第1生成部14Bは、例えば、平均化フィルタ55(図19)の平滑化強度を規定するパラメータKの値として値94が設定された平滑化情報53c(図28)を平滑化情報格納部48(図28)から取得して該パラメータKに対応した強度の平滑化作用を有する平均化フィルタ55(図19)を特定し、特定された平均化フィルタ55を、各距離情報29の取得に使用する平滑化フィルタとして採用する。取得された各距離情報29(距離画像33)は、第3生成部16(図28)に供給される。
○第3生成部16の動作:
第3生成部16は、疑似画像生成手法として、実施形態1の説明において図21、図22、および(2)式などを参照しつつ説明した疑似画像の生成に係る基本手法を採用し、各距離情報29(距離画像33)に基づいて基準画像21を変形することによって、疑似画像25(図10、図28)を生成する(図32のステップS124)。本願においては、疑似画像25を「仮の疑似画像」とも称することがある。生成された疑似画像25(仮の疑似画像)は、第2生成部15Bと特定部17Bとに供給される。
なお、基準画像21(図3)には、領域5a(図3)に人工物領域が含まれているため、上述した疑似画像生成に係る基本手法によって、基準画像21から疑似画像25を生成した場合には、実施形態1での説明において既述したように、領域5aに対応した領域5b(図10)において、X軸方向への凸状の湾曲などの画像の空間的な歪みが生ずることがある。
○特定部17Bの動作:
特定部17B(図28)は、人工物判定のための所定の判定条件に基づいて、基準画像21における人工物領域を特定する(図33のステップS130)。具体的には、特定部17Bは、実施形態1の説明において既述した図23に示された動作フローと同様の動作によって、疑似画像25(仮の疑似画像)における人工物領域を特定する。すなわち、特定部17Bは、基準画像21についての幾何学的条件である、基準画像21における輪郭の長さに対する該輪郭を構成する1種類以上の所定の基本図形の長さの割合を、人工物判定のための判定条件として基準画像21における人工物領域を特定する。
また、人工物領域が、通常、人工物でない自然物に対応した領域に比べて画像の複雑さの度合いが低くなることから、特定部17Bは、基準画像21の画像の複雑さを表現する指標値を取得し、該指標値に基づいて人工物領域を特定することもできる。すなわち、特定部17Bは、基準画像21についての幾何学的条件である基準画像21についての画像の複雑さを、人工物判定のための判定条件として基準画像21における人工物領域を特定する。
図11は、基準画像21(図3)において特定された人工物領域の1例を示す図である。基準画像21においては、特定部17Bが行った上述した人工物領域の特定処理によって、人工物領域4a、4b、および4cが特定されている。なお、人工物領域4aは、基準画像21の領域5a(図3)に内包された立て看板の像に対応した領域であり、人工物領域4bおよび4cは、基準画像21における歩道の像の外縁部に対応した領域である。
また、特定部17Bは、基準画像21における人工物領域の特定処理と同様の処理によって、疑似画像25(仮の疑似画像)においても人工物領域を特定する(図33のステップS210)。図29は、疑似画像25において特定された人工物領域の1例を示す図である。疑似画像25においては、特定部17Bが行った上述した人工物領域の特定処理によって、人工物領域4q、4r、4s、および4tが特定されている。なお、人工物領域4qおよび4rは、疑似画像25(図10)の領域5bに内包された立て看板の像に対応した領域であり、人工物領域4sおよび4tは、疑似画像25における歩道の像の外縁部に対応した領域である。
ここで、領域5bにおける立て看板の像には、−X軸方向へ凸状に湾曲した空間的な画像の歪みが生じているために、該湾曲部分は、人工物領域の判定処理において人工物領域として判定されていない。このため、人工物領域4qおよび4rの面積は、基準画像21において特定された人工物領域4aの面積に比べて小さくなっている。一方、疑似画像25における歩道の像の外縁部は、基準画像21における歩道の像の外縁部との差異ほとんどないため、疑似画像25における人工物領域4sおよび4tの面積は、基準画像21において特定された人工物領域4bおよび4cの面積とほぼ等しくなっている。
図30は、疑似画像25において特定された着目領域1uの1例を示す図である。基準画像21と疑似画像25とにおける人工物領域が特定されると、特定部17Bは、基準画像21と疑似画像25(仮の疑似画像)とのそれぞれの人工物領域の空間的な差異、より詳細には、例えば、上述した面積の差異に基づいて、疑似画像25において歪みが大きい着目領域1uを特定する(図33のステップS220)。具体的には、特定部17Bは、例えば、基準画像21と疑似画像25とのそれぞれに対応した画像空間において、基準画像21における人工物領域4a〜4cと、疑似画像25における人工物領域4q〜4tとをそれぞれ重ね合わせたときの基準画像21と疑似画像25とのそれぞれにおける人工物領域の重なり具合に基づいて、疑似画像25において大きな歪みが生じた着目領域1uを特定することができる。該重なり具合の判定手法として、特定部17Bは、例えば、重なりが生じている部分を内包する矩形状などの内包領域を設定するとともに、該内包領域における基準画像21についての人工物領域の面積に対する疑似画像25についての人工物領域の面積比を算出し、該面積比が、例えば、50%以下である内包領域を疑似画像25において大きな歪みが生じた着目領域1uとして特定する手法などを採用し得る。また、特定された着目領域1uについての領域情報2bは、第2生成部15Bに供給される。
なお、基準画像21の撮影に係る視点と疑似画像25に係る仮想視点との基線長、基準カメラ61および疑似画像25に係るカメラの焦点距離、被写体のカメラからの距離などに基づいて、基準画像21と疑似画像25とのズレ量(視差)を算出し、基準画像21と疑似画像25とのそれぞれにおける人工物領域の重なり具合を比較する際に、該ズレ量を反映させれば該重なり具合をより正確に判定できる。もっとも、例えば、被写体の距離が遠方であれば該ズレ量は小さくなるので、該重なり具合の判定の際に、該ズレ量を反映しないとしても本発明の有用性を損なうものではない。
また、例えば、基準画像21と、疑似画像25とのそれぞれの複数のブロック領域に分割し、両画像間で相互に対応するブロック領域の組み毎に、例えば、POC法などの相関演算手法を用いてブロック間の相関を演算し、ブロック間の相関が所定の基準よりも低い領域を疑似画像25における画像の歪み領域として特定する手法に比べて、特定部17Bが行う着目領域1uの特定手法では、ブロック領域のサイズに拘束されないので更に細かい単位で疑似画像25における画像の歪み(着目領域1u)を検出することが出来る。
○第2生成部15Bの動作:
図31は、画像の歪みが低減された疑似画像24bの1例を示す図である。第2生成部15Bは、疑似画像25(仮の疑似画像)の着目領域1uの画像を、基準画像21(図3)を用いて補正することによって、疑似画像24b(図31)を生成する(図33のステップS230)。具体的には、第2生成部15Bは、例えば、先ず、基準画像21のうち着目領域1uに対応した補正用の領域を領域情報2bに基づいて特定して、特定された補正用の領域の画像を抽出する。なお、該補正用の領域の抽出の際に、基準画像21および疑似画像25に係るカメラの焦点距離および基線長などカメラパラメータに基づいて、基準画像21と疑似画像25とのズレ量(視差)を反映させれば該補正用の領域をより正確に抽出できる。もっとも、例えば、被写体の距離が遠方であれば該ズレ量は小さくなるので、該領域の抽出の際に、該ズレ量を反映しないとしても本発明の有用性を損なうものではない。
次に、第2生成部15Bは、疑似画像25(仮の疑似画像)のうち着目領域1uに対応した歪み領域を領域情報2bに基づいて特定し、特定した歪み領域の画像を基準画像21において抽出された補正用の領域の画像に置き換えることなどによって空間的な歪みが低減された疑似画像24bを生成する。
上述したように、第2の実施形態に係る画像処理装置200Bは、人工物判定のための所定の判定条件に基づいて、疑似画像25(仮の疑似画像)のうち基準画像21に比べて画像の空間的な歪みが所定の基準よりも大きな着目領域1uを特定する。そして画像処理装置200Bは、疑似画像25のうち着目領域1uの画像を、基準画像21のうち着目領域1uに対応した領域の画像に基づいて補正することによって歪みが抑制された疑似画像24bを生成する。従って、疑似画像24bに発生する画像の空間的な歪みを低減させ得る。
<変形例について:>
以上、本発明の実施の形態について説明してきたが、本発明は上記実施の形態に限定されるものではなく様々な変形が可能である。
例えば、上述した画像処理システム100Aおよび100Bにおけるステレオカメラ300では、基準カメラ61と参照カメラ62との基線長の方向は垂直方向であったが、該基線長の方向は、垂直方向その他の任意の方向でもよい。また、基準カメラ61と参照カメラ62との撮影倍率は、同じでなくても良い。