JP2004219142A - 画像処理装置および画像処理方法 - Google Patents
画像処理装置および画像処理方法 Download PDFInfo
- Publication number
- JP2004219142A JP2004219142A JP2003004272A JP2003004272A JP2004219142A JP 2004219142 A JP2004219142 A JP 2004219142A JP 2003004272 A JP2003004272 A JP 2003004272A JP 2003004272 A JP2003004272 A JP 2003004272A JP 2004219142 A JP2004219142 A JP 2004219142A
- Authority
- JP
- Japan
- Prior art keywords
- value
- pixel
- distribution
- correlation
- sub
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
【課題】互いに相関を有する画素ブロック対のズレ量をサブピクセルレベルで精度よく算出する。
【解決手段】ステレオマッチング部4は、一方の撮像画像の画素ブロックを評価対象として、他方の撮像画像における画素ブロックとの相関を相関値として評価し、一対の撮像画像間の画素ブロックのズレ量に対する相関値の離散的な分布(第1の分布)として求める。自画像マッチング部5は、この評価対象の画素ブロックと、一方の撮像画像における画素ブロックとの相関を相関値によって評価し、画素単位のズレ量に対する相関値の離散的な分布(第2の分布)を求める。サブピクセル処理部6は、第2の分布を連続的な分布として推定し、推定された第2の分布が、第1の分布上において、算出されたピクセルレベルのズレ量における最高相関値である第1の値と、最高相関値の直前・直後に隣接した相関値の内、相関が高い方の相関値を第2の値とを含むように、第2の分布を設定することにより、サブピクセル成分を算出する。
【選択図】 図1
【解決手段】ステレオマッチング部4は、一方の撮像画像の画素ブロックを評価対象として、他方の撮像画像における画素ブロックとの相関を相関値として評価し、一対の撮像画像間の画素ブロックのズレ量に対する相関値の離散的な分布(第1の分布)として求める。自画像マッチング部5は、この評価対象の画素ブロックと、一方の撮像画像における画素ブロックとの相関を相関値によって評価し、画素単位のズレ量に対する相関値の離散的な分布(第2の分布)を求める。サブピクセル処理部6は、第2の分布を連続的な分布として推定し、推定された第2の分布が、第1の分布上において、算出されたピクセルレベルのズレ量における最高相関値である第1の値と、最高相関値の直前・直後に隣接した相関値の内、相関が高い方の相関値を第2の値とを含むように、第2の分布を設定することにより、サブピクセル成分を算出する。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、一対の撮像画像において、輝度特性の相関を有する画素ブロック対のズレ量を補間演算付で算出する画像処理装置および画像処理方法に関する。
【0002】
【従来の技術】
例えば、互いに相関を有する画素ブロック対のピクセルレベルの視差を、直線近似によって算出されたサブピクセル成分によって補間する、ステレオ画像を用いた測距装置がある(例えば、特許文献1)。図12は、従来のサブピクセル成分の算出説明図である。ピクセルレベルの視差Dを与える仮の対応点p1、その直前の隣接点p0、その直後の隣接点p2の3つの点に基づいて、縦軸に対して線対称となる2本の直線L1,L2を算出する。そして、これらの直線L1,L2の交点より、サブピクセル成分Sを算出する。
【0003】
【特許文献1】
特開2000−283753号公報
【0004】
【発明が解決しようとする課題】
上述した従来技術では、対応点p0の前後の隣接点p0,p2の双方を用いてサブピクセル成分Sを算出している。前後の対応点p0,p2の内、シティブロック距離の小さい隣接点p2には、真の対応点psubの輝度値が含まれているが、シティブロック距離の大きい対応点p0には、真の対応点psubの輝度値が含まれていない。そのため、サブピクセル成分Sの誤差が大きくなり易く、サブピクセル成分Sによって補間されたサブピクセルレベルの視差の算出精度が低下する傾向がある。
【0005】
また、この従来技術では、シティブロック距離の分布が真の対応点psubに関して対称であるとの知得に基づき、直線L1,L2を算出している。しかしながら、シティブロック距離の分布が真の対応点psubに関して対称とはならないような画像では、算出されたサブピクセル成分Sに誤差が含まれてしまう可能性がある。例えば、視差の算出対象となる画素ブロックの周囲において、輝度のバラツキが存在するような画像では、シティブロック距離の対称性が保証されない傾向が大きい。したがって、従来の技術では、サブピクセル成分Sによって補間されたサブピクセルレベルの視差の算出精度が低下する可能性がある。
【0006】
そこで、本発明の目的は、互いに相関を有する画素ブロック対のズレ量をサブピクセルレベルで精度よく算出し得る、新規な画像処理装置および画像処理方法を提供することである。
【0007】
【課題を解決するための手段】
かかる課題を解決するために、第1の発明は、一方の撮像画像における画素ブロックと、この画素ブロックと輝度的に対応する他方の撮像画像における画素ブロックとの画素ブロック間のピクセルレベルのズレ量を、サブピクセル成分を用いて補完して、サブピクセルレベルのズレ量を算出する画像処理装置において、ステレオマッチング部と、自画像マッチング部と、サブピクセル処理部とを有する画像処理装置を提供する。この画像処理装置において、ステレオマッチング部は、一方の撮像画像における画素ブロックを評価対象として、他方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価する。そして、この評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布が第1の分布として求められる。このとき、第1の分布において相関が最も高くなる相関値を最高相関値としてピクセルレベルのズレ量が算出される。自画像マッチング部は、一方の画像における画素ブロックを評価対象として、この一方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価する。そして、評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布が第2の分布として求められる。一方、サブピクセル処理部は、ステレオマッチング部によって求められた第1の分布において、ピクセルレベルのズレ量における最高相関値を第1の値として設定し、かつ、最高相関値の直前に隣接した相関値および最高相関値の直後に隣接した相関値の内、相関が高い方の相関値を第2の値として選択する。また、サブピクセル処理部は、自画像マッチング部によって求められた第2の分布を連続的な分布として推定する。このとき、第1の分布上において、推定された連続的な分布が、第1の値と第2の値とを含むように、第2の分布を設定することにより、サブピクセル成分が算出される。
【0008】
ここで、第1の発明において、サブピクセル処理部は、第2の分布において、評価対象となる画素ブロックと位置的に対応したズレ量に関する相関値を第3の値、第3の値の直前に隣接した相関値を第4の値、第3の値の直後に隣接した相関値を第5の値として選択し、第3の値と第4の値との間の連続的な分布を推定し、かつ、第3の値と第5の値との間の連続的な分布を推定することが望ましい。この場合、サブピクセル処理部は、第1の分布において、第2の値が最高相関値の直後に隣接した相関値であると判断した場合には、第1の値を通る、第3の値と第4の値との間の連続的な分布と、第2の値を通る、第3の値と第5の値との間の連続的な分布との交点に基づき、サブピクセル成分を算出することが好ましい。一方、第1の分布において、第2の値が最高相関値の直前に隣接した相関値であると判断した場合には、第2の値を通る、第3の値と第4の値との間の連続的な分布と、第1の値を通る、第3の値と第5の値との間の連続的な分布との交点に基づき、サブピクセル成分が算出されることが好ましい。
【0009】
このとき、サブピクセル算出部は、比較的少ない演算量で処理を行うために、第3の値と第4の値とを線形的に近似するとともに、第3の値と第5の値とを線形的に近似することにより、連続的な分布を算出することが好ましい。
【0010】
また、サブピクセル処理部は、第2の値が最高相関値の直後に隣接した相関値であると判断した場合には、第1の値と第2の値との差分値と、第5の値との和を、第4の値と第5の値との和で除算することにより、サブピクセル成分を算出することが好ましい。一方、第2の値が最高相関値の直前に隣接した相関値であると判断した場合には、第1の値と第2の値との差分値と、第4の値との和を、第4の値と第5の値との和で除算することにより、サブピクセル成分が算出されることが好ましい。
【0011】
また、第2の発明は、一方の撮像画像における画素ブロックと、この画素ブロックと輝度的に対応する他方の撮像画像における画素ブロックとの画素ブロック間のピクセルレベルのズレ量を、サブピクセル成分を用いて補完して、サブピクセルレベルのズレ量を算出する画像処理装置において、ステレオマッチング部と、自画像マッチング部と、サブピクセル処理部とを有する画像処理装置を提供する。この画像処理装置において、ステレオマッチング部は、一方の撮像画像における画素ブロックを評価対象として、他方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価する。そして、この評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布が第1の分布として求められる。このとき、第1の分布において相関が最も高くなる相関値を最高相関値としてピクセルレベルのズレ量が算出される。自画像マッチング部は、一方の画像における画素ブロックを評価対象として、この一方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価する。そして、評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布が第2の分布として求められる。一方、サブピクセル処理部は、ステレオマッチング部によって求められた第1の分布において、ピクセルレベルのズレ量における最高相関値を第1の値として設定し、かつ、最高相関値の直前に隣接した相関値および最高相関値の直後に隣接した相関値の内、相関が高い方の相関値を第2の値として選択する。また、サブピクセル処理部は、自画像マッチング部によって求められた第2の分布を連続的な分布として推定する。そして、第1の分布上において、推定された連続的な分布が、第1の値と第2の値とを含むように、第2の分布を設定することにより、サブピクセル成分が算出される。
【0012】
第3の発明は、一方の撮像画像における画素ブロックを評価対象として、他方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価し、この評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布を第1の分布として求め、第1の分布において相関が最も高くなる相関値を最高相関値としてピクセルレベルのズレ量を算出するとともに、算出されたピクセルレベルのズレ量をサブピクセル成分を用いて補完して、サブピクセルレベルのズレ量を算出する画像処理方法を提供する。この画像処理方法は、第1のステップとして、一方の画像における画素ブロックを評価対象として、一方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価し、評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布を第2の分布として求める。また、第2のステップとして、第1の分布において、ピクセルレベルのズレ量における最高相関値を第1の値として設定し、かつ、最高相関値の直前に隣接した相関値および最高相関値の直後に隣接した相関値の内、相関が高い方の相関値を第2の値として選択する。さらに、第3のステップとして、求められた第2の分布を連続的な分布として推定するとともに、第1の分布上において、推定された連続的な分布が、第1の値と第2の値とを含むように、第2の分布を設定することにより、サブピクセル成分を算出する。
【0013】
ここで、第3の発明において、第3のステップは、第2の分布において、評価対象となる画素ブロックと位置的に対応したズレ量に関する相関値を第3の値、第3の値の直前に隣接した相関値を第4の値、第3の値の直後に隣接した相関値を第5の値として選択し、第3の値と第4の値との間の連続的な分布を推定し、かつ、第3の値と第5の値との間の連続的な分布を推定することが好ましい。この場合、第3のステップは、第2のステップにおいて、第2の値として最高相関値の直後に隣接した相関値が設定された場合には、第1の値を通る、第3の値と第4の値との間の連続的な分布と、第2の値を通る、第3の値と第5の値との間の連続的な分布との交点に基づき、サブピクセル成分を算出することが好ましい。一方、第2のステップにおいて、第2の値として最高相関値の直前に隣接した相関値が設定された場合には、第2の値を通る、第3の値と第4の値との間の連続的な分布と、第1の値を通る、第3の値と第5の値との間の連続的な分布との交点に基づき、サブピクセル成分が算出されることが好ましい。
【0014】
また、第3のステップは、第2のステップにおいて、第2の値として最高相関値の直後に隣接した相関値が設定された場合には、第1の値と第2の値との差分値と、第5の値との和を、第4の値と第5の値との和で除算することにより、サブピクセル成分を算出することが好ましい。一方、第2のステップにおいて、第2の値が最高相関値の直前に隣接した相関値が設定された場合には、第1の値と第2の値との差分値と、第4の値との和を、第4の値と第5の値との和で除算することにより、サブピクセル成分が算出されることが好ましい。
【0015】
【発明の実施の形態】
図1は、本実施形態にかかる画像処理装置の基本構成を示すブロック図である。ステレオカメラ1は、CCDやCMOSイメージセンサ等を内蔵した一対のカメラ1a,1bで構成されており、所定の基線長で互いの撮像面垂直軸が平行となるように取付けられている。メインカメラ1aは、ステレオ画像処理を行う際に必要な基準画像(右画像)を撮像し、サブカメラ1bは、ステレオ画像処理を行う際に必要な比較画像(左画像)を撮像する。互いの同期が取れている状態において、カメラ1a,1bから出力された各アナログ画像は、画像入力部2に出力される。なお、ステレオカメラ1は、CCDカメラ等に限らず、赤外線カメラ等を用いてもよい。
【0016】
画像入力部2は、それぞれのカメラ1a,1bから出力された2系統のアナログ画像信号に対する入力処理を行い、所定の輝度階調(例えば、256階調のグレースケール)のデジタル画像に変換する。デジタル化されたこれらの画像(ステレオ画像)は、画像入力部2の一部を構成する補正回路において、輝度補正や画像の幾何学的な変換等が行われる。通常、カメラ1a,1bの取付位置は程度の差こそあれ誤差を含んでいるため、それに起因したずれが左右の画像に存在する。そこで、アフィン変換等によって、画像の回転や平行移動といった幾何学的な変換処理がステレオ画像に対して行われる。これにより、ステレオマッチング処理の前提となる、基準画像の水平線と比較画像の水平線との一致(エピポーラライン)が保証される。
【0017】
このような画像処理を経て、メインカメラ1aより基準画像データが得られ、サブカメラ1bより比較画像データが得られる。これらの画像データ(ステレオ画像データ)は、各画素の輝度値(0〜255)の集合である。ここで、画像データによって規定される画像平面は、i−j座標系で表現され、画像の左下隅を原点として、水平方向をi座標軸、垂直方向をj座標軸とする。そして、一フレーム(一画像の表示単位)相当のステレオ画像データは、後段のステレオ画像処理部3に出力されるとともに、画像データメモリ7に格納される。
【0018】
ステレオ画像処理部3は、ステレオマッチング部4と、自画像マッチング部5とで構成される。このステレオ画像処理部3の機能的な要素の一つであるステレオマッチング部4は、基準画像データと比較画像データとに基づいて、一フレーム相当の撮像画像に関する距離データを算出する。ここで、「距離データ」とは、画像データによって規定される画像平面において小領域毎に算出された視差の集合であり、個々の視差は画像平面上の位置(i,j)に対応付けられている。それぞれの視差は、基準画像の一部を構成する所定面積(例えば、4×4画素)の画素ブロック毎に1つ算出される。
【0019】
図2は、基準画像に設定される画素ブロックの説明図である。例えば、基準画像が200×512画素で構成されている場合、一フレーム相当の撮像画像から、画素ブロックの個数相当(50×128個)の視差群が算出され得る。周知のように、視差は、その算出単位である画素ブロックに関する水平方向のずれ量であり、画素ブロックに写し出された対象物までの距離と大きな相関がある。すなわち、画素ブロック内に写し出されている対象物がカメラ1a,1bに近いほど、この画素ブロックの視差は大きくなり、対象物が遠いほど視差dは小さくなる(無限に遠い場合、視差dは0になる)。
【0020】
基準画像内のある画素ブロック(以下、「基準画素ブロック」と称する)に関する視差を算出する場合、ステレオマッチング部4は、この基準画素ブロックを評価対象として、この基準画素ブロックの輝度特性と相関を有する領域を比較画像において特定する。したがって、図3に示すように、基準画素ブロックAの相関先を探索する場合、比較画像全体を探索範囲とする必要はなく、基準画素ブロックAと同一水平線(エピポーラライン)を探索範囲とすればよい。ステレオマッチング部4は、このエピポーラライン上を1画素ずつずらしながら、エピポーラライン上の所定範囲内に存在するすべての画素ブロックB(以下「「比較画素ブロック」と称する)の相関を順次評価する(ステレオマッチング)。
【0021】
2つの画素ブロックA,Bの相関は、例えば、シティブロック距離C(相関値としての一例)を算出することにより評価することができる。このシティブロック距離は、画素ブロックA,Bの相関性を評価する手法として周知であり、比較的少ない演算量で輝度特性の相関を良好に評価することができる。ここで、基準画素ブロックAを構成する各画素の輝度値をaij(i=0〜3,j=0〜3)、比較画素ブロックBを構成する各画素の輝度値をbij(i=0〜3,j=0〜3)とする。基本的に、シティブロック距離Cは、位置的に対応した二つの輝度値aij,bijの差(絶対値)の画素ブロック全体における総和として定義される。前段の処理(画像入力部2における処理)で、画像に輝度補正をかけている場合には、両画素ブロックA,Bに関するシティブロック距離Cは、輝度値aij,bijをそのまま用いて、下式に従い算出する。
【数1】
C=Σ|aij−bij|
【0022】
上式からわかるように、2つの画素ブロックA,Bの輝度特性が類似しているほど(すなわち相関が高いほど)、シティブロック距離Cが小さくなり、両者がまったく同じであれば0になる。比較画像のエピポーラライン上を左から右へ1画素ずつずらしながら、それぞれの比較画素ブロックBを演算対象としたシティブロック距離Cを順次算出する。これにより、基準画素ブロックAの位置を基準とした比較画素ブロック(・・・,B[is−1],B[is],B[is+1],・・・)の相対的なズレ量(・・・,is−1,is,is+1,・・・)に対するシティブロック距離C(・・・,C0,C1,C2,・・・)の離散的な分布(第1の分布)が求まる。このとき、シティブロック距離Cの算出間隔は、ピクセルレベル、すなわち、1画素の横方向サイズ相当となる。
【0023】
このようにして算出されたシティブロック距離Cの離散的な分布(第1の分布)において、相関が最も高い相関値(最高相関値)、すなわち、シティブロック距離Cが最小値Cminとなる比較画素ブロックB[is]を基準画素ブロックAの相関先と判断する。そして、基本的には、相関先と判断された比較画素ブロックB[is]の水平方向のズレ量isが、基準画素ブロックAに関する視差Dとなる。なお、シティブロック距離を算出するためのハード構成を含めたステレオマッチングの詳細については、本願出願人が既に提案した特開平5−114099号公報に開示されているので、必要ならば参照されたい。
【0024】
以上の手法によって、ステレオマッチング部4は、1フレームの基準画像におけるすべての基準画素ブロックAに関してピクセルレベルの視差Dを順次算出し、それをサブピクセル処理部6に出力する。その際、視差Dを与えるズレ量isに関するシティブロック距離C1(=Cmin)、その直前において隣接したシティブロック距離C0、および、その直後において隣接したシティブロック距離C2も後段のサブピクセル処理部6に出力される。
【0025】
一方、再び図1を参照し、自画像マッチング部5(ステレオ画像処理部3の別な機能的な要素の一つ)は、基準画素ブロックAを評価対象として、自画像(基準画像)内での輝度特性の相関を、シティブロック距離Cによって評価する。なお、上述したステレオマッチング部4によって算出されるシティブロック距離Cとの混同を避けるため、自画像マッチング部5によって算出されるシティブロック距離Cの値を、便宜的にシティブロック距離Mと称する。
【0026】
具体的には、自画像マッチング部5は、図4に示すように、評価対象となる基準画素ブロックAに関するエピポーラライン上を1画素ずつずらしながら、エピポーラライン上に存在する基準画素ブロックA相当の面積領域A’(以下「評価画素ブロック」と称する)と、基準画素ブロックAとの相関を順次評価する(自画像マッチング)。これにより、基準画素ブロックAからの画素単位のズレ量、すなわち、基準画素ブロックAの位置を基準とした評価画素ブロック(・・・,A’[id−1],A’[id],A’[id+1],・・・)の相対的なズレ量(・・・,id−1,id,id+1,・・・)に対するシティブロック距離M(・・・,M0,M1,M2,・・・)が求まる。これにより、評価対象となる基準画素ブロックAからの画素単位のズレ量に対するシティブロック距離Mの離散的な分布(第2の分布)が求められる。このとき、第2の分布において、基準画素ブロックAと位置的に対応する評価画素ブロックA’[id]の相対的なズレ量id(すなわち、id=0)に対するシティブロック距離M1は、基本的に、0(=Mmin)となる。なお、後述する処理で用いられる関係上、この第2の分布を求めるにあたり、自画像マッチング部5は、少なくとも、評価画素ブロックA’[id]、および、その直前・直後に隣接した評価画素ブロックA’[id−1],A’[id+1]のそれぞれのズレ量id,id−1,id+1に対するシティブロック距離M1,M0,M2を求めればよい。
【0027】
以上の手法によって、自画像マッチング部5は、1フレーム相当の基準画像におけるすべての基準画素ブロックAについて、シティブロック距離Mの離散的な分布(第2の分布)を順次求める。これにより、基準画素ブロックAと位置的に対応したズレ量idに関するシティブロック距離M1(=0)、その直前において隣接したシティブロック距離M0、および、その直後において隣接したシティブロック距離M2が、第2の分布として、評価対象となる基準画素ブロックAに関連づけられてサブピクセル処理部6に出力される。
【0028】
サブピクセル処理部6は、ステレオマッチング部4において生成された1画素単位の分解能を有する視差Dに対して、サブピクセル処理による補間を行うことで、1画素単位以下の分解能を有する視差Dを算出する。ステレオマッチング部4で算出される視差Dは画素単位(画素の整数倍)であるため、三角測量の原理より、撮像画像に写し出された対象物までの距離が遠くなるにつれて、測距分解能が必然的に低下してしまう。そこで、サブピクセル処理部6は、第1の分布に基づく第1の値と第2の値とを用いて、ピクセルレベルの視差Dに関する1画素以下の小数画素成分、すなわち、サブピクセル成分Sを求める。ここで、第1の値とは、ステレオマッチング部4側の出力である、ズレ量is(=D)に関するシティブロック距離C1(以下、「最小シティブロック距離C1」と称する)をいう。また、第2の値とは、直前のズレ量is−1(=D−1)に関するシティブロック距離C0(以下、「直前の隣接シティブロック距離C0」と称する)、および、直後のズレ量is+1(=D+1)に関するシティブロック距離C2(以下、「直後の隣接シティブロック距離C2」と称する)の内、シティブロック距離Cが小さい方の値をいう。このとき、サブピクセル成分Sを求めるにあたり、サブピクセル処理部6は、基本的に、第2の分布に基づく第3〜第5の値を用いる。ここで、第3の値とは、自画像マッチング部5側の出力である、ズレ量id(=0)に関するシティブロック距離M1をいう。また、第4の値とは、その直前において隣接したシティブロック距離M0(以下、「直前の隣接シティブロック距離M0」と称する)をいい、第5の値とは、その直後において隣接したシティブロック距離M2(以下、「直後の隣接シティブロック距離M1」と称する)をいう。
【0029】
そして、このサブピクセル成分Sを用いて、ピクセルレベルの視差Dを補間し、サブピクセルレベルの視差Dが算出される。補間された視差群は、距離データとして距離データメモリ8に順次格納される。なお、本実施形態の特徴の一つである、サブピクセル処理部6において行われる具体的な処理については、後述する。
【0030】
認識部9は、画像データメモリ7に格納された画像データと、距離データメモリ8に格納された距離データとに基づき、撮像画像に写し出された対象物、および、その対象物までの距離等を認識する。以上のような構成を有する画像処理装置は、自車両前方の道路形状や先行車等を検出する車外監視装置、障害物検出装置、踏切監視装置、或いは、飛行体の高度計測装置として利用することができる。
【0031】
図5は、本実施形態にかかるサブピクセル処理を示すフローチャートである。まず、ステップ1において、ステレオマッチング部4で算出された、ある基準画素ブロックAに関する視差Dと、この視差Dに関連付けられたシティブロック距離C0〜C2とが入力される。そして、ステップ2において、自画像マッチング部5で求められ、ステップ1で入力された基準画素ブロックAに関連づけられた第2の分布であるシティブロック距離M0,M1,M2が入力される。
【0032】
ステップ2に続くステップ3では、第1の分布における隣接シティブロック距離C0,C2の大きさ、すなわち、相関の高さが比較される。この処理を行う前提として、まず、ズレ量is(=D)における最小シティブロック距離C1が、基準値として設定される。設定された最小シティブロック距離C1を基準として、その前後に隣接するシティブロック距離C0,C2が大きさの比較対象として抽出され、この値C0,C2の大きさが比較される。このとき、直前の隣接シティブロック距離C0が直後の隣接シティブロック距離C2以上の場合(C0≧C2)、直後の隣接シティブロック距離C2の方が相関が高いとして、直後のシティブロック距離C2が選択される。そして、第1の分布における、選択された直後の隣接シティブロック距離C2および最小シティブロック距離C1と、第2の分布における、直前の隣接シティブロック距離M0および直後の隣接シティブロック距離M2とを用いて、下式に従いサブピクセル成分Sが算出される(ステップ4)。すなわち、最小シティブロック距離C1とその直後の隣接シティブロック距離C2との差分値と、直後の隣接シティブロック距離M2との和を、直前の隣接シティブロック距離M0と直後の隣接シティブロック距離M2との和で除算した値が、サブピクセル成分Sとなる(Sは正の値)。
【数2】
S=(M2+(C1−C2))/(M0+M2)
【0033】
これに対して、直前の隣接シティブロック距離C0が直後の隣接シティブロック距離C2よりも小さい場合(C0<C2)、直前の隣接シティブロック距離C0の方が相関が高いとして、直前の隣接シティブロック距離C0(第2の値)が選択される。そして、下式に従いサブピクセル成分Sが算出される(ステップ5)。すなわち、最小シティブロック距離C1とその直前の隣接シティブロック距離C0との差分値と、直前の隣接シティブロック距離M0との和を、直前の隣接シティブロック距離M0と直後の隣接シティブロック距離M2との和で除算した値が、サブピクセル成分Sとなる(Sは負の値)。
【数3】
S=−(M0+(C1−C0)/(M0+M2)
【0034】
サブピクセル成分Sは、ピクセルレベルの視差D(isに相当)とサブピクセルレベルの視差D(後述するisubに相当)とのオフセット値であり、正の値または負の値のいずれかをとる。サブピクセル成分Sが正の場合、サブピクセルレベルの視差Dは、ピクセルレベルの視差Dよりも正方向に存在する。また、サブピクセル成分Sが負の場合、サブピクセルレベルの視差Dは、ピクセルレベルの視差Dよりも負方向に存在する。
【0035】
最後に、ステップ6において、ステップ4またはステップ5で算出されたサブピクセル成分Sを用いて、ステレオマッチング部4で算出されたピクセルレベルの視差Dが補間される。具体的には、ピクセルレベルの視差Dにサブピクセル成分Sを加算することにより、1画素以下の分解能を有するサブピクセルレベルの視差Dが算出される。算出されたサブピクセルレベルの視差Dは距離データメモリ8に格納される。そして、ステレオマッチング部4から視差Dが出力される度に、サブピクセル処理部6は上述したサブピクセル処理を行う。これにより、距離データを構成するすべての視差Dが補間され、1画素以下の分解能を有する距離データが距離データメモリ8に格納される。
【0036】
つぎに、サブピクセル成分Sが数式2または数式3より算出される理由について説明する。従来技術として挙げた特開2000−283753号公報にも言及されているように、1画素のサイズが無限に小さいと仮定した場合、画像平面(i,j)におけるシティブロック距離の分布は、図6に示すように連続的になる。これを、視差検出方向であるi方向の一次元的な分布として捉えた場合には、例えば、図7の破線で示すような連続的な分布となる(C0≧C2のケース)。同図において、横軸は、基準画素ブロックAに対する比較画素ブロックBの相対的なズレ量iであり、縦軸はシティブロック距離Cである。また、破線上に丸印で示した点群(点p0〜p2を含む)は、ステレオマッチング部4において算出された離散的なシティブロック距離Cをプロットしたものである(すなわち、第1の分布)。連続分布が示すように、シティブロック距離Cの分布は、対応点psub(シティブロック距離の連続的な分布において最小値をとる点)周りに左右対称になる。ただし、その対称性が理論的に保証されるのは極狭い範囲であり、対応点psubの±1画素以内である。±1画素以上の点では、基準画像の画素成分が比較画像の画素成分にまったく含まれないため、対称性が維持されない。画素のサイズ間隔で離散的にプロットした点p0〜p2は、シティブロック距離Cの連続分布を示す破線上に存在し、この部分においては対称性が維持される。
【0037】
シティブロック距離Cの離散的な分布(第1の分布)において、最小値C1をとる点p1(is,C1)を「仮の対応点」とする。「仮の対応点」と呼ぶ理由は、破線で図示した連続的なシティブロック距離Cの最小値をとる対応点Psub(真の対応点)は、仮の対応点p1近傍にあるものの、仮の対応点P1とは一致しないからである。対応点psubの座標(i,C)を(isub,0)とすると、1画素以下のサブピクセル成分Sは、isとisubとの差より算出できる。ここで、対応点psubのC座標値を0とする理由は、対応点psubは基準画素ブロックAの輝度特性と完全に一致する比較画素ブロックBのズレ量(理想値)を示すからである。そして、画素ブロックA,Bの輝度特性が完全に一致する場合、そのシティブロック距離Cは原理的に0となるからである。
【0038】
一方、本出願人によって既に提案された特願2001−296245号には、画素ブロック対のピクセルレベルの視差を、直線近似によって算出されたサブピクセル成分によって補間する、画像処理装置が提案されている。この画像処理装置によれば、シティブロック距離Cの連続的な分布が対応点psub周りで対称になることを利用して、仮の対応点p1と、シティブロック距離Cの小さい方の隣接点p0(またはp2)と、対応点psubとを用いて、対応点psubを通る縦軸に対して線対称な直線L1(傾きm)と、直線L2とを設定する。そして、これらの直線L1,L2の交点より、サブピクセル成分Sが算出される。
【0039】
このように、上述した手法のそれぞれでは、シティブロック距離Cの連続的な分布が対応点psub周りで対称になることを前提としてサブピクセル成分Sを算出している。しかしながら、シティブロック距離Cの連続的な分布が完全に対称とならないような場合には、算出されるサブピクセルレベルの視差に誤差が含まれてしまい、その値が精度良く算出されない可能性がある。そこで、本手法では、自画像マッチング部5において、自画像(本実施形態は、基準画素ブロックAが設定される基準画像)を処理対象として自画像マッチングを行うことにより、この連続的な分布を推定している。連続的な分布を推定するにあたり、自画像マッチングを用いる理由としては、基準画像と比較画像とが、基本的に同一景色を撮像している点にある。すなわち、仮に一方の画像のみを用いてマッチングを行った場合であっても、ステレオマッチングにより得られる真の対応点psub周りの連続的な分布と、自画像マッチングを行うことにより得られる分布とは、基本的に一致すると考えられるからである。
【0040】
図8は、自画像マッチングのシティブロック距離Mの離散的な分布(第2の分布)説明図である。同図において、横軸は、基準画素ブロックAに対する評価画素ブロックA’の相対的なズレ量iであり、縦軸はシティブロック距離Mである。また、丸印で示した点群(点P0〜P2を含む)は、自画像マッチング部5において算出された離散的なシティブロック距離Mをプロットしたものである。ここで、評価対象となる基準画素ブロックAと位置的に対応したズレ量idに関するシティブロック距離M1がP1で示されており、その直前に隣接したシティブロック距離M0がP0、その直後に隣接したシティブロック距離M2がP2として示されている。このとき、ズレ量idに関するシティブロック距離M1の値が0となる理由は、基準画素ブロックAと輝度特性が完全に一致する比較対象ブロックA’を用いてシティブロック距離Mが算出されるからである。
【0041】
したがって、図8に示す点P0〜P2の離散的な分布(第2の分布)の傾向は、図7に示した第1の分布上にも存在すると考えることができる。そこで、まず、このP0〜P2に基づき、第2の分布を連続的な分布として推定する。この推定方法は、二次、三次といった高次の近似手法を用いることも考えられるが、本実施形態では、比較的に演算量の少ない方法として、線形近似を用いる。同図に示す直線L1は、第2の分布における点P1と点P0との間の連続的な分布であり、点P0と点P1とを線形的に近似することにより、傾き−M0(正確には、M1−M0)の直線として特定される。また、直線L2は、第2の分布における点P1と点P2との間の連続的な分布であり、点P2と点P1とを線形的に近似することにより、傾きM2(正確には、M2−M1)の直線として特定される。この結果、離散的な第2の分布が、直線的な分布として推定される。
【0042】
この連続的な分布を用いて、サブピクセル成分Sを算出する場合、まず、仮の対応点p1の前後の隣接点p0,p1のシティブロック距離C0,C2の大小関係(すなわち、相関関係)より、対応点psubが仮の対応点p1の左右どちらに存在するのかを判断する。図7に示すように、直前の隣接点p0のC座標値が直後の隣接点p2のC座標値以上の場合、換言すれば、直前のシティブロック距離C0が直後のシティブロック距離C2以上の場合には、シティブロック距離Cの連続的な分布(第1の分布)は基本的に対称であるとして、対応点psubは、i座標ベースで座標値is〜(is+1)の範囲内にあると判断できる。
【0043】
そこで、例えば図7に示すような第1の分布上において、推定された連続的な分布が、最小シティブロック距離C1(第1の値)と直後に隣接するシティブロック距離C2(第2の値)とを含むように、第2の分布を設定することにより、サブピクセル成分Sが算出できる。具体的には、図9に示すように、2本の直線L1,L2を用い、その交点からサブピクセル成分Sが算出される。このケース(C0≧C2)において、左側の直線L1は、仮の対応点p1(is,C1)を通り、右側の直線L2は、直後の隣接点p2(is+1,C2)とを通る。サブピクセル成分Sは、i軸方向における、仮の対応点p1と、これらの直線L1,L2の交点との間の距離(S=isub−is)として求めることができ、その値は正となる。
【0044】
直線L1をC=−M0×i+a(基本式)で表すと、直線L1の条件より下式が得られる。ここで、式(1)は仮の対応点p1(is,C1)を通るという条件より得られ、式(2)は式(1)から得られた値aを基本式に代入することにより得られる。
【数4】
C1=−M0×is+a ・・・・・・(1)
C=−M0×i+C1+M0・is ・・・・・・(2)
【0045】
また、直線L2をC=M2×i+b(基本式)で表すと、直線L2の条件より下式が得られる。ここで、式(3)は直後の隣接点p2(C2,is+1)を通という条件より得られ、数式(4)は数式(3)から得られた値bを基本式に代入することにより得られる。
【数5】
C2=M2×(is+1)+b ・・・・・・(3)
C=M2×i+C2−M1(is+1) ・・・・・・(4)
【0046】
そして、式(2),(4)より、直線L1と直線L2との交点のi座標値をisubとして算出して、上述したS=isub−isを用いて、サブピクセル成分Sについて解くと、上述した数式2が導出されることとなる。
【0047】
一方、図10に示すように、直前の隣接点p0のシティブロック距離C0が直後の隣接点p2のシティブロック距離C2よりも小さい場合(C0<C2)、シティブロック距離Cの連続的な分布は基本的に対称であるとして、対応点psubは、i座標ベースで座標値is−1〜isの範囲内にあると判断できる。そこで、図11に示すように、直線の隣接点p0(is−1)を通る直線L1(C=−M0×i+a(基本式))と、仮の対応点p1を通る直線L2(C=M2×i+b(基本式))との交点からサブピクセル成分Sが算出される。そして、上述したC0≧C2の場合と同様に、S=isub−isを用いて、サブピクセル成分Sについて解くと、上述した数式3が導出されることとなる。図11から分かるように、このケースにおけるサブピクセル成分Sは負の値となる。
【0048】
このように本実施形態によれば、ピクセルレベルの視差D(ズレ量is)を補間することにより、1画素以下の分解能を有するサブピクセルレベルの視差D(ズレ量isub)を算出できる。そのため、システム的に、あたかも1画素以下で視差検出を行ったかのように取り扱うことができる。その結果、ピクセルレベルの視差Dをそのまま用いた場合に生じる、遠距離での測距分解能の低下を抑制でき、近距離から遠距離までの広いレンジで有効な測距分解能を確保することが可能となる。そして、サブピクセルレベルの視差群で構成された距離データを用いて各種の監視制御を行えば、信頼性の高い監視を行うことができる。
【0049】
また、本実施形態によれば、自画像マッチングを行うことにより、シティブロック距離Mの離散的な分布(第2の分布)が求められる。そして、ステレオマッチングにより得られる真の対応点psub周りの連続的な分布と、この第2の分布とは、基本的に一致するという考えのもと、第1の分布におけるシティブロック距離C1,C0(またはC2)を用いて、サブピクセル成分Sが算出される。これにより、シティブロック距離Cの分布が、真の対応点周りに対象とならないような画像であっても、その分布を有効に推定することができる。この結果、従来技術と比較して、精度の高いサブピクセル成分Sを算出することができる。
【0050】
なお、上述した実施形態は、ステレオカメラ1を用いたステレオ画像処理について説明した。しかしながら、本発明はこれに限定されるものではく、例えば、1台のカメラで画像内対象物のオプティカルフロー検出を行うといった、2枚以上の画像の対応付けにも適用可能である。この場合、1台のカメラを用いて所定の間隔で繰返し撮像し、時系列的な複数の撮像画像を得る。そして、ある撮像タイミングで得られた一方の撮像画像(基準画像)と、それとは異なる撮像タイミングで得られた他方の撮像画像(比較画像)とを用いて、上述した実施形態と同様にサブピクセル処理を行う。これにより得られたサブピクセルレベルのズレ量isubは、基準画素ブロックAに写し出された対象物に関する、画像平面上の移動量や速度に相当する。
【0051】
また、シティブロック距離C(またはM)の基本形は上述したとおりであるが、具体的な算出式には数々のバリエーションが存在する。例えば、以下に示す数式6に従いシティブロック距離Cを算出することもできる。すなわち、数式6では、シティブロック距離Cは、位置的に対応した二つの輝度値aij,bijの差の二乗の画素ブロック全体における総和として定義される。
【数6】
C=Σ(aij−bij)2
【0052】
また、上述した通常のステレオマッチングに代えて、平均値差分マッチングを行ってもよい。平均値差分マッチングは、撮像画像の高周波成分をマッチング対象とし、ハイパスフィルタと等価な作用を有しているため、低周波ノイズを有効に除去する。また、平均値差分マッチングでは、ステレオ画像における輝度の僅かなバランスの狂いに起因した影響、或いは、カメラやアナログ回路部品の経年変化によるゲイン変化に起因した影響等に対し、ミスマッチングを生じることがなく正確な距離情報を得る。そのため、通常のステレオマッチングでは前段の処理として必須となる輝度補正等を省略することができる。その結果、画像入力部2を構成する回路の部品点数を低減し、画像入力部2の回路構成を簡素化できるため、コスト低減や信頼性向上を図ることができる。
【0053】
平均値差分マッチングでは、下式に従いシティブロック距離Cを算出する。ここで、Aaveは基準画素ブロックAの輝度平均値であり、Baveは比較画素ブロックBの輝度平均値である。すなわち、平均値差分マッチングでは、基準画素ブロックAの輝度値aijからその輝度平均値Aaveを差分した値と、比較画素ブロックBの輝度値bijからその輝度平均値Baveを差分した値との差(絶対値)の画素ブロック全体における総和として定義される。なお、平均値差分マッチング処理の詳細については、本願出願人が既に提案した特開平11−234701号公報に詳述されているので、必要ならば参照されたい。
【数7】
C=Σ|(aij−Aave)−(bij−Bave)|
Aave=Σaij/(I×J)
Bave=Σbij/(I×J)
【0054】
また、画素ブロックA,Bの中心部の輝度値(例えば、a22,a23,a32,a33、bijについても同様)を重視する場合には、下式のように、輝度差の絶対値に重み係数wijを乗じてシティブロック距離Cを算出してもよい(重み付けマッチング)。この場合、重み係数wijは、画素ブロックA,Bの内側に向うほど大きな値に設定する。重み付けマッチング処理の詳細については、本願出願人が既に提案した特願2001−063290号において開示されている。
【数8】
C=Σwij|aij−bij|
【0055】
【発明の効果】
本発明では、相関値の離散的な分布(第1の分布)において算出された、最高相関値をとるピクセルレベルのズレ量を、サブピクセル成分で補間することにより、サブピクセルレベルのズレ量を算出する。このサブピクセル成分は、自画像内での輝度特性の相関を示す相関値の離散的な分布に基づいて算出される。これにより、互いに相関を有する画素ブロック対のズレ量をサブピクセルレベルで精度よく算出することができる。
【図面の簡単な説明】
【図1】本実施形態にかかる画像処理装置の基本構成を示すブロック図
【図2】基準画像に設定される画素ブロックの説明図
【図3】ステレオマッチングの説明図
【図4】自画像マッチングの説明図
【図5】本実施形態にかかるサブピクセル処理を示すフローチャート
【図6】画像平面におけるシティブロック距離の分布説明図
【図7】C0≧C2における極小点周りのシティブロック距離の分布説明図
【図8】自画像マッチングのシティブロック距離の離散的な分布説明図
【図9】C0≧C2におけるサブピクセル成分の算出の説明図
【図10】C0<C2における極小点周りのシティブロック距離の分布説明図
【図11】C0<C2におけるサブピクセル成分の算出の説明図
【図12】従来のサブピクセル成分の算出の説明図
【符号の説明】
1 ステレオカメラ
1a メインカメラ
1b サブカメラ
2 画像入力部
3 ステレオ画像処理部
4 ステレオマッチング部
5 自画像マッチング部
6 サブピクセル処理部
7 画像データメモリ
8 距離データメモリ
9 認識部
【発明の属する技術分野】
本発明は、一対の撮像画像において、輝度特性の相関を有する画素ブロック対のズレ量を補間演算付で算出する画像処理装置および画像処理方法に関する。
【0002】
【従来の技術】
例えば、互いに相関を有する画素ブロック対のピクセルレベルの視差を、直線近似によって算出されたサブピクセル成分によって補間する、ステレオ画像を用いた測距装置がある(例えば、特許文献1)。図12は、従来のサブピクセル成分の算出説明図である。ピクセルレベルの視差Dを与える仮の対応点p1、その直前の隣接点p0、その直後の隣接点p2の3つの点に基づいて、縦軸に対して線対称となる2本の直線L1,L2を算出する。そして、これらの直線L1,L2の交点より、サブピクセル成分Sを算出する。
【0003】
【特許文献1】
特開2000−283753号公報
【0004】
【発明が解決しようとする課題】
上述した従来技術では、対応点p0の前後の隣接点p0,p2の双方を用いてサブピクセル成分Sを算出している。前後の対応点p0,p2の内、シティブロック距離の小さい隣接点p2には、真の対応点psubの輝度値が含まれているが、シティブロック距離の大きい対応点p0には、真の対応点psubの輝度値が含まれていない。そのため、サブピクセル成分Sの誤差が大きくなり易く、サブピクセル成分Sによって補間されたサブピクセルレベルの視差の算出精度が低下する傾向がある。
【0005】
また、この従来技術では、シティブロック距離の分布が真の対応点psubに関して対称であるとの知得に基づき、直線L1,L2を算出している。しかしながら、シティブロック距離の分布が真の対応点psubに関して対称とはならないような画像では、算出されたサブピクセル成分Sに誤差が含まれてしまう可能性がある。例えば、視差の算出対象となる画素ブロックの周囲において、輝度のバラツキが存在するような画像では、シティブロック距離の対称性が保証されない傾向が大きい。したがって、従来の技術では、サブピクセル成分Sによって補間されたサブピクセルレベルの視差の算出精度が低下する可能性がある。
【0006】
そこで、本発明の目的は、互いに相関を有する画素ブロック対のズレ量をサブピクセルレベルで精度よく算出し得る、新規な画像処理装置および画像処理方法を提供することである。
【0007】
【課題を解決するための手段】
かかる課題を解決するために、第1の発明は、一方の撮像画像における画素ブロックと、この画素ブロックと輝度的に対応する他方の撮像画像における画素ブロックとの画素ブロック間のピクセルレベルのズレ量を、サブピクセル成分を用いて補完して、サブピクセルレベルのズレ量を算出する画像処理装置において、ステレオマッチング部と、自画像マッチング部と、サブピクセル処理部とを有する画像処理装置を提供する。この画像処理装置において、ステレオマッチング部は、一方の撮像画像における画素ブロックを評価対象として、他方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価する。そして、この評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布が第1の分布として求められる。このとき、第1の分布において相関が最も高くなる相関値を最高相関値としてピクセルレベルのズレ量が算出される。自画像マッチング部は、一方の画像における画素ブロックを評価対象として、この一方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価する。そして、評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布が第2の分布として求められる。一方、サブピクセル処理部は、ステレオマッチング部によって求められた第1の分布において、ピクセルレベルのズレ量における最高相関値を第1の値として設定し、かつ、最高相関値の直前に隣接した相関値および最高相関値の直後に隣接した相関値の内、相関が高い方の相関値を第2の値として選択する。また、サブピクセル処理部は、自画像マッチング部によって求められた第2の分布を連続的な分布として推定する。このとき、第1の分布上において、推定された連続的な分布が、第1の値と第2の値とを含むように、第2の分布を設定することにより、サブピクセル成分が算出される。
【0008】
ここで、第1の発明において、サブピクセル処理部は、第2の分布において、評価対象となる画素ブロックと位置的に対応したズレ量に関する相関値を第3の値、第3の値の直前に隣接した相関値を第4の値、第3の値の直後に隣接した相関値を第5の値として選択し、第3の値と第4の値との間の連続的な分布を推定し、かつ、第3の値と第5の値との間の連続的な分布を推定することが望ましい。この場合、サブピクセル処理部は、第1の分布において、第2の値が最高相関値の直後に隣接した相関値であると判断した場合には、第1の値を通る、第3の値と第4の値との間の連続的な分布と、第2の値を通る、第3の値と第5の値との間の連続的な分布との交点に基づき、サブピクセル成分を算出することが好ましい。一方、第1の分布において、第2の値が最高相関値の直前に隣接した相関値であると判断した場合には、第2の値を通る、第3の値と第4の値との間の連続的な分布と、第1の値を通る、第3の値と第5の値との間の連続的な分布との交点に基づき、サブピクセル成分が算出されることが好ましい。
【0009】
このとき、サブピクセル算出部は、比較的少ない演算量で処理を行うために、第3の値と第4の値とを線形的に近似するとともに、第3の値と第5の値とを線形的に近似することにより、連続的な分布を算出することが好ましい。
【0010】
また、サブピクセル処理部は、第2の値が最高相関値の直後に隣接した相関値であると判断した場合には、第1の値と第2の値との差分値と、第5の値との和を、第4の値と第5の値との和で除算することにより、サブピクセル成分を算出することが好ましい。一方、第2の値が最高相関値の直前に隣接した相関値であると判断した場合には、第1の値と第2の値との差分値と、第4の値との和を、第4の値と第5の値との和で除算することにより、サブピクセル成分が算出されることが好ましい。
【0011】
また、第2の発明は、一方の撮像画像における画素ブロックと、この画素ブロックと輝度的に対応する他方の撮像画像における画素ブロックとの画素ブロック間のピクセルレベルのズレ量を、サブピクセル成分を用いて補完して、サブピクセルレベルのズレ量を算出する画像処理装置において、ステレオマッチング部と、自画像マッチング部と、サブピクセル処理部とを有する画像処理装置を提供する。この画像処理装置において、ステレオマッチング部は、一方の撮像画像における画素ブロックを評価対象として、他方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価する。そして、この評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布が第1の分布として求められる。このとき、第1の分布において相関が最も高くなる相関値を最高相関値としてピクセルレベルのズレ量が算出される。自画像マッチング部は、一方の画像における画素ブロックを評価対象として、この一方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価する。そして、評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布が第2の分布として求められる。一方、サブピクセル処理部は、ステレオマッチング部によって求められた第1の分布において、ピクセルレベルのズレ量における最高相関値を第1の値として設定し、かつ、最高相関値の直前に隣接した相関値および最高相関値の直後に隣接した相関値の内、相関が高い方の相関値を第2の値として選択する。また、サブピクセル処理部は、自画像マッチング部によって求められた第2の分布を連続的な分布として推定する。そして、第1の分布上において、推定された連続的な分布が、第1の値と第2の値とを含むように、第2の分布を設定することにより、サブピクセル成分が算出される。
【0012】
第3の発明は、一方の撮像画像における画素ブロックを評価対象として、他方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価し、この評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布を第1の分布として求め、第1の分布において相関が最も高くなる相関値を最高相関値としてピクセルレベルのズレ量を算出するとともに、算出されたピクセルレベルのズレ量をサブピクセル成分を用いて補完して、サブピクセルレベルのズレ量を算出する画像処理方法を提供する。この画像処理方法は、第1のステップとして、一方の画像における画素ブロックを評価対象として、一方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価し、評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布を第2の分布として求める。また、第2のステップとして、第1の分布において、ピクセルレベルのズレ量における最高相関値を第1の値として設定し、かつ、最高相関値の直前に隣接した相関値および最高相関値の直後に隣接した相関値の内、相関が高い方の相関値を第2の値として選択する。さらに、第3のステップとして、求められた第2の分布を連続的な分布として推定するとともに、第1の分布上において、推定された連続的な分布が、第1の値と第2の値とを含むように、第2の分布を設定することにより、サブピクセル成分を算出する。
【0013】
ここで、第3の発明において、第3のステップは、第2の分布において、評価対象となる画素ブロックと位置的に対応したズレ量に関する相関値を第3の値、第3の値の直前に隣接した相関値を第4の値、第3の値の直後に隣接した相関値を第5の値として選択し、第3の値と第4の値との間の連続的な分布を推定し、かつ、第3の値と第5の値との間の連続的な分布を推定することが好ましい。この場合、第3のステップは、第2のステップにおいて、第2の値として最高相関値の直後に隣接した相関値が設定された場合には、第1の値を通る、第3の値と第4の値との間の連続的な分布と、第2の値を通る、第3の値と第5の値との間の連続的な分布との交点に基づき、サブピクセル成分を算出することが好ましい。一方、第2のステップにおいて、第2の値として最高相関値の直前に隣接した相関値が設定された場合には、第2の値を通る、第3の値と第4の値との間の連続的な分布と、第1の値を通る、第3の値と第5の値との間の連続的な分布との交点に基づき、サブピクセル成分が算出されることが好ましい。
【0014】
また、第3のステップは、第2のステップにおいて、第2の値として最高相関値の直後に隣接した相関値が設定された場合には、第1の値と第2の値との差分値と、第5の値との和を、第4の値と第5の値との和で除算することにより、サブピクセル成分を算出することが好ましい。一方、第2のステップにおいて、第2の値が最高相関値の直前に隣接した相関値が設定された場合には、第1の値と第2の値との差分値と、第4の値との和を、第4の値と第5の値との和で除算することにより、サブピクセル成分が算出されることが好ましい。
【0015】
【発明の実施の形態】
図1は、本実施形態にかかる画像処理装置の基本構成を示すブロック図である。ステレオカメラ1は、CCDやCMOSイメージセンサ等を内蔵した一対のカメラ1a,1bで構成されており、所定の基線長で互いの撮像面垂直軸が平行となるように取付けられている。メインカメラ1aは、ステレオ画像処理を行う際に必要な基準画像(右画像)を撮像し、サブカメラ1bは、ステレオ画像処理を行う際に必要な比較画像(左画像)を撮像する。互いの同期が取れている状態において、カメラ1a,1bから出力された各アナログ画像は、画像入力部2に出力される。なお、ステレオカメラ1は、CCDカメラ等に限らず、赤外線カメラ等を用いてもよい。
【0016】
画像入力部2は、それぞれのカメラ1a,1bから出力された2系統のアナログ画像信号に対する入力処理を行い、所定の輝度階調(例えば、256階調のグレースケール)のデジタル画像に変換する。デジタル化されたこれらの画像(ステレオ画像)は、画像入力部2の一部を構成する補正回路において、輝度補正や画像の幾何学的な変換等が行われる。通常、カメラ1a,1bの取付位置は程度の差こそあれ誤差を含んでいるため、それに起因したずれが左右の画像に存在する。そこで、アフィン変換等によって、画像の回転や平行移動といった幾何学的な変換処理がステレオ画像に対して行われる。これにより、ステレオマッチング処理の前提となる、基準画像の水平線と比較画像の水平線との一致(エピポーラライン)が保証される。
【0017】
このような画像処理を経て、メインカメラ1aより基準画像データが得られ、サブカメラ1bより比較画像データが得られる。これらの画像データ(ステレオ画像データ)は、各画素の輝度値(0〜255)の集合である。ここで、画像データによって規定される画像平面は、i−j座標系で表現され、画像の左下隅を原点として、水平方向をi座標軸、垂直方向をj座標軸とする。そして、一フレーム(一画像の表示単位)相当のステレオ画像データは、後段のステレオ画像処理部3に出力されるとともに、画像データメモリ7に格納される。
【0018】
ステレオ画像処理部3は、ステレオマッチング部4と、自画像マッチング部5とで構成される。このステレオ画像処理部3の機能的な要素の一つであるステレオマッチング部4は、基準画像データと比較画像データとに基づいて、一フレーム相当の撮像画像に関する距離データを算出する。ここで、「距離データ」とは、画像データによって規定される画像平面において小領域毎に算出された視差の集合であり、個々の視差は画像平面上の位置(i,j)に対応付けられている。それぞれの視差は、基準画像の一部を構成する所定面積(例えば、4×4画素)の画素ブロック毎に1つ算出される。
【0019】
図2は、基準画像に設定される画素ブロックの説明図である。例えば、基準画像が200×512画素で構成されている場合、一フレーム相当の撮像画像から、画素ブロックの個数相当(50×128個)の視差群が算出され得る。周知のように、視差は、その算出単位である画素ブロックに関する水平方向のずれ量であり、画素ブロックに写し出された対象物までの距離と大きな相関がある。すなわち、画素ブロック内に写し出されている対象物がカメラ1a,1bに近いほど、この画素ブロックの視差は大きくなり、対象物が遠いほど視差dは小さくなる(無限に遠い場合、視差dは0になる)。
【0020】
基準画像内のある画素ブロック(以下、「基準画素ブロック」と称する)に関する視差を算出する場合、ステレオマッチング部4は、この基準画素ブロックを評価対象として、この基準画素ブロックの輝度特性と相関を有する領域を比較画像において特定する。したがって、図3に示すように、基準画素ブロックAの相関先を探索する場合、比較画像全体を探索範囲とする必要はなく、基準画素ブロックAと同一水平線(エピポーラライン)を探索範囲とすればよい。ステレオマッチング部4は、このエピポーラライン上を1画素ずつずらしながら、エピポーラライン上の所定範囲内に存在するすべての画素ブロックB(以下「「比較画素ブロック」と称する)の相関を順次評価する(ステレオマッチング)。
【0021】
2つの画素ブロックA,Bの相関は、例えば、シティブロック距離C(相関値としての一例)を算出することにより評価することができる。このシティブロック距離は、画素ブロックA,Bの相関性を評価する手法として周知であり、比較的少ない演算量で輝度特性の相関を良好に評価することができる。ここで、基準画素ブロックAを構成する各画素の輝度値をaij(i=0〜3,j=0〜3)、比較画素ブロックBを構成する各画素の輝度値をbij(i=0〜3,j=0〜3)とする。基本的に、シティブロック距離Cは、位置的に対応した二つの輝度値aij,bijの差(絶対値)の画素ブロック全体における総和として定義される。前段の処理(画像入力部2における処理)で、画像に輝度補正をかけている場合には、両画素ブロックA,Bに関するシティブロック距離Cは、輝度値aij,bijをそのまま用いて、下式に従い算出する。
【数1】
C=Σ|aij−bij|
【0022】
上式からわかるように、2つの画素ブロックA,Bの輝度特性が類似しているほど(すなわち相関が高いほど)、シティブロック距離Cが小さくなり、両者がまったく同じであれば0になる。比較画像のエピポーラライン上を左から右へ1画素ずつずらしながら、それぞれの比較画素ブロックBを演算対象としたシティブロック距離Cを順次算出する。これにより、基準画素ブロックAの位置を基準とした比較画素ブロック(・・・,B[is−1],B[is],B[is+1],・・・)の相対的なズレ量(・・・,is−1,is,is+1,・・・)に対するシティブロック距離C(・・・,C0,C1,C2,・・・)の離散的な分布(第1の分布)が求まる。このとき、シティブロック距離Cの算出間隔は、ピクセルレベル、すなわち、1画素の横方向サイズ相当となる。
【0023】
このようにして算出されたシティブロック距離Cの離散的な分布(第1の分布)において、相関が最も高い相関値(最高相関値)、すなわち、シティブロック距離Cが最小値Cminとなる比較画素ブロックB[is]を基準画素ブロックAの相関先と判断する。そして、基本的には、相関先と判断された比較画素ブロックB[is]の水平方向のズレ量isが、基準画素ブロックAに関する視差Dとなる。なお、シティブロック距離を算出するためのハード構成を含めたステレオマッチングの詳細については、本願出願人が既に提案した特開平5−114099号公報に開示されているので、必要ならば参照されたい。
【0024】
以上の手法によって、ステレオマッチング部4は、1フレームの基準画像におけるすべての基準画素ブロックAに関してピクセルレベルの視差Dを順次算出し、それをサブピクセル処理部6に出力する。その際、視差Dを与えるズレ量isに関するシティブロック距離C1(=Cmin)、その直前において隣接したシティブロック距離C0、および、その直後において隣接したシティブロック距離C2も後段のサブピクセル処理部6に出力される。
【0025】
一方、再び図1を参照し、自画像マッチング部5(ステレオ画像処理部3の別な機能的な要素の一つ)は、基準画素ブロックAを評価対象として、自画像(基準画像)内での輝度特性の相関を、シティブロック距離Cによって評価する。なお、上述したステレオマッチング部4によって算出されるシティブロック距離Cとの混同を避けるため、自画像マッチング部5によって算出されるシティブロック距離Cの値を、便宜的にシティブロック距離Mと称する。
【0026】
具体的には、自画像マッチング部5は、図4に示すように、評価対象となる基準画素ブロックAに関するエピポーラライン上を1画素ずつずらしながら、エピポーラライン上に存在する基準画素ブロックA相当の面積領域A’(以下「評価画素ブロック」と称する)と、基準画素ブロックAとの相関を順次評価する(自画像マッチング)。これにより、基準画素ブロックAからの画素単位のズレ量、すなわち、基準画素ブロックAの位置を基準とした評価画素ブロック(・・・,A’[id−1],A’[id],A’[id+1],・・・)の相対的なズレ量(・・・,id−1,id,id+1,・・・)に対するシティブロック距離M(・・・,M0,M1,M2,・・・)が求まる。これにより、評価対象となる基準画素ブロックAからの画素単位のズレ量に対するシティブロック距離Mの離散的な分布(第2の分布)が求められる。このとき、第2の分布において、基準画素ブロックAと位置的に対応する評価画素ブロックA’[id]の相対的なズレ量id(すなわち、id=0)に対するシティブロック距離M1は、基本的に、0(=Mmin)となる。なお、後述する処理で用いられる関係上、この第2の分布を求めるにあたり、自画像マッチング部5は、少なくとも、評価画素ブロックA’[id]、および、その直前・直後に隣接した評価画素ブロックA’[id−1],A’[id+1]のそれぞれのズレ量id,id−1,id+1に対するシティブロック距離M1,M0,M2を求めればよい。
【0027】
以上の手法によって、自画像マッチング部5は、1フレーム相当の基準画像におけるすべての基準画素ブロックAについて、シティブロック距離Mの離散的な分布(第2の分布)を順次求める。これにより、基準画素ブロックAと位置的に対応したズレ量idに関するシティブロック距離M1(=0)、その直前において隣接したシティブロック距離M0、および、その直後において隣接したシティブロック距離M2が、第2の分布として、評価対象となる基準画素ブロックAに関連づけられてサブピクセル処理部6に出力される。
【0028】
サブピクセル処理部6は、ステレオマッチング部4において生成された1画素単位の分解能を有する視差Dに対して、サブピクセル処理による補間を行うことで、1画素単位以下の分解能を有する視差Dを算出する。ステレオマッチング部4で算出される視差Dは画素単位(画素の整数倍)であるため、三角測量の原理より、撮像画像に写し出された対象物までの距離が遠くなるにつれて、測距分解能が必然的に低下してしまう。そこで、サブピクセル処理部6は、第1の分布に基づく第1の値と第2の値とを用いて、ピクセルレベルの視差Dに関する1画素以下の小数画素成分、すなわち、サブピクセル成分Sを求める。ここで、第1の値とは、ステレオマッチング部4側の出力である、ズレ量is(=D)に関するシティブロック距離C1(以下、「最小シティブロック距離C1」と称する)をいう。また、第2の値とは、直前のズレ量is−1(=D−1)に関するシティブロック距離C0(以下、「直前の隣接シティブロック距離C0」と称する)、および、直後のズレ量is+1(=D+1)に関するシティブロック距離C2(以下、「直後の隣接シティブロック距離C2」と称する)の内、シティブロック距離Cが小さい方の値をいう。このとき、サブピクセル成分Sを求めるにあたり、サブピクセル処理部6は、基本的に、第2の分布に基づく第3〜第5の値を用いる。ここで、第3の値とは、自画像マッチング部5側の出力である、ズレ量id(=0)に関するシティブロック距離M1をいう。また、第4の値とは、その直前において隣接したシティブロック距離M0(以下、「直前の隣接シティブロック距離M0」と称する)をいい、第5の値とは、その直後において隣接したシティブロック距離M2(以下、「直後の隣接シティブロック距離M1」と称する)をいう。
【0029】
そして、このサブピクセル成分Sを用いて、ピクセルレベルの視差Dを補間し、サブピクセルレベルの視差Dが算出される。補間された視差群は、距離データとして距離データメモリ8に順次格納される。なお、本実施形態の特徴の一つである、サブピクセル処理部6において行われる具体的な処理については、後述する。
【0030】
認識部9は、画像データメモリ7に格納された画像データと、距離データメモリ8に格納された距離データとに基づき、撮像画像に写し出された対象物、および、その対象物までの距離等を認識する。以上のような構成を有する画像処理装置は、自車両前方の道路形状や先行車等を検出する車外監視装置、障害物検出装置、踏切監視装置、或いは、飛行体の高度計測装置として利用することができる。
【0031】
図5は、本実施形態にかかるサブピクセル処理を示すフローチャートである。まず、ステップ1において、ステレオマッチング部4で算出された、ある基準画素ブロックAに関する視差Dと、この視差Dに関連付けられたシティブロック距離C0〜C2とが入力される。そして、ステップ2において、自画像マッチング部5で求められ、ステップ1で入力された基準画素ブロックAに関連づけられた第2の分布であるシティブロック距離M0,M1,M2が入力される。
【0032】
ステップ2に続くステップ3では、第1の分布における隣接シティブロック距離C0,C2の大きさ、すなわち、相関の高さが比較される。この処理を行う前提として、まず、ズレ量is(=D)における最小シティブロック距離C1が、基準値として設定される。設定された最小シティブロック距離C1を基準として、その前後に隣接するシティブロック距離C0,C2が大きさの比較対象として抽出され、この値C0,C2の大きさが比較される。このとき、直前の隣接シティブロック距離C0が直後の隣接シティブロック距離C2以上の場合(C0≧C2)、直後の隣接シティブロック距離C2の方が相関が高いとして、直後のシティブロック距離C2が選択される。そして、第1の分布における、選択された直後の隣接シティブロック距離C2および最小シティブロック距離C1と、第2の分布における、直前の隣接シティブロック距離M0および直後の隣接シティブロック距離M2とを用いて、下式に従いサブピクセル成分Sが算出される(ステップ4)。すなわち、最小シティブロック距離C1とその直後の隣接シティブロック距離C2との差分値と、直後の隣接シティブロック距離M2との和を、直前の隣接シティブロック距離M0と直後の隣接シティブロック距離M2との和で除算した値が、サブピクセル成分Sとなる(Sは正の値)。
【数2】
S=(M2+(C1−C2))/(M0+M2)
【0033】
これに対して、直前の隣接シティブロック距離C0が直後の隣接シティブロック距離C2よりも小さい場合(C0<C2)、直前の隣接シティブロック距離C0の方が相関が高いとして、直前の隣接シティブロック距離C0(第2の値)が選択される。そして、下式に従いサブピクセル成分Sが算出される(ステップ5)。すなわち、最小シティブロック距離C1とその直前の隣接シティブロック距離C0との差分値と、直前の隣接シティブロック距離M0との和を、直前の隣接シティブロック距離M0と直後の隣接シティブロック距離M2との和で除算した値が、サブピクセル成分Sとなる(Sは負の値)。
【数3】
S=−(M0+(C1−C0)/(M0+M2)
【0034】
サブピクセル成分Sは、ピクセルレベルの視差D(isに相当)とサブピクセルレベルの視差D(後述するisubに相当)とのオフセット値であり、正の値または負の値のいずれかをとる。サブピクセル成分Sが正の場合、サブピクセルレベルの視差Dは、ピクセルレベルの視差Dよりも正方向に存在する。また、サブピクセル成分Sが負の場合、サブピクセルレベルの視差Dは、ピクセルレベルの視差Dよりも負方向に存在する。
【0035】
最後に、ステップ6において、ステップ4またはステップ5で算出されたサブピクセル成分Sを用いて、ステレオマッチング部4で算出されたピクセルレベルの視差Dが補間される。具体的には、ピクセルレベルの視差Dにサブピクセル成分Sを加算することにより、1画素以下の分解能を有するサブピクセルレベルの視差Dが算出される。算出されたサブピクセルレベルの視差Dは距離データメモリ8に格納される。そして、ステレオマッチング部4から視差Dが出力される度に、サブピクセル処理部6は上述したサブピクセル処理を行う。これにより、距離データを構成するすべての視差Dが補間され、1画素以下の分解能を有する距離データが距離データメモリ8に格納される。
【0036】
つぎに、サブピクセル成分Sが数式2または数式3より算出される理由について説明する。従来技術として挙げた特開2000−283753号公報にも言及されているように、1画素のサイズが無限に小さいと仮定した場合、画像平面(i,j)におけるシティブロック距離の分布は、図6に示すように連続的になる。これを、視差検出方向であるi方向の一次元的な分布として捉えた場合には、例えば、図7の破線で示すような連続的な分布となる(C0≧C2のケース)。同図において、横軸は、基準画素ブロックAに対する比較画素ブロックBの相対的なズレ量iであり、縦軸はシティブロック距離Cである。また、破線上に丸印で示した点群(点p0〜p2を含む)は、ステレオマッチング部4において算出された離散的なシティブロック距離Cをプロットしたものである(すなわち、第1の分布)。連続分布が示すように、シティブロック距離Cの分布は、対応点psub(シティブロック距離の連続的な分布において最小値をとる点)周りに左右対称になる。ただし、その対称性が理論的に保証されるのは極狭い範囲であり、対応点psubの±1画素以内である。±1画素以上の点では、基準画像の画素成分が比較画像の画素成分にまったく含まれないため、対称性が維持されない。画素のサイズ間隔で離散的にプロットした点p0〜p2は、シティブロック距離Cの連続分布を示す破線上に存在し、この部分においては対称性が維持される。
【0037】
シティブロック距離Cの離散的な分布(第1の分布)において、最小値C1をとる点p1(is,C1)を「仮の対応点」とする。「仮の対応点」と呼ぶ理由は、破線で図示した連続的なシティブロック距離Cの最小値をとる対応点Psub(真の対応点)は、仮の対応点p1近傍にあるものの、仮の対応点P1とは一致しないからである。対応点psubの座標(i,C)を(isub,0)とすると、1画素以下のサブピクセル成分Sは、isとisubとの差より算出できる。ここで、対応点psubのC座標値を0とする理由は、対応点psubは基準画素ブロックAの輝度特性と完全に一致する比較画素ブロックBのズレ量(理想値)を示すからである。そして、画素ブロックA,Bの輝度特性が完全に一致する場合、そのシティブロック距離Cは原理的に0となるからである。
【0038】
一方、本出願人によって既に提案された特願2001−296245号には、画素ブロック対のピクセルレベルの視差を、直線近似によって算出されたサブピクセル成分によって補間する、画像処理装置が提案されている。この画像処理装置によれば、シティブロック距離Cの連続的な分布が対応点psub周りで対称になることを利用して、仮の対応点p1と、シティブロック距離Cの小さい方の隣接点p0(またはp2)と、対応点psubとを用いて、対応点psubを通る縦軸に対して線対称な直線L1(傾きm)と、直線L2とを設定する。そして、これらの直線L1,L2の交点より、サブピクセル成分Sが算出される。
【0039】
このように、上述した手法のそれぞれでは、シティブロック距離Cの連続的な分布が対応点psub周りで対称になることを前提としてサブピクセル成分Sを算出している。しかしながら、シティブロック距離Cの連続的な分布が完全に対称とならないような場合には、算出されるサブピクセルレベルの視差に誤差が含まれてしまい、その値が精度良く算出されない可能性がある。そこで、本手法では、自画像マッチング部5において、自画像(本実施形態は、基準画素ブロックAが設定される基準画像)を処理対象として自画像マッチングを行うことにより、この連続的な分布を推定している。連続的な分布を推定するにあたり、自画像マッチングを用いる理由としては、基準画像と比較画像とが、基本的に同一景色を撮像している点にある。すなわち、仮に一方の画像のみを用いてマッチングを行った場合であっても、ステレオマッチングにより得られる真の対応点psub周りの連続的な分布と、自画像マッチングを行うことにより得られる分布とは、基本的に一致すると考えられるからである。
【0040】
図8は、自画像マッチングのシティブロック距離Mの離散的な分布(第2の分布)説明図である。同図において、横軸は、基準画素ブロックAに対する評価画素ブロックA’の相対的なズレ量iであり、縦軸はシティブロック距離Mである。また、丸印で示した点群(点P0〜P2を含む)は、自画像マッチング部5において算出された離散的なシティブロック距離Mをプロットしたものである。ここで、評価対象となる基準画素ブロックAと位置的に対応したズレ量idに関するシティブロック距離M1がP1で示されており、その直前に隣接したシティブロック距離M0がP0、その直後に隣接したシティブロック距離M2がP2として示されている。このとき、ズレ量idに関するシティブロック距離M1の値が0となる理由は、基準画素ブロックAと輝度特性が完全に一致する比較対象ブロックA’を用いてシティブロック距離Mが算出されるからである。
【0041】
したがって、図8に示す点P0〜P2の離散的な分布(第2の分布)の傾向は、図7に示した第1の分布上にも存在すると考えることができる。そこで、まず、このP0〜P2に基づき、第2の分布を連続的な分布として推定する。この推定方法は、二次、三次といった高次の近似手法を用いることも考えられるが、本実施形態では、比較的に演算量の少ない方法として、線形近似を用いる。同図に示す直線L1は、第2の分布における点P1と点P0との間の連続的な分布であり、点P0と点P1とを線形的に近似することにより、傾き−M0(正確には、M1−M0)の直線として特定される。また、直線L2は、第2の分布における点P1と点P2との間の連続的な分布であり、点P2と点P1とを線形的に近似することにより、傾きM2(正確には、M2−M1)の直線として特定される。この結果、離散的な第2の分布が、直線的な分布として推定される。
【0042】
この連続的な分布を用いて、サブピクセル成分Sを算出する場合、まず、仮の対応点p1の前後の隣接点p0,p1のシティブロック距離C0,C2の大小関係(すなわち、相関関係)より、対応点psubが仮の対応点p1の左右どちらに存在するのかを判断する。図7に示すように、直前の隣接点p0のC座標値が直後の隣接点p2のC座標値以上の場合、換言すれば、直前のシティブロック距離C0が直後のシティブロック距離C2以上の場合には、シティブロック距離Cの連続的な分布(第1の分布)は基本的に対称であるとして、対応点psubは、i座標ベースで座標値is〜(is+1)の範囲内にあると判断できる。
【0043】
そこで、例えば図7に示すような第1の分布上において、推定された連続的な分布が、最小シティブロック距離C1(第1の値)と直後に隣接するシティブロック距離C2(第2の値)とを含むように、第2の分布を設定することにより、サブピクセル成分Sが算出できる。具体的には、図9に示すように、2本の直線L1,L2を用い、その交点からサブピクセル成分Sが算出される。このケース(C0≧C2)において、左側の直線L1は、仮の対応点p1(is,C1)を通り、右側の直線L2は、直後の隣接点p2(is+1,C2)とを通る。サブピクセル成分Sは、i軸方向における、仮の対応点p1と、これらの直線L1,L2の交点との間の距離(S=isub−is)として求めることができ、その値は正となる。
【0044】
直線L1をC=−M0×i+a(基本式)で表すと、直線L1の条件より下式が得られる。ここで、式(1)は仮の対応点p1(is,C1)を通るという条件より得られ、式(2)は式(1)から得られた値aを基本式に代入することにより得られる。
【数4】
C1=−M0×is+a ・・・・・・(1)
C=−M0×i+C1+M0・is ・・・・・・(2)
【0045】
また、直線L2をC=M2×i+b(基本式)で表すと、直線L2の条件より下式が得られる。ここで、式(3)は直後の隣接点p2(C2,is+1)を通という条件より得られ、数式(4)は数式(3)から得られた値bを基本式に代入することにより得られる。
【数5】
C2=M2×(is+1)+b ・・・・・・(3)
C=M2×i+C2−M1(is+1) ・・・・・・(4)
【0046】
そして、式(2),(4)より、直線L1と直線L2との交点のi座標値をisubとして算出して、上述したS=isub−isを用いて、サブピクセル成分Sについて解くと、上述した数式2が導出されることとなる。
【0047】
一方、図10に示すように、直前の隣接点p0のシティブロック距離C0が直後の隣接点p2のシティブロック距離C2よりも小さい場合(C0<C2)、シティブロック距離Cの連続的な分布は基本的に対称であるとして、対応点psubは、i座標ベースで座標値is−1〜isの範囲内にあると判断できる。そこで、図11に示すように、直線の隣接点p0(is−1)を通る直線L1(C=−M0×i+a(基本式))と、仮の対応点p1を通る直線L2(C=M2×i+b(基本式))との交点からサブピクセル成分Sが算出される。そして、上述したC0≧C2の場合と同様に、S=isub−isを用いて、サブピクセル成分Sについて解くと、上述した数式3が導出されることとなる。図11から分かるように、このケースにおけるサブピクセル成分Sは負の値となる。
【0048】
このように本実施形態によれば、ピクセルレベルの視差D(ズレ量is)を補間することにより、1画素以下の分解能を有するサブピクセルレベルの視差D(ズレ量isub)を算出できる。そのため、システム的に、あたかも1画素以下で視差検出を行ったかのように取り扱うことができる。その結果、ピクセルレベルの視差Dをそのまま用いた場合に生じる、遠距離での測距分解能の低下を抑制でき、近距離から遠距離までの広いレンジで有効な測距分解能を確保することが可能となる。そして、サブピクセルレベルの視差群で構成された距離データを用いて各種の監視制御を行えば、信頼性の高い監視を行うことができる。
【0049】
また、本実施形態によれば、自画像マッチングを行うことにより、シティブロック距離Mの離散的な分布(第2の分布)が求められる。そして、ステレオマッチングにより得られる真の対応点psub周りの連続的な分布と、この第2の分布とは、基本的に一致するという考えのもと、第1の分布におけるシティブロック距離C1,C0(またはC2)を用いて、サブピクセル成分Sが算出される。これにより、シティブロック距離Cの分布が、真の対応点周りに対象とならないような画像であっても、その分布を有効に推定することができる。この結果、従来技術と比較して、精度の高いサブピクセル成分Sを算出することができる。
【0050】
なお、上述した実施形態は、ステレオカメラ1を用いたステレオ画像処理について説明した。しかしながら、本発明はこれに限定されるものではく、例えば、1台のカメラで画像内対象物のオプティカルフロー検出を行うといった、2枚以上の画像の対応付けにも適用可能である。この場合、1台のカメラを用いて所定の間隔で繰返し撮像し、時系列的な複数の撮像画像を得る。そして、ある撮像タイミングで得られた一方の撮像画像(基準画像)と、それとは異なる撮像タイミングで得られた他方の撮像画像(比較画像)とを用いて、上述した実施形態と同様にサブピクセル処理を行う。これにより得られたサブピクセルレベルのズレ量isubは、基準画素ブロックAに写し出された対象物に関する、画像平面上の移動量や速度に相当する。
【0051】
また、シティブロック距離C(またはM)の基本形は上述したとおりであるが、具体的な算出式には数々のバリエーションが存在する。例えば、以下に示す数式6に従いシティブロック距離Cを算出することもできる。すなわち、数式6では、シティブロック距離Cは、位置的に対応した二つの輝度値aij,bijの差の二乗の画素ブロック全体における総和として定義される。
【数6】
C=Σ(aij−bij)2
【0052】
また、上述した通常のステレオマッチングに代えて、平均値差分マッチングを行ってもよい。平均値差分マッチングは、撮像画像の高周波成分をマッチング対象とし、ハイパスフィルタと等価な作用を有しているため、低周波ノイズを有効に除去する。また、平均値差分マッチングでは、ステレオ画像における輝度の僅かなバランスの狂いに起因した影響、或いは、カメラやアナログ回路部品の経年変化によるゲイン変化に起因した影響等に対し、ミスマッチングを生じることがなく正確な距離情報を得る。そのため、通常のステレオマッチングでは前段の処理として必須となる輝度補正等を省略することができる。その結果、画像入力部2を構成する回路の部品点数を低減し、画像入力部2の回路構成を簡素化できるため、コスト低減や信頼性向上を図ることができる。
【0053】
平均値差分マッチングでは、下式に従いシティブロック距離Cを算出する。ここで、Aaveは基準画素ブロックAの輝度平均値であり、Baveは比較画素ブロックBの輝度平均値である。すなわち、平均値差分マッチングでは、基準画素ブロックAの輝度値aijからその輝度平均値Aaveを差分した値と、比較画素ブロックBの輝度値bijからその輝度平均値Baveを差分した値との差(絶対値)の画素ブロック全体における総和として定義される。なお、平均値差分マッチング処理の詳細については、本願出願人が既に提案した特開平11−234701号公報に詳述されているので、必要ならば参照されたい。
【数7】
C=Σ|(aij−Aave)−(bij−Bave)|
Aave=Σaij/(I×J)
Bave=Σbij/(I×J)
【0054】
また、画素ブロックA,Bの中心部の輝度値(例えば、a22,a23,a32,a33、bijについても同様)を重視する場合には、下式のように、輝度差の絶対値に重み係数wijを乗じてシティブロック距離Cを算出してもよい(重み付けマッチング)。この場合、重み係数wijは、画素ブロックA,Bの内側に向うほど大きな値に設定する。重み付けマッチング処理の詳細については、本願出願人が既に提案した特願2001−063290号において開示されている。
【数8】
C=Σwij|aij−bij|
【0055】
【発明の効果】
本発明では、相関値の離散的な分布(第1の分布)において算出された、最高相関値をとるピクセルレベルのズレ量を、サブピクセル成分で補間することにより、サブピクセルレベルのズレ量を算出する。このサブピクセル成分は、自画像内での輝度特性の相関を示す相関値の離散的な分布に基づいて算出される。これにより、互いに相関を有する画素ブロック対のズレ量をサブピクセルレベルで精度よく算出することができる。
【図面の簡単な説明】
【図1】本実施形態にかかる画像処理装置の基本構成を示すブロック図
【図2】基準画像に設定される画素ブロックの説明図
【図3】ステレオマッチングの説明図
【図4】自画像マッチングの説明図
【図5】本実施形態にかかるサブピクセル処理を示すフローチャート
【図6】画像平面におけるシティブロック距離の分布説明図
【図7】C0≧C2における極小点周りのシティブロック距離の分布説明図
【図8】自画像マッチングのシティブロック距離の離散的な分布説明図
【図9】C0≧C2におけるサブピクセル成分の算出の説明図
【図10】C0<C2における極小点周りのシティブロック距離の分布説明図
【図11】C0<C2におけるサブピクセル成分の算出の説明図
【図12】従来のサブピクセル成分の算出の説明図
【符号の説明】
1 ステレオカメラ
1a メインカメラ
1b サブカメラ
2 画像入力部
3 ステレオ画像処理部
4 ステレオマッチング部
5 自画像マッチング部
6 サブピクセル処理部
7 画像データメモリ
8 距離データメモリ
9 認識部
Claims (10)
- 一方の撮像画像における画素ブロックと、当該画素ブロックと輝度的に対応する他方の撮像画像における画素ブロックとの画素ブロック間のピクセルレベルのズレ量を、サブピクセル成分を用いて補完して、サブピクセルレベルのズレ量を算出する画像処理装置において、
一方の撮像画像における画素ブロックを評価対象として、他方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価し、前記評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布を第1の分布として求めるとともに、前記第1の分布において相関が最も高くなる相関値を最高相関値としてピクセルレベルのズレ量を算出するステレオマッチング部と、
前記一方の画像における画素ブロックを評価対象として、当該一方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価し、前記評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布を第2の分布として求める自画像マッチング部と、
前記ステレオマッチング部によって求められた第1の分布において、前記ピクセルレベルのズレ量における最高相関値を第1の値として設定し、かつ、前記最高相関値の直前に隣接した相関値および前記最高相関値の直後に隣接した相関値の内、相関が高い方の相関値を第2の値として選択し、前記自画像マッチング部によって求められた第2の分布を連続的な分布として推定するとともに、前記第1の分布上において、前記推定された連続的な分布が、前記第1の値と前記第2の値とを含むように、前記第2の分布を設定することにより、サブピクセル成分を算出するサブピクセル処理部と
を有することを特徴とする画像処理装置。 - 前記サブピクセル処理部は、前記第2の分布において、前記評価対象となる画素ブロックと位置的に対応したズレ量に関する相関値を第3の値、当該第3の値の直前に隣接した相関値を第4の値、前記第3の値の直後に隣接した相関値を第5の値として選択し、前記第3の値と前記第4の値との間の連続的な分布を推定し、かつ、前記第3の値と前記第5の値との間の連続的な分布を推定することを特徴とする請求項1に記載された画像処理装置。
- 前記サブピクセル処理部は、前記第1の分布において、前記第2の値が前記最高相関値の直後に隣接した相関値であると判断した場合には、前記第1の値を通る、前記第3の値と前記第4の値との間の連続的な分布と、前記第2の値を通る、前記第3の値と前記第5の値との間の連続的な分布との交点に基づき、サブピクセル成分を算出し、
前記第1の分布において、前記第2の値が前記最高相関値の直前に隣接した相関値であると判断した場合には、前記第2の値を通る、前記第3の値と前記第4の値との間の連続的な分布と、前記第1の値を通る、前記第3の値と前記第5の値との間の連続的な分布との交点に基づき、サブピクセル成分を算出することを特徴とする請求項2に記載された画像処理装置。 - 前記サブピクセル算出部は、前記第3の値と前記第4の値とを線形的に近似するとともに、前記第3の値と前記第5の値とを線形的に近似することにより、前記連続的な分布を算出することを特徴とする請求項2または3に記載された画像処理装置。
- 前記サブピクセル処理部は、前記第2の値が前記最高相関値の直後に隣接した相関値であると判断した場合には、前記第1の値と前記第2の値との差分値と、前記第5の値との和を、前記第4の値と前記第5の値との和で除算することにより、前記サブピクセル成分を算出し、
前記第2の値が前記最高相関値の直前に隣接した相関値であると判断した場合には、前記第1の値と前記第2の値との差分値と、前記第4の値との和を、前記第4の値と前記第5の値との和で除算することにより、前記サブピクセル成分を算出することを特徴とする請求項2から4のいずれかに記載された画像処理装置。 - 一方の撮像画像における画素ブロックと、当該画素ブロックと輝度的に対応する他方の撮像画像における画素ブロックとの画素ブロック間のピクセルレベルのズレ量を、サブピクセル成分を用いて補完して、サブピクセルレベルのズレ量を算出する画像処理装置において、
一方の撮像画像における画素ブロックを評価対象として、他方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価し、前記評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布を第1の分布として求めるとともに、前記第1の分布において相関が最も高くなる相関値を最高相関値としてピクセルレベルのズレ量を算出するステレオマッチング部と、
前記一方の画像における画素ブロックを評価対象として、当該一方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価し、前記評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布を第2の分布として求める自画像マッチング部と、
前記ステレオマッチング部によって求められた第1の分布において、前記ピクセルレベルのズレ量における最高相関値を第1の値として設定し、かつ、前記最高相関値の直前に隣接した相関値および前記最高相関値の直後に隣接した相関値の内、相関が高い方の相関値を第2の値として選択し、前記自画像マッチング部によって求められた第2の分布を線形的な分布として推定するとともに、前記第1の分布上において、前記推定された線形的な分布が、前記第1の値と前記第2の値とを含むように、前記第2の分布を設定することにより、サブピクセル成分を算出するサブピクセル処理部と
を有することを特徴とする画像処理装置。 - 一方の撮像画像における画素ブロックを評価対象として、他方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価し、前記評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布を第1の分布として求め、前記第1の分布において相関が最も高くなる相関値を最高相関値としてピクセルレベルのズレ量を算出するとともに、当該算出されたピクセルレベルのズレ量をサブピクセル成分を用いて補完して、サブピクセルレベルのズレ量を算出する画像処理方法において、
前記一方の画像における画素ブロックを評価対象として、当該一方の撮像画像における画素ブロックとの輝度特性の相関を相関値によって評価し、前記評価対象となる画素ブロックからの画素単位のズレ量に対する相関値の離散的な分布を第2の分布として求める第1のステップと、
前記第1の分布において、前記ピクセルレベルのズレ量における最高相関値を第1の値として設定し、かつ、前記最高相関値の直前に隣接した相関値および前記最高相関値の直後に隣接した相関値の内、相関が高い方の相関値を第2の値として選択する第2のステップと、
前記求められた第2の分布を連続的な分布として推定するとともに、前記第1の分布上において、前記推定された連続的な分布が、前記第1の値と前記第2の値とを含むように、前記第2の分布を設定することにより、サブピクセル成分を算出する第3のステップと
を有することを特徴とする画像処理方法。 - 前記第3のステップは、前記第2の分布において、前記評価対象となる画素ブロックと位置的に対応したズレ量に関する相関値を第3の値、当該第3の値の直前に隣接した相関値を第4の値、前記第3の値の直後に隣接した相関値を第5の値として選択し、前記第3の値と前記第4の値との間の連続的な分布を推定し、かつ、前記第3の値と前記第5の値との間の連続的な分布を推定することを特徴とする請求項7に記載された画像処理方法。
- 前記第3のステップは、前記第2のステップにおいて、前記第2の値として前記最高相関値の直後に隣接した相関値が設定された場合には、前記第1の値を通る、前記第3の値と前記第4の値との間の連続的な分布と、前記第2の値を通る、前記第3の値と前記第5の値との間の連続的な分布との交点に基づき、サブピクセル成分を算出し、
前記第2のステップにおいて、前記第2の値として前記最高相関値の直前に隣接した相関値が設定された場合には、前記第2の値を通る、前記第3の値と前記第4の値との間の連続的な分布と、前記第1の値を通る、前記第3の値と前記第5の値との間の連続的な分布との交点に基づき、サブピクセル成分を算出することを特徴とする請求項8に記載された画像処理方法。 - 前記第3のステップは、前記第2のステップにおいて、前記第2の値として前記最高相関値の直後に隣接した相関値が設定された場合には、前記第1の値と前記第2の値との差分値と、前記第5の値との和を、前記第4の値と前記第5の値との和で除算することにより、前記サブピクセル成分を算出し、
前記第2のステップにおいて、前記第2の値が前記最高相関値の直前に隣接した相関値が設定された場合には、前記第1の値と前記第2の値との差分値と、前記第4の値との和を、前記第4の値と前記第5の値との和で除算することにより、前記サブピクセル成分を算出することを特徴とする請求項8または9に記載された画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003004272A JP2004219142A (ja) | 2003-01-10 | 2003-01-10 | 画像処理装置および画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003004272A JP2004219142A (ja) | 2003-01-10 | 2003-01-10 | 画像処理装置および画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004219142A true JP2004219142A (ja) | 2004-08-05 |
Family
ID=32895294
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003004272A Pending JP2004219142A (ja) | 2003-01-10 | 2003-01-10 | 画像処理装置および画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004219142A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006119843A (ja) * | 2004-10-20 | 2006-05-11 | Olympus Corp | 画像生成方法およびその装置 |
-
2003
- 2003-01-10 JP JP2003004272A patent/JP2004219142A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006119843A (ja) * | 2004-10-20 | 2006-05-11 | Olympus Corp | 画像生成方法およびその装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6244407B2 (ja) | 深度測定の品質の向上 | |
EP2858008B1 (en) | Target detecting method and system | |
CN105335955B (zh) | 对象检测方法和对象检测装置 | |
CN110567469A (zh) | 视觉定位方法、装置、电子设备及系统 | |
JP3054681B2 (ja) | 画像処理方法 | |
CN109155066B (zh) | 用于机动车辆的环境区域的两个图像之间的运动估计的方法,计算装置,驾驶员辅助系统以及机动车辆 | |
JP2003083742A (ja) | 監視システムの距離補正装置および距離補正方法 | |
CN104685513A (zh) | 根据使用阵列源捕捉的低分辨率图像的基于特征的高分辨率运动估计 | |
JP2008236642A (ja) | 物体追跡装置 | |
JPWO2013133129A1 (ja) | 移動物体位置姿勢推定装置及び移動物体位置姿勢推定方法 | |
JP2008064628A (ja) | 物体検出装置および物体検出方法 | |
JP4032843B2 (ja) | 監視システムおよび監視方法、当該監視システムにおける距離補正装置および距離補正方法 | |
CA3206206A1 (en) | Device and method for correspondence analysis in images | |
JP2000283753A (ja) | ステレオ画像による測距装置 | |
JP4394487B2 (ja) | ステレオ画像処理装置 | |
JP3702260B2 (ja) | 目標角速度計測装置および目標角速度計測方法 | |
JP2002267441A (ja) | ステレオマッチング方法および監視装置 | |
CN104471436B (zh) | 用于计算对象的成像比例的变化的方法和设备 | |
US9538161B2 (en) | System and method for stereoscopic photography | |
JP2009129318A (ja) | 画像処理装置 | |
JPH0814861A (ja) | 3次元形状の計測方法及び装置 | |
JP4150218B2 (ja) | 地形認識装置および地形認識方法 | |
JP4605582B2 (ja) | ステレオ画像認識装置及びその方法 | |
JP2004219142A (ja) | 画像処理装置および画像処理方法 | |
JP5903901B2 (ja) | 車両位置算出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051007 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070608 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070724 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20071114 |