JP2004132870A - ステレオカメラの調整装置およびステレオカメラの調整方法 - Google Patents
ステレオカメラの調整装置およびステレオカメラの調整方法 Download PDFInfo
- Publication number
- JP2004132870A JP2004132870A JP2002298663A JP2002298663A JP2004132870A JP 2004132870 A JP2004132870 A JP 2004132870A JP 2002298663 A JP2002298663 A JP 2002298663A JP 2002298663 A JP2002298663 A JP 2002298663A JP 2004132870 A JP2004132870 A JP 2004132870A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- calibration
- pair
- image
- stereo camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
【解決手段】補正部13は、所定のパターンを有するチャートACをステレオカメラで撮像することによって出力された一対の画像データを処理対象として、画像データ毎に、画像データによって規定される画像平面に写し出されたパターンが、チャートが有する所定のパターンに近づくように画像データを変換する補正パラメータを算出する。なお、この補正パラメータは、少なくとも、カメラの光学的な歪みに起因した画像データの歪みを正す。また、校正部14は、算出された補正パラメータによって変換された一対の画像データに関する画像の特性を拘束条件として、一対のカメラの位置的ずれに起因した一対の画像データのずれを正す校正パラメータを算出する。
【選択図】 図1
Description
【発明の属する技術分野】
本発明は、一対のカメラから構成されるステレオカメラの調整装置および調整方法に関する。本発明は、特に、ステレオカメラから出力される一対の画像データのそれぞれを、パラメータを用いて変換することにより、ステレオカメラの光学的な歪みと位置的なずれと画像処理によって調整する手法に好適である。
【0002】
【従来の技術】
近年、車外監視、踏切監視、地形認識または高度計測といった様々な用途において、ステレオ式監視装置が注目・実用化されている。この類の監視装置では、対象物の認識・監視を行う前提として、距離データである視差を算出する必要がある。視差は、ステレオカメラより得られる一対の撮像画像(ステレオ画像)に基づき、ステレオマッチング処理を行うことによって算出される。
【0003】
ところで、このような監視装置では、ステレオカメラの取り付け位置に関して高レベルの精度が要求される。なぜなら、ステレオカメラの取り付け位置にずれ、すなわち、一対のカメラの相対的な位置にずれ(位置的なずれ)が生じると、それぞれのカメラの撮像方向がずれてしまい、算出された距離データに悪影響を及ぼしてしまうからである。特に、カメラの上下方向・回転方向の並進ずれは、各画像における同一水平ライン(エピポーラライン)のずれとなって現れる。そのため、エピポーララインの一致を前提としたステレオマッチングにおいて、この不一致は、距離データの信頼性の低下につながる。そこで、従来より、ステレオカメラの位置的なずれに起因した画像間のずれを正す技術が提案されている(例えば、特許文献1参照)。
【0004】
また、ステレオカメラでは、カメラの光学的な歪み、例えば、レンズの歪みや、撮像素子の受光面のあおりなどに起因して、それぞれの撮像画像に非線形な歪みが生じることがある。これらの歪みは、ステレオマッチングを行う際に、エピポーララインの歪みとなって現われる。上記ステレオマッチングでは、このような歪みも、距離データの信頼性の低下につながる。そこで、従来より、光学的な歪みに起因した画像の歪みを正す技術が提案されている(例えば、特許文献2参照)。
【0005】
【特許文献1】
特開平10−115506号公報
【特許文献2】
特開平11−325889号公報
【0006】
【発明が解決しようとする課題】
このように、ステレオマッチング処理を行う前提として、カメラ光学的な歪みに起因した画像の歪み、および、ステレオカメラの位置的なずれに起因した画像のずれを正すことは、算出される距離データの信頼性向上を図る上で重要である。
【0007】
本発明は、かかる事情に鑑みてなされたものであり、その目的は、ステレオカメラの光学的な歪みと位置的なずれとを画像処理によって調整する新規な手法を提供することである。
【0008】
また、本発明の別の目的は、ステレオカメラのバラツキ調整を行うことにより、算出される距離データの信頼性向上を図ることである。
【0009】
【課題を解決するための手段】
かかる課題を解決するために、第1の発明は、ステレオカメラを構成する一対のカメラから出力された一対の画像データのそれぞれを、パラメータを用いて変換することにより、ステレオカメラの光学的な歪みと位置的なずれとを画像処理によって調整するステレオカメラの調整装置を提供する。このステレオカメラの調整装置は、補正部と、校正部とを有する。ここで、補正部は、所定のパターンを有するチャートをステレオカメラで撮像することによって出力された一対の画像データを処理対象として、画像データ毎に、画像データによって規定される画像平面に写し出されたパターンが、チャートが有する所定のパターンに近づくように画像データを変換する補正パラメータを算出する。ここで、この補正パラメータは、少なくとも、カメラの光学的な歪みに起因した画像データの歪みを正す。また、校正部は、算出された補正パラメータによって変換された一対の画像データに関する画像の特性を拘束条件として、一対のカメラの位置的ずれに起因した一対の画像データのずれを正す校正パラメータを算出する。
【0010】
ここで、第1の発明において、補正部は、画像データによって規定される画像平面においてパターンの座標を検出するとともに、検出されたパターンの座標と、予め定められた所定のパターンを表わす目標座標とに基づいて、検出されたパターンの座標が目標座標に近づくような補正パラメータを算出する。
【0011】
また、第1の発明において、拘束条件は、一方のカメラを基準とした他方のカメラの回転ずれがないことであることが好ましい。
【0012】
第1の発明において、拘束条件は、一対のカメラのそれぞれの焦点距離が等しいことであることが好ましい。
【0013】
第1の発明において、拘束条件は、一対のカメラのそれぞれの垂直方向と水平方向との拡大比が等しいことであることが望ましい。
【0014】
また、第1の発明において、一対のカメラの位置的なずれは、一方のカメラを基準とした他方のカメラの並進ずれであることが好ましい。
【0015】
また、第1の発明において、校正部は、一対の画像データのそれぞれ等しい回転と、一方の画像データを基準とした他方の画像データの垂直方向への並進とを含む校正パラメータを算出することが好ましい。
【0016】
また、第1の発明において、校正部は、上記拘束条件を反映させたFマトリックスを用いて、校正パラメータを算出することが好ましい。
【0017】
この場合、校正部は、異なる距離に配置された2つ以上の対象物をステレオカメラで撮像することによって出力された一対の画像データのそれぞれにおいて、対象物のそれぞれに関する一方の画像データと他方の画像データとの座標のずれを算出し、水平方向および垂直方向の座標のずれ量を基準とした二次元平面において、対象物のそれぞれについて算出された座標のずれに関する近似直線を算出するとともに、近似直線に基づき、校正パラメータを算出することが好ましい。
【0018】
第2の発明は、ステレオカメラを構成する一対のカメラから出力された一対の画像データのそれぞれを、パラメータを用いて変換することにより、ステレオカメラの光学的な歪みと位置的なずれとを画像処理によって調整するステレオカメラの調整方法を提供する。このステレオカメラの調整方法では、第1のステップとして、少なくとも、カメラの光学的な歪みに起因した画像データの歪みを正す補正パラメータであって、所定のパターンを有するチャートをステレオカメラで撮像することによって出力された一対の画像データを対象として、画像データ毎に、画像データによって規定される画像平面に写し出されたパターンが、チャートが有する所定のパターンに近づくように画像データを変換する補正パラメータを算出する。そして、第2のステップとして、算出された補正パラメータによって変換された一対の画像データに関する画像の特性を拘束条件として、一対のカメラの位置的ずれに起因した一対の画像データのずれを正す校正パラメータを算出する。
【0019】
ここで、第2の発明において、第1のステップは、画像データによって規定される画像平面においてパターンの座標を検出するとともに、検出されたパターンの座標と、予め定められた所定のパターンを表わす目標座標とに基づいて、検出されたパターンの座標を目標座標に近づけるような補正パラメータを算出することが好ましい。
【0020】
また、第2の発明において、一対のカメラの位置的なずれは、一方のカメラを基準とした他方のカメラの並進ずれであることが好ましい。
【0021】
また、第2の発明において、第2のステップは、一対の画像データのそれぞれ等しい回転と、一方の画像データを基準とした他方の画像データの垂直方向への並進とを含む校正パラメータを算出することが好ましい。
【0022】
さらに、第2の発明において、第2のステップは、拘束条件を反映させたFマトリックスを用いて、校正パラメータを算出することが好ましい。
【0023】
この場合、第2のステップは、異なる距離に配置された2つ以上の対象物を撮像することによって出力された一対の画像データのそれぞれにおいて、対象物のそれぞれに関する一方の画像データと他方の画像データとの座標のずれを算出するステップと、水平方向および垂直方向の座標のずれ量を基準とした二次元平面において、対象物のそれぞれについて算出された座標のずれに関する近似直線を算出するステップと、算出された近似直線に基づき、校正パラメータを算出するステップとを有することが望ましい。
【0024】
【発明の実施の形態】
(第1の実施形態)
図1は、本実施形態にかかるステレオカメラの調整装置を示すブロック図である。本実施形態にかかるステレオカメラの調整装置1(以下、単に「調整装置1」と称する)は、一例として、自車両前方の走行状況を監視するステレオ式車外監視装置の一部として機能している。この調整装置1は、製品の出荷前(或いは、定期点検時)に行われる調整行程において、ステレオカメラの光学的な歪みと位置的なずれとを画像処理によって調整する。ここで、本明細書において、補正とは、主として、カメラ2,3の光学的な歪みに起因した画像の歪みを正すことをいう。また、校正とは、ステレオカメラを構成するカメラ2,3の位置的なずれに起因した画像間の位置ずれを正すことをいう。
【0025】
車外の景色を撮像するステレオカメラは一対のカメラ2,3で構成されており、これらのカメラ2,3は所定のカメラ基線長だけ離間された状態で、ルームミラーの近傍に取り付けられている。カメラ2,3のそれぞれには、イメージセンサ(CCDセンサまたはCMOSセンサ等)が内蔵されている。メインカメラ2は、ステレオ画像処理を行う際に必要な基準画像(右画像)を撮像し、サブカメラ3は、比較画像(左画像)を撮像する。互いの同期が取れている状態において、カメラ2,3から出力された各アナログ画像は、A/Dコンバータ4,5により、所定の輝度階調(例えば、256階調のグレースケール)のデジタル画像に変換される。デジタル化された一対の画像データにおいて、画像データによって規定される画像平面はi−j座標系で表現され、画像の左下隅を原点として、水平方向をi座標軸、垂直方向をj座標軸とする。このようなデジタル化を経て、メインカメラ2より基準画像データが得られ、サブカメラ3より比較画像データが得られる。
【0026】
歪補正部6は、補正パラメータに基づいて、基準画像データと比較画像データとをそれぞれ変換する。この補正パラメータは、カメラの光学的な歪みに起因した画像データの歪みを正す(すなわち、補正する)。具体的には、基準画像データを構成するある画素点の座標(iR,jR)は、基準画像データ用の補正パラメータ(ΔIR(iR),ΔJR(jR))に基づき、その画像平面上の座標位置が変換される。これにより、ある画素点の座標(iR,jR)は、(iR+ΔIR(iR),jR+ΔJR(jR))の座標位置にシフトする。同様に、比較画像データにおけるある画素点の座標(iL,jL)は、比較画像データ用の補正パラメータ(ΔIL(iL),ΔJL(jL))に基づき、その画像平面上の座標位置が変換される。これらの変換によって、基本的に、個々のカメラ2,3の光学的な歪みに起因した画像の歪みが補正される。これらの補正パラメータ(ΔIR(iR),ΔJR(jR)),(ΔIL(iL),ΔJL(jL))はマップ或いは計算式として歪補正部6に保持されており、後述する前段の補正部13によって調整工程時に作成(或いは、更新)され、歪補正部6に対してフィードバックされる。
【0027】
歪補正部6において変換が施された一対の画像データのそれぞれは、アフィン変換部7,8において、再度、画像の変換が行われる。通常、一対のカメラ2,3の位置は、程度の差はあるものの誤差(すなわち、位置的なずれ)が存在するため、それに起因したずれが左右の各画像に生じている。このずれを校正するために、アフィン変換等を用いて、画像の回転や平行移動等の変換が行われる。数式1は、アフィン変換の基本形を示す。なお、本明細書では、「アフィン変換」という用語を、画像データを回転、移動または拡大・縮小する座標変換を総称する意味で用いる。
【数1】
【0028】
同数式において、アフィンパラメータSHFTI,SHFTJはそれぞれ、i方向(画像の水平方向)への移動、j方向(画像の垂直方向)への移動を表している。また、アフィンパラメータθ,Kはそれぞれθの回転、K倍の角度(|K|<1の場合は縮小)を示している。換言すれば、それぞれのアフィンパラメータSHFTI,SHFTJ,θ,Kは、一対のカメラ2,3の位置的なずれに起因した一対の画像データのずれを校正する校正パラメータとして機能している。
【0029】
メインカメラ2の出力側に設けられたアフィン変換部7は、数式1に示す関係式に基づき、基準画像データにおけるある画素点の座標(iR,jR)を変換する。また、サブカメラ3の出力側に設けられたアフィン変換部8は、数式1に示す関係式に基づき、比較画像データにおけるある画素点の座標(iL,jL)を変換する。これらのアフィンパラメータSHFTI,SHFTJ,θ,K、すなわち、校正パラメータは、マップ或いは計算式としてアフィン変換部7,8のそれぞれに保持されている。この校正パラメータは、後述する前段の校正部14によって調整工程時に決定(或いは、更新)され、アフィン変換部7,8のそれぞれに対してフィードバックされる。ただし、本実施形態では、各アフィン変換部7,8にフィードバックされる校正パラメータは、基準画像用の校正パラメータθR、および、比較画像用の校正パラメータθL,SHFTJLのみである。この場合、これら以外のフィードバックされない校正パラメータ(基準画像用の校正パラメータKR,SHFTIR,SHFTJR、比較画像用の校正パラメータKL,SHFTIL)は、所定の基準値を用いる(例えば、KR,KL=1,SHFTIR,SHFTJR,SHFTIL=0)。
【0030】
このように、歪補正部6における補正とアフィン変換部7,8における校正とによって(より正確には、歪補正部6およびアフィン変換部7,8による画像データの変換によって)、基準画像と比較画像とにおけるエピポーララインの一致が保証される。そして、一フレーム(一画像の表示単位)相当の一対の画像データは、後段のステレオ画像処理部9に出力されるとともに、画像データメモリ11に格納される。
【0031】
ステレオ画像処理部9は、基準画像データと比較画像データとに基づいて、一フレーム相当の撮像画像に関する距離データを算出する。ここで、「距離データ」とは、画像データによって規定される画像平面において小領域毎に算出された視差dの集合であり、個々の視差dは画像平面上の位置(i,j)と対応付けられている。それぞれの視差dは、基準画像の一部を構成する所定面積(例えば、4×4画素)の画素ブロック毎に1つ算出される。
【0032】
図2は、基準画像に設定される画素ブロックの説明図である。例えば、基準画像が200×512画素で構成されている場合、一フレーム相当の撮像画像から、画素ブロックPBijの個数相当(50×128個)の視差群が算出され得る。周知のように、視差dは、その算出単位である画素ブロックPBijに関する水平方向のずれ量であり、画素ブロックPBijに写し出された対象物までの距離と大きな相関がある。すなわち、画素ブロックPBij内に写し出されている対象物がカメラ2,3に近いほど、この画素ブロックPBijの視差dは大きくなり、対象物が遠いほど視差dは小さくなる(無限に遠い場合、視差dは0になる)。
【0033】
ある画素ブロックPBij(相関元)に関する視差dを算出する場合、この画素ブロックPBijの輝度特性と相関を有する領域(相関先)を比較画像において特定する。上述したように、カメラ2,3から対象物までの距離は、基準画像と比較画像との間における水平方向のずれ量として現れる。したがって、比較画像において相関先を探索する場合、相関元となる画素ブロックPijのj座標と同じ水平線(エピポーラライン)上を探索すればよい。ステレオ画像処理部9は、相関元のi座標を基準に設定された所定の探索範囲内において、エピポーラライン上を一画素ずつシフトしながら、相関元と相関先の候補との間の相関性を順次評価する(ステレオマッチング)。そして、原則として、最も相関が高いと判断される相関先(相関先の候補の内のいずれか)の水平方向のずれ量を、その画素ブロックPBijの視差dとする。
【0034】
2つの画素ブロックの相関は、例えば、シティブロック距離CBを算出することにより評価することができる。数式2は、シティブロック距離CBの基本形を示す。同数式において、p1ijは一方の画素ブロックのij番目の画素の輝度値であり、p2ijは他方の画素ブロックのij番目の輝度値である。シティブロック距離CBは、位置的に対応した輝度値p1ij,p2ijの差(絶対値)の画素ブロック全体における総和であって、その差が小さいほど両画素ブロックの相関が大きいことを意味している。
【数2】
【0035】
基本的に、エピポーラライン上に存在する画素ブロック毎に算出されたシティブロック距離CBのうち、その値が最小となる画素ブロックが相関先と判断される。このようにして特定された相関先と相関元との間のずれ量が視差dとなる。なお、シティブロック距離CBを算出するステレオ画像処理部9のハードウェア構成については、特開平5−114099号公報に開示されているので、必要ならば参照されたい。このような処理を経て算出された距離データ、すなわち、画像上の位置(i,j)と対応付けられた視差dの集合は、距離データメモリ10に格納される。
【0036】
マイクロコンピュータ12は、CPU、ROM、RAM、入出力インターフェース等で構成されているが、これを機能的に捉えた場合、補正部13と、校正部14と、認識部15とを有する。
【0037】
マイクロコンピュータ12の機能的な要素のうち、補正部13および校正部14は、調整装置1としての主要な機能を担っており、調整工程において、ステレオカメラの光学的な歪みと位置的なずれと画像処理によって調整する。補正部13および校正部14は、予めプログラムされた調整ルーチンをそれぞれ実行する。これにより、一対の画像データを処理対象として、画像データの歪みを補正する補正パラメータ、および、一対の画像のずれを校正する校正パラメータをそれぞれ算出する。
【0038】
補正部13は、所定のパターンを有するチャートをステレオカメラで撮像することによって出力された一対の画像データを処理対象として、画像データ毎に、補正パラメータを算出する。この補正パラメータは、画像データによって規定される画像平面に写し出されたパターンが、チャートが有する所定のパターンに近づくように画像データを変換する。具体的には、本実施形態において、補正部13は、後述するようなパターンを有する補正用チャートACをステレオカメラで撮像することによって得られた一対の画像データを処理対象として、画像データ毎に、画像平面上においてパターンの座標を検出する。そして、検出されたパターンの座標と、予め定められた所定のパターンを表わす目標座標とに基づいて、検出されたパターンの座標が目標座標に近づくような補正パラメータが算出される。これにより、基準画像データを対象とした補正パラメータ(ΔIR(iR),ΔJR(jR))と、比較画像データを補正対象とした補正パラメータ(ΔIL(iL),ΔJL(iL))とがそれぞれ算出される。そして、算出されたこれらの補正パラメータ(ΔIR(iR),ΔJR(jR)),(ΔIL(iL),ΔJL(iL))が、歪補正部6に対してそれぞれフィードバックされる。
【0039】
校正部14は、算出された補正パラメータによって変換された一対の画像データ、すなわち、メインカメラ2の出力画像が基準画像用の補正パラメータ(ΔIR(iR),ΔJR(jR))で変換された画像データと、サブカメラ3の出力画像が比較画像用の補正パラメータ(ΔIL(iL),ΔJL(iL))で変換された画像データとを処理対象として、次のことを行う。まず、一対の画像データに関する画像の特性を拘束条件として、一対の撮像データのずれを校正する校正パラメータが算出される。本明細書では、「拘束条件」という用語を、画像の歪みや位置ずれのうち補正によって制限される条件という意味で用いる。本実施形態では、基準画像データを校正対象とした校正パラメータθRと、比較画像データを校正対象とした校正パラメータθL,SHFTJLとがそれぞれ算出される。そして、基準画像データ用の校正パラメータθRがアフィン変換部7に対してフィードバックされ、また、比較画像データ用の校正パラメータθLがアフィン変換部8に対してフィードバックされる。
【0040】
なお、本実施形態の特徴の一つは、このような補正および校正からなるステレオカメラの調整手法にあり、その詳細な処理の内容については後述する。
【0041】
認識部16は、このようなステレオカメラの調整工程が行われた後の稼働状態において、ステレオ式車外監視装置としての主要な機能を担う。具体的には、認識部16は、道路形状(白線)や車両前方の立体物(走行車)等の対象物を認識する。そして、これらの認識結果に基づいて、前方のカーブや立体物に対する警報が必要と判定された場合、モニタやスピーカー等の警報装置(図示せず)を作動させることにより、ドライバーに対する注意が喚起される。また、必要に応じて制御装置(図示せず)を制御することにより、AT(自動変速機)のシフトダウンやエンジン出力の抑制、或いはブレーキの作動といった車両制御が実行される。
【0042】
対象物の認識は、距離データメモリ10に格納された距離データに基づき、距離データ(i,j,d)を数式3に示す周知の座標変換式で実空間の座標系(X,Y,Z)に変換し、空間を三次元認識することによって行われる。自車両の位置を基準に設定された実空間の座標系(X,Y,Z)は、ステレオカメラの中央真下の道路面を原点として、車幅方向をX軸、車高方向をY軸、車長方向(距離方向)をZ軸とする。ここで、数式3において、KZHは、所定の定数(カメラ基線長/水平視野角)である。また、Dpは、消失点視差であり、本実施形態において補正可能な値である。定数CAHはステレオカメラの取付高さ、定数rはカメラ2,3の取り付け間隔、定数PWV,PWHはそれぞれ1画素当たりの垂直視野角、水平視野角である。定数IV,JVはそれぞれ予め設定された消失点Vのi座標値、j座標値である。
【数3】
【0043】
なお、認識部16は、これらの認識に際し、画像データメモリ11中に記憶された画像データ(例えば、基準画像データ)をさらに利用してもよい。また、図示していない車速センサや舵角センサからのセンサ情報、或いはナビゲーション情報等も必要に応じて参照される。
【0044】
以下、本実施形態にかかるステレオカメラの調整手順を説明する。この調整手順には、補正部13によって実行される補正プロセスと、この補正プロセスを前提条件として校正部14によって実行される校正プロセスとの2つプロセスが含まれる。
【0045】
まず、校正プロセスの前提条件である、補正プロセスについて説明する。図3は、ステレオカメラの調整手順における補正プロセスの手順を示すフローチャートである。まず、オペレータは、補正プロセスの開始に先立ち、補正用チャートACを車両前方の所定位置に配置しておく。図4は、補正用チャートACの位置と検査対象であるステレオカメラ(車両)との関係を示した図である。同図において、補正用チャートACの取付位置は、ステレオカメラの取り付け位置からの距離ZがZ1、地面から補正用チャートACの中央点までの高さYがY1、そしてXが0である。このとき、補正用チャートACは、カメラ2,3のカメラ基線と概ね平行となるように配置される。このような状態で補正用チャートACをカメラ2,3で撮像することにより、撮像画像に補正用チャートACが写し出される。
【0046】
ここで、図5は、補正プロセスにおいて用いられる補正用チャートACの一例を示す説明図である。この補正用チャートACには、複数の垂直線と複数の水平線とが等間隔で配置された格子状パターンが描かれている。垂直線(以下、「垂直格子線」と称する)のそれぞれ、或いは、水平線(以下、「水平格子線」と称する)のそれぞれは、予め設定した間隔、例えば、カメラ基線長の整数分の一の間隔で隣接している。本実施形態において、画像平面上のパターンの座標を検出するべく、補正部13は、格子状パターンのうち特徴となり得る格子点(垂直格子線と水平格子線との交点)に注目してその座標を検出する。そのため、格子点の検出精度および歪み補正の精度を考慮した上で、撮像画像に補正用チャートACが写し出された状態で、格子線の間隔が8〜20画素となる程度に設定される。また、格子状パターンを構成する格子線の幅は、格子線が画像で見える程度で、十分な細さを有するように設定されており、例えば、補正用チャートACが写し出された状態で、その間隔が1.5画素程度となるように設定される。
【0047】
また、補正用チャートACには、カメラ2,3の間隔(カメラ基線長)と概ね同じ間隔の格子位置に、メインマークMmとサブマークMsとが描かれている。これらのマークMm,Msは、格子状パターンの格子線に影響を与えない程度の形状(格子点とオーバーラップしない大きさ)に設定され、本実施形態では、それぞれが4つの円形マークより構成されている。右側のメインマークMmは、メインカメラ2と位置的に対応する垂直格子線Lvmと中央の水平格子線Lhcとの格子点周り配置されている。また、左側のサブマークMsは、サブカメラ3と位置的に対応する垂直格子線Lvsと水平格子線Lhcとの格子点周り配置される。これらのマークMm,Msは、格子点検出の開始位置を規定する役割を果たし、同図に示す例では、メインマークMmとサブマークMsとで同一の図柄となっている。
【0048】
再び図3を参照し、まず、ステップ10において、初期化作業が行われ、歪補正部6に設定されている補正パラメータと、アフィン変換部7,8に設定されている校正パラメータとがリセットされる。ステップ10に続くステップ11において、補正用チャートACを撮像した基準画像(右画像)データと比較画像(左画像)データとが読み込まれる。
【0049】
ステップ12において、基準画像データを処理対象として、補正用チャートACにおいてメインマークMmが周囲に配置された格子点(以下、「メイン格子点」と称する)の座標が検出される。このステップ12では、メイン格子点の座標を求める前提として、まず、メインカメラ2とメインマークMmとの位置関係に基づき、基準画像データによって規定される画像平面(以下、単に「基準画像平面」と称する)において、メイン格子点が存在するであろう領域に、所定面積の探索範囲が設定される。この探索範囲の面積は、画像平面において一つの格子点のみを含み得るような大きさとして決定されている。そして、シティブロック距離CBなどを用い、この探索範囲内の全域に渡り水平/垂直方向に一画素ずつオフセットさせながら、図6(a)に示す評価パターンP1と最も高い相関を有する画像領域を特定する(二次元マッチング)。これにより、特定された画像領域に対応する基準画像平面の座標位置が、メイン格子点の座標として検出される。
【0050】
このステップ12に示す処理において、メイン格子点の座標は、補正プロセスの精度向上を図るためにも、サブピクセル成分を補間することで、一画素単位以下(サブピクセルレベル)の分解能で求めることが好ましい。例えば、このサブピクセル成分は、シティブロック距離CBの分布の対称性に基づき、シティブロック距離CBの分布から極小値の位置を推定し、直線近似等によって極小点の座標を算出することによって求めるといった如くである。なお、サブピクセル成分を求める手法については、本出願人によって既に提案された特開2000−283753号公報および特願2001−296245号に開示されているので、必要ならば参照されたい。
【0051】
ステップ13において、比較画像データを処理対象として、補正用チャートACにおいてサブマークMsが周囲に配置された格子点(以下、「サブ格子点」と称する)の座標が検出される。このステップ13では、サブ格子点の座標を求める前提として、まず、サブカメラ2とサブマークMsとの位置関係に基づき、比較画像データによって規定される画像平面(以下、単に「比較画像平面」と称する)において、サブ格子点が存在するであろう領域に、所定面積の探索範囲が設定される。そして、ステップ12で示した処理と同様に、この探索範囲内において、評価パターンP1と最も高い相関を有する画像領域を特定することにより、サブ格子点の座標がサブピクセルレベルで求められる。
【0052】
ステップ14において、再び基準画像データを処理対象として用い、メイン格子点の座標位置を基準として、基準画像平面に存在する格子点の座標が検出される。この処理では、まず、メイン格子点の座標位置を基準として、既知の格子線間隔に基づき、メイン格子点に隣接する格子点が存在するであろう所定の相対位置に、探索範囲が設定される。そして、この探索範囲内の全域に亘り水平/垂直方向に一画素ずつオフセットさせながら、図6(b)に示す評価パターンP2と最も高い相関を有する画像領域を特定する(二次元マッチング)。これにより、特定された画像領域に対応する基準画像平面の座標位置が、格子点の座標として検出される。そして、検出された新たな格子点の座標を基準として、この格子点に隣接する格子点の座標を順次検出することにより、垂直格子線と水平格子線との交点数相当の格子点の座標が検出される。
【0053】
ステップ15において、比較画像データを処理対象として、比較画像平面に存在する格子点の座標のそれぞれが検出される。この処理では、ステップ14で示す処理と同様に、まず、サブ格子点の座標位置を基準として、サブ格子点と隣接する格子点の座標が検出される。そして、新たに検出された格子点の座標を基準として、この格子点に隣接する格子点の座標を順次検出することにより、垂直格子線と水平格子線との交点数相当の格子点の座標が検出される。
【0054】
そして、ステップ16において、基準画像平面に関して検出された格子点の座標のそれぞれと、予め定められたパターンを表わす目標座標(正確には、格子点を表す目標座標のそれぞれ)とに基づいて、基準画像データの座標を補正する補正パラメータが算出される。ここで、この目標座標とは、光学的な歪みが全く存在しないような理想的なカメラで補正用チャートACを撮像した場合に検出される格子点(すなわち、所定のパターン)の座標をいう。例えば、目標座標は、補正用チャートACのパターンと、この補正用チャートACとステレオカメラとの間の距離Z1およびカメラの焦点距離とに基づき、理論的に算出することができる。
【0055】
このステップ16に示す処理では、まず、目標座標と、基準画像平面で検出された格子点の座標とにおいて、位置的に対応する格子点同士が対応付けられる。つぎに、格子点のそれぞれを処理対象として、検出された格子点の座標と、この格子点に対応付けられた目標座標との座標相当の差分値が算出される。そして、算出された差分値のうち、i軸方向の差分値をΔIR、j軸方向の差分値をΔJRとして、これらの差分値ΔIR,ΔJRが、処理対象となる格子点の座標(iR,jR)に関する補正パラメータ(ΔIR,ΔJR)として決定される。
【0056】
そして、ステップ17において、比較画像平面に関して検出された格子点の座標のそれぞれと、予め定められたパターンを表わす目標座標のそれぞれとに基づいて、比較画像データの座標を補正する補正パラメータが算出される。このステップ17では、ステップ16で示す処理と同様に、検出された格子点の座標と、この格子点と対応付けられた目標座標との座標相当の差分値ΔiL,ΔjLが、格子点の座標(iL,jL)に関する補正パラメータ(ΔIL,ΔJL)として決定される。
【0057】
つぎに、ステップ18では、基準画像データにおいて、格子点外の基準画像平面の座標について、補正パラメータ(ΔIR,ΔJR)が算出される。具体的には、格子点外の座標の周囲に存在する格子点の座標に関して求められた差分値ΔiR,ΔjRに基づき、補間計算によって、補正パラメータ(ΔIR,ΔJR)が算出される。そして、ステップ16およびステップ18で示す処理により、基準画像平面のすべてにおいて、ある座標(iR,jR)に関する補正パラメータが、(ΔI(iR),ΔJ(jR))として算出される。
【0058】
また、ステップ19では、ステップ18に示す処理と同様に、比較画像データにおいて、格子点外の比較画像平面の座標について、補正パラメータ(ΔIL,ΔJL)が算出される。そして、ステップ17およびステップ19で示す処理により、比較画像平面のすべてにおいて、ある座標(iL,jL)に関する補正パラメータが、(ΔIL(iL),ΔJL(jL))として算出され、本ルーチンを抜ける。
【0059】
以上の補正プロセスにより、算出された補正パラメータ(ΔIR(iR),ΔJR(jR))、(ΔIL(iL),ΔJL(jL))が歪補正部6に対してフィードバックされる。そして、この補正プロセス以降に出力される画像データのそれぞれは、これらの補正パラメータに基づいて、その座標位置が変換される。このような変換が施された画像データでは、補正パラメータ(ΔI(iR),ΔJ(jR))(或いは、(ΔI(iL),ΔJ(jL)))が、検出された格子点の座標を目標座標に近づけるように作用するため、光学的な歪みに起因した画像の歪みが解消されることとなる。
【0060】
上述した補正プロセスの終了に続いて、校正部14は、校正プロセスを実行する。図7は、ステレオカメラの調整手順における校正プロセスの手順を示すフローチャートである。まず、オペレータは、校正プロセスの開始に先立ち、少なくとも2つ以上の校正用チャートCC(本実施形態では、校正用チャートCC1〜CC3の3つ)のそれぞれをステレオカメラの前方に異なる距離Zで配置しておく。ここで、図8は、校正用チャートCC1〜CC3の位置と検査対象であるステレオカメラ(車両)との関係を示した図である。同図に示すように、車長方向(Z軸)に関して、カメラ2,3から遠ざかる方向に、校正用チャートCC1、CC2、CC3の順番で、校正用チャートCC1〜CC3のそれぞれが配置されている。また、これらの校正用チャートCC1〜CC3は、これらのチャートCC1〜CC3が画像に写し出された際に、画像平面内においてチャートCC1〜CC3のそれぞれが重ならないような状態で配置されている。
【0061】
これらの校正用チャートCC1〜CC3には、画像に写し出されたチャートCC1〜CC3のそれぞれに対して二次元マッチングを行う関係上、それぞれユニークなパターンが描かれている。図8に示す例において、これらの校正用チャートCC1〜CC3には、内側と外側とで異なる輝度階調の同心円状(二重丸)のパターンが描かれており、校正用チャートCC1,CC2,CC3のそれぞれは、内側の円の輝度階調で相違している。
【0062】
再び図7を参照し、まず、ステップ20において、初期化作業が行われ、アフィン変換部7,8に設定されているそれぞれの校正パラメータの値がリセットされる。ステップ20に続くステップ21において、校正用チャートCC1〜CC3を撮像した基準画像(右画像)データと比較画像(左画像)データとが読み込まれる。
【0063】
ステップ22において、基準画像データを処理対象として、基準画像平面に写し出された校正用チャートCC1〜CC3の座標のそれぞれが検出される。このステップ22では、まず、校正用チャートCC1〜CC3のそれぞれに対応した輝度特性を有する評価パターンを用いて、基準画像平面の全域に亘り水平/垂直方向に一画素ずつオフセットさせながら、二次元マッチングを行う。これにより、それぞれの評価パターンと最も高い相関を有する画像領域が特定される。そして、特定された画像領域のそれぞれに対応する基準画像平面の座標位置が、校正用チャートCC1〜CC3の座標としてそれぞれ特定される。ここで、校正用チャートCC1が写し出された基準画像平面の座標を(iR1,jR1)とし、校正用チャートCC2,CC3が写し出された基準画像平面の座標のそれぞれを(iR2,jR2),(iR3,jR3)とする。これらの座標(iR1,jR1),(iR2,jR2),(iR3,jR3)は、サブピクセルレベルで算出することが望ましい。
【0064】
そして、ステップ23において、比較画像データを処理対象として、比較画像平面に写し出された校正用チャートCC1〜CC3のそれぞれの座標を、二次元マッチングを用いて検出する。これにより、校正用チャートCC1が写し出された比較画像平面の座標が(iL1,jL1)として検出され、校正用チャートCC2,CC3が写し出された比較画像平面の座標のそれぞれが(iL2,jL2),(iL3,jL3)として検出される。
【0065】
ステップ24において、校正用チャートCC1〜CC3のそれぞれを処理対象として、基準画像平面での座標と比較画像平面での座標との位置ずれ(Δi,Δj)が算出される。本実施形態では、校正用チャートCC1に関する位置ずれ(Δi1,Δj1)、および、校正用チャートCC2,CC3に関する位置ずれ(Δi2,Δj2),(Δi3,Δj3)のそれぞれが算出される。
【0066】
そして、ステップ25において、ΔiとΔjとによって規定される二次元平面、すなわち、水平方向および垂直方向の座標のずれ量を基準とした二次元平面において、それぞれの位置ずれの点(Δi1,Δj1),(Δi2,Δj2),(Δi3,Δj3)を最小二乗法などを用いて直線近似する。これにより、以下に示す数式を満たす変数α,βが算出される(図9参照)。
【数4】
【0067】
ステップ26では、算出された変数α,βを用いて、校正パラメータ(すなわち、アフィンパラメータ)θ,SHFTJを下式に基づき算出する。ここで、θは基準画像データおよび比較画像データに関する等しい回転を示し、SHFTJは一方の画像データ(本実施形態では、比較画像データ)に関するi方向(画像の水平方向)への移動を示す。
【数5】
【0068】
そして、ステップ27において、算出された校正パラメータθが所定の閾値θthと比較されるとともに、校正パラメータSHFTJが所定の閾値SHFTJthと比較される。ここで、この所定の閾値θthおよびSHFTJthは、一対の画像データ間のずれが補正するには至らないとみなせる程度の最大値として決定されている。したがって、このステップ27で、校正パラメータθが所定の閾値θthよりも大きい場合、或いは、校正パラメータSHFTJが所定の閾値SHFTJthよりも大きい場合には、肯定判定され、後段のステップ28に進む。すなわち、このステップ27で肯定判定された場合には、校正を必要とする程度に画像間がずれていると判断する。これにともない、基準画像データに関する校正パラメータθRとして、ステップ26で算出されたθの値がセットされる。また、比較画像データに関する校正パラメータθL,SHFTJLとして、ステップ26において算出されたθ,SHFTJの値がそれぞれセットされる(ステップ28)。
【0069】
一方、このステップ27で、校正パラメータθが所定の閾値θth以下で、かつ、校正パラメータSHFTJが所定の閾値SHFTJth以下の場合には、校正を必要とする程度に画像間がずれていないと判断する。この場合には、後段のステップ29に進む。
【0070】
そして、ステップ29において、校正用チャートCC1〜CC3の内、いずれかの校正用チャートCC(例えば、校正用チャートCC1)に関する水平方向のずれ量Δi(すなわち、視差)の値に基づき、数式3に示した消失点視差Dpの値が算出される。消失点視差Dpの算出は、数式3の上段の式を満足するような値として、校正用チャートCC1とステレオカメラとの間の距離Zと、ずれ量Δi1とに基づき、一義的に算出することができる。そして、この消失点視差Dpが算出され、本ルーチンを抜ける。
【0071】
以上の処理により、校正パラメータθRが、メインカメラ2側のアフィン変換部7に対してフィードバックされ、校正パラメータθL,SHFTJLがサブカメラ3側のアフィン変換部8に対してフィードバックされる。これにより、この校正プロセス以降に出力される画像データは、これらの校正パラメータθR,θL,SHFTJLに基づいて、その座標位置が変換される。具体的には、アフィン変換部7,8に入力された一対の画像データは、それぞれ等しい回転θと、基準画像データに対する比較画像データのj軸方向の並進SHFTJLとの校正が行われることとなる。これにより、カメラ2,3の位置的なずれに起因した画像データのずれが解消される。
【0072】
つぎに、校正パラメータθR,θL,SHFTJLが、数式4および数式5より算出される理由について説明する。図10は、カメラの投影像をモデル化した説明図である。三次元空間内のある対象物を視点Cの画像に投影した場合、この画像平面上の投影像は、基本的に、視線上に配置された二次元平面のスクリーンS上への投影像と等価として考えることができる。すなわち、三次元空間内のある点Xが視点Cの画像に投影されている場合、点Xと視点Cとを結ぶ直線がスクリーンSと交差する点xが、三次元空間内の点XのスクリーンS上への投影像である。
【0073】
このとき、三次元空間内の点X(X=(X,Y,Z))を投影するスクリーンS(xy平面)上の点x(x=(x,y))と、画像平面上の点m(m=(i,j))とは、以下に示す数式6の関係を満たす。
【数6】
【0074】
ここで、Aは、カメラの内部パラメータであり、スクリーンS上の点から画像平面上の点への変換行列としての3×3の周知のマトリックスである。また、▲1▼(すなわち、[i,j,1]T)は画像平面上の点mに対する斉次座標であり、▲2▼(すなわち、[x,y,1]T)はスクリーンS上の点xに対する斉次座標である。
【0075】
同様に、カメラの内部パラメータの逆行列A−1について、画像平面上の点m(i,j)と、スクリーン上の点x(x,y)とは、以下に示す数式7の関係を満たす。
【数7】
【0076】
このような数式6および数式7に示す関係を前提とした上で、ステレオカメラから出力される一対の画像(右画像および左画像)について考える。ここで、三次元空間内のある点Xに関する右画像(本実施形態では、基準画像)平面上の座標位置、すなわち、点Xの右画像への投影点を、mR(iR,jR)とする。また、この点Xに関する左画像(本実施形態では、比較画像)平面上の座標位置、すなわち、点Xの左画像への投影点を、mL(iL,jL)とする。このとき、右画像と左画像との間には、以下に示す数式8の関係があることは周知である。
【数8】
【0077】
ここで、▲3▼(すなわち、[iR,jR,1]T)は右画像平面上の投影点mR(iR,jR)に対する斉次座標であり、▲4▼(すなわち、[iL,jL,1]T)は左画像平面上の投影点mL(iL,jL)に対する斉次座標である。また、Fは、ファンダメンタル行列(fundamental matrix)或いは基礎行列と呼ばれ(以下、単に「Fマトリックス」と称する)、エッセンシャル行列(essential matrix)Eと、カメラの内部パラメータAとを用いて、以下に示す数式9によって表わされる。
【数9】
【0078】
ここで、エッセンシャル行列Eは、並進、回転、縦横比、せん断などに関する情報をその要素に含む3×3の周知のマトリックスである。また、A−Tは、カメラの内部パラメータの逆行列A−1の転置を示す。
【0079】
数式8から理解されるように、異なる視線から得られた2つの画像において、三次元空間内のある点を投影した左右画像上の対応点同士(mR,mL)は、数式8を必ず満たす。したがって、このFマトリックスは、カメラの光学的な歪み、および、一対にカメラの位置的なずれなどをその要素に含み、右画像と左画像との対応する点mR,mLの関係を規定するものである。よって、このFマトリックスを解くことにより、画像の歪み、或いは、一対の画像のずれが特定され、これらを補正/校正することが可能となる。しかしながら、Fマトリックスには、多くの要素に起因する独立パラメータ(例えば、並進、回転、縦横比、せん断など)が存在するため、それを解くことは容易ではない。
【0080】
ところで、上述した補正プロセスを行うことにより、算出された補正パラメータによって変換された左右の画像データ(すなわち、基準画像データおよび比較画像データ)に関する画像の特性として、以下の条件が保証される。この条件は、(1)一方のカメラを基準とした他方のカメラの回転ずれがないこと、(2)一対のカメラのそれぞれの焦点距離が等しいこと、および、(3)一対のカメラのそれぞれの垂直方向と水平方向との拡大比が等しいことの3つである。換言すれば、検出された格子点の座標を目標座標に近づけるように作用する校正プロセスにより、その画像の特性として、(2)および(3)の条件に示す、光学的な歪みに起因した画像の歪みが解消されている。なお、本実施形態に示す補正プロセスは、基本的にカメラの光学的な歪みを補正することとを前提とするものの、その補正処理の性質に起因して一部校正的な要素として、(1)の条件をも含んでいる。そして、これらの画像データに関する画像の特性を拘束条件とした場合、画像間に生じている可能性のあるバラツキは、一対のカメラの並進成分のずれに起因するずれのみと考えることができる。したがって、上述したエッセンシャル行列Eにこの拘束条件を反映させると、エッセンシャル行列Eは、数式10に示す行列まで、そのパラメータを減少することができる。
【数10】
【0081】
同数式において、T1はX軸に関するカメラの並進ずれ、T2はY軸に関するカメラの並進ずれ、T3はZ軸に関するカメラの並進ずれである。そこで、数式10に示すessential行列Eを数式9に示す式に代入し、これを整理すると、Fマトリックスは、数式11に示す行列になる。
【数11】
【0082】
数式11に示すように、本実施形態に示した補正プロセスを行うことにより、上記拘束条件がFマトリックスに反映されるので、Fマトリックス中のパラメータを減らすことができる。したがって、パラメータが減った分、数式11中に示すα,βを単に求めることにより、Fマトリックスを容易に解くことができる。本実施形態では、上述した拘束条件に基づき、Fマトリックスを解くことは、カメラ2,3の並進ずれに起因した左右画像の位置ずれを特定することと等価である。なお、一般に、一対のカメラが理想的な状態、すなわち、一対のカメラにずれが存在しない状態のステレオカメラにおいて、γを任意の値とした場合、Fマトリックスは、以下に示す数式12となることは既知である。
【数12】
【0083】
したがって、数式11に示すFマトリックス(F)が、数式12に示すFマトリックス(F0)になるように、左右の画像のそれぞれを回転・並進させたならば、一対のカメラの並進ずれは等価的に校正される。なお、上述した拘束条件により、カメラ間での回転ずれがないという条件を得ているので、画像の校正は、左右のカメラのそれぞれ等しい回転と、並進方向のずれとを考慮すればよい。すなわち、これらの校正を実現するためには、校正用行列BR,BLが、下式の条件を満たすことと等価である。
【数13】
【数14】
【0084】
ここで、校正用行列BRは右画像に対する校正用行列を示し、校正用行列BLは左画像に対する校正用行列を示す(数式14参照)。また、θは画像の回転を示し、SHFTJLは左画像のj軸方向(縦方向)での並進を示す。なお、並進は一方の画像に対する他方の画像の相対移動であるため、本実施形態では、左画像のみに並進を考慮している。校正行列BLのみにSHFTJLがそのパラメータとして含まれているのは、そのためである。なお、並進を考慮する以上、画像のi軸方向(横方向)の並進についても考慮する必要があるが、本実施形態では、i軸方向の並進成分のずれは、視差のずれ量(すなわち、消失点視差Dp)として求めるとして、ここでは省略する。
【0085】
そして、数式13および数式14から、θ、SHFTJLを求めることで、校正パラメータを求めることができる。そして、これらの関係を満たすカメラの校正量θ,SHFTJLが、上述の数式5として与えられる。
【0086】
ここで、数式5に含まれるα,βの求め方について説明する。実空間上のある点に関し、右画像および左画像において対応する座標は、上述した数式8に示す関係を満たす。したがって、数式11に示すFマトリックスを、数式8に代入することで、これらのα,βの関係を導くことできる。このとき、同一対象物(本実施形態では、校正用チャートCC)に関する左右画像での位置ずれを(Δi,Δj)とすると、パラメータα,βは、上述した数式4に示す関係を満たす。この数式4の関係式から理解されるように、パラメータα,βは、ΔiとΔjとで規定される二次元平面における直線の式となっている。したがって、上述した校正プロセスで述べたように、2点以上の(Δi,Δj)を検出することにより、パラメータα,βを特定することができる。また、ステップ29において消失点視差Dpを算出することにより、並進成分のうち、水平方向のずれをさらに校正している。
【0087】
以上の説明のように、本実施形態によれば、校正プロセスに先立ち、補正プロセスを行うことにより、一定の拘束条件をともなった画像特性を有する画像データを得ることができる。本実施形態では、一方のカメラを基準とした他方のカメラの回転ずれがない、一対のカメラのそれぞれの焦点距離が等しい、および、一対のカメラのそれぞれの垂直方向と水平方向との拡大比が等しい、という3つの拘束条件を得る。これらの拘束条件より、ステレオカメラに存在しているバラツキを、一対のカメラに存在している位置的なずれ、特に、カメラの並進ずれとして特定することができる。したがって、これらの画像の特性を拘束条件として、Fマトリックスのパラメータを減少した上で、Fマトリックスを解くことにより、一対のカメラの並進ずれに起因した一対の画像データのずれを校正する校正パラメータを容易に特定することができる。この結果、これら補正プロセスおよび校正プロセスを含むステレオカメラのバラツキ調整を行うことにより、光学的な歪みに起因した画像の歪み、および、一対のカメラの位置的なずれに起因した画像データのずれを有効に正すことがことができる。また、このような補正および校正が行われた状態で、ステレオ画像処理を行うことにより、ステレオマッチングを行う際のエピポーララインの一致が保証されるので、算出される距離データの信頼性を向上することができる。
【0088】
なお、上述した説明では、(1)〜(3)の拘束条件を用いることにより、Fマトリックスのパラメータを2つまで減少させている。しかしながら、補正パラメータによって変換された一対の画像データに関する画像の特性を拘束条件としてFマトリックスに反映させることで、そのパラメータを減少させる方向に作用させるのであれば、本発明の目的は達せられる。したがって、本実施形態に示した補正プロセスに起因した(1)〜(3)の拘束条件は本発明の一形態を示すにすぎず、これら(1)〜(3)のいずれかが拘束条件となる、或いは、その他の画像の特性が拘束条件となるような補正パラメータを補正プロセスが算出することを排除するものではない。すなわち、補正パラメータは、少なくとも、画像の歪みを正すようなパラメータであればよい。ただし、Fマトリックスのパラメータを減少させるという観点に鑑みれば、補正パラメータを算出する補正プロセスには、以下の条件が要求される。まず、一つの条件として、カメラ2,3が組み付けられた状態(すなわち、ステレオカメラとして構成された状態)で、カメラ2,3で同時にチャートを撮像することである。そして、他の条件として、このチャートを撮像することによって出力された一対の画像データを処理対象として、画像データ毎に、補正パラメータを算出する。例えば、画像データ毎に、画像データによって規定される画像平面に写し出されたパターンが、チャートが有する所定のパターンに近づくように(すなわち、少なくとも画像の歪みが正されるように)画像データを変換する補正パラメータを算出するといった如くである。換言すれば、本発明の補正プロセスは、個々のカメラの組み付け状態を考慮しないような、カメラ単体のみで独立して行う歪み補正とは相違する。
【0089】
また、本発明で用いられた補正用チャートACは、上述した格子状パターンを有する補正用チャートACに限定されない。補正用チャートACとしては、他にも、ドット状パターン、水平/垂直の波線状パターンなど様々なパターンを使用することができる。換言すれば、この校正用チャートACは、予め定められたパターンを表わす目標座標に対応するようなパターンであれば、いかなる形状のパターンをも用いることができる。なお、この場合、図6に示した評価パターンP1,P2は、校正用チャートACに描かれたパターンの形状に応じたデザインに変更されることはいうまでもない。
【0090】
また、上述した校正プロセスの説明では、複数の異なる校正チャートCC1〜CC3をそれぞれ異なる距離Zに配置したが、単一の校正チャートCCのみを用いて校正プロセスを行うことも可能である。この場合には、この校正チャートCCの距離Zを変えながら、図7に示すステップ21〜ステップ24の処理を複数回行うことで、上述した実施形態と同様の作用・効果を奏することができる。
【0091】
(第2の実施形態)
第1の実施形態では、Fマトリックス中のパラメータα,βを用いることで、一対のカメラの並進ずれに起因した画像データのずれを校正した。Fマトリックスを用いる場合、校正パラメータを一義的に特定することができるので有利であるが、一対のカメラの並進ずれに起因した画像間のずれを校正する手法は、第1の実施形態に示す校正プロセスに限定されるものではない。図11は、ステレオカメラの調整手順における別の校正プロセスの手順を示すフローチャートである。
【0092】
まず、第2の実施形態にかかる校正プロセスを説明する前提として、この校正プロセスに関する概略を説明する。まず、上述した補正プロセスにおいて、一対のカメラ間のずれは、並進方向のみに存在していることは、上述したとおりである。図12は、校正プロセス後のカメラの光軸を示す説明図である。カメラ2,3を水平方向より眺めた場合、補正プロセス後のカメラ2,3の位置と、光軸との関係は、図12に示す状態となる。具体的には、メインカメラ2に対してサブカメラ3が下側(Y軸方向)に並進していると考えた場合、上述の補正プロセスによる画像データの補正により、現在のカメラの状態は、サブカメラ3の光軸がねじれた状態と等価となっている。すなわち、補正プロセス後の校正プロセスにおいて必要とされる処理は、このカメラ2,3の光軸のねじれを正すことである。そこで、このようなねじれを正す処理を、再び図11を参照して説明する。
【0093】
まず、オペレータは、校正プロセスの開始に先立ち、上述した3つの校正用チャートCC1〜CC3を車両前方に配置しておく。図13は、校正用チャートCCの配置位置と検査対象であるステレオカメラとの関係を示した図である。同図に示すように、ステレオカメラに対して等しい距離Zに校正用チャートCC1,CC2が配置され、これらのチャートCC1,CC2とは異なる位置(本実施形態では、チャートCC1,CC2よりも遠距離)に校正用チャートCC3が配置されてる。同図に示すチャートCC1〜CC3は、説明の便宜上、第1の実施形態の校正プロセスで用いた校正用チャートと同一のチャートを使用している。
【0094】
再び図11を参照し、まず、ステップ30において、初期化作業が行われ、アフィン変換部7,8のそれぞれにおいて設定される校正パラメータの値がリセットされる。ステップ30に続くステップ31において、校正用チャートCC1〜CC3を撮像した基準画像(右画像)データと比較画像(左画像)データとが読み込まれる。
【0095】
ステップ32において、基準画像データを処理対処として、画像平面に写し出された校正用チャートCC1〜CC3のうち、等距離に配置された校正用チャートCC(本実施形態では、校正用チャートCC1,CC2)の座標が、二次元マッチングを用いてそれぞれ検出される。これにより、校正用チャートCC1が写し出された基準画像平面の座標が(iR1,jR1)として検出され、校正用チャートCC2が写し出された基準画像平面の座標が(iR2,jR2)として検出される。
【0096】
そして、ステップ33において、比較画像データを処理対象として、二次元マッチングを用いて比較画像平面に写し出された校正用チャートCC1,CC2の座標がそれぞれ検出される。これにより、校正用チャートCC1が写し出された比較画像平面の座標が(iL1,jL1)として検出され、校正用チャートCC2が写し出された比較画像平面の座標が(iL2,jL2)として検出される。
【0097】
ステップ34において、校正用チャートCC1,CC2に対応するj座標の差Δ(jR1−jL1),Δ(jR2−jL2)が0となるように、比較画像データに関する校正パラメータθL,SHFTJLが算出される。そして、算出された校正パラメータθL,SHFTJL相当の校正が比較画像に対して行われる(ステップ35)。
【0098】
ステップ36において、基準画像データを処理対象として、二次元マッチングを用いて基準画像平面に写し出された校正用チャートCC3の座標が検出される。これにより、校正用チャートCC3が写し出された基準画像平面の座標が(iR3,jR3)として検出される。そして、ステップ37において、ステップ35で校正された比較画像データを処理対象として、二次元マッチングを用いて比較画像平面に写し出された校正用チャートCC3の座標が検出される。これにより、校正用チャートCC3が写し出された比較画像平面の座標が(iL3,jL3)として検出される。
【0099】
ステップ37に続くステップ38において、校正用チャートCC3に対応するj座標の差Δ(jR3−jL3)が算出される。そして、このΔ(jR3−jL3)が所定の閾値Δjthと比較されることにより、Δ(jR3−jL3)が閾値Δjth以下であるか否かが判断される。
【0100】
このステップ38で否定判断された場合、校正用チャートCC3に関する位置がそれぞれの画像間で大きく異なると判断され、ステップ39に進む。そして、ステップ39において、このΔ(jR3−jL3)の値に適当なゲインを乗算し、この値を校正するような基準画像に対する回転相当の校正パラメータθRが算出される。そして、この算出された校正パラメータθR相当の校正(すなわち、変換)が基準画像に対して行われる。そして、ステップ32に進み、上述した処理を繰り返す。一方、ステップ38で肯定判定された場合、校正用チャートCC3に関する位置がそれぞれの画像間で近いと判断され、後段のステップ41に進む。
【0101】
そして、ステップ41において、校正用チャートCC1〜CC3の内、いずれかの校正用チャートCC(例えば、校正用チャートCC1)に関する水平方向のずれ量Δi(すなわち、視差)の値に基づき、数式3に示した消失点視差Dpの値が算出される。そして、この消失点視差Dpが算出され、本ルーチンを抜ける。
【0102】
以上の処理により、校正パラメータθR,θL、SHFTJLが適宜決定される。そして、校正パラメータθRがメインカメラ2側のアフィン変換部7に対してフィードバックされ、校正パラメータθL,SHFTJLがサブカメラ3側のアフィン変換部8に対してフィードバックされる。これにより、この校正プロセス以降に出力される画像データのそれぞれは、これらの校正パラメータに基づいて、その座標位置が変換される。
【0103】
このように第2の実施形態によれば、基準画像および比較画像を適宜回転、並進させて、最適な校正パラメータを求めることにより、Fマトリックスを用いた第1の実施形態と同様の作用・効果を奏することができる。すなわち、この処理では、一対の画像間のエピポーララインを一致させるという前提のもと、最適な校正パラメータを求めている。なお、第2の実施形態に示す処理を行った場合であっても、一対の画像に関する回転相当の校正パラメータθRと校正パラメータθLとの値は基本的に同一な値となる。
【0104】
なお、上述した実施形態では、3つの校正用チャートCC1〜CC3を用いて校正プロセスを行ったが、本実施形態はこれに限定されるものでない。ステレオカメラと補正用チャートACとの間の距離とは異なる距離で、かつ、校正用チャートCC1,CC2が等しい距離に配置されるのであれば、2枚の校正用チャートCC1,CC2を用いてこのような処理を行うことができる。
【0105】
【発明の効果】
このように本発明のステレオカメラの調整装置および調整方法によれば、まず、少なくとも、カメラの光学的な歪みに起因した画像データの歪みを正す補正パラメータが算出される。この算出された補正パラメータによって、変換された一対の画像データは、一定の拘束条件をともなった画像特性を有する画像データとなる。この拘束条件を前提とすることで、一対のカメラに存在している位置的なずれを特定することができるので、この位置的なずれに起因した画像データの位置ずれを補正する補正パラメータを算出することができる。これにより、一対の画像データのそれぞれを、補正パラメータと校正パラメータとを用いて変換することにより、ステレオカメラの光学的な歪みと位置的なずれとを画像処理によってを調整することができる。
【図面の簡単な説明】
【図1】本実施形態にかかるステレオカメラの調整装置を示すブロック図
【図2】基準画像に設定される画素ブロックの説明図
【図3】ステレオカメラの調整手順における補正プロセスの手順を示すフローチャート
【図4】補正用チャートの配置位置と検査対象であるステレオカメラ(車両)との関係を示した図
【図5】補正プロセスにおいて用いられる補正用チャートの一例を示す説明図
【図6】二次元マッチングで用いられる評価パターンを示す説明図
【図7】ステレオカメラの調整手順における校正プロセスの手順を示すフローチャート
【図8】校正用チャートの配置位置と検査対象であるステレオカメラとの関係を示した図
【図9】Δi−Δj平面における位置ずれに関する近似直線を説明する図
【図10】カメラの投影像をモデル化した説明図
【図11】ステレオカメラの調整手順における別の校正プロセスの手順を示すフローチャート
【図12】校正プロセス後のカメラの光軸を示す説明図
【図13】校正用チャートの配置位置と検査対象であるステレオカメラとの関係を示した図
【符号の説明】
1 調整装置
2 メインカメラ
3 サブカメラ
4 A/Dコンバータ
5 A/Dコンバータ
6 歪補正部
7 アフィン変換部
8 アフィン変換部
9 ステレオ画像処理部
10 距離データメモリ
11 画像データメモリ
12 マイクロコンピュータ
13 補正部
14 校正部
15 認識部
Claims (15)
- ステレオカメラを構成する一対のカメラから出力された一対の画像データのそれぞれを、パラメータを用いて変換することにより、ステレオカメラの光学的な歪みと位置的なずれとを画像処理によって調整する装置において、
少なくとも、カメラの光学的な歪みに起因した画像データの歪みを正す補正パラメータであって、所定のパターンを有するチャートを前記ステレオカメラで撮像することによって出力された一対の画像データを処理対象として、画像データ毎に、画像データによって規定される画像平面に写し出されたパターンが、前記チャートが有する所定のパターンに近づくように画像データを変換する補正パラメータを算出する補正部と、
前記算出された補正パラメータによって変換された一対の画像データに関する画像の特性を拘束条件として、前記一対のカメラの位置的なずれに起因した一対の画像データのずれを正す校正パラメータを算出する校正部とを有することを特徴とするステレオカメラの調整装置。 - 前記補正部は、前記画像データによって規定される画像平面において前記パターンの座標を検出するとともに、当該検出されたパターンの座標と、予め定められた前記所定のパターンを表わす目標座標とに基づいて、前記検出されたパターンの座標が前記目標座標に近づくような前記補正パラメータを算出することを特徴とする請求項1に記載されたステレオカメラの調整装置。
- 前記拘束条件は、一方のカメラを基準とした他方のカメラの回転ずれがないことであることを特徴とする請求項1または2に記載されたステレオカメラの調整装置。
- 前記拘束条件は、一対のカメラのそれぞれの焦点距離が等しいことであることを特徴とする請求項1から3のいずれかに記載されたステレオカメラの調整装置。
- 前記拘束条件は、一対のカメラのそれぞれの垂直方向と水平方向との拡大比が等しいことであることを特徴とする請求項1から4のいずれかに記載されたステレオカメラの調整装置。
- 前記一対のカメラの位置的なずれは、一方のカメラを基準とした他方のカメラの並進ずれであることを特徴とする請求項1から5のいずれかに記載されたステレオカメラの調整装置。
- 前記校正部は、前記一対の画像データのそれぞれ等しい回転と、一方の画像データを基準とした他方の画像データの垂直方向への並進とを含む校正パラメータを算出することを特徴とする請求項1から6のいずれかに記載されたステレオカメラの調整装置。
- 前記校正部は、前記拘束条件を反映させたFマトリックスを用いて、前記校正パラメータを算出することを特徴とする請求項1から7に記載されたステレオカメラの調整装置。
- 前記校正部は、異なる距離に配置された2つ以上の対象物を前記ステレオカメラで撮像することによって出力された一対の画像データのそれぞれにおいて、前記対象物のそれぞれに関する一方の画像データと他方の画像データとの座標のずれを算出し、水平方向および垂直方向の座標のずれ量を基準とした二次元平面において、前記対象物のそれぞれについて算出された座標のずれに関する近似直線を算出するとともに、当該近似直線に基づき、校正パラメータを算出することを特徴とする請求項6から8のいずれかに記載されたステレオカメラの調整装置。
- ステレオカメラを構成する一対のカメラから出力された一対の画像データのそれぞれを、パラメータを用いて変換することにより、ステレオカメラの光学的な歪みと位置的なずれとを画像処理によって調整する方法において、
少なくとも、カメラの光学的な歪みに起因した画像データの歪みを正す補正パラメータであって、所定のパターンを有するチャートを前記ステレオカメラで撮像することによって出力された一対の画像データを対象として、画像データ毎に、画像データによって規定される画像平面に写し出されたパターンが、前記チャートが有する所定のパターンに近づくように画像データを変換する補正パラメータを算出する第1のステップと、
前記算出された補正パラメータによって変換された一対の画像データに関する画像の特性を拘束条件として、前記一対のカメラの位置的なずれに起因した一対の画像データのずれを正す校正パラメータを算出する第2のステップと
を有することを特徴とするステレオカメラの調整方法。 - 前記第1のステップは、前記画像データによって規定される画像平面において前記パターンの座標を検出するとともに、当該検出されたパターンの座標と、予め定められた前記所定のパターンを表わす目標座標とに基づいて、前記検出されたパターンの座標を前記目標座標に近づけるような前記補正パラメータを算出することを特徴とする請求項10に記載されたステレオカメラの調整方法。
- 前記一対のカメラの位置的なずれは、一方のカメラを基準とした他方のカメラの並進ずれであることを特徴とする請求項10または11に記載されたステレオカメラの調整方法。
- 前記第2のステップは、前記一対の画像データのそれぞれ等しい回転と、一方の画像データを基準とした他方の画像データの垂直方向への並進とを含む校正パラメータを算出することを特徴とする請求項10から12のいずれかに記載されたステレオカメラの調整方法。
- 前記第2のステップは、前記拘束条件を反映させたFマトリックスを用いて、前記校正パラメータを算出することを特徴とする請求項10から13のいずれかに記載されたステレオカメラの調整方法。
- 前記第2のステップは、異なる距離に配置された2つ以上の対象物を撮像することによって出力された一対の画像データのそれぞれにおいて、前記対象物のそれぞれに関する一方の画像データと他方の画像データとの座標のずれを算出するステップと、
水平方向および垂直方向の座標のずれ量を基準とした二次元平面において、前記対象物のそれぞれについて算出された座標のずれに関する近似直線を算出するステップと、
前記算出された近似直線に基づき、校正パラメータを算出するステップと
を有することを特徴とする請求項12から14のいずれかに記載されたステレオカメラの調整方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002298663A JP4109077B2 (ja) | 2002-10-11 | 2002-10-11 | ステレオカメラの調整装置およびステレオカメラの調整方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002298663A JP4109077B2 (ja) | 2002-10-11 | 2002-10-11 | ステレオカメラの調整装置およびステレオカメラの調整方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004132870A true JP2004132870A (ja) | 2004-04-30 |
JP4109077B2 JP4109077B2 (ja) | 2008-06-25 |
Family
ID=32288001
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002298663A Expired - Lifetime JP4109077B2 (ja) | 2002-10-11 | 2002-10-11 | ステレオカメラの調整装置およびステレオカメラの調整方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4109077B2 (ja) |
Cited By (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006062325A1 (en) * | 2004-12-06 | 2006-06-15 | Electronics And Telecommunications Research Institute | Apparatus for correcting image distortion of stereo-camera and method thereof |
JP2006322855A (ja) * | 2005-05-19 | 2006-11-30 | Denso Corp | 無限遠点決定装置 |
JP2008123142A (ja) * | 2006-11-09 | 2008-05-29 | Yamatake Corp | 対応点探索方法および3次元位置計測方法 |
JP2008193188A (ja) * | 2007-02-01 | 2008-08-21 | Sanyo Electric Co Ltd | カメラ校正装置及び方法並びに車両 |
JP2009069114A (ja) * | 2007-09-18 | 2009-04-02 | Chuo Electronics Co Ltd | ステレオ画像調整方法、ステレオ画像調整システム、及びステレオ画像調整プログラム |
JP2009171242A (ja) * | 2008-01-16 | 2009-07-30 | Nippon Telegr & Teleph Corp <Ntt> | 画像間の特徴点の対応付方法、画像間の特徴点の対応付装置、画像間の特徴点の対応付プログラム及びそのプログラムを記録した記録媒体。 |
JP2009182879A (ja) * | 2008-01-31 | 2009-08-13 | Konica Minolta Holdings Inc | 校正装置及び校正方法 |
US7590263B2 (en) | 2004-11-30 | 2009-09-15 | Honda Motor Co., Ltd. | Vehicle vicinity monitoring apparatus |
US7599521B2 (en) | 2004-11-30 | 2009-10-06 | Honda Motor Co., Ltd. | Vehicle vicinity monitoring apparatus |
US7616806B2 (en) | 2004-11-30 | 2009-11-10 | Honda Motor Co., Ltd. | Position detecting apparatus and method of correcting data therein |
US7620237B2 (en) | 2004-11-30 | 2009-11-17 | Honda Motor Co., Ltd. | Position detecting apparatus and method of correcting data therein |
JP2012173032A (ja) * | 2011-02-18 | 2012-09-10 | Ricoh Co Ltd | 画像処理装置、方法、プログラムおよび記録媒体 |
JP2013077291A (ja) * | 2011-09-13 | 2013-04-25 | Ricoh Co Ltd | 画像検査装置、画像検査方法、及びプログラム |
KR101376503B1 (ko) | 2010-09-23 | 2014-03-25 | 돌비 레버러토리즈 라이쎈싱 코오포레이션 | 카메라 디바이스에 의해 결정된 피드백을 이용한 3d 디스플레이 교정을 위한 방법 및 시스템 |
CN103813150A (zh) * | 2012-11-02 | 2014-05-21 | 索尼公司 | 图像处理设备和方法、图像处理系统和程序 |
JP2014127776A (ja) * | 2012-12-25 | 2014-07-07 | Ricoh Co Ltd | 画像処理装置、画像処理方法、及びプログラム |
CN104052986A (zh) * | 2013-03-12 | 2014-09-17 | 株式会社理光 | 检测用具、立体照相机检测装置以及检测方法 |
EP2887313A1 (en) | 2013-12-19 | 2015-06-24 | Ricoh Company, Ltd. | Image processing apparatus, system, image processing method, and computer-readable recording medium |
DE102015104453A1 (de) | 2014-03-28 | 2015-10-01 | Fuji Jukogyo Kabushiki Kaisha | Stereobildverarbeitungsvorrichtung für ein Fahrzeug |
EP3088175A1 (en) | 2015-04-27 | 2016-11-02 | Ricoh Company, Ltd. | Method for manufacturing laminated glass, laminated glass, method for calibrating stereo camera, and calibration system |
CN106101686A (zh) * | 2015-04-27 | 2016-11-09 | 株式会社理光 | 叠层玻璃及其制造方法、立体相机的校准方法和校准系统 |
JP2017151050A (ja) * | 2016-02-26 | 2017-08-31 | キヤノン株式会社 | 校正方法、プログラム、計測装置、および物品の製造方法 |
EP3258213A4 (en) * | 2015-02-13 | 2018-03-07 | Ricoh Company, Ltd. | Measurement tool, calibration method, calibration device, and program |
WO2018042954A1 (ja) * | 2016-08-29 | 2018-03-08 | 日立オートモティブシステムズ株式会社 | 車載カメラ、車載カメラの調整方法、車載カメラシステム |
CN110490944A (zh) * | 2014-03-07 | 2019-11-22 | 株式会社理光 | 用于计算距离信息的立体相机及其方法、车辆和存储介质 |
EP3742114A1 (en) | 2019-05-20 | 2020-11-25 | Ricoh Company, Ltd. | Stereo camera disparity correction |
US20220012914A1 (en) * | 2020-07-08 | 2022-01-13 | Hyundai Mobis Co., Ltd. | Surround view monitoring system and method |
US11574419B2 (en) | 2019-02-13 | 2023-02-07 | Subaru Corporation | Stereo camera adjustment system |
EP4012495A4 (en) * | 2019-08-07 | 2023-08-16 | Hitachi Astemo, Ltd. | STEREOCAMERA CORRECTION METHOD AND STEREOCAMERA CORRECTION DEVICE |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100729444B1 (ko) * | 2005-12-16 | 2007-06-15 | 문화숙 | 내시경 수술용 엔도백 |
JP6447055B2 (ja) | 2014-01-28 | 2019-01-09 | 株式会社リコー | 校正方法、校正装置、計測用具及びプログラム |
JP6520080B2 (ja) | 2014-01-31 | 2019-05-29 | 株式会社リコー | ステレオカメラ校正方法、視差算出装置、ステレオカメラ及び車両 |
US10186034B2 (en) | 2015-01-20 | 2019-01-22 | Ricoh Company, Ltd. | Image processing apparatus, system, image processing method, calibration method, and computer-readable recording medium |
JP6975003B2 (ja) | 2017-09-29 | 2021-12-01 | 株式会社デンソー | 周辺監視装置およびその校正方法 |
-
2002
- 2002-10-11 JP JP2002298663A patent/JP4109077B2/ja not_active Expired - Lifetime
Cited By (36)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7599521B2 (en) | 2004-11-30 | 2009-10-06 | Honda Motor Co., Ltd. | Vehicle vicinity monitoring apparatus |
US7620237B2 (en) | 2004-11-30 | 2009-11-17 | Honda Motor Co., Ltd. | Position detecting apparatus and method of correcting data therein |
US7616806B2 (en) | 2004-11-30 | 2009-11-10 | Honda Motor Co., Ltd. | Position detecting apparatus and method of correcting data therein |
US7590263B2 (en) | 2004-11-30 | 2009-09-15 | Honda Motor Co., Ltd. | Vehicle vicinity monitoring apparatus |
WO2006062325A1 (en) * | 2004-12-06 | 2006-06-15 | Electronics And Telecommunications Research Institute | Apparatus for correcting image distortion of stereo-camera and method thereof |
JP2006322855A (ja) * | 2005-05-19 | 2006-11-30 | Denso Corp | 無限遠点決定装置 |
JP2008123142A (ja) * | 2006-11-09 | 2008-05-29 | Yamatake Corp | 対応点探索方法および3次元位置計測方法 |
JP2008193188A (ja) * | 2007-02-01 | 2008-08-21 | Sanyo Electric Co Ltd | カメラ校正装置及び方法並びに車両 |
JP2009069114A (ja) * | 2007-09-18 | 2009-04-02 | Chuo Electronics Co Ltd | ステレオ画像調整方法、ステレオ画像調整システム、及びステレオ画像調整プログラム |
JP2009171242A (ja) * | 2008-01-16 | 2009-07-30 | Nippon Telegr & Teleph Corp <Ntt> | 画像間の特徴点の対応付方法、画像間の特徴点の対応付装置、画像間の特徴点の対応付プログラム及びそのプログラムを記録した記録媒体。 |
JP2009182879A (ja) * | 2008-01-31 | 2009-08-13 | Konica Minolta Holdings Inc | 校正装置及び校正方法 |
KR101376503B1 (ko) | 2010-09-23 | 2014-03-25 | 돌비 레버러토리즈 라이쎈싱 코오포레이션 | 카메라 디바이스에 의해 결정된 피드백을 이용한 3d 디스플레이 교정을 위한 방법 및 시스템 |
JP2012173032A (ja) * | 2011-02-18 | 2012-09-10 | Ricoh Co Ltd | 画像処理装置、方法、プログラムおよび記録媒体 |
JP2013077291A (ja) * | 2011-09-13 | 2013-04-25 | Ricoh Co Ltd | 画像検査装置、画像検査方法、及びプログラム |
CN103813150A (zh) * | 2012-11-02 | 2014-05-21 | 索尼公司 | 图像处理设备和方法、图像处理系统和程序 |
US8878944B2 (en) * | 2012-11-02 | 2014-11-04 | Sony Corporation | Image processing apparatus and method, image processing system and program |
CN103813150B (zh) * | 2012-11-02 | 2017-01-18 | 索尼公司 | 图像处理设备和方法、图像处理系统 |
JP2014127776A (ja) * | 2012-12-25 | 2014-07-07 | Ricoh Co Ltd | 画像処理装置、画像処理方法、及びプログラム |
CN104052986A (zh) * | 2013-03-12 | 2014-09-17 | 株式会社理光 | 检测用具、立体照相机检测装置以及检测方法 |
EP2887313A1 (en) | 2013-12-19 | 2015-06-24 | Ricoh Company, Ltd. | Image processing apparatus, system, image processing method, and computer-readable recording medium |
CN110490944A (zh) * | 2014-03-07 | 2019-11-22 | 株式会社理光 | 用于计算距离信息的立体相机及其方法、车辆和存储介质 |
US9378553B2 (en) | 2014-03-28 | 2016-06-28 | Fuji Jukogyo Kabushiki Kaisha | Stereo image processing device for vehicle |
DE102015104453A1 (de) | 2014-03-28 | 2015-10-01 | Fuji Jukogyo Kabushiki Kaisha | Stereobildverarbeitungsvorrichtung für ein Fahrzeug |
EP3258213A4 (en) * | 2015-02-13 | 2018-03-07 | Ricoh Company, Ltd. | Measurement tool, calibration method, calibration device, and program |
US10209091B2 (en) | 2015-02-13 | 2019-02-19 | Ricoh Company, Ltd. | Measurement tool, calibration method, calibration apparatus, and computer-readable recording medium |
EP3088175A1 (en) | 2015-04-27 | 2016-11-02 | Ricoh Company, Ltd. | Method for manufacturing laminated glass, laminated glass, method for calibrating stereo camera, and calibration system |
CN106101686A (zh) * | 2015-04-27 | 2016-11-09 | 株式会社理光 | 叠层玻璃及其制造方法、立体相机的校准方法和校准系统 |
JP2017151050A (ja) * | 2016-02-26 | 2017-08-31 | キヤノン株式会社 | 校正方法、プログラム、計測装置、および物品の製造方法 |
JPWO2018042954A1 (ja) * | 2016-08-29 | 2019-04-18 | 日立オートモティブシステムズ株式会社 | 車載カメラ、車載カメラの調整方法、車載カメラシステム |
WO2018042954A1 (ja) * | 2016-08-29 | 2018-03-08 | 日立オートモティブシステムズ株式会社 | 車載カメラ、車載カメラの調整方法、車載カメラシステム |
US11574419B2 (en) | 2019-02-13 | 2023-02-07 | Subaru Corporation | Stereo camera adjustment system |
EP3742114A1 (en) | 2019-05-20 | 2020-11-25 | Ricoh Company, Ltd. | Stereo camera disparity correction |
US11410338B2 (en) | 2019-05-20 | 2022-08-09 | Ricoh Company, Ltd. | Measuring device and measuring system |
EP4012495A4 (en) * | 2019-08-07 | 2023-08-16 | Hitachi Astemo, Ltd. | STEREOCAMERA CORRECTION METHOD AND STEREOCAMERA CORRECTION DEVICE |
US20220012914A1 (en) * | 2020-07-08 | 2022-01-13 | Hyundai Mobis Co., Ltd. | Surround view monitoring system and method |
US11805230B2 (en) * | 2020-07-08 | 2023-10-31 | Hyundai Mobis Co., Ltd. | Surround view monitoring system and method |
Also Published As
Publication number | Publication date |
---|---|
JP4109077B2 (ja) | 2008-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4109077B2 (ja) | ステレオカメラの調整装置およびステレオカメラの調整方法 | |
JP5588812B2 (ja) | 画像処理装置及びそれを用いた撮像装置 | |
EP3367677B1 (en) | Calibration apparatus, calibration method, and calibration program | |
EP2437494B1 (en) | Device for monitoring area around vehicle | |
US7317474B2 (en) | Obstacle detection apparatus and method | |
JP6034775B2 (ja) | カメラ校正装置 | |
US8917929B2 (en) | Image processing apparatus, method, program, and recording medium | |
JP5011049B2 (ja) | 画像処理システム | |
US20110216194A1 (en) | Camera calibration apparatus | |
WO2012120856A1 (ja) | 物体検出装置及び物体検出方法 | |
JP2006252473A (ja) | 障害物検出装置、キャリブレーション装置、キャリブレーション方法およびキャリブレーションプログラム | |
JP4032843B2 (ja) | 監視システムおよび監視方法、当該監視システムにおける距離補正装置および距離補正方法 | |
US20060115117A1 (en) | Position detecting apparatus and method of correcting data therein | |
JP5959311B2 (ja) | データ導出装置、及び、データ導出方法 | |
JP5083443B2 (ja) | 運転支援装置および方法、ならびに演算装置 | |
JP4682830B2 (ja) | 車載画像処理装置 | |
WO2018074302A1 (ja) | 車載カメラのキャリブレーション装置及び車載カメラのキャリブレーション方法 | |
JP4209637B2 (ja) | 監視システムの距離補正装置および距離補正方法 | |
JP2013024712A (ja) | 複数カメラの校正方法及び校正システム | |
JP4248212B2 (ja) | ステレオ画像処理装置およびステレオ画像処理方法 | |
JP4018950B2 (ja) | ステレオカメラの位置ずれ検査装置および位置ずれ検査方法 | |
US20210400190A1 (en) | Partial image generating device, storage medium storing computer program for partial image generation and partial image generating method | |
WO2022014215A1 (ja) | 処理装置及び車載カメラ装置 | |
JP5580062B2 (ja) | 障害物検知警報装置 | |
JPH11190611A (ja) | 3次元計測方法およびその方法を用いた3次元計測処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051007 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070518 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070619 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070820 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071211 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080212 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080313 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080403 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110411 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4109077 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120411 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130411 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130411 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140411 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |