JP6277652B2 - 車両周辺画像表示装置及びカメラの調整方法 - Google Patents

車両周辺画像表示装置及びカメラの調整方法 Download PDF

Info

Publication number
JP6277652B2
JP6277652B2 JP2013204474A JP2013204474A JP6277652B2 JP 6277652 B2 JP6277652 B2 JP 6277652B2 JP 2013204474 A JP2013204474 A JP 2013204474A JP 2013204474 A JP2013204474 A JP 2013204474A JP 6277652 B2 JP6277652 B2 JP 6277652B2
Authority
JP
Japan
Prior art keywords
image
calibration
camera
pattern
calibration pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013204474A
Other languages
English (en)
Other versions
JP2015070512A (ja
Inventor
田中 仁
仁 田中
宗昭 松本
宗昭 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2013204474A priority Critical patent/JP6277652B2/ja
Priority to CN201480053525.XA priority patent/CN105594203B/zh
Priority to DE112014004506.3T priority patent/DE112014004506B4/de
Priority to US15/025,126 priority patent/US10358086B2/en
Priority to PCT/JP2014/004768 priority patent/WO2015045329A1/ja
Publication of JP2015070512A publication Critical patent/JP2015070512A/ja
Application granted granted Critical
Publication of JP6277652B2 publication Critical patent/JP6277652B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
    • B60R2300/402Image calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Description

本発明は、車両周辺の画像を表示する車両周辺画像表示装置及び車両周辺画像表示装置に用いられるカメラの調整方法に関するものである。
従来、車載カメラで撮影(撮像)した画像を、車両周辺を表す(即ち車両上方から車両周辺を見た状態を示す)射影画像(鳥瞰図画像)に変換する技術が知られている。
また、近年では、カメラやカメラを制御する電子制御装置を交換した場合や、使用しているうちにカメラの位置や姿勢のずれが生じた場合に、カメラのキャリブレーション(校正:調整)を行う技術が開示されている。
つまり、カメラ等の交換やカメラの位置や姿勢のずれによって、カメラで撮像した画像を射影画像に変換するための変換規則(パラメータ)が不適正なものとなったカメラを、調整対象カメラとして、当該変換規則を修正する技術が開示されている。
この変換規則を修正する技術としては、下記の方法が知られている。
具体的には、工場においては、カメラの変換規則を調整する場合に、工場内の地面の決められた位置に、規定の形状かつ大きさの校正パターンがペイントされている。そして、カメラの変換規則を調整するために、規定の場所に車両を移動させる。これによって、校正パターンと車両との位置関係が決まることにより、校正パターンと車両に設置されているカメラとの位置関係が決まるため、算術によりカメラの変換規則を調整している。
また、カーディーラのように、カメラの変換規則を調整するための専用の場所が確保できない所でカメラの変換規則を調整する場合には、下記特許文献1に記載のように、調整対象カメラの撮像範囲と隣接する(調整不要の)基準カメラの撮像範囲とで部分的に重複している範囲に、1つの校正パターンを配置し、基準カメラに定められた変換規則に従って射影変換した画像空間上の校正パターンの映像の座標と一致するように、調整対象カメラに対して定められた変換規則を調整する技術が開示されている。
特開2010−244326号公報
しかしながら、カーディーラなどで、カメラの変換規則をするために、校正パターンを任意の場所に置く場合には、調整対象カメラの撮像範囲と基準カメラになり得るカメラの撮像範囲とが重複し、その重複する範囲に校正パターンを置かないと、調整対象カメラに対して定められた変換規則を調整することが困難であった。
また、校正パターンを配置する位置によっては、校正パターンを撮像した画像の精度が悪く、精度良く調整ができないこともあった。
本発明は、前記課題を解決するためになされたものであり、その目的は、例えば校正パターンを、調整対象カメラの撮像範囲と基準カメラの撮像範囲とが重複していない範囲に置いた場合であっても、調整対象カメラの変換規則を容易に調整可能な車両周辺画像表示装置及びカメラの調整方法を提供することを目的とする。
(1)本発明は、一態様として、自動車に搭載される車載周辺画像表示装置であって、自動車に搭載されて該自動車の周囲を撮像する複数のカメラと、前記複数のカメラが撮像した各画像に対して、当該画像を撮像したカメラ毎に定めた変換規則に従った射影変換を施して、単一の画像空間上に合成し、前記自動車の周囲を所定の視点から観測したようすを表す車両周辺画像を生成する車両周辺画像生成手段と、前記車両周辺画像生成手段が生成した前記車両周辺画像を表示する表示装置と、前記カメラ毎に定められている前記変換規則を調整する調整手段と、を有し、前記調整手段は、複数の所定の大きさ及び形状の校正パターンが所定の位置関係にて配置された校正用部材が、前記自動車の周囲に配置され、且つ、所定の前記校正パターンが前記変換規則の調整の基準となる基準カメラの撮影領域に配置されるとともに、他の前記校正パターンが前記変換規則の調整の対象となる調整対象カメラの撮影領域に配置された状態において、前記校正用部材の所定の前記校正パターンを前記基準カメラで撮像した画像を、前記基準カメラに対して定められた前記変換規則に従って射影変換して、基準校正パターンの画像の座標を検出し、前記校正用部材の他の前記校正パターンを前記調整対象カメラで撮像した画像を、前記調整対象カメラに対して定められた前記変換規則に従って射影変換して、調整校正パターンの画像の座標を検出し、該調整校正パターンの画像の座標と前記両校正パターンの位置関係とに基づいて、前記基準校正パターンに対応する仮の基準校正パターンの画像の座標を検出し、又は、前記基準パターンの画像の座標と前記両校正パターンの位置関係とに基づいて、前記調整校正パターンに対応する仮の校正調整正パターンの画像の座標を検出し、前記仮の基準校正パターンの画像の座標と前記基準校正パターンの画像の座標とが一致するように、又は、前記仮の調整校正パターンの画像の座標と前記調整校正パターンの画像の座標とが一致するように、前記調整対象カメラに対して定められた前記変換規則を調整すること、を特徴とする。
本発明では、例えば図3に例示するように、2個以上の校正パターンが規定の位置に配置されている校正用部材を、各校正パターンが基準カメラと調整対象カメラの撮像範囲に位置するように配置する。その後、基準カメラで撮影した画像から基準校正パターン(B)の画像の座標を検出し、調整対象カメラで撮影した画像から調整校正パターン(A)の画像を検出する。
そして、調整校正パターン(A)の画像の座標と両校正パターン(A、B)の位置関係とに基づいて、基準校正パターン(B)に対応する仮の基準校正パターン(B’)の画像の座標を検出する場合は、仮の基準校正パターン(B’)の画像の座標と基準校正パターン(B)の画像の座標とが一致するように、調整対象カメラに対して定められた前記変換規則を調整する。
又は、基準校正パターン(B)の画像の座標と両校正パターン(A、B)の位置関係とに基づいて、調整校正パターン(A)に対応する仮の調整校正パターン(A’)の画像の座標を検出する場合は、仮の調整校正パターン(A’)の画像の座標と調整校正パターン()の画像の座標とが一致するように、調整対象カメラに対して定められた変換規則を調整する。
このように、本発明では、カメラの撮像範囲が重複しない場合でも、各撮像範囲に校正パターンを配置して、上述した処理を行うことによって、調整対象カメラの校正(キャリブレーション)を容易に行うことができる。
また、従来のように、画面上で(単一の)校正パターンが非常に小さく写る場合でも、本発明では、異なるカメラの撮像範囲に配置された異なる校正パターンを備えた校正用部材を用いることによって、各カメラで校正パターンを検出する精度が向上するので、上述した処理を行うことによって、精度良く校正ができるという効果がある。
(2)また、本発明では、他の態様として、自動車に搭載される車載周辺画像表示装置であって、自動車に搭載されて該自動車の周囲を撮像する複数のカメラと、前記複数のカメラが撮像した各画像に対して、当該画像を撮像したカメラ毎に定めた変換規則に従った射影変換を施して、単一の画像空間上に合成し、前記自動車の周囲を所定の視点から観測したようすを表す車両周辺画像を生成する車両周辺画像生成手段と、前記車両周辺画像生成手段が生成した前記車両周辺画像を表示する表示装置と、前記カメラ毎に定められている前記変換規則を調整する調整手段と、を有し、前記調整手段は、複数の所定の大きさ及び形状の校正パターンが所定の位置関係にて配置された校正用部材が、前記自動車の周囲に配置され、且つ、所定の前記校正パターンが所定のカメラの撮影領域に配置されるとともに、他の前記校正パターンが他のカメラの撮影領域に配置された状態において、所定の前記校正用部材における2つの校正パターンを別個に撮影することができる2つの調整対象カメラを1セットとし、どちらか一方の調整対象カメラを仮基準カメラ、他方のカメラを調整対象カメラとし、前記校正用部材の所定の前記校正パターンを前記仮基準カメラで撮像した画像を、前記仮基準カメラに対して定められた前記変換規則に従って射影変換して、仮基準校正パターンの画像の座標を検出し、前記校正用部材の他の前記校正パターンを前記調整対象カメラで撮像した画像を、前記調整対象カメラに対して定められた前記変換規則に従って射影変換して、調整校正パターンの画像の座標を検出し、前記調整校正パターンの画像の座標と前記両校正パターンの位置関係とに基づいて、前記仮基準校正パターンに対応した仮の仮基準校正パターンの画像の座標を検出し、又は、前記仮基準校正パターンの画像の座標と前記両校正パターンの位置関係とに基づいて、前記調整校正パターンに対応した仮の調整校正パターンの画像の座標を検出し、前記仮の仮基準校正パターンの画像の座標と前記仮基準校正パターンの画像の座標とが一致するように、又は、前記仮の調整校正パターンの画像の座標と前記調整校正パターンの画像の座標とが一致するように、前記調整対象カメラに対して定められた前記変換規則を調整し、且つ、全てのカメラについて、前記セット毎での前記変換規則の調整を行うこと、を特徴とする。
本発明では、例えば図14に例示するように、複数の所定の大きさ及び形状の校正パターン(A〜H)が所定の位置関係にて配置された校正用部材が、前記自動車の周囲に配置され、且つ、所定の前記校正パターン(A〜H)が所定のカメラの撮影領域に配置されるとともに、他の前記校正パターン(A〜H)が他のカメラの撮影領域に配置された状態において、校正用部材の2つの校正パターンを別個に撮影することができる2つの調整対象カメラを1セットとし、どちらか一方の調整対象カメラを仮基準カメラ、他方のカメラを調整対象カメラとし、以下の手順で、全てのカメラについて、セット毎での変換規則の調整を行う。
まず、仮基準カメラで撮像した画像から、仮基準校正パターン(B)の画像の座標を検出し、調整対象カメラで撮像した画像から、調整校正パターン(A)の画像の座標を検出する。
更に、調整校正パターン()の画像の座標と両校正パターン(A、B)の位置関係とに基づいて、仮の仮基準校正パターン(’)の画像の座標を検出する場合は、仮の仮基準校正パターン(’)の画像の座標と仮基準校正パターン()の画像の座標とが一致するように、調整対象カメラに対して定められた変換規則を調整する。
又は、仮基準校正パターン()の画像の座標と両校正パターン(A、B)の位置関係とに基づいて、仮の調整校正パターン(’)の画像の座標を検出する場合は、仮の調整校正パターン(’)の画像の座標と調整校正パターン()の画像の座標とが一致するように、調整対象カメラに対して定められた前記変換規則を調整する。
このように、本発明では、例えば電子制御装置の交換等によって全てのカメラの調整を行う際には、カメラの撮像範囲が重複しない場合でも、各撮像範囲に校正パターンを配置して、上述した処理を行うことによって、調整対象カメラの校正(キャリブレーション)を容易に行うことができる。
また、従来のように、画面上で(単一の)校正パターンが非常に小さく写る場合でも、本発明では、異なるカメラの撮像範囲に配置された異なる校正パターンを備えた校正用部材を用いることによって、各カメラで校正パターンを検出する精度が向上するので、上述した処理を行うことによって、精度良く校正ができるという効果がある。
なお、この欄及び特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本発明の技術的範囲を限定するものではない。
実施例1の車両周辺画像表示装置の構成を示すブロック図である。 パターンA及びパターンBを備えた校正シートを示す平面図である。 実施例1における校正シートの配置を(車両の上方から見た状態にて)示す説明図である。 実施例1のカメラのキャリブレーション方法を示すフローチャートである。 広角カメラによる画像を歪補正した状態を示す説明図である。 車両座標系とカメラのパラメータの例を示す説明図である。 実施例1のキャリブレーション方法のうち、Roll、Pitch、Zの更新方法を示すフローチャートである。 実施例2における校正シートの配置を(車両の上方から見た状態にて)示す説明図である。 実施例2のカメラのキャリブレーション方法を示すフローチャートである。 実施例3における校正シートの配置を(車両の上方から見た状態にて)示す説明図である。 実施例4における校正シートの配置を(車両の上方から見た状態にて)示す説明図である。 実施例4においてレフトカメラによって撮影された画像を示し、(a)は歪補正後の画像、(b)はパターンBを拡大した画像、(c)はパターンAを拡大した画像である。 実施例5に校正シートを配置する例を(車両の上方から見た状態にて)示す説明図である。 実施例6における校正シートの配置を(車両の上方から見た状態にて)示す説明図である。 実施例6のカメラのキャリブレーション方法を示すフローチャートである。 仮の基準カメラ座標系と車両座標系との関係を(車両の上方から見た状態にて)示す説明図である。 車両座標系への変換方法を示し、(a)はθ1の求め方を(車両の上方から見た状態にて)示す説明図であり、(b)はθ2の求め方を(車両の上方から見た状態にて)示す説明図である。 車両座標系への変換方法を示し、(a)仮の基準カメラ座標系の原点を中心として座標を回転させる方法を(車両の上方から見た状態にて)示す説明図であり、(b)はOFFSET_X、OFFSET_Yの求め方を(車両の上方から見た状態にて)示す説明図である。 (a)はパターンAを用いてパターンBを推定する手法を示す説明図、(b)は実施例7のパターンA、Cを用いてパターンBを推定する方法を示す説明図である。
次に、本発明の車両周辺画像表示装置の実施例を、図面と共に説明する。
本実施例の車両周辺画像表示装置は、自動車に搭載されたカメラ(車載カメラ)で撮像した画像の射影変換の変換規則を調整することで、カメラのキャリブレーション(校正:調整)を行うものである。
a)まず、本実施例の車両周辺画像表示装置の基本構成について、図1に基づいて説明する。
図1に示すように、本実施例の車両周辺画像表示装置1は、車両(自動車)に搭載されて自車両の周囲を撮影した画像を表示する装置であり、周知のマイクロコンピュータ等を有する電子制御装置(ECU)3と、車両前部に配置されたフロントカメラ5と、車両左側に配置されたレフトカメラ7と、車両右側に配置されたライトカメラ9と、車両後部に配置されたリアカメラ11と、画像の表示等を行う表示装置13を備えている。
これら4台のカメラ5〜11としては、何れも広角カメラが用いられている。これは、4台のカメラ5〜11にて撮像した画像を、射影画像(自車両の上方から自車両を見たような鳥瞰図画像)に変換して、単一画面空間上に合成し、車両周辺の全周がカバーできる画像にするためである。
このうち、フロントカメラ5は、車両の前方が撮像できるように、車両前部の車幅方向の中心の位置に埋設されている。
レフトカメラ7は、車両の左側方が撮像できるように、車両左側の車両の長手方向の中心又は中心より前方の位置に埋設されている。
ライトカメラ9は、車両の右側方が撮像できるように、車両右側の車両の長手方向の中心又は中心より前方の位置に埋設されている。
リアカメラ11は、車両の後方が撮像できるように車両後部の車幅方向の中心の位置に埋設されている。
また、前記ECU3は、電源15と、画像入力信号処理部17と、入力信号処理部19と、画像処理部21と、メモリ23と、画像出力信号処理部25を備えている。
このうち、電源15は、ECU3に電源を供給するものである。
画像入力信号処理部17は、カメラ5〜11からのアナログの撮像データを分離して映像信号を取り出し、画像処理部21へ出力する。
入力信号処理部19は、入力されたシフト情報、車速情報、舵角情報、及びダイアグツール27からの信号を処理し、前進又はバックかのシフト情報、低速又は高速かの車速情報、ステアリングの操舵角の右旋回もしくは左旋回か又は旋回角度の情報、及びダイアグツールからの指示を画像処理部21へ出力する。
画像処理部21は、映像信号をアナログ信号からデジタル信号に変換する。また、必要な情報はメモリ23を介して実行し、後に詳述するように、校正用部材である校正シート31(図2参照)に関する画像処理から必要なデータを求め、そのデータ(デジタル信号)を画像出力信号処理部25に出力する。
なお、校正シート31の画像処理については、後に詳述するが、校正シート31の一方の端部の校正パターンA(以下単にパターンと記す)を検出し、このパターンAのデータから(パターンAと所定の定められた位置関係のある)パターンBを検出する処理である。
また、前記画像処理部21は、入力信号処理部19からの情報より、例えば、低速の場合にはトップビュー映像に変換する。
メモリ23は、画像処理部21からの映像信号や、パターンAやパターンB等の特徴点である頂点CT(図2参照)の座標情報等を保存する。
画像出力信号処理部25は、画像処理部21から入力された映像信号のデジタル信号をアナログ信号に変換して、表示装置13に出力する。
表示装置13は、画像出力信号処理部25より入力された映像信号(従って画像)を表示する例えば液晶ディスプレイ等の表示装置である。
なお、上述した入力信号処理部19や画像処理部21は、例えばマイクロコンピュータの処理によって実現される。
b)次に、本実施例1のカメラのキャリブレーションに用いる校正シート31について説明する。
<校正シート31の構成>
まず、校正シート31の構成について説明する。
図2に示すように、校正シート31は、例えば縦4700mm×横900mm×厚み5mmの巻くことができるシートであり、その長手方向の両端には、外径900mmの正方形の(同形状の)パターンAとパターンBとが形成されている。
この校正シート31の材料としては、温度や湿度の変化で伸縮しにくい材質が好ましい(例えば校正に与えない程度の伸縮しにくい材質が好ましい)。具体的には布で、特に伸縮しにくい化学繊維が望ましい。
前記パターンA、Bは、校正シート31の布等の表面により、印刷等により着色されたものである。このパターンA、Bは、例えば黒色の正方形(ベースマーク)の中央に、一辺が500mmの例えば白色の正方形のキャリブレマーク33、35が設けられたものである。つまり、正方形の白色のキャリブレマーク33、35の周囲を囲むように、黒色の正方形の枠部34、36が形成されたものである。
この黒色と白色のコントラストは、キャリブレマーク33、35の4つの頂点CT(エッジ)を、パターンA、Bの画像データの輝度差から(周知の画像処理によって)検出可能とするためのものである。ここでは、コントラストを考慮し、パターンA、Bの間の中間部分37は例えば赤色とする。なお、枠部34、36は黒色、中間部分37は赤色と述べたが、どちらかに統一して、両者を黒色または赤色としてもよい。
また、校正シート31の軸方向の端部、即ちパターンA、Bの軸方向の外周側の辺(短辺)に沿って、長さ950mmの棒状の錘(端部ウェイト)39、41が取り付けられている。
この端部ウェイト39、41は、校正シート31を配置した場合にずれにくくする錘である。このため、端部ウェイト39、41は、風などの影響を受けにくい樹脂(例えばABS)や金属(例えば鉄)等の重さのあるものが望ましい。
なお、校正シート31としては、パターンA、Bが所定の寸法で規定されているものであれば、シート状でなくても路面上にペイントされたものであっても良い。
また、パターンA、Bとしては、キャリブレマーク33、35の頂点CTが求められればよいので、正方形に限定するものではなく、長方形や三角形などの多角形を採用できる。
<校正シート31の配置>
次に、校正シート31の配置について説明する。
ここでは、図3に示すように、フロントカメラ5の車両前方の撮像範囲SF(同図破線で示す横長の四角形の範囲)と、レフトカメラ7の車両左側方の撮像範囲SL(同図破線で示す縦長の四角形の範囲)とが一部(同図左上方で)重なる場合に、撮像範囲SFと撮像範囲SLとにわたるように校正シート31を配置した場合について説明する。なお、両撮像範囲SF、SLの重なる範囲を重複範囲SFLと称する。
詳しくは、校正シート31の一端に設けられたパターンAが、(重複範囲SFL以外の)撮像範囲SFに配置され、校正シート31の他端に設けられたパターンBが、(重複範囲SFL以外の)撮像範囲SLに配置されている。
c)次に、本実施例1のキャリブレーション方法について説明する。
なお、どのカメラを基準カメラ(即ちキャリブレーションが不要な正しい位置や向きのカメラ)とするかや、どのカメラを調整対象のカメラ(即ち位置や向きのずれ或いは交換等によってキャリブレーションが必要なカメラ)とするかは、例えばダイアグツール27からの信号によって設定される。この調整の内容とは、カメラの射影変換の変換規則(パラメータ)を調整するものである。
ここでは、レフトカメラ7を基準カメラとし、フロントカメラ5を調整対象カメラとした場合を例に挙げて説明する。
キャリブレーションの実施は、例えばダイアグツール27からの信号によって開始される。つまり、ダイアグツール27からの信号を受けて、ECU3では、以下に示すように、変換規則を調整するキャリブレーション処理プログラムが実行される。
図4に示すように、ダイアグツール27からの信号によって、キャリブレーション処理プログラムが開始されると、まず、ステップ(S)100にて、基準カメラと調整対象カメラとの情報が取得される。
続くステップ110では、調整対象カメラであるフロントカメラ5による撮影(撮像)が実施される。これによって、校正パターンであるパターンAを含むフロントカメラ5の撮像範囲SFの画像データが得られる。なお、この撮像データは、画像入力信号処理部17に入力される。
続くステップ120では、フロントカメラ5で撮影された撮像領域SFの画像の画像処理を行って、下記に示すようにして、パターンA(詳しくは実際のパターンAに対応する画像としてのパターンA)を検出する。
なお、この画像処理によって得られた画像が調整校正パターンGAであるが、以下では、画像データとしての各パターンGA、GBを実際のパターンA、Bを用いて表す(その他のパターンも同様である)。
つまり、画像入力信号処理部17にて、入力されたアナログ信号を分離して映像信号(輝度の情報を含む信号)を取り出し、次に、画像処理部21にて、映像信号をアナログ信号からデジタル信号に変換後、パターンAを検出する。
具体的には、まず、デジタル化された映像信号を用いて、撮影された画像に対して周知の歪み補正を行う。
つまり、撮影された画像は広角レンズで撮影されたものであるので、画像に歪みがあり(図5(a)参照)、例えば直線であっても曲がったように表示されるので、この歪みを補正する(従って直線はまっすぐな直線に補正される:図5(b)参照)。なお、この歪補正については周知であるので説明は省略する。
歪補正後に、映像信号の輝度を比較し、輝度差から(直線の交差部分から)パターンAの頂点CTに対応するエッジを検出する。つまり、検出されたエッジの中で、パターンAの黒い枠状の領域に囲まれた内側の白い図形(キャリブレマーク35)のエッジ(角)に対応するエッジを見つけ、それをパターンAに対応する4つの頂点CTとして検出する。この後、4つの頂点CT(座標)の検出結果がメモリ23に記憶される。
なお、この段階では、画像は単に歪補正がなされただけであるので、通常は、パターンAの形状は正方形ではなく、例えば台形等のような四角形である。
続くステップ130では、画像処理部21では、メモリ23に記憶されたパターンAの画像データに基づいて、フロントカメラ5の変換規則であるパラメータを探索(算出)し、補正する。
具体的には、パターンAの形状と大きさが正方形かつ1辺が500mmとなるように、フロントカメラ5のパラメータX、Y、Z、Roll(ロール)、Pitch(ピッチ)、Yaw(ヨー)のうち、Roll、Pitch、Zを探索(算出)し、補正する。
ここで、RollとPitchを決めることによって図形の形状が定まり、Zを決めることによって図形の大きさが定まる。
なお、図6に車両座標系(即ち車両の前端中央真下の地面の点を基準(原点)とした座標系)を示すが、XはX軸方向(車両の前後方向:前方が+)における距離、YはY軸方向(車両の左右方向:左側が+)における距離、ZはZ軸方向(垂直方向:上方が+)における距離を示している。例えば、車両座標系におけるレフトカメラ7の各パラメータは、図6に示す通りである。
ここで、図7に基づいて、Roll、Pitch、Zの算出方法を説明する。
まず、図7のステップ200にて、Roll、Pitch、Zの更新処理を行う。
例えば各パラメータの範囲を微小範囲(微小値)に分け、各パラメータを順次微小値ずつ更新する。
例えばRollの取りうる範囲が、基準値を中心にして−3°〜+3°の範囲だとすると、0.1°きざみにRollの値を順次変更する。なお、PitchやZについても同様である。
続くステップ210では、それらのパラメータ(即ち順次変更したRoll、Pitch、Z、及び変更しないX、Y、Yaw)を用いて、画像データから射影画像(鳥瞰図画像:トップビュー)を求める。なお、各パラメータを用いて射影画像を求める方法については周知であるので説明は省略する。
続くステップ220では、射影画像におけるパターンA(詳しくはキャリブレマーク35)の正方形らしさを判定する。つまり、パターンAの内側のキャリブレマーク35の4つの頂点CTの座標から、最も正方形らしい図形(1辺が500mmの正方形の画像に最も近い画像)を求める。
例えば正しい正方形の頂点の座標と前記射影画像における四角形の頂点の座標を求め、対応する頂点間の距離の合計値が最小となる図形を最も正方形に近い図形とする。なお、この方法については、例えば特許第4555876号公報(図7参照)に記載のように周知の方法である。
そして、上述のようにパラメータの値を更新しながら、前記ステップ200〜220の処理を繰り返して、最も正方形に近い図形を求め、この図形を求める際に使用したパラメータを、フロントカメラ5の正しいRoll、Pitch、Zのパラメータの値として決定し、メモリ23に記憶する。
また、上述したようにして求めたパターンAの最も正方形に近い図形におけるキャリブレマーク35の頂点CTの座標を、メモリ23に記憶する。
次に、前記図4に戻り、ステップ130では、メモリ23に記憶しているパターンAのキャリブレマーク35の最も正方形に近い図形の頂点CTの座標から、仮のパターンB’のキャリブレマーク33の頂点CTの座標を求める。
つまり、校正シート31の各寸法は分かっているので、前記パターンAの頂点CTの座標と校正シート31の各寸法とから、仮のパターンB’の頂点CTの座標を求めることができる。
以降、便宜的に算出された仮のパターンは、パターンの英字に「’」を付すこととする。
続くステップ150では、変換規則の調整不要な基準カメラであるレフトカメラ7にてパターンBを撮像する。
続くステップ160にて、パターンBの撮像データは画像入力信号処理部17に入力され、次に、画像処理部21にて、前記パターンAの検出と同様にしてパターンBを検出する。なお、この画像処理によって得られた画像が、上述した様に、実際のパターンBに対応する基準校正パターンGBである。
具体的には、パターンBは正方形のため、正方形のパターンBのキャリブレマーク33の4つの頂点CTを検出する。
なお、この基準カメラによって得られた画像データが(正しい変換規則によって)変換されて得られた射影画像の座標データは、車両座標系における座標データである。
続くステップ170では、仮のパターンB’とパターンBとの画像データを用い、仮のパターンB’をパターンBに近づけ、即ち、仮のパターンB’とパターンBとの各キャリブレマークの各頂点CTを対応させ、仮のパターンB’とパターンBの対応する各頂点CTが近づくようにして、位置誤差が最小となるようフロントカメラ5のパラメータを探索(算出)し、補正する。
つまり、仮のパターンB’の向きと位置を調整することにより、位置誤差(即ち対応する各頂点CT間の距離の合計)が最小となるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Yaw、X、Yを探索(算出)し、補正する。
また、Yaw、X、Yを算出方法は、前記図7に示したZ、Roll、Pitchの算出方法と同様である。
ここでは、Yaw、X、Yを決定することにより、図形の平面における位置と回転角度とを設定することができる。
なお、対応する2つの図形間の位置誤差を最小にする方法については、周知であるので説明しないが、例えば特許第4555876号公報等に詳細な説明がある。
続くステップ180では、フロントカメラ5の探索(算出)後の各パラメータX、Y、Z、Roll、Pitch、Yawを、メモリ23に記憶し、一旦本処理を終了する。
従って、フロントカメラ5の調整後のパラメータを用いて正しく調整されたことを確認することができる。
具体的には、まず、フロントカメラ5、レフトカメラ7、ライトカメラ9、リアカメラ11で撮像した映像が、画像入力信号処理部17に入力される。次に、画像処理部21にて、4つのカメラにて撮像した画像を射影画像に変換し、単一画面空間(車両座標系の空間)上に合成する。次に、この射影画像データが画像出力信号処理部25にてアナログ信号に戻してから出力され、表示装置13に表示されることにより、画像を確認することができる。
なお、ECU3内の処理では、必要な情報はメモリ23に蓄積され、メモリ23を介して画像処理部21にて順次実行される。
なお、入力信号処理部19に入力されるシフト、車速、舵角により、空間をどのような視点から眺める画面にするかを決定することができる。例えば、低速時にはトップビュー画面(即ち車両の上方より車両の周囲を見たような鳥瞰図画像)に切替えるといった具合である。
d)次に、本実施例の効果について説明する。
このように、本実施例1では、2個のパターンA及びパターンBを備えた校正シート31を用い、調整対象カメラであるフロントカメラ5の撮像範囲SFにパターンAを配置し、基準カメラであるレフトカメラ7の撮像範囲SLにパターンBを配置する。このとき、両パターンA、Bは、両カメラ5、7の重複範囲SFLに配置しないようにする。
そして、この状態で上述したキャリブレーションを行うことによって、調整対象カメラであるフロントカメラ5の調整を行うことができる。
例えば、図3の位置関係で校正パターンであるパターンAやパターンBがあり、基準カメラがレフトカメラ7で、調整対象カメラがフロントカメラ5であった時に、パターンBを基準カメラのレフトカメラ7で撮像できるが、調整対象カメラのフロントカメラ5で撮像することができない。
しかし、フロントカメラ5ではパターンAを撮像でき、しかも、パターンAとパターンBとの位置関係は既知であるため、パターンAから(パターンBの予測位置である)仮のパターンB’を算出することができる。従って、仮のパターンB’の座標とパターンBの座標とが一致するようにすることにより、フロントカメラ5のパラメータを設定(即ち変換規則を変更)することができる。
このように、本実施例1では、カメラ5、7の撮像範囲が重複しない場合でも、各撮像範囲SF、SLにパターンA、Bを配置して、上述した処理を行うことによって、調整対象カメラであるフロントカメラ5のキャリブレーション(校正)を容易に行うことができる。
また、従来のように、画面上で(単一の)パターンA(又はB)が非常に小さく写る場合でも、本実施例1では、異なるカメラ5、7の撮像範囲SF、SLに配置された異なるパターンA、Bを備えた校正シート31を用いることによって、各カメラ5、7でパターンA、Bを検出する精度が向上するので、上述した処理を行うことによって、精度良く校正ができるという効果がある。
また、本実施例1では、校正シート31は、長尺(長方形)の部材であり、その長手方向の両端部にパターンA、Bが形成されているので、各カメラの撮像範囲が離れている場合でも、容易に各パターンA、Bを各撮像範囲に配置することができる。
更に、本実施例では、校正シート31は、湿度や温度が変化しても伸縮性があまり変化しない材料である布(繊維)から構成されているので、環境が変化しても、常に精度良く校正を行うことができる。
また、校正シート31は、巻物状に巻けるものであるので、保管に場所をとらず、使い勝手が良いという利点がある。
更に、校正シート31の長手方向の両端(パターンA、Bより外側)に棒状の錘である端部ウェイト39、41が付けられているので、校正シート31を安定して配置することができる。
なお、錘の材料としては、樹脂(例えばABS)や金属(例えば鉄)を用いることができる。
次に、実施例2について説明するが、前記実施例1と同様な内容の説明は省略又は簡略化する。なお、各構成の番号は実施例1と同じものを使用する(以下他の実施例も同様)。
前記実施例1では、パターンAからパターンBの座標を算出したが、本実施例2では、図8に示すように、パターンBからパターンAの座標を算出するものである。
なお、基準カメラ(レフトカメラ7)、調整対象カメラ(フロントカメラ5)、校正シート31の形状及びその配置は、前記実施例1と同様である。
図9に示すように、本実施例2では、ステップ300にて、ダイアグツール27からの信号に基づいて、基準カメラと調整対象カメラとの情報が取得される。
続くステップ310では、調整対象カメラであるフロントカメラ5による撮影が実施される。
続くステップ320では、前記実施例1のステップ120と同様にして、パターンAを検出する。
続くステップ330では、前記実施例1のステップ130と同様にして、パターンAに基づくフロントカメラ5のパラメータを探索(算出)し、補正する。具体的には、パターンA(詳しくはそのキャリブレマーク35)の形状と大きさが正方形かつ1辺が500mmとなるような、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Roll、Pitch、Zを探索(算出)し、補正する。
続くステップ340では、(変換規則の調整不要な)基準カメラであるレフトカメラ7にて、パターンBを撮影する。
続くステップ350では、撮影された画像から、パターンBを検出する。具体的には、パターンBは正方形のため、そのキャリブレマーク33の正方形の4つの頂点CTを検出する。
続くステップ360では、校正シート31の寸法は分かっているので、パターンB(詳しくはそのキャリブレマーク33)の4つの頂点CTの座標から、パターンA(詳しくはそのキャリブレマーク35)の4つの頂点CTの座標に対応する仮のパターンA’(詳しくはそのキャリブレマーク)の座標を算出する。
続くステップ370では、仮のパターンA’をパターンAに近づけ(詳しくは各キャリブレマークを近づけ)、位置誤差が最小となるようフロントカメラ5のパラメータを探索(算出)し、補正する。具体的には、仮のパターンA’の向きと位置を調整することにより、パターンAに近づけ、位置誤差が最小となるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Yaw、X、Yを探索(算出)し、補正する。
続くステップ380では、最後に、フロントカメラ5の探索(算出)後のパラメータX、Y、Z、Roll、Pitch、Yawを、メモリ23に記憶し、一旦本処理を終了する。
本実施例2においても、前記実施例1と同様な効果を奏する。
次に、実施例3について説明するが、前記実施例1と同様な内容の説明は省略又は簡略化する。
本実施例3では、図10に示すように、変換規則の調整対象カメラの撮像範囲と調整不要な基準カメラの撮像範囲とが隣接せず離れており、この重複しない各撮像範囲をつなぐように校正シート31を配置する場合について説明する。なお、ここでは、調整対象カメラがフロントカメラ5であり、基準カメラがリアカメラ11である。
以下、本実施例3のキャリブレーション方法について、順番に説明する。
まず、図10に示すように、地上に校正シート31を配置する。具体的には、校正シート31のパターンAをフロントカメラ5の撮像範囲SFに配置するとともに、パターンBをリアカメラ11の撮像範囲SBに配置する。
次に、実施例1と同様にして、フロントカメラ5にて校正シート31のパターンAを撮像する。
次に、実施例1と同様にして、撮影された画像からパターンAを検出する。すなわち、パターンAのキャリブレマーク35の頂点CTを検出する。
次に、実施例1と同様に、パターンAに基づくフロントカメラ5のパラメータを探索(算出)し、補正する。具体的には、パターンA(詳しくはそのキャリブレマーク35)の形状と大きさが正方形かつ1辺が500mmとなるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Roll、Pitch、Zを探索(算出)し、補正する。
次に、実施例1と同様に、校正シート31の各寸法を用い、パターンA(詳しくはそのキャリブレマーク35)の4つの頂点CTの座標から、パターンB(詳しくはそのキャリブレマーク33)に対応した仮のパターンB’(詳しくはそのキャリブレマーク)を算出する。
次に、実施例1と同様に、基準カメラであるリアカメラ11にてパターンBを撮像する。
次に、実施例1と同様に、撮影した画像からパターンBを検出する。つまり、パターンB(及びキャリブレマーク33)は、正方形のため、キャリブレマーク35の正方形の4つの頂点CTを検出する。
次に、実施例1と同様に、仮のパターンB’をパターンBに近づけ(詳しくは各キャリブレマークを近づけ)、位置誤差が最小となるようフロントカメラ5のパラメータを探索(算出)し、補正する。
具体的には、パターンB’(詳しくはそのキャリブレマーク)の向きと位置を調整することにより、パターンB(詳しくはそのキャリブレマーク)に近づけ、位置誤差が最小となるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Yaw、X、Yを探索(算出)し、補正する。
次に、フロントカメラ5の探索(算出)後のパラメータX、Y、Z、Roll、Pitch、Yawを記憶する。
従って、本実施例3においても、前記実施例1と同様な効果を奏する。
特に本実施例3では、サイドカメラ7、9が無い場合でも、フロントカメラ5やリアカメラ11の調整を行うことができるという利点がある。つまり、撮像範囲が重複せず分離している場合でも、容易に調整を行うことができる。
次に、実施例4について説明するが、前記実施例1と同様な内容の説明は省略又は簡略化する。
本実施例4では、図11に示すように、変換規則の調整対象カメラの撮像範囲と調整不要な基準カメラの撮像範囲とが一部重なっている。なお、ここでは、調整対象カメラがレフトカメラ7であり、基準カメラがリアカメラ11である。
特に、図11に示すような位置のレフトカメラ7では、画像上でパターンBは、図12(a)に歪補正後の画像を示すように、非常に小さく写り、また、図12(b)に示すように、歪補正してもピンボケするため、精度良く頂点CTを検出できないが、本実施例4では、以下に述べる方法によって、精度良く頂点CTを検出する。
なお、後述するように、本実施例4では、図12(c)に示すように、パターンAは十分な大きさがあり、くっきりした画像が写り、かつ校正シート31の寸法が既知のため、パターンAの位置からパターンBの位置を算出できる。
以下、本実施例4のキャリブレーション方法について、順番に説明する。
まず、前記図11に示すように、地上に校正シート31を配置する。具体的には、校正シート31のパターンAをレフトカメラ7の撮像範囲SLに配置するとともに、パターンBをリアカメラ11の撮像範囲SBに配置する。但し、パターンAはレフトカメラ7の撮像範囲SLとリアカメラ11の撮像範囲SBとの重複範囲SLBに入らないようにし、一方、パターンBは重複範囲SLBに入るようにする。
次に、(カメラは異なるが)実施例1と同様にして、レフトカメラ7にて校正シート31のパターンAを撮像する。
次に、実施例1と同様にして、撮影された画像からパターンAを検出する。すなわち、パターンAのキャリブレマーク35の頂点CTを検出する。
次に、実施例1と同様に、レフトカメラ7のパラメータを探索(算出)し、補正する。具体的には、パターンA(詳しくはそのキャリブレマーク35)の形状と大きさが正方形かつ1辺が500mmとなるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Roll、Pitch、Zを探索(算出)し、補正する。
次に、実施例1と同様に、校正シート31の各寸法を用い、パターンA(詳しくはそのキャリブレマーク35)の4つの頂点CTの座標から、パターンB(詳しくはそのキャリブレマーク33)に対応したパターンB’(詳しくはそのキャリブレマーク)を算出する。
次に、実施例1と同様に、基準カメラであるリアカメラ11にてパターンBを撮像する。
次に、実施例1と同様に、撮影した画像からパターンBを検出する。つまり、パターンB(及びキャリブレマーク33)は、正方形のため、キャリブレマーク35の正方形の4つの頂点CTを検出する。
次に、実施例1と同様に、パターンB’をパターンBに近づけ(詳しくは各キャリブレマークを近づけ)、位置誤差が最小となるようレフトカメラ7のパラメータを探索(算出)し、補正する。
具体的には、パターンB’(詳しくはそのキャリブレマーク)の向きと位置を調整することにより、パターンB(詳しくはそのキャリブレマーク33)に近づけ、位置誤差が最小となるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Yaw、X、Yを探索(算出)し、補正する。
次に、レフトカメラ7の探索(算出)後のパラメータX、Y、Z、Roll、Pitch、Yawを記憶する。
従って、本実施例4においても、前記実施例1と同様に、調整対象カメラであるレフトカメラ7のキャリブレーションを好適に行うことができる。
特に、本実施例4では、レフトカメラ7で撮影されたパターンBの精度が悪い場合でも、パターンAは十分の大きさがあり、くっきりした画像が写り、かつ校正シート31の寸法が既知のため、パターンAの位置からパターンBの位置を容易に算出できるという利点がある。
なお、本実施例4では、パターンBをレフトカメラ7とリアカメラ11の重複範囲SLBに配置したが、パターンBをリアカメラ11の重複しない撮像範囲SBに配置して、前記実施例1と同様にキャリブレーションを行ってもよい。
次に、実施例5について説明するが、前記実施例1と同様な内容の説明は省略又は簡略化する。
本実施例は、図13に示すように、例えば1枚の校正シート31の位置を変更する等によって、1〜3台のカメラのキャリブレーションを行う方法を、まとめて説明するものである。
a)まず、調整対象カメラがフロントカメラ5であった場合の校正シート31の配置例について説明する。なお、他のカメラは基準カメラである。
図13のフロント欄の左図に示すように、フロントカメラ5およびレフトカメラ7の撮像範囲の重複しない所で、フロントカメラ5の撮像範囲にパターンAを配置するとともに、レフトカメラ7の撮像範囲にパターンBを配置する。
または、図13のフロント欄の右図に示すように、フロントカメラ5およびライトカメラ9の撮像範囲の重複しない所で、フロントカメラ5の撮像範囲にパターンAを配置するとともに、ライトカメラ9の撮像範囲にパターンBを配置する。
そして、前記実施例1と同様にして、パターンAとパターンBのデータを用いて、キャリブレーションを行う。
b)次に、調整対象カメラがリアカメラ11であった場合の校正シート31の配置例について説明する。なお、他のカメラは基準カメラである。
図13のリア欄の左図に示すように、レフトカメラ7およびリアカメラ7の撮像範囲の重複しない所で、レフトカメラ7の撮像範囲にパターンBを配置するとともに、リアカメラ11の撮像範囲にパターンAを配置する。
または、図13のリア欄の右図に示すように、ライトカメラ9およびリアカメラ11の撮像範囲の重複しない所で、ライトカメラ9の撮像範囲にパターンBを配置するとともに、リアカメラ11の撮像範囲にパターンAを配置する。
そして、前記実施例1と同様にして、パターンAとパターンBのデータを用いて、キャリブレーションを行う。
c)次に、調整対象カメラがレフトカメラ7であった場合の校正シート31の配置例について説明する。なお、他のカメラは基準カメラである。
図13のレフト欄の左図に示すように、フロントカメラ5およびレフトカメラ7の撮像範囲の重複しない所で、フロントカメラ5の撮像範囲にパターンBを配置するとともに、レフトカメラ7の撮像範囲にパターンAを配置する。
または、図13のレフト欄の右図に示すように、レフトカメラ7およびリアカメラ11の撮像範囲の重複しない所で、レフトカメラ7の撮像範囲にパターンAを配置するとともに、リアカメラ11の撮像範囲にパターンBを配置する。
そして、前記実施例1と同様にして、パターンAとパターンBのデータを用いて、キャリブレーションを行う。
d)次に、調整対象カメラがライトカメラ9であった場合の校正シート31の配置例について説明する。なお、他のカメラは基準カメラである。
図13のライト欄の左図に示すように、フロントカメラ5およびライトカメラ9の撮像範囲の重複しない所で、フロントカメラ5の撮像範囲にパターンBを配置するとともに、ライトカメラ9の撮像範囲にパターンAを配置する。
または、図13のライト欄の右図に示すように、ライトカメラ9およびリアカメラ11の撮像範囲の重複しない所で、ライトカメラ9の撮像範囲にパターンAを配置するとともに、リアカメラ11の撮像範囲にパターンBを配置する。
そして、前記実施例1と同様にして、パターンAとパターンBのデータを用いて、キャリブレーションを行う。
e)また、調整対象カメラが2台ある場合には、各調整対象カメラに隣り合う基準カメラを用いて、前記実施例1と同様にして、各調整対象カメラのキャリブレーションを行うことができる。
f)更に、調整対象カメラが3台ある場合には、1台の基準カメラを用いて、前記実施例1と同様にして、順次各調整対象カメラのキャリブレーションを行うことができる。
例えば基準カメラがフロントカメラ5で、調整対象カメラがレフトカメラ7、ライトカメラ9、リアカメラ11の場合には、例えば最初に、フロントカメラ5を用いてレフトカメラ7のキャリブレーションを行う。これにより、レフトカメラ7は、基準カメラとなる。
次に、基準カメラとなったレフトカメラ7を用いてリアカメラ11のキャリブレーションを行う。
次に、基準カメラとなったリアカメラ11を用いてライトカメラ9のキャリブレーションを行う。
このようにして、3台の調整対象カメラのキャリブレーションを行うことができる。
次に、実施例6について説明するが、前記実施例1と同様な内容の説明は省略又は簡略化する。
本実施例6では、4台全てのカメラを交換した場合或いはECU3を交換した場合のように、全てのカメラが(射影変換の変換規則の調整が必要な)調整対象カメラであるときのキャリブレーション方法について説明する。
a)まず、校正シート31の配置方法について説明する。
本実施例6では、図14に示すように、4枚の校正シート31(第1〜第4校正シート31a〜31d)を配置する。
なお、4つの校正シート31を配置する際には、各校正パターンA〜Hが各カメラ5〜11の光軸から離れ過ぎてピンボケにならないようにする。
最初に(1stime)、フロントカメラ5及びレフトカメラ7の撮像範囲SF、SLの重複しない所で、且つフロントカメラ5の撮像範囲SFのみに(即ち他のカメラの撮像範囲ではない範囲)、第1校正シート31aのパターンAを配置し、一方、フロントカメラ5及びレフトカメラ7の撮像範囲SF、SLの重複しない所で、且つレフトカメラ7の撮像範囲SLのみに、第1校正シート31aのパターンBを配置する。
次に(2ndtime)、レフトカメラ7及びリアカメラ11の撮像範囲SL、SBの重複しない所で、且つレフトカメラ7の撮像範囲SLのみに、第2校正シート31bの(パターンAと同様な)パターンCを配置し、一方、レフトカメラ7及びリアカメラ11の撮像範囲SL、SBの重複しない所で、且つリアカメラ11撮像範囲SBのみに、第2校正シート31bの(パターンBと同様な)パターンDを配置する。
次に(3rdtime)、リアカメラ11及びライトカメラ9の撮像範囲SB、SRの重複しない所で、且つリアカメラ11の撮像範囲SBのみに、第3校正シート31cの(パターンAと同様な)パターンEを配置し、一方、リアカメラ11及びライトカメラ9の撮像範囲SB、SRの重複しない所で、且つライトカメラ9の撮像範囲SRのみに、第3校正シート31cの(パターンBと同様な)パターンFを配置する。
最後に(4thtime)、ライトカメラ9及びフロントカメラ5の撮像範囲SR、SFの重複しない所で、且つライトカメラ9の撮像範囲SRのみに、第4校正シート31dの(パターンAと同様な)パターンGを配置し、一方、ライトカメラ9及びフロントカメラ5の撮像範囲SR、SFの重複しない所で、且つフロントカメラ5の撮像範囲SFのみに、第4校正シート31dの(パターンBと同様な)パターンHを配置する。
なお、本実施例6では、便宜的に各校正シート31を、上述した順番で配置したが、この順番に縛られるものではない。
b)次に、本実施例6のキャリブレーション方法について説明する。
なお、撮像する順番は問わないが、ここでは、フロントカメラ5、レフトカメラ7、リアカメラ11、ライトカメラ9の順番に撮像した場合について説明する。
図15に示すように、まず、ステップ400にて、ダイアグツール27からの信号により、4台全てのカメラ5〜11のキャリブレーションを行う旨の指令を受信する。
続くステップ410では、フロントカメラ5にて、第1校正シート31aのパターンAと第4校正シート31dのパターンHを撮像する。
続くステップ420では、前記実施例1と同様にして、撮影した画像からパターンAとパターンHを検出する。
続くステップ430では、前記実施例1と同様にして、パターンAとパターンHに基づいて、フロントカメラ5のパラメータを探索(算出)し、補正する。
具体的には、パターンA及びパターンH(詳しくはそれらのキャリブレパターン)の形状と大きさが正方形で且つその1辺が500mmとなるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Roll、Pitch、Zを探索(算出)し、補正する。
続くステップ440では、第1校正シート31a及び第4校正シート31dの寸法は分かっているので、パターンA及びパターンH(詳しくはそれらのキャリブレパターン)の正方形の4つの頂点の座標から、パターンB及びパターンG(詳しくはそれらのキャリブレパターン)の正方形の4つの頂点に対応する座標を、それぞれ仮のパターンB’及び仮のパターンG’(詳しくはそれらのキャリブレパターン)として算出する。
続くステップ450では、レフトカメラ7にて、パターンBとパターンCとを撮像する。
続くステップ460では、前記ステップ420と同様にして、パターンBとパターンCとを検出する。
続くステップ470では、前記ステップ430と同様にして、パターンBとパターンCに基づいて、レフトカメラ7のパラメータを探索(算出)し、補正する。
具体的には、パターンB及びパターンC(詳しくはそれらのキャリブレパターン)の形状と大きさが正方形で且つ1辺が500mmとなるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Roll、Pitch、Zを探索(算出)し、補正する。
続くステップ480では、第1校正シート31a及び第2校正シート31bの寸法は分かっているので、パターンB及びパターンC(詳しくはそれらのキャリブレパターン)の正方形の4つの頂点の座標から、パターンA及びパターンD(詳しくはそれらのキャリブレパターン)の正方形の4つの頂点に対応する座標を、それぞれ仮のパターンA’及び仮のパターンD’(詳しくはそれらのキャリブレパターン)として算出する。
続くステップ490では、リアカメラ11にてパターンDとパターンEとを撮像する。
続くステップ500では、前記ステップ420と同様にして、パターンDとパターンEとを検出する。
続くステップ510では、パターンDとパターンEに基づいて、リアカメラ11のパラメータを探索(算出)し、補正する。
具体的には、パターンD及びパターンE(詳しくはそれらのキャリブレパターン)の形状と大きさが正方形で且つ1辺が500mmとなるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Roll、Pitch、Zを探索(算出)し、補正する。
続くステップ520では、第2校正シート31b及び第3校正シート31cの寸法は分かっているので、パターンD及びパターンE(詳しくはそれらのキャリブレパターン)の正方形の4つの頂点の座標から、パターンC及びパターンF(詳しくはそれらのキャリブレパターン)の正方形の4つの頂点に対応する座標を、それぞれパターンC’及びパターンF’(詳しくはそれらのキャリブレパターン)として算出する。
続くステップ530では、ライトカメラ9にてパターンFとパターンGとを撮像する。
続くステップ540では、前記ステップ420と同様にして、パターンFとパターンGとを検出する。
続くステップ550では、パターンFとパターンGに基づいて、ライトカメラ9のパラメータを探索(算出)し、補正する。
具体的には、パターンF及びパターンG(詳しくはそれらのキャリブレパターン)の形状と大きさが正方形で且つ1辺が500mmとなるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Roll、Pitch、Zを探索(算出)し、補正する。
続くステップ560では、第3校正シート31c及び第4校正シート31dの寸法は分かっているので、パターンF及びパターンG(詳しくはそれらのキャリブレパターン)の正方形の4つの頂点の座標から、パターンE及びパターンH(詳しくはそれらのキャリブレパターン)の正方形の4つの頂点に対応する座標を、それぞれパターンE’及びパターンH’(詳しくはそれらのキャリブレパターン)として算出する。
なお、本実施例6では、2つのパターンずつ正方形の4つの頂点の座標を算出したが、1パターンずつ求めてもよい。
続くステップ570では、パターンA’、パターンB’、パターンC’、パターンD’、パターンE’、パターンF’、パターンG’、パターンH’(詳しくはそれらのキャリブレパターン)を、それぞれパターンA、パターンB、パターンC、パターンD、パターンE、パターンF、パターンG、パターンH(詳しくはそれらのキャリブレパターン)に近づけ、位置誤差が最小となるよう、フロントカメラ5、レフトカメラ7、ライトカメラ9、リアカメラ11のパラメータを探索(算出)し、補正する。
具体的には、前記実施例1と同様に、パターンA’、パターンB’、パターンC’、パターンD’、パターンE’、パターンF’、パターンG’、パターンH’(詳しくはそれらのキャリブレパターン)の向きと位置を調整することにより、それぞれパターンA、パターンB、パターンC、パターンD、パターンE、パターンF、パターンG、パターンH(詳しくはそれらのキャリブレパターン)に近づけ、位置誤差が最小となるように、各カメラ5〜11のパラメータX、Y、Z、Roll、Pitch、Yawのうち、Yaw、X、Yを探索(算出)し、補正する。
ここで、補正の順番については、例えば下記のようにすることができる。
なお、基本的には、前記実施例1(又は実施例2)のように、1つの校正シート31を用いて隣り合うカメラの調整を行う処理を、順次繰り返す。なお、例えば実施例1のように仮調整校正パターン(例えばパターンB’)の座標と調整校正パターン(例えばパターンB)の座標を一致させるようにしてもよいし、実施例2のように、仮の仮基準校正パターン(例えばパターンA’)の座標と仮基準校正パターン(例えばパターンA)の座標を一致させるようにしてもよい。
また、以下では、各パターンについて、「詳しくはそれらのキャリブレパターン」の説明を省略することがある。
具体的には、最初にフロントカメラ5を仮基準カメラとし、パターンBから算出したパターンA’をパターンAに近づけ、位置誤差が最小となるようにすることにより、レフトカメラ7のYaw、X、Yを探索(算出)し、補正する。
次に、レフトカメラ7を仮基準カメラとし、パターンDから算出したパターンC’をパターンCに近づけ、位置誤差が最小となるようにすることにより、リアカメラ11のYaw、X、Yを探索(算出)し、補正する。
次に、リアカメラ11を仮基準カメラとし、パターンFから算出したパターンE’をパターンEに近づけ、位置誤差が最小となるようにすることにより、ライトカメラ9のYaw、X、Yを探索(算出)し、補正する。
最後に、ライトカメラ9を仮基準カメラとし、パターンHから算出したパターンG’をパターンGに近づけ、位置誤差が最小となるようにすることにより、フロントカメラ5のYaw、X、Yを探索(算出)し、補正する。
以上、レフトカメラ7からフロントカメラ5までの4つのすべてのカメラ5〜11のYaw、X、Yを探索(算出)し、補正するサイクルをぐるぐる回し、パターンA〜パターンHまでの向きと位置を調整し、より位置誤差が最小となるようにすることにより、各カメラ5〜11のYaw、X、Yを探索(算出)し、補正する。
なお、補正の順番については、単に1実施例でありこの順番に縛られるものではない。
最後に、ステップ580にて、フロントカメラ5、レフトカメラ7、ライトカメラ9、リアカメラ11の探索(算出)後のパラメータX、Y、Z、Roll、Pitch、Yawをメモリ23に記憶し、一旦本処理を終了する。
c)次に、その後の処理(後処理)について説明する。
この後処理とは、4台のカメラ5〜11の座標系を車両座標系に変換するための処理である。
つまり、上述したステップ400〜580で示した処理は、仮の基準カメラ(例えばフロントカメラ5)を基準にしたパラメータ調整の処理であるので、この調整の処理が終了すると、仮の基準カメラを基準として4つのカメラの5〜11の位置関係が分かる。即ち、図16に示すような仮の基準カメラ座標系における座標等のパラメータが分かる。しかし、キャリブレーションで求めたいのは、仮の基準カメラを基準とした値ではなく、車両座標系におけるパラメータであるので、車両座標系への変換が必要になる。
従って、以下では、この後処理である車両座標系への変換の処理について、ステップ1〜3に示すように、順を追って説明する。
<ステップ1>
まず、図17(a)に示すように、カメラ位置(例えばフロントカメラ5とリアカメラ11の位置)の設計値(x1、y1)、(x2、y2)を使って、車両座標系における前後のカメラ5、11のなす角θ1を求める。なお、ここで破線で示すラインは、(カメラ11の位置を通る)車両の前後方向を示すラインである。
次に、図17(b)に(仮の基準カメラ座標系を)示すように、仮の基準カメラ座標系における前後のカメラ5、11の位置(x1’、y1’)、(x2’、y2’)を使って、仮の基準カメラ座標系における前後のカメラ5、11のなす角θ2を求める。なお、ここで破線で示すラインは、カメラ5の光軸のラインである。
次に、下記式(1)によって、回転角Rを求める。
R=θ1−θ2 ・・・(1)
<ステップ2>
次に、図18(a)に(仮の基準カメラ座標系を)示すように、前記式(1)によって求めた回転角Rを使って、仮の基準カメラ座標系の原点を基準として、(x2’、y2’)を回転させ、回転後の座標を(x2”、y2”)とする。
次に、図18(b)に(車両座標系と仮の基準カメラ座標系とを重ねて)示すように、(x1、y1)、(x2、y2)の中点をM、(x1’、y1’)、(x2”、y2”)の中点をM’とすると、M、M’のX方向の距離とY方向の距離を求め、それぞれOFFSET_X、OFFSET_Yとする。
<ステップ3>
次に、ステップ1、2で求めた回転角R、OFFSET_X、OFFSET_Yを、それぞれ仮の基準カメラを基準とした各カメラ5〜11のYaw、X、Yの値に加算する。これによって、車両座標系への変換が完了する。
以上詳述したように、本実施例6では、4台のカメラ5〜11を全て交換する場合やECU3を交換する場合でも、全てのカメラ5〜11のキャリブレーションを行うことができる。
次に、実施例7について説明するが、前記実施例1と同様な内容の説明は省略又は簡略化する。
本実施例7は、1枚の校正シートに3個のパターンA、B、C(従って各キャリブレマーク)が設けられた校正シートを用いてキャリブレーションを行うものである。
図19(a)に示すように、パターンAからパターンBを推定する方法として、パターンAのキャリブレマークの4つの頂点CTを用いて、2つの直線L1、L2を求め、その方向に沿って既定距離だけ進むことによって、パターンBのキャリブレマークの頂点CTを求めるという方法がある(実施例1も同様な手法である)。
このとき、直線L1、L2の精度はパターンA(従ってそのキャリブレマークの頂点CT)の精度に依存する。
これに対して、本実施例7では、図19(b)に示すように、長手方向に沿ってパターンA、(パターンAと同様な形状の)パターンC、パターンBが設けられた校正シートを用いる。
なお、パターンCは、校正シート31の長手方向に沿ってパターンAをパターンB側に平行移動した図形であり、その位置は、例えばパターンAとパターンBとの中間である。
つまり、パターンAだけでなくパターンC(詳しくは各キャリブレマークの頂点CT)を用いることによって、直線L1、L2の精度を向上させることができる。その結果、パターンBの推定精度を一層向上させることができる。
なお、直線L1、L2を求める方法としては、直線L1(又は直線L2に対して、それぞれ対応するパターンA及びパターンCのキャリブレマークの頂点CTからの距離を最小にする周知の最小二乗法などを用いることができる。
尚、本発明は前記になんら限定されるものではなく、本発明を逸脱しない範囲において種々の態様で実施しうることはいうまでもない。
(1)例えば前記各実施例において、例えば1つの構成要素が有する機能を複数の構成要素に分散させたり、複数の構成要素が有する機能を1つの構成要素に統合したりしてもよい。また、実施例の構成の少なくとも一部を、同様の機能を有する公知の構成に置き換えてもよい。更に、実施例の構成の少なくとも一部を、他の実施例の構成に対して付加、置換等してもよい。
(2)前記校正シートとしては、巻くことができる校正シート以外に、例えば板状等の巻くことができない校正用部材や、折り曲げることができる板状等の校正用部材を使用することができる。
(3)前記校正シートの色については、上述したキャリブレーションが可能であれば、特に限定はない。
(4)端部ウェイトについては、上述したキャリブレーションが可能であれば、省略してもよい。
1…車両周辺画像表示装置
3…電子制御装置(ECU)
5…フロントカメラ
7…レフトカメラ
9…ライトカメラ
11…リアカメラ
13…表示装置
17…画像入力信号処理部
19…入力信号処理部
21…画像処理部
23…メモリ
25…画像出力信号処理部
27…ダイアグツール
31、31a、31b、31c、31d…校正シート
39、41…端部ウェイト

Claims (11)

  1. 自動車に搭載される車載周辺画像表示装置(1)であって、
    自動車に搭載されて該自動車の周囲を撮像する複数のカメラ(5、7、9、11)と、
    前記複数のカメラ(5、7、9、11)が撮像した各画像に対して、当該画像を撮像したカメラ(5、7、9、11)毎に定めた変換規則に従った射影変換を施して、単一の画像空間上に合成し、前記自動車の周囲を所定の視点から観測したようすを表す車両周辺画像を生成する車両周辺画像生成手段(21)と、
    前記車両周辺画像生成手段(21)が生成した前記車両周辺画像を表示する表示装置(13)と、
    前記カメラ(5、7、9、11)毎に定められている前記変換規則を調整する調整手段(21)と、
    を有し、
    前記調整手段(21)は、
    複数の所定の大きさ及び形状の校正パターン(A、B)が所定の位置関係にて配置された校正用部材(31)が、前記自動車の周囲に配置され、且つ、所定の前記校正パターン(B)が前記変換規則の調整の基準となる基準カメラ(7)の撮影領域に配置されるとともに、他の前記校正パターン(A)が前記変換規則の調整の対象となる調整対象カメラ(5)の撮影領域に配置された状態において、
    前記校正用部材(31)の所定の前記校正パターン(B)を前記基準カメラ(7)で撮像した画像を、前記基準カメラ(7)に対して定められた前記変換規則に従って射影変換して、基準校正パターン(B)の画像の座標を検出し、
    前記校正用部材(31)の他の前記校正パターン(A)を前記調整対象カメラ(5)で撮像した画像を、前記調整対象カメラ(5)に対して定められた前記変換規則に従って射影変換して、調整校正パターン(A)の画像の座標を検出し、
    該調整校正パターン(A)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記基準校正パターン(B)に対応する仮の基準校正パターン(B’)の画像の座標を検出し、又は、前記基準校正パターン(B)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記調整校正パターン(A)に対応する仮の調整校正パターン(A’)の画像の座標を検出し、
    前記仮の基準校正パターン(B’)の画像の座標と前記基準校正パターン(B)の画像の座標とが一致するように、又は、前記仮の調整校正パターン(A’)の画像の座標と前記調整校正パターン()の画像の座標とが一致するように、前記調整対象カメラ(5)に対して定められた前記変換規則を調整すること、
    を特徴とする車載周辺画像表示装置。
  2. 自動車に搭載される車載周辺画像表示装置(1)であって、
    自動車に搭載されて該自動車の周囲を撮像する複数のカメラ(5、7、9、11)と、
    前記複数のカメラ(5、7、9、11)が撮像した各画像に対して、当該画像を撮像したカメラ(5、7、9、11)毎に定めた変換規則に従った射影変換を施して、単一の画像空間上に合成し、前記自動車の周囲を所定の視点から観測したようすを表す車両周辺画像を生成する車両周辺画像生成手段(21)と、
    前記車両周辺画像生成手段が生成した前記車両周辺画像を表示する表示装置(13)と、
    前記カメラ(5、7、9、11)毎に定められている前記変換規則を調整する調整手段(21)と、
    を有し、
    前記調整手段(21)は、
    複数の所定の大きさ及び形状の校正パターン(A〜H)が所定の位置関係にて配置された校正用部材(31)が、前記自動車の周囲に配置され、且つ、所定の前記校正パターン(A〜H)が所定のカメラ(5、7、9、11)の撮影領域に配置されるとともに、他の前記校正パターン(A〜H)が他のカメラ(5、7、9、11)の撮影領域に配置された状態において、
    所定の前記校正用部材(31a)における2つの校正パターン(A、B)を別個に撮影することができる2つの調整対象カメラ(5、7)を1セットとし、どちらか一方の調整対象カメラを仮基準カメラ(7)、他方のカメラを調整対象カメラ(5)とし、
    前記校正用部材(31a)の所定の前記校正パターン(B)を前記仮基準カメラ(7)で撮像した画像を、前記仮基準カメラ(7)に対して定められた前記変換規則に従って射影変換して、仮基準校正パターン(B)の画像の座標を検出し、
    前記校正用部材(31a)の他の前記校正パターン(A)を前記調整対象カメラ(5)で撮像した画像を、前記調整対象カメラ(5)に対して定められた前記変換規則に従って射影変換して、調整校正パターン(A)の画像の座標を検出し、
    前記調整校正パターン(A)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記仮基準校正パターン(B)に対応した仮の仮基準校正パターン(B’)の画像の座標を検出し、又は、前記仮基準校正パターン(B)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記調整校正パターン(A)に対応した仮の調整校正パターン(A’)の画像の座標を検出し、
    前記仮の仮基準校正パターン(B’)の画像の座標と前記仮基準校正パターン(B)の画像の座標とが一致するように、又は、前記仮の調整校正パターン(A’)の画像の座標と前記調整校正パターン(A)の画像の座標とが一致するように、前記調整対象カメラ(5)に対して定められた前記変換規則を調整し、
    且つ、全てのカメラ(5〜11)について、前記セット毎での前記変換規則の調整を行うこと、
    を特徴とする車載周辺画像表示装置。
  3. 前記校正用部材(31)は、シート状であることを特徴とする請求項1又は2に記載の車載周辺画像表示装置。
  4. 前記校正用部材(31)は、長尺の部材であり、その長手方向の両端部に前記校正パターン(A、B)が形成されていることを特徴とする請求項1〜3のいずれか1項に記載の車載周辺画像表示装置。
  5. 前記校正用部材(31)は、平面形状が四角形状であることを特徴とする請求項1〜4のいずれか1項に記載の車載周辺画像表示装置。
  6. 前記校正用部材(31)は、温度又は湿度に対して所定以下の伸縮性を有する繊維でできていることを特徴とする請求項1〜5のいずれか1項に記載の車載周辺画像表示装置。
  7. 前記校正用部材(31)は、巻物状に巻けるものであることを特徴とする請求項1〜6のいずれか1項に記載の車載周辺画像表示装置。
  8. 前記校正用部材(31)は、長尺の部材であり、その長手方向の両端部に棒状の錘(39、41)が付けられていることを特徴とする請求項1〜7のいずれか1項に記載の車載周辺画像表示装置。
  9. 前記錘(39、41)の材質は、樹脂又は金属からなることを特徴とする請求項8に記載の車載周辺画像表示装置。
  10. 自動車に搭載されて該自動車の周囲を撮像する複数のカメラ(5、7、9、11)と、
    前記複数のカメラ(5、7、9、11)が撮像した各画像に対して、当該画像を撮像したカメラ(5、7、9、11)毎に定めた変換規則に従った射影変換を施して、単一の画像空間上に合成し、前記自動車の周囲を所定の視点から観測したようすを表す車両周辺画像を生成する車両周辺画像生成手段(21)と、
    前記車両周辺画像生成手段(21)が生成した前記車両周辺画像を表示する表示装置(13)と、
    を有する車載周辺画像表示装置(1)に対し、前記カメラ(5、7、9、11)の前記変換規則の調整を行うカメラの調整方法であって、
    複数の所定の大きさ及び形状の校正パターン(A、B)が所定の位置関係にて配置された校正用部材(31)が、前記自動車の周囲に配置され、且つ、所定の前記校正パターン(B)が前記変換規則の調整の基準となる基準カメラ(7)の撮影領域に配置されるとともに、他の前記校正パターン(A)が前記変換規則の調整の対象となる調整対象カメラ(5)の撮影領域に配置された状態において、
    前記校正用部材(31)の所定の前記校正パターン(B)を前記基準カメラ(7)で撮像した画像を、前記基準カメラ(7)に対して定められた前記変換規則に従って射影変換して、基準校正パターン(B)の画像の座標を検出するステップと、
    前記校正用部材(31)の他の前記校正パターン(A)を前記調整対象カメラ(5)で撮像した画像を、前記調整対象カメラ(5)に対して定められた前記変換規則に従って射影変換して、調整校正パターン(A)の画像の座標を検出するステップと、
    該調整校正パターン(A)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記基準校正パターン(B)に対応する仮の基準校正パターン(B’)の画像の座標を検出し、又は、前記基準校正パターン(B)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記調整校正パターン(A)に対応する仮の調整校正パターン(A’)の画像の座標を検出するステップと、
    前記仮の基準校正パターン(B’)の画像の座標と前記基準校正パターン(B)の画像の座標とが一致するように、又は、前記仮の調整校正パターン(A’)の画像の座標と前記調整校正パターン()の画像の座標とが一致するように、前記調整対象カメラ(5)に対して定められた前記変換規則を調整するステップと、
    を有することを特徴とするカメラの調整方法。
  11. 自動車に搭載されて該自動車の周囲を撮像する複数のカメラ(5、7、9、11)と、
    前記複数のカメラ(5、7、9、11)が撮像した各画像に対して、当該画像を撮像したカメラ(5、7、9、11)毎に定めた変換規則に従った射影変換を施して、単一の画像空間上に合成し、前記自動車の周囲を所定の視点から観測したようすを表す車両周辺画像を生成する車両周辺画像生成手段(21)と、
    前記車両周辺画像生成手段が生成した前記車両周辺画像を表示する表示装置(13)と、
    を有する車載周辺画像表示装置(1)に対し、前記カメラ(5、7、9、11)の前記変換規則の調整を行うカメラの調整方法であって、
    複数の所定の大きさ及び形状の校正パターン(A〜H)が所定の位置関係にて配置された校正用部材(31)が、前記自動車の周囲に配置され、且つ、所定の前記校正パターン(A〜H)が所定のカメラ(5、7、9、11)の撮影領域に配置されるとともに、他の前記校正パターン(A〜H)が他のカメラ(5、7、9、11)の撮影領域に配置された状態において、
    所定の前記校正用部材(31a)における2つの校正パターン(A、B)を別個に撮影することができる2つの調整対象カメラ(5、7)を1セットとし、どちらか一方の調整対象カメラを仮基準カメラ(7)、他方のカメラを調整対象カメラ(5)とし、
    前記校正用部材(31a)の所定の前記校正パターン(B)を前記仮基準カメラ(7)で撮像した画像を、前記仮基準カメラ(7)に対して定められた前記変換規則に従って射影変換して、仮基準校正パターン(B)の画像の座標を検出するステップと、
    前記校正用部材(31a)の他の前記校正パターン(A)を前記調整対象カメラ(5)で撮像した画像を、前記調整対象カメラ(5)に対して定められた前記変換規則に従って射影変換して、調整校正パターン(A)の画像の座標を検出するステップと、
    前記調整校正パターン(A)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記仮基準校正パターン(B)に対応した仮の仮基準校正パターン(B’)の画像の座標を検出し、又は、前記仮基準校正パターン(B)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記調整校正パターン(A)に対応した仮の調整校正パターン(A’)の画像の座標を検出するステップと、
    前記仮の仮基準校正パターン(B’)の画像の座標と前記仮基準校正パターン(B)の画像の座標とが一致するように、又は、前記仮の調整校正パターン(A’)の画像の座標と前記調整校正パターン(A)の画像の座標とが一致するように、前記調整対象カメラ(5)に対して定められた前記変換規則を調整するステップと
    を有し、
    全てのカメラ(5〜11)について、前記セット毎での前記変換規則の調整を行うことを特徴とするカメラの調整方法。
JP2013204474A 2013-09-30 2013-09-30 車両周辺画像表示装置及びカメラの調整方法 Active JP6277652B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2013204474A JP6277652B2 (ja) 2013-09-30 2013-09-30 車両周辺画像表示装置及びカメラの調整方法
CN201480053525.XA CN105594203B (zh) 2013-09-30 2014-09-17 车辆周边图像显示装置以及照相机的调整方法
DE112014004506.3T DE112014004506B4 (de) 2013-09-30 2014-09-17 Fahrzeugumgebungsbildanzeigevorrichtung und Kameraeinstellverfahren
US15/025,126 US10358086B2 (en) 2013-09-30 2014-09-17 Vehicle periphery image display device and camera adjustment method
PCT/JP2014/004768 WO2015045329A1 (ja) 2013-09-30 2014-09-17 車両周辺画像表示装置及びカメラの調整方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013204474A JP6277652B2 (ja) 2013-09-30 2013-09-30 車両周辺画像表示装置及びカメラの調整方法

Publications (2)

Publication Number Publication Date
JP2015070512A JP2015070512A (ja) 2015-04-13
JP6277652B2 true JP6277652B2 (ja) 2018-02-14

Family

ID=52742502

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013204474A Active JP6277652B2 (ja) 2013-09-30 2013-09-30 車両周辺画像表示装置及びカメラの調整方法

Country Status (5)

Country Link
US (1) US10358086B2 (ja)
JP (1) JP6277652B2 (ja)
CN (1) CN105594203B (ja)
DE (1) DE112014004506B4 (ja)
WO (1) WO2015045329A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6277652B2 (ja) 2013-09-30 2018-02-14 株式会社デンソー 車両周辺画像表示装置及びカメラの調整方法
JP6458439B2 (ja) * 2014-10-09 2019-01-30 株式会社デンソー 車載カメラ較正装置、画像生成装置、車載カメラ較正方法、画像生成方法
EP3125196B1 (en) 2015-07-29 2018-02-21 Continental Automotive GmbH Drive-by calibration from static targets
JP6413974B2 (ja) 2015-08-05 2018-10-31 株式会社デンソー キャリブレーション装置、キャリブレーション方法、及びプログラム
JP6536529B2 (ja) * 2016-10-17 2019-07-03 株式会社デンソー 車載カメラのキャリブレーション装置及び車載カメラのキャリブレーション方法
GB2560948B (en) * 2017-03-29 2020-12-30 Imagination Tech Ltd Camera Calibration
KR101928979B1 (ko) * 2017-07-04 2019-03-12 주식회사 티에스리 차량의 주변에 설치가 용이한 캘리브레이션 장치 및 그 설치방법
DE102018203003A1 (de) * 2017-12-20 2019-06-27 Continental Automotive Gmbh Verfahren und Vorrichtung zum Betreiben eines Kamera-Monitor-Systems für ein Kraftfahrzeug
DE102018111776B4 (de) * 2018-05-16 2024-01-25 Motherson Innovations Company Limited Kalibriervorrichtung, Verfahren zur Ermittlung von Kalibrierdaten, Vorrichtung zur Ausführung des Verfahrens, Kraftfahrzeug umfassend eine solche Vorrichtung und Verwendung der Kalibriervorrichtung für das Verfahren sowie das Kraftfahrzeug
JP7314486B2 (ja) * 2018-09-06 2023-07-26 株式会社アイシン カメラキャリブレーション装置
KR20200067641A (ko) 2018-12-04 2020-06-12 삼성전자주식회사 3차원 증강 현실을 위한 캘리브레이션 방법 및 그 장치
JP7056540B2 (ja) * 2018-12-18 2022-04-19 株式会社デンソー センサ校正方法およびセンサ校正装置
US11146783B2 (en) * 2019-08-16 2021-10-12 GM Cruise Holdings, LLC Partial calibration target detection for improved vehicle sensor calibration
US20210262804A1 (en) * 2020-02-21 2021-08-26 Canon Kabushiki Kaisha Information processing device, information processing method, and storage medium

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7248284B2 (en) * 2002-08-12 2007-07-24 Edward Alan Pierce Calibration targets for digital cameras and methods of using same
KR100899742B1 (ko) * 2006-09-30 2009-05-27 삼성전자주식회사 통신 시스템에서 단말기 정보 이용 시스템 및 방법
JP2008187564A (ja) * 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両
JP2008187566A (ja) 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両
JP5124147B2 (ja) * 2007-02-01 2013-01-23 三洋電機株式会社 カメラ校正装置及び方法並びに車両
JP2009017020A (ja) * 2007-07-02 2009-01-22 Nissan Motor Co Ltd 画像処理装置及び表示画像生成方法
JP2009100342A (ja) * 2007-10-18 2009-05-07 Sanyo Electric Co Ltd カメラ校正装置及び方法、並びに、車両
JP4555876B2 (ja) 2008-05-30 2010-10-06 株式会社日本自動車部品総合研究所 車載カメラのキャリブレーション方法
WO2010109730A1 (ja) * 2009-03-26 2010-09-30 アイシン精機株式会社 カメラ校正装置
JP2010245803A (ja) * 2009-04-06 2010-10-28 Sanyo Electric Co Ltd 画像処理装置
JP5523730B2 (ja) * 2009-04-07 2014-06-18 アルパイン株式会社 車載周辺画像表示装置
JP2010258691A (ja) * 2009-04-23 2010-11-11 Sanyo Electric Co Ltd 操縦支援装置
JP5108840B2 (ja) * 2009-07-29 2012-12-26 クラリオン株式会社 車両用周辺監視装置および車両用周辺画像表示方法
JP5491235B2 (ja) * 2010-03-02 2014-05-14 東芝アルパイン・オートモティブテクノロジー株式会社 カメラキャリブレーション装置
JP5444139B2 (ja) * 2010-06-29 2014-03-19 クラリオン株式会社 画像のキャリブレーション方法および装置
JP2012147149A (ja) * 2011-01-11 2012-08-02 Aisin Seiki Co Ltd 画像生成装置
EP2523163B1 (en) * 2011-05-10 2019-10-16 Harman Becker Automotive Systems GmbH Method and program for calibrating a multicamera system
JP6058256B2 (ja) * 2011-06-13 2017-01-11 アルパイン株式会社 車載カメラ姿勢検出装置および方法
KR101265667B1 (ko) * 2011-06-21 2013-05-22 ㈜베이다스 차량 주변 시각화를 위한 3차원 영상 합성장치 및 그 방법
JP6277652B2 (ja) 2013-09-30 2018-02-14 株式会社デンソー 車両周辺画像表示装置及びカメラの調整方法

Also Published As

Publication number Publication date
DE112014004506T5 (de) 2016-07-21
US10358086B2 (en) 2019-07-23
CN105594203A (zh) 2016-05-18
WO2015045329A1 (ja) 2015-04-02
US20160236619A1 (en) 2016-08-18
JP2015070512A (ja) 2015-04-13
CN105594203B (zh) 2018-09-04
DE112014004506B4 (de) 2021-04-29

Similar Documents

Publication Publication Date Title
JP6277652B2 (ja) 車両周辺画像表示装置及びカメラの調整方法
JP5820787B2 (ja) 画像処理装置、及びプログラム
JP4861034B2 (ja) 車載カメラのキャリブレーションシステム
JP5124147B2 (ja) カメラ校正装置及び方法並びに車両
JP5316805B2 (ja) 車載カメラ装置の画像調整装置及び車載カメラ装置
JP6594039B2 (ja) 画像処理装置、方法及びプログラム
JP4690476B2 (ja) 車載カメラの校正装置
US8452568B2 (en) Method for calibrating cameras installed on vehicle
JP4015051B2 (ja) カメラ補正装置
KR101113679B1 (ko) 카메라 시스템의 영상 보정 방법
JP5091902B2 (ja) 車載カメラの校正に用いられる校正指標と、当該校正指標を用いた車載カメラの校正方法と、システムと、当該システムのためのプログラム
US8134608B2 (en) Imaging apparatus
WO2017135081A1 (ja) 車載カメラ用校正システム
JP2008187564A (ja) カメラ校正装置及び方法並びに車両
JP2013115540A (ja) 車載カメラシステム及びその較正方法、及びその較正プログラム
JP2011215063A (ja) カメラ姿勢パラメータ推定装置
JP2009042162A (ja) キャリブレーション装置及びその方法
CN108429908B (zh) 一种摄像模组的测试方法、装置、设备及介质
JP2006277738A (ja) 車載画像処理装置及び車両用画像処理方法
JP2007256030A (ja) 車載カメラのキャリブレーション装置およびキャリブレーション方法
US11468596B2 (en) Bird's-eye view image generating device for vessel, and calibration method of the same
JP2013246606A (ja) データ導出装置、及び、データ導出方法
JP2007158695A (ja) 車載画像処理装置
JP2013024712A (ja) 複数カメラの校正方法及び校正システム
JP2016225719A (ja) ステレオカメラ装置、車両、および較正方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170523

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170724

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180101

R151 Written notification of patent or utility model registration

Ref document number: 6277652

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250