JP6277652B2 - 車両周辺画像表示装置及びカメラの調整方法 - Google Patents
車両周辺画像表示装置及びカメラの調整方法 Download PDFInfo
- Publication number
- JP6277652B2 JP6277652B2 JP2013204474A JP2013204474A JP6277652B2 JP 6277652 B2 JP6277652 B2 JP 6277652B2 JP 2013204474 A JP2013204474 A JP 2013204474A JP 2013204474 A JP2013204474 A JP 2013204474A JP 6277652 B2 JP6277652 B2 JP 6277652B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- calibration
- camera
- pattern
- calibration pattern
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 51
- 230000002093 peripheral effect Effects 0.000 title claims description 24
- 238000003384 imaging method Methods 0.000 claims description 94
- 238000006243 chemical reaction Methods 0.000 claims description 77
- 239000000835 fiber Substances 0.000 claims description 3
- 239000002184 metal Substances 0.000 claims description 3
- 229910052751 metal Inorganic materials 0.000 claims description 3
- 239000011347 resin Substances 0.000 claims description 3
- 229920005989 resin Polymers 0.000 claims description 3
- 239000004429 Calibre Substances 0.000 description 56
- 238000012545 processing Methods 0.000 description 50
- 238000012937 correction Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 6
- 239000000463 material Substances 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- XEEYBQQBJWHFJM-UHFFFAOYSA-N Iron Chemical compound [Fe] XEEYBQQBJWHFJM-UHFFFAOYSA-N 0.000 description 4
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000012805 post-processing Methods 0.000 description 3
- 240000004050 Pentaglottis sempervirens Species 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 239000004744 fabric Substances 0.000 description 2
- 229910052742 iron Inorganic materials 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
- B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/303—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/40—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
- B60R2300/402—Image calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Description
また、近年では、カメラやカメラを制御する電子制御装置を交換した場合や、使用しているうちにカメラの位置や姿勢のずれが生じた場合に、カメラのキャリブレーション(校正:調整)を行う技術が開示されている。
具体的には、工場においては、カメラの変換規則を調整する場合に、工場内の地面の決められた位置に、規定の形状かつ大きさの校正パターンがペイントされている。そして、カメラの変換規則を調整するために、規定の場所に車両を移動させる。これによって、校正パターンと車両との位置関係が決まることにより、校正パターンと車両に設置されているカメラとの位置関係が決まるため、算術によりカメラの変換規則を調整している。
本発明は、前記課題を解決するためになされたものであり、その目的は、例えば校正パターンを、調整対象カメラの撮像範囲と基準カメラの撮像範囲とが重複していない範囲に置いた場合であっても、調整対象カメラの変換規則を容易に調整可能な車両周辺画像表示装置及びカメラの調整方法を提供することを目的とする。
図1に示すように、本実施例の車両周辺画像表示装置1は、車両(自動車)に搭載されて自車両の周囲を撮影した画像を表示する装置であり、周知のマイクロコンピュータ等を有する電子制御装置(ECU)3と、車両前部に配置されたフロントカメラ5と、車両左側に配置されたレフトカメラ7と、車両右側に配置されたライトカメラ9と、車両後部に配置されたリアカメラ11と、画像の表示等を行う表示装置13を備えている。
レフトカメラ7は、車両の左側方が撮像できるように、車両左側の車両の長手方向の中心又は中心より前方の位置に埋設されている。
リアカメラ11は、車両の後方が撮像できるように車両後部の車幅方向の中心の位置に埋設されている。
このうち、電源15は、ECU3に電源を供給するものである。
入力信号処理部19は、入力されたシフト情報、車速情報、舵角情報、及びダイアグツール27からの信号を処理し、前進又はバックかのシフト情報、低速又は高速かの車速情報、ステアリングの操舵角の右旋回もしくは左旋回か又は旋回角度の情報、及びダイアグツールからの指示を画像処理部21へ出力する。
メモリ23は、画像処理部21からの映像信号や、パターンAやパターンB等の特徴点である頂点CT(図2参照)の座標情報等を保存する。
表示装置13は、画像出力信号処理部25より入力された映像信号(従って画像)を表示する例えば液晶ディスプレイ等の表示装置である。
b)次に、本実施例1のカメラのキャリブレーションに用いる校正シート31について説明する。
まず、校正シート31の構成について説明する。
図2に示すように、校正シート31は、例えば縦4700mm×横900mm×厚み5mmの巻くことができるシートであり、その長手方向の両端には、外径900mmの正方形の(同形状の)パターンAとパターンBとが形成されている。
また、パターンA、Bとしては、キャリブレマーク33、35の頂点CTが求められればよいので、正方形に限定するものではなく、長方形や三角形などの多角形を採用できる。
次に、校正シート31の配置について説明する。
ここでは、図3に示すように、フロントカメラ5の車両前方の撮像範囲SF(同図破線で示す横長の四角形の範囲)と、レフトカメラ7の車両左側方の撮像範囲SL(同図破線で示す縦長の四角形の範囲)とが一部(同図左上方で)重なる場合に、撮像範囲SFと撮像範囲SLとにわたるように校正シート31を配置した場合について説明する。なお、両撮像範囲SF、SLの重なる範囲を重複範囲SFLと称する。
なお、どのカメラを基準カメラ(即ちキャリブレーションが不要な正しい位置や向きのカメラ)とするかや、どのカメラを調整対象のカメラ(即ち位置や向きのずれ或いは交換等によってキャリブレーションが必要なカメラ)とするかは、例えばダイアグツール27からの信号によって設定される。この調整の内容とは、カメラの射影変換の変換規則(パラメータ)を調整するものである。
キャリブレーションの実施は、例えばダイアグツール27からの信号によって開始される。つまり、ダイアグツール27からの信号を受けて、ECU3では、以下に示すように、変換規則を調整するキャリブレーション処理プログラムが実行される。
つまり、撮影された画像は広角レンズで撮影されたものであるので、画像に歪みがあり(図5(a)参照)、例えば直線であっても曲がったように表示されるので、この歪みを補正する(従って直線はまっすぐな直線に補正される:図5(b)参照)。なお、この歪補正については周知であるので説明は省略する。
続くステップ130では、画像処理部21では、メモリ23に記憶されたパターンAの画像データに基づいて、フロントカメラ5の変換規則であるパラメータを探索(算出)し、補正する。
なお、図6に車両座標系(即ち車両の前端中央真下の地面の点を基準(原点)とした座標系)を示すが、XはX軸方向(車両の前後方向:前方が+)における距離、YはY軸方向(車両の左右方向:左側が+)における距離、ZはZ軸方向(垂直方向:上方が+)における距離を示している。例えば、車両座標系におけるレフトカメラ7の各パラメータは、図6に示す通りである。
まず、図7のステップ200にて、Roll、Pitch、Zの更新処理を行う。
例えば各パラメータの範囲を微小範囲(微小値)に分け、各パラメータを順次微小値ずつ更新する。
次に、前記図4に戻り、ステップ130では、メモリ23に記憶しているパターンAのキャリブレマーク35の最も正方形に近い図形の頂点CTの座標から、仮のパターンB’のキャリブレマーク33の頂点CTの座標を求める。
続くステップ150では、変換規則の調整不要な基準カメラであるレフトカメラ7にてパターンBを撮像する。
なお、この基準カメラによって得られた画像データが(正しい変換規則によって)変換されて得られた射影画像の座標データは、車両座標系における座標データである。
ここでは、Yaw、X、Yを決定することにより、図形の平面における位置と回転角度とを設定することができる。
続くステップ180では、フロントカメラ5の探索(算出)後の各パラメータX、Y、Z、Roll、Pitch、Yawを、メモリ23に記憶し、一旦本処理を終了する。
具体的には、まず、フロントカメラ5、レフトカメラ7、ライトカメラ9、リアカメラ11で撮像した映像が、画像入力信号処理部17に入力される。次に、画像処理部21にて、4つのカメラにて撮像した画像を射影画像に変換し、単一画面空間(車両座標系の空間)上に合成する。次に、この射影画像データが画像出力信号処理部25にてアナログ信号に戻してから出力され、表示装置13に表示されることにより、画像を確認することができる。
なお、入力信号処理部19に入力されるシフト、車速、舵角により、空間をどのような視点から眺める画面にするかを決定することができる。例えば、低速時にはトップビュー画面(即ち車両の上方より車両の周囲を見たような鳥瞰図画像)に切替えるといった具合である。
このように、本実施例1では、2個のパターンA及びパターンBを備えた校正シート31を用い、調整対象カメラであるフロントカメラ5の撮像範囲SFにパターンAを配置し、基準カメラであるレフトカメラ7の撮像範囲SLにパターンBを配置する。このとき、両パターンA、Bは、両カメラ5、7の重複範囲SFLに配置しないようにする。
例えば、図3の位置関係で校正パターンであるパターンAやパターンBがあり、基準カメラがレフトカメラ7で、調整対象カメラがフロントカメラ5であった時に、パターンBを基準カメラのレフトカメラ7で撮像できるが、調整対象カメラのフロントカメラ5で撮像することができない。
更に、校正シート31の長手方向の両端(パターンA、Bより外側)に棒状の錘である端部ウェイト39、41が付けられているので、校正シート31を安定して配置することができる。
なお、基準カメラ(レフトカメラ7)、調整対象カメラ(フロントカメラ5)、校正シート31の形状及びその配置は、前記実施例1と同様である。
続くステップ310では、調整対象カメラであるフロントカメラ5による撮影が実施される。
続くステップ330では、前記実施例1のステップ130と同様にして、パターンAに基づくフロントカメラ5のパラメータを探索(算出)し、補正する。具体的には、パターンA(詳しくはそのキャリブレマーク35)の形状と大きさが正方形かつ1辺が500mmとなるような、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Roll、Pitch、Zを探索(算出)し、補正する。
続くステップ350では、撮影された画像から、パターンBを検出する。具体的には、パターンBは正方形のため、そのキャリブレマーク33の正方形の4つの頂点CTを検出する。
本実施例3では、図10に示すように、変換規則の調整対象カメラの撮像範囲と調整不要な基準カメラの撮像範囲とが隣接せず離れており、この重複しない各撮像範囲をつなぐように校正シート31を配置する場合について説明する。なお、ここでは、調整対象カメラがフロントカメラ5であり、基準カメラがリアカメラ11である。
まず、図10に示すように、地上に校正シート31を配置する。具体的には、校正シート31のパターンAをフロントカメラ5の撮像範囲SFに配置するとともに、パターンBをリアカメラ11の撮像範囲SBに配置する。
次に、実施例1と同様にして、撮影された画像からパターンAを検出する。すなわち、パターンAのキャリブレマーク35の頂点CTを検出する。
次に、実施例1と同様に、撮影した画像からパターンBを検出する。つまり、パターンB(及びキャリブレマーク33)は、正方形のため、キャリブレマーク35の正方形の4つの頂点CTを検出する。
従って、本実施例3においても、前記実施例1と同様な効果を奏する。
本実施例4では、図11に示すように、変換規則の調整対象カメラの撮像範囲と調整不要な基準カメラの撮像範囲とが一部重なっている。なお、ここでは、調整対象カメラがレフトカメラ7であり、基準カメラがリアカメラ11である。
まず、前記図11に示すように、地上に校正シート31を配置する。具体的には、校正シート31のパターンAをレフトカメラ7の撮像範囲SLに配置するとともに、パターンBをリアカメラ11の撮像範囲SBに配置する。但し、パターンAはレフトカメラ7の撮像範囲SLとリアカメラ11の撮像範囲SBとの重複範囲SLBに入らないようにし、一方、パターンBは重複範囲SLBに入るようにする。
次に、実施例1と同様にして、撮影された画像からパターンAを検出する。すなわち、パターンAのキャリブレマーク35の頂点CTを検出する。
次に、実施例1と同様に、撮影した画像からパターンBを検出する。つまり、パターンB(及びキャリブレマーク33)は、正方形のため、キャリブレマーク35の正方形の4つの頂点CTを検出する。
従って、本実施例4においても、前記実施例1と同様に、調整対象カメラであるレフトカメラ7のキャリブレーションを好適に行うことができる。
本実施例は、図13に示すように、例えば1枚の校正シート31の位置を変更する等によって、1〜3台のカメラのキャリブレーションを行う方法を、まとめて説明するものである。
図13のフロント欄の左図に示すように、フロントカメラ5およびレフトカメラ7の撮像範囲の重複しない所で、フロントカメラ5の撮像範囲にパターンAを配置するとともに、レフトカメラ7の撮像範囲にパターンBを配置する。
b)次に、調整対象カメラがリアカメラ11であった場合の校正シート31の配置例について説明する。なお、他のカメラは基準カメラである。
c)次に、調整対象カメラがレフトカメラ7であった場合の校正シート31の配置例について説明する。なお、他のカメラは基準カメラである。
d)次に、調整対象カメラがライトカメラ9であった場合の校正シート31の配置例について説明する。なお、他のカメラは基準カメラである。
e)また、調整対象カメラが2台ある場合には、各調整対象カメラに隣り合う基準カメラを用いて、前記実施例1と同様にして、各調整対象カメラのキャリブレーションを行うことができる。
例えば基準カメラがフロントカメラ5で、調整対象カメラがレフトカメラ7、ライトカメラ9、リアカメラ11の場合には、例えば最初に、フロントカメラ5を用いてレフトカメラ7のキャリブレーションを行う。これにより、レフトカメラ7は、基準カメラとなる。
次に、基準カメラとなったリアカメラ11を用いてライトカメラ9のキャリブレーションを行う。
本実施例6では、4台全てのカメラを交換した場合或いはECU3を交換した場合のように、全てのカメラが(射影変換の変換規則の調整が必要な)調整対象カメラであるときのキャリブレーション方法について説明する。
本実施例6では、図14に示すように、4枚の校正シート31(第1〜第4校正シート31a〜31d)を配置する。
最初に(1stime)、フロントカメラ5及びレフトカメラ7の撮像範囲SF、SLの重複しない所で、且つフロントカメラ5の撮像範囲SFのみに(即ち他のカメラの撮像範囲ではない範囲)、第1校正シート31aのパターンAを配置し、一方、フロントカメラ5及びレフトカメラ7の撮像範囲SF、SLの重複しない所で、且つレフトカメラ7の撮像範囲SLのみに、第1校正シート31aのパターンBを配置する。
b)次に、本実施例6のキャリブレーション方法について説明する。
図15に示すように、まず、ステップ400にて、ダイアグツール27からの信号により、4台全てのカメラ5〜11のキャリブレーションを行う旨の指令を受信する。
続くステップ420では、前記実施例1と同様にして、撮影した画像からパターンAとパターンHを検出する。
具体的には、パターンA及びパターンH(詳しくはそれらのキャリブレパターン)の形状と大きさが正方形で且つその1辺が500mmとなるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Roll、Pitch、Zを探索(算出)し、補正する。
続くステップ460では、前記ステップ420と同様にして、パターンBとパターンCとを検出する。
具体的には、パターンB及びパターンC(詳しくはそれらのキャリブレパターン)の形状と大きさが正方形で且つ1辺が500mmとなるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Roll、Pitch、Zを探索(算出)し、補正する。
続くステップ500では、前記ステップ420と同様にして、パターンDとパターンEとを検出する。
具体的には、パターンD及びパターンE(詳しくはそれらのキャリブレパターン)の形状と大きさが正方形で且つ1辺が500mmとなるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Roll、Pitch、Zを探索(算出)し、補正する。
続くステップ540では、前記ステップ420と同様にして、パターンFとパターンGとを検出する。
具体的には、パターンF及びパターンG(詳しくはそれらのキャリブレパターン)の形状と大きさが正方形で且つ1辺が500mmとなるように、パラメータX、Y、Z、Roll、Pitch、Yawのうち、Roll、Pitch、Zを探索(算出)し、補正する。
続くステップ570では、パターンA’、パターンB’、パターンC’、パターンD’、パターンE’、パターンF’、パターンG’、パターンH’(詳しくはそれらのキャリブレパターン)を、それぞれパターンA、パターンB、パターンC、パターンD、パターンE、パターンF、パターンG、パターンH(詳しくはそれらのキャリブレパターン)に近づけ、位置誤差が最小となるよう、フロントカメラ5、レフトカメラ7、ライトカメラ9、リアカメラ11のパラメータを探索(算出)し、補正する。
なお、基本的には、前記実施例1(又は実施例2)のように、1つの校正シート31を用いて隣り合うカメラの調整を行う処理を、順次繰り返す。なお、例えば実施例1のように仮調整校正パターン(例えばパターンB’)の座標と調整校正パターン(例えばパターンB)の座標を一致させるようにしてもよいし、実施例2のように、仮の仮基準校正パターン(例えばパターンA’)の座標と仮基準校正パターン(例えばパターンA)の座標を一致させるようにしてもよい。
具体的には、最初にフロントカメラ5を仮基準カメラとし、パターンBから算出したパターンA’をパターンAに近づけ、位置誤差が最小となるようにすることにより、レフトカメラ7のYaw、X、Yを探索(算出)し、補正する。
最後に、ステップ580にて、フロントカメラ5、レフトカメラ7、ライトカメラ9、リアカメラ11の探索(算出)後のパラメータX、Y、Z、Roll、Pitch、Yawをメモリ23に記憶し、一旦本処理を終了する。
この後処理とは、4台のカメラ5〜11の座標系を車両座標系に変換するための処理である。
<ステップ1>
まず、図17(a)に示すように、カメラ位置(例えばフロントカメラ5とリアカメラ11の位置)の設計値(x1、y1)、(x2、y2)を使って、車両座標系における前後のカメラ5、11のなす角θ1を求める。なお、ここで破線で示すラインは、(カメラ11の位置を通る)車両の前後方向を示すラインである。
R=θ1−θ2 ・・・(1)
<ステップ2>
次に、図18(a)に(仮の基準カメラ座標系を)示すように、前記式(1)によって求めた回転角Rを使って、仮の基準カメラ座標系の原点を基準として、(x2’、y2’)を回転させ、回転後の座標を(x2”、y2”)とする。
次に、ステップ1、2で求めた回転角R、OFFSET_X、OFFSET_Yを、それぞれ仮の基準カメラを基準とした各カメラ5〜11のYaw、X、Yの値に加算する。これによって、車両座標系への変換が完了する。
本実施例7は、1枚の校正シートに3個のパターンA、B、C(従って各キャリブレマーク)が設けられた校正シートを用いてキャリブレーションを行うものである。
これに対して、本実施例7では、図19(b)に示すように、長手方向に沿ってパターンA、(パターンAと同様な形状の)パターンC、パターンBが設けられた校正シートを用いる。
つまり、パターンAだけでなくパターンC(詳しくは各キャリブレマークの頂点CT)を用いることによって、直線L1、L2の精度を向上させることができる。その結果、パターンBの推定精度を一層向上させることができる。
(1)例えば前記各実施例において、例えば1つの構成要素が有する機能を複数の構成要素に分散させたり、複数の構成要素が有する機能を1つの構成要素に統合したりしてもよい。また、実施例の構成の少なくとも一部を、同様の機能を有する公知の構成に置き換えてもよい。更に、実施例の構成の少なくとも一部を、他の実施例の構成に対して付加、置換等してもよい。
(4)端部ウェイトについては、上述したキャリブレーションが可能であれば、省略してもよい。
3…電子制御装置(ECU)
5…フロントカメラ
7…レフトカメラ
9…ライトカメラ
11…リアカメラ
13…表示装置
17…画像入力信号処理部
19…入力信号処理部
21…画像処理部
23…メモリ
25…画像出力信号処理部
27…ダイアグツール
31、31a、31b、31c、31d…校正シート
39、41…端部ウェイト
Claims (11)
- 自動車に搭載される車載周辺画像表示装置(1)であって、
自動車に搭載されて該自動車の周囲を撮像する複数のカメラ(5、7、9、11)と、
前記複数のカメラ(5、7、9、11)が撮像した各画像に対して、当該画像を撮像したカメラ(5、7、9、11)毎に定めた変換規則に従った射影変換を施して、単一の画像空間上に合成し、前記自動車の周囲を所定の視点から観測したようすを表す車両周辺画像を生成する車両周辺画像生成手段(21)と、
前記車両周辺画像生成手段(21)が生成した前記車両周辺画像を表示する表示装置(13)と、
前記カメラ(5、7、9、11)毎に定められている前記変換規則を調整する調整手段(21)と、
を有し、
前記調整手段(21)は、
複数の所定の大きさ及び形状の校正パターン(A、B)が所定の位置関係にて配置された校正用部材(31)が、前記自動車の周囲に配置され、且つ、所定の前記校正パターン(B)が前記変換規則の調整の基準となる基準カメラ(7)の撮影領域に配置されるとともに、他の前記校正パターン(A)が前記変換規則の調整の対象となる調整対象カメラ(5)の撮影領域に配置された状態において、
前記校正用部材(31)の所定の前記校正パターン(B)を前記基準カメラ(7)で撮像した画像を、前記基準カメラ(7)に対して定められた前記変換規則に従って射影変換して、基準校正パターン(B)の画像の座標を検出し、
前記校正用部材(31)の他の前記校正パターン(A)を前記調整対象カメラ(5)で撮像した画像を、前記調整対象カメラ(5)に対して定められた前記変換規則に従って射影変換して、調整校正パターン(A)の画像の座標を検出し、
該調整校正パターン(A)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記基準校正パターン(B)に対応する仮の基準校正パターン(B’)の画像の座標を検出し、又は、前記基準校正パターン(B)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記調整校正パターン(A)に対応する仮の調整校正パターン(A’)の画像の座標を検出し、
前記仮の基準校正パターン(B’)の画像の座標と前記基準校正パターン(B)の画像の座標とが一致するように、又は、前記仮の調整校正パターン(A’)の画像の座標と前記調整校正パターン(A)の画像の座標とが一致するように、前記調整対象カメラ(5)に対して定められた前記変換規則を調整すること、
を特徴とする車載周辺画像表示装置。 - 自動車に搭載される車載周辺画像表示装置(1)であって、
自動車に搭載されて該自動車の周囲を撮像する複数のカメラ(5、7、9、11)と、
前記複数のカメラ(5、7、9、11)が撮像した各画像に対して、当該画像を撮像したカメラ(5、7、9、11)毎に定めた変換規則に従った射影変換を施して、単一の画像空間上に合成し、前記自動車の周囲を所定の視点から観測したようすを表す車両周辺画像を生成する車両周辺画像生成手段(21)と、
前記車両周辺画像生成手段が生成した前記車両周辺画像を表示する表示装置(13)と、
前記カメラ(5、7、9、11)毎に定められている前記変換規則を調整する調整手段(21)と、
を有し、
前記調整手段(21)は、
複数の所定の大きさ及び形状の校正パターン(A〜H)が所定の位置関係にて配置された校正用部材(31)が、前記自動車の周囲に配置され、且つ、所定の前記校正パターン(A〜H)が所定のカメラ(5、7、9、11)の撮影領域に配置されるとともに、他の前記校正パターン(A〜H)が他のカメラ(5、7、9、11)の撮影領域に配置された状態において、
所定の前記校正用部材(31a)における2つの校正パターン(A、B)を別個に撮影することができる2つの調整対象カメラ(5、7)を1セットとし、どちらか一方の調整対象カメラを仮基準カメラ(7)、他方のカメラを調整対象カメラ(5)とし、
前記校正用部材(31a)の所定の前記校正パターン(B)を前記仮基準カメラ(7)で撮像した画像を、前記仮基準カメラ(7)に対して定められた前記変換規則に従って射影変換して、仮基準校正パターン(B)の画像の座標を検出し、
前記校正用部材(31a)の他の前記校正パターン(A)を前記調整対象カメラ(5)で撮像した画像を、前記調整対象カメラ(5)に対して定められた前記変換規則に従って射影変換して、調整校正パターン(A)の画像の座標を検出し、
前記調整校正パターン(A)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記仮基準校正パターン(B)に対応した仮の仮基準校正パターン(B’)の画像の座標を検出し、又は、前記仮基準校正パターン(B)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記調整校正パターン(A)に対応した仮の調整校正パターン(A’)の画像の座標を検出し、
前記仮の仮基準校正パターン(B’)の画像の座標と前記仮基準校正パターン(B)の画像の座標とが一致するように、又は、前記仮の調整校正パターン(A’)の画像の座標と前記調整校正パターン(A)の画像の座標とが一致するように、前記調整対象カメラ(5)に対して定められた前記変換規則を調整し、
且つ、全てのカメラ(5〜11)について、前記セット毎での前記変換規則の調整を行うこと、
を特徴とする車載周辺画像表示装置。 - 前記校正用部材(31)は、シート状であることを特徴とする請求項1又は2に記載の車載周辺画像表示装置。
- 前記校正用部材(31)は、長尺の部材であり、その長手方向の両端部に前記校正パターン(A、B)が形成されていることを特徴とする請求項1〜3のいずれか1項に記載の車載周辺画像表示装置。
- 前記校正用部材(31)は、平面形状が四角形状であることを特徴とする請求項1〜4のいずれか1項に記載の車載周辺画像表示装置。
- 前記校正用部材(31)は、温度又は湿度に対して所定以下の伸縮性を有する繊維でできていることを特徴とする請求項1〜5のいずれか1項に記載の車載周辺画像表示装置。
- 前記校正用部材(31)は、巻物状に巻けるものであることを特徴とする請求項1〜6のいずれか1項に記載の車載周辺画像表示装置。
- 前記校正用部材(31)は、長尺の部材であり、その長手方向の両端部に棒状の錘(39、41)が付けられていることを特徴とする請求項1〜7のいずれか1項に記載の車載周辺画像表示装置。
- 前記錘(39、41)の材質は、樹脂又は金属からなることを特徴とする請求項8に記載の車載周辺画像表示装置。
- 自動車に搭載されて該自動車の周囲を撮像する複数のカメラ(5、7、9、11)と、
前記複数のカメラ(5、7、9、11)が撮像した各画像に対して、当該画像を撮像したカメラ(5、7、9、11)毎に定めた変換規則に従った射影変換を施して、単一の画像空間上に合成し、前記自動車の周囲を所定の視点から観測したようすを表す車両周辺画像を生成する車両周辺画像生成手段(21)と、
前記車両周辺画像生成手段(21)が生成した前記車両周辺画像を表示する表示装置(13)と、
を有する車載周辺画像表示装置(1)に対し、前記カメラ(5、7、9、11)の前記変換規則の調整を行うカメラの調整方法であって、
複数の所定の大きさ及び形状の校正パターン(A、B)が所定の位置関係にて配置された校正用部材(31)が、前記自動車の周囲に配置され、且つ、所定の前記校正パターン(B)が前記変換規則の調整の基準となる基準カメラ(7)の撮影領域に配置されるとともに、他の前記校正パターン(A)が前記変換規則の調整の対象となる調整対象カメラ(5)の撮影領域に配置された状態において、
前記校正用部材(31)の所定の前記校正パターン(B)を前記基準カメラ(7)で撮像した画像を、前記基準カメラ(7)に対して定められた前記変換規則に従って射影変換して、基準校正パターン(B)の画像の座標を検出するステップと、
前記校正用部材(31)の他の前記校正パターン(A)を前記調整対象カメラ(5)で撮像した画像を、前記調整対象カメラ(5)に対して定められた前記変換規則に従って射影変換して、調整校正パターン(A)の画像の座標を検出するステップと、
該調整校正パターン(A)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記基準校正パターン(B)に対応する仮の基準校正パターン(B’)の画像の座標を検出し、又は、前記基準校正パターン(B)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記調整校正パターン(A)に対応する仮の調整校正パターン(A’)の画像の座標を検出するステップと、
前記仮の基準校正パターン(B’)の画像の座標と前記基準校正パターン(B)の画像の座標とが一致するように、又は、前記仮の調整校正パターン(A’)の画像の座標と前記調整校正パターン(A)の画像の座標とが一致するように、前記調整対象カメラ(5)に対して定められた前記変換規則を調整するステップと、
を有することを特徴とするカメラの調整方法。 - 自動車に搭載されて該自動車の周囲を撮像する複数のカメラ(5、7、9、11)と、
前記複数のカメラ(5、7、9、11)が撮像した各画像に対して、当該画像を撮像したカメラ(5、7、9、11)毎に定めた変換規則に従った射影変換を施して、単一の画像空間上に合成し、前記自動車の周囲を所定の視点から観測したようすを表す車両周辺画像を生成する車両周辺画像生成手段(21)と、
前記車両周辺画像生成手段が生成した前記車両周辺画像を表示する表示装置(13)と、
を有する車載周辺画像表示装置(1)に対し、前記カメラ(5、7、9、11)の前記変換規則の調整を行うカメラの調整方法であって、
複数の所定の大きさ及び形状の校正パターン(A〜H)が所定の位置関係にて配置された校正用部材(31)が、前記自動車の周囲に配置され、且つ、所定の前記校正パターン(A〜H)が所定のカメラ(5、7、9、11)の撮影領域に配置されるとともに、他の前記校正パターン(A〜H)が他のカメラ(5、7、9、11)の撮影領域に配置された状態において、
所定の前記校正用部材(31a)における2つの校正パターン(A、B)を別個に撮影することができる2つの調整対象カメラ(5、7)を1セットとし、どちらか一方の調整対象カメラを仮基準カメラ(7)、他方のカメラを調整対象カメラ(5)とし、
前記校正用部材(31a)の所定の前記校正パターン(B)を前記仮基準カメラ(7)で撮像した画像を、前記仮基準カメラ(7)に対して定められた前記変換規則に従って射影変換して、仮基準校正パターン(B)の画像の座標を検出するステップと、
前記校正用部材(31a)の他の前記校正パターン(A)を前記調整対象カメラ(5)で撮像した画像を、前記調整対象カメラ(5)に対して定められた前記変換規則に従って射影変換して、調整校正パターン(A)の画像の座標を検出するステップと、
前記調整校正パターン(A)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記仮基準校正パターン(B)に対応した仮の仮基準校正パターン(B’)の画像の座標を検出し、又は、前記仮基準校正パターン(B)の画像の座標と前記両校正パターン(A、B)の位置関係とに基づいて、前記調整校正パターン(A)に対応した仮の調整校正パターン(A’)の画像の座標を検出するステップと、
前記仮の仮基準校正パターン(B’)の画像の座標と前記仮基準校正パターン(B)の画像の座標とが一致するように、又は、前記仮の調整校正パターン(A’)の画像の座標と前記調整校正パターン(A)の画像の座標とが一致するように、前記調整対象カメラ(5)に対して定められた前記変換規則を調整するステップと
を有し、
全てのカメラ(5〜11)について、前記セット毎での前記変換規則の調整を行うことを特徴とするカメラの調整方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013204474A JP6277652B2 (ja) | 2013-09-30 | 2013-09-30 | 車両周辺画像表示装置及びカメラの調整方法 |
CN201480053525.XA CN105594203B (zh) | 2013-09-30 | 2014-09-17 | 车辆周边图像显示装置以及照相机的调整方法 |
DE112014004506.3T DE112014004506B4 (de) | 2013-09-30 | 2014-09-17 | Fahrzeugumgebungsbildanzeigevorrichtung und Kameraeinstellverfahren |
US15/025,126 US10358086B2 (en) | 2013-09-30 | 2014-09-17 | Vehicle periphery image display device and camera adjustment method |
PCT/JP2014/004768 WO2015045329A1 (ja) | 2013-09-30 | 2014-09-17 | 車両周辺画像表示装置及びカメラの調整方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013204474A JP6277652B2 (ja) | 2013-09-30 | 2013-09-30 | 車両周辺画像表示装置及びカメラの調整方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015070512A JP2015070512A (ja) | 2015-04-13 |
JP6277652B2 true JP6277652B2 (ja) | 2018-02-14 |
Family
ID=52742502
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013204474A Active JP6277652B2 (ja) | 2013-09-30 | 2013-09-30 | 車両周辺画像表示装置及びカメラの調整方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10358086B2 (ja) |
JP (1) | JP6277652B2 (ja) |
CN (1) | CN105594203B (ja) |
DE (1) | DE112014004506B4 (ja) |
WO (1) | WO2015045329A1 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6277652B2 (ja) | 2013-09-30 | 2018-02-14 | 株式会社デンソー | 車両周辺画像表示装置及びカメラの調整方法 |
JP6458439B2 (ja) * | 2014-10-09 | 2019-01-30 | 株式会社デンソー | 車載カメラ較正装置、画像生成装置、車載カメラ較正方法、画像生成方法 |
EP3125196B1 (en) | 2015-07-29 | 2018-02-21 | Continental Automotive GmbH | Drive-by calibration from static targets |
JP6413974B2 (ja) | 2015-08-05 | 2018-10-31 | 株式会社デンソー | キャリブレーション装置、キャリブレーション方法、及びプログラム |
JP6536529B2 (ja) * | 2016-10-17 | 2019-07-03 | 株式会社デンソー | 車載カメラのキャリブレーション装置及び車載カメラのキャリブレーション方法 |
GB2560948B (en) * | 2017-03-29 | 2020-12-30 | Imagination Tech Ltd | Camera Calibration |
KR101928979B1 (ko) * | 2017-07-04 | 2019-03-12 | 주식회사 티에스리 | 차량의 주변에 설치가 용이한 캘리브레이션 장치 및 그 설치방법 |
DE102018203003A1 (de) * | 2017-12-20 | 2019-06-27 | Continental Automotive Gmbh | Verfahren und Vorrichtung zum Betreiben eines Kamera-Monitor-Systems für ein Kraftfahrzeug |
DE102018111776B4 (de) * | 2018-05-16 | 2024-01-25 | Motherson Innovations Company Limited | Kalibriervorrichtung, Verfahren zur Ermittlung von Kalibrierdaten, Vorrichtung zur Ausführung des Verfahrens, Kraftfahrzeug umfassend eine solche Vorrichtung und Verwendung der Kalibriervorrichtung für das Verfahren sowie das Kraftfahrzeug |
JP7314486B2 (ja) * | 2018-09-06 | 2023-07-26 | 株式会社アイシン | カメラキャリブレーション装置 |
KR20200067641A (ko) | 2018-12-04 | 2020-06-12 | 삼성전자주식회사 | 3차원 증강 현실을 위한 캘리브레이션 방법 및 그 장치 |
JP7056540B2 (ja) * | 2018-12-18 | 2022-04-19 | 株式会社デンソー | センサ校正方法およびセンサ校正装置 |
US11146783B2 (en) * | 2019-08-16 | 2021-10-12 | GM Cruise Holdings, LLC | Partial calibration target detection for improved vehicle sensor calibration |
US20210262804A1 (en) * | 2020-02-21 | 2021-08-26 | Canon Kabushiki Kaisha | Information processing device, information processing method, and storage medium |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7248284B2 (en) * | 2002-08-12 | 2007-07-24 | Edward Alan Pierce | Calibration targets for digital cameras and methods of using same |
KR100899742B1 (ko) * | 2006-09-30 | 2009-05-27 | 삼성전자주식회사 | 통신 시스템에서 단말기 정보 이용 시스템 및 방법 |
JP2008187564A (ja) * | 2007-01-31 | 2008-08-14 | Sanyo Electric Co Ltd | カメラ校正装置及び方法並びに車両 |
JP2008187566A (ja) | 2007-01-31 | 2008-08-14 | Sanyo Electric Co Ltd | カメラ校正装置及び方法並びに車両 |
JP5124147B2 (ja) * | 2007-02-01 | 2013-01-23 | 三洋電機株式会社 | カメラ校正装置及び方法並びに車両 |
JP2009017020A (ja) * | 2007-07-02 | 2009-01-22 | Nissan Motor Co Ltd | 画像処理装置及び表示画像生成方法 |
JP2009100342A (ja) * | 2007-10-18 | 2009-05-07 | Sanyo Electric Co Ltd | カメラ校正装置及び方法、並びに、車両 |
JP4555876B2 (ja) | 2008-05-30 | 2010-10-06 | 株式会社日本自動車部品総合研究所 | 車載カメラのキャリブレーション方法 |
WO2010109730A1 (ja) * | 2009-03-26 | 2010-09-30 | アイシン精機株式会社 | カメラ校正装置 |
JP2010245803A (ja) * | 2009-04-06 | 2010-10-28 | Sanyo Electric Co Ltd | 画像処理装置 |
JP5523730B2 (ja) * | 2009-04-07 | 2014-06-18 | アルパイン株式会社 | 車載周辺画像表示装置 |
JP2010258691A (ja) * | 2009-04-23 | 2010-11-11 | Sanyo Electric Co Ltd | 操縦支援装置 |
JP5108840B2 (ja) * | 2009-07-29 | 2012-12-26 | クラリオン株式会社 | 車両用周辺監視装置および車両用周辺画像表示方法 |
JP5491235B2 (ja) * | 2010-03-02 | 2014-05-14 | 東芝アルパイン・オートモティブテクノロジー株式会社 | カメラキャリブレーション装置 |
JP5444139B2 (ja) * | 2010-06-29 | 2014-03-19 | クラリオン株式会社 | 画像のキャリブレーション方法および装置 |
JP2012147149A (ja) * | 2011-01-11 | 2012-08-02 | Aisin Seiki Co Ltd | 画像生成装置 |
EP2523163B1 (en) * | 2011-05-10 | 2019-10-16 | Harman Becker Automotive Systems GmbH | Method and program for calibrating a multicamera system |
JP6058256B2 (ja) * | 2011-06-13 | 2017-01-11 | アルパイン株式会社 | 車載カメラ姿勢検出装置および方法 |
KR101265667B1 (ko) * | 2011-06-21 | 2013-05-22 | ㈜베이다스 | 차량 주변 시각화를 위한 3차원 영상 합성장치 및 그 방법 |
JP6277652B2 (ja) | 2013-09-30 | 2018-02-14 | 株式会社デンソー | 車両周辺画像表示装置及びカメラの調整方法 |
-
2013
- 2013-09-30 JP JP2013204474A patent/JP6277652B2/ja active Active
-
2014
- 2014-09-17 DE DE112014004506.3T patent/DE112014004506B4/de active Active
- 2014-09-17 WO PCT/JP2014/004768 patent/WO2015045329A1/ja active Application Filing
- 2014-09-17 CN CN201480053525.XA patent/CN105594203B/zh active Active
- 2014-09-17 US US15/025,126 patent/US10358086B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
DE112014004506T5 (de) | 2016-07-21 |
US10358086B2 (en) | 2019-07-23 |
CN105594203A (zh) | 2016-05-18 |
WO2015045329A1 (ja) | 2015-04-02 |
US20160236619A1 (en) | 2016-08-18 |
JP2015070512A (ja) | 2015-04-13 |
CN105594203B (zh) | 2018-09-04 |
DE112014004506B4 (de) | 2021-04-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6277652B2 (ja) | 車両周辺画像表示装置及びカメラの調整方法 | |
JP5820787B2 (ja) | 画像処理装置、及びプログラム | |
JP4861034B2 (ja) | 車載カメラのキャリブレーションシステム | |
JP5124147B2 (ja) | カメラ校正装置及び方法並びに車両 | |
JP5316805B2 (ja) | 車載カメラ装置の画像調整装置及び車載カメラ装置 | |
JP6594039B2 (ja) | 画像処理装置、方法及びプログラム | |
JP4690476B2 (ja) | 車載カメラの校正装置 | |
US8452568B2 (en) | Method for calibrating cameras installed on vehicle | |
JP4015051B2 (ja) | カメラ補正装置 | |
KR101113679B1 (ko) | 카메라 시스템의 영상 보정 방법 | |
JP5091902B2 (ja) | 車載カメラの校正に用いられる校正指標と、当該校正指標を用いた車載カメラの校正方法と、システムと、当該システムのためのプログラム | |
US8134608B2 (en) | Imaging apparatus | |
WO2017135081A1 (ja) | 車載カメラ用校正システム | |
JP2008187564A (ja) | カメラ校正装置及び方法並びに車両 | |
JP2013115540A (ja) | 車載カメラシステム及びその較正方法、及びその較正プログラム | |
JP2011215063A (ja) | カメラ姿勢パラメータ推定装置 | |
JP2009042162A (ja) | キャリブレーション装置及びその方法 | |
CN108429908B (zh) | 一种摄像模组的测试方法、装置、设备及介质 | |
JP2006277738A (ja) | 車載画像処理装置及び車両用画像処理方法 | |
JP2007256030A (ja) | 車載カメラのキャリブレーション装置およびキャリブレーション方法 | |
US11468596B2 (en) | Bird's-eye view image generating device for vessel, and calibration method of the same | |
JP2013246606A (ja) | データ導出装置、及び、データ導出方法 | |
JP2007158695A (ja) | 車載画像処理装置 | |
JP2013024712A (ja) | 複数カメラの校正方法及び校正システム | |
JP2016225719A (ja) | ステレオカメラ装置、車両、および較正方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160314 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170523 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170724 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171219 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180101 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6277652 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |