JP2010232852A - カメラ校正装置 - Google Patents
カメラ校正装置 Download PDFInfo
- Publication number
- JP2010232852A JP2010232852A JP2009076858A JP2009076858A JP2010232852A JP 2010232852 A JP2010232852 A JP 2010232852A JP 2009076858 A JP2009076858 A JP 2009076858A JP 2009076858 A JP2009076858 A JP 2009076858A JP 2010232852 A JP2010232852 A JP 2010232852A
- Authority
- JP
- Japan
- Prior art keywords
- camera
- calibration
- index
- priority
- plane
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004364 calculation method Methods 0.000 claims description 29
- 239000003550 marker Substances 0.000 claims description 7
- 238000000034 method Methods 0.000 abstract description 13
- 230000003287 optical effect Effects 0.000 description 10
- 230000009466 transformation Effects 0.000 description 7
- 238000001514 detection method Methods 0.000 description 5
- 238000003708 edge detection Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 3
- 239000003973 paint Substances 0.000 description 3
- 230000005855 radiation Effects 0.000 description 3
- 230000003936 working memory Effects 0.000 description 3
- 240000004050 Pentaglottis sempervirens Species 0.000 description 2
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000015654 memory Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000001915 proofreading effect Effects 0.000 description 1
- 230000007261 regionalization Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
Abstract
【解決手段】第1平面Πにおける専有領域Πmに配置された優先校正指標M1、M2及び共有領域Πcに配置された非優先校正指標M3、M4を含む撮影画像を取得し、まず優先校正指標の座標位置を検出し、検出された優先校正指標との位置関係に基づいて非優先校正指標の座標位置が算定される。少なくとも4点の座標を表す校正指標の実座標位置と算定座標位置とから撮影画像の撮影画像面と第1平面との間のホモグラフィH1を算定され、このホモグラフィを用いてカメラの校正が行われる。
【選択図】図2
Description
また、前記カメラが、移動体前方を撮影視界とする前方カメラと、移動体右側方を撮影視界とする右側方カメラと、移動体左側方を撮影視界とする左側方カメラと、移動体後方を撮影視界とする後方カメラとから構成されるとよい。なお、このカメラ校正を工場内で行う場合には、路面は工場の床面となる。
ここでは、カメラ1の撮影視界における第1平面Πにおいて、カメラ1からの撮影距離が短い領域である特定領域を専有領域Πmとして設定しており、この特定領域以外の領域でカメラ1からの撮影距離が長い一部の領域を共有領域Πcとして設定している。この共有領域Πcは、複数のカメラを用いて第1平面Πの大きなエリアをカバーする際に隣り合うカメラの撮影画像において共有する領域として適している。また、専有領域Πmは、複数のカメラを用いて第1平面Πの大きなエリアをカバーする際に1台のカメラによってのみ最適に写される領域として適している。なお、共有領域Πcは、カメラ光軸の横断方向に大きく間隔をあけた2つの領域に分けられている。ホモグラフィを算定するためには、第1平面Πの内の1つのカメラの視界に入っている平面領域Π1には、少なくとも4つの平面状優先校正指標が必要となる。従って、ここでは、専有領域Πmに2つの優先校正指標(以下単に優先指標と称する)M1、M2が配置され、共有領域Πcに2つの非優先正指標(以下単に非優先指標と称する)M3、M4が配置されている。なお、優先指標と非優先指標を特に区別する必要のない場合では、単に指標という語句を用い、校正指標を総称する図番を9とした。また、第1平面Πの平面座標系における各指標の座標位置は指標の実座標位置として既知値となっている。
このようにして構築されたホモグラフィを用いてカメラ1の校正を行うことで、カメラ1の内部パラメータのみならず外部パラメータに係る情報を必要とすることなく、道路面等の第1平面Πと撮影画像に基づくモニタ等の表示画像との対応が適正となるカメラ校正が実現する。
図3は、第1平面Πとしての路面の所定の位置に停止した車両と、その路面に描画された校正指標とカメラ視界との関係を示す説明図である。ここでは車載カメラ1として、車両前方をカメラ視界とする第1カメラ11と、車両右側方をカメラ視界とする第2カメラ12と、車両後方をカメラ視界とする第3カメラ13と、車両左側方をカメラ視界とする第4カメラ14とが備えられている。なお、各カメラを特に区別しない場合には共通的にカメラ1と呼ぶことにする。
まず、最初に校正処理するカメラ1を指定して(#01)、指定されたカメラ1の撮影画像をワーキングメモリに取り込む(#02)。指定されたカメラ1の視界に属する専有領域の位置情報を参照して、その専有領域に配置されている優先指標のための注目検索領域を撮影画像に対して設定する(#03)。設定された注目検索領域から2つの優先指標を検出し、その画像座標位置を算定する(#04)。算定された2つの優先指標の路面座標系での座標位置である路面座標位置、及び、当該優先指標と対応非優先指標指との位置関係情報を報標情報管理部52から得て、非優先指標の撮影画像座標系での推定存在位置から非優先指標の注目検索領域を設定する(#05)。設定された注目検索領域から2つの非優先指標を検出し、その画像座標位置を算定する(#09)。算定された2つの非優先指標の路面座標系での座標位置である路面座標位置を指標情報管理部52から読み込む(#10)。このようにして得られた2つの優先指標と非優先指標との算定座標位置と路面座標位置とを利用して、ホモグラフィ:Hn(nはカメラ番号;1、2、3、4)を算定する(#08)。算定されたホモグラフィ:Hnは、指定されたカメラ1のホモグラフィ:H1として登録される(#092)。次に、4台の全てのカメラ1の精密ホモグラフィ:Hnの登録が完了したかどうかチェックされ(#10)、まだ未了のカメラが残っていると(#10No分岐)、再びステップ#01に戻って上述した処理を繰り返す。全てのカメラ1の精密ホモグラフィ:Hnの登録が完了した場合(#10Yes分岐)、全てのカメラ1のホモグラフィ:H1、H2、H3、H4から各カメラ1の校正データをカメラ校正テーブルに登録して、このカメラ校正ルーチンを終了する(#11)。
以下に、図4で示された平面状校正指標9以外の模様を有する平面状校正指標を例示する。
(1)図7で示す校正指標9では、優先指標は黒く(周囲と画像処理的に区別できるならその色は黒に限定されない)塗りつぶされた台形であり、非優先指標は黒く塗りつぶされた三角形である。優先指標を規定する台形は、カメラの光学中心位置から同一の放射角度で放射状に伸びる2本の直線と、カメラの光軸(図7においてカメラ位置から上下方向に延びる線)に直交する2本の平行な直線とによって規定される台形である。この台形の4つのコーナ点が4つの校正指標点、q1、q2、q3、q4となる。この台形の境界辺をエッジ検出により検出し、検出された4つの境界線の交点を算定することで4つの校正指標点、q1、q2、q3、q4が得られる。非優先指標を規定する三角形は、カメラの光学中心位置から遠方領域の方に延びた1本の放射直線とカメラの光軸に直交する1本の直線と任意に設定可能な直線によって規定される三角形である。三角形の2つの境界辺を横方向エッジ検出により検出し、検出された2本の境界線の交点を算定することで校正指標点q5またはq6が得られる。
使用するカメラが高品質でない場合、被写体の輝度によっては像の位置がずれる可能性がある。このような場合は、そのままエッジ検出した後に直線を当てはめても実際とは異なる位置に直線が設定されてしまう恐れがある。この問題を解決するために、図8で示す校正指標は、その濃淡パターンが相補的となっていることで、上記ずれをキャンセルさせるようになっている。つまり、図7による校正指標と比較して、その優先指標のパターン模様は、実質的には2本の放射直線と、2本の平行直線とによって規定される1つの台形と、その台形の各頂点の180°回転位置に規定されるほぼ相似するダミーの4つの台形が黒く塗りつぶされた模様となっている。優先指標のパターン模様は、図7での非優先指標である三角形の対頂角側にもうひとつダミーの三角形が配置された模様となっている。つまり、校正指標としての中央の台形及び三角形の基準線を共有するダミーの台形と三角形が存在することにより、相補的な濃淡パターンが実現されている。
(2)
図9に示されたこの校正指標は、図8に示された校正指標と類似しているが、ダミーを含む台形及び三角形のサイズを、カメラ1より遠方側に位置するものほど大きくすることにより撮影画像上でのそれぞれのサイズがほぼ同一のサイズとなるように設定されている。この校正指標の撮影画像が図10に示されている。この図10から理解できるように、実際の路面上では放射状直線であったものが撮影画像上では垂直線として現れ、水平線であったものはそのまま水平線としてあらわれるので、画像処理におけるエッジ検出が大変処理がシンプルになる。これにより、各パターンのエッジ検出精度が向上、結果的に校正指標点の算定を導く直線検出の精度の向上が期待できる。
また、本発明によるカメラ校正(カメラの校正)を通じて実際の路面位置と撮影画像上での路面位置が正確に対応付けられていると、車載カメラで取得された撮像画像に含まれる表示物(例えば、車線や物体等)の実際の位置が撮像画像の画像処理を通じて正確に特定することができる。
(1)上述した実施の形態では、ホモグラフィを算定するため、4つの校正指標を用いていたが、もちろん4つ以上の校正指標を用いてもよい。また、専有領域や共有領域に配置される指標の数を多くし、最も検出しやすいものだけを選択して利用するようにしてもよい。
(2)校正指標の形態は、上述した以外種々な変更が可能である。またそのパターン模様の形成はペンキ等を用いた描画に限られず、例えば光学的、照明的な方法によるパターン模様形成を採用してもよい。
(3)優先校正指標と非優先校正指標との位置関係は上述した関係以外の種々の関係を設定可能であり、またその位置関係は必ずしもメモリ等に格納する必要はなく、指標位置算定処理のアルゴリズムとして組み込んでもよい。
π:撮像画像面
H、H1,H2,H3,H4:ホモグラフィ
5:コントロールユニット
9:校正指標
M1、M2:優先校正指標
M3、M4:非優先校正指標
51:画像取得部
52:指標情報管理部
53:指標位置算定部
53a:優先指標位置算定部
53b:非優先指標位置算定部
54:ホモグラフィ算定部
56:校正部
57:表示画像生成部
Claims (7)
- カメラの撮影視界における第1平面内で規定された特定領域に配置された平面状の優先校正指標と前記特定領域以外の領域に配置された平面状の非優先校正指標とからなる少なくとも4つの校正指標を含む撮影画像を取得する画像取得部と、
前記優先校正指標と前記非優先校正指標との位置関係を予め設定するとともに、前記第1平面における前記優先校正指標と前記非優先校正指標との座標位置を実座標位置として格納する指標情報格納部と、
前記優先校正指標の画像上の座標位置を算定する優先校正指標位置算定部と、
前記位置関係及び算定された前記優先校正指標の座標位置を参照して前記非優先校正指標の画像上の座標位置を算定する非優先校正指標位置算定部と、
前記少なくとも4点の座標を表す校正指標の実座標位置と算定座標位置とから前記撮影画像の撮影画像面と前記第1平面との間のホモグラフィを算定するホモグラフィ算定部と、
前記ホモグラフィを用いて前記カメラの校正を行う校正部と、
を備えたカメラ校正装置。 - 前記特定領域は前記カメラからの撮影距離が短い近傍領域であり、前記非優先校正指標は前記カメラからの撮影距離が長い遠方領域に配置されている請求項1に記載のカメラ校正装置。
- 前記画像取得部は異なる撮影視界を有する複数のカメラからの撮影画像を取得し、前記各カメラからの撮影画像には隣り合うカメラの撮影画像の間で前記第1平面において共有している共有領域と共有していない専有領域とが含まれており、前記共有領域に前記非優先校正指標が配置されているとともに前記専有領域に前記優先校正指標が配置されており、前記校正部は前記カメラ毎に算定されたホモグラフィを用いて前記複数のカメラの校正を行う請求項1または2に記載のカメラ校正装置。
- 前記カメラが車両に取り付けられた車載カメラであり、前記第1平面は路面であり、前記校正指標は前記路面と平行に配置される、平面模様を有するマーカである請求項1から3のいずれか一項に記載のカメラ校正装置。
- 前記カメラが移動体に取り付けられたカメラであり、前記第1平面は路面であり、前記校正指標は前記路面に描画された模様としてのマーカである請求項1から3のいずれか一項に記載のカメラ校正装置。
- 前記カメラには、移動体前方を撮影視界とする前方カメラと、移動体右側方を撮影視界とする右側方カメラと、移動体左側方を撮影視界とする左側方カメラと、移動体後方を撮影視界とする後方カメラが含まれている請求項3から5のいずれか一項に記載のカメラ校正装置。
- 各カメラの撮影視界における第1平面内で規定された専有領域に配置された平面状の優先校正指標及び隣り合うカメラの撮影画像の間で前記第1平面において共有している共有領域に配置された平面状の非優先校正指標からなる少なくとも4点の座標を表す校正指標を含む撮影画像を各カメラから取得する画像取得部と、
前記第1平面における前記優先校正指標と前記非優先校正指標との座標位置を実座標位置として格納する指標情報格納部と、
前記優先校正指標の画像上の座標位置を算定する優先校正指標位置算定部と、
校正指標の実座標位置と算定された前記非優先校正指標の座標位置を参照して前記非優先校正指標の画像上の座標位置を算定する非優先校正指標位置算定部と、
各カメラからの撮影画像毎に前記少なくとも4点の座標を表す校正指標の実座標位置と算定座標位置とから各カメラの撮影画像面と前記第1平面との間のホモグラフィを算定するホモグラフィ算定部と、
前記カメラ毎に算定されたホモグラフィを用いて複数の前記カメラの校正を行う校正部と、
を備えたカメラ校正装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009076858A JP4905812B2 (ja) | 2009-03-26 | 2009-03-26 | カメラ校正装置 |
US13/256,593 US8872920B2 (en) | 2009-03-26 | 2009-12-18 | Camera calibration apparatus |
EP09842340.3A EP2413282B1 (en) | 2009-03-26 | 2009-12-18 | Camera calibrator |
PCT/JP2009/071166 WO2010109730A1 (ja) | 2009-03-26 | 2009-12-18 | カメラ校正装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009076858A JP4905812B2 (ja) | 2009-03-26 | 2009-03-26 | カメラ校正装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2010232852A true JP2010232852A (ja) | 2010-10-14 |
JP2010232852A5 JP2010232852A5 (ja) | 2011-09-29 |
JP4905812B2 JP4905812B2 (ja) | 2012-03-28 |
Family
ID=43048268
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009076858A Expired - Fee Related JP4905812B2 (ja) | 2009-03-26 | 2009-03-26 | カメラ校正装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4905812B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012104060A (ja) * | 2010-11-12 | 2012-05-31 | Fujitsu Ltd | 画像処理プログラムおよび画像処理装置 |
JP2014139766A (ja) * | 2012-12-20 | 2014-07-31 | Denso Corp | 路面形状推定装置 |
KR102083522B1 (ko) * | 2018-11-28 | 2020-04-20 | 아진산업(주) | 차량 어라운드 뷰 영상 제공 장치 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002288661A (ja) * | 2001-03-27 | 2002-10-04 | Advantest Corp | 画像検出方法、画像検出装置及びウェハ処理装置 |
JP2004037270A (ja) * | 2002-07-03 | 2004-02-05 | Topcon Corp | キャリブレーション用データ測定装置、測定方法及び測定プログラム、並びにコンピュータ読取可能な記録媒体、画像データ処理装置 |
JP2006148745A (ja) * | 2004-11-24 | 2006-06-08 | Aisin Seiki Co Ltd | カメラの校正方法及びカメラの校正装置 |
JP2008187564A (ja) * | 2007-01-31 | 2008-08-14 | Sanyo Electric Co Ltd | カメラ校正装置及び方法並びに車両 |
-
2009
- 2009-03-26 JP JP2009076858A patent/JP4905812B2/ja not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002288661A (ja) * | 2001-03-27 | 2002-10-04 | Advantest Corp | 画像検出方法、画像検出装置及びウェハ処理装置 |
JP2004037270A (ja) * | 2002-07-03 | 2004-02-05 | Topcon Corp | キャリブレーション用データ測定装置、測定方法及び測定プログラム、並びにコンピュータ読取可能な記録媒体、画像データ処理装置 |
JP2006148745A (ja) * | 2004-11-24 | 2006-06-08 | Aisin Seiki Co Ltd | カメラの校正方法及びカメラの校正装置 |
JP2008187564A (ja) * | 2007-01-31 | 2008-08-14 | Sanyo Electric Co Ltd | カメラ校正装置及び方法並びに車両 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012104060A (ja) * | 2010-11-12 | 2012-05-31 | Fujitsu Ltd | 画像処理プログラムおよび画像処理装置 |
JP2014139766A (ja) * | 2012-12-20 | 2014-07-31 | Denso Corp | 路面形状推定装置 |
US9489583B2 (en) | 2012-12-20 | 2016-11-08 | Denso Corporation | Road surface shape estimating device |
KR102083522B1 (ko) * | 2018-11-28 | 2020-04-20 | 아진산업(주) | 차량 어라운드 뷰 영상 제공 장치 |
Also Published As
Publication number | Publication date |
---|---|
JP4905812B2 (ja) | 2012-03-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2010109730A1 (ja) | カメラ校正装置 | |
CN110264520B (zh) | 车载传感器与车辆位姿关系标定方法、装置、设备和介质 | |
JP4690476B2 (ja) | 車載カメラの校正装置 | |
JP4751939B2 (ja) | 車載カメラの校正装置 | |
EP2523163B1 (en) | Method and program for calibrating a multicamera system | |
JP5455124B2 (ja) | カメラ姿勢パラメータ推定装置 | |
JP5091902B2 (ja) | 車載カメラの校正に用いられる校正指標と、当該校正指標を用いた車載カメラの校正方法と、システムと、当該システムのためのプログラム | |
US9225942B2 (en) | Imaging surface modeling for camera modeling and virtual view synthesis | |
EP2660625B1 (en) | A method for monitoring a traffic stream and a traffic monitoring device | |
JP4803450B2 (ja) | 車載カメラの校正装置及び当該装置を用いた車両の生産方法 | |
JP5081313B2 (ja) | 車載カメラの校正装置 | |
JP2008187564A (ja) | カメラ校正装置及び方法並びに車両 | |
JP2008193188A (ja) | カメラ校正装置及び方法並びに車両 | |
JP5811327B2 (ja) | カメラキャリブレーション装置 | |
JP2010239412A (ja) | 車載カメラの校正装置、方法、及びプログラム | |
US20160121806A1 (en) | Method for adjusting output video of rear camera for vehicles | |
JP2009276233A (ja) | パラメータ計算装置、パラメータ計算システムおよびプログラム | |
JP4873272B2 (ja) | カメラ校正装置 | |
JP4905812B2 (ja) | カメラ校正装置 | |
JP2013024712A (ja) | 複数カメラの校正方法及び校正システム | |
KR101697229B1 (ko) | 차량용 영상 정합을 위한 차선 정보 기반의 자동보정장치 및 그 방법 | |
JP2007049276A (ja) | 車載パノラマカメラシステム | |
CN110188665B (zh) | 图像处理方法、装置以及计算机设备 | |
JP5964093B2 (ja) | 車両サイズ測定装置、車両サイズ測定方法、およびプログラム | |
JP5406898B2 (ja) | 車載カメラの校正装置と、車載カメラの校正方法と、システムと、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110817 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110912 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20110930 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20111024 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111027 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111125 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20111215 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20111228 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150120 Year of fee payment: 3 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4905812 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150120 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |