JP2007253699A - 光軸ずれ検出装置 - Google Patents

光軸ずれ検出装置 Download PDF

Info

Publication number
JP2007253699A
JP2007253699A JP2006078712A JP2006078712A JP2007253699A JP 2007253699 A JP2007253699 A JP 2007253699A JP 2006078712 A JP2006078712 A JP 2006078712A JP 2006078712 A JP2006078712 A JP 2006078712A JP 2007253699 A JP2007253699 A JP 2007253699A
Authority
JP
Japan
Prior art keywords
image
optical axis
template
residual sum
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006078712A
Other languages
English (en)
Other versions
JP4767052B2 (ja
Inventor
Hitoomi Takizawa
仁臣 滝澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Daihatsu Motor Co Ltd
Original Assignee
Daihatsu Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daihatsu Motor Co Ltd filed Critical Daihatsu Motor Co Ltd
Priority to JP2006078712A priority Critical patent/JP4767052B2/ja
Publication of JP2007253699A publication Critical patent/JP2007253699A/ja
Application granted granted Critical
Publication of JP4767052B2 publication Critical patent/JP4767052B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Geophysics And Detection Of Objects (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Studio Devices (AREA)

Abstract

【課題】自車に搭載したカメラの光軸のずれを、テンプレートマッチング処理の手法により、少ない処理負担で迅速に検出し得るようにする。
【解決手段】探索領域設定手段によりターゲット画像を検出するテンプレートマッチング処理の探索領域の中心位置を単眼カメラ2の光軸の所定の最頻位置に設定し、位置特定手段により、検出基準のテンプレート画像の位置をカメラ2の撮影画像上の前記探索領域の中心から周辺にずらしながらテンプレートマッチング処理をくり返し、前記撮影画像上の前記テンプレート画像にマッチングした画像の位置を前記ターゲット画像の位置として特定し、特定した位置の前記中心位置からのずれに基づいてカメラ2の光軸のずれを検出する。
【選択図】図1

Description

本発明は、車両に搭載された車載カメラの光軸のずれを検出する光軸ずれ検出装置に関する。
従来、追従走行制御、被害軽減自動ブレーキ制御、ブレーキアシスト制御等を行なう車両は、単眼カメラ等のカメラ(車載カメラ)を所望の方向を向くように光軸設定して搭載し、その撮影画像を画像処理して自車前方の車両等の障害物を検出して追跡(エイミング)等する。
そのため、この種の車両においては、製造検査や出荷後の車両整備等におけるカメラエイミングの調整作業により、搭載したカメラの光軸のずれを検出し、その検出結果に基づいて、カメラの取り付け角度等を調整し、調整後の通常の車両走行中には、前記検出結果に基づいて、カメラの撮影画像の調整後の光軸のずれに起因した座標補正等を行なう必要がある。
そして、前記カメラの光軸のずれについては、例えば車両を十字マーク(補正マーク)のターゲット画像の衝立等の前の規定位置に止め、そのカメラの撮影画像上で、十字マークの位置と基準位置データの位置とのずれ量等を算出して検出することが提案されている。(例えば、特許文献1参照。)。
特許第3653783号公報(段落[0014]及び[0042]−[0051]、図2、図3、図7〜図10等)
前記特許文献1に記載のようにカメラの撮影画像上での十字マークの位置と基準位置データの位置とのずれ量を求めるには、何らかの手法により、カメラの撮影画像上のどの位置が十字マークの画像であるかを探索して特定する必要がある。
そして、周知のテンプレートマッチング法の画像処理(テンプレートマッチング処理)により、前記基準位置データの画像を検出基準のテンプレート画像とし、その画像をカメラの撮影画像上で少しずつずらしながら撮影画像の対応する部分画像と比較し、テンプレート画像と各位置の部分画像との画像レベル(例えば輝度の二値レベル)差から撮影画像上の前記十字マークの位置を探索して特定することが考えられる。
しかしながら、テンプレート画像を例えば撮影画像の左上隅から右下隅まで走査するようにずらしつつ、各画素位置において、テンプレート画像と対応する部分画像との全ての画素について画像レベルの差を求めて逐一比較するのでは、テンプレートマッチング処理のデータ量が膨大になる。
そのため、テンプレートマッチング処理を行なうコンピュータ等の処理負担が大きくなり、とくに、車両にECUとして搭載されるマイクロコンピュータのような処理能力があまり高くない安価な構成でテンプレートマッチング処理を行ない、前記十字マークの位置を探索して特定しようとすると、探索処理に時間がかかり、カメラエイミングの調整作業等を迅速に行なうことができず、ひいては、車両の生産や整備の作業効率の低下を招来する。
本発明は、自車に搭載したカメラの光軸のずれを、テンプレートマッチング処理の手法により、少ない処理負担で迅速に検出し得るようにすることを目的とする。
上記した目的を達成するために、本発明の光軸ずれ検出装置は、所望の方向を向くように光軸設定して車両に搭載された車載カメラの光軸のずれを検出する光軸ずれ検出装置であって、前記車載カメラのターゲット画像を含む撮影画像上において、前記ターゲット画像を検出するテンプレートマッチング処理の探索領域の中心位置を前記光軸の所定の最頻位置に設定する探索領域設定手段と、検出基準のテンプレート画像の位置を前記撮影画像上の前記探索領域の中心から周辺にずらしながら前記テンプレートマッチング処理をくり返し、前記撮影画像上の前記テンプレート画像にマッチングした画像の位置を前記ターゲット画像の位置として特定する位置特定手段とを備え、前記位置特定手段が特定した位置の前記中心位置からのずれに基づいて前記光軸のずれを検出することを特徴としている(請求項1)。
また、本発明の光軸ずれ検出装置は、前記位置特定手段が、前記テンプレート画像の位置を前記撮影画像上の前記探索領域の中心から周辺にずらしながら前記テンプレートマッチング処理をくり返し、前記撮影画像の各位置の画像と前記テンプレート画像との残差和を算出する算出手段を有し、前記算出手段により、前記残差和の算出中の値が既算出の前記残差和の最小値以上になったときに当該位置の前記残差和の算出を終了し、その位置の画像を前記位置特定手段の特定対象から除外して前記テンプレート画像をつぎの位置にずらし、前記残差和の算出をくり返すことを特徴としている(請求項2)。
まず、請求項1の構成によれば、車両に装着されたカメラ(装着カメラ)の光軸が、設計された状態から極端にずれることはほとんどなく、カメラの撮影画像上のある位置(最頻位置)付近に集中することに着目し、カメラの撮影画像上にテンプレートマッチング処理を行なう探索領域を設定し、その領域の中心位置を前記最頻位置に合わせ、探査領域内において、その中心位置から周辺にテンプレート画像をずらしながらテンプレートマッチング処理をくり返してターゲット画像の位置を特定するため、テンプレート画像をずらす範囲、換言すれば、テンプレートマッチング処理を行なう範囲が、カメラの撮影画像の前記最頻位置を中心とする一定範囲に限られ、しかも、テンプレートマッチング処理を前記最頻位置から周辺にずらして行なうので、テンプレート画像を例えば撮影画像の左上隅から右下隅まで走査するようにずらして行なう場合に比して、迅速にターゲット画像の位置に到達してこの位置を特定することができる。
そのため、テンプレートマッチング処理の処理負担が少なく、車両にECUとして搭載されるマイクロコンピュータ等の処理能力があまり高くない安価な構成であっても、テンプレートマッチング処理を行なって前記ターゲット画像の位置を迅速に探索して特定することができ、カメラエイミングの調整作業を迅速に行なうことができ、ひいては、車両の生産や整備の作業効率が向上する。
また、請求項2の構成によれば、位置特定手段の算出手段により、撮影画像上でテンプレート画像を探索領域の中心(最頻位置)から周辺にずらしながらテンプレートマッチング処理がくり返えされる。
このとき、前記算出手段は、残差和の算出中の値が最頻位置から直前の位置までの既知の残差和の最小値以上になると、この位置はターゲット画像の位置ではないものとして、その時点で残差和の算出を終了し、その位置は位置特定手段の特定対象から除外してテンプレート画像をつぎの位置にずらし、この位置についての残差和の算出に移る。
そのため、不要な残差和を算出することなく、一層迅速にターゲット画像の位置に到達することができ、テンプレートマッチング処理の処理負担が一層少なく、車両にECUとして搭載されるマイクロコンピュータ等の処理能力があまり高くない安価な構成であっても、テンプレートマッチング処理を行なって前記ターゲット画像の位置を一層迅速に探索して特定することができ、カメラエイミングを一層迅速に行なうことができ、車両の生産や整備の作業効率が著しく向上する。
つぎに、本発明をより詳細に説明するため、その実施形態について、図1〜図10にしたがって詳述する。
(第1の実施形態)
まず、第1の実施形態について、図1〜図9を参照して説明する。
図1は車両(自車)1に搭載された光軸ずれ検出装置のブロック図であり、図2はターゲット画像の一例を示し、図3は撮影画像の一例、図4はその拡大した二値画像である。
また、図5は二値化したターゲット画像であり、図6は探査領域の探査順序の説明図、、図7は簡易チェック用のテンプレート画像の説明図であり、図8は図1の動作説明用のフローチャート、図9は図8の一部の詳細なフローチャートである。
(構成)
図1において、2は所望の方向を向くように光軸設定して車両1に搭載された単眼カメラ(本発明の搭載カメラ)である。
そして、前記所望の方向は車両1の外周の種々の方向であってよいが、この実施形態の場合、自車前方の先行車等の障害物を撮像するため、車両1の前方を所定の角度で若干斜め下向きに撮像する方向であり、単眼カメラ2は、例えば車室内のセンタミラー取り付け基部に取り付けの位置・角度の調整治具を介して支持されている。
3は単眼カメラ2に接続されたカメラECUであり、例えば単眼カメラ2の基板に取り付けられて単眼カメラ2に一体に形成され、マイクロコンピュータ4及びEEPROM等の不揮発性のメモリ5を備え、いわゆるCAN等の車載用ローカルエリアネットワーク6を介して車両1内の走行系(アクセル、ブレーキ等)の制御を行なう主制御ECU等に接続されている。
そして、メモリ5は単眼カメラ2の光軸のずれの検出結果等を書き換え自在に保持し、マイクロコンピュータ4は、通常は、設定された撮影補正プログラム、障害物認識処理プログラム等を実行し、単眼カメラ2に保持されている光軸のずれの最新の検出結果に基づき、単眼カメラ2の時々刻々の撮影画像の座標軸を補正し、補正後の撮影画像を画像処理して自車前方の障害物を認識し、時々刻々の認識結果を前記主制御ECU等に配信する。
ところで、マイクロコンピュータ4は、車両1の製造工程の光軸調整や整備工場での単眼カメラ2の光軸調整のカメラエイミングにおいて、図1に示す専用の調整開始指令装置7から車載用ローカルエリアネットワーク6を介して調整開始命令が送られてくると、前記の撮影補正プログラム、障害物認識処理プログラム等の通常の処理プログラムに代えて、予め設定された光軸ずれの検出・調整のプログラムを実行する。
そして、この光軸ずれの検出・調整のプログラムを実行することにより、マイクロコンピュータ4は、つぎに説明する二値化手段、探索領域設定手段、位置特定手段等を形成する。
(i)二値化手段
この手段は、単眼カメラ2の後述のターゲット画像を含む撮影画像を二値化する手段である。
すなわち、後述のように単眼カメラ2の白黒或いはカラーの多階調の撮影画像からターゲット画像を直接探索してもよいが、データ量を少なくして処理負担を軽減するため、この実施形態においては、この二値化手段によって単眼カメラ2の撮影画像を二値化処理する。この二値化処理は、ターゲット画像の特徴を抽出するため、この実施形態の場合、微分二値化の処理であって、ターゲット画像のエッジ成分の二値画像を形成する。
ところで、このカメラエイミングの光軸ずれの調整においては、例えば図2に示すような90度ずつ白と黒に交互に塗り分けられた円形のターゲット画像P1のスタンド8を使用し、このスタンド8を予め所定車両位置の前方の規定位置にターゲット画像P1が前記所定車両位置の車両に向き合うように立設する。なお、図2のTrはターゲット画像P1の半径であり、Tx、Ty、Tzは前記所定車両位置にとったX(横方向)、Y(高さ方向)、Z(前後方向)の3次元座標系の原点0に対するターゲット画像P1の各軸方向の長さ(座標成分)である。
そして、調整対象の車両1を前記所定車両位置にセットし、単眼カメラ2により自車前方を撮影して例えば図3の撮影画像P2を得、この撮影画像P2を二値化手段で例えば図4の二値化された撮影画像P21に加工する。このとき、ターゲット画像P1は撮影画像P21上では図5に示す二値化されたターゲット画像P11になる。
(ii)探索領域設定手段
この手段は、単眼カメラ2のターゲット画像(画像P1又は画像P11)を含む撮影画像(画像P2又は画像P21)上において、ターゲット画像P11を検出するテンプレートマッチング処理の探索領域、例えば図4に示した探索領域αの中心位置α0を単眼カメラ2の光軸の所定の最頻位置に設定する。
ここで、最頻位置とは、多数の車両1の撮影画像(画像P2又は画像P21)上において、装着された単眼カメラ2の光軸位置となる頻度が最も高い位置であり、通常は、設計上の単眼カメラ2の光軸の位置であり、実験等に基づいて予め設定される。
また、探索領域αの形状や大きさは処理負担や検出精度等を考慮して適当に設定されるが、単眼カメラ2の光軸位置のばらつきの範囲がある程度限られることから、例えば図6に示す81(9×9)画素の大きさの正方形状に設定される。
(iii)位置特定手段
この手段は、検出基準のテンプレート画像の位置を撮影画像(画像P2又は画像P21)上の探索領域αの中心から周辺にずらしながらテンプレートマッチング処理をくり返し、撮影画像上のテンプレート画像にマッチングした相関性の高い画像の位置をターゲット画像(画像P1又は画像P11)の位置として特定する。
そして、検出基準のテンプレート画像は、通常、ターゲット画像(画像P1又は画像P11)と同じ画像である。
また、探索領域αが図6の81画素の正方形の領域とすると、テンプレート画像の位置は、例えばつぎに説明するように渦巻き状に移動して探索領域αの中心から周辺にずらす。
すなわち、図6の「0」〜「80」の画素番号に示すように、探索領域αの中心の画素を第0番目の画素とし、その外側の8(=3×3−1)画素を左上の画素から反時計周りに第1〜8番目の画素とし、さらにその外側の16(5×5−1−8)画素を左上の画素から反時計周りに第9〜24番目の画素とし、以降同様にして、最外側の32画素を左上の画素から反時計周りに第49〜80番目の画素とすると、テンプレート画像の中心画素の位置を、最初は第0番目の画素位置にセットし、以降、第1番目の画素位置、第2番目の画素位置、第3番目の画素位置、…、第80番目の画素位置に順にずらし、テンプレート画像の位置を、図中の各一点破線矢印に示すように渦巻き状に移動して探索領域αの中心から周辺にずらす。
さらに、この実施形態においては、撮影画像、ターゲット画像を二値化された撮影画像P21、ターゲット画像P11とし、位置特定手段がつぎの算出手段を有する。
この算出手段は、テンプレート画像の位置を上述のようにして撮影画像上P21の探索領域αの中心から周辺にずらしながらテンプレートマッチング処理をくり返し、撮影画像P21の各位置のテンプレート画像部分の二値画像と二値化されたテンプレート画像との残差和を算出する。この残差和の演算は、例えば、各画素の白をレベル1、黒をレベル0とし、撮影画像P21の各位置のテンプレート画像部分の二値画像と二値化されたテンプレート画像との各画素のレベルの差(誤差)の絶対値を累加して求められ、テンプレート画像部分の二値画像とテンプレート画像とが完全に一致し、ターゲット画像の位置に到達したときに0(最小値)となる。
そして、テンプレートマッチング処理の負担を極力軽減するため、算出手段は、各画素の位置において、算出中の残差和の値が最頻位置(第0番目の画素位置)から直前の位置まで移動する間に算出された既知の残差和の最小値以上になると、この位置はターゲット画像の位置ではないものとして、その時点で残差和の算出を終了し、その位置は位置特定手段の特定対象から除外してテンプレート画像をつぎの位置にずらし、この位置についての残差和を算出して求める。
さらに、この実施形態においては、テンプレートマッチング処理の負担を一層軽減するため、テンプレート画像の位置の前記の渦巻き状の移動により、残差和が小さくなった位置をターゲット画像の位置として検出する。
そのため、この実施形態の前記算出手段は、実際には、最頻位置(第0番目の画素位置)の残差和をΔ(0)とすると、最初に算出した残差和Δ(0)が前記の最頻位置から直前の位置まで移動する間に算出された既知の残差和の最小値であり、その後、j(1、2、…、80)番目の残差和Δ(j)の算出途中に残差和Δ(0)まで大きくなると、直ちに、その算出を終了してテンプレート画像をつぎの位置にずらし、その位置での残差和Δ(j)を算出することをくり返すことにより、残差和Δ(j)を途中で終了することなく算出した画素において、その残差和Δ(j)が残差和Δ(0)より小さくなって算出を終了する。
そして、前記算出手段が算出を終了することにより、位置特定手段はその位置を撮影画像P21上のテンプレート画像にマッチングしたターゲット画像P11の位置として特定する。
(iv)ずれ量検出手段
この手段は、位置特定手段か特定した撮影画像P21上のターゲット画像P11の位置(実際にはその画像中心の位置)の最頻位置からのずれ量(2次元のずれ量)を検出し、検出した最新のずれ量をメモリ5に光軸ずれの補正値として書き換え自在に保持し、また、検出した最新のずれ量及び単眼カメラの取り付け高さ(設定値)等から単眼カメラ2の光軸の3次元のずれ量を検出し、例えば、車両1或いは指令装置7の表示装置(図示せず)に調整量として表示する。
(動作)
つぎに、前記構成に基く光軸ずれの検出について説明する。
まず、車両1の製造工程の光軸調整や整備工場での単眼カメラ2の光軸調整のカメラエイミングにおいて、調整開始指令装置7から車載用ローカルエリアネットワーク6を介して調整開始命令が送られてくると、マイクロコンピュータ4は、前記の光軸ずれの検出・調整のプログラムを実行し、二値化手段、探索領域設定手段、位置特定手段等が作動することによって、図8のステップS1〜S5の処理を順次に行なう。
そして、ステップS1により撮影画像P2を二値化した撮影画像P21を得ると、ステップS2に移行してターゲット画像P11の位置の探査を行なう。
ところで、この実施形態においては、マイクロコンピュータ4の演算時間を大幅に短縮して処理負担を一層軽減するため、ステップS2の詳細を示した図9のステップQ1により、撮影画像P21に探索領域αを設定すると、前記のテンプレートマッチング処理を行なう前に、例えば図7に示す十字画像からなる簡易チェック用のテンプレート画像P3を用いた予備的なパターンマッチング処理を行なう。
この予備的なパターンマッチング処理においては、探索領域αの各画素位置について、各画素位置を中心とするターゲット画像部分の中央が十字パターンになっているか否かを簡易チェックし、十字パターンになっておらず、明らかにターゲット画像P11と異なる位置については、テンプレートマッチング処理の対象位置から省く。なお、前記の予備的なパターンマッチング処理では、例えば図7に示すテンプレート画像P3の上下、左右の半径L(3)のアームの有無を判断して簡易チェックする。
そして、前記の予備的なパターンマッチング処理の後に、図9のステップQ1からステップQ2に移行し、テンプレート画像の位置を探索領域αの中心の第0番目の画素位置にセットし、ステップQ3で残差和を算出してテンプレートマッチング処理を行なう。
最初は既知の残差和が存在しないため、残差和を算出し、算出した残差和が設定された一致検出のしきい値より大きいことを条件に、算出した残差和をメモリ5に既知の残差和の最小値として保持した後、ステップQ3からステップQ4〜Q7を介してステップQ3に戻り、テンプレート画像の位置を、探索領域αの前記の予備的なパターンマッチング処理の省かれなかった各画素位置についてのみ、図6の順に中心から周辺にずらして残差和を算出する。
なお、最初に算出した残差和が前記一致検出のしきい値以下になるときには、ターゲット画像P11が探索領域αの中心に位置し、光軸ずれがないと判断できるので、ステップQ3からステップQ4、Q8を介してテンプレートマッチング処理を直ちに終了し、図8のステップS3によりターゲット画像P11を特定し、ステップS4、S5により光軸のずれ量が0であるとしてメモリ5にずれ量0を書き込み、調整処理を終了する。
一方、光軸のずれがあり、最初に検出した残差和が前記一致検出のしきい値より大きくなるときは、図9のステップQ3に戻り、テンプレート画像の位置を、図6の順に中心から周辺にずらして残差和を算出し、各画素位置において、例えば残差和の1画素の演算毎にステップQ3からステップQ4、Q8を介してステップQ3に戻るループ処理により、算出値とメモリ5の最小値とを比較する。
そして、算出値がメモリ5の最小値以上になると、ステップQ4からステップQ5に移行して直ちに算出を終了し、ステップQ6を介してステップQ7に移行し、テンプレート画像の位置をつぎの位置にずらしてステップQ3に戻る。
このくり返しにより、テンプレート画像の位置がターゲット画像P11の位置に達すると、その位置では残差和がメモリ5の最小値より小さくなるので、残差和の算出後、ステップQ4からステップQ8を肯定(YES)で通過し、図8のステップS2のテンプレートマッチング処理を終了する。
そして、ステップS2からステップS3に移行し、このステップS3により、テンプレートマッチング処理を終了した画素位置の画像部分がターゲット画像P11であると特定し、ステップS4により、その時の画素位置と中心位置とのずれから光軸のずれ量を求め、ステップS5により、そのずれ量をメモリ5に書き込む。
このとき、メモリ5のずれ量が光軸ずれの調整量として表示され、この表示等から単眼カメラ2の取り付けが調整されてその光軸のずれが修正される。
そして、この修正後、再度上述のステップS1〜S5の光軸ずれの検出がくり返され、検出されたずれ量がその後の撮影画像の座標軸の補正値としてメモリ5に書き込まれ、一連の光軸ずれの調整が終了する。
なお、必要に応じて、調整をくり返してもよいのは勿論であり、この場合は、最後にメモリ5に書き換えて保持されたずれ量がその後の撮影画像の座標軸の補正値となる。
したがって、この実施形態の場合は、撮影画像P21上にテンプレートマッチング処理行なう探索領域αを設定し、その領域αの中心位置を最頻位置に合わせ、探査領域α内において、その中心位置から周辺にテンプレート画像をずらしながらテンプレートマッチング処理をくり返してターゲット画像P11の位置を特定することができる。
そして、テンプレートマッチング処理を行なう範囲が、単眼カメラ2の二値化された撮影画像P21の前記最頻位置を中心とする一定範囲に限られ、しかも、テンプレートマッチング処理を前記最頻位置から周辺にずらして行なうので、テンプレート画像を例えば撮影画像P21の左上隅から右下隅まで走査するようにずらして探索する場合に比して、迅速にターゲット画像P11の位置に到達してこの位置を特定することができる。
そのため、テンプレートマッチング処理の処理負担が少なく、車両1に搭載されたカメラECU3を用いてカメラエイミングの調整作業を迅速に行なうことができ、ひいては、車両の生産や整備の作業効率が向上する。
しかも、二値化手段によって単眼カメラ2の撮影画像P2がデータ量の少ない二値の画像P21に加工され、位置特定手段の算出手段により、二値の画像P21の撮影画像上で、テンプレート画像を探索領域αの中心(最頻位置)から周辺にずらしながらテンプレートマッチング処理がくり返えされるので、データ量が一層少なくなる。
さらに、算出手段により、残差和の算出途中の値が既知の残差和の最小値以上になると、この位置はターゲット画像の位置ではないものとして、その時点で残差和の算出を直ちに終了し、その位置は判別手段の判別対象から除外してテンプレート画像をつぎの位置にずらし、この位置についての残差和の算出に移るため、実際には、最頻位置の残差和或いはつぎにそれより小さい残差和が求められたときに、ターゲット画像P11の位置に到達したことを検出して処理を終了することができ、この場合、不要な残差和を算出しないため、一層迅速にターゲット画像P11の位置に到達することができ、テンプレートマッチング処理の処理負担が極めて少なくなり、極めて短時間に処理が終了する。
加えて、この実施形態の場合、簡易チェック用のテンプレート画像P3を用いた予備的なパターンマッチング処理を行ない、探索領域αの明らかにターゲット画像P11と異なる位置については、テンプレートマッチング処理の対象位置から省くようにしたので、さらに一層処理負担が少なくなり、光軸ずれの検出・調整の作業時間が極めて短くなる。
(第2の実施形態)
つぎに、第2の実施形態について、図10を参照して説明する。
この実施形態においては、前記の位置特定手段に、上述の算出手段とともに判定手段を設け、撮影画像(画像P2又は画像P21)上の探索領域αにおいて、最頻位置の残差和或いはそれより小さい残差和を算出したときには、メモリ5の前記最小値を、算出した新たな残差和に書き換え、残差和の算出を継続する。そして、テンプレート画像の位置を探索領域αの最終の画素位置までずらした後、判定手段により、メモリ5に保持された最小値の残差和の画素位置をターゲット画像P11の位置として検出する。
具体的には、例えば図8の探査処理において、マイクロコンピュータ4が図9のステップQ1〜Q8の処理に代えて、図10のステップW1〜W8の処理を実行する。
そして、図10のステップW1〜W7は図9のステップQ1〜Q7と同じ処理を行い、図10の処理が図9の処理と異なる点は、ステップW3で計算された残差和がメモリ5の最小値より小さくなるときに、終了するのではなく、ステップW3からステップW4、W8を介してステップW6に移行し、探査領域αの最終の画素位置(通常は第80番目の画素位置)に達するまでは、ステップW6からステップW7を介してしステップW3に戻り、残差和の計算をくり返す。
このようにすることで、探索領域αのターゲット画像探索途中に残差和がメモリ5の最小値より小さくなったとしても、照明等の影響により、その画素位置がターゲット画像P11の中心位置でないおそれがあるときにも、誤検出することなくターゲット画像P11の位置を正確に特定して検出することができる。
そして、本発明は上記した実施形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて上述したもの以外に種々の変更を行うことが可能であり、例えば、ターゲット画像や簡易チェック用のテンプレート画像は何らかの特徴がある種々の画像であってよいのは勿論である。
また、上記各実施形態では、二値化した画像により残差和を算出しているが、車載カメラの多階調の撮影画像(濃淡画像)からターゲット画像を探索してもよい。この場合、例えば、撮影画像の横方向をx、高さ方向をyとし、各位置(x、y)の残差和をΣΔ(x、y)とし、一方、10画素(横方向)×10画素(高さ方向)のテンプレート画像の各画素位置(i、j)、(0≦i≦9、0≦j≦9)の画素の濃淡値をT(i、j)とし、前記多階調の撮影画像(対象画像)の各位置(x、y)におけるテンプレート画像部分の各画素画素の濃淡値をI(x+i、y+j)とすると、各位置(x、y)の残差和ΣΔ(x、y)はつぎの数1の式の演算から求めることができる。
Figure 2007253699
そして、このようにすることで、請求項2の本発明は撮影画像が多階調画像の場合にも二値画像の場合と同様に適用することができる。
つぎに、予備的なパターンマッチング処理を省いて行なう場合にも本発明を同様に適用することができるのも勿論である。
さらに、マイクロコンピュータ4の処理手順が前記両実施形態と異なっていてもよいのは勿論である。
また、本発明の光軸ずれ検出装置は、検出対象の車両1に搭載されてそのECU等によって形成されることが望ましいが、検出対象の車両1と別個独立の装置であってもよいのは勿論である。
そして、本発明は、単眼カメラ2のようなカメラを搭載した種々の車両のカメラエイミングに適用することができる。
この発明の第1の実施形態のブロック図である。 図1の単眼カメラが撮影するターゲット画像の一例の説明図である。 図1の単眼カメラの撮影画像の一例の説明図である。 図3の撮影画像を二値化した画像の説明図である。 図3の二値化したターゲット画像の説明図である。 図1の探査領域の探査順序の説明図である。 図1の簡易チェック用のテンプレート画像の説明図である。 図1の動作説明用のフローチャートである。 図8の一部の詳細なフローチャートである。 本発明の第2の実施形態の動作説明用のフローチャートである。
符号の説明
1 車両
2 単眼カメラ
3 カメラECU
P1、P11 ターゲット画像
P2、P21 撮影画像
α 探索領域

Claims (2)

  1. 所望の方向を向くように光軸設定して車両に搭載された車載カメラの光軸のずれを検出する光軸ずれ検出装置であって、
    前記車載カメラのターゲット画像を含む撮影画像上において、前記ターゲット画像を検出するテンプレートマッチング処理の探索領域の中心位置を前記光軸の所定の最頻位置に設定する探索領域設定手段と、
    検出基準のテンプレート画像の位置を前記撮影画像上の前記探索領域の中心から周辺にずらしながら前記テンプレートマッチング処理をくり返し、前記撮影画像上の前記テンプレート画像にマッチングした画像の位置を前記ターゲット画像の位置として特定する位置特定手段とを備え、
    前記位置特定手段が特定した位置の前記中心位置からのずれに基づいて前記光軸のずれを検出することを特徴とする光軸ずれ検出装置。
  2. 請求項1記載の光軸ずれ検出装置において、
    前記位置特定手段が、前記テンプレート画像の位置を前記撮影画像上の前記探索領域の中心から周辺にずらしながら前記テンプレートマッチング処理をくり返し、前記撮影画像の各位置の画像と前記テンプレート画像との残差和を算出する算出手段を有し、
    前記算出手段により、前記残差和の算出中の値が既算出の前記残差和の最小値以上になったときに当該位置の前記残差和の算出を終了し、その位置の画像を前記位置特定手段の特定対象から除外して前記テンプレート画像をつぎの位置にずらし、前記残差和の算出をくり返すことを特徴とする光軸ずれ検出装置。
JP2006078712A 2006-03-22 2006-03-22 光軸ずれ検出装置 Expired - Fee Related JP4767052B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006078712A JP4767052B2 (ja) 2006-03-22 2006-03-22 光軸ずれ検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006078712A JP4767052B2 (ja) 2006-03-22 2006-03-22 光軸ずれ検出装置

Publications (2)

Publication Number Publication Date
JP2007253699A true JP2007253699A (ja) 2007-10-04
JP4767052B2 JP4767052B2 (ja) 2011-09-07

Family

ID=38628384

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006078712A Expired - Fee Related JP4767052B2 (ja) 2006-03-22 2006-03-22 光軸ずれ検出装置

Country Status (1)

Country Link
JP (1) JP4767052B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010109883A (ja) * 2008-10-31 2010-05-13 Toyota Motor Corp カメラの光軸調整方法
WO2010137364A1 (ja) 2009-05-27 2010-12-02 アイシン精機株式会社 校正目標検出装置と、校正目標を検出する校正目標検出方法と、校正目標検出装置のためのプログラム
JP2015052534A (ja) * 2013-09-06 2015-03-19 パナソニック株式会社 移動体検知装置及び移動体検知システム
WO2016088368A1 (ja) * 2014-12-03 2016-06-09 日本電気株式会社 方向制御装置、方向制御方法および記録媒体
CN112070084A (zh) * 2020-09-04 2020-12-11 北京百度网讯科技有限公司 重复图像单元的位置确定方法和装置
CN112949478A (zh) * 2021-03-01 2021-06-11 浙江国自机器人技术股份有限公司 基于云台相机的目标检测方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101324250B1 (ko) 2011-12-29 2013-11-01 삼성테크윈 주식회사 영상 처리를 통한 광축 오차 보상 방법 및 시스템, 광축 오차 보상 기능이 구현된 줌 카메라

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11213167A (ja) * 1998-01-30 1999-08-06 Yamaha Corp 目標物の位置検出装置および方法並びにフォーム解析装置
JP2002099997A (ja) * 2000-09-26 2002-04-05 Mitsubishi Motors Corp 動体物検出装置
JP2004001658A (ja) * 2002-06-03 2004-01-08 Nissan Motor Co Ltd 車載カメラの光軸ずれ検出装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11213167A (ja) * 1998-01-30 1999-08-06 Yamaha Corp 目標物の位置検出装置および方法並びにフォーム解析装置
JP2002099997A (ja) * 2000-09-26 2002-04-05 Mitsubishi Motors Corp 動体物検出装置
JP2004001658A (ja) * 2002-06-03 2004-01-08 Nissan Motor Co Ltd 車載カメラの光軸ずれ検出装置

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010109883A (ja) * 2008-10-31 2010-05-13 Toyota Motor Corp カメラの光軸調整方法
WO2010137364A1 (ja) 2009-05-27 2010-12-02 アイシン精機株式会社 校正目標検出装置と、校正目標を検出する校正目標検出方法と、校正目標検出装置のためのプログラム
US8605156B2 (en) 2009-05-27 2013-12-10 Aisin Seiki Kabushiki Kaisha Calibration target detection apparatus, calibration target detecting method for detecting calibration target, and program for calibration target detection apparatus
JP2015052534A (ja) * 2013-09-06 2015-03-19 パナソニック株式会社 移動体検知装置及び移動体検知システム
WO2016088368A1 (ja) * 2014-12-03 2016-06-09 日本電気株式会社 方向制御装置、方向制御方法および記録媒体
JPWO2016088368A1 (ja) * 2014-12-03 2017-11-02 日本電気株式会社 方向制御装置、方向制御方法および方向制御プログラム
US11102382B2 (en) 2014-12-03 2021-08-24 Nec Corporation Direction control device, direction control method and recording medium
CN112070084A (zh) * 2020-09-04 2020-12-11 北京百度网讯科技有限公司 重复图像单元的位置确定方法和装置
CN112070084B (zh) * 2020-09-04 2024-01-12 北京百度网讯科技有限公司 重复图像单元的位置确定方法和装置
CN112949478A (zh) * 2021-03-01 2021-06-11 浙江国自机器人技术股份有限公司 基于云台相机的目标检测方法

Also Published As

Publication number Publication date
JP4767052B2 (ja) 2011-09-07

Similar Documents

Publication Publication Date Title
KR102022388B1 (ko) 실세계 물체 정보를 이용한 카메라 공차 보정 시스템 및 방법
JP6825569B2 (ja) 信号処理装置、信号処理方法、およびプログラム
US10935643B2 (en) Sensor calibration method and sensor calibration apparatus
JP4767052B2 (ja) 光軸ずれ検出装置
US10422871B2 (en) Object recognition apparatus using a plurality of object detecting means
JPH09142236A (ja) 車両の周辺監視方法と周辺監視装置及び周辺監視装置の故障判定方法と周辺監視装置の故障判定装置
JP6458651B2 (ja) 路面標示検出装置及び路面標示検出方法
US20220189055A1 (en) Item detection device, item detection method, and industrial vehicle
JP2002197469A (ja) 車線検出装置
JP2004037239A (ja) 同一対象物判断方法および装置、並びに、位置ずれ補正方法および装置
JP2008158958A (ja) 路面判別方法および路面判別装置。
CN110826512B (zh) 地面障碍物检测方法、设备及计算机可读存储介质
JP2018105682A (ja) ステレオカメラ
JP2007179386A (ja) 白線認識方法及び白線認識装置
JP4052291B2 (ja) 車両用画像処理装置
WO2016035252A1 (ja) 運転支援装置および運転支援方法
JP4296287B2 (ja) 車両認識装置
JP3823782B2 (ja) 先行車両認識装置
JP2020077293A (ja) 区画線検出装置及び区画線検出方法
JP4625418B2 (ja) 自影判定方法
JP6635621B2 (ja) 自動車用視覚システム及び視覚システムを制御する方法
JP2016001378A (ja) 車載カメラの校正装置
JP2008160635A (ja) カメラ状態検出方法
JP2001076128A (ja) 障害物検出装置及び方法
US20190354781A1 (en) Method and system for determining an object location by using map information

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110524

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110614

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110614

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140624

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees