JP5173552B2 - 車両周辺監視装置およびこれに適用される歪み補正値の設定修正方法 - Google Patents

車両周辺監視装置およびこれに適用される歪み補正値の設定修正方法 Download PDF

Info

Publication number
JP5173552B2
JP5173552B2 JP2008112550A JP2008112550A JP5173552B2 JP 5173552 B2 JP5173552 B2 JP 5173552B2 JP 2008112550 A JP2008112550 A JP 2008112550A JP 2008112550 A JP2008112550 A JP 2008112550A JP 5173552 B2 JP5173552 B2 JP 5173552B2
Authority
JP
Japan
Prior art keywords
distortion correction
distortion
vehicle
image
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008112550A
Other languages
English (en)
Other versions
JP2009267603A (ja
Inventor
浩輔 今村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2008112550A priority Critical patent/JP5173552B2/ja
Publication of JP2009267603A publication Critical patent/JP2009267603A/ja
Application granted granted Critical
Publication of JP5173552B2 publication Critical patent/JP5173552B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、車両周辺監視装置およびこれに適用される歪み補正値の設定修正方法に係り、特に、車両周辺画像の生成に用いられる歪み補正値の設定を修正するのに好適な車両周辺監視装置およびこれに適用される歪み補正値の設定修正方法に関する。
近年、車載カメラ技術および画像処理技術の進展により、駐車場等における車両の安全かつ円滑な運転操作を支援するシステムとして、車両に搭載された複数台の車載カメラによる車両の周辺の撮影映像に基づいて、車両の周辺を車両の上方から見下ろしたような画像である車両周辺画像を生成し、生成された車両周辺画像を車内のディスプレイに表示する車両周辺監視装置が採用されるようになった。
図9は、このような車両周辺監視装置によってディスプレイに表示される車両周辺画像1の一例として、駐車場において表示される車両周辺画像1を示したものである。
図9に示すように、車両周辺画像1は、自車両の前方の所定の監視領域を自車両の上方の所定の視点から見下ろしたような画像である前方俯瞰画像1aを有しており、この前方俯瞰画像1aは、車載カメラとしての自車両の前部(例えば、エンブレム部)に取り付けられたフロントカメラの撮影映像に基づいて生成されるようになっている。
また、車両周辺画像1は、自車両の左側方の所定の監視領域を前記自車両の上方の視点から見下ろしたような画像である左側方俯瞰画像1bを有しており、この左側方俯瞰画像1bは、前方俯瞰画像1aの左端部に連接されている。この左側方俯瞰画像1bは、車載カメラとしての自車両の左側部(例えば、左ドアミラー部)に取り付けられた左サイドカメラの撮影映像に基づいて生成されるようになっている。
さらに、車両周辺画像1は、自車両の右側方の所定の監視領域を前記自車両の上方の視点から見下ろしたような画像である右側方俯瞰画像1cを有しており、この右側方俯瞰画像1cは、前方俯瞰画像1aの右端部に連接されている。この右側方俯瞰画像1cは、車載カメラとしての自車両の右側部(例えば、右ドアミラー部)に取り付けられた右サイドカメラの撮影映像に基づいて生成されるようになっている。
さらにまた、車両周辺画像1は、自車両の後方の所定の監視領域を前記自車両の上方の視点から見下ろしたような画像である後方俯瞰画像1dを有しており、この後方俯瞰画像1dは、左側方俯瞰画像1bの後端部および右側方俯瞰画像1cの後端部に連接されている。この後方俯瞰画像1dは、車載カメラとしての自車両の後部(例えば、ナンバープレートの取付部)に取り付けられたバックカメラの撮影映像に基づいて生成されるようになっている。
また、車両周辺画像1は、自車両を模したイラスト画像1eを有しており、このイラスト画像1eは、俯瞰画像1a,1b,1c,1dによって四方を囲まれるように表示されている。
このような車両周辺画像1を表示する車両周辺監視装置は、自車両の周囲360°の方向を監視可能とする観点から、車載カメラとして、魚眼レンズ等の広角レンズを備えた広角カメラを用いることが多かった。
このような車載カメラを用いて車両周辺画像1を生成する場合には、図10に示すように、CCD等の車載カメラの撮像面3(図10においては、バックカメラの撮像面)に結像された撮影映像4のうち、車両周辺画像1の生成に使用される所定の使用映像領域5(図10における破線部参照)内の映像のみを切り出し、切り出された映像を、この車載カメラに対応するいずれかの俯瞰画像1a,1b,1c,1dへと視点変換するようになっていた。各車載カメラの撮影映像に基づいて生成された俯瞰画像は、生成と同時に互いに合成されることによって車両周辺画像1を形成することになる。
ただし、使用映像領域5内の映像は、車載カメラのレンズの歪曲収差に起因して歪みを有したものになっているため、視点変換の際には、使用映像領域5内の映像に対する歪み補正処理を行うことによって歪みを解消させることが必要であった。
そして、この歪み補正処理には、歪み補正値として、車載カメラの内部パラメータが用いられていた。歪み補正処理を行うための内部パラメータとしては、例えば、図11に示すような画像主点(Cx,Cy)および歪み補正パラメータ(k,k,k,k,k)が用いられていた。
ここで、図11は、三次元ワールド座標系と、二次元座標系とされた車載カメラの撮像面3(デジタル画像平面)の座標系(以下、画像座標系と称する)との関係を示している。図11に示すように、三次元ワールド座標系における原点と、画像座標系における原点とは、ともにZ軸上に位置されており、このZ軸は、車載カメラのレンズとしての魚眼レンズ7の光軸に一致している。
そして、三次元空間における点Pは、魚眼レンズ7を通して、撮像面3上に点pとして射影されることになる。
このとき、像高r(θ)は、内部パラメータ、点Pからの光のZ軸への入射角(画角)θ〔°〕、および、魚眼レンズ7の焦点距離〔mm〕を用いて次式のように表されることになる。
r(θ)=2ftan(θ/2)
=kθ+kθ+kθ+kθ+kθ
車両周辺監視装置においては、このような内部パラメータが関与する像高特性によって撮影映像に所定の歪みが生じていることを把握した上で、内部パラメータを用いることによって、使用映像領域5内の映像の歪みが俯瞰画像1a,1b,1c,1dの状態において解消されるように、歪み補正処理を行うようになっていた。
特開2007−158695号公報 特開2004−200819号公報 特開2001−116515号公報
ところで、現状においては、車載カメラの内部パラメータは、カメラメーカによって、撮像面3における絞りの結像領域8(図10における黒塗り部分参照)を除く領域の全て(以下、全映像領域9(図10における一点鎖線部参照)と称する)について計測されるようになっている。
しかしながら、このように全映像領域9について内部パラメータを計測した場合には、内部パラメータの計測に要するコストが高くなってしまうといった問題が生じていた。
そこで、このような問題を解決するために、歪み補正処理を、内部パラメータの設計値を用いて行うことが考えられる。
しかるに、このような内部パラメータの設計値を用いる場合には、例えば、車載カメラ本体に対するレンズの組み付け誤差によってレンズの光軸が撮像面3に直角にならない等の車載カメラが設計通りに製造されていない場合や、車載カメラの製造後にレンズの組み付け位置が事後的に変化した場合に、特に広画角の映像領域において、内部パラメータの設計値に実際の値からの誤差が生じ易くなる。
また、今後、使用映像領域5を現状よりも広範囲に設定して監視領域を広げるような構成を採用する場合には、使用映像領域5内の映像の歪みを正確に補正することがより一層困難となり、歪みが多い粗悪な車両周辺画像が表示されてしまう可能性が十分にある。
したがって、従来は、歪みの少ない良好な車両周辺画像を低コストに表示することができないといった問題が生じていた。
そこで、本発明は、このような問題点に鑑みなされたものであり、歪みの少ない良好な車両周辺画像を低コストに表示することができる車両周辺監視装置およびこれに適用される歪み補正値の設定修正方法を提供することを目的とするものである。
前述した目的を達成するため、本発明の車両周辺監視装置は、車両に搭載された車載カメラによる前記車両の周辺の撮影映像に基づいて、前記車両の周辺を前記車両の上方から見下ろしたような画像である車両周辺画像を生成し、生成された前記車両周辺画像を表示部に表示する車両周辺監視装置であって、前記車載カメラは、所定の画角を有する広角カメラとされ、車両周辺監視装置本体は、前記車載カメラの撮影映像から、前記車両周辺画像の生成に使用される所定の使用映像領域内の映像を切り出す映像切り出し手段と、この映像切り出し手段によって切り出された前記映像に対して、設定された所定の歪み補正値を用いた歪み補正処理を行う歪み補正手段と、この歪み補正手段による前記歪み補正処理に用いられる前記歪み補正値を設定する設定手段と、前記歪み補正手段による前記歪み補正処理によって得られる映像を、この映像が示す領域を前記車両の上方の所定の視点から見たような画像へと視点変換することによって前記車両周辺画像を生成する視点変換手段と、所定の作業環境の下で、前記設定手段による前記歪み補正値の設定を修正可能とされた設定修正手段とを備えており、前記設定修正手段は、前記所定の作業環境としての既知の形状を有する所定の撮影対象物が前記車両の周辺に設置された作業環境の下で、前記車載カメラの撮影映像から、前記所定の撮影対象物が映し込まれた前記使用映像領域内の映像が切り出された後に、前記歪み補正手段を制御することにより、前記歪み補正手段に、歪み補正値の設定修正作業用の歪み補正処理として、前記設定手段によって現在設定されている第1の歪み補正値を用いた当該使用映像領域内の映像に対する歪み補正処理を行わせる歪み補正制御手段と、前記設定修正作業用の歪み補正処理によって得られる映像上、または、この映像に対する前記視点変換手段による前記視点変換によって得られた画像上における前記所定の撮影対象物の形状と、前記所定の撮影対象物の正規の形状とを比較することによって、前記設定修正作業用の歪み補正処理によって得られる映像、または、この映像に対する前記視点変換によって得られた画像から、当該歪み補正処理が正確に行われずに歪みが残存している当該映像内または当該画像内の領域である歪み領域を、この歪み領域における歪みの残存量とともに検出する歪み領域検出手段と、この歪み領域検出手段によって検出された前記歪み領域における前記歪みを補正することが可能な追加補正量を、前記歪みの残存量に基づいて求めた上で、求められた前記追加補正量を前記第1の歪み補正値に加算することによって、第2の歪み補正値を算出する歪み補正値算出手段と、前記設定手段を制御することにより、前記設定手段に、前記歪み補正値算出手段によって算出された前記第2の歪み補正値を、前記使用映像領域のうちの前記歪み領域に対応する特定の映像領域内の映像に対する前記歪み補正処理に用いられる前記歪み補正値として新たに設定させるとともに、前記使用映像領域のうちの前記特定の映像領域以外の映像領域については、前記第1の歪み補正値を引き続き前記歪み補正処理に用いられる前記歪み補正値として設定させ続ける設定制御手段とを備えていることによって、前記特定の映像領域に対応した前記歪み補正値の設定のみを修正するように形成されていることを特徴としている。
そして、このような構成によれば、設定修正手段により、設定修正作業用の歪み補正処理によって得られる映像、または、この映像に対する視点変換によって得られた画像から歪み領域を検出した上で、使用映像領域における歪み領域に対応する特定の映像領域以外の映像領域については、第1の歪み補正値に誤差が生じていないとみなして(扱って)、第2の歪み補正値を算出して歪み補正値の設定の修正を行う映像領域を、特定の映像領域に限定することができるので、使用映像領域における特定の映像領域については、第1の歪み補正値の誤差を確実に補正することができ、使用映像領域における特定の映像領域以外の映像領域については、第2の歪み補正値の算出を要することなく第1の歪み補正値を有効に活用することができる。この結果、歪みの少ない良好な車両周辺画像を低コストに表示することができる。
また、前記第1の歪み補正値は、歪み補正値の設計値とされていることが好ましい。
そして、このような構成によれば、歪み補正値の設計値を有効に活用することができ、コストをさらに削減することができる。
さらに、前記歪み領域検出手段は、前記設定修正作業用の歪み補正処理によって得られる映像、または、この映像に対する前記視点変換によって得られた画像から、前記所定の撮影対象物の特徴点を抽出し、抽出された前記特徴点に基づいて、当該映像上または当該画像上の前記所定の撮影対象物の形状と、前記所定の撮影対象物の正規の形状との比較を行うように形成されていることが好ましい。
そして、このような構成によれば、歪み領域検出手段により、設定修正作業用の歪み補正処理によって得られる映像上、または、この映像に対する視点変換によって得られた画像上の所定の撮影対象物の形状と、所定の撮影対象物の正規の形状とを、特徴点に基づいて比較することができるので、歪み補正値の設定の修正を簡便かつ迅速に行うことができ、作業性を向上させることができる。
さらにまた、前記所定の撮影対象物は、前記車両が載置されている平坦な作業面上における前記車両の周辺に、そのパターン面が前記作業面に平行になるように設置された格子パターンとされ、前記特徴点は、前記格子パターンにおける格子点とされていることが好ましい。
そして、このような構成によれば、所定の撮影対象物として規則的な形状の格子パターンを用いることによって、歪み領域を簡便かつ確実に検出することができるので、歪み補正値の設定の修正を正確に行うことができ、ひいては、良好な車両周辺画像を得ることができる。
また、前記第1の歪み補正値ならびに第2の歪み補正値が、前記車載カメラの内部パラメータとされていることが好ましい。
そして、このような構成によれば、歪み補正値として車載カメラの内部パラメータを用いることにより、適切な歪み補正処理を行うことができる。
本発明に係る歪み補正値の設定修正方法は、車両に搭載された車載カメラによる前記車両の周辺の撮影映像から、所定の使用映像領域内の映像を切り出し、切り出された前記映像に対して、設定された所定の歪み補正値を用いた歪み補正処理を行い、この歪み補正処理によって得られる映像を、この映像が示す領域を前記車両の上方の所定の視点から見たような画像へと視点変換することによって、前記車両の周辺を前記車両の上方から見下ろしたような画像である車両周辺画像を生成し、生成された前記車両周辺画像を表示部に表示する車両周辺監視装置において、所定の作業環境の下で、前記歪み補正処理に用いられる前記歪み補正値の設定を修正する歪み補正値の設定修正方法であって、前記所定の作業環境として、既知の形状を有する所定の撮影対象物が前記車両の周辺に設置された作業環境を設定し、この設定された作業環境の下で、前記車載カメラの撮影映像から、前記所定の撮影対象物が映し込まれた前記使用映像領域内の映像を切り出し、この切り出された映像に対して、歪み補正値の設定修正作業用の歪み補正処理として、現在設定されている第1の歪み補正値を用いた歪み補正処理を行い、この設定修正作業用の歪み補正処理によって得られる映像上、または、この映像に対する前記視点変換によって得られた画像上における前記所定の撮影対象物の形状と、前記所定の撮影対象物の正規の形状とを比較することによって、前記設定修正作業用の歪み補正処理によって得られる映像、または、この映像に対する前記視点変換によって得られた画像から、当該歪み補正処理が正確に行われずに歪みが残存している当該映像内または当該画像内の領域である歪み領域を、この歪み領域における歪みの残存量とともに検出し、この検出された前記歪み領域における前記歪みを補正することが可能な追加補正量を、前記歪みの残存量に基づいて求めた上で、求められた前記追加補正量を前記第1の歪み補正値に加算することによって、第2の歪み補正値を算出し、この算出された第2の歪み補正値を、前記使用映像領域のうちの前記歪み領域に対応する特定の映像領域内の映像に対する前記歪み補正処理に用いられる前記歪み補正値として新たに設定するとともに、前記使用映像領域のうちの前記特定の映像領域以外の映像領域については、前記第1の歪み補正値を引き続き前記歪み補正処理に用いられる前記歪み補正値として設定し続けることによって、前記特定の映像領域に対応した前記歪み補正値の設定のみを修正することを特徴としている。
そして、このような方法によれば、設定修正作業用の歪み補正処理によって得られる映像、または、この映像に対する視点変換によって得られた画像から歪み領域を検出した上で、使用映像領域における歪み領域に対応する特定の映像領域以外の映像領域については、第1の歪み補正値に誤差が生じていないとみなして、第2の歪み補正値を算出して歪み補正値の設定の修正を行う映像領域を、特定の映像領域に限定することができるので、使用映像領域における特定の映像領域については、第1の歪み補正値の誤差を確実に補正することができ、使用映像領域における特定の映像領域以外の映像領域については、第2の歪み補正値の算出を要することなく第1の歪み補正値を有効に活用することができる。この結果、歪みの少ない良好な車両周辺画像を低コストに表示することができる。
また、前記第1の歪み補正値として、歪み補正値の設計値を用いることが好ましい。
そして、このような方法によれば、歪み補正値の設計値を有効に活用することができ、コストをさらに削減することができる。
さらに、前記設定修正作業用の歪み補正処理によって得られる映像、または、この映像に対する前記視点変換によって得られた画像から、前記所定の撮影対象物の特徴点を抽出し、抽出された前記特徴点に基づいて、当該映像上または当該画像上の前記所定の撮影対象物の形状と、前記所定の撮影対象物の正規の形状との比較を行うことが好ましい。
そして、このような方法によれば、設定修正作業用の歪み補正処理によって得られる映像上、または、この映像に対する前記視点変換によって得られた画像上の所定の撮影対象物の形状と、所定の撮影対象物の正規の形状とを、特徴点に基づいて比較することができるので、歪み補正値の設定の修正を簡便かつ迅速に行うことができ、作業性を向上させることができる。
さらにまた、前記所定の撮影対象物として、前記車両が載置されている平坦な作業面上における前記車両の周辺に、そのパターン面が前記作業面に平行になるように設置された格子パターンを用いるとともに、前記特徴点として、前記格子パターンにおける格子点を用いることが好ましい。
そして、このような方法によれば、所定の撮影対象物として規則的な形状の格子パターンを用いることによって、歪み領域を簡便かつ確実に検出することができるので、歪み補正値の設定の修正を正確に行うことができ、ひいては、良好な車両周辺画像を得ることができる。
また、前記第1の歪み補正値ならびに第2の歪み補正値が、前記車載カメラの内部パラメータとして設定されていることが好ましい。
そして、このような方法によれば、歪み補正値として車載カメラの内部パラメータを用いることにより、適切な歪み補正処理を行うことができる。
本発明によれば、歪みの少ない良好な車両周辺画像を低コストに表示することができる。
以下、本発明に係る車両周辺監視装置の実施形態について、図1乃至図8および図12を参照して説明する。
なお、従来と基本的構成が同一もしくはこれに類する箇所については、同一の符号を用いて説明する。
図1に示すように、本実施形態における車両周辺監視装置(車両周辺監視装置本体)12は、自車両に搭載された4台の車載カメラ14,15,16,17を有しており、これらの車載カメラ14,15,16,17は、いずれも、魚眼レンズ等の広角レンズを備えた広角カメラとされているとともに、CCDやCMOS等の固体撮像素子(撮像面3)を備えたデジタルカメラとされている。
これらの車載カメラ14,15,16,17のうちの1台は、自車両の前部に取付けられたフロントカメラ14とされており、このフロントカメラ14は、自車両の周辺における自車両の前方を中心とした所定の撮影領域を撮影するようになっている。他の3台の車載カメラ15,16,17のうちの1台は、自車両の左側部に取り付けられた左サイドカメラ15とされており、この左サイドカメラ15は、自車両の周辺における自車両の左側方を中心とした所定の撮影領域を撮影するようになっている。他の2台の車載カメラ16,17のうちの1台は、自車両の右側部に取り付けられた右サイドカメラ16とされており、この右サイドカメラ16は、自車両の周辺における自車両の右側方を中心とした所定の撮影領域を撮影するようになっている。残りの1台の車載カメラ17は、自車両の後部に取り付けられたバックカメラ17とされており、このバックカメラ17は、自車両の周辺における自車両の後方を中心とした所定の撮影領域を撮影するようになっている。
各車載カメラ14,15,16,17には、カメラ映像取得部18が接続されており、このカメラ映像取得部18は、各車載カメラ14,15,16,17から撮影映像を取得可能とされている。
カメラ映像取得部18には、映像切り出し手段としての映像切り出し部20が接続されており、この映像切り出し部20には、カメラ映像取得部18から、各車載カメラ14,15,16,17の撮影映像が入力されるようになっている。そして、映像切り出し部20は、入力された各車載カメラ14,15,16,17の撮影映像のそれぞれから、車両周辺画像1(図9参照)の生成に使用される使用映像領域5内の映像を切り出すようになっている。なお、フロントカメラ14の撮影映像における使用映像領域5内の映像は、車両周辺画像1における前方俯瞰画像1aの生成に使用されることになる。また、左サイドカメラ15の撮影映像における使用映像領域5内の映像は、車両周辺画像1における左側方俯瞰画像1bの生成に使用されることになる。さらに、右サイドカメラ16の撮影映像における使用映像領域5内の映像は、車両周辺画像1における右側方俯瞰画像1cの生成に使用されることになる。さらにまた、バックカメラ17の撮影映像における使用映像領域5内の映像は、車両周辺画像1における後方俯瞰画像1dの生成に使用されることになる。
映像切り出し部20には、歪み補正手段としての歪み補正部22が接続されており、この歪み補正部22には、映像切り出し部20によって切り出された各車載カメラ14,15,16,17にそれぞれ対応する使用映像領域5内の映像が入力されるようになっている。そして、歪み補正部22は、映像切り出し部20から入力された各使用映像領域5内の映像に対して、この歪み補正部22に設定されている歪み補正値としての各車載カメラ14,15,16,17の内部パラメータをそれぞれ用いた歪み補正処理を行うようになっている。すなわち、任意の1台の車載カメラ14,15,16,17に対応する使用映像領域5内の映像(切り出された映像)に対しては、歪み補正部22に設定された当該1台の車載カメラ14,15,16,17の内部パラメータを用いた歪み補正処理が行われるようになっている。この歪み補正処理は、歪み補正処理前の使用映像領域5内の映像における任意の画素と、この画素に歪み補正処理後において対応する画素との座標(XY座標)の対応関係が記述された所謂マッピングテーブルを用いることによって行うようにしてもよい。この場合、マッピングテーブルにおける前記座標の対応関係は、歪み補正部22に設定されている内部パラメータを用いて規定されているものとなる。
歪み補正部22には、設定手段としての内部パラメータ設定部23が接続されており、この内部パラメータ設定部23は、歪み補正部22に対して、歪み補正処理に用いられる内部パラメータを設定するようになっている。
内部パラメータ設定部23および各車載カメラ14,15,16,17には、設計値記憶部24が接続されており、この設計値記憶部24には、各車載カメラ14,15,16,17から取得された各車載カメラ14,15,16,17の内部パラメータの設計値が記憶されている。
内部パラメータ設定部23は、車両周辺監視装置12の製造当初には、設計値記憶部24に記憶された内部パラメータの設計値を、歪み補正部22に設定するようになっている。
なお、内部パラメータ設定部23によって歪み補正部22に設定される内部パラメータは、後述する内部パラメータの設定の修正によって変更可能とされている。
歪み補正部22には、視点変換手段としての視点変換部26が接続されており、この視点変換部26には、歪み補正部22による歪み補正処理によって得られた映像が入力されるようになっている。そして、視点変換部26は、歪み補正部22から入力された映像を、この映像が示す領域を自車両の上方の所定の視点から視たような画像へと視点変換するようになっている。これにより、フロントカメラ14に対応する歪み補正処理後の映像は、前方俯瞰画像1aへと視点変換されるようになっている。また、左サイドカメラ15に対応する歪み補正処理後の映像は、左側方俯瞰画像1bへと視点変換されるようになっている。さらに、右サイドカメラ16に対応する映像は、右側方俯瞰画像1cへと視点変換されるようになっている。さらにまた、バックカメラ17に対応する映像は、後方俯瞰画像1dへと視点変換されるようになっている。このように、視点変換部26による視点変換によって得られた各車載カメラ14,15,16,17に対応する画像1a,1b,1c,1dは、視点変換にともなって互いに合成されるとともに、視点変換部26によって独自に生成されたイラスト画像1eにも合成されることによって、車両周辺画像1を形成するようになっている。
この視点変換は、視点変換前の映像における任意の画素と、この画素に視点変換後において対応する画素との座標(XY座標)の対応関係が記述された所謂マッピングテーブルを用いることによって行うようにしてもよい。
視点変換部26には、表示部としてのディスプレイ27が接続されており、このディスプレイ27には、視点変換部26による視点変換によって生成された車両周辺画像1が表示されるようになっている。
そして、本実施形態における車両周辺監視装置12には、所定の作業環境の下で、内部パラメータ設定部23による内部パラメータの設定を修正可能とされた設定修正手段としての内部パラメータ設定修正部30を備えている。
この内部パラメータ設定修正部30について詳述すると、図1に示すように、内部パラメータ設定修正部30は、歪み補正制御手段としての歪み補正制御部31を有しており、この歪み補正制御部31には、映像切り出し部20および歪み補正部22がそれぞれ接続されている。
歪み補正制御部31は、内部パラメータの設定の修正作業を行うための所定の作業環境として、図2に示すように、既知の形状を有する所定の撮影対象物としての格子パターン32が自車両の周辺に設置された作業環境の下で、4台の車載カメラ14,15,16,17の撮影映像から、格子パターン32が映し込まれた使用映像領域5内の映像がそれぞれ切り出されたことを、映像切り出し部20の処理結果から検知するようになっている。
なお、図3は、使用映像領域5内に格子パターン32が映し込まれた状態を示している。なお、上記格子パターン32に替えて市松模様を用いても良い。
また、本実施形態における格子パターン32は、自車両33が載置されている平坦な作業面34上における自車両の周辺に、そのパターン面が作業面34に平行になるように設置されている。より具体的には、図2における格子パターン32は、作業面34上に、図2における縦方向に長尺な複数本の縦ラインパターン35が、横方向に等間隔を設けて形成され、かつ、図2における横方向に長尺な複数本の横ラインパターン36が、縦ラインパターン35と交差するようにして縦方向に等間隔を設けて形成されていることによって、個々の格子が正方形に形成されている。各ラインパターン35,36は、作業面34上に塗装や貼り付けによって形成されたものであってもよい。
そして、歪み補正制御部31は、このような格子パターン32が映し込まれた使用映像領域5内の撮影映像(以下、格子パターン映像と称する)が切り出された後には、歪み補正部22を制御することにより、歪み補正部22に、内部パラメータの設定修正作業用の歪み補正処理を行わせるようになっている。
この設定修正作業用の歪み補正処理は、内部パラメータ設定部23によって現在設定されている各車載カメラ14,15,16,17ごとの内部パラメータ(すなわち、第1の歪み補正値)をそれぞれ用いた各車載カメラ14,15,16,17にそれぞれ対応する各格子パターン映像ごとに行われる歪み補正処理となっている。
ここで、前述のように、車両周辺監視装置12の製造当初においては、内部パラメータ設定部23によって歪み補正部22に内部パラメータの設計値が設定されている。
したがって、車両周辺監視装置12の製造後に初めて行われる設定修正作業用の歪み補正処理は、各車載カメラ14,15,16,17の内部パラメータの設計値を用いて行われることになる。
なお、図4は、格子パターン映像に対する設定修正作業用の歪み補正処理を模式的に示したものである。ただし、図4における歪み補正処理後の格子パターン映像は、内部パラメータ設定部23によって現在設定されている内部パラメータ(例えば、設計値)に誤差があるため、歪み補正処理によっても歪みが補正し切れていない映像となっている。
本実施形態において、このような設定修正作業用の歪み補正処理によって得られた映像は、視点変換部26によって視点変換されることによって、図5に示すような格子パターン画像39が含まれた車両周辺画像1を形成するようになっている。
なお、図5における車両周辺画像1は、図4と同様に、内部パラメータ設定部23によって現在設定されている内部パラメータに誤差があるため、歪みが除去し切れていない画像となっている。このことは、格子パターン画像39が正規の正方形を呈していないことからも分かる。
上記構成に加えて、さらに、本実施形態において、内部パラメータ設定修正部30は、歪み領域検出手段としての歪み領域検出部38を有しており、この歪み領域検出部38には、視点変換部26が接続されている。
この歪み領域検出部38には、設定修正作業用の歪み補正処理によって得られた映像に対する視点変換部26による視点変換によって得られた画像、すなわち、格子パターン画像39が含まれた車両周辺画像1(俯瞰画像1a,1b,1c,1dであってもよい)が入力されるようになっている。
また、歪み領域検出部38には、格子パターン32の正規の形状を示す格子パターンデータ40が格納されている。
歪み領域検出部38は、視点変換部26から、格子パターン画像39が含まれた車両周辺画像1が入力されると、この車両周辺画像1上における格子パターン32(すなわち、格子パターン画像35)の形状と、格子パターンデータ40が示す格子パターン32の正規の形状との比較を行うようになっている。そして、歪み領域検出部38は、当該比較を行うことによって、格子パターン画像39が含まれた車両周辺画像1から、歪み補正処理が正確に行われずに歪みが残存している当該車両周辺画像1内の領域である歪み領域を、この歪み領域における歪みの残存量とともに検出するようになっている。残存量の単位としては、例えば、ピクセルを用いればよい。
このとき、歪み領域検出部38は、格子パターン画像39が含まれた車両周辺画像1から、図6に示すように、格子パターンの特徴点としての格子パターン画像35の格子点41(縦ラインパターン35と横ラインパターン36との交点に相当する点)を画像認識によって抽出し、抽出された格子点41の配列状態に基づいて、格子パターン画像35の形状と格子パターン32の正規の形状とを比較するようにしてもよい。この場合、格子パターンデータ40は、格子パターン32の格子点の正規の配列状態を示したものであってもよい。
なお、図6においては、破線の枠で囲まれた車両周辺画像1(俯瞰画像1a,1b,1c,1d)上の領域が、歪み領域45となっている。
上記構成に加えて、さらに、本実施形態において、内部パラメータ設定修正部30は、歪み補正値算出手段としての内部パラメータ算出部42を有しており、この内部パラメータ算出部42には、歪み領域検出部38が接続されている。
内部パラメータ算出部42には、歪み領域検出部38の検出結果が入力されるようになっている。そして、内部パラメータ算出部42は、入力された検出結果に基づいて、追加補正量として、歪み領域検出部38によって検出された歪み領域45における歪みを補正すること(歪み補正処理の不足量を補うこと)が可能な内部パラメータの補正成分(例えば、前記画像主点や前記歪み補正パラメータを現在設定されている値から変更すべき量)を求めるようになっている。この内部パラメータの補正成分を求めるに際しては、歪み領域検出部38によって検出された歪みの残存量が用いられるようになっている。そして、内部パラメータ算出部42は、このように、内部パラメータの補正成分を求めた上で、求められた内部パラメータの補正成分を、内部パラメータ設定部23によって現在設定されている内部パラメータに加算することによって、第2の歪み補正値としての内部パラメータの実測値を算出するようになっている。
この内部パラメータの実測値の算出は、歪み領域が検出された特徴点で構成される1ラインの各特徴点座標のあるべき座標との差異を算出することによって達成することができる。
ここで、特徴点は、対象パターンが格子状であることから、歪み補正された画像上において格子状にならなければならないが、図6で表されるように、第1の歪み補正値によって歪み補正された画像においては、ある領域では格子状の形状が維持されていない。
当該領域における特徴点の補正の方法として、特徴点の一つの並びに着目し、その並びが直線となるように各特徴点を移動させるための量(この量が追加補正量となる)を求める。
すなわち、まず、図6で抽出された特徴点から一並びの特徴点の座標(第1の歪み補正値で補正された座標)を抽出する。一並びの特徴点における原点座標は、各カメラの車両への取り付け位置において、車両から垂直方向に延びた所定の軸上にある特徴点とする。そして、この垂直方向に延びた軸上の特徴点に対して水平方向に存在する特徴点を一並びの特徴点として抽出し追加補正量を求める。
上記に基づき、前方俯瞰画像1aで抽出された特徴点から一並びの特徴点100を抽出したものを図12に示す。
ここで、カメラで撮影された画像の上方向をY軸方向、右方向をX軸方向とする。図6の一点鎖線枠内にある一並びの特徴点100は、Y軸原点から4つ目の特徴点がX軸方向に並んだものである。
図12(a)は、図6における一並びの特徴点100を抽出したものでY軸方向の誤差を示したグラフである。ここで、図12(a)において破線で示される複数の円は、特徴点の既知の位置(すなわち、本来あるべき位置)を示しており、一並びの特徴点100における各特徴点から、これらに対応する破線で示される各円にそれぞれ向かう矢印が、各特徴点に対する追加補正量となる。
そして、図12(b)は、12(a)において矢印で示された追加補正量に基づき、各特徴点を既知の位置に補正した補正後の一並びの特徴点101の状態を示す図である。
以上の手法を各カメラ14,15,16,17の各画像(撮影映像)に対する第1の歪み補正値を用いて補正された画像において更なる歪みが検出された特徴点に対して適用することによって、各カメラ画像において第1の歪み補正値(カメラの設計値)で補正しきれない領域についての第2の歪み補正値が求められる。
この内部パラメータの実測値は、使用映像領域5のうちの歪み領域45に設定修正作業用の歪み補正処理前において対応する特定の映像領域に関する新たな内部パラメータとなる。
上記構成に加えて、さらに、本実施形態において、内部パラメータ設定修正部30は、実測値記憶部46を有しており、この実測値記憶部46には、内部パラメータ設定部23および内部パラメータ算出部42がそれぞれ接続されている。実測値記憶部46には、内部パラメータ算出部42によって算出された内部パラメータの実測値が記憶されるようになっている。
上記構成に加えて、さらに、本実施形態において、内部パラメータ設定修正部30は、設定制御手段としての内部パラメータ設定制御部47を有しており、この内部パラメータ設定制御部47には、内部パラメータ設定部23および内部パラメータ算出部42が接続されている。
内部パラメータ設定制御部47は、内部パラメータ算出部42によって内部パラメータの実測値が算出されると、内部パラメータ設定部23を制御することにより、内部パラメータ設定部23に、実測値記憶部46に記憶された内部パラメータの実測値を取得させるようになっている。そして、内部パラメータ設定制御部47は、内部パラメータ設定部23に、実測値記憶部46から取得された内部パラメータの実測値を、使用映像領域5のうちの歪み領域45に対応する特定の映像領域内の映像に対する歪み補正処理に用いられる内部パラメータとして新たに設定させるようになっている。また、このとき、内部パラメータ設定制御部47は、使用映像領域5のうちの前記特定の映像領域以外の映像領域については、現在設定されている内部パラメータを引き続き歪み補正処理に用いられる内部パラメータとして設定させ続けるようになっている。
このように構成されていることによって、内部パラメータ設定修正部30は、前記特定の映像領域に対応した内部パラメータの設定のみを修正することが可能となっている。
そして、このような内部パラメータ設定修正部30によって内部パラメータの設定を修正した後に、作業面34上において車両周辺画像1を生成する場合には、図7に示すように、歪みのない良好な車両周辺画像1を生成してディスプレイ27に表示することができる。
したがって、本実施形態によれば、格子パターン画像39が含まれた車両周辺画像1から歪み領域45を検出した上で、使用映像領域における歪み領域45に対応する特定の映像領域以外の映像領域については、現在設定されている内部パラメータ(第1の歪み補正値)に誤差が生じていないとみなして、新たな内部パラメータ(第2の歪み補正値)を算出して内部パラメータの設定の修正を行う映像領域を、特定の映像領域に限定することができる。
これにより、現在設定されている内部パラメータ(設計値であってもよいし過去に実測された実測値であってもよい)のうちの誤差がない部分については、現在の値をそのまま活用することができるので、新たな内部パラメータの演算量を少なくすることができる。例えば、車両周辺監視装置12の製造後に最初に設定修正作業用の歪み補正処理を行う場合には、誤差がない設計値については、これに替わる新たな内部パラメータを実測する必要がないので特に効果的である。
次に、本発明に係る歪み補正値の設定修正方法の本実施形態について、図8を参照して説明する。
なお、本実施形態においては、歪み補正値の設定修正方法として、前述した車両周辺監視装置12に適用される内部パラメータの設定修正方法について説明する。
なお、初期状態において、歪み補正部22には、内部パラメータ設定部23により、各車載カメラ14,15,16,17の内部パラメータの設計値のみが設定されているものとする。このような場合の例としては、内部パラメータの設定修正作業が一度も行われていない場合や、設定修正作業が過去に行われたが、設計値に誤差が生じていない状態が継続されている場合が挙げられる。
そして、初期状態から、本実施形態においては、まず、ステップ1(ST1)に示すように、図2に示したような自車両の周辺に格子パターン32が設置された作業環境を設定してステップ2(ST2)に進む。
次いで、ステップ2(ST2)においては、ステップ1(ST1)において設置された作業環境の下で、4台の車載カメラ14,15,16,17によって自車両の周辺を撮影した上で、映像切り出し部20により、各車載カメラ14,15,16,17の撮影映像から、各車載カメラ14,15,16,17に対応する格子パターン映像をそれぞれ切り出す。
次いで、ステップ3(ST3)においては、歪み補正制御部31の制御の下で、歪み補正部22により、ステップ2(ST2)において切り出された各格子パターン映像に対して、各格子パターン映像にそれぞれ対応する各車載カメラ14,15,16,17の内部パラメータの設計値を用いた内部パラメータの設定修正作業用の歪み補正処理をそれぞれ行う(図4参照)。
次いで、ステップ4(ST4)においては、視点変換部26により、ステップ3(ST3)における設定修正作業用の歪み補正処理によってそれぞれ得られた各映像を、対応する各俯瞰画像1a,1b,1c,1dへと視点変換するとともに、各俯瞰画像1a,1b,1c,1dおよびイラスト画像1eを互いに合成することによって、格子パターン画像39が含まれた車両周辺画像1を生成する(図5参照)。
次いで、ステップ5(ST5)においては、歪み領域検出部38により、ステップ4(ST4)において生成された車両周辺画像1(俯瞰画像1a,1b,1c,1d)における格子パターン画像35の形状と格子パターン32の正規の形状とを比較することによって、歪み領域45および歪み領域45における歪みの残存量を検出する。
次いで、ステップ6(ST6)においては、内部パラメータ算出部42により、ステップ5(ST5)において歪み領域45が検出されたか否かを判定し、検出された場合にはステップ7(ST7)に進み、検出されなかった場合には、ステップ9(ST9)に進む。
ステップ7(ST7)においては、内部パラメータ算出部42によって、使用映像領域5のうちの、歪み領域45に設定修正作業用の歪み補正処理前において対応する特定の映像領域に関する内部パラメータの実測値(新たな内部パラメータ)を算出してステップ8(ST8)に進む。
一方、ステップ9(ST9)においては、内部パラメータの実測値の算出は行わずにステップ10(ST10)に進む。
次いで、ステップ8(ST8)においては、内部パラメータ設定制御部47の制御の下で、内部パラメータ設定部23により、ステップ7(ST7)において算出された内部パラメータの実測値を、使用映像領域5のうちの歪み領域45に対応する特定の映像領域内の映像に対する歪み補正処理に用いられる内部パラメータとして新たに設定して処理を終了する。このとき、使用映像領域5のうちの前記特定の映像領域以外の映像領域については、現在設定されている内部パラメータの設計値を引き続き歪み補正処理に用いられる内部パラメータとして設定させ続ける。
一方、ステップ10(ST10)においては、内部パラメータの設定修正は行わず、全使用映像領域5について、内部パラメータの設計値の設定を継続して処理を終了する。
以上述べたように、本実施形態によれば、使用映像領域5における特定の映像領域については、現在設定されている内部パラメータの誤差を確実に補正することができ、使用映像領域5における特定の映像領域以外の映像領域については、内部パラメータの算出を要することなく現在設定されている内部パラメータを有効に活用することができるので、歪みの少ない良好な車両周辺画像1を低コストに表示することができる。
なお、本発明は、前述した実施の形態に限定されるものではなく、必要に応じて種々の変更が可能である。
例えば、前述した実施形態においては、歪み領域45の検出の際に、車両周辺画像1(俯瞰画像1a,1b,1c,1d)上の格子パターンの形状と、格子パターンの正規の形状とを比較するようになっているが、本発明は、このような構成に限定されるものではなく、例えば、内部パラメータの設定修正作業用の歪み補正処理によって得られた映像上の格子パターンの形状と、格子パターンの正規の形状とを比較した上で、当該映像上における歪みが残存している領域を、歪み領域として検出するようにしてもよい。
また、格子パターンに限定される必要は無く、特徴点として既知の形状を捉えることのできるパターン、例えば市松模様などを利用することも可能である。市松模様の場合、市松模様の黒枡と白枡の各頂点部分(黒枡の頂点が白枡の頂点と一致する場合も含む)を特徴点とすることとなる。
また、前述した実施形態においては、使用映像領域5内の映像に対する歪み補正処理と視点変換とを別工程において行うようになっていたが、歪み補正処理と視点変換とを例えば1つのマッピングテーブルを用いて一工程で(同時に)行うようにしてもよい。この場合には、歪み補正処理によって得られる映像が、得られるのと同時に視点変換される(視点変換された画像の状態として得られる)と考えればよい。この場合には、視点変換によって得られた画像上の所定の撮影対象物の形状を、歪み領域の検出に用いるようにすればよい。
さらに、内部パラメータの設定修正作業が行われる作業環境の条件としては、前述した実施形態における作業環境の条件に加えて、自車両が停止していることや、内部パラメータの設定修正作業を行う旨の特別なユーザ操作(入力操作)がなされたこと等の他の条件を追加してもよい。
さらにまた、前述した実施形態においては、所定の撮影対象物として格子パターン32を採用していたが、本発明は、このような構成に限定されるものではなく、例えば、一般の路上に形成されている規制標示(例えば、最高速度を示す表示)を所定の撮影対象物としてもよい。ただし、この場合には、規制標示の正規の形状を予め認識してデータベースに保存しておくことが必要となる。
本発明に係る車両周辺監視装置の実施形態を示すブロック図 本発明に係る車両周辺監視装置の実施形態において、内部パラメータの設定修正作業を行うための作業環境の設定状態を示す図 本発明に係る車両周辺監視装置の実施形態において、内部パラメータの設定修正作業時における車載カメラの撮影映像を示す図 本発明に係る車両周辺監視装置の実施形態において、内部パラメータの設定修正作業用の歪み補正処理を示す図 本発明に係る車両周辺監視装置の実施形態において、内部パラメータの設定修正作業用の歪み補正処理および視点変換を経て生成された車両周辺監視画像を示す図 本発明に係る車両周辺監視装置の実施形態において、図5の車両周辺画像から抽出された格子点を模式的に示す図 本発明に係る車両周辺監視装置の実施形態において、内部パラメータの設定修正作業が行われた後の良好な車両周辺画像を示す図 本発明に係る歪み補正値の設定修正方法の実施形態を示すフローチャート 従来から採用されていた車両周辺画像の一例を示す図 車載カメラの撮影領域を示す図 車載カメラの内部パラメータを説明するための説明図 第2の歪み補正値算出方法を説明するための模式図
符号の説明
1 車両周辺画像
1a 前方俯瞰画像
1b 左側方俯瞰画像
1c 右側方俯瞰画像
1d 後方俯瞰画像
12 車両周辺監視装置
14 フロントカメラ
15 左サイドカメラ
16 右サイドカメラ
17 バックカメラ
20 映像切り出し部
22 歪み補正部
23 内部パラメータ設定部
26 視点変換部
27 ディスプレイ
30 内部パラメータ設定修正部
31 歪み補正制御部
38 歪み領域検出部
42 内部パラメータ算出部
47 内部パラメータ設定制御部

Claims (10)

  1. 車両に搭載された車載カメラによる前記車両の周辺の撮影映像に基づいて、前記車両の周辺を前記車両の上方から見下ろしたような画像である車両周辺画像を生成し、生成された前記車両周辺画像を表示部に表示する車両周辺監視装置であって、
    前記車載カメラは、所定の画角を有する広角カメラとされ、
    車両周辺監視装置本体は、
    前記車載カメラの撮影映像から、前記車両周辺画像の生成に使用される所定の使用映像領域内の映像を切り出す映像切り出し手段と、
    この映像切り出し手段によって切り出された前記映像に対して、設定された所定の歪み補正値を用いた歪み補正処理を行う歪み補正手段と、
    この歪み補正手段による前記歪み補正処理に用いられる前記歪み補正値を設定する設定手段と、
    前記歪み補正手段による前記歪み補正処理によって得られる映像を、この映像が示す領域を前記車両の上方の所定の視点から見たような画像へと視点変換することによって前記車両周辺画像を生成する視点変換手段と、
    所定の作業環境の下で、前記設定手段による前記歪み補正値の設定を修正可能とされた設定修正手段と
    を備えており、
    前記設定修正手段は、
    前記所定の作業環境としての既知の形状を有する所定の撮影対象物が前記車両の周辺に設置された作業環境の下で、前記車載カメラの撮影映像から、前記所定の撮影対象物が映し込まれた前記使用映像領域内の映像が切り出された後に、前記歪み補正手段を制御することにより、前記歪み補正手段に、歪み補正値の設定修正作業用の歪み補正処理として、前記設定手段によって現在設定されている第1の歪み補正値を用いた当該使用映像領域内の映像に対する歪み補正処理を行わせる歪み補正制御手段と、
    前記設定修正作業用の歪み補正処理によって得られる映像上、または、この映像に対する前記視点変換手段による前記視点変換によって得られた画像上における前記所定の撮影対象物の形状と、前記所定の撮影対象物の正規の形状とを比較することによって、前記設定修正作業用の歪み補正処理によって得られる映像、または、この映像に対する前記視点変換によって得られた画像から、当該歪み補正処理が正確に行われずに歪みが残存している当該映像内または当該画像内の領域である歪み領域を、この歪み領域における歪みの残存量とともに検出する歪み領域検出手段と、
    この歪み領域検出手段によって検出された前記歪み領域における前記歪みを補正することが可能な追加補正量を、前記歪みの残存量に基づいて求めた上で、求められた前記追加補正量を前記第1の歪み補正値に加算することによって、第2の歪み補正値を算出する歪み補正値算出手段と、
    前記設定手段を制御することにより、前記設定手段に、前記歪み補正値算出手段によって算出された前記第2の歪み補正値を、前記使用映像領域のうちの前記歪み領域に対応する特定の映像領域内の映像に対する前記歪み補正処理に用いられる前記歪み補正値として新たに設定させるとともに、前記使用映像領域のうちの前記特定の映像領域以外の映像領域については、前記第1の歪み補正値を引き続き前記歪み補正処理に用いられる前記歪み補正値として設定させ続ける設定制御手段と
    を備えていることによって、前記特定の映像領域に対応した前記歪み補正値の設定のみを修正するように形成されていること
    を特徴とする車両周辺監視装置。
  2. 前記第1の歪み補正値は、歪み補正値の設計値とされていること
    を特徴とする請求項1に記載の車両周辺監視装置。
  3. 前記歪み領域検出手段は、前記設定修正作業用の歪み補正処理によって得られる映像、または、この映像に対する前記視点変換によって得られた画像から、前記所定の撮影対象物の特徴点を抽出し、抽出された前記特徴点に基づいて、当該映像上または当該画像上の前記所定の撮影対象物の形状と、前記所定の撮影対象物の正規の形状との比較を行うように形成されていること
    を特徴とする請求項1または請求項2に記載の車両周辺監視装置。
  4. 前記所定の撮影対象物は、前記車両が載置されている平坦な作業面上における前記車両の周辺に、そのパターン面が前記作業面に平行になるように設置された格子パターンとされ、前記特徴点は、前記格子パターンにおける格子点とされていること
    を特徴とする請求項3に記載の車両周辺監視装置。
  5. 前記第1の歪み補正値ならびに第2の歪み補正値が、前記車載カメラの内部パラメータとされていること
    を特徴とする請求項1乃至請求項4のいずれか1項に記載の車両周辺監視装置。
  6. 車両に搭載された車載カメラによる前記車両の周辺の撮影映像から、所定の使用映像領域内の映像を切り出し、切り出された前記映像に対して、設定された所定の歪み補正値を用いた歪み補正処理を行い、この歪み補正処理によって得られる映像を、この映像が示す領域を前記車両の上方の所定の視点から見たような画像へと視点変換することによって、前記車両の周辺を前記車両の上方から見下ろしたような画像である車両周辺画像を生成し、生成された前記車両周辺画像を表示部に表示する車両周辺監視装置において、所定の作業環境の下で、前記歪み補正処理に用いられる前記歪み補正値の設定を修正する歪み補正値の設定修正方法であって、
    前記所定の作業環境として、既知の形状を有する所定の撮影対象物が前記車両の周辺に設置された作業環境を設定し、
    この設定された作業環境の下で、前記車載カメラの撮影映像から、前記所定の撮影対象物が映し込まれた前記使用映像領域内の映像を切り出し、
    この切り出された映像に対して、歪み補正値の設定修正作業用の歪み補正処理として、現在設定されている第1の歪み補正値を用いた歪み補正処理を行い、
    この設定修正作業用の歪み補正処理によって得られる映像上、または、この映像に対する前記視点変換によって得られた画像上における前記所定の撮影対象物の形状と、前記所定の撮影対象物の正規の形状とを比較することによって、前記設定修正作業用の歪み補正処理によって得られる映像、または、この映像に対する前記視点変換によって得られた画像から、当該歪み補正処理が正確に行われずに歪みが残存している当該映像内または当該画像内の領域である歪み領域を、この歪み領域における歪みの残存量とともに検出し、
    この検出された前記歪み領域における前記歪みを補正することが可能な追加補正量を、前記歪みの残存量に基づいて求めた上で、求められた前記追加補正量を前記第1の歪み補正値に加算することによって、第2の歪み補正値を算出し、
    この算出された第2の歪み補正値を、前記使用映像領域のうちの前記歪み領域に対応する特定の映像領域内の映像に対する前記歪み補正処理に用いられる前記歪み補正値として新たに設定するとともに、前記使用映像領域のうちの前記特定の映像領域以外の映像領域については、前記第1の歪み補正値を引き続き前記歪み補正処理に用いられる前記歪み補正値として設定し続けることによって、前記特定の映像領域に対応した前記歪み補正値の設定のみを修正すること
    を特徴とする歪み補正値の設定修正方法。
  7. 前記第1の歪み補正値として、歪み補正値の設計値を用いること
    を特徴とする請求項6に記載の歪み補正値の設定修正方法。
  8. 前記設定修正作業用の歪み補正処理によって得られる映像、または、この映像に対する前記視点変換によって得られた画像から、前記所定の撮影対象物の特徴点を抽出し、抽出された前記特徴点に基づいて、当該映像上または当該画像上の前記所定の撮影対象物の形状と、前記所定の撮影対象物の正規の形状との比較を行うこと
    を特徴とする請求項6または請求項7に記載の歪み補正値の設定修正方法。
  9. 前記所定の撮影対象物として、前記車両が載置されている平坦な作業面上における前記車両の周辺に、そのパターン面が前記作業面に平行になるように設置された格子パターンを用いるとともに、前記特徴点として、前記格子パターンにおける格子点を用いること
    を特徴とする請求項8に記載の歪み補正値の設定修正方法。
  10. 前記第1の歪み補正値ならびに第2の歪み補正値が、前記車載カメラの内部パラメータとして設定されていること
    を特徴とする請求項6乃至請求項9のいずれか1項に記載の歪み補正値の設定修正方法。
JP2008112550A 2008-04-23 2008-04-23 車両周辺監視装置およびこれに適用される歪み補正値の設定修正方法 Expired - Fee Related JP5173552B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008112550A JP5173552B2 (ja) 2008-04-23 2008-04-23 車両周辺監視装置およびこれに適用される歪み補正値の設定修正方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008112550A JP5173552B2 (ja) 2008-04-23 2008-04-23 車両周辺監視装置およびこれに適用される歪み補正値の設定修正方法

Publications (2)

Publication Number Publication Date
JP2009267603A JP2009267603A (ja) 2009-11-12
JP5173552B2 true JP5173552B2 (ja) 2013-04-03

Family

ID=41392928

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008112550A Expired - Fee Related JP5173552B2 (ja) 2008-04-23 2008-04-23 車両周辺監視装置およびこれに適用される歪み補正値の設定修正方法

Country Status (1)

Country Link
JP (1) JP5173552B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5679763B2 (ja) 2010-10-27 2015-03-04 ルネサスエレクトロニクス株式会社 半導体集積回路及び全周囲映像システム
JP2013136258A (ja) * 2011-12-28 2013-07-11 Fujitsu General Ltd 車載カメラ装置及び車載カメラシステム
JP5959311B2 (ja) * 2012-05-25 2016-08-02 富士通テン株式会社 データ導出装置、及び、データ導出方法
KR101394736B1 (ko) * 2012-09-13 2014-05-16 타이코에이엠피(유) 전방위 모니터링 주행장치 제어 시스템
KR101708620B1 (ko) * 2015-08-10 2017-02-23 (주)캠시스 Avm 시스템의 카메라 공차 보정 방법 및 장치
DE102017114611A1 (de) * 2017-06-30 2019-01-03 Connaught Electronics Ltd. Verfahren zum Erzeugen zumindest eines fusionierten perspektivischen Bildes eines Kraftfahrzeugs und eines Umgebungsbereiches des Kraftfahrzeugs, Kamerasystem sowie Kraftfahrzeug
DE102017123452A1 (de) * 2017-10-10 2019-04-11 Connaught Electronics Ltd. Verfahren zum Erzeugen eines ein Kraftfahrzeug und einen Umgebungsbereich des Kraftfahrzeugs in einer vorbestimmten Zielansicht zeigenden Ausgangsbildes, Kamerasystem sowie Kraftfahrzeug
WO2020108738A1 (en) 2018-11-27 2020-06-04 Renesas Electronics Corporation Instruction list generation

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4048511B2 (ja) * 1998-03-13 2008-02-20 富士通株式会社 魚眼レンズカメラ装置及びその画像歪み補正方法
JP3632563B2 (ja) * 1999-10-19 2005-03-23 株式会社豊田自動織機 映像位置関係補正装置、該映像位置関係補正装置を備えた操舵支援装置、及び映像位置関係補正方法
JP4680022B2 (ja) * 2005-10-04 2011-05-11 富士フイルム株式会社 撮影装置
JP4682830B2 (ja) * 2005-12-05 2011-05-11 日産自動車株式会社 車載画像処理装置

Also Published As

Publication number Publication date
JP2009267603A (ja) 2009-11-12

Similar Documents

Publication Publication Date Title
JP5173552B2 (ja) 車両周辺監視装置およびこれに適用される歪み補正値の設定修正方法
JP5523730B2 (ja) 車載周辺画像表示装置
JP4861034B2 (ja) 車載カメラのキャリブレーションシステム
US9105080B2 (en) Method and a system for calibrating an image capture device
KR101592740B1 (ko) 차량용 광각카메라의 영상 왜곡 보정 장치 및 방법
JP4690476B2 (ja) 車載カメラの校正装置
JP4681432B2 (ja) 車載周辺画像表示装置
JP4975592B2 (ja) 撮像装置
JP5456330B2 (ja) 画像表示装置及びそのカメラ取り付け角度算出方法
KR101077584B1 (ko) 복수개의 카메라로부터 획득한 영상을 정합하는 영상 처리 장치 및 방법
KR20170077223A (ko) 자동차 카메라 시스템의 온라인 교정
JP2009288152A (ja) 車載カメラのキャリブレーション方法
JP5173551B2 (ja) 車両周辺監視装置およびこれに適用されるカメラ取り付け位置・姿勢情報の設定修正方法
JP5959311B2 (ja) データ導出装置、及び、データ導出方法
JP2008205811A (ja) カメラ姿勢算出用ターゲット装置およびこれを用いたカメラ姿勢算出方法ならびに画像表示方法
JP2012068923A (ja) 画像処理装置
JP6151535B2 (ja) パラメータ取得装置、パラメータ取得方法及びプログラム
JP2012156672A (ja) 車両周辺監視装置
JP5175230B2 (ja) カメラの自動キャリブレーション装置及び自動キャリブレーション方法
US20160121806A1 (en) Method for adjusting output video of rear camera for vehicles
CN109345591A (zh) 一种车辆自身姿态检测方法和装置
JP2014174067A (ja) 車載カメラのキャリブレーション装置
JP5166111B2 (ja) 車両周辺監視装置
TWI424259B (zh) 相機擺置角度校正法
KR20110082873A (ko) 복수개의 영상을 합성한 합성 영상에서 거리 정보를 제공하는 기능을 구비하는 영상 처리 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110404

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120601

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121225

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121227

R150 Certificate of patent or registration of utility model

Ref document number: 5173552

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees