JP2008205811A - カメラ姿勢算出用ターゲット装置およびこれを用いたカメラ姿勢算出方法ならびに画像表示方法 - Google Patents

カメラ姿勢算出用ターゲット装置およびこれを用いたカメラ姿勢算出方法ならびに画像表示方法 Download PDF

Info

Publication number
JP2008205811A
JP2008205811A JP2007039469A JP2007039469A JP2008205811A JP 2008205811 A JP2008205811 A JP 2008205811A JP 2007039469 A JP2007039469 A JP 2007039469A JP 2007039469 A JP2007039469 A JP 2007039469A JP 2008205811 A JP2008205811 A JP 2008205811A
Authority
JP
Japan
Prior art keywords
camera
pattern
target device
posture calculation
camera posture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007039469A
Other languages
English (en)
Other versions
JP4857143B2 (ja
Inventor
Haruo Ito
治男 伊藤
Ketsu Yo
杰 姚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2007039469A priority Critical patent/JP4857143B2/ja
Publication of JP2008205811A publication Critical patent/JP2008205811A/ja
Application granted granted Critical
Publication of JP4857143B2 publication Critical patent/JP4857143B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】基準面に対するカメラの姿勢を高精度に算出でき、撮影対象面の撮影画像に基づいて良好な表示画像を得ることができる「カメラ姿勢算出用ターゲット装置およびこれを用いたカメラ姿勢算出方法ならびに画像表示方法」を提供する。
【解決手段】複数個のパターン14が形成されたパターン面12を有し、基準面上へのターゲット装置10本体の設置状態において基準面の上方に取り付けられたカメラ6によってパターン面12が撮影され、パターン面12の撮影画像15におけるパターン14’から特徴点が抽出されることによってカメラ6姿勢の算出に使用され、パターン面12の撮影画像15として、複数個のパターン14’が均一な大きさを有するような撮影画像15を得ることが可能に形成されていること。
【選択図】図1

Description

本発明は、カメラ姿勢算出用ターゲット装置およびこれを用いたカメラ姿勢算出方法ならびに画像表示方法に係り、特に、基準面に対するカメラの姿勢を算出するのに好適なカメラ姿勢算出用ターゲット装置およびこれを用いたカメラ姿勢算出方法ならびに画像表示方法に関する。
従来から、カメラの撮影画像を用いた画像表示方法として、車両に取り付けられた複数台のカメラによって車両の周辺の道路面や駐車場面等の撮影対象面を撮影し、撮影された画像に基づいて車両の周辺を監視するための車両周辺監視画像を生成してディスプレイに表示する方法が採用されていた。
車両周辺監視画像としては、例えば、トップビュー画像と称される車両およびその周辺を車両の上方から見下ろした俯瞰画像(以下、同様)や、車両の側方を監視するためのサイドビュー画像等が知られていた。
このような画像表示方法では、カメラによる撮影対象面の撮影画像を、この撮影画像と車両周辺監視画像との座標の対応関係が記述されたマッピングテーブルを用いて座標変換(視点変換)することによって、車両周辺監視画像を生成するようになっているのが一般的である。
このマッピングテーブルは、撮影対象面に対するカメラの姿勢(すなわち位置および方向)が適切(換言すれば設計通り)であれば正しく機能し、各カメラによる撮影対象面の撮影画像に基づいて、画像の歪みや欠け等の少ない良好な車両周辺監視画像を生成することが可能とされていた。
しかしながら、必ずしも、カメラを設計通りに高精度に車両に取り付けることができない場合があり、そのような場合には、撮影対象面に対するカメラの姿勢が適切な姿勢からずれることになり、良好な車両周辺監視画像の生成に支障をきたす虞があった。
そこで、従来から、車載機においては、撮影対象面の撮影画像に基づく車両周辺監視画像の表示を行う以前に、予め、撮影対象面と同一とみなすことができる車両の載置面に対するカメラの姿勢を算出するようになっていた。そして、算出された姿勢が適切な姿勢からずれている場合には、ずれに応じたマッピングテーブルの補正を行い、補正後のマッピングテーブルを用いた車両周辺監視画像の生成および表示を行うようになっていた。
このようなマッピングテーブルの補正のためのカメラの姿勢の算出方法の一例として、例えば、図21に示すように、複数個の円形のパターン1が縦横に所定の整列間隔を設けて整列されたパターン面2を有するカメラ姿勢算出用ターゲットボード3を用いた算出方法が知られていた。
すなわち、このようなカメラ姿勢算出用ターゲットボード3を用いたカメラの姿勢の算出を行う場合には、まず、図22に示すように、カメラ姿勢算出用ターゲットボード3を、車両5の載置面(例えば、自動車生産工場や自動車整備工場内の敷地面)上に、パターン面2を上に向けるようにして設置する。
次いで、車両5の載置面上に設置されたカメラ姿勢算出用ターゲットボード3におけるパターン面2を、車両5に取り付けられたカメラ6によって上方から撮影する。
次いで、パターン面2の撮影画像から、当該撮影画像におけるパターン(以下、パターンイメージと称する)の特徴点(例えば、円形のパターンイメージの中心点)を抽出する。
そして、抽出された特徴点と、既知のカメラ6の内部パラメータ(焦点距離、歪み特性、画像中心等)と、既知の特徴点の三次元ワールド座標系における座標点とを用いて、カメラ6の外部パラメータを算出する。
なお、カメラ6の外部パラメータとしては、三次元ワールド座標系におけるカメラ6の方向を規定する回転行列および三次元ワールド座標系におけるカメラ6の位置を規定する平行移動ベクトルが知られており、これらの外部パラメータが、車両の載置面に対するカメラ6の姿勢そのものを示している。
そして、このようにしてカメラ6の姿勢を算出した後には、算出されたカメラ6の姿勢に基づいて、マッピングテーブルを補正するようになっていた。
特開2001−285681号公報
ところで、前述したようなカメラ姿勢算出用ターゲットボード3は、カメラ姿勢算出用ターゲットボード3に対してカメラ6が真上に位置している場合、すなわち、カメラ6の光軸とパターン面2とのなす角度が90°の場合には、良好な車両周辺監視画像の生成に適したパターンイメージを撮影することができる。
しかしながら、図22に示すように、カメラ6の光軸OAとパターン面2とのなす角度α〔deg〕が90°以外の場合には、カメラ6によるパターン面2の撮影画像7は、図23のように、パターンイメージ1’の大きさが不均一なものとなっていた。
このような現象は、魚眼レンズ等の超広角レンズを備えたカメラ6を用いる場合に特に顕著なものとなっていた。
そして、このような撮像画像7からは、パターンイメージ1’の特徴点を正確に抽出することができない場合があった。
特に、パターン面2におけるカメラ6から遠い位置に配置されているパターン1は、カメラ6の光軸OAとパターン面2との交点付近に存在するパターン1に比べて小さなパターンイメージ1’として撮影(結像)されることになり、実物の形状に対する歪みも大きくなる。このような歪みが大きなパターンイメージ1’からは、特徴点を正確に抽出することが非常に困難であった。
そして、このことによって、従来は、カメラの姿勢を高精度に算出することが困難になるといった問題が生じていた。
そこで、本発明は、このような問題点に鑑みなされたものであり、基準面に対するカメラの姿勢を高精度に算出することができ、ひいては、撮影対象面の撮影画像に基づいて良好な表示画像を得ることができるカメラ姿勢算出用ターゲット装置およびこれを用いたカメラ姿勢算出方法ならびに画像表示方法を提供することを目的とするものである。
前述した目的を達成するため、本発明に係るカメラ姿勢算出用ターゲット装置は、基準面の上方の取り付け位置に取り付けられたカメラの前記基準面に対する姿勢の算出に使用されるカメラ姿勢算出用ターゲット装置であって、複数個のパターンが形成されたパターン面を有し、前記基準面上へのターゲット装置本体の設置状態において前記カメラによって前記パターン面が撮影され、前記パターン面の撮影画像におけるパターンから特徴点が抽出されることによって前記カメラの姿勢の算出に使用されるように形成され、前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が、均一、または、当該撮影画像におけるパターンからの特徴点の正確な抽出が可能な程度に均一に近似した状態である略均一となるような撮影画像を得ることが可能に形成されていることを特徴としている。
また、本発明に係る他のカメラ姿勢算出用ターゲット装置は、前記基準面上への前記ターゲット装置本体の設置状態において、前記パターン面が前記カメラの光軸に直交するように形成され、前記複数個のパターンが、前記基準面上への前記ターゲット装置本体の設置状態における前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が均一または前記略均一となるような撮影画像を得ることが可能な形状に形成されていることを特徴としている。
なお、本願において、パターン面がカメラの光軸に直交するという文言は、パターン面がカメラの光軸に厳密に直交する場合に限らず、ほぼ直交(以下、略直交と称する)する場合も含むものとする。
さらに、本発明に係る他のカメラ姿勢算出用ターゲット装置は、前記基準面上への前記ターゲット装置本体の設置状態において、前記パターン面が前記基準面に対して平行になるように形成され、前記複数個のパターンが、前記基準面上への前記ターゲット装置本体の設置状態における前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が均一または前記略均一となるような撮影画像を得ることが可能な形状に形成されていることを特徴としている。
さらにまた、本発明に係る他のカメラ姿勢算出用ターゲット装置は、前記パターン面が形成された板状体からなることを特徴としている。
また、本発明に係るカメラ姿勢算出用ターゲット装置は、前記複数個のパターンについての実際の大きさおよび所定の方向において隣位するパターン同士の間の実際の間隔の少なくとも一方が均一に形成され、前記パターン面が、前記基準面上への前記ターゲット装置本体の設置状態において、前記カメラの光軸に直交するように形成されていることを特徴としている。
さらに、本発明に係るカメラ姿勢算出用ターゲット装置は、前記パターンが、円形状、正多角形状、格子線状、または、互いに異なる二色の矩形状が互いに直交する二方向に沿って交互に繰り返し配列されてなる市松模様における一方の色の矩形状に形成されていることを特徴としている。
さらにまた、本発明に係る他のカメラ姿勢算出用ターゲット装置は、前記基準面上への前記ターゲット装置本体の設置状態において前記パターン面が前記カメラの光軸に直交するように前記パターン面を前記基準面に対して傾いた状態に保持する保持部材を有することを特徴としている。
また、本発明に係る他のカメラ姿勢算出用ターゲット装置は、前記カメラが、超広角レンズを備えたカメラとされていることを特徴としている。
さらに、本発明に係る他のカメラ姿勢算出用ターゲット装置は、前記カメラが車両における前記所定の取り付け位置に取り付けられており、前記基準面が前記車両の載置面とされていることを特徴としている。
さらにまた、本発明に係るカメラ姿勢算出方法は、基準面の上方の取り付け位置に取り付けられたカメラの前記基準面に対する姿勢を算出するカメラ姿勢算出方法であって、複数個のパターンが形成されたパターン面を有するカメラ姿勢算出用ターゲット装置であり、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態における前記カメラによる前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が、均一、または、当該撮影画像におけるパターンからの特徴点の正確な抽出が可能な程度に均一に近似した状態である略均一となるような撮影画像を得ることが可能に形成されたカメラ姿勢算出用ターゲット装置を前記基準面上に設置し、この設置された前記カメラ姿勢算出用ターゲット装置における前記パターン面を前記カメラによって撮影し、この撮影によって得られた前記パターン面の撮影画像におけるパターンから特徴点を抽出し、抽出された特徴点に基づいて、前記カメラの姿勢を算出することを特徴としている。
また、本発明に係る他のカメラ姿勢算出方法は、前記カメラ姿勢算出用ターゲット装置として、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態において、前記パターン面が前記カメラの光軸に直交するように形成され、前記複数個のパターンが、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態における前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が均一または前記略均一となるような撮影画像を得ることが可能な形状に形成されたカメラ姿勢算出用ターゲット装置を用いて、前記カメラの姿勢を算出することを特徴としている。
さらに、本発明に係る他のカメラ姿勢算出方法は、前記カメラ姿勢算出用ターゲット装置として、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態において、前記パターン面が前記基準面に対して平行になるように形成され、前記複数個のパターンが、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態における前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が均一または前記略均一となるような撮影画像を得ることが可能な形状に形成されたカメラ姿勢算出用ターゲット装置を用いて、前記カメラの姿勢を算出することを特徴としている。
さらにまた、本発明に係る他のカメラ姿勢算出方法は、前記カメラ姿勢算出用ターゲット装置として、前記パターン面が形成された板状体からなるカメラ姿勢算出用ターゲット装置を用いて、前記カメラの姿勢を算出することを特徴としている。
また、本発明に係る他のカメラ姿勢算出方法は、前記カメラ姿勢算出用ターゲット装置として、前記複数個のパターンについての実際の大きさおよび所定の方向において隣位するパターン同士の間の実際の間隔の少なくとも一方が均一に形成され、前記パターン面が、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態において前記カメラの光軸に直交するように形成されたカメラ姿勢算出用ターゲット装置を用いて、前記カメラの姿勢を算出することを特徴としている。
さらに、本発明に係る他のカメラ姿勢算出方法は、前記カメラ姿勢算出用ターゲット装置として、前記パターンが、円形状、正多角形状、格子線状、または、互いに異なる二色の矩形状が互いに直交する二方向に沿って交互に繰り返し配列されてなる市松模様における一方の色の矩形状に形成されたカメラ姿勢算出用ターゲット装置を用いて、前記カメラの姿勢を算出することを特徴としている。
さらにまた、本発明に係る他のカメラ姿勢算出方法は、前記カメラ姿勢算出用ターゲット装置として、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態において前記パターン面が前記カメラの光軸に直交するように前記パターン面を前記基準面に対して傾いた状態に保持する保持部材を有するカメラ姿勢算出用ターゲット装置を用いて、前記カメラの姿勢を算出することを特徴としている。
また、本発明に係る他のカメラ姿勢算出方法は、前記カメラとして、超広角レンズを備えたカメラを用いることを特徴としている。
さらに、本発明に係る他のカメラ姿勢算出方法は、車両における前記所定の取り付け位置に取り付けられたカメラの前記基準面としての前記車両の載置面に対する姿勢を、前記カメラ姿勢算出用ターゲット装置を用いて算出することを特徴としている。
さらにまた、本発明に係る画像表示方法は、車両における所定の取り付け位置に取り付けられたカメラによって撮影対象面を撮影し、前記撮影対象面の撮影画像に対して座標変換を行うことによって前記車両の周辺を監視するための車両周辺監視画像を生成し、生成された前記車両周辺監視画像を表示部に表示する画像表示方法であって、複数個のパターンが形成されたパターン面を有するカメラ姿勢算出用ターゲット装置であり、前記車両の載置面上への前記カメラ姿勢算出用ターゲット装置の設置状態における前記カメラによる前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が、均一、または、当該撮影画像におけるパターンからの特徴点の正確な抽出が可能な程度に均一に近似した状態である略均一となるような撮影画像を得ることが可能に形成されたカメラ姿勢算出用ターゲット装置を前記車両の載置面上に設置し、この設置された前記カメラ姿勢算出用ターゲット装置における前記パターン面を、前記カメラによって撮影し、この撮影によって得られた前記パターン面の撮影画像におけるパターンから特徴点を抽出し、抽出された特徴点に基づいて、前記カメラの姿勢を算出し、算出された前記カメラの姿勢と適切な姿勢との間にずれが生じている場合には、車両周辺監視画像の生成の際に、前記撮影対象面の撮影画像に対して当該ずれが解消されるような座標変換を行うことを特徴としている。
本発明に係るカメラ姿勢算出用ターゲット装置によれば、パターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることによってパターンイメージの特徴点を正確に抽出することができるので、基準面に対するカメラの姿勢を高精度に算出することができ、ひいては、撮影対象面の撮影画像に基づいて良好な表示画像を得ることができる。
また、本発明に係る他のカメラ姿勢算出用ターゲット装置によれば、パターンの形状を、カメラの光軸に直交するパターン面を撮影する場合のパターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方が均一または略均一となるような形状に形成することによって、パターンイメージの大きさおよび前記パターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることができるので、簡易な構成により、基準面に対するカメラの姿勢を高精度に算出することができる。
さらに、本発明に係る他のカメラ姿勢算出用ターゲット装置によれば、パターンの形状を、基準面に対して平行なパターン面を撮影する場合のパターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方が均一または略均一となるような形状に形成することによって、パターンイメージの大きさおよび前記パターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることができるので、簡易な構成により、基準面に対するカメラの姿勢を高精度に算出することができる。
さらにまた、本発明に係る他のカメラ姿勢算出用ターゲット装置によれば、板状のカメラ姿勢算出用ターゲット装置により、パターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることができるので、構成をさらに簡易にすることができる。
また、本発明に係る他のカメラ姿勢算出用ターゲット装置によれば、基準面上へのターゲット装置本体の設置状態において、パターン面をカメラの光軸に直交させることによってパターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることができるので、簡易な構成により、基準面に対するカメラの姿勢を高精度に算出することができる。
さらに、本発明に係る他のカメラ姿勢算出用ターゲット装置によれば、円形または正多角形状のパターンについてのパターンイメージの中心、格子線状のパターンについてのパターンイメージの格子点(互いに交差するパターンイメージ同士の交点)または市松模様における一方の色の矩形状のパターンについてのパターンイメージにおける四隅の点を特徴点として抽出して基準面に対するカメラの姿勢の算出に用いることができるので、カメラの姿勢の高精度な算出をさらに簡便かつ確実に行うことができる。
さらにまた、本発明に係る他のカメラ姿勢算出用ターゲット装置によれば、保持部材によってパターン面をカメラの光軸に直交するように傾いた状態に保持することにより、パターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることができるので、さらに簡易な構成により、基準面に対するカメラの姿勢を高精度に算出することができる。
また、本発明に係る他のカメラ姿勢算出用ターゲット装置によれば、超広角レンズを備えたカメラによるパターン面の撮影画像におけるパターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることができるので、基準面に対する超広角レンズを備えたカメラの姿勢を高精度に算出することができ、ひいては、撮影対象面の撮影画像に基づいて良好な表示画像を得ることができる。
さらに、本発明に係る他のカメラ姿勢算出用ターゲット装置によれば、車両に取り付けられたカメラによるパターン面の撮影画像におけるパターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることができるので、車両の載置面に対するカメラの姿勢を高精度に算出することができ、ひいては、撮影対象面の撮影画像に基づいて良好な車両周辺監視画像を得ることができる。
さらにまた、本発明に係るカメラ姿勢算出方法によれば、パターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることによってパターンイメージの特徴点を正確に抽出することができるので、基準面に対するカメラの姿勢を高精度に算出することができ、ひいては、撮影対象面の撮影画像に基づいて良好な表示画像を得ることができる。
また、本発明に係る他のカメラ姿勢算出方法によれば、パターンの形状を、カメラの光軸に直交するパターン面を撮影する場合のパターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方が均一または略均一となるような形状に形成することによって、パターンイメージの大きさおよび前記パターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることができるので、簡便な方法により、基準面に対するカメラの姿勢を高精度に算出することができる。
さらに、本発明に係る他のカメラ姿勢算出方法によれば、パターンの形状を、基準面に対して平行なパターン面を撮影する場合のパターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方が均一な大きさを有するような形状に形成することによって、パターンイメージの大きさおよび前記パターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることができるので、簡便な方法により、基準面に対するカメラの姿勢を高精度に算出することができる。
さらにまた、本発明に係る他のカメラ姿勢算出方法によれば、板状のカメラ姿勢算出用ターゲット装置によって、パターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることができ、これにより、パターンイメージの特徴点の正確な抽出が可能となるので、カメラ姿勢算出用ターゲット装置の構成を簡易にすることができる。
また、本発明に係る他のカメラ姿勢算出方法によれば、基準面上へのカメラ姿勢算出用ターゲット装置の設置状態において、パターン面がカメラの光軸に直交するようなカメラ姿勢算出用ターゲット装置を用いることにより、パターンイメージの大きさを略均一にすることができ、これにより、パターンイメージの特徴点の正確な抽出が可能となるので、簡便な方法により、基準面に対するカメラの姿勢を高精度に算出することができる。
さらに、本発明に係る他のカメラ姿勢算出方法によれば、円形または正多角形状のパターンについてのパターンイメージの中心、格子線状のパターンについてのパターンイメージの格子点または市松模様における一方の色の矩形状のパターンについてのパターンイメージにおける四隅の点を特徴点として抽出してカメラの姿勢の算出に用いることができるので、基準面に対するカメラの姿勢の高精度な算出をさらに簡便に行うことができる。
さらにまた、本発明に係る他のカメラ姿勢算出方法によれば、保持部材によってパターン面をカメラの光軸に直交するように傾いた状態に保持することができるカメラ姿勢算出用ターゲット装置を用いることにより、パターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることができ、パターンイメージの特徴点の正確な抽出が可能となるので、さらに簡便な方法により、基準面に対するカメラの姿勢を高精度に算出することができる。
また、本発明に係る他のカメラ姿勢算出方法によれば、超広角レンズを備えたカメラによるパターン面の撮影画像におけるパターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることができ、これにより、パターンイメージの特徴点の正確な抽出が可能となるので、基準面に対する超広角レンズを備えたカメラの姿勢を高精度に算出することができ、ひいては、撮影対象面の撮影画像に基づいて良好な表示画像を得ることができる。
さらに、本発明に係る他のカメラ姿勢算出方法によれば、車両に取り付けられたカメラによるパターン面の撮影画像におけるパターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることができ、これにより、パターンイメージの特徴点の正確な抽出が可能となるので、基準面に対するカメラの姿勢を高精度に算出することができ、ひいては、撮影対象面の撮影画像に基づいて良好な車両周辺監視画像を得ることができる。
さらにまた、本発明に係る画像表示方法によれば、パターンイメージの大きさおよび所定の方向において隣位するパターンイメージ同士の間の間隔の少なくとも一方を均一または略均一にすることによって、パターンイメージの特徴点の正確な抽出を行ったうえで基準面に対するカメラの姿勢を算出することができ、さらに、このカメラの姿勢の算出結果に基づいてマッピングテーブルを補正したうえで車両周辺監視画像を生成することができるので、基準面に対するカメラの姿勢を高精度に算出することができ、撮影対象面の撮影画像に基づいて良好な車両周辺監視画像を得ることができる。
(カメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第1実施形態)
以下、本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第1実施形態について、図1乃至図9を参照して説明する。
なお、従来と基本的構成が同一もしくはこれに類する箇所については、同一の符号を用いて説明する。
図1は、本実施形態におけるカメラ姿勢算出用ターゲット装置10を示したものである。本実施形態におけるカメラ姿勢算出用ターゲット装置10は、前述したカメラ姿勢算出用ターゲットボード3と同様に、車両周辺監視画像を車内のディスプレイに表示するために車両5における所定の取り付け位置に取り付けられたカメラ6によって路面等の撮影対象面を撮影する前に、基準面としての車両5の載置面に対するカメラ6の姿勢の算出に使用されるようになっている。なお、カメラ6の姿勢の算出は、従来と同様に、車両5へのカメラ6の取付け直後に行うようにしてもよい。また、姿勢の算出を行う車両5の載置面としては、従来と同様に、自動車生産工場内の敷地面や自動車整備工場内の敷地面あるいは撮影対象面そのもの等の種々の場所を選ぶことができる。
ただし、以下に説明するように、本実施形態におけるカメラ姿勢算出用ターゲット装置10は、従来のカメラ姿勢算出用ターゲットボード3とは異なり、車両5の載置面に対するカメラ6の姿勢の算出を高精度に行うのに好適なものとされている。
すなわち、本実施形態におけるカメラ姿勢算出用ターゲット装置10は、図1に示すように、保持部材としての五面体状のブロック11を有しており、このブロック11は、底面11aに対して鉛直上方に傾斜した傾斜面11bを有しており、この傾斜面11bの外形は、長方形の四辺を内側に歪曲させた形状に形成されている。このブロック11は、例えば、樹脂材料等によって形成してもよく、中空または中実のいずれであってもよい。
ブロック11の傾斜面11b上には、図1に示すように、複数個のパターン14が縦横に整列されたパターン面12が形成されている。
このパターン面12は、ブロック11の傾斜面11b上に印刷等によってパターン14が直接描かれたものであってもよいし、または、パターン14が描かれた外形が傾斜面11bと一致するシートや板状体が接着等によって傾斜面11b上に固定されたものであってもよい。
さらに、図2に示すように、ブロック11の傾斜面11bの傾斜角度α〔deg〕、すなわち、車両5の載置面に対するパターン面12の傾き角度は、鉛直方向に対してカメラ6の光軸OAがなす角度α(但し、このαは、設計値に基づく概略値であってよい)と同一とされている。なお、車両周辺監視画像として、車両およびその周辺を車両の上方から見下ろしたトップビュー画像を生成する場合には、車両に複数台のカメラ6を搭載することが必要になるが、これら複数台のカメラ6ごとにαの値が異なってもよいことは勿論である。但し、この場合、αが異なると、パターン面12の傾き角度も異なるため、カメラ6ごとに互いに異なるカメラ姿勢算出用ターゲット装置10を用いることが必要になるか、あるいは、ブロック11に、パターン面12の傾き角度を調整するための図示しない調整機構を設け、この調整機構によってカメラ6ごとに傾き角度を調整(変更)したうえでパターン面12を撮影することが必要になる。
したがって、本実施形態においては、車両5の載置面上へのカメラ姿勢算出用ターゲット装置10の設置(載置)状態において、パターン面12をカメラ6の光軸OAに対して直交(略直交を含む)させることができるようになっている。
そして、本実施形態において、パターン14の形状は、カメラ姿勢算出用ターゲット装置10を車両5の載置面に設置した状態におけるパターン面12の撮影画像15として、図3に示すように、当該撮影画像15におけるパターンイメージ14’の大きさおよび所定の方向(図3における縦方向、横方向および対角方向)において隣位するパターンイメージ14’同士の間の間隔が互いに均一となるような撮影画像15を得ることが可能な形状とされている。
より具体的には、各パターン14の形状は、カメラ6に搭載された超広角レンズによる歪曲収差の影響を考慮した形状に形成されている。
すなわち、各パターン14のうち、車両5の載置面上へのカメラ姿勢算出用ターゲット装置10の設置状態においてカメラ6の光軸OA近くに位置されるパターン14や、パターン面12の中央寄りに配置されたパターン14は、超広角レンズによる歪曲収差の影響が小さいため、外形が真円またはそれに近い円形に形成されている。
一方、各パターン14のうち、車両5の載置面上へのカメラ姿勢算出用ターゲット装置10の設置状態においてカメラ6から遠くに位置されるパターン14や、パターン面12の周辺側に配置されたパターン14は、歪曲収差の影響が大きいため、外形がパターン面12の中央側から周辺側に向かって放射状に延びる楕円または長円状に形成されている。
このような本実施形態におけるカメラ姿勢算出用ターゲット装置10によれば、各パターンイメージ14’の特徴点の抽出を正確に行うことができる。
このようなカメラ姿勢算出用ターゲット装置10におけるパターン面12は、以下のようにして設計することができる。
すなわち、まず、前提として、カメラ6の内部パラメータ(cx,cy,f)およびカメラ6の姿勢を示す外部パラメータ(rx,ry,rz,tx,ty,tz)が既知であることとする。ただし、外部パラメータは、必ずしも厳密なパラメータ値が既知である必要はなく、車両設計上の概略的なものであってもよい。
なお、内部パラメータにおけるcxは、カメラ6の撮像面(イメージセンサ面、例えばCCD面)にとられた二次元座標系(画像座標系)におけるカメラ6による撮影画像の中心点(換言すればカメラ6の光軸OAと撮像面との交点)のX座標を示している。同様に、内部パラメータにおけるcyは、画像座標系におけるカメラ6による撮影画像の中心点のY座標を示している。また、内部パラメータにおけるfは、カメラ6の焦点距離を示している。
一方、外部パラメータにおけるtxは、三次元ワールド座標系におけるカメラ6の位置のX座標を、tyは、Y座標を、tzは、Z座標をそれぞれ示している。また、外部パラメータにおけるrxは、三次元ワールド座標系におけるカメラ6のX座標軸回りの方向(光軸の向き)を、ryは、Y座標軸回りの方向を、rzは、Z座標軸回りの方向をそれぞれ示している。
次に、図4に示すように、特徴点の抽出に適した大きさが均一(図4においては周期も均一)なパターンイメージであって、画像座標系における位置がパターンイメージ14’と同一となるようなパターンイメージ(以下、仮想パターンイメージ14”と称する)の集合をカメラ6の視野範囲内において仮定する。なお、仮想パターンイメージ14”は、これから設計するパターン14を撮影した場合に撮されるパターンイメージ14’の理想的な状態を示したものとなっている。
そして、仮想パターンイメージ14”について、以下の(1)〜(14)式に示す座標変換を行う。
ここで、図5は、仮想パターンイメージ14”のうちの1つを、その画像座標系における座標点(i,j)とともに示したものである。なお、仮想パターンイメージ14”の座標点は、仮想パターンイメージ14”の外形の中心点とされている。
図5に示すように、内部パラメータによって表されるカメラ6の光軸OAと撮像面との交点(cx,cy)は、画像座標系の原点と異なっている。
座標点(cx,cy)と仮想パターンイメージ14”の座標点(i,j)とのX座標の差iiおよびY座標の差jjは、それぞれ次の(1)式および(2)式によって求められる。
ii=i−cx ・・・(1)
jj=j−cy ・・・(2)
次いで、図5に示すように、座標点(cx,cy)を原点とし、半径radおよび角度φ〔deg〕によって座標点が規定される二次元極座標を考えると、座標点(i,j)の角度φは、次式のように求められる。
φ=tan−1(|jj|/|ii|) ・・・(3)
また、座標点(cx,cy)と座標点(i,j)との距離radは、次の(4)式のように求められる。
rad=(ii+jj1/2 ・・・(4)
このようにして、画像座標系における仮想パターンイメージ14”の座標点(i,j)が、二次元極座標系における座標点(rad,φ)へと座標変換される。
次いで、図6に示すように、互いに直交するU、V、Sの各座標軸を有し、S座標軸をカメラ6の光軸OAとし、この光軸OAと撮像面との交点を原点とした三次元のデカルト座標系であるカメラ座標系をとると、(4)式の左辺は、次の(5)式のように表される。
rad=f×θ ・・・(5)
但し、(5)式におけるfは、前述したカメラ6の焦点距離(内部パラメータ)である。また、(5)式におけるθ〔deg〕は、図6に示すように、図5に示した仮想パターンイメージ14”に対応するパターン14が存在する方向を示す光軸OA(S座標軸)を基準とした角度(入射角)である。ただし、この図6に示すパターン14は、これから設計されるものである。
なお、(5)式は、等距離射影方式の魚眼レンズの場合における式であり、広角レンズや他の射影方式のレンズでは式が異なるが、説明は省略する。
次いで、(5)式より、角度θは、次の(6)式のように求められる。
θ=rad/f ・・・(6)
次いで、図6に示すように、カメラ座標系上に、カメラ座標系の原点を中心とした単位半径の球16をとると、この球16と、カメラ座標系の原点からパターン14の方向θに向かって延びる線分Lとが交わる交点の座標点(u,v,s)は、次の(7)に示す行列式のように求められる。
Figure 2008205811
この(7)式によって表される座標点(u,v,s)は、仮想パターンイメージ14”(詳しくは、仮想パターンイメージ14”の外形の中心点)のカメラ座標系における座標点とみることができる。
このようにして、二次元極座標系における仮想パターンイメージ14”の座標点(rad,φ)が、カメラ座標系における座標点(u,v,s)へと座標変換される。
次いで、図7に示すように、互いに直交するX、Y、Zの各座標軸を有し、XY平面を車両5の載置面とした三次元ワールド座標系をとる。
そして、この三次元ワールド座標系において規定されるパターン14の座標点(x,y,z)を示すための一般式は、カメラ6の外部パラメータにおける方向の要素を用いた3つの行列、(7)式の座標点に光軸OAと撮像面との交点からパターン14までの距離を示すパラメータλを乗じた行列、および、カメラ6の外部パラメータにおける位置の要素からなる行列を用いることによって、次の(8)の行列式のように求められる。
Figure 2008205811
この(8)式は、さらに計算を進めると、次の(9)の行列式のようになる。
Figure 2008205811
ここで、図8に示すように、仮に、三次元ワールド座標系におけるXY平面上にパターン面17が位置されると仮定すると、このパターン面17上のパターン18のZ座標は、0となる。また、λの値は、(9)式にz=0を代入することによって、次の(10)式のように求められる。
λ=tz/{sin(ry)×u−cos(ry)×sin(rx)×v−cos(ry)×cos(rx)×s}
・・・(10)
そして、パターン面17上のパターン18のX座標xx’およびY座標yy’は、(9)式に、(10)式の値を代入することによって求められる。ただし、平面四角形状のパターン面17の1つの角部は、三次元ワールド座標系の原点(0,0,0)に位置されているものとする。
ただし、前述したように、本実施形態においては、カメラ6の光軸OAに直交(略直交を含む)し、かつ、車両5の載置面に対して傾き(角度α〔deg〕)を有するようなパターン面12を設計する。
そこで、図9に示すように、三次元ワールド座標系におけるXY平面に対してZ軸方向に角度αの傾きを有するパターン面12を設定する。ただし、このパターン面12の1つの角部は、三次元ワールド座標系の原点(0,0,0)に位置されているものとする。
そして、このパターン面12を含む二次元座標系として、図9に示すように、パターン面12の一辺の方向に延びるX’座標軸と、三次元ワールド座標系におけるY座標軸とからなるX’Y座標系をとる。
そして、このX’Y座標系上に規定されるパターン14の座標点(xx,yy)は、次のような幾何学計算によって求められる。
ここで、図10(a)(b)は、パターン14の座標点(xx,yy)の計算を分かりやすくするために示したものであり、図10(a)は、三次元ワールド座標系をXZ平面の法線方向から見た図を、図10(b)は、三次元ワールド座標系をYZ平面の法線方向から見た図をそれぞれ示している。
図10(a)に示すように、xxとxx’との間には、次の(11)式に示す関係式が成立し、また、yyとyy’との間には、次の(12)式に示す関係式が成立する。なお、(11)式におけるβ〔deg〕は、図10(a)に、(12)式におけるγ〔deg〕は、図10(b)に、それぞれ示されている。
(xx’−xx×cos(α))/xx×sin(α)
=(xx’−tx)/tz
=tanβ ・・・(11)
yy+xx×sin(α)×(yy’−ty)/tz
=yy+xx×sin(α)×tanγ
=yy+(yy’−yy)
=yy’ ・・・(12)
さらに、(11)式より、xxは、次の(13)式のように求められ、また、(12)式より、yyは、次の(14)式のように求められる。
xx=xx’×tz/{(xx’−tx)×sin(α)+tz×cos(α)}
・・・(13)
yy=yy’−{xx×sin(α)×(yy’−ty)}/tz ・・・(14)
このようにして、カメラ座標系における仮想パターンイメージ14”の座標点(u,v,s)を、三次元ワールド座標系における座標点(xx’,yy’)に座標変換した後に、X’Y座標系の座標点(xx,yy)に座標変換することができる。
これにより、パターン14の座標点(xx,yy)を規定することができるので、本実施形態のカメラ姿勢算出用ターゲット装置10におけるパターン面12を設計することができる。なお、パターン14の車両5の載置面からの高さ方向の座標(三次元ワールド座標系でいうところのZ座標)については、座標点(xx,yy)と車両5の載置面に対するパターン面12の傾斜αとから一義的に定めることができる。
また、楕円や長円等のパターン14の具体的な歪み形状については、各座標点(xx,yy)に対応するカメラ6の歪み特性を、既知の内部パラメータに基づいて予め把握しておき、歪み特性から逆算した形状を割り当てるように設計すればよい。
次に、このようなカメラ姿勢算出用ターゲット装置10を用いたカメラ姿勢算出方法について説明する。
なお、この算出方法において、既知のパラメータは、カメラ6の内部パラメータ(cx,cy,f)およびパターンイメージ14’に対応するパターン14の座標点(xx,yy)とされている。ただし、パターンイメージ14’に対応するパターン14の座標点が既知であるというためには、画像座標系において、パターンイメージ14’が、このパターンイメージ14’に対応するパターン14を設計する際に用いた仮想パターンイメージ14”と同一の座標値をとることが必要となり、そのためには、パターン14の位置を設計上の位置(xx,yy)に合わせることが条件となる。
そして、本実施形態においては、まず、図2に示したように、車両5の載置面上に、カメラ姿勢算出用ターゲット装置10を設置する。このとき、カメラ姿勢算出用ターゲット装置10におけるパターン14の位置が、設計上の位置(xx,yy)に合うようにカメラ姿勢算出用ターゲット装置10の設置位置を調整する。なお、このときの設置位置の調整は、例えば、車両5の端部からのカメラ姿勢算出用ターゲット装置10の離間距離が、パターン14の位置を設計上の位置に合わせることができるものとして予め想定された特定の離間距離にすること等によって行うことができる。
次いで、カメラ6によって、カメラ姿勢算出用ターゲット装置10のパターン面12を撮影する。
このとき、パターン面12における各パターン14が、超広角レンズによる歪曲収差の影響を考慮した形状に形成されているため、図3に示したようなパターンイメージ14’の大きさおよび所定の方向において隣位するパターンイメージ14’同士の間隔が均一なパターン面12の撮影画像15を取得することができる。
次いで、撮影画像15におけるパターンイメージ14’の特徴点を画像認識によって抽出する。なお、本実施形態における円形のパターンイメージ14’の特徴点は、円形の中心点となる。
このとき、パターンイメージ14’は、均一な大きさになっているため、特徴点を正確に抽出することができる。
次いで、抽出された特徴点の座標を、仮想パターンイメージ14”の中心点の座標(i,j)とみなして(1)〜(7)式の計算を順次行う。具体的には、(1)式におけるiに、抽出された特徴点のX座標を代入し、また、(2)式におけるjに抽出された特徴点のY座標を代入して、以降(7)式までの計算を行う。
この計算に際しては、既知のカメラ6の内部パラメータ(cx,cy,f)を用いる。
このような計算によって求められた(7)式の座標点(u,v,s)は、抽出されたパターンイメージ14’の特徴点のカメラ座標系における座標値に相当する。
また、このとき、(13)式および(14)式を用いることによって、抽出されたパターンイメージ14’の特徴点に対応するパターン14の座標点(xx,yy)を光軸OAに沿って三次元ワールド座標系におけるXY平面上に投影した座標点(xx’,yy’,0)を求める。
次いで、(7)式を用いて求められた座標点(u,v,s)および(13)式および(14)式を用いて求められた座標点(xx’,yy’,0)を(8)式
の左辺に代入する。
このような計算を、少なくとも3個のパターンイメージ14’について行うことによって複数の連立方程式を立て、これらの連立方程式を解くことによって、車両5の載置面に対するカメラ6の姿勢として、カメラ6の外部パラメータ(rx,ry,rz,tx,ty,tz)を算出することができる。なお、測定誤差の影響を少なくするためには、広範囲に散らばったできるだけ多くの特徴点を抽出して外部パラメータを最小二乗法等も用いて高精度に算出することが好ましい。また、外部パラメータの算出の過程においてλは消去することができるので、λの具体的な値を考慮する必要はない。
以上述べたように、本実施形態によれば、車両5の載置面に対するカメラ6の姿勢を算出する際に、カメラ6によってパターン面12を撮影することによって、均一な大きさのパターンイメージ14’が撮された撮影画像15を得ることができるので、パターンイメージ14’の特徴点を正確に抽出することができ、車両5の載置面に対するカメラ6の姿勢を高精度に算出することができる。
(カメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第2実施形態)
次に、本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第2実施形態について、図11乃至図14を参照して説明する。
なお、本実施形態においても、従来と基本的構成が同一もしくはこれに類する箇所については、同一の符号を用いて説明する。
図11は、本実施形態におけるカメラ姿勢算出用ターゲット装置としてのカメラ姿勢算出用ターゲットボード20を示したものであり、このカメラ姿勢算出用ターゲットボード20は、第1実施形態と同様に、車両周辺監視画像を車内のディスプレイに表示するために車両5における所定の取り付け位置に取り付けられたカメラ6によって路面等の撮影対象面を撮影する前に、基準面としての車両5の載置面に対するカメラ6の姿勢の算出に使用されるようになっている。
また、本実施形態におけるカメラ姿勢算出用ターゲットボード20も、第1実施形態と同様に、車両5の載置面に対するカメラ6の姿勢の算出を高精度に行うのに好適なものとされている。
ただし、本実施形態におけるカメラ姿勢算出用ターゲットボード20は、第1実施形態のようにパターン面12に傾きを持たせることなく、カメラ6の姿勢の高精度な算出を図るようになっている。
すなわち、図11に示すように、本実施形態におけるカメラ姿勢算出用ターゲットボード20は、樹脂材料等からなる偏平な基板21の一方の表面に、複数個のパターン22が印刷等によって描かれたパターン面23を有している。このパターン面23は、車両5の載置面上へのカメラ姿勢算出用ターゲットボード20の設置状態において、車両5の載置面に対して平行に配置されることになる。
そして、本実施形態においても、パターン22の形状は、カメラ姿勢算出用ターゲットボード20を車両5の載置面に設置した状態におけるパターン面23の撮影画像24として、図12に示すように、当該撮影画像24におけるパターンイメージ22’の大きさおよび所定の方向(図12における縦方向、横方向および対角方向)において隣位するパターンイメージ22’同士の間の間隔が互いに均一となるような撮影画像24を得ることが可能な形状とされている。
より具体的には、各パターン22の形状は、カメラ6に搭載された超広角レンズによる歪曲収差の影響を考慮した形状に形成されている。
すなわち、各パターン22のうち、車両5の載置面上へのカメラ姿勢算出用ターゲットボード20の設置状態においてカメラ6の近くに位置されるパターン22や、パターン面23の中央寄りに配置されたパターン22は、超広角レンズによる歪曲収差の影響が小さいため、外形が真円またはそれに近い円形に形成されている。
一方、各パターン22のうち、車両5の載置面上へのカメラ姿勢算出用ターゲットボード20の設置状態においてカメラ6から遠くに位置されるパターン22や、パターン面23の周辺側に配置されたパターン22は、歪曲収差の影響が大きいため、外形がパターン面23の中央側から周辺側に向かって放射状に延びる楕円または長円状に形成されている。
これにより、図12に示すように、パターンイメージ22’の大きさを均一にすることができ、各パターンイメージ22’の特徴点の抽出を正確に行うことができるようになっている。なお、図12においては、パターンイメージ22’の縦方向および横方向の周期も均一となっている。
このようなパターン面23は、図13に示すように、画像座標系における位置がパターンイメージ22’と同一となるような仮想パターンイメージ22”をカメラ6の視野内に仮定し、仮想パターンイメージ22”に対して第1実施形態における(1)〜(10)式の計算を行うことによって設計することができる。
この際に、図8に示した車両5の載置面と同一面上のパターン面17を本実施形態における設計されるパターン面23に置き換えて考え、図8におけるパターン18の座標点(xx’,yy’,0)を、本実施形態におけるパターン22の座標点(xx’,yy’,0)として設計すればよい。
この際に、楕円や長円等のパターン22の具体的な歪み形状については、各座標点(xx’,yy’,0)に対応するカメラ6の歪み特性を、既知の内部パラメータに基づいて予め把握しておき、歪み特性から逆算した形状を割り当てるように設計すればよい。
次に、このようなカメラ姿勢算出用ターゲットボード20を用いたカメラ姿勢算出方法について説明する。
なお、この算出方法において、既知のパラメータは、カメラ6の内部パラメータ(cx,cy,f)およびパターンイメージ22’に対応するパターン22の座標点(xx’,yy’,0)とされている。ただし、第1実施形態と同様に、パターンイメージ22’に対応するパターン22の座標点が既知であるというためには、画像座標系において、パターンイメージ22’が、このパターンイメージ22’に対応するパターン22を設計する際に用いた仮想パターンイメージ22”と同一の座標値をとることが必要となり、そのためには、パターン22の位置を設計上の位置(xx’,yy’,0)に合わせることが条件となる。
そして、本実施形態においては、まず、図14に示すように、車両5の載置面上に、カメラ姿勢算出用ターゲットボード20を設置する。このとき、カメラ姿勢算出用ターゲットボード20におけるパターン22の位置が設計上の位置(xx’,yy’,0)に合うようにカメラ姿勢算出用ターゲットボード20の設置位置を調整する。
次いで、カメラ6によって、カメラ姿勢算出用ターゲットボード20のパターン面23を撮影する。
このとき、パターン面23における各パターン22が、超広角レンズによる歪曲収差の影響を考慮した形状に形成されているため、図12に示したようなパターンイメージ22’の大きさが均一なパターン面23の撮影画像24を取得することができる。
次いで、撮影画像24におけるパターンイメージ22’の特徴点を画像認識によって抽出する。なお、本実施形態における円形のパターンイメージ22’の特徴点は、第1実施形態と同様に円形の中心点となる。
このとき、各パターンイメージ22’は、均一な大きさになっているため、特徴点を正確に抽出することができる。
次いで、抽出された特徴点の座標を、(1)式における座標(i,j)とみなし、この特徴点の座標(i,j)と、既知の内部パラメータ(cx,cy,f)とを用いて(1)式〜(7)式の計算を順次行う。
この計算によって求められた(7)式の座標点(u,v,s)は、抽出されたパターンイメージ22’の特徴点のカメラ座標系における座標値に相当する。
そして、(7)式を用いて求められた座標点(u,v,s)と、抽出されたパターンイメージ22’に対応するパターン22の既知の座標点(xx’,yy’,0)とを(8)式に代入する。
このような計算を、少なくとも3個のパターンイメージ22’について行うことによって複数の連立方程式を立て、これらの連立方程式を解くことによって、車両5の載置面に対するカメラ6の姿勢として、カメラ6の外部パラメータ(rx,ry,rz,tx,ty,tz)を算出することができる。
以上述べたように、本実施形態においても、カメラ6によってパターン面23を撮影することによって、均一な大きさのパターンイメージ22’が撮された撮影画像24を得ることができ、パターンイメージ22’の特徴点を正確に抽出することができるので、車両5の載置面に対するカメラ6の姿勢を高精度に算出することができる。
(カメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第3実施形態)
以下、本発明の第3実施形態について、図15乃至図17を参照して説明する。
なお、従来と基本的構成が同一もしくはこれに類する箇所については、同一の符号を用いて説明する。
図15は、本実施形態におけるカメラ姿勢算出用ターゲット装置50を示したものである。本実施形態におけるカメラ姿勢算出用ターゲット装置50は、前述したカメラ姿勢算出用ターゲットボード3と同様に、車両周辺監視画像を車内のディスプレイに表示するために車両5における所定の取り付け位置に取り付けられたカメラ6によって路面等の撮影対象面を撮影する前に、基準面としての車両5の載置面に対するカメラ6の姿勢の算出に使用されるようになっている。
また、本実施形態におけるカメラ姿勢算出用ターゲット装置50も、従来のカメラ姿勢算出用ターゲットボード3とは異なり、車両5の載置面に対するカメラ6の姿勢の算出を高精度に行うのに好適なものとされている。
すなわち、本実施形態におけるカメラ姿勢算出用ターゲット装置50は、保持部材としてのブロック51を有しており、このブロック51は、底面51aに対して鉛直上方に傾斜した傾斜面51bを有する直角三角柱形状に形成されている。このブロック51は、例えば、樹脂材料等によって形成してもよく、中空または中実のいずれであってもよい。
ブロック51の傾斜面51b上には、図15に示すように、外形が円形に形成された複数個のパターン54が縦横に整列されたパターン面52が形成されており、各パターン54は、実際の大きさが均一とされ、かつ、所定の方向(図15における縦方向、横方向および対角方向)において互いに隣位するパターン54同士の実際の間隔が均一とされている。
このパターン面52は、ブロック51の傾斜面51b上に印刷等によってパターン54が直接描かれたものであってもよいし、または、パターン54が描かれたシートや板状体が接着等によって傾斜面51b上に固定されたものであってもよい。
さらに、図16に示すように、ブロック51の傾斜面51bの傾斜角度α〔deg〕、すなわち、車両5の載置面に対するパターン面52の傾き角度は、鉛直方向に対してカメラ6の光軸OAがなす角度α(但し、このαは、設計値に基づく概略値であってよい)と同一とされている。なお、車両周辺監視画像として、車両およびその周辺を車両の上方から見下ろしたトップビュー画像を生成する場合には、車両に複数台のカメラ6を搭載することが必要になるが、これら複数台のカメラ6ごとにαの値が異なってもよいことは勿論である。但し、この場合、αが異なると、パターン面52の傾き角度も異なるため、カメラ6ごとに互いに異なるカメラ姿勢算出用ターゲット装置50を用いることが必要になるか、あるいは、ブロック51に、パターン面52の傾き角度を調整するための図示しない調整機構を設け、この調整機構によってカメラ6ごとに傾き角度を調整(変更)したうえでパターン面52を撮影することが必要になる。
したがって、本実施形態においては、車両5の載置面上へのカメラ姿勢算出用ターゲット装置50の設置(載置)状態において、パターン面52をカメラ6の光軸OAに対して直交させることができるようになっている。
これにより、図17に示すように、カメラ6によるパターン面52の撮像画像55におけるパターンイメージ54’の大きさを、パターンイメージ54’からの特徴点の正確な抽出が可能な程度に均一に近似した状態である略均一にすることができる。
この結果、各パターンイメージ54’の特徴点の抽出を正確に行うことができるので、車両5の載置面に対するカメラ6の姿勢を従来よりも高精度に算出することができる。
(画像表示方法の実施形態)
以下、本発明に係る画像表示方法の実施形態について、図18乃至図20を参照して説明する。
図18は、本実施形態における画像表示方法を実現するための装置の一例としての画像表示装置30を示したものであり、この画像表示装置30は、車両5の互いに異なる位置に取り付けられた4台のカメラ6a,6b,6c,6dを有している。4台のカメラ6a,6b,6c,6dのうちの1台は、車両5の前部(例えば、エンブレム部)に取付けられたフロントカメラ6aとされており、このフロントカメラ6aは、車両5の前方を撮影するようになっている。他の3台のカメラ6b,6c,6dのうちの1台は、車両5の後部(例えば、リアライセンスガーニッシュ部)に取付けられたバックカメラ6bとされており、このバックカメラ6bは、車両5の後方を撮影するようになっている。他の2台のカメラ6c,6dのうちの1台は、車両5の右側部(例えば、右ドアミラー部)に取付けられた右サイドカメラ6cとされており、この右サイドカメラ6cは、車両5の右側方を撮影するようになっている。残りの1台は、車両5の左側部(例えば、左ドアミラー部)に取り付けられた左サイドカメラ6dとされており、この左サイドカメラ6dは、車両5の左側方を撮影するようになっている。
各カメラ6a,6b,6c,6dには、カメラ画像取得部33が接続されており、このカメラ画像取得部33は、各カメラ6a,6b,6c,6dの撮影画像を取得するようになっている。
カメラ画像取得部33には、カメラ姿勢算出部31が接続されており、このカメラ姿勢算出部31は、パターンイメージからの特徴点の抽出を行う特徴点抽出部31aと、この特徴点抽出部31aに接続されたカメラ姿勢計算部31bとによって構成されている。
このカメラ姿勢算出部31は、特徴点抽出部31aとカメラ姿勢計算部31bとによって、前述した第1実施形態または第2実施形態におけるカメラ姿勢算出方法を用いて、車両5の載置面に対する各カメラ6a,6b,6c,6dの姿勢を個別に算出するようになっている。
また、カメラ画像取得部33には、車両周辺監視画像生成部32が接続されており、この車両周辺監視画像生成部32には、カメラ画像取得部33から、各カメラ6a,6b,6c,6dによる路面等の撮影対象面の撮影画像のデータが入力されるようになっている。
車両周辺監視画像生成部32には、マッピングテーブル記憶部34が接続されており、このマッピングテーブル記憶部34には、例えば、図19に示すようなマッピングテーブル35が記憶されている。
このマッピングテーブル35には、カメラ6a,6b,6c,6dの撮影画像と後述する車両周辺監視画像38(図20参照)との対応関係が記述されている。
具体的には、図19に示すように、マッピングテーブル35には、画像座標系における座標点(Xc,Yc)(i、jは任意の自然数、但し、図19の例においては、i≠5、j≠2)に位置するカメラ6a,6b,6c,6dの撮影画像における1つの画素を、後述するディスプレイ36の二次元座標系における座標点(Xt,Yt)(m、nは任意の自然数、但し、図19の例においては、m≠4、n≠3)に表示される車両周辺監視画像における1つの画素の生成に用いる旨が記述されている。
なお、マッピングテーブル35には、1台のカメラ6a,6b,6c,6dの撮影画像における2つ以上の画素を、車両周辺監視画像38における1つの画素の生成に用いる旨が記述されていてもよい(例えば、特許文献1段落0041、0044等参照)。また、マッピングテーブル35は、カメラ6a,6b,6c,6d用のレンズとして超広角レンズを用いることによる撮影画像の歪みを補正することを考慮した座標変換をともなうものであってもよい。
車両周辺監視画像生成部32は、このマッピングテーブル記憶部34に記憶されたマッピングテーブル35を用いることによって、フロントカメラ6aによる撮影画像を、車両の前方を監視する前方監視画像41に、バックカメラ6bによる撮影画像を、車両の後方を監視する後方監視画像42に、右サイドカメラ6cによる撮影画像を、車両の右側方を監視する右側方監視画像43に、左サイドカメラ6dによる撮影画像を、車両の左側方を監視する左側方監視画像44に、それぞれ変換するようになっている。
そして、車両周辺監視画像生成部32は、各監視画像41,42,43,44のデータと自車両を示すイラスト画像39のデータとを1つに合成することによって、自車両およびその周辺を自車両の上方から見下ろすように視点変換した車両周辺監視画像38を生成するようになっている。
車両周辺監視画像生成部32には、ディスプレイ36が接続されており、このディスプレイ36には、車両周辺監視画像生成部32によって生成された車両周辺監視画像38が表示されるようになっている。
さらに、本実施形態において、車両周辺監視画像生成部32は、マッピングテーブル補正部37を有しており、このマッピングテーブル補正部37は、カメラ姿勢算出部31による各カメラ6a,6b,6c,6dの姿勢の算出結果を取得するようになっている。
そして、マッピングテーブル補正部37は、取得された姿勢の算出結果に基づいて、算出されたカメラ6a,6b,6c,6dの姿勢が、マッピングテーブル補正部37に予め記憶されている適切な姿勢からずれているか否かを判定し、ずれが生じている場合には、このずれが車両周辺監視画像38の生成の際に解消されるようにマッピングテーブル記憶部34に記憶されたマッピングテーブル35を補正するようになっている。具体的には、例えば、図19に示すディスプレイ36の座標系における座標点(Xt,Yt)の画素の生成に用いる画像座標系の画素を、図19に示す座標点(Xc,Yc)の画素から、異なる座標点の画素となるようにマッピングテーブル35の記述を変更する。
したがって、車両周辺監視画像生成部32は、カメラ6の姿勢が取付け誤差等の影響によって適切な姿勢からずれた場合であっても、マッピングテーブル35の補正によって良好な車両周辺監視画像38を生成可能とされている。
車両周辺監視画像生成部32には、入力操作部46が接続されており、ユーザは、入力操作部46を操作することによって、車両周辺監視画像生成部32に対して車両周辺監視画像38の表示を指示するようになっている。
また、車両周辺監視画像生成部32には、車両情報を取得する車両情報取得部47が接続されており、車両周辺監視画像生成部32は、車両周辺画像38の生成の際に、必要に応じて、車両情報取得部47が取得した車両情報(例えば、シフトレバーの位置や車速等)を入手して、車両周辺監視画像38の生成に用いるようになっている。なお、車両周辺監視画像生成部32は、例えば、車両情報取得部47から入手した車速が所定速度以下の場合に車両周辺監視監視画像38を生成するようにしてもよい。
このような画像表示装置30を用いて車両周辺監視画像38を表示する際には、まず、前提として、車両5の載置面に対する各カメラ6a,6b,6c,6dの姿勢の算出を行う。
すなわち、車両5の載置面上に、第1実施形態に示したカメラ姿勢算出用ターゲット装置10または第2実施形態に示したカメラ姿勢算出用ターゲットボード20を設置し、次いで、カメラ6a,6b,6c,6dによって、パターン面12,23を撮影する。
パターン面12,23の撮影画像のデータは、カメラ6a,6b,6c,6dからカメラ画像取得部33を経てカメラ姿勢算出部31に入力される。
次いで、カメラ姿勢算出部31により、カメラ6a,6b,6c,6dの姿勢を算出して、算出結果を車両周辺監視画像生成部32に出力する。
次いで、車両周辺監視画像生成部32のマッピングテーブル補正部37により、カメラ姿勢算出部31の算出結果に基づいて、カメラ6a,6b,6c,6dの姿勢が適切な姿勢からずれている場合には、車両周辺監視画像38の生成(画像の座標変換および合成)の際にずれが解消されるようにマッピングテーブル記憶部34に記憶されたマッピングテーブル35を補正する。
その後、路面等の撮影対象面において、入力操作部46を用いたユーザの入力操作によって車両周辺監視画像38の表示が指示された場合には、各カメラ6a,6b,6c,6dによって撮影対象面を撮影し、撮影画像のデータを、車両周辺監視画像生成部32に入力する。
次いで、車両周辺監視画像生成部32は、変換テーブルデータベース34内の変換テーブル35を用いることによって、各カメラ6から入力された撮影対象面の撮影画像のデータを、監視画像41,42,43,44の画像データに変換するとともに、それらおよびイラスト画像39のデータを合成することによって、車両周辺監視画像38を生成する。
そして、図20に示すように、車両周辺監視画像生成部32によって生成された車両周辺監視画像38をディスプレイ36に表示する。
この車両周辺監視画像38は、カメラ姿勢算出用ターゲット装置10またはカメラ姿勢算出用ターゲットボード20を用いたカメラ6の姿勢についての高精度な算出結果に基づいて補正されたマッピングテーブル35を用いて生成されたものであるため、画像品質が良好なものとなっている。
したがって、本実施形態によれば、車両5の載置面に対するカメラ6の姿勢を高精度に算出することができ、撮影対象面の撮影画像に基づいて良好な車両周辺監視画像38を得ることができる。
なお、本発明は、前述した実施の形態に限定されるものではなく、必要に応じて種々の変更が可能である。
例えば、本発明は、車両周辺監視画像以外の画像を表示するための基準面に対するカメラの姿勢の算出に適用するようにしてもよい。
また、第3実施形態におけるパターン54は、円形以外の形状、例えば、正方形等の正多角形状に形成してもよいし、あるいは、格子線状、または、互いに異なる二色の矩形状が互いに直交する二方向に沿って交互に繰り返し配列されてなる市松模様における一方の色の矩形状に形成されていてもよい。ただし、正多角形状のパターンについてのパターンイメージの特徴点は、パターンイメージの中心点となる。また、格子線状のパターンについてのパターンイメージの特徴点は、パターンイメージの格子点すなわち互いに交差する複数の格子状のパターンイメージ同士の交点となる。さらに、市松模様における一方の色の矩形状のパターンについてのパターンイメージの特徴点は、このパターンイメージにおける四隅の点となる。
本発明に係るカメラ姿勢算出用ターゲット装置の第1実施形態を示す斜視図 本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第1実施形態を示す側面図 本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第1実施形態において、パターン面の撮影画像を示す図 本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第1実施形態において、仮想パターンイメージを示す図 本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第1実施形態において、パターン面の設計の過程における仮想パターンイメージの画像座標系から二次元極座標系への座標変換を説明するために用いる説明図 本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第1実施形態において、パターン面の設計の過程における仮想パターンイメージの二次元極座標系からカメラ座標系への座標変換を説明するために用いる説明図 本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第1実施形態において、パターン面の設計の過程における仮想パターンイメージのカメラ座標系から三次元ワールド座標系への座標変換を説明するために用いる説明図 本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第1実施形態において、パターン面の設計の過程における三次元ワールド座標系におけるXY平面上に仮定されたパターン面を示す説明図 本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第1実施形態において、パターン面の設計の最終過程として、仮想パターンイメージの三次元ワールド座標系からX’Y座標系への座標変換を説明するために用いる説明図 (a)および(b)は本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第1実施形態において、仮想パターンイメージの三次元ワールド座標系からX’Y座標系への座標変換を説明するために図9とともに用いる説明図 本発明に係るカメラ姿勢算出用ターゲット装置の第2実施形態を示す斜視図 本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第2実施形態において、パターン面の撮影画像を示す図 本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第2実施形態において、パターン面の設計の過程における仮想パターンイメージを示す図 本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第2実施形態において、車両の搭載面上へのカメラ姿勢算出用ターゲットボードの設置状態を示す図 本発明に係るカメラ姿勢算出用ターゲット装置の第3実施形態を示す斜視図 本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第3実施形態を示す側面図 本発明に係るカメラ姿勢算出用ターゲット装置およびカメラ姿勢算出方法の第3実施形態において、パターン面の撮影画像を示す図 本発明に係る画像表示方法の実施形態において、画像表示方法に用いる画像表示装置を示すブロック図 本発明に係る画像表示方法の実施形態において、マッピングテーブルの概略図 本発明に係る画像表示方法の実施形態において、車両周辺監視画像を示す図 従来から採用されていたカメラ姿勢算出用ターゲットボードの一例を示す斜視図 従来から採用されていたカメラ姿勢算出方法を示す図 従来のカメラ姿勢算出用ターゲットボードにおけるパターン面の撮影画像の一例を示す図
符号の説明
6 カメラ
10 カメラ姿勢算出用ターゲット装置
12 パターン面
14 パターン
15 撮影画像

Claims (19)

  1. 基準面の上方の取り付け位置に取り付けられたカメラの前記基準面に対する姿勢の算出に使用されるカメラ姿勢算出用ターゲット装置であって、
    複数個のパターンが形成されたパターン面を有し、前記基準面上へのターゲット装置本体の設置状態において前記カメラによって前記パターン面が撮影され、前記パターン面の撮影画像におけるパターンから特徴点が抽出されることによって前記カメラの姿勢の算出に使用されるように形成され、
    前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が、均一、または、当該撮影画像におけるパターンからの特徴点の正確な抽出が可能な程度に均一に近似した状態である略均一となるような撮影画像を得ることが可能に形成されていること
    を特徴とするカメラ姿勢算出用ターゲット装置。
  2. 前記基準面上への前記ターゲット装置本体の設置状態において、前記パターン面が前記カメラの光軸に直交するように形成され、
    前記複数個のパターンが、前記基準面上への前記ターゲット装置本体の設置状態における前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が均一または前記略均一となるような撮影画像を得ることが可能な形状に形成されていること
    を特徴とする請求項1に記載のカメラ姿勢算出用ターゲット装置。
  3. 前記基準面上への前記ターゲット装置本体の設置状態において、前記パターン面が前記基準面に対して平行になるように形成され、
    前記複数個のパターンが、前記基準面上への前記ターゲット装置本体の設置状態における前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が均一または前記略均一となるような撮影画像を得ることが可能な形状に形成されていること
    を特徴とする請求項1に記載のカメラ姿勢算出用ターゲット装置。
  4. 前記パターン面が形成された板状体からなること
    を特徴とする請求項3に記載のカメラ姿勢算出用ターゲット装置。
  5. 前記複数個のパターンについての実際の大きさおよび所定の方向において隣位するパターン同士の間の実際の間隔の少なくとも一方が均一に形成され、
    前記パターン面が、前記基準面上への前記ターゲット装置本体の設置状態において、前記カメラの光軸に直交するように形成されていること
    を特徴とする請求項1に記載のカメラ姿勢算出用ターゲット装置。
  6. 前記パターンが、円形状、正多角形状、格子線状、または、互いに異なる二色の矩形状が互いに直交する二方向に沿って交互に繰り返し配列されてなる市松模様における一方の色の矩形状に形成されていること
    を特徴とする請求項5に記載のカメラ姿勢算出用ターゲット装置。
  7. 前記基準面上への前記ターゲット装置本体の設置状態において前記パターン面が前記カメラの光軸に直交するように前記パターン面を前記基準面に対して傾いた状態に保持する保持部材を有すること
    を特徴とする請求項2、請求項5または請求項6に記載のカメラ姿勢算出用ターゲット装置。
  8. 前記カメラが、超広角レンズを備えたカメラとされていること
    を特徴とする請求項1乃至請求項7のいずれか1項に記載のカメラ姿勢算出用ターゲット装置。
  9. 前記カメラが車両における前記所定の取り付け位置に取り付けられており、前記基準面が前記車両の載置面とされていること
    を特徴とする請求項1乃至請求項8のいずれか1項に記載のカメラ姿勢算出用ターゲット装置。
  10. 基準面の上方の取り付け位置に取り付けられたカメラの前記基準面に対する姿勢を算出するカメラ姿勢算出方法であって、
    複数個のパターンが形成されたパターン面を有するカメラ姿勢算出用ターゲット装置であり、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態における前記カメラによる前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が、均一、または、当該撮影画像におけるパターンからの特徴点の正確な抽出が可能な程度に均一に近似した状態である略均一となるような撮影画像を得ることが可能に形成されたカメラ姿勢算出用ターゲット装置を前記基準面上に設置し、
    この設置された前記カメラ姿勢算出用ターゲット装置における前記パターン面を前記カメラによって撮影し、
    この撮影によって得られた前記パターン面の撮影画像におけるパターンから特徴点を抽出し、
    抽出された特徴点に基づいて、前記カメラの姿勢を算出すること
    を特徴とするカメラ姿勢算出方法。
  11. 前記カメラ姿勢算出用ターゲット装置として、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態において、前記パターン面が前記カメラの光軸に直交するように形成され、前記複数個のパターンが、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態における前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が均一または前記略均一となるような撮影画像を得ることが可能な形状に形成されたカメラ姿勢算出用ターゲット装置を用いて、前記カメラの姿勢を算出すること
    を特徴とする請求項10に記載のカメラ姿勢算出方法。
  12. 前記カメラ姿勢算出用ターゲット装置として、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態において、前記パターン面が前記基準面に対して平行になるように形成され、前記複数個のパターンが、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態における前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が均一または前記略均一となるような撮影画像を得ることが可能な形状に形成されたカメラ姿勢算出用ターゲット装置を用いて、前記カメラの姿勢を算出すること
    を特徴とする請求項10に記載のカメラ姿勢算出方法。
  13. 前記カメラ姿勢算出用ターゲット装置として、前記パターン面が形成された板状体からなるカメラ姿勢算出用ターゲット装置を用いて、前記カメラの姿勢を算出すること
    を特徴とする請求項12に記載のカメラ姿勢算出方法。
  14. 前記カメラ姿勢算出用ターゲット装置として、前記複数個のパターンについての実際の大きさおよび所定の方向において隣位するパターン同士の間の実際の間隔の少なくとも一方が均一に形成され、前記パターン面が、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態において前記カメラの光軸に直交するように形成されたカメラ姿勢算出用ターゲット装置を用いて、前記カメラの姿勢を算出すること
    を特徴とする請求項10に記載のカメラ姿勢算出方法。
  15. 前記カメラ姿勢算出用ターゲット装置として、前記パターンが、円形状、正多角形状、格子線状、または、互いに異なる二色の矩形状が互いに直交する二方向に沿って交互に繰り返し配列されてなる市松模様における一方の色の矩形状に形成されたカメラ姿勢算出用ターゲット装置を用いて、前記カメラの姿勢を算出すること
    を特徴とする請求項14に記載のカメラ姿勢算出方法。
  16. 前記カメラ姿勢算出用ターゲット装置として、前記基準面上への前記カメラ姿勢算出用ターゲット装置の設置状態において前記パターン面が前記カメラの光軸に直交するように前記パターン面を前記基準面に対して傾いた状態に保持する保持部材を有するカメラ姿勢算出用ターゲット装置を用いて、前記カメラの姿勢を算出すること
    を特徴とする請求項11または請求項14に記載のカメラ姿勢算出方法。
  17. 前記カメラとして、超広角レンズを備えたカメラを用いること
    を特徴とする請求項10乃至請求項16のいずれか1項に記載のカメラ姿勢算出方法。
  18. 車両における前記所定の取り付け位置に取り付けられたカメラの前記基準面としての前記車両の載置面に対する姿勢を、前記カメラ姿勢算出用ターゲット装置を用いて算出すること
    を特徴とする請求項10乃至請求項17のいずれか1項に記載のカメラ姿勢算出方法。
  19. 車両における所定の取り付け位置に取り付けられたカメラによって撮影対象面を撮影し、前記撮影対象面の撮影画像に対して座標変換を行うことによって前記車両の周辺を監視するための車両周辺監視画像を生成し、生成された前記車両周辺監視画像を表示部に表示する画像表示方法であって、
    複数個のパターンが形成されたパターン面を有するカメラ姿勢算出用ターゲット装置であり、前記車両の載置面上への前記カメラ姿勢算出用ターゲット装置の設置状態における前記カメラによる前記パターン面の撮影画像として、当該撮影画像における前記複数個のパターンについての大きさおよび所定の方向において隣位するパターン同士の間の間隔の少なくとも一方が、均一、または、当該撮影画像におけるパターンからの特徴点の正確な抽出が可能な程度に均一に近似した状態である略均一となるような撮影画像を得ることが可能に形成されたカメラ姿勢算出用ターゲット装置を前記車両の載置面上に設置し、
    この設置された前記カメラ姿勢算出用ターゲット装置における前記パターン面を、前記カメラによって撮影し、
    この撮影によって得られた前記パターン面の撮影画像におけるパターンから特徴点を抽出し、
    抽出された特徴点に基づいて、前記カメラの姿勢を算出し、
    算出された前記カメラの姿勢と適切な姿勢との間にずれが生じている場合には、車両周辺監視画像の生成の際に、前記撮影対象面の撮影画像に対して当該ずれが解消されるような座標変換を行うこと
    を特徴とする画像表示方法。
JP2007039469A 2007-02-20 2007-02-20 カメラ姿勢算出用ターゲット装置およびこれを用いたカメラ姿勢算出方法ならびに画像表示方法 Expired - Fee Related JP4857143B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007039469A JP4857143B2 (ja) 2007-02-20 2007-02-20 カメラ姿勢算出用ターゲット装置およびこれを用いたカメラ姿勢算出方法ならびに画像表示方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007039469A JP4857143B2 (ja) 2007-02-20 2007-02-20 カメラ姿勢算出用ターゲット装置およびこれを用いたカメラ姿勢算出方法ならびに画像表示方法

Publications (2)

Publication Number Publication Date
JP2008205811A true JP2008205811A (ja) 2008-09-04
JP4857143B2 JP4857143B2 (ja) 2012-01-18

Family

ID=39782829

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007039469A Expired - Fee Related JP4857143B2 (ja) 2007-02-20 2007-02-20 カメラ姿勢算出用ターゲット装置およびこれを用いたカメラ姿勢算出方法ならびに画像表示方法

Country Status (1)

Country Link
JP (1) JP4857143B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010183265A (ja) * 2009-02-04 2010-08-19 Alpine Electronics Inc 画像表示装置及びそのカメラ取り付け角度算出方法
JP2013001155A (ja) * 2011-06-13 2013-01-07 Alpine Electronics Inc 車載カメラ姿勢検出装置および方法
KR101303926B1 (ko) * 2012-05-23 2013-09-05 한국지능기계 주식회사 특징도형을 이용한 카메라의 촬상방법
WO2013133456A1 (en) * 2012-03-09 2013-09-12 Ricoh Company, Limited Image capturing apparatus, image capture system, image processing method, information processing apparatus, and computer-readable storage medium
KR101427181B1 (ko) * 2013-01-09 2014-08-07 아진산업(주) 가변형 타원 패턴을 갖는 차량용 카메라의 교정 지표 및 이를 이용한 교정방법
JP2016080471A (ja) * 2014-10-15 2016-05-16 シャープ株式会社 画像認識処理装置及びプログラム
KR20170001765A (ko) * 2015-06-25 2017-01-05 (주)캠시스 Avm 시스템의 공차 보정 장치 및 방법
KR101762117B1 (ko) 2017-01-18 2017-07-28 (주)캠시스 Avm 시스템의 공차 보정 장치 및 방법
JP2018038087A (ja) * 2012-03-09 2018-03-08 株式会社リコー 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム
JP2018082556A (ja) * 2016-11-16 2018-05-24 トヨタ自動車株式会社 車両

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5820787B2 (ja) 2012-08-30 2015-11-24 株式会社デンソー 画像処理装置、及びプログラム
JP5843033B1 (ja) 2014-05-15 2016-01-13 株式会社リコー 撮像システム、撮像装置、プログラムおよびシステム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000004391A (ja) * 1998-06-16 2000-01-07 Fuji Photo Film Co Ltd 収差補正量設定方法、位置調整装置及び画像処理装置
JP2001116515A (ja) * 1999-10-21 2001-04-27 Matsushita Electric Ind Co Ltd キャリブレーション方法
JP2002232920A (ja) * 2001-01-30 2002-08-16 Clarion Co Ltd 補正パラメータの算出方法及び算出装置、該補正パラメータを利用した画像補正装置及び画像補正方法、並びに、これらに使用される標準試料
JP2005217889A (ja) * 2004-01-30 2005-08-11 Toyota Industries Corp 映像位置関係補正装置、該映像位置関係補正装置を備えた操舵支援装置、及び映像位置関係補正方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000004391A (ja) * 1998-06-16 2000-01-07 Fuji Photo Film Co Ltd 収差補正量設定方法、位置調整装置及び画像処理装置
JP2001116515A (ja) * 1999-10-21 2001-04-27 Matsushita Electric Ind Co Ltd キャリブレーション方法
JP2002232920A (ja) * 2001-01-30 2002-08-16 Clarion Co Ltd 補正パラメータの算出方法及び算出装置、該補正パラメータを利用した画像補正装置及び画像補正方法、並びに、これらに使用される標準試料
JP2005217889A (ja) * 2004-01-30 2005-08-11 Toyota Industries Corp 映像位置関係補正装置、該映像位置関係補正装置を備えた操舵支援装置、及び映像位置関係補正方法

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010183265A (ja) * 2009-02-04 2010-08-19 Alpine Electronics Inc 画像表示装置及びそのカメラ取り付け角度算出方法
JP2013001155A (ja) * 2011-06-13 2013-01-07 Alpine Electronics Inc 車載カメラ姿勢検出装置および方法
US9361687B2 (en) 2011-06-13 2016-06-07 Alpine Electronics, Inc. Apparatus and method for detecting posture of camera mounted on vehicle
US11049215B2 (en) 2012-03-09 2021-06-29 Ricoh Company, Ltd. Image capturing apparatus, image capture system, image processing method, information processing apparatus, and computer-readable storage medium
JP2013214947A (ja) * 2012-03-09 2013-10-17 Ricoh Co Ltd 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム
WO2013133456A1 (en) * 2012-03-09 2013-09-12 Ricoh Company, Limited Image capturing apparatus, image capture system, image processing method, information processing apparatus, and computer-readable storage medium
CN104160693A (zh) * 2012-03-09 2014-11-19 株式会社理光 图像捕获装置、图像捕获系统、图像处理方法、信息处理装置和计算机可读存储介质
KR101613387B1 (ko) 2012-03-09 2016-04-18 가부시키가이샤 리코 화상 캡처링 장치, 화상 캡처 시스템, 화상 처리 방법, 정보 처리 장치, 및 컴퓨터-판독 가능 저장 매체
KR20180121691A (ko) * 2012-03-09 2018-11-07 가부시키가이샤 리코 화상 캡처링 장치, 화상 캡처 시스템, 화상 처리 방법, 정보 처리 장치, 및 컴퓨터-판독 가능 저장 매체
KR102046032B1 (ko) 2012-03-09 2019-11-19 가부시키가이샤 리코 화상 캡처링 장치, 화상 캡처 시스템, 화상 처리 방법, 정보 처리 장치, 및 컴퓨터-판독 가능 저장 매체
KR20190031343A (ko) * 2012-03-09 2019-03-25 가부시키가이샤 리코 화상 캡처링 장치, 화상 캡처 시스템, 화상 처리 방법, 정보 처리 장치, 및 컴퓨터-판독 가능 저장 매체
US9607358B2 (en) 2012-03-09 2017-03-28 Ricoh Company, Limited Image capturing apparatus, image capture system, image processing method, information processing apparatus, and computer-readable storage medium
KR101961364B1 (ko) 2012-03-09 2019-03-25 가부시키가이샤 리코 화상 캡처링 장치, 화상 캡처 시스템, 화상 처리 방법, 정보 처리 장치, 및 컴퓨터-판독 가능 저장 매체
KR101770088B1 (ko) 2012-03-09 2017-08-21 가부시키가이샤 리코 화상 캡처링 장치, 화상 캡처 시스템, 화상 처리 방법, 정보 처리 장치, 및 컴퓨터-판독 가능 저장 매체
JP2018038087A (ja) * 2012-03-09 2018-03-08 株式会社リコー 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム
KR101303926B1 (ko) * 2012-05-23 2013-09-05 한국지능기계 주식회사 특징도형을 이용한 카메라의 촬상방법
KR101427181B1 (ko) * 2013-01-09 2014-08-07 아진산업(주) 가변형 타원 패턴을 갖는 차량용 카메라의 교정 지표 및 이를 이용한 교정방법
JP2016080471A (ja) * 2014-10-15 2016-05-16 シャープ株式会社 画像認識処理装置及びプログラム
KR101705558B1 (ko) 2015-06-25 2017-02-13 (주)캠시스 Avm 시스템의 공차 보정 장치 및 방법
KR20170001765A (ko) * 2015-06-25 2017-01-05 (주)캠시스 Avm 시스템의 공차 보정 장치 및 방법
JP2018082556A (ja) * 2016-11-16 2018-05-24 トヨタ自動車株式会社 車両
KR101762117B1 (ko) 2017-01-18 2017-07-28 (주)캠시스 Avm 시스템의 공차 보정 장치 및 방법

Also Published As

Publication number Publication date
JP4857143B2 (ja) 2012-01-18

Similar Documents

Publication Publication Date Title
JP4857143B2 (ja) カメラ姿勢算出用ターゲット装置およびこれを用いたカメラ姿勢算出方法ならびに画像表示方法
TWI555379B (zh) 一種全景魚眼相機影像校正、合成與景深重建方法與其系統
JP5454674B2 (ja) 画像生成装置、画像生成プログラム、合成テーブル生成装置および合成テーブル生成プログラム
TWI253006B (en) Image processing system, projector, information storage medium, and image processing method
US11145077B2 (en) Device and method for obtaining depth information from a scene
JP4555876B2 (ja) 車載カメラのキャリブレーション方法
KR101666959B1 (ko) 카메라로부터 획득한 영상에 대한 자동보정기능을 구비한 영상처리장치 및 그 방법
KR101265667B1 (ko) 차량 주변 시각화를 위한 3차원 영상 합성장치 및 그 방법
JP6764533B2 (ja) キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法
US20170127045A1 (en) Image calibrating, stitching and depth rebuilding method of a panoramic fish-eye camera and a system thereof
WO2018076154A1 (zh) 一种基于鱼眼摄像机空间位姿标定的全景视频生成方法
WO2017135081A1 (ja) 車載カメラ用校正システム
JP5523730B2 (ja) 車載周辺画像表示装置
US20080181488A1 (en) Camera calibration device, camera calibration method, and vehicle having the calibration device
JP5070435B1 (ja) 3次元相対座標計測装置およびその方法
TW201715880A (zh) 一種全景魚眼相機影像校正、合成與景深重建方法與其系統
JP2009177251A (ja) オルソフォト画像の生成方法、および撮影装置
US20210364900A1 (en) Projection Method of Projection System for Use to Correct Image Distortion on Uneven Surface
KR101583663B1 (ko) 차량용 카메라의 교정판 제공 방법
CN112655024A (zh) 一种图像标定方法及装置
CN108596982A (zh) 一种简易的车载多目摄像机环视系统标定方法及装置
JP2007322170A (ja) 空中写真測量方法
JP5959311B2 (ja) データ導出装置、及び、データ導出方法
CN106886976B (zh) 一种基于内参数修正鱼眼像机的图像生成方法
JP4679293B2 (ja) 車載パノラマカメラシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110823

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111004

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111031

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141104

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4857143

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees