JP2004004043A - カメラ補正装置 - Google Patents

カメラ補正装置 Download PDF

Info

Publication number
JP2004004043A
JP2004004043A JP2003111432A JP2003111432A JP2004004043A JP 2004004043 A JP2004004043 A JP 2004004043A JP 2003111432 A JP2003111432 A JP 2003111432A JP 2003111432 A JP2003111432 A JP 2003111432A JP 2004004043 A JP2004004043 A JP 2004004043A
Authority
JP
Japan
Prior art keywords
position information
optical system
housing
holding
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003111432A
Other languages
English (en)
Other versions
JP4015051B2 (ja
JP2004004043A5 (ja
Inventor
Michio Miwa
三輪 道雄
Ryuichi Mato
間藤 隆一
Masaki Sato
佐藤 政喜
Satoru Masuda
増田 悟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2003111432A priority Critical patent/JP4015051B2/ja
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to US10/512,039 priority patent/US7352388B2/en
Priority to CNB038127008A priority patent/CN1312458C/zh
Priority to EP03720942.6A priority patent/EP1498689B1/en
Priority to KR1020047016893A priority patent/KR100948161B1/ko
Priority to PCT/JP2003/005033 priority patent/WO2003089874A1/ja
Publication of JP2004004043A publication Critical patent/JP2004004043A/ja
Publication of JP2004004043A5 publication Critical patent/JP2004004043A5/ja
Application granted granted Critical
Publication of JP4015051B2 publication Critical patent/JP4015051B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Measurement Of Optical Distance (AREA)

Abstract

【課題】車両などに設置されたカメラの光学系のパラメータを補正することができるカメラ補正装置を提供すること。
【解決手段】第1の筐体位置情報を保持する第1の筐体位置情報保持部115と、第2の筐体位置情報を保持する第2の筐体位置情報保持部116と、第1の光学系位置情報を生成する第1の光学系位置情報生成部117と、第1の光学系位置情報を保持する第1の光学系位置情報保持部118と、第2の光学系位置情報を生成する第2の光学系位置情報生成部120と、第2の光学系位置情報を保持する第2の光学系位置情報保持部130と、カメラ110によって取得された第2の座標系102における画像情報に基づいて、第2の光学系位置情報保持部130に保持された第2の光学系位置情報を補正する補正部160とを備えるように構成する。
【選択図】 図1

Description

【0001】
【発明の属する技術分野】
本発明は、カメラ補正装置に関し、特に、車両などに設置されるカメラの校正を行うカメラ補正装置に関する。
【0002】
【従来の技術】
従来、車両の外部に設置されたカメラに接続され、カメラによって取得された画像情報に基づいて、車両の周辺、特に、路面上の対象物の位置を検出するECU(Electronic Control Unit)などの撮像制御装置が普及している。この種の撮像制御装置に対してカメラを組み合わせる過程においては、カメラ個々の光学系のパラメータを特定するために、一般に「校正」と呼ばれる作業が行われている。
【0003】
上述したカメラの校正を行うカメラ校正装置としては、カメラが車両に設置される前にカメラの校正を行うものと、カメラが車両に設置された後にカメラの校正を行うものとが知られており、特に、カメラを車両に設置する際に行われる作業を簡略化するという観点から、カメラが車両に設置される前にカメラの校正を行うカメラ校正装置の需要が高まっている。
【0004】
このような従来のカメラ校正装置500は、図39から図41に示すように、撮像装置としてのカメラ510に接続されるようになっている。カメラ510は、筐体511と筐体511に支持された光学系512とを有しており、光学系512を介して画像情報を取得するようになっている。
【0005】
カメラ校正装置500は、カメラ生産工場に構成された第1の座標系501に対する筐体511の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持部515と、車両生産工場に構成された第2の座標系502に対する筐体511の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持部516とを備えている。
【0006】
カメラ校正装置500は、カメラ生産工場においてカメラ510の校正を行うようになっており、第1の座標系501には、カメラ510の校正を行うための校正マーカ505が配置されている。ここで、カメラ510の校正とは、筐体511が車両508に対して設計によって決められた位置に設置された場合の光学系512の位置を算出する動作である。
【0007】
また、カメラ校正装置500は、第1の座標系501に対する光学系512の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成部517と、第1の光学系位置情報生成部517によって生成された第1の光学系位置情報を保持する第1の光学系位置情報保持部518とを備えている。第1の光学系位置情報生成部517は、カメラ510によって取得された校正マーカ505の画像情報に基づいて、第1の座標系501に対する光学系512の位置を算出するようになっている。
【0008】
また、カメラ校正装置500は、第2の座標系502に対する光学系512の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成部520と、第2の光学系位置情報生成部520によって生成された第2の光学系位置情報を保持する第2の光学系位置情報保持部530とを備えている。
【0009】
第2の光学系位置情報生成部520は、第1の筐体位置情報保持部515に保持された第1の筐体位置情報および第1の光学系位置情報保持部518に保持された第1の光学系位置情報に基づいて、第2の筐体位置情報保持部516に保持された第2の筐体位置情報から、第2の座標系502に対する光学系512の位置を算出するようになっている。
【0010】
このように構成されたカメラ校正装置500は、第2の座標系502に対する光学系512の位置を算出することにより、カメラ生産工場においてカメラ510の校正を行うようになっている。そして、第2の光学系位置情報保持部530に保持された第2の光学系位置情報に基づいて、車両508に設置されたカメラ510によって取得された画像情報から、撮像制御装置で路面上の対象物の位置を検出するようにしている。
【0011】
【発明が解決しようとする課題】
しかしながら、上記従来のカメラ校正装置においては、第2の光学系位置情報保持部に保持された第2の光学系位置情報を補正することができないため、筐体が車両に対して不正確な位置に設置された場合に、撮像制御装置に路面上の対象物の位置を正確に検出させることができないという問題があった。
【0012】
本発明は、このような問題を解決するため、車両などに設置されたカメラの光学系のパラメータを補正することができるカメラ補正装置を提供するものである。
【0013】
【課題を解決するための手段】
上記の課題を解決するために、本発明のカメラ補正装置は、筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正装置であって、第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持手段と、第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持手段と、前記撮像装置によって取得された前記第1の座標系における画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成手段と、前記第1の光学系位置情報生成手段によって生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持手段と、前記第1の筐体位置情報保持手段に保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持手段に保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持手段に保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成手段と、前記第2の光学系位置情報生成手段によって生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持手段と、前記撮像装置によって取得された前記第2の座標系における画像情報に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する補正手段とを備えたことを特徴とする構成を有している。
【0014】
この構成により、本発明のカメラ補正装置は、車両などに設置されたカメラの光学系のパラメータを補正することができる。
【0015】
また、本発明のカメラ補正装置は、筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正装置であって、所定の座標系に対する前記光学系の位置を示す光学系位置情報を保持する光学系位置情報保持手段と、前記撮像装置によって取得された前記座標系における画像情報に基づいて、前記光学系位置情報保持手段に保持された前記光学系位置情報を補正する補正手段とを備えたことを特徴とする構成を有している。
【0016】
この構成により、本発明のカメラ補正装置は、車両などに設置されたカメラの光学系のパラメータを補正することができる。
【0017】
また、本発明のカメラ補正装置は、筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正装置であって、校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持手段と、補正マーカが配置された第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持手段と、前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成手段と、前記第1の光学系位置情報生成手段によって生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持手段と、前記第1の筐体位置情報保持手段に保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持手段に保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持手段に保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成手段と、前記第2の光学系位置情報生成手段によって生成された前記第2の光学系位置情報に基づいて、前記撮像装置の画像座標系に対する前記補正マーカの予測位置情報を生成する予測位置情報生成手段と、前記第2の光学系位置情報生成手段によって生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持手段と、前記予測位置情報生成手段によって生成された前記予測位置情報を保持する予測位置情報保持手段と、前記撮像装置によって取得された前記補正マーカの画像情報および前記予測位置情報保持手段に保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する補正手段とを備えたことを特徴とする構成を有している。
【0018】
この構成により、本発明のカメラ補正装置は、簡単な補正マーカを利用して第2の光学系位置情報を補正することができる。
【0019】
また、本発明のカメラ補正装置は、前記補正手段が、前記撮像装置によって取得された前記補正マーカの画像情報から、前記撮像装置の画像座標系に対する前記補正マーカの結像位置情報を抽出する結像位置情報抽出手段と、前記結像位置情報抽出手段によって抽出された前記結像位置情報および前記予測位置情報保持手段に保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報の補正量を算出する補正量算出手段と、前記補正量算出手段によって算出された前記補正量に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する光学系位置情報補正手段とを有することを特徴とする構成を有している。
【0020】
この構成により、本発明のカメラ補正装置は、簡単な補正マーカを利用して第2の光学系位置情報の補正量を算出することができる。
【0021】
また、本発明のカメラ補正装置は、前記補正手段が、前記第2の光学系位置情報の回転成分の誤差だけを補正することを特徴とする構成を有している。
【0022】
この構成により、本発明のカメラ補正装置は、前記第2の光学系位置情報の平行移動成分の誤差を無視することができ、簡単な補正マーカを利用して第2の光学系位置情報を補正することができる。
【0023】
また、本発明のカメラ補正装置は、前記結像位置情報抽出手段が、前記撮像装置によって取得された前記補正マーカの画像情報を表示する画像情報表示手段と、前記画像情報表示手段に表示された前記補正マーカの画像情報において前記補正マーカの結像位置を指定し、前記結像位置情報を抽出する結像位置指定手段とを有することを特徴とする構成を有している。
【0024】
この構成により、本発明のカメラ補正装置は、補正マーカの結像位置を指定することができ、補正マーカの結像位置情報を確実に抽出することができる。
【0025】
また、本発明のカメラ補正装置は、前記結像位置情報抽出手段が、前記撮像装置の画像座標系に対する前記補正マーカの予測範囲情報を保持する予測範囲情報保持手段と、前記予測範囲情報保持手段に保持された前記予測範囲情報および前記予測位置情報保持手段に保持された前記予測位置情報に基づいて、前記撮像装置によって取得された前記補正マーカの画像情報から前記補正マーカの結像位置を検索し、前記結像位置情報を抽出する結像位置検索手段とを有することを特徴とする構成を有している。
【0026】
この構成により、本発明のカメラ補正装置は、補正マーカの結像位置を検索することができ、補正マーカの結像位置情報を容易に抽出することができる。
【0027】
また、本発明のカメラ補正装置は、筐体と前記筐体に支持される光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正装置であって、校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持手段と、第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持手段と、前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成手段と、前記第1の光学系位置情報生成手段によって生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持手段と、前記第1の筐体位置情報保持手段に保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持手段に保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持手段に保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成手段と、前記第2の光学系位置情報生成手段によって生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持手段と、前記撮像装置によって取得された前記第2の座標系における画像情報に含まれる動きベクトルに基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する補正手段とを備えたことを特徴とする構成を有している。
【0028】
この構成により、本発明のカメラ補正装置は、動きベクトルを利用して第2の光学系位置情報を補正することができる。
【0029】
また、本発明のカメラ補正装置は、前記補正手段が、前記撮像装置によって取得された前記第2の座標系における画像情報から平面投影画像を生成する平面投影画像生成手段と、前記平面投影画像生成手段によって生成された前記平面投影画像を複数の画像領域に分割する平面投影画像分割手段と、前記平面投影画像分割手段によって分割された複数の前記画像領域から動きベクトルを抽出する動きベクトル抽出手段と、前記動きベクトル抽出手段によって抽出された前記動きベクトルに基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報の補正量を算出する補正量算出手段と、前記補正量算出手段によって算出された前記補正量に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する光学系位置情報補正手段とを有することを特徴とする構成を有している。
【0030】
この構成により、本発明のカメラ補正装置は、複数の画像領域における動きベクトルを容易に抽出することができる。
【0031】
また、本発明のカメラ補正装置は、前記第2の座標系に設けられた分割マーカが、前記第2の筐体位置情報保持手段に保持された前記第2の筐体位置情報に含まれる前記筐体の位置に対して一定の位置関係を保つように配置され、前記平面投影画像分割手段が、前記撮像装置によって取得された前記分割マーカの画像情報に基づいて、前記平面投影画像を複数の画像領域に分割することを特徴とする構成を有している。
【0032】
この構成により、本発明のカメラ補正装置は、分割マーカを利用して平面投影画像を正確に分割することができる。
【0033】
また、本発明のカメラ補正装置は、筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正装置であって、校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持手段と、車両が配置された第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持手段と、前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成手段と、前記第1の光学系位置情報生成手段によって生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持手段と、前記第1の筐体位置情報保持手段に保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持手段に保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持手段に保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成手段と、前記第2の光学系位置情報生成手段によって生成された前記第2の光学系位置情報に基づいて、前記撮像装置の画像座標系に対する前記車両の予測位置情報を生成する予測位置情報生成手段と、前記第2の光学系位置情報生成手段によって生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持手段と、前記予測位置情報生成手段によって生成された前記予測位置情報を保持する予測位置情報保持手段と、前記撮像装置によって取得された前記車両の画像情報および前記予測位置情報保持手段に保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する補正手段とを備えたことを特徴とする構成を有している。
【0034】
この構成により、本発明のカメラ補正装置は、車両の一部を利用して第2の光学系位置情報を補正することができる。
【0035】
また、本発明のカメラ補正装置は、前記補正手段が、前記撮像装置によって取得された前記車両の画像情報から、前記撮像装置の画像座標系に対する前記車両の結像位置情報を抽出する結像位置情報抽出手段と、前記結像位置情報抽出手段によって抽出された前記結像位置情報および前記予測位置情報保持手段に保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報の補正量を算出する補正量算出手段と、前記補正量算出手段によって算出された前記補正量に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する光学系位置情報補正手段とを有することを特徴とする構成を有している。
【0036】
この構成により、本発明のカメラ補正装置は、車両の一部を利用して第2の光学系位置情報の補正量を算出することができる。
【0037】
また、本発明のカメラ補正装置は、前記補正量算出手段が、前記結像位置情報に含まれる前記車両の輪郭線と前記予測位置情報に含まれる前記車両の輪郭線とを重ね合わせるマッチング手段と、前記マッチング手段によって重ね合わされた前記車両の輪郭線から複数の点を抽出する抽出手段と、前記結像位置情報に含まれる前記点と前記予測位置情報に含まれる前記点とを比較することにより前記第2の光学系位置情報の補正量を算出する演算手段とを有することを特徴とする構成を有している。
【0038】
この構成により、本発明のカメラ補正装置は、車両の輪郭線から点を抽出することができ、第2の光学系位置情報の補正量を確実に算出することができる。
【0039】
また、本発明のカメラ補正装置は、前記撮像装置が車両に取り付けられることを特徴とする構成を有している。
【0040】
この構成により、本発明のカメラ補正装置は、筐体が車両に対して不正確な位置に設置された場合に、カメラの光学系のパラメータを補正することができ、路面上の対象物の位置を正確に検出することができる。
【0041】
また、本発明の撮像装置は、カメラ補正装置を備えた構成を有している。
【0042】
この構成により、本発明の撮像装置は、車両などに設置されたカメラの光学系のパラメータを補正することができる。
【0043】
また、本発明の撮像制御装置は、カメラ補正装置を備えた構成を有している。
【0044】
この構成により、本発明の撮像制御装置は、車両などに設置されたカメラの光学系のパラメータを補正することができる。
【0045】
また、本発明のカメラ補正方法は、筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正方法であって、第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、前記撮像装置によって取得された前記第1の座標系における画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、前記撮像装置によって取得された前記第2の座標系における画像情報に基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとを備えたことを特徴とする構成を有している。
【0046】
この構成により、本発明のカメラ補正方法は、車両などに設置されたカメラの光学系のパラメータを補正することができ、路面上の対象物の位置を正確に検出することができる。
【0047】
また、本発明のカメラ補正方法は、筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正方法であって、所定の座標系に対する前記光学系の位置を示す光学系位置情報を保持する光学系位置情報保持ステップと、前記撮像装置によって取得された前記座標系における画像情報に基づいて、前記光学系位置情報保持ステップで保持された前記光学系位置情報を補正する補正ステップとを備えたことを特徴とする構成を有している。
【0048】
この構成により、本発明のカメラ補正方法は、車両などに設置されたカメラの光学系のパラメータを補正することができ、路面上の対象物の位置を正確に検出することができる。
【0049】
また、本発明のカメラ補正方法は、筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正方法であって、校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、補正マーカが配置された第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報に基づいて、前記撮像装置の画像座標系に対する前記補正マーカの予測位置情報を生成する予測位置情報生成ステップと、前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、前記予測位置情報生成ステップで生成された前記予測位置情報を保持する予測位置情報保持ステップと、前記撮像装置によって取得された前記補正マーカの画像情報および前記予測位置情報保持ステップで保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとを備えたことを特徴とする構成を有している。
【0050】
この構成により、本発明のカメラ補正方法は、簡単な補正マーカを利用して第2の光学系位置情報を補正することができる。
【0051】
また、本発明のカメラ補正方法は、筐体と前記筐体に支持される光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正方法であって、校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、前記撮像装置によって取得された前記第2の座標系における画像情報に含まれる動きベクトルに基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとを備えたことを特徴とする構成を有している。
【0052】
この構成により、本発明のカメラ補正方法は、動きベクトルを利用して第2の光学系位置情報を補正することができる。
【0053】
また、本発明のカメラ補正方法は、筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正方法であって、校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、車両が配置された第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報に基づいて、前記撮像装置の画像座標系に対する前記車両の予測位置情報を生成する予測位置情報生成ステップと、前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、前記予測位置情報生成ステップで生成された前記予測位置情報を保持する予測位置情報保持ステップと、前記撮像装置によって取得された前記車両の画像情報および前記予測位置情報保持ステップで保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとを備えたことを特徴とする構成を有している。
【0054】
この構成により、本発明のカメラ補正方法は、車両の一部を利用して第2の光学系位置情報を補正することができる。
【0055】
また、本発明のカメラ補正方法は、前記撮像装置が車両に取り付けられることを特徴とする構成を有している。
【0056】
この構成により、本発明のカメラ補正方法は、筐体を車両に対して不正確な位置に設置した場合に、カメラの光学系のパラメータを補正することができ、路面上の対象物の位置を正確に検出することができる。
【0057】
また、本発明のカメラ補正プログラムは、筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正プログラムであって、第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、前記撮像装置によって取得された前記第1の座標系における画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、前記撮像装置によって取得された前記第2の座標系における画像情報に基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとをコンピュータに実行させることを特徴とする構成を有している。
【0058】
この構成により、本発明のカメラ補正プログラムは、車両などに設置されたカメラの光学系のパラメータを補正することができ、路面上の対象物の位置を正確に検出することができる。
【0059】
また、本発明のカメラ補正プログラムは、筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正プログラムであって、所定の座標系に対する前記光学系の位置を示す光学系位置情報を保持する光学系位置情報保持ステップと、前記撮像装置によって取得された前記座標系における画像情報に基づいて、前記光学系位置情報保持ステップで保持された前記光学系位置情報を補正する補正ステップとをコンピュータに実行させることを特徴とする構成を有している。
【0060】
この構成により、本発明のカメラ補正プログラムは、車両などに設置されたカメラの光学系のパラメータを補正することができ、路面上の対象物の位置を正確に検出することができる。
【0061】
また、本発明のカメラ補正プログラムは、筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正プログラムであって、校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、補正マーカが配置された第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報に基づいて、前記撮像装置の画像座標系に対する前記補正マーカの予測位置情報を生成する予測位置情報生成ステップと、前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、前記予測位置情報生成ステップで生成された前記予測位置情報を保持する予測位置情報保持ステップと、前記撮像装置によって取得された前記補正マーカの画像情報および前記予測位置情報保持ステップで保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとをコンピュータに実行させることを特徴とする構成を有している。
【0062】
この構成により、本発明のカメラ補正プログラムは、簡単な補正マーカを利用して第2の光学系位置情報を補正することができる。
【0063】
また、本発明のカメラ補正プログラムは、筐体と前記筐体に支持される光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正プログラムであって、校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、前記撮像装置によって取得された前記第2の座標系における画像情報に含まれる動きベクトルに基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとをコンピュータに実行させることを特徴とする構成を有している。
【0064】
この構成により、本発明のカメラ補正プログラムは、動きベクトルを利用して第2の光学系位置情報を補正することができる。
【0065】
また、本発明のカメラ補正プログラムは、筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正プログラムであって、校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、車両が配置された第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報に基づいて、前記撮像装置の画像座標系に対する前記車両の予測位置情報を生成する予測位置情報生成ステップと、前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、前記予測位置情報生成ステップで生成された前記予測位置情報を保持する予測位置情報保持ステップと、前記撮像装置によって取得された前記車両の画像情報および前記予測位置情報保持ステップで保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとをコンピュータに実行させることを特徴とする構成を有している。
【0066】
この構成により、本発明のカメラ補正プログラムは、車両の一部を利用して第2の光学系位置情報を補正することができる。
【0067】
【発明の実施の形態】
以下、本発明の実施の形態を図面に基づいて説明する。
(第1の実施の形態)
【0068】
図1から図13は、本発明に係るカメラ補正装置の第1の実施の形態を示す図である。
【0069】
まず、本実施の形態に係るカメラ補正装置の構成について説明する。
【0070】
図1から図3において、カメラ補正装置100は、撮像装置としてのカメラ110に接続されるようになっている。カメラ110は、筐体111と筐体111に支持された光学系112とを有しており、光学系112を介して画像情報を取得するようになっている。
【0071】
カメラ補正装置100は、第1の座標系101に対する筐体111の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持部115と、第2の座標系102に対する筐体111の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持部116と、第1の座標系101に対する校正マーカ105の位置を示す校正マーカ位置情報を保持する校正マーカ位置情報保持部125と、第2の座標系102に対する補正マーカ106の位置を示す補正マーカ位置情報を保持する補正マーカ位置情報保持部126とを備えている。
【0072】
第1の座標系101は、カメラ生産工場などの第1の作業場所に設けられている。第1の座標系101には、X軸、Y軸、Z軸が設けられ、第1の作業場所に設置されたカメラ110の校正を行うための校正マーカ105が配置されている。校正マーカ105は、3次元に配列された複数の点によって構成されており、それぞれの点は、第1の座標系101に対して所定の位置に配置されている。また、校正マーカ105は、第1の作業場所に設置されたカメラ110の視野範囲を覆うように配置されている。
【0073】
第2の座標系102は、車両生産工場などの第2の作業場所に設けられている。第2の座標系102には、X軸、Y軸、Z軸が設けられ、第2の座標系102のX平面は、車両108が設置される路面102aを構成している。路面102aには、補正マーカ106が配置されている。補正マーカ106は、2次元に配列された2個以上の点によって構成されており、それぞれの点は、第2の座標系102に対して所定の位置に配置されている。
【0074】
カメラ補正装置100は、第1の作業場所においてカメラ110の校正を行うようになっている。カメラ110は、第1の座標系101に対して所定の位置に配置されており、このときの筐体111の位置を示す第1の筐体位置情報が、第1の筐体位置情報保持部115に保持されるようになっている。ここで、カメラ110の校正とは、カメラ110が第2の作業場所において車両108に設置されたときの光学系112の位置を算出する動作である。
【0075】
カメラ補正装置100によって校正されたカメラ110は、第2の作業場所において車両108に設置されるようになっている。カメラ110は、第2の座標系102に対して所定の位置に配置されており、このときの筐体111の位置を示す第2の筐体位置情報が、第2の筐体位置情報保持部116に保持されるようになっている。ここで、第2の筐体位置情報は、筐体111が車両108に対して正確な位置に設置された場合の筐体111の位置を示している。
【0076】
また、カメラ補正装置100は、第1の座標系101に対する光学系112の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成部117と、第1の光学系位置情報生成部117によって生成された第1の光学系位置情報を保持する第1の光学系位置情報保持部118とを備えている。
【0077】
第1の光学系位置情報生成部117は、カメラ110によって取得された校正マーカ105の画像情報に基づいて、校正マーカ位置情報保持部125に保持された校正マーカ位置情報から、第1の座標系101に対する光学系112の位置を算出するようになっている。ここで、光学系112の位置とは、光学系112の光学中心および光軸の位置を含むものである。第1の座標系101に対する光学系112の位置を算出する方法としては、文献1(R. Tsai, A versatile camera calibration technique for high−accuracy 3D machine vision metrology using off−the−shelf TV cameras and lenses, IEEE Journal of Robotics and Automation, RA−3(4): 323−344, 1987)に記載された方法を用いることができる。
【0078】
また、カメラ補正装置100は、第2の座標系102に対する光学系112の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成部120と、第2の光学系位置情報生成部120によって生成された第2の光学系位置情報を保持する第2の光学系位置情報保持部130とを備えている。
【0079】
第2の光学系位置情報生成部120は、第1の筐体位置情報保持部115に保持された第1の筐体位置情報および第1の光学系位置情報保持部118に保持された第1の光学系位置情報に基づいて、第2の筐体位置情報保持部116に保持された第2の筐体位置情報から、第2の座標系102に対する光学系112の位置を算出するようになっている。
【0080】
第2の光学系位置情報生成部120は、次の方法によって第2の座標系102に対する光学系112の位置を算出するようになっている。
【0081】
まず、第1の座標系101に対する筐体111の位置と第1の座標系101に対する光学系112の位置とを比較し、筐体111の位置と光学系112の位置との相対関係を求める。そして、筐体111の位置と光学系112の位置との相対関係に基づいて、第2の座標系102に対する筐体111の位置から、第2の座標系102に対する光学系112の位置を算出する。したがって、第2の光学系位置情報は、筐体111が車両108に対して正確な位置に設置された場合の光学系112の位置を示している。
【0082】
第2の作業場所において車両108に設置されたカメラ110には、図4に示すように、第2の光学系位置情報を基準とするカメラ座標系113が構成されている。カメラ座標系113には、x軸、y軸、z軸が設けられ、カメラ座標系113の原点は、光学系112の光学中心と一致するようになっている。カメラ座標系113のx軸は、カメラ110の左右方向に設けられ、カメラ座標系113のy軸は、カメラ110の上下方向に設けられ、カメラ座標系113のz軸は、光学系112の光軸と一致するように設けられている。
【0083】
また、カメラ座標系113の原点からz軸方向に焦点距離fだけ離隔した平面には、画像座標系114が構成されている。画像座標系114には、p軸、q軸が設けられている。カメラ110は、光学系112を介して画像座標系114に結像した画像を画像情報として取得するようになっている。
【0084】
また、カメラ補正装置100は、カメラ110の画像座標系114に対する補正マーカ106の予測位置情報を生成する予測位置情報生成部140と、予測位置情報生成部140によって生成された予測位置情報を保持する予測位置情報保持部150とを備えている。
【0085】
予測位置情報生成部140は、第2の光学系位置情報生成部120によって生成された第2の光学系位置情報に基づいて、補正マーカ位置情報保持部126に保持された補正マーカ位置情報から、カメラ110の画像座標系114に対する補正マーカ106の予測位置を算出するようになっている。カメラ110の画像座標系114に対する補正マーカ106の予測位置を算出する方法としては、上記の文献1に記載された方法を用いることができる。
【0086】
第2の座標系102に配置された補正マーカ106は、図5に示すように、光学系112を介して画像座標系114の結像位置P’(n=1,2,3,4,5,6)に結像するようになっている。ここで、結像位置P’は、筐体111が車両108に対して正確な位置、即ち、第2の筐体位置情報に含まれる位置に設置され、第2の光学系位置情報に誤差が生じていない場合、予測位置情報生成部140によって算出された予測位置P(n=1,2,3,4,5,6)と一致するようになっている。しかしながら、実際には、筐体111が車両108に対して不正確な位置に設置され、第2の光学系位置情報に誤差が生じることにより、画像座標系114における結像位置P’は、予測位置Pから離隔している。
【0087】
第2の光学系位置情報は、第2の座標系102に対するカメラ座標系113の平行移動および回転を示す6個のパラメータを含んでいる。この6個のパラメータは、図6に示すX軸、Y軸、Z軸方向の平行移動成分と、図7に示すx軸、y軸、z軸まわりの回転成分とによって構成されている。筐体111が車両108に対して不正確な位置に設置されることによって生じる第2の光学系位置情報の誤差は、平行移動成分および回転成分のそれぞれの誤差を含んでいる。筐体111が車両108に取り付けられる際には、平行移動成分にして数cm、回転成分にして数度の誤差が生じている。
【0088】
ここで、カメラ110によって取得された路面102aの画像情報に対して車両108の駐車動作を補助するための補助線を表示する場合を考える。なお、筐体111は、車両108に対して高さ1000mmの位置に設置され、補助線は、車両108の後端から3000mmの位置に表示されるものとする。
【0089】
まず、図8に示すように、筐体111が車両108に対してY軸方向に50mmずれた位置に設置された場合、即ち、第2の光学系位置情報のY軸方向の平行移動成分に誤差が生じた場合には、誤差が生じていない場合と比較して補助線がY軸方向に50mmずれた位置に表示される。この場合、3000mm先の50mmの離隔量であるため、図5に示す画像座標系114における結像位置P’の予測位置Pからの離隔量は小さい。したがって、第2の光学系位置情報の平行移動成分の誤差は無視することができる。
【0090】
これに対して、図9に示すように、筐体111が車両108に対してx軸まわりに1°ずれた位置に設置された場合、即ち、第2の光学系位置情報のx軸まわりの回転成分に誤差が生じた場合には、誤差が生じていない場合と比較して補助線がY軸方向に約184mmずれた位置に表示される。この場合、図5に示す画像座標系114における結像位置P’の予測位置Pからの離隔量は無視できなくなる。したがって、第2の光学系位置情報の回転成分の誤差だけを第2の光学系位置情報の誤差として用いることができる。
【0091】
このような第2の光学系位置情報の誤差を補正するため、カメラ補正装置100は、第2の光学系位置情報保持部130に保持された第2の光学系位置情報を補正する補正部160を備えている。
【0092】
補正部160は、カメラ110によって取得された補正マーカ106の画像情報および予測位置情報保持部150に保持された予測位置情報に基づいて、第2の光学系位置情報保持部130に保持された第2の光学系位置情報を補正するようになっている。
【0093】
補正部160は、カメラ110によって取得された補正マーカ106の画像情報から、カメラ110の画像座標系114に対する補正マーカ106の結像位置情報を抽出する結像位置情報抽出部170と、結像位置情報抽出部170によって抽出された結像位置情報および予測位置情報保持部150に保持された予測位置情報に基づいて、第2の光学系位置情報保持部130に保持された第2の光学系位置情報の補正量を算出する補正量算出部180と、補正量算出部180によって算出された補正量に基づいて、第2の光学系位置情報保持部130に保持された第2の光学系位置情報を補正する光学系位置情報補正部190とを有している。
【0094】
結像位置情報抽出部170は、カメラ110によって取得された補正マーカ106の画像情報を表示する画像情報表示部171と、画像情報表示部171に表示された補正マーカ106の画像情報において補正マーカ106の結像位置P’を指定し、画像情報から結像位置情報を抽出する結像位置指定部172とを有している。
【0095】
図10に示すように、画像情報表示部171には、カメラ110によって取得された補正マーカ106の画像情報と、補正マーカ106の結像位置P’を指定するカーソル174とが表示されるようになっている。
【0096】
結像位置指定部172には、画像情報表示部171に表示されたカーソル174の位置を移動させる上方向キー175a、下方向キー175b、左方向キー175cおよび右方向キー175dと、カーソル174の位置を決定する決定キー176と、補正マーカ106の点の番号nを表示する番号表示部177と、番号表示部177に表示された番号nを変更する加算キー178aおよび減算キー178bとが設けられている。
【0097】
補正量算出部180は、次の方法によって第2の光学系位置情報の補正量を算出するようになっている。
【0098】
まず、第2の光学系位置情報の回転成分の誤差だけを第2の光学系位置情報の誤差として用い、筐体111が車両108に対して傾いた位置に設置されたものとする。このときのカメラ座標系113のx軸、y軸、z軸まわりの回転角をそれぞれθ、φ、ψ、画像座標系114における結像位置P’の座標を(p’,q’)、予測位置Pの座標を(p,q)と表すと、θ、φ、ψの値は、式(1)において、Jの値を最小にするR11、R12、R13、R21、R22、R23、R31、R32、R33を求めることにより算出される。
【数1】
Figure 2004004043
なお、式(1)において、(p’,q’)と(p,q)との関係は、式(2)のように表される。
【数2】
Figure 2004004043
また、R11からR33とθ、φ、ψとの関係は、式(3)、式(4)、式(5)のように表される。
【数3】
Figure 2004004043
なお、本実施の形態では、補正マーカ106が6個の点によって構成されているが、補正マーカ106は2個以上の点によって構成されていればよく、補正量算出部180は、補正マーカ106が2個の点によって構成されていれば、θ、φ、ψの値を算出することができ、補正マーカ106が3個以上の点によって構成されていれば、θ、φ、ψの値をより正確に算出することができる。
【0099】
このように構成されたカメラ補正装置100は、図11に示すように、カメラ110を調整するためのコンピュータ191、カメラ110を制御する撮像制御装置としてのECU192などによって実現されている。
【0100】
コンピュータ191は、CPU、RAM、ROM、入出力インターフェイスなどによって構成されており、図11(a)に示すように、第1の作業場所においてカメラ110に接続されるようになっている。なお、本実施の形態において、コンピュータ191は、上述した第1の筐体位置情報保持部115、第2の筐体位置情報保持部116、第1の光学系位置情報生成部117、第1の光学系位置情報保持部118、第2の光学系位置情報生成部120、校正マーカ位置情報保持部125、補正マーカ位置情報保持部126、第2の光学系位置情報保持部130、予測位置情報生成部140および予測位置情報保持部150を構成している。
【0101】
ECU192は、CPU、RAM、ROM、入出力インターフェイスなどによって構成されており、図11(c)に示すように、第2の作業場所においてカメラ110に接続され、車両108に搭載されるようになっている。なお、本実施の形態において、ECU192は、上述した第2の光学系位置情報保持部130、予測位置情報保持部150および補正部160を構成している。
【0102】
第1の作業場所から第2の作業場所には、図11(b)に示すように、CD−ROM、磁気ディスクなどの記録媒体193が添付されたカメラ110が搬送されるようになっている。記録媒体193には、第2の光学系位置情報および予測位置情報が記録されており、第2の光学系位置情報および予測位置情報をコンピュータ191からECU192に移送するために用いられるようになっている。
【0103】
なお、本実施の形態では、第1の作業場所から第2の作業場所には、カメラ110および記録媒体193が搬送されるようになっているが、図12に示すように、カメラ110、第2の光学系位置情報保持部130、予測位置情報保持部150および補正部160によって構成されたカメラユニット194が搬送されるように構成してもよい。
【0104】
次に、本実施の形態に係るカメラ補正装置の動作について説明する。
【0105】
図13において、カメラ補正装置100は、次の工程で第2の光学系位置情報を補正する。
【0106】
まず、カメラ110が、第1の作業場所に設置され、第1の座標系101に対して所定の位置に配置される(S101)。そして、第1の筐体位置情報、第2の筐体位置情報、校正マーカ位置情報および補正マーカ位置情報が、第1の筐体位置情報保持部115、第2の筐体位置情報保持部116、校正マーカ位置情報保持部125および補正マーカ位置情報保持部126にそれぞれ保持される(S102)。ここで、第1の筐体位置情報、第2の筐体位置情報、校正マーカ位置情報および補正マーカ位置情報は、測定器によって測定された位置、設計において設定された位置などを基にして取得される。
【0107】
次に、カメラ110によって校正マーカ105が撮影され(S103)、第1の光学系位置情報生成部117が、カメラ110によって取得された校正マーカ105の画像情報に基づいて、校正マーカ位置情報保持部125に保持された校正マーカ位置情報から、第1の光学系位置情報を生成する(S104)。そして、第1の光学系位置情報生成部117によって生成された第1の光学系位置情報が、第1の光学系位置情報保持部118に保持される(S105)。
【0108】
次に、第2の光学系位置情報生成部120が、第1の筐体位置情報保持部115に保持された第1の筐体位置情報および第1の光学系位置情報保持部118に保持された第1の光学系位置情報に基づいて、第2の筐体位置情報保持部116に保持された第2の筐体位置情報から、第2の光学系位置情報を生成する(S106)。そして、第2の光学系位置情報生成部120によって生成された第2の光学系位置情報が、第2の光学系位置情報保持部130に保持される(S107)。
【0109】
次に、予測位置情報生成部140が、第2の光学系位置情報生成部120によって生成された第2の光学系位置情報に基づいて、補正マーカ位置情報保持部126に保持された補正マーカ位置情報から、カメラ110の画像座標系114に対する補正マーカ106の予測位置情報を生成する(S108)。そして、予測位置情報生成部140によって生成された予測位置情報が、予測位置情報保持部150に保持される(S109)。
【0110】
次に、カメラ110および記録媒体193が、第1の作業場所から第2の作業場所に搬送される。そして、カメラ110が、第2の作業場所において車両108に設置され、第2の座標系102に対して所定の位置に配置される(S110)。
【0111】
次に、カメラ110によって補正マーカ106が撮影され(S111)、カメラ110によって取得された補正マーカ106の画像情報が、図10に示すように、画像情報表示部171に表示される(S112)。そして、結像位置指定部172によって、補正マーカ106の結像位置P’が指定され、結像位置情報が抽出される(S113)。このとき、操作者は、加算キー178aおよび減算キー178bを操作して番号表示部177に表示される番号nを変更し、上方向キー175a、下方向キー175b、左方向キー175cおよび右方向キー175dを操作して画像情報表示部171に表示されるカーソル174の位置を移動させ、決定キー176を操作してカーソル174の位置を決定することにより、番号表示部177に表示された番号nに対応する補正マーカ106の結像位置P’を指定する。
【0112】
次に、補正量算出部180が、結像位置情報抽出部170によって抽出された結像位置情報および予測位置情報保持部150に保持された予測位置情報に基づいて、第2の光学系位置情報保持部130に保持された第2の光学系位置情報の補正量を算出する(S114)。
【0113】
そして、光学系位置情報補正部190が、補正量算出部180によって算出された補正量に基づいて、第2の光学系位置情報保持部130に保持された第2の光学系位置情報を補正して(S115)、工程を終了する。なお、本実施の形態では、上述したステップS101からS115を記述したプログラムをコンピュータに実行させてもよい。
【0114】
以上説明したように、本実施の形態においては、車両108などに設置されたカメラ110の光学系のパラメータを補正することができ、路面上の対象物の位置を正確に検出することができる。
【0115】
また、本実施の形態においては、簡単な補正マーカ106を利用して第2の光学系位置情報を補正することができる。
【0116】
また、本実施の形態においては、補正マーカ106の結像位置を指定することができ、補正マーカ106の結像位置情報を確実に抽出することができる。
(第2の実施の形態)
【0117】
図14から図16は、本発明に係るカメラ補正装置の第2の実施の形態を示す図である。
【0118】
まず、本実施の形態に係るカメラ補正装置の構成について説明する。なお、第1の実施の形態に係るカメラ補正装置の構成とほぼ同様な構成については、第1の実施の形態において使用した符号と同一の符号を付して、詳細な説明を省略する。
【0119】
図14において、カメラ補正装置200は、第2の光学系位置情報保持部130に保持された第2の光学系位置情報を補正する補正部260を備えている。
【0120】
補正部260は、カメラ110によって取得された補正マーカ106の画像情報および予測位置情報保持部150に保持された予測位置情報に基づいて、第2の光学系位置情報保持部130に保持された第2の光学系位置情報を補正するようになっている。
【0121】
補正部260は、カメラ110によって取得された補正マーカ106の画像情報から、カメラ110の画像座標系114に対する補正マーカ106の結像位置情報を抽出する結像位置情報抽出部270と、結像位置情報抽出部270によって抽出された結像位置情報および予測位置情報保持部150に保持された予測位置情報に基づいて、第2の光学系位置情報保持部130に保持された第2の光学系位置情報の補正量を算出する補正量算出部280と、補正量算出部280によって算出された補正量に基づいて、第2の光学系位置情報保持部130に保持された第2の光学系位置情報を補正する光学系位置情報補正部290とを有している。
【0122】
結像位置情報抽出部270は、カメラ110の画像座標系114に対する補正マーカ106の予測範囲274を示す予測範囲情報(図15参照)を保持する予測範囲情報保持部271と、予測範囲情報保持部271に保持された予測範囲情報および予測位置情報保持部150に保持された予測位置情報に基づいて、カメラ110によって取得された補正マーカ106の画像情報から補正マーカ106の結像位置P’を検索し、結像位置情報を抽出する結像位置検索部272とを有している。
【0123】
補正量算出部280は、第1の実施の形態における補正量算出部180と同様の方法によって第2の光学系位置情報の補正量を算出するようになっている。
【0124】
次に、本実施の形態に係るカメラ補正装置の動作について説明する。
【0125】
図16において、カメラ補正装置200は、次の工程で第2の光学系位置情報を補正する。
【0126】
まず、カメラ110が、第1の作業場所に設置され、第1の座標系101に対して所定の位置に配置される(S201)。そして、第1の筐体位置情報、第2の筐体位置情報、校正マーカ位置情報および補正マーカ位置情報が、第1の筐体位置情報保持部115、第2の筐体位置情報保持部116、校正マーカ位置情報保持部125および補正マーカ位置情報保持部126にそれぞれ保持される(S202)。ここで、第1の筐体位置情報、第2の筐体位置情報、校正マーカ位置情報および補正マーカ位置情報は、測定器によって測定された位置、設計において設定された位置などを基にして取得される。
【0127】
次に、カメラ110によって校正マーカ105が撮影され(S203)、第1の光学系位置情報生成部117が、カメラ110によって取得された校正マーカ105の画像情報に基づいて、校正マーカ位置情報保持部125に保持された校正マーカ位置情報から、第1の光学系位置情報を生成する(S204)。そして、第1の光学系位置情報生成部117によって生成された第1の光学系位置情報が、第1の光学系位置情報保持部118に保持される(S205)。
【0128】
次に、第2の光学系位置情報生成部120が、第1の筐体位置情報保持部115に保持された第1の筐体位置情報および第1の光学系位置情報保持部118に保持された第1の光学系位置情報に基づいて、第2の筐体位置情報保持部116に保持された第2の筐体位置情報から、第2の光学系位置情報を生成する(S206)。そして、第2の光学系位置情報生成部120によって生成された第2の光学系位置情報が、第2の光学系位置情報保持部130に保持される(S207)。
【0129】
次に、予測位置情報生成部140が、第2の光学系位置情報生成部120によって生成された第2の光学系位置情報に基づいて、補正マーカ位置情報保持部126に保持された補正マーカ位置情報から、カメラ110の画像座標系114に対する補正マーカ106の予測位置情報を生成する(S208)。そして、予測位置情報生成部140によって生成された予測位置情報が、予測位置情報保持部150に保持される(S209)。
【0130】
次に、カメラ110および記録媒体193が、第1の作業場所から第2の作業場所に搬送される。そして、カメラ110が、第2の作業場所において車両108に設置され、第2の座標系102に対して所定の位置に配置される(S210)。
【0131】
次に、カメラ110によって補正マーカ106が撮影され(S211)、結像位置検索部272が、図15に示すように、補正マーカ106の予測位置Pを中心として予測範囲274の内側に存在する結像位置P’を検索し、画像情報から結像位置情報を抽出する(S212)。
【0132】
次に、補正量算出部280が、結像位置情報抽出部270によって抽出された結像位置情報および予測位置情報保持部150に保持された予測位置情報に基づいて、第2の光学系位置情報保持部130に保持された第2の光学系位置情報の補正量を算出する(S213)。
【0133】
そして、光学系位置情報補正部290が、補正量算出部280によって算出された補正量に基づいて、第2の光学系位置情報保持部130に保持された第2の光学系位置情報を補正して(S214)、工程を終了する。なお、本実施の形態では、上述したステップS201からS214を記述したプログラムをコンピュータに実行させてもよい。
【0134】
以上説明したように、本実施の形態においては、補正マーカ106の結像位置を検索することができ、補正マーカ106の結像位置情報を容易に抽出することができる。
(第3の実施の形態)
【0135】
図17から図28は、本発明に係るカメラ補正装置の第3の実施の形態を示す図である。
【0136】
まず、本実施の形態に係るカメラ補正装置の構成について説明する。
【0137】
図17から図19において、カメラ補正装置300は、撮像装置としてのカメラ310に接続されるようになっている。カメラ310は、筐体311と筐体311に支持された光学系312とを有しており、光学系312を介して画像情報を取得するようになっている。
【0138】
カメラ補正装置300は、第1の座標系301に対する筐体311の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持部315と、第2の座標系302に対する筐体311の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持部316と、第1の座標系301に対する校正マーカ305の位置を示す校正マーカ位置情報を保持する校正マーカ位置情報保持部325とを備えている。
【0139】
第1の座標系301は、カメラ生産工場などの第1の作業場所に設けられている。第1の座標系301には、X軸、Y軸、Z軸が設けられ、第1の作業場所に設置されたカメラ310の校正を行うための校正マーカ305が配置されている。校正マーカ305は、3次元に配列された複数の点によって構成されており、それぞれの点は、第1の座標系301に対して所定の位置に配置されている。また、校正マーカ305は、第1の作業場所に設置されたカメラ310の視野範囲を覆うように配置されている。
【0140】
第2の座標系302は、車両生産工場などの第2の作業場所に設けられている。第2の座標系302には、X軸、Y軸、Z軸が設けられ、第2の座標系302のX平面は、車両308が走行する路面302aを構成している。車両308のバンパー部309には、分割マーカ307が配置されている。分割マーカ307は、2個の点によって構成されており、それぞれの点は、車両308に設置されたカメラ310の視野範囲内に配置されている。また、分割マーカ307は、車両308に設置されたカメラ310の真下位置に設けられている。
【0141】
カメラ補正装置300は、第1の作業場所においてカメラ310の校正を行うようになっている。カメラ310は、第1の座標系301に対して所定の位置に配置されており、このときの筐体311の位置を示す第1の筐体位置情報が、第1の筐体位置情報保持部315に保持されるようになっている。ここで、カメラ310の校正とは、カメラ310が第2の作業場所において車両308に設置されたときの光学系312の位置を算出する動作である。
【0142】
カメラ補正装置300によって校正されたカメラ310は、第2の作業場所において車両308に設置されるようになっている。カメラ310は、第2の座標系302に対して所定の位置に配置されており、このときの筐体311の位置を示す第2の筐体位置情報が、第2の筐体位置情報保持部316に保持されるようになっている。ここで、第2の筐体位置情報は、筐体311が車両308に対して正確な位置に設置された場合の筐体311の位置を示している。
【0143】
車両308のバンパー部309に配置された分割マーカ307は、第2の筐体位置情報に含まれる筐体311の位置に対して一定の位置関係を保つように配置されている。したがって、車両308が路面302a上を走行した場合でも、分割マーカ307の位置と第2の筐体位置情報に含まれる筐体311の位置との相対関係は一定である。
【0144】
また、カメラ補正装置300は、第1の座標系301に対する光学系312の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成部317と、第1の光学系位置情報生成部317によって生成された第1の光学系位置情報を保持する第1の光学系位置情報保持部318とを備えている。
【0145】
第1の光学系位置情報生成部317は、カメラ310によって取得された校正マーカ305の画像情報に基づいて、校正マーカ位置情報保持部325に保持された校正マーカ位置情報から、第1の座標系301に対する光学系312の位置を算出するようになっている。ここで、光学系312の位置とは、光学系312の光学中心および光軸の位置を含むものである。第1の座標系301に対する光学系312の位置を算出する方法としては、文献1に記載された方法を用いることができる。
【0146】
また、カメラ補正装置300は、第2の座標系302に対する光学系312の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成部320と、第2の光学系位置情報生成部320によって生成された第2の光学系位置情報を保持する第2の光学系位置情報保持部330とを備えている。
【0147】
第2の光学系位置情報生成部320は、第1の筐体位置情報保持部315に保持された第1の筐体位置情報および第1の光学系位置情報保持部318に保持された第1の光学系位置情報に基づいて、第2の筐体位置情報保持部316に保持された第2の筐体位置情報から、第2の座標系302に対する光学系312の位置を算出するようになっている。
【0148】
第2の光学系位置情報生成部320は、第1の実施の形態における第2の光学系位置情報生成部120と同様の方法によって第2の座標系302に対する光学系312の位置を算出するようになっている。
【0149】
第2の作業場所において車両308に設置されたカメラ310には、図20に示すように、第2の光学系位置情報を基準とするカメラ座標系313が構成されている。カメラ座標系313には、x軸、y軸、z軸が設けられ、カメラ座標系313の原点は、光学系312の光学中心と一致するようになっている。カメラ座標系313のx軸は、カメラ310の左右方向に設けられ、カメラ座標系313のy軸は、カメラ310の上下方向に設けられ、カメラ座標系313のz軸は、光学系312の光軸と一致するように設けられている。
【0150】
また、カメラ座標系313の原点からz軸方向に焦点距離fだけ離隔した平面には、画像座標系314が構成されている。画像座標系314には、p軸、q軸が設けられている。路面302a上の点Pは、光学系312を介して画像座標系314の結像位置P’に結像するようになっている。カメラ310は、光学系312を介して画像座標系314に結像した画像を画像情報として取得するようになっている。
【0151】
また、カメラ補正装置300は、カメラ310によって取得された第2の座標系302における画像情報に含まれる動きベクトルに基づいて、第2の光学系位置情報保持部330に保持された第2の光学系位置情報を補正する補正部360を備えている。
【0152】
補正部360は、カメラ310によって取得された第2の座標系302における画像情報から平面投影画像を生成する平面投影画像生成部361と、平面投影画像生成部361によって生成された平面投影画像を複数の画像領域に分割する平面投影画像分割部362と、平面投影画像分割部362によって分割された複数の画像領域から動きベクトルを抽出する動きベクトル抽出部363と、動きベクトル抽出部363によって抽出された動きベクトルに基づいて、第2の光学系位置情報保持部330に保持された第2の光学系位置情報の補正量を算出する補正量算出部364と、補正量算出部364によって算出された補正量に基づいて、第2の光学系位置情報保持部330に保持された第2の光学系位置情報を補正する光学系位置情報補正部365とを有している。
【0153】
平面投影画像生成部361によって生成される平面投影画像は、図21に示すように、カメラ310によって取得された画像情報を路面302aに仮想的に投影し、この画像を仮想カメラ370から見ることによって取得される画像である。この仮想カメラ370には、路面302aに対して平行な画像座標系371が構成されており、この画像座標系371には、路面302aを単に縮小した画像としての平面投影画像が結像するようになっている。
【0154】
平面投影画像生成部361は、次の方法によって平面投影画像を生成するようになっている。
【0155】
図20において、カメラ座標系313のx軸と路面302aのなす角をα、y軸と路面302aのなす角をβと表し、カメラ座標系313の原点からz軸の延長線と路面302aとの交点までの距離をcと表す。そして、式(6)のようにa、bを定義すると、第2の座標系302のX平面としての路面302aは、式(7)のように表される。
【数4】
Figure 2004004043
ここで、画像座標系314の結像位置P’の座標を(p,q)と表すと、画像座標系314からカメラ座標系313への変換は、式(8)のように表される。
【数5】
Figure 2004004043
また、カメラ座標系313から第2の座標系302への変換は、式(9)のように表される。
【数6】
Figure 2004004043
なお、式(9)において、平行移動ベクトルTは、カメラ座標系313の原点から第2の座標系302の原点までの方向および距離を表し、回転行列Rは、カメラ座標系313と第2の座標系302との回転方向のずれを表している。本実施の形態においても第1の実施の形態と同様に、第2の光学系位置情報の回転成分の誤差だけを第2の光学系位置情報の誤差として用い、筐体311が車両308に対して傾いた位置に設置されたものとする。このときのカメラ座標系313のx軸、y軸、z軸まわりの回転角をそれぞれθ、φ、ψと表すと、式(9)における回転行列Rは、式(3)から式(5)によって表される。
【0156】
筐体311が車両308に対して正確な位置に設置された場合、平面投影画像生成部361は、図22(a)に示す画像情報から、図22(b)に示す平面投影画像を生成するようになっている。この平面投影画像は、路面302aに対して平行に設けられた仮想カメラ370から見ることによって取得される画像に相当しているので、路面302aに設けられた平行線373、374が、平面投影画像において平行になっている。
【0157】
また、筐体311が車両308に対して下向きに傾いた位置に設置され、カメラ座標系313がx軸まわりに回転した場合、平面投影画像生成部361は、図23(a)に示す画像情報から、図23(b)に示す平面投影画像を生成するようになっている。
【0158】
また、筐体311が車両308に対して左向きに傾いた位置に設置され、カメラ座標系313がy軸まわりに回転した場合、平面投影画像生成部361は、図24(a)に示す画像情報から、図24(b)に示す平面投影画像を生成するようになっている。
【0159】
また、筐体311が車両308に対して傾いた位置に設置され、カメラ座標系313がz軸まわりに回転した場合、平面投影画像生成部361は、図25(a)に示す画像情報から、図25(b)に示す平面投影画像を生成するようになっている。
【0160】
平面投影画像分割部362は、図22(b)、図23(b)、図24(b)および図25(b)に示すように、カメラ310によって取得された分割マーカ307の画像情報に基づいて、平面投影画像を複数の画像領域に分割するようになっている。
【0161】
平面投影画像分割部362は、分割マーカ307を通る基準線380および分割マーカ307の中点381を基準にして、平面投影画像に分割線383、384を設けるようになっている。分割線383は、基準線380に直行し、中点381を通る位置に設けられている。また、分割線384は、基準線380に平行で、基準線380から一定の距離だけ離隔する位置に設けられている。
【0162】
筐体311が車両308に対して傾いた位置に設置され、カメラ座標系313がz軸まわりに回転した場合、図25(b)に示すように、基準線380は、平面投影画像に対して傾いている。
【0163】
動きベクトル抽出部363は、図22(b)、図23(b)、図24(b)および図25(b)に示すように、平面投影画像分割部362によって分割された4つの画像領域386a、386b、386c、386dから動きベクトル388a、388b、388c、388dを抽出するようになっている。
【0164】
動きベクトル388aから388dは、車両308の走行、即ち、カメラ310の移動によって生じる画像領域386aから386dの部分的な画像の流れに基づいて算出されるもので、車両308が直進している場合に方向が等しくなる。以下、動きベクトル388aから388dは、車両308が直進しているときに取得される画像情報から抽出されるものとする。
【0165】
筐体311が車両308に対して正確な位置に設置された場合、図22(b)に示すように、動きベクトル388aから388dは、大きさが等しくなる。
【0166】
また、筐体311が車両308に対して下向きに傾いた位置に設置され、カメラ座標系313がx軸まわりに回転した場合、図23(b)に示すように、画像上側の動きベクトル388a、388bが、画像下側の動きベクトル388c、388dよりも大きくなる。
【0167】
また、筐体311が車両308に対して左向きに傾いた位置に設置され、カメラ座標系313がy軸まわりに回転した場合、図24(b)に示すように、画像右側の動きベクトル388b、388dが、画像左側の動きベクトル388a、388cよりも大きくなる。
【0168】
補正量算出部364は、次の方法によって第2の光学系位置情報の補正量を算出するようになっている。
【0169】
図22(c)、図23(c)および図24(c)において、まず、動きベクトル388aに大きさが等しいベクトル390aと、動きベクトル388bに大きさが等しいベクトル390bと、動きベクトル388cに大きさが等しいベクトル390cと、動きベクトル388dに大きさが等しいベクトル390dとを、合計ベクトル算出座標系391にそれぞれ配置する。
【0170】
ここで、ベクトル390aは、合計ベクトル算出座標系391の原点から左上45度方向に配置されている。また、ベクトル390bは、合計ベクトル算出座標系391の原点から右上45度方向に配置されている。また、ベクトル390cは、合計ベクトル算出座標系391の原点から左下45度方向に配置されている。また、ベクトル390dは、合計ベクトル算出座標系391の原点から右下45度方向に配置されている。
【0171】
次に、合計ベクトル算出座標系391において、ベクトル390aから390dの合計ベクトル392を算出する。
【0172】
筐体311が車両308に対して正確な位置に設置された場合、図22(c)に示すように、ベクトル390aから390dの大きさが等しいので、合計ベクトル392は0になる。このとき、カメラ座標系313のx軸、y軸、z軸まわりの回転角θ、φ、ψの値は0である。
【0173】
また、筐体311が車両308に対して下向きに傾いた位置に設置され、カメラ座標系313がx軸まわりに回転した場合、図23(c)に示すように、ベクトル390a、390bが、ベクトル390c、390dよりも大きいので、合計ベクトル392は上向きのベクトルになる。このとき、式(9)において、合計ベクトル392を0にする回転行列Rを求めることにより、カメラ座標系313のx軸まわりの回転角θの値を算出する。
【0174】
また、筐体311が車両308に対して左向きに傾いた位置に設置され、カメラ座標系313がy軸まわりに回転した場合、図24(c)に示すように、ベクトル390b、390dが、ベクトル390a、390cよりも大きいので、合計ベクトル392は右向きのベクトルになる。このとき、式(9)において、合計ベクトル392を0にする回転行列Rを求めることにより、カメラ座標系313のy軸まわりの回転角φの値を算出する。
【0175】
一方、筐体311が車両308に対して傾いた位置に設置され、カメラ座標系313がz軸まわりに回転した場合、図25(b)に示す平面投影画像の画像座標系371に対する基準線380の傾きに基づいて、カメラ座標系313のz軸まわりの回転角ψの値を算出する。
【0176】
このように構成されたカメラ補正装置100は、図26に示すように、カメラ310を調整するためのコンピュータ391、カメラ310を制御する撮像制御装置としてのECU392などによって実現されている。
【0177】
コンピュータ391は、CPU、RAM、ROM、入出力インターフェイスなどによって構成されており、図26(a)に示すように、第1の作業場所においてカメラ310に接続されるようになっている。なお、本実施の形態において、コンピュータ391は、上述した第1の筐体位置情報保持部315、第2の筐体位置情報保持部316、第1の光学系位置情報生成部317、第1の光学系位置情報保持部318、第2の光学系位置情報生成部320、校正マーカ位置情報保持部325および第2の光学系位置情報保持部330を構成している。
【0178】
ECU392は、CPU、RAM、ROM、入出力インターフェイスなどによって構成されており、図26(c)に示すように、第2の作業場所においてカメラ310に接続され、車両308に搭載されるようになっている。なお、本実施の形態において、ECU392は、上述した第2の光学系位置情報保持部330および補正部360を構成している。
【0179】
第1の作業場所から第2の作業場所には、図26(b)に示すように、CD−ROM、磁気ディスクなどの記録媒体393が添付されたカメラ310が搬送されるようになっている。記録媒体393には、第2の光学系位置情報が記録されており、第2の光学系位置情報をコンピュータ391からECU392に移送するために用いられるようになっている。
【0180】
なお、本実施の形態では、第1の作業場所から第2の作業場所には、カメラ310および記録媒体393が搬送されるようになっているが、図27に示すように、カメラ310、第2の光学系位置情報保持部330および補正部360によって構成されたカメラユニット394が搬送されるように構成してもよい。
【0181】
次に、本実施の形態に係るカメラ補正装置の動作について説明する。
【0182】
図28において、カメラ補正装置300は、次の工程で第2の光学系位置情報を補正する。
【0183】
まず、カメラ310が、第1の作業場所に設置され、第1の座標系301に対して所定の位置に配置される(S301)。そして、第1の筐体位置情報、第2の筐体位置情報および校正マーカ位置情報が、第1の筐体位置情報保持部315、第2の筐体位置情報保持部316および校正マーカ位置情報保持部325にそれぞれ保持される(S302)。ここで、第1の筐体位置情報、第2の筐体位置情報および校正マーカ位置情報は、測定器によって測定された位置、設計において設定された位置などを基にして取得される。
【0184】
次に、カメラ310によって校正マーカ305が撮影され(S303)、第1の光学系位置情報生成部317が、カメラ310によって取得された校正マーカ305の画像情報に基づいて、校正マーカ位置情報保持部325に保持された校正マーカ位置情報から、第1の光学系位置情報を生成する(S304)。そして、第1の光学系位置情報生成部317によって生成された第1の光学系位置情報が、第1の光学系位置情報保持部318に保持される(S305)。
【0185】
次に、第2の光学系位置情報生成部320が、第1の筐体位置情報保持部315に保持された第1の筐体位置情報および第1の光学系位置情報保持部318に保持された第1の光学系位置情報に基づいて、第2の筐体位置情報保持部316に保持された第2の筐体位置情報から、第2の光学系位置情報を生成する(S306)。そして、第2の光学系位置情報生成部320によって生成された第2の光学系位置情報が、第2の光学系位置情報保持部330に保持される(S307)。
【0186】
次に、カメラ310および記録媒体393が、第1の作業場所から第2の作業場所に搬送される。そして、カメラ310が、第2の作業場所において車両308に設置され、第2の座標系302に対して所定の位置に配置される(S308)。
【0187】
次に、カメラ310によって路面302aが撮影され(S309)、平面投影画像生成部361が、図22(b)、図23(b)、図24(b)および図25(b)に示すように、カメラ310によって取得された第2の座標系302における画像情報から平面投影画像を生成する(S310)。
【0188】
次に、平面投影画像分割部362が、図22(b)、図23(b)、図24(b)および図25(b)に示すように、平面投影画像生成部361によって生成された平面投影画像を画像領域386aから386dに分割する(S311)。
【0189】
次に、動きベクトル抽出部363が、図22(b)、図23(b)、図24(b)および図25(b)に示すように、平面投影画像分割部362によって分割された各画像領域から各動きベクトルを抽出する(S312)。
【0190】
次に、補正量算出部364が、図25(b)に示すように、平面投影画像の画像座標系371に対する基準線380の傾きに基づいて、第2の光学系位置情報保持部330に保持された第2の光学系位置情報のz軸まわりの補正量を算出する(S313)。そして、補正量算出部364が、図22(c)、図23(c)および図24(c)に示すように、動きベクトル抽出部363によって抽出された各動きベクトルに基づいて、第2の光学系位置情報保持部330に保持された第2の光学系位置情報のx軸、y軸まわりの補正量を算出する(S314)。
【0191】
そして、光学系位置情報補正部365が、補正量算出部364によって算出された補正量に基づいて、第2の光学系位置情報保持部330に保持された第2の光学系位置情報を補正して(S315)、工程を終了する。なお、本実施の形態では、上述したステップS301からS315を記述したプログラムをコンピュータに実行させてもよい。
【0192】
以上説明したように、本実施の形態においては、動きベクトル388aから388dを利用して第2の光学系位置情報を補正することができる。
【0193】
また、本実施の形態においては、画像領域386aから386dにおける動きベクトル388aから388dを容易に抽出することができる。
【0194】
また、本実施の形態においては、分割マーカ307を利用して平面投影画像を正確に分割することができる。
(第4の実施の形態)
【0195】
図29から図38は、本発明に係るカメラ補正装置の第4の実施の形態を示す図である。
【0196】
まず、本実施の形態に係るカメラ補正装置の構成について説明する。
【0197】
図29から図31において、カメラ補正装置400は、撮像装置としてのカメラ410に接続されるようになっている。カメラ410は、筐体411と筐体411に支持された光学系412とを有しており、光学系412を介して画像情報を取得するようになっている。
【0198】
カメラ補正装置400は、第1の座標系401に対する筐体411の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持部415と、第2の座標系402に対する筐体411の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持部416と、第1の座標系401に対する校正マーカ405の位置を示す校正マーカ位置情報を保持する校正マーカ位置情報保持部425と、第2の座標系402に対する車両408の一部、例えば、車体の後部に設けられたバンパー部409の位置を示す車体位置情報を保持する車体位置情報保持部426とを備えている。
【0199】
第1の座標系401は、カメラ生産工場などの第1の作業場所に設けられている。第1の座標系401には、X軸、Y軸、Z軸が設けられ、第1の作業場所に設置されたカメラ410の校正を行うための校正マーカ405が配置されている。校正マーカ405は、3次元に配列された複数の点によって構成されており、それぞれの点は、第1の座標系401に対して所定の位置に配置されている。また、校正マーカ405は、第1の作業場所に設置されたカメラ410の視野範囲を覆うように配置されている。
【0200】
第2の座標系402は、車両生産工場などの第2の作業場所に設けられている。第2の座標系402には、X軸、Y軸、Z軸が設けられ、第2の座標系402のX平面は、車両408が設置される路面402aを構成している。路面402aには、補正板406が配置されている。補正板406は、単一色であって、明度、色度、彩度が車両408の色と異なる色に塗装されており、車両408の下に敷設されている。
【0201】
カメラ補正装置400は、第1の作業場所においてカメラ410の校正を行うようになっている。カメラ410は、第1の座標系401に対して所定の位置に配置されており、このときの筐体411の位置を示す第1の筐体位置情報が、第1の筐体位置情報保持部415に保持されるようになっている。ここで、カメラ410の校正とは、カメラ410が第2の作業場所において車両408に設置されたときの光学系412の位置を算出する動作である。
【0202】
カメラ補正装置400によって校正されたカメラ410は、第2の作業場所において車両408に設置されるようになっている。カメラ410は、第2の座標系402に対して所定の位置に配置されており、このときの筐体411の位置を示す第2の筐体位置情報が、第2の筐体位置情報保持部416に保持されるようになっている。ここで、第2の筐体位置情報は、筐体411が車両408に対して正確な位置に設置された場合の筐体411の位置を示している。
【0203】
また、カメラ補正装置400は、第1の座標系401に対する光学系412の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成部417と、第1の光学系位置情報生成部417によって生成された第1の光学系位置情報を保持する第1の光学系位置情報保持部418とを備えている。
【0204】
第1の光学系位置情報生成部417は、カメラ410によって取得された校正マーカ405の画像情報に基づいて、校正マーカ位置情報保持部425に保持された校正マーカ位置情報から、第1の座標系401に対する光学系412の位置を算出するようになっている。ここで、光学系412の位置とは、光学系412の光学中心および光軸の位置を含むものである。第1の座標系401に対する光学系412の位置を算出する方法としては、文献1に記載された方法を用いることができる。
【0205】
また、カメラ補正装置400は、第2の座標系402に対する光学系412の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成部420と、第2の光学系位置情報生成部420によって生成された第2の光学系位置情報を保持する第2の光学系位置情報保持部430とを備えている。
【0206】
第2の光学系位置情報生成部420は、第1の筐体位置情報保持部415に保持された第1の筐体位置情報および第1の光学系位置情報保持部418に保持された第1の光学系位置情報に基づいて、第2の筐体位置情報保持部416に保持された第2の筐体位置情報から、第2の座標系402に対する光学系412の位置を算出するようになっている。
【0207】
第2の光学系位置情報生成部420は、第1の実施の形態における第2の光学系位置情報生成部120と同様の方法によって第2の座標系402に対する光学系412の位置を算出するようになっている。
【0208】
第2の作業場所において車両408に設置されたカメラ410には、図32に示すように、第2の光学系位置情報を基準とするカメラ座標系413が構成されている。カメラ座標系413には、x軸、y軸、z軸が設けられ、カメラ座標系413の原点は、光学系412の光学中心と一致するようになっている。カメラ座標系413のx軸は、カメラ410の左右方向に設けられ、カメラ座標系413のy軸は、カメラ410の上下方向に設けられ、カメラ座標系413のz軸は、光学系412の光軸と一致するように設けられている。
【0209】
また、カメラ座標系413の原点からz軸方向に焦点距離fだけ離隔した平面には、画像座標系414が構成されている。画像座標系414には、p軸、q軸が設けられている。路面402a上の点Pは、光学系412を介して画像座標系414の結像位置P’に結像するようになっている。カメラ410は、光学系412を介して画像座標系414に結像した画像を画像情報として取得するようになっている。
【0210】
また、カメラ補正装置400は、カメラ410の画像座標系414に対するバンパー部409の予測位置情報を生成する予測位置情報生成部440と、予測位置情報生成部440によって生成された予測位置情報を保持する予測位置情報保持部450とを備えている。
【0211】
予測位置情報生成部440は、第2の光学系位置情報生成部420によって生成された第2の光学系位置情報に基づいて、車体位置情報保持部426に保持された車体位置情報から、カメラ410の画像座標系414に対するバンパー部409の予測位置を算出するようになっている。カメラ410の画像座標系414に対するバンパー部409の予測位置を算出する方法としては、上記の文献1に記載された方法を用いることができる。
【0212】
第2の座標系102に設置された車両408のバンパー部409は、図33に示すように、光学系412を介して画像座標系414の結像位置P’に結像するようになっている。ここで、結像位置P’は、筐体411が車両408に対して正確な位置、即ち、第2の筐体位置情報に含まれる位置に設置され、第2の光学系位置情報に誤差が生じていない場合、予測位置情報生成部440によって算出された予測位置Pと一致するようになっている。しかしながら、実際には、筐体411が車両408に対して不正確な位置に設置され、第2の光学系位置情報に誤差が生じることにより、画像座標系414における結像位置P’は、予測位置Pから離隔している。
【0213】
このような第2の光学系位置情報の誤差を補正するため、カメラ補正装置400は、第2の光学系位置情報保持部430に保持された第2の光学系位置情報を補正する補正部460を備えている。
【0214】
補正部460は、カメラ410によって取得されたバンパー部409の画像情報および予測位置情報保持部450に保持された予測位置情報に基づいて、第2の光学系位置情報保持部430に保持された第2の光学系位置情報を補正するようになっている。
【0215】
補正部460は、カメラ410によって取得されたバンパー部409の画像情報から、カメラ410の画像座標系414に対するバンパー部409の結像位置情報を抽出する結像位置情報抽出部470と、結像位置情報抽出部470によって抽出された結像位置情報および予測位置情報保持部450に保持された予測位置情報に基づいて、第2の光学系位置情報保持部430に保持された第2の光学系位置情報の補正量を算出する補正量算出部480と、補正量算出部480によって算出された補正量に基づいて、第2の光学系位置情報保持部430に保持された第2の光学系位置情報を補正する光学系位置情報補正部490とを有している。
【0216】
補正量算出部480は、結像位置情報に含まれるバンパー部409の輪郭線と予測位置情報に含まれるバンパー部409の輪郭線とを重ね合わせるマッチング部481と、マッチング部481によって重ね合わされたバンパー部409の輪郭線から複数の点、例えば、両端の点を抽出する抽出部482と、結像位置情報に含まれる点と予測位置情報に含まれる点とを比較することにより第2の光学系位置情報の補正量を算出する演算部483とを有している。
【0217】
マッチング部481は、予測位置情報に含まれるバンパー部409の輪郭線P(図34(a)参照)に対して、結像位置情報に含まれるバンパー部409の輪郭線P’(図34(b)参照)を、移動させたり回転させたりすることにより、重ね合わせるようになっている(図34(c)参照)。
【0218】
抽出部482は、図35(a)に示すように、マッチング部481によって重ね合わされたバンパー部409の輪郭線P、P’から、輪郭線P、P’が重なった部分の両端の点(P,P)、(P’,P’)を抽出するようになっている。
【0219】
演算部483は、予測位置情報に含まれる点(P,P)(図35(b)参照)と、結像位置情報に含まれる点(P’,P’)(図35(c)参照)とを比較することにより、第1の実施の形態における補正量算出部180と同様の方法によって第2の光学系位置情報の補正量を算出するようになっている。
【0220】
このように構成されたカメラ補正装置400は、図36に示すように、カメラ410を調整するためのコンピュータ491、カメラ410を制御する撮像制御装置としてのECU492などによって実現されている。
【0221】
コンピュータ491は、CPU、RAM、ROM、入出力インターフェイスなどによって構成されており、図36(a)に示すように、第1の作業場所においてカメラ410に接続されるようになっている。なお、本実施の形態において、コンピュータ491は、上述した第1の筐体位置情報保持部415、第2の筐体位置情報保持部416、第1の光学系位置情報生成部417、第1の光学系位置情報保持部418、第2の光学系位置情報生成部420、校正マーカ位置情報保持部425、車体位置情報保持部426、第2の光学系位置情報保持部430、予測位置情報生成部440および予測位置情報保持部450を構成している。
【0222】
ECU492は、CPU、RAM、ROM、入出力インターフェイスなどによって構成されており、図36(c)に示すように、第2の作業場所においてカメラ410に接続され、車両408に搭載されるようになっている。なお、本実施の形態において、ECU492は、上述した第2の光学系位置情報保持部430、予測位置情報保持部450および補正部460を構成している。
【0223】
第1の作業場所から第2の作業場所には、図36(b)に示すように、CD−ROM、磁気ディスクなどの記録媒体493が添付されたカメラ410が搬送されるようになっている。記録媒体493には、第2の光学系位置情報および予測位置情報が記録されており、第2の光学系位置情報および予測位置情報をコンピュータ491からECU492に移送するために用いられるようになっている。
【0224】
なお、本実施の形態では、第1の作業場所から第2の作業場所には、カメラ410および記録媒体493が搬送されるようになっているが、図37に示すように、カメラ410、第2の光学系位置情報保持部430、予測位置情報保持部450および補正部460によって構成されたカメラユニット494が搬送されるように構成してもよい。
【0225】
次に、本実施の形態に係るカメラ補正装置の動作について説明する。
【0226】
図38において、カメラ補正装置400は、次の工程で第2の光学系位置情報を補正する。
【0227】
まず、カメラ410が、第1の作業場所に設置され、第1の座標系401に対して所定の位置に配置される(S401)。そして、第1の筐体位置情報、第2の筐体位置情報、校正マーカ位置情報および車体位置情報が、第1の筐体位置情報保持部415、第2の筐体位置情報保持部416、校正マーカ位置情報保持部425および車体位置情報保持部426にそれぞれ保持される(S402)。ここで、第1の筐体位置情報、第2の筐体位置情報、校正マーカ位置情報および車体位置情報は、測定器によって測定された位置、設計において設定された位置などを基にして取得される。
【0228】
次に、カメラ410によって校正マーカ405が撮影され(S403)、第1の光学系位置情報生成部417が、カメラ410によって取得された校正マーカ405の画像情報に基づいて、校正マーカ位置情報保持部425に保持された校正マーカ位置情報から、第1の光学系位置情報を生成する(S404)。そして、第1の光学系位置情報生成部417によって生成された第1の光学系位置情報が、第1の光学系位置情報保持部418に保持される(S405)。
【0229】
次に、第2の光学系位置情報生成部420が、第1の筐体位置情報保持部415に保持された第1の筐体位置情報および第1の光学系位置情報保持部418に保持された第1の光学系位置情報に基づいて、第2の筐体位置情報保持部416に保持された第2の筐体位置情報から、第2の光学系位置情報を生成する(S406)。そして、第2の光学系位置情報生成部420によって生成された第2の光学系位置情報が、第2の光学系位置情報保持部430に保持される(S407)。
【0230】
次に、予測位置情報生成部440が、第2の光学系位置情報生成部420によって生成された第2の光学系位置情報に基づいて、車体位置情報保持部426に保持された車体位置情報から、カメラ410の画像座標系414に対するバンパー部409の予測位置情報を生成する(S408)。そして、予測位置情報生成部440によって生成された予測位置情報が、予測位置情報保持部450に保持される(S409)。
【0231】
次に、カメラ410および記録媒体493が、第1の作業場所から第2の作業場所に搬送される。そして、カメラ410が、第2の作業場所において車両408に設置され、第2の座標系402に対して所定の位置に配置される(S410)。
【0232】
次に、カメラ410によって補正板406を背景にしてバンパー部409が撮影され(S411)、結像位置情報抽出部470が、図33に示すように、カメラ410によって取得されたバンパー部409の画像情報から、カメラ410の画像座標系414に対するバンパー部409の結像位置情報を抽出する(S412)。
【0233】
次に、マッチング部481が、図34に示すように、予測位置情報に含まれるバンパー部409の輪郭線Pに対して、結像位置情報に含まれるバンパー部409の輪郭線P’を重ね合わせる(S413)。
【0234】
次に、図35に示すように、抽出部482が、バンパー部409の輪郭線P、P’から、輪郭線P、P’が重なった部分の両端の点(P,P)、(P’,P’)を抽出する(S414)。そして、演算部483が、予測位置情報に含まれる点(P,P)と、結像位置情報に含まれる点(P’,P’)とを比較することにより、第2の光学系位置情報の補正量を算出する(S415)。
【0235】
そして、光学系位置情報補正部490が、補正量算出部480によって算出された補正量に基づいて、第2の光学系位置情報保持部430に保持された第2の光学系位置情報を補正して(S416)、工程を終了する。なお、本実施の形態では、上述したステップS401からS416を記述したプログラムをコンピュータに実行させてもよい。
【0236】
以上説明したように、本実施の形態においては、車両408などに設置されたカメラ410の光学系412のパラメータを補正することができ、路面上の対象物の位置を正確に検出することができる。
【0237】
また、本実施の形態においては、バンパー部409を利用して第2の光学系位置情報を補正することができる。
【0238】
また、本実施の形態においては、バンパー部409の輪郭線から点を抽出することができ、第2の光学系位置情報の補正量を確実に算出することができる。
【0239】
【発明の効果】
以上説明したように、本発明によれば、車両などに設置されたカメラの光学系のパラメータを補正することができるカメラ補正装置を提供することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態に係るカメラ補正装置および撮像装置としてのカメラを示すブロック図
【図2】図1に示されたカメラが設置された第1の座標系を示す斜視図
【図3】図1に示されたカメラが設置された第2の座標系を示す斜視図
【図4】図1に示されたカメラの座標系を示す斜視図
【図5】図1に示されたカメラの画像座標系を示す平面図
【図6】図1に示されたカメラの平行移動を示す斜視図
【図7】図1に示されたカメラの回転動作を示す斜視図
【図8】図1に示されたカメラの平行移動を示す側面図
【図9】図1に示されたカメラの回転動作を示す側面図
【図10】図1に示されたカメラ補正装置の結像位置情報抽出部を示すブロック図
【図11】図1に示されたカメラ補正装置を実現するためのコンピュータおよびECUを示すブロック図
【図12】図1に示されたカメラ補正装置のカメラユニットを示すブロック図
【図13】図1に示されたカメラ補正装置の補正動作を示すフローチャート
【図14】本発明の第2の実施の形態に係るカメラ補正装置および撮像装置としてのカメラを示すブロック図
【図15】図14に示されたカメラの画像座標系を示す平面図
【図16】図14に示されたカメラ補正装置の補正動作を示すフローチャート
【図17】本発明の第3の実施の形態に係るカメラ補正装置および撮像装置としてのカメラを示すブロック図
【図18】図17に示されたカメラが設置された第1の座標系を示す斜視図
【図19】図17に示されたカメラが設置された第2の座標系を示す斜視図
【図20】図17に示されたカメラの座標系を示す斜視図
【図21】図17に示されたカメラ補正装置の仮想カメラを示す側面図
【図22】図17に示されたカメラ補正装置の補正部の動作を示す説明図
【図23】図17に示されたカメラ補正装置の補正部の動作を示す説明図
【図24】図17に示されたカメラ補正装置の補正部の動作を示す説明図
【図25】図17に示されたカメラ補正装置の補正部の動作を示す説明図
【図26】図17に示されたカメラ補正装置を実現するためのコンピュータおよびECUを示すブロック図
【図27】図17に示されたカメラ補正装置のカメラユニットを示すブロック図
【図28】図17に示されたカメラ補正装置の補正動作を示すフローチャート
【図29】本発明の第4の実施の形態に係るカメラ補正装置および撮像装置としてのカメラを示すブロック図
【図30】図29に示されたカメラが設置された第1の座標系を示す斜視図
【図31】図29に示されたカメラが設置された第2の座標系を示す斜視図
【図32】図29に示されたカメラの座標系を示す斜視図
【図33】図29に示されたカメラの画像座標系を示す平面図
【図34】図29に示されたカメラ補正装置の補正部の動作を示す説明図
【図35】図29に示されたカメラ補正装置の補正部の動作を示す説明図
【図36】図29に示されたカメラ補正装置を実現するためのコンピュータおよびECUを示すブロック図
【図37】図29に示されたカメラ補正装置のカメラユニットを示すブロック図
【図38】図29に示されたカメラ補正装置の補正動作を示すフローチャート
【図39】従来のカメラ校正装置および撮像装置としてのカメラを示すブロック図
【図40】図39に示されたカメラが設置された第1の座標系を示す斜視図
【図41】図39に示されたカメラが設置された第2の座標系を示す斜視図
【符号の説明】
100 カメラ補正装置
101 第1の座標系
102 第2の座標系
105 校正マーカ
106 補正マーカ
110 カメラ(撮像装置)
111 筐体
112 光学系
115 第1の筐体位置情報保持部(第1の筐体位置情報保持手段)
116 第2の筐体位置情報保持部(第2の筐体位置情報保持手段)
117 第1の光学系位置情報生成部(第1の光学系位置情報生成手段)
118 第1の光学系位置情報保持部(第1の光学系位置情報保持手段)
120 第2の光学系位置情報生成部(第2の光学系位置情報生成手段)
130 第2の光学系位置情報保持部(第2の光学系位置情報保持手段)
140 予測位置情報生成部(予測位置情報生成手段)
150 予測位置情報保持部(予測位置情報保持手段)
160 補正部(補正手段)
170 結像位置情報抽出部(結像位置情報抽出手段)
171 画像情報表示部(画像情報表示手段)
172 結像位置指定部(結像位置指定手段)
180 補正量算出部(補正量算出手段)
190 光学系位置情報補正部(光学系位置情報補正手段)
200 カメラ補正装置
260 補正部(補正手段)
270 結像位置情報抽出部(結像位置情報抽出手段)
271 予測範囲情報保持部(予測範囲情報保持手段)
272 結像位置検索部(結像位置検索手段)
280 補正量算出部(補正量算出手段)
290 光学系位置情報補正部(光学系位置情報補正手段)
300 カメラ補正装置
301 第1の座標系
302 第2の座標系
305 校正マーカ
307 分割マーカ
310 カメラ(撮像装置)
311 筐体
312 光学系
315 第1の筐体位置情報保持部(第1の筐体位置情報保持手段)
316 第2の筐体位置情報保持部(第2の筐体位置情報保持手段)
317 第1の光学系位置情報生成部(第1の光学系位置情報生成手段)
318 第1の光学系位置情報保持部(第1の光学系位置情報保持手段)
320 第2の光学系位置情報生成部(第2の光学系位置情報生成手段)
330 第2の光学系位置情報保持部(第2の光学系位置情報保持手段)
360 補正部(補正手段)
361 平面投影画像生成部(平面投影画像生成手段)
362 平面投影画像分割部(平面投影画像分割手段)
363 動きベクトル抽出部(動きベクトル抽出手段)
364 補正量算出部(補正量算出手段)
365 光学系位置情報補正部(光学系位置情報補正手段)
386a、386b、386c、386d 画像領域
388a、388b、388c、388d 動きベクトル
400 カメラ補正装置
401 第1の座標系
402 第2の座標系
405 校正マーカ
406 補正板
408 車両
410 カメラ(撮像装置)
411 筐体
412 光学系
415 第1の筐体位置情報保持部(第1の筐体位置情報保持手段)
416 第2の筐体位置情報保持部(第2の筐体位置情報保持手段)
417 第1の光学系位置情報生成部(第1の光学系位置情報生成手段)
418 第1の光学系位置情報保持部(第1の光学系位置情報保持手段)
420 第2の光学系位置情報生成部(第2の光学系位置情報生成手段)
430 第2の光学系位置情報保持部(第2の光学系位置情報保持手段)
440 予測位置情報生成部(予測位置情報生成手段)
450 予測位置情報保持部(予測位置情報保持手段)
460 補正部(補正手段)
470 結像位置情報抽出部(結像位置情報抽出手段)
480 補正量算出部(補正量算出手段)
481 マッチング部(マッチング手段)
482 抽出部(抽出手段)
483 演算部(演算手段)
490 光学系位置情報補正部(光学系位置情報補正手段)

Claims (27)

  1. 筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正装置であって、
    第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持手段と、
    第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持手段と、
    前記撮像装置によって取得された前記第1の座標系における画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成手段と、
    前記第1の光学系位置情報生成手段によって生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持手段と、
    前記第1の筐体位置情報保持手段に保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持手段に保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持手段に保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成手段と、
    前記第2の光学系位置情報生成手段によって生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持手段と、
    前記撮像装置によって取得された前記第2の座標系における画像情報に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する補正手段とを備えたことを特徴とするカメラ補正装置。
  2. 筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正装置であって、
    所定の座標系に対する前記光学系の位置を示す光学系位置情報を保持する光学系位置情報保持手段と、
    前記撮像装置によって取得された前記座標系における画像情報に基づいて、前記光学系位置情報保持手段に保持された前記光学系位置情報を補正する補正手段とを備えたことを特徴とするカメラ補正装置。
  3. 筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正装置であって、
    校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持手段と、
    補正マーカが配置された第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持手段と、
    前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成手段と、
    前記第1の光学系位置情報生成手段によって生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持手段と、
    前記第1の筐体位置情報保持手段に保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持手段に保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持手段に保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成手段と、
    前記第2の光学系位置情報生成手段によって生成された前記第2の光学系位置情報に基づいて、前記撮像装置の画像座標系に対する前記補正マーカの予測位置情報を生成する予測位置情報生成手段と、
    前記第2の光学系位置情報生成手段によって生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持手段と、
    前記予測位置情報生成手段によって生成された前記予測位置情報を保持する予測位置情報保持手段と、
    前記撮像装置によって取得された前記補正マーカの画像情報および前記予測位置情報保持手段に保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する補正手段とを備えたことを特徴とするカメラ補正装置。
  4. 前記補正手段が、
    前記撮像装置によって取得された前記補正マーカの画像情報から、前記撮像装置の画像座標系に対する前記補正マーカの結像位置情報を抽出する結像位置情報抽出手段と、
    前記結像位置情報抽出手段によって抽出された前記結像位置情報および前記予測位置情報保持手段に保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報の補正量を算出する補正量算出手段と、
    前記補正量算出手段によって算出された前記補正量に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する光学系位置情報補正手段とを有することを特徴とする請求項3記載のカメラ補正装置。
  5. 前記補正手段が、前記第2の光学系位置情報の回転成分の誤差だけを補正することを特徴とする請求項4記載のカメラ補正装置。
  6. 前記結像位置情報抽出手段が、
    前記撮像装置によって取得された前記補正マーカの画像情報を表示する画像情報表示手段と、
    前記画像情報表示手段に表示された前記補正マーカの画像情報において前記補正マーカの結像位置を指定し、前記結像位置情報を抽出する結像位置指定手段とを有することを特徴とする請求項4記載のカメラ補正装置。
  7. 前記結像位置情報抽出手段が、
    前記撮像装置の画像座標系に対する前記補正マーカの予測範囲情報を保持する予測範囲情報保持手段と、
    前記予測範囲情報保持手段に保持された前記予測範囲情報および前記予測位置情報保持手段に保持された前記予測位置情報に基づいて、前記撮像装置によって取得された前記補正マーカの画像情報から前記補正マーカの結像位置を検索し、前記結像位置情報を抽出する結像位置検索手段とを有することを特徴とする請求項4記載のカメラ補正装置。
  8. 筐体と前記筐体に支持される光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正装置であって、
    校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持手段と、
    第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持手段と、
    前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成手段と、
    前記第1の光学系位置情報生成手段によって生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持手段と、
    前記第1の筐体位置情報保持手段に保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持手段に保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持手段に保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成手段と、
    前記第2の光学系位置情報生成手段によって生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持手段と、
    前記撮像装置によって取得された前記第2の座標系における画像情報に含まれる動きベクトルに基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する補正手段とを備えたことを特徴とするカメラ補正装置。
  9. 前記補正手段が、
    前記撮像装置によって取得された前記第2の座標系における画像情報から平面投影画像を生成する平面投影画像生成手段と、
    前記平面投影画像生成手段によって生成された前記平面投影画像を複数の画像領域に分割する平面投影画像分割手段と、
    前記平面投影画像分割手段によって分割された複数の前記画像領域から動きベクトルを抽出する動きベクトル抽出手段と、
    前記動きベクトル抽出手段によって抽出された前記動きベクトルに基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報の補正量を算出する補正量算出手段と、
    前記補正量算出手段によって算出された前記補正量に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する光学系位置情報補正手段とを有することを特徴とする請求項8記載のカメラ補正装置。
  10. 前記第2の座標系に設けられた分割マーカが、前記第2の筐体位置情報保持手段に保持された前記第2の筐体位置情報に含まれる前記筐体の位置に対して一定の位置関係を保つように配置され、
    前記平面投影画像分割手段が、前記撮像装置によって取得された前記分割マーカの画像情報に基づいて、前記平面投影画像を複数の画像領域に分割することを特徴とする請求項9記載のカメラ補正装置。
  11. 筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正装置であって、
    校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持手段と、
    車両が配置された第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持手段と、
    前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成手段と、
    前記第1の光学系位置情報生成手段によって生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持手段と、
    前記第1の筐体位置情報保持手段に保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持手段に保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持手段に保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成手段と、
    前記第2の光学系位置情報生成手段によって生成された前記第2の光学系位置情報に基づいて、前記撮像装置の画像座標系に対する前記車両の予測位置情報を生成する予測位置情報生成手段と、
    前記第2の光学系位置情報生成手段によって生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持手段と、
    前記予測位置情報生成手段によって生成された前記予測位置情報を保持する予測位置情報保持手段と、
    前記撮像装置によって取得された前記車両の画像情報および前記予測位置情報保持手段に保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する補正手段とを備えたことを特徴とするカメラ補正装置。
  12. 前記補正手段が、
    前記撮像装置によって取得された前記車両の画像情報から、前記撮像装置の画像座標系に対する前記車両の結像位置情報を抽出する結像位置情報抽出手段と、
    前記結像位置情報抽出手段によって抽出された前記結像位置情報および前記予測位置情報保持手段に保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報の補正量を算出する補正量算出手段と、
    前記補正量算出手段によって算出された前記補正量に基づいて、前記第2の光学系位置情報保持手段に保持された前記第2の光学系位置情報を補正する光学系位置情報補正手段とを有することを特徴とする請求項11記載のカメラ補正装置。
  13. 前記補正量算出手段が、
    前記結像位置情報に含まれる前記車両の輪郭線と前記予測位置情報に含まれる前記車両の輪郭線とを重ね合わせるマッチング手段と、
    前記マッチング手段によって重ね合わされた前記車両の輪郭線から複数の点を抽出する抽出手段と、
    前記結像位置情報に含まれる前記点と前記予測位置情報に含まれる前記点とを比較することにより前記第2の光学系位置情報の補正量を算出する演算手段とを有することを特徴とする請求項12記載のカメラ補正装置。
  14. 前記撮像装置が車両に取り付けられることを特徴とする請求項1から請求項13までの何れかに記載のカメラ補正装置。
  15. 請求項1から請求項14までの何れかに記載のカメラ補正装置を備えたことを特徴とする撮像装置。
  16. 請求項1から請求項14までの何れかに記載のカメラ補正装置を備えたことを特徴とする撮像制御装置。
  17. 筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正方法であって、
    第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、
    第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、
    前記撮像装置によって取得された前記第1の座標系における画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、
    前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、
    前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、
    前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、
    前記撮像装置によって取得された前記第2の座標系における画像情報に基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとを備えたことを特徴とするカメラ補正方法。
  18. 筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正方法であって、
    所定の座標系に対する前記光学系の位置を示す光学系位置情報を保持する光学系位置情報保持ステップと、
    前記撮像装置によって取得された前記座標系における画像情報に基づいて、前記光学系位置情報保持ステップで保持された前記光学系位置情報を補正する補正ステップとを備えたことを特徴とするカメラ補正方法。
  19. 筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正方法であって、
    校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、
    補正マーカが配置された第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、
    前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、
    前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、
    前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、
    前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報に基づいて、前記撮像装置の画像座標系に対する前記補正マーカの予測位置情報を生成する予測位置情報生成ステップと、
    前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、
    前記予測位置情報生成ステップで生成された前記予測位置情報を保持する予測位置情報保持ステップと、
    前記撮像装置によって取得された前記補正マーカの画像情報および前記予測位置情報保持ステップで保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとを備えたことを特徴とするカメラ補正方法。
  20. 筐体と前記筐体に支持される光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正方法であって、
    校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、
    第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、
    前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、
    前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、
    前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、
    前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、
    前記撮像装置によって取得された前記第2の座標系における画像情報に含まれる動きベクトルに基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとを備えたことを特徴とするカメラ補正方法。
  21. 筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正方法であって、
    校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、
    車両が配置された第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、
    前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、
    前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、
    前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、
    前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報に基づいて、前記撮像装置の画像座標系に対する前記車両の予測位置情報を生成する予測位置情報生成ステップと、
    前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、
    前記予測位置情報生成ステップで生成された前記予測位置情報を保持する予測位置情報保持ステップと、
    前記撮像装置によって取得された前記車両の画像情報および前記予測位置情報保持ステップで保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとを備えたことを特徴とするカメラ補正方法。
  22. 前記撮像装置が車両に取り付けられることを特徴とする請求項17から請求項21までの何れかに記載のカメラ補正方法。
  23. 筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正プログラムであって、
    第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、
    第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、
    前記撮像装置によって取得された前記第1の座標系における画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、
    前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、
    前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、
    前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、
    前記撮像装置によって取得された前記第2の座標系における画像情報に基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとをコンピュータに実行させることを特徴とするカメラ補正プログラム。
  24. 筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正プログラムであって、
    所定の座標系に対する前記光学系の位置を示す光学系位置情報を保持する光学系位置情報保持ステップと、
    前記撮像装置によって取得された前記座標系における画像情報に基づいて、前記光学系位置情報保持ステップで保持された前記光学系位置情報を補正する補正ステップとをコンピュータに実行させることを特徴とするカメラ補正プログラム。
  25. 筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正プログラムであって、
    校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、
    補正マーカが配置された第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、
    前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、
    前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、
    前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、
    前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報に基づいて、前記撮像装置の画像座標系に対する前記補正マーカの予測位置情報を生成する予測位置情報生成ステップと、
    前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、
    前記予測位置情報生成ステップで生成された前記予測位置情報を保持する予測位置情報保持ステップと、
    前記撮像装置によって取得された前記補正マーカの画像情報および前記予測位置情報保持ステップで保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとをコンピュータに実行させることを特徴とするカメラ補正プログラム。
  26. 筐体と前記筐体に支持される光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正プログラムであって、
    校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、
    第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、
    前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、
    前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、
    前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、
    前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、
    前記撮像装置によって取得された前記第2の座標系における画像情報に含まれる動きベクトルに基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとをコンピュータに実行させることを特徴とするカメラ補正プログラム。
  27. 筐体と前記筐体に支持された光学系とを有し前記光学系を介して画像情報を取得する撮像装置の光学系の位置情報を補正するカメラ補正プログラムであって、
    校正マーカが配置された第1の座標系に対する前記筐体の位置を示す第1の筐体位置情報を保持する第1の筐体位置情報保持ステップと、
    車両が配置された第2の座標系に対する前記筐体の位置を示す第2の筐体位置情報を保持する第2の筐体位置情報保持ステップと、
    前記撮像装置によって取得された前記校正マーカの画像情報に基づいて、前記第1の座標系に対する前記光学系の位置を示す第1の光学系位置情報を生成する第1の光学系位置情報生成ステップと、
    前記第1の光学系位置情報生成ステップで生成された前記第1の光学系位置情報を保持する第1の光学系位置情報保持ステップと、
    前記第1の筐体位置情報保持ステップで保持された前記第1の筐体位置情報および前記第1の光学系位置情報保持ステップで保持された前記第1の光学系位置情報に基づいて、前記第2の筐体位置情報保持ステップで保持された前記第2の筐体位置情報から、前記第2の座標系に対する前記光学系の位置を示す第2の光学系位置情報を生成する第2の光学系位置情報生成ステップと、
    前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報に基づいて、前記撮像装置の画像座標系に対する前記車両の予測位置情報を生成する予測位置情報生成ステップと、
    前記第2の光学系位置情報生成ステップで生成された前記第2の光学系位置情報を保持する第2の光学系位置情報保持ステップと、
    前記予測位置情報生成ステップで生成された前記予測位置情報を保持する予測位置情報保持ステップと、
    前記撮像装置によって取得された前記車両の画像情報および前記予測位置情報保持ステップで保持された前記予測位置情報に基づいて、前記第2の光学系位置情報保持ステップで保持された前記第2の光学系位置情報を補正する補正ステップとをコンピュータに実行させることを特徴とするカメラ補正プログラム。
JP2003111432A 2002-04-22 2003-04-16 カメラ補正装置 Expired - Fee Related JP4015051B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2003111432A JP4015051B2 (ja) 2002-04-22 2003-04-16 カメラ補正装置
CNB038127008A CN1312458C (zh) 2002-04-22 2003-04-21 摄像机校正装置
EP03720942.6A EP1498689B1 (en) 2002-04-22 2003-04-21 Camera corrector
KR1020047016893A KR100948161B1 (ko) 2002-04-22 2003-04-21 카메라 보정 장치
US10/512,039 US7352388B2 (en) 2002-04-22 2003-04-21 Camera calibrating apparatus
PCT/JP2003/005033 WO2003089874A1 (en) 2002-04-22 2003-04-21 Camera corrector

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2002119692 2002-04-22
JP2003111432A JP4015051B2 (ja) 2002-04-22 2003-04-16 カメラ補正装置

Publications (3)

Publication Number Publication Date
JP2004004043A true JP2004004043A (ja) 2004-01-08
JP2004004043A5 JP2004004043A5 (ja) 2007-02-15
JP4015051B2 JP4015051B2 (ja) 2007-11-28

Family

ID=29253620

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003111432A Expired - Fee Related JP4015051B2 (ja) 2002-04-22 2003-04-16 カメラ補正装置

Country Status (6)

Country Link
US (1) US7352388B2 (ja)
EP (1) EP1498689B1 (ja)
JP (1) JP4015051B2 (ja)
KR (1) KR100948161B1 (ja)
CN (1) CN1312458C (ja)
WO (1) WO2003089874A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005074287A1 (en) * 2004-01-30 2005-08-11 Kabushiki Kaisha Toyota Jidoshokki Video image positional relationship correction apparatus, steering assist apparatus having the video image positional relationship correction apparatus and video image positional relationship correction method
WO2007097431A1 (ja) * 2006-02-23 2007-08-30 Matsushita Electric Industrial Co., Ltd. 画像補正装置、方法、プログラム、集積回路、システム
WO2010052772A1 (ja) * 2008-11-05 2010-05-14 富士通株式会社 カメラ角度算出装置、カメラ角度算出方法およびカメラ角度算出プログラム
JP2013002820A (ja) * 2011-06-11 2013-01-07 Suzuki Motor Corp カメラキャリブレーション装置
JP2013074325A (ja) * 2011-09-26 2013-04-22 Toshiba Alpine Automotive Technology Corp 車載カメラ用画像補正方法および車載カメラ用画像補正プログラム

Families Citing this family (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8423292B2 (en) 2008-08-19 2013-04-16 Tomtom International B.V. Navigation device with camera-info
MX2007015348A (es) * 2005-06-06 2008-02-15 Tomtom Int Bv Dispositivo de navegacion con informacion de camara.
US8022990B2 (en) * 2006-08-18 2011-09-20 General Electric Company Systems and methods for on-line marker-less camera calibration using a position tracking system
JP2008187566A (ja) * 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両
GB2447672B (en) 2007-03-21 2011-12-14 Ford Global Tech Llc Vehicle manoeuvring aids
KR100966288B1 (ko) * 2009-01-06 2010-06-28 주식회사 이미지넥스트 주변 영상 생성 방법 및 장치
JP4690476B2 (ja) * 2009-03-31 2011-06-01 アイシン精機株式会社 車載カメラの校正装置
JP4636346B2 (ja) * 2009-03-31 2011-02-23 アイシン精機株式会社 車載カメラの校正装置、方法、及びプログラム
JP4751939B2 (ja) * 2009-03-31 2011-08-17 アイシン精機株式会社 車載カメラの校正装置
JP5471038B2 (ja) * 2009-05-27 2014-04-16 アイシン精機株式会社 校正目標検出装置と、校正目標を検出する校正目標検出方法と、校正目標検出装置のためのプログラム
TWI452909B (zh) * 2009-06-29 2014-09-11 Silicon Integrated Sys Corp 移動向量校正電路、影像產生裝置及相關方法
KR101510655B1 (ko) * 2010-01-26 2015-04-10 주식회사 이미지넥스트 주변 영상 생성 방법 및 장치
JP4907725B2 (ja) * 2010-03-23 2012-04-04 シャープ株式会社 キャリブレーション装置、欠陥検出装置、欠陥修復装置、表示パネル、表示装置、キャリブレーション方法
KR101113679B1 (ko) 2010-05-24 2012-02-14 기아자동차주식회사 카메라 시스템의 영상 보정 방법
US9500497B2 (en) 2011-04-19 2016-11-22 Ford Global Technologies, Llc System and method of inputting an intended backing path
US9506774B2 (en) 2011-04-19 2016-11-29 Ford Global Technologies, Llc Method of inputting a path for a vehicle and trailer
US9555832B2 (en) 2011-04-19 2017-01-31 Ford Global Technologies, Llc Display system utilizing vehicle and trailer dynamics
US9683848B2 (en) 2011-04-19 2017-06-20 Ford Global Technologies, Llc System for determining hitch angle
US9854209B2 (en) 2011-04-19 2017-12-26 Ford Global Technologies, Llc Display system utilizing vehicle and trailer dynamics
US9374562B2 (en) 2011-04-19 2016-06-21 Ford Global Technologies, Llc System and method for calculating a horizontal camera to target distance
US9723274B2 (en) 2011-04-19 2017-08-01 Ford Global Technologies, Llc System and method for adjusting an image capture setting
US9969428B2 (en) 2011-04-19 2018-05-15 Ford Global Technologies, Llc Trailer backup assist system with waypoint selection
US9926008B2 (en) 2011-04-19 2018-03-27 Ford Global Technologies, Llc Trailer backup assist system with waypoint selection
JP5883275B2 (ja) * 2011-11-18 2016-03-09 東芝アルパイン・オートモティブテクノロジー株式会社 車載カメラのキャリブレーション装置
CN102536201B (zh) * 2011-12-20 2014-07-02 西安思坦仪器股份有限公司 多臂成像数据校正方法
EP2618305B1 (de) * 2012-01-20 2014-04-30 ESG Elektroniksystem- und Logistik-GmbH Verfahren und Vorrichtung zur Online-Kalibrierung von Fahrzeug-Kameras
JP6012982B2 (ja) * 2012-02-24 2016-10-25 京セラ株式会社 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法
CN102706274B (zh) * 2012-04-25 2014-08-06 复旦大学 工业结构化场景中机器视觉精确定位机械零件的系统
US9870704B2 (en) * 2012-06-20 2018-01-16 Conduent Business Services, Llc Camera calibration application
KR101382772B1 (ko) * 2012-12-11 2014-04-08 현대자동차주식회사 디스플레이 시스템 및 방법
US9592851B2 (en) 2013-02-04 2017-03-14 Ford Global Technologies, Llc Control modes for a trailer backup assist system
US9511799B2 (en) 2013-02-04 2016-12-06 Ford Global Technologies, Llc Object avoidance for a trailer backup assist system
CN104754323B (zh) * 2013-12-31 2017-06-20 苏州智华汽车电子有限公司 摄像头光轴检测设备的标定方法
JP6354425B2 (ja) * 2014-07-30 2018-07-11 株式会社デンソー 車載カメラの取り付け姿勢検出方法およびその装置
DE102014117888A1 (de) * 2014-12-04 2016-10-13 Connaught Electronics Ltd. Online-Kalibrierung eines Kraftfahrzeug-Kamerasystems
US9522677B2 (en) 2014-12-05 2016-12-20 Ford Global Technologies, Llc Mitigation of input device failure and mode management
US9533683B2 (en) 2014-12-05 2017-01-03 Ford Global Technologies, Llc Sensor failure mitigation system and mode management
US9607242B2 (en) 2015-01-16 2017-03-28 Ford Global Technologies, Llc Target monitoring system with lens cleaning device
KR101666677B1 (ko) * 2015-05-28 2016-10-14 주식회사 맥스트 광학 모듈의 자세 조정 장치
US9896130B2 (en) 2015-09-11 2018-02-20 Ford Global Technologies, Llc Guidance system for a vehicle reversing a trailer along an intended backing path
US9836060B2 (en) 2015-10-28 2017-12-05 Ford Global Technologies, Llc Trailer backup assist system with target management
US10112646B2 (en) 2016-05-05 2018-10-30 Ford Global Technologies, Llc Turn recovery human machine interface for trailer backup assist
KR102543523B1 (ko) * 2016-09-09 2023-06-15 현대모비스 주식회사 카메라의 오차 보정 시스템 및 방법
US10356417B2 (en) * 2016-09-30 2019-07-16 Intel Corporation Method and system of video coding using projected motion vectors

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2991163B2 (ja) * 1997-07-23 1999-12-20 日本電気株式会社 カメラキャリブレーション装置
JP3415427B2 (ja) * 1998-02-25 2003-06-09 富士通株式会社 ロボットシミュレーションにおけるキャリブレーション装置
JP4387476B2 (ja) * 1998-07-13 2009-12-16 株式会社明電舎 ビンピッキング位置データ較正装置
JP2000171215A (ja) * 1998-12-03 2000-06-23 Techno Wave:Kk 物流情報読取り装置
JP2001116515A (ja) * 1999-10-21 2001-04-27 Matsushita Electric Ind Co Ltd キャリブレーション方法
US6813371B2 (en) * 1999-12-24 2004-11-02 Aisin Seiki Kabushiki Kaisha On-vehicle camera calibration device
KR100532525B1 (ko) * 2002-05-07 2005-11-30 이문기 카메라를 이용한 삼차원 포인팅장치
JP2006074574A (ja) * 2004-09-03 2006-03-16 Toshiba Corp 映像再生装置及び映像再生方法

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005074287A1 (en) * 2004-01-30 2005-08-11 Kabushiki Kaisha Toyota Jidoshokki Video image positional relationship correction apparatus, steering assist apparatus having the video image positional relationship correction apparatus and video image positional relationship correction method
AU2004314869B2 (en) * 2004-01-30 2007-11-01 Kabushiki Kaisha Toyota Jidoshokki Video image positional relationship correction apparatus steering assist apparatus having the video image positional relationship correction apparatus and video image positional relationship correction method
KR100834323B1 (ko) * 2004-01-30 2008-06-02 가부시키가이샤 도요다 지도숏키 비디오 이미지 위치 관계 보정 장치, 그 비디오 이미지위치 관계 보정 장치를 갖는 조향 지원 장치, 및 비디오이미지 위치 관계 보정 방법
WO2007097431A1 (ja) * 2006-02-23 2007-08-30 Matsushita Electric Industrial Co., Ltd. 画像補正装置、方法、プログラム、集積回路、システム
US8085308B2 (en) 2006-02-23 2011-12-27 Panasonic Corporation Image correction device, method, integrated circuit and system for correcting images captured by a camera provided in a moving object
WO2010052772A1 (ja) * 2008-11-05 2010-05-14 富士通株式会社 カメラ角度算出装置、カメラ角度算出方法およびカメラ角度算出プログラム
US8537199B2 (en) 2008-11-05 2013-09-17 Fujitsu Limited Camera calibration device and method by computing coordinates of jigs in a vehicle system
JP5387580B2 (ja) * 2008-11-05 2014-01-15 富士通株式会社 カメラ角度算出装置およびカメラ角度算出方法
JP2013002820A (ja) * 2011-06-11 2013-01-07 Suzuki Motor Corp カメラキャリブレーション装置
JP2013074325A (ja) * 2011-09-26 2013-04-22 Toshiba Alpine Automotive Technology Corp 車載カメラ用画像補正方法および車載カメラ用画像補正プログラム

Also Published As

Publication number Publication date
JP4015051B2 (ja) 2007-11-28
WO2003089874A1 (en) 2003-10-30
US20050179801A1 (en) 2005-08-18
KR20040104578A (ko) 2004-12-10
EP1498689B1 (en) 2018-06-06
KR100948161B1 (ko) 2010-03-16
CN1659418A (zh) 2005-08-24
CN1312458C (zh) 2007-04-25
EP1498689A1 (en) 2005-01-19
US7352388B2 (en) 2008-04-01
EP1498689A4 (en) 2014-04-02

Similar Documents

Publication Publication Date Title
JP4015051B2 (ja) カメラ補正装置
CN108965690B (zh) 图像处理系统、图像处理装置及计算机可读存储介质
US8564655B2 (en) Three-dimensional measurement method and three-dimensional measurement apparatus
KR101973917B1 (ko) 3차원 계측 장치 및 그 계측 지원 처리 방법
WO2017022033A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
US20060227211A1 (en) Method and apparatus for measuring position and orientation
JP2016167229A (ja) 座標変換パラメータ決定装置、座標変換パラメータ決定方法及び座標変換パラメータ決定用コンピュータプログラム
KR101379787B1 (ko) 구멍을 가진 구조물을 이용한 카메라와 레이저 거리 센서의 보정 장치 및 보정 방법
JP2008046687A (ja) 撮影環境校正方法及び情報処理装置
JP2004340840A (ja) 距離測定装置、距離測定方法、及び距離測定プログラム
JP7287793B2 (ja) ターゲット装置及び測量システム
JP2016048221A (ja) 演算装置、演算方法、およびプログラム
JP2005017286A (ja) カメラキャリブレーション方法およびカメラキャリブレーション装置
JP5311465B2 (ja) ステレオマッチング処理システム、ステレオマッチング処理方法、及びプログラム
JP2006234703A (ja) 画像処理装置及び三次元計測装置並びに画像処理装置用プログラム
US20200242806A1 (en) Stereo camera calibration method and image processing device for stereo camera
JP2008309595A (ja) オブジェクト認識装置及びそれに用いられるプログラム
JP2013130508A (ja) 3次元計測方法、3次元計測プログラム及びロボット装置
JP6188860B1 (ja) オブジェクト検出装置
JP2002099902A (ja) 両眼立体視によって物体の3次元情報を計測する画像処理装置およびその方法又は計測のプログラムを記録した記録媒体
JP2000205821A (ja) 三次元形状計測装置及びその三次元形状計測方法
WO2017209153A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP7225109B2 (ja) 作業支援システムおよび作業支援方法
JP6878235B2 (ja) 映像表示システム
JP4166993B2 (ja) 立体画像表示装置及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060405

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070529

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070711

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070821

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070912

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100921

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4015051

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110921

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120921

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130921

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees