JP2007256030A - Calibration system and calibration method for vehicle-mounted camera - Google Patents

Calibration system and calibration method for vehicle-mounted camera Download PDF

Info

Publication number
JP2007256030A
JP2007256030A JP2006079870A JP2006079870A JP2007256030A JP 2007256030 A JP2007256030 A JP 2007256030A JP 2006079870 A JP2006079870 A JP 2006079870A JP 2006079870 A JP2006079870 A JP 2006079870A JP 2007256030 A JP2007256030 A JP 2007256030A
Authority
JP
Japan
Prior art keywords
adjustment
vehicle
camera
parameter
marker
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006079870A
Other languages
Japanese (ja)
Inventor
Yoshitaka Okuyama
義隆 奥山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Faurecia Clarion Electronics Co Ltd
Original Assignee
Clarion Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Clarion Co Ltd filed Critical Clarion Co Ltd
Priority to JP2006079870A priority Critical patent/JP2007256030A/en
Publication of JP2007256030A publication Critical patent/JP2007256030A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a camera calibration system and calibration method which eliminates the need to provide wide space around a vehicle and can be executed even while the vehicle is traveling. <P>SOLUTION: The calibration system comprises the camera 1 installed in the vehicle 200 for photographing an image including a contour 211 of a rear bumper 210 as an adjustment pattern, a parameter storage memory 3 for storing parameters specifying the installed attitude of the camera 1, a marker generation section 21 for generating an adjustment marker M simulating the contour 211 of the rear bumper 210 with an attitude corresponding to the parameters, a monitor 5 for allowing the image including the adjustment pattern 211 to display the adjustment marker M in a superimposed manner, an external input interface 6 to which instructions for adjusting the display attitude of the adjustment marker M are input, and a parameter calculation section 22 for calculating new parameters corresponding to the input adjustment instructions and allowing them to be stored in the parameter storage memory 3. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、車載カメラのキャリブレーション装置およびキャリブレーション方法に関する。   The present invention relates to an on-vehicle camera calibration device and a calibration method.

自動車にカメラおよびモニタが設置され、カメラで撮影された車両周囲の映像に基づいた映像情報などを車室内のモニタに表示して、運転操作時の利便性を向上させる技術が各種提案されている。   Various technologies have been proposed in which a camera and a monitor are installed in an automobile, and video information based on images around the vehicle photographed by the camera is displayed on a monitor in the passenger compartment to improve convenience during driving operation. .

このような車載カメラシステムは、当初は、運転者に対して、死角となる領域の映像を視認可能とさせることのみを目的としていたため、カメラで撮影された映像(実カメラ映像)をそのままモニタに表示するに過ぎなかった。   Initially, such an in-vehicle camera system was intended only to allow the driver to visually recognize the image of the blind spot area, so the image (actual camera image) captured by the camera was directly monitored. It was only displayed on.

その後、歪みの少ないカメラの生映像上に、遠近の目安となる距離マーカを重畳表示することにより、ある程度の距離感を与えて、利便性をより向上させることも行われている。   Thereafter, a distance marker serving as a perspective reference is superimposed and displayed on the raw video of the camera with little distortion, thereby giving a certain sense of distance and further improving convenience.

この場合、モニタ上での、実カメラ映像と距離マーカとの表示位置をある程度調整する必要があるが、距離マーカは距離の目安に過ぎなかったため、モニタ上における距離マーカの概略表示位置をある程度調整するだけで十分であった。   In this case, it is necessary to adjust the display position of the actual camera image and the distance marker on the monitor to some extent, but since the distance marker is only a guide for the distance, the approximate display position of the distance marker on the monitor is adjusted to some extent. It was enough to do.

しかし、カメラで撮影された映像に対して、例えば車両の真上から視た擬似的な映像に変換する、いわゆる視点変換処理を施したり、車両に設置された複数のカメラで得られた複数の映像を繋げる変換処理などを行う場合、車両に対するカメラの設置姿勢(車両の前後方向、幅方向、鉛直方向の各軸回りのカメラの光軸の角度)を精度よく調整する必要がある。   However, the video captured by the camera is subjected to, for example, a so-called viewpoint conversion process that converts it into a pseudo video viewed from directly above the vehicle, or a plurality of images obtained by a plurality of cameras installed in the vehicle. When performing conversion processing for connecting images, it is necessary to accurately adjust the installation posture of the camera with respect to the vehicle (the angle of the optical axis of the camera around each axis in the vehicle front-rear direction, the width direction, and the vertical direction).

しかし、そのような厳密な調整に要する時間や労力と、経済的なコストとのバランスを考慮すると、全く誤差の無い完全な設置姿勢を得るのは困難である。   However, considering the balance between the time and labor required for such precise adjustment and the economic cost, it is difficult to obtain a complete installation posture with no error.

そこで、実際の設置姿勢についてはある程度の誤差を許容しつつも、モニタに表示される映像上では、見かけ上、誤差が存在しないように、予め誤差を見込ん補正演算処理(キャリブレーション)が行われる(特許文献1)。   Therefore, a correction calculation process (calibration) is performed in advance to allow for an error so that an error does not exist on the image displayed on the monitor while allowing a certain error for the actual installation posture. (Patent Document 1).

このキャリブレーションは、カメラの設置姿勢を特定するカメラパラメータを対象とした演算処理によって行われる(特許文献2)。
特開2005−77107号公報 特願2005−285531号公報(未公開)
This calibration is performed by a calculation process for a camera parameter that specifies the installation posture of the camera (Patent Document 2).
JP 2005-77107 A Japanese Patent Application No. 2005-285531 (unpublished)

しかし、特許文献1,2による技術は、キャリブレーションに用いる調整用のパターンやマーカを車両周囲の地面上に用意する必要があり、車両周囲に、その調整用パターン等を設けるための広いスペースを確保しなければならず、車両の組立てラインや、修理工場の施設において、そのような広いスペースを確保するのは、困難である。   However, the techniques according to Patent Documents 1 and 2 require that an adjustment pattern or marker used for calibration is prepared on the ground around the vehicle, and that a wide space for providing the adjustment pattern or the like is provided around the vehicle. It is difficult to secure such a large space in a vehicle assembly line or a repair shop facility.

また、上述した技術におけるキャリブレーションは、車両を停止させている場合にのみ行うことができ、例えば車両の走行中にキャリブレーションが必要になった場合は、車両を一旦停車させ、車両の周囲に所定の広いスペースを確保した上で、キャリブレーションを行う必要がある。   In addition, the calibration in the above-described technique can be performed only when the vehicle is stopped. For example, when calibration is necessary while the vehicle is running, the vehicle is temporarily stopped and is placed around the vehicle. It is necessary to perform calibration after securing a predetermined wide space.

従来のキャリブレーション装置およびキャリブレーション方法は、このように制限が多く、十分な実用性を発揮するには至っていない。   Conventional calibration apparatuses and calibration methods are thus limited in number and have not yet achieved sufficient practicality.

本発明は上記事情に鑑みなされたものであって、車両の周囲に広いスペースを確保する必要がなく、しかも、走行中であってもキャリブレーションを実行することができる車載カメラのキャリブレーション装置およびキャリブレーション方法を提供することを目的とする。   The present invention has been made in view of the above circumstances, and it is not necessary to secure a wide space around the vehicle, and it is possible to perform calibration even when the vehicle is running, An object is to provide a calibration method.

本発明に係る車載カメラのキャリブレーション装置およびキャリブレーション方法は、車載カメラで撮影された車両の表面の一部を、キャリブレーションの調整パターンとし、この調整パターンに、この車両の表面の一部に対応して生成された調整マーカ(基準パターン)を一致させるように、調整マーカの姿勢を規定するパラメータを調整することにより、車両の周囲に広いスペースを確保する必要がなく、しかも、走行中であってもキャリブレーションを実行することを可能としたものである。   In the on-vehicle camera calibration device and calibration method according to the present invention, a part of the surface of the vehicle photographed by the on-vehicle camera is used as a calibration adjustment pattern, and the adjustment pattern is applied to a part of the surface of the vehicle. It is not necessary to secure a large space around the vehicle by adjusting the parameters that define the attitude of the adjustment marker so that the corresponding adjustment markers (reference patterns) are matched, and while driving, Even if it exists, it is possible to execute calibration.

すなわち、本発明に係る車載カメラのキャリブレーション装置は、車両に設置されて、該車両の表面の一部を調整パターンとして含む映像を撮影するカメラと、前記カメラの設置姿勢を特定するパラメータを記憶するパラメータ記憶手段と、前記車両の表面の一部を模した調整マーカを、前記パラメータに応じた姿勢で生成するマーカ生成手段と、前記調整パターンを含む映像に前記調整マーカを重畳的に表示させる表示手段と、前記表示手段において、前記調整マーカの表示を前記調整パターンの表示に一致させるように、前記調整マーカの表示姿勢を調整する指示が入力される入力手段と、前記入力手段に入力された調整の指示に対応する新たなパラメータを算出し、前記パラメータ記憶手段に記憶されたパラメータを前記新たなパラメータに置き換えるパラメータ演算手段とを備えたことを特徴とする。   That is, the in-vehicle camera calibration device according to the present invention stores a camera that is installed in a vehicle and shoots an image including a part of the surface of the vehicle as an adjustment pattern, and a parameter that specifies the installation posture of the camera. Parameter storage means for generating, an adjustment marker that imitates a part of the surface of the vehicle in a posture corresponding to the parameter, and an adjustment marker that is superimposed on an image including the adjustment pattern. In the display means, in the display means, an input means for inputting an instruction to adjust the display posture of the adjustment marker so that the display of the adjustment marker matches the display of the adjustment pattern, and input to the input means A new parameter corresponding to the adjustment instruction is calculated, and the parameter stored in the parameter storage means is changed to the new parameter. Characterized by comprising a parameter calculating means for replacing the data.

ここで、調整パターンとしての車両の表面の一部としては、例えばカメラとして車両後方用カメラを適用したものでは、車両の後部バンパの外形輪郭などが代表的なものであるが、その他、カメラで映すことができる範囲の部分であってもよい。   Here, as a part of the surface of the vehicle as the adjustment pattern, for example, when a vehicle rear camera is applied as a camera, the outer contour of the rear bumper of the vehicle is a typical one. The part of the range which can be projected may be sufficient.

車両の側方用カメラの場合や前方用カメラの場合も、車体の側部パネルの外形輪郭や前部バンパの外形輪郭などや、その他、カメラで映すことができる範囲の部分を適用することができる。   In the case of a vehicle side camera or a front camera, it is possible to apply the outline of the side panel of the vehicle body, the outline of the front bumper, etc. it can.

カメラの設置姿勢を特定するパラメータは、具体的には、所定の基準軸回りの回転角度などであり、例えば、車両の前後方向、幅方向、鉛直方向にそれぞれ延びる各軸に対してカメラの光軸が為す角度を適用することができる。   Specifically, the parameter for specifying the installation posture of the camera is a rotation angle around a predetermined reference axis, for example, the light of the camera with respect to each axis extending in the front-rear direction, the width direction, and the vertical direction of the vehicle. The angle that the axis makes can be applied.

本発明に係る車載カメラのキャリブレーション方法は、車両に対するカメラの設置姿勢を特定するパラメータを記憶し、前記カメラによって撮影された、前記車両の表面の一部を模した調整マーカを、前記パラメータに応じた姿勢で生成し、前記カメラによって撮影された、該車両の表面の一部を調整パターンとして含む映像に、前記調整マーカを重畳的に表示させ、前記調整マーカの表示を前記調整パターンの表示に一致させるように、前記調整マーカの表示姿勢を調整する指示を入力し、前記入力された調整の指示に対応する新たなパラメータを算出し、前記パラメータ記憶手段記憶されたパラメータを前記新たなパラメータに置き換えて、前記カメラをキャリブレーションすることを特徴とする。   The on-vehicle camera calibration method according to the present invention stores a parameter for specifying the installation posture of the camera with respect to the vehicle, and an adjustment marker imitating a part of the surface of the vehicle captured by the camera as the parameter. The adjustment marker is superimposed on the image including a part of the surface of the vehicle generated as the adjustment pattern, and the adjustment marker is displayed, and the adjustment marker is displayed. An instruction to adjust the display posture of the adjustment marker is input so as to match, and a new parameter corresponding to the input adjustment instruction is calculated, and the parameter stored in the parameter storage means is used as the new parameter. The camera is calibrated instead of the above.

本発明に係る車載カメラのキャリブレーション装置およびキャリブレーション方法によれば、カメラで映された車体の一部をキャリブレーションの対象とするため、従来のように車両の周囲に広いスペースを確保する必要がなく、しかも、走行中であってもキャリブレーションを実行することができる。   According to the on-vehicle camera calibration device and the calibration method according to the present invention, since a part of the vehicle body imaged by the camera is to be calibrated, it is necessary to ensure a wide space around the vehicle as in the past. In addition, calibration can be executed even while the vehicle is running.

以下、本発明に係る車載カメラのキャリブレーション装置およびキャリブレーション方法の最良の実施形態について、図面を参照して説明する。なお、本実施形態は、マイクロコンピュータ、各種メモリ、入出力装置等をプログラムによって制御することで実現することができるが、この場合のハードウェアやプログラムの実施態様は各種変更可能である。したがって、以下の説明では、本発明及び本実施形態の各機能を実現する仮想的回路ブロックを用いる。
(実施形態の概要)
車両に設置されて、車両の表面の一部を含む映像を撮影するカメラにおいては、設置位置および設置姿勢(角度)という設置状態を特定するカメラパラメータがある。
BEST MODE FOR CARRYING OUT THE INVENTION Embodiments of a calibration apparatus and a calibration method for an in-vehicle camera according to the present invention will be described below with reference to the drawings. Note that this embodiment can be realized by controlling a microcomputer, various memories, input / output devices, and the like by a program. In this case, various embodiments of hardware and programs can be changed. Therefore, in the following description, virtual circuit blocks that realize the functions of the present invention and the present embodiment are used.
(Outline of the embodiment)
In a camera that is installed in a vehicle and shoots an image including a part of the surface of the vehicle, there are camera parameters that specify an installation state such as an installation position and an installation posture (angle).

ここで、車体に対するカメラの設置位置の誤差は、当該カメラによって撮影された映像(この映像を構成する各フレームを画像という。)における各対象画像部分の位置精度に大きな影響を及ぼさないが、設置姿勢の誤差は、撮影された画像における各対象画像部分の位置精度に大きな影響を及ぼす。特に、この画像に基づいて、視点変換処理等の位置に関係する画像処理を施した場合には、その影響は顕著なものとなる。   Here, the error of the installation position of the camera with respect to the vehicle body does not greatly affect the position accuracy of each target image portion in the video (each frame constituting the video is referred to as an image) taken by the camera. The error in posture greatly affects the positional accuracy of each target image portion in the captured image. In particular, when image processing related to a position such as viewpoint conversion processing is performed based on this image, the influence becomes significant.

本実施形態のキャリブレーション装置は、以下、設置姿勢を特定するパラメータをキャリブレーションするものである。   The calibration apparatus according to the present embodiment calibrates parameters that specify the installation posture.

そして、この実施形態のキャリブレーション装置は、車載カメラで撮影された映像のうち車両の表面の一部である調整パターンに、メモリに記憶されたパラメータに基づいて描かれたシミュレーション画像(調整マーカ)を重畳的に表示し、調整マーカが調整パターンに一致するようにパラメータを微調整し、調整マーカが調整パターンに一致したときのパラメータを、当該カメラの最新のパラメータとするものである。
(実施形態の構成)
図1は、本発明の一実施形態に係る車載カメラのキャリブレーション装置100を示すブロック図である。
And the calibration apparatus of this embodiment is the simulation image (adjustment marker) drawn based on the parameter memorize | stored in the adjustment pattern which is a part of vehicle surface among the images image | photographed with the vehicle-mounted camera. Are displayed in a superimposed manner, the parameter is finely adjusted so that the adjustment marker matches the adjustment pattern, and the parameter when the adjustment marker matches the adjustment pattern is set as the latest parameter of the camera.
(Configuration of the embodiment)
FIG. 1 is a block diagram showing a calibration apparatus 100 for an in-vehicle camera according to an embodiment of the present invention.

図示のキャリブレーション装置100は、図2に示すように車両200の後部に設置されて、この車両200の後部バンパ210の輪郭211(車両の表面の一部)を調整パターンとして含む映像P0を撮影するカメラ1と、カメラ1の設置姿勢を特定するパラメータを記憶するパラメータ保存メモリ3(パラメータ記憶手段)と、調整パターンである後部バンパ210の輪郭211を模した調整マーカMを、パラメータに応じた姿勢で生成するマーカ生成部21(マーカ生成手段)と、調整パターン211を含む映像P0に調整マーカMを重畳的に表示させる描画部4およびモニタ5(表示手段)と、モニタ5において、調整マーカMの表示を調整パターン211の表示に一致させるように、調整マーカMの表示姿勢を調整する指示(調整量)が入力される外部入力インタフェース6(入力手段)と、この外部入力インターフェース6に入力された調整量に対応した新たなパラメータを算出するパラメータ演算部22(パラメータ演算手段)とを備えた構成である。   The illustrated calibration apparatus 100 is installed at the rear of the vehicle 200 as shown in FIG. 2 and shoots an image P0 including the contour 211 (a part of the surface of the vehicle) of the rear bumper 210 of the vehicle 200 as an adjustment pattern. The adjustment marker M imitating the contour 211 of the rear bumper 210, which is an adjustment pattern, according to the parameters. In the marker generating unit 21 (marker generating unit) generated by the posture, the drawing unit 4 and the monitor 5 (display unit) for displaying the adjustment marker M superimposed on the video P0 including the adjustment pattern 211, and the monitor 5, the adjustment marker Instruction (adjustment) for adjusting the display posture of the adjustment marker M so that the display of M matches the display of the adjustment pattern 211 ) Is input, and a parameter calculation unit 22 (parameter calculation means) that calculates a new parameter corresponding to the adjustment amount input to the external input interface 6 is provided. is there.

ここで、マーカ生成部21とパラメータ演算部22とは、マイクロコンピュータによるプログラムによって実現される機能であり、マイクロコンピュータの制御部2に含まれている。   Here, the marker generation unit 21 and the parameter calculation unit 22 are functions realized by a program using a microcomputer, and are included in the control unit 2 of the microcomputer.

また、パラメータ保存メモリ3は、予め設計的に定められたデフォルトパラメータを記憶した読出し専用のROM部と、キャリブレーション処理の都度、最新のパラメータに順次置き換えられるフラッシュメモリ部とを有している。   The parameter storage memory 3 has a read-only ROM section that stores default parameters predetermined in design, and a flash memory section that is sequentially replaced with the latest parameters each time calibration processing is performed.

外部入力インタフェース6は、ユーザが調整操作を行うためのインタフェースである。   The external input interface 6 is an interface for a user to perform an adjustment operation.

図2は、車両200に対するカメラ1の位置関係の一例を示す模式図である。ここで、任意の一点(例えば、リアシャフト中心から鉛直下方に下ろした地面上の点)を空間座標の原点とし、例えばカメラ1の光軸方向が鉛直方向の下向きの設置姿勢を、カメラ1の基準姿勢として決めておくことで、この車両200に取付けられるカメラ1の設置位置および設置姿勢を特定することができる。   FIG. 2 is a schematic diagram illustrating an example of the positional relationship of the camera 1 with respect to the vehicle 200. Here, an arbitrary one point (for example, a point on the ground vertically lowered from the center of the rear shaft) is used as the origin of the spatial coordinates, and for example, the installation posture in which the optical axis direction of the camera 1 is vertically downward is By determining the reference posture, the installation position and installation posture of the camera 1 attached to the vehicle 200 can be specified.

したがって、車載後部カメラや車載側部カメラ等、車両200におけるカメラ1の設置部位による、設置位置および設置姿勢の特定方法に差異はない。つまり、カメラ1は車両200の後部に設置されたものには限定されない。   Therefore, there is no difference in the method for specifying the installation position and the installation posture depending on the installation site of the camera 1 in the vehicle 200 such as the in-vehicle rear camera and the in-vehicle side camera. That is, the camera 1 is not limited to that installed at the rear of the vehicle 200.

そして、カメラ1の設置姿勢は、簡単のため車両の挙動に対応させた、ピッチ角、ロール角およびヨー角(3次元空間の互いに独立した3軸周りの回転角度θ,φ,ψ)で一義的に特定することができるため、カメラ1のどのような設置姿勢も、この3つの回転角度で表現すればよく、これらの回転角度は設置姿勢を特定するパラメータとして最適である。   The installation posture of the camera 1 is unambiguously defined by a pitch angle, a roll angle, and a yaw angle (rotation angles θ, φ, and ψ around three independent axes in a three-dimensional space) that correspond to the behavior of the vehicle for simplicity. Therefore, any installation posture of the camera 1 may be expressed by these three rotation angles, and these rotation angles are optimal as parameters for specifying the installation posture.

これを利用すると、既に任意のパラメータθ0,φ0,ψ0により設置姿勢が特定されているカメラ1に対して、さらにいずれかの軸回りの回転を加えても、変化後に対応した新たなパラメータθ,φ,ψにより、新たな設置姿勢を特定することができる。 By utilizing this, even if rotation about any axis is further applied to the camera 1 whose installation posture has already been specified by the arbitrary parameters θ 0 , φ 0 , ψ 0 , a new corresponding to the change is made. A new installation posture can be specified by the parameters θ, φ, and ψ.

マーカ生成部21は、パラメータ保存メモリ3から入力されたパラメータにより特定される設計上の設置姿勢で設置されたカメラ1によって、空間上における設置位置が既知の後部バンパ210の輪郭211を撮影した場合に、モニタ5上に得られるべき調整パターン(当該輪郭211)を模した調整マーカMの描画データを生成する。   When the marker generating unit 21 captures the contour 211 of the rear bumper 210 whose installation position in the space is known by the camera 1 installed in the design installation posture specified by the parameter input from the parameter storage memory 3 Further, drawing data of the adjustment marker M imitating the adjustment pattern (the contour 211) to be obtained on the monitor 5 is generated.

なお、本実施形態のキャリブレーション装置100の実際の処理においては、後述するパラメータ演算部22が、パラメータを3×3の回転行列に変換してマーカ生成部21に出力し、マーカ生成部21は、このパラメータ演算部22から入力された3×3の回転行列に基づいて、調整マーカMを生成している。   In the actual processing of the calibration apparatus 100 according to the present embodiment, the parameter calculation unit 22 described later converts the parameters into a 3 × 3 rotation matrix and outputs the rotation matrix to the marker generation unit 21. The marker generation unit 21 The adjustment marker M is generated based on the 3 × 3 rotation matrix input from the parameter calculation unit 22.

パラメータ演算部22は、外部入力インタフェース6に入力された指示(調整量)に応じた、調整マーカMの姿勢変位に対応する3×3の調整用回転行列を求めるとともに、得られた調整用回転行列と、パラメータ保存メモリ3のフラッシュメモリ部(最初のキャリブレーション処理のときはROM部)に記憶されたパラメータ(最初のキャリブレーション処理のときはデフォルトパラメータ)に基づく3×3の回転行列との演算により、3×3の合成回転行列を求めて、この合成回転行列をマーカ生成部21に出力する。   The parameter calculation unit 22 obtains a 3 × 3 adjustment rotation matrix corresponding to the attitude displacement of the adjustment marker M according to the instruction (adjustment amount) input to the external input interface 6, and the obtained adjustment rotation And a 3 × 3 rotation matrix based on the parameters (default parameters for the first calibration process) stored in the flash memory part (ROM part for the first calibration process) of the parameter storage memory 3 By calculation, a 3 × 3 combined rotation matrix is obtained, and this combined rotation matrix is output to the marker generation unit 21.

また、パラメータ演算部22は、得られた合成回転行列を、この合成回転行列に対応する回転角度というパラメータに変換して、パラメータ保存メモリ3のフラッシュメモリ部に保存させる。   Further, the parameter calculation unit 22 converts the obtained combined rotation matrix into a parameter called a rotation angle corresponding to the combined rotation matrix, and stores it in the flash memory unit of the parameter storage memory 3.

描画部4は、制御部2において生成された描画データを保存する描画データメモリ41と、描画データメモリ41に保存されたデジタルの描画データを、カメラ1から入力されたアナログの実カメラ映像P0に重畳させるように合成(スーパーインポーズ)する描画ブロック42とを有している。   The drawing unit 4 stores the drawing data memory 41 that stores the drawing data generated in the control unit 2 and the digital drawing data stored in the drawing data memory 41 into an analog actual camera video P0 input from the camera 1. And a drawing block 42 that is superimposed (superimposed) so as to be superimposed.

モニタ5は、LCD等の車載用の表示装置であり、描画ブロック42で合成された映像を表示する。   The monitor 5 is a vehicle-mounted display device such as an LCD, and displays the video synthesized by the drawing block 42.

外部入力インタフェース6からパラメータ演算部22に入力された調整マーカMの姿勢変位の指示(調整量)は、パラメータ演算部22によって略リアルタイムに調整用回転行列に変換され、さらに、この調整用回転行列と、パラメータ保存メモリ3のフラッシュメモリ部(最初のキャリブレーション処理のときはROM部)に記憶された最新のパラメータ(最初のキャリブレーション処理のときはデフォルトパラメータ)に基づく3×3の回転行列との演算により、合成回転行列に変換され、マーカ生成部21がこの合成回転行列に基づいて新たな姿勢の調整マーカMを生成して、モニタ5には、実カメラ映像P0と新たな姿勢の調整マーカMとが重畳的に表示されるため、ユーザは、モニタ5に映った実カメラ映像P0と姿勢が逐次変化する調整マーカMとの重畳的表示を見ながら、調整マーカMを実カメラ映像P0の調整パターン211に一致させるように、試行錯誤的に調整マーカMの姿勢変化の指示を入力することができる。   The instruction (adjustment amount) of the attitude displacement of the adjustment marker M input from the external input interface 6 to the parameter calculation unit 22 is converted into the adjustment rotation matrix by the parameter calculation unit 22 in substantially real time. And a 3 × 3 rotation matrix based on the latest parameters (default parameters for the first calibration process) stored in the flash memory section (the ROM section for the first calibration process) of the parameter storage memory 3 And the marker generation unit 21 generates a new posture adjustment marker M based on the composite rotation matrix, and the monitor 5 adjusts the actual camera image P0 and the new posture. Since the marker M is displayed in a superimposed manner, the user sequentially changes the posture of the actual camera image P0 reflected on the monitor 5 That while viewing the superimposed display of the adjustment markers M, to match the adjusted marker M in the adjustment pattern 211 of the real camera image P0, can input an instruction of a change in the posture of the trial and error adjustment marker M.

なお、外部入力インタフェース6としては、十字キーなどのスイッチやカーソル等を備えたリモコンであってもよいが、タッチパネルの機能を備えたモニタ5に兼用させることもできる。この場合、制御部2は、操作用の描画データを生成する機能を備える。例えば、表示されたボタンや矢印等に触れることにより、調整対象に所定量の変化が生じるように設定することもできる。
(実施形態の作用)
以上のような本実施形態の車載カメラのキャリブレーション装置100による処理手順を、図3のフローチャートにしたがって説明する。
The external input interface 6 may be a remote controller provided with a switch such as a cross key or a cursor, but may also be used as a monitor 5 having a touch panel function. In this case, the control unit 2 has a function of generating drawing data for operation. For example, it is possible to set so that a predetermined amount of change occurs in the adjustment target by touching a displayed button or arrow.
(Operation of the embodiment)
The processing procedure by the on-vehicle camera calibration device 100 of the present embodiment as described above will be described with reference to the flowchart of FIG.

まず、従来技術であれば、車両200の後方にキャリブレーションを実行するに相応しい大きな領域を占有する調整パターンを用意する必要があった。例えば図4における市松模様状のシートP1などである。このシートP1は、車両200の大きさと同程度の広さを有しており、車両200の後方に、このシートP1を水平に配置するための広いスペースが必要であった。   First, according to the conventional technique, it is necessary to prepare an adjustment pattern that occupies a large area suitable for executing calibration behind the vehicle 200. For example, the checkered sheet P1 in FIG. The seat P <b> 1 has the same size as the size of the vehicle 200, and a large space for horizontally arranging the seat P <b> 1 is necessary behind the vehicle 200.

しかし、本実施形態のキャリブレーション装置100は、車両200の一部である後部バンパ210の輪郭211を調整パターンとしているため、車両200の後方に広いスペースを確保する必要がない。なお、この調整パターンである後部バンパ210の輪郭211の空間座標は前述したように既知である。   However, since the calibration device 100 of the present embodiment uses the contour 211 of the rear bumper 210 that is a part of the vehicle 200 as an adjustment pattern, it is not necessary to secure a wide space behind the vehicle 200. Note that the spatial coordinates of the contour 211 of the rear bumper 210, which is this adjustment pattern, is known as described above.

制御部2は、パラメータ保存メモリ3のフラッシュメモリ部に記憶された最新のパラメータを読み出す(S301(ステップ301))。   The control unit 2 reads the latest parameter stored in the flash memory unit of the parameter storage memory 3 (S301 (step 301)).

なお、初めてのキャリブレーション処理の場合、または工場出荷状態に戻した初期化後に初めてキャリブレーション処理を行う場合に限って、フラッシュメモリ部に記憶された最新のパラメータを読み出す処理に代えて、パラメータ保存メモリ3のROM部に記憶されたデフォルトパラメータを読み出すものとする。   In the case of the first calibration process or only when the calibration process is performed for the first time after the factory reset, the parameter saving is performed instead of the process of reading the latest parameter stored in the flash memory unit. Assume that the default parameters stored in the ROM section of the memory 3 are read.

読み出されたパラメータ(またはデフォルトパラメータ)は、制御部2のパラメータ演算部22により、このパラメータ(またはデフォルトパラメータ)に対応する3×3の回転行列に変換され、得られた回転行列はマーカ生成部21に入力される。   The read parameter (or default parameter) is converted into a 3 × 3 rotation matrix corresponding to this parameter (or default parameter) by the parameter calculation unit 22 of the control unit 2, and the obtained rotation matrix is used to generate a marker. Input to the unit 21.

マーカ生成部21は、入力された回転行列の演算を行って、調整パターン211を模した調整マーカMを生成する(S302)。生成された調整マーカMは、描画データメモリ41に描画され、この調整マーカMは、描画ブロック42により、カメラ1が撮影した調整パターン211を含む実カメラ映像と重畳的に合成され、モニタ5に表示される(S303)。   The marker generation unit 21 calculates the input rotation matrix and generates an adjustment marker M simulating the adjustment pattern 211 (S302). The generated adjustment marker M is drawn in the drawing data memory 41, and the adjustment marker M is superimposed on the monitor 5 by the drawing block 42 and superimposed on the actual camera image including the adjustment pattern 211 photographed by the camera 1. It is displayed (S303).

カメラ1の実際の設置姿勢が、パラメータで特定される設置姿勢からずれていると、図4(a)に示すように、実カメラ映像P0内の調整パターン211に対して調整マーカMがずれた映像が、モニタ5に表示される。   If the actual installation posture of the camera 1 is deviated from the installation posture specified by the parameter, the adjustment marker M is deviated from the adjustment pattern 211 in the actual camera image P0 as shown in FIG. The video is displayed on the monitor 5.

このモニタ5の表示を見たユーザは、外部入力インタフェース6を用いて、モニタ5に映った調整マーカMの姿勢を変化させる指示(調整量)を入力する(ステップ304)。   The user who sees the display on the monitor 5 uses the external input interface 6 to input an instruction (adjustment amount) for changing the posture of the adjustment marker M reflected on the monitor 5 (step 304).

外部入力インタフェース6に入力された指示は、パラメータ演算部22に入力され、パラメータ演算部22は、略リアルタイムに、入力された調整マーカMの姿勢変位の指示(調整量)に対応した調整用回転行列に変換し(S305)、さらに、この調整用回転行列と、パラメータ保存メモリ3のフラッシュメモリ部に記憶された最新のパラメータ(最初のキャリブレーション処理の最初のルーチンの場合は、ROM部に記憶されたデフォルトパラメータ)に基づく3×3の回転行列との演算により、合成回転行列を算出し(S306)、マーカ生成部21がこの合成回転行列に基づいて新たな姿勢の調整マーカMを生成し(S307)、前述した描画データメモリ41および描画ブロック42の作用により、新たな姿勢の調整マーカMと実カメラ映像P0とがモニタ5に重畳的に表示される(S308)。   The instruction input to the external input interface 6 is input to the parameter calculation unit 22, and the parameter calculation unit 22 performs adjustment rotation corresponding to the input attitude displacement instruction (adjustment amount) of the adjustment marker M in substantially real time. The matrix is converted into a matrix (S305), and the rotation matrix for adjustment and the latest parameter stored in the flash memory unit of the parameter storage memory 3 (in the case of the first routine of the first calibration process, stored in the ROM unit). The combined rotation matrix is calculated by calculation with the 3 × 3 rotation matrix based on the default parameter) (S306), and the marker generation unit 21 generates a new posture adjustment marker M based on the combined rotation matrix. (S307), the adjustment marker M of the new posture and the actual position are obtained by the action of the drawing data memory 41 and the drawing block 42 described above. A camera video P0 is superimposed manner on the monitor 5 (S308).

モニタ5に表示された新たな姿勢の調整マーカMと実カメラ映像P0内の調整パターン211とが、図4(b)に示すように一致しているときは、ユーザは、外部入力インタフェース6を用いて、設置姿勢の調整の終了を指示入力する(S309)。   When the adjustment marker M of the new posture displayed on the monitor 5 and the adjustment pattern 211 in the actual camera image P0 match as shown in FIG. 4B, the user uses the external input interface 6. In step S309, an instruction to end the adjustment of the installation posture is input.

調整終了の指示が入力されると、パラメータ演算部22は、ステップ306(S306)で算出した合成回転行列に対応した新たなパラメータ(回転後の角度)を算出し(S310)、この新たなパラメータを、パラメータ保存メモリ3のフラッシュメモリ部に保存する(S311)。   When an instruction to end adjustment is input, the parameter calculation unit 22 calculates a new parameter (angle after rotation) corresponding to the combined rotation matrix calculated in step 306 (S306) (S310), and the new parameter. Is stored in the flash memory section of the parameter storage memory 3 (S311).

このとき、フラッシュメモリ部に既に保存されていた元のパラメータは、新たなパラメータに置き換えられ(上書きされ)、以後のキャリブレーション処理の際は、フラッシュメモリ部の記憶状態が初期化されない限り(工場出荷状態に戻されない限り)、ステップ301(S301)の読出し処理を含めて、ROM部に記憶されているデフォルトパラメータを読み出すのではなく、フラッシュメモリ部に記憶されている最新のパラメータを読み出すものとする。   At this time, the original parameter already stored in the flash memory unit is replaced (overwritten) with a new parameter, and in subsequent calibration processing, unless the storage state of the flash memory unit is initialized (factory) The latest parameters stored in the flash memory unit are read instead of reading the default parameters stored in the ROM unit, including the reading process in step 301 (S301), unless the product is returned to the shipping state. To do.

新たな姿勢の調整マーカMと実カメラ映像P0の調整パターン211とが、図4(a)と同様に一致していないときは、これらが一致するまで、ステップ304(S304)からステップ309(S309)までの処理を繰り返す。   When the adjustment marker M of the new posture and the adjustment pattern 211 of the actual camera image P0 do not match in the same manner as in FIG. 4A, from step 304 (S304) to step 309 (S309) until they match. ) Is repeated.

このように、カメラ1のパラメータを試行錯誤的に順次変化させることにより、本実施形態のキャリブレーション装置100によるキャリブレーション処理が行われる。   Thus, the calibration process by the calibration apparatus 100 of this embodiment is performed by sequentially changing the parameters of the camera 1 by trial and error.

上述したキャリブレーション処理は、回転行列の演算により行われるが、その具体的な方法を以下に説明する。   The calibration process described above is performed by calculating a rotation matrix, and a specific method thereof will be described below.

まず、カメラ1のパラメータに応じた回転角度θ,φ,ψが与えられ、任意の点は、数学的には次式(1),(2)に示す回転行列Rの演算により設置姿勢変換後の座標を得る。なお、Xinは回転前の設置姿勢による座標点であり、Xoutはパラメータにより回転後の設置姿勢の座標点である。 First, rotation angles θ, φ, and ψ according to the parameters of the camera 1 are given, and arbitrary points are mathematically converted after installation posture conversion by calculation of the rotation matrix R shown in the following equations (1) and (2). Get the coordinates. Incidentally, X in is the coordinate point by installing posture of the pre-rotation, X out are the coordinates points of the installation position after rotation by parameters.

Figure 2007256030
Figure 2007256030

Figure 2007256030
このように、変換対象に対して、回転行列を左からφ,θ,ψの順に演算している。回転行列RDを計算すると次式(3)に示すものとなる。
Figure 2007256030
Thus, the rotation matrix is calculated in order of φ, θ, and ψ from the left with respect to the conversion target. When the rotation matrix R D is calculated, the following equation (3) is obtained.

Figure 2007256030
この回転行列に回転角度のパラメータを代入した後、座標に対して演算させることで回転が実行される。
Figure 2007256030
After the rotation angle parameter is substituted into this rotation matrix, the rotation is executed by calculating the coordinates.

キャリブレーション処理の際には、この状態からさらに回転を加えて調整をすることになるが、例えばカメラ1を、ψ軸回りに△ψだけ回転させる場合には、回転行列R(Δψ)を左から追加して、次式(4)の計算となる。   In the calibration process, adjustment is performed by further rotating from this state. For example, when the camera 1 is rotated by Δψ around the ψ axis, the rotation matrix R (Δψ) is set to the left. In addition, the following equation (4) is calculated.

Figure 2007256030
ここで、φ0,θ0,ψ0,Δψは、それぞれ具体的な数値が与えられるため、変数を用いることなく3×3行列によって表すことができる。
Figure 2007256030
Here, since φ 0 , θ 0 , ψ 0 , and Δψ are given specific numerical values, they can be represented by a 3 × 3 matrix without using variables.

また、どのような設置姿勢の変換であっても、任意のφ,θ,ψによって表現することが可能であるから、RDa=RDとすると調整後のカメラ1の姿勢も、φ,θ,ψによって表現することが可能である。実際には、次式(5)となる。 In addition, since any installation posture conversion can be expressed by arbitrary φ, θ, ψ, when R Da = R D , the posture of the adjusted camera 1 is also φ, θ , Ψ. Actually, the following expression (5) is obtained.

Figure 2007256030
ここで、RDa=RDから必要部分だけ切り出すと、次式(6)の恒等式が与えられる。
Figure 2007256030
Here, when only a necessary part is cut out from R Da = R D , the identity of the following equation (6) is given.

Figure 2007256030
なお、sinθ=0の場合は、sinθ≠0の場合と比べて、下記式(7)に示すように、変数の値を簡単化することができる。
Figure 2007256030
In the case of sin θ = 0, the value of the variable can be simplified as shown in the following formula (7), compared to the case of sin θ ≠ 0.

Figure 2007256030
ここで、カメラ1の設置姿勢の基本的な条件が、0°≦θ<90°、−90°<φ<90°、−90°<ψ<90°であることを利用して計算を進めると、次式(8)となる。
Figure 2007256030
Here, the calculation is advanced using the fact that the basic conditions of the installation posture of the camera 1 are 0 ° ≦ θ <90 °, −90 ° <φ <90 °, and −90 ° <ψ <90 °. Then, the following equation (8) is obtained.

なお、この例は、カメラ1が後方用カメラの場合であり、側方用カメラの場合は、ψの範囲は変化するが、角度の調整幅そのものが大きくなるものではない。   In this example, the camera 1 is a rear camera. In the case of a side camera, the range of ψ changes, but the angle adjustment width itself does not increase.

Figure 2007256030
上式(8)により得られたカメラ1の設置姿勢の角度を、パラメータと置き換える。これにより、1つの角度の調整が終了するか、または、いずれかの外部入力インタフェース6を1回操作した際の調整として反映される。
Figure 2007256030
The angle of the installation posture of the camera 1 obtained by the above equation (8) is replaced with a parameter. As a result, the adjustment of one angle is completed or reflected as an adjustment when one of the external input interfaces 6 is operated once.

この操作を繰り返すことにより、モニタ5を見ながら常に最新状態からの位置合わせを実現することができる。最終的に、モニタ5において、調整パターンである後部バンパ210の輪郭211に、調整パターンMが重なったときのパラメータが、車両200に設置されたカメラ1の実際の設置姿勢の角度となる。   By repeating this operation, it is possible to always achieve alignment from the latest state while looking at the monitor 5. Finally, in the monitor 5, the parameter when the adjustment pattern M overlaps the contour 211 of the rear bumper 210 that is the adjustment pattern is the angle of the actual installation posture of the camera 1 installed in the vehicle 200.

この最終的なカメラ1の設置姿勢の角度を、デフォルトパラメータ保存メモリ3に記憶し、カメラ1の設置姿勢のパラメータ(回転角度)とすることにより、キャリブレーションが完了する。
(実施形態の効果)
本実施形態に係る車載カメラのキャリブレーション装置100およびこのキャリブレーション装置100の作用としても把握することができる本発明の実施形態に係る車載カメラのキャリブレーション方法によれば、カメラ1で映された車両200の表面の一部である後部バンパ210の輪郭211をキャリブレーションの対象とするため、従来のように車両200の周囲に広いスペース(図4におけるシートP1の広さに対応したスペース)を確保する必要がなく、当該車両200自体を配置することができる最低限のスペースだけで、キャリブレーション処理を行うことができる。
The final angle of the installation posture of the camera 1 is stored in the default parameter storage memory 3 and is used as a parameter (rotation angle) of the installation posture of the camera 1 to complete the calibration.
(Effect of embodiment)
According to the on-vehicle camera calibration device 100 according to the present embodiment and the on-vehicle camera calibration method according to the embodiment of the present invention, which can be grasped as the operation of the calibration device 100, the image is displayed by the camera 1. Since the contour 211 of the rear bumper 210, which is a part of the surface of the vehicle 200, is to be calibrated, a wide space (a space corresponding to the width of the seat P1 in FIG. 4) around the vehicle 200 as in the past. The calibration process can be performed with only a minimum space in which the vehicle 200 itself can be arranged without being secured.

したがって、例えば車両200の組立てライン上や修理工場内などの、広いスペースを確保することが困難な場所においても、簡単にキャリブレーション処理を行うことができる。   Therefore, the calibration process can be easily performed even in a place where it is difficult to ensure a wide space such as on the assembly line of the vehicle 200 or in a repair shop.

しかも、本実施形態に係る車載カメラのキャリブレーション装置100およびキャリブレーション方法によれば、車両200の走行中であってもキャリブレーションを実行することができ、実用面での使い勝手を大幅に向上させることができる。   Moreover, according to the on-vehicle camera calibration device 100 and the calibration method according to the present embodiment, the calibration can be executed even while the vehicle 200 is traveling, which greatly improves the usability in practical use. be able to.

また、本実施形態に係る車載カメラのキャリブレーション装置100およびキャリブレーション方法によれば、モニタ5の表示において、カメラ1で撮像した調整パターン211と、パラメータに基づいて生成された調整マーカMとが一致するように、外部入力インタフェース6によって調整することにより、パラメータを精度よく求めることができるため、カメラ1によって得られた映像に対して画像処理を施して得られる映像の精度を向上させることができる。   In addition, according to the on-vehicle camera calibration device 100 and the calibration method according to the present embodiment, the adjustment pattern 211 captured by the camera 1 and the adjustment marker M generated based on the parameters are displayed on the monitor 5. By adjusting with the external input interface 6 so as to match, the parameters can be obtained with high accuracy, so that the accuracy of the video obtained by performing image processing on the video obtained by the camera 1 can be improved. it can.

したがって、例えば、本実施形態のキャリブレーション装置100を使用し、カメラ1で得られた映像に、安全車間距離ラインのマーカを、ヘッドアップディスプレイ(モニタ5)に重畳的に表示する等の場合、安全車間距離ラインのマーカを精度よく表示することができるとともに、運転者に対して、認識しやすく、かつ視界内で邪魔にならないシンプルな注意喚起を行うことが可能になる。これにより、良好な運転支援を行うことができる。   Therefore, for example, when using the calibration apparatus 100 of the present embodiment and displaying the marker of the safe inter-vehicle distance line on the head-up display (monitor 5) on the image obtained by the camera 1, The marker of the safe inter-vehicle distance line can be displayed with high accuracy, and the driver can be easily recognized and can be simply alerted without being disturbed in the field of view. Thereby, favorable driving assistance can be performed.

また、初期状態ではパラメータを用いて調整し、調整結果を保存し、これを次回のパラメータとして使用することにより、常に最新のパラメータを用いたキャリブレーションを行うことができる。   In the initial state, adjustment is performed using parameters, the adjustment result is stored, and this is used as the next parameter, so that calibration using the latest parameter can always be performed.

また、パラメータ保存メモリ3には、予め設計的に定められたデフォルトパラメータが記憶されており、これは書換え不能のROM部に保存されているため、キャリブレーション装置100を必要に応じて初期化することで、デフォルトパラメータを起点とした最初のキャリブレーション処理に、簡単に戻すこともできる。   Further, the parameter storage memory 3 stores default parameters predetermined in design, and is stored in a non-rewritable ROM section. Therefore, the calibration apparatus 100 is initialized as necessary. Thus, it is possible to easily return to the initial calibration process starting from the default parameter.

さらに、ロール角、ヨー角、ピッチ角を用いることにより、カメラ1の設置姿勢を一義的に特定することが可能なパラメータを、効率よく演算することができる。   Furthermore, by using the roll angle, the yaw angle, and the pitch angle, it is possible to efficiently calculate parameters that can uniquely specify the installation posture of the camera 1.

なお、本発明に係る車載カメラのキャリブレーション装置は、上述した実施形態に限定されるものではない。   The on-vehicle camera calibration device according to the present invention is not limited to the above-described embodiment.

すなわち、使用するカメラやモニタの数、種類、仕様、規格等は任意であり、カメラやモニタの設置位置、設置角度等も任意である。   That is, the number, type, specification, standard, and the like of the cameras and monitors to be used are arbitrary, and the installation position and installation angle of the cameras and monitors are also arbitrary.

調整パターン211の態様も、上記の実施形態で例示した後部バンパ210の輪郭211に限定されるものではなく、車両200と一体化された車両200の表面の一部であればよく、調整マーカMも調整パターン211に応じたものとすればよい。   The aspect of the adjustment pattern 211 is not limited to the contour 211 of the rear bumper 210 exemplified in the above embodiment, and may be a part of the surface of the vehicle 200 integrated with the vehicle 200. The adjustment marker M May be determined according to the adjustment pattern 211.

入力手段についても、ユーザが入力操作可能なものであればよい。したがって、表示された調整マークM自体に触れて調整するものであってもよい。   Any input means that can be input by the user may be used. Therefore, the displayed adjustment mark M itself may be touched for adjustment.

本発明に係る車載カメラのキャリブレーション装置は、車載用のコンピュータ(ナビゲーションシステムや音響機器としての機能を備えたもの等)の一部として構成してもよい。   The in-vehicle camera calibration apparatus according to the present invention may be configured as a part of an in-vehicle computer (such as a navigation system or a function as an audio device).

また、本発明に係る車載カメラのキャリブレーション装置は、あらゆる車両に適用可能である。   The on-vehicle camera calibration device according to the present invention is applicable to any vehicle.

さらに、本発明に係る車載カメラのキャリブレーション装置は、上述したキャリブレーション処理をコンピュータに実行させるプログラム、そのようなプログラムを記録したコンピュータ読取可能な記憶媒体として構成するものであってもよい。   Furthermore, the in-vehicle camera calibration apparatus according to the present invention may be configured as a program that causes a computer to execute the above-described calibration processing, or a computer-readable storage medium that records such a program.

本発明の実施形態に係る車載カメラのキャリブレーション装置の構成を示すブロック図である。It is a block diagram which shows the structure of the calibration apparatus of the vehicle-mounted camera which concerns on embodiment of this invention. 図1に示したキャリブレーション装置のカメラの設置例を示す模式図である。It is a schematic diagram which shows the example of installation of the camera of the calibration apparatus shown in FIG. 図1に示したキャリブレーション装置によるキャリブレーション処理手順を示すフローチャートである。It is a flowchart which shows the calibration process sequence by the calibration apparatus shown in FIG. モニタの表示において、(a)調整パターンに対して調整マーカがずれている様子、(b)調整パターンに対して調整マーカが一致している様子、をそれぞれ示す図である。In the display of a monitor, it is a figure which respectively shows (a) a mode that the adjustment marker has shifted | deviated with respect to the adjustment pattern, and (b) a mode that the adjustment marker has corresponded with respect to the adjustment pattern.

符号の説明Explanation of symbols

1 カメラ
2 制御部
3 パラメータ保存メモリ(パラメータ記憶手段)
4 描画部(表示手段)
5 モニタ(表示手段)
6 外部入力インタフェース(入力手段)
21 マーカ生成部(マーカ生成手段)
22 パラメータ演算部(パラメータ演算手段)
41 描画データメモリ
42 描画ブロック
M 調整マーカ
1 Camera 2 Control unit 3 Parameter storage memory (parameter storage means)
4 Drawing part (display means)
5 Monitor (display means)
6 External input interface (input means)
21 Marker generator (marker generator)
22 Parameter calculation unit (parameter calculation means)
41 Drawing data memory 42 Drawing block M Adjustment marker

Claims (4)

車両に設置されて、該車両の表面の一部を調整パターンとして含む映像を撮影するカメラと、
前記カメラの設置姿勢を特定するパラメータを記憶するパラメータ記憶手段と、
前記車両の表面の一部を模した調整マーカを、前記パラメータに応じた姿勢で生成するマーカ生成手段と、
前記調整パターンを含む映像に前記調整マーカを重畳的に表示させる表示手段と、
前記表示手段において、前記調整マーカの表示を前記調整パターンの表示に一致させるように、前記調整マーカの表示姿勢を調整する指示が入力される入力手段と、
前記入力手段に入力された調整の指示に対応する新たなパラメータを算出し、前記パラメータ記憶手段に記憶されたパラメータを前記新たなパラメータに置き換えるパラメータ演算手段とを備えたことを特徴とする車載カメラのキャリブレーション装置。
A camera that is installed in a vehicle and shoots an image including a part of the surface of the vehicle as an adjustment pattern;
Parameter storage means for storing parameters for specifying the installation posture of the camera;
Marker generating means for generating an adjustment marker that imitates a part of the surface of the vehicle in a posture according to the parameter;
Display means for displaying the adjustment marker in a superimposed manner on an image including the adjustment pattern;
In the display means, an input means for inputting an instruction to adjust the display posture of the adjustment marker so that the display of the adjustment marker matches the display of the adjustment pattern;
A vehicle-mounted camera comprising: a parameter calculation unit that calculates a new parameter corresponding to an adjustment instruction input to the input unit and replaces the parameter stored in the parameter storage unit with the new parameter Calibration equipment.
前記パラメータ演算手段は、前記パラメータを、3次元空間の互いに独立した3軸回りの各回転角度によって特定することを特徴とする請求項1に記載の車載カメラのキャリブレーション装置。   The in-vehicle camera calibration device according to claim 1, wherein the parameter calculation unit specifies the parameter by each rotation angle about three independent axes in a three-dimensional space. 車両に対するカメラの設置姿勢を特定するパラメータを記憶し、
前記カメラによって撮影された、前記車両の表面の一部を模した調整マーカを、前記パラメータに応じた姿勢で生成し、
前記カメラによって撮影された、該車両の表面の一部を調整パターンとして含む映像に、前記調整マーカを重畳的に表示させ、
前記調整マーカの表示を前記調整パターンの表示に一致させるように、前記調整マーカの表示姿勢を調整する指示を入力し、
前記入力された調整の指示に対応する新たなパラメータを算出し、前記パラメータ記憶手段記憶されたパラメータを前記新たなパラメータに置き換えて、前記カメラをキャリブレーションすることを特徴とする車載カメラのキャリブレーション方法。
Memorize the parameters that specify the installation posture of the camera with respect to the vehicle,
An adjustment marker imitating a part of the surface of the vehicle photographed by the camera is generated with a posture corresponding to the parameter,
The adjustment marker is displayed in a superimposed manner on an image captured by the camera and including a part of the surface of the vehicle as an adjustment pattern,
Input an instruction to adjust the display posture of the adjustment marker so that the display of the adjustment marker matches the display of the adjustment pattern,
In-vehicle camera calibration characterized by calculating a new parameter corresponding to the input adjustment instruction and calibrating the camera by replacing the parameter stored in the parameter storage means with the new parameter Method.
前記パラメータを、3次元空間の互いに独立した3軸回りの各回転角度によって特定することを特徴とする請求項3に記載の車載カメラのキャリブレーション方法。


4. The on-vehicle camera calibration method according to claim 3, wherein the parameter is specified by each rotation angle around three independent axes in a three-dimensional space.


JP2006079870A 2006-03-23 2006-03-23 Calibration system and calibration method for vehicle-mounted camera Pending JP2007256030A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006079870A JP2007256030A (en) 2006-03-23 2006-03-23 Calibration system and calibration method for vehicle-mounted camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006079870A JP2007256030A (en) 2006-03-23 2006-03-23 Calibration system and calibration method for vehicle-mounted camera

Publications (1)

Publication Number Publication Date
JP2007256030A true JP2007256030A (en) 2007-10-04

Family

ID=38630432

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006079870A Pending JP2007256030A (en) 2006-03-23 2006-03-23 Calibration system and calibration method for vehicle-mounted camera

Country Status (1)

Country Link
JP (1) JP2007256030A (en)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011085489A1 (en) * 2010-01-13 2011-07-21 Magna Electronics Inc. Vehicular camera and method for periodic calibration of vehicular camera
KR101271639B1 (en) 2011-12-13 2013-06-17 (주)팜비젼 A extrinsic parameter calibration method and system for camera on mobile device
JP2013207622A (en) * 2012-03-29 2013-10-07 Fujitsu Ten Ltd Calibration device and calibration method
JP2014064224A (en) * 2012-09-24 2014-04-10 Clarion Co Ltd Calibration method and device for camera
WO2015122389A1 (en) * 2014-02-12 2015-08-20 ヤマハ発動機株式会社 Imaging device, vehicle, and image correction method
WO2015159489A1 (en) * 2014-04-16 2015-10-22 株式会社デンソー Mounting error display control device and mounting error detection device for vehicle-mounted camera
US10176594B2 (en) * 2014-10-09 2019-01-08 Denso Corporation Progressive in-vehicle camera calibrator, image generator, in-vehicle camera calibration method, and image generation method
DE102018210352A1 (en) * 2018-06-26 2020-01-02 Zf Friedrichshafen Ag Calibration method for the extrinsic calibration of a camera system of a vehicle
JP2020126626A (en) * 2019-01-31 2020-08-20 株式会社ストラドビジョンStradvision,Inc. Method for providing robust object distance estimation based on camera by performing pitch calibration of camera more precisely with fusion of information acquired through camera and information acquired through v2v communication and device using the same
US10769813B2 (en) 2018-08-28 2020-09-08 Bendix Commercial Vehicle Systems, Llc Apparatus and method for calibrating surround-view camera systems
US20210033467A1 (en) * 2018-04-17 2021-02-04 Autel Inteligent Technology Corp., Ltd. Calibration apparatus, system and method for in-vehicle camera
JP2021182001A (en) * 2018-03-29 2021-11-25 ヤンマーパワーテクノロジー株式会社 Work vehicle

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06215134A (en) * 1993-01-19 1994-08-05 Aisin Seiki Co Ltd Preprocessing method for on-vehicle picture data to be recognized
JP2001245326A (en) * 1999-12-24 2001-09-07 Aisin Seiki Co Ltd Device and method for calibrating on-vehicle camera, and calibration index
JP2002074339A (en) * 2000-08-31 2002-03-15 Hitachi Ltd On-vehicle image pickup unit

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06215134A (en) * 1993-01-19 1994-08-05 Aisin Seiki Co Ltd Preprocessing method for on-vehicle picture data to be recognized
JP2001245326A (en) * 1999-12-24 2001-09-07 Aisin Seiki Co Ltd Device and method for calibrating on-vehicle camera, and calibration index
JP2002074339A (en) * 2000-08-31 2002-03-15 Hitachi Ltd On-vehicle image pickup unit

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2523831B1 (en) 2010-01-13 2015-12-16 Magna Electronics Inc. Vehicular camera and method for periodic calibration of vehicular camera
EP2523831A1 (en) * 2010-01-13 2012-11-21 Magna Electronics Inc. Vehicular camera and method for periodic calibration of vehicular camera
EP2523831A4 (en) * 2010-01-13 2013-11-06 Magna Electronics Inc Vehicular camera and method for periodic calibration of vehicular camera
WO2011085489A1 (en) * 2010-01-13 2011-07-21 Magna Electronics Inc. Vehicular camera and method for periodic calibration of vehicular camera
US9296337B2 (en) 2010-01-13 2016-03-29 Magna Electronics Inc. Method of calibrating a vehicular camera
US9150155B2 (en) 2010-01-13 2015-10-06 Magna Electronics Inc. Vehicular camera and method for periodic calibration of vehicular camera
KR101271639B1 (en) 2011-12-13 2013-06-17 (주)팜비젼 A extrinsic parameter calibration method and system for camera on mobile device
JP2013207622A (en) * 2012-03-29 2013-10-07 Fujitsu Ten Ltd Calibration device and calibration method
JP2014064224A (en) * 2012-09-24 2014-04-10 Clarion Co Ltd Calibration method and device for camera
JPWO2015122389A1 (en) * 2014-02-12 2017-03-30 ヤマハ発動機株式会社 Imaging apparatus, vehicle, and image correction method
KR101812530B1 (en) * 2014-02-12 2017-12-27 야마하하쓰도키 가부시키가이샤 Imaging device, vehicle, and image correction method
WO2015122389A1 (en) * 2014-02-12 2015-08-20 ヤマハ発動機株式会社 Imaging device, vehicle, and image correction method
US10235772B2 (en) 2014-04-16 2019-03-19 Denso Corporation Installation error display control apparatus and installation error detection apparatus of onboard camera
WO2015159489A1 (en) * 2014-04-16 2015-10-22 株式会社デンソー Mounting error display control device and mounting error detection device for vehicle-mounted camera
JP2015202835A (en) * 2014-04-16 2015-11-16 株式会社デンソー Attachment error display control device of on-vehicle camera and attachment error detection device
US10176594B2 (en) * 2014-10-09 2019-01-08 Denso Corporation Progressive in-vehicle camera calibrator, image generator, in-vehicle camera calibration method, and image generation method
JP2021182001A (en) * 2018-03-29 2021-11-25 ヤンマーパワーテクノロジー株式会社 Work vehicle
US20210033467A1 (en) * 2018-04-17 2021-02-04 Autel Inteligent Technology Corp., Ltd. Calibration apparatus, system and method for in-vehicle camera
US12061118B2 (en) * 2018-04-17 2024-08-13 Autel Intelligent Technology Corp., Ltd. Calibration apparatus, system and method for in-vehicle camera
DE102018210352A1 (en) * 2018-06-26 2020-01-02 Zf Friedrichshafen Ag Calibration method for the extrinsic calibration of a camera system of a vehicle
US10769813B2 (en) 2018-08-28 2020-09-08 Bendix Commercial Vehicle Systems, Llc Apparatus and method for calibrating surround-view camera systems
JP2020126626A (en) * 2019-01-31 2020-08-20 株式会社ストラドビジョンStradvision,Inc. Method for providing robust object distance estimation based on camera by performing pitch calibration of camera more precisely with fusion of information acquired through camera and information acquired through v2v communication and device using the same

Similar Documents

Publication Publication Date Title
JP2007256030A (en) Calibration system and calibration method for vehicle-mounted camera
JP4636346B2 (en) Car camera calibration apparatus, method, and program
JP5820787B2 (en) Image processing apparatus and program
EP1850595B1 (en) Periphery supervising device, and periphery supervising method
JP6277652B2 (en) Vehicle peripheral image display device and camera adjustment method
JP4196841B2 (en) Image positional relationship correction device, steering assist device including the image positional relationship correction device, and image positional relationship correction method
JP5240527B2 (en) Car camera calibration apparatus, method, and program
JP2010103730A (en) Calibration device and calibration method of car-mounted camera
US20120293659A1 (en) Parameter determining device, parameter determining system, parameter determining method, and recording medium
JP2012105158A (en) Combination vehicle birds-eye-view display system
EP3002727B1 (en) Periphery monitoring apparatus and periphery monitoring system
JP6471522B2 (en) Camera parameter adjustment device
JP6151535B2 (en) Parameter acquisition apparatus, parameter acquisition method and program
JP2014147057A (en) Image processing apparatus and image processing method
JP2007150658A (en) On-vehicle perimeter image display apparatus
JP2018533098A (en) Panel conversion
WO2019053922A1 (en) Image processing device
JP2007110177A (en) Image processing apparatus and program
WO2010007960A1 (en) View-point conversion video image system for camera mounted on vehicle and method for acquiring view-point conversion video image
JP2007096964A (en) Device and method for calibrating camera
JP2013062692A (en) Calibration device and method for on-vehicle camera
JP6855254B2 (en) Image processing device, image processing system, and image processing method
US20220222947A1 (en) Method for generating an image of vehicle surroundings, and apparatus for generating an image of vehicle surroundings
US20200231099A1 (en) Image processing apparatus
JP2013207622A (en) Calibration device and calibration method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090318

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110407

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110412

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20111004