JP2007256030A - Calibration system and calibration method for vehicle-mounted camera - Google Patents
Calibration system and calibration method for vehicle-mounted camera Download PDFInfo
- Publication number
- JP2007256030A JP2007256030A JP2006079870A JP2006079870A JP2007256030A JP 2007256030 A JP2007256030 A JP 2007256030A JP 2006079870 A JP2006079870 A JP 2006079870A JP 2006079870 A JP2006079870 A JP 2006079870A JP 2007256030 A JP2007256030 A JP 2007256030A
- Authority
- JP
- Japan
- Prior art keywords
- adjustment
- vehicle
- camera
- parameter
- marker
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
Description
本発明は、車載カメラのキャリブレーション装置およびキャリブレーション方法に関する。 The present invention relates to an on-vehicle camera calibration device and a calibration method.
自動車にカメラおよびモニタが設置され、カメラで撮影された車両周囲の映像に基づいた映像情報などを車室内のモニタに表示して、運転操作時の利便性を向上させる技術が各種提案されている。 Various technologies have been proposed in which a camera and a monitor are installed in an automobile, and video information based on images around the vehicle photographed by the camera is displayed on a monitor in the passenger compartment to improve convenience during driving operation. .
このような車載カメラシステムは、当初は、運転者に対して、死角となる領域の映像を視認可能とさせることのみを目的としていたため、カメラで撮影された映像(実カメラ映像)をそのままモニタに表示するに過ぎなかった。 Initially, such an in-vehicle camera system was intended only to allow the driver to visually recognize the image of the blind spot area, so the image (actual camera image) captured by the camera was directly monitored. It was only displayed on.
その後、歪みの少ないカメラの生映像上に、遠近の目安となる距離マーカを重畳表示することにより、ある程度の距離感を与えて、利便性をより向上させることも行われている。 Thereafter, a distance marker serving as a perspective reference is superimposed and displayed on the raw video of the camera with little distortion, thereby giving a certain sense of distance and further improving convenience.
この場合、モニタ上での、実カメラ映像と距離マーカとの表示位置をある程度調整する必要があるが、距離マーカは距離の目安に過ぎなかったため、モニタ上における距離マーカの概略表示位置をある程度調整するだけで十分であった。 In this case, it is necessary to adjust the display position of the actual camera image and the distance marker on the monitor to some extent, but since the distance marker is only a guide for the distance, the approximate display position of the distance marker on the monitor is adjusted to some extent. It was enough to do.
しかし、カメラで撮影された映像に対して、例えば車両の真上から視た擬似的な映像に変換する、いわゆる視点変換処理を施したり、車両に設置された複数のカメラで得られた複数の映像を繋げる変換処理などを行う場合、車両に対するカメラの設置姿勢(車両の前後方向、幅方向、鉛直方向の各軸回りのカメラの光軸の角度)を精度よく調整する必要がある。 However, the video captured by the camera is subjected to, for example, a so-called viewpoint conversion process that converts it into a pseudo video viewed from directly above the vehicle, or a plurality of images obtained by a plurality of cameras installed in the vehicle. When performing conversion processing for connecting images, it is necessary to accurately adjust the installation posture of the camera with respect to the vehicle (the angle of the optical axis of the camera around each axis in the vehicle front-rear direction, the width direction, and the vertical direction).
しかし、そのような厳密な調整に要する時間や労力と、経済的なコストとのバランスを考慮すると、全く誤差の無い完全な設置姿勢を得るのは困難である。 However, considering the balance between the time and labor required for such precise adjustment and the economic cost, it is difficult to obtain a complete installation posture with no error.
そこで、実際の設置姿勢についてはある程度の誤差を許容しつつも、モニタに表示される映像上では、見かけ上、誤差が存在しないように、予め誤差を見込ん補正演算処理(キャリブレーション)が行われる(特許文献1)。 Therefore, a correction calculation process (calibration) is performed in advance to allow for an error so that an error does not exist on the image displayed on the monitor while allowing a certain error for the actual installation posture. (Patent Document 1).
このキャリブレーションは、カメラの設置姿勢を特定するカメラパラメータを対象とした演算処理によって行われる(特許文献2)。
しかし、特許文献1,2による技術は、キャリブレーションに用いる調整用のパターンやマーカを車両周囲の地面上に用意する必要があり、車両周囲に、その調整用パターン等を設けるための広いスペースを確保しなければならず、車両の組立てラインや、修理工場の施設において、そのような広いスペースを確保するのは、困難である。
However, the techniques according to
また、上述した技術におけるキャリブレーションは、車両を停止させている場合にのみ行うことができ、例えば車両の走行中にキャリブレーションが必要になった場合は、車両を一旦停車させ、車両の周囲に所定の広いスペースを確保した上で、キャリブレーションを行う必要がある。 In addition, the calibration in the above-described technique can be performed only when the vehicle is stopped. For example, when calibration is necessary while the vehicle is running, the vehicle is temporarily stopped and is placed around the vehicle. It is necessary to perform calibration after securing a predetermined wide space.
従来のキャリブレーション装置およびキャリブレーション方法は、このように制限が多く、十分な実用性を発揮するには至っていない。 Conventional calibration apparatuses and calibration methods are thus limited in number and have not yet achieved sufficient practicality.
本発明は上記事情に鑑みなされたものであって、車両の周囲に広いスペースを確保する必要がなく、しかも、走行中であってもキャリブレーションを実行することができる車載カメラのキャリブレーション装置およびキャリブレーション方法を提供することを目的とする。 The present invention has been made in view of the above circumstances, and it is not necessary to secure a wide space around the vehicle, and it is possible to perform calibration even when the vehicle is running, An object is to provide a calibration method.
本発明に係る車載カメラのキャリブレーション装置およびキャリブレーション方法は、車載カメラで撮影された車両の表面の一部を、キャリブレーションの調整パターンとし、この調整パターンに、この車両の表面の一部に対応して生成された調整マーカ(基準パターン)を一致させるように、調整マーカの姿勢を規定するパラメータを調整することにより、車両の周囲に広いスペースを確保する必要がなく、しかも、走行中であってもキャリブレーションを実行することを可能としたものである。 In the on-vehicle camera calibration device and calibration method according to the present invention, a part of the surface of the vehicle photographed by the on-vehicle camera is used as a calibration adjustment pattern, and the adjustment pattern is applied to a part of the surface of the vehicle. It is not necessary to secure a large space around the vehicle by adjusting the parameters that define the attitude of the adjustment marker so that the corresponding adjustment markers (reference patterns) are matched, and while driving, Even if it exists, it is possible to execute calibration.
すなわち、本発明に係る車載カメラのキャリブレーション装置は、車両に設置されて、該車両の表面の一部を調整パターンとして含む映像を撮影するカメラと、前記カメラの設置姿勢を特定するパラメータを記憶するパラメータ記憶手段と、前記車両の表面の一部を模した調整マーカを、前記パラメータに応じた姿勢で生成するマーカ生成手段と、前記調整パターンを含む映像に前記調整マーカを重畳的に表示させる表示手段と、前記表示手段において、前記調整マーカの表示を前記調整パターンの表示に一致させるように、前記調整マーカの表示姿勢を調整する指示が入力される入力手段と、前記入力手段に入力された調整の指示に対応する新たなパラメータを算出し、前記パラメータ記憶手段に記憶されたパラメータを前記新たなパラメータに置き換えるパラメータ演算手段とを備えたことを特徴とする。 That is, the in-vehicle camera calibration device according to the present invention stores a camera that is installed in a vehicle and shoots an image including a part of the surface of the vehicle as an adjustment pattern, and a parameter that specifies the installation posture of the camera. Parameter storage means for generating, an adjustment marker that imitates a part of the surface of the vehicle in a posture corresponding to the parameter, and an adjustment marker that is superimposed on an image including the adjustment pattern. In the display means, in the display means, an input means for inputting an instruction to adjust the display posture of the adjustment marker so that the display of the adjustment marker matches the display of the adjustment pattern, and input to the input means A new parameter corresponding to the adjustment instruction is calculated, and the parameter stored in the parameter storage means is changed to the new parameter. Characterized by comprising a parameter calculating means for replacing the data.
ここで、調整パターンとしての車両の表面の一部としては、例えばカメラとして車両後方用カメラを適用したものでは、車両の後部バンパの外形輪郭などが代表的なものであるが、その他、カメラで映すことができる範囲の部分であってもよい。 Here, as a part of the surface of the vehicle as the adjustment pattern, for example, when a vehicle rear camera is applied as a camera, the outer contour of the rear bumper of the vehicle is a typical one. The part of the range which can be projected may be sufficient.
車両の側方用カメラの場合や前方用カメラの場合も、車体の側部パネルの外形輪郭や前部バンパの外形輪郭などや、その他、カメラで映すことができる範囲の部分を適用することができる。 In the case of a vehicle side camera or a front camera, it is possible to apply the outline of the side panel of the vehicle body, the outline of the front bumper, etc. it can.
カメラの設置姿勢を特定するパラメータは、具体的には、所定の基準軸回りの回転角度などであり、例えば、車両の前後方向、幅方向、鉛直方向にそれぞれ延びる各軸に対してカメラの光軸が為す角度を適用することができる。 Specifically, the parameter for specifying the installation posture of the camera is a rotation angle around a predetermined reference axis, for example, the light of the camera with respect to each axis extending in the front-rear direction, the width direction, and the vertical direction of the vehicle. The angle that the axis makes can be applied.
本発明に係る車載カメラのキャリブレーション方法は、車両に対するカメラの設置姿勢を特定するパラメータを記憶し、前記カメラによって撮影された、前記車両の表面の一部を模した調整マーカを、前記パラメータに応じた姿勢で生成し、前記カメラによって撮影された、該車両の表面の一部を調整パターンとして含む映像に、前記調整マーカを重畳的に表示させ、前記調整マーカの表示を前記調整パターンの表示に一致させるように、前記調整マーカの表示姿勢を調整する指示を入力し、前記入力された調整の指示に対応する新たなパラメータを算出し、前記パラメータ記憶手段記憶されたパラメータを前記新たなパラメータに置き換えて、前記カメラをキャリブレーションすることを特徴とする。 The on-vehicle camera calibration method according to the present invention stores a parameter for specifying the installation posture of the camera with respect to the vehicle, and an adjustment marker imitating a part of the surface of the vehicle captured by the camera as the parameter. The adjustment marker is superimposed on the image including a part of the surface of the vehicle generated as the adjustment pattern, and the adjustment marker is displayed, and the adjustment marker is displayed. An instruction to adjust the display posture of the adjustment marker is input so as to match, and a new parameter corresponding to the input adjustment instruction is calculated, and the parameter stored in the parameter storage means is used as the new parameter. The camera is calibrated instead of the above.
本発明に係る車載カメラのキャリブレーション装置およびキャリブレーション方法によれば、カメラで映された車体の一部をキャリブレーションの対象とするため、従来のように車両の周囲に広いスペースを確保する必要がなく、しかも、走行中であってもキャリブレーションを実行することができる。 According to the on-vehicle camera calibration device and the calibration method according to the present invention, since a part of the vehicle body imaged by the camera is to be calibrated, it is necessary to ensure a wide space around the vehicle as in the past. In addition, calibration can be executed even while the vehicle is running.
以下、本発明に係る車載カメラのキャリブレーション装置およびキャリブレーション方法の最良の実施形態について、図面を参照して説明する。なお、本実施形態は、マイクロコンピュータ、各種メモリ、入出力装置等をプログラムによって制御することで実現することができるが、この場合のハードウェアやプログラムの実施態様は各種変更可能である。したがって、以下の説明では、本発明及び本実施形態の各機能を実現する仮想的回路ブロックを用いる。
(実施形態の概要)
車両に設置されて、車両の表面の一部を含む映像を撮影するカメラにおいては、設置位置および設置姿勢(角度)という設置状態を特定するカメラパラメータがある。
BEST MODE FOR CARRYING OUT THE INVENTION Embodiments of a calibration apparatus and a calibration method for an in-vehicle camera according to the present invention will be described below with reference to the drawings. Note that this embodiment can be realized by controlling a microcomputer, various memories, input / output devices, and the like by a program. In this case, various embodiments of hardware and programs can be changed. Therefore, in the following description, virtual circuit blocks that realize the functions of the present invention and the present embodiment are used.
(Outline of the embodiment)
In a camera that is installed in a vehicle and shoots an image including a part of the surface of the vehicle, there are camera parameters that specify an installation state such as an installation position and an installation posture (angle).
ここで、車体に対するカメラの設置位置の誤差は、当該カメラによって撮影された映像(この映像を構成する各フレームを画像という。)における各対象画像部分の位置精度に大きな影響を及ぼさないが、設置姿勢の誤差は、撮影された画像における各対象画像部分の位置精度に大きな影響を及ぼす。特に、この画像に基づいて、視点変換処理等の位置に関係する画像処理を施した場合には、その影響は顕著なものとなる。 Here, the error of the installation position of the camera with respect to the vehicle body does not greatly affect the position accuracy of each target image portion in the video (each frame constituting the video is referred to as an image) taken by the camera. The error in posture greatly affects the positional accuracy of each target image portion in the captured image. In particular, when image processing related to a position such as viewpoint conversion processing is performed based on this image, the influence becomes significant.
本実施形態のキャリブレーション装置は、以下、設置姿勢を特定するパラメータをキャリブレーションするものである。 The calibration apparatus according to the present embodiment calibrates parameters that specify the installation posture.
そして、この実施形態のキャリブレーション装置は、車載カメラで撮影された映像のうち車両の表面の一部である調整パターンに、メモリに記憶されたパラメータに基づいて描かれたシミュレーション画像(調整マーカ)を重畳的に表示し、調整マーカが調整パターンに一致するようにパラメータを微調整し、調整マーカが調整パターンに一致したときのパラメータを、当該カメラの最新のパラメータとするものである。
(実施形態の構成)
図1は、本発明の一実施形態に係る車載カメラのキャリブレーション装置100を示すブロック図である。
And the calibration apparatus of this embodiment is the simulation image (adjustment marker) drawn based on the parameter memorize | stored in the adjustment pattern which is a part of vehicle surface among the images image | photographed with the vehicle-mounted camera. Are displayed in a superimposed manner, the parameter is finely adjusted so that the adjustment marker matches the adjustment pattern, and the parameter when the adjustment marker matches the adjustment pattern is set as the latest parameter of the camera.
(Configuration of the embodiment)
FIG. 1 is a block diagram showing a
図示のキャリブレーション装置100は、図2に示すように車両200の後部に設置されて、この車両200の後部バンパ210の輪郭211(車両の表面の一部)を調整パターンとして含む映像P0を撮影するカメラ1と、カメラ1の設置姿勢を特定するパラメータを記憶するパラメータ保存メモリ3(パラメータ記憶手段)と、調整パターンである後部バンパ210の輪郭211を模した調整マーカMを、パラメータに応じた姿勢で生成するマーカ生成部21(マーカ生成手段)と、調整パターン211を含む映像P0に調整マーカMを重畳的に表示させる描画部4およびモニタ5(表示手段)と、モニタ5において、調整マーカMの表示を調整パターン211の表示に一致させるように、調整マーカMの表示姿勢を調整する指示(調整量)が入力される外部入力インタフェース6(入力手段)と、この外部入力インターフェース6に入力された調整量に対応した新たなパラメータを算出するパラメータ演算部22(パラメータ演算手段)とを備えた構成である。
The illustrated
ここで、マーカ生成部21とパラメータ演算部22とは、マイクロコンピュータによるプログラムによって実現される機能であり、マイクロコンピュータの制御部2に含まれている。
Here, the
また、パラメータ保存メモリ3は、予め設計的に定められたデフォルトパラメータを記憶した読出し専用のROM部と、キャリブレーション処理の都度、最新のパラメータに順次置き換えられるフラッシュメモリ部とを有している。
The
外部入力インタフェース6は、ユーザが調整操作を行うためのインタフェースである。 The external input interface 6 is an interface for a user to perform an adjustment operation.
図2は、車両200に対するカメラ1の位置関係の一例を示す模式図である。ここで、任意の一点(例えば、リアシャフト中心から鉛直下方に下ろした地面上の点)を空間座標の原点とし、例えばカメラ1の光軸方向が鉛直方向の下向きの設置姿勢を、カメラ1の基準姿勢として決めておくことで、この車両200に取付けられるカメラ1の設置位置および設置姿勢を特定することができる。
FIG. 2 is a schematic diagram illustrating an example of the positional relationship of the
したがって、車載後部カメラや車載側部カメラ等、車両200におけるカメラ1の設置部位による、設置位置および設置姿勢の特定方法に差異はない。つまり、カメラ1は車両200の後部に設置されたものには限定されない。
Therefore, there is no difference in the method for specifying the installation position and the installation posture depending on the installation site of the
そして、カメラ1の設置姿勢は、簡単のため車両の挙動に対応させた、ピッチ角、ロール角およびヨー角(3次元空間の互いに独立した3軸周りの回転角度θ,φ,ψ)で一義的に特定することができるため、カメラ1のどのような設置姿勢も、この3つの回転角度で表現すればよく、これらの回転角度は設置姿勢を特定するパラメータとして最適である。
The installation posture of the
これを利用すると、既に任意のパラメータθ0,φ0,ψ0により設置姿勢が特定されているカメラ1に対して、さらにいずれかの軸回りの回転を加えても、変化後に対応した新たなパラメータθ,φ,ψにより、新たな設置姿勢を特定することができる。
By utilizing this, even if rotation about any axis is further applied to the
マーカ生成部21は、パラメータ保存メモリ3から入力されたパラメータにより特定される設計上の設置姿勢で設置されたカメラ1によって、空間上における設置位置が既知の後部バンパ210の輪郭211を撮影した場合に、モニタ5上に得られるべき調整パターン(当該輪郭211)を模した調整マーカMの描画データを生成する。
When the
なお、本実施形態のキャリブレーション装置100の実際の処理においては、後述するパラメータ演算部22が、パラメータを3×3の回転行列に変換してマーカ生成部21に出力し、マーカ生成部21は、このパラメータ演算部22から入力された3×3の回転行列に基づいて、調整マーカMを生成している。
In the actual processing of the
パラメータ演算部22は、外部入力インタフェース6に入力された指示(調整量)に応じた、調整マーカMの姿勢変位に対応する3×3の調整用回転行列を求めるとともに、得られた調整用回転行列と、パラメータ保存メモリ3のフラッシュメモリ部(最初のキャリブレーション処理のときはROM部)に記憶されたパラメータ(最初のキャリブレーション処理のときはデフォルトパラメータ)に基づく3×3の回転行列との演算により、3×3の合成回転行列を求めて、この合成回転行列をマーカ生成部21に出力する。
The
また、パラメータ演算部22は、得られた合成回転行列を、この合成回転行列に対応する回転角度というパラメータに変換して、パラメータ保存メモリ3のフラッシュメモリ部に保存させる。
Further, the
描画部4は、制御部2において生成された描画データを保存する描画データメモリ41と、描画データメモリ41に保存されたデジタルの描画データを、カメラ1から入力されたアナログの実カメラ映像P0に重畳させるように合成(スーパーインポーズ)する描画ブロック42とを有している。
The drawing unit 4 stores the drawing
モニタ5は、LCD等の車載用の表示装置であり、描画ブロック42で合成された映像を表示する。
The monitor 5 is a vehicle-mounted display device such as an LCD, and displays the video synthesized by the
外部入力インタフェース6からパラメータ演算部22に入力された調整マーカMの姿勢変位の指示(調整量)は、パラメータ演算部22によって略リアルタイムに調整用回転行列に変換され、さらに、この調整用回転行列と、パラメータ保存メモリ3のフラッシュメモリ部(最初のキャリブレーション処理のときはROM部)に記憶された最新のパラメータ(最初のキャリブレーション処理のときはデフォルトパラメータ)に基づく3×3の回転行列との演算により、合成回転行列に変換され、マーカ生成部21がこの合成回転行列に基づいて新たな姿勢の調整マーカMを生成して、モニタ5には、実カメラ映像P0と新たな姿勢の調整マーカMとが重畳的に表示されるため、ユーザは、モニタ5に映った実カメラ映像P0と姿勢が逐次変化する調整マーカMとの重畳的表示を見ながら、調整マーカMを実カメラ映像P0の調整パターン211に一致させるように、試行錯誤的に調整マーカMの姿勢変化の指示を入力することができる。
The instruction (adjustment amount) of the attitude displacement of the adjustment marker M input from the external input interface 6 to the
なお、外部入力インタフェース6としては、十字キーなどのスイッチやカーソル等を備えたリモコンであってもよいが、タッチパネルの機能を備えたモニタ5に兼用させることもできる。この場合、制御部2は、操作用の描画データを生成する機能を備える。例えば、表示されたボタンや矢印等に触れることにより、調整対象に所定量の変化が生じるように設定することもできる。
(実施形態の作用)
以上のような本実施形態の車載カメラのキャリブレーション装置100による処理手順を、図3のフローチャートにしたがって説明する。
The external input interface 6 may be a remote controller provided with a switch such as a cross key or a cursor, but may also be used as a monitor 5 having a touch panel function. In this case, the control unit 2 has a function of generating drawing data for operation. For example, it is possible to set so that a predetermined amount of change occurs in the adjustment target by touching a displayed button or arrow.
(Operation of the embodiment)
The processing procedure by the on-vehicle
まず、従来技術であれば、車両200の後方にキャリブレーションを実行するに相応しい大きな領域を占有する調整パターンを用意する必要があった。例えば図4における市松模様状のシートP1などである。このシートP1は、車両200の大きさと同程度の広さを有しており、車両200の後方に、このシートP1を水平に配置するための広いスペースが必要であった。
First, according to the conventional technique, it is necessary to prepare an adjustment pattern that occupies a large area suitable for executing calibration behind the
しかし、本実施形態のキャリブレーション装置100は、車両200の一部である後部バンパ210の輪郭211を調整パターンとしているため、車両200の後方に広いスペースを確保する必要がない。なお、この調整パターンである後部バンパ210の輪郭211の空間座標は前述したように既知である。
However, since the
制御部2は、パラメータ保存メモリ3のフラッシュメモリ部に記憶された最新のパラメータを読み出す(S301(ステップ301))。 The control unit 2 reads the latest parameter stored in the flash memory unit of the parameter storage memory 3 (S301 (step 301)).
なお、初めてのキャリブレーション処理の場合、または工場出荷状態に戻した初期化後に初めてキャリブレーション処理を行う場合に限って、フラッシュメモリ部に記憶された最新のパラメータを読み出す処理に代えて、パラメータ保存メモリ3のROM部に記憶されたデフォルトパラメータを読み出すものとする。
In the case of the first calibration process or only when the calibration process is performed for the first time after the factory reset, the parameter saving is performed instead of the process of reading the latest parameter stored in the flash memory unit. Assume that the default parameters stored in the ROM section of the
読み出されたパラメータ(またはデフォルトパラメータ)は、制御部2のパラメータ演算部22により、このパラメータ(またはデフォルトパラメータ)に対応する3×3の回転行列に変換され、得られた回転行列はマーカ生成部21に入力される。
The read parameter (or default parameter) is converted into a 3 × 3 rotation matrix corresponding to this parameter (or default parameter) by the
マーカ生成部21は、入力された回転行列の演算を行って、調整パターン211を模した調整マーカMを生成する(S302)。生成された調整マーカMは、描画データメモリ41に描画され、この調整マーカMは、描画ブロック42により、カメラ1が撮影した調整パターン211を含む実カメラ映像と重畳的に合成され、モニタ5に表示される(S303)。
The
カメラ1の実際の設置姿勢が、パラメータで特定される設置姿勢からずれていると、図4(a)に示すように、実カメラ映像P0内の調整パターン211に対して調整マーカMがずれた映像が、モニタ5に表示される。
If the actual installation posture of the
このモニタ5の表示を見たユーザは、外部入力インタフェース6を用いて、モニタ5に映った調整マーカMの姿勢を変化させる指示(調整量)を入力する(ステップ304)。 The user who sees the display on the monitor 5 uses the external input interface 6 to input an instruction (adjustment amount) for changing the posture of the adjustment marker M reflected on the monitor 5 (step 304).
外部入力インタフェース6に入力された指示は、パラメータ演算部22に入力され、パラメータ演算部22は、略リアルタイムに、入力された調整マーカMの姿勢変位の指示(調整量)に対応した調整用回転行列に変換し(S305)、さらに、この調整用回転行列と、パラメータ保存メモリ3のフラッシュメモリ部に記憶された最新のパラメータ(最初のキャリブレーション処理の最初のルーチンの場合は、ROM部に記憶されたデフォルトパラメータ)に基づく3×3の回転行列との演算により、合成回転行列を算出し(S306)、マーカ生成部21がこの合成回転行列に基づいて新たな姿勢の調整マーカMを生成し(S307)、前述した描画データメモリ41および描画ブロック42の作用により、新たな姿勢の調整マーカMと実カメラ映像P0とがモニタ5に重畳的に表示される(S308)。
The instruction input to the external input interface 6 is input to the
モニタ5に表示された新たな姿勢の調整マーカMと実カメラ映像P0内の調整パターン211とが、図4(b)に示すように一致しているときは、ユーザは、外部入力インタフェース6を用いて、設置姿勢の調整の終了を指示入力する(S309)。
When the adjustment marker M of the new posture displayed on the monitor 5 and the
調整終了の指示が入力されると、パラメータ演算部22は、ステップ306(S306)で算出した合成回転行列に対応した新たなパラメータ(回転後の角度)を算出し(S310)、この新たなパラメータを、パラメータ保存メモリ3のフラッシュメモリ部に保存する(S311)。
When an instruction to end adjustment is input, the
このとき、フラッシュメモリ部に既に保存されていた元のパラメータは、新たなパラメータに置き換えられ(上書きされ)、以後のキャリブレーション処理の際は、フラッシュメモリ部の記憶状態が初期化されない限り(工場出荷状態に戻されない限り)、ステップ301(S301)の読出し処理を含めて、ROM部に記憶されているデフォルトパラメータを読み出すのではなく、フラッシュメモリ部に記憶されている最新のパラメータを読み出すものとする。 At this time, the original parameter already stored in the flash memory unit is replaced (overwritten) with a new parameter, and in subsequent calibration processing, unless the storage state of the flash memory unit is initialized (factory) The latest parameters stored in the flash memory unit are read instead of reading the default parameters stored in the ROM unit, including the reading process in step 301 (S301), unless the product is returned to the shipping state. To do.
新たな姿勢の調整マーカMと実カメラ映像P0の調整パターン211とが、図4(a)と同様に一致していないときは、これらが一致するまで、ステップ304(S304)からステップ309(S309)までの処理を繰り返す。
When the adjustment marker M of the new posture and the
このように、カメラ1のパラメータを試行錯誤的に順次変化させることにより、本実施形態のキャリブレーション装置100によるキャリブレーション処理が行われる。
Thus, the calibration process by the
上述したキャリブレーション処理は、回転行列の演算により行われるが、その具体的な方法を以下に説明する。 The calibration process described above is performed by calculating a rotation matrix, and a specific method thereof will be described below.
まず、カメラ1のパラメータに応じた回転角度θ,φ,ψが与えられ、任意の点は、数学的には次式(1),(2)に示す回転行列Rの演算により設置姿勢変換後の座標を得る。なお、Xinは回転前の設置姿勢による座標点であり、Xoutはパラメータにより回転後の設置姿勢の座標点である。
First, rotation angles θ, φ, and ψ according to the parameters of the
キャリブレーション処理の際には、この状態からさらに回転を加えて調整をすることになるが、例えばカメラ1を、ψ軸回りに△ψだけ回転させる場合には、回転行列R(Δψ)を左から追加して、次式(4)の計算となる。
In the calibration process, adjustment is performed by further rotating from this state. For example, when the
また、どのような設置姿勢の変換であっても、任意のφ,θ,ψによって表現することが可能であるから、RDa=RDとすると調整後のカメラ1の姿勢も、φ,θ,ψによって表現することが可能である。実際には、次式(5)となる。
In addition, since any installation posture conversion can be expressed by arbitrary φ, θ, ψ, when R Da = R D , the posture of the adjusted
なお、この例は、カメラ1が後方用カメラの場合であり、側方用カメラの場合は、ψの範囲は変化するが、角度の調整幅そのものが大きくなるものではない。
In this example, the
この操作を繰り返すことにより、モニタ5を見ながら常に最新状態からの位置合わせを実現することができる。最終的に、モニタ5において、調整パターンである後部バンパ210の輪郭211に、調整パターンMが重なったときのパラメータが、車両200に設置されたカメラ1の実際の設置姿勢の角度となる。
By repeating this operation, it is possible to always achieve alignment from the latest state while looking at the monitor 5. Finally, in the monitor 5, the parameter when the adjustment pattern M overlaps the
この最終的なカメラ1の設置姿勢の角度を、デフォルトパラメータ保存メモリ3に記憶し、カメラ1の設置姿勢のパラメータ(回転角度)とすることにより、キャリブレーションが完了する。
(実施形態の効果)
本実施形態に係る車載カメラのキャリブレーション装置100およびこのキャリブレーション装置100の作用としても把握することができる本発明の実施形態に係る車載カメラのキャリブレーション方法によれば、カメラ1で映された車両200の表面の一部である後部バンパ210の輪郭211をキャリブレーションの対象とするため、従来のように車両200の周囲に広いスペース(図4におけるシートP1の広さに対応したスペース)を確保する必要がなく、当該車両200自体を配置することができる最低限のスペースだけで、キャリブレーション処理を行うことができる。
The final angle of the installation posture of the
(Effect of embodiment)
According to the on-vehicle
したがって、例えば車両200の組立てライン上や修理工場内などの、広いスペースを確保することが困難な場所においても、簡単にキャリブレーション処理を行うことができる。
Therefore, the calibration process can be easily performed even in a place where it is difficult to ensure a wide space such as on the assembly line of the
しかも、本実施形態に係る車載カメラのキャリブレーション装置100およびキャリブレーション方法によれば、車両200の走行中であってもキャリブレーションを実行することができ、実用面での使い勝手を大幅に向上させることができる。
Moreover, according to the on-vehicle
また、本実施形態に係る車載カメラのキャリブレーション装置100およびキャリブレーション方法によれば、モニタ5の表示において、カメラ1で撮像した調整パターン211と、パラメータに基づいて生成された調整マーカMとが一致するように、外部入力インタフェース6によって調整することにより、パラメータを精度よく求めることができるため、カメラ1によって得られた映像に対して画像処理を施して得られる映像の精度を向上させることができる。
In addition, according to the on-vehicle
したがって、例えば、本実施形態のキャリブレーション装置100を使用し、カメラ1で得られた映像に、安全車間距離ラインのマーカを、ヘッドアップディスプレイ(モニタ5)に重畳的に表示する等の場合、安全車間距離ラインのマーカを精度よく表示することができるとともに、運転者に対して、認識しやすく、かつ視界内で邪魔にならないシンプルな注意喚起を行うことが可能になる。これにより、良好な運転支援を行うことができる。
Therefore, for example, when using the
また、初期状態ではパラメータを用いて調整し、調整結果を保存し、これを次回のパラメータとして使用することにより、常に最新のパラメータを用いたキャリブレーションを行うことができる。 In the initial state, adjustment is performed using parameters, the adjustment result is stored, and this is used as the next parameter, so that calibration using the latest parameter can always be performed.
また、パラメータ保存メモリ3には、予め設計的に定められたデフォルトパラメータが記憶されており、これは書換え不能のROM部に保存されているため、キャリブレーション装置100を必要に応じて初期化することで、デフォルトパラメータを起点とした最初のキャリブレーション処理に、簡単に戻すこともできる。
Further, the
さらに、ロール角、ヨー角、ピッチ角を用いることにより、カメラ1の設置姿勢を一義的に特定することが可能なパラメータを、効率よく演算することができる。
Furthermore, by using the roll angle, the yaw angle, and the pitch angle, it is possible to efficiently calculate parameters that can uniquely specify the installation posture of the
なお、本発明に係る車載カメラのキャリブレーション装置は、上述した実施形態に限定されるものではない。 The on-vehicle camera calibration device according to the present invention is not limited to the above-described embodiment.
すなわち、使用するカメラやモニタの数、種類、仕様、規格等は任意であり、カメラやモニタの設置位置、設置角度等も任意である。 That is, the number, type, specification, standard, and the like of the cameras and monitors to be used are arbitrary, and the installation position and installation angle of the cameras and monitors are also arbitrary.
調整パターン211の態様も、上記の実施形態で例示した後部バンパ210の輪郭211に限定されるものではなく、車両200と一体化された車両200の表面の一部であればよく、調整マーカMも調整パターン211に応じたものとすればよい。
The aspect of the
入力手段についても、ユーザが入力操作可能なものであればよい。したがって、表示された調整マークM自体に触れて調整するものであってもよい。 Any input means that can be input by the user may be used. Therefore, the displayed adjustment mark M itself may be touched for adjustment.
本発明に係る車載カメラのキャリブレーション装置は、車載用のコンピュータ(ナビゲーションシステムや音響機器としての機能を備えたもの等)の一部として構成してもよい。 The in-vehicle camera calibration apparatus according to the present invention may be configured as a part of an in-vehicle computer (such as a navigation system or a function as an audio device).
また、本発明に係る車載カメラのキャリブレーション装置は、あらゆる車両に適用可能である。 The on-vehicle camera calibration device according to the present invention is applicable to any vehicle.
さらに、本発明に係る車載カメラのキャリブレーション装置は、上述したキャリブレーション処理をコンピュータに実行させるプログラム、そのようなプログラムを記録したコンピュータ読取可能な記憶媒体として構成するものであってもよい。 Furthermore, the in-vehicle camera calibration apparatus according to the present invention may be configured as a program that causes a computer to execute the above-described calibration processing, or a computer-readable storage medium that records such a program.
1 カメラ
2 制御部
3 パラメータ保存メモリ(パラメータ記憶手段)
4 描画部(表示手段)
5 モニタ(表示手段)
6 外部入力インタフェース(入力手段)
21 マーカ生成部(マーカ生成手段)
22 パラメータ演算部(パラメータ演算手段)
41 描画データメモリ
42 描画ブロック
M 調整マーカ
1 Camera 2
4 Drawing part (display means)
5 Monitor (display means)
6 External input interface (input means)
21 Marker generator (marker generator)
22 Parameter calculation unit (parameter calculation means)
41
Claims (4)
前記カメラの設置姿勢を特定するパラメータを記憶するパラメータ記憶手段と、
前記車両の表面の一部を模した調整マーカを、前記パラメータに応じた姿勢で生成するマーカ生成手段と、
前記調整パターンを含む映像に前記調整マーカを重畳的に表示させる表示手段と、
前記表示手段において、前記調整マーカの表示を前記調整パターンの表示に一致させるように、前記調整マーカの表示姿勢を調整する指示が入力される入力手段と、
前記入力手段に入力された調整の指示に対応する新たなパラメータを算出し、前記パラメータ記憶手段に記憶されたパラメータを前記新たなパラメータに置き換えるパラメータ演算手段とを備えたことを特徴とする車載カメラのキャリブレーション装置。 A camera that is installed in a vehicle and shoots an image including a part of the surface of the vehicle as an adjustment pattern;
Parameter storage means for storing parameters for specifying the installation posture of the camera;
Marker generating means for generating an adjustment marker that imitates a part of the surface of the vehicle in a posture according to the parameter;
Display means for displaying the adjustment marker in a superimposed manner on an image including the adjustment pattern;
In the display means, an input means for inputting an instruction to adjust the display posture of the adjustment marker so that the display of the adjustment marker matches the display of the adjustment pattern;
A vehicle-mounted camera comprising: a parameter calculation unit that calculates a new parameter corresponding to an adjustment instruction input to the input unit and replaces the parameter stored in the parameter storage unit with the new parameter Calibration equipment.
前記カメラによって撮影された、前記車両の表面の一部を模した調整マーカを、前記パラメータに応じた姿勢で生成し、
前記カメラによって撮影された、該車両の表面の一部を調整パターンとして含む映像に、前記調整マーカを重畳的に表示させ、
前記調整マーカの表示を前記調整パターンの表示に一致させるように、前記調整マーカの表示姿勢を調整する指示を入力し、
前記入力された調整の指示に対応する新たなパラメータを算出し、前記パラメータ記憶手段記憶されたパラメータを前記新たなパラメータに置き換えて、前記カメラをキャリブレーションすることを特徴とする車載カメラのキャリブレーション方法。 Memorize the parameters that specify the installation posture of the camera with respect to the vehicle,
An adjustment marker imitating a part of the surface of the vehicle photographed by the camera is generated with a posture corresponding to the parameter,
The adjustment marker is displayed in a superimposed manner on an image captured by the camera and including a part of the surface of the vehicle as an adjustment pattern,
Input an instruction to adjust the display posture of the adjustment marker so that the display of the adjustment marker matches the display of the adjustment pattern,
In-vehicle camera calibration characterized by calculating a new parameter corresponding to the input adjustment instruction and calibrating the camera by replacing the parameter stored in the parameter storage means with the new parameter Method.
4. The on-vehicle camera calibration method according to claim 3, wherein the parameter is specified by each rotation angle around three independent axes in a three-dimensional space.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006079870A JP2007256030A (en) | 2006-03-23 | 2006-03-23 | Calibration system and calibration method for vehicle-mounted camera |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006079870A JP2007256030A (en) | 2006-03-23 | 2006-03-23 | Calibration system and calibration method for vehicle-mounted camera |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007256030A true JP2007256030A (en) | 2007-10-04 |
Family
ID=38630432
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006079870A Pending JP2007256030A (en) | 2006-03-23 | 2006-03-23 | Calibration system and calibration method for vehicle-mounted camera |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007256030A (en) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011085489A1 (en) * | 2010-01-13 | 2011-07-21 | Magna Electronics Inc. | Vehicular camera and method for periodic calibration of vehicular camera |
KR101271639B1 (en) | 2011-12-13 | 2013-06-17 | (주)팜비젼 | A extrinsic parameter calibration method and system for camera on mobile device |
JP2013207622A (en) * | 2012-03-29 | 2013-10-07 | Fujitsu Ten Ltd | Calibration device and calibration method |
JP2014064224A (en) * | 2012-09-24 | 2014-04-10 | Clarion Co Ltd | Calibration method and device for camera |
WO2015122389A1 (en) * | 2014-02-12 | 2015-08-20 | ヤマハ発動機株式会社 | Imaging device, vehicle, and image correction method |
WO2015159489A1 (en) * | 2014-04-16 | 2015-10-22 | 株式会社デンソー | Mounting error display control device and mounting error detection device for vehicle-mounted camera |
US10176594B2 (en) * | 2014-10-09 | 2019-01-08 | Denso Corporation | Progressive in-vehicle camera calibrator, image generator, in-vehicle camera calibration method, and image generation method |
DE102018210352A1 (en) * | 2018-06-26 | 2020-01-02 | Zf Friedrichshafen Ag | Calibration method for the extrinsic calibration of a camera system of a vehicle |
JP2020126626A (en) * | 2019-01-31 | 2020-08-20 | 株式会社ストラドビジョンStradvision,Inc. | Method for providing robust object distance estimation based on camera by performing pitch calibration of camera more precisely with fusion of information acquired through camera and information acquired through v2v communication and device using the same |
US10769813B2 (en) | 2018-08-28 | 2020-09-08 | Bendix Commercial Vehicle Systems, Llc | Apparatus and method for calibrating surround-view camera systems |
US20210033467A1 (en) * | 2018-04-17 | 2021-02-04 | Autel Inteligent Technology Corp., Ltd. | Calibration apparatus, system and method for in-vehicle camera |
JP2021182001A (en) * | 2018-03-29 | 2021-11-25 | ヤンマーパワーテクノロジー株式会社 | Work vehicle |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06215134A (en) * | 1993-01-19 | 1994-08-05 | Aisin Seiki Co Ltd | Preprocessing method for on-vehicle picture data to be recognized |
JP2001245326A (en) * | 1999-12-24 | 2001-09-07 | Aisin Seiki Co Ltd | Device and method for calibrating on-vehicle camera, and calibration index |
JP2002074339A (en) * | 2000-08-31 | 2002-03-15 | Hitachi Ltd | On-vehicle image pickup unit |
-
2006
- 2006-03-23 JP JP2006079870A patent/JP2007256030A/en active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06215134A (en) * | 1993-01-19 | 1994-08-05 | Aisin Seiki Co Ltd | Preprocessing method for on-vehicle picture data to be recognized |
JP2001245326A (en) * | 1999-12-24 | 2001-09-07 | Aisin Seiki Co Ltd | Device and method for calibrating on-vehicle camera, and calibration index |
JP2002074339A (en) * | 2000-08-31 | 2002-03-15 | Hitachi Ltd | On-vehicle image pickup unit |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2523831B1 (en) | 2010-01-13 | 2015-12-16 | Magna Electronics Inc. | Vehicular camera and method for periodic calibration of vehicular camera |
EP2523831A1 (en) * | 2010-01-13 | 2012-11-21 | Magna Electronics Inc. | Vehicular camera and method for periodic calibration of vehicular camera |
EP2523831A4 (en) * | 2010-01-13 | 2013-11-06 | Magna Electronics Inc | Vehicular camera and method for periodic calibration of vehicular camera |
WO2011085489A1 (en) * | 2010-01-13 | 2011-07-21 | Magna Electronics Inc. | Vehicular camera and method for periodic calibration of vehicular camera |
US9296337B2 (en) | 2010-01-13 | 2016-03-29 | Magna Electronics Inc. | Method of calibrating a vehicular camera |
US9150155B2 (en) | 2010-01-13 | 2015-10-06 | Magna Electronics Inc. | Vehicular camera and method for periodic calibration of vehicular camera |
KR101271639B1 (en) | 2011-12-13 | 2013-06-17 | (주)팜비젼 | A extrinsic parameter calibration method and system for camera on mobile device |
JP2013207622A (en) * | 2012-03-29 | 2013-10-07 | Fujitsu Ten Ltd | Calibration device and calibration method |
JP2014064224A (en) * | 2012-09-24 | 2014-04-10 | Clarion Co Ltd | Calibration method and device for camera |
JPWO2015122389A1 (en) * | 2014-02-12 | 2017-03-30 | ヤマハ発動機株式会社 | Imaging apparatus, vehicle, and image correction method |
KR101812530B1 (en) * | 2014-02-12 | 2017-12-27 | 야마하하쓰도키 가부시키가이샤 | Imaging device, vehicle, and image correction method |
WO2015122389A1 (en) * | 2014-02-12 | 2015-08-20 | ヤマハ発動機株式会社 | Imaging device, vehicle, and image correction method |
US10235772B2 (en) | 2014-04-16 | 2019-03-19 | Denso Corporation | Installation error display control apparatus and installation error detection apparatus of onboard camera |
WO2015159489A1 (en) * | 2014-04-16 | 2015-10-22 | 株式会社デンソー | Mounting error display control device and mounting error detection device for vehicle-mounted camera |
JP2015202835A (en) * | 2014-04-16 | 2015-11-16 | 株式会社デンソー | Attachment error display control device of on-vehicle camera and attachment error detection device |
US10176594B2 (en) * | 2014-10-09 | 2019-01-08 | Denso Corporation | Progressive in-vehicle camera calibrator, image generator, in-vehicle camera calibration method, and image generation method |
JP2021182001A (en) * | 2018-03-29 | 2021-11-25 | ヤンマーパワーテクノロジー株式会社 | Work vehicle |
US20210033467A1 (en) * | 2018-04-17 | 2021-02-04 | Autel Inteligent Technology Corp., Ltd. | Calibration apparatus, system and method for in-vehicle camera |
US12061118B2 (en) * | 2018-04-17 | 2024-08-13 | Autel Intelligent Technology Corp., Ltd. | Calibration apparatus, system and method for in-vehicle camera |
DE102018210352A1 (en) * | 2018-06-26 | 2020-01-02 | Zf Friedrichshafen Ag | Calibration method for the extrinsic calibration of a camera system of a vehicle |
US10769813B2 (en) | 2018-08-28 | 2020-09-08 | Bendix Commercial Vehicle Systems, Llc | Apparatus and method for calibrating surround-view camera systems |
JP2020126626A (en) * | 2019-01-31 | 2020-08-20 | 株式会社ストラドビジョンStradvision,Inc. | Method for providing robust object distance estimation based on camera by performing pitch calibration of camera more precisely with fusion of information acquired through camera and information acquired through v2v communication and device using the same |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2007256030A (en) | Calibration system and calibration method for vehicle-mounted camera | |
JP4636346B2 (en) | Car camera calibration apparatus, method, and program | |
JP5820787B2 (en) | Image processing apparatus and program | |
EP1850595B1 (en) | Periphery supervising device, and periphery supervising method | |
JP6277652B2 (en) | Vehicle peripheral image display device and camera adjustment method | |
JP4196841B2 (en) | Image positional relationship correction device, steering assist device including the image positional relationship correction device, and image positional relationship correction method | |
JP5240527B2 (en) | Car camera calibration apparatus, method, and program | |
JP2010103730A (en) | Calibration device and calibration method of car-mounted camera | |
US20120293659A1 (en) | Parameter determining device, parameter determining system, parameter determining method, and recording medium | |
JP2012105158A (en) | Combination vehicle birds-eye-view display system | |
EP3002727B1 (en) | Periphery monitoring apparatus and periphery monitoring system | |
JP6471522B2 (en) | Camera parameter adjustment device | |
JP6151535B2 (en) | Parameter acquisition apparatus, parameter acquisition method and program | |
JP2014147057A (en) | Image processing apparatus and image processing method | |
JP2007150658A (en) | On-vehicle perimeter image display apparatus | |
JP2018533098A (en) | Panel conversion | |
WO2019053922A1 (en) | Image processing device | |
JP2007110177A (en) | Image processing apparatus and program | |
WO2010007960A1 (en) | View-point conversion video image system for camera mounted on vehicle and method for acquiring view-point conversion video image | |
JP2007096964A (en) | Device and method for calibrating camera | |
JP2013062692A (en) | Calibration device and method for on-vehicle camera | |
JP6855254B2 (en) | Image processing device, image processing system, and image processing method | |
US20220222947A1 (en) | Method for generating an image of vehicle surroundings, and apparatus for generating an image of vehicle surroundings | |
US20200231099A1 (en) | Image processing apparatus | |
JP2013207622A (en) | Calibration device and calibration method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090318 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110407 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110412 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20111004 |