JP2001245326A - Device and method for calibrating on-vehicle camera, and calibration index - Google Patents

Device and method for calibrating on-vehicle camera, and calibration index

Info

Publication number
JP2001245326A
JP2001245326A JP2000392787A JP2000392787A JP2001245326A JP 2001245326 A JP2001245326 A JP 2001245326A JP 2000392787 A JP2000392787 A JP 2000392787A JP 2000392787 A JP2000392787 A JP 2000392787A JP 2001245326 A JP2001245326 A JP 2001245326A
Authority
JP
Japan
Prior art keywords
camera
window
vehicle
calibration
calibration index
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000392787A
Other languages
Japanese (ja)
Other versions
JP3551920B2 (en
JP2001245326A5 (en
Inventor
Toshiaki Kakinami
俊明 柿並
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd filed Critical Aisin Seiki Co Ltd
Priority to JP2000392787A priority Critical patent/JP3551920B2/en
Publication of JP2001245326A publication Critical patent/JP2001245326A/en
Application granted granted Critical
Publication of JP3551920B2 publication Critical patent/JP3551920B2/en
Publication of JP2001245326A5 publication Critical patent/JP2001245326A5/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a device and method for calibrating an on-vehicle camera by which calibration is conducted by a simple method without using a stereoscopic object in the case of calibration using a calibration index in a vehicle manufacturing shop or the like, and to provide the calibration index capable of setting the camera parameters by which an image can be made in an optional area on a screen. SOLUTION: A planer calibration index TB placed on a plane is used for calibration, a camera image is displayed on a display device including the calibration index TB and a prescribed window WD is displayed on the display device. The position of the window WD is changed by using an image coordinate system having two-dimensional coordinates. An adjustment button 7 adjusts the positional relation so as to put the calibration index TB into the window. Camera parameters (unknown roll, tilt and panning angles θr, θt, and θp) are set for a camera 17 when the calibration index TB is accommodated in the window in a nearly matched state.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、車載カメラを車両
に取り付ける場合におけるカメラの校正、或いは、車載
カメラの取付位置が規定位置よりずれた場合にカメラの
校正を行う校正装置およびそのときの校正方法、並びに
校正指標に関するものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a calibrating device for calibrating a camera when a vehicle-mounted camera is mounted on a vehicle, or a camera when the mounting position of the vehicle-mounted camera deviates from a prescribed position, and a calibration at that time. Method and calibration index.

【0002】[0002]

【従来の技術】従来、カメラの校正に関しては、さまざ
まな企業および研究機関によってアルゴリズムを確立さ
せる研究がなされており、この中の一つの方法として
は、形状が予め既知であって特徴ある立体物を、校正用
の指標として3次元空間上に置き、その立体物の特徴点
がカメラの画像座標系でどのように表示されるかによっ
て、カメラパラメータを算出する方法が知られている。
例えば、このようにカメラパラメータを設定する方法
は、INRIA Camera Calibration without Feature Extra
ction Research Report No. 2204 ( Feb. 1994 )の1〜
21頁に開示されており、ここに開示される校正方法で
は、特徴ある立体物校正指標を用いて、11自由度のカ
メラパラメータを算出している。
2. Description of the Related Art Conventionally, various companies and research institutes have studied algorithms for calibrating a camera. One of the methods is a three-dimensional object having a shape known in advance and having a characteristic. Is placed in a three-dimensional space as an index for calibration, and a camera parameter is calculated based on how the feature points of the three-dimensional object are displayed in a camera image coordinate system.
For example, the method of setting camera parameters in this way is INRIA Camera Calibration without Feature Extra
ction Research Report No. 2204 (Feb. 1994) 1
The correction method disclosed on page 21 calculates camera parameters having 11 degrees of freedom using a characteristic solid object calibration index.

【0003】また、車両後方を撮像するカメラと、距離
スケールの図形や文字を発生させる信号発生装置を備
え、モニタ上に写し出される後方の風景の中で、距離ス
ケールを上下任意に動かして距離スケールを実画面上に
正確な位置に合わせる車載カメラの校正に関しては、特
開平4−103444号公報に開示されている。
[0003] The camera further includes a camera for capturing an image of the rear of the vehicle and a signal generating device for generating figures and characters on the distance scale. The distance scale can be arbitrarily moved up and down in the rear view projected on the monitor. Japanese Patent Application Laid-Open No. 4-103444 discloses calibration of an in-vehicle camera for adjusting the position of an on-screen camera to an accurate position.

【0004】[0004]

【本発明が解決しようとする課題】前者に示されるカメ
ラの校正方法では、カメラパラメータを決定するため
に、特徴ある立体物をカメラで撮像可能な位置に置き、
立体物がカメラの画像座標系において、どの点に表示さ
れるかを幾何学的に算出し、3次元空間からカメラパラ
メータを決定する方法を取っている。このように、車両
にカメラを取付けた後、カメラの校正を行う場合にあっ
ては、校正を行う対象物が車両に取り付けられたカメラ
である場合においては、工場等の車両組立ラインで校正
を行うことになるが、このような生産現場では作業性が
良いことが条件となる。生産現場では、特徴ある立体物
を置いて校正を行う方法を取ると、校正指標として立体
物をその都度置くことは効率が悪く、しかも、災害防止
の面から言って、校正のために足元に3次元的な立体物
を置くことは避け、カメラの校正を行う校正指標は、工
場の床面に描画された模様のように、作業者が踏みつけ
ても良い指標であることが望まれる。
In the camera calibration method shown in the former, in order to determine camera parameters, a characteristic three-dimensional object is placed at a position where the camera can capture an image.
In the image coordinate system of the camera, a method is employed in which a point at which a three-dimensional object is displayed is geometrically calculated, and camera parameters are determined from a three-dimensional space. As described above, when the camera is calibrated after the camera is mounted on the vehicle, when the object to be calibrated is the camera mounted on the vehicle, the calibration is performed on a vehicle assembly line such as a factory. In such a production site, good workability is a condition. At the production site, if a method is used in which a three-dimensional object is placed and calibrated, it is inefficient to place a three-dimensional object as a calibration index each time, and from the standpoint of disaster prevention, It is desirable that a calibration index for calibrating the camera be an index that can be stepped on by an operator, such as a pattern drawn on the floor of a factory, avoiding placing a three-dimensional solid object.

【0005】また、後者の校正方法では、モニタ上に写
し出される後方の風景の中で、距離スケールを上下任意
に動かして距離スケールを実画面上の正確な位置に合わ
せ、車両後方の距離感を把握するものであり、カメラパ
ラメータの設定は行ってはいない。従って、車両のカメ
ラによって撮像されたモニタ画面上に、駐車操作時にド
ライバーの操作をアシストする走行予想軌跡を、ステア
リング操作によって可変表示できるよう、後方画像の中
に電気的に重畳表示する場合には、カメラパラメータを
求めていないので、ディスプレィ画面上の任意の位置へ
走行予想軌跡を描画することができないものとなる。
[0005] In the latter calibration method, the distance scale is moved up and down arbitrarily in the rear scene displayed on the monitor to adjust the distance scale to an accurate position on the actual screen, thereby increasing the sense of distance behind the vehicle. This is to be grasped, and the camera parameters are not set. Therefore, on the monitor screen imaged by the camera of the vehicle, when the predicted trajectory for assisting the driver's operation during the parking operation is electrically superimposed on the rear image so that the trajectory can be variably displayed by the steering operation, Since the camera parameters have not been determined, it is impossible to draw the predicted travel locus at an arbitrary position on the display screen.

【0006】よって、本発明は上記の問題点に鑑みてな
されたものであり、車両の製造現場等でカメラの校正を
行う場合であっても、簡単な方法で校正が行える装置お
よび方法を提供すること、画面上の任意の点に描画が行
えるようカメラパラメータを設定可能な校正指標とする
ことを技術的課題とする。
SUMMARY OF THE INVENTION Accordingly, the present invention has been made in view of the above-mentioned problems, and provides an apparatus and a method capable of performing calibration by a simple method even when calibrating a camera at a vehicle manufacturing site or the like. It is a technical object to provide a calibration index capable of setting camera parameters so that drawing can be performed at an arbitrary point on a screen.

【0007】[0007]

【課題を解決するための手段】上記の課題を解決するた
めに講じた第1の技術的手段は、車両に取付けられたカ
メラの校正を、前記カメラで撮像されるカメラ画像内の
定位置に置かれた校正指標を基にして行う車載カメラの
校正装置において、平面状の校正指標を平面に配置し
て、該校正指標を含む前記カメラ画像を表示可能な表示
手段と、該表示手段に所定のウィンドウを表示するウィ
ンドウ表示手段と、該ウィンドウ表示手段の位置を前記
カメラによって撮像される画像座標内で変化させる調整
手段と、該調整手段により前記校正指標を前記ウィンド
ウ内に入るよう前記ウィンドウの位置関係を調整し、前
記校正指標が前記ウィンドウ内に収まったときのカメラ
パラメータを、前記カメラのカメラパラメータとして設
定するパラメータ設定手段と、を備えたことである。
A first technical means taken to solve the above-mentioned problem is to calibrate a camera attached to a vehicle at a fixed position in a camera image picked up by the camera. In a calibrating device for a vehicle-mounted camera that performs calibration based on the placed calibration index, a planar calibration index is arranged on a plane, and display means capable of displaying the camera image including the calibration index is provided on the display means. Window display means for displaying a window, adjustment means for changing the position of the window display means within the coordinates of an image picked up by the camera, and adjustment means for adjusting the calibration index into the window by the adjustment means. A parameter setting for adjusting a positional relationship and setting a camera parameter when the calibration index falls within the window as a camera parameter of the camera. Is that comprising a means.

【0008】第1の技術的手段によれば、校正には平面
(例えば、地面または床面)に配置した平面状の校正指
標を用いて、その校正指標を含むカメラ画像を表示手段
に表示させ、そこに所定のウィンドウを表示させる。ウ
ィンドウの位置をカメラによって撮像される画像座標内
で変化させ、校正指標がウィンドウ内に入るよう位置関
係を調整手段により調整し、校正指標がウィンドウ内に
収まったときのカメラパラメータを、カメラのカメラパ
ラメータとして設定するようにしたので、カメラパラメ
ータの設定は調整手段の調整だけで設定が可能となる。
この場合、校正指標は平面状であることから、校正指標
は床面に置くか貼り付ければ校正を行う場合にあっては
邪魔にならず、車両の製造現場等においても、簡単な方
法でカメラの校正が行える装置が提供される。
According to the first technical means, for calibration, a planar calibration index arranged on a plane (for example, the ground or floor) is used, and a camera image including the calibration index is displayed on the display means. Then, a predetermined window is displayed there. The position of the window is changed within the image coordinates captured by the camera, the positional relationship is adjusted by the adjusting means so that the calibration index falls within the window, and the camera parameters when the calibration index falls within the window are adjusted by the camera camera. Since the parameters are set as parameters, camera parameters can be set only by adjusting the adjusting means.
In this case, since the calibration index is planar, the calibration index is placed on the floor surface or pasted on it and does not disturb the calibration when it is performed. Provided is a device capable of calibrating.

【0009】また、上記の課題を解決するために講じた
第2の技術的手段は、車両に取付けられたカメラの校正
を、前記カメラで撮像されるカメラ画像内の定位置に置
かれた校正指標を基にして行う車載カメラの校正方法に
おいて、平面状の校正指標を平面に配置して、該校正指
標を含む前記カメラ画像を表示可能な表示手段と、該表
示手段に所定のウィンドウを表示するウィンドウ表示手
段と、該ウィンドウ表示手段の位置を前記カメラによっ
て撮像される画像座標内で変化させる調整手段とを備
え、前記表示手段に前記校正指標を表示させ、前記校正
指標が前記ウィンドウ内に入るように前記ウィンドウの
位置関係を調整し、前記校正指標が前記ウィンドウ中に
入ったときのカメラパラメータを、前記カメラのカメラ
パラメータとして設定したことである。
Further, a second technical means taken to solve the above-mentioned problem is that a calibration of a camera mounted on a vehicle is performed by correcting a calibration at a fixed position in a camera image picked up by the camera. In the method of calibrating an in-vehicle camera performed based on an index, a planar calibration index is arranged on a plane, a display unit capable of displaying the camera image including the calibration index, and a predetermined window is displayed on the display unit. Window display means, and adjusting means for changing the position of the window display means within the image coordinates captured by the camera, display the calibration index on the display means, the calibration index is in the window The position of the window is adjusted so as to enter the window, and a camera parameter when the calibration index enters the window is set as a camera parameter of the camera. Is that the.

【0010】第2の技術的手段によれば、校正には平面
に配置した平面状の校正指標を用い、その校正指標を含
むカメラ画像を表示手段に表示させ、そこに所定のウィ
ンドウを表示させる。ウィンドウの位置をカメラに投影
される画像座標系で変化させ、校正指標がウィンドウ内
に入るよう位置関係を調整手段により調整し、校正指標
がウィンドウ内に収まったときのカメラパラメータを、
カメラのカメラパラメータとして設定することにより、
カメラパラメータの設定は調整手段による調整だけで可
能となる。この場合、校正指標は平面状であることか
ら、校正を行う場合、工場等においては床面に固定され
るか、貼り付ければ良く、従来の如く立体物ではないこ
とから、作業者の邪魔にはならず、車両の製造現場等に
おいて、簡単な方法でカメラの校正が行える。
According to the second technical means, for calibration, a planar calibration index arranged on a plane is used, a camera image including the calibration index is displayed on the display means, and a predetermined window is displayed there. . Change the position of the window in the image coordinate system projected on the camera, adjust the positional relationship by the adjustment means so that the calibration index is within the window, the camera parameters when the calibration index is within the window,
By setting as camera parameters of the camera,
The setting of the camera parameters can be made only by the adjustment means. In this case, since the calibration index is planar, when calibration is performed, it may be fixed or attached to the floor surface in a factory or the like, and since it is not a three-dimensional object as in the past, it may be in the way of the operator. However, the camera can be calibrated by a simple method at a vehicle manufacturing site or the like.

【0011】この場合、調整手段によって、カメラ画像
に表示されるウィンドウを校正指標に対して回転または
移動させて調整を行うようにすれば、ウィンドウの位置
を調整手段の調整で回転または移動させ、簡単な方法で
カメラパラメータを設定することが可能となる。よっ
て、カメラパラメータの設定が行えるので、画面上の任
意の点に描画が可能となる。
In this case, if the adjusting means rotates or moves the window displayed on the camera image with respect to the calibration index to perform the adjustment, the position of the window is rotated or moved by adjusting the adjusting means. Camera parameters can be set by a simple method. Therefore, since the camera parameters can be set, drawing can be performed at an arbitrary point on the screen.

【0012】一方、車両に取付けられて車両の一方向を
撮像して表示する表示手段に、車両の走行に係る可動画
像を重畳表示させ、該可動画像の一部に対応する3次元
空間上の点をカメラパラメータを設定するための指標
(配置位置)とすれば、カメラで撮像する3次元空間内
に校正指標を置かなくて良い。
On the other hand, a movable image relating to the traveling of the vehicle is superimposed and displayed on a display means which is mounted on the vehicle and captures and displays one direction of the vehicle, and a three-dimensional space corresponding to a part of the movable image is displayed. If a point is used as an index (arrangement position) for setting camera parameters, it is not necessary to place a calibration index in a three-dimensional space imaged by a camera.

【0013】更に、可動画像は、ステアリング舵角によ
って変化する走行予想軌跡とすれば、走行予想軌跡の一
部からカメラパラメータを求めることが可能となり、正
確なカメラパラメータが設定されているかの確認が瞬時
にして行える。
Further, if the movable image is an expected traveling locus that changes according to the steering angle, the camera parameters can be obtained from a part of the expected traveling locus, and it is confirmed whether the camera parameters are set correctly. You can do it instantly.

【0014】この場合、走行予想軌跡は、はしご状に表
示させ、所定の距離間隔で距離線が表示されるようにす
ると良い。
In this case, it is preferable that the predicted travel locus is displayed in a ladder shape, and distance lines are displayed at predetermined distance intervals.

【0015】[0015]

【発明の実施の形態】以下、本発明の一実施形態を図面
を参照して説明する。
An embodiment of the present invention will be described below with reference to the drawings.

【0016】図1は、本発明の校正装置を車両において
駐車を補助する装置(以下、駐車アシスト装置と称す)
1に適用した図である。本装置1は、ドライバーが駐車
操作を意図する場合(駐車操作時)にディスプレィ上に
車両がバック時に通過するであろう走行予想軌跡20を
後方画像に電気的に重畳表示させるものである。コント
ローラ16には車両の後方を撮影するCCDカメラ(以
下、カメラと称す)17、ステアリングホイール(以
下、ステアリングと称す)21の操舵角を検出するステ
アリングセンサ2、トランスミッションのシフトレバー
のリバース(後退)状態を検出するシフトレバーリバー
ススイッチ3、駐車操作時に駐車アシスト機能を動作さ
せる駐車スイッチ4、および、従動輪の左右の車輪速度
を検出する車輪速センサ5,6からの信号が入力され
る。これらの信号を基にコントローラ16は、ディスプ
レィ13上に車両の後方画像と走行予想軌跡20を電気
的に重ねて表示する。コントローラ16には、更に、車
両の製造出荷時にカメラ位置を補正する場合や、車両衝
突、或いは車両走行時の振動によりカメラ17の取付位
置が正規位置よりずれてしまった場合等に、外部からの
校正が外部装置を取り付けて可能となるように、コネク
タ8が設けられている。このコネクタ8に外部から調整
ボタン7を接続し、調整ボタン7を操作することによっ
て、カメラ17の正規位置での予め設定されたカメラパ
ラメータの値を変更させて、カメラ17の校正を行うこ
とが可能となっている。
FIG. 1 shows a device for assisting parking in a vehicle using the calibration device of the present invention (hereinafter referred to as a parking assist device).
FIG. The present device 1 electrically superimposes and displays a predicted traveling trajectory 20 that the vehicle will pass when the driver intends to perform a parking operation (at the time of parking operation) on a display in a back view on a display. The controller 16 includes a CCD camera (hereinafter, referred to as a camera) 17 for photographing the rear of the vehicle, a steering sensor 2 for detecting a steering angle of a steering wheel (hereinafter, referred to as a steering) 21, and a reverse (reverse) of a transmission shift lever. Signals from a shift lever reverse switch 3 for detecting a state, a parking switch 4 for operating a parking assist function at the time of a parking operation, and wheel speed sensors 5 and 6 for detecting left and right wheel speeds of driven wheels are input. On the basis of these signals, the controller 16 displays the rear image of the vehicle and the predicted travel locus 20 on the display 13 so as to be electrically superimposed. The controller 16 further includes an external controller for correcting the camera position at the time of manufacture and shipment of the vehicle, and for correcting the position of the camera 17 from the normal position due to a vehicle collision or vibration during traveling of the vehicle. A connector 8 is provided so that calibration can be performed by attaching an external device. By connecting the adjustment button 7 to the connector 8 from the outside and operating the adjustment button 7, the camera 17 can be calibrated by changing a preset camera parameter value at a normal position of the camera 17. It is possible.

【0017】コントローラ内部には制御を司るCPU1
1、ディスプレィ13にグラフィックスを描画するグラ
フィックス描画回路12、グラフィックス信号とカメラ
17からの後方画像を重ね合わせるスーパーインポーズ
回路9、カメラ画像から同期信号を抽出してグラフィッ
クス描画回路12へ供給する同期分離回路10等を備え
る。
A CPU 1 for controlling the inside of the controller
1. A graphics drawing circuit 12 for drawing graphics on a display 13, a superimposing circuit 9 for superimposing a graphics signal and a rear image from a camera 17, and a synchronizing signal extracted from a camera image to the graphics drawing circuit 12. It is provided with a synchronization separation circuit 10 for supplying.

【0018】図2は、本装置1を車両に取り付けた場合
の取付図を示す。後方を撮像するカメラ17は車両後方
のナンバープレートの上の中心より多少ずれた位置に取
り付けられ、光軸を下方に向けて設置され、車両後方の
中央に下方(約30度)に向けて取り付けられ、カメラ
自体は広角レンズにより水平方向に左右113度の視野
を確保し、後方8m程度までの領域を撮像可能である。
FIG. 2 is a mounting diagram when the device 1 is mounted on a vehicle. The camera 17 for imaging the rear is mounted at a position slightly deviated from the center on the license plate behind the vehicle, is installed with the optical axis directed downward, and mounted downward (about 30 degrees) at the center behind the vehicle. In addition, the camera itself secures a field of view of 113 degrees left and right in the horizontal direction by a wide-angle lens, and can capture an area up to about 8 m behind.

【0019】車両の室内においては、センターコンソー
ルにはパネル面にドライバーにとって視認性が良い角度
でディスプレィ13が備え付けられ、グローブボックス
上方にはコントローラ16が内部に取り付けられてい
る。また、駐車操作時に駐車補助を要求する駐車スイッ
チ4は、ドライバーが操作し易いセンターコンソール近
傍に設けられる。
In the cabin of the vehicle, the center console is provided with a display 13 on the panel surface at an angle which is easy for the driver to see, and a controller 16 is mounted above the glove box. Further, the parking switch 4 for requesting the parking assistance at the time of the parking operation is provided near the center console which is easy for the driver to operate.

【0020】駐車アシスト装置1は、シフトリバースス
イッチ3がリバース状態になったときに、ドライバーに
よって駐車を補助する駐車スイッチ4が押されたとき
(ドライバーが駐車を意図している場合であって、駐車
アシストを必要とする場合)、右車輪速センサ5、左車
輪速センサ6からの情報を基にしてステアリング舵角の
中立点を求め、それを舵角基準点として、その基準点か
ら右ないし左にステアリング21がどれだけ切られたか
をステアリングセンサ2からのパルス信号を情報を基に
て、どれだけ転舵されているのかを検知し、車両がバッ
クを行うときに、車両が走行するであろう車両の走行予
想軌跡20を、ディスプレィ上に後方画像に合わせて重
畳表示させるものである。この走行予想軌跡20は可動
画像であり、車両データを基にして表示幅および後方の
所定距離(例えば、車両後方が0.5,1,3mの位
置)に距離線がはしご状で表示され(図1参照)、ステ
アリング舵角に応じて、転舵された方向および転舵量に
応じて軌跡の表示が動くようになっている。この走行予
想軌跡20により、駐車スイッチ4を押せば、駐車に不
慣れなドライバーでも駐車操作時に車両がどの軌跡をた
どるのかと言った軌跡20が表示され、距離間隔がわか
るので駐車操作が容易となる。尚、この走行予想軌跡2
0の表示方法および表示形態は公知(例えば、特開平1
1−334470号公報参照)であり、幾何学的な演算
により算出し、表示させることが可能であるので、ここ
ではその詳細な説明を割愛する。
The parking assist device 1 is configured such that when the shift reverse switch 3 is in the reverse state, the driver presses the parking switch 4 for assisting parking (in the case where the driver intends to park, When parking assist is required), a neutral point of the steering angle is obtained based on information from the right wheel speed sensor 5 and the left wheel speed sensor 6, and the neutral point is used as a steering angle reference point. The amount of turning of the steering wheel 21 to the left is detected based on the pulse signal from the steering sensor 2 based on information, and the amount of turning is detected. The predicted trajectory 20 of the likely vehicle is superimposed on the display in accordance with the rear image. The predicted travel locus 20 is a movable image, and a distance line is displayed in a ladder shape at a display width and a predetermined distance behind (for example, a position 0.5, 1, 3 m behind the vehicle) based on the vehicle data ( The display of the trajectory moves according to the steering direction and the amount of steering according to the steering angle. When the parking switch 4 is pressed by the predicted traveling locus 20, even a driver unfamiliar with parking, the locus 20 indicating which locus the vehicle follows during the parking operation is displayed, and the distance interval is known, so that the parking operation is facilitated. . In addition, this travel prediction locus 2
A display method and a display mode of “0” are known (for example,
1-334470), which can be calculated and displayed by a geometrical operation, and the detailed description thereof is omitted here.

【0021】このように、駐車操作をアシストする場合
に表示される走行予想軌跡20は、ドライバーが後方の
距離感を把握するためのものであるが、走行予想軌跡を
正確にディスプレィ画面上に表示させるには、カメラ1
7の取り付け誤差から、カメラ17の校正が必要とな
る。
As described above, the predicted traveling locus 20 displayed when assisting the parking operation is for the driver to grasp the sense of distance behind, but the predicted traveling locus is accurately displayed on the display screen. Camera 1
Calibration of the camera 17 is necessary due to the mounting error of the camera 7.

【0022】そこで、次に、カメラ17の校正について
説明する。カメラ17の校正は生産ライン等で車両にカ
メラ17が取り付けられるとき、或いは、衝突や車両走
行時の振動等によってカメラ17の取り付け位置が正規
位置よりずれたときに、修理工場等で行われるものであ
る。
Next, the calibration of the camera 17 will be described. The calibration of the camera 17 is performed at a repair shop when the camera 17 is attached to the vehicle on a production line or the like, or when the mounting position of the camera 17 is deviated from a normal position due to a collision or vibration during traveling of the vehicle. It is.

【0023】以下、一例として工場での生産ラインにお
けるカメラ17の校正方法について述べる。生産ライン
では車両を予め定まった所定位置(規定位置)に停止さ
せた状態で行われる。所定位置に車両を停止させる場
合、車両をバックまたは前進させ、タイヤ溝に車輪が嵌
まるようにすれば、正確な位置で停止させることが可能
である。このように、所定位置に車両を停止させた状態
で、車両後方(例えば、車両のバンパーから1m後方)
の位置に、車幅と略平行になるようにカメラ校正時に指
標となる平面状の調整用ターゲットバー(校正指標)T
Bが、予め生産ラインの平面状の床面に固定または貼り
付けられている。この調整用ターゲットバー(以下、タ
ーゲットバーと称す)TBは、生産ラインの床面に固定
される方法を取らず、地面に直接配置させても良く、固
定方法はこれに限定されない。本実施形態において使用
するターゲットバーTBは大きさが例えば、200cm
×5cm×0.2cmの白色のプラスチック板を使用
し、板厚が厚くなく、2次元空間で扱っても問題がない
厚さとする。よって、ターゲットバーTBは立体物では
ないことから、校正を行う生産ラインの作業者には邪魔
にはならず、作業途中で足で踏まれても問題はない。
Hereinafter, a method of calibrating the camera 17 on a production line in a factory will be described as an example. The production line is performed in a state where the vehicle is stopped at a predetermined position (specified position). When stopping the vehicle at a predetermined position, the vehicle can be stopped at an accurate position by moving the vehicle backward or forward so that the wheels fit into the tire grooves. In this way, with the vehicle stopped at a predetermined position, the vehicle is behind (for example, 1 m behind the bumper of the vehicle).
A flat adjustment target bar (calibration index) T serving as an index at the time of camera calibration so as to be substantially parallel to the vehicle width at the position
B is previously fixed or affixed to the flat floor surface of the production line. The adjustment target bar (hereinafter, referred to as a target bar) TB may be directly disposed on the ground without taking the method of being fixed to the floor of the production line, and the fixing method is not limited to this. The target bar TB used in the present embodiment has a size of, for example, 200 cm.
A white plastic plate of 5 cm x 0.2 cm is used, and the thickness is not so large that there is no problem when handled in a two-dimensional space. Therefore, since the target bar TB is not a three-dimensional object, it does not hinder a worker on the production line performing the calibration, and there is no problem even if the target bar TB is stepped on during the work.

【0024】カメラ17の校正に関して、図4を参照し
て、ワールド座標系をカメラ座標系および画像座標系に
変換する透視投影変換について説明する。この図で定義
を行うと、世間一般の空間をワールド座標系:(X,
Y,Z)、カメラ取付け位置での座標系をカメラ座標
系:(X’,Y’,Z’)、ディスプレィ画面上にカメ
ラ画像が撮像される座標系を画像座標系:(x,y)と
すると、画像座標系(画像空間)と3次元座標系(3次
元空間)との対応は、次式により表現できる。
Regarding the calibration of the camera 17, a perspective projection transformation for transforming a world coordinate system into a camera coordinate system and an image coordinate system will be described with reference to FIG. In this diagram, the general public space is defined in the world coordinate system: (X,
Y, Z), the coordinate system at the camera mounting position is the camera coordinate system: (X ′, Y ′, Z ′), and the coordinate system at which the camera image is captured on the display screen is the image coordinate system: (x, y) Then, the correspondence between the image coordinate system (image space) and the three-dimensional coordinate system (three-dimensional space) can be expressed by the following equation.

【0025】[0025]

【数1】 この式を、具体的に表わすと次式となる。(Equation 1) This equation is specifically expressed as follows.

【0026】[0026]

【数2】 Ppは斉次行列のため定数倍の不定性があり、パラメー
タ(本実施形態では、これがカメラパラメータとなる)の
数は12であるが、自由度は11である。また、Pp
は、
(Equation 2) Since Pp is a homogeneous matrix, it has an indeterminacy of a constant multiple, and the number of parameters (this is a camera parameter in the present embodiment) is 12, but the degree of freedom is 11. Also, Pp
Is

【数3】 そこで、透視投影変換について述べると、例えば、(T
x,Ty,Tz)だけ平行移動後、Y軸の廻りにθy(パン
角)だけ回転した後、X軸の廻りにθx(チルト角)、
Z軸の廻りにθz(ロール角)だけ順次回転したとする
と、並進と回転の各変換の成分は、次式の如く表現され
る。
(Equation 3) Then, the perspective projection transformation will be described, for example, (T
x, Ty, Tz), then rotate around the Y axis by θy (pan angle), then around the X axis, θx (tilt angle),
Assuming that the image is sequentially rotated by θz (roll angle) around the Z axis, the components of each translation and rotation conversion are expressed as follows.

【0027】[0027]

【数4】 (Equation 4)

【数5】 一方、ワールド座標系(X,Y,Z)に対するカメラ座標系
(X',Y',Z')は、次式で表現される。
(Equation 5) On the other hand, the camera coordinate system with respect to the world coordinate system (X, Y, Z)
(X ', Y', Z ') is expressed by the following equation.

【0028】[0028]

【数6】 (Equation 6)

【数7】 また、[R]は数8の式で表現され、[EXT]は、数
9の式で表現される。
(Equation 7) Further, [R] is expressed by Expression (8), and [EXT] is expressed by Expression (9).

【0029】[0029]

【数8】 (Equation 8)

【数9】 よって、この式は、即ち、数10の右辺の第1行列式と
なる。
(Equation 9) Therefore, this expression is the first determinant on the right side of Expression 10.

【0030】[0030]

【数10】 これらのパラメータ(P11,P12,P13・・・P
34)の内、どれだけを未知として校正するかにより具
体的な算出方法は異なるが、12個全てのパラメータ要
素を未知として校正するためには、数2の式に関して1
1元以上の連立方程式を解けば良い。
(Equation 10) These parameters (P 11 , P 12 , P 13 ... P
34 ), the specific calculation method differs depending on how much is to be calibrated as unknown. However, in order to calibrate all 12 parameter elements as unknown, 1
One or more simultaneous equations may be solved.

【0031】しかし、実用上ではいくつかを既知として
扱って差し支えない場合や、所定数nのパラメータを未
知として、数2の式に関してn元以上の連立方程式を解
けば良いことになる。
However, in practice, some of them may be treated as known, or a predetermined number n of parameters may be unknown and a simultaneous equation having n or more elements may be solved with respect to the equation (2).

【0032】実際、カメラを校正するには、既知の3次
元上の複数の位置と、その各点に対応する画像上の点群
から行列を算出する。このとき、複数のサンプル点に対
してワールド座標系およびカメラ座標系での3次元座標
と画像座標系の2次元画像座標との対応を取り、連立方
程式を解いて要素を求めることができる。以降、3次元
上の点:3次元点、2次元画像上の点:画像点と称す。
Actually, to calibrate the camera, a matrix is calculated from a plurality of known three-dimensional positions and a group of points on the image corresponding to each of the positions. At this time, for the plurality of sample points, the correspondence between the three-dimensional coordinates in the world coordinate system and the camera coordinate system and the two-dimensional image coordinates in the image coordinate system can be obtained, and the elements can be obtained by solving simultaneous equations. Hereinafter, three-dimensional points: three-dimensional points, two-dimensional image points: image points.

【0033】3次元点Xiと画像点Xiとの対応は、The correspondence between the three-dimensional point Xi and the image point Xi is as follows:

【数11】 で表現され、1個の対応点から2つの線形方程式が得られ
るため、Pの自由度(=11):未知数に対して6個以
上の対応点に関する連立方程式を解けば、全パラメータ
が求まりカメラ17が校正される。よって、カメラ17
にどのようなカメラを採用するかが決まればカメラの内
部パラメータCは車両に搭載する前に測定しておけば既
知となり、しかも、並進成分Tは車両のカメラ取付け場
所により設計値を用いれば既知であることから、ロール
角θr、チルト角θt、パン角θpがわかればカメラ1
7の校正が行える。即ち、未知のロール角θr、チルト
角θt、パン角θpを求めるのに、数11の式から2つ
の対応点が得られた場合、未知のパラメータの校正がで
きることになる。
[Equation 11] , And two linear equations are obtained from one corresponding point. Therefore, by solving a simultaneous equation relating to six or more corresponding points with respect to an unknown number of P (= 11): unknown, all parameters can be obtained and the camera 17 is calibrated. Therefore, the camera 17
Once the camera to be used is determined, the internal parameter C of the camera is known if it is measured before mounting on the vehicle, and the translation component T is known if the design value is used depending on the camera mounting position of the vehicle. Therefore, if the roll angle θr, the tilt angle θt, and the pan angle θp are known, the camera 1
7 can be performed. That is, if two corresponding points are obtained from the equation (11) to obtain the unknown roll angle θr, tilt angle θt, and pan angle θp, calibration of unknown parameters can be performed.

【0034】そこで、車両における車載カメラ17の校
正について、手順を説明する。本実施形態ではターゲッ
トバーTBを床面上の指定した位置に配置する。ターゲ
ットバーTBの両端の2点が校正上重要となる。
The procedure for calibrating the in-vehicle camera 17 in the vehicle will now be described. In the present embodiment, the target bar TB is arranged at a designated position on the floor. Two points at both ends of the target bar TB are important for calibration.

【0035】校正では、図3に示されるようにターゲッ
トバーTBが、車両後方の所定位置(例えば、バンパー
の後端から1mはなれた位置)に車両主軸(車両の中心
を通る長手方向の軸)に対して、左右対称且つ垂直にな
るようにした状態から校正を始める。
In the calibration, as shown in FIG. 3, the target bar TB is placed at a predetermined position behind the vehicle (for example, at a position 1 m away from the rear end of the bumper) at the vehicle main axis (a longitudinal axis passing through the center of the vehicle). Calibration is started from a state in which it is symmetrical and vertical.

【0036】この場合、校正時にはコネクタ8を介して
調整ボタン7がCPU11の信号入力端子に接続され
る。調整ボタン7は、図5に示される構成を取り、Aボ
タン7a、Bボタン7b、Cボタン7cの3つのボタン
を備える。Aボタン7aはダイオードD1,D2を介し
て、Bボタン7b,C7cの信号端子FCS1,FCS
2とワイヤードオアになっており、一端がGND共通で
接地されている。また、調整ボタン7の他端はCPU1
1のFCS1,SCF2の入力端子に入力される。例え
ば、Aボタン7aを押すとFCS1,FCS2が共に低
電位(Lo)となる。一方、Bボタン7bのみを押すと
FCS1が低電位となり、Cボタン7cのみを押すとF
CS2が低電位となる。尚、Aボタン7aはワイヤード
オアの構成を必ずしも取らなくても良い。
In this case, the adjustment button 7 is connected to the signal input terminal of the CPU 11 via the connector 8 at the time of calibration. The adjustment button 7 has the configuration shown in FIG. 5 and includes three buttons: an A button 7a, a B button 7b, and a C button 7c. The A button 7a is connected to the signal terminals FCS1 and FCS of the B buttons 7b and C7c via the diodes D1 and D2.
2, and one end is grounded in common with GND. The other end of the adjustment button 7 is connected to the CPU 1
1 are input to the input terminals of FCS1 and SCF2. For example, when the A button 7a is pressed, both FCS1 and FCS2 become low potential (Lo). On the other hand, when only the B button 7b is pressed, the FCS1 becomes low potential.
CS2 becomes low potential. Note that the A button 7a does not necessarily need to have a wired OR configuration.

【0037】このAボタン7aを押すことで、図6の
(a)〜(c)に示されるように、ディスプレィ13の
画面上にウィンドウWD(WDr,WDt,WDpのい
ずれか)が表示される。このウィンドウWDは、ターゲ
ットバーTBが中に入る大きさで後方画像に対して電気
的に重畳表示される。Aボタン7aによりモードの切換
が可能となり、Aボタン7aを所定時間(例えば、0.
5sec毎に連続して押すこと)により、ロール角調整
モード、チルト角調整モード、パン角調整モード、調整
終了モードと状態が遷移する。一方、Bボタン7bおよ
びCボタン7cは表示されるウィンドウWD(WDr,
WDt,WDp)位置を調整するためのボタンである。
By pressing the A button 7a, a window WD (one of WDr, WDt, WDp) is displayed on the screen of the display 13, as shown in FIGS. 6A to 6C. . This window WD is electrically superimposed and displayed on the rear image in such a size that the target bar TB enters. The mode can be switched by the A button 7a, and the A button 7a is pressed for a predetermined time (for example, 0.
The state is shifted to the roll angle adjustment mode, the tilt angle adjustment mode, the pan angle adjustment mode, and the adjustment end mode. On the other hand, the B button 7b and the C button 7c are displayed in the displayed window WD (WDr,
WDt, WDp) buttons for adjusting the position.

【0038】尚、本実施形態では、チルト角<±5.5
度、パン角<±5.5度、ロール角<±6.0度以内で
あればターゲットバーTBがウインドウ内に完全に納ま
るよう設定されている。
In this embodiment, the tilt angle <± 5.5.
If the angle, pan angle <± 5.5 degrees, and roll angle <± 6.0 degrees, the target bar TB is set to be completely contained in the window.

【0039】調整方法に関して説明を図7に示すが、最
初モードであるロール角調整モードではBボタン7bを
1回押す毎に、図6の(a)に示されるウィンドウWD
r(表示色:黄色、x方向の大きさ:(xrb−xr
s)ドット、y方向の大きさ:(yrb−yrs)ドッ
ト)を所定角度(例えば、0.5度だけ)画像中心に対し
て左回転させ、Cボタン7cを1回押す毎に、ウィンド
ウWDrを所定角度(例えば、0.5度だけ)画像中心に
対して右回転させる。
FIG. 7 illustrates the adjustment method. In the roll angle adjustment mode, which is the first mode, every time the B button 7b is pressed once, the window WD shown in FIG.
r (display color: yellow, size in x direction: (xrb-xr
s) Dot, size in y direction: (yrb-yrs) dot) is rotated counterclockwise by a predetermined angle (for example, 0.5 degrees) with respect to the image center, and each time the C button 7c is pressed once, the window WDr Is rotated clockwise to a predetermined angle (for example, 0.5 degrees) with respect to the center of the image.

【0040】ここで、Bボタン7b或いはCボタン7c
を1回操作ごとにロール角設定値を0.5度づつ移動さ
せ、ロール角調整時のウインドウWDrがターゲットバ
ーTBと平行になるまで、Bボタン7b(左回転用)、
Cボタン7c(右回転用)を操作する。尚、このモード
ではウィンドウWDrの大きさがターゲットバーTBに
対していくらか余裕がある。
Here, the B button 7b or the C button 7c
The roll button is moved by 0.5 degrees for each operation, and the B button 7b (for left rotation) until the window WDr at the time of roll angle adjustment is parallel to the target bar TB,
Operate the C button 7c (for right rotation). In this mode, the size of the window WDr has some margin with respect to the target bar TB.

【0041】ターゲットバーTBにウィンドウWDrが
回転操作を行って平行になったら、次に、Aボタン7a
を所定時間(0.5sec)押し、今度はチルト角調整
モードにする(図6の(b)参照)。
When the window WDr is rotated in parallel with the target bar TB, the A button 7a
Is pressed for a predetermined time (0.5 sec) to set the tilt angle adjustment mode (see FIG. 6B).

【0042】このモードではチルト調整用のウインドウ
WDt(表示色:赤色)がディスプレィ画面上に表示さ
れる。このモードでのウィンドウWDtの大きさは、x
方向ではウインドウWDrと同じあるが、y方向ではロ
ール角調整用のウィンドウWDrより小さくなり、1m
後方で±2cmの許容誤差を含むように8ドットで表示
される。このモードでも同様な操作を行うが、今度はB
ボタン7b、Cボタン7cを1回押す毎にチルト設定値
を所定角度(例えば、0.5度)づつ変え、ウインドウ
WDtの上下境界がターゲットバーTBに略外接するま
で、Bボタン7b(下方向移動用),Cボタン7c(上
方向移動用)を操作し、ウィンドウWDtをy方向に動
かしならが調整を行う。
In this mode, a tilt adjustment window WDt (display color: red) is displayed on the display screen. The size of the window WDt in this mode is x
Direction is the same as the window WDr, but is smaller than the roll angle adjustment window WDr in the y direction,
It is displayed in 8 dots so as to include a tolerance of ± 2 cm behind. The same operation is performed in this mode, but this time B
Each time the button 7b and the C button 7c are pressed once, the tilt setting value is changed by a predetermined angle (for example, 0.5 degrees), and the B button 7b (downward direction) is changed until the upper and lower boundaries of the window WDt are substantially circumscribed with the target bar TB. The user operates the C button 7c (for upward movement) and the C button 7c (for upward movement) to move the window WDt in the y direction to perform adjustment.

【0043】その後、Aボタン7aを所定時間(例え
ば、0.5sec)押し続けると、今度はパン角調整モ
ードになる(図6の(c)参照)。このモードでは、ウ
インドウWDp(表示色:青色)が表示される。このウ
ィンドウWDpはx方向の大きさ:ロール角調整用のウ
ィンドウWDrより幅が狭くなる(xpb−xrs)ド
ット、y方向の大きさ:1m後方で左右方向±3cmの許
容誤差を含む。調整に関しては同様であるが、今度はB
ボタン7b,Cボタン7cを1回操作する毎にパン角設
定値を所定角度(0.5度)づつ変え、ウインドウWD
pの左右境界がターゲットバーに略外接するまで、Bボ
タン7b(左方向移動用)、Cボタン7c(右方向移動
用)を操作することでウィンドウWDpがx方向に動
き、ターゲットバーTBの両端が略外接する位置まで調
整を行う。
Thereafter, if the A button 7a is kept pressed for a predetermined time (for example, 0.5 sec), the pan angle adjustment mode is set (see FIG. 6C). In this mode, a window WDp (display color: blue) is displayed. This window WDp has a size in the x direction: a dot (xpb-xrs) whose width is smaller than that of the roll angle adjustment window WDr, and a size in the y direction: 1 m behind and includes a tolerance of ± 3 cm in the left and right direction. Same as for adjustment, but this time B
Each time the button 7b and the C button 7c are operated once, the pan angle setting value is changed by a predetermined angle (0.5 degrees), and the window WD
By operating the B button 7b (for moving in the left direction) and the C button 7c (for moving in the right direction) until the left and right borders of p are substantially circumscribed with the target bar, the window WDp moves in the x direction and both ends of the target bar TB The adjustment is made to the position where is almost circumscribed.

【0044】このようにして、ロール角、チルト角、パ
ン角の調整を行い、ターゲットバーTBがウィンドウW
Dpと略一致した状態になった後、再び、Aボタン7a
を所定時間(0.5sec)以上連続して押すと、調整
モード終了となり、そのときのウィンドウ状態に基づく
角度が決定される。この場合、3つのモードの調整によ
って得られた角度情報がそのときのカメラ17のカメラ
パラメータとしてCPU内部のEEPROMに書き込
み、調整モードを終了する。
In this manner, the roll angle, the tilt angle, and the pan angle are adjusted, and the target bar TB is moved to the window W.
After the state substantially coincides with Dp, the A button 7a is again pressed.
If the button is continuously pressed for a predetermined time (0.5 sec) or more, the adjustment mode ends, and the angle based on the window state at that time is determined. In this case, the angle information obtained by the adjustment of the three modes is written into the EEPROM inside the CPU as the camera parameters of the camera 17 at that time, and the adjustment mode ends.

【0045】このような調整により、調整を終了する
と、調整により設定されたカメラパラメータを基にし
て、ディスプレィ画面上に走行予想軌跡20が表示され
る。
When the adjustment is completed by such an adjustment, the predicted travel locus 20 is displayed on the display screen based on the camera parameters set by the adjustment.

【0046】この場合、図8に示すように走行予想軌跡
20を所定距離線(0.5,1,2,3m間隔ではしご
状に表示させると良い。例えば、その軌跡上の1つの距
離線(例えば、車両後方1mのライン)をターゲットバ
ーTBとして用いれば、走行予想軌跡20の一部(距離
線(1m)の両端の点TBR,TBL)からカメラパラ
メータを求めることが可能となり、正確なカメラパラメ
ータが設定されているかの確認が同じ走行予想軌跡20
を用いて瞬時にして行える。一方、後方の所定距離の位
置にターゲットバーTBを固定する場合、カメラパラメ
ータを設定した後、走行予想軌跡20を表示させると、
校正によって得られたカメラパラメータが正確に設定さ
れているのか否かを、走行予想軌跡20の距離線(車両
後方1mのライン)により容易に確認が行える。
In this case, as shown in FIG. 8, the predicted traveling locus 20 may be displayed in a predetermined distance line (a ladder shape at intervals of 0.5, 1, 2, 3 m. For example, one distance line on the locus) If (for example, a line 1 m behind the vehicle) is used as the target bar TB, camera parameters can be obtained from a part of the predicted travel trajectory 20 (points TBR and TBL at both ends of the distance line (1 m)), and accurate Confirmation of whether the camera parameters are set is the same as the predicted travel locus 20
Can be done instantaneously using. On the other hand, when the target bar TB is fixed at a position at a predetermined distance behind, by setting the camera parameters and displaying the predicted travel locus 20,
Whether or not the camera parameters obtained by the calibration are correctly set can be easily confirmed by the distance line (line 1 m behind the vehicle) of the predicted traveling locus 20.

【0047】このようにして、カメラパラメータの設定
を行えば、駐車操作時にディスプレィ上に可変表示され
る走行予想軌跡20は、カメラ17の公差や車体への取
付け公差の影響を受けなくなる。
If the camera parameters are set in this way, the predicted travel locus 20 variably displayed on the display at the time of parking operation is not affected by the tolerance of the camera 17 or the mounting tolerance to the vehicle body.

【0048】[0048]

【効果】本発明によれば、校正に平面に配置した平面状
の校正指標を用いて、その校正指標を含むカメラ画像を
ディスプレィ上に表示させ、そこに所定のウィンドウを
表示させる。ウィンドウの位置をカメラによって撮像さ
れる画像座標内で変化させ、校正指標がウィンドウ内に
入るよう位置関係を調整手段により調整し、校正指標が
ウィンドウ内に収まったときのカメラパラメータを、カ
メラのカメラパラメータとして設定するようにしたの
で、カメラパラメータの設定は調整手段の調整だけで設
定できる。この場合、校正指標は平面状であることか
ら、校正指標は床面に置くか貼り付ければ校正を行う場
合にあっては邪魔にならず、車両の製造現場等において
も、簡単な方法でカメラの校正が行える装置が提供され
ると共に、カメラの校正が簡単に行える。
According to the present invention, a camera image including the calibration index is displayed on a display using a planar calibration index arranged on a plane for calibration, and a predetermined window is displayed there. The position of the window is changed within the image coordinates captured by the camera, the positional relationship is adjusted by the adjusting means so that the calibration index falls within the window, and the camera parameters when the calibration index falls within the window are adjusted by the camera camera. Since the parameters are set as the parameters, the camera parameters can be set only by adjusting the adjusting means. In this case, since the calibration index is planar, the calibration index is placed on the floor surface or pasted on it and does not disturb the calibration when it is performed. In addition to the provision of an apparatus capable of calibrating the camera, the camera can be easily calibrated.

【0049】この場合、調整手段によって、カメラ画像
に表示されるウィンドウを校正指標に対して回転または
移動させて調整を行うようにすれば、ウィンドウの位置
を調整手段の調整で回転または移動させ、簡単な方法で
カメラパラメータを設定することが可能となる。よっ
て、カメラパラメータの設定が行えるので、画面上の任
意の点に描画できる。
In this case, by adjusting or rotating the window displayed on the camera image with respect to the calibration index by the adjusting means, the position of the window is rotated or moved by adjusting the adjusting means. Camera parameters can be set by a simple method. Therefore, since the camera parameters can be set, the image can be drawn at an arbitrary point on the screen.

【0050】一方、車両に取付けられて車両の一方向を
撮像して表示する表示手段に、車両の走行に係る可動画
像を重畳表示させ、該可動画像の一部に対応する3次元
空間上の点をカメラパラメータを設定するための指標と
すれば、カメラで撮像する3次元空間内に校正指標を置
かなくて済む。
On the other hand, a movable image relating to the running of the vehicle is superimposed and displayed on a display means attached to the vehicle for imaging and displaying one direction of the vehicle, and a three-dimensional space corresponding to a part of the movable image is displayed. If a point is used as an index for setting camera parameters, it is not necessary to place a calibration index in a three-dimensional space imaged by a camera.

【0051】更に、可動画像は、ステアリング舵角によ
って変化する走行予想軌跡とすれば、走行予想軌跡の一
部からカメラパラメータを求めることが可能となり、正
確なカメラパラメータが設定されているかの確認が瞬時
にでき、設定が容易となる。
Furthermore, if the movable image is an expected travel locus that changes according to the steering angle, camera parameters can be obtained from a part of the expected travel locus, and it is confirmed whether the camera parameters are set correctly. It can be done instantly, making setting easy.

【図面の簡単な説明】[Brief description of the drawings]

【図1】 本発明の一実施形態における車載カメラの校
正装置を駐車アシスト装置を例にとって説明する場合の
システム構成図である。
FIG. 1 is a system configuration diagram illustrating a calibration device for a vehicle-mounted camera according to an embodiment of the present invention, taking a parking assist device as an example.

【図2】 図1に示す駐車アシスト装置を車両へ取付け
た場合の取付図である。
FIG. 2 is a mounting diagram when the parking assist device shown in FIG. 1 is mounted on a vehicle.

【図3】 図1に示す車両に取り付けられたカメラとタ
ーゲットバーとの関係を示した図である。
FIG. 3 is a diagram showing a relationship between a camera attached to the vehicle shown in FIG. 1 and a target bar.

【図4】 本発明の3次元座標(ワールド座標系、カメ
ラ座標系)から2次元座標(画像座標系)に変換する透
視投影変換を説明するための説明図である。
FIG. 4 is an explanatory diagram for explaining a perspective projection transformation for transforming three-dimensional coordinates (world coordinate system, camera coordinate system) into two-dimensional coordinates (image coordinate system) according to the present invention.

【図5】 図1に示す調整ボタンの構成図である。FIG. 5 is a configuration diagram of an adjustment button shown in FIG. 1;

【図6】 図1に示すディスプレィ画面上で表示される
表示画面であり、校正時のターゲットバーに対するウィ
ンドウの移動を示しており、(a)はロール角調整モー
ド、(b)はチルト角調整モード、(c)はパン角調整
モードにおける表示画面を示す。
6 is a display screen displayed on the display screen shown in FIG. 1, showing movement of a window with respect to a target bar at the time of calibration, (a) is a roll angle adjustment mode, and (b) is a tilt angle adjustment. (C) shows a display screen in the pan angle adjustment mode.

【図7】 図1に示す調整ボタンの操作によって、モー
ド遷移した場合のウィンドウ移動を示した説明図であ
る。
FIG. 7 is an explanatory diagram showing window movement when a mode transition is made by operating the adjustment button shown in FIG. 1;

【図8】 本発明の一実施形態におけるターゲットバー
を走行予想軌跡の一部とした例を示す。
FIG. 8 shows an example in which a target bar according to an embodiment of the present invention is set as a part of a predicted traveling trajectory.

【符号の説明】[Explanation of symbols]

1 駐車アシスト装置 7(7a,7b,7c) 調整ボタン(調整手段) 9 スーパーインポーズ回路 11 CPU 13 ディスプレィ(表示手段) 20 走行予想軌跡(可動画像) TB ターゲットバー(校正指標) WD(WDr,WDt,WDp) ウィンドウ(ウィン
ドウ表示手段)
Reference Signs List 1 parking assist device 7 (7a, 7b, 7c) adjustment button (adjustment means) 9 superimpose circuit 11 CPU 13 display (display means) 20 expected running trajectory (movable image) TB target bar (calibration index) WD (WDr, WDt, WDp) Window (window display means)

Claims (5)

【特許請求の範囲】[Claims] 【請求項1】 車両に取付けられたカメラの校正を、前
記カメラで撮像されるカメラ画像内の定位置に置かれた
校正指標を基にして行う車載カメラの校正装置におい
て、 平面状の校正指標を平面に配置して、該校正指標を含む
前記カメラ画像を表示可能な表示手段と、 該表示手段に所定のウィンドウを表示するウィンドウ表
示手段と、 該ウィンドウ表示手段の位置を前記カメラによって撮像
される画像座標内で変化させる調整手段と、 該調整手段により前記校正指標を前記ウィンドウ内に入
るよう前記ウィンドウの位置関係を調整し、前記校正指
標が前記ウィンドウ内に収まったときのカメラパラメー
タを、前記カメラのカメラパラメータとして設定するパ
ラメータ設定手段と、を備えたことを特徴とする車載カ
メラの校正装置。
1. A calibration apparatus for a vehicle-mounted camera for calibrating a camera mounted on a vehicle based on a calibration index placed at a fixed position in a camera image picked up by the camera. Is arranged on a plane, a display means capable of displaying the camera image including the calibration index, a window display means for displaying a predetermined window on the display means, and a position of the window display means being imaged by the camera. Adjusting means for changing within the image coordinates, adjusting the positional relationship of the window so that the calibration index is within the window, and adjusting the camera parameters when the calibration index falls within the window, A calibration device for a vehicle-mounted camera, comprising: a parameter setting unit configured to set as a camera parameter of the camera.
【請求項2】 車両に取付けられたカメラの校正を、前
記カメラで撮像されるカメラ画像内の定位置に置かれた
校正指標を基にして行う車載カメラの校正方法におい
て、 平面状の校正指標を平面に配置して、該校正指標を含む
前記カメラ画像を表示可能な表示手段と、該表示手段に
所定のウィンドウを表示するウィンドウ表示手段と、該
ウィンドウ表示手段の位置を前記カメラによって撮像さ
れる画像座標内で変化させる調整手段とを備え、 前記表示手段に前記校正指標を表示させ、前記校正指標
が前記ウィンドウ内に入るように前記ウィンドウの位置
関係を調整し、前記校正指標が前記ウィンドウ中に入っ
たときのカメラパラメータを、前記カメラのカメラパラ
メータとして設定することを特徴とする車載カメラの校
正方法。
2. A method for calibrating an on-vehicle camera, comprising the steps of: calibrating a camera attached to a vehicle based on a calibration index placed at a fixed position in a camera image picked up by the camera; Is arranged on a plane, a display means capable of displaying the camera image including the calibration index, a window display means for displaying a predetermined window on the display means, and a position of the window display means which is imaged by the camera. Adjusting means for changing within the image coordinates, displaying the calibration index on the display means, adjusting the positional relationship of the window so that the calibration index falls within the window, the calibration index is the window A method for calibrating an on-vehicle camera, comprising setting a camera parameter at the time of entering the camera as a camera parameter of the camera.
【請求項3】 前記調整手段によって、カメラ画像に表
示される前記ウィンドウを前記校正指標に対して回転ま
たは移動させて調整を行うことを特徴とする請求項2に
記載の車載カメラの校正方法。
3. The method for calibrating a vehicle-mounted camera according to claim 2, wherein the adjustment means adjusts the window displayed on the camera image by rotating or moving the window with respect to the calibration index.
【請求項4】 車両に取付けられて車両の一方向を撮像
して表示する表示手段に、車両の走行に係る可動画像を
重畳表示させ、該可動画像の一部に対応する3次元空間
上の点をカメラパラメータを設定するための指標とした
ことを特徴とする車載カメラの校正指標。
4. A display device attached to the vehicle for capturing and displaying one direction of the vehicle, superimposing and displaying a movable image relating to the traveling of the vehicle, and displaying the movable image in a three-dimensional space corresponding to a part of the movable image. A calibration index for a vehicle-mounted camera, wherein a point is used as an index for setting camera parameters.
【請求項5】 前記可動画像は、ステアリング舵角によ
って変化する走行予想軌跡としたことを特徴とする車載
カメラの校正指標。
5. A calibration index for an on-vehicle camera, wherein the movable image is an expected traveling trajectory that changes according to a steering angle.
JP2000392787A 1999-12-24 2000-12-25 In-vehicle camera calibration device and calibration method Expired - Lifetime JP3551920B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000392787A JP3551920B2 (en) 1999-12-24 2000-12-25 In-vehicle camera calibration device and calibration method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP36575499 1999-12-24
JP11-365754 1999-12-24
JP2000392787A JP3551920B2 (en) 1999-12-24 2000-12-25 In-vehicle camera calibration device and calibration method

Publications (3)

Publication Number Publication Date
JP2001245326A true JP2001245326A (en) 2001-09-07
JP3551920B2 JP3551920B2 (en) 2004-08-11
JP2001245326A5 JP2001245326A5 (en) 2004-10-28

Family

ID=26581698

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000392787A Expired - Lifetime JP3551920B2 (en) 1999-12-24 2000-12-25 In-vehicle camera calibration device and calibration method

Country Status (1)

Country Link
JP (1) JP3551920B2 (en)

Cited By (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003111070A (en) * 2001-09-27 2003-04-11 Aisin Seiki Co Ltd Vehicle use monitoring device
WO2006057147A1 (en) * 2004-11-24 2006-06-01 Aisin Seiki Kabushiki Kaisha Camera calibrating method and camera calibrating device
JP2006253874A (en) * 2005-03-09 2006-09-21 Casio Comput Co Ltd Projector, and its image distortion correcting method and program
JP2006287789A (en) * 2005-04-04 2006-10-19 Toyota Motor Corp Attitude corrector for vehicle-mounted camera, and correcting method thereof
FR2889640A1 (en) * 2006-09-08 2007-02-09 Keeneo Intelligent video surveillance system configuring method for use during e.g. installation of system, involves superposing lines with plane realistic element of image of scene to generate scene calibration model
JP2007096964A (en) * 2005-09-29 2007-04-12 Clarion Co Ltd Device and method for calibrating camera
JP2007256030A (en) * 2006-03-23 2007-10-04 Clarion Co Ltd Calibration system and calibration method for vehicle-mounted camera
JP2008131250A (en) * 2006-11-20 2008-06-05 Aisin Seiki Co Ltd Correcting device for on-board camera and production method for vehicle using same correcting device
JP2008131177A (en) * 2006-11-17 2008-06-05 Aisin Seiki Co Ltd Correcting device for on-board camera, correcting method, and production method for vehicle using same correcting method
WO2008087707A1 (en) * 2007-01-16 2008-07-24 Pioneer Corporation Vehicular image processing device, and vehicular image processing program
WO2008087709A1 (en) * 2007-01-16 2008-07-24 Pioneer Corporation Image processing device for vehicle, imaging device for vehicle, image processing program for vehicle, and image adjusting method for vehicle
WO2008147911A1 (en) * 2007-05-22 2008-12-04 Microsoft Corporation Camera calibration
JPWO2007043452A1 (en) * 2005-10-12 2009-04-16 パイオニア株式会社 On-vehicle imaging device and imaging movable range measurement method of on-vehicle camera
JP2010173347A (en) * 2009-01-27 2010-08-12 Toyota Motor Corp Optical axis calibration system of in-vehicle camera
JP2010193016A (en) * 2009-02-16 2010-09-02 Ricoh Co Ltd Method and device for support of calibration for onboard camera device, and onboard camera device
EP2237224A1 (en) * 2009-03-31 2010-10-06 Aisin Seiki Kabushiki Kaisha Calibrating apparatus for on-board camera of vehicle
EP2237223A1 (en) * 2009-03-31 2010-10-06 Aisin Seiki Kabushiki Kaisha Calibrating apparatus for on-board camera of vehicle
WO2010113673A1 (en) * 2009-03-31 2010-10-07 アイシン精機株式会社 Calibration device, method, and program for onboard camera
JP2010233079A (en) * 2009-03-27 2010-10-14 Aisin Aw Co Ltd Driving support device, driving support method, and driving support program
JP2011087308A (en) * 2010-11-25 2011-04-28 Aisin Seiki Co Ltd Device, method, and program for calibration of in-vehicle camera
WO2012002415A1 (en) 2010-06-29 2012-01-05 クラリオン株式会社 Image calibration method and device
WO2012032809A1 (en) 2010-09-06 2012-03-15 アイシン精機株式会社 Driving assistance device
CN102681533A (en) * 2012-05-15 2012-09-19 北京智华驭新汽车电子技术开发有限公司 Equipment for calibrating, upgrading and detecting LDW (Lane Departure Warning) system
WO2013038681A1 (en) 2011-09-13 2013-03-21 京セラ株式会社 Camera calibration device, camera, and camera calibration method
JP2013062692A (en) * 2011-09-13 2013-04-04 Kyocera Corp Calibration device and method for on-vehicle camera
WO2013125206A1 (en) * 2012-02-24 2013-08-29 京セラ株式会社 Camera device, camera system, and camera calibration method
JP2013173453A (en) * 2012-02-24 2013-09-05 Kyocera Corp Calibration processing device, camera calibrating device, camera system and camera calibrating method
WO2013150794A1 (en) * 2012-04-04 2013-10-10 京セラ株式会社 Calibration processor, camera device, camera system, and camera calibration method
US8659660B2 (en) 2009-11-17 2014-02-25 Fujitsu Limited Calibration apparatus and calibration method
JP2014225819A (en) * 2013-05-17 2014-12-04 京セラ株式会社 Calibration processor, camera calibrator, and camera calibration method
CN106767988A (en) * 2016-11-22 2017-05-31 北京汽车股份有限公司 The caliberating device of road surface data acquisition equipment
CN113706370A (en) * 2020-05-22 2021-11-26 杭州海康威视数字技术股份有限公司 Image generation method, device and system
CN113942458A (en) * 2021-10-29 2022-01-18 禾多科技(北京)有限公司 Control method, device, equipment and medium for vehicle-mounted camera adjusting system

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5316805B2 (en) 2009-03-16 2013-10-16 株式会社リコー In-vehicle camera device image adjustment device and in-vehicle camera device
CN105785971B (en) * 2016-02-25 2018-05-01 重庆长安汽车股份有限公司 A kind of caliberating device and method of automobile Lane Departure Warning System
CN208298251U (en) * 2018-04-17 2018-12-28 深圳市道通科技股份有限公司 The caliberating device and system of vehicle-mounted camera

Cited By (58)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003111070A (en) * 2001-09-27 2003-04-11 Aisin Seiki Co Ltd Vehicle use monitoring device
US8269848B2 (en) 2004-11-24 2012-09-18 Aisin Seiki Kabushiki Kaisha Camera calibration method and camera calibration device
WO2006057147A1 (en) * 2004-11-24 2006-06-01 Aisin Seiki Kabushiki Kaisha Camera calibrating method and camera calibrating device
JP2006253874A (en) * 2005-03-09 2006-09-21 Casio Comput Co Ltd Projector, and its image distortion correcting method and program
JP4687154B2 (en) * 2005-03-09 2011-05-25 カシオ計算機株式会社 Projector, projector image distortion correction method, and program
JP2006287789A (en) * 2005-04-04 2006-10-19 Toyota Motor Corp Attitude corrector for vehicle-mounted camera, and correcting method thereof
JP4622637B2 (en) * 2005-04-04 2011-02-02 トヨタ自動車株式会社 In-vehicle camera attitude correction device and in-vehicle camera attitude correction method
JP2007096964A (en) * 2005-09-29 2007-04-12 Clarion Co Ltd Device and method for calibrating camera
JPWO2007043452A1 (en) * 2005-10-12 2009-04-16 パイオニア株式会社 On-vehicle imaging device and imaging movable range measurement method of on-vehicle camera
JP2007256030A (en) * 2006-03-23 2007-10-04 Clarion Co Ltd Calibration system and calibration method for vehicle-mounted camera
WO2008028924A3 (en) * 2006-09-08 2008-05-15 Keeneo Method and tool for configuring at least one intelligent video-surveillance system
FR2889640A1 (en) * 2006-09-08 2007-02-09 Keeneo Intelligent video surveillance system configuring method for use during e.g. installation of system, involves superposing lines with plane realistic element of image of scene to generate scene calibration model
JP2008131177A (en) * 2006-11-17 2008-06-05 Aisin Seiki Co Ltd Correcting device for on-board camera, correcting method, and production method for vehicle using same correcting method
JP2008131250A (en) * 2006-11-20 2008-06-05 Aisin Seiki Co Ltd Correcting device for on-board camera and production method for vehicle using same correcting device
JP4758481B2 (en) * 2007-01-16 2011-08-31 パイオニア株式会社 VEHICLE IMAGE PROCESSING DEVICE AND VEHICLE IMAGE PROCESSING PROGRAM
WO2008087709A1 (en) * 2007-01-16 2008-07-24 Pioneer Corporation Image processing device for vehicle, imaging device for vehicle, image processing program for vehicle, and image adjusting method for vehicle
JPWO2008087707A1 (en) * 2007-01-16 2010-05-06 パイオニア株式会社 VEHICLE IMAGE PROCESSING DEVICE AND VEHICLE IMAGE PROCESSING PROGRAM
WO2008087707A1 (en) * 2007-01-16 2008-07-24 Pioneer Corporation Vehicular image processing device, and vehicular image processing program
WO2008147911A1 (en) * 2007-05-22 2008-12-04 Microsoft Corporation Camera calibration
US7671891B2 (en) 2007-05-22 2010-03-02 Microsoft Corporation Online camera calibration
JP2010173347A (en) * 2009-01-27 2010-08-12 Toyota Motor Corp Optical axis calibration system of in-vehicle camera
JP2010193016A (en) * 2009-02-16 2010-09-02 Ricoh Co Ltd Method and device for support of calibration for onboard camera device, and onboard camera device
JP2010233079A (en) * 2009-03-27 2010-10-14 Aisin Aw Co Ltd Driving support device, driving support method, and driving support program
EP2237224A1 (en) * 2009-03-31 2010-10-06 Aisin Seiki Kabushiki Kaisha Calibrating apparatus for on-board camera of vehicle
WO2010113673A1 (en) * 2009-03-31 2010-10-07 アイシン精機株式会社 Calibration device, method, and program for onboard camera
JP4636346B2 (en) * 2009-03-31 2011-02-23 アイシン精機株式会社 Car camera calibration apparatus, method, and program
US8866904B2 (en) 2009-03-31 2014-10-21 Aisin Seiki Kabushiki Kaisha Calibrating apparatus for on-board camera of vehicle
JP2010239412A (en) * 2009-03-31 2010-10-21 Aisin Seiki Co Ltd Calibration device, method, and program for onboard camera
JP4690476B2 (en) * 2009-03-31 2011-06-01 アイシン精機株式会社 Car camera calibration system
EP2237223A1 (en) * 2009-03-31 2010-10-06 Aisin Seiki Kabushiki Kaisha Calibrating apparatus for on-board camera of vehicle
KR101265012B1 (en) 2009-03-31 2013-05-24 아이신세이끼가부시끼가이샤 Calibration device, method, and program for onboard camera
US8908037B2 (en) 2009-03-31 2014-12-09 Aisin Seiki Kabushiki Kaisha Calibration device, method, and program for on-board camera
US8248471B2 (en) 2009-03-31 2012-08-21 Aisin Seiki Kabushiki Kaisha Calibrating apparatus for on-board camera of vehicle
JP2010239408A (en) * 2009-03-31 2010-10-21 Aisin Seiki Co Ltd Calibrating apparatus for on-board camera of vehicle
US8659660B2 (en) 2009-11-17 2014-02-25 Fujitsu Limited Calibration apparatus and calibration method
US9030561B2 (en) 2010-06-29 2015-05-12 Clarion Co., Ltd. Image calibration method and image calibration device
WO2012002415A1 (en) 2010-06-29 2012-01-05 クラリオン株式会社 Image calibration method and device
WO2012032809A1 (en) 2010-09-06 2012-03-15 アイシン精機株式会社 Driving assistance device
JP2011087308A (en) * 2010-11-25 2011-04-28 Aisin Seiki Co Ltd Device, method, and program for calibration of in-vehicle camera
WO2013038681A1 (en) 2011-09-13 2013-03-21 京セラ株式会社 Camera calibration device, camera, and camera calibration method
JP2013062692A (en) * 2011-09-13 2013-04-04 Kyocera Corp Calibration device and method for on-vehicle camera
CN104159787B (en) * 2012-02-24 2016-05-18 京瓷株式会社 Camera apparatus, camera chain and Camera calibration method
JP2013173452A (en) * 2012-02-24 2013-09-05 Kyocera Corp Calibration processing device, camera calibration device, camera system and camera calibration method
JP2013173453A (en) * 2012-02-24 2013-09-05 Kyocera Corp Calibration processing device, camera calibrating device, camera system and camera calibrating method
WO2013125206A1 (en) * 2012-02-24 2013-08-29 京セラ株式会社 Camera device, camera system, and camera calibration method
CN104159787A (en) * 2012-02-24 2014-11-19 京瓷株式会社 Camera device, camera system, and camera calibration method
CN104247394A (en) * 2012-04-04 2014-12-24 京瓷株式会社 Calibration processor, camera device, camera system, and camera calibration method
JP2013219439A (en) * 2012-04-04 2013-10-24 Kyocera Corp Calibration processing device, camera calibration device, camera system, and camera calibration method
CN104247394B (en) * 2012-04-04 2016-03-02 京瓷株式会社 Correct operation device, camera system, camera chain and Camera calibration method
WO2013150794A1 (en) * 2012-04-04 2013-10-10 京セラ株式会社 Calibration processor, camera device, camera system, and camera calibration method
CN102681533A (en) * 2012-05-15 2012-09-19 北京智华驭新汽车电子技术开发有限公司 Equipment for calibrating, upgrading and detecting LDW (Lane Departure Warning) system
JP2014225819A (en) * 2013-05-17 2014-12-04 京セラ株式会社 Calibration processor, camera calibrator, and camera calibration method
CN106767988A (en) * 2016-11-22 2017-05-31 北京汽车股份有限公司 The caliberating device of road surface data acquisition equipment
CN106767988B (en) * 2016-11-22 2020-02-14 北京汽车股份有限公司 Calibration device of pavement data acquisition equipment
CN113706370A (en) * 2020-05-22 2021-11-26 杭州海康威视数字技术股份有限公司 Image generation method, device and system
CN113706370B (en) * 2020-05-22 2023-08-25 杭州海康威视数字技术股份有限公司 Image generation method, device and system
CN113942458A (en) * 2021-10-29 2022-01-18 禾多科技(北京)有限公司 Control method, device, equipment and medium for vehicle-mounted camera adjusting system
CN113942458B (en) * 2021-10-29 2022-07-29 禾多科技(北京)有限公司 Control method, device, equipment and medium for vehicle-mounted camera adjusting system

Also Published As

Publication number Publication date
JP3551920B2 (en) 2004-08-11

Similar Documents

Publication Publication Date Title
JP3551920B2 (en) In-vehicle camera calibration device and calibration method
US11265514B2 (en) Multi-camera calibration method for a vehicle moving along a vehicle assembly line
US6813371B2 (en) On-vehicle camera calibration device
US10676027B2 (en) Vehicle control apparatus and program
JP4636346B2 (en) Car camera calibration apparatus, method, and program
JP4739569B2 (en) Driving assistance device
JP4751939B2 (en) Car camera calibration system
US9895974B2 (en) Vehicle control apparatus
JP3632563B2 (en) Image positional relationship correction device, steering assist device including the image positional relationship correction device, and image positional relationship correction method
JP4780385B2 (en) Perimeter monitoring system
US8248471B2 (en) Calibrating apparatus for on-board camera of vehicle
JP4238663B2 (en) On-vehicle camera calibration method and calibration apparatus
TWI264682B (en) Video image positional relationship correction apparatus, steering assist apparatus having the video image positional relationship correction apparatus and video image positional relationship correction method
JP5240527B2 (en) Car camera calibration apparatus, method, and program
JP2001245326A5 (en)
WO2011090163A1 (en) Parameter determination device, parameter determination system, parameter determination method, and recording medium
EP3002727B1 (en) Periphery monitoring apparatus and periphery monitoring system
CN110945558B (en) Display control device
JP2012066709A (en) Parking assist system
US20130215280A1 (en) Camera calibration device, camera and camera calibration method
CN110546047A (en) Parking assist apparatus
US8384779B2 (en) Display device for vehicle
JP3882517B2 (en) Parking position setting device
JP2006298217A (en) Vehicle periphery monitoring device
JP2019199150A (en) Towing support device

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20040105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040315

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040406

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040419

R151 Written notification of patent or utility model registration

Ref document number: 3551920

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090514

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100514

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110514

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120514

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120514

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130514

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140514

Year of fee payment: 10

EXPY Cancellation because of completion of term