JP2012167944A - Stereo camera calibration method and device - Google Patents

Stereo camera calibration method and device Download PDF

Info

Publication number
JP2012167944A
JP2012167944A JP2011027080A JP2011027080A JP2012167944A JP 2012167944 A JP2012167944 A JP 2012167944A JP 2011027080 A JP2011027080 A JP 2011027080A JP 2011027080 A JP2011027080 A JP 2011027080A JP 2012167944 A JP2012167944 A JP 2012167944A
Authority
JP
Japan
Prior art keywords
stereo camera
distance
calibration
calibration target
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2011027080A
Other languages
Japanese (ja)
Inventor
Fumiko Sako
史子 酒匂
Soichiro Yokota
聡一郎 横田
Kazunari Abe
一成 安部
Shin Aoki
伸 青木
Tetsuya Sasaki
哲哉 佐々木
Masato Kusanagi
真人 草▲なぎ▼
Yuko Umezawa
優子 梅澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2011027080A priority Critical patent/JP2012167944A/en
Publication of JP2012167944A publication Critical patent/JP2012167944A/en
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a stereo camera that has a plurality of monocular cameras and measures the distance of an object from the parallax of an image picked up by each monocular camera, the stereo camera being configured to improve the calibration accuracy of the stereo camera by accurately measuring the distance from the stereo camera to a calibration target.SOLUTION: The stereo camera comprises two monocular cameras 1 and 2 and a camera stay 3 connecting the monocular cameras. A calibration target 30 is installed in front of the stereo camera and a laser distance member 20 is installed behind the stereo camera. Using the face of the camera stay, which intersects the direction of a calculated distance in perpendicular, as a reference face, the distance L1 of the reference face and the distance L2 of the calibration target are measured by a laser distance meter. Using the fact that the reference face has the known positional relation with the original point of the calculated distance, a distance from the stereo camera to the calibration target is accurately obtained from the measured distances L1 and L2, thereby calibrating a parameter for the stereo camera.

Description

本発明は、物体の距離や位置を測定するのに用いられるステレオカメラに関し、詳しくは、ステレオカメラの内部パラメータや外部パラメータを校正する方法及び装置に関する。   The present invention relates to a stereo camera used for measuring the distance and position of an object, and more particularly to a method and apparatus for calibrating internal parameters and external parameters of a stereo camera.

ステレオカメラの用途の一つに、複数の位置に設置された単眼カメラからの画像を取得し、各単眼カメラにおける像位置の差(視差)を用いて物体の距離や位置を測定する利用法がある。   One of the uses of stereo cameras is to acquire images from monocular cameras installed at multiple positions and measure the distance and position of an object using the difference (parallax) between the image positions of each monocular camera. is there.

近年、環境認識へのニーズが高まっており、例えば自動車にステレオカメラを搭載し、運転手に車間距離や周囲の歩行者の有無などの情報を提供して、運転を支援するシステムが実用化されつつある。そのため、測定範囲の遠距離化や測定の高精度化への要求が高まっている。   In recent years, there has been a growing need for environmental recognition. For example, a system that supports driving by putting a stereo camera in a car and providing information such as the distance between vehicles and the presence or absence of pedestrians to the driver has been put into practical use. It's getting on. For this reason, there is an increasing demand for a long measurement range and high measurement accuracy.

上述のように、ステレオカメラでは、各単眼カメラにおける像位置の差(視差)から距離を求めるが、視差と距離の関係はステレオカメラのパラメータに依存する。ステレオカメラのパラメータには、単眼カメラの画像中心位置や焦点距離などの内部パラメータと、単眼カメラ同士の相対位置・姿勢である外部パラメータとがある。   As described above, in the stereo camera, the distance is obtained from the difference in image position (parallax) between the monocular cameras, but the relationship between the parallax and the distance depends on the parameters of the stereo camera. Stereo camera parameters include internal parameters such as the image center position and focal length of monocular cameras, and external parameters that are relative positions and orientations of monocular cameras.

ステレオカメラのパラメータを同定するために事前に校正(キャリブレーション)が行われる。この校正の精度によって距離測定の精度が左右される。しかし、内部パラメータや外部パラメータは直接測定することが難しいため、一般的には各単眼カメラの撮影画像から各パラメータを推定する。   Calibration (calibration) is performed in advance to identify the parameters of the stereo camera. The accuracy of distance measurement depends on the accuracy of this calibration. However, since it is difficult to directly measure internal parameters and external parameters, each parameter is generally estimated from a captured image of each monocular camera.

例えば、特許文献1では、既知の三次元座標を持つ校正用ターゲットを撮影することで校正を行っている。この場合、校正の精度は校正用ターゲットとカメラの距離の設置精度に依存する。しかし、カメラと校正用ターゲット間の正確な位置関係を測定するのは困難である。   For example, in Patent Document 1, calibration is performed by photographing a calibration target having known three-dimensional coordinates. In this case, the accuracy of calibration depends on the installation accuracy of the distance between the calibration target and the camera. However, it is difficult to measure the exact positional relationship between the camera and the calibration target.

本発明は、複数の単眼カメラを備え、各単眼カメラから撮像された画像の像位置の差から物体の距離を測定するステレオカメラにおいて、ステレオカメラから校正用ターゲットまでの距離を正確に測定できるようにすることで、ステレオカメラの内部パラメータや外部パラメータの校正精度を向上させることを目的とする。   The present invention is a stereo camera that includes a plurality of monocular cameras and measures the distance of an object from the difference in image positions of images taken from the monocular cameras, so that the distance from the stereo camera to the calibration target can be accurately measured. The purpose of this is to improve the calibration accuracy of the internal parameters and external parameters of the stereo camera.

本発明のステレオカメラは、複数の単眼カメラと、該単眼カメラを連結するカメラステイを具備する。該ステレオカメラの前方に校正用ターゲットを設置し、後方にレーザ距離計などの距離測定器を設置し、カメラステイの、算出する距離方向と垂直に交わる面を基準面として、距離測定器により、距離測定器から基準面までの距離L1,及び距離測定器から校正用ターゲットまでの距離L2を測定する。そして、基準面が、算出する距離の原点(ステレオカメラの光学中心)と既知の位置関係にあることを利用して、測定した距離L1,L2から、ステレオカメラから校正用ターゲットまでの距離を求めて、ステレオカメラのパラメータを校正する。
具体的には、物体の距離Zを次式
Z=B*f(d+Δd)
で算出する場合(Bは基線長、fは焦点距離、dは視差、Δdは視差のオフセット)、
ステレオカメラから校正用ターゲットまでの距離の異なる2以上の位置において、ステレオカメラから校正用ターゲットまでの距離を上記のようにして測定すると共に、ステレオカメラで校正用ターゲットを撮影して視差を算出し、測定した距離と視差の2以上の組み合わせから、上記式によりBf値とΔdを算出する。
The stereo camera of the present invention includes a plurality of monocular cameras and a camera stay that connects the monocular cameras. A calibration target is installed in front of the stereo camera, a distance measuring instrument such as a laser distance meter is installed in the rear, and the distance of the camera stay perpendicular to the calculated distance direction is used as a reference plane. The distance L1 from the distance measuring device to the reference plane and the distance L2 from the distance measuring device to the calibration target are measured. Then, using the fact that the reference plane has a known positional relationship with the origin of the distance to be calculated (optical center of the stereo camera), the distance from the stereo camera to the calibration target is obtained from the measured distances L1 and L2. Calibrate the stereo camera parameters.
Specifically, the distance Z of the object is expressed by the following formula: Z = B * f (d 0 + Δd)
(B is the baseline length, f is the focal length, d 0 is the parallax, Δd is the parallax offset),
At two or more positions where the distance from the stereo camera to the calibration target is different, the distance from the stereo camera to the calibration target is measured as described above, and the parallax is calculated by photographing the calibration target with the stereo camera. The Bf value and Δd are calculated by the above formula from a combination of two or more of the measured distance and parallax.

また、ステレオカメラは2つの単眼カメラとし、物体の距離Zを次式
Z=B*f/d
で算出する場合(Bは設計値の基線長、fは設計値の焦点距離、dは視差)
3次元座標が既知の複数の特徴点を有する校正用ターゲットを用いて、ステレオカメラから上記のようにして校正用ターゲットまでの距離を測定すると共に、ステレオカメラで校正用ターゲットを撮影し、
各単眼カメラについて、校正用ターゲット中央を原点とし、水平、垂直方向にそれぞれx,y軸をもつ座標系で、校正用ターゲット上の特徴点の位置(a,b,0)に対応する当該単眼カメラにおける特徴点の理想像位置(i,j)を次式
=(a±B/2)*f/Z
=b*f/Z
で算出して、当該単眼カメラにおける特徴点の実際の像位置(i,j)と前記理想像位置(i,j)の差から、(i,j)に映った像を(i,j)に補正するルックアップテープルを作成する。
Further, the stereo camera is assumed to be two monocular cameras, and the distance Z of the object is expressed by the following formula: Z = B * f 0 / d 0
(B 0 is the base length of the design value, f 0 is the focal length of the design value, and d 0 is the parallax)
Using a calibration target having a plurality of feature points whose three-dimensional coordinates are known, the distance from the stereo camera to the calibration target is measured as described above, and the calibration target is photographed with the stereo camera.
For each monocular camera, the monocular corresponding to the position (a, b, 0) of the feature point on the calibration target in a coordinate system having the center of the calibration target as the origin and the x and y axes in the horizontal and vertical directions, respectively. ideal image position of the feature point in the camera (i 0, j 0) following equation i 0 = (a ± B 0 /2) * f 0 / Z
j 0 = b * f 0 / Z
In is calculated, the actual image position of the feature point in the monocular camera (i, j) from the difference between the ideal image position (i 0, j 0), (i, j) of the image reflected in (i 0 , J 0 ) is created.

本発明によれば、距離測定器を利用して、ステレオカメラから校正用ターゲットまでの距離を正確に測ることができるため、ステレオカメラのパラメータの校正精度が向上し、距離測定を高精度に行うことが可能になる。   According to the present invention, since the distance from the stereo camera to the calibration target can be accurately measured using the distance measuring device, the calibration accuracy of the parameters of the stereo camera is improved, and the distance measurement is performed with high accuracy. It becomes possible.

本発明の実施例1におけるステレオカメラの構成図である。It is a block diagram of the stereo camera in Example 1 of this invention. 実施例1におけるキャリブレーション時の装置構成例を示す図である。FIG. 3 is a diagram illustrating an apparatus configuration example during calibration in the first embodiment. 実施例1のキャリブレーション時の全体的流れを示す図である。FIG. 3 is a diagram illustrating an overall flow at the time of calibration according to the first embodiment. 図2の各部の距離関係を示す図である。It is a figure which shows the distance relationship of each part of FIG. 実施例1におけるキャリブレーション時の処理系のブロック図である。FIG. 3 is a block diagram of a processing system at the time of calibration in the first embodiment. 実施例1の通常使用時の処理系のブロック図である。FIG. 3 is a block diagram of a processing system during normal use according to the first embodiment. 本発明の実施例2におけるステレオカメラの構成図である。It is a block diagram of the stereo camera in Example 2 of this invention. 実施例2におけるキャリブレーション時の装置構成例を示す図である。6 is a diagram illustrating an example of a device configuration during calibration in Embodiment 2. FIG. 実施例2のキャリブレーション時の全体的流れを示す図である。FIG. 10 is a diagram illustrating an overall flow at the time of calibration according to the second embodiment. 図8の各部の距離関係を示す図である。It is a figure which shows the distance relationship of each part of FIG. 校正用ターゲット上の特徴点とステレオカメラ上の特徴点の関係を示す図である。It is a figure which shows the relationship between the feature point on the target for calibration, and the feature point on a stereo camera. 実施例2におけるキャリブレーション時の処理系のブロック図である。10 is a block diagram of a processing system at the time of calibration in Embodiment 2. FIG. 実施例2の通常使用時の処理系のブロック図である。6 is a block diagram of a processing system during normal use according to Embodiment 2. FIG.

以下、本発明の実施の形態について図面を参照して説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

図1は本発明の第一の実施形態(実施例1)におけるステレオカメラの構成を示したもので、図1(a)は分解斜視図、図1(b)は完成時の傾斜図を示している。本ステレオカメラの構成は、2つの単眼カメラ1,2と、これら単眼カメラ1,2を取り付けるカメラステイ3からなる。単眼カメラ1,2は、それぞれ光軸に直交する筐体前面を基準面としてカメラステイ3にネジ等で取りつけられている。カメラステイ3の該単眼カメラ1,2が取り付けられる位置には、それぞれ穴4,5が設けられている。図1中、x,yが基準面、これと垂直に交わるzが距離方向を示している。   FIG. 1 shows the configuration of the stereo camera according to the first embodiment (Example 1) of the present invention. FIG. 1 (a) is an exploded perspective view, and FIG. 1 (b) is a tilted view when completed. ing. The configuration of this stereo camera includes two monocular cameras 1 and 2 and a camera stay 3 to which these monocular cameras 1 and 2 are attached. The monocular cameras 1 and 2 are attached to the camera stay 3 with screws or the like with the front surface of the housing orthogonal to the optical axis as a reference plane. At positions where the monocular cameras 1 and 2 of the camera stay 3 are attached, holes 4 and 5 are provided, respectively. In FIG. 1, x and y are reference planes, and z perpendicular to the reference plane indicates the distance direction.

図1では省略したが、処理系は、各単眼カメラ1,2で撮影された画像を補正処理する画像処理部、該画像処理部が出力する画像を用いて視差を求める視差演算部、該視差をもとに物体距離を算出する距離演算部などからなる。   Although omitted in FIG. 1, the processing system includes an image processing unit that corrects images captured by the monocular cameras 1 and 2, a parallax calculation unit that obtains parallax using an image output from the image processing unit, and the parallax A distance calculation unit for calculating the object distance based on

本実施例では、各単眼カメラ1,2の歪キャリブレーション、基線長を除く外部パラメータのキャリブレーションは既に公知の方法(例えば、Zhang法;“A flexible new technique for camera calibration”IEEE Transactions on Pattern Analysis and Machine Intelligence,22(11):1330-1334,2000)で求められているとする。画像処理部は、キャリブレーションにより求められた内部パラメータや外部パラメータをもとに、各単眼カメラ1,2で撮影された画像を補正する(歪み補正等)。視差演算部は、画像処理部で補正された各単眼カメラ1,2の撮影画像から視差を求め、距離演算部は該視差から物体の距離を計算する。   In this embodiment, distortion calibration of each monocular camera 1 and 2 and calibration of external parameters excluding the baseline length are already known methods (for example, Zhang method; “A flexible new technique for camera calibration” IEEE Transactions on Pattern Analysis). and Machine Intelligence, 22 (11): 1330-1334, 2000). The image processing unit corrects images captured by the monocular cameras 1 and 2 based on internal parameters and external parameters obtained by calibration (distortion correction or the like). The parallax calculator calculates the parallax from the captured images of the monocular cameras 1 and 2 corrected by the image processor, and the distance calculator calculates the distance of the object from the parallax.

ここで、距離Zは式(1)で計算される。
Z=B0*f0/d0 (1)
0は設計値の基線長(カメラの光軸間の長さ)、fは設計値の焦点距離、d0は測定された視差である。
Here, the distance Z is calculated by equation (1).
Z = B 0 * f 0 / d 0 (1)
B 0 is the base length of the design value (the length between the optical axes of the camera), f 0 is the focal length of the design value, and d 0 is the measured parallax.

ところで、実際の焦点距離や基線長は設計値とは異なっている。また、カメラのセンサ(CCDやCMOSセンサ)の理想位置からずれなどの要因により、測定された視差にも誤差がのる。   By the way, the actual focal length and baseline length are different from the design values. Further, due to factors such as deviation from the ideal position of the camera sensor (CCD or CMOS sensor), an error also occurs in the measured parallax.

そのため、実際には、距離Zは次式の
Z=B*f/(d0+Δd) (2)
となる。ここで、Bは実際の基線長、fは実際の焦点距離、Δdは視差のオフセットである。
Therefore, in practice, the distance Z is expressed by the following equation: Z = B * f / (d 0 + Δd) (2)
It becomes. Here, B is the actual baseline length, f is the actual focal length, and Δd is the parallax offset.

ステレオカメラで高精度に測距を行うためには、BF値(Bとfの積)とΔdを事前に校正(キャリブレーション)しておく必要がある。本実施例は、以下のようにしてBf値とΔdを推定する。   In order to perform distance measurement with a stereo camera with high accuracy, it is necessary to calibrate (calibrate) the BF value (product of B and f) and Δd in advance. In this embodiment, the Bf value and Δd are estimated as follows.

図2に、本実施例のステレオカメラのBf値とΔdを推定するためのキャリブレーション装置構成例を示す。図2において、10は図1の構成のステレオカメラ、20はレーザ距離計(距離測定器)、30は校正用ターゲットである。本実施例では、カメラステイ3の背面が単眼カメラ1,2の取り付け面であり、また、基準面である。   FIG. 2 shows a configuration example of a calibration apparatus for estimating the Bf value and Δd of the stereo camera of the present embodiment. In FIG. 2, 10 is a stereo camera configured as shown in FIG. 1, 20 is a laser distance meter (distance measuring device), and 30 is a calibration target. In this embodiment, the back surface of the camera stay 3 is a mounting surface for the monocular cameras 1 and 2 and is a reference surface.

図3に、本実施例のキャリブレーションの全体的流れを示す。また、図4にステレオカメラ10とレーザ距離計20と校正用ターゲット30の各距離関係を示す。   FIG. 3 shows the overall flow of calibration in this embodiment. FIG. 4 shows the distance relationship between the stereo camera 10, the laser distance meter 20, and the calibration target 30.

まず、ステレオカメラ10を構成するカメラステイ3の背面である基準面にミラー15を設置する(ステップ101)。図4に示すように、ミラー15の反射面はステレオカメラ10の後方側に向けられる。ここで、ミラーの両面は平行とみなせるとする。   First, the mirror 15 is installed on the reference plane which is the back surface of the camera stay 3 constituting the stereo camera 10 (step 101). As shown in FIG. 4, the reflecting surface of the mirror 15 is directed to the rear side of the stereo camera 10. Here, it is assumed that both surfaces of the mirror can be regarded as parallel.

次に、レーザ距離計20のレーザ光がミラー15に当たるように、ステレオカメラ10の後方にレーザ距離計20を設置し、基準面とレーザ距離計20の位置を調整する(ステップ102)。ミラー15からの反射光がレーザ距離計20の出射端に戻ってくるよう調整することで、ステレオカメラ10の基準面とレーザ距離計20を直交させ、レーザ距離計20の測定距離方向とステレオカメラ10の測定距離方向を一致させることができる。こうして、レーザ距離計20により、該レーザ距離計20からミラー反射面までの距離L1を測定する(ステップ103)。その後、ミラー15は取り外す。   Next, the laser rangefinder 20 is installed behind the stereo camera 10 so that the laser beam of the laser rangefinder 20 strikes the mirror 15, and the positions of the reference plane and the laser rangefinder 20 are adjusted (step 102). By adjusting the reflected light from the mirror 15 to return to the emission end of the laser distance meter 20, the reference plane of the stereo camera 10 and the laser distance meter 20 are orthogonal to each other, the measurement distance direction of the laser distance meter 20 and the stereo camera Ten measurement distance directions can be matched. Thus, the laser distance meter 20 measures the distance L1 from the laser distance meter 20 to the mirror reflecting surface (step 103). Thereafter, the mirror 15 is removed.

次に、ステレオカメラ10の前方に、レーザ距離計20のレーザ光が当たる位置に校正用ターゲット30を設置する(ステップ104)。本実施例では、基線長、視差のオフセット以外はキャリブレーションされているので、校正用ターゲットが画面内のどこに映っていても視差は一定となる。そのため、校正用ターゲット30は、各単眼カメラ1,2に同時に映る特徴点を1点以上持っていればよい。しかし、特徴点までの距離を正確に測るという点において、レーザ距離計20のレーザ照射位置になるように設置することが望ましい。   Next, the calibration target 30 is placed in front of the stereo camera 10 at a position where the laser light of the laser rangefinder 20 is hit (step 104). In this embodiment, since the calibration is performed except for the base line length and the parallax offset, the parallax is constant no matter where the calibration target appears in the screen. Therefore, the calibration target 30 only needs to have one or more feature points that are simultaneously reflected on the monocular cameras 1 and 2. However, in terms of accurately measuring the distance to the feature point, it is desirable to install the laser distance meter 20 so as to be at the laser irradiation position.

校正用ターゲット30を設置した後、レーザ距離計20で、該レーザ距離計20から校正用ターゲット30までの距離L2を測定する(ステップ105)。そして、距離L1,L2をもとに、ステレオカメラ10の光学中心から校正用ターゲット30までの距離Zを求める(ステップ106)。   After setting the calibration target 30, the laser distance meter 20 measures the distance L2 from the laser distance meter 20 to the calibration target 30 (step 105). Then, based on the distances L1 and L2, a distance Z from the optical center of the stereo camera 10 to the calibration target 30 is obtained (step 106).

ここで、図4より、距離Zは、
Z=L2−L1−t+ΔL (3)
として求められる。tはミラーの厚さ、ΔLは光学中心(測距の原点)と基準面の距離で、いずれも既知であるとする。
Here, from FIG. 4, the distance Z is
Z = L2-L1-t + ΔL (3)
As required. t is the thickness of the mirror, and ΔL is the distance between the optical center (the origin of distance measurement) and the reference plane, both of which are known.

次に、ステレオカメラ10で校正用ターゲット30を撮影する(ステップ107)。そして、各単眼カメラ1,2の撮影画像から校正用ターゲット30の特徴点の視差d0を算出する(ステップ108)。 Next, the calibration target 30 is photographed with the stereo camera 10 (step 107). Then, the parallax d 0 of the feature point of the calibration target 30 is calculated from the captured images of the monocular cameras 1 and 2 (step 108).

その後、ステップ104に戻り、校正用ターゲット30を前回とはステレオカメラ10からの距離が異なる位置に設置して、ステップ105〜108を繰り返す。これを少なくとも、ステレオカメラ10と校正用ターゲット30の距離が互いに異なる2以上の位置について繰り返す(ステップ109)。   Thereafter, returning to step 104, the calibration target 30 is set at a position where the distance from the stereo camera 10 is different from the previous time, and steps 105 to 108 are repeated. This is repeated at least for two or more positions where the distance between the stereo camera 10 and the calibration target 30 is different (step 109).

こうして求まった視差dと距離Zの2つ以上の組みを用いて、式(2)によりBf値とΔdを算出する(ステップ110)。 Using two or more sets of the parallax d 0 and the distance Z obtained in this way, the Bf value and Δd are calculated by the equation (2) (step 110).

本実施例では、ステレオカメラの距離方向に直交する基準面を設けておくことで、レーザ距離計(距離測定器)を利用し、ステレオカメラから校正用ターゲットまでの距離を正確に測ることができる。そのため、ステレオカメラのキャリブレーションとして、Bf値とΔdの推定精度が向上する。   In this embodiment, by providing a reference plane orthogonal to the distance direction of the stereo camera, a distance from the stereo camera to the calibration target can be accurately measured using a laser distance meter (distance measuring device). . Therefore, the estimation accuracy of the Bf value and Δd is improved as calibration of the stereo camera.

図5は、本実施例のキャリブレーション時に適用される処理系のブロック図を示している。ステレオカメラ10の各単眼カメラ1,2は、それぞれ校正用ターゲット30を撮影して撮影画像を出力する。画像処理部1010は、予め求められた内部パラメータや外部パラメータをもとに、各単眼カメラ1,2の撮影画像を補正する(歪み補正等)。視差演算部1020は、画像処理部1010で補正された各単眼カメラ1,2の撮像画像をもとに、校正用ターゲット30の視差dを算出する。視差計算には、例えば周知のパターンマッチング手法を利用する。図3で説明したように、視差d0は、ステレオカメラ10と校正用ターゲット30の距離が互いに異なる2以上の位置についてそれぞれ算出される。 FIG. 5 shows a block diagram of a processing system applied during calibration according to the present embodiment. The monocular cameras 1 and 2 of the stereo camera 10 respectively capture the calibration target 30 and output a captured image. The image processing unit 1010 corrects the captured images of the monocular cameras 1 and 2 based on internal parameters and external parameters obtained in advance (distortion correction and the like). The parallax calculation unit 1020 calculates the parallax d 0 of the calibration target 30 based on the captured images of the monocular cameras 1 and 2 corrected by the image processing unit 1010. For the parallax calculation, for example, a known pattern matching method is used. As described with reference to FIG. 3, the parallax d0 is calculated for each of two or more positions where the distance between the stereo camera 10 and the calibration target 30 is different from each other.

一方、レーザ距離計20により、レーザ距離計20からミラー反射面までの距離L1、レーザ距離計20からの校正用ターゲットまでの距離L2が得られる。距離L2も、ステレオカメラ10と校正用ターゲット30の距離が互いに異なる2以上の位置について取得される。   On the other hand, the distance L1 from the laser distance meter 20 to the mirror reflecting surface and the distance L2 from the laser distance meter 20 to the calibration target are obtained by the laser distance meter 20. The distance L2 is also acquired for two or more positions where the distance between the stereo camera 10 and the calibration target 30 is different from each other.

校正演算部1030は、視差d0、距離L1,L2を入力して、次のようにBf値と視差オフセットΔdを算出する。カメラの光学中心と基準面の距離ΔL、ミラーの厚さtは予め与えられているとする。 The calibration calculation unit 1030 receives the parallax d 0 and the distances L1 and L2, and calculates the Bf value and the parallax offset Δd as follows. It is assumed that the distance ΔL between the optical center of the camera and the reference plane and the mirror thickness t are given in advance.

まず、L1,L2,ΔL,tをもとに、式(3)により、ステレオカメラ10の光学中心から校正用ターゲット30までの距離Zを算出する。これをステレオカメラ10と校正用ターゲット30の距離が互い異なる2以上の位置について繰り返す。なお、距離Zは別途、あらかじめ計算しておくことでもよい。次に、視差d0と距離Zの2つ以上の組み合わせを用いて、式(2)によりBf値とΔdを算出する。具体的には、式(2)にd、Zを代入し、連立方程式を解くことで算出する。算出されたBf値とΔdは、メモリ等に保持しておけばよい。 First, based on L1, L2, ΔL, t, the distance Z from the optical center of the stereo camera 10 to the calibration target 30 is calculated by Equation (3). This is repeated for two or more positions where the distance between the stereo camera 10 and the calibration target 30 is different. The distance Z may be calculated separately in advance. Next, using two or more combinations of the parallax d 0 and the distance Z, the Bf value and Δd are calculated by Expression (2). Specifically, it is calculated by substituting d 0 and Z into equation (2) and solving simultaneous equations. The calculated Bf value and Δd may be stored in a memory or the like.

図6は、本実施例の通常使用時に適用される処理系のブロック図を示している。ここで、画像処理部1010と視差演算部1020はキャリブレーションの場合と兼用することができる。   FIG. 6 shows a block diagram of a processing system applied during normal use of this embodiment. Here, the image processing unit 1010 and the parallax calculation unit 1020 can also be used for calibration.

ステレオカメラ10の各単眼カメラ1,2でそれぞれ被写体を撮影する。画像処理部1010は、各単眼カメラ1,2の撮影画像を補正する(歪み補正等)。視差演算部1020は、画像処理部1010で補正された各単眼カメラ1,2の撮像画像を入力して、周知のパターンマッチング手法等を利用して視差dを算出する。距離演算部1040は、視差演算部1020からの視差d、及び、先のキャリブレーションにより求めたBf値、Δdを入力して、式(2)により、被写体の距離Zを算出する。 A subject is photographed by each of the monocular cameras 1 and 2 of the stereo camera 10. The image processing unit 1010 corrects the captured images of the monocular cameras 1 and 2 (distortion correction or the like). Parallax calculation unit 1020 inputs the captured image of the monocular camera 1 that is corrected by the image processing unit 1010, calculates the parallax d 0 by using the well-known pattern matching method or the like. The distance calculation unit 1040 receives the parallax d 0 from the parallax calculation unit 1020 and the Bf value and Δd obtained by the previous calibration, and calculates the distance Z of the subject using Expression (2).

なお、図5及び図6では、キャリブレーション時の処理系と通常使用時の処理系を別々に示したが、実際には、これらはCPUやメモリ等を用いて一体的に構成されることになる。   5 and 6, the processing system at the time of calibration and the processing system at the time of normal use are shown separately. However, in practice, these are configured integrally using a CPU, a memory, and the like. Become.

図7は本発明の第二の実施形態(実施例2)におけるステレオカメラの構成を示したもので、図7(a)は分解斜視図、図7(b)は完成時の傾斜図を示している。本ステレオカメラの構成は、先の実施例1と同様に、2つの単眼カメラ1,2と、これら単眼カメラ1,2を取り付けるカメラステイ3からなる。カメラステイ3の単眼カメラ1,2が取り付けられる位置には、それぞれ穴4,5が設けられ、さらに、ステレオカメラ位置の基準となる基準穴6がカメラステイ3の中央に、基準面に対して垂直にあけられている。2つの単眼カメラ1,2は、基準穴6に対して左右対称に、また、基準穴6と同じ高さの位置にネジ等で取りつけられている。   FIG. 7 shows the configuration of the stereo camera according to the second embodiment (Example 2) of the present invention. FIG. 7 (a) is an exploded perspective view, and FIG. 7 (b) is a tilted view when completed. ing. As in the first embodiment, the stereo camera has two monocular cameras 1 and 2 and a camera stay 3 to which these monocular cameras 1 and 2 are attached. Holes 4 and 5 are provided at positions where the monocular cameras 1 and 2 of the camera stay 3 are attached, respectively, and a reference hole 6 serving as a reference for the stereo camera position is formed at the center of the camera stay 3 with respect to the reference plane It is opened vertically. The two monocular cameras 1 and 2 are mounted with screws or the like symmetrically with respect to the reference hole 6 and at the same height as the reference hole 6.

処理系は、先の実施例1と同様であり、各単眼カメラ1,2で撮影された画像を補正処理する画像処理部、該画像処理部で補正された各単眼カメラ1,2の撮影画像から視差を算出する視差算出部、該算出された視差により物体の距離を計算する距離計算部などからなる。   The processing system is the same as in the first embodiment, and an image processing unit that performs correction processing on images captured by the monocular cameras 1 and 2 and captured images of the monocular cameras 1 and 2 that are corrected by the image processing unit. A parallax calculation unit that calculates parallax from the distance, a distance calculation unit that calculates the distance of the object based on the calculated parallax, and the like.

本実施例は、カメラの内部パラメータや外部パラメータのキャリブレーションは未実施で、画像処理部において内部パラメータや外部パラメータによるずれを補正するために、3次元座標が既知の複数の特徴点を有する校正用ターゲットを撮影して補正用ルックアップテーブルを作成するものである。   In this embodiment, the calibration of the internal parameters and external parameters of the camera is not performed, and the calibration having a plurality of feature points whose three-dimensional coordinates are known in order to correct the deviation due to the internal parameters or the external parameters in the image processing unit. The correction target lookup table is created by photographing the target.

図8に、本実施例のステレオカメラのキャリブレーション装置構成例を示す。図8において、10は図7の構成のステレオカメラ、20はレーザ距離計、30は校正用ターゲットである。本実施例では、カメラステイ3の背面が単眼カメラ1,2の取り付け面であるが、基準面はカメラステイ前面になる。カメラステイ前面と背面は平行とみなせるものとする。カメラステイ3上の基準穴6の穴径は、レーザ距離計20のレーザ光束系とほぼ同等が少し大きいことが望ましい。校正用ターゲット30は、3次元座標が既知の格子状パターンが描かれた平面とみなせる板材とする。該校正用ターゲット30の中央には中央位置が分かるように特徴点が設けられている。   FIG. 8 shows a configuration example of the calibration apparatus for the stereo camera of the present embodiment. In FIG. 8, 10 is a stereo camera configured as shown in FIG. 7, 20 is a laser distance meter, and 30 is a calibration target. In the present embodiment, the back surface of the camera stay 3 is a mounting surface for the monocular cameras 1 and 2, but the reference surface is the front surface of the camera stay. The front and back of the camera stay can be regarded as parallel. It is desirable that the diameter of the reference hole 6 on the camera stay 3 is substantially the same as that of the laser beam system of the laser distance meter 20 and is slightly larger. The calibration target 30 is a plate material that can be regarded as a plane on which a grid pattern with known three-dimensional coordinates is drawn. A feature point is provided at the center of the calibration target 30 so that the center position can be seen.

図9に、本実施例のキャブリレーションの全体的流れを示す。また、図10にステレオカメラ10とレーザ距離計20と校正用ターゲット30の必要な距離関係を示す。   FIG. 9 shows the overall flow of the calibration in this embodiment. FIG. 10 shows a necessary distance relationship between the stereo camera 10, the laser distance meter 20, and the calibration target 30.

まず、カメラステイ3の中央に、反射面が基準面に接するようにミラー15を設置する(ステップ201)。この時、図10に示すように、基準穴6がミラー15で塞がれる。   First, the mirror 15 is installed in the center of the camera stay 3 so that the reflecting surface is in contact with the reference surface (step 201). At this time, the reference hole 6 is blocked by the mirror 15 as shown in FIG.

次に、ステレオカメラ10の後方にレーザ距離計20を設置する(ステップ202)。この時、レーザ距離計20のレーザ光が基準穴6を通ってミラー15の反射面に入射し、反射光がレーザ出射端に戻ってくるように調整することでステレオカメラ10の基準面とレーザ距離計20を垂直にし、また、ステレオカメラ10とレーザ距離計20の位置を合わせる。こうして、レーザ距離計20で、該レーザ距離計20からミラー反射面(基準面)までの距離L1を測定する(ステップ203)。その後、ミラー15を取り外す。   Next, the laser distance meter 20 is installed behind the stereo camera 10 (step 202). At this time, the laser beam of the laser rangefinder 20 is adjusted so that the laser beam enters the reflecting surface of the mirror 15 through the reference hole 6 and the reflected light returns to the laser emitting end. The distance meter 20 is made vertical, and the stereo camera 10 and the laser distance meter 20 are aligned. Thus, the laser distance meter 20 measures the distance L1 from the laser distance meter 20 to the mirror reflection surface (reference surface) (step 203). Thereafter, the mirror 15 is removed.

次に、ステレオカメラ10の前方に校正用ターゲット30を設置する(ステップ204)。この時、レーザ距離計20のレーザ光がカメラステイ3の基準穴6を通って校正用ターゲット30の中央に当たり、かつ、校正用ターゲット30に垂直に入射するように、校正用ターゲット30を調整する。先に述べたように、校正用ターゲット30には3次元座標が既知のパターン(格子状パターン)が描かれており、中央には中央位置が分かるように特徴点が設けられている。   Next, the calibration target 30 is installed in front of the stereo camera 10 (step 204). At this time, the calibration target 30 is adjusted so that the laser light of the laser rangefinder 20 hits the center of the calibration target 30 through the reference hole 6 of the camera stay 3 and enters the calibration target 30 perpendicularly. . As described above, a pattern (lattice pattern) with known three-dimensional coordinates is drawn on the calibration target 30, and a feature point is provided at the center so that the center position can be seen.

校正用ターゲット30を設置した後、レーザ距離計20で、該レーザ距離計20から校正用ターゲット30までの距離L2を測定する(ステップ205)。そして、距離L1,L2をもとに、ステレオカメラ10の光学中心から校正用ターゲット30までの距離Zを求める(ステップ206)。   After setting the calibration target 30, the laser distance meter 20 measures the distance L2 from the laser distance meter 20 to the calibration target 30 (step 205). Then, based on the distances L1 and L2, a distance Z from the optical center of the stereo camera 10 to the calibration target 30 is obtained (step 206).

図10より、距離Zは
Z=L2−L1+ΔL (4)
として求められる。ΔLは光学中心と基準面の距離で、本実施例でも既知であるとする。本実施例では、ミラー15の厚さを考慮する必要はない。
From FIG. 10, the distance Z is Z = L2−L1 + ΔL (4)
As required. ΔL is the distance between the optical center and the reference surface, and is also known in this embodiment. In this embodiment, it is not necessary to consider the thickness of the mirror 15.

次に、ステレオカメラ10で校正用ターゲット30を撮影する(ステップ207)。そして、撮影して得られた校正用ターゲット30の像位置と理想位置の差からルックアップテーブルを作成する(ステップ208)。   Next, the calibration target 30 is photographed with the stereo camera 10 (step 207). Then, a lookup table is created from the difference between the image position of the calibration target 30 obtained by photographing and the ideal position (step 208).

いま、校正用ターゲット30の中央を原点とし、水平、垂直方向にそれぞれx,y軸を持つ座標系を考える。この場合、校正用ターゲット30上の特徴点(格子点)kが(a,b,0)の位置にあるとき、右の単眼カメラにおける特徴点Kの理想像位置(i,j)は、図11(a),(b)により、
=(a−B/2)*f/Z (5)
=b*f/Z (6)
となる。また、左の単眼カメラにおける特徴点Kの理想位置(i,j)は、同じく図11(a),(b)より、
=(a+B/2)*f/Z (7)
=b*f/Z (8)
となる。ここで、Bは設計値の基線長、fは設計値の焦点距離である。
Now, consider a coordinate system having the center of the calibration target 30 as the origin and having x and y axes in the horizontal and vertical directions, respectively. In this case, when the feature point (grid point) k on the calibration target 30 is at the position (a, b, 0), the ideal image position (i 0 , j 0 ) of the feature point K in the right monocular camera is 11 (a) and 11 (b),
i 0 = (a−B 0/2 ) * f 0 / Z (5)
j 0 = b * f 0 / Z (6)
It becomes. Also, the ideal position (i 0 , j 0 ) of the feature point K in the left monocular camera is also shown in FIGS. 11 (a) and 11 (b).
i 0 = (a + B 0/2 ) * f 0 / Z (7)
j 0 = b * f 0 / Z (8)
It becomes. Here, B 0 is the base length of the design value, and f 0 is the focal length of the design value.

しかしながら、ステレオカメラ10の各単眼カメラ1,2における特徴点kの実際の像位置(i,j)は、焦点距離ずれや歪、基線長のずれ等、各種の要因により、一般に理想像位置(i,j)と一致しない。 However, the actual image position (i, j) of the feature point k in each of the monocular cameras 1 and 2 of the stereo camera 10 is generally an ideal image position (due to various factors such as focal length deviation, distortion, and baseline length deviation). i 0 , j 0 ).

そこで、(i,j)に映った像を(i,j)に補正するルックアップテーブルを作成する。ルックアップテーブルは、各単眼カメラ1,2毎にそれぞれ作成する。 Therefore, a lookup table for correcting the image shown in (i, j) to (i 0 , j 0 ) is created. The lookup table is created for each monocular camera 1 and 2 respectively.

本実施例でも、ステレオカメラの距離方向に直交する基準面を設けておくことで、レーザ距離計(距離測定器)を利用し、ステレオカメラから校正用ターゲットまでの距離を正確に測ることができ、理想位置が高精度に得られる。そのため、校正用ターゲットの像位置と理想像位置の差から作成したルックアップテーブルをもとに、各単眼カメラの画像を理想画像に補正することで、ステレオカメラの距離測定を高精度に行うことができる。   Even in this embodiment, by providing a reference plane orthogonal to the distance direction of the stereo camera, it is possible to accurately measure the distance from the stereo camera to the calibration target using a laser distance meter (distance measuring device). The ideal position can be obtained with high accuracy. Therefore, it is possible to measure the distance of a stereo camera with high accuracy by correcting each monocular camera image to an ideal image based on a lookup table created from the difference between the image position of the calibration target and the ideal image position. Can do.

図12は、本実施例のキャリブレーション時に適用される処理系のブロック図を示している。ステレオカメラ10の各単眼カメラ1,2は、それぞれ校正用ターゲット30を撮影して画像を出力する。画像処理部2010は、デフォルトの内部パラメータや外部パラメータをもとに、各単眼カメラ1,2の撮像画像を補正し、補正画像を出力する。特徴点抽出部2020は、画像処理部2010で補正された各単眼カメラ1,2の撮像画像について、各単眼カメラごとに、校正用ターゲット30の特徴点(格子点)を抽出し、その像位置(i,j)を出力する。特徴点は、校正用ターゲット30における各格子点について抽出して、その像位置を出力する。   FIG. 12 shows a block diagram of a processing system applied at the time of calibration of the present embodiment. The monocular cameras 1 and 2 of the stereo camera 10 respectively shoot the calibration target 30 and output an image. The image processing unit 2010 corrects the captured images of the monocular cameras 1 and 2 based on default internal parameters and external parameters, and outputs a corrected image. The feature point extraction unit 2020 extracts the feature points (grid points) of the calibration target 30 for each monocular camera from the captured images of the monocular cameras 1 and 2 corrected by the image processing unit 2010, and their image positions. (I, j) is output. The feature points are extracted for each lattice point in the calibration target 30 and the image position is output.

LUT演算部2030は、特徴点抽出部2020からの校正用ターゲット30の特徴点(各格子点)に対応する像位置(i,j)、校正用ターゲット30上の特徴点(各格子点)の位置(a,b)、レーザ距離計20で得られた距離L1,L2、カメラの光学中心と基準面の距離ΔL、焦点距離fを入力して、各単眼カメラ1,2毎に以下のようにしてルックアップテーブルを作成する。なお、校正用ターゲット30上の各格子点の位置(a,b)は既知である。 The LUT calculation unit 2030 calculates the image position (i, j) corresponding to the feature points (each grid point) of the calibration target 30 from the feature point extraction unit 2020 and the feature points (each grid point) on the calibration target 30. position (a, b), the distance L1, resulting in the laser rangefinder 20 L2, the distance ΔL of the optical center and the reference plane of the camera, by entering the focal length f 0, the following for each monocular cameras 1 In this way, a lookup table is created. The position (a, b) of each lattice point on the calibration target 30 is known.

ここでは、右の単眼カメラについて説明する。まず、L1,L2,ΔLをもとに、式(4)により、ステレオカメラ10の光学中心から校正用ターゲット30までの距離Zを算出する。なお、距離Zは別途、あらかじめ計算しておくことでもよい。次に、校正用ターゲット30上の、ある格子点の位置(a,b)について、右の単眼カメラにおける該格子点の理想像位置(i,j)を、式(5),(6)により算出する。次に、当該格子点について、校正用ターゲット30の像位置(i,j)と理想像位置(i,j)の差を求め、(i,j)に映った像を(i,j)に補正する補正量とする。この補正量を、校正用ターゲット30の各格子点について求める。そして、各格子点の補正量をもとに、線型補間などにより各画素の補正量を計算することで、右の単眼カメラのルックアップテーブルが完成する。同様にして、右の単眼カメラのルックアップテーブルを作成する。作成したルックアップテーブルはメモリ等に保持する。 Here, the right monocular camera will be described. First, based on L1, L2, and ΔL, the distance Z from the optical center of the stereo camera 10 to the calibration target 30 is calculated by Equation (4). The distance Z may be calculated separately in advance. Next, with respect to the position (a, b) of a certain lattice point on the calibration target 30, the ideal image position (i 0 , j 0 ) of the lattice point in the right monocular camera is expressed by equations (5), (6 ). Next, the difference between the image position (i, j) of the calibration target 30 and the ideal image position (i 0 , j 0 ) is obtained for the lattice point, and the image reflected in (i, j) is determined as (i 0 , The correction amount is corrected to j 0 ). This correction amount is obtained for each lattice point of the calibration target 30. Then, based on the correction amount of each grid point, the correction amount of each pixel is calculated by linear interpolation or the like, thereby completing the lookup table for the right monocular camera. Similarly, a lookup table for the right monocular camera is created. The created lookup table is held in a memory or the like.

図13は、本実施例の通常使用時に適用される処理系のブロック図を示している。ステレオカメラ10の各単眼カメラ1,2で、それぞれ被写体を撮影する。画像処理部2010は、各単眼カメラ1,2の撮影画像について、それぞれルックアップテーブルを用いて補正する。すなわち、画素単位に、被写体の(i,j)に映った像を(i,j)に補正する。視差演算部2040は、画像処理部2010から出力される各単眼カメラ1,2の補正画像(理想画像)を入力して、周知のパターンマッチング手法等により視差dを算出する。距離演算部2050は、視差演算部2040からの視差d、及び、設計値の基線長B、設計値の焦点距離fを入力して、式(1)により、被写体の距離Zを算出する。 FIG. 13 shows a block diagram of a processing system applied during normal use of this embodiment. The subjects are photographed by the monocular cameras 1 and 2 of the stereo camera 10, respectively. The image processing unit 2010 corrects the captured images of the monocular cameras 1 and 2 using a lookup table. That is, the image of the subject shown at (i, j) is corrected to (i 0 , j 0 ) in units of pixels. Parallax calculation unit 2040 inputs the corrected image of each monocular cameras 1 and 2 which is output from the image processing unit 2010 (ideal image), and calculates the parallax d 0 by a well-known pattern matching method or the like. The distance calculation unit 2050 receives the parallax d 0 from the parallax calculation unit 2040, the base length B 0 of the design value, and the focal length f 0 of the design value, and calculates the distance Z of the subject using Expression (1). To do.

本実施例では、ルックアップテーブルをもとに、画像処理部2010が各単眼カメラ1,2の撮像画像を理想画像に補正するため、Bf値や視差のオフセットΔdなどを求めることなく、被写体の距離Zが高精度に得られる。   In this embodiment, since the image processing unit 2010 corrects the captured images of the monocular cameras 1 and 2 to ideal images based on the lookup table, the Bf value and the parallax offset Δd are not obtained and the subject image is obtained. The distance Z can be obtained with high accuracy.

なお、本実施例においても、実際には、図12及び図13の処理系はCPUやメモリ等を用いて一体的に構成されることになる。   In the present embodiment as well, in practice, the processing systems of FIGS. 12 and 13 are integrally configured using a CPU, a memory, and the like.

以上、本発明の実施の形態について説明したが、本発明は図示の構成に限られるものではない。例えば、単眼カメラは3つ以上でもよい。この場合、2つの単眼カメラの取りうる組み合わせについてそれぞれキャリブレーションを行って、その平均をとるなどすればよい。   The embodiment of the present invention has been described above, but the present invention is not limited to the illustrated configuration. For example, three or more monocular cameras may be used. In this case, each of the combinations that can be taken by the two monocular cameras may be calibrated and averaged.

1,2 単眼カメラ
3 カメラステイ
6 基準穴
10 ステレオカメラ
15 ミラー
20 レーザ距離計(距離測定器)
30 校正用ターゲット
1010 画像処理部
1020 視差演算部
1030 校正演算部
1040 距離演算部
2010 画像処理部
2020 特徴点抽出部
2030 LUT演算部
2040 視差演算部
2050 距離演算部
1, 2 Monocular camera 3 Camera stay 6 Reference hole 10 Stereo camera 15 Mirror 20 Laser distance meter (distance measuring device)
30 Target for calibration 1010 Image processing unit 1020 Parallax calculation unit 1030 Calibration calculation unit 1040 Distance calculation unit 2010 Image processing unit 2020 Feature point extraction unit 2030 LUT calculation unit 2040 Parallax calculation unit 2050 Distance calculation unit

特開2006−90756号公報JP 2006-90756 A

Claims (7)

複数の単眼カメラと、前記単眼カメラを連結するカメラステイと、複数の単眼カメラからの撮像画像を補正する画像処理部と、前記画像処理部からの補正画像から視差を算出する視差演算部と、前記視差を利用して物体の距離を算出する距離演算部を備えるステレオカメラのパラメータを校正する方法であって、
ステレオカメラの前方に校正用ターゲットを設置し、ステレオカメラの後方に距離測定器を設置し、
前記カメラステイの、算出する距離方向と垂直に交わる面を基準面として、前記距離測定器により、距離測定器から基準面までの距離L1及び距離測定器から校正用ターゲットまでの距離L2を測定し、
前記基準面が、算出する距離の原点と既知の位置関係にあることを利用して、前記測定した距離L1,L2から、ステレオカメラから校正用ターゲットまでの距離を求めることで、ステレオカメラのパラメータを校正することを特徴とするステレオカメラ校正方法。
A plurality of monocular cameras, a camera stay that connects the monocular cameras, an image processing unit that corrects captured images from the monocular cameras, and a parallax calculation unit that calculates parallax from the corrected images from the image processing unit; A method of calibrating parameters of a stereo camera including a distance calculation unit that calculates the distance of an object using the parallax,
A calibration target is installed in front of the stereo camera, a distance measuring device is installed behind the stereo camera,
A distance L1 from the distance measuring device to the reference surface and a distance L2 from the distance measuring device to the calibration target are measured by the distance measuring device using a surface perpendicular to the calculated distance direction of the camera stay as a reference surface. ,
By using the fact that the reference plane has a known positional relationship with the origin of the distance to be calculated, the distance from the stereo camera to the calibration target is obtained from the measured distances L1 and L2, and the parameters of the stereo camera are obtained. Stereo camera calibration method characterized by calibrating
請求項1に記載のステレオカメラ校正方法において、
距離測定器にレーザ距離計を使用し、基準面とレーザ距離計のレーザ光が直交するように調整することを特徴とするステレオカメラ校正方法。
The stereo camera calibration method according to claim 1,
A stereo camera calibration method characterized in that a laser distance meter is used as a distance measuring device and the reference surface and the laser light of the laser distance meter are adjusted to be orthogonal to each other.
請求項1又は2に記載のステレオカメラ校正方法において、
物体の距離Zは次式
Z=B*f(d+Δd)
ここで、Bは基線長、fは焦点距離、dは視差、Δdは視差のオフセット
で算出する場合であって、
ステレオカメラから校正用ターゲットまでの距離の異なる2以上の位置において、ステレオカメラから校正用ターゲットまでの距離を測定すると共に、ステレオカメラで校正用ターゲットを撮影して視差を算出し、前記距離と視差の2以上の組み合わせから、前記式によりBf値とΔdを算出することを特徴とするステレオカメラ校正方法。
The stereo camera calibration method according to claim 1 or 2,
The distance Z of the object is
Z = B * f (d 0 + Δd)
Here, B is a baseline length, f is a focal length, d 0 is a parallax, and Δd is a parallax offset,
The distance from the stereo camera to the calibration target is measured at two or more positions where the distance from the stereo camera to the calibration target is different, and the parallax is calculated by photographing the calibration target with the stereo camera. A stereo camera calibration method, wherein the Bf value and Δd are calculated from the combination of two or more of the above by the above formula.
請求項1又は2に記載のステレオカメラ校正方法において、
ステレオカメラは2つの単眼カメラを有し、
物体の距離Zを次式
Z=B*f/d
ここで、Bは設計値の基線長、fは設計値の焦点距離、dは視差、
で算出する場合であって、
3次元座標が既知の複数の特徴点を有する校正用ターゲットを用いて、ステレオカメラから前記校正用ターゲットまでの距離を測定すると共に、ステレオカメラで前記校正用ターゲットを撮影し、
各単眼カメラについて、校正用ターゲット中央を原点とし、水平、垂直方向にそれぞれx,y軸をもつ座標系で、校正用ターゲット上の特徴点の位置(a,b,0)に対応する当該単眼カメラにおける特徴点の理想像位置(i,j)を次式
=(a±B/2)*f/Z
=b*f/Z
で算出して、当該単眼カメラにおける特徴点の実際の像位置(i,j)と前記理想像位置(i,j)の差から、(i,j)に映った像を(i,j)に補正するルックアップテープルを作成することを特徴とするステレオカメラ校正方法。
The stereo camera calibration method according to claim 1 or 2,
A stereo camera has two monocular cameras,
The distance Z of the object is
Z = B 0 * f 0 / d 0
Here, B 0 is the baseline length of the design value, f 0 is the focal length of the design value, d 0 is the parallax,
Where
Using a calibration target having a plurality of feature points with known three-dimensional coordinates, measuring the distance from the stereo camera to the calibration target, and photographing the calibration target with the stereo camera,
For each monocular camera, the monocular corresponding to the position (a, b, 0) of the feature point on the calibration target in a coordinate system having the center of the calibration target as the origin and the x and y axes in the horizontal and vertical directions, respectively. ideal image position of the feature point in the camera (i 0, j 0) following equation i 0 = (a ± B 0 /2) * f 0 / Z
j 0 = b * f 0 / Z
In is calculated, the actual image position of the feature point in the monocular camera (i, j) from the difference between the ideal image position (i 0, j 0), (i, j) of the image reflected in (i 0 , J 0 ), a lookup table for correction is created.
請求項3に記載のステレオカメラ校正方法を実施するステレオカメラ校正装置であって、
ステレオカメラから校正用ターゲットまでの距離の異なる2以上の位置にて、ステレオカメラで校正用ターゲットを撮影した画像からそれぞれ視差を算出する手段と、
ステレオカメラから校正用ターゲットまで距離の異なる2以上の位置にてそれぞれ測定された、ステレオカメラから校正用ターゲットまでの距離と、前記算出された視差を入力して、Bf値とΔdを算出する手段と、
を有することを特徴とするステレオカメラ校正装置。
A stereo camera calibration apparatus for performing the stereo camera calibration method according to claim 3,
Means for calculating parallax from images obtained by photographing the calibration target with the stereo camera at two or more positions at different distances from the stereo camera to the calibration target;
Means for calculating the Bf value and Δd by inputting the distance from the stereo camera to the calibration target and the calculated parallax respectively measured at two or more different positions from the stereo camera to the calibration target. When,
Stereo camera calibration device characterized by comprising:
請求項5に記載のステレオカメラ校正装置において、
前記校正用ターゲットを撮影した画像から視差を算出する手段は、画像処理部からの補正画像から視差を算出する視差演算部が兼ねることを特徴とするステレオカメラ校正装置。
The stereo camera calibration device according to claim 5,
The stereo camera calibration apparatus characterized in that the means for calculating the parallax from the image obtained by photographing the calibration target also serves as a parallax calculation unit for calculating the parallax from the corrected image from the image processing unit.
請求項4に記載のステレオカメラ校正方法を実施するステレオカメラ校正装置であって、
ステレオカメラで校正用ターゲットを撮影した画像から、各単眼カメラごとに特徴点の像位置(i,j)を抽出する手段と、
各単眼カメラについて、前記抽出された校正用ターゲット上の特徴点の像位置(i,j)、校正用ターゲット上の特徴点の位置(a,b)、焦点距離f、ステレオカメラから校正用ターゲットまでの距離Zを入力して、当該単眼カメラにおける特徴点の理想像位置(i,j)を算出し、像位置(i,j)と理想像位置(i,j)の差からルックアップテーブルを作成する手段と、
を有することを特徴とするステレオカメラ校正装置。
A stereo camera calibration apparatus for performing the stereo camera calibration method according to claim 4,
Means for extracting an image position (i, j) of a feature point for each monocular camera from an image obtained by photographing a calibration target with a stereo camera;
For each monocular camera, the extracted image position (i, j) of the feature point on the calibration target, the position (a, b) of the feature point on the calibration target, the focal length f 0 , and the calibration from the stereo camera By inputting the distance Z to the target, the ideal image position (i 0 , j 0 ) of the feature point in the monocular camera is calculated, and the image position (i, j) and the ideal image position (i 0 , j 0 ) A means of creating a lookup table from the differences;
Stereo camera calibration device characterized by comprising:
JP2011027080A 2011-02-10 2011-02-10 Stereo camera calibration method and device Withdrawn JP2012167944A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011027080A JP2012167944A (en) 2011-02-10 2011-02-10 Stereo camera calibration method and device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011027080A JP2012167944A (en) 2011-02-10 2011-02-10 Stereo camera calibration method and device

Publications (1)

Publication Number Publication Date
JP2012167944A true JP2012167944A (en) 2012-09-06

Family

ID=46972266

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011027080A Withdrawn JP2012167944A (en) 2011-02-10 2011-02-10 Stereo camera calibration method and device

Country Status (1)

Country Link
JP (1) JP2012167944A (en)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014052335A (en) * 2012-09-10 2014-03-20 Ricoh Co Ltd Image processor and stereo camera device
EP2818826A1 (en) 2013-06-27 2014-12-31 Ricoh Company, Ltd. Distance measuring apparatus, vehicle and method of calibration in distance measuring apparatus
WO2015115669A1 (en) * 2014-01-28 2015-08-06 Ricoh Company, Limited Calibration method and measurement tool
CN105698737A (en) * 2016-01-29 2016-06-22 深圳市美好幸福生活安全系统有限公司 System and method for calibrating safety pre-warning products
JP2019053072A (en) * 2013-06-27 2019-04-04 株式会社リコー Distance measurement device, vehicle, and calibration method of distance measurement device
CN109634279A (en) * 2018-12-17 2019-04-16 武汉科技大学 Object positioning method based on laser radar and monocular vision
JP2019074535A (en) * 2014-01-28 2019-05-16 株式会社リコー Calibration method, calibration device and program
US10546381B2 (en) 2015-11-06 2020-01-28 Fujifilm Corporation Information processing device, information processing method, and program
TWI712310B (en) * 2019-11-15 2020-12-01 大陸商南京深視光點科技有限公司 Detection method and detection system for calibration quality of stereo camera
US20210033467A1 (en) * 2018-04-17 2021-02-04 Autel Inteligent Technology Corp., Ltd. Calibration apparatus, system and method for in-vehicle camera
CN113129386A (en) * 2020-12-23 2021-07-16 合肥工业大学 Intelligent calibration method for internal and external parameters of binocular camera based on coding plane target
CN114152190A (en) * 2021-11-15 2022-03-08 苏州铸正机器人有限公司 Industrial camera precision and working space test platform
CN114279334A (en) * 2021-12-01 2022-04-05 淮阴工学院 Optical calibrator and method of use
CN114415464A (en) * 2021-12-30 2022-04-29 歌尔光学科技有限公司 Optical axis calibration device and system
EP4064698A1 (en) 2021-03-22 2022-09-28 Ricoh Industrial Solutions Inc. Stereo camera device
WO2024058009A1 (en) * 2022-09-16 2024-03-21 ソニーセミコンダクタソリューションズ株式会社 Information processing device, information processing method, and program

Cited By (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014052335A (en) * 2012-09-10 2014-03-20 Ricoh Co Ltd Image processor and stereo camera device
US9866819B2 (en) 2013-06-27 2018-01-09 Ricoh Company, Ltd. Distance measuring apparatus, vehicle and method of calibration in distance measuring apparatus
EP2818826A1 (en) 2013-06-27 2014-12-31 Ricoh Company, Ltd. Distance measuring apparatus, vehicle and method of calibration in distance measuring apparatus
JP2015028469A (en) * 2013-06-27 2015-02-12 株式会社リコー Distance measuring device, vehicle, and calibration method of distance measuring device
JP2019053072A (en) * 2013-06-27 2019-04-04 株式会社リコー Distance measurement device, vehicle, and calibration method of distance measurement device
JP2020030221A (en) * 2014-01-28 2020-02-27 株式会社リコー Calibration method, calibration device, measuring instrument, and program
US10972716B2 (en) 2014-01-28 2021-04-06 Ricoh Company, Limited Calibration method and measurement tool
CN108921906B (en) * 2014-01-28 2022-09-02 株式会社理光 Calibration method and measuring tool
KR101893180B1 (en) 2014-01-28 2018-08-29 가부시키가이샤 리코 Calibration method and measuring tool
CN108921906A (en) * 2014-01-28 2018-11-30 株式会社理光 calibration method and measuring tool
JP2016006406A (en) * 2014-01-28 2016-01-14 株式会社リコー Calibration method, calibration device, measuring instrument and program
KR20160103076A (en) * 2014-01-28 2016-08-31 가부시키가이샤 리코 Calibration method and measuring tool
US10277887B2 (en) 2014-01-28 2019-04-30 Ricoh Company, Limited Calibration method and measurement tool
JP2019074535A (en) * 2014-01-28 2019-05-16 株式会社リコー Calibration method, calibration device and program
WO2015115669A1 (en) * 2014-01-28 2015-08-06 Ricoh Company, Limited Calibration method and measurement tool
US10546381B2 (en) 2015-11-06 2020-01-28 Fujifilm Corporation Information processing device, information processing method, and program
US11727585B2 (en) 2015-11-06 2023-08-15 Fujifilm Corporation Information processing device, information processing method, and program
US11074705B2 (en) 2015-11-06 2021-07-27 Fujifilm Corporation Information processing device, information processing method, and program
CN105698737A (en) * 2016-01-29 2016-06-22 深圳市美好幸福生活安全系统有限公司 System and method for calibrating safety pre-warning products
US20210033467A1 (en) * 2018-04-17 2021-02-04 Autel Inteligent Technology Corp., Ltd. Calibration apparatus, system and method for in-vehicle camera
CN109634279B (en) * 2018-12-17 2022-08-12 瞿卫新 Object positioning method based on laser radar and monocular vision
CN109634279A (en) * 2018-12-17 2019-04-16 武汉科技大学 Object positioning method based on laser radar and monocular vision
TWI712310B (en) * 2019-11-15 2020-12-01 大陸商南京深視光點科技有限公司 Detection method and detection system for calibration quality of stereo camera
CN113129386B (en) * 2020-12-23 2022-07-29 合肥工业大学 Intelligent calibration method for internal and external parameters of binocular camera based on coding plane target
CN113129386A (en) * 2020-12-23 2021-07-16 合肥工业大学 Intelligent calibration method for internal and external parameters of binocular camera based on coding plane target
EP4064698A1 (en) 2021-03-22 2022-09-28 Ricoh Industrial Solutions Inc. Stereo camera device
US11805234B2 (en) 2021-03-22 2023-10-31 Ricoh Industrial Solutions Inc. Stereo camera device
CN114152190A (en) * 2021-11-15 2022-03-08 苏州铸正机器人有限公司 Industrial camera precision and working space test platform
CN114152190B (en) * 2021-11-15 2023-10-24 苏州铸正机器人有限公司 Industrial camera precision and working space test platform
CN114279334A (en) * 2021-12-01 2022-04-05 淮阴工学院 Optical calibrator and method of use
CN114415464A (en) * 2021-12-30 2022-04-29 歌尔光学科技有限公司 Optical axis calibration device and system
CN114415464B (en) * 2021-12-30 2024-03-08 歌尔光学科技有限公司 Optical axis calibration device and system
WO2024058009A1 (en) * 2022-09-16 2024-03-21 ソニーセミコンダクタソリューションズ株式会社 Information processing device, information processing method, and program

Similar Documents

Publication Publication Date Title
JP2012167944A (en) Stereo camera calibration method and device
CN111243002A (en) Monocular laser speckle projection system calibration and depth estimation method applied to high-precision three-dimensional measurement
US9734419B1 (en) System and method for validating camera calibration in a vision system
KR102085228B1 (en) Imaging processing method and apparatus for calibrating depth of depth sensor
US8120755B2 (en) Method of correcting a volume imaging equation for more accurate determination of a velocity field of particles in a volume
JP6041513B2 (en) Image processing apparatus, image processing method, and program
CN109827521B (en) Calibration method for rapid multi-line structured optical vision measurement system
WO2011013301A1 (en) Position and orientation calibration method and apparatus
JP2017139612A (en) On-vehicle camera calibration system
ES2894935T3 (en) Three-dimensional distance measuring apparatus and method therefor
JP2012189324A (en) Stereo camera
JP3913901B2 (en) Camera internal parameter determination device
JP2015049200A (en) Measuring device, measuring method, and measuring program
KR101597163B1 (en) Method and camera apparatus for calibration of stereo camera
JPWO2016135856A1 (en) Three-dimensional shape measurement system and measurement method thereof
Belhedi et al. Non-parametric depth calibration of a tof camera
JP2013050352A (en) Method of adjusting installation of stereo camera, and stereo camera
CN105678088B (en) A kind of adjustment optimization algorithm of target gauge head
WO2019087253A1 (en) Stereo camera calibration method
US20210256729A1 (en) Methods and systems for determining calibration quality metrics for a multicamera imaging system
JP2007225403A (en) Adjustment mechanism of distance measuring apparatus and stereoscopic shape recognition system provided with it
JP2014202661A (en) Range finder
EP3217191B1 (en) Distance measuring apparatus and method for measuring a distance
JP6241083B2 (en) Imaging apparatus and parallax detection method
JP2024501731A (en) Speed measurement method and speed measurement device using multiple cameras

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20130801

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20130826

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20130826

A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20140513