WO2023058348A1 - 撮像装置及び視差ずれ補正方法 - Google Patents

撮像装置及び視差ずれ補正方法 Download PDF

Info

Publication number
WO2023058348A1
WO2023058348A1 PCT/JP2022/031763 JP2022031763W WO2023058348A1 WO 2023058348 A1 WO2023058348 A1 WO 2023058348A1 JP 2022031763 W JP2022031763 W JP 2022031763W WO 2023058348 A1 WO2023058348 A1 WO 2023058348A1
Authority
WO
WIPO (PCT)
Prior art keywords
parallax
pattern
image
calculated
imaging unit
Prior art date
Application number
PCT/JP2022/031763
Other languages
English (en)
French (fr)
Inventor
直也 多田
真穂 堀永
裕史 大塚
Original Assignee
日立Astemo株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日立Astemo株式会社 filed Critical 日立Astemo株式会社
Publication of WO2023058348A1 publication Critical patent/WO2023058348A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B19/00Cameras
    • G03B19/02Still-picture cameras
    • G03B19/04Roll-film cameras
    • G03B19/07Roll-film cameras having more than one objective
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Definitions

  • the present invention relates to an imaging device and a parallax shift correction method.
  • This application claims priority based on Japanese Patent Application No. 2021-164217 filed on October 5, 2021, the contents of which are incorporated herein.
  • an in-vehicle stereo camera mounted on a vehicle is known as an imaging device.
  • the in-vehicle stereo camera performs image processing using the corresponding calibration parameters, acquires parallax images, and can measure the distance to the subject using the acquired parallax images. Widely used in support systems.
  • the in-vehicle stereo camera is installed inside the vehicle so that it can capture images of the surroundings of the vehicle through the windshield, so the distortion of the windshield causes a shift in parallax. If there is this parallax deviation, the distance to the subject cannot be measured correctly, and the driving support system may not operate correctly. Therefore, in order to generate an accurate parallax image, it is necessary to calibrate the optical axis (in other words, correct the parallax deviation) after mounting the stereo camera on the vehicle. Calibration is roughly divided into two types. One is calibration in which a chart is placed in front of a stereo camera and executed in a static environment. The other is calibration performed in a dynamic environment such as driving on a public road.
  • a chart is installed in front of the vehicle (that is, in front of the stereo camera), and the ideal parallax value calculated from the installation distance of the chart and the value of the parallax image captured by the stereo camera.
  • a correct parallax value is obtained by correcting the difference between .
  • images taken with and without the windshield are compared with a chart placed in front of the vehicle to determine the Disclosed is a method for correctly correcting parallax misalignment.
  • the present invention has been made to solve such technical problems, and it is an object of the present invention to provide an imaging apparatus and a method for correcting parallax deviation that can correctly correct parallax deviation even when there is a chart installation deviation. aim.
  • An imaging apparatus is an imaging apparatus that is arranged at a known distance, captures an image of a chart having a first pattern and a second pattern, and corrects a parallax shift, comprising: a first imaging unit; a second imaging unit arranged at a position a certain distance from the imaging unit; an image of the first pattern captured by the first imaging unit; and an image of the first pattern captured by the second imaging unit.
  • a first parallax calculation unit that calculates a first parallax based on, and a first pattern image captured by the first imaging unit and a second pattern image captured by the second imaging unit Based on the second parallax calculation unit that calculates the second parallax, and based on the first parallax calculated by the first parallax calculation unit and the second parallax calculated by the second parallax calculation unit, the second and a correction unit that corrects a parallax shift between the first imaging unit and the second imaging unit.
  • the correcting section performs the first imaging section and the second imaging section based on the first parallax calculated by the first parallax calculating section and the second parallax calculated by the second parallax calculating section. Since the parallax deviation between the positions is corrected, even if the chart is misaligned, the parallax deviation can be corrected without being affected by the chart misalignment. As a result, it is possible to correctly correct the parallax deviation even when the chart is misaligned.
  • parallax deviation can be correctly corrected even when there is a chart installation deviation.
  • FIG. 1 is a block diagram showing an imaging device according to an embodiment
  • FIG. FIG. 10 is a diagram showing an example of a chart used for correcting parallax deviation
  • It is process drawing which shows the parallax deviation correction method using an imaging device.
  • FIG. 10 is an image diagram for explaining calculation of the first parallax
  • FIG. 10 is an image diagram for explaining calculation of a second parallax
  • FIG. 10 is a diagram showing the relationship between the amount of parallax deviation and the amount of placement deviation of the chart;
  • the imaging device 10 of the present embodiment includes, for example, a stereo camera arranged in the vehicle interior of an automobile. and measures the distance to the recognition object based on the captured image.
  • a stereo camera arranged in the vehicle interior of an automobile. and measures the distance to the recognition object based on the captured image.
  • the distance measurement principle of the stereo camera will be described based on FIG.
  • B (mm) is the distance (so-called base line length) between a pair of left and right cameras that constitute a stereo camera
  • f (mm) is the focal length of the lenses of the pair of left and right cameras
  • an image sensor for example CMOS device
  • the pixel pitch is ⁇ (mm/pixel)
  • the horizontal position of the center of the captured image is cx (pixel)
  • the recognition object i.e., subject
  • P (X, Z) in front of the camera is set to each of the pair of cameras.
  • xl (pixels) and xr (pixels) are the horizontal positions when projected onto the CMOS surface
  • xl and xr can be expressed by the following equations, respectively.
  • parallax d pixel
  • the distance Z (mm) to the recognition object P can be calculated by the following formula (4).
  • FIG. 2 is a block diagram showing the imaging device according to the embodiment.
  • the imaging device 10 of the present embodiment includes a pair of left and right imaging units (first imaging unit 11 and second imaging unit 12), first parallax calculation unit 13, second parallax calculation unit 14, and correction unit 15. .
  • the first image pickup unit 11 and the second image pickup unit 12 are arranged horizontally apart from each other by a base line length, and are each configured by an image pickup device such as a CMOS device.
  • the first parallax calculation unit 13 calculates the first parallax based on the image captured by the first imaging unit 11 and the image captured by the second imaging unit. Specifically, the first parallax calculation unit 13 uses the image captured by the first imaging unit 11 as a reference image, and extracts feature points having gradation changes. Next, the first parallax calculator 13 uses the image captured by the other second imaging unit 12 as a reference image for the extracted feature points, and searches for the position where the same subject appears in the reference image. do. Template matching such as SAD (Sum of Absolute Difference) can be used for the search. Then, the first parallax calculator 13 calculates the difference between the extracted feature point and the position where the feature point is reflected in the reference image as the first parallax.
  • SAD Sud of Absolute Difference
  • the second parallax calculation unit 14 calculates the second parallax based on the image captured by the first imaging unit 11 and the image captured by the second imaging unit 12 . Specifically, the second parallax calculation unit 14 uses the image captured by the first imaging unit 11 as a reference image, and extracts feature points with variations in gradation. Next, the second parallax calculation unit 14 uses the image captured by the other second imaging unit 12 as a reference image for the extracted feature points, and places the extracted feature points in another position of the same pattern, for example, in the reference image. Search for the position where a certain subject is reflected. Template matching such as SAD can be used for the search. Then, the second parallax calculation unit 14 calculates the difference between the extracted feature point and the reflected position on the reference image as the second parallax.
  • the correction unit 15 Based on the first parallax calculated by the first parallax calculation unit 13 and the second parallax calculated by the second parallax calculation unit 14, the correction unit 15 corrects the difference between the first imaging unit 11 and the second imaging unit 12. corrects the parallax shift between the first imaging unit 11 and the second imaging unit 12.
  • the image capturing apparatus 10 having such a structure captures an image of the chart having the first pattern and the second pattern with the first image capturing unit 11 and the second image capturing unit 12, and captures the image. Based on the image, the parallax shift between the first imaging unit 11 and the second imaging unit 12 in the baseline length direction (that is, the horizontal direction) is corrected.
  • FIG. 3 is a diagram showing an example of a chart used for parallax deviation correction.
  • the left side is a plan view of the chart
  • the right side is a front view of the chart.
  • the chart 20 is, for example, a flat plate having a constant thickness, and is placed at a known distance Z from the imaging device 10 . Then, when there is no installation deviation of the chart 20, the installation distance of the chart 20 with respect to the imaging device 10 (that is, the distance from the imaging device 10 to the chart 20) is equal to the known distance Z.
  • a predetermined pattern (here, a checkered pattern) is provided on the main surface of the chart 20 facing the imaging device 10 .
  • the adjacent black squares be the first pattern 21 and the second pattern 22, respectively, and the distance between the first pattern 21 and the second pattern 22 in the horizontal direction be ⁇ X.
  • the pattern provided on the chart 20 is not limited to the checkered pattern, and may be circular or the like as long as the characteristic points can be detected.
  • the parallax deviation correction method of this embodiment includes a chart imaging step S1, a first parallax calculation step S2, a second parallax calculation step S3, an installation deviation amount calculation step S4, an installation distance calculation step S5, and a parallax deviation correction step S6.
  • the installation displacement amount calculation step S4, the installation distance calculation step S5, and the parallax displacement correction step S6 constitute the "correction step" described in the claims.
  • the first imaging unit 11 and the second imaging unit 12 image the chart 20 installed in front of the imaging device 10 .
  • the first parallax calculation unit 13 performs a to calculate the first parallax.
  • the first parallax calculation unit 13 uses the image of the first pattern 21 captured by the first imaging unit 11 as a reference image and the image of the first pattern 21 captured by the second imaging unit 12 as a reference image, A first parallax is calculated by template matching. Specifically, as shown in FIG. 5, the first parallax calculation unit 13 calculates the position of the first pattern 21 on the image captured by the first imaging unit 11 and the position of the first pattern 21 in the base line length direction (that is, the horizontal direction). 2 Calculate the difference from the position of the first pattern 21 on the image captured by the imaging unit 12 as the first parallax.
  • the second parallax calculation unit 14 performs a to calculate the second parallax. That is, unlike the first parallax calculation unit 13, the second parallax calculation unit 14 uses captured images of different patterns for calculating parallax.
  • the second parallax is calculated by template matching.
  • the second parallax calculation unit 14 calculates the position of the first pattern 21 on the image captured by the first imaging unit 11 and the position of the first pattern 21 in the base line length direction (that is, the horizontal direction). 2 Calculate the difference from the position of the second pattern 22 on the image captured by the imaging unit 12 as the second parallax.
  • the above formula (2) becomes the formula (5)
  • the above formula (3) becomes the formula (6).
  • the second parallax is the parallax of the baseline length (B+ ⁇ X) (in other words, the parallax when the baseline length is shifted by ⁇ X).
  • ⁇ X is the distance between the first pattern 21 and the second pattern 22 in the chart. Since the second parallax is calculated by template matching, a detection error is added. From the viewpoint of reducing the influence of this detection error, it is desirable that the value of ⁇ X is large.
  • the correction unit 15 calculates the installation deviation amount of the chart 20 using the first parallax and the second parallax. For example, in the case where the installation distance of the chart 20 has an installation deviation amount ⁇ Z in relation to the above equation (3), a parallax deviation amount ⁇ d occurs as shown in the following equation (7).
  • FIG. 7 is a diagram showing the relationship between the parallax deviation amount and the chart installation deviation amount.
  • the horizontal axis indicates the installation deviation amount of the chart 20
  • the vertical axis indicates the parallax deviation amount between the first imaging unit 11 and the second imaging unit 12 .
  • the difference D in FIG. 7 is the difference between the baseline length (B+ ⁇ X) and the baseline length B, and the value of the difference D is a different value for each amount of installation deviation. Therefore, the difference D can be calculated using the first parallax and the second parallax, and the installation deviation amount can be obtained based on the calculated difference D.
  • the installation distance of the chart 20 is determined as a constant value (that is, a known distance)
  • a conversion table or a first-order approximation formula is set in advance so that the value of the difference D is the input value and the installation deviation amount is the output value. By doing so, the amount of installation deviation can be easily obtained.
  • the difference D is the amount of parallax shift when the base line length is B (hereinafter simply referred to as the "parallax shift amount of the base line length B") and the parallax shift amount when the base line length is (B + ⁇ X) (hereinafter simply referred to as the "base line It is the difference between the length (B + ⁇ X) and the parallax deviation amount.
  • the parallax shift amount of the base length B is obtained by substituting the installation distance (known distance) of the chart 20 into the equation (3) and the first parallax calculated in step S2 (in other words, the first parallax calculation This is the difference from the first parallax (see FIG. 5) calculated by the unit 13 .
  • the parallax deviation amount of the baseline length (B+ ⁇ X) is the parallax obtained by substituting the installation distance (known distance) of the chart 20 into the equation (6) and the second parallax calculated in step S3 (in other words, This is the difference from the second parallax (see FIG. 6) calculated by the second parallax calculator 14 .
  • the correction unit 15 calculates the relationship between the installation deviation amount and the parallax deviation amount shown in FIG. Using this, the installation deviation amount of the chart 20 is calculated.
  • the correction unit 15 calculates the installation distance of the chart 20. Specifically, the correction unit 15 calculates the installation distance of the chart 20 by adding the installation deviation amount calculated in step S ⁇ b>4 to the installation distance (known distance) of the chart 20 .
  • the correcting unit 15 first calculates the ideal parallax at the installation distance with the amount of installation deviation taken into account, based on the installation distance of the chart 20 calculated in step S5 and the above equation (4). do. Subsequently, the correction unit 15 calculates the parallax shift amount between the first imaging unit 11 and the second imaging unit 12 based on the calculated ideal parallax and the first parallax calculated in step S2. Subsequently, the correction unit 15 corrects the parallax shift between the first imaging unit 11 and the second imaging unit 12 based on the calculated parallax shift amount.
  • the correction unit 15 corrects the first imaging unit 11 and the second parallax calculated by the second parallax calculation unit 14 based on the first parallax calculated by the first parallax calculation unit 13 and the second parallax calculation unit 14 . Since the parallax shift with the second imaging unit 12 is corrected, even if the chart 20 is misaligned, the parallax shift can be corrected without being affected by the misalignment of the chart 20 . is. As a result, even if the chart 20 is misaligned, the parallax misalignment can be correctly corrected.
  • the parallax deviation correction method using the imaging device 10 even when the chart 20 is misaligned, the parallax deviation can be correctly corrected.
  • the first pattern 21 and the second pattern 22 have the same pattern in step S3 described above, the first pattern 21 and the second pattern 22 may have different patterns.
  • the second parallax calculation unit 14 first captures a template image of the first pattern 21 prepared in advance as a reference image by the first imaging unit 11 . Using the image of the first pattern 21 obtained as a reference image, the position (coordinate position, for example) of the first pattern 21 on the image is detected by template matching. Subsequently, the second parallax calculation unit 14 uses a template image of the second pattern 22 prepared in advance as a reference image and an image of the second pattern 22 captured by the second imaging unit 12 as a reference image.
  • the positions (coordinate positions, for example) of the two patterns 22 on the image are detected. Subsequently, the second parallax calculator 14 calculates the difference between the detected position of the first pattern 21 on the image and the detected position of the second pattern 22 on the image as the second parallax. In this way, the second parallax can be calculated using the first pattern 21 and the second pattern 22 having different patterns.
  • the imaging device 10 when the correction unit 15 calculates the amount of parallax shift between the first imaging unit 11 and the second imaging unit 12, the imaging device 10 notifies the operator of the amount of parallax shift. It may be configured to further have a notification function.

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Measurement Of Optical Distance (AREA)
  • Studio Devices (AREA)
  • Cameras In General (AREA)

Abstract

撮像装置10は、一定距離離れた位置に配置された第1撮像部11及び第2撮像部12、第1撮像部11により撮像された第1パターン21の画像と第2撮像部12により撮像された第1パターン21の画像とに基づいて第1視差を算出する第1視差算出部13、第1撮像部11により撮像された第1パターン21の画像と第2撮像部12により撮像された第2パターン22の画像とに基づいて第2視差を算出する第2視差算出部14、及び、第1視差と第2視差とに基づいて第1撮像部11と第2撮像部12との間の視差ずれを補正する補正部15を備える。

Description

撮像装置及び視差ずれ補正方法
 本発明は、撮像装置及び視差ずれ補正方法に関する。
 本願は、2021年10月5日に出願された日本国特願2021-164217号に基づき優先権を主張し、その内容をここに援用する。
 撮像装置として、例えば車両に搭載された車載ステレオカメラが知られている。車載ステレオカメラは、それに対応したキャリブレーションパラメータによって画像処理を行い、視差画像を取得し、取得した視差画像を用いて被写体までの距離を計測することができるので、衝突被害軽減ブレーキ機能などの運転支援システムに広く用いられている。
 車載ステレオカメラは、フロントガラス越しに車両の周囲を撮像できるように車室内に設置されるので、フロントガラスの歪みの影響を受けて視差のずれが生じてしまう。この視差ずれがあると、被写体までの距離を正しく計測できず、運転支援システムが正しく動作しない可能性がある。このため、正確な視差画像を生成するために、ステレオカメラを車両に搭載した後に光軸をキャリブレーションする(言い換えれば、視差ずれを補正する)必要がある。キャリブレーションには、大別して2種類に分けられ、1つは、チャートをステレオカメラの前方に設置し、静的な環境で実施するキャリブレーションである。もう1つは、公道を走行中などの動的な環境で実施するキャリブレーションである。
 静的な環境で実施するキャリブレーションは、車両の前方(すなわち、ステレオカメラの前方)にチャートを設置し、チャートの設置距離から計算した視差の理想値とステレオカメラで撮像した視差画像の値との差分を補正することで、正しい視差値を取得する。それに関する技術として、例えば特許文献1には、車両の前方に配置したチャートに対し、フロントガラスのある状態とフロントガラスのない状態とで撮像した画像を比較することで、フロントガラスの歪みに起因する視差ずれを正しく補正する方法が開示されている。
特開2015-169583号公報
 しかし、チャートの設置距離(すなわち、ステレオカメラからチャートまでの距離)に誤差があった場合(言い換えれば、チャートの設置ずれがあった場合)、上記の補正方法では視差ずれを正しく補正することができなくなる問題が生じる。
 本発明は、このような技術課題を解決するためになされたものであって、チャートの設置ずれがあった場合においても、視差ずれを正しく補正できる撮像装置及び視差ずれ補正方法を提供することを目的とする。
 本発明に係る撮像装置は、既知距離に配置されるとともに第1パターン及び第2パターンを有するチャートを撮像し、視差ずれの補正を行う撮像装置であって、第1撮像部と、前記第1撮像部から一定距離離れた位置に配置された第2撮像部と、前記第1撮像部により撮像された前記第1パターンの画像と前記第2撮像部により撮像された前記第1パターンの画像とに基づいて、第1視差を算出する第1視差算出部と、前記第1撮像部により撮像された前記第1パターンの画像と前記第2撮像部により撮像された前記第2パターンの画像とに基づいて、第2視差を算出する第2視差算出部と、前記第1視差算出部により算出された第1視差と前記第2視差算出部により算出された第2視差とに基づいて、前記第1撮像部と前記第2撮像部との間の視差ずれを補正する補正部と、を備えることを特徴としている。
 本発明に係る撮像装置では、補正部は第1視差算出部により算出された第1視差と第2視差算出部により算出された第2視差とに基づいて第1撮像部と第2撮像部との間の視差ずれを補正するので、仮にチャートの設置ずれがあった場合であっても、チャートの設置ずれによる影響を受けずに視差ずれを補正することが可能である。その結果、チャートの設置ずれがあった場合においても、視差ずれを正しく補正することができる。
 本発明によれば、チャートの設置ずれがあった場合においても、視差ずれを正しく補正することができる。
ステレオカメラの測距原理を説明するための図である。 実施形態に係る撮像装置を示すブロック図である。 視差ずれの補正に用いられるチャートの一例を示す図である。 撮像装置を用いた視差ずれ補正方法を示す工程図である。 第1視差の算出を説明するためのイメージ図である。 第2視差の算出を説明するためのイメージ図である。 視差ずれ量とチャートの設置ずれ量との関係を示す図である。
 以下、図面を参照して本発明に係る撮像装置及び視差ずれ補正方法の実施形態について説明する。以下の説明において、左右の方向及び位置、水平方向及び水平位置は、撮像装置が搭載された車両から見たものとする。
 本実施形態の撮像装置10は、例えば自動車の車室内に配置されたステレオカメラを備えるものであって、一定距離離れた状態で配置された左右一対のカメラでフロントガラス越しに車両前方の認識物体を撮像し、撮像した画像に基づき認識物体までの距離を測定するための装置である。ここで、図1を基にステレオカメラの測距原理を説明する。
 図1に示すように、ステレオカメラを構成する左右一対のカメラの間の距離(いわゆる基線長)をB(mm)、左右一対のカメラのレンズの焦点距離をf(mm)、撮像素子(例えばCMOS素子)の画素ピッチをδ(mm/pixel)、撮影画像中心の水平位置をそれぞれcx(pixel)、カメラ前方にある認識物体(すなわち、被写体)P(X,Z)を一対のカメラのそれぞれのCMOS面に投影したときの水平位置をxl(pixel)、xr(pixel)としたとき、xl及びxrはそれぞれ以下の式で表すことができる。
Figure JPOXMLDOC01-appb-M000001
 左右の投影位置の差分(xl-xr)を視差d(pixel)と呼ぶ。従って、視差dは以下の式(3)で求めることができる。
Figure JPOXMLDOC01-appb-M000002
 そして、認識物体Pまでの距離Z(mm)は以下の式(4)で算出することができる。
Figure JPOXMLDOC01-appb-M000003
 図2は実施形態に係る撮像装置を示すブロック図である。本実施形態の撮像装置10は、左右一対の撮像部(第1撮像部11、第2撮像部12)、第1視差算出部13、第2視差算出部14、及び補正部15を備えている。第1撮像部11と第2撮像部12は、水平方向に基線長の距離だけ離れて配置されており、CMOS素子などの撮像素子によりそれぞれ構成されている。
 第1視差算出部13は、第1撮像部11により撮像された画像と第2撮像部により撮像された画像とに基づいて、第1視差を算出する。具体的には、第1視差算出部13は、第1撮像部11により撮像された画像を基準画像とし、濃淡変化がある特徴点を抽出する。次に、第1視差算出部13は、抽出した特徴点に対し、もう一方の第2撮像部12により撮像された画像を参照画像としつつ、該参照画像において同一被写体の映り込んだ位置を探索する。探索には、例えばSAD(Sum of Absolute Difference)などのテンプレートマッチングを利用することができる。そして、第1視差算出部13は、抽出した特徴点と参照画像上の映り込んだ位置との差分を第1視差として算出する。
 第2視差算出部14は、第1撮像部11により撮像された画像と第2撮像部12により撮像された画像とに基づいて、第2視差を算出する。具体的には、第2視差算出部14は、第1撮像部11により撮像された画像を基準画像とし、濃淡変化がある特徴点を抽出する。次に、第2視差算出部14は、抽出した特徴点に対し、もう一方の第2撮像部12により撮像された画像を参照画像としつつ、該参照画像において、例えば同一模様の別の位置にある被写体の映り込んだ位置を探索する。探索には、例えばSADなどのテンプレートマッチングを利用することができる。そして、第2視差算出部14は、抽出した特徴点と参照画像上の映り込んだ位置との差分を第2視差として算出する。
 補正部15は、第1視差算出部13により算出された第1視差と第2視差算出部14により算出された第2視差とに基づいて、第1撮像部11と第2撮像部12との間の視差ずれを補正する。
 このような構造を有する撮像装置10は、既知距離に配置されるとともに第1パターン及び第2パターンを有するチャートに対し、第1撮像部11及び第2撮像部12でチャートを撮像し、撮像した画像に基づいて、基線長方向(すなわち、左右方向)における第1撮像部11と第2撮像部12との間の視差ずれの補正を行う。
 図3は視差ずれの補正に用いられるチャートの一例を示す図である。図3において、左側はチャートの平面図、右側はチャートの正面図である。図3に示すように、チャート20は、例えば一定の厚さを有する平板であり、撮像装置10から既知距離Zから離れた位置に設置されている。そして、チャート20の設置ずれがない場合、撮像装置10に対するチャート20の設置距離(すなわち、撮像装置10からチャート20までの距離)は既知距離Zと等しい。
 チャート20の撮像装置10に面する主面には、所定のパターン(ここでは、市松模様)が設けられている。ここで、隣接する黒の正方形同士をそれぞれ第1パターン21と第2パターン22とし、水平方向における第1パターン21と第2パターン22との距離をΔXとする。なお、チャート20に設けられたパターンは、市松模様に限らず、特徴点を検出できるものであれば良く、円形などであってもよい。
 以下、図4を基に撮像装置10を用いた視差ずれ補正方法を説明する。本実施形態の視差ずれ補正方法は、チャート撮像ステップS1、第1視差算出ステップS2、第2視差算出ステップS3、設置ずれ量算出ステップS4、設置距離算出ステップS5、及び視差ずれ補正ステップS6を含む。なお、設置ずれ量算出ステップS4、設置距離算出ステップS5、及び視差ずれ補正ステップS6は、特許請求の範囲に記載の「補正ステップ」を構成する。
 チャート撮像ステップS1では、第1撮像部11及び第2撮像部12は、撮像装置10の前方に設置されたチャート20を撮像する。
 第1視差算出ステップS2では、第1視差算出部13は、第1撮像部11により撮像された第1パターン21の画像と第2撮像部12により撮像された第1パターン21の画像とに基づいて、第1視差を算出する。
 このとき、第1視差算出部13は、第1撮像部11により撮像された第1パターン21の画像を基準画像、第2撮像部12により撮像された第1パターン21の画像を参照画像とし、テンプレートマッチングにより第1視差を算出する。具体的には、第1視差算出部13は図5に示すように、基線長方向(すなわち、左右方向)における、第1撮像部11により撮像された画像上の第1パターン21の位置と第2撮像部12により撮像された画像上の第1パターン21の位置との差分を第1視差として算出する。
 第2視差算出ステップS3では、第2視差算出部14は、第1撮像部11により撮像された第1パターン21の画像と第2撮像部12により撮像された第2パターン22の画像とに基づいて、第2視差を算出する。すなわち、第2視差算出部14は、第1視差算出部13と異なって、視差の算出に異なるパターンの撮像画像を用いる。
 図3に示すように第1パターン21及び第2パターン22が同一模様であるため、このとき、第2視差算出部14は、第1撮像部11により撮像された第1パターン21の画像を基準画像、第2撮像部12により撮像された第2パターン22の画像を参照画像とし、テンプレートマッチングにより第2視差を算出する。
 具体的には、第2視差算出部14は図6に示すように、基線長方向(すなわち、左右方向)における、第1撮像部11により撮像された画像上の第1パターン21の位置と第2撮像部12により撮像された画像上の第2パターン22の位置との差分を第2視差として算出する。第2視差を算出する際、上記式(2)は式(5)となり、上記式(3)は式(6)となる。そして、式(6)より、第2視差は基線長(B+ΔX)の視差(言い換えれば、基線長をΔXずらしたときの視差)となることが分かる。
Figure JPOXMLDOC01-appb-M000004
 上述のように、ΔXは、チャート内における第1パターン21と第2パターン22との間の距離である。テンプレートマッチングにより第2視差を算出するため、検出誤差が乗ってしまう。この検出誤差の影響を軽減する観点から、ΔXの値は大きい方が望ましい。
 設置ずれ量算出ステップS4では、補正部15は、第1視差及び第2視差を用いてチャート20の設置ずれ量を算出する。上記式(3)に対し、例えばチャート20の設置距離に設置ずれ量ΔZが発生した場合、下記式(7)に示すように、視差ずれ量Δdが生じる。
Figure JPOXMLDOC01-appb-M000005
 チャート20の設置距離が一定値(例えば既知距離Z)である場合、チャート20の設置ずれ量(ΔZ)と、第1撮像部11と第2撮像部12との視差ずれ量(Δd)との関係は図7に示す通りとなる。図7は、視差ずれ量とチャートの設置ずれ量との関係を示す図である。図7において、横軸にチャート20の設置ずれ量、縦軸に第1撮像部11と第2撮像部12との視差ずれ量をそれぞれ示す。
 図7に示すように、設置ずれ量が同一である場合に、基線長Bと基線長(B+ΔX)で比較すると、基線長の長さに応じて視差ずれ量が異なることが分かる。図7中の差分Dとは、基線長(B+ΔX)と基線長Bの差分によるものであって、差分Dの値の大きさは、設置ずれ量毎に異なる値となる。そこで、第1視差及び第2視差を用いて差分Dを算出し、算出した差分Dに基づいて設置ずれ量を求めることができる。そして、チャート20の設置距離を一定値(すなわち、既知距離)として決まっている場合、差分Dの値を入力値として設置ずれ量が出力値となるように、変換テーブル又は一次近似式を予め設定することで、設置ずれ量を容易に求めることができる。
 差分Dは、基線長がBである場合の視差ずれ量(以下、単に「基線長Bの視差ずれ量」という)と基線長が(B+ΔX)である場合の視差ずれ量(以下、単に「基線長(B+ΔX)の視差ずれ量」という)との差である。基線長Bの視差ずれ量は、チャート20の設置距離(既知距離)を式(3)に代入して得られた視差と、ステップS2で算出された第1視差(言い換えれば、第1視差算出部13により算出された第1視差(図5参照))との差である。一方、基線長(B+ΔX)の視差ずれ量は、チャート20の設置距離(既知距離)を式(6)に代入して得られた視差と、ステップS3で算出された第2視差(言い換えれば、第2視差算出部14により算出された第2視差(図6参照))との差である。
 そして、差分Dが分かれば、補正部15は上述したように、該差分Dに基づき、図7に示す設置ずれ量と視差ずれ量との関係、又は予め設定された変換テーブル若しくは一次近似式を利用し、チャート20の設置ずれ量を算出する。
 設置距離算出ステップS5では、補正部15は、チャート20の設置距離を算出する。具体的には、補正部15は、チャート20の設置距離(既知距離)にステップS4で算出された設置ずれ量を加味することで、チャート20の設置距離を算出する。
 視差ずれ補正ステップS6では、補正部15は、まず、ステップS5で算出されたチャート20の設置距離と上記式(4)とに基づいて、設置ずれ量を加味した設置距離時の理想視差を算出する。続いて、補正部15は、算出した理想視差とステップS2で算出された第1視差とに基づいて、第1撮像部11と第2撮像部12との間の視差ずれ量を算出する。続いて、補正部15は、算出した視差ずれ量に基づいて、第1撮像部11と第2撮像部12との間の視差ずれを補正する。
 本実施形態の撮像装置10では、補正部15は第1視差算出部13により算出された第1視差と第2視差算出部14により算出された第2視差とに基づいて第1撮像部11と第2撮像部12との間の視差ずれを補正するので、仮にチャート20の設置ずれがあった場合であっても、チャート20の設置ずれによる影響を受けずに視差ずれを補正することが可能である。その結果、チャート20の設置ずれがあった場合においても、視差ずれを正しく補正することができる。
 また、撮像装置10を用いた視差ずれ補正方法によれば、チャート20の設置ずれがあった場合においても、視差ずれを正しく補正することができる。
 なお、上述のステップS3において、第1パターン21と第2パターン22とが同一模様である例を説明したが、第1パターン21と第2パターン22とは異なる模様であってもよい。第1パターン21と第2パターン22とが異なる模様である場合、第2視差算出部14は、まず、予め用意された第1パターン21のテンプレート画像を基準画像、第1撮像部11により撮像された第1パターン21の画像を参照画像とし、テンプレートマッチングにより第1パターン21の画像上の位置(例えば座標位置)を検出する。続いて、第2視差算出部14は、予め用意された第2パターン22のテンプレート画像を基準画像、第2撮像部12により撮像された第2パターン22の画像を参照画像とし、テンプレートマッチングにより第2パターン22の画像上の位置(例えば座標位置)を検出する。続いて、第2視差算出部14は、検出した第1パターン21の画像上の位置と検出した第2パターン22の画像上の位置との差分を第2視差として算出する。このようにすれば、異なる模様を有する第1パターン21及び第2パターン22を用いて第2視差を算出することができる。
 また、上記の実施形態において、撮像装置10が車室内に配置されてフロントガラス越しにチャート20を撮像する例を挙げて説明したが、撮像装置10は、フロントガラスなどの透明体を介さない状態でチャート20を撮像する場合にも適用することができる。
 また、上記の実施形態において、補正部15が第1撮像部11と第2撮像部12との間の視差ずれ量を算出したとき、撮像装置10は、その視差ずれ量をオペレーターに知らせるための報知機能を更に有するように構成されてもよい。
 以上、本発明の実施形態について詳述したが、本発明は、上述の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の精神を逸脱しない範囲で、種々の設計変更を行うことができるものである。
10:撮像装置、11:第1撮像部、12:第2撮像部、13:第1視差算出部、14:第2視差算出部、15:補正部、20:チャート、21:第1パターン、22:第2パターン

Claims (14)

  1.  既知距離に配置されるとともに第1パターン及び第2パターンを有するチャートを撮像し、視差ずれの補正を行う撮像装置であって、
     第1撮像部と、
     前記第1撮像部から一定距離離れた位置に配置された第2撮像部と、
     前記第1撮像部により撮像された前記第1パターンの画像と前記第2撮像部により撮像された前記第1パターンの画像とに基づいて、第1視差を算出する第1視差算出部と、
     前記第1撮像部により撮像された前記第1パターンの画像と前記第2撮像部により撮像された前記第2パターンの画像とに基づいて、第2視差を算出する第2視差算出部と、
     前記第1視差算出部により算出された第1視差と前記第2視差算出部により算出された第2視差とに基づいて、前記第1撮像部と前記第2撮像部との間の視差ずれを補正する補正部と、
    を備えることを特徴とする撮像装置。
  2.  前記補正部は、前記第1視差算出部により算出された第1視差と、前記第2視差算出部により算出された第2視差と、前記既知距離に基づいて算出された視差とに基づいて前記チャートの設置ずれ量を算出し、算出した前記チャートの設置ずれ量と前記既知距離とに基づいて前記チャートの設置距離を算出し、算出した前記チャートの設置距離に基づいて前記第1撮像部と前記第2撮像部との間の視差ずれを補正する請求項1に記載の撮像装置。
  3.  前記補正部は、前記第1視差算出部により算出された第1視差と、前記第2視差算出部により算出された第2視差と、前記既知距離に基づいて算出された視差とに基づいて視差ずれ量の差分を算出し、算出した視差ずれ量の差分と予め設定された視差ずれ量とチャートの設置ずれ量との関係とに基づいて、前記チャートの設置ずれ量を算出する請求項2に記載の撮像装置。
  4.  前記補正部は、算出した前記チャートの設置距離と、前記第1視差算出部により算出された第1視差とに基づいて、前記第1撮像部と前記第2撮像部との間の視差ずれ量を算出し、算出した視差ずれ量に基づいて前記第1撮像部と前記第2撮像部との間の視差ずれを補正する請求項2に記載の撮像装置。
  5.  前記第1視差算出部は、前記第1撮像部により撮像された前記第1パターンの画像を基準画像、前記第2撮像部により撮像された前記第1パターンの画像を参照画像とし、テンプレートマッチングにより前記第1視差を算出する請求項1に記載の撮像装置。
  6.  前記第1パターンと前記第2パターンとが同一模様である場合、
     前記第2視差算出部は、前記第1撮像部により撮像された前記第1パターンの画像を基準画像、前記第2撮像部により撮像された前記第2パターンの画像を参照画像とし、テンプレートマッチングにより前記第2視差を算出する請求項1に記載の撮像装置。
  7.  前記第1パターンと前記第2パターンとが異なる模様である場合、
     前記第2視差算出部は、
     予め用意された前記第1パターンのテンプレート画像を基準画像、前記第1撮像部により撮像された前記第1パターンの画像を参照画像とし、テンプレートマッチングにより前記第1パターンの画像上の位置を検出し、
     予め用意された前記第2パターンのテンプレート画像を基準画像、前記第2撮像部により撮像された前記第2パターンの画像を参照画像とし、テンプレートマッチングにより前記第2パターンの画像上の位置を検出し、
     検出した前記第1パターンの画像上の位置と検出した前記第2パターンの画像上の位置との差分を前記第2視差として算出する請求項1に記載の撮像装置。
  8.  既知距離に配置されるとともに第1パターン及び第2パターンを有するチャートを用いて、撮像装置の視差ずれを補正する視差ずれ補正方法であって、
     前記撮像装置に一定距離離れた位置に配置された第1撮像部及び第2撮像部を用いて前記チャートを撮像するチャート撮像ステップと、
     前記第1撮像部により撮像された前記第1パターンの画像と前記第2撮像部により撮像された前記第1パターンの画像とに基づいて、第1視差を算出する第1視差算出ステップと、
     前記第1撮像部により撮像された前記第1パターンの画像と前記第2撮像部により撮像された前記第2パターンの画像とに基づいて、第2視差を算出する第2視差算出ステップと、
     前記第1視差算出ステップで算出された第1視差と前記第2視差算出ステップで算出された第2視差とに基づいて、前記第1撮像部と前記第2撮像部との間の視差ずれを補正する補正ステップと、
    を含むことを特徴とする視差ずれ補正方法。
  9.  前記補正ステップは、
     前記第1視差算出ステップで算出された第1視差と、前記第2視差算出ステップで算出された第2視差と、前記既知距離に基づいて算出された視差とに基づいて、前記チャートの設置ずれ量を算出する設置ずれ量算出ステップと、
     前記設置ずれ量算出ステップで算出された前記チャートの設置ずれ量と前記既知距離とに基づいて、前記チャートの設置距離を算出する設置距離算出ステップと、
     前記設置距離算出ステップで算出された前記チャートの設置距離に基づいて、前記第1撮像部と前記第2撮像部との間の視差ずれを補正する視差ずれ補正ステップと、
    を有する請求項8に記載の視差ずれ補正方法。
  10.  前記設置ずれ量算出ステップにおいて、前記第1視差算出ステップで算出された第1視差と、前記第2視差算出ステップで算出された第2視差と、前記既知距離に基づいて算出された視差とに基づいて視差ずれ量の差分を算出し、算出した視差ずれ量の差分と予め設定された視差ずれ量とチャートの設置ずれ量との関係とに基づいて、前記チャートの設置ずれ量を算出する請求項9に記載の視差ずれ補正方法。
  11.  前記視差ずれ補正ステップにおいて、前記設置距離算出ステップで算出された前記チャートの設置距離と、前記第1視差算出ステップで算出された第1視差とに基づいて、前記第1撮像部と前記第2撮像部との間の視差ずれ量を算出し、算出した視差ずれ量に基づいて前記第1撮像部と前記第2撮像部との間の視差ずれを補正する請求項9に記載の視差ずれ補正方法。
  12.  前記第1視差算出ステップにおいて、前記第1撮像部により撮像された前記第1パターンの画像を基準画像、前記第2撮像部により撮像された前記第1パターンの画像を参照画像とし、テンプレートマッチングにより前記第1視差を算出する請求項8に記載の視差ずれ補正方法。
  13.  前記第1パターンと前記第2パターンとが同一模様である場合、
     前記第2視差算出ステップにおいて、前記第1撮像部により撮像された前記第1パターンの画像を基準画像、前記第2撮像部により撮像された前記第2パターンの画像を参照画像とし、テンプレートマッチングにより前記第2視差を算出する請求項8に記載の視差ずれ補正方法。
  14.  前記第1パターンと前記第2パターンとが異なる模様である場合、
     前記第2視差算出ステップにおいて、
     予め用意された前記第1パターンのテンプレート画像を基準画像、前記第1撮像部により撮像された前記第1パターンの画像を参照画像とし、テンプレートマッチングにより前記第1パターンの画像上の位置を検出し、
     予め用意された前記第2パターンのテンプレート画像を基準画像、前記第2撮像部により撮像された前記第2パターンの画像を参照画像とし、テンプレートマッチングにより前記第2パターンの画像上の位置を検出し、
     検出した前記第1パターンの画像上の位置と検出した前記第2パターンの画像上の位置との差分を前記第2視差として算出する請求項8に記載の視差ずれ補正方法。
PCT/JP2022/031763 2021-10-05 2022-08-23 撮像装置及び視差ずれ補正方法 WO2023058348A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021-164217 2021-10-05
JP2021164217A JP2023055094A (ja) 2021-10-05 2021-10-05 撮像装置及び視差ずれ補正方法

Publications (1)

Publication Number Publication Date
WO2023058348A1 true WO2023058348A1 (ja) 2023-04-13

Family

ID=85803376

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/031763 WO2023058348A1 (ja) 2021-10-05 2022-08-23 撮像装置及び視差ずれ補正方法

Country Status (2)

Country Link
JP (1) JP2023055094A (ja)
WO (1) WO2023058348A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005028469A (ja) * 2003-07-08 2005-02-03 Mitsubishi Materials Corp 高速切削加工で硬質被覆層がすぐれた耐摩耗性を発揮する表面被覆サーメット製切削工具
JP2015169583A (ja) * 2014-03-07 2015-09-28 株式会社リコー 校正方法、校正装置及びプログラム
WO2018042954A1 (ja) * 2016-08-29 2018-03-08 日立オートモティブシステムズ株式会社 車載カメラ、車載カメラの調整方法、車載カメラシステム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005028469A (ja) * 2003-07-08 2005-02-03 Mitsubishi Materials Corp 高速切削加工で硬質被覆層がすぐれた耐摩耗性を発揮する表面被覆サーメット製切削工具
JP2015169583A (ja) * 2014-03-07 2015-09-28 株式会社リコー 校正方法、校正装置及びプログラム
WO2018042954A1 (ja) * 2016-08-29 2018-03-08 日立オートモティブシステムズ株式会社 車載カメラ、車載カメラの調整方法、車載カメラシステム

Also Published As

Publication number Publication date
JP2023055094A (ja) 2023-04-17

Similar Documents

Publication Publication Date Title
US10701341B2 (en) Calibration method, calibration device, and computer program product
US9348111B2 (en) Automatic detection of lens deviations
EP1343332B1 (en) Stereoscopic image characteristics examination system
JP6209833B2 (ja) 検査用具、検査方法、ステレオカメラの生産方法及びシステム
EP1087336A2 (en) Apparatus and method for stereoscopic image processing
US20130114887A1 (en) Stereo distance measurement apparatus and stereo distance measurement method
JP2008039491A (ja) ステレオ画像処理装置
JP6209648B1 (ja) ステレオカメラの設置パラメータ校正方法
EP3332387B1 (en) Method for calibration of a stereo camera
JP6975003B2 (ja) 周辺監視装置およびその校正方法
JP2012189324A (ja) ステレオカメラ
WO2016129355A1 (ja) 計測用具、校正方法、校正装置及びプログラム
JP5455033B2 (ja) 距離画像入力装置と車外監視装置
WO2014069169A1 (ja) 画像処理装置
TW202147253A (zh) 對準數位影像
JP2008292278A (ja) 距離検出装置の光学ずれ検出方法及び距離検出装置
WO2017042998A1 (ja) 車載用ステレオカメラ装置、およびその補正方法
JP3666348B2 (ja) 距離認識装置
WO2023058348A1 (ja) 撮像装置及び視差ずれ補正方法
JP2014202661A (ja) 測距装置
WO2019058729A1 (ja) ステレオカメラ
JP6202356B2 (ja) 画像処理装置及び方法、並びに撮像装置
JP6996582B2 (ja) 校正方法、校正装置及びプログラム
JP6680335B2 (ja) ステレオカメラ、車両、算出方法及びプログラム
JP3833042B2 (ja) 距離認識装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22878219

Country of ref document: EP

Kind code of ref document: A1