JP2016178523A - Imaging apparatus, imaging method, program, vehicle control system, and vehicle - Google Patents

Imaging apparatus, imaging method, program, vehicle control system, and vehicle Download PDF

Info

Publication number
JP2016178523A
JP2016178523A JP2015057985A JP2015057985A JP2016178523A JP 2016178523 A JP2016178523 A JP 2016178523A JP 2015057985 A JP2015057985 A JP 2015057985A JP 2015057985 A JP2015057985 A JP 2015057985A JP 2016178523 A JP2016178523 A JP 2016178523A
Authority
JP
Japan
Prior art keywords
imaging
image data
flicker
timing
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015057985A
Other languages
Japanese (ja)
Other versions
JP6447289B2 (en
Inventor
藤本 英臣
Hideomi Fujimoto
英臣 藤本
洋義 関口
Hiroyoshi Sekiguchi
洋義 関口
井上 貴之
Takayuki Inoue
貴之 井上
栄太 渡邊
Eita Watanabe
栄太 渡邊
渡邊 義一
Giichi Watanabe
義一 渡邊
玲子 黒水
Reiko Kuromizu
玲子 黒水
高橋 祐二
Yuji Takahashi
祐二 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2015057985A priority Critical patent/JP6447289B2/en
Publication of JP2016178523A publication Critical patent/JP2016178523A/en
Application granted granted Critical
Publication of JP6447289B2 publication Critical patent/JP6447289B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Abstract

PROBLEM TO BE SOLVED: To prevent degradation in object recognition performance with a simple configuration under such a state that flickers occur.SOLUTION: The present invention comprises: two CMOS sensors for imaging a predetermined region; a distance calculation part 60 for calculating a distance to an object on the basis of image data imaged by the CMOS sensor; a flicker detection part 70 for detecting flickers from the two image data; and a timing control part 80 for controlling to correct imaging timing of the CMOS sensor when a shift occurs in luminance unevenness in a predetermined direction by flickers between flickers detected from image data imaged by the two CMOS sensors.SELECTED DRAWING: Figure 4

Description

本発明は、撮像装置、撮像方法、プログラム、車両制御システム、および車両に関する。   The present invention relates to an imaging device, an imaging method, a program, a vehicle control system, and a vehicle.

従来、車内に搭載されたステレオカメラなどの撮像装置を用いて、ドライバの前方にある車両や歩行者などの物体を認識し、当該物体までの距離(距離情報)を算出する物体認識技術が知られている。   Conventionally, an object recognition technique for recognizing an object such as a vehicle or a pedestrian in front of a driver using an imaging device such as a stereo camera mounted in the vehicle and calculating a distance (distance information) to the object is known. It has been.

そして、この物体認識技術による認識結果や距離情報に基づいてドライバへの警告や車両のブレーキ制御を行うことで、衝突事故などを防止することができる。従って、物体認識技術では、ドライバへの誤った警告や不要なブレーキ制御につながるような誤った認識結果や距離情報を出力することを回避しなければならない。   A collision accident or the like can be prevented by performing a warning to the driver or brake control of the vehicle based on the recognition result and distance information by the object recognition technology. Therefore, in the object recognition technology, it is necessary to avoid outputting an erroneous recognition result or distance information that may lead to an erroneous warning to the driver or unnecessary brake control.

このようなステレオカメラに用いられる撮像素子の一つとして、ローリングシャッタ方式のCMOS(Complementary Metal-Oxide Semiconductor)センサがある。このローリングシャッタ方式のCMOSセンサは、ライン順次に露光を行うものである。また、例えば、非インバータ方式の蛍光灯や水銀灯などの放電灯などの照明は、光源周波数に応じた明滅を繰り返している。上述のようなCMOSセンサの露光時間が蛍光灯などの光源周波数に適応していない場合、蛍光灯などの照明下で撮像された画像には、この明滅周期に対応した垂直方向の間隔で、水平方向に黒い縞が現れる。さらに光源周波数がフレームレートに同期していない場合には、フレーム上の明滅位置がフレームに従いずれていくため、水平方向の暗い縞が垂直方向にながれるようなフリッカが現れる。   One of the image sensors used in such a stereo camera is a rolling shutter type CMOS (Complementary Metal-Oxide Semiconductor) sensor. This rolling shutter type CMOS sensor performs line-by-line exposure. Further, for example, illumination such as a non-inverter fluorescent lamp or a discharge lamp such as a mercury lamp repeatedly flickers according to the light source frequency. When the exposure time of the CMOS sensor as described above is not adapted to a light source frequency such as a fluorescent lamp, an image captured under illumination such as a fluorescent lamp has a horizontal interval at a vertical interval corresponding to this blinking cycle. Black stripes appear in the direction. Further, when the light source frequency is not synchronized with the frame rate, the flickering position on the frame follows the frame, and thus flickers appearing such that dark horizontal stripes move vertically.

そして、二つの撮像部を備えたステレオカメラでは、それぞれの撮像部で撮像された二つの撮像画像におけるフリッカの発生状態にズレが生じた場合、二つの撮像画像の比較マッチング性能が低下し、ステレオカメラとしての物体認識性能が低下してしまう。そこで、撮像した画像のフリッカの有無を検出し、検出したフリッカの周波数情報を元に撮像した画像からフリッカ成分を除去した画像を生成する技術が開示されている(例えば、特許文献1参照)。   In a stereo camera including two image capturing units, when the occurrence of flicker in the two captured images captured by the respective image capturing units is shifted, the comparison matching performance of the two captured images decreases, and the stereo camera The object recognition performance as a camera is degraded. In view of this, there has been disclosed a technique for detecting the presence or absence of flicker in a captured image and generating an image obtained by removing flicker components from the captured image based on the detected flicker frequency information (see, for example, Patent Document 1).

しかしながら、上述の特許文献1に開示された技術では、フーリエ変換等の周波数変換ブロックが必要であり、FPGA(field-programmable gate array)、ASIC(application specific integrated circuit)等の論理回路で実装する場合、大きな回路規模が必要となってしまうという問題があった。   However, in the technique disclosed in Patent Document 1 described above, a frequency conversion block such as a Fourier transform is required, and the circuit is implemented by a logic circuit such as a field-programmable gate array (FPGA) or an application specific integrated circuit (ASIC). There is a problem that a large circuit scale is required.

本発明は、上記に鑑みてなされたものであって、フリッカが発生するような状態においても、簡易な構成で、物体認識性能の低下を防ぐ撮像装置、撮像方法、プログラム、車両制御システム、および車両を得ることを目的とする。   The present invention has been made in view of the above, and has an imaging device, an imaging method, a program, a vehicle control system, and a simple configuration that prevent deterioration of object recognition performance even in a state where flicker occurs. The purpose is to obtain a vehicle.

上述した課題を解決し、目的を達成するために、本発明は、所定領域を撮像する二つの撮像部と、前記二つの撮像部によって撮像された画像データに基づいて、物体までの距離を算出する距離算出部と、前記二つの画像データからフリッカを検出するフリッカ検出部と、前記二つの画像データからそれぞれ検出されたフリッカ間で、フリッカによる所定方向の輝度の変化状態にズレが生じている場合、前記撮像部の撮像タイミングを補正制御するタイミング制御部と、を備える。   In order to solve the above-described problems and achieve the object, the present invention calculates a distance to an object based on two imaging units that image a predetermined area and image data captured by the two imaging units. A difference in luminance change state in a predetermined direction due to the flicker is generated between the distance calculation unit for detecting the flicker, the flicker detecting unit for detecting flicker from the two image data, and the flicker detected from the two image data. A timing control unit that corrects and controls the imaging timing of the imaging unit.

本発明によれば、フリッカが発生するような状態においても、簡易な構成で、物体認識性能の低下を防ぐことができるという効果を奏する。   According to the present invention, it is possible to prevent a decrease in object recognition performance with a simple configuration even in a state where flicker occurs.

図1は、実施の形態にかかるステレオカメラを搭載した自動車を示す図である。FIG. 1 is a diagram illustrating an automobile equipped with a stereo camera according to an embodiment. 図2は、ステレオカメラの概観図である。FIG. 2 is a schematic view of a stereo camera. 図3は、実施の形態にかかるステレオカメラのハードウェア構成図である。FIG. 3 is a hardware configuration diagram of the stereo camera according to the embodiment. 図4は、実施の形態にかかるステレオカメラの機能構成を示す図である。FIG. 4 is a diagram illustrating a functional configuration of the stereo camera according to the embodiment. 図5は、左右のカメラ部により測定対象の物体を撮像している状態を示す図である。FIG. 5 is a diagram illustrating a state in which an object to be measured is imaged by the left and right camera units. 図6は、フリッカが発生した画像データの例を示す図である。FIG. 6 is a diagram illustrating an example of image data in which flicker occurs. 図7は、実施の形態にかかるステレオカメラにおける撮像タイミングの補正制御処理の流れを示すフローチャートである。FIG. 7 is a flowchart illustrating a flow of imaging timing correction control processing in the stereo camera according to the embodiment. 図8は、実施の形態にかかるステレオカメラを含む車両制御システムを搭載した自動車を示す図である。FIG. 8 is a diagram illustrating an automobile equipped with a vehicle control system including the stereo camera according to the embodiment.

以下に添付図面を参照して、撮像装置、撮像方法、プログラム、車両制御システム、および車両の実施の形態を詳細に説明する。以下の実施の形態では、CMOSセンサ(撮像素子)を備えたステレオカメラを撮像装置に適用し、自動車などの車両に取り付けられた場合の例を示している。   Hereinafter, embodiments of an imaging device, an imaging method, a program, a vehicle control system, and a vehicle will be described in detail with reference to the accompanying drawings. In the following embodiment, an example in which a stereo camera provided with a CMOS sensor (imaging device) is applied to an imaging device and attached to a vehicle such as an automobile is shown.

CMOSセンサ(撮像素子)とは、XYアドレス型のセンサであって、ローリングシャッタにより画像データを読み出している。このような撮像素子を用いて、商用交流電源により直接的に点灯される、所定周波数で明滅する蛍光灯などの光源の照明下で被写体を撮像した場合について説明する。撮像する際に撮像素子の露光時間を光源の発光周期より著しく短くすると、画像データの各フレームにおいて垂直方向の輝度ムラが生じてしまう。また、撮像のフレームレートと、光源の発光周期とが異なる場合、垂直方向の輝度ムラの状態が変化し、時間方向に輝度のフリッカ(いわゆる蛍光灯フリッカ)が生じる。周期的に明滅する光源に対し、ローリングシャッタでは、グローバルシャッタと異なり全画素を同じタイミングで露光できないからである。   The CMOS sensor (imaging device) is an XY address type sensor, and reads image data with a rolling shutter. A case where a subject is imaged under illumination of a light source such as a fluorescent lamp that is directly lit by a commercial AC power source and blinks at a predetermined frequency using such an image sensor will be described. If the exposure time of the image sensor is remarkably shorter than the light emission period when imaging, luminance unevenness in the vertical direction occurs in each frame of image data. Further, when the imaging frame rate and the light emission period of the light source are different, the state of luminance unevenness in the vertical direction changes, and luminance flicker (so-called fluorescent lamp flicker) occurs in the time direction. This is because a rolling shutter cannot expose all pixels at the same timing, unlike a global shutter, against a periodically flickering light source.

例えば、上述のようなステレオカメラを車両に搭載して撮像した場合、商店街やガソリンスタンド等の店内から漏れる蛍光灯の光によって、走行中や駐停車中に撮像した画像データに蛍光灯フリッカが発生する可能性がある。   For example, when a stereo camera such as that described above is mounted on a vehicle and captured, fluorescent light flickers in the image data captured while traveling or parked due to light from a fluorescent light leaking from a store such as a shopping street or a gas station. May occur.

また、蛍光灯だけでなく、外灯やトンネルなどで利用されるナトリウムランプによる照明下で被写体を撮像した場合でも、撮像した画像データにフリッカが発生する可能性がある。具体的には、例えば、ステレオカメラを搭載した車両がトンネル内を走行中に、トンネル内の照明下で撮像した場合、撮像した画像データにフリッカが発生する可能性がある。また、例えば、当該車両が夜間の道路外灯近くを走行中に、外灯下で撮像した場合、撮像した画像データにフリッカが発生する可能性がある。なお、ナトリウムランプが利用されている外灯等も同じく商用交流電源で点灯している。   In addition, even when a subject is imaged under illumination by a sodium lamp used not only in a fluorescent lamp but also in an outdoor lamp or a tunnel, flicker may occur in the captured image data. Specifically, for example, when a vehicle equipped with a stereo camera is imaged under illumination in the tunnel while traveling in the tunnel, flicker may occur in the captured image data. Further, for example, when the vehicle is imaged under an outdoor light while traveling near a road light at night, flicker may occur in the captured image data. In addition, the outdoor lamp etc. in which the sodium lamp is utilized are also lit by a commercial AC power source.

このような状態で、二つのカメラを備えたステレオカメラにおいて撮像された画像データを用いて、ブロックマッチングによる同じ物体の認識処理を行う場合、二つの撮像画像におけるフリッカの発生状態にズレが生じていると、物体の認識処理の性能低下につながる可能性がある。   In such a state, when performing recognition processing of the same object by block matching using image data captured by a stereo camera including two cameras, a deviation occurs in the flicker occurrence state in the two captured images. If there is, there is a possibility that the performance of the object recognition process is lowered.

そこで、本実施の形態にかかるステレオカメラでは、二つのカメラで撮像した画像データからフリッカが検出された場合、それぞれの画像データで検出されたフリッカの状態を解析し、フリッカの状態に基づいて二つのカメラの撮像タイミングを制御して、物体の認識処理の際のフリッカによる悪影響を軽減させる。   Therefore, in the stereo camera according to the present embodiment, when flicker is detected from the image data captured by the two cameras, the state of the flicker detected in each image data is analyzed, and the two based on the flicker state are analyzed. By controlling the imaging timing of the two cameras, adverse effects due to flicker during object recognition processing are reduced.

まず、本実施の形態の全体構成について説明する。図1は、実施の形態にかかるステレオカメラを搭載した自動車を示す図である。本実施の形態にかかるステレオカメラが搭載された自動車とは、車両の一例である。図1(a)は、自動車の側面を示す概略図であり、図1(b)は、自動車の正面を示す概略図である。また、図2は、ステレオカメラの概観図である。   First, the overall configuration of the present embodiment will be described. FIG. 1 is a diagram illustrating an automobile equipped with a stereo camera according to an embodiment. The automobile equipped with the stereo camera according to the present embodiment is an example of a vehicle. FIG. 1A is a schematic diagram illustrating a side surface of an automobile, and FIG. 1B is a schematic diagram illustrating a front surface of the automobile. FIG. 2 is a schematic view of a stereo camera.

図1(a)(b)に示すように、本実施の形態のステレオカメラ100は、カメラ部1およびカメラ部2を備えている。そして、カメラ部1およびカメラ部2は、自動車の進行方向前方の光景を撮像することができるように設置されている。また、図2に示すように、ステレオカメラ100は、本体部3と、本体部3に対して設けられた一対の円筒状のカメラ部1およびカメラ部2とによって構成されている。   As shown in FIGS. 1A and 1B, a stereo camera 100 according to the present embodiment includes a camera unit 1 and a camera unit 2. And the camera part 1 and the camera part 2 are installed so that the scene ahead of the advancing direction of a motor vehicle can be imaged. As shown in FIG. 2, the stereo camera 100 includes a main body unit 3 and a pair of cylindrical camera units 1 and 2 provided for the main body unit 3.

図3は、実施の形態にかかるステレオカメラのハードウェア構成図である。図3に示すように、実施の形態にかかるステレオカメラ100は、CPU(Central Processing Unit)102、ROM(Read Only Memory)103、RAM(Random Access Memory)104、カメラ部1、2、および通信I/F(interface)106を備えており、バスライン108を介して接続されている。   FIG. 3 is a hardware configuration diagram of the stereo camera according to the embodiment. As shown in FIG. 3, the stereo camera 100 according to the embodiment includes a central processing unit (CPU) 102, a read only memory (ROM) 103, a random access memory (RAM) 104, camera units 1 and 2, and a communication I. / F (interface) 106 is provided, and is connected via a bus line 108.

CPU102は、ステレオカメラ100の全体制御を行なう。ROM103は、CPU102の制御により実行される処理で利用されるプログラムや各種データを記憶する。RAM104は、CPU102の制御により実行される処理で利用されるデータ等を一時的に記憶する。通信I/F106は、外部機器等と各種データのやり取りを行なう。   The CPU 102 performs overall control of the stereo camera 100. The ROM 103 stores programs and various data used in processing executed under the control of the CPU 102. The RAM 104 temporarily stores data and the like used for processing executed under the control of the CPU 102. The communication I / F 106 exchanges various data with an external device or the like.

カメラ部1、2は、被写体を撮像するものであり、撮像部の一例である。本実施の形態において、被写体とは測定対象の物体や車外等の所定領域を示している。そして、図3に示すように、カメラ部1は、レンズ11およびCMOSセンサ12を有しており、カメラ部2は、レンズ21およびCMOSセンサ22を有している。   The camera units 1 and 2 are images of a subject and are examples of an imaging unit. In the present embodiment, the subject indicates a predetermined area such as an object to be measured or outside the vehicle. As shown in FIG. 3, the camera unit 1 has a lens 11 and a CMOS sensor 12, and the camera unit 2 has a lens 21 and a CMOS sensor 22.

レンズ11、21は、被写体の光学像をCMOSセンサ12、22上に結像する光学素子の一例である。   The lenses 11 and 21 are examples of optical elements that form an optical image of a subject on the CMOS sensors 12 and 22.

CMOSセンサ12、22は、結像された光学像を光電変換して電気信号を出力する撮像素子の一例である。そして、出力されたアナログ電気信号がデジタル電気信号に変換され画像データとなる。レンズ11、21と、CMOSセンサ12、22とをそれぞれ含むカメラ部1、2は、例えばステレオカメラ100が取り付けられた自動車(車両)の前方(所定領域)にある被写体を撮像することで、それぞれ画像データを生成する。   The CMOS sensors 12 and 22 are an example of an image sensor that photoelectrically converts an imaged optical image and outputs an electrical signal. Then, the output analog electric signal is converted into a digital electric signal to be image data. The camera units 1 and 2 including the lenses 11 and 21 and the CMOS sensors 12 and 22 respectively capture an object in front (predetermined area) of an automobile (vehicle) to which the stereo camera 100 is attached, for example. Generate image data.

また、ステレオカメラ100では、左右のカメラ部1、2が所定の距離をもって配置されていることから、同じ被写体を撮像しても、左右のCMOSセンサ12、22上での結像位置が異なる(図5参照)。   Further, in the stereo camera 100, since the left and right camera units 1 and 2 are arranged at a predetermined distance, the imaging positions on the left and right CMOS sensors 12 and 22 are different even if the same subject is imaged ( (See FIG. 5).

図4は、実施の形態にかかるステレオカメラの機能構成を示す図である。ステレオカメラ100は、画像取得部10、20と、輝度画像取得部30と、視差画像算出部40と、物体認識処理部50と、距離算出部60と、フリッカ検出部70と、タイミング制御部80と、を主に備えている。   FIG. 4 is a diagram illustrating a functional configuration of the stereo camera according to the embodiment. Stereo camera 100 includes image acquisition units 10 and 20, luminance image acquisition unit 30, parallax image calculation unit 40, object recognition processing unit 50, distance calculation unit 60, flicker detection unit 70, and timing control unit 80. And mainly.

画像取得部10、20は、それぞれステレオカメラを構成する2台のカメラの一方および他方により被写体を撮像して、画像データを取得する。画像取得部10、20は、例えば、図3のCMOSセンサ12、22によって実現される。   Each of the image acquisition units 10 and 20 captures a subject with one and the other of two cameras constituting a stereo camera, and acquires image data. The image acquisition units 10 and 20 are realized by, for example, the CMOS sensors 12 and 22 in FIG.

輝度画像取得部30は、画像取得部10、20により取得された画像データから輝度画像を取得する。輝度画像と後述の視差画像とは時間においてほぼ同期しており、画像中の座標が対応している。   The luminance image acquisition unit 30 acquires a luminance image from the image data acquired by the image acquisition units 10 and 20. The luminance image and a later-described parallax image are substantially synchronized in time, and the coordinates in the image correspond to each other.

視差画像算出部40は、画像取得部10、20により取得された画像データから視差画像を算出する。視差画像算出部40は、同じ物体(被写体)が撮像された左右の画像データから、ブロック分割した画像同士のパターンマッチングにより、同じ物体に対応するブロックを抽出し、マッチングしたブロックから視差画像を求めている。また、視差画像算出部40は、同じ測定対象の物体に対する、画像取得部10、20での結像位置の画素のズレ量により視差d(図5参照)を算出する。   The parallax image calculation unit 40 calculates a parallax image from the image data acquired by the image acquisition units 10 and 20. The parallax image calculation unit 40 extracts blocks corresponding to the same object from the left and right image data obtained by capturing the same object (subject) by pattern matching between the block-divided images, and obtains a parallax image from the matched blocks. ing. Further, the parallax image calculation unit 40 calculates the parallax d (see FIG. 5) based on the amount of pixel shift at the image forming position in the image acquisition units 10 and 20 with respect to the same object to be measured.

物体認識処理部50は、輝度画像取得部30により取得された二つの輝度画像から、車両などの物体を認識する。物体の認識方法は、事前に車両等のパターン認識用のブロック画像の辞書を作成して記憶しておき、記憶されているブロック画像とのマッチングにより認識処理を行う。   The object recognition processing unit 50 recognizes an object such as a vehicle from the two luminance images acquired by the luminance image acquisition unit 30. As an object recognition method, a dictionary of block images for pattern recognition of a vehicle or the like is created and stored in advance, and recognition processing is performed by matching with a stored block image.

距離算出部60は、物体認識処理部50による認識処理の結果(認識結果)と、視差画像算出部40により算出された視差dとにより、測定対象である物体(被写体)までの距離を算出する。   The distance calculation unit 60 calculates the distance to the object (subject) that is the measurement target based on the recognition processing result (recognition result) by the object recognition processing unit 50 and the parallax d calculated by the parallax image calculation unit 40. .

ここで、物体までの距離の算出方法を、図5を参照して説明する。図5は、左右のカメラ部により測定対象の物体Oを撮像している状態を示す図である。図5に示すように、カメラ部1はレンズ11およびCMOSセンサ12を備え、カメラ部2はレンズ21およびCMOSセンサ22を備えている。   Here, a method of calculating the distance to the object will be described with reference to FIG. FIG. 5 is a diagram illustrating a state in which the measurement target object O is being imaged by the left and right camera units. As shown in FIG. 5, the camera unit 1 includes a lens 11 and a CMOS sensor 12, and the camera unit 2 includes a lens 21 and a CMOS sensor 22.

図5に示す「f」は、カメラ部1、2の焦点距離である。また、「B」は、カメラ部1とカメラ部2の距離(レンズ11の中心とレンズ21の中心の距離)である。また、「Z」は、カメラ部1、2と物体Oの距離であり、視点と測定対象(物体)の距離となる。   “F” shown in FIG. 5 is the focal length of the camera units 1 and 2. “B” is the distance between the camera unit 1 and the camera unit 2 (the distance between the center of the lens 11 and the center of the lens 21). “Z” is the distance between the camera units 1 and 2 and the object O, and is the distance between the viewpoint and the measurement target (object).

カメラ部1、2は物理的に異なる位置から同じ物体Oを撮像する。そのため、カメラ部1で撮像された画像G1と、カメラ部2で撮像された画像G2を比較すると、画像G1、G2間で画素ズレが発生している。この画像G1、G2間の画素のズレ量を視差「d」としている。   The camera units 1 and 2 image the same object O from physically different positions. For this reason, when the image G1 captured by the camera unit 1 and the image G2 captured by the camera unit 2 are compared, a pixel shift occurs between the images G1 and G2. The amount of pixel shift between the images G1 and G2 is parallax “d”.

図5に記載の通りに各距離を定義すると、以下の比が成立する。
Z:B=Z+f:B+d ・・・(比)
When each distance is defined as described in FIG. 5, the following ratio is established.
Z: B = Z + f: B + d (ratio)

そして、上述の比から、以下の式が導き出される。
Z=Bf/d ・・・(式)
距離算出部60は、上述の式により、物体までの距離(Z)を算出できる。つまり、距離算出部60は、カメラ部1とカメラ部2との距離と、カメラ部1、2の焦点距離と、視差と、により物体までの距離を算出することができる。
Then, from the above ratio, the following equation is derived.
Z = Bf / d (formula)
The distance calculation unit 60 can calculate the distance (Z) to the object by the above formula. That is, the distance calculation unit 60 can calculate the distance to the object based on the distance between the camera unit 1 and the camera unit 2, the focal lengths of the camera units 1 and 2, and the parallax.

図4に戻り、フリッカ検出部70は、カメラ部1、2のCMOSセンサ12、22のそれぞれにより撮像された二つの画像データを取得すると、当該二つの画像データからフリッカを検出する。フリッカの検出は公知の方法を用いることができ、例えば、特開2012−10306に記載されている。   Returning to FIG. 4, when the flicker detection unit 70 acquires two image data captured by the CMOS sensors 12 and 22 of the camera units 1 and 2, the flicker detection unit 70 detects flicker from the two image data. A known method can be used to detect flicker, and is described in, for example, Japanese Patent Application Laid-Open No. 2012-10306.

ここで、フリッカの詳細について説明する。上述のように、蛍光灯などの照明下で二つのCMOSセンサ12、22により同じ被写体(物体)が撮像された場合、出力される二つの画像データにはフリッカが発生する可能性がある。また、二つのCMOSセンサ12、22は、同じタイミングで撮像するように制御されているが、完全に同じタイミングで撮像されるとは限らない。このような場合、CMOSセンサ12、22からは、垂直方向の輝度ムラが異なるフリッカが発生した二つの画像データが出力される。   Here, details of the flicker will be described. As described above, when the same subject (object) is imaged by the two CMOS sensors 12 and 22 under illumination such as a fluorescent lamp, flicker may occur in the two output image data. In addition, the two CMOS sensors 12 and 22 are controlled so as to capture images at the same timing, but are not always captured at the same timing. In such a case, the CMOS sensors 12 and 22 output two image data in which flickers having different luminance unevenness in the vertical direction are generated.

図6は、フリッカが発生した画像データの例を示す図である。図6(a)は、カメラ部1のCMOSセンサ12により撮像された画像データである。図6(b)は、カメラ部2のCMOSセンサ22により撮像された画像データである。   FIG. 6 is a diagram illustrating an example of image data in which flicker occurs. FIG. 6A shows image data captured by the CMOS sensor 12 of the camera unit 1. FIG. 6B shows image data captured by the CMOS sensor 22 of the camera unit 2.

図6(a)および図6(b)の画像データには、フリッカである垂直方向の輝度ムラが発生し、時間とともに垂直方向で位置が変化している。具体的には、図6(a)には、輝度ムラ12a〜12dが発生し、図6(b)には、輝度ムラ22a〜22dが発生している。   In the image data of FIGS. 6A and 6B, the luminance unevenness in the vertical direction, which is flicker, occurs, and the position changes in the vertical direction with time. Specifically, luminance unevenness 12a to 12d occurs in FIG. 6A, and luminance unevenness 22a to 22d occurs in FIG. 6B.

そして、カメラ部1、2のCMOSセンサ12、22の撮像開始タイミングにズレが生じると、図6(a)(b)に示すように、輝度ムラ12a〜12dと輝度ムラ22a〜22dの垂直方向の位置にズレが生じる。つまり、ステレオカメラ100では、カメラ部1、2のCMOSセンサ12、22の撮影タイミングが全く同時でない限り、同じ被写体を撮像しても、図6(a)(b)に示すように、フリッカの輝度ムラにズレが生じた画像が撮像される場合がある。   And when the imaging start timing of the CMOS sensors 12 and 22 of the camera units 1 and 2 is shifted, as shown in FIGS. 6A and 6B, the vertical directions of the luminance unevenness 12a to 12d and the luminance unevenness 22a to 22d Deviation occurs at the position of. That is, in the stereo camera 100, as long as the photographing timings of the CMOS sensors 12 and 22 of the camera units 1 and 2 are not at the same time, even if the same subject is imaged, as shown in FIGS. In some cases, an image with a deviation in luminance unevenness is captured.

図4に戻り、タイミング制御部80は、CMOSセンサ12、22により撮像された二つの画像データからそれぞれ検出されたフリッカ間で、フリッカによる垂直方向(所定方向)の輝度ムラにズレが生じている場合、カメラ部2の撮像タイミングを補正制御するものである。輝度ムラとは、輝度の変化状態の一例である。   Returning to FIG. 4, the timing control unit 80 causes a deviation in luminance unevenness in the vertical direction (predetermined direction) due to flicker between the flickers detected from the two image data captured by the CMOS sensors 12 and 22. In this case, the imaging timing of the camera unit 2 is corrected and controlled. Luminance unevenness is an example of a change state of luminance.

二つの画像データにおける、フリッカによる垂直方向の輝度ムラにズレが生じているか否かの判断は以下のように行う。まず、タイミング制御部80は、二つの画像データそれぞれに対して水平方向のライン(所定方向と交差するライン)ごとの輝度の平均値を算出して、RAM104により実現される記憶部90に全て記憶する。この輝度の平均値は、ライン数分記憶されることになる。   Judgment as to whether or not there is a deviation in the luminance unevenness in the vertical direction due to flicker in the two image data is performed as follows. First, the timing control unit 80 calculates an average value of luminance for each horizontal line (a line intersecting a predetermined direction) for each of the two image data, and stores them all in the storage unit 90 realized by the RAM 104. To do. The average luminance value is stored for the number of lines.

次に、タイミング制御部80は、ライン数分の輝度の平均値から、二つの画像データのラインごとの輝度の平均値の差分値を算出する。この差分値は、ライン数分の組み合わせがある。   Next, the timing control unit 80 calculates a difference value of the average luminance value for each line of the two image data from the average luminance value for the number of lines. There are combinations of this difference value for the number of lines.

そして、タイミング制御部80は、算出したライン数分の差分値のうち、最も差分が大きい差分値であるピーク値が、予め定めた閾値以上であるか否かを判断する。タイミング制御部80は、ピーク値が閾値未満の場合、輝度ムラのズレが看過できる程度であるため、輝度ムラにズレが生じていないと判断し、撮像タイミングを確定(固定)する。   Then, the timing control unit 80 determines whether or not the peak value that is the difference value having the largest difference among the calculated difference values for the number of lines is equal to or greater than a predetermined threshold value. When the peak value is less than the threshold, the timing control unit 80 determines that there is no deviation in luminance unevenness because the deviation in luminance unevenness can be overlooked, and determines (fixes) the imaging timing.

一方、タイミング制御部80は、ピーク値が閾値以上の場合、輝度ムラにズレが生じていると判断し、タイミング制御信号により、カメラ部2のCMOSセンサ22の撮像タイミングを補正制御する。ここでは、タイミング制御部80がカメラ部1、2のうち、カメラ部2のCMOSセンサ22に対して撮像タイミングを補正制御しているが、カメラ部1のCMOSセンサ12に対して撮像タイミングを補正する構成としてもよい。また、タイミング制御部80は、1ライン周期分の補正量により、カメラ部2のCMOSセンサ22の撮像タイミングを補正制御する。   On the other hand, when the peak value is equal to or greater than the threshold value, the timing control unit 80 determines that the luminance unevenness has shifted, and corrects and controls the imaging timing of the CMOS sensor 22 of the camera unit 2 based on the timing control signal. Here, the timing control unit 80 corrects and controls the imaging timing for the CMOS sensor 22 of the camera unit 2 among the camera units 1 and 2, but corrects the imaging timing for the CMOS sensor 12 of the camera unit 1. It is good also as composition to do. In addition, the timing control unit 80 corrects and controls the imaging timing of the CMOS sensor 22 of the camera unit 2 by the correction amount for one line period.

タイミング制御部80は、カメラ部2のCMOSセンサ22の撮像タイミングを補正制御した後、フリッカ検出部70によって再度二つの画像データからフリッカが検出され、二つの画像データの輝度ムラにズレが生じている場合、再度カメラ部2のCMOSセンサ22の撮像タイミングを補正制御する。   The timing control unit 80 corrects and controls the imaging timing of the CMOS sensor 22 of the camera unit 2, and then flicker is detected again from the two image data by the flicker detection unit 70, resulting in deviation in luminance unevenness between the two image data. If it is, the imaging timing of the CMOS sensor 22 of the camera unit 2 is corrected and controlled again.

具体例を示すと、CMOSセンサ12、22から出力されるそれぞれの画像のサイズがVGA(640×480)であったとする。タイミング制御部80は、それぞれの画像データにおける480ラインのラインごとの輝度の平均値を算出し、480個の輝度の平均値を記憶部90に記憶する。次に、タイミング制御部80は、記憶された480個同士の輝度の平均値の差分値を算出する。   As a specific example, it is assumed that the size of each image output from the CMOS sensors 12 and 22 is VGA (640 × 480). The timing control unit 80 calculates an average value of luminance for each of 480 lines in each image data, and stores the average value of 480 luminances in the storage unit 90. Next, the timing control unit 80 calculates a difference value between the stored average values of 480 luminances.

そして、タイミング制御部80は、480個の差分値のうち最も差分が大きいピーク値が、予め定めた閾値以上であるか否かを判断する。ピーク値が大きくなり閾値以上になると、CMOSセンサ12、22により撮像された画像データのフリッカによる垂直方向の輝度ムラにズレが生じていると判断する。一方、ピーク値が小さくなり閾値未満になると、フリッカによる垂直方向の輝度ムラのズレが看過できる程度となり、ズレが生じていないと判断する。   Then, the timing control unit 80 determines whether or not the peak value having the largest difference among the 480 difference values is equal to or greater than a predetermined threshold value. When the peak value increases and becomes equal to or greater than the threshold value, it is determined that there is a shift in vertical luminance unevenness due to flicker of image data captured by the CMOS sensors 12 and 22. On the other hand, when the peak value becomes smaller and less than the threshold value, the deviation of luminance unevenness in the vertical direction due to flicker is overlooked, and it is determined that no deviation occurs.

ピーク値が閾値以上であることから、フリッカによる垂直方向の輝度ムラにズレが生じていると判断すると、タイミング制御部80は、タイミング制御信号により、CMOSセンサ22の撮像タイミングを、1ライン周期分遅らせる。そして、タイミング制御部80は、撮像タイミングを1ライン周期分遅らせた後、再度同様の処理を行う。なお、タイミング制御部80は、撮像タイミングを1ライン周期分早める補正制御を行ってもよい。   If the peak value is equal to or greater than the threshold value, and it is determined that there is a deviation in vertical luminance unevenness due to flicker, the timing control unit 80 determines the imaging timing of the CMOS sensor 22 by one line period based on the timing control signal. Delay. The timing controller 80 then performs the same process again after delaying the imaging timing by one line period. Note that the timing control unit 80 may perform correction control to advance the imaging timing by one line period.

この処理を繰り返し、タイミング制御部80は、フリッカによる垂直方向の輝度ムラにズレが生じてないと判断すると、そこで、撮像タイミングを確定(固定)し、電源OFFになるまでその設定値で動作し続ける。   When this process is repeated and the timing control unit 80 determines that there is no deviation in the luminance unevenness in the vertical direction due to flicker, the imaging timing is fixed (fixed) and operates with the set value until the power is turned off. to continue.

次に、本実施の形態にかかるステレオカメラ100における撮像タイミングの補正制御処理について説明する。図7は、実施の形態にかかるステレオカメラにおける撮像タイミングの補正制御処理の流れを示すフローチャートである。図7は、上述の例と同様に、CMOSセンサ12、22から出力されるそれぞれの画像のサイズがVGA(640×480)である場合について説明する。   Next, imaging timing correction control processing in the stereo camera 100 according to the present embodiment will be described. FIG. 7 is a flowchart illustrating a flow of imaging timing correction control processing in the stereo camera according to the embodiment. FIG. 7 illustrates a case where the size of each image output from the CMOS sensors 12 and 22 is VGA (640 × 480), as in the above example.

まず、フリッカ検出部70は、CMOSセンサ12、22から、それぞれ1フレームの画像データを取得する(ステップS100)と、二つの画像データからフリッカが検出されたか否かを判断する(ステップS102)。フリッカが検出されなかった場合(ステップS102:No)、ステップS100に戻って処理を繰り返す。   First, when the flicker detection unit 70 acquires one frame of image data from the CMOS sensors 12 and 22 (step S100), the flicker detection unit 70 determines whether or not flicker is detected from the two image data (step S102). If no flicker is detected (step S102: No), the process returns to step S100 and the process is repeated.

一方、フリッカが検出された場合(ステップS102:Yes)、タイミング制御部80は、CMOSセンサ12から出力された画像データに対して、ラインごとの輝度の平均値を算出し、記憶部90に記憶する(ステップS104a)。そして、タイミング制御部80は、480ライン分の輝度の平均値を記憶部90に記憶する(ステップS106a)。   On the other hand, when flicker is detected (step S102: Yes), the timing control unit 80 calculates an average value of luminance for each line for the image data output from the CMOS sensor 12, and stores the average value in the storage unit 90. (Step S104a). Then, the timing control unit 80 stores the average value of luminance for 480 lines in the storage unit 90 (step S106a).

同様に、タイミング制御部80は、CMOSセンサ22から出力された画像データに対して、ラインごとの輝度の平均値を算出し、記憶部90に記憶する(ステップS104b)。そして、タイミング制御部80は、480ライン分の輝度の平均値を記憶部90に記憶する(ステップS106b)。   Similarly, the timing control unit 80 calculates an average value of luminance for each line for the image data output from the CMOS sensor 22, and stores the average value in the storage unit 90 (step S104b). Then, the timing control unit 80 stores the average luminance value for 480 lines in the storage unit 90 (step S106b).

次に、タイミング制御部80は、480個の輝度の平均値から、それぞれのラインごとの差分値を算出する(ステップS108)。そして、タイミング制御部80は、480個の差分値のピーク値が、予め定めた閾値以上であるか否かを判断する(ステップS110)。   Next, the timing control unit 80 calculates a difference value for each line from the average value of 480 luminances (step S108). Then, the timing control unit 80 determines whether or not the peak value of the 480 difference values is equal to or greater than a predetermined threshold (step S110).

差分値のピーク値が閾値未満である場合(ステップS110:No)、CMOSセンサ22の撮像タイミングを確定(固定)する(ステップS112)。一方、差分値のピーク値が閾値以上である場合(ステップS110:Yes)、タイミング制御信号により、CMOSセンサ22の撮像タイミングを、1ライン周期分遅くする補正制御を行い(ステップS114)、ステップS100に戻り処理を繰り返す。   When the peak value of the difference value is less than the threshold value (step S110: No), the imaging timing of the CMOS sensor 22 is fixed (fixed) (step S112). On the other hand, when the peak value of the difference value is equal to or greater than the threshold value (step S110: Yes), correction control is performed to delay the imaging timing of the CMOS sensor 22 by one line period based on the timing control signal (step S114). Return to and repeat the process.

このように、本実施の形態にかかるステレオカメラ100は、カメラ部1、2のCMOSセンサ12、22により撮像された二つの画像データからフリッカが検出され、二つの画像データからそれぞれ検出されたフリッカ間で、フリッカによる垂直方向の輝度ムラにズレが生じていると判断した場合、カメラ部2の撮像タイミングを補正制御する。これにより、ステレオカメラ100を構成する二つのCMOSセンサ12、22から出力されるフリッカの発生状態を可能な限り近づけることができ、簡易な構成で、物体認識性能の低下を防ぐことができる。   As described above, in the stereo camera 100 according to the present embodiment, the flicker is detected from the two image data captured by the CMOS sensors 12 and 22 of the camera units 1 and 2, and the flicker detected from the two image data, respectively. In the meantime, when it is determined that there is a deviation in the luminance unevenness in the vertical direction due to flicker, the imaging timing of the camera unit 2 is corrected and controlled. As a result, the flicker generation states output from the two CMOS sensors 12 and 22 constituting the stereo camera 100 can be brought as close as possible, and the object recognition performance can be prevented from being lowered with a simple configuration.

次に、上述の実施の形態のステレオカメラ100を含む車両制御システム200について説明する。図8は、実施の形態にかかるステレオカメラを含む車両制御システムを搭載した自動車を示す図である。なお、自動車は、上述と同様、車両の一例である。図8(a)は、車両制御システムを搭載した自動車の側面図であり、図8(b)は、車両制御システムを搭載した自動車の正面図である。   Next, the vehicle control system 200 including the stereo camera 100 of the above-described embodiment will be described. FIG. 8 is a diagram illustrating an automobile equipped with a vehicle control system including the stereo camera according to the embodiment. An automobile is an example of a vehicle as described above. FIG. 8A is a side view of an automobile equipped with the vehicle control system, and FIG. 8B is a front view of the automobile equipped with the vehicle control system.

図8(a)(b)に示すように、自動車300は、車両制御システム200を備えている。車両制御システム200は、居室空間である車室において設置されたステレオカメラ100と、制御装置6と、ステアリングホイール7と、ブレーキペダル8と、を備えている。   As shown in FIGS. 8A and 8B, the automobile 300 includes a vehicle control system 200. The vehicle control system 200 includes a stereo camera 100 installed in a passenger compartment that is a living room space, a control device 6, a steering wheel 7, and a brake pedal 8.

ステレオカメラ100は、上述したように、カメラ部1およびカメラ部2を備えており、カメラ部1およびカメラ部2は、自動車の進行方向前方の光景を撮像することができるように設置されている。例えば、ステレオカメラ100は、図9に示すように、自動車300のフロントウィンドウ内側のバックミラー近傍に設置されている。   As described above, the stereo camera 100 includes the camera unit 1 and the camera unit 2, and the camera unit 1 and the camera unit 2 are installed so as to capture a scene in front of the traveling direction of the automobile. . For example, the stereo camera 100 is installed in the vicinity of the rearview mirror inside the front window of the automobile 300 as shown in FIG.

制御装置6は、ステレオカメラ100から受信した視差画像の画像データに基づいて求まるステレオカメラ100から被写体までの距離により、各種車両制御を実行する。制御装置6は、車両制御の例として、ステレオカメラ100から受信した視差画像の画像データに基づいて、ステアリングホイール7を含むステアリング系統(制御対象)を制御して障害物を回避するステアリング制御を実行する。また、制御装置6は、車両制御の例として、ステレオカメラ100から受信した視差画像の画像データに基づいて、ブレーキペダル8(制御対象)を制御して自動車300を減速および停止させるブレーキ制御等を実行する。   The control device 6 executes various vehicle controls based on the distance from the stereo camera 100 to the subject obtained based on the parallax image data received from the stereo camera 100. As an example of vehicle control, the control device 6 executes steering control for avoiding an obstacle by controlling a steering system (control target) including the steering wheel 7 based on image data of a parallax image received from the stereo camera 100. To do. Further, as an example of vehicle control, the control device 6 controls the brake pedal 8 (control target) based on the image data of the parallax image received from the stereo camera 100 to perform brake control or the like for decelerating and stopping the automobile 300. Run.

このようなステレオカメラ100および制御装置6を含む車両制御システム200のように、ステアリング制御またはブレーキ制御等の車両制御が実行されることによって、自動車300の運転の安全性を向上することができる。   As in the vehicle control system 200 including the stereo camera 100 and the control device 6 described above, vehicle control such as steering control or brake control is executed, so that the driving safety of the automobile 300 can be improved.

なお、上述のように、ステレオカメラ100は、自動車300の前方を撮像するものとしたが、これに限定されるものではない。すなわち、ステレオカメラ100は、自動車300の後方または側方を撮像するように設置されるものとしてもよい。この場合、ステレオカメラ100は、自動車100の後方の後続車、または側方を並進する他の車両等の位置を検出することができる。そして、制御装置6は、自動車300の車線変更時または車線合流時等における危険を検知して、上述の車両制御を実行することができる。また、制御装置6は、自動車300の駐車時等におけるバック動作において、ステレオカメラ100によって検出された自動車300の後方の障害物の視差画像に基づいて、衝突の危険があると判断した場合に、上述の車両制御を実行することができる。   Note that, as described above, the stereo camera 100 captures an image of the front of the automobile 300, but is not limited thereto. That is, the stereo camera 100 may be installed so as to capture the rear or side of the automobile 300. In this case, the stereo camera 100 can detect the position of a succeeding vehicle behind the automobile 100 or another vehicle that translates laterally. And the control apparatus 6 can detect the danger at the time of the lane change of the motor vehicle 300, or at the time of lane merge, etc., and can perform the above-mentioned vehicle control. Further, when the control device 6 determines that there is a risk of collision based on the parallax image of the obstacle behind the vehicle 300 detected by the stereo camera 100 in the back operation when the vehicle 300 is parked or the like, The vehicle control described above can be executed.

なお、本実施の形態のステレオカメラで実行されるプログラムは、ROM等に予め組み込まれて提供される。本実施の形態のステレオカメラで実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。   Note that the program executed by the stereo camera of the present embodiment is provided by being incorporated in advance in a ROM or the like. The program executed by the stereo camera of the present embodiment is a file in an installable format or an executable format, and is a computer such as a CD-ROM, flexible disk (FD), CD-R, DVD (Digital Versatile Disk). You may comprise so that it may record and provide on a readable recording medium.

さらに、本実施の形態のステレオカメラで実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、本実施の形態のステレオカメラで実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。   Furthermore, the program executed by the stereo camera of the present embodiment may be provided by being stored on a computer connected to a network such as the Internet and downloaded via the network. The program executed by the stereo camera of the present embodiment may be provided or distributed via a network such as the Internet.

本実施の形態のステレオカメラで実行されるプログラムは、上述した各部(輝度画像取得部、視差画像算出部、物体認識処理部、距離算出部、フリッカ検出部、タイミング制御部)を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記ROMからステレオカメラで実行されるプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、上述した各部が主記憶装置上に生成されるようになっている。また、例えば、上述した各部の機能のうちの一部または全部が専用のハードウェア回路で実現されてもよい。   The program executed by the stereo camera of the present embodiment includes a module configuration including the above-described units (luminance image acquisition unit, parallax image calculation unit, object recognition processing unit, distance calculation unit, flicker detection unit, timing control unit). As actual hardware, a CPU (processor) reads out and executes a program executed by the stereo camera from the ROM, and the respective units are loaded onto the main storage device. The above-described units are the main storage device. It is supposed to be generated above. In addition, for example, some or all of the functions of the above-described units may be realized by a dedicated hardware circuit.

1、2 カメラ部
3 本体部
6 制御装置
7 ステアリングホイール
8 ブレーキペダル
11、21 レンズ
12、22 CMOSセンサ
30 輝度画像取得部
40 視差画像算出部
50 物体認識処理部
60 距離算出部
70 フリッカ検出部
80 タイミング制御部
90 記憶部
100 ステレオカメラ
200 車両制御システム
300 自動車(車両)
DESCRIPTION OF SYMBOLS 1, 2 Camera part 3 Main body part 6 Control apparatus 7 Steering wheel 8 Brake pedal 11, 21 Lens 12, 22 CMOS sensor 30 Luminance image acquisition part 40 Parallax image calculation part 50 Object recognition process part 60 Distance calculation part 70 Flicker detection part 80 Timing control unit 90 storage unit 100 stereo camera 200 vehicle control system 300 automobile (vehicle)

特開2013−51523号公報JP 2013-51523 A

Claims (9)

所定領域を撮像する二つの撮像部と、
前記二つの撮像部によって撮像された画像データに基づいて、物体までの距離を算出する距離算出部と、
前記画像データからフリッカを検出するフリッカ検出部と、
前記二つの撮像部によって撮像された画像データからそれぞれ検出されたフリッカ間で、フリッカによる所定方向の輝度の変化状態にズレが生じている場合、前記撮像部の撮像タイミングを補正制御するタイミング制御部と、を備える撮像装置。
Two imaging units for imaging a predetermined area;
A distance calculating unit that calculates a distance to an object based on image data captured by the two imaging units;
A flicker detection unit for detecting flicker from the image data;
A timing control unit that corrects and controls the imaging timing of the imaging unit when there is a shift in the luminance change state in a predetermined direction due to the flicker between the flickers detected from the image data captured by the two imaging units. An imaging device comprising:
前記タイミング制御部は、前記二つの撮像部によって撮像された画像データそれぞれに対して前記所定方向と交差するラインごとの輝度の平均値を算出し、算出した前記平均値のラインごとの差分値を算出し、算出したライン数分の前記差分値のうち最も差が大きい差分値が予め定めた閾値以上であった場合、前記輝度の変化状態にズレが生じていると判断し、前記撮像部の撮像タイミングを補正制御する、請求項1に記載の撮像装置。   The timing control unit calculates an average value of luminance for each line intersecting the predetermined direction for each of image data captured by the two imaging units, and calculates a difference value for each line of the calculated average value. When the difference value having the largest difference among the difference values for the calculated number of lines is equal to or greater than a predetermined threshold value, it is determined that a deviation occurs in the change state of the brightness, and the imaging unit The imaging apparatus according to claim 1, wherein the imaging timing is corrected and controlled. 前記タイミング制御部は、前記二つの撮像部のうち、いずれか一つの前記撮像部に対して撮像タイミングを補正制御する、請求項2に記載の撮像装置。   The imaging apparatus according to claim 2, wherein the timing control unit corrects and controls imaging timing for any one of the two imaging units. 前記タイミング制御部は、1ライン周期分の補正量により、前記撮像部の撮像タイミングを補正制御する、請求項3に記載の撮像装置。   The imaging apparatus according to claim 3, wherein the timing control unit corrects and controls imaging timing of the imaging unit by a correction amount for one line period. 前記タイミング制御部は、前記撮像部の撮像タイミングを補正制御した後、再度前記画像データからフリッカが検出され、前記二つの撮像部によって撮像された画像データの前記輝度の変化状態にズレが生じている場合、再度前記撮像部の撮像タイミングを補正制御する、請求項4に記載の撮像装置。   After the timing control unit corrects and controls the imaging timing of the imaging unit, flicker is detected again from the image data, and a shift occurs in the luminance change state of the image data captured by the two imaging units. The imaging apparatus according to claim 4, wherein when it is, the imaging timing of the imaging unit is corrected and controlled again. 二つの撮像部を備えた撮像装置において実行される撮像方法において、
前記二つの撮像部によって撮像された画像データに基づいて、物体までの距離を算出する距離算出ステップと、
前記二つの画像データからフリッカを検出するフリッカ検出ステップと、
前記二つの画像データからそれぞれ検出されたフリッカ間で、フリッカによる所定方向の輝度の変化状態にズレが生じている場合、前記撮像部の撮像タイミングを補正制御するタイミング制御ステップと、を含む撮像方法。
In an imaging method executed in an imaging device including two imaging units,
A distance calculating step for calculating a distance to the object based on the image data captured by the two imaging units;
A flicker detection step for detecting flicker from the two image data;
A timing control step of correcting and controlling the imaging timing of the imaging unit when there is a deviation in the luminance change state in a predetermined direction due to the flicker between the flickers respectively detected from the two image data .
二つの撮像部によって撮像された画像データに基づいて、物体までの距離を算出する距離算出ステップと、
前記二つの画像データからフリッカを検出するフリッカ検出ステップと、
前記二つの画像データからそれぞれ検出されたフリッカ間で、フリッカによる所定方向の輝度の変化状態にズレが生じている場合、前記撮像部の撮像タイミングを補正制御するタイミング制御ステップと、
をコンピュータに実行させるためのプログラム。
A distance calculating step for calculating the distance to the object based on the image data captured by the two imaging units;
A flicker detection step for detecting flicker from the two image data;
A timing control step of correcting and controlling the imaging timing of the imaging unit when there is a deviation in the luminance change state in a predetermined direction due to the flicker between the flickers detected from the two image data,
A program that causes a computer to execute.
請求項1〜5のいずれか一つに記載の撮像装置と、
前記撮像装置によって算出された前記撮像装置から前記物体までの距離によって、車両を制御する制御装置と、を備える車両制御システム。
The imaging device according to any one of claims 1 to 5,
A vehicle control system comprising: a control device that controls a vehicle according to a distance from the imaging device calculated by the imaging device to the object.
請求項8に記載の車両制御システムを搭載した車両。   A vehicle equipped with the vehicle control system according to claim 8.
JP2015057985A 2015-03-20 2015-03-20 Imaging apparatus, imaging method, program, vehicle control system, and vehicle Active JP6447289B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015057985A JP6447289B2 (en) 2015-03-20 2015-03-20 Imaging apparatus, imaging method, program, vehicle control system, and vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015057985A JP6447289B2 (en) 2015-03-20 2015-03-20 Imaging apparatus, imaging method, program, vehicle control system, and vehicle

Publications (2)

Publication Number Publication Date
JP2016178523A true JP2016178523A (en) 2016-10-06
JP6447289B2 JP6447289B2 (en) 2019-01-09

Family

ID=57071399

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015057985A Active JP6447289B2 (en) 2015-03-20 2015-03-20 Imaging apparatus, imaging method, program, vehicle control system, and vehicle

Country Status (1)

Country Link
JP (1) JP6447289B2 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018125620A (en) * 2017-01-30 2018-08-09 キヤノン株式会社 Solid-state image pickup device
JP2019012752A (en) * 2017-06-29 2019-01-24 キヤノン株式会社 Imaging device, imaging system, and moving body
JP2019012751A (en) * 2017-06-29 2019-01-24 キヤノン株式会社 Imaging device, imaging system, moving body, and method of manufacturing imaging device
JP2019075441A (en) * 2017-10-13 2019-05-16 キヤノン株式会社 Photoelectric conversion device and equipment
JP2019140237A (en) * 2018-02-09 2019-08-22 キヤノン株式会社 Photoelectric conversion device and imaging system
JP2019140251A (en) * 2018-02-09 2019-08-22 キヤノン株式会社 Photoelectric conversion device, imaging system, and mobile
US20220172486A1 (en) * 2019-03-27 2022-06-02 Sony Group Corporation Object detection device, object detection system, and object detection method

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11164192A (en) * 1997-11-27 1999-06-18 Toshiba Corp Image-pickup method and device
JP2012138671A (en) * 2010-12-24 2012-07-19 Kyocera Corp Stereo camera device
JP2013200603A (en) * 2012-03-23 2013-10-03 Hitachi Automotive Systems Ltd In-vehicle image processing device and method
US20150035949A1 (en) * 2013-07-31 2015-02-05 Morpho Method for synchronising several cameras with each other in a photographic system, in particular a stereoscopic photographic system, and photographic system for implementing said method
JP2015042004A (en) * 2013-08-23 2015-03-02 株式会社リコー Imaging apparatus, imaging system, and vehicle

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11164192A (en) * 1997-11-27 1999-06-18 Toshiba Corp Image-pickup method and device
JP2012138671A (en) * 2010-12-24 2012-07-19 Kyocera Corp Stereo camera device
JP2013200603A (en) * 2012-03-23 2013-10-03 Hitachi Automotive Systems Ltd In-vehicle image processing device and method
US20150035949A1 (en) * 2013-07-31 2015-02-05 Morpho Method for synchronising several cameras with each other in a photographic system, in particular a stereoscopic photographic system, and photographic system for implementing said method
JP2015042004A (en) * 2013-08-23 2015-03-02 株式会社リコー Imaging apparatus, imaging system, and vehicle

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018125620A (en) * 2017-01-30 2018-08-09 キヤノン株式会社 Solid-state image pickup device
JP2019012752A (en) * 2017-06-29 2019-01-24 キヤノン株式会社 Imaging device, imaging system, and moving body
JP2019012751A (en) * 2017-06-29 2019-01-24 キヤノン株式会社 Imaging device, imaging system, moving body, and method of manufacturing imaging device
JP7066342B2 (en) 2017-06-29 2022-05-13 キヤノン株式会社 Imaging device, imaging system, moving object
JP7171170B2 (en) 2017-06-29 2022-11-15 キヤノン株式会社 IMAGING DEVICE, IMAGING SYSTEM, MOVING OBJECT, METHOD FOR MANUFACTURING IMAGING DEVICE
JP2019075441A (en) * 2017-10-13 2019-05-16 キヤノン株式会社 Photoelectric conversion device and equipment
JP2019140237A (en) * 2018-02-09 2019-08-22 キヤノン株式会社 Photoelectric conversion device and imaging system
JP2019140251A (en) * 2018-02-09 2019-08-22 キヤノン株式会社 Photoelectric conversion device, imaging system, and mobile
JP7250427B2 (en) 2018-02-09 2023-04-03 キヤノン株式会社 PHOTOELECTRIC CONVERSION DEVICE, IMAGING SYSTEM AND MOVING OBJECT
US11824075B2 (en) 2018-02-09 2023-11-21 Canon Kabushiki Kaisha Photoelectric conversion device having isolation portions, and imaging system and moving body having photoelectric conversion device
US20220172486A1 (en) * 2019-03-27 2022-06-02 Sony Group Corporation Object detection device, object detection system, and object detection method
US11823466B2 (en) * 2019-03-27 2023-11-21 Sony Group Corporation Object detection device, object detection system, and object detection method

Also Published As

Publication number Publication date
JP6447289B2 (en) 2019-01-09

Similar Documents

Publication Publication Date Title
JP6447289B2 (en) Imaging apparatus, imaging method, program, vehicle control system, and vehicle
JP5437855B2 (en) Obstacle detection device, obstacle detection system including the same, and obstacle detection method
US11082626B2 (en) Image processing device, imaging device, and image processing method
JP6325000B2 (en) In-vehicle image recognition device
JP6417729B2 (en) Image processing apparatus, image processing method, program, parallax data production method, device control system
JP6132412B2 (en) Outside environment recognition device
US10719949B2 (en) Method and apparatus for monitoring region around vehicle
JP5629521B2 (en) Obstacle detection system and method, obstacle detection device
US10148938B2 (en) Vehicle-mounted image recognition device to set a stereoscopic-vision and monocular-vision image areas
JP2007257449A (en) Road division line detector
JP2008186342A (en) Monitoring device for outside of vehicle
JP6236039B2 (en) Outside environment recognition device
WO2017134982A1 (en) Imaging device
JP6701253B2 (en) Exterior environment recognition device
JP6420650B2 (en) Outside environment recognition device
JP2017007624A (en) Vehicle external environment recognition apparatus
JP2011096216A5 (en)
JP2009234344A (en) Adjustment device for photographing means and object detection device
JP2014187496A (en) Fault detection device
JP2007096684A (en) Outside environment recognizing device of vehicle
JP2011033594A (en) Distance calculation device for vehicle
EP3637758A1 (en) Image processing device
JP6259335B2 (en) Outside environment recognition device
JP5898535B2 (en) Exposure control device for imaging unit
JP6891082B2 (en) Object distance detector

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181022

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181119

R151 Written notification of patent or utility model registration

Ref document number: 6447289

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151