JP2016176697A - Distance measurement device, distance measurement program, method for distance measurement, and vehicle - Google Patents

Distance measurement device, distance measurement program, method for distance measurement, and vehicle Download PDF

Info

Publication number
JP2016176697A
JP2016176697A JP2015054782A JP2015054782A JP2016176697A JP 2016176697 A JP2016176697 A JP 2016176697A JP 2015054782 A JP2015054782 A JP 2015054782A JP 2015054782 A JP2015054782 A JP 2015054782A JP 2016176697 A JP2016176697 A JP 2016176697A
Authority
JP
Japan
Prior art keywords
distance
image data
information
specific scene
measuring device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015054782A
Other languages
Japanese (ja)
Inventor
圭 伊藤
Kei Ito
圭 伊藤
白石 賢二
Kenji Shiraishi
賢二 白石
盛宏 高木
Morihiro Takagi
盛宏 高木
康紘 野村
Yasuhiro Nomura
康紘 野村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2015054782A priority Critical patent/JP2016176697A/en
Publication of JP2016176697A publication Critical patent/JP2016176697A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Traffic Control Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To determine whether information on a measured distance is valid.SOLUTION: The distance measurement device includes: an imaging unit capturing image data on a subject; a distance measuring unit 1051 acquiring information on a distance from the image data to the subject; a specific-scene recognition unit 1052 determining whether the image data corresponds to a specific scene from neutral network information with image data on the previously captured specific scene learned as teaching data; and a distance information validity determination unit 1053 determining whether the distance information is valid based on the result of determination by the specific-scene recognition unit 1052.SELECTED DRAWING: Figure 4

Description

本発明は、距離測定装置と、距離測定プログラムと、距離測定方法と、車両とに関するものである。   The present invention relates to a distance measuring device, a distance measuring program, a distance measuring method, and a vehicle.

車両の運転支援システムは、撮像装置によって車両前方の物体を検知し、検知された物体との距離を測定して、運転者への報知や車両の運動制御を行う。運転支援システムには、例えば単眼の撮像装置に組み合わせられるレーダー式の距離測定装置や、1対の撮像装置により取得されたステレオ画像から視差を算出するステレオカメラ式の距離測定装置などが搭載されている。   The vehicle driving support system detects an object in front of the vehicle with an imaging device, measures the distance to the detected object, and performs notification to the driver and vehicle motion control. The driving support system includes, for example, a radar-type distance measuring device combined with a monocular imaging device, a stereo camera-type distance measuring device that calculates parallax from a stereo image acquired by a pair of imaging devices, and the like. Yes.

なお、車両の運転支援システムについて、画像から対象車両の光源を認識し先行・対向車両を認識する技術(例えば、特許文献1参照)や、障害物を認識しその動きパターンから障害物を識別する技術が提案されている(例えば、特許文献2参照)。   Regarding vehicle driving support systems, a technology for recognizing a light source of a target vehicle from an image and recognizing a preceding / oncoming vehicle (see, for example, Patent Document 1), or an obstacle is recognized and the obstacle is identified from its movement pattern. A technique has been proposed (see, for example, Patent Document 2).

しかしながら、距離測定装置は、暗所の場合や対象物のコントラストが低い場合など、特定の状況では測定した距離情報の精度が低下してしまう。   However, the distance measuring device has a reduced accuracy of the measured distance information in a specific situation such as in a dark place or when the contrast of the object is low.

本発明は、測定した距離情報が有効であるか否かを判断することができる距離測定装置を提供することを目的とする。   An object of this invention is to provide the distance measuring apparatus which can judge whether the measured distance information is effective.

本発明は、被写体の画像データを取得する撮像部と、画像データから被写体までの距離情報を取得する距離測定部と、あらかじめ撮像された特定シーンの画像データが教師データとして学習されたニューラルネットワーク情報により画像データが特定シーンに該当するか否かを判断する特定シーン認識部と、特定シーン認識部が判断した結果に基づいて距離情報が有効か否かを判断する距離情報有効判断部と、を有することを特徴とする。   The present invention provides an imaging unit that acquires image data of a subject, a distance measurement unit that acquires distance information from the image data to the subject, and neural network information in which image data of a specific scene captured in advance is learned as teacher data A specific scene recognition unit that determines whether or not the image data corresponds to a specific scene, and a distance information validity determination unit that determines whether or not the distance information is valid based on a result determined by the specific scene recognition unit. It is characterized by having.

本発明によれば、測定した距離情報が有効であるか否かを判断することができる。   According to the present invention, it can be determined whether or not the measured distance information is valid.

本発明に係る距離測定装置の実施の形態を示すステレオカメラの斜視図である。It is a perspective view of the stereo camera which shows embodiment of the distance measuring apparatus which concerns on this invention. 図1のステレオカメラを搭載した車両の例を示す正面図である。It is a front view which shows the example of the vehicle carrying the stereo camera of FIG. 図1のステレオカメラのブロック図である。It is a block diagram of the stereo camera of FIG. 距離測定プログラムの機能ブロック図である。It is a functional block diagram of a distance measurement program. 図1のステレオカメラの距離測定原理を説明する模式図である。It is a schematic diagram explaining the distance measurement principle of the stereo camera of FIG. 図1のステレオカメラの視差を示す模式図である。It is a schematic diagram which shows the parallax of the stereo camera of FIG. 図1のステレオカメラの撮像素子の例を示す模式図である。It is a schematic diagram which shows the example of the image pick-up element of the stereo camera of FIG. 図1のステレオカメラの視差の例を示す模式図である。It is a schematic diagram which shows the example of the parallax of the stereo camera of FIG. ニューラルネットワークの概念を示す模式図である。It is a schematic diagram which shows the concept of a neural network. 特定シーンの画像データの例を示す模式図である。It is a schematic diagram which shows the example of the image data of a specific scene. 特定シーンの画像データの別の例を示す模式図である。It is a schematic diagram which shows another example of the image data of a specific scene. 特定シーンの画像データのさらに別の例を示す模式図である。It is a schematic diagram which shows another example of the image data of a specific scene. 特定シーンの画像データのさらに別の例を示す模式図である。It is a schematic diagram which shows another example of the image data of a specific scene. 図1のステレオカメラが取得する画像データの例を示す図である。It is a figure which shows the example of the image data which the stereo camera of FIG. 1 acquires. 距離測定プログラムのフローチャートである。It is a flowchart of a distance measurement program. 距離測定プログラムの特定シーン認識ブロックを示すフローチャートである。It is a flowchart which shows the specific scene recognition block of a distance measurement program. 距離測定プログラムの別の例を示すフローチャートである。It is a flowchart which shows another example of a distance measurement program.

以下、本発明に係る距離測定装置と距離測定プログラムと距離測定方法の実施の形態について、図面を参照しながら説明する。   Hereinafter, embodiments of a distance measuring device, a distance measuring program, and a distance measuring method according to the present invention will be described with reference to the drawings.

●距離測定装置(1)●
本発明に係る距離測定装置の実施の形態であるステレオカメラ100について説明する。
● Distance measuring device (1) ●
A stereo camera 100 that is an embodiment of a distance measuring device according to the present invention will be described.

図1に示すように、ステレオカメラ100は、筐体110から1対の撮像レンズ12a,12bが外部に露出している。ステレオカメラ100は、図2に示すように車両50のフロントガラス51の内側(車室側)上部のインナーリアビューミラー52付近に搭載されている。ステレオカメラ100の取付位置は、上述の位置に限定されず、車両50の進行方向前方の車両外の状況を検知することができる位置であればよい。本実施の形態において、車両50の幅方向(紙面左右方向)を車幅方向、紙面を貫く方向を車両進行方向とする。   As shown in FIG. 1, in the stereo camera 100, a pair of imaging lenses 12a and 12b is exposed to the outside from a housing 110. As shown in FIG. 2, the stereo camera 100 is mounted in the vicinity of the inner rear view mirror 52 on the inner side (vehicle compartment side) of the windshield 51 of the vehicle 50. The mounting position of the stereo camera 100 is not limited to the above-described position, and may be any position that can detect a situation outside the vehicle ahead of the traveling direction of the vehicle 50. In the present embodiment, the width direction of the vehicle 50 (the left-right direction on the paper surface) is the vehicle width direction, and the direction passing through the paper surface is the vehicle traveling direction.

ステレオカメラ100は、測定対象との距離が変化する物体に設置される。ステレオカメラ100は、車両50に限定されず、船舶、鉄道等の移動体、FA(Factory Automation)用途の場合には建物などの固定物にも設置することができる。ステレオカメラ100は、後述するように撮像した被写体を含む画像データから被写体(測定対象)までの距離を求める(距離情報を取得する)。ステレオカメラ100の測定対象は、他の移動体や人物や動物などであり、ステレオカメラ100が移動体に設置される場合には移動体の進行方向にある固定物である。   The stereo camera 100 is installed on an object whose distance to the measurement object changes. The stereo camera 100 is not limited to the vehicle 50, and can also be installed on a moving object such as a ship or a railway, or a fixed object such as a building in the case of FA (Factory Automation). The stereo camera 100 obtains a distance from the image data including the imaged subject to the subject (measurement target) as described later (acquires distance information). The measurement target of the stereo camera 100 is another moving body, a person, an animal, or the like, and when the stereo camera 100 is installed on the moving body, it is a fixed object in the traveling direction of the moving body.

●ステレオカメラのブロック
図3のブロック図に示すように、ステレオカメラ100は、カメラ100−1,100−2と、プロセッサ103とを有する。また、ステレオカメラ100は、SDRAM(Synchronous Dynamic Random Access Memory)104と、ROM(Read Only Memory)105とを有する。また、ステレオカメラ100は、温度センサ106と、車両情報取得部107と、内蔵メモリ108とを有する。
Stereo Camera Block As shown in the block diagram of FIG. 3, the stereo camera 100 includes cameras 100-1 and 100-2 and a processor 103. The stereo camera 100 includes an SDRAM (Synchronous Dynamic Random Access Memory) 104 and a ROM (Read Only Memory) 105. In addition, the stereo camera 100 includes a temperature sensor 106, a vehicle information acquisition unit 107, and a built-in memory 108.

カメラ100−1,100−2は、1対の撮像部として距離測定に用いる1対の被写体の画像データを取得する。カメラ100−1,100−2は、撮像レンズ12a,12bと、CCD(Charge Coupled Device)101−1,101−2を備える。またカメラ100−1,100−2は、F/E(Front/End)−IC(Integrated Circuit)102−1,102−2を備える。   The cameras 100-1 and 100-2 acquire image data of a pair of subjects used for distance measurement as a pair of imaging units. The cameras 100-1 and 100-2 include imaging lenses 12a and 12b and CCDs (Charge Coupled Devices) 101-1 and 101-2. The cameras 100-1 and 100-2 include F / E (Front / End) -IC (Integrated Circuit) 102-1 and 102-2.

撮像レンズ12a,12bは、光を通過させてCCD101−1,101−2の受光面上に被写体像を結像させる。撮像レンズ12a,12bは、同じ形状で焦点距離が等しく、それぞれの光軸が車両進行方向に対して平行である。ステレオカメラ100において、撮像レンズ12a,12bの光軸の間隔を基線長Dという。   The imaging lenses 12a and 12b allow light to pass through and form subject images on the light receiving surfaces of the CCDs 101-1 and 101-2. The imaging lenses 12a and 12b have the same shape and the same focal length, and their optical axes are parallel to the vehicle traveling direction. In the stereo camera 100, the interval between the optical axes of the imaging lenses 12a and 12b is referred to as a baseline length D.

CCD101−1,101−2は、撮像レンズ12a,12bにより結像された被写体像を電気的な画像データに変換してF/E−IC102−1,102−2に出力する撮像素子の一例である。撮像素子は、CCD101−1,101−2に限定されず、例えばCMOS(Complementary Metal Oxide Semiconductor)などの各種光電変換素子を用いることができる。   The CCDs 101-1 and 101-2 are examples of image sensors that convert subject images formed by the imaging lenses 12a and 12b into electrical image data and output the electrical image data to the F / E-ICs 102-1 and 102-2. is there. The image sensor is not limited to the CCDs 101-1 and 101-2, and various photoelectric conversion elements such as CMOS (Complementary Metal Oxide Semiconductor) can be used.

F/E−IC102−1,102−2は、CCD101−1,101−2が生成した画像データに対して所定の処理を施しデジタル信号に変換する。デジタル信号に変換された画像データは、プロセッサ103に転送される。   The F / E-ICs 102-1 and 102-2 perform predetermined processing on the image data generated by the CCDs 101-1 and 101-2 and convert the image data into digital signals. The image data converted into the digital signal is transferred to the processor 103.

プロセッサ103は、カメラ100−1,100−2から受信した画像データに対して画像処理を行う。プロセッサ103は、CCD信号処理ブロック103−1と、メモリコントローラブロック103−2と、CPU(Central Processing Unit)ブロック103−3と、外部I/Fブロック103−4とを有する。これら各ブロックは相互にバスラインで接続されている。   The processor 103 performs image processing on the image data received from the cameras 100-1 and 100-2. The processor 103 includes a CCD signal processing block 103-1, a memory controller block 103-2, a CPU (Central Processing Unit) block 103-3, and an external I / F block 103-4. These blocks are connected to each other via a bus line.

CCD信号処理ブロック103−1は、F/E−IC102−1,102−2から入力されたデジタル画像データに対して、ホワイトバランス調整およびγ調整等の信号処理を行うとともに、VD信号およびHD信号を出力する。   The CCD signal processing block 103-1 performs signal processing such as white balance adjustment and γ adjustment on the digital image data input from the F / E-ICs 102-1 and 102-2, as well as VD signals and HD signals. Is output.

メモリコントローラブロック103−2は、CCD信号処理ブロック103−1が処理した画像データをSDRAM104に記憶させるための処理を行う。   The memory controller block 103-2 performs processing for storing the image data processed by the CCD signal processing block 103-1 in the SDRAM 104.

CPUブロック103−3は、プログラムを実行可能なコンピュータの一例であり、ROM105に記憶された距離測定プログラムを読み出して以下に説明する距離測定方法を実行する。距離測定プログラムは、あらかじめROM105に記憶される。距離測定プログラムは、外部メモリまたはネットワークを介してダウンロードしてROM105に読み込ませてもよい。   The CPU block 103-3 is an example of a computer that can execute a program. The CPU block 103-3 reads a distance measurement program stored in the ROM 105 and executes a distance measurement method described below. The distance measurement program is stored in the ROM 105 in advance. The distance measurement program may be downloaded via an external memory or a network and read into the ROM 105.

外部I/Fブロック103−4は、プロセッサ103の外部に接続されている温度センサ106と車両情報取得部107の動作を制御する。   The external I / F block 103-4 controls the operation of the temperature sensor 106 and the vehicle information acquisition unit 107 connected to the outside of the processor 103.

温度センサ106は、ステレオカメラ100の内部の温度情報を取得する。車両情報取得部107は、車両50の車両制御装置に接続して車速・ヨーレート等の車両情報を取得する。内蔵メモリ108は、温度センサ106から取得した温度情報と車両情報取得部107から取得した車両情報等を格納する。   The temperature sensor 106 acquires temperature information inside the stereo camera 100. The vehicle information acquisition unit 107 is connected to the vehicle control device of the vehicle 50 and acquires vehicle information such as vehicle speed and yaw rate. The built-in memory 108 stores temperature information acquired from the temperature sensor 106, vehicle information acquired from the vehicle information acquisition unit 107, and the like.

カメラ100―1,100−2は、CCD信号処理ブロック103−1からF/E−IC102−1,102−2に送られる垂直駆動信号(VD信号)/水平駆動信号(HD信号)/クロック信号(CLK信号)により制御される。CCD101−1,101−2が画像信号を取得するタイミングは、VD信号に同期している。ステレオカメラ100では、VD信号の間隔に基づいて1対のカメラ100―1,100−2が画像データを生成し、生成した画像データをSDRAM104に格納している。   The cameras 100-1 and 100-2 have a vertical drive signal (VD signal) / horizontal drive signal (HD signal) / clock signal sent from the CCD signal processing block 103-1 to the F / E-ICs 102-1 and 102-2. Controlled by (CLK signal). The timing at which the CCDs 101-1 and 101-2 acquire the image signal is synchronized with the VD signal. In the stereo camera 100, the pair of cameras 100-1 and 100-2 generate image data based on the interval of the VD signals, and the generated image data is stored in the SDRAM 104.

ROM105に格納されている距離測定プログラムを実行することにより、CPUブロック103−3は、図4に示す機能ブロックを実現する。CPUブロック103−3は、距離測定ブロック1051と、特定シーン認識ブロック1052と、距離情報有効判断ブロック1053とを実現している。各機能ブロックの機能と距離測定プログラムにより実行される距離測定方法の流れについては後述する。   By executing the distance measurement program stored in the ROM 105, the CPU block 103-3 realizes the functional blocks shown in FIG. The CPU block 103-3 realizes a distance measurement block 1051, a specific scene recognition block 1052, and a distance information validity determination block 1053. The function of each functional block and the flow of the distance measurement method executed by the distance measurement program will be described later.

●距離測定処理
距離測定ブロック1051により実行される距離測定の原理について説明する。図5に示す同一構成の光学系からなる1対のカメラ112a,112bにより被写体111とレンズ113a,113bの任意の点(例えば主点)との距離Aを測定する場合を例に挙げる。距離測定ブロック1051は、距離測定部に対応する。
Distance measurement process The principle of distance measurement executed by the distance measurement block 1051 will be described. An example in which the distance A between the subject 111 and an arbitrary point (for example, the main point) of the lenses 113a and 113b is measured by a pair of cameras 112a and 112b having the same configuration of the optical system shown in FIG. The distance measurement block 1051 corresponds to a distance measurement unit.

1対のカメラ112a,112bは、レンズ113a,113bと、撮像素子の一例であるラインセンサ115a,115bとを備え、ともに基台116に取り付けられている。カメラ112a,112bは、ともに光軸が車両進行方向と平行に配置されている。また、カメラ112a,112bの光軸は、車幅方向に基線長Dだけ離れて配置されている。   The pair of cameras 112a and 112b includes lenses 113a and 113b and line sensors 115a and 115b, which are examples of imaging elements, and are both attached to the base 116. The cameras 112a and 112b are both arranged with the optical axis parallel to the vehicle traveling direction. Further, the optical axes of the cameras 112a and 112b are arranged apart from each other by the base line length D in the vehicle width direction.

図5と図6に示すように、レンズ113aを通して得た被写体111の被写体像114aと、レンズ113bを通して得た被写体111の被写体像114bとは、被写体111上の同一点が視差Δだけずれてラインセンサ115a,115bにそれぞれ到達する。ラインセンサ115a,115bに到達した光は、ラインセンサ115a,115bの複数の撮像素子(画素)により受光され、上述のように電気信号に変換される。   As shown in FIG. 5 and FIG. 6, the subject image 114a of the subject 111 obtained through the lens 113a and the subject image 114b of the subject 111 obtained through the lens 113b are lined with the same point on the subject 111 shifted by the parallax Δ. Reach the sensors 115a and 115b, respectively. The light reaching the line sensors 115a and 115b is received by a plurality of image sensors (pixels) of the line sensors 115a and 115b and converted into electric signals as described above.

レンズ113a,113bの焦点距離をfとしたとき、レンズ113a,113bの基線長Dと被写体111とレンズ113a,113bとの距離Aから、A≫fであるときには以下の式(1)が成り立つ。   When the focal length of the lenses 113a and 113b is f, the following expression (1) is established when A >> f from the base line length D of the lenses 113a and 113b and the distance A between the subject 111 and the lenses 113a and 113b.

A=Df/Δ ・・・(1)   A = Df / Δ (1)

基線長Dとレンズ113a,113bの焦点距離fは既知であるから、式(1)と三角測量の原理より視差Δを検出すれば被写体111までの距離Aを算出することができる。ラインセンサ115a,115bは、解像度が高いレンズ113a,113bの視野の中心部付近に配置されているため、視野の中心部付近で焦点合わせが行われる。   Since the base length D and the focal length f of the lenses 113a and 113b are known, the distance A to the subject 111 can be calculated by detecting the parallax Δ from the equation (1) and the principle of triangulation. Since the line sensors 115a and 115b are disposed near the center of the field of view of the lenses 113a and 113b having high resolution, focusing is performed near the center of the field of view.

ステレオカメラ100は、図7に示すように車両進行方向に垂直な2方向(車幅方向と車高方向)に複数の撮像素子のエリアA,aが構成されているCCD101−1,101−2を有していて、以上説明した距離測定の原理を2次元に展開して実現させている。   As shown in FIG. 7, the stereo camera 100 includes CCDs 101-1 and 101-2 in which areas A and a of a plurality of image sensors are configured in two directions (vehicle width direction and vehicle height direction) perpendicular to the vehicle traveling direction. The distance measuring principle explained above is two-dimensionally developed and realized.

ステレオカメラ100では、距離測定ブロック1051が各エリアに対して、CCD101−1,101−2の視差Δを求める。視差Δを求めるため、距離測定ブロック1051は、図8に示すようにCCD101−1のエリアaに対応するCCD101−2のエリアAとの位置の差dAを、例えば水平方向の数画素ごとに求める。距離測定ブロック1051では、差dAが最も小さい位置をそのエリアの視差とする。   In the stereo camera 100, the distance measurement block 1051 calculates the parallax Δ of the CCDs 101-1 and 101-2 for each area. In order to obtain the parallax Δ, the distance measurement block 1051 obtains a position difference dA from the area A of the CCD 101-2 corresponding to the area a of the CCD 101-1 as shown in FIG. . In the distance measurement block 1051, the position where the difference dA is the smallest is set as the parallax of the area.

エリアごとの視差の取得範囲をCCD101−1,101−2の画素全体に展開することにより、距離測定ブロック1051は、画素単位の視差Δを取得することができる。距離測定ブロック1051は、その視差Δを上記式(1)に代入することにより、画素単位で距離Aを求めることができる。   The distance measurement block 1051 can acquire the parallax Δ in units of pixels by expanding the parallax acquisition range for each area to the entire pixels of the CCDs 101-1 and 101-2. The distance measurement block 1051 can obtain the distance A in units of pixels by substituting the parallax Δ into the above equation (1).

●特定シーン認識処理
特定シーン認識ブロック1052は、あらかじめ撮像された特定シーンの画像データを教師データとして学習したニューラルネットワーク情報に基づいて、取得された画像データが特定シーンに該当するか否かを判断する。特定シーン認識ブロック1052は、特定シーン認識部に対応する。
Specific scene recognition processing The specific scene recognition block 1052 determines whether or not the acquired image data corresponds to a specific scene based on neural network information obtained by learning image data of a specific scene captured in advance as teacher data. To do. The specific scene recognition block 1052 corresponds to a specific scene recognition unit.

図9に示すように、特定シーン認識ブロック1052で用いるニューラルネットワークのディープラーニング構造は、入力層Iとして画像データ、出力層Oとして学習するシーンの認識率を出力する。入力層Iと出力層Oとの間の隠れ層Hは、多数の層を持つことが特徴である。このように多数の隠れ層Oを持つことから、ディープラーニング構造と称される。入力層Iと出力層Oと隠れ層Oの各層は、ニューロンをモデル化したノードnを有する。   As shown in FIG. 9, the deep learning structure of the neural network used in the specific scene recognition block 1052 outputs image data as the input layer I and the recognition rate of the scene to be learned as the output layer O. The hidden layer H between the input layer I and the output layer O is characterized by having a large number of layers. Such a large number of hidden layers O is referred to as a deep learning structure. Each of the input layer I, the output layer O, and the hidden layer O has a node n that models a neuron.

特定シーン認識ブロック1052であらかじめ学習させる特定シーンの画像データは、例えばステレオカメラ100が視差Δを取得することが難しいため被写体111との距離Aを取得することが難しい状況(シーン)である。また、特定シーンの画像データは、例えばステレオカメラ100が高い精度の視差Δを取得することができないため被写体111との距離Aの精度が低くなってしまうシーンである。そして、特定シーンの画像データは、いずれも距離Aを取得することが難しいことに加えて、距離Aを誤認識した場合に車両50が誤って走行することを回避させたいシーンである。特定シーンには、距離情報の精度を低下させる状況に関する画像データを含む。特定シーンの画像データには、例えば以下に示すような距離情報を取得する際に支障となる物体(支障物)が被写体として含まれている。   The image data of the specific scene to be learned in advance by the specific scene recognition block 1052 is a situation (scene) in which it is difficult to acquire the distance A from the subject 111 because the stereo camera 100 is difficult to acquire the parallax Δ, for example. Further, the image data of the specific scene is a scene in which the accuracy of the distance A from the subject 111 is low because the stereo camera 100 cannot acquire the parallax Δ with high accuracy, for example. In addition, it is difficult to acquire the distance A in all of the image data of the specific scene, and in addition, it is a scene that the vehicle 50 wants to avoid erroneously traveling when the distance A is erroneously recognized. The specific scene includes image data regarding a situation in which the accuracy of the distance information is reduced. The image data of the specific scene includes, as a subject, an object (obstruction) that hinders the acquisition of distance information as shown below, for example.

図10は、特定シーンの画像データの例であり、特定シーン認識ブロック1052にフェンス600があるシーンを学習させるための画像データである。フェンス600が被写体として含まれる画像データは、コントラストが低いことと、フェンス600の網目の間隔が狭く繰り返し高い周波数の物体があることとにより、視差Δを取得することが難しい。   FIG. 10 is an example of image data of a specific scene, and is image data for learning a scene having the fence 600 in the specific scene recognition block 1052. The image data including the fence 600 as a subject is difficult to acquire the parallax Δ due to the low contrast and the presence of objects with a high frequency and a narrow interval between the meshes of the fence 600.

図11は、特定シーンの画像データの別の例であり、特定シーン認識ブロック1052にシャッター700があるシーンを学習させるための画像データである。シャッター700が被写体として含まれる画像データは、コントラストが低くなるため視差Δを取得することが難しい。   FIG. 11 is another example of image data of a specific scene, and is image data for learning a scene where the specific scene recognition block 1052 has the shutter 700. Image data including the shutter 700 as a subject has a low contrast, so it is difficult to obtain the parallax Δ.

図12は、特定シーンの画像データのさらに別の例であり、特定シーン認識ブロック1052にフェンス800があるシーンを学習させるための画像データである。   FIG. 12 is still another example of image data of a specific scene, and is image data for learning a scene having the fence 800 in the specific scene recognition block 1052.

図13は、特定シーンの画像データのさらに別の例であり、特定シーン認識ブロック1052に開閉途中のシャッター(遮断扉)700があるシーンを学習させるための画像データである。開閉途中のシャッター700が被写体として含まれる画像データは、開閉時の隙間から車両900などの遠方の被写体を認識してしまうことがあるため、視差Δを取得することが難しい。   FIG. 13 shows still another example of image data of a specific scene, which is image data for causing a specific scene recognition block 1052 to learn a scene having a shutter (blocking door) 700 being opened and closed. Since image data including the shutter 700 in the middle of opening and closing as a subject may recognize a far subject such as the vehicle 900 from the gap at the time of opening and closing, it is difficult to obtain the parallax Δ.

以上のような様々な特定シーンの画像データを多数学習させることにより、特定シーン認識ブロック1052は、距離測定ブロック1051において取得した画像データから特定シーンであるか否かを判断することができる。多量の特定シーンの画像データには、画像の明るさが異なるものを含めて特定シーン認識ブロック1052に学習させると、暗所で取得された画像データについても特定シーンであるか否かを判断することができる。また、多量の特定シーンの画像データには、フェンス600などの支障物の種類や映り方が異なるものを含めて特定シーン認識ブロック1052に学習させると、様々なシーンで取得された画像データについても特定シーンであるか否かを判断することができる。   By learning a large number of image data of various specific scenes as described above, the specific scene recognition block 1052 can determine whether or not it is a specific scene from the image data acquired in the distance measurement block 1051. When the specific scene recognition block 1052 learns a large amount of image data of a specific scene including those having different image brightness, it is determined whether or not the image data acquired in a dark place is also a specific scene. be able to. In addition, when the specific scene recognition block 1052 learns a large amount of image data of specific scenes including obstacles such as the fence 600 that differ in the type and way of reflection, image data acquired in various scenes is also acquired. It can be determined whether or not the scene is a specific scene.

特定シーン認識ブロック1052には、上述のような特定シーンの画像データとともに、図14に示すような通常の走行中に得られるシーンの画像データ200も学習させている。このような通常の走行中に得られるシーンの画像データを学習することにより、特定シーン認識ブロック1052は、特定シーンではない画像データと特定シーンの画像データとの認識率が向上する。   The specific scene recognition block 1052 also learns the image data 200 of the scene obtained during normal driving as shown in FIG. 14 together with the image data of the specific scene as described above. By learning the image data of the scene obtained during such normal running, the specific scene recognition block 1052 improves the recognition rate between image data that is not a specific scene and image data of the specific scene.

●距離情報有効判断処理
距離情報有効判断ブロック1053は、特定シーン認識ブロック1052により特定シーンの画像データであるか否かの認識処理の結果に基づいて、その画像データにより取得された距離情報が有効であるか否かを判断する。距離情報有効判断ブロック1053は、距離情報有効判断部に対応する。
Distance information validity judgment process The distance information validity judgment block 1053 is based on the result of the recognition process of whether or not the specific scene recognition block 1052 is the image data of the specific scene, and the distance information acquired from the image data is valid. It is determined whether or not. The distance information validity determination block 1053 corresponds to a distance information validity determination unit.

距離情報有効判断ブロック1053は、特定シーン認識ブロック1052により被写体111との距離Aの精度が低い状況などである特定シーンの画像データであると認識された画像データについて、距離情報が有効ではないと判断する。距離情報有効判断ブロック1053は、距離情報が有効ではないと判断した場合には、そのことを示す情報(シーンNG情報)を車両50の車両制御装置に出力する。   The distance information validity determination block 1053 indicates that the distance information is not valid for the image data recognized by the specific scene recognition block 1052 as the image data of the specific scene in which the accuracy of the distance A from the subject 111 is low. to decide. When the distance information validity determination block 1053 determines that the distance information is not valid, the distance information validity determination block 1053 outputs information indicating the fact (scene NG information) to the vehicle control device of the vehicle 50.

また、距離情報有効判断ブロック1053は、特定シーン認識ブロック1052により特定シーンの画像データではないと認識された画像データについて、距離情報が有効であると判断する。距離情報有効判断ブロック1053は、距離情報が有効であると判断した場合には、そのことを示す情報(シーンOK情報)を車両50の車両制御装置に出力する。   The distance information validity determination block 1053 determines that the distance information is valid for the image data recognized by the specific scene recognition block 1052 as not being image data of the specific scene. If the distance information validity determination block 1053 determines that the distance information is valid, the distance information validity determination block 1053 outputs information indicating that fact (scene OK information) to the vehicle control device of the vehicle 50.

距離情報有効判断ブロック1053からのシーンOK情報またはシーンNG情報を受信した車両制御装置では、これらの情報に基づいて運転支援システムの動作を行う。車両制御装置では、シーンNG情報を受信した場合には、運転支援システムに用いる距離情報が取得できていないと判断して、運転支援システムの動作を停止する、あるいは距離情報が取得できていない旨を運転者に報知するなどの処理を行う。   The vehicle control device that has received the scene OK information or the scene NG information from the distance information validity determination block 1053 operates the driving support system based on these information. In the vehicle control device, when the scene NG information is received, it is determined that the distance information used for the driving support system cannot be acquired, and the operation of the driving support system is stopped, or the distance information cannot be acquired. To notify the driver.

距離情報有効判断ブロック1053は、特定シーン認識ブロック1052が判断した結果に加えて、ステレオカメラ100の環境に関する情報である環境情報に基づいて距離情報が有効か否かを判断してもよい。環境情報は、例えばステレオカメラ100が起動後の経過時間、温度センサ106から取得したステレオカメラ100内部の温度情報、画像データの輝度値、車両情報取得部107から取得した車両50の車速などが挙げられる。   The distance information validity determination block 1053 may determine whether or not the distance information is valid based on environment information that is information related to the environment of the stereo camera 100 in addition to the result determined by the specific scene recognition block 1052. The environmental information includes, for example, the elapsed time after the stereo camera 100 is activated, the temperature information inside the stereo camera 100 acquired from the temperature sensor 106, the luminance value of the image data, the vehicle speed of the vehicle 50 acquired from the vehicle information acquisition unit 107, and the like. It is done.

ステレオカメラ100の起動後の経過時間が短い場合には、ステレオカメラ100が搭載される車両50も始動直後であるため、車庫や駐車場などに位置している場合が多い。このような場所に車両50がある場合に、ステレオカメラ100により取得される画像データは、上述の特定シーンの画像データである可能性が高いため、距離情報が有効ではない可能性が高い。また、ステレオカメラ100の内部の温度が高い場合にも、距離情報の測定精度に影響が出る場合があるため、距離情報が有効ではない場合がある。また、取得した画像データの輝度値が低い場合にも、上述のように距離情報を取得することが難しい。   When the elapsed time after the activation of the stereo camera 100 is short, the vehicle 50 on which the stereo camera 100 is mounted is also immediately after starting, and is often located in a garage or a parking lot. When the vehicle 50 is in such a place, the image data acquired by the stereo camera 100 is highly likely to be the image data of the specific scene described above, and therefore it is highly likely that the distance information is not effective. Further, even when the temperature inside the stereo camera 100 is high, the distance information may not be effective because the measurement accuracy of the distance information may be affected. Further, it is difficult to acquire distance information as described above even when the luminance value of the acquired image data is low.

距離情報有効判断ブロック1053は、以上のような環境情報に基づいて距離情報が有効であるか否かを判断することによって、距離情報有効判断処理の精度をさらに向上させることができる。   The distance information validity determination block 1053 can further improve the accuracy of the distance information validity determination process by determining whether the distance information is valid based on the environmental information as described above.

●距離測定方法(1)●
CPUブロック103−3に距離測定プログラムを実行させることでステレオカメラ100により実現される、以上説明した各機能ブロックにより行われる距離測定方法の例について、図15に示すフローチャートで説明する。
● Distance measurement method (1) ●
An example of the distance measurement method performed by each functional block described above, which is realized by the stereo camera 100 by causing the CPU block 103-3 to execute the distance measurement program, will be described with reference to the flowchart shown in FIG.

距離測定ブロック1051は、カメラ100―1,100−2から送信される画像信号のタイミングを取るために、VD信号を受信するのを待つ(15−1)。   The distance measurement block 1051 waits to receive a VD signal in order to take a timing of image signals transmitted from the cameras 100-1 and 100-2 (15-1).

VD信号が受信されると、距離測定ブロック1051は、カメラ100―1,100−2からSDRAM104に格納された画像データを用いて、距離情報を取得する測距処理を行う(15−2)。   When the VD signal is received, the distance measurement block 1051 performs distance measurement processing for acquiring distance information using image data stored in the SDRAM 104 from the cameras 100-1 and 100-2 (15-2).

距離情報有効判断ブロック1053は、外部I/Fブロック103−4を介して車両情報取得部107から入力された車両情報(起動後の経過時間、車速情報)を取得する(15−3)。距離情報有効判断ブロック1053は、取得した車両情報に基づいて、車両が起動直後(起動後の経過時間が所定時間以内)か否かを判断する(15−4)。   The distance information validity determination block 1053 acquires vehicle information (elapsed time after startup, vehicle speed information) input from the vehicle information acquisition unit 107 via the external I / F block 103-4 (15-3). Based on the acquired vehicle information, the distance information validity determination block 1053 determines whether or not the vehicle is immediately after startup (the elapsed time after startup is within a predetermined time) (15-4).

車両が起動直後ではない場合に(15−4:NO)、距離情報有効判断ブロック1053は、取得した車両情報に基づいて、車両が停止中(車速が所定の速度以下)か否かを判断する(15−9)。   When the vehicle is not immediately after starting (15-4: NO), the distance information validity determination block 1053 determines whether the vehicle is stopped (the vehicle speed is equal to or lower than a predetermined speed) based on the acquired vehicle information. (15-9).

車両が起動直後である場合(15−4:YES)、または車両が起動直後ではないが(15−4:NO)停止中(15−9:YES)である場合に、特定シーン認識ブロック1052は、測距処理を行った画像データのシーンを認識する(15−5)。   When the vehicle is immediately after starting (15-4: YES), or when the vehicle is not immediately after starting (15-4: NO) and is stopped (15-9: YES), the specific scene recognition block 1052 is Then, the scene of the image data subjected to the distance measurement process is recognized (15-5).

取得した画像データのシーンを認識後、特定シーン認識ブロック1052は、ニューラルネットワークの教師データとして与えられている特定シーンの画像データに基づいて取得した画像データのシーンが特定シーンに該当するか否かを判断する(15−6)。   After recognizing the scene of the acquired image data, the specific scene recognition block 1052 determines whether the scene of the image data acquired based on the image data of the specific scene given as teacher data of the neural network corresponds to the specific scene. (15-6).

特定シーンに該当するか否かの処理は、図16に示すフローチャートに沿って行われる。特定シーン認識ブロック1052では、取得した画像データが図14に示した走行シーンに該当するか否かを判断する(16−1)。   The process for determining whether or not the scene corresponds to the specific scene is performed according to the flowchart shown in FIG. In the specific scene recognition block 1052, it is determined whether or not the acquired image data corresponds to the traveling scene shown in FIG. 14 (16-1).

特定シーン認識ブロック1052では、取得した画像データが走行シーンに該当しないと判断した場合には(16−1:NO)、取得した画像データが図10から図13に示した特定シーンの画像データに該当するか否かを判断する(16−2)。   In the specific scene recognition block 1052, when it is determined that the acquired image data does not correspond to the traveling scene (16-1: NO), the acquired image data is converted into the specific scene image data shown in FIGS. It is determined whether or not this is true (16-2).

取得した画像データが走行シーンと判断された場合(16−1:YES)、または特定シーンではないと判断された場合には(16−3:NO)、取得した画像データは距離情報を取得できるシーン(シーンOK)であると判断される(16−2)。   When it is determined that the acquired image data is a traveling scene (16-1: YES), or when it is determined that it is not a specific scene (16-3: NO), the acquired image data can acquire distance information. It is determined that the scene is a scene (scene OK) (16-2).

特定シーンであると判断された場合には(16−3:YES)、取得した画像データは距離情報を取得するのが難しいシーン(シーンNG)であると判断される(16−4)。   When it is determined that the scene is a specific scene (16-3: YES), it is determined that the acquired image data is a scene (scene NG) where it is difficult to acquire distance information (16-4).

取得した画像データについて特定シーン認識処理が終了した後、距離情報有効判断ブロック1053では、認識結果に基づいて距離情報が有効であるか否かを判断する(15−7)。   After the specific scene recognition process is completed for the acquired image data, the distance information validity determination block 1053 determines whether the distance information is valid based on the recognition result (15-7).

距離情報有効判断処理(15−6)の結果、シーンNG(15−7:YES)の場合には、判断された画像データに基づく測距処理(15−2)の結果には信頼性はないと判断し、距離情報が無効であると判断する(15−8)。また、距離情報有効判断処理(15−6)の結果、シーンOK(15−7:NO)の場合には、判断された画像データに基づく測距処理(15−2)の結果に信頼性があると判断し、距離情報が有効であると判断する(15−10)。   If the result of the distance information validity determination process (15-6) is scene NG (15-7: YES), the result of the distance measurement process (15-2) based on the determined image data is not reliable. It is determined that the distance information is invalid (15-8). If the scene information is OK (15-7: NO) as a result of the distance information validity determination process (15-6), the result of the distance measurement process (15-2) based on the determined image data is reliable. It is determined that the distance information is valid (15-10).

以上説明した距離測定方法によれば、取得した画像データから特定シーンであるか否かを判断して距離情報が有効であるか否かを判断することができる。このため、取得した距離情報を用いる車両50の運転支援システムでは、起動直後や停止中などの状況を適切に認識して運転支援を行うことができる。   According to the distance measurement method described above, it is possible to determine whether the distance information is valid by determining whether the scene is a specific scene from the acquired image data. For this reason, in the driving support system of the vehicle 50 using the acquired distance information, driving support can be performed by appropriately recognizing a situation such as immediately after starting or during a stop.

また、以上説明した距離測定方法によれば、距離情報が有効であるか否かを判断する際に、特定シーン認識処理とともに車両情報に基づいて判断するため、距離情報が有効であるか否かの判断の信頼性をさらに向上させることができる。   In addition, according to the distance measurement method described above, whether or not the distance information is valid is determined based on the vehicle information together with the specific scene recognition process when determining whether or not the distance information is valid. The reliability of the determination can be further improved.

以上説明した実施の形態において、特定シーン認識ブロック1052では、カメラ100−1,カメラ100−2の双方が取得した画像データについて特定シーン認識処理を行っていたが、いずれか一方が取得した画像データについて処理を行ってもよい。また、特定シーン認識ブロック1052は、カメラ100−1,カメラ100−2の双方が取得した画像データについて、双方の画像の認識結果の論理和を取って特定シーン認識処理を行うことで、認識精度を向上させることができる。   In the embodiment described above, the specific scene recognition block 1052 performs the specific scene recognition processing on the image data acquired by both the camera 100-1 and the camera 100-2, but the image data acquired by either one of them. You may process about. The specific scene recognition block 1052 performs a specific scene recognition process on the image data acquired by both the camera 100-1 and the camera 100-2 by taking the logical sum of the recognition results of both images, thereby recognizing accuracy. Can be improved.

●距離測定方法(2)●
CPUブロック103−3に距離測定プログラムを実行させることで実現され、以上説明した各機能ブロックにより行われる距離測定方法の別の例について、図17に示すフローチャートで説明する。
● Distance measurement method (2) ●
Another example of the distance measurement method realized by causing the CPU block 103-3 to execute the distance measurement program and performed by each functional block described above will be described with reference to the flowchart shown in FIG.

距離測定ブロック1051は、カメラ100―1,100−2から送信される画像信号のタイミングをとるために、VD信号を受信するのを待つ(17−1)。   The distance measurement block 1051 waits to receive the VD signal in order to take the timing of the image signals transmitted from the cameras 100-1 and 100-2 (17-1).

VD信号が受信されると、距離測定ブロック1051は、カメラ100―1,100−2からSDRAM104に格納された画像データを用いて、距離情報を取得する測距処理を行う(17−2)。   When the VD signal is received, the distance measurement block 1051 performs distance measurement processing for acquiring distance information using image data stored in the SDRAM 104 from the cameras 100-1 and 100-2 (17-2).

距離情報有効判断ブロック1053は、外部I/Fブロック103−4を介して温度センサ106から入力された温度情報を取得する(17−3)。距離情報有効判断ブロック1053は、取得した温度情報に基づいて、ステレオカメラ100の内部温度の状態を判断する。例えば、距離情報有効判断ブロック1053は、取得した温度情報の変化が所定の範囲(20°C)を上回るか否かを判断する(17−4)。   The distance information validity determination block 1053 acquires temperature information input from the temperature sensor 106 via the external I / F block 103-4 (17-3). The distance information validity determination block 1053 determines the state of the internal temperature of the stereo camera 100 based on the acquired temperature information. For example, the distance information validity determination block 1053 determines whether or not the change in the acquired temperature information exceeds a predetermined range (20 ° C.) (17-4).

温度情報変化が所定の範囲を下回る場合に(17−4:NO)、距離情報有効判断ブロック1053は、判断された画像データに基づく測距処理(17−2)の結果に信頼性があると判断し、距離情報が有効であると判断して処理を終了する(17−9)。   When the temperature information change falls below the predetermined range (17-4: NO), the distance information validity determination block 1053 indicates that the result of the distance measurement process (17-2) based on the determined image data is reliable. It judges, distance information judges that it is effective, and ends processing (17-9).

温度情報変化が所定の範囲を上回る場合に(17−4:YES)に、特定シーン認識ブロック1052は、測距処理を行った画像データのシーンを認識する(17−5)。     When the temperature information change exceeds a predetermined range (17-4: YES), the specific scene recognition block 1052 recognizes the scene of the image data subjected to the distance measurement process (17-5).

取得した画像データのシーンを認識後、特定シーン認識ブロック1052は、ニューラルネットワークの教師データとして与えられている特定シーンの画像データに基づいて取得した画像データのシーンが特定シーンに該当するか否かを判断する(17−6)。   After recognizing the scene of the acquired image data, the specific scene recognition block 1052 determines whether the scene of the image data acquired based on the image data of the specific scene given as teacher data of the neural network corresponds to the specific scene. (17-6).

特定シーンに該当するか否かの処理は、先に図16を用いて説明したフローチャートに沿って行われる。   The process of determining whether or not the scene corresponds to the specific scene is performed according to the flowchart described above with reference to FIG.

取得した画像データについて特定シーン認識処理が終了した後、距離情報有効判断ブロック1053では、認識結果に基づいて距離情報が有効であるか否かを判断する(17−7)。   After the specific scene recognition process is completed for the acquired image data, the distance information validity determination block 1053 determines whether the distance information is valid based on the recognition result (17-7).

距離情報有効判断処理(17−6)の結果、シーンNG(17−7:YES)の場合には、判断された画像データに基づく測距処理(17−2)の結果には信頼性はないと判断し、距離情報が無効であると判断する(17−8)。また、距離情報有効判断処理(17−6)の結果、シーンOK(17−7:NO)の場合には、判断された画像データに基づく測距処理(17−2)の結果に信頼性があると判断し、距離情報が有効であると判断する(17−9)。   If the result of the distance information validity determination process (17-6) is scene NG (17-7: YES), the result of the distance measurement process (17-2) based on the determined image data is not reliable. It is determined that the distance information is invalid (17-8). In the case of scene OK (17-7: NO) as a result of the distance information validity determination process (17-6), the result of the distance measurement process (17-2) based on the determined image data is reliable. It is determined that the distance information is valid (17-9).

以上説明した距離測定方法によれば、取得した画像データから特定シーンであるか否かを判断して距離情報が有効であるか否かを判断することができる。このため、取得した距離情報を用いる車両50の運転支援システムでは、起動直後や停止中などの状況を適切に認識して運転支援を行うことができる。   According to the distance measurement method described above, it is possible to determine whether the distance information is valid by determining whether the scene is a specific scene from the acquired image data. For this reason, in the driving support system of the vehicle 50 using the acquired distance information, driving support can be performed by appropriately recognizing a situation such as immediately after starting or during a stop.

真夏の炎天下など外気温が高い状況で起動直後の場合に、内蔵メモリ108に格納されている直前の温度情報と取得した温度情報との差が大きい場合がある。この場合に、距離測定ブロック1051では、測距結果に誤差が生じる場合がある。温度変化に応じて測距結果の補正を行うことはできるものの、ステレオカメラ100のような精密な機器の場合には、測距結果を補正することが難しい場合がある。   In a situation where the outside air temperature is high, such as under the hot summer sun, and immediately after startup, there may be a large difference between the temperature information just stored in the built-in memory 108 and the acquired temperature information. In this case, the distance measurement block 1051 may cause an error in the distance measurement result. Although the distance measurement result can be corrected in accordance with the temperature change, it may be difficult to correct the distance measurement result in the case of a precise device such as the stereo camera 100.

以上説明した距離測定方法によれば、このような補正することが難しい測距結果については距離情報が有効ではないと判断することにより、距離情報の有効性を向上させることができる。   According to the distance measurement method described above, it is possible to improve the effectiveness of the distance information by determining that the distance information is not effective for such a distance measurement result that is difficult to correct.

100 ステレオカメラ
100−1 カメラ
100−2 カメラ
101−1 CCD
101−2 CCD
102−1 F/E−I/C
102−2 F/E−I/C
103 プロセッサ
103−1 CCD信号処理ブロック
103−2 メモリコントローラブロック
103−3 CPUブロック
103−4 外部I/Fブロック
104 SDRAM
105 ROM
106 温度センサ
107 車両情報取得部
108 内蔵メモリ
111 被写体
116 基台
110 筐体
200 画像データ
50 車両
51 フロントガラス
52 インナーリアビューミラー
600 フェンス
700 シャッター
1051 距離測定ブロック
1052 特定シーン認識ブロック
1053 距離情報有効判断ブロック
100 Stereo Camera 100-1 Camera 100-2 Camera 101-1 CCD
101-2 CCD
102-1 F / E-I / C
102-2 F / E-I / C
103 processor 103-1 CCD signal processing block 103-2 memory controller block 103-3 CPU block 103-4 external I / F block 104 SDRAM
105 ROM
106 Temperature Sensor 107 Vehicle Information Acquisition Unit 108 Built-in Memory 111 Subject 116 Base 110 Case 200 Image Data 50 Vehicle 51 Front Glass 52 Inner Rear View Mirror 600 Fence 700 Shutter 1051 Distance Measurement Block 1052 Specific Scene Recognition Block 1053 Distance Information Validity Judgment Block

特開2013−092975号公報JP2013-092975A 特開2004−145660号公報JP 2004-145660 A

Claims (18)

被写体の画像データを取得する撮像部と、
前記画像データから前記被写体までの距離情報を取得する距離測定部と、
あらかじめ撮像された特定シーンの画像データが教師データとして学習されたニューラルネットワーク情報により前記画像データが前記特定シーンに該当するか否かを判断する特定シーン認識部と、
前記特定シーン認識部が判断した結果に基づいて前記距離情報が有効か否かを判断する距離情報有効判断部と、
を有する距離測定装置。
An imaging unit for acquiring image data of a subject;
A distance measuring unit for acquiring distance information from the image data to the subject;
A specific scene recognition unit that determines whether the image data corresponds to the specific scene based on neural network information in which image data of the specific scene captured in advance is learned as teacher data;
A distance information validity determination unit that determines whether or not the distance information is valid based on a result determined by the specific scene recognition unit;
A distance measuring device.
前記特定シーンには、前記距離情報の精度を低下させる状況における画像データを含む、
請求項1記載の距離測定装置。
The specific scene includes image data in a situation where the accuracy of the distance information is reduced.
The distance measuring device according to claim 1.
前記特定シーンには、前記距離情報を取得する際に支障となる物体である支障物が含まれている、
請求項1または2記載の距離測定装置。
The specific scene includes an obstacle that is an object that hinders the acquisition of the distance information.
The distance measuring device according to claim 1 or 2.
前記距離情報有効判断部は、前記シーン認識部が判断した結果に加えて前記距離測定装置の環境に関する情報である環境情報に基づいて前記距離情報が有効か否かを判断する、
請求項1乃至3のいずれかに記載の距離測定装置。
The distance information validity determination unit determines whether or not the distance information is valid based on environmental information that is information related to the environment of the distance measurement device in addition to the result of the determination by the scene recognition unit.
The distance measuring device according to claim 1.
前記環境情報は、前記距離測定装置が起動後の経過時間である、
請求項4記載の距離測定装置。
The environmental information is an elapsed time after the distance measuring device is activated.
The distance measuring device according to claim 4.
前記環境情報は、前記距離測定装置の温度情報である、
請求項4または5記載の距離測定装置。
The environmental information is temperature information of the distance measuring device.
The distance measuring device according to claim 4 or 5.
前記環境情報は、前記画像データの輝度値である、
請求項3乃至6のいずれかに記載の距離測定装置。
The environmental information is a luminance value of the image data.
The distance measuring device according to claim 3.
前記距離測定装置は車両に搭載され、
前記環境情報は、前記車両から取得する車速である、
請求項4乃至7のいずれかに記載の距離測定装置。
The distance measuring device is mounted on a vehicle,
The environmental information is a vehicle speed acquired from the vehicle.
The distance measuring device according to claim 4.
前記撮像部は、1対の撮像レンズと、前記撮像レンズを通過した前記被写体の光を受光する1対の撮像素子と、を備えるステレオカメラである、
請求項1乃至8のいずれかに記載の距離測定装置。
The imaging unit is a stereo camera including a pair of imaging lenses and a pair of imaging elements that receive light of the subject that has passed through the imaging lens.
The distance measuring device according to claim 1.
被写体の画像データを取得するステップと、
前記画像データから前記被写体までの距離情報を取得するステップと、
あらかじめ撮像された特定シーンの画像データが教師データとして学習されたニューラルネットワーク情報により前記画像データが前記特定シーンに該当するか否かを判断するステップと、
前記特定シーンに該当するか否かを判断した結果に基づいて前記距離情報が有効か否かを判断するステップと、
をコンピュータに実行させる距離測定プログラム。
Obtaining image data of the subject;
Obtaining distance information from the image data to the subject;
Determining whether the image data corresponds to the specific scene based on neural network information in which image data of the specific scene captured in advance is learned as teacher data;
Determining whether the distance information is valid based on a result of determining whether or not the specific scene is applicable;
A distance measurement program that causes a computer to execute.
前記特定シーンには、前記距離情報の精度を低下させる状況における画像データを含む、
請求項10記載の距離測定プログラム。
The specific scene includes image data in a situation where the accuracy of the distance information is reduced.
The distance measurement program according to claim 10.
前記特定シーンには、前記距離情報を取得する際に支障となる物体である支障物が含まれている、
請求項10または11記載の距離測定プログラム。
The specific scene includes an obstacle that is an object that hinders the acquisition of the distance information.
The distance measurement program according to claim 10 or 11.
前記画像データが前記特定シーンに該当するか否かを判断するステップでは、前記特定シーンに該当するか否かを判断した結果に加えて前記距離測定装置の環境に関する情報である環境情報に基づいて前記距離情報が有効か否かを判断する、
請求項10乃至12のいずれかに記載の距離測定プログラム。
In the step of determining whether or not the image data corresponds to the specific scene, in addition to the result of determining whether or not the image data corresponds to the specific scene, based on environmental information that is information about the environment of the distance measuring device Determining whether the distance information is valid;
The distance measurement program according to any one of claims 10 to 12.
被写体の画像データを取得するステップと、
前記画像データから前記被写体までの距離情報を取得するステップと、
あらかじめ撮像された特定シーンの画像データが教師データとして学習されたニューラルネットワーク情報により、前記画像データが前記特定シーンに該当するか否かを判断するステップと、
前記特定シーンに該当するか否かを判断した結果に基づいて前記距離情報が有効か否かを判断するステップと、
を実行する距離測定方法。
Obtaining image data of the subject;
Obtaining distance information from the image data to the subject;
Determining whether the image data corresponds to the specific scene by neural network information in which image data of the specific scene captured in advance is learned as teacher data;
Determining whether the distance information is valid based on a result of determining whether or not the specific scene is applicable;
Perform distance measurement method.
前記特定シーンには、前記距離情報の精度を低下させる状況における画像データを含む、
請求項14記載の距離測定方法。
The specific scene includes image data in a situation where the accuracy of the distance information is reduced.
The distance measuring method according to claim 14.
前記特定シーンには、前記距離情報を取得する際に支障となる物体である支障物が含まれている、
請求項14または15記載の距離測定プログラム。
The specific scene includes an obstacle that is an object that hinders the acquisition of the distance information.
The distance measurement program according to claim 14 or 15.
前記画像データが前記特定シーンに該当するか否かを判断するステップでは、前記特定シーンに該当するか否かを判断した結果に加えて前記距離測定装置の環境に関する情報である環境情報に基づいて前記距離情報が有効か否かを判断する、
請求項14乃至16のいずれかに記載の距離測定方法。
In the step of determining whether or not the image data corresponds to the specific scene, in addition to the result of determining whether or not the image data corresponds to the specific scene, based on environmental information that is information about the environment of the distance measuring device Determining whether the distance information is valid;
The distance measuring method according to claim 14.
車両の進行方向前方の物体までの距離を測定する距離測定装置を有し、
前記距離測定装置は、請求項1乃至9のいずれかに記載の距離測定装置である車両。
It has a distance measuring device that measures the distance to the object in front of the traveling direction of the vehicle,
The said distance measuring device is a vehicle which is the distance measuring device in any one of Claims 1 thru | or 9.
JP2015054782A 2015-03-18 2015-03-18 Distance measurement device, distance measurement program, method for distance measurement, and vehicle Pending JP2016176697A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015054782A JP2016176697A (en) 2015-03-18 2015-03-18 Distance measurement device, distance measurement program, method for distance measurement, and vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015054782A JP2016176697A (en) 2015-03-18 2015-03-18 Distance measurement device, distance measurement program, method for distance measurement, and vehicle

Publications (1)

Publication Number Publication Date
JP2016176697A true JP2016176697A (en) 2016-10-06

Family

ID=57069852

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015054782A Pending JP2016176697A (en) 2015-03-18 2015-03-18 Distance measurement device, distance measurement program, method for distance measurement, and vehicle

Country Status (1)

Country Link
JP (1) JP2016176697A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018194346A (en) * 2017-05-15 2018-12-06 日本電気株式会社 Image processor, method for processing image, and image processing program
WO2021044746A1 (en) * 2019-09-04 2021-03-11 日立オートモティブシステムズ株式会社 Image processing device
KR20210072689A (en) * 2019-12-09 2021-06-17 주식회사 업데이터 Method for creating obstruction detection model using deep learning image recognition and apparatus thereof

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018194346A (en) * 2017-05-15 2018-12-06 日本電気株式会社 Image processor, method for processing image, and image processing program
WO2021044746A1 (en) * 2019-09-04 2021-03-11 日立オートモティブシステムズ株式会社 Image processing device
JP2021039018A (en) * 2019-09-04 2021-03-11 日立オートモティブシステムズ株式会社 Image processing system
JP7297606B2 (en) 2019-09-04 2023-06-26 日立Astemo株式会社 Image processing device
KR20210072689A (en) * 2019-12-09 2021-06-17 주식회사 업데이터 Method for creating obstruction detection model using deep learning image recognition and apparatus thereof
KR102406150B1 (en) * 2019-12-09 2022-06-08 주식회사 업데이터 Method for creating obstruction detection model using deep learning image recognition and apparatus thereof

Similar Documents

Publication Publication Date Title
JP6717534B2 (en) Stereo support with rolling shutter
EP3248374B1 (en) Method and apparatus for multiple technology depth map acquisition and fusion
JP5337170B2 (en) Panorama camera with multiple image sensors using timed shutters
CN107122770B (en) Multi-camera system, intelligent driving system, automobile, method and storage medium
CN113196007B (en) Camera system applied to vehicle
CN110049238B (en) Camera anti-shake system and method, electronic device, and computer-readable storage medium
RU2010122599A (en) IMAGE PROCESSING DEVICE, PHOTOGRAPHY DEVICE, PLAYBACK DEVICE, INTEGRATED SCHEME AND IMAGE PROCESSING METHOD
WO2019036751A1 (en) Enhanced video-based driver monitoring using phase detect sensors
CN104380167A (en) Focus detection device, focus adjustment device, and camera
CN103067656B (en) Camera head and image capture method
CN102572235A (en) Imaging device, image processing method and computer program
WO2013080697A1 (en) Image processing device, image processing method and program
CN109951640A (en) Camera anti-fluttering method and system, electronic equipment, computer readable storage medium
CN105872356A (en) Imaging apparatus and imaging method
JP2013101305A5 (en) FOCUS DETECTION DEVICE AND FOCUS DETECTION DEVICE CONTROL METHOD
JP2016176697A (en) Distance measurement device, distance measurement program, method for distance measurement, and vehicle
CN105472237A (en) Imaging apparatus and imaging method
JP2012124766A5 (en)
JP4361913B2 (en) Motion calculation device
CN108260360B (en) Scene depth calculation method and device and terminal
JP2012227773A (en) Image recognition device
JP5397078B2 (en) Imaging device
CN110995982B (en) Image processing apparatus, control method therefor, imaging apparatus, and recording medium
JP5183441B2 (en) Imaging device
JP4797441B2 (en) Image processing apparatus for vehicle