JP2018088237A - Information processing device, imaging device, apparatus control system, movable body, information processing method, and information processing program - Google Patents

Information processing device, imaging device, apparatus control system, movable body, information processing method, and information processing program Download PDF

Info

Publication number
JP2018088237A
JP2018088237A JP2017176859A JP2017176859A JP2018088237A JP 2018088237 A JP2018088237 A JP 2018088237A JP 2017176859 A JP2017176859 A JP 2017176859A JP 2017176859 A JP2017176859 A JP 2017176859A JP 2018088237 A JP2018088237 A JP 2018088237A
Authority
JP
Japan
Prior art keywords
separation
unit
separation position
information processing
depth direction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017176859A
Other languages
Japanese (ja)
Other versions
JP6969245B2 (en
Inventor
高橋 禎郎
Sadao Takahashi
禎郎 高橋
大輔 岡田
Daisuke Okada
大輔 岡田
輔宏 木村
Sukehiro Kimura
輔宏 木村
旅人 鈴木
Tabito Suzuki
旅人 鈴木
陽一郎 大林
Yoichiro Obayashi
陽一郎 大林
久保園 浩喜
Hiroki Kubozono
浩喜 久保園
吉田 淳
Atsushi Yoshida
淳 吉田
聖也 天野
Seiya Amano
聖也 天野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to EP17201981.2A priority Critical patent/EP3324336A1/en
Publication of JP2018088237A publication Critical patent/JP2018088237A/en
Application granted granted Critical
Publication of JP6969245B2 publication Critical patent/JP6969245B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To make it possible to accurately detect an object, such as a parallax image from information with which the position in the horizontal direction and the position in the depth direction of the object are associated.SOLUTION: A creation part creates two-dimensional distribution information indicating two-dimensional frequency distribution with which the positions in the horizontal direction and the positions in the depth direction of objects and a frequency value are associated, and a detection part detects detection objects on the basis of the two-dimensional distribution information. A separation position specification part specifies a separation position on the basis of the amount of feature created by integrating the frequency value according to the positions in the depth direction. An object separation part separates the detection objects at the specified separation position. The information processing device thus can separate and detect the respective objects connected by a parallax image and detected.SELECTED DRAWING: Figure 8

Description

本発明は、情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラムに関する。   The present invention relates to an information processing device, an imaging device, a device control system, a moving body, an information processing method, and an information processing program.

今日において、歩行者又は自動車等との衝突の際に、いかに歩行者を守れるか及び乗員を保護できるかという、自動車の安全性における観点から自動車のボディー構造等の開発が行われている。近年においては、情報処理技術、画像処理技術の発達により、人及び自動車等を高速に検出する技術が知られている。これらの技術を用いることで、衝突する前に自動的にブレーキをかけて衝突を未然に防止する衝突防止システムが設けられた自動車も知られている。この衝突防止システムの場合、ミリ波レーダ装置、レーザレーダ装置又はステレオカメラ装置等を用いて人又は他車等の検出対象物までの距離を測距し、この測距した結果に基づいて、ブレーキ制御を行う。これにより、検出対象物との間の距離に応じて、自動的にブレーキをかけることができる。   2. Description of the Related Art Today, automobile body structures and the like have been developed from the viewpoint of automobile safety, such as how to protect pedestrians and protect passengers in the event of a collision with a pedestrian or automobile. In recent years, with the development of information processing technology and image processing technology, technology for detecting humans, automobiles and the like at high speed is known. There is also known an automobile provided with a collision prevention system that uses these techniques to automatically brake before a collision to prevent the collision. In the case of this collision prevention system, a distance to a detection target such as a person or another vehicle is measured using a millimeter wave radar device, a laser radar device, a stereo camera device, or the like, and a brake is determined based on the result of the distance measurement. Take control. As a result, the brake can be automatically applied according to the distance to the detection target.

特許文献1(特開2014−096005号公報)には、同一とみなされるオブジェクトを正確にグループ化して検出する物体検出装置が開示されている。この物体検出装置は、距離画像を用いて有効領域同士をグルーピングした後、グルーピングされた物体に対して濃淡画像の輪郭部分(エッジ)に着目して領域を分割する。   Patent Document 1 (Japanese Patent Laid-Open No. 2014-096005) discloses an object detection apparatus that accurately detects grouped objects that are regarded as identical. This object detection apparatus groups the effective areas using the distance image, and then divides the area by focusing on the contour portion (edge) of the grayscale image with respect to the grouped objects.

特許文献2(国際公開第2012/017650号)には、物体及び路面を精度よく検出可能な物体検出装置が開示されている。この物体検出装置は、路面領域を検出した後、路面以上の高さを持つデータを物体候補領域として検出し、形状特徴に基づいて物体及び路面の判別を行う。   Patent Document 2 (International Publication No. 2012/017650) discloses an object detection device that can detect an object and a road surface with high accuracy. After detecting the road surface area, the object detection device detects data having a height equal to or higher than the road surface as an object candidate area, and determines the object and the road surface based on the shape feature.

しかし、検出対象物までの間の距離の測距精度は、検出対象物までの間の距離が長くなるほど距離分解能が低下する。このため、遠方に位置する複数の検出対象物同士が結合し、一つの物体として検出される不都合を生ずる場合もあった。   However, the distance measurement accuracy of the distance to the detection target decreases as the distance to the detection target increases. For this reason, there are cases where a plurality of objects to be detected located in the distance are coupled to each other and inconvenience is detected as one object.

本発明は、上述の課題に鑑みてなされたものであり、複数の検出対象物を正確に分離して検出可能な情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラムを提供することを目的とする。   The present invention has been made in view of the above-described problems, and is an information processing device, an imaging device, a device control system, a moving body, an information processing method, and an information processing device capable of accurately separating and detecting a plurality of detection objects. An object is to provide an information processing program.

上述した課題を解決し、目的を達成するために、本発明は、物体の横方向位置及び奥行方向位置と頻度値が対応付けられた2次元的な頻度分布を示す2次元分布情報を生成する生成部と、2次元分布情報に基づいて検出対象物を検出する検出部と、頻度値を奥行方向位置に応じて積算して特徴量を生成し、特徴量に基づいて分離位置を特定する分離位置特定部と、分離位置で検出対象物を分離する物体分離部とを有する。   In order to solve the above-described problems and achieve the object, the present invention generates two-dimensional distribution information indicating a two-dimensional frequency distribution in which the horizontal position and depth direction position of an object are associated with frequency values. A generation unit, a detection unit that detects a detection target based on two-dimensional distribution information, and a frequency value that is integrated according to a depth direction position to generate a feature amount, and a separation that specifies a separation position based on the feature amount A position identifying unit; and an object separating unit that separates the detection target at the separation position.

本発明によれば、検出対象物を、正確に分離して検出できるという効果を奏する。   According to the present invention, there is an effect that detection objects can be accurately separated and detected.

図1は、第1の実施の形態の機器制御システムである車両に設けられたステレオカメラの位置を示す図である。FIG. 1 is a diagram illustrating a position of a stereo camera provided in a vehicle that is a device control system according to the first embodiment. 図2は、車両が有するステレオカメラ及びその周辺の構成を示す図である。FIG. 2 is a diagram illustrating a stereo camera included in the vehicle and a configuration around the stereo camera. 図3は、ステレオカメラを備えた撮像装置の構成例を示す図である。FIG. 3 is a diagram illustrating a configuration example of an imaging apparatus including a stereo camera. 図4は、第1の実施の形態の機器制御システムのCPUにより、車両制御プログラムに基づいて実現される各機能の機能ブロック図である。FIG. 4 is a functional block diagram of functions realized by the CPU of the device control system according to the first embodiment based on the vehicle control program. 図5は、Uマップの一例を示す図である。FIG. 5 is a diagram illustrating an example of the U map. 図6は、Uマップ上の2つの物体に対して、一つの孤立領域が設定された状態を示す図である。FIG. 6 is a diagram showing a state in which one isolated region is set for two objects on the U map. 図7は、特徴量に基づいて特定した分割位置で2つに分離した検出対象物を示す図である。FIG. 7 is a diagram illustrating the detection target object separated into two at the division position specified based on the feature amount. 図8は、実施の形態の分離処理の流れを示すフローチャートである。FIG. 8 is a flowchart illustrating a flow of separation processing according to the embodiment. 図9は、一次元ヒストグラムの生成に仕方を説明するための図である。FIG. 9 is a diagram for explaining how to generate a one-dimensional histogram. 図10は、クラス分離度の計算動作を説明するための図である。FIG. 10 is a diagram for explaining the class separation calculation operation. 図11は、Uマップ上の2つの物体に対して、それぞれ正確に孤立領域が設定された状態を示す図である。FIG. 11 is a diagram illustrating a state in which isolated regions are accurately set for two objects on the U map.

以下、図面を参照して、実施の形態の機器制御システムの説明をする。   Hereinafter, an apparatus control system according to an embodiment will be described with reference to the drawings.

(システム構成)
まず、実施の形態の機器制御システムは、図1に示すように車両1のフロントガラス等に設けられ、進行方向前側の所定の撮像範囲を撮像するステレオカメラ2を有している。ステレオカメラ2は、図3を用いて後述するように2つの画像センサ22を備え、左目視界と右目視界の2つの画像を撮像する撮像部である。
(System configuration)
First, the device control system according to the embodiment includes a stereo camera 2 that is provided on the windshield of the vehicle 1 as shown in FIG. As will be described later with reference to FIG. 3, the stereo camera 2 includes two image sensors 22 and is an imaging unit that captures two images of the left visual field and the right visual field.

図2は、移動体の一例である車両1が有するステレオカメラ2及びその周辺の構成例を示す図である。ステレオカメラ2は、例えば撮像した2つの画像を車両ECU(Engine Control Unit)3に対して出力する。車両ECU3は車両1に設置され、例えば車両1のエンジン制御、制動制御、及び走行レーンキープアシスト、操舵アシスト等の車両1に対する制御を行う。なお、以下、移動体の一例として車両について説明するが、本実施の形態の機器制御システムは、船舶、航空機、ロボット等にも適用可能である。   FIG. 2 is a diagram illustrating a configuration example of the stereo camera 2 included in the vehicle 1 which is an example of the moving body and the vicinity thereof. The stereo camera 2 outputs, for example, two captured images to a vehicle ECU (Engine Control Unit) 3. The vehicle ECU 3 is installed in the vehicle 1 and controls the vehicle 1 such as engine control, braking control, travel lane keep assist, steering assist, and the like. Hereinafter, a vehicle will be described as an example of a moving body, but the device control system of the present embodiment can also be applied to a ship, an aircraft, a robot, and the like.

(撮像装置の構成)
図3は、ステレオカメラ2を備えた撮像装置4の構成例を示す図である。撮像装置4は、例えばステレオカメラ2及び画像処理装置30を有する。ステレオカメラ2は、左目用となるカメラ部2aと、右目用となるカメラ部2bが平行(水平)に組みつけられ、撮像対象領域の動画(又は静止画)を撮影する。
(Configuration of imaging device)
FIG. 3 is a diagram illustrating a configuration example of the imaging device 4 including the stereo camera 2. The imaging device 4 includes, for example, a stereo camera 2 and an image processing device 30. In the stereo camera 2, a camera unit 2 a for the left eye and a camera unit 2 b for the right eye are assembled in parallel (horizontal) to shoot a moving image (or still image) in the imaging target area.

カメラ部2a、2bは、それぞれレンズ21、画像センサ22、及びセンサコントローラ23を備えている。画像センサ22は、例えばCCD(Charge Coupled Device)イメージセンサ又はCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサである。センサコントローラ23は、例えば画像センサ22の露光制御、画像読み出し制御、外部回路との通信、及び画像データの送信制御等を行う。   Each of the camera units 2a and 2b includes a lens 21, an image sensor 22, and a sensor controller 23. The image sensor 22 is, for example, a CCD (Charge Coupled Device) image sensor or a CMOS (Complementary Metal-Oxide Semiconductor) image sensor. The sensor controller 23 performs, for example, exposure control of the image sensor 22, image readout control, communication with an external circuit, image data transmission control, and the like.

画像処理装置30は、例えば図2に示した車両ECU3内に設けられる。画像処理装置30は、例えばデータバスライン300、シリアルバスライン302、CPU(Central Processing Unit)304、FPGA(Field-Programmable Gate Array)306、ROM(Read Only Memory)308、RAM(Random Access Memory)310、シリアルIF(Interface)312、及びデータIF(Interface)314を有する。   The image processing device 30 is provided, for example, in the vehicle ECU 3 shown in FIG. The image processing apparatus 30 includes, for example, a data bus line 300, a serial bus line 302, a CPU (Central Processing Unit) 304, an FPGA (Field-Programmable Gate Array) 306, a ROM (Read Only Memory) 308, and a RAM (Random Access Memory) 310. Serial IF (Interface) 312 and data IF (Interface) 314.

上述したステレオカメラ2は、データバスライン300及びシリアルバスライン302を介して画像処理装置30と接続されている。CPU304は、画像処理装置30全体の動作を制御し、画像処理及び画像認識処理を実行する。カメラ部2a、2bそれぞれの画像センサ22が撮像した撮像画像の輝度画像データは、データバスライン300を介して画像処理装置30のRAM310に書き込まれる。CPU304又はFPGA306からのセンサ露光値の変更制御データ、画像読み出しパラメータの変更制御データ、及び各種設定データ等は、シリアルバスライン302を介して送受信される。   The stereo camera 2 described above is connected to the image processing apparatus 30 via the data bus line 300 and the serial bus line 302. The CPU 304 controls the overall operation of the image processing apparatus 30 and executes image processing and image recognition processing. Luminance image data of captured images captured by the image sensors 22 of the camera units 2 a and 2 b are written into the RAM 310 of the image processing device 30 via the data bus line 300. Sensor exposure value change control data, image readout parameter change control data, various setting data, and the like from the CPU 304 or FPGA 306 are transmitted and received via the serial bus line 302.

FPGA306は、RAM310に保存された画像データに対してリアルタイム性が要求される処理である、例えばガンマ補正、ゆがみ補正(左右画像の平行化)、ブロックマッチングによる視差演算を行って視差画像を生成し、RAM310に再度書き込む。なお、視差画像は、物体の縦方向位置、横方向位置、及び、奥行方向位置が対応付けられた情報となっている。   The FPGA 306 generates real-time parallax images by performing parallax calculation based on, for example, gamma correction, distortion correction (parallelization of left and right images), and block matching, which is a process that requires real-time processing for image data stored in the RAM 310. , Write again to the RAM 310. Note that the parallax image is information in which the vertical position, the horizontal position, and the depth direction position of the object are associated with each other.

CPU304は、ステレオカメラ2の各センサコントローラ23の制御、及び画像処理装置30の全体的な制御を行う。CPU304は、データIF314を介して、例えば自車両のCAN(Controller Area Network)情報をパラメータ(車速、加速度、舵角、ヨーレート等)として取得する。   The CPU 304 performs control of each sensor controller 23 of the stereo camera 2 and overall control of the image processing apparatus 30. The CPU 304 acquires, for example, CAN (Controller Area Network) information of the host vehicle as parameters (vehicle speed, acceleration, steering angle, yaw rate, etc.) via the data IF 314.

先行車両、人間、ガードレール、路面等の物体の認識データである車両制御データは、シリアルIF312を介して、車両ECU3に供給され、車両ECU3の制御機能として設けられた例えば自動ブレーキシステム又は走行アシストシステム等で用いられる。自動ブレーキシステムは、車両1のブレーキ制御を行う。また、走行アシストシステムは、車両1の走行レーンキープアシスト及び操舵アシスト等を行う。   Vehicle control data, which is recognition data for objects such as preceding vehicles, humans, guardrails, and road surfaces, is supplied to the vehicle ECU 3 via the serial IF 312 and provided as a control function of the vehicle ECU 3, for example, an automatic brake system or a travel assist system. Etc. The automatic brake system performs brake control of the vehicle 1. The travel assist system performs travel lane keep assist, steering assist, and the like of the vehicle 1.

(画像処理装置の機能)
画像処理装置30のCPU304は、ROM308等の記憶部に記憶されている車両制御プログラムを実行することで、図4に示す各機能を実現し、撮像装置4で撮像された視差画像に基づいて先行車両、人間、ガードレール、路面等の物体を検出する。そして、検出した物体に応じて、車両制御データを車両ECU3に供給する。車両ECU3は、車両制御データを用いて、ブレーキ制御、走行レーンキープアシスト及び操舵アシスト等を行う。
(Function of image processing device)
The CPU 304 of the image processing device 30 executes the vehicle control program stored in the storage unit such as the ROM 308 to realize each function illustrated in FIG. 4, and performs the preceding based on the parallax image captured by the imaging device 4. Detects objects such as vehicles, people, guardrails, and road surfaces. Then, vehicle control data is supplied to the vehicle ECU 3 according to the detected object. The vehicle ECU 3 performs brake control, travel lane keep assist, steering assist, and the like using the vehicle control data.

すなわち、CPU304は、ROM308等の記憶部に記憶されている車両制御プログラムを実行することで、図4に示すように、投票処理部51、孤立領域検出部52、奥行分離部53、投票修正部54、対象物検出部55、及び、車両制御部56の各機能を実現する。   In other words, the CPU 304 executes a vehicle control program stored in a storage unit such as the ROM 308, so that the voting processing unit 51, the isolated region detection unit 52, the depth separation unit 53, the voting correction unit, as shown in FIG. 54, the functions of the object detection unit 55 and the vehicle control unit 56 are realized.

なお、この例では、投票処理部51〜車両制御部56をソフトウェアで実現することとしたが、投票処理部51〜車両制御部56のうち、一部又は全部を、IC(Integrated Circuit)等のハードウェアで実現してもよい。   In this example, the voting processing unit 51 to the vehicle control unit 56 are realized by software. However, a part or all of the voting processing unit 51 to the vehicle control unit 56 is an IC (Integrated Circuit) or the like. It may be realized by hardware.

また、車両制御プログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)などのコンピュータ装置で読み取り可能な記録媒体に記録して提供してもよい。また、CD−R、DVD(Digital Versatile Disk)、ブルーレイディスク(登録商標)、半導体メモリ等のコンピュータ装置で読み取り可能な記録媒体に記録して提供してもよい。また、車両制御プログラムは、インターネット等のネットワーク経由でインストールするかたちで提供してもよい。また、車両制御プログラムは、機器内のROM等に予め組み込んで提供してもよい。   Further, the vehicle control program may be provided by being recorded in a computer-readable recording medium such as a CD-ROM or a flexible disk (FD) in an installable or executable file. Further, the program may be provided by being recorded on a recording medium readable by a computer device such as a CD-R, a DVD (Digital Versatile Disk), a Blu-ray Disc (registered trademark), or a semiconductor memory. The vehicle control program may be provided by being installed via a network such as the Internet. The vehicle control program may be provided by being incorporated in advance in a ROM or the like in the device.

生成部の一例である投票処理部51は、撮像装置4の撮像画像から形成された視差画像に基づいて、物体の横方向位置と奥行方向位置とが対応付けられた頻度分布を示す2次元ヒストグラムであるUマップ(2次元分布情報の一例)を生成する。なお、説明の都合上、「マップ」という語句を用いるが、実際に地図又は画像状の情報が形成される訳ではなく、横方向位置と奥行方向位置とが対応付けられた情報群が形成されるものと理解されたい。   The voting processing unit 51, which is an example of a generation unit, shows a frequency distribution in which the horizontal position and the depth direction position of an object are associated with each other based on a parallax image formed from a captured image of the imaging device 4. A U map (an example of two-dimensional distribution information) is generated. For convenience of explanation, the term “map” is used, but the map or image information is not actually formed, but an information group in which the horizontal position and the depth direction position are associated is formed. Should be understood.

具体的には、投票処理部51は、横軸を物体との間の実距離、縦軸を物体との間の距離に応じて間引き率を変動させる間引き視差とした、視差値の頻度分布を示す二次元ヒストグラムであるUマップ(鳥瞰画像、俯瞰画像、俯瞰マップ)を生成する。一例ではあるが、投票処理部51は、物体との間の距離が50m以上の遠距離の場合、視差の間引きはしないが、物体との間の距離が20m〜50m未満の中距離の場合、視差を1/2に間引き処理する。また、投票処理部51は、物体との間の距離が10m〜20m未満の近距離の場合、視差を1/3に間引き処理し、物体との間の距離が10m未満の場合、視差を1/8に間引き処理する。遠方では物体が小さく、視差情報が少なく、また、距離の分解能も小さいため、視差の間引き処理を行わない。これに対して、近距離の場合、物体が大きく写るため、視差情報が多く距離の分解能も大きくなるため、視差を大きく間引き処理する。なお、本処理は物体を検出しやすくするために俯瞰的なマップ(鳥瞰画像、俯瞰画像)を生成するものであるため、横軸は実距離でなくとも実距離に相当するものであれば良い。   Specifically, the voting processing unit 51 calculates the frequency distribution of the parallax values with the horizontal axis representing the actual distance between the objects and the vertical axis representing the thinning parallax that varies the thinning rate according to the distance between the objects. A U map (bird's-eye view image, bird's-eye view image, bird's-eye view map), which is a two-dimensional histogram shown, is generated. Although it is an example, the voting processing unit 51 does not thin out parallax when the distance to the object is 50 m or more, but when the distance to the object is a medium distance of 20 m to less than 50 m, The parallax is thinned out to ½. The voting processing unit 51 thins out the parallax to 1/3 when the distance to the object is a short distance of 10 m to less than 20 m, and sets the parallax to 1 when the distance to the object is less than 10 m. / 8 is thinned out. Since the object is small in the distance, the parallax information is small, and the resolution of the distance is small, the parallax thinning process is not performed. On the other hand, in the case of a short distance, an object is photographed large, so that there is a large amount of parallax information and the resolution of the distance is large. In addition, since this process generates a bird's-eye view map (bird's-eye view image, bird's-eye view image) in order to make it easier to detect an object, the horizontal axis may be equivalent to an actual distance, not an actual distance. .

図5は、このように物体との間の距離に応じた間引き視差を用いて生成したUマップの一例である。この図5の例は、左右のガードレールGL−GR間の道路が2車線となっており、各車線を、車両C1、C2がそれぞれ略々並んで走行している状態を示している。なお、この例では、投票処理部51は、縦軸を視差値、横軸を実距離としたUマップを生成することとしたが、縦軸を視差値、横軸をX座標系の値としたUマップを生成し、このUマップを用いて、後述する処理を実行してもよい。この場合でも、縦軸を視差値、横軸を実距離としたUマップを用いた場合と同様の効果を得ることができる。すなわち、縦軸と横軸の変換によらず、物体の横方向位置と奥行方向位置とが対応付けられた情報群が利用できれば良い。なお、以下では奥行方向を視差値ではなく距離値に変換したものとして説明する。なお、変換せずに視差値のまま情報を取り扱ってもよい。   FIG. 5 is an example of the U map generated using the thinning parallax according to the distance between the object and the object. The example of FIG. 5 shows a state in which the road between the left and right guard rails GL-GR has two lanes, and the vehicles C1 and C2 are running substantially side by side in each lane. In this example, the voting processing unit 51 generates a U map with the vertical axis representing the parallax value and the horizontal axis representing the actual distance, but the vertical axis represents the parallax value and the horizontal axis represents the value of the X coordinate system. The U map may be generated, and the processing described later may be executed using the U map. Even in this case, it is possible to obtain the same effect as in the case of using a U map in which the vertical axis represents the parallax value and the horizontal axis represents the actual distance. That is, it is only necessary to use an information group in which the horizontal position and the depth direction position of an object are associated with each other regardless of conversion between the vertical axis and the horizontal axis. In the following description, it is assumed that the depth direction is converted to a distance value instead of a parallax value. Note that information may be handled without changing the parallax value.

次に、検出部の一例である図4に示す孤立領域検出部52は、Uマップ上に存在する物体に対応する孤立領域をそれぞれ検出する。図6に孤立領域の検出例を示す。この図6の例の場合、実施の形態の機器制御システムが設けられた車両1は、2車線の直線道路の左側のレーンを走行しており、この車両1の前方には、先行車両としてトラックTRが走行している例である。また、右側のレーンには、手前から順に、タクシー自動車TK、軽トラック自動車KJ1及び軽トラック自動車KJ2が走行している例である。右側のレーンを走行する自動車のうち、一番手前を走行するタクシー自動車TKは、略々車両全体が確認できる状態である。また、タクシー自動車TKの前方を走行する軽トラック自動車KJ1は、右側のテールランプが、タクシー自動車TKのボンネットの右端の部分と重なっているが、略々荷台全体を確認できる状態である。そして、軽トラック自動車KJ2は、略々左半分が、後方を走行する軽トラック自動車KJ1と重なり、右半分しか確認できない状態である。なお、孤立領域の検出は、周知のラベリング処理(隣接する画素にIDを付与する処理)を用い、同一のIDが付与され一定以上の大きさを有するものを抽出することにより行い得る。これに限らず、周知の種々の方法が適用できる。   Next, the isolated region detection unit 52 shown in FIG. 4 as an example of the detection unit detects each isolated region corresponding to an object existing on the U map. FIG. 6 shows an example of detecting an isolated area. In the case of the example of FIG. 6, the vehicle 1 provided with the device control system of the embodiment travels on the left lane of a two-lane straight road. This is an example where TR is running. Further, in the right lane, a taxi car TK, a light truck car KJ1, and a light truck car KJ2 are traveling in order from the front. Of the cars traveling in the right lane, the taxi car TK traveling in the foreground is in a state where the entire vehicle can be confirmed. Further, in the light truck car KJ1 traveling in front of the taxi car TK, the right tail lamp overlaps with the right end portion of the bonnet of the taxi car TK. The light truck automobile KJ2 is in a state where the left half is substantially overlapped with the light truck automobile KJ1 traveling behind and only the right half can be confirmed. The isolated area can be detected by using a well-known labeling process (a process for assigning IDs to adjacent pixels) and extracting those having the same ID and having a certain size or more. Not limited to this, various known methods can be applied.

(分離処理)
ここで、孤立領域検出部52は、近い距離値(視差値)の物体同士が重なり合っていることから、タクシー自動車TK及び軽トラック自動車KJ1を1台の車両として誤検出したとする。図6に示すタクシー自動車TK及び軽トラック自動車KJ1を囲む枠(検出枠)は、このような誤検出が生じたことを示している。なお、ここでいう枠とは、物体の位置と大きさを示すものであり、例えば物体を囲む矩形の角の座標と高さ及び幅が対応付けられた情報である。
(Separation process)
Here, it is assumed that the isolated region detection unit 52 erroneously detects the taxi car TK and the light truck car KJ1 as one vehicle because the objects having close distance values (parallax values) overlap each other. A frame (detection frame) surrounding the taxi car TK and the light truck car KJ1 shown in FIG. 6 indicates that such a false detection has occurred. Here, the frame indicates the position and size of the object, and is information in which the coordinates of the corners of a rectangle surrounding the object are associated with the height and width, for example.

分離位置特定部の一例である奥行分離部53は、孤立領域検出部52で検出された孤立領域が、距離分散(視差分散)により前後の車両等の物体同士の結合が生じ易い距離範囲に位置している場合(奥行分離開始条件を満たしている場合)、奥行分離処理を実行する。すなわち、遠方では距離分散(視差分散)が大きくなり、物体の結合が生じやすいため、奥行分離処理を実行するものとしている。具体的には、例えば「最近距離が30m以上の孤立領域であること」を、奥行分離開始条件として定めている。「30m」等の数値は、撮像装置4のステレオカメラ性能等に応じて変更してもよい。実施の形態の例の場合、近距離に位置する孤立領域に対しては、以下に説明する奥行分離処理を行わないことで、CPU304の処理負荷を軽減することができる。   The depth separation unit 53, which is an example of the separation position specifying unit, is located in a distance range in which the isolated region detected by the isolated region detection unit 52 is likely to cause the coupling between objects such as the front and rear vehicles due to distance dispersion (parallax dispersion). If it is (if the depth separation start condition is satisfied), the depth separation process is executed. In other words, the distance separation (parallax dispersion) becomes large in the distance, and the objects are likely to be combined. Specifically, for example, “an isolated region having a closest distance of 30 m or more” is defined as the depth separation start condition. A numerical value such as “30 m” may be changed according to the performance of the stereo camera of the imaging device 4. In the case of the embodiment, the processing load on the CPU 304 can be reduced by not performing the depth separation processing described below for an isolated region located at a short distance.

奥行分離部53は、上述の奥行分離開始条件を満たす孤立領域に対して、画像のX座標(Uマップの横方向座標)と同等の性質を有する一次元の特徴量(頻度と距離値の積)を算出する。すなわち、各X座標(または横方向位置)毎に対応する頻度と距離値の積を算出する。また、奥行分離部53は、算出した特徴量を全ての各X座標位置(分離位置の候補)で分割し、孤立領域の物体を分離するための評価値(特徴量)を算出し、評価値が最大となる分割位置を特定する。なお、この例では、評価値が最大となる分割位置を特定することとしたが、評価値が2番目に大きい分割位置、又は、評価値が2番目に大きい分割位置等、設計等に応じて特定する分割位置を変更してもよい。   The depth separation unit 53 is a one-dimensional feature amount (product of frequency and distance value) having properties equivalent to the X coordinate of the image (the horizontal coordinate of the U map) for an isolated region that satisfies the above-described depth separation start condition. ) Is calculated. That is, the product of the frequency and the distance value corresponding to each X coordinate (or horizontal position) is calculated. Further, the depth separation unit 53 divides the calculated feature value at all the X coordinate positions (separation position candidates), calculates an evaluation value (feature value) for separating an object in the isolated region, and evaluates the evaluation value. The division position where becomes the maximum is specified. In this example, the division position where the evaluation value is the maximum is specified, but the division position where the evaluation value is the second largest, or the division position where the evaluation value is the second largest, etc. You may change the division | segmentation position to identify.

上記にいう頻度と距離値の積は、一般に良く知られる判別分析法における分離度(クラス間分散とクラス内分散の比)に相当する特徴量となる。よって、この特徴量に基づいて分割位置を特定することにより、図7に示すように、対象を2つのグループに適切に分離することができる。すなわち、検出対象物を正確に分離することができることとなる。   The product of the frequency and the distance value described above is a feature amount corresponding to the degree of separation (ratio of interclass variance to intraclass variance) in a generally well-known discriminant analysis method. Therefore, by specifying the division position based on this feature amount, the target can be appropriately separated into two groups as shown in FIG. That is, the detection object can be accurately separated.

奥行分離部53は、特定した分割位置で分離した物体の平均距離の差が、車両一台分の長さより離れていた場合に、孤立領域を二つの物体の孤立領域に分割する。横幅の確からしさではなく、分割位置の統計的処理及び平均距離の差により、奥行方向に位置する孤立領域を分離する。これにより、距離分散(視差分散)による悪影響、及び、Uマップの二次元的な分布による悪影響を受けにくくなり、例えば前後を走行している二つの車両を正しく分離して検出することができる。   The depth separating unit 53 divides the isolated region into two isolated regions when the difference in the average distance between the objects separated at the specified dividing position is longer than the length of one vehicle. The isolated region located in the depth direction is separated based on the statistical processing of the division position and the difference in the average distance, not the probability of the width. Thereby, it becomes difficult to be adversely affected by the distance dispersion (parallax dispersion) and the two-dimensional distribution of the U map, and for example, two vehicles traveling in front and rear can be correctly separated and detected.

図8のフローチャートに、奥行分離処理の流れを示す。奥行分離部53は、ステップS1において、上述の奥行分離開始条件を満たす孤立領域を形成する画素(投票情報)毎に「距離値(Y座標値、奥行)×頻度値」の特徴量を算出する。そして、奥行分離部53は、孤立領域の奥行方向の列毎に、各画素の算出した特徴量を積算処理して1次元のヒストグラムを生成する。このような1次元ヒストグラムは、視差画像のX軸と同等の次元を有する。なお、本実施形態では、視差画像の各X座標(横方向位置)毎に、これに対応する頻度と距離値の積を算出するものとするが、これに限られず、視差画像のスケールを縮小したX座標毎に、これに対応する頻度と距離値の積を算出するものとしてもよい。   The flowchart of FIG. 8 shows the flow of the depth separation process. In step S1, the depth separation unit 53 calculates a feature amount of “distance value (Y coordinate value, depth) × frequency value” for each pixel (voting information) that forms an isolated region that satisfies the above-described depth separation start condition. . Then, the depth separation unit 53 performs integration processing on the feature amount calculated by each pixel for each column in the depth direction of the isolated region, and generates a one-dimensional histogram. Such a one-dimensional histogram has a dimension equivalent to the X axis of the parallax image. In this embodiment, for each X coordinate (lateral position) of the parallax image, the product of the frequency and the distance value corresponding to the X coordinate is calculated. However, the present invention is not limited to this, and the scale of the parallax image is reduced. For each X coordinate, a product of a frequency and a distance value corresponding to the X coordinate may be calculated.

図9は、1次元ヒストグラムが生成される様子を示す図である。この図9は、図6に示したタクシー自動車TK及びタクシー自動車TKの前を走行する軽トラック自動車KJ1が結合して一つの孤立領域として検出された例を示している。図9中、奥行側の塊が軽トラック自動車KJ1、手前側がタクシー自動車TKを示している。また、軽トラック自動車KJ1内の画素中の数値は、「距離値(Y座標値)×頻度値」の演算式で算出した特徴量の一例となっている。   FIG. 9 is a diagram illustrating how a one-dimensional histogram is generated. FIG. 9 shows an example in which the taxi car TK shown in FIG. 6 and the light truck car KJ1 traveling in front of the taxi car TK are combined and detected as one isolated region. In FIG. 9, the lump on the depth side indicates the light truck car KJ1, and the front side indicates the taxi car TK. Further, the numerical value in the pixel in the light truck automobile KJ1 is an example of the feature amount calculated by the arithmetic expression of “distance value (Y coordinate value) × frequency value”.

すなわち、図9の例の場合、軽トラック自動車KJ1の一列目の画素は1つのみであり、「距離値(Y座標値)×頻度値」の特徴量は「1」となっている。また、軽トラック自動車KJ1の二列目の画素は2つあり、「距離値(Y座標値)×頻度値」の特徴量は、それぞれ「3」、「4」となっている。奥行分離部53は、このような特徴量を列方向に積算処理する(図9中、「+」の記号は、積算処理を示している)。これにより、一画素目は「1」、2画素目は「7(=3+4)」・・・の1次元ヒストグラムが生成される。このような1次元ヒストグラムを用いることで、後述する分離処理の時間を短縮化でき、また、画像座標軸を利用することになるので、正確な物体の分離処理を可能とすることができる。   That is, in the example of FIG. 9, there is only one pixel in the first column of the light truck automobile KJ1, and the feature amount of “distance value (Y coordinate value) × frequency value” is “1”. Further, there are two pixels in the second column of the light truck automobile KJ1, and the feature values of “distance value (Y coordinate value) × frequency value” are “3” and “4”, respectively. The depth separation unit 53 performs integration processing of such feature amounts in the column direction (in FIG. 9, a symbol “+” indicates integration processing). As a result, a one-dimensional histogram of “1” for the first pixel and “7 (= 3 + 4)” for the second pixel is generated. By using such a one-dimensional histogram, it is possible to shorten the time for separation processing, which will be described later, and to use an image coordinate axis, so that accurate object separation processing can be performed.

なお、図9の例において、軽トラック自動車KJ1又はタクシー自動車TKの一つの画素が、1次元ヒストグラムの一つの画素に、必ずしも対応するとは限らない。この図9の例に示すように軽トラック自動車KJ1又はタクシー自動車TKの複数の画素が、1次元ヒストグラムの一つの画素に対応することも有り得る。   In the example of FIG. 9, one pixel of the light truck car KJ1 or taxi car TK does not necessarily correspond to one pixel of the one-dimensional histogram. As shown in the example of FIG. 9, a plurality of pixels of the light truck car KJ1 or taxi car TK may correspond to one pixel of the one-dimensional histogram.

次に、ステップS2において、奥行分離部53は、ステップS1で生成した1次元ヒストグラムの幅が、所定の幅より大きいか否かを判別する。具体的には、奥行分離部53は、1次元ヒストグラムの幅が、例えば通常の車両の1台分の幅である「2m」よりも大きいか否かを判別する。なお、孤立領域の検出枠内の距離値から1次元ヒストグラムの幅を実世界の幅に換算可能である。   Next, in step S2, the depth separation unit 53 determines whether or not the width of the one-dimensional histogram generated in step S1 is larger than a predetermined width. Specifically, the depth separation unit 53 determines whether or not the width of the one-dimensional histogram is larger than “2 m”, which is the width of one normal vehicle, for example. Note that the width of the one-dimensional histogram can be converted into the width of the real world from the distance value within the detection frame of the isolated region.

1次元ヒストグラムの幅が、通常の車両の1台分の幅よりも小さいということは、その孤立領域は、複数の物体が結合した孤立領域ではないことを意味する。このため、奥行分離部53は、1次元ヒストグラムの幅が、通常の車両の1台分の幅よりも小さいと判別した場合、その孤立領域に対する分離処理を中止し、図8のフローチャートの処理を終了する。これに対して、1次元ヒストグラムの幅が、通常の車両の1台分の幅よりも大きいということは、その孤立領域は、複数の物体が結合した孤立領域である可能性が高い。このため、奥行分離部53は、ステップS3に処理を進める。   The fact that the width of the one-dimensional histogram is smaller than the width of one normal vehicle means that the isolated region is not an isolated region in which a plurality of objects are combined. For this reason, when the depth separation unit 53 determines that the width of the one-dimensional histogram is smaller than the width of one normal vehicle, the depth separation unit 53 stops the separation processing for the isolated region and performs the processing of the flowchart of FIG. finish. On the other hand, if the width of the one-dimensional histogram is larger than the width of one normal vehicle, the isolated area is likely to be an isolated area in which a plurality of objects are combined. For this reason, the depth separation unit 53 advances the process to step S3.

ステップS3では、奥行分離部53が、1次元ヒストグラムをヒストグラムの頻度がある範囲内の各X座標で、順に2つのグループに分け,各分離位置でクラス分離度の評価値を算出するクラス分離度計算処理を行う。図10は、クラス分離度計算処理の処理内容を示す模式図である。この図10に示すように、奥行分離部53が、1次元ヒストグラムをヒストグラムの頻度がある範囲内において、X座標順に1次元ヒストグラムを2つのグループに分離する。図10に示す矢印Bは、1次元ヒストグラムの分離位置を示しており、現在、略中央で1次元ヒストグラムが2つに分離されていることを示している。奥行分離部53は、例えば1次元ヒストグラムの左端から右端にかけて順に分離位置をずらし、各分離位置でクラス分離度の評価値を算出する。   In step S3, the depth separation unit 53 divides the one-dimensional histogram into two groups in order at each X coordinate within the histogram frequency range, and calculates the class separation degree evaluation value at each separation position. Perform the calculation process. FIG. 10 is a schematic diagram showing the processing content of the class separation degree calculation processing. As shown in FIG. 10, the depth separation unit 53 separates the one-dimensional histogram into two groups in the order of the X coordinate within the range where the histogram frequency is within a certain range. An arrow B shown in FIG. 10 indicates a separation position of the one-dimensional histogram, and currently indicates that the one-dimensional histogram is separated into two at approximately the center. For example, the depth separation unit 53 sequentially shifts the separation position from the left end to the right end of the one-dimensional histogram, and calculates the evaluation value of the class separation degree at each separation position.

なお、1次元ヒストグラムの分離位置は、どのように移動してもよく、例えば1次元ヒストグラムの右端から左端にかけて順に移動してもよい。または、最初に、1次元ヒストグラムを真ん中から分離し、真ん中から右端にかけて順に分離位置を移動して演算を行い、右端に対応する演算の終了後に、1次元ヒストグラムの分離位置を真ん中に戻し、真ん中から左端にかけて順に分離位置を移動して演算を行ってもよい。   Note that the separation position of the one-dimensional histogram may be moved in any way, for example, may be sequentially moved from the right end to the left end of the one-dimensional histogram. Alternatively, first, the one-dimensional histogram is separated from the middle, the separation position is moved in order from the middle to the right end, and the computation is performed. After the computation corresponding to the right end is completed, the separation position of the one-dimensional histogram is returned to the middle, The calculation may be performed by moving the separation position in order from the left to the left end.

奥行分離部53は、図10に示すように1次元ヒストグラムの分離位置から左端までの間の頻度値の和を「w1」、分離位置から左端までの間の特徴量(距離値×頻度値)の平均値を「m1」、分離位置から右端までの間の頻度値の和を「w2」、分離位置から右端までの間の特徴量(距離値×頻度値)の平均値を「m2」として、以下の数1式の演算を行うことで、クラス分離度を算出する。なお、平均値m1、m2は、Uマップの距離値(Y座標値)の次元に相当する。平均値m1は、1次元ヒストグラムの分離位置から左端までの間の特徴量の平均値を示し、平均値m2は、1次元ヒストグラムの分離位置から右端までの間の特徴量の平均値を示す。   As shown in FIG. 10, the depth separation unit 53 calculates the sum of the frequency values from the separation position to the left end of the one-dimensional histogram as “w1”, and the feature amount from the separation position to the left end (distance value × frequency value). The average value of “m1”, the sum of the frequency values from the separation position to the right end is “w2”, and the average value of the feature amount (distance value × frequency value) from the separation position to the right end is “m2” Then, the class separation degree is calculated by performing the following equation (1). The average values m1 and m2 correspond to the dimension of the distance value (Y coordinate value) of the U map. The average value m1 indicates an average value of feature amounts between the separation position of the one-dimensional histogram and the left end, and the average value m2 indicates an average value of feature amounts between the separation position of the one-dimensional histogram and the right end.

クラス分離度=w1×w2×(m1−m2)・・・数1式 Class separation = w1 × w2 × (m1-m2) 2.

なお、奥行分離部53は、平均値m1、m2を、以下の数2式の演算を行うことで算出する。   The depth separation unit 53 calculates the average values m1 and m2 by performing the following equation (2).

平均値=(Σ(距離値×頻度値))/(Σ頻度値)・・・数2式   Average value = (Σ (distance value × frequency value)) / (Σ frequency value) Equation 2

次に、ステップS4において、奥行分離部53は、算出したクラス分離度のうち、最大のクラス分離度を算出した分離位置を特定する。また、奥行分離部53は、特定した分離位置を境として形成される2つのグループの平均値m1及び平均値m2の差(距離差)を算出する。そして、奥行分離部53は、ステップS5において、算出した距離差が、例えば大型車1台分の車両長である10m等の、所定の値を超えているか否かを判別する。   Next, in step S4, the depth separation unit 53 identifies the separation position where the maximum class separation degree is calculated among the calculated class separation degrees. Further, the depth separation unit 53 calculates the difference (distance difference) between the average value m1 and the average value m2 of the two groups formed with the identified separation position as a boundary. In step S5, the depth separation unit 53 determines whether or not the calculated distance difference exceeds a predetermined value such as 10 m, which is the vehicle length of one large vehicle.

算出した距離差が、大型車1台分の車両長である10mを超えていないということは、特定した分離位置を境として形成される2つのグループに対応する各物体は、例えばトラック自動車の荷台と運転席等のような、一体的な物体(孤立領域)であることを意味する。このため、奥行分離部53は、その孤立領域に対する分離処理を中止し、図8のフローチャートの処理を終了する。   The fact that the calculated distance difference does not exceed 10 m, which is the vehicle length of one large vehicle, means that each object corresponding to the two groups formed with the specified separation position as a boundary is, for example, a truck bed And an integrated object (isolated region) such as a driver's seat. For this reason, the depth separation unit 53 stops the separation process for the isolated region and ends the process of the flowchart of FIG.

これに対して、算出した距離差が、大型車1台分の車両長である10mを超えているということは、特定した分離位置を境として形成される2つのグループに対応する各物体は、例えば2台の車両等のように、物理的に異なる物体(孤立領域)であることを意味する。このため、奥行分離部53は、ステップS36に処理を進め、特定した分離位置で、一つに結合されていた孤立領域を、2つの孤立領域に分離処理して、図8のフローチャートを終了する。このような分離処理においては、視差分散による悪影響、及び、Uマップの二次元的な分布による悪影響を受けにくくなり、例えば前後を走行している二つの車両を正しく分離することができる。   On the other hand, that the calculated distance difference exceeds 10 m, which is the vehicle length of one large vehicle, means that each object corresponding to the two groups formed with the specified separation position as a boundary is For example, it means physically different objects (isolated regions) such as two vehicles. For this reason, the depth separation unit 53 advances the processing to step S36, separates the isolated region combined into one at the specified separation position into two isolated regions, and ends the flowchart of FIG. . In such a separation process, it is difficult to be adversely affected by the parallax dispersion and the two-dimensional distribution of the U map, and for example, two vehicles traveling in the front-rear direction can be correctly separated.

以上のように、物体の横方向位置と奥行方向位置(距離値)および頻度が対応づけられた情報から、横方向位置毎に距離値と頻度を積算した特徴量(1次元ヒストグラム)を算出し、この特徴量に基づいて物体を分離する。これにより、正確に物体を分離できる。   As described above, the feature amount (one-dimensional histogram) obtained by integrating the distance value and the frequency for each horizontal position is calculated from the information in which the horizontal position, the depth direction position (distance value), and the frequency of the object are associated with each other. Then, the object is separated based on the feature amount. As a result, the object can be accurately separated.

物体分離部の一例である図4に示す投票修正部54は、奥行分離部53の分離処理結果に基づいて、孤立領域を設定し直す(孤立領域を分離する)ことで、Uマップ上に設定された孤立領域を修正する。図11は、設定し直した孤立領域を示す図である。修正前においては、図6を用いて説明したように右斜線を走行するタクシー自動車TK、及び、タクシー自動車TKの前を走行する軽トラック自動車KJ1は、一つの物体として一つの孤立領域が設定されていた。しかし、上述の分離処理を行うことで、図11に示すように、タクシー自動車TK、及び、タクシー自動車TKの前を走行する軽トラック自動車KJ1を、それぞれ異なる物体として孤立領域を設定し直すことができる。   The voting correction unit 54 shown in FIG. 4, which is an example of an object separation unit, sets an isolated region (separates the isolated region) on the U map based on the separation processing result of the depth separation unit 53. Fix isolated regions. FIG. 11 is a diagram illustrating an isolated region that has been reset. Before the correction, the taxi car TK traveling in the right oblique line and the light truck car KJ1 traveling in front of the taxi car TK have one isolated region set as one object as described with reference to FIG. It was. However, by performing the above-described separation processing, as shown in FIG. 11, it is possible to reset the isolated region with the taxi car TK and the light truck car KJ1 traveling in front of the taxi car TK as different objects. it can.

図4に示す対象物検出部55は、このように正確に設定された各孤立領域に基づいて、対応する車両、歩行者、ガードレール、標識等の物体検出処理を行う。そして、車両制御部56は、物体検出結果となる車両制御データを図2に示す車両ECU3に供給する。車両ECU3は、例えば車両1のエンジン制御、制動制御、及び走行レーンキープアシスト、操舵アシスト等の車両1に対する制御を行う。   The object detection unit 55 shown in FIG. 4 performs object detection processing for the corresponding vehicle, pedestrian, guardrail, sign, and the like based on each isolated region set accurately in this way. And the vehicle control part 56 supplies the vehicle control data used as an object detection result to vehicle ECU3 shown in FIG. The vehicle ECU 3 controls the vehicle 1 such as engine control and braking control of the vehicle 1 and travel lane keeping assist and steering assist.

上述の実施の形態は、例として提示したものであり、本発明の範囲を限定することは意図していない。この新規な実施の形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことも可能である。例えば、距離の値(距離値)と視差値は等価に扱うことができる。このため、上述の実施の形態の説明では、距離画像の一例として視差画像を用いて説明しているが、これに限られない。例えば、ステレオカメラを用いて生成した視差画像に対して、ミリ波レーダやレーザレーダ等の検出装置を用いて生成した距離情報を統合して、距離画像を生成してもよい。また、ステレオカメラと、ミリ波レーダやレーザレーダ等の検出装置を併用し、上述したステレオカメラによる物体の検出結果と組み合わせることにより、検出の精度をさらに高める構成としてもよい。   The above-described embodiments are presented as examples, and are not intended to limit the scope of the present invention. The novel embodiment can be implemented in various other forms, and various omissions, replacements, and changes can be made without departing from the spirit of the invention. For example, a distance value (distance value) and a parallax value can be handled equivalently. For this reason, in the description of the above-described embodiment, a parallax image is used as an example of a distance image, but the present invention is not limited to this. For example, a distance image may be generated by integrating distance information generated using a detection device such as a millimeter wave radar or a laser radar with a parallax image generated using a stereo camera. Further, the detection accuracy may be further enhanced by using a stereo camera and a detection device such as a millimeter wave radar or a laser radar in combination with the detection result of the object by the stereo camera described above.

このような実施の形態及び実施の形態の変形例は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。   Such embodiments and modifications of the embodiments are included in the scope and gist of the invention, and are included in the invention described in the claims and the equivalents thereof.

1 車両
2 ステレオカメラ(撮像部)
2a カメラ部
2b カメラ部
3 車両ECU
4 撮像装置
30 画像処理装置
51 投票処理部
52 孤立領域検出部
53 奥行分離部
54 投票修正部
55 対象物検出部
56 車両制御部
1 vehicle 2 stereo camera (imaging part)
2a Camera unit 2b Camera unit 3 Vehicle ECU
4 imaging device 30 image processing device 51 voting processing unit 52 isolated region detection unit 53 depth separation unit 54 voting correction unit 55 object detection unit 56 vehicle control unit

特開2014−096005号公報JP 2014-096005 A 国際公開第2012/017650号International Publication No. 2012/017650

Claims (10)

物体の横方向位置及び奥行方向位置と頻度値が対応付けられた2次元的な頻度分布を示す2次元分布情報を生成する生成部と、
前記2次元分布情報に基づいて検出対象物を検出する検出部と、
前記頻度値を奥行方向位置に応じて積算して特徴量を生成し、前記特徴量に基づいて分離位置を特定する分離位置特定部と、
前記分離位置で前記検出対象物を分離する物体分離部と
を有する情報処理装置。
A generating unit that generates two-dimensional distribution information indicating a two-dimensional frequency distribution in which a horizontal position and a depth direction position of an object are associated with a frequency value;
A detection unit for detecting a detection object based on the two-dimensional distribution information;
The frequency value is integrated according to the depth direction position to generate a feature amount, and a separation position specifying unit that specifies a separation position based on the feature amount;
An information processing apparatus comprising: an object separation unit that separates the detection target at the separation position.
前記分離位置特定部は、前記分離位置において2つに分離された検出対象物の一方の奥行方向位置及び他方の奥行方向位置の差を算出し、前記差が所定の値を超えている分離位置を特定すること
を特徴とする請求項1に記載の情報処理装置。
The separation position specifying unit calculates a difference between one depth direction position and the other depth direction position of the detection object separated into two at the separation position, and the separation position where the difference exceeds a predetermined value The information processing apparatus according to claim 1, wherein:
前記分離位置特定部は、前記検出対象物の奥行方向位置が所定の位置よりも遠方である場合に、前記分離位置の特定を行うこと
を特徴とする請求項1又は請求項2に記載の情報処理装置。
The information according to claim 1 or 2, wherein the separation position specifying unit specifies the separation position when a depth direction position of the detection object is farther than a predetermined position. Processing equipment.
前記分離位置特定部は、前記検出対象物の横方向位置に対応する前記頻度値を、前記奥行方向に沿って積算処理することで、前記特徴量を生成すること
を特徴とする請求項1又は請求項2に記載の情報処理装置。
The said separation position specific | specification part produces | generates the said feature-value by integrating | accumulating the said frequency value corresponding to the horizontal direction position of the said detection target object along the said depth direction. The information processing apparatus according to claim 2.
前記分離位置特定部は、前記分離位置の候補を複数特定し、当該各分離位置の候補に基づいて算出した前記特徴量が所定の条件を満たす分離位置を特定すること
を特徴とする請求項1から請求項4のうち、いずれか一項に記載の情報処理装置。
The separation position specifying unit specifies a plurality of separation position candidates, and specifies a separation position where the feature amount calculated based on each separation position candidate satisfies a predetermined condition. The information processing apparatus according to any one of claims 1 to 4.
撮像部と、
請求項1から請求項5のうち、いずれか一項に記載の情報処理装置と
を有する撮像装置。
An imaging unit;
An imaging device comprising: the information processing device according to any one of claims 1 to 5.
請求項1から請求項5のうち、いずれか一項に記載の情報処理装置と、
前記物体分離部により分離された物体の物体情報に基づいて、所定の機器を制御する制御部と
を有する機器制御システム。
The information processing apparatus according to any one of claims 1 to 5,
A device control system comprising: a control unit that controls a predetermined device based on object information of the object separated by the object separation unit.
請求項7に記載の機器制御システムの前記制御部により制御されること
を特徴とする移動体。
It is controlled by the said control part of the apparatus control system of Claim 7, The moving body characterized by the above-mentioned.
生成部が、物体の横方向位置及び奥行方向位置と頻度値が対応付けられた2次元的な頻度分布を示す2次元分布情報を生成する生成ステップと、
検出部が、前記2次元分布情報に基づいて検出対象物を検出する検出ステップと、
分離位置特定部が、前記頻度値を奥行方向位置に応じて積算して特徴量を生成し、前記特徴量に基づいて分離位置を特定する分離位置特定ステップと、
物体分離部が、前記分離位置で前記検出対象物を分離する物体分離ステップと
を有する情報処理方法。
A generating step for generating two-dimensional distribution information indicating a two-dimensional frequency distribution in which the horizontal position and depth direction position of the object are associated with the frequency value;
A detecting step for detecting a detection object based on the two-dimensional distribution information;
A separation position specifying unit that generates the feature amount by integrating the frequency value according to the depth direction position, and specifies the separation position based on the feature amount; and
An object separation method in which an object separation unit separates the detection target at the separation position.
コンピュータを、
物体の横方向位置及び奥行方向位置と頻度値が対応付けられた2次元的な頻度分布を示す2次元分布情報を生成する生成部と、
前記2次元分布情報に基づいて検出対象物を検出する検出部と、
前記頻度値を奥行方向位置に応じて積算して特徴量を生成し、前記特徴量に基づいて分離位置を特定する分離位置特定部と、
前記分離位置で前記検出対象物を分離する物体分離部として機能させること
を特徴とする情報処理プログラム。
Computer
A generating unit that generates two-dimensional distribution information indicating a two-dimensional frequency distribution in which a horizontal position and a depth direction position of an object are associated with a frequency value;
A detection unit for detecting a detection object based on the two-dimensional distribution information;
The frequency value is integrated according to the position in the depth direction to generate a feature amount, and a separation position specifying unit that specifies a separation position based on the feature amount;
An information processing program that functions as an object separation unit that separates the detection target at the separation position.
JP2017176859A 2016-11-18 2017-09-14 Information processing device, image pickup device, device control system, mobile body, information processing method, and information processing program Active JP6969245B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
EP17201981.2A EP3324336A1 (en) 2016-11-18 2017-11-16 Information processing device, information processing method, and carrier means

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016224921 2016-11-18
JP2016224921 2016-11-18

Publications (2)

Publication Number Publication Date
JP2018088237A true JP2018088237A (en) 2018-06-07
JP6969245B2 JP6969245B2 (en) 2021-11-24

Family

ID=62493682

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017176859A Active JP6969245B2 (en) 2016-11-18 2017-09-14 Information processing device, image pickup device, device control system, mobile body, information processing method, and information processing program

Country Status (1)

Country Link
JP (1) JP6969245B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021022322A (en) * 2019-07-30 2021-02-18 株式会社リコー Image processing device, object recognition device, apparatus control system, image processing method, and program

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015207281A (en) * 2014-04-10 2015-11-19 株式会社リコー Solid detector, solid detection method, solid detection program, and mobile body equipment control system
JP2016148962A (en) * 2015-02-12 2016-08-18 日立オートモティブシステムズ株式会社 Object detection device
JP2016186702A (en) * 2015-03-27 2016-10-27 富士重工業株式会社 Outside-vehicle environment recognition device

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015207281A (en) * 2014-04-10 2015-11-19 株式会社リコー Solid detector, solid detection method, solid detection program, and mobile body equipment control system
JP2016148962A (en) * 2015-02-12 2016-08-18 日立オートモティブシステムズ株式会社 Object detection device
JP2016186702A (en) * 2015-03-27 2016-10-27 富士重工業株式会社 Outside-vehicle environment recognition device

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021022322A (en) * 2019-07-30 2021-02-18 株式会社リコー Image processing device, object recognition device, apparatus control system, image processing method, and program
JP7306139B2 (en) 2019-07-30 2023-07-11 株式会社リコー Image processing device, object recognition device, device control system, image processing method and program

Also Published As

Publication number Publication date
JP6969245B2 (en) 2021-11-24

Similar Documents

Publication Publication Date Title
CN106485233B (en) Method and device for detecting travelable area and electronic equipment
JP7206583B2 (en) Information processing device, imaging device, device control system, moving object, information processing method and program
JP5690688B2 (en) Outside world recognition method, apparatus, and vehicle system
US10442438B2 (en) Method and apparatus for detecting and assessing road reflections
US10748014B2 (en) Processing device, object recognition apparatus, device control system, processing method, and computer-readable recording medium
US11691585B2 (en) Image processing apparatus, imaging device, moving body device control system, image processing method, and program product
JP2017083326A (en) Image processor, imaging apparatus, equipment control system, frequency distribution image generation method, and program
EP3115933B1 (en) Image processing device, image capturing device, mobile body control system, image processing method, and computer-readable recording medium
JP6687039B2 (en) Object detection device, device control system, imaging device, object detection method, and program
JP6753134B2 (en) Image processing device, imaging device, mobile device control system, image processing method, and image processing program
JP6592991B2 (en) Object detection apparatus, object detection method, and program
JP6972797B2 (en) Information processing device, image pickup device, device control system, mobile body, information processing method, and program
US11527075B2 (en) Information processing apparatus, imaging apparatus, apparatus control system, movable object, information processing method, and computer-readable recording medium
US10643083B2 (en) Vehicle exterior environment recognition apparatus
WO2017154305A1 (en) Image processing device, apparatus control system, imaging device, image processing method, and program
US10789489B2 (en) Vehicle exterior environment recognition apparatus
JP6969245B2 (en) Information processing device, image pickup device, device control system, mobile body, information processing method, and information processing program
JP2018088234A (en) Information processing device, imaging device, apparatus control system, movable body, information processing method, and program
JP7062904B2 (en) Information processing equipment, image pickup equipment, equipment control system, mobile body, information processing method and program
WO2018097269A1 (en) Information processing device, imaging device, equipment control system, mobile object, information processing method, and computer-readable recording medium
EP3540643A1 (en) Image processing apparatus and image processing method
JP6943092B2 (en) Information processing device, imaging device, device control system, moving object, information processing method, and information processing program
US20200074195A1 (en) Vehicle exterior environment recognition apparatus and method of recognizing exterior environment outside vehicle
EP3324336A1 (en) Information processing device, information processing method, and carrier means
JP2019160247A (en) Image processing device, object recognition device, instrument control system, moving body, image processing method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200707

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210719

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210810

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210910

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210928

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211011

R151 Written notification of patent or utility model registration

Ref document number: 6969245

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151