JP2018088237A - Information processing device, imaging device, apparatus control system, movable body, information processing method, and information processing program - Google Patents
Information processing device, imaging device, apparatus control system, movable body, information processing method, and information processing program Download PDFInfo
- Publication number
- JP2018088237A JP2018088237A JP2017176859A JP2017176859A JP2018088237A JP 2018088237 A JP2018088237 A JP 2018088237A JP 2017176859 A JP2017176859 A JP 2017176859A JP 2017176859 A JP2017176859 A JP 2017176859A JP 2018088237 A JP2018088237 A JP 2018088237A
- Authority
- JP
- Japan
- Prior art keywords
- separation
- unit
- separation position
- information processing
- depth direction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
本発明は、情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラムに関する。 The present invention relates to an information processing device, an imaging device, a device control system, a moving body, an information processing method, and an information processing program.
今日において、歩行者又は自動車等との衝突の際に、いかに歩行者を守れるか及び乗員を保護できるかという、自動車の安全性における観点から自動車のボディー構造等の開発が行われている。近年においては、情報処理技術、画像処理技術の発達により、人及び自動車等を高速に検出する技術が知られている。これらの技術を用いることで、衝突する前に自動的にブレーキをかけて衝突を未然に防止する衝突防止システムが設けられた自動車も知られている。この衝突防止システムの場合、ミリ波レーダ装置、レーザレーダ装置又はステレオカメラ装置等を用いて人又は他車等の検出対象物までの距離を測距し、この測距した結果に基づいて、ブレーキ制御を行う。これにより、検出対象物との間の距離に応じて、自動的にブレーキをかけることができる。 2. Description of the Related Art Today, automobile body structures and the like have been developed from the viewpoint of automobile safety, such as how to protect pedestrians and protect passengers in the event of a collision with a pedestrian or automobile. In recent years, with the development of information processing technology and image processing technology, technology for detecting humans, automobiles and the like at high speed is known. There is also known an automobile provided with a collision prevention system that uses these techniques to automatically brake before a collision to prevent the collision. In the case of this collision prevention system, a distance to a detection target such as a person or another vehicle is measured using a millimeter wave radar device, a laser radar device, a stereo camera device, or the like, and a brake is determined based on the result of the distance measurement. Take control. As a result, the brake can be automatically applied according to the distance to the detection target.
特許文献1(特開2014−096005号公報)には、同一とみなされるオブジェクトを正確にグループ化して検出する物体検出装置が開示されている。この物体検出装置は、距離画像を用いて有効領域同士をグルーピングした後、グルーピングされた物体に対して濃淡画像の輪郭部分(エッジ)に着目して領域を分割する。 Patent Document 1 (Japanese Patent Laid-Open No. 2014-096005) discloses an object detection apparatus that accurately detects grouped objects that are regarded as identical. This object detection apparatus groups the effective areas using the distance image, and then divides the area by focusing on the contour portion (edge) of the grayscale image with respect to the grouped objects.
特許文献2(国際公開第2012/017650号)には、物体及び路面を精度よく検出可能な物体検出装置が開示されている。この物体検出装置は、路面領域を検出した後、路面以上の高さを持つデータを物体候補領域として検出し、形状特徴に基づいて物体及び路面の判別を行う。 Patent Document 2 (International Publication No. 2012/017650) discloses an object detection device that can detect an object and a road surface with high accuracy. After detecting the road surface area, the object detection device detects data having a height equal to or higher than the road surface as an object candidate area, and determines the object and the road surface based on the shape feature.
しかし、検出対象物までの間の距離の測距精度は、検出対象物までの間の距離が長くなるほど距離分解能が低下する。このため、遠方に位置する複数の検出対象物同士が結合し、一つの物体として検出される不都合を生ずる場合もあった。 However, the distance measurement accuracy of the distance to the detection target decreases as the distance to the detection target increases. For this reason, there are cases where a plurality of objects to be detected located in the distance are coupled to each other and inconvenience is detected as one object.
本発明は、上述の課題に鑑みてなされたものであり、複数の検出対象物を正確に分離して検出可能な情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラムを提供することを目的とする。 The present invention has been made in view of the above-described problems, and is an information processing device, an imaging device, a device control system, a moving body, an information processing method, and an information processing device capable of accurately separating and detecting a plurality of detection objects. An object is to provide an information processing program.
上述した課題を解決し、目的を達成するために、本発明は、物体の横方向位置及び奥行方向位置と頻度値が対応付けられた2次元的な頻度分布を示す2次元分布情報を生成する生成部と、2次元分布情報に基づいて検出対象物を検出する検出部と、頻度値を奥行方向位置に応じて積算して特徴量を生成し、特徴量に基づいて分離位置を特定する分離位置特定部と、分離位置で検出対象物を分離する物体分離部とを有する。 In order to solve the above-described problems and achieve the object, the present invention generates two-dimensional distribution information indicating a two-dimensional frequency distribution in which the horizontal position and depth direction position of an object are associated with frequency values. A generation unit, a detection unit that detects a detection target based on two-dimensional distribution information, and a frequency value that is integrated according to a depth direction position to generate a feature amount, and a separation that specifies a separation position based on the feature amount A position identifying unit; and an object separating unit that separates the detection target at the separation position.
本発明によれば、検出対象物を、正確に分離して検出できるという効果を奏する。 According to the present invention, there is an effect that detection objects can be accurately separated and detected.
以下、図面を参照して、実施の形態の機器制御システムの説明をする。 Hereinafter, an apparatus control system according to an embodiment will be described with reference to the drawings.
(システム構成)
まず、実施の形態の機器制御システムは、図1に示すように車両1のフロントガラス等に設けられ、進行方向前側の所定の撮像範囲を撮像するステレオカメラ2を有している。ステレオカメラ2は、図3を用いて後述するように2つの画像センサ22を備え、左目視界と右目視界の2つの画像を撮像する撮像部である。
(System configuration)
First, the device control system according to the embodiment includes a
図2は、移動体の一例である車両1が有するステレオカメラ2及びその周辺の構成例を示す図である。ステレオカメラ2は、例えば撮像した2つの画像を車両ECU(Engine Control Unit)3に対して出力する。車両ECU3は車両1に設置され、例えば車両1のエンジン制御、制動制御、及び走行レーンキープアシスト、操舵アシスト等の車両1に対する制御を行う。なお、以下、移動体の一例として車両について説明するが、本実施の形態の機器制御システムは、船舶、航空機、ロボット等にも適用可能である。
FIG. 2 is a diagram illustrating a configuration example of the
(撮像装置の構成)
図3は、ステレオカメラ2を備えた撮像装置4の構成例を示す図である。撮像装置4は、例えばステレオカメラ2及び画像処理装置30を有する。ステレオカメラ2は、左目用となるカメラ部2aと、右目用となるカメラ部2bが平行(水平)に組みつけられ、撮像対象領域の動画(又は静止画)を撮影する。
(Configuration of imaging device)
FIG. 3 is a diagram illustrating a configuration example of the
カメラ部2a、2bは、それぞれレンズ21、画像センサ22、及びセンサコントローラ23を備えている。画像センサ22は、例えばCCD(Charge Coupled Device)イメージセンサ又はCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサである。センサコントローラ23は、例えば画像センサ22の露光制御、画像読み出し制御、外部回路との通信、及び画像データの送信制御等を行う。
Each of the
画像処理装置30は、例えば図2に示した車両ECU3内に設けられる。画像処理装置30は、例えばデータバスライン300、シリアルバスライン302、CPU(Central Processing Unit)304、FPGA(Field-Programmable Gate Array)306、ROM(Read Only Memory)308、RAM(Random Access Memory)310、シリアルIF(Interface)312、及びデータIF(Interface)314を有する。
The
上述したステレオカメラ2は、データバスライン300及びシリアルバスライン302を介して画像処理装置30と接続されている。CPU304は、画像処理装置30全体の動作を制御し、画像処理及び画像認識処理を実行する。カメラ部2a、2bそれぞれの画像センサ22が撮像した撮像画像の輝度画像データは、データバスライン300を介して画像処理装置30のRAM310に書き込まれる。CPU304又はFPGA306からのセンサ露光値の変更制御データ、画像読み出しパラメータの変更制御データ、及び各種設定データ等は、シリアルバスライン302を介して送受信される。
The
FPGA306は、RAM310に保存された画像データに対してリアルタイム性が要求される処理である、例えばガンマ補正、ゆがみ補正(左右画像の平行化)、ブロックマッチングによる視差演算を行って視差画像を生成し、RAM310に再度書き込む。なお、視差画像は、物体の縦方向位置、横方向位置、及び、奥行方向位置が対応付けられた情報となっている。
The
CPU304は、ステレオカメラ2の各センサコントローラ23の制御、及び画像処理装置30の全体的な制御を行う。CPU304は、データIF314を介して、例えば自車両のCAN(Controller Area Network)情報をパラメータ(車速、加速度、舵角、ヨーレート等)として取得する。
The CPU 304 performs control of each
先行車両、人間、ガードレール、路面等の物体の認識データである車両制御データは、シリアルIF312を介して、車両ECU3に供給され、車両ECU3の制御機能として設けられた例えば自動ブレーキシステム又は走行アシストシステム等で用いられる。自動ブレーキシステムは、車両1のブレーキ制御を行う。また、走行アシストシステムは、車両1の走行レーンキープアシスト及び操舵アシスト等を行う。 Vehicle control data, which is recognition data for objects such as preceding vehicles, humans, guardrails, and road surfaces, is supplied to the vehicle ECU 3 via the serial IF 312 and provided as a control function of the vehicle ECU 3, for example, an automatic brake system or a travel assist system. Etc. The automatic brake system performs brake control of the vehicle 1. The travel assist system performs travel lane keep assist, steering assist, and the like of the vehicle 1.
(画像処理装置の機能)
画像処理装置30のCPU304は、ROM308等の記憶部に記憶されている車両制御プログラムを実行することで、図4に示す各機能を実現し、撮像装置4で撮像された視差画像に基づいて先行車両、人間、ガードレール、路面等の物体を検出する。そして、検出した物体に応じて、車両制御データを車両ECU3に供給する。車両ECU3は、車両制御データを用いて、ブレーキ制御、走行レーンキープアシスト及び操舵アシスト等を行う。
(Function of image processing device)
The CPU 304 of the
すなわち、CPU304は、ROM308等の記憶部に記憶されている車両制御プログラムを実行することで、図4に示すように、投票処理部51、孤立領域検出部52、奥行分離部53、投票修正部54、対象物検出部55、及び、車両制御部56の各機能を実現する。
In other words, the CPU 304 executes a vehicle control program stored in a storage unit such as the ROM 308, so that the
なお、この例では、投票処理部51〜車両制御部56をソフトウェアで実現することとしたが、投票処理部51〜車両制御部56のうち、一部又は全部を、IC(Integrated Circuit)等のハードウェアで実現してもよい。
In this example, the
また、車両制御プログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)などのコンピュータ装置で読み取り可能な記録媒体に記録して提供してもよい。また、CD−R、DVD(Digital Versatile Disk)、ブルーレイディスク(登録商標)、半導体メモリ等のコンピュータ装置で読み取り可能な記録媒体に記録して提供してもよい。また、車両制御プログラムは、インターネット等のネットワーク経由でインストールするかたちで提供してもよい。また、車両制御プログラムは、機器内のROM等に予め組み込んで提供してもよい。 Further, the vehicle control program may be provided by being recorded in a computer-readable recording medium such as a CD-ROM or a flexible disk (FD) in an installable or executable file. Further, the program may be provided by being recorded on a recording medium readable by a computer device such as a CD-R, a DVD (Digital Versatile Disk), a Blu-ray Disc (registered trademark), or a semiconductor memory. The vehicle control program may be provided by being installed via a network such as the Internet. The vehicle control program may be provided by being incorporated in advance in a ROM or the like in the device.
生成部の一例である投票処理部51は、撮像装置4の撮像画像から形成された視差画像に基づいて、物体の横方向位置と奥行方向位置とが対応付けられた頻度分布を示す2次元ヒストグラムであるUマップ(2次元分布情報の一例)を生成する。なお、説明の都合上、「マップ」という語句を用いるが、実際に地図又は画像状の情報が形成される訳ではなく、横方向位置と奥行方向位置とが対応付けられた情報群が形成されるものと理解されたい。
The
具体的には、投票処理部51は、横軸を物体との間の実距離、縦軸を物体との間の距離に応じて間引き率を変動させる間引き視差とした、視差値の頻度分布を示す二次元ヒストグラムであるUマップ(鳥瞰画像、俯瞰画像、俯瞰マップ)を生成する。一例ではあるが、投票処理部51は、物体との間の距離が50m以上の遠距離の場合、視差の間引きはしないが、物体との間の距離が20m〜50m未満の中距離の場合、視差を1/2に間引き処理する。また、投票処理部51は、物体との間の距離が10m〜20m未満の近距離の場合、視差を1/3に間引き処理し、物体との間の距離が10m未満の場合、視差を1/8に間引き処理する。遠方では物体が小さく、視差情報が少なく、また、距離の分解能も小さいため、視差の間引き処理を行わない。これに対して、近距離の場合、物体が大きく写るため、視差情報が多く距離の分解能も大きくなるため、視差を大きく間引き処理する。なお、本処理は物体を検出しやすくするために俯瞰的なマップ(鳥瞰画像、俯瞰画像)を生成するものであるため、横軸は実距離でなくとも実距離に相当するものであれば良い。
Specifically, the
図5は、このように物体との間の距離に応じた間引き視差を用いて生成したUマップの一例である。この図5の例は、左右のガードレールGL−GR間の道路が2車線となっており、各車線を、車両C1、C2がそれぞれ略々並んで走行している状態を示している。なお、この例では、投票処理部51は、縦軸を視差値、横軸を実距離としたUマップを生成することとしたが、縦軸を視差値、横軸をX座標系の値としたUマップを生成し、このUマップを用いて、後述する処理を実行してもよい。この場合でも、縦軸を視差値、横軸を実距離としたUマップを用いた場合と同様の効果を得ることができる。すなわち、縦軸と横軸の変換によらず、物体の横方向位置と奥行方向位置とが対応付けられた情報群が利用できれば良い。なお、以下では奥行方向を視差値ではなく距離値に変換したものとして説明する。なお、変換せずに視差値のまま情報を取り扱ってもよい。
FIG. 5 is an example of the U map generated using the thinning parallax according to the distance between the object and the object. The example of FIG. 5 shows a state in which the road between the left and right guard rails GL-GR has two lanes, and the vehicles C1 and C2 are running substantially side by side in each lane. In this example, the
次に、検出部の一例である図4に示す孤立領域検出部52は、Uマップ上に存在する物体に対応する孤立領域をそれぞれ検出する。図6に孤立領域の検出例を示す。この図6の例の場合、実施の形態の機器制御システムが設けられた車両1は、2車線の直線道路の左側のレーンを走行しており、この車両1の前方には、先行車両としてトラックTRが走行している例である。また、右側のレーンには、手前から順に、タクシー自動車TK、軽トラック自動車KJ1及び軽トラック自動車KJ2が走行している例である。右側のレーンを走行する自動車のうち、一番手前を走行するタクシー自動車TKは、略々車両全体が確認できる状態である。また、タクシー自動車TKの前方を走行する軽トラック自動車KJ1は、右側のテールランプが、タクシー自動車TKのボンネットの右端の部分と重なっているが、略々荷台全体を確認できる状態である。そして、軽トラック自動車KJ2は、略々左半分が、後方を走行する軽トラック自動車KJ1と重なり、右半分しか確認できない状態である。なお、孤立領域の検出は、周知のラベリング処理(隣接する画素にIDを付与する処理)を用い、同一のIDが付与され一定以上の大きさを有するものを抽出することにより行い得る。これに限らず、周知の種々の方法が適用できる。
Next, the isolated
(分離処理)
ここで、孤立領域検出部52は、近い距離値(視差値)の物体同士が重なり合っていることから、タクシー自動車TK及び軽トラック自動車KJ1を1台の車両として誤検出したとする。図6に示すタクシー自動車TK及び軽トラック自動車KJ1を囲む枠(検出枠)は、このような誤検出が生じたことを示している。なお、ここでいう枠とは、物体の位置と大きさを示すものであり、例えば物体を囲む矩形の角の座標と高さ及び幅が対応付けられた情報である。
(Separation process)
Here, it is assumed that the isolated
分離位置特定部の一例である奥行分離部53は、孤立領域検出部52で検出された孤立領域が、距離分散(視差分散)により前後の車両等の物体同士の結合が生じ易い距離範囲に位置している場合(奥行分離開始条件を満たしている場合)、奥行分離処理を実行する。すなわち、遠方では距離分散(視差分散)が大きくなり、物体の結合が生じやすいため、奥行分離処理を実行するものとしている。具体的には、例えば「最近距離が30m以上の孤立領域であること」を、奥行分離開始条件として定めている。「30m」等の数値は、撮像装置4のステレオカメラ性能等に応じて変更してもよい。実施の形態の例の場合、近距離に位置する孤立領域に対しては、以下に説明する奥行分離処理を行わないことで、CPU304の処理負荷を軽減することができる。
The
奥行分離部53は、上述の奥行分離開始条件を満たす孤立領域に対して、画像のX座標(Uマップの横方向座標)と同等の性質を有する一次元の特徴量(頻度と距離値の積)を算出する。すなわち、各X座標(または横方向位置)毎に対応する頻度と距離値の積を算出する。また、奥行分離部53は、算出した特徴量を全ての各X座標位置(分離位置の候補)で分割し、孤立領域の物体を分離するための評価値(特徴量)を算出し、評価値が最大となる分割位置を特定する。なお、この例では、評価値が最大となる分割位置を特定することとしたが、評価値が2番目に大きい分割位置、又は、評価値が2番目に大きい分割位置等、設計等に応じて特定する分割位置を変更してもよい。
The
上記にいう頻度と距離値の積は、一般に良く知られる判別分析法における分離度(クラス間分散とクラス内分散の比)に相当する特徴量となる。よって、この特徴量に基づいて分割位置を特定することにより、図7に示すように、対象を2つのグループに適切に分離することができる。すなわち、検出対象物を正確に分離することができることとなる。 The product of the frequency and the distance value described above is a feature amount corresponding to the degree of separation (ratio of interclass variance to intraclass variance) in a generally well-known discriminant analysis method. Therefore, by specifying the division position based on this feature amount, the target can be appropriately separated into two groups as shown in FIG. That is, the detection object can be accurately separated.
奥行分離部53は、特定した分割位置で分離した物体の平均距離の差が、車両一台分の長さより離れていた場合に、孤立領域を二つの物体の孤立領域に分割する。横幅の確からしさではなく、分割位置の統計的処理及び平均距離の差により、奥行方向に位置する孤立領域を分離する。これにより、距離分散(視差分散)による悪影響、及び、Uマップの二次元的な分布による悪影響を受けにくくなり、例えば前後を走行している二つの車両を正しく分離して検出することができる。
The
図8のフローチャートに、奥行分離処理の流れを示す。奥行分離部53は、ステップS1において、上述の奥行分離開始条件を満たす孤立領域を形成する画素(投票情報)毎に「距離値(Y座標値、奥行)×頻度値」の特徴量を算出する。そして、奥行分離部53は、孤立領域の奥行方向の列毎に、各画素の算出した特徴量を積算処理して1次元のヒストグラムを生成する。このような1次元ヒストグラムは、視差画像のX軸と同等の次元を有する。なお、本実施形態では、視差画像の各X座標(横方向位置)毎に、これに対応する頻度と距離値の積を算出するものとするが、これに限られず、視差画像のスケールを縮小したX座標毎に、これに対応する頻度と距離値の積を算出するものとしてもよい。
The flowchart of FIG. 8 shows the flow of the depth separation process. In step S1, the
図9は、1次元ヒストグラムが生成される様子を示す図である。この図9は、図6に示したタクシー自動車TK及びタクシー自動車TKの前を走行する軽トラック自動車KJ1が結合して一つの孤立領域として検出された例を示している。図9中、奥行側の塊が軽トラック自動車KJ1、手前側がタクシー自動車TKを示している。また、軽トラック自動車KJ1内の画素中の数値は、「距離値(Y座標値)×頻度値」の演算式で算出した特徴量の一例となっている。 FIG. 9 is a diagram illustrating how a one-dimensional histogram is generated. FIG. 9 shows an example in which the taxi car TK shown in FIG. 6 and the light truck car KJ1 traveling in front of the taxi car TK are combined and detected as one isolated region. In FIG. 9, the lump on the depth side indicates the light truck car KJ1, and the front side indicates the taxi car TK. Further, the numerical value in the pixel in the light truck automobile KJ1 is an example of the feature amount calculated by the arithmetic expression of “distance value (Y coordinate value) × frequency value”.
すなわち、図9の例の場合、軽トラック自動車KJ1の一列目の画素は1つのみであり、「距離値(Y座標値)×頻度値」の特徴量は「1」となっている。また、軽トラック自動車KJ1の二列目の画素は2つあり、「距離値(Y座標値)×頻度値」の特徴量は、それぞれ「3」、「4」となっている。奥行分離部53は、このような特徴量を列方向に積算処理する(図9中、「+」の記号は、積算処理を示している)。これにより、一画素目は「1」、2画素目は「7(=3+4)」・・・の1次元ヒストグラムが生成される。このような1次元ヒストグラムを用いることで、後述する分離処理の時間を短縮化でき、また、画像座標軸を利用することになるので、正確な物体の分離処理を可能とすることができる。
That is, in the example of FIG. 9, there is only one pixel in the first column of the light truck automobile KJ1, and the feature amount of “distance value (Y coordinate value) × frequency value” is “1”. Further, there are two pixels in the second column of the light truck automobile KJ1, and the feature values of “distance value (Y coordinate value) × frequency value” are “3” and “4”, respectively. The
なお、図9の例において、軽トラック自動車KJ1又はタクシー自動車TKの一つの画素が、1次元ヒストグラムの一つの画素に、必ずしも対応するとは限らない。この図9の例に示すように軽トラック自動車KJ1又はタクシー自動車TKの複数の画素が、1次元ヒストグラムの一つの画素に対応することも有り得る。 In the example of FIG. 9, one pixel of the light truck car KJ1 or taxi car TK does not necessarily correspond to one pixel of the one-dimensional histogram. As shown in the example of FIG. 9, a plurality of pixels of the light truck car KJ1 or taxi car TK may correspond to one pixel of the one-dimensional histogram.
次に、ステップS2において、奥行分離部53は、ステップS1で生成した1次元ヒストグラムの幅が、所定の幅より大きいか否かを判別する。具体的には、奥行分離部53は、1次元ヒストグラムの幅が、例えば通常の車両の1台分の幅である「2m」よりも大きいか否かを判別する。なお、孤立領域の検出枠内の距離値から1次元ヒストグラムの幅を実世界の幅に換算可能である。
Next, in step S2, the
1次元ヒストグラムの幅が、通常の車両の1台分の幅よりも小さいということは、その孤立領域は、複数の物体が結合した孤立領域ではないことを意味する。このため、奥行分離部53は、1次元ヒストグラムの幅が、通常の車両の1台分の幅よりも小さいと判別した場合、その孤立領域に対する分離処理を中止し、図8のフローチャートの処理を終了する。これに対して、1次元ヒストグラムの幅が、通常の車両の1台分の幅よりも大きいということは、その孤立領域は、複数の物体が結合した孤立領域である可能性が高い。このため、奥行分離部53は、ステップS3に処理を進める。
The fact that the width of the one-dimensional histogram is smaller than the width of one normal vehicle means that the isolated region is not an isolated region in which a plurality of objects are combined. For this reason, when the
ステップS3では、奥行分離部53が、1次元ヒストグラムをヒストグラムの頻度がある範囲内の各X座標で、順に2つのグループに分け,各分離位置でクラス分離度の評価値を算出するクラス分離度計算処理を行う。図10は、クラス分離度計算処理の処理内容を示す模式図である。この図10に示すように、奥行分離部53が、1次元ヒストグラムをヒストグラムの頻度がある範囲内において、X座標順に1次元ヒストグラムを2つのグループに分離する。図10に示す矢印Bは、1次元ヒストグラムの分離位置を示しており、現在、略中央で1次元ヒストグラムが2つに分離されていることを示している。奥行分離部53は、例えば1次元ヒストグラムの左端から右端にかけて順に分離位置をずらし、各分離位置でクラス分離度の評価値を算出する。
In step S3, the
なお、1次元ヒストグラムの分離位置は、どのように移動してもよく、例えば1次元ヒストグラムの右端から左端にかけて順に移動してもよい。または、最初に、1次元ヒストグラムを真ん中から分離し、真ん中から右端にかけて順に分離位置を移動して演算を行い、右端に対応する演算の終了後に、1次元ヒストグラムの分離位置を真ん中に戻し、真ん中から左端にかけて順に分離位置を移動して演算を行ってもよい。 Note that the separation position of the one-dimensional histogram may be moved in any way, for example, may be sequentially moved from the right end to the left end of the one-dimensional histogram. Alternatively, first, the one-dimensional histogram is separated from the middle, the separation position is moved in order from the middle to the right end, and the computation is performed. After the computation corresponding to the right end is completed, the separation position of the one-dimensional histogram is returned to the middle, The calculation may be performed by moving the separation position in order from the left to the left end.
奥行分離部53は、図10に示すように1次元ヒストグラムの分離位置から左端までの間の頻度値の和を「w1」、分離位置から左端までの間の特徴量(距離値×頻度値)の平均値を「m1」、分離位置から右端までの間の頻度値の和を「w2」、分離位置から右端までの間の特徴量(距離値×頻度値)の平均値を「m2」として、以下の数1式の演算を行うことで、クラス分離度を算出する。なお、平均値m1、m2は、Uマップの距離値(Y座標値)の次元に相当する。平均値m1は、1次元ヒストグラムの分離位置から左端までの間の特徴量の平均値を示し、平均値m2は、1次元ヒストグラムの分離位置から右端までの間の特徴量の平均値を示す。
As shown in FIG. 10, the
クラス分離度=w1×w2×(m1−m2)2・・・数1式 Class separation = w1 × w2 × (m1-m2) 2.
なお、奥行分離部53は、平均値m1、m2を、以下の数2式の演算を行うことで算出する。
The
平均値=(Σ(距離値×頻度値))/(Σ頻度値)・・・数2式
Average value = (Σ (distance value × frequency value)) / (Σ frequency value)
次に、ステップS4において、奥行分離部53は、算出したクラス分離度のうち、最大のクラス分離度を算出した分離位置を特定する。また、奥行分離部53は、特定した分離位置を境として形成される2つのグループの平均値m1及び平均値m2の差(距離差)を算出する。そして、奥行分離部53は、ステップS5において、算出した距離差が、例えば大型車1台分の車両長である10m等の、所定の値を超えているか否かを判別する。
Next, in step S4, the
算出した距離差が、大型車1台分の車両長である10mを超えていないということは、特定した分離位置を境として形成される2つのグループに対応する各物体は、例えばトラック自動車の荷台と運転席等のような、一体的な物体(孤立領域)であることを意味する。このため、奥行分離部53は、その孤立領域に対する分離処理を中止し、図8のフローチャートの処理を終了する。
The fact that the calculated distance difference does not exceed 10 m, which is the vehicle length of one large vehicle, means that each object corresponding to the two groups formed with the specified separation position as a boundary is, for example, a truck bed And an integrated object (isolated region) such as a driver's seat. For this reason, the
これに対して、算出した距離差が、大型車1台分の車両長である10mを超えているということは、特定した分離位置を境として形成される2つのグループに対応する各物体は、例えば2台の車両等のように、物理的に異なる物体(孤立領域)であることを意味する。このため、奥行分離部53は、ステップS36に処理を進め、特定した分離位置で、一つに結合されていた孤立領域を、2つの孤立領域に分離処理して、図8のフローチャートを終了する。このような分離処理においては、視差分散による悪影響、及び、Uマップの二次元的な分布による悪影響を受けにくくなり、例えば前後を走行している二つの車両を正しく分離することができる。
On the other hand, that the calculated distance difference exceeds 10 m, which is the vehicle length of one large vehicle, means that each object corresponding to the two groups formed with the specified separation position as a boundary is For example, it means physically different objects (isolated regions) such as two vehicles. For this reason, the
以上のように、物体の横方向位置と奥行方向位置(距離値)および頻度が対応づけられた情報から、横方向位置毎に距離値と頻度を積算した特徴量(1次元ヒストグラム)を算出し、この特徴量に基づいて物体を分離する。これにより、正確に物体を分離できる。 As described above, the feature amount (one-dimensional histogram) obtained by integrating the distance value and the frequency for each horizontal position is calculated from the information in which the horizontal position, the depth direction position (distance value), and the frequency of the object are associated with each other. Then, the object is separated based on the feature amount. As a result, the object can be accurately separated.
物体分離部の一例である図4に示す投票修正部54は、奥行分離部53の分離処理結果に基づいて、孤立領域を設定し直す(孤立領域を分離する)ことで、Uマップ上に設定された孤立領域を修正する。図11は、設定し直した孤立領域を示す図である。修正前においては、図6を用いて説明したように右斜線を走行するタクシー自動車TK、及び、タクシー自動車TKの前を走行する軽トラック自動車KJ1は、一つの物体として一つの孤立領域が設定されていた。しかし、上述の分離処理を行うことで、図11に示すように、タクシー自動車TK、及び、タクシー自動車TKの前を走行する軽トラック自動車KJ1を、それぞれ異なる物体として孤立領域を設定し直すことができる。
The
図4に示す対象物検出部55は、このように正確に設定された各孤立領域に基づいて、対応する車両、歩行者、ガードレール、標識等の物体検出処理を行う。そして、車両制御部56は、物体検出結果となる車両制御データを図2に示す車両ECU3に供給する。車両ECU3は、例えば車両1のエンジン制御、制動制御、及び走行レーンキープアシスト、操舵アシスト等の車両1に対する制御を行う。
The
上述の実施の形態は、例として提示したものであり、本発明の範囲を限定することは意図していない。この新規な実施の形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことも可能である。例えば、距離の値(距離値)と視差値は等価に扱うことができる。このため、上述の実施の形態の説明では、距離画像の一例として視差画像を用いて説明しているが、これに限られない。例えば、ステレオカメラを用いて生成した視差画像に対して、ミリ波レーダやレーザレーダ等の検出装置を用いて生成した距離情報を統合して、距離画像を生成してもよい。また、ステレオカメラと、ミリ波レーダやレーザレーダ等の検出装置を併用し、上述したステレオカメラによる物体の検出結果と組み合わせることにより、検出の精度をさらに高める構成としてもよい。 The above-described embodiments are presented as examples, and are not intended to limit the scope of the present invention. The novel embodiment can be implemented in various other forms, and various omissions, replacements, and changes can be made without departing from the spirit of the invention. For example, a distance value (distance value) and a parallax value can be handled equivalently. For this reason, in the description of the above-described embodiment, a parallax image is used as an example of a distance image, but the present invention is not limited to this. For example, a distance image may be generated by integrating distance information generated using a detection device such as a millimeter wave radar or a laser radar with a parallax image generated using a stereo camera. Further, the detection accuracy may be further enhanced by using a stereo camera and a detection device such as a millimeter wave radar or a laser radar in combination with the detection result of the object by the stereo camera described above.
このような実施の形態及び実施の形態の変形例は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。 Such embodiments and modifications of the embodiments are included in the scope and gist of the invention, and are included in the invention described in the claims and the equivalents thereof.
1 車両
2 ステレオカメラ(撮像部)
2a カメラ部
2b カメラ部
3 車両ECU
4 撮像装置
30 画像処理装置
51 投票処理部
52 孤立領域検出部
53 奥行分離部
54 投票修正部
55 対象物検出部
56 車両制御部
1
4
Claims (10)
前記2次元分布情報に基づいて検出対象物を検出する検出部と、
前記頻度値を奥行方向位置に応じて積算して特徴量を生成し、前記特徴量に基づいて分離位置を特定する分離位置特定部と、
前記分離位置で前記検出対象物を分離する物体分離部と
を有する情報処理装置。 A generating unit that generates two-dimensional distribution information indicating a two-dimensional frequency distribution in which a horizontal position and a depth direction position of an object are associated with a frequency value;
A detection unit for detecting a detection object based on the two-dimensional distribution information;
The frequency value is integrated according to the depth direction position to generate a feature amount, and a separation position specifying unit that specifies a separation position based on the feature amount;
An information processing apparatus comprising: an object separation unit that separates the detection target at the separation position.
を特徴とする請求項1に記載の情報処理装置。 The separation position specifying unit calculates a difference between one depth direction position and the other depth direction position of the detection object separated into two at the separation position, and the separation position where the difference exceeds a predetermined value The information processing apparatus according to claim 1, wherein:
を特徴とする請求項1又は請求項2に記載の情報処理装置。 The information according to claim 1 or 2, wherein the separation position specifying unit specifies the separation position when a depth direction position of the detection object is farther than a predetermined position. Processing equipment.
を特徴とする請求項1又は請求項2に記載の情報処理装置。 The said separation position specific | specification part produces | generates the said feature-value by integrating | accumulating the said frequency value corresponding to the horizontal direction position of the said detection target object along the said depth direction. The information processing apparatus according to claim 2.
を特徴とする請求項1から請求項4のうち、いずれか一項に記載の情報処理装置。 The separation position specifying unit specifies a plurality of separation position candidates, and specifies a separation position where the feature amount calculated based on each separation position candidate satisfies a predetermined condition. The information processing apparatus according to any one of claims 1 to 4.
請求項1から請求項5のうち、いずれか一項に記載の情報処理装置と
を有する撮像装置。 An imaging unit;
An imaging device comprising: the information processing device according to any one of claims 1 to 5.
前記物体分離部により分離された物体の物体情報に基づいて、所定の機器を制御する制御部と
を有する機器制御システム。 The information processing apparatus according to any one of claims 1 to 5,
A device control system comprising: a control unit that controls a predetermined device based on object information of the object separated by the object separation unit.
を特徴とする移動体。 It is controlled by the said control part of the apparatus control system of Claim 7, The moving body characterized by the above-mentioned.
検出部が、前記2次元分布情報に基づいて検出対象物を検出する検出ステップと、
分離位置特定部が、前記頻度値を奥行方向位置に応じて積算して特徴量を生成し、前記特徴量に基づいて分離位置を特定する分離位置特定ステップと、
物体分離部が、前記分離位置で前記検出対象物を分離する物体分離ステップと
を有する情報処理方法。 A generating step for generating two-dimensional distribution information indicating a two-dimensional frequency distribution in which the horizontal position and depth direction position of the object are associated with the frequency value;
A detecting step for detecting a detection object based on the two-dimensional distribution information;
A separation position specifying unit that generates the feature amount by integrating the frequency value according to the depth direction position, and specifies the separation position based on the feature amount; and
An object separation method in which an object separation unit separates the detection target at the separation position.
物体の横方向位置及び奥行方向位置と頻度値が対応付けられた2次元的な頻度分布を示す2次元分布情報を生成する生成部と、
前記2次元分布情報に基づいて検出対象物を検出する検出部と、
前記頻度値を奥行方向位置に応じて積算して特徴量を生成し、前記特徴量に基づいて分離位置を特定する分離位置特定部と、
前記分離位置で前記検出対象物を分離する物体分離部として機能させること
を特徴とする情報処理プログラム。 Computer
A generating unit that generates two-dimensional distribution information indicating a two-dimensional frequency distribution in which a horizontal position and a depth direction position of an object are associated with a frequency value;
A detection unit for detecting a detection object based on the two-dimensional distribution information;
The frequency value is integrated according to the position in the depth direction to generate a feature amount, and a separation position specifying unit that specifies a separation position based on the feature amount;
An information processing program that functions as an object separation unit that separates the detection target at the separation position.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP17201981.2A EP3324336A1 (en) | 2016-11-18 | 2017-11-16 | Information processing device, information processing method, and carrier means |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016224921 | 2016-11-18 | ||
JP2016224921 | 2016-11-18 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018088237A true JP2018088237A (en) | 2018-06-07 |
JP6969245B2 JP6969245B2 (en) | 2021-11-24 |
Family
ID=62493682
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017176859A Active JP6969245B2 (en) | 2016-11-18 | 2017-09-14 | Information processing device, image pickup device, device control system, mobile body, information processing method, and information processing program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6969245B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021022322A (en) * | 2019-07-30 | 2021-02-18 | 株式会社リコー | Image processing device, object recognition device, apparatus control system, image processing method, and program |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015207281A (en) * | 2014-04-10 | 2015-11-19 | 株式会社リコー | Solid detector, solid detection method, solid detection program, and mobile body equipment control system |
JP2016148962A (en) * | 2015-02-12 | 2016-08-18 | 日立オートモティブシステムズ株式会社 | Object detection device |
JP2016186702A (en) * | 2015-03-27 | 2016-10-27 | 富士重工業株式会社 | Outside-vehicle environment recognition device |
-
2017
- 2017-09-14 JP JP2017176859A patent/JP6969245B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015207281A (en) * | 2014-04-10 | 2015-11-19 | 株式会社リコー | Solid detector, solid detection method, solid detection program, and mobile body equipment control system |
JP2016148962A (en) * | 2015-02-12 | 2016-08-18 | 日立オートモティブシステムズ株式会社 | Object detection device |
JP2016186702A (en) * | 2015-03-27 | 2016-10-27 | 富士重工業株式会社 | Outside-vehicle environment recognition device |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021022322A (en) * | 2019-07-30 | 2021-02-18 | 株式会社リコー | Image processing device, object recognition device, apparatus control system, image processing method, and program |
JP7306139B2 (en) | 2019-07-30 | 2023-07-11 | 株式会社リコー | Image processing device, object recognition device, device control system, image processing method and program |
Also Published As
Publication number | Publication date |
---|---|
JP6969245B2 (en) | 2021-11-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106485233B (en) | Method and device for detecting travelable area and electronic equipment | |
JP7206583B2 (en) | Information processing device, imaging device, device control system, moving object, information processing method and program | |
JP5690688B2 (en) | Outside world recognition method, apparatus, and vehicle system | |
US10442438B2 (en) | Method and apparatus for detecting and assessing road reflections | |
US10748014B2 (en) | Processing device, object recognition apparatus, device control system, processing method, and computer-readable recording medium | |
US11691585B2 (en) | Image processing apparatus, imaging device, moving body device control system, image processing method, and program product | |
JP2017083326A (en) | Image processor, imaging apparatus, equipment control system, frequency distribution image generation method, and program | |
EP3115933B1 (en) | Image processing device, image capturing device, mobile body control system, image processing method, and computer-readable recording medium | |
JP6687039B2 (en) | Object detection device, device control system, imaging device, object detection method, and program | |
JP6753134B2 (en) | Image processing device, imaging device, mobile device control system, image processing method, and image processing program | |
JP6592991B2 (en) | Object detection apparatus, object detection method, and program | |
JP6972797B2 (en) | Information processing device, image pickup device, device control system, mobile body, information processing method, and program | |
US11527075B2 (en) | Information processing apparatus, imaging apparatus, apparatus control system, movable object, information processing method, and computer-readable recording medium | |
US10643083B2 (en) | Vehicle exterior environment recognition apparatus | |
WO2017154305A1 (en) | Image processing device, apparatus control system, imaging device, image processing method, and program | |
US10789489B2 (en) | Vehicle exterior environment recognition apparatus | |
JP6969245B2 (en) | Information processing device, image pickup device, device control system, mobile body, information processing method, and information processing program | |
JP2018088234A (en) | Information processing device, imaging device, apparatus control system, movable body, information processing method, and program | |
JP7062904B2 (en) | Information processing equipment, image pickup equipment, equipment control system, mobile body, information processing method and program | |
WO2018097269A1 (en) | Information processing device, imaging device, equipment control system, mobile object, information processing method, and computer-readable recording medium | |
EP3540643A1 (en) | Image processing apparatus and image processing method | |
JP6943092B2 (en) | Information processing device, imaging device, device control system, moving object, information processing method, and information processing program | |
US20200074195A1 (en) | Vehicle exterior environment recognition apparatus and method of recognizing exterior environment outside vehicle | |
EP3324336A1 (en) | Information processing device, information processing method, and carrier means | |
JP2019160247A (en) | Image processing device, object recognition device, instrument control system, moving body, image processing method and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200707 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20210208 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210719 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210810 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210910 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210928 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211011 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6969245 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |