JP6969245B2 - 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム - Google Patents

情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム Download PDF

Info

Publication number
JP6969245B2
JP6969245B2 JP2017176859A JP2017176859A JP6969245B2 JP 6969245 B2 JP6969245 B2 JP 6969245B2 JP 2017176859 A JP2017176859 A JP 2017176859A JP 2017176859 A JP2017176859 A JP 2017176859A JP 6969245 B2 JP6969245 B2 JP 6969245B2
Authority
JP
Japan
Prior art keywords
separation
separation position
unit
information processing
depth direction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017176859A
Other languages
English (en)
Other versions
JP2018088237A (ja
Inventor
禎郎 高橋
大輔 岡田
輔宏 木村
旅人 鈴木
陽一郎 大林
浩喜 久保園
淳 吉田
聖也 天野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to EP17201981.2A priority Critical patent/EP3324336A1/en
Publication of JP2018088237A publication Critical patent/JP2018088237A/ja
Application granted granted Critical
Publication of JP6969245B2 publication Critical patent/JP6969245B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラムに関する。
今日において、歩行者又は自動車等との衝突の際に、いかに歩行者を守れるか及び乗員を保護できるかという、自動車の安全性における観点から自動車のボディー構造等の開発が行われている。近年においては、情報処理技術、画像処理技術の発達により、人及び自動車等を高速に検出する技術が知られている。これらの技術を用いることで、衝突する前に自動的にブレーキをかけて衝突を未然に防止する衝突防止システムが設けられた自動車も知られている。この衝突防止システムの場合、ミリ波レーダ装置、レーザレーダ装置又はステレオカメラ装置等を用いて人又は他車等の検出対象物までの距離を測距し、この測距した結果に基づいて、ブレーキ制御を行う。これにより、検出対象物との間の距離に応じて、自動的にブレーキをかけることができる。
特許文献1(特開2014−096005号公報)には、同一とみなされるオブジェクトを正確にグループ化して検出する物体検出装置が開示されている。この物体検出装置は、距離画像を用いて有効領域同士をグルーピングした後、グルーピングされた物体に対して濃淡画像の輪郭部分(エッジ)に着目して領域を分割する。
特許文献2(国際公開第2012/017650号)には、物体及び路面を精度よく検出可能な物体検出装置が開示されている。この物体検出装置は、路面領域を検出した後、路面以上の高さを持つデータを物体候補領域として検出し、形状特徴に基づいて物体及び路面の判別を行う。
しかし、検出対象物までの間の距離の測距精度は、検出対象物までの間の距離が長くなるほど距離分解能が低下する。このため、遠方に位置する複数の検出対象物同士が結合し、一つの物体として検出される不都合を生ずる場合もあった。
本発明は、上述の課題に鑑みてなされたものであり、複数の検出対象物を正確に分離して検出可能な情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明は、物体の横方向位置及び奥行方向位置と頻度値が対応付けられた2次元的な頻度分布を示す2次元分布情報を生成する生成部と、2次元分布情報に基づいて検出対象物を検出する検出部と、頻度値を奥行方向位置に応じて積算して特徴量を生成し、特徴量に基づいて分離位置を特定する分離位置特定部と、分離位置で検出対象物を分離する物体分離部と、を有し、前記分離位置特定部は、前記分離位置において2つに分離された検出対象物の一方の奥行方向位置及び他方の奥行方向位置の差を算出し、前記差が所定の値を超えている分離位置を特定することを特徴とする
本発明によれば、検出対象物を、正確に分離して検出できるという効果を奏する。
図1は、第1の実施の形態の機器制御システムである車両に設けられたステレオカメラの位置を示す図である。 図2は、車両が有するステレオカメラ及びその周辺の構成を示す図である。 図3は、ステレオカメラを備えた撮像装置の構成例を示す図である。 図4は、第1の実施の形態の機器制御システムのCPUにより、車両制御プログラムに基づいて実現される各機能の機能ブロック図である。 図5は、Uマップの一例を示す図である。 図6は、Uマップ上の2つの物体に対して、一つの孤立領域が設定された状態を示す図である。 図7は、特徴量に基づいて特定した分割位置で2つに分離した検出対象物を示す図である。 図8は、実施の形態の分離処理の流れを示すフローチャートである。 図9は、一次元ヒストグラムの生成に仕方を説明するための図である。 図10は、クラス分離度の計算動作を説明するための図である。 図11は、Uマップ上の2つの物体に対して、それぞれ正確に孤立領域が設定された状態を示す図である。
以下、図面を参照して、実施の形態の機器制御システムの説明をする。
(システム構成)
まず、実施の形態の機器制御システムは、図1に示すように車両1のフロントガラス等に設けられ、進行方向前側の所定の撮像範囲を撮像するステレオカメラ2を有している。ステレオカメラ2は、図3を用いて後述するように2つの画像センサ22を備え、左目視界と右目視界の2つの画像を撮像する撮像部である。
図2は、移動体の一例である車両1が有するステレオカメラ2及びその周辺の構成例を示す図である。ステレオカメラ2は、例えば撮像した2つの画像を車両ECU(Engine Control Unit)3に対して出力する。車両ECU3は車両1に設置され、例えば車両1のエンジン制御、制動制御、及び走行レーンキープアシスト、操舵アシスト等の車両1に対する制御を行う。なお、以下、移動体の一例として車両について説明するが、本実施の形態の機器制御システムは、船舶、航空機、ロボット等にも適用可能である。
(撮像装置の構成)
図3は、ステレオカメラ2を備えた撮像装置4の構成例を示す図である。撮像装置4は、例えばステレオカメラ2及び画像処理装置30を有する。ステレオカメラ2は、左目用となるカメラ部2aと、右目用となるカメラ部2bが平行(水平)に組みつけられ、撮像対象領域の動画(又は静止画)を撮影する。
カメラ部2a、2bは、それぞれレンズ21、画像センサ22、及びセンサコントローラ23を備えている。画像センサ22は、例えばCCD(Charge Coupled Device)イメージセンサ又はCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサである。センサコントローラ23は、例えば画像センサ22の露光制御、画像読み出し制御、外部回路との通信、及び画像データの送信制御等を行う。
画像処理装置30は、例えば図2に示した車両ECU3内に設けられる。画像処理装置30は、例えばデータバスライン300、シリアルバスライン302、CPU(Central Processing Unit)304、FPGA(Field-Programmable Gate Array)306、ROM(Read Only Memory)308、RAM(Random Access Memory)310、シリアルIF(Interface)312、及びデータIF(Interface)314を有する。
上述したステレオカメラ2は、データバスライン300及びシリアルバスライン302を介して画像処理装置30と接続されている。CPU304は、画像処理装置30全体の動作を制御し、画像処理及び画像認識処理を実行する。カメラ部2a、2bそれぞれの画像センサ22が撮像した撮像画像の輝度画像データは、データバスライン300を介して画像処理装置30のRAM310に書き込まれる。CPU304又はFPGA306からのセンサ露光値の変更制御データ、画像読み出しパラメータの変更制御データ、及び各種設定データ等は、シリアルバスライン302を介して送受信される。
FPGA306は、RAM310に保存された画像データに対してリアルタイム性が要求される処理である、例えばガンマ補正、ゆがみ補正(左右画像の平行化)、ブロックマッチングによる視差演算を行って視差画像を生成し、RAM310に再度書き込む。なお、視差画像は、物体の縦方向位置、横方向位置、及び、奥行方向位置が対応付けられた情報となっている。
CPU304は、ステレオカメラ2の各センサコントローラ23の制御、及び画像処理装置30の全体的な制御を行う。CPU304は、データIF314を介して、例えば自車両のCAN(Controller Area Network)情報をパラメータ(車速、加速度、舵角、ヨーレート等)として取得する。
先行車両、人間、ガードレール、路面等の物体の認識データである車両制御データは、シリアルIF312を介して、車両ECU3に供給され、車両ECU3の制御機能として設けられた例えば自動ブレーキシステム又は走行アシストシステム等で用いられる。自動ブレーキシステムは、車両1のブレーキ制御を行う。また、走行アシストシステムは、車両1の走行レーンキープアシスト及び操舵アシスト等を行う。
(画像処理装置の機能)
画像処理装置30のCPU304は、ROM308等の記憶部に記憶されている車両制御プログラムを実行することで、図4に示す各機能を実現し、撮像装置4で撮像された視差画像に基づいて先行車両、人間、ガードレール、路面等の物体を検出する。そして、検出した物体に応じて、車両制御データを車両ECU3に供給する。車両ECU3は、車両制御データを用いて、ブレーキ制御、走行レーンキープアシスト及び操舵アシスト等を行う。
すなわち、CPU304は、ROM308等の記憶部に記憶されている車両制御プログラムを実行することで、図4に示すように、投票処理部51、孤立領域検出部52、奥行分離部53、投票修正部54、対象物検出部55、及び、車両制御部56の各機能を実現する。
なお、この例では、投票処理部51〜車両制御部56をソフトウェアで実現することとしたが、投票処理部51〜車両制御部56のうち、一部又は全部を、IC(Integrated Circuit)等のハードウェアで実現してもよい。
また、車両制御プログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)などのコンピュータ装置で読み取り可能な記録媒体に記録して提供してもよい。また、CD−R、DVD(Digital Versatile Disk)、ブルーレイディスク(登録商標)、半導体メモリ等のコンピュータ装置で読み取り可能な記録媒体に記録して提供してもよい。また、車両制御プログラムは、インターネット等のネットワーク経由でインストールするかたちで提供してもよい。また、車両制御プログラムは、機器内のROM等に予め組み込んで提供してもよい。
生成部の一例である投票処理部51は、撮像装置4の撮像画像から形成された視差画像に基づいて、物体の横方向位置と奥行方向位置とが対応付けられた頻度分布を示す2次元ヒストグラムであるUマップ(2次元分布情報の一例)を生成する。なお、説明の都合上、「マップ」という語句を用いるが、実際に地図又は画像状の情報が形成される訳ではなく、横方向位置と奥行方向位置とが対応付けられた情報群が形成されるものと理解されたい。
具体的には、投票処理部51は、横軸を物体との間の実距離、縦軸を物体との間の距離に応じて間引き率を変動させる間引き視差とした、視差値の頻度分布を示す二次元ヒストグラムであるUマップ(鳥瞰画像、俯瞰画像、俯瞰マップ)を生成する。一例ではあるが、投票処理部51は、物体との間の距離が50m以上の遠距離の場合、視差の間引きはしないが、物体との間の距離が20m〜50m未満の中距離の場合、視差を1/2に間引き処理する。また、投票処理部51は、物体との間の距離が10m〜20m未満の近距離の場合、視差を1/3に間引き処理し、物体との間の距離が10m未満の場合、視差を1/8に間引き処理する。遠方では物体が小さく、視差情報が少なく、また、距離の分解能も小さいため、視差の間引き処理を行わない。これに対して、近距離の場合、物体が大きく写るため、視差情報が多く距離の分解能も大きくなるため、視差を大きく間引き処理する。なお、本処理は物体を検出しやすくするために俯瞰的なマップ(鳥瞰画像、俯瞰画像)を生成するものであるため、横軸は実距離でなくとも実距離に相当するものであれば良い。
図5は、このように物体との間の距離に応じた間引き視差を用いて生成したUマップの一例である。この図5の例は、左右のガードレールGL−GR間の道路が2車線となっており、各車線を、車両C1、C2がそれぞれ略々並んで走行している状態を示している。なお、この例では、投票処理部51は、縦軸を視差値、横軸を実距離としたUマップを生成することとしたが、縦軸を視差値、横軸をX座標系の値としたUマップを生成し、このUマップを用いて、後述する処理を実行してもよい。この場合でも、縦軸を視差値、横軸を実距離としたUマップを用いた場合と同様の効果を得ることができる。すなわち、縦軸と横軸の変換によらず、物体の横方向位置と奥行方向位置とが対応付けられた情報群が利用できれば良い。なお、以下では奥行方向を視差値ではなく距離値に変換したものとして説明する。なお、変換せずに視差値のまま情報を取り扱ってもよい。
次に、検出部の一例である図4に示す孤立領域検出部52は、Uマップ上に存在する物体に対応する孤立領域をそれぞれ検出する。図6に孤立領域の検出例を示す。この図6の例の場合、実施の形態の機器制御システムが設けられた車両1は、2車線の直線道路の左側のレーンを走行しており、この車両1の前方には、先行車両としてトラックTRが走行している例である。また、右側のレーンには、手前から順に、タクシー自動車TK、軽トラック自動車KJ1及び軽トラック自動車KJ2が走行している例である。右側のレーンを走行する自動車のうち、一番手前を走行するタクシー自動車TKは、略々車両全体が確認できる状態である。また、タクシー自動車TKの前方を走行する軽トラック自動車KJ1は、右側のテールランプが、タクシー自動車TKのボンネットの右端の部分と重なっているが、略々荷台全体を確認できる状態である。そして、軽トラック自動車KJ2は、略々左半分が、後方を走行する軽トラック自動車KJ1と重なり、右半分しか確認できない状態である。なお、孤立領域の検出は、周知のラベリング処理(隣接する画素にIDを付与する処理)を用い、同一のIDが付与され一定以上の大きさを有するものを抽出することにより行い得る。これに限らず、周知の種々の方法が適用できる。
(分離処理)
ここで、孤立領域検出部52は、近い距離値(視差値)の物体同士が重なり合っていることから、タクシー自動車TK及び軽トラック自動車KJ1を1台の車両として誤検出したとする。図6に示すタクシー自動車TK及び軽トラック自動車KJ1を囲む枠(検出枠)は、このような誤検出が生じたことを示している。なお、ここでいう枠とは、物体の位置と大きさを示すものであり、例えば物体を囲む矩形の角の座標と高さ及び幅が対応付けられた情報である。
分離位置特定部の一例である奥行分離部53は、孤立領域検出部52で検出された孤立領域が、距離分散(視差分散)により前後の車両等の物体同士の結合が生じ易い距離範囲に位置している場合(奥行分離開始条件を満たしている場合)、奥行分離処理を実行する。すなわち、遠方では距離分散(視差分散)が大きくなり、物体の結合が生じやすいため、奥行分離処理を実行するものとしている。具体的には、例えば「最近距離が30m以上の孤立領域であること」を、奥行分離開始条件として定めている。「30m」等の数値は、撮像装置4のステレオカメラ性能等に応じて変更してもよい。実施の形態の例の場合、近距離に位置する孤立領域に対しては、以下に説明する奥行分離処理を行わないことで、CPU304の処理負荷を軽減することができる。
奥行分離部53は、上述の奥行分離開始条件を満たす孤立領域に対して、画像のX座標(Uマップの横方向座標)と同等の性質を有する一次元の特徴量(頻度と距離値の積)を算出する。すなわち、各X座標(または横方向位置)毎に対応する頻度と距離値の積を算出する。また、奥行分離部53は、算出した特徴量を全ての各X座標位置(分離位置の候補)で分割し、孤立領域の物体を分離するための評価値(特徴量)を算出し、評価値が最大となる分割位置を特定する。なお、この例では、評価値が最大となる分割位置を特定することとしたが、評価値が2番目に大きい分割位置、又は、評価値が2番目に大きい分割位置等、設計等に応じて特定する分割位置を変更してもよい。
上記にいう頻度と距離値の積は、一般に良く知られる判別分析法における分離度(クラス間分散とクラス内分散の比)に相当する特徴量となる。よって、この特徴量に基づいて分割位置を特定することにより、図7に示すように、対象を2つのグループに適切に分離することができる。すなわち、検出対象物を正確に分離することができることとなる。
奥行分離部53は、特定した分割位置で分離した物体の平均距離の差が、車両一台分の長さより離れていた場合に、孤立領域を二つの物体の孤立領域に分割する。横幅の確からしさではなく、分割位置の統計的処理及び平均距離の差により、奥行方向に位置する孤立領域を分離する。これにより、距離分散(視差分散)による悪影響、及び、Uマップの二次元的な分布による悪影響を受けにくくなり、例えば前後を走行している二つの車両を正しく分離して検出することができる。
図8のフローチャートに、奥行分離処理の流れを示す。奥行分離部53は、ステップS1において、上述の奥行分離開始条件を満たす孤立領域を形成する画素(投票情報)毎に「距離値(Y座標値、奥行)×頻度値」の特徴量を算出する。そして、奥行分離部53は、孤立領域の奥行方向の列毎に、各画素の算出した特徴量を積算処理して1次元のヒストグラムを生成する。このような1次元ヒストグラムは、視差画像のX軸と同等の次元を有する。なお、本実施形態では、視差画像の各X座標(横方向位置)毎に、これに対応する頻度と距離値の積を算出するものとするが、これに限られず、視差画像のスケールを縮小したX座標毎に、これに対応する頻度と距離値の積を算出するものとしてもよい。
図9は、1次元ヒストグラムが生成される様子を示す図である。この図9は、図6に示したタクシー自動車TK及びタクシー自動車TKの前を走行する軽トラック自動車KJ1が結合して一つの孤立領域として検出された例を示している。図9中、奥行側の塊が軽トラック自動車KJ1、手前側がタクシー自動車TKを示している。また、軽トラック自動車KJ1内の画素中の数値は、「距離値(Y座標値)×頻度値」の演算式で算出した特徴量の一例となっている。
すなわち、図9の例の場合、軽トラック自動車KJ1の一列目の画素は1つのみであり、「距離値(Y座標値)×頻度値」の特徴量は「1」となっている。また、軽トラック自動車KJ1の二列目の画素は2つあり、「距離値(Y座標値)×頻度値」の特徴量は、それぞれ「3」、「4」となっている。奥行分離部53は、このような特徴量を列方向に積算処理する(図9中、「+」の記号は、積算処理を示している)。これにより、一画素目は「1」、2画素目は「7(=3+4)」・・・の1次元ヒストグラムが生成される。このような1次元ヒストグラムを用いることで、後述する分離処理の時間を短縮化でき、また、画像座標軸を利用することになるので、正確な物体の分離処理を可能とすることができる。
なお、図9の例において、軽トラック自動車KJ1又はタクシー自動車TKの一つの画素が、1次元ヒストグラムの一つの画素に、必ずしも対応するとは限らない。この図9の例に示すように軽トラック自動車KJ1又はタクシー自動車TKの複数の画素が、1次元ヒストグラムの一つの画素に対応することも有り得る。
次に、ステップS2において、奥行分離部53は、ステップS1で生成した1次元ヒストグラムの幅が、所定の幅より大きいか否かを判別する。具体的には、奥行分離部53は、1次元ヒストグラムの幅が、例えば通常の車両の1台分の幅である「2m」よりも大きいか否かを判別する。なお、孤立領域の検出枠内の距離値から1次元ヒストグラムの幅を実世界の幅に換算可能である。
1次元ヒストグラムの幅が、通常の車両の1台分の幅よりも小さいということは、その孤立領域は、複数の物体が結合した孤立領域ではないことを意味する。このため、奥行分離部53は、1次元ヒストグラムの幅が、通常の車両の1台分の幅よりも小さいと判別した場合、その孤立領域に対する分離処理を中止し、図8のフローチャートの処理を終了する。これに対して、1次元ヒストグラムの幅が、通常の車両の1台分の幅よりも大きいということは、その孤立領域は、複数の物体が結合した孤立領域である可能性が高い。このため、奥行分離部53は、ステップS3に処理を進める。
ステップS3では、奥行分離部53が、1次元ヒストグラムをヒストグラムの頻度がある範囲内の各X座標で、順に2つのグループに分け,各分離位置でクラス分離度の評価値を算出するクラス分離度計算処理を行う。図10は、クラス分離度計算処理の処理内容を示す模式図である。この図10に示すように、奥行分離部53が、1次元ヒストグラムをヒストグラムの頻度がある範囲内において、X座標順に1次元ヒストグラムを2つのグループに分離する。図10に示す矢印Bは、1次元ヒストグラムの分離位置を示しており、現在、略中央で1次元ヒストグラムが2つに分離されていることを示している。奥行分離部53は、例えば1次元ヒストグラムの左端から右端にかけて順に分離位置をずらし、各分離位置でクラス分離度の評価値を算出する。
なお、1次元ヒストグラムの分離位置は、どのように移動してもよく、例えば1次元ヒストグラムの右端から左端にかけて順に移動してもよい。または、最初に、1次元ヒストグラムを真ん中から分離し、真ん中から右端にかけて順に分離位置を移動して演算を行い、右端に対応する演算の終了後に、1次元ヒストグラムの分離位置を真ん中に戻し、真ん中から左端にかけて順に分離位置を移動して演算を行ってもよい。
奥行分離部53は、図10に示すように1次元ヒストグラムの分離位置から左端までの間の頻度値の和を「w1」、分離位置から左端までの間の特徴量(距離値×頻度値)の平均値を「m1」、分離位置から右端までの間の頻度値の和を「w2」、分離位置から右端までの間の特徴量(距離値×頻度値)の平均値を「m2」として、以下の数1式の演算を行うことで、クラス分離度を算出する。なお、平均値m1、m2は、Uマップの距離値(Y座標値)の次元に相当する。平均値m1は、1次元ヒストグラムの分離位置から左端までの間の特徴量の平均値を示し、平均値m2は、1次元ヒストグラムの分離位置から右端までの間の特徴量の平均値を示す。
クラス分離度=w1×w2×(m1−m2)・・・数1式
なお、奥行分離部53は、平均値m1、m2を、以下の数2式の演算を行うことで算出する。
平均値=(Σ(距離値×頻度値))/(Σ頻度値)・・・数2式
次に、ステップS4において、奥行分離部53は、算出したクラス分離度のうち、最大のクラス分離度を算出した分離位置を特定する。また、奥行分離部53は、特定した分離位置を境として形成される2つのグループの平均値m1及び平均値m2の差(距離差)を算出する。そして、奥行分離部53は、ステップS5において、算出した距離差が、例えば大型車1台分の車両長である10m等の、所定の値を超えているか否かを判別する。
算出した距離差が、大型車1台分の車両長である10mを超えていないということは、特定した分離位置を境として形成される2つのグループに対応する各物体は、例えばトラック自動車の荷台と運転席等のような、一体的な物体(孤立領域)であることを意味する。このため、奥行分離部53は、その孤立領域に対する分離処理を中止し、図8のフローチャートの処理を終了する。
これに対して、算出した距離差が、大型車1台分の車両長である10mを超えているということは、特定した分離位置を境として形成される2つのグループに対応する各物体は、例えば2台の車両等のように、物理的に異なる物体(孤立領域)であることを意味する。このため、奥行分離部53は、ステップS36に処理を進め、特定した分離位置で、一つに結合されていた孤立領域を、2つの孤立領域に分離処理して、図8のフローチャートを終了する。このような分離処理においては、視差分散による悪影響、及び、Uマップの二次元的な分布による悪影響を受けにくくなり、例えば前後を走行している二つの車両を正しく分離することができる。
以上のように、物体の横方向位置と奥行方向位置(距離値)および頻度が対応づけられた情報から、横方向位置毎に距離値と頻度を積算した特徴量(1次元ヒストグラム)を算出し、この特徴量に基づいて物体を分離する。これにより、正確に物体を分離できる。
物体分離部の一例である図4に示す投票修正部54は、奥行分離部53の分離処理結果に基づいて、孤立領域を設定し直す(孤立領域を分離する)ことで、Uマップ上に設定された孤立領域を修正する。図11は、設定し直した孤立領域を示す図である。修正前においては、図6を用いて説明したように右斜線を走行するタクシー自動車TK、及び、タクシー自動車TKの前を走行する軽トラック自動車KJ1は、一つの物体として一つの孤立領域が設定されていた。しかし、上述の分離処理を行うことで、図11に示すように、タクシー自動車TK、及び、タクシー自動車TKの前を走行する軽トラック自動車KJ1を、それぞれ異なる物体として孤立領域を設定し直すことができる。
図4に示す対象物検出部55は、このように正確に設定された各孤立領域に基づいて、対応する車両、歩行者、ガードレール、標識等の物体検出処理を行う。そして、車両制御部56は、物体検出結果となる車両制御データを図2に示す車両ECU3に供給する。車両ECU3は、例えば車両1のエンジン制御、制動制御、及び走行レーンキープアシスト、操舵アシスト等の車両1に対する制御を行う。
上述の実施の形態は、例として提示したものであり、本発明の範囲を限定することは意図していない。この新規な実施の形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことも可能である。例えば、距離の値(距離値)と視差値は等価に扱うことができる。このため、上述の実施の形態の説明では、距離画像の一例として視差画像を用いて説明しているが、これに限られない。例えば、ステレオカメラを用いて生成した視差画像に対して、ミリ波レーダやレーザレーダ等の検出装置を用いて生成した距離情報を統合して、距離画像を生成してもよい。また、ステレオカメラと、ミリ波レーダやレーザレーダ等の検出装置を併用し、上述したステレオカメラによる物体の検出結果と組み合わせることにより、検出の精度をさらに高める構成としてもよい。
このような実施の形態及び実施の形態の変形例は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1 車両
2 ステレオカメラ(撮像部)
2a カメラ部
2b カメラ部
3 車両ECU
4 撮像装置
30 画像処理装置
51 投票処理部
52 孤立領域検出部
53 奥行分離部
54 投票修正部
55 対象物検出部
56 車両制御部
特開2014−096005号公報 国際公開第2012/017650号

Claims (9)

  1. 物体の横方向位置及び奥行方向位置と頻度値が対応付けられた2次元的な頻度分布を示す2次元分布情報を生成する生成部と、
    前記2次元分布情報に基づいて検出対象物を検出する検出部と、
    前記頻度値を奥行方向位置に応じて積算して特徴量を生成し、前記特徴量に基づいて分離位置を特定する分離位置特定部と、
    前記分離位置で前記検出対象物を分離する物体分離部と、を有し、
    前記分離位置特定部は、前記分離位置において2つに分離された検出対象物の一方の奥行方向位置及び他方の奥行方向位置の差を算出し、前記差が所定の値を超えている分離位置を特定すること
    を特徴とする情報処理装置。
  2. 前記分離位置特定部は、前記検出対象物の奥行方向位置が所定の位置よりも遠方である場合に、前記分離位置の特定を行うこと
    を特徴とする請求項1に記載の情報処理装置。
  3. 前記分離位置特定部は、前記検出対象物の横方向位置に対応する前記頻度値を、前記奥行方向に沿って積算処理することで、前記特徴量を生成すること
    を特徴とする請求項1に記載の情報処理装置。
  4. 前記分離位置特定部は、前記分離位置の候補を複数特定し、当該各分離位置の候補に基づいて算出した前記特徴量が所定の条件を満たす分離位置を特定すること
    を特徴とする請求項1から請求項のうち、いずれか一項に記載の情報処理装置。
  5. 撮像部と、
    請求項1から請求項のうち、いずれか一項に記載の情報処理装置と
    を有する撮像装置。
  6. 請求項1から請求項のうち、いずれか一項に記載の情報処理装置と、
    前記物体分離部により分離された物体の物体情報に基づいて、所定の機器を制御する制御部と
    を有する機器制御システム。
  7. 請求項に記載の機器制御システムの前記制御部により制御されること
    を特徴とする移動体。
  8. 生成部が、物体の横方向位置及び奥行方向位置と頻度値が対応付けられた2次元的な頻度分布を示す2次元分布情報を生成する生成ステップと、
    検出部が、前記2次元分布情報に基づいて検出対象物を検出する検出ステップと、
    分離位置特定部が、前記頻度値を奥行方向位置に応じて積算して特徴量を生成し、前記特徴量に基づいて分離位置を特定する分離位置特定ステップと、
    物体分離部が、前記分離位置で前記検出対象物を分離する物体分離ステップと、を有し、
    前記分離位置ステップは、前記分離位置において2つに分離された検出対象物の一方の奥行方向位置及び他方の奥行方向位置の差を算出し、前記差が所定の値を超えている分離位置を特定することを特徴とする情報処理方法。
  9. コンピュータを、
    物体の横方向位置及び奥行方向位置と頻度値が対応付けられた2次元的な頻度分布を示す2次元分布情報を生成する生成部と、
    前記2次元分布情報に基づいて検出対象物を検出する検出部と、
    前記頻度値を奥行方向位置に応じて積算して特徴量を生成し、前記特徴量に基づいて分離位置を特定する分離位置特定部と、
    前記分離位置で前記検出対象物を分離する物体分離部として機能させる情報処理プログラムであって、
    前記分離位置特定部は、前記分離位置において2つに分離された検出対象物の一方の奥行方向位置及び他方の奥行方向位置の差を算出し、前記差が所定の値を超えている分離位置を特定することを特徴とする情報処理プログラム。
JP2017176859A 2016-11-18 2017-09-14 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム Active JP6969245B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
EP17201981.2A EP3324336A1 (en) 2016-11-18 2017-11-16 Information processing device, information processing method, and carrier means

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016224921 2016-11-18
JP2016224921 2016-11-18

Publications (2)

Publication Number Publication Date
JP2018088237A JP2018088237A (ja) 2018-06-07
JP6969245B2 true JP6969245B2 (ja) 2021-11-24

Family

ID=62493682

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017176859A Active JP6969245B2 (ja) 2016-11-18 2017-09-14 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム

Country Status (1)

Country Link
JP (1) JP6969245B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7306139B2 (ja) * 2019-07-30 2023-07-11 株式会社リコー 画像処理装置、物体認識装置、機器制御システム、画像処理方法およびプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6519262B2 (ja) * 2014-04-10 2019-05-29 株式会社リコー 立体物検出装置、立体物検出方法、立体物検出プログラム、及び移動体機器制御システム
JP6511283B2 (ja) * 2015-02-12 2019-05-15 日立オートモティブシステムズ株式会社 物体検知装置
JP6564218B2 (ja) * 2015-03-27 2019-08-21 株式会社Subaru 車外環境認識装置

Also Published As

Publication number Publication date
JP2018088237A (ja) 2018-06-07

Similar Documents

Publication Publication Date Title
CN106485233B (zh) 可行驶区域检测方法、装置和电子设备
JP7206583B2 (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法およびプログラム
JP5690688B2 (ja) 外界認識方法,装置,および車両システム
US10776946B2 (en) Image processing device, object recognizing device, device control system, moving object, image processing method, and computer-readable medium
JP6950170B2 (ja) 情報処理装置、撮像装置、機器制御システム、情報処理方法、及びプログラム
US10748014B2 (en) Processing device, object recognition apparatus, device control system, processing method, and computer-readable recording medium
EP3115933B1 (en) Image processing device, image capturing device, mobile body control system, image processing method, and computer-readable recording medium
US11691585B2 (en) Image processing apparatus, imaging device, moving body device control system, image processing method, and program product
JP6571658B2 (ja) 奥行分解された画像データからのオブジェクトを認識するための方法ならびに装置
WO2017145605A1 (ja) 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム
JP6753134B2 (ja) 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及び画像処理プログラム
EP3432265A1 (en) Image processing device, apparatus control system, image pickup device, image processing method, and program
JP6907513B2 (ja) 情報処理装置、撮像装置、機器制御システム、情報処理方法およびプログラム
WO2017134936A1 (ja) 物体検出装置、機器制御システム、撮像装置、物体検出方法、及びプログラム
US11527075B2 (en) Information processing apparatus, imaging apparatus, apparatus control system, movable object, information processing method, and computer-readable recording medium
JP6992356B2 (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法およびプログラム
CN114648744A (zh) 确定语义无碰撞空间的方法
JP6969245B2 (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム
WO2017154305A1 (ja) 画像処理装置、機器制御システム、撮像装置、画像処理方法、及び、プログラム
JP7052265B2 (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム
EP3540643A1 (en) Image processing apparatus and image processing method
JP7062904B2 (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法およびプログラム
WO2018097269A1 (en) Information processing device, imaging device, equipment control system, mobile object, information processing method, and computer-readable recording medium
JP6943092B2 (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム
JP2013161433A (ja) 車両の周辺監視装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200707

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210719

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210810

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210910

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210928

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211011

R151 Written notification of patent or utility model registration

Ref document number: 6969245

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151