JP6435661B2 - 物体識別システム、情報処理装置、情報処理方法及びプログラム - Google Patents

物体識別システム、情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP6435661B2
JP6435661B2 JP2014131865A JP2014131865A JP6435661B2 JP 6435661 B2 JP6435661 B2 JP 6435661B2 JP 2014131865 A JP2014131865 A JP 2014131865A JP 2014131865 A JP2014131865 A JP 2014131865A JP 6435661 B2 JP6435661 B2 JP 6435661B2
Authority
JP
Japan
Prior art keywords
unit
identified
extracted
identification
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014131865A
Other languages
English (en)
Other versions
JP2016009474A (ja
Inventor
関 海克
海克 関
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2014131865A priority Critical patent/JP6435661B2/ja
Publication of JP2016009474A publication Critical patent/JP2016009474A/ja
Application granted granted Critical
Publication of JP6435661B2 publication Critical patent/JP6435661B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は物体識別システム、情報処理装置、情報処理方法及びプログラムに関する。
従来より、ステレオカメラ等を車両に搭載し、ステレオ画像に基づく視差演算により、車両前方にある物体までの距離を測定するとともに、物体の種類(例えば、他の車両、歩行者等)を識別する物体識別システムが知られている。
更に、上記ステレオ測距技術に加え、レーザレーダ測距技術を組み合わせた物体識別システムも開示されている(例えば、特許文献1等参照)。
しかしながら、特許文献1の場合、レーザレーダ測距技術を組み合わせることで測距精度の向上を図ることはできるものの、物体の種類を識別する識別精度の向上を図ることまではできない。一方で、車両に搭載される物体識別システムの場合、その識別結果は、運転者への警告出力や車両の速度制御等に用いられることから、識別対象でない物体を誤って識別する誤認識を極力排除することが求められる。
本発明は上記課題に鑑みてなされたものであり、物体識別システムにおける物体の識別精度を向上させることを目的とする。
本発明の実施形態に係る物体識別システムは、以下のような構成を有する。すなわち、
撮像部と、電磁波を出射する出射部と、該撮像部及び該出射部と接続される情報処理装置とを有する物体識別システムであって、
前記撮像部により撮影された撮影画像に基づいて算出された視差画像を用いて、該撮影画像内の所定の大きさの領域を特定し、特定した該所定の大きさの領域の中から、識別対象の物体が描画された領域を抽出する抽出手段と、
前記領域が抽出された場合に、前記識別対象の物体に、電磁波が照射されるよう前記出射部を制御する制御手段と、
前記電磁波が照射されることで測定された前記識別対象の物体までの距離に基づいて導出される、前記撮影画像に描画されうる前記識別対象の物体の許容サイズと、前記抽出手段により抽出された領域のサイズと、を対比することで、前記抽出手段により抽出された領域に描画された物体が識別対象の物体であったか否かを判定する判定手段とを有する。
本発明の各実施形態によれば、物体識別システムにおける物体の識別精度を向上させることが可能となる。
実施形態に係る物体識別システムの全体構成を示す図である。 撮像部及びレーザレーダ測距部の配置例ならびに撮像部による撮影範囲及びレーザレーダ測距部によるレーザ光の走査可能範囲を示す図である。 ステレオ撮像部のハードウェア構成を示す図である。 レーザレーダ測距部のハードウェア構成を示す図である。 光スキャナの機構を説明するための図である。 情報処理装置のハードウェア構成を示す図である。 情報処理装置の機能構成を示す図である。 視差画像計算部における処理の概要を説明するための図である。 識別候補抽出部の詳細について説明するための図である。 ブロック走査部による処理を説明するための図である。 視差画像に基づいて、同じ視差値を有する領域を示す矩形ブロックを抽出する処理について説明するための図である。 特徴パターンの一例を示す図である。 物体識別用DBの一例を示す図である。 識別部による識別処理手順を示した図である。 識別候補抽出部による識別候補抽出処理の処理結果の一例を示す図である。 走査範囲指定部の詳細について説明するための図である。 座標データにより特定された領域内のレーザ光の走査位置を示す図である。 レーザ距離情報取得部により取得されたレーザ距離情報の一例を示す図である。 誤認識除去部の詳細について説明するための図である。 誤認識除去処理に用いられるデータの対応関係及び物体サイズ判定DBの一例を示す図である。 誤認識除去部による誤認識除去処理の流れを示すフローチャートである。 情報処理装置による物体識別処理の流れを示すフローチャートである。 識別結果情報の一例を示す図である。
以下、本発明の各実施形態について添付の図面を参照しながら説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省く。
[第1の実施形態]
<1.物体識別システムの全体構成>
はじめに、本実施形態に係る物体識別システムの全体構成について説明する。図1は、本実施形態に係る物体識別システムの全体構成を示す図である。図1に示すように、物体識別システム100は、ステレオ撮像部110と、レーザレーダ測距部120と、情報処理装置130とを備える。
ステレオ撮像部110は、単眼の撮像部111と単眼の撮像部112とを備える。撮像部111、112は、それぞれ、所定のフレーム周期で撮影を行い、撮影画像を情報処理装置130に送信する。
レーザレーダ測距部120は、パルス状のレーザ光を出射し、該レーザ光が照射された照射対象からの反射光を受光することで、該照射対象までの距離を算出する。レーザレーダ測距部120では、情報処理装置130から送信された走査範囲情報に基づいて、レーザ光を走査する走査範囲を決定する。また、レーザレーダ測距部120は、決定した走査範囲内においてレーザ光を照射することで、照射対象までの距離を算出し、レーザ距離情報として情報処理装置130に送信する。
情報処理装置130は、ステレオ撮像部110より送信された撮影画像に含まれる物体の中から識別対象の物体が描画された領域を抽出する。また、情報処理装置130は、抽出した領域内の物体を照射対象としてレーザレーダ測距部120がレーザ光を出射するように走査範囲情報を生成し、レーザレーダ測距部120に送信する。更に、レーザレーダ測距部120より送信されたレーザ距離情報に基づいて、抽出した領域の中から、識別対象の物体でない物体が描画されていた領域を判定する。そして、識別対象の物体でない物体(誤って識別された物体)が描画されていた領域を除き、正しく識別された物体が描画されている領域に関する情報のみを、識別結果情報として出力する。
<2.撮像部及びレーザレーダ測距部の配置>
次に、物体識別システム100を車両に搭載した場合の撮像部111、112及びレーザレーダ測距部120の配置例ならびに撮像部111、112の撮影範囲及びレーザレーダ測距部120によるレーザ光の走査可能範囲について説明する。
図2は、物体識別システム100を車両に搭載した場合の撮像部111、112及びレーザレーダ測距部120の配置例ならびに撮像部111、112の撮影範囲及びレーザレーダ測距部120によるレーザ光の走査可能範囲の一例を示す図である。
図2に示すように、撮像部111、112及びレーザレーダ測距部120は、車両200内の天井部分のフロントガラス近傍であって、車両200の幅方向の中央位置に取り付けられる。
かかる取り付け位置のもとで、撮像部111、112は、車両200の進行方向前方を撮影する。また、レーザレーダ測距部120は、車両200の進行方向前方に向けてレーザ光を出射する。
図2において、網掛けされた領域は撮像部111、112により撮影される撮影範囲を示している。また、点線はレーザレーダ測距部120によるレーザ光の走査可能範囲を示している。
図2(a)に示すように、レーザレーダ測距部120は、旋回角(φ)を変えることでレーザ光の出射方向を水平方向に動かすことができる。つまり、レーザレーダ測距部120は、測距対象(図2(a)の例では路面)に対してレーザ光を水平方向に走査することができる。
また、図2(b)に示すように、レーザレーダ測距部120は、仰角(θ)を変えることでレーザ光の出射方向を垂直方向に動かすことができる。つまり、レーザレーダ測距部120は、測距対象(図2(b)の例では路面)に対してレーザ光を垂直方向に走査することができる。
なお、レーザレーダ測距部120では、レーザ光の水平方向及び垂直方向の走査可能範囲が、撮像部111、112の撮影範囲と概ね一致するように構成されているものとする。ただし、レーザレーダ測距部120では、情報処理装置130により送信される走査範囲情報に基づいて、走査可能範囲のうちの一部のみを照射対象としてレーザ光を走査するよう制御される。これにより、レーザレーダ測距部120では、高い空間分解能により、照射対象までの距離を測定することができる。
<3.ステレオ撮像部のハードウェア構成>
次に、ステレオ撮像部110のハードウェア構成について説明する。図3は、ステレオ撮像部のハードウェア構成を示す図である。
図3に示すように、撮影範囲内からの光は、撮像部111の光学系301及び撮像部112の光学系302を介して、CMOS(Complementary Metal Oxide Semiconductor)303、304にそれぞれ入射される。
CMOS303、304は、結像された光学像を電気信号に変換して、アナログの画像データを出力する。CMOS303、304から出力された画像データは、CDS回路(Correlated Double Sampling:相関2重サンプリング回路)305、306によりノイズ成分が除去される。更に、A/D変換器307、308によりデジタル値に変換された後、画像処理回路309、310に出力される。
画像処理回路309、310は、画像データを一時的に格納するSDRAM(Synchronous Dynamic Random Access Memory)321を用いて、各種画像処理を行う。なお、各種画像処理には、例えば、YCrCb変換処理や、ホワイトバランス処理、コントラスト補正処理、エッジ強調処理、色変換処理などが含まれる。
ホワイトバランス処理は、画像データの色の濃さ(輝度値)を調整する処理であり、コントラスト補正処理は、画像データのコントラストを調整する処理である。また、エッジ強調処理は、画像データのシャープネスを調整する処理であり、色変換処理は、画像データの色合いを調整する処理である。
各種画像処理が行われた画像データは、圧縮伸張回路322を介してメモリカード323に記録される。圧縮伸張回路322は、各種画像処理が行われた画像データを圧縮してメモリカード323に記録するほか、メモリカード323から読み出した画像データを伸張して画像処理回路309、310に出力する。
CPU312は、タイミング信号を発生するタイミング信号発生器311を介してCMOS303、304、CDS回路305、306、A/D変換器307、308の動作タイミングを制御する。また、CPU312は、画像処理回路309、310、圧縮伸張回路322、メモリカード323を制御する。
なお、CPU312は、操作部324を介して入力された起動指示に基づいて起動し、ROM(Read Only Memory)325に格納されたプログラムに従って各種演算処理を行う。RAM(Random Access Memory)326は、CPU312が各種演算処理を行う際にワークエリアとして機能する。なお、CPU312、ROM325、RAM326はバスラインによって相互に接続されている。
<4.レーザレーダ測距部の構成>
次に、レーザレーダ測距部120のハードウェア構成について説明する。図4は、レーザレーダ測距部120のハードウェア構成を示す図である。
図4に示すように、レーザレーダ測距部120は、出射部410、受光部420、制御部として機能するECU(Electronic Control Unit:電子制御ユニット)430を有する。
出射部410は、パルス状のレーザ光を出射する半導体レーザダイオード(LD:Laser Diode)411、光スキャナ412を有する。また、出射部410は、LD411からの光を光スキャナ412に導くための入力光学系413、光スキャナ412を通過したレーザ光を出射する出力光学系414を有する。
LD411は、LD駆動回路415を介してECU430に接続されており、ECU430からのLD駆動信号によりレーザ光を出射する。
光スキャナ412は、光スキャナ駆動回路416を介してECU430に接続されており、所定の周期でLD411から出射されたパルス状のレーザ光を水平方向(旋回角φ)及び垂直方向(仰角θ)に出射方向を変えながら出射することで、繰り返し走査する。なお、繰り返し走査の周期は、撮像部111、112のフレーム周期と同期しているものとする。
光スキャナ412におけるレーザ光の出射方向(旋回角φ及び仰角θ)は、出射方向モニタ417によって検出され、検出された出射方向信号はECU430に出力され、光スキャナ駆動信号にフィードバックされる。これにより、ECU430では、出射方向及び繰り返し走査の周期を制御する。なお、レーザ光の出射方向の目標値は、情報処理装置130より送信される走査範囲情報に基づいて、ECU430により算出されるものとする。
受光部420は、受光レンズ421及び受光素子422を有しており、車両前方の照射対象において反射したレーザ光は、受光レンズ421及び不図示のミラー素子等を介して受光素子422にて受光される。
受光素子422は、フォトダイオード等により形成されており、反射したレーザ光における光強度に対応する電圧値の電気信号を出力する。受光素子422より出力された電気信号は、増幅器441において増幅され、コンパレータ442に出力される。
コンパレータ442では、増幅器441からの出力電圧の値を基準電圧V0と比較し、出力電圧の値がV0よりも大きくなったときに、所定の受光信号を時計計測回路443に出力する。
時計計測回路443には、ECU430からLD駆動回路415へ出力されるLD駆動信号も入力されており、LD駆動信号を出力してから所定の受光信号が発生するまでの時間を出力する。すなわち、レーザ光を出射した時刻と、反射したレーザ光を受光した時刻の時間差を計測時間データとしてECU430に出力する。ECU430では、計測時間データに基づいて、レーザ光の照射対象までの距離を算出する。
図5は、レーザ光を繰り返し走査するための光スキャナ412の機構を説明するための図である。図5に示すように、レーザ光を繰り返し走査するために、レーザレーダ測距部120では、LD411及び入力光学系413の近傍に、ポリゴンミラー等の走査ミラー501を配置している。
LD411から出射されたレーザ光は、入力光学系413を介してミラー502で反射され、走査ミラー501におけるミラー面501aに照射される。走査ミラー501は回転軸501bを中心に回転しており、ミラー面501aに照射されたレーザ光は反射角を変えながら反射される。この結果、レーザ光は走査範囲内を水平方向に出射方向を変えながら出射される。
つまり、走査ミラー501が回転することで所定の走査範囲内において走査範囲情報に応じた位置にレーザ光を照射することができる。
なお、図5の例では、レーザ光を水平方向に繰り返し走査するための機構について示したが、レーザ光を垂直方向に(つまり、仰角θを変えて)繰り返し走査する場合の機構についても同様である。
<5.情報処理装置のハードウェア構成>
次に、情報処理装置130のハードウェア構成について説明する。図6は、情報処理装置のハードウェア構成を示す図である。
図6に示すように、情報処理装置130は、CPU(Central Processing Unit)601、RAM(Random Access Memory)602、記憶部603、入出力部604を備える。なお、情報処理装置130の各部は、バス605を介して相互に接続されているものとする。
CPU601は、記憶部603に格納されたプログラムを実行するコンピュータである。RAM602は、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)等の主記憶装置である。RAM602は、記憶部603に格納されたプログラムがCPU601によって実行される際に展開される、作業領域として機能する。
記憶部603は、EPROMやEEPROM等のメモリであり、CPU601にて実行されるプログラムを格納する。入出力部604は、ステレオ撮像部110(撮像部111、112)やレーザレーダ測距部120と通信するためのインタフェース部である。
<6.情報処理装置の機能構成>
次に、情報処理装置130の機能構成について説明する。図7は、情報処理装置130の機能構成を示す図である。
図7に示すように、情報処理装置130は、撮影画像取得部711、輝度画像入力部712、視差画像計算部713、識別候補抽出部714、走査範囲指定部715を有する。また、情報処理装置130は、レーザ距離情報取得部721、誤認識除去部731、識別結果情報出力部732を有する。なお、情報処理装置130が有するこれらの機能は、記憶部603に格納されたプログラムが、CPU601によって実行されることにより実現されてもよい。あるいは、記憶部603以外の外部の記憶部に格納されたプログラムが、CPU601によって実行されることにより実現されてもよい。
撮影画像取得部711は、撮像部111、112より所定のフレーム周期で撮影画像を取得する。
輝度画像入力部712は、撮影画像取得部711において取得された撮影画像のうち、撮像部111、112のいずれか一方にて撮影された撮影画像(本実施形態では、撮像部112において撮影された撮影画像)を抽出する。また、抽出した撮影画像を識別候補抽出部714に出力する。
視差画像計算部713は、撮影画像取得部711において取得された撮影画像に基づいて視差演算を行い、視差画像を生成する。また、生成した視差画像を識別候補抽出部714に出力する。なお、視差画像計算部713による視差演算処理の概要は後述する。
識別候補抽出部714は、撮影画像及び視差画像を処理する。具体的には、撮影画像の各画素の輝度値に基づいて、識別対象の物体が描画された領域を抽出する。また、視差画像を処理することで同じ視差値を有する領域を特定する。更に、当該特定した領域に対応する撮影画像の各画素の輝度値に基づいて、当該特定した領域が、識別対象の物体が描画された領域であると判定した場合に、当該特定した領域に対応する撮影画像の領域を抽出する。
また、識別候補抽出部714は、抽出した領域に描画された識別対象の物体を識別候補として誤認識除去部731に出力する。更に、識別候補抽出部714は、識別対象の物体が描画された領域の撮影画像内の位置を示す座標を、座標データとして走査範囲指定部715、レーザ距離情報取得部721、誤認識除去部731に出力する。
走査範囲指定部715は、識別候補抽出部714より出力された座標データに対応する位置にレーザ光を照射するために、レーザ光の出射方向を算出する。また、算出したレーザ光の出射方向を含む走査範囲を、走査範囲情報としてレーザレーダ測距部120に送信する。
レーザ距離情報取得部721は、走査範囲指定部715により送信された走査範囲情報に基づいてレーザレーダ測距部120がレーザ光を出射することで得られた、照射対象までの距離(レーザ距離情報)を取得する。レーザ距離情報は、識別候補抽出部714より出力された識別候補及び座標データと対応付けられて、誤認識除去部731に入力される。
誤認識除去部731では、識別候補抽出部714より識別候補として出力された各物体の撮影画像内におけるサイズと、レーザ距離情報に応じて導出される、撮影画像内にて描画されうる各物体の物体サイズの許容範囲とを対比する。そして、識別候補抽出部714より識別候補として出力された各物体の撮影画像内におけるサイズが、レーザ距離情報に応じて導出される、撮影画像内にて描画されうる各物体の物体サイズの許容範囲内に収まっているか否かを判定する。判定の結果、収まっている場合には、当該識別候補を識別結果情報出力部732に出力する。一方、判定の結果、収まっていない場合には、当該識別候補を除外する。
識別結果情報出力部732は、識別候補抽出部714より出力された識別候補のうち、誤認識除去部731において除外された識別候補以外の識別候補を、座標データとともに識別結果情報として出力する。
<7.情報処理装置の詳細機能>
次に、図7を用いて説明した情報処理装置130の各機能のうち、視差画像計算部713、識別候補抽出部714、走査範囲指定部715、レーザ距離情報取得部721、誤認識除去部731について更に説明する。
<7.1 視差画像計算部の説明>
はじめに視差画像計算部713について説明する。図8は、視差画像計算部713における処理の概要を説明するための図である。具体的には、ステレオ撮像部110において撮影された撮影画像に基づいて、視差画像計算部713が、撮影画像の各画素の視差値を算出し、視差画像を生成する処理について説明するための図である。
図8では、ステレオ撮像部110(撮像部111、112)によって撮影される撮影画像を、それぞれ基準画像810、比較画像820とする。図8(a)に示すように、3次元空間内の物体801上の点802は、撮像部111及び撮像部112の同一水平線上の位置に写像される。すなわち、各撮影画像において、点802は、基準画像810中の点812及び比較画像820中の点822として描画される。このとき、視差値Δは、撮像部111上の座標における点812と撮像部112上の座標における点822とを用いて、下式のように表すことができる。
視差値Δ=(点812のx座標)−(点822のx座標)
ここで、図8(a)において、基準画像810中の点812と、撮像レンズ811から撮像面上に下した垂線の撮像面との交点に対応する基準画像中の点との間の距離をΔaとする。また、比較画像820中の点822と、撮像レンズ821から撮像面上に下した垂線の撮像面との交点に対応する比較画像中の点との間の距離をΔbとする。この場合、視差値Δ=Δa+Δbとなる。そして、当該視差値Δを比較画像820の各画素について算出することで、視差画像を生成することができる。
図8(b)は、基準画像810、比較画像820の一例を示す図である。既に図8(a)に示しているとおり、撮像部111と撮像部112とでは、基線長B(撮像レンズ811と撮像レンズ821との間の長さ)だけ左右方向にずれて設置されている。このため、図8(b)に示すように、基準画像810と比較画像820とでは、撮影画像内の各画素の位置が視差値Δだけずれることとなる。なお、撮影画像内の各画素の視差値Δは、撮像部111及び撮像部112に近いほど大きく、撮像部111及び撮像部112から遠いほど小さくなる。
なお、各画素の視差値のうち、例えば、視差値Δ=Δa+Δbを用いれば、撮像部111、112と物体801上の点802との間の距離Zを導き出すことができる。ここで、距離Zは、撮像レンズ811の焦点位置と撮像レンズ821の焦点位置とを含む面から物体801の点802(測距対象)までの距離である。距離Zは、撮像レンズ811及び撮像レンズ821の焦点距離f、基線長B、及び視差値Δを用いて、下式により算出することができる。
距離Z=(B×f)/Δ
<7.2 識別候補抽出部の説明>
次に、識別候補抽出部714について図9〜図15を参照しながら説明する。図9は、識別候補抽出部714の詳細について説明するための図である。図9に示すように、識別候補抽出部714は、ブロック走査部901、ブロック抽出部902、識別候補演算部910を有する。更に、識別候補演算部910は、特徴量算出部911、評価値算出部912、識別部913、識別候補出力部914、物体識別用データベース(以下、DBと略す)920を有する。
ブロック走査部901は、サイズの異なる複数の矩形ブロックを用いて、輝度画像入力部712より送信された撮影画像(比較画像820)を走査する。ブロック走査部901では、走査中のそれぞれの位置において矩形ブロック内に含まれる各画素の輝度値を抽出し、識別候補演算部910に入力する。識別候補演算部910ではブロック走査部901より入力された各画素の輝度値を用いて、当該位置における矩形ブロックが識別候補を含むか否かを判定する。
図10は、ブロック走査部901が比較画像820内を走査する際に用いる矩形ブロックの一例を示す図である。図10に示すように、ブロック走査部901は、サイズの異なる複数の矩形ブロック(図10の例では、矩形ブロック1001、1002)を有しており、それぞれの矩形ブロック1001、1002を用いて比較画像820内を走査する。そして、ブロック走査部901では、走査中のそれぞれの矩形ブロック1001、1002のそれぞれの位置において、各画素の輝度値を抽出し、識別候補演算部910に入力する。識別候補演算部910では、識別候補を含むと判定された際の矩形ブロック1001または1002の位置を示す座標データを算出する。
なお、本実施形態において、矩形ブロック1001の位置は、矩形ブロック1001の左上の座標データ(Xs1,Ys1)と右下の座標データ(Xe1,Ye1)とにより特定する。同様に、矩形ブロック1002の位置は、矩形ブロック1002の左上の座標データ(Xs2,Ys2)と右下の座標データ(Xe1,Ye2)とにより特定する。なお、図10の例では、2種類の矩形ブロック1001、1002について例示したが、ブロック走査部901が有する矩形ブロックの種類は2種類に限定されず、3種類以上であってもよい。
図9に戻る。ブロック抽出部902は、視差画像計算部713より送信された視差画像から、同じ視差値を有する矩形ブロック(すなわち、同じ距離に存在する物体を含む領域)を抽出する。
図11は、ブロック抽出部902が、視差画像に基づいて、同じ視差値を有する矩形ブロックを抽出する処理について説明するための図である。図11に示すように、ブロック抽出部902では、視差画像計算部713より送信された視差画像の各画素について、同じ視差値を有する画素を、それぞれの視差値に対応する位置に投影し(X軸に向かって移動させ)、投影後の視差画像をハフ変換する。これにより、同じ視差値を有する画素群からなる直線を抽出する。図11の中段は、視差画像より、同じ視差値を有する画素群からなる直線1101、1102を抽出した様子を示している。
図11において直線1101は、視差値p1を有する画素群が、幅方向の中央位置において幅方向に連続して存在していることを示している。同様に、直線1102は、視差値p2を有する画素群が、幅方向の中央位置において幅方向に連続して存在していることを示している。
ブロック抽出部902では、直線1101、1102に基づいて、視差画像上において、同じ視差値を有する領域を矩形ブロック1111、1112として抽出する。一般に車両の後部はステレオ撮像部110から概ね等しい距離にあるため、同じ視差値を有する領域を矩形ブロック1111、1112として抽出することで、物体=車両を含む矩形ブロックを抽出することができる。
再び図9に戻る。特徴量算出部911は、ブロック走査部901より入力された矩形ブロック1001、1002内の各画素の輝度値に基づいて、当該矩形ブロック内に描画された物体を識別するための特徴量を算出する。また、特徴量算出部911は、ブロック抽出部902により抽出された矩形ブロック1111、1112の位置に対応する比較画像820内の各画素の輝度値に基づいて、当該矩形ブロック内に描画された物体を識別するための特徴量を算出する。
図12は、特徴量算出部911が特徴量を算出する際に用いる特徴パターンの一例を示す図である。特徴量算出部911では、矩形ブロックの位置に対応する比較画像820内の各画素のうち、特徴パターンの白色で示す領域の輝度値の合計値と、黒色で示す領域の輝度値の合計値との差を、矩形ブロックの特徴パターンにおける特徴量h(x)として算出する。
図12(a)に示すように、特徴パターンAは、白色で示す領域1201と黒色で示す領域1202とが左右に隣り合って位置し、かつ、矩形ブロックの中心から見て、左上に位置している。また、図12(b)に示すように、特徴パターンBは、白色で示す領域1201と黒色で示す領域1202とが上下に隣り合って位置し、かつ、矩形ブロックの中心から見て右上に位置している。また、図12(c)に示すように、特徴パターンCは、黒色で示す領域1202が2つの白色で示す領域1201によって隣り合って挟持され、かつ、矩形ブロックの中心から見て上側に位置している。更に、図12(d)に示すように、特徴パターンDは、2つの白色で示す領域1201と2つの黒色で示す領域1202とが、上下及び左右に隣り合って位置し、かつ、矩形ブロックの中心から見て左上に位置している。
なお、特徴量算出部911では、矩形ブロック内の各画素の輝度値を用いて算出した特徴量h(x)を評価値算出部912に出力する。
評価値算出部912は、下式に基づいて、特徴量算出部911より出力された特徴量h(x)を重み付け加算し、評価値f(x)を算出する。
Figure 0006435661
ただし、tは特徴パターンの種類を示しており、図12の例では、T=4となる。また、重み付け係数αは、識別対象の物体について予め既知の学習データを集め、当該学習データに基づいて算出された値である。
図13は、識別対象の物体について予め既知の学習データを集め、当該学習データに基づいて算出した重み付け係数を格納した物体識別用DB920の一例を示す図である。
図13に示す物体識別用DB920の例では、識別対象の物体として、物体I〜物体IVについて、特徴パターンA〜特徴パターンDを用いてそれぞれ算出される特徴量に乗算される重み付け係数が格納されている。また、図13に示す物体識別用DB920の例では、更に、評価値算出部912において算出される評価値f(x)を用いて、識別対象の物体であるか否かを判定するための閾値が対応付けられている。
評価値算出部912では、特徴量算出部911により算出された4つの特徴パターンに対応する4つの特徴量に、重み付け係数α11、α12、α13、α14を乗算したうえで加算することで評価値f(x)を算出する。なお、このとき算出した評価値f(x)が、所定の条件を満たせば(閾値TH以上であれば)、物体Iであると判定する。同様に、評価値算出部912では、特徴量算出部911により算出された4つの特徴量に、重み付け係数α21、α22、α23、α24を乗算したうえで加算することで評価値f(x)を算出する。なお、このとき算出した評価値f(x)が、所定の条件を満たせば(閾値TH以上であれば)、物体IIであると判定する。
評価値算出部912では、以下、同様の手順で、特徴量算出部911により算出された特徴量に、識別対象の物体に対応付けられた重み付け係数を乗算したうえで加算することで、評価値f(x)を算出する。
識別部913は、評価値算出部912において算出された評価値f(x)に基づいて、矩形ブロック(ここでは、矩形ブロックmとする)に含まれる物体が識別対象の物体であるか否かを識別する。なお、矩形ブロックmは、ブロック走査部901において走査中の所定の位置における矩形ブロックであってもよいし、ブロック抽出部902において抽出された矩形ブロック(矩形ブロック1111または1112)であってもよい。
図14は、識別部913が、物体を識別する際の識別処理手順を示した図である。図14に示すように、識別部913による識別処理手順は、階層A〜階層Dを含む。階層の数は、図12に示す特徴パターンの数(種類)により決定され、特徴パターンの数が増えるほど、階層の数も増える。
識別部913では、矩形ブロックmに含まれる物体が識別対象の物体であるか否かを迅速に識別するために、識別処理手順を階層化している。このうち、階層Aでは、特徴量算出部911において算出された各特徴パターンの特徴量のうち、特徴パターンAを用いて算出された特徴量に重み付け係数α11を乗算し、乗算結果を所定の閾値(th)と比較する。そして、乗算結果が所定の閾値(th)未満であった場合、階層Aでは、他の特徴パターン(B〜D)の特徴量を持ち出すことなく、識別対象の物体ではないと判定する。
階層Bでは、特徴パターンBを用いて算出された特徴量に重み付け係数α12を乗算し、乗算結果を階層Aでの乗算結果に加算したうえで、所定の閾値(th)と比較する。そして、階層Aでの乗算結果と階層Bでの乗算結果との和が、所定の閾値(th)未満であった場合、階層Bでは、他の特徴パターン(C、D)の特徴量を持ち出すことなく、識別対象の物体ではないと判定する。
階層Cでは、特徴パターンCを用いて算出された特徴量に重み付け係数α13を乗算し、乗算結果を、階層A及び階層Bでのそれぞれの乗算結果に加算したうえで、所定の閾値(th)と比較する。そして、階層A〜階層Cまでの乗算結果の和が、所定の閾値(th)未満であった場合、階層Dでは、他の特徴パターン(D)の特徴量を持ち出すことなく、識別対象の物体ではないと判定する。
階層Dでは、特徴パターンDを用いて算出された特徴量に重み付け係数α14を乗算し、乗算結果を、階層A〜階層Cでのそれぞれの乗算結果に加算したうえで、閾値(TH)と比較する。そして、階層A〜階層Dまでの乗算結果の和が、閾値(TH)以上であった場合、階層Dでは、物体Iであると判定する。一方、閾値(TH)未満であった場合には、階層Dでは、識別対象の物体ではないと判定する。
このように、特徴パターンの数に応じて階層化することで、識別対象の物体であるか否かを識別するための計算量を減らすことができる。
識別候補出力部914は、矩形ブロックのうち、識別対象の物体であると判定された物体が含まれる矩形ブロックを抽出し、各矩形ブロックに含まれる物体を識別候補として誤認識除去部731に出力する。また、識別対象の物体であると判定された物体が含まれる矩形ブロックの座標データを走査範囲指定部715、レーザ距離情報取得部721、誤認識除去部731に出力する。図15は、識別候補抽出処理の処理結果として、識別候補出力部914より出力される識別候補及び座標データを説明するための図である。
図15の例では、矩形ブロック1501、1502、1503、1504が抽出されたことを示している。また、矩形ブロック1501に含まれる物体が識別対象の物体(=物体I(車両))であると判定され、判定された物体が識別候補として、座標データ{(Xs11,Ys11)、(Xe11,Ye11)}とともに出力された様子を示している。また、矩形ブロック1502に含まれる物体が識別対象の物体(=物体I(車両))であると判定され、判定された物体が識別候補として、座標データ{(Xs21,Ys21)、(Xe21,Ye21)}とともに出力された様子を示している。また、矩形ブロック1503に含まれる物体が識別対象の物体(=物体I(車両))であると判定され、判定された物体が識別候補として、座標データ{(Xs31,Ys31)、(Xe31,Ye31)}とともに出力された様子を示している。更に、矩形ブロック1504に含まれる物体が識別対象の物体(=物体I(車両))であると判定され、判定された物体が識別候補として、座標データ{(Xs41,Ys41)、(Xe41,Ye41)}とともに出力された様子を示している。なお、矩形ブロック1503、1504に含まれる物体は、実際には"信号機"または"電話ボックス"であり、識別候補抽出部714において、物体I(車両)であると誤認識されたものとする。
<7.3 走査範囲指定部の説明>
次に、走査範囲指定部715について図16を参照しながら説明する。図16は、走査範囲指定部715の詳細について説明するための図である。図16に示すように、走査範囲指定部715は、座標データ入力部1601、変換部1602、旋回角・仰角出力部1603を有する。
座標データ入力部1601は、識別候補抽出部714より出力された座標データを入力する。識別候補抽出部714より出力される座標データは、矩形ブロックの左上及び右下の座標であるため、座標データ入力部1601では、当該座標データに基づいて矩形ブロックにより囲まれる領域を特定する。
変換部1602は、座標データ入力部1601により特定された領域内のレーザ光の走査位置の座標を算出し、算出した座標に対応する位置にレーザ光を照射するための、旋回角φ及び仰角θを算出する。
図17は、矩形ブロック1501〜1504の座標データにより特定された領域と、当該領域内のレーザ光の走査位置1701〜1704を示す図である。
変換部1602では、撮影画像(比較画像820)内のレーザ光の走査位置1701に対応する位置にレーザ光を照射するための、旋回角φ及び仰角θを算出する。また、撮影画像(比較画像820)内のレーザ光の走査位置1702に対応する位置にレーザ光を照射するための、旋回角φ及び仰角θを算出する。また、撮影画像(比較画像820)内のレーザ光の走査位置1703に対応する位置にレーザ光を照射するための、旋回角φ及び仰角θを算出する。更に、撮影画像(比較画像820)内の走査位置1704に対応する位置にレーザ光を照射するための、旋回角φ及び仰角θを算出する。なお、旋回角φ〜φ、仰角θ〜θはいずれも範囲を表す値であるとする。
旋回角・仰角出力部1603では、変換部1602において算出された旋回角φ及び仰角θの組み合わせをレーザレーダ測距部120に出力する。例えば、1フレームの撮影画像(比較画像820)内において4つの領域が特定された場合には、(旋回角,仰角)=(φ,θ)、(φ,θ)、(φ,θ)、(φ,θ)の4つの組み合わせを、走査範囲情報として出力する。これにより、レーザレーダ測距部120では、走査範囲指定部715において指定された旋回角、仰角により特定される方向に、レーザ光を出射するよう走査する。
<7.4 レーザ距離情報取得部の説明>
次に、レーザ距離情報取得部721について説明する。図18はレーザ距離情報取得部721において取得されたレーザ距離情報の一例を示す図である。レーザ距離情報取得部721では、識別候補抽出部714より出力された座標データを取得し、それぞれの座標データについて、レーザレーダ測距部120より送信されたレーザ距離情報を対応付ける。なお、レーザレーダ測距部120より送信された、各領域内のそれぞれの走査位置におけるレーザ距離情報は、各領域ごとに平均値が算出された後に(L〜L)、座標データに対応付けられる。
図18の例では、レーザ距離情報取得部721は、識別候補抽出部714より、以下の4つの座標データを取得している。
・{(Xs1,Ys1)、(Xe1,Ye1)}、
・{(Xs2,Ys2)、(Xe2,Ye2)}、
・{(Xs3,Ys3)、(Xe3,Ye3)}、
・{(Xs4,Ys4)、(Xe2,Ye4)}
このため、レーザ距離情報取得部721では、算出したレーザ距離情報(平均値)それぞれを4つの座標データと対応付ける。なお、レーザ距離情報取得部721では、座標データが算出された複数の撮影画像(比較画像820)それぞれについて、レーザ距離情報と座標データとの対応付けを行う。
レーザ距離情報取得部721では、座標データと対応付けたレーザ距離情報を誤認識除去部731に出力する。
<7.5 誤認識除去部の説明>
次に、誤認識除去部731について図19及び図20を用いて説明する。図19は誤認識除去部731の詳細について説明するための図である。図19に示すように、誤認識除去部731は、物体・距離情報取得部1901、判定情報取得部1902、誤認識判定部1903、識別結果出力部1904、物体サイズ判定DB1910を有する。
物体・距離情報取得部1901は、識別候補抽出部714より出力された座標データと識別候補とを取得するとともに、レーザ距離情報取得部721より出力されたレーザ距離情報を取得する。また、取得した座標データに基づいて、当該座標データにより特定される領域の幅及び高さ(領域のサイズ)を算出する。
図20(a)は、物体・距離情報取得部1901により取得及び算出された、誤認識除去処理に用いられるデータ(識別候補、座標データ、領域のサイズ、レーザ距離情報)の対応関係を示した図である。図20(a)の例では、座標データ{(Xs1,Ys1)、(Xe1,Ye1)}により特定される領域の幅はW、高さはH、当該領域に含まれる識別候補は物体I、物体Iまでの距離はLである。なお、幅Wは(Xe1−Xs1)により算出され、高さHは(Ye1−Ys1)により算出される。
また、図20(a)の例では、座標データ{(Xs2,Ys2)、(Xe2,Ye2)}により特定される領域の幅はW、高さはH、当該領域に含まれる識別候補は物体I、物体Iまでの距離はLである。なお、幅Wは(Xe2−Xs2)により算出され、高さHは(Ye2−Ys2)により算出される。
また、図20(a)の例では、座標データ{(Xs3,Ys3)、(Xe3,Ye3)}により特定される領域の幅はW、高さはH、当該領域に含まれる識別候補は物体I、物体Iまでの距離はLである。なお、幅Wは(Xe3−Xs3)により算出され、高さHは(Ye3−Ys3)により算出される。
更に、図20(a)の例では、座標データ{(Xs4,Ys4)、(Xe4,Ye4)}により特定される領域の幅はW、高さはH、当該領域に含まれる識別候補は物体I、物体Iまでの距離はLである。なお、幅Wは(Xe4−Xs4)により算出され、高さHは(Ye4−Ys4)により算出される。
判定情報取得部1902は、物体・距離情報取得部1901において取得及び算出された識別候補、座標データ、領域のサイズ、レーザ距離情報に基づいて、誤って識別された物体の有無を判定する。具体的には、レーザ距離情報に基づいて導出される、撮影画像内に描画されうる物体の許容サイズに対して、物体・距離情報取得部1901において算出された領域のサイズが収まっているか否かを判定する。なお、レーザ距離情報に基づいて導出される、撮影画像内に描画されうる物体の許容サイズは、予め、物体サイズ判定DB1910に格納されているものとする。
図20(b)は、物体サイズ判定DB1910の一例を示す図である。図20(b)に示すように、物体サイズ判定DB1910は、識別対象の物体ごとに規定されている。また、距離ごとに、当該物体が撮影画像内に描画されうる許容サイズが規定されている。
例えば、物体Iが距離D1の位置にある場合、撮影画像内において、幅はWmin_1〜Wmax_1の範囲内に収まり、高さはHmin_1〜Hmax_1の範囲内に収まる。同様に、物体Iが距離D2の位置にある場合、撮影画像内において、幅はWmin_2〜Wmax_2の範囲内に収まり、高さはHmin_2〜Hmax_2の範囲内に収まる。以下、距離D3〜距離Dnまで、それぞれの距離における物体Iの撮影画像内に描画されうる最小幅、最大幅、最小高さ、最大高さが規定されている。
このため、判定情報取得部1902では、物体・距離情報取得部1901において取得された識別候補及びレーザ距離情報に基づいて、物体サイズ判定DB1910を参照し、対応する物体及び距離の最小幅、最大幅、最小高さ、最大高さを取得する。
誤認識判定部1903では、物体・距離情報取得部1901において算出された領域のサイズが、判定情報取得部1902において取得された最小幅、最大幅、最小高さ、最大高さの範囲内に収まっているか否かを判定する。誤認識判定部1903において、収まっていないと判定された場合には、物体が誤って識別されたと判定する。一方、収まっていると判定された場合には、物体が正しく識別されたと判定する。
図20(a)の例において、物体・距離情報取得部1901が取得した識別候補は"物体I"であり、レーザ距離情報は"L"である。ここで、仮にL=Dであるとすると、
Wmin_3<W<Wmax_3
Hmin_3<H<Hmax_3
が成立する場合には、識別候補は正しく物体が識別されている(物体Iである)と判定する。また、成立しない場合には、識別候補は誤って物体が識別された(物体Iではない)と判定する。
識別結果出力部1904は、物体・距離情報取得部1901において取得された識別候補のうち、誤認識判定部1903にて、誤って物体が識別されたと判定された識別候補以外の識別候補及びその座標データを、識別結果情報出力部732に出力する。
<7.6 誤認識除去部による誤認識除去処理の流れ>
次に、誤認識除去部731による誤認識除去処理の流れについて説明する。図21は、誤認識除去部731による誤認識除去処理の流れを示すフローチャートである。
ステップS2101において、物体・距離情報取得部1901は、識別候補抽出部714より出力された識別候補及び座標データを取得する。また、取得した座標データに基づいて、識別候補が含まれる領域のサイズ(幅W、高さH)を算出する。
ステップS2102において、物体・距離情報取得部1901は、レーザ距離情報取得部721より出力されたレーザ距離情報を取得する。
ステップS2103において、判定情報取得部1902は、ステップS2101、2102において取得した識別候補、レーザ距離情報に基づいて、撮影画像(比較画像820)内に描画されうる物体の許容サイズを導出する。具体的には、物体サイズ判定DB1910を参照し、取得した識別候補、レーザ距離情報に対応する、最小幅(Wmin)、最大幅(Wmax)、最小高さ(Hmin)、最大高さ(Hmax)を取得する。
ステップS2104において、誤認識判定部1903は、ステップS2101において算出されたサイズ(幅W、高さH)と、ステップS2103において取得された許容サイズとを対比する。ステップS2104における対比の結果、Wmin<W<Wmaxを満たし、かつ、Hmin<H<Hmaxを満たすと判定した場合には、ステップS2105に進む。
ステップS2105において、誤認識判定部1903は、ステップS2101において取得した識別候補は、正しく物体が識別されていると判定する。ステップS2106において、識別結果出力部1904は、ステップS2101において取得した識別候補及び座標データを識別結果情報出力部732に出力する。
一方、ステップS2104における対比の結果、Wmin<W<Wmaxを満たしていないか、Hmin<H<Hmaxを満たしていないと判定した場合には、ステップS2107に進む。
ステップS2107において、誤認識判定部1903は、ステップS2101において取得した識別候補は、誤って物体が識別されたと判定する。ステップS2108において、誤認識判定部1903は、誤って物体が識別されたと判定した識別候補を、識別候補から除外する。
ステップS2109において、物体・距離情報取得部1901は、処理対象の撮影画像(1フレーム分の撮影画像)より抽出されたすべての矩形ブロックの識別候補について、物体の正否の判定を行ったか否かを判定する。ステップS2109において、物体の正否の判定を行っていない識別候補があると判定した場合には、ステップS2101に戻り、次の識別候補についてステップS2101からS2108の処理を繰り返す。
一方、ステップS2109において、すべての識別候補について、物体の正否の判定を行ったと判定した場合には、誤認識除去処理を終了する。
<8.物体識別処理の流れ>
次に、情報処理装置130による物体識別処理全体の流れについて説明する。図22は、情報処理装置130による物体識別処理の流れを示すフローチャートである。
ステップS2201において、撮影画像取得部711は、ステレオ撮像部110より1フレーム分の基準画像810及び比較画像820(ステレオ画像)を取得する。
ステップS2202において、輝度画像入力部712は、ステップS2201において取得したステレオ画像のうち、一方の撮影画像(本実施形態では比較画像820)を抽出する。ステップS2203において、視差画像計算部713は、ステップS2201において取得したステレオ画像に基づいて、視差画像を生成する。
ステップS2204において、識別候補抽出部714は、撮影画像及び視差画像に基づいて、識別対象の物体を含む矩形ブロックを抽出し、当該矩形ブロックの位置を特定する座標データを算出する。
ステップS2205において、走査範囲指定部715は、算出された座標データにより特定される領域にレーザ光が照射されるよう、レーザ光の出射方向を特定する旋回角φ及び仰角θの組み合わせを算出する。更に、算出した旋回角φ及び仰角θの組み合わせを走査範囲情報としてレーザレーダ測距部120に送信する。これにより、レーザレーダ測距部120によるレーザ照射処理が実行される。
ステップS2206において、誤認識除去部731は、誤認識除去処理を実行する。なお、誤認識除去処理の詳細は図21を用いて説明済みであるため、ここでは説明を省略する。
ステップS2207において、識別結果情報出力部732は、ステップS2206において、誤って物体が識別されたと判定された識別候補を除く識別候補、及び当該識別候補を含む領域(矩形ブロック)の座標データを、識別結果情報として出力する。
ステップS2208において、撮影画像取得部711は、物体識別処理の終了指示が入力されたか否かを判定する。ステップS2208において、終了指示が入力されていないと判定された場合には、ステップS2201に戻り、次のフレームについて物体識別処理を実行する。一方、ステップS2208において、終了指示が入力されたと判定された場合には、物体識別処理を終了する。
図23は、物体識別処理が実行されることで出力された識別結果情報の一例を示す図であり、撮影画像(比較画像820)より抽出された領域(図15)に対して、誤認識除去処理が実行された様子を示している。
図23に示すように、撮影画像(比較画像820)より抽出された4つの領域(矩形ブロック)のうち、矩形ブロック1503、1504に含まれる物体については、そのサイズが許容サイズに収まっていないため、識別対象の物体でないと判定される。このため、識別候補から除外され、識別結果情報出力部732では、矩形ブロック1501、1502の座標データ及び矩形ブロック1501、1502に含まれる識別候補を識別結果情報として出力する。
<9.まとめ>
以上の説明から明らかなように、本実施形態に係る物体識別システムでは、
・撮像部により撮影された撮影画像より、識別対象の物体が描画された領域を抽出する構成とした。
・識別対象の物体が描画された領域に対応する位置にレーザ光が照射されるよう制御し、当該識別対象の物体までの距離を測定する構成とした。
・測定した距離に基づいて、撮影画像内に描画されうる当該識別対象の物体の許容サイズを導出する構成とした。また、撮影画像より抽出された領域のサイズを当該許容サイズを用いて検証することで、撮影画像より抽出された領域に描画された物体が識別対象の物体であったか否かを判定する構成とした。
・識別対象の物体でないと判定された場合、当該物体が描画された領域を除く領域に関する情報を、識別結果情報として出力する構成とした。
これにより、識別対象の物体ではない物体が描画された領域に関する情報が、識別結果情報として出力されることを回避することが可能となる。この結果、物体の識別精度を向上させることが可能となる。
[第2の実施形態]
上記第1の実施形態では、識別対象の物体として、物体I〜物体IVの4つの物体について抽出する構成としたが、本発明はこれに限定されない。抽出すべき識別対象の物体は、識別結果情報に基づいて、車両200がどのような制御を行うかに応じて、適宜定義されるものとする。なお、抽出すべき識別対象の物体の一例としては、車両や歩行者等が挙げられる。
また、上記第1の実施形態では、識別結果情報として、識別候補と座標データとを出力する構成としたが、本発明はこれに限定されず、例えば、レーザ距離情報を合わせて出力する構成としてもよい。
また、上記第1の実施形態では、識別候補抽出部714より出力された座標データにより特定される領域内の走査位置に対してレーザ光を照射する構成としたが、本発明はこれに限定されない。例えば、座標データにより特定される領域内の特定の1点に対してレーザ光を照射する構成としてもよい。
また、上記第1の実施形態では、レーザレーダ測距部120よりレーザ光を出射した場合の反射光に基づいてレーザ距離情報を算出する構成としたが本発明はこれに限定されない。レーザレーダ測距部以外の電磁波測距部より電磁波を照射した場合の反射波に基づいて、距離情報を算出する構成としてもよい。
なお、上記実施形態に挙げた構成等に、その他の要素との組み合わせなど、ここで示した構成に本発明が限定されるものではない。これらの点に関しては、本発明の趣旨を逸脱しない範囲で変更することが可能であり、その応用形態に応じて適切に定めることができる。
100 :物体識別システム
110 :ステレオ撮像部
111、112 :撮像部
120 :レーザレーダ測距部
130 :情報処理装置
711 :撮影画像取得部
712 :輝度画像入力部
713 :視差画像計算部
714 :識別候補抽出部
715 :走査範囲指定部
721 :レーザ距離情報取得部
731 :誤認識除去部
732 :識別結果情報出力部
901 :ブロック走査部
902 :ブロック抽出部
910 :識別候補演算部
911 :特徴量算出部
912 :評価値算出部
913 :識別部
914 :識別候補出力部
920 :物体識別用DB
1901 :物体・距離情報取得部
1902 :判定情報取得部
1903 :誤認識判定部
1904 :識別結果出力部
1910 :物体サイズ判定DB
特開2000−329852号公報

Claims (9)

  1. 撮像部と、電磁波を出射する出射部と、該撮像部及び該出射部と接続される情報処理装置とを有する物体識別システムであって、
    前記撮像部により撮影された撮影画像に基づいて算出された視差画像を用いて、該撮影画像内の所定の大きさの領域を特定し、特定した該所定の大きさの領域の中から、識別対象の物体が描画された領域を抽出する抽出手段と、
    前記領域が抽出された場合に、前記識別対象の物体に、電磁波が照射されるよう前記出射部を制御する制御手段と、
    前記電磁波が照射されることで測定された前記識別対象の物体までの距離に基づいて導出される、前記撮影画像に描画されうる前記識別対象の物体の許容サイズと、前記抽出手段により抽出された領域のサイズと、を対比することで、前記抽出手段により抽出された領域に描画された物体が識別対象の物体であったか否かを判定する判定手段と
    を有することを特徴とする物体識別システム。
  2. 撮影画像に基づいて算出された視差画像を用いて、該撮影画像内の所定の大きさの領域を特定し、特定した該所定の大きさの領域の中から、識別対象の物体が描画された領域を抽出する抽出手段と、
    前記領域が抽出された場合に、前記識別対象の物体に、電磁波が照射されるよう制御する制御手段と、
    前記電磁波が照射されることで測定された前記識別対象の物体までの距離に基づいて導出される、前記撮影画像に描画されうる前記識別対象の物体の許容サイズと、前記抽出手段により抽出された領域のサイズと、を対比することで、前記抽出手段により抽出された領域に描画された物体が識別対象の物体であったか否かを判定する判定手段と
    を有することを特徴とする情報処理装置。
  3. 前記抽出手段は、
    前記撮影画像内の前記所定の大きさの領域に含まれる各画素の輝度値を用いて算出した特徴量が所定の条件を満たす場合に、前記領域を抽出することを特徴とする請求項2に記載の情報処理装置。
  4. 前記抽出手段は、前記視差画像を用いて抽出した画素群に基づいて前記所定の大きさの領域を特定することを特徴とする請求項2または3に記載の情報処理装置。
  5. 前記制御手段は、
    前記電磁波の出射方向を前記撮影画像内における前記抽出された領域の座標に基づいて算出し、該算出した出射方向に前記電磁波が出射されるよう制御することを特徴とする請求項2乃至4のいずれか1項に記載の情報処理装置。
  6. 識別対象の物体までの距離と、前記撮影画像に描画されうる該識別対象の物体の許容サイズとの関係を規定したデータベースを、識別対象の物体ごとに格納する格納手段を更に有し、
    前記判定手段は、前記測定された識別対象の物体までの距離と、前記抽出された領域に描画された前記識別対象の物体とに基づいて、前記データベースを参照することで、前記対比に用いる許容サイズを導出することを特徴とする請求項2に記載の情報処理装置。
  7. 前記抽出手段により抽出された領域のうち、前記判定手段により識別対象の物体であると判定された物体が描画された領域に関する情報を、識別結果として出力する出力手段を更に有することを特徴とする請求項2に記載の情報処理装置。
  8. 撮像部と、電磁波を出射する出射部と、該撮像部及び該出射部と接続される情報処理装置とを有する物体識別システムにおける情報処理方法であって、
    前記撮像部により撮影された撮影画像に基づいて算出された視差画像を用いて、該撮影画像内の所定の大きさの領域を特定し、特定した該所定の大きさの領域の中から、識別対象の物体が描画された領域を抽出する抽出工程と、
    前記領域が抽出された場合に、前記識別対象の物体に、電磁波が照射されるよう前記出射部を制御する制御工程と、
    前記電磁波が照射されることで測定された前記識別対象の物体までの距離に基づいて導出される、前記撮影画像に描画されうる前記識別対象の物体の許容サイズと、前記抽出工程において抽出された領域のサイズと、を対比することで、前記抽出工程において抽出された領域に描画された物体が識別対象の物体であったか否かを判定する判定工程と
    を有することを特徴とする情報処理方法。
  9. 情報処理装置のコンピュータに、
    撮影画像に基づいて算出された視差画像を用いて、該撮影画像内の所定の大きさの領域を特定し、特定した該所定の大きさの領域の中から、識別対象の物体が描画された領域を抽出する抽出工程と、
    前記領域が抽出された場合に、前記識別対象の物体に、電磁波が照射されるよう制御する制御工程と、
    前記電磁波が照射されることで測定された前記識別対象の物体までの距離に基づいて導出される、前記撮影画像に描画されうる前記識別対象の物体の許容サイズと、前記抽出工程において抽出された領域のサイズと、を対比することで、前記抽出工程において抽出された領域に描画された物体が識別対象の物体であったか否かを判定する判定工程と
    を実行させるためのプログラム。
JP2014131865A 2014-06-26 2014-06-26 物体識別システム、情報処理装置、情報処理方法及びプログラム Active JP6435661B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014131865A JP6435661B2 (ja) 2014-06-26 2014-06-26 物体識別システム、情報処理装置、情報処理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014131865A JP6435661B2 (ja) 2014-06-26 2014-06-26 物体識別システム、情報処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2016009474A JP2016009474A (ja) 2016-01-18
JP6435661B2 true JP6435661B2 (ja) 2018-12-12

Family

ID=55226950

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014131865A Active JP6435661B2 (ja) 2014-06-26 2014-06-26 物体識別システム、情報処理装置、情報処理方法及びプログラム

Country Status (1)

Country Link
JP (1) JP6435661B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6916415B2 (ja) * 2016-07-04 2021-08-11 株式会社ニコン 画像処理装置、撮像装置
JP6480504B2 (ja) 2017-05-31 2019-03-13 本田技研工業株式会社 物標認識システム、物標認識方法、およびプログラム
DE102018209388A1 (de) * 2018-06-13 2019-12-19 Robert Bosch Gmbh Erkennung fahrtrelevanter Situationen auf größere Entfernung
US11776143B2 (en) * 2019-03-28 2023-10-03 Nec Corporation Foreign matter detection device, foreign matter detection method, and program
JP7284670B2 (ja) * 2019-09-06 2023-05-31 新明和工業株式会社 塵芥収集車
JP2023078488A (ja) * 2020-04-13 2023-06-07 ソニーセミコンダクタソリューションズ株式会社 物体検出装置、情報処理装置および物体検出方法
CN111736140B (zh) * 2020-06-15 2023-07-28 杭州海康微影传感科技有限公司 一种对象检测方法和摄像设备
WO2023188184A1 (ja) * 2022-03-30 2023-10-05 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置、システム、情報処理方法、情報処理プログラム、およびコンピュータシステム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04155211A (ja) * 1990-10-18 1992-05-28 Fujitsu Ltd 測距方式
JP3179635B2 (ja) * 1993-08-05 2001-06-25 マツダ株式会社 自動車の障害物検出装置
JP2006258507A (ja) * 2005-03-15 2006-09-28 Omron Corp 前方物体認識装置
JP5598694B2 (ja) * 2009-08-25 2014-10-01 スズキ株式会社 物標検出装置および物標検出方法

Also Published As

Publication number Publication date
JP2016009474A (ja) 2016-01-18

Similar Documents

Publication Publication Date Title
JP6435661B2 (ja) 物体識別システム、情報処理装置、情報処理方法及びプログラム
JP6467776B2 (ja) 測距システム、情報処理装置、情報処理方法及びプログラム
JP6540009B2 (ja) 画像処理装置、画像処理方法、プログラム、画像処理システム
KR101652393B1 (ko) 3차원 영상 획득 장치 및 방법
US10776946B2 (en) Image processing device, object recognizing device, device control system, moving object, image processing method, and computer-readable medium
JP6476831B2 (ja) 視差演算システム、情報処理装置、情報処理方法及びプログラム
CN1707250A (zh) 光学增强的微波成像系统和方法
US10832431B2 (en) Image processing apparatus, object recognition apparatus, equipment control system, image processing method, and computer-readable recording medium
EP3115966B1 (en) Object detection device, object detection method, and computer program
CN112534474A (zh) 纵深取得装置、纵深取得方法以及程序
JP6782433B2 (ja) 画像認識装置
JP7024736B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP2017151535A (ja) 画像処理装置、物体認識装置、機器制御システム、画像処理方法およびプログラム
US10497141B2 (en) Three-dimensional imaging using frequency domain-based processing
JP4123138B2 (ja) 車両検知方法及び車両検知装置
JP6561511B2 (ja) 視差値導出装置、移動体、ロボット、視差値生産導出方法、視差値の生産方法及びプログラム
JP2010060371A (ja) 物体検出装置
JP2006177937A (ja) 距離計測装置及び距離計測方法
WO2016152288A1 (ja) 材質検出装置、材質検出方法及びプログラム
JP2017027578A (ja) 検出装置、視差値導出装置、物体認識装置、機器制御システム、検出方法、およびプログラム
JP7347398B2 (ja) 物体検出装置
EP3062516B1 (en) Parallax image generation system, picking system, parallax image generation method, and computer-readable recording medium
WO2021060397A1 (ja) ゲーティングカメラ、自動車、車両用灯具、画像処理装置、画像処理方法
Ma et al. Disparity estimation based on fusion of vision and LiDAR
JP2006058092A (ja) 3次元形状測定装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170607

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180522

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180529

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180727

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181016

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181029

R151 Written notification of patent or utility model registration

Ref document number: 6435661

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151