JP6225844B2 - 対象物検出装置 - Google Patents

対象物検出装置 Download PDF

Info

Publication number
JP6225844B2
JP6225844B2 JP2014134666A JP2014134666A JP6225844B2 JP 6225844 B2 JP6225844 B2 JP 6225844B2 JP 2014134666 A JP2014134666 A JP 2014134666A JP 2014134666 A JP2014134666 A JP 2014134666A JP 6225844 B2 JP6225844 B2 JP 6225844B2
Authority
JP
Japan
Prior art keywords
processing
candidate
time
area
discriminator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014134666A
Other languages
English (en)
Other versions
JP2016012302A (ja
Inventor
杉山 尚樹
尚樹 杉山
邦博 後藤
邦博 後藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2014134666A priority Critical patent/JP6225844B2/ja
Priority to US14/750,825 priority patent/US9754174B2/en
Priority to DE102015212075.9A priority patent/DE102015212075A1/de
Publication of JP2016012302A publication Critical patent/JP2016012302A/ja
Application granted granted Critical
Publication of JP6225844B2 publication Critical patent/JP6225844B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/255Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)

Description

本発明は、画像データから対象物を検出する技術に関する。
従来、画像データを所定サイズのウィンドウにより走査させながら、ウィンドウ毎に対象物が含まれる確度を示す第1評価値を算出し、その第1評価値に基づいて候補領域を抽出し、その抽出された候補領域のそれぞれについて、その領域に対象物が含まれる確度を示す第2評価値を算出し、その第2評価値に基づいて対象物が含まれる画像領域を抽出する技術が提案されている(特許文献1参照)。
特開2009−59047号公報
従来手法は、要するに、対象物を検出する検出手段を直列に接続して処理を実行するものである。この場合、各検出手段では、第1評価値や第2評価値を所定の閾値と比較することによって、所望の画像領域を抽出する。ここで、検出漏れを極力避けるためには、前段の検出手段の閾値を緩い値に設定することが考えられる。この場合、前段で抽出される候補領域、即ち、後段での処理対象となる候補領域が増大するため、処理時間が増大する。逆に、処理時間を抑えるために前段の検出手段の閾値を厳しい値に設定すると、検出漏れが発生する可能性が大きくなる。つまり、処理時間の削減と検出漏れの削減とはトレードオフの関係にあり、両者を同時に改善することができないという問題があった。
また、前段の検出手段によって検出される候補領域の数は、その時々に入力される画像データによっても大きく異なったものとなる。そして、車載システム等のように、リアルタイムで処理結果を得る必要があるため処理時間に制限があったり、処理を実行する演算装置の処理能力が限られていたりする場合、どのような画像データが入力されても制限時間内に処理が終了するように、最悪の状況を考慮して前段の検出手段の閾値を厳し目の値に設定する必要がある。そうした場合、ほとんどの状況で、処理時間に余裕が生じることになるが、この余裕時間を有効利用することができないという問題もあった。
本発明は、こうした問題に鑑みてなされたものであり、状況に応じた検出性能が得られる対象物検出装置を提供することを目的とする。
簡易な構成で、必要な安全性を確保する
本発明の対象物検出装置は、画像取得手段と対象物抽出手段を備える。画像取得手段は、車載撮像装置で車両周辺を撮像した画像データを取得する。対象物抽出手段は、画像取得手段が取得した画像データに基づいて予め設定された対象物が存在する画像領域である対象物領域を抽出する。
この対象物抽出手段は、識別手段と計時手段と制御手段を備える。識別手段は、対象物領域の候補となる候補領域を抽出する複数種類の識別器を備え、これら識別器を直列的に適用して候補領域を順次絞り込むことにより対象物領域を抽出する。計時手段は、識別手段での処理に要した処理時間を計測する。制御手段は、予め設定された判断ポイントでの処理時間に従い、その処理時間が長いほど、判断ポイント以降の処理による候補領域の絞り込みの度合いが強くなるように、識別器での処理または識別器間の接続関係のうち少なくとも一方を変化させる。
このような構成によれば、判断ポイントまでに要した処理時間が長く、判断ポイント以降の処理に費やすことのできる時間的な余裕がない場合は、判断ポイント以降で処理対象となる候補領域が削減されるため、決められた処理時間内で処理を終わらせることができる。逆に、時間的な余裕がある場合は、判断ポイント以降で処理対象となる候補領域が増えるため、検出漏れを削減することができる。つまり、本発明によれば、状況(時間的な余裕の有無)に適した検出性能によって対象物を効果的に検出することができる。
なお、特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本発明の技術的範囲を限定するものではない。
また、本発明は、前述した対象物検出装置の他、当該対象物検出装置を構成要素とするシステム、当該対象物検出装置としてコンピュータを機能させるためのプログラムなど、種々の形態で実現することができる。
車載システムの構成を示すブロック図である。 第1実施形態の対象物検出装置が実行するメイン処理のフローチャートである。 第1実施形態において第2識別器が実行する処理のフローチャートである。 第1実施形態の対象物検出装置を構成する識別器の接続関係を示す説明図であり、(a)が時間的な余裕がない場合、(b)が時間的な余裕がある場合である。 第2実施形態において第2識別器が実行する処理のフローチャートである。 第3実施形態の対象物検出装置が実行するメイン処理のフローチャートである。 第3実施形態の対象物検出装置を構成する識別器の接続関係を示す説明図であり、(a)が時間的な余裕がない場合、(b)が時間的な余裕がある場合である。 第4実施形態の対象物検出装置が実行するメイン処理のフローチャートである。 第4実施形態の対象物検出装置を構成する識別器の接続関係を示す説明図であり、(a)が時間的な余裕がない場合、(b)が時間的な余裕がある場合である。
以下に本発明が適用された実施形態について、図面を用いて説明する。
[第1実施形態]
<全体構成>
車載システム1は、図1に示すように、撮像装置2、対象物検出装置3、後処理装置4、出力装置5を備える。
撮像装置2は、一定時間毎に車両周辺(例えば前方)を撮像し、画像データを出力する。
対象物検出装置3は、撮像装置2から取得した画像データに基づいて、予め設定された対象物(例えば歩行者など)が存在する画像領域である対象物領域を抽出し、その対象物領域の位置を少なくとも含んだ対象物データを生成して出力する。
後処理装置4は、対象物検出装置3から取得した対象物データに基づいて、対象物を追跡するトラッキング処理等の時系列情報を扱う後処理を実行し、後処理によって得られた情報を付加した対象物データを出力する。
出力装置5は、後処理装置4から取得した対象物データを、運転支援制御などを実行する各種車載装置に、車載ネットワークを介して送信する。
<対象物検出装置>
ここで対象物検出装置3が実行する処理について、図2に示すフローチャートを用いて説明する。
なお、対象物検出装置3では、画像データから対象物領域を抽出する際に複数種類の識別器を使用する。ここでは、識別器は、検出対象となる対象物の典型例を示す辞書データと、画像データから辞書データのサイズに切り出した画像領域と比較することによって、その画像領域に対象物が存在する確からしさを表すスコアを算出し、そのスコアが予め設定されたスコア閾値より大きい場合に、その画像領域を候補領域として抽出する周知のものである。以下では、種類が異なる識別器を第i識別器(i=1,2,…N、Nは正整数)と称し、本実施形態では、N=3の場合について説明する。
対象物検出装置3は、撮像装置2から画像データを生成する一定時間毎に処理を起動する。処理が起動すると、対象物検出装置3は、まず、S110にて撮像装置2が出力する画像データを取得する。続くS120では、処理時間の測定(計時)を開始する。
続くS130では、S110にて取得した画像データに基づき、第1識別器から第N識別器に適用する第1〜第N画像データを生成する。具体的には、画像データに基づき画素を積分した積分画像を生成することで、第1識別器〜第(N−1)識別器に適用する解像度を低下させた第1〜第(N−1)画像データを生成する。なお、第N識別器には、取得した画像データを、そのまま第N画像データとして使用する。
続くS140では、第1画像データに第1識別器を適用して候補領域を抽出する。具体的には、第1画像データを、第1識別器の辞書データサイズのウィンドウにより走査する。そして、ウィンドウで切り取った画像領域を処理対象領域として、処理対象領域毎に辞書データとの類似度を表すスコア算出する。そのスコアが予め設定されたスコア閾値以上となる処理対象領域を候補領域として抽出する。
続くS150では、先のS120で計測を開始した処理時間に、予め設定された余裕時間Tを加えた比較対象時間が、予め設定された制限時間より小さいか否かを判断する。
比較対象時間が制限時間以上である場合(S150:NO)、時間的な余裕がないものとして、S160にて、第2識別器にてスコアとの比較に用いるスコア閾値THを第1閾値TH1に設定してS180に進む。
一方、比較対象時間が制限時間より小さい場合(S150:YES)、時間的な余裕があるものとして、S170にて、第2識別器にてスコアとの比較に用いるスコア閾値THを、第1閾値TH1より低い値の第2閾値TH2(<TH1)に設定してS180に進む。
S180では、第1識別器によって抽出された各候補領域について、該候補領域に対応する第2画像データ上の画像領域を処理対象領域とし、この処理対象領域毎に第2識別器を適用することによって候補領域の絞り込みを行う。なお、第2識別器を適用した処理の詳細については後述する。
続くS190では、第2識別器によって絞り込まれた各候補領域について、該候補領域に対応する第3画像データ上の画像領域を処理対象領域とし、この処理対象領域毎に第3識別器を適用することによって候補領域の絞り込みを行い、その結果を対象物領域として抽出する。
続くS200では、S190にて抽出された対象物領域の位置から、対象物の位置情報を少なくとも含んだ対象物情報を生成し、後処理装置4に出力して本処理を終了する。
<第2識別器>
ここで、第2識別器の適用時(S180)に実行する処理について、図3に示すフローチャートを用いて説明する。
本処理が起動すると、対象物検出装置3は、S210は、前段の識別器(第1識別器)が抽出した候補領域を取得し、取得した候補領域の数だけ、S220〜S260の処理を繰り返す。
S220では、候補領域の一つを選択し、続くS230では、選択した候補領域に対応する第2画像データ上の画像領域を処理対象領域とし、この処理対象領域と第2識別器で使用する辞書データとの類似度を表すスコアを算出する。
続くS240では、スコアがスコア閾値THより大きいか否かを判断する。このスコア閾値THは、先のS160またはS170で設定されたものを使用する。
スコアがスコア閾値THより大きければ(S240:YES)、S250にて、処理対象領域を候補集合に登録してS260に進む。一方、スコアがスコア閾値TH以下であれば(S240:NO)、S250をスキップしてS260に進む。
S260では、S210で取得した全ての候補領域について、S230〜S250の処理を実行したか否かを判断し、未処理の候補領域があればS220に戻り、全ての候補領域について処理済みであればS270に進む。
S270では、S250にて候補集合に登録された処理対象領域を、第2識別器によって絞り込んだ候補領域として、次段の識別器(第3識別器)に出力し本処理を終了する。
なお、第1識別器および第3識別器の適用時に実行する処理は、使用する辞書データが異なる点と、スコア閾値THとして固定値が用いられる点以外は、第2識別器の適用時に実行する処理と同様である。
<効果>
以上説明したように対象物検出装置3では、第1識別器による処理が終了した時点を判断ポイントとして、判断ポイントまでの処理時間から、判断ポイント後の処理に時間的な余裕があるか否かを判断している。そして、余裕がないと判断した場合、第2識別器のスコア閾値THを第1閾値TH1(>TH2)に設定し、余裕があると判断した場合、第2識別器のスコア閾値THを第2閾値TH2(<TH1)に設定している。
これにより、判断ポイント後の処理に時間的な余裕がない場合は、図4(a)に示すように、第1識別器31、第1閾値TH1を用いた第2識別器32a、第3識別器33によって処理が実行されることになり、第2識別器32aにて候補領域が十分に絞り込まれることになる。その結果、判断ポイント後の処理に要する時間を削減すること、ひいては、決められた制限時間内に処理を終了させることができる。
一方、判断ポイント後の処理に時間的な余裕がある場合は、図4(b)に示すように、第1識別器31、第2閾値TH2を用いた第2識別器32b、第3識別器33によって処理が実行されることになり、第2識別器32bにてより多くの候補領域が抽出されることになる。その結果、判断ポイント後に許容される処理時間を有効利用して、対象物の検出漏れを抑制することができる。
つまり、対象物検出装置3によれば、状況(時間的な余裕の有無)に適した検出性能によって対象物を効果的に検出することができる。
[第2実施形態]
第2実施形態は、基本的な構成は第1実施形態と同様であるため、共通する構成については説明を省略し、相違点を中心に説明する。
前述した第1実施形態では、第1識別器による処理が終了した時点を判断ポイントとし処理時間の余裕度を判断している。これに対し、第2実施形態では、第2識別器による処理の途中を判断ポイントとしている点で、第1実施形態とは相違する。
<対象物検出装置>
本実施形態では、対象物検出装置3のメイン処理は、図2を用いて説明した処理から、S150〜S170を省略したものとなる。これと共に、第2識別器を適用する際に実行する処理の一部が第1実施形態とは異なる。
<第2識別器>
本実施形態の対象物検出装置3が、図3に示した処理に代えて実行する処理を、図5のフローチャートを用いて説明する。なお、本処理では、第1実施形態の処理と比較すると、S240に代えてS242〜S248を実行する点、S270に代えてS272〜S276を実行する点が相違する。以下では、この相違点を中心に説明する。
処理対象領域についてのスコアが算出されると(S230)、続くS242では、スコアが第1閾値TH1より大きいか否かを判断する。スコアが第1閾値TH1より大きければ(S242:YES)、S244にて、処理対象領域を、第1候補集合に登録してS246に進む。一方、スコアが第1閾値TH1以下であれば(S242:NO)、S244をスキップしてS246に進む。
S246では、スコアが第2閾値TH2(<TH1)より大きいか否かを判断する。スコアが第2閾値TH2より大きければ(S246:YES)、S248にて、処理対象領域を、第2候補集合に登録してS260に進む。一方、スコアが第2閾値TH2以下であれば(S246:NO)、S248をスキップしてS260に進む。
全ての候補画像についてS242〜S248の処理が終了すると(S260)、続くS272では、先のS120で計測を開始した処理時間に、予め設定された余裕時間Tを加えた比較対象時間が、予め設定された制限時間より小さいか否かを判断する。
比較対象時間が制限時間以上であれば(S272:NO)、時間的な余裕がないものとして、先のS274にて第1候補集合として登録された処理対象領域を、候補領域として次段の識別器(第3識別器)に出力して、本処理を終了する。一方、比較対象時間が制限時間より小さければ(S272:YES)、時間的な余裕があるものとして、先のS248にて第2候補集合として登録された処理対象領域を、候補領域として次段の識別器(第3識別器)に出力して、本処理を終了する。
<効果>
以上説明したように本実施形態の対象物検出装置3では、第2識別器においてスコアが第1閾値TH1より大きい処理対象領域を第1候補集合に登録し、スコアが第2閾値TH2より大きい処理対象領域を第2候補集合に登録する。そして、第1識別器から取得した各候補領域に対応する全ての処理対象領域についてのスコアの算出、第1および第2候補集合への登録処理が終了した時点を判断ポイントとして、判断ポイントまでの処理時間から、判断ポイント後の処理に時間的な余裕があるか否かを判断している。この時、余裕がないと判断した場合、第1閾値TH1を用いて抽出された処理対象領域を第3識別器に出力し、余裕があると判断した場合、第2閾値TH2を用いて抽出された処理対象領域を第3識別器に出力している。
これにより、第1実施形態の場合と同様に、判断ポイント後の処理に時間的な余裕がない場合は、図4(a)に示すように、第1識別器31、第1閾値TH1を用いた第2識別器32a、第3識別器33によって処理が実行されることになる。その結果、判断ポイント後の処理に要する時間を削減すること、ひいては、決められた制限時間内に処理を終了させることができる。
一方、判断ポイント後の処理に時間的な余裕がある場合は、図4(b)に示すように、第1識別器31、第2閾値TH2を用いた第2識別器32b、第3識別器33によって処理が実行されることになる。その結果、判断ポイント後に許容される処理時間を有効利用して、対象物の検出漏れを抑制することができる。
つまり、対象物検出装置3によれば、状況(時間的な余裕の有無)に適した検出性能によって対象物を効果的に検出することができる。
[第3実施形態]
第3実施形態は、基本的な構成は第1実施形態と同様であるため、共通する構成については説明を省略し、相違点を中心に説明する。
前述した第1実施形態では、第1識別器による処理が終了した時点を判断ポイントとし処理時間の余裕度を判断し、余裕度の有無によって第2識別器のスコア閾値を変化させている。これに対し、第3実施形態では、第2識別器による処理が終了した時点を判断ポイントとし、その時点での余裕度の有無によって第3識別器の適用の有無を判断する点、および第4識別器を用いる点で、第1実施形態とは相違する。
<対象物検出装置>
本実施形態の対象物検出装置3が、図2に示した処理に代えて実行する処理を、図6のフローチャートを用いて説明する。なお、本処理では、第1実施形態の処理と比較すると、S180に代えてS142を実行する点、S150の判断結果に応じてS190を実行するか否かが判断される点、S192が追加されている点が相違する。以下では、この相違点を中心に説明する。
即ち、対象物検出装置3は、第1画像データに第1識別器を適用して候補領域を抽出する処理(S140)が終了すると、続くS142では、第1識別器によって抽出された各候補領域について、該候補領域に対応する第2画像データ上の画像領域を処理対象領域とし、この処理対象領域に第2識別器を適用して候補領域を絞り込む処理を実行する。なお、第1実施形態の場合とは異なり、第2識別器のスコア閾値THは固定値を用いる。
続くS150では、先のS120で計測を開始した処理時間に、予め設定された余裕時間Tを加えた比較対象時間が、予め設定された制限時間より小さいか否かを判断する。
比較対象時間が制限時間より小さい場合(S150:YES)、時間的な余裕があるものとして、S190にて、第2識別器によって絞り込まれた各候補領域について、該候補領域に対応する第3画像データ上の画像領域を処理対象領域とし、この処理対象領域に第3識別器を適用して候補領域を更に絞り込む処理を実行してS192に進む。
一方、比較対象時間が制限時間以上である場合(S150:NO)、時間的な余裕がないものとして、S190をスキップしてS192に進む。
S192では、第2識別器(S150:NOの場合)または第3識別器(S150:YESの場合)によって絞り込まれた各候補領域について、該候補領域に対応する第4画像データ上の画像領域を処理対象領域とし、この処理対象領域に第4識別器を適用して候補領域の絞り込みを行い、その結果を対象物領域として抽出して、S200に進む。
<効果>
以上説明したように、本実施形態の対象物検出装置3では、第2識別器による処理が終了した時点を判断ポイントとして、判断ポイントまでの処理時間から、判断ポイント後の処理に時間的な余裕があるか否かを判断している。そして、余裕がないと判断した場合、第3識別器による処理を省略して第4識別器による処理を実行する。一方、余裕があると判断した場合、第3識別器による処理を実行後に第4識別器による処理を実行する。
従って、判断ポイント後の処理に時間的な余裕がない場合は、図7(a)に示すように、第1識別器31、第2識別器32、第4識別器34によって処理が実行されることになる。その結果、判断ポイント後の処理に要する時間を削減すること、ひいては、決められた制限時間内に処理を終了させることができる。
一方、判断ポイント後の処理に時間的な余裕がある場合は、図7(b)に示すように、第1識別器31、第2識別器32、第3識別器33、第4識別器34によって処理が実行されることになる。その結果、判断ポイント後に許容される処理時間を有効利用して、対象物の検出漏れを抑制することができる。
つまり、対象物検出装置3によれば、状況(時間的な余裕の有無)に適した検出性能によって対象物を効果的に検出することができる。
[第4実施形態]
第4実施形態は、基本的な構成は第1実施形態と同様であるため、共通する構成については説明を省略し、相違点を中心に説明する。
前述した第1実施形態では、第1識別器による処理が終了した時点を判断ポイントとし処理時間の余裕度を判断し、余裕度の有無によって第2識別器のスコア閾値を変化させている。これに対し、第4実施形態では、余裕度の有無によって第2識別器のスコア閾値を変化させるだけでなく、第3識別器の適用の有無も判断する点、および第4識別器を用いる点で、第1実施形態とは相違する。
<対象物検出装置>
本実施形態の対象物検出装置3が、図2に示した処理に代えて実行する処理を、図8のフローチャートを用いて説明する。なお、本処理では、第1実施形態の処理と比較すると、S180に代えてS182,S184を実行する点、S150の判断結果に応じてS190を実行するか否かが判断される点、S192が追加されている点が相違する。以下では、この相違点を中心に説明する。
即ち、対象物検出装置3は、比較対象時間が制限時間より小さい場合(S150:NOO)、時間的な余裕がないものとして、S160にて第2識別器で使用するスコア閾値THを第1閾値TH1に設定し、続くS182にて、S180での処理と同様に第2識別器によって候補領域を絞り込む処理を実行してS192に進む。
一方、比較対象時間が制限時間以上である場合(S150:YES)、時間的余裕があるものとして、SS70にて第2識別器で使用するスコア閾値THを第2閾値TH2に設定し、続くS184にて、S180での処理と同様に第2識別器によって候補領域を絞り込む処理を実行し、更に、続くS190にて、第3識別器によって更に候補領域を絞り込む処理を実行してS192に進む。
S192では、第2識別器(S150:NOの場合)または第3識別器(S150:YESの場合)によって絞り込まれた各候補領域について、該候補領域に対応する第4画像データ上の画像領域を処理対象領域とし、この処理対象領域に第4識別器を適用して候補領域の絞り込みを行い、その結果を対象物領域として抽出して、S200に進む。
<効果>
以上説明したように、本実施形態の対象物検出装置3では、第1識別器による処理が終了した時点を判断ポイントとして、判断ポイントまでの処理時間から、判断ポイント後の処理に時間的な余裕があるか否かを判断している。そして、余裕がないと判断した場合、スコア閾値THが第1閾値TH1に設定された第2識別器による処理を実行した後、第4識別器による処理を実行する。一方、余裕があると判断した場合、スコア閾値THが第2閾値TH2に設定された第2識別器による処理の後、第3識別器による処理を実行後に第4識別器による処理を実行する。
従って、判断ポイント後の処理に時間的な余裕がない場合は、図9(a)に示すように、第1識別器31、第1閾値TH1を用いる第2識別器32a、第4識別器34によって処理が実行されることになる。その結果、判断ポイント後の処理に要する時間を削減すること、ひいては、決められた制限時間内に処理を終了させることができる。
一方、判断ポイント後の処理に時間的な余裕がある場合は、図9(b)に示すように、第1識別器31、第2閾値TH2を用いる第2識別器32b、第3識別器33、第4識別器34によって処理が実行されることになる。その結果、判断ポイント後に許容される処理時間を有効利用して、対象物の検出漏れを抑制することができる。
つまり、対象物検出装置3によれば、状況(時間的な余裕の有無)に適した検出性能によって対象物を効果的に検出することができる。
[他の実施形態]
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されることなく、種々の形態を採り得ることは言うまでもない。
(1)上記実施形態では、S150,S272で使用する余裕時間Tとして固定値を用いているが、これに限定されるものではない。例えば、前サイクルの処理で検出された対象物(対象物領域)の数に応じて余裕時間Tを変化させてもよい。即ち、前サイクルの処理で検出された対象物の数が多い場合には、後処理装置4での後処理(トラッキング処理等)において、より多くの処理時間が必要となる可能性がある。従って、このような場合、余裕時間Tを大きくすることによって、後処理を実行する時間が確保されるようにすることが考えられる。また、時間帯、天候、車速、走行環境(場所)等に応じて、余裕時間Tを変化させてもよい。
(2)上記実施形態では処理時間を評価する判断ポイントを一つだけ設けたが、これを複数設けることによって、識別器の処理内容や識別器間の接続構成をより細かに変更するようにしてもよい。
(3)本発明の各構成要素は概念的なものであり、上記実施形態に限定されない。例えば、一つの構成要素が有する機能を複数の構成要素に分散させたり、複数の構成要素が有する機能を一つの構成要素に統合したりしてもよい。また、上記実施形態の構成の少なくとも一部を、同様の機能を有する公知の構成に置き換えてもよい。また、上記実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加、置換等してもよい。
1…車載システム 2…撮像装置 3…対象物検出装置 4…後処理装置 5…出力装置 31…第1識別器 32,32a,32b…第2識別器 33…第3識別器 34…第4識別器

Claims (3)

  1. 車載撮像装置で車両周辺を撮像した画像データを取得する画像取得手段(S110)と、
    前記画像取得手段が取得した画像データに基づいて予め設定された対象物が存在する画像領域である対象物領域を抽出する対象物抽出手段(S120〜S200)と、
    を備え、
    前記対象物抽出手段は、
    前記対象物領域の候補となる候補領域を抽出する複数種類の識別器を備え、該識別器を直列的に適用して前記候補領域を順次絞り込むことにより前記対象物領域を抽出する識別手段(S140、S180、S190)と、
    前記識別手段での処理に要した処理時間を計測する計時手段(S120)と、
    予め設定された判断ポイントでの前記処理時間に従い、該処理時間が長いほど、前記判断ポイント以降の処理による前記候補領域の絞り込みの度合いが強くなるように、前記識別器での処理または前記識別器間の接続関係のうち少なくとも一方を変化させる制御手段(S150〜S170)と、
    を備え
    前記識別器は、
    入力される処理対象領域に前記対象物が存在する確からしさを表すスコアを算出するスコア算出手段(S230)と、
    前記スコア算出手段により算出されたスコアが予め設定されたスコア閾値以上となる前記処理対象領域を前記候補領域として抽出する候補領域抽出手段(S240、S250)と、
    を備え、
    前記制御手段は、前記処理時間が長いほど、前記判断ポイント以降に適用される前記識別器の少なくとも一つについて、前記スコア閾値を大きな値に変化させることを特徴とする対象物検出装置。
  2. 車載撮像装置で車両周辺を撮像した画像データを取得する画像取得手段(S110)と、
    前記画像取得手段が取得した画像データに基づいて予め設定された対象物が存在する画像領域である対象物領域を抽出する対象物抽出手段(S120〜S200)と、
    を備え、
    前記対象物抽出手段は、
    前記対象物領域の候補となる候補領域を抽出する複数種類の識別器を備え、該識別器を直列的に適用して前記候補領域を順次絞り込むことにより前記対象物領域を抽出する識別手段(S140、S180、S190)と、
    前記識別手段での処理に要した処理時間を計測する計時手段(S120)と、
    予め設定された判断ポイントでの前記処理時間に従い、該処理時間が長いほど、前記判断ポイント以降の処理による前記候補領域の絞り込みの度合いが強くなるように、前記識別器での処理または前記識別器間の接続関係のうち少なくとも一方を変化させる制御手段(S150〜S170)と、
    を備え、
    前記識別器は、
    入力される処理対象領域に前記対象物が存在する確からしさを表すスコアを算出するスコア算出手段(S230)と、
    前記スコア算出手段により算出されたスコアが予め設定された第1閾値以上となる前記候補領域を第1候補集合とし、前記第1閾値より小さな値に設定された第2閾値以上となる前記候補領域を第2候補集合として記憶する候補集合記憶手段(S242〜S248)と、
    前記第1候補集合または前記第2候補集合のうちいずれか一方を選択し、選択された候補集合に属する前記候補領域を出力する選択手段(S272〜S276)と、
    を備え、
    前記制御手段は、前記候補集合記憶手段での処理が終了した時点を前記判断ポイントとし、該判断ポイントでの処理時間が予め設定された時間閾値より大きければ前記第1候補集合を、前記時間閾値以下であれば前記第2候補集合を前記選択手段に選択させることを特徴とする対象物検出装置。
  3. 前記制御手段は、前記処理時間に従い、前記判断ポイント以降の処理で使用する前記識別器の数または種類を変化させることを特徴とする請求項1または請求項2に記載の対象物検出装置。
JP2014134666A 2014-06-30 2014-06-30 対象物検出装置 Active JP6225844B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014134666A JP6225844B2 (ja) 2014-06-30 2014-06-30 対象物検出装置
US14/750,825 US9754174B2 (en) 2014-06-30 2015-06-25 Object detection apparatus
DE102015212075.9A DE102015212075A1 (de) 2014-06-30 2015-06-29 Objekterfassungsvorrichtung

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014134666A JP6225844B2 (ja) 2014-06-30 2014-06-30 対象物検出装置

Publications (2)

Publication Number Publication Date
JP2016012302A JP2016012302A (ja) 2016-01-21
JP6225844B2 true JP6225844B2 (ja) 2017-11-08

Family

ID=54840036

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014134666A Active JP6225844B2 (ja) 2014-06-30 2014-06-30 対象物検出装置

Country Status (3)

Country Link
US (1) US9754174B2 (ja)
JP (1) JP6225844B2 (ja)
DE (1) DE102015212075A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11080777B2 (en) 2014-03-31 2021-08-03 Monticello Enterprises LLC System and method for providing a social media shopping experience
US10511580B2 (en) 2014-03-31 2019-12-17 Monticello Enterprises LLC System and method for providing a social media shopping experience
US12008629B2 (en) 2014-03-31 2024-06-11 Monticello Enterprises LLC System and method for providing a social media shopping experience
US11004139B2 (en) 2014-03-31 2021-05-11 Monticello Enterprises LLC System and method for providing simplified in store purchases and in-app purchases using a use-interface-based payment API
CN110784685B (zh) * 2019-10-23 2021-06-29 上海能塔智能科技有限公司 车辆清洁状况的监控方法及装置、存储介质、终端

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3421700B2 (ja) * 1998-01-22 2003-06-30 富士通株式会社 データ圧縮装置及び復元装置並びにその方法
US6608930B1 (en) * 1999-08-09 2003-08-19 Koninklijke Philips Electronics N.V. Method and system for analyzing video content using detected text in video frames
US6731788B1 (en) * 1999-01-28 2004-05-04 Koninklijke Philips Electronics N.V. Symbol Classification with shape features applied to neural network
US6614930B1 (en) * 1999-01-28 2003-09-02 Koninklijke Philips Electronics N.V. Video stream classifiable symbol isolation method and system
JP4445410B2 (ja) * 2005-02-24 2010-04-07 株式会社ルネサステクノロジ 情報処理装置
JP4267657B2 (ja) * 2006-10-31 2009-05-27 本田技研工業株式会社 車両周辺監視装置
JP2009059047A (ja) 2007-08-30 2009-03-19 Victor Co Of Japan Ltd 対象物検出装置、対象物検出方法、および対象物検出プログラム
JP5101993B2 (ja) 2007-11-01 2012-12-19 キヤノン株式会社 情報処理装置および情報処理方法
US8487991B2 (en) * 2008-04-24 2013-07-16 GM Global Technology Operations LLC Clear path detection using a vanishing point
US8611585B2 (en) * 2008-04-24 2013-12-17 GM Global Technology Operations LLC Clear path detection using patch approach
US8605947B2 (en) * 2008-04-24 2013-12-10 GM Global Technology Operations LLC Method for detecting a clear path of travel for a vehicle enhanced by object detection
JP5258506B2 (ja) * 2008-10-24 2013-08-07 キヤノン株式会社 情報処理装置
JP4815488B2 (ja) * 2008-12-22 2011-11-16 本田技研工業株式会社 車両周辺監視装置
JP5137862B2 (ja) * 2009-01-20 2013-02-06 セコム株式会社 物体検出装置
JP5293321B2 (ja) * 2009-03-23 2013-09-18 株式会社豊田中央研究所 対象物識別装置及びプログラム
JP2012118634A (ja) * 2010-11-29 2012-06-21 Panasonic Corp 画像認識方法、画像認識装置及び撮像システム
US8552873B2 (en) * 2010-12-28 2013-10-08 Automotive Research & Testing Center Method and system for detecting a driving state of a driver in a vehicle
JP5427203B2 (ja) * 2011-03-30 2014-02-26 富士重工業株式会社 車両用運転支援装置
JP5565869B2 (ja) * 2011-08-01 2014-08-06 株式会社ユニバーサルエンターテインメント 識別装置及び識別プログラム
JP6060687B2 (ja) 2013-01-10 2017-01-18 コニカミノルタ株式会社 クリーニング装置および画像形成装置

Also Published As

Publication number Publication date
US20150379364A1 (en) 2015-12-31
DE102015212075A1 (de) 2015-12-31
US9754174B2 (en) 2017-09-05
JP2016012302A (ja) 2016-01-21

Similar Documents

Publication Publication Date Title
JP6225844B2 (ja) 対象物検出装置
CN109145867B (zh) 人体姿态估计方法、装置、系统、电子设备、存储介质
US9911055B2 (en) Method and system for detection and classification of license plates
CN108009466B (zh) 行人检测方法和装置
US9619753B2 (en) Data analysis system and method
JP4533836B2 (ja) 変動領域検出装置及びその方法
KR102085035B1 (ko) 객체 인식을 위한 객체 후보영역 설정방법 및 장치
JP2014059875A5 (ja)
JP6245880B2 (ja) 情報処理装置および情報処理手法、プログラム
US20170061231A1 (en) Image processing device, image processing method, and computer-readable recording medium
KR20140031742A (ko) 이미지 특징 추출 장치 및 이미지 특징 추출 방법, 그를 이용한 영상 처리 시스템
WO2016002900A1 (ja) 物体検出用方法および装置、ならびにコンピュータプログラム製品
JP7327077B2 (ja) 路上障害物検知装置、路上障害物検知方法、及び路上障害物検知プログラム
CN112508910A (zh) 用于多分类缺陷检测的缺陷提取方法及装置
WO2012046426A1 (ja) 物体検出装置、物体検出方法および物体検出プログラム
CN111783665A (zh) 一种动作识别方法、装置、存储介质和电子设备
JP6255944B2 (ja) 画像解析装置、画像解析方法及び画像解析プログラム
JP2014130415A (ja) 文字認識装置、文字認識方法、及び文字認識プログラム
JP2005311691A (ja) 物体検出装置及び方法
JP2008102814A (ja) オブジェクト検出方法
CN114005105B (zh) 驾驶行为检测方法、装置以及电子设备
JP6208018B2 (ja) 画像認識アルゴリズム組合せ選択装置
KR101556598B1 (ko) 주요 픽셀 정보에 기반한 물체 검출 장치 및 그 방법
JP6452324B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6126979B2 (ja) 特徴選択装置、方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160129

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170912

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170925

R151 Written notification of patent or utility model registration

Ref document number: 6225844

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250