JP2020194447A - 信号機認識装置、信号機認識方法および信号機認識のためのプログラム - Google Patents
信号機認識装置、信号機認識方法および信号機認識のためのプログラム Download PDFInfo
- Publication number
- JP2020194447A JP2020194447A JP2019100665A JP2019100665A JP2020194447A JP 2020194447 A JP2020194447 A JP 2020194447A JP 2019100665 A JP2019100665 A JP 2019100665A JP 2019100665 A JP2019100665 A JP 2019100665A JP 2020194447 A JP2020194447 A JP 2020194447A
- Authority
- JP
- Japan
- Prior art keywords
- region
- traffic light
- color
- light
- detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Studio Devices (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】煩雑な処理を要することなく、精度良く信号機を認識することができる信号機認識装置等を提供する。【解決手段】画像内から信号機の第1点灯色を検出する第1色検出部と、画像内から信号機の第2点灯色を検出する第2色検出部と、第1時点で取得した第1画像における第1の領域に第1色検出部により第1点灯色が検出され、かつ、第1時点よりも後の第2時点で取得した第2画像における第2の領域であって第1の領域に対し第2画像上で特定の位置関係にある第2の領域において、第2色検出部により第2点灯色が検出された場合に、第1の領域および第2の領域に対応する位置の信号機を認識する信号機検出部と、を備える。【選択図】図1
Description
本発明は、画像上の信号機を認識する信号機認識装置、信号機認識方法および信号機認識のためのプログラムに関する。
自律移動ロボットなど、交通信号機を認識する必要がある様々な装置で信号機認識装置が使用されている。信号機認識装置は安定して信号機の灯火の色を認識する必要がある。例えば、信号機でないものを信号機と誤認することや、信号機の見落としを防止できる手法が要求される。そのため、従来の装置では、信号機の形状や見え方に基づいて画像内から信号機の特定の領域を抽出し、その領域の中の色の分布を調べることで灯火の色を認識している。例えば、特許文献1には、信号機の灯火の画像とテンプレート画像とを比較することで灯火の領域を抽出し、さらに抽出された灯火の領域の色を認識する信号機認識装置が開示されている。
しかしながら、従来の信号機認識装置では、信号機の灯火の形状を学習させるプロセス、および学習で得たテンプレート画像と撮影された画像とを比較して信号機の有無を判定するプロセスが必要となり、処理が煩雑となる。
本発明は、煩雑な処理を要することなく、精度良く信号機を認識することができる信号機認識装置等を提供することを目的とする。
1つの側面では、画像内から、信号機の第1灯火の第1点灯色を検出する第1色検出部と、
画像内から、前記信号機の第2灯火の第2点灯色を検出する第2色検出部と、
第1時点で取得した第1画像における第1の領域に前記第1色検出部により前記第1点灯色が検出され、かつ、前記第1時点よりも後の第2時点で取得した第2画像における第2の領域であって前記第1の領域に対し前記第2画像上で特定の位置関係にある第2の領域において、前記第2色検出部により前記第2点灯色が検出された場合に、前記第1の領域に基づいて、前記信号機を認識する信号機検出部と、を備える、信号機認識装置を提供する。
画像内から、前記信号機の第2灯火の第2点灯色を検出する第2色検出部と、
第1時点で取得した第1画像における第1の領域に前記第1色検出部により前記第1点灯色が検出され、かつ、前記第1時点よりも後の第2時点で取得した第2画像における第2の領域であって前記第1の領域に対し前記第2画像上で特定の位置関係にある第2の領域において、前記第2色検出部により前記第2点灯色が検出された場合に、前記第1の領域に基づいて、前記信号機を認識する信号機検出部と、を備える、信号機認識装置を提供する。
本発明によれば、煩雑な処理を要することなく、精度良く信号機を認識することができる。
以下、添付図面を参照しながら各実施例について詳細に説明する。
図1は信号機認識装置を用いた信号認識システムの構成ないし機能を示すブロック図である。
信号認識システム1の用途は限定されないが、例えば、移動体としての自立歩行装置あるいは自律移動ロボットなどに備えられ、信号認識システム1から出力される情報が移動体の移動の制御に使用される。以下では、一例として、信号認識システム1は、移動体に適用されるものとする。
信号認識システム1の用途は限定されないが、例えば、移動体としての自立歩行装置あるいは自律移動ロボットなどに備えられ、信号認識システム1から出力される情報が移動体の移動の制御に使用される。以下では、一例として、信号認識システム1は、移動体に適用されるものとする。
図1に示すように、信号認識システム1は、信号機認識装置2と、カメラ10(撮像手段)と、GPS(Global Positioning System)受信機11とを含む。
信号機認識装置2は、マイクロコンピュータ等から形成されてよい。信号機認識装置2は、カメラ10の撮像画像に基づく情報処理を実行する。
カメラ10は、移動体に搭載され、移動体の進行方向前方の風景を撮像する。カメラ10は、信号機の像を捕捉できるように移動体に搭載される。なお、カメラ10の画角等は固定であってもよいし、可変であってよい。
GPS受信機11は、移動体の位置情報を取得する。
図1に示す信号認識システム1では、例えば、カメラ10は移動体の周囲を撮影し、信号機認識装置2はカメラ10の撮像画像に基づく情報処理を実行する。移動体に信号機認識装置2の認識結果に基づいて移動動作(走行)を制御する動作制御部3を設けてもよい。例えば、動作制御部3は、地図を参照して移動体が信号機に近づいた場合に所定の位置に移動体を停止させるとともに、移動体がこの所定の位置に停止した状態で処理開始指示を出力する。この場合、処理開始指示を受けた信号機認識装置2が信号機の認識処理を開始してもよい。
なお、信号認識システム1を構成するカメラ10と信号機認識装置2とを何らかの通信経路を介して接続し、互いに離れた位置で動作させることもできる。例えば、カメラ10を移動体に取り付ける場合、移動体に信号機認識装置2を載せる必要がなくなり、外部のサーバ等により信号機認識装置2を構成することが可能となる。あるいは、信号機認識装置2は、移動体に搭載される情報処理装置と、サーバとにより協働して実現されてもよい。
信号機認識装置2は、色検出部20と、領域抽出部21と、信号機検出部23と、出力部24、領域指定部25と、信号機情報登録部31と、灯火色登録部32と、位置関係登録部33と、候補領域登録部34と、履歴登録部35とを備える。なお、信号機認識装置2の各部は、例えば、コンピュータプログラムに従って動作するコンピュータの機能、あるいはCPU(Central Processing Unit)などのプロセッサで実行されるプログラムモジュールとして実現されてよい。
色検出部20は、カメラ10により取得された撮像画像を処理することで、各種の色を検出する。
本実施例では、色検出部20は、赤色検出部201(第1色検出部の例)と、青色検出部202(第2色検出部の例)と、赤灯火候補検出部203と、青灯火候補検出部204とを含む。
赤色検出部201は、認識対象の信号機の赤灯火(第1灯火の一例)に係る赤灯火色に対応した赤色(第1点灯色の例)を検出する赤色検出処理を行う。具体的には、赤色検出部201は、撮像画像内の一の画素ごとに、灯火色登録部32に記憶された灯火色情報に基づいて、赤灯火色に対応した赤色を検出する。例えば、灯火色情報は、赤灯火色に対応した赤色に対応するRGB値の範囲(閾値)であってよい。なお、RGB値に代えて色相、明度、彩度の組み合わせなどを用いてもよく、輝度等の他のパラメータを利用することもできる。赤灯火色に対応した赤色を示す色の範囲は、信号機の種類または個体差による色のばらつきや日照条件による色の変化などを考慮し、赤灯火を確実に検出できるよう定められることが望ましい。なお、例えば、カメラ10の撮像画像に基づき判定される周囲の明るさに応じて、赤灯火色に対応した赤色の範囲を示すパラメータの閾値を変更してもよい。以下では、撮像画像の各画素のうちの、赤色検出部201により、赤灯火色に対応した赤色が検出される画素を、「赤画素」とも称する。
青色検出部202は、認識対象の信号機の青灯火(第2灯火の一例)に係る青灯火色に対応した青色(第2点灯色の例)を検出する青色検出処理を行う。具体的には、青色検出部202は、撮像画像内の一の画素ごとに、灯火色登録部32に記憶された灯火色情報に基づいて、青灯火色に対応した青色を検出する。例えば、灯火色情報は、青灯火色に対応した青色に対応するRGB値の範囲(閾値)であってよい。なお、RGB値に代えて色相、明度、彩度の組み合わせなどを用いてもよく、輝度等の他のパラメータを利用することもできる。青灯火色に対応した青色を示す色の範囲は、信号機の種類または個体差による色のばらつきや日照条件による色の変化などを考慮し、青灯火を確実に検出できるよう定められることが望ましい。なお、例えば、カメラ10の撮像画像に基づき判定される周囲の明るさに応じて、青灯火色に対応した青色の範囲を示すパラメータの閾値を変更してもよい。以下では、撮像画像の各画素のうちの、青色検出部202により、青灯火色に対応した青色が検出される画素を、「青画素」とも称する。
領域抽出部21は、色検出部20の赤色検出部201の検出結果に基づいて、認識対象の信号機の赤灯火に係る画素領域に対する候補領域(以下、単に「赤灯火の候補領域」とも称する)を抽出する領域抽出処理を実行する。具体的には、領域抽出部21は、撮像画像内の特定サイズの画素領域(第1領域の例)内において、赤色検出部201により所定の第1検出態様(第1の検出態様の例)で検出された場合に、当該画素領域を、候補領域として抽出する。
特定サイズの画素領域は、赤灯火の画素領域をカバーできるサイズおよび形状の領域であり、移動体と認識対象の信号機との間の位置関係に応じて可変とされてもよい。ここでは、一例として、特定サイズの画素領域は、矩形(正方形)であるとし、全画素数がN個であるとする。なお、この場合、Nは、一定値であってもよいし、移動体と認識対象の信号機との間の位置関係に応じて可変とされてもよい。可変の場合、機械学習等により学習されてもよい。
所定の第1検出態様は、特定サイズの画素領域のうちの、赤画素の数や、赤画素が占める割合、赤画素の分布の仕方等に関連してよい。本実施例では、一例として、所定の第1検出態様とは、特定サイズの画素領域において赤画素が所定画素数N1以上存在する態様である。すなわち、本実施例では、一例として、領域抽出部21は、特定サイズの画素領域において赤画素が所定画素数N1以上存在する場合に、当該特定サイズの画素領域を候補領域として抽出する。なお、所定画素数N1は、特定サイズの画素領域の全体の画素数N以下の適合値である。ここでは、一例として、所定画素数N1は、N×0.8であるとする。
赤灯火候補検出部203は、領域抽出部21が上述のように赤灯火の候補領域を抽出すると、その後に取得される撮像画像における当該赤灯火の候補領域に対応する領域(以下、「赤判定領域」と称する)(第1領域に対応する領域の例)において、赤色検出部201により所定の第1検出態様と同様の検出態様(第1の検出態様に対応する検出態様の例)で、赤灯火色に対応した赤色が検出されるか否かを判定する。すなわち、赤灯火候補検出部203は、領域抽出部21により抽出された赤灯火の候補領域におけるその後の赤画素の検出状況を監視する。以下、このような赤灯火候補検出部203による処理を、「赤灯火候補検出処理」とも称する。
赤判定領域は、赤灯火の候補領域に対応する領域であり、特定サイズの画素領域と同様のサイズおよび形状を有してよい。この場合、赤判定領域は、移動体と認識対象の信号機との間の位置関係に応じて可変とされてもよい。ここでは、一例として、赤判定領域は、矩形(正方形)であるとし、全画素数がN’個であるとする。この場合、N’は、上述のNと同じ態様で設定されてよい。従って、上述のNと同様に、N’は、一定値であってもよいし、移動体と認識対象の信号機との間の位置関係に応じて可変とされてもよい。可変の場合、機械学習等により学習されてもよい。また、撮像領域における赤判定領域の位置は、移動体と認識対象の信号機との間の位置関係に応じて可変とされてもよい。
所定の第1検出態様と同様の検出態様とは、領域抽出部21により赤灯火の候補領域が抽出される際の、赤灯火色に対応した赤色が検出される検出態様(赤色検出部201による検出される検出態様)に対応する。本実施例では、一例として、所定の第1検出態様と同様の検出態様とは、赤判定領域において赤画素が所定画素数N1’以上存在する態様である。すなわち、本実施例では、一例として、赤灯火候補検出部203は、赤判定領域において赤画素が所定画素数N1’以上存在する場合に、赤灯火候補検出処理の判定結果を「検出」とし、そうでない場合は、赤灯火候補検出処理の判定結果を「非検出」として出力する。この場合、N1/NとN1’/N’とは相関を有してよい。ここでは、一例として、所定画素数N1’は、N’×0.8であるとする。
青灯火候補検出部204は、領域抽出部21が上述のように赤灯火の候補領域を抽出すると、その後に取得される撮像画像における赤判定領域に対して設定される青灯火の候補領域(第2領域の例)において、青色検出部202により所定の第2検出態様(第2の検出態様の例)で、青灯火色に対応した青色が検出されるか否かを判定する。すなわち、青灯火候補検出部204は、領域抽出部21により抽出された赤灯火の候補領域の近傍におけるその後の青画素の検出状況を監視する。以下、このような青灯火候補検出部204による処理を、「青灯火候補検出処理」とも称する。
青灯火の候補領域は、赤灯火の候補領域(およびそれに伴い赤判定領域)に対し特定の位置関係にあり、具体的には、特定の位置関係は、一の信号機における赤灯火と青灯火の位置関係であって、撮像画像上の同位置関係に対応する。特定の位置関係は、位置関係登録部33に登録されている。例えば、横型の信号機の場合、第2の領域は、第1の領域の左側に位置し、縦型の信号機の場合、第2の領域は、第1の領域の下側に位置する。なお、特定の位置関係は、信号機ごとに、又は、信号機の種別ごとに、定義されてもよい。また、特定の位置関係は、認識対象の信号機と移動体との位置関係に応じて定義されてもよい。これは、一の信号機における赤灯火と青灯火の、撮像画像上の位置関係は、認識対象の信号機と移動体(およびそれに伴いカメラ10)との位置関係に応じて変化するためである。
一の撮像画像に対して設定される青灯火の候補領域のサイズは、当該一の撮像画像に対して設定される赤判定領域のサイズと同じであってもよいし、当該一の撮像画像に対して設定される赤判定領域のサイズよりも若干大きくてもよい。本実施例では、一例として、一の撮像画像に対して設定される青灯火の候補領域のサイズは、同一の撮像画像に対して設定される赤判定領域のサイズと同じであるものとする。
所定の第2検出態様は、上述した赤灯火候補検出部203による検出態様(所定の第1検出態様と同様の検出態様)と同様であってもよいし、異なってもよい。ここでは、一例として、所定の第2検出態様は、上述した赤灯火候補検出部203による検出態様と同じであるものとする。従って、青灯火候補検出部204は、青灯火の候補領域において青画素が所定画素数N1’以上存在する場合に、青灯火候補検出処理の判定結果を「検出」とし、そうでない場合は、青灯火候補検出処理の判定結果を「非検出」として出力する。
信号機検出部23は、複数時点で得られる撮像画像に関する赤灯火候補検出部203および青灯火候補検出部204の各判定結果に基づいて、信号機を検出する。
ところで、実際の信号機では、赤灯火と青灯火とは同時に点灯状態とならず、赤灯火の点灯状態と青灯火の点灯状態との間で遷移を繰り返すタイプの信号機が多い。なお、かかるタイプでは、青灯火の点灯状態から赤灯火の点灯状態への遷移の際には、青灯火の点滅状態や、黄灯火の点灯状態を伴う。本実施例では、認識対象の信号機は、特に言及しない限り、一例として、かかるタイプの信号機である。
このような信号機では、赤灯火と青灯火とは一定の位置関係に常に有り、赤灯火の点灯状態と青灯火の点灯状態との間で遷移が実現される。
本実施例では、このような信号機の特性を利用して、信号機検出部23は、第1時点で領域抽出部21により赤灯火の候補領域が抽出され(すなわち、第1時点で取得された撮像画像における特定サイズの画素領域において、所定画素数N1以上で、赤灯火色に対応した赤色が赤色検出部201により検出され)、かつ、第1時点よりも後の第2時点で取得された撮像画像における青灯火の候補領域において青灯火に対応する青色が青色検出部202により所定の第2検出態様で検出された場合に、当該特定サイズの画素領域および当該青灯火の候補領域に対応する位置(空間位置)に、認識対象の信号機があると判断する。すなわち、赤灯火の候補領域および青灯火の候補領域が、それぞれ、赤灯火の領域および青灯火の領域であることが確定し、信号機検出部23は、当該赤灯火の領域および青灯火の領域に対応した位置の信号機を検出(認識)する。
なお、信号機検出部23は、信号機の認識の際に、当該信号機の赤灯火と青灯火の状態を認識できるため、信号機を認識した段階で、当該信号機の赤灯火と青灯火の状態を表す情報を生成(出力)してもよい。本実施例の場合、信号機検出部23は、信号機を認識した際に、当該信号機の灯火の点灯状態として、青灯火の点灯状態を表す情報を生成(出力)してもよい。
出力部24は、信号機検出部23による検出結果を出力する。なお、出力先は、任意であり、出力先は、例えば信号機検出部23による検出結果に応じて、移動体の移動態様を制御する制御部(図1の動作制御部3参照)であってよい。
信号機情報登録部31は、信号機の灯火の大きさに対応する撮像画像内の画素数(ピクセル数)を記憶する。また、信号機情報登録部31は、認識対象の信号機の位置情報を記憶してもよい。この場合、認識対象の信号機の位置情報と、GPS受信機11からの移動体の位置情報とに基づいて、認識対象の信号機と移動体との位置関係を算出できる。この場合、領域抽出部21は、認識対象の信号機と移動体との位置関係に基づいて、移動体が認識対象の信号機に対して所定距離内で位置する場合にのみ、領域抽出処理を実行してもよい。
領域指定部25は、撮像画像のうちから、特定サイズの画素領域(すなわち領域抽出部21による赤灯火の候補領域の抽出対象となる処理領域)を順次指定する。本実施例では、一例として、領域指定部25は、特定サイズのウインドウ(図8Aのウインドウ40a参照)を利用して、撮像画像の全体が走査されるように当該ウインドウを動かしながら、当該ウインドウ内の領域を指定する(図8A参照)。
灯火色登録部32には、上述のように、灯火色情報として、赤灯火および青灯火として抽出すべきそれぞれの色の範囲が記憶される。なお、灯火色情報は、信号機の種類または個体差による色のばらつきや日照条件による色の変化などを考慮し、灯火を確実に検出できるよう定められることが望ましい。例えば、様々な条件において、カメラ10で信号機を撮影し、撮像画像から赤灯火色や青灯火色を抽出し、そのRGB値の分布を調べ、これを包含するように、灯火色登録部32に記憶される各色の範囲を決定してもよい。この場合、各種条件ごとに、灯火色登録部32に記憶される各色の範囲を記憶してもよい。例えば、周囲の明るさごとに、灯火色登録部32に記憶される各色の範囲を記憶してもよい。この場合、稼働時は、カメラ10の撮像画像に基づき判定される周囲の明るさに応じて、使用する灯火色情報(各色の範囲)を変更することで、赤灯火色の候補領域等の検出精度を高めることができる。
位置関係登録部33には、上述のように、カメラ10の撮像画像上における赤灯火と青灯火の特定の位置関係が記憶される(図2参照)。
候補領域登録部34には、領域抽出部21により抽出される赤灯火の候補領域を表す情報が記憶される。赤灯火の候補領域を表す情報は、赤灯火の候補領域ごとに、識別情報や、候補領域の位置(例えば中心位置)を表す情報を含んでよい。本実施例では、候補領域登録部34には、領域抽出部21により抽出された赤灯火の候補領域が、記憶(登録)される。なお、赤灯火の候補領域が同時に複数抽出されている状況下では、赤灯火の候補領域は複数個記憶される。
履歴登録部35には、色検出部20の赤灯火候補検出部203および青灯火候補検出部204のそれぞれの検出結果の履歴であって、赤灯火の候補領域に対する検出結果の履歴(以下、「検出結果履歴」とも称する)が記憶される。本実施例では、上述のように、領域抽出部21により赤灯火の候補領域が抽出されると、その後に順次取得される撮像画像(第3画像の例)における赤判定領域に対する赤灯火候補検出部203の判定結果と、同撮像画像(第3画像の例)における青灯火の候補領域に対する青灯火候補検出部204の判定結果とが、ペアとなって履歴登録部35に順次記憶されていく(図9参照)。なお、履歴登録部35には、現時点から一定時間前までの最新の履歴だけが記憶されてよい。
図2は、信号機認識装置2の信号機情報登録部31および位置関係登録部33に記憶されるデータを示す図である。信号機情報登録部31には、信号機を認識したい位置からカメラ10により撮影される赤灯火41および青灯火42の大きさが、画像内での大きさ、例えば大きさを示す画素数を用いて記憶される。赤灯火41および青灯火42の大きさは、例えば、現地における予備調査に基づいて決めることができる。図2の例では、画素の座標をXY座標で示しており、この座標上において縦辺、横辺にそれぞれ4画素の長さを与えられた矩形の範囲を赤灯火41および青灯火42の大きさとしている。
位置関係登録部33には、上述した特定の位置関係として、信号機を認識したい位置からカメラ10で撮影した状態での赤灯火41に対する青灯火42の画像内での相対位置(dx、dy)が記憶される。図2では、相対位置(dx、dy)=(0、5)の場合が例示されている。すなわち、図2において、青灯火42の基準座標、例えば座標(x、y+5)は赤灯火41の基準座標、例えば座標(x、y)よりも5画素分だけ下方に位置づけられている。この相対位置は例えば、現地における予備調査、あるいは設置された信号機の種類など、認識対象である信号機の形状情報に基づいて決めることができる。
次に、図3から図7のフローチャートと、図8から図10の説明図とを参照しつつ、信号機認識装置2の動作について説明する。
図3は、信号機認識装置2により実行される処理の一例を示す概略フローチャートである。図3に示す処理は、例えば所定周期ごとに繰り返し実行される。なお、所定周期は、カメラ10の撮像画像(フレーム画像)のフレーム周期と一致してもよいし、2以上の所定数のフレーム周期と一致してもよい。所定数のフレーム周期と一致する場合、処理で使用される撮像画像(ステップS400参照)は、所定数のフレーム周期分の特定の一のフレームの画像であってよい。
図3は、信号機認識装置2により実行される処理の一例を示す概略フローチャートである。図3に示す処理は、例えば所定周期ごとに繰り返し実行される。なお、所定周期は、カメラ10の撮像画像(フレーム画像)のフレーム周期と一致してもよいし、2以上の所定数のフレーム周期と一致してもよい。所定数のフレーム周期と一致する場合、処理で使用される撮像画像(ステップS400参照)は、所定数のフレーム周期分の特定の一のフレームの画像であってよい。
ステップS400では、信号機認識装置2は、今回周期の処理対象の撮像画像と、各種の必要な情報を取得する。各種の必要な情報は、例えばGPS受信機11からの位置情報等であってよい。
ステップS402では、信号機認識装置2は、今回周期の処理対象の撮像画像の各画素に対して、赤色検出部201による赤色検出処理を行う。赤色検出部201による赤色検出処理結果は、例えば画素ごとに2値(すなわち、赤画素か否かを表す2値)で生成される。
ステップS404では、信号機認識装置2は、候補領域登録部34に赤灯火の候補領域が登録されているか否かを判断し、この判断が肯定されればステップS408へ進み、否定されればステップS406に進む。
ステップS406では、信号機認識装置2は、ステップS402で得た赤色検出処理結果に基づいて、領域抽出部21による領域抽出処理(以下、区別のため、ステップS406の領域抽出処理を指すときは「第1領域抽出処理」と称する)を行う。第1領域抽出処理は、上述のように、赤灯火の候補領域を抽出する処理であり、候補領域登録部34に赤灯火の候補領域が登録されていない場合に実行される。第1領域抽出処理の具体例は、図4を参照して後述する。
ステップS408では、信号機認識装置2は、今回周期の処理対象の撮像画像の各画素に対して、青色検出部202による青色検出処理を行う。青色検出部202による青色検出処理結果は、例えば画素ごとに2値(すなわち、青画素か否かを表す2値)で生成される。
ステップS410では、信号機認識装置2は、今回周期の処理対象の撮像画像に対して、候補領域登録部34に登録されている赤灯火の候補領域に係る赤判定領域を設定する。赤判定領域は、上述の通り、撮像画像における赤灯火の候補領域に対応する領域であり、赤灯火候補検出処理が実行される領域である。なお、候補領域登録部34に登録されている複数の赤灯火の候補領域がある場合は、赤判定領域は、赤灯火の候補領域ごとに設定される。
ステップS412では、信号機認識装置2は、今回周期の処理対象の撮像画像に対して、赤灯火候補検出部203により赤灯火候補検出処理を実行する。赤灯火候補検出処理は、上述のとおりである。ここでは、赤灯火候補検出部203は、ステップS402で得た赤色検出処理結果と、ステップS410で設定した赤判定領域とに基づいて、赤灯火候補検出処理を実行する。具体的には、赤灯火候補検出部203は、ステップS410で設定した赤判定領域において、赤画素の数が所定画素数N1’以上か否かを判定する。
なお、候補領域登録部34に複数の赤灯火の候補領域が登録されている場合は、赤灯火候補検出処理は、複数の赤灯火の候補領域のそれぞれに係る赤判定領域ごとに、実行される。ステップS412では、信号機認識装置2は、今回周期の赤灯火候補検出処理の結果を、履歴登録部35に追加(登録)する。赤灯火候補検出処理の結果は、判定結果が肯定判定か否定判定かの2値であり、ここでは、判定結果が肯定判定である場合、対応する赤灯火の候補領域に対応付けて、「検出」を表す値が書き込まれ、判定結果が否定判定である場合、対応する赤灯火の候補領域に対応付けて、「非検出」を表す値が書き込まれる。
ステップS414では、信号機認識装置2は、今回周期の処理対象の撮像画像に対して、候補領域登録部34に登録されている赤灯火の候補領域に係る青灯火の候補領域を設定する。青灯火の候補領域は、上述のように青灯火候補検出処理が実行される領域であり、その設定処理は、上述のとおりである。なお、青灯火の候補領域は、上述のように、認識対象の信号機と移動体との位置関係に応じて設定されてもよい。この場合、認識対象の信号機と移動体との位置関係は、ステップS400で得たGPS受信機11からの位置情報に応じて算出されてよい。なお、候補領域登録部34に登録されている複数の赤灯火の候補領域が登録されている場合は、青灯火の候補領域は、赤灯火の候補領域ごとに設定される。
ステップS416では、信号機認識装置2は、今回周期の処理対象の撮像画像に対して、青灯火候補検出部204により青灯火候補検出処理を実行する。青灯火候補検出処理は、上述のとおりである。ここでは、青灯火候補検出部204は、ステップS408で得た青色検出処理結果と、ステップS414で設定した青灯火の候補領域とに基づいて、青灯火候補検出処理を実行する。具体的には、青灯火候補検出部204は、ステップS414で設定した青灯火の候補領域において、青画素の数が所定画素数N1’以上か否かを判定する。
なお、候補領域登録部34に複数の赤灯火の候補領域が登録されている場合は、青灯火候補検出処理は、複数の赤灯火の候補領域のそれぞれに係る青灯火の候補領域ごとに、実行される。ステップS416では、信号機認識装置2は、今回周期の青灯火候補検出処理の結果を、履歴登録部35に追加(登録)する。青灯火候補検出処理の結果は、判定結果が肯定判定か否定判定かの2値であり、ここでは、判定結果が肯定判定である場合、対応する赤灯火の候補領域に対応付けて、「検出」を表す値が書き込まれ、判定結果が否定判定である場合、対応する赤灯火の候補領域に対応付けて、「非検出」を表す値が書き込まれる。
図9は、履歴登録部35に登録される検出結果履歴を例示する図である。図9に示すように、履歴登録部35(図1参照)には、赤灯火の候補領域ごとに検出結果履歴50A、50B、50C・・・が記憶、更新される。図9では、表題“赤灯火”及び“青灯火”は、赤灯火候補検出処理の結果及び青灯火候補検出処理の結果を表し、“検出”は、赤灯火候補検出処理の結果又は青灯火候補検出処理の結果が“検出”であることを意味し、“なし”は、赤灯火候補検出処理の結果又は青灯火候補検出処理の結果が“非検出”であることを意味する。各検出結果履歴50A、50B、50C・・・において、赤灯火候補検出処理の結果及び青灯火候補検出処理の結果のそれぞれの履歴が記憶される。このようにして、一の赤灯火の候補領域が抽出されると、当該一の赤灯火の候補領域に対応付けられた検出結果履歴の記憶領域が生成され、当該記憶領域には、その後の処理周期における赤灯火候補検出処理の結果及び青灯火候補検出処理の結果が、処理周期ごとに蓄積される態様で記憶されていく。
ステップS418では、信号機認識装置2は、ステップS412の赤灯火候補検出処理の結果と、ステップS416の青灯火候補検出処理の結果とに基づいて、信号機検出部23により状態遷移処理を実行する。状態遷移処理は、赤灯火の候補領域に対して、未判定状態、赤信号状態、青信号遷移状態および青信号判定状態のいずれかの状態を割り当てる処理である。状態遷移処理の具体例は、図5Aおよび図5Bを参照して後述する。
ステップS420では、信号機認識装置2は、ステップS418の状態遷移処理の結果に基づいて、信号機検出部23により信号機検出処理を実行する。信号機検出処理の具体例は、図6を参照して後述する。
ステップS422では、信号機認識装置2は、ステップS402で得た赤色検出処理結果に基づいて、領域抽出部21による領域抽出処理(以下、区別のため、ステップS422の領域抽出処理を指すときは「第2領域抽出処理」と称する)を行う。第2領域抽出処理は、上述のように、赤灯火の候補領域を抽出する処理であり、候補領域登録部34に赤灯火の候補領域が登録されている場合に実行される。すなわち、第2領域抽出処理は、候補領域登録部34に赤灯火の候補領域が登録されている場合に係る処理であり、上述した第1領域抽出処理(ステップS406)は、候補領域登録部34に赤灯火の候補領域が登録されていない場合に係る処理である。第2領域抽出処理の具体例は、図7を参照して後述する。
次に、図4から図7を参照して、図3のステップS406の第1領域抽出処理の一例、図3のステップS418の状態遷移処理、図3のステップS420の信号機検出処理、及び図3のステップS422の第2領域抽出処理の一例を、順に説明する。
図4は、領域抽出部21(図1参照)における第1領域抽出処理(図3のステップS406)の一例を示す概略フローチャートである。
まず、ステップS500において、領域抽出部21は、信号機認識装置2の領域指定部25(図1参照)から領域の指定を受け付ける。
図8Aは、領域指定部25の動作を示す図である。領域指定部25は、撮像画像の全体にわたり領域が指定されるよう、領域抽出部21において抽出の対象となる領域の位置を次々と変化(走査)させる。例えば、図8Aに示すように、領域指定部25は、領域抽出部21による抽出範囲としてのウインドウ40aを撮像画像40の左上から右下まで所定の画素数(例えば1画素)ずつ、順次、移動させ、領域抽出部21に与える。すなわち、ステップ500では、領域抽出部21は、領域指定部25から1つのウインドウ40a内の領域(ウインドウ40aに属する画素)の指定を受け付ける。
ステップS502では、領域抽出部21は、ステップS402で得た赤色検出処理結果に基づいて、ウインドウの範囲内(指定された領域内)の赤画素の数をカウントする。
ステップS504では、赤色検出部201は、ステップS502で得たカウント数が所定数N1以上であるか否かを判断し、この判断が肯定されればステップS506へ進む。一方、判断が否定されればステップS508に進む。
ステップS506では、領域抽出部21は、ウインドウの範囲内(指定された領域内)を赤灯火の候補領域として抽出し、候補領域登録部34内に登録する。
ステップS508では、領域抽出部21は、ウインドウにより撮像画像の全体が指定(走査)されたか否かを判断し、判断が肯定されれば、第1領域抽出処理を終了する。一方、判断が否定されれば、ステップS510を経てステップS502へ戻る。
ステップS510では、領域抽出部21は、領域指定部25から次のウインドウの位置で新たな領域の指定を受け付ける。この場合、上記の処理(ステップS502〜ステップS506)が繰り返される。
図8Bは、候補領域登録部34に記憶された赤灯火の候補領域の例を示している。図8Bの例では、候補領域登録部34に、撮像画像40内の複数個所(4箇所)に赤灯火の候補領域41a〜41dが記憶されている。候補領域登録部34には、実際の信号機の赤灯火の領域の他、車両や看板など、実際には信号機の灯火ではないが赤灯火に近い色を有する赤灯火の候補領域が記憶され得る。なお、図8Cは、図8Bの例に示す赤灯火の候補領域41a〜41dのそれぞれに対応して設定される赤判定領域43a〜43dの位置及び青灯火の候補領域42a〜42dの位置を示す図である。図8Cに示すように、青灯火の候補領域42a〜42dは、赤灯火の候補領域41a〜41dのそれぞれに対応して設定される赤判定領域43a〜43dのそれぞれの下方に設定されることになる。なお、青灯火の候補領域に、実際の信号機の青灯火の以外の領域が含まれ得ることは、赤灯火の候補領域の場合(赤判定領域の場合も同様)と同様である。
図8Bは、候補領域登録部34に記憶された赤灯火の候補領域の例を示している。図8Bの例では、候補領域登録部34に、撮像画像40内の複数個所(4箇所)に赤灯火の候補領域41a〜41dが記憶されている。候補領域登録部34には、実際の信号機の赤灯火の領域の他、車両や看板など、実際には信号機の灯火ではないが赤灯火に近い色を有する赤灯火の候補領域が記憶され得る。なお、図8Cは、図8Bの例に示す赤灯火の候補領域41a〜41dのそれぞれに対応して設定される赤判定領域43a〜43dの位置及び青灯火の候補領域42a〜42dの位置を示す図である。図8Cに示すように、青灯火の候補領域42a〜42dは、赤灯火の候補領域41a〜41dのそれぞれに対応して設定される赤判定領域43a〜43dのそれぞれの下方に設定されることになる。なお、青灯火の候補領域に、実際の信号機の青灯火の以外の領域が含まれ得ることは、赤灯火の候補領域の場合(赤判定領域の場合も同様)と同様である。
このようにして、図3および図4に示す処理によれば、複数の赤灯火の候補領域が抽出されると、赤灯火の候補領域のそれぞれに対して、各種の処理が実行される。なお、図8Bおよび図8Cに示す例では、候補領域登録部34に4つの赤灯火の候補領域41a〜41dが記憶されている状態に対応して、4組の赤灯火の候補領域41a〜41dおよび青灯火の候補領域42aのすべてについて、赤灯火候補検出処理および青灯火候補検出処理が実行される。従って、この場合、4組のそれぞれに対して、履歴登録部35に履歴が書き込まれる。
図5Aは、信号機検出部23(図1参照)における状態遷移処理(図3のステップS418)の一例を示す概略フローチャートである。
まず、ステップS602では、信号機検出部23は、候補領域登録部34に赤灯火の候補領域が登録されているか否かを判断し、この判断が肯定されればステップS604へ進み、否定されれば今回周期の処理は終了する。
まず、ステップS602では、信号機検出部23は、候補領域登録部34に赤灯火の候補領域が登録されているか否かを判断し、この判断が肯定されればステップS604へ進み、否定されれば今回周期の処理は終了する。
ステップS604では、信号機検出部23は、候補領域登録部34に登録されている一の赤灯火の候補領域を選択する。
ステップS606では、信号機検出部23は、選択した赤灯火の候補領域に関する検出結果履歴(図9参照)を履歴登録部35から取得する。
ステップS608では、信号機検出部23は、ステップS606で得た検出結果履歴に基づいて、選択した赤灯火の候補領域に関する状態更新処理を実行する。状態更新処理の具体例は、図5Bを参照して後述する。
ステップS610では、信号機検出部23は、候補領域登録部34に登録されているすべての赤灯火の候補領域を選択したか否かを判断する。判断が肯定されれば今回周期の処理は終了し、判断が否定されればステップS612に進む。
ステップS612では、信号機検出部23は、候補領域登録部34に登録されている未選択の赤灯火の候補領域の1つを選択する。ステップS612で新たな1つの赤灯火の候補領域を選択すると、当該選択された赤灯火の候補領域に対して、ステップS606およびステップS608の処理が繰り返される。
図5Bは、状態遷移処理における状態更新処理(図5AのステップS608)の一例を示す概略フローチャートである。ここでは、図10を適宜参照しながら、図5Bを説明する。図10は、各赤灯火の候補領域の状態遷移を示す状態遷移図である。図10に示すように、各赤灯火の候補領域は、未判定状態、赤信号状態、青信号遷移状態および青信号判定状態のいずれかの遷移状態にある。また、赤灯火の候補領域に割り当てられる遷移状態の初期値は、抽出直後状態(図示せず)である。抽出直後状態は、直ぐに未判定状態に遷移される(図5BのステップS732)。なお、図10において、初期状態とは、候補領域登録部34に赤灯火の候補領域が登録されていない状態に対応する。
ステップS704では、信号機検出部23は、選択した赤灯火の候補領域に対応付けられる遷移状態が「未判定状態」か否かを判断する。判断が肯定されればステップS706へ進み、判断が否定されればステップS714へ進む。
ステップS706では、信号機検出部23は、ステップS606で得た検出結果履歴に基づいて、選択した赤灯火の候補領域に対して所定回(第1所定回数の例)以上、赤灯火候補検出処理の結果が「非検出」である状態が連続しているか否かを判断する。判断が肯定されればステップS708へ進み、否定されればステップS710へ進む。
ステップS708では、信号機検出部23は、選択した赤灯火の候補領域を候補領域登録部34から削除するとともに、その赤灯火の候補領域の検出結果履歴を履歴登録部35から削除し、今回周期の処理を終了する。
このようにして図5Bに示す処理では、所定回以上、赤灯火候補検出処理の結果が「非検出」である状態が連続している場合に、選択した赤灯火の候補領域が候補領域登録部34から削除される。これは、選択した赤灯火の候補領域が、実際の赤灯火の領域である場合は、赤灯火候補検出処理の結果が「非検出」である状態が連続する可能性は、低いためである。なお、ステップS708での所定回は、2以上であるが、変形例では、ステップS708での所定回は、1であってよい。
ステップS710では、信号機検出部23は、ステップS606で得た検出結果履歴に基づいて、選択した赤灯火の候補領域に対して所定回Th1(第1所定数の例)以上、赤灯火候補検出処理の結果が「検出」であるか否かを判断し、判断が肯定されればステップS712へ進み、判断が否定されれば今回周期の処理を終了する。
ステップS712では、信号機検出部23は、選択した赤灯火の候補領域に対応付けられる遷移状態を「赤信号状態」に遷移させて(図10)、今回周期の処理を終了する。
なお、図5Bに示す処理では、ステップS710を設けることで、選択した赤灯火の候補領域に対して所定回Th1以上、赤灯火候補検出処理の結果が「検出」とならない限り、選択した赤灯火の候補領域に対応付けられる遷移状態を「赤信号状態」に遷移されることはない。これにより、ノイズ等に起因して、実際の信号機の赤灯火とは無関係に赤灯火の候補領域が抽出された場合でも、かかる赤灯火の候補領域に対応付けられる遷移状態が、「赤信号状態」に遷移されることを防止できる。この結果、信号機の認識精度を高めることができる。ただし、変形例では、ステップS710は省略されてもよい。また、他の変形例では、赤灯火候補検出処理の結果が「検出」である回数に代えて、赤灯火候補検出処理の結果が「検出」である頻度や時間的な連続性が評価されてもよい。例えば、ステップS710では、信号機検出部23は、選択した赤灯火の候補領域に対して、実行した赤灯火候補検出処理の回数をαとし、そのうちの赤灯火候補検出処理の結果が「検出」である回数をα1としたとき、αが所定値以上でありかつα1/αが所定閾値以上であるか否かを判断してもよい。
ステップS714では、信号機検出部23は、選択した赤灯火の候補領域に対応付けられている遷移状態が「赤信号状態」か否かを判断する。判断が肯定されればステップS716へ進み、判断が否定されればステップS723へ進む。
ステップS716では、信号機検出部23は、ステップS606で得た検出結果履歴に基づいて、赤信号状態への遷移後に、選択した赤灯火の候補領域に対して所定回Th3以上、赤灯火候補検出処理の結果が「非検出」である状態が連続しているか否かを判断する。所定回Th3は、典型的には、2以上であるが、1であってもよい。所定回Th3=1の場合、信号機検出部23は、ステップS606で得た検出結果履歴に基づいて、選択した赤灯火の候補領域に対する、今回周期の赤灯火候補検出処理の結果が「検出」であるか否かを判断する。いずれの場合も、判断が肯定されればステップS718へ進み、否定されればステップS720へ進む。
ステップS718では、信号機検出部23は、選択した赤灯火の候補領域を候補領域登録部34から削除するとともに、その赤灯火の候補領域の検出結果履歴を履歴登録部35から削除し、今回周期の処理を終了する。
ステップS720では、信号機検出部23は、ステップS606で得た検出結果履歴に基づいて、選択した赤灯火の候補領域に対する、今回周期の赤灯火候補検出処理の結果が「非検出」であり、かつ、選択した赤灯火の候補領域に係る青灯火の候補領域に対する、今回周期の青灯火候補検出処理の結果が「検出」であるか否かを判断し、判断が肯定されればステップS722へ進み、判断が否定されれば今回周期の処理を終了する。
ステップS722では、信号機検出部23は、選択した赤灯火の候補領域に対応付けられる遷移状態を「青信号遷移状態」に遷移させて(図10)、今回周期の処理を終了する。
ステップS723では、信号機検出部23は、選択した赤灯火の候補領域に対応付けられている遷移状態が「青信号遷移状態」か否かを判断する。判断が肯定されればステップS724へ進み、判断が否定されれば(すなわち選択した赤灯火の候補領域に対応付けられている遷移状態が「抽出直後状態」である場合)ステップS732へ進む。
ステップS724では、信号機検出部23は、ステップS606で得た検出結果履歴に基づいて、選択した赤灯火の候補領域に対する、今回周期の赤灯火候補検出処理の結果が「検出」であるか否かを判断する。なお、変形例では、ステップS724では、青信号遷移状態への遷移後に、所定回以上、赤灯火候補検出処理の結果が「検出」である状態が連続しているか否かを判断してもよい。いずれの場合も、判断が肯定されればステップS726に進み、判断が否定されればステップS728へ進む。
また、ステップS724に代えてまたは追加して、信号機検出部23は、ステップS606で得た検出結果履歴に基づいて、青信号遷移状態への遷移後に、所定回以上(または所定回以上連続して)、選択した赤灯火の候補領域に対する赤灯火候補検出処理の結果が「非検出」であり、かつ、選択した赤灯火の候補領域に係る青灯火の候補領域に対する青灯火候補検出処理の結果が「非検出」であるか判断してもよい。この場合も、判断が肯定されればステップS726に進み、判断が否定されればステップS728へ進む。
ステップS726では、信号機検出部23は、選択した赤灯火の候補領域を候補領域登録部34から削除するとともに、その赤灯火の候補領域の検出結果履歴を履歴登録部35から削除し、今回周期の処理を終了する。
ステップS728では、信号機検出部23は、選択した赤灯火の候補領域に係る青灯火の候補領域に対して、所定回Th2以上、青灯火候補検出処理の結果が「検出」であるか否かを判断し、判断が肯定されればステップS730へ進み、判断が否定されれば今回周期の処理を終了する。
ここで、ステップS728での所定回Th2は、2以上であれば任意である。所定回Th2が多いほど、信号機の認識精度が向上するが、信号機の認識タイミングが遅くなるので、所定回Th2は、かかる背反を考慮して適合されてよい。ただし、変形例では、ステップS728は省略されてもよい(すなわち所定回Th2=0であってもよい)。この場合、「青信号遷移状態」が「青信号判定状態」と同じ扱いとなる。また、この場合、ステップS724、ステップS726も省略されてよい。また、他の変形例では、ステップS728では、信号機検出部23は、選択した赤灯火の候補領域に係る青灯火の候補領域に対して所定回Th2以上、青灯火候補検出処理の結果が「検出」である状態が連続しているか否かを判断してもよい。
また、更なる他の変形例では、ステップS728では、信号機検出部23は、選択した赤灯火の候補領域に対する、今回周期の赤灯火候補検出処理の結果が「非検出」であり、かつ、選択した赤灯火の候補領域に係る青灯火の候補領域に対する、今回周期の青灯火候補検出処理の結果が「検出」であるか判断してもよい。この場合、判断が肯定されればステップS730へ進み、判断が否定されれば今回周期の処理を終了する。
また、更なる他の変形例では、ステップS728では、信号機検出部23は、青信号遷移状態への遷移後に、所定回以上(または所定回以上連続して)、選択した赤灯火の候補領域に対する赤灯火候補検出処理の結果が「非検出」であり、かつ、選択した赤灯火の候補領域に係る青灯火の候補領域に対する青灯火候補検出処理の結果が「検出」であるか判断してもよい。この場合も、判断が肯定されればステップS730へ進み、判断が否定されれば今回周期の処理を終了する。
ステップS730では、信号機検出部23は、選択した赤灯火の候補領域に対応付けられる遷移状態を「青信号判定状態」に遷移させ(図10)、今回周期の処理を終了する。
ステップS732では、信号機検出部23は、選択した赤灯火の候補領域に、遷移状態として「未判定状態」を対応付ける。ステップS732が終了すると、ステップS710に進む。なお、ステップS710の所定数N1が2以上の場合は、ステップS712が終了すると、今回周期の処理は終了してもよい。
図6は、信号機検出部23(図1参照)における信号機検出処理(図3のステップS420)の一例を示すフローチャートである。
まず、ステップS800では、信号機検出部23は、対応付けられる遷移状態が「青信号判定状態」に遷移した赤灯火の候補領域が存在するか判断する。判断が肯定されればステップS802へ進み、判断が否定されれば今回周期の処理を終了する。
ステップS802では、信号機検出部23は、対応付けられる遷移状態が「青信号判定状態」に遷移した赤灯火の候補領域に基づいて、信号機を認識(検出)するとともに、この信号機が赤信号から青信号に切り替わったことを認識(検出)する。また、このとき、例えば、信号の切り替わりの認識は、認識結果として出力部24を介して移動体の動作制御部3に向けて出力することもできる(図1参照)。
ステップS804では、信号機検出部23は、候補領域登録部34および履歴登録部35からすべての赤灯火の候補領域および検出結果履歴を削除し、今回周期の処理を終了する。これにより、信号機が認識されると、すべてがリセットされた状態へと遷移する。
図7は、領域抽出部21(図1参照)における第2領域抽出処理(図3のステップS422)の一例を示す概略フローチャートである。図7に示す第2領域抽出処理は、図4に示した第1領域抽出処理に対して、ステップS504とステップS506の間に、ステップS505が追加された点が異なる。
ステップS505は、ステップS504で判断が肯定されると実行される。ステップS505では、領域抽出部21は、ウインドウの範囲(指定された領域)が、ステップS410で設定される赤判定領域を含むか否かを判断し、判断が肯定されればステップS506をスキップしてステップS508へ進み、判断が否定されればステップS506に進む。
図7に示す処理によれば、候補領域登録部34内に赤灯火の候補領域が登録されている場合でも、新たな赤灯火の候補領域を抽出して、候補領域登録部34に登録できる。なお、図7では、ステップS505を備えることで、すでに抽出された赤灯火の候補領域と同じ赤灯火の候補領域を抽出しないようにしている。しかしながら、ステップS505に代えて、ステップS500において、ウインドウが、ステップS410で設定される赤判定領域を回避する態様で走査されてもよい。
このようにして、図3から図7のフローチャートに示す処理によれば、ある処理周期(第1時点の例)で得た撮像画像(第1画像の例)に基づいてステップS406又はステップS422で赤灯火の候補領域が抽出され、かつ、その後の処理周期(第2時点)で得た撮像画像(第2画像の例)に基づいて当該赤灯火の候補領域に係る青灯火の候補領域に対して青灯火候補検出処理の結果が「検出」となると(ステップS728参照)、当該赤灯火の候補領域に基づいて信号機が認識される。これにより、上述のように、煩雑な処理を要することなく、精度良く信号機を認識することができる
また、図3から図7のフローチャートに示す処理によれば、ある処理周期(第1時点の例)で得た撮像画像(第1画像の例)に基づいてステップS406で赤灯火の候補領域が抽出されると、その後の各処理周期で得た撮像画像に対して赤灯火候補検出処理及び青灯火候補検出処理が継続される。そして、かかる赤灯火候補検出処理及び青灯火候補検出処理の各結果の履歴が、信号機を認識するための条件に利用されるので、信号機の認識精度を高めることができる。
また、図3から図7のフローチャートに示す処理によれば、ある処理周期(第1時点の例)で得た撮像画像(第1画像の例)に基づいてステップS406で赤灯火の候補領域が抽出されると、その後の各処理周期で得た撮像画像に対して赤灯火候補検出処理及び青灯火候補検出処理が継続される。そして、かかる赤灯火候補検出処理及び青灯火候補検出処理の各結果の履歴が、信号機を認識するための条件に利用されるので、信号機の認識精度を高めることができる。
具体的には、図3から図7のフローチャートに示す処理によれば、信号機を認識するための条件の各条件要素のいくつかは、例えば以下のとおりである。
・条件要素E1(第3条件の例) 一の赤灯火の候補領域に対応付けられている遷移状態が「未判定状態」であるときに得られる撮像画像(第3画像の例)において、当該一の赤灯火の候補領域に係る赤判定領域に関して、所定回以上、赤灯火候補検出処理の結果が「非検出」である状態が連続していないこと(図5BのステップS706参照)。
・条件要素E2(第3条件の例) 一の赤灯火の候補領域に対応付けられている遷移状態が「未判定状態」であるときに得られる撮像画像(第3画像の例)において、当該一の赤灯火の候補領域に係る赤判定領域に関して、所定回以上、赤灯火候補検出処理の結果が「検出」であること(図5BのステップS710参照)。
・条件要素E3 一の赤灯火の候補領域に対応付けられている遷移状態が「赤信号状態」であるとき、当該一の赤灯火の候補領域に係る赤判定領域に関して、所定回以上、赤灯火候補検出処理の結果が「非検出」である状態が連続していないこと(図5BのステップS716参照)。
・条件要素E4 一の赤灯火の候補領域に対応付けられている遷移状態が「青信号遷移状態」であるときに得られる撮像画像において、当該一の赤灯火の候補領域に係る赤判定領域に関して、赤灯火候補検出処理の結果が「非検出」であること(図5BのステップS724参照)。
・条件要素E5(第4条件の例) 一の赤灯火の候補領域に対応付けられている遷移状態が「赤信号状態」であるときに得られる撮像画像(第4画像の例)において、当該一の赤灯火の候補領域に係る青灯火の候補領域に関して、青灯火候補検出処理の結果が「検出」であり、かつ、当該一の赤灯火の候補領域に係る赤判定領域に関して、赤灯火候補検出処理の結果が「非検出」であること(図5BのステップS720参照)。
・条件要素E6(第2条件の例) 一の赤灯火の候補領域に対応付けられている遷移状態が「青信号遷移状態」から「青信号判定状態」に遷移するときに得られる撮像画像(第2画像の例)において、当該一の赤灯火の候補領域に係る赤判定領域に関して、赤灯火候補検出処理の結果が「非検出」であること(図5BのステップS728の変形例参照)。
・条件要素E1(第3条件の例) 一の赤灯火の候補領域に対応付けられている遷移状態が「未判定状態」であるときに得られる撮像画像(第3画像の例)において、当該一の赤灯火の候補領域に係る赤判定領域に関して、所定回以上、赤灯火候補検出処理の結果が「非検出」である状態が連続していないこと(図5BのステップS706参照)。
・条件要素E2(第3条件の例) 一の赤灯火の候補領域に対応付けられている遷移状態が「未判定状態」であるときに得られる撮像画像(第3画像の例)において、当該一の赤灯火の候補領域に係る赤判定領域に関して、所定回以上、赤灯火候補検出処理の結果が「検出」であること(図5BのステップS710参照)。
・条件要素E3 一の赤灯火の候補領域に対応付けられている遷移状態が「赤信号状態」であるとき、当該一の赤灯火の候補領域に係る赤判定領域に関して、所定回以上、赤灯火候補検出処理の結果が「非検出」である状態が連続していないこと(図5BのステップS716参照)。
・条件要素E4 一の赤灯火の候補領域に対応付けられている遷移状態が「青信号遷移状態」であるときに得られる撮像画像において、当該一の赤灯火の候補領域に係る赤判定領域に関して、赤灯火候補検出処理の結果が「非検出」であること(図5BのステップS724参照)。
・条件要素E5(第4条件の例) 一の赤灯火の候補領域に対応付けられている遷移状態が「赤信号状態」であるときに得られる撮像画像(第4画像の例)において、当該一の赤灯火の候補領域に係る青灯火の候補領域に関して、青灯火候補検出処理の結果が「検出」であり、かつ、当該一の赤灯火の候補領域に係る赤判定領域に関して、赤灯火候補検出処理の結果が「非検出」であること(図5BのステップS720参照)。
・条件要素E6(第2条件の例) 一の赤灯火の候補領域に対応付けられている遷移状態が「青信号遷移状態」から「青信号判定状態」に遷移するときに得られる撮像画像(第2画像の例)において、当該一の赤灯火の候補領域に係る赤判定領域に関して、赤灯火候補検出処理の結果が「非検出」であること(図5BのステップS728の変形例参照)。
特に、一の赤灯火の候補領域に対応付けられている遷移状態が「未判定状態」であるときは、当該赤灯火の候補領域は、ノイズや他の赤色の物体等に起因して実際の信号機の赤灯火とは無関係に抽出された赤灯火の候補領域である可能性が依然として高い。
この点、図3から図7のフローチャートに示す処理によれば、「未判定状態」から「青信号遷移状態」への直接的な遷移は発生せず、「未判定状態」から「青信号遷移状態」への遷移は、常に「赤信号状態」を経由する。これにより、「未判定状態」から「青信号遷移状態」への直接的な遷移を可能とする構成に比べて、信号機の認識精度を高めることができる。ただし、変形例では、「未判定状態」から「青信号遷移状態」への直接的な遷移が可能とされてもよい。
また、図3から図7のフローチャートに示す処理によれば、「未判定状態」から「赤信号状態」への遷移条件として、条件要素E1および条件要素E2のような、赤灯火候補検出処理の結果に関連する条件要素が設定される。このようにして「赤信号状態」への遷移条件を適切に設定することで、ノイズや他の赤色の物体等に起因して実際の信号機の赤灯火とは無関係に抽出された赤灯火の候補領域に対して、遷移状態が「赤信号状態」に遷移しないようにすることが可能となる。なお、「未判定状態」から「赤信号状態」への遷移条件は、赤灯火候補検出処理の結果の回数や頻度、出現の時間的な連続性等に関連した任意の条件要素(第3条件の例)が設定されてもよい。
例えば、赤灯火候補検出処理の結果が「検出」である処理周期が所定回連続すること、赤灯火候補検出処理の結果が「検出」である処理周期数が、未判定状態での全処理周期数に対して一定の割合以上であること等が、「未判定状態」から「赤信号状態」への遷移条件の条件要素として利用されてもよい。
なお、信号機の灯火がLEDを用いて構成されている場合、目視では灯火が点灯していても、実際にはLEDは商用電源の電圧周期に同期して点滅を繰り返している。このため、実際には信号機は赤灯火の点灯状態(青灯火の場合も同様)であっても、その際に得られる撮像画像においては、赤灯火候補検出処理の結果が「非検出」となる場合もありうる。この点、上述のように、赤灯火候補検出処理の結果が「検出」となるべき処理周期に、赤灯火候補検出処理の結果が「非検出」となる処理周期の存在を、ある程度許容することで、実際の環境に即したロジックを実現できる。
なお、信号機の灯火がLEDを用いて構成されている場合、目視では灯火が点灯していても、実際にはLEDは商用電源の電圧周期に同期して点滅を繰り返している。このため、実際には信号機は赤灯火の点灯状態(青灯火の場合も同様)であっても、その際に得られる撮像画像においては、赤灯火候補検出処理の結果が「非検出」となる場合もありうる。この点、上述のように、赤灯火候補検出処理の結果が「検出」となるべき処理周期に、赤灯火候補検出処理の結果が「非検出」となる処理周期の存在を、ある程度許容することで、実際の環境に即したロジックを実現できる。
また、「未判定状態」から「赤信号状態」への遷移条件として、青灯火候補検出処理の結果の回数や頻度、出現の時間的な連続性等に関連した任意の条件要素(第5条件の例)が設定されてもよい。例えば、以下のような条件要素E7〜E8が利用されてもよい。
・条件要素E7(第5条件の例) 一の赤灯火の候補領域に対応付けられている遷移状態が「未判定状態」であるときに得られる撮像画像(第3画像の例)において、当該一の赤灯火の候補領域に係る青灯火の候補領域に関して、青灯火候補検出処理の結果が「非検出」であること。
・条件要素E8(第5条件の例) 一の赤灯火の候補領域に対応付けられている遷移状態が「未判定状態」であるときに得られる撮像画像(第3画像の例)において、当該一の赤灯火の候補領域に係る青灯火の候補領域に関して、青灯火候補検出処理の結果が「非検出」である状態が連続すること。
・条件要素E7(第5条件の例) 一の赤灯火の候補領域に対応付けられている遷移状態が「未判定状態」であるときに得られる撮像画像(第3画像の例)において、当該一の赤灯火の候補領域に係る青灯火の候補領域に関して、青灯火候補検出処理の結果が「非検出」であること。
・条件要素E8(第5条件の例) 一の赤灯火の候補領域に対応付けられている遷移状態が「未判定状態」であるときに得られる撮像画像(第3画像の例)において、当該一の赤灯火の候補領域に係る青灯火の候補領域に関して、青灯火候補検出処理の結果が「非検出」である状態が連続すること。
例えば、青灯火候補検出処理の結果が「非検出」である処理周期が所定回連続すること、青灯火候補検出処理の結果が「非検出」である処理周期数が、未判定状態での全処理周期数に対して一定の割合以上であること等が、「未判定状態」から「赤信号状態」への遷移条件の条件要素として利用されてもよい。
これは、実際の信号機においては、赤灯火の点灯状態において青灯火が点灯することがないためである。このような条件要素を追加することで、信号機の認識精度を高めることができる。
また、他の変形例では、上記のような各条件要素の一部を省略してもよいし、他の条件要素を追加してもよい。例えば、以下のような条件要素は、信号機の認識精度を高める上で有効である。
・条件要素E10 一の赤灯火の候補領域に対応付けられている遷移状態が「未判定状態」、「赤信号状態」、および「青信号遷移状態」のいずれかであるとき、同時点灯状態(すなわち当該一の赤灯火の候補領域に係る青灯火の候補領域に関して、青灯火候補検出処理の結果が「検出」であり、かつ、当該一の赤灯火の候補領域に係る赤判定領域に関して、赤灯火候補検出処理の結果が「検出」である状態)が、発生しないこと。
・条件要素E10 一の赤灯火の候補領域に対応付けられている遷移状態が「未判定状態」、「赤信号状態」、および「青信号遷移状態」のいずれかであるとき、同時点灯状態(すなわち当該一の赤灯火の候補領域に係る青灯火の候補領域に関して、青灯火候補検出処理の結果が「検出」であり、かつ、当該一の赤灯火の候補領域に係る赤判定領域に関して、赤灯火候補検出処理の結果が「検出」である状態)が、発生しないこと。
これは、実際の信号機においては、赤灯火と青灯火とが同時に点灯状態になることがないためである。このような条件要素E10を追加することで、信号機の認識精度を高めることができる。なお、図5Bに示す例では、ステップS724とステップS728により、「青信号遷移状態」に係る条件要素E10が実質的に実現されている。
また、条件要素E10に代えてまたは加えて、以下の条件要素E10Aが利用されてもよい。
・条件要素E10A(第1条件の例) 赤灯火の候補領域が抽出された時点(第1時点)の撮像画像において、当該赤灯火の候補領域の近傍領域(例えば青灯火の候補領域)(第1画像における第2の領域に対応する領域の例)に対して、青灯火候補検出処理を行った場合に、当該青灯火候補検出処理の結果が「非検出」であること。この場合、当該近傍領域において青色検出部202により青灯火に対応する青色が所定の第2検出態様と同様の検出態様(第2の検出態様に対応する検出態様の例)で検出されないことになる。なお、所定の第2検出態様と同様の検出態様とは、上述した所定の第2検出態様と実質的に同一であってよい。
・条件要素E10A(第1条件の例) 赤灯火の候補領域が抽出された時点(第1時点)の撮像画像において、当該赤灯火の候補領域の近傍領域(例えば青灯火の候補領域)(第1画像における第2の領域に対応する領域の例)に対して、青灯火候補検出処理を行った場合に、当該青灯火候補検出処理の結果が「非検出」であること。この場合、当該近傍領域において青色検出部202により青灯火に対応する青色が所定の第2検出態様と同様の検出態様(第2の検出態様に対応する検出態様の例)で検出されないことになる。なお、所定の第2検出態様と同様の検出態様とは、上述した所定の第2検出態様と実質的に同一であってよい。
本実施例の信号機認識装置の効果ないし利点として以下の点が挙げられる。
本実施例では、信号機の灯火の位置関係に対応する2つの領域で赤灯火に対応する色および青灯火に対応する色を検出し、信号機を認識している。このため、例えば、灯火の輪郭など、信号機の画像内の形状に基づく判定を必要としない。このため、様々な信号機の形状や、見え方のばらつきに左右されることなく信号機を認識でき、ロバスト性に優れた信号機認識装置を得ることができる。また、信号機の形状を学習するプロセス、および学習で得た形状と撮影された画像との比較に基づき信号機の有無を判定するプロセスが不要となる。このため、煩雑な処理を必要とせず、確実に信号機およびその切り替わりを認識できる。
また、本実施例では、赤灯火の候補領域が抽出されると、その後、当該赤灯火の候補領域に対して設定される赤判定領域と青灯火の候補領域のそれぞれに対して、赤灯火候補検出処理および青灯火候補検出処理が実行される。そして、赤灯火候補検出処理および青灯火候補検出処理の結果、赤灯火候補検出処理の結果が「非検出」であり、かつ、青灯火候補検出処理の結果が「検出」である場合に、抽出された赤灯火の候補領域に基づいて信号機が認識される。一般的な環境において、信号機以外の領域において、互いの位置関係が定められた2つの領域の色が同時に変化する確率は非常に低い。このため、灯火色情報としての、赤灯火色および青灯火色に対応する各色の範囲を、比較的広めに設定することも可能であり、この場合、実際の各灯火の色のばらつきや環境の相違に対するロバスト性に優れた信号機認識装置を得ることができる。
さらに、一般的に、信号機の形状を認識するためには、ある程度高い解像度のイメージセンサ(カメラ10)が求められる。一方、本実施例では2つの領域における色を信号機の認識のために用いることで、より低い解像度のイメージセンサを使用できる。とくに、2つの領域における色の遷移を併用することにより、イメージセンサの解像度が低い場合でも高い信頼性が得られる。また、高い解像度が必要でないため、認識に要する処理時間の短縮が図られ、レスポンスがよく、安価な装置を得ることができる。
さらにまた、本実施例では、赤灯火の候補領域が抽出されると、その後、当該赤灯火の候補領域に対して設定される赤判定領域と青灯火の候補領域のそれぞれに対して、赤灯火候補検出処理および青灯火候補検出処理が実行される。このため信号機の切り替えを迅速に認識できるとともに、信号機の状態を正確に判定できる。また、赤灯火候補検出処理および青灯火候補検出処理は、撮像画像の全体ではなく、撮像画像の一部(赤判定領域および青灯火の候補領域)に対して実行される。このため、赤灯火候補検出処理および青灯火候補検出処理に係る負担を軽減できる。
次に、信号機認識装置2のハードウェア構成の一例を説明する。図11は、信号機認識装置2のハードウェア構成の一例を示す図である。
図11に示す例では、信号機認識装置2は、制御部101、主記憶部102、補助記憶部103、ドライブ装置104、ネットワークI/F部106、および入力部107を含む。
制御部101は、主記憶部102や補助記憶部103に記憶されたプログラムを実行する演算装置であり、入力部107や記憶装置からデータを受け取り、演算、加工した上で、記憶装置などに出力する。
主記憶部102は、ROM(Read Only Memory)やRAM(Random Access Memory)などである。主記憶部102は、制御部101が実行する基本ソフトウェアであるOS(Operating System)やアプリケーションソフトウェアなどのプログラムやデータを記憶又は一時保存する記憶装置である。
補助記憶部103は、HDD(Hard Disk Drive)やSSD(Solid State Drive)などであり、アプリケーションソフトウェアなどに関連するデータを記憶する記憶装置である。
ドライブ装置104は、記録媒体105、例えばフレキシブルディスクからプログラムを読み出し、記憶装置にインストールする。
記録媒体105は、所定のプログラムを格納する。この記録媒体105に格納されたプログラムは、ドライブ装置104を介して信号機認識装置2にインストールされる。インストールされた所定のプログラムは、信号機認識装置2により実行可能となる。
ネットワークI/F部106は、有線および/又は無線回線などのデータ伝送路により構築されたネットワークを介して接続された通信機能を有する周辺機器と信号機認識装置2とのインターフェースである。
入力部107は、カーソルキー、数字入力および各種機能キー等を備えたキーボード、マウスやタッチパッド等を有する。
なお、図11に示す例において、図4〜図7のフローチャートに示した各種処理等は、プログラムを信号機認識装置2に実行させることで実現することができる。また、プログラムを記録媒体105に記録し、このプログラムが記録された記録媒体105を信号機認識装置2に読み取らせて、上記の各種処理等を実現させることも可能である。なお、記録媒体105は、様々なタイプの記録媒体を用いることができる。例えば、記録媒体105は、CD(Compact Disc)−ROM、フレキシブルディスク、光磁気ディスク等のように情報を光学的、電気的あるいは磁気的に記録する記録媒体、ROM、フラッシュメモリ等のように情報を電気的に記録する半導体メモリ等であってよい。
次に、図12を参照して、信号機認識装置の、車両への適用例について説明する。
上記実施例(図1〜図10)では、カメラ10が所定の位置に保持された状態で信号機を認識する場合を示しているが、カメラ10が移動している状態、例えば走行中の車両にカメラ10が取り付けられた状態で、信号機認識装置を作動させることもできる。
図12は、移動中のカメラで撮影される信号機の灯火の位置を示す図であり、図12Aは信号機の灯火の位置関係を示す図、図12Bは撮像画像内における灯火を示す図である。
図12Aに示す例では、信号機の赤灯火51および青灯火52が横並びに配置されている。車両の前方をカメラ10で撮影する場合、例えば図12Bに示すように、車両の進行に伴ってカメラ10が信号機に近づくにつれ、赤灯火51および青灯火52は撮像画像40の中央寄りから左上の移動方向に連続的に移動する。また、赤灯火51および青灯火52のサイズは徐々に大きくなるとともに、灯火間の間隔も徐々に拡大する。
このように、赤灯火51および青灯火52は撮像画像40内で連続的に移動するため、画像処理により撮像画像40内の赤灯火51または青灯火52をトラッキングすることが可能である。このため赤灯火51または青灯火52が抽出される撮像画像上の領域の位置および大きさが変化しても、その領域を、以前の撮像画像(フレーム画像)において確定された赤灯火51および青灯火52の候補領域に対応する領域として認識し続けることができる。
この場合、例えば、灯火の大きさおよび灯火の位置関係を示すデータを、車両(カメラ10)の位置情報に基づいてリアルタイムに算出し、算出されたデータを用いて領域抽出部21における領域抽出処理、および信号機検出部23における各種処理を行なうことができる。この場合、車両の位置が信号機の設置位置に接近するにつれ、灯火のサイズの算出値が大きくなり、同時に灯火の相対位置(位置の差分)の算出値も大きくなる。車両の位置情報はGPS受信機(図1のGPS受信機11参照)や車両の走行データ(例えば、車速)等に基づいて得ることができる。走行データ等は、例えば車両のECU(Electronic Control Unit)から取得できる。信号機の位置は予備調査などで得ることができる。
また、抽出された赤灯火51の領域の大きさおよび位置に応じて、青灯火52の候補領域を設定してもよい。すなわち、赤灯火51の領域が大きくなれば、青灯火52の領域も大きくなり、相対位置(位置の差分)も拡大するはずである。したがって、抽出された赤灯火51の領域の大きさおよび位置に応じて、リアルタイムに青灯火52の候補領域を変更することにより、高い確度で青灯火52の有無を検出できる。この場合には、車両の位置情報をリアルタイムに取得して演算する処理が必須でなくなるという利点がある。
走行中の車両にカメラ10が取り付けられた状態で、信号機認識装置2を作動させる場合、信号機が赤から青へ切り替わる場合に限られず、信号機の遷移を広く認識することができる。例えば、信号機が赤→青→黄→赤→・・・と切り替わる場合に、青から黄への遷移あるいは黄から赤への遷移を認識することもできる。
なお、カメラ10が移動せず静止しているが既定の位置にない状態で信号機を認識したい場合も、車両の位置情報に基づくデータの算出や、抽出された赤灯火51の領域に応じた青灯火52の候補領域の設定など、同様の手法を採用できる。
以上、各実施例について詳述したが、特定の実施例に限定されるものではなく、特許請求の範囲に記載された範囲内において、種々の変形および変更が可能である。また、前述した実施例の構成要素を全部又は複数を組み合わせることも可能である。
例えば、上述した図3から図7のフローチャートに示す処理では、ステップS402の赤色検出部201による赤色検出処理、および、ステップS408の青色検出部202による青色検出処理は、撮像画像の全体に対して常に実行されるが、これに限られない。ステップS402の赤色検出部201による赤色検出処理、および、ステップS408の青色検出部202による青色検出処理は、撮像画像の全体ではなく、撮像画像の一部(赤判定領域および青灯火の候補領域)に対してのみ実行されてもよい。
また、上述した図3から図7のフローチャートに示す処理では、赤灯火候補検出部203による赤灯火候補検出処理(ステップS412)は、ステップS410で設定した赤判定領域に基づいて実行されるが、これに限られない。赤灯火候補検出部203による赤灯火候補検出処理は、領域抽出部21で用いるようなウインドウ40a(図8参照)を用いて実現されてもよい。例えば、赤判定領域のサイズに対応したウインドウを用いてステップS406の第1領域抽出処理(図4)と同様の処理を実行することで、領域抽出部21で抽出された赤灯火の候補領域に対応する赤灯火の候補領域(例えば、赤画素が所定画素数N1’以上存在する候補領域)を探索してもよい。この場合、移動体と認識対象の信号機との間の位置関係に応じて、探索範囲(ウインドウの走査範囲)を設定してもよい。そして、この場合、赤灯火候補検出部203は、領域抽出部21で抽出された赤灯火の候補領域に対応する赤灯火の候補領域を検出した場合は、赤灯火候補検出処理の判定結果を「検出」とし、そうでない場合は、赤灯火候補検出処理の判定結果を「非検出」として出力する。これは、青灯火候補検出部204による青灯火候補検出処理(ステップS416)についても同様である。
また、上述した図3から図7のフローチャートに示す処理では、認識対象の信号機と移動体(カメラ10)との位置関係が変化しうることを考慮しているが、これに限られない。例えば、図3に示す処理は、移動体が停止状態であるときだけ実行されてもよい。例えば、図3に示す処理は、認識対象の信号機の手前で移動体が停止状態となった場合に起動され、当該停止状態で所定周期ごとに繰り返し実行されてもよい。この場合、上述のように、赤判定領域は、赤灯火の候補領域と同じ領域とすることができるので、処理負荷を低減できる。なお、かかる構成では、信号機が認識され、かつ、信号機の青灯火の点灯状態が検出された場合に、移動体が停止状態を解除して、前進する(青信号を進む)ように移動体の移動態様が制御されてもよい。
また、上述した実施例では、赤灯火の候補領域を抽出してから青灯火の候補領域における青灯火候補検出処理の結果に基づいて、信号機の認識を行っているが、逆であってもよい。すなわち、青灯火の候補領域を抽出してから赤判定領域における赤灯火候補検出処理の結果に基づいて、信号機の認識を行ってもよい。
なお、以上の実施例に関し、さらに以下の付記を開示する。
[付記1]
画像内から、信号機の第1灯火の第1点灯色を検出する第1色検出部(201)と、
画像内から、前記信号機の第2灯火の第2点灯色を検出する第2色検出部(202)と、
第1時点で取得した第1画像における第1の領域に前記第1色検出部により前記第1点灯色が検出され、かつ、前記第1時点よりも後の第2時点で取得した第2画像における第2の領域であって前記第1の領域に対し前記第2画像上で特定の位置関係にある第2の領域において、前記第2色検出部により前記第2点灯色が検出された場合に、前記第1の領域に基づいて信号機を認識する信号機検出部(23)と、を備える、信号機認識装置(20)。
画像内から、信号機の第1灯火の第1点灯色を検出する第1色検出部(201)と、
画像内から、前記信号機の第2灯火の第2点灯色を検出する第2色検出部(202)と、
第1時点で取得した第1画像における第1の領域に前記第1色検出部により前記第1点灯色が検出され、かつ、前記第1時点よりも後の第2時点で取得した第2画像における第2の領域であって前記第1の領域に対し前記第2画像上で特定の位置関係にある第2の領域において、前記第2色検出部により前記第2点灯色が検出された場合に、前記第1の領域に基づいて信号機を認識する信号機検出部(23)と、を備える、信号機認識装置(20)。
付記1の構成によれば、信号機が第1点灯色と第2点灯色で時間差をもって点灯することを利用して、異なる2時点の画像である第1画像と第2画像とに基づいて、信号機が認識される。これにより、煩雑な処理を要することなく、精度良く信号機を認識することができる。
[付記2]
前記信号機検出部は、前記第1画像における前記第1の領域に前記第1色検出部により前記第1点灯色が第1の検出態様で検出されるとともに、前記第2画像における前記第2の領域に前記第2色検出部により前記第2点灯色が第2の検出態様で検出され、かつ、所定条件が満たされた場合に、前記第1の領域および前記第2の領域に対応する位置の前記信号機を認識し、
前記所定条件は、前記第1画像における前記第2の領域に対応する領域において前記第2色検出部により前記第2点灯色が前記第2の検出態様に対応する検出態様で検出されない場合に満たされる第1条件を含む、付記1に記載の信号機認識装置。
前記信号機検出部は、前記第1画像における前記第1の領域に前記第1色検出部により前記第1点灯色が第1の検出態様で検出されるとともに、前記第2画像における前記第2の領域に前記第2色検出部により前記第2点灯色が第2の検出態様で検出され、かつ、所定条件が満たされた場合に、前記第1の領域および前記第2の領域に対応する位置の前記信号機を認識し、
前記所定条件は、前記第1画像における前記第2の領域に対応する領域において前記第2色検出部により前記第2点灯色が前記第2の検出態様に対応する検出態様で検出されない場合に満たされる第1条件を含む、付記1に記載の信号機認識装置。
付記2の構成によれば、第1の領域および第2の領域に対応する位置の信号機を認識するための所定条件として、第1条件が更に付加され、第1条件は、第1の領域に第1点灯色が第1の検出態様で検出された第1画像における第2の領域に対応する領域において、第2点灯色が第2の検出態様に対応する検出態様で検出されない場合に満たされる。これは、第1の領域および第2の領域に対応する位置に信号機が実際に存在する場合には、第1点灯色と第2点灯色とが同時に点灯している状態となることは実質的になく、従って、第1画像における第2の領域に対応する領域において第2点灯色が第2の検出態様で検出される可能性は、低いためである。このような点を利用することで、付記2の構成によれば、さらに精度良く信号機を認識することができる。
なお、第1画像における第2の領域に対応する領域とは、撮像手段が第1時点と第2時点との間で移動していない場合は、第1画像における第2の領域に対応する領域は、第2の領域と同じである。他方、撮像手段が第1時点と第2時点との間で移動している場合は、第1画像における第2の領域に対応する領域は、当該移動態様に応じて算出されてよい。例えば認識対象の信号機の位置情報が予め記憶されている場合は、撮像手段の位置と認識対象の信号機の位置との関係に基づいて、第1画像における第2の領域に対応する領域が算出されてもよい。
なお、第1の領域に第1点灯色が検出される際の検出態様として「第1の検出態様」とは、任意であるが、例えば第1の領域のうちの所定面積以上の領域で第1点灯色が検出される態様であってよい。
また、第2の領域に第2点灯色が検出される際の検出態様として「第2の検出態様」とは、任意であるが、例えば第2の領域のうちの所定面積以上の領域で第2点灯色が検出される態様であってよい。また、第2の検出態様は、第1の検出態様と同様であってよいし、若干異なってもよい。
例えば、第2の検出態様に対応する検出態様とは、第1画像における第2の領域に対応する領域が、M’個の画素数である場合、当該領域において第2点灯色が所定数M1’(≦M’)以上の画素で検出される態様であり、かつ、M1’/M’とN1’/N’との間に何らかの相関性がある態様であってよい。ここでは、説明上、「第2点灯色が第2の検出態様で検出」とは、例えば、N’個の画素数である第2の領域において第2点灯色が所定数N1’(≦N’)以上の画素数で検出される態様であるとする。
[付記3]
前記信号機検出部は、前記第1画像における前記第1の領域に前記第1色検出部により前記第1点灯色が第1の検出態様で検出されるとともに、前記第2画像における前記第2の領域に前記第2色検出部により前記第2点灯色が第2の検出態様で検出され、かつ、所定条件が満たされた場合に、前記第1の領域および前記第2の領域に対応する位置の前記信号機を認識し、
前記所定条件は、前記第2画像における前記第1の領域に対応する領域において前記第1色検出部により前記第1点灯色が前記第1の検出態様に対応する検出態様で検出されない場合に満たされる第2条件を含む、付記1又は2に記載の信号機認識装置。
前記信号機検出部は、前記第1画像における前記第1の領域に前記第1色検出部により前記第1点灯色が第1の検出態様で検出されるとともに、前記第2画像における前記第2の領域に前記第2色検出部により前記第2点灯色が第2の検出態様で検出され、かつ、所定条件が満たされた場合に、前記第1の領域および前記第2の領域に対応する位置の前記信号機を認識し、
前記所定条件は、前記第2画像における前記第1の領域に対応する領域において前記第1色検出部により前記第1点灯色が前記第1の検出態様に対応する検出態様で検出されない場合に満たされる第2条件を含む、付記1又は2に記載の信号機認識装置。
付記3の構成によれば、第1の領域および第2の領域に対応する位置の信号機を認識するための所定条件として、第2条件が更に付加され、第2条件は、第2画像における第1の領域に対応する領域において第1点灯色が第1の検出態様に対応する検出態様で検出されない場合に満たされる。これは、第1の領域および第2の領域に対応する位置に信号機が実際に存在する場合には、第1点灯色と第2点灯色とが同時に点灯している状態となることは実質的になく、従って、第2画像における第1の領域に対応する領域において第1点灯色が第1の検出態様で検出される可能性は、低いためである。このような点を利用することで、付記3の構成によれば、さらに精度良く信号機を認識することができる。
なお、第2画像における第1の領域に対応する領域とは、撮像手段が第1時点と第2時点との間で移動していない場合は、第2画像における第1の領域に対応する領域は、第1の領域と同じである。他方、撮像手段が第1時点と第2時点との間で移動している場合は、第2画像における第1の領域に対応する領域は、当該移動態様に応じて算出されてよい。
また、この場合、第1の検出態様に対応する検出態様とは、例えば、第2画像における第1の領域に対応する領域が、N’個の画素数である場合、当該領域において第1点灯色が所定数N1’(≦N’)以上の画素数で検出される態様であり、かつ、N1’/N’とN1/Nとの間に何らかの相関性がある態様であってよい。なお、ここでは、説明上、「第1点灯色が第1の検出態様で検出」とは、例えば、N個の画素数である第1の領域において第1点灯色が所定数N1(≦N)以上の画素数で検出される態様であるとする。
[付記4]
前記所定条件は、前記第1時点よりも後であって前記第2時点よりも前の1つ以上の第3時点で取得した1つ以上の第3画像のそれぞれにおける前記第1の領域に対応する領域において、前記第1色検出部により前記第1点灯色が検出されるか否かに関連する第3条件を更に含む、付記2又は3に記載の信号機認識装置。
前記所定条件は、前記第1時点よりも後であって前記第2時点よりも前の1つ以上の第3時点で取得した1つ以上の第3画像のそれぞれにおける前記第1の領域に対応する領域において、前記第1色検出部により前記第1点灯色が検出されるか否かに関連する第3条件を更に含む、付記2又は3に記載の信号機認識装置。
付記4の構成によれば、第1の領域および第2の領域に対応する位置の信号機を認識するための所定条件として、第3条件が更に付加され、第3条件は、第3画像のそれぞれにおける第1の領域に対応する領域において、第1色検出部により第1点灯色が検出されるか否かに関連する。これにより、第1時点と第2時点の間の第3時点での第3画像を利用して、信号機の認識に対する信頼性をさらに向上させることができる。
[付記5]
前記第3条件は、前記1つ以上の第3画像のうちの、前記第1の領域に対応する領域において前記第1色検出部により前記第1点灯色が前記第1の検出態様に対応する検出態様で検出される特定の第3画像の個数、又は、前記1つ以上の第3画像のうちの、前記特定の第3画像の出現の時間的な連続性に基づいて判定される、付記4に記載の信号機認識装置。
前記第3条件は、前記1つ以上の第3画像のうちの、前記第1の領域に対応する領域において前記第1色検出部により前記第1点灯色が前記第1の検出態様に対応する検出態様で検出される特定の第3画像の個数、又は、前記1つ以上の第3画像のうちの、前記特定の第3画像の出現の時間的な連続性に基づいて判定される、付記4に記載の信号機認識装置。
付記5の構成によれば、第3条件は、特定の第3画像の個数や特定の第3画像の出現の時間的な連続性に基づいて判定される。ここで、第1の領域および第2の領域に対応する位置に信号機が実際に存在する場合には、第2点灯色が第2の検出態様に対応する検出態様で検出されるまでは、第3画像における第1の領域に対応する領域において第1点灯色が第1の検出態様に対応する検出態様で検出される可能性が高い。付記5の構成によれば、このような点を利用して、信号機の認識に対する信頼性をさらに向上させることができる。
なお、第1の検出態様に対応する検出態様とは、撮像手段が第1時点と第3時点との間で移動していない場合は、第1の検出態様と同じであってよく、撮像手段が第1時点と第3時点との間で移動している場合は、第1の検出態様とは異なってよい。これは、撮像手段が第1時点と第3時点との間で移動している場合は、第1点灯色の検出態様(すなわち撮像手段にとっての見え方)が異なりうるためである。
[付記6]
前記第3条件は、前記特定の第3画像の個数が第1所定数以上である場合、又は、前記特定の第3画像の出現頻度が第1頻度以上である場合に、満たされる、付記5に記載の信号機認識装置。
前記第3条件は、前記特定の第3画像の個数が第1所定数以上である場合、又は、前記特定の第3画像の出現頻度が第1頻度以上である場合に、満たされる、付記5に記載の信号機認識装置。
ここで、第1の領域および第2の領域に対応する位置に信号機が実際に存在する場合には、特定の第3画像の個数が比較的多くなり、かつ、特定の第3画像の出現の時間的な連続性が高くなる(すなわち連続的に出現しやすい)。付記6の構成によれば、このような点を利用して、信号機の認識に対する信頼性をさらに向上させることができる。
また、前記第3条件は、前記特定の第3画像が第1所定回数連続して出現しない状態が発生することなく、前記特定の第3画像の個数が第1所定数以上になる場合に、満たされてもよい。
[付記7]
前記所定条件は、前記第3時点よりも後であって前記第2時点よりも前の1つ以上の第4時点で取得した1つ以上の第4画像のそれぞれにおける前記第2の領域に対応する領域において、前記第2色検出部により前記第2点灯色が前記第2の検出態様に対応する検出態様で検出され、かつ、前記1つ以上の第4画像のそれぞれにおける前記第1の領域に対応する領域において、前記第1色検出部により前記第1点灯色が前記第1の検出態様に対応する検出態様で検出されない場合に満たされる第4条件を更に含む、付記4から6のうちのいずれか1項に記載の信号機認識装置。
前記所定条件は、前記第3時点よりも後であって前記第2時点よりも前の1つ以上の第4時点で取得した1つ以上の第4画像のそれぞれにおける前記第2の領域に対応する領域において、前記第2色検出部により前記第2点灯色が前記第2の検出態様に対応する検出態様で検出され、かつ、前記1つ以上の第4画像のそれぞれにおける前記第1の領域に対応する領域において、前記第1色検出部により前記第1点灯色が前記第1の検出態様に対応する検出態様で検出されない場合に満たされる第4条件を更に含む、付記4から6のうちのいずれか1項に記載の信号機認識装置。
付記7の構成によれば、第4条件を加えることで、第2時点での第2色検出部による第2点灯色の検出結果の信頼度が向上し、その結果、信号機の認識精度を高めることができる。
[付記8]
前記所定条件は、前記第3画像のそれぞれにおける前記第2の領域に対応する領域において、前記第2色検出部により前記第2点灯色が検出されるか否かに関連する第5条件を更に含む、付記7に記載の信号機認識装置。
前記所定条件は、前記第3画像のそれぞれにおける前記第2の領域に対応する領域において、前記第2色検出部により前記第2点灯色が検出されるか否かに関連する第5条件を更に含む、付記7に記載の信号機認識装置。
この場合、例えば、第5条件は、前記第3画像のそれぞれにおける前記第2の領域に対応する領域において、前記第2色検出部により前記第2点灯色が検出されない場合に満たされてもよい。
付記8の構成によれば、第1の領域および第2の領域に対応する位置の信号機を認識するための所定条件として、第5条件が更に付加され、第5条件は、第3画像のそれぞれにおける第2の領域に対応する領域において、第2色検出部により第2点灯色が検出されるか否かに関連する。これにより、第1時点と第2時点の間の第3時点での第3画像を利用して、信号機の認識に対する信頼性をさらに向上させることができる。
[付記9]
前記第5条件は、前記1つ以上の第3画像のうちの、前記第2の領域に対応する領域において前記第2色検出部により前記第2点灯色が前記第2の検出態様に対応する検出態様で検出されない特定の第3画像の個数、又は、前記1つ以上の第3画像のうちの、前記特定の第3画像の出現の時間的な連続性に基づいて判定される、付記8に記載の信号機認識装置。
前記第5条件は、前記1つ以上の第3画像のうちの、前記第2の領域に対応する領域において前記第2色検出部により前記第2点灯色が前記第2の検出態様に対応する検出態様で検出されない特定の第3画像の個数、又は、前記1つ以上の第3画像のうちの、前記特定の第3画像の出現の時間的な連続性に基づいて判定される、付記8に記載の信号機認識装置。
付記9の構成によれば、第5条件は、特定の第3画像の個数や特定の第3画像の出現の時間的な連続性に基づいて判定される。ここで、第1の領域および第2の領域に対応する位置に信号機が実際に存在する場合には、第2の領域に第2点灯色が第2の検出態様で検出されるまでは、第3画像における第2の領域に対応する領域において第2点灯色が第2の検出態様に対応する検出態様で検出される可能性が低い。付記9の構成によれば、このような点を利用して、信号機の認識に対する信頼性をさらに向上させることができる。
なお、第2の検出態様に対応する検出態様とは、撮像手段が第1時点と第3時点との間で移動していない場合は、第2の検出態様と同じであってよく、撮像手段が第1時点と第3時点との間で移動している場合は、第2の検出態様とは異なってよい。これは、撮像手段が第1時点と第3時点との間で移動している場合は、第2点灯色の検出態様(すなわち撮像手段にとっての見え方)が異なりうるためである。
[付記10]
前記第5条件は、前記特定の第3画像の個数が第2所定数以上である場合、又は、前記特定の第3画像の出現頻度が第2頻度以上である場合に、満たされる、付記9に記載の信号機認識装置。
前記第5条件は、前記特定の第3画像の個数が第2所定数以上である場合、又は、前記特定の第3画像の出現頻度が第2頻度以上である場合に、満たされる、付記9に記載の信号機認識装置。
ここで、第1の領域および第2の領域に対応する位置に信号機が実際に存在する場合には、特定の第3画像の個数が比較的多くなり、かつ、特定の第3画像の出現の時間的な連続性が高くなる(すなわち連続的に出現しやすい)。付記10の構成によれば、このような点を利用して、信号機の認識に対する信頼性をさらに向上させることができる。
[付記11]
前記信号機検出部は、前記信号機を認識するとともに、前記第1点灯色に係る灯火の点灯状態から前記第2点灯色に係る灯火の点灯状態への遷移を検出する、付記1から10のうちのいずれか1項に記載の信号機認識装置。
前記信号機検出部は、前記信号機を認識するとともに、前記第1点灯色に係る灯火の点灯状態から前記第2点灯色に係る灯火の点灯状態への遷移を検出する、付記1から10のうちのいずれか1項に記載の信号機認識装置。
付記11の構成によれば、信号機を認識する際に利用する第1色検出部及び第2色検出部の検出結果に基づいて、信号機の点灯状態の遷移を検出できる。
[付記12]
前記特定の位置関係は、認識対象の信号機の形状情報に応じて決まる、付記1〜11のうちのいずれか1項に記載の信号機認識装置。
前記特定の位置関係は、認識対象の信号機の形状情報に応じて決まる、付記1〜11のうちのいずれか1項に記載の信号機認識装置。
付記12の構成によれば、認識対象の信号機の形状情報(例えば縦型や横型)を考慮することで、認識対象の信号機の形状に応じた特定の位置関係に基づいて、信号機の認識に対する信頼性をさらに向上させることができる。
[付記13]
前記第1画像における前記第1の領域に前記第1色検出部により前記第1点灯色が検出されるまでは、前記第2色検出部による前記第2点灯色の検出処理は実行されない、付記1〜12のうちのいずれか1項に記載の信号機認識装置。
前記第1画像における前記第1の領域に前記第1色検出部により前記第1点灯色が検出されるまでは、前記第2色検出部による前記第2点灯色の検出処理は実行されない、付記1〜12のうちのいずれか1項に記載の信号機認識装置。
付記13の構成によれば、第1画像における第1の領域に第1色検出部により第1点灯色が検出されていない状況下で第2色検出部による第2点灯色の検出処理が実行される場合に比べて、処理負荷を低減できる。
[付記14]
第1時点で取得した第1画像における第1の領域において、信号機の第1灯火の第1点灯色を検出し、
前記第1時点よりも後の第2時点で取得した第2画像における第2の領域であって、前記第1の領域に対し前記第2画像上で特定の位置関係にある第2の領域において、前記信号機の第2灯火の第2点灯色を検出した場合に、前記第1の領域に基づいて、前記信号機を認識することを含み、コンピュータにより実行される信号機認識方法。
第1時点で取得した第1画像における第1の領域において、信号機の第1灯火の第1点灯色を検出し、
前記第1時点よりも後の第2時点で取得した第2画像における第2の領域であって、前記第1の領域に対し前記第2画像上で特定の位置関係にある第2の領域において、前記信号機の第2灯火の第2点灯色を検出した場合に、前記第1の領域に基づいて、前記信号機を認識することを含み、コンピュータにより実行される信号機認識方法。
[付記15]
第1時点で取得した第1画像における第1の領域において、信号機の第1灯火の第1点灯色を検出し、
前記第1時点よりも後の第2時点で取得した第2画像における第2の領域であって、前記第1の領域に対し前記第2画像上で特定の位置関係にある第2の領域において、前記信号機の第2灯火の第2点灯色を検出した場合に、前記第1の領域に基づいて、前記信号機を認識する
処理をコンピュータに実行させる、信号機認識のためのプログラム。
第1時点で取得した第1画像における第1の領域において、信号機の第1灯火の第1点灯色を検出し、
前記第1時点よりも後の第2時点で取得した第2画像における第2の領域であって、前記第1の領域に対し前記第2画像上で特定の位置関係にある第2の領域において、前記信号機の第2灯火の第2点灯色を検出した場合に、前記第1の領域に基づいて、前記信号機を認識する
処理をコンピュータに実行させる、信号機認識のためのプログラム。
[付記16]
画像内から信号機の第1点灯色を検出する第1色検出部と、
画像内から、前記信号機の第2灯火の第2点灯色を検出する第2色検出部と、
複数時点で取得される画像に対する前記第1色検出部による検出結果と、同複数時点で取得される画像に対する前記第2色検出部による検出結果とに基づいて、信号機を認識する信号機検出部と、を備える、信号機認識装置。
画像内から信号機の第1点灯色を検出する第1色検出部と、
画像内から、前記信号機の第2灯火の第2点灯色を検出する第2色検出部と、
複数時点で取得される画像に対する前記第1色検出部による検出結果と、同複数時点で取得される画像に対する前記第2色検出部による検出結果とに基づいて、信号機を認識する信号機検出部と、を備える、信号機認識装置。
1 信号認識システム
2 信号機認識装置
3 動作制御部
11 GPS受信機
21 領域抽出部
20 色検出部
201 赤色検出部
202 青色検出部
203 赤灯火候補検出部
204 青灯火候補検出部
23 信号機検出部
31 信号機情報登録部
32 灯火色登録部
33 位置関係登録部
34 候補領域登録部
35 履歴登録部
2 信号機認識装置
3 動作制御部
11 GPS受信機
21 領域抽出部
20 色検出部
201 赤色検出部
202 青色検出部
203 赤灯火候補検出部
204 青灯火候補検出部
23 信号機検出部
31 信号機情報登録部
32 灯火色登録部
33 位置関係登録部
34 候補領域登録部
35 履歴登録部
Claims (13)
- 画像内から、信号機の第1灯火の第1点灯色を検出する第1色検出部と、
画像内から、前記信号機の第2灯火の第2点灯色を検出する第2色検出部と、
第1時点で取得した第1画像における第1の領域に前記第1色検出部により前記第1点灯色が検出され、かつ、前記第1時点よりも後の第2時点で取得した第2画像における第2の領域であって前記第1の領域に対し前記第2画像上で特定の位置関係にある第2の領域において、前記第2色検出部により前記第2点灯色が検出された場合に、前記第1の領域に基づいて、前記信号機を認識する信号機検出部と、を備える、信号機認識装置。 - 前記信号機検出部は、前記第1画像における前記第1の領域に前記第1色検出部により前記第1点灯色が第1の検出態様で検出されるとともに、前記第2画像における前記第2の領域に前記第2色検出部により前記第2点灯色が第2の検出態様で検出され、かつ、所定条件が満たされた場合に、前記第1の領域および前記第2の領域に対応する位置の前記信号機を認識し、
前記所定条件は、前記第1画像における前記第2の領域に対応する領域において前記第2色検出部により前記第2点灯色が前記第2の検出態様に対応する検出態様で検出されない場合に満たされる第1条件を含む、請求項1に記載の信号機認識装置。 - 前記信号機検出部は、前記第1画像における前記第1の領域に前記第1色検出部により前記第1点灯色が第1の検出態様で検出されるとともに、前記第2画像における前記第2の領域に前記第2色検出部により前記第2点灯色が第2の検出態様で検出され、かつ、所定条件が満たされた場合に、前記第1の領域および前記第2の領域に対応する位置の前記信号機を認識し、
前記所定条件は、前記第2画像における前記第1の領域に対応する領域において前記第1色検出部により前記第1点灯色が前記第1の検出態様に対応する検出態様で検出されない場合に満たされる第2条件を含む、請求項1に記載の信号機認識装置。 - 前記所定条件は、前記第1時点よりも後であって前記第2時点よりも前の1つ以上の第3時点で取得した1つ以上の第3画像のそれぞれにおける前記第1の領域に対応する領域において、前記第1色検出部により前記第1点灯色が検出されるか否かに関連する第3条件を更に含む、請求項2又は請求項3に記載の信号機認識装置。
- 前記第3条件は、前記1つ以上の第3画像のうちの、前記第1の領域に対応する領域において前記第1色検出部により前記第1点灯色が前記第1の検出態様に対応する検出態様で検出される特定の第3画像の個数、又は、前記1つ以上の第3画像のうちの、前記特定の第3画像の出現の時間的な連続性に基づいて判定される、請求項4に記載の信号機認識装置。
- 前記第3条件は、前記特定の第3画像が第1所定回数連続して出現しない状態が発生することなく、前記特定の第3画像の個数が第1所定数以上になる場合に、満たされる、請求項5に記載の信号機認識装置。
- 前記所定条件は、前記第3時点よりも後であって前記第2時点よりも前の1つ以上の第4時点で取得した1つ以上の第4画像のそれぞれにおける前記第2の領域に対応する領域において、前記第2色検出部により前記第2点灯色が前記第2の検出態様に対応する検出態様で検出され、かつ、前記1つ以上の第4画像のそれぞれにおける前記第1の領域に対応する領域において、前記第1色検出部により前記第1点灯色が前記第1の検出態様に対応する検出態様で検出されない場合に満たされる第4条件を更に含む、請求項4から請求項6のうちのいずれか1項に記載の信号機認識装置。
- 前記所定条件は、前記第3画像のそれぞれにおける前記第2の領域に対応する領域において、前記第2色検出部により前記第2点灯色が検出されない場合に満たされる第5条件を更に含む、請求項7に記載の信号機認識装置。
- 前記信号機検出部は、前記信号機を認識するとともに、前記第1点灯色に係る灯火の点灯状態から前記第2点灯色に係る灯火の点灯状態への遷移を検出する、請求項1から請求項8のうちのいずれか1項に記載の信号機認識装置。
- 前記特定の位置関係は、認識対象の信号機の形状情報に応じて決まる、請求項1から請求項9のうちのいずれか1項に記載の信号機認識装置。
- 第1時点で取得した第1画像における第1の領域において、信号機の第1灯火の第1点灯色を検出し、
前記第1時点よりも後の第2時点で取得した第2画像における第2の領域であって、前記第1の領域に対し前記第2画像上で特定の位置関係にある第2の領域において、前記信号機の第2灯火の第2点灯色を検出した場合に、前記第1の領域に基づいて、前記信号機を認識することを含み、コンピュータにより実行される信号機認識方法。 - 第1時点で取得した第1画像における第1の領域において、信号機の第1灯火の第1点灯色を検出し、
前記第1時点よりも後の第2時点で取得した第2画像における第2の領域であって、前記第1の領域に対し前記第2画像上で特定の位置関係にある第2の領域において、前記信号機の第2灯火の第2点灯色を検出した場合に、前記第1の領域に基づいて、前記信号機を認識する
処理をコンピュータに実行させる、信号機認識のためのプログラム。 - 画像内から、信号機の第1灯火の第1点灯色を検出する第1色検出部と、
画像内から、前記信号機の第2灯火の第2点灯色を検出する第2色検出部と、
複数時点で取得される画像に対する前記第1色検出部による検出結果と、同複数時点で取得される画像に対する前記第2色検出部による検出結果とに基づいて、信号機を認識する信号機検出部と、を備える、信号機認識装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019100665A JP2020194447A (ja) | 2019-05-29 | 2019-05-29 | 信号機認識装置、信号機認識方法および信号機認識のためのプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019100665A JP2020194447A (ja) | 2019-05-29 | 2019-05-29 | 信号機認識装置、信号機認識方法および信号機認識のためのプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020194447A true JP2020194447A (ja) | 2020-12-03 |
Family
ID=73546380
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019100665A Pending JP2020194447A (ja) | 2019-05-29 | 2019-05-29 | 信号機認識装置、信号機認識方法および信号機認識のためのプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020194447A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112581534A (zh) * | 2020-12-24 | 2021-03-30 | 济南博观智能科技有限公司 | 一种信号灯重定位方法、装置、电子设备及存储介质 |
-
2019
- 2019-05-29 JP JP2019100665A patent/JP2020194447A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112581534A (zh) * | 2020-12-24 | 2021-03-30 | 济南博观智能科技有限公司 | 一种信号灯重定位方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7004017B2 (ja) | 物体追跡システム、物体追跡方法、プログラム | |
KR101173802B1 (ko) | 대상물 추적 장치, 대상물 추적 방법, 및 제어 프로그램이 기록된 기록 매체 | |
JP5747549B2 (ja) | 信号機検出装置及びプログラム | |
EP2715278B1 (en) | 3d scanner using structured lighting | |
JP2007316882A (ja) | 遠隔操作装置及び方法 | |
EP1730669A2 (en) | Component association tracker system and method | |
CA2981779C (en) | Traffic light detection device and traffic light detection method | |
US11430204B2 (en) | Information processing device, information processing method, and program | |
KR101712136B1 (ko) | 열화상 카메라를 이용한 객체의 실신 상황 감지 방법 및 장치 | |
JP2008250746A (ja) | 移動物体追跡装置 | |
Sledeviè et al. | FPGA-based selected object tracking using LBP, HOG and motion detection | |
JP2002296010A (ja) | 画像を用いた自己位置同定方法 | |
JP2020194447A (ja) | 信号機認識装置、信号機認識方法および信号機認識のためのプログラム | |
JP2003061075A (ja) | 物体追跡装置、物体追跡方法および侵入者監視システム | |
US9842260B2 (en) | Image processing apparatus and image processing method of performing image segmentation | |
JP2014160017A (ja) | 管理装置、方法及びプログラム | |
JP2023008030A (ja) | 画像処理システム、画像処理方法及び画像処理プログラム | |
KR102161212B1 (ko) | 움직임 검출 시스템 및 방법 | |
JP7034781B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6539720B1 (ja) | 画像処理装置 | |
JP2011043863A (ja) | 対象領域判定・追跡装置、方法、プログラム及び対象領域判定装置 | |
Pang et al. | Real-time object tracking of a robot head based on multiple visual cues integration | |
JP6229568B2 (ja) | 画像処理装置、画像処理システム、画像処理方法および画像処理プログラム | |
US20230065506A1 (en) | Image processing apparatus, control method thereof, and image capturing apparatus | |
JP2006172064A (ja) | 物体追跡装置、および方法 |