JP6196044B2 - 交通信号認識システム及び方法 - Google Patents

交通信号認識システム及び方法 Download PDF

Info

Publication number
JP6196044B2
JP6196044B2 JP2013025303A JP2013025303A JP6196044B2 JP 6196044 B2 JP6196044 B2 JP 6196044B2 JP 2013025303 A JP2013025303 A JP 2013025303A JP 2013025303 A JP2013025303 A JP 2013025303A JP 6196044 B2 JP6196044 B2 JP 6196044B2
Authority
JP
Japan
Prior art keywords
traffic signal
candidate
image frame
traffic
score
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013025303A
Other languages
English (en)
Other versions
JP2013164853A (ja
Inventor
エス.ジョシ アブドフト
エス.ジョシ アブドフト
ブイ.プロコロフ ダニル
ブイ.プロコロフ ダニル
Original Assignee
トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド
トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド, トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド filed Critical トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド
Publication of JP2013164853A publication Critical patent/JP2013164853A/ja
Application granted granted Critical
Publication of JP6196044B2 publication Critical patent/JP6196044B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0967Systems involving transmission of highway information, e.g. weather, speed limits
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0276Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/205Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using a head-up display

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Atmospheric Sciences (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Mechanical Engineering (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、確率推定器を使用して取得された観察履歴データを使用して、車載カメラによって取得された画像フレームから検出された交通信号候補から、交通信号の存在を認識することに関する。
此処に提供される“背景技術”は、この開示の背景を一般的に示すためである。此処に記載された研究は、背景技術の項に開示されている限りにおいて、出願時点で従来技術として適切ではない本記載の観点と同様に、明示的にも暗示的にも従来技術として認められるものではない。
交通信号認識は、例えば信号機のような交通信号を含む画像フレームの領域を識別し且つマーキングするプロセスに言及する。カメラによって画像フレームが取得され、この画像フレームは個々に処理される。交通信号候補及びそのすぐ近くの領域が、実際の交通テンプレートをテンプレートライブラリからのテンプレートと一致させることに基づいて、決定される。交通信号認識の正確性は、適応型テンプレートを使用することによって、向上する。適応型テンプレートは、信号機候補の予想サイズ及び/または、信号機候補からの車両の距離に基づく、実際の信号機候補テンプレートに従って調整される。最もよく一致するテンプレートを、信号機候補に対応する実際の画像フレームにサイズにおいて一致する、多くの可能性のあるテンプレートに基づいて評価する。例えば、信号機候補中の緑色の丸が照明されている場合、可能性のあるテンプレート中の一つが使用され、信号機候補中の赤色の丸が照明されている場合に可能性のあるテンプレート中の他のものが使用される。これは、赤色の丸及び緑色の丸が信号機の容器内において異なる位置にあるからである。
この開示は、本発明者等が見出した、既知の交通信号認識プロセスに関する種々の問題に対処する。特に、テンプレート一致を使用する交通信号認識プロセスにおいて、テンプレートライブラリ中の各テンプレートに対して、テンプレート記述が必要とされ、これは以前に見たことがない信号機に対して実施するのが困難であり或いは不可能である。更に、取得された画像フレーム列或いはビデオにおける隣接する画像フレームは、時間的及び空間的関係を考慮することなく、個々に処理される。例えば、一個の画像フレーム内で信号機候補を特定するために、そのフレーム内の全ての領域を分析する必要があり、これは、多量の計算を要するプロセスである。更に、画像フレームが多くのオブジェクトを含む場合、このプロセスは更に多くのコンピュータ資源を必要とし得る。更にその上、信号機検出を実施するために使用した信号機認識アルゴリズムに基づいて、画像フレーム内のオブジェクトを不正確に特定することがある。その結果、ユーザがこれらの特定の間違いを訂正するために費やす時間が増加する。
本開示は、一つの非限定的な実施例において、ナビゲーションマップまたはGPSによる車両位置の、少なくとも一つに基づいて交通信号の候補を検出する、交通信号認識方法を目指す。本方法は、車両搭載カメラから得た画像フレームをフィルタするために、カラーフィルタを使用する。フィルタされた画像が、交通信号候補を検出するために使用される。非限定的実施例において、交通信号認識方法は以下の何れかによって非限定的に実現される:個人用通信装置(例えば、携帯電話、データ通信可能な携帯電話、スマートフォーン)及び携帯電子デバイス(例えば、携帯GPS受信機、携帯ゲーム機、ラップトップ、タブレットコンピュータ)。別の非限定的実施例において、交通信号認識方法が実現されるデバイスは、以下の何れかを非限定的に含む:画像取得機能;ネットワーク接続(例えば、クラウドネットワーク、インターネット、イントラネット);及びGPS機能。
別の非限定的実施例において、交通信号候補の予想サイズを決定するために、交通信号候補からの車両の距離を使用する。交通信号の予想サイズを、交通信号候補領域を検索するため及び可能な交通信号候補領域の近傍を調べるために、使用する。カメラによって取得された画像フレーム内のノイズによって生成された偽の交通信号を退けるために、形状検出器が使用される。
その後確率推定器を、検出された信号機候補のフレーム毎の追跡に使用する。追跡プロセスは、信号機候補がフレーム中に観察された場合、エビデンスを各信号機候補に有利に蓄積することを可能とする。蓄積されたエビデンスが指定された閾値以下に落ち込むと、例えば、信号機候補がある特定の時間に亘って観察されない場合、その信号機候補は検討外となる。
別の非限定的実施例において、本方法は更に、ある色のライトが消灯しそして他の色のライトがその後照明された場合に、交通信号をモニタリングすることを含む。これによって、消灯したライトのごく近辺において(例えば、上方または下方において)、信号機候補が検出されることを可能とする。従って、信号機の容器の形状及びサイズに関係なく、例えば信号機である交通信号を高い信頼性で認識するために、交通信号候補が追跡される。交通信号の偽陽性識別が同様に、空間及び/または時間的な振る舞いの一貫性に基づいて、排除される。
前述の段落は、一般的な序論として提供されるものであり、後段に記載する特許請求の範囲を限定することを意図するものではない。記載した実施例は、更なる利点と共に添付の図面を参照して以下の詳細な説明を参照することによって、最もよく理解されるであろう。
交通信号認識システムのハードウエア構成要素を示すブロック図。 交通信号認識のための例示的なアルゴリズムを示す図。 交通信号認識を実現する例示的な自動車用電子制御ユニットを示す図。 交通信号認識システムを含み且つ認識された信号機を表示する、車両からの景色を示す図。 認識された交通信号を示す、例示的な画像フレームを示す図。
図面において、参照番号は、図面全体で同様或いは対応する部分を指名する。図1は、認識システム100の例示的な構成を示す。認識システム100は、個々にプログラムされ或いは種々の記録媒体に記憶されたプログラムコードを実行する、コンピュータハードウエア構成要素を含んでいる。例示的実施例において、認識システム100は、中央処理ユニット(CPU)102、1個またはそれ以上の特定用途向けプロセッサ(ASPs)104、メモリ106、ハードディスクドライブ110及び/または光学ディスクドライブ112(例えば、CD−ROMドライブ)の動作を制御するためのディスク制御装置108、ディスプレイ制御装置114、ネットワークインターフェース116、及びI/Oインターフェース118を含んでいる。I/Oインターフェース118は、周辺機器120、GPSユニット122、及び画像取得装置130に接続されている。ディスプレイ制御装置114はモニタ124に接続されている。幾つかの実施例において、モニタ124は、このモニタ124と通信/データチャンネルを共有し得る周辺機器120の一構成要素である。幾つかの実施例において、I/Oインターフェース118は更に、例えば、タッチスクリーンモニタ制御装置、キーボード及びマウスのようなユーザ入力周辺機器に接続されている。更に、図1に示す構成要素は、データを転送するための共通バス126を共有し、且つ、制御装置は、特定用途向け集積制御装置及び他のプログラム可能な構成要素を含むことができる。
ネットワークインターフェース116は、認識システム100が例えばインターネットのようなネットワーク128を介して通信することを可能とする。幾つかの観点において、周辺装置120の何れか、GPSユニット122及び画像取得装置130は、ネットワーク128を介して認識システム100に結合されている。
図2を参照すると、ステップS200において、交通信号を含む事前確率が比較的高い候補領域が、車載カメラによって取得された画像フレームから選択される。非限定的な一実施例において、画像フレームの大きな領域における初期検索の必要性を減少させ或いは消滅させるために、ナビゲーションマップが交通信号に対する最もありそうな位置を決定するために使用される。非限定的な他の実施例において、車両のGPS位置及び方向が、候補領域のリストを狭めるために使用される。非限定的な更に他の実施例において、カメラ投影から隆起マップが形成される。
ステップS202において、交通信号候補が候補領域から取得され、それぞれがオブジェクトとして指定される。非限定的な一実施例において、例えばトップハットフィルタのようなフィルタが、取得された画像のある周波数に相当する指定カラーチャンネル上で使用される。フーリエ空間では、トップハットフィルタは、上下の境界周波数を特定することにより、所望の周波数バンドを選択する。非限定的な他の実施例では、取得された画像フレーム内のノイズによって生成された偽の交通信号候補を排除するために、フィルタされた画像フレーム上で形状検出器が使用される。例えば、ナビゲーションマップから得られた情報により交通信号の、車載カメラからの距離が既知である場合、与えられた距離に相当するサイズの、例えば丸い形状を有するオブジェクトが探索される。或いは、以前の時間のステップに対応する画像フレーム上で、可能な交通信号候補の近傍が調査される。非限定的な更に他の実施例において、画像フレームのサブセットが処理リソースの使用を削減するために探索される。この方法において、多くの形状及び形式の交通信号が正確に認識される。ステップS202は更に、ある色の信号機が消灯し他の色の信号機が点灯した場合に、交通信号をモニタすることを含む。交通信号候補は従って、消灯したライトの直近(例えば、上方または下方)において検出される。
ステップS204において、各交通信号候補は、交通信号候補に有利なエビデンスを追跡し且つ蓄積するために、初期化されたスコアに関連付けられる。
ステップS206において、確率推定器を用いて各信号機候補のフレーム毎の追跡が行われる。非限定的な一実施例において、確率推定器は、以下の何れかであるが、それらに限定されない:カルマンフィルタ、反復カルマンフィルタ、拡張カルマンフィルタ、シグマポイントフィルタ。本開示では、確率推定器をカルマンフィルタで実現するとして記載している。しかしながら、当業者には理解できるように、確率推定器は例えば上記のフィルタのようなその他のフィルタによって実現される。確率推定器(例えば、カルマンフィルタ)は交通信号を追跡するために使用される。即ち、カルマンフィルタは、以前の推測及び以前の画像フレームにおける交通信号候補の観測に基づいて、各交通信号候補に対する予測位置を生成する。この予測は、カルマンフィルタの状態動力学によってモデル化され且つ、追跡アルゴリズムの成果を向上させるために、自己車両の動き(即ち、車両内のカメラの動き)に関する情報、交通信号の比較的固定された特性及び、非限定的一実施例において、交通信号候補のサイズに基づいている(以下に、その詳細を示す)。
追跡アルゴリズムは、交通信号候補が追跡画像フレーム中に出現する毎にスコアを増分(インクレメント)することによって、各交通信号候補に有利にエビデンスを蓄積する。交通信号候補に関連付けされたスコアは、交通信号候補が追跡された画像フレーム中に出現しない場合、減分(デクレメント)される。更に特定すると、カルマンフィルタは、確率Pと同様に、各交通信号候補に対するx−、y−及び、非限定的な一実施例においてz−、座標情報に基づいて更新され、そして、以前の検出或いは分類に基づいて予測が交通信号の最もありそうな位置に対して生成される。この予測は、以前に観察された交通信号候補の格納リスト中の交通信号候補と、関連付けられる。新しい交通信号候補が観測されると、新しいカルマンフィルタ及び新しいオブジェクトが初期化される。新しい観測を使用してカルマンフィルタのポステリア(事後)更新が行われ、観察された交通信号に対してスコアがインクレメントされる。非限定的な一実施例において、以前に観察されたオブジェクトに対して予測が入手できない場合(即ち、それらの一時的なオクルージョン(遮蔽)に基づいて)、スコアはデクレメントされる。
カルマンフィルタは、時間ドメインにおいて離散化された線形動的システムに基づいている。これは、ガウスノイズ(雑音)によって摂動する線形演算子上に形成されたマルコフチェーン(Markov chain)に基づいて、モデル化される。システムの状態は、実数のベクトルとして表現される。各離散時間増分において、線形演算子は、幾らかのノイズを混合した新しい状態と、もし既知であるならシステムにおける制御からの情報とを生成するために、その状態に適用される。次に、更に多くのノイズと混合された他の線形演算子が、真の(“隠れた状態”)状態からの観察出力を生成する。
Figure 0006196044
此処で、
kは、以前の状態xk-1に適用される状態遷移モデルであり、
kは、制御ベクトルukに適用される制御入力モデルであり、
kは、共分散Qkを有する平均ゼロ(zero mean)多変量正規分布から引き出されると仮定される、プロセスノイズである。
Figure 0006196044
時間kにおいて、真の状態xkの観測(または測定)zkは、以下の式に従って為される。
Figure 0006196044
此処で、
kは、観測空間に真の状態空間をマップする観測モデルであり、
kは、共分散Rkを有する平均ゼロ(zero−mean)のガウス性白色ノイズであると仮定される、観測ノイズである。
Figure 0006196044
この結果、瞬間分類誤差(例えば、通常は時間的に伝搬しない、ノイズに基づく偽陽性)及び交通信号候補の一時的なオクルージョンに関して、このプロセスはロバストとなる。
更にステップS206において、交通信号候補が変化、例えばライトの変化に対してモニタされる。このモニタは、ライトが消灯した時に始まり、消灯したライトのすぐ近くにあって(例えば、上方或いは下方)異なる照明を有する全ての交通信号候補を検出する。オブジェクトが例示され、新しい交通信号候補に対してフィルタが開始される。視角の異なりに基づいて、且つ、車両内の搭載カメラの方向(例えば、ヨー及びピッチ角)の異なりによって、新しい交通信号候補の形状は少なくとも僅かに変化することに注意すべきである。
ステップS208において、交通信号候補が指定数の連続する画像フレーム内に存在しないか否かに関して、カルマンフィルタと追跡アルゴリズムに基づいて決定がなされる。交通信号候補が指定数の連続画像フレーム内に存在しない場合、ステップS212においてその交通信号候補が検討の対象から外される。交通信号候補が指定数の連続画像フレーム内に存在する場合、プロセスはステップS210に進み、そこでスコアを既定の閾値と比較する。ステップS214において、そのスコアが既定の閾値より小さいか否かに関して決定がなされ、そしてもしそうなら、交通信号候補はステップS212において候補から外される。
そうでなければ、プロセスはステップS216に続き、そこで、追跡すべき各画像フレームが追跡されたか否かが決定され、もしそうであれば、ステップS218において残りの交通信号候補が交通信号であるとして認識され且つ分類される。もしそうでなければ、プロセスはステップS206に戻る。ステップS220において、ステップS218において決定された認識された交通信号の視覚標識がスクリーン、ダッシュボード、フロントガラスまたはその他の車載ディスプレイ上に表示され、プロセスが終了する。
次に図3を参照すると、自動車用電子制御ユニット300のシステム図が示されている。図3は、ソフトウエアまたはコンピュータ実行命令によって修正されたハードウエアの機能関係を示す。即ち、図3に示す自動車用電子制御ユニット300は、ハードウエアまたはハードウエアとソフトウエアの組み合わせに相当する。更に特定すると、この自動車用電子制御ユニットは、図1に示す有形のハードウエアの少なくとも一部分によって、更にオプションとして、図2に示すアルゴリズムに相当するソフトウエアまたはコンピュータ実行可能命令によって、実現される。
自動車用制御ユニット300は、例えばビデオカメラのような車載結像装置から画像フレームを受信する。自動車用制御ユニット300は更に、以下の1個またはそれ以上を受信するが、それらに限定されない:例えば街路及び交差点位置を含むナビゲーションマップ、車両の位置及び方向(例えばポーズまたはGPS座標)、形状検出器アルゴリズム及びカラーフィルタアルゴリズム。画像フレームを用いて、候補領域選択器302は、各画像フレーム内の交通信号候補に対する候補領域を決定するために、ナビゲーションマップ及び車両位置と方向の何れかまたは両方を使用する。その画像フレームは、識別された候補領域と共に、候補検出器304に送られる。
候補検出器304は、候補領域から交通信号候補を検出し、それぞれはオブジェクトまたはデータ構造と関連付けられる。その代わりに或いは追加的に、交通信号候補が画像フレーム全体の分析に基づいて検出される。上述したように、交通信号候補は、カラーフィルタ及び形状検出器の何れかまたは両方を使用して得られる。交通信号候補のリストが候補追跡器306に送られる。
上述したように、各交通信号候補は初期化されたスコアに関連付けられる。例えばカルマンフィルタである確率推定器が、交通信号候補を追跡するために使用される。上述したように、カルマンフィルタは、以前の推定及び以前の画像フレームにおける交通信号候補の観察に基づいて、各交通信号候補に対する予測位置を生成する。交通信号候補に有利なエビデンスが、交通信号候補に関連付けされたスコアをその交通信号候補が追跡画像フレーム中に現れる毎にインクレメントすることによって、蓄積される。候補追跡器306は、交通信号候補が追跡画像フレーム中に現れない場合、交通信号候補に関連付けられたスコアをデクレメントする。交通信号候補に関連付けられたスコアが既定の閾値以下に低下した場合、或いは、特定の数の連続画像フレーム中に現れない場合、その交通信号候補は除外され、そしてそれに関連するオブジェクトがリストから除去される。交通信号候補のリストは次に、交通信号決定器308に送られる。
交通信号決定器308は、追跡すべき各画像フレームが追跡されているか否かを決定し、そうである場合、リスト中の残りの交通信号候補が交通信号として分類され且つ認識される。交通信号候補に対応する位置情報がディスプレイ出力器310に送られる。ディスプレイ出力器310は、限定的でなく少なくとも以下の一つに表示されるべき視覚標識を描くために信号を出力する:スクリーン、ダッシュボード、フロントガラス、車載ディスプレイ、パーソナル通信装置及び、携帯電子装置。視覚標識は、例えば、ディスプレイ上の認識された交通信号に相当する位置を包囲するかまたは示す、有色の多角形または自由形式の形状である。他の実施例として、視覚標識は、色覚異常または色覚障害のドライバーを支援するためにパターン化されている。更に他の実施例として、視覚標識は、テキスト、例えば、“進め”、“停止”、“準備”、“赤”、“緑”または“黄色”のような言葉である。
非限定的な他の実施例において、視覚標識を出力する代わりに或いはそれに加えて、交通信号決定器308によって決定された交通信号候補に対応する位置情報を、車両制御システムへの入力として使用する。例えば、位置情報を、車両を自動的に停止させ、走行させ或いは加速させる能動的安全モジュールに命令する、車両制御装置に入力することができる。
図4において、車両内部からの景色が示されている。カメラ400が車両のフロントガラス402の近くに取り付けられている。非限定的な一実施例において、カメラ400は車両の外側或いは車両の上部に取り付けられる。当業者にとって理解しうるように、カメラ400は、近づいてくる地形(充分に広角の景色を伴って)を示す画像フレームを取得可能な限り、車両上の何処でも或いは車両の周りに取り付けることができる。非限定的な一実施例において、検出された交通信号404及び406は、照明され或いは何らかの方法で車両のフロントガラス402上に表示された、点線ボックスによって囲まれている。非限定的な他の実施例において、検出された交通信号は、照明され或いは何らかの方法で車載ディスプレイ408上に表示された、点線ボックスによって囲まれている。
図5において、3個の交通信号の周りの視覚的インデックスを含むサンプル画像フレームが示されている。2個の交通信号500及び502が、指定の信頼度を有して認識され、従って、特定の色、形状またはパターンのボックスによってマークされている。第3の交通信号504は、通過車両500によって一時的に遮蔽されているが、しかし交通信号504の存在は、以前の画像フレーム中の検出結果及び、指定された交通信号に相当する候補に対してカルマンフィルタを行う間に蓄積されたエビデンスに基づいて、依然として認識されている。図5において、各交通信号500、502及び504が、そのインデックスと共に、交通信号候補リスト中及び蓄積エビデンスカウンタ内に示されている。このカウンタは、例えば、交通信号候補が現れる数多くの画像フレームに基づいている。図5の例示的な表示において、交通信号500はインデックス1と蓄積エビデンスカウンタ87を有しており、交通信号502はインデックス2と蓄積エビデンスカウンタ99を有し、交通信号504はインデックス5と蓄積エビデンスカウンタ94を有している。交通信号504に対するインデックス5は、インデックス3及び4における交通信号候補が、フィルタ処理の間に候補から取り除かれたことを示している。
明らかに、上記の説明を参照することによって、本開示の多くの修正及び変形が可能である。従って、適用された請求の範囲内で、此処に特別に記載されたもの以上に本発明を実施することが可能であることを理解すべきである。

Claims (18)

  1. 移動環境の交通信号を検出するための制御装置において、中央処理ユニットを備え、前記中央処理ユニットは、
    結像装置によって取得された画像フレームから交通信号を含む事前確率が高い候補領域を選択する、候補領域選択器と、
    カラーフィルタを用いて前記候補領域から交通信号候補を検出するための候補検出器と、
    交通信号候補に対して予め定義された値を有するスコアを設定し、交通信号候補の位置の予想値を示す確率推定器に基づいて、交通信号候補が取得画像フレームの追跡画像フレーム内に出現したと決定された場合に、前記スコアをインクレメントし、且つ、交通信号候補が、確率推定器に基づいて追跡画像フレーム中に出現していないと決定された場合、前記スコアをデクレメントすることによって、交通信号候補を追跡する、候補追跡器と、及び
    前記スコアが指定閾値よりも上であるか否かに基づいて前記交通信号候補が交通信号であるか否かを決定する、交通信号決定器と、を備える、制御装置。
  2. 請求項1に記載の制御装置において、前記交通信号決定器は、取得された画像フレームの指定数の連続画像フレーム中に前記交通信号候補が出現しない場合、前記交通信号候補は交通信号ではないと決定する、制御装置。
  3. 請求項1に記載の制御装置において、更に、
    交通信号の位置を特定する視覚標識信号を出力するグラフィック制御装置を備える、制御装置。
  4. 請求項1に記載の制御装置において、前記確率推定器は、カルマンフィルタ、反復カルマンフィルタ、拡張カルマンフィルタ、シグマポイントフィルタのうちの1個によって実現される、制御装置。
  5. 請求項1に記載の制御装置において、前記確率推定器は、追跡画像フレーム中の交通信号候補の位置に対する予想値を決定するために、自己車両の動きを入力として取得する、制御装置。
  6. 請求項1に記載の制御装置において、前記候補検出器は、形状検出器に更に基づいて交通信号候補を検出する、制御装置。
  7. 請求項1に記載の制御装置において、前記候補検出器は、信号機容器に対するテンプレートが存在しない場合に交通信号候補を検出する、制御装置。
  8. 移動環境における自動車用交通信号を検出するための方法において、前記方法は、
    少なくとも車両位置に基づいて画像フレームから交通信号候補を検出するために、結像装置によって取得された前記画像フレームを受信し、
    受信した前記画像フレームから交通信号を含む事前確率が高い候補領域を選択し、
    選択した前記候補領域にカラーフィルタを適用して、交通信号候補を検出し、
    検出した前記交通信号候補に対して予め定義された値を有するスコアを設定し、そして、交通信号候補の位置に対する予測値を示す確率推定器に基づいて、取得画像フレームの追跡画像フレーム内に交通信号候補が出現したと決定された場合、前記スコアをインクレメントし、前記確率推定器に基づいて、追跡画像フレーム中に前記交通信号候補が出現しないと決定された場合、前記スコアをデクレメントすることによって、交通信号候補を追跡し、更に
    前記スコアが指定閾値を越えるか否かに基づいて、前記交通信号候補が交通信号であるか否かを決定する、各ステップを備える、方法。
  9. 請求項に記載の方法において、更に、
    前記結像装置のディスプレイスクリーン上に前記交通信号の色を特定する視覚標識器を表示するステップを備える、方法。
  10. 請求項に記載の方法において、前記視覚標識器は、カラーグラフィック、パターン化されたグラフィック、及びテキストの少なくとも1個に相当する、方法。
  11. 請求項に記載の方法において、取得画像フレームのサブセットが追跡される、方法。
  12. 請求項に記載の方法において、取得画像フレームの少なくとも1個の追跡画像フレームにおいて交通信号候補が遮蔽されている場合、前記交通信号候補を交通信号であると決定する、方法。
  13. 請求項に記載の方法において、更に、
    交通信号候補が交通信号であると決定された場合、自動車用電子制御装置によって、加速、減速及びブレーキを含む車両の動きを制御するステップを備える、方法。
  14. 請求項12に記載の方法において、交通信号候補は、消灯された第1のライトと消灯されたライトの近辺の点灯した第2のライトに対してモニタされる、方法。
  15. コンピュータ可読記憶媒体中に具現化された、移動環境における自動車用交通信号を検出するためのコンピュータ可読プログラムを有する持続性コンピュータ可読記憶媒体において、前記コンピュータ可読プログラムコードは、実行された場合、コンピュータに以下のステップを実行させるものであり、以下のステップは、
    少なくとも車両位置に基づいて画像フレームから交通信号候補を検出するために、結像装置によって取得された前記画像フレームを受信し、
    受信した前記画像フレームから交通信号を含む事前確率が高い候補領域を選択し、
    選択した前記候補領域にカラーフィルタを適用して、交通信号候補を検出し、
    検出した前記交通信号候補に対して予め定義された値を有するスコアを設定し、そして、交通信号候補の位置に対する予測値を示す確率推定器に基づいて、取得画像フレームの追跡画像フレーム内に交通信号候補が出現したと決定された場合、前記スコアをインクレメントし、前記確率推定器に基づいて、追跡画像フレーム中に前記交通信号候補が出現しないと決定された場合、前記スコアをデクレメントすることによって、交通信号候補を追跡し、更に
    前記スコアが指定閾値を越えるか否かに基づいて、前記交通信号候補が交通信号であるか否かを決定する、各ステップである、持続性コンピュータ可読記憶媒体。
  16. 請求項15に記載の媒体において、前記交通信号候補は、車両の位置及び地図に対する車両方向を含む、車両のポーズに基づいて検出される、持続性コンピュータ可読記憶媒体。
  17. 請求項15に記載の媒体において、更に、
    車両の動きを制御する車両制御装置に、交通信号の位置を特定する信号を出力するステップを備える、持続性コンピュータ可読記憶媒体。
  18. 請求項15に記載の媒体において、交通信号候補は変化に対してモニタされる、持続性コンピュータ可読記憶媒体。
JP2013025303A 2012-02-13 2013-02-13 交通信号認識システム及び方法 Active JP6196044B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US13/371,722 2012-02-13
US13/371,722 US8831849B2 (en) 2012-02-13 2012-02-13 System and method for traffic signal recognition

Publications (2)

Publication Number Publication Date
JP2013164853A JP2013164853A (ja) 2013-08-22
JP6196044B2 true JP6196044B2 (ja) 2017-09-13

Family

ID=48868417

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013025303A Active JP6196044B2 (ja) 2012-02-13 2013-02-13 交通信号認識システム及び方法

Country Status (3)

Country Link
US (2) US8831849B2 (ja)
JP (1) JP6196044B2 (ja)
DE (1) DE102013101175A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11462024B2 (en) 2019-07-26 2022-10-04 Toyota Jidosha Kabushiki Kaisha Traffic signal information management system

Families Citing this family (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9145140B2 (en) * 2012-03-26 2015-09-29 Google Inc. Robust method for detecting traffic signals and their associated states
JP5888164B2 (ja) * 2012-07-20 2016-03-16 トヨタ自動車株式会社 車両周辺監視装置、車両周辺監視システム
DE102012110219A1 (de) * 2012-10-25 2014-04-30 Continental Teves Ag & Co. Ohg Verfahren und Vorrichtung zur Erkennung von gekennzeichneten Gefahr- und/oder Baustellen im Bereich von Fahrbahnen
EP3736732A1 (en) 2014-01-30 2020-11-11 Mobileye Vision Technologies Ltd. Systems and methods for lane end recognition
JP6299517B2 (ja) * 2014-08-08 2018-03-28 日産自動車株式会社 信号機認識装置及び信号機認識方法
US9442487B1 (en) * 2014-08-15 2016-09-13 Google Inc. Classifier hierarchies for traffic light and traffic indicator detection
US9779314B1 (en) * 2014-08-21 2017-10-03 Waymo Llc Vision-based detection and classification of traffic lights
US9373046B2 (en) * 2014-09-10 2016-06-21 Continental Automotive Systems, Inc. Detection system for color blind drivers
JP6464783B2 (ja) * 2015-02-04 2019-02-06 株式会社デンソー 物体検出装置
RU2700646C2 (ru) * 2015-06-09 2019-09-18 Ниссан Мотор Ко., Лтд. Устройство обнаружения светофора и способ обнаружения светофора
US10495469B2 (en) 2015-06-23 2019-12-03 Ford Global Technologies, Llc Rapid traffic parameter estimation
US20170024622A1 (en) * 2015-07-24 2017-01-26 Honda Motor Co., Ltd. Surrounding environment recognition device
JP6317315B2 (ja) * 2015-12-22 2018-04-25 本田技研工業株式会社 標識情報表示装置及び方法
GB201605137D0 (en) * 2016-03-25 2016-05-11 Jaguar Land Rover Ltd Virtual overlay system and method for occluded objects
US9977975B2 (en) * 2016-08-18 2018-05-22 Toyota Motor Engineering & Manufacturing North America, Inc. Traffic light detection using multiple regions of interest and confidence scores
JP6819996B2 (ja) * 2016-10-14 2021-01-27 国立大学法人金沢大学 交通信号認識方法および交通信号認識装置
US10650257B2 (en) 2017-02-09 2020-05-12 SMR Patents S.à.r.l. Method and device for identifying the signaling state of at least one signaling device
DE102017102593A1 (de) 2017-02-09 2018-08-09 SMR Patents S.à.r.l. Verfahren und Vorrichtung zum Erkennen des Signalisierungszustands von mindestens einer Signalvorrichtung
FR3062944B1 (fr) * 2017-02-10 2021-05-14 Continental Automotive France Procede de detection de faux-positifs relatifs a un feu de signalisation
CN111094095B (zh) 2017-04-18 2021-09-07 动态Ad有限责任公司 自动地感知行驶信号的方法、装置及运载工具
US10643084B2 (en) 2017-04-18 2020-05-05 nuTonomy Inc. Automatically perceiving travel signals
US10525903B2 (en) * 2017-06-30 2020-01-07 Aptiv Technologies Limited Moving traffic-light detection system for an automated vehicle
US10527849B2 (en) 2017-07-18 2020-01-07 Toyota Jidosha Kabushiki Kaisha Augmented reality vehicular assistance for color blindness
US10079255B1 (en) * 2017-08-04 2018-09-18 GM Global Technology Operations LLC Color filter array apparatus
US20190066510A1 (en) 2017-08-22 2019-02-28 Ford Global Technologies, Llc Vehicular image projection
US10220769B1 (en) * 2017-08-22 2019-03-05 Ford Global Technologies, Llc Vehicular image projection
US10796580B2 (en) 2017-08-22 2020-10-06 Ford Global Technologies, Llc Vehicular image projection
JP6927015B2 (ja) * 2017-12-19 2021-08-25 オムロン株式会社 画像処理システムおよび画像処理方法
US20190244030A1 (en) * 2018-02-07 2019-08-08 Hitachi, Ltd. Object tracking in video using better object area
JP6927918B2 (ja) * 2018-04-23 2021-09-01 Kddi株式会社 信号機を道路レーンに割り当てる道路地図作成装置、プログラム及び方法
CN108831162B (zh) * 2018-06-26 2021-03-02 青岛科技大学 移动通信终端的交通信号控制方法及交通信号控制系统
US10373502B1 (en) 2018-07-26 2019-08-06 Fca Us Llc Techniques for detecting multiple turn lane driving scenarios and suppressing blind spot monitoring warnings
US10852743B2 (en) * 2018-09-07 2020-12-01 GM Global Technology Operations LLC Multimodal multi-technique signal fusion system for autonomous vehicle
US10870351B2 (en) * 2018-12-12 2020-12-22 Here Global B.V. Method and apparatus for augmented reality based on localization and environmental conditions
KR102505717B1 (ko) * 2019-01-29 2023-03-02 모셔널 에이디 엘엘씨 교통 신호등 추정
DE102019201666A1 (de) 2019-02-08 2020-08-13 Ford Global Technologies, Llc Verfahren zum Betrieb eines selbstfahrenden Kraftfahrzeugs
CN111723625B (zh) * 2019-03-22 2023-08-08 上海海拉电子有限公司 交通灯图像识别处理方法、装置、辅助通行系统及存储介质
CN113632100A (zh) * 2019-12-30 2021-11-09 深圳元戎启行科技有限公司 交通灯状态识别方法、装置、计算机设备和存储介质
CN111292531B (zh) * 2020-02-06 2022-07-29 阿波罗智能技术(北京)有限公司 交通信号灯的跟踪方法、装置、设备及存储介质
US11704912B2 (en) * 2020-06-16 2023-07-18 Ford Global Technologies, Llc Label-free performance evaluator for traffic light classifier system
US11328519B2 (en) 2020-07-23 2022-05-10 Waymo Llc Detecting traffic signaling states with neural networks
KR20220083002A (ko) * 2020-12-10 2022-06-20 현대자동차주식회사 차량

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7202776B2 (en) * 1997-10-22 2007-04-10 Intelligent Technologies International, Inc. Method and system for detecting objects external to a vehicle
JPH10339646A (ja) * 1997-06-10 1998-12-22 Toyota Motor Corp 車両用案内表示装置
EP2009414A1 (en) * 1999-01-14 2008-12-31 Panasonic Corporation Infrared imaging device, vehicle with the same, and infrared image adjusting device
US7552008B2 (en) * 2001-07-18 2009-06-23 Regents Of The University Of Minnesota Populating geospatial database for onboard intelligent vehicle applications
JP2007257303A (ja) * 2006-03-23 2007-10-04 Honda Motor Co Ltd 信号機認識装置
US20080122607A1 (en) * 2006-04-17 2008-05-29 James Roy Bradley System and Method for Vehicular Communications
JP4783431B2 (ja) * 2006-09-28 2011-09-28 パイオニア株式会社 交通情報検出装置、交通情報検出方法、交通情報検出プログラムおよび記録媒体
DE102006059659B4 (de) * 2006-12-18 2009-12-10 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zur Erkennung von Schriftzeichen in einem Bild
DE102006059663B4 (de) * 2006-12-18 2008-07-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zum Identifizieren eines Verkehrszeichens in einem Bild
JP4930315B2 (ja) * 2007-01-19 2012-05-16 株式会社デンソー 車内情報表示装置およびそれに用いられる光照射装置
JP4437556B2 (ja) * 2007-03-30 2010-03-24 アイシン・エィ・ダブリュ株式会社 地物情報収集装置及び地物情報収集方法
JP4558758B2 (ja) * 2007-05-07 2010-10-06 三菱電機株式会社 車両用障害物認識装置
KR100883066B1 (ko) * 2007-08-29 2009-02-10 엘지전자 주식회사 텍스트를 이용한 피사체 이동 경로 표시장치 및 방법
US8031062B2 (en) * 2008-01-04 2011-10-04 Smith Alexander E Method and apparatus to improve vehicle situational awareness at intersections
US8892342B2 (en) * 2008-06-25 2014-11-18 Toyota Jidosha Kabushiki Kaisha Driving support apparatus
CN102204238B (zh) * 2008-09-02 2014-03-26 瑞士联邦理工大学,洛桑(Epfl) 便携式设备上的图像标注
CN102084405A (zh) * 2009-03-11 2011-06-01 丰田自动车株式会社 驾驶辅助装置
US8977489B2 (en) * 2009-05-18 2015-03-10 GM Global Technology Operations LLC Turn by turn graphical navigation on full windshield head-up display
US8576069B2 (en) * 2009-10-22 2013-11-05 Siemens Corporation Mobile sensing for road safety, traffic management, and road maintenance
KR101729102B1 (ko) * 2009-10-27 2017-04-21 엘지전자 주식회사 이동 단말기의 내비게이션 방법 및 그 장치
JP5462609B2 (ja) * 2009-12-09 2014-04-02 富士重工業株式会社 停止線認識装置
US20120249795A1 (en) * 2009-12-16 2012-10-04 Pioneer Corporation Signal recognizing device, signal recognizing method and signal recognizing program
JP5440461B2 (ja) * 2010-09-13 2014-03-12 株式会社リコー 校正装置、距離計測システム、校正方法および校正プログラム
US8620032B2 (en) * 2011-05-10 2013-12-31 GM Global Technology Operations LLC System and method for traffic signal detection
US8692996B2 (en) * 2011-07-28 2014-04-08 Mesa Engineering, Inc. System and method for determining the state of a traffic signal
US9145140B2 (en) * 2012-03-26 2015-09-29 Google Inc. Robust method for detecting traffic signals and their associated states

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11462024B2 (en) 2019-07-26 2022-10-04 Toyota Jidosha Kabushiki Kaisha Traffic signal information management system

Also Published As

Publication number Publication date
US8831849B2 (en) 2014-09-09
US20150012200A1 (en) 2015-01-08
US9731661B2 (en) 2017-08-15
DE102013101175A1 (de) 2013-08-14
US20130211682A1 (en) 2013-08-15
JP2013164853A (ja) 2013-08-22

Similar Documents

Publication Publication Date Title
JP6196044B2 (ja) 交通信号認識システム及び方法
CN108571974B (zh) 使用摄像机的车辆定位
US10220841B2 (en) Method and system for assisting a driver of a vehicle in driving the vehicle, vehicle and computer program
EP2544161B1 (en) Surrounding area monitoring device for vehicle
US20200126425A1 (en) Information processing apparatus and information processing method
US20190213887A1 (en) Pedestrian detection apparatus and pedestrian detection method
CN111133447A (zh) 适于自主驾驶的对象检测和检测置信度
CN113950702A (zh) 在视频分析应用中使用相关滤波器的多对象跟踪
CN111382768A (zh) 多传感器数据融合方法和装置
US9576489B2 (en) Apparatus and method for providing safe driving information
US10843698B2 (en) Information processing system, information processing device, information processing method, and non-transitory computer readable storage medium storing program
CN110371018B (zh) 使用其他车辆车灯的信息改善车辆行为
US10495480B1 (en) Automated travel lane recommendation
CN111094095B (zh) 自动地感知行驶信号的方法、装置及运载工具
TWI595450B (zh) 物件偵測系統
US20180012087A1 (en) Warning device, warning method, and warning program
US20200207340A1 (en) Collision prediction device, collision prediction method, and program
JP5895728B2 (ja) 車群管理装置
CN113165653A (zh) 跟随车辆
US10943486B2 (en) Traveling safety control system using ambient noise and control method thereof
CN116547725A (zh) 一种车辆预警方法、装置、设备及存储介质
Ben Romdhane et al. A lane detection and tracking method for driver assistance system
CN114333414A (zh) 停车让行检测装置、停车让行检测系统以及记录介质
CN115437366A (zh) 障碍物追踪方法、装置、设备及计算机可读存储介质
CN116615765A (zh) 驾驶员状态检测方法、装置及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151202

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170110

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170410

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170627

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170718

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170817

R150 Certificate of patent or registration of utility model

Ref document number: 6196044

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350