JP6445024B2 - 交通標識認識方法と装置 - Google Patents

交通標識認識方法と装置 Download PDF

Info

Publication number
JP6445024B2
JP6445024B2 JP2016546142A JP2016546142A JP6445024B2 JP 6445024 B2 JP6445024 B2 JP 6445024B2 JP 2016546142 A JP2016546142 A JP 2016546142A JP 2016546142 A JP2016546142 A JP 2016546142A JP 6445024 B2 JP6445024 B2 JP 6445024B2
Authority
JP
Japan
Prior art keywords
image
traffic sign
image area
sign
movement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016546142A
Other languages
English (en)
Other versions
JP2016538665A (ja
JP2016538665A5 (ja
Inventor
クリステンセン・シュテーン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Conti Temic Microelectronic GmbH
Original Assignee
Conti Temic Microelectronic GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Conti Temic Microelectronic GmbH filed Critical Conti Temic Microelectronic GmbH
Publication of JP2016538665A publication Critical patent/JP2016538665A/ja
Publication of JP2016538665A5 publication Critical patent/JP2016538665A5/ja
Application granted granted Critical
Publication of JP6445024B2 publication Critical patent/JP6445024B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/255Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/30Noise filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • G06V20/63Scene text, e.g. street names

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Character Input (AREA)
  • Image Processing (AREA)

Description

本発明は、独立請求項に記載されているプレアンブルに係る交通標識の内容を認識するための方法と装置に関する。
最近のドライバー・アシスタント・システムには、例えば、法的制限速度を超過した場合などに、ドライバーに警告するために、電子式交通標識認識システムが装備されるようになってきている。この際、典型的には、カメラが、車両周辺部を撮影し、対応する画像データを、交通標識を認識するためにアルゴリズムを用いて該画像データを分析し分類する画像評価手段に、供給する。このような方法は、例えば、特許文献1より既知である。
このように認識された交通標識からの情報は、続いて、例えば、車両の複合計器に、その時点の法的制限速度が表示されるなど、ドライバー・アシスタント機能に提供される。
特許文献2は、例えば、レーン認識機能と交通標識認識機能など、夜間、異なる露出要求を有する二つのドライバー・アシスタント機能を、一台のカメラで実現することを可能にする、車搭カメラ用の照明制御の方法を、開示している。この方法によれば、特に、走行速度が高速である場合に、交通標識認識システムにおいて、所謂「motion−blur」、即ち、「動きによる不鮮明さ」を回避乃至最小限に抑えるのに十分に短い露出時間が選択でき、交通標識の内容を認識することができる。
道路交通に設置されている交通標識には、或いは、道路標識の多くには、一枚、或いは、複数枚の、本標識の意味を具体化する、或いは、状況に応じてそれを制限する補助標識が取り付けられている。
特許文献3は、補助標識が、パターン認識方法によって可能な限りクラス分類され、補助標識テキストが、文字認識方法によって読まれ、解釈され、該クラス分類が、まだ、或いは、完全には実施できなかった場合において重要性(関連性)推定が実施される場合は、認識されたテキストが、状況データと比較される交通標識を認識するための方法を開示している。
交通標識のテキスト内容や、特に、バリアブルなテキストエレメントを読み取る場合における根本的な困難さは、十分な解像度と鮮明さ(シャープネス)を備えた画像が必要とされることである。
独国特許出願公開第19852631号明細書 国際公開第2009/135460号 国際公開第2013/017125号
T. S. Cho, S. Paris, W. T. Freeman, B. Horn:Blur kernel estimation using the Radon transform, 2011 IEEE Conference on Computer Vision and Pattern Recognition (CVPR) M. Irani, S. Peleg:Improving resolution by image registration, CVGIP: Graphical Models and Image Processing, Vol. 53, No. 3, S. 231−239, 1991 T. S. Cho, S. Paris, W. T. Freeman, B. Horn:Blur kernel estimation using the Radon transform, 2011 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)
よって、本発明の課題は、この困難さと向き合い、迅速かつ信頼性の高い、バリアブルなテキスト要素を包含する交通標識の内容を認識する方法を提供することである。
本発明によれば、上記目的は、独立請求項に記載されている特徴によって達成される。本発明の好ましい発展形態は、従属請求項に記載されているが、各好ましい特徴を組み合わせること、並びに、これらの発展形態も可能であることは言うまでもない。
本発明の出発点は、以下の様な考察であった:
昨今、カメラは、基本的には、良好な解像度と鮮明さを提供できるが、走行する車両においてカメラを用いると言う条件下では、(特に暗闇においての)露出時間、採用されているレンズや組レンズのクオリティ、画像撮影センサーの選択されている解像度などの全てが、交通標識を完全に認識するために常に十分であるとは言い難い。
経済的理由から、車載カメラの画像クオリティ、即ち、レンズのクオリティ、イメージャの解像度や感度を、バリアブルなテキスト要素を含む交通標識や掲示板の解読が、近い将来において可能になるほど急速に改善されることは不可能であると考えられるため、本発明では、交通標識の動きによる不鮮明さを、画像或いは画像シーケンスにおいて割り出そうと言うアプローチを追及している。
本発明に係る走行中の車両からカメラによって交通標識を認識するための方法は、以下のステップを包含している:
−車両周辺部において少なくとも一枚の画像をカメラで撮影するステップ、
−該撮影された少なくとも一枚の車両周辺部の画像内に、少なくとも一枚の交通標識が存在するか否かを割り出すステップ、
−存在が確認された交通標識がある画像領域における動きによる不鮮明さを割り出すステップ、
−該画像領域の動きによる不鮮明さを計算し、画像領域を鮮明化するステップ、並びに、
−鮮明化された画像領域を考慮して、交通標識を認識するステップ。
該カメラは、特に、前方に向けられたモノカメラ、例えば、フロントガラスの後ろの内部ミラー付近に配置される、カラー解像度を有する画像撮影センサー(CMOSやCCD)であることが好ましい。代案的には、ステレオ・カメラが、車両周辺部の空間的情報も得られると言う利点を有している。
該一枚の画像、或いは、画像シーケンスからは、好ましくは、交通標識認識機能に加え、他のカメラベースのドライバー・アシスタント機能、例えば、レーン逸脱警告、レーン維持サポート、自動ハイビーム制御、衝突警告、降水認識、自動クルーズ・コントロール、駐車サポート、自動緊急ブレーキ、及び/或いは、非常操舵システムなども実施できる。
動きによる不鮮明さの割り出しには、動きによる不鮮明さの推定だけでなく、動きによる不鮮明さの計算、特に、動きによる不鮮明さの核(「blur kernel」)や点像不鮮明関数/点像分布関数(「point spread function」)なども包含される。続いて、動きによる不鮮明さの撮影された画像への影響を、不鮮明な画像、或いは、不鮮明な画像領域の歪みを補正(deconvolution)することにより、割り出すことができる。これにより、画像(領域)が、鮮明化される。
鮮明化された画像領域を考慮した交通標識の認識は、パターン認識、クラス分類、或いは、テキスト認識(OCR)によって、実施できる。
本発明に係る方法は、動きによる不鮮明さの走行中の車両のカメラの交通標識を包含する周辺領域画像への影響が、緩和され、場合によっては、抹消され、交通標識の信頼性高い、完全な認識が可能になると言う長所を提供する。
ある好ましい実施形態においては、「鮮明化された画像領域を考慮して、交通標識を認識する」ステップは、鮮明化された画像領域のテキスト認識も包含している。これにより、交通標識内のバリアブルなテキスト要素の完全な認識が可能になる。
尚、動きによる不鮮明さの割り出しにおいては、車両自らの動きを示すデータが評価されることが好ましい。走行中に撮影された交通標識の動きによる不鮮明さは、カメラの動き、即ち、車両内部に固定されたカメラの場合、車両固有運動にのみ起因している。この原因は、リアルタイムな車両固有運動に関する情報から、更には、オプションとしてカメラ・システムの撮影特性やカメラと交通標識間の幾何学的関係とを組み合わせることで計算上考慮することができる。この様なデータは、例えば、車両運動センサーから得ることができる。画像データ評価からも、とくにステレオ・カメラの場合、車両固有運動を割り出す手掛かりが得られる。
ある好ましい実施形態によれば、存在が確認された交通標識が写っている画像領域内の動きによる不鮮明さを割り出すために、該画像領域のエッジが割り出され、評価される。不鮮明な画像内のエッジから動きによる不鮮明さを推定するアプローチとしては、T. S. Cho, S. Paris, W. T. FreemanとB. Hornが、非特許文献1の「”Blur kernel estimation using the Radon transform“, 2011 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)」に、開示している。
交通標識の不変的要素が、撮影された画像から交通標識を部分的に認識するために用いられることが好ましい。即ち、部分的に認識された交通標識に相当する予め定められたテンプレート・交通標識が、該画像領域の動きによる不鮮明さの割り出しに用いられる。続いて、鮮明化された画像領域を考慮した上で、交通標識の変わり得る要素を認識する。これにより、交通標識、特に、本標識は、動きによる不鮮明さを推定している時には既に、部分的に、場合によっては、完全に認識されている、即ち、動きによる不鮮明さを除いた概観(テンプレート・交通標識)は、既知であることから、動きによる不鮮明さを割り出す際にこれを考慮することができる。
好ましい発展形態においては、該不変的要素には、本標識の形状と枠も包含される。よって、変わり得る要素とは、本標識の枠に囲まれた画像領域の内容である。
画像領域は、少なくとも本標識と該本標識に帰属する全ての補助標識を包含するように形成されることが好ましい。言うまでもなく、該本標識に一枚の補助標識のみが帰属している場合は、補助標識は一枚のみである。不変的要素としては、少なくとも一枚の本標識が完全に認識され、変わり得る要素としては、該一枚の或いは複数枚の補助標識の内容が認識される。これは、補助標識の枠(明確なエッジ)が、頻繁に認識しにくいこと、また、補助標識には、全てを予めトレーニングして置くことは不可能な変更され得る要素が含まれることから、有利な方法である。
代案的な好ましい実施形態では、画像内の各々の交通標識(本標識や補助標識)用に個別の画像が作成される。続いて、少なくとも二枚の交通標識が、特に、それらの幾何学的位置関係に基づいて、互いに関連付けられる。第一と第二、場合によっては、更なる画像領域内において二枚の交通標識の帰属関係が認識された場合、動きによる不鮮明さは、第一画像領域用にのみ割り出され、第二並びに他の画像領域にもそれが転用される。第一画像領域は、本標識を包含している、特に、テキスト認識無しに、完全に認識できる本標識を包含していることが好ましい。
鮮明でない領域において補助標識を認識することは、困難な場合が多い。動きによる不鮮明さを、まだ判明していない補助標識に対してではなく、それに帰属している本標識(例えば、制限速度や追い越し禁止の標識)に対して計算することで、計算は、著しく容易、且つ、正確になる。その理由としては、本標識の方が大きく、鮮明な赤い枠を有しているため、より良好に検出可能であることが挙げられる。本標識と補助標識は、直接的に、上下、或いは、左右に配置されており、同じ画像内で捕捉できるため、双方の標識に対する動きによる不鮮明さのパラメータは、略同じであるため、本標識のものを補助標識に転用することができる。
鮮明化された画像領域を考慮しても交通標識の認識に成功しなかった、或いは、不確かな場合は、カメラによって連続して撮影され、同一の交通標識が写っている、複数の画像から抽出され、鮮明化された画像領域を合成して非常に鮮明な画像領域を作成することが好ましい。即ち、「鮮明化された画像領域を考慮して、交通標識を認識する」ステップまでの全てのメインステップを連続する画像に対して反復する。続いて、同一の交通標識が映っている複数の鮮明化された画像領域から、合成によって非常に鮮明な画像領域が算出される。この様な、より高解像度の合成画像を作成するための方法は、例えば、非特許文献2「”Improving resolution by image registration“、M. Irani, S. Peleg著、CVGIP: Graphical Models and Image Processing, Vol. 53, No. 3, S. 231−239, 1991」等から既知である。低クオリティの例えば補助標識が映っている連続する複数のカメラによる実写からでも、高クオリティの、テキスト認識によって読み取ることが可能な合成画像を計算することができる。
このように、交通標識は、合成された非常に鮮明な画像領域を考慮することにより、認識されることができるが、この方法によれば、交通標識認識機能の信頼性と稼働率も向上している。
更に本発明は、走行中の車両から車両周辺部の少なくとも一枚の画像を撮影するためのカメラと画像評価ユニットを包含する装置であって、該画像評価ユニットが、撮影された画像から一枚の或いは複数枚の交通標識(Hz, Zz)の存在を認識し、存在が認識された交通標識(Hz, Zz)が映っている画像領域の動きによる不鮮明さを割り出し、該画像領域内の動きによる不鮮明さを算出し、該画像領域を鮮明化し、該鮮明化された画像領域を考慮することにより交通標識(Hz, Zz)認識し、対応する出力シグナルを作成することのできる交通標識を認識するための装置にも関する。
本発明の他の長所は、明細書内の説明、及び、図によって開示される。実施例を図に簡略的に示し、以下に詳しく説明する。
可変的要素の交通標識の例であり、(a)は、本標識を示す図である。 可変的要素の交通標識の例であり、(b)は、補助標識を示す図である。 バリアブルなテキスト内容を有する本標識を示す図である。 速度を制限する本標識とフランス語のテキストが書かれた補助標識を示す図である。 本標識とそれに帰属する補助標識を示す図である。
図1は、可変的要素、特に、バリアブルなテキスト内容の交通標識を示している:図1aは、バリアブルなテキスト内容の本標識、即ち(左から順に)、実重5.5トン以上の車両の、実幅(アウターミラーを含む)2メートル以上の車両の、並びに、実軸荷重8トン以上の車両の進入を禁止する標識を示している。
図2bは、帰属している本標識(図示せず)の有効範囲、即ち、本標識から600メートルまでの範囲においてのみ、8時から11時と16時から18時の時間帯のみ、並びに、実重7.5トン以上の車両に対してのみ、有効であると言うことを定めたバリアブルなテキスト内容の補助標識を示している。図1の交通標識では、特に数値が、「バリアブルなテキスト内容」である。この様な交通標識の、特にパターン認識による、完全な認識は、困難である。しかし、テキスト認識(例えば、OCR)には、これら標識の十分な解像度と鮮明さを有する撮影画像が必要である。走行中の車両から車載カメラによって撮影された画像には、車両の動き、即ち、カメラの交通標識に対する相対的な動きに起因する不明瞭さが伴う。動きによる不鮮明さは、英語では、「motion blur」と呼ばれている。カメラ画像の撮影の際に、露出時間が短ければ短いほど、動きによる不鮮明さは、僅かになる。しかし暗所では、撮影された画像データにおいて、少なくとも何某かを認識するためには、相応の最短露出時間が必要である。
図1に例示した交通標識(Hz, Zz)などでは特に、画像撮影時の動きによる不鮮明さから、カメラベースのドライバー・アシスタント・システムによって、これらは、常に完全には認識し得ない。これに対処するため、本発明に係る実施例では、カメラによって撮影された車両周辺部の画像において、先ず交通標識(Hz, Zz)の存在が検索される。ある画像領域に交通標識(Hz, Zz)が割り出された場合、該画像領域の動きによる不鮮明さが割り出される(算出される、或いは、少なくとも推定される)。この計算や推定は、特に、携帯電話用のカメラや手持ちされ、撮影時にブレた画像になりやすい写真用のカメラにおける最新の研究対象である。該動きによる不鮮明さは、「blur kernel」(動きによる不鮮明さの核)や「point spread function」(点像分布関数)として割り出される。そして、これらを用いることによってのみ、不鮮明な画像を、正しく歪み補正(deconvolution)して、鮮明な画像に変換できる。
不鮮明な画像内のエッジから核を推定するアプローチの例としては、非特許文献3「”Blur kernel estimation using the Radon transform” T. S. Cho, S. Paris, W. T. Freeman, B. Horn, 2011 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)」が挙げられる。
交通標識認識機能のためには、二つの、このアプローチが有利であると思われる事情がある:交通標識(Hz, Zz)は、明確なエッジを有している、そして(可変的要素(V)を除けば)不変的な交通標識要素(S)の鮮明な映像は、既知であり、例えば、一般的な禁止標識は、特別な禁止標識のテンプレートとしてみなすことができる。これら双方が、非特許文献3の著者Choらが提案している動きによる不鮮明さを推定し、歪み補正するためのソリューションを効果的に用いることを可能にしている。
続いて、割り出された動きによる不鮮明さの影響を、該画像領域から差し引き、鮮明化された画像領域を得る。交通標識(Hz, Zz)の完全な認識、特に、テキスト認識を用いたバリアブルなテキストの解読は、上記のごとく鮮明化された画像領域を考慮して実施される。
図2から4により、本発明の好ましい実施例を詳しく説明する。
図2は、図1aの第一の交通標識:「実重5.5トン以上の車両の進入禁止」を示している。
この交通標識は、不変的要素(S)、即ち、禁止標識において典型的な、形状と枠、要するに、本質的に赤いリングと、可変的要素(V)、即ち、ここでは、「5.5t」に分割することができる。カメラベースの交通標識認識機能においては、撮影された動きによる不鮮明さのある画像データからでも、この交通標識(Hz)が、禁止標識であることは、認識可能であることが多い。一方、何を禁止しているのか、或いは、誰に対しての禁止なのかは、撮影された動きによる不鮮明さのある画像データからは、テキスト認識が成功するにはノイズが多過ぎるため、直接的に認識できないことが多い。よって、交通標識(Hz)が写っている画像領域用の動きによる不鮮明さを割り出す、或いは、推定する。禁止標識の円形と赤色の枠は、認識しやすいため、そして、動きによる不鮮明さを推定する時点では既に、それが認識できていることから、動きによる不鮮明さを差し引いたその外観は既知である。そして、動きによる不鮮明さの推定は、円形の赤い枠内の画像領域(V)を、動きによる不鮮明さを差し引くことで鮮明化するために用いられる。続いて、画像領域(V)の内部の認識、即ち、テキスト認識が可能になり、その内容である文字「5.5t」が、得られる。これにより、該交通標識の規制内容が、即ち、実重5.5トン以上の車両は進入禁止であることが、完全に捕捉される。この情報は、車両のドライバーに伝達される(例えば、複合計器内に対応するシンボルを表示する)、或いは、車両の現在の実質重量、或いは、最大重量と比較して、関係ない場合(例えば、乗用車の場合)破棄される、或いは、交通標識認識手段から車両ナビゲーション装置や自律的車両制御装置へ出力されることができる。
図3は、法的制限速度を50km/hに制限する本標識(Hz)と、フランス語で「par temps de pluie」と書かれた、即ち、帰属する本標識の制限速度が、雨天、乃至、路面が濡れている場合にのみ有効であることを意味する補助標識(Zz)とを示している。厳密にいえば、このテキストは、フランスでは、バリアブルではないが、できるだけ多くの国々、乃至、できるだけ多くの言語において、補助標識の内容を認識し、解釈できる交通標識認識機能を得るためには、このようなテキストを、テキスト内容に関する予備知識を持つことなく、個々のアルファベットとして解読できる方が望ましい。そのためこれは、本発明の範囲では、認識されるべき、バリアブルなテキスト要素(V)として扱われる。バリアブルなテキスト要素を認識すれば、少なくとも、このテキストを制限速度に対する付加的情報として、ドライバーのために、複合計器内に表示すること、或いは、車両データベースやクラウドにおいて、認識された言葉の意味や翻訳を検索することは、可能である。
本方法のある実施形態によれば、主標識(Hz)と帰属されている夫々の補助標識(Zz)を包含する様に、該画像領域が作成される。この様にすることで、この画像領域全体に対する動きによる不鮮明さを、本標識(Hz)の動きによる不鮮明さから割り出すことが可能になる。尚、制限速度の値の種類は、それほどは多くないため、本標識全体を、不変的要素(S)として扱うことも可能である。続いて、図2でのやり方と同様に、可変的要素(V)を、ここでは、補助標識(Zz)を、割り出された動きによる不鮮明さを考慮して鮮明化された画像領域から、認識、乃至、解読する。
図4は、本標識(Hz)、即ち、「野獣横断注意」の危険標識と、これに帰属する該危険標識の有効区間を「区間3km」に制限する補助標識(Zz)を示している。
ある有利な実施形態によれば、本標識(Hz)と補助標識(Zz)は、二枚の独立した交通標識として認識され、これに相当する二か所の独立した画像領域が作成される。続いて、双方の交通標識(Hz, Zz)が、互いに帰属しているか否かが検証される。ここでは、本標識が、補助標識の真上にあると言う配置から帰属関係が認識される。先ず、動きによる不鮮明さが、該画像領域(Hz)が写っている第一領域に関して割り出される。これは、テキスト認識を必要とすることなく、完全に認識可能である:実際は、撮影された(不鮮明な)画像からでも、認識は、可能かもしれないが、ここでは、動きによる不鮮明さの推定と、これに続く歪み補正後に、認識が成功すると仮定する。いずれにせよ、本標識(Hz)の画像領域用の動きによる不鮮明さの計算/推定は、格段に容易、且つ、正確である。その理由としては、本標識の方が大きく、ここでは三角形の、鮮明な赤い枠を有しているため、良好に検出可能であることが挙げられる。本標識(Hz)と補助標識(Zz)は、直接的に、上下、或いは、左右に配置されており、同じ画像内で捕捉できるため、双方の標識に対する動きによる不鮮明さのパラメータは、略同じであるため、本標識(Hz)のものを補助標識(Zz)に転用することができる。これにより、補助標識(Zz)が写っている画像領域の歪み補正が、直接的に実施でき、続いて、補助標識(Zz)の内容を鮮明化された画像領域内で認識、乃至、解読できる。
これでも補助標識(Zz)を完全に解読できない場合、本方法の発展的形態では、更に、カメラによって連続して撮影され、該補助標識(Zz)が写っている、複数の画像から、上記同様に抽出され、鮮明化された画像領域を合成して非常に鮮明な画像領域が作成される。この合成された非常に鮮明な画像領域により、補助標識(Zz)の完全な認識と、本標識(Hz)と補助標識(Zz)の組み合わせによる規制内容が、解読される。

Claims (9)

  1. −車両周辺部において少なくとも一枚の画像をカメラで撮影するステップ、
    −該撮影された少なくとも一枚の車両周辺部の画像内に、少なくとも一枚の交通標識(Hz,Zz)が存在するか否かを割り出すステップ、
    −存在が確認された交通標識(Hz,Zz)がある画像領域における動きによる不鮮明さを割り出すステップ、
    −該画像領域の動きによる不鮮明さを計算し、画像領域を鮮明化するステップ、並びに、−鮮明化された画像領域を考慮して、交通標識(Hz,Zz)を認識するステップ、
    を有する、走行中の車両からカメラによって交通標識を認識するための方法において、
    交通標識(Hz,Zz)の不変的要素(S)を、撮影された画像から割り出された交通標識の部分的認識のために用い、
    該部分的に認識された画像に相当するテンプレート・交通標識を、該画像領域内の動きによる不鮮明さの割り出しの際に考慮し、
    鮮明化された画像領域を考慮して、交通標識(Hz,Zz)の可変的要素(V)を、割り出された交通標識について認識する、
    ことを特徴とする方法
  2. 鮮明化された画像領域の考慮下での交通標識(Hz,Zz)の認識に、鮮明化された画像領域内でのテキスト認識が包含されることを特徴とする請求項1に記載の方法。
  3. 動きによる不鮮明さを割り出すために、車両の自己運動を示すデータが、評価されることを特徴とする請求項1或いは2に記載の方法。
  4. 動きによる不鮮明さを割り出すために、存在が確認された交通標識(Hz,Zz)が写っている画像領域内においてエッジが割り出され、評価されることを特徴とする請求項1乃至3のうち何れか一項に記載の方法。
  5. 不変的要素(S)が、本標識(Hz)の形状と枠を包含していることを特徴とする請求項1乃至4のうち何れか一項に記載の方法。
  6. 該画像領域が、少なくとも一枚の本標識(Hz)と、この本標識に帰属する全ての補助標識(Zz)を包含するように作成されるが、不変的要素としては、少なくとも一枚の本標識(Hz)全体が認識され、可変的要素としては、該一枚の或いは複数枚の補助標識(Zz)の内容が認識されることを特徴とする請求項1乃至5のうち何れか一項に記載の方法。
  7. 各々の交通標識(Hz乃至Zz)用に、独立した画像領域が作成されるが、続いて、少なくとも二枚の交通標識(Hz,Zz)が互いに帰属しているか否かが確かめられ、帰属が確認された場合、本標識を包含する第一画像領域用にのみ動きによる不鮮明さが割り出され、これに帰属する他の画像領域にもそれが転用されることを特徴とする請求項に記載の方法。
  8. 鮮明化された画像領域を考慮しても交通標識(Hz,Zz)の認識に成功しなかった、或いは、不確かな場合に、カメラによって連続して撮影され、同一の交通標識(Hz,Zz)が写っている、複数の画像から抽出され、鮮明化された画像領域を合成して非常に鮮明な画像領域を作成し、この非常に鮮明な画像領域を考慮して交通標識(Hz,Zz)を認識することを特徴とする請求項1乃至のうち何れか一項に記載の方法。
  9. 走行中の車両から車両周辺部の少なくとも一枚の画像を撮影するためのカメラと画像評価ユニットを包含する装置であって、該画像評価ユニットが、撮影された画像から一枚の或いは複数枚の交通標識(Hz,Zz)の存在を認識し、存在が認識された交通標識(Hz,Zz)が映っている画像領域の動きによる不鮮明さを割り出し、該画像領域内の動きによる不鮮明さを算出し、該画像領域を鮮明化し、該鮮明化された画像領域を考慮することにより交通標識(Hz,Zz)認識し、対応する出力シグナルを作成することができ交通標識を認識するための装置において、
    交通標識(Hz,Zz)の不変的要素(S)を、撮影された画像から割り出された交通標識の部分的認識のために用い、
    該部分的に認識された画像に相当するテンプレート・交通標識を、該画像領域内の動きによる不鮮明さの割り出しの際に考慮し、
    鮮明化された画像領域を考慮して、交通標識(Hz,Zz)の可変的要素(V)を、割り出された交通標識について認識する、
    ことを特徴とする装置
JP2016546142A 2013-10-01 2014-09-04 交通標識認識方法と装置 Active JP6445024B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102013219909.0A DE102013219909A1 (de) 2013-10-01 2013-10-01 Verfahren und Vorrichtung zur Erkennung von Verkehrszeichen
DE102013219909.0 2013-10-01
PCT/DE2014/200444 WO2015048954A1 (de) 2013-10-01 2014-09-04 Verfahren und vorrichtung zur erkennung von verkehrszeichen

Publications (3)

Publication Number Publication Date
JP2016538665A JP2016538665A (ja) 2016-12-08
JP2016538665A5 JP2016538665A5 (ja) 2017-09-21
JP6445024B2 true JP6445024B2 (ja) 2018-12-26

Family

ID=51627910

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016546142A Active JP6445024B2 (ja) 2013-10-01 2014-09-04 交通標識認識方法と装置

Country Status (5)

Country Link
US (1) US9697430B2 (ja)
EP (1) EP3053097A1 (ja)
JP (1) JP6445024B2 (ja)
DE (2) DE102013219909A1 (ja)
WO (1) WO2015048954A1 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102011109387A1 (de) 2011-08-04 2013-02-07 Conti Temic Microelectronic Gmbh Verfahren zur Erkennung von Verkehrszeichen
WO2016058634A1 (en) * 2014-10-14 2016-04-21 Toyota Motor Europe Nv/Sa Systems and methods for traffic sign assistance
DE102014221803A1 (de) * 2014-10-27 2016-04-28 Robert Bosch Gmbh Verfahren und Vorrichtung zum Bestimmen einer momentan vorliegenden Fahrsituation
DE102015217621A1 (de) 2015-09-15 2017-03-16 Robert Bosch Gmbh Verfahren und Vorrichtung zum Betreiben wenigstens eines Fahrzeugs
JP6540482B2 (ja) * 2015-12-04 2019-07-10 株式会社デンソー 情報処理システム、情報処理装置及び出力制御方法
JP6255002B2 (ja) * 2015-12-22 2017-12-27 本田技研工業株式会社 車両用標識表示装置及び方法
DE102016003424B4 (de) * 2016-03-21 2023-09-28 Elektrobit Automotive Gmbh Verfahren und Vorrichtung zum Erkennen von Verkehrszeichen
US10325339B2 (en) 2016-04-26 2019-06-18 Qualcomm Incorporated Method and device for capturing image of traffic sign
US10845199B2 (en) * 2016-06-10 2020-11-24 Apple Inc. In-venue transit navigation
DE102016118538A1 (de) * 2016-09-29 2018-03-29 Valeo Schalter Und Sensoren Gmbh Verfahren zum Klassifizieren eines Verkehrszeichens in einem Umgebungsbereich eines Kraftfahrzeugs, Rechenvorrichtung, Fahrerassistenzsystem sowie Kraftfahrzeug
US10607094B2 (en) * 2017-02-06 2020-03-31 Magna Electronics Inc. Vehicle vision system with traffic sign recognition
DE102017208854A1 (de) 2017-05-24 2018-11-29 Volkswagen Aktiengesellschaft Verfahren, Vorrichtungen und computerlesbares Speichermedium mit Instruktionen zum Ermitteln von geltenden Verkehrsregeln für ein Kraftfahrzeug
DE102017007055A1 (de) * 2017-07-26 2019-01-31 Trw Automotive Gmbh System und Verfahren zur Unterstützung eines Fahrers eines Kraftfahrzeuges bei der Erkennung von Verkehrszeichen
US10699141B2 (en) 2018-06-26 2020-06-30 Waymo Llc Phrase recognition model for autonomous vehicles
US10928828B2 (en) 2018-12-14 2021-02-23 Waymo Llc Detecting unfamiliar signs
TWI745752B (zh) 2019-09-23 2021-11-11 神達數位股份有限公司 行車輔助方法及系統與電腦程式產品
US11183055B2 (en) * 2020-03-12 2021-11-23 Here Global B.V. Methods and systems for classifying a speed sign
JP2022155283A (ja) * 2021-03-30 2022-10-13 パナソニックIpマネジメント株式会社 車両用表示制御装置及び車両用表示制御方法
US12008819B2 (en) 2021-08-04 2024-06-11 Telenav, Inc. Navigation system with mono-camera based traffic sign tracking and positioning mechanism and method of operation thereof
US11861915B2 (en) 2021-09-03 2024-01-02 Waymo Llc Pipeline architecture for road sign detection and evaluation
WO2024043485A1 (ko) * 2022-08-26 2024-02-29 삼성전자주식회사 텍스트를 포함하는 이미지를 처리하기 위한 전자 장치 및 방법
DE102022129968A1 (de) 2022-11-14 2024-05-16 Valeo Schalter Und Sensoren Gmbh Verfahren zum betreiben eines fahrzeugs, computerprogrammprodukt, steuervorrichtung und fahrzeug

Family Cites Families (75)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5930179A (ja) 1982-08-10 1984-02-17 Agency Of Ind Science & Technol パタ−ンの線分近似方式
DE3587220T2 (de) 1984-01-13 1993-07-08 Komatsu Mfg Co Ltd Identifizierungsverfahren von konturlinien.
JPH0610838B2 (ja) * 1985-11-15 1994-02-09 日本電装株式会社 走行する車両からの標識認識装置
US4901362A (en) 1988-08-08 1990-02-13 Raytheon Company Method of recognizing patterns
US5054094A (en) 1990-05-07 1991-10-01 Eastman Kodak Company Rotationally impervious feature extraction for optical character recognition
US5740274A (en) 1991-09-12 1998-04-14 Fuji Photo Film Co., Ltd. Method for recognizing object images and learning method for neural networks
US5594806A (en) 1994-06-20 1997-01-14 Personnel Identification & Entry Access Control, Inc. Knuckle profile indentity verification system
US6408109B1 (en) 1996-10-07 2002-06-18 Cognex Corporation Apparatus and method for detecting and sub-pixel location of edges in a digital image
DE19842176A1 (de) * 1998-09-15 2000-03-16 Bosch Gmbh Robert Verfahren und Vorrichtung zur Verkehrszeichenerkennung und Navigation
DE19852631C2 (de) 1998-11-14 2001-09-06 Daimler Chrysler Ag Vorrichtung und Verfahren zur Verkehrszeichenerkennung
DE19938256B4 (de) 1999-08-12 2010-07-15 Volkswagen Ag Verfahren und Einrichtung zur elektronischen Erkennung von Verkehrszeichen
DE19948734A1 (de) 1999-10-09 2001-04-12 Volkswagen Ag Verfahren und Einrichtung zum navigationsgestützten Befahren von Straßenstrecken
US7034848B2 (en) 2001-01-05 2006-04-25 Hewlett-Packard Development Company, L.P. System and method for automatically cropping graphical images
US6937747B2 (en) 2001-09-24 2005-08-30 Hewlett Packard Development Company, L.P. System and method for capturing non-audible information for processing
US6888892B2 (en) 2001-12-10 2005-05-03 University Of Washington Method for padding macroblocks
US6842177B2 (en) 2001-12-14 2005-01-11 University Of Washington Macroblock padding
US20030202683A1 (en) 2002-04-30 2003-10-30 Yue Ma Vehicle navigation system that automatically translates roadside signs and objects
DE10311240B4 (de) 2003-03-14 2017-03-02 Robert Bosch Gmbh Verfahren und Einrichtung für die Spurführung eines Fahrzeugs
DE10334620B4 (de) 2003-07-30 2023-07-06 Robert Bosch Gmbh Generierung von Verkehrshinweisen durch die Interpretation von Verkehrszeichenszenarien und Navigationsinformation in einem Fahrzeug
ATE382848T1 (de) 2003-08-14 2008-01-15 Harman Becker Automotive Sys Computergestütztes system und verfahren zur informationsausgabe an einen fahrer eines fahrzeuges
DE10338455A1 (de) 2003-08-21 2005-04-14 Robert Bosch Gmbh Fahrerinformationsvorrichtung
DE10343941A1 (de) 2003-09-23 2005-05-12 Bosch Gmbh Robert Verfahren zur Ausgabe von Verkehrsregeln und Fahrerinformationsvorrichtung
JP3922245B2 (ja) 2003-11-20 2007-05-30 日産自動車株式会社 車両周辺監視装置および方法
DE102004013440A1 (de) 2004-03-18 2005-10-06 Siemens Ag Verfahren und Vorrichtung zur Präzisierung der Fahranweisungen eines Navigationssystems
US7526103B2 (en) 2004-04-15 2009-04-28 Donnelly Corporation Imaging system for vehicle
JP4389708B2 (ja) 2004-07-21 2009-12-24 株式会社デンソー 車両用表示装置およびその表示方法
US7466841B2 (en) * 2004-08-16 2008-12-16 Siemens Corporate Research, Inc. Method for traffic sign detection
US20060098877A1 (en) 2004-11-09 2006-05-11 Nick Barnes Detecting shapes in image data
US7346222B2 (en) * 2005-02-07 2008-03-18 Motorola, Inc. Object-of-interest image de-blurring
DE102005017541A1 (de) 2005-04-16 2006-10-19 Adc Automotive Distance Control Systems Gmbh Verfahren zur Erkennung von kreisförmigen Objekten
JP4645516B2 (ja) 2005-08-24 2011-03-09 株式会社デンソー ナビゲーション装置及びプログラム
US20070081739A1 (en) 2005-10-11 2007-04-12 International Business Machines Corporation Modifying text or images when defect pixels are found on a display
DE102005052175A1 (de) 2005-11-02 2007-05-24 Robert Bosch Gmbh Verfahren und System zur Ausgabe von Informationen zu spezifischen Bestimmungen und/oder Beschränkungen für Fahrzeuge
DE102005062154B4 (de) 2005-12-22 2007-10-31 Daimlerchrysler Ag Erzeugung großer realistischer Trainingsproben für Klassifikatoren aus wenigen Beispielen
JP4694397B2 (ja) 2006-03-28 2011-06-08 株式会社トヨタマップマスター 案内システム
DE102006023544A1 (de) 2006-05-19 2007-11-22 GM Global Technology Operations, Inc., Detroit Verfahren und Vorrichtung zum Betrieb eines Kraftfahrzeugs mit einer Unterstützungsfunktion
US7831098B2 (en) 2006-11-07 2010-11-09 Recognition Robotics System and method for visual searching of objects using lines
DE102006053289A1 (de) 2006-11-13 2008-05-15 Robert Bosch Gmbh Verfahren und Vorrichtung zur Bestimmung einer Durchfahrmöglichkeit in einem Fahrzeug
US8064643B2 (en) * 2006-12-06 2011-11-22 Mobileye Technologies Limited Detecting and recognizing traffic signs
DE102006059663B4 (de) 2006-12-18 2008-07-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zum Identifizieren eines Verkehrszeichens in einem Bild
JP2008176357A (ja) 2007-01-16 2008-07-31 Fujitsu Ten Ltd 異常診断システム及び診断情報管理装置
DE102007002562A1 (de) 2007-01-17 2008-07-24 Audi Ag Verfahren und Vorrichtung zur dynamischen Klassifikation von Objekten und/oder Verkehrssituationen
JP2008203992A (ja) 2007-02-16 2008-09-04 Omron Corp 検出装置および方法、並びに、プログラム
DE102007010013A1 (de) 2007-03-01 2008-09-04 Siemens Ag Fahrerassistenzsystem zur Einhaltung von örtlich unterschiedlichen Verkehrsregelungen
DE102007021576A1 (de) 2007-05-08 2008-11-13 Hella Kgaa Hueck & Co. Verfahren und Vorrichtung zum Bestimmen der Position eines Verkehrszeichens
JP2010535367A (ja) 2007-05-25 2010-11-18 コンチネンタル・テーヴエス・アクチエンゲゼルシヤフト・ウント・コンパニー・オツフエネハンデルスゲゼルシヤフト 交通にとって重要な情報を認識するための方法及び装置
EP2026313B1 (en) 2007-08-17 2011-02-23 Magneti Marelli S.p.A. A method and a system for the recognition of traffic signs with supplementary panels
US8233670B2 (en) 2007-09-13 2012-07-31 Cognex Corporation System and method for traffic sign recognition
JP5194679B2 (ja) 2007-09-26 2013-05-08 日産自動車株式会社 車両用周辺監視装置および映像表示方法
EP2048597A1 (de) 2007-10-10 2009-04-15 Delphi Technologies, Inc. Verfahren zur Objekterfassung
ATE452379T1 (de) 2007-10-11 2010-01-15 Mvtec Software Gmbh System und verfahren zur 3d-objekterkennung
JP4985362B2 (ja) 2007-11-30 2012-07-25 アイシン・エィ・ダブリュ株式会社 ナビゲーション装置、ナビゲーション方法およびナビゲーションプログラム
US8370755B2 (en) 2007-12-27 2013-02-05 Core Wireless Licensing S.A.R.L. User interface controlled by environmental cues
DE102008010968A1 (de) 2008-02-25 2009-09-17 Robert Bosch Gmbh Anzeige eines relevanten Verkehrszeichens oder einer relevanten Verkehrseinrichtung
DE102008014630A1 (de) * 2008-03-17 2009-09-24 Hella Kgaa Hueck & Co. Verfahren und Vorrichtung zum Verarbeiten von Bilddaten
DE102008022064A1 (de) 2008-05-03 2009-11-05 Adc Automotive Distance Control Systems Gmbh Verfahren zur Belichtungssteuerung für eine Kamera in einem Kraftfahrzeug
DE102008001677A1 (de) 2008-05-09 2009-11-12 Robert Bosch Gmbh Assistenzsystem zur Fahrerunterstützung in Fahrzeugen
DE102008057675A1 (de) 2008-11-17 2009-07-02 Daimler Ag Verfahren zur Verkehrszeichenerkennung
CN101482920B (zh) 2008-12-30 2010-12-22 广东国笔科技股份有限公司 一种手写字符识别方法及系统
JP5361541B2 (ja) 2009-06-02 2013-12-04 三菱電機株式会社 標識認識装置
US8374390B2 (en) 2009-06-24 2013-02-12 Navteq B.V. Generating a graphic model of a geographic object and systems thereof
EP2293247B1 (en) 2009-07-29 2012-09-05 Harman Becker Automotive Systems GmbH Edge detection with adaptive threshold
DE102009036196A1 (de) 2009-08-05 2010-05-06 Daimler Ag Verfahren und Vorrichtung zur Verkehrszeichenerkennung für ein Fahrzeug
DE102009039450A1 (de) 2009-08-31 2010-05-12 Daimler Ag Verfahren und Vorrichtung zur Fahrspurerkennung für ein Fahrzeug
DE102009048066A1 (de) 2009-10-01 2011-04-07 Conti Temic Microelectronic Gmbh Verfahren zur Verkehrszeichenerkennung
US8340420B2 (en) 2009-10-05 2012-12-25 National Taiwan University Method for recognizing objects in images
DE102009057553A1 (de) 2009-12-09 2011-06-16 Conti Temic Microelectronic Gmbh Verfahren zur Unterstützung des Fahrers eines straßengebundenen Fahrzeugs bei der Fahrzeugführung
JP5479082B2 (ja) 2009-12-25 2014-04-23 キヤノン株式会社 情報処理装置及びその制御方法並びにプログラム
US8509526B2 (en) 2010-04-13 2013-08-13 International Business Machines Corporation Detection of objects in digital images
DE102010020330A1 (de) 2010-05-14 2011-11-17 Conti Temic Microelectronic Gmbh Verfahren zur Erkennung von Verkehrszeichen
EP2583263B1 (de) 2010-06-15 2014-03-19 Conti Temic Microelectronic GmbH Verfahren zur fusion eines verkehrszeichenerkennungssystems und eines spurerkennungssystems eines kraftfahrzeugs
US8509982B2 (en) 2010-10-05 2013-08-13 Google Inc. Zone driving
US8731244B2 (en) 2011-07-28 2014-05-20 Xerox Corporation Systems and methods for improving image recognition
DE102011109387A1 (de) 2011-08-04 2013-02-07 Conti Temic Microelectronic Gmbh Verfahren zur Erkennung von Verkehrszeichen
US9160993B1 (en) 2013-07-18 2015-10-13 Amazon Technologies, Inc. Using projection for visual recognition

Also Published As

Publication number Publication date
JP2016538665A (ja) 2016-12-08
DE102013219909A1 (de) 2015-04-02
DE112014002543A5 (de) 2016-03-24
WO2015048954A1 (de) 2015-04-09
US20170017849A1 (en) 2017-01-19
US9697430B2 (en) 2017-07-04
EP3053097A1 (de) 2016-08-10

Similar Documents

Publication Publication Date Title
JP6445024B2 (ja) 交通標識認識方法と装置
CN107967806B (zh) 车辆套牌检测方法、装置、可读存储介质及电子设备
US8766816B2 (en) System for monitoring the area around a vehicle
US20170158134A1 (en) Image display device and image display method
CN110730966B (zh) 用于行人检测的系统和方法
JP6626410B2 (ja) 自車位置特定装置、自車位置特定方法
EP3449327A1 (en) Method and device for capturing image of traffic sign
WO2014084251A1 (ja) 車載画像処理装置
WO2016125377A1 (ja) 画像処理装置、および車両システム
JP5401257B2 (ja) 遠赤外線歩行者検知装置
US20200285913A1 (en) Method for training and using a neural network to detect ego part position
CN115119045A (zh) 基于车载多摄像头的视频生成方法、装置及车载设备
JP2009301495A (ja) 画像処理装置及び画像処理方法
Arshad et al. Lane detection with moving vehicles using color information
JP5062091B2 (ja) 移動体識別装置、コンピュータプログラム及び光軸方向特定方法
CN109070799B (zh) 移动体周围显示方法及移动体周围显示装置
CN107452230B (zh) 一种障碍物检测方法、装置、终端设备及存储介质
Dai et al. A driving assistance system with vision based vehicle detection techniques
JP2017134441A (ja) 逆走判定システム
JP2012108665A (ja) レーンマーク認識装置
JP5957182B2 (ja) 路面上パターン認識方法および車両用情報記録装置
JP2007140828A (ja) 標識認識方法
Bhope et al. Use of image processing in lane departure warning system
Eslami et al. Automatic traffic monitoring using satellite images
Chahal In Situ Detection of Road Lanes Using Raspberry Pi

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170809

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170809

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180801

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181002

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181128

R150 Certificate of patent or registration of utility model

Ref document number: 6445024

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250