JP6453490B2 - 路面反射を認識し評価するための方法及び装置 - Google Patents

路面反射を認識し評価するための方法及び装置 Download PDF

Info

Publication number
JP6453490B2
JP6453490B2 JP2017557347A JP2017557347A JP6453490B2 JP 6453490 B2 JP6453490 B2 JP 6453490B2 JP 2017557347 A JP2017557347 A JP 2017557347A JP 2017557347 A JP2017557347 A JP 2017557347A JP 6453490 B2 JP6453490 B2 JP 6453490B2
Authority
JP
Japan
Prior art keywords
road surface
camera
images
vehicle
average
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017557347A
Other languages
English (en)
Other versions
JP2018516799A5 (ja
JP2018516799A (ja
Inventor
フリッツ・シュテファン
ハルトマン・ベルント
アムトール・マヌエル
ダンツラー・ヨアヒム
Original Assignee
コンティネンタル・テーベス・アクチエンゲゼルシヤフト・ウント・コンパニー・オッフェネ・ハンデルスゲゼルシヤフト
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by コンティネンタル・テーベス・アクチエンゲゼルシヤフト・ウント・コンパニー・オッフェネ・ハンデルスゲゼルシヤフト filed Critical コンティネンタル・テーベス・アクチエンゲゼルシヤフト・ウント・コンパニー・オッフェネ・ハンデルスゲゼルシヤフト
Publication of JP2018516799A publication Critical patent/JP2018516799A/ja
Publication of JP2018516799A5 publication Critical patent/JP2018516799A5/ja
Application granted granted Critical
Publication of JP6453490B2 publication Critical patent/JP6453490B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B60W40/06Road conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • G06V10/464Salient features, e.g. scale invariant feature transforms [SIFT] using a plurality of salient features, e.g. bag-of-words [BoW] representations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00Input parameters relating to infrastructure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/247Aligning, centring, orientation detection or correction of the image by affine transforms, e.g. correction due to perspective effects; Quadrilaterals, e.g. trapezoids

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Mathematical Physics (AREA)
  • Automation & Control Theory (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Description

本発明は、路面上での反射を認識し、評価するための方法に関する。本発明は、更に、本発明に係る上記方法を実施するための手段、並びに、このような手段を備えた車両に関する。
光学的画像認識の分野における技術的進歩により、フロントガラスの後ろに配置され、ドライバーの認識に相当する車両前方領域を捕捉するカメラベースのドライバー・アシスタント・システムの使用が可能となった。このシステムの機能的範囲は、ハイビームの自動切り替えから制限速度の認識や表示のみならず、レーンからの逸脱や迫っている衝突に対する警告までをも網羅している。
今日、単なる前方捕捉から、全方位360°パノラマビューに至るまで、近代的車両では、様々なアプリケーションやドライバー・アシスタント・システムの色々な機能において、カメラが採用されている。スタンドアローン機能、或いは、レーダーやライダーセンサーとの組み合わせとしてのデジタル画像処理の主要な役割は、オブジェクトを認識し、分級し、画像領域内においてトレースすることである。一般的なオブジェクトとは、通常、乗用車、貨物自動車、二輪車など様々な車両や歩行者である。更に、カメラは、標識、走行レーンマーク、ガードレール、フリー空間、或いは、その他一般的なオブジェクトを認識する役割も果たしている。
オブジェクト・カテゴリーとインスタンスの自動学習と認識は、デジタル画像処理の重要な役割であり、従来の技術を代表するものである。この様な課題を人間並みに果たせる非常に進歩した方法も近年できてきており、課題は、オブジェクトの大まかな認識ではなく、正確なローカリゼーションへと移行してきている。
特許文献1は、車両用の道路表面特徴認識装置を提案している。該道路表面特徴認識装置は、無線レシーバーからの入力を受信するGPSユニットを有している。更に、該道路表面特徴認識装置は、車両ドライバーによって、受信された入力に応じて認識可能な結果を示す。
また、特許文献2は、車両外部環境を認識するためのボードシステムを開示しているが、ここでは、道路表面の反射が評価される。
更に、特許文献3からは、車両用の障害物認識システムが既知であるが、該障害物認識システムは、二台のカメラの画像間の類似性を画像変換後に算出する。
また、特許文献4は、発動機装備車両用の路面判別装置を開示しているが、該路面判別装置は、路面状態を、道路上方に配置された複数のCCDカメラから得られた画像データの空間周波数分布に基づいて判別する。
現代的ドライバー・アシスタントの領域では、ビデオカメラをはじめとする様々なセンサー類が、車両周辺部を、可能な限り正確、且つ、ロバストに捕捉するために、用いられている。このような周辺情報と、慣性センサー手段等により得られる車両の走行ダイナミクス情報とを組み合わせることにより、車両のその時点における車両状態や総合的な走行状況に関する優れた印象を得ることができる。これに基づき走行状況の危険度を割り出し、対応する走行情報/警告を出力するのみならず、ブレーキやハンドルを介して走行ダイナミクスに介入することも可能である。
しかしながら、摩擦係数や路面状況に関する情報は、ドライバー・アシスタント・システムに提供されていない、或いは、採用されていないため、警告や介入が実施される時点は、基本的に、タイヤと路面間のトラクション・ポテンシャルが高い乾燥した路面を基本としたものとなっている。
その結果、ドライバーへの警告、或いは、事故を回避する、或いは、事故の程度を軽減するシステムによる介入は、本当に乾燥した路面においてのみ、事故が回避できる、或いは、事故の程度を許容できるものに軽減できる遅い時点になってから実施されることになる。しかしながら、濡れていたり、雪が積もっていたり、ましてや、凍結している場合には、路面のグリップは低く、事故を回避することはできず、事故の結果の低減においても、望まれる効果を得ることができない。
国際公開第2004/081897号 欧州特許出願公開第2551794号明細書 米国特許出願公開第2002/191837号明細書 特開2003−057168号公報
よって本発明の課題は、これを用いれば、路面状態のみならず路面の摩擦係数をも認識でき、ドライバーへの警告、並びに、システム介入を目的に適うように実施でき、事故回避用ドライバー・アシスタント・システムの効果を高めることができる冒頭に述べたような方法、並びに、装置を提供することにある。
本発明によれば、上記課題は、請求項1に記載の:
路面(5,7)上の少なくとも一つの点(3)の反射を認識し評価するための以下の、
1つのカメラ(2)を準備するステップと、
前記カメラ(2)によって少なくとも一つの路面点(3)の少なくとも二枚のデジタル画像を作成し、当該複数の画像の作成は、前記カメラ(2)の異なる撮影視点(A,B)から実行されるステップと、
前記路面(5,7)の散乱的反射と鏡面的反射との区別を、デジタル画像処理のアルゴリズムを用いて、前記少なくとも二枚のデジタル画像での前記少なくとも一つの路面点(3)の外観の差を評価することによって実行するステップと、
当該検出された反射に依存して、路面状態情報を算出するステップと、を包含する方法において、
作成された前記少なくとも二枚のデジタル画像が、1つの平均画像を得るために平均化され、
それぞれの画素の平均画像間の絶対差分値又は二次差分値と、当該平均画像に付随する列平均値間の絶対差分値又は二次差分値とが生成されることによって解決される。
さらに、上記課題は、請求項13に記載の:
少なくとも一つの点(3)の反射を認識し、評価するための、1つのカメラ(1)を有する装置(1)であって、このカメラ(1)は、少なくとも一つの路面点(3)の少なくとも二枚のデジタル画像を異なる撮影視点(A,B)から生成するように構成されていて、
デジタル画像処理のアルゴリズムを使用して、少なくとも一つの路面点(3)の外観の違いを評価し、これにより、路面の散乱的反射と鏡面的反射とを検出し、
−当該検出された反射に依存して、路面状態情報を算出するように構成されている当該装置(1)において、
1つの平均画像を得るため、作成された少なくとも2つのデジタル画像を平均化し、それぞれの画素の平均画像間の絶対差分値又は二次差分値と、当該平均画像に付随する列平均値間の絶対差分値又は二次差分値とを生成するように構成されていることによって解決される。尚、好ましい実施形態は、従属請求項の対象である。
本発明に係る請求項1に記載の方法は、路面の少なくとも一点における反射を認識し評価するための方法である。先ず、ある方法ステップにおいて、路面の少なくとも一つの路面点の二枚のデジタル画像を作成するカメラが、用意されるが、ここでは、該複数画像の作成は、カメラの異なる撮影視点において実施される。続いて、路面の散乱的反射と鏡面的反射の区別が、該路面の少なくとも一つの路面点の少なくとも二枚のデジタル画像における外観(アピアランス)の差を、デジタル画像処理のアルゴリズムを用いて評価することにより実施される。検出された反射に応じて、路面状態情報、特に、路面の摩擦係数を示す、或いは、路面が乾燥している、或いは、濡れている、或いは、凍結していると言うステートメントを出力できる路面状態情報が割り出される。
本発明は、反射は、一般的に、三つのカテゴリーに分類でき、各々、視野角、或いは、視点の変化に伴い、様々な視覚的効果(ヴィジュアル・エフェクト)を示すことを利用している。この際、散乱的、光沢的及び鏡面的反射に分類されるが、本発明では、特に、乾燥した路面のインジケーターである散乱的反射と濡れている、及び/或いは、凍結した路面のインジケーターである鏡面的反射が、重要である。この様にして、本発明に係る方法では、乾燥した路面と濡れた/凍結した路面を区別している。
本発明に係る方法と本発明に係る装置は、路面反射によって湿潤と凍結を確実に検出できるように、デジタル画像処理のアルゴリズムを採用している。本発明に係る方法によれば、カメラによって、二つの異なる視野角において作成された路面点の画像においてデジタル画像処理アルゴリズムを用いて、その時点の路面状態を割り出すことを可能にするある特定な特徴を探すことにより、路面を代表する僅か一点の反射を認識し、評価するだけで、その時点の路面状態を推定することが可能である。
該方法は、好ましくは、利用できる画像の作成、乃至、撮影が可能な十分に照明されたシーンにおいて実施される。本方法の前提は、少なくとも二枚の画像からなる画像シーケンス内における視点の変化である。散乱的反射(乾燥した路面のインジケータ)の場合、光が全方向に均一的に反射されるため、視点の変化による路面上のある固定点における視覚的効果は、起こらない。即ち、観測装置にとって視点の変化による外観的変化はない。一方、鏡面的反射(濡れた、及び/或いは、凍結した路面のインジケーター)の場合、反射は、散乱しないため、視点の変化によって、路面上のある固定点の外観は、急激に変化する。即ち、視点が変化すると、路面上のある特定な点からの反射は、観測装置に当たらなくなる。但し、このような効果を用いるには、原理的に、あるシーンにおける画像内の個別の、乃至、全ての点、或いは、領域を、少なくとも二枚の画像からなるシーケンスにおいて追跡し、それらの外観的変化を評価しなければならない。
本発明に係る方法は、好ましくは、車両内において採用される。該車両のドライバーの視覚的認識に対応する車両前方領域が捕捉可能になる様に、特に車両内におけるカメラの提供は、フロントガラスの後ろにおいて実施されることが特に好ましい。この際、二つの異なる視点における画像の作成は、特に車の動きによって実施される。
尚、少なくとも二枚の外観図を直接的にデジタル撮影でき、デジタル画像処理アルゴリズムによって評価できるデジタルカメラが好ましく採用される。インスタンス次第では、画像から得られる深度情報も該アルゴリズムにおいて使用できることから、特に、モノカメラ、或いは、ステレオカメラを該複数の外観画像の作成に採用することが特に好ましい。尚、この様な理由から、カメラによる少なくとも一つの路面点の少なくとも二枚のデジタル画像の作成においては、異なる撮影視点からの画像の作成が、ステレオカメラによって実施されることが好ましい。
本発明に係る方法の特別な長所は、異なる移動挙動を示すことから、鏡面的反射が、確実に、影(散乱的反射)から区別されることができると言うことである。
同様に、観測装置の相対的移動に起因する路面固有の外観と路面に依存しない外観とを差別化することによって、即ち、路面上のインフラストラクチャーの影、及び、反射の確実な分離が可能になるようにデジタル画像処理に基づく散乱的反射と鏡面的反射の区別を、実施することも好ましい。
本発明に係る方法の好ましい実施形態は、付加的な方法ステップとして、車両のドライバー・アシスタント・システムとの路面状態情報に関するコミュニケーションと、ドライバー・アシスタント・システムによる警告タイミングや介入タイミングの該路面状態情報に応じた調整も包含している。即ち、該路面状態情報は、ドライバー・アシスタント・システムの警告タイミングや介入タイミングを非常に効率的に調整するための、車両の事故を回避するためのドライバー・アシスタント・システム用の入力値としての役割を果たす。これによって、所謂「先進運転支援システム(Advanced Driver Assistance Systems/ADAS)」による事故を回避するための対策の効果は、有意に高められる。
更に、路面状態情報を、自動化において走行周辺部の重要な情報として役立て、好ましくは、自律的走行のためのシステム制御に提供することも有利である。即ち、更なる好ましい実施形態では、路面状態情報を、自動化された車両の機能において考慮し、路面状態情報に依存して、走行ストラテジーや自動装置とドライバー間の移行タイミングの割り出しが、調整されるように実施されている。
更なる好ましい実施形態では、該付加的な方法ステップは、好ましくは台形領域を形成する複数の路面点の異なる視野からの二枚のデジタル画像のカメラによる作成、並びに、好ましくは台形領域の推定されたホモグラフィによる長方形上視図への転換も包含している。この実施形態では、路面反射の検出に、カメラの路面をつかさどる複数画像内において、多数の路面点を包含する領域を用いている。ランタイムや精度に課せられる要求次第では、該領域は、セグメント化された一部領域であることも可能である。但し、特に好ましくは、台形状の領域であるが、該台形状の領域は、推定されたホモグラフィを用いて長方形上視図(鳥瞰図)に転換される。この転換を用いることにより、この領域内の様々な外観を、路面反射の有無に応じて捕捉することに非常に適した特徴を抽出することが可能になる。
特に好ましい施形態によれば、カメラは、車内に用意される。第一画像は、車両の第一位置において、第一撮影視点から作成される。車両は、第二位置に移動、例えば、走行するが、第二位置は、第一位置とは異なっている、即ち、第一と第二位置は、同一ではない。続いて、少なくとも一つの第二位置において、少なくとも一つの第二撮影視点から、少なくとも一枚の第二画像が作成される。次に、少なくとも二つの異なる撮影視点の少なくとも二枚の画像が、それぞれ、上視図に変換される。続いて、少なくとも二枚の作成された上視図を車両の走行動的パラメーターを取り入れたデジタル画像処理によって記録し、少なくとも一つの路面点の複数の外観の比較を、該少なくとも二枚の記録された上視図において実施する。該記録は、この実施例では、該シーンが、上視図に転換されているため、単純なトランスレーションとローテーションによって実施可能である。該コンペンゼーションは、好ましくは、例えば、車両速度、操舵角などの個々の走行動的パラメーターを考慮して、或いは、グラウンド・プレーン・モデルや走行ダイナミクス・モデルなど、モデル全体を用いて実施される、乃至、サポートされる。この付加的な情報を用いることは、特に、画像処理のみをベースとした場合、車両運動の誤認識が起こり得るような均一的な、乃至、強く反射する路面において有利である。
続いて好ましくは、少なくとも二枚の記録された上視図において外観の変化を捕捉する少なくとも一つの路面点或いは領域の特徴の抽出が、実施される。これは、個々の点や領域をシーケンスに割り当てた後に実施されることが好ましい。該抽出には、例えば、分散やベクトルとしての推移など、様々な方法が可能である。
個々の特徴は、続いて分類装置によって少なくとも一つのクラス(級)に割り当てられる特徴ベクトルを形成している。尚、該クラスとしては、「湿潤/凍結」と「乾燥/その他」が、設けられている。一つのクラシファイアとは、この際、認識されたクラスを代表する離散した数への特徴ディスクリプタの描写である。
分類装置としては、好ましくは、所謂「無作為決定森(ランダムフォレスト)」(英語:Random Decision Forest)が、採用される。決定木は、クラス分類問題を回帰的に分割する階層的に並べられたクラシファイアである。ルート(根)から始め、行った決定に従い、最終の分類決定が実施されるリーフノードへのパス(行程)を進んでいく。学習の複雑さから、内部ノード用としては、好ましくは、非常に簡略化した分級手段である、入力空間を座標軸に対して直交分割する所謂「決定スタンプ(decision stumps)」が、用いられる。
決定フォレストは、決定木の集まりであり、木(ツリー)のトレーニングにおいて、好ましくは二か所、無作為(ランダム)化されたエレメントを包含している。第一に、各々ツリーが、偶発的トレーニング用データによって訓練され、第二に、それぞれのバイナリー決定用に、許容される次元の偶然的選択が一つずつ用いられる。リーフノードでは、トレーニングにおいて該リーフノードが達成し得る特徴ベクトルを介して最尤推定(maximum likelihood estimation)を可能にするクラスヒストグラムが保存される。クラスヒストグラムは、ある特定の路面状態の特徴ベクトルが、該決定木を進んだ際に、対応するリーフノードに達する頻度を保存している。結果としては、各々のクラスに、クラスヒストグラムから計算される確率が、割り当てられることが好ましい。
特徴ベクトル用に、鏡面的反射の存在に関する決定をするためには、好ましくは、クラスヒストグラムの中から最も確率の高いクラスが、その時点の状態として用いられる、或いは、決定木からの情報を、反射存在決定に転用するための他の方法が採用される。
入力画像一枚毎の決定は、更に、最適化(オプティマイズ)されることが好ましい。最適化では、時間的コンテクスト、或いは、車両から得られる更なる情報も考慮することができる。時間的コンテクストは、好ましくは、経過した期間内において最も頻繁だったクラスを用いることによって、或いは、所謂「ヒステリシス・閾値法」によって、定めることによって考慮される。ヒステリシス・閾値法では、ある状態から他の状態への路面状態の変更は、閾値によって定められる。新しい状態の確率が、十分に高く、古い状態の確率がそれに応じて下がった時に、ある変更があったとされる。
上述の個々の点や領域の抽出が実施される場合、一枚の画像の画像領域全体用に、特に転換された画像領域用に、特徴を抽出することが可能である。これには、例えば、個々の点の特徴と可及的次元低減対策(例えば、「主成分分析(Principal Component Analysis)」)との結合、統計的モーメントによる記述、或いは、ヒストグラムを基に特定のプロトタイピカルな値、或いは、バリュータルプ(値の組)の発生を捕捉する(例えば、SIFT,HOG,LBPs etc.)「Bag−of−Visual−Words」アプローチなどの様々な計算方法が考え得る。
特に好ましくは、上述の効果に基づく路面反射の評価は、特に、画像レジストレーションによって、方法のロバスト性を高めることのできる近似的アプローチを用いて実施される。同時に、自動車業界では重要なことであるが、ランタイムも短縮できる。このことから、別の好適な実施の形態によれば、作成された少なくとも二枚の画像、特に好ましくは、作成された上視図が、1つの平均画像を得るために平均化され、それぞれの画素の平均画像間の絶対差分値又は二次差分値と、当該平均画像に付随する列平均値間の絶対差分値又は二次差分値とが生成されることが提唱されている。本実施形態の基本的な仮定は、一つの領域が、画像全体を移動すると言うものである。しかし、一つの特定の領域自体ではなく、それが動いたパス(経路)が観察される。そのため、二枚以上の画像が作成されることが特に好ましい。更に、視点は、直線的かつ連続的に変化している、好ましくは、車両は、一定に直線的に動いていると仮定される。これらの仮定は、好ましくは、車両モーション・パラメータによって、文脈的知識として確認することができる。これらの前提の基、個別画像、好ましくは、転換された個別画像が、平均画像を得るために、シーケンスから平均化される。メモリー容量を最小限とする、或いは、新しい事象(イベント)に荷重するため、移動平均を計算することも可能である。続いて、それぞれの画素の平均画像間の絶対差分値又は二次差分値と、当該平均画像に付随する列平均値間の絶対差分値又は二次差分値とが生成される。
平均画像の特徴の抽出は、列平均値を考慮したうえで実施可能であるが、好ましくは、ヒストグラムを基に特定のプロトタイピカルな値、或いは、バリュータルプ(値の組)の発生を捕捉する「Bag−of−Visual−Words」アプローチが採用される。出来上がった画像は、鏡面的反射の存在を、例えば、統計的モーメント、或いは、「Bag−of−Visual−Words」アプローチにおけるローカルな特徴による特に好ましい形態(好ましくは、「Local Binary Pattern」)によって、評価される。この近似的アプローチでは、散乱的反射の場合、動きが直線的であれば、路面の通過した領域は、列平均値と似通っているが、鏡面的反射の場合は、路面の通過した領域の外観の変化は、列平均に対して大きな差を有すると言う仮定が基礎となっている。
この方法では − 上述した如く − 車両は、実質的に直線的な運動をしていると仮定している。カーブ走行時には、観察されている領域を、回転、及び/或いは、剪断することにより調整し、該効果が、カーブ走行時でも、列に応じて作用することを確かなものとしている。言い換えれば、このアプローチでは、外観の変化を評価するにあたり、個々の領域を直接的にフォローするのではなく、走行したパス(画像列)が、分析される。レジストレーションされていない車両の動き(ピッチ/ロール)と比較した場合の、この方法の長所は、非常に確実にエラーの無い推定を提供できると言う堅牢さである。更なる長所は、第一方法と比較して非常に短い計算時間である。ここでは、計算は、平均値の算出と引き算のみである。
外観の変化の評価においてカメラパラメーターを考慮することも更に好ましく実施される。これにより、該方法の堅牢さを増すことができる。尚、シーケンス内の該領域の外観の変化の原因となり、反射の検出に悪影響を与えかねない(例えば、輝度変化)常に変化する露光時間も考慮することが好ましい。
請求項13に記載の路面上の少なくとも一つの点における反射を認識し、評価するための本発明に係る装置は、少なくとも一つの路面点の少なくとも二枚のデジタル画像を異なる撮影視点から生成できるように構成されているカメラを包含している。該装置は、デジタル画像処理のアルゴリズムを使用し、少なくとも一つの路面点の外観の違いを評価し、これにより、路面の散乱的反射と鏡面的反射を検出し、検出された反射に依存して、路面状態情報を割り出すことができるように構成されている。
本発明に係る装置の長所、並びに、好ましい実施形態は、繰り返しを避けるため、本発明に係る方法の上記説明を参照されたい、但し、本発明に係る装置は、該方法に必要な部品を有している、乃至、そこから発展した形態に実施されていることも可能である。
最後に、請求項14に記載の本発明に係る車両は、上記の本発明に係る装置を包含している。
以下、本発明の実施例を、図面を用いて詳細に説明する。
本発明に係る方法を実施中の本発明に係る装置を模式的に示すものである。 本発明に係る方法を実施中の本発明に係る装置を模式的に示すものである。
図1aと図1bに示されている本発明に係る装置1は、少なくとも二枚の路面点3のデジタル画像を異なる撮影視点から撮影できる様に構成されたデジタルカメラ2を包含しているが、該異なる撮影視点は、それぞれカメラ2の異なる位置AとBによって示されている。
該カメラ2は、該車両のドライバーの視覚的認識に対応する車両前方領域が捕捉可能になる様に、図示されていない車両内に、即ち、該車両のフロントガラスの後ろに配置されている。これは、車両の走行に伴い、第一位置から第二位置へ移動する。該カメラ2が、それぞれ図1aと図1bの右に示されている撮影視点Aをカバーする第一位置において、それぞれ路面点3の第一画像が撮影される。該車両が、図1aと図1bの左に示されている其々そこから路面点(3)の第二画像が撮影される撮影視点Bをカバーする様にカメラ2の撮影視点が、補正される第二位置へ走行する。
図1aから明らかなように、入射光4が、乾燥した道路表面5によって全方向に均一に反射されるため、路面点3の画像は、撮影視点が、AからBに変化した際も、変化しない。これが、散乱的反射であり、乾燥した道路表面のインジケーターである。装置1が、第一と第二画像を互いに比較する。デジタル画像処理のアルゴリズムを使用して装置1は、第一及び第二画像に差がない、或いは、その周囲だけが互いに異なること、よって、散乱的反射があるに違いないと認識する。認識された、或いは、検出された散乱的反射から、該装置1は、道路表面5が、乾燥していると言う路面状態情報を割り出す。この値は、図示されていないドライバー・アシスタント・システムに伝達される。
一方、図1bから明らかなように、路面点3の画像は、撮影視点が、AからBに変化した際、入射光6が、凍結した、或いは、濡れている道路表面7によって特定の方向にのみ反射されるため、変化する。これが、鏡面的反射であり、凍結した、或いは、濡れた道路表面のインジケーターである。装置1が、第一と第二画像を互いに比較する。デジタル画像処理のアルゴリズムを使用して装置は、第一及び第二画像が、互いにこの様に大きく異なること、よって鏡面的反射があるに違いないと認識する。認識された、或いは、検出された鏡面的反射から、該装置は、道路表面が、凍結している、或いは、濡れていると言う路面状態情報を割り出す。この値は、図示されていないドライバー・アシスタント・システムに伝達され、これが、警告タイミング、及び、介入タイミングを、濡れた、或いは、凍結した道路表面用に調整する。

Claims (14)

  1. 路面(5,7)上の少なくとも一つの点(3)反射を認識評価するための以下の、
    1つのカメラ(2)を準備するステップと、
    前記カメラ(2)によって少なくとも一つの路面点(3)の少なくとも二枚のデジタル画像を作成し、当該複数画像の作成は、前記カメラ(2)の異なる撮影視点(A,B)から実行されるステップと、
    前記路面(5,7)の散乱的反射と鏡面的反射の区別を、デジタル画像処理のアルゴリズムを用いて、前記少なくとも二枚のデジタル画像での前記少なくとも一つの路面点(3)外観の差評価することによって実行するステップ
    当該検出された反射に依存して、路面状態情報を算出するステップと、を包含する方法において、
    作成された前記少なくとも二枚のデジタル画像が、1つの平均画像を得るために平均化され、
    それぞれの画素の平均画像間の絶対差分値又は二次差分値と、当該平均画像に付随する列平均値間の絶対差分値又は二次差分値とが生成されることを特徴とする方法。
  2. 少なくとも一つの路面点(3)の少なくとも二枚のデジタル画像を前記カメラ(2)によって作成し、前記複数の画像の作成が、1つのステレオカメラによって異なる撮影視点(A,B)から実行されることを特徴とする請求項1に記載の方法。
  3. 路面に固有の外観と前記カメラ(2)の相対的移動に起因する路面に依存しない外観とを識別することによるデジタル画像処理に基づいて、散乱的反射と鏡面的反射とを区別し、
    路面上の影と反射したインフラストラクチャーとを確実分離することを特徴とする請求項1又は2に記載の方法。
  4. 路面状態情報を車両のドライバー・アシスタント・システムに送信し
    前記路面状態情報に応じて前記ドライバー・アシスタント・システムによって警告時点と介入時点とを適合させることを特徴とする請求項1〜3のいずれか1項に記載の方法。
  5. 前記路面状態情報を自動化された車両の機能取り入
    前記路面状態情報に依存して、走行計画を適合させ、自動装置とドライバーとの間の移行時点を決定することを特徴とする請求項1〜4のいずれか1項に記載の方法。
  6. 前記カメラ(2)を用いて異なる視野(A,B)から台形領域を形成する複数の路面点(3)の少なくとも二枚のデジタル画像を作成し
    前記台形領域を評価されたホモグラフィによって長方形上視図転換することを特徴とする請求項1〜5のいずれか1項に記載の方法。
  7. 前記カメラ(2)を車両内用意し、
    前記車両の第一位置おける第一画像を第一撮影視点(A)から作成し、
    前記第一位置とは異なる第二位置前記車両を移動させ、
    前記車両の少なくと第二位置おける少なくとも第二画像を少なくとも第二撮影視点(B)か作成し
    少なくとも二つの異なる撮影視点(AとB)の少なくとも二枚の画像それぞれ、上視図に変換し、
    前記車両の走行動的パラメーター取り入れたデジタル画像処理によって、当該作成された少なくとも二枚上視図を記録し、
    当該記録された少なくとも二枚の上視図における少なくとも一つの路面点(3)の複数の外観を比較することを特徴とする請求項1〜6のいずれか1項に記載の方法。
  8. 当該記録された少なくとも二枚の上視図における外観の変化を捕捉する少なくとも一つの路面点(3)又は領域の特徴抽出することを特徴とする請求項7に記載の方法。
  9. 特徴ベクトルを当該抽出された特徴から作成し、
    前記特徴ベクトルを分類装置によって1つのクラスに割り当てることを特徴とする請求項8に記載の方法。
  10. 前記作成した少なくとも2つ上視図を平均化することによって、1つの平均画像を作成し、
    それぞれの画素の平均画像間の絶対差分値又は二次差分値と、当該平均画像に付随する列平均値間の絶対差分値又は二次差分値とを生成することを特徴とする請求項7又は8に記載の方法
  11. 前記平均画像の特徴を、前記列平均値を考慮して抽出し、当該抽出時に、特に「Bag−of−Visual−Words」アプローチが採用され、この「Bag−of−Visual−Words」アプローチの場合、特定の典型的な値又は一組の値の発生が、ヒストグラムに基づいて捕捉されることを特徴とする請求項10に記載の方法。
  12. カメラパラメーターを前記外観の変化の評価に取り入れることを特徴とする請求項1〜11のいずれか1項に記載の方法。
  13. 路面点(3)上の少なくとも一つの点(3)の反射を認識し、評価するための、1つのカメラ(1)を有する装置(1)であって、このカメラ(1)は、少なくとも一つの路面点(3)の少なくとも二枚のデジタル画像を異なる撮影視点(A,B)から生成するように構成されていて、
    デジタル画像処理のアルゴリズムを使用し、少なくとも一つの路面点(3)の外観の違いを評価し、これにより、路面の散乱的反射と鏡面的反射を検出し
    当該検出された反射に依存して、路面状態情報を算出するように構成されている当該装置(1)において、
    1つの平均画像を得るため、作成された少なくとも2つのデジタル画像を平均化し、それぞれの画素の平均画像間の絶対差分値又は二次差分値と、当該平均画像に付随する列平均値間の絶対差分値又は二次差分値とを生成するように構成されていることを特徴とする装置(1)
  14. 請求項13に記載の装置(1)を有する車両。
JP2017557347A 2015-05-06 2016-05-04 路面反射を認識し評価するための方法及び装置 Active JP6453490B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102015208429.9 2015-05-06
DE102015208429.9A DE102015208429A1 (de) 2015-05-06 2015-05-06 Verfahren und Vorrichtung zur Erkennung und Bewertung von Fahrbahnreflexionen
PCT/DE2016/200207 WO2016177371A1 (de) 2015-05-06 2016-05-04 Verfahren und vorrichtung zur erkennung und bewertung von fahrbahnreflexionen

Publications (3)

Publication Number Publication Date
JP2018516799A JP2018516799A (ja) 2018-06-28
JP2018516799A5 JP2018516799A5 (ja) 2018-10-11
JP6453490B2 true JP6453490B2 (ja) 2019-01-16

Family

ID=56097956

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017557347A Active JP6453490B2 (ja) 2015-05-06 2016-05-04 路面反射を認識し評価するための方法及び装置

Country Status (7)

Country Link
US (1) US10442438B2 (ja)
EP (1) EP3292510B1 (ja)
JP (1) JP6453490B2 (ja)
KR (1) KR101891460B1 (ja)
CN (1) CN107667378B (ja)
DE (2) DE102015208429A1 (ja)
WO (1) WO2016177371A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3995782A1 (en) * 2016-01-05 2022-05-11 Mobileye Vision Technologies Ltd. Systems and methods for estimating future paths
CN106686165B (zh) * 2016-12-30 2018-08-17 维沃移动通信有限公司 一种路况检测的方法及移动终端
CN109476310B (zh) * 2016-12-30 2021-11-12 同济大学 一种基于舒适度的自动驾驶车速控制方法
DE102018203807A1 (de) 2018-03-13 2019-09-19 Continental Teves Ag & Co. Ohg Verfahren und Vorrichtung zur Erkennung und Bewertung von Fahrbahnzuständen und witterungsbedingten Umwelteinflüssen
DE102018218733A1 (de) * 2018-10-31 2020-04-30 Robert Bosch Gmbh Verfahren zur Unterstützung einer kamerabasierten Umfelderkennung eines Fortbewegungsmittels mittels einer Strassennässeinformation eines ersten Ultraschallsensors
FI128495B (en) * 2019-05-21 2020-06-15 Vaisala Oyj Method for calibrating optical surface monitoring system, arrangement, device and computer readable memory
FR3103303B1 (fr) * 2019-11-14 2022-07-22 Continental Automotive Détermination d’un coefficient de friction pour un véhicule sur une route
EP3866055A1 (en) * 2020-02-12 2021-08-18 Aptiv Technologies Limited System and method for displaying spatial information in the field of view of a driver of a vehicle
US20220198200A1 (en) * 2020-12-22 2022-06-23 Continental Automotive Systems, Inc. Road lane condition detection with lane assist for a vehicle using infrared detecting device
CN112597666B (zh) * 2021-01-08 2022-05-24 北京深睿博联科技有限责任公司 一种基于表面材质建模的路面状态分析方法及装置
DE102021101788A1 (de) * 2021-01-27 2022-07-28 Zf Cv Systems Global Gmbh Verfahren zum ortsaufgelösten Ermitteln einer Oberflächeneigenschaft eines Untergrundes, Verarbeitungseinheit und Fahrzeug
JP6955295B1 (ja) * 2021-02-16 2021-10-27 株式会社アーバンエックステクノロジーズ 識別装置、識別プログラム、および識別方法
CN115201218A (zh) * 2022-07-13 2022-10-18 鲁朗软件(北京)有限公司 一种车载路面病害智能检测方法及系统

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3023444C2 (de) * 1979-06-29 1985-07-11 Omron Tateisi Electronics Co., Kyoto Einrichtung zur Ermittlung des witterungsbedingten Straßenzustandes
JPS6015015B2 (ja) 1979-06-29 1985-04-17 株式会社 レオ技研 路面水分検知装置
DE3738221A1 (de) * 1987-11-11 1989-06-08 Bayerische Motoren Werke Ag Verfahren und einrichtung zum erkennen des zustandes einer strasse
DE4235104A1 (de) * 1992-10-17 1994-04-21 Sel Alcatel Ag Straßenzustandsdetektor
ATE340395T1 (de) * 2000-02-07 2006-10-15 Vsd Ltd Rauch- und flammendetektion
JP3626905B2 (ja) * 2000-11-24 2005-03-09 富士重工業株式会社 車外監視装置
JP3759429B2 (ja) * 2001-05-23 2006-03-22 株式会社東芝 障害物検出装置及びその方法
JP3783588B2 (ja) 2001-08-20 2006-06-07 オムロン株式会社 路面判別装置
AU2004219513B2 (en) 2003-03-14 2009-08-27 Liwas Aps A device for detection of road surface condition
CN102017601B (zh) 2008-06-26 2013-03-13 松下电器产业株式会社 图像处理装置及图像合成方法
WO2011158306A1 (ja) * 2010-06-18 2011-12-22 本田技研工業株式会社 路面反射率分類のためのシステム
JP5761601B2 (ja) * 2010-07-01 2015-08-12 株式会社リコー 物体識別装置
JP5892876B2 (ja) * 2011-07-28 2016-03-23 クラリオン株式会社 車載用環境認識装置
TWI467498B (zh) * 2011-12-19 2015-01-01 Ind Tech Res Inst 影像識別方法及系統
JP6408916B2 (ja) * 2013-01-21 2018-10-17 興和株式会社 画像処理装置、画像処理方法、画像処理プログラム及びそのプログラムを格納した記録媒体
US10188036B2 (en) * 2015-10-23 2019-01-29 Carnegie Mellon University System for evaluating agricultural material

Also Published As

Publication number Publication date
CN107667378B (zh) 2021-04-27
DE102015208429A1 (de) 2016-11-10
CN107667378A (zh) 2018-02-06
US10442438B2 (en) 2019-10-15
KR101891460B1 (ko) 2018-08-24
KR20170127036A (ko) 2017-11-20
US20180141561A1 (en) 2018-05-24
EP3292510B1 (de) 2021-07-07
EP3292510A1 (de) 2018-03-14
WO2016177371A1 (de) 2016-11-10
DE112016002050A5 (de) 2018-01-11
JP2018516799A (ja) 2018-06-28

Similar Documents

Publication Publication Date Title
JP6453490B2 (ja) 路面反射を認識し評価するための方法及び装置
JP2018516799A5 (ja)
US11093801B2 (en) Object detection device and object detection method
US10685449B2 (en) Surrounding environment recognition device for moving body
Wang et al. Appearance-based brake-lights recognition using deep learning and vehicle detection
JP7291129B2 (ja) 路面状態と天候に基づく環境影響を認識し評価する方法及び装置
Rezaei et al. Robust vehicle detection and distance estimation under challenging lighting conditions
US10627228B2 (en) Object detection device
US11308717B2 (en) Object detection device and object detection method
CN102792314B (zh) 交叉通行碰撞警报系统
Aytekin et al. Increasing driving safety with a multiple vehicle detection and tracking system using ongoing vehicle shadow information
US20180060676A1 (en) Method and device for detecting and evaluating environmental influences and road condition information in the vehicle surroundings
JP7135665B2 (ja) 車両制御システム、車両の制御方法及びコンピュータプログラム
US10984264B2 (en) Detection and validation of objects from sequential images of a camera
US10268204B2 (en) Cross traffic detection using cameras
JP2008310440A (ja) 歩行者検出装置
JPWO2019174682A5 (ja)
JP3562278B2 (ja) 環境認識装置
KR20180047149A (ko) 충돌 위험 경고 장치 및 방법
US20200394435A1 (en) Distance estimation device, distance estimation method, and distance estimation computer program
US11069049B2 (en) Division line detection device and division line detection method
EP3392730B1 (en) Device for enabling a vehicle to automatically resume moving
Satzoda et al. Vision-based front and rear surround understanding using embedded processors
Wang et al. A monovision-based 3D pose estimation system for vehicle behavior prediction
US20230106188A1 (en) Vehicular vision system with object classification based on change in orientation of object

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180412

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180606

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20180829

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181212

R150 Certificate of patent or registration of utility model

Ref document number: 6453490

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250