JP5785565B2 - デジタル画像における滴を検出する方法および装置ならびにこの方法を実行するためのコンピュータプログラム - Google Patents

デジタル画像における滴を検出する方法および装置ならびにこの方法を実行するためのコンピュータプログラム Download PDF

Info

Publication number
JP5785565B2
JP5785565B2 JP2012552444A JP2012552444A JP5785565B2 JP 5785565 B2 JP5785565 B2 JP 5785565B2 JP 2012552444 A JP2012552444 A JP 2012552444A JP 2012552444 A JP2012552444 A JP 2012552444A JP 5785565 B2 JP5785565 B2 JP 5785565B2
Authority
JP
Japan
Prior art keywords
image
drops
mask
pixel
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012552444A
Other languages
English (en)
Other versions
JP2013519173A (ja
Inventor
オーレリアン コル,
オーレリアン コル,
ディディエ オベール,
ディディエ オベール,
Original Assignee
アンスティテュ フランセ デ シアンス エ テクノロジ デ トランスポール, ドゥ ラメナジュマン エ デレゾ
アンスティテュ フランセ デ シアンス エ テクノロジ デ トランスポール, ドゥ ラメナジュマン エ デ レゾ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アンスティテュ フランセ デ シアンス エ テクノロジ デ トランスポール, ドゥ ラメナジュマン エ デレゾ, アンスティテュ フランセ デ シアンス エ テクノロジ デ トランスポール, ドゥ ラメナジュマン エ デ レゾ filed Critical アンスティテュ フランセ デ シアンス エ テクノロジ デ トランスポール, ドゥ ラメナジュマン エ デレゾ
Publication of JP2013519173A publication Critical patent/JP2013519173A/ja
Application granted granted Critical
Publication of JP5785565B2 publication Critical patent/JP5785565B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60SSERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00Cleaning of vehicles
    • B60S1/02Cleaning windscreens, windows or optical devices
    • B60S1/04Wipers or the like, e.g. scrapers
    • B60S1/06Wipers or the like, e.g. scrapers characterised by the drive
    • B60S1/08Wipers or the like, e.g. scrapers characterised by the drive electrically driven
    • B60S1/0818Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like
    • B60S1/0822Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means
    • B60S1/0833Optical rain sensor
    • B60S1/0844Optical rain sensor including a camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Image Processing (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、1または複数のデジタル画像における滴を検出する方法、コンピュータプログラムおよび装置に関する。
デジタル画像における滴を検出する必要性は、様々な用途で現れる。この必要性は、第一に、プロセス中に滴の凝縮および形成があるかどうかを判断することが必要または重要である工業プロセスに存在し得る。他の重要な用途は、車両の運転である。車両の移動において雨が降っている場合、フロントガラスは滴で覆われる。雨が降り始めた際、フロントガラスのワイパーを自動的に作動させるため、又は、車両の制御システムに情報を送信して検出された雨の状況に車両の動作を適合させるために、滴の存在を検出してこの変化を考慮することは、関心を引くものになり得る。
より一般的に、画像における滴の検出は、画像における滴の存在によって問題または混乱が生じやすい、デジタル画像を実行するあらゆる方法において重要になり得る。例えば、ビデオ監視システムは、画像における滴の検出工程と後続の画像補正工程を統合した画像処理方法によって改善することができる。
周知のように、その唯一の機能が滴(または雨)の検出であり、主として検出器に接続された赤外線送信器によって構成された雨検出器が、滴検出装置として搭乗車両にて用いられている。この組立て品は、フロントガラスに装着されて配置される。送信器は、フロントガラスの方向に赤外線を送信し、検出器は、フロントガラスによって返送された信号を受信する。フロントガラスの外面上に水滴が存在する場合、フロントガラスが赤外線をいくらか反射し、この反射が検出され得る。
これらは一般に信頼できるが、いくつかの短所がある。第1に、滴の検出は、フロントガラスの小区画でのみ可能である。次に、これらのセンサは、フロントガラスに付着した滴の数に関する定量的な情報を提供しない。最後に、これらのセンサは、通常、中央のバックミラーの高さで車内に配置され、かつ車両に搭載され埋め込まれた多数のアプリケーションによりスペースを占める。
また、画像における滴を検出する方法が、非特許文献1に示されている。
この出版物は、デジタル画像における滴を検出する方法を示している。この方法には、主な要素の解析によって、大規模データベースからの滴の特性の学習を可能にするという、先行静的学習段階が含まれる。次に、そのような方法は、照合段階中に実行されるが、その間に、画像部分は、滴を識別するために基準画像と照合されるか、または少なくとも比較される。
このシステムは、本質的には、比較的一体となった背景、例えば空の画像に対してのみ優れた結果をもたらす。しかしながら、複雑なレベル、例えば都市環境を表す画像において堅調さを欠いている。
‘Rainy Weather Recognition from In−vehicle Camera Images for Driver Assistance’,MM.Kurihata et al.,Intelligent Vehicles Symposium,IEEE,pp.205−210,2005
したがって、本発明の第1の目的は、画像取得システムによって透明な壁を通して取得されたデジタル画像に現れる滴を検出する堅調な方法を提案することであり、その方法は滴の存在だけでなく滴の位置の検出も可能にするものである。
この目的は、以下の工程を含む、滴の検出方法によって達成される。
b) 各画素に、その画素の位置における勾配値を割り当てることによって、デジタル画像から勾配画像を確立する;
c) 画素の近傍にランク(rank)フィルタを適用して取得した値を各画素に割り当てることにより上記勾配画像をフィルタリングして、フィルタリングされた画像を取得する;
d) 上記デジタル画像において検出された滴の位置を表すマスクであって、上記マスクにおいて、フィルタリングされた画像における画素値と勾配画像における画素値との差が所定値を超える画素は活性化されているマスクを決定する。
「マスク」は、二進法画像として理解され、その画素は、0(非活性画素)または1(活性化された画素)のいずれかに等しい。画像取得システムは、特に、写真カメラまたはデジタルビデオカメラとすることができる。
本方法には、中間画像、勾配画像、およびフィルタリングされた画像の作成用に2つの工程b)およびc)が含まれ、マスクの生成工程d)の間に、これらの画像から滴の存在に関する情報が抽出される。
ランクフィルタリングの工程は、フィルタリングされた画像の各画素に関し、画素の所定の近傍(例えば、検討される画素を中心にした15×15画素または21×21画素のボックス)について、その値未満に画素の所定の一部(パーセンテージ)が存在し、かつ相補的にその値より上に画素の相補的な所定の一部があるという値を決定する。例えば、目的は、その値未満に、検討された近傍における画素の95%が見出されるという値を決定することである。この値は、フィルタリングされた画像において、検討された画素に割り当てられる。
フィルタリングされた画像は、勾配画像のローカル「ノイズ」が低減された画像である。近傍サイズとしては、滴のサイズよりかなり大きなサイズ、例えば、両方向において滴のサイズの3倍または4倍が選択されるのが好ましい。
また、勾配画像からフィルタリングされた画像を減じることによって、滴による勾配の変化量を可視化することが可能になる。
結果として本方法に十分な堅牢性がもたらされ、例えば都市環境などの複雑な風景を表す画像等に対しても、優れた性能を発揮することができる。
本発明の第2の目的は、複数のデジタル画像からの滴を検出する堅調な方法を提案することであり、その方法は画像取得システムによって透明な壁を通して取得された複数のデジタル画像に現れる滴の検出を可能にする。
この目的は、以下の工程を含む方法によって達成される。
− 先に規定した方法によって、上記デジタル画像から複数のマスクを連続的に取得する;
− 工程h)の間、取得されたマスクの少なくとも所定の割合に現れる滴を含む確定マスクが設定される。この方法において、本方法が実行される基となる複数のデジタル画像を様々に利用できることが分かる。特に、
− 各デジタル画像についてマスクを計算する。または、
− 複数の画像においてデジタル画像のグループを形成する。各グループに対してマスクを取得し、次に、これらのマスクに基づいて確定マスクを取得する。
本発明の第3の目的は、開始(入力)データとしてプログラムに供給された1または複数のデジタル画像における滴を検出するために、コンピュータまたは計算機上で実行することができるコンピュータプログラムを提案することである。
この目的は、先に規定した滴の検出方法の1つを実行するための指令を有するコンピュータプログラムによって達成される。
本発明の第4の目的は、画像における滴の存在を堅固に検出するための、かつ、標準的画像取得システムによって実行できる、滴の検出装置を提案することである。
この目的は、画像取得システム、及び、画像取得システムによって取得された画像を受信するための、画像取得システムに接続された計算機を有する装置によって達成され、該計算機は、先に規定した方法を実行するのに適したものである。特に、本発明は、フロントガラス上の雨の滴を検出するための装置として使用されるこの種の装置に関する。ここで、計算機は、コンピュータまたは専用電子コンポーネント、特に、その物理的アーキテクチャ(ハードウェア)が、ソフトウェアによっても実行できるいくつかの機能を実行するコンポーネントを意味する。
したがって、本発明は、特に、画像取得システムと、画像取得システムによって取得された画像を受信するための、画像取得システムに接続されたかかる計算機とを有する装置に関し、上記計算機には、以下の手段が含まれる。
− 勾配画像を構成するために、画素の位置における勾配値を各画素に割り当てるのに適した、上記デジタル画像から勾配画像を確立するための手段;
− 勾配画像における画素の近傍にランクフィルタを適用することによって取得した値を各画素に割り当てることによりフィルタリングされた画像を構成するのに適したフィルタリング手段;
− 上記デジタル画像における検出された滴の位置を表すマスクであって、フィルタリングされた画像における画素値と勾配画像における画素値との差が所定値を超える画素が活性化されているマスクを確立するための手段。
計算機は、主として中央ユニットを有することができるが、しかしまたいくつかの分散計算ユニットで構成することもできる。
実施形態において、計算機は、隣接する活性化された画素間に位置する、活性化されていない画素をマスクにおいて活性化することによって、マスクを完成するための手段をさらに有する。
実施形態において、計算機は、結合する画素のグループの特性に関する所定の除去基準を1つ以上満足する、活性化された結合する画素のグループをマスクにおいて非活性化することによりマスクを精製するための手段をさらに有する。
実施形態において、計算機は、取得されたマスクにおける滴を特定するための手段をさらに有し、各滴は活性化された結合する画素のグループに対応する。
本発明は、特に、前述のような装置であって、デジタル画像から複数のマスクを連続的に生成するように構成され、かつ計算機が、先に取得したマスクの少なくとも所定の割合に現れる滴を、(「確定マスク」と呼ばれる)マスクにおいて選択するのに適したマスク確定手段をさらに有する装置に関する。
実施形態において、装置は、制御信号をマシンに送信するための送信手段をさらに有し、前記信号は、1または複数のデジタル画像上で識別された滴の数または密度の関数である。ここで、滴の密度は、識別された滴の数と、滴が検出されたガラス板の表面との比(密度は、滴の数/mと表現することができる)、または、識別された滴の数と、画像における1以上の関心領域の画素で表現された表面との比(密度は、滴の数/画素もしくは滴の数/M画素と表現することができる)を示す。
この種の装置は、特に、ウィンドワイパーシステムに制御(または作動)信号を送信するようにさせることができる。
非限定的な例によって表された、下記の実施形態の詳細な説明から、本発明は、より明確に理解され、その利点はより明確に浮かび上がるであろう。その説明は、添付の図面を参照する。
本発明にかかる方法が実行される起点となる初期画像を示す。 検出された滴を黒で示すことによって取得された最終画像を示す。 車両に配置された、本発明にかかる装置の斜視図である。 本発明にかかる、滴の検出方法の概略全体図である。 デジタル画像セットから取得された部分デジタル中間画像の図である(方法の工程a))。 図5の画像から取得されたデジタル勾配画像の図である(方法の工程b))。 ランクフィルタリングによって図6の画像から取得されたデジタルのフィルタリングされた画像の図である(方法の工程c))。 図6および図7の画像から減算および閾値処理によって取得されたマスクの図である(方法の工程d))。 図5のマスクから取得された、確定マスクの図である(方法の工程h))。
図1〜3は、本発明の重要な用途、特に車両のフロントガラス上の滴の検出を示す。
図1および2は、図3に示す滴の検出用の装置100によって取得されたデジタル画像を示す。
図1は、例えばカメラによって提供される生画像を示す。図2は、本方法によって取得されたマスクを生画像に重ねることによって、本方法の完了時に形成される画像を示す。検出された滴の画素は黒で現れる。有利なことに、この第2の画像によって、フロントガラス上に存在する滴の数および密度の即時的評価が可能になる。
図3は、この結果をもたらすために用いられる、本発明にかかる滴検出用装置100を概略的に示す。この装置100は車両102に取り付けられ、車内106に配置されたカメラ104、および、カメラ104が接続される計算機108または搭載コンピュータを有する。カメラ104は、風景の明瞭な画像を提供するために無限焦点である。無限焦点ゆえに、車両の環境の明瞭な画像の取得は、計算機108によって実行される画像処理(以下で規定される処理)の有効性に寄与する。これに対し、フロントガラスに合焦されて、環境の明瞭な画像を提供しないであろうカメラは、滴の検出に所望の効率をもたらさないことになろう。
また、カメラの無限焦点は、車両の環境の明瞭な画像をもたらす。これらの画像は、道路標識の検出などの他の有用な処理のために利用することができる。
カメラによって連続的に取得された画像から滴を検出する方法を実行する、本発明にかかるプログラムは、計算機108上で実行される。
計算機108は、フロントガラス上の滴の存在に関して取得された情報に応じて、必要な場合にはフロントガラスのワイパー110を作動させる電動機109を始動させる。
ここで、図4〜9を参照し、本発明にかかる滴の検出方法の実施形態を説明する。図4は方法の概略全体図を示し、図5〜9は方法の工程a)〜e)をそれぞれ示す。
本方法は、CCDやCMOSマトリックスビデオカメラなどの標準的デジタルビデオカメラによって生成されたデジタル画像のシーケンスから実行される。
この画像シーケンスは、画像グループに構成される。これらの画像グループは、以下で詳述する例のようにグループ間の重複なしか、または、画像が2以上のグループに共通し得ることを意味するグループ間の重複を伴うという、異なる様式で構成できる。例えば、画像I1、I2、I3、I4等がカメラによって連続的に取得される場合に、画像グループは以下のように構成することができる。第1のグループに画像I1〜I5を含むことができ、第2のグループに画像I2〜I6を含むことができ、第3のグループに画像I3〜I7を含むことができる、等である。
図4〜9によって示す実施形態において、20画像のシーケンスI11−I15、I111−I115、I211−I215、I311−I315が示されている。
最初に、画像は、5画像のグループ(これは、5ではなく任意の整数とすることが可能である)によってグループ化される。したがって、これにより、画像の4つのグループI11−I15、I111−I115、I211−I215、I311−I315が構成される。
これらのグループのそれぞれに対して、方法の第1の工程a)では、グループのデジタル画像から中間画像を決定する。したがって、画像I11−I15から中間画像I16が形成され、画像I111−I115から中間画像I116が形成される、等である。各中間画像において、各画素には、検討された画像グループの画像における画素に割り当てられた中間値が割り当てられる。
画像I11−I15、I111−I115等がカラー画像である場合、中間画像はグレー画像に変換される。
次に、得られた各中間画像に対しマスク(I20、I120、I220、I320)を生成する一連の操作(方法の工程b)〜g))が実行される。これらのマスクは、二進法画像であり、滴の存在が検出された画素が活性化される(すなわち値1である)。
図5〜9は、方法の工程a)〜e)中に取得されたデジタル画像を示す。よりよく理解するために、方法のこれらの工程は、18行および27列しか含まない部分画像によって示されている。当然、完全な画像は、通常、より大きな寸法、例えば480行および640列を有する。
別段の定めがない限り、以下の説明は、画像I11−I15からなされた処理についてのものである。
既に言及したように、方法の最初の工程a)(図5)において、複数のデジタル画像(この場合、画像I11−I15)が平均されて中間画像I16が得られる。該画像は、本方法の後続工程が実行される基礎となるデジタル画像を形成するものである。
図5は、画像I11−I15の中間値を画素ごとに計算することによって取得された中間画像I16を示す。中間画像における画素値の決定は、いくつかの画像中の画素の中間値を計算するための様々な既知の式を用いて行うことができる。
図5に示すデジタル画像は、底部の第1の暗いエリア60(道路)、次いで直上の中間グレーの第2エリア62、次いで第3エリア64、および、最後に第4エリア66(空、光)からなる風景を示す。
この画像は、4つの滴A、B、C、Dの存在によって変更される。これらの滴は、それぞれ3×4画素の寸法のエリアを占める。滴は、反映するシーンの色調を反対に表す。すなわち、反映された風景(エリア60、62、64、66)とは逆に、上方に暗い画素および下方に明るい画素を含む。
本方法の次の工程b)(図6)では、中間画像I16から勾配画像I17を確立する。
画像I17を確立するために、まず、「Xにおける」第1の勾配画像が形成される。該画像では、各画素は、以下の式によって決定された値を取る。
(x,y)=|I16(x,y)−I16(x−1,y)|
式中、|...|は、絶対値関数を表し、I16(x,y)は、画像I16における行xおよび列yの画素が取る値である。「Yにおける」第1の勾配画像は、
(x,y)=|I16(x,y)−I16(x,y−1)|
として同様に計算される。
勾配画像I17は、値、
G(x,y)=√(G(x,y)+G(x,y)
を各画素に割り当てることによって得られる。式中、√は、関数「平方根」を表す。他の類似の勾配の関数を、本発明の範囲内で用いることができる。
当然、色調の変化量が勾配画像I17に現れる。したがって、2画素の幅を有する3つの水平帯68、70、72を識別することができる。これらは、エリア60、62、64、および66間の色調の各変化量に対応する。
また、各滴について、滴A、B、C、Dの上側部分および下側部分にそれぞれ対応する2つのエリア74A、76A、74B、76B、74C、76C、74D、76Dを特定することができる。画像は、その下部においてより対照的になるので、滴CおよびDの勾配値が、滴AおよびBの勾配値より高いことに気付くことができる。結果として、滴CおよびDのエリア74C、74D、および、76C、76Dが、滴AおよびBの対応エリアより暗くなる。
本方法の次の工程c)(図7)では、ランクフィルタリングによって取得した値を各画素に割り当てることにより、勾配画像I17をフィルタリングして、フィルタリングされた画像I18を取得する。周知のように、ランクフィルタリングは、各画素について、検討対象の画素の近傍に位置する画素の値のうち所定のパーセンテージがその値未満(または超)に存在する、という値を割り当てることである。提示した方法は、その値未満に15×15または21×21画素のボックスによって構成された近傍における画素の95%が存在するという値を、フィルタリングされた画像における各画素に割り当てることによって検証された。
フィルタリングされた画像I18において、下側の暗いエリア78および上側のより明るいエリア80を認識することができる。下側エリア78は、勾配画像I17における暗いエリア68、70、74C、76C、74Dおよび76Dの存在から本質的にもたらされる。
本方法の次の工程d)(図8)では、検出された滴の位置を表すマスクI19を確立する。これは、2工程で行われる。最初に、勾配画像I17とフィルタリングされた画像I18との間の減算によって、画像が形成される。
次に、マスクI19が、閾値処理、つまり、フィルタリングされた画像における画素値と勾配画像における画素値との間の差が所定値を超える画素だけを活性化させることにより、確立される。マスクI19は、「高勾配画像」と見なすことができる。
このマスクI19において、滴A、B、CおよびDについて、活性化された結合する画素の上側および下側のグループにそれぞれ対応する、エリア84A、86A、84B、86B、84C、86C、84D、86Dを認識することができる。
本方法の利点は、異なる勾配エリア(74A、76A、74B、76B、74C、76C、74D、76D)が、マスクI19において有効に検出および活性化されるということである。これは、工程d)において、フィルタリングされた画像を勾配画像から減算する演算によって可能になり、勾配値からローカルな成分を除去することにつながる。画像における滴の位置を検出するために勾配型の関数だけが使用された場合には、この結果は取得できなかった可能性がある。
実際に、エリア78(エリア74C、76C、74Dおよび76Dに対応する)の値を有する閾値を用いて、勾配画像I17の閾値処理を実行しても、滴AおよびBの検出は可能にならない。かかる閾値を用いると、エリア84A、86A、84B、および86Bは、閾値処理画像に現れない。反対に、エリア80(エリア74A、76A、74Bおよび76Bに対応する)の値を有する閾値を用いて、勾配画像I17の閾値処理を実行することは、滴CおよびDからエリア70および68を区別できるようにすることなく、滴A、B、CおよびDに加えて、エリア70および68を保持することになったであろう。
結果として、フィルタリングされた画像I18を工程c)およびd)中で用いることによって、有利なことに、4つの滴A、B、CおよびD、これらだけを勾配画像I17において特定することが可能になる。
本方法の次の工程e)(図9)では、隣接する活性化された画素間に位置する非活性画素をマスクにおいて活性化することにより、マスクを完成する。
この工程の目的は、画像に存在する同じ滴における異なる部分に実は対応する、隣接する活性化された画素の複数のエリアを、同一の滴であると特定できるように、マスクにおける「穴」を満たすことである。
「隣接する活性化された画素間に位置する」なる表現において、用語「間」は、広い意味を有するとみなされなければならない。実際に、工程e)では、画素が、活性化された画素によって包囲されるかまたは取り囲まれた(少なくとも部分的に)場合に、画素を活性化する。より正確には、この工程は、活性化基準を満たす各画素を活性化する。この活性化基準は、検討対象の画素の近傍に位置する活性化された画素の数、距離、および/または、位置の関数である。
検討される画素の近傍は、様々に、また、選択された活性化基準に応じて、規定することができる。
実施形態において、この近傍には、検討される画素に近い全ての画素、すなわち画像における滴のサイズ未満(場合によっては、滴の最大サイズ)の距離、またはこの距離の一部だけ離れた全ての画素が含まれる。活性化基準は、この近傍において少なくとも所定数の活性化された画素を有する全ての画素を活性化する。
他の実施形態において、近傍の形態およびサイズを指定することができる。
例えば、検討対象の画素の上および下の4画素を近傍として用いることができる。前述の実施形態におけるように、この場合の活性化基準では、活性化された画素を所定数以上自身の近傍(そのように規定された)に有する画素を活性化させる。図示した例において、検討される画素の活性化を可能するために、最低2つの活性化された画素が検討される画素の近傍に存在しなければならない。画像I20は、この関数がI19に適用されたことを示す。
このようにして完成されたマスクの例が図9に示されている。図9は、4つの検出された滴A、B、CおよびDに対応する、活性化された結合する画素の4つのエリアを示す。
本方法の次の工程f)では、結合する画素のグループの特性に関連した所定の除去基準を1つ以上満足する、活性化された結合する画素のグループを、マスクにおいて非活性化することによりマスクを精製する。この工程の目的は、フロントガラス上に存在する滴に対応しない、活性化された結合する画素のグループをいずれもマスクから除去することである。このため、液体の物理的特性に基づき、滴の延伸または偏心の他にも、滴のサイズを固定最小値および固定最大値間で変化させる。
したがって、異なる除去基準を(場合によっては同時に)用いることができる。提示の例において、以下の基準が同時に用いられる。
− 活性化された結合する画素のグループの画素数が、第1の所定値未満であり、および/または、第2の所定値より大きい(従って、これは滴の表面に関する基準である)場合、その場合にのみ、第1の除去基準が満たされる;
− 活性化された結合する画素のグループの高さと幅の比率が、第3の所定値未満であり、および/または、第4の所定値より大きい場合、その場合にのみ、第2の除去基準が満たされる;
− 活性化された結合する画素のグループの偏心率が所定値未満である場合、その場合にのみ、第3の除去基準が満たされる。偏心率は、図示の実施形態において、周囲の長さの平方と表面との比率として定義されるが、他の定義を用いることもできる。
本方法の次の工程g)では、取得されたマスクにおいて滴を識別する。各滴は、活性化された結合する画素のグループに対応する。この工程の目的は、情報を離散化すること、および、画像に存在する滴に関する情報を滴リストの形態で提供することである。好ましくは、画像における滴の位置(行および列番号)などの情報が、滴ごとに抽出される。当然、滴の位置は、例えばその重心、中点など、様々に定義することができる。各滴に対して、表面、周囲など、異なる幾何学的変数もまた計算することができる。
この情報は、場合によっては本方法のこの段階から活用することができる。
しかしながら、この情報が活用される前に、先の工程中に識別された滴のいくつかを除去して情報を精製または純化することが好ましい。なぜなら、これらが、実は人工物であり滴ではないことが明らかであるためである。
このために、本方法には、「確定」マスクI21を生成することによって、取得された情報をさらに精製するという次の工程h)が含まれる。この工程h)は、滴は一般的に、それが位置する表面の一定位置に留まるという知識に基づいている。また、滴は、全画像または少なくとも大部分において、この位置で検出されなければならない。この原理は、移動している車両のフロントガラス上に形成された滴の場合に、当然、特に効果的である。なぜなら、対照的に、風景の要素を特徴づける画素の値は絶えず変化するからである。
この原理に基づいて、確定マスクI21は、先に取得されたマスクI20、I120、I220、I320の所定の割合以上に現れる滴だけをこのマスクに保持することにより、決定される。この場合、確定マスクI21に滴を保持するために選択される基準では、先の工程中に取得されたマスクの100%において滴が検出されることが要求される。
ここで、提示の例において、3つの滴が、取得された4つのマスクI20−I320において体系的に検出されたが、1つ(画像の右上に位置する、図5〜9における滴「B」)は、マスクI320において検出も保持もされなかった。この滴「B」が、確定マスクI21(図4)から除去されることになる。
実際には、提示の方法において、この要件は、以下のように検証される。
− 全ての検出された滴の中点の位置が、検討される各マスク(I20−I120−I220−I320)において決定される。
− 検討される一連のマスクの第1のマスク(I20)に存在する任意の滴に対して、次の事項が検証される。すなわち、後続の工程で取得されたマスク(I120−I220−I320)のそれぞれにおいて、検討される滴の中点から所定の距離だけ中点が離れた滴が1以上あることが検証される。この特性が、後続の工程で取得されたマスクのそれぞれに対して実証された場合には、滴は、確定マスク(I21)に維持される。反対の場合に、滴は人工物と見なされて削除され、マスクI21の対応する画素は非活性化される。
ひとたび、確定マスクI21が取得されると、方法の工程g)中に生成された、検出された滴に関する情報(検出された滴の位置、表面、周囲等)が、必要な場合には更新される。
次に、確定マスクI21から、検出された滴の総数88が評価される。各滴は、従って、活性化された結合する画素のグループに対応する。提示の例において、40の滴が、図1の全画像上で検出された。
最後に、方法の工程i)において、制御信号がマシンに送信される。上記信号は、先の工程で特定された滴の数または密度の関数である(この数は、マスク確認工程中に、その初期値に対して減少している可能性がある)。
状況に応じて、送信される情報は、滴の数自体であったり、異なる関心領域において、関心領域の面積で滴の数を割って取得された滴の密度であったり、または、滴もしくは雨の欠如/存在の二進法表示であったりする。この後者の場合に、指標の値を1に切り換えるための基準が選択される。例えば、滴の数が所定数より大きい場合に、雨が降っている(滴の存在)と見なすことができる。
図によって示す用途において、滴の数の情報は、電子制御ユニット108に送信される。電子制御ユニット108は、フロントガラスのワイパー110を作動させること、または、場合によっては、フロントガラスのワイパー110の速度および/もしくは作動頻度を適合させることが必要か否かを導き出す。この場合、40の滴がフロントガラス上に存在するとの情報を受信すると、制御ユニット108は、フロントガラスのワイパーを始動させるわけであるが、作動命令を電動機109に送信し、電動機109がフロントガラスのワイパー110を操作する。電動機109およびフロントガラスのワイパー110に接続された制御ユニット108は、ウィンドワイパーシステムを構成する。
この実施形態によって示す方法は、画像シーケンスの使用によって特徴付けられる。該シーケンスによって、第1に、中間画像I16−I116−I216−I316を決定すること、次に、マスクI20−I120−I220−I320を取得すること、最後に、確定マスクI21を取得することが可能になる。当然、本発明にかかる方法は、単一画像から実行することができる。また、開始画像I11−I15、I111−I115、I211−I215、I311−I315のそれぞれに対してマスクを計算するために実行することができる。また、シーケンスI11−I15、I111−I115、I211−I215、I311−I315の画像セットをまず平均することによっても実行することができる。しかしこの場合には、本方法の工程h)中におけるマスクの確認は行わない。
100 滴検出用装置
102 車両
104 カメラ
106 車内
108 計算機(制御ユニット)
109 電動機
110 ワイパー
I11、I12、I13、I14、I15 画像
I111、I112、I113、I114、I115 画像
I211、I212、I213、I214、I215 画像
I311、I312、I313、I314、I315 画像
I16、I116、I216、I316 中間画像
I17 勾配画像
I18 フィルタリングされた画像
I19 マスク
I20、I120、I220、I320 マスク
I21 確定マスク
A、B、C、D 滴
60、62、64、66 エリア
68、70、72 水平帯
74A、74B、74C、74D、76A、76B、76C、76D エリア
78、80 エリア
84A、84B、84C、84D、86A、86B、86C、86D エリア
88 検出された滴の総数

Claims (12)

  1. 画像取得システム(104)によって透明な壁を通して取得されたデジタル画像(I11−I15、I111−I115、I211−I215、I311−I315)に現れる滴(A、B、C、D)を検出する方法であって、以下の工程:
    b) 各画素に、前記画素の位置における勾配値を割り当てることによって、デジタル画像(I16)から勾配画像(I17)を確立する工程;
    を含み、
    前記方法が、さらに以下の工程:
    c) 前記画素の近傍にランクフィルタを適用して取得した値を各画素に割り当てることにより前記勾配画像をフィルタリングして、フィルタリングされた画像(I18)を取得する工程と;
    d) 前記デジタル画像において検出された滴の位置を表すマスク(I19)であって、前記フィルタリングされた画像における画素値と前記勾配画像における画素値との差が所定値を超える画素は活性化されているマスクを確立する工程
    とを含むことを特徴とする方法。
  2. さらに以下の工程:
    e) マスクにおいて、隣接する活性化された画素間に位置する活性化されていない画素を活性化することによってマスク(I20)を完成する工程
    を含む、請求項1に記載の方法。
  3. さらに以下の工程:
    f) マスクにおいて、結合する画素のグループの特性に関する所定の除去基準を1以上満足する、活性化された結合する画素のグループを非活性化することによって、マスクを精製する工程
    を含む、請求項1または2に記載の方法。
  4. 活性化された結合する画素のグループの画素数が第1の所定値未満であり、および/または、第2の所定値より大きい場合、その場合にのみ、工程f)で考慮される除去基準が満たされる、請求項3に記載の方法。
  5. 活性化された結合する画素のグループの高さと幅の比率が第3の所定値未満であり、および/または、第4の所定値より大きい場合、その場合にのみ、工程f)で考慮される除去基準が満たされる、請求項3または4に記載の方法。
  6. 活性化された結合する画素のグループの偏心率が所定値未満である場合、その場合にのみ、工程f)で考慮される除去基準が満たされる、請求項3〜5のいずれか一項に記載の方法。
  7. 複数のデジタル画像から滴を検出する方法であって、
    最初の工程a)において、前記複数のデジタル画像を平均化して、デジタル画像を形成するための中間画像(I16)を取得することを特徴とする、請求項1〜6のいずれか一項に記載の方法。
  8. さらに以下の工程:
    g) 取得されたマスクにおける滴(A、B、C、D)が特定される工程であって、各滴は活性化された結合する画素のグループに対応するものである工程
    を含む、請求項1〜7のいずれか一項に記載の滴を検出する方法。
  9. 画像取得システム(104)によって透明な壁を通して取得された複数のデジタル画像(I11−I15、I111−I115、I211−I215、I311−I315)に現れる滴を検出する方法であって、
    前記方法が、以下の工程:
    − 複数のマスク(I20、I120、I220、I320)が、請求項8で規定された方法によって前記デジタル画像から連続的に確立される工程と;
    − 工程h)の間、このようにして取得されたマスクの少なくとも所定の割合に現れる滴を含む確定マスク(I21)が確立される工程
    とを含む方法。
  10. さらに以下の工程、
    i) 制御信号をマシン(108、109、110)に送信する工程であって、前記信号が、特に前記マシンがウィンドウワイパーシステムである場合に、工程g)で識別された滴の数または密度の関数である工程
    を含む、請求項8または9に記載の滴を検出する方法。
  11. 請求項1〜10のいずれか一項に記載の滴を検出する方法を実行するための指示を有するコンピュータプログラム。
  12. 画像取得システム(104)と、
    前記画像取得システム(104)によって透明な壁を通して取得された画像(I11−I15、I111−I115、I211−I215、I311−I315)を受信するために前記画像取得システム(104)に接続された計算機(108)
    とを有する、滴を検出する装置(100)であって、
    前記計算機請求項1〜10のいずれか一項に記載の方法を実行するためのコンピュータプログラムが組み込まれた装置(100)。
JP2012552444A 2010-02-09 2011-02-08 デジタル画像における滴を検出する方法および装置ならびにこの方法を実行するためのコンピュータプログラム Expired - Fee Related JP5785565B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
FR1050902A FR2956236B1 (fr) 2010-02-09 2010-02-09 Procede et dispositif de detection de gouttes dans une image numerique; programme d'ordinateur pour la mise en oeuvre de ce procede.
FR1050902 2010-02-09
PCT/FR2011/050256 WO2011098716A1 (fr) 2010-02-09 2011-02-08 Procede et dispositif de detection de gouttes dans une image numerique; programme d'ordinateur pour la mise en oeuvre de ce procede

Publications (2)

Publication Number Publication Date
JP2013519173A JP2013519173A (ja) 2013-05-23
JP5785565B2 true JP5785565B2 (ja) 2015-09-30

Family

ID=42629102

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012552444A Expired - Fee Related JP5785565B2 (ja) 2010-02-09 2011-02-08 デジタル画像における滴を検出する方法および装置ならびにこの方法を実行するためのコンピュータプログラム

Country Status (6)

Country Link
US (1) US9058643B2 (ja)
EP (1) EP2534640B1 (ja)
JP (1) JP5785565B2 (ja)
KR (1) KR20120113808A (ja)
FR (1) FR2956236B1 (ja)
WO (1) WO2011098716A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102011056051A1 (de) * 2011-12-05 2013-06-06 Conti Temic Microelectronic Gmbh Verfahren zur Auswertung von Bilddaten einer Fahrzeugkamera unter Berücksichtigung von Informationen über Regen
JP6183682B2 (ja) * 2013-02-06 2017-08-23 株式会社リコー 付着量算出装置、移動体機器制御システム及び付着量算出用プログラム
KR101518896B1 (ko) * 2013-10-10 2015-05-11 현대자동차 주식회사 와이퍼 작동 시스템 및 방법
US9245333B1 (en) 2014-12-10 2016-01-26 Semiconductor Components Industries, Llc Systems and methods for detecting obstructions within the field-of-view of an image sensor
FR3030974B1 (fr) * 2014-12-19 2018-03-23 Stereolabs Systeme pour la prise de vue en trois dimensions au cours d'un deplacement
WO2018027503A1 (zh) * 2016-08-08 2018-02-15 深圳市大疆创新科技有限公司 雾滴测试仪及雾滴测试系统
US10427645B2 (en) * 2016-10-06 2019-10-01 Ford Global Technologies, Llc Multi-sensor precipitation-classification apparatus and method
JP7206909B2 (ja) * 2018-12-28 2023-01-18 株式会社デンソーテン 付着物検出装置および付着物検出方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8018A (en) * 1851-04-01 Improvement in seed-planters
US7011A (en) * 1850-01-08 Mill foe
US5923027A (en) * 1997-09-16 1999-07-13 Gentex Corporation Moisture sensor and windshield fog detector using an image sensor
US6313454B1 (en) * 1999-07-02 2001-11-06 Donnelly Corporation Rain sensor
DE69836344T2 (de) * 1997-10-30 2007-05-31 Donnelly Corp., Holland Regensensor mit nebelerkennung
JP4211043B2 (ja) * 1999-11-17 2009-01-21 日本精機株式会社 雨滴検出装置
JP4257627B2 (ja) * 1999-11-19 2009-04-22 日本精機株式会社 雨滴検出装置
US8553088B2 (en) * 2005-11-23 2013-10-08 Mobileye Technologies Limited Systems and methods for detecting obstructions in a camera field of view
TW200834459A (en) * 2007-02-05 2008-08-16 Huper Lab Co Ltd Video object segmentation method applied for rainy situations
JP5381728B2 (ja) 2010-01-08 2014-01-08 富士通株式会社 情報処理装置、情報処理プログラム、及び、情報処理方法

Also Published As

Publication number Publication date
KR20120113808A (ko) 2012-10-15
EP2534640A1 (fr) 2012-12-19
FR2956236B1 (fr) 2012-11-30
US9058643B2 (en) 2015-06-16
EP2534640B1 (fr) 2015-05-20
WO2011098716A1 (fr) 2011-08-18
FR2956236A1 (fr) 2011-08-12
JP2013519173A (ja) 2013-05-23
US20130044910A1 (en) 2013-02-21

Similar Documents

Publication Publication Date Title
JP5785565B2 (ja) デジタル画像における滴を検出する方法および装置ならびにこの方法を実行するためのコンピュータプログラム
CN104822568B (zh) 控制车辆摄像机的清洁设备的方法和设备、清洁车辆摄像机的方法和车辆的摄像机系统
JP6772113B2 (ja) 付着物検出装置、および、それを備えた車両システム
US7860275B2 (en) Method for detecting rain on a windscreen
JP7122364B2 (ja) 付着物検出装置、付着物検出方法
US9956941B2 (en) On-board device controlling accumulation removing units
WO2011108218A1 (ja) 車両の周辺監視装置
US10552706B2 (en) Attachable matter detection apparatus and attachable matter detection method
TWI494899B (zh) 影像內週期性雜訊修補方法
JP5917697B2 (ja) 車両のフロントガラス上の雨滴を検出するための方法およびカメラアセンブリ
JP6595401B2 (ja) 表示制御装置
JP5267101B2 (ja) 車両用対象物検出装置
US20160217335A1 (en) Stixel estimation and road scene segmentation using deep learning
JP2008157924A (ja) 自動車分野における感光センサ
JP6089767B2 (ja) 画像処理装置、撮像装置、移動体制御システム及びプログラム
JP2003259358A (ja) カメラの汚れ検出装置およびカメラの汚れ検出方法
Cord et al. Detecting unfocused raindrops: In-vehicle multipurpose cameras
CN110954920B (zh) 附着物检测装置
KR20190019840A (ko) 물체 검출과 통지를 위한 운전자 보조 시스템 및 방법
CN110226326A (zh) 用于检测车辆的周围环境区域的摄像设备及方法
JP2014024354A (ja) ワイパ制御装置
CN112949470A (zh) 车辆变道转向灯识别方法、装置、设备及存储介质
CN110654237B (zh) 车体图标显示方法、装置、车辆和存储介质
CN110539694B (zh) 雨量的告警方法、告警装置和车辆
JP7359541B2 (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141030

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150707

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150724

R150 Certificate of patent or registration of utility model

Ref document number: 5785565

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees