JP2019096320A - きれい又はよごれたキャプチャ画像判定 - Google Patents

きれい又はよごれたキャプチャ画像判定 Download PDF

Info

Publication number
JP2019096320A
JP2019096320A JP2018219101A JP2018219101A JP2019096320A JP 2019096320 A JP2019096320 A JP 2019096320A JP 2018219101 A JP2018219101 A JP 2018219101A JP 2018219101 A JP2018219101 A JP 2018219101A JP 2019096320 A JP2019096320 A JP 2019096320A
Authority
JP
Japan
Prior art keywords
image
cleanliness
dirt
index
clean
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018219101A
Other languages
English (en)
Other versions
JP2019096320A5 (ja
JP7164417B2 (ja
Inventor
ダニエル・ハーケンバッハ
Herchenbach Daniel
アナス・マナ
Mhana Anas
セバスチャン・カレーニョ
Carrenio Sebastian
ロビン・レーマン
Lehmann Robin
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ficosa Adas SL
Original Assignee
Ficosa Adas SL
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ficosa Adas SL filed Critical Ficosa Adas SL
Publication of JP2019096320A publication Critical patent/JP2019096320A/ja
Publication of JP2019096320A5 publication Critical patent/JP2019096320A5/ja
Application granted granted Critical
Publication of JP7164417B2 publication Critical patent/JP7164417B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/457Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by analysing connectivity, e.g. edge linking, connected component analysis or slices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

【課題】キャプチャ装置によってキャプチャされた画像がきれいであるか又は汚れているかを判定する、改善された方法を提供する。【解決手段】方法は、画像のキャプチャ装置によってキャプチャされた画像を受信すること、受信した画像を所定の分割基準に従って複数の画像部分に分割すること、画像部分の幾つかの各々に対して、画像部分のラプラシアン・フィルタを実行して、画像部分のラプラシアン・フィルタ特徴を含む特徴ベクトルを生成すること、特徴ベクトルの少なくとも幾つかの各々を、対応する画像部分の清潔さ又は汚れの確率的な値を含む清潔さ及び汚れの指数を対応する特徴ベクトルに応じて生成するように学習している第1機械学習モジュールに送信すること及び第1機械学習モジュールによって生成された清潔さ及び汚れの指数に応じて、画像がきれいであるか又は汚れているかを判定することを含む。【選択図】図3

Description

本開示は、キャプチャ装置によってキャプチャされた画像がきれいである(よごれてない)又はよごれているか否かを判定する方法、並びに、このような方法を実行するのに適切なコンピュータ・プログラム及びコンピュータ・システムに関する。
(背景)
当該技術分野において、キャプチャ装置(例えばカメラ)の動作を監視する多くの方法及びシステムが既知であり、その技術水準によれば、例えば、キャプチャ装置によってキャプチャされた画像がよごれているか否かを判定することができる。よごれたキャプチャ画像(例えば、対応するカメラの「外部」レンズがよごれているため)は、信頼性が低く、したがって、対応するアプリケーションでは使用することができない。例えば、車両の障害物検出システムは、十分にきれいでないレンズを通って画像がキャプチャされた場合に、対応するオンボード・カメラ(車載カメラ)からの画像品質が悪いために、使用することができない。レンズは、例えば、粉塵の蓄積、泥の飛沫、悪意のあるペインティング等によって、よごれてしまう。よごれたキャプチャ画像はまた、カメラの内部コンポーネントに悪影響を与えるカメラ内の異常な内部状態(例えば、湿気)から生じ得る。例えば、内部撮像センサは、カメラの不十分な水密性等によって生じた異常状態のために、ゆがんだ像を得ることがある。
オンボードカメラはまた、リアビュー・ミラーとして使用することができる。この場合、キャプチャ画像は、ドライバ(運転者)が運転位置にいる時にそのドライバによって視認されるディスプレイ上に表示される。車は、この型(対応するカメラを備える)のリアビュー・ミラーを少なくとも2つ有することができる。このようなリアビュー・ミラー・システムでは、カメラによって撮像された画像は、合理的にきれいであることが重要である。
カメラ・レンズの清潔さ又は汚れは、例えば、そのレンズの外部表面、すなわち、そのレンズの汚れを生じさせる外部環境に露呈させるレンズ表面の清潔さ又は汚れと言うことができる。仮に、レンズが外部保護薄層を備える場合、レンズの清潔さ又は汚れは、このような保護積層物の清潔さ又は汚れとして解釈される。
画像センサとその画像センサの視野内に形成された透明保護層とを含む画像システムは、既知である。このような画像システムは、所定パターンで発光する光源を含む。画像センサによってキャプチャされた画像データ内の所定パターンの反射バージョンの検出を含む。画像システムは、その後、所定パターンの反射バージョンに応じて、画像センサの視野内の障害物が存在するか否かを判定する。
周辺状況の画像領域の用途の画像装置も既知である。画像装置は、画像装置の視野内に存在する物体及びテクスチャ(texture)に関する情報を捕捉することができる。その後、視野内の物体又はテクスチャは、画像装置によって認識される。認識された物体の形状又はテクスチャとその物体の形状又はテクスチャに関して得られていた情報とに基づき、認識された物体の形状又はテクスチャの歪み度が、計算される。対応するレンズの清潔さ又は汚れは、その後、認識された物体の形状又はテクスチャから計算された歪み度に基づき判定される。
他の既知の検出装置は、カメラのレンズ汚れが重くなるほど、画像の合成波の変化が大きくなるという事実に焦点を当てている。この検出装置は、合成波の各画像周波数成分を抽出すること、及び、背景画像とは無関係にその周波数成分間の大小関係の変化(画像周波数パワー分布)を分析することによって、カメラ上のレンズ汚れの有無を検出する。
本開示の目的は、キャプチャ装置によってキャプチャされた画像がきれいである又はよごれているか否かを判定する従来技術の方法並びにコンピュータ・プログラム及びコンピュータ・システムを改善することである。
(概要)
第1の態様において、画像のキャプチャ装置によってキャプチャされた画像がきれいであるか又はよごれているか否かを判定する方法が提供される。その方法は、前記キャプチャ装置によってキャプチャされた画像を受信すること、及び、受信した前記画像を所定の分割基準に従って複数の画像部分に分割すること、を含む。
その方法は、前記画像部分の幾つかの各々に対して、前記画像部分のラプラシアン・フィルタを実行して、前記画像部分のラプラシアン・フィルタ特徴を含む特徴ベクトルを生成すること、を更に含む。
その方法は、生成した前記特徴ベクトルの少なくとも幾つかの各々を第1機械学習モジュールに送信又は供給すること、を更に備え、前記第1機械学習モジュールは、対応する特徴ベクトルに応じて清潔さ/汚れの指数を生成するように学習され、前記清潔さ/汚れの指数は、対応する画像部分の清潔さ又は汚れの確率的な値を含む。
その方法は、前記第1機械学習モジュールによって生成された清潔さ/汚れの前記指数に応じて、前記画像がきれいであるか又はよごれているかを判定すること、を更に含む
前述のとおり、キャプチャされた画像内の汚れは、対応するカメラのレンズ上など、例えば、粉塵の蓄積、泥の飛沫、悪意のあるペインティング等によって、多様な理由によって生じる。よごれているキャプチャ画像は、カメラの内部コンポーネントに悪影響を与えるカメラ内の異常な内部状態(湿度等)によっても生じる。例えば、内部の撮像センサは、カメラの低い耐水性等によって生じた異常な状態に起因して、ゆがんで機能し得る。この意味において、本開示を通して、表現間の以下の等価性が想定されている。
発明者らは、画像から算出された、例えば尖度、平均値、分散、モーメント、平均グレー値等のラプラシアン・フィルタ特徴が、驚いたことに、対応する画像(の部分)の清潔さ/汚れの信頼できる指数を提供できることを認識した。更に、発明者らは、機械学習技術によって効率的に且つ柔軟に実施できる、ラプラシアン・フィルタ特徴と清潔さ/汚れの状態との間の信頼できる相関又は対応を認識した。したがって、提案する方法は、カメラによって撮像された画像の清潔さ/汚れのレベルを自動的に検出するための信頼できる手法を提供することができる。加えて、提案する方法は、例えば、線形分類器、サポート・ベクター・マシン(SVM)等を備える第1機械学習モジュールにおける定期的な又は時間どおりの学習によって、その信頼性を更に改善することができる。
分割の勝利の戦略は、ラプラシアン・フィルタに提供される撮像画像から部分への分割によって、その提案方法に適用することができる。その後、結果として得られるラプラシアン・フィルタ特徴は、部分レベルでの清潔さ/汚れの指数を生成するために、分類器(又は同様のモジュール)に提供される。最後に、全体画像の状態は、清潔さ/汚れの指数に応じて判定される。画像は、精度と効率との間の良好なバランスを達成するために、(より)大きい又は(より)小さい部分に分割することができる。小さい部分は方法の精度を改善する一方、大きい部分はその効率(実行時間)を改善する。方法を試験的に実施して、所望の精度及び効率の条件を満たす最適な分割基準を見つけることもできる。分割基準は、方法(及び対応するソフトウェア)のライフサイクルに沿って精度及び効率間の最善のバランスを確保するために必要な回数だけ再調整することもできる。
全体として、キャプチャ画像の清潔さ/汚れの状態を判定するために、異なるアプローチ又はその組み合わせが考えられる。第1のアプローチにおいて、部分レベルの清潔さ/汚れの指数が集約されて、結果として得られた集約値は、画像の清潔さ/汚れを決定するための対応する閾値と比較することができる。第2のアプローチにおいて、きれいである部分(又はよごている部分)の数は、部分レベルの清潔さ/汚れの指数に応じて決定され、きれいである部分(又はよごている部分)のその数は、画像の清潔さ/汚れを決定するための対応する閾値と比較することができる。第3のアプローチにおいて、第2機械学習モジュールを使用すれば、清潔さ/汚れの指数に応じて、画像の状態を生成することができる。これらについての詳細は、本開示の別の部分で説明する。
本開示に従う方法において画像が処理される状態を改善するために、画素又は部分/指数のレベルで、キャプチャされた画像に異なるフィルタを適用することができる。潜在的に間違った汚れ検出を訂正するために、エッジ/シャープネスの分析に基づく部分/指数のレベルに、コンテキストベースのフィルタを適用することができる。時間フィルタを部分/指数のレベルに実行すれば、外れ値としての清潔さ/汚れの指数を識別し、その後、その外れ値の訂正/破棄を実施することができる。ラプラシアン・フィルタを画像レベルに実行すれば、前述のエッジ/シャープネスの分析が容易になる。これらのフィルタについての詳細は、本開示の別の部分で説明する。
第2の態様において、プログラム命令を備えるコンピュータ・プログラムが提供され、ここで、そのプログラム命令は、上述の方法をコンピュータ・システムに実行させて、キャプチャ装置によってキャプチャされた画像がきれいであるか又はよごれているか否かを判定させることができる。コンピュータ・プログラムは、記録媒体に組み込まれ、且つ/又は、搬送信号によって運ばれる。
第3の態様において、画像のキャプチャ装置によってキャプチャされた画像がきれいであるか又はよごれているか否かを判定するシステムが提供される。そのシステムは、キャプチャ装置によってキャプチャされた画像を受信するための受け付け(受信)モジュールと、受信した画像を所定の分割基準に従って複数の画像部分に分割するための分割モジュールと、を備える。
システムは、更に、画像部分の幾つかの各々に対して、画像部分のラプラシアン・フィルタを実行して、画像部分のラプラシアン・フィルタ特徴を含む特徴ベクトルを生成するためのフィルタ・モジュールを備える。
システムは、更に、生成した特徴ベクトルの少なくとも幾つかの各々を第1機械学習モジュールに供給(送信)するための供給(送信)モジュールを備え、ここで、第1機械学習モジュールは、対応する特徴ベクトルに応じて清潔さ/汚れの指数を生成するように学習され、また、清潔さ/汚れの指数は、対応する画像部分の清潔さ又は汚れの確率的な値を含む。
システムは、更に、第1機械学習モジュールによって生成された清潔さ/汚れの指数に応じて、画像がきれいであるか又はよごれているか否かを判定するための状態判定モジュールを備える。
システム(すなわち、その中のモジュール)は、その詳細が本開示の別の部分で説明されているように、コンピュータ手段、電子手段、又はその組み合わせによって実施することができる。
本明細書において、用語の「モジュール」は、ソフトウェア、ファームウェア、ハードウェア、及び/又は、それらの多様な組み合わせを意味するものとして理解することができる。なお、モジュールは、例示的なものである。様々なアプリケーションをサポートするために、モジュールの組み合わせ、統合、分離、及び/又は複製を実施することができる。また、本明細書に説明される、特定のモジュールで実施される機能は、特定のモジュールで実施される機能の代わりに、或いは、その機能に加えて、1以上の他のモジュール及び/又は1以上の他の装置によって実施することができる。
更に、モジュールは、ローカル又はリモートである、複数のデバイス及び/又はその他の複数のコンポーネントによって実装することができる。加えて、モジュールは、1の装置から移動して他の装置に追加されてもよく、また、モジュールは、その両方の装置に組み込まれてもよい。ソフトウェア実装は、コンピュータ・コードを記憶可能である、例えば、メモリ装置、フロッピ・ディスク、コンパクト・ディスク(CD)、デジタル多目的ディスク(DVD)、又は、その他の装置等の1以上の記憶媒体に、実体的に組み込むことができる。
幾つかの例において、車両ビジョン・システムは、キャプチャ装置によってキャプチャされた画像がきれいであるか又はよごれているか否かを判定するための上述の任意のシステムを備える状態で、提供することができる。車両も、このようなビジョン・システムを備える状態で、提供することができる。車両は、自動車とすることができる。画像のキャプチャ装置は、カメラ又はライダー(LIDAR)又は小さい装置とすることができる。
これらの利点及び特徴並びに他の利点及び特徴は、詳細な説明及び図面を考慮することによって明らかになるであろう。
(図面の簡単な説明)
これに限定されることのない本開示の例は、添付の図面を参照しながら、以下に説明される。
図1は、キャプチャ装置によってキャプチャされた画像がきれいであるか又はよごれているかを判定する例に従うシステムを備えることができる監視システム又はビジョン・システムの概略図を示す。 図2は、キャプチャ装置によってキャプチャされた画像がきれいであるか又はよごれているかを判定する例に従うシステムの概略ブロック図である。 図3は、キャプチャ装置によってキャプチャされた画像がきれいであるか又はよごれているかを判定する例に従う方法の概要フローチャートである。 図4a及び図4bは、本開示に従う方法に適した例のコンテキストベースのフィルタを概要的に図示する。
(実施例の詳細な説明)
図1は、キャプチャ装置によってキャプチャされた画像がきれいである(clean)か又はよごれている(dirty)かを判定する例に従うシステムを備えることができる監視システム又はビジョン・システムの概略図を示す。キャプチャ装置100(例えばカメラ)は、対応するレンズ101を介して周囲の画像(例えば、写真、ビデオ等)を取り込むように、構成することができる。カメラ100は、図において、監視カメラである。しかしながら、他のアプリケーションも想定され、例えば、障害物を検出するための車両内の検出カメラ/ビジョン・カメラ、運転支援システム、リアビューミラー・ミラー・システム等の車両のその他のモニタリング・システムが含まれる。このようなビジョン・システムは、任意の型の任意の媒体上を移動できる車両、例えばボート、飛行機、車等に適している。
上述のアプリケーション及びその他の何れにおいても、カメラ100のレンズ101は、例えば、粉塵の蓄積、泥の飛沫、悪意のあるペインティング等によって、よごれてしまう可能性がある。レンズの汚れが酷い時に、カメラ100は、品質が十分でない画像を生成することになる。したがって、例えば、自動洗浄システムの起動、手動クリーニング用アラームのトリガ等の対応する是正措置を講じるために、レンズの101の汚れがいつ酷くなったのかを判定することが重要である。
カメラ100は、コンピュータ・システムと接続可能であり、コンピュータ・システムは、レンズ101がきれいであるか又はよごれているかを判定するために、カメラからの画像を処理することができる。幾つかの例において、コンピュータ・システムは、参照符号102で示されるように、カメラ100に対してローカルに配置することができる。特に、コンピュータ・システム102は、カメラに内蔵されてもよい。他の例において、コンピュータ・システムは、適切な接続107を介してカメラ100と接続可能なクラウド・システム104であってもよい。別の他の例において、例えばインターネット等の接続ネットワーク103を介してカメラ100と接続可能なリモート・システム105であってもよい。この場合、カメラ100及びネットワーク103間の対応する接続106と、ネットワーク103及びリモート・システム105間の対応する接続108と、が実施されてもよい。
コンピュータ・システム102,104,105は、本開示に従うレンズの清潔さ/汚れを判定するシステムを含むことができる。清潔さ/汚れを判定するシステムは、コンピュータ・システム102,104,105の中の何れか1つ中に完全に組み込まれてもよく、或いは、コンピュータ・システム102,104,105間の幾つかに分散されてもよい。後者の場合、例えば、レンズの清潔さ/汚れを判定するシステムを構成する幾つかのモジュールがコンピュータ・システム102,104,105のうちの1つに在中し、残りのモジュールがコンピュータ・システム102,104,105のうちの他に設けられてもよい。この分散手法において、コンピュータ・システム102,104,105は、したがって、レンズの清潔さ/汚れを判定するための対応する機能を協働して実施することができる。
レンズの清潔さ/汚れを判定するシステムは、コンピュータ手段、電子手段、又はその組み合わせによって実施することができる。コンピュータ手段は、1組の命令(すなわち、コンピュータ・プログラム)であってもよく、次に、レンズの清潔さ/汚れを判定するシステムは、メモリ及びプロセッサを備えて、そのメモリ内に記憶された1組の命令が組み込まれて、それらの命令は、そのプロセッサによって実行可能である。命令は、レンズの清潔さ/汚れを判定する方法を実行するための機能を備える。
レンズの清潔さ/汚れを判定するシステムが電子手段によって実施される場合、そのコントローラは、例えば、CPLD(Complex Programmable Logic Device)、FPGA(Field Programmable Gate Array)、又は、ASIC(Application-Specific Integrated Circuit)である。
レンズの清潔さ/汚れを判定するシステムが電子手段及びコンピュータ手段の組み合わせによって実施される場合、コンピュータ手段は、1組の命令(例えばコンピュータ・プログラム)であり、また、電子手段は、レンズの清潔さ/汚れを判定する方法における対応する1又は複数のステップを実施可能な任意の電子回路である。
コンピュータ・プログラムは、記憶媒体(例えば、CD−ROM、DVD、USBドライブ、コンピュータ・メモリ又はROM)に組み込まれるか、或いは、搬送信号(例えば、電気搬送信号又は光搬送信号)によって運ばれる。
コンピュータ・プログラムは、ソース・コード、オブジェクト・コード、部分的にコンパイルされている等のコード中間ソース及びオブジェクト・コード等の形式で、或いは、レンズの清潔さ/汚れを判定する方法の実施に使用が適したその他の形式である。そのコンピュータ・プログラムは、任意の物体又はデバイスで運ぶことができる
例えば、運ぶものは、CD−ROM、半導体ROM、その他のROM等の記憶媒体、或いは、ハードディスク等の磁気記録媒体を備える。更に、運ぶものは、電気ケーブル又は光ケーブルを介して、或いは、ラジオ又はその他の手段によって、搬送される電気信号又は光信号等の送信可能なキャリアであってもよい。
ケーブル又は他の装置若しくは手段によって直接に搬送される信号にコンピュータ・プログラムが組み込まれる場合、運ぶもの又はキャリアは、このようなケーブル又は他の装置若しくは手段によって構成される。
代替的に、運ぶもの又はキャリアは、コンピュータ・プログラムが組み込まれた集積回路(IC: integrated circuit)であってもよく、そのICは、レンズの清潔さ/汚れを判定する方法を実行するように、或いは、その方法の実行に使用できるように、適合される。
図2は、キャプチャ装置によってキャプチャされた画像がきれいであるか又はよごれているかを判定する例に従うシステム200の概略ブロック図である。システム200は、図1に示されたものと同様な手法に使用することができるので、先の図面の参照符号は、図2の説明に使用することができる。システム200は、受け付けモジュール201、分割モジュール202、フィルタ・モジュール203、供給モジュール204及び状態判定モジュール205を備えることができる。
受付モジュール201は、レンズ101を通って画像キャプチャ装置100によってキャプチャされた画像を受信するように、構成される。システム200がカメラ100に関してリモート/クラウドの位置である時に、受付モジュール201は、通信機能を備えることができる。システム200がカメラ100に対してローカルに配置される時に、受付モジュール201は、カメラ100及びシステム200間の物理的な接続機能を備えることができる。システム200がカメラ100の内部にある時に、受付モジュール201は、画像キャプチャ・ハードウェア/ソフトウェアと清潔さ/汚れ判定ソフトウェア/ハードウェアとの間のインターフェース機能を備えることができる。カメラ100及びシステム200間の接続は、任意の型の既知の無線又は有線とすることができる。画像が受信されると、受付モジュール201は、画像を分割モジュール202に提供する。
分割モジュール202は、事前定義された分割基準に従って、受信した画像を複数の画像部分に分割するように、構成される。その目的に使用される分割基準は、任意であって、例として、例えば四角形、矩形等のn×mの画像部分からなるマトリックスである。レンズ101の清潔さ/汚れの判定精度を増加させるために、より小さい部分を使用することができる。或いは、より大きい部分を使用することで、レンズ101の清潔さ/汚れの判定時間を減少させることができる。画像部分の寸法は、精度及び実行時間(効率)間で良好なバランスを保てるように、事前に定義することができる。画像が分割されると、分割モジュール202は、その部分的な画像をフィルタ・モジュール203に供給することができる。
フィルタ・モジュール203は、各画像部分(又は少なくとも幾つかの画像部分)に関して、画像部分のラプラシアン・フィルタを実行して画像部分のラプラシアン・フィルタ特徴を含む特徴ベクトルを生成するように、構成される。特徴ベクトルは、画像部分のラプラシアン・フィルタにおける尖度、平均値、分散、モーメント等のラプラシアン・フィルタ特徴を含むことができる。驚くべきことに、発明者らによる様々な実験から、ラプラシアン・フィルタ特徴と画像部分の清潔さ/汚れとの間に良好で正確な相関が明らかになった。発明者らは、更に、その良好な相関が例えば分類技術等の機械学習技術を介して効果的に実施できることを確認した。画像部分の特徴ベクトルが生成されると、フィルタ・モジュール203は、その特徴ベクトルを供給モジュール204に供給することができる。
供給モジュール204は、生成された各特徴ベクトルを第1機械学習モジュールに供給するように、構成することができ、その第1機械学習モジュールは、対応する特徴ベクトルに応じた清潔さ/汚れの指数を生成するように訓練又は学習されている。清潔さ/汚れの指数は、対応する画像部分の清潔さ又は汚れの統計的な値を含むことができる。第1機械学習モジュールは、供給モジュール204内に設けられてもよく、或いは、供給モジュール204の外部にあってもよい。第1機械学習モジュールは、例えば線形分類器(linear classifier)、サポート・ベクター・マシン(SVM: Support Vector Machine)等、或いは、それらの組み合わせを備えることができる。既知の機械学習手法を使用すれば、ラプラシアン・フィルタ特徴と清潔さ/汚れの統計的な指数/値との間の既知の相関を満たすサンプル・データに基づき、第1機械学習モジュールをオフラインでトレーニング又は学習させることができる。清潔さ/汚れの指数が生成されると、供給モジュール204は、その指数を状態判定モジュール205に供給することができる。
状態判定モジュール205は、第1機械学習モジュールによって生成された清潔さ/汚れの指数に応じて、画像がきれいであるか又はよごれているかを判定するように、構成することができる。状態判定モジュール205は、したがって、第1機械学習モジュールによって生成された清潔さ/汚れの指数(部分的なレベル)に応じて、レンズ全体がきれいであるか又はよごれているかを示す全体としての統計的な値を生成することができる。状態判定モジュール205は、以下の状態判定アプローチの何れかに基づくことができる。
第1状態判定アプローチにおいて、第1機械学習モジュールによって提供された清潔さ/汚れの指数は、集約(加算、蓄積)されて、画像/レンズの全体の清潔さ/汚れの指数が生成されて、それは、全体の清潔さ/汚れの閾値と比較される。全体の清潔さ/汚れの指数が全体の清潔さ/汚れの閾値を超える場合、そのレンズに起因してよごれた状態となる。そうでない場合、そのレンズに起因してきれいな状態となる。全体の清潔さ/汚れの閾値は、新しい既知の入力データと対応する予想出力データとに基づき定期的に又は時間的に調整(adjust)することができる。このように、この方法の精度は、方法(並びに、対応するシステム及びソフトウェア)のライフサイクルに応じて、継続的に改善することができる。
第2状態判定アプローチにおいて、第1機械学習モジュールによって提供された清潔さ/汚れの指数は、部分がきれいであるか又はよごれていると判定されたか否かに応じて、カウントされる。このカウントは、したがって、きれない部分の数及び/又はよごれている部分の数を生成することができる。レンズ全体は、その生成された、きれない部分の数及び/又はよごれている部分の数に応じて、きれいであるか又はよごれているかを判定される。1例において、よごれている部分の数がよごれている部分の閾値を超える場合、そのレンズに起因してよごれた状態となる。そうでない場合、そのレンズに起因してきれいな状態となる。別の例において、きれいである部分の数がきれいである部分の閾値を超える場合、そのレンズに起因してきれいな状態となる。そうでない場合、そのレンズに起因してよごれた状態となる。このように、部分の清潔さ/汚れの閾値は、新しい既知の入力データと対応する予想出力データとに基づき定期的に又は時間的に調整することができる。このように、この方法の精度は、方法(並びに、対応するシステム及びソフトウェア)のライフサイクルに応じて、継続的に改善することができる。
第3状態判定アプローチにおいて、第1機械学習モジュールによって提供された清潔さ/汚れの指数は、第2機械学習モジュールに送られ、その第2機械学習モジュールは、部分の対応する清潔さ/汚れの指数に応じて、画像に関する全体の清潔さ/汚れの指数を生成するように、トレーニングされている。幾つかの例において、第2機械学習モジュールから出力された画像の全体の清潔さ/汚れの指数は、レンズの状態を直接に仮定することができる。他の例において、レンズの状態は、場合によっては、第2機械学習モジュールから出力された画像の全体の清潔さ/汚れの指数に何らかの変更を実施することによって、得ることができる。
第2機械学習モジュールは、状態判定モジュール205内に設けられてもよく、或いは、第2機械学習モジュールの外部にあってもよい。第2機械学習モジュールは、例えば線形分類器、サポート・ベクター・マシン(SVM)等、或いは、それらの組み合わせを備えることができる。既知の機械学習手法を使用すれば、部分レベルの清潔さ/汚れの指数と画像全体の全体的な清潔さ/汚れの指数との間の既知の相関を満たすサンプル・データに基づき、第2機械学習モジュールをオフラインでトレーニングさせることができる。このように、この方法の精度は、方法(並びに、対応するシステム及びソフトウェア)のライフサイクルに応じて、継続的に改善することができる。
上述の状態決定アプローチの任意の組み合わせは、より正確な結果を生成するために、状態決定モジュール205と協働して実施することができる。例えば、異なる状態判定アプローチを実施する異なるサブモジュールから得られた結果を組み合わせて、画像全体/レンズ全体の清潔さ/汚れの結合指数を生成することができる。この組み合わせ又は結合は、例えば、レンズに起因する最終的な状態として仮定される平均指数の計算に基づくことができる。平均指数の計算は、重み付き(weighted)計算であってもよく、例えば、各状態決定アプローチに関連する指数は、対応する状態判定アプローチに起因する事前定義された信頼度(confidence)に基づき重み付けすることができる。
システム200は、汚れ(よごれた部分)を示す清潔さ/汚れの指数で近隣(連続)画像部分からなる1以上のよごれたブロックを判定し、且つ、その1以上のよごれたブロックの1以上のエッジを検出するために、コンテキスト(context)ベースのフィルタ・モジュール(図示せず)を更に備えることができる。コンテキストベースのフィルタ・モジュールは、1以上のエッジのシャープネスを判定するように、更に構成することができる。コンテキストベースのフィルタ・モジュールは、エッジに隣接するきれいな部分のシャープネス及び/又は清潔さ指数(汚れ指数)に応じて、よごれたブロックのよごれた部分の清潔さ/汚れの指数を調整するように、更に構成することができる。きれいな部分は、清潔さを示す清潔さ/汚れの指数を持つ部分である。
本発明者らは、レンズ上の清潔から汚れへの、又はその逆の、イメージ化された変化が急激ではなくむしろ緩やかであることを認識した。したがって、過大なシャープネスは、一般的にはレンズ上の汚れに対応しない急激な変化を示すことができる。例えば、車載カメラによって撮像された画像内の明確なシャープネス(急激さ)は、レンズ上の汚れではなくむしろ、道路マージン、道路ライン等に対応する傾向にある。したがって、過度に急激な変化/エッジが検出される時に、提案したコンテキストベースのフィルタ・モジュールは、汚れ確率(清潔さ/汚れの指数)の減少に基づき汚れの誤検出を訂正(correct)し又は低くすることができる。
シャープネスは、よごれているブロック内のエッジに含まれる汚れ部分の例えば尖度に応じて、決定することができる。このシャープネスは、第3機械学習モジュール(例えば線形分類器、SVM等)に入力することができ、その第3機械学習モジュールは、シャープネスに応じて清潔さ/汚れの確率変化を出力するように、トレーニングされている。その後、よごれているブロック内の汚れ部分の清潔さ/汚れの指数は、第3機械学習モジュールによって生成された清潔さ/汚れの確率変化に従って変更することよって調整することができる。清潔さ/汚れの確率の変化は、対応する清潔さ/汚れの指数に加算又は減算される確率的な値を備えることができる。これを考慮すれば、よごれていると以前に分類された画像部分は、提案したコンテキストベースのフィルタ実行の結果としてきれいであると再分類することができる。画像部分のシャープネスは、フィルタ・モジュール203によって生成された画像部分の特徴ベクトル内に含まれるラプラシアン・フィルタ特徴に応じて判定することもできる。
前述の清潔さ/汚れの確率変化の判定は、(追加的に、或いは、代替的に)エッジに隣接するきれいである部分の全体の清潔さの判定を備えることができる。この全体の清潔さは、隣接するきれいである部分の清潔さ/汚れの指数の、例えば代表値、平均値、最大値、集計値等に対応することができる。この全体の清潔さは、例えば、前述の第3機械学習モジュールによって考慮されてもよく、これにより、よごれているブロック内の汚れ部分に伝搬される、対応する清潔さ/汚れの確率変化を生成してもよい。全体の清潔さが高い程、清潔さ/汚れの確率変化への隣接するきれいな部分による影響が高くなる。全体の清潔さが低い程、清潔さ/汚れの確率変化への隣接するきれいな部分による影響が低くなる。
図4a及び図4bは、本開示に従う方法に適した例のコンテキストベースのフィルタを概要的に図示する。図4aは、きれいな部分403,404(白い正方形)及びよごれている部分401,402(影付き正方形)が判定された受信画像400を示す。きれいな部分は、清潔さを示した清潔さ/汚れの指数を有する画像部分である一方、よごれている部分は、汚れを示した清潔さ/汚れの指数を有する画像部分である。清潔さ/汚れの指数が汚れを示している隣接の画像部分である2つのブロック401,402は、特定の例において、判定されている。よごれている部分のブロックは、注目領域(ROI: Regions of Interest)401,402としても示されている。
簡略化のために、図4bは、先の図からの隣接のよごれている部分(又はセル(cell))のブロック又は注目領域(ROI)401,402のうちの1つにフォーカスする。特に、汚れ部分401のブロックは、より詳細に図示されている。ブロック401のエッジは、複数の隣接するきれいな部分/セルを有するブロック401内のよごれている部分(又はセル)の選択によって判定される。複数の隣接するきれいな部分を備える、このよごれている部分の選択は、画像400の最外部分を無視することができる。よごれている部分/セルのROI内に含まれる(画像の)最外部分/セルは、ROI境界(border)セルと呼ぶこともできる。
図示の特定の例において、よごれているセル410は、2つの隣接するきれいなセル413,414を有し、また、よごれているセル411は、3つの隣接するきれいなセル413,414,415を有し、また、よごれているセル412は、3つの隣接するきれいなセル414,415,416を有する。同様に、よごれている部分/セル407は、3つの隣接するきれいなセルを有することが図示されている。したがって、よごれている部分410,411,412は、ブロック/ROI401のエッジ409を形成し、また、単一のよごれている部分407は、ブロック/ROI401の他のエッジを形成する。ROIのエッジを形成する部分/セルは、ROI外郭(contour)セルと呼ぶこともできる。
画像400の最外部分部分は、画像400の最左列417、最右列418、最始行419及び最終行420に含まれる部分である。図示の特定の例において、領域405を形成する3つの部分及び領域406を形成する8つの部分は、複数の隣接のきれいな部分を有する、よごれている部分の選択から除外される。したがって、領域405及び406の部分は、ブロック401のエッジを有していない。言い換えれば、ROI境界セル405,406は、ROI外郭セル407,409ではない。同様に、エッジ407は、3つの隣接するきれいなセルのうちの2つが画像の最外セルであるので、無視される。特に、この2つの隣接するきれいなセルは、画像400の最始行419内に含まれている。
ブロック401のエッジ409が決定されると、対応するシャープネスは、そのエッジ内の画像部分に対して決定される。このようなシャープネスは、説明中の他の部分で提案された手法のように、その目的を達成する既知の方法に従って決定することができる。決定された(すべての又は部分的な)各シャープネスに関して、シャープネスが事前定義された急激な閾値を超えているか否かの検証を実施することができる。検証が肯定/真の場合、そのようなシャープネスを有する画像部分は、候補として、調整された清潔さ/汚れの指数を維持することができる。そうでない場合、そのシャープネスを有する画像部分は、無視される。
急激な閾値は、シャープネスがその閾値を超える時に清潔さから汚れへの(又はその逆の)急激な/明確な移行、又は、シャープネスがその閾値を超えない時に滑らかな/緩やかな変化を意味するように、事前に定義することができる。シャープネスと閾値との一致は、急激な/緩やかな移行をおおよそ意味することができる。急激な閾値は、可能な限り網羅的に、多様な急激な変化及び緩やかな変化を表す既知の入力及び出力でトレーニングされた線形分類器等を介して、事前に定義することができる。
ROI401のセルの清潔さ/汚れの指数(清潔さ/汚れの確率的な値/信頼度)は、エッジ/外郭409の隣のきれいな部分413,414,415,416の全体の清潔さに応じて、調整することができる。ROI401内のセルの清潔さ/汚れの指数は、(外郭/エッジの各々又は幾つかに対して)以下の式を介して計算されるアルファ因子に依存する上述の原理に従って調整することができる。
ここで、
「adjusted weight contour」は、対応する外郭/エッジのアルファ係数であり、
「#cells region contour」は、外郭におけるセル数(図4bの例において、外郭409は、3つのセル410,411,412を有する)であり、
「#cells border of ROI」は、ROIの境界におけるセル数(図4bの例において、境界405が3つのセルを有し境界406が8つのセルを有するので、ROIの境界におけるセル数は、11である)であり、
「WEIGHT_COUNTOUR」は、多様な例示的な状況を表す既知の入力及び出力で線形分類器等をトレーニングすることによって(再)定義することができるトレーニング(学習)後係数である。
アルファ係数(adjusted weight contour)が対応するROI401に対して計算されると、隣接するきれいなセルの最大の(maximum)/より高い(higher)清潔さ/汚れの指数の測定が決定される。測定の決定は、対応する外郭におけるセルの各々(又は幾つか)に対して、最大の/より高い清潔さを表す隣接のきれいなセルの清潔さ/汚れの指数/信頼度を選択することを含む。特定の例において、きれいなセル413,414の最大の/より高い清潔さ/汚れの指数は、よごれたセル410のために選択されてもよく、また、きれいなセル413,414,415の最大の/より高い清潔さ/汚れの指数は、よごれたセル411のために選択されてもよく、また、きれいなセル414,415,416の最大の/より高い清潔さ/汚れの指数は、よごれたセル412のために選択されてもよい。
最大の/より高い清潔さ/汚れの指数の上述の選択が完了すると、選択された最大の/より高い清潔さ/汚れの指数(又は確率/信頼)が加算(追加)される。加算の結果は、その後、考慮された外郭/エッジにおけるセル/部分の数によって除算され、これにより、隣接のきれいなセルの清潔さは、対応する外郭によって承継されるという信頼度を得ることができる。次の式は、したがって、その目的のために使用することができる。
ここで、
「clean confidence contour」は、外郭がその隣のきれいなセルの清潔さを承継するという信頼度である、
「#cells region contour」は、対応する外郭におけるセル数(図4bの例において、外郭409は、3つのセル410,411,412を有する)であり、
「maximum clean confidencei」は、選択された外郭におけるi番目のよごれているセルに隣接するきれいなセルの清潔さ/汚れの指数/信頼度であり、それは、i番目のよごれているセルのうち他のものと比較して最大の/より高い清潔さを表しており、
「Σi∈region countor maximum clean confidencei」は、外郭におけるよごれているセルの各々(又は幾つか)のために選択された隣接のきれいなセルの清潔さ/汚れの指数/信頼度の加算である。
clean confidence contour(外郭清潔信頼度)が決定されると、ROI内のセルの清潔さ/汚れの指数/信頼度は、adjusted weight contour(外郭調整重み)に依存する高い効果又は低い効果によって調整することができる。この調整は、以下の式によって決定することができる。
ここで、
「corrected clean confidence inner cell」は、ROI内の対応するセルの調整された清潔さ/汚れの指数又は信頼度であり、
「clean confidence inner cell」は、(調整前の)セルの現在の清潔さ/汚れの指数又は信頼度である。
システム200は、キャプチャ装置によって時間とともにキャプチャされた異なる画像において画像部分の清潔さ/汚れの指数に関して時間フィルタを実施するように構成された時間フィルタ・モジュール(図示せず)を更に備えることができる。一連の画像がカメラ100によってキャプチャされる場合、特定の画像部分は、その一連の画像中の1つの画像から他の画像に変化する状態(清潔さ/汚れの指数)を明らかにすることができる。提案した時間フィルタ実行は、事後分析用等、廃棄され、訂正され、記憶される外れ値(異常値)の指数を検出することを含むことができる。
外れ値の検出は、対応する画像部分の清潔さ/汚れの指数の要約値(例えば、最大値、平均値、中央値等)を決定すること、及び、要約値に関する清潔さ/汚れの指数の偏差が事前に定義された偏差閾値を超えているか否かを決定することを含むことができる。事前に定義された偏差閾値を超える清潔さ/汚れの指数は、その後、外れ値として分類される。時間Tで撮像された画像内の部分の清潔さ/汚れの指数が要約値に関して大きな偏差を有し、且つ、時間T+Δ及び/又はT−Δで撮像された他の画像内の部分の清潔さ/汚れの指数が非常に小さな偏差を有する場合、何か異常が発生した可能性がある。この場合、その異常である又は外れの指数を破棄し、(例えば補間技術に基づき)外れの指数を訂正し、事後解析、解析等のために外れの指数を記録する等の是正措置を実施することができる。
提案した時間フィルタは、カメラ100によって撮像された一連の画像のすべての画像部分に適用することができる。所定数の画像を含む一連うちの画像の間隔/範囲は、部分レベルでの時間フィルタを実行するように、考慮することができる。
システム200は、画素レベルで対応する画像にラプラシアン・フィルタを実行するように構成されたラプラシアン・フィルタ・モジュール(図示せず)を更に備えることができる。このフィルタ実行は、ラプラシアン畳み込み(convolution)カーネルを決定すること、及び、画像の各画素にラプラシアン畳み込みカーネルを適用することを含むことができる。ラプラシアン畳み込みカーネルは、例えば[0 1 0; 1 -4 1; 0 1 0]のような典型的なマトリックス構成の形式で事前に定義することができる。このマトリックス(又は同様のもの)は、画像内の各画素の値によって畳み込まれ、結果的に連続する画素に影響を与えることができる。ラプラシアン・フィルタは、画像内の急激な変化(エッジ)の領域の発見を容易にする微分フィルタである。したがって、ラプラシアン・フィルタは、(本開示の他の部分で説明されているように)コンテキストベースのフィルタ・モジュールによって実行されるエッジ(及びシャープネス)の検出を容易にするために実行することができる。ラプラシアン・フィルタ実行は、カメラ100によって取り込まれたすべての画像上で個別に(画素レベルで)実行されてもよい。
図3は、キャプチャ装置によってキャプチャされた画像がきれいであるか又はよごれているかを判定する例に従う方法の概要フローチャートである。この方法は、先の図面に関して説明したようなシステムによって実施することができる。したがって、図1及び図2の参照符号は、以下の図3の説明に使用することができる。
ブロック300では、方法は、例えば、その方法の開始要求をシステム200によって受信することなど、その結果としてスタート(start)する。この要求は、対応する車両、監視システム、ビジョン・システム等がオンされる時などに、自動的に生成することができる。
ブロック301では、レンズ101を通ったカメラ100によってキャプチャされた画像は、システム200によって受信される。この機能は、システム200の受け付けモジュール201によって実行することができる。このモジュール201に関して説明した機能原理は、このブロック301に関して同様に考慮することができる。
ブロック302では、受信された画像は、事前に定義された分割基準に従って、複数の画像部分に分割することができる。この機能は、システム200の分割モジュール202によって実行することができる。このモジュール202に関して説明した機能詳細は、このブロック302に関して同様に考慮することができる。
ブロック303では、(ブロック302からの)画像部分の少なくとも幾つかの各々に関してラプラシアン・フィルタを実施して、画像部分のラプラシアン・フィルタ特徴を含む特徴ベクトルを生成することができる。この機能(画像部分レベルでのラプラシアン・フィルタ)は、システム200のフィルタ・モジュール203によって実行することができる。このモジュール203に関して説明した基礎は、このブロック303に関して同様に考慮することができる。
ブロック304では、(ブロック303からの)生成された特徴ベクトルの少なくとも幾つかの各々は、第1機械学習モジュールに送られて、そこでは、対応する特徴ベクトルに応じて清潔さ/汚れの指数を生成するように、事前学習がなされている。この機能は、システム200の供給モジュール204によって実行することができる。このモジュール204に関して説明した詳細機能は、このブロック304に関して同様に考慮することができる。
ブロック305では、レンズの状態が決定され、これは、そのレンズがきれいであるか又はよごれているかを示しており、このような結果は、第1機械学習モジュールによって出力される清潔さ/汚れの指数に依存する。この機能は、システム200の状態判定モジュール205によって実行することができる。このモジュール205に関して説明した詳細説明は、このブロック305に関して同様に考慮することができる。
ブロック306では、方法は、予め定義された終了(end)条件が満たされたか否かを検証することができる。検証の結果が肯定(または真)の場合、方法は、方法の実行を終了させるブロック307に進む。そうでない場合、方法は、ブロック301に戻り、新しい画像を受信し、方法の手順が繰り返される。
最終条件は、方法の終了要求を含むことができ、この場合、方法(コンピュータ・プログラム)は、(ブロック307で)完全に終了する。最終条件は、例えば、画像を受信しない最大経過時間を考慮することができ、この場合、方法/プログラムは、(ブロック307で)例えばスタンバイ(待機)状態に移行することができる。ブロック307では、スタンバイ状態は、新しい画像の待機中にコンピュータ・プログラムを非作動させ、新しい画像の受信でそれを再度作動させることができる。最終条件は、例えば、車両、監視システム、ビジョン・システム等がオフされた時などに、満たすことができる。
方法は、別の第1ブロック(図示せず)を追加的に備えて、そこでは、カメラ100によって撮像された対応する画像に関して、画像部分、及び関連する清潔さ/汚れの指数に、コンテキストベースのフィルタを実行することができる。このフィルタ実行は、前述のコンテキストベースのフィルタ・モジュールに関連して説明した機能原理と同じもの又は類似のものを考慮するコンテキストベースのフィルタ・モジュールによって実施することができる。
方法は、別の第2ブロック(図示せず)を更に追加的に備えて、そこでは、撮像装置によって撮像された時間を伴う異なる画像内の画像部分の清潔さ/汚れの指数に時間フィルタを実行することができる。このフィルタ実行は、前述の時間フィルタ・モジュールに関連して説明した詳細機能と同じもの又は類似のものを考慮する時間フィルタ・モジュールによって実施することができる。
方法は、別の第3ブロック(図示せず)を更に追加的に備えて、そこでは、レンズ101を介してガメラ100に撮像された対応する画像に画素レベルでのラプラシアン・フィルタを実行することができる。このフィルタ実行は、前述のラプラシアン・フィルタ・モジュールに関連して説明した機能本質と同じもの又は類似のものを考慮するラプラシアン・フィルタ・モジュールによって実施することができる。
(実例の)本詳細な説明で説明した方法の目的は、カメラのレンズの清潔さ又は汚れのためにカメラ(又は同様の装置)によってキャプチャされた画像がきれいであるか又はよごれているかを判定することである。実例の詳細な説明の他の部分で記述したとおり、よごれているキャプチャ画像は、様々な状況によって生じる。例えば、(耐水性が低い等のために)カメラ内の水分は、カメラの内部コンポーネント(例えば、撮像センサ)に悪影響を与え、キャプチャ画像上の汚れも引き起こしてしまう。したがって、開示した方法は、例えばレンズ、センサ等のキャプチャ画像上の汚れを引き起こすカメラ内のコンポーネントにおける汚れを判定するために使用することができる。
本明細書には幾つかの例のみが開示されているが、それらの他の代替物、改変物、使用物及び/又は等価物が可能である。更に、記載された例の全ての可能な組合せも含まれる。したがって、本開示の範囲は、特定の例に限定されるべきものではなく、添付の特許請求項の範囲の公正な解釈によって決定されるべきものである。

Claims (15)

  1. 画像のキャプチャ装置によってキャプチャされた画像がきれいであるか又はよごれているかを判定する方法であって、
    前記キャプチャ装置によってキャプチャされた画像を受信すること、
    受信した前記画像を所定の分割基準に従って複数の画像部分に分割すること、
    前記画像部分の幾つかの各々に対して、前記画像部分のラプラシアン・フィルタを実行して、前記画像部分のラプラシアン・フィルタ特徴を含む特徴ベクトルを生成すること、
    生成した前記特徴ベクトルの少なくとも幾つかの各々を第1機械学習モジュールであって、対応する画像部分の清潔さ又は汚れの確率的な値を含む清潔さ/汚れの指数を対応する特徴ベクトルに応じて生成するように学習された前記第1機械学習モジュールに送信すること、及び、
    前記第1機械学習モジュールによって生成された清潔さ/汚れの前記指数に応じて、前記画像がきれいであるか又はよごれているかを判定すること、
    を含む方法。
  2. 請求項1に記載の方法であって、
    前記第1機械学習モジュールは、線形分類器である、
    方法。
  3. 請求項1又は2に記載の方法であって、
    前記画像がきれいであるか又はよごれているかの前記判定は、
    前記第1機械学習モジュールによって提供される清潔さ/汚れの前記指数を集約して、前記画像の全体の清潔さ/汚れの指数を生成すること、及び、
    前記画像の前記全体の清潔さ/汚れの前記指数が全体の清潔さ/汚れの閾値を超えるか否かによって、前記画像がきれいであるか又はよごれているかを判定すること、
    を有する、
    方法。
  4. 請求項1乃至3の何れか1項に記載の方法であって、
    前記画像がきれいであるか又はよごれているかの前記判定は、
    きれいな部分の数及び/又はよごれている部分の数を決定するために、前記第1機械学習モジュールによって提供される清潔さ/汚れの前記指数をカウントすること、及び、
    きれいな部分の前記数がきれいな部分の閾値を超えるか否か及び/又はよごれている部分の前記数がよごれている部分の閾値を超えるか否かによって、前記画像がきれいであるか又はよごれているかを判定すること、
    を有する、
    方法。
  5. 請求項1乃至4の何れか1項に記載の方法であって、
    前記画像がきれいであるか又はよごれているかの前記判定は、
    前記第1機械学習モジュールによって提供される清潔さ/汚れの前記指数を第2機械学習モジュールであって、前記画像の全体の清潔さ/汚れの指数を画像部分の対応する清潔さ又は汚れの指数に応じて生成するように学習された前記第2機械学習モジュールに送信すること、及び、
    前記第2機械学習モジュールによって生成された前記画像の前記全体の清潔さ/汚れの前記指数に応じて、前記画像がきれいであるか又はよごれているかを判定すること、
    を有する、
    方法。
  6. 請求項1乃至5の何れか1項に記載の方法であって、
    対応する画像部分の前記ラプラシアン・フィルタによって得られる前記ラプラシアン・フィルタ特徴は、前記画像部分の前記ラプラシアン・フィルタにおける尖度、平均値、分散、平均グレー値、1以上のモーメントのうちの少なくとも1つを有する、
    方法。
  7. 請求項1乃至6の何れか1項に記載の方法であって、
    前記キャプチャ装置によって時間とともにキャプチャされた異なる画像における対応する画像部分の清潔さ/汚れの指数に関して時間フィルタを実行すること、
    を更に含む方法。
  8. 請求項7に記載の方法であって、
    前記時間フィルタの前記実行は、
    対応する画像部分の複数の清潔さ/汚れの指数から要約値を決定すること、及び、
    前記複数の清潔さ/汚れの前記指数と前記要約値との間の偏差に応じて、1以上の外れ値を決定すること、
    を有する、
    方法。
  9. 請求項8に記載の方法であって、
    前記要約値は、対応する画像部分の前記複数の清潔さ/汚れの前記指数における最大値又は平均値又は中央値である、
    方法。
  10. 請求項1乃至9の何れか1項に記載の方法であって、
    全体として対応する画像にコンテキストベースのフィルタであって、
    清潔さ/汚れの指数が汚れを示した隣接のよごれている部分を含む1以上のよごれているブロックを決定すること、
    前記1以上のよごれているブロックの1以上のエッジを検出すること、
    前記1以上のエッジのシャープネスを決定すること、及び、
    前記シャープネス、及び/又は、清潔さ/汚れの指数が清潔を示した前記エッジに隣接するきれいな部分の前記清潔さ/汚れの前記指数に応じて、前記よごれているブロックの前記よごれている部分の清潔さ/汚れの指数を調整すること、
    を有する前記フィルタを実行すること、
    を更に含む方法。
  11. 請求項10に記載の方法であって、
    前記よごれているブロックにおける前記画像部分の前記清潔さ/汚れの前記指数の前記調整は、
    清潔から汚れへの急激な変化又はその逆の急激な変化を示すように急激な閾値の上のシャープネスを選択し、選択したシャープネスに応じて前記清潔さ/汚れの前記指数を調整すること、及び/又は、
    隣接のきれいな部分の全体の清潔さを決定し、前記隣接のきれいな部分の前記全体の清潔さに応じて前記清潔さ/汚れの前記指数を調整すること、
    を有する、
    方法。
  12. 請求項1乃至11の何れか1項に記載の方法であって、
    対応する画像の画素レベルのラプラシアン・フィルタであって、ラプラシアン畳み込みカーネルを決定すること及び前記画像の各画素に前記ラプラシアン畳み込みカーネルを適用することを有する前記ラプラシアン・フィルタを、実行すること、
    を更に含む方法。
  13. 請求項1乃至12の何れか1項に記載の方法をコンピュータ・システムに実行させて、キャプチャ装置によってキャプチャされた画像がきれいであるか又はよごれているかを判定させるためのプログラム命令を備えるコンピュータ・プログラム。
  14. 記録媒体に組み込まれ、且つ/又は、搬送信号によって運ばれる請求項13に記載のコンピュータ・プログラム。
  15. 画像のキャプチャ装置によってキャプチャされた画像がきれいであるか又はよごれているかを判定するシステムであって、
    前記キャプチャ装置によってキャプチャされた画像を受信するための受け付けモジュールと、
    受信した前記画像を所定の分割基準に従って複数の画像部分に分割するための分割モジュールと、
    前記画像部分の幾つかの各々に対して、前記画像部分のラプラシアン・フィルタを実行して、前記画像部分のラプラシアン・フィルタ特徴を含む特徴ベクトルを生成するためのフィルタ・モジュールと、
    生成した前記特徴ベクトルの少なくとも幾つかの各々を第1機械学習モジュールであって、対応する画像部分の清潔さ又は汚れの確率的な値を含む清潔さ/汚れの指数を対応する特徴ベクトルに応じて生成するように学習された前記第1機械学習モジュールに供給するための供給モジュールと、
    前記第1機械学習モジュールによって生成された清潔さ/汚れの前記指数に応じて、前記画像がきれいであるか又はよごれているかを判定するための状態判定モジュールと、
    を備えるシステム。
JP2018219101A 2017-11-24 2018-11-22 きれい又はよごれたキャプチャ画像判定 Active JP7164417B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP17382793.2 2017-11-24
EP17382793.2A EP3489892B1 (en) 2017-11-24 2017-11-24 Determining clean or dirty captured images

Publications (3)

Publication Number Publication Date
JP2019096320A true JP2019096320A (ja) 2019-06-20
JP2019096320A5 JP2019096320A5 (ja) 2022-01-06
JP7164417B2 JP7164417B2 (ja) 2022-11-01

Family

ID=60543482

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018219101A Active JP7164417B2 (ja) 2017-11-24 2018-11-22 きれい又はよごれたキャプチャ画像判定

Country Status (4)

Country Link
US (1) US10922803B2 (ja)
EP (1) EP3489892B1 (ja)
JP (1) JP7164417B2 (ja)
CN (1) CN109840911A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023079593A1 (ja) * 2021-11-02 2023-05-11 三菱電機ビルソリューションズ株式会社 汚れ判定装置、汚れ判定方法、および汚れ判定プログラム

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020175589A1 (ja) * 2019-02-27 2020-09-03 ダイキン工業株式会社 情報提供システム
US11209282B2 (en) * 2019-07-02 2021-12-28 Ford Global Technologies, Llc Vehicle cleanliness detection and carwash recommendation
CN110572636B (zh) * 2019-07-23 2020-08-04 RealMe重庆移动通信有限公司 摄像头脏污检测方法、装置、存储介质及电子设备
US11328428B2 (en) 2019-12-18 2022-05-10 Clarion Co., Ltd. Technologies for detection of occlusions on a camera
US11113580B2 (en) 2019-12-30 2021-09-07 Industrial Technology Research Institute Image classification system and method
CN111724349B (zh) * 2020-05-29 2022-09-20 同济大学 一种基于hsv和svm的图像脏污识别方法
DE102020209198A1 (de) * 2020-07-22 2022-01-27 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zur Bestimmung einer Abbildungs-Degradation eines bildgebenden Sensors
CN111787315A (zh) * 2020-08-05 2020-10-16 昆山软龙格自动化技术有限公司 一种基于fpga的嵌入式高速运算网卡装置
US11341682B2 (en) 2020-08-13 2022-05-24 Argo AI, LLC Testing and validation of a camera under electromagnetic interference
US11368672B2 (en) 2020-09-14 2022-06-21 Argo AI, LLC Validation of a camera cleaning system
CN112261403B (zh) * 2020-09-22 2022-06-28 深圳市豪恩汽车电子装备股份有限公司 车载摄像头的脏污物检测装置及方法
CN111970506B (zh) * 2020-10-20 2020-12-29 常州市瑞泰光电有限公司 镜头脏污检测方法、装置和设备
CN112455396B (zh) * 2020-12-18 2022-05-27 青海慧洗智能科技有限公司 面向自动洗车的车轮定位系统、方法和装置
CN113600525B (zh) * 2021-07-29 2022-09-16 河北白沙烟草有限责任公司保定卷烟厂 一种基于智能识别技术的铜排链在线清洁装置
US20230068848A1 (en) * 2021-08-25 2023-03-02 Argo AI, LLC Systems and methods for vehicle camera obstruction detection
CN115082473B (zh) * 2022-08-22 2023-06-20 小米汽车科技有限公司 脏污检测方法、装置及电子设备

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090174773A1 (en) * 2007-09-13 2009-07-09 Gowdy Jay W Camera diagnostics
US20090278950A1 (en) * 2008-05-09 2009-11-12 Micron Technology, Inc. Lens cleaning warning system and method
US20160379067A1 (en) * 2013-02-20 2016-12-29 Magna Electronics Inc. Vehicle vision system with dirt detection
WO2017001189A1 (en) * 2015-07-02 2017-01-05 Continental Automotive Gmbh Detection of lens contamination using expected edge trajectories
US20170249769A1 (en) * 2015-07-29 2017-08-31 Adobe Systems Incorporated Image Distractor Detection and Processing
DE102016204206A1 (de) * 2016-03-15 2017-09-21 Robert Bosch Gmbh Verfahren zum Detektieren einer Verschmutzung einer optischen Komponente eines Umfeldsensors zum Erfassen eines Umfelds eines Fahrzeugs, Verfahren zum maschinellen Anlernen eines Klassifikators und Detektionssystem
US10185892B1 (en) * 2014-05-30 2019-01-22 Amazon Technologies, Inc. Automatic large-scale imaging device diagnostics

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5923027A (en) * 1997-09-16 1999-07-13 Gentex Corporation Moisture sensor and windshield fog detector using an image sensor
DE10322087A1 (de) * 2003-05-15 2004-12-02 Daimlerchrysler Ag Verfahren zur Erkennung und Lokalisierung von Verschmutzungen auf der Optik eines Kamerasystems
US7545985B2 (en) * 2005-01-04 2009-06-09 Microsoft Corporation Method and system for learning-based quality assessment of images
US20070280552A1 (en) * 2006-06-06 2007-12-06 Samsung Electronics Co., Ltd. Method and device for measuring MPEG noise strength of compressed digital image
EP2137696A2 (en) * 2007-03-16 2009-12-30 STI Medical Systems, LLC A method to provide automated quality feedback to imaging devices to achieve standardized imaging data
RU2653461C2 (ru) * 2014-01-21 2018-05-08 Общество с ограниченной ответственностью "Аби Девелопмент" Обнаружение блика в кадре данных изображения
US20110182495A1 (en) * 2010-01-26 2011-07-28 General Electric Company System and method for automatic defect recognition of an inspection image
CN103235949B (zh) * 2013-04-12 2016-02-10 北京大学 图像兴趣点检测方法和装置
CN104346622A (zh) * 2013-07-31 2015-02-11 富士通株式会社 卷积神经网络分类器及其分类方法和训练方法
US10289962B2 (en) * 2014-06-06 2019-05-14 Google Llc Training distilled machine learning models
US10453098B2 (en) * 2015-03-04 2019-10-22 Google Llc Privacy-aware personalized content for the smart home
US9576219B2 (en) * 2015-07-14 2017-02-21 ADANI Systems, Inc. Method and system for detection of contraband narcotics in human digestive tract
US10186026B2 (en) * 2015-11-17 2019-01-22 Kla-Tencor Corp. Single image detection
US10789701B2 (en) * 2017-04-13 2020-09-29 Instrumental, Inc. Method for predicting defects in assembly units
US10102423B2 (en) * 2016-06-30 2018-10-16 Snap Inc. Object modeling and replacement in a video stream
US10347294B2 (en) * 2016-06-30 2019-07-09 Google Llc Generating moving thumbnails for videos
US10115040B2 (en) * 2016-09-14 2018-10-30 Kla-Tencor Corporation Convolutional neural network-based mode selection and defect classification for image fusion
US10674587B2 (en) * 2016-10-11 2020-06-02 Signify Holding B.V. Control system for a surveillance system, surveillance system and method of controlling a surveillance system
US11580398B2 (en) * 2016-10-14 2023-02-14 KLA-Tenor Corp. Diagnostic systems and methods for deep learning models configured for semiconductor applications
US10410084B2 (en) * 2016-10-26 2019-09-10 Canon Virginia, Inc. Devices, systems, and methods for anomaly detection
WO2018106783A1 (en) * 2016-12-06 2018-06-14 Siemens Energy, Inc. Weakly supervised anomaly detection and segmentation in images
US10402688B2 (en) * 2016-12-07 2019-09-03 Kla-Tencor Corporation Data augmentation for convolutional neural network-based defect inspection
US10417524B2 (en) * 2017-02-16 2019-09-17 Mitsubishi Electric Research Laboratories, Inc. Deep active learning method for civil infrastructure defect detection
WO2018165753A1 (en) * 2017-03-14 2018-09-20 University Of Manitoba Structure defect detection using machine learning algorithms
GB201704373D0 (en) * 2017-03-20 2017-05-03 Rolls-Royce Ltd Surface defect detection
JP6786035B2 (ja) * 2017-03-27 2020-11-18 三菱重工業株式会社 航空機用部品の欠陥検出システム及び航空機用部品の欠陥検出方法
US10453366B2 (en) * 2017-04-18 2019-10-22 Samsung Display Co., Ltd. System and method for white spot mura detection
US10949872B2 (en) * 2017-04-28 2021-03-16 Snap Inc. Methods and systems for server generation of interactive advertising with content collections
CN107292869B (zh) * 2017-06-07 2020-04-07 西安电子科技大学 基于各向异性高斯核和梯度搜索的图像斑点检测方法
US10929945B2 (en) * 2017-07-28 2021-02-23 Google Llc Image capture devices featuring intelligent use of lightweight hardware-generated statistics
EP3451284A1 (de) * 2017-09-05 2019-03-06 Siemens Healthcare GmbH Verfahren zur automatischen artefakterkennung in computertomographischen bilddaten
JP6936958B2 (ja) * 2017-11-08 2021-09-22 オムロン株式会社 データ生成装置、データ生成方法及びデータ生成プログラム
US10755133B2 (en) * 2018-02-22 2020-08-25 Samsung Display Co., Ltd. System and method for line Mura detection with preprocessing
US10607331B1 (en) * 2019-06-28 2020-03-31 Corning Incorporated Image segmentation into overlapping tiles

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090174773A1 (en) * 2007-09-13 2009-07-09 Gowdy Jay W Camera diagnostics
US20090278950A1 (en) * 2008-05-09 2009-11-12 Micron Technology, Inc. Lens cleaning warning system and method
US20160379067A1 (en) * 2013-02-20 2016-12-29 Magna Electronics Inc. Vehicle vision system with dirt detection
US10185892B1 (en) * 2014-05-30 2019-01-22 Amazon Technologies, Inc. Automatic large-scale imaging device diagnostics
WO2017001189A1 (en) * 2015-07-02 2017-01-05 Continental Automotive Gmbh Detection of lens contamination using expected edge trajectories
US20170249769A1 (en) * 2015-07-29 2017-08-31 Adobe Systems Incorporated Image Distractor Detection and Processing
DE102016204206A1 (de) * 2016-03-15 2017-09-21 Robert Bosch Gmbh Verfahren zum Detektieren einer Verschmutzung einer optischen Komponente eines Umfeldsensors zum Erfassen eines Umfelds eines Fahrzeugs, Verfahren zum maschinellen Anlernen eines Klassifikators und Detektionssystem

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023079593A1 (ja) * 2021-11-02 2023-05-11 三菱電機ビルソリューションズ株式会社 汚れ判定装置、汚れ判定方法、および汚れ判定プログラム
JP7455284B2 (ja) 2021-11-02 2024-03-25 三菱電機ビルソリューションズ株式会社 汚れ判定装置

Also Published As

Publication number Publication date
EP3489892B1 (en) 2022-01-05
CN109840911A (zh) 2019-06-04
US10922803B2 (en) 2021-02-16
US20190164271A1 (en) 2019-05-30
EP3489892A1 (en) 2019-05-29
JP7164417B2 (ja) 2022-11-01

Similar Documents

Publication Publication Date Title
JP7164417B2 (ja) きれい又はよごれたキャプチャ画像判定
US9224052B2 (en) Method for in-image periodic noise pixel inpainting
JP4987573B2 (ja) 車外監視装置
JP4876080B2 (ja) 環境認識装置
TWI607901B (zh) 影像修補系統及其方法
CN109949347B (zh) 人体跟踪方法、装置、系统、电子设备和存储介质
CN107665327B (zh) 一种车道线检测方法及装置
US9286512B2 (en) Method for detecting pedestrians based on far infrared ray camera at night
WO2015071162A1 (en) Method for recognizing a covered state of a camera, camera system and motor vehicle
CN112261403B (zh) 车载摄像头的脏污物检测装置及方法
JP2021061524A (ja) 雨滴認識装置、車両制御装置、学習方法および学習済みモデル
Cord et al. Detecting unfocused raindrops: In-vehicle multipurpose cameras
TWI530409B (zh) 自動追蹤防撞警示系統及其方法
CN109242032B (zh) 一种基于深度学习的目标检测方法
US20160180158A1 (en) Vehicle vision system with pedestrian detection
JP2019139420A (ja) 立体物認識装置、撮像装置および車両
CN111967396A (zh) 障碍物检测的处理方法、装置、设备及存储介质
KR102013781B1 (ko) 다른 초점 거리를 갖는 두 개의 카메라를 이용한 객체 검출 방법 및 그 장치
CN112731436A (zh) 基于点云上采样的多模态数据融合可行驶区域检测方法
JP2006318059A (ja) 画像処理装置、画像処理方法、および画像処理用プログラム
CN115327572A (zh) 一种车辆前方障碍物检测方法
CN107506739B (zh) 一种夜间前向车辆检测及测距方法
Balisavira et al. Real-time object detection by road plane segmentation technique for ADAS
CN111199177A (zh) 一种基于鱼眼图像校正的汽车后视行人检测报警方法
US11530993B2 (en) Deposit detection device and deposit detection method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211122

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220920

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221020

R150 Certificate of patent or registration of utility model

Ref document number: 7164417

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150