JP2018191087A - 付着物検出装置および付着物検出方法 - Google Patents

付着物検出装置および付着物検出方法 Download PDF

Info

Publication number
JP2018191087A
JP2018191087A JP2017090629A JP2017090629A JP2018191087A JP 2018191087 A JP2018191087 A JP 2018191087A JP 2017090629 A JP2017090629 A JP 2017090629A JP 2017090629 A JP2017090629 A JP 2017090629A JP 2018191087 A JP2018191087 A JP 2018191087A
Authority
JP
Japan
Prior art keywords
area
region
standard deviation
target
average value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017090629A
Other languages
English (en)
Other versions
JP6832224B2 (ja
Inventor
修久 池田
Nobuhisa Ikeda
修久 池田
信徳 朝山
Nobutoku Asayama
信徳 朝山
山本 大輔
Daisuke Yamamoto
大輔 山本
河野 貴
Takashi Kono
貴 河野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Original Assignee
Denso Ten Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd filed Critical Denso Ten Ltd
Priority to JP2017090629A priority Critical patent/JP6832224B2/ja
Priority to US15/920,951 priority patent/US10748028B2/en
Priority to DE102018105983.3A priority patent/DE102018105983A1/de
Publication of JP2018191087A publication Critical patent/JP2018191087A/ja
Application granted granted Critical
Publication of JP6832224B2 publication Critical patent/JP6832224B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G06V10/507Summing image-intensity values; Histogram projection analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Camera Bodies And Camera Details Or Accessories (AREA)
  • Structure And Mechanism Of Cameras (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

【課題】付着物の検出精度を向上させることができる付着物検出装置および付着物検出方法を提供すること。
【解決手段】実施形態に係る付着物検出装置は、分割部と、算出部と、検出部とを備える。分割部は、撮像装置が出力する撮像画像を複数の領域に分割する。算出部は、分割部によって分割された領域に含まれる各画素の輝度を検出し、領域に対応する対象領域における輝度の平均値または標準偏差を算出する。検出部は、算出部によって算出された輝度の平均値または標準偏差が所定の範囲内である対象領域を抽出し、抽出した対象領域が隣り合う場合に、隣り合う複数の対象領域を撮像装置に異物が付着した領域である付着物領域として検出する。
【選択図】図2

Description

本発明は、付着物検出装置および付着物検出方法に関する。
従来、例えば、車両の外部に取り付けられたカメラの画像に基づいてレンズに付着した異物等を検出する付着物検出装置がある。付着物検出装置は、例えば、撮像画像中の輝度分布に基づいて異物の付着を示す付着物領域を検出する技術が提案されている(たとえば、特許文献1参照)。
特開2005−84959号公報
しかしながら、従来の技術では、例えば、逆光等のカメラに入射する照度の異常と、付着物領域とを切り分けて検出できない場合があった。したがって、従来は、付着物の検出精度を向上する点で改善の余地があった。
本発明は、上記に鑑みてなされたものであって、付着物の検出精度を向上させることができる付着物検出装置および付着物検出方法を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る付着物検出装置は、分割部と、算出部と、検出部とを備える。前記分割部は、撮像装置が出力する撮像画像を複数の領域に分割する。前記算出部は、前記分割部によって分割された前記領域に含まれる各画素の輝度を検出し、前記領域に対応する対象領域における前記輝度の平均値または標準偏差を算出する。前記検出部は、前記算出部によって算出された前記輝度の平均値または標準偏差が所定の範囲内である前記対象領域を抽出し、抽出した前記対象領域が隣り合う場合に、隣り合う複数の前記対象領域を前記撮像装置に異物が付着した領域である付着物領域として検出する。
本発明によれば、付着物の検出精度を向上させることができる。
図1は、実施形態に係る付着物検出方法の概要を示す図である。 図2は、実施形態に係る付着物検出装置の構成を示すブロック図である。 図3は、実施形態に係る閾値情報の説明図である。 図4は、実施形態に係る分割部の処理内容を示す図である。 図5Aは、実施形態に係る算出部の処理内容を示す図である。 図5Bは、実施形態に係る算出部の処理内容を示す図である。 図6は、実施形態に係る検出部の処理内容を示す図である。 図7は、実施形態に係る検出部の処理内容を示す図である。 図8は、実施形態に係る検出部の処理内容を示す図である。 図9は、実施形態に係る付着物検出装置が実行する検出処理の処理手順を示すフローチャートである。
以下、添付図面を参照して、本願の開示する付着物検出装置および付着物検出方法の実施形態を詳細に説明する。なお、この実施形態により本発明が限定されるものではない。
まず、図1を用いて実施形態に係る付着物検出方法の概要について説明する。図1には、付着物領域300を含む撮像画像Pを示す。付着物領域300とは、例えば、撮像装置10(図2参照)であるカメラのレンズに付着した異物を示す領域である。かかる異物として、例えば、雪や泥水、あるいは凍結によるレンズの曇り等がある。
ここで、従来の付着物検出方法について説明する。従来の付着物検出方法では、付着物領域を検出する場合、例えば撮像画像全体から輝度分布が所定の条件を満たす領域を付着物領域として検出していた。このため、例えば、付着物領域として検出した領域が、実際に異物が付着している領域であるか、逆光等のカメラに入射する照度の異常による領域であるかを切り分けられないおそれがあった。このように、従来は、付着物の検出精度を向上する点で改善の余地があった。
そこで、実施形態に係る付着物検出方法では、輝度の平均値または標準偏差が所定の範囲内になる領域が複数個連続する場合に付着物領域を検出する。具体的には、実施形態に係る付着物検出方法では、まず、撮像装置10が出力する撮像画像Pを複数の領域100に分割する(ステップS1)。
つづいて、実施形態に係る付着物検出方法では、分割した領域100に含まれる各画素の輝度を検出し、領域100に対応する対象領域200における輝度の平均値または標準偏差を算出する(ステップS2)。なお、図1では、1つの領域100を1つの対象領域200としているが、例えば、複数の領域100を1つの対象領域200としてもよい。
つづいて、実施形態に係る付着物検出方法では、算出した輝度の平均値または標準偏差が所定の範囲内である対象領域200を抽出し、抽出した対象領域200が隣り合う場合に、隣り合う複数の対象領域200を付着物領域300として検出する(ステップS3)。例えば、図1では、付着物領域300は、10個の対象領域200を含む。
つまり、実施形態に係る付着物検出方法では、隣り合う複数の対象領域200を検出することで、撮像画像P全体のうち、ぼやけた領域が比較的広い付着物領域300と、逆光等の局所的な狭い領域とを切り分けることができる。すなわち、実施形態に係る付着物検出方法によれば、付着物の検出精度を向上させることができる。
なお、実施形態に係る付着物検出方法では、逆光や夜間等の撮像画像Pに入射する照度異常の検出については、図6を用いて後述する。
また、実施形態に係る付着物検出方法では、輝度の平均値と標準偏差とのアンド条件が成立する場合に、付着物領域300を検出するが、かかる点については、図7を用いて後述する。
また、実施形態に係る付着物検出方法では、標準偏差を算出する領域を少しずらした領域とのオア条件により抽出した領域を用いて付着物領域300を検出するが、かかる点については図8を用いて後述する。
次に、図2を参照して、実施形態に係る付着物検出装置1の構成について詳細に説明する。図2は、実施形態に係る付着物検出装置1の構成を示すブロック図である。図2に示すように、実施形態に係る付着物検出装置1は、例えば、撮像装置10と、除去装置11と、制御装置12とに接続される。
撮像装置10は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を備えた車載カメラである。また、撮像装置10は、車両の外部に取り付けられることで、車両の周囲を撮像する。なお、撮像装置10は、1つであってもよく、複数であってもよい。
除去装置11は、付着物検出装置1の検出結果に基づいて撮像装置10のレンズに付着した異物を除去する。除去装置11は、例えば圧縮した空気や、ウォッシャ液を撮像装置10のレンズへ向けて噴出させたり、カメラワイパで撮像装置10のレンズを拭ったりしてもよい。
制御装置12は、付着物検出装置1の検出結果に基づいて、例えば車両に搭載された制御システムを制御する。例えば、制御装置12は、付着物検出装置1によって付着物が検出された場合に、車両周囲の障害物等を検知する検知システム等の機能を停止したり、運転者に対して付着物の除去を通知したりする。
また、制御装置12は、付着物検出装置1が外光照射による高輝度異常や低照度による異常の領域を検出した場合、かかる領域以外で上記した制御システムを制御したり、検出した異常の領域を運転者に通知したりする。
実施形態に係る付着物検出装置1は、制御部2と、記憶部3とを備える。制御部2は、分割部21と、算出部22と、検出部23とを備える。記憶部3は、閾値情報31を記憶する。
ここで、付着物検出装置1は、たとえば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disk Drive)、入出力ポートなどを有するコンピュータや各種の回路を含む。
コンピュータのCPUは、たとえば、ROMに記憶されたプログラムを読み出して実行することによって、制御部2の分割部21、算出部22および検出部23として機能する。
また、制御部2の分割部21、算出部22および検出部23の少なくともいずれか一つまたは全部をASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等のハードウェアで構成することもできる。
また、記憶部3は、たとえば、RAMやHDDに対応する。RAMやHDDは、閾値情報31や、各種プログラムの情報等を記憶することができる。なお、付着物検出装置1は、有線や無線のネットワークで接続された他のコンピュータや可搬型記録媒体を介して上記したプログラムや各種情報を取得することとしてもよい。
閾値情報31は、後述する検出部23が付着物を検出する際の基準となる閾値を含んだ情報である。ここで、図3を用いて、閾値情報31について説明する。
図3は、実施形態に係る閾値情報31の説明図である。図3では、閾値の一例を示しており、各数値がこれに限定されるものではない。図3に示すように、閾値情報31は、「項目」、「各領域」、「全体」といった内容を含む情報である。
「項目」は、閾値の項目の内容を示す情報である。「各領域」は、後述する対象領域200a〜200d(図5A参照)毎の閾値を示す情報である。「全体」は、後述する監視領域R(図4参照)全体の閾値を示す情報である。なお、閾値情報31における各項目の閾値は、例えば、実験等によって予め生成することができる。
例えば、項目の「輝度平均上限」とは、輝度の平均の上限を示す閾値を示しており、各対象領域200a〜200dでは、かかる閾値が「220」であり、監視領域R全体では、かかる閾値が「180」であることを示している。
つまり、図3に示すように、閾値情報31には、輝度の平均の上限および下限の閾値を示す情報と、輝度の標準偏差の上限および下限の閾値を示す情報とが含まれる。
なお、図3では、「各領域」よりも「全体」が、輝度の平均および標準偏差の上限および下限の間の範囲が狭い。具体的には、「各領域」の輝度の平均の上限および下限の間が「160(220マイナス60)」であるのに対し、「全体」は、「90(180マイナス90)」となっている。
これは、監視領域Rのほうが、各対象領域200a〜200dよりも面積が大きいため、監視領域Rのほうが、各対象領域200a〜200dよりも各画素の輝度のばらつきが大きくなることに起因している。これにより、検出部23による検出精度を高めることができる。
制御部2は、撮像画像を複数の領域100に分割するとともに、領域100に対応する対象領域200における輝度の平均値または標準偏差を算出し、算出結果に基づいて付着物領域300を検出する。
分割部21は、撮像装置10が出力する撮像画像を複数の領域100に分割する。ここで、図4を用いて、分割部21の処理内容について具体的に説明する。
図4は、実施形態に係る分割部21の処理内容を示す図である。図4には、撮像画像Pを示している。まず、分割部21は、撮像画像Pの中から検出の処理対象となる監視領域Rを設定する。具体的には、分割部21は、監視領域Rの頂点のうちいずれか1つの頂点の座標位置と、かかる頂点の位置座標を始点とする監視領域Rの幅および高さとを設定する。
例えば、図4に示すように、分割部21は、撮像画像Pの中央領域に略矩形状の監視領域Rを設定する。言い換えると、分割部21は、撮像画像Pの端部の領域については、監視領域Rを設定しない。
これは、撮像画像Pの端部の領域が、自車の車体や、上空の空間等といった異物が付着しても制御システムに影響を与えない領域であることに起因する。このように、監視領域Rを絞ることで処理負荷を抑えることができる。
なお、撮像画像Pの端部の領域については、例えば制御システムに影響を与える場合等には、監視領域Rとして設定してもよい。
つづいて、分割部21は、設定された監視領域Rを複数の領域100に分割する。例えば、分割部21は、矩形状の領域100に分割する。なお、各領域100の幅および高さは、すべて同じであってもよく、領域100毎に異なってもよい。また、領域100は、矩形以外の形状でもよく、例えば、円状であってもよい。
図2に戻って、算出部22について説明する。算出部22は、分割部21によって分割された領域100に含まれる各画素の輝度を検出し、領域100に対応する対象領域200における輝度の平均値および標準偏差を算出する。ここで、図5Aおよび図5Bを用いて、算出部22の処理内容について具体的に説明する。
図5Aおよび図5Bは、実施形態に係る算出部22の処理内容を示す図である。図5Aおよび図5Bでは、分割した領域100を破線で示している。まず、算出部22は、領域100に対応する対象領域200a〜200dを設定する。対象領域200a〜200dは、各画素の輝度の平均値または標準偏差を算出する領域である。
例えば、図5Aに示すように、算出部22は、1つの領域100を1つの対象領域200a〜200dとして設定する。なお、算出部22は、所定の領域100の周りにある領域100をまとめて1つの対象領域200a〜200dとして設定してもよい。
つづいて、図3に示すように、算出部22は、各対象領域200a〜200dにおける輝度の平均値を算出する。また、算出部22は、対象領域200a〜200dに基づいて輝度の標準偏差を算出する。
具体的には、まず、算出部22は、輝度の平均値を算出する対象領域200a〜200dを結合した結合領域210を設定する。そして、算出部22は、設定した結合領域210における標準偏差を算出する。言い換えると、算出部22は、結合領域210を標準偏差を算出する対象領域200とする。
すなわち、標準偏差を算出する結合領域210の面積は、平均値を算出する対象領域200a〜200dの面積の4倍である。なお、結合領域210の面積は、対象領域200a〜200dの面積の4倍に限らず、他の整数倍であってもよく、あるいは、整数倍でなくてもよい。
つまり、算出部22は、平均値を算出する対象領域200よりも標準偏差を算出する対象領域200を大きくする。これは、標準偏差を算出する領域が小さくなるほど輝度のバラつきが小さくなり、各領域間の標準偏差の差異が小さくなってしまい、付着物領域300とそれ以外の領域を区別することが出来なくなってしまうためである。
これにより、算出部22は、標準偏差を算出する領域(結合領域210)をある程度大きく、平均値を算出する領域(対象領域200a〜200d)をある程度小さくすることで、付着物領域300の分解能の向上および誤検知の防止を実現できる。
さらに、算出部22は、結合領域210の面積を対象領域200a〜200dの面積の整数倍とすることで、演算が簡単になるため、制御部2の処理負荷が嵩むことを防止できる。
なお、図5Aの例では、結合領域210について、縦横の対象領域200a〜200dを2×2の略正方形としたが、縦長または横長の長方形としてもよい。
つづいて、算出部22は、結合領域210を一部が重なるようにして移動した移動領域220について標準偏差をさらに算出する。かかる点について、図5Bを用いて具体的に説明する。
図5Bには、結合領域210および移動領域220を示している。図5Bに示すように、算出部22は、結合領域210を右方向へ1マス(対象領域200を1個分)移動し、縦方向へ1マス(対象領域200を1個分)移動することで移動領域220を設定する。
つまり、算出部22は、結合領域210に含まれる1つの対象領域200dが重なるように移動領域220を移動する。算出部22は、他の結合領域210についても同様に移動させる。言い換えると、算出部22は、監視領域R(図4参照)全体を右方向へ1マス移動し、縦方向へ1マス移動する。
なお、算出部22は、1つの対象領域200dを重ねた移動領域220を設定したが、複数の対象領域200を重ねてもよく、あるいは、1つの対象領域200dのうち一部の領域を重ねた移動領域220を設定してもよい。
つまり、算出部22は、結合領域210に含まれる複数の対象領域200a〜200dの少なくとも一部が重なるように結合領域210を移動した移動領域220の標準偏差を算出する。
これにより、後述する検出部23が、重なった対象領域200dの大きさを1単位とする最終的な標準偏差を算出することで、付着物領域300の分解能を向上させることができる。具体的には、標準偏差自体は結合領域210および、移動領域220の大きさを単位として算出することで、付着物領域とそれ以外の領域を区別することが出来なくなってしまうことを防止しつつ、結合領域210と移動領域220の論理和をとることで、対象領域200dの大きさを1単位とする最終的な標準偏差を算出することができ、誤検知の防止と分解能の向上を両立すること出来る。
さらに、算出部22は、1つの対象領域200dを重ねた移動領域220を設定する。つまり、平均値を算出する対象領域200と同じ領域の単位にすることで、後段の計算が簡単になるため、制御部2の処理負荷が嵩むことを防止できる。
なお、以上の説明では標準偏差を算出する領域は平均値を算出する領域を複数個結合した結合領域210として説明し、結合領域210を移動させる移動量(つまり、移動領域220の移動量)は平均値を算出する領域の大きさの縦方向と横方向の整数倍を単位としたが、これに限らない。
例えば、標準偏差を算出する領域は、平均値を算出する領域とは無関係に設定してもよいし、移動させる移動量も移動前後で領域が重なる範囲で任意に設定してよい。好ましくは、縦方向と横方向の移動量は標準偏差を算出する領域の縦方向、横方向の大きさのそれぞれ1/M(Mは整数)とすればよい。そして、対象領域200を縦方向および横方向にM回移動させたM個の移動領域220についてそれぞれ標準偏差を算出し、M個の結果の論理和をとって最終的な標準偏差を算出すればよい。この場合、標準偏差を算出する領域の分解能をもとの対象領域のM倍とすることが出来る。
次に、図2に戻って、検出部23について説明する。検出部23は、算出部22の算出結果に基づいて付着物領域300および異常領域を検出する。なお、異常領域とは、撮像装置10に入射する照度の異常を示す領域であり、例えば、外光照射による高輝度異常、いわゆる逆光や夜間等の低照度による異常を示す領域である。言い換えると、異常領域は、撮像画像Pにおける白飛びや黒つぶれに起因する領域である。
まず、図6を用いて、検出部23による異常領域の検出方法について説明する。図6は、実施形態に係る検出部23の処理内容を示す図である。検出部23は、算出部22が算出した輝度の平均値が所定の範囲外である対象領域200aを異常領域として検出する。
具体的には、図6に示すように、検出部23は、算出された対象領域200aの平均値が閾値情報31に含まれる「輝度平均上限」以上であった場合に、対象領域200aを外光照射による異常領域(白飛びの領域)であることを検出する。
一方、検出部23は、算出された対象領域200aの平均値が閾値情報31に含まれる「輝度平均下限」以下であった場合に、対象領域200aを低照度による異常領域(黒つぶれの領域)であることを検出する。
このように、検出部23は、局所的な輝度の異常を検出することで、付着物領域300と異常領域とを切り分けて検出することができる。これにより、例えば、除去装置11を不必要に動作させることを無くすことができる。
なお、検出部23は、異常領域を検出した場合、例えば、かかる異常領域の位置を示す情報を制御装置12へ送信することで、制御装置12が異常領域を省いた領域を用いた制御を行うことで誤動作を抑制することができる。
次に、図7および図8を用いて、検出部23による付着物領域300の検出方法について説明する。図7および図8は、実施形態に係る検出部23の処理内容を示す図である。図7および図8では、輝度の平均値または標準偏差が所定の範囲内である対象領域200および結合領域210を色付けしている。
検出部23は、算出部22によって算出された輝度の平均値および標準偏差の双方が所定の範囲内である対象領域200を抽出することで付着物領域300を検出する。具体的には、まず、検出部23は、閾値情報31の「輝度平均上限」よりも小さく、「輝度平均下限」よりも大きい平均値の対象領域200を抽出する。つづいて、検出部23は、閾値情報31の「標準偏差下限」よりも小さい標準偏差の結合領域210を抽出する。
つづいて、図7に示すように、検出部23は、抽出した対象領域200および結合領域210の論理積をとる。図7に示す例では、論理積により得られた対象領域200を他の対象領域200よりも濃い色で示している。かかる場合に、検出部23は、論理積により得られた対象領域200が隣り合う場合に付着物領域300を検出する。
具体的には、検出部23は、論理積により得られた対象領域200が所定数以上連なっている場合(縦方向でも横方向でもよい)に、連なった複数の対象領域200を付着物領域300として検出する。つまり、検出部23は、抽出した対象領域200および結合領域210のアンド条件が成立する領域を付着物領域300として検出する。
このように、検出部23は、輝度の平均値が閾値の範囲内であり、標準偏差が低いぼやけた領域を付着物領域300とすることで検出精度を向上させることができる。つまり、輝度の平均値と標準偏差の論理積をとることで、付着物の形状を忠実に表すような付着物領域300を抽出することができるとともに、付着物とは関係のないノイズの領域を除去がすることができる。
なお、検出部23は、平均値および標準偏差の論理和により付着物領域300を検出したが、平均値または標準偏差のいずれか一方に基づいて対象領域200を抽出し、抽出した対象領域200が隣り合う場合に、付着物領域300を検出してもよい。
また、検出部23は、算出部22によって算出された移動領域220の標準偏差を加味して付着物領域300を検出してもよい。かかる点について、図8を用いて説明する。
図8には、縦横4×6個(合計24個)の結合領域210における標準偏差の算出結果と、縦横3×5個(15個)の移動領域220における標準偏差の算出結果を示している。ここでは、上記と同様に、閾値情報31の「標準偏差下限」よりも小さい標準偏差の領域を色付きで示している。
図8に示すように、検出部23は、まず、標準偏差が所定の範囲内である結合領域210および移動領域220の論理和が示す領域を標準偏差の合算領域(図8中段の色付き領域)として抽出する。図8に示す例では、合算領域は、縦横8×12の対象領域200のうちの一部の領域で構成される。
つづいて、検出部23は、合算領域および平均値を算出した対象領域200に基づいて付着物領域300を検出する。具体的には、図8に示すように、検出部23は、合算領域を含む縦横8×12個の対象領域200と、平均値から抽出された対象領域200を含む縦横8×12個の対象領域200との論理積をとることで付着物領域300を検出する。
つまり、検出部23は、予め移動領域220を用いた論理和により合算領域を生成しておくことで、標準偏差によって抽出された領域の分解能を向上できるため、結果として、検出される付着物領域300の分解能を向上させることができる。
すなわち、合算領域により標準偏差の差が小さくなることを防止しつつ、より忠実に付着物の形状をより忠実に示した付着物領域300を検出することができる。
次に、図9を用いて、実施形態に係る付着物検出装置1が実行する検出処理の処理手順について説明する。図9は、実施形態に係る付着物検出装置1が実行する検出処理の処理手順を示すフローチャートである。
図9に示すように、まず、分割部21は、撮像装置10から出力された撮像画像Pを取得する(ステップS101)。つづいて、分割部21は、取得した撮像画像Pを複数の領域100に分割する(ステップS102)。
つづいて、算出部22は、領域100に対応する対象領域200の輝度の平均値および標準偏差を算出する(ステップS103)。つづいて、検出部23は、算出部22によって算出された対象領域200(あるいは結合領域210)の標準偏差が閾値情報31の下限より小さいか否かを判定する(ステップS104)。
検出部23は、標準偏差が閾値情報31の下限より小さい場合(ステップS104,Yes)、対象領域200の平均値が閾値情報31の閾値の範囲内であるか否かを判定する(ステップS105)。
検出部23は、平均値が閾値情報31の閾値の範囲内であった場合(ステップS105,Yes)、かかる範囲内の対象領域200を抽出する(ステップS106)。具体的には、標準偏差が閾値の下限より小さく、平均値が閾値の範囲内である対象領域200を抽出する。
検出部23は、抽出した対象領域200が隣り合うか否かを判定する(ステップS107)。検出部23は、抽出した対象領域200が隣り合う場合(ステップS107,Yes)、隣り合う複数の対象領域200を付着物領域300として検出し(ステップS108)、処理を終了する。
一方、ステップS104において、検出部23は、標準偏差が閾値の下限以上であった場合(ステップS104,No)、処理を終了する。
また、ステップS105において、検出部23は、平均値が範囲外であった場合(ステップS105,No)、平均値が上限以上であるか否かを判定する(ステップS109)。
検出部23は、平均値が上限以上であった場合(ステップS109,Yes)、かかる対象領域200を外光照射による異常、つまり逆光を示す異常領域を検出する(ステップS110)。
一方、ステップS109において、検出部23は、平均値が上限以上ではない、つまり、平均値が下限以下である場合(ステップS109,No)、かかる対象領域200が低照度による異常を示す異常領域を検出する(ステップS111)。
また、ステップS107において、検出部23は、抽出した対象領域200が隣り合わない場合(ステップS107,No)、処理を終了する。
上述してきたように、実施形態に係る付着物検出装置1は、分割部21と、算出部22と、検出部23とを備える。分割部21は、撮像装置10が出力する撮像画像Pを複数の領域100に分割する。算出部22は、分割部21によって分割された領域100に含まれる各画素の輝度を検出し、領域100に対応する対象領域200における輝度の平均値または標準偏差を算出する。検出部23は、算出部22によって算出された輝度の平均値または標準偏差が所定の範囲内である対象領域200を抽出し、抽出した対象領域200が隣り合う場合に、隣り合う複数の対象領域200を撮像装置10に異物が付着した領域である付着物領域300として検出する。これにより、付着物の検出精度を向上させることができる。
なお、上述した実施形態では、検出部23は、結合領域210と移動領域220との論理和を1回のみ行った合算領域(図8参照)を用いて付着物領域300を検出したが、論理和をとる回数は2回以上であってもよい。
さらなる効果や変形例は、当業者によって容易に導き出すことができる。このため、本発明のより広範な態様は、以上のように表しかつ記述した特定の詳細および代表的な実施形態に限定されるものではない。したがって、添付の特許請求の範囲およびその均等物によって定義される総括的な発明の概念の精神または範囲から逸脱することなく、様々な変更が可能である。
1 付着物検出装置
2 制御部
3 記憶部
10 撮像装置
11 除去装置
12 制御装置
21 分割部
22 算出部
23 検出部
31 閾値情報
100 領域
200,200a〜200d 対象領域
210 結合領域
220 移動領域
300 付着物領域
P 撮像画像

Claims (9)

  1. 撮像装置が出力する撮像画像を複数の領域に分割する分割部と、
    前記分割部によって分割された前記領域に含まれる各画素の輝度を検出し、前記領域に対応する対象領域における前記輝度の平均値または標準偏差を算出する算出部と、
    前記算出部によって算出された前記輝度の平均値または標準偏差が所定の範囲内である前記対象領域を抽出し、抽出した前記対象領域が隣り合う場合に、隣り合う複数の前記対象領域を前記撮像装置に異物が付着した領域である付着物領域として検出する検出部と
    を備えることを特徴とする付着物検出装置。
  2. 前記算出部は、
    前記対象領域における前記輝度の平均値および標準偏差を算出し、
    前記検出部は、
    前記算出部が算出した前記輝度の平均値および標準偏差の双方が所定の範囲内である前記対象領域を抽出することで前記付着物領域を検出すること
    を特徴とする請求項1に記載の付着物検出装置。
  3. 前記算出部は、
    前記平均値を算出する前記対象領域よりも前記標準偏差を算出する前記対象領域を大きくすること
    を特徴とする請求項1または2に記載の付着物検出装置。
  4. 前記算出部は、
    前記対象領域の少なくとも一部が重なるように移動した移動領域の前記標準偏差をさらに算出し、
    前記検出部は、
    前記標準偏差が前記所定の範囲内である前記対象領域および前記移動領域の論理和が示す領域を前記標準偏差の合算領域として抽出すること
    を特徴とする請求項1〜3のいずれか1つに記載の付着物検出装置。
  5. 前記算出部は、
    縦方向、横方向の移動量の単位が、それぞれ前記対象領域の縦幅と横幅のM(Mは整数)分の1であり、前記対象領域を前記M回移動させて算出した前記M個の標準偏差に基づいてM個の論理和をとることで、前記合算領域を抽出すること
    を特徴とする請求項4に記載の付着物検出装置。
  6. 前記算出部は、
    前記平均値を算出する前記対象領域を結合した結合領域を前記標準偏差を算出する前記対象領域とすること
    を特徴とする請求項3に記載の付着物検出装置。
  7. 前記算出部は、
    前記結合領域に含まれる複数の前記対象領域の少なくとも一部が重なるように前記結合領域を移動した移動領域の前記標準偏差をさらに算出し、
    前記検出部は、
    前記標準偏差が前記所定の範囲内である前記結合領域および前記移動領域の論理和が示す領域を前記標準偏差の合算領域として抽出し、前記合算領域および前記平均値を算出した前記対象領域に基づいて前記付着物領域を検出すること
    を特徴とする請求項6に記載の付着物検出装置。
  8. 前記算出部は、
    前記結合領域に含まれる1つの前記対象領域が重なるように前記移動領域を移動すること
    を特徴とする請求項7に記載の付着物検出装置。
  9. 撮像装置が出力する撮像画像を複数の領域に分割する分割工程と、
    前記分割工程によって分割された前記領域に含まれる各画素の輝度を検出し、前記領域に対応する対象領域における前記輝度の平均値または標準偏差を算出する算出工程と、
    前記算出工程によって算出された前記輝度の平均値または標準偏差が所定の範囲内である前記対象領域を抽出し、抽出した前記対象領域が隣り合う場合に、隣り合う複数の前記対象領域を前記撮像装置に異物が付着した領域である付着物領域として検出する検出工程と
    を含むことを特徴とする付着物検出方法。
JP2017090629A 2017-04-28 2017-04-28 付着物検出装置および付着物検出方法 Active JP6832224B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017090629A JP6832224B2 (ja) 2017-04-28 2017-04-28 付着物検出装置および付着物検出方法
US15/920,951 US10748028B2 (en) 2017-04-28 2018-03-14 Extraneous-matter detecting apparatus and extraneous-matter detecting method
DE102018105983.3A DE102018105983A1 (de) 2017-04-28 2018-03-15 Vorrichtung zum Erfassen von Fremdkörpern und Verfahren zum Erfassen von Fremdkörpern

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017090629A JP6832224B2 (ja) 2017-04-28 2017-04-28 付着物検出装置および付着物検出方法

Publications (2)

Publication Number Publication Date
JP2018191087A true JP2018191087A (ja) 2018-11-29
JP6832224B2 JP6832224B2 (ja) 2021-02-24

Family

ID=63797273

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017090629A Active JP6832224B2 (ja) 2017-04-28 2017-04-28 付着物検出装置および付着物検出方法

Country Status (3)

Country Link
US (1) US10748028B2 (ja)
JP (1) JP6832224B2 (ja)
DE (1) DE102018105983A1 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020108059A (ja) * 2018-12-28 2020-07-09 株式会社デンソーテン 画像処理装置、および画像処理方法
JP2020108129A (ja) * 2018-12-28 2020-07-09 株式会社デンソーテン 付着物検出装置、および付着物検出方法
JP2020108092A (ja) * 2018-12-28 2020-07-09 株式会社デンソーテン 付着物検出装置、および付着物検出方法
JP2021052235A (ja) * 2019-09-20 2021-04-01 株式会社デンソーテン 付着物検出装置および付着物検出方法
JP2021051379A (ja) * 2019-09-20 2021-04-01 株式会社デンソーテン 付着物検出装置および付着物検出方法
US10970592B2 (en) 2018-12-28 2021-04-06 Denso Ten Limited Adhering substance detection apparatus and adhering substance detection method
US11093786B2 (en) 2018-12-28 2021-08-17 Denso Ten Limited Extraneous-matter detecting apparatus and extraneous-matter detecting method
US11308709B2 (en) 2019-09-20 2022-04-19 Denso Ten Limited Deposit detection device and deposit detection method

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7272296B2 (ja) * 2020-02-07 2023-05-12 トヨタ自動車株式会社 判定方法、判定装置及び判定プログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10148618A (ja) * 1996-11-15 1998-06-02 Mitsuba Corp 雨滴検出装置における異物検出方法
JP2004282686A (ja) * 2003-01-20 2004-10-07 Minolta Co Ltd 撮像装置
JP2008187438A (ja) * 2007-01-30 2008-08-14 Olympus Imaging Corp 撮像モジュール及び調整装置
JP2011028322A (ja) * 2009-07-21 2011-02-10 Nikon Corp 画像処理装置、画像処理プログラムおよび撮像装置
JP2015046851A (ja) * 2013-07-29 2015-03-12 株式会社Jvcケンウッド 撮像装置および撮像装置撮像窓の水滴付着判定方法
JP2016537934A (ja) * 2013-11-12 2016-12-01 アプリケーション・ソリューションズ・(エレクトロニクス・アンド・ヴィジョン)・リミテッド カメラの被覆状態の認識方法、カメラシステム、及び自動車

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6453069B1 (en) * 1996-11-20 2002-09-17 Canon Kabushiki Kaisha Method of extracting image from input image using reference image
JP2001111989A (ja) 1999-10-07 2001-04-20 Sumitomo Electric Ind Ltd 車載用撮像装置
JP4326999B2 (ja) * 2003-08-12 2009-09-09 株式会社日立製作所 画像処理システム
JP4532089B2 (ja) 2003-09-09 2010-08-25 富士重工業株式会社 車外監視装置
EP2461300B1 (en) * 2008-10-14 2014-11-26 Nohmi Bosai Ltd. Smoke detecting apparatus
JP5241782B2 (ja) * 2010-07-30 2013-07-17 株式会社日立製作所 カメラ異常検出装置を有する監視カメラシステム
JP5386539B2 (ja) * 2011-05-12 2014-01-15 富士重工業株式会社 環境認識装置
FI123483B (en) * 2011-12-28 2013-05-31 Waertsilae Finland Oy Method and arrangement for improving the lubrication system of a propulsion device in a watercraft
US8660342B2 (en) * 2012-01-24 2014-02-25 Telefonica, S.A. Method to assess aesthetic quality of photographs
JP6117634B2 (ja) * 2012-07-03 2017-04-19 クラリオン株式会社 レンズ付着物検知装置、レンズ付着物検知方法、および、車両システム
CN104507765B (zh) * 2012-07-27 2017-02-22 日产自动车株式会社 摄像机装置、三维物体检测装置以及镜头清洗方法
CN104509101B (zh) * 2012-07-27 2017-12-01 日产自动车株式会社 三维物体检测装置和三维物体检测方法
WO2014017403A1 (ja) * 2012-07-27 2014-01-30 クラリオン株式会社 車載用画像認識装置
JP2014044196A (ja) * 2012-07-30 2014-03-13 Ricoh Co Ltd 付着物検出装置、移動装置用機器制御システム及び移動装置
US8731291B2 (en) * 2012-09-24 2014-05-20 Eastman Kodak Company Estimating the clutter of digital images
JP5830186B2 (ja) * 2013-02-05 2015-12-09 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
KR101470831B1 (ko) * 2013-05-28 2014-12-10 전남대학교산학협력단 사용자 제어가 가능한 거듭제곱근 연산자를 이용한 안개영상 개선 장치
JP6174975B2 (ja) * 2013-11-14 2017-08-02 クラリオン株式会社 周囲環境認識装置
JP6246014B2 (ja) * 2014-02-18 2017-12-13 クラリオン株式会社 外界認識システム、車両、及びカメラの汚れ検出方法
JP6451263B2 (ja) 2014-11-28 2019-01-16 富士通株式会社 画像処理装置、画像処理システム、画像処理方法および画像処理プログラム
JP6576059B2 (ja) * 2015-03-10 2019-09-18 キヤノン株式会社 情報処理、情報処理方法、プログラム
TW201742001A (zh) * 2016-05-30 2017-12-01 聯詠科技股份有限公司 影像雜訊估測方法及裝置與影像擷取裝置
JP6576887B2 (ja) * 2016-08-09 2019-09-18 クラリオン株式会社 車載装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10148618A (ja) * 1996-11-15 1998-06-02 Mitsuba Corp 雨滴検出装置における異物検出方法
JP2004282686A (ja) * 2003-01-20 2004-10-07 Minolta Co Ltd 撮像装置
JP2008187438A (ja) * 2007-01-30 2008-08-14 Olympus Imaging Corp 撮像モジュール及び調整装置
JP2011028322A (ja) * 2009-07-21 2011-02-10 Nikon Corp 画像処理装置、画像処理プログラムおよび撮像装置
JP2015046851A (ja) * 2013-07-29 2015-03-12 株式会社Jvcケンウッド 撮像装置および撮像装置撮像窓の水滴付着判定方法
JP2016537934A (ja) * 2013-11-12 2016-12-01 アプリケーション・ソリューションズ・(エレクトロニクス・アンド・ヴィジョン)・リミテッド カメラの被覆状態の認識方法、カメラシステム、及び自動車

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7151476B2 (ja) 2018-12-28 2022-10-12 株式会社デンソーテン 付着物検出装置、および付着物検出方法
JP2020108129A (ja) * 2018-12-28 2020-07-09 株式会社デンソーテン 付着物検出装置、および付着物検出方法
JP2020108092A (ja) * 2018-12-28 2020-07-09 株式会社デンソーテン 付着物検出装置、および付着物検出方法
JP2020108059A (ja) * 2018-12-28 2020-07-09 株式会社デンソーテン 画像処理装置、および画像処理方法
JP7163767B2 (ja) 2018-12-28 2022-11-01 株式会社デンソーテン 画像処理装置、および画像処理方法
US10970592B2 (en) 2018-12-28 2021-04-06 Denso Ten Limited Adhering substance detection apparatus and adhering substance detection method
US11093786B2 (en) 2018-12-28 2021-08-17 Denso Ten Limited Extraneous-matter detecting apparatus and extraneous-matter detecting method
US11120291B2 (en) 2018-12-28 2021-09-14 Denso Ten Limited Extraneous-matter detecting apparatus and extraneous-matter detecting method
US11182626B2 (en) 2018-12-28 2021-11-23 Denso Ten Limited Attached object detection apparatus
JP7151479B2 (ja) 2018-12-28 2022-10-12 株式会社デンソーテン 付着物検出装置、および付着物検出方法
JP2021052235A (ja) * 2019-09-20 2021-04-01 株式会社デンソーテン 付着物検出装置および付着物検出方法
US11308709B2 (en) 2019-09-20 2022-04-19 Denso Ten Limited Deposit detection device and deposit detection method
JP2021051379A (ja) * 2019-09-20 2021-04-01 株式会社デンソーテン 付着物検出装置および付着物検出方法
JP7234886B2 (ja) 2019-09-20 2023-03-08 株式会社デンソーテン 付着物検出装置および付着物検出方法
JP7234884B2 (ja) 2019-09-20 2023-03-08 株式会社デンソーテン 付着物検出装置および付着物検出方法

Also Published As

Publication number Publication date
US20180314907A1 (en) 2018-11-01
US10748028B2 (en) 2020-08-18
JP6832224B2 (ja) 2021-02-24
DE102018105983A1 (de) 2018-10-31

Similar Documents

Publication Publication Date Title
JP2018191087A (ja) 付着物検出装置および付着物検出方法
US8942511B2 (en) Apparatus and method for detecting object from image, and program
JP4533836B2 (ja) 変動領域検出装置及びその方法
US10078907B2 (en) Distance measurement apparatus, distance measurement method, and storage medium
EP2743886B1 (en) System for detecting structured artifacts in video sequences
JP2016502704A (ja) 奥行きアーチファクトを除去するための画像処理方法および装置
EP3113107B1 (en) Static soiling detection and correction
JP2009064175A (ja) 物体検出装置および物体検出方法
JP7230507B2 (ja) 付着物検出装置
KR20190023374A (ko) 디스플레이 패널 검사 방법
JP2019106644A (ja) 付着物検出装置および付着物検出方法
WO2023019793A1 (zh) 一种确定方法、清洁机器人和计算机存储介质
JP2018142828A (ja) 付着物検出装置および付着物検出方法
JP2007257132A (ja) 動き検出方法および動き検出装置
JP2018169341A (ja) 油膜検出システム及び油膜検出方法
JP7200893B2 (ja) 付着物検出装置および付着物検出方法
JP2005165387A (ja) 画面のスジ欠陥検出方法及び装置並びに表示装置
JP2001160146A (ja) 画像認識方法および画像認識装置
CN111179182B (zh) 图像的处理方法及装置、存储介质及处理器
JP4887540B2 (ja) 車両周辺監視装置、車両、車両周辺監視用プログラム、車両周辺監視方法
US20140285662A1 (en) Image processing apparatus, and method
JP2020109595A (ja) 付着物検出装置および付着物検出方法
JP7251426B2 (ja) 付着物検出装置および付着物検出方法
JP7243546B2 (ja) 付着物検出装置および付着物検出方法
JP2007285868A (ja) 輝度勾配検出方法、欠陥検出方法、輝度勾配検出装置および欠陥検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200220

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200220

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200706

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200824

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200901

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201008

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210201

R150 Certificate of patent or registration of utility model

Ref document number: 6832224

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250