JP7251425B2 - 付着物検出装置および付着物検出方法 - Google Patents

付着物検出装置および付着物検出方法 Download PDF

Info

Publication number
JP7251425B2
JP7251425B2 JP2019172216A JP2019172216A JP7251425B2 JP 7251425 B2 JP7251425 B2 JP 7251425B2 JP 2019172216 A JP2019172216 A JP 2019172216A JP 2019172216 A JP2019172216 A JP 2019172216A JP 7251425 B2 JP7251425 B2 JP 7251425B2
Authority
JP
Japan
Prior art keywords
adhering matter
luminance information
difference
luminance
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019172216A
Other languages
English (en)
Other versions
JP2021052237A (ja
Inventor
信徳 朝山
修久 池田
貴 河野
泰司 谷
大輔 山本
朋和 沖
輝彦 上林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Original Assignee
Denso Ten Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd filed Critical Denso Ten Ltd
Priority to JP2019172216A priority Critical patent/JP7251425B2/ja
Priority to US17/018,126 priority patent/US11288882B2/en
Publication of JP2021052237A publication Critical patent/JP2021052237A/ja
Application granted granted Critical
Publication of JP7251425B2 publication Critical patent/JP7251425B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/94Investigating contamination, e.g. dust
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/8422Investigating thin films, e.g. matrix isolation method
    • G01N2021/8427Coatings
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • G01N2021/8861Determining coordinates of flaws
    • G01N2021/8864Mapping zones of defects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/94Investigating contamination, e.g. dust
    • G01N2021/945Liquid or solid deposits of macroscopic size on surfaces, e.g. drops, films, or clustered contaminants
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Description

本発明は、付着物検出装置および付着物検出方法に関する。
従来、自車両が移動中において、撮像画像における輝度情報の変動に基づいて、撮像装置のレンズに付着した付着物に対応する領域(以下、付着物領域)を検出する付着物検出装置が知られている(例えば、特許文献1参照)。この種の付着物検出装置では、停車中に付着物の除去を判定する場合、停車直前の過去の輝度情報と現在の輝度情報とを比較して付着物の除去判定を行う。
特開2018-176897号公報
しかしながら、従来は、停車直前に確定した輝度情報を基準にして除去判定を行っていたため、例えば、車両が建物に入ってすぐ停車した場合、周囲の明るさの急激な変化により、停車前後で輝度情報のバラつきが大きくなるおそれがあった。この場合、停車直前に輝度情報が一時的に大きく変動した状態で輝度情報を確定してしまうおそれがあり、この輝度情報を基準にすると付着物除去を誤判定してしまうおそれがあった。このように、従来は、付着物を高精度に検出する点で改善の余地があった。
本発明は、上記に鑑みてなされたものであって、付着物を高精度に検出することができる付着物検出装置および付着物検出方法を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る付着物検出装置は、撮像装置で撮像された画像の輝度情報に基づいて、撮像装置に付着した付着物に対応する付着物領域を検出する検出部と、検出部によって付着物領域が検出された状態で車両が停止した後の期間において、付着物領域における輝度情報の変動が所定の範囲内であるか否かを判定する判定部と、判定部によって輝度情報の変動が所定の範囲内であると判定された場合に、付着物領域の判定基準となる輝度情報を確定する確定部と、を備えることを特徴とする。
また上記課題を解決するための他の付着物検出装置は、撮像装置で撮像された画像の輝度情報に基づいて、撮像装置に付着した付着物に対応する付着物領域を検出する検出部と、検出部によって付着物領域が検出された状態で車両が停止した後の期間において、画像の所定領域における輝度情報の変動が所定の範囲内であるか否かを判定する判定部と、判定部によって輝度情報の変動が所定の範囲内であると判定された場合に、付着物領域の判定基準となる輝度情報を確定する確定部と、画像を分割してなる小領域ごとに輝度の平均及び標準偏差を逐次算出することと、画像の同じ位置にある小領域に対して1つ前の時刻に算出された平均値と現在の平均値の差分である第1差分および1つ前の時刻に算出された標準偏差と現在の標準偏差の差分である第2差分とをそれぞれ算出する処理を、小領域ごとに実施する算出部と、を備え、検出部は、第1差分が所定値以下であり、且つ、第2差分が所定値以下であり、且つ、輝度の平均値が所定の閾値以下である小領域のまとまりを付着物領域として検出する。
本発明によれば、付着物を高精度に検出することができる。
図1は、実施形態に係る付着物検出方法の概要を示す図である。 図2は、実施形態に係る付着物検出装置の構成を示すブロック図である。 図3は、算出部の処理内容を示す図である。 図4は、制御部の処理内容を示す図である。 図5は、実施形態に係る付着物検出装置が実行する処理の処理手順を示すフローチャートである。
以下、添付図面を参照して、本願の開示する付着物検出装置および付着物検出方法の実施形態を詳細に説明する。なお、以下に示す実施形態により本発明が限定されるものではない。
まず、図1を用いて、実施形態に係る付着物検出方法の概要について説明する。図1は、実施形態に係る付着物検出方法の概要を示す図である。なお、図1には、例えば、車両に搭載されたカメラ(撮像装置の一例)のレンズに泥等の遮光性の付着物が付着した状態で撮像された画像I(以下、撮像画像I)を示している。このような遮光性の付着物が付着した場合、撮像画像Iにおける付着物領域は、黒つぶれの状態となる。なお、遮光性の付着物は、泥以外に、虫、埃等がある。
図1に示すように、実施形態に係る付着物検出方法では、まず、撮像画像Iの輝度情報に基づいて、カメラのレンズに付着した付着物に対応する付着物領域500を検出する(ステップS1)。なお、付着物領域500の詳細な検出方法については後述する。例えば、時刻t1において、付着物領域500を検出したとする。
つづいて、時刻t2における撮像画像Iの付着物領域500の輝度情報と、時刻t1における撮像画像Iの付着物領域500の輝度情報との差分が所定範囲内であるか否かを判定する。図1では、時刻t2における輝度情報と、時刻t1における輝度情報との差分が所定範囲内であるとして、「差分なし」と判定する。
そして、実施形態に係る付着物検出方法では、「差分なし」と判定した場合、時刻t2における輝度情報を付着物領域500の最新の輝度情報として確定する。なお、確定された輝度情報は、次回以降の処理において付着物領域500の輝度情報の変動を算出する際の基準となる。なお、以下では、確定した輝度情報を確定輝度と記載する場合がある。
ここで、従来の付着物検出方法では、停車後の期間においては、停車直前に確定した輝度情報を基準にして付着物の除去判定を行っていた。図1を参照して、従来は、時刻t2の確定輝度を基準にして、停車後である時刻t3や時刻t4等で撮像された撮像画像Iの輝度情報との差分を算出していた。つまり、停車後は、確定輝度の更新は行われず、停車直前の確定輝度を用いて輝度情報の差分を算出していた。
しかしながら、例えば、車両が建物に入ってすぐ停車した場合、停車前後で周囲の明るさが急激に変化することで、停車直前の輝度情報が一時的に大きく変動するおそれがあった。この場合、停車直前に一時的に大きく変動した輝度情報を確定輝度として確定してしまうおそれがあり、この確定輝度を基準にすると付着物除去を誤判定するおそれがあった。
そこで、実施形態に係る付着物検出方法では、停車後の期間において、撮像画像Iにおける所定領域の輝度が安定した後、確定輝度の更新を行うこととした。
具体的には、まず、図1に示す例において、時刻t2から時刻t3の間に停車したとする(ステップS2)。実施形態に係る付着物検出方法では、付着物領域500を検出した状態で停車後の期間において、撮像画像Iにおける所定領域(後述する対象領域ROIや小領域100)の輝度情報の変動が所定範囲内であるか否か判定する(ステップS3)。なお、所定領域は、付着物領域500のみであってもよく、付着物領域500以外の領域を含む領域であってもよい。
そして、実施形態に係る付着物検出方法では、時刻t4から時刻t5の間において、所定領域における輝度情報の変動が所定範囲内であると判定したとする(ステップS4)。かかる場合、実施形態に係る付着物検出方法では、時刻t4における撮像画像Iと、時刻t5における撮像画像Iの付着物領域500の輝度情報の差分が所定範囲内である場合、「差分なし」と判定し、付着物領域500の判定基準となる輝度情報を確定する(ステップS5)。つまり、時刻t4から時刻t5の期間において撮像画像Iの輝度が安定したとして、時刻t5における付着物領域500の輝度情報を確定輝度として確定する。
そして、時刻t5から時刻t6の間において、付着物が除去されたとする。かかる場合、実施形態に係る付着物検出方法では、付着物領域500の判定基準である時刻t5の確定輝度と、時刻t6における撮像画像Iの付着物領域500の輝度情報との差分が所定範囲外となるため、「差分あり」と判定するとともに、付着物が除外されたと判定する。
このように、実施形態に係る付着物検出方法では、停車後の期間において、撮像画像Iの輝度が安定した後に付着物領域500の判定基準となる輝度情報を確定することで、停車前後に撮像画像Iの輝度が一時的に不安定になった場合であっても、停車後に輝度情報が更新されるため、付着物領域500の誤検知を抑制できる。すなわち、実施形態に係る付着物検出方法によれば、付着物を高精度に検出することができる。
次に、図2を用いて、実施形態に係る付着物検出装置1の構成について説明する。図2は、実施形態に係る付着物検出装置1の構成を示すブロック図である。図2に示すように、実施形態に係る付着物検出装置1は、カメラ10と、車速センサ11と、各種機器50とに接続される。なお、図2では、付着物検出装置1は、カメラ10と、各種機器50とは別体で構成される場合を示したが、これに限らず、カメラ10および各種機器50の少なくとも一方と一体で構成されてもよい。
カメラ10は、たとえば、魚眼レンズ等のレンズと、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子とを備えた車載カメラである。カメラ10は、例えば、車両の前方、後方、左側方および右側方の様子を撮像可能な位置にそれぞれ設けられ、撮像された撮像画像Iを付着物検出装置1へ出力する。
車速センサ11は、車両の速度を検出するセンサである。車速センサ11は、検出した車速情報を付着物検出装置1へ出力する。
各種機器50は、付着物検出装置1の検出結果を取得して、車両の各種制御を行う機器である。各種機器50は、例えば、カメラ10のレンズに付着物が付着していることや、ユーザによる付着物の拭き取り指示を通知する表示装置や、流体や気体等をレンズに向かって噴射して付着物を除去する除去装置、自動運転等を制御する車両制御装置を含む。
図2に示すように、実施形態に係る付着物検出装置1は、制御部2と、記憶部3とを備える。制御部2は、前処理部21と、算出部22と、検出部23と、判定部24と、確定部25と、除去判定部26と、フラグ出力部27とを備える。記憶部3は、閾値情報31を記憶する。
ここで、付着物検出装置1は、たとえば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、フラッシュメモリ、入出力ポートなどを有するコンピュータや各種の回路を含む。
コンピュータのCPUは、たとえば、ROMに記憶されたプログラムを読み出して実行することによって、制御部2の前処理部21、算出部22、検出部23、判定部24、確定部25、除去判定部26およびフラグ出力部27として機能する。
また、制御部2の前処理部21、算出部22、検出部23、判定部24、確定部25、除去判定部26およびフラグ出力部27の少なくともいずれか一つまたは全部をASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等のハードウェアで構成することもできる。
また、記憶部3は、たとえば、RAMや、ROM、フラッシュメモリに対応する。RAMや、ROM、フラッシュメモリは、閾値情報31や、各種プログラムの情報等を記憶することができる。なお、付着物検出装置1は、有線や無線のネットワークで接続された他のコンピュータや可搬型記録媒体を介して上記したプログラムや各種情報を取得することとしてもよい。
記憶部3に記憶された閾値情報31は、後述する検出部23や判定部24の処理に用いられる閾値等の情報である。
前処理部21は、カメラ10で撮像された撮像画像Iに対して所定の前処理を施す。
具体的には、前処理部21は、取得した撮像画像Iに画素の間引き処理を行い、取得した画像よりもサイズが小さい画像を生成する。また、前処理部21は、間引き処理を施した画像に基づいて、各画素における画素値の和および二乗和の積分画像を生成する。なお、画素値とは、画素の輝度やエッジに対応する情報である。
このように、付着物検出装置1は、取得した画像に対して間引き処理を行い、積分画像を生成することで、後段における処理の計算を高速化できるため、付着物を検出するための処理時間を短くすることができる。
なお、前処理部21は、各画素について、平均化フィルタなどの平滑化フィルタを用いて平滑化処理を行ってもよい。また、前処理部21は、間引き処理を行わず、取得した画像と同じサイズの撮像画像Iの積分画像を生成してもよい。
前処理部21は、積分画像である撮像画像Iを算出部22へ出力する。
算出部22は、撮像画像Iの対象領域ROIを分割した小領域100毎に輝度の特徴量を示す輝度情報を算出する。ここで、図3を用いて、算出部22の処理内容について説明する。図3は、算出部22の処理内容を示す図である。
図3に示すように、まず、算出部22は、撮像画像Iに対して対象領域ROIおよび小領域100を設定する。対象領域ROIは、カメラ10の特性に応じて予め設定される矩形状の領域であり、例えば、車体領域やカメラ10の筐体領域を除いた領域である。小領域100は、対象領域R0Iを水平方向、および垂直方向に分割することで形成される矩形状の領域である。例えば、各小領域100は、40×40の画素を含む領域であるが、小領域100に含まれる画素の数は、任意に設定可能である。
つづいて、算出部22は、小領域100毎に輝度の特徴量を示す輝度情報を算出する。具体的には、算出部22は、小領域100毎に輝度の平均値(輝度平均)および輝度の標準偏差(輝度標準偏差)を特徴量として算出する。また、算出部22は、対象領域ROI全体における輝度の特徴量(輝度の平均値および輝度の標準偏差)を算出する。
つづいて、算出部22は、過去から現在までの撮像画像Iにおける輝度の特徴量の変動を算出する。具体的には、算出部22は、過去および現在の撮像画像Iの同じ位置にある小領域100における輝度の平均値の差分である第1差分を変動として算出する。すなわち、算出部22は、対応する小領域100における過去の輝度の平均値と、現在の輝度の平均値との第1差分を変動として算出する。
また、算出部22は、過去および現在の撮像画像Iの同じ位置にある小領域100における輝度の標準偏差の差分である第2差分を算出する。すなわち、算出部22は、対応する小領域100における過去の輝度の標準偏差と、現在の輝度の標準偏差との第2差分を変動として算出する。
また、算出部22は、車両が停止後の期間においては、後述する確定部25によって確定された輝度情報(確定輝度)を基準にして、第1差分および第2差分を算出する。
算出部22は、算出した輝度情報を検出部23、判定部24および除去判定部26へ出力する。
検出部23は、算出部22によって算出された輝度情報に基づいて、カメラ10のレンズに付着した付着物に対応する付着物領域500を検出する。例えば、検出部23は、閾値情報31に含まれる閾値を用いて検出処理を行う。具体的には、検出部23は、小領域100が以下の(1)~(3)の条件をすべて満たすか否かを判定する。なお、小領域100が少なくとも(1)~(3)のいずれか一つの条件を満たさない場合には、当該小領域100を付着物が付着していない非付着物領域として検出する。
(1)小領域100の第1差分が所定値以下
(2)小領域100の第2差分が所定値以下
(3)小領域100の輝度平均が所定閾値以下
つづいて、検出部23は、上記(1)~(3)の条件をすべて満たす回数を示すカウント数が所定数以上となった小領域100の数が所定数以上の場合に、当該所定数の小領域100を付着物領域500として検出する。つまり、検出部23は、(1)~(3)の条件をすべて満たす状態が所定回数以上継続した所定数の小領域100のまとまりを付着物領域500として検出する。
判定部24は、検出部23によって付着物領域500が検出された状態で車両が停止した後の期間において、撮像画像Iの所定領域(例えば、対象領域ROIや小領域100)における輝度情報の変動が所定の範囲内であるか否かを判定する。例えば、判定部24は、輝度情報の変動が閾値情報31に含まれる閾値範囲内であるか否かの判定処理を行う。
例えば、判定部24は、現在の撮像画像Iと過去の撮像画像Iとの所定領域における輝度平均(輝度の平均値)の差分が所定値未満である場合に、輝度情報の変動が所定の範囲内であると判定する。これにより、例えば、周囲の明るさの急激な変化により、一時的に撮像画像Iのゲインが大きく調整されて画像全体の輝度値が高くなったり低くなったりした場合の輝度情報の変動を高精度に判定することができる。
なお、判定部24は、現在の撮像画像Iと過去の撮像画像Iとの所定領域における輝度の標準偏差の差分に基づいて、輝度情報の変動が所定の範囲内であるか否かを判定してもよい。
また、判定部24は、所定領域である対象領域ROIおよび小領域100の少なくとも一方の輝度情報の変動が所定の範囲内であるか否かを判定してもよく、対象領域ROIおよび小領域100双方の輝度情報の変動が所定の範囲内であるか否かを判定してもよい。
確定部25は、判定部24によって撮像画像Iの所定領域における輝度情報の変動が所定の範囲内であると判定された場合に、付着物領域500の判定基準となる輝度情報を確定する。なお、確定部25の処理の詳細については、図4で後述する。
確定部25は、確定した付着物領域500の輝度情報を算出部22および除去判定部26へ出力する。
除去判定部26は、車両が停止している期間において、確定部25によって確定された輝度情報に基づいて、付着物が除去されたか否かを判定する。具体的には、除去判定部26は、確定部25によって確定された輝度情報に基づいて算出部22によって算出された輝度情報の変動(第1差分および第2差分)が所定の範囲外である場合が継続した場合に、付着物が除去されたと判定する。
より具体的には、算出部22は、所定時刻における確定輝度を基準して、時系列の撮像画像Iそれぞれの輝度情報との変動を算出する。そして、除去判定部26は、撮像画像Iの輝度情報との変動が所定の範囲外である場合が時系列で連続した場合に、付着物が除去されたと判定する。例えば、除去判定部26は、撮像画像Iの輝度情報との変動が所定の範囲外であると判定する毎に、検出部23の上記したカウント数を下げる処理を行い、かかるカウント数が所定値未満となった場合に、付着物が除去されたと最終的に判定してもよい。
このように、除去判定部26は、確定部25によって確定された付着物領域500の輝度情報を用いることで、付着物の除去判定を高精度に行うことができる。
フラグ出力部27は、付着物領域500の有無に応じたフラグを出力する。例えば、フラグ出力部27は、付着物領域500が存在する場合、すなわち、除去判定部26によって付着物が除去されたと判定されていない場合、付着物フラグONを各種機器50に対して出力する。一方、フラグ出力部27は、付着物領域500が存在しない場合、すなわち、除去判定部26によって付着物が除去されたと判定された場合、付着物フラグOFFを各種機器50に対して出力する。
次に、図4を用いて、制御部2の処理内容について具体的に説明する。図4は、制御部2の処理内容を示す図である。図4では、停車前後において、車両周辺の明るさが急激に変化した場合の撮像画像Iの輝度情報の変動をグラフで示している。かかるグラフには、対象領域ROIの輝度情報、付着物領域500に含まれる小領域100の輝度情報および確定部25により確定された確定輝度を示している。また、グラフの各値(1つの丸)は、各時刻に撮像された撮像画像Iに基づく輝度情報および確定輝度である。
また、図4の下段には、検出部23における付着物領域500の検出用のカウント数を示しており、図4では、既に付着物領域500として検出されているため、最大値に張り付いている。
図4に示すように、停車した時刻taの前後において、対象領域ROIおよび小領域100の輝度情報は大きく変動し、時刻tbにおいて、対象領域ROIおよび小領域100の輝度情報が安定している。
このため、確定部25は、時刻taから時刻tbの期間においては、確定輝度の更新は行わず、時刻ta以前の確定輝度を時刻ta以降も維持する。なお、時刻taから時刻tbの期間においては、除去判定部26による除去判定も行わない。つまり、時刻taから時刻tbの期間においては、付着物領域500の輝度情報の変動が所定の範囲外であったとしても、カウント数を下げずに維持する。
そして、判定部24は、時刻tbにおいて、対象領域ROIおよび小領域100の輝度情報が安定した、つまり、所定領域における輝度情報の変動が所定の範囲内であると判定し、確定部25は、時刻tbにおける輝度情報を確定し、確定輝度を更新する。これにより、時刻tb以降において、除去判定部26による付着物の除去判定を高精度に行うことができる。
なお、図4に示すように、確定部25は、停車直前の確定輝度(例えば、時刻ta直前の2つの確定輝度)についても、車速が所定値未満のほぼ停車している状態の場合には、確定輝度を更新しないようにしてもよい。これにより、停車直前に輝度情報が一時的に大きく変動した場合に、確定輝度が一時的に大きく変動してしまうことを減らすことができる。
次に、図5用いて、実施形態に係る付着物検出装置1が実行する処理の処理手順について説明する。図5は、実施形態に係る付着物検出装置1が実行する処理の処理手順を示すフローチャートである。なお、図5では、付着物領域500が検出された状態で車両が停止している場合の処理を示す。
図5に示すように、付着物領域500が検出された状態で車両が停止している期間において、前処理部21は、撮像画像Iに対して前処理を施す(ステップS101)。ここでいう、前処理とは、例えば、グレースケール化処理および間引き処理した後、縮小した画像の画素値に基づいて積分画像を生成する処理である。
つづいて、算出部22は、撮像画像Iにおける対象領域ROIを小領域100毎に分割する(ステップS102)。
つづいて、算出部22は、小領域100毎に輝度の特徴量を示す輝度情報を算出する(ステップS103)。輝度の特徴量は、例えば、輝度の平均値および輝度の標準偏差である。
つづいて、算出部22は、対象領域ROIの輝度の特徴量を示す輝度情報を算出する(ステップS104)。
つづいて、判定部24は、撮像画像Iの所定領域における輝度情報の変動が所定の範囲内であるか否かを判定する(ステップS105)。
確定部25は、撮像画像Iの所定領域における輝度情報の変動が所定の範囲内である場合(ステップS105:Yes)、付着物領域500の確定輝度を更新(ステップS106)し、処理を終了する。すなわち、確定部25は、付着物領域500の判定基準となる輝度情報を確定する。
一方、ステップS105において、確定部25は、撮像画像Iの所定領域における輝度情報の変動が所定の範囲内でない場合(ステップS105:No)、前回の付着物領域500の確定輝度を維持し(ステップS107)、処理を終了する。つまり、確定部25は、前の時刻で既に確定された輝度情報を維持する。
上述してきたように、実施形態に係る付着物検出装置1は、検出部23と、判定部24と、確定部25とを備える。検出部23は、撮像装置(カメラ10)で撮像された撮像画像Iの輝度情報に基づいて、撮像装置に付着した付着物に対応する付着物領域500を検出する。判定部24は、検出部23によって付着物領域500が検出された状態で車両が停止した後の期間において、撮像画像Iの所定領域における輝度情報の変動が所定の範囲内であるか否かを判定する。確定部25は、判定部24によって輝度情報の変動が所定の範囲内であると判定された場合に、付着物領域500の輝度情報を確定する。これにより、付着物を高精度に検出することができる。
また、上述した実施形態では、車両に搭載されるカメラで撮像された撮像画像Iを用いたが、撮像画像Iは、例えば、防犯カメラや、街灯等に設置されたカメラで撮像された撮像画像Iであってもよい。つまり、カメラのレンズに付着物が付着する可能性があるカメラで撮像された撮像画像Iであればよい。
さらなる効果や変形例は、当業者によって容易に導き出すことができる。このため、本発明のより広範な態様は、以上のように表しかつ記述した特定の詳細および代表的な実施形態に限定されるものではない。したがって、添付の特許請求の範囲およびその均等物によって定義される総括的な発明の概念の精神または範囲から逸脱することなく、様々な変更が可能である。
1 付着物検出装置
2 制御部
3 記憶部
10 カメラ
11 車速センサ
21 前処理部
22 算出部
23 検出部
24 判定部
25 確定部
26 除去判定部
27 フラグ出力部
31 閾値情報
50 各種機器
100 小領域
500 付着物領域
ROI 対象領域
I 撮像画像

Claims (6)

  1. 撮像装置で撮像された画像の輝度情報に基づいて、前記撮像装置に付着した付着物に対応する付着物領域を検出する検出部と、
    前記検出部によって前記付着物領域が検出された状態で車両が停止した後の期間において、前記付着物領域における輝度情報の変動が所定の範囲内であるか否かを判定する判定部と、
    前記判定部によって前記輝度情報の変動が所定の範囲内であると判定された場合に、前記付着物領域の判定基準となる輝度情報を確定する確定部と
    を備えることを特徴とする付着物検出装置。
  2. 前記判定部は、
    現在の前記画像と過去の前記画像との前記付着物領域における輝度平均の差分が所定値未満である場合に、前記輝度情報の変動が所定の範囲内であると判定すること
    を特徴とする請求項1に記載の付着物検出装置。
  3. 撮像装置で撮像された画像の輝度情報に基づいて、前記撮像装置に付着した付着物に対応する付着物領域を検出する検出部と、
    前記検出部によって前記付着物領域が検出された状態で車両が停止した後の期間において、前記画像の所定領域における輝度情報の変動が所定の範囲内であるか否かを判定する判定部と、
    前記判定部によって前記輝度情報の変動が所定の範囲内であると判定された場合に、前記付着物領域の判定基準となる輝度情報を確定する確定部と
    前記画像を分割してなる小領域ごとに輝度の平均及び標準偏差を逐次算出することと、前記画像の同じ位置にある前記小領域に対して1つ前の時刻に算出された平均値と現在の平均値の差分である第1差分および1つ前の時刻に算出された標準偏差と現在の標準偏差の差分である第2差分とをそれぞれ算出する処理を、前記小領域ごとに実施する算出部と、を備え、
    前記検出部は、前記第1差分が所定値以下であり、且つ、前記第2差分が所定値以下であり、且つ、前記輝度の平均値が所定の閾値以下である前記小領域のまとまりを前記付着物領域として検出する、付着物検出装置。
  4. 前記車両が停止している期間において、前記確定部によって確定された前記輝度情報に基づいて、前記付着物が除去されたか否かを判定する除去判定部をさらに備えること
    を特徴とする請求項1から3の何れか1項に記載の付着物検出装置。
  5. 撮像装置で撮像された画像の輝度情報に基づいて、前記撮像装置に付着した付着物に対応する付着物領域を検出する検出工程と、
    前記検出工程によって前記付着物領域が検出された状態で車両が停止した後の期間において、前記付着物領域における輝度情報の変動が所定の範囲内であるか否かを判定する判定工程と、
    前記判定工程によって前記輝度情報の変動が所定の範囲内であると判定された場合に、前記付着物領域の判定基準となる輝度情報を確定する確定工程と
    を含むことを特徴とする付着物検出方法。
  6. 撮像装置で撮像された画像の輝度情報に基づいて、前記撮像装置に付着した付着物に対応する付着物領域を検出する検出工程と、
    前記検出工程によって前記付着物領域が検出された状態で車両が停止した後の期間において、前記画像の所定領域における輝度情報の変動が所定の範囲内であるか否かを判定する判定工程と、
    前記判定工程によって前記輝度情報の変動が所定の範囲内であると判定された場合に、前記付着物領域の判定基準となる輝度情報を確定する確定工程と
    前記画像を分割してなる小領域ごとに輝度の平均及び標準偏差を逐次算出することと、前記画像の同じ位置にある前記小領域に対して1つ前の時刻に算出された平均値と現在の平均値の差分である第1差分および1つ前の時刻に算出された標準偏差と現在の標準偏差の差分である第2差分とをそれぞれ算出する処理を、前記小領域ごとに実施する工程と、を含み、
    前記検出工程では、前記第1差分が所定値以下であり、且つ、前記第2差分が所定値以下であり、且つ、前記輝度の平均値が所定の閾値以下である前記小領域のまとまりを前記付着物領域として検出するように構成されている、付着物検出方法。
JP2019172216A 2019-09-20 2019-09-20 付着物検出装置および付着物検出方法 Active JP7251425B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019172216A JP7251425B2 (ja) 2019-09-20 2019-09-20 付着物検出装置および付着物検出方法
US17/018,126 US11288882B2 (en) 2019-09-20 2020-09-11 Deposit detection device and deposit detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019172216A JP7251425B2 (ja) 2019-09-20 2019-09-20 付着物検出装置および付着物検出方法

Publications (2)

Publication Number Publication Date
JP2021052237A JP2021052237A (ja) 2021-04-01
JP7251425B2 true JP7251425B2 (ja) 2023-04-04

Family

ID=74881007

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019172216A Active JP7251425B2 (ja) 2019-09-20 2019-09-20 付着物検出装置および付着物検出方法

Country Status (2)

Country Link
US (1) US11288882B2 (ja)
JP (1) JP7251425B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7151675B2 (ja) * 2019-09-20 2022-10-12 株式会社デンソーテン 付着物検出装置および付着物検出方法
JP7251426B2 (ja) * 2019-09-20 2023-04-04 株式会社デンソーテン 付着物検出装置および付着物検出方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010206286A (ja) 2009-02-27 2010-09-16 Toshiba Teli Corp 画像処理装置および背景画像検知処理プログラム
JP2011232193A (ja) 2010-04-28 2011-11-17 Denso Corp 雨滴検出方法およびそれを用いた雨滴検出装置
JP2014013454A (ja) 2012-07-03 2014-01-23 Clarion Co Ltd 車載用環境認識装置
JP2018026671A (ja) 2016-08-09 2018-02-15 クラリオン株式会社 車載装置
JP2018132861A (ja) 2017-02-14 2018-08-23 クラリオン株式会社 車載用撮像装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102004055680A1 (de) * 2004-11-18 2006-05-24 Delphi Technologies, Inc., Troy Sensor zur Überwachung des Nahbereichs an einem Kraftfahrzeug
CN104507765B (zh) * 2012-07-27 2017-02-22 日产自动车株式会社 摄像机装置、三维物体检测装置以及镜头清洗方法
JP6245875B2 (ja) * 2013-07-26 2017-12-13 クラリオン株式会社 レンズ汚れ検出装置およびレンズ汚れ検出方法
JP2015052495A (ja) * 2013-09-06 2015-03-19 株式会社リコー 導光体、物体検出装置
JP6453543B2 (ja) * 2014-01-22 2019-01-16 オリンパス株式会社 内視鏡装置及び内視鏡装置の作動方法
JP6427900B2 (ja) * 2014-03-07 2018-11-28 株式会社リコー 校正方法、校正システム、プログラム及び移動体
JP2016033729A (ja) * 2014-07-31 2016-03-10 クラリオン株式会社 周囲環境認識装置
JP2018176897A (ja) 2017-04-07 2018-11-15 トヨタ自動車株式会社 画像表示装置
US10789502B2 (en) * 2018-01-24 2020-09-29 Denso Ten Limited Extraneous-matter detecting apparatus and extraneous-matter detecting method
JP2019149767A (ja) * 2018-02-28 2019-09-05 パナソニック液晶ディスプレイ株式会社 表示装置用校正システム、表示装置、撮影装置、サーバ装置、及び、表示装置の校正方法
WO2020171512A1 (en) * 2019-02-19 2020-08-27 Samsung Electronics Co., Ltd. Electronic device for recommending composition and operating method thereof
EP3985988A4 (en) * 2019-07-25 2023-09-27 Shenzhen Skyworth-Rgb Electronic Co., Ltd DETECTION METHOD FOR STILL IMAGE OF A VIDEO, TERMINAL DEVICE AND COMPUTER-READABLE STORAGE MEDIUM

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010206286A (ja) 2009-02-27 2010-09-16 Toshiba Teli Corp 画像処理装置および背景画像検知処理プログラム
JP2011232193A (ja) 2010-04-28 2011-11-17 Denso Corp 雨滴検出方法およびそれを用いた雨滴検出装置
JP2014013454A (ja) 2012-07-03 2014-01-23 Clarion Co Ltd 車載用環境認識装置
JP2018026671A (ja) 2016-08-09 2018-02-15 クラリオン株式会社 車載装置
JP2018132861A (ja) 2017-02-14 2018-08-23 クラリオン株式会社 車載用撮像装置

Also Published As

Publication number Publication date
US11288882B2 (en) 2022-03-29
JP2021052237A (ja) 2021-04-01
US20210089809A1 (en) 2021-03-25

Similar Documents

Publication Publication Date Title
JP7251425B2 (ja) 付着物検出装置および付着物検出方法
CN110796041B (zh) 主体识别方法和装置、电子设备、计算机可读存储介质
JP7200893B2 (ja) 付着物検出装置および付着物検出方法
US11354795B2 (en) Deposit detection device and deposit detection method
JP7200894B2 (ja) 付着物検出装置および付着物検出方法
JP7163766B2 (ja) 付着物検出装置および付着物検出方法
US10965877B2 (en) Image generating method and electronic apparatus
EP3252707A1 (en) Image processing apparatus, image processing system, vehicle, imaging apparatus, and image processing method
JP6855233B2 (ja) 障害物検出装置および障害物検出方法
JP7156224B2 (ja) 付着物検出装置および付着物検出方法
JP7243546B2 (ja) 付着物検出装置および付着物検出方法
JP7156225B2 (ja) 付着物検出装置および付着物検出方法
JP2009088884A (ja) 撮像データにおける動きベクトル検出方法と装置
JP2020108130A (ja) 付着物検出装置、および付着物検出方法
JP7151479B2 (ja) 付着物検出装置、および付着物検出方法
JP7151476B2 (ja) 付着物検出装置、および付着物検出方法
JP7251426B2 (ja) 付着物検出装置および付着物検出方法
JP7234884B2 (ja) 付着物検出装置および付着物検出方法
JP7234886B2 (ja) 付着物検出装置および付着物検出方法
JP6934981B1 (ja) 画像処理装置
US11838645B2 (en) Image capturing control apparatus, image capturing control method, and storage medium
US10769805B2 (en) Method, image processing device, and system for generating depth map
JP2022158305A (ja) 撮像装置、その制御方法、プログラムおよび記憶媒体
JP2009111599A (ja) 撮像データにおける動きベクトル検出方法と装置
JP2020108059A (ja) 画像処理装置、および画像処理方法

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20211116

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211117

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20220217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220815

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220920

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221026

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230306

R150 Certificate of patent or registration of utility model

Ref document number: 7251425

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150