JP2021052236A - 付着物検出装置および付着物検出方法 - Google Patents

付着物検出装置および付着物検出方法 Download PDF

Info

Publication number
JP2021052236A
JP2021052236A JP2019172214A JP2019172214A JP2021052236A JP 2021052236 A JP2021052236 A JP 2021052236A JP 2019172214 A JP2019172214 A JP 2019172214A JP 2019172214 A JP2019172214 A JP 2019172214A JP 2021052236 A JP2021052236 A JP 2021052236A
Authority
JP
Japan
Prior art keywords
deposit
information
detection
unit
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019172214A
Other languages
English (en)
Other versions
JP7151675B2 (ja
Inventor
信徳 朝山
Nobutoku Asayama
信徳 朝山
修久 池田
Nobuhisa Ikeda
修久 池田
河野 貴
Takashi Kono
貴 河野
谷 泰司
Taiji Tani
泰司 谷
山本 大輔
Daisuke Yamamoto
大輔 山本
朋和 沖
Tomokazu Oki
朋和 沖
輝彦 上林
Teruhiko Kamibayashi
輝彦 上林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Original Assignee
Denso Ten Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd filed Critical Denso Ten Ltd
Priority to JP2019172214A priority Critical patent/JP7151675B2/ja
Priority to US17/019,513 priority patent/US11354795B2/en
Publication of JP2021052236A publication Critical patent/JP2021052236A/ja
Application granted granted Critical
Publication of JP7151675B2 publication Critical patent/JP7151675B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • B60R16/03Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for supply of electrical power to vehicle subsystems or for
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Mechanical Engineering (AREA)
  • Studio Devices (AREA)

Abstract

【課題】付着物を高精度に検出することができる付着物検出装置および付着物検出方法を提供すること。【解決手段】実施形態に係る付着物検出装置は、検出部と、記憶処理部とを備える。検出部は、撮像装置で撮像された画像の輝度情報に基づいて、撮像装置に付着した付着物に対応する付着物領域を検出する。記憶処理部は、付着物領域が検出された状態で車両のイグニッション電源がオフされた場合に、付着物領域に関する付着物情報を不揮発性の記憶部に記憶する。また、検出部は、イグニッション電源がオンされた後の最初の検出処理に関し、記憶部に記憶された付着物情報に基づいて付着物領域を検出する。【選択図】図2

Description

本発明は、付着物検出装置および付着物検出方法に関する。
従来、自車両が移動中において、過去の撮像画像および現在の撮像画像における輝度情報の差分に基づいて撮像装置のレンズに付着した付着物に対応する領域(以下、付着物領域)を検出する付着物検出装置が知られている(例えば、特許文献1参照)。
特開2018−176897号公報
ところで、従来は、付着物領域を検出した状態で、車両のイグニッション電源(以下、IG)がオフされてしまうと、検出結果等の情報が消去されてしまっていた。このため、例えば、ユーザによって付着物が除去されずにIGがオンされた場合、自車両が移動を開始するまでは付着物領域が検出されないおそれがあった。つまり、従来は、IGのオン直後の自車両が停車中の期間において、実際には付着しているはずの付着物を検出できないおそれがあった。
本発明は、上記に鑑みてなされたものであって、付着物を高精度に検出することができる付着物検出装置および付着物検出方法を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る付着物検出装置は、検出部と、記憶処理部とを備える。前記検出部は、撮像装置で撮像された画像の輝度情報に基づいて、前記撮像装置に付着した付着物に対応する付着物領域を検出する。前記記憶処理部は、前記付着物領域が検出された状態で車両のイグニッション電源がオフされた場合に、当該付着物領域に関する付着物情報を不揮発性の記憶部に記憶する。また、前記検出部は、前記イグニッション電源がオンされた後の最初の検出処理に関し、前記記憶部に記憶された前記付着物情報に基づいて前記付着物領域を検出する。
本発明によれば、付着物を高精度に検出することができる。
図1は、実施形態に係る付着物検出方法の概要を示す図である。 図2は、実施形態に係る付着物検出装置の構成を示すブロック図である。 図3は、検出部の処理内容を示す図である。 図4は、検出結果情報の一例を示す図である。 図5は、IGがオフされる直前の制御部の処理内容を示す図である。 図6は、IGがオンされた直後の制御部の処理内容を示す図である。 図7は、実施形態に係る付着物検出装置が実行する検出処理の処理手順を示すフローチャートである。 図8は、実施形態に係る付着物検出装置が実行する記憶処理の処理手順を示すフローチャートである。 図9は、実施形態に係る付着物検出装置が実行する最初の検出処理の処理手順を示すフローチャートである。
以下、添付図面を参照して、本願の開示する付着物検出装置および付着物検出方法の実施形態を詳細に説明する。なお、以下に示す実施形態により本発明が限定されるものではない。
まず、図1を用いて、実施形態に係る付着物検出方法の概要について説明する。図1は、実施形態に係る付着物検出方法の概要を示す図である。なお、図1の上段には、例えば、車両に搭載されたカメラ(撮像装置の一例)のレンズに泥等の遮光性の付着物が付着した状態で撮像された画像I(以下、撮像画像I)を示している。このような遮光性の付着物が付着した場合、撮像画像Iにおける付着物領域は、黒つぶれの状態となる。なお、遮光性の付着物は、泥以外に、虫、埃等がある。
ここで、従来の付着物検出方法について説明する。従来は、自車両が移動中において、過去の撮像画像および現在の撮像画像における輝度情報の差分に基づいて撮像装置のレンズに付着した付着物に対応する付着物領域を検出していた。
しかしながら、従来の付着物検出方法では、付着物領域を検出した状態で、車両のイグニッション電源(以下、IG)がオフされてしまうと、検出結果等の情報が消去されてしまっていた。このため、ユーザによって付着物が除去されずにIGがオンされた場合、自車両が移動を開始するまでは付着物領域が検出されないおそれがあった。つまり、従来は、IGのオン直後の自車両が停車中の期間において、実際には付着しているはずの付着物を検出できないおそれがあった。
そこで、実施形態に係る付着物検出方法では、IGがオフされる場合に、付着物に関する情報を不揮発性の記憶部に退避させ、退避させた情報をIGがオンされた直後の最初の検出処理に用いることとした。
具体的には、まず、実施形態に係る付着物検出方法では、撮像画像Iの輝度情報に基づいて、撮像装置であるカメラのレンズに付着した付着物に対応する付着物領域500を検出する(ステップS1)。なお、付着物領域500は、所定領域を分割した小領域単位で検出されるが、かかる点については図3で後述する。
つづいて、実施形態に係る付着物検出方法では、付着物領域500を検出した状態で車両のイグニッション電源(以下、IG)がオフされた場合に、検出した付着物領域500に関する付着物情報を不揮発性の記憶部(不揮発性記憶部)に記憶する記憶処理を行う(ステップS2)。付着物情報には、付着物領域500における輝度情報等が含まれる。なお、付着物情報の詳細については後述する。
つづいて、実施形態に係る付着物検出方法では、IGがオンされた後の最初の検出処理に関し、不揮発性記憶部に記憶された付着物情報に基づいて付着物領域を検出する(ステップS3)。
例えば、実施形態に係る付着物検出方法では、最初の検出処理における撮像画像Iの輝度情報が、付着物情報として記憶した付着物領域500の輝度情報の範囲内であれば、付着物領域500として検出する。つまり、IGがオフされてからオンされるまでの期間に、付着物が除去されずに残っていることを検出する。なお、最初の検出処理は、撮像画像Iのうち、付着物領域500に対応する領域の輝度情報を使うため、車両が停車中であっても付着物の有無を検出することが可能である。
このように、実施形態に係る付着物検出方法では、付着物情報を不揮発性記憶部に退避させておくことで、IGがオフされた場合に検出結果の情報である付着物情報が消去されてしまうことを防ぐことができる。
従って、実施形態に係る付着物検出方法によれば、IGがオンされた場合に、退避させた付着物情報を読み出して最初の検出処理を行うことで、車両が停車中であっても付着物領域500を検出することができる。すなわち、実施形態に係る付着物検出方法によれば、付着物を高精度に検出することができる。
次に、図2を用いて、実施形態に係る付着物検出装置1の構成について説明する。図2は、実施形態に係る付着物検出装置1の構成を示すブロック図である。図2に示すように、実施形態に係る付着物検出装置1は、カメラ10と、車速センサ11と、イグニッションスイッチ12と、各種機器50とに接続される。なお、図2では、付着物検出装置1は、カメラ10と、各種機器50とは別体で構成される場合を示したが、これに限らず、カメラ10および各種機器50の少なくとも一方と一体で構成されてもよい。
カメラ10は、たとえば、魚眼レンズ等のレンズと、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子とを備えた車載カメラである。カメラ10は、例えば、車両の前方、後方、左側方および右側方の様子を撮像可能な位置にそれぞれ設けられ、撮像された撮像画像Iを付着物検出装置1へ出力する。
車速センサ11は、車両の速度を検出するセンサである。車速センサ11は、検出した車速情報を付着物検出装置1へ出力する。
イグニッションスイッチ12は、車両のイグニッション電源のオンおよびオフを切り替えるスイッチである。イグニッションスイッチ12は、例えば、ユーザ操作に従ってイグニッション電源がオフされること、または、オンされたことを付着物検出装置1へ通知する。
各種機器50は、付着物検出装置1の検出結果を取得して、車両の各種制御を行う機器である。各種機器50は、例えば、カメラ10のレンズに付着物が付着していることや、ユーザによる付着物の拭き取り指示を通知する表示装置や、流体や気体等をレンズに向かって噴射して付着物を除去する除去装置、自動運転等を制御する車両制御装置を含む。
図2に示すように、実施形態に係る付着物検出装置1は、制御部2と、揮発性記憶部3と、不揮発性記憶部4とを備える。制御部2は、前処理部21と、検出部22と、記憶処理部23と、フラグ出力部24とを備える。揮発性記憶部3は、検出結果情報31を記憶する。不揮発性記憶部4は、付着物情報41を記憶する。
ここで、付着物検出装置1は、たとえば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、フラッシュメモリ、入出力ポートなどを有するコンピュータや各種の回路を含む。
コンピュータのCPUは、たとえば、ROMに記憶されたプログラムを読み出して実行することによって、制御部2の前処理部21、検出部22、記憶処理部23およびフラグ出力部24として機能する。
また、制御部2の前処理部21、検出部22、記憶処理部23およびフラグ出力部24の少なくともいずれか一つまたは全部をASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等のハードウェアで構成することもできる。
また、揮発性記憶部3は、たとえば、RAMに対応する。RAMは、検出結果情報31や、各種プログラムの情報等を記憶することができる。また、不揮発性記憶部4は、ROMやフラッシュメモリに対応する。ROMやフラッシュメモリは、付着物情報41や、各種プログラムの情報等を記憶することができる。なお、付着物検出装置1は、有線や無線のネットワークで接続された他のコンピュータや可搬型記録媒体を介して上記したプログラムや各種情報を取得することとしてもよい。
揮発性記憶部3に記憶された検出結果情報31は、後述する検出部22によって検出された付着物領域500に関する情報である。なお、検出結果情報31の詳細については、図4で後述する。
不揮発性記憶部4に記憶された付着物情報41は、後述する記憶処理部23によって記憶される情報であり、検出部22によって検出された付着物領域500に関する情報である。なお、付着物情報41の詳細については後述する。
前処理部21は、カメラ10で撮像された撮像画像Iに対して所定の前処理を施す。
具体的には、前処理部21は、取得した撮像画像Iに画素の間引き処理を行い、取得した画像よりもサイズが小さい画像を生成する。また、前処理部21は、間引き処理を施した画像に基づいて、各画素における画素値の和および二乗和の積分画像を生成する。なお、画素値とは、画素の輝度やエッジに対応する情報である。
このように、付着物検出装置1は、取得した画像に対して間引き処理を行い、積分画像を生成することで、後段における処理の計算を高速化できるため、付着物を検出するための処理時間を短くすることができる。
なお、前処理部21は、各画素について、平均化フィルタなどの平滑化フィルタを用いて平滑化処理を行ってもよい。また、前処理部21は、間引き処理を行わず、取得した画像と同じサイズの撮像画像Iの積分画像を生成してもよい。
前処理部21は、積分画像である撮像画像Iを検出部22へ出力する。
検出部22は、撮像画像Iの輝度情報に基づいて、付着物領域500を検出する。ここで、図3を用いて、検出部22の処理内容について説明する。図3は、検出部22の処理内容を示す図である。
図3の上段に示すように、まず、検出部22は、撮像画像Iに対して所定領域ROIおよび小領域100を設定する。所定領域ROIは、カメラ10の特性に応じて予め設定される矩形状の領域であり、例えば、車体領域やカメラ10の筐体領域を除いた領域である。小領域100は、所定領域R0Iを水平方向、および垂直方向に分割することで形成される矩形状の領域である。例えば、各小領域100は、40×40の画素を含む領域であるが、小領域100に含まれる画素の数は、任意に設定可能である。
つづいて、検出部22は、小領域100毎に輝度の特徴量を示す輝度情報を算出する。具体的には、検出部22は、小領域100毎に輝度の平均値および輝度の標準偏差を特徴量として算出する。また、検出部22は、所定領域ROI全体における輝度の特徴量(輝度の平均値および輝度の標準偏差)を算出する。
つづいて、検出部22は、過去から現在までの撮像画像Iにおける輝度の特徴量の変動を算出する。具体的には、検出部22は、過去および現在の撮像画像Iの同じ位置にある小領域100における輝度の平均値の差分である第1差分を変動として算出する。すなわち、検出部22は、対応する小領域100における過去の輝度の平均値と、現在の輝度の平均値との第1差分を変動として算出する。
また、検出部22は、過去および現在の撮像画像Iの同じ位置にある小領域100における輝度の標準偏差の差分である第2差分を算出する。すなわち、検出部22は、対応する小領域100における過去の輝度の標準偏差と、現在の輝度の標準偏差との第2差分を変動として算出する。
つづいて、検出部22は、小領域100それぞれについて輝度情報が所定の条件を満たすか否かを判定する。具体的には、検出部22は、過去および現在の撮像画像Iにおける小領域100の輝度の特徴量の変動が所定の閾値範囲内である場合に所定の条件を満たすと判定する。
つづいて、検出部22は、輝度情報が所定の条件を満たす回数を示すカウント数が所定数以上となった小領域100の数が所定数以上の場合に、当該所定数の小領域100を付着物領域500として検出する。つまり、検出部22は、現在から過去数フレームの撮像画像Iにおいて、輝度情報が所定の条件を満たす状態が所定回数以上継続した所定数の小領域100のまとまりを付着物領域500として検出する。
検出部22は、付着物領域500が検出されていることを示す情報を記憶処理部23およびフラグ出力部24へ出力する。また、検出部22は、検出した付着物領域500の情報を検出結果情報31として揮発性記憶部3へ記憶する。
ここで、図4を用いて、検出結果情報31について説明する。図4は、検出結果情報31の一例を示す図である。
図4に示すように、検出結果情報31には、「付着物領域の有無」、「小領域毎の判定結果」、「付着物領域の輝度平均最大値」、「付着物領域の輝度平均最小値」、「付着物領域の輝度標準偏差最大値」および「付着物領域の輝度標準偏差最小値」といった項目を含む。
「付着物領域の有無」は、検出部22によって付着物領域500が検出されたか否かを示す情報である。「小領域毎の判定結果」は、付着物領域500に含まれる小領域100の判定結果の情報であり、例えば、泥等の黒つぶれ領域と判定されたかや、雨滴等のぼやけ領域と判定されたか等の判定結果の情報を含む。
「付着物領域の輝度平均最大値」および「付着物領域の輝度平均最小値」は、付着物領域500に含まれる小領域100毎の輝度の平均値のうち、最大値および最小値の情報である。
「付着物領域の輝度標準偏差最大値」および「付着物領域の輝度標準偏差最小値」は、付着物領域500に含まれる小領域100毎の輝度の標準偏差のうち、最大値および最小値の情報である。
なお、検出結果情報31は、上記した情報以外にも、例えば、所定領域ROI全体の輝度の平均値や輝度の標準偏差等の情報が含まれてもよい。
また、検出部22は、IGがオンされた直後の最初の検出処理に関し、不揮発性記憶部4に記憶された付着物情報41を初期値として付着物領域500の検出処理を行うが、かかる点については、図6を用いて説明する。
図2に戻って、記憶処理部23について説明する。記憶処理部23は、付着物領域500が検出された状態で車両のIG(イグニッション電源)がオフされる場合に、付着物領域500に関する付着物情報41を不揮発性記憶部4に記憶する。
具体的には、記憶処理部23は、検出部22から付着物領域500を検出していることを示す情報を取得し、かつ、イグニッションスイッチ12からイグニッション電源がオフされる情報を取得した場合、付着物情報41を不揮発性記憶部4に記憶する。
付着物情報41は、例えば、検出結果情報31の一部または全部を含んだ情報である。つまり、付着物情報41は、検出結果情報31における「付着物領域の輝度平均最大値」、「付着物領域の輝度平均最小値」、「付着物領域の輝度標準偏差最大値」および「付着物領域の輝度標準偏差最小値」の情報を含む。
つまり、記憶処理部23は、IGがオフされる場合、揮発性記憶部3に記憶された検出結果情報31を読み出すとともに、読み出した検出結果情報31を付着物情報41として不揮発性記憶部4へ書き込む。
なお、記憶処理部23は、揮発性記憶部3の検出結果情報31を読み出して不揮発性記憶部4に付着物情報41として書き込む、いわゆるPIO(Programmed I/O)方式である場合に限らず、DMA(Direct Memory Access)方式より、揮発性記憶部3から不揮発性記憶部4に直接記憶するようにしてもよい。
図2に戻って、フラグ出力部24について説明する。フラグ出力部24は、検出部22によって付着物領域500が検出されている場合、付着物フラグONを各種機器50に対して出力する。一方、フラグ出力部24は、検出部22によって付着物領域が検出されていない場合、付着物フラグOFFを各種機器50に対して出力する。
次に、図5および図6を用いて、IGがオフおよびオンされる前後の制御部2の処理内容について具体的に説明する。図5は、IGがオフされる直前の制御部2の処理内容を示す図である。図6は、IGがオンされた直後の制御部2の処理内容を示す図である。
まず、図5を用いて、IGがオフされる直前の制御部2の処理内容について説明する。図5では、時刻t1において、検出部22によって付着物領域500が検出され、時刻t2において、IGがオフされる指示を取得することとする。
検出部22は、時刻t1において、付着物領域500を検出した場合、揮発性記憶部3への検出結果情報31の記憶を開始する。なお、検出結果情報31の更新は、付着物領域500が検出されている期間は継続して行われる。
なお、時刻t1から時刻t2の期間において、記憶処理部23は、付着物情報41を記憶する記憶処理は行わない。つまり、時刻t1から時刻t2の期間においては、不揮発性記憶部4に付着物情報41は記憶されない。これにより、不揮発性記憶部4への書込み回数を減らすことができるため、不揮発性記憶部4の寿命を延ばすことができる。
そして、記憶処理部23は、時刻t2において、IGがオフされる指示を取得した場合、時刻t2の直前の撮像画像Iから検出された付着物領域500の検出結果情報31の一部または全部を付着物領域500の付着物情報41として不揮発性記憶部4に退避させる。
これにより、時刻t2以降において、IGがオフされることにより揮発性記憶部3の検出結果情報31が消去(図5に示すOFF)されたとしても、付着物情報41として不揮発性記憶部4に残すことができるため、IGがオンされた直後の検出処理に用いることができる。
次に、図6を用いて、IGがオンされた直後の制御部2の処理内容について説明する。図6では、IGがオフされる直前の時刻t11における撮像画像Iから検出された付着物領域500の輝度情報等が付着物情報41として不揮発性記憶部4に記憶されていることとする。
図6に示すように、記憶処理部23は、IGがオンされた後の最初に撮像された撮像画像Iの輝度情報と、不揮発性記憶部4に記憶された付着物情報41との比較結果に基づいて、付着物領域500を検出する。
具体的には、まず、記憶処理部23は、IGがオンされた後の時刻t21において、不揮発性記憶部4に記憶された付着物情報41を読み出し、検出部22へ出力する。検出部22は、時刻t21において撮像された撮像画像Iの小領域100毎に輝度情報を算出する。
そして、検出部22は、記憶処理部23から取得した付着物情報41と、時刻t21における撮像画像Iの小領域100の輝度情報とを比較する。具体的には、検出部22は、記憶処理部23から取得した付着物情報41に基づく付着物領域500(時刻t11)と同じ位置にある小領域100(時刻t21)との輝度情報を比較する。つまり、検出部22は、IGがオンされた直後の最初の検出処理における初期値として、付着物情報41を用いる。
そして、検出部22は、時刻t21における撮像画像Iから算出した輝度情報が、付着物情報41における輝度情報の範囲内である場合、時刻t21の撮像画像Iにおいて、時刻t11で検出された付着物領域500が除去されずに残っていると判定する。
例えば、検出部22は、時刻t21における小領域100の輝度の特徴量が、付着物情報41における輝度の特徴量の最大値および最小値の範囲内にある場合には、付着物領域500を検出する。
一方、検出部22は、時刻t21における撮像画像Iから算出した輝度情報が、付着物情報41における輝度情報の範囲内に無い場合、時刻t21の撮像画像Iにおいて、時刻t11で検出された付着物領域500が除去されたと判定する。なお、検出部22は、継続的に付着物領域500が除去されたことを判定した場合に、最終的に付着物領域500が除去されたと確定してもよい。
このように、IGがオンされた後の最初に撮像された撮像画像Iの輝度情報と、不揮発性記憶部4に記憶された付着物情報41との比較結果に基づいて、付着物領域500を検出することで、IGがオンされた直後から早期に付着物を検出することができる。
また、付着物情報41として、付着物領域500における輝度の特徴量の最大値および最小値を記憶しておくことで、IGがオンされた後の最初の検出処理を高精度に行うことができる。
つづいて、検出部22は、時刻t22においては、直前の時刻t21で算出された輝度情報に基づいて付着物領域500を検出する。具体的には、検出部22は、時刻t22において撮像された撮像画像Iから算出された輝度情報と、直前の時刻t21で算出された輝度情報とを比較し、輝度情報の変動(差分)が所定範囲内であれば、時刻t22も継続して付着物領域500を検出する。
このように、検出部22は、最初の検出処理(時刻t21)以降の検出処理に関し、前回撮像された撮像画像I(時刻t21)の輝度情報と、今回撮像された撮像画像I(時刻t22)の輝度情報とに基づいて、付着物領域500を検出することで、IGがオンされた後も継続的に付着物を高精度に検出することができる。
次に、図7〜図9を用いて、実施形態に係る付着物検出装置1が実行する処理の処理手順について説明する。図7は、実施形態に係る付着物検出装置1が実行する検出処理の処理手順を示すフローチャートである。図8は、実施形態に係る付着物検出装置1が実行する記憶処理の処理手順を示すフローチャートである。図9は、実施形態に係る付着物検出装置1が実行する最初の検出処理の処理手順を示すフローチャートである。
まず、図7を用いて、実施形態に係る付着物検出装置1が実行する検出処理について説明する。
図7に示すように、前処理部21は、撮像画像Iに対して前処理を施す(ステップS101)。ここでいう、前処理とは、例えば、グレースケール化処理および間引き処理した後、縮小した画像の画素値に基づいて積分画像を生成する処理である。
つづいて、検出部22は、撮像画像Iにおける所定領域ROIを小領域100毎に分割する(ステップS102)。
つづいて、検出部22は、小領域毎に輝度の特徴量を示す輝度情報を算出する(ステップS103)。輝度の特徴量は、例えば、輝度の平均値および輝度の標準偏差である。
つづいて、検出部22は、算出した輝度情報に基づいて、付着物領域500の検出処理(最初の検出処理を除く)を行う(ステップS104)。
つづいて、検出部22は、付着物領域500を検出したか否かを判定する(ステップS105)。
検出部22は、付着物領域500を検出した場合(ステップS105:Yes)、付着物領域500に関する検出結果情報31を揮発性記憶部3に記憶し(ステップS106)、処理を終了する。
一方、ステップS105において、検出部22は、付着物領域500を検出していない場合(ステップS105:No)、処理を終了する。つまり、検出部22は、付着物領域500を検出していない場合、検出結果情報31を揮発性記憶部3に記憶する処理を行わない。
次に、図8を用いて、実施形態に係る付着物検出装置1が実行する記憶処理について説明する。
まず、記憶処理部23は、IGがオフされる指示があったか否かを判定する(ステップS201)。
記憶処理部23は、IGがオフされる指示があった場合(ステップS201:Yes)、検出部22によって付着物領域500が検出されているか否かを判定する(ステップS202)。
記憶処理部23は、検出部22によって付着物領域500が検出されている場合(ステップS202:Yes)、検出結果情報31を付着物情報41として記憶する記憶処理を行い(ステップS203)、処理を終了する。
一方、記憶処理部23は、IGがオフされる指示が無い場合(ステップS201:NO)や、検出部22によって付着物領域500が検出されていない場合(ステップS202:No)には、処理を終了する。
次に、図9を用いて、実施形態に係る付着物検出装置1が実行する最初の検出処理について説明する。
まず、記憶処理部23は、IGがオンされたことを取得する(ステップS301)。
つづいて、記憶処理部23は、不揮発性記憶部4に付着物情報41が記憶されているか否かを判定する(ステップS302)。
記憶処理部23は、不揮発性記憶部4に付着物情報41が記憶されている場合(ステップS302:Yes)、付着物情報41を読み出して検出部22へ出力する(ステップS303)。
つづいて、検出部22は、記憶処理部23から取得した付着物情報41に基づいて最初の検出処理を行い(ステップS304)、処理を終了する。
一方、ステップS302において、検出部22は、不揮発性記憶部4に付着物情報41が記憶されていない場合(ステップS302:No)、処理を終了する。
上述してきたように、実施形態に係る付着物検出装置1は、検出部22と、記憶処理部23とを備える。検出部22は、撮像装置(カメラ10)で撮像された撮像画像Iの輝度情報に基づいて、撮像装置に付着した付着物に対応する付着物領域500を検出する。記憶処理部23は、付着物領域500が検出された状態で車両のイグニッション電源がオフされた場合に、当該付着物領域500に関する付着物情報41を不揮発性記憶部4に記憶する。また、検出部22は、イグニッション電源がオンされた後の最初の検出処理に関し、不揮発性記憶部4に記憶された付着物情報41に基づいて付着物領域500を検出する。これにより、付着物を高精度に検出することができる。
また、上述した実施形態では、車両に搭載されるカメラで撮像された撮像画像Iを用いたが、撮像画像Iは、例えば、防犯カメラや、街灯等に設置されたカメラで撮像された撮像画像Iであってもよい。つまり、カメラのレンズに付着物が付着する可能性があるカメラで撮像された撮像画像Iであればよい。
さらなる効果や変形例は、当業者によって容易に導き出すことができる。このため、本発明のより広範な態様は、以上のように表しかつ記述した特定の詳細および代表的な実施形態に限定されるものではない。したがって、添付の特許請求の範囲およびその均等物によって定義される総括的な発明の概念の精神または範囲から逸脱することなく、様々な変更が可能である。
1 付着物検出装置
2 制御部
3 揮発性記憶部
4 不揮発性記憶部
10 カメラ
11 車速センサ
12 イグニッションスイッチ
21 前処理部
22 検出部
23 記憶処理部
24 フラグ出力部
31 検出結果情報
41 付着物情報
50 各種機器
100 小領域
500 付着物領域
ROI 所定領域
I 撮像画像

Claims (5)

  1. 撮像装置で撮像された画像の輝度情報に基づいて、前記撮像装置に付着した付着物に対応する付着物領域を検出する検出部と、
    前記付着物領域が検出された状態で車両のイグニッション電源がオフされる場合に、当該付着物領域に関する付着物情報を不揮発性の記憶部に記憶する記憶処理部と、
    を備え、
    前記検出部は、
    前記イグニッション電源がオンされた後の最初の検出処理に関し、前記記憶部に記憶された前記付着物情報に基づいて前記付着物領域を検出すること
    を特徴とする付着物検出装置。
  2. 前記検出部は、
    前記イグニッション電源がオンされた後の最初に撮像された画像の前記輝度情報と、前記記憶部に記憶された前記付着物情報との比較結果に基づいて、前記付着物領域を検出すること
    を特徴とする請求項1に記載の付着物検出装置。
  3. 前記検出部は、
    前記画像の所定領域を分割した小領域毎の前記輝度情報を算出し、前記輝度情報が所定の付着物条件を満たす前記小領域が所定数以上となった場合に、前記付着物領域として検出し、
    前記記憶処理部は、
    前記付着物領域に含まれる前記小領域の輝度の特徴量の最大値および最小値の情報を含む前記付着物情報を前記記憶部に記憶すること
    を特徴とする請求項1または2に記載の付着物検出装置。
  4. 前記検出部は、
    前記最初の検出処理以降の検出処理に関し、前回撮像された画像の前記輝度情報と、今回撮像された画像の前記輝度情報とに基づいて、前記付着物領域を検出すること
    を特徴とする請求項1〜3のいずれか1つに記載の付着物検出装置。
  5. 撮像装置で撮像された画像の輝度情報に基づいて、前記撮像装置に付着した付着物に対応する付着物領域を検出する検出工程と、
    前記付着物領域が検出された状態で車両のイグニッション電源がオフされる場合に、当該付着物領域に関する付着物情報を不揮発性の記憶部に記憶する記憶処理工程と、
    を含み、
    前記検出工程は、
    前記イグニッション電源がオンされた後の最初の検出処理に関し、前記記憶部に記憶された前記付着物情報に基づいて前記付着物領域を検出すること
    を特徴とする付着物検出方法。
JP2019172214A 2019-09-20 2019-09-20 付着物検出装置および付着物検出方法 Active JP7151675B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019172214A JP7151675B2 (ja) 2019-09-20 2019-09-20 付着物検出装置および付着物検出方法
US17/019,513 US11354795B2 (en) 2019-09-20 2020-09-14 Deposit detection device and deposit detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019172214A JP7151675B2 (ja) 2019-09-20 2019-09-20 付着物検出装置および付着物検出方法

Publications (2)

Publication Number Publication Date
JP2021052236A true JP2021052236A (ja) 2021-04-01
JP7151675B2 JP7151675B2 (ja) 2022-10-12

Family

ID=74881071

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019172214A Active JP7151675B2 (ja) 2019-09-20 2019-09-20 付着物検出装置および付着物検出方法

Country Status (2)

Country Link
US (1) US11354795B2 (ja)
JP (1) JP7151675B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7251426B2 (ja) * 2019-09-20 2023-04-04 株式会社デンソーテン 付着物検出装置および付着物検出方法
US11798151B1 (en) * 2022-04-25 2023-10-24 Rivian Ip Holdings, Llc Systems and methods for determining image capture degradation of a camera sensor

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014007153A1 (ja) * 2012-07-03 2014-01-09 クラリオン株式会社 車両周囲監視装置
JP2018132861A (ja) * 2017-02-14 2018-08-23 クラリオン株式会社 車載用撮像装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8017898B2 (en) * 2007-08-17 2011-09-13 Magna Electronics Inc. Vehicular imaging system in an automatic headlamp control system
WO2014017403A1 (ja) * 2012-07-27 2014-01-30 クラリオン株式会社 車載用画像認識装置
CN104507765B (zh) * 2012-07-27 2017-02-22 日产自动车株式会社 摄像机装置、三维物体检测装置以及镜头清洗方法
JP5976198B2 (ja) * 2013-03-26 2016-08-23 株式会社日立国際電気 人数計数装置および人数計数方法
JP6427900B2 (ja) * 2014-03-07 2018-11-28 株式会社リコー 校正方法、校正システム、プログラム及び移動体
JP2018176897A (ja) 2017-04-07 2018-11-15 トヨタ自動車株式会社 画像表示装置
US10789502B2 (en) * 2018-01-24 2020-09-29 Denso Ten Limited Extraneous-matter detecting apparatus and extraneous-matter detecting method
JP2019149767A (ja) * 2018-02-28 2019-09-05 パナソニック液晶ディスプレイ株式会社 表示装置用校正システム、表示装置、撮影装置、サーバ装置、及び、表示装置の校正方法
JP7251425B2 (ja) * 2019-09-20 2023-04-04 株式会社デンソーテン 付着物検出装置および付着物検出方法
JP7259676B2 (ja) * 2019-09-20 2023-04-18 株式会社デンソーテン 付着物検出装置および付着物検出方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014007153A1 (ja) * 2012-07-03 2014-01-09 クラリオン株式会社 車両周囲監視装置
JP2018132861A (ja) * 2017-02-14 2018-08-23 クラリオン株式会社 車載用撮像装置

Also Published As

Publication number Publication date
JP7151675B2 (ja) 2022-10-12
US20210090236A1 (en) 2021-03-25
US11354795B2 (en) 2022-06-07

Similar Documents

Publication Publication Date Title
JP6755161B2 (ja) 付着物検出装置および付着物検出方法
US8238690B2 (en) Image processing apparatus, control method therefor, and program
US20080024629A1 (en) Image processing apparatus, control method therefor, and program
US9324136B2 (en) Method, electronic apparatus, and computer readable medium for processing reflection in image
CN107748882B (zh) 一种车道线检测方法及装置
KR20180119484A (ko) 이동체 검출장치, 이동체 검출장치의 제어방법, 컴퓨터 판독가능한 기억매체 및 프로그램
JP7151675B2 (ja) 付着物検出装置および付着物検出方法
JP7251425B2 (ja) 付着物検出装置および付着物検出方法
JP7200893B2 (ja) 付着物検出装置および付着物検出方法
JP7200894B2 (ja) 付着物検出装置および付着物検出方法
JP5978636B2 (ja) 撮像装置、及びプログラム
JP2021050932A (ja) 付着物検出装置、および付着物検出方法
JP7243546B2 (ja) 付着物検出装置および付着物検出方法
JP7156225B2 (ja) 付着物検出装置および付着物検出方法
US11308709B2 (en) Deposit detection device and deposit detection method
JP7251426B2 (ja) 付着物検出装置および付着物検出方法
US11093786B2 (en) Extraneous-matter detecting apparatus and extraneous-matter detecting method
JP7234884B2 (ja) 付着物検出装置および付着物検出方法
JP2004064512A (ja) 欠陥画素の検出方法および装置、並びに撮像装置
JP7151479B2 (ja) 付着物検出装置、および付着物検出方法
JP7151476B2 (ja) 付着物検出装置、および付着物検出方法
JP7234885B2 (ja) 付着物検出装置および付着物検出方法
JP6556033B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP7234886B2 (ja) 付着物検出装置および付着物検出方法
JP2009077279A (ja) 画像認識装置、車載用画像認識装置および車載用画像認識方法

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20211116

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211117

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20220217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220823

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220912

R150 Certificate of patent or registration of utility model

Ref document number: 7151675

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150