JP2020107232A - 付着物検出装置および付着物検出方法 - Google Patents

付着物検出装置および付着物検出方法 Download PDF

Info

Publication number
JP2020107232A
JP2020107232A JP2018247677A JP2018247677A JP2020107232A JP 2020107232 A JP2020107232 A JP 2020107232A JP 2018247677 A JP2018247677 A JP 2018247677A JP 2018247677 A JP2018247677 A JP 2018247677A JP 2020107232 A JP2020107232 A JP 2020107232A
Authority
JP
Japan
Prior art keywords
predetermined
angle
classification
unit
edge
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018247677A
Other languages
English (en)
Other versions
JP7234630B2 (ja
Inventor
修久 池田
Nobuhisa Ikeda
修久 池田
信徳 朝山
Nobutoku Asayama
信徳 朝山
河野 貴
Takashi Kono
貴 河野
谷 泰司
Taiji Tani
泰司 谷
山本 大輔
Daisuke Yamamoto
大輔 山本
朋和 沖
Tomokazu Oki
朋和 沖
輝彦 上林
Teruhiko Kamibayashi
輝彦 上林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Original Assignee
Denso Ten Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd filed Critical Denso Ten Ltd
Priority to JP2018247677A priority Critical patent/JP7234630B2/ja
Priority to US16/561,189 priority patent/US10970585B2/en
Publication of JP2020107232A publication Critical patent/JP2020107232A/ja
Application granted granted Critical
Publication of JP7234630B2 publication Critical patent/JP7234630B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Abstract

【課題】付着物の検出精度を向上させること。【解決手段】実施形態に係る付着物検出装置は、算出部と、判定部とを備える。算出部は、撮像画像に含まれる所定数の画素からなるセル毎に、各画素のエッジベクトルに基づくエッジ特徴量を算出し、かかるエッジ特徴量に含まれるエッジ向きを異なる2種類の角度分類で分類する。判定部は、所定数の上記セルからなる所定の領域である単位領域における上記角度分類の変化回数に基づいて、撮像画像を撮像した撮像装置に付着した付着物の付着状態を判定する。【選択図】図2

Description

開示の実施形態は、付着物検出装置および付着物検出方法に関する。
従来、車両等に搭載されたカメラによって撮像された撮像画像に基づいて、カメラレンズに付着した付着物を検出する付着物検出装置が知られている。付着物検出装置には、たとえば、時系列の撮像画像の差分に基づいて付着物を検出するものがある(たとえば、特許文献1参照)。
特開2012−038048号公報
しかしながら、上述した従来技術には、付着物の検出精度を向上させるうえで、さらなる改善の余地がある。
実施形態の一態様は、上記に鑑みてなされたものであって、付着物の検出精度を向上させることができる付着物検出装置および付着物検出方法を提供することを目的とする。
実施形態の一態様に係る付着物検出装置は、算出部と、判定部とを備える。前記算出部は、撮像画像に含まれる所定数の画素からなるセル毎に、各画素のエッジベクトルに基づくエッジ特徴量を算出し、該エッジ特徴量に含まれるエッジ向きを異なる2種類の角度分類で分類する。前記判定部は、所定数の前記セルからなる所定の領域である単位領域における前記角度分類の変化回数に基づいて、前記撮像画像を撮像した撮像装置に付着した付着物の付着状態を判定する。
実施形態の一態様によれば、付着物の検出精度を向上させることができる。
図1Aは、実施形態に係る付着物検出方法の概要説明図(その1)である。 図1Bは、実施形態に係る付着物検出方法の概要説明図(その2)である。 図1Cは、実施形態に係る付着物検出方法の概要説明図(その3)である。 図2は、実施形態に係る付着物検出装置のブロック図である。 図3Aは、算出部による算出処理の処理内容を示す図(その1)である。 図3Bは、算出部による算出処理の処理内容を示す図(その2)である。 図3Cは、算出部による算出処理の処理内容を示す図(その3)である。 図4Aは、算出部による算出処理の処理内容を示す図(その4)である。 図4Bは、算出部による算出処理の処理内容を示す図(その5)である。 図5Aは、判定部による判定処理の処理内容を示す図(その1)である。 図5Bは、判定部による判定処理の処理内容を示す図(その2)である。 図6は、実施形態に係る付着物検出装置が実行する処理手順を示すフローチャートである。
以下、添付図面を参照して、本願の開示する付着物検出装置および付着物検出方法の実施形態を詳細に説明する。なお、以下に示す実施形態によりこの発明が限定されるものではない。
まず、図1A〜図1Cを用いて、実施形態に係る付着物検出方法の概要について説明する。図1A〜図1Cは、実施形態に係る付着物検出方法の概要説明図(その1)〜(その3)である。
図1Aに示すように、たとえば、車載カメラのレンズの全面が雪に埋もれた状態(以下、「全面雪埋もれ」と言う場合がある)で撮像された撮像画像Iがあるものとする。以下では、実施形態に係る付着物検出方法を適用した付着物検出装置1(図2参照)が、かかる撮像画像Iの各画素の輝度勾配に関する特徴量(以下、「エッジ特徴量」と言う場合がある)に基づいて、全面雪埋もれから雪が浮いて剥がれてきた付着状態を検出する場合について説明する。
ところで、比較例に係る付着物検出方法として、前述のエッジ特徴量に含まれる角度特徴量を用いて全面雪埋もれを検出する方法がある。角度特徴量は、各画素のエッジベクトル(輝度勾配)の向き(以下、「エッジ向き」と言う場合がある)である。
この比較例に係る付着物検出方法では、たとえば各画素のエッジ向きを、所定の角度範囲毎で分類し、かかる角度分類において逆向きでない画素の組み合わせに基づいて、全面雪埋もれを検出する。
この比較例に係る付着物検出方法では、たとえば図1Aの下段に示すように、0°〜360°が90°の角度範囲毎に区切られた上下左右のいずれかに各画素のエッジ向きを分類する。そして、隣接する画素同士において、かかる角度分類されたエッジ向きが180°逆向き(「上」に対しては「下」、「左」に対しては「右」)となる場合は、撮像画像I中の物の輪郭を推定させるという特性を利用し、逆向きでない画素の組み合わせをパターン検索し、全面雪埋もれを検出する。
図1Aの左側中段に示すのが、全面雪埋もれの撮像画像Iについて、前述の角度分類を可視化させた角度分類画像である。なお、図1Aの左側に示す例は、比較例に係る付着物検出装置において全面雪埋もれが正常に検知されるケースである。
しかしながら、たとえば雪が溶け始めるなど、雪の浮きが進行してきたものとする。すると、図1Aの中央および右側に示すように、比較例に係る付着物検出方法では、全面雪埋もれが未検出となる場合があった。
ここで、図1Aに示すように、浮きが進行するに連れての角度分類画像の特徴を観察すると、見た目のザラザラ感が増していることが分かる。言い換えれば、角度分類のまとまりが細かくなる、または、角度分類の偏りが減少する、とも言える。
また、同図に示すように、所定数の画素からなる所定の領域である単位領域UAにおいては、角度分類の変化が増加し、逆向きの角度分類の出現頻度が高くなる傾向がある。逆向きの角度分類の出現頻度が高くなれば、物の輪郭をより強く推定させることとなるため、比較例に係る付着物検出方法では、全面雪埋もれの浮き剥がれ状態を検出することは難しい。
そこで、実施形態に係る付着物検出方法では、図1Bに示すように、1つの撮像画像Iに対し、2種類の角度分類を行うこととした(ステップS1)。具体的には、第1の角度分類では、図1Aに示した、90°の角度範囲毎に区切られた上下左右のいずれかに分類する。かかる第1の角度分類は、以下、「上下左右4分類」と言う場合がある。
一方、第2の角度分類では、「上下左右4分類」を45°回転させて、右上、右下、左上、左下のいずれかに分類する。かかる第2の角度分類は、以下、「斜め4分類」と言う場合がある。
このように、2種類の角度分類を行うことで、たとえば、エッジ向きが120°の画素と、エッジ向きが−120°の画素とについて、第1の角度分類では逆向きとなるが、第2の角度分類では逆向きにはならないことで、浮きが進行するに連れてのエッジ向きの変化をより高精度に検出することが可能となる。
そして、実施形態に係る付着物検出方法では、図1Cに示すように、第1の角度分類および第2の角度分類によるそれぞれの角度分類画像において、単位領域UA毎の角度分類の変化回数をカウントすることとした(ステップS2)。そして、そのカウント結果に基づいて、全面雪埋もれの浮き剥がれ状態を判定することとした(ステップS3)。
すなわち、上述したように、浮きが進行すれば、角度分類のまとまりが細かくなり、角度分類の変化が増加するので、実施形態に係る付着物検出方法は、かかる特徴を単位領域UA毎の角度分類の変化回数に基づいて判定する。なお、変化回数のカウント方法、および、カウント結果に基づく判定方法の各内容については、図4A〜図5Bを用いた説明で後述する。
また、実施形態に係る付着物検出方法では、上述したエッジ特徴量を、所定数の画素PXからなるセル100単位で取り扱う(図3B等参照)。この点については、図3B等を用いた説明で後述する。なお、かかるセル100単位での取り扱いにより、画像処理における処理負荷の軽減に資することができる。
以下、上述した実施形態に係る付着物検出方法を適用した付着物検出装置1の構成例について、さらに具体的に説明する。
図2は、実施形態に係る付着物検出装置1のブロック図である。なお、図2では、本実施形態の特徴を説明するために必要な構成要素のみを機能ブロックで表しており、一般的な構成要素についての記載を省略している。
換言すれば、図2に図示される各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。たとえば、各機能ブロックの分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することが可能である。
図2に示すように、実施形態に係る付着物検出装置1は、記憶部2と、制御部3とを備える。また、付着物検出装置1は、カメラ10と、各種機器50とに接続される。
なお、図2では、付着物検出装置1が、カメラ10および各種機器50とは別体で構成される場合を示したが、これに限らず、カメラ10および各種機器50の少なくとも一方と一体に構成されてもよい。
カメラ10は、たとえば、魚眼レンズ等のレンズと、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子とを備えた車載カメラである。カメラ10は、たとえば、車両の前後方、側方の様子を撮像可能な位置にそれぞれ設けられ、撮像された撮像画像Iを付着物検出装置1へ出力する。
各種機器50は、付着物検出装置1の検出結果を取得して、車両の各種制御を行う機器である。各種機器50は、たとえば、カメラ10のレンズに付着物が付着していることやユーザへの付着物の拭き取り指示を通知する表示装置、流体や気体等をレンズへ向けて噴射して付着物を除去する除去装置、および、自動運転等を制御する車両制御装置などを含む。
記憶部2は、たとえば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現され、図2の例では、分類情報21と、閾値情報22とを記憶する。
分類情報21は、上述した角度分類に関する情報であり、たとえば第1の角度分類および第2の角度分類それぞれにおける角度範囲等を含む。閾値情報22は、後述する判定部33が実行する判定処理において用いられる閾値に関する情報である。
制御部3は、コントローラ(controller)であり、たとえば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、付着物検出装置1内部の記憶デバイスに記憶されている各種プログラムがRAMを作業領域として実行されることにより実現される。また、制御部3は、たとえば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現することができる。
制御部3は、取得部31と、算出部32と、判定部33とを有し、以下に説明する情報処理の機能や作用を実現または実行する。
取得部31は、カメラ10で撮像された撮像画像Iを取得する。取得部31は、取得した撮像画像Iにおける各画素を輝度に応じて白から黒までの各階調に変換するグレースケール化処理を行うとともに、各画素について平滑化処理を行って、算出部32へ出力する。なお、平滑化処理にはたとえば、平均化フィルタや、ガウシアンフィルタ等の任意の平滑化フィルタを用いることができる。また、グレースケール化処理や、平滑化処理については、省略されてもよい。
算出部32は、取得部31から取得した撮像画像Iのセル100毎に、エッジ特徴量を算出する。ここで、図3A〜図3Cを用いて、算出部32によるエッジ特徴量の算出処理について具体的に説明する。
図3A〜図3Cは、算出部32による算出処理の処理内容を示す図(その1)〜(その3)である。図3Aに示すように、算出部32は、まず、各画素PXにつきエッジ検出処理を行って、X軸方向(撮像画像Iの左右方向)のエッジexの強度と、Y軸方向(撮像画像Iの上下方向)のエッジeyの強度とを検出する。エッジ検出処理には、たとえば、Sobelフィルタや、Prewittフィルタ等の任意のエッジ検出フィルタを用いることができる。
つづいて、算出部32は、検出したX軸方向のエッジexの強度と、Y軸方向のエッジeyの強度とに基づき、三角関数を用いることでエッジベクトルVを算出し、かかるエッジベクトルVとX軸とがなす角度θであるエッジ向きと、エッジベクトルVの長さLであるエッジ強度を算出する。
つづいて、算出部32は、算出した各画素PXのエッジベクトルVに基づき、セル100におけるエッジ向きの代表値を算出する。具体的には、図3Bの上段に示すように、算出部32は、セル100における各画素PXのエッジベクトルVのエッジ向き−180°〜180°を、第1の角度分類により、90°毎の上下左右4方向である角度分類(0)〜(3)に分類する。
より具体的には、算出部32は、画素PXのエッジ向きが、−45°以上45°未満の角度範囲である場合には角度分類(0)に分類し、45°以上135°未満の角度範囲である場合には角度分類(1)に分類し、135°以上180°未満、または−180°以上−135°未満の角度範囲である場合には角度分類(2)に分類し、−135°以上−45°未満の角度範囲である場合には角度分類(3)に分類する。
そして、図3Bの下段に示すように、算出部32は、各セル100について、角度分類(0)〜(3)を各階級とするヒストグラムを生成する。そして、算出部32は、生成したヒストグラムにおいて、最も度数が高い階級の度数が所定の閾値THa以上である場合に、かかる階級に対応する角度分類(図3Bの例では、角度分類(1))を、セル100におけるエッジ向きの第1代表値として算出する。
一方、算出部32は、最も度数が高い階級の度数が所定の閾値THa未満である場合は、かかるセル100のエッジ向きについては、「無効」、換言すれば、「エッジ向きの代表値なし」として取り扱う。これにより、各画素PXのエッジ向きのばらつきが大きい場合に、特定のエッジ向きを代表値として算出してしまうことを防止できる。
また、算出部32は、図3Cに示すように、第2の角度分類についても同様の処理を行う。すなわち、算出部32は、セル100における各画素PXのエッジベクトルVのエッジ向き−180°〜180°を、第2の角度分類により、90°毎の斜め4方向である角度分類(4)〜(7)に分類する。
より具体的には、算出部32は、画素PXのエッジ向きが、0°以上90°未満の角度範囲である場合には角度分類(4)に分類し、90°以上180°未満の角度範囲である場合には角度分類(5)に分類し、−180°以上−90°未満の角度範囲である場合には角度分類(6)に分類し、−90°以上0°未満の角度範囲である場合には角度分類(7)に分類する。
そして、図3Bの下段に示したのと同様に、算出部32は、各セル100について、角度分類(4)〜(7)を各階級とするヒストグラムを生成する。そして、算出部32は、生成したヒストグラムにおいて、最も度数が高い階級の度数が所定の閾値THa以上である場合に、かかる階級に対応する角度分類を、セル100におけるエッジ向きの第2代表値として算出する。
図2の説明に戻る。また、算出部32は、算出したエッジ特徴量に基づく2種類の角度分類画像を生成し、かかる角度分類画像それぞれの単位領域UA毎に角度分類の変化回数をカウントする。
ここで、図4Aおよび図4Bを用いて、算出部32による算出処理について具体的に説明する。図4Aおよび図4Bは、算出部32による算出処理の処理内容を示す図(その4)および(その5)である。
図4Aに示すように、算出部32は、角度分類画像の単位領域UA毎に、単位領域UA内に左右方向および上下方向に配列されたセル100の角度分類の変化回数を算出する。
具体的に、同図に示すように、セル100−1,100−2,100−3,100−4の配列があり、エッジ向きである角度分類は順に、(0)、(1)、(1)、(2)であったものとする。
かかる場合、算出部32は、セル100−1からセル100−2を走査するに際して、角度分類が(0)から(1)へ変化するので、角度分類(0),(1)の変化回数をそれぞれ+1する。また、算出部32は、同配列において、セル100−3からセル100−4へ走査するに際して、角度分類が(1)から(2)へ変化するので、角度分類(1),(2)の変化回数をそれぞれ+1する。
算出部32は、このように単位領域UA毎におけるセル100の角度分類の変化回数をカウントし、図4Bに示すように、「上下左右4分類」および「斜め4分類」のそれぞれにおける角度分類別の変化回数を算出する。
図2の説明に戻る。また、算出部32は、算出した単位領域UA毎の角度分類の変化回数を判定部33へ出力する。判定部33は、算出部32によって算出された角度分類の変化回数に基づき、単位領域UA毎において、当該単位領域UAが浮き剥がれ状態にあり、見た目にザラザラ感のある「ザラザラ領域」であるか否かを判定する。
また、判定部33は、「ザラザラ領域」であると判定した単位領域UAの個数に基づいて、全面雪埋もれの浮き剥がれ状態であるか否かを判定する。また、判定部33は、判定した判定結果を各種機器50へ通知する。
ここで、判定部33による判定処理の処理内容について、図5Aおよび図5Bを用いて説明する。図5Aおよび図5Bは、判定部33による判定処理の処理内容を示す図(その1)および(その2)である。
図5Aに示すように、判定部33は、「ザラザラ領域」の該当条件を、条件#1〜#3のANDとしている。
条件#1は、「(0)〜(7)がすべて出現し、かつ、回数が所定範囲内」である。かかる条件#1の狙いは、複雑な角度変化が局所的に発生していること、また、特定の角度分類に偏っていないこと、の判定である。撮像画像Iの画像解像度が640×480であり、単位領域UAが40×40である場合、条件#1における所定範囲はたとえば「1≦n<65」である。
条件#2は、「(0)〜(3)の合計、(4)〜(7)の合計が所定範囲内」である。かかる条件#2の狙いは、路面等のザラザラとは異なること、また、浮き剥がれによく見られる所定範囲内にあること、の判定である。条件#2における所定範囲はたとえば「90≦n<200」である。参考までに、積雪路面は「75」程度、雪壁は「210」程度、アスファルトの路面は「250」程度である。
条件#3は、「弱エッジ強度の領域」である。すなわち、単位領域UAのエッジ強度が所定値より小さいことを指す。かかる条件#3の狙いは、角度特徴量だけでなく強度特徴量を加味することで、判定の信頼性向上を図ることである。
また、図5Bに示すように、判定部33は、判定した「ザラザラ領域」に基づく「浮き剥がれ」の該当条件を、同図に示す第1領域R1内の「ザラザラ領域」の個数が所定の第1閾値以上であることと、同図に示す第2領域R2内の「ザラザラ領域」の個数が所定の第2閾値以上であることとのANDとしている。
なお、第1閾値は、第2閾値より緩和された条件となっている。これは、中心部ほど外乱の影響が少なく判定しやすいという特性を利用するものであり、第1領域R1および第2領域R2で2段階に、かつ、第2領域R2の方を厳しく判定することで、全面雪埋もれの検出精度を向上させることができる。
次に、図6を用いて、実施形態に係る付着物検出装置1が実行する処理手順について説明する。図6は、実施形態に係る付着物検出装置1が実行する処理手順を示すフローチャートである。なお、図6では、1フレーム分のカメラ画像についての処理手順を示している。
図6に示すように、まず、取得部31が、撮像画像Iを取得する(ステップS101)。あわせて取得部31は、撮像画像Iに対してグレースケール化処理および平滑化処理を施す。
つづいて、算出部32が、撮像画像Iの所定のセル100毎のエッジ特徴量を算出する(ステップS102)。そして、算出部32は、算出したエッジ特徴量に含まれるエッジ向きに基づいて2種類の角度分類を実行する(ステップS103)。
つづいて、算出部32は、角度分類結果に基づいて、単位領域UA毎の角度分類の変化回数をカウントする(ステップS104)。そして、判定部33が、カウント結果に基づいて全面雪埋もれの浮き剥がれ状態を判定する(ステップS105)。
そして、判定部33は、各種機器50へ判定結果を通知し(ステップS106)、処理を終了する。
上述してきたように、実施形態に係る付着物検出装置1は、算出部32と、判定部33とを備える。算出部32は、撮像画像Iに含まれる所定数の画素PXからなるセル100毎に、各画素PXのエッジベクトルVに基づくエッジ特徴量を算出し、かかるエッジ特徴量に含まれるエッジ向きを異なる2種類の角度分類で分類する。判定部33は、所定数の上記セル100からなる所定の領域である単位領域UAにおける上記角度分類の変化回数に基づいて、撮像画像Iを撮像したカメラ10(「撮像装置」の一例に相当)に付着した付着物の付着状態を判定する。
したがって、実施形態に係る付着物検出装置1によれば、付着物の検出精度を向上させることができる。
また、算出部32は、360°を所定の角度範囲で分割する第1の角度分類、および、かかる第1の角度分類における角度範囲を所定角回転させて360°を分割する第2の角度分類によって、上記エッジ向きを分類する。
したがって、実施形態に係る付着物検出装置1によれば、一方の角度分類では逆向きとなる場合でも、他方の角度分類では逆向きとならないようにすることが可能となる。
また、判定部33は、単位領域UAにおいて第1の角度分類による分類値および第2の角度分類による分類値のすべてが出現し、かつ、変化回数が所定範囲内である場合に、当該単位領域UAがザラザラ領域(「付着物の所定の付着状態の候補領域」の一例に相当)であると判定する。
したがって、実施形態に係る付着物検出装置1によれば、見た目がザラザラした領域を判定するに際し、複雑な角度変化が局所的に発生していること、また、特定の角度分類に偏っていないことを確認することができる。
また、判定部33は、単位領域UAにおける第1の角度分類による分類値の変化回数の合計、および、第2の角度分類による分類値の変化回数の合計が、それぞれ所定範囲内である場合に、当該単位領域UAがザラザラ領域であると判定する。
したがって、実施形態に係る付着物検出装置1によれば、見た目がザラザラした領域を判定するに際し、路面のザラザラとは異なること、また、浮きに多く見られる範囲内にあることを確認することができる。
また、判定部33は、上記エッジ特徴量に含まれるエッジ強度の単位領域UAにおける合計が所定値より小さい場合に、当該単位領域UAがザラザラ領域であると判定する。
したがって、実施形態に係る付着物検出装置1によれば、見た目がザラザラした領域を判定するに際し、エッジ向きに対し、エッジ強度を加味することで、判定の信頼性を向上させることができる。
また、判定部33は、撮像画像Iの所定数の単位領域UAからなる所定の領域におけるザラザラ領域の個数が所定の閾値以上である場合に、当該ザラザラ領域が所定の付着状態であると判定する。
したがって、実施形態に係る付着物検出装置1によれば、単位領域UA毎の判定結果を統合した判定を行うことで、検出精度を高めるのに資することができる。
また、判定部33は、付着物が雪であり、かかる雪がカメラ10のレンズ全面に付着しつつ浮き剥がれた状態を上記所定の付着状態として判定する。
したがって、実施形態に係る付着物検出装置1によれば、全面雪埋もれの浮き剥がれ状態を精度よく検出することができる。
なお、上述した実施形態では、0°〜360°を90°毎の角度範囲で分割した4方向に角度分類する場合を示したが、角度範囲は90°に限定されず、たとえば60°毎の角度範囲で分割した6方向に角度分類してもよい。
また、第1の角度分類および第2の角度分類でそれぞれの角度範囲の幅が異なってもよい。たとえば、第1の角度分類では90°毎で角度分類し、第2の角度分類では、60°毎で角度分類してもよい。また、第1の角度分類および第2の角度分類では、角度範囲の角度の境界を45°ずらしたが、ずらす角度が45°を超える、もしくは、45°未満であってもよい。また、セル100を構成する画素PXの所定数は1以上であればよい。
また、上述した実施形態では、車載カメラで撮像された撮像画像Iを例に挙げたが、撮像画像Iは、たとえば、防犯カメラや、街灯等に設置されたカメラで撮像された撮像画像Iであってもよい。つまり、カメラのレンズに付着物が付着する可能性があるカメラで撮像された撮像画像Iであればよい。
さらなる効果や変形例は、当業者によって容易に導き出すことができる。このため、本発明のより広範な態様は、以上のように表しかつ記述した特定の詳細および代表的な実施形態に限定されるものではない。したがって、添付の特許請求の範囲およびその均等物によって定義される総括的な発明の概念の精神または範囲から逸脱することなく、様々な変更が可能である。
1 付着物検出装置
2 記憶部
3 制御部
10 カメラ
21 分類情報
22 閾値情報
31 取得部
32 算出部
33 判定部
50 各種機器
100 セル
I 撮像画像
PX 画素
UA 単位領域

Claims (8)

  1. 撮像画像に含まれる所定数の画素からなるセル毎に、各画素のエッジベクトルに基づくエッジ特徴量を算出し、該エッジ特徴量に含まれるエッジ向きを異なる2種類の角度分類で分類する算出部と、
    所定数の前記セルからなる所定の領域である単位領域における前記角度分類の変化回数に基づいて、前記撮像画像を撮像した撮像装置に付着した付着物の付着状態を判定する判定部と
    を備えることを特徴とする付着物検出装置。
  2. 前記算出部は、
    360°を所定の角度範囲で分割する第1の角度分類、および、該第1の角度分類における前記角度範囲を所定角回転させて前記360°を分割する第2の角度分類によって、前記エッジ向きを分類する
    ことを特徴とする請求項1に記載の付着物検出装置。
  3. 前記判定部は、
    前記単位領域において前記第1の角度分類による分類値および前記第2の角度分類による分類値のすべてが出現し、かつ、変化回数が所定範囲内である場合に、当該単位領域が前記付着物の所定の付着状態の候補領域であると判定する
    ことを特徴とする請求項2に記載の付着物検出装置。
  4. 前記判定部は、
    前記単位領域における前記第1の角度分類による分類値の変化回数の合計、および、前記第2の角度分類による分類値の変化回数の合計が、それぞれ所定範囲内である場合に、当該単位領域が前記付着物の所定の付着状態の候補領域であると判定する
    ことを特徴とする請求項2または3に記載の付着物検出装置。
  5. 前記判定部は、
    前記エッジ特徴量に含まれるエッジ強度の前記単位領域における合計が所定値より小さい場合に、当該単位領域が前記付着物の所定の付着状態の候補領域であると判定する
    ことを特徴とする請求項1〜4のいずれか一つに記載の付着物検出装置。
  6. 前記判定部は、
    前記撮像画像の所定数の前記単位領域からなる所定の領域における前記候補領域の個数が所定の閾値以上である場合に、当該候補領域が所定の付着状態であると判定する
    ことを特徴とする請求項3、4または5に記載の付着物検出装置。
  7. 前記判定部は、
    前記付着物が雪であり、該雪が前記撮像装置のレンズ全面に付着しつつ浮き剥がれた状態を前記所定の付着状態として判定する
    ことを特徴とする請求項3〜6のいずれか一つに記載の付着物検出装置。
  8. 撮像画像に含まれる所定数の画素からなるセル毎に、各画素のエッジベクトルに基づくエッジ特徴量を算出し、該エッジ特徴量に含まれるエッジ向きを異なる2種類の角度分類で分類する算出工程と、
    所定数の前記セルからなる所定の領域である単位領域における前記角度分類の変化回数に基づいて、前記撮像画像を撮像した撮像装置に付着した付着物の付着状態を判定する判定工程と
    を含むことを特徴とする付着物検出方法。
JP2018247677A 2018-12-28 2018-12-28 付着物検出装置 Active JP7234630B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018247677A JP7234630B2 (ja) 2018-12-28 2018-12-28 付着物検出装置
US16/561,189 US10970585B2 (en) 2018-12-28 2019-09-05 Adhering substance detection apparatus and adhering substance detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018247677A JP7234630B2 (ja) 2018-12-28 2018-12-28 付着物検出装置

Publications (2)

Publication Number Publication Date
JP2020107232A true JP2020107232A (ja) 2020-07-09
JP7234630B2 JP7234630B2 (ja) 2023-03-08

Family

ID=71123260

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018247677A Active JP7234630B2 (ja) 2018-12-28 2018-12-28 付着物検出装置

Country Status (2)

Country Link
US (1) US10970585B2 (ja)
JP (1) JP7234630B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116168041A (zh) * 2023-04-26 2023-05-26 湖南隆深氢能科技有限公司 一种应用于贴合装置的实时检测方法及其系统

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7172931B2 (ja) * 2019-09-20 2022-11-16 株式会社デンソーテン 付着物検出装置および付着物検出方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006107000A (ja) * 2004-10-04 2006-04-20 Daihatsu Motor Co Ltd 画像異常判定方法及び画像異常判定装置
JP2012103758A (ja) * 2010-11-05 2012-05-31 Denso It Laboratory Inc 局所特徴量算出装置及び方法、並びに対応点探索装置及び方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012038048A (ja) 2010-08-06 2012-02-23 Alpine Electronics Inc 車両用障害物検出装置
US9288381B2 (en) * 2012-07-27 2016-03-15 Clarion Co., Ltd. In-vehicle image recognizer
CN104509102B (zh) * 2012-07-27 2017-12-29 日产自动车株式会社 三维物体检测装置和异物检测装置
US10552706B2 (en) * 2016-10-24 2020-02-04 Fujitsu Ten Limited Attachable matter detection apparatus and attachable matter detection method
JP6817104B2 (ja) 2016-10-24 2021-01-20 株式会社デンソーテン 付着物検出装置、付着物検出方法
US10789502B2 (en) * 2018-01-24 2020-09-29 Denso Ten Limited Extraneous-matter detecting apparatus and extraneous-matter detecting method
JP7230507B2 (ja) * 2018-12-28 2023-03-01 株式会社デンソーテン 付着物検出装置
JP7163766B2 (ja) * 2018-12-28 2022-11-01 株式会社デンソーテン 付着物検出装置および付着物検出方法
JP7283081B2 (ja) * 2019-01-07 2023-05-30 株式会社デンソーテン 付着物検出装置および付着物検出方法
JP7205234B2 (ja) * 2019-01-07 2023-01-17 株式会社デンソーテン 付着物検出装置および付着物検出方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006107000A (ja) * 2004-10-04 2006-04-20 Daihatsu Motor Co Ltd 画像異常判定方法及び画像異常判定装置
JP2012103758A (ja) * 2010-11-05 2012-05-31 Denso It Laboratory Inc 局所特徴量算出装置及び方法、並びに対応点探索装置及び方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
竹村 雅幸、外5名: ""車室外カメラを利用した予防安全機能のためのレンズ診断"", SSII2014 第20回画像センシングシンポジウム 講演論文集, JPN6022049083, 11 June 2014 (2014-06-11), JP, pages 1 - 7, ISSN: 0004970127 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116168041A (zh) * 2023-04-26 2023-05-26 湖南隆深氢能科技有限公司 一种应用于贴合装置的实时检测方法及其系统

Also Published As

Publication number Publication date
US20200210747A1 (en) 2020-07-02
JP7234630B2 (ja) 2023-03-08
US10970585B2 (en) 2021-04-06

Similar Documents

Publication Publication Date Title
KR101051459B1 (ko) 영상의 에지를 추출하는 장치 및 방법
CN104376741A (zh) 一种车位状态检测方法与系统
JP7230507B2 (ja) 付着物検出装置
JP2021051802A (ja) 付着物検出装置、付着物検出方法
JP2018071994A (ja) 付着物検出装置および付着物検出方法
US20200084356A1 (en) Image monitoring device, image monitoring method, and recording medium
JP2012048484A (ja) 画像処理装置、画像処理方法及びプログラム
EP3855215A1 (en) Depth acquisition device, depth-acquiring method and program
JP2020107232A (ja) 付着物検出装置および付着物検出方法
JP7206909B2 (ja) 付着物検出装置および付着物検出方法
KR101522757B1 (ko) 영상의 노이즈 제거 방법
JP7205234B2 (ja) 付着物検出装置および付着物検出方法
JP7283081B2 (ja) 付着物検出装置および付着物検出方法
JP7200893B2 (ja) 付着物検出装置および付着物検出方法
US11393128B2 (en) Adhered substance detection apparatus
JP7274867B2 (ja) 付着物検出装置および付着物検出方法
JP7163766B2 (ja) 付着物検出装置および付着物検出方法
US11568547B2 (en) Deposit detection device and deposit detection method
JP7175188B2 (ja) 付着物検出装置および付着物検出方法
CN111762100B (zh) 车用摄影系统与物件检测方法
JP7172930B2 (ja) 付着物検出装置および付着物検出方法
JP2021051377A (ja) 付着物検出装置および付着物検出方法
JP2020108060A (ja) 付着物検出装置および付着物検出方法
JP7172932B2 (ja) 付着物検出装置および付着物検出方法
JP7234884B2 (ja) 付着物検出装置および付着物検出方法

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20211116

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211117

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20220217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230206

R150 Certificate of patent or registration of utility model

Ref document number: 7234630

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150