JPWO2013035321A1 - 付着物検出装置 - Google Patents

付着物検出装置 Download PDF

Info

Publication number
JPWO2013035321A1
JPWO2013035321A1 JP2013532449A JP2013532449A JPWO2013035321A1 JP WO2013035321 A1 JPWO2013035321 A1 JP WO2013035321A1 JP 2013532449 A JP2013532449 A JP 2013532449A JP 2013532449 A JP2013532449 A JP 2013532449A JP WO2013035321 A1 JPWO2013035321 A1 JP WO2013035321A1
Authority
JP
Japan
Prior art keywords
illumination light
windshield
deposit
image data
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013532449A
Other languages
English (en)
Inventor
中村 友二
友二 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2013532449A priority Critical patent/JPWO2013035321A1/ja
Publication of JPWO2013035321A1 publication Critical patent/JPWO2013035321A1/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/55Specular reflectivity
    • G01N21/552Attenuated total reflection
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60SSERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00Cleaning of vehicles
    • B60S1/02Cleaning windscreens, windows or optical devices
    • B60S1/04Wipers or the like, e.g. scrapers
    • B60S1/06Wipers or the like, e.g. scrapers characterised by the drive
    • B60S1/08Wipers or the like, e.g. scrapers characterised by the drive electrically driven
    • B60S1/0818Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like
    • B60S1/0822Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means
    • B60S1/0833Optical rain sensor
    • B60S1/0837Optical rain sensor with a particular arrangement of the optical elements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/41Refractivity; Phase-affecting properties, e.g. optical path length
    • G01N21/43Refractivity; Phase-affecting properties, e.g. optical path length by measuring critical angle
    • G01N2021/435Sensing drops on the contact surface

Landscapes

  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Abstract

受光した反射光に応じて生成された画像データに基づく付着物の検出の精度が落ちることがある。ウィンドシールドに対して光源から斜入射された照明光のうち、ウィンドシールドで反射した照明光に基づいてウィンドシールドの外面に付着する付着物を検出する付着物検出装置であって、ウィンドシールドの外面で反射する第1照明光と、ウィンドシールドの内面で反射する第2照明光とを含む照明光を受光して画像データを出力する撮像部と、画像データにおける第2照明光に起因する輝度成分の影響を低減して、ウィンドシールドの外面に付着する付着物を画像データから検出する検出部と、を備える。

Description

本発明は、透光板に付着した付着物を検出する付着物検出装置に関する。
車両のウィンドシールドなどの光を透過する透光板に付着した雨滴などの付着物を検出する付着物検出装置が知られている。特許文献1には、ウィンドシールドの内面から照射された光のうちウィンドシールドの外面において反射された反射光を撮像素子を介して受光し、受光した反射光に応じて生成された画像データに基づいてウィンドシールドの外面に付着した雨滴を検出する雨滴検出装置が開示されている。
特許文献1 特開2011−27490号公報
上記のような雨滴検出装置では、ウィンドシールドの内面など外面以外の面で反射された反射光も撮像素子が受光してしまう。これにより、受光した反射光に応じて生成された画像データに基づく付着物の検出の精度が落ちることがある。
本発明の態様において、ウィンドシールドに対して光源から斜入射された照明光のうち、ウィンドシールドで反射した照明光に基づいてウィンドシールドの外面に付着する付着物を検出する付着物検出装置であって、ウィンドシールドの外面で反射する第1照明光と、ウィンドシールドの内面で反射する第2照明光とを含む照明光を受光して画像データを出力する撮像部と、画像データにおける第2照明光に起因する輝度成分の影響を低減して、ウィンドシールドの外面に付着する付着物を画像データから検出する検出部と、を備える。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
実施形態に係る付着物検出装置の断面図である。 画像の領域間に生じる輝度差について説明するための図である。 画像の領域間に生じる輝度差について説明するための図である。 実施形態に係る付着物検出装置の内部回路を模式的に示すブロック図である。 輝度成分の影響を低減する処理の一例について説明するための図である。 変形例に係る付着物検出装置の内部回路を模式的に示すブロック図である。 輝度成分の影響を低減する処理の一例について説明するための図である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、本実施形態に係る付着物検出装置10の断面図である。付着物検出装置10は、車両のウィンドシールド50の外面である第1反射面52に付着した雨滴などの付着物を検出する。付着物検出装置10は、車両のウィンドシールド50の内面である第2反射面54にシリコンシート40を介して固定される。付着物検出装置10は、例えば車両のフロントガラスの内側で、ワイパー払拭範囲内のドライバーの視界を妨げない位置に固定される。付着物検出装置10は、例えば、車両のフロントガラスの内側のバックミラーの近傍に固定される。ウィンドシールド50は、光を透過する透光板の一例である。ウィンドシールド50の第1反射面52は、透光板の光源20と反対側の面の一例であり、ウィンドシールド50の第2反射面54は、透光板の光源20側の面の一例である。また、シリコンシート40は、付着物検出装置10とウィンドシールド50とに挟持され、ウィンドシールド50の第2反射面54での光の反射を低減させる光透過性の中間層の一例である。なお、付着物検出装置10は、例えば車両のリアガラスなどに設置されてもよい。
付着物検出装置10は、光源20、プリズム30、ミラー32、撮像部100、制御部200および筐体60を備える。筐体60は、本体62およびカバー64を有する。筐体60は、光源20、プリズム30、ミラー32、撮像部100、および制御部200を収容する。
光源20は、例えば近赤外光を出射するLEDなどの発光素子である。光源20は、カバー64の内側に設けられ、プリズム30を介してウィンドシールド50に対して照射光を斜入射させる。プリズム30は、ポリカーボネートなどの光透過性の樹脂またはガラスで形成される光学系である。プリズム30は、本体62の底面に設けられる。プリズム30は、本体62と一体的に形成されてもよい。
プリズム30は、入射側レンズ面30aおよび出射側レンズ面30bを有する。入射側レンズ面30aは、凸形状を有し、光源20から照射された照射光を平行光にして、平行光である照射光をウィンドシールド50に対して傾斜させて入射させる。照射光は、第1反射面52、第2反射面54、およびシリコンシート40とプリズム30との境界面である第3反射面42でそれぞれ反射する。照射光の第1反射面52に対する入射角は、ウィンドシールド50の屈折率およびウィンドシールド50の第1反射面52に接する空気等の媒体の屈折率を考慮して、照射光が第1反射面52において全反射可能な角度であることが好ましい。第1反射面52で反射された第1反射光R1、第2反射面54で反射された第2反射光R2、および第3反射面42で反射された第3反射光R3を含む反射光は、プリズム30を介して出射側レンズ面30bに導かれる。出射側レンズ面30bは、凸形状を有し、第1反射光R1、第2反射光R2、および第3反射光R3を含む反射光を集光する。なお、第1反射光R1は、ウィンドシールド50の外面で反射する第1照明光の一例である。第2反射光R2は、ウィンドシールド50の内面で反射する第2照明光の一例である。第3反射光R3は、付着物検出装置10とウィンドシールド50に挟持された光透過性の中間層のうち付着物検出装置10との境界面で反射する第3照明光の一例である。
なお、第2反射光R2は、ウィンドシールド50の光源20側の面で反射する反射光に加えて、シリコンシート40のウィンドシールド50側の面で反射する反射光も含む。ウィンドシールド50のシリコンシート40側の面と、シリコンシート40のウィンドシールド50側の面とは互いに接触しているので、それぞれの反射光の光路にはほんど差がない。したがって、第2反射光R2は、それぞれの反射光を含む。同様に、第3反射光R3は、シリコンシート40のプリズム30側の面で反射する反射光に加えて、プリズム30のシリコンシート40側の面で反射する反射光も含む。また、ウィンドシールド50の外面に撥水機能などを有するコーティング層が塗布されている場合には、第1反射光R1は、コーティング層の両面において反射する反射光も含む。
ミラー32は、出射側レンズ面30bから出射された反射光を反射させて、撮像部100に導く。入射側レンズ面30aを含むプリズム30の一部分は、光源20からの入射光を平行光にしてウィンドシールド50の第1反射面52に対して斜入射させる入射光学系として機能する。また、出射側レンズ面30bを含むプリズム30の一部分およびミラー32は、反射光を集光する集光光学系として機能する。なお、入射光学系および集光光学系は、ウィンドシールド50の屈折率および厚さ、付着物検出領域110の範囲などを考慮して、ウィンドシールド50に斜入射された照射光が第1反射面52で全反射し、かつ全反射された照射光に基づく付着物検出領域110の画像を撮像部100が撮像できるように設計される。
撮像部100は、本体62に設けられ、反射光を受光して、ウィンドシールド50の外面である第1反射面52の付着物検出領域110の画像を示す画像データを出力する。制御部200は、カバー64の内側に設けられ、撮像部100から出力された画像データに基づいて第1反射面52の付着物検出領域110に付着した付着物を検出する。制御部200は、付着物の検出結果を例えばワイパーの制御を行うワイパー制御装置に出力する。なお、反射光を撮像部100に導くためのミラーの配置および数は上記の配置および数には限定されない。また、撮像部100および制御部200が配置される位置は上記位置には限定されない。
ウィンドシールド50の第1反射面52に雨滴などの付着物が付着している場合、ウィンドシールド50の屈折率と、第1反射面52に付着した付着物の屈折率とが、全反射の条件を満たさなくなる。その結果、ウィンドシールド50に斜入射され、ウィンドシールド50の第1反射面52まで達した照射光の一部が第1反射面52で反射せずに、透過してしまう。したがって、付着物が付着している場合、撮像部100に入射される第1反射面52で反射した反射光、つまり第1反射光R1の光強度は、付着物が付着していない場合に撮像部100に入射される第1反射光R1の光強度よりも小さくなる。よって、画像データが表す画像において付着物の画像が存在する領域の輝度値は、付着物の画像が存在しない領域の輝度値に比べて小さくなる。そこで、付着物検出装置10は、画像において予め定められた閾値以下の輝度値をもつ領域が存在し、かつその領域の大きさが予め定められた基準面積以上の場合には、その領域を付着物の画像が存在する付着物領域として検出する。
ところが、上記の通り、撮像部100に入射される反射光は、付着物の検出に用いられる主成分である第1反射光R1のほかに、副成分である第2反射光R2および第3反射光R3など他の反射光も含む。なお、主成分である第1反射光R1の割合は、副成分である第2反射光R2および第3反射光R3の割合より大きい場合もあれば、等しい場合、あるいは小さい場合もある。また、図1に示す入射光学系および集光光学系を有する付着物検出装置10において、図1の矢印70で示す方向をX方向とした場合、第1領域101に含まれる照射光による反射光は、第1反射光R1のみである。これに対して、第2領域102に含まれる照射光による反射光は、第1反射光R1および第2反射光R2である。さらに、第3領域103に含まれる照射光による反射光は、第1反射光R1、第2反射光R2および第3反射光R3である。したがって、第1反射面52に付着物が付着していない場合でも、撮像部100の受光面における光強度は、領域毎に異なってしまう。よって、付着物が付着していない場合でも、反射光に基づき出力される画像データが表す画像の輝度値は、領域毎に差が生じてしまう。
ここで、車両に搭載されるウィンドシールド50は、赤外光をカットする機能を有する素材が用いられることがある。この場合、ウィンドシールド50に斜入射される近赤外光がウィンドシールド50内で減衰する割合が増加してしまう。よって、この場合、撮像部100に入射される反射光に占める第1反射光R1の割合が減少してしまう。つまり、撮像部100に入射される反射光に占める第2反射光R2および第3反射光R3の割合が増加してしまう。その結果、赤外光をカットする機能を有さない場合に比べて、画像データにおける第2反射光R2および第3反射光R3に起因する輝度成分の影響により、画像データに基づく付着物の検出の精度が低下する可能性が高い。
図2および図3は、付着物が第1反射面52に付着した状態で撮像部100により撮像された画像データが表す画像の一部を示す画像80、および画像80のX方向における光強度の一例を示す。画像80の第1領域101には、付着物301、画像80の第2領域102には、付着物302、画像80の第3領域103には、付着物303が存在する。なお、図2および図3における第1領域101、第2領域102、および第3領域103は、図1に示す第1領域101、第2領域102、および第3領域103に対応する。破線で示される閾値Tは、付着物を検出すべく画像データが表す画像の輝度値と比較される閾値を示す。図2は、ウィンドシールド50として赤外光をカットする機能を有さないウィンドシールドが用いられる場合の例である。一方、図3は、ウィンドシールド50として赤外光をカットする機能を有するウィンドシールドが用いられる場合の例である。なお、本実施形態では、光源20から照射される照射光を均一な平行光にしてウィンドシールド50に照射している。したがって、画像80における輝度値が異なる領域間の境界が直線状となる。このように画像の輝度値が異なる領域間の境界を直線状にすることで、画像における輝度値が異なる領域を特定しやすくなる。しかし、照射光が均一光または平行光でなくても、画像に現れる輝度分布には、第1領域、第2領域、および第3領域のそれぞれの境界に段差が現れるので、照射光に起因する各領域内の輝度分布を考慮すれば、境界を特定することができる。したがって、付着物検出装置10は、様々な光源および照射光学系を選択し得る。
図2に示すようにウィンドシールド50が赤外光をカットする機能を有さない素材で構成される場合、画像の領域間の輝度差が比較的少ない。したがって、それぞれの領域に対する閾値が同じ値であっても、それぞれの領域に対応する位置に付着した付着物を適切に検出できる場合が多い。一方、図3に示すように、ウィンドシールド50が赤外光をカットする機能を有する素材で構成される場合、領域間の輝度差が比較的多い。したがって、それぞれの領域に対する閾値が同じ値の場合には、領域によっては付着物を適切に検出できない場合がある。図3に示す画像80の場合には、第3領域103に存在する付着物303を検出できない。
以上のように、ウィンドシールド50が赤外光をカットする機能を有する素材の場合、ウィンドシールド50が赤外光をカットする機能を有さない素材の場合に比べて、画像データに基づく付着物の検出の精度がより低下してしまう。
図4は、付着物検出装置10の内部回路300を模式的に示すブロック図である。内部回路300は、撮像部100および制御部200を備える。撮像部100は、撮像素子駆動部112、撮像素子114、およびアナログデジタル変換部116を有する。撮像素子114は、撮像素子駆動部112により特定のタイミングで駆動され、反射光を受光し、受光した反射光を光電変換して画像信号を出力する。撮像素子114から出力された画像信号は、アナログデジタル変換部116により離散化され、制御部200において画像データに変換される。ここで、撮像素子114が受光する反射光は、赤外光である。したがって、撮像素子114は、赤外線カットフィルターを有さない。また、付着物の検出は、画像データにおける輝度成分の大きさに基づいて行われる。したがって、画像データが表す画像は、グレースケール画像でよい。例えば、通常の撮像ユニットを利用する場合には、赤外カットフィルターが組み込まれていないユニットを利用するか、赤外カットフィルターを取り外して利用すれば良い。ただし、この場合、撮像素子の画素が、赤外光の波長領域まで感知できることを要する。
制御部200は、CPU210、プログラムメモリ220、およびメインメモリ230を有する。CPU210は、ロードされたプログラムを実行して付着物検出装置10全体を包括的に制御する。CPU210には、プログラムメモリ220、メインメモリ230および撮像部100が接続される。プログラムメモリ220は、不揮発性記録媒体および読出専用記録媒体の少なくとも一方を含み、CPU210が実行するファームウエア等を、電力の供給なしに保持する。メインメモリ230はRAMを含み、CPU210の作業領域として使用される。
CPU210は、検出部212、領域情報生成部214、輝度差情報生成部216を含む。また、プログラムメモリ220は、情報格納部232を含む。検出部212は、アナログデジタル変換部116から取得した画像信号を画像データに変換する。検出部212は、画像データにおける照射光による反射光のうち第1反射光R1以外の反射光に起因する輝度成分の影響を低減して、第1反射面52に付着した付着物を画像データから検出する。より具体的には、検出部212は、画像データが表す画像の輝度値に基づいて付着物を検出する。情報格納部232は、検出部212が付着物を検出する場合に画像の輝度値と比較される予め定められた閾値に関する閾値情報を格納する。また、情報格納部232は、検出部212が、画像において輝度値が異なる領域を特定するために参照する、当該異なる領域に関する領域情報を格納する。加えて、情報格納部232は、検出部212が輝度成分の影響を低減するために参照する、画像における領域間の輝度差に関する輝度差情報を格納する。
領域情報生成部214は、情報格納部232に格納すべき領域情報を生成する。輝度差情報生成部216は、情報格納部232に格納すべき輝度差情報を生成する。ここで、ウィンドシールド50の厚みは、付着物検出装置10が搭載される車両の車種などによって異なる。よって、画像におけるそれぞれの反射光が到達する領域および領域間の輝度差は車種によって異なる。そこで、領域情報生成部214および輝度差情報生成部216は、例えば、付着物検出装置10が実際に搭載される車両のウィンドシールド50に設置され、付着物検出装置10が最初に起動された後に、領域情報および輝度差情報を生成する。
領域情報生成部214は、まず、撮像部100により第1反射面52に付着物が付着していない状態で撮像された検査画像データを取得する。領域情報生成部214は、検査画像データが表す検査画像の輝度値分布に基づいて、検査画像における照射光による反射光のうち第1反射光R1のみが到達する領域と、それ以外の領域とに関する領域情報を生成し、情報格納部232に登録する。さらに言えば、領域情報生成部214は、検査画像の輝度値分布に基づいて、検査画像における照射光による反射光のうち第1反射光R1のみが到達する第1領域101、照射光による反射光のうち第1反射光R1に第2反射光R2が重畳されて到達する第2領域102、および照射光による反射光のうち第1反射光R1に第2反射光R2と第3反射光R3が重畳されて到達する第3領域103に関する領域情報を生成する。例えば、領域情報生成部214は、検査画像内の輝度値の変化が急峻となる境界を示すエッジを検出することにより、それぞれの領域を特定し、領域情報を生成する。
輝度差情報生成部216は、情報格納部232が格納する領域情報を参照して、検査画像における第1領域101、第2領域102、および第3領域103を特定する。次いで、輝度差情報生成部216は、第1領域101の平均輝度値を示す第1平均輝度値、第2領域102の平均輝度値を示す第2平均輝度値、および第3領域103の平均輝度値を示す第3平均輝度値を算出する。さらに、輝度差情報生成部216は、第1平均輝度値と第2平均輝度値との差分を示す第1差分値、および第1平均輝度値と第3平均輝度値との差分を示す第2差分値とを算出する。そして、輝度差情報生成部216は、第1差分値および第2差分値を輝度差情報として、情報格納部232に登録する。
検出部212は、画像データにおける照射光による反射光のうち第1反射光R1以外の反射光に起因する輝度成分の影響を低減して、第1反射面52に付着した付着物を画像データから検出する。検出部212は、画像データが表す画像において、ウィンドシールド50で反射した照明光のうち第1反射光R1が到達する領域と、第1反射光R1に加えてそれ以外の照明光が到達する他の領域との間に生じる輝度差を低減してもよい。検出部212は、第1反射光R1に加えてそれ以外の照明光が到達する他の領域の輝度値から当該輝度差を減算することにより、輝度差を低減してもよい。より具体的には、検出部212は、撮像部100から出力される画像データにおける第2反射光R2および第3反射光R3に起因する輝度成分の影響を低減して、第1反射面52に付着した付着物を画像データから検出する。より具体的には、検出部212は、情報格納部232が格納する閾値情報を参照し、予め定められた閾値を取得する。検出部212は、画像データが表す画像において予め定められた閾値以下の輝度値をもつ予め定められた基準面積以上の領域を付着物の画像が存在する付着物領域として検出する。例えば、検出部212は、画像を構成する画素群の中から予め定められた閾値以下の輝度値をもつ隣接する画素群を検索し、検索された画素群に含まれる画素数が基準数以上の場合には、当該画素群により画定される領域を付着物領域として検出する。なお、画像がグレースケール画像の場合には、検出部212は、画像を構成する各画素のそれぞれの画素値を輝度値として用いてもよい。また、撮像素子114がカラーフィルタを有し、画像がカラー画像の場合には、検出部212は、画像を構成する各画素のそれぞれのRGB値を選択して輝度値として用いてもよい。この場合、選択した画素のフィルターは、赤外光の波長領域を透過するように設定されている。
なお、情報格納部232に格納される閾値情報が示す予め定められた閾値は、実験により設定された値を用いればよい。すなわち、ウィンドシールド50の付着物検出領域110に雨滴を模した水滴を付着させた状態で撮像部100に付着物検出領域110を撮像させる。撮像された画像データが示す画像を構成する各画素のうち他の画素の輝度値と比べて急峻に輝度値が変化する画素を検索する。このような検索を複数の画像データにより複数回繰り返し、検索された各画素の輝度値の平均輝度値を算出する。そして、算出された平均輝度値に基づいて閾値を設定する。また、基準面積または基準数も、実験により設定された値を用いればよい。例えば、ウィンドシールド50の付着物検出領域110に雨滴を模した、運転者の運転に影響を与える恐れがある大きさの水滴を付着させた画像を撮像部100に撮像させる。撮像された画像から水滴に対応する領域を特定し、特定された領域の面積または画素数を算出する。そして、算出された面積または画素数に基づいて基準面積または基準数を設定する。
検出部212は、上記の通り、画像データにおける第2反射光R2および第3反射光R3に起因する輝度成分の影響を低減して、第1反射面52に付着した付着物を画像データから検出する。検出部212は、画像データが表す画像において、照射光による反射光のうち第1反射光R1のみが到達する領域と、それ以外の領域との間に生じる輝度差を低減することにより輝度成分の影響を低減する。さらに言えば、検出部212は、画像データが表す画像における第1領域101、第2領域102、および第3領域103のそれぞれの間の輝度差を低減することにより輝度成分の影響を低減する。例えば、検出部212は、情報格納部232が格納する輝度差情報が示す第1差分値を参照して、画像データが表す画像における第2領域102の輝度値を第1差分値だけ減算する。さらに、検出部212は、輝度差情報が示す第2差分値を参照して、画像データが表す画像における第3領域103の輝度値を第2差分値だけ減算する。これにより、検出部212は、画像データが表す画像における第1領域101、第2領域102、および第3領域103のそれぞれの間の輝度差を低減できる。よって、検出部212は、それぞれの領域において同一の閾値を用いて付着物の検出を行っても、検出の精度が低下することを防止できる。つまり、検出部212は、第1反射面52の付着物検出領域110のいずれの位置に付着した付着物でも精度良くその付着物を検出できる。なお、検出部212は、画像の領域間の輝度差を小さくできればよく、画像の領域間の輝度差をゼロにしなくてもよい。
領域情報および輝度差情報を生成するために用いられる検査画像の輝度値分布は、光源20からの照射光以外の外光などの影響によっても変化する。そこで、領域情報生成部214および輝度差情報生成部216は、昼間に撮像された検査画像および夜間に撮像された検査画像のそれぞれについて、領域情報および輝度差情報を生成してもよい。この場合、情報格納部232は、昼間用および夜間用の領域情報および輝度差情報を格納する。そして、検出部212は、例えば車両のライトの自動点灯を制御するために用いられる光検知センサからの光検知信号に基づいて現在が昼間か夜間かを判定し、判定結果に応じた領域情報および輝度差情報を参照して、付着物を検出する。
なお、領域情報および輝度差情報は、付着物検出装置10の設計段階で、実験において生成し、予め情報格納部232に格納しておいてもよい。この場合には、CPU210は、領域情報生成部214および輝度差情報生成部216を有さなくてもよい。
図5は、付着物が第1反射面52に付着した状態で撮像部100により撮像された画像データに対して第2反射光R2および第3反射光R3に起因する輝度成分の影響を低減する処理が施された後の画像80、および第2反射光R2および第3反射光R3に起因する輝度成分の影響を低減する処理が施された後の当該画像80のX方向における光強度の大きさを示す。このように、輝度成分の影響を低減する処理が施された後の画像は、領域間の輝度差が低減されている。よって、検出部212は、画像において輝度差があるそれぞれの領域に含まれる画素群から、付着物の画像を構成する閾値以下の輝度値をもつ画素群を確実に検索できる。例えば、検出部212は、画像80を構成する画素群の中から付着物301、302および303のそれぞれに対応する領域に含まれる閾値T以下の輝度値をもつ隣接する画素群を検索できる。検出部212は、検索されたそれぞれの画素群に含まれる画素数が基準数以上であると判断して、それぞれの画素群により画定される領域をそれぞれ付着物301、302、および303が存在する付着物領域として検出できる。したがって、検出部212がそれぞれの領域において同一の閾値Tを用いて付着物の検出を行っても、それぞれの領域に存在する付着物301,302、および303を確実に検出できる。つまり、検出部212は、同一の閾値Tを用いても、付着物検出領域110内のいずれの位置に存在する付着物でも確実に検出できる。
なお、輝度差情報生成部216は、第1平均輝度値と第3平均輝度値との差分を示す第3差分値、および第2平均輝度値と第3平均輝度値との差分を示す第4差分値とを算出してもよい。この場合、検出部212は、画像データが表す画像における第1領域101の輝度値に第3差分値を加算する。さらに、検出部212は、画像データが表す画像における第2領域102の輝度値に第4差分値を加算する。これにより、検出部212は、画像データが表す画像における第1領域101、第2領域102、および第3領域103のそれぞれの間の輝度差を低減できる。
図6は、本実施形態に係る付着物検出装置10の変形例における内部回路300を模式的に示すブロック図である。本変形例において、内部回路300は、輝度差情報生成部216の代わりに、閾値情報生成部218を備える。また、情報格納部232は、画像の輝度値と比較される閾値に関する閾値情報を格納する。検出部212は、画像の輝度値と比較される閾値として、画像における第1反射光R1のみが到達する領域と、それ以外の領域とでそれぞれ異なる閾値を用いることにより、第1反射光R1以外の反射光に起因する輝度成分の影響を低減する。そこで、情報格納部232は、閾値情報として、それぞれの領域毎の閾値に関する閾値情報を格納する。さらに言えば、情報格納部232は、画像の第1領域101に対応する第1閾値、画像の第2領域102に対応する第1閾値より大きい第2閾値、画像の第3領域103に対応する第2閾値より大きい第3閾値のそれぞれに関する閾値情報を格納する。
閾値情報生成部218は、情報格納部232に格納すべき閾値情報を生成する。閾値情報生成部218は、撮像部100により第1反射面52に付着物が付着していない状態で撮像された検査画像データに基づいて、領域毎に用いられるそれぞれ異なる閾値に関する閾値情報を生成する。閾値情報生成部218は、例えば、付着物検出装置10がウィンドシールド50に設置され、最初に起動した後に、閾値情報を生成する。
より具体的には、閾値情報生成部218は、情報格納部232が格納する領域情報を参照して、検査画像データが表す検査画像における第1領域101、第2領域102、および第3領域103を特定する。閾値情報生成部218は、第1領域101の平均輝度値を示す第1平均輝度値、第2領域102の平均輝度値を示す第2平均輝度値、および第3領域103の平均輝度値を示す第3平均輝度値を算出する。さらに、閾値情報生成部218は、第1平均輝度値と第2平均輝度値との差分を示す第1差分値、および第1平均輝度値と第3平均輝度値との差分を示す第2差分値とを算出する。そして、閾値情報生成部218は、予め情報格納部232に格納されている第1領域101に対する第1閾値を取得し、第1閾値と第1差分値とを加算することで、第2領域102に対する第2閾値を算出する。また、閾値情報生成部218は、第1閾値と第2差分値とを加算することで、第3領域103に対する第3閾値を算出する。ついで、閾値情報生成部218は、算出した第2閾値および第3閾値を第1閾値とともに閾値情報として情報格納部232に登録する。なお、閾値情報生成部218は、第1閾値と、第1差分値および第2差分値とを閾値情報として情報格納部232に登録してもよい。なお、閾値情報は、付着物検出装置10の設計段階で、実験において生成し、予め情報格納部232に格納しておいてもよい。この場合には、CPU210は、閾値情報生成部218を有さなくてもよい。
検出部212は、画像の輝度値と比較される閾値として、画像における第1反射光R1のみが到達する領域と、それ以外の領域とでそれぞれ異なる閾値を用いることにより、第1反射光R1以外の反射光に起因する輝度成分の影響を低減する。異なる閾値は、第1反射光R1のみが到達する領域と、第1反射光R1に加えてそれ以外の照明光が到達する他の領域との間で生じる輝度差に応じて設定されてもよい。より具体的には、検出部212は、情報格納部232に格納された閾値情報を参照して、画像の第1領域101に対する第1閾値を取得する。検出部212は、画像の第1領域101の輝度値と第1閾値との比較により第1領域101における付着物を検出する。また、検出部212は、閾値情報を参照して、画像の第2領域102に対する第2閾値を取得する。検出部212は、画像の第2領域102の輝度値と第2閾値との比較により第2領域102における付着物を検出する。さらに、検出部212は、閾値情報を参照して、画像の第3領域103に対する第3閾値を取得する。検出部212は、画像の第3領域103の輝度値と第3閾値との比較により第3領域103における付着物を検出する。これにより、第1反射光R1以外の反射光に起因する輝度成分の影響で画像のそれぞれの領域間に輝度差が生じている場合でも、検出部212は、画像のそれぞれの領域に対応する位置に存在する付着物を検出できる。
図7は、付着物が第1反射面52に付着した状態で撮像部100により撮像された画像データが表す画像80、および各領域の閾値および画像80のX方向における光強度の大きさを示す。このように、領域間の輝度差に応じて領域毎に閾値が異なる。よって、検出部212は、画像80を構成する画素群の中から領域毎に異なる閾値を用いて領域毎にそれぞれの閾値以下の輝度値をもつ隣接する画素群を検索できる。例えば、検出部212は、輝度差があるそれぞれの領域である第1領域101、第2領域102、および第3領域103の閾値である閾値T1、閾値T2および閾値T3を用いて、画像80を構成する画素群の中から付着物301、302および303のそれぞれに対応する領域に含まれる閾値T1、閾値T2および閾値T3以下の輝度値をもつ隣接する画素群を検索できる。検出部212は、検索されたそれぞれの画素群に含まれる画素数が基準数以上であると判断して、それぞれの画素群により画定される領域をそれぞれ付着物301、302、および303が存在する付着物領域として検出できる。このように、領域間の輝度差に応じて領域毎に設定された閾値を用いて付着物の検出を行うことで、第1反射光R1以外の反射光に起因する輝度成分の影響で画像のそれぞれの領域間に輝度差が生じている場合でも、検出部212は、画像のそれぞれの領域に対応する第1反射面52に存在する付着物を検出できる。
なお、上記では、検出部212は、光源20からの照射光を全反射可能な入射角で、第1反射面52に斜入射させて、付着物が付着している第1反射面52において全反射しない場合に生じる輝度値の変化に基づいて付着物を検出する例について説明した。しかし、例えば、画像データが示す画像から輝度値の変化を検知することで付着物を検出できるのであれば、光源20からの照射光は、ウィンドシールド50に対して全反射可能な入射角で斜入射させなくてもよい。例えば、付着物検出装置10が備える光学系によっては、光源20からの照射光を全反射しない入射角で第1反射面52に照射した場合に、境界面の屈折率の変化により、第1反射面52に付着物が付着していない場合に比べて、付着物が付着している場合のほうが、第1反射面52で反射する第1反射光R1の割合が多くなることも考えられる。このような場合には、検出部212は、画像データが示す画像を構成する画素群の中から予め定められた閾値以上の画素群を検索することで付着物を検出してもよい。
上記では、付着物検出装置10は、ウィンドシールド50の第2反射面54での光の反射を低減させるシリコンシート40を介してウィンドシールド50に固定される例について説明した。しかし、付着物検出装置10は、シリコンシート40を介さずウィンドシールド50に固定されてもよい。この場合、第3反射光R3は存在しない。したがって、検出部212は、撮像部100から出力される画像データにおける第2反射光R2に起因する輝度成分の影響を低減して、第1反射面52に付着した付着物を画像データから検出すればよい。また、ウィンドシールド50は、例えば紫外線をカットするコーティングが施されているなど、多層構造化されている場合がある。このような場合には、更なる反射光が存在する。しかし、上記の実施形態と同様にこれらの反射光に起因する輝度成分の影響を低減すれば、やはり付着物を検出することができる。
また、上記では、検出部212は、画像データにおける第2反射光R2および第3反射光R3に起因する輝度成分の影響を低減した後、当該画像データが表す画像のうち第1領域101、第2領域102、および第3領域103のすべての領域の画像の輝度値に基づいて、第1反射面52に付着した付着物を画像データから検出している。しかし、検出部212は、画像データが表す画像において、ウィンドシールド50で反射した照射光のうち第1反射光R1が到達する領域を用いて付着物を検出してもよい。検出部212は、画像データが表す画像のうち第1領域101の画像の輝度値のみに基づいて付着物の検出を行うことで、画像データにおける第2反射光R2および第3反射光R3に起因する輝度成分の影響を低減してもよい。つまり、検出部212は、画像データが表す画像のうち第2領域102および第3領域103の画像については、付着物の検出には利用しないことで、画像データにおける第2反射光R2および第3反射光R3に起因する輝度成分の影響を低減してもよい。さらに、例えば、ミラー32に第2反射光R2および第3反射光R3を遮光する遮光フィルターなどの遮光手段を設けることで、画像データにおける第2反射光R2および第3反射光R3に起因する輝度成分の影響を低減してもよい。この場合、撮像部100は、第2反射光R2および第3反射光R3に起因する輝度成分の影響が低減された反射光を受光面で受光する。そして、検出部212は、第1反射光R1に基づく画像データから第1反射面52に付着した付着物を検出する。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、請求の範囲の記載から明らかである。
請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 付着物検出装置
20 光源
30 プリズム
32 ミラー
40 シリコンシート
42 第3反射面
50 ウィンドシールド
52 第1反射面
54 第2反射面
100 撮像部
112 撮像素子駆動部
114 撮像素子
116 アナログデジタル変換部
200 制御部
212 検出部
214 領域情報生成部
216 輝度差情報生成部
218 閾値情報生成部
220 プログラムメモリ
230 メインメモリ
232 情報格納部
300 内部回路
R1 第1反射光
R2 第2反射光
R3 第3反射光

Claims (15)

  1. ウィンドシールドに対して光源から斜入射された照明光のうち、前記ウィンドシールドで反射した前記照明光に基づいて前記ウィンドシールドの外面に付着する付着物を検出する付着物検出装置であって、
    前記ウィンドシールドの外面で反射する第1照明光と、前記ウィンドシールドの内面で反射する第2照明光とを含む前記照明光を受光して画像データを出力する撮像部と、
    前記画像データにおける前記第2照明光に起因する輝度成分の影響を低減して、前記ウィンドシールドの外面に付着する前記付着物を前記画像データから検出する検出部と、
    を備える付着物検出装置。
  2. 前記撮像部は、前記付着物検出装置と前記ウィンドシールドに挟持された光透過性の中間層のうち前記付着物検出装置との境界面で反射する第3照明光および前記第2照明光とともに前記第1照明光を受光して前記画像データを出力し、
    前記検出部は、前記画像データにおける前記第2照明光および前記第3照明光に起因する輝度成分の影響を低減して、前記付着物を前記画像データから検出する請求項1に記載の付着物検出装置。
  3. 前記検出部は、前記画像データが表す画像において、前記反射した照射光のうち前記第1照明光が到達する領域と、前記第1照明光に加えてそれ以外の照明光が到達する他の領域との間に生じる輝度差を低減する請求項1または請求項2に記載の付着物検出装置。
  4. 前記検出部は、前記画像における前記他の領域の輝度値から前記輝度差を減算することにより、前記輝度差を低減する請求項3に記載の付着物検出装置。
  5. 前記検出部は、前記輝度差を減算した前記画像の全ての領域における輝度値を、一の閾値と比較することで前記付着物を検出する請求項4に記載の付着物検出装置。
  6. 前記輝度差に関する輝度差情報を格納する情報格納部を備え、
    前記検出部は、前記輝度差情報を参照して前記付着物を検出する請求項3から5のいずれか一項に記載の付着物検出装置。
  7. 前記撮像部により前記外面に前記付着物が付着していない状態で撮像された検査画像データに基づいて、前記輝度差情報を生成する輝度差情報生成部を備える請求項6に記載の付着物検出装置。
  8. 前記検出部は、前記付着物を検出すべく前記画像データが表す画像の輝度値と比較される閾値として、前記画像における前記第1照明光が到達する領域と、前記第1照明光に加えてそれ以外の照明光が到達する他の領域とでそれぞれ異なる閾値を用いることにより、前記輝度成分の影響を低減する請求項1または請求項2に記載の付着物検出装置。
  9. 前記異なる閾値は、前記第1照明光のみが到達する領域と、前記他の領域との間に生じる輝度差に応じて設定される請求項8に記載の付着物検出装置。
  10. 前記異なる閾値に関する閾値情報を格納する情報格納部を備え、
    前記検出部は、前記閾値情報を参照して前記付着物を検出する請求項8または9に記載の付着物検出装置。
  11. 前記撮像部により前記外面に前記付着物が付着していない状態で撮像された検査画像データに基づいて、前記閾値情報を生成する閾値情報生成部をさらに備える請求項10に記載の付着物検出装置。
  12. 前記撮像部により前記外面に前記付着物が付着していない状態で撮像された検査画像データが表す画像の輝度値分布に基づいて、前記照明光のうち前記第1照明光が到達する領域と、前記他の領域とに関する領域情報を生成する領域情報生成部を備え、
    前記検出部は、前記領域情報を参照して前記第1照明光が到達する領域と、前記他の領域とを特定し、前記付着物を検出する請求項3から請求項11のいずれか1つに記載の付着物検出装置。
  13. 前記検出部は、前記画像データが表す画像において、前記反射した照射光のうち前記第1照明光が到達する領域を用いて前記付着物を検出する請求項1または2に記載の付着物検出装置。
  14. 前記撮像部は、赤外光の透過を低減する機能を有する前記ウィンドシールドに対して、前記光源から斜入射された赤外光である前記照明光を受光して画像データを出力する請求項1から請求項13のいずれか1つに記載の付着物検出装置。
  15. ウィンドシールドに対して光源から斜入射された照明光のうち、前記ウィンドシールドで反射した前記照明光に基づいて前記ウィンドシールドの外面に付着する付着物を検出する付着物検出装置であって、
    前記ウィンドシールドの内面で反射する第2照明光を遮光する遮光手段と、
    前記ウィンドシールドの外面で反射する第1照明光を受光して、画像データを出力する撮像部と、
    前記ウィンドシールドの外面に付着した前記付着物を前記画像データから検出する検出部と
    を備える付着物検出装置。
JP2013532449A 2011-09-05 2012-09-05 付着物検出装置 Pending JPWO2013035321A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013532449A JPWO2013035321A1 (ja) 2011-09-05 2012-09-05 付着物検出装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011193051 2011-09-05
JP2011193051 2011-09-05
JP2013532449A JPWO2013035321A1 (ja) 2011-09-05 2012-09-05 付着物検出装置

Publications (1)

Publication Number Publication Date
JPWO2013035321A1 true JPWO2013035321A1 (ja) 2015-03-23

Family

ID=47831791

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013532449A Pending JPWO2013035321A1 (ja) 2011-09-05 2012-09-05 付着物検出装置

Country Status (2)

Country Link
JP (1) JPWO2013035321A1 (ja)
WO (1) WO2013035321A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5879990B2 (ja) * 2011-12-06 2016-03-08 株式会社リコー 付着物検出装置及び付着物検出方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0628716U (ja) * 1992-09-08 1994-04-15 自動車電機工業株式会社 雨滴センサ
JP2005531752A (ja) * 2002-05-18 2005-10-20 エルモス セミコンダクタ アーゲー 雨検出装置
JP2010096604A (ja) * 2008-10-16 2010-04-30 Denso Corp 視界状態検知装置および視界確保装置
US20110031921A1 (en) * 2008-04-21 2011-02-10 Sea Yeoun Han Rain sensor

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0628716U (ja) * 1992-09-08 1994-04-15 自動車電機工業株式会社 雨滴センサ
JP2005531752A (ja) * 2002-05-18 2005-10-20 エルモス セミコンダクタ アーゲー 雨検出装置
US20110031921A1 (en) * 2008-04-21 2011-02-10 Sea Yeoun Han Rain sensor
JP2010096604A (ja) * 2008-10-16 2010-04-30 Denso Corp 視界状態検知装置および視界確保装置

Also Published As

Publication number Publication date
WO2013035321A1 (ja) 2013-03-14

Similar Documents

Publication Publication Date Title
US8031224B2 (en) Camera system, method for operation of a camera system and sensor device of a camera system
US8913132B2 (en) Camera system and method for detecting the surroundings of a vehicle
EP2773944B1 (en) Image processing apparatus, image-capturing method, and vehicle
US20120026318A1 (en) Camera system for detecting a state of a vehicle window pane
US8913133B2 (en) Camera system for a motor vehicle, and motor vehicle equipped with a camera system
EP3002711B1 (en) Image capturing apparatus, image capturing method, carrier medium, and device control system for controlling vehicle-mounted devices
US11681031B2 (en) Window occlusion imager near focal plane
JP2008064630A (ja) 付着物検知機能付き車載用撮像装置
US11936845B2 (en) Localized window contaminant detection
JP6555569B2 (ja) 画像処理装置、移動体機器制御システム及び画像処理用プログラム
US10351105B2 (en) Illumination for detecting raindrops on a pane by means of a camera
WO2013035321A1 (ja) 付着物検出装置
JP2019135468A (ja) 擾乱光判別装置、擾乱光分離装置、擾乱光判別方法及び擾乱光分離方法
JP2014170014A (ja) 画像処理装置、撮像方法、プログラムおよび車両
JP2017003531A (ja) 物体検出装置、物体除去動作制御システム、物体検出方法及び物体検出用プログラム
JP5879990B2 (ja) 付着物検出装置及び付着物検出方法
JP6536946B2 (ja) 撮像装置、撮像方法、プログラムおよび移動体機器制御システム
JP5400511B2 (ja) 雨滴検出装置
US20240246514A1 (en) Rain sensor system, vehicle and method for detecting rain
JP2016218046A (ja) 物体検出装置、物体除去動作制御システム、物体検出方法及び物体検出用プログラム
JP6566308B2 (ja) 付着物検出装置、移動体機器制御システム、付着物検出用プログラム及び付着物検出方法
CN117916622A (zh) 激光雷达传感器和环境识别系统
JP2015169567A (ja) 付着物検出装置、移動体機器制御システム及び付着物検出用プログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150317

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150804