JP2022075077A - 雨滴検出装置 - Google Patents

雨滴検出装置 Download PDF

Info

Publication number
JP2022075077A
JP2022075077A JP2020185627A JP2020185627A JP2022075077A JP 2022075077 A JP2022075077 A JP 2022075077A JP 2020185627 A JP2020185627 A JP 2020185627A JP 2020185627 A JP2020185627 A JP 2020185627A JP 2022075077 A JP2022075077 A JP 2022075077A
Authority
JP
Japan
Prior art keywords
raindrop
vehicle
image
raindrop detection
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020185627A
Other languages
English (en)
Other versions
JP2022075077A5 (ja
JP7415877B2 (ja
Inventor
圭吾 疋田
Keigo Hikita
孝允 大倉
Takamasa Okura
澄 大塚
Kiyoshi Otsuka
義久 伴野
Yoshihisa Banno
一誠 中嶋
Kazumasa Nakajima
正晃 井ノ口
Masaaki Inoguchi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2020185627A priority Critical patent/JP7415877B2/ja
Priority to CN202180074519.2A priority patent/CN116391119A/zh
Priority to PCT/JP2021/038181 priority patent/WO2022097450A1/ja
Publication of JP2022075077A publication Critical patent/JP2022075077A/ja
Publication of JP2022075077A5 publication Critical patent/JP2022075077A5/ja
Priority to US18/297,842 priority patent/US20230242079A1/en
Application granted granted Critical
Publication of JP7415877B2 publication Critical patent/JP7415877B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60SSERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00Cleaning of vehicles
    • B60S1/02Cleaning windscreens, windows or optical devices
    • B60S1/04Wipers or the like, e.g. scrapers
    • B60S1/06Wipers or the like, e.g. scrapers characterised by the drive
    • B60S1/08Wipers or the like, e.g. scrapers characterised by the drive electrically driven
    • B60S1/0818Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like
    • B60S1/0822Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means
    • B60S1/0833Optical rain sensor
    • B60S1/0844Optical rain sensor including a camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60HARRANGEMENTS OF HEATING, COOLING, VENTILATING OR OTHER AIR-TREATING DEVICES SPECIALLY ADAPTED FOR PASSENGER OR GOODS SPACES OF VEHICLES
    • B60H1/00Heating, cooling or ventilating [HVAC] devices
    • B60H1/00642Control systems or circuits; Control members or indication devices for heating, cooling or ventilating devices
    • B60H1/00735Control systems or circuits characterised by their input, i.e. by the detection, measurement or calculation of particular conditions, e.g. signal treatment, dynamic models
    • B60H1/00785Control systems or circuits characterised by their input, i.e. by the detection, measurement or calculation of particular conditions, e.g. signal treatment, dynamic models by the detection of humidity or frost
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60SSERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00Cleaning of vehicles
    • B60S1/02Cleaning windscreens, windows or optical devices
    • B60S1/04Wipers or the like, e.g. scrapers
    • B60S1/06Wipers or the like, e.g. scrapers characterised by the drive
    • B60S1/08Wipers or the like, e.g. scrapers characterised by the drive electrically driven
    • B60S1/0818Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like
    • B60S1/0822Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means
    • B60S1/0862Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means including additional sensors
    • B60S1/0866Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means including additional sensors including a temperature sensor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60SSERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00Cleaning of vehicles
    • B60S1/02Cleaning windscreens, windows or optical devices
    • B60S1/54Cleaning windscreens, windows or optical devices using gas, e.g. hot air
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/16Image acquisition using multiple overlapping images; Image stitching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60SSERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00Cleaning of vehicles
    • B60S1/02Cleaning windscreens, windows or optical devices
    • B60S1/04Wipers or the like, e.g. scrapers
    • B60S1/06Wipers or the like, e.g. scrapers characterised by the drive
    • B60S1/08Wipers or the like, e.g. scrapers characterised by the drive electrically driven
    • B60S1/0818Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like
    • B60S1/0822Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means
    • B60S1/0862Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means including additional sensors
    • B60S1/087Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means including additional sensors including an ambient light sensor

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Thermal Sciences (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Studio Devices (AREA)

Abstract

【課題】ウィンドシールドに配置される筐体の小型化を実現することができる雨滴検出装置を提供する。【解決手段】雨滴検出装置100は、前方監視カメラ110、雨滴検出カメラ130、及び電子制御ユニット150を含む。前方監視カメラ110は、車両のウィンドシールド200を介して車両の前方を撮影する。雨滴検出カメラ130は、車両のウィンドシールド200を介してウィンドシールド200に付着する雨滴を撮影する。電子制御ユニット150は、ウィンドシールド200、前方監視カメラ110、及び雨滴検出カメラ130から離れた位置に配置される。電子制御ユニット150は、前方監視カメラ110からの前方画像の画像データに対する前方画像の画像処理を行う。電子制御ユニット150は、雨滴検出カメラ130からのガラス画像の画像データに対する画像処理を行う。【選択図】図1

Description

本発明は、雨滴検出装置に関する。
従来より、第1のカメラモジュール、第2のカメラモジュール、及び半導体デバイスが1つの筐体に収容された車両用のカメラシステムが、例えば特許文献1で提案されている。
第1のカメラモジュールは、車両の前方の領域を撮影する。第2のカメラモジュールは、雨または雨滴を撮影する。半導体デバイスは、画像処理タスクを実行する。半導体デバイスは、第1のカメラモジュールで撮影された画像の画像処理だけでなく、第2のカメラモジュールで撮影された画像の画像処理も行う。
米国特許第10137842号明細書
しかしながら、上記従来の技術では、1つの筐体に第1のカメラモジュール、第2のカメラモジュール、及び半導体デバイスの全てが収容される。また、半導体デバイスは、各カメラモジュールで共有されるので、半導体デバイスに対する各カメラモジュールの回路設計が煩雑になる。このため、筐体のサイズが大きくなってしまう。カメラシステムが設置される車両のバックミラーの近くのスペースは狭いので、筐体のサイズを小さくすることが望まれる。
上記従来の技術では、2つのカメラモジュールが一体化されているので、半導体デバイスの画像処理タスクが多くなる。このため、半導体デバイスの発熱によって半導体デバイス付近の温度が上昇してしまう。その結果、ウィンドシールド近傍の湿度を測定しにくい環境になってしまう。また、第2のカメラモジュールによって雨や雨滴が撮影されるものの、ウィンドシールドの曇りを検出することはできない。このため、ウィンドシールド付近の湿度の情報が必要になる。
上記従来の技術では、第1のカメラモジュールは車両の前方を撮影するように筐体に収容される一方、第2のカメラモジュールはウィンドシールドに付着する雨滴や空を撮影するように筐体に収容される。ウィンドシールドの傾斜角度は車両毎に異なるので、第2のカメラモジュールの撮影方向がウィンドシールドの傾斜角度に対応するように複数の筐体を用意する必要がある。このため、筐体について、複数のバリエーションが発生してしまう。
上記従来の技術では、第2のカメラモジュールは、雨や雨滴を撮影するために、ウィンドシールドに焦点が合わされる。ウィンドシールドの傾斜角度は車両毎に異なるので、第2のカメラモジュールの設置角度が変化してしまうと、第2のカメラモジュールの焦点が合わなくなってしまう。
上記従来の技術では、第2のカメラモジュールによって雨や雨滴が撮影されるものの、第2のカメラモジュールの画像に基づいて日射センサやライトセンサと同じ機能を実現する方法は提案されていない。道路や照明等のように撮影されるものによって画像の中で明暗が異なるので、第2のカメラモジュールの画像の明るさに基づいて車両のライトを一意に点消灯させることが難しい。
また、第2のカメラモジュールの画像に基づいて日射センサと同じ機能を実現しようとすると、太陽が画像に写っていない場合、日射の向きや強さを推定することが難しい。画像に太陽に写るようにするために魚眼レンズのような専用のレンズを用いることが考えられるが、コストが上がってしまう。あるいは、太陽が画像に写る場合、画像の中の太陽の周囲が白飛びをしてしまう。この場合、1枚の画像の中で白飛びや黒つぶれを無くして明るい部分と暗い部分とを同時に階調を残して表現するハイダイナミックレンジ合成処理が必要になる。
さらに、画像に写された複数の被写体の輝度は、周囲の明るさが同じであったとしても、各被写体の色によって異なってしまう。このため、画像に基づいて車両のライトを点消灯させることが難しい。
ここで、1つの第2のカメラモジュールによって雨や雨滴を撮影するためには狭い画角が必要である一方、日射センサやライトセンサとしての画像を撮影するためには広い画角が必要になる。よって、第2のカメラモジュールに広い画角を採用してしまうと、雨や雨滴を撮影することが難しくなる。
上記従来の技術では、第2のカメラモジュールの撮影範囲は狭い。このため、雨滴がウィンドシールドのうちの第2のカメラモジュールの撮影範囲に付着しない場合、車両のワイパを制御することが難しい。例えば、車両の天井からウィンドシールドに流れる雨だれも、第2のカメラモジュールの撮影範囲から外れる場合がある。このように、ユーザが見ているウィンドシールドの状況と撮影されるウィンドシールドの範囲の状況とが異なることで、ユーザの払拭要求を満たすことが難しくなる。
あるいは、第2のカメラモジュールによって撮影される画像の明るさに基づいてワイパを制御しようとすると、トンネルに進入した後もワイパの空払拭を継続してしまう可能性がある。このため、ユーザに煩わしさを感じさせてしまう。
上記従来の技術では、第1のカメラモジュールによって車両の前方の道路が撮影されるものの、道路の状況を他の車両と共有する方法は提案されていない。
本発明は上記点に鑑み、主に、ウィンドシールドに配置される筐体の小型化を実現することができる雨滴検出装置を提供することを目的とする。
上記目的を達成するため、請求項1に記載の発明では、雨滴検出装置は、前方監視カメラ(110)、雨滴検出カメラ(130)、及び電子制御ユニット(150)を含む。
前方監視カメラは、車両のウィンドシールド(200)を介して車両の前方を撮影する。雨滴検出カメラは、ウィンドシールドに付着する雨滴を撮影する。
電子制御ユニットは、ウィンドシールド、前方監視カメラ、及び雨滴検出カメラから離れた位置に配置され、前方監視カメラからの前方画像の画像データに対する画像処理を行い、雨滴検出カメラからのガラス画像の画像データに対する画像処理を行う。
これによると、電子制御ユニットは、ウィンドシールド、前方監視カメラ、及び雨滴検出カメラから離れた位置に配置される。このため、ウィンドシールドには電子制御ユニットを配置するためのスペースが必要ない。したがって、ウィンドシールドに配置される筐体の小型化を実現することができる。
なお、この欄及び特許請求の範囲で記載した各手段の括弧内の符号は、後述する実施形態に記載の具体的手段との対応関係を示すものである。
第1実施形態に係る雨滴検出装置を示したブロック図である。 ウィンドシールドの模式図である。 第2実施形態に係る前方監視カメラの正面図である。 第2実施形態に係る雨滴検出カメラを示した図である。 雨滴検出カメラの内部の構成を示した図である。 図5に示された回路基板の一側面の側を見た図である。 雨滴用筐体の内側を示した図である。 前方監視カメラ及び雨滴検出カメラの画角を示した図である。 回路基板が雨滴用筐体に固定された状態を示した図である。 第3実施形態に係る雨滴検出カメラの被写界深度を示した図である。 第4実施形態に係る雨滴検出カメラの撮影範囲を示した図である。 ガラス画像の空検知範囲及び雨滴検知範囲を示した図である。 平均輝度値と照度との関係を示した図である。 ガラス画像において車両の上方の空領域と車両の前方の空領域とを示した図である。 ライトを消灯すると決定される場合のガラス画像の一例を示した図である。 ライトを消灯すると決定される場合のガラス画像の一例を示した図である。 ライトを点灯すると決定される場合のガラス画像の一例を示した図である。 第4実施形態に係る変形例を説明するための図である。 第4実施形態に係る変形例を説明するための図である。 第5実施形態に係るガラス画像の倍率変更を示した図である。 第5実施形態に係る変形例を説明するための図である。 第5実施形態に係る変形例を説明するための図である。 第6実施形態に係るガラス画像の雨滴の認識結果を示した図である。 第6実施形態に係る雨滴付着率とワイパの払拭スピードとの関係を示した図である。 第7実施形態に係る雨だれを示した図である。 第7実施形態に係るトンネルの入口を示した図である。 第7実施形態に係るトンネルの出口を示した図である。 第7実施形態に係る橋桁を示した図である。 第9実施形態に係る前方画像を示した図である。 第9実施形態に係る変形例を説明するための図である。 第9実施形態に係る変形例を説明するための図である。 第9実施形態に係る変形例を説明するための図である。 第9実施形態に係る変形例を説明するための図である。 第10実施形態に係る前方画像を示した図である。 第10実施形態に係る前方画像を示した図である。 第11実施形態に係る前方監視カメラの画角を示した図である。 第11実施形態に係る変形例を説明するための図である。 第11実施形態に係る変形例を説明するための図である。 他の実施形態を説明するための図である。 他の実施形態を説明するための図である。 他の実施形態を説明するための図である。 他の実施形態を説明するための図である。
以下、本発明の実施形態について図に基づいて説明する。なお、以下の各実施形態相互において、互いに同一もしくは均等である部分には、図中、同一符号を付してある。
(第1実施形態)
以下、第1実施形態について図を参照して説明する。図1に示されるように、雨滴検出装置100は、前方監視カメラ110、雨滴検出カメラ130、及び電子制御ユニット150を含む。前方監視カメラ110及び電子制御ユニット150は、先進運転支援システム(Advanced Driver Assistance System:ADAS)を構成する。
図2に示されるように、前方監視カメラ110及び雨滴検出カメラ130は、車両のウィンドシールド200に設置される。前方監視カメラ110は、車両の前方を撮影するための撮像装置である。雨滴検出カメラ130は、ウィンドシールド200に付着する雨滴を撮影するための撮像装置である。
図1に示されるように、前方監視カメラ110は、イメージャ111及び出力部112を有する。イメージャ111は、レンズを介して入射する光を電気信号に変換する撮像素子である。イメージャ111は、1秒間に複数の画像を撮影する。イメージャ111は、MIPI(Mobile Industry Processor Interface)規格のD-PHY方式によって映像信号を出力部112に出力する。
出力部112は、イメージャ111から入力する映像信号を1本の信号線101に送出するために、イメージャ111の映像信号をシリアル化するシリアライザである。信号線101は、例えば、LVDS(Low voltage differential signaling)通信により信号を伝達する。
雨滴検出カメラ130は、イメージャ131、湿度センサ132、及び出力部133を有する。イメージャ131は、イメージャ111と同様に撮像素子であると共に、D-PHY方式によって映像信号を出力部133に出力する。
湿度センサ132は、車両の車室の湿度及び温度を検出するセンサ装置である。湿度センサ132は、湿度として、ある温度の空気中に含みうる最大限の水分量すなわち飽和水蒸気量に対して、どの程度の水分を含んでいるかを示す相対湿度を検出する。温度は、ウィンドシールド200の近傍の温度である。湿度センサ132は、I2C(Inter-Integrated Circuit)方式によって、湿度情報及び温度情報を含む検出信号を出力部133に出力する。
出力部133は、出力部112と同様に、イメージャ131の映像信号及び湿度センサ132の検出信号をシリアル化するシリアライザである。出力部133は、映像信号及び検出信号を前方監視カメラ110の出力部112に出力する。よって、雨滴検出カメラ130の映像信号及び検出信号は、前方監視カメラ110の出力部112を介して電子制御ユニット150に出力される。
このように、前方画像の画像データ及びガラス画像の画像データは、共通の信号線101を介して電子制御ユニット150に出力される。また、湿度センサ132によって検出される湿度及び温度の情報は、信号線101に重畳されることで電子制御ユニット150に出力される。これにより、前方監視カメラ110に専用の信号線や、雨滴検出カメラ130に専用の信号線が不要になるので、コネクタや配線を削減することができる。
電子制御ユニット150は、車両において、ウィンドシールド200、前方監視カメラ110、及び雨滴検出カメラ130から離れた位置に配置される。電子制御ユニット150は、入力部151及び画像処理ECU(Electronic Control Unit)152を有する。
入力部151は、前方監視カメラ110の出力部112と信号線101を介して接続されるデシリアライザである。入力部151は、信号線101を介して入力されるシリアル化された映像信号あるいは検出信号を元の信号に復元する。
画像処理ECU152は、入力部151を介して前方監視カメラ110から前方画像の画像データを入力すると共に前方画像の画像処理を行う。また、画像処理ECU152は、入力部151を介して雨滴検出カメラ130からガラス画像の画像データを入力すると共にガラス画像の画像処理を行う。
このため、画像処理ECU152は、認識部153、レイン制御部154、判定部155、ライト演算部156、日射演算部157、湿度演算部158を有する。
認識部153は、入力部151からガラス画像の画像データを入力し、ガラス画像の画像データに基づいてウィンドシールド200に付着する雨滴を認識する。認識部153は、雨滴や汚れ等のウィンドシールド200の状態について学習済みのDNN(Deep Neural Network)を有する。したがって、認識部153は、学習済みのDNNを辞書としてガラス画像に含まれる雨滴や汚れを認識する。
レイン制御部154は、認識部153の認識結果に基づいて、車両のワイパの制御を決定する。すなわち、レイン制御部154は、ウィンドシールド200に付着する雨滴を検出することで車両のワイパの制御を決定する。
ここで、レイン制御部154は、ボデーECU300からワイパモータ400のモータ位置の情報、車両のワイパSW401の情報、及び車両の車速の情報を取得する。レイン制御部154は、認識部153の認識結果とこれらの情報とに基づいて、ワイパのON/OFFやワイパの動作モードを決定し、ワイパの制御内容を含んだ払拭信号を生成する。レイン制御部154は、CAN(Controller Area Network)通信によって払拭信号をボデーECU300に出力する。
また、レイン制御部154は、ウィンドシールド200の汚れを検出することでウィンドシールド200に洗浄液を噴出するウォッシャの制御を決定する。レイン制御部154は、ウォッシャの制御内容を含んだ払拭信号を生成する。
ボデーECU300は、車両に搭載された様々なアクチュエータを制御する装置である。ボデーECU300は、車両のワイパSW401からワイパの設定情報を取得する。ボデーECU300は、車両の車速の表示制御を行うメータECU500からCAN通信によって車両の車速情報を取得する。ボデーECU300は、車両のワイパを制御するワイパECU402からLIN(Local Interconnect Network)通信によってワイパモータ400のモータ位置の情報を取得する。
また、ボデーECU300は、レイン制御部154から入力する払拭信号をワイパECU402に出力する。ワイパECU402は、払拭信号の制御内容に従ってワイパモータ400の駆動を制御する。なお、レイン制御部154は、ボデーECU300を介さずに、払拭信号をワイパECU402に直接出力しても構わない。
判定部155は、車両のライトの制御やエアコンの制御を行うために必要な画像判定を行う。判定部155は、車両の周囲の明るさすなわち照度について学習済みのDNNや、トンネルや橋桁を判定するための判定基準を有する。したがって、判定部155は、DNNや他の判定基準に基づいて前方画像やガラス画像に含まれる車両の周囲の照度、トンネル、橋桁を判定する。なお、照度の判定には、前方画像及びガラス画像のどちらを用いても構わない。
ライト演算部156は、判定部155の判定結果に基づいて、車両のライトの制御を決定する。すなわち、ライト演算部156は、車両の周囲の照度を検出することで車両のライトの点消灯を判定する。
ライト演算部156は、ライトの制御内容を含んだライト信号を生成する。ライト演算部156は、CAN通信によってライト信号をボデーECU300に出力する。ボデーECU300は、ライト演算部156から入力するライト信号の制御内容に従って車両のライトの点消灯を制御する。
日射演算部157は、判定部155の判定結果に基づいて、車両のエアコンの制御を決定する。すなわち、日射演算部157は、車両の周囲の日射の強さ及び方向を検出することで車室内空調の制御を決定する。
日射演算部157は、エアコンの制御内容を含んだ日射信号を生成する。あるいは、日射演算部157は、エアコンの制御内容を含まない日射信号を生成する。日射演算部157は、CAN通信によって日射信号をエアコンECU600に出力する。
エアコンECU600は、日射演算部157から入力する日射信号の制御内容に従って車両のエアコンを制御する。あるいは、エアコンECU600は、日射信号を利用して車両のエアコンを制御する。
湿度演算部158は、入力部151から入力する検出信号に基づいて車両の車室の湿度及び温度を演算により取得する。ここで、湿度演算部158は、車両に搭載された外気温センサ700からウィンドシールド200のガラス温度の情報を取得する。湿度演算部158は、検出信号とガラス温度とに基づいて、湿度及び温度の情報を含んだ湿度信号を生成し、CAN通信によって湿度信号をエアコンECU600に出力する。
また、湿度演算部158は、検出信号に基づいて、前方監視カメラ110及び雨滴検出カメラ130の前方を温めるヒータの制御を決定する。ヒータは、ウィンドシールド200に設置される。または、ヒータは黒ラミックに設置される。具体的には、黒セラミックには、前方監視カメラ110及び雨滴検出カメラ130からの視界を遮らないようにするために、前方監視カメラ110及び雨滴検出カメラ130の画角範囲に相当する台形状の欠損部が形成される。そして、ヒータは、黒セラミックの欠損部に設置される。
さらに、湿度演算部158は、検出信号に基づいて、ウィンドシールド200に向けて風を吹き出すデフロスタの制御を決定する。湿度演算部158は、湿度信号にデフロスタの制御内容を含めてエアコンECU600に出力する。
電子制御ユニット150は、ユーザの運転を支援する制御を行う。このため、電子制御ユニット150は、画像処理ECU152によって前方画像の画像処理を行うことにより、車両の周囲の状況を検出する。電子制御ユニット150は、車速センサ、ステアリングセンサ、アクセルセンサ等の各センサの情報を入力する。電子制御ユニット150は、各センサの情報をボデーECU300から取得しても良いし、各センサから直接取得しても良い。電子制御ユニット150は、目的地へのナビゲーションを実行するためのナビECU800から日時の情報、緯度・経度や向き等の自車位置の情報を取得し、車両の制御に利用する。
電子制御ユニット150は、画像処理の結果及び各センサの情報に基づいて、車両の運転状況を把握すると共に、車両が周囲の物体と接触することを防止、軽減する制御を実行する。例えば、電子制御ユニット150は、車両前方の物体との接触を回避あるいは軽減するためにブレーキを動作させたり、ステアリングを動作させたりすることが必要と判定すると、急ハンドル予告信号や急ブレーキ予告信号をボデーECU300に出力する。ボデーECU300は、電子制御ユニット150の各信号に基づいてユーザに車両の周囲の状況を伝えたり、車両の動作を制御したりする。
なお、ナビECU800は、クラウドサーバ900と通信可能に構成される。これにより、ナビECU800は、交通状況等の情報を取得することができる。電子制御ユニット150は、クラウドサーバ900と直接通信することによって運転支援に必要な情報を取得しても構わない。
以上説明したように、本実施形態では、前方監視カメラ110及び雨滴検出カメラ130がウィンドシールド200に設置される。一方、電子制御ユニット150は、ウィンドシールド200、前方監視カメラ110、及び雨滴検出カメラ130から離れた位置に配置される。このため、ウィンドシールド200には前方監視カメラ110及び雨滴検出カメラ130が配置されるのみで済むので、電子制御ユニット150を配置するためのスペースは必要ない。したがって、ウィンドシールド200に配置される筐体の小型化を実現することができる。
(第2実施形態)
本実施形態では、主に第1実施形態と異なる部分について説明する。図3に示されるように、前方監視カメラ110は、前方用筐体113を有する。
前方用筐体113は、ウィンドシールド200に固定される。前方用筐体113は、樹脂製あるいは金属製である。前方用筐体113は、樹脂材料及び金属材料等の複合材料によって形成されていても良い。前方用筐体113は、母体部114及びカメラ部115を有する。母体部114は、回路基板等が収容される。
カメラ部115は、母体部114に一体化されると共に、イメージャ111及びレンズ部116を収容する。カメラ部115は、レンズ部116を通すための1つの貫通孔117を有する。カメラ部115は、母体部114の上部に位置すると共に、母体部114の一方の側面118の側に位置する。これにより、母体部114の上部のうちの他方の側面119の側に空間部が構成される。レンズ部116は、無限遠に焦点が合わされたレンズモジュールである。
一方、雨滴検出カメラ130は、前方用筐体113とは別の雨滴用筐体134を有する。雨滴用筐体134は、前方用筐体113よりも小さいサイズである。雨滴用筐体134は、樹脂製あるいは金属製である。雨滴用筐体134は、樹脂材料及び金属材料等の複合材料によって形成されていても良い。
図4に示されるように、雨滴用筐体134は、固定部135を有する。固定部135は、雨滴検出カメラ130の雨滴用筐体134を前方監視カメラ110の前方用筐体113に固定するための突出部分である。固定部135は、例えば前方用筐体113にねじで固定される。
また、図3~図8に示されるように、雨滴検出カメラ130は、回路基板136、レンズ部137、湿度センサ132を有する。図6に示されるように、回路基板136は、表面138及び裏面139を有するプリント基板である。イメージャ131及びレンズ部137は、回路基板136の表面138に実装される。湿度センサ132は、回路基板136の裏面139に実装される。なお、湿度センサ132は、回路基板136の表面138に実装されても良い。
図7に示されるように、雨滴用筐体134は、2つの容器部140、141が連結部142によって連結されていると共に、連結部142が折り曲げ可能になっている。雨滴用筐体134は、連結部142が折り曲げられると共に、スナップフィット143によって各容器部140、141が固定されることで内部に回路基板136等を収容する。
一方の容器部140は、レンズ部137を通すための1つの貫通孔144を有する。一方の容器部140は、他方の容器部141は、雨滴用筐体134の内部と外部とを繋ぐ複数の貫通孔145を有する。これにより、湿度センサ132は、回路基板136に実装された電子部品等の発熱に妨げられずにウィンドシールド200の近傍の湿度を測定することができる。回路基板136は、ねじ止めによって他方の容器部141に固定される。
図3に示されるように、前方監視カメラ110と雨滴検出カメラ130とは、基板対基板コネクタ120によって電気的に導通する。基板対基板コネクタ120は、一方のコネクタ121と他方のコネクタ146とが組み付けられることで一方のコネクタ121と他方のコネクタ146とが一体化されると共に電気的に接続される。なお、図3では、前方監視カメラ110と雨滴検出カメラ130とが分離された状態が示されている。
前方監視カメラ110は、一方のコネクタ121を有する。一方のコネクタ121は、前方用筐体113のカメラ部115のうちの母体部114の他方の側面119の側に設けられる。すなわち、一方のコネクタ121は、カメラ部115から母体部114の他方の側面119の側に突出する。
雨滴検出カメラ130は、他方のコネクタ146を有する。図6に示されるように、他方のコネクタ146は、回路基板136の裏面139に実装される。また、図4に示されるように、他方のコネクタ146は、雨滴用筐体134から突出する。
そして、図3に示されるように、雨滴用筐体134が前方用筐体113のカメラ部115の隣に配置されると共に、雨滴検出カメラ130の他方のコネクタ146が前方監視カメラ110の一方のコネクタ121に組み付けられる。これにより、雨滴検出カメラ130は、前方監視カメラ110から電源供給されると共に、映像信号及び湿度信号の出力が可能になる。
本実施形態では、雨滴検出カメラ130は、前方監視カメラ110に対して脱着可能である。すなわち、雨滴検出カメラ130は、基板対基板コネクタ120によって前方監視カメラ110に対して脱着可能である。また、雨滴検出カメラ130は、雨滴用筐体134の固定部135によって前方監視カメラ110の前方用筐体113に対して脱着可能である。例えば、雨滴検出カメラ130に不具合が生じた場合、雨滴検出カメラ130の交換が可能になる。あるいは、雨滴検出カメラ130が不要の場合、雨滴検出カメラ130を前方監視カメラ110から取り外すことができる。
また、図8に示されるように、前方監視カメラ110の画角の一部と、雨滴検出カメラ130の画角の一部と、は重なっている。つまり、前方監視カメラ110の画角は、雨滴検出カメラ130の画角と、共有する部分がある。これにより、前方監視カメラ110の前方画像及び雨滴検出カメラ130のガラス画像の一方を他方に代用可能になる。
上記の構成において、電子制御ユニット150の湿度演算部158は、湿度センサ132から車両の車室の湿度及び温度の情報を取得すると共に、外気温センサ700から車両の周囲の外気温の情報を取得する。そして、湿度演算部158は、車両の車室の湿度及び温度、及び、車両の周囲の外気温の各情報を用いて、ウィンドシールド200のガラス面湿度を推定する。
湿度演算部158は、ウィンドシールド200のガラス面湿度を含んだ湿度信号をエアコンECU600に出力する。エアコンECU600は、ガラス面湿度の情報をデフロスタの制御等に利用する。
以上のように、雨滴検出カメラ130と湿度センサ132とを統合することにより、小型の構成で高精度の雨滴検出及び湿度検出を実現することができる。また、雨滴検出カメラ130は、前方監視カメラ110に対して基板対基板コネクタ120によって電気的に接続されるので、ウィンドシールド200の傾斜角度に対応した雨滴用筐体134を用意する必要が無い。したがって、雨滴用筐体134のバリエーションが少なく済む。
変形例として、前方監視カメラ110の画角の一部と、雨滴検出カメラ130の画角の一部と、は重なっていなくても良い。例えば、雨滴検出カメラ130の撮影方向は、前方監視カメラ110の撮影方向よりも上空の側に設定されていても構わない。
変形例として、図9に示されるように、回路基板136は、容器部140の内側に設けられたスナップフィット147に引っ掛かることによって雨滴用筐体134に組み付けられても良い。あるいは、回路基板136は、容器部140の内側に圧入されることや、容器部140の内側に熱かしめされることによって雨滴用筐体134に組み付けられても良い。
(第3実施形態)
本実施形態では、主に上記各実施形態と異なる部分について説明する。本実施形態では、雨滴検出カメラ130は、ウィンドシールド200の傾斜角度に対応した被写界深度を有する。被写界深度は、撮影範囲のうちのピントが合う範囲である。
ウィンドシールド200の傾斜角度に対応した被写界深度を得るために、雨滴検出カメラ130のレンズ部137はf値が小さくなるように設計される。すなわち、レンズ部137は、広角レンズを有する。
ここで、雨滴検出カメラ130のレンズ部137は、シャインプルーフの原理に基づいて、ウィンドシールド200のガラス面にピントが合いやすくなるように、光軸が天井の側に傾けられている。これにより、ウィンドシールド200のより広い範囲を撮影することが可能になっている。
したがって、図10に示されるように、ウィンドシールド200の傾斜角度が車両毎に異なっていても、被写界深度が広げられる。すなわち、広い範囲にピントが合わされる。よって、ウィンドシールド200の様々な傾斜角度に対応することができる。つまり、雨滴検出カメラ130を車両毎に設計する必要がない。雨滴検出カメラ130のバリエーションを減らすことができる。
(第4実施形態)
本実施形態では、主に第3実施形態と異なる部分について説明する。図11に示されるように、雨滴検出カメラ130は、天地方向において、画角のうちの地面の側の範囲でウィンドシールド200に付着する雨滴を撮影する。天地方向において、雨滴検知範囲に対応する画角は、例えば30°である。
雨滴検知範囲は、ガラス画像のうちの雨滴検出カメラ130の光軸を含む範囲である。雨滴検出カメラ130のピント範囲である被写界深度は、地面の側に設定される。これにより、光軸上の被写界深度の範囲よりもウィンドシールド200のガラス面上の被写界深度の範囲が広くなる。雨滴検知範囲は、雨滴を認識するために利用される。
また、雨滴検出カメラ130は、天地方向において、画角のうちの天井の側の範囲で車両の周囲を撮影する。天地方向において、空検知範囲に対応する画角は、例えば30°~90°である。空検知範囲は、空を含む範囲である。空検知範囲は、車両の周囲の照度を判定するために利用される。なお、図11では、ウィンドシールド200の傾斜角度が18°~50°の場合が示されている。
したがって、図12に示されるように、1枚のガラス画像において、空検知範囲がガラス画像の上側に撮影されると共に、雨滴検知範囲がガラス画像の下側に撮影される。これにより、ウィンドシールド200の雨滴だけでなく、車両の上方の状況も1つの雨滴検出カメラ130で撮影することができる。
電子制御ユニット150は、ライトセンサや日射センサとしての機能を実現する。具体的には、画像処理ECU152のライト演算部156は、判定部155を介して入力したガラス画像に基づいて、水平に相当する画素の平均輝度値から車両の前方光の照度を推定する。図13に示されるように、平均輝度値と照度との関係から車両の前方光の照度を推定することができる。照度がある程度上昇すると、平均輝度値の差は小さくなる。
また、図14に示されるように、ガラス画像には車両の上方の空領域と車両の前方の空領域とが撮影される。そこで、ライト演算部156は、ガラス画像のうちの上方の空領域の平均輝度値から上方光の照度を推定する。
ライト演算部156は、ガラス画像から推定した照度に基づいて車両のライトの制御を決定する。例えば、図15に示されるように、破線で囲まれた範囲の照度が例えば10万ルクスの場合はライトを消灯すると決定する。
あるいは、図16に示されるように、破線で囲まれた範囲の照度が例えば5万ルクスの場合はライトを消灯すると決定する。あるいは、図17に示されるように、破線で囲まれた範囲の照度が300ルクスの場合はライトを点灯すると決定する。ライト演算部156は、ライトの点消灯の制御内容を含んだライト信号をボデーECU300に出力する。
日射演算部157は、判定部155を介して入力したガラス画像において、空領域に対応する空検知範囲の水平方向の輝度値のピークから方向角を推定する。また、日射演算部157は、GPSの情報あるいはナビECU800から緯度、経度、日時、車両の向きの情報を取得し、太陽角を推定する。太陽角は仰角である。さらに、日射演算部157は、ガラス画像の平均輝度値から日陰あるいは日向を判定する。
日射演算部157は、ガラス画像から推定した日射情報に基づいて、車両のエアコンの制御を決定する。日射演算部157は、エアコンの制御内容を含んだ日射信号をエアコンECU600に出力する。あるいは、日射演算部157は、ガラス画像から推定した日射情報を含む日射信号をエアコンECU600に出力する。
以上のように、雨滴検出カメラ130で撮影されるガラス画像に基づいて、電子制御ユニット150にライトセンサや日射センサの機能を実現させることができる。なお、ライト演算部156及び日射演算部157は、前方監視カメラ110の前方画像を用いて照度を推定しても構わない。
変形例として、ライト演算部156及び日射演算部157は、オートゲイン、オート露光のパラメータ、及び画素値からガラス画像の輝度値を算出しても良い。輝度値は、輝度値=画素値/露光時間/ゲインによって算出される。画素値は、0~255の数値である。このように、露光とゲインの値により、輝度値の判明が可能になる。
例えば、図18に示されるように、18時ではガラス画像の輝度値は高い。一方、図19に示されるように、19時ではガラス画像の輝度値は低いので本来は暗く見えるはずである。しかし、画像の自動調整によって暗い状況が明るく見えてしまう。このように見え方による差が小さくなってしまったとしても、上記の演算により本来の明るさに対応した輝度値を取得することができる。
(第5実施形態)
本実施形態では、主に第3実施形態と異なる部分について説明する。本実施形態では、雨滴検出カメラ130は、ガラス画像において、天地方向における雨滴の検出範囲の倍率と、その他の範囲の倍率と、を変更する。これにより、雨滴検出カメラ130は、ガラス画像における雨滴の検出範囲をその他の範囲よりも相対的に広くする。
具体的には、図20の左側に示されるように、天地方向において、ガラス画像の空検知範囲は雨滴検知範囲よりも広い範囲として撮影される。車両の周囲の照度を推定することができれば良いので、空検知範囲は広くなくても良い。一方、雨滴の検出能力を確保するために、雨滴検知範囲は広いほうが良い。
よって、図20の右側に示されるように、雨滴検出カメラ130は、天地方向における空検知範囲の倍率を雨滴検知範囲の倍率よりも小さくする。これにより、天地方向において、雨滴検知範囲は空検知範囲よりも相対的に広くなる。
以上のように、ガラス画像の中の特定の範囲の倍率を変化させることで、1つのガラス画像の中から車両の周囲の照度と雨滴とを高精度に検出することが可能になる。なお、レイン制御部154がガラス画像の中の特定の範囲の倍率を変化させても良い。
変形例として、図21に示されるように、ガラス画像の下側に車両のボンネットが写る場合、雨滴検出カメラ130は、ガラス画像の仰角の方向において、空検知範囲だけでなくボンネット範囲の倍率を雨滴検知範囲の倍率よりも小さくする。例えば、空検知範囲及びボンネット範囲の倍率を0.5倍とする。仰角の方向は、車両の天地方向に対応する。これにより、車両の周囲の照度と雨滴とを検出するために不要なボンネット範囲を相対的に小さくすることができる。
変形例として、図22に示されるように、ガラス画像の仰角の方向だけでなく、方位角の方向についても、0°付近の倍率を±90°付近の倍率よりも高くする。方位角の方向は、車両の左右方向に対応する。このように、ガラス画像の2方向の倍率を変化させても良い。なお、図22は実際には円状の画像になる。
(第6実施形態)
本実施形態では、主に上記各実施形態と異なる部分について説明する。本実施形態では、電子制御ユニット150は、雨滴付着率を取得し、雨滴付着率に基づいて雨量を推定し、雨量に応じて車両のワイパの制御を決定する。
このため、電子制御ユニット150は、認識部153においてガラス画像に基づいてガラス画像に含まれる雨滴を認識する。具体的には、図23に示されるように、認識部153は、ガラス画像に含まれる雨滴を認識すると共に、認識した雨滴を枠159で囲む。枠159が重なる場合、認識部153は雨滴として信頼性が高い枠159を採用する。なお、認識部153は、枠159が重ならないように各雨滴に枠159を付与するようにしても良い。
そして、レイン制御部154は、ガラス画像の全体の面積とガラス画像に含まれる雨滴の面積の合計値との比較から雨滴付着率を取得する。すなわち、レイン制御部154は雨滴付着率[%]=(雨滴の面積の合計値/ガラス画像の全体の面積)×100を演算する。雨滴の面積の合計値は、全ての枠159の面積の合計値である。
また、レイン制御部154は、雨滴付着率に対応したワイパの制御を行うために、ワイパの払拭スピードを決定する。図24に示されるように、雨滴付着率に対してワイパ払拭閾値を設定すると共に、ワイパ払拭閾値を超える雨滴付着率に対応したワイパの払拭スピードを決定する。つまり、雨滴付着率に基づいて雨量を推定すると共に、雨量に対応したワイパの払拭スピードを選択する。雨滴付着率が高いほど、ワイパの払拭スピードは速くなる。
レイン制御部154は、ワイパの払拭スピードを含む払拭信号をボデーECU300に出力する。以上のように、雨滴付着率に基づいて、車両のワイパの制御を行うことができる。
(第7実施形態)
本実施形態では、主に第6実施形態と異なる部分について説明する。本実施形態では、電子制御ユニット150は、ガラス画像に基づいてウィンドシールド200に対する水しぶきあるいは雨だれを判定すると共に判定結果に基づいて車両のワイパの制御を決定する。
水しぶきは、他車が水たまりを踏んだ際に自車に向かって飛ぶ水である。図25に示されるように、雨だれ160は、車両の天井からウィンドシールド200に流れる水である。例えば、認識部153は、ガラス画像をフーリエ変換し、周波数の特徴量を抽出し、特徴量に基づいて水しぶきや雨だれ160を認識する。レイン制御部154は、水しぶきや雨だれ160に応じたワイパの動作モードを決定し、払拭信号をボデーECU300に出力する。このように、状況に応じたワイパの制御を決定することにより、ユーザの払拭要求を満たすことができる。
なお、フーリエ変換による画像処理では、水しぶきや雨だれ160の他に、雨滴の波紋、泥、ウィンドシールド200の濡れ具合、逆光、ウィンドシールド200の傷等も認識することができる。
また、電子制御ユニット150は、車両のワイパの動作中において、前方画像に基づいて車両がトンネルに進入または退出することを判定すると共に、判定結果に基づいてトンネルの出入口におけるワイパの制御を決定する。この場合、レイン制御部154は、判定部155におけるトンネルの判定結果を入力すると共に、前方画像に基づいて車両がトンネルに進入または退出することを判定する。
そして、図26に示されるように車両がトンネルに進入する場合、レイン制御部154はトンネルへの進入直後に車両のワイパを停止する制御を決定する。一方、図27に示されるように車両がトンネルから退出する場合、レイン制御部154は、トンネルから退出直後に車両のワイパの払拭スピードを現状の払拭スピードよりも速くする制御を決定する。
図28に示されるようにレイン制御部154は、橋桁の出入口において上記と同様にワイパの制御を決定しても良い。
したがって、トンネルや橋桁の入口において、車両のワイパの動作を早く停止させることができる。ワイパの空払拭を継続してしまうことが無いので、ユーザに煩わしさを感じさせにくくすることができる。また、トンネルや橋桁の出口において、車両のワイパを早く動作させて雨の状況に素早く対応させることができる。
(第8実施形態)
本実施形態では、主に第6、第7実施形態と異なる部分について説明する。本実施形態では、電子制御ユニット150は、ウィンドシールド200の撥水状態に応じて車両のワイパの動作スピードを決定する。
このため、認識部153は、ガラス画像に含まれる雨滴の大きさ及び数を認識する。なお、雨滴の形状を認識しても良い。レイン制御部154は、雨滴の大きさ及び数に基づいて、ウィンドシールド200の撥水状態を検知する。雨滴が小さい場合、撥水様態が良いと判定できる。例えば、レイン制御部154は、雨滴の大きさ及び数に応じた撥水状態のマップを有する。レイン制御部154は、マップに基づいて撥水状態を判定する。
レイン制御部154は、雨滴の径が小さいと共に数が多いと判定した場合、ウィンドシールド200が撥水ガラスであるとしてワイパの払拭スピードを通常よりも遅くする制御を決定する。このように、ウィンドシールド200の撥水状態に応じてワイパの動作スピードを変更することができる。
(第9実施形態)
本実施形態では、主に第6~第8実施形態と異なる部分について説明する。本実施形態では、電子制御ユニット150は、前方画像またはガラス画像に基づいて車両の周囲の明るさを判定すると共に、明るさの判定結果に基づいて車両のライトの点消灯の制御を決定する。
判定部155は、前方画像またはガラス画像の輝度、露光時間、ゲインに基づいて車両の周囲の明るさを判定する。明るさは、照度である。ライト演算部156は、照度に対する点灯閾値及び消灯閾値を有する。ライト演算部156は、照度が点灯閾値よりも小さい場合に車両のライトを点灯する制御を決定する。また、照度が消灯閾値よりも大きい場合に車両のライトを消灯する制御を決定する。
ここで、被写体の輝度は、照度が同じであったとしても被写体の色によって異なる。そこで、ボンネットやダッシュボード等の車両の一部が前方監視カメラ110の前方画像に常に写るように前方監視カメラ110をウィンドシールド200に設置する。例えば、図29に示されるように、前方画像の下側の領域にボンネット範囲が常に写るようにする。
ライト演算部156は、ボデーECU300から車体の色の情報を取得すると共に、前方画像のボンネット範囲の輝度を取得する。そして、ライト演算部156は、車体の色の情報とボンネット範囲の輝度から色の影響を補正した照度を取得する。ライト演算部156は、点灯閾値及び消灯閾値と、取得した照度と、を比較することで車両のライトの点消灯の制御を決定する。
よって、前方画像に含まれる被写体及び被写体の色を特定するための画像処理を行わずに、前方画像から車両の周囲の照度を取得することができる。また、画像処理の負荷低減によって処理リソースを削減することができる。画像処理ECU152の機能拡張へのリソース配分による付加価値を向上させることもできる。
変形例として、図30及び図31に示されるように、車両が東に進んでいる場合であって太陽が前方画像に写っていない場合、日射演算部157は、太陽の位置を推定しても良い。日射演算部157は、緯度、経度、日時を含むGPSの情報と前方監視カメラ110の撮影画角の情報及び前方画像を取得すると共に、これらの情報を用いて太陽の位置を推定する。
図32に示されるように、太陽が前方画像に含まれていたとしても前方画像が白飛びすることで太陽の位置がわからない場合もある。このような場合でも、図33に示されるように、前方画像の中の太陽の位置を推定することができる。
したがって、日射演算部157は、太陽が前方画像に含まれていないとしても、日射の向き及び強さを取得することができる。また、太陽を撮影するための魚眼レンズやハイダイナミックレンジ合成処理が不要になる。
(第10実施形態)
本実施形態では、主に上記各実施形態と異なる部分について説明する。本実施形態では、電子制御ユニット150は、前方画像またはガラス画像に基づいて車両の周囲の気象状況を把握すると共に、車両の位置情報及び気象状況をクラウドサーバ900に送信する。
前方監視カメラ110の前方画像または雨滴検出カメラ130のガラス画像には、晴れ、曇り、雨、雪、凍結、道路の汚れ等の路面に関する情報が含まれる。したがって、画像処理ECU152の認識部153は、前方画像またはガラス画像から路面の状況を識別する。つまり、自車は、道路状況を判定するプローブカーとなる。
例えば、図34に示されるように、認識部153は、ウィンドシールド200のガラス面に付着した雪や黒い路面を認識する。これにより、画像処理ECU152は、降雪有り及び積雪無しを検出することができる。あるいは、図35に示されるように、認識部153は、ウィンドシールド200に何も付着していないことや路面が白いことを認識する。これにより、画像処理ECU152は、降雪無し及び積雪有りを検出することができる。
電子制御ユニット150は、ナビECU800を介してクラウドサーバ900に車両の位置情報及び気象状況を送信する。クラウドサーバ900は、車両の位置情報及び気象状況を道路状況配信サービスに活用することができる。
また、電子制御ユニット150は、検出した気象状況を自車の制御に利用する。すなわち、画像処理ECU152は、検出した降雪や積雪状況に応じて、車両の制御方法を変更する。例えば、湿度演算部158は、ウィンドシールド200の凍結を検知して、エアコンECU600にデフロスタを動作させる。あるいは、画像処理ECU152は、路面の積雪を検知して、車両の急ブレーキを抑制する制御を行う。
以上のように、前方画像またはガラス画像から車両の周囲の気象状況を認識することで認識結果を自車や他車の制御に利用することができる。
(第11実施形態)
本実施形態では、主に上記各実施形態と異なる部分について説明する。本実施形態では、前方監視カメラ110の前方画像から雨滴を検出する。このため、図36に示されるように、前方監視カメラ110のレンズ部116は、凸レンズ122を有する。凸レンズ122は、レンズ部116に含まれる複数のレンズの中で最初に光を入射するレンズである。
凸レンズ122は、焦点距離を短くする。したがって、無限遠焦点のレンズ部116の焦点をウィンドシールド200に合わせることができる。これにより、前方監視カメラ110の前方画像から雨滴を検出することが可能になる。
変形例として、図37に示されるように、レンズ形状の中央部が開口している一方、レンズ形状の外縁部はウィンドシールド200に焦点を持つレンズ123を採用しても良い。すなわち、レンズ123の中央部は無限遠焦点の画角であり、レンズ123の外縁部はガラス面焦点の画角である。レンズ123は、前方監視カメラ110のレンズ部116に設けられる。これにより、図38に示されるように、前方監視カメラ110の焦点を、ウィンドシールド200のガラス面及び無限遠の両方に合わせることができる。
(他の実施形態)
上記各実施形態で示された雨滴検出装置100の構成は一例であり、上記で示した構成に限定されることなく、本発明を実現できる他の構成とすることもできる。例えば、図39に示されるように、前方監視カメラ110及び雨滴検出カメラ130は、同一の筐体102に収容されても良い。すなわち、雨滴検出カメラ130は、前方監視カメラ110に対して取り外しができないように一体化されていても構わない。
この場合、例えば、図40に示されるように、前方監視カメラ110のイメージャ111及びレンズ部116と、雨滴検出カメラ130のイメージャ131及びレンズ部137と、は同一の回路基板103に実装される。あるいは、図41に示されるように、前方監視カメラ110の回路基板124と雨滴検出カメラ130の回路基板136とがフレキシブルプリント基板104によって電気的に接続される構成になっていても良い。
前方監視カメラ110から出力される前方画像の画像データは、前方監視カメラ110から電子制御ユニット150に直接入力されなくても良い。すなわち、前方画像の画像データは、他の装置を介して電子制御ユニット150に入力されても良い。ガラス画像の画像データについても同様である。
上記各実施形態では、雨滴検出カメラ130は、車両の左右方向において、前方監視カメラ110に対して組み付けられていたが、これは一例である。図42に示されるように、雨滴検出カメラ130は、天地方向において、前方監視カメラ110に対して天井の側から地面の側に組み付けられても良い。
100 雨滴検出装置
110 前方監視カメラ
113 前方用筐体
120 基板対基板コネクタ
130 雨滴検出カメラ
132 湿度センサ
134 雨滴用筐体
136 回路基板
150 電子制御ユニット
200 ウィンドシールド

Claims (22)

  1. 車両のウィンドシールド(200)を介して前記車両の前方を撮影するための前方監視カメラ(110)と、
    前記ウィンドシールドに付着する雨滴を撮影するための雨滴検出カメラ(130)と、
    前記ウィンドシールド、前記前方監視カメラ、及び前記雨滴検出カメラから離れた位置に配置され、前記前方監視カメラからの前方画像の画像データに対する画像処理を行い、前記雨滴検出カメラからのガラス画像の画像データに対する画像処理を行う電子制御ユニット(150)と、
    を含む、雨滴検出装置。
  2. 前記電子制御ユニットは、前記ガラス画像の画像データに基づいて前記ウィンドシールドに付着する雨滴を認識し、認識結果に基づいて前記車両のワイパの制御を決定する、請求項1に記載の雨滴検出装置。
  3. 前記前方画像の画像データ及び前記ガラス画像の画像データは、共通の信号線(101)を介して前記電子制御ユニットに出力され、
    前記雨滴検出カメラは、前記車両の車室の湿度及び温度を検出する湿度センサ(132)を有し、
    前記湿度センサによって検出される前記湿度及び前記温度の情報は、前記信号線に重畳されることで前記電子制御ユニットに出力される、請求項1または2に記載の雨滴検出装置。
  4. 前記電子制御ユニットは、前記前方画像の画像データまたは前記ガラス画像の画像データに基づいて、前記ウィンドシールドに付着する前記雨滴を検出することで前記車両のワイパの制御を決定する、あるいは前記車両の周囲の照度を検出することで前記車両のライトの点消灯を判定する、あるいは前記車両の周囲の日射の強さ及び方向を検出することで車室内空調の制御を決定する、あるいは前記ウィンドシールドの汚れを検出することで前記ウィンドシールドに洗浄液を噴出するウォッシャの制御を決定する、あるいは前記前方監視カメラ及び前記雨滴検出カメラの前方を温めるヒータの制御を決定する、あるいは前記ウィンドシールドに向けて風を吹き出すデフロスタの制御を決定する、請求項1ないし3のいずれか1つに記載の雨滴検出装置。
  5. 前記前方監視カメラは、前方用筐体(113)を有し、
    前記雨滴検出カメラは、前記前方用筐体とは別の雨滴用筐体(134)を有する、請求項1ないし4のいずれか1つに記載の雨滴検出装置。
  6. 前記前方監視カメラと前記雨滴検出カメラとは、基板対基板コネクタ(120)によって電気的に導通する、請求項1ないし5のいずれか1つに記載の雨滴検出装置。
  7. 前記前方監視カメラは、前方用筐体(113)を有し、
    前記雨滴検出カメラは、前記前方用筐体とは別の雨滴用筐体(134)を有し、
    前記雨滴検出カメラの前記雨滴用筐体は、前記前方監視カメラの前記前方用筐体に固定される固定部(135)を有する、請求項1ないし6のいずれか1つに記載の雨滴検出装置。
  8. 前記雨滴検出カメラは、回路基板(136)と、雨滴用筐体(134)と、を有し、
    前記回路基板は、スナップフィット(147)、圧入、及び熱かしめのいずれかによって前記雨滴用筐体に組み付けられる、請求項1ないし7のいずれか1つに記載の雨滴検出装置。
  9. 前記前方監視カメラの画角の一部と、前記雨滴検出カメラの画角の一部と、は重なっている、請求項1ないし8のいずれか1つに記載の雨滴検出装置。
  10. 前記雨滴検出カメラは、回路基板(136)と、前記回路基板に実装されると共に前記車両の車室の湿度及び温度を検出する湿度センサ(132)と、を有する、請求項1ないし9のいずれか1つに記載の雨滴検出装置。
  11. 前記電子制御ユニットは、前記車両の車室の湿度及び温度を検出する湿度センサ(132)の情報と、前記車両に搭載されると共に前記車両の周囲の外気温を検出する外気温センサ(700)の情報と、を用いて前記ウィンドシールドのガラス面湿度を推定する、請求項1ないし10のいずれか1つに記載の雨滴検出装置。
  12. 前記雨滴検出カメラは、雨滴用筐体(134)と、前記雨滴用筐体に収容されると共に前記車両の車室の湿度及び温度を検出する湿度センサ(132)と、を有し、
    前記雨滴検出カメラの前記雨滴用筐体は、前記雨滴用筐体の内部と外部とを繋ぐ貫通孔(145)を有する、請求項1ないし11のいずれか1つに記載の雨滴検出装置。
  13. 前記雨滴検出カメラは、前記前方監視カメラに対して脱着可能である、請求項1ないし12のいずれか1つに記載の雨滴検出装置。
  14. 前記雨滴検出カメラは、天地方向において、前記前方監視カメラに対して天井の側から地面の側に組み付けられる、請求項1ないし13のいずれか1つに記載の雨滴検出装置。
  15. 前記雨滴検出カメラは、前記ウィンドシールドの傾斜角度に対応した被写界深度を有する、請求項1ないし14のいずれか1つに記載の雨滴検出装置。
  16. 前記雨滴検出カメラは、天地方向において、画角のうちの地面の側の範囲で前記ウィンドシールドに付着する雨滴を撮影し、前記画角のうちの天井の側の範囲で前記車両の周囲を撮影する、請求項1ないし15のいずれか1つに記載の雨滴検出装置。
  17. 前記雨滴検出カメラは、前記ガラス画像において、天地方向における前記雨滴の検出範囲の倍率と、その他の範囲の倍率と、を変更することにより、前記ガラス画像における前記雨滴の検出範囲を前記その他の範囲よりも相対的に広くする、請求項1ないし16のいずれか1つに記載の雨滴検出装置。
  18. 前記電子制御ユニットは、前記ガラス画像に基づいて前記ガラス画像に含まれる前記雨滴を認識し、前記ガラス画像の全体の面積と前記ガラス画像に含まれる前記雨滴の面積の合計値との比較から雨滴付着率を取得し、前記雨滴付着率に基づいて雨量を推定し、前記雨量に応じて前記車両のワイパの制御を決定する、請求項1ないし17のいずれか1つに記載の雨滴検出装置。
  19. 前記電子制御ユニットは、前記ガラス画像に基づいて前記ウィンドシールドに対する水しぶきあるいは雨だれ(160)を判定すると共に判定結果に基づいて前記車両のワイパの制御を決定し、前記車両のワイパの動作中において前記前方画像に基づいて前記車両がトンネルに進入または退出することを判定すると共に前記トンネルに進入する場合は進入直後に前記車両のワイパを停止する制御を決定する一方、前記トンネルから退出する場合は退出直後に前記車両のワイパの払拭スピードを現状の払拭スピードよりも速くする制御を決定する、請求項1ないし18のいずれか1つに記載の雨滴検出装置。
  20. 前記電子制御ユニットは、前記ガラス画像に含まれる前記雨滴の大きさ及び数に基づいて前記ウィンドシールドの撥水状態を検知し、前記撥水状態に応じて前記車両のワイパの動作スピードを決定する、請求項1ないし19のいずれか1つに記載の雨滴検出装置。
  21. 前記電子制御ユニットは、前記前方画像または前記ガラス画像に基づいて前記車両の周囲の明るさを判定すると共に、前記明るさの判定結果に基づいて前記車両のライトの点消灯の制御を決定する、請求項1ないし20のいずれか1つに記載の雨滴検出装置。
  22. 前記電子制御ユニットは、前記前方画像または前記ガラス画像に基づいて前記車両の周囲の気象状況を把握すると共に、前記車両の位置情報及び前記気象状況をクラウドサーバ(900)に送信する、請求項1ないし21のいずれか1つに記載の雨滴検出装置。
JP2020185627A 2020-11-06 2020-11-06 雨滴検出装置 Active JP7415877B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020185627A JP7415877B2 (ja) 2020-11-06 2020-11-06 雨滴検出装置
CN202180074519.2A CN116391119A (zh) 2020-11-06 2021-10-15 雨滴检测装置
PCT/JP2021/038181 WO2022097450A1 (ja) 2020-11-06 2021-10-15 雨滴検出装置
US18/297,842 US20230242079A1 (en) 2020-11-06 2023-04-10 Raindrop detection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020185627A JP7415877B2 (ja) 2020-11-06 2020-11-06 雨滴検出装置

Publications (3)

Publication Number Publication Date
JP2022075077A true JP2022075077A (ja) 2022-05-18
JP2022075077A5 JP2022075077A5 (ja) 2022-12-15
JP7415877B2 JP7415877B2 (ja) 2024-01-17

Family

ID=81457097

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020185627A Active JP7415877B2 (ja) 2020-11-06 2020-11-06 雨滴検出装置

Country Status (4)

Country Link
US (1) US20230242079A1 (ja)
JP (1) JP7415877B2 (ja)
CN (1) CN116391119A (ja)
WO (1) WO2022097450A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024048502A1 (ja) * 2022-09-02 2024-03-07 株式会社デンソー レインセンサ

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117079085B (zh) * 2023-10-16 2024-01-26 合肥市斑马智行网络技术有限公司 雨滴检测模型的训练方法及车辆控制方法、设备及介质

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003002171A (ja) * 2001-06-19 2003-01-08 Nissan Motor Co Ltd ワイパー制御装置
JP2004338523A (ja) * 2003-05-15 2004-12-02 Nippon Sheet Glass Co Ltd ワイパー制御方法、およびワイパー制御装置
JP2005241339A (ja) * 2004-02-25 2005-09-08 Denso Corp 複合センサ及び空調制御方法
JP2007127595A (ja) * 2005-11-07 2007-05-24 Stanley Electric Co Ltd 異物検出計測装置
JP2010103810A (ja) * 2008-10-24 2010-05-06 Ricoh Co Ltd 車載用監視装置
DE102008043737A1 (de) * 2008-11-14 2010-05-20 Robert Bosch Gmbh Vorrichtung und Verfahren zur Detektion von Regentropfen auf einer Scheibe
JP2010210374A (ja) * 2009-03-10 2010-09-24 Omron Corp 車両用撮像装置
JP2014032174A (ja) * 2012-07-13 2014-02-20 Ricoh Co Ltd 撮像装置、付着物検出装置、移動装置用機器制御システム及び移動装置
JP2016040140A (ja) * 2014-08-12 2016-03-24 ソニー株式会社 車両用表示装置と表示制御方法および後方モニタリングシステム
JP2018188125A (ja) * 2017-05-01 2018-11-29 株式会社デンソー カメラ装置
JP2018191107A (ja) * 2017-05-01 2018-11-29 株式会社デンソー カメラ装置
JP2020085564A (ja) * 2018-11-20 2020-06-04 トヨタ自動車株式会社 判定装置、車両制御装置、判定方法、判定プログラム

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003002171A (ja) * 2001-06-19 2003-01-08 Nissan Motor Co Ltd ワイパー制御装置
JP2004338523A (ja) * 2003-05-15 2004-12-02 Nippon Sheet Glass Co Ltd ワイパー制御方法、およびワイパー制御装置
JP2005241339A (ja) * 2004-02-25 2005-09-08 Denso Corp 複合センサ及び空調制御方法
JP2007127595A (ja) * 2005-11-07 2007-05-24 Stanley Electric Co Ltd 異物検出計測装置
JP2010103810A (ja) * 2008-10-24 2010-05-06 Ricoh Co Ltd 車載用監視装置
DE102008043737A1 (de) * 2008-11-14 2010-05-20 Robert Bosch Gmbh Vorrichtung und Verfahren zur Detektion von Regentropfen auf einer Scheibe
JP2010210374A (ja) * 2009-03-10 2010-09-24 Omron Corp 車両用撮像装置
JP2014032174A (ja) * 2012-07-13 2014-02-20 Ricoh Co Ltd 撮像装置、付着物検出装置、移動装置用機器制御システム及び移動装置
JP2016040140A (ja) * 2014-08-12 2016-03-24 ソニー株式会社 車両用表示装置と表示制御方法および後方モニタリングシステム
JP2018188125A (ja) * 2017-05-01 2018-11-29 株式会社デンソー カメラ装置
JP2018191107A (ja) * 2017-05-01 2018-11-29 株式会社デンソー カメラ装置
JP2020085564A (ja) * 2018-11-20 2020-06-04 トヨタ自動車株式会社 判定装置、車両制御装置、判定方法、判定プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024048502A1 (ja) * 2022-09-02 2024-03-07 株式会社デンソー レインセンサ

Also Published As

Publication number Publication date
US20230242079A1 (en) 2023-08-03
WO2022097450A1 (ja) 2022-05-12
JP7415877B2 (ja) 2024-01-17
CN116391119A (zh) 2023-07-04

Similar Documents

Publication Publication Date Title
US20230242079A1 (en) Raindrop detection device
JP4491453B2 (ja) 赤外画像と視覚画像を周辺部に依存して融合させることにより車両の周辺部を可視化するための方法及び装置
EP1507138B1 (en) Image processing system
JP5441462B2 (ja) 車両用撮像装置
JP4668838B2 (ja) 雨滴検出装置およびワイパー制御装置
CN106170057B (zh) 车载相机设备
US8362453B2 (en) Rain sensor
JP2000019259A (ja) 環境認識装置
JP2002539421A (ja) 自動車のフロントガラスに存在する物体を検出するための装置
KR101738995B1 (ko) 에고 모션 검출을 구비한 촬상 시스템 및 방법
JP2006248271A (ja) ワイパ駆動制御装置
JP5441450B2 (ja) 車両用撮像装置
JP5152019B2 (ja) 車両用制御装置
DE102013014167B4 (de) System zum Erkennen der Umgebung eines Fahrzeugs
US7577299B2 (en) Image pickup apparatus and image pickup method
JP2022075077A5 (ja)
KR20130016641A (ko) 우적 감응형 와이퍼 장치
JP2002099999A (ja) 車両用車線検出装置
KR102284128B1 (ko) 차량용 카메라
JP2009147906A (ja) 車両周辺監視装置
JP2019155931A (ja) 加熱制御装置
JP2004123061A (ja) 撮影システム
JP7439792B2 (ja) 照度推定装置
KR101684782B1 (ko) 우적 감응형 와이퍼 장치
JP3929420B2 (ja) 車両用光量検出装置及び車両用照明制御装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221207

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230822

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231009

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231218

R151 Written notification of patent or utility model registration

Ref document number: 7415877

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151