JPWO2019159321A1 - 異常検出装置及び異常検出方法 - Google Patents

異常検出装置及び異常検出方法 Download PDF

Info

Publication number
JPWO2019159321A1
JPWO2019159321A1 JP2019571912A JP2019571912A JPWO2019159321A1 JP WO2019159321 A1 JPWO2019159321 A1 JP WO2019159321A1 JP 2019571912 A JP2019571912 A JP 2019571912A JP 2019571912 A JP2019571912 A JP 2019571912A JP WO2019159321 A1 JPWO2019159321 A1 JP WO2019159321A1
Authority
JP
Japan
Prior art keywords
image
vehicle
camera
value
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019571912A
Other languages
English (en)
Other versions
JP6678844B2 (ja
Inventor
周作 ▲高▼本
周作 ▲高▼本
偉雄 藤田
偉雄 藤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP6678844B2 publication Critical patent/JP6678844B2/ja
Publication of JPWO2019159321A1 publication Critical patent/JPWO2019159321A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/10Fittings or systems for preventing or indicating unauthorised use or theft of vehicles actuating a signalling device
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/30Detection related to theft or to other events relevant to anti-theft systems
    • B60R25/305Detection related to theft or to other events relevant to anti-theft systems using a camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30268Vehicle interior

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Quality & Reliability (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

異常検出装置(100)は、ユーザが車両(1)に乗り込む前のタイミングにて車室内撮像用のカメラ(3)により撮像された画像である第2画像におけるエッジ強度の総和を示す指標値を算出する指標値算出部(18)と、第2画像が撮像されるよりも先に第2画像の撮像条件と同等の撮像条件にてカメラ(3)により撮像された画像である基準画像におけるエッジ強度の総和を示す指標値と指標値算出部(18)により算出された指標値との差分値を算出する差分値算出部(19)と、差分値が閾値以上であるか否かを判定する第2判定部(20)と、第2判定部(20)により差分値が閾値以上であると判定された場合、警告を出力する制御を実行する警告出力制御部(21)とを備える。

Description

本発明は、異常検出装置及び異常検出方法に関する。
従来、カメラによる撮像画像における特徴量を指標値に用いて、当該カメラのレンズにおける異常(例えば、水滴の付着、指紋などの汚れの付着、又は傷など)の発生を検出する技術が開発されている。例えば、特許文献1には、車外撮像用のカメラによる撮像画像における輝度分散値を指標値に用いて、当該カメラのレンズに対する汚れの付着を検出する技術が開示されている。
特開2006−157739号公報
近年、いわゆる「乗員モニタリングシステム」において車室内撮像用のカメラが用いられている。車室内撮像用のカメラのレンズに汚れの付着又は傷などの異常が発生した場合、撮像画像のうちの異常に対応する領域におけるエッジ強度が低下して、いわゆる「ボケ」が発生する。ボケの発生により、当該領域に対する画像処理の精度が低下する。このため、レンズにおける異常の発生を検出する技術を適用するのが好適である。
通常、ユーザの服装及びユーザが身に着けている装飾品などは、ユーザが車両に乗り込む度毎に異なるものとなる。したがって、ユーザが車両に乗り込んだ後のタイミングにおける車室内撮像用のカメラによる被写体は、ユーザが車両に乗り込む度毎に異なるものとなる。この結果、撮像画像における特徴量もユーザが車両に乗り込む度毎に異なるものとなる。車室内撮像用のカメラに従来の異常検出技術を適用した場合、かかる被写体の変化に応じた特徴量の変動に起因して、レンズに異常が発生していないにもかかわらず当該異常の発生が検出されたり、又はレンズに異常が発生しているにもかかわらず当該異常の発生が検出されなかったりする問題があった。すなわち、検出精度が低い問題があった。
本発明は、上記のような課題を解決するためになされたものであり、車室内撮像用のカメラによる撮像画像における特徴量を指標値に用いて当該カメラのレンズにおける異常の発生を検出する装置及び方法において、検出精度を向上することを目的とする。
本発明の異常検出装置は、ユーザが車両に乗り込む前のタイミングにて車室内撮像用のカメラにより撮像された画像である第2画像におけるエッジ強度の総和を示す指標値を算出する指標値算出部と、第2画像が撮像されるよりも先に第2画像の撮像条件と同等の撮像条件にてカメラにより撮像された画像である基準画像におけるエッジ強度の総和を示す指標値と指標値算出部により算出された指標値との差分値を算出する差分値算出部と、差分値が閾値以上であるか否かを判定する第2判定部と、第2判定部により差分値が閾値以上であると判定された場合、警告を出力する制御を実行する警告出力制御部とを備えるものである。
本発明によれば、上記のように構成したので、車室内撮像用のカメラによる撮像画像における特徴量を指標値に用いて当該カメラのレンズにおける異常の発生を検出する装置及び方法において、検出精度を向上することができる。
本発明の実施の形態1に係る異常検出装置を含む制御装置が車両に設けられている状態を示すブロック図である。 キーレスエントリーシステム用の受信機による受信可能エリアの一例を示す説明図である。 図3Aは、本発明の実施の形態1に係る異常検出装置を含む制御装置の要部のハードウェア構成を示すブロック図である。図3Bは、本発明の実施の形態1に係る異常検出装置を含む制御装置の要部の他のハードウェア構成を示すブロック図である。 本発明の実施の形態1に係る異常検出装置を含む制御装置の動作を示すフローチャートである。 本発明の実施の形態1に係る他の異常検出装置を含む制御装置が車両に設けられている状態を示すブロック図である。
以下、この発明をより詳細に説明するために、この発明を実施するための形態について、添付の図面に従って説明する。
実施の形態1.
図1は、実施の形態1に係る異常検出装置を含む制御装置が車両に設けられている状態を示すブロック図である。図1を参照して、実施の形態1の異常検出装置100について説明する。
車両1の車室内前方部には、乗員モニタリングシステム用の撮像装置2が設けられている。撮像装置2は、カメラ3及び光源4を有している。カメラ3は車室内撮像用のカメラであり、例えば赤外線カメラ又は可視光カメラにより構成されている。光源4はカメラ3による撮像用の光源であり、例えばLED(Light Emitting Diode)により構成されている。
カメラ3による撮像対象となる座席は、車両1の運転席、車両1の運転席及び助手席(以下、総称して「前部座席」という。)、又は、車両1の前部座席及び後部座席(以下、総称して「全座席」という。)である。前部座席又は全座席が撮像対象である場合、カメラ3は、車両1の車室内前方部において車両1の左右方向に対する中心部に配置されている。運転席が撮像対象である場合、カメラ3は、車両1の車室内前方部において運転席に対する正面部に配置されている。
車両1には、キーレスエントリーシステム5用の受信機6が設けられている。車両1のユーザ(以下、単に「ユーザ」という。)は、キーレスエントリーシステム5用の送信機7を携帯している。受信機6は、送信機7により送信された開錠用の電波信号又は赤外線信号(以下「開錠信号」という。)を受信するものである。また、受信機6は、送信機7により送信された施錠用の電波信号又は赤外線信号(以下「施錠信号」という。)を受信するものである。キーレスエントリーシステム5は、受信機6が開錠信号を受信したとき、車両1の各ドアを開錠するものである。また、キーレスエントリーシステム5は、受信機6が施錠信号を受信したとき、車両1の各ドアを施錠するものである。
図2に、受信機6が開錠信号及び施錠信号を受信可能なエリア(以下「受信可能エリア」という。)の一例を示す。図2に示す如く、車両1はいわゆる「右ハンドル」の車両であり、車両1の運転席側のドア周辺のエリアA1、車両1の助手席側のドア周辺のエリアA2、及び車両1に対する後方のエリアA3が受信可能エリアに設定されている。
受信機6は、開錠信号を受信したとき、所定の信号(以下「出力信号」という。)を接近検出部11に出力する機能を有している。接近検出部11は、受信機6による出力信号を用いて、ユーザが車両1に接近したこと、より具体的にはユーザが受信可能エリア内に入ったことを検出するものである。すなわち、接近検出部11によりユーザの接近が検出されるタイミングは、ユーザが車両1に乗り込む前のタイミングである。
消灯制御部12は、接近検出部11によりユーザの接近が検出されたとき、光源4を消灯させるものである。第1撮像制御部13は、接近検出部11によりユーザの接近が検出されたとき、カメラ3に画像(以下「第1画像」という。)の撮像を指示するものである。すなわち、第1画像は、ユーザが車両1に乗り込む前のタイミングにて撮像されるものである。また、第1画像は、光源4が消灯している状態にて撮像されるものである。
輝度値検出部14は、第1画像を示す画像データ(以下「第1画像データ」という。)をカメラ3から取得するものである。輝度値検出部14は、第1画像データを用いて、第1画像における輝度値を検出するものである。
第1判定部15は、輝度値検出部14により検出された輝度値を用いて、車両1の車外から車両1の車室内に差し込む外光(以下、単に「外光」という。)の量が所定量(以下「基準量」という。)未満であるか否かを判定するものである。
より具体的には、第1判定部15には、輝度値検出部14により検出された輝度値に対する比較対象となる値(以下「基準値」という。)が予め記憶されている。この基準値は、基準量に対応する値に設定されている。第1判定部15は、予め記憶されている基準値と輝度値検出部14により検出された輝度値とを比較して、輝度値が基準値未満であるか否かを判定する。第1判定部15は、輝度値が基準値未満である場合、外光の量が基準量未満であると判定する。
点灯制御部16は、第1判定部15により外光の量が基準量未満であると判定された場合、光源4を点灯させるものである。第2撮像制御部17は、第1判定部15により外光の量が基準量未満であると判定された場合、カメラ3に画像(以下「第2画像」という。)の撮像を指示するものである。すなわち、第2画像は、ユーザが車両1に乗り込む前のタイミングにて撮像されるものである。また、第2画像は、外光の量が基準量未満であり、かつ、光源4が点灯している状態にて撮像されるものである。
指標値算出部18は、第2画像を示す画像データ(以下「第2画像データ」という。)をカメラ3から取得するものである。指標値算出部18は、第2画像データを用いて、第2画像におけるエッジ強度の総和を示す指標値を算出するものである。
差分値算出部19には、車両1の工場出荷時にカメラ3により撮像された画像(以下「基準画像」という。)におけるエッジ強度の総和を示す指標値が予め記憶されている。差分値算出部19は、予め記憶されている指標値と指標値算出部18により算出された指標値との差分値を算出するものである。差分値算出部19により算出される差分値は、基準画像におけるエッジ強度に対する第2画像におけるエッジ強度の低下量を示すものである。
ここで、基準画像は、第2画像の撮像条件と同等の撮像条件にて撮像されたものである。すなわち、基準画像は、ユーザが車両1に乗り込んでおらず(より具体的には、カメラ3による撮像対象となる座席に人間が着座しておらず)、かつ、外光の量が基準量未満であり、かつ、光源4が点灯している状態にて撮像されたものである。
換言すれば、第2画像は、基準画像の撮像条件と同等の撮像条件にて撮像されるものである。すなわち、第2画像は、ユーザが車両1に乗り込む前のタイミングにて撮像されるものである。また、第2画像は、外光の量が基準量未満であり、かつ、光源4が点灯している状態にて撮像されるものである。
第2判定部20には、差分値算出部19により算出された差分値に対する比較対象となる閾値が予め記憶されている。この閾値は、カメラ3のレンズにおける異常(例えば、水滴の付着、指紋などの汚れの付着、又は傷など)の発生の有無を識別可能な値に設定されている。第2判定部20は、予め記憶されている閾値と差分値算出部19により算出された差分値とを比較して、差分値が閾値以上であるか否かを判定するものである。すなわち、第2判定部20は、基準画像におけるエッジ強度に対する第2画像におけるエッジ強度の低下量が閾値以上であるか否かを判定するものである。
警告出力制御部21は、第2判定部20により差分値が閾値以上であると判定された場合、出力装置8を用いて警告を出力する制御を実行するものである。
具体的には、例えば、出力装置8はディスプレイにより構成されている。警告出力制御部21は、第2判定部20により差分値が閾値以上であると判定された場合、カメラ3のレンズの掃除又は点検などを促す内容を含む画像(以下「警告画像」という。)を当該ディスプレイに表示させる。
または、例えば、出力装置8はスピーカーにより構成されている。警告出力制御部21は、第2判定部20により差分値が閾値以上であると判定された場合、カメラ3のレンズの掃除又は点検などを促す内容を含む音声(以下「警告音声」という。)を当該スピーカーに出力させる。
または、例えば、出力装置8は専用のインジケーター(以下「警告インジケーター」という。)により構成されている。警告出力制御部21は、第2判定部20により差分値が閾値以上であると判定された場合、警告インジケーターを点灯させる。
接近検出部11、消灯制御部12、第1撮像制御部13、輝度値検出部14、第1判定部15、点灯制御部16、第2撮像制御部17、指標値算出部18、差分値算出部19、第2判定部20及び警告出力制御部21により、制御装置9の要部が構成されている。また、接近検出部11、輝度値検出部14、第1判定部15、指標値算出部18、差分値算出部19、第2判定部20及び警告出力制御部21により、異常検出装置100の要部が構成されている。
次に、図3を参照して、制御装置9の要部のハードウェア構成について説明する。
図3Aに示す如く、制御装置9はコンピュータにより構成されており、当該コンピュータはプロセッサ31及びメモリ32を有している。メモリ32には、当該コンピュータを接近検出部11、消灯制御部12、第1撮像制御部13、輝度値検出部14、第1判定部15、点灯制御部16、第2撮像制御部17、指標値算出部18、差分値算出部19、第2判定部20及び警告出力制御部21として機能させるためのプログラムが記憶されている。メモリ32に記憶されているプログラムをプロセッサ31が読み出して実行することにより、接近検出部11、消灯制御部12、第1撮像制御部13、輝度値検出部14、第1判定部15、点灯制御部16、第2撮像制御部17、指標値算出部18、差分値算出部19、第2判定部20及び警告出力制御部21の機能が実現される。
プロセッサ31は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、マイクロプロセッサ、マイクロコントローラ又はDSP(Digital Signal Processor)などを用いたものである。メモリ32は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)若しくはEEPROM(Electrically Erasable Programmable Read−Only Memory)などの半導体メモリ、磁気ディスク、光ディスク又は光磁気ディスクなどを用いたものである。
または、図3Bに示す如く、接近検出部11、消灯制御部12、第1撮像制御部13、輝度値検出部14、第1判定部15、点灯制御部16、第2撮像制御部17、指標値算出部18、差分値算出部19、第2判定部20及び警告出力制御部21の機能が専用の処理回路33により実現されるものであっても良い。処理回路33は、例えば、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field−Programmable Gate Array)、SoC(System−on−a−Chip)又はシステムLSI(Large−Scale Integration)などを用いたものである。
または、接近検出部11、消灯制御部12、第1撮像制御部13、輝度値検出部14、第1判定部15、点灯制御部16、第2撮像制御部17、指標値算出部18、差分値算出部19、第2判定部20及び警告出力制御部21のうちの一部の機能がプロセッサ31及びメモリ32により実現されて、残余の機能が処理回路33により実現されるものであっても良い。
次に、図4のフローチャートを参照して、制御装置9の動作について説明する。なお、初期状態において、ユーザは車両1の車外におり、かつ、車両1の各ドアは施錠されているものとする。
まず、ステップST1にて、接近検出部11は、受信機6による出力信号を用いて、ユーザが車両1に接近したこと、より具体的にはユーザが受信可能エリア内に入ったことを検出する。接近検出部11によりユーザの接近が検出されたとき、制御装置9の処理はステップST2に進む。
次いで、ステップST2にて、消灯制御部12は光源4を消灯させる。
次いで、ステップST3にて、第1撮像制御部13は、カメラ3に第1画像の撮像を指示する。これにより、第1画像が撮像される。
次いで、ステップST4にて、輝度値検出部14は、第1画像データをカメラ3から取得する。輝度値検出部14は、第1画像データを用いて、第1画像における輝度値を検出する。
次いで、ステップST5にて、第1判定部15は、輝度値検出部14により検出された輝度値を用いて、外光の量が基準量未満であるか否かを判定する。より具体的には、第1判定部15は、予め記憶されている基準値と輝度値検出部14により検出された輝度値とを比較して、輝度値が基準値未満であるか否かを判定する。第1判定部15は、輝度値が基準値未満である場合、外光の量が基準量未満であると判定する。
第1判定部15により輝度値が基準値未満であると判定された場合(ステップST5“YES”)、ステップST6にて、点灯制御部16は光源4を点灯させる。
次いで、ステップST7にて、第2撮像制御部17は、カメラ3に第2画像の撮像を指示する。これにより、第2画像が撮像される。
次いで、ステップST8にて、指標値算出部18は、第2画像データをカメラ3から取得する。指標値算出部18は、第2画像データを用いて、第2画像におけるエッジ強度の総和を示す指標値を算出する。
次いで、ステップST9にて、差分値算出部19は、予め記憶されている指標値と指標値算出部18により算出された指標値との差分値を算出する。差分値算出部19により算出される差分値は、基準画像におけるエッジ強度に対する第2画像におけるエッジ強度の低下量を示すものである。
次いで、ステップST10にて、第2判定部20は、予め記憶されている閾値と差分値算出部19により算出された差分値とを比較して、差分値が閾値以上であるか否かを判定する。すなわち、第2判定部20は、基準画像におけるエッジ強度に対する第2画像におけるエッジ強度の低下量が閾値以上であるか否かを判定する。
第2判定部20により差分値が閾値以上であると判定された場合(ステップST10“YES”)、ステップST11にて、警告出力制御部21は、出力装置8を用いて警告を出力する制御を実行する。例えば、警告出力制御部21は、ディスプレイに警告画像を表示させたり、スピーカーに警告音声を出力させたり、又は警告インジケーターを点灯させたりする。他方、第2判定部20により差分値が閾値未満であると判定された場合(ステップST10“NO”)、ステップST11の処理はキャンセルされて、制御装置9の処理は終了する。
なお、第1判定部15により輝度値が基準値以上であると判定された場合(ステップST5“NO”)、ステップST6以降の処理はキャンセルされて、制御装置9の処理は終了する。
仮に外光の量が基準量以上である状態にて第2画像が撮像される場合、外光の影響により第2画像におけるエッジ強度が変動する。この変動により、カメラ3のレンズに異常が発生していないにもかかわらず差分値算出部19により算出される差分値が閾値以上となり、不要な警告が出力される可能性がある。これに対して、外光の量が基準量以上である場合はステップST6以降の処理をキャンセルすることにより、かかる不要な警告が出力されるのを回避することができる。
なお、接近検出部11による接近の検出に用いられる信号は、キーレスエントリーシステム5用の受信機6による出力信号に限定されるものではない。接近検出部11は、車両1用の何らかのシステム又は車両1内の何らかのネットワークにより出力された信号を用いて車両1に対するユーザの接近を検出するものであれば良い。
また、基準画像は、第2画像が撮像されるよりも先に第2画像の撮像条件と同等の撮像条件にて撮像された画像であれば良く、車両1の工場出荷時に撮像された画像に限定されるものではない。
また、基準画像撮像時の撮像条件と第2画像撮像時の撮像条件とは少なくとも一部の条件について互いに同等であれば良く、全ての条件について互いに同等でなければならないものではない。例えば、車室内におけるユーザの有無、外光の量が基準量未満であるか否か、及び光源4の点灯の有無以外の撮像条件については、基準画像の撮像時と第2画像の撮像時とで互いに異なるものであっても良い。
また、接近検出部11、輝度値検出部14及び第1判定部15の各々は、図1に示す如く異常検出装置100内に設けられているものであっても良く、又は異常検出装置100外に設けられているものであっても良い。例えば、図5に示す如く、接近検出部11、輝度値検出部14及び第1判定部15が異常検出装置100外に設けられており、指標値算出部18、差分値算出部19、第2判定部20及び警告出力制御部21により異常検出装置100の要部が構成されているものであっても良い。
また、接近検出部11、輝度値検出部14、第1判定部15、指標値算出部18、差分値算出部19、第2判定部20及び警告出力制御部21の各々は、車両1に搭載自在な車載情報機器、車両1に持ち込み自在な携帯情報端末、又は、当該車載情報機器若しくは当該携帯情報端末と通信自在なサーバ装置のうちのいずれかに設けられているものであっても良い。すなわち、当該車載情報機器、当該携帯情報端末又は当該サーバ装置のうちのいずれか二以上により、異常検出システムの要部が構成されているものであっても良い。
以上のように、実施の形態1の異常検出装置100は、ユーザが車両1に乗り込む前のタイミングにて車室内撮像用のカメラ3により撮像された画像である第2画像におけるエッジ強度の総和を示す指標値を算出する指標値算出部18と、第2画像が撮像されるよりも先に第2画像の撮像条件と同等の撮像条件にてカメラ3により撮像された画像である基準画像におけるエッジ強度の総和を示す指標値と指標値算出部18により算出された指標値との差分値を算出する差分値算出部19と、差分値が閾値以上であるか否かを判定する第2判定部20と、第2判定部20により差分値が閾値以上であると判定された場合、警告を出力する制御を実行する警告出力制御部21とを備える。ユーザが車両1に乗り込む前のタイミングにて撮像された第2画像を用いることにより、被写体の変化(より具体的には、ユーザの服装及びユーザが身に着けている装飾品などの変化)に応じたエッジ強度の変動に起因する誤検出の発生を抑制することができる。この結果、カメラ3のレンズに異常が発生していないにもかかわらず警告が出力されるのを回避したり、又はカメラ3のレンズに異常が発生しているにもかかわらず警告が出力されなくなるのを回避したりすることができる。
また、異常検出装置100は、車両1の車外から車両1の車室内に差し込む外光の量が基準量未満であるか否かを判定する第1判定部15を備え、第2画像は、外光の量が基準量未満であり、かつ、カメラ3による撮像用の光源4が点灯している状態にてカメラ3により撮像された画像である。外光の量が基準量未満である状態にて撮像された第2画像を用いることにより、外光の影響による誤検出の発生を抑制することができる。また、光源4の光量は一定であるため、外光の影響が基準値未満、かつ光源4が点灯している状態にて撮像された第2画像を用いることにより、撮影時の光量は外光よりも光源4の影響が支配的となり、基準画像と第2画像の照明環境の変動を抑えることができ、撮影時の照明環境の変化に応じたエッジ強度の変動に起因する誤検出の発生を抑制することができる。この結果、カメラ3のレンズに異常が発生していないにもかかわらず警告が出力されるのを回避したり、又はカメラ3のレンズに異常が発生しているにもかかわらず警告が出力されなくなるのを回避したりすることができる。
また、異常検出装置100は、キーレスエントリーシステム5用の受信機6による出力信号を用いて、車両1に対するユーザの接近を検出する接近検出部11を備え、ユーザが車両1に乗り込む前のタイミングは、接近検出部11により車両1に対するユーザの接近が検出されたタイミングである。キーレスエントリーシステム5を用いることにより、車両1の駐停車中における電力消費量を抑制しつつ、ユーザが車両1に乗り込む前のタイミングを検出することができる。
また、異常検出装置100は、ユーザが車両1に乗り込む前のタイミングにて、かつ、光源4が消灯している状態にてカメラ3により撮像された画像である第1画像における輝度値を検出する輝度値検出部14を備え、第1判定部15は、輝度値が基準値未満である場合、外光の量が基準量未満であると判定する。これにより、カメラ3による撮像画像を用いて外光の量が基準量未満であるか否かを判定することができる。すなわち、外光の量が基準量未満であるか否かを判定するための専用のカメラ又はセンサなどを不要とすることができる。
また、基準画像は、車両1の工場出荷時にカメラ3により撮像された画像である。これにより、車両1の工場出荷時の状態におけるカメラ3による撮像画像を基準画像に設定することができる。すなわち、第2画像に対する比較に適した画像を基準画像に設定することができる。
また、実施の形態1の異常検出方法は、指標値算出部18が、ユーザが車両に乗り込む前のタイミングにて車室内撮像用のカメラ3により撮像された画像である第2画像におけるエッジ強度の総和を示す指標値を算出するステップST8と、差分値算出部19が、第2画像が撮像されるよりも先に第2画像の撮像条件と同等の撮像条件にてカメラ3により撮像された画像である基準画像におけるエッジ強度の総和を示す指標値と指標値算出部18により算出された指標値との差分値を算出するステップST9と、第2判定部20が、差分値が閾値以上であるか否かを判定するステップST10と、警告出力制御部21が、第2判定部20により差分値が閾値以上であると判定された場合、警告を出力する制御を実行するステップST11とを備える。これにより、異常検出装置100による上記効果と同様の効果を得ることができる。
なお、本願発明はその発明の範囲内において、実施の形態の任意の構成要素の変形、もしくは実施の形態の任意の構成要素の省略が可能である。
本発明の異常検出装置は、例えば、乗員モニタリングシステムに応用することができる。
1 車両、2 撮像装置、3 カメラ、4 光源、5 キーレスエントリーシステム、6 受信機、7 送信機、8 出力装置、9 制御装置、11 接近検出部、12 消灯制御部、13 第1撮像制御部、14 輝度値検出部、15 第1判定部、16 点灯制御部、17 第2撮像制御部、18 指標値算出部、19 差分値算出部、20 第2判定部、21 警告出力制御部、31 プロセッサ、32 メモリ、33 処理回路、100 異常検出装置。

Claims (6)

  1. ユーザが車両に乗り込む前のタイミングにて車室内撮像用のカメラにより撮像された画像である第2画像におけるエッジ強度の総和を示す指標値を算出する指標値算出部と、
    前記第2画像が撮像されるよりも先に前記第2画像の撮像条件と同等の撮像条件にて前記カメラにより撮像された画像である基準画像におけるエッジ強度の総和を示す指標値と前記指標値算出部により算出された指標値との差分値を算出する差分値算出部と、
    前記差分値が閾値以上であるか否かを判定する第2判定部と、
    前記第2判定部により前記差分値が前記閾値以上であると判定された場合、警告を出力する制御を実行する警告出力制御部と、
    を備える異常検出装置。
  2. 前記車両の車外から前記車両の車室内に差し込む外光の量が基準量未満であるか否かを判定する第1判定部を備え、
    前記第2画像は、前記外光の量が前記基準量未満であり、かつ、前記カメラによる撮像用の光源が点灯している状態にて前記カメラにより撮像された画像である
    ことを特徴とする請求項1記載の異常検出装置。
  3. キーレスエントリーシステム用の受信機による出力信号を用いて、前記車両に対する前記ユーザの接近を検出する接近検出部を備え、
    前記ユーザが前記車両に乗り込む前のタイミングは、前記接近検出部により前記車両に対する前記ユーザの接近が検出されたタイミングである
    ことを特徴とする請求項1記載の異常検出装置。
  4. 前記ユーザが前記車両に乗り込む前のタイミングにて、かつ、前記光源が消灯している状態にて前記カメラにより撮像された画像である第1画像における輝度値を検出する輝度値検出部を備え、
    前記第1判定部は、前記輝度値が基準値未満である場合、前記外光の量が前記基準量未満であると判定する
    ことを特徴とする請求項2記載の異常検出装置。
  5. 前記基準画像は、前記車両の工場出荷時に前記カメラにより撮像された画像であることを特徴とする請求項1から請求項4のうちのいずれか1項記載の異常検出装置。
  6. 指標値算出部が、ユーザが車両に乗り込む前のタイミングにて車室内撮像用のカメラにより撮像された画像である第2画像におけるエッジ強度の総和を示す指標値を算出するステップと、
    差分値算出部が、前記第2画像が撮像されるよりも先に前記第2画像の撮像条件と同等の撮像条件にて前記カメラにより撮像された画像である基準画像におけるエッジ強度の総和を示す指標値と前記指標値算出部により算出された指標値との差分値を算出するステップと、
    第2判定部が、前記差分値が閾値以上であるか否かを判定するステップと、
    警告出力制御部が、前記第2判定部により前記差分値が前記閾値以上であると判定された場合、警告を出力する制御を実行するステップと、
    を備える異常検出方法。
JP2019571912A 2018-02-16 2018-02-16 異常検出装置及び異常検出方法 Active JP6678844B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/005490 WO2019159321A1 (ja) 2018-02-16 2018-02-16 異常検出装置及び異常検出方法

Publications (2)

Publication Number Publication Date
JP6678844B2 JP6678844B2 (ja) 2020-04-08
JPWO2019159321A1 true JPWO2019159321A1 (ja) 2020-05-28

Family

ID=67619371

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019571912A Active JP6678844B2 (ja) 2018-02-16 2018-02-16 異常検出装置及び異常検出方法

Country Status (5)

Country Link
US (1) US11146784B2 (ja)
JP (1) JP6678844B2 (ja)
CN (1) CN111699677B (ja)
DE (1) DE112018006861B4 (ja)
WO (1) WO2019159321A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113378797B (zh) * 2021-07-14 2024-06-11 江苏邦融微电子有限公司 指纹采集头的水滴检测方法
CN115375645A (zh) * 2022-08-17 2022-11-22 武汉海微科技有限公司 车载显示屏显示异常的测试方法、装置、设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007198929A (ja) * 2006-01-27 2007-08-09 Hitachi Ltd 車両内状態検知システム,車両内状態検知装置および方法
JP2009005198A (ja) * 2007-06-25 2009-01-08 Hitachi Ltd 映像監視システム
JP2009107527A (ja) * 2007-10-31 2009-05-21 Denso Corp 車両の乗員検出装置
JP2014040198A (ja) * 2012-08-23 2014-03-06 Nissan Motor Co Ltd 車両用乗員検知装置及び車両用乗員検知方法
JP2015007874A (ja) * 2013-06-25 2015-01-15 日産自動車株式会社 車室内監視装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7596242B2 (en) * 1995-06-07 2009-09-29 Automotive Technologies International, Inc. Image processing for vehicular applications
JP4130434B2 (ja) 2004-11-30 2008-08-06 本田技研工業株式会社 撮像装置の異常検知装置
JP2007022360A (ja) 2005-07-19 2007-02-01 Denso Corp 車両用セキュリティシステム
JP2011068440A (ja) 2009-09-24 2011-04-07 Toshiba Elevator Co Ltd エレベータ監視装置、エレベータ監視方法及びエレベータ遠隔監視システム
JP5343920B2 (ja) * 2010-04-27 2013-11-13 株式会社デンソー 故障予兆検出装置
JP5953658B2 (ja) * 2011-05-25 2016-07-20 ソニー株式会社 ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置
JP6117634B2 (ja) * 2012-07-03 2017-04-19 クラリオン株式会社 レンズ付着物検知装置、レンズ付着物検知方法、および、車両システム
US10013616B2 (en) * 2014-05-27 2018-07-03 Robert Bosch Gmbh Detection, identification, and mitigation of lens contamination for vehicle mounted camera systems
LU92516B1 (en) 2014-08-11 2016-02-12 Iee Sarl Infrared imager non-uniformity correction with bad pixel detection and correction
JP6464013B2 (ja) * 2015-04-01 2019-02-06 富士フイルム株式会社 撮影装置および方法
CN105163110A (zh) * 2015-09-02 2015-12-16 厦门美图之家科技有限公司 摄像头清洁度的检测方法、检测系统及拍摄终端
KR101715612B1 (ko) * 2016-01-26 2017-03-13 주식회사 비츠로씨앤씨 수처리시설의 플록 모니터링 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007198929A (ja) * 2006-01-27 2007-08-09 Hitachi Ltd 車両内状態検知システム,車両内状態検知装置および方法
JP2009005198A (ja) * 2007-06-25 2009-01-08 Hitachi Ltd 映像監視システム
JP2009107527A (ja) * 2007-10-31 2009-05-21 Denso Corp 車両の乗員検出装置
JP2014040198A (ja) * 2012-08-23 2014-03-06 Nissan Motor Co Ltd 車両用乗員検知装置及び車両用乗員検知方法
JP2015007874A (ja) * 2013-06-25 2015-01-15 日産自動車株式会社 車室内監視装置

Also Published As

Publication number Publication date
US11146784B2 (en) 2021-10-12
DE112018006861B4 (de) 2021-07-29
JP6678844B2 (ja) 2020-04-08
US20210067768A1 (en) 2021-03-04
CN111699677A (zh) 2020-09-22
WO2019159321A1 (ja) 2019-08-22
DE112018006861T5 (de) 2020-10-08
CN111699677B (zh) 2022-04-19

Similar Documents

Publication Publication Date Title
US11487007B2 (en) Object detection device
JP6586239B2 (ja) 撮影装置及び撮影方法
JP5759950B2 (ja) 車載カメラ装置
US20120262340A1 (en) Step filter for estimating distance in a time-of-flight ranging system
JP2005515565A (ja) 画像センサシステムにおける視界妨害物の識別方法および識別装置
EP2670147A2 (en) Abnormality diagnosis device and method, imager including the abnormality diagnosis device, mobile vehicle control system and mobile vehicle
JP2016537934A (ja) カメラの被覆状態の認識方法、カメラシステム、及び自動車
US11498457B2 (en) Vehicle mounted system, vehicle control system and method for monitoring an infant in a vehicle cabin
JP2012228916A (ja) 車載カメラシステム
US20180147955A1 (en) Passenger detection device and passenger detection program
US20180079356A1 (en) Alighting notification device
JP6678844B2 (ja) 異常検出装置及び異常検出方法
KR101344066B1 (ko) 차량용 블랙박스의 조명 제어장치 및 그 방법
JP2005199846A (ja) セキュリティシステム
JP6606473B2 (ja) 画像処理装置、画像処理方法、撮像装置、及び移動体
KR101823656B1 (ko) 차체공간상태 및 영상을 이용한 차량 침입 검출 시스템 및 방법
CN117203094A (zh) 用于检测正确的安全带使用和距离的系统和方法
JP2022143854A (ja) 乗員状態判定装置および乗員状態判定方法
JP2017039333A (ja) 車両用防犯システム、車両用防犯方法
US20230019442A1 (en) Infrared imaging device and infrared imaging system
US11423639B2 (en) Hidden camera detection systems and methods
JP2019039807A (ja) レインセンサ
US20240205551A1 (en) Signal processing device and method, and program
WO2023074903A1 (ja) センシングシステムおよび自動車
JP7470540B2 (ja) 内部機器の異常判定装置、異常判定方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200121

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200121

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200212

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200317

R150 Certificate of patent or registration of utility model

Ref document number: 6678844

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250