JP2019211852A - 物体監視装置 - Google Patents

物体監視装置 Download PDF

Info

Publication number
JP2019211852A
JP2019211852A JP2018105072A JP2018105072A JP2019211852A JP 2019211852 A JP2019211852 A JP 2019211852A JP 2018105072 A JP2018105072 A JP 2018105072A JP 2018105072 A JP2018105072 A JP 2018105072A JP 2019211852 A JP2019211852 A JP 2019211852A
Authority
JP
Japan
Prior art keywords
image
driver
imaging device
cause
recognized
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018105072A
Other languages
English (en)
Other versions
JP6973298B2 (ja
Inventor
健一郎 原
Kenichiro Hara
健一郎 原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2018105072A priority Critical patent/JP6973298B2/ja
Priority to US16/418,416 priority patent/US11373283B2/en
Priority to DE102019114412.4A priority patent/DE102019114412A1/de
Priority to CN201910462234.0A priority patent/CN110557558B/zh
Publication of JP2019211852A publication Critical patent/JP2019211852A/ja
Application granted granted Critical
Publication of JP6973298B2 publication Critical patent/JP6973298B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/98Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • G06V10/993Evaluation of the quality of the acquired pattern
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30268Vehicle interior
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • H04N23/811Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation by dust removal, e.g. from surfaces of the image sensor or processing of the image signal output by the electronic image sensor

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Signal Processing (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Biomedical Technology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Emergency Alarm Devices (AREA)

Abstract

【課題】物体を監視する物体監視装置において物体が認識されない原因を精度良く判定する。【解決手段】物体監視装置1は、所定の物体が存在すべき範囲を撮影して画像を生成する撮像装置2と、画像に基づいて物体を認識する物体認識部34と、画像が不鮮明であることを検出する検出部35と、画像が不鮮明であることが検出されたことを示す検出情報を記憶する記憶部31と、画像に基づいて前記物体が認識されないときに、物体が認識されない原因を判定する判定部36とを備える。判定部は、画像に基づいて物体が認識されず且つ画像が不鮮明であることが検出されない状況が発生したときに、状況が発生するまでの所定期間における検出情報に基づいて、ドライバが認識されない原因が撮像装置にあるか否かを判定する。【選択図】図4

Description

本発明は物体監視装置に関する。
従来、物体(人間、動物、ワーク等)の検出等のために撮像装置によって物体を撮影することが知られている。撮像装置のレンズは物体の撮影のために外部に露出されている。このため、レンズに汚れ、曇り等の異常が発生する場合がある。レンズに異常が発生すると、撮像装置によって生成される画像が不鮮明になり、物体の検出精度が低下する。
このため、撮像装置のレンズの異常を検出できることが望ましい。特許文献1に記載の情報処理装置では、被写体を撮影することによって生成された第1の画像と、第1の画像とは異なる姿勢の被写体を撮影することによって生成された第2の画像とを比較することによって撮像装置の異常が判定される。
特開2017−143526号公報 特開2003−259358号公報
ところで、物体を監視する物体監視装置に撮像装置が用いられ、撮像装置が常に所定範囲を撮影する場合がある。この場合、撮像装置が固定され且つ被写体の動作が予測不能であるため、異なる状態における被写体の二つの画像を意図的に生成することができない。このため、撮像装置の異常を検出するために、特許文献1に記載の手法を適用することができない。
また、物体監視装置では、撮像装置によって生成された画像に基づいて物体を認識できない場合、原因として撮像装置の異常又は物体の異常が考えられる。物体の異常は、物体が正常な状態にないことを意味し、物体の異常によって物体の認識が妨げられる。物体の異常を精度良く検出するためには、物体が認識されない原因を特定する必要がある。
上記課題に鑑みて、本発明の目的は、物体を監視する物体監視装置において物体が認識されない原因を精度良く判定することにある。
本開示の要旨は以下のとおりである。
(1)所定の物体が存在すべき範囲を撮影して画像を生成する撮像装置と、前記画像に基づいて前記物体を認識する物体認識部と、前記画像が不鮮明であることを検出する検出部と、前記画像が不鮮明であることが検出されたことを示す検出情報を記憶する記憶部と、前記画像に基づいて前記物体が認識されないときに、前記物体が認識されない原因を判定する判定部とを備え、前記判定部は、前記画像に基づいて前記物体が認識されず且つ前記画像が不鮮明であることが検出されない状況が発生したときに、該状況が発生するまでの所定期間における前記検出情報に基づいて、前記原因が前記撮像装置にあるか否かを判定する、物体監視装置。
(2)前記判定部は、前記状況が発生したときに、前記所定期間において前記画像が不鮮明であることが検出された回数又は頻度が所定値以上である場合に、前記原因が前記撮像装置にあると判定する、上記(1)に記載の物体監視装置。
(3)前記判定部は、前記状況が発生したときに、前記画像が不鮮明であることが検出された頻度が前記所定期間において経時的に増加している場合に、前記原因が前記撮像装置にあると判定する、上記(1)に記載の物体監視装置。
(4)前記判定部は、前記画像に基づいて前記物体が認識されず且つ前記画像が不鮮明であることが検出された場合には、前記原因が前記撮像装置にあると判定し、前記判定部は、前記状況が発生したときに、前記所定期間において前記状況が発生していないときに前記原因が前記撮像装置にあると判定された回数又は頻度が所定値以上である場合に、前記原因が前記撮像装置にあると判定する、上記(1)に記載の物体監視装置。
(5)前記判定部は、前記画像に基づいて前記物体が認識されず且つ前記画像が不鮮明であることが検出された場合には、前記原因が前記撮像装置にあると判定し、前記判定部は、前記状況が発生したときに、前記状況が発生していないときに前記原因が前記撮像装置にあると判定された頻度が前記所定期間において経時的に増加している場合に、前記原因が前記撮像装置にあると判定する、上記(1)に記載の物体監視装置。
(6)前記物体は車両のドライバである、上記(1)から(5)のいずれか1つに記載の物体監視装置。
(7)前記判定部は、前記状況が発生したときに前記原因が前記撮像装置にあると判定した場合に、前記ドライバに前記撮像装置の清掃を促す、上記(6)に記載の物体監視装置。
本発明によれば、物体を監視する物体監視装置において物体が認識されない原因を精度良く判定することができる。
図1は、本発明の第一実施形態に係る物体監視装置の構成を示すブロック図である。 図2は、物体監視装置を搭載した車両の内部を概略的に示す図である。 図3は、撮像装置によって生成された画像が徐々に不鮮明になる状況を概略的に示す図である。 図4は、第一実施形態における原因判定処理の制御ルーチンを示すフローチャートである。 図5は、第二実施形態における原因判定処理の制御ルーチンを示すフローチャートである。
以下、図面を参照して本発明の実施形態について詳細に説明する。なお、以下の説明では、同様な構成要素には同一の参照番号を付す。
<第一実施形態>
以下、図1〜図4を参照して、本発明の第一実施形態について説明する。
<物体監視装置の構成>
図1は、本発明の第一実施形態に係る物体監視装置の構成を示すブロック図である。物体監視装置1は物体を監視する。
物体監視装置1は撮像装置2及びECU(電子制御ユニット)3を備える。撮像装置2は、所定位置に固定され、所定範囲を撮影して画像を生成する。所定範囲は、所定の物体(監視対象)が存在すべき範囲である。本実施形態では、監視対象である物体が車両のドライバである。このため、物体監視装置1は、車両に搭載され、車両のドライバを監視する。
図2は、物体監視装置1を搭載した車両の内部を概略的に示す図である。車両10は、例えば自動走行が可能な自動運転車両である。撮像装置2は、車両10のドライバが存在すべき範囲を撮影してドライバの画像を生成する。本実施形態では、撮像装置2はいわゆるドライバモニタカメラである。撮像装置2は車両10の内部に設けられる。具体的には、図2に示すように、撮像装置2は車両10のステアリングコラム11の上部に設けられる。図2には、撮像装置2の投影範囲が破線で示されている。なお、撮像装置2は、車両10のステアリング12、ルームミラー、メータパネル、メータフード等に設けられてもよい。
撮像装置2はカメラ及び投光器を備える。カメラは、レンズ及び撮像素子を含み、例えばCMOS(相補型金属酸化膜半導体)カメラ又はCCD(電荷結合素子)カメラである。投光器は、LED(発光ダイオード)であり、例えばカメラの両側に配置された二個の近赤外LEDである。ドライバに近赤外光を照射することによって、夜間等の低照度時においてもドライバに不快感を与えることなくドライバの顔を撮影することができる。また、近赤外以外の波長成分の光を除去するするバンドパスフィルタがカメラの内部に設けられ、近赤外LEDから照射される赤色波長成分の光を除去する可視光カットフィルタが投光器の前面に設けられる。
撮像装置2の動作はECU3によって制御さる。例えば、撮像装置2は、車両10のイグニッションスイッチがオンであるときに、車両10のドライバが存在すべき範囲を所定間隔で繰り返し撮影する。撮像装置2によって生成された画像(以下、単に「画像」と称する)は撮像装置2からECU3に送信される。
<物体監視装置の制御>
ECU3は、車両10に設けられたマイクロコンピュータであり、各種制御を実行する。ECU3は、ROM(読み出し専用メモリ)31、RAM(ランダムアクセスメモリ)32及びCPU(中央演算装置)33を備える。ROM31及びRAM32は信号線を介してCPU33に接続されている。また、ECU3は、電源回路、入力ポート、出力ポート、通信モジュール等を更に備える。なお、本実施形態では、一つのECU3が設けられているが、機能毎に複数のECUが設けられてもよい。
ROM31は、各種データを記憶し、例えばCPU33が各種処理を実行するためのコンピュータプログラム等を記憶する。ROM31は記憶部の一例である。RAM32は、CPU33によって各種処理が実行されるときに生成されるデータ等を記憶する。本実施形態では、CPU33は、ROM31に記憶されたコンピュータプログラムを実行することによって、物体認識部34、検出部35及び判定部36として機能する。
物体認識部34は画像に基づいてドライバを認識する。具体的には、物体認識部34は、撮像装置2から画像を受信し、画像からドライバの顔を検出することによってドライバを認識する。画像からドライバの顔が検出されない場合、物体認識部34はドライバを認識しない。
基本的には、ドライバが正常である場合、すなわち走行中の車両10の周囲の監視義務をドライバが果たしている場合には、ドライバの顔が撮像装置2のカメラの画角内に入り、ドライバの顔が検出される。一方、ドライバが異常である場合に、例えば、ドライバが自分の体又は所有物によって撮像装置2のレンズを塞いでいる場合、ドライバがスマートフォン等を見ている場合、ドライバが離席している場合等には、ドライバの顔が検出不可能となる。
例えば、ドライバの顔部品の検出状態に応じて、物体認識部34によるドライバの顔の検出状態が変化する。物体認識部34は、画像から顔領域を特定し、眼、鼻、口等の顔部品の特徴点を抽出することによって顔部品を検出する。例えば、眼及び鼻の顔部品が検出された場合には物体認識部34によってドライバの顔が検出され、眼及び鼻の顔部品が検出されない場合に物体認識部34によってドライバの顔が検出されない。
なお、ドライバの顔を認識するための方法は他の方法であってもよい。例えば、物体認識部34は、正常な状態のドライバの顔画像を大量に学習し、ディープラーニング等の手法によってドライバの顔の検出を行ってもよい。この場合、ドライバが正常であると推測される限り、眼及び鼻の顔部品が検出されないときにも、物体認識部34によってドライバの顔が検出される。
撮像装置2の異常、例えば撮像装置2のレンズの異常(汚れ、曇り等)が生じると、画像が不鮮明になる。検出部35は、撮像装置2から画像を受信し、画像が不鮮明であることを検出する。例えば、検出部35は、所定時間において撮像素子の一部のみの画素の出力がほとんど変動しない場合に、画像が不鮮明であることを検出する。画像が不鮮明であることが検出された場合には、画像が不鮮明であることが検出されたことを示す検出情報(以下、単に「検出情報」と称する)がROM31に記憶される。
なお、画像が不鮮明であることを検出するための方法は他の方法であってもよい。例えば、検出部35は、所定時間において撮像素子の一部のみの画素の輝度が所定値以下である場合に、画像が不鮮明であることを検出してもよい。
判定部36は、物体認識部34によって画像に基づいてドライバが認識されないときに、ドライバが認識されない原因を判定する。ドライバが認識されない原因として、撮像装置2の異常又はドライバの異常が考えられる。このため、判定部36は、ドライバが認識されない原因を撮像装置2の異常又はドライバの異常に特定する。
図3は、画像が徐々に不鮮明になる状況を概略的に示す図である。図3には、撮像装置2によって生成されたドライバの顔画像の時間変化が簡略的に示される。図3の例では、時刻t1、時刻t2、時刻t4〜時刻t6、時刻t8及び時刻t9〜時刻t11において、画像が不鮮明であることが検出されている。また、時刻t3、時刻t5〜時刻t7及び時刻t9〜時刻t11において、画像に基づいてドライバの顔が検出されていない。すなわち、これら時刻において、物体認識部34によってドライバが認識されていない。また、時刻t12以降、ドライバの顔が検出されない状態が継続している。
画像に基づいてドライバが認識されず且つ画像が不鮮明であることが検出された場合(時刻t5、時刻t6及び時刻t9〜時刻t11)には、撮像装置2の異常が推定される。このため、判定部36は、画像に基づいてドライバが認識されず且つ画像が不鮮明であることが検出された場合には、ドライバが認識されない原因が撮像装置2にあると判定する。
時刻t12以降のように、撮像装置2の異常が悪化して画像全体が不鮮明になった場合には、検出部35は、画像が不鮮明であることを検出することができない。また、この場合、撮像装置2の異常によってドライバが認識されない。一方、時刻t3及び時刻t7では、ドライバの異常によってドライバが認識されない。したがって、時刻t12以降並びに時刻t3及び時刻t7のように、画像に基づいてドライバが認識されず且つ画像が不鮮明であることが検出されない状況(以下、「第1の状況」と称する)が発生した場合には、ドライバが認識されない原因としてドライバの異常又は撮像装置2の異常が考えられる。
図3から分かるように、画像が不鮮明であることが検出される回数及び頻度は、不鮮明の度合が大きくなるにつれて増加する。また、撮像装置2の異常は徐々に進行すると考えられ、不鮮明の度合も徐々に大きくなると考えられる。このため、ドライバが認識されない原因に応じて、第1の状況が発生するまでの所定期間(以下、単に「所定期間」と称する)における検出情報に差が生じると考えられる。
そこで、本実施形態では、判定部36は、第1の状況が発生したときに、所定期間における検出情報に基づいて、ドライバが認識されない原因が撮像装置2にあるか否かを判定する。このことによって、ドライバが認識されない原因を精度良く判定することができる。また、ドライバが正常であるにも拘わらずドライバに警報を与えることを抑制することができる。このことによって、ドライバに不快感を与えることを抑制することができる。
例えば、判定部36は、第1の状況が発生したときに、所定期間において画像が不鮮明であることが検出された回数又は頻度が所定値以上である場合に、ドライバが認識されない原因が撮像装置2にあると判定する。一方、判定部36は、第1の状況が発生したときに、所定期間において画像が不鮮明であることが検出された回数又は頻度が所定値未満である場合には、ドライバが認識されない原因がドライバにあると判定する。なお、頻度とは、所定数の画像が生成された場合に、画像が不鮮明であることが検出された割合を意味する。
また、判定部36は、第1の状況が発生したときに、画像が不鮮明であることが検出された頻度が所定期間において経時的に増加している場合に、ドライバが認識されない原因が撮像装置2にあると判定してもよい。この場合、判定部36は、第1の状況が発生したときに、画像が不鮮明であることが検出された頻度が所定期間において経時的に増加してない場合には、ドライバが認識されない原因がドライバにあると判定する。
撮像装置2の異常によって第1の状況が発生したときには、撮像装置2の異常が解消されるまで、ドライバの顔が認識されない状況が継続する。また、撮像装置2の異常がレンズの汚れ又は曇りである場合には、簡単なレンズの清掃によって撮像装置2の異常が解消することが多い。このため、判定部36は、第1の状況が発生したときに、ドライバが認識されない原因が撮像装置2にあると判定した場合に、ドライバに撮像装置2の清掃を促してもよい。このことによって、撮像装置2の修理に要する時間を低減することができる。また、車両10が自動運転車両である場合には、物体監視装置1によってドライバの顔が再び認識されることによって、自動走行を継続することができる。
<原因判定処理>
以下、図4のフローチャートを参照して、ドライバが認識されない原因を判定するための制御について詳細に説明する。図4は、第一実施形態における原因判定処理の制御ルーチンを示すフローチャートである。本制御ルーチンはECU3のCPU33によって所定の実行間隔で繰り返し実行される。所定の実行間隔は、例えば、撮像装置2からECU3に画像が送信される間隔である。
最初に、ステップS101において、判定部36は、画像が不鮮明であることが検出部35によって検出されたか否かを判定する。画像が不鮮明であることが検出されたと判定された場合、本制御ルーチンはステップS102に進む。
ステップS102では、判定部36は検出情報をROM31に記憶する。検出情報は、画像が不鮮明であることが検出された日時を含む。次いで、ステップS103において、判定部36は、物体認識部34によって画像に基づいてドライバが認識されたか否かを判定する。ドライバが認識されたと判定された場合、本制御ルーチンは終了する。
一方、ステップS103においてドライバが認識されなかったと判定された場合、本制御ルーチンはステップS104に進む。ステップS104では、判定部36は、ドライバが認識されない原因が撮像装置2(具体的には撮像装置2のレンズ)にあると判定する。また、判定部36は、車両10に設けられたHMI(ヒューマン・マシン・インターフェース(Human Machine Interface))等を介して、撮像装置2の異常をドライバに通知してもよい。ステップS104の後、本制御ルーチンは終了する。
また、ステップS101において画像が不鮮明であることが検出されなかったと判定された場合、本制御ルーチンはステップS105に進む。ステップS105では、判定部36は、ステップS103と同様に、物体認識部34によって画像に基づいてドライバが認識されたか否かを判定する。ドライバが認識されたと判定された場合、本制御ルーチンは終了する。
一方、ステップS105においてドライバが認識されなかったと判定された場合、本制御ルーチンはステップS106に進む。この場合、第1の状況が発生している。ステップS106では、判定部36は、所定期間における検出情報に基づいて、ドライバが認識されない原因が撮像装置2にあるか否かを判定する。具体的には、判定部36は、所定期間における検出情報に基づいて、所定期間において画像が不鮮明であることが検出された回数が所定値以上であるか否かを判定する。所定期間における検出情報はROM31に記憶されている。所定期間及び所定値は予め実験的に定められる。所定期間は、第1の状況が発生したときを終点とし、例えば、数時間〜数ヶ月である。
ステップS106において所定期間において画像が不鮮明であることが検出された回数が所定値未満であると判定された場合、本制御ルーチンはステップS107に進む。ステップS107では、判定部36は、ドライバが認識されない原因がドライバにあると判定する。次いで、ステップS108において、判定部36はHMI等を介してドライバに警報を与える。ステップS108の後、本制御ルーチンは終了する。
一方、ステップS106において所定期間において画像が不鮮明であることが検出された回数が所定値以上であると判定された場合、本制御ルーチンはステップS109に進む。ステップS109では、判定部36は、ドライバが認識されない原因が撮像装置2(具体的には撮像装置2のレンズ)にあると判定する。また、判定部36は、HMI等を介して、撮像装置2の異常をドライバに通知してもよい。次いで、ステップS110において、判定部36はHMI等を介してドライバに撮像装置2の清掃を促す。ステップS110の後、本制御ルーチンは終了する。
なお、ステップS106において、判定部36は、所定期間における検出情報に基づいて、所定期間において画像が不鮮明であることが検出された頻度が所定値以上であるか否かを判定してもよい。また、ステップS106において、判定部36は、所定期間における検出情報に基づいて、画像が不鮮明であることが検出された頻度が所定期間において経時的に増加しているか否かを判定してもよい。
また、ステップS104の後において、ステップS110と同様に、判定部36はHMI等を介してドライバに撮像装置2の清掃を促してもよい。また、ステップS110は省略されてもよい。
<第二実施形態>
第二実施形態に係る物体監視装置の構成及び制御は、以下に説明する点を除いて、基本的に第一実施形態に係る物体監視装置の構成及び制御と同様である。このため、以下、本発明の第二実施形態について、第一実施形態と異なる部分を中心に説明する。
上述したように、画像が不鮮明であることが検出される回数及び頻度は、不鮮明の度合が大きくなるにつれて増加する。また、不鮮明の度合が大きくなるにつれて、ドライバの顔が認識されない回数及び頻度も増加する。この結果、図3の時刻t5、時刻t6及び時刻t9〜時刻t12のように、第1の状況が発生していないときにドライバが認識されない原因が撮像装置2にあると判定される回数及び頻度も、不鮮明の度合が大きくなるにつれて増加する。
このため、第二実施形態では、判定部36は、第1の状況が発生していないときにドライバが認識されない原因が撮像装置2にあると判定された場合にのみ、検出情報をROM31に記憶する。また、判定部36は、第1の状況が発生したときに、所定期間において第1の状況が発生していないときにドライバが認識されない原因が撮像装置2にあると判定された回数又は頻度が所定値以上である場合に、ドライバが認識されない原因が撮像装置2にあると判定する。一方、判定部36は、第1の状況が発生したときに、所定期間において第1の状況が発生していないときにドライバが認識されない原因が撮像装置2にあると判定された回数又は頻度が所定値未満である場合には、ドライバが認識されない原因がドライバにあると判定する。なお、頻度とは、所定数の画像が生成された場合に、第1の状況が発生していないときにドライバが認識されない原因が撮像装置2にあると判定された割合を意味する。
また、判定部36は、第1の状況が発生したときに、所定期間において第1の状況が発生していないときにドライバが認識されない原因が撮像装置2にあると判定された頻度が経時的に増加している場合に、ドライバが認識されない原因が撮像装置2にあると判定してもよい。この場合、判定部36は、第1の状況が発生したときに、所定期間において第1の状況が発生していないときにドライバが認識されない原因が撮像装置2にあると判定された頻度が経時的に増加していない場合には、ドライバが認識されない原因がドライバにあると判定する。
第二実施形態における制御によれば、ドライバが認識されない原因を精度良く判定することができると共に、ROMの記憶容量を低減することができる。
<原因判定処理>
図5は、第二実施形態における原因判定処理の制御ルーチンを示すフローチャートである。本制御ルーチンはECU3のCPU33によって所定の実行間隔で繰り返し実行される。所定の実行間隔は、例えば、撮像装置2からECU3に画像が送信される間隔である。
ステップS201〜ステップS203及びステップS205は図4のステップS101及びステップS103〜ステップS105と同様であることから説明を省略する。本制御ルーチンは、ステップS203の後、ステップS204に進む。この場合、第1の状況が発生していないときにドライバが認識されない原因が撮像装置2にあると判定されている。このため、ステップS204では、判定部36は検出情報をROM31に記憶する。ステップS204の後、本制御ルーチンは終了する。
また、ステップS205においてドライバが認識されなかったと判定された場合、ステップS206において、判定部36は、所定期間における検出情報に基づいて、ドライバが認識されない原因が撮像装置2にあるか否かを判定する。具体的には、判定部36は、所定期間における検出情報に基づいて、所定期間において第1の状況が発生していないときにドライバが認識されない原因が撮像装置2にあると判定された回数が所定値以上であるか否かを判定する。所定期間における検出情報はROM31に記憶されている。所定期間及び所定値は予め実験的に定められる。所定期間は、第1の状況が発生したときを終点とし、例えば、数時間〜数ヶ月である。
ステップS206において、所定期間において第1の状況が発生していないときにドライバが認識されない原因が撮像装置2にあると判定された回数が所定値未満であると判定された場合、本制御ルーチンはステップS207に進む。この場合、図4のステップS107及びステップS108と同様に、判定部36は、ステップS207においてドライバが認識されない原因がドライバにあると判定し、ステップS208においてドライバに警報を与える。ステップS208の後、本制御ルーチンは終了する。
一方、ステップS206において、所定期間において第1の状況が発生していないときにドライバが認識されない原因が撮像装置2にあると判定された回数が所定値以上であると判定された場合、本制御ルーチンはステップS209に進む。この場合、図4のステップS109及びステップS110と同様に、判定部36は、ステップS209においてドライバが認識されない原因が撮像装置2(具体的には撮像装置2のレンズ)にあると判定し、ステップS210においてドライバに撮像装置2の清掃を促す。ステップS210の後、本制御ルーチンは終了する。
なお、ステップS206において、判定部36は、所定期間における検出情報に基づいて、所定期間において第1の状況が発生していないときにドライバが認識されない原因が撮像装置2にあると判定された頻度が所定値以上であるか否かを判定してもよい。また、ステップS106において、判定部36は、所定期間における検出情報に基づいて、第1の状況が発生していないときにドライバが認識されない原因が撮像装置2にあると判定された頻度が所定期間において経時的に増加しているか否かを判定してもよい。
また、ステップS203又はステップS204の後において、図4のステップS110と同様に、判定部36はドライバに撮像装置2の清掃を促してもよい。また、ステップS210は省略されてもよい。
以上、本発明に係る好適な実施形態を説明したが、本発明はこれら実施形態に限定されるものではなく、特許請求の範囲の記載内で様々な修正及び変更を施すことができる。例えば、監視対象である物体は、ドライバ以外の人間、動物、工場におけるワーク等であってもよい。
1 物体監視装置
2 撮像装置
3 ECU
31 ROM
32 RAM
33 CPU
34 物体認識部
35 検出部
36 判定部

Claims (7)

  1. 所定の物体が存在すべき範囲を撮影して画像を生成する撮像装置と、
    前記画像に基づいて前記物体を認識する物体認識部と、
    前記画像が不鮮明であることを検出する検出部と、
    前記画像が不鮮明であることが検出されたことを示す検出情報を記憶する記憶部と、
    前記画像に基づいて前記物体が認識されないときに、前記物体が認識されない原因を判定する判定部と
    を備え、
    前記判定部は、前記画像に基づいて前記物体が認識されず且つ前記画像が不鮮明であることが検出されない状況が発生したときに、該状況が発生するまでの所定期間における前記検出情報に基づいて、前記原因が前記撮像装置にあるか否かを判定する、物体監視装置。
  2. 前記判定部は、前記状況が発生したときに、前記所定期間において前記画像が不鮮明であることが検出された回数又は頻度が所定値以上である場合に、前記原因が前記撮像装置にあると判定する、請求項1に記載の物体監視装置。
  3. 前記判定部は、前記状況が発生したときに、前記画像が不鮮明であることが検出された頻度が前記所定期間において経時的に増加している場合に、前記原因が前記撮像装置にあると判定する、請求項1に記載の物体監視装置。
  4. 前記判定部は、前記画像に基づいて前記物体が認識されず且つ前記画像が不鮮明であることが検出された場合には、前記原因が前記撮像装置にあると判定し、
    前記判定部は、前記状況が発生したときに、前記所定期間において前記状況が発生していないときに前記原因が前記撮像装置にあると判定された回数又は頻度が所定値以上である場合に、前記原因が前記撮像装置にあると判定する、請求項1に記載の物体監視装置。
  5. 前記判定部は、前記画像に基づいて前記物体が認識されず且つ前記画像が不鮮明であることが検出された場合には、前記原因が前記撮像装置にあると判定し、
    前記判定部は、前記状況が発生したときに、前記状況が発生していないときに前記原因が前記撮像装置にあると判定された頻度が前記所定期間において経時的に増加している場合に、前記原因が前記撮像装置にあると判定する、請求項1に記載の物体監視装置。
  6. 前記物体は車両のドライバである、請求項1から5のいずれか1項に記載の物体監視装置。
  7. 前記判定部は、前記状況が発生したときに前記原因が前記撮像装置にあると判定した場合に、前記ドライバに前記撮像装置の清掃を促す、請求項6に記載の物体監視装置。
JP2018105072A 2018-05-31 2018-05-31 物体監視装置 Active JP6973298B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018105072A JP6973298B2 (ja) 2018-05-31 2018-05-31 物体監視装置
US16/418,416 US11373283B2 (en) 2018-05-31 2019-05-21 Object monitoring device
DE102019114412.4A DE102019114412A1 (de) 2018-05-31 2019-05-29 Objektüberwachungsvorrichtung
CN201910462234.0A CN110557558B (zh) 2018-05-31 2019-05-30 物体监视装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018105072A JP6973298B2 (ja) 2018-05-31 2018-05-31 物体監視装置

Publications (2)

Publication Number Publication Date
JP2019211852A true JP2019211852A (ja) 2019-12-12
JP6973298B2 JP6973298B2 (ja) 2021-11-24

Family

ID=68576469

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018105072A Active JP6973298B2 (ja) 2018-05-31 2018-05-31 物体監視装置

Country Status (4)

Country Link
US (1) US11373283B2 (ja)
JP (1) JP6973298B2 (ja)
CN (1) CN110557558B (ja)
DE (1) DE102019114412A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000207563A (ja) * 1999-01-20 2000-07-28 Fujitsu Ten Ltd 画像認識装置
JP2006314061A (ja) * 2005-05-09 2006-11-16 Nissan Motor Co Ltd 画像処理装置及びノイズ判定方法
JP2009159568A (ja) * 2007-12-28 2009-07-16 Omron Corp 異常検出装置および方法、並びに、プログラム
JP2017017635A (ja) * 2015-07-06 2017-01-19 株式会社トランストロン 故障診断装置

Family Cites Families (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3807331B2 (ja) 2002-03-06 2006-08-09 日産自動車株式会社 カメラの汚れ検出装置およびカメラの汚れ検出方法
JP3879719B2 (ja) * 2003-08-22 2007-02-14 松下電器産業株式会社 画像入力装置およびそれを用いた認証装置
US7804983B2 (en) * 2006-02-24 2010-09-28 Fotonation Vision Limited Digital image acquisition control and correction method and apparatus
JP2007300363A (ja) * 2006-04-28 2007-11-15 Omron Corp 監視装置および方法、並びにプログラム
CN201509249U (zh) * 2009-08-26 2010-06-16 深圳市飞瑞斯科技有限公司 一种具有失焦报警功能的监控摄像头
CN103221977B (zh) * 2010-12-09 2015-10-14 松下电器产业株式会社 姿势状态估计装置及姿势状态估计方法
WO2013147303A1 (ja) * 2012-03-30 2013-10-03 Necカシオモバイルコミュニケーションズ株式会社 撮像装置、撮像方法、およびプログラムを記録した記録媒体
EP2871629B1 (en) * 2012-07-03 2018-08-15 Clarion Co., Ltd. Vehicle-mounted environment recognition device
JP5765590B2 (ja) * 2013-03-15 2015-08-19 カシオ計算機株式会社 撮像装置、表示方法及びプログラム
JP6075224B2 (ja) * 2013-06-25 2017-02-08 株式会社明電舎 マルチレベル電力変換装置
JP6245875B2 (ja) * 2013-07-26 2017-12-13 クラリオン株式会社 レンズ汚れ検出装置およびレンズ汚れ検出方法
JP6183305B2 (ja) * 2014-07-02 2017-08-23 株式会社デンソー 故障検出装置および故障検出プログラム
JP2017092752A (ja) * 2015-11-12 2017-05-25 トヨタ自動車株式会社 撮像システム
CN105472250B (zh) * 2015-12-23 2018-12-07 浙江宇视科技有限公司 自动聚焦方法及装置
JP6576887B2 (ja) * 2016-08-09 2019-09-18 クラリオン株式会社 車載装置
US10169884B2 (en) * 2017-01-03 2019-01-01 International Business Machines Corporation Image-based device configuration
JP6627787B2 (ja) * 2017-01-17 2020-01-08 トヨタ自動車株式会社 ドライバ状態検出装置
JP6809262B2 (ja) * 2017-02-08 2021-01-06 トヨタ自動車株式会社 ドライバ状態検出装置
JP6365710B2 (ja) 2017-03-01 2018-08-01 ソニー株式会社 ロボット制御装置及びロボットの制御方法、並びにコンピューター・プログラム
JP6663406B2 (ja) * 2017-10-05 2020-03-11 本田技研工業株式会社 車両制御装置、車両制御方法、およびプログラム
US11591018B2 (en) * 2017-10-10 2023-02-28 Aisin Corporation Parking assistance device
JP6994901B2 (ja) * 2017-10-24 2022-01-14 キヤノン株式会社 制御装置、制御方法、及びプログラム
JP6930383B2 (ja) * 2017-11-07 2021-09-01 トヨタ自動車株式会社 車両の制御装置
JP6915503B2 (ja) * 2017-11-09 2021-08-04 トヨタ自動車株式会社 ドライバモニタシステム
JP6915502B2 (ja) * 2017-11-09 2021-08-04 トヨタ自動車株式会社 ドライバ状態検出装置
JP6996253B2 (ja) * 2017-11-24 2022-01-17 トヨタ自動車株式会社 車両の制御装置
JP6680809B2 (ja) * 2018-01-09 2020-04-15 ファナック株式会社 ファイバレーザ装置及び機械学習装置
JP7075995B2 (ja) * 2018-06-07 2022-05-26 マクセル株式会社 携帯情報端末
JP6870660B2 (ja) * 2018-06-08 2021-05-12 トヨタ自動車株式会社 ドライバ監視装置
JP6992693B2 (ja) * 2018-07-23 2022-01-13 トヨタ自動車株式会社 乗員状態認識装置
JP7065765B2 (ja) * 2018-12-28 2022-05-12 本田技研工業株式会社 車両制御システム、車両制御方法、及びプログラム
JP7147715B2 (ja) * 2019-08-07 2022-10-05 トヨタ自動車株式会社 運転支援装置および運転支援方法
US10842430B1 (en) * 2019-09-12 2020-11-24 Logitech Europe S.A. Eye fatigue detection using visual imaging
JP2021196941A (ja) * 2020-06-16 2021-12-27 トヨタ自動車株式会社 ドライバ監視システム
CN111726554B (zh) * 2020-06-30 2022-10-14 阿波罗智能技术(北京)有限公司 图像处理方法、装置、设备和存储介质
JP7359087B2 (ja) * 2020-07-02 2023-10-11 トヨタ自動車株式会社 ドライバモニタ装置及びドライバモニタ方法
JP7327301B2 (ja) * 2020-07-02 2023-08-16 トヨタ自動車株式会社 運転者監視装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000207563A (ja) * 1999-01-20 2000-07-28 Fujitsu Ten Ltd 画像認識装置
JP2006314061A (ja) * 2005-05-09 2006-11-16 Nissan Motor Co Ltd 画像処理装置及びノイズ判定方法
JP2009159568A (ja) * 2007-12-28 2009-07-16 Omron Corp 異常検出装置および方法、並びに、プログラム
JP2017017635A (ja) * 2015-07-06 2017-01-19 株式会社トランストロン 故障診断装置

Also Published As

Publication number Publication date
CN110557558B (zh) 2021-07-06
CN110557558A (zh) 2019-12-10
US11373283B2 (en) 2022-06-28
US20190370952A1 (en) 2019-12-05
DE102019114412A1 (de) 2019-12-05
JP6973298B2 (ja) 2021-11-24

Similar Documents

Publication Publication Date Title
US20110304746A1 (en) Image capturing device, operator monitoring device, method for measuring distance to face, and program
JP6068945B2 (ja) カメラ映像の反射光除去装置及び方法
JP6586239B2 (ja) 撮影装置及び撮影方法
JP2016537934A (ja) カメラの被覆状態の認識方法、カメラシステム、及び自動車
JP2018128834A (ja) ドライバ状態検出装置
US10284767B2 (en) Shooting device, shooting method, and non-transitory computer readable recording medium storing program
JP2019212226A (ja) ドライバ監視装置
KR20070111885A (ko) 촬상 기기의 포커싱 제어 장치 및 방법
US10789497B2 (en) Image capturing device and image capturing method for alternately switching two light filters
US11240420B2 (en) Image pickup apparatus, setting apparatus, wavelength acquiring apparatus, and storage medium
JP6973298B2 (ja) 物体監視装置
JP6662401B2 (ja) 乗員監視装置
JP6962141B2 (ja) ドライバ状態検出装置
US11823428B2 (en) Image processing apparatus and control method therefor, image capturing apparatus, and storage medium
JP5376254B2 (ja) 被写体認識装置
JP5206190B2 (ja) ドライバー監視装置
JP2014216832A (ja) 撮像装置
JP2015143657A (ja) 車両のステレオカメラシステム
WO2011151868A1 (ja) 瞳孔隠蔽状態検出装置及びそれを備えた車載カメラ
US20100123795A1 (en) Image pickup apparatus and control method of the same
JP2009252094A (ja) 顔画像検出装置
JP2010137663A (ja) 眼鏡監視装置
JP2010206434A (ja) 撮像装置
JP2024021407A (ja) 撮像装置及びその制御方法とプログラム
JP2016086392A (ja) 撮像装置、その制御方法、および制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200923

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210903

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211005

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211018

R151 Written notification of patent or utility model registration

Ref document number: 6973298

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151