JP2019156146A - 乗員監視装置 - Google Patents

乗員監視装置 Download PDF

Info

Publication number
JP2019156146A
JP2019156146A JP2018045239A JP2018045239A JP2019156146A JP 2019156146 A JP2019156146 A JP 2019156146A JP 2018045239 A JP2018045239 A JP 2018045239A JP 2018045239 A JP2018045239 A JP 2018045239A JP 2019156146 A JP2019156146 A JP 2019156146A
Authority
JP
Japan
Prior art keywords
imaging
sensitivity
occupant
image
steering wheel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018045239A
Other languages
English (en)
Other versions
JP6662401B2 (ja
Inventor
義朗 松浦
Yoshiro Matsuura
義朗 松浦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2018045239A priority Critical patent/JP6662401B2/ja
Priority to CN201910183320.8A priority patent/CN110278407A/zh
Priority to DE102019106258.6A priority patent/DE102019106258A1/de
Priority to US16/352,653 priority patent/US20190289185A1/en
Publication of JP2019156146A publication Critical patent/JP2019156146A/ja
Application granted granted Critical
Publication of JP6662401B2 publication Critical patent/JP6662401B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/021Determination of steering angle
    • B62D15/024Other means for determination of steering angle without directly measuring it, e.g. deriving from wheel speeds on different sides of the car
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R2011/0001Arrangements for holding or mounting articles, not otherwise provided for characterised by position
    • B60R2011/0003Arrangements for holding or mounting articles, not otherwise provided for characterised by position inside the vehicle
    • B60R2011/0005Dashboard
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/0153Passenger detection systems using field detection presence sensors
    • B60R21/01538Passenger detection systems using field detection presence sensors for image processing, e.g. cameras or sensor arrays
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30268Vehicle interior

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Transportation (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Studio Devices (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)

Abstract

【課題】操舵時に撮像部が一時的に遮蔽された場合に、遮蔽が解除された時点で適正な輝度で乗員を撮像できる乗員監視装置を提供する。【解決手段】乗員監視装置100は、乗員を撮像する撮像部1と、撮像部1が撮像した乗員の画像に対して所定の処理を行う画像処理部2と、撮像部1の撮像感度を切り替える感度制御部5とを備えており、画像処理部2で処理された乗員の画像に基づいて乗員を監視する。撮像部1は、ステアリングホイールを挟んで乗員と対向するように配置される。感度制御部5は、ステアリングホイールが操舵された場合に、撮像感度の切り替えを行わず、現在の撮像感度を維持する。【選択図】図1

Description

本発明は、車両の乗員を撮像部で撮像して監視する乗員監視装置に関し、特に、撮像部の撮像感度を適正に調整する技術に関する。
乗員の状態を監視する装置として、車両に搭載されるドライバモニタが知られている。ドライバモニタは、撮像部(カメラ)で撮像した運転者の顔の画像を解析して、瞼の閉じ具合や視線方向などから、居眠り運転や脇見運転の有無を監視する装置である。一般に、ドライバモニタの撮像部には、運転者の顔を撮像する撮像素子と、運転者の顔に光を照射する発光素子とが備わっている。特許文献1には、このようなドライバモニタの一例が示されている。
ドライバモニタの撮像部は、車両の運転席のダッシュボードなどに、表示パネルや計器類などと共に設置される場合が多いが、撮像部をこのように配置した場合、撮像部と被写体である運転者との間に、ステアリングホイールが介在する。そのため、運転者がステアリングホイールを操舵した際に、撮像部がステアリングホイールのスポークや運転者の手などによって遮蔽されることがある。撮像部が遮蔽されると、撮像画像は著しく暗い画像(遮蔽物によっては著しく明るい画像)となり、適正な輝度で顔を正確に検出するのが困難となる。
ドライバモニタにおいては、撮像した画像の輝度に応じて、撮像部の撮像感度を自動的に調整することが、従来より行われている。具体的には、画像が暗すぎる場合は、撮像素子の露光時間を長くしたり、発光素子の光強度を増加させたりすることで、撮像感度を上げて画像を明るくする。また、画像が明るすぎる場合は、撮像素子の露光時間を短くしたり、発光素子の光強度を減少させたりすることで、撮像感度を下げて画像を暗くする。
しかしながら、ステアリングホイールの操舵によって撮像部がスポークで遮蔽されても、スポークが撮像部を通り過ぎたり、ステアリングホイールが逆方向に操舵されたりして、撮像部の遮蔽が解除され、画像の状態が元に戻る場合が多い。したがって、操舵により撮像部が遮蔽されて画像が暗くなった場合に、これに応答して直ちに撮像感度を上げると、遮蔽状態が解除された時点で、撮像感度が高いために画像が明るくなりすぎて、顔の検出に支障が生じる。また、撮像部の遮蔽により画像が明るくなった場合も、直ちに撮像感度を下げると、遮蔽状態が解除された時点で画像が暗くなりすぎて、やはり顔の検出に支障が生じる。
従来のドライバモニタでは、ステアリングホイールの操舵時に撮像部が一時的に遮蔽されただけの場合でも、上述したように直ちに撮像感度を切り替えているため、遮蔽が解除された時点で、適正な輝度の画像が得られず、顔の検出が困難となる。この場合、感度自動調整機能が働いて、輝度を適正値に戻す制御が行われるが、これが完了するまでの間、顔の検出に時間遅れが発生することは避けられない。
撮像部と被写体との間の遮蔽物を検出して所定の処理を行う乗員監視装置が、特許文献2〜4に記載されている。特許文献2では、撮像部によりステアリングホイールのスポーク部が撮像されている場合は、運転者の運転状態に対する警報の出力を禁止する。特許文献3では、車両と撮像対象との間に遮蔽物が検出された場合、それ以降に遮蔽物がないと判定されたことを条件として、撮像を再開する。特許文献4では、撮像部がステアリングホイールで遮蔽されて、運転者の顔を正確に検出できないような場合に、顔情報の取得が失敗した原因を報知する。しかるに、これらの文献は、前述した操舵時の感度切替の問題点に対する解決策を提示するものではない。
特開2010−50535号公報 特開2000−172966号公報 特開2010−11311号公報 特開2009−201756号公報
本発明の課題は、操舵時に撮像部が一時的に遮蔽された場合に、遮蔽が解除された時点で適正な輝度で乗員を撮像できる乗員監視装置を提供することにある。
本発明に係る乗員監視装置は、ステアリングホイールを挟んで乗員と対向するように配置されて乗員を撮像する撮像部と、この撮像部が撮像した乗員の画像に対して所定の処理を行う画像処理部と、撮像部の撮像感度を切り替える感度制御部とを備えており、画像処理部で処理された乗員の画像に基づいて乗員を監視する。本発明では、感度制御部は、ステアリングホイールが操舵された場合に、撮像感度の切り替えを行わずに現在の撮像感度を維持する。
このような乗員監視装置によると、ステアリングホイールの操舵によって、撮像部が遮蔽されても、感度制御部は、撮像部の撮像感度を切り替えず、現在の撮像感度を維持する。このため、撮像部の遮蔽が解除された時点で、乗員の画像は暗すぎたり明るすぎたりしない適正な輝度の画像となり、この画像に基づいて乗員の顔などを正確に検出することができる。したがって、顔などの検出に従来のような時間遅れが発生せず、乗員の監視性能を向上させることができる。
本発明において、感度制御部は、ステアリングホイールが操舵され、かつ、撮像部の遮蔽が検出された場合に、撮像感度の切り替えを行わずに現在の撮像感度を維持してもよい。
本発明において、感度制御部は、撮像部の遮蔽が検出されなくなった後、乗員の画像の輝度に応じて撮像感度を切り替えてもよい。
本発明において、感度制御部は、乗員の画像における、当該乗員の特定部位が収まる特定領域の輝度を検出し、当該輝度に基づいて撮像部の遮蔽を検出してもよい。この場合、特定部位は乗員の顔であり、特定領域は顔が収まる顔領域であってもよい。
本発明において、感度制御部は、ステアリングホイールが操舵され、かつ、当該ステアリングホイールの操舵角が所定角度以上である場合に、撮像感度の切り替えを行わずに現在の撮像感度を維持してもよい。
本発明において、感度制御部は、ステアリングホイールの操舵角が所定角度未満となった後、乗員の画像の輝度に応じて撮像感度を切り替えてもよい。
本発明において、前記の所定角度は、ステアリングホイールのスポークが撮像部の一部または全部を遮蔽するときの、当該ステアリングホイールの基準位置からの回転角度であってもよい。
本発明において、感度制御部は、画像処理部から取得した画像に基づいて、ステアリングホイールが操舵されたことを検出してもよい。
本発明において、感度制御部は、ステアリングホイールの操舵角を検出する操舵角センサの出力に基づいて、ステアリングホイールが操舵されたことを検出してもよい。
本発明によれば、操舵時に撮像部が一時的に遮蔽された場合に、遮蔽が解除された時点で、適正な輝度で乗員を撮像することができる。
本発明の実施形態であるドライバモニタの電気ブロック図である。 撮像部による顔の撮像の様子を示す図である。 ステアリングホイールと撮像部の正面図である。 ステアリングホイールによる撮像部の遮蔽を説明するための図である。 従来の撮像画像の例を模式的に示す図である。 従来の撮像画像の例を模式的に示す図である。 本発明の撮像画像の例を模式的に示す図である。 本発明の撮像画像の例を模式的に示す図である。 感度制御の一例を示すフローチャートである。 撮像画像における顔領域と輝度分布を示す図である。 感度制御の他の例を示すフローチャートである。 ステアリングホイールの操舵角を説明するための図である。 本発明の他の実施形態によるドライバモニタの電気ブロック図である。
本発明の実施形態につき、図面を参照しながら説明する。各図において、同一の部分または対応する部分には、同一符号を付してある。以下では、本発明を車両に搭載されるドライバモニタに適用した例を挙げる。
まず、図1および図2を参照して、ドライバモニタの構成について説明する。図1において、ドライバモニタ100は、図2の車両30に搭載されており、撮像部1、画像処理部2、ドライバ状態判定部3、信号出力部4、感度制御部5、および撮像制御部6を備えている。
撮像部1は、カメラを構成しており、撮像素子11と発光素子12とを有している。撮像部1には、これら以外にレンズなどの光学部品も備わっている(図示省略)。撮像素子11は、たとえばCMOSイメージセンサからなる。発光素子12は、たとえば近赤外光を発光するLEDからなる。
図2に示すように、撮像部1は、ステアリングホイール33を挟んで、運転者34と対向するように配置され、シート32に着座した運転者34の顔Fを撮像する。点線は、撮像部1の撮像範囲を表している。撮像部1は運転席のダッシュボード31に、図示しないディスプレイや計器類と共に設けられている。撮像素子11は運転者34の顔Fを撮像し、発光素子12は運転者34の顔に近赤外光を照射する。運転者34は、本発明における「乗員」の一例である。
撮像部1を図2のように設置した場合、撮像部1と運転者34の顔Fとの間に、ステアリングホイール33が介在することになるが、図3に示すように、撮像部1は、ステアリングホイール33の開口部33bを通して、顔Fを撮像できるようになっている。ただし、後述するように、ステアリングホイール33の操舵に伴い、撮像部1は、ステアリングホイール33のスポーク33aによって遮蔽されることがある。
撮像部1は、発光素子12が光を照射していない状態で撮像した運転者34の第1画像と、発光素子12が光を照射している状態で撮像した運転者34の第2画像とを生成し、それぞれの画像を画像処理部2へ出力する。
画像処理部21は、画像受信部21、差分画像生成部22、顔検出部23、および特徴点抽出部24を有している。画像受信部21は、撮像部1が出力する第1画像および第2画像を受信して、これらを図示しない画像メモリに一時的に保存する。差分画像生成部22は、第2画像と第1画像との差分である差分画像を生成する。顔検出部23は、この差分画像に基づいて、運転者34の顔Fを検出する。特徴点抽出部24は、検出された顔Fにおける目、鼻、口などの特徴点を抽出する。差分画像を用いることにより、外乱光が除去されて、ムラの少ない鮮明な顔画像を得ることができる。
ドライバ状態判定部3は、画像処理部2の顔検出部23で検出された顔と、特徴点抽出部24で抽出された顔の特徴点とに基づいて、運転者34の顔の向き、瞼の開閉状態、視線方向などを判別し、その判別結果に基づいて運転者34の運転状態(居眠り運転や脇見運転など)を判定する。
信号出力部4は、ドライバ状態判定部3の判定結果を、図示しないECU(Electronic Control Unit)へ出力する。上位装置であるECUは、車両30に搭載されており、CAN(Controller Area Network)を介して、ドライバモニタ100と接続されている。
感度制御部5は、輝度検出部51、操舵検出部52、遮蔽検出部53、および感度切替部54を有している。
輝度検出部51は、差分画像生成部22で生成された差分画像を取得し、その輝度を検出する。操舵検出部52は、差分画像生成部22から取得した差分画像に基づいて、ステアリングホイール33が操舵されたことを検出するとともに、ステアリングホイール33の操舵角も検出する。遮蔽検出部53は、差分画像生成部22から取得した差分画像に基づいて、撮像部1がステアリングホイール33のスポーク33aや、運転者34の手などによって遮蔽されたことを検出する。
感度切替部54は、輝度検出部51で検出された画像の輝度に応じて、撮像部1の撮像感度を切り替える。すなわち、輝度が高すぎる場合は、輝度が低くなるように感度を下げ、輝度が低すぎる場合は、輝度が高くなるように感度を上げる。これは、従来から行われている通常の感度切替である。また、感度切替部54は、操舵検出部52および遮蔽検出部53の検出結果に基づいて、輝度検出部51で検出された輝度にかかわらず、撮像感度の切り替えを禁止する。これについては、後で詳細に説明する。
感度切替部54には、感度テーブルTが備わっている。この感度テーブルTには、複数段階の感度レベルと、各感度レベルに対応して設定された感度パラメータとが記憶されている(図示省略)。感度パラメータは、たとえば、撮像素子11の露光時間、発光素子12の駆動電流、撮像素子11のゲインなどである。感度切替部54は、この感度テーブルTを参照して、感度レベルと、当該感度レベルに応じた感度パラメータとを選択することにより、撮像部1の撮像感度を切り替える。
撮像制御部6は、撮像部1の撮像動作を制御する。具体的には、撮像制御部6は、撮像素子11の撮像タイミングや発光素子12の発光タイミングを制御し、また、感度切替部54から与えられる感度パラメータに基づいて、撮像部1の撮像感度を調整する。
なお、図1において、差分画像生成部22、顔検出部23、特徴点抽出部24、ドライバ状態判定部3、輝度検出部51、操舵検出部52、遮蔽検出部53、および感度切替部54の各機能は、実際にはソフトウェアによって実現されるが、図1では便宜上、ハードウェアのブロック図で示している。
次に、本発明のドライバモニタ100における感度制御の基本的なしくみについて説明する。
図3で示したように、ステアリングホイール33が操舵されない状態では、撮像部1は、スポーク33aによって遮蔽されず、開口部33bを通して運転者34の顔Fを撮像することができる。
この状態から、図4(a)のように、ステアリングホイール33が一方向(ここでは右方向)に操舵されると、ステアリングホイール33のスポーク33aが撮像部1に近づいてゆく。そして、図4(b)のように、ステアリングホイール33がある角度まで操舵されると、撮像部1がスポーク33aによって遮蔽される。その後、図4(c)のように、ステアリングホイール33がさらに操舵されると、スポーク33aが撮像部1を通り過ぎて、撮像部1の遮蔽が解除され、撮像部1は他の開口部33cを通して撮像が可能となる。また、ステアリングホイール33が、図4(b)の位置から図4(d)のように逆方向(ここでは左方向)に操舵された場合も、スポーク33aが撮像部1から離れて遮蔽が解除され、撮像部1は開口部33bを通して撮像が可能となる。
図5ないし図8における(a)〜(c)は、それぞれ図4の(a)〜(c)の状態における運転者34の画像P(差分画像)の例を示している。図5と図6は、従来のドライバモニタにおける画像であり、図7と図8は、本発明のドライバモニタにおける画像である。
図4(b)のように、撮像部1がスポーク33aで遮蔽された場合、画像Pにおけるスポーク33aの部分は、図5(b)のように暗くなるか、もしくは図6(b)のように明るくなる。いずれの場合も、顔Fがスポーク33aで覆われるため、顔Fの検出は不可能である。しかるに、従来のドライバモニタでは、図5(b)のように画像Pが暗くなった場合は、自動的に撮像部1の撮像感度を上げ、図6(b)のように画像Pが明るくなった場合は、自動的に撮像部1の撮像感度を下げている。
そうすると、撮像部1の遮蔽が解除された図4(c)の時点では、図5の場合は撮像感度が高くなっているために、当該時点における画像Pは、図5(c)のような明るすぎる画像となる。一方、図6の場合は撮像感度が低くなっているために、図4(c)の時点における画像Pは、図6(c)のような暗すぎる画像となる。したがって、いずれの場合も、画像Pから顔Fを正確に検出することは困難である。
もっとも、図5(c)や図6(c)の画像Pに対しては、冒頭でも述べたとおり、感度自動調整機能が働いて、輝度を適正値に戻す制御が行われるが、これが完了して顔Fを正確に検出できるようになるまで、時間遅れが発生する。このため、その間は運転者34の状態を正しく判定することができず、監視性能が低下する。
一方、本発明のドライバモニタ100においては、撮像部1がスポーク33aで遮蔽されて、図7(b)のように画像Pが暗くなった場合も、図8(b)のように画像Pが明るくなった場合も、共に撮像感度の切り替えを行わずに、現在の撮像感度を維持する。このため、図7(b)のように画像Pが暗くなった場合は、撮像感度が上がらないので、撮像部1の遮蔽が解除された図4(c)の時点の画像Pは、図7(c)のような明るすぎない適正な輝度の画像となる。また、図8(b)のように画像Pが明るくなった場合は、撮像感度が下がらないので、撮像部1の遮蔽が解除された図4(c)の時点の画像Pは、図8(c)のような暗すぎない適正な輝度の画像となる。このようにして、本発明の場合は、撮像部1の遮蔽が解除された時点で、適正な輝度の画像に基づいて、運転者34の顔Fを正確に検出することができる。このため、顔Fの検出に時間遅れが発生することがなく、監視性能が向上する。
なお、図4において、ステアリングホイール33が、(c)の位置から逆方向(左方向)に操舵された場合、撮像部1が再びスポーク33aにより遮蔽されるが、このときも撮像感度の切り替えは行われない。
次に、本発明のドライバモニタ100における感度制御の詳細について説明する。図9は、感度制御の一例を示したフローチャートである。
図9において、ステップS1では、撮像部1が、撮像制御部6の制御の下で運転者34を撮像する。この場合、発光素子12を発光させない状態で撮像した第1画像と、発光素子12を発光させた状態で撮像した第2画像とが得られる。
ステップS2では、画像処理部2の顔検出部23が、差分画像生成部22で生成された差分画像(第2画像と第1画像の差分)から、運転者34の顔Fを検出する。また、図9では図示を省略しているが、画像処理部2の特徴点抽出部24は、顔Fの特徴点を抽出する。
ステップS3では、感度制御部5の操舵検出部52が、ステアリングホイール33が操舵中か否か、すなわち、ステアリングホイール33が図3に示した基準位置から左右いずれかの方向へ回転しているか否かを判定する。操舵の有無は、前述したように、差分画像生成部22から取得した差分画像に基づいて判定することができる。
ステップS3での判定の結果、ステアリングホイール33が操舵中である場合(ステップS3:YES)は、ステップS4へ進み、操舵中でない場合(ステップS3:NO)は、ステップS7へ進む。ステップS7では、感度切替部54が、輝度検出部51で検出された画像の輝度に応じて、撮像部1の撮像感度を切り替える(通常の感度切替)。
ステップS4では、感度制御部5の遮蔽検出部53が、撮像部1の遮蔽の有無を判定する。遮蔽の有無は、前述したように、差分画像生成部22から取得した差分画像に基づいて判定することができる。
たとえば、図10の(a)に示すように、画像P(差分画像)において運転者34の顔Fが収まる顔領域Zの輝度を検出し、当該輝度に基づいて撮像部1の遮蔽を検出することができる。具体的には、図10の(b)や(c)に示すように、顔領域Zを構成する画素ブロックK(複数の画素を含むブロック)ごとの輝度を検出し、塗り潰したような極端に輝度の低い(または高い)画素ブロックKが所定のパターンで連続しているような場合は、撮像部1が遮蔽されたと判定する。なお、画像P上では、顔Fの全体が遮蔽されている必要はなく、顔Fの一部だけが遮蔽されている場合も、撮像部1が遮蔽されたと判定してよい。
ステップS4での判定の結果、撮像部1が遮蔽された場合(ステップS4:YES)は、ステップS5へ進み、撮像部1が遮蔽されていない場合(ステップS4:NO)は、ステップS7へ進む。
ステップS5では、感度制御部5の感度切替部54が、撮像部1の撮像感度を切り替えずに、現在の撮像感度を維持する。すなわち、撮像感度は、前回切り替えられた感度のままとなる。そして、次のステップS6において、遮蔽検出部53は、撮像部1の遮蔽が解除されたか否かを判定する。この判定も、差分画像に基づいて行うことができる。
ステップS6での判定の結果、撮像部1の遮蔽が解除されていなければ(ステップS6:NO)は、ステップS5へ戻って、現在の撮像感度の維持を継続する。一方、撮像部1の遮蔽が解除されると(ステップS6:YES)、ステップS7へ進み、通常の感度切替に従って撮像部1の撮像感度を切り替える。ステップS7の実行後は、ステップS1に戻って、上述した一連の動作が実行される。
以上述べた実施形態によると、ステアリングホイール33の操舵によって、撮像部1がスポーク33aで遮蔽されても、感度制御部5は、感度切替部54により撮像部1の撮像感度を切り替えず、現在の撮像感度を維持する。このため、撮像部1の遮蔽が解除された時点で、画像Pは暗すぎたり明るすぎたりしない適正な輝度の画像となり、この画像に基づいて運転者34の顔Fを正確に検出することができる。したがって、顔Fの検出に従来のような時間遅れが発生せず、運転者34の監視性能を向上させることができる。
図11は、感度制御の他の例を示したフローチャートである。ドライバモニタ100の構成は、図1(または後述する図13)に示したものと同じである。
図11において、ステップS11では、図9のステップS1と同じ処理が実行され、撮像部1が、撮像制御部6の制御の下で運転者34を撮像する。ステップS12では、図9のステップS2と同じ処理が実行され、画像処理部2の顔検出部23が、差分画像から運転者34の顔Fを検出する。
ステップS13では、図9のステップS3と同じ処理が実行され、操舵検出部52が、ステアリングホイール33が操舵中か否かを判定する。判定の結果、ステアリングホイール33が操舵中であれば(ステップS13:YES)、ステップS14へ進み、操舵中でなければ(ステップS13:NO)、ステップS17へ進む。ステップS17では、感度切替部54が、輝度検出部51で検出された輝度に応じて、撮像部1の撮像感度を切り替える(通常の感度切替)。
ステップS14では、操舵検出部52が、ステアリングホイール33の操舵角を検出する。操舵角は、差分画像に基づいて検出することができる。
ステップS15では、操舵検出部52が、ステップS14で検出された操舵角が所定角度以上か否かを判定する。この場合の所定角度は、たとえば、図12に示すように、スポーク33aが撮像部1の一部(または全部)を遮蔽するときの、ステアリングホイール33の操舵角θ(基準位置からの回転角度)に設定される。したがって、ステップS15の判定は、スポーク33aが撮像部1を遮蔽したか否かの判定でもある。
操舵角が所定角度に達するまでは(ステップS15:NO)、スポーク33aで撮像部1が遮蔽されていないと判断して、ステップS17へ進む。操舵角が所定角度に達すると(ステップS15:YES)、スポーク33aで撮像部1が遮蔽されたと判断して、ステップS16へ進む。
ステップS16では、感度制御部5の感度切替部54が、撮像部1の撮像感度を切り替えずに、現在の撮像感度を維持する。すなわち、撮像感度は、前回切り替えられた感度のままとなる。ステップS16およびS17の実行後は、ステップS11へ戻る。
上述した図11の実施形態によると、ステアリングホイール33の操舵角に基づいて、スポーク33aによる撮像部1の遮蔽の有無を判定しているので、図9のステップS4のように、画像を解析して撮像部1が遮蔽されたか否かを判定する必要がなく、遮蔽有無の判定処理が簡単になる利点がある。
図13は、本発明の他の実施形態によるドライバモニタ100を示している。図13では、図1と同一部分に同一符号を付してある。
前述した図1のドライバモニタ100では、感度制御部5の操舵検出部52が、画像処理部2から取得した差分画像に基づいて、ステアリングホイール33が操舵されたことを検出した。これに対して、図13のドライバモニタ100では、感度制御部5の操舵検出部52が、ステアリングホイール33の操舵角を検出する操舵角センサ7の出力に基づいて、ステアリングホイール33が操舵されたことを検出する。その他の構成については図1と同じであるので、重複部分の説明は省略する。
図13のドライバモニタ100によると、操舵検出部52は、操舵の有無を検出するにあたって画像を解析する必要がないので、操舵の検出処理が簡単になる利点がある。
本発明では、以上述べた実施形態以外にも、以下のような種々の実施形態を採用することができる。
前記の実施形態では、画像処理部2で生成された差分画像を用いて、顔Fを検出したり、撮像部1の遮蔽を検出したりしたが、本発明はこれに限定されない。たとえば、差分画像に代えて、撮像部1が撮像した前述の第1画像または第2画像を用いて、顔Fの検出や遮蔽の検出を行ってもよい。
前記の実施形態では、撮像部1がステアリングホイール33のスポーク33aによって遮蔽される場合を例に挙げたが、撮像部1は、ステアリングホイール33を把持した運転者34の手によって遮蔽される場合もある。本発明では、このような場合でも、スポーク33aで撮像部1が遮蔽された場合と同様の制御を行うことができる。
前記の実施形態では、ステアリングホイール33が操舵され、かつ撮像部1の遮蔽が検出された場合(図9のステップS3、S4)、または、ステアリングホイール33が操舵され、かつ操舵角が所定角度以上である場合(図11のステップS13、S15)に、撮像感度の切り替えを行わずに現在の撮像感度を維持したが、本発明はこれに限定されない。たとえば、ステアリングホイール33の操舵が検出されたことのみをもって、撮像感度の切り替えを行わずに現在の撮像感度を維持するようにしてもよい。
前記の実施形態では、画像における顔領域Zが四角形である例を挙げたが(図10)、これに限らず、顔領域Zは菱形、楕円形、円形などの領域であってもよい。
前記の実施形態では、乗員が運転者34であり、乗員の特定部位が顔Fであり、乗員の画像における特定領域が顔領域Zであったが、本発明はこれらに限定されない。乗員は運転者以外の者であってもよく、乗員の特定部位は顔以外の部位であってもよく、特定領域は顔以外の部位が収まる領域であってもよい。
前記の実施形態では、本発明の乗員監視装置として、車両に搭載されるドライバモニタ100を例に挙げたが、本発明は、車両以外の乗物に搭載される乗員監視装置にも適用することができる。
1 撮像部
2 画像処理部
3 ドライバ状態判定部
4 信号出力部
5 感度制御部
6 撮像制御部
7 操舵角センサ
33 ステアリングホイール
33a スポーク
34 運転者(乗員)
100 ドライバモニタ(乗員監視装置)
F 顔(特定部位)
Z 顔領域(特定領域)
P 乗員の画像
θ 操舵角

Claims (10)

  1. ステアリングホイールを挟んで乗員と対向するように配置され、前記乗員を撮像する撮像部と、
    前記撮像部が撮像した乗員の画像に対して所定の処理を行う画像処理部と、
    前記撮像部の撮像感度を切り替える感度制御部と、を備え、
    前記画像処理部で処理された乗員の画像に基づいて当該乗員を監視する、乗員監視装置において、
    前記感度制御部は、前記ステアリングホイールが操舵された場合に、前記撮像感度の切り替えを行わずに現在の撮像感度を維持する、ことを特徴とする乗員監視装置。
  2. 請求項1に記載の乗員監視装置において、
    前記感度制御部は、前記ステアリングホイールが操舵され、かつ、前記撮像部の遮蔽が検出された場合に、前記撮像感度の切り替えを行わずに現在の撮像感度を維持する、ことを特徴とする乗員監視装置。
  3. 請求項2に記載の乗員監視装置において、
    前記感度制御部は、前記撮像部の遮蔽が検出されなくなった後、前記乗員の画像の輝度に応じて前記撮像感度を切り替える、ことを特徴とする乗員監視装置。
  4. 請求項2または請求項3に記載の乗員監視装置において、
    前記感度制御部は、前記乗員の画像における、当該乗員の特定部位が収まる特定領域の輝度を検出し、当該輝度に基づいて前記撮像部の遮蔽を検出する、ことを特徴とする乗員監視装置。
  5. 請求項4に記載の乗員監視装置において、
    前記特定部位は乗員の顔であり、前記特定領域は前記顔が収まる顔領域である、ことを特徴とする乗員監視装置。
  6. 請求項1に記載の乗員監視装置において、
    前記感度制御部は、前記ステアリングホイールが操舵され、かつ、当該ステアリングホイールの操舵角が所定角度以上である場合に、前記撮像感度の切り替えを行わずに現在の撮像感度を維持する、ことを特徴とする乗員監視装置。
  7. 請求項6に記載の乗員監視装置において、
    前記感度制御部は、前記ステアリングホイールの操舵角が所定角度未満となった後、前記乗員の画像の輝度に応じて前記撮像感度を切り替える、ことを特徴とする乗員監視装置。
  8. 請求項6または請求項7に記載の乗員監視装置において、
    前記所定角度は、前記ステアリングホイールのスポークが前記撮像部の一部または全部を遮蔽するときの、当該ステアリングホイールの基準位置からの回転角度である、ことを特徴とする乗員監視装置。
  9. 請求項1ないし請求項8のいずれかに記載の乗員監視装置において、
    前記感度制御部は、前記画像処理部から取得した画像に基づいて、前記ステアリングホイールが操舵されたことを検出する、ことを特徴とする乗員監視装置。
  10. 請求項1ないし請求項8のいずれかに記載の乗員監視装置において、
    前記感度制御部は、前記ステアリングホイールの操舵角を検出する操舵角センサの出力に基づいて、前記ステアリングホイールが操舵されたことを検出する、ことを特徴とする乗員監視装置。
JP2018045239A 2018-03-13 2018-03-13 乗員監視装置 Expired - Fee Related JP6662401B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018045239A JP6662401B2 (ja) 2018-03-13 2018-03-13 乗員監視装置
CN201910183320.8A CN110278407A (zh) 2018-03-13 2019-03-12 乘员监测装置
DE102019106258.6A DE102019106258A1 (de) 2018-03-13 2019-03-12 Insassenüberwachungsvorrichtung
US16/352,653 US20190289185A1 (en) 2018-03-13 2019-03-13 Occupant monitoring apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018045239A JP6662401B2 (ja) 2018-03-13 2018-03-13 乗員監視装置

Publications (2)

Publication Number Publication Date
JP2019156146A true JP2019156146A (ja) 2019-09-19
JP6662401B2 JP6662401B2 (ja) 2020-03-11

Family

ID=67774781

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018045239A Expired - Fee Related JP6662401B2 (ja) 2018-03-13 2018-03-13 乗員監視装置

Country Status (4)

Country Link
US (1) US20190289185A1 (ja)
JP (1) JP6662401B2 (ja)
CN (1) CN110278407A (ja)
DE (1) DE102019106258A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7227106B2 (ja) * 2019-08-22 2023-02-21 本田技研工業株式会社 操作制御装置、操作制御方法、およびプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005157648A (ja) * 2003-11-25 2005-06-16 Toyota Motor Corp 運転者認識装置
JP2012156661A (ja) * 2011-01-25 2012-08-16 Denso Corp 顔撮影システム
US20160018889A1 (en) * 2014-07-21 2016-01-21 Tobii Ab Method and apparatus for detecting and following an eye and/or the gaze direction thereof

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000172966A (ja) 1998-12-11 2000-06-23 Nissan Motor Co Ltd 警報装置
JP5233322B2 (ja) 2008-02-28 2013-07-10 オムロン株式会社 情報処理装置および方法、並びに、プログラム
JP5040831B2 (ja) 2008-06-30 2012-10-03 日産自動車株式会社 車両用撮影装置および撮影方法
JP2010050535A (ja) 2008-08-19 2010-03-04 Toyota Motor Corp 撮像装置
US10102419B2 (en) * 2015-10-30 2018-10-16 Intel Corporation Progressive radar assisted facial recognition
KR102585445B1 (ko) 2016-09-13 2023-10-05 동우 화인켐 주식회사 감광성 수지 조성물 및 이로부터 제조된 광경화 패턴
JP6528787B2 (ja) * 2017-01-17 2019-06-12 トヨタ自動車株式会社 車両の制御装置
US11057573B2 (en) * 2017-12-20 2021-07-06 Texas Instruments Incorporated Multi camera image processing

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005157648A (ja) * 2003-11-25 2005-06-16 Toyota Motor Corp 運転者認識装置
JP2012156661A (ja) * 2011-01-25 2012-08-16 Denso Corp 顔撮影システム
US20160018889A1 (en) * 2014-07-21 2016-01-21 Tobii Ab Method and apparatus for detecting and following an eye and/or the gaze direction thereof

Also Published As

Publication number Publication date
US20190289185A1 (en) 2019-09-19
CN110278407A (zh) 2019-09-24
DE102019106258A1 (de) 2019-09-19
JP6662401B2 (ja) 2020-03-11

Similar Documents

Publication Publication Date Title
CN102625047B (zh) 面部成像系统和用于控制面部成像系统的方法
JP5761074B2 (ja) 撮像制御装置及びプログラム
KR101327032B1 (ko) 카메라 영상의 반사광 제거 장치 및 방법
JP4738778B2 (ja) 画像処理装置、運転支援装置および運転支援システム
JP6257792B2 (ja) カメラの被覆状態の認識方法、カメラシステム、及び自動車
WO2017006853A1 (ja) 運転者異常検出装置及び運転者異常検出方法
JP2008067362A (ja) 画像処理装置および画像処理方法
TWI559766B (zh) 用於判定因光條件變化所致之像素密度要求改變之需要之方法及裝置
US10110828B2 (en) Photographing apparatus and method for controlling photographing apparatus
JP2019159346A (ja) 撮像装置
JP2019156146A (ja) 乗員監視装置
US10432854B2 (en) Image processing apparatus to determine whether there is fog or mist in a captured image
JP6646879B2 (ja) 撮像装置
JP2017225073A (ja) 撮像装置とその制御方法、プログラム及び撮像システム
JP2010049491A (ja) 運転状態監視装置
US10003736B2 (en) Image pickup device
JP2009096323A (ja) カメラ照明制御装置
JP2012010282A (ja) 撮像装置、露光制御方法及び露光制御プログラム
KR101428229B1 (ko) 차영상 취득 장치 및 방법
JP2010023626A (ja) ドライバー監視装置
WO2023032029A1 (ja) 遮蔽判定装置、乗員監視装置及び遮蔽判定方法
JP2018143285A (ja) 生体状態判定装置、生体状態判定システム、及び、生体状態判定方法
JP6631561B2 (ja) 方向検出装置及び操作制御装置
WO2020121650A1 (ja) 眼の開閉検出装置、乗員監視装置
JP7048301B2 (ja) 撮影システム、撮影ユニット、情報処理ユニット、撮影ユニットの異常検出方法

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20190311

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190319

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200127

R150 Certificate of patent or registration of utility model

Ref document number: 6662401

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees