JP2019202726A - 車両の乗員監視装置 - Google Patents

車両の乗員監視装置 Download PDF

Info

Publication number
JP2019202726A
JP2019202726A JP2018100637A JP2018100637A JP2019202726A JP 2019202726 A JP2019202726 A JP 2019202726A JP 2018100637 A JP2018100637 A JP 2018100637A JP 2018100637 A JP2018100637 A JP 2018100637A JP 2019202726 A JP2019202726 A JP 2019202726A
Authority
JP
Japan
Prior art keywords
occupant
light projecting
imaging device
vehicle
driver
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018100637A
Other languages
English (en)
Other versions
JP7211673B2 (ja
Inventor
中村 亮太
Ryota Nakamura
亮太 中村
健志 枝田
Kenshi Eda
健志 枝田
恵太 大西
Keita Onishi
恵太 大西
雅幸 丸橋
Masayuki Maruhashi
雅幸 丸橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Subaru Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Subaru Corp filed Critical Subaru Corp
Priority to JP2018100637A priority Critical patent/JP7211673B2/ja
Priority to DE102019108437.7A priority patent/DE102019108437A1/de
Priority to CN201910271597.6A priority patent/CN110525340A/zh
Priority to US16/379,929 priority patent/US10824886B2/en
Publication of JP2019202726A publication Critical patent/JP2019202726A/ja
Application granted granted Critical
Publication of JP7211673B2 publication Critical patent/JP7211673B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/593Recognising seat occupancy
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/12Fingerprints or palmprints
    • G06V40/1365Matching; Classification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8006Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying scenes of vehicle interior, e.g. for monitoring passengers or cargo

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Abstract

【課題】乗員監視装置では、監視対象の人数を増やす場合であっても、撮像デバイスの使用個数を抑えることが求められている。【解決手段】 乗員室2に設けられたシート3に乗員が着座する車両の乗員監視装置17は、車幅方向に並んで着座する複数の乗員を撮像する撮像デバイス35と、シート3による複数の着座位置に対応して設けられ、着座した各乗員へ向けて投光する複数の投光デバイス36,37と、を有する。【選択図】 図4

Description

本発明は、車両の乗員監視装置に関する。
自動車といった車両は、基本的に、複数の乗員が乗り込み、運転手が運転する。
そして、特許文献1は、乗員監視装置を開示する。
特開2006−134038号公報
しかしながら、特許文献1の乗員監視装置は、運転手一人のみを監視するものであり、撮像デバイスも、運転手一人のみを撮像するように設けられている。
このため、たとえば運転手だけでなく助手やその他の乗員についても監視しようとすると、乗員監視装置は、監視対象の人数分の撮像デバイスが必要になる。
また、乗員監視装置が監視のために同時的に処理しなければならない画像の数も、監視対象の人数に対応した撮像デバイスの個数分に増える。
このように乗員監視装置では、監視対象の人数を増やす場合であっても、撮像デバイスの使用個数を抑えることが求められている。
本発明に係る車両の乗員監視装置は、乗員室に設けられたシートに乗員が着座する車両の乗員監視装置であって、車幅方向に並んで着座する複数の乗員を撮像する撮像デバイスと、前記シートによる複数の着座位置に対応して設けられ、着座した各乗員へ向けて投光する複数の投光デバイスと、を有する。
好適には、前記撮像デバイスは、前記乗員室において車幅方向の中央部に設けられ、車幅方向に並んで着座する複数の乗員を、1つの画像に撮像する、とよい。
好適には、各前記投光デバイスは、乗員の少なくとも頭部に対して投光する、とよい。
好適には、各前記投光デバイスは、投光する乗員の着座位置に対して斜め方向または横方向に設けられる、とよい。
好適には、前記乗員室には、運転手用の前記シートと助手用の前記シートとが車幅方向に並んで設けられ、前記撮像デバイスは、前記乗員室に設けられたダッシュボードの中央部に設けられ、車幅方向に並んで着座する運転手と助手とを、1つの画像に撮像する、とよい。
好適には、運転手用の前記投光デバイスは、前記ダッシュボードにおいて、前記撮像デバイスについての助手の側に並べて設けられ、助手用の前記投光デバイスは、前記ダッシュボードにおいて、前記撮像デバイスについての運転手の側に並べて設けられる、とよい。
好適には、運転手用の前記投光デバイスと、助手用の前記投光デバイスとは、前記撮像デバイスを間に挟んで車幅方向に並ぶように、前記ダッシュボードの中央上部に集めて設けられる、とよい。
好適には、運転手用の前記投光デバイス、助手用の前記投光デバイス、および前記撮像デバイスは、前記ダッシュボードに設けられる表示デバイスまたは操作デバイスの周囲に設けられる、とよい。
好適には、運転手用の前記投光デバイス、助手用の前記投光デバイス、および前記撮像デバイスの下側には、空調ダクトが設けられる、とよい。
好適には、前記撮像デバイスにより撮像された画像に基づいて乗員監視のための制御を実行する制御部、を有し、前記制御部は、前記撮像デバイスが撮像した1つの画像に基づいて、車幅方向に並んで着座する複数の乗員についての監視制御を実行する、とよい。
好適には、前記制御部は、前記撮像デバイスの方向へ顔を向けた画像と、前記車両の正面へ顔を向けた画像とに基づいて、乗員を識別する、とよい。
このように本発明の乗員監視装置では、車幅方向に並んで着座する複数の乗員を、1つの撮像デバイスで撮像する。よって、本発明では、監視対象の人数を増やす場合であっても、撮像デバイスや投光デバイスの使用個数を抑えることができる。
また、本発明では、シートの着座位置と一対一に対応して設けられる複数の投光デバイスから、着座した各乗員へ向けて投光する。よって、車両の乗員監視装置では、車両の移動中の太陽光の有無などの急激な変化により撮像環境が大きくかつ急激に変化することがあるが、そのような場合であっても、本発明では、1つの撮像デバイスによる撮像画像において、複数の監視対象の乗員が良好に撮像されている画像を得ることができる。
しかも、本発明において投光デバイスは、撮像デバイスと同様に車幅方向に並んで着座する複数の乗員の全体に対して投光するのではなく、各乗員へ向けて個別に投光する。よって、本発明では、複数の乗員の全体に対して投光する場合と比べて少ない総光量で、複数の乗員に対して効率よく投光できる。投光による車両の負荷を軽減できる。また、車両の乗員監視装置では、各乗員に対して強い日射が当たっている場合であっても、各乗員について監視に利用可能な濃度差の画像を得る必要があるが、そのような画像を少ない総光量により得ることが可能になる。
図1は、本発明の実施形態に係る乗員監視装置が適用される自動車の説明図である。 図2は、図1の前列の二つのシートに、運転手と助手とが着座している状態を示す説明図である。 図3は、図1の自動車の制御装置の説明図である。 図4は、本発明の実施形態に係る乗員監視装置の構成図である。 図5は、図4のセンサユニットの構造およびレイアウトの説明図である。 図6は、図4の撮像デバイスの撮像範囲と、一対の投光デバイスの投光範囲とを模式的に示す図である。 図7は、図4の監視制御部による乗員登録処理のフローチャートである。 図8は、図4の監視制御部による乗員監視処理のフローチャートである。
図1は、本発明の実施形態に係る乗員監視装置17が適用される自動車1の説明図である。
自動車1は、車両の一例である。自動車1は、内燃機関を走行の動力源としているものでも、バッテリの蓄電電力を走行の動力源としているものでも、それらを組み合わせたものでもよい。
図1の自動車1は、乗員が着座するシート3が設けられる乗員室2、を有する。
シート3に着座した運転手の前には、ダッシュボード4から後向きに突出したハンドル5、が配置される。
図2は、図1の前列の二つのシート3に、運転手と助手とが着座している状態を示す説明図である。
図2には、乗員室2には、運転手用のシート3と、助手用のシート3とが、車幅方向に並んで設けられる。
図3は、図1の自動車1の制御装置10の説明図である。
図3の制御装置10は、ドア開閉センサ11、車速センサ12、パークセンサ13、表示デバイス14、操作デバイス15、スピーカデバイス16、乗員監視装置17、ポジション設定装置18、運転支援装置19、車外通信装置20、乗員保護装置21、空調装置22、およびこれらを接続する車内ネットワーク23、を有する。
車内ネットワーク23には、たとえばCAN(Controller Area Network)、LIN(Local Interconnect Network)に準拠した有線の通信ネットワークがある。車内ネットワーク23は、無線の通信ネットワークでもよい。
ドア開閉センサ11は、自動車1のドアが閉じた状態から開いたこと、および、開いた状態のドアが閉じられたことを検出する。
車速センサ12は、自動車1の停止および走行を検出する。車速センサ12は、自動車1の走行速度を検出してもよい。
パークセンサ13は、自動車1が停車状態に維持されるパーキング状態を検出する。パーキング状態は、たとえばシフトレバーがパーキング位置に操作されたこと、パーキングレバーが引かれたこと、により検出することができる。
表示デバイス14は、各種の情報や画像を表示する。
操作デバイス15は、乗員の操作に応じた操作情報を生成する。
スピーカデバイス16は、音声、警告音などを出力する。
ポジション設定装置18は、たとえば、シート3の前後上下の位置および背もたれの角度、ハンドル5の前後上下の位置および角度、各種ペダルの前後上下の位置および角度を調整する。また、シート3に着差した乗員に対応する設定データを記録し、それに基づいてシート3、ハンドル5およびペダルの位置および角度を調整する制御を実行する。なお、ポジション設定装置18は、自動運転中でのポジションの設定データを、手動運転中でのポジションの設定データと別に記録し、自動車1の運転状況に応じてポジションを変更してもよい。
運転支援装置19は、乗員による自動車1の走行操作を支援するように、自動車1の走行、停止および操舵を制御する。また、運転支援装置19は、全自動で、自動車1の走行、停止および操舵を制御してもよい。
車外通信装置20は、たとえば公共無線通信網や商用無線通信網を用いて、地上に設置された通信設備や他の自動車の車外通信装置と、双方向のデータ通信を実行する。これにより、自動車1は、交通情報、周囲を走行する自動車1の走行状態、自車の周囲の交通状況に関する情報を取得できる。また、車外通信装置20は、たとえば自動運転中などの自車の走行状態の情報を送信できる。
乗員保護装置21は、衝突の際にエアバッグを展開したりシートベルトにテンションかけたりすることにより、シート3に着座した乗員を保護する。
空調装置22は、乗員室2へ冷却または過熱した空気を供給し、これにより乗員室2の温度を設定温度に調整する。
乗員監視装置17は、たとえば乗員室2に乗車してドライバ用のシート3に着座した乗員を認識し、認識した乗員の脇見や居眠りを監視する。そして、乗員が脇見や居眠りをしていることを検出した場合、乗員監視装置17は、スピーカデバイス16から、音声などにより乗員に対して警告を発する。これにより、乗員の注意を自動車1の走行に集中させるように仕向けて安全性を高めることが期待できる。このように、乗員監視装置17は、車内ネットワーク23を通じて他の機器から制御に必要な情報を得たり、車内ネットワーク23を通じて他の機器を制御したりする。
ところで、自動車1には、運転手だけでなく、助手などの他の乗員も乗り込んでシート3に着座する。
このため、乗員監視装置17は、運転手だけでなく、助手などの他の乗員も監視するのが望ましい。
しかしながら、このように複数の乗員を監視しようとする場合、乗員監視装置17は、乗員毎の撮像デバイス35を複数で備える必要がある。撮像デバイス35は、基本的に、自動車1に設けられているシート3の着座位置と同数で必要になる。
たとえば運転手だけでなく助手についても監視しようとすると、乗員監視装置17は、監視対象の人数分に相当する2つの撮像デバイス35が必要になる。
また、乗員監視装置17が監視のために同時的に処理しなければならない画像の数も、撮像デバイス35の個数分に応じて比例的に増えてしまう。
このように乗員監視装置17では、監視対象の人数を増やす場合であっても、撮像デバイス35の使用個数を抑えることが求められている。
ここでは、車幅方向に並んでシート3に着座する運転手と助手とを監視する乗員監視装置17を例に説明する。
図4は、本発明の実施形態に係る乗員監視装置17の構成図である。
図4の乗員監視装置17は、センサユニット31、監視制御部38、記録部39、を有する。
また、図4には、ダッシュボード4の中央下部に配置されるタッチパネルディスプレイデバイス41が図示されている。タッチパネルディスプレイデバイス41は、表示デバイス14の表示画面の上に透明な操作デバイス15が重ねられたものである。
図5は、図4のセンサユニット31の構造およびレイアウトの説明図である。
図5(A)は、センサユニット31を後方から見た図である。
図5(B)は、センサユニット31を上方から見た図である。
センサユニット31は、ダッシュボード4の中央上部に設けられる。
図5のセンサユニット31は、保冷カバー32、撮像デバイス35、運転手用の投光デバイス36、助手用の投光デバイス37、を有する。
保冷カバー32は、高い熱伝導率を有するアルミダイキャスト製のものであり、カバー部33と、熱伝導部34と、を有する。
カバー部33は、略長方形の板形状を有し、撮像デバイス35および一対の投光デバイス36,37の上側を覆う。
熱伝導部34は、略コの字形状を有し、略長方形の板形状のカバー部33から下へ延在する。
そして、熱伝導部34の下端縁は、撮像デバイス35および一対の投光デバイス36,37より下側まで延在する。
これにより、撮像デバイス35および一対の投光デバイス36,37は、上側、前側および左右両側が、高い熱伝導率を有するカバー部33に覆われる。
センサユニット31がダッシュボード4の中央上部に設けられているが、撮像デバイス35および一対の投光デバイス36,37には、太陽からの直射日光により過熱され難くなる。
また、センサユニット31の直下には、空調装置22の空調ダクト42が設けられる。空調装置22が動作している場合、空調ダクト42は設定温度になる。空調ダクト42により、高い熱伝導率を有するカバー部33も、設定温度に近い温度に制御される。
このため、太陽からの直射日光が照射されている状況において撮像デバイス35および一対の投光デバイス36,37が発熱しても、撮像デバイス35および一対の投光デバイス36,37は、動作可能な温度に維持され得る。
記録部39は、たとえば半導体メモリデバイス、ハードディスクデバイス、である。記録部39は、乗員監視装置17で用いるプログラムやデータを保持する。記録部39は、たとえば個人データベース40を保持する。
個人データベース40は、乗員監視装置17にされた乗員の情報として、乗員毎にたとえば識別番号、認証用の顔画像、設定情報、などを有する。
監視制御部38、たとえばCPU(Central Processing Unit)である。CPUは、記録部39のプログラムを読み込んで実行する。これにより、監視制御部38が実現される。
監視制御部38は、乗員室2に乗車している乗員を識別して監視する。
監視制御部38は、撮像デバイス35により撮像された画像に基づいて、乗員監視のための制御を実行する。
次に、撮像デバイス35、および一対の投光デバイス36,37について説明する。
図6は、図4の撮像デバイス35の撮像範囲と、一対の投光デバイス36,37の投光範囲とを模式的に示す図である。
図6は、撮像範囲および投光範囲を、上から見た図である。図2には、前側から見た撮像範囲および投光範囲を図示する。
これらの図において、撮像範囲は、破線で示されている。投光範囲は、一点鎖線で示されている。
撮像デバイス35は、たとえば赤外線による画像を広角で撮像する。
撮像デバイス35は、乗員室2において車幅方向の中央部に相当する、ダッシュボード4の中央部に設けられる。
撮像デバイス35は、図6および図2に破線で示すように、車幅方向に並んで着座する運転手と助手とを含む撮像範囲を、1つの赤外線画像に撮像する。
一対の投光デバイス36,37は、たとえば赤外線を投光する。
投光デバイス36,37は、本実施形態での撮像対象である運転手と助手と一対一対応で設けられる。
投光デバイス36,37は、図6および図2に一点鎖線で示すように、シート3による着座した各乗員へ向けた投光範囲に赤外線を照射する。この際、投光デバイス36,37は、図示外の集光レンズを備えてよい。これにより、図2に示すように、投光デバイス36,37は、乗員の頭部や顔が可動する投光範囲に向けて集中的に赤外線を照射できる。
投光デバイス36,37は、出力光量が大きくなるほど、多くの電力を消費し、発熱が大きくなる。本実施形態では、投光デバイス36,37による投光範囲を図6および図2に示すように撮像範囲の一部となるように絞り込む。これにより、一対の投光デバイス36,37は、少ない電力消費および発熱により、複数の乗員の頭部に対して強い赤外線を照射できる。強い直射日光が照りつけている状況下でも、監視制御部38は、撮像デバイス35撮像画像において各乗員の頭部の特徴を抽出し得る。
運転手用の投光デバイス36と、助手用の投光デバイス37とは、撮像デバイス35を間に挟んで車幅方向に並ぶように、ダッシュボード4の中央上部に集めて設けられる。
運転手用の投光デバイス36は、ダッシュボード4において、撮像デバイス35についての助手の側に並べて設けられる。
助手用の投光デバイス37は、ダッシュボード4において、撮像デバイス35についての運転手の側に並べて設けられる。
これにより、各投光デバイス36,37は、撮像対象の乗員の頭部に対して、正面方向や横方向からではなく、斜め下方向から、赤外線を照射することができる。
また、運転手用の投光デバイス36、助手用の投光デバイス37、および撮像デバイス35は、ダッシュボード4の中央下部に設けられるタッチパネルディスプレイデバイス41の周囲である上側に設けられる。
次に、図4の監視制御部38による乗員の監視制御について説明する。
監視制御部38は、たとえばドア開閉センサ11による開閉検出に基づいて乗員の乗車を判断すると、乗員の監視を開始する。
監視制御部38は、一対の投光デバイス36,37を点灯させる。また、監視制御部38は、撮像デバイス35を動作させる。これにより、監視制御部38は、運転手と助手とを撮像した赤外線画像を取得可能な状態になる。
図7は、図4の監視制御部38による乗員登録処理のフローチャートである。
図7のステップST1において、監視制御部38は、まず、乗員を登録するか否かを判断する。乗員を登録しない場合、監視制御部38は、図7の処理を終了する。
乗員を登録する場合、ステップST2において、監視制御部38は、乗員の登録の案内を、表示デバイス14としてのタッチパネルディスプレイデバイス41に表示させる。
ステップST3において、監視制御部38は、乗員の登録を開始する案内をタッチパネルディスプレイデバイス41に表示した状態で、撮像デバイス35による赤外線画像を取得する。
タッチパネルディスプレイデバイス41に乗員の登録を開始する案内を表示することにより、乗車している運転手または助手は、顔をタッチパネルディスプレイデバイス41へ向けて、表示内容を確認する。
よって、タッチパネルディスプレイデバイス41の周辺である上側に配置される撮像デバイス35は、乗車している運転手の顔または助手の顔を正対してとらえた画像を撮像し得る。
次に、ステップST4において、監視制御部38は、タッチパネルディスプレイデバイス41の表示を切り替え、顔を正面へ向けることを指示する案内を表示させる。
また、監視制御部38は、ステップST5において、撮像デバイス35による赤外線画像を取得する。
これにより、撮像デバイス35は、正面を向いている運転手の顔または助手の顔をとらえた画像を撮像し得る。
その後、ステップST6において、監視制御部38は、ユーザ登録処理を実行する。
ユーザ登録処理において、監視制御部38は、撮像した二枚の画像から、運転手または助手の顔の画像として、正対した顔と、正面を向いた顔とを切り出す。
そして、監視制御部38は、新たな識別番号とともに、切り出した二枚の画像などを、個人データベース40に追加する。監視制御部38は、切り出した二枚の画像に含まれる乗員の顔の特徴点を、個人データベース40に追加してよい。
これにより、個人データベース40には、新たなユーザの情報が登録される。
図8は、図4の監視制御部38による乗員監視処理のフローチャートである。
図8のステップST11において、監視制御部38は、たとえばドア開閉センサ11による開閉検出に基づいて、乗員の乗車を判断する。
ステップST12において、監視制御部38は、乗車した乗員を識別する。
監視制御部38は、撮像デバイス35から新たな撮像画像を取得し、個人データベース40に登録されている顔の画像と照合し、乗車した乗員を識別する。
照合処理において、監視制御部38は、たとえば個人データベース40に登録されているすべての顔の画像と照合し、最もマッチング処理の評価値が高い顔の画像を特定し、特定した画像に対応するユーザを、個人データベース40において特定する。
すなわち、監視制御部38は、顔を撮像デバイス35の方向へ向けた画像と、顔を車両の正面へ向けた画像とに基づいて、乗員を識別して特定する。
なお、自動車1の正面を向いた画像は、顔を斜め横方向からとらえた画像である。
これに対し、撮像デバイス35の方向へ顔を向けた正対した画像は、顔を正面からとらえた画像であり、顔の鼻などについての凹凸による特徴点が画像に表れやすい。
よって、監視制御部38は、照合処理の判断において、正対した画像より、正面を向いた画像を優先するとよい。
また、監視制御部38は、画像同士を直接比較するのではなく、それぞれの画像から抽出した特徴点同士を比較してよい。
ステップST13において、監視制御部38は、識別した乗員に応じた設定制御を実行する。
監視制御部38は、個人データベース40において識別した乗員に対応付けて登録されている設定値に基づいて、各種の設定制御を実行する。
監視制御部38は、たとえば個人データベース40に登録されているシート位置の設定値を、ポジション設定装置18へ通知する。ポジション設定装置18は、シート3を、通知された設定値の位置に制御する。
ステップST14において、監視制御部38は、乗員の監視を開始する。監視制御部38は、撮像デバイス35により撮像された画像を取得することにより、乗員の現在の状態を取得する。
監視制御部38は、撮像デバイス35が撮像した1つの画像に基づいて、乗車を特定した運転手および助手についての現在の状態を取得する。
監視制御部38は、たとえば、現在の画像から特徴点を抽出し、識別した乗員の画像から得られる特徴点と比較して、乗員の顔の向き、目の開き具合といった現在の状態を取得する。
ステップST15において、監視制御部38は、制御が必要であるか否かを判断する。制御が不要である場合、監視制御部38は、処理をステップST17に進める。
制御が必要である場合、監視制御部38は、ステップST16において、その必要とされている制御を実行する。
たとえば、走行中の車両において運転手の顔が下を向いていると、監視制御部38は、乗員への報知制御が必要であると判断する。監視制御部38は、スピーカデバイス16から注意喚起の音を出力する。
この他にもたとえば、監視制御部38がステップST14において助手用のシート3へのチャイルドバケットの装着を取得すると、監視制御部38は、助手用のシート3に対してエアバッグを展開させない制御を実施する。乗員保護装置21は、監視制御部38の制御により、助手用のシート3に対してエアバッグを展開させない設定を実行する。
ステップST17において、監視制御部38は、乗員が降車して監視が不要であるか否かを判断する。
乗員が降車しておらず監視が必要である場合、監視制御部38は、処理をステップST14へ戻す。
これにより、監視制御部38は、乗員監視を継続する。
乗員が降車して監視が不要である場合、監視制御部38は、図8の処理を終了する。
以上のように、本実施形態の乗員監視装置17は、車幅方向に並んで着座する運転手および助手を、1つの撮像デバイス35で撮像する。よって、本実施形態では、監視対象の人数が二人であるにもかかわらず、1つの撮像デバイス35で監視することができる。乗員監視装置17では、撮像デバイス35を、乗員毎に設けなくてよい。しかも、撮像デバイス35は、乗員室2のダッシュボード4において車幅方向の中央部に設けられる。これにより、撮像デバイス35は、車幅方向に並んで着座する運転手および助手を、1つの赤外線画像に好適に分けて撮像できる。また、乗員監視のための制御を実行する監視制御部38は、撮像デバイス35が撮像した1つの赤外線画像に基づいて、車幅方向に並んで着座する運転手および助手についての監視制御を実行できる。これに対して、仮にたとえば撮像デバイス35を乗員の正面に設ける場合、乗員監視装置17では、乗員毎に撮像デバイス35を設ける必要がある。しかも、撮像デバイス35を乗員の正面に設ける場合、乗員の実際の目とともに、眼鏡に写った目が重なって撮像される可能性がある。本実施形態では、このような撮像が起き難くなる。
また、本実施形態では、投光デバイス36,37については、車幅方向に並んで着座する運転手および助手と一対一に対応させて2つ設けている。投光デバイス36,37は、乗員ごとに設けられ、車幅方向に並んで着座する二人の乗員の全体に対して投光するのではなく、各乗員へ向けて個別に投光する。よって、投光デバイス36,37は、車幅方向に並んで着座する複数の乗員の全体に対して赤外線を投光する必要がない。しかも、各投光デバイス36,37は、乗員の頭部に対して投光している。本実施形態では、投光デバイス36,37により赤外線を照射する範囲を、乗員の監視に必要となる最小限の範囲に抑えている。本実施形態では、複数の乗員に対して最小限の光量により無駄なく効率よく投光することができる。本実施形態では、二人の乗員の全体に対して投光する場合と比べて少ない総光量で、二人の乗員に対して効率よく投光できる。投光による自動車1の負荷を軽減できる。また、撮像対象の乗員の顔に対して個別に下側から投光することにより、乗員に対して強い日射が当たったり自動車1の移動中に明るさが急激に変化したりすることがあったとしても、撮像デバイス35は、各乗員について顔の凹凸を撮像することが可能になる。
しかも、本実施形態では、各投光デバイス36,37は、投光する乗員の着座位置に対して横方向に近い斜め方向に設けられる。特に、運転手用の投光デバイス36を、ダッシュボード4において、撮像デバイス35についての反対側の助手の側に並べるとともに、助手用の投光デバイス37を、ダッシュボード4において、撮像デバイス35についての反対側の運転手の側に並べている。撮像対象の乗員について車体の反対側の側面に投光デバイス36,37を設ける場合と比べて、投光デバイス36,37は、撮像対象の乗員の近くに配置され、乗員に対する投光距離を短くできる。投光デバイス36,37から乗員までの距離が長くなるほどに生じる光の拡散を抑えて、投光デバイス36,37の光を効率よく乗員に照射できる。しかも、各投光デバイス36,37は、ダッシュボード4の撮像デバイス35を基準として、撮像対象の乗員の反対側に設けられる。これにより、投光デバイス36,37は、乗員に対する斜めからの投光角度を確保できる。投光デバイス36,37の光は、乗員の前側にあるたとえばハンドル5などの部材により遮られたり、ハンドル5を操作する乗員の腕により遮られたりすることなく、乗員の頭部へ到達し得る。しかも、赤外線は、顔全体へ到達し得る。その結果、撮像デバイス35は、顔全体で反射された赤外線を含み、顔全体の凹凸や特徴をはっきりと写した画像を撮像できる。
また、本実施形態において、これらの運転手用の投光デバイス36と、助手用の投光デバイス37とは、撮像デバイス35を間に挟んで車幅方向に並ぶように、ダッシュボード4の中央上部に集めて設けられている。したがって、乗員の顔が下向きになっても、その下向きの顔を正面に近い方向から撮像できる。頭部を正面から角度なく撮像する像と比べて、目を含めた顔の特徴を明瞭に撮像することができる。また、乗員が眼鏡やサングラスを掛けている場合でも、撮像デバイス35からの左右の目の視認角度の違いにより、左右の目の中の少なくとも一方を撮像できる可能性が高い。また、頭部を真横から撮像する場合と比べて、顔全体を撮像することができる。
また、本実施形態では、運転手用の投光デバイス36、助手用の投光デバイス37、および撮像デバイス35は、ダッシュボード4の中央部において、表示デバイス14または操作デバイス15の周囲である上側に設けられる。よって、一対の投光デバイス36,37および撮像デバイス35は、ダッシュボード4の中央部において、表示デバイス14または操作デバイス15を見る乗員の正面の顔へ投光して撮像することができる。
しかも、本実施形態では、一対の投光デバイス36,37および撮像デバイス35の上側は、保冷カバー32の厚いカバー部33により覆われる。これにより、一対の投光デバイス36,37および撮像デバイス35は、直射日光に照らされるダッシュボード4の中央上部に設けられているにもかかわらず、直射日光の影響を受けにくくなる。また、一対の投光デバイス36,37および撮像デバイス35の下側には、空調ダクト42が設けられる。また、保冷カバー32は、これらのデバイスの下側まで延在する熱伝導部34を有し、熱伝導部34の下端は、空調ダクト42の近くに位置する。保冷カバー32の全体は、空調ダクト42の冷気により冷却され得る。よって、一対の投光デバイス36,37および撮像デバイス35は、それらのすべてが長時間にわたって継続的に動作しても、空調ダクト42の空調温度またはそれに近い温度に維持され得る。撮像デバイス35の画像には、撮像デバイス35が一対の投光デバイス36,37の発熱の影響を受け得る配置にあるとしても、熱暴走などによる乱れが生じ難くなる。
本実施形態では、撮像デバイス35により撮像された画像に基づいて乗員の監視および制御を実行する監視制御部38は、撮像デバイス35の方向へ向けた顔の画像と、自動車1の正面へ向けた顔の画像とに基づいて、乗員を識別する。よって、本実施形態では、仮にたとえばそれらの中の1種類の画像のみに基づいて乗員を識別する場合と比べて、各乗員をより確実に識別することができる。監視制御部38は、各乗員の画像を基準としたマッチング処理の評価値に基づいて乗員を識別したとしても、各乗員を高い確度にて識別することができる。
以上の実施形態は、本発明の好適な実施形態の例であるが、本発明は、これに限定されるのもではなく、発明の要旨を逸脱しない範囲において種々の変形または変更が可能である。
上記実施形態は、乗員監視装置17は、乗員室2の前列のシート3に着座する運転手および助手を、1つの撮像デバイス35で撮像して監視している。
この他にもたとえば、乗員監視装置17は、撮像デバイス35で撮像した1つの画像において、乗員室2の後列のシート3に着座する他の乗員についても監視してよい。
また、乗員監視装置17は、ダッシュボード4の撮像デバイス35では死角となる乗員を、その他の撮像デバイスにより撮像して監視してよい。
上記実施形態は、投光デバイス36,37は、監視する複数の乗員のそれぞれの頭部に対して個別に投光している。
この他にもたとえば、投光デバイス36,37は、必要に応じて、監視する複数の乗員のそれぞれについての、たとえば頭部から胸部までにかけての少なくとも頭部に対して赤外線を照射してよい。この場合でも、複数の乗員の全体に対して照射する場合よりも照射範囲を制限することができ、投光デバイス36,37は、効率よく投光することができる。
1…自動車(車両)、2…乗員室、3…シート、4…ダッシュボード、5…ハンドル、14…表示デバイス、15…操作デバイス、16…スピーカデバイス、17…乗員監視装置、31…センサユニット、32…保冷カバー、33…カバー部、34…熱伝導部、35…撮像デバイス、36…投光デバイス、37…投光デバイス、38…監視制御部、39…記録部、40…個人データベース、41…タッチパネルディスプレイデバイス、42…空調ダクト

Claims (11)

  1. 乗員室に設けられたシートに乗員が着座する車両の乗員監視装置であって、
    車幅方向に並んで着座する複数の乗員を撮像する撮像デバイスと、
    前記シートによる複数の着座位置に対応して設けられ、着座した各乗員へ向けて投光する複数の投光デバイスと、
    を有する、
    車両の乗員監視装置。
  2. 前記撮像デバイスは、前記乗員室において車幅方向の中央部に設けられ、車幅方向に並んで着座する複数の乗員を、1つの画像に撮像する、
    請求項1記載の車両の乗員監視装置。
  3. 各前記投光デバイスは、乗員の少なくとも頭部に対して投光する、
    請求項1または2記載の車両の乗員監視装置。
  4. 各前記投光デバイスは、投光する乗員の着座位置に対して斜め方向または横方向に設けられる、
    請求項1から3のいずれか一項記載の車両の乗員監視装置。
  5. 前記乗員室には、運転手用の前記シートと助手用の前記シートとが車幅方向に並んで設けられ、
    前記撮像デバイスは、前記乗員室に設けられたダッシュボードの中央部に設けられ、車幅方向に並んで着座する運転手と助手とを、1つの画像に撮像する、
    請求項1または2記載の車両の乗員監視装置。
  6. 運転手用の前記投光デバイスは、前記ダッシュボードにおいて、前記撮像デバイスについての助手の側に並べて設けられ、
    助手用の前記投光デバイスは、前記ダッシュボードにおいて、前記撮像デバイスについての運転手の側に並べて設けられる、
    請求項5記載の車両の乗員監視装置。
  7. 運転手用の前記投光デバイスと、助手用の前記投光デバイスとは、前記撮像デバイスを間に挟んで車幅方向に並ぶように、前記ダッシュボードの中央上部に集めて設けられる、
    請求項5または6記載の車両の乗員監視装置。
  8. 運転手用の前記投光デバイス、助手用の前記投光デバイス、および前記撮像デバイスは、前記ダッシュボードに設けられる表示デバイスまたは操作デバイスの周囲に設けられる、
    請求項5から7のいずれか一項記載の車両の乗員監視装置。
  9. 運転手用の前記投光デバイス、助手用の前記投光デバイス、および前記撮像デバイスの下側には、空調ダクトが設けられる、
    請求項5から8のいずれか一項記載の車両の乗員監視装置。
  10. 前記撮像デバイスにより撮像された画像に基づいて乗員監視のための制御を実行する制御部、を有し、
    前記制御部は、前記撮像デバイスが撮像した1つの画像に基づいて、車幅方向に並んで着座する複数の乗員についての監視制御を実行する、
    請求項1から9のいずれか一項記載の車両の乗員監視装置。
  11. 前記制御部は、前記撮像デバイスの方向へ顔を向けた画像と、前記車両の正面へ顔を向けた画像とに基づいて、乗員を識別する、
    請求項10記載の車両の乗員監視装置。
JP2018100637A 2018-05-25 2018-05-25 車両の乗員監視装置 Active JP7211673B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018100637A JP7211673B2 (ja) 2018-05-25 2018-05-25 車両の乗員監視装置
DE102019108437.7A DE102019108437A1 (de) 2018-05-25 2019-04-01 Insassen-Überwachungseinrichtung für Fahrzeuge
CN201910271597.6A CN110525340A (zh) 2018-05-25 2019-04-04 车辆的乘员监视装置
US16/379,929 US10824886B2 (en) 2018-05-25 2019-04-10 Occupant monitoring device for vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018100637A JP7211673B2 (ja) 2018-05-25 2018-05-25 車両の乗員監視装置

Publications (2)

Publication Number Publication Date
JP2019202726A true JP2019202726A (ja) 2019-11-28
JP7211673B2 JP7211673B2 (ja) 2023-01-24

Family

ID=68499514

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018100637A Active JP7211673B2 (ja) 2018-05-25 2018-05-25 車両の乗員監視装置

Country Status (4)

Country Link
US (1) US10824886B2 (ja)
JP (1) JP7211673B2 (ja)
CN (1) CN110525340A (ja)
DE (1) DE102019108437A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102022106794A1 (de) 2021-03-30 2022-10-06 Subaru Corporation Insassen-zustands-erfassungssystem
DE102022106810A1 (de) 2021-03-30 2022-10-06 Subaru Corporation Insassen-zustands-erfassungssystem
US11989954B2 (en) 2021-03-30 2024-05-21 Subaru Corporation Occupant state detection system

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11310466B2 (en) 2019-11-22 2022-04-19 Guardian Optical Technologies, Ltd. Device for monitoring vehicle occupant(s)
DE102021214372A1 (de) * 2021-12-15 2023-06-15 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zum Erfassen von Bildern in einem Fahrzeuginnenraum und Fahrzeuginnenraumkamerasystem

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002288670A (ja) * 2001-03-22 2002-10-04 Honda Motor Co Ltd 顔画像を使用した個人認証装置
JP2008052029A (ja) * 2006-08-24 2008-03-06 Takata Corp 撮像システム、車両乗員検出システム、作動装置制御システム、車両
JP2010111367A (ja) * 2008-11-10 2010-05-20 Panasonic Electric Works Co Ltd 乗員監視装置
JP2011042179A (ja) * 2007-11-15 2011-03-03 Toyota Motor Corp 投光器制御装置
JP2012005054A (ja) * 2010-06-21 2012-01-05 Ricoh Co Ltd 低照度対応カメラ
JP2017168960A (ja) * 2016-03-15 2017-09-21 オムロンオートモーティブエレクトロニクス株式会社 画像処理装置
US20170291548A1 (en) * 2016-04-07 2017-10-12 Lg Electronics Inc. Interior Camera Apparatus, Driver Assistance Apparatus Having The Same And Vehicle Having The Same
JP2018081449A (ja) * 2016-11-15 2018-05-24 グローリー株式会社 施設来訪者認証システム、来訪者認証システム、個人認証システム、個人認証装置および報知方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006134038A (ja) 2004-11-05 2006-05-25 Omron Corp 車載用顔面データ登録装置及び車両における顔面データ登録方法
EP2420410A1 (en) * 2010-08-19 2012-02-22 Harman Becker Automotive Systems GmbH Method for Presenting an Image in a Vehicle
US10061995B2 (en) * 2013-07-01 2018-08-28 Pioneer Corporation Imaging system to detect a trigger and select an imaging area
DE102013014210A1 (de) * 2013-08-26 2015-02-26 GM Global Technology Operations LLC Kraftfahrzeug mit multifunktionalem Anzeigeinstrument
CA2888178A1 (en) * 2014-04-17 2015-10-17 Navagation Solutions, Llc Camera with privacy cover
JP6497158B2 (ja) * 2014-05-16 2019-04-10 株式会社リコー 表示装置、移動体
JP6303907B2 (ja) * 2014-08-08 2018-04-04 株式会社デンソー 運転者監視装置
DE102014215856A1 (de) * 2014-08-11 2016-02-11 Robert Bosch Gmbh Fahrerbeobachtungssystem in einem Kraftfahrzeug
US10017117B2 (en) * 2016-05-18 2018-07-10 GM Global Technology Operations LLC Vehicle occupant viewing systems and methods
US10489666B2 (en) * 2017-12-18 2019-11-26 Panasonic Intellectual Property Management Co., Ltd. Imaging device and imaging system

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002288670A (ja) * 2001-03-22 2002-10-04 Honda Motor Co Ltd 顔画像を使用した個人認証装置
JP2008052029A (ja) * 2006-08-24 2008-03-06 Takata Corp 撮像システム、車両乗員検出システム、作動装置制御システム、車両
JP2011042179A (ja) * 2007-11-15 2011-03-03 Toyota Motor Corp 投光器制御装置
JP2010111367A (ja) * 2008-11-10 2010-05-20 Panasonic Electric Works Co Ltd 乗員監視装置
JP2012005054A (ja) * 2010-06-21 2012-01-05 Ricoh Co Ltd 低照度対応カメラ
JP2017168960A (ja) * 2016-03-15 2017-09-21 オムロンオートモーティブエレクトロニクス株式会社 画像処理装置
US20170291548A1 (en) * 2016-04-07 2017-10-12 Lg Electronics Inc. Interior Camera Apparatus, Driver Assistance Apparatus Having The Same And Vehicle Having The Same
JP2018081449A (ja) * 2016-11-15 2018-05-24 グローリー株式会社 施設来訪者認証システム、来訪者認証システム、個人認証システム、個人認証装置および報知方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102022106794A1 (de) 2021-03-30 2022-10-06 Subaru Corporation Insassen-zustands-erfassungssystem
DE102022106810A1 (de) 2021-03-30 2022-10-06 Subaru Corporation Insassen-zustands-erfassungssystem
US11750775B2 (en) 2021-03-30 2023-09-05 Subaru Corporation Occupant state detection system
US11989954B2 (en) 2021-03-30 2024-05-21 Subaru Corporation Occupant state detection system

Also Published As

Publication number Publication date
DE102019108437A1 (de) 2019-11-28
CN110525340A (zh) 2019-12-03
JP7211673B2 (ja) 2023-01-24
US20190362167A1 (en) 2019-11-28
US10824886B2 (en) 2020-11-03

Similar Documents

Publication Publication Date Title
JP2019202726A (ja) 車両の乗員監視装置
JP4623501B2 (ja) 検知システム、報知装置、駆動装置、車両
JP4898261B2 (ja) 対象物検出システム、作動装置制御システム、車両、対象物検出方法
US20100080416A1 (en) Eye detection system using a single camera
US20210394584A1 (en) Heat control method for a heat control device, particularly for a vehicle interior
US20140350411A1 (en) Method and system for detecting and alleviating neck discomfort of a motor vehicle occupant
JP2008269496A (ja) 乗員情報検出システム、乗員拘束システム、車両
JP2007276577A (ja) 対象物検出システム、作動装置制御システム、車両、対象物検出方法
JP2009113621A (ja) 乗員画像撮像装置、運転支援装置
JP4847394B2 (ja) 車室内撮像装置
CN110949303B (zh) 车辆的乘员监视装置以及乘员保护系统
KR20200071623A (ko) 차량 및 그 제어방법
JPH11295440A (ja) 車両用乗員検出装置
CN107298020A (zh) 一种防止饮酒驾车的智能管理系统及运行方法
US20220272302A1 (en) In-vehicle monitoring device for vehicle
US20220266753A1 (en) In-vehicle multi-monitoring device for vehicle
US11995898B2 (en) Occupant monitoring device for vehicle
CN107176102B (zh) 一种智能化安全型后视镜及其工作方法
JP2007001464A (ja) 車両用空調制御装置及び車両用空調制御方法
JP2022129152A (ja) 車両の乗員監視装置
JP2022129368A (ja) 車両の乗員監視装置
CN114954484A (zh) 车辆的乘员监视装置
US20220024459A1 (en) Motion sickness reduction system and method for vehicle occupants
KR102280144B1 (ko) 차량 내부의 승객 감지용 카메라 시스템
JP2022129154A (ja) 車両の乗員監視装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210324

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220510

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220726

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221213

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20221223

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230110

R150 Certificate of patent or registration of utility model

Ref document number: 7211673

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150