JP7446545B2 - 乗員監視装置、および、乗員監視方法 - Google Patents
乗員監視装置、および、乗員監視方法 Download PDFInfo
- Publication number
- JP7446545B2 JP7446545B2 JP2023565343A JP2023565343A JP7446545B2 JP 7446545 B2 JP7446545 B2 JP 7446545B2 JP 2023565343 A JP2023565343 A JP 2023565343A JP 2023565343 A JP2023565343 A JP 2023565343A JP 7446545 B2 JP7446545 B2 JP 7446545B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- occupant
- imaging
- monitoring device
- light emitting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012806 monitoring device Methods 0.000 title claims description 139
- 238000000034 method Methods 0.000 title claims description 38
- 238000012544 monitoring process Methods 0.000 title claims description 37
- 238000003384 imaging method Methods 0.000 claims description 153
- 238000001514 detection method Methods 0.000 claims description 74
- 238000005286 illumination Methods 0.000 claims description 56
- 210000001525 retina Anatomy 0.000 claims description 9
- 230000005236 sound signal Effects 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 29
- 230000006870 function Effects 0.000 description 12
- 230000000694 effects Effects 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 6
- 238000013473 artificial intelligence Methods 0.000 description 3
- 210000003127 knee Anatomy 0.000 description 3
- 241000593989 Scardinius erythrophthalmus Species 0.000 description 2
- 201000005111 ocular hyperemia Diseases 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000004378 air conditioning Methods 0.000 description 1
- 210000000038 chest Anatomy 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 210000002832 shoulder Anatomy 0.000 description 1
- 210000000689 upper leg Anatomy 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
- B60R11/04—Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Mechanical Engineering (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
Description
ところで、特許文献1には、後席に着座している乗員の表面温度を検出し、検出した表面温度に基づき空調ユニットを制御する発明が開示されている。表面温度の検出範囲は、具体的には、後席に着座している乗員の膝、太股、胸、肩といった、着座高さより上の領域である。
特許文献1に開示された発明は、そもそも表面温度の検出範囲が後席における着座高さより上の領域であって、上記課題を解決できるものではない。
実施の形態1.
図1は、本開示に係る乗員監視装置200の構成およびこれに関連する構成の一例を示す図である。
乗員監視装置200は、車両における乗員を監視する装置である。
特に、乗員監視装置200は、車両における後席の乗員を監視する。
乗員監視装置200は、撮像装置100、センサ部150、記憶装置300、提示装置400、発光装置500、とそれぞれ通信可能に接続されている。
乗員監視装置200の各構成部については、後述する。
撮像装置100は、車両の内部である車室内を撮像する。
撮像装置100(撮像部)は、例えば車両の天井に配置される撮像装置100である。
この場合、本開示の乗員監視装置200は、撮像部から取得する画像において死角が少なくなり、死角が少ない画像に基づいて乗員を検出できるので、監視の精度が向上する。
また、撮像装置100は、例えば車両の天井に設置された非開閉部と開閉部とからなる表示装置が備える撮像装置100であって、非開閉部に配置される撮像装置100である。
この場合、本開示の乗員監視装置200は、撮像部から取得する画像において死角が少なくなり、死角が少ない画像に基づいて乗員を検出できるので、監視の精度が向上する。
また、この場合、本開示の乗員監視装置200は、表示装置の方向に乗員の顔が向きやすくなることにより、撮像装置100が乗員の顔を撮像しやすくなり、乗員を検出する精度が向上する、という効果を奏する。
撮像装置100は、本開示において撮像部とも記載する。
なお、撮像装置100は、乗員監視装置200の内部に構成してもよい。
センサ部150は、複数の異なる種類のセンサを含む。
センサ部150は、例えば車両の状況に関して計測し、計測結果を示すセンサデータを出力する。
センサ部150が計測する車両の状況は、例えば、車室内の表面温度である。
また、センサ部150が計測する車両の状況は、例えば、車両が走行中であるか停止中であるか、車両にいる乗員の数、エンジン動作、車両のドアの開閉動作、車両のドアのロック状態、といった状況である。
車両が走行中であるか停止中であるかの状況は、例えば車両の速度から得られる。
車両にいる乗員の数の状況は、例えば、前席の乗員の監視結果、および、後席の乗員の監視結果から得られる。前席の乗員の監視および後席の乗員の監視は、それぞれ、本開示の乗員監視装置200で行うようにしてもよい。
エンジン動作、車両のドアの開閉動作、および、車両のドアのロック状態はそれぞれ、直接計測される。
センサ部150は、乗員監視装置200の内部に構成してもよい。
図に示す記憶装置300は、乗員監視装置200の外部に配置されている。
記憶装置300は、乗員監視装置200の外部に構成される場合、例えば、車両の外部に設けられるサーバであってもよい。
記憶装置300は、本開示において記憶部とも記載する。
なお、記憶装置300は、乗員監視装置200の内部に構成してもよい。
提示装置400は、例えば音出力装置である。音出力装置は、例えばスピーカ、クラクションである。
提示装置400は、例えばハザードランプ、提示専用のランプである。
提示装置400は、例えば携帯端末である。携帯端末は、例えばスマートフォンである。
提示装置400は、例えば表示装置である。表示装置は、具体的には、例えばディスプレイである。
提示装置400は、上記の例を複数組み合わせて構成してもよい。
提示装置400は、本開示において提示部とも記載する。
なお、提示装置400は、乗員監視装置200の内部に構成してもよい。
発光装置500は、例えば赤外線を発光する。
発光装置500は、例えば撮像装置100が撮像を開始すると発光する。
または、発光装置500は、例えば撮像装置100により撮像された画像において明るさが不足している場合に発光する。
図1に示す発光装置500は、撮像装置100からの指令により発光を開始し、または、発光を終了する。
乗員監視装置200は、データ取得部210、乗員検出部220、出力制御部230、図示しない制御部、および、図示しない記憶部を含む。
データ取得部210は、撮像装置100から画像データを取得する。
データ取得部210は、車両の車室内が撮像された画像データを取得する。
具体的には、データ取得部210は、車両の後席の画像を含む画像データを取得する。
さらに具体的には、本開示に係るデータ取得部210は、車両における前席と後席との間の画像を含む画像データを撮像装置100から取得する。
また、データ取得部210は、センサ部150における複数の異なる種類のセンサからそれぞれ、車両における状況に関するセンサデータを取得する。センサデータは、車両における状況に関して計測された結果を示すデータである。
乗員検出部220は、データ取得部210により取得された画像データを用いて、後席の乗員を検出する。
本開示に係る乗員検出部220は、さらに、データ取得部210により取得された画像データを用いて、後席の着座高さより下の領域における乗員を検出する。
乗員検出部220は、例えば、AI(Artificial Intelligence)の技術を用いて乗員を検出する。この場合、予め、画像中における生体の目の位置、画像中における生体の動きといった特徴を学習させておき、学習結果を用いて、画像データから乗員を検出する。
この場合、具体的には、乗員検出部220は、例えば、さらに車室内の表面温度を用いて生体であるかを判定する。
出力制御部230は、乗員検出部220により検出された乗員に関する情報である提示情報を提示装置400へ出力する。
出力制御部230は、さらに、着座位置より下の領域に乗員が検出された場合、乗員検出部220により検出された乗員に関する情報である提示情報を提示部へ出力する。
出力制御部230は、例えば、着座位置より下の領域に乗員がいることを示す提示情報を出力する。
図示しない制御部は、例えば、乗員監視装置200を起動させる。
図示しない制御部は、例えば、乗員監視装置200を停止させる。
図示しない制御部は、例えば、乗員監視装置200における各処理を開始させる。
図示しない制御部は、例えば、乗員監視装置200における各処理を終了させる。
また、図示しない制御部は、撮像装置100から出力された画像データ、センサ部150におけるセンサから出力されたセンサデータに基づいて、撮像装置100による撮像を開始させるように構成してもよい。具体的には、制御部は、例えば、車両に乗員が乗車したことを契機にして撮像装置100による撮像を開始させる。
また、図示しない制御部は、撮像装置100から出力された画像データ、センサ部150におけるセンサから出力されたセンサデータに基づいて、撮像装置100による撮像を終了させるように構成してもよい。具体的には、制御部は、例えば、車両から全ての乗員が降車したと判断できる状況において撮像装置100に撮像を終了させる。
図示しない記憶部は、乗員監視装置200において用いるデータを記憶する。
図示しない記憶部は、例えば、データ取得部210における、ある処理の途中で算出されたデータを、次の処理を実行する前に一時的に記憶する。
図示しない記憶部は、例えば、乗員検出部220における、ある処理の途中で算出されたデータを、次の処理を実行する前に一時的に記憶する。
図示しない記憶部は、例えば、出力制御部230における、ある処理の途中で算出されたデータを、次の処理を実行する前に一時的に記憶する。
図2は、実施の形態1に係る乗員監視装置200の処理の一例を示すフローチャートである。
図2に示した処理は、乗員監視装置200が実行する乗員監視処理における、後席の着座高さより下の領域における乗員を監視する処理の一例である。
具体的には、乗員監視装置200は、例えば、車両における扉のロックが解除されると、外部から処理の開始を指令する制御信号を受けることにより、処理を開始する。
また、乗員監視装置200は、例えば、前記制御信号を受けると、撮像部による撮像を開始させ、撮像装置100が画像データを出力すると、出力された画像データを受けて処理を開始する。
データ取得部210は、車両の車室内における後席の画像を撮像装置100から取得する。このとき、データ取得部210は、車両における前席と後席との間の画像を含む画像データを撮像部から取得する。
乗員検出部220は、データ取得部210により取得された画像データを用いて、後席の着座高さより下の領域における乗員を検出する。
出力制御部230は、着座位置より下の領域に乗員が検出された場合、乗員検出部220により検出された乗員に関する情報である提示情報を提示部へ出力する。
図4は、実施の形態1に係る撮像装置100の配置例を説明する図である。
乗員監視装置200は、図3または図4に示すように配置された撮像装置100により撮像された画像を用いて乗員を監視する。
撮像装置100は、リアシートエンタテインメント装置1000に配置されている。
リアシートエンタテインメント装置1000は、車両の天井に設けられた表示装置である。
リアシートエンタテインメント装置1000は、開閉式の構造を有し、本体部1010および表示部1020を含む。
本体部1010は、非開閉部であり、表示部1020は、開閉部である。
撮像装置100は、車両の天井の位置から、後席2020における乗員の着座位置から後方Aと、前席2000と後席2020との間Bとを撮像する。
撮像装置100は、着座高さより下の領域2100の画像を含む画像データを出力する。
図4は、リアシートエンタテインメント装置1000を正面から見た場合の図を示している。
表示部1020には、ディスプレイ1021が設けられている。
撮像装置100は、本体部1010における前面の略中央に配置されている。
発光装置500は、本体部1010における前面に配置され、撮像装置100に対し、距離dの間隔を空けて配置されている。
図4に示す距離dは、発光装置500から発した光が、少なくとも後席2020に着座している状態における乗員の網膜を介して撮像装置100に正反射しないように、発光装置500と撮像装置100とを配置するための間隔である。
図4に示す本体部1010には、IRフィルタ1011が設けられている。IRフィルタ1011は、赤外光のみを透過させるフィルタである。
図5は、乗員監視装置200における乗員検出部220の構成例を示す図である。
図6は、図5に示す乗員検出部220の処理の一例を示すフローチャートである。
乗員検出部220は、領域判定部221、および、生体検出部222、を含む。
領域判定部221は、例えば、画像における後席の前端より前の領域を、前席と後席との間の領域であると判定し、前席と後席との間の領域の画像を出力する。
また、領域判定部221は、例えば、画像における後席に着座している乗員の膝の位置を検出し、膝の位置より前(前席側)の領域を、前席と後席との間の領域であると判定し、前席と後席との間の領域の画像を出力する。
領域判定部221を含む乗員監視装置200は、上記処理により、少ない数(1つ)の撮像装置100からの画像であっても本開示を実現できる。
生体検出部222は、例えば、AIの技術を用いて、画像内に生体の特徴が存在するかを見つけ出す。生体検出部222は、画像内に生体の目が存在する場合、生体の目の位置に基づいて乗員が存在することおよび乗員の位置を示す生体情報を出力する。
また、生体検出部222は、例えば、画像データに加え、センサデータを用いて、画像内に生体が存在することを検出するものであってもよい。この場合、生体検出部222は、例えば、データ取得部210を介して画像データと車室内の表面温度であるセンサデータとを取得する。生体検出部222は、画像データと表面温度とを重ね合わせて、画像内の生体の存在および位置を取得し、これに基づき乗員が存在することおよび乗員の位置を示す生体情報を出力する。
乗員検出部220は、例えば、データ取得部210から画像データを取得すると、処理を開始する。
具体的には、領域判定部221は、データ取得部210により取得された画像データを用いて、前席と後席との間の領域を判定する。領域判定部221は、前席と後席との間の領域の画像を生体検出部222へ出力する。
具体的には、生体検出部222は、領域判定部221から前席と後席との間の領域の画像データを取得する。生体検出部222は、前席と後席との間の領域の画像データを用いて、後席の着座高さより下の領域における乗員を検出する。
生体検出部222において生体がないと判定した場合(ステップST230“NO”)、乗員検出処理は終了する。
図7は、乗員監視装置200における出力制御部230の構成例を示す図である。
図8は、図7に示す出力制御部230の処理の一例を示すフローチャートである。
出力制御部230は、状況判別部231、および、提示指令部232、を含む。
具体的には、状況判別部231は、センサ部150から出力されたセンサデータを取得し、車両における状況を判別する。状況判別部231は、センサデータを用いて、車両が走行中であるか停止中であるか、車両にいる乗員の数、エンジン動作、車両のドアの開閉動作、車両のドアのロック状態、といった状況を判別する。
状況判別部231は、例えば、着座位置より下の領域に検出された乗員が取り残された状況であるかを判定する。状況判別部231は、着座位置より下の領域に検出された乗員が取り残された状況であると判定した場合に、乗員情報を提示すべき状況であると判定する。
また、状況判別部231は、例えば、乗員の位置が着座位置の高さの領域から着座位置より下の領域に変化したかを判定する。状況判別部231は、乗員の位置が着座位置の高さの領域から着座位置より下の領域に変化した場合、着座位置より下の領域に検出された乗員が転落した状況であると判定する。
具体的には、提示指令部232は、状況判別部231により提示すべき状況であると判定された乗員を示す生体情報を取得するとともに、提示すべき状況を示す状況情報を取得する。
提示指令部232は、状況情報が示す状況に応じて、提示先を決定する。
提示指令部232は、生体情報に基づき、提示情報を生成する。
提示指令部232は、決定した提示先へ提示情報を提示するよう指令する。
出力制御部230は、乗員検出部220において、着座位置より下の領域に乗員が検出された場合、処理を開始する。
具体的には、出力制御部230は、例えば、生体検出部222が生体情報を出力し、生体情報を受けると、出力制御処理を開始する。
具体的には、状況判別部231は、画像データおよびセンサ部150から出力されたセンサ信号に基づき、車両における状況を判別する。
状況判別部231は、例えば、着座位置より下の領域に検出された乗員が取り残された状況であるかを判定する。
状況判別部231は、例えば、着座位置より下の領域に検出された乗員が転落した状況であると判定する。
具体的には、提示指令部232は、状況判別部231による判別結果を用いて、状況に応じた提示先に提示情報を提示するよう指令する。
具体的には、提示指令部232は、状況判別部231により提示すべき状況であると判定された乗員を示す生体情報を取得するとともに、提示すべき状況を示す状況情報を取得する。
具体的には、提示指令部232は、状況情報が示す状況に応じて、提示先を決定する。
具体的には、提示指令部232は、生体情報に基づき、提示情報を生成する。
提示指令部232は、決定した提示先へ提示情報を提示するよう指令する指令信号を出力する。
これにより、乗員監視装置200は、車両の状況に応じた提示先に提示させることができる。
これにより、着座高さより下の領域を監視する乗員監視装置を提供できる、という効果を奏する。
これにより、乗員監視装置は、撮像部の数を少なくすることができる乗員監視装置を提供することができる、という効果を奏する。
これにより、乗員監視装置は、車両の状況に応じた提示先に提示させる乗員監視装置、を提供することができる、という効果を奏する。
これにより、乗員監視装置は、撮像部から取得する画像において死角が少なくなり、死角が少ない画像に基づいて乗員を検出できるので、監視の精度が向上する、という効果を奏する。
これにより、乗員監視装置は、撮像部から取得する画像において死角が少なくなり、死角が少ない画像に基づいて乗員を検出できるので、監視の精度が向上する、という効果を奏する。
また、乗員監視装置は、表示装置の方向に乗員の顔が向きやすくなることにより、乗員を検出する精度が向上する、という効果を奏する。
これにより、乗員監視装置は、撮像した画像における赤目現象を抑制することができ、乗員を検出する精度をさらに向上させることができる、という効果を奏する。
これにより、乗員監視装置は、車両の内部に乗員がいる場合のみ、動作することによりエネルギー消費量を抑えることができる、という効果を奏する。
を備える方法にした。
これにより、乗員監視装置は、着座高さより下の領域を監視する乗員監視方法を提供できる、という効果を奏する。
実施の形態2は、本開示に係る乗員監視装置が用いる画像を撮像する撮像装置の配置を変更した形態である。
実施の形態2の説明においては、実施の形態1において説明した構成についての説明を、適宜省略する。
図10は、実施の形態2に係る撮像装置100の配置例を説明する図である。
乗員監視装置200は、図9または図10に示すように配置された撮像装置100および撮像装置100aにより撮像された画像を用いて乗員を監視する。
図9および図10は、撮像装置100に加え、撮像装置100aを備えている。
撮像装置100aおよび撮像装置100はそれぞれ、リアシートエンタテインメント装置1000に配置されている。
リアシートエンタテインメント装置1000は、車両の天井に設けられた表示装置である。
リアシートエンタテインメント装置1000は、開閉式の構造を有し、本体部1010および表示部1020を含む。
本体部1010は、非開閉部であり、表示部1020は、開閉部である。
撮像装置100aは、開閉式のリアシートエンタテインメント装置1000aにおいて、表示部1020である開閉部に配置されている。
撮像装置100は、開閉式のリアシートエンタテインメント装置1000aにおいて、本体部1010である非開閉部に配置されている。
撮像装置100は、車両の天井により近い位置から、後席2020における乗員の着座位置より後方Aを撮像する。
撮像装置100aは、着座高さより下の領域2100の画像を含む画像データを出力する。
図10は、リアシートエンタテインメント装置1000を正面から見た場合の図を示している。
撮像装置100aは、表示部1020におけるディスプレイ1021表面の近傍の位置であって、表示部1020を正面に見た状態において下方の略中央に配置されている。
撮像装置100は、本体部1010における前面の略中央に配置されている。
発光装置500は、本体部1010における前面に配置され、撮像装置100に対し、距離d1の間隔を空けて配置されている。
発光装置500は、また、表示部1020におけるディスプレイ1021表面の近傍の位置であって、表示部1020を正面に見た状態において下方に配置され、撮像装置100aに対し、距離d2の間隔を空けて配置されている。
図10に示す距離d1および距離d2は、発光装置500から発した光が、少なくとも後席2020に着座している状態における乗員の網膜を介して撮像装置100に正反射しないように、発光装置500と撮像装置100とを配置するための間隔である。
図10に示す本体部1010には、IRフィルタ1011が設けられている。
IRフィルタ1011は、赤外光のみを透過させるフィルタである。
これにより、乗員監視装置は、撮像部から取得する画像において死角が少なくなり、死角が少ない画像に基づいて乗員を検出できるので、監視の精度が向上する、という効果を奏する。
乗員監視装置は、また、表示装置の方向に乗員の顔が向きやすくなることにより、乗員を検出する精度が向上する、という効果を奏する。
実施の形態3は、本開示に係る乗員監視装置が用いる画像を撮像する撮像装置の配置を変更したさらに別の形態である。
実施の形態3においては、実施の形態1および実施の形態2において説明した構成についての説明を、適宜省略する。
乗員監視装置200は、図11に示すように配置された撮像装置100により撮像された画像を用いて乗員を監視する。
撮像装置100は、前席2000のヘッドレストに配置される。
具体的には、撮像装置100は、リアシートエンタテインメント装置1000の表示部1020に備えられている。
図11に示す表示部1020は、前席2000それぞれのヘッドレストの背面側に配置されている。
図11に示す撮像装置100は、前席2000の背面側に向かって見て、左側のヘッドレストに配置されている。
図11に示す発光装置500は、前席2000の背面側に向かって見て、右側のヘッドレストに配置されている。
図11に示す距離d3は、発光装置500から発した光が、少なくとも後席2020に着座している状態における乗員の網膜を介して撮像装置100に正反射しないように、発光装置500と撮像装置100とを配置するための間隔である。
図11においては図示していないが、撮像装置100および発光装置500が配置されている領域にはIRフィルタを設けるようにしてもよい。IRフィルタは、赤外光のみを透過させるフィルタである。
これにより、乗員監視装置は、前席のヘッドレストの位置から撮像された画像を用いて乗員を検出する、乗員監視装置を提供することができる、という効果を奏する。
乗員監視装置は、また、表示装置の方向に乗員の顔が向きやすくなることにより、乗員を検出する精度が向上する、という効果を奏する。
実施の形態4は、照明用発光部510と音出力用発光部520とを併用して、監視精度を高める形態である。
実施の形態4においては、実施の形態1、実施の形態2または実施の形態3に加えて、機能を追加した形態であり、実施の形態1、実施の形態2および実施の形態3において説明した構成についての説明を、適宜省略する。
図12に示す乗員監視装置200aは、図1に示す乗員監視装置200に加えて、発光制御部240をさらに備えている。また、乗員監視装置200aの発光制御部240は、発光装置500に接続されている。発光制御部240は、発光装置500に対する発光制御処理を実行する。
照明用発光部510は、撮像装置100による撮像範囲を照明する。
照明用発光部510は、例えば赤外光を発光する。
照明用発光部510は、例えば撮像装置100が撮像を開始すると発光する。
または、照明用発光部510は、例えば撮像装置100により撮像された画像において明るさが不足している場合に発光する。
図12に示す照明用発光部510は、乗員監視装置200aにおける発光制御部240からの指令により発光を開始し、または、発光を終了する。
音出力用発光部520は、例えば赤外光を発光する。
音出力用発光部520は、リアシートエンタテインメント装置1000における図示しない音出力制御部230により制御されるとともに、乗員監視装置200aの発光制御部240により制御される。
撮像した画像において乗員を検出するために必要な明るさを得ることができ、乗員を検出する精度をさらに向上させることができる。
乗員監視装置200aの発光制御部240は、データ取得部210により取得された画像データを用いて、画像の明るさが不足している場合に、照明用発光部510および音出力用発光部520に対して発光を指令する。
図13は、実施の形態4に係る発光制御部240の構成例を示す図である。
発光制御部240は、照明判定部241と、発光指令部242とを含む。
照明判定部241は、音出力用発光部520が使用されていない場合、音出力用発光部520に発光させると判定する。
具体的には、照明判定部241は、音出力用発光部520の動作を示す情報を取得して、音出力用発光部520が使用されているかいないかを判定し、照明を行うかを判定する。照明判定部241は、音出力用発光部520が使用されていないと判定した場合、照明判定信号を発光指令部242へ出力する。
具体的には、発光指令部242は、照明判定部241から照明判定信号を取得すると、発光を指令する信号である発光指令信号を出力する。
発光制御部240は、例えば撮像装置100からデータ取得部210が画像データを取得した場合に処理を開始する。
また、発光制御部240は、例えばデータ取得部210が取得した画像データにおける画像の明るさ(輝度)が予め定められた閾値未満である場合、処理を開始する。
具体的には、照明判定部241は、音出力用発光部520の動作状態を確認して、音出力用発光部520が使用中であるかを判定する。
具体的には、照明判定部241は、音出力用発光部520が使用中でないと判定した場合、照明を行うことを決定し、照明判定信号を発光指令部242へ出力する。
発光指令部242は、音出力用発光部520に対し発光を指令する信号である発光指令信号を出力する。発光指令信号には、出力レベルを調整できる情報が含まれていてもよい。
図16は、実施の形態4に係る撮像装置100の第1の配置例を説明する図である。
図17は、実施の形態4に係る撮像装置100の第2の配置例を説明する図である。
図15、図16または図17に示す発光装置500aにおいては、照明用発光部510に加え、さらに、音出力用発光部520が配置されている。
音出力用発光部520は、本体部1010における前面に配置され、撮像装置100に対し、距離d4または距離d5の間隔を空けて配置されている。
図16に示す距離d4は、照明用発光部510から発した光が、少なくとも後席2020に着座している状態における乗員の網膜を介して撮像装置100に正反射しないように、照明用発光部510と撮像装置100とを配置するための間隔である。
図17に示す距離d5は、音出力用発光部520から発した光が、少なくとも後席2020に着座している状態における乗員の網膜を介して撮像装置100に正反射しないように、音出力用発光部520と撮像装置100とを配置するための間隔である。
図17においては、撮像装置100および発光装置500が配置されている領域にIRフィルタ2011を設けている。IRフィルタ2011は、赤外光のみを透過させるフィルタである。
これにより、乗員監視装置は、撮像した画像において乗員を検出するために必要な明るさを得ることができ、乗員を検出する精度をさらに向上させることができる、という効果を奏する。
これにより、乗員監視装置は、撮像した画像において乗員を検出するために必要な明るさを得ることができ、乗員を検出する精度をさらに向上させることができる、という効果を奏する。
これにより、乗員監視装置は、乗員がヘッドフォンなどを利用している際に利用を妨げることがなく、乗員にとっての利便性を維持できる。
これにより、乗員監視装置は、撮像した画像における赤目現象を抑制することができ、乗員を検出する精度をさらに向上させることができる、という効果を奏する。
図18は、本開示に係る機能を実現するためのハードウェア構成の第1の例を示す図である。
図19、本開示に係る機能を実現するためのハードウェア構成の第2の例を示す図である。
本開示の乗員監視装置200または、乗員監視装置200aは、図18または図19に示されるようなハードウェアにより実現される。
プロセッサ10001、メモリ10002は、例えば、コンピュータに搭載されているものである。
メモリ10002には、当該コンピュータを、データ取得部210、乗員検出部220、領域判定部221、生体検出部222、出力制御部230、状況判別部231、提示指令部232、発光制御部240、照明判定部241、発光指令部242、および、図示しない制御部として機能させるためのプログラムが記憶されている。メモリ10002に記憶されたプログラムをプロセッサ10001が読み出して実行することにより、データ取得部210、乗員検出部220、領域判定部221、生体検出部222、出力制御部230、状況判別部231、提示指令部232、発光制御部240、照明判定部241、発光指令部、および、図示しない制御部の機能が実現される。
また、メモリ10002または図示しない他のメモリにより、図示しない記憶部、または、記憶装置300が実現される。
プロセッサ10001は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、マイクロプロセッサ、マイクロコントローラ又はDSP(Digital Signal Processor)などを用いたものである。
メモリ10002は、RAM(Random Access Memory)、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable Read Only Memory)又はフラッシュメモリ等の不揮発性もしくは揮発性の半導体メモリであってもよいし、ハードディスク又はフレキシブルディスク等の磁気ディスクであってもよいし、CD(Compact Disc)又はDVD(Digital VersatileDisc)等の光ディスクであってもよいし、光磁気ディスクであってもよい。
プロセッサ10001とメモリ10002とは、相互にデータを伝送することが可能な状態に接続されている。また、プロセッサ10001とメモリ10002とは、入出力インタフェース10003を介して他のハードウェアと相互にデータを伝送することが可能な状態に接続されている。
処理回路10004は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field-Programmable Gate Array)、SoC(System-on-a-Chip)またはシステムLSI(Large-Scale Integration)等を用いたものである。
また、メモリ10005または図示しない他のメモリにより、図示しない記憶部、または、記憶装置300が実現される。
メモリ10005は、RAM(Random Access Memory)、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable Read Only Memory)又はフラッシュメモリ等の不揮発性もしくは揮発性の半導体メモリであってもよいし、ハードディスク又はフレキシブルディスク等の磁気ディスクであってもよいし、CD(Compact Disc)又はDVD(Digital VersatileDisc)等の光ディスクであってもよいし、光磁気ディスクであってもよい。
処理回路10004とメモリ10005とは、相互にデータを伝送することが可能な状態に接続されている。また、処理回路10004とメモリ10005とは、入出力インタフェース10006を介して他のハードウェアと相互にデータを伝送することが可能な状態に接続されている。
なお、データ取得部210、乗員検出部220、領域判定部221、生体検出部222、出力制御部230、状況判別部231、提示指令部232、発光制御部240、照明判定部241、発光指令部242、および、図示しない制御部の機能をそれぞれ別の処理回路で実現しても良いし、まとめて処理回路で実現しても良い。
Claims (11)
- 車両における乗員を監視する乗員監視装置であって、
前記乗員監視装置は、
前記車両における前席と後席との間の画像を含む画像データを撮像部から取得するデータ取得部と、
前記データ取得部により取得された画像データを用いて、前記後席の着座位置の高さより下の領域における乗員を検出する乗員検出部と、
前記着座位置の高さより下の領域に乗員が検出された場合、前記乗員検出部により検出された乗員に関する情報である提示情報を提示部へ出力する出力制御部と、
を備え、
後席用の表示装置には、前記撮像部が撮像する際に撮像対象範囲を照明する照明用発光部、および、音出力装置に対して光を用いて音信号を送信する音出力用発光部、が備えられており、
前記乗員監視装置は、
前記データ取得部により取得された画像データを用いて、画像の明るさが不足している場合に、前記照明用発光部および前記音出力用発光部に対して発光を指令する発光制御部をさらに備え、
前記発光制御部は、
前記音出力用発光部が使用されていない場合、前記音出力用発光部に発光させると判定する照明判定部と、
前記照明判定部による判定結果を用いて、前記音出力用発光部に発光させるよう指令する発光指令部と、
を備えた、
ことを特徴とする、乗員監視装置。 - 前記乗員検出部は、
前記データ取得部により取得された画像データを用いて、前席と後席との間の領域を判定する領域判定部と、
前記領域判定部による判定結果に基づき、前記前席と前記後席との間の画像データを用いて、前記後席の前記着座位置の高さより下の領域における乗員を検出する生体検出部と、
を備えた請求項1に記載の乗員監視装置。 - 前記出力制御部は、
前記車両の状況を判別する状況判別部と、
前記状況判別部による判別結果を用いて、状況に応じた提示先に提示情報を提示するよう指令する提示指令部と、
を備えたこと、を特徴とする請求項1または請求項2に記載の乗員監視装置。 - 前記撮像部は、前記車両の天井に配置される撮像装置である、
ことを特徴とする請求項1に記載の乗員監視装置。 - 前記撮像部は、
前記車両の天井に設置された非開閉部と開閉部とからなる前記表示装置が備える撮像装置であって、前記非開閉部に配置される前記撮像装置である、
ことを特徴とする請求項1に記載の乗員監視装置。 - 前記撮像部は、
前記車両の天井に設置された非開閉部と開閉部とからなる前記表示装置が備える撮像装置であって、前記開閉部に配置される前記撮像装置である、
ことを特徴とする請求項1に記載の乗員監視装置。 - 前記撮像部は、
前席のヘッドレストに配置される前記表示装置に備えられた撮像装置である、
ことを特徴とする請求項1に記載の乗員監視装置。 - 前記撮像部と前記照明用発光部とは、前記照明用発光部から発した光が、少なくとも後席に着座している状態における乗員の網膜を介して前記撮像部に正反射しないように、一定の間隔を空けて配置されていること、
を特徴とする請求項1から請求項7のうちのいずれか1項に記載の乗員監視装置。 - 前記撮像部と、前記照明用発光部および前記音出力用発光部とは、前記照明用発光部および前記音出力用発光部による光が少なくとも後席に着座している状態における乗員の網膜を介して前記撮像部に正反射しないように、一定の間隔を空けて配置されていること、
を特徴とする請求項1から請求項7のうちのいずれか1項に記載の乗員監視装置。 - 前記撮像部を備え、
前記撮像部は、
前記車両に乗員が乗車したことを契機にして撮像を開始し、
前記データ取得部は、
前記撮像部から画像データの取得を開始し、
前記撮像部は、
前記車両から全ての乗員が降車したと判断できる状況において撮像を終了する、
ことを特徴とする請求項1から請求項9のうちのいずれか1項に記載の乗員監視装置。 - 乗員監視装置を用いて車両における乗員を監視する乗員監視方法であって、
前記乗員監視方法は、
前記乗員監視装置のデータ取得部が、前記車両における前席と後席との間の画像を含む画像データを撮像部から取得するデータ取得ステップと、
前記乗員監視装置の乗員検出部が、前記データ取得部により取得された画像データを用いて、前記後席の着座位置の高さより下の領域における乗員を検出する乗員検出ステップと、
前記着座位置の高さより下の領域に乗員が検出された場合、前記乗員監視装置の出力制御部が、前記乗員検出部により検出された乗員に関する情報である提示情報を提示部へ出力する出力制御ステップと、
を備え、
後席用の表示装置には、前記撮像部が撮像する際に撮像対象範囲を照明する照明用発光部、および、音出力装置に対して光を用いて音信号を送信する音出力用発光部、が備えられており、
前記乗員監視方法は、
前記乗員監視装置の発光制御部が、前記データ取得部により取得された画像データを用いて、画像の明るさが不足している場合に、前記照明用発光部および前記音出力用発光部に対して発光を指令する発光制御ステップをさらに備え、
前記発光制御ステップは、
前記音出力用発光部が使用されていない場合、前記音出力用発光部に発光させると判定する照明判定ステップと、
前記照明判定ステップによる判定結果を用いて、前記音出力用発光部に発光させるよう指令する発光指令ステップと、
を備えた、
ことを特徴とする、乗員監視方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2021/047789 WO2023119538A1 (ja) | 2021-12-23 | 2021-12-23 | 乗員監視装置、および、乗員監視方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JPWO2023119538A1 JPWO2023119538A1 (ja) | 2023-06-29 |
JPWO2023119538A5 JPWO2023119538A5 (ja) | 2023-12-13 |
JP7446545B2 true JP7446545B2 (ja) | 2024-03-08 |
Family
ID=86901731
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023565343A Active JP7446545B2 (ja) | 2021-12-23 | 2021-12-23 | 乗員監視装置、および、乗員監視方法 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP7446545B2 (ja) |
WO (1) | WO2023119538A1 (ja) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005075184A (ja) | 2003-09-01 | 2005-03-24 | Matsushita Electric Ind Co Ltd | 車載モニタ装置 |
JP2008280037A (ja) | 2008-07-14 | 2008-11-20 | Mitsubishi Electric Corp | 移動体用表示装置 |
US20100054490A1 (en) | 2008-08-29 | 2010-03-04 | Lucent Technologies Inc. | Audio Noise Cancellation System |
JP2020136748A (ja) | 2019-02-14 | 2020-08-31 | 日本電産モビリティ株式会社 | 乗員監視装置 |
-
2021
- 2021-12-23 WO PCT/JP2021/047789 patent/WO2023119538A1/ja active Application Filing
- 2021-12-23 JP JP2023565343A patent/JP7446545B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005075184A (ja) | 2003-09-01 | 2005-03-24 | Matsushita Electric Ind Co Ltd | 車載モニタ装置 |
JP2008280037A (ja) | 2008-07-14 | 2008-11-20 | Mitsubishi Electric Corp | 移動体用表示装置 |
US20100054490A1 (en) | 2008-08-29 | 2010-03-04 | Lucent Technologies Inc. | Audio Noise Cancellation System |
JP2020136748A (ja) | 2019-02-14 | 2020-08-31 | 日本電産モビリティ株式会社 | 乗員監視装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2023119538A1 (ja) | 2023-06-29 |
JPWO2023119538A1 (ja) | 2023-06-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10471857B2 (en) | Reclining rear seat system for a motor vehicle | |
US20150312565A1 (en) | Method for calibrating vehicular vision system | |
JP5638139B2 (ja) | 乗員検知装置 | |
US11330189B2 (en) | Imaging control device for monitoring a vehicle occupant | |
US9734695B2 (en) | Activity monitoring apparatus | |
JP2008052029A (ja) | 撮像システム、車両乗員検出システム、作動装置制御システム、車両 | |
JP6772786B2 (ja) | 乗員検知装置および乗員検知プログラム | |
JP2006044420A (ja) | 車両機器制御装置 | |
JP5368771B2 (ja) | 乗員監視装置 | |
US10579867B2 (en) | Method and device for detecting an object in a vehicle | |
US20230166737A1 (en) | Cabin-inside detection device and cabin-inside detection method | |
JP2016107864A (ja) | 車内灯制御装置及びコンピュータプログラム | |
JP7446545B2 (ja) | 乗員監視装置、および、乗員監視方法 | |
JP2013252863A (ja) | 乗員拘束制御装置および乗員拘束制御方法 | |
JP2010195139A (ja) | 乗員拘束制御装置および乗員拘束制御方法 | |
JP2017095008A (ja) | 制御装置、制御方法、及び、プログラム | |
US20230068982A1 (en) | Alert system to output alert about occupant left in vehicle | |
CN112088110A (zh) | 用于照明车辆内的座位的方法 | |
JP2019073098A (ja) | 車室用照明制御システムおよび車室用照明制御方法 | |
JP6945775B2 (ja) | 車載用画像処理装置、および、車載用画像処理方法 | |
JP7046439B2 (ja) | 車室内照明制御装置 | |
WO2019030855A1 (ja) | 運転不能状態判定装置および運転不能状態判定方法 | |
JP2021071893A (ja) | 乗員検出制御装置、乗員検出装置、乗員検出方法およびプログラム | |
JPWO2019207625A1 (ja) | 乗員検知装置、乗員検知方法及び乗員検知システム | |
JP6942581B2 (ja) | 車室内照明システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231024 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231024 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20231024 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231121 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231227 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240130 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240227 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7446545 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |