JP2019154929A - 算出システム、指標算出方法、およびコンピュータプログラム - Google Patents
算出システム、指標算出方法、およびコンピュータプログラム Download PDFInfo
- Publication number
- JP2019154929A JP2019154929A JP2018048269A JP2018048269A JP2019154929A JP 2019154929 A JP2019154929 A JP 2019154929A JP 2018048269 A JP2018048269 A JP 2018048269A JP 2018048269 A JP2018048269 A JP 2018048269A JP 2019154929 A JP2019154929 A JP 2019154929A
- Authority
- JP
- Japan
- Prior art keywords
- moving body
- calculation
- person
- unit
- movement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/113—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/18—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Veterinary Medicine (AREA)
- Surgery (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Molecular Biology (AREA)
- Medical Informatics (AREA)
- Biophysics (AREA)
- Heart & Thoracic Surgery (AREA)
- Biomedical Technology (AREA)
- Pathology (AREA)
- Developmental Disabilities (AREA)
- Educational Technology (AREA)
- Hospice & Palliative Care (AREA)
- Social Psychology (AREA)
- Psychology (AREA)
- Psychiatry (AREA)
- Child & Adolescent Psychology (AREA)
- Physiology (AREA)
- Dentistry (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Ophthalmology & Optometry (AREA)
- General Physics & Mathematics (AREA)
- Traffic Control Systems (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Eye Examination Apparatus (AREA)
Abstract
Description
下記の特許文献1に開示されている技術では、運転者の瞬き時間を検出して、所定時間内における瞬きの総数と、長い瞬きの回数とから運転者の覚醒度を評価する。このため、低下した覚醒度の検出は可能であるものの、覚醒度低下の予兆、すなわち眠気を自覚する前の眠気の予兆を検出することはできない。
ところが上記したように、撮影装置を移動体の内部に取り付けた場合、移動体座標系における運転者の情報しか得られない。
このため、乗車し、実際に走行中の運転者の覚醒に関する情報を高い精度に検出することは極めて困難であるという課題があった。
移動体中の人物の顔を撮影する撮像部と、
前記移動体の運動データを計測するセンサと、
前記撮像部により撮影された顔の画像を用いて前記人物の眼球運動を算出する第1の算出部と、
前記センサにより計測された前記移動体の運動データ及び前記撮像部により撮影された顔の画像を用いて前記人物の頭部運動を算出する第2の算出部と、
を備えていることを特徴としている。
従って、移動体の運動を考慮した頭部運動が算出される。このため、少なくとも前記撮像部及び前記センサが移動体に配備され、移動体が移動中の場合であっても、絶対座標系に対する頭部運動の正確な情報を得ることができる。
さらに、前記第1の算出部により算出された眼球運動、及び、前記第2の算出部により算出された頭部運動を用いて、前記移動体中における人物の覚醒に関する指標を算出する第3の算出部を備えていることを特徴としている。
前記撮像部により撮影された顔の画像を用いて、前記人物が前記移動体の外部の注視点を注視している第1の状態か否かを判別する第1の判別部をさらに備え、
前記第3の算出部は、前記第1の判別部によって第1の状態であると判別された場合の眼球運動及び頭部運動を用いて、前記指標を算出することを特徴としている。
前記撮像部により撮影された顔の画像を用いて、眼球と頭部とが同方向に運動している第2の状態であるか否かを判別する第2の判別部をさらに備え、
前記第3の算出部は、前記第1の算出部により算出された眼球運動、及び、前記第2の算出部により算出された頭部運動のうち、前記第2の状態における眼球運動及び頭部運動を除外して、前記指標を算出することを特徴としている。
前記覚醒に関する指標が、前庭動眼反射のゲイン、頭部の角速度と眼球の角速度との位相差、及び前庭動眼反射の残差標準偏差のうちの少なくとも一つの値、或いは、これら値の二つ以上の値に基づく演算値であることを特徴としている。
前記頭部運動が、
前記撮像部により撮影された顔の画像に基づく顔の運動情報と、
前記センサにより計測された前記移動体の運動情報と、の対応値同士の加算によって、
前記移動体外の絶対座標系の値として算出されることを特徴としている。
上記算出システム(1)〜(6)のいずれかを構成する情報処理装置であって、
移動体に設置された撮像部によって撮影された顔の画像を用いて、人物の眼球運動を算出する第1の算出部と、
前記移動体に設置されたセンサによって計測された前記移動体の運動データ、及び、前記撮像部によって撮影された顔の画像を用いて、前記人物の頭部運動を算出する第2の算出部と、
を備えていることを特徴としている。
前記第2の算出部は、前記移動体の運動データと顔の画像に基づいて頭部運動を算出するため、移動体の運動状態にかかわらず、頭部運動を、移動体外の絶対座標系として得ることができる。これにより、移動体中の運転者の覚醒に関連する情報をより正確に算出することが可能となる。
移動体中の人物の覚醒に関する指標を算出する方法であって、
前記移動体に設置された撮像部によって、前記移動体中の前記人物の顔の画像を撮影する撮像ステップと、
前記移動体に設置されたセンサによって、移動中の前記移動体の運動データを計測する計測ステップと、
前記撮像ステップにおいて撮影された顔の画像を用いて、前記移動体中の前記人物の眼球運動を算出する第1の算出ステップと、
前記撮像ステップにおいて撮影された顔の画像、及び、前記計測ステップにおいて計測された前記移動体の運動データを用いて、前記移動体中の前記人物の頭部運動を絶対座標系の値として算出する第2の算出ステップと、
前記第1の算出ステップにおいて算出された眼球運動、及び、前記第2の算出ステップにおいて算出された頭部運動を用いて、前記移動体中の人物の覚醒に関する指標を算出する第3の算出ステップと、
を備えていることを特徴としている。
移動体中の人物の覚醒に関する指標の算出処理を少なくとも1つのコンピュータに実行させるためのコンピュータプログラムであって、
前記少なくとも1つのコンピュータに、
前記移動体に設置された撮像部によって、前記移動体中の前記人物の顔の画像を撮影する撮像ステップと、
前記移動体に設置されたセンサによって、移動中の前記移動体の運動データを計測する計測ステップと、
前記撮像ステップにおいて撮影された顔の画像を用いて、前記移動体中の前記人物の眼球運動を算出する第1の算出ステップと、
前記撮像ステップにおいて撮影された顔の画像、及び、前記計測ステップにおいて計測された前記移動体の運動データを用いて、前記移動体中の前記人物の頭部運動を絶対座標系の値として算出する第2の算出ステップと、
前記第1の算出ステップにおいて算出された眼球運動、及び、前記第2の算出ステップにおいて算出された頭部運動を用いて、前記移動体中の人物の覚醒に関する指標を算出する第3の算出ステップと、
を実行させることを特徴としている。
図1は、実施の形態に係る情報処理装置を含む算出システムを移動体Mへ適用した例を示す概略平面図であり、図2は、移動体Mに搭載された算出システムを示す概略斜視図である。
図2に示す例において、運転者Dは、頭部DHを含む上半身が視認部方向を向いた状態で着座部に着座し、眼球の瞳孔101(図3)が視認部の先の注視点Pの方向を向いている。
また、図2に示す符号DOは、人物の顔の向きを算出するための顔の一つの顔器官点を示している。情報処理装置10(図4)は、顔の向きを算出するために、多数の顔の器官点情報からなる顔のモデルを用意し、複数の器官点の位置情報から顔の向きを推定する。顔の向きの変化量から顔の移動量を算出することができる。
また、眼球運動は、眼球の画像部分における瞳孔101の動きから算出することも可能である。
前記照射光は非可視光線であることも多く、非可視光線である場合、カメラ11によって撮影される画像は、非可視光線の反射光に基づく人物の画像からなる。
[算出システムの構成例]
算出システム1は、図4に示したように、移動体M中の人物である運転者Dの顔を撮影する撮像部としてのカメラ11、各種の情報処理を行う情報処理装置10、及び移動体Mの運動データを計測するジャイロセンサ2を含んで構成されている。
算出システム1は、カメラ11、情報処理装置10、及びジャイロセンサ2を含んで構成されており、いわゆるドライブモニタリングシステムの一部を構成しているとみなすこともできる。
また、算出システム1は、図5に示したような機能構成ブロックでも表すことができ、
カメラ11により撮影された顔の画像を用いて前記人物の眼球運動を算出する第1の算出部31と、
ジャイロセンサ2により計測された移動体Mの運動データ及びカメラ11により撮影された顔の画像を用いて絶対座標系に対する人物の頭部運動を算出する第2の算出部32と、
第1の算出部31により算出された眼球運動、及び、第2の算出部32により算出された頭部運動を用いて、移動体M中の人物の覚醒に関する指標を算出する第3の算出部33とを備えている。
カメラ11は所定のフレームレート(例えば、毎秒30〜60フレーム)で画像を撮像し、カメラ11で撮影された画像のデータが情報処理装置10へ出力されるようになっている。
ジャイロセンサ2は移動体Mに不要に揺動することなく設置されていればよく、移動体Mへの設置位置は特に限定されない。
照射部3は、例えば図2に示したように、移動体M内の決められた位置から、人物のいる運転席の方向へ照射光を照射する。照射光は、一定方向へ照射されることで、眼球上の一定方向の一点が角膜反射像121として反射される。この角膜反射像121は、照射部3の固定位置から人物の眼球までの距離が最短距離となる点に形成される。また、照射光が非可視光線である場合、人物の視線の動きを妨げることがない。カメラ11によって撮影される画像は、角膜反射像121を含む画像である。
図4は、実施の形態に係る情報処理装置10を含む算出システム1の機能構成例を示すブロック図である。
情報処理装置10は、入出力インターフェース(I/F)110、制御ユニット12、及び記憶ユニット13を含んで構成されている。
顔の向き記憶部13bには、検出部12bで検出された各画像の運転者Dの顔の向き及び移動量に関する情報が、画像記憶部13aに記憶される各画像と対応付けて記憶される。
パラメータ記憶部13cには、第2判定部12eでの判定に用いられる、顔の向きの閾値や移動量の閾値などの各種パラメータが記憶されている。
基準記憶部13dには、基準決定部12fで決定された運転者Dの顔の向きの基準に関する情報、例えば、基準を示す値(基準値)などが記憶される。
プログラム記憶部13eには、制御ユニット12の各部で実行される情報処理プログラムや該プログラムの実行に必要なデータなどが記憶されている。
情報処理装置10は、移動体Mに搭載される算出システム1に内蔵され、車載機器(図示せず)から移動体Mの走行状態に関する各種情報を取得できるとともに、車載機器に対して制御信号などを出力するように構成されている。
このうち、顔器官点DOの位置情報としては、例えば、運転者Dの顔の3次元の軸上位置を示す幅位置Xd、高さ位置Yd、前後位置Zdの各値の組合せが用いられる。また、顔器官点DOの向きの情報としては、例えば、3次元軸のうちX軸周りの回転角であるピッチPd、Y軸周りの回転角であるヨーYd、Z軸周りの回転角であるロールRdからなる各値の組合せが用いられる。これらは、運転者Dの頭部の位置を示す情報、及び、運転者Dの頭部運動を示す情報となる。
移動体Mの運動情報には、少なくともジャイロセンサ2で検出された回転角速度などが含まれる。
また、情報取得部12cは、移動体Mの加減速情報や移動体Mの傾斜情報等を取得してもよい。
一方、算出部12g、処理部12h、及び基準記憶部13dが協働して、運転者Dの状態を把握(モニタリング)する処理を実行する。
所定の処理は、例えば、脇見状態にあるか否かの判定処理を行って、脇見状態にある場合(例えば、左右方向の顔の向きが基準値から所定値以上ずれている場合)、報知装置37に報知を指示する処理でもよいし、報知処理を行うことなく、脇見状態にある顔の向きの情報を記憶ユニット13に記憶する処理や、運転制御装置30に出力する処理でもよい。
また、処理部12hは、移動体Mの移動状態の判定処理を行って、明らかに移動体Mが停止している場合、或いは明らかに移動体Mが右左折移動を行っている場合を検知し、前記いずれの場合でもない時に限って、前記報知処理、あるいは前記記憶ユニット13への記憶処理を行ってもよい。
例えば、特定の走行状態(例えば、直進している走行状態)であるときに、算出部12gで算出された前記運転者Dの顔の向きと、前記顔の向きの基準との差が所定範囲内である状態(例えば、基準値から一定の方向に顔の向きがずれているが、脇見ほどずれていない状態)で一定期間又は断続的に継続している場合に、前記差が小さくなるように前記顔の向きの基準を変更、例えば補正してもよい。また、基準変更部12iが行う処理には、運転者Dが変わった場合に、顔の向きの基準を変更する処理も含まれる。
制御ユニット12は、これら撮影された画像を時系列で取り込み、毎フレーム、又は所定間隔のフレーム毎に本処理を実行する。
次に、ステップS3では、制御ユニット12が、取得した画像から運転者Dの眼球を含む画像要素ID10を抽出したうえで、眼球運動を算出する処理を行う。
ステップS5では、絶対座標系に関する運転者Dの頭部運動を求めるために、ステップS2で算出された車両座標系における運転者Dの頭部運動の値に、ステップS4で算出された移動体Mの絶対座標系における車両運動の値を加算する処理を行う。この加算処理は、例えば、ある時刻における頭部運動を示す値を、当該時刻の車両運動を示す値とを加算する処理である。
次に、ステップS6では、第1判定部12dによって、運転者Dが第1の状態にあるか否かが判断され、第1の状態にあると判断されれば、次にステップS7に進み、第1の状態にはないと判断されれば、本処理を終了する。
次に、ステップS7では、運転者Dが第1の状態にあると判断されたときの絶対座標系に変換された頭部運動及び眼球運動に基づいて、運転者DのVOR情報を算出する処理を行い、その後、ステップS8に進む。
ステップS8では、VOR情報を記憶ユニット13に格納して記憶していく処理が行われ、同時に、5秒以上前のデータは消去され、直近5秒間以内のVOR情報への書換えが行われる。
ステップS10では、第2判定部12eにおいて頭部運動と眼球運動との相関性が“同方向運動状態にある”と判断されたデータを除外する処理が行われ、その後、ステップS11に進み、ステップS11では、“非同方向運動状態”と判断されたVOR情報のみの出力処理が行われ、その後、本処理が終了する。
まず、ステップS21では、制御ユニット12が、カメラ11により撮影された画像を取得する処理を行い、次に、ステップS22では、取得した画像に基づいて運転者Dの頭部DHが検出できるか否かを判断し、運転者Dの頭部DHが検出できると判断すると、次にステップS23に進む一方、運転者Dの頭部DHが検出できないと判断すると、本処理を終了する。
ステップS23では、取得した画像に基づいて運転者Dの頭部DHから顔器官点DOが検出できるか否かを判断し、顔器官点DOが検出できると判断すると、次にステップS24に進む一方、顔器官点DOが検出できないと判断すると、本処理を終了する。
次にステップS25に進み、ステップS25では、顔器官点位置の移動量に基づき、車両座標系における頭部運動を算出し、次に、ステップS26に進む。
ステップS26では、算出された頭部運動を示す情報を記憶ユニット13に記憶する処理が行なわれ、その後、本処理を終了する。
まず、ステップS31では、制御ユニット12が、カメラ11により撮影された画像を取得する処理を行い、次にステップS32に進み、ステップS32では、取得した画像に基づいて運転者Dの頭部DHが検出できるか否かを判断し、運転者Dの頭部DHが検出できると判断すると、次にステップS33に進む一方、運転者Dの頭部DHが検出できないと判断すると、本処理を終了する。
ステップS34では、運転者Dの眼球DOから瞳孔101が検出できるか否かを判断し、瞳孔101が検出できると判断すると、次にステップS35に進む一方、瞳孔101が検出できないと判断すると、本処理を終了する。
ステップS35では、瞳孔の移動量を算出し、次にステップS36に進み、ステップS36では、瞳孔の移動量に基づいて、眼球の移動量を算出し、次にステップS37に進み、ステップS37では、眼球の移動量に基づいて、眼球運動を算出する。
次にステップS38に進み、ステップS38では、算出された眼球運動を記憶ユニット13に記憶する処理が行なわれ、その後、本処理を終了する。
まず、ステップS71では、前庭動眼反射のゲイン(VORゲイン)が算出される。
次に、ステップS72では、頭部角速度と眼球角速度の位相差が算出される。
次に、ステップS73では、VORゲインと上記位相差に基づいて、残差標準偏差が算出される。
次に、ステップS74では、これらのVOR情報を記憶ユニット13に記憶する処理が行なわれ、その後、本処理を終了する。
実施の形態に係る情報処理装置を含む算出システムの他の適用例を図11に示す。本適用例は撮像部として二つのカメラを備えている点、照射部3が不可視光線像を運転者Dの眼球に加えて運転者D背部にも照射する点で、図2に示した適用例とは異なっている。
本発明の実施の形態は、以下の付記のようにも記載され得るが、これらに限定されない。
[付記1]
移動体に設置されたカメラ(11)によって撮影された顔の画像を用いて、人物の眼球運動を算出する第1の算出部(31)と、
前記移動体に設置されたセンサ(2)によって計測された前記移動体の運動データ、及び、
カメラ(11)によって撮影された顔の画像を用いて、前記人物の頭部運動を算出する第2の算出部(32)と、
を備えていることを特徴とする情報処理装置。
移動体M中の人物の覚醒に関する指標を算出する方法であって、
移動体Mに固定されたカメラ(11)によって、移動体M中の人物の顔の画像を撮影する撮像ステップ(S1)と、
移動体Mに設置されたジャイロセンサ(2)によって、移動中の移動体Mの運動データを計測する計測ステップ(S4)と、
撮像ステップ(S1)において撮影された顔の画像を用いて、移動体M中の人物の眼球運動を算出する第1の算出ステップ(S3)と、
撮像ステップ(S1)において撮影された顔の画像、及び、計測ステップ(S4)により計測された移動体Mの運動データを用いて、移動体M中の人物の頭部運動を絶対座標系の値として算出する第2の算出ステップ(S5)と、
第1の算出ステップ(S3)において算出された眼球運動、及び、第2の算出ステップにおいて算出された頭部運動を用いて、移動体M中の人物の覚醒に関する指標を算出する第3の算出ステップ(S7)と、
を備えていることを特徴とする指標算出方法。
情報処置装置(10)と、前記第1の算出部により算出された眼球運動、及び、前記第2の算出部により算出された頭部運動を用いて、前記移動体を制御する制御手段とを備えていることを特徴とする運転支援システム。
移動体中の人物の覚醒に関する指標の算出処理を少なくとも1つのコンピュータに実行させるためのコンピュータプログラムであって、
前記少なくとも1つのコンピュータに、
移動体Mに固定されたカメラ(11)によって、移動体M中の人物の顔の画像を撮影する撮像ステップ(S1)と、
移動体Mに設置されたジャイロセンサ(2)によって、移動中の移動体Mの運動データを計測する計測ステップ(S4)と、
撮像ステップ(S1)において撮影された顔の画像を用いて、移動体M中の人物の眼球運動を算出する第1の算出ステップ(S3)と、
撮像ステップ(S1)において撮影された顔の画像、及び、計測ステップ(S4)により計測された移動体Mの運動データを用いて、移動体M中の人物の頭部運動を絶対座標系の値として算出する第2の算出ステップ(S5)と、
第1の算出ステップ(S3)において算出された眼球運動、及び、第2の算出ステップにおいて算出された頭部運動を用いて、移動体M中の人物の覚醒に関する指標を算出する第3の算出ステップ(S7)と、
を実行させることを特徴とする覚醒に関する指標算出のためのコンピュータプログラム。
2 ジャイロセンサ
3 照射部
4 補助カメラ
10 情報処理装置
11 カメラ
11A 瞳孔中心
12 制御ユニット
13 記憶ユニット
30 運転制御装置
31 第1の算出部
32 第2の算出部
33 第3の算出部
37 報知装置
101 瞳孔
110 入出力インターフェース
121 角膜反射像
M 移動体
D 運転者
DO 顔器官点
X−Y−Z 絶対座標系における三次元軸
移動体に設置され、前記移動体中の人物の顔を撮影する撮像部と、
前記移動体に設置され、前記移動体の運動データを計測するセンサと、
前記撮像部により撮影された顔の画像を用いて前記人物の眼球運動を算出する第1の算出部と、
前記センサにより計測された前記移動体の運動データ及び前記撮像部により撮影された顔の画像を用いて前記移動体中の前記人物の頭部運動を算出する第2の算出部と、
前記第1の算出部によって算出された眼球運動、及び、前記第2の算出部によって算出された頭部運動を用いて、前記移動体中の人物の覚醒に関する指標を算出する第3の算出部と、
を備えていることを特徴としている。
従って、移動体の運動を考慮した頭部運動が算出される。このため、少なくとも前記撮像部及び前記センサが移動体に配備され、移動体が移動中の場合であっても、頭部運動の正確な情報を得ることができる。
前記撮像部と前記センサとが移動体に設置された構成で、さらに前記第3の算出部を備えることで、運転者の頭部に撮像部やセンサを装着しなくても、移動体の運動を考慮した頭部運動の情報に基づいて前記移動体中における前記人物の覚醒に関する指標を高い精度で算出することが可能となる。
前記撮像部により撮影された顔の画像を用いて、前記人物が前記移動体の外部の注視点を注視している外部注視状態か否かを判別する第1の判別部をさらに備え、
前記第3の算出部は、前記第1の判別部によって外部を注視している外部注視状態であると判別された場合の眼球運動及び頭部運動を用いて、前記指標を算出することを特徴としている。
前記撮像部により撮影された顔の画像を用いて、眼球運動と頭部運動とが同方向に運動している第2の状態であるか否かを判別する第2の判別部をさらに備え、
前記第3の算出部は、前記第1の算出部により算出された眼球運動、及び、前記第2の判別部により算出された頭部運動のうち、前記第2の状態における眼球運動及び頭部運動を除外して、前記指標を算出することを特徴としている。
前記覚醒に関する指標が、前庭動眼反射のゲイン、頭部の角速度と眼球の角速度との位相差、及び前庭動眼反射の残差標準偏差のうちの少なくとも一つの値、或いは、これら値の二つ以上の値に基づく演算値であることを特徴としている。
移動体中の人物の覚醒に関する指標を算出する方法であって、
前記移動体に設置された撮像部によって、前記移動体中の前記人物の顔の画像を撮影する撮像ステップと、
前記移動体に設置されたセンサによって、移動中の前記移動体の運動データを計測する計測ステップと、
前記撮像ステップにおいて撮影された顔の画像を用いて、前記移動体中の前記人物の眼球運動を算出する第1の算出ステップと、
前記撮像ステップにおいて撮影された顔の画像、及び、前記計測ステップにおいて計測された前記移動体の運動データを用いて、前記移動体中の前記人物の頭部運動を算出する第2の算出ステップと、
前記第1の算出ステップにおいて算出された眼球運動、及び、前記第2の算出ステップ
において算出された頭部運動を用いて、前記移動体中の人物の覚醒に関する指標を算出す
る第3の算出ステップと、
を備えていることを特徴としている。
移動体中の人物の覚醒に関する指標の算出処理を少なくとも1つのコンピュータに実行させるためのコンピュータプログラムであって、
前記少なくとも1つのコンピュータに、
前記移動体に設置された撮像部によって撮像された、前記移動体中の前記人物の顔の画像を取得する画像取得ステップと、
前記移動体に設置されたセンサによって計測された、移動中の前記移動体の運動データを取得する情報取得ステップと、
前記画像取得ステップにおいて取得した顔の画像を用いて、前記移動体中の前記人物の眼球運動を算出する第1の算出ステップと、
前記画像取得ステップにおいて取得した顔の画像、及び、前記情報取得ステップにおいて取得した前記移動体の運動データを用いて、前記移動体中の前記人物の頭部運動を算出する第2の算出ステップと、
前記第1の算出ステップにおいて算出された眼球運動、及び、前記第2の算出ステップにおいて算出された頭部運動を用いて、前記移動体中の人物の覚醒に関する指標を算出する第3の算出ステップと、
を実行させることを特徴としている。
Claims (10)
- 移動体中の人物の顔を撮影する撮像部と、
前記移動体の運動データを計測するセンサと、
前記撮像部により撮影された顔の画像を用いて前記人物の眼球運動を算出する第1の算出部と、
前記センサにより計測された前記移動体の運動データ及び前記撮像部により撮影された顔の画像を用いて前記人物の頭部運動を算出する第2の算出部と、
を備えていることを特徴とする算出システム。 - さらに、前記第1の算出部により算出された眼球運動、及び、前記第2の算出部により算出された頭部運動を用いて、前記移動体中における人物の覚醒に関する指標を算出する第3の算出部を備えていることを特徴とする請求項1記載の算出システム。
- 前記撮像部により撮影された顔の画像を用いて、前記人物が前記移動体の外部の注視点を注視している第1の状態か否かを判別する第1の判別部をさらに備え、
前記第3の算出部は、前記第1の判別部によって第1の状態であると判別された場合の眼球運動及び頭部運動を用いて、前記指標を算出することを特徴とする請求項2記載の算出システム。 - 前記撮像部により撮影された顔の画像を用いて、眼球と頭部とが同方向に運動している第2の状態であるか否かを判別する第2の判別部をさらに備え、
前記第3の算出部は、前記第1の算出部により算出された眼球運動、及び、前記第2の算出部により算出された頭部運動のうち、前記第2の状態における眼球運動及び頭部運動を除外して、前記指標を算出することを特徴とする請求項2又は請求項3記載の算出システム。 - 前記覚醒に関する指標が、前庭動眼反射のゲイン、頭部の角速度と眼球の角速度との位相差、及び前庭動眼反射の残差標準偏差のうちの少なくとも一つの値、或いは、これら値の二つ以上の値に基づく演算値であることを特徴とする請求項2〜4のいずれかの項に記載の算出システム。
- 前記頭部運動が、
前記撮像部により撮影された顔の画像に基づく顔の運動情報と、
前記センサにより計測された前記移動体の運動情報と、の対応値同士の加算によって、
前記移動体外の絶対座標系の値として算出されることを特徴とする請求項2〜5のいずれかの項に記載の算出システム。 - 移動体に設置された撮像部によって撮影された顔の画像を用いて、人物の眼球運動を算出する第1の算出部と、
前記移動体に設置されたセンサによって計測された前記移動体の運動データ、及び、前記撮像部によって撮影された顔の画像を用いて、前記人物の頭部運動を算出する第2の算出部と、
を備えていることを特徴とする情報処理装置。 - 請求項7に記載の情報処理装置と、
前記第1の算出部により算出された眼球運動、及び、前記第2の算出部により算出された頭部運動を用いて、前記移動体を制御する制御手段と
を備えていることを特徴とする運転支援システム。 - 移動体中の人物の覚醒に関する指標を算出する方法であって、
前記移動体に設置された撮像部によって、前記移動体中の前記人物の顔の画像を撮影する撮像ステップと、
前記移動体に設置されたセンサによって、移動中の前記移動体の運動データを計測する計測ステップと、
前記撮像ステップにおいて撮影された顔の画像を用いて、前記移動体中の前記人物の眼球運動を算出する第1の算出ステップと、
前記撮像ステップにおいて撮影された顔の画像、及び、前記計測ステップにおいて計測された前記移動体の運動データを用いて、前記移動体中の前記人物の頭部運動を絶対座標系の値として算出する第2の算出ステップと、
前記第1の算出ステップにおいて算出された眼球運動、及び、前記第2の算出ステップにおいて算出された頭部運動を用いて、前記移動体中の人物の覚醒に関する指標を算出する第3の算出ステップと、
を備えていることを特徴とする覚醒に関する指標算出方法。 - 移動体中の人物の覚醒に関する指標の算出処理を少なくとも1つのコンピュータに実行させるためのコンピュータプログラムであって、
前記少なくとも1つのコンピュータに、
前記移動体に設置された撮像部によって、前記移動体中の前記人物の顔の画像を撮影する撮像ステップと、
前記移動体に設置されたセンサによって、移動中の前記移動体の運動データを計測する計測ステップと、
前記撮像ステップにおいて撮影された顔の画像を用いて、前記移動体中の前記人物の眼球運動を算出する第1の算出ステップと、
前記撮像ステップにおいて撮影された顔の画像、及び、前記計測ステップにおいて計測された前記移動体の運動データを用いて、前記移動体中の前記人物の頭部運動を絶対座標系の値として算出する第2の算出ステップと、
前記第1の算出ステップにおいて算出された眼球運動、及び、前記第2の算出ステップにおいて算出された頭部運動を用いて、前記移動体中の人物の覚醒に関する指標を算出する第3の算出ステップと、
を実行させることを特徴とする覚醒に関する指標算出のためのコンピュータプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018048269A JP6432702B1 (ja) | 2018-03-15 | 2018-03-15 | 算出システム、指標算出方法、およびコンピュータプログラム |
PCT/JP2019/006511 WO2019176492A1 (ja) | 2018-03-15 | 2019-02-21 | 算出システム、情報処理装置、運転支援システム、指標算出方法、コンピュータプログラム、及び記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018048269A JP6432702B1 (ja) | 2018-03-15 | 2018-03-15 | 算出システム、指標算出方法、およびコンピュータプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6432702B1 JP6432702B1 (ja) | 2018-12-05 |
JP2019154929A true JP2019154929A (ja) | 2019-09-19 |
Family
ID=64560686
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018048269A Active JP6432702B1 (ja) | 2018-03-15 | 2018-03-15 | 算出システム、指標算出方法、およびコンピュータプログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6432702B1 (ja) |
WO (1) | WO2019176492A1 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022234632A1 (ja) * | 2021-05-07 | 2022-11-10 | 三菱電機株式会社 | 反射性眼球運動評価装置、反射性眼球運動評価システム、および反射性眼球運動評価方法 |
WO2024079779A1 (ja) * | 2022-10-11 | 2024-04-18 | 三菱電機株式会社 | 乗員状態判定装置、乗員状態判定システム、乗員状態判定方法及びプログラム |
WO2024122039A1 (ja) * | 2022-12-09 | 2024-06-13 | 三菱電機株式会社 | 集中度判定装置及び集中度判定方法 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6972393B2 (ja) * | 2019-01-21 | 2021-11-24 | 三菱電機株式会社 | 注意力判定装置、注意力判定システム、注意力判定方法、およびプログラム |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04288123A (ja) * | 1991-03-18 | 1992-10-13 | A T R Shichiyoukaku Kiko Kenkyusho:Kk | 視線表示装置 |
WO2010032424A1 (ja) * | 2008-09-18 | 2010-03-25 | 学校法人中部大学 | 眠気予兆検出装置 |
WO2010091464A1 (en) * | 2009-02-11 | 2010-08-19 | Seeing Machines Limited | Method and system for monitoring an operator of machinery |
JP6344747B2 (ja) * | 2016-12-26 | 2018-06-20 | ヤマハ発動機株式会社 | 演算処理装置及び人の状態推定方法 |
EP4368469A2 (en) * | 2017-08-10 | 2024-05-15 | Yamaha Hatsudoki Kabushiki Kaisha | Visual line movement-related value acquisition device, and transport apparatus equipped with same |
-
2018
- 2018-03-15 JP JP2018048269A patent/JP6432702B1/ja active Active
-
2019
- 2019-02-21 WO PCT/JP2019/006511 patent/WO2019176492A1/ja active Application Filing
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022234632A1 (ja) * | 2021-05-07 | 2022-11-10 | 三菱電機株式会社 | 反射性眼球運動評価装置、反射性眼球運動評価システム、および反射性眼球運動評価方法 |
JP7466766B2 (ja) | 2021-05-07 | 2024-04-12 | 三菱電機株式会社 | 反射性眼球運動評価装置、反射性眼球運動評価システム、および反射性眼球運動評価方法 |
WO2024079779A1 (ja) * | 2022-10-11 | 2024-04-18 | 三菱電機株式会社 | 乗員状態判定装置、乗員状態判定システム、乗員状態判定方法及びプログラム |
WO2024122039A1 (ja) * | 2022-12-09 | 2024-06-13 | 三菱電機株式会社 | 集中度判定装置及び集中度判定方法 |
Also Published As
Publication number | Publication date |
---|---|
JP6432702B1 (ja) | 2018-12-05 |
WO2019176492A1 (ja) | 2019-09-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2019176492A1 (ja) | 算出システム、情報処理装置、運転支援システム、指標算出方法、コンピュータプログラム、及び記憶媒体 | |
CN109791739B (zh) | 晕车估计装置、晕车防止装置和晕车估计方法 | |
JP7099037B2 (ja) | データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム | |
CN106663377B (zh) | 驾驶员的驾驶不能状态检测装置 | |
JP5406328B2 (ja) | 車両用表示装置、その制御方法及びプログラム | |
JP6454368B2 (ja) | 車両の表示システム及び車両の表示システムの制御方法 | |
JP6497158B2 (ja) | 表示装置、移動体 | |
CN109760689A (zh) | 驾驶员监视系统 | |
JP2016057839A (ja) | 顔向き検出装置及び車両用警告システム | |
KR101986734B1 (ko) | 차량 운전 보조 장치 및 이의 안전 운전 유도 방법 | |
JP2015207163A (ja) | 状態推定装置、および状態推定プログラム | |
JP2008079737A (ja) | 集中度評価装置及びこれを用いた車両用表示装置 | |
JP2018183532A (ja) | 状態推定装置 | |
JP2015085719A (ja) | 注視対象物推定装置 | |
JP7099036B2 (ja) | データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム | |
JP6418342B1 (ja) | データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム | |
JP6418341B1 (ja) | データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム | |
JP4325271B2 (ja) | 状態検出装置及び状態検出システム | |
JP7024332B2 (ja) | ドライバモニタシステム | |
JP2017126151A (ja) | 視線検出装置および視線検出方法 | |
JP6775135B2 (ja) | ドライバ状態検出装置 | |
CN113879321B (zh) | 驾驶员监视装置及驾驶员监视方法 | |
JP7298351B2 (ja) | 状態判定装置、車載機、運転評価システム、状態判定方法、及びプログラム | |
JP7060841B2 (ja) | 運転評価装置、運転評価方法、及び運転評価プログラム | |
US20230394702A1 (en) | Device, method, and computer program for estimating seat position |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180315 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20180315 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20180521 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180612 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180807 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181009 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181022 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6432702 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |