JP2019091255A - 情報処理装置、運転者モニタリングシステム、情報処理方法、及び情報処理プログラム - Google Patents
情報処理装置、運転者モニタリングシステム、情報処理方法、及び情報処理プログラム Download PDFInfo
- Publication number
- JP2019091255A JP2019091255A JP2017219770A JP2017219770A JP2019091255A JP 2019091255 A JP2019091255 A JP 2019091255A JP 2017219770 A JP2017219770 A JP 2017219770A JP 2017219770 A JP2017219770 A JP 2017219770A JP 2019091255 A JP2019091255 A JP 2019091255A
- Authority
- JP
- Japan
- Prior art keywords
- driver
- vehicle
- unit
- information
- information processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims description 137
- 238000012544 monitoring process Methods 0.000 title claims description 44
- 238000003672 processing method Methods 0.000 title claims description 8
- 238000001514 detection method Methods 0.000 claims abstract description 110
- 238000000034 method Methods 0.000 claims abstract description 109
- 230000008569 process Effects 0.000 claims description 94
- 238000012545 processing Methods 0.000 claims description 89
- 238000004364 calculation method Methods 0.000 claims description 22
- 230000008859 change Effects 0.000 claims description 22
- 238000009825 accumulation Methods 0.000 claims description 21
- 230000001133 acceleration Effects 0.000 claims description 15
- 230000000007 visual effect Effects 0.000 abstract 3
- 210000001508 eye Anatomy 0.000 description 19
- 238000004891 communication Methods 0.000 description 16
- 210000000056 organ Anatomy 0.000 description 11
- 238000003384 imaging method Methods 0.000 description 7
- 210000001747 pupil Anatomy 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 239000011159 matrix material Substances 0.000 description 5
- 230000001815 facial effect Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 235000002673 Dioscorea communis Nutrition 0.000 description 2
- 241000544230 Dioscorea communis Species 0.000 description 2
- 208000035753 Periorbital contusion Diseases 0.000 description 2
- 208000032140 Sleepiness Diseases 0.000 description 2
- 206010041349 Somnolence Diseases 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000011112 process operation Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000037321 sleepiness Effects 0.000 description 2
- 241001469893 Oxyzygonectes dovii Species 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000000214 mouth Anatomy 0.000 description 1
- 210000001331 nose Anatomy 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/193—Preprocessing; Feature extraction
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Ophthalmology & Optometry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Traffic Control Systems (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Auxiliary Drives, Propulsion Controls, And Safety Devices (AREA)
Abstract
Description
上記特許文献1、2に開示されている運転者の顔の向きや視線方向を検出する技術は、装置側で予め設定された正面方向を基準として、運転者の顔の向きや視線方向を推定している。ところが、運転者が車両の進行方向の正面を見ている場合でも運転者の視線方向、例えば、奥行き方向(上下方向)の視線などには個人差がある。また、同じ運転者であっても、運転環境などによって車両の進行方向の正面を見ている状態での視線方向が変化していることもある。
車両の運転者の顔を含む画像を取得する画像取得部と、
該画像取得部により取得された前記画像から前記運転者の視線方向を検出する検出部と、
該検出部による検出結果を蓄積する蓄積部と、
該蓄積部に蓄積された前記検出結果を用いることで、前記運転者にとっての視線方向の基準を決定する基準決定部とを備えていることを特徴としている。
前記算出部が、前記基準記憶部から読み出した前記基準を用いることで、前記画像から前記基準に対する前記運転者の視線方向を算出することを特徴としている。
該情報取得部により取得された前記情報に基づいて、前記車両が特定の走行状態にあるかを判定する判定部とを備え、
前記基準決定部が、前記判定部により前記特定の走行状態にあると判定されているときの前記視線方向に基づいて前記基準を決定することを特徴としている。
上記情報処理装置(10)によれば、前記車両が直進している走行状態における、前記運転者の視線方向に基づいて前記基準が決定される。したがって、前記運転者が前記車両の直進方向を見ていると推定される状態における前記運転者の視線方向を前記基準にすることができる。
前記判定部が、前記車両の車速が所定の速度域にあり、かつ前記車両が所定の非操舵状態にある場合、前記車両が特定の走行状態にあると判定することを特徴としている。
前記判定部が、前記車両が所定の加速又は減速の状態にある場合、或いは前記車両が所定の傾斜姿勢にある場合を、前記車両が特定の走行状態から除外することを特徴としている。
前記判定部が、前記車両が直線道路を移動している場合、前記車両が特定の走行状態にあると判定することを特徴としている。
該画像取得ステップにより取得された前記画像から前記運転者の視線方向を検出する検出ステップと、
該検出ステップによる検出結果を蓄積部に蓄積する蓄積ステップと、
前記蓄積部に蓄積された前記検出結果を用いることで、前記運転者にとっての視線方向の基準を決定する基準決定ステップとを含むステップを実行させることを特徴としている。
車両の運転者の顔を含む画像を取得する画像取得ステップと、
該画像取得ステップにより取得された前記画像から前記運転者の視線方向を検出する検出ステップと、
該検出ステップによる検出結果を蓄積部に蓄積する蓄積ステップと、
前記蓄積部に蓄積された前記検出結果を用いることで、前記運転者にとっての視線方向の基準を決定する基準決定ステップとを実行させることを特徴としている。
図1は、実施の形態に係る情報処理装置を含む運転者モニタリングシステムの車両への適用例を示す概略図である。
運転者モニタリングシステム1は、車両2の運転者Dの状態を把握するための情報処理を行う情報処理装置10と、運転者Dの顔を含む画像を撮像するカメラ20とを含んで構成されている。
なお、別の実施の形態では、情報処理装置10が、カメラ20で撮像された画像を取得する処理を行い、また、車載機器3から車両2の走行状態に関する情報を取得し、車両2が特定の走行状態にあるか否かを判定し、前記特定の走行状態にあるときの運転者Dの視線方向を検出し、その検出結果を蓄積(記憶)するようにしてもよい。車両2の走行状態に関する情報として、例えば、車両2の車速情報や操舵情報を取得してもよい。これら情報は、後述されている「車両情報」の一例である。この車両情報は、例えば、CANで接続された車載機器3から取得したデータであってもよい。前記特定の走行状態は、例えば、車速が所定の車速域にあり、かつ非操舵状態にある走行状態、すなわち、車両2が直進している走行状態とすることができる。
図2は、実施の形態(1)に係る運転者モニタリングシステムが搭載された車載システムの一例を示すブロック図である。
車載システム4は、運転者モニタリングシステム1と、自動運転制御装置30とを含んで構成されている。運転者モニタリングシステム1は、上記したように情報処理装置10と、カメラ20とを含んで構成されている。情報処理装置10のハードウェア構成については後述する。なお、本実施の形態では車載システム4に自動運転システムを適用した一例について説明するが、適用可能なシステムはこれに限定されない。
情報処理装置10は、入出力インターフェース(I/F)11、制御ユニット12、及び記憶ユニット13を含んで構成されている。
蓄積部13bには、検出部12bで検出された各画像の運転者の視線方向に関する情報が、画像記憶部13aに記憶される各画像と対応付けて記憶される。
基準記憶部13cには、基準決定部12cで決定された、運転者の視線方向の基準に関する情報、例えば、前記基準を示す値(基準値)などが記憶される。
プログラム記憶部13dには、制御ユニット12の各部で実行される情報処理プログラムや該プログラムの実行に必要なデータなどが記憶されている。
運転者の視線方向に関する情報には、画像処理により検出された運転者の視線方向を示す3次元座標上でのベクトル情報や角度情報を含んでもよい。また、運転者の視線方向に関する情報には、顔の向きと、目頭、眼尻、瞳孔などの目領域の位置に関する情報、例えば、目領域の代表的又は特徴的な位置を示す特徴点に関する情報を含んでもよい。
また、算出部12d、処理部12e、及び基準記憶部13cが協働して、運転者の状態を把握(モニタリング)する処理を実行する。
所定の処理は、例えば、脇見状態にあるか否かの判定処理を行い、脇見状態にある場合(例えば、左右方向の視線が基準値から所定値以上ずれている場合)、報知装置37に報知を指示する処理でもよいし、報知処理を行うことなく、脇見状態にある視線方向の情報を、記憶ユニット13に記憶する処理、又は自動運転制御装置30に出力する処理でもよい。
図4は、実施の形態(1)に係る情報処理装置10の制御ユニット12が行う基準決定処理動作の一例を示すフローチャートである。本処理動作は、例えば、車両2の始動スイッチ38がONされた後、一定期間のみ実行されてもよいし、カメラ20が起動されている間、常時実行されてもよい。
視線方向は、例えば、様々な顔の向きと視線方向の目の画像の特徴量(目尻、目頭、瞳孔の相対位置、又は白目部分と黒目部分の相対位置、濃淡、テクスチャーなど)とを予め学習器を用いて学習し、これら学習した特徴量データとの類似度を評価することで視線方向を検出してもよい。または、3次元顔形状モデルのフィッティング結果などを用いて、顔の大きさや向きと目の位置などから眼球の大きさと中心位置とを推定するとともに、瞳孔(黒目)の位置を検出し、眼球の中心と瞳孔の中心とを結ぶベクトルを視線方向として検出してもよい。
図6は、実施の形態(1)に係る情報処理装置10の制御ユニット12が行う運転者のモニタリング処理動作の一例を示すフローチャートである。カメラ20では、毎秒所定フレーム数の画像が撮像されるようになっており、制御ユニット12は、これら撮像された画像を時系列で取り込み、毎フレーム、又は所定間隔のフレーム毎に本処理を実行してもよい。
視線方向の基準には、例えば、3次元座標上における視線方向の基準ベクトルや基準角度を示す情報が基準値として含まれている。これら基準値と、ステップS21で検出した運転者の視線方向との角度差を演算し、該演算した角度差を前記基準値からのずれとしてもよい。
運転の集中度や疲労度(眠気などを含む)を判定する場合は、第1の範囲(集中・疲労度判定角度)として、上下方向を少なくとも含む所定の角度範囲を設定してもよい。
また、自動運転モードから手動運転モードへの切り替え可能な運転姿勢であるか否かの判定を行う場合は、第1の範囲(引継判定角度)として、左右方向と上下方向とを少なくとも含む所定の角度範囲を設定してもよい。
また、ステップS25の処理の代わりに、S23、24での判定情報(ずれが第1の範囲外であり、かつ所定期間継続していることを示す情報やその時の視線方向に関する情報)を記憶ユニット13に記憶する処理を行ってもよい。または、ステップS25の処理の代わりに、自動運転制御装置30に、ステップS23、S24での判定情報を出力する処理を行ってもよい。
上記実施の形態(1)に係る情報処理装置10によれば、検出部12bにより、画像取得部12aで取得した画像から運転者の視線方向が検出され、該検出結果が蓄積部13bに蓄積され、基準決定部12cにより前記検出結果を用いて、当該運転者にとっての視線方向の基準が決定される。また、算出部12dにより、視線方向の基準を用い、運転者にとっての正面に対する視線方向が算出される。したがって、視線方向の基準を運転者の視線方向の個人差に対応させた形で決定することができ、視線方向の基準を用いることで、制御ユニット12に処理負荷をかけることなく、運転者にとっての視線方向の検出精度を向上させることができる。
また、処理部12eにより、算出部12dで算出された運転者の正面に対する視線方向に基づいて、運転者への報知処理など各種の処理を精度良く実行することが可能となり、車両走行時の安全性などを向上させることができる。
図7は、実施の形態(2)に係る情報処理装置10Aのハードウェア構成の一例を示すブロック図である。なお、図3に示した情報処理装置10と同一機能を有する構成部品には同一符号を付し、ここではその説明を省略する。
また、情報処理装置10Aとカメラ20とを含んで運転者モニタリングシステム1Aが構成されている。
例えば、特定の走行状態(例えば、直進している走行状態)であるときに、算出部12dで算出された運転者の視線方向と、視線方向の基準との差が所定範囲内である状態(例えば、基準値から一定の方向に視線方向がずれているが、脇見ほどずれていない状態)で一定期間又は断続的に継続している場合に、前記差が小さくなるように視線方向の基準を変更、例えば補正してもよい。また、基準変更部12hが行う処理には、運転者が変わった場合に、顔の向きの基準を変更する処理も含まれる。
また、算出部12d、処理部12e、及び基準記憶部13cが協働して、運転者の状態を把握(モニタリング)する処理を実行し、算出部12d、基準変更部12h、及び基準記憶部13cが協働して、視線方向の基準を変更する処理を実行する。
図8は、実施の形態(2)に係る情報処理装置10Aの制御ユニット12Aが行う基準決定処理動作の一例を示すフローチャートである。本処理動作は、例えば、車両2の始動スイッチ38がONされた後、一定期間のみ実行されてもよいし、カメラ20が起動されている間、常時実行されてもよい。
車両情報には、例えば、少なくとも車両2の車速情報と操舵情報とが含まれる。また、車両情報として、車両2の加減速情報や車両2の傾斜情報を取得してもよい。また、車両2の位置情報や車両2の周辺の地図情報を取得してもよい。さらに、車両2の周辺、特に進行方向に存在する他車両や人などの監視対象物に関する情報を取得してもよい。なお、車両情報は、自動運転制御装置30を介して取得してもよいし、車載システム4の各部から直接取得してもよい。
図9は、実施の形態(2)に係る情報処理装置10Aの制御ユニット12Aが行う運転者状態の把握(モニタリング)処理動作の一例を示すフローチャートである。カメラ20では、毎秒所定フレーム数の画像が撮像されるようになっており、制御ユニット12Aは、これら撮像された画像を時系列で取り込み、毎フレーム、又は所定間隔のフレーム毎に本処理を実行してもよい。
なお、基準記憶部13cに、車両2の走行状態に応じた複数の視線方向の基準が記憶されている場合、ステップS21で視線方向検出処理を行った後、ステップS22において、次の処理を行ってもよい。すなわち、車両情報を取得し、車両2の走行状態を判定し、該判定した走行状態に対応した、視線方向の基準を基準記憶部13cから読み出し、前記視線方向の基準からのずれを算出する処理を行うようにしてもよい。
まずステップS41では、制御ユニット12Aが、ステップS22で算出した、視線方向の基準(基準値)からのずれが、該基準値の示す方向(正面)を見ているとみなす第2の範囲(視線の角度範囲)を超えているか否か(第2の範囲外か否か)を判断する。なお、第2の範囲は第1の範囲より狭い角度範囲であり、例えば、視線方向の基準から上下又は左右±5度程度の角度範囲に設定してもよい。
このような、基準値の変更を行うことにより、例えば、長時間の運転や運転環境の変化(天候の変化や時間帯)などで姿勢が変化し、運転者の視線方向が無意識のうちに少しずつ変化していた場合であっても、その変化した状態における運転者にとっての正面を示す視線方向を、視線方向の基準に設定することができ、視線方向の検出精度を向上させることができる。
上記実施の形態(2)に係る情報処理装置10Aによれば、判定部12gにより車両2が特定の走行状態にあるか否かが判定され、検出部12bにより前記特定の走行状態にあるときの運転者の視線方向が検出され、該検出された運転者の視線方向の情報が蓄積部13eに蓄積される。そして、基準決定部12cにより、蓄積された前記特定の走行状態にあるときの運転者の視線方向に基づいて、運転者にとっての視線方向の基準が決定され、算出部12dにより、視線方向の基準を用い、運転者にとっての視線方向が算出される。
なお上記実施の形態では、運転者モニタリングシステム1、1Aを車両2に適用した場合について説明したが、車両以外の他の乗り物に適用してもよい。
例えば、上記実施の形態では、運転者の視線方向を検出するように構成されているが、情報処理装置が、運転者の視線方向に代えて、又は視線方向とともに、運転者の顔の向きを検出し、該顔の向きの基準を決定し、該基準を用いて、運転者の顔の向きを算出するように構成してもよい。
本発明の実施の形態は、以下の付記の様にも記載され得るが、これらに限定されない。
(付記1)
車両(2)の運転者(D)の顔を含む画像(21)を取得する画像取得部(12a)と、
画像取得部(12a)により取得された画像(21)から運転者(D)の視線方向(V)を検出する検出部(12b)と、
検出部(12b)による検出結果を蓄積する蓄積部(13b)と、
蓄積部(13b)に蓄積された前記検出結果を用いることで、運転者(D)にとっての視線方向の基準を決定する基準決定部(12c)とを備えていることを特徴とする情報処理装置(10)。
情報処理装置(10)と、
画像取得部(12a)で取得される運転者(D)の顔を含む画像(21)を撮像する少なくとも1つのカメラ(20)とを備えていることを特徴とする運転者モニタリングシステム(1)。
車両(2)の運転者(D)の顔を含む画像(21)を取得する画像取得ステップ(S11)と、
画像取得ステップ(S11)により取得された画像(21)から運転者(D)の視線方向(V)を検出する検出ステップ(S15)と、
検出ステップ(S15)による検出結果を蓄積部(13b)に蓄積する蓄積ステップ(S16)と、
蓄積部(13b)に蓄積された前記検出結果を用いることで、運転者(D)にとっての視線方向の基準を決定する基準決定ステップ(S3)とを含むステップを実行させることを特徴とする情報処理方法。
少なくとも1つのコンピュータ(12)に、
車両(2)の運転者(D)の顔を含む画像(21)を取得する画像取得ステップ(S11)と、
画像取得ステップ(S11)により取得された画像(21)から運転者(D)の視線方向を検出する検出ステップ(S15)と、
検出ステップ(S15)による検出結果を蓄積部(13b)に蓄積する蓄積ステップ(S16)と、
蓄積部(13b)に蓄積された前記検出結果を用いることで、運転者(D)にとっての視線方向の基準を決定する基準決定ステップ(S3)とを実行させることを特徴とする情報処理プログラム。
2 車両
3 車載機器
4 車載システム
10、10A 情報処理装置
11 入出力I/F
12、12A 制御ユニット
12a 画像取得部
12b 検出部
12c 基準決定部
12d 算出部
12e 処理部
12f 情報取得部
12g 判定部
12h 基準変更部
13、13A 記憶ユニット
13a 画像記憶部
13b、13e 蓄積部
13c 基準記憶部
13d、13f プログラム記憶部
20 カメラ
30 自動運転制御装置
31 操舵センサ
32 アクセルペダルセンサ
33 ブレーキペダルセンサ
34 操舵制御装置
35 動力源制御装置
36 制動制御装置
37 報知装置
38 始動スイッチ
39 周辺監視センサ
40 GPS受信機
41 ジャイロセンサ
42 車速センサ
43 ナビゲーション装置
44 通信装置
50 通信ライン
51 パワーユニット
52 ハンドル
53 操舵装置
Claims (17)
- 車両の運転者の顔を含む画像を取得する画像取得部と、
該画像取得部により取得された前記画像から前記運転者の視線方向を検出する検出部と、
該検出部による検出結果を蓄積する蓄積部と、
該蓄積部に蓄積された前記検出結果を用いることで、前記運転者にとっての視線方向の基準を決定する基準決定部とを備えていることを特徴とする情報処理装置。 - 前記基準決定部が、前記蓄積部に蓄積された前記検出結果から求めた視線方向の最頻値を前記基準として決定することを特徴とする請求項1記載の情報処理装置。
- 前記基準決定部で決定された前記基準を用い、前記画像から前記基準に対する前記運転者の視線方向を算出する算出部を備えていることを特徴とする請求項1又は請求項2記載の情報処理装置。
- 前記算出部で算出された、前記基準に対する前記運転者の視線方向に基づいて、所定の処理を行う処理部を備えていることを特徴とする請求項3記載の情報処理装置。
- 前記処理部により処理された結果を前記運転者へ報知する報知部を備えていることを特徴とする請求項4記載の情報処理装置。
- 前記基準決定部で決定された前記基準を記憶する基準記憶部を備え、
前記算出部が、前記基準記憶部から読み出した前記基準を用いることで、前記画像から前記基準に対する前記運転者の視線方向を算出することを特徴とする請求項3〜5のいずれかの項に記載の情報処理装置。 - 前記基準決定部で決定された前記基準を変更する基準変更部を備えていることを特徴とする請求項3〜6のいずれかの項に記載の情報処理装置。
- 前記基準変更部が、
前記算出部で算出された、前記基準に対する前記運転者の視線方向と、前記基準との差が所定範囲内である状態で継続している場合に、前記差が小さくなるように前記基準を補正することを特徴とする請求項7記載の情報処理装置。 - 前記車両の走行状態に関する情報を取得する情報取得部と、
該情報取得部により取得された前記情報に基づいて、前記車両が特定の走行状態にあるかを判定する判定部とを備え、
前記基準決定部が、前記判定部により前記特定の走行状態にあると判定されているときの前記視線方向に基づいて前記基準を決定することを特徴とする請求項1〜8のいずれかの項に記載の情報処理装置。 - 前記特定の走行状態が、前記車両が直進している走行状態であることを特徴とする請求項9記載の情報処理装置。
- 前記情報取得部が、少なくとも前記車両の車速情報と、前記車両の操舵情報とを取得し、
前記判定部が、前記車両の車速が所定の速度域にあり、かつ前記車両が所定の非操舵状態にある場合、前記車両が特定の走行状態にあると判定することを特徴とする請求項9記載の情報処理装置。 - 前記情報取得部が、少なくとも前記車両の加減速情報、及び前記車両の傾斜情報のうちのいずれかを取得し、
前記判定部が、前記車両が所定の加速又は減速の状態にある場合、或いは前記車両が所定の傾斜姿勢にある場合を、前記車両が特定の走行状態から除外することを特徴とすることを特徴とする請求項9記載の情報処理装置。 - 前記情報取得部が、前記車両の位置情報と、前記車両の周辺の地図情報とを取得するものであり、
前記判定部が、前記車両が直線道路を移動している場合、前記車両が特定の走行状態にあると判定することを特徴とする請求項9記載の情報処理装置。 - 前記運転者を識別する識別部を備え、
前記基準決定部が、前記識別部で識別された運転者毎に、前記基準を決定することを特徴とする請求項1〜13のいずれかの項に記載の情報処理装置。 - 請求項1〜14のいずれかの項に記載の情報処理装置と、
前記画像取得部で取得される前記運転者の顔を含む画像を撮像する少なくとも1つのカメラとを備えていることを特徴とする運転者モニタリングシステム。 - 車両の運転者の顔を含む画像を取得する画像取得ステップと、
該画像取得ステップにより取得された前記画像から前記運転者の視線方向を検出する検出ステップと、
該検出ステップによる検出結果を蓄積部に蓄積する蓄積ステップと、
前記蓄積部に蓄積された前記検出結果を用いることで、前記運転者にとっての視線方向の基準を決定する基準決定ステップとを含むステップを実行させることを特徴とする情報処理方法。 - 少なくとも1つのコンピュータに、
車両の運転者の顔を含む画像を取得する画像取得ステップと、
該画像取得ステップにより取得された前記画像から前記運転者の視線方向を検出する検出ステップと、
該検出ステップによる検出結果を蓄積部に蓄積する蓄積ステップと、
前記蓄積部に蓄積された前記検出結果を用いることで、前記運転者にとっての視線方向の基準を決定する基準決定ステップとを実行させることを特徴とする情報処理プログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017219770A JP6693489B2 (ja) | 2017-11-15 | 2017-11-15 | 情報処理装置、運転者モニタリングシステム、情報処理方法、及び情報処理プログラム |
CN201811278699.2A CN109774722A (zh) | 2017-11-15 | 2018-10-30 | 信息处理装置、方法和程序、驾驶员监控系统及保存媒体 |
US16/178,500 US20190147270A1 (en) | 2017-11-15 | 2018-11-01 | Information processing apparatus, driver monitoring system, information processing method and computer-readable storage medium |
DE102018127605.2A DE102018127605A1 (de) | 2017-11-15 | 2018-11-06 | Informationsverarbeitungsvorrichtung, fahrerüberwachungssystem, informationsverarbeitungsverfahren und informationsverarbeitungsprogramm |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017219770A JP6693489B2 (ja) | 2017-11-15 | 2017-11-15 | 情報処理装置、運転者モニタリングシステム、情報処理方法、及び情報処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019091255A true JP2019091255A (ja) | 2019-06-13 |
JP6693489B2 JP6693489B2 (ja) | 2020-05-13 |
Family
ID=66335270
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017219770A Expired - Fee Related JP6693489B2 (ja) | 2017-11-15 | 2017-11-15 | 情報処理装置、運転者モニタリングシステム、情報処理方法、及び情報処理プログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US20190147270A1 (ja) |
JP (1) | JP6693489B2 (ja) |
CN (1) | CN109774722A (ja) |
DE (1) | DE102018127605A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2020250962A1 (ja) * | 2019-06-11 | 2021-12-02 | 日本電気株式会社 | 画像処理装置、画像処理方法、プログラム |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7206750B2 (ja) * | 2018-09-26 | 2023-01-18 | 日本電気株式会社 | 運転支援装置 |
JP7173811B2 (ja) * | 2018-09-27 | 2022-11-16 | 株式会社アイシン | 乗員モニタリング装置、乗員モニタリング方法、および乗員モニタリングプログラム |
JP7367637B2 (ja) * | 2020-08-26 | 2023-10-24 | トヨタ自動車株式会社 | 顔情報取得装置および顔情報取得方法 |
CN113239754A (zh) * | 2021-04-23 | 2021-08-10 | 泰山学院 | 一种应用于车联网的危险驾驶行为检测定位方法及系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008210239A (ja) * | 2007-02-27 | 2008-09-11 | Nissan Motor Co Ltd | 視線推定装置 |
JP2009157736A (ja) * | 2007-12-27 | 2009-07-16 | Omron Corp | 脇見検出装置および方法、並びに、プログラム |
JP2017004117A (ja) * | 2015-06-05 | 2017-01-05 | 富士通テン株式会社 | 視線検出装置および視線検出方法 |
JP2017126151A (ja) * | 2016-01-13 | 2017-07-20 | アルプス電気株式会社 | 視線検出装置および視線検出方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4093273B2 (ja) | 2006-03-13 | 2008-06-04 | オムロン株式会社 | 特徴点検出装置、特徴点検出方法および特徴点検出プログラム |
JP5974915B2 (ja) * | 2013-01-29 | 2016-08-23 | 株式会社デンソー | 覚醒度検出装置、および覚醒度検出方法 |
-
2017
- 2017-11-15 JP JP2017219770A patent/JP6693489B2/ja not_active Expired - Fee Related
-
2018
- 2018-10-30 CN CN201811278699.2A patent/CN109774722A/zh active Pending
- 2018-11-01 US US16/178,500 patent/US20190147270A1/en not_active Abandoned
- 2018-11-06 DE DE102018127605.2A patent/DE102018127605A1/de not_active Ceased
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008210239A (ja) * | 2007-02-27 | 2008-09-11 | Nissan Motor Co Ltd | 視線推定装置 |
JP2009157736A (ja) * | 2007-12-27 | 2009-07-16 | Omron Corp | 脇見検出装置および方法、並びに、プログラム |
JP2017004117A (ja) * | 2015-06-05 | 2017-01-05 | 富士通テン株式会社 | 視線検出装置および視線検出方法 |
JP2017126151A (ja) * | 2016-01-13 | 2017-07-20 | アルプス電気株式会社 | 視線検出装置および視線検出方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2020250962A1 (ja) * | 2019-06-11 | 2021-12-02 | 日本電気株式会社 | 画像処理装置、画像処理方法、プログラム |
JP7259957B2 (ja) | 2019-06-11 | 2023-04-18 | 日本電気株式会社 | 判定システム、処理方法、プログラム |
Also Published As
Publication number | Publication date |
---|---|
US20190147270A1 (en) | 2019-05-16 |
CN109774722A (zh) | 2019-05-21 |
JP6693489B2 (ja) | 2020-05-13 |
DE102018127605A1 (de) | 2019-05-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107336710B (zh) | 驾驶意识推定装置 | |
JP6693489B2 (ja) | 情報処理装置、運転者モニタリングシステム、情報処理方法、及び情報処理プログラム | |
US10915100B2 (en) | Control system for vehicle | |
JP6683185B2 (ja) | 情報処理装置、運転者モニタリングシステム、情報処理方法、及び情報処理プログラム | |
US9747800B2 (en) | Vehicle recognition notification apparatus and vehicle recognition notification system | |
US10120378B2 (en) | Vehicle automated driving system | |
US20170174129A1 (en) | Vehicular visual information system and method | |
US9352689B2 (en) | Driver assistance apparatus capable of diagnosing vehicle parts and vehicle including the same | |
KR101579100B1 (ko) | 차량용 어라운드뷰 제공 장치 및 이를 구비한 차량 | |
US11287879B2 (en) | Display control device, display control method, and program for display based on travel conditions | |
US10232772B2 (en) | Driver assistance system | |
CN104680714A (zh) | 用于向用户发送提醒的方法及系统 | |
KR101698781B1 (ko) | 차량 운전 보조 장치 및 이를 구비한 차량 | |
JPWO2019181284A1 (ja) | 情報処理装置、移動装置、および方法、並びにプログラム | |
KR102077575B1 (ko) | 차량 운전 보조 장치 및 차량 | |
TW201927610A (zh) | 安全確認評價裝置、車載裝置、具備這些裝置之安全確認評價系統、安全確認評價方法以及安全確認評價程式 | |
JP2007008382A (ja) | 視覚情報呈示装置及び視覚情報呈示方法 | |
WO2019155914A1 (ja) | データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、データ処理プログラム、及び記憶媒体 | |
CN112585958A (zh) | 用于产生车辆的以图像信息来纹理化的周围环境地图的方法和装置以及包括这种装置的车辆 | |
JP2019064317A (ja) | 車両用表示装置 | |
WO2019155913A1 (ja) | データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、データ処理プログラム、及び記憶媒体 | |
KR101872477B1 (ko) | 차량 | |
JP2018094294A (ja) | 状態推定システム | |
CN114103797A (zh) | 自动驾驶车用信息提示装置 | |
JP2012103849A (ja) | 情報提供装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190305 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20190311 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191226 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200128 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200220 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200317 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200330 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6693489 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |