JPWO2021053780A1 - 認知機能推定装置、学習装置、および、認知機能推定方法 - Google Patents
認知機能推定装置、学習装置、および、認知機能推定方法 Download PDFInfo
- Publication number
- JPWO2021053780A1 JPWO2021053780A1 JP2021546128A JP2021546128A JPWO2021053780A1 JP WO2021053780 A1 JPWO2021053780 A1 JP WO2021053780A1 JP 2021546128 A JP2021546128 A JP 2021546128A JP 2021546128 A JP2021546128 A JP 2021546128A JP WO2021053780 A1 JPWO2021053780 A1 JP WO2021053780A1
- Authority
- JP
- Japan
- Prior art keywords
- feature amount
- vehicle
- information
- information feature
- cognitive function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000003920 cognitive function Effects 0.000 title claims abstract description 222
- 238000000034 method Methods 0.000 title claims description 15
- 238000000605 extraction Methods 0.000 claims abstract description 220
- 239000000284 extract Substances 0.000 claims abstract description 39
- 238000010801 machine learning Methods 0.000 claims abstract description 33
- 230000001815 facial effect Effects 0.000 claims description 26
- 230000035484 reaction time Effects 0.000 claims description 13
- 230000006870 function Effects 0.000 claims description 9
- 230000006399 behavior Effects 0.000 claims description 7
- 230000008451 emotion Effects 0.000 claims 1
- 238000001514 detection method Methods 0.000 description 14
- 238000012545 processing Methods 0.000 description 12
- 238000012360 testing method Methods 0.000 description 10
- 230000004044 response Effects 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 230000009471 action Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000002996 emotional effect Effects 0.000 description 4
- 230000029058 respiratory gaseous exchange Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000001771 impaired effect Effects 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000036772 blood pressure Effects 0.000 description 1
- 230000036760 body temperature Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000036387 respiratory rate Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001568 sexual effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/18—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/162—Testing reaction times
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2503/00—Evaluating a particular growth phase or type of persons or animals
- A61B2503/20—Workers
- A61B2503/22—Motor vehicles operators, e.g. drivers, pilots, captains
Abstract
Description
一方、ある運転者の、運転に対する集中の度合いという意味での認知度に関する技術としては、例えば、特許文献1に、車両の運転者の視線の上下方向の動きに基づいて認知度を推定する認知度推定装置が開示されている。
特許文献1に開示されているような認知度推定装置では、認知度を推定しているが、当該認知度は、ある運転者における一時的な、運転に対する集中度であり、ある運転者が、一定水準の、車両を適切に運転するための機能を有しているか否かを推定するものではない。そのため、特許文献1に開示されているような認知度推定装置の技術では、上記課題を解決できない。
実施の形態1.
図1は、実施の形態1に係る認知機能推定装置1の構成例を示す図である。
実施の形態1に係る認知機能推定装置1は、車両(図示省略)に搭載されることを想定している。
図1に示すように、認知機能推定装置1は、車内撮像装置2、生体センサ3、車両情報検知装置4、および、車外撮像装置5と接続される。車内撮像装置2、生体センサ3、車両情報検知装置4、および、車外撮像装置5は、車両に搭載されることを想定している。
実施の形態1において、「認知機能」とは、人が有する、車両を適切に運転するための機能をいう。運転者が一定水準の認知機能を有する場合、当該運転者は、車両を適切に運転することができる。一方、運転者の認知機能が低下すると、当該運転者は、車両を運転する上で一定の違反行為をしてしまう等、車両を適切に運転することができなくなる。一般的に、高齢になるにつれて、認知機能は低下すると言われている。
認知機能推定部19は、判定部191を備える。
学習装置20は、取得部201、学習部202、および、機械学習モデル203を備える。
顔情報取得部11は、取得した顔情報を、顔情報特徴量抽出部16に出力する。顔情報取得部11は、取得した顔情報を、記憶部(図示省略)に蓄積させるようにしてもよい。
生体情報取得部12は、車内撮像装置2から車内撮像画像を取得し、既存の画像認識技術を用いて、車内撮像画像から、生体情報を取得してもよい。具体的には、生体情報取得部12は、例えば、既存の画像認識技術を用いて、車内撮像画像における運転者の顔の輝度変化を解析する。そして、生体情報取得部12は、解析した、運転者の顔の輝度変化から、例えば、運転者の脈拍を推定する。
生体情報取得部12は、取得した生体情報を、生体情報特徴量抽出部17に出力する。生体情報取得部12は、取得した生体情報を、記憶部に蓄積させるようにしてもよい。
車両情報取得部13は、取得した車両情報を、車両情報特徴量抽出部18に出力する。車両情報取得部13は、取得した車両情報を、記憶部に蓄積させるようにしてもよい。
車外情報取得部14は、取得した車外情報を、車外情報特徴量抽出部15に出力する。車外情報取得部14は、取得した車外情報を、記憶部に蓄積させるようにしてもよい。
具体例を挙げると、例えば、車外情報特徴量抽出部15は、車外情報に信号の情報が含まれており、信号が赤信号である場合、当該赤信号である旨の情報を、運転者の認知機能を推定するための車外情報特徴量として抽出する。このとき、車外情報特徴量抽出部15は、例えば、実空間上の信号の位置を示す情報も、車外情報特徴量に含めるようにすることができる。車外撮像画像の撮像範囲は予め決められているものとし、車外情報特徴量抽出部15は、実空間上の信号の位置を、例えば、車外撮像画像、地図情報、および、車両の位置情報に基づいて算出すればよい。車外情報特徴量抽出部15は、例えば、車両に搭載されているナビゲーション装置(図示省略)から地図情報を取得するようにすればよい。また、車外情報特徴量抽出部15は、GPSから車両の位置情報を取得するようにすればよい。なお、実空間上の信号の位置は、車外情報取得部14が算出し、車外情報として車外情報特徴量抽出部15に出力するようにしてもよい。
車外情報特徴量抽出部15は、抽出した車外情報特徴量を、顔情報特徴量抽出部16、生体情報特徴量抽出部17、車両情報特徴量抽出部18、および、認知機能推定部19に出力する。
図2は、実施の形態1において、車外情報特徴量抽出部15が抽出する車外情報特徴量と、顔情報特徴量抽出部16が抽出する顔情報特徴量、生体情報特徴量抽出部17が抽出する生体情報特徴量、または、車両情報特徴量抽出部18が抽出する車両情報特徴量との関係の一例のイメージを説明するための図である。
図2に示すように、顔情報特徴量抽出部16がどのような顔情報特徴量を抽出するか、生体情報特徴量抽出部17がどのような生体情報特徴量を抽出するか、または、車両情報特徴量抽出部18がどのような車両情報特徴量を抽出するかは、車外情報特徴量抽出部15が抽出した車外情報特徴量の内容に応じて、予め決められている。
なお、図2では、ある車外情報特徴量に応じて、抽出され得る、顔情報特徴量の一例、生体情報特徴量の一例、または、車両情報特徴量の一例を列挙して示している。図2で示す、ある車外情報特徴量に対して、図2に示す、当該ある車外情報特徴量に対応する、顔情報特徴量、生体情報特徴量、および、車両情報特徴量が全て抽出されることが必須なわけではない。具体的には、図2は、例えば、赤信号である旨の情報が車外情報特徴量として抽出された場合に、必ず、顔情報特徴量として、運転者の視線方向を示す情報、および、顔向きを示す情報が抽出されなければならないことを意味するものではない。また、図2は、例えば、赤信号である旨の情報が車外情報特徴量として抽出された場合に、必ず、ブレーキが操作されたか否かのブレーキ操作情報、ブレーキ操作までの反応時間、および、アクセルが操作されたか否かのアクセル操作情報が抽出されなければならないことを意味するものではない。
車両情報特徴量抽出部18は、車両情報取得部13が取得した車両情報に基づき、赤信号である旨の車外情報特徴量が抽出されてから、ブレーキが操作されるまでに要した時間を、車両情報特徴量として抽出してもよい。車両情報特徴量抽出部18は、例えば、記憶部に蓄積されている車両情報に基づき、赤信号である旨の車外情報特徴量が抽出されてから、ブレーキが操作されるまでに要した時間を算出すればよい。車両情報特徴量抽出部18は、は、このように、車外情報特徴量で示される事象に対する、運転者の反応時間を、車両情報特徴量とすることができる。上述の例では、車両情報特徴量抽出部18は、車外情報特徴量で示される、赤信号になったという事象に対して、運転者がブレーキを操作するまでの反応時間を、車両情報特徴量としている。
また、例えば、車外情報特徴量抽出部15が、一時停止の標識がある旨の情報を車外情報特徴量として抽出した場合、顔情報特徴量抽出部16は、記憶部に蓄積されている顔情報に基づき、当該一時停止の標識があるという事象に対して、運転者が視線方向を変化させたという行動パターンを示す情報を、顔情報特徴量とすることもできる。例えば、運転者が一時停止の標識の方向に視線を向けなかった場合、運転者は、当該標識を見落とすという行動をとったと言える。
また、認知機能推定装置1において、生体情報特徴量抽出部17が、運転者の行動パターンを示す情報を、生体情報特徴量として抽出することもできる。例えば、車外情報特徴量抽出部15が、飛び出しがある旨の情報を車外情報特徴量として抽出した場合、生体情報特徴量抽出部17は、記憶部に蓄積されている生体情報に基づき、当該飛び出しがあるという事象に対して、運転者の呼吸数に変化があったか否かの行動パターンを示す情報を、生体情報特徴量とすることもできる。例えば、運転者の呼吸数が多くなるという変化があった場合、運転者は、飛び出しがあるという事象に対して、落ち着かせるために意図的に呼吸を多く行うという行動をとったと言える。
また、認知機能推定装置1において、生体情報特徴量抽出部17が、車外情報特徴量で示される事象が発生してから、運転者の生体情報に変化が起きるまでの反応時間を、生体情報特徴量として抽出することもできる。例えば、車外情報特徴量抽出部15が、飛び出しがあった旨の情報を車外情報特徴量として抽出した場合、生体情報特徴量抽出部17は、記憶部に蓄積されている生体情報に基づき、当該飛び出しがあったという事象に対して、運転者の呼吸数に変化があるまでの反応時間を、生体情報特徴量とすることもできる。
顔情報特徴量、生体情報特徴量、または、車両情報特徴量には、車外情報特徴量に応じて、運転者が、認知機能が低下した運転者である場合に行いやすい一定の違反行為を判別するための情報が、設定される。
認知機能推定部19は、車外情報特徴量抽出部15が抽出した車外情報特徴量と、車両情報特徴量抽出部18が抽出した車両情報特徴量、顔情報特徴量抽出部16が抽出した顔情報特徴量、または、生体情報特徴量抽出部17が抽出した生体情報特徴量のうちの少なくとも1つと、機械学習モデル203とに基づき、運転者の認知機能が低いか否かを推定する。具体的には、認知機能推定部19は、車外情報特徴量と、車両情報特徴量、顔情報特徴量、または、生体情報特徴量のうちの少なくとも1つを機械学習モデル203に入力し、運転者の認知機能が低いか否かを示す認知機能情報を得る。
認知機能推定部19の判定部191は、車外情報特徴量抽出部15が抽出した車外情報特徴量と、車両情報特徴量抽出部18が抽出した車両情報特徴量、顔情報特徴量抽出部16が抽出した顔情報特徴量、または、生体情報特徴量抽出部17が抽出した生体情報特徴量のうちの少なくとも1つと、機械学習モデル203とに基づき、予め設定された期間(以下「判定用期間」という。)継続して、運転者の認知機能が低いと推定されたか否かを判定する。
認知機能推定部19は、判定部191が、判定用期間継続して、運転者の認知機能が低いと推定されたと判定した場合に、運転者の認知機能が低いと推定する。これにより、運転者が、瞬間的に、認知機能が低いと推定されることを防ぎ、運転者の認知機能の推定精度を向上させることができる。
取得部201は、機械学習モデル203の入力とする、車外情報特徴量と、車両情報特徴量、顔情報特徴量、または、生体情報特徴量を取得する。取得部201が取得する、車外情報特徴量と、車両情報特徴量、顔情報特徴量、または、生体情報特徴量には、認知機能が低いか否かの正解情報が付与されている。
機械学習モデル203の入力とする、正解情報が付与された、車外情報特徴量と、車両情報特徴量、顔情報特徴量、または、生体情報特徴量とは、予め生成されている。取得部201は、これらの、予め生成されている、車外情報特徴量と、車両情報特徴量、顔情報特徴量、または、生体情報特徴量とを取得する。
なお、取得部201が取得する、車外情報特徴量、車両情報特徴量、顔情報特徴量、または、生体情報特徴量の具体的な内容は、車外情報特徴量抽出部15が抽出する車外情報特徴量、顔情報特徴量抽出部16が抽出する顔情報特徴量、生体情報特徴量抽出部17が抽出する生体情報特徴量、または、車両情報特徴量抽出部18が抽出する車両情報特徴量の具体的な内容と同様である。
例えば、管理者等は、被験者に対してペーパーテストを実施し、当該被験者の認知機能を計測することで、当該被験者のテスト走行データを収集する。例えば、管理者等は、被験者に対してテスト走行を行わせ、当該被験者の認知機能を計測することで、当該被験者のテスト走行データを収集してもよい。管理者等は、収集したテスト走行データから、機械学習モデル203の入力とする、正解情報が付与された、車外情報特徴量と、車両情報特徴量、顔情報特徴量、または、生体情報特徴量とを、生成する。なお、管理者等は、様々なレベルの認知機能を有する、一定数の車両の運転者を、被験者とすることが望ましい。
具体的には、例えば、車両をテスト走行させられた正常者、および、認知機能が低い高齢者が当該テスト走行した際に取得される、車外情報特徴量、車両情報特徴量、顔情報特徴量、または、生体情報特徴量が、予め生成されている。なお、実施の形態1において、正常者とは、車両を適切に運転するために必要な認知機能を有している者をいう。一方、認知機能が低い者とは、車両を適切に運転するために十分な認知機能を有していない者をいう。
例えば、正常者がテスト走行をしている際に、信号が赤に変わったとする。そうすると、正常者は、赤信号を視認し、瞬時にブレーキを操作して、車両を停止させる。この場合、赤信号である旨の情報が車外情報特徴量として生成される。また、赤信号になった際の正常者の視線方向が顔情報特徴量として生成される。また、赤信号になってから正常者がブレーキ操作をしたか否か、および、赤信号になってからブレーキ操作までの反応時間が、車両情報特徴量として生成される。そして、これらの車外情報特徴量、顔情報特徴量、および、車両情報特徴量には、認知機能が低くない旨の正解情報が付与される。
図3は、実施の形態1に係る認知機能推定装置1の動作を説明するためのフローチャートである。
認知機能推定装置1は、情報取得処理を行い、各種情報を取得する(ステップST301)。具体的には、顔情報取得部11は、車内撮像装置2から、車内撮像画像を取得し、車内撮像画像に基づき、車両の運転者の顔に関する顔情報を取得する。また、生体情報取得部12は、生体センサ3から、車両の運転者の生体情報を取得する。また、車両情報取得部13は、車両情報検知装置4から、車両に関する車両情報を取得する。また、車外情報取得部14は、車外撮像装置5から、車外撮像画像を取得し、車外撮像画像に基づき、車両周辺の状況に関する車外情報を取得する。
顔情報取得部11は、取得した顔情報を、顔情報特徴量抽出部16に出力する。また、生体情報取得部12は、取得した生体情報を、生体情報特徴量抽出部17に出力する。また、車両情報取得部13は、取得した車両情報を、車両情報特徴量抽出部18に出力する。また、車外情報取得部14は、取得した車外情報を、車外情報特徴量抽出部15に出力する。
車外情報特徴量抽出部15は、抽出した車外情報特徴量を、顔情報特徴量抽出部16、生体情報特徴量抽出部17、車両情報特徴量抽出部18、および、認知機能推定部19に出力する。
具体的には、顔情報特徴量抽出部16は、車外情報特徴量抽出部15が抽出した車外情報特徴量に応じて、顔情報取得部11が取得した顔情報に基づき、運転者の認知機能を推定するための顔情報特徴量を抽出する。また、生体情報特徴量抽出部17は、車外情報特徴量抽出部15が抽出した車外情報特徴量に応じて、生体情報取得部12が取得した生体情報に基づき、運転者の認知機能を推定するための生体情報特徴量を抽出する。また、車両情報特徴量抽出部18は、車外情報特徴量抽出部15が抽出した車外情報特徴量に応じて、車両情報取得部13が取得した車両情報に基づき、運転者の認知機能を推定するための車両情報特徴量を抽出する。
顔情報特徴量抽出部16は、抽出した顔情報特徴量を、認知機能推定部19に出力する。また、生体情報特徴量抽出部17は、抽出した生体情報特徴量を、認知機能推定部19に出力する。また、車両情報特徴量抽出部18は、抽出した車両情報特徴量を、認知機能推定部19に出力する。
取得部201は、特徴量取得処理を行う(ステップST401)。具体的には、取得部201は、機械学習モデル203の入力とする、正解情報が付与された、車外情報特徴量と、車両情報特徴量、顔情報特徴量、または、生体情報特徴量とを取得する。
取得部201は、取得した、車外情報特徴量と、車両情報特徴量、顔情報特徴量、または、生体情報特徴量とを、学習部202に出力する。
このように、認知機能推定装置1は、運転者が、恒常的に車両を適切に運転可能か否かの認知機能を推定することができる。
例えば、車両が、人が運転操作を行わなくても自動で走行することが可能な自動運転車両であって、認知機能推定装置1が当該自動運転車両に搭載されているとする。この場合、認知機能推定装置1において、運転者の認知機能が低いとの認知機能情報が得られると、当該認知機能情報に基づき、当該運転者が運転する車両のブレーキの効きをよくする、または、ハンドルの操作の効きをよくする等の運転支援を行うことができる。
また、例えば、医療機関が、運転者による運転可否を判断する際の判断材料として、認知機能情報を使用することができる。
また、例えば、認知機能が低下している人が、運転によって当該認知機能を回復させるリハビリテーションを行うことがある。このようなリハビリテーションにて使用される車両において、認知機能推定装置1を搭載するようにすれば、当該認知機能推定装置1において得られる認知機能情報は、リハビリテーションの成果を確認する一助とすることができる。
また、例えば、認知機能推定装置1において、運転者の認知機能が低いとの認知機能情報が得られた場合に、当該認知機能情報に基づき、車両から、周囲に、当該車両の運転者の認知機能が低い旨を通知するようにすることもできる。具体的には、例えば、認知機能推定装置1に備えられた制御部(図示省略)は、運転者の家族あてに、当該運転者が運転していることを知らせるメールを送信する。また、例えば、制御部は、ハザードランプを点灯させる、または、ホーンを鳴らす制御を行う。
実施の形態1において、顔情報取得部11と、生体情報取得部12と、車両情報取得部13と、車外情報取得部14と、車外情報特徴量抽出部15と、顔情報特徴量抽出部16と、生体情報特徴量抽出部17と、車両情報特徴量抽出部18と、認知機能推定部19と、取得部201と、学習部202の機能は、処理回路501により実現される。すなわち、認知機能推定装置1は、運転者の認知機能の推論を行うための処理回路501を備える。
処理回路501は、図5Aに示すように専用のハードウェアであっても、図5Bに示すようにメモリ506に格納されるプログラムを実行するCPU(Central Processing Unit)505であってもよい。
また、機械学習モデル203は、メモリ506を使用する。なお、これは一例であって、機械学習モデル203は、HDD502、SSD(Solid State Drive)、または、DVD等によって構成されるものであってもよい。
また、認知機能推定装置1は、車内撮像装置2、生体センサ3、車両情報検知装置4、または、車外撮像装置5等の装置と、有線通信または無線通信を行う入力インタフェース装置503および出力インタフェース装置504を備える。
これに限らず、顔情報取得部11、生体情報取得部12、車両情報取得部13、車外情報取得部14、車外情報特徴量抽出部15、顔情報特徴量抽出部16、生体情報特徴量抽出部17、車両情報特徴量抽出部18、認知機能推定部19、または、学習装置20のうち、一部を車両に搭載される車載装置に備えられるものとし、その他を当該車載装置とネットワークを介して接続されるサーバに備えられるものとして、車載装置とサーバとで認知機能推定システムを構成するようにしてもよい。
Claims (10)
- 車両周辺の状況に関する車外情報を取得する車外情報取得部と、
前記車両の運転者の顔に関する顔情報を取得する顔情報取得部と、
前記運転者の生体情報を取得する生体情報取得部と、
前記車両に関する車両情報を取得する車両情報取得部と、
前記車外情報取得部が取得した車外情報に基づき、前記運転者の認知機能を推定するための車外情報特徴量を抽出する車外情報特徴量抽出部と、
前記車外情報特徴量抽出部が抽出した車外情報特徴量に応じて、前記顔情報取得部が取得した顔情報に基づき、前記運転者の認知機能を推定するための顔情報特徴量を抽出する顔情報特徴量抽出部と、
前記車外情報特徴量抽出部が抽出した車外情報特徴量に応じて、前記生体情報取得部が取得した生体情報に基づき、前記運転者の認知機能を推定するための生体情報特徴量を抽出する生体情報特徴量抽出部と、
前記車外情報特徴量抽出部が抽出した車外情報特徴量に応じて、前記車両情報取得部が取得した車両情報に基づき、前記運転者の認知機能を推定するための車両情報特徴量を抽出する車両情報特徴量抽出部と、
前記車外情報特徴量抽出部が抽出した車外情報特徴量と、前記顔情報特徴量抽出部が抽出した顔情報特徴量、前記生体情報特徴量抽出部が抽出した生体情報特徴量、または、前記車両情報特徴量抽出部が抽出した車両情報特徴量のうちの少なくとも1つと、機械学習モデルとに基づき、前記運転者の認知機能が低いか否かを推定する認知機能推定部
を備えた認知機能推定装置。 - 前記車外情報特徴量と、前記顔情報特徴量、前記生体情報特徴量、または、前記車両情報特徴量のうちの少なくとも1つと、前記機械学習モデルとに基づき、判定用期間継続して、前記運転者の認知機能が低いと推定されたか否かを判定する判定部を備え、
前記認知機能推定部は、前記判定部が、前記判定用期間継続して、前記運転者の認知機能が低いと推定されたと判定した場合に、前記運転者の認知機能が低いと推定する
ことを特徴とする請求項1記載の認知機能推定装置。 - 前記顔情報特徴量は、前記運転者の視線に関する情報、前記運転者の開眼度に関する情報、または、前記運転者の感情に関する情報を含む
ことを特徴とする請求項1記載の認知機能推定装置。 - 前記車両情報特徴量は、前記運転者のアクセル操作量に関する情報、前記運転者のブレーキ操作量に関する情報、または、前記運転者のハンドル操作量に関する情報を含む
ことを特徴とする請求項1記載の認知機能推定装置。 - 前記車両情報特徴量、前記顔情報特徴量、または、前記生体情報特徴量は、前記車外情報特徴量であらわされる事象に対する前記運転者の反応時間である
ことを特徴とする請求項1記載の認知機能推定装置。 - 前記車両情報特徴量、前記顔情報特徴量、または、前記生体情報特徴量は、前記車外情報特徴量であらわされる事象に対する前記運転者の行動パターンを示す情報である
ことを特徴とする請求項1記載の認知機能推定装置。 - 前記機械学習モデルは、前記運転者の認知機能を推定するための車外情報特徴量と、前記車外情報特徴量に応じた、前記運転者の認知機能を推定するための顔情報特徴量、前記車外情報特徴量に応じた、前記運転者の認知機能を推定するための生体情報特徴量、または、前記車外情報特徴量に応じた、前記運転者の認知機能を推定するための車両情報特徴量とを学習することによって生成された前記機械学習モデルである
ことを特徴とする請求項1記載の認知機能推定装置。 - 車両の運転者の認知機能を推定するための車外情報特徴量と、前記車外情報特徴量に応じた、前記車両の運転者の認知機能を推定するための顔情報特徴量、前記車外情報特徴量に応じた、前記車両の運転者の認知機能を推定するための生体情報特徴量、または、前記車外情報特徴量に応じた、前記車両の運転者の認知機能を推定するための車両情報特徴量とを取得する取得部と、
前記取得部が取得した、前記車外情報特徴量と、前記顔情報特徴量、前記生体情報特徴量、または、前記車両情報特徴量とを入力とし、前記車両の運転者の認知機能が低いか否かを示す認知機能情報を出力する機械学習モデルを生成する学習部
を備えた学習装置。 - 前記取得部が取得する、前記車外情報特徴量、前記車両情報特徴量、前記顔情報特徴量、または、前記生体情報特徴量は、正常者が前記車両を運転した場合の前記車外情報特徴量、前記車両情報特徴量、前記顔情報特徴量、または、前記生体情報特徴量と、認知機能が低い者が前記車両を運転した場合の前記車外情報特徴量、前記車両情報特徴量、前記顔情報特徴量、または、前記生体情報特徴量とを含む
ことを特徴とする請求項8記載の学習装置。 - 車外情報取得部が、車両周辺の状況に関する車外情報を取得するステップと、
顔情報取得部が、前記車両の運転者の顔に関する顔情報を取得するステップと、
生体情報取得部が、前記運転者の生体情報を取得するステップと、
車両情報取得部が、前記車両に関する車両情報を取得するステップと、
車外情報特徴量抽出部が、前記車外情報取得部が取得した車外情報に基づき、前記運転者の認知機能を推定するための車外情報特徴量を抽出するステップと、
顔情報特徴量抽出部が、前記車外情報特徴量抽出部が抽出した車外情報特徴量に応じて、前記顔情報取得部が取得した顔情報に基づき、前記運転者の認知機能を推定するための顔情報特徴量を抽出するステップと、
生体情報特徴量抽出部が、前記車外情報特徴量抽出部が抽出した車外情報特徴量に応じて、前記生体情報取得部が取得した生体情報に基づき、前記運転者の認知機能を推定するための生体情報特徴量を抽出するステップと、
車両情報特徴量抽出部が、前記車外情報特徴量抽出部が抽出した車外情報特徴量に応じて、前記車両情報取得部が取得した車両情報に基づき、前記運転者の認知機能を推定するための車両情報特徴量を抽出するステップと、
認知機能推定部が、前記車外情報特徴量抽出部が抽出した車外情報特徴量と、前記顔情報特徴量抽出部が抽出した顔情報特徴量、前記生体情報特徴量抽出部が抽出した生体情報特徴量、または、前記車両情報特徴量抽出部が抽出した車両情報特徴量のうちの少なくとも1つと、機械学習モデルとに基づき、前記運転者の認知機能が低いか否かを推定するステップ
を備えた認知機能推定方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2019/036686 WO2021053780A1 (ja) | 2019-09-19 | 2019-09-19 | 認知機能推定装置、学習装置、および、認知機能推定方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2021053780A1 true JPWO2021053780A1 (ja) | 2021-11-18 |
JP7031072B2 JP7031072B2 (ja) | 2022-03-07 |
Family
ID=74884429
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021546128A Active JP7031072B2 (ja) | 2019-09-19 | 2019-09-19 | 認知機能推定装置、学習装置、および、認知機能推定方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11810373B2 (ja) |
JP (1) | JP7031072B2 (ja) |
CN (1) | CN114423343A (ja) |
DE (1) | DE112019007558T5 (ja) |
WO (1) | WO2021053780A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7328828B2 (ja) * | 2019-08-27 | 2023-08-17 | フォルシアクラリオン・エレクトロニクス株式会社 | 状態推定装置、状態推定プログラムおよび状態推定方法 |
DE112019007558T5 (de) * | 2019-09-19 | 2022-05-19 | Mitsubishi Electric Corporation | Kognitiv-Funktion-Abschätzungsvorrichtung, Lernvorrichtung und Verfahren zur Schätzung der kognitiven Funktion |
JP7359084B2 (ja) * | 2020-06-23 | 2023-10-11 | トヨタ自動車株式会社 | 感情推定装置、感情推定方法及びプログラム |
JP7384130B2 (ja) * | 2020-08-31 | 2023-11-21 | トヨタ自動車株式会社 | 車両の運転支援装置、車両の運転支援方法、およびプログラム |
TW202404532A (zh) * | 2022-04-18 | 2024-02-01 | 篠崎幸男 | 認知力推測裝置及記錄媒體 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008212490A (ja) * | 2007-03-06 | 2008-09-18 | Toyota Motor Corp | 心理状態推定装置 |
JP2009301367A (ja) * | 2008-06-13 | 2009-12-24 | Toyota Motor Corp | 運転者状態推定装置 |
JP2018050847A (ja) * | 2016-09-27 | 2018-04-05 | パナソニックIpマネジメント株式会社 | 認知機能評価装置、認知機能評価方法、およびプログラム |
JP2018127112A (ja) * | 2017-02-08 | 2018-08-16 | パナソニックIpマネジメント株式会社 | 覚醒度推定装置及び覚醒度推定方法 |
JP2018142259A (ja) * | 2017-02-28 | 2018-09-13 | オムロン株式会社 | 作業管理装置、方法およびプログラム |
JP2018151910A (ja) * | 2017-03-14 | 2018-09-27 | オムロン株式会社 | 集中度判定装置、集中度判定方法及び集中度判定のためのプログラム |
JP2018151911A (ja) * | 2017-03-14 | 2018-09-27 | オムロン株式会社 | 運転状態判定装置、運転状態判定方法及び運転状態判定のためのプログラム |
JP2018151902A (ja) * | 2017-03-14 | 2018-09-27 | オムロン株式会社 | 集中度判定装置、集中度判定方法及び集中度判定のためのプログラム |
JP2018190140A (ja) * | 2017-05-01 | 2018-11-29 | オムロン株式会社 | 学習装置、学習方法、及び学習プログラム |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6047727B2 (ja) * | 2012-03-02 | 2016-12-21 | 株式会社国際電気通信基礎技術研究所 | ネットワークシステムおよび検知システム |
JP6281238B2 (ja) | 2013-10-22 | 2018-02-21 | 三菱自動車工業株式会社 | 認知度推定装置および認知度推定方法 |
DE102013224917A1 (de) * | 2013-12-04 | 2015-06-11 | Continental Teves Ag & Co. Ohg | Verfahren zum Erfassen einer die Aufmerksamkeit eines Fahrers beschreibenden Aufmerksamkeitsgröße |
AU2014391162B2 (en) * | 2014-04-15 | 2019-05-02 | Schlumberger, Technology B.V. | Treatment fluid |
JP6486640B2 (ja) * | 2014-10-09 | 2019-03-20 | 株式会社日立製作所 | 運転特性診断装置、運転特性診断システム、運転特性診断方法、情報出力装置、情報出力方法 |
TWI572938B (zh) * | 2015-08-07 | 2017-03-01 | 台灣東電化股份有限公司 | 鏡頭驅動裝置 |
CN105809152B (zh) * | 2016-04-06 | 2019-05-21 | 清华大学 | 一种基于多源信息融合的驾驶员认知分心监测方法 |
WO2018158704A1 (en) | 2017-02-28 | 2018-09-07 | Omron Corporation | Work management apparatus, method, and program |
DE112017007252T5 (de) * | 2017-03-14 | 2019-12-19 | Omron Corporation | Fahrerüberwachungsvorrichtung, fahrerüberwachungsverfahren, lernvorrichtung und lernverfahren |
US20190092337A1 (en) | 2017-09-22 | 2019-03-28 | Aurora Flight Sciences Corporation | System for Monitoring an Operator |
CN110211401A (zh) | 2018-02-28 | 2019-09-06 | 长城汽车股份有限公司 | 一种驾驶的危险提示方法及装置 |
US10850746B2 (en) * | 2018-07-24 | 2020-12-01 | Harman International Industries, Incorporated | Coordinating delivery of notifications to the driver of a vehicle to reduce distractions |
EP3722522B1 (en) * | 2019-04-11 | 2024-03-27 | Mitsubishi Logisnext Co., Ltd. | Control device, control method, and program |
DE112019007558T5 (de) * | 2019-09-19 | 2022-05-19 | Mitsubishi Electric Corporation | Kognitiv-Funktion-Abschätzungsvorrichtung, Lernvorrichtung und Verfahren zur Schätzung der kognitiven Funktion |
-
2019
- 2019-09-19 DE DE112019007558.6T patent/DE112019007558T5/de active Granted
- 2019-09-19 CN CN201980100335.1A patent/CN114423343A/zh active Pending
- 2019-09-19 WO PCT/JP2019/036686 patent/WO2021053780A1/ja active Application Filing
- 2019-09-19 JP JP2021546128A patent/JP7031072B2/ja active Active
- 2019-09-19 US US17/637,310 patent/US11810373B2/en active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008212490A (ja) * | 2007-03-06 | 2008-09-18 | Toyota Motor Corp | 心理状態推定装置 |
JP2009301367A (ja) * | 2008-06-13 | 2009-12-24 | Toyota Motor Corp | 運転者状態推定装置 |
JP2018050847A (ja) * | 2016-09-27 | 2018-04-05 | パナソニックIpマネジメント株式会社 | 認知機能評価装置、認知機能評価方法、およびプログラム |
JP2018127112A (ja) * | 2017-02-08 | 2018-08-16 | パナソニックIpマネジメント株式会社 | 覚醒度推定装置及び覚醒度推定方法 |
JP2018142259A (ja) * | 2017-02-28 | 2018-09-13 | オムロン株式会社 | 作業管理装置、方法およびプログラム |
JP2018151910A (ja) * | 2017-03-14 | 2018-09-27 | オムロン株式会社 | 集中度判定装置、集中度判定方法及び集中度判定のためのプログラム |
JP2018151911A (ja) * | 2017-03-14 | 2018-09-27 | オムロン株式会社 | 運転状態判定装置、運転状態判定方法及び運転状態判定のためのプログラム |
JP2018151902A (ja) * | 2017-03-14 | 2018-09-27 | オムロン株式会社 | 集中度判定装置、集中度判定方法及び集中度判定のためのプログラム |
JP2018190140A (ja) * | 2017-05-01 | 2018-11-29 | オムロン株式会社 | 学習装置、学習方法、及び学習プログラム |
Also Published As
Publication number | Publication date |
---|---|
US11810373B2 (en) | 2023-11-07 |
CN114423343A (zh) | 2022-04-29 |
JP7031072B2 (ja) | 2022-03-07 |
WO2021053780A1 (ja) | 2021-03-25 |
US20220277570A1 (en) | 2022-09-01 |
DE112019007558T5 (de) | 2022-05-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7031072B2 (ja) | 認知機能推定装置、学習装置、および、認知機能推定方法 | |
WO2019161766A1 (en) | Method for distress and road rage detection | |
US11375338B2 (en) | Method for smartphone-based accident detection | |
JP4803490B2 (ja) | 運転者状態推定装置及び運転支援装置 | |
WO2020152678A1 (en) | Detection of cognitive state of a driver | |
US20090010488A1 (en) | Driving support apparatus, method and program | |
KR20200113202A (ko) | 정보 처리 장치, 이동 장치, 및 방법, 그리고 프로그램 | |
EP3588372A1 (en) | Controlling an autonomous vehicle based on passenger behavior | |
US20240000354A1 (en) | Driving characteristic determination device, driving characteristic determination method, and recording medium | |
JP2018135002A (ja) | 車両用健康診断装置 | |
JP2007058751A (ja) | 物体判別装置、物体判別方法および物体判別プログラム | |
JP2010102538A (ja) | 居眠り判定装置 | |
WO2021156914A1 (ja) | 注意方向判定装置および注意方向判定方法 | |
RU2703341C1 (ru) | Способ определения опасных состояний на дорогах общего пользования на основе мониторинга ситуации в кабине транспортного средства | |
US20200210737A1 (en) | System and method for monitoring driver inattentiveness using physiological factors | |
JP7466433B2 (ja) | 運転データ記録装置、運転支援システム、運転データ記録方法、およびプログラム | |
JP2012018527A (ja) | 車両状態記録装置 | |
US11961395B2 (en) | Driving assistance device, driving assistance method, and storage medium in which program is stored | |
WO2023112073A1 (ja) | 基準値作成装置、覚醒度推定装置、および、基準値作成方法 | |
WO2020250574A1 (ja) | 運転支援装置、運転支援方法及びプログラム | |
WO2017204195A1 (ja) | Hmi制御装置、移動体、hmi制御方法、及びプログラム | |
JP2023077733A (ja) | 車両用運転診断システム | |
JP2021149130A (ja) | 障害物監視装置および障害物監視方法 | |
JP2023066923A (ja) | 視線情報処理装置、視線情報処理方法及び視線情報処理用プログラム | |
JP5065224B2 (ja) | 心理状態推定装置及び心理状態推定方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210810 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20210810 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211026 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211224 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220125 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220222 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7031072 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |