JP2017073107A - 情報提示装置の制御方法、及び、情報提示装置 - Google Patents

情報提示装置の制御方法、及び、情報提示装置 Download PDF

Info

Publication number
JP2017073107A
JP2017073107A JP2016097491A JP2016097491A JP2017073107A JP 2017073107 A JP2017073107 A JP 2017073107A JP 2016097491 A JP2016097491 A JP 2016097491A JP 2016097491 A JP2016097491 A JP 2016097491A JP 2017073107 A JP2017073107 A JP 2017073107A
Authority
JP
Japan
Prior art keywords
emotion
presentation
user
estimated
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016097491A
Other languages
English (en)
Other versions
JP6656079B2 (ja
Inventor
式井 愼一
Shinichi Shikii
愼一 式井
弘一 楠亀
Koichi Kusukame
弘一 楠亀
内田 真司
Shinji Uchida
真司 内田
達男 伊藤
Tatsuo Ito
達男 伊藤
亜旗 米田
Aki Yoneda
亜旗 米田
ナワット シラワン
Silawan Nawatt
ナワット シラワン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Corp of America
Original Assignee
Panasonic Intellectual Property Corp of America
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Corp of America filed Critical Panasonic Intellectual Property Corp of America
Priority to CN201610806345.5A priority Critical patent/CN106562793B/zh
Priority to US15/277,417 priority patent/US11194405B2/en
Publication of JP2017073107A publication Critical patent/JP2017073107A/ja
Application granted granted Critical
Publication of JP6656079B2 publication Critical patent/JP6656079B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】推定した感情を、より適切に提示する。【解決手段】複数のユーザにより視認される提示部に情報を提示する情報提示装置の制御方法では、センサにより取得した物理量に基づいて、複数のユーザのうちの第一ユーザの感情を推定し(S101)、取得した物理量、又は、推定した感情を用いて、推定した感情の提示を行うか否かについての判定処理を実行し(S103)、推定した感情の提示部による提示を、判定処理の結果に従って制御する(S104)。【選択図】図2

Description

本発明は、情報提示装置の制御方法、及び、情報提示装置に関する。
人の感情を推定し、推定した感情を提示する装置が開示されている(例えば特許文献1参照)。
特開2013−216241号公報
しかしながら、特許文献1に開示される装置によって被験者の感情を推定して提示すると、この装置による提示の内容を、被験者自身を含む複数の人が視認し得る。そのため、提示される感情によっては、被験者が恥ずかしさを感じることがある。被験者は、感情の提示により恥ずかしさを感じるなどの精神的負担を負うことで感情が変化し、その後、被験者の本来推定されるべき感情と異なる感情が推定されることが生じ得るという問題がある。
そこで、本発明は、推定した感情を、より適切に提示する感情推定装置の制御方法等を提供する。
本発明の一態様に係る情報提示装置の制御方法は、複数のユーザにより視認される提示部に情報を提示する情報提示装置の制御方法であって、センサにより取得した物理量に基づいて、前記複数のユーザのうちの第一ユーザの感情を推定し、取得した前記物理量、又は、推定した前記感情を用いて、推定した前記感情の提示を行うか否かについての判定処理を実行し、推定した前記感情の前記提示部による提示を、前記判定処理の結果に従って制御する。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
本発明の情報提示装置の制御方法によれば、推定した感情を、より適切に提示することができる。
図1は、実施の形態1における情報提示装置の機能ブロックを示すブロック図である。 図2は、実施の形態1における情報提示装置の制御方法を示すフロー図である。 図3は、実施の形態2における情報提示装置の利用場面を示す説明図である。 図4は、実施の形態2における情報提示装置の機能ブロックを示すブロック図である。 図5は、実施の形態2における情報提示装置の制御方法を示すフロー図である。 図6は、実施の形態2の変形例1における情報提示装置の利用場面を示す説明図である。 図7は、実施の形態2の変形例1における情報提示装置の機能ブロックを示すブロック図である。 図8は、実施の形態2の変形例1における情報提示装置の制御方法を示すフロー図である。 図9は、実施の形態2の変形例1における情報提示装置によるデューティ比の例を示す説明図である。 図10は、実施の形態2の変形例2における情報提示装置の機能ブロックを示す構成図である。 図11は、実施の形態2の変形例3における情報提示装置の機能ブロックを示す構成図である。 図12は、実施の形態3における情報提示装置の機能ブロックを示すブロック図である。 図13は、実施の形態3の変形例における情報提示装置の機能ブロックを示すブロック図である。 図14は、実施の形態4における情報提示装置の第一例の機能ブロックを示すブロック図である。 図15は、実施の形態4における情報提示装置の第二例の機能ブロックを示すブロック図である。 図16は、実施の形態4における情報提示装置の第三例の機能ブロックを示すブロック図である。 図17は、実施の形態4における情報提示装置の第四例の機能ブロックを示すブロック図である。 図18は、実施の形態4における情報提示装置の第五例の機能ブロックを示すブロック図である。
本発明の一態様に係る情報提示装置の制御方法は、複数のユーザにより視認される提示部に情報を提示する情報提示装置の制御方法であって、センサにより取得した物理量に基づいて、前記複数のユーザのうちの第一ユーザの感情を推定し、取得した前記物理量、又は、推定した前記感情を用いて、推定した前記感情の提示を行うか否かについての判定処理を実行し、推定した前記感情の前記提示部による提示を、前記判定処理の結果に従って制御する。
上記態様によれば、情報提示装置は、第一ユーザの感情を推定した後に、その感情を提示するか否かの判定処理を行う。この判定処理は、推定した感情を提示部により提示する前に行われ、その提示をするか、又は、しないかの制御につながるものである。この判定処理により、推定した感情を提示することが適切でない場合に、その提示を禁止することができる。よって、情報提示装置は、推定した感情を、より適切に提示することができる。
例えば、前記判定処理では、前記提示部を前記第一ユーザが見ているか否かを判定し、前記提示の制御では、(a)前記提示部を前記第一ユーザが見ていると判定した場合には、前記提示を禁止し、(b)前記提示部を前記第一ユーザが見ていないと判定した場合には、前記提示を許可してもよい。
上記態様によれば、情報提示装置は、第一ユーザが提示部を見ているか否かに応じて、提示をするか、又は、しないかを制御する。第一ユーザが提示部を見ているときに第一ユーザの推定された感情が提示されると、この提示によって第一ユーザの感情が変化することがある。このように第一ユーザの感情が変化してしまうと、その後に推定される感情は、本来第一ユーザが抱いていた、又は、抱くはずの感情とは異なるものとなり、妥当な推定結果とはいえないものとなる。上記のように第一ユーザが提示部を見ているときに提示を禁止することで、提示により第一ユーザの感情が変化することを回避することができる。
例えば、前記判定処理では、前記提示の頻度として、取得した前記物理量、又は、推定した前記感情に応じた頻度を決定し、前記提示の制御では、前記判定処理で決定した前記頻度で前記提示を行うよう制御してもよい。
上記態様によれば、情報提示装置は、第一ユーザの推定された感情に基づいて、提示の頻度を変化させる。これにより、情報提示装置は、第一ユーザの推定された感情を直観的に提示することができる。
例えば、前記判定処理では、推定した前記感情の強度が高いほど、前記提示の頻度をより高い頻度に決定してもよい。
上記態様によれば、情報提示装置は、第一ユーザの推定された感情の強度に基づいて、提示の頻度を変化させる。これにより、情報提示装置は、第一ユーザの推定された感情を、より直観的に提示することができる。
例えば、前記判定処理では、推定した前記感情が、前記提示部による提示を禁止するものとして予め定められた感情であるか否かを判定し、前記提示の制御では、前記予め定められた感情の前記提示を禁止してもよい。
上記態様によれば、情報提示装置は、第一ユーザの推定された感情が所定のものである場合に提示を禁止することで、適切でない提示を抑制することができる。
例えば、前記判定処理では、推定した前記感情を前記ユーザに事前提示し、前記事前提示した前記感情を前記提示部により提示するか否かについての前記ユーザによる指示を受け、前記提示の制御では、前記事前提示に対する前記ユーザによる指示に従って、前記提示部による提示を制御してもよい。
上記態様によれば、情報提示装置は、第一ユーザの推定された感情を提示するか否かについて、第一ユーザによる指示に従って提示するか、又は、提示を禁止するかを制御する。よって、第一ユーザが提示してほしくないと思う感情を提示することを抑制することができる。
例えば、前記判定処理では、前記センサとしてのカメラが取得した画像に含まれるユーザの人数を判定し、前記複数のユーザが3人以上であるか否かを判定し、前記提示の制御では、前記複数のユーザが3人以上であると判定された場合には、前記提示を許可してもよい。
上記態様によれば、情報提示装置は、提示する感情が複数のユーザのうちのどのユーザの感情であるかを特定できない態様で、つまり匿名で、第一ユーザの推定された感情を提示することができる。誰が抱いている感情かが特定できない場合、推定された感情が提示されるときの第一ユーザの恥ずかしさなどの精神的負担が比較的軽いと考えられるからである。
例えば、前記感情の推定では、前記センサとしてのカメラが取得した前記第一ユーザの顔を含む画像に基づいて、覚醒、驚き、喜び、快適、気楽、眠気、退屈、悲しみ、深い、イライラ、怒り、恐れ、又は、平静の感情を、前記第一ユーザの感情として推定してもよい。
上記態様によれば、情報提示装置は、第一ユーザの感情をより具体的に推定することができる。
例えば、前記第一ユーザは、一の車両の運転者であり、前記複数のユーザのうち前記第一ユーザを除くユーザは、前記一の車両に乗車していない人であり、前記感情を推定する際には、前記運転者のイライラ又は怒りの感情を推定してもよい。
上記態様によれば、情報提示装置は、車両に乗車している第一ユーザの感情を、車両に乗車していないユーザに提示することができる。
例えば、前記第一ユーザは、トイレ室内でトイレを使用している使用者であり、前記複数のユーザのうち前記第一ユーザを除くユーザは、前記トイレ室外で前記トイレを使用するために待機している待機者であり、前記感情を推定する際には、前記使用者の不快又は気楽の感情を推定してもよい。
上記態様によれば、情報提示装置は、トイレ室内でトイレを使用している第一ユーザの感情を、トイレ室外でトイレを使用するために待機しているユーザに提示することができる。
例えば、前記第一ユーザは、前記トイレ室外で前記トイレを使用するために待機している待機者であり、前記複数のユーザのうち前記第一ユーザを除くユーザは、トイレ室内でトイレを使用している使用者であり、前記感情を推定する際には、前記待機者の不快又はイライラの感情を推定してもよい。
上記態様によれば、情報提示装置は、トイレ室外でトイレを使用するために待機している第一ユーザの感情を、トイレ室内でトイレを使用しているユーザに提示することができる。
また、本発明の一態様に係る情報提示装置は、複数のユーザにより視認される提示部に情報を提示する情報提示装置であって、センサにより取得した物理量に基づいて、複数のユーザのうちの第一ユーザの感情を推定する感情推定部と、取得した前記物理量、又は、推定した前記感情を用いて、推定した前記感情の提示を行うか否かについての判定処理を実行する判定部と、推定した前記感情の前記提示部による提示を、前記判定処理の結果に従って制御する提示制御部とを備える。
これにより、上記と同様の効果を奏する。
また、本発明の一態様に係るプログラムは、上記の制御方法をコンピュータにより実行させるためのプログラムである。
これにより、上記と同様の効果を奏する。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムまたは記録媒体の任意な組み合わせで実現されてもよい。
以下、実施の形態について、図面を参照しながら具体的に説明する。
なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
(実施の形態1)
本実施の形態において、推定した感情を、より適切に提示する情報提示装置等について説明する。より具体的には、この情報提示装置は、被験者の感情を推定して提示する一方で、被験者の感情を変化させずに維持させることで継続的な感情の推定を適切に実現し得るものである。
図1は、本実施の形態における情報提示装置1の機能ブロックを示すブロック図である。
図1に示されるように、情報提示装置1は、感情推定部12と、判定部14と、提示制御部16とを備える。また、情報提示装置1は、センサ10と提示部17とを備えてもよい。提示部17は、複数のユーザに視認され得る。図1には、複数のユーザとしてユーザU1及びU2の2人を示しているが、3人以上のユーザがあってもよい。
センサ10は、感情推定部12が用いるセンサの一例であり、具体例は、可視光線又は赤外線による撮像により画像を取得するカメラ、心拍計、血圧計などである。なお、センサ10は、情報提示装置1に必須の構成ではない。
感情推定部12は、センサにより取得した物理量に基づいて、複数のユーザのうちの被験者であるユーザU1の感情を推定する処理部である。感情推定部12が上記で用いるセンサは、例えばセンサ10であるが、これに限られない。感情推定部12は、センサにより取得した物理量を情報提示装置1の外部から取得してもよい。感情推定部12は、例えば、センサとしてのカメラによる撮像により取得した物理量としての画像におけるユーザU1の表情を分析することで、ユーザU1が抱いている感情を推定し得る。ここで、表情(より具体的には、目、口及び鼻などのパーツの特徴点の位置)を分析することで感情を得る方法は周知技術を採用し得る。
判定部14は、センサが取得した物理量、又は、感情推定部12が推定した感情を用いて、推定した感情の提示を行うか否かについての判定処理を実行する処理部である。また、判定部14は、センサが取得した物理量、又は、感情推定部12が推定した感情に応じて、提示部17による提示の頻度を決定してもよい。ここで、判定部14は、感情推定部12が推定した感情の強度が高いほど、提示部17による提示の頻度をより高い頻度に決定してもよい。また、判定部14は、感情推定部12が推定した感情が、提示部17による提示を禁止するものとして予め定められた感情であるか否かを判定してもよい。その場合、提示制御部16及び提示部17により、その予め定められた感情の提示が禁止される。
提示制御部16は、推定した感情の提示部17による提示を、判定部14による判定処理の結果に従って制御する処理部である。
提示部17は、提示制御部16による制御に従って情報を提示する提示部である。提示部17は、例えば、液晶ディスプレイである。
なお、感情推定部12、判定部14及び提示制御部16の一部又は全部は、情報提示装置1が備えるプロセッサ(不図示)がプログラムを実行することでソフトウェア的に実現されてもよいし、専用回路によりハードウェア的に実現されてもよい。また、上記構成要素が処理に用いる情報は、情報提示装置1が備えるメモリ(不図示)又はストレージ(不図示)に格納されているとする。
図2は、本実施の形態における情報提示装置1の制御方法を示すフロー図である。
ステップS101において、センサ10が物理量を取得する。なお、センサ10の代わりに、情報提示装置1の外部のセンサを用いてもよく、その場合には、本ステップにおいて、情報提示装置1は、外部のセンサにより取得された物理量を取得する。
ステップS102において、感情推定部12は、センサ10(又は外部のセンサ)により取得した物理量に基づいてユーザU1が抱いている感情を推定する。
ステップS103において、判定部14は、センサ10(又は外部のセンサ)が取得した物理量、又は、感情推定部12が推定した感情を用いて、推定した感情の提示を行うか否かについての判定処理を実行する。例えば、判定部14は、ユーザU1の視線の向きを判定する処理、又は、感情推定部12が推定した感情が所定の感情と一致するか否かを判定する処理を、上記判定処理として実行する。
ステップS104において、提示制御部16は、ステップS102で感情推定部12が推定した感情の提示部17による提示を、判定部14による判定処理の結果に従って制御する。
なお、判定部14による判定処理では、感情推定部12が推定した感情をユーザU1に事前提示し、事前提示した感情を提示部17により提示するか否かについてのユーザU1による指示を受けてもよい。その場合、提示制御部16は、事前提示に対するユーザU1による指示に従って、提示部17による提示を制御する。
また、判定部14による判定処理では、センサとしてのカメラが取得した画像に含まれるユーザの人数を判定してもよい。その場合、提示制御部16は、ユーザが3人以上であると判定された場合に、提示部17による提示を許可してもよい。
以上の一連の処理により、情報提示装置1は、推定した感情を、より適切に提示することができる。より具体的には、情報提示装置1は、被験者の感情を推定して提示する一方で、被験者の感情を変化させずに維持させることで継続的な感情の推定を適切に実現し得る。
このように、本実施の形態の情報提示装置1は、第一ユーザの感情を推定した後に、その感情を提示するか否かの判定処理を行う。この判定処理は、推定した感情を提示部17により提示する前に行われ、その提示をするか、又は、しないかの制御につながるものである。この判定処理により、推定した感情を提示することが適切でない場合に、その提示を禁止することができる。よって、情報提示装置1は、推定した感情を、より適切に提示することができる。
なお、判定部14による判定処理では、上記以外のセンサから得られた物理量や、上記以外の根拠を元に、推定した感情の提示を行うか否かについての判定処理を実行してもよい。
(実施の形態2)
本実施の形態において、推定した感情を、より適切に提示する情報提示装置についてより具体的に説明する。
図3は、本実施の形態における情報提示装置2の利用場面を示す説明図である。
図3に示されるように、情報提示装置2は、例えば、車両(自動車)の居住空間内において、運転者であるユーザU1と、同乗者であるユーザU2とが、車両のナビゲーション装置として構成された情報提示装置2の提示部17を視認し得る状況を示している。
情報提示装置2は、ユーザU1の感情を推定し、推定した感情を提示する。しかしながら、情報提示装置2による感情の提示が常に行われるとすれば、ユーザU1は、自身の推定された感情がユーザU2に伝えられる様子を見ることになる。このことによりユーザU1は、恥ずかしさなどの精神的負担を感じて感情が変化することがあり、ユーザU1の感情の推定が適切に行われないという問題が生ずる。
そこで、情報提示装置2は、ユーザU1の視線の向きに基づいて提示の制御をする。具体的には、ユーザU1が情報提示装置2の提示部17を見ていないとき(図3の(a))には、推定された感情を提示し、ユーザU1が情報提示装置2の提示部17を見ているとき(図3の(b))には、推定された感情を提示しないこととする。ユーザU1は、自身の推定された感情がユーザU2に伝えられる様子を見ることがなくなる。このように、情報提示装置2は、ユーザU1の感情を維持するように、推定したユーザU1の感情を適切に提示することができる。
以降において、情報提示装置2の機能及び処理について詳細に説明する。
図4は、本実施の形態における情報提示装置2の機能ブロックを示すブロック図である。
図4に示されるように、情報提示装置2は、カメラ11と、感情推定部12と、判定部14と、提示制御部16と、提示部17とを備える。なお、実施の形態1における構成要素と同じ構成要素には、同じ符号を付し、詳細な説明を省略することがある。
カメラ11は、ユーザU1の顔を撮像する可視光線カメラ又は赤外線カメラである。カメラ11は、物理量としての画像を取得するセンサとして機能する。
感情推定部12は、センサとしてのカメラ11が取得した画像におけるユーザU1の表情に基づいて、ユーザU1が抱いている感情を推定する処理部である。ここで、ユーザU1が抱いている感情は、さまざまなものがあり、その推定方法は周知技術を採用し得る。感情は、例えば、ポジティブ感情又はネガティブ感情のいずれかであってもよいし、感情のポジティブさ(又はネガティブさ)の程度を示す指標に基づいて決定されるものでもよい。ここで、ポジティブ感情とは、元気で生き生きとした状態を示す感情であり、具体的には、覚醒、興奮、又は、幸福のような感情である。ネガティブ感情とは、ポジティブ感情の反対の感情であり、元気がなく消極的な状態を示す感情である。
また、感情は、感情の種別(例えば、覚醒、驚き、喜び、快適、気楽、眠気、退屈、悲しみ、不快、イライラ、怒り、恐れ、又は、平静など)と感情の強度とで表わされる、感情の二次元モデル(例えばラッセル円環モデル)上で表現されるものであってもよい。
判定部14は、センサとしてのカメラ11が取得した物理量としての画像におけるユーザU1の視線の向きに基づいて、推定した感情の提示を行うか否かについての判定処理を実行する処理部である。判定部14は、カメラ11が取得した画像からユーザU1の視線の向きを解析する視線解析部15を有する。なお、視線の向きの解析は、画像におけるユーザU1の顔面の向き、及び、眼球の位置から周知技術によりなされ得る。
判定部14は、上記判定処理において、視線解析部15による解析の結果である、ユーザU1の視線の向きを取得し、ユーザU1の視線が提示部17を向いているか否かを判定することで、ユーザU1が提示部17又はその周辺を見ているか否かを判定する。なお、ユーザU1の視線が提示部17を向いているか否かの判定は、ユーザU1の顔面の位置及び向き、提示部17の位置及び向き等を示す情報に基づいて周知技術によりなされ得る。
提示制御部16は、感情推定部12が推定した感情の提示部17による提示を、判定部14による判定処理の結果に従って制御する処理部である。具体的には、提示制御部16は、(a)提示部17をユーザU1が見ていると判定部14が判定した場合には、提示部17による提示を禁止するための制御情報を生成する。一方、(b)提示部17をユーザU1が見ていないと判定部14が判定した場合には、提示部17による提示を許可するための制御情報を生成する。そして、提示制御部16は、生成した制御情報に従って、提示部17による提示を制御する。
以降において、情報提示装置2の制御方法について説明する。
図5は、本実施の形態における情報提示装置2の制御方法を示すフロー図である。
ステップS201において、カメラ11が画像を取得する。
ステップS202において、ステップS201で取得した画像に基づいて、感情推定部12がユーザU1の感情を推定する。
ステップS203において、ステップS201で取得した画像に基づいて、視線解析部15が、ユーザU1の視線の向きを取得する。
ステップS204において、判定部14は、ステップS203で取得したユーザU1の視線の向きに基づいて、ユーザU1が提示部17又はその周辺を見ているか否かを判定する。ユーザU1が提示部17を見ていると判定した場合(ステップS204でYes)にはステップS205に進み、そうでない場合(ステップS204でNo)には、ステップS206に進む。
ステップS205において、提示制御部16は、ユーザU1の推定された感情の提示部17による提示を禁止する。このとき、提示制御部16は、他の情報(例えば現在地周辺の地図の画像)を提示部17に提示してもよい(図3の(b)参照)。
ステップS206において、提示制御部16は、ユーザU1の推定された感情の提示部17による提示を許可する(図3の(a)参照)。
以上の一連の処理により、情報提示装置2は、ユーザU1の感情の提示をユーザU1に視認されないようにすることでユーザU1の感情を維持しながら、推定したユーザU1の感情を適切に提示することができる。
なお、感情推定部12による感情推定の具体的方法については以下のようにすることもできる。感情推定部12は、センサとしてカメラ11を用いる場合、カメラ11により取得した画像、又は、その画像の緑色成分画像の変動から脈拍を検出し、検出した脈拍の脈拍間隔時間(RRI,R−R Interval)の時間変動から、RRIの周波数成分のパワースペクトルを求める。そして、感情推定部12は、周波数成分のパワースペクトルのLF(Low Frequency)成分(例えば0.05〜0.15Hz)と、HF(High Frequency)成分(例えば、0.15Hz〜0.4Hz)との比LF/HFから、ユーザU1がリラックスしているか緊張しているかを判断する。なお、カメラ11により取得した画像から、瞼の開き具合、又は、単位時間における瞼の閉じている時間割合を測定して、眠気の度合いを判断することもできる。センサとしてサーモカメラを用いる場合、感情推定部12は、主に末梢の皮膚温から緊張を検出することもできる。人が緊張すると抹消の皮膚温が低下するという性質を利用したものである。
なお、センサが取得する物理量は、例えば、心拍数、心拍波形、脈波、脈波波形、LF/HF、瞼開度、瞳孔径、血流量、酸素飽和度、顔色、視線、発汗量、呼吸数、呼吸量、皮膚温、又は、体温等の生体情報である。
なお、提示制御部16による提示の制御の具体的方法については、以下のようにすることもできる。センサとしてカメラ11を用いる場合、カメラ11により取得した画像からユーザU1の瞼の開度を検出し、例えば瞼が所定時間以上閉じた場合にはユーザU1が寝たと判断し、提示制御部16は、提示部17に「眠い」との感情を提示してもよい。また、推定された感情が、情報提示装置2よる提示をしないものとして予め定められた感情であった場合、提示制御部16は、その感情を提示することを禁止してもよい。例えば、推定された感情が「退屈」というように、あまり他人に知られたくない感情であった場合、感情の提示を禁止するように制御してもよい。また、センサとしてカメラ11を用いる場合、カメラ11により取得した画像に含まれる人の人数が、複数であった場合にのみ、感情を提示するように制御してもよい。また、この場合、提示する感情は、複数人の感情の平均値としてもよいし、複数人のうちの所定の1人以上、又は、任意の1人以上の感情であってもよい。
なお、感情推定部12は、推定された感情の補正を行ってもよい。例えば、操作量(アクセル、ブレーキ又はステアリング)により補正してもよい。具体的には、急発進や急ブレーキの程度に応じて、イライラの感情の強度を補正してもよい。急発進や急ブレーキの頻度が多くなったり、程度がきつくなったりすると、イライラの感情の強度を強めに補正することにより、イライラの感情を強く運転者に認識させることで、安全に対する意識をより強く促したり、スロットルを弱めに制御したりして、危険運転の低減や燃費の向上に繋げることができる。また、ステアリングの保舵力や保舵する面積(手がステアリングに対して所定値以上の圧力で接触している面積)に応じて、眠気の感情の強度を補正してもよい。保舵力や保舵する面積が低下すると眠気レベルをより高めに補正することで、早期に運転者に覚醒レベルの低下を伝えたり、シートベルト等により覚醒を促したりすることができ、安全性向上に繋げることができる。また、周囲の交通量や車間距離等に応じて、感情を補正してもよい。例えば交通量が多い場合、又は、車間距離が短い場合、イライラの感情の強度を強めに補正して、安全運転を促したり、ブレーキやスロットルの制御を緩やかにしたりしてもよい。もちろん、意図的に車間距離が取りやすい位置に移動してもよい。
また、感情推定部12は、運転者に対して問いかけをした際の表情の変化や返答から、感情を推定することもできる。例えば問いかけに対して関係のない返事をすると、漫然状態や眠気があると推定する。他にも、感情推定部12は、問いかけに対して語気が荒かったり眉間にシワがよったりすると、イライラの感情を抱いていると推定してもよい。わずかな表情の変化(微表情)から推定してもよいし、定常的な変化から推定してもよい。問いかけがなくても、脈絡のない発話ばかりであれば、漫然状態と推定してもよい。
また、情報提示装置2は、推定した感情に基づいて、難易度が異なる駐車場又は駐車スペースへの駐車(いわゆる車庫入れ)のうちのどの駐車スペースへの駐車を案内するかを変えてもよい。駐車時に不安感を感じていなければ、駐車の難易度の高い駐車場又は駐車スペースを案内してもよい。駐車の難易度が高い駐車場にうまく停めることに面白さを感じる人もいるからである。一般に、駐車の難易度が比較的高い駐車スペースは、その難易度ゆえ、駐車されずに空いていることが多い。そこで、難易度が比較的高くても駐車に不安を感じない人に難易度の比較的高い駐車スペースを案内することで、駐車場をより有効的に利用することができるという利点もある。
また、感情推定部12は、温度、気圧、騒音、天候、明るさ等によって、感情を補正しても構わない。具体的には、気温が低くもなく高くもなければ、例えば喜びの感情が強くなるように補正してもよい。気圧が低ければ、不快な感情が強くなるように補正してもよい。騒音が比較的大きければ、イライラの感情が強くなるように補正してもよい。天候がよければ、喜びの感情が強くなるように補正しても構わない。逆に天候が悪ければ喜びの感情を低めにしてもよい。明るさが高ければ喜びの感情を多めに補正してもよい。もちろんこれ以外の補正を行っても構わない。
また、情報提示装置2は、スマートフォン又はPC上のアプリケーションとして実現することもできる。その場合、当該アプリケーションを使用中に所定の感情を検出した時に、スマートフォン又はPCの所定の操作ができなくなるようにしてもよい。例えば、コミュニケーションツールのアプリケーション(いわゆるSNS(Social Networking Service)など)を操作しているときに、ユーザのイライラの感情を推定した場合、投稿ボタンの操作をできなくしてもよい。入力そのものをできないようにしてもよいし、他の操作(又は処理)に置き換えてもよい。こうすることで、ユーザU1が感情にまかせた投稿をしたことにより後に友好関係にヒビが入ることを防止でき、後から見返した時に後悔したり、Webサイトが炎上したりすることを防止することができる。また、同様に攻撃的な感情下での投稿により、相手を傷つけることや、いじめ等の防止に繋がる。
また、クラウドコンピューティングを活用すると以下のようなことも可能である。
例えば、情報提示装置2が、周囲の1以上の運転者の感情を、レーダーチャート等で運転者に表示してもよい。イライラの感情を有している人が多いと、その周辺を走行することを避けるようにできる。また、情報提示装置2は、感情をクラウド上のサーバにあげて、イライラの感情を有している人が多い場所ではスピードを低減させるようにアクセルやブレーキを制御してもよい。特に自動運転で効果が大きいと考えられる。また、情報提示装置2は、感情をクラウド上のサーバにあげて、例えば雪道等で驚きやヒヤリハットが多い場所が近づいてきたら、チェーン脱着場を案内することで、より安全に運転することが可能になる。また、情報提示装置2は、クラウド上のサーバにあげられたビッグデータやナビ情報を元に、運転者が今後に抱く感情を予測し、好ましくない感情を運転者が抱くことのないように、未然に緩和するようにしてもよい。例えば、過去に運転者がイライラの感情を抱いた地点に近づくときに、情報提示装置2は、イライラの感情を緩和させる音楽を再生してもよい。そもそもナビゲーション装置による案内情報により、過去に運転者がイライラの感情を抱いた地点を経由しない経路を案内してもよい。また、情報提示装置2は、現在地から目的地までの感情の推移を推定し、イライラの感情を抱くことが最も少ない道を提案してもよく、ルート選択の際にイライラの感情を抱くことが少ないルートを選択できるようにしてもよい。これにより、情報提示装置2は、イライラの感情を抱くことが低減された安全な運転を運転者に促すことができる。
また、情報提示装置2は、周囲の自動運転車両の割合を運転者に表示してもよい。この情報は、自動運転に切り替えるかどうかの目安になる。また、情報提示装置2は、個人の運転好みを学習し、自動運転中に退屈な感情を推定したら、自動運転から手動運転への切り替えを促してもよい。これにより、運転者は、運転する楽しさを感じることができる。また、情報提示装置2は、個人の運転の好みを学習し、運転者が好みの道を伝えてもよい。運転者本人は自分の好みの道を認識することがあまりないので、自分の運転の好みや癖を自覚することができ、安全に対する意識を向上させることができる。
(実施の形態2の変形例1)
本変形例において、推定した感情を、より適切に提示する情報提示装置の別形態について、より具体的に説明する。
図6は、本変形例における情報提示装置2Aの利用場面を示す説明図である。
図6に示されるように、情報提示装置2Aは、例えば、車両を運転しているユーザU1の感情を車外に提示する状況を示している。つまり、ユーザU1は、車両の運転者であり、ユーザU1の推定された感情が、ユーザU1を除く他のユーザ(例えば、他の車両の運転者、又は、歩行者など)に提示され得る。ユーザU1の感情が他のユーザに提示されることで、例えば他の運転手又は歩行者がユーザU1の車両に接近することで危険が予測される場合に接近を避けるなどの安全行動をとることができる。
以降において、情報提示装置2Aの機能及び処理について詳細に説明する。
図7は、本実施の形態における情報提示装置2Aの機能ブロックを示すブロック図である。
図7に示されるように、情報提示装置2Aは、カメラ11と、感情推定部12と、判定部14Aと、提示制御部16Aと、提示部17とを備える。なお、実施の形態1における構成要素と同じ構成要素には、同じ符号を付し、詳細な説明を省略することがある。
感情推定部12は、ユーザU1の感情を、その感情の強度とともに推定する。例えば、感情推定部12は、比較的強いイライラ、又は、比較的弱い快適、などの感情を推定する。
判定部14Aは、感情推定部12が推定したユーザU1の感情の強度に基づいて、推定した感情を提示する時間長についての判定処理を実行する処理部である。判定部14Aは、具体的には、感情推定部12が推定した感情を提示部17により提示する状態(オン)と、提示しない状態(オフ)とを周期的に繰り返す場合の、オン時間(オンデューティ時間)及びオフ時間(オフデューティ時間)、又は、そのデューティ比を、感情の強度に応じて決定する。例えば、判定部14Aは、推定された感情の強度が強いほど、より長いオン時間を決定する。
提示制御部16Aは、感情推定部12が推定した感情の提示部17による提示を、判定部14Aによる判定処理の結果に従って制御する処理部である。具体的には、提示制御部16Aは、判定部14Aが決定したオン時間及びオフ時間、又は、デューティ比に従って、提示部17による提示を制御する。
以降において、情報提示装置2Aの制御方法について説明する。
図8は、本実施の形態における情報提示装置2Aの制御方法を示すフロー図である。図9は、本変形例における情報提示装置2Aによるデューティ比の例を示す説明図である。
図8のステップS201及びS202は、図5の同一符号のステップと同じである。
ステップS301において、判定部14Aは、感情推定部12が推定したユーザU1の感情の強度に応じたデューティ比を決定する。判定部14Aは、例えば、推定された感情の強度が強いほど、より長いオン時間を決定する。より具体的には、ユーザU1の感情の強度が比較的弱い場合には、比較的小さなデューティ比を決定する(図9の(a)参照)。一方、ユーザU1の感情の強度が比較的強い場合には、比較的大きなデューティ比を決定する(図9の(b)参照)。
ステップS302において、提示制御部16Aは、ステップS301で判定部14Aが決定したデューティ比でユーザU1の感情を提示する。
このようにすることで、情報提示装置2Aは、車両内にいるユーザU1から見えない車外の位置にユーザU1の推定された感情を提示し、また、その提示の時間長は、推定された感情の強度に応じて定められる。この提示は、ユーザU1が視認することができない位置にあるので、ユーザU1自身がこの提示を見て恥ずかしいと思うこともないし、その結果ユーザU1の感情が変化してしまうこともない。
なお、判定部14Aは、ユーザU1の感情が「平静」である場合には、感情の提示を禁止するようにしてもよい。ユーザU1にとって、常に感情を提示していることによる恥ずかしさなどの精神的負担を軽減するためである。また、周囲の車両は、「怒り」又は「焦り」を感じている運転者の車両には近づかないようにすることができるので、交通安全に繋がる利点がある。この場合、感情のログにおける特定の感情の比率に応じて保険料が変動する自動車保険の制度が構築され得る。
また、提示部17による提示のタイミングを、インジケータ等を点滅させることで運転者自身に知らせるようにしてもよい。これにより、ユーザU1は、自身の感情がいつ提示されたかを知ることができ、恥ずかしさなどの精神的負担が軽減され得る。また、提示する感情を事前にユーザU1に示し、提示するか否かについてのユーザU1による指示を受け、指示に従って提示を制御してもよい。また、この場合、判定部14Aは、怒りや焦りなどの所定の感情については、提示するか否かについての指示を受けずに、常に提示する、又は、常に提示しないと判定してもよい。
このようにして、情報提示装置2Aは、ユーザU1の感情を、その感情の強度に応じた時間長で車外に提示することができ、例えば他の運転者への安全行動につなげることができる。
また、ここでは感情により表示するデューティを調整する例を示したが、デューティではなく、例えば表示する輝度を調整してもよく、その他にも表示する色を変化させてもよく、周囲のドライバーの視認しやすさを調整できるのであれば他の方法でも構わない。
(実施の形態2の変形例2)
本変形例において、推定した感情を、より適切に提示する情報提示装置の別形態について、より具体的に説明する。本変形例における情報提示装置3は、運転者であるユーザU1の感情に基づいて車両及び交通信号機の制御を行うものである。
図10は、本変形例における情報提示装置3の機能ブロックを示す構成図である。
図10に示されるように、情報提示装置3は、センサ10と、感情推定部12と、制御部18とを備える。なお、上記実施の形態又は変形例における構成要素と同じ構成要素には、同じ符号を付し、詳細な説明を省略することがある。
制御部18は、感情推定部12が推定したユーザU1の感情に基づいて、車両40が備える機器(例えば、シフト41、車内照明42、エンジン回転数43、ブレーキ44、ステアリング45、又は、ナビゲーション装置46)、若しくは、交通信号機47を制御する処理部である。
例えば、情報提示装置3は、車両がタクシーである場合、乗客の感情を推定し、乗客が恐怖の感情を抱いたら、運転手に通知することなくスピード制限をかける、アクセルを重くする、又は、自動運転に切り替えるなどの制御を行う。また、情報提示装置3は、自動運転で、例えば眠そうな人がいたらソフト運転モード(加減速を少なくする)にしたりしてもよい。また、静音モード(シフトをなるべく高めにする)にしたり、焦っている人がいたら追い越し車線に車線変更したり、乗り物酔い(末梢の血流が減る)をしている人がいたらスピード制限を掛けたりしてもよい。これらにより、乗客の感情が、運転者に知られることなく、乗客にとって快適な運転に近づけることができる。もちろん、推定された感情に応じて自動で運転モードを切り替えてもよいし、運転者に提示して運転者が選択してもよい。なお、同乗者が複数いる場合には、運転者に感情を提示してもよい。その場合、どの同乗者の感情であるのかを特定できないようにしてもよい。運転者には、誰の感情かがわからないので、同乗者が恥ずかしさなどの精神的負担を感じにくい利点がある。
また、情報提示装置3は、眠気の低減又は覚醒につながる音楽を学習してもよい。個人によって、音楽の好みや覚醒し易い曲が違うので、より覚醒に効果的な音楽又は曲を学習して、眠い時にかけることができる。
また、情報提示装置3は、運転手の感情にあわせて交通信号機47のシグナルのタイミングの制御をしてもよい。交通信号機47の制御により、運転者が焦りを感じている車両は、交通信号機47に止められる回数が減るようにしてもよい。また、楽しい感情を抱いている運転者の車両は、交通信号機47により止められる回数を増やして、その状態を継続させることで、運転者が幸せを感じている時間を延長するよう制御することもできる。異性とのデート中などに効果が大きいといえる。
また、情報提示装置3は、タクシーの乗客や同乗者がトイレに行きたい感情を推定してもよい。このような感情を推定したら、最寄りのトイレをナビゲーション装置に表示させてもよい。また、タクシーの乗客や同乗者の空腹の度合いを感情として推定して、緊急度が高い場合には車内照明42を青色にして空腹感を抑制するようにしてもよい。また、食事ができる余裕があれば、赤色照明で空腹感を増幅して、レストランをリコメンドしてもよい。また、タクシー検索サイトに運転者の現時点の感情を表示し、タクシーを利用しようとする人が、表示された感情に基づいて、自身の気分にあったタクシーを選べるようにしてもよい。例えば、タクシーを利用しようとする人が、眠気を感じている時は静かな運転手を選択し、急いで目的地に到着したいときは集中力が高まっている運転手を選択するようにしてもよい。
また、情報提示装置3は、同乗者又は運転者の眩しそうな表情をセンシングして、日陰の多い道路を案内することで、快適なタクシー移動を演出してもよい。また、同乗者又は運転者が眠気を感じている場合には、日向の多い道路を案内することで、快適な運転を演出してもよい。
また、情報提示装置3は、運転手の感情を同乗者に提示することで、運転者が眠気を感じていたら同乗者が会話を盛り上げる努力をすることができる。運転手が「眠いから休憩したい」と言い出しにくいことから有用である。
また、情報提示装置3は、運転者のカメラ画像から、運転者がルームミラー越しに車両内をみていないタイミングでのみ、推定された感情を提示するようにしてもよい。運転者が、自身の心が見られている感覚を有することを回避することができる。
また、情報提示装置3は、運転者の感情を、感情以外の言葉で表現して、表示してもよい。例えば、運転中であれば、眠い顔やイライラしている時に、事故発生確率等で表現して運転者に示してもよい。また、運転者の感情をモニタし、その感情から事故率が高いと思われる場合は、休憩を促したり、遠隔操作で車両を停めたりしてもよい。
(実施の形態2の変形例3)
本変形例において、推定した感情を、より適切に提示する情報提示装置の別形態について、より具体的に説明する。本変形例における情報提示装置4は、運転者であるユーザU1の感情としての眠気レベルに基づいて、ユーザU1による運転の危険度を提示するものである。
図11は、本変形例における情報提示装置4の機能ブロックを示す構成図である。
図11に示されるように、情報提示装置4は、センサ10と、感情推定部12と、危険度判定部14Bと、提示制御部16と、提示部17とを備える。なお、上記実施の形態又は変形例における構成要素と同じ構成要素には、同じ符号を付し、詳細な説明を省略することがある。
危険度判定部14Bは、感情推定部12が推定したユーザU1の感情としての眠気の度合いに基づいて、ユーザU1による運転の危険度を判定する処理部である。危険度判定部14Bは、ユーザU1の推定された眠気の度合いが大きいほど、危険度がより高いと判定する。なお、危険度判定部14Bは、感情推定部12が推定した感情の他にも、車両センサ50(例えば、車速センサ51、路面摩擦センサ52、車間距離センサ53、又は、ブレーキセンサ54及びカメラ55に基づいて反応時間を算定する反応時間センサ56)が提供する各種データを取得し、取得した各種データに基づいて、危険度を判定してもよい。
また、危険度判定部14Bは、さらに、衝突時間及び反応時間を算定してもよい。ここで、衝突時間とは、前方に危険事象が発生してから、自車が衝突するまでの推定時間である。衝突時間は、車間距離、相対速度及び相対加速度等から計算してもよい。相対速度又は相対加速度の算出には、前方車両が危険状態に陥った時の速度や加速度が必要になるが、それらは、走行時の前方車両の速度、加速度又は路面摩擦係数等から推定して求めても構わない。また、反応時間とは、前方に危険事象が発生してから運転者がブレーキを踏むまでの時間である。反応時間は、例えば、前方車両のドライバーがブレーキを踏みテールランプが点灯してから、自車のドライバーがブレーキを踏むまでの時間等に基づいて求めることができる。
危険度判定部14Bは、推定した眠気の度合いを示す情報、危険度を示す情報を提示制御部16に提供する。
提示制御部16は、危険度判定部14Bが判定した危険度などの情報を提示部17に提示するよう制御する。
例えば、情報提示装置4は、運転者に運転の危険度を、眠気等の感情の要素以外を交えて知らせてもよい。具体的には、車速、路面摩擦係数、車間距離から、前方車両が急停車した場合の衝突時間を求めて表示してもよい。また、眠気の定量化には、カメラで前方を撮影し、前方車両がブレーキを踏んでから、運転者がブレーキを踏むまでの時間から反応時間を求めてもよい。眠くなると反応時間が大きくなる、という周知の関係を利用したものである。さらにそれらの全部もしくは一部を元に、運転の危険度を定量化して表示して運転者に知らせてもよい。
(実施の形態3)
本変形例において、推定した感情を、より適切に提示する情報提示装置の別形態について、より具体的に説明する。本変形例における情報提示装置5は、トイレ室内でトイレを使用しているユーザU1の感情を、トイレ室外でトイレを使用するために待機しているユーザU2に提示するものである。
図12は、本実施の形態における情報提示装置5の機能ブロックを示すブロック図である。
図12に示されるように、情報提示装置5は、センサ10と、感情推定部12と、判定部14と、提示制御部16と、提示部17とを備える。情報提示装置5の構成要素のうち、少なくともセンサ10がトイレ室内にあり、少なくとも提示部17がトイレ室外にある。なお、実施の形態1における構成要素と同じ構成要素には、同じ符号を付し、詳細な説明を省略することがある。
感情推定部12は、トイレ室内でトイレを使用して用を足しているユーザU1の感情を、センサ10が取得した物理量に基づいて推定する。
判定部14は、感情推定部12が推定した感情に基づいて、ユーザU1によるトイレの使用が間もなく終わるか、又は、そうでないかを判定する。
提示制御部16は、判定部14による判定結果を提示部17によりユーザU2に提示する。具体的には、提示制御部16は、判定部14による判定結果に基づいて、トイレの使用が間もなく終わることを示すメッセージ(例えば図12の(a))を提示し、そうでない場合にはトイレの使用がまだ継続することを示すメッセージ(例えば図12の(b))を提示する。ユーザU2は、提示される情報により、トイレを間もなく使用できそうか、又は、そうでないかを知ることができ、いつまで待たされるのかという不安又はイライラの感情が軽減される。
なお、判定部14は、感情推定部12が推定したユーザU1の感情が、「気楽(リラックス)」になったら、自動的に便座装置60(シャワー61又は便座洗浄62)を動作させてもよい。これによりトイレを使用した人の利便性が向上し、便座洗浄62の動作忘れを防止し、また、ユーザU1の退室を促すことができる。また、判定部14は、ユーザU1の感情が、「気楽」になったら、提示部17において、ドア開放までのカウントダウンを開始してもよい。これにより、トイレ室外で待機しているユーザU2の不安又はイライラの感情が軽減される。
(実施の形態3の変形例)
本変形例において、推定した感情を、より適切に提示する情報提示装置の別形態について、より具体的に説明する。本変形例における情報提示装置6は、トイレ室外でトイレを使用するために待機しているユーザU1の感情を、トイレ室内でトイレを使用しているユーザU2に提示するものである。つまり、実施の形態3のユーザU1とユーザU2との立場が入れ替わったものである。
図13は、本変形例における情報提示装置の機能ブロックを示すブロック図である。
図13に示されるように、情報提示装置6は、センサ10と、感情推定部12と、判定部14と、提示制御部16と、提示部17とを備える。情報提示装置6の構成要素のうち、少なくともセンサ10がトイレ室外にあり、少なくとも提示部17がトイレ室内にある。なお、実施の形態1における構成要素と同じ構成要素には、同じ符号を付し、詳細な説明を省略することがある。
感情推定部12は、トイレ室外でトイレを使用するために待機しているユーザU1の感情を、センサ10が取得した物理量に基づいて推定する。
判定部14は、感情推定部12が推定した感情が、ユーザU1に提示するものとして定められた感情であるか否かを判定する。なお、判定部14は、感情推定部12が推定した感情の強度が、所定の強度を超えているかを判定してもよい。
提示制御部16は、判定部14による判定結果に基づいて、提示部17による提示を制御する。具体的には、提示制御部16は、推定した感情が、ユーザU2に提示するものとして定められた感情であると判定部14が判定した場合、及び、推定した感情の強度が所定の強度を超えていると判定部14が判定した場合に、その感情を提示する。
ユーザU1の感情を提示されたユーザU2は、例えばトイレを使用し終わってリラックスしている場合には、速やかに退室する行動をとることができる。また、ユーザU2が比較的強い感情(例えば、我慢の限界に近いことにより、怒り又はイライラの強い感情)を有している場合には、ユーザU2は、より一層急いで退室することもできる。なお、情報提示装置6に、実施の形態3の情報提示装置5の機能を加えれば、トイレ室内とトイレ室外とで双方向に感情の提示をすることができ、トイレ室内とトイレ室外とのそれぞれのユーザに利点がある。
(実施の形態4)
本実施の形態において、推定した感情を、より適切に提示する情報提示装置の別形態について、より具体的に説明する。本実施の形態における情報提示装置7は、例えば学校の教室において、複数の生徒それぞれの感情を教師に提示するものである。なお、情報提示装置7は、上記に限らず、塾、セミナー又は会議などにおいて、複数の出席者それぞれの感情を講師又はファシリテータに提示する用途にも適用可能である。
図14は、本実施の形態における情報提示装置の第一例(情報提示装置7)の機能ブロックを示すブロック図である。
図14に示されるように、情報提示装置7は、複数のセンサ10A、10B及び10C(以降、「センサ10A等」ともいう)と、複数の感情推定部12A、12B及び12C(以降、「感情推定部12A等」ともいう)と、判定部14と、提示制御部16と、提示部17とを備える。なお、実施の形態1における構成要素と同じ構成要素には、同じ符号を付し、詳細な説明を省略することがある。
センサ10A等それぞれは、生徒であるユーザUAそれぞれの感情を推定するために感情推定部12A等が用いるセンサの一例であり、具体例はカメラである。
感情推定部12A等それぞれは、センサ10Aが取得した物理量に基づいて、生徒であるユーザUA等それぞれが抱いている感情を推定する。
判定部14は、感情推定部12A等が推定した感情を集計することで情報を生成し、生成した情報を提示部17により提示するか否かを判定する。
例えば、感情推定部12A等は、授業の内容を生徒が理解できないという感情を推定し、提示部17を通じて教師に提示する。このようにすると、授業の内容を理解することができていない生徒が手を挙げる等の行動を行わなくても、教師がそのことを知ることができる利点がある。教師は、複数の生徒について、授業の内容を理解することができているか否か、及び、その人数等の統計情報を知ることもできる利点がある。その結果、一定数以上の生後が授業の内容を理解できていない場合には、教師は、再度授業を行う、補習を行うなどの対処を行うことができる。このとき、生徒は、自身が授業を理解できなかったことを教師に明確に伝えることなく、再度授業を受けられるので、精神的負担が軽減され得る。特に、教師に明確に伝えることが難しい生徒にとって、大きな効果を奏する。また、授業の内容を理解できていない生徒数を、生徒全員に提示するようにしてもよい。授業の内容を理解できていない生徒が複数人いれば、生徒は、授業を理解できなかったことを、自信をもって教師に伝えることができることもあるからである。
なお、情報提示装置7は、授業を理解できなかった感情の代わりに、授業が面白くないという感情を推定してもよい。その場合、教師は、授業の改善をするなどの対処を行うことができる。
図15は、本実施の形態における情報提示装置の第二例(情報提示装置8)の機能ブロックを示すブロック図である。情報提示装置8は、店舗等における顧客と店員との適切なやりとりを支援するものである。
図15に示されるように、情報提示装置8は、センサ10と、感情推定部12と、判定部14と、提示制御部16と、提示部17とを備える。
例えば、感情推定部12は、店舗の試着室内における顧客の感情を推定する。判定部14は、感情推定部12が推定した感情を試着室外又は店員に提示すべきか否かを判定し、その判定結果に基づいて、推定された感情を提示制御部16が提示部17により提示する。これにより、顧客が本当に気に入って商品を購入したのか、あまり気に入らなかったが購入したのかという情報を店員が知ることができ、店員の接客能力の判定をすることができる。
例えば、飛行機内では、感情推定部12が乗客の感情を推定して、提示部17により提示することで、乗務員は、乗客の感情、及び、その感情から推測される体調を知ることができる。これにより、乗務員は、体調の比較的悪い人に対してより優先的にサービスを提供することができる。体調が悪いことを言い出しにくい人にとっては、明示的に体調が悪いことを伝えなくても乗務員に知ってもらえる利点がある。
例えば、居酒屋又はレストランでは、感情推定部12が、客の酒酔いの度合いを推定して、提示部17により提示することで、店員は、それ以上の酒(アルコール類)の提供をすべきか、又は、すべきでないかという判断をすることができる。例えば、客の体内のアルコール量が適切であるときにもっともリラックスの度合いが高まると仮定される。これを利用して、提示部17がリラックスの度合いの推移を提示し、提示されたその推移を店員が確認することで上記判断を行うことができる。なお、酒の提供をすべきでない場合、アルコールの濃度を下げた酒(例えば薄くした水割り)を提供する、又は、悪酔いしにくい料理を勧めるなどしてもよい。
例えば、オフィスでは、感情推定部12は、テキスト送受信、音声通話又はプレゼンスの通知などを行うコミュニケーションツールにおいて、社員の感情を推定し提示部17に提示してもよい。これにより、社員は、他の社員への問い合わせを行うタイミングを見計らうことができる。また、自身の感情を自身には提示しないようにしておくことで、無理に感情を良くしたり、悪くしたりできないようにして、感情の推定の精度を向上させることができる。また、社員の推定される感情にあわせて、会議等の日程調整の優先度を変えてもよい。例えば、イライラしている社員の予定に、そうでない社員の予定を合わせるように日程調整してもよい。イライラの度合いに応じて日付の調整の優先度を決定してもよい。イライラしている社員は、多忙であることが多いので、多忙な社員の日程を優先することで、オフィス又は会社全体としての労働生産性を上げることにつながる。また、イライラしている社員の残業時間制限をかけて、メンタルヘルスに役立ててもよい。また、情報提示装置8が、ストレスが少ない社員に業務を優先的に振り分けることを上司に自動的に提案することで、労働生産性を上げることも可能である。また、感情推定部12は、工場など危険な作業を行う作業員の「焦り」の感情を推定してもよい。「焦り」の感情があるときは事故が起こりやすいので、責任者などに警告をだして事故を未然に防ぐことができる。特に、飛行機整備場など、ヒューマンエラーが重大な事故につながる職場での効果が大きいと考えられる。
例えば、ゲームを行う場面では、感情推定部12がプレイヤのイライラの度合いを推定する。また、プレイヤの感情に合わせてゲームのストーリを変えてもよい。具体的には、プレイヤがイライラしているときにはゲームに手こずっていると判断して、ゲームの難易度を下げることができる。また、プレイヤが退屈な感情を抱いている時には、ゲームの難易度を上げることができる。また、プレイヤの性的興奮度が高まっている時には、性的なシナリオを多めに挿入することもできる。また、プレイヤが抱いている感情に合わせてゲームのキャラクタの身体能力が変化するようにすることもできる。これらによって、適度な達成感をユーザに味わわせることができる。
例えば、情報提示装置8は、施設への来客の感情を推定し、推定した感情にあわせて施設における表示の色又はチケットの色が変わるようにしてもよい。
例えば、情報提示装置8は、集団の感情にあわせて警備方式を変えてもよい。怒っている人、興奮している人が多いところには警備を増やすようにすることもできる。
例えば、情報提示装置8は、店内の客の推定された感情を、感情マップとして見える化することもできる。具体的には、情報提示装置8は、眠そうな客が増えたら、照明の輝度を高くするとともに、冷房を強めることができる。また、電車内で性的興奮度が高まっている人を検知して監視することができ、現行犯逮捕につなげることができる。さらに、警察などを見たときの驚きの感情を推定することで、その人が犯罪を犯した、又は、犯そうとしていることを検知することもできる。また、介護施設又はオフィスにおいて、ストレス状態が高い人を監視することができる。
例えば、情報提示装置8は、うつ病対策に利用され得る。感情の状態が良かったときの思い出をログにしておいて、ネガティブな感情に陥った時に、感情の状態が良かったときの思い出を提示してポジティブな感情状態に誘導することができる。また、電話の相手の感情に合わせて、電話の相手に気持ちを伝えることができる。感情を色としてディスプレイに表示するようにしてもよい。怒りの感情を抱いていたら振動して知らせたり、感情に応じて語尾を変化させたりしてもよい。
図16は、本実施の形態における情報提示装置の第三例(情報提示装置9)の機能ブロックを示すブロック図である。
図16に示されるように、情報提示装置9は、複数のセンサ10A、10B及び10C(以降、「センサ10A等」ともいう)と、複数の感情推定部12A、12B及び12C(以降、「感情推定部12A等」ともいう)と、判定部14と、提示制御部16と、提示部17と、施設制御装置70とを備える。情報提示装置9の構成要素のうち、少なくともセンサ10A等が施設内にあり、少なくとも提示部17が施設外にある。なお、実施の形態1における構成要素と同じ構成要素には、同じ符号を付し、詳細な説明を省略することがある。
例えば、イベント施設等では、感情推定部12A等それぞれは、客であるユーザU1の感情を推定する。ユーザU1が退屈な感情のようなネガティブな感情を抱いているか否かを推定して、提示部17により施設の運営者又は管理者等に提示する。施設の運営者等は、ネガティブな感情を抱く客が多い場所は、よりポジティブな感情を抱くように改善する検討を行うことができる。具体的には、楽しい店を配置する、キャラクタを設置する、イベントを設置するなどの検討を行うことができる。また、客の感情がポジティブになった商品をよく見える位置に設置することで、購入を加速するようにしてもよい。また、売り文句として、例えば「悲しい気持ちの人に人気です」というように、購入時の客の感情を利用することもできる。
また、映画館やアミューズメント施設で、情報提示装置9により複数の観客の感情を推定し、推定された感情に基づいて映画のストーリを変化させる、又は、照明や効果音を変更することもできる。
また、映画館やアミューズメント施設で、情報提示装置9は、複数の観客の推定される感情を入口に表示してもよい。例えば、何人が感動した、又は、何人が涙した、という情報を施設の外に表示することで、外の顧客への宣伝効果を高めることができる。
図17は、本実施の形態における情報提示装置の第四例(情報提示装置A)の機能ブロックを示すブロック図である。
図17に示されるように、情報提示装置Aは、センサ10と、感情推定部12と、判定部14と、提示制御部16とを備える。情報提示装置Aは、ロボット80の一部機能として実現されており、提示制御部16は、ロボット制御装置82の提示部17Aによる提示を制御する。
例えば、感情推定部12は、ユーザU1がトイレに行きたい感情を有しているか否かを推定する。判定部14は、感情推定部12が推定した感情に基づいて、ユーザU1にトイレの場所を示す案内情報を提供すべきか否かを判定し、その結果に基づいて、推定された感情を提示制御部16が提示部17Aにより提示する。ここで、人がトイレに行きたいかどうかは、センサ10により取得される、首の筋肉の痙攣や発汗、又は、肩の上がり具合に基づいて判断可能である。これにより、トイレに行きたい人は、周りの人に気付かれずにトイレに行くことができる。なお、案内情報とは、「トイレはこちら」というようなトイレの位置を示す情報、トイレの位置を示す矢印などである。
なお、トイレに行きたいかどうかの判断は、上記以外でもよく、例えば血圧から推定してもよく、発汗量でもよく、その手法は限定しない。トイレに行きたくなると血圧が上昇する、及び、トイレに行きたくなると発汗量があがる、という人間の特徴を利用したものである。
また、感情推定部12は、ユーザU1の性的興奮度が高まっているか否かを判定する。これにより、提示部17により、風俗店などの場所を示す情報を提供する、又は、パートナーに携帯電話等で伝えるなどの提示を行うことができる。また、お年寄りの性的興奮度が高まっている場合には、トイレに入ると自動で、性的な映像を提示することも可能である。
また、感情推定部12は、スポーツ観戦が終わって会場から出てきた複数の観客の感情を推定することで、どのチームの応援をしていたのかを判断することができる。そして、どのチームを応援していたかに応じて、その観客に投げかける言葉を変化させることもできる。例えば、喜びの感情が多い場合には、その喜びをより大きくするような言葉を投げかけ、悔しさの感情が多い場合には、ともに愚痴ることで、悔しさを和らげることができる。
図18は、実施の形態4における情報提示装置の第五例(情報提示装置B)の機能ブロックを示すブロック図である。
図18に示されるように、情報提示装置Bは、センサ10と、感情推定部12と、判定部14と、提示制御部16と、提示部17と、マイク90と、音声認識部92とを備える。情報提示装置Bは、取調官が容疑者であるユーザU1から情報を聞き出す際に有用な、容疑者の「焦り」の度合いを推定して提示するものである。
マイク90は、取調官及び容疑者の対話の音声を収音して電気信号を生成するマイク装置である。
音声認識部92は、マイク90が生成した電気信号を取得し、取調官及び容疑者の対話の音声をテキスト化する処理部である。音声のテキスト化は、周知技術により実現され得る。
判定部14は、感情推定部12が推定したユーザU1の感情を提示部17により提示するか否かを、音声認識部92による音声認識結果も合わせて判断する。
例えば、感情推定部12は、取り調べを受けている容疑者であるユーザU1の「焦り」の感情を推定し、容疑者に分からないように室外で警察側の人に提示する。また、マイク90により、室内の対話を同時にモニタしてもよい。情報提示装置Bは、「焦り」の感情と対話とを紐付けることで、容疑者が何に対して焦りの感情等を抱いているかを提示することができる。また、容疑者が黙秘していても、感情から何に対して焦りを感じているかが分かり、調査方針の参考にすることができる。質疑内容はスピーカ等で音声出力するだけでもよいが、文字情報として記載すると、対話の進行が、より分かりやすくなる利点がある。また、情報提示装置Bは、推定した感情や対話内容を、容疑者にわからないように、提示部17により取調官に直接提示してもよい。
例えば、入国審査の場面において、審査中の人の感情を感情推定部12が推定し、審査官に提示する。審査中の人が「焦り」又は「恐れ」の感情を抱いていると、審査官が質問して追及し、その時の感情を踏まえて対応を判断することができる。情報提示装置Bは、その感情を審査中の人からは見えないモニタ等により提示してもよい。情報提示装置Bは、「緊張」、「焦り」又は「恐れ」の感情を抱いている人に対しては、審査官による質問を続ける様に指示し、感情の変動をモニタすることで、さらに深くスクリーニングしてもよい。また、「緊張」等の感情が推定されない人、又は、楽しい感情を抱いている人は、入国審査を簡易的にすることで、審査時間を短縮することもできる。また、情報提示装置Bは、指紋を写しながら、同時に脈波や皮膚温を検出することで、緊張や体調不良を見分けてもよい。情報提示装置Bは、出国時のゲートでブザーがなった時の感情の変化の度合いから、犯罪を犯した、又は、犯罪を犯そうとしている可能性を検知することもできる。
例えば、裁判所において、情報提示装置Bは、証言人、被告人及び原告人が、証言において発している言葉や、それぞれの焦り等の感情から、ウソの証言がないかどうかを検証することもできる。弁護士は、その感情を元に質問することができる。情報提示装置Bは、「反省している」という時の感情や、泣いている時の感情から、情状酌量の余地を推定することもできる。
なお、上記各実施の形態において、感情をセンシングするためにLF/HF等に基づき推定する例を示したが、センシング手段はこれに限定するものではなく、心拍数、心拍波形、脈波、脈波波形、瞼開度、瞳孔径、血流量、酸素飽和度、顔色、視線、発汗量、呼吸数、呼吸量、皮膚温、体温等の生体情報から得て判断する手法もあり、その方法は限定しない。
なお、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記各実施の形態の情報提示装置などを実現するソフトウェアは、次のようなプログラムである。
すなわち、このプログラムは、コンピュータに、複数のユーザにより視認される提示部に情報を提示する情報提示装置の制御方法であって、センサにより取得した物理量に基づいて、前記複数のユーザのうちの第一ユーザの感情を推定し、取得した前記物理量、又は、推定した前記感情を用いて、推定した前記感情の提示を行うか否かについての判定処理を実行し、推定した前記感情の前記提示部による提示を、前記判定処理の結果に従って制御する制御方法を実行させる。
以上、一つまたは複数の態様に係る情報提示装置などについて、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
本発明は、推定した感情を、より適切に提示する情報提示装置に利用可能である。具体的には、車両のナビゲーション装置などに利用可能である。
1、2、2A、3、4、5、6、7、8、9、A、B 情報提示装置
10、10A、10B、10C センサ
11、55 カメラ
12、12A、12B、12C 感情推定部
14、14A 判定部
14B 危険度判定部
15 視線解析部
16、16A 提示制御部
17、17A 提示部
18 制御部
40 車両
41 シフト
42 車内照明
43 エンジン回転数
44 ブレーキ
45 ステアリング
46 ナビゲーション装置
47 交通信号機
50 車両センサ
51 車速センサ
52 路面摩擦センサ
53 車間距離センサ
54 ブレーキセンサ
56 反応時間センサ
60 便座装置
61 シャワー
62 便座洗浄
70 施設制御装置
80 ロボット
82 ロボット制御装置
90 マイク
92 音声認識部
U1、U2、UA、UB、UC ユーザ

Claims (13)

  1. 複数のユーザにより視認される提示部に情報を提示する情報提示装置の制御方法であって、
    センサにより取得した物理量に基づいて、前記複数のユーザのうちの第一ユーザの感情を推定し、
    取得した前記物理量、又は、推定した前記感情を用いて、推定した前記感情の提示を行うか否かについての判定処理を実行し、
    推定した前記感情の前記提示部による提示を、前記判定処理の結果に従って制御する
    制御方法。
  2. 前記判定処理では、
    前記提示部を前記第一ユーザが見ているか否かを判定し、
    前記提示の制御では、
    (a)前記提示部を前記第一ユーザが見ていると判定した場合には、前記提示を禁止し、
    (b)前記提示部を前記第一ユーザが見ていないと判定した場合には、前記提示を許可する
    請求項1に記載の制御方法。
  3. 前記判定処理では、
    前記提示の頻度として、取得した前記物理量、又は、推定した前記感情に応じた頻度を決定し、
    前記提示の制御では、
    前記判定処理で決定した前記頻度で前記提示を行うよう制御する
    請求項1又は2に記載の制御方法。
  4. 前記判定処理では、
    推定した前記感情の強度が高いほど、前記提示の頻度をより高い頻度に決定する
    請求項3に記載の制御方法。
  5. 前記判定処理では、
    推定した前記感情が、前記提示部による提示を禁止するものとして予め定められた感情であるか否かを判定し、
    前記提示の制御では、前記予め定められた感情の前記提示を禁止する
    請求項3に記載の制御方法。
  6. 前記判定処理では、
    推定した前記感情を前記ユーザに事前提示し、前記事前提示した前記感情を前記提示部により提示するか否かについての前記ユーザによる指示を受け、
    前記提示の制御では、
    前記事前提示に対する前記ユーザによる指示に従って、前記提示部による提示を制御する
    請求項3に記載の制御方法。
  7. 前記判定処理では、
    前記センサとしてのカメラが取得した画像に含まれるユーザの人数を判定し、前記複数のユーザが3人以上であるか否かを判定し、
    前記提示の制御では、
    前記複数のユーザが3人以上であると判定された場合には、前記提示を許可する
    請求項1〜6のいずれか1項に記載の制御方法。
  8. 前記感情の推定では、
    前記センサとしてのカメラが取得した前記第一ユーザの顔を含む画像に基づいて、覚醒、驚き、喜び、快適、気楽、眠気、退屈、悲しみ、深い、イライラ、怒り、恐れ、又は、平静の感情を、前記第一ユーザの感情として推定する
    請求項1〜7のいずれか1項に記載の制御方法。
  9. 前記第一ユーザは、一の車両の運転者であり、
    前記複数のユーザのうち前記第一ユーザを除くユーザは、前記一の車両に乗車していない人であり、
    前記感情を推定する際には、前記運転者のイライラ又は怒りの感情を推定する
    請求項1〜8のいずれか1項に記載の制御方法。
  10. 前記第一ユーザは、トイレ室内でトイレを使用している使用者であり、
    前記複数のユーザのうち前記第一ユーザを除くユーザは、前記トイレ室外で前記トイレを使用するために待機している待機者であり、
    前記感情を推定する際には、前記使用者の不快又は気楽の感情を推定する
    請求項1〜7のいずれか1項に記載の制御方法。
  11. 前記第一ユーザは、トイレ室外でトイレを使用するために待機している待機者であり、
    前記複数のユーザのうち前記第一ユーザを除くユーザは、トイレ室内でトイレを使用している使用者であり、
    前記感情を推定する際には、前記待機者の不快又はイライラの感情を推定する
    請求項1〜7のいずれか1項に記載の制御方法。
  12. 複数のユーザにより視認される提示部に情報を提示する情報提示装置であって、
    センサにより取得した物理量に基づいて、複数のユーザのうちの第一ユーザの感情を推定する感情推定部と、
    取得した前記物理量、又は、推定した前記感情を用いて、推定した前記感情の提示を行うか否かについての判定処理を実行する判定部と、
    推定した前記感情の前記提示部による提示を、前記判定処理の結果に従って制御する提示制御部とを備える
    情報提示装置。
  13. 請求項1〜11のいずれか1項に記載された制御方法をコンピュータにより実行させるためのプログラム。
JP2016097491A 2015-10-08 2016-05-13 情報提示装置の制御方法、及び、情報提示装置 Active JP6656079B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201610806345.5A CN106562793B (zh) 2015-10-08 2016-09-06 信息提示装置的控制方法、以及信息提示装置
US15/277,417 US11194405B2 (en) 2015-10-08 2016-09-27 Method for controlling information display apparatus, and information display apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201562238866P 2015-10-08 2015-10-08
US62/238,866 2015-10-08

Publications (2)

Publication Number Publication Date
JP2017073107A true JP2017073107A (ja) 2017-04-13
JP6656079B2 JP6656079B2 (ja) 2020-03-04

Family

ID=58537265

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016097491A Active JP6656079B2 (ja) 2015-10-08 2016-05-13 情報提示装置の制御方法、及び、情報提示装置

Country Status (1)

Country Link
JP (1) JP6656079B2 (ja)

Cited By (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018200192A (ja) * 2017-05-25 2018-12-20 本田技研工業株式会社 地点提案装置及び地点提案方法
WO2019069910A1 (ja) * 2017-10-02 2019-04-11 日本電気株式会社 情動判定装置、情動判定方法、及びプログラム
JP2019115561A (ja) * 2017-12-27 2019-07-18 国立大学法人滋賀医科大学 心理状態判定方法、判定装置、判定システムおよび判定プログラム
JP2019116214A (ja) * 2017-12-27 2019-07-18 パイオニア株式会社 興奮度判定装置
JP2019123327A (ja) * 2018-01-15 2019-07-25 本田技研工業株式会社 車両用制御装置及び車載装置
JP2019175111A (ja) * 2018-03-28 2019-10-10 Kddi株式会社 情報提供装置及び情報提供方法
JP2019175192A (ja) * 2018-03-28 2019-10-10 東京瓦斯株式会社 オーダーシステム、情報処理装置およびプログラム
CN110471534A (zh) * 2019-08-23 2019-11-19 靖江市人民医院 基于情绪识别的信息处理方法及远程医疗管理系统
CN110809430A (zh) * 2017-07-19 2020-02-18 松下知识产权经营株式会社 睡意推测装置以及觉醒诱导装置
JP2020103462A (ja) * 2018-12-26 2020-07-09 トヨタ紡織株式会社 感情推定装置、環境提供システム、車両、感情推定方法、および情報処理プログラム
KR20200102307A (ko) * 2019-02-21 2020-08-31 한국전자통신연구원 운전자 감성 인식 방법 및 장치
EP3706037A1 (en) 2019-03-07 2020-09-09 Yazaki Corporation Vehicle management system
JP2020154922A (ja) * 2019-03-22 2020-09-24 本田技研工業株式会社 サービス提供装置、決済情報処理装置、および、サービス提供方法
JP2020157820A (ja) * 2019-03-25 2020-10-01 株式会社Subaru 車両の制御装置、車両の制御方法及びプログラム
JP2020530618A (ja) * 2017-08-07 2020-10-22 ニッサン ノース アメリカ,インク 自律車両の通知のシステムと方法
JP2021022219A (ja) * 2019-07-29 2021-02-18 トヨタ自動車株式会社 誘導制御装置、誘導システム、および誘導制御プログラム
JP2021064067A (ja) * 2019-10-10 2021-04-22 沖電気工業株式会社 機器、情報処理方法、プログラム、情報処理システムおよび情報処理システムの方法
WO2021084810A1 (ja) * 2019-10-30 2021-05-06 ソニー株式会社 情報処理装置及び情報処理方法、並びに人工知能モデル製造方法
US11037425B2 (en) 2017-05-30 2021-06-15 Panasonic Intellectual Property Management Co., Ltd. Sleepiness estimating device, wakefulness induction control device, and wakefulness induction system
US11046179B2 (en) 2017-05-25 2021-06-29 Panasonic Intellectual Property Management Co., Ltd. Wakefulness induction control device and wakefulness induction system
JPWO2019243955A1 (ja) * 2018-06-22 2021-08-05 株式会社半導体エネルギー研究所 情報処理方法、画像表示方法、情報処理装置、及び画像表示装置
WO2021156989A1 (ja) * 2020-02-06 2021-08-12 三菱電機株式会社 予兆検知装置、運転支援制御装置及び予兆検知方法
WO2021172553A1 (ja) * 2020-02-28 2021-09-02 アステラス製薬株式会社 ウェアラブル機器、情報処理装置、情報処理システム、及びプログラム
JP2021171539A (ja) * 2020-04-30 2021-11-01 株式会社Subaru 乗員感情伝達装置
WO2021241221A1 (ja) * 2020-05-26 2021-12-02 ソニーグループ株式会社 情報処理装置及び情報処理方法
JP2022506837A (ja) * 2018-11-09 2022-01-17 ヴァレオ システム テルミク 自動車乗員室の熱管理システム
CN114366986A (zh) * 2022-01-13 2022-04-19 上海工程技术大学 一种辅助睡眠的方法、介质和可穿戴设备
WO2022123688A1 (ja) * 2020-12-09 2022-06-16 日本電信電話株式会社 シナリオ制御方法、シナリオ制御装置、および、シナリオ制御プログラム
WO2022208871A1 (ja) * 2021-04-02 2022-10-06 三菱電機株式会社 送迎サービス支援装置及び送迎サービス支援方法
US11687308B2 (en) 2020-10-26 2023-06-27 Toyota Jidosha Kabushiki Kaisha Display system
WO2023162410A1 (ja) * 2022-02-28 2023-08-31 Necソリューションイノベータ株式会社 感情補正装置、感情推定装置、感情補正方法、感情推定方法、及びプログラム
WO2023203961A1 (ja) * 2022-04-18 2023-10-26 パナソニックIpマネジメント株式会社 心理状態表示システム
JP7372283B2 (ja) 2021-05-20 2023-10-31 ヤフー株式会社 情報処理装置、情報処理方法、及び情報処理プログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011193275A (ja) * 2010-03-15 2011-09-29 Nikon Corp 表示装置
JP2012223457A (ja) * 2011-04-21 2012-11-15 Nikon Corp 電子機器
JP2013216241A (ja) * 2012-04-10 2013-10-24 Denso Corp 感情モニタリングシステム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011193275A (ja) * 2010-03-15 2011-09-29 Nikon Corp 表示装置
JP2012223457A (ja) * 2011-04-21 2012-11-15 Nikon Corp 電子機器
JP2013216241A (ja) * 2012-04-10 2013-10-24 Denso Corp 感情モニタリングシステム

Cited By (55)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11046179B2 (en) 2017-05-25 2021-06-29 Panasonic Intellectual Property Management Co., Ltd. Wakefulness induction control device and wakefulness induction system
JP2018200192A (ja) * 2017-05-25 2018-12-20 本田技研工業株式会社 地点提案装置及び地点提案方法
US11037425B2 (en) 2017-05-30 2021-06-15 Panasonic Intellectual Property Management Co., Ltd. Sleepiness estimating device, wakefulness induction control device, and wakefulness induction system
US11576597B2 (en) 2017-07-19 2023-02-14 Panasonic Intellectual Property Management Co., Ltd. Sleepiness estimating device and wakefulness inducing device
US11219395B2 (en) 2017-07-19 2022-01-11 Panasonic Intellectual Property Management Co., Ltd. Sleepiness estimating device and wakefulness inducing device
CN110809430A (zh) * 2017-07-19 2020-02-18 松下知识产权经营株式会社 睡意推测装置以及觉醒诱导装置
JP2020530618A (ja) * 2017-08-07 2020-10-22 ニッサン ノース アメリカ,インク 自律車両の通知のシステムと方法
JP2019063324A (ja) * 2017-10-02 2019-04-25 公立大学法人名古屋市立大学 情動判定装置、情動判定方法、及びプログラム
JP7058383B2 (ja) 2017-10-02 2022-04-22 日本電気株式会社 情動判定装置、情動判定方法、及びプログラム
WO2019069910A1 (ja) * 2017-10-02 2019-04-11 日本電気株式会社 情動判定装置、情動判定方法、及びプログラム
JP2019116214A (ja) * 2017-12-27 2019-07-18 パイオニア株式会社 興奮度判定装置
JP2019115561A (ja) * 2017-12-27 2019-07-18 国立大学法人滋賀医科大学 心理状態判定方法、判定装置、判定システムおよび判定プログラム
JP2022132318A (ja) * 2017-12-27 2022-09-08 パイオニア株式会社 興奮度判定装置
JP7051083B2 (ja) 2017-12-27 2022-04-11 国立大学法人滋賀医科大学 心理状態判定方法、判定装置、判定システムおよび判定プログラム
JP2019123327A (ja) * 2018-01-15 2019-07-25 本田技研工業株式会社 車両用制御装置及び車載装置
CN110053613A (zh) * 2018-01-15 2019-07-26 本田技研工业株式会社 车辆用控制装置以及车载装置
JP2019175192A (ja) * 2018-03-28 2019-10-10 東京瓦斯株式会社 オーダーシステム、情報処理装置およびプログラム
JP2019175111A (ja) * 2018-03-28 2019-10-10 Kddi株式会社 情報提供装置及び情報提供方法
US11755905B2 (en) 2018-06-22 2023-09-12 Semiconductor Energy Laboratory Co., Ltd. Data processing method, image display method, data processing device, and image display device
JP7350735B2 (ja) 2018-06-22 2023-09-26 株式会社半導体エネルギー研究所 画像表示装置
JPWO2019243955A1 (ja) * 2018-06-22 2021-08-05 株式会社半導体エネルギー研究所 情報処理方法、画像表示方法、情報処理装置、及び画像表示装置
JP2022506837A (ja) * 2018-11-09 2022-01-17 ヴァレオ システム テルミク 自動車乗員室の熱管理システム
JP7183782B2 (ja) 2018-12-26 2022-12-06 トヨタ紡織株式会社 感情推定装置、環境提供システム、車両、感情推定方法、および情報処理プログラム
JP2020103462A (ja) * 2018-12-26 2020-07-09 トヨタ紡織株式会社 感情推定装置、環境提供システム、車両、感情推定方法、および情報処理プログラム
KR102579371B1 (ko) * 2019-02-21 2023-09-18 한국전자통신연구원 운전자 감성 인식 방법 및 장치
KR20200102307A (ko) * 2019-02-21 2020-08-31 한국전자통신연구원 운전자 감성 인식 방법 및 장치
EP3706037A1 (en) 2019-03-07 2020-09-09 Yazaki Corporation Vehicle management system
US11731643B2 (en) 2019-03-07 2023-08-22 Yazaki Corporation Vehicle management system
JP7364348B2 (ja) 2019-03-22 2023-10-18 本田技研工業株式会社 サービス提供装置、サービス提供システム、および、サービス提供方法
JP2020154922A (ja) * 2019-03-22 2020-09-24 本田技研工業株式会社 サービス提供装置、決済情報処理装置、および、サービス提供方法
JP2020157820A (ja) * 2019-03-25 2020-10-01 株式会社Subaru 車両の制御装置、車両の制御方法及びプログラム
JP7232094B2 (ja) 2019-03-25 2023-03-02 株式会社Subaru 車両の制御装置、車両の制御方法及びプログラム
JP7163880B2 (ja) 2019-07-29 2022-11-01 トヨタ自動車株式会社 誘導制御装置、誘導システム、および誘導制御プログラム
JP2021022219A (ja) * 2019-07-29 2021-02-18 トヨタ自動車株式会社 誘導制御装置、誘導システム、および誘導制御プログラム
CN110471534A (zh) * 2019-08-23 2019-11-19 靖江市人民医院 基于情绪识别的信息处理方法及远程医疗管理系统
CN110471534B (zh) * 2019-08-23 2022-11-04 靖江市人民医院 基于情绪识别的信息处理方法及远程医疗管理系统
JP7392377B2 (ja) 2019-10-10 2023-12-06 沖電気工業株式会社 機器、情報処理方法、プログラム、情報処理システムおよび情報処理システムの方法
JP2021064067A (ja) * 2019-10-10 2021-04-22 沖電気工業株式会社 機器、情報処理方法、プログラム、情報処理システムおよび情報処理システムの方法
WO2021084810A1 (ja) * 2019-10-30 2021-05-06 ソニー株式会社 情報処理装置及び情報処理方法、並びに人工知能モデル製造方法
JPWO2021156989A1 (ja) * 2020-02-06 2021-08-12
WO2021156989A1 (ja) * 2020-02-06 2021-08-12 三菱電機株式会社 予兆検知装置、運転支援制御装置及び予兆検知方法
JPWO2021172553A1 (ja) * 2020-02-28 2021-09-02
JP7251614B2 (ja) 2020-02-28 2023-04-04 アステラス製薬株式会社 ウェアラブル機器、情報処理装置、情報処理システム、及びプログラム
WO2021172553A1 (ja) * 2020-02-28 2021-09-02 アステラス製薬株式会社 ウェアラブル機器、情報処理装置、情報処理システム、及びプログラム
JP2021171539A (ja) * 2020-04-30 2021-11-01 株式会社Subaru 乗員感情伝達装置
JP7436277B2 (ja) 2020-04-30 2024-02-21 株式会社Subaru 乗員感情伝達装置
WO2021241221A1 (ja) * 2020-05-26 2021-12-02 ソニーグループ株式会社 情報処理装置及び情報処理方法
US11687308B2 (en) 2020-10-26 2023-06-27 Toyota Jidosha Kabushiki Kaisha Display system
WO2022123688A1 (ja) * 2020-12-09 2022-06-16 日本電信電話株式会社 シナリオ制御方法、シナリオ制御装置、および、シナリオ制御プログラム
WO2022208871A1 (ja) * 2021-04-02 2022-10-06 三菱電機株式会社 送迎サービス支援装置及び送迎サービス支援方法
JP7372283B2 (ja) 2021-05-20 2023-10-31 ヤフー株式会社 情報処理装置、情報処理方法、及び情報処理プログラム
CN114366986A (zh) * 2022-01-13 2022-04-19 上海工程技术大学 一种辅助睡眠的方法、介质和可穿戴设备
CN114366986B (zh) * 2022-01-13 2023-11-24 上海工程技术大学 一种辅助睡眠的方法、介质和可穿戴设备
WO2023162410A1 (ja) * 2022-02-28 2023-08-31 Necソリューションイノベータ株式会社 感情補正装置、感情推定装置、感情補正方法、感情推定方法、及びプログラム
WO2023203961A1 (ja) * 2022-04-18 2023-10-26 パナソニックIpマネジメント株式会社 心理状態表示システム

Also Published As

Publication number Publication date
JP6656079B2 (ja) 2020-03-04

Similar Documents

Publication Publication Date Title
JP6656079B2 (ja) 情報提示装置の制御方法、及び、情報提示装置
CN106562793B (zh) 信息提示装置的控制方法、以及信息提示装置
US11194405B2 (en) Method for controlling information display apparatus, and information display apparatus
JP4332813B2 (ja) 自動車用ユーザーもてなしシステム
Eyben et al. Emotion on the road—necessity, acceptance, and feasibility of affective computing in the car
JP4572889B2 (ja) 自動車用ユーザーもてなしシステム
JP5152570B2 (ja) 自動車用ユーザーもてなしシステム
JP4525925B2 (ja) 自動車用ユーザーもてなしシステム
JP6083441B2 (ja) 車両用乗員感情対応制御装置
KR20200083310A (ko) 양방향 차내 가상 개인 비서
JP6115577B2 (ja) 車両用乗員感情対応制御装置
CN113491519A (zh) 基于情感-认知负荷的数字助理
JPWO2016181670A1 (ja) 情報処理装置、情報処理方法及びプログラム
JP6213489B2 (ja) 車両用乗員感情対応制御装置
JP2019086813A (ja) 漫然運転抑制システム
US20210362594A1 (en) Car driver alcohol level and sleeping status detection and notification system
JP2016137200A (ja) 車両用乗員感情対応制御装置
Jeon Emotions in driving
Otu Decoding nonverbal communication in law enforcement
JP2016137202A (ja) 車両用乗員感情対応制御装置
JP6213488B2 (ja) 車両用乗員感情対応制御装置
Jeon et al. Participatory design process for an in-vehicle affect detection and regulation system for various drivers
JP2009126335A (ja) 自動車用ユーザーもてなしシステム
JP7393739B2 (ja) ドライバ状態推定装置
WO2022124164A1 (ja) 注目対象共有装置、注目対象共有方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200204

R150 Certificate of patent or registration of utility model

Ref document number: 6656079

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150