JP2020052748A - サーバ装置、情報処理方法、プログラム、端末装置及び情報通信システム - Google Patents

サーバ装置、情報処理方法、プログラム、端末装置及び情報通信システム Download PDF

Info

Publication number
JP2020052748A
JP2020052748A JP2018181667A JP2018181667A JP2020052748A JP 2020052748 A JP2020052748 A JP 2020052748A JP 2018181667 A JP2018181667 A JP 2018181667A JP 2018181667 A JP2018181667 A JP 2018181667A JP 2020052748 A JP2020052748 A JP 2020052748A
Authority
JP
Japan
Prior art keywords
information
user
emotion
sequence
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018181667A
Other languages
English (en)
Other versions
JP7266984B2 (ja
Inventor
伸一 深澤
Shinichi Fukazawa
伸一 深澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP2018181667A priority Critical patent/JP7266984B2/ja
Publication of JP2020052748A publication Critical patent/JP2020052748A/ja
Application granted granted Critical
Publication of JP7266984B2 publication Critical patent/JP7266984B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】あるユーザーにとって次にどの場所に行くのが良いか、あるいは次にどのような雰囲気を体感できそうかといった情報が、ユーザーに把握されることを支援する技術を提供することを目的とする。【解決手段】ユーザーの計測データに基づいて生成された感情情報および前記ユーザーの位置情報の少なくともいずれか一方を含む第1の系列情報と、過去の感情情報および位置情報の少なくともいずれか一方を含む1または複数の系列情報それぞれとの類似度をパターン照合により得る系列情報パターン照合部と、前記類似度に応じて選択された第2の系列情報に基づいて前記ユーザーに提示される推薦情報を生成する推薦情報生成部と、を備える、サーバ装置が提供される。【選択図】図1

Description

本発明は、サーバ装置、情報処理方法、プログラム、端末装置及び情報通信システムに関する。
特許文献1及び2には、オフィスや駅等において、構内カメラで撮像される実空間と3次元仮想空間データとを対応づけ、ユーザーが該実空間上の「位置」と該位置に存在するオブジェクトを容易に指定することを可能にする情報処理装置が提案されている。
特開2014−99041号公報 特開2017−22587号公報
ところで、遠隔地の全体的な感情分布状況や雰囲気を知りたい場合、他者がいまどこにいるかという位置の情報だけではなく、他者がどういう状況や心理状態にあるかの情報を加えて知ることができれば、より優れた遠隔コミュニケーション支援が実現できると考えられる。
遠隔コミュニケーション支援システムとしては、たとえばテレビ電話やテレビ会議システムなどが既存にある。しかし、それらを用いても相手と同じ部屋に共にいるときのような感覚にはいたらず、相手と同室にいるときと比べテレビ電話ごしでは他者の状況や状態がわかりづらく感じる、という課題がこれまで遠隔コミュニケーション支援システム全般に対して指摘されており、解決が望まれている。特に、オフィスにおけるチームの雰囲気(チーム全体がギスギスしているか和やかか等)や、駅において多くの他者が楽しそうにしている場所(もしかしたら何か特別なイベントが開催されているのかもしれない場所)が遠隔からも把握できれば、オフィスマネジメントや移動環境をより良好なものにできるであろう。
上述の課題を解決するシステム・機能は、構内カメラ等から収集した人物のセンシングデータから感情(心理状態)を推定処理し得られた感情情報を、該人物の位置情報、時刻情報及び人物同一性情報に紐づけ感情時空間情報を生成する感情情報管理サーバと、該感情時空間情報を時刻フィルタリング処理や時系列データ処理を加えて情報提示できる端末装置と、を備えることを特徴とし、ユーザーが遠隔地の全体的な状況や雰囲気に係る情報を得ることができる、情報通信システムによって実現され得る。
上記のように実現されたシステム・機能は、人々の感情の時空間分布の情報をユーザーに提供し、該ユーザーはある時点の感情の時空間分布情報を見て遠隔地の状況や雰囲気に係る情報を得ることができるため、次にどの場所に行くかを決める判断を行いやすくなる。
ここでさらに「あるユーザーにとって次にどの場所に行くのが良いか」といった情報をレコメンド(推薦)する機能があれば、前記次にどの場所に行くかを決める判断を支援する情報提供機能が向上し、上記システムはより高い有用性をユーザーに与え得る。あるいは、「次にどのような雰囲気を体感できそうか」といった情報をレコメンド(推薦)する機能があれば、どのような雰囲気を体感できそうかをユーザーに把握させる情報提供機能の品質が向上し、上記システムはさらに高い有用性をユーザーに与え得る。
そこで本発明は、あるユーザーにとって次にどの場所に行くのが良いか、あるいは次にどのような雰囲気を体感できそうかといった情報が、ユーザーに把握されることを支援する技術を提供することを目的とする。
上記問題を解決するために、本発明のある観点によれば、ユーザーの計測データに基づいて生成された感情情報および前記ユーザーの位置情報の少なくともいずれか一方を含む第1の系列情報と、過去の感情情報および位置情報の少なくともいずれか一方を含む1または複数の系列情報それぞれとの類似度をパターン照合により得る系列情報パターン照合部と、前記類似度に応じて選択された第2の系列情報に基づいて前記ユーザーに提示される推薦情報を生成する推薦情報生成部と、を備える、サーバ装置が提供される。
前記系列情報パターン照合部は、前記1または複数の系列情報から前記第1の系列情報とパターンの類似度が最も高い系列情報を前記第2の系列情報として選択してもよい。
前記系列情報パターン照合部は、前記1または複数の系列情報から前記第1の系列情報とパターンの類似度が閾値よりも高い系列情報を前記第2の系列情報として選択してもよい。
前記系列情報パターン照合部は、前記パターンの類似度が最も高い系列情報または前記パターンの類似度が前記閾値よりも高い系列情報から所定の条件に適合する系列情報を前記第2の系列情報として選択してもよい。
前記推薦情報生成部は、前記パターン照合によって前記第2の系列情報から前記第1の系列情報との対応箇所が特定されると、前記第2の系列情報のうち前記対応箇所よりも後段の系列情報に基づいて前記推薦情報を生成してもよい。
前記第1の系列情報および前記第2の系列情報それぞれは位置情報を含み、前記推薦情報生成部は、前記第2の系列情報のうち前記後段の系列情報に含まれる位置情報に基づいて前記推薦情報を生成してもよい。
前記第1の系列情報および前記第2の系列情報それぞれは感情情報を含み、前記推薦情報生成部は、前記第2の系列情報のうち前記後段の系列情報に含まれる感情情報に基づいて前記推薦情報を生成してもよい。
前記第1の系列情報および前記第2の系列情報それぞれは位置情報をさらに含み、前記推薦情報生成部は、複数の第2の系列情報が選択された場合、かつ、前記複数の第2の系列情報のうち前記後段の系列情報に含まれる対応する位置情報同士が同じエリアに該当する場合、前記後段の系列情報に含まれる対応する感情情報の代表値に基づいて、前記推薦情報を生成してもよい。
前記サーバ装置は、前記代表値の確度情報を前記ユーザーに提示される関連情報として生成する関連情報生成部を備えてもよい。
前記サーバ装置は、前記第1の系列情報と前記第2の系列情報とのパターンの類似度または前記類似度に関連する情報を前記ユーザーに提示される関連情報として生成する関連情報生成部を備えてもよい。
前記サーバ装置は、ユーザー群の位置ごとの滞留時間の情報に基づいて、前記滞留時間の変化の度合いが所定の度合いよりも大きい位置群を前記位置情報に対応するエリアの境界として設定するエリア分割部を備えてもよい。
前記サーバ装置は、ユーザー群の位置ごとの感情情報の絶対量または変化量の情報に基づいて、前記絶対量または前記変化量の変化の度合いが所定の度合いよりも大きい位置群を前記位置情報に対応するエリアの境界として設定するエリア分割部を備えてもよい。
また、本発明の他の観点によれば、ユーザーの計測データに基づいて生成された感情情報および前記ユーザーの位置情報の少なくともいずれか一方を含む第1の系列情報と、過去の感情情報および位置情報の少なくともいずれか一方を含む1または複数の系列情報それぞれとの類似度をパターン照合により得ることと、前記類似度に応じて選択された第2の系列情報に基づいて前記ユーザーに提示される推薦情報を生成することと、を含む、情報処理方法が提供される。
また、本発明の他の観点によれば、コンピュータを、ユーザーの計測データに基づいて生成された感情情報および前記ユーザーの位置情報の少なくともいずれか一方を含む第1の系列情報と、過去の感情情報および位置情報の少なくともいずれか一方を含む1または複数の系列情報それぞれとの類似度をパターン照合により得る系列情報パターン照合部と、前記類似度に応じて選択された第2の系列情報に基づいて前記ユーザーに提示される推薦情報を生成する推薦情報生成部と、を備えるサーバ装置として機能させるためのプログラムが提供される。
また、本発明の他の観点によれば、ユーザーの計測データに基づいて生成された感情情報および前記ユーザーの位置情報の少なくともいずれか一方を含む第1の系列情報と、過去の感情情報および位置情報の少なくともいずれか一方を含む1または複数の系列情報それぞれとの類似度をパターン照合により得る系列情報パターン照合部と、前記類似度に応じて選択された第2の系列情報に基づいて前記ユーザーに提示される推薦情報を生成する推薦情報生成部と、を備える、サーバ装置から、前記推薦情報を取得する制御部と、前記推薦情報を表示する表示部と、を備える、端末装置が提供される。
また、本発明の他の観点によれば、ユーザーの計測データに基づいて生成された感情情報および前記ユーザーの位置情報の少なくともいずれか一方を含む第1の系列情報と、過去の感情情報および位置情報の少なくともいずれか一方を含む1または複数の系列情報それぞれとの類似度をパターン照合により得る系列情報パターン照合部と、前記類似度に応じて選択された第2の系列情報に基づいて前記ユーザーに提示される推薦情報を生成する推薦情報生成部と、を備える、サーバ装置と、前記推薦情報を取得する制御部と、前記推薦情報を表示する表示部と、を備える、端末装置と、を有する、情報通信システムが提供される。
以上説明したように本発明によれば、あるユーザーにとって次にどの場所に行くのが良いか、あるいは次にどのような雰囲気を体感できそうかといった情報が、ユーザーに把握されることを支援することが可能な技術が提供される。
本発明の第1の実施形態に係る情報通信システムの概略的な構成の一例を示す説明図である。 同実施形態に係る感情情報管理サーバ、構内カメラ、端末装置のハードウェア構成の一例を示すブロック図である。 同実施形態に係る構内カメラの機能構成の一例を示すブロック図である。 同実施形態に係る感情情報管理サーバの機能構成の一例を示すブロック図である。 感情時空間情報管理部によって紐づけ処理され記憶部に記憶される感情時空間情報DBのデータテーブルの一例を説明するための説明図である。 感情時空間系列情報の基になるユーザーの行動(位置情報)の変化の例を説明するための説明図である。 図6に応じた感情時空間系列情報が感情時空間情報DBに記憶されたデータテーブルの一例を示す説明図である。 感情時空間系列情報の基になるユーザーの感情の変化の例を説明するための説明図である。 図8に応じた感情時空間系列情報が感情時空間情報DBに記憶されたデータテーブルの一例を示す説明図である。 同実施形態に係る端末装置の機能構成の一例を示すブロック図である。 端末装置の表示部に情報提示された表示画面の一例を説明するための説明図である。 端末装置の表示部に情報提示された表示画面の別の一例を説明するための説明図である。 端末装置の表示部に環境変化情報がさらに情報提示された表示画面の例を説明するための説明図である。 端末装置の表示部に情報提示された表示画面のさらに別の一例を説明するための説明図である。 端末装置の表示部に情報提示された表示画面のさらに別の一例を説明するための説明図である。 端末装置の表示部に情報提示された表示画面のさらに別の一例を説明するための説明図である。 同実施形態に係る情報通信システムの動作シーケンスの一例を示す説明図である。 同実施形態に係る情報通信システムの動作シーケンスの一例を示す説明図である。 本発明の第2の実施形態に係る感情情報管理サーバの機能構成の一例を示すブロック図である。 端末装置の表示部に情報提示された表示画面の一例を説明するための説明図である。 端末装置の表示部に情報提示された表示画面の別の一例を説明するための説明図である。 端末装置の表示部に情報提示された表示画面の別の一例を説明するための説明図である。 本発明の第2の実施形態に係る感情情報管理サーバの機能構成の一例を示すブロック図である。 エリア分割の方法について具体的に説明するための説明図である。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書及び図面において、実質的に同一または類似の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する。ただし、実質的に同一または類似の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
(0.概要)
まず、本発明の実施形態の概要について説明する。既に説明したように、「あるユーザーにとって次にどの場所に行くのが良いか」といった情報をレコメンド(推薦)する機能があれば、前記次にどの場所に行くかを決める判断を支援する情報提供機能が向上し、上記システムはさらに高い有用性をユーザーに与え得る。あるいは、「次にどのような雰囲気を体感できそうか」といった情報をレコメンド(推薦)する機能があれば、どのような雰囲気を体感できそうかをユーザーに把握させる情報提供機能が向上し、上記システムはさらに高い有用性をユーザーに与え得る。
そこで、本発明の実施形態では、あるユーザーにとって次にどの場所に行くのが良いか、あるいは次にどのような雰囲気を体感できそうかといった情報が、ユーザーに把握されることを支援する技術について主に説明する。
より具体的な例として、「次にどの場所に行くとユーザーにとってより良い状況や雰囲気になるか」をレコメンド(推薦)する機能(たとえば「あなたはいまからこの店に行けばポジティブ感情が高まりますよ」という通知情報の配信等)があれば、前記次にどの場所に行くかを決める判断を支援する情報提供機能が向上し、上記システムはさらに高い有用性をユーザーに与え得る。
そこで、本発明の実施形態では、複数の前記感情時空間情報を時系列に組み合わせた情報(以下、感情時空間系列情報)をさらに生成する感情情報管理サーバと、該感情時空間系列情報を提示できる端末装置と、を備えることを特徴とし、遠隔地のどの場所に行けばより良い状況や雰囲気になれるかという推薦情報をユーザーが得ることができる、情報通信システムについても説明する。
(1.第1の実施形態)
続いて、図1を参照して、本発明の実施形態に係る情報通信システムの概略的な構成を説明する。
図1は、本実施形態に係る情報通信システムの概略的な構成の一例を示す説明図である。図1を参照すると、本情報通信システムは、感情情報管理サーバ100、複数のユーザー900、構内カメラ200、端末装置300、LAN50を含む。
本情報通信システムは遠隔地間の情報通信機能を有するため、複数のユーザー900は互いに空間的に離れて存在してもよく、図1では、拠点bAにユーザー900A、構内カメラ200A、端末装置300A、拠点bBCに、ユーザー900B、900C及び900D、構内カメラ200B、200C及び200Z、端末装置300Bが存在するケースを一例として図示している。構内カメラ200Cはユーザー900C及び900Dを共に撮像範囲内に含み、構内カメラ200B及び200Zは異なる方向からユーザー900Bを撮像している。ユーザー900A、900B、900C及び900Dは、たとえば互いに遠隔協働(テレワーク)を行っていてもよく、拠点bAと拠点bBCはリモートオフィスの関係であってもよい。
なお、構内カメラ200Aと端末装置300Aはユーザー900Aの個別使用端末であってもよく、その場合、ユーザー900Aと構内カメラ200Aと端末装置300Aとは、それぞれと対応づけられた通信用の識別情報(以下「通信用ID」;たとえば電話番号やIP(Internet Protocol)アドレス)のデータ同士を相互に紐づける設定処理を予め行われ、該設定のデータは感情情報管理サーバ100に記憶されていてもよい(ユーザー900B、900C、900Dの場合も同様)。
図2は、本実施形態に係る感情情報管理サーバ100、構内カメラ200、端末装置300(以下、感情情報管理サーバ100、構内カメラ200及び端末装置300それぞれを区別せずに「本実施形態に係る装置」と言う場合がある。)のハードウェア構成の一例を示すブロック図である。なお、上記の各装置のすべてに下記のハードウェア構成のすべてが備えられている必要はなく(たとえば感情情報管理サーバ100に直接的にセンサが備えられている必要はない)、後述する各装置の機能構成を実現できるハードウェアモジュールが適宜限定して備えられてもよい。
図2を参照すると、本実施形態に係る装置は、バス801、CPU(Central Processing Unit)803、ROM(Read Only Memory)805、RAM(Random Access Memory)807、記憶装置809、通信インタフェース811、センサ813、入力装置815、表示装置817、スピーカ819を備える。
CPU803は、本実施形態に係る装置における様々な処理を実行する。また、ROM805は、本実施形態に係る装置における処理をCPU803に実行させるためのプログラム及びデータを記憶する。また、RAM807は、CPU803の処理の実行時に、プログラム及びデータを一時的に記憶する。
バス801は、CPU803、ROM805及びRAM807を相互に接続する。バス801には、さらに、記憶装置809、通信インタフェース811、センサ813、入力装置815、表示装置817及びスピーカ819が接続される。バス801は、例えば、複数の種類のバスを含む。一例として、バス801は、CPU803、ROM805及びRAM807を接続する高速バスと、該高速バスよりも低速の1つ以上の別のバスを含む。
記憶装置809は、本実施形態に係る装置内で一時的または恒久的に保存すべきデータを記憶する。記憶装置809は、例えば、ハードディスク(Hard Disk)等の磁気記憶装置であってもよく、または、EEPROM(Electrically Erasable and Programmable Read Only Memory)、フラッシュメモリ(flash
memory)、MRAM(Magnetoresistive Random Access Memory)、FeRAM(Ferroelectric Random Access
Memory)及びPRAM(Phase change Random Access Memory)等の不揮発性メモリ(nonvolatile memory)であってもよい。
通信インタフェース811は、本実施形態に係る装置が備える通信手段であり、ネットワークを介して(あるいは直接的に)外部装置と通信する。通信インタフェース811は、無線通信用のインタフェースであってもよく、この場合に、例えば、通信アンテナ、RF回路及びその他の通信処理用の回路を含んでもよい。また、通信インタフェース811は、有線通信用のインタフェースであってもよく、この場合に、例えば、LAN端子、伝送回路及びその他の通信処理用の回路を含んでもよい。
センサ813は、たとえばカメラ、マイクロフォン、生体センサ、その他のセンサまたはそれらの複合である。カメラは、被写体を撮像するもので、例えば光学系、撮像素子及び画像処理回路を含む。マイクロフォンは、周囲の音を収音するもので、該音を電気信号へ変換し該電気信号をデジタルデータに変換する。
入力装置815は、タッチパネル、マウス、視線検出装置等である。表示装置817は、本実施形態に係る装置からの出力画像(すなわち表示画面)を表示するもので、例えば液晶、有機EL(Organic Light-Emitting Diode)、CRT(Cathode Ray Tube)等を用いて実現され得る。スピーカ819は、音声を出力するもので、デジタルデータを電気信号に変換し該電気信号を音声に変換する。
次に、図3を参照して、本実施形態に係る「構内カメラ200」の機能構成の一例を説明する。構内カメラ200は、実世界の計測データを生成する機能を有し、ユーザー900の行動(表情、身振り、音声等を含む)や生理反応等を外的に計測して取得したデータを後述する感情情報管理サーバ100へ送信する。
図3は、本実施形態に係る構内カメラ200の機能構成の一例を示すブロック図である。図3を参照すると、構内カメラ200は、通信部210、計測部220及び制御部230を備える。なお、図3には図示していないが、構内カメラ200は、計測データを保存するための記憶部や、内部動作状況をユーザーに示すための表示部等をさらに備えていてもよい。
通信部210は、他の装置と通信する。たとえば、通信部210は、LAN50に直接的に接続され、感情情報管理サーバ100と通信する。また、他の構内カメラ200と通信してもよい。なお、通信部210は、通信インタフェース811により実装され得る。
計測部220は、実世界の計測データ(たとえばオフィスや駅構内の俯瞰的画角の撮映像)や、ユーザー900の行動や生理反応を外的に計測してデータを取得する。
前記行動や生体反応のデータは、たとえば、カメラにより計測される顔表情や身体姿勢の状態内容を含む画像データ、マイクロフォンにより計測される音声データである。さらには、人体の撮像データにおける肌の色の微細な変化から推定する脈拍データ、眼の撮像データから推定する視線運動データや瞳孔径データ、該カメラに赤外線サーモグラフィ機能が備えられていれば計測できる皮膚温分布データ等、ユーザーの自律神経系活動情報を反映する高次の生理指標データであってもよい。
前記推定の処理は、後述する制御部230により構内カメラ200内で行われてもよいし、構内カメラ200から後述する感情情報管理サーバ100へ生の測定データを送信し感情情報管理サーバ100内で行われてもよい。また、後述するように、前記行動や生体反応のデータは、端末装置300が備えるセンサ部によって取得されてもよい。なお、計測部220は、センサ813により実装され得る。
構内カメラ200は、図1の200Aのように1名のユーザー900に対応して1台存在してもよいし、協働空間における環境埋め込み型のセンサを想定して図1の200Cのように1台の構内カメラ200が複数のユーザー900のセンサデータを取得しても構わない。その場合、構内カメラ200は複数のユーザー900それぞれについてセンサデータと計測対象人物の識別データとの1対1対応の紐づけ処理を行って、センサデータと計測対象人物の識別データとの各組み合わせを記憶または送信する。前記計測対象人物の識別データは、どのようにして得られてもよく、一例として、カメラによる撮像画像から顔認識によって特定される人物の識別データであってもよい。
制御部230は、構内カメラ200の様々な機能を提供する。制御部230は、前記計測データを、後述する計測対象のユーザー900の位置情報のデータや、計測データを計測した時刻情報のデータと紐づけ、通信部210を介して感情情報管理サーバ100へ送信してもよい。構内カメラ200は、計測だけでなく、前処理、特徴抽出処理、推定を含む解析処理までを実施してもよく、その場合の各種演算処理を制御部230が行ってもよい。なお、制御部230は、CPU803、ROM805及びRAM807により実装され得る。
構内カメラ200は、撮像範囲内に含まれるユーザー900の位置を推定する機能を有していてもよい。たとえば、構内カメラ200にレーザレンジファインダの機能も搭載されており、撮像範囲の3次元計測機能を有していてもよい。また、構内カメラ200が汎用的な単眼カメラであっても、撮像対象物の3次元実空間における存在位置を推定する方法は既存に複数あり、公知の方法である(たとえば、前述の特許文献1や、非特許文献1:大澤達哉ほか、映像モニタリングのための人物追跡技術、NTT技術ジャーナル、19(8)、2007、など)。
本発明の実施形態では、構内カメラ200は、たとえば駅構内の監視カメラのような固定設置利用であってもよく、その場合、カメラの内部または外部パラメータの情報(カメラの3次元空間内位置、姿勢、撮像方向、画角、撮像範囲等の情報を含む)に係るデータは既知として、該カメラパラメータのデータを構内カメラ200や感情情報管理サーバ100が予め記憶部に有しており、該データを撮像対象物の位置推定に利用してもよい(すなわち、該データ及び構内カメラ200からの取得データに基づいて撮像対象物の位置が推定されてもよい)。構内カメラ200が撮像範囲内に含まれるユーザー900の位置を推定する機能を有している場合、後述する端末装置300とその位置情報取得部は、本情報通信システムに含まれなくてもよい。
次に、図4を参照して、本実施形態に係る「感情情報管理サーバ100」の機能構成の一例を説明する。図4は、本実施形態に係る感情情報管理サーバ100の機能構成の一例を示すブロック図である。図4を参照すると、感情情報管理サーバ100は、通信部110、記憶部120及び制御部130を備える。
通信部110は、他の装置と通信する。たとえば、通信部110は、LAN50に直接的に接続され、構内カメラ200や端末装置300と通信する。なお、通信部110は、通信インタフェース811により実装され得る。
記憶部120は、感情情報管理サーバ100の動作のためのプログラム及びデータを記憶する。前記データには、後述する時刻情報、位置情報、感情情報、それらを紐づけた感情時空間情報が含まれる。前記感情時空間情報のデータは、図5に図示した後述する感情時空間情報DB121のデータを含んでいてもよい。なお、記憶部120は、記憶装置809により実装され得る。
制御部130は、感情情報管理サーバ100の様々な機能を提供する。制御部130は、感情推定部131、感情時空間情報管理部133、感情変化情報生成部132及び感情時空間系列情報管理部140を含む。さらに、感情時空間情報管理部133は、時刻情報管理部135、位置情報管理部136、感情情報管理部137及び人物同一性情報管理部138を含み、感情時空間系列情報管理部140は、系列情報パターン照合部141及び推薦情報生成部142を含む。なお、制御部130は、CPU803、ROM805及びRAM807により実装され得る。
感情推定部131は、ユーザー900から構内カメラ200や端末装置300及び通信部110を介して取得した行動や生体反応の計測データ(センシングデータ)に基づいて、ユーザー900毎の個人感情の推定モデルデータ及びそれにより推定(識別)された感情推定データを生成する。また、感情推定部131は、該生成した推定モデルデータと感情推定データを記憶部120に記憶させる機能を有する。
なお、前記計測データは構内カメラ200と端末装置300の両方から得られる場合もあるが、両者の対応付けを行いそのいずれか一方のデータを用いてもよいし、両方のデータを併用することで(アンサンブル学習等により)より精度が高い感情推定データを生成できる可能性がある。
また、前記感情推定データの生成処理は構内カメラ200や端末装置300で行われてもよく、感情情報管理サーバ100は構内カメラ200や端末装置300から前記計測データではなく感情推定データを受信しても構わない。
ここで、個人感情とその推定方法について説明を補足する。個人感情は、一例として「人が心的過程の中で行うさまざまな情報処理のうちで、人、物、出来事、環境についてする評価的な反応」(Ortony et al.,1988;大平,2010)と定義される。感情の具体的な種類としては、心理学者Paul Ekmanによる表情に対応する基本感情ベースの離散型モデル上での幸福、驚き、恐れ、怒り、嫌悪、悲しみや、心理学者James A. Russellによる快度及び覚醒度の感情次元ベースの連続型モデルにおける喜怒哀楽の象限などが知られている。他の連続型モデルとしては、Watsonによるポジティブまたはネガティブ感情、Wundtによる3軸モデル(快度、興奮度、緊張度)、Plutchikによる4軸のモデルなどもある。その他、応用的・複合的な感情としては、困惑度、関心度、メンタルストレス、集中度、疲労感、多忙度、創造性、リラックス/緊張度、モチベーション、共感度、信頼度などが挙げられる。さらに、業務活動において集団の雰囲気として体感されるイキイキ感なども高次な感情の一種といえる。本発明の実施形態における感情の定義の有効範囲は、前述の基本感情よりも広く、ユーザーのあらゆる内部「状態」やユーザーの周囲環境や文脈等の影響も加味した「状況」も含むものである。一例として、ポジティブ感情やその度合いは、快度そのものや、快度と覚醒度を合わせたもの、基本感情における幸福の強度の大きさ、もしくは恐れ、怒り、嫌悪、悲しみ等の強度の小ささ等を指標としてあらわされてもよい。
ある人物がどのような感情とその程度にあるかは、たとえば質問紙法を用いることで、該人物の文字、文章、記号による言語的報告によって求めることができる。該質問紙としては“Affect Grid”などがよく知られている。しかしながら、質問紙を用いた計測方法では回答作業が必要になるため、業務など何か別の作業を行っている日常生活においては計測それ自体が本来の目的作業に支障を及ぼしてしまう可能性がある。
そこで、本情報通信システムにおいて、感情推定部131は、前述の構内カメラ200や端末装置300により計測される行動や生体反応のデータに基づいて(質問紙法等で求めた)感情を機械的に推定処理する。該推定処理を行うためには、予め学習処理によって生成された感情推定モデルのデータが必要となる。感情推定モデルは、たとえば、ある時点・状況における前記行動や生体反応のデータと前記質問紙の回答データからなる訓練データとを対応づけたデータの群から生成される。たとえば、オフィスに埋め込まれた無数のカメラやマイクロフォン、ウェアラブル活動量計から計測されたユーザーの顔表情、音声、心拍活動、皮膚電気活動等の行動・生体データと、該ユーザーの主観的感情を質問紙回答した正解データとが対応づけられて訓練データとされる。前記行動・生体データは、センサからの計測値が変換された学習処理用の特徴量データであってもよい。
特徴量データは、顔の代表的特徴点の位置や各2点間を結ぶ直線の距離や成す角度であってもよい。あるいは、特徴量データは、音声の基本周波数、パワー、平均発話速度、一次ケプストラム係数の最高値と標準偏差であってもよい。あるいは、特徴量データは、心拍数や拍動間隔の平均値や標準偏差、心拍変動性であってもよい。あるいは、特徴量データは、皮膚コンダクタンス水準の平均値や標準偏差や増減低下率などであってもよい。これらの特徴量データはどのように使用されてもよく、ある時点における絶対値として使用されてもよいし、2時点間の相対的な変化率として使用されてもよい。
前記訓練データを用いた感情推定モデルの生成には、学習の手法として、たとえば既知のSVM(Support Vector Machine)や深層学習(Deep Learning)法が用いられてもよいし、単純に回帰分析法が利用されてもよい。また、学習モデルはユーザー個人毎に生成されてもよいし、複数のユーザーの訓練データを用いて人間に共通的なモデルが生成されてもよい。感情推定部131は、得られた感情推定モデルのデータを用いることで、ある人物の行動・生体データから個人感情を推定できるようになる。
感情情報管理サーバ100や感情推定部131は、上述の個人感情推定処理のための訓練データや感情の推定モデル自体を生成する機能を有していてもよい。さらに、訓練データのための前述の特徴量データの生成は、感情情報管理サーバ100ではなく構内カメラ200や端末装置300の方で行い、構内カメラ200や端末装置300が、該特徴量データを感情情報管理サーバ100へ送信するようにしてもよい。
感情時空間情報管理部133は、ある時刻、ある位置に存在するユーザー900から取得された行動や生体反応の計測データから感情推定部131により生成された感情の推定情報(感情情報)のデータの管理を行う。すなわち、感情時空間情報管理部133は、ユーザー900の後述する時刻情報、位置情報、感情情報、ユーザーID情報のデータ(人物同一性情報の例)を互いに紐づけた「感情時空間情報」のデータを生成し、生成した「感情時空間情報」のデータを記憶部120の感情時空間情報DB121に記録する。
なお、本実施形態では、感情時空間情報管理部133が、時刻情報、位置情報、感情情報、ユーザーID情報のデータのすべてを紐づける例について主に説明する。しかし、感情時空間情報管理部133は、これらの一部のみを紐づけることによって感情時空間情報を生成してもよい。たとえば、感情時空間情報管理部133は、感情情報と、時刻情報及び位置情報の少なくともいずれか一方とを紐づけることによって感情時空間情報を生成してもよい(感情情報と時刻情報とを紐づけてもよいし、感情情報と位置情報とを紐づけてもよいし、感情情報と時刻情報及び位置情報の双方とを紐づけてもよい)。あるいは、感情時空間情報管理部133は、感情情報と、時刻情報及び位置情報の少なくともいずれか一方と、ユーザーID情報のデータとを紐づけることによって感情時空間情報を生成してもよい。
ここで、図5を参照して、前述した感情時空間情報DB121について説明する。図5は、感情時空間情報管理部133によって紐づけ処理され記憶部120に記憶される感情時空間情報DB121のデータテーブルの一例を説明するための説明図である。図5のデータテーブルには、感情情報、位置情報、時刻情報、ユーザーIDのデータが記憶されている。
感情情報は、前述のように感情推定部131により生成される。図5ではポジティブ感情の強度を感情情報の一例として記しており、行1のデータではポジティブ度が高く、行3のデータでは低い。
位置情報は、前記感情情報の推定基となった計測データを取得されたユーザー900が存在すると推定される位置(実空間内の3次元位置、もしくは実空間を水平面に射影した面上の2次元位置、エリアレベルでのプレゼンス等)であり、前述のように構内カメラ200が撮像範囲内に含むユーザー900の位置を推定した情報を用いてもよいし、後述する端末装置300が有する位置情報取得部により取得された位置情報を用いてもよい。
時刻情報は、前記感情情報の推定基となった計測データを取得された時刻である。感情情報を推定するのに瞬時ではなく一定以上の時間幅の計測データが必要な感情情報(たとえば、音声の韻律や心拍数の上下など経時変化情報に基づく推定情報)の場合、該時間幅の最終時刻(時間幅の中で最も現在に近い時刻)を代表値として扱い時刻情報としてもよい。なお、本情報通信システムにおける感情情報管理サーバ100、構内カメラ200、端末装置300それぞれの装置内の基準時刻にズレがある場合、感情情報管理サーバ100は構内カメラ200や端末装置300からデータを受信した時点の感情情報管理サーバ100のシステム時刻を代表値として時刻情報としてもよい。また、感情情報管理サーバ100自体が構内カメラ200や端末装置300の時刻を校正する(感情情報管理サーバ100のシステム時刻にそれらのシステム時刻を同期させる)機能を有していてもよい。
ユーザーIDは、紐づけられた時刻データ、位置データ、感情情報データの基になった計測データを取得されたユーザー900をそれぞれ一定期間識別するためのデータである。たとえば、図5のデータテーブルには例として7行の紐づけデータが図示されているが、ユーザーIDは「0001」「0002」「0003」の3種しかないため、図示されているのは3名分のデータであることがわかる。ユーザーIDは、感情情報データの基になった計測データが端末装置300から取得され該感情情報データの基になった端末装置300が個人利用端末でその固有の識別情報を感情情報管理サーバ100が取得できる場合や、予め個人情報と顔画像や音声や生体データとを紐づけた顔・音声・生体認識辞書データベースが存在し、該データベースと計測データとを照合処理できる場合にはそれを用いてもよい。しかし、駅などの不特定多数のユーザーが利用する公共空間ではそのような方法は必ずしも実施可能ではない。また、そのような方法がたとえ実施可能であっても、個人情報のデータを安全に保管・運用するコストが必要となる。
本発明の実施形態では、不特定多数の感情情報、位置情報、時刻情報が集合されれば最低限の感情時空間情報を生成することは可能であるため、必ずしも各ユーザー900の感情情報が個人情報と紐づけられる必要はなく、その場合は実施にあたり当ユーザーID情報のデータは必須ではない。しかしながら、当ユーザーIDは一定期間、感情情報の基になった各ユーザー900同士を識別できるだけでも効果を示し、予め照合するための個人情報を用意しなくても、後述のように実施可能である。前記効果とは、感情情報の時系列変化の情報を利用できるようになることで、感情時空間情報の利用品質が向上することである。
たとえば、図5のデータテーブルでは、行1、行11、行12にはユーザーID0001の、行2、行13、行14にはユーザーID0002のユーザーの紐づけデータ(それぞれ15秒間隔のデータ3点)が記憶されている。また、図5のデータテーブルでは、行3にはユーザーID0003のユーザーの紐づけデータが記憶されている。
対応する時刻情報を見ると、ユーザーID0001のユーザーとユーザーID0002のユーザーは、同日のほぼ同じ時間帯(1分違い)の30秒間の内に同じように位置「X1、Y1、Z1」から位置「X3、Y3、Z3」を経て位置「X4、Y4、Z4」へと移動している。しかしながら、ユーザーID0001のユーザーは該30秒間の間感情情報は「ポジティブ度80%」で変わらない一方、ユーザーID0002のユーザーは「X4、Y4、Z4」で感情情報がそれまでの「ポジティブ度50%」から「80%」へ上昇している。
たとえば、駅構内において「X4、Y4、Z4」にある広告ポスターが掲示されていた場合、ユーザーID0002のユーザーはそれを見てポジティブ度が上昇した可能性が考えられる。一方で、ユーザーID0001のユーザーはポジティブ度が高いが、そもそも該広告ポスターの位置(X4、Y4、Z4)にたどり着く前からそもそもポジティブ度が高く、該広告ポスターの位置(X4、Y4、Z4)に到ってもポジティブ度は変わっていないため、該広告ポスターによる影響はほとんどなかったと考えられる。この場合、該広告ポスターの位置(X4、Y4、Z4)での瞬時的な感情情報だけを見るのではなく、その経時的変化、たとえば前の時刻のデータとの差分量(ユーザーID0001のユーザー:+0%、ユーザーID0002のユーザー:+30%)を見れば、その位置の環境がユーザーの感情にどれだけの影響を与えるのかをより正確に把握でき、感情時空間情報の利用品質が向上する。しかし、当ユーザーIDの情報が得られず、感情情報、位置情報、時刻情報だけしか無かった場合、前述の行1、行11、行12、行3、行13、行14の各データはすべて関連のない個別データとなり、前述の経時的変化の情報(差分量等)を算出することもできなくなってしまう。ユーザーID情報により、各行の感情時空間情報のデータ間の関連性(人物同一性)を確認できる。
予め照合するための個人情報を用意せずにユーザーIDの情報を生成するには、前記計測データと計測されたユーザー900の紐づけ維持状態の情報を、本情報通信システムでデータ化できればよい。たとえば、前記計測データが端末装置300から取得されている場合、端末装置300は前記計測データと共に端末装置300の通信用IDの情報を含むデータを感情情報管理サーバ100へ送信してもよい。
また、前記計測データが構内カメラ200から取得されている場合、一例として構内カメラ200は公知の人物追跡技術(たとえば前述の非特許文献1参照)を用い、該構内カメラ200の撮像範囲内にあるユーザーが映って人物追跡処理できている間は、該計測データに一意のユーザーIDを紐づけて付与することが可能である。
さらに、複数のカメラにまたがり人物追跡処理する技術も公知で存在する(非特許文献2:福司謙一郎ほか、複数カメラを用いた人物追跡手法の研究例、映像情報メディア学会誌、62(7)、2008)ことから、大型駅のような広い空間であっても、複数のカメラが設置され人物追跡処理が成功すれば、移動中のユーザーに対してある程度の時間幅で継続して一意のユーザーIDの紐づけ付与が可能である。映像ではなく音声の場合でも、教師データを用いずに個人性を識別する技術が公知で存在する(非特許文献3:峯松信明、音声に含まれる様々な個人性の自動推定、日本音響学会誌、71(9)、2015)ことから、同様に一意のユーザーIDの紐づけ付与が可能といえる。
以上のように、感情時空間情報管理部133は、時刻情報、位置情報、感情情報、ユーザーID情報のデータを用いて、感情時空間情報のデータを生成し、保管する。
時刻情報管理部135は、感情時空間情報における前述の時刻情報を管理する。特に、時刻情報管理部135は、後述する端末装置300から時刻によるフィルタリング指定(時刻情報の条件)と情報の取得要求を含むメッセージを受信した場合、後述のように時刻によるフィルタリング指定に基づいて、感情時空間情報から部分的に情報(時刻情報の条件に合致する情報)を抽出することによってフィルタ済の感情時空間情報を生成し、時刻によるフィルタリング済の感情時空間情報のデータを該端末装置300へ送信する。なお、フィルタリング指定される時刻情報の単位は限定されない。すなわち、時刻情報の単位は、時単位であってもよいし、日単位(たとえば、日付けの他、平日、祝日といった種別など)であってもよいし、月単位であってもよい。
位置情報管理部136は、感情時空間情報における前述の位置情報を管理する。特に、位置情報管理部136は、後述する端末装置300から位置によるフィルタリング指定(位置情報の条件)と情報の取得要求を含むメッセージを受信した場合、後述のように位置によるフィルタリング指定に基づいて、感情時空間情報から部分的に情報(位置情報の条件に合致する情報)を抽出することによってフィルタ済の感情時空間情報を生成し、位置によるフィルタリング済の感情時空間情報のデータを該端末装置300へ送信する。
感情情報管理部137は、感情時空間情報における前述の感情情報を管理する。特に、感情情報管理部137は、後述する端末装置300から感情によるフィルタリング指定(感情情報の条件)と情報の取得要求を含むメッセージを受信した場合、後述のように感情によるフィルタリング指定に基づいて、感情時空間情報から部分的に情報(感情の種別や強度などといった感情情報の条件に合致する情報)を抽出することによって、フィルタ済の感情時空間情報を生成し、生成されたフィルタリング済の感情時空間情報のデータを該端末装置300へ送信する。
人物同一性情報管理部138は、感情時空間情報における前述のユーザーID情報を管理する。特に、人物同一性情報管理部138は、後述する端末装置300から人物同一性によるフィルタリング指定(人物同一性情報の条件)と情報の取得要求を含むメッセージを受信した場合、後述のように人物同一性によるフィルタリング指定に基づいて、感情時空間情報から部分的に情報(人物同一性が確認された情報)を抽出することによってフィルタ済の感情時空間情報を生成し、人物同一性が確認された情報によるフィルタリング済の感情時空間情報のデータを該端末装置300へ送信する。
感情変化情報生成部132は、感情時空間情報のデータを基に前述の経時的変化(同一のユーザーID情報に紐づけられた感情情報の経時的変化)の情報を算出し生成する。前記経時的変化の情報は、予め生成して記憶部120に記憶される必要はなく、たとえば後述する端末装置300からの情報の取得要求や後述するフィルタリング指定を含むメッセージの受信を契機に生成されてもよい。
前述では、経時的変化の情報の例として任意の2時点間の感情強度の差分量を挙げたが、該情報の指標はそれに限定されない。たとえば、2時点間の感情強度の増加率や、単位時間あたりの感情強度の増減量(微分値)、所定の時間幅における感情強度の代表値(平均値、中央値、最頻値等)、所定の時間幅における感情強度の変動量(分散値)、感情に変化がない状態の継続時間長、所定の時間幅における感情のカテゴリの変化回数等を経時的変化の情報の指標としてもよい。なお、感情変化情報生成部132は、同一のユーザーID情報に紐づけられた感情情報及び位置情報の経時的変化の情報を算出してもよい。
感情時空間系列情報管理部140は、前述の感情時空間情報から後述する「感情時空間系列情報」を生成し、生成した感情時空間系列情報のデータを記憶部120の感情時空間情報DB121に記録する。
感情時空間系列情報は、前述の感情時空間情報を、前述のユーザーID情報毎に時間的前後関係を有する順序を持ったデータの組とした系列構造の情報である。具体的な例としては、感情時空間系列情報は、ユーザーID情報毎に時系列にされた位置情報および感情情報の系列情報である。なお、感情時空間系列情報と前述の経時的変化の情報との違いは、経時的変化の情報は複数の感情時空間情報から演算により求められた単一的情報であるのに対し、感情時空間系列情報は複数の情報の組であることであり、その各情報間の時間的前後関係の情報が構造として含まれることである。感情時空間系列情報は、典型的にはユーザーID情報毎に時系列にされた位置情報および感情情報の系列情報であってよいが、ユーザーID情報毎に時系列にされた位置情報のみの系列情報であってもよいし、ユーザーID情報毎に時系列にされた感情情報のみの系列情報であってもよい。
系列情報パターン照合部141は、感情時空間系列情報およびそれに基づく推薦情報が提供されるユーザーの感情時空間系列情報(第1の系列情報)に類似した当該ユーザーとはIDが異なるユーザー900の過去の感情時空間系列情報(第2の系列情報)を検索(パターン照合)し、取得する。以下では、「第1の系列情報」を「対象ユーザーの系列情報」とも言い、「第2の系列情報」を「高類似度の系列情報」とも言う。なお、IDが異なるユーザー同士は、IDが異なる別のユーザーであってもよいし、IDが異なる同一のユーザーであってもよい。
ここで、系列情報パターン照合部141は、記憶部120の感情時空間情報DB121に記録された感情時空間系列情報から対象ユーザーの系列情報とパターンの類似度が最も高い感情時空間系列情報を高類似度の系列情報として選択してもよい。あるいは、系列情報パターン照合部141は、記憶部120の感情時空間情報DB121に記録された感情時空間系列情報から対象ユーザーの系列情報とパターンの類似度が閾値よりも高い感情時空間系列情報を高類似度の系列情報として選択してもよい。
あるいは、系列情報パターン照合部141は、対象ユーザーの系列情報とパターンの類似度が最も高い感情時空間系列情報またはパターンの類似度が閾値よりも高い感情時空間系列情報から所定の条件に適合する系列情報を高類似度の第2の系列情報として選択してもよい。たとえば、前記所定の条件は、ユーザーのポジティブ度(ポジティブ感情の高さ)が現在のポジティブ度よりも高くなるという条件であってもよいし、ユーザーがそのエリアに訪れた場合にできるだけユーザーのポジティブ度が高くなるという条件であってもよい。
また、所定の条件は、かかる例に限定されない。たとえば、所定の条件は、かかる感情に関する条件の代わりに、または、感情に関する条件に追加して、対象ユーザーの現在の位置から最も近いという条件を含んでもよいし、対象ユーザーの現在位置から最も近いという条件を含んでもよい。あるいは、所定の条件は、感情に関する条件の代わりに、または、感情に関する条件に追加して、対象ユーザーの現在位置を起点とした移動経路に障害となる物体(たとえば、階段など)がないという条件を含んでもよい。
ここで、図6、図7、図8、図9を参照して、感情時空間系列情報について具体的に説明する。
図6は、感情時空間系列情報の基になるユーザー900の行動(位置情報)の変化の例を説明するための説明図である。図7は、図6に応じた感情時空間系列情報が感情時空間情報DB121に記憶されたデータテーブルの一例を示す説明図である。図8は、感情時空間系列情報の基になるユーザー900の感情の変化の例を説明するための説明図である。図9は、図8に応じた感情時空間系列情報が感情時空間情報DB121に記憶されたデータテーブルの一例を示す説明図である。
図6には、あるショッピングモール(やエキナカ)の一部を示す平面図が例として示されている。前記ショッピングモールには、A〜Fまでの6つの店舗と、その間を通る通路が例として示されている。店舗A〜F間は互いに自由に行き来することができる。ここで、前記ショッピングモールを訪れた過去のユーザー900Xについて、その感情時空間系列情報をXで表す。tは時間的前後関係の順序を示し、X、X、X…はその時系列順序でユーザー900Xの位置情報および感情情報が生成されたことを表す。同様に、過去のユーザー900Yの感情時空間系列情報は、Y、Y、Y…と表され、過去のユーザー900Zの感情時空間系列情報は、Z、Z、Z…と表される。さらに、感情時空間系列情報および推薦情報が提供されるユーザー900Sの現在(感情時空間系列情報が提供される時点)の感情時空間系列情報をSと表す。この時、Sのひとつ前の系列データはS−1、ふたつ前の系列データはS−2、と表される。
図6は、位置情報の変化を主とした場合の感情時空間系列情報の例である。ユーザー900Sは現在店舗Cにいる(S=エリアC)。ユーザー900Sはその直前には店舗Bにおり(S−1=エリアB)、さらにその前には店舗Aにいた(S−2=エリアA)。
ここで、系列情報パターン照合部141は、ユーザー900Sに推薦情報を提供するために、ユーザー900Sの感情時空間系列情報と類似した当該ユーザーとはIDが異なるユーザー900の過去の感情時空間系列情報を検索する。まず、系列情報パターン照合部141は、ユーザー900Sが現在いる店舗C(エリアC)をデータの一部に含む感情時空間系列情報を感情時空間情報DB121から検索する。ここでは例として、ユーザー900X、900Y、900Zの感情時空間系列情報が該当する候補となった。ユーザー900Sの情報形式に合わせ、ユーザー900X、900Y、900Zのデータも、店舗Cにいた時点をそれぞれX、Y、Z(=エリアC)と表す。
図6より、たとえばユーザー900Yは過去に店舗D→店舗B→店舗Cの順で移動したため、それに対応してY−2=エリアD、Y−1=エリアB、Y=エリアC、という感情時空間系列情報が生成される。また、ユーザー900Zの感情時空間系列情報としては、Z−2=エリアE、Z−1=エリアF、Z=エリアC、という感情時空間系列情報が生成される。さらに、ユーザー900X、900Y、900Zそれぞれの感情時空間系列情報は過去のデータであるため、ユーザー900X、900Y、900Zが店舗Cの後にそれぞれ訪れた店舗の情報も、たとえば、X+1=エリア…、X+2=エリア…、のように感情時空間系列情報のデータとして感情時空間情報DB121に記憶されている(なお、ユーザー900Sは現在のユーザーであるため、X+1以降のデータはまだ存在しない:(No Data))。
図7は、上記で説明した図6のユーザー900X、900Y、900Z、900Sの行動(位置情報の変化)に対応した感情時空間系列情報のデータテーブルの例である。ここで、例示したt=−2〜0の範囲を見ると、ユーザー900Sの感情時空間系列情報と比較して、ユーザー900Xはt=−2、−1、0の3個、ユーザー900Yはt=−1、0の2個、ユーザー900Zはt=0の1個、同一のデータ値を有している。すなわち、この範囲でユーザー900Sに最も類似度が高い感情時空間系列情報を持つ過去のユーザーは、3名の中で最も同一のデータ値の数が多かったユーザー900Xである。ユーザー900Sの推薦情報を生成する際は、3名の中ではユーザー900Xのデータ(特にt=+1以上の範囲のユーザー900Xの感情時空間系列情報のデータ)を利用すると最も推定精度(適合性)の高い推薦情報を提供し得る。
図8、図9には、上述の図6、図7の位置情報の例を、感情情報で説明した場合の例が示されている。なお、人物アイコン額部のP(Positive)はポジティブ度:高、N(Negative)はポジティブ度:低、T(neuTral)はポジティブ度:中、の感情状態であることを示している。こちらの例では、t=−2〜0の範囲で主に感情情報が変化しており、位置情報時と同様に、ユーザー900Sの感情時空間系列情報と比較して、ユーザー900Xはt=−2、−1、0の3個、ユーザー900Yはt=−1、0の2個、ユーザー900Zはt=0の1個、同一のデータ値を有している。この場合も、3名の中ではユーザー900Xのデータを利用すると最も推定精度の高い推薦情報を提供し得る。
上記では、説明のため位置情報または感情情報それぞれを主にした場合の感情時空間系列情報の例で説明したが、同様の情報処理は位置情報及び感情情報の組み合わせに対しても可能である。たとえば、図8では、ユーザー900X、900Y、900Z、900Sとも、t=−2〜0の範囲では位置情報は同じパターン(エリアA→B→C)を示しておりその部分では類似度の高さに差は見られないが、感情情報を加味することで、ユーザー900Xがユーザー900Sに最もパターンの類似度が高いユーザーであると判定することができる。
なお、前記組み合わせの場合に、パターンの類似度の高さの算出処理において、位置情報と感情情報のそれぞれに異なる重み係数が感情時空間系列情報管理部140により予め設定され、重み係数に基づく処理後のデータが感情時空間情報DB121に記録されてもよい。このデータにより、位置情報もしくは感情情報ベースでそれぞれ異なるパターンに対し同程度の類似度の高さが算出された場合も、最終的にどちらのパターンの類似度が高いかを系列情報パターン照合部141が決定できる。
さらに、系列情報パターン照合部141は、類似度が高いパターンを持つ過去のユーザーの感情時空間系列情報群の中から、所定の条件に適合した感情時空間系列情報を選択してもよい。たとえば、同程度のパターン類似度の高さを有したふたつの過去の感情時空間系列情報M、Nがあるとする。MはM+1で感情のポジティブ度が高くなる傾向があり、NはN+1で感情のポジティブ度が低くなる傾向があって、本システムの目的が情報提供する対象のユーザー900の感情のポジティブ度を高めることであった場合、系列情報パターン照合部141は、NよりもMの方の感情時空間系列情報に高い優先度をつけて取得し、推薦情報生成部142に送信してもよい。
以上により、感情時空間系列情報管理部140は、前記ショッピングモールの過去のユーザー900群の感情時空間系列情報を生成してそのデータを管理し、また、系列情報パターン照合部141は、あるユーザー900の感情時空間系列情報とパターンの類似度が高く所定の条件に適合した感情時空間系列情報を検索し、該情報のデータを後述する推薦情報生成部142に送信することができる。
なお、系列情報パターン照合部141が行う系列情報のパターン照合処理は、上記の方法に限定されない。パターン間の類似度の高さの算出方法として、DPマッチング(Dynamic Programming Matching)、隠れマルコフモデル(Hidden Markov Models)、相互相関、条件付き確率場(Conditional Random Field)、等の既存の方法を用いても構わない(それぞれ公知の方法であるため内容説明は省略する)。また、系列データの間隔・距離は系列内/間で均一である必要はなく、パターン照合処理の際にその調整のため動的時間伸縮法(Dynamic Time Wrapping)等の処理を行っても構わない。
推薦情報生成部142は、系列情報パターン照合部141から、あるユーザー900の感情時空間系列情報と類似度の高い過去のユーザーの感情時空間系列情報を受信し、受信した感情時空間系列情報に基づいて推薦情報を生成して、通信部110を介して該ユーザー900に紐づいた後述する端末装置300へ送信する。推薦情報は、たとえば、前記ユーザー900が次に訪れた場合に、該ユーザー900のポジティブ感情が高くなると推定される(すなわち、類似度が高い過去のユーザーが現在位置の次に訪れてポジティブ感情が高くなった)場所(位置)の情報でもよい。
具体的に、推薦情報生成部142は、高類似度の系列情報に基づいてユーザーに提示される推薦情報を生成する。たとえば、推薦情報生成部142は、パターン照合によって高類似度の系列情報から対象ユーザーの系列情報との対応箇所が特定されると、高類似度の系列情報のうち対応箇所よりも後段の系列情報に基づいて推薦情報を生成する。
図7および図9に示した例において、「対象ユーザーの系列情報」がユーザー900Sの感情時空間系列情報であるとし、「高類似度の系列情報」がユーザー900X、ユーザー900Y、ユーザー900Zそれぞれの感情時空間系列情報であるとすると、対応箇所は少なくともt=−2〜0の範囲を含み、t=+1、+2の範囲はその後段に当たる。すなわち、推薦情報生成部142は、ユーザー900X、ユーザー900Y、ユーザー900Zそれぞれの感情時空間系列情報のうち、後段に当たるt=+1、+2の少なくともいずれかの感情時空間系列情報に基づいて推薦情報を生成すればよい。
たとえば、対象ユーザーの系列情報および高類似度の系列情報それぞれが位置情報を含む場合には、推薦情報生成部142は、高類似度の系列情報のうち後段の系列情報に含まれる位置情報に基づいて推薦情報を生成すればよい。図7に示した例において推薦情報生成部142は、ユーザー900X、ユーザー900Y、ユーザー900Zそれぞれの感情時空間系列情報のうち、後段に当たるt=+1、+2の少なくともいずれかの感情時空間系列情報に含まれる位置情報(エリア)に基づいて推薦情報を生成すればよい。
また、対象ユーザーの系列情報および高類似度の系列情報それぞれが感情情報を含む場合には、推薦情報生成部142は、高類似度の系列情報のうち後段の系列情報に含まれる感情情報に基づいて推薦情報を生成すればよい。図8に示した例において推薦情報生成部142は、ユーザー900X、ユーザー900Y、ユーザー900Zそれぞれの感情時空間系列情報のうち、後段に当たるt=+1、+2の少なくともいずれかの感情時空間系列情報に含まれる感情情報に基づいて推薦情報を生成すればよい。
次に、図10を参照して、本実施形態に係る「端末装置300」の機能構成の一例を説明する。端末装置300は、ユーザー900からの入力に応じて他のユーザー900へ通信要求処理を行ったり、他のユーザー900の感情情報を取得して該ユーザー900へ情報提示したりすることができる。さらに、端末装置300は、ユーザー900から後述する行動や生体反応の計測データを取得してもよい。一例として、端末装置300は汎用的なスマートフォンやタブレット端末であってもよい。また、図1では端末装置300は1名のユーザー900に対応して1台存在するように図示されているが、複数のユーザー900に共用される共有型端末であってもよい。さらに別の一例として、端末装置300は映像通信機能付の駅自動券売機、現金自動預け払い機VTM(Video Teller Machine)、ビジュアルコールセンターシステム等の表示部付の筐体装置であってもよい。
図10は、本実施形態に係る端末装置300の機能構成の一例を示すブロック図である。図10を参照すると、端末装置300は、通信部310、記憶部320、制御部330、入力部340、表示部350、センサ部360及び位置情報取得部370を備える。
通信部310は、他の装置と通信する。たとえば、通信部310は、LAN50に直接的に接続され、感情情報管理サーバ100と通信する。なお、通信部310は、通信インタフェース811により実装され得る。
記憶部320は、端末装置300の動作のためのプログラム及びデータを記憶する。
なお、記憶部320は、記憶装置809により実装され得る。
制御部330は、端末装置300の様々な機能を提供する。なお、制御部330は、CPU803、ROM805及びRAM807により実装され得る。
入力部340は、ユーザー900からの入力を受け付ける。そして、入力部340は、入力結果を制御部330へ提供する。前記ユーザー900からの入力とは、たとえば、前述の感情時空間情報を感情情報管理サーバ100に要求する指示を行うものである。また、前記ユーザー900からの入力とは、たとえば、前記感情時空間情報を要求する際に、時刻、位置、感情、またはユーザーIDの情報による後述のフィルタリング指定を行うものである。なお、入力部340は、入力装置815により実装され得る。
表示部350は、多様な表示画面を表示する。たとえば、表示部350は、感情情報管理サーバ100から受信した感情時空間情報のデータを所定の空間(オフィスや駅構内等)の情報に対応させた様態で情報提示する。また、表示部350は、時刻、位置、感情、またはユーザーIDの情報による後述のフィルタリング指定を行った感情時空間情報を情報提示してもよい。なお、表示部350は、例えば表示装置823により実現され得る。
センサ部360は、ユーザー900の行動や生理反応を外的に計測してデータを取得する。前記行動や生体反応のデータは、たとえば、カメラにより計測される顔表情や身体姿勢の状態内容を含む画像データ、マイクロフォンにより計測される音声データ、加速度センサにより計測される身体動作の加速度データ、キーボード・マウス・タッチパネル等の入力装置により計測される機器操作データ、各種生体センサにより計測される自律神経系活動(心拍活動、皮膚電気活動、血圧、発汗、呼吸、皮膚・深部体温等)のデータ、中枢神経系活動(脳波、脳血流等)のデータ、視線計測装置により計測される視線運動・瞳孔径・瞬目数等のデータ、唾液または血中の免疫成分のデータ等を含む。これらの計測指標の算出処理は、制御部330により端末装置300内で行われてもよいし、端末装置300から感情情報管理サーバ100へ生の測定データを送信し感情情報管理サーバ100内で行われてもよい。なお、センサ部360は、センサ813により実装され得る。
センサ部360のセンサ813は、ユーザーへの非接触式でも接触式でもよい。接触式の場合、たとえば端末装置300は腕時計等の形状をしたウェアラブル端末であっても構わない。あるいは、端末装置300は、HMD(Head Mounted Display)であっても構わない。HMDのタイプは、ゴーグル型であっても構わないし、グラス型であっても構わない。また、端末装置300は、カメラ、マイクロフォン、加速度センサ、通信部等を備えたスマートフォンやタブレット端末であっても構わない。
位置情報取得部370は、外部からの取得信号に基づいて端末装置300の現在位置を検知する。具体的には、たとえば位置情報取得部370は、GPS(Global Positioning System)測位部により実現され、GPS衛星からの電波を受信して、端末装置300が存在している位置を検知し、検知した位置情報を制御部330に出力する。また、位置情報取得部370は、GPSの他、例えばWi−Fi、Bluetooth、携帯電話・PHS・スマートフォン等との送受信、または近距離通信等により位置を検知するものであってもよい。なお、ユーザー900が端末装置300を感情時空間情報の入手のみに利用し前記計測データの取得には利用しない場合、端末装置300はセンサ部360や位置情報取得部370を備えなくても構わない。
ここで、端末装置300を用いた、時刻、位置、感情、またはユーザーIDの情報によるフィルタリング指定について説明する。前述のように、ユーザー900は、端末装置300を用いて、感情情報管理サーバ100に前記感情時空間情報のデータを要求し、感情情報管理サーバ100から送信される感情時空間情報のデータを受信して、表示部350に情報提示することができる。その際、ユーザー900が、対象となる空間(オフィスや駅構内等)に関わるすべての感情時空間情報を得たいわけではなく、限られた条件に適合する情報だけを得たい場合、該すべての感情時空間情報を感情情報管理サーバ100から端末装置300に受信するのは通信帯域やシステムの演算処理リソースの無駄な使用につながる。そこで、ユーザー900は、端末装置300から感情情報管理サーバ100に前記感情時空間情報のデータを要求する際に、前記限られた条件に適合する情報のデータだけを送信するように感情情報管理サーバ100に要求することができ、それをフィルタリング指定と呼ぶ。
時刻、位置、感情、またはユーザーIDの情報によるフィルタリング指定の例として、たとえば、(時間情報によるフィルタリング指定の例)A駅の平日午前7時〜9時の間の感情時空間情報による通勤時間帯の状況を強く反映した感情時空間情報、(位置情報によるフィルタリング指定の例)B駅のW線ホームのエリアの感情時空間情報による自身が利用する車線に限定した感情時空間情報、(感情情報によるフィルタリング指定の例)C駅の怒り感情度が高いユーザーのデータに限定した感情時空間情報、(ユーザーID情報によるフィルタリング指定の例)D駅の人物同一性が高い(たとえば人物追跡処理が多くの時間で成功した)ユーザーのデータに限定した感情時空間情報、などが挙げられる。
さらに、前述の感情変化情報生成部132が生成する経時的変化の情報によるフィルタリング指定を行っても構わない。たとえば、単位時間あたりの感情強度の差分量(微分値)が所定の値以上であったデータに限定した感情時空間情報や、逆に感情に変化がない状態の継続時間長が所定の長さ以上であったデータを除いた感情時空間情報を得られるようにフィルタリング指定を行ってもよい。これにより、ユーザーは、大きな感情変化を起こす突発的なイベント(たとえば、電車の遅延や事故発生の影響等により混雑率が平常よりも大きくなった電車の到着とユーザーの一斉降車等)の発生を感情時空間情報から推測・判断したり、逆にそのような突発的なイベントの影響をノイズ要因として除いた安定性の高い感情時空間情報を得たりすることができる。
感情情報管理サーバ100は、前記フィルタリング指定の情報を含むデータ要求メッセージを端末装置300から受信すると、フィルタリング指定がたとえば時刻情報による場合は感情時空間情報管理部133が、位置情報による場合は位置情報管理部136が、感情情報による場合は感情情報管理部137が、ユーザーID情報による場合は人物同一性情報管理部138が、記憶部120の感情時空間情報DB121等からフィルタリング指定の条件に適合した感情時空間情報の部分的なデータを抽出し、該端末装置300へ送信する。また、フィルタリング指定が経時的変化(感情情報の経時的変化、または、感情情報及び位置情報の経時的変化)の情報による場合は、感情変化情報生成部132がフィルタリング指定の条件に適合した感情時空間情報の部分的なデータを抽出しても構わない。
前記フィルタリング指定より、ユーザー900は、前記感情時空間情報のデータを、所望の情報の含有率が多く不要な情報が削減されたより少ない通信データ量で、端末装置300に受信できるようになる。
特に、時間情報によるフィルタリング指定は本情報通信システムの実運用を考慮しても重要である。多くの場合、建築物は時間経過に伴い部分的な改修工事が各所で発生する。駅でいえば、ホームや通路の位置が改修工事によって変わったり、構内店舗が入れ替わったりする。そのような場合、同じ位置であっても改修工事以前とはその場の環境条件が変わったり、場合によってはその位置自体が駅の構外に変わったりしてしまう。この場合、感情情報の質も変わってしまう可能性が高いため、ユーザーはたとえば改修工事以前と以後とで感情時空間情報を分けて得たいであろう。本情報通信システムは、時刻情報のデータを管理する仕組み(時刻情報管理部135や時間情報によるフィルタリング指定機能等)を有することにより、時間とともに必然的に生じる建築物や環境の変化にも対応できる感情時空間情報をユーザーに提供できる。
端末装置300において、制御部330は、感情情報管理サーバ100から通信部310を介して感情時空間情報の全部または一部を取得し、表示部350は、感情時空間情報の全部または一部を表示する。例えば、通信部310が、フィルタリング指定と情報の取得要求とを含むメッセージを感情情報管理サーバ100からに送信した場合、制御部330は、感情情報管理サーバ100からフィルタ済の感情時空間情報を取得し、フィルタ済の感情時空間情報を表示する。一例として、制御部330は、時刻情報の条件及び位置情報の条件の少なくともいずれか一方に基づいて感情時空間情報から部分的に抽出された情報を取得し、表示部350は、部分的に抽出された情報を表示する。
図11は、端末装置300の表示部350に情報提示された表示画面の一例を説明するための説明図である。図11には、図1の拠点bBC(たとえばサテライトオフィス)に対応する感情時空間情報の提示例が示されている。拠点bBCの時刻情報と位置情報に対応して感情情報が位置情報に応じて配置表示されており、当拠点の南側方面にネガティブな感情のユーザーが集まっており雰囲気が悪くなっていることが提示情報から伺える。
図12は、端末装置300の表示部350に情報提示された表示画面の別の一例を説明するための説明図である。図12には、ある駅の構内空間の一部に対応する、フィルタリング指定のない感情時空間情報の提示例が示されている。図の中央上部に通路A、中央下部に通路Bの空間射影図が示され、当該通路を通過したユーザーの感情情報が位置情報に応じて配置表示されている。通路Aの方が通路Bよりもユーザー数(感情情報のデータ数)がやや多そうなことはわかるが、全体として感情情報の数が多すぎ、雰囲気の差はよくわからない。
なお、前記空間射影図を生成するために必要な建築物(たとえば駅)の空間構造データ(たとえば該建築物設定の際につくられた3D-CADデータ)は、感情情報管理サーバ100の記憶部120に予め記憶されており、該空間構造データの一部が、感情情報管理サーバ100から端末装置300に送信されても構わない。また、該空間構造データのワールド座標と、端末装置300から収集した該端末装置の位置のワールド座標の、互いの原点や軸方向が異なっていた場合、感情情報管理サーバ100は複数の位置情報のワールド座標の原点や軸方向を合わせる位置情報データの変換処理を行ってもよい。
ただし、本発明の実施形態の実施にあたって、前記空間構造データが予め用意されていることは必須ではない。前記建築物を利用したユーザー900群の過去の位置情報データを用いて、該建築物の空間構造データを感情情報管理サーバ100が生成してもよい。該構建築物の構造物(壁や柱等)内に人間は存在できず、通常は該構造物を避けて移動するため、該構造物の内部空間にユーザー900が位置するということはあり得ない。すると、これまで前記建築物を利用してきた過去の多数のユーザー900群の位置情報を合わせると、ユーザー900の位置情報が存在しない空間領域には該建築物の構造物が存在する可能性が高い(逆に、ユーザー900の位置情報が存在した空間領域は、該構造物が存在しない空間である可能性が高い)。このように、前記ユーザー900群の位置情報が多数あれば、その存在の有無のデータを用いて該建築物の構造(どこに該構造物が存在するかの空間分布)を当情報管理システム内で新たに生成することができる。
また、前述した感情時空間情報DB121には、駅の改修箇所や時期などの情報を含む「環境変化情報」が併せて記憶されていてもよい。前記環境変化情報は、図13のように、端末装置300の表示部350に情報提示されてもよい。
図14は、端末装置300の表示部350に情報提示された表示画面のさらに別の一例を説明するための説明図である。図14には、図12と同じ駅構内空間に対応する、第1の時刻情報によるフィルタリング指定がなされた感情時空間情報の提示例が示されている。ここでは、第1の時刻情報によるフィルタリング指定によって、通勤時間帯を想定した平日午前7時〜9時の間の感情時空間情報の例が示されている。通路Aと通路Bではユーザー数に大きな差はないが、この時間帯は全体的にネガティブな感情のユーザーが多いことが伺える。
図15は、端末装置300の表示部350に情報提示された表示画面のさらに別の一例を説明するための説明図である。図15には、図12と同じ駅構内空間に対応する、第2の時刻情報によるフィルタリング指定がなされた感情時空間情報の提示例が示されている。
ここでは、第2の時刻情報によるフィルタリング指定によって、平日昼過ぎの14時〜15時の間の感情時空間情報の例が示されている。通路Bよりも通路Aの方がユーザー数が多く、ポジティブな感情のユーザーが多いことが見てとれる。もしかしたら、この時間帯には通路Aの方にのみ何か特別なイベントや展示が開かれているのかもしれない。ユーザーは本提示情報を見て、平日昼過ぎに当駅を利用するのであれば通路Aの方を利用した方が良い雰囲気のなか移動ができるかもしれない、と判断を行うことができる。以上の図12から図15の例示により、本発明の実施形態に係るフィルタリング指定機能を利用することによって、遠隔地の全体的な感情分布状況や雰囲気をより詳細に把握できる可能性を示した。
図16は、端末装置300の表示部350に情報提示された表示画面のさらに別の一例を説明するための説明図である。図16には、端末装置300が感情情報管理サーバ100の推薦情報生成部142から受信した推薦情報(データ)の提示例が示されている。図の例では、ショッピングモール(やエキナカ)のマップ(平面図)が示されており、本システムから推薦情報が提供されるユーザー900の現在の位置情報と感情情報が示されている。
たとえば、ユーザー900の感情時空間系列情報と比較して、行動変化パターン(位置情報の変化パターン)の類似度が高く、かつ、感情のポジティブ度が高くなるという条件が満たされる感情時空間系列情報として、ユーザー900X、ユーザー900Y、ユーザー900Zそれぞれの感情時空間系列情報が選択されたとする。このとき、上記したように、ユーザー900X、ユーザー900Y、ユーザー900Zそれぞれの感情時空間系列情報のうち、後段に当たるt=+1、+2の少なくともいずれかの感情時空間系列情報に基づいて推薦情報が生成されればよい。
図16を参照すると、ユーザー900Xのt=+1における位置情報および感情情報が表示されている(推薦エリア1=飲食店)。また、図16には、ユーザー900Yのt=+1における位置情報および感情情報が表示され、ユーザー900Yのt=+2における位置情報および感情情報が表示されている(推薦エリア2=洋服店)。ユーザー900Yは、t=+1からt=+2に掛けて同じエリア内を移動するとともに、感情のポジティブ度が高くなっている。さらに、図16には、ユーザー900Zのt=+1における位置情報および感情情報が表示され(推薦エリア3=書店)、ユーザー900Zのt=+2における位置情報および感情情報が表示されている(エリア=ゲームセンター)。
端末装置300は、前記検索結果の感情時空間系列情報や推薦情報を感情情報管理サーバ100から受信し、3つ検索結果の位置(エリア)や移動後に変化されると予測される感情情報を示す情報を、前記ショッピングモールのマップ上に図16のように重畳表示させても構わない。
続いて、図17及び図18を参照して、本実施形態に係る情報処理動作の例を説明する。図17及び図18は、本実施形態に係る情報通信システムの動作シーケンスの一例を示す説明図である。図17は、システムのユーザー900からの計測データの収集と感情時空間情報の生成処理を説明し、図18は、システムのユーザー900への感情時空間情報の提示処理を説明している。
図17に示したように、ステップS1101で、感情情報管理サーバ100は、実世界やユーザー900の行動や生理反応等の計測データの収集処理を開始する。
ステップS1103で、感情情報管理サーバ100は構内カメラ200へ、ステップS1105で、感情情報管理サーバ100は端末装置300へ、データ要求メッセージを送信する。なお、データ要求メッセージの送信タイミングは限定されない。
たとえば、感情情報管理サーバ100は、端末装置300が駅構内に入ったことが検知された場合、端末装置300へ、データ要求メッセージを送信してもよい。たとえば、端末装置300が駅構内に入ったことは、ユーザーが駅の改札口を通るときや、駅の店舗での買い物をするときに 該ユーザーの端末装置300に含まれるICチップを利用する場合には、該ICチップが読み取られたことによって検知されてもよいし、駅に設置されている通信基地局に端末装置300が無線接続されたことによって検知されてもよい。さらに、前記買い物や改札口の通過は、前記ICチップの使用に限定されず、端末装置300で駅構内に存在するバーコードや二次元コードを読み取ることにより実施されてもよい。なお、感情情報管理サーバ100は、端末装置300が構内に入ったことが検知される前から、端末装置300へ、データ要求メッセージを送信してもよい。
また、たとえば、感情情報管理サーバ100は、構内カメラ200からのデータに基づいて人(または人の感情)が検知された場合、構内カメラ200へ、データ要求メッセージを送信してもよい。感情情報管理サーバ100は、構内カメラ200からのデータに基づいて人(または人の感情)が検知されなくなった場合、構内カメラ200へ、データ要求メッセージの送信を停止してもよい。
ステップS1107で、構内カメラ200は、ステップS1109で、端末装置300は、前記ユーザー900の行動や生理反応等の計測データの取得を行う。
ステップS1111で、構内カメラ200は、ステップS1113で、端末装置300は、感情情報管理サーバ100へ前記ユーザー900の行動や生理反応等の計測データを送信する。
ステップS1115で、感情情報管理サーバ100は、構内カメラ200や端末装置300から受信したユーザー900の行動や生理反応等の計測データを受信し、感情時空間情報管理部133の処理により該計測データから感情時空間情報のデータを生成する。
また、ステップS1117で、ユーザー900は端末装置300を使用して、ある実空間に対応する感情時空間情報を要求する入力を行う。
ステップS1119で、端末装置300は、感情時空間情報のデータ要求メッセージを生成し、感情情報管理サーバ100へ送信する。前記データ要求メッセージには、前記時刻、位置、感情、またはユーザーIDの情報によるフィルタリング指定に係る情報のデータが含まれていてもよい。
ステップS1121で、感情情報管理サーバ100は、端末装置300から受信した感情時空間情報のデータ要求メッセージを受信し、もし前記フィルタリング指定に係る情報のデータが含まれていた場合は、該フィルタリング指定の条件に適合した感情時空間情報の部分的なデータを抽出する処理を行う。
ステップS1123で、感情情報管理サーバ100は、端末装置300へ感情時空間情報のデータを送信する。
ステップS1125で、端末装置300は、感情情報管理サーバ100から感情時空間情報のデータを受信し、表示部350からユーザー900へ情報提示する。
なお、ステップS1119からS1125で示したような、感情情報管理サーバ100から端末装置300への感情時空間情報のデータの送信は必ずしもユーザー900の操作入力を契機として発生する必要はなく、感情情報管理サーバ100と通信可能な状態にある端末装置300へ感情情報管理サーバ100からプッシュ型で感情時空間情報のデータを配信してもよい。
(2.第2の実施形態)
次に、本発明の第2の実施形態に係る情報通信システムについて説明する。
本発明の第2の実施形態では、感情情報管理サーバ100が、制御部130に確度情報生成部139および関連情報生成部143をさらに含む(図19)。確度情報生成部139は、感情時空間情報管理部133が生成する感情時空間情報の確度情報を生成する。確度情報とは、情報の確からしさに対応する情報であり、たとえば情報のデータ数と関連する。より具体的に、確度情報生成部139は、単位空間あたりの感情時空間情報のデータ数に基づいて、該単位空間における感情情報の代表値の確度情報を生成してもよい。
感情時空間情報が端末装置300の表示部350上で情報提示される際、表示スペースの関係から、感情時空間情報は必ずしも個々の単位ですべて表示されなくてもよく、互いに近い位置情報である(すなわち、単位空間に存在する)複数の感情情報の代表値(平均値、中央値、最頻値等)が表示されても良い。その際に、確度情報生成部139は、前記代表値の基になった感情時空間情報のデータ数を確度情報として算出し、端末装置300において、制御部330は、前記代表値と前記確度情報とを対応づけ、表示部350は、対応づけられた前記代表値と前記確度情報とを情報提示してもよい。
図20は、端末装置300の表示部350に情報提示された表示画面の一例を説明するための説明図である。図20には、ある駅の構内空間の一部に対応する、代表値を用いない個々の感情時空間情報の提示例が示されている。
通路Aの感情情報のデータ数は5、通路Bの感情情報のデータ数は1である。一方、図21は、端末装置300の表示部350に情報提示された表示画面の別の一例を説明するための説明図である。図21には、図20と同じ駅構内空間に対応する、代表値を用いた個々の感情時空間情報の提示例が示されている。
通路Aに対応して提示されている感情時空間情報の数は代表値の1つにまとめられ、その近傍に感情時空間情報のデータ数である「5」が提示されている。一方、通路Bに対応して提示されている感情時空間情報にはその近傍にデータ数の「1」が提示されている(1つの感情時空間情報がそのまま代表値になっている)。
通路Aと通路Bの感情時空間情報の代表値は同じポジティブ感情と強度を示す表示を行っているが、通路Aの感情時空間情報の代表値の方が多くのデータ数に基づき算出されていることから、確からしさは高いといえる(データ数が多くなるほど確からしさが上がる)。一方で、通路Bの感情時空間情報の代表値は1つであるため、該感情時空間情報に対応する1人のユーザーが偶然にその感情を示しただけかもしれず、感情喚起の個人差も考慮すると、通路Aの感情時空間情報の代表値と比較しても確からしさは低い。
図21の場合、通路Aと通路Bの感情時空間情報の代表値と確度情報を端末装置300から提示されたユーザーは、通路Aを選んで行った方が、より確実に感情時空間情報と同様のポジティブ感情の雰囲気を感じられる可能性が高い。なお、図21では、感情時空間情報を通路単位でまとめる例が示されている。しかし、感情時空間情報をまとめる単位は、通路単位に限定されない。たとえば、感情時空間情報をまとめる単位は、他のエリア単位であってもよい。
このように、確度情報生成部139が生成する確度情報を得られることで、ユーザー900は、感情時空間情報の代表値を表示する情報提示モードであっても、遠隔地の全体的な感情分布状況や雰囲気をより高い確からしさで知ることができる。なお、ここでは確度情報の指標例としてデータ数を挙げたが、それに限定されず、前記複数の感情時空間情報のデータ特性をあらわす基本統計量(たとえば範囲(たとえば最大値と最小値との差分)、標準偏差、尖度、歪度等)を確度情報の別の指標としてさらに算出し、情報提示してもよい。さらに、感情情報管理サーバ100は、前述のフィルタリング指定処理を前記確度情報により行っても構わない。
本発明の実施形態においては、端末装置300の表示部350に情報提示される前記空間射影図の表示範囲を変更する拡大・縮小表示処理を、端末装置300が行ってもよい。さらに、前記拡大・縮小表示処理に応じて、前記感情時空間情報の代表値や確度情報の基とする前記個々の感情時空間情報の選択対象を変更してもよい。前記縮小表示処理の縮小度を大きくしていくと、表示部350に情報提示される前記ユーザーの感情情報の数も増えていき、端末装置300の表示部350のハードウェアの表示解像度(表示画素の素子数)は有限であるので、該ユーザーの感情情報の表示画素数や表示サイズも小さくなっていき、前記端末装置300のユーザーから表示される感情情報が視認しにくくなる。
そこで、本発明の実施形態に係るシステム(端末装置300や感情情報管理サーバ100)は、前記縮小表示処理の縮小度の大きさに応じて、前記代表値を算出する際に基にする前記個々の感情時空間情報が存在する対象空間範囲を変更してもよい。たとえば、前記空間射影図を解像度2分の1の表示サイズに縮小表示処理した場合には、前記代表値の基にする前記感情時空間情報の対象空間範囲も2倍の広さとしてもよい。すなわち、2倍の広さの領域内に存在する前記感情時空間情報の代表値や確度情報を求め、表示部350に情報提示させてもよい。
また、複数の感情情報の代表値(平均値、中央値、最頻値等)は、推薦情報が生成される際にも利用され得る。たとえば、上記した高類似度の系列情報が複数選択される場合も想定される。このとき、複数の高類似度の系列情報のうち対象ユーザーの系列情報との対応箇所よりも後段の系列情報に含まれる対応する位置情報同士が同じエリアに該当する場合も想定される。かかる場合には、推薦情報生成部142は、当該後段の系列情報に含まれる対応する感情情報の代表値に基づいて、推薦情報を生成してもよい。
図22は、端末装置300の表示部350に情報提示された表示画面のさらに別の一例を説明するための説明図である。図22を参照すると、図16に示した例と同様に、推薦情報(位置情報および感情情報)が提示されている。さらに、ここでは5つの高類似度の系列情報に含まれるt=+1における位置情報同士が「推薦エリア1」に該当し、そのうちの3つの系列情報に含まれるt=+1における感情のポジティブ度が高くなり、残りの2つの系列情報に含まれるt=+1における感情のポジティブ度が低くなった場合を想定する。
このとき、たとえば、推薦情報生成部142は、「推薦エリア1」のt=+1における感情情報の代表値(たとえば、最頻値=ポジティブ度:高)を推薦情報として生成してもよく、図22の「推薦エリア1」に示されるように、当該代表値(ポジティブ度:高)に対応する人物アイコンが提示されてもよい。また、関連情報生成部143は、当該代表値の推定精度(60%)を関連情報として生成してもよく、図22の「推薦エリア1」に示されるように、当該代表値の推定精度(60%)が提示されてもよい。
なお、推定精度の代わりに、または、推定精度とともに、他の情報が関連情報生成部143によって生成されて端末装置300によって提示されてもよい。たとえば、関連情報生成部143によって代表値の尤度が生成され、端末装置300によって提示されてもよい。あるいは、関連情報生成部143によって代表値の基になった高類似度の系列情報のデータ数(ここでは5つ)が確度情報として生成され、端末装置300によって提示されてもよい。あるいは、関連情報生成部143によって対象ユーザーの系列情報と高類似度の系列情報との類似度または類似度に関連する情報(類似度の高いほうから何番目に該当するかを示す順位など)が生成され、端末装置300によって提示されてもよい。
図22を参照すると、「推薦エリア2」および「推薦エリア3」それぞれにおける感情に対応する人物アイコンおよび当該感情の推定精度も提示されている。「推薦エリア2」では、t=+1における感情(ポジティブ度:高)が推定精度(90%)にて推定され、t=+2における感情(ポジティブ度:超高)が推定精度(80%)にて推定されている。一方、「推薦エリア3」では、t=+1において感情(ポジティブ度:高)が推定精度(40%)にて推定されている。
(3.第3の実施形態)
次に、本発明の第3の実施形態に係る情報通信システムについて説明する。
本発明の第3の実施形態では、感情情報管理サーバ100が、制御部130にエリア分割部144をさらに含む(図23)。エリア分割部144は前記感情時空間系列情報における位置情報の分解能を規定するエリアの分割処理を行う。
前述の位置情報について、その分解能については説明しなかった。前記分解能は低すぎると本システムの機能の有効性を損なう恐れがある(たとえば、複数種類の店舗がひとつのエリアとしてまとめて扱われてしまう等)が、一方で、分解能を高くしすぎる(たとえば1mm単位等)と、前述の類似度の算出演算処理量が大きくなったり、感情情報管理サーバ100に記憶される感情時空間系列情報のデータ量が大きくなりすぎたりしてしまう恐れがある。その解決策として、本第3の実施形態では、前記位置情報の分解能やエリア毎の境界設定を好適に設定することができるエリア分割部144を、感情情報管理サーバ100が含む。
前記エリア毎の境界設定の方法として、1つ目の方法は、手動設定である。本システムの管理者等により、予め境界設定が定められたり、ショッピングモールの店舗毎にエリアの境界が設定され、エリア分割部144は該設定情報を管理する。
2つ目の方法は、ユーザーの「滞留時間」のデータを利用することである。ここで、計測対象のユーザーは特定のユーザーであってもよいが、IDを持つすべてのユーザーであってよい。また、「滞留時間」は、その位置に存在した時間の個人ごとの合計時間を計測対象のユーザーすべてについて平均した量であってよい。図6の例でいえば、店舗A〜Fと比較して、移動用の通路へのユーザーの滞留時間は平均して短くなると考えられる。また、店舗の種類によっても、たとえば立ち食い蕎麦店と高級フレンチ料理店では、ユーザーのその場所への滞留時間に平均的に大きな差が生じるであろう。そのように滞留時間の差が大きい位置群を境界線に設定すると、自動で好適なエリア境界設定の情報を生成し得る。エリア分割部144は、前述の位置情報管理部136や時刻情報管理部135から情報を収集し、ユーザー900の滞留時間の情報を求めて、エリア境界設定の情報を生成する。
図24は、エリア分割の方法について具体的に説明するための図である。ここでは、図24に示すように、空間における水平方向の位置をxy座標として表現し、各位置(xy座標)における計測対象のユーザーの滞留時間の平均をz座標として表現する。エリア分割部144は、ユーザー群(計測対象のユーザー)の位置(xy座標)ごとの滞留時間の情報に基づいて、滞留時間が所定の度合いよりも急激に変化する位置群をエリアの境界として設定する。
たとえば、水平方向(xy平面方向)の変化量ΔAに対する滞留時間の平均(z軸方向)の変化量Δzの割合(変化率)が所定の割合よりも大きい位置(たとえば、ΔAに相当する幅の中点A1)の集合がエリアの境界として設定されてよい。このとき、滞留時間の平均が相対的に高い領域R1が施設(たとえば、店舗など)が存在する領域になり、滞留時間の平均が相対的に低い領域R2が通路が存在する領域になることが主に想定される。
3つ目の方法は、ユーザーの「感情情報の絶対量や変化量」のデータを利用することである。ショッピングモールの例でいえば、玩具店や飲食店等にいる場合と比較し、通路やトイレ等にいる時には平均的にユーザーの感情情報の変化が乏しい(たとえば中性感情付近で停滞する)可能性が高い。また、店舗の種類毎にも対応する感情情報の量に違いが生じるであろう。そのように感情情報の絶対量や変化量の差が大きい位置群を境界線に設定すると、自動で好適なエリア境界設定の情報を生成し得る。エリア分割部144は、前述の位置情報管理部136や時刻情報管理部135に加えて感情推定部131や感情変化情報生成部132から情報を収集し、ユーザー900の絶対量や変化量を求めて、エリア境界設定の情報を生成する。
具体的には、図24に示した説明図におけるz軸を「計測対象のユーザーの滞留時間の平均」の代わりに、「計測対象のユーザーの感情情報(たとえば、ポジティブ度の高さ等)の絶対量または変化量の平均」とすれば、図24を参照しながら説明した方法と同様の方法によって3つ目の方法も実現され得る。すなわち、エリア分割部144は、ユーザー群(計測対象のユーザー)の位置(xy座標)ごとの感情情報の絶対量または変化量の情報に基づいて、感情情報の絶対量または変化量が所定の度合いよりも急激に変化する位置群をエリアの境界として設定すればよい。
上記のようにして、本発明の第3の実施形態では、本システムは、感情時空間系列情報におけるエリア分割処理を好適に行う機能をさらに有することができる。
なお、本発明の実施形態では、ユーザーの位置情報や感情情報の系列情報を主な処理対象情報として説明したが、本発明の実施形態が扱う情報の種類はそれ限定されない。たとえば、感情のネガティブ度の情報に加えて(たとえば、バイタルセンサによってセンシングされた)ユーザーの身体的状況(傷病等)に係る情報を収集できれば、本システムは「災害時の避難支援」用途にも利用できるであろう(推薦情報により、被災地において、心理的・肉体的に安全な状況のエリアに関する情報をユーザーが本システムから得ることができる)。
(4.まとめ)
以上のように、本発明の実施形態によれば、ユーザーが端末装置を用いて、遠隔地(オフィスや駅構内等)の全体的な感情分布状況や雰囲気を、システムからのレコメンド(推薦)情報によって、知ることができる。さらに、時刻情報等によるフィルタリング指定機能を用いて、前記感情分布状況や雰囲気の情報を、所望の情報の含有率が多く不要な情報が削減されたより少ない通信データ量で得ることができる。また、本発明の実施形態は、感情情報と個人情報とを紐づけることなく動作可能であるため、駅など不特定多数のユーザーが利用する公共空間においても、個人情報の安全管理のためのコストをかけずに実施できる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
100 感情情報管理サーバ
110 通信部
120 記憶部
121 感情時空間情報DB
130 制御部
131 感情推定部
132 感情変化情報生成部
133 感情時空間情報管理部
135 時刻情報管理部
136 位置情報管理部
137 感情情報管理部
138 人物同一性情報管理部
139 確度情報生成部
140 感情時空間系列情報管理部
141 系列情報パターン照合部
142 推薦情報生成部
143 関連情報生成部
144 エリア分割部
200 構内カメラ
210 通信部
220 計測部
230 制御部
300 端末装置
310 通信部
320 記憶部
330 制御部
340 入力部
350 表示部
360 センサ部
370 位置情報取得部

Claims (16)

  1. ユーザーの計測データに基づいて生成された感情情報および前記ユーザーの位置情報の少なくともいずれか一方を含む第1の系列情報と、過去の感情情報および位置情報の少なくともいずれか一方を含む1または複数の系列情報それぞれとの類似度をパターン照合により得る系列情報パターン照合部と、
    前記類似度に応じて選択された第2の系列情報に基づいて前記ユーザーに提示される推薦情報を生成する推薦情報生成部と、
    を備える、サーバ装置。
  2. 前記系列情報パターン照合部は、前記1または複数の系列情報から前記第1の系列情報とパターンの類似度が最も高い系列情報を前記第2の系列情報として選択する、
    請求項1に記載のサーバ装置。
  3. 前記系列情報パターン照合部は、前記1または複数の系列情報から前記第1の系列情報とパターンの類似度が閾値よりも高い系列情報を前記第2の系列情報として選択する、
    請求項1に記載のサーバ装置。
  4. 前記系列情報パターン照合部は、前記パターンの類似度が最も高い系列情報または前記パターンの類似度が前記閾値よりも高い系列情報から所定の条件に適合する系列情報を前記第2の系列情報として選択する、
    請求項3に記載のサーバ装置。
  5. 前記推薦情報生成部は、前記パターン照合によって前記第2の系列情報から前記第1の系列情報との対応箇所が特定されると、前記第2の系列情報のうち前記対応箇所よりも後段の系列情報に基づいて前記推薦情報を生成する、
    請求項1〜4のいずれか一項に記載のサーバ装置。
  6. 前記第1の系列情報および前記第2の系列情報それぞれは位置情報を含み、
    前記推薦情報生成部は、前記第2の系列情報のうち前記後段の系列情報に含まれる位置情報に基づいて前記推薦情報を生成する、
    請求項5に記載のサーバ装置。
  7. 前記第1の系列情報および前記第2の系列情報それぞれは感情情報を含み、
    前記推薦情報生成部は、前記第2の系列情報のうち前記後段の系列情報に含まれる感情情報に基づいて前記推薦情報を生成する、
    請求項5または6に記載のサーバ装置。
  8. 前記第1の系列情報および前記第2の系列情報それぞれは位置情報をさらに含み、
    前記推薦情報生成部は、複数の第2の系列情報が選択された場合、かつ、前記複数の第2の系列情報のうち前記後段の系列情報に含まれる対応する位置情報同士が同じエリアに該当する場合、前記後段の系列情報に含まれる対応する感情情報の代表値に基づいて、前記推薦情報を生成する、
    請求項7に記載のサーバ装置。
  9. 前記サーバ装置は、前記代表値の確度情報を前記ユーザーに提示される関連情報として生成する関連情報生成部を備える、
    請求項8に記載のサーバ装置。
  10. 前記サーバ装置は、前記第1の系列情報と前記第2の系列情報とのパターンの類似度または前記類似度に関連する情報を前記ユーザーに提示される関連情報として生成する関連情報生成部を備える、
    請求項1〜8のいずれか一項に記載のサーバ装置。
  11. 前記サーバ装置は、
    ユーザー群の位置ごとの滞留時間の情報に基づいて、前記滞留時間の変化の度合いが所定の度合いよりも大きい位置群を前記位置情報に対応するエリアの境界として設定するエリア分割部を備える、
    請求項1〜10のいずれか一項に記載のサーバ装置。
  12. 前記サーバ装置は、
    ユーザー群の位置ごとの感情情報の絶対量または変化量の情報に基づいて、前記絶対量または前記変化量の変化の度合いが所定の度合いよりも大きい位置群を前記位置情報に対応するエリアの境界として設定するエリア分割部を備える、
    請求項1〜10のいずれか一項に記載のサーバ装置。
  13. ユーザーの計測データに基づいて生成された感情情報および前記ユーザーの位置情報の少なくともいずれか一方を含む第1の系列情報と、過去の感情情報および位置情報の少なくともいずれか一方を含む1または複数の系列情報それぞれとの類似度をパターン照合により得ることと、
    前記類似度に応じて選択された第2の系列情報に基づいて前記ユーザーに提示される推薦情報を生成することと、
    を含む、情報処理方法。
  14. コンピュータを、
    ユーザーの計測データに基づいて生成された感情情報および前記ユーザーの位置情報の少なくともいずれか一方を含む第1の系列情報と、過去の感情情報および位置情報の少なくともいずれか一方を含む1または複数の系列情報それぞれとの類似度をパターン照合により得る系列情報パターン照合部と、
    前記類似度に応じて選択された第2の系列情報に基づいて前記ユーザーに提示される推薦情報を生成する推薦情報生成部と、
    を備えるサーバ装置として機能させるためのプログラム。
  15. ユーザーの計測データに基づいて生成された感情情報および前記ユーザーの位置情報の少なくともいずれか一方を含む第1の系列情報と、過去の感情情報および位置情報の少なくともいずれか一方を含む1または複数の系列情報それぞれとの類似度をパターン照合により得る系列情報パターン照合部と、
    前記類似度に応じて選択された第2の系列情報に基づいて前記ユーザーに提示される推薦情報を生成する推薦情報生成部と、
    を備える、サーバ装置から、前記推薦情報を取得する制御部と、
    前記推薦情報を表示する表示部と、
    を備える、端末装置。
  16. ユーザーの計測データに基づいて生成された感情情報および前記ユーザーの位置情報の少なくともいずれか一方を含む第1の系列情報と、過去の感情情報および位置情報の少なくともいずれか一方を含む1または複数の系列情報それぞれとの類似度をパターン照合により得る系列情報パターン照合部と、
    前記類似度に応じて選択された第2の系列情報に基づいて前記ユーザーに提示される推薦情報を生成する推薦情報生成部と、
    を備える、サーバ装置と、
    前記推薦情報を取得する制御部と、
    前記推薦情報を表示する表示部と、
    を備える、端末装置と、
    を有する、情報通信システム。
JP2018181667A 2018-09-27 2018-09-27 サーバ装置 Active JP7266984B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018181667A JP7266984B2 (ja) 2018-09-27 2018-09-27 サーバ装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018181667A JP7266984B2 (ja) 2018-09-27 2018-09-27 サーバ装置

Publications (2)

Publication Number Publication Date
JP2020052748A true JP2020052748A (ja) 2020-04-02
JP7266984B2 JP7266984B2 (ja) 2023-05-01

Family

ID=69997249

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018181667A Active JP7266984B2 (ja) 2018-09-27 2018-09-27 サーバ装置

Country Status (1)

Country Link
JP (1) JP7266984B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021241373A1 (ja) * 2020-05-25 2021-12-02 パナソニックIpマネジメント株式会社 イベント情報評価装置、生体情報抽出システム、イベント情報評価システムおよび生体情報抽出装置
JP7359095B2 (ja) 2020-07-27 2023-10-11 トヨタ紡織株式会社 移動空間提供システム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002073634A (ja) * 2000-09-05 2002-03-12 Alpine Electronics Inc 行動パターン処理装置
JP2002140362A (ja) * 2000-10-31 2002-05-17 Toshiba Corp 移動体向け情報提供システムおよび情報提供方法
JP2009116541A (ja) * 2007-11-05 2009-05-28 Ntt Docomo Inc 位置情報解析装置、情報配信システムおよび位置情報解析方法
JP2016066389A (ja) * 2014-09-22 2016-04-28 ヤマハ株式会社 再生制御装置及びプログラム
JP2016194614A (ja) * 2015-03-31 2016-11-17 株式会社エクシング 楽曲推薦システム、プログラム及び楽曲推薦方法
JP2017041136A (ja) * 2015-08-20 2017-02-23 ヤフー株式会社 決定装置、決定方法、決定プログラム、端末装置、及び楽曲再生プログラム
WO2018037446A1 (ja) * 2016-08-22 2018-03-01 三菱電機株式会社 情報提示装置、情報提示システムおよび情報提示方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002073634A (ja) * 2000-09-05 2002-03-12 Alpine Electronics Inc 行動パターン処理装置
JP2002140362A (ja) * 2000-10-31 2002-05-17 Toshiba Corp 移動体向け情報提供システムおよび情報提供方法
JP2009116541A (ja) * 2007-11-05 2009-05-28 Ntt Docomo Inc 位置情報解析装置、情報配信システムおよび位置情報解析方法
JP2016066389A (ja) * 2014-09-22 2016-04-28 ヤマハ株式会社 再生制御装置及びプログラム
JP2016194614A (ja) * 2015-03-31 2016-11-17 株式会社エクシング 楽曲推薦システム、プログラム及び楽曲推薦方法
JP2017041136A (ja) * 2015-08-20 2017-02-23 ヤフー株式会社 決定装置、決定方法、決定プログラム、端末装置、及び楽曲再生プログラム
WO2018037446A1 (ja) * 2016-08-22 2018-03-01 三菱電機株式会社 情報提示装置、情報提示システムおよび情報提示方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021241373A1 (ja) * 2020-05-25 2021-12-02 パナソニックIpマネジメント株式会社 イベント情報評価装置、生体情報抽出システム、イベント情報評価システムおよび生体情報抽出装置
JP7359095B2 (ja) 2020-07-27 2023-10-11 トヨタ紡織株式会社 移動空間提供システム

Also Published As

Publication number Publication date
JP7266984B2 (ja) 2023-05-01

Similar Documents

Publication Publication Date Title
JP7438653B2 (ja) 感情情報管理サーバ装置、感情情報管理方法、プログラム及び情報通信システム
US20190294243A1 (en) Fused electroencephalogram and machine learning for precognitive brain-computer interface for computer control
CN103561652B (zh) 用于辅助患者的方法和系统
US20180032126A1 (en) Method and system for measuring emotional state
US20130245396A1 (en) Mental state analysis using wearable-camera devices
US20110201960A1 (en) Systems for inducing change in a human physiological characteristic
JP6930277B2 (ja) 提示装置、提示方法、通信制御装置、通信制御方法及び通信制御システム
US10846538B2 (en) Image recognition system and image recognition method to estimate occurrence of an event
US20180276281A1 (en) Information processing system, information processing method, and storage medium
CN109765991A (zh) 社交互动系统、用于帮助用户进行社交互动的系统及非暂时性计算机可读存储介质
JP6933076B2 (ja) 制御装置、制御方法、プログラム及び制御システム
US11687849B2 (en) Information processing apparatus, information processing method, and program
US20240047046A1 (en) Virtual augmentation of clinical care environments
JP7266984B2 (ja) サーバ装置
JP7306152B2 (ja) 感情推定装置、感情推定方法、プログラム、情報提示装置、情報提示方法及び感情推定システム
US20200279559A1 (en) Information processing apparatus, information processing method, and program
Garrido et al. Automatic detection of falls and fainting
WO2020058942A1 (en) System and method to integrate emotion data into social network platform and share the emotion data over social network platform
Burns et al. Design and evaluation of a smartphone based wearable life-logging and social interaction system
KR101766438B1 (ko) 이상 활동 탐지를 위한 이동 단말기 및 이를 포함하는 그룹 내 구성원들의 관리 지원 시스템
JP6651730B2 (ja) 情報処理システム、情報処理方法、情報処理装置、及び情報処理プログラム
JP2020024117A (ja) 情報管理サーバ、情報管理方法、プログラム、情報提示端末及び情報通信システム
JP6576181B2 (ja) イベント支援システム
US20210249050A1 (en) Information output apparatus, information output method and design support system
JP2010061328A (ja) 注目度測定可視化システム

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190327

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190328

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210507

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220324

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220412

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220525

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221012

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20221012

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20221021

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20221025

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20221104

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20221108

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20221213

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20230110

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20230314

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20230418

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20230418

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230419

R150 Certificate of patent or registration of utility model

Ref document number: 7266984

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150