以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書及び図面において、実質的に同一または類似の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する。ただし、実質的に同一または類似の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
まず、図1を参照して、本発明の実施形態に係るコミュニケーションシステム(制御システム)の概略的な構成を説明する。図1は、本実施形態に係るコミュニケーションシステムの概略的な構成の一例を示す説明図である。図1を参照すると、当コミュニケーションシステムは、感情制御サーバ100(制御装置)、複数のユーザー900、複数のセンサ端末200、複数のコミュニケーション端末300(提示装置)、LAN50を含む。
当コミュニケーションシステムは遠隔地間の情報通信機能を有するため、複数のユーザー900は互いに空間的に離れて存在してもよく、図1では、拠点bAにユーザー900A、センサ端末200A、コミュニケーション端末300A、拠点bBに、ユーザー900B、センサ端末200B、コミュニケーション端末300Bが存在するケースを一例として図示している。ユーザー900Aと900Bは、互いに遠隔協働(テレワーク)を行っており、拠点bAと拠点bBはリモートオフィスの関係であってもよい。
なお、センサ端末200Aとコミュニケーション端末300Aはユーザー900Aの個別使用端末であってもよい。その場合、ユーザー900Aとセンサ端末200Aとコミュニケーション端末300Aとは、それぞれと対応づけられた通信用の識別情報(以下「通信用ID」;たとえば電話番号やIP(Internet Protocol)アドレス)のデータ同士を相互に紐づける設定処理を予め行われ、該設定のデータは感情制御サーバ100に記憶されていてもよい(ユーザー900Bの場合も同様)。
図2は、本実施形態に係る感情制御サーバ100、センサ端末200、コミュニケーション端末300(以下、感情制御サーバ100、センサ端末200及びコミュニケーション端末300それぞれを区別せずに「本実施形態に係る装置」と言う場合がある。)のハードウェア構成の一例を示すブロック図である。なお、上記の各装置のすべてに下記のハードウェア構成のすべてが備えられている必要はなく(たとえば感情制御サーバ100に直接的にセンサが備えられている必要はない)、後述する各装置の機能構成を実現できるハードウェアモジュールが適宜限定して備えられてもよい。
図2を参照すると、本実施形態に係る装置は、バス801、CPU(Central Processing Unit)803、ROM(Read Only
Memory)805、RAM(Random Access Memory)807、記憶装置809、通信インタフェース811、センサ813、入力装置815、表示装置817、スピーカ819を備える。
CPU803は、本実施形態に係る装置における様々な処理を実行する。また、ROM805は、本実施形態に係る装置における処理をCPU803に実行させるためのプログラム及びデータを記憶する。また、RAM807は、CPU803の処理の実行時に、プログラム及びデータを一時的に記憶する。
バス801は、CPU803、ROM805及びRAM807を相互に接続する。バス801には、さらに、記憶装置809、通信インタフェース811、センサ813、入力装置815、表示装置817及びスピーカ819が接続される。バス801は、例えば、複数の種類のバスを含む。一例として、バス801は、CPU803、ROM805及びRAM807を接続する高速バスと、該高速バスよりも低速の1つ以上の別のバスを含む。
記憶装置809は、本実施形態に係る装置内で一時的または恒久的に保存すべきデータを記憶する。記憶装置809は、例えば、ハードディスク(Hard Disk)等の磁気記憶装置であってもよく、または、EEPROM(Electrically
Erasable and Programmable Read Only Memory)、フラッシュメモリ(flash
memory)、MRAM(Magnetoresistive Random Access Memory)、FeRAM(Ferroelectric Random Access Memory)及びPRAM(Phase
change Random Access Memory)等の不揮発性メモリ(nonvolatile
memory)であってもよい。
通信インタフェース811は、本実施形態に係る装置が備える通信手段であり、ネットワークを介して(あるいは直接的に)外部装置と通信する。通信インタフェース811は、無線通信用のインタフェースであってもよく、この場合に、例えば、通信アンテナ、RF回路及びその他の通信処理用の回路を含んでもよい。また、通信インタフェース811は、有線通信用のインタフェースであってもよく、この場合に、例えば、LAN端子、伝送回路及びその他の通信処理用の回路を含んでもよい。
センサ813は、たとえばカメラ、マイクロフォン、生体センサ、その他のセンサまたはそれらの複合である。カメラは、被写体を撮像するもので、例えば光学系、撮像素子及び画像処理回路を含む。マイクロフォンは、周囲の音を収音するもので、該音を電気信号へ変換し該電気信号をデジタルデータに変換する。入力装置815は、タッチパネル、マウス、視線検出装置等である。
表示装置817は、本実施形態に係る装置からの出力画像(すなわち表示画面)を表示するもので、例えば液晶、有機EL(Organic Light-Emitting Diode)、CRT(Cathode
Ray Tube)等を用いて実現され得る。スピーカ819は、音声を出力するもので、デジタルデータを電気信号に変換し該電気信号を音声に変換する。
次に、図3を参照して、本実施形態に係る「センサ端末200」の機能構成の一例を説明する。センサ端末200は、ユーザー900の行動や生理反応を外的に計測して取得したデータを後述する感情制御サーバ100へ送信する。
図3は、本実施形態に係るセンサ端末200の機能構成の一例を示すブロック図である。図3を参照すると、センサ端末200は、通信部210、計測部220及び制御部230を備える。なお、図3には図示していないが、センサ端末200は、計測データを保存するための記憶部や、内部動作状況をユーザーに示すための表示部等をさらに備えていてもよい。
通信部210は、他の装置と通信する。たとえば、通信部210は、LAN50に直接的に接続され、感情制御サーバ100と通信する。また、通信部210は、他のセンサ端末200と通信してもよい。なお、通信部210は、通信インタフェース811により実装され得る。
計測部220は、外界を計測してコミュニケーションに関するマルチメディアデータを生成したり、ユーザー900の行動や生理反応を外的に計測してデータを取得したりする。前記行動や生体反応のデータは、たとえば、カメラにより計測される顔表情や身体姿勢の状態内容を含む画像データ、マイクロフォンにより計測される音声データ、加速度センサにより計測される身体動作の加速度データ、キーボード・マウス・タッチパネル等の入力装置により計測される機器操作データ、各種生体センサにより計測される自律神経系活動(心拍活動、皮膚電気活動、血圧、発汗、呼吸、皮膚・深部体温等)のデータ、中枢神経系活動(脳波、脳血流等)のデータ、視線計測装置により計測される視線運動・瞳孔径・瞬目数等のデータ、唾液または血中の免疫成分のデータ等を含む。
なお、計測部220は、センサ813により実装され得る。センサ端末200のセンサ813は、ユーザーへの非接触式でも接触式でもよい。センサ端末200のセンサが接触式の場合、たとえばセンサ端末200は腕時計等の形状をしたウェアラブル端末であっても構わない。あるいは、センサ端末200は、HMD(Head Mounted Display)であっても構わない。HMDのタイプは、ゴーグル型であっても構わないし、グラス型であっても構わない。また、センサ端末200は、カメラ、マイクロフォン、加速度センサ、通信部等を備えたスマートフォンやタブレット端末であっても構わない。
なお、センサ端末200は、図1の200A、Bのように1名のユーザー900に対応して1台存在してもよいし、協働空間における環境埋め込み型のセンサを想定して1台のセンサ端末200が複数のユーザー900のセンサデータを取得しても構わない。その場合、センサ端末200は複数のユーザー900それぞれについてセンサデータと計測対象人物の識別データとの1対1対応の紐づけ処理を行って、センサデータと計測対象人物の識別データとの各組み合わせを記憶または送信する。前記計測対象人物の識別データは、どのようにして得られてもよく、一例として、カメラによる撮像画像から顔認識によって特定される人物の識別データであってもよい。
制御部230は、センサ端末200の様々な機能を提供する。センサ端末200は、計測だけでなく、前処理、特徴抽出処理、推定を含むデータ分析処理までを実施してもよく、その場合の各種演算処理を制御部230が行ってもよい。なお、制御部230は、CPU803、ROM805及びRAM807により実装され得る。
次に、図4を参照して、本実施形態に係る「コミュニケーション端末300」の機能構成の一例を説明する。コミュニケーション端末300は、ユーザー900からの入力に応じて他のユーザー900のコミュニケーション端末300へ通信要求処理を行ったり、該他のユーザー900の感情を推定した情報を取得して該ユーザー900へ情報提示したりすることができる。
一例として、コミュニケーション端末300は汎用的なスマートフォンやタブレット端末であってもよい。また、図1ではコミュニケーション端末300は1名のユーザー900に対応して1台存在するように図示されているが、複数のユーザー900に共用される共有型端末であってもよい。さらに別の一例として、コミュニケーション端末300は、映像通信機能付の現金自動預け払い機VTM(Video Teller Machine)、駅自動券売機、ビジュアルコールセンターシステム等の表示部付の筐体装置などから送信される計測データに基づく顧客の感情を推定した情報をサポート担当者に提示する端末であってもよい。
図4は、本実施形態に係るコミュニケーション端末300の機能構成の一例を示すブロック図である。図4を参照すると、コミュニケーション端末300は、通信部310、記憶部320、制御部330、入力部340及び提示部350を備える。
通信部310は、他の装置と通信する。たとえば、通信部310は、LAN50に直接的に接続され、感情制御サーバ100と通信する。なお、通信部310は、通信インタフェース811により実装され得る。
記憶部320は、コミュニケーション端末300の動作のためのプログラム及びデータを記憶する。なお、記憶部320は、記憶装置809により実装され得る。
制御部330は、コミュニケーション端末300の様々な機能を提供する。なお、制御部330は、CPU803、ROM805及びRAM807により実装され得る。
入力部340は、ユーザー900からの入力を受け付ける。そして、入力部340は、入力結果を制御部330へ提供する。前記ユーザー900からの入力とは、たとえば、他のユーザー900を通信要求相手として指定するもので、該他のユーザー900の識別情報を選択すること等によって実現される。なお、入力部340は、入力装置815により実装され得る。
提示部350は、制御部330による制御に従って、ユーザーによって知覚され得る情報の提示を行う。本発明の第1の実施形態においては、提示部350がユーザーによって視覚的に知覚される表示画面を表示する場合を主に想定する。かかる場合、提示部350は、表示装置823により実現され得る。しかし、提示部350がユーザーの聴覚によって知覚される情報を提示する場合、提示部350は、スピーカにより実現されてもよい。あるいは、提示部350がユーザーの触覚や嗅覚によって知覚される情報を提示する場合、提示部350は、触覚または嗅覚提示装置により実現されてもよい。
次に、図5を参照して、第1の実施形態に係る「感情制御サーバ100」の機能構成の一例を説明する。図5は、第1の実施形態に係る感情制御サーバ100の機能構成の一例を示すブロック図である。図5を参照すると、感情制御サーバ100は、通信部110、記憶部120及び制御部130を備える。
通信部110は、他の装置と通信する。たとえば、通信部110は、LAN50に直接的に接続され、センサ端末200やコミュニケーション端末300と通信する。なお、通信部110は、通信インタフェース811により実装され得る。
記憶部120は、感情制御サーバ100の動作のためのプログラム及びデータを記憶する。記憶部120は、感情誘導刺激DB121及び感情認識辞書DB122を含む。感情誘導刺激DB121は、後述する感情誘導刺激のデータを記憶する。さらに、前記感情誘導刺激のデータは、後述する感情変容効果の情報と対応づけられて(タグ付けされて)記憶されてもよい。
なお、感情誘導刺激のデータと感情変容効果の情報とは、どのようにして対応づけられてもよい。例えば、実験などによって感情誘導刺激の提示を受けたユーザーの感情がどのように変容しやすいか(例えば、ポジティブ度が上がりやすい、ポジティブ度が下がりやすいなど)に関する知見があらかじめ得られていれば、その感情誘導刺激のデータに対して感情がどのように変容しやすいかを示す情報(すなわち、感情変容効果の情報)が手動によって対応づけられてもよい。あるいは、既知の感情誘導刺激のデータとその感情誘導刺激を受けたユーザーの感情変容の正解情報のデータとに基づいて学習処理によって感情変容推定モデルが生成されている場合、感情変容推定モデルと新たな感情誘導刺激のデータとに基づいて、当該新たな感情誘導刺激のデータに対応づけられる感情変容効果の情報が推定されてもよい。
感情認識辞書DB122は、ユーザー900の前記行動や生体反応のデータを記憶し、該行動や生体反応のデータは前記センサ端末200により取得されたセンサデータを含んでもよい。さらに、感情認識辞書DB122は、ユーザーの感情を推定処理するための感情推定モデル(感情認識辞書)のデータを記憶してもよい。前記感情推定モデルは、予め取得されたセンサデータと、該センサデータ取得時のユーザーの感情の正解情報のデータとを紐づけて学習処理し生成される。前記感情正解情報は、学習処理フェーズにおいてユーザーから質問紙法等により計測されても構わない。また、感情推定モデルはユーザー900の各個人毎、所定期間毎、ユーザー900の行動種別毎等でデータを分類および分割しそれぞれ学習処理させることで生成され、条件に応じた複数の感情推定モデルが存在しても構わない。なお、センサデータからユーザーの個人感情を推定する方法は公知(たとえば特開2012−59107号公報)であるため、本稿ではこれ以上の説明は省略する。なお、記憶部120は、記憶装置809により実装され得る。
制御部130は、感情制御サーバ100の様々な機能を提供する。制御部130は、感情推定部131、感情バランス調整制御部133(判断部)、感情誘導刺激提示制御部135(提示制御部)及び通話契機制御部137(契機制御部)を含む。なお、制御部130は、CPU803、ROM805及びRAM807により実装され得る。
感情推定部131は、ユーザー900からセンサ端末200及び通信部110を介して取得した行動や生体反応の計測データ(センサデータ)に基づいて、ユーザー900毎の個人感情の推定モデルデータおよびそれにより推定(分類)された感情推定データを生成する。また、感情推定部131は、該生成した推定モデルデータと感情推定データを記憶部120に記憶させる機能を有する。
ここで、個人感情とその推定方法について説明を補足する。個人感情は、一例として「人が心的過程の中で行うさまざまな情報処理のうちで、人、物、出来事、環境についてする評価的な反応」(Ortony et al.,1988;大平,2010)と定義される。感情の具体的な種類としては、心理学者Paul Ekmanによる表情に対応する基本感情ベースの離散型モデル上での幸福、驚き、恐れ、怒り、嫌悪、悲しみや、心理学者James A. Russellによる快度及び覚醒度の感情次元ベースの連続型モデルにおける喜怒哀楽の象限などが知られている。他の連続型モデルとしては、Watsonによるポジティブまたはネガティブ感情、Wundtによる3軸モデル(快度、興奮度、緊張度)、Plutchikによる4軸のモデルなどもある。その他、応用的・複合的な感情としては、困惑度、関心度、メンタルストレス、集中度、疲労感、多忙度、創造性、リラックス/緊張度、モチベーション、共感度、信頼度などが挙げられる。さらに、業務活動において集団の雰囲気として体感されるイキイキ感なども高次な感情の一種といえる。本発明の実施形態における感情の定義の有効範囲は、前述の基本感情よりも広く、ユーザーのあらゆる内部「状態」やユーザーの周囲環境や文脈等の影響も加味した「状況」も含むものである。一例として、ポジティブ感情やその度合いは、快度そのものや、快度と覚醒度を合わせたもの、基本感情における幸福の強度の大きさ、もしくは恐れ、怒り、嫌悪、悲しみ等の強度の小ささ等を指標としてあらわされてもよい。
ある人物がどのような感情とその程度にあるかは、たとえば質問紙法を用いることで、該人物の文字、文章、記号による言語的報告によって求めることができる。該質問紙としては“Affect Grid”などがよく知られている。しかしながら、質問紙を用いた計測方法では回答作業が必要になるため、業務など何か別の作業を行っている日常生活においては計測それ自体が本来の目的作業に支障を及ぼしてしまう可能性がある。
そこで、本コミュニケーションシステムにおいて、感情推定部131は、前述のセンサ端末200により計測される行動や生体反応のデータに基づいて(質問紙法等で求めた)感情を機械的に推定処理する。該推定処理を行うためには、予め学習処理によって生成された感情推定モデルのデータが必要となる。感情推定モデルは、たとえば、ある時点・状況における前記行動や生体反応のセンサデータと前記質問紙の回答データとを対応づけた訓練データの群から生成される。たとえば、オフィスに埋め込まれた無数のカメラやマイクロフォン、ウェアラブル活動量計から計測されたユーザーの顔表情、音声、心拍活動、皮膚電気活動等の行動・生体データと、該ユーザーの主観的感情を質問紙回答した正解データとが対応づけられて訓練データとされる。前記行動や生体反応のセンサデータは、センサからの計測値が変換された学習処理用の特徴量データであってもよい。
特徴量データは、顔の代表的特徴点の位置や各2点間を結ぶ直線の距離や成す角度であってもよい。あるいは、特徴量データは、音声の基本周波数、パワー、平均発話速度、一次ケプストラム係数の最高値と標準偏差であってもよい。あるいは、特徴量データは、心拍数や拍動間隔の平均値や標準偏差、心拍変動性であってもよい。あるいは、特徴量データは、皮膚コンダクタンス水準の平均値や標準偏差や増減低下率などであってもよい。これらの特徴量データはどのように使用されてもよく、ある時点における絶対値として使用されてもよいし、2時点間の相対的な変化率として使用されてもよい。
前記訓練データを用いた感情推定モデルの生成には、学習の手法として、たとえば既知のSVM(Support Vector Machine)や深層学習(Deep Learning)法が用いられてもよいし、単純に回帰分析法が利用されてもよい。また、学習モデルはユーザー個人毎に生成されてもよいし、複数のユーザーの訓練データを用いて人間に共通的なモデルが生成されてもよい。感情推定部131は、得られた感情推定モデルのデータを用いることで、ある人物の行動・生体データから個人感情を推定できるようになる。
感情制御サーバ100(たとえば、感情推定部131)は、上述の個人感情推定処理のための訓練データや感情の推定モデル自体を生成する機能を有していてもよい。あるいは、訓練データのための前述の特徴量データの生成は、感情制御サーバ100ではなくセンサ端末200の方で行い、センサ端末200が、該特徴量データを感情制御サーバ100へ送信するようにしてもよい。
図9は、感情推定部131によって記憶部120に記憶されるデータテーブルの一例を説明するための説明図である。図9のデータテーブルには、ユーザー900のID(通信用IDでもよい)、各ユーザー900の現在時刻で推定された個人感情が記憶されている。さらには、前記個人感情の過去の履歴のデータが記憶されていてもよいし、個人毎の感情推定モデルのデータが記憶されていてもよい。これらのデータは、後述する感情バランス調整制御部133によって取得・利用される。
感情バランス調整制御部133は、本システムを用いてユーザー900が通話開始する際に、発呼側ユーザー(話しかける側のユーザー)と着呼側ユーザー(話かけられる側のユーザー)それぞれの推定された感情推定情報を比較し(感情推定情報の差分を算出し)、両者間に所定の量を超える差異があった場合に、発呼側ユーザー及び着呼側ユーザーのうち少なくともいずれか一方に対して、所定の刺激(感情誘導刺激)が提示されるように制御するための処理命令を感情誘導刺激提示制御部135に出す。そして、感情バランス調整制御部133は、感情誘導刺激を受けたユーザーの感情推定情報が他方のユーザーの感情推定情報に近づいてから、両者間の通話(通信)を開始させる要求命令を通話契機制御部137に出す。なお、前記感情誘導に係る処理は後述する感情誘導刺激提示制御部135が、前記通話開始に係る処理は後述する通話契機制御部137が前記要求命令を受けて行う(後述)。
本実施形態では、感情推定情報として、ユーザーの感情を示す感情値の絶対値を用いる場合を主に想定する。しかし、感情推定情報として、ユーザーの感情を示す感情値の絶対値の代わりに、ユーザーの感情を示す感情値が個人ごとに正規化された(または標準化された)相対値(例えば、最大値を基準とした割合)が用いられてもよい。
また、本実施形態では、感情推定情報の差分が所定の量以下になった場合に、両者間の通話を開始させる場合を主に想定する。しかし、感情推定情報の差分が所定の量以下になった場合に加えて、両者(または通信を行う3人以上のユーザー全員)の感情値(絶対値または相対値)が所定の値よりも大きい場合に、通信が開始されてもよい。そうすれば、より円滑なコミュニケーションの実現が可能となる。例えば、感情推定情報の差分が所定の量以下になった場合に加えて、両者(または通信を行う3人以上のユーザー全員)それぞれの相対値が所定の値(例えば、80%など)よりも大きい場合に、通信が開始されてもよい。
ここで、感情誘導刺激は、感情推定情報の差分が小さくなるような刺激であればよい。例えば、感情バランス調整制御部133は、発呼側のユーザー及び着呼側のユーザーのうち少なくともポジティブ度がより低いユーザーに対して感情誘導刺激(例えば、ポジティブ度が上がりやすい刺激)が提示されるように制御するための処理命令を感情誘導刺激提示制御部135に出せばよい。これによって、ポジティブ度がより低いユーザーのポジティブ度が上がる方向に感情誘導され、両者のポジティブ度が近づくことが期待される。
あるいは、感情バランス調整制御部133は、ポジティブ度がより低いユーザーに対して感情誘導刺激(例えば、ポジティブ度が上がりやすい刺激)が提示されるように制御するための処理命令の代わりに、または、当該処理命令とともに、ポジティブ度がより高いユーザーに対して感情誘導刺激(例えば、ポジティブ度が下がりやすい刺激)が提示されるように制御するための処理命令を感情誘導刺激提示制御部135に出してもよい。これによって、ポジティブ度がより高いユーザーのポジティブ度が下がる方向に感情誘導され、両者のポジティブ度が近づくことが期待される。
以下では、発呼側のユーザーの感情推定情報が、発呼側のユーザーのポジティブ度を含み、着呼側のユーザーの感情推定情報が、着呼側のユーザーのポジティブ度を含む場合を主に想定する。しかし、発呼側のユーザーの感情推定情報は、ポジティブ度に限定されず、ポジティブ度以外の感情を示す情報であってもよい。同様に、着呼側のユーザーの感情推定情報は、ポジティブ度に限定されず、ポジティブ度以外の感情を示す情報であってもよい。
より詳細には、感情バランス調整制御部133は、たとえばコミュニケーション端末300Aを用いたユーザー900Aによるユーザー900Bへの発呼要求信号を通信部110を介して受信し、記憶部120からユーザー900Aおよび900Bの個人感情情報(感情推定情報)のデータを取得して両者を比較処理し、両者間のポジティブ度の差異が所定の量以上であると判定された場合に、ポジティブ度が低い方のユーザー900のコミュニケーション端末300へポジティブ度を上げる方向へ感情を変容させる刺激のデータを送信するよう感情誘導刺激提示制御部135へ処理要求を出す。
その後、感情バランス調整制御部133は、ユーザー900Aおよび900Bの個人感情情報(感情推定情報)のデータを随時取得して両者のポジティブ度のモニタリングを続け、両者間のポジティブ度の差異が所定の量以下に小さくなった場合に、ユーザー900Aの通信用IDとユーザー900Bの通信用IDのデータに基づいて両者のコミュニケーション端末300Aと300B間の通信(通話またはメディアストリーミング)を開始させるよう通話契機制御部137へ処理要求を出す。
ここで、前記所定の量は、本システムの管理者等によって予め設定されていても構わない(例えば、差異が高い方のポジティブ度の1割を所定の量の閾値とする等)。あるいは、後述する感情誘導刺激による感情変容の結果、両者間の差異がなくなった(ゼロになった)場合を機械的に検出し、その時ポジティブ度の差異が所定の量以下になったと感情バランス調整制御部133が判定処理しても構わない。
本実施形態においては、感情誘導刺激提示の開始タイミングを制御するために両者間のポジティブ度の差分と比較される所定の量と、両者間の通信の開始タイミングを制御するために両者間のポジティブ度の差分と比較される所定の量とは、同じである場合を想定している。しかし、感情誘導刺激提示の開始タイミングを制御するために両者間のポジティブ度の差分と比較される所定の量と、両者間の通信の開始タイミングを制御するために両者間のポジティブ度の差分と比較される所定の量とは、厳密に同じでなくてもよく、異なっていてもよい。
また、本実施形態においては、前記所定の量は、一定の値である場合を主に想定する。しかし、前記所定の量は、時間の経過に伴って変化してもよい。例えば、ユーザー900Aおよび900Bの少なくともいずれか一方に対して、刺激が提示されたとしても、両者のポジティブ度の差分がなかなか小さくならない場合も想定される。そこで、感情バランス調整制御部133は、両者のポジティブ度の差分が前記所定の量を超える時間が所定の時間を経過した場合、前記所定の量が増加するように所定の量を変化させてもよい。これによって、ユーザー900Aとユーザー900Bとの間の通信が開始されやすくなる。
一例として、感情バランス調整制御部133は、第1の時間(例えば、1分など)が経過しても両者のポジティブ度の差分が前記所定の量以下にならない場合、前記所定の量を増加させてもよく、第1の時間よりも長い第2の時間(例えば、3分など)が経過しても両者のポジティブ度の差分が前記所定の量以下にならない場合、前記所定の量をさらに増加させてもよい。第1の時間および第2の時間は、それぞれ本システムの管理者またはユーザー自身によって設定可能であってよい。
感情誘導刺激提示制御部135は、ユーザー900のコミュニケーション端末300へポジティブ度を上げる方向に感情を変容させる感情誘導刺激のデータを送信する処理を行う。より詳細には、感情誘導刺激提示制御部135は、感情バランス調整制御部133から要求命令を受け、感情バランス調整制御部133が指定したユーザー900(比較の結果ポジティブ度が低かった方のユーザー)の通信用IDを取得し、該通信用IDへ感情誘導刺激DB121から取得した適切な感情誘導刺激のデータを送信する。
たとえば、感情誘導刺激は、視聴した者の感情を変容させる作用を有する写真(静止画像)、映像(動画像)、音楽等であってよい。ここで、表示される画像は、単に風景を写した写真などであってもよいし、その風景の特徴を説明したメッセージ付きの写真などであってもよい。また、画像が表示される場合、画像表示にユーザー900を気づかせるために画像表示とともに所定の効果音が出力されてもよい。前記感情を変容させる作用を有することは、たとえば、刺激に対して事前に主観評価や生理指標評価等を実施し、その作用(ポジティブ度を上げる効果等)を確認しておくことが望ましい。自身で感情誘導刺激を作成せずに、既存に公開されている感情誘導刺激のデータセットを利用してもよい。既存の感情誘導刺激としては、感情誘導標準画像データセットであるIAPS(International Affective Picture System)やGAPED(Geneva Affective PicturE Database)等が知られており、それらに含まれる画像には予め多数の被験者によりポジティブ度や覚醒度の提示変容効果が評価・確認され情報のタグ付けがなされている。
なお、感情誘導方法は上述の方法に限らず、たとえば非特許文献2に紹介されているようにベルテン法や表情を意図的につくらせる方法など多く存在しており、感情誘導刺激提示制御部135はそれらの方法をユーザーに再現させるような処理を行っても構わない。(非特許文献2:Westermann, R. et al., Relative effectiveness and validity of mood
induction procedures: A meta-analysis. European Journal of Social Psychology,
26, pp.557-580, 1996.)。
上記したように、感情誘導刺激は、提示を受けたユーザーの感情が変化しやすい(例えば、ポジティブ度が上がりやすい、ポジティブ度が下がりやすいなど)ことが実験によって知られた刺激であってもよい。あるいは、感情誘導刺激は、既知の感情誘導刺激のデータと感情誘導刺激を受けたユーザーの感情変容の正解情報のデータとに基づいて学習処理によって生成された推定モデルに基づいて、感情が変化しやすい(例えば、ポジティブ度が上がりやすい、ポジティブ度が下がりやすいなど)と推定された刺激であってもよい。
また、本実施形態においては、ユーザーに提示される感情誘導刺激が一定である場合を主に想定する。しかし、ユーザーに提示される感情誘導刺激は、時間の経過とともに変化してもよい。例えば、所定の時間が経過しても両者のポジティブ度の差分値が所定の量以下とならない場合には、ユーザーに提示される感情誘導刺激は、より強い変容作用を有する感情誘導刺激に変更されてもよい。感情誘導刺激はどのように変更されてもよい。感情誘導刺激として出力される音量が大きくなってもよい、感情誘導刺激として表示される画像の種類が変更されてもよい。
通話契機制御部137は、発呼側のユーザー900Aと着呼側のユーザー900B間のポジティブ度の差異が所定の量以下であると判定された場合に、ユーザー900Aのコミュニケーション端末300Aとユーザー900Bのコミュニケーション端末300B間の通信を成立させる処理を行う。より詳細には、通話契機制御部137は、感情バランス調整制御部133から要求命令を受け、感情バランス調整制御部133が指定した発呼側と着呼側のユーザー900の通信用IDをそれぞれ取得し、感情バランス調整制御部133から該ユーザー900間のポジティブ度の差異が所定の量以下になったという判定信号を受信すると、該通信用ID同士の通信を成立させ、該通信用IDに紐づいたコミュニケーション端末300同士での通話(音声のみでなくテレビ電話でも構わない)を行えるようにする。
さらに、通話契機制御部137は、前述のコミュニケーション端末300Aを用いたユーザー900Aによるユーザー900Bへの発呼要求信号を受けて、感情バランス調整制御部133が感情誘導刺激提示制御部135に命令してユーザー900Aとユーザー900Bの個人感情のポジティブ度の差異を所定の量以下にするまでの間、その感情バランス調整処理の状況を示す情報を、コミュニケーション端末300を介してユーザー900(この場合は特に900A)に提示する処理を行ってもよい(後述の図6)。なお、感情バランス調整処理の状況を示す情報は、ユーザー900Aの代わりに、または、ユーザー900Aに追加して、ユーザー900Bに提示されてもよい。
図6は、発呼側のユーザー900のコミュニケーション端末300の提示部350によって提示された前述の感情バランス調整処理中であることを示す表示画面の一例を説明するための説明図である。
前記表示画面には、着呼側のユーザー900のID610(図の例ではIDは“900B”)、発呼側のユーザー900と着呼側のユーザー900の感情のポジティブ度の差異が所定の量よりも大きいため感情バランス調整処理を行っている最中であるというメッセージ620、さらに、発呼側のユーザー900と着呼側のユーザー900の現在の感情のポジティブ度(リアルタイムに値が更新されてもよい)を示すグラフ630、今すぐ通話するボタン640等が表示されている。
発呼側のユーザー900と着呼側のユーザー900の現在の感情のポジティブ度を示すグラフ630が提示されることによって、発呼側のユーザー900は、両者のポジティブ度の差分を視認可能となる。このように、通話契機制御部137は、両者のポジティブ度の差分が所定の量を超えると判断された場合に、少なくとも両者のポジティブ度の差分が視認可能に発呼側のユーザー900に提示されるように制御するとよい。なお、両者のポジティブ度の差分は、グラフ630以外の様態(例えば、両者のポジティブ度、両者のポジティブ度の差分値など)によって提示されてもよい。
上記では、通話契機制御部137が、両者のポジティブ度の差が所定の量以下になったと判断された場合、発呼側のユーザー900と着呼側のユーザー900との間の通信を開始させる例を主に説明した。しかし、通話契機制御部137が、発呼側のユーザー900と着呼側のユーザー900との間の通信を開始させるタイミングは、かかる例に限定されない。例えば、通話契機制御部137は、所定の条件が満たされた場合、発呼側のユーザー900と着呼側のユーザー900との間の通信を開始させてもよい。例えば、通話契機制御部137は、所定の通信開始指示が入力された場合、発呼側のユーザー900と着呼側のユーザー900との間の通信を開始させてもよい。通信開始指示は、今すぐ通話するボタン640を選択する操作であってもよい。
今すぐ通話するボタン640は、ユーザー900のポジティブ度の状態に限らずすぐに通話したいという緊急性が高い状況で使用される入力用インタフェースであり、ユーザー900のタッチ等によって入力を受け付けると、制御部330、通信部310および通信部110を介して信号が送られ、受信した通話契機制御部137は即座に発呼側のユーザー900と着呼側のユーザー900のコミュニケーション端末300間の通信を成立させる。
図6の表示画面は、感情バランス調整処理が終了した時点(ポジティブ度の差異が所定の量以下になった時点、または、コミュニケーション端末300間の通信が成立した時点)まで表示されており、その後は後述の図8の画面や、一般的な通話状態画面に遷移してもよいし、通話状態画面中でも通話中のコミュニケーション支援情報としてたとえば感情のポジティブ度を示すグラフ630を表示させ続けてもよい。
図7は、着呼側のユーザー900のコミュニケーション端末300の提示部350によって提示された前述の感情誘導刺激を含む表示画面の一例を説明するための説明図である。
前記表示画面には、前述の感情誘導刺激710(図の例では美しい風景の写真)、感情誘導処理を終了するボタン720等が表示されている。感情誘導処理を終了するボタン720が、ユーザー900のタッチ等によって選択されると、制御部330は、提示部350の表示画面の表示を終了し、また、制御部330、通信部310および通信部110を介して信号が送られ、受信した通話契機制御部137は、感情バランス調整制御部133へ感情誘導処理が終了されたという情報を送信する。
感情バランス調整制御部133は、前記情報を受領すると、前述の感情バランス調整処理を終了し、発呼側のユーザー900のコミュニケーション端末300へ前記情報を含むデータのメッセージを送信する。発呼側のユーザー900は、コミュニケーション端末300から前記メッセージを参照することができ、次の行動(感情バランス調整処理をスキップして直接的に電話をかける等)を決定できる。
なお、前述の説明では、通話契機制御部137は、感情バランス調整処理が終了した時点で通信を成立させ、すぐに通話が開始される例を述べたが、本実施形態は、該動作に限定されない。たとえば、通話開始前に着信・応答の手続きを挿入しても構わない。すなわち、前記感情バランス調整処理が終了した時点で、着呼側のユーザー900のコミュニケーション端末300へINVITEメッセージが送信され、該コミュニケーション端末300は該INVITEメッセージを受信するとユーザー900の呼び出し処理(着信音を鳴らす等)を行い、着呼側のユーザー900が受話してから通話を開始させても構わない。
図8は、発呼側および着呼側のユーザー900のコミュニケーション端末300の提示部350によって提示された前記呼び出し処理中の表示画面の一例を説明するための説明図である。前記表示画面には、ユーザー900呼び出し処理中の一般的な電話待ち受け情報の他に、発呼側のユーザー900と着呼側のユーザー900の現在の感情のポジティブ度を示すグラフ830が表示されていてもよい。
図8を参照すると、一般的な電話待ち受け情報の例として、提示部350Aによって表示される表示画面には、発呼を中止するための中止するボタン840が含まれている。また、提示部350Bによって表示される表示画面には、着呼に応答するための応答するボタン850が含まれている。グラフ830は前述の図6のグラフ630と同等の情報であるが、図8の画面が表示される時点は、感情バランス調整処理が終了した時点であるので、発呼側のユーザー900と着呼側のユーザー900間のポジティブ度の差異は非常に小さくなっている。さらに現在の両者のポジティブ度の大きさ等が示されている。
発呼側のユーザー900と着呼側のユーザー900は、お互いの感情状態が類似した状況であること、お互いのポジティブ度の大きさの程度を認知できた状態(お互いの状況把握ができた状態、言い換えるとアウェアネスが共有された状態)で通話を開始することができるため、本システムによる感情バランス調整処理機能がない従来の電話装置と比較して、より円滑に会話のコミュニケーションを始めることができる。
各種の変形例も想定される。上記では、発呼側のユーザー1名と着呼側のユーザー1名の利用状況における感情バランス調整処理機能の例を述べた。しかし、同機能は3名以上のユーザー利用による多人数通話の状況において実現されてもよい。その場合、3以上のポジティブ度間の差異(例えば、3人以上のポジティブ度のうち、最大のポジティブ度と最小のポジティブ度との差異)が所定の量以下になるまで感情バランス調整処理が行われてもよい。ただし、最大のポジティブ度および最小のポジティブ度は、時間経過に伴って変化する可能性もあり得る。
また、上記では、感情推定情報の所定の量を変容対象としているが、前述のように感情には基本感情ベースの離散型モデルの理論も存在し、そのような場合は量ではなく、発呼側と着呼側のユーザーの感情推定情報の「質」を(ポジティブ度がより強い感情に)揃えるように感情バランス調整制御部133は動作してもよい。たとえば、発呼側のユーザーの推定感情が基本感情の「幸福」であり、着呼側のユーザーの推定感情が基本感情の「悲しみ」であった場合に、着呼側のユーザーの推定感情が「幸福」や「喜び」等に離散的に変容するように感情誘導刺激の提示制御を行わせてもよい。
また、前記多人数通話は同時に通話開始される必要はなく、すでに本システムを用いて通話が行われている状況で、新たなユーザーが該通話に後から参入する形で多人数通話になる場合にも、感情バランス調整処理が行われてもよい。その場合、後から参入するユーザーを発呼側のユーザーとみなし、感情制御サーバ100は、すでに通話中のユーザー群の感情推定情報のデータを取得したり、該すでに通話中のユーザー群へ感情誘導刺激を提示したりしても構わない。
続いて、図10および図11を参照して、本実施形態に係る情報処理動作の例を説明する。図10および図11は、本実施形態に係るコミュニケーションシステムの動作シーケンスの一例を示す説明図である。
後述する動作シーケンスは、図1で示した、拠点bAのユーザー900Aがコミュニケーション端末300Aを使用して拠点bBにいるユーザー900Bへ発呼を行い、ユーザー900Aと900B間のポジティブ度の差異が所定の量以上(例として900Bの方が低い状況)であったため、本システムによるユーザー900Aと900Bに対する感情バランス調整処理が行われ、ユーザー900Aと900B間のポジティブ度の差異が所定の量以下になったのちに通話が成立するまでの処理の流れの一例である。
図11に示したように、ステップS1101で、ユーザー900Aはコミュニケーション端末300Aを使用して、ユーザー900B(のコミュニケーション端末300B)へ発呼する操作入力を行う。ステップS1103で、コミュニケーション端末300Aは、ユーザー900Aおよび900Bの識別情報を含んだ通信要求メッセージを生成し、感情制御サーバ100へ、通信要求メッセージを送信する。
ステップS1105で、感情制御サーバ100は、コミュニケーション端末300Aから前記通信要求メッセージを受信し、記憶部120に予め記憶された設定データからユーザー900Aおよび900Bの識別情報と紐づいたセンサ端末200Aおよび200Bの通信用IDを特定する、情報通信制御処理を行う。ステップS1107で、感情制御サーバ100は、センサ端末200Aへ、ステップS1109で、感情制御サーバ100は、センサ端末200Bへ、データ要求メッセージを送信する。
ステップS1111で、センサ端末200Aは、ステップS1113で、センサ端末200Bは、感情制御サーバ100からデータ要求メッセージを受信し、計測部220から外界、たとえばユーザー900Aまたは900Bの行動や生体反応等の計測処理を開始して、それらの計測データを取得する。ステップS1115で、センサ端末200Aは、ステップS1117で、センサ端末200Bは、感情制御サーバ100へ、前記計測データ(ユーザー900Aまたは900Bの行動や生体反応のデータ)を送信する。
ステップS1119で、感情制御サーバ100は、受信した前記計測データに基づいて、
ユーザー900Aまたは900Bの個人感情のポジティブ度を推定する。さらに、感情制御サーバ100は、ユーザー900Aまたは900Bの個人感情のポジティブ度を比較して、両者間のポジティブ度の差異が所定の量以上であるか否かを判定処理する。もし前記ポジティブ度の差異が所定の量以上であった場合は、次にステップS1121が実行される。
本動作シーケンスの例では、ユーザー900Bの感情のポジティブ度がユーザー900Aより所定の量以上小さかったケースを想定して説明する。また、もし前記ポジティブ度の差異が所定の量以下であった場合は、以降のステップS1121〜1143はスキップされ、次にステップS1145が実行される。ステップS1121で、感情制御サーバ100は、前記ポジティブ度の差異を小さくするように感情バランス調整処理を実行することを決定し、感情誘導刺激の取得などの処理実行の準備を行う。
ステップS1123で、感情制御サーバ100は、コミュニケーション端末300Bへ、(ユーザー900Bの感情のポジティブ度を上げる)感情誘導刺激のデータを送信する。ステップS1125で、コミュニケーション端末300Bは、感情制御サーバ100から前記感情誘導刺激のデータを受信し、提示部350Bに感情誘導刺激を含む表示画面を提示する(たとえば前述の図7)。ステップS1127で、感情制御サーバ100は、コミュニケーション端末300Aへ、感情バランス調整処理中であることを含む処理状況通知のデータを送信する。
ステップS1129で、コミュニケーション端末300Aは、感情制御サーバ100から前記感情バランス調整処理中であることを含む処理状況通知のデータを受信し、提示部350Aに感情バランス調整処理中であることを示す表示画面を提示する(たとえば前述の図6)。
ステップS1131〜S1141は、ステップS1121〜S1129の処理の結果として感情変容されたユーザー900Bのポジティブ度と時間経過の結果として感情変容された可能性があるユーザー900Aのポジティブ度とを再び推定するために実行される。ステップS1131〜S1141は、前述のステップS1107〜S1117と同等の処理であるため、ここでは説明を省略する。
ステップS1143で、感情制御サーバ100は、ステップS1119と同等の処理を行う。もし前記ポジティブ度の差異が所定の量以上であった場合は、次はステップS1121が再び実行される。また、もし前記ポジティブ度の差異が所定の量以下であった場合は、次にステップS1145が実行される。ステップS1145で、感情制御サーバ100は、コミュニケーション端末300Aへ、ステップS1147で、感情制御サーバ100は、コミュニケーション端末300Bへ、通話開始処理を要求するメッセージを送信する。
ステップS1149で、コミュニケーション端末300Aとコミュニケーション端末300Bは、感情制御サーバ100を介した通話に係る通信処理を開始し、コミュニケーション端末300Aとコミュニケーション端末300B間で通話を開始することができる。
以上のように、本実施形態によれば、遠隔コミュニケーションシステムにおいて発呼側のユーザーと着呼側のユーザーの感情をポジティブ度が高い方の状態に揃える感情バランス調整機能が実現されることによって、発呼側と着呼側双方のユーザーにとって良好な感情状態で会話を始めることができ、従来の電話システム等と比較してより円滑な遠隔コミュニケーションを行うことができるようになる。
次に、遠隔コミュニケーションシステムの第2の実施形態について説明する。図12を参照して、第2の実施形態に係る「感情制御サーバ1000」の機能構成の一例を説明する。図12は、第2の実施形態に係る感情制御サーバ1000の機能構成の一例を示すブロック図である。図12を参照すると、感情制御サーバ1000は、通信部110、記憶部120及び制御部130を備える。ここで、制御部130は、第1の実施形態と異なり、感情誘導作用予測部139(予測部)を有する。
感情誘導作用予測部139は、発呼側ユーザーおよび着呼側ユーザーそれぞれの推定されたポジティブ度の差分が所定の量を超えると判断された場合に、差分が所定の量以下になるまでの予測時間が、発呼側のユーザー及び前記着呼側のユーザーのうち少なくともいずれか一方に対して提示されるように制御する。以下では、発呼側のユーザーに対して予測時間が提示される場合を主に説明する。
図13は、発呼側のユーザー900のコミュニケーション端末300の提示部350によって提示された前述の感情バランス調整処理中であることを示す表示画面の他の一例を説明するための説明図である。第2の実施形態では、図13に示した予測時間情報650のように、感情バランス調整処理中であることを示す表示画面において、該感情バランス調整処理が終了するまでの予測時間がさらに表示される。
感情誘導作用予測部139は、ユーザー900毎の感情誘導作用への反応特性を学習し、あるユーザー900がある性質の感情誘導刺激を提示された場合に、該ユーザー900がたとえば何秒後に目標とする感情誘導状態になるのかを予測する。感情誘導作用予測部139は、ユーザー900が前述の感情誘導刺激提示制御部135によって感情誘導刺激を提示された時点から、該ユーザー900の個人感情情報(感情推定情報)のデータを随時取得して、該ユーザー900の感情誘導刺激に対する個人感情の経時変容特性の情報を含むデータを記憶部120に記憶させる。
そのように紐づけられたデータが記憶部120に蓄積され、感情誘導作用予測部139により学習処理されて、ユーザー900毎に、どのような感情誘導刺激(たとえば、ポジティブ度を上げるもしくは下げる刺激か、刺激の強度はどれくらいか)を提示するとどのように個人感情が経時変容するか、を推定できる感情誘導反応予測モデルが生成され、該感情誘導反応予測モデルのデータは記憶部120に記憶される。
感情誘導作用予測部139は、あるユーザー900が別のユーザー900へ本システムを用いて電話をかける際に、感情バランス調整制御部133が要求し感情誘導刺激提示制御部135によって該別のユーザー900へ提示される感情誘導刺激とその感情変容効果の情報を取得し、該情報のデータを該別のユーザー900の感情誘導反応予測モデルの入力データとして、出力データとなる個人感情の経時変容の予測データ(たとえば、「6秒後」に発呼側のユーザー900と該別のユーザー900間のポジティブ度の差異が所定の量以下に小さくなる等)を生成する。
さらに、感情誘導作用予測部139は、前記個人感情の経時変容の予測データを、通信部110を介して、発呼側のユーザー900のコミュニケーション端末300へ送信する。コミュニケーション端末300は、前記個人感情の経時変容の予測データを受信し、たとえば感情バランス調整処理が終了するまでの予測時間(例えば、図13に示した予測時間情報650)を提示部350へ表示する。
なお、前記感情誘導反応予測モデルは、個人毎ではなく、複数の人物集団における予測モデルであってもよい。
続いて、図11を参照しながら、第2の実施形態に係る情報処理動作を説明する。図11のステップS1121において、感情バランス調整制御部133によって感情誘導刺激の内容が決定された際に、感情誘導作用予測部139によって前記個人感情の経時変容の予測データが生成されてもよい。また、図11のステップS1127において、感情制御サーバ100は、コミュニケーション端末300Aへ、前記個人感情の経時変容の予測データを前述の処理状況通知のデータと併せて送信してもよい。
さらに、図11のステップS1129において、コミュニケーション端末300Aは、感情制御サーバ100から個人感情の経時変容の予測データを受信し、提示部350Aに感情バランス調整処理が終了するまでの予測時間を含む表示画面を提示してもよい。
以上のように、第2の実施形態によれば、遠隔コミュニケーションシステムにおいて感情バランス調整機能が動作する際に、発呼側のユーザーに該感情バランス調整機能が終了し会話が開始できるまでの予測時間の情報を提供することができ、発呼側のユーザーが会話開始までの待ち時間を把握できることで、いつ会話を始められるかわからない不安な心理状況になることなく、該感情バランス調整機能をユーザーが利用できる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
たとえば、上記においては、コミュニケーション端末300の制御部330が、提示部350によって提示される各種情報のレイアウト(たとえば、図6に示した感情バランス調整処理中であることを示す表示画面、図7に示した感情誘導刺激を含む表示画面、図8に示した呼び出し処理中の表示画面、図13に示した感情バランス調整処理中であることを示す表示画面など)を決める場合を主に想定した。しかし、提示部350によって提示される各種情報のレイアウトは、他の装置(たとえば、感情制御サーバ100など)によって決められてもよい。
また、上記においては、感情制御サーバ100が発呼側および着呼側のユーザー900のコミュニケーション端末300とは、独立して設けられる場合を主に想定した。しかし、感情制御サーバ100が有する機能の一部または全部は、発呼側または着呼側のユーザー900のコミュニケーション端末300に組み込まれていてもよい。かかる場合には、感情制御サーバ100と発呼側または着呼側のユーザー900のコミュニケーション端末300との間の通信によって実現される機能は、発呼側および着呼側のユーザー900のコミュニケーション端末300間のP2P通信によって実現される。