JP4868360B2 - 興味傾向情報出力装置、興味傾向情報出力方法、及びプログラム - Google Patents

興味傾向情報出力装置、興味傾向情報出力方法、及びプログラム Download PDF

Info

Publication number
JP4868360B2
JP4868360B2 JP2006220969A JP2006220969A JP4868360B2 JP 4868360 B2 JP4868360 B2 JP 4868360B2 JP 2006220969 A JP2006220969 A JP 2006220969A JP 2006220969 A JP2006220969 A JP 2006220969A JP 4868360 B2 JP4868360 B2 JP 4868360B2
Authority
JP
Japan
Prior art keywords
information
interest
acquirer
interest tendency
tendency
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006220969A
Other languages
English (en)
Other versions
JP2008046801A (ja
Inventor
禎宣 伊藤
一郎 馬田
朋二 鳥山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ATR Advanced Telecommunications Research Institute International
Original Assignee
ATR Advanced Telecommunications Research Institute International
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ATR Advanced Telecommunications Research Institute International filed Critical ATR Advanced Telecommunications Research Institute International
Priority to JP2006220969A priority Critical patent/JP4868360B2/ja
Publication of JP2008046801A publication Critical patent/JP2008046801A/ja
Application granted granted Critical
Publication of JP4868360B2 publication Critical patent/JP4868360B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Position Input By Displaying (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、情報提供者から情報を取得する情報取得者の興味傾向に関する情報である興味傾向情報を出力する興味傾向情報出力装置等に関する。
従来、人々の興味関心の傾向を判別するための研究がなされている。例えば、ウェブのブックマーク履歴からユーザの興味傾向を判別する研究が行われている。また、実世界環境では、非言語行動としてのユーザの滞在位置を分析したり、ミーティング等の特定環境での定型的行動を検出したりすることによって、ユーザの興味対象を推察する試み等がなされている(例えば、非特許文献1〜4参照)。
Chiu,P.,Kapuskar,A.,Wilcox,L.,「Meeting Capture in a Media Enriched Conference Room」、Proceedings of CoBuild 1999、Springer−Verlag LNCS 1670、1999年、p.79−88 Cutler,R.,Rui,Y.,Gupta,A.,Cadiz,JJ,Tashev,I.,He,L.,Colburn,A.,Zhang,Z.,Liu,Z.,Silverberg,S.,「Distributed meetings: a meeting capture and broadcasting system」、Proceedings of the tenth ACM international conference on Multimedia(MULTIMEDIA2002)、ACM Press、2002年、p.503−512 中西泰人、辻貴孝、大山実、箱崎勝也、「Context Aware Messaging Service:位置情報とスケジュール情報を用いたコミュニケーションシステムの構築および運用実験」、情報処理学会論文誌、Vol.42、No.7、2001年、p.1847−1857 角康之、江谷為之、Sidney Fels、Nicolas Simonet、小林薫、間瀬健二「C−MAP:Context−awareな展示ガイドシステムの試作」、情報処理学会論文誌、Vol.39、No.10、1998年10月、p.2866−2878
情報取得活動の行為形態は、情報取得の客体から3つに分類することができる。第1は、物から情報を取得する形態である。第2は、人から情報を直接取得する形態である。第3は、物と人との両方から情報を取得する形態である。ここで、物には、例えば、文字や図画等が表示されている。また、第3の形態としては、例えば、販売員が顧客に物を販売する状況や、医者が患者に検査結果等を示しながら病状や治療方針について説明する状況、講師が聞き手に対して図画等を示しながら授業やプレゼンを行う状況等がある。そのような情報取得の第3の行為形態において、情報取得者の興味傾向を取得したいという要請がある。例えば、情報取得者である顧客等の興味傾向を取得することによって、営業活動等の方針を決定したり、営業活動等の改善を行ったりすることができるからである。
上記非特許文献1,2では、上述の第2の情報取得の形態についてユーザの興味対象を分析することが記載されているが、上述の第3の情報取得の形態についてユーザの興味対象を分析することは記載されていない。また、上記非特許文献3,4では、ユーザの滞在位置等の分析を行うことによって、上述の第1の情報取得の形態についてユーザの興味対象を分析することが記載されているが、上述の第3の情報取得の形態についてユーザの興味対象を分析することは記載されていない。
本発明は、上記のような状況においてなされたものであり、情報提供者が情報取得者に対面して説明対象物に関連する情報を提供しており、情報取得者が説明対象物に直接アクセス可能な状況において、情報取得者の興味傾向を示す情報である興味傾向情報を適切に取得し、出力することができる興味傾向情報出力装置等を提供することを目的とする。
上記目的を達成するため、本発明による興味傾向情報出力装置は、情報提供者が情報取得者に対面して説明対象物に関連する情報を提供している状況であり、かつ、前記情報取得者が前記説明対象物に直接アクセス可能な状況における、前記情報取得者の動きを示す情報であり、前記情報取得者の視線に関する情報と、前記情報取得者のうなずきを検出可能な情報とを少なくとも含む情報であるモーション情報を受け付けるモーション情報受付部と、前記情報取得者の発した音声に関する情報である音声情報を受け付ける音声情報受付部と、前記モーション情報受付部が受け付けたモーション情報と、前記音声情報受付部が受け付けた音声情報とから、前記情報取得者の興味傾向に関する情報である興味傾向情報を生成する興味傾向情報生成部と、前記興味傾向情報生成部が生成した興味傾向情報を出力する興味傾向情報出力部と、を備えたものである。
このような構成により、上記のような状況における情報取得者の興味傾向を取得することができる。特に、情報取得者の音声情報、視線に関する情報、うなずきを検出可能な情報を少なくとも受け付けて、それらの情報をもとに興味傾向情報を生成するため、より多くの情報を用いて興味傾向情報の生成を行うこととなり、より適切な興味傾向情報の生成が可能となる。
また、本発明による興味傾向情報出力装置では、前記興味傾向情報生成部は、情報取得者が情報の取得時に行う行動である情報取得行動の発生の条件を示す情報である条件情報が記憶される条件情報記憶手段と、前記条件情報記憶手段で記憶されている条件情報を用いて、前記モーション情報及び前記音声情報から情報取得行動の発生を検出し、検出した情報取得行動に関する情報である情報取得行動情報を生成する情報取得行動情報生成手段と、前記情報取得行動情報生成手段で生成された情報取得行動情報を用いて興味傾向情報を生成する興味傾向情報生成手段と、を備えていてもよい。
このような構成により、モーション情報から情報取得行動という情報取得時に行われる定型の行動を検出し、その検出された情報取得行動を用いて興味傾向情報を生成することができる。情報取得行動の種類や条件情報を適切に設定することにより、より適切な興味傾向情報の生成を行うことができる。
また、本発明による興味傾向情報出力装置では、前記興味傾向情報生成部は、情報取得行動情報の示す値を引数とする関数を示す情報である関数情報が1以上記憶される関数情報記憶手段をさらに具備し、前記興味傾向情報生成手段は、前記関数情報記憶手段で記憶されている1以上の関数情報の示す関数に、前記情報取得行動情報生成手段で生成された情報取得行動情報の示す値を代入することにより興味傾向情報を生成してもよい。
このような構成により、関数情報を用いることによって、検出された情報取得行動から興味傾向情報を生成することができる。関数情報を適切に設定することにより、より適切な興味傾向情報の生成を行うことができる。
また、本発明による興味傾向情報出力装置では、前記興味傾向情報は、前記情報取得者の興味傾向の種類を示す情報を含んでいてもよい。
このような構成により、出力された興味傾向情報によって、情報取得者の興味傾向の種類がどのようなものであるのかについて知ることができる。
また、本発明による興味傾向情報出力装置では、前記興味傾向情報は、前記情報取得者の所定の種類の興味傾向の程度を示す情報を含んでいてもよい。
このような構成により、出力された興味傾向情報によって、情報取得者の所定の種類の興味傾向の程度がどれぐらいであるのかについて知ることができる。
本発明による興味傾向情報出力装置等によれば、情報提供者が情報取得者に対面して説明対象物に関連する情報を提供している状況であり、かつ、情報取得者が説明対象物に直接アクセス可能な状況における情報取得者の興味傾向を取得することができる。特に、情報取得者の音声情報、視線に関する情報、うなずきを検出可能な情報を少なくとも受け付けて、それらの情報をもとに興味傾向情報を生成するため、より多くの情報を用いて興味傾向情報の生成を行うこととなり、より適切な興味傾向情報の生成が可能となる。また、その興味傾向情報を用いることにより、例えば、情報取得者としての顧客等の興味傾向に基づいた営業活動等の方針の決定や、営業活動等の改善等を行うことができる。
以下、本発明による興味傾向情報出力装置について、実施の形態を用いて説明する。なお、以下の実施の形態において、同じ符号を付した構成要素及びステップは同一または相当するものであり、再度の説明を省略することがある。
(実施の形態1)
本発明の実施の形態1による興味傾向情報出力装置について、図面を参照しながら説明する。
図1は、本実施の形態による興味傾向情報出力装置1の構成を示すブロック図である。図1において、本実施の形態による興味傾向情報出力装置1は、モーション情報受付部11と、モーション情報蓄積部12と、音声情報受付部13と、音声情報蓄積部14と、興味傾向情報生成部15と、興味傾向情報出力部16とを備える。
モーション情報受付部11は、モーション情報を受け付ける。ここで、モーション情報とは、情報取得者の動きを示す情報である。このモーション情報は、情報提供者が情報取得者に対面して説明対象物に関連する情報を提供している状況であり、かつ、情報取得者が説明対象物に直接アクセス可能な状況における、情報取得者の動きを示す情報である。情報提供者は、例えば、顧客に商品やサービス等について説明する販売員、生徒を教える教師、患者に症状や治療方針等について説明する医師、広報活動を行う広報担当者、セミナー等での講師等である。情報提供者から情報を提供される情報取得者は、例えば、顧客、生徒、患者、広報を聞く人、セミナー等への参加者等である。説明対象物は、例えば、販売員が顧客に説明している商品(例えば、家電製品や自動車、衣服等)であってもよく、販売員が顧客に説明しているサービス(例えば、旅行や保険、教育等)について記載されているパンフレットや書類であってもよく、医者が患者への説明で用いている検査結果(例えば、X線写真や内視鏡写真、血液検査の結果等)や治療方針を示す図表等であってもよく、講師が聞き手へのプレゼンや授業で用いている資料(例えば、板書や図画、配付資料等)であってもかまわない。情報取得者が説明対象物に直接アクセス可能であるとは、例えば、情報取得者が、その説明対象物に直接触れることができることでもよく、その説明対象物を直接見ることができることでもよく、その説明対象物の音等を直接聞くことができることでもよく、その説明対象物の臭いを直接嗅ぐことができることでもかまわない。
モーション情報は、情報取得者の行動に関する情報(以下、「行動情報」と呼ぶこともある)と、情報取得者の視線に関する情報(以下、「視線情報」と呼ぶこともある)とを少なくとも含むものとする。
行動情報は、情報取得者のうなずきを検出可能な情報を少なくとも含むものとする。行動情報は、それらの情報に加えて、情報取得者の位置に関する情報を含んでいてもよく、情報取得者の手の動きを示す情報を含んでいてもよく、情報取得者の頭の動きを示す情報を含んでいてもよく、情報取得者の胴体の動きを示す情報を含んでいてもよく、情報取得者のその他の部分の動きを示す情報を含んでいてもかまわない。
行動情報は、例えば、モーションキャプチャシステムによって取得されてもよく、環境側に設置したカメラで情報取得者を撮影した動画を解析することによって取得されてもよく、その他の方法によって取得されてもかまわない。モーションキャプチャシステムとは、被験者の体に光を反射する所定のマーカを付け、1以上のカメラを用いることによって被験者を撮影し、そのマーカの位置を算出することによって被験者の体の動きを検出するものである。なお、反射式のマーカではなく、自ら発光するアクティブ式のマーカを用いてもよい。また、光学式のマーカではなく、磁気マーカを用いてもよい。このように、モーションキャプチャシステムは、被験者の動きを検出することができるものであれば、その種類を問わない。行動情報がモーションキャプチャシステムによって取得される場合には、行動情報は、例えば、各マーカの3次元座標系における位置を示す時系列のデータである。情報取得者を撮影して動画を解析するとは、情報取得者の動画を撮影し、その撮影した動画から、肌色検出、差分抽出、またはパターンマッチング等の技術を用いて情報取得者の画像領域を特定し、その特定した画像領域から情報取得者の手の動きや頭の動き等を抽出することである。また、行動情報を取得するその他の方法としては、例えば、被験者の体の1以上の部分に加速度センサを付け、その加速度センサによって被験者の体の動きを検出する方法等がある。また、行動情報を取得する上記の2以上の方法を組み合わせてもよい。行動情報を取得する方法については従来から知られており、その詳細な説明は省略する。
また、行動情報には、前述のように、情報取得者の位置を示す情報が含まれてもいてよい。情報取得者の位置を示す情報は、例えば、GPS(Global Positioning System)によって取得されてもよく、LPS(Local Positioning System)によって取得されてもよく、非接触方式のサーモセンサを用いて取得されてもよく、レーザレンジファインダを用いて取得されてもよく、その他の技術を用いて取得されてもかまわない。LPSとは、例えば、アクティブRFIDを用いたり、地磁気センサと加速度センサとを有する自律航法型の位置測位センサを用いたりすることによって、基準点からの座標値を算出することができる装置である。非接触方式のサーモセンサとは、赤外線等を用いることにより物体の温度を検出することができる装置である。したがって、その装置によって人の存在を検出することができ、2以上のサーモセンサを用いることにより、人の高精度な位置検出が可能となる。レーザレンジファインダとは、出射したレーザ光の反射光から、三角測量の原理を利用して距離を検出する装置である。情報取得者の位置を示す情報を取得するその他の方法としては、例えば、上述のモーションキャプチャシステムを用いて位置を取得する方法がある。
視線情報は、情報取得者の視線の向きを示す情報を含んでいてもよく、情報取得者の視線の向きを情報取得者の頭の向きで近似する場合には、情報取得者の頭の向きを示す情報を含んでいてもよく、情報取得者の視線が遮られたこと、すなわち情報取得者が瞬きをしたことを示す情報を含んでいてもよく、情報取得者のその他の視線に関する情報を含んでいてもかまわない。ここで、被験者が立位である場合には、一般に顔の正面の向きの90度の範囲内に視線があることが知られているため、情報取得者の視線の向きを情報取得者の頭の向きで近似することも可能である。視線情報は、例えば、アイカメラによって取得されてもよく、情報取得者を環境側に設置したカメラで撮影した動画を解析することによって取得されてもよく、その他の方法によって取得されてもかまわない。アイカメラとは、被験者の眼球運動を測定する装置である。アイカメラは、例えば、リンバストラッキング法(強膜反射法)、角膜反射法、画像処理法等を用いて被験者の眼球運動を測定する。画像処理法とは、瞳孔中心を検出して視線方向を抽出する方法であり、被験者への負担がほとんどない。情報取得者を撮影した動画を解析するとは、情報取得者の目の位置をパターンマッチング等の技術を用いて特定し、上記の画像処理法と同様の方法や、白目と黒目の領域を比較する方法等によって視線方向を抽出することである。また、視線情報を取得するその他の方法としては、垂直眼電図(vertical EOG:electroculograph)を用いて瞬目を検出する方法や、被験者の頭部に加速度センサを付け、その加速度センサによって被験者の頭の動きを検出する方法、被験者の頭部に指向性と収束性を有する光線を出力する発光部を付け、その発光部からの光を環境側に設置した検出部で検出することによって被験者の頭の動きを検出する方法、被験者の頭部にウェアラブルカメラをつけて被験者の視線方向等の画像を撮影し、その画像を解析することによって被験者の頭の動きを検出する方法等がある。また、視線情報を取得する上記の2以上の方法を組み合わせてもよい。また、視線情報が被験者の視線の方向を示す情報である場合に、局所座標系(被験者の頭部に設定される視野座標系)の情報を視線情報として用いてもよく、あるいは、局所座標系の値をモーションキャプチャシステム等のデータと同じ座標系である世界座標系に変換した情報を視線情報として用いてもよい。視線情報を取得する方法については従来から知られており、その詳細な説明は省略する。
モーション情報受付部11は、例えば、入力デバイス(例えば、キーボードやマウス、タッチパネル等)から入力された情報を受け付けてもよく、有線もしくは無線の通信回線を介して送信された情報を受信してもよく、所定の記録媒体(例えば、光ディスクや磁気ディスク、半導体メモリ等)から読み出された情報を受け付けてもかまわない。なお、モーション情報受付部11は、受け付けを行うためのデバイス(例えば、モデムやネットワークカード等)を含んでいてもよく、あるいは含んでいなくてもよい。また、モーション情報受付部11は、ハードウェアによって実現されてもよく、あるいは所定のデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。本実施の形態では、モーション情報受付部11は、図1で示されるように、アイカメラによって取得された視線情報と、モーションキャプチャシステムによって取得された行動情報とを受け付けるものとする。
モーション情報蓄積部12は、モーション情報受付部11が受け付けたモーション情報を所定の記録媒体に蓄積する。この記録媒体は、例えば、半導体メモリや、光ディスク、磁気ディスク等であり、モーション情報蓄積部12が有していてもよく、あるいはモーション情報蓄積部12の外部に存在してもよい。本実施の形態では、モーション情報蓄積部12がその記録媒体を有するものとする。また、この記録媒体は、モーション情報を一時的に記憶するものであってもよく、そうでなくてもよい。
音声情報受付部13は、音声情報を受け付ける。ここで、音声情報とは、情報取得者の発した音声に関する情報である。この音声情報は、情報取得者の発した言葉を識別可能なものであってもよく、あるいは、情報取得者の発した音声の強弱のみを識別可能なものであってもよい。後者の場合には、情報取得者がどのような言葉を発したのかについては、音声の強弱から推測することはできても、明確にはわからないことになる。音声情報は、例えば、情報取得者の発した音声のみを含んでいてもよく、あるいは、情報取得者の音声以外の環境音を含んでいてもよい。後者の場合には、情報取得者の環境音を除去することによって情報取得者の音声のみを抽出してもよい。音声情報は、例えば、通常のマイクロフォンによって取得されてもよく、骨伝導マイクによって取得されてもよく、スロート(咽喉)マイクによって取得されてもかまわない。骨伝導マイクやスロートマイクを用いて音声情報を取得する場合には、環境音を含まない音声情報の取得が可能となる。音声情報受付部13は、例えば、音声デバイス(例えば、マイクロフォン等)から入力された情報を受け付けてもよく、有線もしくは無線の通信回線を介して送信された情報を受信してもよく、所定の記録媒体(例えば、光ディスクや磁気ディスク、半導体メモリ等)から読み出された情報を受け付けてもかまわない。なお、音声情報受付部13は、受け付けを行うためのデバイス(例えば、モデムやネットワークカード等)を含んでいてもよく、あるいは含んでいなくてもよい。また、音声情報受付部13は、ハードウェアによって実現されてもよく、あるいは所定のデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。本実施の形態では、音声情報受付部13は、図1で示されるように、マイクロフォンによって取得された情報取得者のみの音声を示す音声情報を受け付けるものとする。
音声情報蓄積部14は、音声情報受付部13が受け付けた音声情報を所定の記録媒体に蓄積する。この記録媒体は、例えば、半導体メモリや、光ディスク、磁気ディスク等であり、音声情報蓄積部14が有していてもよく、あるいは音声情報蓄積部14の外部に存在してもよい。本実施の形態では、音声情報蓄積部14がその記録媒体を有するものとする。また、この記録媒体は、音声情報を一時的に記憶するものであってもよく、そうでなくてもよい。
興味傾向情報生成部15は、モーション情報受付部11が受け付けたモーション情報と、音声情報受付部13が受け付けた音声情報とから、興味傾向情報を生成する。ここで、興味傾向情報とは、情報取得者の興味傾向に関する情報である。興味傾向情報は、例えば、情報取得者の興味傾向の種類を示す情報を含んでいてもよく、情報取得者の所定の種類の興味傾向の程度を示す情報を含んでいてもよく、情報取得者の興味傾向の種類を示す情報と、その興味傾向の程度を示す情報とを含んでいてもかまわない。興味傾向の種類や、その程度については後述する。
図1で示されるように、興味傾向情報生成部15は、条件情報記憶手段21と、情報取得行動情報生成手段22と、関数情報記憶手段23と、興味傾向情報生成手段24とを備える。
条件情報記憶手段21では、条件情報が記憶される。ここで、条件情報とは、情報取得行動の発生の条件を示す情報である。情報取得行動とは、情報取得者が情報の取得時に行う行動である。したがって、条件情報によって、情報取得行動という定型の行動の発生条件が示されることになる。
まず、情報取得行動について説明する。情報取得行動は、例えば、発話、注視、視線移動、瞬目、うなずき、指差し、覗き込み等の情報取得時の行動である。これら以外の行動が情報取得行動に含まれてもよい。「発話」とは、被験者が言葉を発することであり、被験者による自発的な音声の発生だけでなく、被験者による相づちや応答も含まれる。発話には、回数と時間がある。すなわち、沈黙と沈黙とで区切られる連続した音声が1つの発話であり、その連続した音声の時間が1つの発話の時間である。「注視」とは、被験者が所定の時間以上、一点あるいはその付近を見ていることである。注視にも、回数と時間がある。すなわち、注視の状態が開始されてから終了するまでが1つの注視であり、その注視の状態が連続している時間が注視の時間である。「視線移動」とは、注視と注視との間の被験者の視線が移動していることである。「瞬目」とは、被験者が瞬きをすることである。「うなずき」とは、被験者が頭部を前後に振ることによって相手に了解や承諾等の意思表示をすることである。「指差し」とは、被験者が情報の説明等のために、手を用いることによって所定の物を指し示すことである。「覗き込み」とは、所定の物に顔を近づけてよく見ることである。なお、上述の情報取得行動のうち、発話以外の情報取得行動は、いわゆる「非言語行動」と呼ばれる情報取得行動である。
次に、上述の各情報取得行動の発生の条件の一例について説明する。
[発話]
被験者の発した音声情報のレベル、すなわち、音声情報の示す音声の大きさが所定のしきい値以上であることが、発話の発生条件となる。ここで、音声情報のレベルが所定のしきい値以上となってからしきい値以下となるまでが1つの発話であり、その間の時間が1つの発話の時間である。
[注視]
視線情報や行動情報によって示される、被験者の視線方向の変化や被験者の頭の向きの変化が所定の時間以上、ある一定の範囲内であることが、被験者が何かに注視している条件となる。例えば、被験者の視線方向の変化が5度未満である状態が0.5秒以上継続したことが、注視の発生条件となる。ここで、被験者の視線方向の変化や頭の向きの変化の変化が、所定の時間以上、ある一定の範囲内であることが継続している一続きの状態が1つの注視であり、その状態の時間が1つの注視の時間である。
また、注視の検出においては、何を注視しているのかを検出してもよい。被験者が何を注視しているのかについては、例えば、被験者による注視が検出された時点における、被験者が見ている画像よって判断してもよく、被験者の位置によって判断してもよく、被験者の姿勢によって判断してもかまわない。被験者が見ている画像によって被験者が何を注視しているのかについて判断する場合には、例えば、被験者がウェアラブルカメラを装着しているのであれば、そのウェアラブルカメラによって撮影された画像を解析し、肌色検出やパターンマッチング等の技術を用いて、その画像から人の顔が検出できたときには、人を注視していることを検出し、それ以外のときには人以外のものを注視していることを検出してもよい。また、説明対象物等の環境側に光を反射するマーカや自ら発光するマーカを配置しておき、被験者の装着しているウェアラブルカメラによって撮影された画像を解析することによって、環境側のマーカが検出された場合に、そのマーカに応じて、注視している物等を検出してもよい。また、被験者の位置によって被験者が何を注視しているのかについて判断する場合には、例えば、その位置があらかじめ設定されている物(例えば、商品やパネル等)の近くに被験者が存在し、また、被験者がその物の方を向いていることが検出されたときには、物を注視していることを検出し、それ以外のときには人を注視していることを検出してもよい。また、被験者の姿勢によって被験者が何を注視しているのかについて判断する場合には、例えば、物やパネルが下の方に置かれているのであれば、被験者の姿勢が直立していることが検出されたときには、人を注視していることを検出し、被験者の姿勢が前かがみであることが検出されたときには、人以外のものを注視していることを検出してもよい。また、被験者が非接触方式のサーモセンサを装着している場合には、その非接触方式のサーモセンサによって被験者の注視している方向に人間の体温程度の温度が検知された場合には、被験者が人を注視していることを検出し、それ以外の温度が検知された場合には、被験者が人以外を注視していることを検出してもよい。なお、被験者が人を注視していると判断された場合には、その被験者が情報提供者を注視していると推定してもよい。
[視線移動]
前述のように、検出された被験者の注視と注視との間が、視線移動となる。したがって、被験者の注視の回数が増えるごとに、被験者の視線移動の回数も増えることになる。
[瞬目]
被験者の視線情報をアイカメラによって取得している場合には、一定時間以内(例えば、0.4秒以内等)の瞳孔径の未検出のあることが、瞬目の発生条件となる。また、被験者の垂直眼電図を測定している場合には、従来から知られている方法を用いることにより、瞬目の発生を検出できる。被験者の目の領域をカメラによって撮影している場合には、一定時間以内の白目と黒目の領域の未検出のあることが、瞬目の発生条件となる。
[うなずき]
被験者の姿勢をモーションキャプチャシステム等によって取得している場合には、被験者の頭部の前後方向の角度が、一定時間以内に所定の角度以上変化したことが、うなずきの発生条件となる。また、被験者がウェアラブルカメラを装着しており、被験者の視線方向の画像を撮影している場合には、そのウェアラブルカメラによって撮影された画像の変化を解析し、一定時間以内に、被験者が頭を前方に倒す方向に画像が変化したことが、うなずきの発生条件となる。
[指差し]
被験者の体の各位置をモーションキャプチャシステム等によって取得している場合には、被験者の腕が一定以上伸びたことが、指差しの発生条件となる。また、被験者が手首の付近に加速度センサを付けている場合には、その加速度センサによって腕が伸びる方向に手首が移動したことが検出されたことが、指差しの発生条件となる。
[覗き込み]
被験者の体の各位置をモーションキャプチャシステム等によって取得している場合には、被験者の顔の位置が、あらかじめ設定されている物等の位置からの一定の距離以内となったことが、覗き込みの発生条件となる。また、腰を曲げて前かがみで下方を見ている姿勢によって覗き込みが発生したと見なす場合には、被験者が腰を曲げて前かがみで下方を見ている姿勢を一定の時間以上していることを、覗き込みの発生条件としてもよい。
なお、上述の情報取得行動の発生の条件は一例であって、情報取得行動の発生を適切に検出することができるのであれば、上記以外の条件を設定してもよい。また、上記以外の情報取得行動の発生も検出する場合には、その情報取得行動の発生を適切に検出することができる条件が設定されているものとする。
また、条件情報記憶手段21は、所定の記録媒体(例えば、半導体メモリや磁気ディスク、光ディスク等)によって実現される。条件情報記憶手段21に条件情報が記憶される過程は問わない。例えば、記録媒体を介して条件情報が条件情報記憶手段21で記憶されるようになってもよく、通信回線等を介して送信された条件情報が条件情報記憶手段21で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された条件情報が条件情報記憶手段21で記憶されるようになってもよい。条件情報記憶手段21での記憶は、外部のストレージデバイス等から読み出した条件情報のRAM等における一時的な記憶でもよく、あるいは、そうでなくてもよい。
情報取得行動情報生成手段22は、条件情報記憶手段21で記憶されている条件情報を用いて、モーション情報及び音声情報から情報取得行動の発生を検出する。そして、情報取得行動情報生成手段22は、その検出した情報取得行動に関する情報である情報取得行動情報を生成する。情報取得行動情報は、例えば、情報取得行動ごとに、その情報取得行動の発生回数と、発生時間とを示す情報である。情報取得行動情報の発生回数や発生時間は、累計の情報であってもよく、単位時間あたりの情報であってもよい。情報取得行動の発生を検出する具体的な方法については後述する。
関数情報記憶手段23では、関数情報が1以上記憶される。関数情報とは、情報取得行動情報の示す値を引数とする関数を示す情報である。関数情報は、興味傾向の種類ごとに設定される。したがって、関数情報記憶手段23では、通常、興味傾向の種類の数だけの関数情報が記憶されることになる。この関数情報の示す関数に情報取得行動情報の示す値を代入した関数の値が興味傾向の程度を示す情報となる。
なお、関数情報記憶手段23は、所定の記録媒体(例えば、半導体メモリや磁気ディスク、光ディスク等)によって実現される。関数情報記憶手段23に関数情報が記憶される過程は問わない。例えば、記録媒体を介して関数情報が関数情報記憶手段23で記憶されるようになってもよく、通信回線等を介して送信された関数情報が関数情報記憶手段23で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された関数情報が関数情報記憶手段23で記憶されるようになってもかまわない。関数情報記憶手段23での記憶は、外部のストレージデバイス等から読み出した関数情報のRAM等における一時的な記憶でもよく、あるいは、そうでなくてもよい。
興味傾向情報生成手段24は、情報取得行動情報生成手段22で生成された情報取得行動情報を用いて興味傾向情報を生成する。すなわち、興味傾向情報生成手段24は、関数情報記憶手段23で記憶されている1以上の関数情報の示す関数に、情報取得行動情報生成手段22で生成された情報取得行動情報の示す値を代入することにより興味傾向情報を生成する。
なお、モーション情報蓄積部12が有する記録媒体と、音声情報蓄積部14が有する記録媒体と、条件情報記憶手段21と、関数情報記憶手段23とのうち、任意の2以上の記録媒体は、同一の記録媒体によって実現されてもよく、異なる記録媒体によって実現されてもよい。前者の場合には、例えば、その記録媒体のうち、条件情報を記憶している領域が条件情報記憶手段21となる。
興味傾向情報出力部16は、興味傾向情報生成部15が生成した興味傾向情報を出力する。ここで、この出力は、例えば、表示デバイス(例えば、CRTや液晶ディスプレイ等)への表示でもよく、所定の機器への通信回線を介した送信でもよく、プリンタによる印刷でもよく、スピーカによる音声出力でもよく、記録媒体への蓄積でもかまわない。なお、興味傾向情報出力部16は、出力を行うデバイス(例えば、表示デバイスやプリンタ等)を含んでいてもよく、あるいは含んでいなくてもよい。また、興味傾向情報出力部16は、ハードウェアによって実現されてもよく、あるいは、それらのデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。本実施の形態では、興味傾向情報出力部16は、興味傾向情報をディスプレイに表示するものとする。
次に、本実施の形態による興味傾向情報出力装置1の動作について、フローチャートを用いて説明する。図2は、本実施の形態による興味傾向情報出力装置1の全体動作を示すフローチャートである。
(ステップS101)興味傾向情報生成部15は、興味傾向情報を生成するかどうか判断する。そして、興味傾向情報を生成する場合には、ステップS102に進み、そうでない場合には、ステップS105に進む。ここで、興味傾向情報生成部15は、所定のイベント(例えば、モーション情報と音声情報との一連の蓄積が終了したことや、興味傾向情報を生成する旨の指示が受け付けられたこと等)をトリガーとして興味傾向情報を生成すると判断してもよく、所定の期間ごとに興味傾向情報を生成すると判断してもよく、その他のタイミングで興味傾向情報を生成すると判断してもかまわない。
(ステップS102)興味傾向情報生成部15は、モーション情報と音声情報とに基づいて、情報取得行動情報を生成する。この情報取得行動情報を生成する処理の詳細については、図3のフローチャートを用いて後述する。
(ステップS103)興味傾向情報生成部15は、ステップS102で生成した情報取得行動情報に基づいて、興味傾向情報を生成する。この興味傾向情報を生成する処理の詳細については、図4のフローチャートを用いて後述する。
(ステップS104)興味傾向情報出力部16は、興味傾向情報生成部15が生成した興味傾向情報を出力する。そして、ステップS101に戻る。
(ステップS105)モーション情報受付部11は、モーション情報を受け付けたかどうか判断する。なお、モーション情報が行動情報と視線情報とを含む場合には、そのいずれか一方を少なくとも受け付けた場合に、モーション情報を受け付けたと判断してもよい。そして、受け付けた場合には、ステップS106に進み、そうでない場合には、ステップS107に進む。
(ステップS106)モーション情報蓄積部12は、モーション情報受付部11が受け付けたモーション情報を所定の記録媒体に蓄積する。そして、ステップS101に戻る。
(ステップS107)音声情報受付部13は、音声情報を受け付けたかどうか判断する。そして、音声情報を受け付けた場合には、ステップS108に進み、そうでない場合には、ステップS101に戻る。
(ステップS108)音声情報蓄積部14は、音声情報受付部13が受け付けた音声情報を所定の記録媒体に蓄積する。そして、ステップS101に戻る。
なお、図2のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
図3は、図2のフローチャートにおける情報取得行動情報の生成処理(ステップS102)の詳細を示すフローチャートである。
(ステップS201)情報取得行動情報生成手段22は、カウンタiを1に設定する。
(ステップS202)情報取得行動情報生成手段22は、条件情報記憶手段21から、i番目の条件情報を読み出す。
(ステップS203)情報取得行動情報生成手段22は、モーション情報蓄積部12が蓄積したモーション情報と、音声情報蓄積部14が蓄積した音声情報とを適宜参照し、ステップS202で読み出した条件情報が満たされるかどうか判断する。そして、満たされる場合にはステップS204に進み、そうでない場合には、ステップS206に進む。
(ステップS204)情報取得行動情報生成手段22は、i番目の条件情報に対応する情報取得行動情報を生成する。
(ステップS205)情報取得行動情報生成手段22は、生成した情報取得行動情報を図示しない記録媒体に一時記憶する。
(ステップS206)情報取得行動情報生成手段22は、カウンタiを1だけインクリメントする。
(ステップS207)情報取得行動情報生成手段22は、条件情報記憶手段21にi番目の条件情報が存在するかどうか判断する。そして、存在する場合には、ステップS202に戻り、存在しない場合には、情報取得行動情報を生成する一連の処理は終了となり、図1のフローチャートのステップS103に進む。
なお、図3の一連の処理が終了した後に、ステップS205で言及した図示しない記録媒体で一時記憶されている情報取得行動情報を用いて、後述する興味傾向情報生成手段24による興味傾向情報の生成処理が行われる。
図4は、図2のフローチャートにおける興味傾向情報の生成処理(ステップS103)の詳細を示すフローチャートである。
(ステップS301)興味傾向情報生成手段24は、カウンタiを1に設定する。
(ステップS302)興味傾向情報生成手段24は、関数情報記憶手段23から、i番目の種類の興味傾向に対応する関数情報を読み出す。
(ステップS303)興味傾向情報生成手段24は、情報取得行動情報生成手段22が生成した情報取得行動情報の示す値を、ステップS302で読み出した関数情報の示す関数に代入することにより、その関数の値を算出する。
(ステップS304)興味傾向情報生成手段24は、その算出した関数の値を図示しない記録媒体に一時記憶する。この場合に、興味傾向のi番目の種類を識別する情報に対応付けて一時記憶することが好ましい。
(ステップS305)興味傾向情報生成手段24は、カウンタiを1だけインクリメントする。
(ステップS306)興味傾向情報生成手段24は、i番目の種類の興味傾向が存在するかどうか、すなわち、関数情報記憶手段23にi番目の種類の興味傾向に対応する関数情報が存在するかどうか判断する。そして、存在する場合には、ステップS302に戻り、存在しない場合には、ステップS307に進む。
(ステップS307)興味傾向情報生成手段24は、ステップS304で言及した図示しない記録媒体で一時記憶されている関数の値を用いて興味傾向情報を構成する。そして、興味傾向情報を生成する一連の処理は終了となり、図1のフローチャートのステップS104に進む。なお、その関数の値をそのまま興味傾向情報とする場合には、このステップS307の処理がなくてもよい。
次に、本実施の形態による興味傾向情報出力装置1の動作について、具体例を用いて説明する。この具体例では、情報提供者が店員であり、情報提供者から情報の提供を受ける情報取得者が、店の顧客であるとする。また、この具体例では、情報取得行動として、発話、注視、瞬目、うなずき、指差しのみを検出するものとする。情報取得者は、説明対象物としての商品を直接見ることができる状況にいるものとする。
また、この具体例では、情報取得者の行動情報をモーションキャプチャシステムによって取得し、情報取得者の視線情報をアイカメラによって取得し、行動情報と視線情報とを含むモーション情報と、音声情報とから、発話、注視、瞬目、うなずき、指差しの情報取得行動を検出して、興味傾向情報を生成する場合について説明する。モーションキャプチャシステムとしては、例えば、Vicon Peak社製V612を用いてもよい。そのモーションキャプチャシステムでは、12台の赤外線ストロボ付き赤外線カメラと、直径25mmの再帰性反射素材の表面を持つ球形パッシブマーカとが用いられ、各マーカの位置を60Hzの時間分解能と、約1mmの空間分解能で記録できる。アイカメラとしては、ナックイメージテクノロジー社製のEMR−8Bを用いてもよい。そのアイカメラでは、瞳孔角膜反射方式により、眼球運動を30Hzの時間分解能と、約0.1度の精度で記録できる。
図5は、情報取得者が装着している装置等について説明するための図である。図5で示されるように、情報取得者は、マイクロフォンを装着しており、そのマイクロフォンによって情報取得者の発した音声が取得される。また、情報取得者は、アイカメラを装着しており、そのアイカメラによって情報取得者の視線方向が取得される。また、情報取得者は、体の複数の部分にモーションキャプチャシステムで位置を検出するためのマーカが取り付けられている。
マイクロフォンによって取得された音声情報、アイカメラによって取得された視線情報、モーションキャプチャシステムによって取得された行動情報は、それぞれ、有線または無線の通信によって興味傾向情報出力装置1に渡される。そして、視線情報と、行動情報とはモーション情報受付部11で受け付けられ(ステップS105)、モーション情報蓄積部12によって蓄積される(ステップS106)。また、音声情報は音声情報受付部13で受け付けられ(ステップS107)、音声情報蓄積部14によって蓄積される(ステップS108)。この具体例では、店員が情報取得者である顧客への対応をしている10分間のモーション情報と音声情報とがモーション情報蓄積部12と、音声情報蓄積部14とにおいてそれぞれ蓄積されたとする。
図6は、モーション情報蓄積部12が蓄積したモーション情報と、音声情報蓄積部14が蓄積した音声情報との一例を示す図である。図6で示されるように、時系列の音声情報と、モーション情報とが所定の記録媒体(図示せず)において記憶されている。音声情報は、前述のように、少なくとも音声レベルを知ることができる情報であればよく、情報取得者の発した言葉の内容までわからない情報であってもよい。視線情報は、情報取得者の視野における画素位置を示す情報であるとする。行動情報は、モーションキャプチャシステムによって取得された、各マーカの3次元直交座標系における位置を示す情報である。
図7は、条件情報記憶手段21で記憶されている条件情報の一例を示す図である。図7で示されるように、条件情報では、情報取得行動と、その情報取得行動の発生の条件とが対応付けられている。例えば、情報取得行動「発話」については、音声情報のレベルがしきい値S1以上であることが、発生の条件として設定されている。その他の情報取得行動についても同様である。
モーション情報と、音声情報とが蓄積された後に、ユーザが図示しない入力デバイスを操作することにより、興味傾向情報を出力する指示が興味傾向情報出力装置1で受け付けられたとする。すると、興味傾向情報生成部15は、興味傾向情報を生成するタイミングであると判断し(ステップS101)、情報取得行動情報を生成し(ステップS102)、興味傾向情報を生成する(ステップS103)。以下、情報取得行動情報の生成処理と、興味傾向情報の生成処理について詳細に説明する。
まず、情報取得行動情報の生成処理について説明する。情報取得行動情報生成手段22は、まず、条件情報記憶手段21で記憶されている図7で示される条件情報から、1番目の条件情報、すなわち情報取得行動「発話」に関する条件情報を読み出す(ステップS201,S202)。
また、情報取得行動情報生成手段22は、音声情報蓄積部14が有する図示しない記録媒体から音声情報を読み出す。その音声情報の一部が図8で示されるものであったとする。すると、情報取得行動情報生成手段22は、読み出した音声情報と、条件情報の示すしきい値S1とを比較し、音声情報が条件情報を満たすかどうか判断する(ステップS203)。この場合には、図8で示されるように、条件情報を満たす音声情報の領域が存在するため、情報取得行動情報生成手段22は、条件を満たすと判断し、図8で示されるように、音声情報の示す音声レベルがしきい値S1となる時間t1,t2,t3,t4等を取得する。そして、図8では、時間t1から時間t2までが1つの発話であり、その発話の時間は、時間(t2−t1)となる。このようにして、情報取得行動情報生成手段22は、音声情報から発話の回数と、発話の合計時間とを算出する。この具体例では、発話の回数が47回であり、発話の合計時間が482秒であったとする。すると、情報取得行動情報生成手段22は、それらの発話の回数と、発話の合計時間とを音声情報の時間600秒(=10分)で割った値、すなわち、単位時間(1秒)あたりの発話の回数「0.078」と、単位時間あたりの発話の時間「0.803」とを算出する。これらが情報取得行動情報となる(ステップS204)。情報取得行動情報生成手段22は、その生成した情報取得行動情報を情報取得行動情報生成手段22が有する図示しない記録媒体において一時的に記憶する(ステップS205)。図9の1番目と2番目のレコードによって、そのようにして一時記憶された情報取得行動情報が示される。
次に、情報取得行動情報生成手段22は、条件情報記憶手段21で記憶されている図7で示される条件情報から、2番目の条件情報、すなわち情報取得行動「注視」に関する条件情報を読み出す(ステップS206,S207,S202)。
また、情報取得行動情報生成手段22は、モーション情報蓄積部12が有する図示しない記録媒体からモーション情報に含まれる視線情報を読み出す。その視線情報は、図6で示されるように、視線の位置に対応するピクセルの座標を示す情報である。情報取得行動情報生成手段22は、その視線の位置に対応するピクセルの座標値のうち、時間的に隣接する2個の座標値の距離を求めることにより、視線の位置の変化量を算出する。例えば、あるサンプリング点での座標値が(10,20)であり、次のサンプリング点での座標値が(14,23)である場合には、視線の位置の変化量は「5」ピクセルとなる。
図10は、そのようにして算出された視線の位置の変化量の時間変化の一部を示す図である。図10において、しきい値S2は、条件情報で設定されている視線方向の変化量「5度」に対応するピクセルの変化量である。また、図10において、時間t3から時間t4までの間の変化量の値が記載されていないが、これは、その間において視線情報を取得することができなかったこと、すなわち、瞳孔径を検出することができなかったことが原因である。
情報取得行動情報生成手段22は、算出した視線の位置の変化量と、しきい値S2とを比較し、視線の位置の変化量がしきい値S2未満である状態が0.5秒以上継続している箇所があるかどうか判断する(ステップS203)。ここでは、時間(t2−t1)が0.5秒以上であり、その条件を満たしていたとすると、情報取得行動情報生成手段22は、条件を満たすと判断し、その条件を満たす箇所の個数、すなわち、注視の回数と、その条件を満たす箇所の合計時間、すなわち、注視の合計時間とを算出する。この具体例では、注視の回数が289回であり、注視の合計時間が466秒であったとする。すると、情報取得行動情報生成手段22は、それらの注視の回数と、注視の合計時間とを、視線情報の時間600秒で割った値、すなわち、単位時間あたりの注視の回数「0.482」と、単位時間あたりの注視の時間「0.777」とを算出する。これらが情報取得行動情報となる(ステップS204)。情報取得行動情報生成手段22は、その生成した情報取得行動情報を情報取得行動情報生成手段22が有する図示しない記録媒体において一時的に記憶する(ステップS205)。図9の3番目と4番目のレコードによって、そのようにして一時記憶された情報取得行動情報が示される。
次に、情報取得行動情報生成手段22は、条件情報記憶手段21で記憶されている図7で示される条件情報から、3番目の条件情報、すなわち情報取得行動「瞬目」に関する条件情報を読み出す(ステップS206,S207,S202)。
また、情報取得行動情報生成手段22は、注視に関する条件判断のときと同様に、視線情報から視線の位置の変化量を算出する。この視線の位置の変化量は、注視に関する条件判断で用いた情報を保持しておき、それを用いてもよく、あるいは、再度算出してもよい。
前述のように、図10において、時間t3から時間t4までが瞳孔径を検出することができなかった時間である。情報取得行動情報生成手段22は、瞳孔径を検出することができなかった時間が0.4秒以内である箇所があるかどうか判断する(ステップS203)。ここでは、時間(t4−t3)が0.4秒以内であり、その条件を満たしていたとすると、情報取得行動情報生成手段22は、条件を満たすと判断し、その条件を満たす箇所の個数、すなわち、瞬目の回数を算出する。この具体例では、瞬目の回数が215回であったとする。すると、情報取得行動情報生成手段22は、それらの瞬目の回数を、視線情報の時間600秒で割った値、すなわち、単位時間あたりの瞬目の回数「0.358」を算出する。これらが情報取得行動情報となる(ステップS204)。情報取得行動情報生成手段22は、その生成した情報取得行動情報を情報取得行動情報生成手段22が有する図示しない記録媒体において一時的に記憶する(ステップS205)。図9の5番目のレコードによって、そのようにして一時記憶された情報取得行動情報が示される。
次に、情報取得行動情報生成手段22は、条件情報記憶手段21で記憶されている図7で示される条件情報から、4番目の条件情報、すなわち情報取得行動「うなずき」に関する条件情報を読み出す(ステップS206,S207,S202)。
また、情報取得行動情報生成手段22は、モーション情報蓄積部12が有する図示しない記録媒体からモーション情報に含まれる行動情報を読み出す。その行動情報は、図6で示されるように、各マーカの位置に対応する座標を示す情報である。情報取得行動情報生成手段22は、その各マーカの位置に対応する座標値を用いて、頭部の前後方向の角度を算出する。この方法は従来から知られているため、その詳細な説明は省略する。
図11は、そのようにして算出された頭部の角度の時間変化の一部を示す図である。図11において、おじぎをするときには頭部の角度がゆっくりと大きく変化しているのに対し、うなずきのときには頭部の角度が速く小さく変化していることがわかる。
情報取得行動情報生成手段22は、算出した頭部の角度の時間変化に基づいて、頭部の前後方向の角度が0.3秒以内に5度以上変化した箇所があるかどうか判断する(ステップS203)。ここでは、図11で示されるように、情報取得者がうなずいた時点において、その条件を満たしていたとすると、情報取得行動情報生成手段22は、条件を満たしていると判断し、その条件を満たす箇所の個数、すなわち、うなずきの回数を算出する。この具体例では、うなずきの回数が271回であったとする。すると、情報取得行動情報生成手段22は、そのうなずきの回数を行動情報の時間600秒で割った値、すなわち、単位時間あたりのうなずきの回数「0.452」を算出する。これが情報取得行動情報となる(ステップS204)。情報取得行動情報生成手段22は、その生成した情報取得行動情報を情報取得行動情報生成手段22が有する図示しない記録媒体において一時的に記憶する(ステップS205)。図9の6番目のレコードによって、そのようにして一時記憶された情報取得行動情報が示される。
次に、情報取得行動情報生成手段22は、条件情報記憶手段21で記憶されている図7で示される条件情報から、5番目の条件情報、すなわち情報取得行動「指差し」に関する条件情報を読み出す(ステップS206,S207,S202)。
また、情報取得行動情報生成手段22は、モーション情報蓄積部12が有する図示しない記録媒体からモーション情報に含まれる行動情報を読み出す。その行動情報は、図6で示されるように、各マーカの位置に対応する座標を示す情報である。情報取得行動情報生成手段22は、その各マーカの位置に対応する座標値を用いて、情報取得者の肩のマーカから手首のマーカまでの距離を算出する。この方法は従来から知られているため、その詳細な説明は省略する。
図12は、そのようにして算出された肩と手首の距離の時間変化の一部を示す図である。図12において、maxは、肩と手首の距離の最大値である。この最大値maxは、算出された肩と手首の距離の最大値であってもよく、あらかじめ情報取得者の肩のマーカから手首のマーカまでの実際に測定した最大値であってもよい。
情報取得行動情報生成手段22は、算出した肩と手首の距離の時間変化と、その最大値maxに0.9を掛けたしきい値とを比較し、肩と手首の距離が最大値maxに0.9を掛けたしきい値以上である箇所があるかどうか判断する(ステップS203)。ここでは、図12で示されるように、その条件を満たしていたとすると、情報取得行動情報生成手段22は、条件を満たしていると判断し、その条件を満たす箇所の個数、すなわち、指差しの回数を算出する。この具体例では、指差しの回数が51回であったとする。すると、情報取得行動情報生成手段22は、その指差しの回数を行動情報の時間600秒で割った値、すなわち、単位時間あたりの指差しの回数「0.085」を算出する。これが情報取得行動情報となる(ステップS204)。情報取得行動情報生成手段22は、その生成した情報取得行動情報を情報取得行動情報生成手段22が有する図示しない記録媒体において一時的に記憶する(ステップS205)。図9の7番目のレコードによって、そのようにして一時記憶された情報取得行動情報が示される。
このようにして、情報取得行動情報生成手段22は、すべての条件情報を用いて情報取得行動情報を作成すると、情報取得行動情報の作成は終了となる(ステップS206,S207)。この具体例において、情報取得行動情報生成手段22が生成し、図示しない記録媒体において一時的に記憶された情報取得行動情報は、図9で示されるものである。
図13は、関数情報記憶手段23で記憶されている関数情報の一例を示す図である。図13で示されるように、関数情報記憶手段23では、興味傾向の種類に対応付けられて、4個の関数情報が記憶されている。関数情報における係数aN,bN,cN,dN,eN,fN,gN(Nは1から4までの整数)は、あらかじめ値が決定されているものとする。なお、いずれかの係数の値は、0であってもよい。
ここで、図13で示される興味傾向の種類について説明する。
積極型興味傾向とは、情報取得者(顧客)が説明対象物に関する情報取得のために積極的に働きかけている興味傾向である。情報取得者の指差しが頻繁である場合に、積極型興味傾向である可能性の高いことが発明者らの分析によってわかっている。
協調コミュニケーション型興味傾向とは、情報取得者(顧客)と情報提供者との協調的なインタラクションによって情報取得が行われる興味傾向である。情報取得者の発話時間が長く、発話回数が多い場合に、協調コミュニケーション型興味傾向である可能性の高いことが発明者らの分析によってわかっている。発話によって情報取得や対話の円滑化を図っていると考えられる。
情報取得優先型興味傾向とは、情報取得者(顧客)が情報提供者とのインタラクションを重視しておらず、両者間のコミュニケーションが適切に行われていない状況で情報取得が行われる興味傾向である。情報取得者の注視が頻繁である場合に、情報取得優先型興味傾向である可能性の高いことが発明者らの分析によってわかっている。
消極型興味傾向とは、情報提供者が情報取得者(顧客)に強く働きかけている情報取得の興味傾向である。情報取得者のうなずき回数等といった情報提供者への弱い、すなわち、発話ほどの積極性のない応答が多い場合に、消極型興味傾向である可能性の高いことが発明者らの分析によってわかっている。情報提供者への弱い応答を維持しつつも、情報提供者とは独立に説明対象物へのアクセスを行っていると考えられる。
また、図13で示される関数情報で用いられるA,B,C,D,E,F,Gは、情報取得行動情報の示す値であり、それぞれ次のようになっている。Aは、単位時間あたりの発話の回数である。Bは、単位時間あたりの発話の時間である。Cは、単位時間あたりの注視の回数である。Dは、単位時間あたりの注視の時間である。Eは、単位時間あたりの瞬目の回数である。Fは、単位時間あたりのうなずきの回数である。Gは、単位時間あたりの指差しの回数である。
次に、興味傾向情報の生成処理について説明する。興味傾向情報生成手段24は、まず、関数情報記憶手段23で記憶されている図13で示される関数情報から、1番目の種類の興味傾向、すなわち、積極型興味傾向に対応する関数情報を読み出す(ステップS301,S302)。そして、興味傾向情報生成手段24は、図9で示される情報取得行動情報から、各情報取得行動情報の示す値を読み出し、その値を読み出した関数情報の示す関数に代入することによって、関数の値を算出する(ステップS303)。ここでは、関数の値が「0.75」であったとする。興味傾向情報生成手段24は、その算出した関数の値を興味傾向情報生成手段24が有する図示しない記録媒体において一時的に記憶する(ステップS304)。図14の1番目のレコードによって、そのようにして一時記憶された関数の値が示される。
次に、興味傾向情報生成手段24は、関数情報記憶手段23で記憶されている図13で示される関数情報から、2番目の種類の興味傾向、すなわち、協調コミュニケーション型興味傾向に対応する関数情報を読み出す(ステップS305,S306,S302)。そして、興味傾向情報生成手段24は、図9で示される情報取得行動情報から、各情報取得行動情報の示す値を読み出し、その値を読み出した関数情報の示す関数に代入することによって、関数の値を算出する(ステップS303)。ここでは、関数の値が「0.63」であったとする。興味傾向情報生成手段24は、その算出した関数の値を興味傾向情報生成手段24が有する図示しない記録媒体において一時的に記憶する(ステップS304)。図14の2番目のレコードによって、そのようにして一時記憶された関数の値が示される。
次に、興味傾向情報生成手段24は、関数情報記憶手段23で記憶されている図13で示される関数情報から、3番目の種類の興味傾向、すなわち、情報取得優先型興味傾向に対応する関数情報を読み出す(ステップS305,S306,S302)。そして、興味傾向情報生成手段24は、図9で示される情報取得行動情報から、各情報取得行動情報の示す値を読み出し、その値を読み出した関数情報の示す関数に代入することによって、関数の値を算出する(ステップS303)。ここでは、関数の値が「0.24」であったとする。興味傾向情報生成手段24は、その算出した関数の値を興味傾向情報生成手段24が有する図示しない記録媒体において一時的に記憶する(ステップS304)。図14の3番目のレコードによって、そのようにして一時記憶された関数の値が示される。
次に、興味傾向情報生成手段24は、関数情報記憶手段23で記憶されている図13で示される関数情報から、4番目の種類の興味傾向、すなわち、消極型興味傾向に対応する関数情報を読み出す(ステップS305,S306,S302)。そして、興味傾向情報生成手段24は、図9で示される情報取得行動情報から、各情報取得行動情報の示す値を読み出し、その値を読み出した関数情報の示す関数に代入することによって、関数の値を算出する(ステップS303)。ここでは、関数の値が「0.54」であったとする。興味傾向情報生成手段24は、その算出した関数の値を興味傾向情報生成手段24が有する図示しない記録媒体において一時的に記憶する(ステップS304)。図14の4番目のレコードによって、そのようにして一時記憶された関数の値が示される。
このようにして、興味傾向情報生成手段24は、すべての種類の興味傾向に対応する関数情報を用いて関数の値を算出すると(ステップS305,S306)、それらを用いて、興味傾向情報を生成する(ステップS307)。この具体例では、興味傾向情報生成手段24は、図14で示される興味傾向の種類を示す情報と、その程度を示す情報(ここでは、関数の値をパーセント表示した情報)とを対応付けた情報を興味傾向情報として構成する。図15は、興味傾向情報生成手段24が構成した興味傾向情報を示す図である。
興味傾向情報出力部16は、興味傾向情報生成手段24が構成した図15で示される興味傾向情報をディスプレイに出力する。その結果、ディスプレイに図15で示される興味傾向情報が表示され、ユーザは、その興味傾向情報を見ることによって、情報取得者(顧客)の興味傾向が主に積極型興味傾向であることを知ることができる。
ここで、図13で示されるように、興味傾向の種類と、対応する関数情報とを決定する方法について説明する。まず、複数の情報取得者が説明対象物に関する情報を取得する実験を行い、それらの情報取得者のモーション情報等を取得し、すでに説明した方法等を用いることによって情報取得行動情報を生成する。なお、モーション情報等を取得する情報取得者の数は、後述する因子負荷量を適切に算出することができる程度に多いことが好ましい。発明者らは、22人の情報取得者からモーション情報等を取得して、以下の因子分析を行った。
そのようにして生成された情報取得行動情報について因子分析手法を用いることによって、多変量データである情報取得行動情報から共通因子を探り出す。その結果、その因子を用いることにより、興味傾向を複数の因子ごとのグループに分けることができる。そのグループに名称を付けたものが、上述の積極型興味傾向等である。
次に、その求めた因子(例えば、積極性因子、協調性因子等の興味傾向の各種類に対応する因子)ごとの、情報取得行動情報の因子負荷量を算出する。その因子負荷量の算出において、バリマックス回転による因子分析等を行ってもよい。例えば、積極性因子の場合、情報取得行動情報「指差しの回数」の因子負荷量が高く、情報取得行動情報「発話の回数」の因子負荷量は低いと言う実験結果が得られている。次に、その因子ごとに因子負荷量の平均や因子負荷量の標準偏差等の統計量を算出し、その統計量を用いて関数情報の示す関数の各係数値を設定する。この方法は、従来からすでに知られており、その詳細な説明は省略する。このような因子ごとの各情報取得行動情報の因子負荷量を用いることによって、因子負荷量の大きい情報取得行動情報が関数値により大きく寄与するように関数情報の示す関数の各係数値を設定することができる。このようにして、関数情報を決定することができる。
なお、この具体例では、興味傾向の種類と、その程度とを示す情報である興味傾向情報を出力する場合について説明したが、前述のように、出力される興味傾向情報は、最も程度の高い興味傾向の種類を示す情報であってもよい。上記具体例の場合には、興味傾向情報「積極型興味傾向」が出力されることになる。このような出力がなされることにより、ユーザは、どの種類の興味傾向が最も支配的であったのかについて知ることができる。また、出力される興味傾向情報は、ある種類の興味傾向に対応する程度を示す情報であってもよい。上記具体例の場合には、積極型興味傾向に対応する関数情報のみが関数情報記憶手段23で記憶されており、その関数情報を用いて算出された積極型興味傾向の程度「75%」が出力されることになる。このような出力がなされることにより、ユーザは、情報取得者である顧客の興味傾向が積極型興味傾向である程度を知ることができる。
また、この具体例では、一連のモーション情報と音声情報を蓄積した後に、興味傾向情報を生成する場合について説明したが、モーション情報と音声情報の蓄積と、興味傾向情報の生成とをリアルタイムで並行して行ってもよい。その場合には、例えば、所定の時間区切り(例えば、1分等)ごとに、興味傾向情報を生成してもよい。その生成された興味傾向情報を情報提供者が装着しているヘッドマウントディスプレイや、イヤホン等に出力し、情報提供者がリアルタイムで興味傾向情報のフィードバックを受けることによって、情報提供者による情報の提供行為に興味傾向情報を活用するようにしてもよい。例えば、店員である情報提供者に示された興味傾向情報の種類が「消極型興味傾向」である場合には、顧客が商品やサービスを購入する見込みがないと判断し、その顧客に対する商品説明等を早期に切り上げるようにしてもよい。
また、この具体例では、情報取得行動情報が単位時間あたりの情報である場合について説明したが、それは一例であって、情報取得行動情報は、単位時間あたりの情報でなくてもよい。例えば、図9で示される測定値をそのまま情報取得行動情報として用いてもよい。
また、この具体例では、関数情報の示す関数が、情報取得行動情報の示す値の1次の多項式である場合について説明したが、関数情報の示す関数は、興味傾向の種類に対応する値を適切に算出できるものであれば、この具体例で説明した関数に限定されず、その他の関数であってもよい。また、対応する興味傾向の種類ごとに、関数の形が異なってもよい。
また、この具体例では、情報取得行動として、単に「注視」を検出する場合について説明したが、前述のように、情報取得行動として、「情報提供者への注視」や、「説明対象物への注視」を検出するようにしてもよい。その場合には、情報取得者は、例えば、ウェアラブルカメラを装着しており、そのウェアラブルカメラによって情報取得者の視線方向の画像を撮影していてもよい。また、情報取得行動「情報提供者への注視」に対応する条件は、例えば、ウェアラブルカメラによって撮影された画像によって、人物の顔領域が特定されており、かつ、眼球運動の変化が5度未満である状態が0.5秒以上継続することであってもよい。ここで、人物の顔領域の特定は、前述のように、例えば、肌色検出や、パターンマッチング等の技術を用いることにより行うことができる。また、情報取得行動「説明対象物への注視」に対応する条件は、例えば、ウェアラブルカメラによって撮影された画像に説明対象物の画像が含まれており、かつ、眼球運動の変化が5度未満である状態が0.5秒以上継続することであってもよい。ここで、撮影された画像に説明対象物の画像が含まれているかどうかの判断は、前述のように、例えば、説明対象物に所定のマーカが付いている場合には、そのマーカが撮影された画像に含まれているかどうかで判断してもよく、パターンマッチング等の技術を用いることによって判断してもよい。このように、単に「注視」を検出するだけでなく、「情報提供者への注視」や、「説明対象物への注視」を検出することによって、精度の高い興味傾向の分析を行うことができることは言うまでもない。
また、上述のようにして出力された興味傾向情報を用いて、情報取得者の興味傾向を複数のクラスタに分類してもよい。例えば、複数の情報取得者からモーション情報等を取得して因子分析を行った場合と同様に、複数の情報取得者に関する各興味傾向の種類と、その程度を示す情報とを用いて、複数の情報取得者に関する興味傾向情報を、複数のクラスタに分類する。その分類したクラスタの興味傾向情報の傾向をパターンとして保持し、ある情報取得者に関する興味傾向情報を生成し、出力した後に、その興味傾向情報がどのクラスタのパターンにマッチするのかを判断することによって、その情報取得者の興味傾向のクラスタ分けを行ってもよい。
また、この具体例で用いた図6、図8〜図12、図14、図15の具体的なデータは、本実施の形態による興味傾向情報出力装置1の動作の詳細を説明するために示したものであり、実際に被験者から取得したデータではない。
以上のように、本実施の形態による興味傾向情報出力装置1では、情報取得者に関するモーション情報、及び音声情報を用いることにより、興味傾向情報を生成し、出力することができる。したがって、今まで実現することができなかった、物と人との両方から情報を取得する形態における情報取得者の興味傾向を適切に示す興味傾向情報を生成し、出力することができる。また、その興味傾向情報を用いることにより、情報取得者の興味傾向がどのようなものであるのかについて知ることができ、それを用いることによって、過去の興味傾向の分析を行うことができ、また、将来の接客等に活用することができ、よりよい情報の提供を実現することができる。
なお、上記実施の形態では、興味傾向情報生成部15が関数情報記憶手段23を備え、関数情報を用いて興味傾向情報を生成する場合について説明したが、興味傾向情報生成部15は、関数情報を用いないで興味傾向情報を生成してもよい。例えば、興味傾向情報生成手段24は、各興味傾向の種類が支配的であるための条件を示す情報(例えば、情報取得行動情報のしきい値に関する条件を示す情報等)を用いて、情報取得行動情報生成手段22が生成した情報取得行動情報から支配的である興味傾向の種類を特定してもよい。興味傾向情報生成部15が関数情報を用いないで興味傾向情報を生成する場合には、興味傾向情報生成部15は、関数情報記憶手段23を備えなくてもよい。
また、上記実施の形態では、興味傾向情報生成部15が、まず情報取得行動情報を生成し、その生成した情報取得行動情報を用いて興味傾向情報を生成する場合について説明したが、興味傾向情報生成部15は、情報取得行動情報を生成しないで興味傾向情報を生成してもよい。例えば、興味傾向情報生成部15は、各興味傾向の種類が支配的であるための条件を示す情報(例えば、積極型興味傾向が支配的である条件は、1分に5回以上の割合で指差しが行われること等)を用いて、情報取得行動情報生成手段22が生成した情報取得行動情報から支配的である興味傾向の種類を特定してもよい。興味傾向情報生成部15が関数情報を用いないで興味傾向情報を生成する場合には、興味傾向情報生成部15は、条件情報記憶手段21、情報取得行動情報生成手段22、関数情報記憶手段23を備えなくてもよい。
また、上記実施の形態において、情報取得者の種類に応じて、用いる関数情報を変更するようにしてもよい。ここで、情報取得者の種類とは、例えば、店の客、生徒、患者等である。例えば、店の客用の関数情報と、生徒用の関数情報と、患者用の関数情報とが関数情報記憶手段23で記憶されており、興味傾向情報生成手段24は、情報取得者の種類に応じた関数情報を読み出して使用してもよい。なお、情報取得者の種類は、ユーザの手入力等によって興味傾向情報出力装置1に入力されてもよく、あるいは、音声情報やモーション情報等から抽出されてもよい。
また、上記実施の形態において、各処理または各機能は、単一の装置または単一のシステムによって集中処理されることによって実現されてもよく、あるいは、複数の装置または複数のシステムによって分散処理されることによって実現されてもよい。
また、上記実施の形態において、各構成要素は専用のハードウェアにより構成されてもよく、あるいは、ソフトウェアにより実現可能な構成要素については、プログラムを実行することによって実現されてもよい。例えば、ハードディスクや半導体メモリ等の記録媒体に記録されたソフトウェア・プログラムをCPU等のプログラム実行部が読み出して実行することによって、各構成要素が実現される。なお、上記実施の形態における興味傾向情報出力装置を実現するソフトウェアは、以下のようなプログラムである。つまり、このプログラムは、コンピュータに、情報提供者が情報取得者に対面して説明対象物に関連する情報を提供している状況であり、かつ、前記情報取得者が前記説明対象物に直接アクセス可能な状況における、前記情報取得者の動きを示す情報であり、前記情報取得者の視線に関する情報と、前記情報取得者のうなずきを検出可能な情報とを少なくとも含む情報であるモーション情報を受け付けるモーション情報受付ステップと、前記情報取得者の発した音声に関する情報である音声情報を受け付ける音声情報受付ステップと、前記モーション情報受付ステップで受け付けたモーション情報と、前記音声情報受付ステップで受け付けた音声情報とから、前記情報取得者の興味傾向に関する情報である興味傾向情報を生成する興味傾向情報生成ステップと、前記興味傾向情報生成ステップで生成した興味傾向情報を出力する興味傾向情報出力ステップと、を実行させるためのものである。
また、そのプログラムでは、前記興味傾向情報生成ステップが、条件情報記憶手段で記憶されている、情報取得者が情報の取得時に行う行動である情報取得行動の発生の条件を示す情報である条件情報を用いて、前記モーション情報及び前記音声情報から情報取得行動の発生を検出し、検出した情報取得行動に関する情報である情報取得行動情報を生成する情報取得行動情報生成ステップと、前記情報取得行動情報生成ステップで生成された情報取得行動情報を用いて興味傾向情報を生成する興味傾向情報生成ステップと、を含んでいてもよい。
さらに、そのプログラムでは、前記興味傾向情報生成ステップにおいて、関数情報記憶手段で記憶されている、情報取得行動情報の示す値を引数とする関数を示す情報である1以上の関数情報の示す関数に、前記情報取得行動情報生成ステップで生成された情報取得行動情報の示す値を代入することにより興味傾向情報を生成してもよい。
なお、上記プログラムにおいて、情報を出力する出力ステップや、情報を受け付ける受付ステップ等では、ハードウェアでしか行われない処理、例えば、出力ステップにおけるモデムやインターフェースカード等で行われる処理は少なくとも含まれない。
また、このプログラムは、サーバ等からダウンロードされることによって実行されてもよく、所定の記録媒体(例えば、CD−ROM等の光ディスクや磁気ディスク、半導体メモリ等)に記録されたプログラムが読み出されることによって実行されてもよい。
また、このプログラムを実行するコンピュータは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、あるいは分散処理を行ってもよい。
図16は、上記プログラムを実行して、上記実施の形態による興味傾向情報出力装置1を実現するコンピュータの外観の一例を示す模式図である。上記実施の形態は、コンピュータハードウェア及びその上で実行されるコンピュータプログラムによって実現される。
図16において、コンピュータシステム100は、CD−ROM(Compact Disk Read Only Memory)ドライブ105、FD(Flexible Disk)ドライブ106を含むコンピュータ101と、キーボード102と、マウス103と、モニタ104とを備える。
図17は、コンピュータシステムを示す図である。図17において、コンピュータ101は、CD−ROMドライブ105、FDドライブ106に加えて、CPU(Central Processing Unit)111と、ブートアッププログラム等のプログラムを記憶するためのROM(Read Only Memory)112と、CPU111に接続され、アプリケーションプログラムの命令を一時的に記憶すると共に、一時記憶空間を提供するRAM(Random Access Memory)113と、アプリケーションプログラム、システムプログラム、及びデータを記憶するハードディスク114と、CPU111、ROM112等を相互に接続するバス115とを備える。なお、コンピュータ101は、LANへの接続を提供する図示しないネットワークカードを含んでいてもよい。
コンピュータシステム100に、上記実施の形態による興味傾向情報出力装置1の機能を実行させるプログラムは、CD−ROM121、またはFD122に記憶されて、CD−ROMドライブ105、またはFDドライブ106に挿入され、ハードディスク114に転送されてもよい。これに代えて、そのプログラムは、図示しないネットワークを介してコンピュータ101に送信され、ハードディスク114に記憶されてもよい。プログラムは実行の際にRAM113にロードされる。なお、プログラムは、CD−ROM121やFD122、またはネットワークから直接、ロードされてもよい。
プログラムは、コンピュータ101に、上記実施の形態による興味傾向情報出力装置1の機能を実行させるオペレーティングシステム(OS)、またはサードパーティプログラム等を必ずしも含んでいなくてもよい。プログラムは、制御された態様で適切な機能(モジュール)を呼び出し、所望の結果が得られるようにする命令の部分のみを含んでいてもよい。コンピュータシステム100がどのように動作するのかについては周知であり、詳細な説明は省略する。
また、本発明は、以上の実施の形態に限定されることなく、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。
以上より、本発明による興味傾向情報出力装置等によれば、情報取得者のモーション情報等を用いて、情報取得者の興味傾向情報を生成し、出力することができ、興味傾向情報を生成して出力するシステム等として有用である。
本発明の実施の形態1による興味傾向情報出力装置の構成を示すブロック図 同実施の形態による興味傾向情報出力装置の全体動作を示すフローチャート 同実施の形態による興味傾向情報出力装置の情報取得行動情報の生成処理の詳細を示すフローチャート 同実施の形態による興味傾向情報出力装置の興味傾向情報の生成処理の詳細を示すフローチャート 同実施の形態によるアイカメラ等を装着した情報取得者の一例を示す図 同実施の形態における音声情報及びモーション情報の一例を示す図 同実施の形態における条件情報の一例を示す図 同実施の形態における情報取得行動「発話」の検出について説明するための図 同実施の形態における情報取得行動情報の一例を示す図 同実施の形態における情報取得行動「注視」の検出について説明するための図 同実施の形態における情報取得行動「うなずき」の検出について説明するための図 同実施の形態における情報取得行動「指差し」の検出について説明するための図 同実施の形態における関数情報の一例を示す図 同実施の形態における算出された関数の値の一例を示す図 同実施の形態における興味傾向情報の一例を示す図 同実施の形態におけるコンピュータシステムの外観一例を示す模式図 同実施の形態におけるコンピュータシステムの構成の一例を示す図
符号の説明
1 興味傾向情報出力装置
11 モーション情報受付部
12 モーション情報蓄積部
13 音声情報受付部
14 音声情報蓄積部
15 興味傾向情報生成部
16 興味傾向情報出力部
21 条件情報記憶手段
22 情報取得行動情報生成手段
23 関数情報記憶手段
24 興味傾向情報生成手段

Claims (5)

  1. 情報提供者が情報取得者に対面して説明対象物に関連する情報を提供している状況であり、かつ、前記情報取得者が前記説明対象物に直接アクセス可能な状況における、前記情報取得者の動きを示す情報であり、前記情報取得者の視線に関する情報と、前記情報取得者のうなずきを検出可能な情報とを少なくとも含む情報であるモーション情報を受け付けるモーション情報受付部と、
    前記情報取得者の発した音声に関する情報である音声情報を受け付ける音声情報受付部と、
    前記モーション情報受付部が受け付けたモーション情報と、前記音声情報受付部が受け付けた音声情報とから、前記情報取得者の情報取得における興味傾向に関する情報である興味傾向情報を生成する興味傾向情報生成部と、
    前記興味傾向情報生成部が生成した興味傾向情報を出力する興味傾向情報出力部と、を具備し、
    前記興味傾向情報生成部は、
    情報取得者が情報の取得時に行う行動である情報取得行動の発生の条件を示す情報である条件情報が記憶される条件情報記憶手段と、
    前記条件情報記憶手段で記憶されている条件情報を用いて、前記モーション情報及び前記音声情報から情報取得行動の発生を検出し、検出した情報取得行動に関する情報であり、情報取得行動の発生回数及び情報取得行動の発生時間を含む情報である情報取得行動情報を生成する情報取得行動情報生成手段と、
    情報取得行動情報の示す値を引数とする関数を示す情報である関数情報が、興味傾向の種類ごとに2以上記憶される関数情報記憶手段と、
    前記関数情報記憶手段で記憶されている2以上の関数情報の示す関数に、前記情報取得行動情報生成手段で生成された情報取得行動情報の示す値を代入することにより得られた値である興味傾向の程度を興味傾向の種類ごとに示す情報を含む興味傾向情報を生成する興味傾向情報生成手段と、を具備する、興味傾向情報出力装置。
  2. 前記関数情報記憶手段では、情報取得者が説明対象物に関する情報取得のために積極的に働きかけている興味傾向である積極型興味傾向、情報取得者と情報提供者との協調的なインタラクションによって情報取得が行われる興味傾向である協調コミュニケーション型興味傾向、情報取得者が情報提供者とのインタラクションを重視しておらず、両者間のコミュニケーションが適切に行われていない状況で情報取得が行われる興味傾向である情報取得優先型興味傾向、情報提供者が情報取得者に強く働きかけている情報取得の興味傾向である消極型興味傾向のそれぞれに対応する関数情報が記憶されており、
    前記興味傾向情報生成手段は、積極型興味傾向、協調コミュニケーション型興味傾向、情報取得優先型興味傾向、消極型興味傾向のそれぞれに対応する興味傾向の程度を示す興味傾向情報を生成する、請求項1記載の興味傾向情報出力装置。
  3. 前記情報取得行動情報は、前記情報取得者の指差しの発生回数、発話回数、発話時間、注視の発生回数、うなずき回数を含み、
    前記積極型興味傾向に対応する関数情報は、前記情報取得者の指差しが頻繁である場合に高い値となるものであり、
    前記協調コミュニケーション型興味傾向に対応する関数情報は、前記情報取得者の発話時間が長く、発話回数が多い場合に高い値となるものであり、
    前記情報取得優先型興味傾向に対応する関数情報は、前記情報取得者の注視が頻繁である場合に高い値となるものであり、
    前記消極型興味傾向に対応する関数情報は、前記情報取得者のうなずき回数が多い場合に高い値となるものである、請求項2記載の興味傾向情報出力装置。
  4. モーション情報受付部と、音声情報受付部と、情報取得者が情報の取得時に行う行動である情報取得行動の発生の条件を示す情報である条件情報が記憶される条件情報記憶手段、情報取得行動情報生成手段、関数情報記憶手段、興味傾向情報生成手段を具備する興味傾向情報生成部と、興味傾向情報出力部とが処理する興味傾向情報出力方法であって、
    前記モーション情報受付部が、情報提供者が情報取得者に対面して説明対象物に関連する情報を提供している状況であり、かつ、前記情報取得者が前記説明対象物に直接アクセス可能な状況における、前記情報取得者の動きを示す情報であり、前記情報取得者の視線に関する情報と、前記情報取得者のうなずきを検出可能な情報とを少なくとも含む情報であるモーション情報を受け付けるモーション情報受付ステップと、
    前記音声情報受付部が、前記情報取得者の発した音声に関する情報である音声情報を受け付ける音声情報受付ステップと、
    前記興味傾向情報生成部が、前記モーション情報受付ステップで受け付けたモーション情報と、前記音声情報受付ステップで受け付けた音声情報とから、前記情報取得者の情報取得における興味傾向に関する情報である興味傾向情報を生成する興味傾向情報生成ステップと、
    前記興味傾向情報出力部が、前記興味傾向情報生成ステップで生成した興味傾向情報を出力する興味傾向情報出力ステップと、を具備し、
    前記興味傾向情報生成ステップは、
    前記情報取得行動情報生成手段が、前記条件情報記憶手段で記憶されている条件情報を用いて、前記モーション情報及び前記音声情報から情報取得行動の発生を検出し、検出した情報取得行動に関する情報であり、情報取得行動の発生回数及び情報取得行動の発生時間を含む情報である情報取得行動情報を生成するステップと、
    前記興味傾向情報生成手段が、前記関数情報記憶手段で興味傾向の種類ごとに記憶されている、情報取得行動情報の示す値を引数とする関数を示す情報である2以上の関数情報の示す関数に、前記情報取得行動情報を生成するステップで生成された情報取得行動情報の示す値を代入することにより得られた値である興味傾向の程度を興味傾向の種類ごとに示す情報を含む興味傾向情報を生成するステップと、を具備する、興味傾向情報出力方法。
  5. コンピュータに、
    情報提供者が情報取得者に対面して説明対象物に関連する情報を提供している状況であり、かつ、前記情報取得者が前記説明対象物に直接アクセス可能な状況における、前記情報取得者の動きを示す情報であり、前記情報取得者の視線に関する情報と、前記情報取得者のうなずきを検出可能な情報とを少なくとも含む情報であるモーション情報を受け付けるモーション情報受付ステップと、
    前記情報取得者の発した音声に関する情報である音声情報を受け付ける音声情報受付ステップと、
    前記モーション情報受付ステップで受け付けたモーション情報と、前記音声情報受付ステップで受け付けた音声情報とから、前記情報取得者の情報取得における興味傾向に関する情報である興味傾向情報を生成する興味傾向情報生成ステップと、
    前記興味傾向情報生成ステップで生成した興味傾向情報を出力する興味傾向情報出力ステップと、を実行させ
    前記興味傾向情報生成ステップは、
    条件情報記憶手段で記憶されている、情報取得者が情報の取得時に行う行動である情報取得行動の発生の条件を示す情報である条件情報を用いて、前記モーション情報及び前記音声情報から情報取得行動の発生を検出し、検出した情報取得行動に関する情報であり、情報取得行動の発生回数及び情報取得行動の発生時間を含む情報である情報取得行動情報を生成するステップと、
    関数情報記憶手段で興味傾向の種類ごとに記憶されている、情報取得行動情報の示す値を引数とする関数を示す情報である2以上の関数情報の示す関数に、前記情報取得行動情報を生成するステップで生成された情報取得行動情報の示す値を代入することにより得られた値である興味傾向の程度を興味傾向の種類ごとに示す情報を含む興味傾向情報を生成するステップと、を具備する、プログラム。
JP2006220969A 2006-08-14 2006-08-14 興味傾向情報出力装置、興味傾向情報出力方法、及びプログラム Expired - Fee Related JP4868360B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006220969A JP4868360B2 (ja) 2006-08-14 2006-08-14 興味傾向情報出力装置、興味傾向情報出力方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006220969A JP4868360B2 (ja) 2006-08-14 2006-08-14 興味傾向情報出力装置、興味傾向情報出力方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2008046801A JP2008046801A (ja) 2008-02-28
JP4868360B2 true JP4868360B2 (ja) 2012-02-01

Family

ID=39180503

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006220969A Expired - Fee Related JP4868360B2 (ja) 2006-08-14 2006-08-14 興味傾向情報出力装置、興味傾向情報出力方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP4868360B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5284179B2 (ja) * 2009-05-21 2013-09-11 トヨタ自動車東日本株式会社 作業判定システム及び作業判定方法並びに該作業判定方法を記録した記録媒体
JP5937829B2 (ja) * 2012-01-25 2016-06-22 日本放送協会 視聴状況認識装置及び視聴状況認識プログラム
JP2012230705A (ja) * 2012-07-21 2012-11-22 Keiko Takeda デジタルアートの販売システム及びデジタルフォトフレーム等を利用して提供する販売システム
KR101724999B1 (ko) * 2016-04-01 2017-04-07 주식회사 포켓메모리 가상 쇼핑 방문자 단말기와 가상 쇼핑 서버를 포함하는 가상 쇼핑 시스템
KR102118336B1 (ko) * 2016-05-20 2020-06-04 전자부품연구원 공간 행동 의미 분석 시스템 및 공간 행동 의미 분석 방법
US20210406526A1 (en) * 2018-03-01 2021-12-30 Tamagawa Academy & University Information processing device, information processing method, and program
CN109065035A (zh) * 2018-09-06 2018-12-21 珠海格力电器股份有限公司 信息交互方法及装置
WO2022004567A1 (ja) * 2020-07-02 2022-01-06 パナソニックIpマネジメント株式会社 コミュニケーション解析システム、及び、コミュニケーション解析方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000315259A (ja) * 1999-05-06 2000-11-14 Sharp Corp データベース作成装置及びデータベース作成プログラムを記録した記録媒体
JP2001350904A (ja) * 2000-06-07 2001-12-21 Canon Inc 電子機器及び営業用電子機器システム
JP2004280673A (ja) * 2003-03-18 2004-10-07 Takenaka Komuten Co Ltd 情報提供装置
JP4335642B2 (ja) * 2003-11-10 2009-09-30 日本電信電話株式会社 視聴者反応情報収集方法と、視聴者反応情報収集システムで用いられるユーザ端末及び視聴者反応情報提供装置と、そのユーザ端末・視聴者反応情報提供装置の実現に用いられる視聴者反応情報作成用プログラム

Also Published As

Publication number Publication date
JP2008046801A (ja) 2008-02-28

Similar Documents

Publication Publication Date Title
JP4868360B2 (ja) 興味傾向情報出力装置、興味傾向情報出力方法、及びプログラム
Valtakari et al. Eye tracking in human interaction: Possibilities and limitations
US9311527B1 (en) Real time eye tracking for human computer interaction
JP7233927B2 (ja) バイオメトリック情報を交換するように構成された頭部搭載型ディスプレイシステム
JP4716119B2 (ja) インタラクション情報出力装置、インタラクション情報出力方法、及びプログラム
EP1691670B1 (en) Method and apparatus for calibration-free eye tracking
US20170097679A1 (en) System and method for content provision using gaze analysis
Poppe et al. AMAB: Automated measurement and analysis of body motion
US20170115742A1 (en) Wearable augmented reality eyeglass communication device including mobile phone and mobile computing via virtual touch screen gesture control and neuron command
US20100060713A1 (en) System and Method for Enhancing Noverbal Aspects of Communication
US7760910B2 (en) Evaluation of visual stimuli using existing viewing data
US20140099623A1 (en) Social graphs based on user bioresponse data
CN109643152B (zh) 使用头戴式显示器内的面部传感器的面部和眼睛跟踪以及面部动画
JP2007006427A (ja) 映像監視装置
WO2018127782A1 (en) Wearable augmented reality eyeglass communication device including mobile phone and mobile computing via virtual touch screen gesture control and neuron command
Sundstedt et al. Visual attention and gaze behavior in games: An object-based approach
KR20190030140A (ko) 시선 추적 방법 및 이를 수행하기 위한 사용자 단말
US10824223B2 (en) Determination apparatus and determination method
US20170365084A1 (en) Image generating apparatus and image generating method
Orlosky et al. Using eye tracked virtual reality to classify understanding of vocabulary in recall tasks
JP2008046802A (ja) インタラクション情報出力装置、インタラクション情報出力方法、及びプログラム
Burlingham et al. Motor “laziness” constrains fixation selection in real-world tasks
Lenart et al. Gaze Analysis System for Immersive 360 Video for Preservice Teacher Education
US20220409110A1 (en) Inferring cognitive load based on gait
Hwang et al. A rapport and gait monitoring system using a single head-worn IMU during walk and talk

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090511

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111028

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111108

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141125

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees