JP6136206B2 - 会議システム、サーバ、及び、会議情報生成プログラム - Google Patents

会議システム、サーバ、及び、会議情報生成プログラム Download PDF

Info

Publication number
JP6136206B2
JP6136206B2 JP2012252419A JP2012252419A JP6136206B2 JP 6136206 B2 JP6136206 B2 JP 6136206B2 JP 2012252419 A JP2012252419 A JP 2012252419A JP 2012252419 A JP2012252419 A JP 2012252419A JP 6136206 B2 JP6136206 B2 JP 6136206B2
Authority
JP
Japan
Prior art keywords
pointer
page
information
server
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012252419A
Other languages
English (en)
Other versions
JP2014103451A (ja
Inventor
山 姜
山 姜
村瀬 有一
有一 村瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2012252419A priority Critical patent/JP6136206B2/ja
Priority to US14/041,409 priority patent/US9960924B2/en
Publication of JP2014103451A publication Critical patent/JP2014103451A/ja
Application granted granted Critical
Publication of JP6136206B2 publication Critical patent/JP6136206B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/02Details
    • H04L12/16Arrangements for providing special services to substations
    • H04L12/18Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • H04L12/1813Arrangements for providing special services to substations for broadcast or conference, e.g. multicast for computer conferences, e.g. chat rooms
    • H04L12/1831Tracking arrangements for later retrieval, e.g. recording contents, participants activities or behavior, network status
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3438Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment monitoring of user actions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/02Details
    • H04L12/16Arrangements for providing special services to substations
    • H04L12/18Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • H04L12/1813Arrangements for providing special services to substations for broadcast or conference, e.g. multicast for computer conferences, e.g. chat rooms

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Telephonic Communication Services (AREA)
  • Telephone Function (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、会議システム、サーバ、及び、会議情報生成プログラムに関する。
一般的に、会議が行われた後、会議の内容や会議に参加した人物の発言を記録するためや、会議に参加していない第3者に把握するために、議事録の作成等が行われる。ただし、議事録の作成には時間を要すると共に、議事録作成者にもたらされる負担も大きい。
そこで、会議の内容や参加メンバーの発言内容を、会議が行なわれた後に把握可能にするために、ビデオカメラやサウンドレコーダなどによって、音声や画像として記録する方法が広く用いられる。また、会議における音声や画像を記憶すると共に、会議で使用された文書や、参加者等の情報を記録する会議システムが提案される(特許文献1)。
特開2007−052566号公報
しかしながら、第3者は、会議におけるいずれの時間に、また、会議資料のいずれの部分に対して、どのような発言が行なわれたかを予め検知することができない。また、第3者は、会議におけるいずれの時間、及び、会議資料のいずれの部分に対して、説明や議論が最も活性化したかを検知することができない。このため、第3者は、必要な情報を得るため、会議の中心となった発言や会議資料を把握するために、記憶された音声や画像を初めから再生する必要があった。これは、効率が悪く、時間やコストの増加につながっていた。
また、ユーザは、サウンドレコーダの記録に基づいて会議での発言を検知可能になるものの、会議資料におけるどの部分に対して発言が行われたかを検知することはできなかった。また、ビデオカメラやサウンドレコーダ等を備えるにはコストがかかる。
本発明は、会議内容を低コストで効率的に把握可能にする会議システム、サーバ、及び、会議情報生成プログラムを提供するものである。
第1の側面は、サーバと、前記サーバに接続可能な携帯端末とを有する会議システムであって、前記携帯端末は、前記携帯端末の姿勢情報を検出する姿勢推定手段と、ユーザによって前記携帯端末に行われた操作情報を検出する操作手段と、前記姿勢推定手段及び前記操作手段によって検出された前記姿勢情報及び前記操作情報を描画イベントとして、前記サーバに送信するイベント送信手段と、を有し、前記サーバは、1または複数ページの会議資料の画像情報と、前記描画イベントに基づいて前記会議資料に重ねて描画されるポインタの画像情報とを生成する画像情報生成手段と、前記描画されたポインタの描画履歴情報に基づいて、前記会議資料に対応する行動情報を生成する行動情報生成手段と、を有する。
第1の側面によれば、会議内容を低コストで効率的に把握可能にすることができる。
本実施の形態例における会議システムの一例について説明する図である。 会議システムにおいて生成される行動情報について説明する図である。 行動情報の具体例の一例について説明する図である。 本実施の形態例における会議システムの構成図の一例である。 本実施の形態例における会議システムのブロック図の一例である。 サーバ及び携帯端末の状態遷移について説明する図である。 サーバのデータベースが有するテーブルの種別について説明する図である。 接続テーブルの一例を表す図である。 ポインタ描画開始・停止テーブルの一例を表す図である。 ポインタ移動テーブルの一例を表す図である。 姿勢情報に基づく移動位置情報の生成処理について説明する図である。 エリア描画開始・停止テーブルの一例を表す図である。 エリア描画サイズ制御テーブルの一例を表す図である。 エリアポインタのサイズの生成処理について説明する図である。 音声録音開始・停止テーブルの一例を表す図である。 会議資料の時系列の表示ページに対応するポインタの描画位置情報、ポインタ描画時の音声位置情報の生成処理について説明する図である。 ページ、及び、表示ページに対応するポインタ描画活性度の生成処理について説明する図である。 表示ページ内の位置に対応するポインタ描画活性度の生成処理について説明する図である。
以下、図面にしたがって本発明の実施の形態について説明する。ただし、本発明の技術的範囲はこれらの実施の形態に限定されず、特許請求の範囲に記載された事項とその均等物まで及ぶものである。
[会議システム]
図1は、本実施の形態例における会議システムの一例について説明する図である。同図における会議システムは、例えば、サーバSV、サーバSVが生成する会議資料等の画像データを表示画面DPに表示するプロジェクタPJ、サーバSVと通信可能な複数の携帯端末fA〜fDを有する。図1の例では、会議には4人の参加者A〜Dがおり、それぞれスマートフォン等の携帯端末fA〜fDを有する。
本実施の形態例における会議システムにおいて、例えば、参加者Aは、携帯端末fAを、表示画面DPに会議資料に重ねて描画されるポインタを描画するポインティングデバイスとして使用する。参加者Aは、携帯端末fAのタッチパネルへの操作、及び、携帯端末fAの姿勢変更によって、表示画面DPにポインタpp1、pp2や、楕円や矩形等のエリアポインタepを描画させる。また、携帯端末fAは、参加者Aの発話情報を音声ファイルとして記録する。なお、本実施の形態例における会議システムでは、複数の携帯端末fA〜fDによるポインタpp1、pp2、エリアポインタepを同時に描画させることが可能である。
また、本実施の形態例の会議システムにおいて、サーバSVには、描画されたポインタの描画履歴情報が記憶される。描画履歴情報とは、例えば、会議資料の表示されたページに対応する、描画されたポインタの時系列の描画位置情報である。サーバSVは、描画履歴情報に基づいて、会議資料に対応する行動情報を生成する。続いて、行動情報について説明する。
[行動情報]
図2は、本実施の形態例の会議システムにおいて生成される、会議資料に対応する行動情報について説明する図である。本実施の形態例における会議システムにおけるサーバSVは、携帯端末fA、fBによるポインタppA、ppBの描画の履歴情報をデータベースDBに蓄積し(F1)、描画履歴情報に基づいて会議資料に対応する行動情報を生成する(F2)。
行動情報とは、例えば、会議資料の時系列の表示ページに対応する、ポインタppA、ppBの描画位置情報、ポインタppA、ppBが描画された時の音声ファイルの少なくとも一部を示す音声位置情報のいずれかである。これにより、ユーザは、行動情報に基づいて、誰が、会議資料のいずれのページ内のいずれの部分に対して、どのような発言をしたかを示す音声ファイルにおける区間を検知することができる。
または、行動情報とは、ポインタppA、ppBの描画量の度合いを示す描画活性度である。描画活性度は、会議資料のページ、ページ内の位置(注目エリア)、または、表示された時系列のページ(以下、時系列の表示ページと称する)、時系列の表示ページ内の位置(注目エリア)に対応して生成される。これにより、ユーザは、会議において、ポインタの描画が多量に行われたページ(表示ページを含む)や、ページ内のポインタの描画が多量に行われた注目エリアを参照することができる。これにより、ユーザは、会議において、説明や議論が最も活性化したページ及び表示ページや、注目エリアを検知することができる。
続いて、行動情報について具体例を挙げて説明する。
[行動情報の具体例]
図3は、行動情報の具体例の一例について説明する図である。同図では、例えば、会議において表示された時系列の表示ページに対応して、音声録音情報vA1、vA2、vB1、vB2、ポインタの描画活性度m1〜m3、ページ内の位置に対応する描画活性度vzが表される。この例において、会議資料の総ページ数は4ページであって、1ページ〜4ページs1−1〜s4−1の順に表示された後、3ページs3−2、2ページs2−2と遷移し、再び、3ページs3−3に遷移する。
図3の左部に示される時系列の各表示ページs1−1、s2−1、s3−1、s4−1、s3−2、s2−2、s3−3では、描画されたポインタの軌跡が表される。具体的に、携帯端末Aによって描画されたポインタの軌跡PAは実線、携帯端末Bによって描画されたポインタの軌跡PBは点線で表される。また、図3における中央部の下向きの矢印vA1、vA2、vB1、vB2は、各表示ページが表示されているときに音声情報が記憶されたことを示す。具体的に、携帯端末Aによって生成された音声情報は実線の矢印vA1、vA2、携帯端末Bによって生成された音声情報は破線の矢印vB1、vB2によって表される。
なお、本実施の形態例において、ポインタが描画される場合、同時に、ポインタを描画した参加者によって、音声が発せられていることが前提とされる。これは、ページのいずれかの位置を指すとき、当該位置に対して発言しているという前提に基づく。このため、例えば、ある携帯端末によってポインタが描画されている間、当該携帯端末において音声ファイルが生成される。図3の例において、表示ページs2−1、s3−1に携帯端末Aによるポインタが描画されている間(実線)、矢印vA1に示されるように、携帯端末Aによって音声ファイルが生成される。同様にして、表示ページs4−1、s3−2に携帯端末Bによるポインタが描画されている間(破線)、矢印vB1に示されるように、携帯端末Bによって音声ファイルが生成される。
そして、図3において、網点で表される棒グラフは、表示ページに対応するポインタの描画活性度を示す。ポインタの描画活性度は、例えば、ページまたは表示ページにおけるポインタの描画時間や描画した携帯端末数に示される描画量に基づいて、ポインタの描画量が多い程、ポインタの描画活性度を高くするように生成される。このため、例えば、ポインタの描画量が多い表示ページs3−2、s3−3に対応する描画活性度m1、m2は高く、ポインタの描画量が少ない表示ページs2−1に対応する描画活性度m3は低い。ユーザは、ページまたは表示ページに対応する描画活性度を参照することによって、ポインタの描画が多量に行われたページまたは表示ページを検知することができる。また、ユーザは、検知されたページ内のポインタの描画位置情報や、対応する音声ファイルの少なくとも一部を示す音声ファイル区間(位置情報)を検知することができる。音声位置情報とは、音声ファイルの少なくとも一部を示す、音声ファイルにおける位置や区間を示す情報である。
なお、ポインタの描画活性度は、図3のような棒グラフの例に限定されるものではない。ポインタの描画活性度は、数値やランク、他のグラフによって表されてもよい。なお、描画活性度の生成処理の詳細については、後述する。
また、図3の右部には、各表示ページ内の位置に対応する描画活性度が表される。この例では、例えば、描画活性度の高い位置が注目エリアとして示される。この例において、携帯端末Aによる注目エリアは実線、携帯端末Bによる注目エリアは点線で表される。ユーザは、描画活性度を参照することによって、ポインタの描画が多量に行われたページ内の位置を検知することができる。例えば、表示ページs3−2は携帯端末A、Bによってポインタの描画が行われ、携帯端末A、Bそれぞれの注目エリアと、その重複エリアvzが示される。これにより、ユーザは、例えば、表示ページs3−2内において、ポインタの描画が最も活性化した注目エリアvzを検知することができる。
また、ユーザは、図3に示されるような、描画されたポインタの時系列の描画位置情報を含む描画履歴情報に基づいて、ページに対応するポインタの描画位置情報や、ポインタ描画時の音声位置情報を検知することができる。つまり、ユーザは、描画履歴情報に基づいて、携帯端末fBを有する参加者Bが、表示ページ3s3−2の描画位置vyに対して、音声ファイルにおける音声位置vxに示される発言をしたことを検知できる。
なお、図3の例では、各表示ページに対応して描画活性度が生成される。しかし、描画活性度は、ページ毎に、同一のページを示す表示ページの統合描画活性度として生成されてもよい。例えば、図3の右部には、ページ3内の位置に対応する描画活性度vwが示される。これにより、ユーザは、ページ単位に、ポインタの描画が多量に行われたページや、当該ページ内の位置に対応する描画活性度を検知できる。
続いて、本実施の形態例における会議システムの構成図について説明する。
[会議システムの構成図]
図4は、本実施の形態例における会議システムの構成図の一例である。同図において、サーバSVには、複数の携帯端末fA、fBが接続されるが、ここでは、1台の携帯端末fAについて説明する。サーバSVは、例えば、コンピュータであって、携帯端末fA、fBは、例えば、アンドロイド等のプラットフォームがインストールされるスマートフォンである。
なお、本実施の形態例における会議システムは、複数の携帯端末が接続される場合に限定されるものではなく、サーバSVに接続される携帯端末は1台であってもよい。本実施の形態例において、会議には、図1で示したような形態に加えて、例えば、デジタルサイネージによるプレゼンテーション等の形態も含まれる。この場合、会議システムは、例えば、広告やマーケティング等を目的とするデジタルサイネージの表示画面とサーバ、1台の携帯端末とによって構成される。
[携帯端末の構成図]
図4において、携帯端末fAは、例えば、CPU21(Central Processing Unit)、メモリ20、通信手段22、センサ23、マイク25、タッチパネル24を有する。サーバSVに接続される他の携帯端末fBの構成についても同様である。
タッチパネル24は、参加者の操作に基づいて、操作情報を検出する。マイク25は、参加者によって発話された音声情報を取得し、音声ファイルを生成する。また、センサ23は、例えば、ジャイロセンサ31センサ、加速度センサ32を有する。ジャイロセンサ31は、例えば、携帯端末fAに対応するX、Y、Z方向の各軸回りの角速度を検出し、加速度センサ32は、各方向の加速度を検出する。センサは、ジャイロセンサ31及び加速度センサ32の出力に基づいて、携帯端末fAの姿勢情報を検出する。
また、メモリ20には、例えば、本実施の形態例における会議システムの端末用プログラムが記憶される。端末用プログラムは、CPU21と協働して、タッチパネル24によって検出された操作情報、マイク25によって生成された音声ファイル、センサによって検出された姿勢情報に基づいてイベントを生成し、通信手段22を介してサーバSVに送信する。なお、この例において、イベントには、複数の携帯端末fAを識別するデバイスIDが含まれ、いずれの携帯端末fAによって生成されたイベントであるか識別可能である。
[サーバSVの構成図]
図4において、サーバSVは、例えば、CPU12、メモリ13、RTC(Real Time Clock)11、データベースDB、表示装置10、通信手段14等を有する。表示装置10は、例えば、サーバSVが生成した画像データを表示する大画面ディスプレイである。表示装置10は、サーバSVに接続可能な別の機械に備えられていてもよい。
RTC11は、時間管理専用のチップであって、サーバSVの日時情報を生成する。また、メモリ13には、会議システムにおけるサーバ用プログラムが記憶される。サーバ用プログラムは、CPU12と協働して、通信手段14を介して受信したイベントに基づく、表示装置10に描画されるポインタや会議資料の画像情報の生成処理を制御する。また、サーバ用プログラムは、受信したイベントをデータベースDBに登録する。データベースDBは、イベントの種別に応じた複数のテーブルを有する。データベースDBに登録された情報に基づいて、行動情報が生成される。
続いて、会議システムにおける携帯端末ff、及び、サーバSVのブロック図について説明する。
[会議システムのブロック図]
図5は、本実施の形態例における会議システムのブロック図の一例である。同図において、サーバSVと、1つの携帯端末ffのブロック図が例示される。
[携帯端末ffのブロック図]
図5において、携帯端末ffは、操作情報生成部44、9軸センサ43、姿勢推定部4242、音声取得部45、イベント生成部41、通信管理部50を有する。操作情報生成部44は、参加者によるボタン押下操作や長押し操作、フリック操作等を検出し、操作情報を検出する。また、9軸センサ43は、携帯端末ffに対応するX、Y、Z軸等の各軸の角速度を検出し、姿勢推定部42に出力する。姿勢推定部42は、9軸センサから出力された各角速度に基づいて姿勢情報を生成する。また、音声取得部45は、参加者による発話情報を取得し、音声ファイルを生成する。
イベント生成部41は、姿勢推定部42、操作情報生成部44、音声取得部45によって、検出及び生成された情報を受けてイベントを生成する。具体的に、イベント生成部41は、姿勢推定部42によって生成された姿勢情報、及び、操作情報生成部44によって検出された操作情報に基づいて描画イベントを生成する。また、イベント生成部41は、音声取得部45によって生成された音声ファイルを受けて、音声イベントを生成する。そして、イベント生成部41は、通信管理部50を介して、描画イベント、音声ファイルを含む音声イベントをサーバSVに送信する。
また、通信管理部50は、例えば、Wi-Fi、Bluetooth(登録商標)等の無線通信に基づく通信制御する。無線通信の接続先であるサーバSVのIPアドレスやデバイス情報等の通信情報は、例えば、予め、携帯端末ffにおける通信管理部50に登録される。ただし、サーバSVの通信情報は、例えば、NFC(Near Field Communication)のタグ60に登録され、携帯端末ffをNFCタグ60に接触させることによって取得させてもよい。NFCとは、無線通信の国際規格であって、十数センチの近距離での小電力無線通信技術である。また、操作情報についても、携帯端末ffをNFCタグ60に接触させることによって検出させてもよい。これにより、サーバSVの通信情報の設定を省略可能にすると共に、操作情報の検出をより簡易にすることができる。
[サーバSVのブロック図]
図5において、サーバSVは、例えば、通信管理部50、イベント取得部53、ポインタ・UI制御部51、データベースDB、行動情報生成部52等を有する。イベント取得部53は、通信管理部50を介して、携帯端末ffから送信されたイベントを取得すると共に、イベントの情報をデータベースDBに登録する。これにより、データベースDBに描画履歴情報が蓄積される。また、イベント取得部53は、取得したイベントが描画イベントを示す場合、ポインタ・UI制御部51に通知する。ポインタ・UI制御部51は、会議資料の画像情報を生成すると共に、通知された描画イベントに基づいて、表示装置に描画するポインタやエリアポインタの画像情報を生成する。また、ポインタ・UI制御部51は、会議資料のページ遷移等のユーザインタフェース制御を行う。また、行動情報生成部52は、データベースDBに登録されたポインタの描画履歴情報に基づいて、行動情報を生成する。各テーブル、及び、行動情報の生成処理の詳細については、後述する。
ここで、携帯端末ff、及び、サーバSVの状態の遷移について説明する。
[状態遷移図]
図6は、本実施の形態例における会議システムのサーバSV及び携帯端末ffの状態遷移について説明する図である。まず、例えば、携帯端末ffのタッチパネル24上のボタンの押下によって、アプリケーションが起動される。このとき、端末用プログラムが起動、接続イベントが生成され、携帯端末ffとサーバSVとが接続状態になる。これにより、携帯端末ff及びサーバSVは、未接続状態から接続状態に遷移する(c1)。なお、接続状態においてアプリケーションが終了すると切断イベントが生成され、接続状態から未接続状態に戻る(c2)。
そして、接続状態において、携帯端末ffのタッチパネル24上で参加者による長押し操作が検出されると、ポインタ描画開始イベントが生成され、携帯端末ff及びサーバSVは、接続状態からポインタ制御状態に遷移する(c3)。ポインタ制御状態では、携帯端末ffからサーバSVに、携帯端末ffの姿勢情報を有するポインタ移動イベントが、例えば、50ms毎に送信される。サーバSVは、ポインタ移動イベントに含まれる姿勢情報に基づいてポインタの描画位置を移動する。このため、長押し状態のまま、携帯端末ffの上下、左右への姿勢変化に対応して、表示画面DPに描画されたポインタが移動する。
また、ポインタ制御状態のまま、さらに、タッチパネル24への指の押下位置の移動が検出されると、エリア描画開始イベントが生成され、携帯端末ff及びサーバSVは、ポインタ制御状態からエリア描画制御状態に遷移する(c5)。このとき(t10)、サーバSVは、例えば、表示画面DPにおいて、ポインタを中心とする楕円等のエリアポインタが描画された透明描画ウィンドウを最前面に配置させる。エリア描画制御状態では、携帯端末ffからサーバSVに、エリアポインタのサイズを有するエリア描画制御イベントが、例えば、50ms毎に送信される。このため、エリア描画制御状態では、姿勢変更に対応するポインタの移動と共に、長押し状態における指の移動に対応して、エリアポインタのサイズが変更される。
一方、描画制御状態において、指の押下位置が初めの位置に戻ると、エリア描画停止イベントが生成され、ポインタ制御状態に遷移する(c6)。これにより(t11)、エリアポインタが描画された透明描画ウィンドウは一番後ろに配置し直され、エリア描画が終了する。さらに、描画制御状態、及び、ポインタ制御状態において、タッチパネル24を長押ししていた指が離脱すると、エリア描画停止イベント、及び、ポインタ描画停止イベントが生成され、接続状態に遷移する(c4、c7)。
このように、タッチパネル24への操作や、携帯端末ffの姿勢の移動に応じて、サーバSVにイベントが送信されると共に、携帯端末ff及びサーバSVの状態が遷移する。サーバSVは、受信したイベントを、ポインタの描画履歴情報としてデータベースDBの各テーブルに登録する。続いて、サーバSVのデータベースDBが有する各テーブルについて説明する。
[テーブル例]
図7は、サーバSVのデータベースDBが有するテーブルの種別について説明する図である。本実施の形態例において、データベースDBは、例えば、接続テーブルT1、ポインタ描画開始・停止テーブルT2、ポインタ移動テーブルT3、エリア描画開始・停止テーブルT4、エリア描画サイズ制御テーブルT5、音声録音開始・停止テーブルT6、ページ遷移テーブルT7を有する。
接続テーブルT1は、サーバSVとの通信の接続・切断を示すイベントを蓄積するテーブルである。例えば、接続テーブルT1は、通信の接続・切断イベントの送信元の携帯端末ffのデバイスIDと、接続・切断イベントを受信したタイムスタンプ、イベントの種別を示す通知情報を有する。タイムスタンプは、例えば、サーバSVのRTC11によって生成される。
ポインタ描画開始・停止テーブルT2は、ポインタ描画の開始及び停止を示すイベントを蓄積するテーブルである。例えば、ポインタ描画開始・停止テーブルT2は、ポインタの描画開始・停止イベントの送信元の携帯端末ffのデバイスIDと、イベントを受信したタイムスタンプ、イベントの種別を示す通知情報を有する。また、ポインタ移動テーブルT3は、描画されたポインタの移動情報を示すイベントを蓄積するテーブルである。例えば、ポインタ移動テーブルT3は、ポインタ移動イベントの送信元の携帯端末ffのデバイスIDと、イベントを受信したタイムスタンプ、移動位置情報(X座標、Y座標)を有する。
エリア描画開始・停止テーブルT4は、エリア描画の開始及び停止を示すイベントを蓄積するテーブルである。例えば、エリア描画開始・停止テーブルT4は、エリア描画開始・停止イベントの送信元の携帯端末ffのデバイスIDと、イベントを受信したタイムスタンプ、イベントの種別を示す通知情報を有する。エリア描画サイズ制御テーブルT5は、描画されたエリアポインタのサイズ情報を示すイベントを蓄積するテーブルである。例えば、エリア描画サイズ制御テーブルT5は、エリア描画サイズ制御イベントの送信元の携帯端末ffのデバイスIDと、イベントを受信したタイムスタンプ、エリアポインタのサイズ情報を有する。
音声録音開始・停止テーブルT6は、携帯端末ffの参加者による発話を記録した音声ファイルの情報をイベントとして蓄積するテーブルである。例えば、音声録音開始・停止テーブルT6は、音声イベントの送信元の携帯端末ffのデバイスIDと、イベントを受信したタイムスタンプ、開始・停止を示す通知情報を有する。ページ遷移テーブルT7は、ページの遷移情報を蓄積するテーブルである。例えば、ページ遷移テーブルT7は、ページ遷移イベントの送信元の携帯端末ffのデバイスIDと、イベントを受信したタイムスタンプ、現ページの情報を有する。即ち、ページ遷移テーブルT7は、時間に対応する表示ページの情報を有する。例えば、ページ遷移イベントは、タッチパネル24におけるフリック動作に基づいて生成される。
続いて、図7で述べたテーブルの具体例について説明する。
[接続テーブルT1]
図8は、接続テーブルT1の一例を表す図である。同図において、実線矢印はAさんの携帯端末fAにおける接続状態を、破線矢印はBさんの携帯端末fBにおける接続状態を示す。また、テーブルにおいて網点で表される情報は、参加者Bが有する携帯端末fBの情報を示す。前述したとおり、接続テーブルT1は、例えば、携帯端末のデバイスIDと、イベント受信時のタイムスタンプ、イベントの種別を示す通知情報を有する。
参加者Aの有する携帯端末fAにおいてアプリケーションが起動されると、接続開始イベントが生成され、サーバSVに送信される。具体的に、接続テーブルT1における接続開始イベントE11は、携帯端末fAを示すデバイスID「358938040636200」、接続要求が発生したタイムスタンプ「1336528530200810」、接続を示す通知情報「connect」を有する。
そして、携帯端末fAにおいてアプリケーションが終了されると、切断イベントが生成され、サーバSVに送信される。接続テーブルT1における切断イベントE12は、携帯端末fAを示すデバイスID「358938040636200」、切断要求が発生したタイムスタンプ「1336528530200810」、切断を示す通知情報「quit」を有する。
他の接続・切断イベントについても同様である。なお、携帯端末fBのイベントは、デバイスIDとして携帯端末fAを示すID「358938040636200」とは異なるID「357194041397217」を有する。このように、各携帯端末からサーバSVに接続、切断が行われる度に、接続・切断イベントが生成されると共にサーバSVに送信され、サーバSVの接続テーブルT1に蓄積される。
[ポインタ描画開始・停止テーブルT2]
図9は、ポインタ描画開始・停止テーブルT2の一例を表す図である。接続テーブルT1と同様にして、同図のテーブルにおいて網点で表された情報は、参加者Bの有する携帯端末fBの情報を示す。前述したとおり、ポインタ描画開始・停止テーブルT2は、例えば、携帯端末のデバイスIDと、イベント受信時のタイムスタンプ、イベントの種別を示す通知情報を有する。
参加者Aの有する携帯端末fAにおいて、タッチパネル24の長押しが検出されると、ポインタ描画開始イベントが生成され、サーバSVに送信される。具体的に、ポインタ描画開始・停止テーブルT2テーブルにおけるポインタ描画開始イベントE21は、携帯端末fAを示すデバイスID「358938040636200」、ポインタ描画開始イベントが発生したタイムスタンプ「1336528530212410」、開始を示す通知情報「start」を有する。
そして、携帯端末fAにおいて長押下状態にあった指がタッチパネル24から離れたときに、ポインタ描画停止イベントが生成され、サーバSVに送信される。ポインタ描画開始・停止テーブルT2テーブルにおけるポインタ描画停止イベントE22は、携帯端末fAを示すデバイスID「358938040636200」、ポインタ描画停止イベントが発生したタイムスタンプ「1336529170031520」、停止を示す通知情報「stop」を有する。
他のポインタ描画開始・停止イベントについても同様である。このように、各携帯端末におけるタッチパネル24の操作に基づいて、ポインタ描画開始・停止イベントが生成されると共にサーバSVに送信され、サーバSVのポインタ描画開始・停止テーブルT2に蓄積される。
[ポインタ移動テーブルT3]
図10は、ポインタ移動テーブルT3の一例を表す図である。同図のテーブルは、携帯端末のポインタ移動情報を有する。前述したとおり、ポインタ移動テーブルT3は、例えば、携帯端末のデバイスIDと、イベントの受信タイムスタンプ、移動位置情報(X座標、Y座標)を有する。
参加者Aの有する携帯端末fAにおいて、長押しが検出されてポインタ描画開始イベントが送信されると、定期的に、ポインタ移動イベントが生成されサーバSVに送信される。具体的に、ポインタ移動テーブルT3テーブルにおけるポインタ移動イベントE31は、携帯端末fAを示すデバイスID「358938040636200」、ポインタ描画開始イベントが発生したタイムスタンプ「1336528533667670」、移動位置情報「−2,−6」を有する。本実施の形態例において、移動位置情報は、姿勢情報に基づいて生成される情報であって、表示画面DP上の移動座標である。この例において、移動位置情報「−2,−6」は、ポインタの位置を、X座標の方向に−2、Y座標の方向に−6、移動することを示す。
他のポインタ移動イベントについても同様である。このように、各携帯端末におけるタッチパネル24の操作に基づいて、定期的に、ポインタ移動イベントが生成されると共にサーバSVに送信され、サーバSVのポインタ移動テーブルT3に蓄積される。
ここで、移動位置情報の生成処理について説明する。
[移動位置情報の生成]
図11は、検出された姿勢情報に基づく移動位置情報の生成処理について説明する図である。前述したとおり、携帯端末は、ジャイロセンサ31センサを有し、携帯端末の姿勢を内部でセンシングし、姿勢情報を検出する。例えば、3軸のジャイロセンサ31センサがあれば、携帯端末の姿勢の回転量を推定可能である。
例えば、ジャイロセンサ31は、X、Y、Z軸の3軸回りの角速度を検出し、姿勢推定部42に出力する。この例において、携帯端末のタッチパネル24の方向(Z軸正方向)を基準として、X軸回りの回転方向をロール方向、Y軸回りの回転方向をピッチ方向、Z軸回りの回転方向をヨー方向とする。例えば、携帯端末のX軸方向の回転を示すRollへの角速度をθとする。また、携帯端末のZ軸方向の回転を示すYawへの角速度をφとする。角速度θ、φは、ジャイロセンサ31から姿勢推定部42に入力される。
続いて、姿勢推定部42は、各軸に対応する角速度に基づいて、ポインタの移動位置情報を生成する。姿勢推定部42は、数式1、2に基づいて、ポインタの移動位置情報を示す座標の移動量(距離)を算出する。kは時間を、Kは変化した角速度の移動座標への反映度を示す係数である。数式1、2において、φはZ軸の初期の角速度、θはX軸の初期の角速度、即ち、長押し時におけるそれぞれの角速度を示す。また、φ(k)、θ(k)は時間kの経過後の各軸の角速度を示す。数式1では、時間k経過後のZ軸の角速度の変化値に係数Kが乗算されることにより、時間k経過後のX座標の移動量d(k)が算出される。同様にして、数式2では、時間k経過後のX軸の角速度の変化値に係数Kが乗算されることにより、時間k経過後のY座標の移動量d(k)が算出される。これにより、X軸、Y軸の移動位置情報(例えば、図10で示した−2,6)が生成される。
(k)=K(φ(k)−φ) …数式1
(k)=−K(θ(k)−θ) …数式2
また、さらに、数式3、4によると、移動位置情報に基づく移動後のポインタppの座標が算出される。数式3、4におけるXcenter、Ycenterは、表示画面DPの中心ccの座標を示す。このため、中心座標から、時間k経過後の各座標の移動量が減算されることにより、時間k経過後のポインタppの座標x(k)、y(k)が算出される。
x(k)=Xcenter−d(k) …数式3
y(k)=Ycenter−d(k) …数式4
なお、携帯端末が、ジャイロセンサ31に加えて、加速度センサ32を有することによって、より高精度の姿勢情報を算出することができる。加速度センサ32は、携帯端末を基準とした上下方向、左右方向および前後方向の3軸方向について、それぞれ加速度を検出して姿勢推定部42に出力する。これにより、さらに、加速度が加味されることによって、姿勢推定部42は、より精度の高い移動位置情報を生成することができる。
[エリア描画開始・停止テーブルT4]
図12は、エリア描画開始・停止テーブルT4の一例を表す図である。接続テーブルT1と同様にして、同図のテーブルにおいて網点で表された情報は、参加者Bの有する携帯端末fBの情報を示す。前述したとおり、エリア描画開始・停止テーブルT4は、例えば、携帯端末のデバイスIDと、イベント受信時のタイムスタンプ、イベントの種別を示す通知情報を有する。
参加者Aの有する携帯端末fAにおいて、タッチパネル24が長押しされた状態で、指の一定以上の移動が検出されると、エリア描画開始イベントが生成され、サーバSVに送信される。具体的に、エリア描画開始・停止テーブルT4テーブルにおけるエリア描画開始イベントE41は、携帯端末fAを示すデバイスID「358938040636200」、ポインタ描画開始イベントが発生したタイムスタンプ「1336528530212410」、開始を示す通知情報「start」を有する。
そして、携帯端末fAにおいて、指が初めの押下位置に戻ったとき、長押下状態にあった指がタッチパネル24から離れたときに、エリア描画停止イベントが生成され、サーバSVに送信される。エリア描画開始・停止テーブルT4テーブルにおけるエリア描画停止イベントE42は、携帯端末fAを示すデバイスID「358938040636200」、エリア描画停止イベントが発生したタイムスタンプ「1336529170031520」、停止を示す通知情報「stop」を有する。
他のエリア描画開始・停止イベントについても同様である。このように、各携帯端末におけるタッチパネル24の操作に基づいて、エリア描画開始・停止イベントが生成されると共にサーバSVに送信され、サーバSVのエリア描画開始・停止テーブルT4に蓄積される。
[エリア描画サイズ制御テーブルT5]
図13は、エリア描画サイズ制御テーブルT5の一例を表す図である。同図のテーブルは、携帯端末のエリア描画サイズ制御情報を有する。前述したとおり、エリア描画サイズ制御テーブルT5は、例えば、携帯端末のデバイスIDと、イベントの受信タイムスタンプ、エリアサイズを有する。
参加者Aの有する携帯端末fAにおいて、エリア描画開始イベントが発生すると、定期的に、エリア描画サイズ制御イベントが生成され、サーバSVに送信される。具体的に、エリア描画サイズ制御テーブルT5におけるエリア描画サイズ制御イベントE53は、携帯端末fAを示すデバイスID「358938040636200」、エリア描画サイズ制御イベントが発生したタイムスタンプ「1336528549826290」、エリアポインタのサイズ「1.798889,1」を有する。例えば、エリアポインタが、ポインタを中心とする楕円エリアである場合、例えば、エリアポインタのサイズは、楕円のX軸方向の半径1.798889とY軸方向の半径1を示す。エリアサイズは、タッチパネル24における指の移動距離に基づいて生成される。
他のエリア描画サイズ制御イベントについても同様である。このように、各携帯端末におけるタッチパネル24の操作に基づいて、定期的に、エリア描画サイズ制御イベントが生成されると共にサーバSVに送信され、サーバSVのエリア描画サイズ制御テーブルT5に蓄積される。
ここで、エリアポインタのサイズの生成処理について説明する。
[サイズ情報の生成]
図14は、エリアポインタのサイズの生成処理について説明する図である。同図において、線LLの軌跡は、タッチパネル24への指のタッチ位置の移動軌跡を示す。また、この例において、エリアポインタepは、楕円エリアである。なお、エリアポインタepの形は、楕円に限定されるものではなく、矩形や円等であってもよい。
図14のタッチパネル24において、黒丸t1は長押しされた位置を示す。また、網点で表わされるエリアe1は、黒丸t1を中心とする所定半径の不感帯エリアを示す。この例では、長押しされた指が不感帯エリアe1を越えて移動したときに、ポインタppを中心とする楕円等のエリアポインタepの描画が開始される。このとき、表示画面DPに表示されるエリアポインタepの半径DTxは、不感帯エリアe1を越えたエリア描画開始位置t2と、現在の指の位置t3との距離DTに基づいて生成される。即ち、描画開始位置t2と、現在の指の位置t3に基づいて、描画されるエリアポインタepのサイズが制御される。
なお、図6の遷移図で説明したとおり、エリアポインタepが描画されるとき、サーバSVは、表示画面DPの最前面に、エリアポインタepを描画する透明ウィンドウを配置する。例えば、複数の携帯端末によって同時にエリアポインタepが描画される場合、サーバSVの表示画面DPの最前面に、複数の透明ウィンドウが配置される。これにより、複数の携帯端末による複数のエリアポインタepの描画が可能になる。また、このとき、各エリアポインタepは、例えば、色や形状を分けることによって識別可能に描画される。
[音声録音開始・停止テーブルT6]
図15は、音声録音開始・停止テーブルT6の一例を表す図である。同図のテーブルは、携帯端末のエリア描画サイズ制御情報を有する。また、テーブルにおいて網点で表された情報は、参加者Bの有する携帯端末fBの情報を示す。前述したとおり、エリア描画サイズ制御テーブルT5は、例えば、携帯端末のデバイスIDと、イベントの受信タイムスタンプ、通知情報を有する。
この例では、携帯端末fAにおいて、ポインタの描画が開始されたときに、音声の取得が開始される。ただし、音声の取得は、一定以上の音量が検知されたときに開始されてもよい。これにより、音声録音開始イベントが生成され、サーバSVに送信される。具体的に、音声録音開始・停止テーブルT6における音声録音開始イベントE61は、携帯端末fAを示すデバイスID「358938040636200」、音声録音開始イベントが発生したタイムスタンプ「1336528530212410」、開始を示す通知情報「start」を有する。
そして、携帯端末fAにおいてポインタの描画が停止されると、音声録音停止イベントが生成され、生成された音声ファイルと共に、サーバSVに送信される。または、音声ファイルは、一定間隔でサーバSVに送信されてもよい。なお、音声録音停止イベントは、音声の音量が一定以下になったときに生成されてもよい。音声録音開始・停止テーブルT6テーブルにおける音声録音停止イベントE62は、携帯端末fAを示すデバイスID「358938040636200」、音声録音停止イベントが発生したタイムスタンプ「1336529170031520」、停止を示す通知情報「stop」を有する。
他の音声録音開始・停止イベントについても同様である。このように、各携帯端末におけるタッチパネル24の操作に基づいて、音声録音開始・停止イベントが生成されると共にサーバSVに送信され、サーバSVの音声録音開始・停止テーブルT6に蓄積される。
続いて、図7〜図15で説明したデータベースに基づく行動情報の生成処理について説明する。
[行動情報の生成処理:その1]
図16は、会議資料の時系列の表示ページに対応するポインタの描画位置情報、ポインタ描画時の音声位置情報の生成処理について説明する図である。初めに、ユーザは、行動情報の生成の対象とする参加者のデバイスIDを特定する(S10)。そして、行動情報生成部52は、対象のデバイスIDに基づいてポインタ移動テーブルT3を検索し、デバイスIDによるポインタ移動イベントのタイムスタンプを取得する。これにより、対象のデバイスIDの携帯端末の操作時間帯が特定されると共に(S11)、デバイスIDによる時系列のポインタの描画位置の軌跡情報が特定される(S12)。
そして、行動情報生成部52は、特定された時間帯情報に基づいて、ページ遷移テーブルT7を参照し、時間帯に対応するページ情報を取得する(S12)。また、行動情報生成部52は、特定した時間帯情報に基づいて、エリア描画サイズ制御テーブルT5を参照し、時間帯に対応するエリアポインタのサイズ情報等を取得する(S12)。さらに、行動情報生成部52は、特定した時間帯情報に基づいて、音声録音開始・停止テーブルT6を参照し、時間帯に対応する音声ファイルにおける位置情報を取得する(S13)。
この結果、デバイスIDに基づいて、会議資料のページ、当該ページ内におけるポインタの描画位置の軌跡情報(S11)、エリアポインタが描画された領域(S12)、音声ファイルの位置情報(S13)が取得される。このように、本実施の形態例におけるサーバSVは、テーブルが有するページに対応するポインタの時系列の描画位置情報を含む描画履歴情報に基づいて、会議資料の時系列の表示ページに対応するポインタの描画位置情報、ポインタが描画された時の音声ファイルの少なくとも一部を示す音声位置情報を生成する。
これにより、ユーザは、デバイスIDの携帯端末を有する参加者が、会議資料のどのページにおけるどの位置を指し示し、どのような内容を発言したかを特定することができる。つまり、ユーザは、会議に参加していなくても、行動情報に基づいて、誰が、会議資料のいずれのページ内のいずれの位置に対して、どのような発言をしたかを検知することができる。
続いて、別の行動情報であるポインタの描画活性度の生成処理について説明する。
[行動情報の生成処理:その2]
図17は、ページ、及び、表示ページに対応するポインタ描画活性度の生成処理について説明する図である。この例では、表示ページの描画活性度を生成する場合を例示するが、ページ単位の描画活性度は、例えば、同一ページを示す表示ページの描画活性度の累計や平均によって生成される。行動情報生成部52は、まず、ページ遷移テーブルT7を参照して、各表示ページの表示時間帯、即ち、停留時間帯Tを特定する。
そして、第1に、行動情報生成部52は、特定された各表示ページの停留時間帯Tに基づいてポインタ移動テーブルT3を参照し、全体における対象表示ページのポインタの描画量の割合P、PUを算出する(S21、S22)。まず、行動情報生成部52は、全体における停留時間帯Tの移動イベントの割合Pを算出する(S21)。具体的に、行動情報生成部52は、ポインタ移動テーブルT3を参照し、会議中の全ての移動イベント数における停留時間帯Tのポインタ移動イベント数の割合を、停留時間帯Tのポインタ移動イベントの割合Pとして算出する。例えば、会議中の全ての移動イベント数が100、停留時間帯Tポインタの移動イベント数が10の場合、割合Pは10%となる。
本実施の形態例において、ポインタ移動イベントは、ポインタ制御状態において、定期的に生成される。このため、ポインタ移動イベントの数は、ポインタの描画時間を意味する。即ち、割合Pは、会議中の全てのポインタの描画時間のうち、停留時間帯Tにおけるポインタの描画時間を示す。
続いて、行動情報生成部52は、停留時間帯Tにポインタ描画を行った参加者の割合PUを算出する(S22)。具体的に、行動情報生成部52は、ポインタ移動テーブルT3を参照し、全ての参加者における停留時間帯Tにポインタの移動イベントを送信したデバイスIDの種類、即ち、描画を行った参加者数の割合を割合PUとして算出する。例えば、会議中の参加者が5人、停留時間帯Tにポインタの描画を行った参加者数が2の場合、割合PUは40%となる。
第2に、行動情報生成部52は、特定された各表示ページの停留時間帯Tに基づいてエリア描画サイズ制御テーブルT5を参照し、全体における対象表示ページのエリアポインタの描画量の割合R、RUを算出する(S23、S24)。まず、行動情報生成部52は、全体における停留時間帯Tのエリア描画制御イベントの割合Rを算出する(S23)。具体的に、行動情報生成部52は、エリア描画サイズ制御テーブルT5を参照し、会議中の全てのエリアサイズ制御イベント数における停留時間帯Tのエリアサイズ制御イベント数の割合を、停留時間帯Tのエリア描画制御イベントの割合Rとして算出する。
本実施の形態例において、エリア描画サイズ制御イベントは、エリア描画制御状態において、定期的に生成される。このため、エリア描画サイズ制御イベントの数は、エリアポインタの描画時間を意味する。即ち、割合Rは、会議中の全てのエリアポインタの描画時間のうち、停留時間帯Tにおけるエリアポインタの描画時間を示す。
続いて、行動情報生成部52は、停留時間帯Tにエリアポインタの描画を行った参加者の割合RUを算出する(S24)。具体的に、行動情報生成部52は、エリア描画サイズ制御テーブルT5を参照し、全ての参加者における、停留時間帯Tにエリア描画サイズ制御イベントを送信したデバイスIDの種類、即ち、エリアポインタの描画を行った参加者数の割合を割合RUとして算出する。
そして、行動情報生成部52は、算出されたポインタの描画量の割合P、PU、エリアポインタの描画量の割合R、RUに基づいて、描画活性度を算出する。数式5は、描画活性度の算出する数式である。数式5では、ポインタの描画量の割合P、PUと、エリアポインタの描画量の割合R、RUが加算されることによって、描画活性度が算出される。
Rank=a+aPU+a+aPU
(aは重み係数でΣa=1) …数式5
また、数式5の例のように、加算対象の各割合P、PU、R、RUには、重み係数aが付与されてもよい。これにより、例えば、重み係数a、aを大きくした場合、エリアポインタの描画量(描画時間及び描画した携帯端末の数)の反映度合いを高くしたポインタの描画活性度が算出可能になる。また、例えば、重み係数a、aを大きくした場合、ポインタ及びエリアポインタの描画時間の反映度合いを高くしたポインタの描画活性度が算出可能になる。
このように、本実施の形態例における会議システムによると、サーバSVに蓄積された描画履歴情報に含まれる描画されたポインタの時系列の描画位置情報に基づいて、行動情報として、会議資料のページまたは表示ページに対応して、ポインタの描画量の度合いを示す描画活性度が生成される。また、ポインタの描画活性度は、ページにおけるポインタの描画時間、または、描画した携帯端末の数のいずれか、または両方を示すポインタの描画量に基づいて、ポインタの描画量が多い程、ポインタの描画活性度を高くするように生成される。
これにより、ユーザは、会議資料のページのうち、いずれのページ、及び表示ページで最もポインタの描画が行われたか、即ち、最も発言や議論が活性化したかを検知することができる。そこで、ユーザは、活性の度合いに基づく会議の中心となるページを検知すると共に、当該ページが表示されていたときの音声ファイルの位置や区画を特定することができる。なお、描画活性度は、次の場合にも適用可能である。例えば、商品の商談等の会議において、会議資料の複数のページにそれぞれ商品が提示される場合、ユーザは、描画活性度に基づいて、ページに対応する商品の購買意欲を特定することができる。例えば、描画活性度の高いページに搭載された商品を重点的に売り込む等の判定が可能になる。
[行動情報の生成処理:その3]
図18は、表示ページ内の位置に対応するポインタ描画活性度の生成処理について説明する図である。この例では、表示ページ内の位置に対応する描画活性度を生成する場合を例示する。例えば、ページ内の位置に対応する描画活性度は、例えば、同一ページを示す表示ページの描画活性度の累計によって生成可能である。
まず、行動情報生成部52は、ページ遷移テーブルT7を参照して、各表示ページの表示時間帯、即ち、停留時間帯を特定する。そして、行動情報生成部52は、特定された各表示ページの停留時間帯に基づいてポインタ移動テーブルT3を参照し、デバイスID別のポインタの描画位置情報の軌跡を検出する。そして、ポインタの描画位置の軌跡点に基づいて、当該軌跡点を包含する最小のエリアを注目エリアとして算出する。注目エリアは、描画活性度が高いエリアを示す。
具体的に、例えば、エリアポインタが矩形のエリアである場合、行動情報生成部52は、二次元の軌跡点の集合に基づいて、AABB(Axis Aligned Bounding Box)構造を作成する。そして、行動情報生成部52は、AABB構造の示す最小エリアの矩形を注目エリアとして検出する。または、例えば、行動情報生成部52は、二次次元の軌跡点に基づく最小包含円法によって最小エリアの円形を抽出し、注目エリアとして検出する。これにより、行動情報生成部52は、ポインタの描画位置情報を包含する注目エリアをデバイスID別に検出する。
図18では、例えば、3つのデバイスIDに対応する注目エリアEA、EB、ECがそれぞれ表示される。この例において、点線軌跡xaは携帯端末fA、点線軌跡xbは携帯端末fB、点線軌跡xcは携帯端末fCによって描画されたポインタの描画位置の軌跡を示す。また、エリアEA、EB、ECは、各携帯端末の描画位置の軌跡点xa、xb、xcに基づく注目エリアである。さらに、それぞれの注目エリアEA、EB、ECの重複部分に基づいて、描画活性度の高い、即ち、最も注目されたエリアEZが検出可能になる。この例において、重複度の最も高い位置EZの描画活性度は高く、注目エリアが対応しない位置の描画活性度は低い。
このように、テーブルが示す描画されたポインタの時系列の描画位置情報を含む描画履歴情報に基づいて、行動情報として、会議資料のページ内の位置、または表示ページ内の位置に対応して、ポインタの描画量の度合いを示す描画活性度が生成される。また、ポインタの描画活性度は、ページにおけるポインタの描画位置情報に基づいて、ポインタの描画位置に対応するページ内の位置の描画活性度を高くするように生成される。
これにより、ユーザは、会議資料のページ内、及び表示ページ内の位置に対応して、ポインタの描画が行われた位置、及び、ポインタの描画が重複して行われた位置を検知することができる。このため、ユーザは、最も発言や議論が活性化したページを検知するだけでなく、ポインタの描画が重点的に行われたページ内の注目エリアを検知することができる。なお、例えば、商品の商談等の会議において、会議資料であるページの複数箇所に異なる商品が提示される場合、ページ内の位置に対応する描画活性度に基づいて、対応する商品の購買意欲を特定することも可能である。
以上のように、本実施の形態例における会議システムは、サーバSVと、サーバSVに接続可能な携帯端末とを有する。そして、携帯端末は、携帯端末の姿勢情報を検出する姿勢推定手段と、ユーザ(参加者)によって携帯端末に行われた操作情報を検出する操作手段と、姿勢推定手段及び操作手段によって検出された姿勢情報及び操作情報を描画イベントとして、サーバSVに送信するイベント送信手段とを有する。また、サーバSVは、1または複数ページの会議資料の画像情報と、描画イベントに基づいて会議資料に重ねて描画されるポインタの画像情報とを生成する画像情報生成手段と、描画されたポインタの描画履歴情報に基づいて、会議資料に対応する行動情報を生成する行動情報生成手段とを有する。
これにより、ユーザは、会議資料に対応する行動情報に基づいて、会議資料の各ページに対応するポインタの描画位置、及び、描画量を参照することにより、会議内容を効率的に把握することができる。さらに、図3に示したように、会議資料の各ページに対応する時系列の行動情報を可視化することにより、ユーザは、より効率的に会議の内容を把握することが可能になる。また、本実施の形態例における会議システムでは、スマートフォン等の携帯端末をポインティングデバイスとして使用する。一般的に、携帯端末には、姿勢推定手段、及び、操作手段が予め備わっていることから、会議システムは、新たなデバイスを用意する必要がない。これにより、本実施の形態例における会議システムは、既存の携帯端末の既存機能を利用することによって、会議内容を効率的に、低コストによって把握可能にする。
また、本実施の形態例の会議システムにおける携帯端末は、さらに、ユーザ(参加者)の発話情報を取得して音声ファイルを生成する音声取得手段を有し、携帯端末のイベント送信手段は、さらに、音声ファイルを音声イベントとしてサーバSVに送信する。また、サーバSVの行動情報生成手段は、描画履歴情報に含まれる描画されたポインタの時系列の描画位置情報に基づいて、行動情報として、会議資料の時系列の表示ページに対応するポインタの描画位置情報、ポインタが描画された時の音声ファイルの少なくとも一部を示す音声位置情報のいずれか、または、両方を生成する。
これにより、ユーザは、会議資料の時系列の表示ページに対応するポインタの描画位置情報に基づいて、会議資料のどのページにおけるどの位置にポインタが描画されたかを検知できる。また、ユーザは、会議資料の時系列の表示ページに対応するポインタ描画時の音声ファイルの位置を検知することができる。これにより、ユーザは、ある携帯端末を有する参加者が、会議資料におけるいずれのページのいずれの位置を指し示しながら、どのような発言を行ったかを検知することができる。このように、会議に参加していない第3者であっても、行動情報に基づいて、誰が、会議資料のいずれのページ内のいずれの位置に対して、どのような発言をしたかを効率的に検知することができる。これにより、会議の議事録の作成作業や、会議音声の聞きなおし作業が省略可能になり、会議内容を効率的に把握可能にすることが可能になる。
また、本実施の形態例における会議システムにおいて、サーバSVの行動情報生成手段は、行動情報として、さらに、会議資料の時系列の表示ページ、または、時系列の表示ページ内の位置に対応して、ポインタの描画量の度合いを示す描画活性度を生成する。
これにより、ユーザは、ページまたは表示ページに対応する描画活性度を参照することによって、ポインタの描画が多量に行われたページまたは表示ページを検知することができる。また、ユーザは、描画活性度に基づいて検知したページにおけるポインタの描画位置情報や、ポインタ描画時の音声ファイルの音声位置情報(区画情報)を検知可能になる。即ち、ユーザは、会議資料のページのうち、いずれのページ及び表示ページで最もポインタの描画が行われたか、即ち、発言や議論が活性化したかを検知することができると共に、その時に行われた発言の発言者や発言内容を検知することができる。
または、本実施の形態例における会議システムにおいて、サーバSVの行動情報生成手段は、描画履歴情報に含まれる描画されたポインタの時系列の描画位置情報に基づいて、行動情報として、会議資料のページ、または、ページ内の位置に対応して、ポインタの描画量の度合いを示す描画活性度を生成する。また、行動情報生成手段は、会議資料の時系列の表示ページ、または、時系列の表示ページ内の位置に対応して、描画活性度を生成してもよい。
これにより、ユーザは、会議資料のページ内、及び表示ページ内の位置に対応する、ポインタの描画が行われた位置(注目エリア)、及び、ポインタの描画が重複して行われた位置(重複した注目エリア)を検知することができる。このため、ユーザは、最も発言や議論が行われたページを検知することに加えて、ポインタの描画が集中したページ内の位置を検知することができる。
また、ページに対応するポインタの描画活性度は、ページにおけるポインタの描画時間、または、描画した携帯端末の数のいずれか、または両方を示すポインタの描画量に基づいて、ポインタの描画量が多い程、ポインタの描画活性度を高くするように生成される。これにより、単にページが表示されていた時間によることなく、ページ表示時におけるポインタの描画時間や、ポインタを描画した携帯端末の数に基づいて描画活性度が生成される。このため、会議において実質的に議論や発言が活性化したページが、描画活性度の高いページとして検知可能になる。
または、ページ内の位置に対応するポインタの描画活性度は、ページにおけるポインタの描画位置情報に基づいて、ポインタの描画位置に対応するページ内の位置の描画活性度を高くするように生成される。これにより、ページ内に複数のセクションがあるような場合、いずれのセクションに対して、実質的に議論や発言が活性化したかが検知可能になる。
なお、ポインタの描画活性度は、携帯端末毎に区別して生成されてもよい。これにより、参加者毎の、ポインタの描画が多量に行われたページまたは表示ページの検知が可能になる。また、あるページについて、参加者別の注目エリアの検知が可能になる。
また、本実施の形態例では、1つのサーバSVが、ポインタの描画処理、及び、行動情報の生成処理を行うが、この例に限定されるものではない。会議システムは、画像情報生成手段を有する第1のサーバSVと、行動情報生成手段を有する第1のサーバSVとは異なる第2のサーバSVとを有してもよい。
なお、本実施の形態例において、ポインタの描画活性度は、会議の終了後に生成されるが、会議内における所定の時間毎に生成されてもよい。例えば、ポインタの描画活性度は、30分毎に生成される。これにより、ユーザは、会議中に、描画活性度に基づいて、会議が十分に活性化しているか否かを判定することができる。例えば、会議の主催者は、商談やデジタルサイネージによるプレゼンテーション等の会議中に、ポインタの描画活性度が期待される度合いに達していない場合、発言の内容やプレゼンテーション方式、会議資料の内容を切り替えることにより、会議内容の活性化を図ることができる。
なお、本実施の形態例におけるサーバSVのイベントの受信処理、画像情報の生成処理、行動情報の生成処理は、コンピュータ読み取り可能な記録媒体にプログラムとして記憶され、当該プログラムをコンピュータが読み出して実行することによって行われてもよい。
以上の実施の形態をまとめると、次の付記のとおりである。
(付記1)
サーバ(SV)と、前記サーバに接続可能な携帯端末(ff、fA、fB)とを有する会議システムであって、
前記携帯端末は、
前記携帯端末の姿勢情報を検出する姿勢推定手段(42)と、
ユーザによって前記携帯端末に行われた操作情報を検出する操作手段(44)と、
前記姿勢推定手段及び前記操作手段によって検出された前記姿勢情報及び前記操作情報を描画イベントとして、前記サーバに送信するイベント送信手段(41)と、を有し、
前記サーバは、
1または複数ページの会議資料の画像情報と、前記描画イベントに基づいて前記会議資料に重ねて描画されるポインタの画像情報とを生成する画像情報生成手段(51)と、
前記描画されたポインタの描画履歴情報に基づいて、前記会議資料に対応する行動情報を生成する行動情報生成手段(52)と、を有する会議システム。(1)
(付記2)
付記1において、
前記携帯端末は、さらに、
ユーザの発話情報を取得して音声ファイルを生成する音声取得手段(45)を有し、
前記携帯端末の前記イベント送信手段は、さらに、前記音声ファイルを音声イベントとして前記サーバに送信し、
前記サーバの前記行動情報生成手段は、前記描画履歴情報に含まれる前記描画されたポインタの時系列の描画位置情報に基づいて、前記行動情報として、前記会議資料の時系列の表示ページに対応する前記ポインタの描画位置情報、前記ポインタが描画された時の前記音声ファイルの少なくとも一部を示す音声位置情報のいずれか、または、両方を生成する会議システム。(2)
(付記3)
付記2において、
前記サーバの前記行動情報生成手段は、前記行動情報として、さらに、前記会議資料の時系列の表示ページ、または、前記時系列の表示ページ内の位置に対応して、前記ポインタの描画量の度合いを示す描画活性度(m1〜m3)を生成する会議システム。(3)
(付記4)
付記1において、
前記サーバの前記行動情報生成手段は、前記描画履歴情報に含まれる前記描画されたポインタの時系列の描画位置情報に基づいて、前記行動情報として、前記会議資料の前記ページ、または、ページ内の位置に対応して、前記ポインタの描画量の度合いを示す描画活性度を生成する会議システム。(4)
(付記5)
付記4において、
前記サーバの前記行動情報生成手段は、前記会議資料の時系列の表示ページ、または、前記時系列の表示ページ内の位置に対応して、前記描画活性度を生成する会議システム。(5)
(付記6)
付記3または5において、
前記ページに対応する前記ポインタの描画活性度は、前記ページにおける前記ポインタの描画時間、または、描画した前記携帯端末の数のいずれか、または両方を示す前記ポインタの描画量に基づいて、前記ポインタの描画量が多い程、前記ポインタの描画活性度を高くするように生成される会議システム。(6)
(付記7)
付記3または5において、
前記ページ内の位置に対応する前記ポインタの描画活性度は、前記ページにおける前記ポインタの描画位置情報に基づいて、前記ポインタの描画位置に対応する前記ページ内の位置の描画活性度を高くするように生成される会議システム。(7)
(付記8)
付記3または5において、
前記サーバには、複数の前記携帯端末が接続され、
前記ポインタの描画活性度は、前記携帯端末毎に区別して生成される会議システム。(8)
(付記9)
付記1乃至8のいずれかにおいて、
前記サーバは、
前記画像情報生成手段を有する第1のサーバと、
前記行動情報生成手段を有する、前記第1のサーバとは異なる第2のサーバと、を有する会議システム。(9)
(付記10)
付記1乃至9のいずれかにおいて、
前記描画イベントは、前記ポインタの描画位置の移動を指示するポインタ移動イベントを含む会議システム。(10)
(付記11)
付記10において、
前記描画イベントは、さらに、前記ポインタの描画位置を基点とするサイズ可変エリアの描画を指示するエリア描画制御イベントを含む会議システム。(11)
(付記12)
携帯端末と接続可能なサーバであって、
前記携帯端末が検出する姿勢情報と、前記携帯が検出する操作情報とを描画イベントとして受信する受信手段と、
1または複数ページの会議資料と、前記描画イベントに基づいて前記会議資料に重ねて描画されるポインタの画像情報とを生成する画像情報生成手段と、
前記描画されたポインタの描画履歴情報に基づいて、前記会議資料に対応する行動情報を生成する行動情報生成手段と、を有するサーバ。(12)
(付記13)
会議情報生成処理をコンピュータに実行させるコンピュータ読み取り可能な会議情報生成プログラムであって、
前記会議情報生成処理は、
前記コンピュータに接続可能な携帯端末が検出する姿勢情報と、前記携帯端末が検出する操作情報とを描画イベントとして受信する受信工程と、
1または複数ページの会議資料と、前記描画イベントに基づいて前記会議資料に重ねて描画されるポインタの画像情報とを生成する画像情報生成工程と、
前記描画されたポインタの描画履歴情報に基づいて、前記会議資料に対応する行動情報を生成する行動情報生成工程と、を有する会議情報生成プログラム。(13)
fA:携帯端末、20:メモリ、21:CPU、22:通信手段、23:センサ、24:タッチパネル、マイク:25、SV:サーバ、10表示装置、11:RTC、12:CPU、13:メモリ、14:通信手段、DB:データベース

Claims (11)

  1. サーバと、前記サーバに接続可能な携帯端末とを有する会議システムであって、
    前記携帯端末は、
    前記携帯端末の姿勢情報を検出する姿勢推定手段と、
    前記携帯端末に行われた操作情報を検出する操作検出手段と、
    前記姿勢推定手段及び前記操作検出手段によって検出された前記姿勢情報及び前記操作情報を描画イベントとして、前記サーバに送信するイベント送信手段と、を有し、
    前記サーバは、
    前記描画イベントに基づいて、1または複数ページの会議資料の各ページの画像に重ねて表示されるポインタの画像を生成し、前記会議資料の画像と前記ポインタの画像とを重ねて表示する画像表示手段と、
    前記表示されたポインタの前記会議資料の各ページの表示履歴情報を生成し、前記表示履歴情報に基づいて、継続して表示されるページの単位を示し同一ページであっても別ページの後に再表示された場合に異なる表示ページとなる表示ページごとに、前記ポインタの表示量を示すポインタ活性度を生成する行動情報生成手段と、を有する会議システム。
  2. 請求項1において、
    前記携帯端末は、さらに、
    ユーザの発話情報を取得して音声ファイルを生成する音声取得手段を有し、
    前記携帯端末の前記イベント送信手段は、さらに、前記音声ファイルを音声イベントとして前記サーバに送信し、
    前記サーバの前記行動情報生成手段は、前記表示履歴情報に基づいて前記表示ページ前記ポインタの表示位置情報、前記ポインタが表示された時の前記音声ファイル位置を識別する音声位置情報のいずれか、または、両方を生成する、会議システム。
  3. 請求項1、または2において、
    前記サーバの前記行動情報生成手段は、さらに、前記表示ページ内の領域ごとに、前記ポインタ活性度を生成する会議システム。
  4. 請求項において、
    前記ポインタの表示量は、前記ポインタの表示時間、または、前記表示した前記携帯端末の数のいずれか、または両方を示、前記表示量が多い程、前記ポインタ活性度を高くするように生成される会議システム。
  5. 請求項において、
    前記領域に対応する前記ポインタ活性度は、前記ポインタの表示位置を含む領域のポインタ活性度を高くするように生成される会議システム。
  6. 請求項において、
    前記サーバには、複数の前記携帯端末が接続され、
    前記ポインタ活性度は、前記携帯端末毎に区別して生成される会議システム。
  7. 請求項1乃至のいずれかにおいて、
    前記サーバは、
    前記画像表示手段を有する第1のサーバと、
    前記行動情報生成手段を有する、前記第1のサーバとは異なる第2のサーバと、を有する会議システム。
  8. 請求項1乃至のいずれかにおいて、
    前記描画イベントは、前記ポインタの表示位置の移動を指示するポインタ移動イベントを含む会議システム。
  9. 請求項において、
    前記描画イベントは、さらに、前記ポインタの表示位置を基点とするサイズ可変エリアの描画を指示するエリア描画制御イベントを含む会議システム。
  10. 携帯端末と接続可能なサーバであって、
    前記携帯端末が検出する姿勢情報と、前記携帯端末が検出する操作情報とを描画イベントとして受信する受信手段と、
    前記描画イベントに基づいて、1または複数ページの会議資料の各ページの画像に重ねて表示されるポインタの画像を生成し、前記会議資料の画像と前記ポインタの画像とを重ねて表示する画像表示手段と、
    前記表示されたポインタの前記会議資料の各ページの表示履歴情報を生成し、前記表示履歴情報に基づいて、継続して表示されるページの単位を示し同一ページであっても別ページの後に再表示された場合に異なる表示ページとなる表示ページごとに、前記ポインタの表示量を示すポインタ活性度を生成する行動情報生成手段と、を有するサーバ。
  11. 会議情報生成処理をコンピュータに実行させるコンピュータ読み取り可能な会議情報生成プログラムであって、
    前記会議情報生成処理は、
    前記コンピュータに接続可能な携帯端末が検出する姿勢情報と、前記携帯端末が検出する操作情報とを描画イベントとして受信する受信工程と、
    前記描画イベントに基づいて、1または複数ページの会議資料の各ページの画像に重ねて表示されるポインタの画像を生成し、前記会議資料の画像と前記ポインタの画像とを重ねて表示する画像表示工程と、
    前記表示されたポインタの前記会議資料の各ページの表示履歴情報を生成し、前記表示履歴情報に基づいて、継続して表示されるページの単位を示し同一ページであっても別ページの後に再表示された場合に異なる表示ページとなる表示ページごとに、前記ポインタの表示量を示すポインタ活性度を生成する行動情報生成工程と、を有する会議情報生成プログラム。
JP2012252419A 2012-11-16 2012-11-16 会議システム、サーバ、及び、会議情報生成プログラム Active JP6136206B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012252419A JP6136206B2 (ja) 2012-11-16 2012-11-16 会議システム、サーバ、及び、会議情報生成プログラム
US14/041,409 US9960924B2 (en) 2012-11-16 2013-09-30 Conference system, server, and computer-readable medium storing conference information generation program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012252419A JP6136206B2 (ja) 2012-11-16 2012-11-16 会議システム、サーバ、及び、会議情報生成プログラム

Publications (2)

Publication Number Publication Date
JP2014103451A JP2014103451A (ja) 2014-06-05
JP6136206B2 true JP6136206B2 (ja) 2017-05-31

Family

ID=50728995

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012252419A Active JP6136206B2 (ja) 2012-11-16 2012-11-16 会議システム、サーバ、及び、会議情報生成プログラム

Country Status (2)

Country Link
US (1) US9960924B2 (ja)
JP (1) JP6136206B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170030463A (ko) * 2014-01-10 2017-03-17 리볼브 로보틱스 인코포레이티드 화상 회의 운영 동안 로봇식 스탠드들을 제어하기 위한 시스템들 및 방법들
US10560742B2 (en) * 2016-01-28 2020-02-11 Oath Inc. Pointer activity as an indicator of interestingness in video
WO2017154114A1 (ja) * 2016-03-08 2017-09-14 楽天株式会社 表示制御システム、表示制御方法及び表示制御プログラム
JP6805589B2 (ja) * 2016-07-11 2020-12-23 富士通株式会社 情報処理装置、情報処理システム、情報処理プログラムおよび情報処理方法
US10579163B2 (en) * 2018-06-02 2020-03-03 Mersive Technologies, Inc. System and method of annotation of a shared display using a mobile device

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2804405B2 (ja) 1992-05-13 1998-09-24 三菱電機株式会社 多地点間テレビ会議システム
JP3909614B2 (ja) * 1997-06-20 2007-04-25 株式会社ニコン 情報記録再生装置および記録媒体
US6459442B1 (en) * 1999-09-10 2002-10-01 Xerox Corporation System for applying application behaviors to freeform data
JP2003058901A (ja) * 2001-08-16 2003-02-28 Sony Corp 記録装置および方法、再生装置および方法、記録媒体、並びにプログラム
WO2003026289A1 (fr) * 2001-09-14 2003-03-27 Sony Corporation Procede et appareil de creation d'informations et systeme de traitement d'informations en reseau
US20040236830A1 (en) * 2003-05-15 2004-11-25 Steve Nelson Annotation management system
US8046701B2 (en) * 2003-08-07 2011-10-25 Fuji Xerox Co., Ltd. Peer to peer gesture based modular presentation system
US7624166B2 (en) * 2003-12-02 2009-11-24 Fuji Xerox Co., Ltd. System and methods for remote control of multiple display and devices
KR101095769B1 (ko) * 2004-02-09 2011-12-21 액세스 시스템즈 어메리카즈 인코포레이티드 컴퓨팅 디바이스에서의 보안 모델을 위한 방법 및 시스템
JP4341437B2 (ja) * 2004-03-22 2009-10-07 カシオ計算機株式会社 画像表示システム、プロジェクタの画像表示方法、及びプログラム
JP4674508B2 (ja) 2005-08-16 2011-04-20 富士ゼロックス株式会社 情報処理システムおよび情報処理プログラム
US20080228910A1 (en) * 2007-03-12 2008-09-18 International Business Machines Corporation Method for monitoring user interaction to maximize internet web page real estate
US20080252595A1 (en) * 2007-04-11 2008-10-16 Marc Boillot Method and Device for Virtual Navigation and Voice Processing
US8522289B2 (en) * 2007-09-28 2013-08-27 Yahoo! Inc. Distributed automatic recording of live event
JP5200555B2 (ja) * 2008-01-25 2013-06-05 富士ゼロックス株式会社 記録再生装置、およびプログラム
US20130132833A1 (en) * 2008-04-15 2013-05-23 Foresee Results, Inc. Systems and Methods For Remote Tracking And Replay Of User Interaction With A Webpage
JP2009283020A (ja) * 2008-05-19 2009-12-03 Fuji Xerox Co Ltd 記録装置、再生装置、及びプログラム
JP2009294984A (ja) * 2008-06-06 2009-12-17 Konica Minolta Holdings Inc 資料データ編集システム及び資料データ編集方法
JP5554931B2 (ja) * 2009-02-23 2014-07-23 キヤノン株式会社 画像処理システム、画像処理装置、画像処理方法、及びプログラム
WO2011048901A1 (ja) * 2009-10-22 2011-04-28 コニカミノルタホールディングス株式会社 会議支援システム
JP5685854B2 (ja) 2010-08-20 2015-03-18 株式会社リコー 電子情報ボード装置
WO2012075565A1 (en) * 2010-12-06 2012-06-14 Smart Technologies Ulc Annotation method and system for conferencing
US9462210B2 (en) * 2011-11-04 2016-10-04 Remote TelePointer, LLC Method and system for user interface for interactive devices using a mobile device
TW201324180A (zh) * 2011-12-07 2013-06-16 Wistron Corp 整合一行動通訊裝置以及一可攜式電子裝置的方法及其可攜式電腦模組
US9606705B2 (en) * 2012-09-06 2017-03-28 Apple Inc. Techniques for capturing and displaying user interaction data
JP2014090379A (ja) * 2012-10-31 2014-05-15 Brother Ind Ltd 遠隔会議保存システム、遠隔会議保存方法

Also Published As

Publication number Publication date
US9960924B2 (en) 2018-05-01
JP2014103451A (ja) 2014-06-05
US20140143345A1 (en) 2014-05-22

Similar Documents

Publication Publication Date Title
CN110377250B (zh) 一种投屏场景下的触控方法及电子设备
CN110138645B (zh) 会话消息的显示方法、装置、设备及存储介质
KR102280979B1 (ko) 주변 장치들과 무선 페어링하고 주변 장치들에 관한 상태 정보를 디스플레이하기 위한 디바이스들, 방법들, 및 그래픽 사용자 인터페이스들
JP6136206B2 (ja) 会議システム、サーバ、及び、会議情報生成プログラム
CN103270484B (zh) 不要求视觉接触的电子设备菜单导航
US9294722B2 (en) Optimized telepresence using mobile device gestures
CN113168231A (zh) 用于跟踪真实世界对象的移动以改进虚拟对象定位的增强技术
CN104426939B (zh) 一种信息处理方法及电子设备
CN105379234A (zh) 用于提供针对受限的注意力分散情景和非受限的注意力分散情景的不同用户界面的应用网关
CN113196239A (zh) 对与在通信会话内所显示的对象相关的内容的智能管理
CN111447074A (zh) 群组会话中的提醒方法、装置、设备及介质
CN112764608B (zh) 消息处理方法、装置、设备及存储介质
JP2014116797A (ja) 情報処理装置、情報処理方法、情報処理システム及びプログラム
CN113709022B (zh) 消息交互方法、装置、设备及存储介质
CN112163406A (zh) 互动消息显示方法、装置、计算机设备及存储介质
CN111596821B (zh) 消息展示方法、装置、计算机设备及存储介质
CN110278403A (zh) 电子黑板、视频显示方法、记录介质
CN111628925A (zh) 歌曲交互方法、装置、终端及存储介质
US11816269B1 (en) Gesture recognition for wearable multimedia device using real-time data streams
WO2023229758A1 (en) Automation of visual indicators for distinguishing active speakers of users displayed as three-dimensional representations
CN112311661B (zh) 消息处理方法、装置、设备及存储介质
JP6052731B2 (ja) 情報システム、サーバ装置、端末装置、情報処理方法、およびプログラム
US20200280752A1 (en) Electronic device for creating partial image and operation method thereof
CN116506391A (zh) 显示消息的方法、装置、设备及存储介质
US11899911B2 (en) Message composition interfaces for use with wearable multimedia devices

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150706

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160920

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170404

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170417

R150 Certificate of patent or registration of utility model

Ref document number: 6136206

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150