JP2021039673A - 表示制御方法、表示制御プログラムおよび情報処理装置 - Google Patents

表示制御方法、表示制御プログラムおよび情報処理装置 Download PDF

Info

Publication number
JP2021039673A
JP2021039673A JP2019162192A JP2019162192A JP2021039673A JP 2021039673 A JP2021039673 A JP 2021039673A JP 2019162192 A JP2019162192 A JP 2019162192A JP 2019162192 A JP2019162192 A JP 2019162192A JP 2021039673 A JP2021039673 A JP 2021039673A
Authority
JP
Japan
Prior art keywords
display
terminal
target object
time
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019162192A
Other languages
English (en)
Other versions
JP7354702B2 (ja
Inventor
彬 陳
Akira Chin
彬 陳
桂樹 岡林
Keiju Okabayashi
桂樹 岡林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2019162192A priority Critical patent/JP7354702B2/ja
Priority to EP20192836.3A priority patent/EP3789851A1/en
Priority to US17/005,665 priority patent/US11593054B2/en
Publication of JP2021039673A publication Critical patent/JP2021039673A/ja
Application granted granted Critical
Publication of JP7354702B2 publication Critical patent/JP7354702B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/02Details
    • H04L12/16Arrangements for providing special services to substations
    • H04L12/18Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • H04L12/1813Arrangements for providing special services to substations for broadcast or conference, e.g. multicast for computer conferences, e.g. chat rooms

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】デバイス間の表示画面を簡単な操作で連携できること。【解決手段】端末120の画面を大きなタッチパネル上に表示させて複数のユーザで画面共有する場合、情報処理装置は、ユーザがタッチパネル上に表示枠112を描画した後、一定時間T内にシェーク操作された端末120の画面を表示枠112部分に表示させる連携処理を行う。ここで、ユーザがタッチパネル上に表示枠112を描画した後、一定時間T内に複数の端末120a,120bがシェーク操作された場合、表示枠112に対する端末120の関連付けを特定できない。この場合、情報処理装置は、表示枠112部分に再度のシェーク操作を促すガイド113のメッセージを表示させる。この後、一つの端末120aのみシェーク操作されることで、表示枠112に関連付ける端末120aを特定でき、端末120aの画面を表示枠112に表示させる。【選択図】図5

Description

本発明は、複数のデバイスの画面を連携させる表示制御方法、表示制御プログラムおよび情報処理装置に関する。
会議室などの部屋の壁やテーブル等に投影等で表示するディスプレイを配置し、会議に参加する複数のユーザの携帯端末の表示とディスプレイの表示とを連携させるコラボレーションのシステムが提案されている。これら複数のユーザの会議参加をデジタル的にサポートする技術として、空間UI(User Interface)がある。
空間UI技術では、例えば、部屋側に設置されたプロジェクタや、タッチパネル、カメラなどのデバイスを相互に連結して、部屋を丸ごとユーザインタフェース(UI)にする技術が提案されている。例えば、スマートフォン等の携帯端末の表示画面はサイズが小さいため、大きなディスプレイ上で携帯端末の画面を表示させることで、他のユーザと表示画面を共有することができる。空間UIを用いて複数のユーザの携帯端末を空間UIのディスプレイとの間で連携させ、双方の表示画面を同期表示させることで、空間UIのディスプレイの画面から携帯端末の操作やデータ利用を行うことができる。例えば、他のユーザが共有したデータを自分の携帯端末に取り込むことができる。
空間UIを用いることで、例えば、ユーザが、テーブル上にカードを表示するカードアプリケーション(カードアプリ)を用いてアイデアをテーブル上のカードに書き込む。そして、ユーザがカードをフリック(移動)操作することで他のユーザと、カードに書き込まれたオブジェクトを共有することができる。また、テーブル上にデジタル模造紙を表示する模造紙アプリを用い、デジタル模造紙の表示領域内に、あるユーザのオブジェクト(カード)を取り込んで、複数のユーザがカードの情報を共有したりデータ整理したりすることができる。また、デジタル模造紙の使用目的に応じて、あるユーザのデジタル模造紙にはデジタルカードを取り込まないときもある。このため、デジタル模造紙の表示画面上には、デジタルカードの取り込みのモードを切り替えるボタンが設けられ、ユーザが手動で取り込みのモードを切り替えるようになっている。
デバイス間で表示画面を連携させる技術として、指定されたウィンドウに所定時間内に端末のシェーク操作等で対応付けられた端末のコンテンツデータを表示する技術がある。また、複数デバイスからの入力情報を、受付時間が最先のもの、所定の識別情報が付与されているもの、タイムシェアリング処理、によって選択する技術がある。また、複数の端末の操作を選択して共有画面に表示する場合に、操作確率が最も高い候補操作の入力を促す表示を対象の端末装置に入力する技術がある(例えば、下記特許文献1〜3参照。)。
特開2016−186734号公報 特開2010−165220号公報 特開2015−64715号公報
しかしながら、従来技術では、デバイス間で表示画面を連携させる操作が煩雑であるとともに、デバイス間で連携が特定できない場合が生じた。例えば、上記モード切り替えは、ユーザが手動で切り替える必要があるため、操作が煩雑となる。
また、特許文献1の技術のように、従来のデバイス間の表示画面の連携処理では、ユーザがディスプレイ画面上に携帯端末の画面を表示させる枠を描かせる。この後、一定時間内にシェーク操作された携帯端末を枠に関連付け、枠に携帯端末の表示画面を表示させる連携処理を行う。このような連携処理では、一定時間内に複数の携帯端末がシェーク操作した場合、連携する携帯端末を特定できなくなる。
一つの側面では、本発明は、複数のデバイス間の表示画面を簡単な操作で連携できることを目的とする。
本発明の一側面によれば、表示制御方法は、表示部に表示する操作対象オブジェクトと、前記操作対象オブジェクトを出力する端末との関連付けを特定する表示制御方法において、前記操作対象オブジェクトを前記表示部に表示させる所定の表示操作を検出した後、一定時間内に複数の前記端末から前記操作対象オブジェクトを出力する特定操作を検出した場合、再度の前記特定操作を促すガイドを通知する、処理をコンピュータが実行することを要件とする。
本発明の一態様によれば、デバイス間の表示画面を簡単な操作で連携できるという効果を奏する。
図1は、実施の形態にかかる情報処理装置によるデバイス間の表示画面の連携処理を説明する図である。 図2は、実施の形態にかかる情報処理装置が利用する空間UIのシステム例を示す図である。 図3は、実施の形態にかかる情報処理装置を含む空間UIのシステム構成例を示す図である。 図4は、実施の形態にかかる情報処理装置のハードウェア構成例を示す図である。 図5は、一つの表示枠に対する端末の紐付けの処理例を説明する図である。 図6は、複数の表示枠に対する複数の端末の紐付けの処理例を説明する図である。 図7は、一つの表示枠に対する端末の紐付けに紐付確率を用いた処理例を説明する図である。 図8は、複数の表示枠に対する複数の端末の紐付けに紐付確率を用いた処理例を説明する図である。 図9は、実施の形態にかかる情報処理装置による複数の表示枠と複数の端末の紐付確率を説明する図表である。 図10Aは、実施の形態にかかる情報処理装置が扱うデータ例を示す図表である。(その1) 図10Bは、実施の形態にかかる情報処理装置が扱うデータ例を示す図表である。(その2) 図10Cは、実施の形態にかかる情報処理装置が扱うデータ例を示す図表である。(その3) 図10Dは、実施の形態にかかる情報処理装置が扱うデータ例を示す図表である。(その4) 図10Eは、実施の形態にかかる情報処理装置が扱うデータ例を示す図表である。(その5) 図10Fは、実施の形態にかかる情報処理装置が扱うデータ例を示す図表である。(その6) 図11は、端末の処理例を示すフローチャートである。 図12は、空間UIユニット装置による表示枠の検出処理例を示すフローチャートである。 図13Aは、実施の形態にかかる情報処理装置が行う紐付け候補の作成処理例を示すフローチャートである。(その1) 図13Bは、実施の形態にかかる情報処理装置が行う紐付け候補の作成処理例を示すフローチャートである。(その2) 図14Aは、実施の形態にかかる情報処理装置が行う紐付け決定の作成処理例を示すフローチャートである。 図14Bは、実施の形態にかかる情報処理装置が紐付け決定時に参照する紐付確率の例を示す図表である。 図15は、実施の形態にかかる情報処理装置が行うガイドのメッセージ表示処理例を示すフローチャートである。 図16は、空間UIユニット装置の処理例を示すフローチャートである。 図17は、実施の形態にかかる情報処理装置による複数の表示枠に対する複数の端末の紐付けの具体例を説明する図である。(その1) 図18は、実施の形態にかかる情報処理装置による複数の表示枠に対する複数の端末の紐付けの具体例を説明する図である。(その2) 図19は、実施の形態にかかる情報処理装置による複数の表示枠に対する複数の端末の紐付けの具体例を説明する図である。(その3) 図20は、実施の形態にかかる情報処理装置による複数の表示枠に対する複数の端末の紐付けの具体例を説明する図である。(その4) 図21は、実施の形態にかかる情報処理装置による複数の表示枠に対する複数の端末の紐付けの具体例を説明する図である。(その5) 図22は、実施の形態にかかる情報処理装置による複数の表示枠に対する複数の端末の紐付けの具体例を説明する図である。(その6) 図23は、実施の形態にかかる情報処理装置による複数の表示枠に対する複数の端末の紐付けの具体例を説明する図である。(その7) 図24は、実施の形態にかかる情報処理装置による複数の表示枠に対する複数の端末の紐付けの具体例を説明する図である。(その8) 図25は、実施の形態にかかる情報処理装置による複数の表示枠に対する複数の端末の紐付けの具体例を説明する図である。(その9) 図26は、実施の形態にかかる情報処理装置による複数の表示枠に対する複数の端末の紐付けの具体例を説明する図である。(その10) 図27は、実施の形態にかかる情報処理装置による複数の表示枠に対する複数の端末の紐付けの具体例を説明する図である。(その11) 図28は、実施の形態にかかる情報処理装置による複数の表示枠に対する複数の端末の紐付けの具体例を説明する図である。(その12) 図29は、従来技術による表示枠と端末との連携の問題を説明する図である。
(実施の形態)
以下に図面を参照して、開示の表示制御方法、表示制御プログラムおよび情報処理装置の実施の形態を詳細に説明する。
図1は、実施の形態にかかる情報処理装置によるデバイス間の表示画面の連携処理を説明する図である。実施の形態の情報処理装置は、ユーザの協働作業等で空間UIのディスプレイに端末の画面を表示させる際、ユーザが端末の画面をディスプレイに表示する画面共有の要求(例えば、端末のシェーク操作等)の特定の操作を受ける。これにより、ディスプレイの表示枠に表示する操作対象オブジェクトとして端末が出力する画面を特定する。
また、情報処理装置は、一定時間内に複数の端末のシェーク操作があった場合、操作対象オブジェクトに関連付ける端末を特定できないため、ディスプレイ上で再度、端末のシェークを促すガイドを表示させる。これにより、操作対象オブジェクトに関連付ける端末が特定(紐付け)できない状態のままとなることを防ぐ。そして、複数のユーザの端末のうち特定した端末の小さな画面を大型のディスプレイに表示でき、ディスプレイに表示された端末の画像を複数のユーザで各種共有の操作を行うことができるようになる。
図1の構成例に示すように、デバイスの表示画面の連携を制御する情報処理装置100には、ディスプレイ110と、端末120とが接続される。ディスプレイ110は、例えば、教室や会議室等の部屋のテーブルや壁等に設置され、端末120を携帯する複数のユーザが会議等での業務時に共有する表示画面111を表示する。実施の形態のディスプレイ110は、タッチパネルであり、ディスプレイ110の表示画面上でのタッチ操作を検出し、情報処理装置100に出力する。
複数のユーザは、それぞれスマートフォン等の端末120(120a,120b)を携帯保持し、ネットワークNW、例えば、無線LAN等のローカルネットワークを介して端末120の画面を情報処理装置100に出力可能である。情報処理装置100は、ユーザによる所定の操作により、端末120の画面(図示の例では、端末1(120a)に表示されている画面1(121)をディスプレイ110の表示画面111に表示させる連携処理を制御する。
表示画面111は、例えば疑似的なデジタル模造紙の表示を行う模造紙アプリケーション(模造紙アプリ)である。空間UIのシステム(例えば情報処理装置100)が模造紙アプリをプログラム実行し、会議室のテーブル上等に設けたタッチパネルがデジタル模造紙の表示画面111を表示する。
端末1(120a)の画面1(121)をディスプレイ110の表示画面111に表示することで、ディスプレイ110上の表示画面111を介して複数のユーザが端末1(120a)に表示されている画面1(121)を見ることができる。また、端末1(120a)のデータ利用等の操作を行える(画面の共有と称す)。
情報処理装置100は、端末120による画面共有の特定の操作を受けて画面の共有にかかる制御を行う。実施の形態では、画面共有の特定の操作は、ユーザにより端末120をシェーク(振る)した場合である。端末120は、加速度センサ等を内蔵し、シェーク操作を検出する。また、端末120の表示アプリケーションは、シェーク操作時に情報処理装置100に対して、端末120上で表示している画面(操作対象オブジェクト)をディスプレイ110上に表示させるための画面共有の要求を出力する。ここで、端末120は、画面共有の特定の操作として、上記シェーク操作に限らず、端末120を特定の状態、例えば、端末120の背面を上にしてテーブル等に置いた場合や、予め割り当て設定した特定のキー操作時に、画面共有の要求を出力してもよい。
また、情報処理装置100は、ディスプレイ110から端末120の画面共有のエリア(表示枠)の指定の情報が入力される。画面共有を行おうとするユーザがディスプレイ110の表示画面111上で所定の表示枠112をタッチペン等で描画した場合、情報処理装置100は、略四角形状に閉じられた部分を表示枠112として検出する。そして、情報処理装置100は、表示画面111の全体エリアのうち、この表示枠112のエリアを画面の共有のエリアとして設定する。
なお、表示枠112の枠形成は、ユーザがタッチペンで描画して形成するに限らず、ユーザがマウスやキーボード等で枠形成してもよい。さらには、情報処理装置100(あるいは空間UIユニット装置301)が予め各種大きさの表示枠112の枠情報を保持しておき、ユーザが所望する大きさの枠情報を選択することとしてもよい。
表示枠112は、例えば、疑似的なデジタルカードに相当し、情報処理装置100は、デジタル模造紙の表示画面111の表示枠112部分に、所定のユーザ(端末120)の画面をカードとして表示する。これにより、会議等で複数のユーザが机に着席している状態で、各ユーザが画面の共有を行っている表示画面111(デジタル模造紙)の表示枠112部分に、あるユーザの端末120の画面を取り込み表示させることができる。この状態で、表示枠112に表示されているあるユーザの端末120の画面についても画面の共有を行うことができる。
表示枠112は、例えばデジタルカードの表示を行うカードアプリケーション(カードアプリ)である。空間UIのシステム(例えば情報処理装置100)がカードアプリをプログラム実行し、空間UIのシステムのカメラが会議室のテーブル上等でのタッチペンの軌跡を検出し、タッチパネルが検出した軌跡に相当する表示枠112を表示画面111内に表示する。
ここで、ユーザによる画面の共有の操作時の情報処理装置100の制御例を説明する。例えば、図1に示す端末1(120a)のユーザが端末1(120a)上で表示している画面1(121)と同じ表示内容の画面をディスプレイ110の表示画面111上(表示枠112部分)に表示する場合を説明する。
この場合、はじめに、ユーザは、ディスプレイ110の表示画面111上でタッチペン等により任意の大きさの表示枠112を描画する。ディスプレイ110は、表示画面111上でタッチペンのタッチ位置を検出し、表示枠112に相当する閉じた線分を連続検出し、情報処理装置100に出力する。これにより、情報処理装置100は、表示画面111上での表示枠112の位置を時期t0に設定する。時期t0は、例えば、閉じた線分として表示枠112が描画された時刻である。
そして、情報処理装置100は、表示枠112部分の画面の共有を行う端末120からの画面共有の要求の入力を一定時間(タイマー時間)Tの間待つ。一定時間Tは、表示枠112が描画された時期t0を開始タイミングとして計測される。
そして、表示枠112を描画したユーザが画面共有のために、携帯する端末1(120a)をシェーク操作したとする。これにより、端末1(120a)は、シェーク操作に基づき、画面共有の要求を情報処理装置100に出力する。
情報処理装置100は、一定時間T内の時期t1で端末1(120a)がシェーク操作されたことにより、端末1(120a)からの画面共有の要求を許可(OK)する。この後、情報処理装置100は、端末1(120a)から出力される画面1(121)の表示データをディスプレイ110の表示画面111内の表示枠112部分に表示する。
情報処理装置100は、一定時間T内において、複数の画面共有の要求がない場合、すなわち、一つの端末1(120a)からのみ画面共有の要求があった場合、一定時間Tの経過時(時期t3)に端末1(120a)からの画面共有の要求を許可(OK)する。この際、表示枠112に画面を表示する端末が端末1(120a)と紐付け、端末1(120a)から出力される表示データをディスプレイ110の表示枠112部分に表示させる。
次に、情報処理装置100が行う一定時間T内に複数の画面共有の要求があった場合の制御について説明する。上記同様に、一定時間T内の時期t1で端末1(120a)がシェーク操作され、端末1(120a)が画面共有の要求を出力したとする。そして、この一定時間T内の時期t2で端末2(120b)がシェーク操作され、端末2(120b)が画面共有の要求を出力したとする。
情報処理装置100は、一定時間T内に複数の端末1,2(120a,120b)から画面共有の要求を受けると、表示枠112に画面を表示する端末120が端末1(120a)であるか端末2(120b)であるかを特定できない(NG)と判断する。そして、情報処理装置100は、表示枠112に画面を表示する端末120を特定するための案内(ガイド)113をディスプレイ110の表示画面111上の所定位置(例えば、表示枠112上)に表示させる。ガイド113は、例えば、「再度振って下さい」とユーザに通知する。
本来、端末1(120a)のユーザが画面共有するために、ディスプレイ110上で表示枠112を描画し、その後、端末1(120a)をシェーク操作したとする。しかし、一定時間T内で他の端末2(120b)のユーザが端末2(120b)をシェーク操作した場合、上記のように表示枠112の表示する端末120を特定できなくなる。この状態は、端末2(120b)のユーザが、画面共有の意思がないものの、一定時間T内で端末2(120b)をシェーク操作してしまった場合等に生じる。例えば、端末2(120b)のユーザが会議室内で移動した際に端末2(120b)がこの移動による振動をシェーク操作と判断した場合等がある。
この場合、情報処理装置100は、ディスプレイ110の表示枠112部分にガイド113を案内表示する。そして、ガイド113の表示を開始タイミングとした一定時間T内に一つの端末1(120a)のみシェーク操作されたとする。この場合、情報処理装置100は、一定時間T経過時に、端末1(120a)からの画面共有の要求を許可(OK)し、ディスプレイ110の表示画面111の表示枠112部分に端末1(120a)の表示データを表示させる。
なお、ガイド113の案内後の一定時間T内に端末1,2(120a,120b)から画面共有の要求を受けた場合には、再度、表示画面111上でガイド113を表示させることを繰り返す。
このように、情報処理装置100は、複数のユーザによる共有の表示画面111上に表示させる操作対象オブジェクト(端末1(120a)の画面1)を一定時間Tを用いて特定する。そして、情報処理装置100は、一定時間T内で本来の画面共有を要求した端末1(120a)のみがシェーク操作されたときには、この端末1(120a)の画面1(121)を表示枠112に紐付け、表示枠112に画面1(121)を表示する。
一方、情報処理装置100は、一定時間T内で端末1(120a)以外の他の端末2(120b)もシェーク操作され、画面共有の要求が複数入力された場合、表示枠112に対する操作対象オブジェクトに対する紐付けが特定できないと判断する。この場合、情報処理装置100は、表示枠112に対する操作対象オブジェクトの紐付けを行わず、誤った操作対象オブジェクトを紐付けすることを防ぐ。そして、情報処理装置100は、ディスプレイ110の表示画面111にガイド113を表示し、ユーザに対し再度のシェーク操作を通知する。一定時間T内で一つの端末120(端末1(120a)のみのシェーク操作がされることで、端末1(120a)の画面1(121)を表示枠112に紐付け、表示枠112に画面1(121)を表示する。
上記の処理では、表示画面111上に一つの表示枠112を描画した場合の例を説明した。これに限らず、情報処理装置100は、表示画面111上に複数の表示枠112を描画した場合においても、上記同様の処理により各表示枠112に画面を表示する端末120の操作対象オブジェクトを紐付けることができる。また、情報処理装置100は、表示枠112を描画した後、ユーザが端末120をシェーク操作するまでの所要時間別の確率を紐付確率モデルとして事前に設定保持しておく。そして、表示枠112の描画後、実際に端末120がシェーク操作された時期に基づいて、表示枠112に対する操作対象オブジェクトの紐付確率を算出し、紐付けを行うこともできる。これらの処理の詳細は後述する。
上記処理により、複数のユーザが協働作業等でディスプレイ110の表示画面111上にユーザが描画した表示枠112部分にあるユーザの端末120の画面(操作対象オブジェクト)を表示させることができる。これにより、端末120の小さな画面を大きなディスプレイ110上に表示でき、複数のユーザが上記画面の共有を行うことができる。
この際、情報処理装置100は、端末120をシェーク操作した際の画面共有の要求により、端末120の操作対象オブジェクトを表示枠112に紐付けて表示させる。また、ユーザが表示枠を描画した後、複数の端末120からのシェーク操作があった場合には、表示枠112に紐付ける端末120を特定できないため、ガイド113を表示して、ユーザに対し再度のシェーク操作を通知する。これにより、複数の端末のシェーク操作により、表示枠に対する操作対象オブジェクトの紐付けが特定できなくなることを防ぎ、表示枠112に対し所望するユーザの端末120の画面(操作対象オブジェクト)を適切に紐付け、表示できるようになる。
図2は、実施の形態にかかる情報処理装置が利用する空間UIのシステム例を示す図である。上記の情報処理装置100は、空間UIのシステムの各装置に接続され、空間UIのシステムの各装置を介して上述した表示枠に対する操作対象オブジェクトの紐付けの制御を行う。
図2を用いて空間UIのシステムとして用いる各装置例を説明する。会議室等の部屋のテーブル(机)TBが設置され、このテーブルTB上にタッチパネル111aを配置し、上記の表示画面111を表示する。タッチパネル111aは、会議に参加したユーザUが操作するタッチペン201を操作して上記の表示枠112の描画を検出する。
情報処理装置100は、タッチパネル111aに対し表示画面111および表示枠112の表示データを出力する。また、情報処理装置100は、タッチペン201から表示枠112の描画時の座標位置が入力され、この座標位置に対応する表示枠112の表示データをタッチパネル111aに表示出力する。
また、表示画面111は、プロジェクタによる投影表示でもよく、この場合、プロジェクタで投影表示された表示画面111上での表示枠112の描画の座標位置は、テーブルTBを撮影するカメラの撮影画像であってもよい。この場合、空間UIのシステムの装置、あるいは情報処理装置100は、カメラの撮影画像を画像処理して表示枠112の形成状態を検出できる。
表示画面111は、複数のユーザが画面の共有を行うための表示体であり、テーブルTBに限らず、壁にタッチパネル111bを設置してもよいし、プロジェクタを用いて投影表示させてもよい。また、表示画面111は、テーブルTBと壁にそれぞれ設置したタッチパネル111a,111bであってもよい。
図3は、実施の形態にかかる情報処理装置を含む空間UIのシステム構成例を示す図である。図3において、上述した情報処理装置100は、空間UIのシステムの各装置にネットワークNWを介して接続される。
ネットワークNWには、端末120および空間UIユニット装置(PC)301が接続され、情報処理装置100は、これら端末120および空間UIユニット装置301との間でデータを入出力する。空間UIユニット装置301は、例えば、会議室等、所定の空間(部屋等のエリア)毎に設けられ、図3の例では、複数の部屋に対応して複数nの空間UIユニット装置301a〜301nが設けられる。
一つの空間UIユニット装置301には、タッチ検出デバイス(上記タッチペン201)、表示デバイス(上記ディスプレイ110、タッチパネル111)が接続される。空間UIユニット装置301は、枠検出部311、枠送信部312、空間UI部313を含む。
空間UI部313は、汎用の空間UI技術、例えば、ディスプレイ110に対する表示データの送信、およびタッチペン201が検出したタッチ操作時の座標位置のデータ受信、にかかるアプリケーションをプログラム実行する。そして、空間UI部313は、これらのデータを、ネットワークNWを介して情報処理装置100との間で送受信する。加えて、実施の形態では、空間UI部313は、表示枠112に紐付けられた端末120との間でのデータの送受信を行う。例えば、空間UI部313は、情報処理装置100の連携ペアテーブル352から表示枠112に紐付けられた端末120を特定し、特定した端末120の画面を表示枠112に表示する制御を行う。
枠検出部311と枠送信部312は、空間UI技術のアプリケーションの一つとして上述した画面の共有にかかるアプリケーションをプログラム実行する。枠検出部311は、タッチペン201のタッチ操作時で検出した座標位置の軌跡に基づき、一つの閉じた枠(表示枠112)の形成状態を判断する。
例えば、枠検出部311は、ディスプレイ110上でのタッチペン201のタッチポイントを検出し、既に追跡中の軌跡の延長線上にある場合、その軌跡の続きと見なして軌跡を延長する。また、どの軌跡の延長でもない、新しいタッチポイントは、新規軌跡としてメモリ上に記憶しておく。一方、追跡している軌跡は続きがない場合、タッチアップ(タッチ操作終了)と見なして、軌跡をメモリから消す。
そして、枠検出部311は、表示枠112の形成を判断した場合、枠検出部311は、表示枠112全体の座標位置を検出し、枠送信部312を介して表示枠112の枠情報を情報処理装置100に出力する。例えば、表示枠112全体の連続した線分の座標位置、あるいは対角線上の異なる2点の座標位置を情報処理装置100に出力する。
これにより、情報処理装置100は、連続した線分の座標位置により図1に示したような手書き状の表示枠112の画像データを生成することができる。また、情報処理装置100は、異なる2点の座標位置の入力に基づいて、四角形状の表示枠112の画像データを生成することもできる。
一つの空間UIユニット装置301が管理する一つの部屋等のエリアには、複数nのユーザが会議等で集合し、複数の端末120(120a〜120n)が位置する。端末120は、例えば、スマートフォン等の通信機能および各種アプリケーションが実装され、アプリケーションの一つとして上述した画面の共有にかかるアプリケーションが実装されている。
この端末120は、加速度センサ321、シェーク検出部322、シェーク送信部323を含む。シェーク検出部322とシェーク送信部323は、画面の共有にかかるアプリケーションに相当しプログラム実行される。そして、ユーザが端末120をシェーク操作すると、加速度センサ321がこのシェーク操作に対応した加速度を検出する。
シェーク検出部322は、検出した加速度に基づき、端末120がシェーク操作されたか否かを判断する。シェーク操作は、例えば、ユーザが端末120を縦横に数回振る動作である。シェーク検出部322は、シェーク操作による加速度の振幅(端末120の動きの値)が一定値以上の場合、端末120がシェーク操作されたと判断し、上記の画面共有の要求をシェーク送信部323からネットワークNWを情報処理装置100に出力(送信)する。
情報処理装置100は、制御部330、シェーク受信部341、枠受信部342、ガイド表示送信部343、ガイド表示受信部344、紐付け候補テーブル351、連携ペアテーブル352、ガイド窓管理テーブル353、を含む。
制御部330は、情報処理装置100全体を制御し、紐付け候補作成部331、紐付け決定部332、ガイドメッセージ表示部333、を含む。これら紐付け候補作成部331、紐付け決定部332、ガイドメッセージ表示部333は、それぞれの機能を有するアプリケーションからなる。
紐付け候補作成部331は、表示枠112に表示する操作対象オブジェクトを送信するデバイス(端末120)の候補を判断し、紐付け候補テーブル351に紐付けの候補の情報を格納する。紐付け候補作成部331は、この候補判断の際、空間UIユニット装置301から送信される枠情報と、端末120のシェーク操作時の画面共有の要求を用いる。そして、紐付け候補作成部331は、複数の表示枠112と、複数の端末120をそれぞれペアリングして、紐付けの確率(紐付確率)をそれぞれ算出し、紐付け候補テーブル351に格納する。
例えば、紐付け候補作成部331は、新しい表示枠112に対して、所定期間のタイマー起動でカウントを開始し、タイムアウトまでの期間に、シェーク操作された端末120がある場合、端末120の紐付確率を紐付け候補テーブル351に格納する。
また、紐付け候補作成部331は、既に表示中の表示枠112のタイムアウトが生じた場合、紐付け候補テーブル351から該当の表示枠112を削除する。一方、既に表示中の表示枠112がタイムアウトになっていない場合、シェーク操作された端末120との紐付確率を算出して紐付け候補テーブル351に格納する。
紐付け決定部332は、紐付け候補テーブル351から紐付けの候補を読み出し、表示枠112に表示する操作対象オブジェクトを送信するデバイス(端末120)の紐付けを決定する。紐付け決定部332は、決定した端末120と、表示枠112とを紐付けた連携ペアの情報を連携ペアテーブル352に格納する。
例えば、紐付け決定部332は、紐付け候補テーブル351から、紐付確率の最大値と2番目の最大値を読み出し、この紐付確率に基づいて表示枠112に対する端末120の紐付けを決定し、決定結果を連携ペアテーブル352に書き込む。また、紐付け決定部332は、紐付けを決定できない場合、ガイド113のメッセージをガイド表示送信部343に書き込む。
ガイドメッセージ表示部333は、ディスプレイ110に対するガイド113の通知(表示)を制御する。上述したように、ガイド113は、複数の端末120がシェーク操作された場合に、表示枠112に表示する操作対象オブジェクトを特定できない場合に、空間UIユニット装置301を介してディスプレイ110にガイド113を表示する。ガイドメッセージ表示部333は、ディスプレイ110上に表示するガイド113の表示の情報をガイド窓管理テーブル353に格納する。
例えば、ガイドメッセージ表示部333は、ガイド表示送信部343からガイド113のメッセージを読み込み、例えば、「表示」の指示であれば、空間UIユニット装置301を介してディスプレイ110上に所定のガイド113のメッセージを表示する。また、ガイドメッセージ表示部333は、ガイド表示送信部343からガイド113のメッセージが「消去」の指示であれば、ディスプレイ110上に表示されているガイド113のメッセージを消去する制御を行う。
空間UIユニット装置301の枠送信部312、端末120のシェーク送信部323、情報処理装置100のシェーク受信部341、枠受信部342、ガイド表示送信部343、ガイド表示受信部344は、イベント送受信のメッセージキュー(MQ)である。
そして、端末120のシェーク送信部323と、情報処理装置100のシェーク受信部341は、端末120のシェーク検出部322と、情報処理装置100の紐付け候補作成部331との間のメッセージの送受信を行う。また、空間UIユニット装置301の枠送信部312と、情報処理装置100の枠受信部342は、空間UIユニット装置301の枠検出部311と、情報処理装置100の紐付け候補作成部331との間のメッセージの送受信を行う。また、情報処理装置100のガイド表示送信部343と、ガイド表示受信部344は、紐付け候補作成部331と、紐付け決定部332と、ガイドメッセージ表示部333との間のメッセージの送受信を行う。
図4は、実施の形態にかかる情報処理装置のハードウェア構成例を示す図である。情報処理装置100は、例えば、図4に示すハードウェアからなる汎用のPCやサーバで構成することができる。
情報処理装置100は、CPU(Central Processing Unit)401、メモリ402、ネットワークインタフェース(IF)403、記録媒体IF404、記録媒体405、等を含む。400は各部を接続するバスである。
CPU401は、情報処理装置100の全体の制御を司る制御部として機能する演算処理装置である。メモリ402は、不揮発性メモリおよび揮発性メモリを含む。不揮発性メモリは、例えば、CPU401のプログラムを格納するROM(Read Only Memory)である。揮発性メモリは、例えば、CPU401のワークエリアとして使用されるDRAM(Dynamic Random Access Memory)、SRAM(Static Random Access Memory)等である。
ネットワークIF403は、LAN(Local Area Network)、WAN(Wide Area Network)、インターネットなどのネットワークNWに対する通信インタフェースである。情報処理装置100は、ネットワークIF403を介してネットワークNWに通信接続し、端末120および空間UIユニット装置301と通信する。
記録媒体IF404は、CPU401が処理した情報を記録媒体405との間で読み書きするためのインタフェースである。記録媒体405は、メモリ402を補助する記録装置であり、HDD(Hard Disk Drive)や、SSD(Solid State Drive)、USB(Universal Serial Bus)フラッシュドライブ等を用いることができる。
メモリ402または記録媒体405に記録されたプログラムをCPU401が実行することにより、情報処理装置100の制御部330の各機能(紐付け候補作成部331、紐付け決定部332、ガイドメッセージ表示部333)を実現することができる。また、メモリ402や記録媒体405は、情報処理装置100が扱う情報を記録保持する。例えば、メモリ402や記録媒体405は、上記の各テーブル(紐付け候補テーブル351、連携ペアテーブル352、ガイド窓管理テーブル353等)の情報を保持する。また、シェーク受信部341、枠受信部342、ガイド表示送信部343、ガイド表示受信部344のキューのデータを保持する。
また、上述した端末120、および空間UIユニット装置301についても、図4に示した汎用のハードウェアで構成することができる。
(表示枠に端末の画面を表示させる処理例)
次に、表示枠112に表示させる画面の端末120の紐付けを特定する情報処理装置100の各処理例を説明する。
(処理例1:一つの表示枠に一つの端末を特定する処理例)
図5は、一つの表示枠に対する端末の紐付けの処理例を説明する図である。図5(a)は、一つの表示枠112の描画後、複数の端末120a,120bのユーザによるシェーク操作があった場合を示す。例えば、画面共有を要求するユーザが端末120aのユーザであるとし、この端末120aのユーザがディスプレイ110上でタッチペンを操作し、表示枠112を描画したとする(時期t0)。
これにより、情報処理装置100は、時期t0から一定時間Tの間、画面共有の要求の入力を待つ。この一定時間Tの間、端末120aのユーザが端末1(120a)をシェーク操作したとする(時期t1)。ここで、この一定時間Tの間、端末2(120b)のユーザも端末2(120b)をシェーク操作したとする(時期t2)。端末2(120b)のユーザは、画面共有の要求ではなく、席の移動などにより不本意に端末2(120b)をシェーク操作相当で振動させたとする。
このように、情報処理装置100は、一定時間T内に複数の端末1,2(120a,120b)からシェーク操作(画面共有の要求)を受けたとする。この場合、情報処理装置100は、表示枠112に画面を表示する端末120が端末1(120a)であるか端末2(120b)であるかを特定できない(NG)と判断する。
この場合、図5(b)に示すように、情報処理装置100は、画面の共有の要求を行った端末120aにユーザに対し、再度のシェーク操作を通知するガイド113をディスプレイ110の表示画面111上の所定位置(例えば、表示枠112上)に表示させる。
そして、情報処理装置100は、ガイド113の表示の開始時期(t4)から一定時間Tの間、再度の画面共有の要求の入力を待つ。この一定時間Tの間に、本来の画面の共有のユーザのみ、端末1(120a)をシェーク操作したとする(時期t5)。これにより、情報処理装置100は、一定時間T経過時(時期t6)に、端末1(120a)からの画面共有の要求を許可(OK)する。
この後、図5(c)に示すように、情報処理装置100は、ディスプレイ110の表示画面111の表示枠112部分に端末1(120a)の表示データを表示させる。これにより、端末1(120a)の画面を複数のユーザで共有させることができる。
なお、情報処理装置100は、ガイド113の案内後の一定時間T内に再度複数の端末120から画面共有の要求を受けた場合には、再度、表示画面111上でガイド113を表示させることを繰り返す。
(処理例2:複数の表示枠それぞれに一つの端末を特定する処理例)
図6は、複数の表示枠に対する複数の端末の紐付けの処理例を説明する図である。図6(a)は、二つの表示枠112の描画後、複数の端末120のユーザによるシェーク操作があった場合を示す。例えば、端末1(120a)のユーザがディスプレイ110上でタッチペンを操作し、表示枠1(112a)を描画したとする(時期t10)。また、端末2(120b)のユーザがディスプレイ110上でタッチペンを操作し、表示枠2(112b)を描画したとする(時期t20)。このように、一つのディスプレイ110上で複数のユーザがほぼ同じ時期に端末1,2(120a,120b)の画面の共有にかかる操作を行うことも考えられる。
このような場合において、情報処理装置100は、表示枠1(112a)については、時期t10から一定時間Tの間、画面共有の要求の入力を待つ。同時に、表示枠2(112b)についても、時期t20から一定時間Tの間、画面共有の要求の入力を待つ。ここで、表示枠1,2(112a,112b)それぞれで計測する一定時間(タイマー時間)Tは、時間的な重なりが生じる。
そして、一定時間Tの間、端末120aのユーザが端末1(120a)をシェーク操作したとする(時期t2)。また、一定時間Tの間、端末2(120b)のユーザも端末2(120b)をシェーク操作したとする(時期t3)。
このように、情報処理装置100は、一定時間T内に複数の端末1,2(120a,120b)からシェーク操作(画面共有の要求)を受けたとする。この場合、情報処理装置100は、表示枠1(112a)に画面を表示する端末120が端末1(120a)であるか端末2(120b)であるかを特定できない(NG)と判断する。同様に、表示枠2(112b)に画面を表示する端末120が端末1(120a)であるか端末2(120b)であるかを特定できない(NG)と判断する。
この場合、図6(b)に示すように、情報処理装置100は、いずれか一方の表示枠112、例えば表示枠1(112a)に対し、再度のシェーク操作を通知するガイド113aを表示させる。また、他方の表示枠112、例えば表示枠2(112b)には、画面共有の要求の受付の待機状態を通知するガイド113bを表示させる。待機用のガイド113bは、例えば「暫くお待ち下さい」と表示する。
これにより、情報処理装置100は、はじめに、表示枠1(112a)に画面共有させる端末120を特定させた後に、表示枠2(112b)に画面共有させる端末120を特定させる制御を行うことができる。
そして、情報処理装置100は、表示枠1(112a)のガイド113aの表示の開始時期(t4)から一定時間Tの間、再度の画面共有の要求の入力を待つ。この一定時間Tの間に、端末1(120a)がシェーク操作された場合(時期t5)、情報処理装置100は、一定時間T経過時(時期t6)、端末1(120a)からの画面共有の要求を許可(OK)する。
この後、図6(c)に示すように、情報処理装置100は、ディスプレイ110の表示画面111の表示枠112部分に端末1(120a)の表示データを表示させる。これにより、端末1(120a)の画面を複数のユーザで共有させることができる。
この後、情報処理装置100は、表示枠2(112b)に画面を表示させる端末120を特定する制御を行う。まず、情報処理装置100は、表示枠2(112b)のガイド113b上で再度のシェーク操作を通知した後、表示枠2(112b)のガイド113bの表示の開始時期(t4に相当)から一定時間Tの間、再度の画面共有の要求の入力を待つ。この一定時間Tの間に、端末2(120b)がシェーク操作された場合(時期t5に相当)、情報処理装置100は、一定時間T経過時(時期t6に相当)、端末1(120a)からの画面共有の要求を許可(OK)する。これにより、ディスプレイ110の表示画面111の表示枠2(112b)部分に端末2(120b)の表示データを表示させ、端末1(120a)の画面を複数のユーザで共有させることができる。
(処理例3:紐付確率を用いて表示枠に端末を特定する処理例)
以下の例では、予め表示枠112に対する端末120毎の紐付確率を情報処理装置100に保持しておく。そして、情報処理装置100は、実際に表示枠112が描画された際、紐付確率を算出して表示枠112に表示する端末120の紐付けを特定する。
ユーザが表示枠112を一つだけ描画開始した時期から、ユーザが実際に端末120をシェーク操作するまでの所要時間別の確率を、例えば正規分布でモデリングし、情報処理装置100に紐付確率モデルとして保持しておく。そして、情報処理装置100は、この紐付確率モデルを用い、ユーザが実際に表示枠112を描画後、シェーク操作した時点での紐付確率を算出し、表示枠112に紐付ける端末120を紐付確率に基づき特定する。
そして、情報処理装置100は、表示枠112が描画された後に、ほぼ同時に(例えば、一定時間T程度の所定期間内で)複数の端末120からのシェーク操作を検知したとする。この場合には、最も高い確率のものであり、かつ、次に高い(2番目に高い)確率との差が一定閾値以上の場合、最も高い紐付確率を持つ端末120を表示枠112に紐付けるペアとして特定する。2番目に高い紐付確率との差が一定閾値以下、つまり、判別しにくい場合、情報処理装置100は、上記同様にガイド113を表示し、再度のシェーク操作をユーザに通知する。
図7は、一つの表示枠に対する端末の紐付けに紐付確率を用いた処理例を説明する図である。図7(a)は、一つの表示枠112の描画後、複数の端末120a,120bのユーザによるシェーク操作があった場合を示す。例えば、画面共有を要求するユーザが端末120aのユーザであるとし、この端末120aのユーザがディスプレイ110上でタッチペンを操作し、表示枠112を描画したとする(時期t0)。
これにより、情報処理装置100は、予め保持した紐付確率を参照する。図示の紐付確率の分布は横軸が時刻、縦軸が確率である。紐付確率は、時期t0を開始時期として、ユーザが実際に端末120をシェーク操作するまでの時期(時刻)別の確率の分布特性を有する。ユーザが実際にシェーク操作(画面共有を要求)した時期に基づいて、表示枠112に紐付ける端末120を特定する。
紐付確率は、確率が最も高いピークが時期t11であるとする。例えば、この時期t11で端末120aのユーザが端末1(120a)をシェーク操作したとする。この場合、情報処理装置100は、検出した時期t11でのシェーク操作時の確率から所定値hだけ下がった確率(例えば30%減少)した時期t12までの間(後判定期間Tf)に、他の端末2(120b)からのシェーク操作を検出しなかったとする。例えば、端末2(120b)は、時期t12後の時期t21でシェーク操作されたとする。
この場合、時期t12において、表示枠112に画面を表示する端末1(120a)を特定できる。このように、紐付確率を用いることで、時期(時期t12)に端末1(120a)を特定でき(OK)、短時間に画面の共有を行えるようになる。参考までに、上記タイマー時間(一定時間)Tを記載してあるが、上記紐付確率を用いた処理によれば、一定時間Tの満了(図5の時期t6相当)を待たずに、より早い時期(時期t12)で表示枠112に紐付ける端末1(120a)を特定できることになる。
一方、他の端末2(120b)が時期t12よりも以前の時期にシェーク操作されたとする。この場合、情報処理装置100は、表示枠112に画面を表示する端末120が端末1(120a)であるか端末2(120b)であるかを特定できない(NG)と判断する。
この場合、図7(b)に示すように、情報処理装置100は、再度のシェーク操作を通知するガイド113をディスプレイ110の表示画面111(表示枠112)に表示させる。
そして、情報処理装置100は、ガイド113の表示の開始時期t4から再度、紐付確率を参照し、再度のシェーク操作(画面共有の要求)の入力を待つ。ここで、再度端末1(120a)が時期t5でシェーク操作されたとする。このシェーク操作(時期t5)を中心とした前判定期間Tpおよび後判定期間Tf範囲内に他の端末120(端末120b)のシェーク操作がなかったとする。加えて、確率のピーク値(時期t6)を中心とした前判定期間Tpおよび後判定期間Tf範囲内に他の端末120(端末120b)のシェーク操作がなかったとする。この場合、情報処理装置100は、時期t6から後判定期間Tf経過時で表示枠112に紐付ける端末1(120a)を特定できることになる。
この後、図7(c)に示すように、情報処理装置100は、ディスプレイ110の表示画面111の表示枠112部分に端末1(120a)の表示データを表示させる。これにより、端末1(120a)の画面を複数のユーザで共有させることができる。
上記の処理例では、端末1(120a)のシェーク操作時(時期t11)の後に、端末2(120b)のシェーク操作(時期t21)が行われた場合の処理例を示した。これに限らず、端末1(120a)のシェーク操作時(時期t11)の前の時期に、端末2(120b)のシェーク操作が行われた場合であっても、同様に処理できる。
例えば、端末1(120a)のシェーク操作時(時期t11)を基準として以前の時刻範囲のうち、所定値下がる確率(例えば30%減少)に相当する前判定期間Tp内で端末2(120b)のシェーク操作が行われたとする。この場合、情報処理装置100は、表示枠112に紐付ける端末120を特定できず、再度のシェーク操作を通知するガイド113をディスプレイ110の表示画面111(表示枠112)に表示させる。一方、前判定期間Tpよりもさらに以前の時期の端末2(120b)の操作であれば、表示枠112に対する端末1(120a)の紐付けを特定できることになる。
(処理例4:紐付確率を用いて複数の表示枠それぞれに一つの端末を特定する処理例)
図8は、複数の表示枠に対する複数の端末の紐付けに紐付確率を用いた処理例を説明する図である。図8(a)は、二つの表示枠112の描画後、複数の端末120のユーザによるシェーク操作があった場合を示す。例えば、端末1(120a)のユーザがディスプレイ110上でタッチペンを操作し、表示枠1(112a)を描画したとする(時期t10)。また、端末2(120b)のユーザがディスプレイ110上でタッチペンを操作し、表示枠2(112b)を描画したとする(時期t20)。
これにより、情報処理装置100は、予め保持した紐付確率を参照し、各ユーザが実際にシェーク操作(画面共有を要求)した時期に基づいて紐付確率を算出し、表示枠112に紐付ける端末120を特定する。
ここで、表示枠1(112a)については、端末1(120a)がシェーク操作された時期t2での確率のほうが、端末2(120b)がシェーク操作された時期t3での確率よりも高い。加えて、端末1(120a)の後判定期間Tf内で端末2(120b)がシェーク操作されている(時期t3)。この場合、情報処理装置100は、表示枠1(112a)に紐付ける端末120を特定できない(NG)と判断する。
また、表示枠2(112b)については、端末2(120b)がシェーク操作された時期t3での確率のほうが、端末1(120a)がシェーク操作された時期t3での確率よりも高い。加えて、端末2(120b)の前判定期間Tp内で端末1(120a)がシェーク操作されている(時期t2)。この場合、情報処理装置100は、表示枠2(112b)に紐付ける端末120を特定できない(NG)と判断する。
この場合、図8(b)に示すように、情報処理装置100は、いずれか一方の表示枠112、例えば表示枠1(112a)に対し、再度のシェーク操作を通知するガイド113aを表示させる。また、他方の表示枠2(112b)には、画面共有の要求の受付の待機状態を通知するガイド113bを表示させる。
これにより、情報処理装置100は、はじめに、表示枠1(112a)に画面共有させる端末120を特定させた後に、表示枠2(112b)に画面共有させる端末120を特定させる制御を行うことができる。
そして、情報処理装置100は、表示枠1(112a)のガイド113aの表示の開始時期(t4)から再度の画面共有の要求の入力を待つ。そして、時期t6までの間の後判定期間Tf内で端末1(120a)のみがシェーク操作された場合(時期t5)、情報処理装置100は、端末1(120a)の画面共有の要求を許可(OK)する。
この後、図8(c)に示すように、情報処理装置100は、ディスプレイ110の表示画面111の表示枠1(112a)部分に端末1(120a)の表示データを表示させる。これにより、端末1(120a)の画面を複数のユーザで共有させることができる。
この後、情報処理装置100は、表示枠2(112b)に画面を表示させる端末120を特定する制御を行う。まず、情報処理装置100は、表示枠2(112b)のガイド113b上で再度のシェーク操作を通知した後、表示枠2(112b)のガイド113bの表示の開始時期(t4に相当)から再度の画面共有の要求の入力を待つ。そして、端末2(120b)がシェーク操作されたとする(時期t5に相当)。
このシェーク操作(時期t5に相当)を中心とした前判定期間Tpおよび後判定期間Tf範囲内に他の端末120(端末120b)のシェーク操作がなかったとする。加えて、確率のピーク値(時期t6に相当)を中心とした前判定期間Tpおよび後判定期間Tf範囲内に他の端末120(端末120b)のシェーク操作がなかったとする。この場合、情報処理装置100は、時期t6から後判定期間Tf経過時(時期t6)で表示枠2(112b)に紐付ける端末2(120b)を特定できることになる。
上記処理2の実装例を以下に説明する。上記のように、互いに近い時間間隔の一定時間内に複数の表示枠1(112a)、表示枠2(112b)を描画し、かつ複数の端末1(120a)、端末2(120b)をシェーク操作した場合を例に説明する。
図9は、実施の形態にかかる情報処理装置による複数の表示枠と複数の端末の紐付確率を説明する図表である。縦軸は複数の表示枠112、横軸は複数の端末120である。情報処理装置100は、処理例2の処理に基づいて、各表示枠112と、各端末120とを紐付ける紐付確率pをそれぞれ求める。例えば、1番高い確率と2番目に高い確率との差が一定閾値以上の場合、1番高い確率のペアの表示枠112と端末120とを対応付けることにする。
また、1番高い確率と2番目に高い確率との差が一定閾値以下、つまり、判別しにくい場合、1番高い確率の表示枠1(112a)に、例えばガイド113aで「再度振って下さい」と表示する。また、他の表示枠2(112b)に、例えばガイド113bで「暫くお待ち下さい」とメッセージを表示する。情報処理装置100は、ガイド113のメッセージを表示した後に、上述の対応付け処理を続ける。
例えば、図9に示すように、1番、2番に大きい確率をそれぞれp(1,A)、p(2,B)とする(|p(1,A)−p(2,B)|<閾値)。この場合、表示枠1(112a)にガイド113aで「再度振って下さい」と表示し、表示枠2(112b)にガイド113bで「暫くお待ち下さい」と表示する。
図10A〜図10Fは、実施の形態にかかる情報処理装置が扱うデータ例を示す図表である。図10Aには、情報処理装置100のシェーク受信部341、および端末120のシェーク送信部323のメッセージキュー(MQ)のデータ例を示す。シェーク受信部341、およびシェーク送信部323のメッセージキューのデータは、メッセージ格納順の番号と、メッセージ送信元の端末120の端末識別子(ID)、例えばIMEIと、メッセージの送信時刻と、を含む。IMEIは、International Mobile Equipment Identityである。
図10Bには、情報処理装置100の枠受信部342、および空間UIユニット装置301の枠送信部312のメッセージキュー(MQ)のデータ例を示す。枠受信部342、および枠送信部312のメッセージキューのデータは、メッセージ格納順の番号と、表示枠112の識別子(ID)と、表示枠112の描画の時刻と、表示枠112を表示する位置(座標x,y)とを含む。
図10Cには、情報処理装置100のガイド表示送信部343、ガイド表示受信部344のメッセージキュー(MQ)のデータ例を示す。ガイド表示送信部343、およびガイド表示受信部344のメッセージキューのデータは、メッセージ格納順の番号と、ガイド113のメッセージのコマンド(例えばガイド113の「表示」あるいは「削除」)と、を含む。また、ガイド113の表示対象の表示枠112の識別子(ID)と、コマンド送信の時刻と、ガイド113を表示する位置(座標x,y)と、を含む。
図10D〜図10Fには、情報処理装置100の各テーブルのデータ例を示す。情報処理装置100は、上記各受信部のメッセージキュー(MQ)が送受信するデータを取り込み以下の各テーブルを生成する。
図10Dには、情報処理装置100の紐付け候補テーブル351のデータ例を示す。紐付け候補テーブル351は、表示枠112に紐付ける端末120毎の候補ペア番号と、表示枠112の枠インデックス(図10Bの番号)、端末120の端末インデックス(図10Aの番号)を含む。また、表示枠112の枠ID(図10Bの枠ID)、端末120の端末ID(図10Aの端末ID)と、表示枠112の位置(図10Bの位置)と、を含む。
また、紐付け候補テーブル351は、上記処理例1.の場合、タイマー時間T(タイマー時刻)を含む。また、上記処理例2.の場合、紐付確率p(i,j)を含む。
図10Eには、情報処理装置100の連携ペアテーブル352のデータ例を示す。連携ペアテーブル352は、表示枠112に連携する端末120のペア毎のペア番号と、端末120の端末IDと、表示枠112の位置(座標x,y)と、を含む。
図10Fには、情報処理装置100のガイド窓管理テーブル353のデータ例を示す。ガイド窓管理テーブル353は、ガイド113毎の窓番号と、ガイド113の表示対象の表示枠112の枠IDと、ガイド113の位置(座標x,y)と、ガイド113に表示するメッセージ(表示文)と、を含む。
(システムの処理例)
次に、表示枠112と端末120との紐付けについて、端末120、空間UIユニット装置301、および情報処理装置100の各処理例を説明する。
図11は、端末の処理例を示すフローチャートである。この図11には、主にユーザが端末120をシェーク操作した際の処理を記載してある。端末120の制御部(CPU)は、加速度センサ321のセンサデータを取得し(ステップS1101)、振幅を算出する(ステップS1102)。そして、制御部は、振幅が一定値以上であるかを判断する(ステップS1103)。
振幅が一定値以上であれば(ステップS1103:Yes)、制御部は、シェーク送信部(MQ)323にシェーク操作時の各情報(図10A参照、上記画面共有の要求)を書き込み(ステップS1104)、ステップS1101の処理に戻る。一方、振幅が一定値未満であれば(ステップS1103:No)、ステップS1101の処理に戻る。
図12は、空間UIユニット装置による表示枠の検出処理例を示すフローチャートである。この図12には、空間UIユニット装置301の枠検出部311による表示枠112の枠検出処理を記載してある。空間UIユニット装置301の制御部(CPU)は、ディスプレイ110上でユーザがタッチペン201等を操作したタッチ位置の座標を算出する(ステップS1201)。この際、ディスプレイ110上でタッチペン201はディスプレイ110上で一つのタッチで連続した線分(軌跡)を描画する。対応してタッチ座標算出毎のタッチポイント数をNとする。
次に、制御部は、タッチポイントの番号i=0(初期値)に設定し(ステップS1202)、タッチポイントiの座標を検出する(ステップS1203)。そして、制御部は、検出したタッチポイントiの座標が追跡中軌跡の延長線上にあるか判断する(ステップS1204)。タッチポイントiの座標が追跡中軌跡の延長線上にあれば(ステップS1204:Yes)、ステップS1205の処理に移行し、タッチポイントiの座標が追跡中軌跡の延長線上になければ(ステップS1204:No)、ステップS1206の処理に移行する。
ステップS1205では、制御部は、軌跡情報を更新し(ステップS1205)、ステップS1206の処理に移行する。一方、ステップS1206では、制御部は、軌跡情報に新しい軌跡を追加し、新たなIDを付与し(ステップS1206)、ステップS1207の処理に移行する。ステップS1207では、制御部は、タッチポイントの番号iを一つインクリメント(i=i+1)する(ステップS1207)。
次に、制御部は、タッチポイントの番号i>Nであるか判断する(ステップS1208)。タッチポイントの番号i>Nであれば(ステップS1208:Yes)、ステップS1209の処理に移行し、タッチポイントの番号i≦Nであれば(ステップS1208:No)、ステップS1203の処理に戻る。
ステップS1209では、制御部は、タッチ軌跡に未更新の軌跡があるか判断する(ステップS1209)。タッチ軌跡に未更新の軌跡がなければ(ステップS1209:No)、タッチ終了と判断してステップS1210の処理に移行する。タッチ軌跡に未更新の軌跡があれば(ステップS1209:Yes)、ステップS1203の処理に戻る。
ステップS1210では、制御部は、全てのタッチ終了軌跡に対して枠判定を行う(ステップS1210)。この枠判定では、制御部は、例えば、タッチ終了した軌跡が略四角形状等で閉じていれば枠と判定し(ステップS1211:Yes)、ステップS1212の処理に移行する。一方、タッチ終了した軌跡が略四角形状等で閉じておらず、線形状のままであれば枠ではないと判定し(ステップS1211:No)、ステップS1203の処理に戻る。
ステップS1212では、制御部は、枠と判定されたタッチ終了軌跡を表示枠112と判断し、この表示枠112に関する情報(図10B参照)を枠送信部(MQ)312に書き込み(ステップS1212)、以上の処理を終了する。
図13A,図13Bは、実施の形態にかかる情報処理装置が行う紐付け候補の作成処理例を示すフローチャートである。情報処理装置100の制御部330(紐付け候補作成部331)が行う処理例を示す。制御部は、空間UIユニット装置301から表示枠112に関する情報を受信し、端末120からシェーク操作(画面共有の要求)に関する情報を受信し、表示枠112に紐付けする端末120の候補の情報を作成し、紐付け候補テーブル351に格納する。この処理例では、上記紐付確率を用いた処理例2を示す。
はじめに、制御部は、枠受信部342から空間UIユニット装置301が送信した表示枠112に関するメッセージを読み込む(ステップS1301)。この際、制御部は、枠数をNとする。
次に、制御部は、受信したメッセージを紐付け待機枠リストに追加する(ステップS1302)。ここで、制御部は、既に待機中の個数をS個、インデックスを0〜Sとし、新規枠のインデックスをS+1〜S+Nに設定する。
次に、制御部は、シェーク受信部341から端末120が送信したシェーク操作(画面共有の要求)に関するメッセージを読み込む(ステップS1303)、ここで、制御部は、端末120の数をMとする。
次に、制御部は、待機中枠インデックスiを初期値(i=0)に初期設定する(ステップS1304)。そして、制御部は、枠iについてタイマー時間Tに関する処理を実施する(ステップS1305)。まず、枠i≦Sであるか判断する(ステップS1306)。枠i≦Sであれば(ステップS1306:Yes)、ステップS1307の処理に移行し、枠i>Sであれば(ステップS1306:No)、ステップS1317の処理に移行する。
ステップS1307では、制御部は、枠iにタイマー(タイマー時間T)を付与し(ステップS1307)、タイマー時刻tを0に初期化する(ステップS1308)。次に、端末インデックスkを初期値(k=0)に初期設定する(ステップS1309)。そして、制御部は、端末kについて表示枠112との紐付けに関する処理を実施する(ステップS1310)。まず、表示枠112に関し受信したメッセージの枠iの作成時刻と、端末120に関し受信したメッセージのシェーク操作(画面共有の要求)の時刻との時間差を算出する(ステップS1311)。
次に、制御部は、紐付確率p(i,k,t)を算出し、紐付け候補テーブル351に追加する(ステップS1312)。そして、制御部は、端末インデックスkをインクリメントし(ステップS1313)、k>Mであるか判断する(ステップS1314)。k>Mであれば(ステップS1314:Yes)、制御部は、ステップS1315の処理に移行し、k≦Mであれば(ステップS1314:No)、ステップS1310の処理に戻る。
次に、制御部は、枠インデックスiをインクリメントする(ステップS1315)。そして、制御部は、i>Nであるか判断する(ステップS1316)。i>Nであれば(ステップS1316:Yes)、制御部は、ステップS1305の処理に移行し、i≦Nであれば(ステップS1316:No)、ステップS1301の処理に戻る。
また、ステップS1317では、制御部は、i≦S+Nであるか判断する(ステップS1317)。そして、i≦S+Nであれば(ステップS1317:Yes)、制御部は、ステップS1318の処理に移行し、i>S+Nであれば(ステップS1317:No)、ステップS1319の処理に移行する。
ステップS1318では、制御部は、タイマー時刻Tをインクリメントする(ステップS1318)。ステップS1319では、制御部は、タイマー時間Tのタイムアウトか判断する(ステップS1319)。制御部は、タイムアウトであれば(ステップS1319:Yes)、ステップS1320の処理に移行し、タイムアウトでなければ(ステップS1319:No)、ステップS1309の処理に戻る。
ステップS1320では、制御部は、紐付け候補テーブル351から枠iを削除し(ステップS1320)、ガイド表示送信部343から枠iに関するメッセージを削除し(ステップS1321)、ステップS1315の処理に戻る。
図14Aは、実施の形態にかかる情報処理装置が行う紐付け決定の作成処理例を示すフローチャート、図14Bは、実施の形態にかかる情報処理装置が紐付け決定時に参照する紐付確率の例を示す図表である。この処理例では、情報処理装置100の制御部330(紐付け決定部332)は、紐付け候補テーブル351の一部として格納されている紐付確率の情報に基づき、表示枠112に紐付けする端末120を決定し、連携ペアテーブル352に格納する。
図14Bに示す紐付確率p(i,k,t)は、縦軸は複数の端末120、横軸は複数の表示枠112からなるテーブル1400であり、表示枠112の枠インデックスi、端末120の端末インデックスk、タイマー時間Tのタイマー時刻tの各パラメータを有する。
図14Aに示すように、制御部は、はじめに紐付け候補テーブル351を読み込む(ステップS1401)。次に、制御部は、枠インデックスi(=0〜S+N)、端末インデックスk(=0,M)の全てに対して紐付確率p(i,k,t)の最大値と2番目の最大値を抽出する(ステップS1402)。
次に、制御部は、紐付確率p(i,k,t)の最大値と2番目の最大値の差dを計算し、最大値ペア(表示枠112と端末120のペア)を<i1,k1>とする(ステップS1403、図15参照)。
次に、制御部は、差dが所定の閾値以上であるか判断する(ステップS1404)。差dが所定の閾値以上であれば(ステップS1404:Yes)、制御部は、ステップS1405の処理に移行し、差dが所定の閾値未満であれば(ステップS1404:No)、ステップS1407の処理に移行する。
ステップS1405では、制御部は、枠i1の番号の表示枠112に対し、中央位置座標にガイド113として「再度振って下さい」とのメッセージをガイド表示送信部343に追加する(ステップS1405)。そして、制御部は、枠i1以外の枠の番号の表示枠112に対し、中央位置座標にガイド113として「暫くお待ち下さい」とのメッセージをガイド表示送信部343に追加し(ステップS1406)、ステップS1401の処理に戻る。
ステップS1407では、制御部は、紐付け候補テーブル351の<i1,k1>のペアを削除し(ステップS1407)、この紐付けを決定したペア<i1,k1>を連携ペアテーブル352に追加し(ステップS1408)、ステップS1403の処理に戻る。
図15は、実施の形態にかかる情報処理装置が行うガイドのメッセージ表示処理例を示すフローチャートである。情報処理装置100の制御部330(ガイドメッセージ表示部333)が行う処理例について説明する。
はじめに、制御部は、ガイド表示受信部344からガイド113の表示にかかる情報(図10C参照)を読み込み(ステップS1501)、メッセージを表示する要求(コマンドが「表示」)であるか判断する(ステップS1502)。メッセージを表示する要求(コマンドが「表示」)であれば(ステップS1502:Yes)、制御部は、ステップS1503の処理に移行する。一方、メッセージを表示する要求でなければ(コマンドが「削除」、ステップS1502:No)、制御部は、ステップS1506の処理に移行する。
ステップS1503では、制御部は、ガイド窓管理テーブル353を参照し、既にガイド113のメッセージを表示中であるか判断する(ステップS1503)。既にガイド113のメッセージを表示中であれば(ステップS1503:Yes)、ステップS1501の処理に戻る。一方、既にガイド113のメッセージを未だ表示していなければ(ステップS1503:No)、ガイド113のメッセージをガイド窓管理テーブル353へ登録する(ステップS1504)。
次に、制御部は、表示枠112の中央位置にガイド113のメッセージを表示し(ステップS1505)、ステップS1501の処理に戻る。
また、ステップS1506では、制御部は、ガイド113のメッセージを削除する要求(コマンドが「削除」)であるか判断する(ステップS1506)。メッセージを削除する要求であれば(ステップS1506:Yes)、制御部は、ステップS1507の処理に移行する。一方、メッセージを削除する要求でなければ(ステップS1506:No)、制御部は、ステップS1501の処理に戻る。
ステップS1507では、制御部は、ガイド窓管理テーブル353を参照し、該当するガイド113のメッセージをガイド窓管理テーブル353から削除する(ステップS1507)。そして、制御部は、削除対象の表示枠112の枠上に表示しているガイド113のメッセージを削除(非表示に)し(ステップS1508)、ステップS1501の処理に戻る。
図16は、空間UIユニット装置の処理例を示すフローチャートである。この図16には、空間UIユニット装置301の空間UI部313による、主に、ディスプレイ110への表示処理例を記載してある。
はじめに、空間UI部313は、表示枠112の枠位置(座標)と、端末120の端末IDを読み込む(ステップS1601)。次に、空間UI部313は、表示枠112の枠位置(座標)上にアプリ窓を表示する(ステップS1602)。アプリ窓は、ディスプレイ110上の表示枠112に操作対象オブジェクト(端末120の画面)を表示するための窓である。
次に、空間UI部313は、アプリ連携先の端末120の端末IDを初期化し(ステップS1603)、アプリのメインプロセスを実行し(ステップS1604)、以上の処理を終了する。アプリのメインプロセス実施により、ディスプレイ110上の表示枠112に操作対象オブジェクト(端末120の画面)が表示され、端末120の画面を複数のユーザで画面共有できるようになる。
(複数の表示枠に対する複数の端末の紐付けの具体例)
図17〜図28は、実施の形態にかかる情報処理装置による複数の表示枠に対する複数の端末の紐付けの具体例を説明する図である。図9で説明した処理例2(実装例)を状態遷移を用いてより具体的に説明する。
以下、複数の表示枠112の描画のイベントを検知し、また、複数の端末120のシェーク操作のイベントを検知した場合、情報処理装置100が複数のうちどの表示枠112をどの端末120と紐付けするかの処理を具体的に説明する。以下の例では、図17に示すように、表示枠112が枠1〜枠3までの3つとし、端末120が端末A、端末Bの二つであるとする。
また、各図には、(a)グラフ1「枠イベントの検出時刻およびシェークイベント待ちタイマー」、(b)グラフ2「端末120のシェークイベントの検出時刻」、(c)グラフ3「表示枠とシェーク操作された端末120との紐付確率」の3つのグラフを示す。これら(a)〜(c)の3つのグラフは共通する一つの時間軸上に配置されている。また、(a)に示すように、端末120のシェークイベント待ちタイマーのタイマー長(timer)はTとする。
はじめに、図18に示すように、時刻t1で表示枠112の枠1が描画されたイベントを検知したとする。この場合、情報処理装置100は、図18(a)に示すように、時刻t1で枠1に対するtimer1を起動させる。この際、図18(c)に示すように、紐付確率は、時刻t1からtimer1終了予定時刻までの時間内で所定の曲線(例えば正規分布)を有する。
次に、図19に示すように、時刻t2で表示枠112の枠2が描画されたイベントを検知したとする。この場合、情報処理装置100は、図19(a)に示すように、時刻t2で枠2に対するtimer2を起動させる。この際、図19(c)に示すように、紐付確率は、時刻t2からtimer2終了予定時刻までの時間内で枠1と同様の所定の曲線を有する。
次に、図20に示すように、時刻t3に端末Aのシェークイベントを検出したとする。この場合、情報処理装置100は、図20(c)に示す紐付確率のグラフから、枠1と端末Aとの紐付確率p(1,A)と、枠2と端末Aとの紐付確率p(2,A)と、をそれぞれ求め、図21に示す紐付確率の図表2100を作成する。当初は、図21(a)に示す図表2100として、縦軸に表示枠112(枠1,2)、横軸は端末120(端末A)とした図表を作成する。
ここで、p(1,A)−p(1,B)>H(Hは閾値)としたとき、情報処理装置100は、枠1を端末Aと紐付けることになる。この場合、図21(b)に示すように、端末Aと枠2の情報は削除する。
次に、図22に示すように、時刻t4に枠3が描画されたイベントを検知したとする。この場合、情報処理装置100は、図22(a)に示すように、時刻t3で枠3に対するtimer3を起動させる。この際、図22(c)に示すように、紐付確率は、時刻t3からtimer3終了予定時刻までの時間内で所定の曲線(例えば正規分布)を有する。
次に、図23に示すように、時刻t5に端末Bのシェークイベントを検出したとする。この場合、情報処理装置100は、図23(c)に示す組付け確率のグラフから、枠2と端末Bとの紐付確率p(2,B)と、枠3と端末Bとの紐付確率p(3,B)と、をそれぞれ求め、図24に示す組付け確率の図表2400を作成する。
ここで、図23(c)に示すように、時刻t5における端末Bについて枠2と枠3との組付け確率は近い値であったとする。すなわち、p(2,B)−p(3,B)<H(Hは閾値)である場合、端末Bについて、枠2、あるいは枠3との紐付けが曖昧(紐付けを特定できない)状態である。
この場合、図25(b)に示すように、情報処理装置100は、枠2の表示位置にガイド113として「再度振って下さい」とのメッセージを表示する。また、枠3の表示位置にガイド113として「暫くお待ち下さい」とのメッセージを表示する。
そして、図25(a)に示すように、情報処理装置100は、枠2にガイド113で「再度振って下さい」と表示した直後、元のタイマーtimer2を取り消し、新しいタイマーtimer4を起動させる。
この後、図26に示すように、時刻t6で端末Bのシェークイベントを検出したとする。この場合、情報処理装置100は、図26(c)に示す紐付確率のグラフから、枠2と端末Bとの紐付確率p(2,B)と、枠3と端末Bとの紐付確率p(3,B)と、をそれぞれ求め、図27(a)に示す組付け確率の図表2700を作成する。
ここで、図26(c)に示すように、p(2,B)−p(2,A)>H(Hは閾値)となったとする。これにより、情報処理装置100は、枠2を端末Bと紐付ける。この場合、図27(b)に示すように、端末Bと枠3の情報は削除する。
この後、図28に示すように、timer3が終了するまでに新たなシェークイベントが検知されなかったとする。この場合、情報処理装置100は、枠3を自動的に消滅(表示削除)させる。
(従来技術の問題点)
図29は、従来技術による表示枠と端末との連携の問題を説明する図である。従来技術では、ユーザが空間UI画面(ディスプレイ)上で端末の連携位置を指定した後に、所定時間内に複数のシェークイベントを検出した場合、連携すべき端末を特定できない問題があった。
例えば、図29(a)に示す例のように、1.二つのディスプレイ1,2上で、ほぼ同時に枠1,2を描画したとする。そして、2.複数の端末A,Bがほぼ同時にシェーク操作したとする。この場合、3.枠1に対して端末A,Bのいずれを紐付けするか特定できなくなる。また、枠2についても端末A,Bのいずれを紐付けするかを特定できない。
また、図29(b)に示す例のように、1.一つのディスプレイ1上で枠を描画したとする。この後、2.端末Aのシェーク操作時、端末A以外の他の端末Bのシェーク操作を検出した場合、3.枠1に端末A,Bのいずれを紐付けするかを特定できなくなる。例えば、端末Bは、ユーザが意識したシェーク操作を行ったものではないが、ユーザの歩行により、端末Bがシェーク操作であると検出する場合がある。
これに対し、実施の形態によれば、複数のユーザが協働作業等でディスプレイ110の表示画面111上にユーザが描画した表示枠112に、ユーザの端末120の画面(操作対象オブジェクト)を表示させることができる。これにより、端末120の小さな画面を大きなディスプレイ110上に表示でき、複数のユーザが上記画面の共有を行うことができる。
この際、情報処理装置100は、端末120をシェーク操作した際の画面共有の要求により、端末120の操作対象オブジェクトを表示枠112に紐付けて表示させる。また、ユーザが表示枠を描画した後、複数の端末120からのシェーク操作があった場合には、表示枠112に紐付ける端末120を特定できないため、ガイド113を表示して、ユーザに対し再度のシェーク操作を通知する。これにより、複数の端末のシェーク操作により、表示枠に対する操作対象オブジェクトの紐付けが特定できなくなることを防ぎ、表示枠112に対し所望するユーザの端末120の画面(操作対象オブジェクト)を適切に紐付け、表示できるようになる。
以上説明した実施の形態によれば、表示制御装置は、表示部に表示する操作対象オブジェクトと、操作対象オブジェクトを出力する端末との関連付けを行う。そして、操作対象オブジェクトを表示部に表示させる所定の表示操作を検出した後、一定時間(タイマー時間)内に複数の端末から操作対象オブジェクトを出力する特定操作を検出した場合、再度の特定操作を促すガイドを通知する。
例えば、操作対象オブジェクトは、端末の表示画面であり、表示操作は、ユーザによる表示部上で表示画面を表示させる領域を指定する表示枠の描画操作であり、特定操作は、ユーザによる端末を振るシェーク操作である。情報処理装置は、一つの表示枠の描画後の一定時間内に、一つの端末のシェーク操作を検出した場合、当該端末が出力する表示画面を表示枠に表示させる関連付けを行う。
これにより、ユーザは、表示部上で表示枠を描画した後、端末をシェーク操作するだけで、端末の表示画面を表示部に表示させることができ、複数のユーザが表示部を介して端末の画面を共有できるようになる。また、表示部上で表示枠を描画した後の一定時間内で複数の端末がシェーク操作された場合、表示枠と端末との関連を特定できない状態が生じた場合には、再度のシェーク操作を促すガイドを通知することで、表示枠と端末との関連を特定できるようになる。
また、表示枠が複数描画された後の一定時間内に複数の端末のシェーク操作を検出した場合、複数の表示枠のうち選択した一つの表示枠に、再度、シェーク操作を促すガイドを表示する。そして、この一つの表示枠に表示させる端末の表示画面の関連付けを行い、他の表示枠には、関連付けの特定が待ち状態のガイドを表示してもよい。これにより、複数のユーザがほぼ同じ時刻に表示部上にそれぞれ端末の画面を表示させる操作を行った場合であっても、一つの表示枠毎に関連付ける端末を順次特定でき、各ユーザの操作が煩雑となることを防ぐことができるようになる。
また、表示制御装置は、操作対象オブジェクトを表示部に表示させる所定の表示操作を検出した後、予め保持してある時間経過別の確率のモデルを参照する。そして、端末から実際に操作対象オブジェクトを出力する特定操作を検出した時期の確率に基づき、当該確率が最も高い端末と操作対象オブジェクトとを関連付ける処理を行う。これにより、一定時間(タイマー時間)の経過を待たずに、表示部と操作対象オブジェクト(端末の画面)との関連付けを行えるようになる。
また、所定の表示操作を検出した後、複数の表示操作を検知した場合、最も高い確率のものであり、かつ、次に高い確率との差が一定閾値以上の場合、最も高い確率の端末を操作対象オブジェクトに関連付けることとしてもよい。これにより、確率を用いた表示部と操作対象オブジェクトとの関連付けの処理をより精度よく行えるようになる。
これらのことから、実施の形態によれば、複数のユーザの協働作業時等に、大きなディスプレイにあるユーザの端末の小さな画面を拡大して表示させる操作を簡単に行えるようになる。この際、ユーザは、モード切替などの煩雑な操作を行う必要がなく、簡単な操作で端末の画面を複数のユーザで共有できるようになる。
なお、本発明の実施の形態で説明した表示制御方法は、予め用意されたプログラムをサーバ等のプロセッサに実行させることにより実現することができる。本表示制御方法は、ハードディスク、フレキシブルディスク、CD−ROM(Compact Disc−Read Only Memory)、DVD(Digital Versatile Disk)、フラッシュメモリ等のコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行される。また、インターネット等のネットワークを介して配布してもよい。
上述した実施の形態に関し、さらに以下の付記を開示する。
(付記1)表示部に表示する操作対象オブジェクトと、前記操作対象オブジェクトを出力する端末との関連付けを特定する表示制御方法において、
前記操作対象オブジェクトを前記表示部に表示させる所定の表示操作を検出した後、
一定時間内に複数の前記端末から前記操作対象オブジェクトを出力する特定操作を検出した場合、再度の前記特定操作を促すガイドを通知する、
処理をコンピュータが実行することを特徴とする表示制御方法。
(付記2)前記操作対象オブジェクトは、前記端末の表示画面であり、
前記表示操作は、ユーザによる前記表示部上で前記表示画面を表示させる領域を指定する表示枠の描画操作であり、
前記特定操作は、ユーザによる前記端末を振るシェーク操作である、
ことを特徴とする付記1に記載の表示制御方法。
(付記3)一つの前記表示枠の描画後の前記一定時間内に、一つの前記端末の前記シェーク操作を検出した場合、当該端末が出力する前記表示画面を前記表示枠に表示させる関連付けを行う、
ことを特徴とする付記2に記載の表示制御方法。
(付記4)前記表示枠が複数描画された後の前記一定時間内に複数の前記端末の前記シェーク操作を検出した場合、
複数の前記表示枠のうち選択した一つの前記表示枠に、再度、前記シェーク操作を促すガイドを表示し、当該一つの前記表示枠に表示させる前記端末の前記表示画面の関連付けを行い、
他の前記表示枠には、関連付けの特定が待ち状態のガイドを表示する、
ことを特徴とする付記3に記載の表示制御方法。
(付記5)表示部に表示する操作対象オブジェクトと、前記操作対象オブジェクトを出力する端末との関連付けを特定する表示制御方法において、
前記操作対象オブジェクトを前記表示部に表示させる所定の表示操作を検出した後、
予め保持してある時間経過別の確率のモデルを参照し、前記端末から実際に前記操作対象オブジェクトを出力する特定操作を検出した時期の確率に基づき、当該確率が最も高い前記端末と前記操作対象オブジェクトとを関連付ける、
処理をコンピュータが実行することを特徴とする表示制御方法。
(付記6)前記所定の表示操作を検出した後、複数の前記表示操作を検知した場合、最も高い確率のものであり、かつ、次に高い確率との差が一定閾値以上の場合、最も高い確率の前記端末を前記操作対象オブジェクトに関連付ける、
ことを特徴とする付記5に記載の表示制御方法。
(付記7)表示部に表示する操作対象オブジェクトと、前記操作対象オブジェクトを出力する端末との関連付けを特定する表示制御プログラムにおいて、
前記操作対象オブジェクトを前記表示部に表示させる所定の表示操作を検出した後、
一定時間内に複数の前記端末から前記操作対象オブジェクトを出力する特定操作を検出した場合、再度の前記特定操作を促すガイドを通知する、
処理をコンピュータに実行させることを特徴とする表示制御プログラム。
(付記8)表示部に表示する操作対象オブジェクトと、前記操作対象オブジェクトを出力する端末との関連付けを特定する表示制御プログラムにおいて、
前記操作対象オブジェクトを前記表示部に表示させる所定の表示操作を検出した後、
予め保持してある時間経過別の確率のモデルを参照し、前記端末から実際に前記操作対象オブジェクトを出力する特定操作を検出した時期の確率に基づき、当該確率が最も高い前記端末と前記操作対象オブジェクトとを関連付ける、
処理をコンピュータに実行させることを特徴とする表示制御プログラム。
(付記9)表示部に表示する操作対象オブジェクトと、前記操作対象オブジェクトを出力する端末との関連付けを特定する情報処理装置において、
前記操作対象オブジェクトを前記表示部に表示させる所定の表示操作を検出した後、
一定時間内に複数の前記端末から前記操作対象オブジェクトを出力する特定操作を検出した場合、再度の前記特定操作を促すガイドを通知する制御部、
を備えたことを特徴とする情報処理装置。
(付記10)表示部に表示する操作対象オブジェクトと、前記操作対象オブジェクトを出力する端末との関連付けを特定する情報処理装置において、
前記操作対象オブジェクトを前記表示部に表示させる所定の表示操作を検出した後、
予め保持してある時間経過別の確率のモデルを参照し、前記端末から実際に前記操作対象オブジェクトを出力する特定操作を検出した時期の確率に基づき、当該確率が最も高い前記端末と前記操作対象オブジェクトとを関連付ける制御部、
を備えたことを特徴とする情報処理装置。
(付記11)前記端末と前記表示部とにネットワークを介して接続され、
前記表示部は、タッチパネルであり、
前記操作対象オブジェクトは、前記端末の表示画面であり、
前記表示操作は、ユーザによる前記タッチパネル上で前記表示画面を表示させる領域を指定する表示枠の描画操作であり、
前記特定操作は、ユーザによる前記端末を振るシェーク操作である、
ことを特徴とする付記10に記載の情報処理装置。
100 情報処理装置
110 ディスプレイ
111 表示画面
111a,111b タッチパネル
112(112a,112b) 表示枠
113(113a,113b) ガイド
120(120a,120b) 端末
201 タッチペン
301 空間UIユニット装置
311 枠検出部
321 加速度センサ
322 シェーク検出部
330 制御部
331 紐付け候補作成部
332 紐付け決定部
333 ガイドメッセージ表示部
343 ガイド表示送信部
351 紐付け候補テーブル
352 連携ペアテーブル
353 ガイド窓管理テーブル
401 CPU
402 メモリ
403 ネットワークIF
405 記録媒体
NW ネットワーク
T タイマー時間(一定時間)
U ユーザ

Claims (10)

  1. 表示部に表示する操作対象オブジェクトと、前記操作対象オブジェクトを出力する端末との関連付けを特定する表示制御方法において、
    前記操作対象オブジェクトを前記表示部に表示させる所定の表示操作を検出した後、
    一定時間内に複数の前記端末から前記操作対象オブジェクトを出力する特定操作を検出した場合、再度の前記特定操作を促すガイドを通知する、
    処理をコンピュータが実行することを特徴とする表示制御方法。
  2. 前記操作対象オブジェクトは、前記端末の表示画面であり、
    前記表示操作は、ユーザによる前記表示部上で前記表示画面を表示させる領域を指定する表示枠の描画操作であり、
    前記特定操作は、ユーザによる前記端末を振るシェーク操作である、
    ことを特徴とする請求項1に記載の表示制御方法。
  3. 一つの前記表示枠の描画後の前記一定時間内に、一つの前記端末の前記シェーク操作を検出した場合、当該端末が出力する前記表示画面を前記表示枠に表示させる関連付けを行う、
    ことを特徴とする請求項2に記載の表示制御方法。
  4. 前記表示枠が複数描画された後の前記一定時間内に複数の前記端末の前記シェーク操作を検出した場合、
    複数の前記表示枠のうち選択した一つの前記表示枠に、再度、前記シェーク操作を促すガイドを表示し、当該一つの前記表示枠に表示させる前記端末の前記表示画面の関連付けを行い、
    他の前記表示枠には、関連付けの特定が待ち状態のガイドを表示する、
    ことを特徴とする請求項3に記載の表示制御方法。
  5. 表示部に表示する操作対象オブジェクトと、前記操作対象オブジェクトを出力する端末との関連付けを特定する表示制御方法において、
    前記操作対象オブジェクトを前記表示部に表示させる所定の表示操作を検出した後、
    予め保持してある時間経過別の確率のモデルを参照し、前記端末から実際に前記操作対象オブジェクトを出力する特定操作を検出した時期の確率に基づき、当該確率が最も高い前記端末と前記操作対象オブジェクトとを関連付ける、
    処理をコンピュータが実行することを特徴とする表示制御方法。
  6. 前記所定の表示操作を検出した後、複数の前記表示操作を検知した場合、最も高い確率のものであり、かつ、次に高い確率との差が一定閾値以上の場合、最も高い確率の前記端末を前記操作対象オブジェクトに関連付ける、
    ことを特徴とする請求項5に記載の表示制御方法。
  7. 表示部に表示する操作対象オブジェクトと、前記操作対象オブジェクトを出力する端末との関連付けを特定する表示制御プログラムにおいて、
    前記操作対象オブジェクトを前記表示部に表示させる所定の表示操作を検出した後、
    一定時間内に複数の前記端末から前記操作対象オブジェクトを出力する特定操作を検出した場合、再度の前記特定操作を促すガイドを通知する、
    処理をコンピュータに実行させることを特徴とする表示制御プログラム。
  8. 表示部に表示する操作対象オブジェクトと、前記操作対象オブジェクトを出力する端末との関連付けを特定する表示制御プログラムにおいて、
    前記操作対象オブジェクトを前記表示部に表示させる所定の表示操作を検出した後、
    予め保持してある時間経過別の確率のモデルを参照し、前記端末から実際に前記操作対象オブジェクトを出力する特定操作を検出した時期の確率に基づき、当該確率が最も高い前記端末と前記操作対象オブジェクトとを関連付ける、
    処理をコンピュータに実行させることを特徴とする表示制御プログラム。
  9. 表示部に表示する操作対象オブジェクトと、前記操作対象オブジェクトを出力する端末との関連付けを特定する情報処理装置において、
    前記操作対象オブジェクトを前記表示部に表示させる所定の表示操作を検出した後、
    一定時間内に複数の前記端末から前記操作対象オブジェクトを出力する特定操作を検出した場合、再度の前記特定操作を促すガイドを通知する制御部、
    を備えたことを特徴とする情報処理装置。
  10. 表示部に表示する操作対象オブジェクトと、前記操作対象オブジェクトを出力する端末との関連付けを特定する情報処理装置において、
    前記操作対象オブジェクトを前記表示部に表示させる所定の表示操作を検出した後、
    予め保持してある時間経過別の確率のモデルを参照し、前記端末から実際に前記操作対象オブジェクトを出力する特定操作を検出した時期の確率に基づき、当該確率が最も高い前記端末と前記操作対象オブジェクトとを関連付ける制御部、
    を備えたことを特徴とする情報処理装置。
JP2019162192A 2019-09-05 2019-09-05 表示制御方法、表示制御プログラムおよび情報処理装置 Active JP7354702B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019162192A JP7354702B2 (ja) 2019-09-05 2019-09-05 表示制御方法、表示制御プログラムおよび情報処理装置
EP20192836.3A EP3789851A1 (en) 2019-09-05 2020-08-26 Display control method, display control program, and information processing apparatus
US17/005,665 US11593054B2 (en) 2019-09-05 2020-08-28 Display control method and computer-readable recording medium recording display control program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019162192A JP7354702B2 (ja) 2019-09-05 2019-09-05 表示制御方法、表示制御プログラムおよび情報処理装置

Publications (2)

Publication Number Publication Date
JP2021039673A true JP2021039673A (ja) 2021-03-11
JP7354702B2 JP7354702B2 (ja) 2023-10-03

Family

ID=72266114

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019162192A Active JP7354702B2 (ja) 2019-09-05 2019-09-05 表示制御方法、表示制御プログラムおよび情報処理装置

Country Status (3)

Country Link
US (1) US11593054B2 (ja)
EP (1) EP3789851A1 (ja)
JP (1) JP7354702B2 (ja)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004152276A (ja) * 2002-10-09 2004-05-27 Matsushita Electric Ind Co Ltd 情報端末装置、操作支援方法及び操作支援プログラム
US20130095801A1 (en) * 2011-10-17 2013-04-18 Research In Motion Corporation System and method for managing electronic groups
JP2013148990A (ja) * 2012-01-18 2013-08-01 Hitachi Omron Terminal Solutions Corp タッチパネル装置及びタッチパネル装置の操作処理方法
JP2014153782A (ja) * 2013-02-05 2014-08-25 Toshiba Corp 表示処理装置、及び表示処理方法
JP2016062534A (ja) * 2014-09-22 2016-04-25 アルパイン株式会社 情報処理装置
US20160283102A1 (en) * 2015-03-27 2016-09-29 Fujitsu Limited Display control method, computer-readable recording medium, and display control apparatus
EP3232356A1 (en) * 2016-04-15 2017-10-18 Fujitsu Limited Server apparatus, content display control system, and content display control program
JP2017194943A (ja) * 2016-04-15 2017-10-26 富士通株式会社 サーバ装置、コンテンツ表示制御システムおよびコンテンツ表示制御プログラム

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007128288A (ja) * 2005-11-04 2007-05-24 Fuji Xerox Co Ltd 情報表示システム
US8073941B2 (en) * 2006-05-25 2011-12-06 AppToU Technologies Ltd. Method and system for providing remote access to applications
US9134798B2 (en) * 2008-12-15 2015-09-15 Microsoft Technology Licensing, Llc Gestures, interactions, and common ground in a surface computing environment
JP2010165220A (ja) 2009-01-16 2010-07-29 Uchida Yoko Co Ltd リアルタイムレンダリングシステム及びリアルタイムレンダリング方法
US20100259464A1 (en) * 2009-04-14 2010-10-14 Jae Young Chang Terminal and controlling method thereof
US9043706B2 (en) * 2010-08-31 2015-05-26 Anders Nancke-Krogh System and method for using state replication between application instances to provide a collaborative desktop environment
US20120204116A1 (en) * 2011-02-03 2012-08-09 Sony Corporation Method and apparatus for a multi-user smart display for displaying multiple simultaneous sessions
US9164648B2 (en) * 2011-09-21 2015-10-20 Sony Corporation Method and apparatus for establishing user-specific windows on a multi-user interactive table
US8910309B2 (en) * 2011-12-05 2014-12-09 Microsoft Corporation Controlling public displays with private devices
US9317240B2 (en) * 2012-02-15 2016-04-19 Lg Electronics Inc. Image display device and method of controlling the same
US9063631B2 (en) * 2013-03-15 2015-06-23 Chad Dustin TILLMAN System and method for cooperative sharing of resources of an environment
US20140282068A1 (en) * 2013-03-15 2014-09-18 SingTel Idea Factory Pte. Ltd. Systems and methods for transferring of objects among mobile devices based on pairing and matching using actions and/or gestures associated with the mobile device
JP6183099B2 (ja) 2013-09-25 2017-08-23 日本電気株式会社 入力支援装置、入力支援方法及び入力支援プログラム
US9720559B2 (en) * 2013-10-14 2017-08-01 Microsoft Technology Licensing, Llc Command authentication
TW201525716A (zh) * 2013-12-23 2015-07-01 Qisda Corp 行動裝置配對方法
WO2015122087A1 (ja) * 2014-02-17 2015-08-20 ソニー株式会社 情報処理システム、情報処理方法、及びプログラム
US20170192663A1 (en) * 2014-09-25 2017-07-06 Intel Corporation Touch-based link initialization and data transfer
JP6515603B2 (ja) * 2015-03-13 2019-05-22 日本電気株式会社 電子ホワイトボードシステム、電子ホワイトボードアクセス権付与方法およびそのプログラム
JP6524762B2 (ja) * 2015-04-03 2019-06-05 富士通株式会社 コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム
US10135964B2 (en) * 2016-08-22 2018-11-20 Adobe Systems Incorporated Touch and device orientation-based device pairing
US10469892B2 (en) * 2016-09-13 2019-11-05 Dvdo, Inc. Gesture-based multimedia casting and slinging command method and system in an interoperable multiple display device environment
US10372403B2 (en) * 2016-09-15 2019-08-06 Dell Products L.P. Multi-user display collaboration system
JP6911870B2 (ja) * 2016-11-25 2021-07-28 ソニーグループ株式会社 表示制御装置、表示制御方法及びコンピュータプログラム
JP2020197688A (ja) * 2019-06-05 2020-12-10 パナソニックIpマネジメント株式会社 画像伝送システム、伝送制御装置及び伝送制御方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004152276A (ja) * 2002-10-09 2004-05-27 Matsushita Electric Ind Co Ltd 情報端末装置、操作支援方法及び操作支援プログラム
US20130095801A1 (en) * 2011-10-17 2013-04-18 Research In Motion Corporation System and method for managing electronic groups
JP2013148990A (ja) * 2012-01-18 2013-08-01 Hitachi Omron Terminal Solutions Corp タッチパネル装置及びタッチパネル装置の操作処理方法
JP2014153782A (ja) * 2013-02-05 2014-08-25 Toshiba Corp 表示処理装置、及び表示処理方法
JP2016062534A (ja) * 2014-09-22 2016-04-25 アルパイン株式会社 情報処理装置
US20160283102A1 (en) * 2015-03-27 2016-09-29 Fujitsu Limited Display control method, computer-readable recording medium, and display control apparatus
JP2016186734A (ja) * 2015-03-27 2016-10-27 富士通株式会社 ウィンドウ設定方法、プログラム及び表示制御装置
EP3232356A1 (en) * 2016-04-15 2017-10-18 Fujitsu Limited Server apparatus, content display control system, and content display control program
JP2017194943A (ja) * 2016-04-15 2017-10-26 富士通株式会社 サーバ装置、コンテンツ表示制御システムおよびコンテンツ表示制御プログラム

Also Published As

Publication number Publication date
US11593054B2 (en) 2023-02-28
JP7354702B2 (ja) 2023-10-03
US20210072948A1 (en) 2021-03-11
EP3789851A1 (en) 2021-03-10

Similar Documents

Publication Publication Date Title
CN112243583B (zh) 多端点混合现实会议
JP6171319B2 (ja) 情報処理装置、情報処理方法、情報処理システム及びプログラム
JP6340926B2 (ja) 情報処理システム、情報処理装置およびプログラム
CN105612486A (zh) 同时的悬停和触摸接口
JP2019503004A5 (ja)
JP2012023595A (ja) 会議システム
JP7205697B2 (ja) 通信端末、共用システム、表示制御方法およびプログラム
JP6417787B2 (ja) 表示装置、伝送システムおよび伝送方法
JP6996367B2 (ja) 電子黒板システム、電子黒板、方法、プログラム及び会議システム
JP7298302B2 (ja) 情報処理装置、情報処理システム、情報処理方法及びプログラム
US20210135892A1 (en) Automatic Detection Of Presentation Surface and Generation of Associated Data Stream
JP5408188B2 (ja) 会議システム、会議管理装置、会議管理方法およびプログラム
EP2950503A1 (en) Communication system, transfer control device, communication method, and computer program product
JP7310546B2 (ja) 表示装置、表示方法、プログラム、画像処理システム
US20200089332A1 (en) Information processing apparatus and non-transitory computer readable medium
JP2017111643A (ja) ウェブ会議システム、情報処理方法、プログラム
JP7354702B2 (ja) 表示制御方法、表示制御プログラムおよび情報処理装置
JP7338211B2 (ja) 通信端末、共用システム、通信方法およびプログラム
JP2021033361A (ja) 情報処理装置、情報処理方法及び情報処理システム
US20170201721A1 (en) Artifact projection
JP2015045945A (ja) 情報処理装置、プログラム及び情報処理システム
JP7119958B2 (ja) 電子黒板システム、電子黒板、方法、プログラム及び会議システム
JP6026703B2 (ja) ルータアクセス制御方法、装置、ルータ、プログラム、及び記録媒体
JP6088414B2 (ja) 端末制御装置、端末制御方法及び端末制御プログラム
JP7069631B2 (ja) 情報処理装置及び情報処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220517

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230328

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230517

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230904

R150 Certificate of patent or registration of utility model

Ref document number: 7354702

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150