JP2021519482A - マルチ画面ディスプレイと操作(interaction)のためのシステムと方法 - Google Patents

マルチ画面ディスプレイと操作(interaction)のためのシステムと方法 Download PDF

Info

Publication number
JP2021519482A
JP2021519482A JP2021501060A JP2021501060A JP2021519482A JP 2021519482 A JP2021519482 A JP 2021519482A JP 2021501060 A JP2021501060 A JP 2021501060A JP 2021501060 A JP2021501060 A JP 2021501060A JP 2021519482 A JP2021519482 A JP 2021519482A
Authority
JP
Japan
Prior art keywords
display device
display
vector
input
content
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2021501060A
Other languages
English (en)
Inventor
ウツクリ、アバニンドラ
Original Assignee
ヴィゼット インコーポレイテッド
ヴィゼット インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ヴィゼット インコーポレイテッド, ヴィゼット インコーポレイテッド filed Critical ヴィゼット インコーポレイテッド
Publication of JP2021519482A publication Critical patent/JP2021519482A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • G06F3/1431Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display using a single graphics controller
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/16Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47217End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for controlling playback functions for recorded or on-demand content, e.g. using progress bars, mode or play-point indicators or bookmarks
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user

Abstract

マルチ画面操作のための様々なシステム及び方法が説明される。第1の画面上の第1のディスプレイからのコンテンツ及びオブジェクトは、様々なジェスチャを使用して他の画面上の他のディスプレイに転送され得る。いくつかの実施形態では、第1のディスプレイ上のアクティブ領域は、様々な他のディスプレイに対応し、そのアクティブ領域に対応するジェスチャは、第1のディスプレイ上のコンテンツ又はオブジェクトを他のディスプレイへ転送することを可能にする。いくつかの実施形態では、コンテンツは、音声コンテンツを含むことが可能であり、音声コンテンツは、第1ディスプレイから選択された様々な音声出力デバイスにおいて再生可能である。

Description

説明される実施形態は、マルチ画面操作のためのシステム及び方法に関し、特に、複数の表示装置の間でメディアオブジェクトと相互作用し、メディアオブジェクトを転送するためのシステム及び方法に関する。
複数の画面及び他の出力装置を有する、プレゼンテーション及び他のシステムを含むコンピューティングシステムはよく知られている。異なる画面上のディスプレイの間にコンテンツを配置することは一般的に面倒であり、時間がかかり、また不便である。
コンピューティングシステムに接続された複数の画面又は他の出力装置にわたって異なるディスプレイ上にコンテンツを配置する、簡便で直感的な方法が求められている。
第1の態様では、本発明のいくつかの実施形態は、複数のディスプレイの操作の方法を提供する。これは、ディスプレイ、入力装置、プロセッサ、及びメモリを備える複数の表示装置を提供することと、第1の表示装置に関連付けられた第1のディスプレイにオブジェクトを表示することと、オブジェクト上の第1の点で始まり、第2の点で終了する入力ジェスチャを受信することと、第1の点と第2の点との間に線を決定することと、その線の投影が複数のアクティブ領域のうちの第1のアクティブ領域と交差する場合には、そのオブジェクトを第1のアクティブ領域に移動させ、オブジェクトを第1のアクティブ領域に対応する第2の表示装置に関連付けて、そのオブジェクトを第2のディスプレイ上に表示することと、交差しない場合には、その線の投影に沿ってオブジェクトを移動させることと、を含む。
いくつかの実施形態において、この方法は、第1の点と第2の点の間の入力速度ベクトルを決定し、その入力速度ベクトルに基づいてオブジェクトを移動させることを更に含み得る。
いくつかの実施形態において、この方法は、第1の点と第2の点の間の入力加速度ベクトルを決定し、その入力加速度ベクトルに基づいてオブジェクトを移動させることを更に含んでよい。
いくつかの実施形態において、この方法は、オブジェクトの質量及び速度に基づいて第2の点におけるオブジェクトの運動量を決定することと、オブジェクトをオブジェクトの運動量で投影線に沿って移動させ、オブジェクトの移動に伴ってオブジェクトの運動量を減少させることと、を更に含む。
いくつかの実施形態において、この方法では、各表示装置はさらに音声デバイスを備えてもよく、オブジェクトは音声コンテンツ及び映像コンテンツを含んでもよく、オブジェクトを表示することが、映像コンテンツを表示装置上に表示し、音声コンテンツを音声デバイスで再生することを更に含んでもよい。
いくつかの実施形態において、この方法は、第1の表示装置に関連付けられた前記オブジェクトを変更すること(modifying)を更に含んでよい。
いくつかの実施形態において、この方法は、第2の表示装置に関連付けられたオブジェクトを変更することと、オブジェクト上の第3の点で始まり、第4の点で終了する第2の入力ジェスチャを受信することと、第3の点と第4の点との間に第2の線を決定することと、その第2の線が複数のアクティブ領域のうちの第2のアクティブ領域と交差する場合には、オブジェクトを第2アクティブ領域に移動させ、オブジェクトを第2アクティブ領域に対応する第1の表示装置に関連付けて、そのオブジェクトを第1の表示装置に表示することと、交差しない場合には、オブジェクトを第2の線の方向に移動させることと、をさらに含んでよい。
いくつかの実施形態において、この方法は、複数の選択肢を有するオブジェクトに関連付けられた操作フィールドと、複数の選択肢からの選択に対応する第2の入力ジェスチャを受信することと、選択に基づいて操作フィールドを変更することと、オブジェクトを第1の表示装置に関連付けることと、を更に含んでよい。
いくつかの実施形態において、この方法は、第1の表示装置が第1のオーディエンス情報を含んでよく、第2の表示装置が第2のオーディエンス情報を含んでよく、オブジェクトが第1のオーディエンスコンテンツ及び第2のオーディエンスコンテンツを含んでよく、オブジェクトを表示することが、第1のオーディエンス情報に基づいて第1のディスプレイ上に第1のオーディエンスコンテンツを表示し、第2のオーディエンス情報に基づいて第2のディスプレイ上に第2のオーディエンスコンテンツを表示することを更に含んでもよい。
第2の態様では、本発明のいくつかの実施形態は、オブジェクトと複数の表示装置とを備え、各表示装置が、オブジェクトを格納するメモリ、ディスプレイ、プロセッサ、及び入力ジェスチャを受信する入力装置を備える、マルチ画面操作システムを提供する。
ここで、第1の表示装置のディスプレイがオブジェクトを表示する。第1の表示装置のプロセッサが、入力装置から、ディスプレイ上の点においてジェスチャに対応する複数の点(その第1の点がジェスチャの開始に対応し、第2の点がジェスチャの終了に対応する)を受信し、第1の点から第2の点まで形成される線を決定し、その線の投影を決定し、その投影が複数のアクティブ領域のうちの第1のアクティブ領域と交差するかどうかを判定し、オブジェクトを第1のアクティブ領域に移動させて、オブジェクトを第1のアクティブ領域に対応する第2の表示装置へ送信し、交差しない場合には、第1の表示装置のディスプレイ上の投影に沿ってオブジェクトを移動させるように構成される。また、第2の表示装置のプロセッサは、第1の表示装置からオブジェクトを受信し、オブジェクトを第2の表示装置のメモリに格納し、第2の表示装置のディスプレイにそのオブジェクトを表示するように命令するように構成される。
いくつかの実施形態において、このシステムは、音声デバイスを更に備える複数の表示装置の各々と、映像コンテンツ及び音声コンテンツを更に含むオブジェクトと、映像コンテンツをディスプレイ上に表示し、音声コンテンツを音声デバイス上で再生するように更に構成された複数の表示装置の各々のプロセッサと、を更に備えてもよい。
いくつかの実施形態において、このシステムは、オブジェクトを変更するように更に構成された、複数の表示装置のうちの第1の表示装置のプロセッサを更に備え得る。
いくつかの実施形態において、このシステムは、オブジェクトを変更するように更に構成された、複数の表示装置のうちの第2の表示装置のプロセッサを更に備えてもよい。
いくつかの実施形態において、このシステムは、オブジェクトを第1の表示装置に送信するように更に構成された、複数の表示装置のうちの第2の表示装置のプロセッサと、第2の表示装置からオブジェクトを受信するように更に構成された、複数の表示装置のうちの第1の表示装置のプロセッサと、を更に備えてもよい。
第3の態様では、本発明のいくつかの実施形態は、マルチ画面操作システムの第1の表示装置から第2の表示装置へオブジェクトを転送する方法を提供する。この方法は、第1の表示装置と第2の表示装置を提供し、第1の表示装置上にオブジェクトを表示し、オブジェクトにおける並進ベクトルを含む入力ジェスチャを受信し、並進ベクトルの投影を決定し、並進ベクトルに基づいて第1の表示装置上のオブジェクトを移動させ、オブジェクトが第1の表示装置上の第1のアクティブ領域と交差することを検出し、オブジェクトを第1の表示装置から第1のアクティブ領域に関連付けられた第2の表示装置へ転送する、ことを含む。
いくつかの実施形態において、並進ベクトルは入力速度ベクトルを更に含むことができ、並進ベクトルの投影を決定することが、並進速度ベクトルを決定することを更に含んでもよい。
いくつかの実施形態において、並進ベクトルは入力加速度ベクトルを更に含むことができ、並進ベクトルの投影を決定することが、並進加速度ベクトルを決定することを更に含んでよい。
いくつかの実施形態において、この方法は、オブジェクトの運動量を決定することと、運動量に基づいてオブジェクトを移動させ、オブジェクトの移動に伴ってオブジェクトの運動量を減少させること、を更に含んでもよい。
いくつかの実施形態において、この方法は、オブジェクトが音声コンテンツ及び映像コンテンツを更に含むことと、第1の表示装置及び第2の表示装置は、音声デバイスを更に備えることと、オブジェクトを表示することが、映像コンテンツを表示し、表示装置の音声デバイス上で音声コンテンツを再生することを更に含むことと、オブジェクトを第1の表示装置から第2の表示装置へ転送することが、音声コンテンツの再生を第1の表示装置から第2の表示装置へ転送することを更に含むことと、を更に含んでもよい。
いくつかの実施形態において、この方法では、オブジェクトがさらに状態を含んでもよい。
いくつかの実施形態において、この方法はさらに、第1の表示装置と第2の表示装置がネットワーク通信をし、第1の表示装置から第2の表示装置へオブジェクトを転送することが、オブジェクトをシリアル化し、そのネットワーク通信を利用してシリアル化したオブジェクトを第2の表示装置へ転送し、第2の表示装置のメモリ内へオブジェクトを実体化することを更に含む、ことを備えてよい。
第4の態様では、本発明のいくつかの実施形態は、マルチ画面操作システムの第1の表示装置から第2の表示装置へオブジェクトを転送するシステムを提供する。このシステムは、ディスプレイ、プロセッサ、メモリ、及びユーザ入力装置を備える第1の表示装置と、ディスプレイ、プロセッサ、メモリ、及びユーザ入力装置を備える第2の表示装置とを備える。ここで、第1の表示装置のメモリはオブジェクトを含み、第1の表示装置と第2の表示装置はネットワーク通信を行い、オブジェクトは第1の表示装置のディスプレイ上に表示され、第1の表示装置のプロセッサは、ユーザ入力装置からのユーザ入力に基づいて線投影を決定し、線投影とアクティブ領域との間の交差を検出し、ディスプレイ上に表示されるオブジェクトを移動させ、オブジェクトをシリアル化し、シリアル化されたオブジェクトをネットワーク通信を利用して第2の表示装置へ通信するように動作可能であり、第2の表示装置のプロセッサは、ネットワーク通信を利用してシリアル化されたオブジェクトを受信し、オブジェクトをシリアル化されたオブジェクトからメモリ内へ実体化するように動作可能である。
いくつかの実施形態において、第1の表示装置のプロセッサは、入力速度ベクトルを決定し、並進速度ベクトルを決定し、入力加速度ベクトルを決定し、並進加速度ベクトルを決定し、オブジェクト運動量を決定し、並進速度ベクトル、並進加速度ベクトル、及びオブジェクトの運動量に基づいてオブジェクトを移動させるようにさらに動作可能である。
いくつかの実施形態において、このシステムでは、オブジェクトが音声コンテンツ及び映像コンテンツを更に含んでもよく、第1の表示装置及び第2の表示装置は、音声デバイスを更に備えてもよく、オブジェクトは映像コンテンツに基づいて第1の表示装置上に表示されてもよく、オブジェクトは音声コンテンツに基づいて第1の表示装置の音声デバイス上で再生されてもよく、オブジェクトのシリアル化には、音声コンテンツ及び映像コンテンツのシリアル化が含まれてもよい。
いくつかの実施形態において、このシステムにおいて、オブジェクトは状態を更に含んでもよい。
以下に説明するように、図面は本明細書に記載の様々な例示的実施形態の態様及び特徴を例示することを目的として提供され、限定することを目的としていない。さらに、表示を単純かつ明確にするために、対応する又は類似する要素やステップを示すために適当と考えられる場合には、図面間で参照番号を繰り返し使用する場合があることを理解されたい。
次に、本発明の好ましい実施形態を、図面を参照して詳細に説明する。
例示的な実施形態に係る、複数の表示装置及びサーバのシステム図である。 例示的な実施形態に係る、表示装置のシステム図である。 例示的な実施形態に係る、表示装置のソフトウェアコンポーネント図である。 例示的な実施形態に係る、オブジェクトのマルチ画面操作のための第1の表示装置のユーザインタフェースである。 例示的な実施形態に係る、オブジェクトを用いたユーザ入力に応答する、第1の表示装置のユーザインタフェースである。 例示的な実施形態に係る、オブジェクトがアクティブ領域と交差する、第1の表示装置のユーザインタフェースである。 例示的な実施形態に係る、オブジェクトが第2の表示装置に関連付けられている、第1の表示装置のユーザインタフェースである。 例示的な実施形態に係る、図4Cの第1の表示装置のアクティブ領域に関連付けられた、第2の表示装置のユーザインタフェースである。 例示的な実施形態に係る、オブジェクトを用いたユーザ入力に応答する、第1の表示装置のユーザインタフェースである。 例示的な実施形態に係る、オブジェクトがアクティブ領域と交差しない、第1の表示装置のユーザインタフェースである。 例示的な実施形態に係る、タッチ操作のための第1の表示装置のユーザインタフェースである。 例示的な実施形態に係る、タッチ操作のための第1の表示装置のユーザインタフェースである。 例示的な実施形態に係る、オブジェクトを第1の表示装置から第2の表示装置へ転送するためのシステム図である。 例示的な実施形態に係る、表示装置上でのマルチ画面操作の方法を示すフロー図である。 例示的な実施形態に係る、オブジェクトを第1の表示装置から第2の表示装置へ転送するための方法を示すフロー図である。 例示的な実施形態に係る、オブジェクトのソフトウェアコンポーネント図である。 例示的な実施形態に係る、オブジェクトのシリアル化された表現である。 例示的な実施形態に係る、表示装置の画面上でのオブジェクト移動のグラフ表示である。 例示的な実施形態に係る、表示装置の画面上でのユーザ入力速度に基づくオブジェクト移動のグラフ表示である。 例示的な実施形態に係る、表示装置の画面上でのユーザ入力加速度に基づくオブジェクト移動のグラフ表示である。 例示的な実施形態に係る、複数の関連するオブジェクトを有するユーザインタフェースである。 例示的な実施形態に係る、別個のオーディエンスコンテンツを有する複数の関連するオブジェクトを有するユーザインタフェースである。
本明細書に記載される様々な実施形態は、一般に、メディアオブジェクトのマルチ画面操作のための方法(及びその方法を実行するように構成された関連システム)に関する。
組織は、一般的に複数の画面を有する対話システムを使用することがある。本明細書に開示のマルチ画面操作システムと方法は、マーケティングのプレゼンテーションや、教室での講義を含む教育用のプレゼンテーションを含むプレゼンテーション、あるいは本発明で規定する複数の表示装置内に各人が表示装置を有する複数のユーザ間での共同作業を遂行するために使用することが可能である。ここでプレゼンテーションとは、教育者、教師又はリーダーの役割を果たす個人によって配布及び議論される一連のメディアコンテンツのアイテムを指す場合がある。
本明細書に開示されているマルチ画面操作システム及び方法は、参加者間の対話型の作業又は共同作業の遂行に利用することが可能である。そのような作業には、参加者が取り組むべき問題集や小テストを含む対話型の講義、参加者間で共有されるメディアコンテンツアイテムを複数の参加者で編集または修正する共同作業、または、参加者それぞれがメディアコンテンツの各人のローカルコピーを編集または修正する共同作業などが含まれるが、これに限るものではない。参加者がメディアコンテンツのローカルコピーを編集または修正する場合、修正はローカルに保存することもリモートに保存することも可能である。そうして、参加者は、メディアコンテンツに対する修正を、教師又はマルチ画面操作システムの他の参加者と共有することも可能である。
先ず図1を参照する。図1は、複数の表示装置102a、102b、及び102cのシステム図100を示している。例えば3つの表示装置が図示されているが、表示装置は2つしかない場合もあり、あるいは非常に多数(例えば、数百又は数千)の表示装置があってもよいことを理解されたい。複数の表示装置は、ネットワーク104によって相互に接続されている。ネットワーク104は、TCP/IPスイッチドネットワーク、LANネットワーク、WANネットワーク、又はインターネットであってもよい。表示装置のネットワーク104への接続は、イーサネット(登録商標)、Firewire(登録商標)、Bluetooth(登録商標)、ワイヤレス(802.11など)、モデム、またはデジタル加入者線接続で提供され得る。
サーバ106は、データベースサーバ、アプリケーションサーバ、コンテンツ配信ネットワーク、又はこの技術分野で知られているその他のインターネットベースのソフトウェア配信技術のうちの少なくとも1つを含み得る。サーバ106は、MySQL、MongoDB、Postgresなどのデータベースソフトウェアを操作可能である。サーバ106は、Apache Tomcat、Glassfish、Oracle WebLogic等のアプリケーションサーバを操作可能である。
システム100は、ソフトウェアプログラムコードとして実装されて、任意の既知の手段によって複数の表示装置及びサーバに配信されてもよい。
図2を参照する。図2は、表示装置200のシステム図を示している。表示装置200は、ディスプレイ画面(又は単に画面)202、スピーカ204、プロセッサ206、入力装置208、ネットワーク装置210、及びメモリ(揮発性、不揮発性の両方)212を有し得る。ディスプレイ画面202は、LCD、CRT、LED、OLED、又はプラズマスクリーンであってもよい。画面202及び入力装置208は、例えば参加者の1つ又は複数の指を使用し、任意選択的にスタイラスを使用する静電容量方式のタッチディスプレイシステムを用いて、組み合わせ可能である。
表面接触検知システム及び方法の追加的説明は、2013年3月3日出願の米国特許第9、582、116号「表面上の放射線遮蔽物体を検知・追跡するシステムおよび方法」、2013年8月27日出願の米国特許第9、453、726号「面上の放射遮蔽体の検出と追跡のためのシステム及び方法」、2012年12月2日出願の米国特許第9、395、185号「モジュール型位置検出システムと方法」、2011年12月16日出願の米国特許第8、969、822号「2次元及び3次元位置検出システム、及びそのセンサ」、2012年12月2日出願の米国特許第9、395、185号「モジュール型位置検出システムと方法」、2011年12月16日出願の米国特許第8、969、769号「2次元位置検出システム、及びそのセンサ」、2013年8月27日出願の米国特許第9、453、726号「位置検出センサ、システム及び方法」、2011年3月18日出願の米国特許第8、405、824号「位置検出センサ、システム及び方法」、に記載されている。
画面202は、ユーザに画像コンテンツの再生又は映像コンテンツの再生を提供可能である。プロセッサに接続されたスピーカ204は、参加者に音声コンテンツの再生を提供可能である。プロセッサ206は、任意の既知のプロセッサであってよく、例えば、インテル(登録商標)x86又はx86_64アーキテクチャ、ARM(登録商標)マイクロプロセッサ、Qualcomm(登録商標)、Snapdragon(登録商標)を用いたもの、又は仮想化環境で提供されるプロセッサであってよい。
入力装置は、マウス、キーボード、コントローラ、タッチスクリーン、アイフォーカストラッキング装置(eye focus tracking device)、トラックパッド、運動検知加速度計(motion sensing accelerometer)、トラックボール、マイクロフォン等であってよい。表示装置200は、携帯電話、タブレットデバイス、デスクトップコンピュータ、ラップトップコンピュータ、グーグル(登録商標)グラスなどのウェアラブルコンピュータ、ソニー(登録商標)プレイステーションVR(登録商標)又はOculus(登録商標)Rift(登録商標)などの仮想現実デバイス、又はその他の任意の好適なデバイスであってよい。
図3を参照する。図3は、表示装置のソフトウェアコンポーネント図を示している。表示装置300には、ディスプレイモジュール302、入力モジュール304、ネットワークモジュール306、物理モジュール308、オブジェクトモジュール310、及び音声モジュール312が含まれてよい。
ディスプレイモジュール302は、ユーザが見るユーザインタフェースを描画する役割を果たすことができる。そして実際に、表示装置に関連付けられたオブジェクトを画面上に描画(又はレンダリング)する役割を果たす。
入力モジュール304は、マウスのような指示デバイスや、静電容量方式のLCDタッチスクリーンのような接触検知方式のスクリーン入力デバイスなどのユーザ入力装置からのユーザ入力を受信する役割、又はマイクロフォンで受信されたユーザからの口頭命令を受信する役割を果たすことができる。
ネットワークモジュール306は、他の表示装置又は遠隔地に配置されたサーバと通信する役割を果たすことができる。ネットワークモジュールは、表示装置が、別のオブジェクトにリンクしているメディアオブジェクトに関連付けられている場合に、同期又は非同期に接続を管理する役割を果たすことができる。
物理モジュール308は、ユーザ入力から決定されたユーザ入力ベクトルなどのベクトルを決定するように動作することができる。例えば、物理モジュールは、ユーザ入力装置によって入力された一連の点に基づいて、結果として生じる入力ベクトルを決定することができる。ユーザ入力ベクトルに基づくオブジェクト並進ベクトルや、オブジェクト速度ベクトルや、又はオブジェクト加速度ベクトルを含む、他のベクトルも決定することが可能である。物理モジュールは、モバイルデバイス内の複数の加速度計からの入力などの、多次元入力を受信して、3次元空間内のベクトルを決定することができる。
物理モジュール308は、移動中のオブジェクトの挙動を決定することもできる。例えば、他のオブジェクトまたは壁との交差を決定するか、表示装置上のオブジェクトの運動量を決定するか、あるいはオブジェクトが別のオブジェクト又は壁と交差するときに結果として生じる運動量を決定する。物理モジュールは、ユーザ入力ベクトルを提供してもよい。
オブジェクトモジュール310は、オブジェクトのプロパティを格納し、オブジェクトのプロパティを編集し、オブジェクトのメタデータを格納し、オブジェクトのメタデータを編集及び更新することができる。オブジェクトモジュールは、他のモジュールがオブジェクトのプロパティ、オブジェクトのメタデータ、及びオブジェクトを生成し、読み出し、更新し、又は削除するためのアプリケーション・プログラミング・インタフェース(API)を提供することができる。
音声モジュール312は、オブジェクト内の音声コンテンツの再生をサポートすることができる。
図4Aを参照する。図4Aは、マルチ画面操作のための、第1の表示装置のユーザインタフェース400を示している。ユーザインタフェースは、複数のアクティブ領域402a、402bと、オブジェクト404とを含むことができる。
アクティブ領域402a、402bは、サイズと形状を設定することができる。例えば、正方形、長方形、又は円形であってもよい。アクティブ領域もまた設定することができる。2つのアクティブ領域402a、402bが示されているが、ユーザインタフェース400には3つ以上のアクティブ領域があってもよい。アクティブ領域は、その領域の対象となる表示装置をユーザが指定するように構成されてもよい。構成は例えば、対象の表示装置から受信したビデオ会議フィードの位置とサイズによって自動的に決まってもよい。一例では、ユーザのグループがビデオ会議をアクティブにし、各ユーザが他のユーザからのビデオフィードを見る。そして、ビデオフィードの各境界ボックスが表示装置上のアクティブ領域として自動的に動作して、ユーザはオブジェクトをそこへ「投げ込んで」対象となるユーザの表示装置へオブジェクトを送信することができる。
ユーザインタフェース400は、任意選択で、ゼロ、1つ、又は2つ以上のオブジェクトを一度に表示することができる。オブジェクト404のようなオブジェクトについては、図10Aでより詳細に説明する。
図4Bを参照する。図4Bは、ユーザ入力に応答することができる第1の表示装置のユーザインタフェース420を示している。ユーザは入力装置を操作して、第1の点を選択する。そうして選択イベントが継続する間は、選択が解除されるまで入力点を追跡する(以下の図6A〜図6Bで更に説明する)。第1の点がオブジェクト424の境界内にある場合は、ユーザインタフェース420は、オブジェクトを移動させてユーザ入力に応答する。
ユーザ入力により決定された線は、画面の端への投影線(projection line)422を決定するために使用され得る。オブジェクト424は、投影線422に沿って移動することができる。
任意選択により、選択イベントが継続する間は、オブジェクトはユーザのカーソルの現在点又はタッチ入力点へ移動することができる。こうして、オブジェクトは、選択イベントが終了するまで、ユーザのカーソル又は指入力に従うように見えてもよい。
図4Cを参照する。図4Cは、第1の表示装置のユーザインタフェース440を示している。ここでは、図4Bのオブジェクトを表すオブジェクト442が移動して、第2の表示装置に関連付けられたアクティブ領域444と交差する。交差は、アクティブ領域444の各々とオブジェクト境界442との重なりによって定義される。
図4Dを参照する。図4Dは、第1の表示装置のユーザインタフェース460を示している。そこでは、図4Cのオブジェクトは、第2の表示装置に関連付けられて、もはや画面462上には表示されていない。任意選択で、オブジェクトは、複数の表示装置に関連付けられるように構成されてもよく、オブジェクトが追加的に第2の表示装置に関連付けられた後も、オブジェクトが第1の表示装置に表示されたままにすることも可能である。そのようなオブジェクト構成では、第1の表示装置及び第2の表示装置に同時に且つ同期して表示される、リンクされたオブジェクトを可能とすることができる。
図4Eを参照する。図4Eは、図4Cのアクティブ領域444に関連付けられた第2の表示装置のユーザインタフェース480を示している。オブジェクト482は、第2の表示装置の画面484上に表示されている。オブジェクト482と第2の表示装置との関連付けにより、オブジェクト482の再生が起動(trigger)され得る。例えば、オブジェクトが第2の表示装置に関連付けられると、音声コンテンツや映像コンテンツが再生を開始するか、画像コンテンツが表示され得る。
図5Aを参照する。図5Aは、第1の表示装置のユーザインタフェース500を示している。ユーザインタフェースは、アクティブ領域502a、502b、オブジェクト504、及びユーザ入力に基づく線投影506がある。この図の線投影506は、アクティブ領域502a、502bのいずれとも交差していない。
図5Bを参照する。図5Bは、第1の表示装置のユーザインタフェース550を示している。そこでは、オブジェクト552が移動されているが、アクティブ領域552a、552bとは交差していない。
図6A、図6Bを参照する。図6A、図6Bは、ユーザの入力選択に応答するユーザインタフェース600を示している。選択は第1の点におけるユーザ入力イベント、例えば、ユーザがマウスのボタンかキーボードのボタンを押したとき、あるいはユーザがタッチインタフェースへ指を置いたときの「マウスダウン(mouse-down)」に基づいて開始されてもよい。一連の点が完了する第2の点は、例えば、ユーザがマウスのボタンを離したとき、又はユーザがタッチインタフェースから指又はスタイラスを取り去ったときの「マウスアップ(mouse-up)」に基づいてもよい。
任意選択により、選択線606、656には、第1の点と第2の点とが含まれる。
任意選択により、選択線606、656には、第1の点604、654で始まり、第2の点608、658で終わる一連の点が含まれる。第1の点から第2の点608、658への選択線は、実質的に直線606であってもよく、曲線656であってもよい。
任意選択により、「マウスダウン」イベントの後で「マウスアップ」イベントの前において、オブジェクトは最新のカーソルポイント、あるいはタッチインタフェースが使用されている場合にはタッチポイントに従って移動し得る。こうして、オブジェクトは、選択線606、656に沿ってユーザの指又はカーソルに追従することができる。
投影線は、選択線606、656の一連の点の線形回帰により形成される、直線の投影線(本明細書では、投影ベクトル(projection vector)又は並進ベクトル(translation vector)とも称する)610、660を形成することもできる。投影線は選択線の第2の点で始まることができる。投影線610、660は、表示装置の画面端部の点612、662で終端する。図6Aは、アクティブ領域602aと交差する投影線610を示す。図6Bは、アクティブ領域652aと交差しない投影線660を示す。
任意選択により、投影線は、湾曲した投影線(本明細書では、並進ベクトルとも称す)であってもよい。この場合、回帰は、多項式、指数、対数、あるいはそのようなフィッティングに使用されるその他の任意の数学モデルであってよい。
任意選択により、入力速度ベクトルは、選択線606、656に基づいて、その選択線の一次導関数を見つけることによって決定され得る。並進ベクトルに沿ったオブジェクトの移動は、入力速度ベクトルに基づくことができる。例えば、ユーザ入力に基づいて、オブジェクトは選択線に沿ってユーザ入力速度に比例する速度で移動することができる。
任意選択により、入力加速度ベクトルは、選択線606、656に基づいて、その選択線の二次導関数を見つけることによって決定され得る。並進ベクトルに沿ったオブジェクトの移動は、入力加速度ベクトルに基づくことができる。例えば、ユーザ入力に基づいて、オブジェクトは選択線に沿ってユーザ入力速度に比例する加速度で移動することができる。
図7を参照する。図7は、第1の表示装置から第2の表示装置へオブジェクトを転送するためのシステム700を示している。システム700は、3つの表示装置702a、702b、及び702cと、表示装置702b上の2つのアクティブ領域704a、704bとを含む。表示装置は2つしかない場合もあるが、図示したように3つよりも多い場合、おそらくは数百又は数千の場合もある。アクティブ領域704aは、表示装置702aに関連付けられており、アクティブ領域704bは、表示装置702cに関連付けられている。表示装置702bに関連付けられたオブジェクト(図示せず)は、オブジェクトをアクティブ領域704a上へ移動させるユーザ入力を与えることによって、表示装置702aへ転送され得る。同様に、表示装置702bに関連付けられたオブジェクトは、オブジェクトをアクティブ領域704b上へ移動させるユーザ入力を与えることによって、表示装置702cへ転送され得る。
図8を参照する。図8は、表示装置におけるマルチ画面操作の方法のフロー図800を示している。ステップ802において、本明細書に開示するように、複数の表示装置が提供される。表示装置は、1つの教室、複数の教室、又は地理的に分散された複数の教室にも提供され得る。表示装置のユーザには、教師、生徒、管理者、役員、従業員、あるいは他の人と対話する任意の個人が含まれ得る。
ステップ804において、オブジェクトは、第1の装置に関連付けられた第1のディスプレイに表示される。オブジェクトは、ユーザによって生成されてもよいし、別のユーザから受信されてもよいし、自動的に生成されてもよいし、リモートサーバなどにより提供されてもよい。オブジェクトは、第1の表示装置の画面上に表示される。オブジェクトは、本明細書で説明するようなコンテンツを有していてもよく、表示装置上でのオブジェクトの表示は、そのコンテンツに応じて、画像の表示、映像の再生、音声の再生、あるいはメディアの再生を含み得る。再生は自動的に開始されてもよい。
ステップ806において、表示装置は、選択線の始点を表す第1の点を含む一連の点から成るユーザ入力を受信する。この第1の点は、マウスボタンが押される「マウスダウン」イベントに対応するか、あるいはタッチインタフェース上でユーザの指又はスタイラスが表面に接触し始める「マウスダウン」イベントに対応する場合がある。一連の点は、第2の点を更に含んでもよい。第2の点は、マウスボタンが開放される「マウスアップ」イベントに対応するか、あるいはタッチインタフェース上でユーザの指又はスタイラスが表面との接触を終了する「マウスアップ」イベントに対応する場合がある。入力ジェスチャは、実質的に直線である選択線を含んでいてもよく、選択線は曲線であってもよい。この選択線は、上記の図6A〜図6Bにおいて詳細が説明されている。
任意選択により、オブジェクトは、「マウスダウン」イベントの後で「マウスアップ」イベントの前に、選択線に沿ってユーザのカーソル又は指/スタイラスに追従するように移動することができる。
ステップ808において、選択線(又は選択ベクトル)は、一連の点の中の第1の点と第2の点の間で決定され得る。これにより、これらの2つの点に基づいて選択線を近似することが可能である。
任意選択により、ステップ808で決定される選択線は、単純にユーザの入力ジェスチャから受信した一連の点であってもよい。
ステップ810では、投影線 (又は投影ベクトル)が、選択線に基づいて決定され得る。この投影線の決定は、上記の図6A〜図6Bにより詳細が説明されている。投影線は、第1の点と第2の点だけに基づいて決定されてもよい。投影線は、一連の点に基づいて決定されてもよいし、複数点の回帰によって決定されてもよい。
任意選択により、ステップ806〜814は、「マウスダウン」イベントの後、「マウスアップ」イベントの前に、一連の点のうちの各点に対して繰り返し適用することができる。
ステップ812では、オブジェクトが投影線に沿って移動される。オブジェクトは x座標とy座標とを有する点に表示される。移動には、オブジェクトの表示点を投影線上の連続する点に繰り返し変更し、移動の発生とともにオブジェクトの表示を更新することが含まれていてもよい。
この移動はアニメーション化することができ、オブジェクトは画面上を実質的にスムーズに移動することができる。任意選択により、移動はアニメーション化されず、オブジェクトは単に消えたり再表示されたりし、移動は画面上に表示されない場合もある。
移動は、アクティブ領域を含む画面上の様々な領域に向けて、オブジェクトを「投げる」ことに類似する場合もある。
ステップ814において、オブジェクトの位置と寸法を用いて、オブジェクトとアクティブ領域とが交差するか否かが判定される。交差は、オブジェクト領域とアクティブ領域との重なりとして定義される。交差がない場合には、オブジェクトの移動は継続され得る。
ステップ816において、オブジェクトがアクティブ領域と交差する場合には、オブジェクトは第2の表示装置に関連付けられ得る。この関連付け(association)には、オブジェクトのメタデータを更新して、第2の表示装置への新規の参照(reference)を指定することが含まれ得る。これは、表示装置を一意的に識別する表示装置IDへの参照を追跡するオブジェクトによって達成可能である。
任意選択により、関連付けは、代わりに、オブジェクトを参照する表示装置における関連付けを参照してもよい。これは、オブジェクトを一意的に識別するオブジェクトIDへの参照を追跡する表示装置によって達成可能である。
任意選択により、オブジェクトは、表示装置IDに対する参照を有してもよいし、表示装置は、オブジェクトIDに対する参照を有していてもよい。表示装置IDは、関連する表示装置を一意的に識別し、オブジェクトIDは、オブジェクトを一意的に識別する。
任意選択により、オブジェクトをシリアル化することもできる(すなわち、第1の表示装置のメモリ内にあるオブジェクトが、その状態を保持するようにフォーマットされたテキスト又はバイナリ文字列に変換される)。第2の表示装置によってシリアル化されたオブジェクトが受信されると、オブジェクトは実体化され得る(すなわち、オブジェクトは、テキストまたはバイナリ文字列からその状態を保持するようにして第2の表示装置のメモリ内へ変換される)。
任意選択により、サーバに対してAPI呼び出しを行って、オブジェクトの第2の表示装置への関連付けを起動(trigger)する。
任意選択により、オブジェクトが画面の端部と交差する場合又は別の場合に、表示装置はオブジェクトの方向を変更して「跳ね返す(bounce)」可能性がある。2つのオブジェクトが交差する場合には、各オブジェクトの計算された運動量と衝突に関する運動量保存の法則に基づいて、結果的な方向と速度を決定することができる。
図9を参照する。図9は、第1の表示装置から第2の表示装置へオブジェクトを転送する方法のためのフロー図900を示している。フロー図900に開示された方法は、コンテンツを有するオブジェクトを1つの表示装置から別の表示装置に転送するように動作可能である。
ステップ902において、第1の表示装置と第2の表示装置とが提供される。これらの表示装置は、会議室又は教室に共に配置されて複数人に使用されてもよいし、あるいは少なくとも2人のユーザのいる複数の場所に分散されてもよい。
ステップ904において、オブジェクトが第1の表示装置に表示される。オブジェクトには、本明細書で開示したように、音声、映像又は画像コンテンツを含むメディアが含まれてもよい。オブジェクトの表示(displaying)又は提示(showing)は、メディアの再生を開始することを意味する場合がある。
ステップ906において、表示されたオブジェクトは、ユーザからの入力ジェスチャを受信する。これには一連の点が含まれ、第1の点は、ディスプレイ上のオブジェクト内にある。オブジェクトは、ユーザの入力動作に応答する。ステップ906〜914は、ユーザが選択線を描くときに、繰り返し実行することができる。
ステップ908において、オブジェクトは、ユーザの入力ジェスチャからの一連の点に基づいて、選択ベクトルを決定することができる。本明細書で開示されるように、この選択ベクトルは、第1の点と第2の点であって、第1の点がユーザ入力の開始を表し、第2の点がユーザ入力の終了を表してもよい。これに代えて、選択ベクトルは、第1の点、第2の点、及び一連の点であってもよく、実質的に直線又は曲線であってもよい。
ステップ910において、オブジェクトは、選択ベクトルの投影ベクトルを決定することができる。図6A〜図6Bに示すように、投影は、一連の点の線形回帰に基づいてもよい。
ステップ912において、オブジェクトは、投影ベクトルに基づいて第1の表示装置上を移動することができる。この移動には、オブジェクトの点を(x座標とy座標により)投影線上の連続点へと移動することが含まれる場合がある。
ステップ914において、オブジェクトは、画面上のオブジェクトがアクティブ領域と交差したか否かを検出することができる。この交差は、オブジェクト領域とアクティブ領域との重なりとして定義される。オブジェクトが画面の端部又は他のオブジェクトと交差する場合には、オブジェクトはその方向を変えて「跳ね返る(bounce)」可能性がある。2つのオブジェクトが交差する場合には、各オブジェクトの計算された運動量と衝突に関する運動量保存の法則に基づいて、結果的な方向と速度を決定することができる。
ステップ916において、オブジェクトがアクティブ領域と交差する場合には、オブジェクトは、そのアクティブ領域に関連付けられた第2の表示装置に移動することが可能である。これには、オブジェクトのシリアル化されたコピーのネットワークを超える転送と、第2の表示装置での実体化とが含まれていてもよい。
任意選択により、転送には、第2の表示装置へのオブジェクトの転送を始動するサーバが含まれてもよい。
図10Aを参照する。図10Aは、オブジェクトのソフトウェアコンポーネント図1000である。オブジェクトは、コンテンツ(本明細書では、メディアとも称する)を有し得る。コンテンツには、映像コンテンツ1002、音声コンテンツ1004、画像コンテンツ1006、オブジェクトメタデータ1010(本明細書では、プロパティ又はオブジェクトプロパティとも称する)、オーディエンス基準1012、状態1008、1つ又は複数の表示装置との関連(又は参照)1014、及びプログラムコード1016を含む。オブジェクトは、複数のメディアコンテンツアイテム及び複数のオブジェクトメタデータを含み得る。オブジェクトには、スライドなどの教育情報、音楽作品、共同編集に利用できるメディアが含まれ得る。オブジェクトは、メディアの組み合わせであってもよい。メディアの組み合わせは、1つのオブジェクトから同時に再生することができる。複数のオブジェクトを有する表示装置は、一度に複数のオブジェクトから同時に再生を得ることができる。オブジェクトは、表示装置のメモリに格納されて、表示装置のプロセッサによって実行可能な命令(即ち、プログラムコード)1016を含み得る。オブジェクトは、表示装置でのそれらの機能を記述するプログラムコード1016を有することができる。例えば、そのプログラムコードは、1つの表示装置から別の表示装置に対話型のテストを送信することを可能としてもよい。オブジェクトは、そのオブジェクトが別のタイプのオブジェクト共に表示装置に表示された場合に、特定の相互作用を生じさせるプログラムコード1016を有してもよい。
メディアは、テキストコンテンツ(図示せず)、映像コンテンツ1002、画像コンテンツ1006、音声コンテンツ1004、アニメーションコンテンツ、楽譜コンテンツ、教育コンテンツ(例えば、簡単なテスト)、又は他の任意のコンテンツのいずれかを含み得る。メディアコンテンツは、バイナリデータ表現、ベクトルベース表現、あるいは他の任意のデータストレージ表現を含む、様々な形式でオブジェクトに格納することができる。オブジェクトのメディアは、オブジェクトのインスタンスに格納されてもよいし、リモートサーバへの参照によって参照されてもよい。メディアがリモートサーバへの参照である場合、コンテンツはそのサーバからストリーミングされてもよい。
オブジェクトは、1つ又は複数の他のオブジェクト(図示せず)への参照を有する場合があり、他のオブジェクトへの参照によって一緒にリンクさせることが可能である。このオブジェクトのリンクは、1つの表示装置上でなされた変更を、同時に複数の表示装置にわたって適用させることが可能である。1つのオブジェクトは、1つ又は複数の表示装置への参照を有することができる。これにより、例えば映像コンテンツなどのコンテンツの配信を、複数の表示装置上で同期して再生することが可能となり得る。音声コンテンツ及び映像コンテンツを、リンクされた1つのオブジェクトから別のリンクされたオブジェクトへストリーミングすることも可能である。
図10Bを参照する。図10Bは、オブジェクトのシリアル化された表現1050を示している。シリアル化された表現1050は、JSON(表示したもの)、YAML、XML、又は任意の適切なマークアップ言語の形式にすることができる。シリアル化された表現は、例えば、映像コンテンツ(video content)、画像コンテンツ(image content)、又は音声コンテンツ(audio content)のバイナリデータ表現を含むことができる。1050のシリアル化された例は、様々なメタデータ(metadata)、オーディエンス基準(audience criteria)、状態、及びコンテンツを示している。シリアル化された表現は、オブジェクトの状態が第1の表示装置と第2の表示装置との間で保存され、オブジェクトがプログラムで実体化されるようにして転送された場合に、第2の表示装置で読み取ることができる。
図11A〜図11Cを参照する。図11A〜図11Cは、表示装置の画面上でのオブジェクト移動のグラフ表示1100、1130、1160を示している。図11Aでは、オブジェクトは、ユーザ入力によって決定されていない、固定された一定の速度で画面上を移動することができる。図11Bでは、オブジェクトは、ユーザ入力に基づいて決定された一定の速度で画面上を移動することができる。図11Bの傾斜がより大きいことが観察される。図11Cでは、オブジェクトは、ユーザ入力の加速度に基づいて決定される、次第に増加する速度で画面上を移動することができる。
図12を参照する。図12は、複数の関連するオブジェクト1208、1210、1212を有するユーザインタフェース1200を示している。これらのオブジェクトは、ユーザの決定に基づいて関連付けられて(又はリンクされて)いてもよく、自動的に関連付けられていてもよい。表示装置1202a、1202b、及び1202cは、それぞれリンクされたオブジェクトを表示する。したがって、オブジェクト1208、1210、1212の表示は、同じコンテンツであり得る。例えば、図12に笑っている顔が表示されている間、リンクされたコンテンツには、映像コンテンツ、音声コンテンツなどを含むことが可能であり、3つの表示装置すべてにおける再生は、実質的に同期することが可能である。
関連付け又はリンクは、分散化された方法によって実行することができ、その方法では、各表示装置における各オブジェクトのインスタンスは、別の表示装置上の少なくとも1つの他のオブジェクトのインスタンスへの参照を有することができる。図12では、オブジェクトのインスタンス1208は、オブジェクトのインスタンス1212への参照1204aを有し、オブジェクトのインスタンス1212は、オブジェクトのインスタンス1210への参照1204cを有し、オブジェクトのインスタンス1210は、オブジェクトのインスタンス1208への参照1204bを有する。これらの参照は、オブジェクトのインスタンスが自分自身を参照するオブジェクトのリストを保持するように、双方向であってもよい。
任意選択により、関連付け又はリンクは、サーバによって集中管理される方法で実行することができる。また、参照又は関連付けは、サーバ上のAPIを用いて、生成、読み出し、更新、又は破棄することが可能である。
図13を参照する。図13は、異なるオーディエンスコンテンツを有する、複数の関連するオブジェクト1300を有するユーザインタフェースを示している。第1の表示装置1302aは第1オブジェクト1306を示し、第2の表示装置1302bは第2オブジェクト1308を示し、第3表示装置1302cは第3オブジェクト1310を示している。オブジェクト1306、1308、及び1310は、相互に関連付けられるか、又はリンクされていてもよい。第1の表示装置1302aは、年齢、教育レベル、地理的位置などの人口統計情報に基づいて、関連付けられた第1オーディエンスプロフィールを有してもよい。同様に、表示装置1302b、1302cは、それぞれ第2オーディエンスプロフィール、第3オーディエンスプロフィールを有していてもよく、第1、第2、第3のオーディエンスプロフィールはそれぞれ固有であってもよい。オブジェクト1306は、表示装置1302aのオーディエンスプロフィールに対応して、第1オーディエンスプロフィールに基づいてコンテンツを表示する。オブジェクト1308は、表示装置1302bのオーディエンスプロフィールに対応して、第2オーディエンスプロフィールに基づいてコンテンツを表示する。オブジェクト1310は、表示装置1302cのオーディエンスプロフィールに対応して、第3オーディエンスプロフィールに基づいてコンテンツを表示する。オブジェクトのオーディエンス基準は、表示装置上の特定のオーディエンスプロフィールに対して表示されるべきコンテンツを記述することができる。
本明細書に記載の例示的実施形態の完全なる理解を提供するために、多くの特定の詳細が提示されていることが理解されるであろう。ただし、本明細書に記載の実施形態はこれらの特定の詳細なしで実施可能であることが当業者には理解されるであろう。他の例では、本明細書に記載の実施形態をわかりにくくしないために、周知の方法、手順及び構成要素を詳細には記述していない。さらに、本記述及び図面は本明細書に記載の実施形態の範囲をいかなる点においても制限するものではなく、本明細書に記載の様々な実施形態の実施を単に説明するものとして考慮されるべきである。
本明細書で使用される「実質的に」、「約」及び「近似的に」などの程度を表す用語は、被修飾語の偏差が妥当な量であって、最終的な結果が大きくは変化しないことを意味することに、留意されるべきである。また、これらの程度を表す用語は、その偏差が修飾する用語の意味を否定しない限りは、被修飾語の偏差を含むものと見なすべきである。
さらに、本明細書で使用される「及び/又は」という表現は包含的論理和を表すことを意図している。すなわち、例えば「X及び/又はY」は、X又はY、あるいはその両方を意味することを意図している。更なる例として、「X、Y及び/又はZ」は、X又はY又はZ、あるいはそれらの任意の組合せを意味することを意図している。
本明細書に記載のシステム及び方法の実施形態は、ハードウェア又はソフトウェア、あるいはその両者の組合せによって実施されてもよい。これらの実施形態は、プログラム可能なコンピュータ上で実行されるコンピュータプログラムに実装されてもよく、各コンピュータは、少なくとも1つのプロセッサ、データ記憶システム(揮発メモリ、不揮発メモリ又は他のデータ記憶素子、あるいはそれらの組合せを含む)、及び少なくとも1つの通信インタフェースを含む。例えば、これに限定されないが、プログラム可能なコンピュータ(以下、コンピューティング装置と称する)は、サーバ、ネットワークアプライアンス、組み込みデバイス、コンピュータ拡張モジュール、パーソナルコンピュータ、ラップトップ、モバイル情報端末、携帯電話、スマートフォンデバイス、タブレットコンピュータ、ワイヤレスデバイスや、本明細書に記載の方法を実行するように構成可能な他の任意のコンピューティング装置であってよい。
いくつかの実施形態では、通信インタフェースはネットワーク通信インタフェースであってもよい。要素が組み合わされる実施形態において、通信インタフェースは、プロセス間通信(IPC)用のものなどのソフトウェア通信インタフェースであってもよい。さらに他の実施形態では、ハードウェア、ソフトウェア、及びそれらの組合せとして実装される通信インタフェースの組合せであってもよい。
プログラムコードが入力データに適用されて、本明細書に記載の機能を遂行し、出力情報を生成することが可能である。出力情報は、周知の方法によって1つ又は複数の出力装置に適用される。
各プログラムは、コンピュータシステムと通信するために、高度な手続き型又はオブジェクト指向のプログラム言語及び/又はスクリプト言語、あるいはその両方に実装されてもよい。ただし、必要に応じて、プログラムはアセンブリ言語又は機械語で実装されてもよい。いずれの場合でも、言語はコンパイル形式又はインタプリタ形式の言語であってよい。このようなコンピュータプログラムは各々、汎用又は専用のプログラム可能なコンピュータにより読み取り可能な記憶媒体又は記憶装置(例えば、ROM、磁気ディスク、光ディスク)に格納されて、記憶媒体又は記憶装置がコンピュータによって読み取られると本明細書に記載の手順を実行するようにコンピュータを構成しかつ動作させることが可能である。本システムの実施形態はまた、コンピュータプログラムで構成された非一時的コンピュータ可読記憶媒体として実装されるように考慮されていてもよい。ここで、このように構成された記憶媒体は、特定及び所定の方法でコンピュータを動作させて本明細書に記載の機能を実行させる。
さらに、記載された実施形態のシステム、プロセス及び方法は、1つ又は複数のプロセッサのための、コンピュータで使用可能な命令を有するコンピュータ可読媒体を含むコンピュータプログラム製品で配布することが可能である。媒体は、1つ又は複数のディスケット、コンパクトディスク、テープ、チップ、有線通信、衛星通信、インターネット通信又はダウンロード、磁気又は電子の記憶媒体、デジタル及びアナログの信号、などを含む、様々な形態で提供可能である。コンピュータで使用可能な命令もまた、コンパイルされたコード及びコンパイルされていないコードを含む、様々な形式であってよい。
本明細書では、様々な実施形態を単に例示として説明した。これらの例示的な実施形態に対しては、添付の特許請求の範囲によってのみ限定される、本発明の精神および範囲から逸脱することなく、様々な変更及び変形が行われ得る。また、図に例示される様々なユーザインタフェースにおいて、図示されたユーザインタフェースのテキスト及び制御は、単に例示としてのみ提供されたものであり、限定を意図するものではないことを理解されたい。他の適切なユーザインタフェース要素もあり得る。

Claims (25)

  1. マルチディスプレイ操作のための方法であって、
    ディスプレイ、入力装置、プロセッサ、及びメモリを備える複数の表示装置を提供すること、
    第1の表示装置に関連付けられた第1のディスプレイにオブジェクトを表示すること、
    前記オブジェクト上の第1の点で始まり、第2の点で終了する入力ジェスチャを受信すること、
    前記第1の点と前記第2の点との間に選択線を決定すること、
    前記選択線に基づいて投影線を決定すること、
    前記投影線に沿って前記オブジェクトを移動させること、及び、
    前記オブジェクトが複数のアクティブ領域のうちの第1のアクティブ領域と交差する場合に、前記オブジェクトを前記第1のアクティブ領域に対応する第2の表示装置に関連付けて、前記オブジェクトを前記第2のディスプレイ上に表示すること、
    を含む、方法。
  2. 前記第1の点と第2の点との間の入力速度ベクトルを決定し、前記入力速度ベクトルに基づいて前記オブジェクトを移動させること、を更に含む、請求項1に記載の方法。
  3. 前記第1の点と第2の点との間の入力加速度ベクトルを決定し、前記入力加速度ベクトルに基づいて前記オブジェクトを移動させること、を更に含む、請求項2に記載の方法。
  4. オブジェクトの質量及び速度に基づいて前記第2の点におけるオブジェクトの運動量を決定すること、
    前記オブジェクトを前記オブジェクトの運動量で前記投影線に沿って移動させ、前記オブジェクトの移動に伴って前記オブジェクトの運動量を減少させること、
    を更に含む、請求項3に記載の方法。
  5. 表示装置の各々は音声デバイスを更に備え、
    前記オブジェクトは音声コンテンツ及び映像コンテンツを含み、
    前記オブジェクトを表示することが、前記映像コンテンツを前記表示装置に表示すること、及び前記音声コンテンツを前記音声デバイスで再生することを更に含む、
    請求項4に記載の方法。
  6. 第1の表示装置に関連付けられた前記オブジェクトを変更することを更に含む、
    請求項5に記載の方法。
  7. 第2の表示装置に関連付けられた前記オブジェクトを変更すること、
    前記オブジェクト上の第3の点で始まり、第4の点で終了する第2の入力ジェスチャを受信すること、
    前記第3の点と前記第4の点との間に第2の選択線を決定すること、
    前記第2の選択線に基づいて第2の投影線を決定すること、
    前記オブジェクトを前記第2の投影線に沿って移動すること、
    前記オブジェクトが複数のアクティブ領域のうちの第2のアクティブ領域と交差する場合に、前記オブジェクトを前記第2のアクティブ領域に対応する前記第1の表示装置に関連付けて、前記オブジェクトを前記第1ディスプレイ上に表示すること、
    を更に含む、請求項5に記載の方法。
  8. 複数の選択肢を有する前記オブジェクトに関連付けられた操作フィールド、
    前記複数の選択肢からの選択に対応する第2の入力ジェスチャを受信すること、
    前記選択に基づいて前記操作フィールドを変更すること、及び、
    前記オブジェクトを前記第1の表示装置に関連付けること、
    を更に含む、請求項5に記載の方法。
  9. 前記第1の表示装置は第1のオーディエンス情報を含み、
    前記第2の表示装置は第2のオーディエンス情報を含み、
    前記オブジェクトは第1のオーディエンスコンテンツ及び第2のオーディエンスコンテンツを含み、
    前記オブジェクトを表示することが、前記第1のオーディエンス情報に基づいて前記第1のディスプレイ上に前記第1のオーディエンスコンテンツを表示し、前記第2のオーディエンス情報に基づいて前記第2のディスプレイ上に前記第2のオーディエンスコンテンツを表示することを含む、
    請求項7に記載の方法。
  10. マルチ画面操作システムであって、
    オブジェクトと、各々が前記オブジェクトを格納するメモリ、ディスプレイ、プロセッサ、及び入力ジェスチャを受信する入力装置を含む複数の表示装置と、を備え、
    第1の表示装置のディスプレイが前記オブジェクトを表示し、
    第1の表示装置の前記プロセッサが、
    前記入力装置から、前記ディスプレイ上の点においてジェスチャに対応する複数の点を受信し、前記複数の点のうちの第1の点がジェスチャの開始に対応し、前記複数の点のうちの第2の点がジェスチャの終了に対応し、
    前記第1の点から前記第2の点まで形成される選択ベクトルを決定し、
    前記選択ベクトルに基づいて投影ベクトルを決定し、
    前記投影ベクトルに沿って前記オブジェクトを移動させ、
    前記オブジェクトが複数のアクティブ領域のうちの第1のアクティブ領域と交差するかどうかを判定し、交差する場合は、前記オブジェクトを前記第1のアクティブ領域に対応する第2の表示装置に送信するように構成され、
    第2の表示装置の前記プロセッサが、
    前記第1の表示装置から前記オブジェクトを受信し、
    前記オブジェクトを前記第2の表示装置の前記メモリに格納し、
    前記第2の表示装置の前記ディスプレイに前記オブジェクトを表示するように命令するように構成された、
    システム。
  11. 前記複数の表示装置の各々は音声デバイスを更に備え、
    前記オブジェクトは音声コンテンツ及び映像コンテンツを更に含み、
    前記複数の表示装置各々のプロセッサが、前記映像コンテンツを前記ディスプレイ上に表示し、前記音声コンテンツを前記音声デバイス上で再生するように更に構成された、 請求項10に記載のシステム。
  12. 前記複数の表示装置のうちの第1の表示装置の前記プロセッサが、前記オブジェクトを変更するように更に構成された、請求項11に記載のシステム。
  13. 前記複数の表示装置のうちの第2の表示装置の前記プロセッサが、前記オブジェクトを変更するように更に構成された、請求項12に記載のシステム。
  14. 前記複数の表示装置のうちの第2の表示装置の前記プロセッサが、前記オブジェクトを前記第1の表示装置に送信するように更に構成され、
    前記複数の表示装置のうちの第1の表示装置の前記プロセッサが、前記第2の表示装置から前記オブジェクトを受信するように更に構成された、
    請求項13に記載のシステム。
  15. マルチ画面操作システムの第1の表示装置から第2の表示装置へオブジェクトを転送する方法であって、
    第1の表示装置と第2の表示装置とを提供し、
    前記第1の表示装置上にオブジェクトを表示し、
    一連の点を有する入力ジェスチャを受信し、
    前記一連の点に基づいて選択ベクトルを決定し、
    前記選択ベクトルの投影ベクトルを決定し、
    前記投影ベクトルに基づいて前記第1の表示装置上の前記オブジェクトを移動させ、
    前記オブジェクトが、前記第1の表示装置上の第1のアクティブ領域と交差することを検出し、
    前記オブジェクトを、前記第1の表示装置から前記第1のアクティブ領域に関連付けられた前記第2の表示装置へ転送する、
    ことを含む、方法。
  16. 前記投影ベクトルは入力速度ベクトルを更に含み、
    前記並進ベクトルに基づいて投影ベクトルを決定することが、前記選択ベクトルに基づいて並進速度ベクトルを決定することを更に含む、
    請求項15に記載の方法。
  17. 前記並進ベクトルは入力加速度ベクトルを更に含み、
    前記並進ベクトルの投影ベクトルを決定することが、前記選択ベクトルに基づいて並進加速度ベクトルを決定することを更に含む、
    請求項16に記載の方法。
  18. 前記オブジェクトの運動量を決定すること、
    前記運動量に基づいて前記オブジェクトを移動させ、前記オブジェクトの移動に伴って前記オブジェクトの運動量を減少させること、
    を更に含む、請求項17に記載の方法。
  19. 前記オブジェクトは音声コンテンツ及び映像コンテンツを更に含み、
    前記第1の表示装置及び前記第2の表示装置は音声デバイスを更に備え、
    前記オブジェクトを表示することが、前記映像コンテンツを表示し、前記表示装置の前記音声デバイス上で前記音声コンテンツを再生することを更に含み、
    前記オブジェクトを前記第1の表示装置から前記第2の表示装置へ転送することが、前記音声コンテンツの前記再生を前記第1の表示装置から前記第2の表示装置へ転送することを更に含む、
    請求項18に記載の方法。
  20. 前記オブジェクトは状態を更に備える、請求項19に記載の方法。
  21. 前記第1の表示装置と前記第2の表示装置がネットワーク通信をし、
    前記第1の表示装置から前記第2の表示装置へ前記オブジェクトを転送することが、前記オブジェクトのシリアル化すること、前記ネットワーク通信を利用して前記シリアル化されたオブジェクトを前記第2の表示装置へ転送すること、及び前記第2の表示装置のメモリ内に前記オブジェクトを実体化することを更に含む、
    請求項20に記載の方法。
  22. マルチ画面操作システムであって、
    ディスプレイ、プロセッサ、メモリ、及びユーザ入力装置を備える第1の表示装置と、
    ディスプレイ、プロセッサ、メモリ、及びユーザ入力装置を備える第2の表示装置と、
    を備え、
    前記第1の表示装置の前記メモリはオブジェクトを含み、
    前記第1の表示装置と前記第2の表示装置とはネットワーク通信を行い、
    前記オブジェクトは前記第1の表示装置の前記ディスプレイ上に表示され、
    前記第1の表示装置の前記プロセッサは、
    前記ユーザ入力装置からのユーザ入力に基づいて投影線を決定し、
    前記ディスプレイ上に表示されている前記オブジェクトを前記投影線に沿って移動させ、
    前記オブジェクトとアクティブ領域との間の交差を検出し、
    前記オブジェクトをシリアル化し、
    前記シリアル化されたオブジェクトを、前記ネットワーク通信を利用して前記第2の表示装置へ通信するように動作可能であり、
    前記第2の表示装置の前記プロセッサは、
    前記ネットワーク通信を利用して前記シリアル化されたオブジェクトを受信し、
    前記オブジェクトを前記シリアル化されたオブジェクトからメモリ内へ実体化するように動作可能である、
    システム。
  23. 前記第1の表示装置の前記プロセッサは、
    入力速度ベクトルを決定し、
    並進速度ベクトルを決定し、
    入力加速度ベクトルを決定し、
    並進加速度ベクトルを決定し、
    オブジェクトの運動量を決定し、
    前記並進速度ベクトル、前記並進加速度ベクトル、及び前記オブジェクトの運動量に基づいて、前記オブジェクトを移動させるように、更に動作可能である、
    請求項22に記載のシステム。
  24. 前記オブジェクトは音声コンテンツ及び映像コンテンツを更に含み、
    前記第1の表示装置及び前記第2の表示装置は音声デバイスを更に備え、
    前記オブジェクトは前記映像コンテンツに基づいて前記第1の表示装置上に表示され、
    前記オブジェクトは前記音声コンテンツに基づいて前記第1の表示装置の前記音声デバイス上で再生され、
    前記オブジェクトのシリアル化は、前記音声コンテンツ及び前記映像コンテンツのシリアル化を含む、
    請求項23に記載のシステム。
  25. 前記オブジェクトは状態を更に備える、請求項24に記載のシステム。
JP2021501060A 2018-03-27 2019-03-26 マルチ画面ディスプレイと操作(interaction)のためのシステムと方法 Withdrawn JP2021519482A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862648414P 2018-03-27 2018-03-27
US62/648,414 2018-03-27
PCT/CA2019/050372 WO2019183726A1 (en) 2018-03-27 2019-03-26 Systems and methods for multi-screen display and interaction

Publications (1)

Publication Number Publication Date
JP2021519482A true JP2021519482A (ja) 2021-08-10

Family

ID=68059440

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021501060A Withdrawn JP2021519482A (ja) 2018-03-27 2019-03-26 マルチ画面ディスプレイと操作(interaction)のためのシステムと方法

Country Status (9)

Country Link
US (1) US11216076B2 (ja)
JP (1) JP2021519482A (ja)
KR (1) KR20210024991A (ja)
CN (1) CN112384972A (ja)
AU (1) AU2019243683A1 (ja)
CA (1) CA3095323A1 (ja)
DE (1) DE112019001554T5 (ja)
GB (1) GB2587095B (ja)
WO (1) WO2019183726A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111381791B (zh) * 2020-03-03 2023-03-21 安徽文香科技有限公司 一种交互系统、方法、设备和存储介质
CN111352603A (zh) * 2020-03-11 2020-06-30 北京文香信息技术有限公司 一种分屏显示方法、装置、终端及存储介质
US11689695B1 (en) 2022-12-15 2023-06-27 Northern Trust Corporation Computing technologies for screensharing

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8046701B2 (en) * 2003-08-07 2011-10-25 Fuji Xerox Co., Ltd. Peer to peer gesture based modular presentation system
US8681104B2 (en) * 2007-06-13 2014-03-25 Apple Inc. Pinch-throw and translation gestures
JP2012517061A (ja) * 2009-02-04 2012-07-26 キーレス システムズ リミテッド データ入力システム
US20110209089A1 (en) * 2010-02-25 2011-08-25 Hinckley Kenneth P Multi-screen object-hold and page-change gesture
US20110209101A1 (en) * 2010-02-25 2011-08-25 Hinckley Kenneth P Multi-screen pinch-to-pocket gesture
CN103477305B (zh) * 2011-04-20 2017-06-13 皇家飞利浦有限公司 元素或项目的基于手势的控制
US20140055400A1 (en) * 2011-05-23 2014-02-27 Haworth, Inc. Digital workspace ergonomics apparatuses, methods and systems
JP6257329B2 (ja) * 2012-01-13 2018-01-10 サターン ライセンシング エルエルシーSaturn Licensing LLC 情報処理装置及び情報処理方法、並びにコンピューター・プログラム
TWI637312B (zh) * 2012-09-19 2018-10-01 三星電子股份有限公司 用於在透明顯示裝置顯示資訊的方法、顯示裝置及電腦可讀記錄媒體
KR102126292B1 (ko) * 2012-11-19 2020-06-24 삼성전자주식회사 이동 단말에서 화면 표시 방법 및 이를 위한 이동 단말
JP6271960B2 (ja) * 2012-11-26 2018-01-31 キヤノン株式会社 情報処理システム
DE102013007250A1 (de) * 2013-04-26 2014-10-30 Inodyn Newmedia Gmbh Verfahren zur Gestensteuerung
JP6255826B2 (ja) * 2013-09-13 2018-01-10 株式会社リコー システム、情報処理装置、画像表示方法、プログラム、記憶媒体
KR101647734B1 (ko) * 2014-07-22 2016-08-23 엘지전자 주식회사 이동 단말기 및 그 제어방법
US10452195B2 (en) * 2014-12-30 2019-10-22 Samsung Electronics Co., Ltd. Electronic system with gesture calibration mechanism and method of operation thereof
KR20170004702A (ko) * 2015-07-03 2017-01-11 엘지전자 주식회사 디스플레이 장치 및 제어 방법
KR101714207B1 (ko) * 2015-09-02 2017-03-08 엘지전자 주식회사 이동 단말기 및 그의 제어 방법
US9788204B2 (en) * 2015-10-31 2017-10-10 Verizon Patent And Licensing Inc. User authentication systems and methods
US20180367836A1 (en) * 2015-12-09 2018-12-20 Smartron India Private Limited A system and method for controlling miracast content with hand gestures and audio commands
US10867452B2 (en) * 2016-03-25 2020-12-15 Mental Canvas LLC System and methods for conversion of 2D assets into 3D graphical scenes
KR20180020517A (ko) * 2016-08-18 2018-02-28 엘지전자 주식회사 이동 단말기
TWI794812B (zh) * 2016-08-29 2023-03-01 日商半導體能源研究所股份有限公司 顯示裝置及控制程式
DE102017010425A1 (de) * 2017-11-12 2019-05-16 Wirtgen Gmbh Selbstfahrende Baumaschine und Verfahren zum Steuern einer selbstfahrenden Baumaschine

Also Published As

Publication number Publication date
AU2019243683A1 (en) 2020-11-19
KR20210024991A (ko) 2021-03-08
CA3095323A1 (en) 2019-10-03
GB202015492D0 (en) 2020-11-11
GB2587095B (en) 2023-02-01
CN112384972A (zh) 2021-02-19
WO2019183726A1 (en) 2019-10-03
DE112019001554T5 (de) 2021-01-14
US20210208686A1 (en) 2021-07-08
GB2587095A (en) 2021-03-17
US11216076B2 (en) 2022-01-04

Similar Documents

Publication Publication Date Title
US10596478B2 (en) Head-mounted display for navigating a virtual environment
US9658617B1 (en) Remote controlled vehicle with a head-mounted display
US11216076B2 (en) Systems and methods for multi-screen interaction
US11266919B2 (en) Head-mounted display for navigating virtual and augmented reality
US20220398798A1 (en) JSON-Based Translation of Software Programming Language Into an Accessible Drag and Drop Web-based Application for Content Creation in Spatial Computing
Evans et al. Supporting learning with interactive surfaces and spaces
JP2014102664A (ja) コンテンツ作成・記録・再生システム
Hulusic et al. Tangible user interfaces for enhancing user experience of virtual reality cultural heritage applications for utilization in educational environment
US11262885B1 (en) Multi-gesture context chaining
US20220179552A1 (en) Gesture-based menuless command interface
Krekhov et al. Gestures From the Point of View of an Audience: Towards Anticipatable Interaction of Presenters With 3D Content.
Cho et al. LOTUS: composing a multi-user interactive tiled display virtual environment
US20140157130A1 (en) Providing wireless control of a visual aid based on movement detection
Ceconello Smart artefacts and spaces to interact, promote and transfer cultural knowledge
He Enhancing Collaboration and Productivity for Virtual and Augmented Reality
Yao The Experience of a Lifetime: Interactive Digital Experience Beyond the Screen
Eriksson et al. Implementing interactive whiteboards into teaching practice at University of Gothenburg
England et al. Dancing with Paint
Tan et al. An interactive system for concurrent engineering design
TÓDOVÁ Note-taking Methods Supporting Education in Collaborative Virtual Reality

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220314

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230221

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20230228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20230301