JP7123128B2 - インタフェース表示方法及び装置 - Google Patents

インタフェース表示方法及び装置 Download PDF

Info

Publication number
JP7123128B2
JP7123128B2 JP2020513779A JP2020513779A JP7123128B2 JP 7123128 B2 JP7123128 B2 JP 7123128B2 JP 2020513779 A JP2020513779 A JP 2020513779A JP 2020513779 A JP2020513779 A JP 2020513779A JP 7123128 B2 JP7123128 B2 JP 7123128B2
Authority
JP
Japan
Prior art keywords
electronic device
window
displayed
interface
application
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020513779A
Other languages
English (en)
Other versions
JP2020533682A (ja
Inventor
ヤン,チェンポン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Publication of JP2020533682A publication Critical patent/JP2020533682A/ja
Application granted granted Critical
Publication of JP7123128B2 publication Critical patent/JP7123128B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/183On-screen display [OSD] information, e.g. subtitles or menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • G06F3/1431Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display using a single graphics controller
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/005Adapting incoming signals to the display format of the display terminal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/356Image reproducers having separate monoscopic and stereoscopic modes
    • H04N13/359Switching between monoscopic and stereoscopic modes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0132Head-up displays characterised by optical features comprising binocular systems
    • G02B2027/0134Head-up displays characterised by optical features comprising binocular systems of stereoscopic type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Computer Graphics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Digital Computer Display Output (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

[関連技術への相互参照]
本出願は、2017年9月7日に中国特許庁に出願された「インタフェース表示方法及び装置」という名称の中国特許出願第201710802021.9号に対する優先権を主張し、参照によりその全体が本明細書に組み込まれる。
[技術分野]
本出願は、コンピュータアプリケーション分野に関し、特に、アプリケーションインタフェース表示方法及び装置に関する。
身体上に装着される電子デバイスは、通常、ウェアラブルデバイスと呼ばれる。例えばヘッドマウントウェアラブルデバイス(例えば眼鏡)、手首装着ウェアラブルデバイス(例えば時計又は手首ストラップ)、コンタクトレンズ型ウェアラブルデバイス、リング型ウェアラブルデバイス、靴型ウェアラブルデバイス又は衣服型ウェアラブルデバイスが提供され、ウェアラブルデバイスを身体又は衣服に取り付けるか又は分離することができる。ウェアラブルデバイスは、電子デバイスの携帯性及びアクセス性を向上させるために、身体に装着することが可能にされた(衣服又は眼鏡のような)電子デバイスである。
ヘッドマウントウェアラブルデバイス(例えばHDM(ヘッドマウントディスプレイ)は、例えば拡張現実(AR)を提供するために使用されるシースルー(see-through)型画面又は仮想現実(VR)を提供するために使用されるシークローズ(see-closed)型画面のように、ウェアラブルデバイスにおいて広く開発されている。
半透明レンズ特徴に基づいて、シースルー型HMDは、実世界ベースの画像と仮想オブジェクトを合成し、組み合わせて、画像に追加の情報を与えてよく、ここで、該追加の情報は、実世界では得ることは難しい。シークローズド型HMDは、外部から受け取ったコンテンツ(ゲーム、ムービー、ストリーミング又は放送データ)を別個のディスプレイ上に表示して、ユーザがコンテンツに焦点を合わせることを可能にすることができるように、2つのディスプレイを提供してよい。
ユーザがクオリティ・オブ・ライフを要求するので、仮想現実表示技術の開発が社会の焦点となっている。
本出願の実施形態は、インタフェース表示方法及び電子デバイスを提供する。ユーザが、3Dディスプレイ電子デバイスを使用することによって携帯電話に接続されているとき、マルチウィンドウ表示が3Dディスプレイ電子デバイス上で行われてよい。
第1態様によると、インタフェース表示方法が提供され、第2電子デバイス上に三次元3Dインタフェースを表示するために第1電子デバイスによって使用され:第1電子デバイスによって、第2電子デバイスが第1電子デバイスに接続されていることを検出するステップ;第1電子デバイスによって、予め設定されたウィンドウ数量に基づいて、少なくとも1つの表示されるべきウィンドウを取得するステップであって、少なくとも1つの表示されるべきウィンドウは、二次元ウィンドウであるステップ;第1電子デバイスによって、予め設定されたウィンドウ数量及び少なくとも1つの取得された表示されるべきウィンドウに基づいて、第2電子デバイスの表示インタフェースを分割するステップ;第1電子デバイスによって、少なくとも1つの表示されるべきウィンドウに対して次元変換処理を実行するステップ;及び第1電子デバイスによって、少なくとも1つの変換された表示されるべきウィンドウを第2電子デバイスに送信するステップであって、少なくとも1つの変換された表示されるべきウィンドウは、三次元ウィンドウであるステップ;を含む。
第2電子デバイスに接続された後、第1電子デバイスは、表示用に第2電子デバイスのためのマルチウィンドウ3Dウィンドウを提供し、マルチウィンドウユーザインタフェースを提供する。第2電子デバイスがワイド画面3Dディスプレイデバイスであるとき、第2電子デバイスのワイド画面が完全に利用される。
第1態様によると、第1態様の第1の可能な実装において、少なくとも1つの表示されるべきウィンドウに対して次元変換処理を実行するステップは:少なくとも1つの表示されるべきウィンドウに対して双眼レンダリングを実行して、少なくとも1つの表示されるべきウィンドウにおける左眼画像及び右眼画像を取得するステップを含む。
第1態様又は第1態様の第1の可能な実装によると、第1態様の第2の可能な実装において、第1電子デバイスによって、第2電子デバイスが第1電子デバイスに接続されていることを検出するステップの後、第1電子デバイスによって、予め設定されたウィンドウ数量に基づいて、少なくとも1つの表示されるべきウィンドウを取得するステップの前に、方法は:第1電子デバイスによって、3Dモードのスイッチがターンオンされたことを検出するステップ;及び第1電子デバイスによって、第2電子デバイスから通知を受け取るステップであって、通知は、第2電子デバイスがユーザによって装着されていることを示すために使用されるステップ;を更に含む。
第1態様又は第1態様の第1の可能な実装によると、第1態様の第3の可能な実装において、第1電子デバイスによって、少なくとも1つの表示されるべきウィンドウに対して次元変換処理を実行するステップの後、第1電子デバイスによって、少なくとも1つの変換された表示されるべきウィンドウを第2電子デバイスに送信するステップの前に、方法は:第1電子デバイスによって、3Dモードのスイッチがターンオンされたことを検出するステップ;及び第1電子デバイスによって、第2電子デバイスから通知を受け取るステップであって、通知は、第2電子デバイスがユーザによって装着されていることを示すために使用されるステップ;を更に含む。
第3の可能な実装までの第1態様によると、第1態様の第4の可能な実装において、少なくとも1つの表示されるべきウィンドウは、アプリケーションプログラムインタフェース及び/又はデスクトップ画面を含む。
第1態様の第4の可能な実装によると、第1態様の第5の可能な実装において、アプリケーションプログラムインタフェースは、第2電子デバイスが接続されていることを第1電子デバイスが検出したときに取得される、現在のフォアグラウンドアプリケーションのインタフェースとバックグラウンドアプリケーションのインタフェースとを含む。
第1態様の第5の可能な実装によると、第1態様の第6の可能な実装において、方法は、現在のフォアグラウンドアプリケーションのインタフェースをフォーカスウィンドウに設定するステップと、バックグラウンドアプリケーションのインタフェースを可視ウィンドウに設定するステップを更に含む。
第1態様の第6の可能な実装によると、第1態様の第7の可能な実装において、デスクトップ画面は、少なくとも2つのアプリケーションのアイコンを含み、これらのアイコンは、アプリケーションの使用頻度に基づいてハイライトされる。
第7の可能な実装までの第1態様によると、第1態様の第8の可能な実装において、第2電子デバイスはカメラを備え、第1電子デバイスは、カメラによって収集されたコンテンツを受け取り、第1電子デバイスは、第2電子デバイスがカメラによって収集されたコンテンツをリアルタイムで表示するように、カメラによって収集されたコンテンツを第2電子デバイスにリアルタイムで送信する。
第2電子デバイスは、該第2電子デバイスのカメラによって収集されたリアルタイムコンテンツを表示して、ユーザが周囲環境を見るのを助ける。
オプションとして、方法は、第2電子デバイスが第1電子デバイスから切断されていること又は第2電子デバイスが無効にされていることを検出すると、第1電子デバイスによって、フォーカスウィンドウを可視状態に維持するステップと、別の可視ウィンドウを不可視状態に設定するステップと、可視状態としてマークされたウィンドウ上で3D-2D切り替えを実行するステップと、第1電子デバイスの画面を使用することによって、変換されたウィンドウを表示するステップを含む。
第2態様によると、第1電子デバイスが提供され、第2電子デバイス上に三次元(3D)インタフェースを表示するように構成され:第2電子デバイスが当該電子デバイスに接続されていることを検出するように構成される第1検出モジュール;予め設定されたウィンドウ数量に基づいて、少なくとも1つの表示されるべきウィンドウを取得するように構成されるウィンドウ取得モジュールであって、少なくとも1つの表示されるべきウィンドウは、二次元ウィンドウである、ウィンドウ取得モジュール;予め設定されたウィンドウ数量及び少なくとも1つの取得された表示されるべきウィンドウに基づいて、第2電子デバイスの表示インタフェースを分割するように構成されるインタフェースレイアウトモジュール;少なくとも1つの表示されるべきウィンドウに対して次元変換処理を実行するように構成される3D変換モジュール;及び
少なくとも1つの変換された表示されるべきウィンドウを第2電子デバイスに送信するように構成される送信モジュールであって、少なくとも1つの変換された表示されるべきウィンドウは、3次元ウィンドウである、送信モジュール;を含む。
第2態様の第1の可能な実装において、3D変換モジュールは、少なくとも1つの表示されるべきウィンドウに対して双眼レンダリングを実行して、少なくとも1つの表示されるべきウィンドウにおける左眼画像及び右眼画像を取得するように構成される。
第2態様又は第2態様の第1の可能な実装によると、第2態様の第2の可能な実装において、第1電子デバイスは、3Dモードのスイッチがターンオンされたことを検出し、ウィンドウ取得モジュールをトリガするように構成される第2検出モジュール;又は第2電子デバイスから通知を受け取って、ウィンドウ取得モジュールをトリガするように構成される第3検出モジュールであって、通知は、第2電子デバイスがユーザによって装着されていることを示すために使用される、第3検出モジュールを更に含む。
第2態様又は第2態様の第1の可能な実装によると、第2態様の第3の可能な実装において、第1電子デバイスは、 3Dモードのスイッチがターンオンされたことを検出し、送信モジュールをトリガするように構成される第4検出モジュール;又は第2電子デバイスから通知を受け取って、送信モジュールをトリガするように構成される第5検出モジュールであって、通知は、第2電子デバイスがユーザによって装着されていることを示すために使用される、第5検出モジュール;を更に含む。
第3の可能な実装までの第2態様によると、第2態様の第4の可能な実装において、少なくとも1つの表示されるべきウィンドウは、アプリケーションプログラ・インタフェース及び/又はデスクトップ画面を含む。
第2態様の第4の可能な実装によると、第2態様の第5の可能な実装において、アプリケーションプログラムインタフェースは、第2電子デバイスが接続されていることを第1電子デバイスが検出したときに取得される、第1電子デバイスの現在のフォアグラウンドアプリケーションのインタフェースとバックグラウンドアプリケーションのインタフェースとを含む。
第2態様の第5の可能な実装によると、第2態様の第6の可能な実装において、第1電子デバイスは、現在のフォアグラウンドアプリケーションのインタフェースをフォーカスウィンドウに設定し、バックグラウンドアプリケーションのインタフェースを可視ウィンドウに設定するように構成されたウィンドウステータス調整モジュールを更に含む。
第2態様の第6の可能な実装によると、第2態様の第7の可能な実装において、デスクトップ画面は、少なくとも2つのアプリケーションのアイコンを含み、これらのアイコンは、アプリケーションの使用頻度に基づいてハイライトされる。
第7の可能な実装までの第2態様によると、第2態様の第8の可能な実装において、第2電子デバイスはカメラを含み、第1電子デバイスは、カメラによって収集されたコンテンツを受け取るように構成される受信モジュールを更に備え、送信モジュールは、第2電子デバイスがカメラによって収集されたコンテンツをリアルタイムで表示するように、カメラによって収集されたコンテンツを第2電子デバイスにリアルタイムで送信するように更に構成される。
第3態様によると、電子デバイスが提供され、第2電子デバイス上に三次元(3D)インタフェースを表示するように構成される。電子デバイスは、周辺インタフェース、プロセッサ及びメモリを含む。メモリはプログラムを記憶するように構成され;プロセッサは、電子デバイスが第8の可能な実装までの第1態様のうちのいずれか1つによる方法を実行するように、メモリ内のプログラムを実行するように構成される。
第4態様によると、コンピュータ読取可能記憶媒体が提供され、命令を含む。命令がコンピュータ上で実行されると、コンピュータは、第8の可能な実装までの第1態様のうちのいずれか1つによる方法を実行することを可能にされる。
第5態様によると、命令を含むコンピュータプログラム製品が提供される。コンピュータプログラム製品がコンピュータ上で実行されると、コンピュータは、第8の可能な実装までの第1態様のうちのいずれか1つによる方法を実行することを可能にされる。
本出願の実施形態における技術的解決策をより明確に説明するために、以下では、実施形態を説明するために必要とされる添付の図面を簡単に説明する。以下の説明における添付図面は、単に本出願のいくつかの実装を示すものにすぎないことは明らかである。
本出願の様々な実装における電子デバイス及びネットワークのブロック図である;
様々な実装における電子デバイスのブロック図である;
様々な実装におけるプログラムモジュールのブロック図である;
様々な実装における電子デバイスの立体図である;
二次元表示及び三次元表示方式の概略図である; 二次元表示及び三次元表示方式の概略図である;
本出願の実施形態による方法の実施形態1のフローチャートである;
本出願の実施形態によるステップ602を実装するフローチャートである;
本出願の実施形態によるステップ604を実装するフローチャートである;
本出願の実施形態による方法の実施形態2のフローチャートである;
本出願の実施形態による方法の実施形態3のフローチャートである;
本出願の実施形態によるステップ1003を実装するフローチャートである;
本出願の実施形態による3Dモードの表示インタフェースの例1を示す;
本出願の実施形態による3Dモードの表示インタフェースの例2を示す;
本出願の実施形態による3Dモードの表示インタフェース内でアプリケーションを開く概略図である;
本出願の実施形態による3Dモードの表示インタフェースの例3を示す;
本出願の実施形態による3Dモードの表示インタフェースの例4を示す; 本出願の実施形態による3Dモードの表示インタフェースの例4を示す; 本出願の実施形態による3Dモードの表示インタフェースの例4を示す;
本出願の実施形態による電子デバイスの内部構造の概略図である。
当業者は、本出願の原理が、任意の適切に配置された電子デバイスにおいて実装されてよいことを理解するであろう。以下では、本出願の実施形態が添付の図面に関連して説明される。しかしながら、本出願は、本明細書に開示される特定の形態に限定されるよう意図されていないことが理解されるべきである;むしろ、本出願は、本出願の実施態様に対するすべての変更、均等物及び/又は代替物を網羅するものであると理解されるべきである。図面を説明する際に、類似の参照番号を使用して類似の構成要素を示することがある。
本出願において使用されるとき、「有する」、「有してよい」、「含む」又は「含んでよい」という表現は、対応する特徴(例えば数字、機能、動作又は要素(例えば構成要素等))が存在するが、1つ以上の他の特徴は除外されないことを意味する。
本出願において、「A又はB」の表現、「A又はB」のうちの少なくとも1つ、「A又は/及びBの1つ以上」は、列挙されるエントリのすべての可能な組合せを含んでよい。例えば「A又はB」、「A及びBのうちの少なくとも1つ」又は「A又はBのうちの少なくとも1つ」という表現は、(1)少なくとも1つのAを含むこと、(2)少なくとも1つのBを含むこと又は(3)少なくとも1つのAと少なくとも1つのBの双方を含むこと;のすべてを意味する。
本出願の様々な実装において使用される「第1」、「第2」、「前記第1」又は「前記第2」という表現は、順序及び/又は重要性にかかわらず、様々な構成要素を修正してよく、対応する構成要素は限定されない。例えば第1ユーザ装置と第2ユーザ装置は異なるユーザ装置であるが、それらは双方ともユーザ装置である。例えば本出願の範囲から逸脱することなく、第1要素が第2要素と呼ばれてよく、同様に、第2要素が第1要素と呼ばれてもよい。
ある要素(例えば第1要素)が、別の要素(例えば第2要素)に(動作的又は通信的に)「接続される」又は「結合される」と表現されるとき、その要素は、その別の要素に直接接続又は直接結合されてよく、あるいはその2つの間に任意の他の要素(第3要素等)が挿入されてもよいことが理解されるべきである。対照的に、ある要素(例えば第1要素)が、別の要素(例えば第2要素)に「直接接続される」又は「直接結合される」と説明されるとき、その2つの要素の間には要素(第3要素等)は挿入されないことが理解されるべきである。
本出願において使用される「ように構成される」という表現は、状況に応じて「に適切」、「が可能」、「ように設計される」、「ように適合される」、「に対して作られる」、「できる」又は同様の語と交換されてよい。「ように構成される」という用語は、必ずしもハードウェアにおいて「ように特別に設計される」ことを示唆しない。あるいは、場合によっては、「デバイスが・・ように構成される」という表現は、あるデバイスが、別のデバイス又は構成要素と一緒に「できる」ことを示すことがある。例えばA、B及びCを実行するように適合される(又は構成される)プロセッサは、対応する動作を実行するようにのみ構成される専用プロセッサ(例えば組み込みプロセッサ)、あるいはストレージデバイスに記憶された1つ以上のソフトウェアプログラムを実行することによって対応する動作を実行するように構成される汎用プロセッサ(例えば中央処理ユニット(CPU)又はアプリケーションプロセッサ(AP))を表してよい。
本出願で使用される用語は、単に特定の実施形態を説明する目的のためのものにすぎず、他の実施形態の範囲を限定するように意図されていない。単数形の表現は、それらが文脈において明示的に異ならない限り、複数形の表現を含んでよい。別段の定義がない限り、本出願において使用されるすべての用語(技術用語及び科学用語を含む)は、本出願の当業者によって一般的に理解されるものと同じ意味を有する。そのような用語(一般に使用される辞書で定義されているもののような)は、関連する技術における文脈の意味と同等の意味を有するものとして解釈されてよく、本出願において明示的に定義されていない限り、それらは、理想的又は拡大解釈された意味を有するものとしては解釈されない。場合によっては、本出願において定義された用語であっても、本出願の実施態様を除外するものとして解釈されるべきではない。
本出願の実装における電子デバイスは、以下のうちの少なくとも1つ、すなわち、インテリジェント電話、タブレット型パーソナルコンピュータ(PC)、携帯電話、ビデオ電話、電子ブックリーダー、デスクトップPC、ラップトップPC、ノートブックコンピュータ、ワークステーション、サーバ、パーソナル・デジタル・アシスタント(PDA)、ポータブル・マルチメディア・プレーヤ(PMP)、MPEG-1 オーディオレイヤ-3(MP3)プレーヤ、モバイル医療デバイス、カメラ又はウェアラブルデバイス、のうちの少なくとも1つを含んでよい。様々な実装において、ウェアラブルデバイスは、以下のうちの少なくとも1つ、すなわち、アクセサリー型ウェアラブルデバイス(時計、リストバンド、ブレスレット、アンクレット、ネックレス、眼鏡、コンタクトレンズ又はヘッドマウントデバイス(HMD)等)、ファブリック又は衣類一体型ウェアラブルデバイス(例えば電子衣類)、ウェアオン型(wear-on-type)ウェアラブルデバイス(例えば保護ギア又はタトゥー)又はバイオインプランテーション型(bio-implantation-type)ウェアラブルデバイス(例えばインプラント可能回路)、のうちの少なくとも1つを含んでよい。
いくつかの実装では、電子デバイスは家庭用機器であってよい。家庭用機器は、例えば以下のうちの少なくとも1つ、すなわち、テレビジョンセット、デジタルビデオディスク(DVD)プレーヤ、オーディオ装置、冷蔵庫、エアコン、掃除機、ベーキングオーブン、電子レンジ、洗濯機、エアクリーナー、セットトップボックス、家庭用自動制御パネル、セキュリティ制御パネル、TVボックス(例えばSamsung Home Sync(登録商標)、Apple TV(登録商標)又はGoogle TV(登録商標))、ゲームコンソール(例えばXbox(登録商標)及びPlayStation(登録商標))、電子辞書、電子キー、ビデオカメラ又は電子フォトフレーム、のうちの少なくとも1つを含んでよい。
以下の説明において、本出願の様々な実装における電子デバイスは、添付の図面に関連して説明される。本出願において使用されるとき、「ユーザ」という用語は、電子デバイスを使用している人又は電子デバイスを使用しているデバイス(例えば人工知能電子デバイス)を指してよい。
様々な実装においてネットワーク環境100内に配置される電子デバイス101は、図1に関連して説明されることになる。電子デバイス101は、バス110、プロセッサ120、メモリ130、入力/出力インタフェース150、ディスプレイ160及び通信インタフェース170を含んでよい。いくつかの実装において、電子デバイス101は、前述の要素のうちの少なくとも1つを省略してもよく、あるいは別の要素を更に含んでもよい。
バス110は、例えば構成要素110~170を相互接続し、かつ通信(例えば制御メッセージ及び/又はデータ)を伝達するような回路を含んでよい。
プロセッサ120は、1つ以上の中央処理装置(CPU)、アプリケーションプロセッサ(AP)及び/又は通信プロセッサ(CP)を含んでよい。例えばプロセッサ120は、電子デバイス101の少なくとも1つの他の構成要素の制御及び/又は通信に関連する動作又はデータ処理を実行してよい。
メモリ130は、揮発性メモリ及び/又は不揮発性メモリを含んでもよい。メモリ130は、例えば電子デバイス101の少なくとも1つの他の構成要素に関連する命令又はデータを記憶してよい。一実装に基づいて、メモリ130は、ソフトウェア及び/又はプログラムを記憶してよい。プログラムは、カーネル141、ミドルウェア143、アプリケーションプログラミングインタフェースAPI 145及び/又はアプリケーションプログラム(又は「アプリケーション」)147を含んでよい。カーネル141、ミドルウェア143及びAPI 145のうちの少なくともいくつかが、オペレーティングシステム(OS)と呼ばれてもよい。
カーネル141は、例えば他のプログラム(例えばミドルウェア143、API 145及びアプリケーションプログラム147)で実装された動作又は機能を実行するために、システムリソース(例えばバス110、プロセッサ120及びメモリ130)を制御又は管理してよい。加えて、カーネル141は、インタフェースを提供してよく、ミドルウェア143、API 145又はアプリケーションプログラム147は、インタフェースを使用してシステムリソースを制御又は管理することによって、電子デバイス101の別個の要素にアクセスしてよい。
例えばミドルウェア143は、API 145又はアプリケーション147がカーネル141と通信してデータを交換することを可能にするよう、インターミディアリとして使用されてよい。
ミドルウェア143は、タスク要求の優先度に基づいて、アプリケーションプログラム147から受け取った1つ以上のタスク要求を処理してよい。例えばミドルウェア143は、アプリケーションプログラム147のうちの少なくとも1つに、電子デバイス101を使用するために使用されるシステムリソース(例えばバス110、プロセッサ120及びメモリ130)の優先度を割り当ててよい。例えばミドルウェア143は、タスク要求に割り当てられた優先度に基づいて1つ以上のタスク要求を処理することによって、1つ以上のタスク要求についてスケジューリング又はロードバランシングを実行してよい。
API 145は、カーネル141又はミドルウェア143によって提供される機能を制御するためにアプリケーション147によって使用されるインタフェースであり、例えばファイル制御、ウィンドウ制御、画像処理又はテキスト制御のための少なくとも1つのインタフェース又は機能(例えば命令)を含んでよい。
入力/出力インタフェース150は、例えばユーザ又は別の外部デバイスからの命令又はデータ入力を電子デバイス101の別の(他の)要素に転送するインタフェースとして機能してよい。加えて、入力/出力インタフェース150は、電子デバイス101の別の(他の)要素から受け取った命令又はデータをユーザ又は別の外部デバイスに出力してよい。
ディスプレイ160は、例えば液晶ディスプレイ(IXD)、発光ダイオード(LED)ディスプレイ、有機発光ダイオード(OLED)ディスプレイ、マイクロエレクトロメカニカルシステム(MEMS)ディスプレイ及び電子ペーパーディスプレイを含んでよい。ディスプレイ160は、様々なタイプのコンテンツ(例えばテキスト、画像、ビデオ、アイコン又はシンボル)をユーザに表示してよい。ディスプレイ160は、タッチスクリーンを含んでよく、電子ペン又はユーザの身体の一部を使用するなどして、タッチ入力、姿勢入力、近接入力又はホバー入力を受け取ってよい。
例えば通信インタフェース170は、電子デバイス101と外部デバイス(例えば第1外部電子デバイス102、第2外部電子デバイス104又はサーバ106)との間の通信を確立してよい。例えば通信インタフェース170は、外部デバイス(例えば第2外部電子デバイス104又はサーバ106)と通信するために、無線又は有線通信を介してネットワーク162に接続されてよい。
無線通信は、セルラー通信プロトコルとして、以下のうちの少なくとも1つ、すなわち、ロングタームエボリューション(LTE)、高レベルLTE(LTE-A)、符号分割多元接続(CDMA)、広帯域CDMA(WCDMA)、ユニバーサル移動通信システム(UMTS)、無線ブロードバンド(WiBro)及びグローバル移動通信システム(GSM)等、のうちの少なくとも1つを使用してよい。加えて、無線通信は、例えば短距離通信164を含んでよい。短距離通信164は、以下のうちの少なくとも1つ、すなわち、例えばWi-Fi、Bluetooth(登録商標)、近距離通信(NFC)及びグローバルナビゲーション衛星システム(GPS)、のうちの少なくとも1つを含んでよい。有線通信は、以下のうちの少なくとも1つ、すなわち、例えばユニバーサルシリアルバス(USB)、高精細マルチメディア・インタフェース(HDMI)、レコメンデーション・スタンダード232(RS-232)及び基本電話サービス(POTS)、のうちの少なくとも1つを含んでよい。ネットワーク162は、以下ののうちの少なくとも1つ、すなわち、通信ネットワーク(例えばコンピュータネットワーク(LAN又はWAN等))、インターネット及び電話ネットワーク、のうちの少なくとも1つを含んでよい。
第1外部電子デバイス102及び第2外部電子デバイス104は、電子デバイス101と同じタイプのデバイスであっても異なるタイプのデバイスであってもよい。一実装に基づいて、サーバ106は、1つ以上のサーバを有するグループを含んでよい。様々な実装において、電子デバイス101で実行される動作のすべて又は一部が、別の電子デバイス又は複数の電子デバイス(例えば電子デバイス102又は104又はサーバ106)で実行されてもよい。一実装に基づいて、電子デバイス101が機能又はサービスを自動的に又は要求に応答して実行しなければならないとき、電子デバイス101は、その機能又はサービスを自律的に又は追加的に実行する代わりに、その機能又はサービスに関連する機能又はサービスの少なくとも一部を実行するよう別のデバイス(例えば電子デバイス102又は104又はサーバ)に要求してよい。別の電子デバイス(例えば電子デバイス102、104又はサーバ106)は、要求された機能又は別の機能を実行してよく、実行結果を電子デバイス101に転送してよい。電子デバイス101は、受け取った結果を現在の状況として処理してよく、加えて、その結果を処理し、要求された機能又はサービスを提供する。この目的のために、例えばクラウドコンピューティング、分散コンピューティング又はクライアント-サーバコンピューティング技術が使用されてよい。
電子デバイス101は、モーションセンサ190を含んでもよい。モーションセンサは、プロセッサ120に電気的に接続され、電子デバイス120の運動情報を取得する。モーションセンサ190は、電子デバイスの直線加速度、回転角加速度又は方向情報を感知し得る、以下のうちの少なくとも1つ、すなわち、直線加速度センサ、ジャイロセンサ及び地磁気センサ、のうちの少なくとも1つを含んでよい。電子デバイス101は、センサからの出力値に基づいて、電子デバイス101の運動情報を取得し得る。例えば電子デバイス101は、直線加速度センサからの出力値に基づいて、電子デバイス101の直線加速度を取得し得る。電子デバイス101は、ジャイロセンサからの出力値に基づいて、電子デバイス101の回転角加速度を取得し得る。電子デバイス101は、ジャイロセンサ及び地磁気センサの各々からの出力値に基づいて、電子デバイス101の運動方向情報を取得し得る。
本出願の様々な実装において、プロセッサ120はディスプレイ160に電気的に接続されてもよい。加えて、プロセッサ120は、メモリ130に電気的に接続されてもよい。メモリ130は、取得された運動情報から慣性力成分を除去するために慣性力補正を実行し、慣性力が補正された運動情報に対応する画面を表示するようにプロセッサ120に指示する命令を記憶してよい。
本出願の様々な実装において、メモリ130は、命令が実行されると、以下の動作、すなわち、慣性成分を取得すること、を実行するようプロセッサ120に指示するために使用される命令を更に記憶してよい。
本出願の様々な実装において、通信モジュール170は、電子デバイスとは物理的に別個の別の電子デバイスから慣性成分を受け取り、慣性成分を感知してもよい。
本出願の様々な実装において、メモリ130は、命令が実行されると、以下の動作、すなわち、慣性力に対応する慣性加速度及び運動情報に対応する加速度の逆ベクトルを加えることによって補正ベクトルを生成することと;生成された補正ベクトルに対応する画面を表示するようにディスプレイ160を制御することと、を実行するようプロセッサ120に指示するために使用される命令を更に記憶してよい。
本出願の様々な実装において、メモリ130は、命令が実行されると、以下の動作、すなわち、ユーザが電子デバイスを動かすときにユーザの少なくとも1つの身体部分から生体測定信号を取得することと;生体測定信号が取得されないとき、取得された運動情報に対応する慣性成分を除去することと、を実行するようプロセッサ120に指示するために使用される命令を更に記憶してよい。電子デバイス101は、センサを更に含んでもよい。センサは、生体測定信号を取得してよく、プロセッサ120は、生体測定信号センサから生体測定信号を取得し得る。
本出願の様々な実装において、メモリ130は、命令が実行されると、以下の動作、すなわち、運動情報が、予め設定された範囲に含まれるかどうかを判断することと;予め設定された範囲を超える運動情報に対応する慣性成分を除去することと、を実行するようプロセッサ120に指示するために使用される命令を更に記憶してよい。
本出願の様々な実装において、メモリ130は、命令が実行されると、以下の動作、すなわち、電子デバイス101の方向情報を取得することと;方向情報が変更されないとき、取得された運動情報に対応する慣性成分を除去することと、を実行するようプロセッサ120に指示するために使用される命令を更に記憶してよい。
本出願の様々な実装において、メモリ130は、命令が実行されるとき、以下の動作、:すなわち、運動情報の線形成分に対応する慣性力成分を除去すること、を実行するようプロセッサ120に指示するための命令を更に記憶してよい。
本出願の様々な実装において、メモリ130は、命令が実行されると、以下の動作、すなわち、運動情報の回転成分に応じて画面を表示すること、を実行するようプロセッサ120に指示する命令を更に記憶してよい。
電子デバイス101は、電子デバイスの外部環境の複数の画像をキャプチャし、その複数の画像をプロセッサに出力するカメラモジュール(図示せず)を更に含んでもよい。本出願の様々な実装において、メモリ130は、命令が実行されると、以下の動作、すなわち、複数の画像の隣接画像が変更されないとき、取得された運動情報に対応する慣性力成分を除去すること、を実行するようプロセッサ120に指示するための命令を更に記憶してよい。
本出願の様々な実装において、メモリ130は、命令が実行されると、以下の動作、すなわち、複数の画像の隣接画像間の差に基づいて、電子デバイスの運動情報を取得すること、を実行するようプロセッサ120に指示するための命令を更に記憶してよく;ディスプレイは、取得された運動情報に対応する画面を表示するように制御される。
本出願の様々な実装において、メモリ130は、命令が実行されると、以下の動作、すなわち、別の電子デバイスに対する電子デバイスの相対的な位置に基づいて、電子デバイスの運動情報を取得すること、を実行するようプロセッサ120に指示するための命令を更に記憶してよく;ディスプレイは、取得された運動情報に対応する画面を表示するように制御される。
図2は、様々な実装における電子デバイス201のブロック図である。電子デバイス201は、例えば図1に図示される電子デバイス101の全体又は一部を含んでよい。電子デバイス201は、少なくとも1つのアプリケーションプロセッサ(AP)210、通信インタフェース220、加入者識別モジュール224、メモリ230、センサモジュール240、入力デバイス250、ディスプレイ260、インタフェース270、オーディオインタフェース280、カメラモジュール291、電力管理ユニット295、バッテリ296、インジケータ297及びモータ298を含んでよい。
プロセッサ210は、例えばオペレーティングシステム又はアプリケーションプログラムを駆動して、プロセッサ210に接続された複数のハードウェア又はソフトウェア要素を制御し、様々なタイプのデータ処理及び動作を実行してよい。プロセッサ210は、例えばシステムオンチップ(SoC)によって実装されてよい。実施形態によると、プロセッサ210は、グラフィクス処理ユニット(CPU)及び/又は画像信号プロセッサを更に含んでよい。プロセッサ210は、(セルラモジュール221のような)図2に図示される要素の少なくともいくつかを更に含んでもよい。プロセッサ210は、揮発性メモリ内に、別の要素のうちの少なくとも1つ(例えば不揮発性メモリ)から受け取った命令又はデータロードして、ロードされた命令又はデータを処理してよく、様々なタイプのデータを不揮発性メモリ内に記憶してもよい。
通信モジュール220は、図1の通信インタフェース170の構成と同等又は同様の構成を有してよい。通信モジュール220は、例えばセルラモジュール221、Wi-Fiモジュール223、Bluetooth(BT)モジュール225、GPSモジュール227、NFCモジュール228及び無線周波数(RF)モジュール229を含んでよい。
セルラインタフェース221は、例えば通信ネットワークを介して、音声通話、ビデオ通話、テキストメッセージサービス又はインターネットサービスを提供してよい。一実施形態によると、セルラモジュール221は、加入者識別モジュール224(例えばSIMカード)を使用して、通信ネットワーク内の電子デバイス201を区別して認証してよい。一実施形態によると、セルラモジュール221は、プロセッサ210によって提供され得る機能のうちの少なくともいくつかを実行してよい。本出願の実施形態によると、セルラモジュール221は、通信プロセッサ(CP)を含んでもよい。
Wi-Fiモジュール223、BTモジュール225、GPSモジュール227及びNFCモジュール228の各々は、例えば対応するモジュールを使用することによって送信又は受信されたデータを処理するように構成されるプロセッサを含んでよい。いくつかの実装によると、セルラモジュール221、Wi-Fiモジュール223、BTモジュール225、GPSモジュール227及びNFCモジュール228のうちの少なくともいくつか(2つ以上)が、1つの集積チップ(IC)又はICパッケージに含まれてもよい。
RFモジュール229は、例えば通信信号(例えばRF信号)を送信又は受信してよい。RFモジュール229は、例えばトランシーバ、電力増幅モジュール(PAM)、フィルタ、低雑音増幅器(LNA)又はアンテナを含んでもよい。本出願の別の実装によると、セルラモジュール221、Wi-Fiモジュール223、BTモジュール225、GPSモジュール227及びNFCモジュール228のうちの少なくとも1つは、別個のRFモジュールを使用することによってRF信号を送信又は受信してもよい。
加入者識別モジュール224は、例えば加入者識別モジュール(SIM)及び/又は埋め込みSIMを有するカードを含んでもよく、一意のアイデンティティ識別情報(集積回路カード識別子(ICCID)又は加入者情報(例えばインターナショナル・モバイル・サブスクライバー・アイデンティティ(IMSI))を含んでもよい。
メモリ230(例えばメモリ130)は、例えば内部メモリ232又は外部メモリ234を含んでよい。内部メモリ232は、例えば揮発性メモリ(例えば動的ランダムアクセスメモリ(DRAM)、静的RAM(SRAM)及び同期動的RAM(SDRAM))及び不揮発性メモリ(例えばワンタイムプログラマブル読み取り専用メモリ)(OTPROM)、プログラマブルROM(PROM)、消去可能プログラマブルROM(EPROM)、電気的消去可能プログラマブルROM(EEPR0M)、マスクROM、フラッシュメモリROM、フラッシュメモリ(例えばNANDフラッシュメモリ又はNORフラッシュメモリ)、ハードディスクドライブ又はソリッドステートドライブ(SSD)のうちの少なくとも1つを含んでよい。
外部メモリ234は、コンパクトフラッシュメモリ(CF)、セキュアデジタル(SD)、マイクロセキュアデジタル(Micro-SD)、ミニセキュアデジタル(Mini-SD)、マルチメディアカード(MMC)、メモリスティック等のようなフラッシュメモリドライブを更に含んでもよい。外部メモリ234は、様々なインタフェースを介して、電子デバイス201に機能的及び/又は物理的に接続されてよい。
センサモジュール240は、物理的な量を測定するか又は電子デバイス201の動作ステータスを検出してよく、測定又は検出された情報を電気信号に変換してよい。センサモジュール240は、例えば以下のうちの少なくとも1つ、すなわち、姿勢センサ240A、ジャイロスコープセンサ240B、気圧センサ240C、磁気センサ240D、加速度センサ240E、保持センサ240F、近接センサ240G、色センサ240H(例えば赤、緑及び青(RGB)センサ)、生体測定センサ2401、温度又は湿度センサ240J、光センサ240K及び紫外線(UV)センサ240M、のうちの少なくとも1つを含んでよい。追加又は代替として、センサモジュール240は、例えば電子ノーズ・スリミング・センサ(electronic nose Slimming sensor)、筋電画像(EMG)センサ、脳波(EEG)センサ、心電図(ECG)センサ、赤外線(IR)センサ、IRISセンサ及び/又は指紋センサを含んでよい。センサモジュール240は、センサモジュール240に含まれる少なくとも1つのセンサを制御するように構成される制御回路を更に含んでよい。いくつかの実装において、電子デバイス201は、プロセッサを更に含んでよい。プロセッサは、プロセッサ210の一部として構成されるか又はプロセッサ210から独立しており、プロセッサ210がスリープ状態にあるときにセンサモジュール240を制御するために、センサモジュール240を制御する。
入力デバイス250は、例えばタッチパネル252、(デジタル)ペンセンサ254、キー256又は指紋センサ258を含んでよい。タッチパネル252は、容量型、抵抗型、赤外線型及び超音波型のうちの少なくとも1つを使用してよい。加えて、タッチパネル252は、制御回路を更に含んでよい。タッチパネル252は、ユーザに触覚反応を提供するために、触覚層を更に含んでよい。
(デジタル)ペンセンサ254は、例えばタッチパネルの一部として又はタッチパネルから独立した識別プレートとして含んでよい。キー256は、例えば物理的ボタン、光学キー又は小さなキーボードを含んでよく、指紋センサ258は、指紋データを検出してよい。
ディスプレイ260(例えばディスプレイ160)は、パネル262、ホログラフィックデバイス264又はプロジェクタ266を含んでよい。パネル262は、図1に示されるディスプレイ160のものと同一又は類似の構成を含んでよい。フェースプレート262は、例えば可撓性、透明又はウェアラブルとして実装されてよい。パネル262及びタッチパネル252は、1つのモジュールとして実装されてもよい。ホログラフィックデバイス264は、光干渉を使用することによって、空中に三次元画像を表示し得る。プロジェクタ266は、画像を表示するために画面上に光を投影してよい。例えば画面は、電子デバイス201の内側又は外側に配置されてよい。一実装によると、ディスプレイ260は、制御パネル262、ホログラフィックデバイス264又はプロジェクタ266のための制御回路を更に含んでよい。
インタフェース270は、例えば高精細マルチメディア・インタフェース(HDMI)272、ユニバーサルシリアルバス(USB)274及び光モジュール276を含んでよい。インタフェース270は、例えば図1に示される通信インタフェース170に含まれてもよい。追加又は代替として、インタフェース270は、例えばモバイル高精細リンク(MHL)インタフェース、セキュアデジタル(SD)カード/マルチメディアカード(MMC)インタフェース又は赤外線データ・アソシエーション(IrDA)規格のインタフェースを含んでよい。
オーディオモジュール280は、例えば音声及び電気信号に対して双方向変換を実行してよい。オーディオモジュール280内の少なくともいくつかの要素は、例えば図1に示される入力/出力インタフェース145に含まれてよい。オーディオモジュール280は、例えばスピーカ282、レシーバ284、ヘッドセット286又はマイクロホン288を使用することによって、入力又は出力される音声情報を処理してよい。
実装に基づいて、静止画像及び動的画像を撮ることができるカメラモジュール291は、1つ以上の画像センサ(例えばフロントセンサ又はバックセンサ)、レンズ、画像信号プロセッサ(ISP)又はフラッシュ(例えばLED、キセノンランプ)を含んでよい。
電力管理ユニット295は、例えば電子デバイス201の電源を管理してよい。実装に基づいて、電力管理ユニット295は、電力管理集積回路(PMIC)、充電器1C又はバッテリテーブルを含んでもよい。PMICは、有線及び/又は無線充電方法を使用してよい。無線充電方法の例には、磁気共鳴法、磁気誘導法、電磁気的方法等が含まれ得る。無線充電のための追加の回路(例えばコイルループ、共振回路、整流器)が更に含まれてもよい。バッテリテーブルは、例えばバッテリ296の残りのバッテリ電力と、充電中の電圧、電流又は温度を測定してよい。バッテリ296は、例えば再充電可能バッテリ及び/又はソーラーバッテリを含んでよい。
インジケータデバイス297は、起動状態、メッセージ状態、充電状態のような、電子デバイス201又は該電子デバイス201の一部(例えばプロセッサ210)の特定の状態を表示してよい。モータ298は、電気信号を機械的振動に変換してよく、振動効果又は触覚効果を発生させ得る。図示されていないが、電子デバイス201は、モバイルテレビジョン(TV)をサポートするように構成される処理ユニット(例えばGPU)を含んでよい。モバイルTVをサポートするための処理ユニットは、デジタル・マルチメディア・ブロードキャスティング(DMB)、デジタル・ビデオ・ブロードキャスティング(DVB)、MediaFLO(登録商標)等4のような規格に基づいてメディアデータを処理することができる。
本出願のハードウェアに基づく前述の構成要素の成分の各々は、1つ以上の構成要素とともに構成されてもよく、対応する構成要素の成分の名称は、電子デバイスのタイプに基づいて変わってよい。本出願の様々な実装における電子デバイスは、前述の要素のうちの少なくとも1つを含んでよい。いくつかの構成要素が省略されてもよく、あるいは別の構成要素が電子デバイスに更に含まれてもよい。加えて、実装におけるハードウェア構成要素のいくつかが、1つのエンティティに組み合わされてよく、エンティティは、組合せの前の関連する構成要素と同じ機能を実行し得る。
図3は、本出願の様々な実装におけるプログラムモジュールのブロック図である。一実施形態に基づいて、プログラムモジュール310(例えばプログラム)は、電子デバイス(例えば電子デバイス101)に関連付けられるリソース及び/又はオペレーティングシステム内で実行される様々なアプリケーション(例えばアプリケーション147)を制御するように構成されるオペレーティングシステム(OS)を含んでよい。オペレーティングシステムは、例えばAndroid(登録商標)、iOS(登録商標)、Windows(登録商標)、Symbian(登録商標)、Tizen(登録商標)又はSamsung BadaOS(登録商標)等であってよい。
プログラムモジュール310は、カーネル320、ミドルウェア330、アプリケーションプログラミングインタフェース(API)360及び/又はアプリケーション370を含んでもよい。プログラムモジュール310の少なくとも一部は、電子デバイス上に予めインストールされてよく、外部電子デバイス(例えば電子デバイス102、104又はサーバ106)からダウンロードされてもよい。
メモリ320(例えばメモリ141)は、例えばシステムリソースマネージャ321及び/又はデバイスドライバ323を含んでもよい。システムリソースマネージャ321は、システムリソースを制御、割り当て又は収集してよい。一実装に基づいて、システムリソースマネージャ321は、プロセスマネージャ、メモリマネージャ又はファイルシステムマネージャを含んでよい。デバイスドライバ323は、例えばディスプレイドライバ、カメラドライバ、Bluetoothドライバ、共有メモリドライバ、USBドライバ、キーパッドドライバ、Wi-Fiドライバ、オーディオドライバ又はプロセス間通信(IPC)ドライバを含んでよい。
ミドルウェア330は、アプリケーション370により共同で必要とされる機能を提供してよい。あるいは、それは、アプリケーション370が電子デバイス内の限られたシステムリソースを有効に使用し得るように、API 360を使用することによって、アプリケーション370に様々な機能を提供してもよい。一実装に基づいて、ミドルウェア330(ミドルウェア143等)は、例えば以下のうちの少なくとも1つ、すなわち、ランタイムライブラリ335、アプリケーションマネージャ341、ウィンドウマネージャ342、マルチメディアマネージャ343、リソースマネージャ344、電力マネージャ345、データベースマネージャ346、ソフトウェアパッケージマネージャ347、接続マネージャ348、通知マネージャ349、ロケーションマネージャ350、グラフィクスマネージャ351及びセキュリティマネージャ352、のうちの少なくとも1つを含んでよい。
ランタイムライブラリ335は、アプリケーション370が実行されるときに、ライブラリ・モジュールを使用してプログラミング言語で新しい関数を追加するライブラリ・モジュールを含んでよい。ランタイムライブラリ335は、入力/出力管理、メモリ管理又は算術関数のための関数を実行してよい。
アプリケーションマネージャ341は、例えばアプリケーション370のうちの少なくとも1つの寿命を管理してよい。ウィンドウマネージャ342は、画面上で使用されるグラフィカルユーザインタフェース(GUI)リソースを管理してよい。マルチメディアマネージャ343は、様々なメディアファイルを再生するために必要なフォーマットを識別し、対応するフォーマットに適したコードを使用してメディアファイルを符号化又は復号し得る。リソースマネージャ344は、ソースコード、メモリ又はストレージスペースのような、アプリケーション370のうちの少なくとも1つのリソースを管理し得る。
電力マネージャ345は、例えば基本入出力システム(BIOS)とともに動作してバッテリ又は電源を管理してよく、電子デバイスが動作するために必要な電源情報を提供してよい。データベースマネージャ346は、アプリケーション370のうちの少なくとも1つのために使用されるデータベースを生成、検索又は変更してよい。ソフトウェアパッケージマネージャ347は、ソフトウェアパッケージ・ファイルの形式で配布されるアプリケーションのインストール又は更新を管理してよい。
接続マネージャ348は、Wi-Fi又はBTのような無線接続を管理してよい。通知マネージャ349は、ユーザを妨害することなく、到着メッセージ、配置又は近接通知等のイベントをユーザに表示又は通知してよい。ロケーションマネージャ350は、電子デバイスの位置情報を管理してよい。グラフマネージャ351は、ユーザに提供されるグラフィカル効果及びグラフィカル効果に関連付けられるユーザインタフェースを管理してよい。セキュリティマネージャ352は、システム・セキュリティ又はユーザ検証に必要なすべてのセキュリティ機能を提供してよい。一実装によると、電子デバイス(例えば電子デバイス101)が電話呼出し機能を有するとき、ミドルウェア330は、電子デバイスの音声呼出し機能又はビデオ呼出し機能を管理するように構成される電話マネージャを更に含んでよい。
ミドルウェア330は、ミドルウェアモジュールを含んでよく、ここで、ミドルウェアモジュールは、前述の構成要素の様々な機能の組合せを形成する。ミドルウェア330は、異なる機能を提供するために、オペレーティングシステム・タイプに基づいて専用のモジュールを提供してよい。加えて、ミドルウェア330は、既存の要素の一部を動的に除外してもよく又は新たな要素を追加してもよい。
API 360(例えばAPI 147)は、例えばAPIプログラミング機能セットであり、OSに基づいて異なる構成を採用してもよい。例えばAndroid(登録商標)又はiOS(登録商標)の場合は、プラットフォーム毎に1組のAPIを提供してよく、一方、Tizen(登録商標)の場合は、プラットフォーム毎に2組以上のAPIを提供してもよい。
アプリケーション370(例えばアプリケーション147)は、例えば機能を実行することができる1つ以上のアプリケーションを含んでよく、機能は、例えばホームページキー371、ダイヤラ372、ショートメッセージサービス(SMS)/マルチメディアメッセージサービス(MMS)373、インスタントメッセージ(IM)374、ブラウザ375、カメラ376、アラームクロック377、アドレス帳378、音声ダイヤラ379、電子メールボックス380、カレンダー381、メディアプレーヤ382、アルバム383、クロック384及びセキュリティボタンである。(測定運動量、血糖値等)又は環境情報(大気圧、湿度、温度情報等)。
一実装によると、アプリケーション370は、電子デバイス(例えば電子デバイス101)と外部電子デバイス(例えば電子デバイス102又は104)との間の情報交換をサポートするアプリケーション(以下、説明を容易にするために「情報交換アプリケーション」と称される)を含んでよい。情報交換に関連付けられるアプリケーションは、例えば特定の情報を外部電子デバイスに伝達するための通知中継アプリケーション又は外部電子デバイスを管理するためのデバイス管理アプリケーションを含んでもよい。
例えば中継アプリケーションを通知することは、以下の機能、すなわち:電子デバイス101の別のアプリケーション(例えばSMS/MMSアプリケーション、電子メールアプリケーション、セキュリティアプリケーション又は環境情報アプリケーション)から生成された通知情報が、外部電子デバイス(例えば電子デバイス102又は104)に転送される機能を含んでよい。加えて、通知中継アプリケーションは、例えば外部電子デバイスから通知情報を受け取り、受け取った通知情報をユーザに提供してもよい。
デバイス管理アプリケーションは、電子デバイスと通信する外部電子デバイス(例えば電子デバイス102、104又はサーバ106)の少なくとも1つの機能を管理(例えばインストール、削除又は更新)してよい。(例えば外部電子デバイス(又はそのいくつかの要素)の機能を有効/無効にすること又はディスプレイの照度(又は解像度)の機能を調整すること、外部電子デバイスで実行されているアプリケーション又は外部電子デバイスによって提供されるサービス(例えば通話サービス又はメッセージサービス)。
一実装によると、アプリケーション370は、外部電子デバイス102又は104の属性に従って指定されるアプリケーション(例えばモバイル医療サーバ上のヘルスケア・アプリケーション等)を含んでよい。一実装によると、アプリケーション370は、外部電子デバイス(例えばサーバ106、電子デバイス102又は104)から受け取ったアプリケーションを含んでよい。ある実装によると、アプリケーション370は、予めロードされたアプリケーション又はサーバからダウンロード可能な第三者アプリケーションを含んでよい。本出願の前述の実装によると、プログラムモジュール310の要素の名前は、OSタイプに基づいて変更されてよい。
本出願の例示の実装によると、プログラムモジュール310の少なくともいくつかは、ソフトウェア、ファームウェア、ハードウェア又は組合せ又は上記の少なくとも2つ以上の組合せで実装されてよい。プログラムモジュール310の少なくともいくつかは、例えばプロセッサ(例えばプロセッサ210)によって実装(例えば実行)されてよい。プログラムモジュール310の少なくとも一部は、例えば1つ以上の機能を実行するためのモジュール、プログラム、ルーチン、命令セット及び/又はプロセスを含んでよい。
図4は、本出願の一実施形態による電子デバイス101及び電子デバイス102の立体図である。電子デバイス101はディスプレイを含んでよい。電子デバイス101は、仮想現実アプリケーションを記憶してよい。仮想現実アプリケーションは、実際の現実と同様の表示をユーザに提供することができるアプリケーションであってよい。ある実装によると、仮想現実アプリケーションは、立体視スキームに基づいて、ユーザの各眼に対応する左眼画像及び右眼画像を表示してよい。
電子デバイス102は、ヘッドマウント型ディスプレイであってもよい。電子デバイス102は、ユーザが移動した場合であっても、ユーザの頭部に取り付けられ、ユーザの頭部に固定され得る。加えて、電子デバイス102は、電子デバイス101を更に固定してよく、したがって、ユーザは、電子デバイス101上に表示された画像を観察し得る。
電子デバイス102は、ユーザの頭部に装着するために設けられたハウジングを含んでもよく、任意に、ハウジングの領域内に配置される少なくとも1つの入力ボタンを含んでもよい。電子デバイス102は、入力ボードを更に含んでもよく、入力ボードは、ユーザからタッチ入力を受け取ってもよい。電子デバイス102は、例えばリモートコントロール、リモートコントロールハンドル等の別のデバイスを使用することによって入力してよい。
電子デバイス101は、電子デバイス102に結合されてよい。電子デバイス101は、有線又は無線方式で電子デバイス102に接続されてよい。例えば電子デバイス101は、単なる例であるUSBに基づいて電子デバイス102に接続されてもよい。加えて、接続は、2つのデバイス101と102の間のデータ送信/受信がその接続を使用することによって実装され得る限り、限定されないことを当業者は容易に理解し得る。別の実装によると、電子デバイス101は、単に電子デバイス102に物理的に結合されてもよい。
電子デバイス101は、表示されるべきインタフェースに対して次元変換処理を実行して、表示されるべきインタフェース内で左眼画像及び右眼画像を得てよく、ここで、左眼画像及び右眼画像は、三次元視覚効果を有する表示されるべきインタフェースを提示するために使用される。図5aは、表示されるべきインタフェースを示す。図5bは、表示されるべきインタフェースの左眼画像501及び右眼画像502を示す。
本出願のこの実施形態において、次元変換処理は、二次元(2D)アプリケーションプログラムのインタフェースを三次元(3D)視覚効果のあるインタフェースに変換すること又は三次元アプリケーションプログラムのインタフェースを二次元視覚効果のあるインタフェースに変換することを意味することを理解されたい。本出願のこの実施形態において、左眼画像は、ユーザの左眼画角について生成される画像であり、右眼画像は、ユーザの右眼画角について生成される画像であることを更に理解されたい。
電子デバイス102は、独立の画面を有してよい。この場合、左眼視野は、画面上の、ユーザの左眼によって見られる領域であり、電子デバイス101は、その領域内に左眼画像を表示し、右眼視野は、画面上の、ユーザの右眼によって見られる領域であり、電子デバイス101は、その領域内に右眼画像を表示し、左眼画像及び右眼画像は、対応する光学レンズ群を使用することによって、ユーザの左眼及び右眼に表示される;電子デバイス102が、独立の画面を有していない場合、左眼視野は、電子デバイス102上の、ユーザの左眼と位置合わせされる光学レンズ群であり、電子デバイス101は、外部画面上の、光学レンズ群と位置合わせされる領域内に左眼画像を表示し、右眼視野は、電子デバイス102上の、ユーザの右眼と位置合わせされる光学レンズ群である。電子デバイス101は、外部画面上の、光学レンズ群と位置合わせされる領域に右眼画像を表示し、最終的に、左眼画像と右眼画像は、光路変形を通して、ユーザの左眼及び右眼に表示される。このように、第2左眼画像及び第2右眼画像は、電子デバイス102の左眼画角領域と右眼画角領域を使用することによって、ユーザの左眼と右眼に対して別個に表示され、ユーザは脳内で立体画像を合成することができ、三次元効果の表示されるべきインタフェースを提示することができる。
このアプリケーションにおいて、電子デバイス101は、共通モード又は3Dモードで動作してもよい。例えば電子デバイス101は携帯電話であり、電子デバイス101は共通モードで動作し、携帯電話の通常のステータスで使用される。携帯電話はアプリケーションのインタフェースを表示するか又はデスクトップ画面を表示する。ユーザがアプリケーションを開くことを選択したことが検出されると、携帯電話はステータスバー及びシステムバーを除外し、このアプリケーションのみが表示される。もちろん、携帯電話がフローティング表示又は画面分割表示をサポートするとき、2つのアプリケーションインタフェースが同時に表示される場合は存在し得る。電子デバイス101が3Dモードで動作するとき、電子デバイス101は、複数のウィンドウを同時に表示する3Dインタフェースを提供する。3Dインタフェースは、電子デバイス102の表示画面を使用することによって表示されてもよく又は電子デバイス101によって表示されてもよい。ユーザは、電子デバイス102の光学レンズ(例えばHMD)を使用することによって、3Dインタフェースを見てよい。
例えば電子デバイス101は携帯電話であり、電子デバイス102はウェアラブルデバイスであり、ウェアラブルデバイスは、ディスプレイを有するヘッドマウントディスプレイ(HMD,Head Mount Display)である。3Dモードでは、複数のウィンドウの表示インタフェースがHMDデバイス上に表示され、複数のウィンドウは、複数のアプリケーションインタフェース又は複数のデスクトップ画面であってよく、あるいはアプリケーションインタフェースとデスクトップ画面が共存してもよい。図6を参照すると、本出願のこの実施形態におけるインタフェース表示方法の実施形態1は、以下のステップを含む。
601.携帯電話は、HMDが携帯電話に接続されていることを検出する。
HMDは、USB接続のような有線又は無線方式で携帯電話に接続されてよい。携帯電話は、該携帯電話のUSBインタフェースを使用することによって、HMDが携帯電話に接続されていること、例えばBluetooth接続を検出してよい。携帯電話は、該携帯電話のBluetoothモジュールを使用することによってHMDの接続を検出してよい。本出願のこの実施形態は、前述の2つの接続方式に限定されない。当業者は、携帯電話がHMDに接続されていることを検出する様々な実施形態を知り得る。詳細は本明細書では説明されない。
HMDが初めて接続されていることを検出した場合、HMDドライバが自動的にインストールされ;あるいはHMDが初めて接続されていないことを検出した場合、ドライバをインストールする必要はない。
さらに、携帯電話はHMDの性能を取得する。具体的には、携帯電話内の表示マネージャ(DisplayManager)モジュールは、HMDの表示領域の長さ、幅、解像度等を読み出すことを含め、HMDを登録して管理する。このプロセスでは、携帯電話に合致しないHMD又はマルチウィンドウ表示をサポートしないHMDをフィルタアウトする必要があり、ユーザにプロンプトが出される。
登録が完了した後、VR_DISPLAY_DEVICE_CONNECTEDシステムブロードキャスト(接続状態では、3Dモードへの切り替えは、別の方法で、例えばHMDデバイスの3Dモードのスイッチをターンオンする等の方法でトリガされる。この場合、VR_DISPLAY_DEVICE_OPEN等と同様の他のブロードキャストが対応して送信される)が送信される。すべてのリスナに通知され、リスナはシステムサービス及びアプリケーションである。
HMDがマルチウィンドウ表示をサポートしている場合、この場合、携帯電話の表示インタフェースは3Dモードへの切り替えが行われていることのプロンプトを出してよく、携帯電話が画面を直接ロックして画面オフにすることがある。
表示管理モジュールは、HMDを登録及び管理した後、ブロードキャストを通して、HMDが接続されている上位層システムサービス及びすべてのアプリケーションに、3Dモードに入る準備をするように通知する。上位層システムサービスは、AMS(Activity Manager Service)及びWMS(Window Manager Service)等のサービスを含み、アプリケーションを選択して、ウィンドウステータスを更新する。
602.携帯電話がアプリケーションを選択する。
具体的には、図7に示されるように、以下のステップが含まれる。
6021.現在のフォアグラウンドアプリケーションが画面分割をサポートしているかどうかを判断し;フォアグラウンドアプリケーションが画面分割をサポートしている場合、ステップ6022を実行し;あるいはフォアグラウンドアプリケーションが画面分割をサポートしていない場合、その後の手順を実行し続けることをスキップし、VRモードが切り替えられた後、切り替え前に使用されていたフォアグラウンドアプリケーションをデフォルトとして最大表示し、別のアプリケーションインタフェースを表示することをスキップする。
アプリケーションが画面分割をサポートしているかどうかは、アプリケーションの設計によって決定される。アプリケーションが画面分割をサポートしているということは、アプリケーションやアプリケーション以外のデスクトップ画面等のコンテンツが、分割された画面の形式で表示インタフェースに表示されることが可能であることを意味する。
6022.アプリケーションがバックグラウンドタスクリスト内に存在するかどうかを判断し;アプリケーションが存在する場合はステップ6023を実行する;あるいは、アプリケーションが存在しないときは、その後の手順を継続して実行することをスキップし、VRモードに切り替えた後、切り替え前のフォアグラウンドアプリケーションのウィンドウをデフォルトとして最大表示し、別のアプリケーションウィンドウを表示することをスキップする。
6023.アプリケーションが画面分割をサポートしているかどうかを判断し;画面分割がサポートされている場合、ステップ6024を実行する;あるいは、画面分割が行われない場合、ステップ6025を実行する。
検索処理では、アプリケーションが画面分割をサポートしている場合、マーキングが実行される。
6024.画面分割をサポートする発見されたアプリケーションの数量が、検索される必要があり、かつ、画面分割をサポートするアプリケーションの数量と等しいかどうかを判断し;発見されたアプリケーションの数量が、検索する必要があるアプリケーションの数量と等しくない場合、ステップ6025を実行し;あるいは発見されたアプリケーションの数量が、検索する必要があるアプリケーションの数量と等しい場合は、ステップ6026を実行して、検索を停止する。
検索される必要があり、画面分割をサポートするアプリケーションの数量は、予め設定されたウィンドウ数量から1を引いたものであり、予め設定されたウィンドウ数量は3である。したがって、現在のフォアグラウンドアプリケーションに加えて、検索される必要があり、画面分割をサポートするアプリケーションの数量は2である。
予め設定されたウィンドウ数量は、HMDの性能に基づいて携帯電話によって設定されてよく、例えばHMDのサイズに基づいて設定されてよい。
6025.バックグラウンドタスクリストが検索されるかどうかを判断する;バックグラウンドタスクリストが検索される場合、ステップ6026を実行して検索を停止する;あるいはバックグラウンドタスクリストが検索される場合、ステップ6022を実行して、次のアプリケーションについてバックグラウンドタスクリストを検索する。検索している間は、アプリケーションを使用する時間に基づいて、他の分割された画面アプリケーションを反対の順序で検索する。言い換えると、最近使用したアプリケーションから検索を開始する。
バックグラウンドタスクリストが、画面分割をサポートするアプリケーションを含んでいない場合、切り替え前に使用されていたフォアグラウンドアプリケーションがデフォルトで最大表示され、別のアプリケーションインタフェースは表示されない。
分割された画面アプリケーションを選択した後、AMSはVR_WINDOWS_SEARCH_FINISHEDメッセージをWMSに送信する。
603.予め設定されたウィンドウ数量及び画面分割をサポートする発見されたバックグラウンドアプリケーションの数量に基づいて、HMDの表示インタフェースを分割し、ウィンドウのステータスを更新する。
予め設定されたウィンドウ数量は、HMDの性能に基づいて携帯電話によって設定されてよく、例えばHMDのサイズに基づいて設定されてもよい。フォアグラウンドアプリケーションのウィンドウは、フォーカス(Topmost)状態としてマークされ、フォーカス状態は、特別な可視状態である。ユーザによって最近使用された、N個の選択されたバックグラウンドアプリケーションのウィンドウは、可視状態としてマークされる。アプリケーションのウィンドウは、アプリケーションのインタフェースである。
例えば予め設定されたウィンドウ数量が2であり、画面分割をサポートするバックグラウンドアプリケーションが見つからない場合、フォアグラウンドアプリケーションがHMD上に最大表示される。
予め設定されたウィンドウ数量が3であり、画面分割をサポートする1つのバックグラウンドアプリケーションが見つかった場合、HMDの表示インタフェースは2つの領域に分割され、フォアグラウンドアプリケーションとバックグラウンドアプリケーションはそれぞれ表示インタフェースの半分を占めるように設定される。例えばTopmost状態のアプリケーションは左側の領域に表示されるよう設定され、他の分割された画面のアプリケーションは右側の領域に表示されるよう設定される。
予め設定されたウィンドウ数量が3であり、画面分割をサポートする2つのバックグラウンドアプリケーションが見つかった場合、表示インタフェースは3つの領域に分割されます。例えばTopmost状態のアプリケーションは中間領域に表示されるよう設定され、他の2つの分割された画面のアプリケーションはそれぞれ、中間領域の両側の領域内に表示されるよう設定される。
前述の例は、本出願の単なる例である。調整が、HMDの性能及び構成に基づいて行われてよい。
WMSは、主にウィンドウステータスを更新するが、これは、現在のフォアグラウンドアプリケーションをTopmost状態としてマークすることと;AMSによって検索されてマークされている2つの分割された画面アプリケーションのウィンドウを可視状態に変更することを含む。
処理を完了した後、WMSはVR_WINDOWS_UPDATE_FOR_3D_FINISHEDメッセージをWMSのメッセージキューに送信する。
604.アプリケーションのウィンドウであって、可視状態としてマークされているすべてのウィンドウにおいてVR処理を実行する。
VR処理は、すべての可視システムウィンドウで実行され、VR処理は、現在のフォアグラウンドアプリケーションと、ユーザによって最近使用されたN個の選択されたバックグラウンドアプリケーションにおいて実行される。VR処理は、2Dインタフェースを3Dインタフェースに変換するものであり、例えば表示されるべき分割された画面インタフェースやアプリケーションインタフェース等のアイコンに対して3次元処理を行う。アプリケーションがVRをサポートしている場合、アイコン、アプリケーションインタフェース等を、3D効果を有するアイコン、アプリケーションインタフェース等に切り替えるようにVR処理を実行する。アプリケーションがVRをサポートしない場合、VR処理は実行されない。
アプリケーションのウィンドウであって、可視状態としてマークされているすべてのウィンドウは、Topmost状態にあるアプリケーションのウィンドウを含む。
図5aに示されるように、共通モードで操作を行っているとき、携帯電話は操作画面を表示してもよい。VR処理が実行された後、操作画面が3D効果で表示されてよい。図5bに図示されるように、携帯電話が3Dモードで操作を行うとき、操作画面は、ユーザの左眼に対応する左眼画像501と、ユーザの右眼に対応する右眼画像502とに分割されてよい。
具体的には、VR_WINDOWS_UPDATE_FOR_3D_FINISHEDメッセージを受け取った後、WMSは、可視状態に設定されたすべてのアプリケーションリストをトラバースし、3Dレイアウト方式は、アプリケーションの各ウィンドウであって可視状態に設定された各ウィンドウで再利用され、3D画像リソースが表示のために参照されてよい。
システムパブリックコントロール、システムプリセットアプリケーション及びVRをサポートする第三者アプリケーションは、デフォルトで、レイアウトファイルマシンに対応する2組の静止画リソースを保持する。1組の静止画リソースは、携帯電話画面上に表示されるデフォルトの2Dリソースであり、他の組は3Dリソースである(これらの3Dリソースは、描画ソフトウェアを使用することによってUIデザイナによって事前に描画され、HMDの光学デバイスを使用して3D効果を表示することができる)。図8に示されるように、特定の2D及び3D切り替えプロセスは、以下の通りである:
ステップ6401:WMSはVR_WINDOWS_UPDATE_FOR_3D_FINISHEDメッセージを受け取る。
ステップ6402:現在のシステムが3Dモードへの切り替えを実行している状態にあるかどうかを判断し、現在のシステムがその状態にある場合はステップ6403を実行し;あるいは現在のシステムがその状態にない場合は、手順を終了する。
ステップ6403:ウィンドウを凍結し、ユーザがイベントを入力することを禁止する。言い換えると、この場合、ユーザの入力イベントの処理をスキップし、ここで、ウィンドウは、アプリケーションのインタフェースである。
ステップ6404:すべてのバックグラウンドアプリケーションのウィンドウをトラバースし始める。
ステップ6405:アプリケーションのウィンドウが可視状態であるかどうかを判断し;アプリケーションのウィンドウが可視状態にある場合は、ステップ6406を実行し;あるいはアプリケーションのウィンドウが可視状態にない場合は、ステップ6411を実行する。
ステップ6406:アプリケーションの3Dレイアウトファイルを検索する。
ステップ6407:アプリケーションの3Dレイアウトファイルが見つかったかどうかを判断し;アプリケーションの3Dレイアウトファイルが見つかった場合は、ステップ6407を実行し;あるいはアプリケーションの3Dレイアウトファイルが見つからなかった場合は、ステップ6409を実行して、変更なしを維持し、現在のレイアウトファイルを使用する。
ステップ6408:アプリケーションのウィンドウのレイアウトファイルを、見つかった3Dレイアウトファイルに設定する。
ステップ6410:ウィンドウ内のすべての要素に対応する3Dリソースを取得する。言い換えると、ウィンドウ内のアイコン、テキスト等の要素に対応する3Dリソースを取得する。
ステップ6411:アプリケーションが最後のアプリケーションであるかどうかを判断し;アプリケーションが最後のアプリケーションである場合、ステップ6412を実行し;あるいはアプリケーションが最後のアプリケーションでない場合、ステップ6404を実行して次のアプリケーションを見つけ、ステップ6404~6411を繰り返し実行する。
ステップ6412:ウィンドウを解凍して、ユーザの入力イベントを受け取る。
ステップ6413:3Dモードを設定する。
ステップ6414:表示インタフェースを描画する。
前述のプロセスにおいて、バックグラウンドアプリケーションのウィンドウであって、ステップ6404でトラバースされるウィンドウが、ウィンドウに対して可視のアプリケーションのウィンドウであり得る場合、対応して、ステップ6405は実行されない。
605.表示デバイス内で切り替えを実行し、HMDを使用することによって3Dモードでインタフェースを表示する。
携帯電話は、処理されたVRインタフェースを表示のためにHMDに送信する。携帯電話の表示インタフェースは、「3Dモードに入る」又は画面オフ/画面ロック状態に入ることをプロンプトしてよい。図12に図示されるように、ビデオアプリケーション1203によってライブ放送されるNBAゲームのライブ放送画像は、ユーザの視線内の真ん中の位置に表示される。WeChatチャットソフトウェアインタフェース1202が左側に表示され、ニュース参照インタフェース1204が右側に表示される。
オプションとして、携帯電話がHMDに接続された後、携帯電話は直ぐには3Dモードへの切り替えを準備しなくてもよい。例えば前述の実施形態では、ステップ601の後、ユーザが、携帯電話において、3Dモードに入る切り替えをターンオンしたかどうかが検出され;スイッチが検出され、ユーザが携帯電話において3Dモードに入るスイッチをターンオンした場合、ステップ602~605が実行される。あるいは、ステップ601の後に、HMDによって送信されたスイッチターンオン通知が受け取られるかどうかを判断し、ハードウェアスイッチがHMD上に配置される。ユーザがハードウェアスイッチをターンオンしたことが検出されると、HMDは、携帯電話がステップ602~605を実行し続けることを携帯電話に通知する。あるいは、ステップ601の後に、HMDが装着されたかどうかが判断される。HMDは、ユーザがHMDを装着していることを検出すると、携帯電話がステップ602~605を実行し続けることを携帯電話に通知する。そうでなければ、携帯電話はステップ602~605を実行し続けない。
前述の現在のフォアグラウンドアプリケーションは、3Dモードに切り替える準備をするフォアグラウンドアプリケーションであってよい。例えば携帯電話はHMDに接続されているフォアグラウンドアプリケーションを検出する。あるいは、携帯電話は、ユーザが3Dモードに入るスイッチを携帯電話上でターンオンしたことを検出する。あるいは、携帯電話は、3Dモードでフォアグラウンドアプリケーションに切り替える準備をするための通知をHMDから受け取る。
オプションとして、携帯電話が3Dモードになる準備をした後、携帯電話は直ちに3Dモードに切り替わらない。例えば前述の実施形態では、ステップ601~604が実行された後、ユーザが携帯電話上で3Dモードに入るスイッチをターンオンした場合、ステップ605が実行される。ユーザが携帯電話のスイッチをオンにすると、3Dモードに入るスイッチがステップ605を実行する。あるいは、ステップ601~604が実行された後、HMDによって送信されたスイッチターンオン通知が受け取られたかどうかが判断され、ハードウェアスイッチがHMD上に配置される。ユーザがハードウェアスイッチをターンオンしたことが検出されると、HMDは、携帯電話がステップ606を実行し続けることを携帯電話に通知する。あるいは、ステップ601~604が実行された後、HMDが装着されているかどうかが判断される。ユーザがHMDを装着していることを検出すると、HMDは、携帯電話がステップ605を実行し続けることを携帯電話に通知する。そうでなければ、携帯電話はステップ605を実行し続けない。
図6の実施形態では、ウェアラブルデバイスは、ディスプレイを有するHMDである。オプションとして、ウェアラブルデバイスは、ディスプレイのないHMDであり、携帯電話は、HMD内に配置され、ユーザは、HMDの光学レンズを使用することによって、携帯電話のディスプレイコンテンツを見る。この場合、HMDと携帯電話とが有線接続方法又は無線接続方法で接続されている場合、前述の実施形態では、ステップ601を実行するように調整が行われてよい。ステップ602及び603において、3Dモードにおける予め設定された表示ウィンドウ数量は、携帯電話の性能に基づいて決定されてもよい。処理されたVRインタフェースを携帯電話のディスプレイ画面に表示するために、ステップ605で調整が行われる。HMDと携帯電話との間に通信接続が存在しない場合、図6に示される実施形態では、ステップ601を行わないように調整が行われてよい。ユーザが携帯電話上で3Dモードに入るスイッチをターンオンしたかどうかが検出され、ユーザが携帯電話上で3Dモードに入るスイッチをターンオンした場合、ステップ602~604が実行される。処理されたVRインタフェースを携帯電話のディスプレイ画面に表示するよう、ステップ605において調整が行われる。
前述の実施形態において、3Dモードに入った後、複数のアプリケーションインタフェースが複数のウィンドウに表示される。オプションとして、3Dモードでは、複数のウィンドウがマルチスクリーンデスクトップを表示してもよい。特に、現在では、携帯電話は、通常、複数のデスクトップ画面を有しており、ユーザは、左側及び右側への切り替え及びフリッキングを通して異なるデスクトップ画面を表示し得る。図9は、本出願の実施形態2による複数のデスクトップ画面を表示する手順を示す。ステップ901は、ステップ601と同様である。詳細は、ここでは再度説明しない。
ステップ902:予め設定されたウィンドウ数量に基づいてデスクトップ画面を選択する。
予め設定されたウィンドウ数量が2であるとき、主画面と隣接するデスクトップ画面とが選択され得るか;又は現在のデスクトップ画面と隣接するデスクトップ画面とが選択され得る。
予め設定されたウィンドウ数量が3の場合、主画面を含む3つのデスクトップ画面が選択され得るか;又は現在のデスクトップ画面を含む3つのデスクトップ画面が選択され得る。
ステップ903:予め設定されたウィンドウ数量とデスクトップ画面の数量に基づいて、HMDの表示インタフェースを分割し、ウィンドウ状態を更新する。
ホーム画面は、フォーカス(Topmost)ウィンドウ状態に設定され、別の選択されたデスクトップ画面は、可視状態としてマークされる。
例えば予め設定されたウィンドウ数量が2であり、ホーム画面以外にデスクトップ画面がないとき、ホーム画面がHMD上に最大表示される。
予め設定されたウィンドウ数量が3であり、2つのデスクトップ画面が見つかるとき、HMDの表示インタフェースは2つの領域に分割され、2つのデスクトップ画面は各々HMDの表示インタフェースの半分を占める。例えばTopmost状態のホーム画面は左側の領域に表示されるよう設定され、他のデスクトップ画面は右側領域に表示されるよう設定される。
予め設定されたウィンドウ数量が3であり、3つのデスクトップ画面が見つかるとき、表示インタフェースは3つの領域に分割される。例えばTopmost状態のホーム画面は中間領域に表示されるように設定され、他の2つのデスクトップ画面は、それぞれ、中間領域の両側の領域に表示されるように設定される。
前述のホーム画面は、現在のデスクトップ画面に置き換えられてよい。
904.可視状態としてマークされたすべてのデスクトップ画面においてでVR処理を実行する。
システムパブリックコントロールは、デフォルトで、レイアウトファイルマシンに対応する2組の静止画リソースを担持する。1組の静止画リソースは、携帯電話画面に表示されるデフォルトの2Dリソースであり、他の組の静止画リソースは3Dリソースである(これらの3Dリソースは、描画ソフトウェアを使用することによりUIデザイナによって予め描画され、HMDの光学デバイスを使用することにより3D効果が表示され得る)。具体的な切り替えについては、実施例1を参照されたい。
905.ディスプレイデバイスで切り替えを実行して3Dモードに入り、特に、3Dモードで3Dインタフェースを提供する。
図13aは、複数のデスクトップ画面を表示する例を示しており、デスクトップのホーム画面1303がフォーカス画面として使用され、中央に表示される。隣接する画面1302及び1303は、両側に分散される。
実施形態1と同様に、オプションとして、携帯電話がHMDに接続された後、携帯電話は直ちに3Dモードに切り替える準備をしなくてもよい。オプションとして、携帯電話が3Dモードになる準備をした後、携帯電話は直ちに3Dモードに切り替えなくてもよい。オプションとして、ウェアラブルデバイスは、ディスプレイのないHMDであり、携帯電話はHMD内に配置され、ユーザは、HMDの光学レンズを使用することにより、携帯電話のディスプレイコンテンツを見る。詳細については実施形態1を参照されたい。
オプションとして、前述の2つの実施形態では、アプリケーションインタフェースとデスクトップ画面の双方が表示されてもよい。オプションとして、実施形態1において、すべてのバックグラウンドアプリケーションの数量が、検索される必要があり、かつ画面分割をサポートするアプリケーションの数量より少ない場合、デスクトップ画面及びバックグラウンドアプリケーションが、マルチウィンドウ表示のために選択されてよい。実施形態2では、デスクトップ画面の数量が予め設定されたウィンドウ数量より少ない場合、バックグラウンドアプリケーションがマルチウィンドウ表示のために選択されてよい。オプションとして、予め設定されたウィンドウ数量がLであり、アプリケーションインタフェースの数量がNであり、デスクトップ画面の数量がMであり、ここでL=M+Nであり、L、M、Nは整数である。図14は、デスクトップ画面であり、表示インタフェースの左側に表示される第1画面1402と、ビデオアプリケーションのインタフェースであって、表示インタフェースの右側に表示されるインタフェース1403とを示す。
図10を参照すると、本出願のこの実施形態におけるインタフェース表示方法の実施形態3は、3Dモードから共通モードへの切り替えを示す。この方法は、以下のステップを含む。
1001.携帯電話は、HMDが携帯電話から切断されたことを検出する。
例えば携帯電話はUSBを使用することによりHMDに接続され、携帯電話はHMDが携帯電話のUSBから切断されたことを検出するか、あるいは携帯電話はBluetoothを使用することによりHMDに接続され、携帯電話はHMDが携帯電話のBluetoothから切断されたことを検出する。
基礎をなす表示管理モジュールは、以前に登録されたHMDを登録解除し、VR_DISPLAY_DEVICE_DISCONNECTEDブロードキャストを送信する(接続された状態では、通常モードへの切り替えは、別の方法、例えばHMDデバイスの3Dモードのスイッチをターンオフする方法によりトリガされる。この場合、VR_DISPLAY_DEVICE_OPEN等と同様の他のブロードキャストが対応して送信される)。
1002.携帯電話はウィンドウステータスを更新し、表示インタフェースを調整する。
AMS:AMSは、各アプリケーション状態と及びバックグラウンドタスクリストを更新する。
WMS:topmost状態にあるアプリケーションウィンドウがフォーカスウィンドウとして使用され、可視状態を維持し続け、別の可視ウィンドウが不可視状態に設定される。
例えばブロードキャストがデスクトップ画面で受け取られた後、ホーム画面が可視状態に設定され、別の画面が不可視状態に設定される。
前述のステップが完了した後、VR_WINDOWS_UPDATE_FOR_2D_FINISHEDメッセージがWMSに送信される。
1003.アプリケーションのウィンドウであって、可視状態としてマークされているすべてのウィンドウに対して正規化処理を実行する。
システムパブリックコントロール、システムプリセットアプリケーション及びVRをサポートする第三者アプリケーションは、デフォルトで、レイアウトファイルマシンに対応する2組の静止画リソースを担持する。1組の静止画リソースは、携帯電話画面に表示されるデフォルトの2Dリソースであり、他の組の静止画リソースは3Dリソースである(これらの3Dリソースは、描画ソフトウェアを使用することによってUIデザイナによって事前に描画され、HMDの光学デバイスを使用することによって3D効果を表示することができる)。図11に図示されるように、特定の3D-2D切り替え手順は、以下のとおりである:
ステップ1301:WMSは、VR_WINDOWS_UPDATE_FOR_2D_FINISHEDメッセージを受け取る。
ステップ1302:現在のシステムが、共通モードへの切り替えが実行されている状態にあるかどうかを判断し;現在のシステムがその状態にある場合は、ステップ1303を実行し;あるいは現在のシステムがその状態にない場合は、手順を終了する。
ステップ1303:ウィンドウを凍結し、ユーザがイベントを入力することを禁止する、言い換えると、この場合、ユーザの入力イベントの処理をスキップし、ウィンドウはアプリケーションのインタフェースである。
ステップ1304:すべてのアプリケーションをトラバースし始める。
ステップ1305:アプリケーションのウィンドウが可視状態であるかどうかを判断し;アプリケーションのウィンドウが可視状態である場合は、ステップ1306を実行し;あるいはアプリケーションのウィンドウが可視状態でない場合は、ステップ1311を実行する。
ステップ1306:アプリケーションの2Dレイアウトファイルを検索する。
ステップ1307:アプリケーションの2Dレイアウトファイルが見つかったかどうかを判断し;アプリケーションの2Dレイアウトファイルが見つかった場合は、ステップ1307を実行し;あるいはアプリケーションの2Dレイアウトファイルが見つからなかった場合は、ステップ1309を実行し、デフォルトレイアウトファイルを使用する。
ステップ1308:アプリケーションのウィンドウのレイアウトファイルを、見つかった2Dレイアウトファイルに設定する。
ステップ1310:ウィンドウ内のすべての要素に対応する2Dリソースを取得する、言い換えると、ウィンドウ内のアイコン、テキスト等の要素に対応する2Dリソースを取得する。
ステップ1311:アプリケーションが最後のアプリケーションであるかどうかを判断し;アプリケーションが最後のアプリケーションである場合は、ステップ1312を実行し;あるいはアプリケーションが最後のアプリケーションでない場合は、ステップ1304を実行して次のアプリケーションを見つけ、ステップ1304~1311を繰り返し実行する。
ステップ1312:ウィンドウを解凍し、ユーザの入力イベントを受け取る。
ステップ1313:共通モードを設定する。
ステップ1314:表示インタフェースを描画する。
前述のプロセスにおいて、ステップ1304でトラバースされたアプリケーションが、ウィンドウに対して可視のアプリケーションであり得る場合、対応して、ステップ1305は実行されない。
1004.携帯電話を使用することによって共通モードでインタフェースを表示する。
携帯電話は処理された共通インタフェースを表示する。
オプションとして、実施形態3において、ステップ1001は、次のように置き換えられてもよい:すなわち、ユーザが携帯電話上で共通モードに入るスイッチをターンオンしたことを検出すること;又はHMDによって送信されたスイッチターンオフ通知を受け取ること、ここで、ハードウェアスイッチはHMD上に配置されている。ユーザがハードウェアスイッチをターンオフしたことが検出されると、HMDは、携帯電話がステップ1002~1005を実行し続けることを携帯電話に通知する。あるいは、HMDが装着されていないかどうかを判断する。ユーザがHMDを取り外したことを検出すると、HMDは、携帯電話がステップ1002~1005を実行し続けることを携帯電話に通知する。
図10の実施形態では、ウェアラブルデバイスは、ディスプレイを有するHMDである。オプションとして、ウェアラブルデバイスは、ディスプレイのないHMDであり、携帯電話は、HMD内に配置され、ユーザは、HMDの光学レンズを使用することによって、携帯電話のディスプレイコンテンツを見る。この場合、HMDと携帯電話との間に通信接続が存在しない場合、図10に示される実施形態では、ステップ1001を実行しないように調整が行われてもよい。ユーザが携帯電話上で共通モードに入るスイッチをターンオンしたかどうか;ユーザが携帯電話上で共通モードに入るスイッチをターンオンすると、ステップ1002~1004が実行される。
図12は、本出願の実施形態による、3Dモードにおける表示インタフェースの例1を示す。ビデオアプリケーション1203によるライブ放送であるNBAゲームのライブ放送画像が、ユーザの視線の真ん中の位置に表示されてよい。WeChatチャットソフトウェアインタフェース1202が左側に表示され、ニュース参照インタフェース1204が右側に表示されるか又は別のライブ画像が右側に表示され、このようにして、ユーザは、スポーツゲームのライブ放送を見ながらWeChat友だち情報を見ることができ、ユーザは、他のウィンドウを閉じることなく、スポーツゲームの関連するニュースを更に見ることができ、他のウィンドウの表示に影響を与えることなく、いつでもワードを入力し得る。オプションとして、3Dモードにおける表示インタフェースの上方に、ステータスバー1201、ステータスバーを更に使用して、HMDステータス又は携帯電話のステータス、例えば残りのバッテリレベル、信号等を表示してもよい。オプションとして、ステータスバーの表示領域は、新たに受信したSMSメッセージのような通知メッセージを更に表示してよい。
ユーザがウィンドウを閉じると、別のウィンドウが、予め設定されたルールに基づいて位置やサイズ等の属性を適切に調整し、バックグラウンドアプリケーションが自動的にフォアグラウンド表示に変わり得る。例えばユーザがビデオアプリケーションを閉じることが検出されると、ニュースアプリケーションはビデオアプリケーションの位置に移動し、元のビデオアプリケーションのサイズに調整される。ニュースアプリケーションの元の位置は、バックグラウンドアプリケーションを表示する。バックグラウンドアプリケーションを選択するプロセスについては、ステップ602を参照されたい。具体的には、1つのバックグラウンドアプリケーションのみが選択され得る。オプションとして、現在のフォアグラウンドアプリケーションが画面分割をサポートしているかどうかを実行する必要はない。他のウィンドウ又はバックグラウンドからフォアグラウンドアプリケーションに新たに切り替わったウィンドウの位置及びサイズ等のプロパティを調整する処理については、ステップ603を参照されたい。
ユーザがアプリケーションをドラッグしたことが検出されると、別のウィンドウは、予め設定されたルールに基づいて、位置及びサイズ等の属性を適切に調整する。例えばユーザがビデオアプリケーションを右にドラッグしたことが検出され、ビデオアプリケーションとニュースアプリケーションとの間の重複部分が予め設定された閾値を超えると、ビデオアプリケーションとニュースアプリケーションとの間の位置が交換され、サイズもそれに応じて変更される。
ユーザが右側にフリッキングする命令を与え、WeChatアプリケーション1202及びビデオアプリケーション1203が右側に移動し、WeChatアプリケーション1202がフォーカスウィンドウ状態として表示されたことが検出されると、ビデオアプリケーション1203がニュースアプリケーション1024の位置で表示され、ニュースアプリケーション1204が不可視ウィンドウに調整され、加えて、アプリケーションがバックグラウンドアプリケーションから選択され、WeChatアプリケーション1020の以前の位置で表示されることが検出される。
ユーザがアプリケーションから新しいアプリケーションを開いたこと、例えばWeChat内でニュースリンクを開き、Toutiaoアプリケーションを開始したことが検出されると、Toutiaoアプリケーションが開始された後、Toutiaoアプリケーションはデフォルトで中央に表示され、WeChatウィンドウはまだ可視状態にあり、完全にはバックグラウンドには戻らず、WeChatウィンドウの位置とサイズのみが適切に自動的に変更される。
可視ウィンドウがシステムのデフォルトの上限に達すると、可視ウィンドウ内の最も早い時間が不可視状態に変更される、すなわち、自動的にバックグラウンドに戻る。
アプリケーションを終了するために閉じていること又はバックキーを押したことを検出した後、現在の可視ウィンドウの位置とサイズを適応的に調整して、バックグラウンドアプリケーションを可視状態に調整することができる。他のバックグラウンドアプリケーションが存在しない場合は、デスクトップ画面が表示されることになる。
図13aは、本出願の実施形態による3Dモードの表示インタフェースの例2を示す。デスクトップのホーム画面1303は、フォーカス画面として中央に表示され;隣接する画面1302及び1303は両側に分散される。オプションとして、共通モードで表示された画面が、中央表示のためのフォーカス画面として使用されてよく、隣接する画面は両側に分散される。オプションとして、3Dモードの表示インタフェースの上部に、ステータスバー1301、ステータスバーを更に表示して、HMDのステータス又は携帯電話のステータスを表示してよい。
オプションとして、各デスクトップ画面上のアプリケーションアイコンは、ユーザによる最近のクリックの使用頻度に従って目立つように表示される。例えばアプリケーションアイコンに対応するアプリケーションのより高い使用頻度は、より立体的に目立つアイコンを示すか又はより大きいアイコンは、より大きなアイコンを示す。当業者は、別の顕著な表示方法が適用されてもよいことを理解することができる。図13aでは、ホーム画面1303上でアプリケーションAPP 1のアイコンがハイライトされ、アプリケーションAPP 2、APP 3、APP 4、APP 5のアイコンが共通の方法で表示される。
ユーザがアプリケーションを開くことを選択したことが検出されると、開いたアプリケーションのインタフェースがフォーカスウィンドウとして表示され得る。あるいは、アプリケーションアイコンが配置されるデスクトップ画面が置き換えられるか、開いたアプリケーションのインタフェースがフォーカスウィンドウとして表示され、ホーム画面が表示のために右側に移動され、第3の画面が不可視状態に切り替わる。図13bに示すように、ユーザが、アプリケーションAPP 1を開くことを選択し、アプリケーションAPP 1のインタフェース1305がフォーカスウィンドウとして表示され、ホーム画面インタフェースに置き換わる。
図14は、本出願の実施形態による3Dモードの表示インタフェースの例3を示す図である。デスクトップ画面の第1画面1402は、表示インタフェースの左側に表示され得、ビデオアプリケーションのインタフェース1403は、右側に表示され得る。このようにして、ユーザはビデオを見ている間にデスクトップ上のアプリケーションを選択することができる。オプションとして、3Dモードで表示インタフェースの上方に、ステータスバー1401、ステータスバーを更に表示して、HMDステータス又は携帯電話のステータス、例えば残りのバッテリレベル又は信号を表示してもよい。オプションとして、ステータスバーの表示領域は、新たに受信したSMSメッセージのような通知メッセージを更に表示してよい。
図15aは、本出願の実施形態による3Dモードの表示インタフェースの例4を示す。ビデオアプリケーションインタフェース1503がユーザの視線の真ん中の位置に表示され、WeChatチャットソフトウェアインタフェース1502が左に表示され、ニュース引用インタフェース1504が右に表示される。ステータスバー領域1501は、表示インタフェースの上側に表示され、アイコン1505は、ステータスバー1501と並列に設けられる。ユーザがアイコン1505を選択すると、図15bに示されるように、HMDカメラがターンオンされ、表示インタフェースのブランク領域に現実が提供される。環境ビューウィンドウ1506は、カメラによって収集されたコンテンツを表示する。このようにして、ユーザがHMDを装着すると、ユーザは、実際の環境を迅速に見ることができ、それによって、HMDが頻繁に取り外され、次いでHMDに装着されるという問題を回避することができる。オプションとして、実際の環境のビューのウィンドウが、複数のウィンドウのうちのウィンドウ内に表示されてもよい。図15cに示されるように、1507のウィンドウは、カメラによって収集されたコンテンツを表示してよく、元のWeChatインタフェース1502は、不可視に切り替えられる。オプションとして、図15bの状態において、ウィンドウ1506におけるズームのためのユーザの操作が検出された場合、表示インタフェースは、図15cの状態に切り替わる。HMDのカメラによって収集されたデータは、まず携帯電話との接続を通じて携帯電話に送信される。インタフェースレイアウトを行うとき、携帯電話は、HMDのカメラによって収集されたデータを処理し、表示のためにHMDに送信されたインタフェースは、HMDのカメラによって収集されたデータを含む。HMDカメラによって収集されたデータを受け取った後、携帯電話は、画像ぼけ処理、画像内の人の顔処理等の必要な処理をデータに対して実行することができることが理解され得る。
前述の実施形態では、携帯電話によりユーザの様々な入力操作を検出することは、携帯電話によって、リモートコントロールを介してユーザによって送信された命令を受け取っているか又は携帯電話によって、HMに付属するタッチデバイスにおけるユーザのタッチ命令を受け取っていてよい。あるいは、携帯電話は、ユーザによって入力された命令、例えばユーザの頭部のものであり、モーションセンサを使用することによりHMDによって検出される動作命令等を得ることができる様々な実装を受け取る。
前述の実施形態における前述の電子デバイス102は、3Dディスプレイをサポートするタブレット、ノートブックコンピュータ又はプロジェクタのようなデバイスであってもよい。
図16は、本出願の実施形態による電子デバイス101の概略構造図である。電子デバイス101は以下を含む:
第1検出モジュール1601は、第2電子デバイスが電子デバイスに接続されていることを検出するように構成される。具体的な実装については、ステップ601を参照されたい。ウィンドウ取得モジュール1602は、予め設定されたウィンドウ数量に基づいて、表示されるべき少なくとも1つのウィンドウを取得するように構成される。表示されるべき少なくとも1つのウィンドウは2次元ウィンドウである。詳細について、ステップ602を参照されたい。インタフェースレイアウトモジュール1603は、予め設定されたウィンドウ数量と、少なくとも1つの取得された表示されるべきウィンドウとに基づいて、第2ウィンドウを分割するように構成される。電子デバイスの表示インタフェースについては、特にステップ603を参照されたい。3D変換モジュール1604は、表示されるべき少なくとも1つのウィンドウに対して次元変換処理を実行するように構成され、具体的にはステップ604を参照されたい。送信モジュール1605は、少なくとも1つの変換されたウィンドウを変換するように構成される。表示されるべきウィンドウは、第2電子デバイスに送信され、少なくとも1つの変換された表示されるべきウィンドウは、三次元ウィンドウである。詳細については、ステップ605を参照されたい。
電子デバイスは更に以下を含む:3Dモードのスイッチがターンオンされたことを検出してウィンドウ取得モジュールをトリガするように構成される第2検出モジュール;又は第2電子デバイスから通知を受け取ってウィンドウ取得モジュールをトリガするように構成される第3検出モジュールであって、ここで、通知は、第2電子デバイスがユーザによって装着されていることを示すために使用される。
電子デバイスは更に以下を含む:3Dモードのスイッチがターンオンされたことを検出して送信モジュールをトリガするように構成される第4検出モジュール;又は第2電子デバイスから通知を受け取って送信モジュールをトリガするように構成される第5検出モジュールであって、ここで、通知は、第2電子デバイスがユーザによって装着されていることを示すために使用される。
少なくとも1つの表示されるべきウィンドウは、アプリケーションプログラムインタフェース及び/又はデスクトップ画面を含み、アプリケーションプログラムインタフェースは、第2電子デバイスが接続されていることを第1電子デバイスが検出したときに取得される、現在のフォアグラウンドアプリケーションのインタフェースと、第1電子デバイスのバックグラウンドアプリケーションのインタフェースとを含む。電子デバイスは、現在のフォアグラウンドアプリケーションのインタフェースをフォーカスウィンドウに設定し、バックグラウンドアプリケーションのインタフェースを可視ウィンドウに設定するように構成される、ウィンドウステータス調整モジュールを更に含む。
デスクトップ画面は、少なくとも2つのアプリケーションのアイコンを含み、アイコンは、アプリケーションの使用頻度に基づいてハイライトされる。
第2電子デバイスは、カメラを含み;第1電子デバイスは、カメラによって収集されたコンテンツを受け取るように構成される受信モジュールを更に含み;送信モジュールは、第2電子デバイスが、カメラによって収集されたコンテンツをリアルタイムで表示するように、カメラによって収集されたコンテンツをリアルタイムで第2電子デバイスに送信するように更に構成される。
本出願の実施形態において開示される方法は、プロセッサに適用されてもよく又はプロセッサによって実装されてもよい。プロセッサ930は、集積回路チップであってもよく、信号処理能力を有する。実施形態のプロセスでは、前述の方法におけるステップを、プロセッサ内のハードウェア集積論理回路を使用することによって又はソフトウェアの形式の命令を使用することによって実装することができる。前述のプロセッサは、汎用プロセッサ、デジタル信号プロセッサ(DigitalSignalProcessing,DSP)、特定用途向け集積回路(ApplicationSpecificIntegratedCircuit,ASIC)、フィールドプログラマブルゲートアレイ(Field-Programmable Gate Array,FPGA)又は別のプログラマブル論理デバイス、個別ゲート又はトランジスタ論理デバイス、あるいは個別ハードウェアコンポーネントであってもよい。プロセッサは、本出願の実施形態で開示される方法、ステップ及び論理ブロック図を実装又は実行してもよい。汎用プロセッサは、マイクロプロセッサであってよく、あるいはプロセッサは、任意の従来のプロセッサ等であってよい。本出願の実施形態に関連して開示される方法のステップは、ハードウェア復号プロセッサを使用することによって直接的に実行されて達成されてよく、あるいは復号プロセッサ内のハードウェアとソフトウェアモジュールの組合せを使用することによって実行されて達成されてもよい。ソフトウェアモジュールは、ランダムアクセスメモリ、フラッシュメモリ、読み取り専用メモリ、プログラマブル読み取り専用メモリ、電気的消去可能プログラマブルメモリ又はレジスタのような、当該技術分野における成熟した記憶媒体内に配置されてよい。記憶媒体はメモリ内に配置され、プロセッサはメモリ内の情報を読み出し、プロセッサのハードウェアと組み合わせて前述の方法のステップを完了する。前述の実施形態のすべて又は一部は、ソフトウェア、ハードウェア、ファームウェア又はそれらの任意の組合せを使用することによって実装されてよい。ソフトウェアを使用して実施形態を実装するとき、実施形態は、コンピュータプログラム製品の形態で完全に又は部分的に実装されてよい。
コンピュータプログラム製品は、1つ以上のコンピュータ命令を含む。コンピュータプログラム命令がコンピュータ上にロードされて実行されるとき、本出願の実施形態による手順又は機能がすべて又は部分的に生成される。コンピュータは、汎用コンピュータ、専用コンピュータ、コンピュータネットワーク又は他のプログラマブル装置であってよい。コンピュータ命令は、コンピュータ読取可能な記憶媒体に記憶されてよく又はあるコンピュータ読取可能な記憶媒体から別のコンピュータ読取可能な記憶媒体に送信されてもよい。例えばコンピュータ命令は、ウェブサイト、コンピュータ、サーバ又はデータセンタから、別のウェブサイト、コンピュータ、サーバ又はデータセンタに、有線(例えば同軸ケーブル、光ファイバ又はデジタル加入者線(DSL))又は無線(例えば赤外線、無線又はマイクロ波)方式で送信され得る。コンピュータ読取可能記憶媒体は、コンピュータによってアクセス可能な任意の使用可能媒体であるか又は1つ以上の使用可能媒体を統合するサーバ又はデータセンタのようなデータ記憶装置であってもよい。使用可能媒体は、磁気媒体(例えばフロッピーディスク、ハードディスク又は磁気テープ)、光媒体(例えばDVD)、半導体媒体(例えば固体ディスク(例えばSolid State Disk、SSD))等である。
便利で簡単な説明のために、前述のシステム、装置及びユニットの詳細な作業プロセスについては、前述の方法の実施形態における対応するプロセスを参照し、詳細は本明細書では再度説明されないことは、当業者には明らかに理解され得る。
本出願に提供されるいくつかの実施形態では、開示されるシステム、装置及び方法が、他の方法で実装され得ることを理解されたい。例えば説明される装置の実施形態は、単なる例である。例えばユニット分割は単なる論理関数分割であり、実際の実施形態では他の分割であってもよい。例えば複数のユニット又は構成要素は、別のシステムに組み合わされるか統合されてもよく、あるいはいくつかの特徴が無視され得るか、実行されなくてもよい。加えて、表示又は議論された相互結合、直接結合又は通信接続は、いくつかのインタフェースを使用することによって実装されてもよい。装置又はユニット間の間接的な結合又は通信接続は、電子的、機械的又は別の形態で実装されてよい。
別個の部分として説明されるユニットは、物理的に別個であってもそうでなくてもよく、ユニットとして表示される部分は、物理的ユニットであってもそうでなくてもよく、1つの位置に配置されてもよく又は複数のネットワークユニット上に分散されてもよい。ユニットの一部又はすべては、実施形態の解決策の目的を達成するために、実際の要件に基づいて選択されてよい。
加えて、本出願の実施形態における機能ユニットは、1つの処理ユニットに統合されてもよく又はユニットの各々は、物理的に単独で存在してもよく又は2つ以上のユニットが1つのユニットに統合される。統合ユニットは、ハードウェアの形態で実装されてもよく又はソフトウェア機能ユニットの形態で実装されてもよい。
統合されたユニットがソフトウェア機能ユニットの形態で実装され、独立した製品として販売又は使用されるとき、統合されたユニットはコンピュータ読取可能な記憶媒体に記憶され得る。このような理解に基づいて、本出願の技術的解決策は、本質的に又は先行技術に寄与する部分又は技術的解決策のすべて若しくは一部が、ソフトウェア製品の形態で実装されてよい。コンピュータソフトウェア製品は、記憶媒体に記憶され、コンピュータデバイス(パーソナルコンピュータ、サーバ又はネットワークデバイスであってよい)に、本出願の実施形態で説明される方法のすべて又は一部のステップを実行するように指示するためのいくつかの命令を含む。前述の記憶媒体は、USBフラッシュドライブ、リムーバブルハードディスク、読み取り専用メモリ(Read-Only Memory,ROM)、ランダムアクセスメモリ(Random Access Memory,RAM)、磁気ディスク又はコンパクトディスクのような、プログラムコードを記憶することができる任意の媒体を含む。
前述の実施形態は、本出願の技術的解決策を記載することを意図したものにすぎず、本出願を限定するものではない。本出願は、前述の実施形態を参照して詳細に説明されているが、当業者は、本出願の実施形態の技術的解決策の精神及び範囲から逸脱することなく、前述の実施形態で説明された技術的解決策に依然として修正し得るか又はその技術的特徴のいくつかを同等に置き換え得ることを理解すべきである。

Claims (14)

  1. 第2電子デバイス上に三次元3Dインタフェースを表示するために第1電子デバイスによって使用されるインタフェース表示方法であって、当該方法は:
    前記第1電子デバイスによって、前記第2電子デバイスが前記第1電子デバイスに接続されていることを検出するステップ;
    前記第1電子デバイスによって、予め設定されたウィンドウ数量に基づいて、少なくとも1つの表示されるべきウィンドウを取得するステップであって、前記少なくとも1つの表示されるべきウィンドウは、二次元ウィンドウであり、前記予め設定されたウィンドウ数量は、前記第1電子デバイスによって取得された前記第2電子デバイスの表示インタフェースのサイズに基づくステップ;
    前記第1電子デバイスによって、前記予め設定されたウィンドウ数量及び前記少なくとも1つの取得された表示されるべきウィンドウに基づいて、前記第2電子デバイスの前記表示インタフェースを分割するステップ;
    前記第1電子デバイスによって、前記少なくとも1つの表示されるべきウィンドウに対して次元変換処理を実行するステップ;及び
    前記第1電子デバイスによって、少なくとも1つの変換された表示されるべきウィンドウを前記第2電子デバイスに送信するステップであって、前記少なくとも1つの変換された表示されるべきウィンドウは、三次元ウィンドウであるステップ;
    を含み、
    前記少なくとも1つの表示されるべきウィンドウは、アプリケーションプログラムインタフェース及び/又はデスクトップ画面を含み、前記アプリケーションプログラムインタフェースは、前記第2電子デバイスが接続されていることを前記第1電子デバイスが検出したときに取得される、現在のフォアグラウンドアプリケーションのインタフェースと、最近使用されたバックグラウンドアプリケーションのインタフェースとを含み、
    当該方法は、
    前記現在のフォアグラウンドアプリケーションのインタフェースをフォーカスウィンドウに設定するステップと、前記バックグラウンドアプリケーションのインタフェースを可視ウィンドウに設定するステップ
    を更に含む、方法。
  2. 前記少なくとも1つの表示されるべきウィンドウに対して次元変換処理を実行するステップは:
    前記少なくとも1つの表示されるべきウィンドウに対して双眼レンダリングを実行して、前記少なくとも1つの表示されるべきウィンドウにおける左眼画像及び右眼画像を取得するステップを含む、
    請求項1に記載の方法。
  3. 前記第1電子デバイスによって、前記第2電子デバイスが前記第1電子デバイスに接続されていることを検出するステップの後、前記第1電子デバイスによって、予め設定されたウィンドウ数量に基づいて、少なくとも1つの表示されるべきウィンドウを取得するステップの前に、当該方法は:
    前記第1電子デバイスによって、3Dモードのスイッチがターンオンされたことを検出するステップ;又は
    前記第1電子デバイスによって、前記第2電子デバイスから通知を受け取るステップであって、前記通知は、前記第2電子デバイスがユーザによって装着されていることを示すために使用されるステップ;
    を更に含む、請求項1又は2に記載の方法。
  4. 前記第1電子デバイスによって、前記少なくとも1つの表示されるべきウィンドウに対して次元変換処理を実行するステップの後、前記第1電子デバイスによって、少なくとも1つの変換された表示されるべきウィンドウを前記第2電子デバイスに送信するステップの前に、当該方法は:
    前記第1電子デバイスによって、3Dモードのスイッチがターンオンされたことを検出するステップ;又は
    前記第1電子デバイスによって、前記第2電子デバイスから通知を受け取るステップであって、前記通知は、前記第2電子デバイスがユーザによって装着されていることを示すために使用されるステップ;
    を更に含む、請求項1又は2に記載の方法。
  5. 前記デスクトップ画面は、少なくとも2つのアプリケーションのアイコンを含み、前記アイコンは、前記アプリケーションの使用頻度に基づいてハイライトされる、
    請求項に記載の方法。
  6. 前記第2電子デバイスはカメラを含み、前記第1電子デバイスは、前記カメラによって収集されたコンテンツを受け取り、前記第1電子デバイスは、前記第2電子デバイスが前記カメラによって収集されたコンテンツをリアルタイムで表示するように、前記カメラによって収集されたコンテンツを前記第2電子デバイスにリアルタイムで送信する、
    請求項1乃至のいずれか一項に記載の方法。
  7. 第2電子デバイス上に三次元(3D)インタフェースを表示するように構成される第1電子デバイスであって、当該第1電子デバイスは:
    前記第2電子デバイスが当該第1電子デバイスに接続されていることを検出するように構成される第1検出モジュール;
    予め設定されたウィンドウ数量に基づいて、少なくとも1つの表示されるべきウィンドウを取得するように構成されるウィンドウ取得モジュールであって、前記少なくとも1つの表示されるべきウィンドウは、二次元ウィンドウであり、前記予め設定されたウィンドウ数量は、当該第1電子デバイスによって取得された前記第2電子デバイスの表示インタフェースのサイズに基づく、ウィンドウ取得モジュール;
    前記予め設定されたウィンドウ数量及び前記少なくとも1つの取得された表示されるべきウィンドウに基づいて、前記第2電子デバイスの前記表示インタフェースを分割するように構成されるインタフェースレイアウトモジュール;
    前記少なくとも1つの表示されるべきウィンドウに対して次元変換処理を実行するように構成される3D変換モジュール;及び
    少なくとも1つの変換された表示されるべきウィンドウを前記第2電子デバイスに送信するように構成される送信モジュールであって、前記少なくとも1つの変換された表示されるべきウィンドウは、3次元ウィンドウである、送信モジュール;
    を含み、
    前記少なくとも1つの表示されるべきウィンドウは、アプリケーションプログラムインタフェース及び/又はデスクトップ画面を含み、前記アプリケーションプログラムインタフェースは、前記第2電子デバイスが接続されていることを当該第1電子デバイスが検出したときに取得される、当該第1電子デバイスの現在のフォアグラウンドアプリケーションのインタフェースと、最近使用されたバックグラウンドアプリケーションのインタフェースとを含み、
    当該第1電子デバイスは、
    前記現在のフォアグラウンドアプリケーションのインタフェースをフォーカスウィンドウに設定し、前記バックグラウンドアプリケーションのインタフェースを可視ウィンドウに設定するように構成されたウィンドウステータス調整モジュール
    を更に含む、電子デバイス。
  8. 前記3D変換モジュールは、前記少なくとも1つの表示されるべきウィンドウに対して双眼レンダリングを実行して、前記少なくとも1つの表示されるべきウィンドウにおける左眼画像及び右眼画像を取得するように構成される、
    請求項に記載の電子デバイス。
  9. 3Dモードのスイッチがターンオンされたことを検出し、前記ウィンドウ取得モジュールをトリガするように構成される第2検出モジュール;又は
    前記第2電子デバイスから通知を受け取って、前記ウィンドウ取得モジュールをトリガするように構成される第3検出モジュールであって、前記通知は、前記第2電子デバイスがユーザによって装着されていることを示すために使用される、第3検出モジュール;
    を更に含む、請求項又はに記載の電子デバイス。
  10. 3Dモードのスイッチがターンオンされたことを検出し、前記送信モジュールをトリガするように構成される第4検出モジュール;又は
    前記第2電子デバイスから通知を受け取って、前記送信モジュールをトリガするように構成される第5検出モジュールであって、前記通知は、前記第2電子デバイスがユーザによって装着されていることを示すために使用される、第5検出モジュール;
    を更に含む、請求項又はに記載の電子デバイス。
  11. 前記デスクトップ画面は、少なくとも2つのアプリケーションのアイコンを含み、前記アイコンは、前記アプリケーションの使用頻度に基づいてハイライトされる、
    請求項に記載の電子デバイス。
  12. 前記第2電子デバイスはカメラを含み、前記第1電子デバイスは、前記カメラによって収集されたコンテンツを受け取るように構成される受信モジュールを更に備え、前記送信モジュールは、前記第2電子デバイスが前記カメラによって収集されたコンテンツをリアルタイムで表示するように、前記カメラによって収集されたコンテンツを前記第2電子デバイスにリアルタイムで送信するように更に構成される、
    請求項乃至11のいずれか一項に記載の電子デバイス。
  13. 第2電子デバイス上に三次元(3D)インタフェースを表示するように構成される電子デバイスであって、
    当該電子デバイスは、周辺インタフェース、プロセッサ及びメモリを含み;
    前記メモリはプログラムを記憶するように構成され;
    前記プロセッサは、前記電子デバイスが請求項1乃至のいずれか一項に記載の方法を実行するように、前記メモリ内の前記プログラムを実行するように構成される、
    電子デバイス。
  14. 命令を含むコンピュータ読取可能な記憶媒体であって、前記命令がコンピュータ上で実行されると、前記コンピュータは、請求項1乃至のいずれか一項に記載の方法を実行することを可能にされる、コンピュータ読取可能な記憶媒体。
JP2020513779A 2017-09-07 2018-09-06 インタフェース表示方法及び装置 Active JP7123128B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201710802021.9A CN109471603A (zh) 2017-09-07 2017-09-07 一种界面显示方法及装置
CN201710802021.9 2017-09-07
PCT/CN2018/104257 WO2019047876A1 (zh) 2017-09-07 2018-09-06 一种界面显示方法及装置

Publications (2)

Publication Number Publication Date
JP2020533682A JP2020533682A (ja) 2020-11-19
JP7123128B2 true JP7123128B2 (ja) 2022-08-22

Family

ID=65634740

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020513779A Active JP7123128B2 (ja) 2017-09-07 2018-09-06 インタフェース表示方法及び装置

Country Status (5)

Country Link
US (1) US20200286449A1 (ja)
EP (1) EP3672239A4 (ja)
JP (1) JP7123128B2 (ja)
CN (1) CN109471603A (ja)
WO (1) WO2019047876A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109358927B (zh) * 2018-09-21 2020-05-01 Oppo广东移动通信有限公司 应用程序显示的方法、装置及终端设备
CN110347305A (zh) * 2019-05-30 2019-10-18 华为技术有限公司 一种vr多屏显示方法及电子设备
CN110221894A (zh) * 2019-05-30 2019-09-10 重庆爱奇艺智能科技有限公司 一种用于在3d视图中显示2d窗口的方法与装置
CN110426848B (zh) 2019-06-03 2021-06-08 华为技术有限公司 头戴式显示设备及其显示方法
CN110248026B (zh) * 2019-06-18 2021-10-22 北京字节跳动网络技术有限公司 一种移动终端、显示系统及其显示控制方法、记录介质
CN110532050B (zh) * 2019-07-31 2023-08-25 努比亚技术有限公司 运动数据刷新方法、可穿戴设备及计算机可读存储介质
CN110543384B (zh) * 2019-09-05 2022-05-17 Oppo广东移动通信有限公司 内存的回写方法、装置、终端及存储介质
CN110780967B (zh) * 2019-10-30 2024-06-21 努比亚技术有限公司 应用展示方法、终端和计算机可读存储介质
JP7438786B2 (ja) 2020-02-25 2024-02-27 株式会社コロプラ プログラム、情報処理方法、及び情報処理装置
CN114079764A (zh) * 2020-08-11 2022-02-22 北京芯海视界三维科技有限公司 3d显示方法、3d显示装置及3d显示器件
CN112181567A (zh) * 2020-09-27 2021-01-05 维沃移动通信有限公司 界面显示方法、装置及电子设备
CN113918067A (zh) * 2020-11-20 2022-01-11 完美世界(北京)软件科技发展有限公司 一种界面逻辑执行方法以及装置、电子设备、介质
CN112558699B (zh) * 2020-12-23 2024-04-26 联想(北京)有限公司 一种触控方法、装置、设备及计算机可读存储介质
CN112965773B (zh) * 2021-03-03 2024-05-28 闪耀现实(无锡)科技有限公司 用于信息显示的方法、装置、设备和存储介质
CN113556601A (zh) * 2021-07-19 2021-10-26 上海月猫科技有限公司 一种分屏方法、系统及存储介质
CN113742112B (zh) * 2021-09-15 2024-04-16 武汉联影智融医疗科技有限公司 心电图像的生成方法、系统和电子装置
CN114020375A (zh) * 2021-09-22 2022-02-08 联想(北京)有限公司 一种显示方法及装置
CN114138395A (zh) * 2021-12-08 2022-03-04 维沃移动通信有限公司 应用管理方法、装置和电子设备
CN115661418A (zh) * 2022-12-22 2023-01-31 灯影科技有限公司 混合现实显示装置、方法、设备及存储介质
CN116301482B (zh) * 2023-05-23 2023-09-19 杭州灵伴科技有限公司 3d空间的窗口显示方法和头戴式显示设备

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002116903A (ja) 2000-10-06 2002-04-19 Hitachi Ltd 複数画面表示方法
JP2009229172A (ja) 2008-03-21 2009-10-08 Alpine Electronics Inc 情報提供装置及び情報提供方法
JP2010198295A (ja) 2009-02-25 2010-09-09 Fujitsu Ltd 情報表示プログラム、情報表示装置、および情報表示方法
JP2011138235A (ja) 2009-12-26 2011-07-14 Canon Inc 情報処理装置、周辺装置管理方法、及びプログラム
JP2011232979A (ja) 2010-04-28 2011-11-17 Sharp Corp 表示装置
JP2016122975A (ja) 2014-12-25 2016-07-07 セイコーエプソン株式会社 表示装置、及び、表示装置の制御方法
US20170150139A1 (en) 2015-11-24 2017-05-25 Samsung Electronics Co., Ltd. Electronic device and method for displaying content according to display mode

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6002403A (en) * 1996-04-30 1999-12-14 Sony Corporation Graphical navigation control for selecting applications on visual walls
JP3526019B2 (ja) * 1999-11-30 2004-05-10 インターナショナル・ビジネス・マシーンズ・コーポレーション 画像表示システム、画像表示装置、および画像表示方法
JP4440067B2 (ja) * 2004-10-15 2010-03-24 キヤノン株式会社 立体表示のための画像処理プログラム、画像処理装置および立体表示システム
JP4910062B2 (ja) * 2010-06-30 2012-04-04 株式会社東芝 立体視映像表示装置、立体視用眼鏡及び立体視映像表示システム
US20120293637A1 (en) * 2011-05-20 2012-11-22 Echostar Technologies L.L.C. Bufferless 3D On Screen Display
CN102427550A (zh) * 2011-12-09 2012-04-25 彩虹集团公司 一种实现2d转3d的方法
US9571820B2 (en) * 2011-12-31 2017-02-14 Resonance Technology, Inc. MRI-compatible 3D television and display system
CN107220020B (zh) * 2013-01-04 2020-05-26 联想(北京)有限公司 一种显示方法和电子设备
CN104808782B (zh) * 2014-01-28 2019-12-03 中兴通讯股份有限公司 应用分屏方法与装置、智能终端
CN104536714A (zh) * 2015-01-07 2015-04-22 深圳市众进思创科技开发有限公司 一种设备间对显示信息分屏显示的方法及系统
DE102015102639A1 (de) * 2015-02-24 2016-08-25 Emporia Telecom Gmbh & Co Kg Verfahren zum Betreiben eines mobilen Endgerätes, Applikation für ein mobiles Endgerät sowie mobiles Endgerät
CN104683341B (zh) * 2015-02-27 2018-09-25 努比亚技术有限公司 应用登录方法和系统
CN104794008B (zh) * 2015-04-28 2021-06-15 北京数字天域科技有限责任公司 一种应用程序同步的方法、装置和系统
US10295990B2 (en) * 2015-05-18 2019-05-21 Milwaukee Electric Tool Corporation User interface for tool configuration and data capture
KR101729564B1 (ko) * 2015-09-07 2017-05-02 엘지전자 주식회사 이동 단말기 및 그 제어 방법
CN106817508B (zh) * 2015-11-30 2019-11-22 华为技术有限公司 一种同步对象确定方法、装置和系统
KR102442527B1 (ko) * 2016-02-26 2022-09-13 엘지전자 주식회사 무선 디바이스
CN105867815A (zh) * 2016-03-28 2016-08-17 乐视控股(北京)有限公司 一种分屏显示方法及装置
CN107133028B (zh) * 2017-03-30 2021-07-16 联想(北京)有限公司 一种信息处理方法及电子设备
CN107132914A (zh) * 2017-04-10 2017-09-05 青岛海信移动通信技术股份有限公司 用于vr显示的终端分屏显示的方法及终端
CN107132985A (zh) * 2017-04-30 2017-09-05 上海爱优威软件开发有限公司 一种显示切换方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002116903A (ja) 2000-10-06 2002-04-19 Hitachi Ltd 複数画面表示方法
JP2009229172A (ja) 2008-03-21 2009-10-08 Alpine Electronics Inc 情報提供装置及び情報提供方法
JP2010198295A (ja) 2009-02-25 2010-09-09 Fujitsu Ltd 情報表示プログラム、情報表示装置、および情報表示方法
JP2011138235A (ja) 2009-12-26 2011-07-14 Canon Inc 情報処理装置、周辺装置管理方法、及びプログラム
JP2011232979A (ja) 2010-04-28 2011-11-17 Sharp Corp 表示装置
JP2016122975A (ja) 2014-12-25 2016-07-07 セイコーエプソン株式会社 表示装置、及び、表示装置の制御方法
US20170150139A1 (en) 2015-11-24 2017-05-25 Samsung Electronics Co., Ltd. Electronic device and method for displaying content according to display mode

Also Published As

Publication number Publication date
JP2020533682A (ja) 2020-11-19
WO2019047876A1 (zh) 2019-03-14
EP3672239A4 (en) 2020-09-23
CN109471603A (zh) 2019-03-15
US20200286449A1 (en) 2020-09-10
EP3672239A1 (en) 2020-06-24

Similar Documents

Publication Publication Date Title
JP7123128B2 (ja) インタフェース表示方法及び装置
KR102628044B1 (ko) 삼차원 가상 현실 환경에서의 이차원 애플리케이션 사용을 위한 시스템 및 방법
CN108289161B (zh) 电子设备及其图像捕捉方法
US10623661B2 (en) Image composition method with image sensors having different angles of view and electronic device for supporting the same
CN110462572B (zh) 电子装置及其控制方法
US10380716B2 (en) Electronic device for providing omnidirectional image and method thereof
US10168772B2 (en) Head mounted electronic device
KR102303115B1 (ko) 웨어러블 디바이스 및 웨어러블 디바이스 의 증강 현실 정보 제공 방법
CN105900051B (zh) 电子装置以及在虚拟现实模式下的事件显示方法
US10075653B2 (en) Method and electronic device for image processing
CN106415510B (zh) 数据处理方法及其电子设备
US10732793B2 (en) Apparatus and method for providing information via portion of display
US20160063767A1 (en) Method for providing visual reality service and apparatus for the same
EP3023969A2 (en) Display and method and electronic device
US10916049B2 (en) Device and method for rendering image
CN113377317A (zh) 用于提供屏幕镜像服务的设备和方法
KR20160121145A (ko) 카메라 설정 방법 및 장치
KR20160063812A (ko) 화면 구성 방법, 전자 장치 및 저장 매체
CN107810472B (zh) 电子装置和用于控制全景图像的显示的方法
KR20160061133A (ko) 이미지 표시 방법 및 그 전자 장치
KR102641881B1 (ko) 전방위 영상을 획득하는 방법 및 장치
US20180176536A1 (en) Electronic device and method for controlling the same
US20160238851A1 (en) Method and apparatus for displaying content
KR102632270B1 (ko) 전자 장치 및 파노라마 영상 표시와 생성 방법
CN109845251B (zh) 用于显示图像的电子设备和方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200415

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200415

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210413

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210707

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220419

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220419

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220502

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220510

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220809

R150 Certificate of patent or registration of utility model

Ref document number: 7123128

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150