以下、この出願の実施態様における添付図面を参照して、この出願の実施態様における技術的解決策を説明する。この出願の実施形態の説明において、「/」とは、特に断らない限り、「又は」を意味する。例えば、A/Bは、A又はBを表してもよい。本明細書において、「及び/又は」とは、関連するオブジェクトを説明するための関連関係のみを説明し、3つの関係が存在し得ることを表す。例えば、A及び/又はBは、Aのみ存在し、AとBの両方が存在し、Bのみが存在することを表してもよい。追加的に、この出願の実施形態の説明においては、「複数の」とは、2つ以上を意味する。
以下の用語「第1の」及び「第2の」は、単に説明のためのものに過ぎず、示された技術的特徴の数の相対的重要性又は暗示的表示の表示又は示唆として理解されるものではない。したがって、「第1の」又は「第2の」によって限定される特徴は、1つ以上の特徴を明示的又は暗示的に含むことができる。実施形態の説明において、特に断らない限り、「複数の」とは、2つ以上を意味する。
この出願の実施形態は、UIコンポーネントを表示するための方法を提供する。本方法は、電子デバイスに適用することも、独立したアプリケーションに適用することもできる。本出願は、複数の端末デバイス間で異なるインターフェースコンポーネントを表示することができる。具体的には、この方法では、送信元デバイスの元のアプリケーションインターフェースの一部を、異なる機能コントロール又は複数の機能コントロールの組み合わせに分割することができる。異なる機能コントロール又は複数の機能コントロールの組み合わせは、新しい操作インターフェースを生成するために使用する。操作インターフェースは、別の宛先デバイス上に表示され得る。操作が宛先デバイスの操作インターフェースに含まれる任意の機能コントロールに対して行われ、操作結果が実行のために送信元デバイスに送信されて、送信元デバイスと宛先デバイスとの操作整合性を確保する。
この出願の実施形態において提供されるビデオにおける単語又は文章を再読するための方法は、携帯電話、タブレットコンピュータ、ウェアラブルデバイス、車載デバイス、拡張リアリティ(augmented reality、AR)デバイス/バーチャルリアリティ(virtual reality、VR)デバイス、ノートブックコンピュータ、ウルトラモバイルパーソナルコンピュータ(ultra-mobile personal computer、UMPC)、ネットブック、又はパーソナルデジタルアシスタント(personal digital assistant、PDA)などの電子デバイスに適用することができる。電子デバイスの特定のタイプは、この出願の実施態様において限定されない。
例えば、図1は、電子デバイス100の構造の概略図である。
電子デバイス100は、プロセッサ110、外部メモリインターフェース120、内部メモリ121、ユニバーサルシリアルバス(universal serial bus、USB)ポート130、充電管理モジュール140、電力管理モジュール141、バッテリ142、アンテナ1、アンテナ2、移動通信モジュール150、無線通信モジュール160、オーディオモジュール170、スピーカ170A、受信機170B、マイクロホン170C、ヘッドセットジャック170D、センサモジュール180、キー190、モータ191、インジケータ192、カメラ193、ディスプレイ194、加入者識別モジュール(subscriber identification module、SIM)カードインターフェース195などを含み得る。センサモジュール180は、圧力センサ180A、ジャイロスコープセンサ180B、気圧センサ180C、磁気センサ180D、加速度センサ180E、距離センサ180F、光近接センサ180G、指紋センサ180H、温度センサ180J、タッチセンサ180K、周辺光センサ180L、骨伝導センサ180Mなどを含み得る。
本発明のこの実施形態に示される構造は、電子デバイス100に対する具体的な限定を構成しないと理解されよう。この出願の他のいくつかの実施形態において、電子デバイス100は、図に示すものよりも多くの、又は少ないコンポーネントを含むことができ、いくつかのコンポーネントを組み合わせることができ、いくつかのコンポーネントを分割することができ、又は異なるコンポーネント配置を有することができる。図に示すコンポーネントは、ハードウェア、ソフトウェア、又はソフトウェアとハードウェアの組み合わせを使用することによって実施することができる。
プロセッサ110は、1つ以上の処理ユニットを含み得る。例えば、プロセッサ110は、アプリケーションプロセッサ(application processor、AP)、モデムプロセッサ、グラフィックス処理ユニット(graphics processing unit、GPU)、画像信号プロセッサ(image signal processor、ISP)、コントローラ、ビデオコーデック、デジタル信号プロセッサ(digital signal processor、DSP)、ベースバンドプロセッサ、及び/又はニューラルネットワーク処理ユニット(neural-network processing unit、NPU)を含んでもよい。異なる処理ユニットは、独立したデバイスであってもよいし、1つ以上のプロセッサに統合されてもよい。
コントローラは、命令動作コード及び時間シーケンス信号に基づいて動作制御信号を生成して、命令フェッチ及び命令実行の完全な制御を行うことができる。
メモリは、さらに、プロセッサ110内に配置されてもよく、命令及びデータを記憶するように構成されている。いくつかの実施形態では、プロセッサ110内のメモリはキャッシュメモリである。メモリは、プロセッサ110によってちょうど使用されるか又は周期的に使用される命令又はデータを記憶することができる。プロセッサ110が命令又はデータを再度使用する必要がある場合、プロセッサ110は、メモリから命令又はデータを直接呼び出すことができる。これは、繰り返されるアクセスを回避し、プロセッサ110の待ち時間を短縮し、それによって、システムの効率を改善する。
いくつかの実施形態において、プロセッサ110は、1つ以上のインターフェースを含んでもよい。このインターフェースは、集積回路間(inter-integrated circuit、I2C)インターフェース、集積回路間サウンド(inter-integrated circuit sound、I2S)インターフェース、パルスコード変調(pulse code modulation、PCM)インターフェース、汎用非同期受信機/送信機(universal asynchronous receiver/transmitter、UART)インターフェース、モバイル産業用プロセッサインターフェース(mobile industry processor interface、MIPI)、汎用入出力(general-purpose input/output、GPIO)インターフェース、加入者識別モジュール(subscriber identity module、SIM)インターフェース、汎用シリアルバス(universal serial bus、USB)ポート、及び/又はこれらに類するものを含み得る。
I2Cインターフェースは、双方向同期シリアルバスであり、1つのシリアルデータライン(serial data line、SDA)と1つのシリアルクロックライン(serial clock line、SCL)を1つ含む。いくつかの実施形態では、プロセッサ110は、複数のグループのI2Cバスを含み得る。プロセッサ110は、異なるI2Cバスインターフェースを介して、タッチセンサ180K、充電器、フラッシュライト、カメラ193などに別々に結合され得る。例えば、プロセッサ110は、I2Cインターフェースを介してタッチセンサ180Kに結合されてもよく、プロセッサ110は、I2Cバスインターフェースを介してタッチセンサ180Kと通信して、電子デバイス100のタッチ機能を実施するようにする。
I2Sインターフェースは、オーディオ通信を行うように構成され得る。いくつかの実施形態において、プロセッサ110は、複数のグループのI2Sバスを含んでもよい。プロセッサ110は、I2Sバスを介してオーディオモジュール170に結合されて、プロセッサ110とオーディオモジュール170との間の通信を実施することができる。いくつかの実施形態では、オーディオモジュール170は、I2Sインターフェースを介してオーディオ信号を無線通信モジュール160に送信して、Bluetoothヘッドセットを使用することによって電話に出る機能を実施してもよい。
PCMインターフェースはまた、オーディオ通信、及びサンプル、量子化、及びアナログ信号のコード化を行うように構成されてもよい。いくつかの実施形態では、オーディオモジュール170は、PCMバスインターフェースを介して無線通信モジュール160に結合されてもよい。いくつかの実施形態では、オーディオモジュール170はまた、PCMインターフェースを介してオーディオ信号を無線通信モジュール160に送信して、Bluetoothヘッドセットを使用することによって電話に出る機能を実施してもよい。I2SインターフェースとPCMインターフェースの両方とも、オーディオ通信を行うように設定され得る。
UARTインターフェースはユニバーサルシリアルデータバスであり、非同期通信を行うように設定されています。バスは、双方向通信バスであってもよく、シリアル通信とパラレル通信との間で送信されるべきデータを変換する。いくつかの実施形態では、UARTインターフェースは、通常、プロセッサ110を無線通信モジュール160に接続するように構成されている。例えば、プロセッサ110は、UARTインターフェースを介して無線通信モジュール160内のBluetoothモジュールと通信して、Bluetooth機能を実施する。いくつかの実施形態では、オーディオモジュール170は、UARTインターフェースを介してオーディオ信号を無線通信モジュール160に送信して、Bluetoothヘッドセットを使用することによって音楽を再生する機能を実施することができる。
MIPIインターフェースは、プロセッサ110をディスプレイ194又はカメラ193などの周辺コンポーネントに接続するように構成され得る。MIPIインターフェースは、カメラシリアルインターフェース(camera serial interface、CSI)、ディスプレイシリアルインターフェース(display serial interface、DSI)などを含む。いくつかの実施形態では、プロセッサ110は、CSIインターフェースを介してカメラ193と通信して、電子デバイス100の撮影機能を実施する。プロセッサ110は、DSIインターフェースを介してディスプレイ194と通信して、電子デバイス100の表示機能を実施する。
GPIOインターフェースは、ソフトウェアを使用することによって設定され得る。GPIOインターフェースは、制御信号又はデータ信号として構成され得る。いくつかの実施形態では、GPIOインターフェースは、プロセッサ110をカメラ193、ディスプレイ194、無線通信モジュール160、オーディオモジュール170、センサモジュール180などに接続するように構成され得る。GPIOインターフェースは、代替的には、I2Cインターフェース、I2Sインターフェース、UARTインターフェース、MIPIインターフェースなどとして構成されてもよい。
USBポート130は、USB標準仕様に準拠するポートであり、具体的には、ミニUSBポート、マイクロUSBポート、USBタイプCポートなどであり得る。USBポート130は、電子デバイス100を充電するために充電器に接続するように構成されてもよいし、電子デバイス100と周辺デバイスとの間でデータを送信するように構成されてもよいし、ヘッドセットを使用することによってオーディオを再生するためにヘッドセットに接続するように構成されてもよい。代替的には、ポートは、他の電子デバイス、例えば、ARデバイスに接続するように構成されてもよい。
本発明のこの実施形態で示されるモジュール間のインターフェース接続関係は、単なる説明ための例に過ぎず、電子デバイス100の構造に対する限定を構成しないと理解されよう。この出願のいくつかの他の実施形態では、電子デバイス100は、代替的には、前述の実施形態とは異なるインターフェース接続方式、又は複数のインターフェース接続方法の組み合わせを使用することができる。
充電管理モジュール140は、充電器からの充電入力を受信するように構成されている。充電器は、無線充電器又は有線充電器であり得る。有線充電のいくつかの実施形態では、充電管理モジュール140は、USBポート130を介して有線充電器からの充電入力を受信することができる。無線充電のいくつかの実施形態では、充電管理モジュール140は、電子デバイス100の無線充電コイルを介して無線充電入力を受信することができる。充電管理モジュール140は、バッテリ142を充電しながら、さらに、電力管理モジュール141を介して電子デバイスに電力を供給することができる。
電力管理モジュール141は、バッテリ142及び充電管理モジュール140をプロセッサ110に接続するように構成されている。電力管理モジュール141は、バッテリ142の入力及び/又は充電管理モジュール140の入力を受信し、プロセッサ110、内部メモリ121、ディスプレイ194、カメラ193、無線通信モジュール160などに電力を供給する。電力管理モジュール141は、さらに、バッテリ容量、バッテリサイクル数、及びバッテリ健康状態(漏電又はインピーダンス)などのパラメータを監視するように構成され得る。いくつかの他の実施形態では、電力管理モジュール141は、代替的にプロセッサ110内に設けられてもよい。いくつかの他の実施形態では、電力管理モジュール141及び充電管理モジュール140は、代替的には、同じデバイス内に設けられてもよい。
電子デバイス100の無線通信機能は、アンテナ1、アンテナ2、移動通信モジュール150、無線通信モジュール160、モデムプロセッサ、ベースバンドプロセッサなどを介して実施され得る。
アンテナ1及びアンテナ2は、電磁波信号を送信及び受信するように構成されている。電子デバイス100内の各アンテナは、1つ以上の通信帯域をカバーするように構成され得る。異なるアンテナをさらに多重化して、アンテナ利用率を改善することができる。例えば、アンテナ1は、無線ローカルエリアネットワーク内のダイバーシチアンテナとして多重化してもよい。他の実施形態では、アンテナは、調整スイッチと組み合わせて使用してもよい。
移動通信モジュール150は、2G/3G/4G/5Gなどを含み、電子デバイス100に適用される無線通信ソリューションを提供することができる。移動通信モジュール150は、少なくとも1つのフィルタ、スイッチ、電力増幅器、低ノイズ増幅器(low noise amplifier、LNA)などを含むことができる。移動通信モジュール150は、アンテナ1を介して電磁波を受信し、受信された電磁波に対するフィルタリング又は増幅などの処理を行い、処理された電磁波を復調のためにモデムプロセッサに送信することができる。移動通信モジュール150は、モデムプロセッサによって変調された信号をさらに増幅し、増幅された信号を放射のためにアンテナ1を介して電磁波に変換することができる。いくつかの実施形態では、移動通信モジュール150内の少なくともいくつかの機能モジュールは、プロセッサ110内に設けられてもよい。いくつかの実施形態では、移動通信モジュール150内の少なくともいくつかの機能モジュールは、プロセッサ110内の少なくともいくつかのモジュールと同じデバイス内に設けられてもよい。
モデムプロセッサは、変調器及び復調器を含み得る。変調器は、送信される低周波ベースバンド信号を中高周波信号に変調するように構成されている。復調器は、受信された電磁波信号を低周波ベースバンド信号に復調するように構成されている。次に、復調器は、復調を介して取得された低周波ベースバンド信号を処理のためにベースバンドプロセッサに送信する。低周波ベースバンド信号は、ベースバンドプロセッサによって処理され、次に、アプリケーションプロセッサに送信される。アプリケーションプロセッサは、オーディオデバイス(スピーカ170A、受信機170Bなどに限定されない)を使用することによって音声信号を出力するか、又はディスプレイ194を介して画像又はビデオを表示する。いくつかの実施形態において、モデムプロセッサは、独立したコンポーネントであってもよい。いくつかの他の実施形態では、モデムプロセッサは、プロセッサ110から独立していてもよく、移動通信モジュール150又は別の機能モジュールと同じデバイスに設けられる。
無線通信モジュール160は、無線ローカルエリアネットワーク(wireless local area networks、無線LAN) (例えば、無線フィデリティ(wireless fidelity、Wi-Fi)ネットワーク)、Bluetooth(bluetooth、BT)、グローバルナビゲーション衛星システム(global navigation satellite system、GNSS)、周波数変調(frequency modulation、FM)、近接場通信(near field communication、NFC)技術、赤外線(infrared、赤外線)技術などを含み、電子デバイス100に適用される無線通信ソリューションを提供することができる。無線通信モジュール160は、少なくとも1つの通信プロセッサモジュールに統合された1つ以上のコンポーネントとすることができる。無線通信モジュール160は、アンテナ2を介して電磁波を受信し、電磁波信号に対して周波数変調及びフィルタ処理を行い、処理された信号をプロセッサ110に送信する。無線通信モジュール160は、さらに、プロセッサ110から送信される信号を受信し、その信号に対して周波数変調及び増幅を行い、処理された信号をアンテナ2を介して放射のために電磁波に変換することができる。
いくつかの実施形態では、電子デバイス100内のアンテナ1及び移動通信モジュール150は結合され、電子デバイス100内のアンテナ2及び無線通信モジュール160は結合され、電子デバイス100は、無線通信技術を使用することによってネットワーク及び別のデバイスと通信することができるようにする。無線通信技術は、移動通信のためのグローバルシステム(global system for mobile communications、GSM)、一般パケット無線サービス(general packet radio service、GPRS)、符号分割多元接続(code division multiple access、CDMA)、広帯域符号分割多重接続(wideband code division multiple access、WCDMA)、時分割符号分割多重接続(time-division code division multiple access、TD-SCDMA)、ロング・ターム・エボリューション(long term evolution、LTE)、BT、GNSS、WLAN、NFC、FM、IR技術などを含み得る。GNSSは、全地球測位システム(global positioning system、GPS)、全地球航法衛星システム(global navigation satellite system、GLONASS)、北斗航法衛星システム(beidou navigation satellite system、BDS)、準天頂衛星システム(quasi-zenith satellite system、QZSS)、及び/又は衛星ベースの増強システム(satellite based augmentation systems、SBAS)を含み得る。
電子デバイス100は、GPU、ディスプレイ194、アプリケーションプロセッサなどを使用することによってディスプレイ機能を実施する。GPUは画像処理のためのマイクロプロセッサであり、ディスプレイ194及びアプリケーションプロセッサに接続される。GPUは、数学的及び幾何学的計算を行い、画像をレンダリングするように構成されている。プロセッサ110は、表示情報を生成又は変更するプログラム命令を実行する1つ以上のGPUを含み得る。
ディスプレイ194は、画像、ビデオなどを表示するように構成されている。ディスプレイ194は、ディスプレイパネルを含む。表示パネルは、液晶ディスプレイ(liquid crystal display、LCD)、有機発光ダイオード(organic light-emitting diode、OLED)、アクティブマトリックス有機発光ダイオード又はアクティブマトリックス有機発光ダイオード(active-matrix organic light emitting diode、AMOLED)、フレキシブル発光ダイオード(flex light-emitting diode、FLED)、Miniled、MicroLed、Micro-oLed、量子ドット発光ダイオード(quantum dot light emitting diodes、QLED)などであり得る。いくつかの実施形態では、電子デバイス100は、1つ又はN個のディスプレイ194を含んでもよく、Nは、1よりも大きい正の整数である。
電子デバイス100は、ISP、カメラ193、ビデオコーデック、GPU、ディスプレイ194、アプリケーションプロセッサなどを使用することによって、撮影機能を実施することができる。
ISPは、カメラ193によってフィードバックされたデータを処理するように構成されている。例えば、撮影中にシャッタを押すと、レンズを介してカメラの感光体に光が伝達され、光信号が電気信号に変換され、カメラの感光体が処理のためにISPに電気信号を送信し、電気信号を可視画像に変換する。ISPは、さらに、画像のノイズ、輝度、及び顔色に関してアルゴリズム最適化を行うことができる。ISPは、さらに、撮影シナリオの露光及び色温度などのパラメータを最適化することができる。いくつかの実施形態において、ISPは、カメラ193内に設けられてもよい。
カメラ193は、静止画像又はビデオを捕捉するように構成されている。物体の光学画像は、レンズを通して生成され、感光体にプロジェクションされる。感光体は、電荷結合素子(charge coupled device、CCD)又は相補型金属酸化物半導体(complementary metal-oxide-semiconductor、CMOS)フォトトランジスタであり得る。感光体は、光信号を電気信号に変換した後、電気信号をISPに送信して、電気信号をデジタル画像信号に変換する。ISPは、デジタル画像信号を処理のためにDSPに出力する。DSPは、デジタル画像信号をRGBフォーマット又はYUVフォーマットなどの標準フォーマットの画像信号に変換する。いくつかの実施形態では、電子デバイス100は、1つ又はN個のカメラ193を含んでもよく、Nは、1よりも大きい正の整数である。
デジタル信号プロセッサは、デジタル信号を処理するように構成されており、デジタル画像信号に加えて別のデジタル信号を処理することができる。例えば、電子デバイス100が周波数を選択するときに、デジタル信号プロセッサは、周波数エネルギーに対してフーリエ変換などを行うように構成されている。
ビデオコーデックは、デジタルビデオを圧縮又は解凍するように構成されている。電子デバイス100は、1つ以上のビデオコーデックをサポートすることができる。このようにして、電子デバイス100は、複数の符号化フォーマット、例えば、動画エキスパートグループ(moving picture experts group、MPEG)-1、MPEG-2、MPEG-3、及びMPEG-4でビデオを再生又は記録することができる。
NPUは、ニューラルネットワーク(neural-network、NN)計算プロセッサであり、例えば、ヒト脳ニューロン間の伝達モードを参照することによって、生物学的ニューラルネットワークの構造を参照することにより入力情報を迅速に処理し、さらに、自己学習を継続的に行うことができる。NPUは、画像認識、顔認識、音声認識、及びテキスト理解のような電子デバイス100のインテリジェント認知のようなアプリケーションを実施することができる。
外部メモリインターフェース120は、外部メモリカード、例えばマイクロSDカードに接続するように構成され、電子デバイス100の記憶能力を拡張することができる。外部メモリカードは、外部メモリインターフェース120を介してプロセッサ110と通信し、データ記憶機能を実施する。例えば、音楽やビデオなどのファイルは外部メモリカードに記憶される。
内部メモリ121は、コンピュータ実行可能プログラムコードを記憶するように構成され得る。実行可能プログラムコードは命令を含む。内部メモリ121は、プログラム記憶領域及びデータ記憶領域を含み得る。プログラム記憶領域は、オペレーティングシステム、少なくとも1つの機能(例えば、音声再生機能又は画像再生機能)によって必要とされるアプリケーションなどを記憶することができる。データ記憶領域は、電子デバイス100を使用するプロセスで作成されたデータ(例えば、オーディオデータ、及び電話帳)などを記憶することができる。追加的に、内部メモリ121は、高速ランダムアクセスメモリを含んでもよいし、さらに、不揮発性メモリ、例えば、少なくとも1つの磁気ディスク記憶デバイス、フラッシュメモリデバイス、又はユニバーサルフラッシュストレージ(universal flash storage、UFS)を含んでもよい。プロセッサ110は、内部メモリ121に記憶された命令及び/又はプロセッサ内に設けられたメモリに記憶された命令を動作させ、電子デバイス100の様々な機能アプリケーション及びデータ処理を行う。
電子デバイス100は、オーディオ機能、例えば、オーディオモジュール170、スピーカ170A、受信機170B、マイクロホン170C、ヘッドセットジャック170D、アプリケーションプロセッサなどを介して、音楽の再生及び録音を実施することができる。
オーディオモジュール170は、デジタルオーディオ情報をアナログオーディオ信号出力に変換するように構成されており、アナログオーディオ入力をデジタルオーディオ信号に変換するように構成されている。オーディオモジュール170は、さらに、オーディオ信号を符号化及び復号するように構成され得る。いくつかの実施形態では、オーディオモジュール170は、プロセッサ110内に設けられてもよく、又はオーディオモジュール170のいくつかの機能モジュールは、プロセッサ110内に設けられてもよい。
スピーカ170Aは、「ホーン」とも呼ばれ、電気オーディオ信号を音声信号に変換するように構成されている。電子デバイス100は、スピーカ170Aを使用することによって、音楽を聞くか、又はハンズフリーで電話に出るように構成されてもよい。
受信機170Bは、「イヤピース」とも呼ばれ、電気オーディオ信号を音声信号に変換するように構成されている。電子デバイス100を使用することによって、電話に出たり、発話情報を受信したりするときに、受信機170Bを人間の耳の近くに置いて、発話を受信することができる。
マイクロホン170Cは、「マイク」又は「マイクロホン」とも呼ばれ、音声信号を電気信号に変換するように構成されている。電話をかけたり、発話情報を送信するときに、ユーザは、マイクロホン170Cの近くで人間の口を動かして音声を発し、音声信号をマイクロホン170Cに入力することができる。少なくとも1つのマイクロホン170Cが、電子デバイス100内に設けられてもよい。いくつかの他の実施形態では、2つのマイクロホン170Cを電子デバイス100内に設けて、音声信号を収集することに加えて、ノイズ低減機能を実施してもよい。他のいくつかの実施形態では、3つ、4つ、又はそれ以上のマイクロホン170Cを、代替的には、電子デバイス100内に設けて、音響信号を収集し、ノイズを低減し、音源を識別し、方向性記録機能を実施してもよい。
ヘッドセットジャック170Dは、有線ヘッドセットに接続するように構成されている。ヘッドセットジャック170Dは、USBポート130であってもよいし、3.5mmのオープンモバイル電子デバイスプラットフォーム(open mobile terminal platform、OMTP)標準インターフェース、又は米国のセルラー通信業界協会(cellular telecommunications industry association of the USA、CTIA)標準インターフェースであってもよい。
圧力センサ180Aは、圧力信号を感知するように構成されており、圧力信号を電気信号に変換してもよい。いくつかの実施形態において、圧力センサ180Aは、ディスプレイ194に設けられてもよい。圧力センサ180Aには、抵抗圧力センサ、誘導圧力センサ、及び容量性圧力センサなど、多くのタイプがある。
容量性圧力センサは、導電性材料で作製された少なくとも2つの平行プレートを含むことができる。圧力センサ180Aに力が加えられると、電極間のキャパシタンスが変化する。電子デバイス100は、静電容量変化に基づいて圧力強度を判定する。タッチ操作がディスプレイ194上で行われるときに、電子デバイス100は、圧力センサ180Aを使用することによってタッチ操作の強度を検出する。電子デバイス100は、圧力センサ180Aの検出信号に基づいてタッチ位置を計算することができる。いくつかの実施形態では、同じタッチ位置で行われるが、異なるタッチ操作強度を有するタッチ操作は、異なる操作命令に対応してもよい。例えば、SMSアプリケーションアイコン上で、第1の圧力閾値よりも小さいタッチ操作強度のタッチ操作を行うときに、SMSメッセージを閲覧するための命令が実行される。SMSアプリケーションアイコン上で、第1の圧力閾値以上であるタッチ操作強度のタッチ操作を行うときに、SMSメッセージを作成するための命令が実行される。
ジャイロスコープセンサ180Bは、電子デバイス100の運動姿勢を判定するように構成されてもよい。いくつかの実施形態において、3つの軸(すなわち、軸x、y、及びz)を中心とした電子デバイス100の角速度は、ジャイロスコープセンサ180Bを使用することによって判定されてもよい。ジャイロスコープセンサ180Bは、撮影中に手ぶれ補正を実施するように構成され得る。例えば、シャッタが押されると、ジャイロスコープセンサ180Bは、電子デバイス100がジッタを発生させる角度を検出し、レンズモジュールが補償する必要がある距離を角度に基づいた計算を通して取得し、レンズが、反転運動を通して電子デバイス100のジッタを相殺して、手ぶれ補償を実施することを可能にする。ジャイロスコープセンサ180Bは、さらに、ナビゲーションシナリオ及び運動感知ゲームシナリオにおいて使用され得る。
気圧センサ180Cは、気圧を測定するように構成されている。いくつかの実施形態では、電子デバイス100は、気圧センサ180Cによって測定された気圧値に基づいて高度を計算して、位置決め及びナビゲーションを支援する。
磁気センサ180Dは、Hallセンサを含む。電子デバイス100は、磁気センサ180Dを使用することによって、フリップカバーの開閉を検出することができる。いくつかの実施形態では、電子デバイス100がクラムシェル電話である場合、電子デバイス100は、磁気センサ180Dを使用することによって、クラムシェルの開閉を検出してもよい。さらに、フリップカバーの開閉時の自動ロック解除などの機能は、皮革ケースの検出された開閉状態又はフリップカバーの検出された開閉状態に基づいて設定される。
加速度センサ180Eは、電子デバイス100の種々の方向(通常は3軸)の加速度を検出することができ、電子デバイス100が静止しているときに重力の大きさ及び方向を検出することができる。加速度センサ180Eは、さらに、電子デバイスの姿勢を識別するように構成されてもよく、景観モードと人物モード又は歩数計との間の切り替えのようなアプリケーションで使用される。
距離センサ180Fは、距離を測定するように構成されている。電子デバイス100は、距離を赤外線方式又はレーザ方式で測定することができる。いくつかの実施形態において、撮影シナリオにおいて、電子デバイス100は、距離センサ180Fを使用することによって距離を測定して、迅速な焦点合わせを実施してもよい。
光学近接センサ180Gは、例えば、発光ダイオード(LED)及び光学検出器、例えば、フォトダイオードを含んでもよい。発光ダイオードは赤外線発光ダイオードであり得る。電子デバイス100は、発光ダイオードを使用することによって赤外線を放出する。電子デバイス100は、近傍の物体からの赤外線反射光をフォトダイオード使用することによって検出する。十分な反射光を検出するときに、電子デバイス100は、電子デバイス100の近くに物体があると判定することができる。不十分な反射光を検出するときに、電子デバイス100は、電子デバイス100の近くに物体がないと判定してもよい。電子デバイス100は、光近接センサ180Gを使用することによって、ユーザが電子デバイス100を通話のための耳の近くに保持していることを検出することができ、電子デバイス100が電力を節約するためにスクリーンを自動的にオフにするようにする。光近接センサ180Gはまた、スマートカバーモード又はポケットモードで使用して、スクリーンのロック解除又はロックを自動的に行ってもよい。
周囲光センサ180Lは、周囲光の輝度を感知するように構成されている。電子デバイス100は、感知された周囲光の明るさに基づいてディスプレイ194の明るさを適応的に調整することができる。周囲光センサ180Lはまた、撮影中にホワイトバランスを自動的に調整するように構成され得る。周囲光センサ180Lはまた、電子デバイス100がポケットに入っているかどうかを検出するために、光近接センサ180Gと協働して、偶発的な接触を回避することができる。
指紋センサ180Hは、指紋を収集するように構成されている。電子デバイス100は、収集された指紋の特徴を使用して、指紋ベースのロック解除、アプリケーションロックアクセス、指紋ベースの撮影、指紋ベースで電話に出ることなどを実施することができる。
温度センサ180Jは、温度を検出するように構成されている。いくつかの実施形態では、電子デバイス100は、温度センサ180Jによって検出された温度に基づいて温度処理方針を実行する。例えば、温度センサ180Jによって報告された温度が閾値を超えるときに、電子デバイス100は、温度センサ180Jの近くに位置するプロセッサの性能を低下させて、熱保護を実施するための電力消費を低減する。いくつかの他の実施形態では、温度が別の閾値よりも小さいときに、電子デバイス100は、低温のために電子デバイス100が異常にシャットダウンされるのを防止するために、バッテリ142を加熱する。いくつかの他の実施形態では、温度がさらに別の閾値よりも小さいときに、電子デバイス100は、低温による異常なシャットダウンを回避するために、バッテリ142の出力電圧を上昇させる。
タッチセンサ180Kは、「タッチコンポーネント」とも呼ばれる。タッチセンサ180Kは、ディスプレイ194に設けられてもよく、タッチセンサ180K及びディスプレイ194は、「タッチスクリーン」とも呼ばれるタッチ画面を形成する。タッチセンサ180Kは、タッチセンサ180K又はその近くで行われるタッチ操作を検出するように構成されている。タッチセンサは、検出されたタッチ操作をアプリケーションプロセッサに転送して、タッチイベントのタイプを判定することができる。タッチ操作に関する視覚出力は、ディスプレイ194を使用することによって提供され得る。いくつかの他の実施形態において、タッチセンサ180Kは、代替的には、ディスプレイ194の位置とは異なる位置に電子デバイス100の表面に設けられてもよい。
骨伝導センサ180Mは、振動信号を取得することができる。いくつかの実施形態において、骨伝導センサ180Mは、ヒト声帯部の振動骨の振動信号を取得することができる。骨伝導センサ180Mはまた、ヒトパルスと接触して、血圧拍動信号を受信してもよい。いくつかの実施形態において、骨伝導センサ180Mは、代替的には、骨伝導ヘッドセットを形成するためにヘッドセットに設けられてもよい。オーディオモジュール170は、声帯部分の振動骨のものであり、かつ骨伝導センサ180Mによって取得される振動信号に基づいて、解析を通してボイス信号を取得して、ボイス機能を実施することができる、アプリケーションプロセッサは、骨伝導センサ180Mによって取得された血圧拍動信号に基づいて心拍数情報を解析して、心拍数検出機能を実施することができる。
キー190は、電源キー、ボリュームキー等を含む。キー190は、機械的キーであってもよいし、タッチキーであってもよい。電子デバイス100は、キー入力を受信し、電子デバイス100のユーザ設定及び機能コントロールに関するキー信号入力を生成することができる。
モータ191は、振動プロンプトを生成することができる。モータ191は、着信振動プロンプト及びタッチ振動フィードバックを提供するように構成され得る。例えば、異なるアプリケーション(例えば、撮影及びオーディオ再生)に対して行われるタッチ操作は、異なる振動フィードバック効果に対応することができる。モータ191はまた、ディスプレイ194の異なる領域で行われるタッチ操作に対する異なる振動フィードバック効果に対応することができる。異なるアプリケーションシナリオ(例えば、時間リマインダ、情報受信、目覚まし時計、ゲーム)もまた、異なる振動フィードバック効果に対応し得る。タッチ振動フィードバック効果はさらにカスタマイズされてもよい。
インジケータ192は、インジケータライトであってもよいし、充電状態及び電力変化を示すように構成されてもよいし、メッセージ、不在着信、通知などを示すように構成されてもよい。
SIMカードインターフェース195は、SIMカードに接続するように構成される。SIMカードは、SIMカードインターフェース195に挿入されるか、SIMカードインターフェース195から取り外されて、電子デバイス100との接触又は電子デバイス100からの分離を実施することができる。電子デバイス100は、1つ又はN個のSIMカードインターフェースをサポートすることができ、Nは、1よりも大きい正の整数である。SIMカードインターフェース195は、ナノSIMカード、マイクロSIMカード、SIMカードなどをサポートすることができる。複数のカードが同じSIMカードインターフェース195に同時に挿入され得る。複数のカードは、同じタイプのものであっても、異なるタイプのものであってもよい。SIMカードインターフェース195は、異なるタイプのSIMカードと互換性があり得る。SIMカードインターフェース195はまた、外部メモリカードと互換性があり得る。電子デバイス100は、SIMカードを介してネットワークと相互作用し、呼び出し及びデータ通信などの機能を実施する。いくつかの実施形態では、電子デバイス100は、eSIM、すなわち、埋め込み型SIMカードを使用する。eSIMカードは、電子デバイス100内に埋め込まれてもよく、電子デバイス100から分離することができない。
電子デバイス100のソフトウェアシステムは、階層化アーキテクチャ、イベント駆動アーキテクチャ、マイクロカーネルアーキテクチャ、マイクロサービスアーキテクチャ、又はクラウドアーキテクチャを使用することができる。本発明のこの実施形態では、電子デバイス100のソフトウェア構造を例示するために、階層化アーキテクチャを有するAndroidシステムが一例として使用される。
図2は、この出願のこの実施形態による電子デバイス100のソフトウェア構造のブロック図である。
階層化アーキテクチャでは、ソフトウェアは複数の階層に分割され、各階層は明確な役割とタスクを有する。これらの層は、ソフトウェアインターフェースを介して互いに通信する。いくつかの実施態様では、Androidシステムは、上から下まで、アプリケーション層、アプリケーションフレームワーク層、Androidランタイム(Androidランタイム)及びシステムライブラリ、及びカーネル層の4つの層に分割される。アプリケーション層は、一連のアプリケーションパッケージを含み得る。
図2に示すように、アプリケーションパッケージは、「カメラ」、「ギャラリー」、「カレンダー」、「電話」、「地図」、「ナビゲーション」、「WLAN」、「Bluetooth」、「音楽」、「ビデオ」、及び「メッセージ」などのアプリケーションを含み得る。
アプリケーションフレームワーク層は、アプリケーション・プログラミング・インターフェース(application programming interface、API)と、アプリケーション層におけるアプリケーションのためのプログラミングフレームワークを提供する。アプリケーションフレームワーク層は、事前定義された機能をいくつか含む。
図2に示すように、アプリケーションフレームワーク層は、ウィンドウマネージャ、コンテンツプロバイダ、ビューシステム、電話マネージャ、リソースマネージャ、通知マネージャなどを含み得る。
ウィンドウマネージャは、ウィンドウプログラムを管理するように構成されている。ウィンドウマネージャは、ディスプレイのサイズを取得し、ステータスバーを提示するかどうか、スクリーンをロックするかどうか、画面をキャプチャするかどうかなどを判定することができる。
コンテンツプロバイダは、データを保存し、取得し、アプリケーションがデータにアクセスできるように構成されている。データは、ビデオ、画像、オーディオ、発信と着信、閲覧履歴、ブックマーク、電話帳などを含む。
ビューシステムは、テキストを表示するためのコンポーネント、又はピクチャを表示するためのコンポーネントなどのビジュアルコンポーネントを含む。ビューシステムは、アプリケーションを構築するように構成され得る。ディスプレイインターフェースは、1つ以上のビューを含み得る。例えば、メッセージ通知アイコンを含む表示インターフェースは、テキスト表示ビュー及びピクチャ表示ビューを含み得る。
電話マネージャは、電子デバイス100の通信機能、例えば、通話状態の管理(応答又は拒否を含む)を提供するように構成されている。
リソースマネージャは、ローカライズされた文字列、アイコン、ピクチャ、レイアウトファイル、及びビデオファイルなどのさまざまなリソースをアプリケーションに提供する。
通知マネージャは、アプリケーションが通知情報をステータスバーに表示することを可能にし、通知タイプメッセージを伝達するように構成され得る。通知マネージャは、ユーザとの相互作用なしに、短い一時停止の後、自動的に消えてしまってもよい。例えば、通知マネージャは、ダウンロード完了の通知、メッセージプロンプトなどを提供するように構成されている。代替的には、通知マネージャは、グラフ又はスクロールバーテキストの形式でシステムの最上位ステータスバーに現れる通知、例えば、バックグラウンドで動作中のアプリケーションの通知、又はダイアログウィンドウの形式で画面に現れる通知であってもよい。例えば、テキスト情報がステータスバーでプロンプト表示されるか、アナウンスが生成されるか、電子デバイスが振動するか、又はインジケータライトが点滅したりする。
Androidランタイムは、カーネルライブラリと仮想マシンを含む。Androidランタイムは、Androidシステムのスケジューリングと管理を担当します。
カーネルライブラリは、Java言語で呼び出す必要のある関数と、Androidのコアライブラリの2つの部分を含む。
アプリケーション層とアプリケーションフレームワーク層は、仮想マシン上で動作する。仮想マシンは、アプリケーション層とアプリケーションフレームワーク層においてJavaファイルをバイナリファイルとして実行する。仮想マシンは、オブジェクトライフサイクル管理、スタック管理、スレッド管理、セキュリティと例外管理、ガーベジコレクションなどの機能を実施するように構成されている。
システムライブラリは、複数の機能モジュール、例えば、サーフェスマネージャ(surface manager)、メディアライブラリ(media libraries)、3次元グラフィックス処理ライブラリ(例えば、OpenGL ES)、及び2Dグラフィックスエンジン(例えば、SGL)を含み得る。
サーフェスマネージャは、表示サブシステムを管理し、複数のアプリケーションに2D及び3D層のフュージョンを提供するように構成されている。
メディアライブラリは、複数の一般的に使用されるオーディオ及びビデオフォーマット、静止画像ファイルなどの再生及び記録をサポートする。メディアライブラリは、MPEG-4、H.264、MP3、AAC、AMR、JPG、及びPNGなどの複数のオーディオ及びビデオ符号化フォーマットをサポートすることができる。
3次元グラフィックス処理ライブラリは、3次元グラフィックス描画、画像レンダリング、合成、レイヤ処理などを実施するように構成されている。
2Dグラフィックスエンジンは2D描画のための描画エンジンである。
カーネル層は、ハードウェアとソフトウェアの間の層である。カーネル層は、少なくともディスプレイドライバ、カメラドライバ、オーディオドライバ、及びセンサドライバを含む。
理解を容易にするために、この出願の以下の実施形態では、図1及び図2に示す構造を有する電子デバイスが、添付の図面及びアプリケーションシナリオを参照して、この出願の実施形態において提供されるインターフェースコンポーネントを表示するための方法を詳細に説明するための一例として使用される。
背景に説明されているように、デバイスAがデバイスBの能力とサービスを使用することを可能にするためには、まず、デバイスBのインターフェースをデバイスA上に直接表示する必要がある。画面プロジェクションは、送信元デバイスの表示インターフェースを宛先デバイス上に直接プロジェクション及び表示する操作である。現在、デジタル・リビング・ネットワーク・アライアンス(digital living network alliance、DLNA)により導入され、かつWi-Fi直接無線直接接続技術に基づく「Miracast」など、無線オーディオ及びビデオ伝送技術を主に含む複数の画面プロジェクションソリューションが市場にある。画面プロジェクションは、テレビジョン端及び携帯電話端におけるアプリケーションの両方が、写真、オーディオ、及びビデオなどのファイルを携帯電話からテレビジョン端へプロジェクションし、表示するために、対応するプロトコルに準拠することが必要である。
画面プロジェクション技術は、宛先デバイスのインターフェースのサイズ及び解像度、及び宛先デバイスの表示インターフェースに対する特定の要件を考慮することなく、送信元デバイスのインターフェースを宛先デバイス上で直接マップ及び表示するためにのみ使用することができる。追加的に、画面プロジェクションプロセスでは、一度に表示されるアプリケーションインターフェースは1つだけであり、複数のインターフェース機能を表示のために組み合わせることができず、いくつかのインターフェースnコンポーネントは、分割して個別に表示することができない。ほとんどの場合、画面プロジェクション技術は、宛先デバイスからの送信元デバイスに対する操作を実行することをサポートしない。
前述の画面プロジェクション技術に加えて、Apple Inc.によってリリースされた車載型システムCarPlayは、ユーザのiOSデバイス及びiOSの使用体験をダッシュボードシステムとシームレスに統合することができる。CarPlayは、車の制御パネルを使用することによってiPhoneの基本的な機能のほとんどを使用することができる。これらの機能のうちのいくつかは、音声アシスタントツールSiri、音楽プレーヤーiTunes、Appleマップ、メッセージサービスを含む。CarPlayに基づいて、ドライバはハンドルを離れずに電話をかけたり受けたりすることができ、ボイスメールを聞くことができる。ユーザは、容易かつ安全に電話をかけたり、音楽を聞きたり、メッセージを送信及び受信したり、ナビゲーションを使用するなどをすることができる。iPhoneを車載システムCarPlayに接続するプロセスでは、ユーザは車内の駆動制御パネルに触れてiPhoneを制御することができる。
しかし、CarPlayは車載デバイスに限定され、特定のアプリケーションのみをサポートするに過ぎない。追加的に、車内の制御パネルの表示は、iPhoneの現在のアプリケーションインターフェースにも完全にコピーされており、iPhoneのアプリケーションインターフェースのいくつかのコンポーネントを分割して別々に表示することができない。
この出願は、UIコンポーネントを使用することによってUIコンポーネントを表示する方法を提供する。この方法では、送信元デバイスのアプリケーションのいくつかの機能又はインターフェースのいくつかの機能コントロールを、独立した操作インターフェースに分離して、宛先デバイス上で表示することができるか、又は複数のアプリケーションのいくつかの機能又はインターフェースの複数の機能コントロールを組み合わせて、独立した操作インターフェースを形成して、宛先デバイス上で表示する。追加的に、この出願におけるUIコンポーネントを表示するため方法によれば、宛先デバイス上に表示された操作インターフェースに対して操作を行って、送信元デバイスに対応するアプリケーションに対する操作を実施することができ、操作結果を宛先デバイスから送信元デバイスに転送する。したがって、ユーザは、様々な異なるシナリオにおいて、操作インターフェースに含まれるアプリケーションに対して操作を行うことができる。これは、ユーザが使用するのに都合がよい。
この出願におけるUIコンポーネントを表示するための方法を説明する前に、電子デバイスのUIコンポーネント表示機能を有効にする必要がある。この出願では、説明のために送信元デバイスとして携帯電話が使用される。
可能な実施形態では、図3(a)~図3(n)に示すように、携帯電話のUIコンポーネント表示機能を有効にすることができる。図3(a)~図3(n)は、この出願の実施形態による携帯電話のUIコンポーネント表示機能を有効にするために使用されるグラフィカルユーザインターフェース(graphical user interface、GUI)の一例の概略図である。図3(a)に示すように、携帯電話の画面表示システムは、現在の出力インターフェースコンテンツ301を携帯電話のロック解除モードで表示する。インターフェースコンテンツ301は、携帯電話のホーム画面である。インターフェースコンテンツ301は、Alipay、Task Card Store、Weibo、アルバム、音楽、WeChat、Cards、設定、及びカメラなどの複数のサードパーティアプリケーションを表示する。インターフェースコンテンツ301は、さらに、より多くのアプリケーションを含んでもよいと理解されたい。これは、この出願において限定されない。ユーザは「設定」を操作することにより、UIコンポーネント表示機能を有効にすることができる。
例えば、図3(a)に示すように、ユーザ操作を「設定」に対して行い、ユーザ操作は、図3(a)に示すタップ操作のように、携帯電話上に表示される「設定」のアイコンをユーザがタップする操作を含み得る。ユーザのタップ操作に応じて、携帯電話は「設定」のインターフェースに移行する。
図3(b)に示すインターフェース302は、この出願による「設定」のインターフェースの一例の概略図である。インターフェース302は、複数のメニューバーを含んでもよく、各メニューバーに対して異なる機能が設定され得る。例えば、インターフェース302は、無線&セルラメニューバー、デバイス接続メニューバー、デスクトップ&壁紙メニューバー、ディスプレイ&明るさメニューバー、サウンドメニューバー、及びその他の設定メニューバーを含む。各メニューバーの機能は、ここでは再度説明しない。
ユーザは、図3(b)に示すデバイス接続メニューバーをタップする操作を行うことができる。タップ操作に応答して、携帯電話は、図3(c)に示すインターフェース303に移行する。インターフェース303は、複数のメニューバー、例えば、Bluetoothメニューバー、近距離通信(near field communication、NFC)メニューバー、Huawei Shareメニューバー、イージープロジェクション・メニューバー、USB設定メニューバー、及びプリントメニューバーを含んでもよい。ユーザは、図3(c)に示す携帯電話のイージープロジェクション・メニューバーをタップする操作を行う。タップ操作に応答して、携帯電話は、図3(d)に示すインターフェース304に移行する。インターフェース304は、複数の機能領域、例えば、イージープロジェクションモード設定領域及び無線プロジェクション設定領域を含み得る。「無線プロジェクション」コントロールを有効にする、をタップする(図中の制御選択ボックスがON状態)ことによって、利用可能なデバイスリストが検索される。利用可能なデバイスリスト内のデバイスは、例えば、スマートウォッチデバイス又はこの出願における車載端末などの、ユーザのタッチ操作を受けることができる携帯電話である、プロジェクションをサポートすることができるすべてのデバイスである。
ユーザは、図3(d)に示すスマートウォッチデバイス・メニューバーをタップする操作を行う。タップ操作に応答して、携帯電話は、図3(e)に示すインターフェース305に移行する。インターフェース305は、例えば、図3(e)に示す音楽、Huawei Video、WeChat、Alipay、Weibo、AutoNaviマップ、及びメモなどの異なるアプリケーションタイプに対して、アプリケーションリストと、アプリケーションのUIコンポーネントの表示機能を有効にする切り替えコントロールとを含んでもよく、ユーザは、各アプリケーションのUIコンポーネントの表示機能の切り替えコントロールをタップして、アプリケーションのUIコンポーネントの表示機能を有効にするかどうかを判定することができる。任意選択で、ユーザは、現在、プロジェクションされ、宛先デバイス上に表示する必要のあるアプリケーション(音楽、AutoNaviマップ、又はメモ)を有効にすることができ、現在、有効にする必要のないチャットタイプのプライベートなアプリケーション(WeChat、Weibo、Alipay、Huawei Videoなど)を無効な状態に保持することができる。携帯電話は、図3(f)に示すインターフェース306を表示することができる。
宛先デバイス上に表示する必要のあるアプリケーションを設定した後、ユーザは、UIコンポーネント表示機能が既に有効になっているアプリケーションに移行することができる。図3(g)は、携帯電話のホーム画面301を示し、ユーザのタップ操作は、ホーム画面301の音楽アプリケーションに対して行われる。ユーザのタップ操作に応答して、携帯電話は、図3(h)に示す音楽アプリケーションの表示インターフェース308に移行する。ユーザのタップ操作は、ディスプレイインターフェース308に対して行われる。ユーザのタップ操作に応答して、携帯電話は、図3(i)に示す音楽再生インターフェース309に移行する。
図3(i)に示すように、再生インターフェース309は複数の機能領域を含み得る。各機能領域は、異なる機能コントロールを含み、1つ以上の機能コントロールは、ユーザインターフェース(user interface、UI)コンポーネントを形成する。言い換えると、各UIコンポーネントは、アプリケーションインターフェースでの1つ以上の機能コントロールのセット又はカスタム機能コントロールである。この出願のこの実施形態の説明では、音楽アプリケーションの再生インターフェース309は、複数の機能コントロールを含む。図3に示すように、機能コントロールは、曲名表示コントロール310、戻りコントロール311、歌詞表示コントロール312、ダウンロードコントロール313、及び共有コントロール314、音量調整コントロール315、曲詳細コントロール316、繰り返し設定コントロール317、前の曲選択コントロール318、再生コントロール319、次の曲選択コントロール320、及びお気に入りコントロール321を含み得る。
可能な実施態様では、ユーザは、ジェスチャ選択を介して、再生インターフェース309上で、宛先デバイスに表示する必要があるUIコンポーネントを選択してもよい。図3(k)に示すように、携帯電話の音楽アプリケーションの再生インターフェース上では、ユーザは、宛先デバイスの表示画面サイズ及びそのインターフェースの機能コントロールのためのユーザの使用要件に応じて、宛先デバイス上に表示する必要のある機能コントロールを宛先画面で選択して、UIコンポーネントを形成することができる。例えば、ユーザが音楽再生インターフェースの破線ボックスに示された領域を選択することは、ユーザが、前の曲選択コントロール、再生コントロール、及び次の曲選択コントロールを選択することとして理解されてもよい。破線ボックスに示す領域を選択する操作は、例えば、図中に示された破線ボックスの左上隅の開始座標位置1からその領域の右下隅の座標位置2までのスライド操作、又は破線ボックスの右下隅の開始座標位置2からその領域の左上隅の座標位置1までのスライド操作である、破線ボックスに示す領域の対角線の2つの位置座標に沿ったユーザのスライド操作であり得る。これは、この出願において限定されない。
ユーザが宛先デバイス上に表示する必要がある、前の曲選択コントロール、再生コントロール及び次の曲選択コントロールの3つの機能コントロールを含むUIコンポーネントを選択するときに、ユーザの選択操作に応答して、携帯電話は、プロジェクションモードを有効にするための確認ダイアログボックスを表示する。図3(m)は、携帯電話の表示インターフェース324を示す。プロジェクションモードを有効にするための表示された確認ダイアログボックスでは、「Yes」選択コントロールと「No」選択コントロールがある。ユーザが「Yes」をタップするときに、図3(n)のように、スマートウォッチのディスプレイインターフェースに、選択されたUIコンポーネントが表示される。
以上、この出願における携帯電話のUIコンポーネントの表示を有効にする方法について説明した。「音楽」アプリケーションのプロジェクション機能は、まず携帯電話の「設定」アプリケーションで有効になり、次に、スマートウォッチ上に表示する必要のあるUIコンポーネントに含まれる機能コントロールが選択され、最後に選択されたUIコンポーネントがスマートウォッチの表示インターフェースに表示されることが判定される。
別の可能な実施態様では、このアプリケーションのUIコンポーネント表示機能は、アプリケーションにおけるユーザのジェスチャを識別することによって有効にしてもよい。
例えば、図4(a)~図4(n)は、この出願の一実施形態による携帯電話のUIコンポーネント表示機能を有効にする別の実施形態の概略図である。図4(a)は、携帯電話のホーム画面401を示す。ホーム画面401に含まれるスクリーンコンテンツは、図3(a)~図3(n)において上述されている。簡潔にするために、詳細は、ここでは再度説明しない。図4(b)は、ユーザが図4(a)に示すタップ操作を行った後に表示される音楽アプリケーションのホーム画面402である。図4(c)は、音楽アプリケーションの再生インターフェース403である。ユーザは、音楽アプリケーションのホーム画面402又は音楽アプリケーションの再生インターフェース403で第1の操作を行うことができる。第1の操作は、携帯電話がUIコンポーネントの表示機能を有効にすることをトリガするために使用され得る。ユーザによって行われた第1の操作に応答して、携帯電話は、プロジェクションモードを可能にするための確認ダイアログボックス404を表示することができる。プロジェクションモードを有効にするための確認ダイアログボックス404は、「Yes」選択コントロール及び「No」選択コントロールを含む。ユーザが「Yes」をタップした後、携帯電話は、図4(e)に示すディスプレイプロジェクション設定インターフェース405に移行することができる。
任意選択で、第1の操作は、インターフェース上のユーザの指のスライド操作、又は別のタッチ操作であってもよいし、第1の操作は、インターフェース上のユーザの指関節のスライド操作、又は別のタッチ操作であってもよい。例えば、第1の操作は、図4(b)及び図4(c)に示すユーザによる閉じた円滑り、又は閉じていない「C」形状のような別の可能な形状であってもよい。ユーザの第1の操作は、この出願では限定されない。
図4(e)に示すように、プロジェクション設定インターフェース405は、宛先デバイス上にUIコンポーネントを表示するプロセスにおける複数の設定メニューを含み得る。例えば、設定メニューは、宛先デバイス設定メニュー、プロジェクションコンポーネント設定メニュー、表示サイズ設定メニュー、プロジェクションタイプ設定メニューなどであってもよい。ユーザが、図4(e)に示す宛先デバイス設定メニューをタップする操作を行って、図4(f)に示す表示インターフェース406に移行するときに、ユーザは、表示インターフェース406に含まれる利用可能なデバイスリストから少なくとも1つの宛先デバイスを選択することができる。例えば、ユーザは、スマートウォッチデバイスを選択してもよいし、ウォッチデバイス及び車載表示デバイスのような複数のデバイスを同時に選択してもよい。この出願では、UIコンポーネントの表示プロセスにおける宛先デバイスの数は限定されない。
追加的に、図4(g)に示すように、ユーザは、プロジェクション設定インターフェース405上のプロジェクションコンポーネント設定メニューをタップして、図4(h)に示すプロジェクションコンポーネント選択インターフェース407に移行してもよい。プロジェクションコンポーネント選択インターフェース407は、複数のコンポーネントタイプを含み得る。プロジェクションコンポーネント選択インターフェース407に示すコンポーネントタイプ1~コンポーネントタイプ7は、システムによって事前設定された異なるUIコンポーネントであり得る。各コンポーネントタイプは、異なる数の異なるタイプの機能コントロールを含む。例えば、コンポーネントタイプ1は、音楽再生コントロール319及び前の曲選択コントロール318を含んでもよい。ユーザは、任意のコンポーネントタイプをタップして、宛先デバイスの表示インターフェース上に、コンポーネントタイプに含まれる機能コントロールを表示する
プロジェクションコンポーネント選択インターフェース407は、さらに、図4(h)に示すように、カスタムコンポーネントタイプの追加メニューを含み得る。ユーザは、カスタムコンポーネントタイプの追加メニューをタップして、図4(i)に示すUIコンポーネント選択インターフェース408に移行することができる。UIコンポーネント選択インターフェース408では、音楽アプリケーションのすべての限定された機能コントロールは、小さなアイコン又はテキストボックスなどでリストに表示される。ユーザは、各機能コントロールの小さなアイコン又はテキストボックスをタップし、少なくとも1つの機能コントロールを選択し、保存コントロールをタップして、選択された機能コントロールをカスタムコンポーネントタイプ1のUIコンポーネントとして保存することができる。携帯電話のディスプレイインターフェース409が、図に示されてもよい。
インターフェース409上の任意のUIコンポーネントタイプは、追加、修正、又は削除など、ユーザの操作を受け入れることができると理解されたい。例えば、ユーザが今回、カスタムコンポーネントタイプ1を作成するときに、カスタムコンポーネントタイプ1は、次の設定で、プロジェクションコンポーネントリストに含まれてもよい。ユーザは、カスタムコンポーネントタイプ1を長押しすることにより、カスタムコンポーネントタイプ1を削除又は修正することができる。これは、この出願において限定されない。
図4(m)に示すように、ユーザは、プロジェクション設定インターフェース405上の表示サイズ設定メニューをタップして、図4(n)に示す宛先デバイスの表示サイズ設定インターフェース410に移行することができる。設定インターフェース410は、宛先デバイスに関する開始座標設定、表示ボックスサイズ設定、高さ設定などを含んでもよい。ユーザが宛先デバイス設定インターフェース406において宛先デバイスを選択するとき、例えば、ユーザがスマートウォッチを選択するときに、ユーザは、スマートウォッチの出力インターフェースのサイズに基づいて、スマートウォッチの出力インターフェース上に表示されるUIコンポーネントのサイズを設定し、設定を保存することができる。図4(n)は、宛先デバイスがスマートウォッチであるときの携帯電話上の表示サイズを設定するためのインターフェースのみを示す。ユーザが複数の宛先デバイスを選択するときに、より多くの設定インターフェースが含まれ得る。これは、この出願において限定されない。
前述の列挙された設定メニューは、音楽アプリケーションにおいてユーザによって設定されてもよいし、ユーザが、図4(d)に示すように、プロジェクションモードインターフェースを有効にすると判定した後に、選択されたUIコンポーネントを宛先デバイス上に表示するときに設定されてもよく、ユーザは、宛先デバイス端部上でUIコンポーネントの表示サイズなどを設定してもよいと理解されたい。これは、この出願において限定されない。前述の操作を行った後、ユーザによって選択されたUIコンポーネントは、スマートウォッチの表示インターフェースに表示される。
別の可能な実装では、電子デバイスのUIコンポーネント表示機能は、さらに、別のサードパーティアプリケーションを使用することによって有効にしてもよい。例えば、Huaweiによって開発された異種プロジェクションアプリケーションを使用して、宛先デバイス上に表示する必要のあるUIコンポーネントを設定してもよい。これは、この出願において限定されない。
図5(a)~図5(d)は、この出願の一実施形態によるUIコンポーネントを表示するために使用されるグラフィカルユーザインターフェースの一例の概略図である。この出願では、携帯電話が、送信元デバイスとして使用され、携帯電話の音楽アプリケーションが、この出願によるUIコンポーネントを表示するための方法を詳細に説明するための一例として使用される。図5(a)に示すように、携帯電話の音楽アプリケーションの再生インターフェース309に含まれる複数の機能コントロールは、例えば、図5(a)に示す機能領域501、機能領域502、機能領域503の3つの機能領域に分割されている。図5(c)に示すように、機能領域501における機能コントロールは、曲名表示コントロール504、戻りコントロール505、曲名表示コントロール515が位置する領域を含み得る。機能領域502における機能コントロールは、ダウンロードコントロール506、共有コントロール507、音量調整コントロール508、及び曲詳細コントロール509が位置する領域を含んでもよい。機能領域503における機能コントロールは、ループ設定コントロール510、前の曲選択コントロール511、再生コントロール512、次の曲選択コントロール513、及びお気に入りコントロール514を含み得る。
携帯電話が、送信元デバイスとして使用され、スマートウォッチが、宛先デバイスとして使用される。この出願で提供されるUIコンポーネントを使用することによってUIコンポーネントを表示する方法によれば、携帯電話の音楽アプリケーションの音楽インターフェース309の任意の1つ以上の機能コントロールを独立した操作インターフェースに組み合わせて、スマートウォッチの出力デバイス(例えば、ディスプレイ)上に表示することができる。代替的には、携帯電話の音楽アプリケーションの再生インターフェース309の機能エリア501、機能エリア502、及び機能エリア503のうちのいずれか1つのすべての機能コントロールが、独立した1つの操作インターフェースに組み合わせられて、スマートウォッチの出力デバイス上に表示される。
例えば、図5(b)に示すように、携帯電話の音楽アプリケーションの音楽インターフェース309の機能領域503に含まれる機能コントロールは、スマートウォッチ端上に表示され、スマートウォッチ端の表示インターフェース516は、機能領域503におけるすべての機能コントロールを含んでもよい。この出願のこの実施形態の説明では、宛先デバイス端上に表示されるすべての機能コントロールの組み合わせは、「アトマイゼーション・コンポーネント」と呼ばれる。例えば、機能領域503がスマートウォッチの表示インターフェースに表示される場合、機能領域503に含まれるすべての機能コントロールの組み合わせは、アトマイゼーション・コンポーネントの一例である。スマートウォッチ上のアトマイゼーション・コンポーネントの表示領域は、アトマイゼーション・コンポーネント表示領域と呼ばれる。
任意選択で、機能領域503に含まれるすべての機能コントロールの組み合わせを表示することに加えて、スマートウォッチ端部の表示インターフェース516は、携帯電話の音楽アプリケーションによって再生されている曲名の表示領域、すなわち曲名表示コントロール504をさらに含んでもよい。
可能な実施形態では、機能領域503におけるすべての機能コントロールが宛先デバイス上に表示されるプロセスにおいて、電子デバイスは、宛先デバイスの表示インターフェースのサイズ及び宛先デバイスの表示インターフェースの形状に基づいて、異なる組み合わせ及び配置を行ってもよい。例えば、この出願のこの実施形態では、スマートウォッチの表示インターフェースは、携帯電話の表示インターフェース、すなわち送信元デバイスよりも小さく、スマートウォッチの表示インターフェースは、通常、円形を提示する。機能領域503におけるすべての機能コントロールは、図5(b)に示すディスプレイインターフェース516上に、ある配置方式で提示され、コントロールは時計回りに配置される。代替的には、機能領域503すべての機能コントロールは、図5(c)に示される表示インターフェース517上に、ある配列方式で提示され、コントロールは反時計回りに配置される。図5(b)及び図5(c)におけるスマートウォッチの表示インターフェースの各々の破線ボックスは、上述のアトマイゼーションコントロール表示領域319である。
なお、図に示したコントロール配置方式に加えて、異なる配置方式があり得ると理解されたい。代替的には、機能コントロールは、ユーザの意図に従ってドラッグされてもよく、例えば、ユーザは、長押しして、機能コントロールをターゲット領域にドラッグする。宛先デバイスの表示インターフェースでの機能コントロールの配置方法及び機能コントロールの表示位置を変更する方法は、この出願において限定されない。
前述の実施形態では、送信元デバイスから宛先デバイスへの表示プロセスは、複数の機能コントロールを含む機能領域503を一例として使用することによって説明したと理解されたい。追加的に、携帯電話の音楽アプリケーションの再生インターフェース309における任意の機能コントロールは、スマートウォッチのディスプレイインターフェース、例えば、図5(d)に示すディスプレイインターフェース519に別々に表示されてもよい。スマートウォッチ端の表示インターフェースは、歌詞表示領域515のみを表示することができる。宛先デバイスのディスプレイインターフェースに表示される機能コントロールの数及びタイプは、この出願において限定されない。
UIコンポーネントを使用することによってUIコンポーネントを表示するための上述の方法によれば、送信元デバイスのアプリケーションサービスのいくつかの機能を独立した操作インターフェースとして分離することができ、操作UIコンポーネントを宛先デバイス端に表示する。ユーザが送信元デバイスを使用するのに不便であるが、宛先デバイスを使用するシナリオでは、アプリケーション操作又は制御がより便利である。これは、ユーザ体験を向上させる。
可能な実施形態では、送信元デバイスの複数のアプリケーションサービスの複数の機能コントロールを組み合わせて、複数の機能コントロールを統合する操作インターフェースを形成することができ、操作UIコンポーネントは、宛先デバイス端に表示される。
限定の代わりに、図6は、この出願の一実施形態による複数のアプリケーションサービスの複数の機能コントロールの組み合わせの一例の概略図である。携帯電話が、送信元デバイスとして使用され、車載端末の制御パネルが、宛先デバイスとして使用される。図6に示すように、車載端末の制御パネル601は、操作インターフェース602に、音楽アプリケーション、メモアプリケーション、及び携帯電話の設定管理アプリケーションのいくつかの機能コントロールの組み合わせを表示する。本方法では、宛先デバイスの表示インターフェースのサイズ及び形状が考慮され得ると理解されたい。例えば、車載端末の制御パネルは、通常、携帯電話のディスプレイインターフェースよりも大きい。
具体的には、図6に示すように、操作インターフェース602は、携帯電話上の音楽アプリケーションの前の曲選択コントロール、再生コントロール、次の曲選択コントロールと、メモアプリケーションによって記録されたリマインダ項目及びメモ追加コントロールと、設定管理アプリケーションの位置ネットワークコントロール、Wi-Fiコントロール、位置情報コントロール、Bluetoothコントロール、パーソナルホットスポット、及び明るさ調整コントロールを含み得る。言い換えると、操作インターフェース602における機能コントロールは、同じアプリケーション又は異なるアプリケーションからのものであってもよいし、自由に組み合わされてもよい。操作インターフェース602に含まれるアプリケーションのタイプ及び数、並びに各アプリケーションにおける機能コントロールのタイプ及び数は、この出願において限定されないと理解されたい。
さらに、操作インターフェース602での各アプリケーションの機能コントロールが位置する位置領域は、ユーザの習慣に基づいて調整されてもよく、操作インターフェース602の形状及びサイズは、ユーザの調整に基づいて変更されてもよいと理解されたい。任意選択で、ユーザが操作インターフェースの形状及びサイズを設定しないときに、システムは、デフォルトで、操作インターフェース602の形状及びサイズが、ユーザの以前の設定に基づいて表示されることを考慮するか、又は操作インターフェース602を形成するために、宛先デバイスの表示インターフェースの形状及びサイズに基づいて、同じ比率でスケーリングを行ってもよい。
例えば、図5(a)~図5(d)において、携帯電話の音楽アプリケーションがスマートウォッチ上に表示されるときに、操作インターフェースは、スマートウォッチの表示インターフェースと同様であり、円を提示してもよい。図6において、車載端末の制御パネル上に携帯電話の音楽アプリが表示されるときに、操作インターフェースでの音楽アプリケーションの機能コントロールにより提示される領域は、車載端末の制御パネルの表示インターフェースと同様であり、矩形を提示することができる。これは、この出願において限定されない。
図5(a)~図5(d)に示すUIコンポーネントを使用することによってUIコンポーネントを表示するための方法と、図6に示すUIコンポーネントを使用することによってUIコンポーネントを表示するための方法について、送信元デバイスから宛先デバイスまでの一例を使用することによって説明する。共有UIコンポーネントを表示するための前述の方法は、複数の端末デバイスに適用することができると理解されたい。例えば、スマートウォッチと車載端末の制御パネル上には、携帯電話の複数のアプリケーションの機能コントロールを組み合わせて形成されたアトマイゼーション・コンポーネントの操作インターフェースが同時に表示される。UIコンポーネントを表示するプロセスにおける端末デバイスの数は、この出願において限定されない。
この出願の実施形態において提供されるUIコンポーネントを表示するための方法によれば、アプリケーションの固有のインターフェースの表示モードを変更することができる。アプリケーションの固有のインターフェースは、部分的に分割され、複数の端末デバイス間で送信される。本方法では、ユーザは、1つのインターフェースで複数のアプリケーションの機能を閲覧することができ、ユーザは、複数のアプリケーションに対して同時に操作を行うようにサポートされる。さらに、分割インターフェースは、端末デバイスの複数の表示画面サイズに適応し、より完全な表示を実施し、ユーザ体験を改善することができる。
前述の実施形態の説明によれば、UIコンポーネントは、送信元デバイスから宛先デバイスに表示される。上述のUIコンポーネントを使用することによってUIコンポーネントを表示するための方法については、操作インターフェースが宛先デバイス上に表示される。この出願の実施形態において提供されるUIコンポーネントを使用することによってUIコンポーネントを表示するための方法によれば、ユーザは、宛先デバイス端の操作インターフェース上で操作を行うことができる。また、操作結果が送信元デバイスに転送されて、宛先デバイスと送信元デバイスとの操作整合性を確保することができる。したがって、送信元デバイスのアプリケーションの実行プロセスは、宛先デバイスの操作インターフェースで制御される。
図7(a)及び図7(b)は、この出願の一実施形態による操作共有の一例の概略図である。図7(a)は、スマートウォッチ上に提示された、携帯電話の音楽アプリケーションのいくつかの機能コントロールの操作インターフェース701を示す。携帯電話で音楽が再生されているときに、ユーザは、図7(a)に示す操作を行う。操作は、ユーザが音楽アプリケーションの再生コントロールをタップする操作を含み得る。ユーザのタップ操作に応答して、スマートウォッチの操作インターフェース701での音楽アプリケーションの再生コントロールは停止状態を提示する。これに対応して、携帯電話の音楽の再生インターフェース702も、再生を停止する。
携帯電話の音楽再生インターフェース703の再生コントロールが再生トップ状態を提示するときに、ユーザは、図7(b)に示す操作を行う。操作は、音楽アプリケーションの再生コントロールでユーザによって行われるタップ操作を含み得る。ユーザのタップ操作に応答して、携帯電話の音楽アプリケーションの再生インターフェース703における再生コントロールが再生状態に変化する。これに対応して、スマートウォッチの操作インターフェース701における音楽アプリケーションの再生コントロールも再生状態に移行する。
以上は、携帯電話の音楽アプリをスマートウォッチ端で表示する例を用いて、ユーザが携帯電話端とスマートウォッチ端とで対応する操作を行う場合を説明し、音楽アプリを制御すると理解されたい。同様に、図6の複数のアプリケーションの複数の機能コントロールを組み合わせた操作インターフェース602についても、ユーザが、車載端末の制御パネル上の操作インターフェース402における任意の機能コントロールを行ってもよいし、操作結果を携帯電話端に転送して、対応して携帯電話のアプリケーションを制御してもよい。
上述の解決策によれば、アプリケーションの固有のインターフェースの表示モードは、送信元デバイスから宛先デバイスへUIコンポーネントを表示するプロセスにおいて変更されてもよい。アプリケーションの固有のインターフェースは、部分的に分割され、複数の端末デバイス間で送信される。本方法では、ユーザは、1つのインターフェースで複数のアプリケーションの機能を見ることができ、ユーザは、複数のアプリケーションに対して同時に操作を行うようにサポートされる。ユーザは、宛先デバイス端で操作インターフェース上で操作を行うことができる。操作結果が実行のために送信元デバイスに送信されて、送信元デバイスと宛先デバイスとの操作整合性を確保する。追加的に、分割インターフェースは、端末デバイスの複数の表示画面サイズに適応し、より完全な表示を実施し、ユーザ体験を改善することができる。例えば、家事や調理の間、主婦は、携帯電話を使用して、再生中の音楽を変更したり、再生モードを設定したりすることは不便であるが、携帯電話の音楽アプリケーションのいくつかの機能コントロールをスマートウォッチの出力デバイス上で表示するように設定することができる。ユーザは、スマートウォッチの出力デバイス上で「次へ」などのコントロールをタップして、再生中の曲を変更したり、「停止」コントロールをタップして、音楽再生を停止したりすることができます。これは、ユーザの使用を非常に容易にする。このアプリケーションでは、可能なさまざまなアプリケーションシナリオに限定されない。
宛先デバイスの表示インターフェースが送信元デバイスの表示インターフェースよりも小さいときに、宛先デバイスのすべての表示インターフェースを使用して、機能コントロールの組み合わせを表示してもよい。例えば、スマートウォッチの表示インターフェースが携帯電話の音楽アプリケーションの機能領域503におけるすべての機能コントロールを表示するときに、スマートウォッチの元の表示インターフェースと携帯電話の機能コントロールの現在表示されているインターフェースとは異なる表示インターフェースであってもよく、すなわち、アトマイゼーション・コンポーネントが位置する表示インターフェースは宛先デバイスの独立した表示インターフェースである。ユーザがスマートウォッチの元の表示インターフェースに切り替える必要がある場合、特定の切り替え操作を行う必要がある。
図8(a)及び図8(b)は、この出願の一実施形態によるインターフェーススイッチングの一例の概略図である。可能な実施態様では、宛先デバイスのインターフェースは、ユーザによって画面をスライドさせることによって切り替えることができる。
例えば、図8に示すように、スマートウォッチの表示インターフェース803は、表示インターフェースを切り替えるために使用されるスイッチング制御801を含む。ユーザは、図8(a)に示す操作を行う。操作は、スマートウォッチのディスプレイインターフェース803上でユーザによって行われるスライド操作を含み得る。ユーザのスライド操作に応答して、スマートウォッチの表示インターフェース803は、スマートウォッチのホーム画面804に切り替わる。ホーム画面は、図8(a)に示され、時計及び日付を表示するために使用されるインターフェースであり得る。
図8(a)のユーザのスライド操作の方向は、この出願のこの実施形態において限定されないと理解されたい。例えば、表示インターフェース803は、左スライド又は右スライドのいずれかを介してスマートウォッチのホーム画面804に切り替えてもよい。これは、この出願において限定されない。
代替的には、図8(b)に示すように、スマートウォッチの表示インターフェース805は、表示インターフェースを切り替えるために使用されるフロートコントロール802を含む。ユーザは、図8(b)に示す操作を行う。操作は、スマートウォッチのディスプレイインターフェース805上のフローとコントロール802上でユーザによって行われるタップ操作を含み得る。ユーザのタップ操作に応答して、スマートウォッチの表示インターフェース805は、スマートウォッチのホーム画面806に切り替わる。ホーム画面は、ホーム画面806に表示され、時計及び日付を表示するために使用されるインターフェースであってもよい。
図8(b)において、ユーザによるフロートコントロール802のタッピングの操作は、スマートウォッチのディスプレイインターフェース805とスマートウォッチのホーム画面806との間の前後切替を実施することができると理解されたい。例えば、スマートウォッチがディスプレイインターフェース805を提示するときに、ユーザは、フロートコントロール802をタップして、スマートウォッチのホーム画面806に切り替えてもよい。同様に、スマートウォッチがホーム画面806を提示するときに、ユーザは、フロートコントロール802をタップして、スマートウォッチのディスプレイインターフェース805に切り替えてもよい。
スマートウォッチの前述の列挙されたホーム画面806は、さらに、他のディスプレイコンテンツを含み得ると理解されたい。追加的に、別のインターフェース切り替え方式があってもよい。これは、この出願において限定されない。
UIコンポーネントを使用することによってUIコンポーネントを表示するための前述の方法は、ユーザに多くの利便性を提供することができる。例えば、携帯電話が音楽を再生するシナリオでは、多くの場合、音楽が再生された後に、ユーザの携帯電話がユーザの周囲にないことがある。例えば、ユーザが走っているとき、又は主婦が料理やクリーニングをしているときのような異なるシナリオでは、ユーザは、携帯電話の音楽アプリケーションの機能コントロールを使用することによって、音楽の再生、停止、次の曲、及びお気に入りへの追加などの操作を都合よく制御することができない。しかし、スマートウォッチ上で操作を行うことによって音楽を制御する場合、かなり高い利便性がユーザに提供される。これは、良好なユーザ体験をもたらす。ただし、スマートウォッチの表示インターフェースが小さいため、スマートウォッチは、音楽アプリケーションのすべてのインターフェースを表示することができるわけではない。いくつかの一般的な音楽操作があり、スマートウォッチは完全な音楽インターフェースを表示する必要もありません。この出願で提供されるUIコンポーネントを使用することによってUIコンポーネントを表示するための方法は、このアプリケーションシナリオの問題を完全に解決することができる。音楽アプリケーションのいくつかの機能コントロールがスマートウォッチ端で表示される。ユーザは、スマートウォッチの操作を使用することによって、携帯電話上の音楽の再生、停止、次の曲、お気に入りなどを制御することができる。これは、ポータブルサービスを提供し、ユーザ操作を容易にし、ユーザ体験を改善する。
可能な実施形態では、アトマイゼーション・コンポーネント表示領域のサイズは、宛先デバイスの表示画面のサイズに基づいて調整されてもよい。
図9(a)及び図9(b)は、この出願の一実施形態による宛先デバイスの表示インターフェースの一例の概略図である。携帯電話が送信元として使用され、車載端末の制御パネルが宛先デバイスとして使用される。車載端末の制御パネルの領域は、通常、携帯電話の表示インターフェースの領域よりも大きい。図9(a)に示すように、携帯電話の音楽アプリケーションのアトマイゼーション・コンポーネント表示ボックス901は、スケーリングされてもよく、車載端末の制御パネルの領域の一部のみを占める。
任意選択で、車両搭載端末の制御パネルの別の領域が、例えば図9(a)の車両搭載ナビゲーションインターフェース902である車両搭載システムのアプリケーションを同時に表示してもよいし、車両搭載端末の制御パネルの別の領域が、例えば図9(b)の携帯電話のホーム画面903である携帯電話の別のインターフェース、又は携帯電話の別のアプリケーションの表示インターフェースを同時に表示してもよい。これは、この出願において限定されない。
結論として、この出願で提供されるUIコンポーネントを使用することによってUIコンポーネントを表示するための方法を、添付図面を参照して説明する。この方法では、送信元デバイスの元のアプリケーションインターフェースの一部を、異なる機能コントロール又は複数の機能コントロールの組み合わせに分割することができる。異なる機能コントロール又は複数の機能コントロールの組み合わせは、新しい操作インターフェースを生成するために使用される。操作インターフェースは、別の宛先デバイス上に表示されることがある。操作が宛先デバイスの操作インターフェースに含まれる任意の機能コントロールに対して行われ、操作結果が実行のために送信元デバイスに送信されて、送信元デバイスと宛先デバイスとの操作整合性を確保する。本方法では、複数の端末デバイス間でユーザインターフェース及びサービスを自由に送信することができ、異なるデバイス間のボトルネックを解消し、元のアプリケーションインターフェースを部分的に分割し、複数の端末デバイス間で送信する。分割インターフェースは、端末の複数の画面サイズにより容易に適応し、より完全な表示を達成することができる。宛先デバイス端で表示される新しい操作インターフェースは、同じアプリケーションの機能コントロール、又は異なるアプリケーションの機能コントロールを含み得る。これにより、異なるアプリケーション間の境界を解消し、ユーザは、1つのインターフェース上で複数のアプリケーションの機能を閲覧し、複数のアプリケーションに対して同時に操作を行うことができるようにする。したがって、すべての操作は、送信元デバイスの元のアプリケーションサービスに送信される。ユーザは、送信元デバイスと宛先デバイスの両方でアプリケーションサービスを同時に制御することができる。これは、使用を容易にし、ユーザ体験を改善する。
前述の説明では、図3(a)~図9(b)を参照して、この出願のマン-マシン相互作用の実施形態を詳細に説明した。この出願で提供されているUIコンポーネントを表示するための方法をよりよく理解するために、以下、具体的な実施プロセスを説明する。
送信元デバイス及び宛先デバイスの観点から、図10は、この出願の一実施形態による、送信元デバイスと宛先デバイスとの間でUIコンポーネントを表示する概略的相互作用図である。相互作用プロセスは、以下のコンテンツを含む。
S1001:送信元デバイスは、UIコンポーネントの設定情報を取得する。
例えば、UIコンポーネントの設定情報は、UIコンポーネントにおける各機能コントロールの設定情報を含む。各機能コントロールの設定情報は、機能コントロールの名称、機能、識別子IDなどの情報を含み得る。
任意選択で、各機能コントロールの設定情報は、送信元デバイスの表示インターフェースでの機能コントロールの位置情報、例えば、機能コントロールの左上隅の開始点の座標情報、並びに機能コントロールの表示幅及び表示高さをさらに含んでもよい。
任意選択で、各機能コントロールの設定情報は、さらに、機能コントロールが宛先デバイス上での表示をサポートするかどうかを識別するために使用される情報を含む。
送信元デバイスは、各機能コントロールの前述の情報を取得する。送信元デバイスは、UIコンポーネントを生成するプロセスにおいて、UIコンポーネントにおける各機能コントロールの前述の情報を抽出し、宛先デバイス上にUIコンポーネントを表示する。
S1001のプロセスは、アプリケーションの開発プロセスであってもよく、又は、送信元デバイスがアプリケーションをインストールするときに、送信元デバイスは、アプリケーションに含まれる限定された数の機能コントロールの設定情報、及び、異なる数の機能コントロールの異なる組み合わせによって形成される複数のUIコンポーネントの設定情報を取得してもよいと理解されたい。これは、この出願において限定されない。
例えば、ユーザが音楽アプリケーションをインストールするときに、送信元デバイスは、音楽アプリケーションのすべての限定された数の機能コントロールの設定情報と、異なる数の機能コントロールの異なる組み合わせによって形成された複数のUIコンポーネントの設定情報とを取得してもよい。代替的には、ユーザが図3(k)に示す操作を行い、3つの機能コントロールを選択するときに、携帯電話は、3つの機能コントロールの設定情報を取得して、第1のUIコンポーネントを登録することができる。
S1002:送信元デバイスは、ユーザの第1の操作を受信し、ユーザによって選択された第1のUIコンポーネントを判定し、第1のUIコンポーネントの設定情報を生成する。
例えば、ユーザは、図3(k)に示すいくつかの機能コントロールを選択して、第1のUIコンポーネントを形成し、送信元デバイスは、第1のUIコンポーネントの設定情報を取得してもよい。第1の操作は、ユーザが第1のインターフェースに表示される第1のUIコンポーネントを選択する操作である。
別の例として、図4(h)、図4(i)、及び図4(k)に示すように、ユーザは、第1のアプリケーションの複数のUIコンポーネントを備えたリストから第1のUIコンポーネントを選択する。第1の操作は、ユーザがUIコンポーネントリストから第1のUIコンポーネントを選択する操作である。
S1001から、アプリケーションの開発プロセスにおいて、第1のUIコンポーネントの設定情報を生成することができ、ユーザの選択操作を受信した後に、送信元デバイスが第1のUIコンポーネントの設定情報を取得することが分かる。あるいは、ユーザが3つの機能コントロールを選択した後、送信元デバイスは、3つの機能コントロールの設定情報を別々に抽出し、3つの機能コントロールの設定情報に基づいて、第1のUIコンポーネントの設定情報を生成する。S1003:送信元デバイスは、第1のUIコンポーネントの設定情報を宛先デバイスに送信する。ユーザが、この出願において提供されるUIコンポーネント表示機能を有効にすると判定し、宛先デバイスと判定するときに、例えば、選択された宛先デバイスが、図3(a)~図3(n)において説明されたスマートウォッチであるときに、送信元デバイスは、取得された第1のUIコンポーネントの設定情報を、宛先デバイスに送信する。
S1004:宛先デバイスは、第1のUIコンポーネントの設定情報を取得し、第1のUIコンポーネントの設定情報を記録する。
S1005:宛先デバイスは、第1のUIコンポーネントの設定情報に基づいて、第1のUIコンポーネントの表示情報を抽出する。
S1006:第1のUIコンポーネントの表示情報に基づいて、第1のUIコンポーネントを表示する。
宛先デバイスは、第1のUIコンポーネントの設定情報に基づいて第1のUIコンポーネントの表示情報を判定し、例えば、表示情報は、表示される機能コントロールのタイプ及び数、表示サイズ、機能コントロールの配置、画面サイズなどを含み、次に、表示情報に基づいて、第1のUIコンポーネントを宛先デバイスの出力インターフェースに表示する。前述のプロセスでは、図3(k)に示す、ユーザによって選択された音楽アプリケーションの3つの機能コントロールによって形成される第1のUIコンポーネントが、スマートウォッチの表示インターフェースに表示され得る。
送信元デバイスから宛先デバイスへ第1のUIコンポーネントを表示するプロセスでは、第1のUIコンポーネントの表示情報、例えば、第1のUIコンポーネントの表示サイズ及び表示位置を判定する必要がある。このアプリケーションでは、宛先デバイスのインターフェースに表示される第1のUIコンポーネントのサイズと位置を、異なる方式で設定することができる。
方式1
第1のUIコンポーネントの表示情報は、送信元デバイス端で生成される。
具体的には、このアプリケーションが、ソフトウェア開発キット(software development kit、SDK)を提供することにより、アプリケーション開発者は、送信元アプリケーションの開発プロセスにおいて提供される設定インターフェースを使用することによって、第1のUIコンポーネントの設定ファイルを生成することができるようにする。設定ファイルに含まれ得るコンテンツ及び関連シーケンスは、次のように表され得る。
“name”: “runButton”(機能コントロールの名称)
“ID”: “-1221681311_t_”,(関数コントロールのID)
“src”:{
“left”: 414, (左上隅の開始画素)
“top”: 1971, (頂点の先頭の画素)
“width”: 252, (表示幅の画素)
“height”: 252, (表示高さの画素)
}
“dest”:{(宛先デバイス)
“left”: 10, (宛先デバイスの表示インターフェースの左上隅の開始画素)
“top”: 10 (宛先デバイスの表示インターフェースの頂点の先頭の画素)
“width”: 10, (宛先デバイスの表示インターフェースの表示幅の画素)
“height”: 10, (宛先デバイスの表示インターフェースの表示高さの画素)
“translationx”: 50, (宛先デバイスの表示インターフェースのx方向の変換画素)
“translationy”: 0, (宛先デバイスの表示インターフェースのy方向の変換画素)
“scalex”: 1.0, (宛先デバイスの表示インターフェースのx方向のスケーリング画素)
“scaley”: 1.0, (宛先デバイスの表示インターフェースのy方向のスケーリング画素値)
“rotatedegree”: -90, (宛先デバイスの表示インターフェースの回転角度)
“clipSize”: 0, (機能コントロールの名称)
“canTouch”: true (タッチされるかどうか)
},
設定ファイルのコンテンツはここでは説明しない。
方式1では、設定ファイルのコンテンツが設定情報として使用され、送信元デバイスから宛先デバイスに送信される。宛先機器は「dest」部分のコンテンツを取得し、第1のUIコンポーネントを宛先デバイスの表示インターフェースに表示する方法を判定することができる。
方式2
第1のUIコンポーネントの表示情報は、宛先デバイス端で判定される。
具体的には、送信元デバイスは、宛先デバイスに第1のUIコンポーネントの設定情報を送信する。設定情報が「dest」部分を含まないことがある。言い換えると、宛先デバイスは、送信元デバイスのアプリケーションインターフェースでの第1のUIコンポーネントにおける機能コントロールの表示ステータスを取得することができる。次に、宛先デバイスは、宛先デバイスの表示インターフェースのサイズに基づいて第1のUIコンポーネントをスケーリングし、第1のUIコンポーネントにおけるすべての機能コントロールを表示する。
第1のUIコンポーネントが宛先デバイス上で表示されるときに、すべての機能コントロールは、例えば、図5(a)~図5(d)における関連する説明である、宛先デバイスの表示インターフェースの形状及びサイズに基づいて配置されてもよい。詳細は、ここでは再度説明しない。
S1007:宛先デバイスは、ユーザの第2の操作を検出する。
S1008:宛先デバイスは、第2の操作の操作情報を判定し、その情報は、第2の操作のイベントタイプと、第2の操作が機能する機能コントロールのIDとを含む。
S1009:宛先デバイスは、第2の操作の操作情報を送信元デバイスに送信する。
S1010:送信元デバイスは、宛先デバイスによって送信された第2の操作の操作情報を受信し、第2の操作の操作情報に基づいて、操作結果を判定する。
S1011:送信元デバイスは、操作結果を実行する。
S1007~S1010は、第1のUIコンポーネントがスマートウォッチのディスプレイインターフェース上に表示された後、ユーザの操作がスマートウォッチのディスプレイインターフェース上で受信されてもよく、操作結果が携帯電話に送信されて、スマートウォッチのディスプレイインターフェースから携帯電話の音楽再生を制御するプロセスである。これは、携帯電話とウォッチとの間の操作同期を実施する。例えば、図7(a)及び図7(b)のプロセスを参照のこと。
具体的な実施プロセスでは、この出願で提供されるUIコンポーネントを使用することによってUIコンポーネントを表示するための方法は、3つのモジュールの連携により実施されてもよい。具体的には、3つのモジュールは、UIコンポーネント登録管理モジュール、サービス管理モジュール、及びUIコンポーネント表示モジュールを含む。
1.UIコンポーネント登録管理モジュール
UIコンポーネント登録管理モジュールは、送信元デバイスのアプリケーション内に位置し、UIコンポーネントの登録及び管理、並びにリモート呼び出しの最終実行を担当する。
UIコンポーネントの登録は、送信元デバイスがユーザによって選択された第1のUIコンポーネントに含まれる各機能コントロールを判定することを示す。具体的には、送信元デバイスは、アプリケーションの限定された数の機能コントロールの設定情報、例えば、名称、機能、元の表示インターフェースでの位置情報、表示サイズ、及び各機能コントロールのタイプなどの情報を知ることができる。追加的に、各機能コントロールの設定情報は、さらに、機能コントロールが宛先デバイスでの表示をサポートするかどうかを識別するための情報を含む。送信元デバイスは、ユーザによって選択された1つ以上の機能コントロールに基づいて1つ以上の機能コントロールの設定情報を取得することができ、送信元デバイスは、ユーザによって選択された1つ以上の機能コントロールを第1のUIコンポーネントとして記録する。
UIコンポーネントの管理は、送信元デバイスがユーザによって選択された1つ以上の機能コントロールを受信した後、UIコンポーネント登録管理モジュールが1つ以上の機能コントロールの設定情報を取得することができることを示す。例えば、ユーザが音楽アプリケーションの3つの機能コントロールを選択した場合、UIコンポーネント登録管理モジュールは、3つの機能コントロールの設定情報を呼び出すことができる。3つの機能コントロールの組み合わせが既に第1のUIコンポーネントとして記録されているときに、UIコンポーネント登録管理モジュールは、第1のUIコンポーネントの設定情報を直接呼び出すことができる。
UIコンポーネントのリモート呼び出しは、第1のUIコンポーネントが宛先デバイスの表示インターフェースに表示された後、第1のUIコンポーネントにおける機能コントロールが宛先デバイス上でされることと理解されてもよい。宛先デバイスが操作結果を送信元デバイスに送信するときに、送信元デバイスのUIコンポーネント登録管理モジュールが操作結果を実行する。
任意選択で、このアプリケーションはSDKのセットを提供して、UIコンポーネントが送信元アプリケーションの開発中に登録及び管理され得るようにする。
例えば、送信元デバイスの「音楽」アプリケーションのUIコンポーネント登録管理モジュールは、「音楽」アプリケーションの限定された数の機能コントロールの設定情報を取得してもよい。ユーザによって選択された3つの機能コントロールを使用することによって生成された第1のUIコンポーネントに対しては、ソフトウェア開発キットSDKを使用して、第1のUIコンポーネントの設定情報を生成する、すなわち、ユーザによって選択された3つの機能コントロールの設定情報を取得し、3つの機能コントロールの設定情報に基づいて第1のUIコンポーネントの設定情報を生成して、第1のUIコンポーネントの登録プロセスを完了する。
具体的には、ユーザは、3つの機能コントロールによって形成された第1のUIコンポーネントを選択し、送信元デバイスの音楽アプリケーションのUIコンポーネント登録管理モジュールへの第1のUIコンポーネントの登録要求を開始する。UIコンポーネント登録管理モジュールは、第1のUIコンポーネントの登録要求を受信し、音楽アプリケーションの3つの機能コントロールの設定情報を抽出し、第1のUIコンポーネントの設定情報を生成する。第1のUIコンポーネントの設定情報は、名称、機能、元の表示インターフェースでの位置情報、表示サイズ、第1のUIコンポーネントに含まれる3つの機能コントロールのタイプなどの情報を含み得る。元の表示インターフェースでの機能コントロールの位置情報は、機能コントロールの左上隅の開始点の座標情報、機能コントロールの表示幅及び表示高さなどを含み得る。追加的に、各機能コントロールの設定情報は、さらに、機能コントロールが宛先デバイス上での表示をサポートしているかどうかを識別するために使用される情報を含む。
第1のUIコンポーネントの登録プロセスは、上記で完了する。アプリケーションを開発するときに、アプリケーション開発者はSDKを使用して、アプリケーションのプロジェクションに使用できるUIコントロールを設定する。例えば、SDKは、XML設定ファイルを提供して、設定ファイルにおいてプロジェクションに使用できるUIコントロールを設定する。SDKを使用することによって開発されたアプリケーションが端末デバイスにインストールされるときに、端末デバイスのオペレーティングシステムは、設定ファイルを使用することによって、アプリケーションにおけるプロジェクションに使用できるUIコントロールに関する情報を便宜的に取得することができる。
同時に、SDKは、ブロードキャストレシーバをアプリケーションに登録する。ブロードキャストレシーバは、サービス管理モジュールによって送信された様々なブロードキャストコマンドをリスンし、ユーザが表示されたUIコンポーネントに含まれる機能コントロールを変更する必要があるときに、モジュールの内部ロジックを呼び出してUIコンポーネントの更新メッセージを送信し、ユーザが宛先デバイスの出力インターフェースでの機能コントロールをタップする必要があるときに、アプリケーションでの機能コントロールをタップした操作結果を送信元デバイスに送信して、最終的にリモート操作を行うように構成されている。
UIコンポーネント登録管理モジュールが設定されている送信元デバイスは、すべてのアプリケーションに含まれる限られた数の機能コントロールを登録し、1つ以上のUIコンポーネントを内部的に登録することができると理解されたい。各UIコンポーネントが、アプリケーションの1つ以上の機能コントロールが含むか、各UIコンポーネントが、ユーザ定義の機能コントロールのセットを含む。
UIコンポーネント登録管理モジュールは、アプリケーションの固有インターフェースにおけるいくつかの機能コントロールに関する情報を取得し得るとさらに理解されたい。ユーザが第1のUIコンポーネントを形成するために機能コントロールを選択するときに、UIコンポーネント登録モジュールは、選択された機能コントロールに関する情報に基づいて、第1のUIコンポーネントの設定情報を登録することができる。各UIコンポーネントに対して、UIコンポーネント登録管理モジュールは、UIコンポーネントの名称、機能、最小表示サイズ、最大表示サイズ、及びタイプなどの情報を設定することができる。各UIコンポーネントの前述の情報は、まとめてUIコンポーネントの設定情報と呼ばれる。言い換えると、1つのUIコンポーネントの設定情報は、UIコンポーネントに含まれる各機能コントロールの名称、機能、元の表示インターフェースでの位置情報、表示サイズ、及びタイプなどの情報を判定するために使用される。
サービス管理モジュールは、宛先デバイス上でUIコンポーネントを表示するプロセスでは、UIコンポーネント及びUIコンポーネントの設定情報を取得して、宛先デバイスの表示インターフェースで表示するためのUIコンポーネントの表示情報を抽出することができる。
ユーザが、現在の使用要件に従って、宛先デバイス上で表示されたUIコンポーネントを変更する必要があるとき、例えば、ユーザが、スマートウォッチ上で「前の曲」選択コントロール、「再生」コントロール、及び「次の曲」選択コントロールを表示するように選択するときに、ユーザはまた、スマートウォッチ上で「お気に入り」コントロールも表示する必要がある。このプロセスでは、UIコンポーネント登録管理モジュールは、まず、追加されるお気に入りコントロールの表示情報を取得し、お気に入りコントロールの設定情報を取得し、追加されるお気に入り制御の表示情報をサービス管理モジュールに送信する。サービス管理モジュールは、お気に入りコントロールの設定情報を取得し、新しいUIコンポーネントの設定情報を形成し、新しいUIコンポーネントの設定情報を宛先デバイスに送信する。宛先デバイスのUIコンポーネント表示モジュールは、新しいUIコンポーネントの表示情報を取得し、新しいUIコンポーネントを表示して、宛先デバイスのインターフェースを更新するプロセスを完了する。
ユーザが宛先デバイス上でUIコンポーネントを操作するときに、UIコンポーネント登録管理モジュールは、サービス管理モジュールによって送信された操作コマンドを受信してもよく、送信元デバイスの各アプリケーションは、最終的な操作を行う。
2.サービス管理モジュール
サービス管理モジュールは、すべてのアプリケーションの登録されたUIコンポーネントを照会及び管理し、UIコンポーネントの設定情報を更新し、送信元デバイスと宛先デバイス上でUIコンポーネントを同期して表示する。追加的に、宛先デバイス上のユーザの操作コマンド情報が送信元デバイスに送信され、送信元デバイスのアプリケーションが最終操作を実行して、送信元デバイスと宛先デバイスとの操作整合性を確保する。
サービス管理モジュールは中間層に位置し、UIコンポーネント表示モジュールとUIコンポーネント登録管理モジュールを接続する役割を果たすと理解されたい。実施態様プロセスでは、サービス管理モジュールは、クラウドサーバ内に位置してもよいし、送信元デバイス又は宛先デバイス内に位置してもよい。これは、この出願において限定されない。
具体的には、サービス管理モジュールは、アプリケーションの登録されたUIコンポーネントを取得することができ、取得されたコンテンツは、UIコンポーネントの名称、機能、最小表示サイズ、最大表示サイズ、タイプなどの設定情報を含むことができる。サービス管理モジュールは、設定情報を取得するプロセスにおいて、開始された後にグローバルブロードキャストを送信する。UIコンポーネント登録管理モジュールは、ブロードキャストを受信した後、登録されたUIコンポーネントと設定情報をサービス管理モジュールに送信する。
追加的に、サービス管理モジュールは、宛先デバイスの表示インターフェースを更新してもよい。送信元デバイスのUIコンポーネントが変更されるときに、送信元デバイスのコンポーネント登録管理モジュールは、新しいUIコンポーネントの設定情報をサービス管理モジュールに送信し、サービス管理モジュールは、UIコンポーネントの更新された設定情報を宛先デバイスに送信する。宛先デバイスは、取得されたUIコンポーネントの更新された設定情報に基づいて、新しいUIコンポーネントのインターフェースを表示する。
サービス管理モジュールは、さらに、宛先デバイス端でのユーザ操作情報を送信元デバイスに転送してもよく、送信元デバイスが宛先デバイス上でユーザによって入力された操作命令を実行するようにする。ユーザが宛先デバイス上でUIコンポーネントにおける機能コントロールを行うときに、操作情報は、宛先デバイスのコンポーネント表示モジュールによってサービス管理モジュールに送信される。サービス管理モジュールは、操作情報を送信元デバイス端のUIコンポーネント登録管理モジュールに送信し、送信元デバイスのアプリケーションが最終操作を行う。
サービス管理モジュールにはデータセンターがあり、データセンターは1つ以上のアプリケーションのすべての登録されたUIコンポーネントとUIコンポーネントの設定情報を記録することができると理解されたい。
表示されたUIコンポーネントごとに、サービス管理モジュールは、UIコンポーネントの更新及び操作などの挙動を管理するためのコンポーネントマネージャサブモジュールを作成することをさらに理解されたい。UIコンポーネントが宛先デバイス端でもはや表示されなくなったときに、サービス管理モジュールは、システムリソースを節約するために、マネージャサブモジュールを一時停止又は休止する。UIコンポーネント表示モジュールがUIコンポーネントを削除するときに、サービス管理モジュールは、そのコンポーネントに対応するマネージャサブモジュールを破棄する。
3.UIコンポーネント表示モジュール
UIコンポーネント表示モジュールは、宛先デバイスにある。UIコンポーネント表示モジュールは、主にサービス管理モジュールからUIコンポーネントの設定情報を取得し、1つ以上の必要なUIコンポーネントを選択し、選択されたUIコンポーネントをUIコンポーネント表示モジュールの表示モジュールに表示するように構成されている。追加的に、UIコンポーネント表示モジュールは、サービス管理モジュールから更新コマンドを受信し、UIコンポーネントの表示インターフェースを更新してもよい。また、UIコンポーネント表示モジュールは、サービス管理モジュールにユーザの様々な操作コマンド情報を送信してもよい。
UIコンポーネント表示モジュールはさらに、送信元デバイスのUIコンポーネントを宛先デバイス上に表示し、サービス管理モジュールを使用することによって、現在のデバイスの画面サイズの要件を満たすすべてのUIコンポーネントを取得し、ユーザが選択するためにUIコンポーネントを提供するように構成されている。ユーザが表示されるコンポーネントを選択した後、UIコンポーネント表示モジュールは、ユーザによって選択されたUIコンポーネントを表示し、サービス管理モジュールによって提供された更新情報をリスン及び受信し、リアルタイムでUIコンポーネントの表示情報を更新する。ユーザが宛先デバイス上に表示されたUIコンポーネントを操作する場合、UIコンポーネント表示モジュールは、操作コマンドをサービス管理モジュールに送信する。サービス管理モジュールは、最後に、操作コマンドを送信元デバイスのコンポーネント登録管理モジュールに送信し、送信元デバイスのアプリケーションが最終操作を行う。
具体的には、UIコンポーネント表示モジュールは、宛先デバイスの画面サイズに基づいて1つ以上のUIコンポーネントを表示することができる。特定の表示プロセスでは、UIコンポーネント表示モジュールは、UIコンポーネントのインターフェースデータを取得することができる。インターフェースデータは、拡張可能なマークアップ言語(extensible markup language、XML)、JavaScriptオブジェクト表記(JavaScript object notation、JSON)、及びドメイン固有の言語(domain-specific language、DSL)などの複数の形式を含み得る。これは、この出願において限定されない。
UIコンポーネント表示モジュールは、説明実行インターフェース生成サブモジュールを有する。インターフェース生成サブモジュールは、送信元デバイスのインターフェースにインターフェースデータを直接復元するように設定され得る。インターフェースが生成されるときに、宛先デバイスは、さらに、その宛先デバイスの画面サイズに基づき、送信元デバイスのインターフェースをある程度変更することができる。例えば、左から右へのソートを上から下へのソートに変更したり、左から右へのソートを、時計回り又は反時計回りの円形配置に変更し、例えば、図3(a)~図3(n)及び図5(a)~図5(d)に示す携帯電話からスマートウォッチへの表示プロセスである。追加的に、UIコンポーネント表示モジュールは、現在の宛先デバイスの画面サイズに基づいて一度に1つ以上のUIコンポーネントを表示するか、又はUIコンポーネントを組み合わせてデバイス画面上にUIコンポーネントを同時に表示することができる。組み合わされたUIコンポーネントは、1つのアプリケーション又は複数の異なるアプリケーションからの機能コントロールの組み合わせであり得る。
追加的に、宛先デバイスにすべてのUIコンポーネントが表示された後、送信元デバイス上のUIコンポーネントの操作タイプを保持することができる。タップ操作及び長押し操作は、送信元デバイス上のUIコンポーネントにおける1つの機能コントロールに対して行ってもよく、タップ操作及び長押し操作はまた、宛先デバイス上のUIコンポーネントにおける機能コントロールに対しても行ってもよいと理解されたい。機能コントロールが送信元デバイス上でタップ操作及び長押し操作を受け付けない場合、機能コントロールはまた、宛先デバイス上でタップ操作及び長押し操作も受け付けない。
UIコンポーネントの更新プロセスでは、UIコンポーネント表示モジュールは、サービス管理モジュールに接続する必要があり、UIコンポーネントのアップデートステータスをリアルタイムで受信する。サービス管理モジュールによって送信されたUIコンポーネントの更新情報を受信すると、UIコンポーネント表示モジュールは、新しいUIコンポーネントの情報を使用することによって、現在のUIコンポーネントの表示を直ちに更新する。
UIコンポーネントの操作プロセスにおいて、ユーザが宛先デバイス上でUIコンポーネントにおける機能コントロールを操作するときに、ここで、操作は、タッピング、ダブルタッピング、長押し、上下スライドなどを含み、これらに限定されず、操作情報は、サービス管理モジュールに送信される。サービス管理モジュールは、操作情報を受信した後、送信元デバイスのコンポーネント登録管理モジュールに操作情報を送信し、送信元デバイスのアプリケーションが最終的に最終操作を実行する。実行後にUIコンポーネントが更新された場合、宛先デバイス上のUIコンポーネントの表示はまた、この更新においてUIコンポーネント更新ポリシーに従って更新される。
以上、この出願のこの実施形態において提供される宛先デバイス上のUIコンポーネントを使用することによって、送信元デバイス上でUIコンポーネントを表示するプロセスにおける3つのモジュール及び機能について説明した。図11(A)及び図11(B)は、この出願の一実施形態に従って、宛先デバイス上のUIコンポーネントを使用することによって、送信元デバイス上でUIコンポーネントを表示するための方法を実行する一例のフローチャートである。上述の3つのモジュールを参照すると、図11(A)及び図11(B)に示される実行手順におけるUIコンポーネントの表示プロセスは、以下のコンテンツを含んでもよい。
1101: UIコンポーネント登録管理モジュールは、送信元デバイス上のアプリケーションの第1のUIコンポーネントの登録要求を受信する。
1102: UIコンポーネント登録管理モジュールは、第1のUIコンポーネントの登録要求に基づいて、第1のUIコンポーネントの設定情報を生成する。
例えば、第1のUIコンポーネントの設定情報は、第1のUIコンポーネントにおける各機能コントロールの設定情報を含む。各機能コントロールの設定情報は、機能コントロールの名称、機能、元の表示インターフェースでの位置情報、表示サイズ、及びタイプなどの情報を含み得る。元の表示インターフェースでの位置情報は、機能コントロールの左上隅の開始点の座標情報、機能コントロールの表示幅及びの表示高さを含み得る。追加的に、各機能コントロールの設定情報には、さらに、宛先デバイス上での表示をサポートするかどうかを識別するための情報が含む。図10の関連する説明において、第1のUIコンポーネントの設定情報は、アプリケーションの開発プロセスにおいて生成されてもよいと理解されたい。言い換えると、アプリケーションの開発プロセスにおいてステップ1101、1102が完了し、第1のUIコンポーネントの設定情報が生成される。代替的には、ユーザがアプリケーション操作インターフェースで複数の機能コントロールを選択するときに、ユーザは、UIコンポーネント登録管理モジュールに対して、第1のUIコンポーネントの登録要求を開始する。UIコンポーネント登録管理モジュールは、第1のUIコンポーネントの登録要求を受信し、第1のUIコンポーネントに含まれる複数の機能コントロールの設定情報を抽出し、第1のUIコンポーネントの設定情報を生成する。これは、この出願において限定されない。
1103: UIコンポーネント登録管理モジュールは、第1のUIコンポーネントの設定情報をサービス管理モジュールに送信する。
1104: サービス管理モジュールは、UIコンポーネント登録管理モジュールによって送信された第1のUIコンポーネントの設定情報を受信し、第1のUIコンポーネントの設定情報を取得する。
1105: サービス管理モジュールは、第1のUIコンポーネントの表示情報を抽出する。
1106: サービス管理モジュールは、第1のUIコンポーネントの表示情報をUIコンポーネント表示モジュールに送信する。
1107: UIコンポーネント表示モジュールは、第1のUIコンポーネントの表示情報を受信し、第1のUIコンポーネントを表示する。
1108: UIコンポーネント登録管理モジュールは、第1のUIコンポーネントの更新情報を取得し、第1のUIコンポーネントの更新情報をサービス管理モジュールに送信する。
1109: サービス管理モジュールは、第1のUIコンポーネントの更新された情報を取得し、第2のUIコンポーネントの更新された表示情報を判定する。
1110: サービス管理モジュールは、第2のUIコンポーネントの更新された表示情報を宛先デバイスのUIコンポーネント表示モジュールに送信する。
1111: UIコンポーネント表示モジュールは、第2のUIコンポーネントの更新された表示情報を受信する。
1112: UIコンポーネント表示モジュールは、第2のUIコンポーネントを表示する。
1113: UIコンポーネント表示モジュールは、ユーザ操作コマンド情報を受信する。
1114: UIコンポーネント表示モジュールは、操作コマンド情報をサービス管理モジュールに送信する。
1115: サービス管理モジュールは、操作コマンド情報を送信元デバイスのUIコンポーネント登録管理モジュールに送信する。
1116: 送信元デバイスのアプリケーションは、最終操作コマンドを実行する。
前述のステップ1101~1107は、送信元デバイスから宛先デバイスへのUIコンポーネントの表示プロセスを説明し、ステップ1108~1112は、UIコンポーネントの更新プロセスを説明し、ステップ1113~1116は、UIコンポーネントの操作プロセスを説明する。
前述のステップ1113~1116におけるUIコンポーネントの操作プロセスにおいて、ユーザの宛先デバイスは、UIコンポーネントを操作する。宛先デバイスは、ユーザ操作コマンド情報を受信し、操作コマンド情報をサービス管理モジュールに送信する。次に、サービス管理モジュールは、操作コマンド情報を送信元アプリケーションのUIコンポーネント登録管理モジュールに送信する。
明細書において転送される操作コマンド情報は、ユーザによって操作される機能コントロールの識別子(identification、ID)情報と、タッチイベントのタイプとを含んでもよいと理解されたい。送信元デバイスから宛先デバイスへのUIコンポーネントの表示プロセスにおいて、UIコンポーネントにおける第1の機能コントロールは、送信元デバイスの表示インターフェースにおいて1つの第1のID情報を有し、宛先デバイスの表示インターフェースにおいて1つの第2のID情報を有する。第1の機能コントロールの2つのID情報は一意で、1対1にマッピングされる。ユーザが、宛先デバイスのUIコンポーネントにおける第1の機能コントロールに対するタッチ操作、例えば、前述の列挙されたタッピング、長押し、又はスライディングを行うときに、宛先デバイスは、ユーザのタッチ操作に基づいてタッチ操作のタイプを判定し、第1の機能コントロールのタッチイベント情報を生成し、第1のID情報及びタッチイベント情報を送信元デバイスのUIコンポーネント登録管理モジュールに転送することができる。第1のID情報に対応する第2のID情報が判定されるときに、送信元デバイスの第1の機能コントロールが判定され、タッチイベントの結果が第1の機能コントロールで応答されて、送信元デバイスと宛先デバイスとの操作整合性を確保する。
前述のすべての手順の実施態様は、3つのモジュール間の接続に基づいて確立されると理解されたい。言い換えると、UIコンポーネントを使用することによってUIコンポーネントを表示するための方法は、送信元デバイスと宛先デバイスとの間に確立された接続アーキテクチャに基づく。この出願では、複数のネットワーキング方式がサポートされる。図12(a)~図12(d)は、この出願の一実施形態によるネットワーキングマナーの概略図である。ネットワーキング方式は、以下の列挙されたネットワーキング方式を含むが、これらに限定されない。
方式1
限定ではなく例として、図12(a)に示すように、UIコンポーネント登録管理モジュール1201は、送信元デバイスのソースアプリケーション内に位置し、サービス管理モジュール1202はまた、送信元デバイス内に位置してもよい。送信元デバイスは、Bluetoothを介して宛先デバイスに接続するか、又はWi-Fiホットスポットを介して宛先デバイスに接続する。例えば、送信元デバイスが宛先デバイスのWi-Fiホットスポットにアクセスするか、宛先デバイスが送信元デバイスのWi-Fiホットスポットにアクセスする。したがって、UIコンポーネント表示モジュール1203、サービス管理モジュール1202、及びUIコンポーネント登録管理モジュール1201の間の接続が確立される。これは、この出願において限定されない。
マナー2
制限の代わりに例として、図12(b)に示すように、UIコンポーネント登録管理モジュール1201は、送信元デバイスのソースアプリケーション内に位置し、サービス管理モジュール1202は、送信元デバイス内に位置してもよい。送信元デバイス及び宛先デバイスは、同じ無線経路ノード(access point、AP)、例えば、図12(b)に示される経路ノード1210に接続される。したがって、UIコンポーネント表示モジュール1203、サービス管理モジュール1202、及びUIコンポーネント登録管理モジュール1201の間の接続が確立される。
方式3
限定ではなく例として、図12(c)に示すように、UIコンポーネント登録管理モジュール1201は、送信元デバイス内の送信元アプリケーション内に位置し、サービス管理モジュール1202は、クラウドサーバ1220内に位置してもよい。送信元デバイス及び宛先デバイスは、同じクラウドサーバ、例えば、図12(b)に示されるクラウドサーバ1220に接続される。したがって、UIコンポーネント表示モジュール1203、サービス管理モジュール1202、及びUIコンポーネント登録管理モジュール1201の間の接続が確立される。
代替的には、図12(d)に示すように、UIコンポーネント登録管理モジュール1201は、送信元デバイスのソースアプリケーション内に位置し、サービス管理モジュール1202は、クラウドサーバ1220内に位置する。送信元デバイスは同じクラウドサーバに接続され、送信元デバイスは共有ネットワークを介して宛先デバイスに接続する。したがって、UIコンポーネント表示モジュール1203、サービス管理モジュール1202、及びUIコンポーネント登録管理モジュール1201の間の接続が確立される。ネットワーク共有方式は、送信元デバイスと宛先デバイスが1つのAPに接続される方式、又は送信元デバイスと宛先デバイスがWi-Fiホットスポットを介して接続される方式を含み得る。これは、この出願において限定されない。
上述のいくつかの方法で、送信元デバイスは、宛先デバイスに接続する。これは、UIコンポーネント表示モジュール1203、サービス管理モジュール1202、及びUIコンポーネント登録管理モジュール1201の間の接続を確実にし、この出願において提供されるUIコンポーネントを表示するための方法を実施することができる。
前述のステップ1001~1006では、送信元デバイスから宛先デバイスへのUIコンポーネントの表示プロセスについて説明する。UIコンポーネントが登録されているときに、前述は、この出願において提供されているソフトウェア開発キットSDKのセットについて説明し、各UIコンポーネントは、送信元アプリケーションの開発中に便宜的に登録及び管理され得るようにする。追加的に、SDKはブロードキャストレシーバをアプリケーションに登録する。ブロードキャストレシーバは、サービス管理モジュールによって送信される種々のブロードキャストコマンドをリスンし、モジュールの内部論理を呼び出して、UIコンポーネントのアップデートの伝送を完了し、最終的にリモート操作を行うように構成されている。
例えば、音楽アプリケーションのUIコンポーネントを例にとると、アプリケーション開発者はソフトウェア開発キットSDKを使用することによってUIコンポーネントの設定情報を設定することができる。まず、UIコンポーネント登録管理モジュールは、送信元デバイス上のアプリケーションのUIコンポーネントの登録要求を受信し、音楽アプリケーションの操作しているインターフェースでのUIコンポーネントを登録し、設定情報を生成することができる。例えば、設定情報は、UIコンポーネントに含まれるすべての機能コントロールが位置する領域の位置情報を含んでもよいし、位置情報は、領域の左上隅の開始点の座標情報、領域の幅及び高さなどを含んでもよい。
次に、UIコンポーネントを宛先デバイスの出力インターフェース上に表示できるかどうかが判定され、UIコンポーネントが宛先デバイス上での表示をサポートするかどうかを識別するための情報がUIコンポーネントの設定情報内に構成される。設定情報は、UIコンポーネントの表示情報及び操作情報を含み得る。表示情報は、宛先デバイスの表示インターフェースがどのように表示されるかを示すために使用される情報であり、操作情報は、機能コントロールがトリガされたときの対応する操作命令を示すために使用される。
アプリケーション開発者は、ソフトウェア開発キットSDKを使用することによってUIコンポーネントの設定情報を登録することができ、音楽アプリケーションを使用するときに、ユーザは、直接UIコンポーネントを選択し、宛先デバイスにUIコンポーネントを表示することができるようにする。これは、ユーザ操作を容易にする。
可能な実施態様では、宛先デバイス上に表示する必要のあるUIコンポーネントは、さらに、ユーザジェスチャ選択を介して判定されてもよい。図3(m)は、この出願の一実施形態によるユーザジェスチャ選択の一例の概略図である。図3(m)に示すように、携帯電話の音楽アプリケーションの再生インターフェース上で、ユーザは、宛先デバイスの表示インターフェースのサイズと、そのインターフェースで機能コントロールを使用するためのユーザの要件に応じて、宛先デバイス上に表示する必要のある機能コントロールを、宛先インターフェース上で選択し、UIコンポーネントを形成することができる。例えば、ユーザが音楽再生インターフェース上の破線ボックスに示された領域を選択することは、ユーザが、前の曲選択コントロール、再生コントロール、及び次の曲選択コントロールを選択することとして理解されてもよい。破線ボックスに示す領域を選択する操作は、例えば、図中に示された破線ボックスの左上隅の開始座標位置1からその領域の右下隅の座標位置2までのスライド操作、又は破線ボックスの右下隅の開始座標位置2からその領域の左上隅の座標位置1までのスライド操作である、破線ボックスに示す領域の対角線の2つの位置座標に沿ったユーザのスライド操作であり得る。これは、この出願において限定されない。
次に、UIコンポーネント登録管理モジュール1201は、選択された機能コントロールを登録してUIコンポーネントを形成し、UIコンポーネントの設定情報、例えば、UIコンポーネントの名称、機能、最小表示サイズ、最大表示サイズ、機能、タイプ、含まれる機能コントロールなどを判定する。
任意選択で、前述のプロセスは、UIコンポーネント登録管理モジュール1201によって判定された後、送信元デバイス端に表示されてもよい。ユーザは、修正、又は設定を行うことができる。例えば、ユーザは、宛先デバイスのサイズに応じて、宛先デバイス上でUIコンポーネントによって表示されるインターフェースの表示サイズを設定することができる。
ユーザジェスチャ選択プロセスにおいて、選択された領域が機能コントロールの表示領域の一部を含むときに、電子デバイスは、生成されたUIコンポーネントに機能コントロールを含めてもよいし、生成されたUIコンポーネントから機能コントロールを除外してもよい。代替的には、機能コントロールの領域全体における機能コントロールの選択された部分のエリアの割合に基づいて、機能コントロールがUIコンポーネントに含まれるかどうかが判定される。これは、この出願において限定されない。
上述の解決策によれば、UIコンポーネントの登録プロセスにおいて、ユーザは、UIコンポーネントに含まれるアプリケーションコントロールの選択プロセスに参加することができる。ユーザは、ユーザの使用頻度にしたがって、UIコンポーネントが機能コントロールを含む必要があるかどうかを判定してもよいし、ユーザは、UIコンポーネントが宛先デバイス上に表示される前に、UIコンポーネントの表示サイズを設定してもよい。これは使いやすく、表示インターフェースをよりユーザフレンドリにし、ユーザ体験を改善する。
可能な実施態様では、ソースアプリケーション開発者の視点から登録されたUIコンポーネントを判定することに加えて、ユーザによるアプリケーションの機能コントロールを選択する方式で、ユーザは、さらに、登録されたUIコンポーネントを宛先デバイス端で設定してもよい。表示されるUIコンポーネントのタイプとサイズは、宛先デバイス端で定義される。
例えば、宛先デバイスがスマートウォッチであるときに、アプリケーションの共通UIコンポーネントの表示情報がスマートウォッチ端で設定されてもよい。「音楽」アプリケーションの場合、ユーザは、通常、「前の曲」選択コントロール、「再生」コントロール、及び「次の曲」選択コントロールを使用する。3つの機能コントロールによって形成されたUIコンポーネントの場合、コンポーネントの表示インターフェースサイズ及び機能コントロールの配列シーケンスが、例えば、前述の列挙された時計回りの配列シーケンス又は反時計回りの配列シーケンスであり、スマートウォッチ端にあらかじめ設定される。スマートウォッチに携帯電話の音楽アプリが表示されるときに、UIコンポーネントがデフォルトで表示され得る。
複数のUIコンポーネントが、宛先デバイス端で設けられてもよく、前述の例に限定されないと理解されたい。ユーザは、宛先デバイス端における複数のUIコンポーネントから、現在表示する必要のあるUIコンポーネントを選択することができる。これは、この出願において限定されない。
前述は、この出願において提供される送信元デバイスのUIコンポーネントを宛先デバイス上で表示するための方法の可能な実施プロセスを説明した。送信元デバイスの元のアプリケーションインターフェースの一部は、異なる機能コントロール又は複数の機能コントロールの組み合わせに分割され得る。異なる機能コントロール又は複数の機能コントロールの組み合わせは、新しい操作インターフェースを生成するために使用される。操作インターフェースは、別の宛先デバイスに表示され得る。操作が宛先デバイスの操作インターフェースに含まれる任意の機能コントロールに対して行われ、操作結果が実行のために送信元デバイスに送信されて、送信元デバイスと宛先デバイスとの操作整合性を確保する。本方法では、複数の端末デバイス間でユーザインターフェース及びサービスを自由に送信することができ、異なるデバイス間のボトルネックを解消し、元のアプリケーションインターフェースを部分的に分割し、複数の端末デバイス間で送信する。分割インターフェースは、端末の複数の画面サイズにより容易に適応し、より完全な表示を達成することができる。宛先デバイス端で表示される新しい操作インターフェースは、同じアプリケーションの機能コントロール、又は異なるアプリケーションの機能コントロールを含み得る。これにより、異なるアプリケーション間の境界を解消し、ユーザは、1つのインターフェース上で複数のアプリケーションの機能を閲覧し、複数のアプリケーションに対して同時に操作を行うことができるようにする。したがって、すべての操作は、送信元デバイスの元のアプリケーションサービスに送信される。ユーザは、送信元デバイスと宛先デバイスの両方でアプリケーションサービスを同時に制御することができる。これは、使用を容易にし、ユーザ体験を改善する。
前述の実施形態及び関連する添付図面を参照して、この出願の実施形態は、送信元デバイスのUIコンポーネントを宛先デバイス上で表示するための方法を提供する。本方法は、図1及び図2のタッチ画面及びカメラを有する電子デバイス(例えば、携帯電話又はタブレットコンピュータ)によって実施され得る。図13は、この出願の実施形態によるUIコンポーネントを表示するための方法の概略フローチャートである。本方法は、送信元デバイス又は送信元デバイス内に構成されたチップによって実施され得る。図13に示すように、本方法は、以下のステップを含み得る。
1301: 送信元デバイスは、第1のUIコンポーネントを判定し、第1のUIコンポーネントは、送信元デバイスの第1のアプリケーションの少なくとも1つの機能コントロールを含む。
可能な実施態様では、送信元デバイスは、第1のインターフェースを表示し、第1のインターフェース上のユーザの第1の操作を検出する。第1の操作に応答して、送信元デバイスは第1のUIコンポーネントを判定する。
任意選択で、第1のインターフェースは、第1のアプリケーションの少なくとも1つの機能コントロールを含み、第1の操作は、ユーザが第1のインターフェースに表示される第1のUIコンポーネントを選択する操作である。
例えば、第1の操作は、図3(k)に示す操作である。ユーザは、音楽アプリケーションインターフェース上の1つの領域を選択し、エリア内の機能コントロールを判定して、第1のUIコンポーネントを形成する。
代替的には、第1のインターフェースは、第1のアプリケーションのUIコンポーネントリストを含み、UIコンポーネントリスト内の各UIコンポーネントは、第1のアプリケーションの少なくとも1つの機能コントロールを含み、第1の操作は、ユーザがUIコンポーネントリスト内の第1のUIコンポーネントを選択する操作である。
例えば、第1の操作は、図4(g)から図4(k)に示す操作である。ユーザは、プロジェクションコンポーネント・リスト・インターフェースで1つのコンポーネントタイプを選択し、コンポーネントタイプに含まれるすべての機能コントロールを判定して、第1のUIコンポーネントを形成する。
1302: 送信元デバイスは、第1のUIコンポーネントの設定情報を取得し、第1のUIコンポーネントの設定情報は、宛先デバイス上で第1のUIコンポーネントを表示する方式を示すために使用される。
1303: 送信元デバイスは、第1のUIコンポーネントの設定情報を宛先デバイスに送信し、宛先デバイスは、第1のUIコンポーネントの設定情報に基づいて第1のUIコンポーネントを表示するようにする。
任意選択で、第1のUIコンポーネントの設定情報は、第1の情報を含む。第1の情報は、宛先デバイス上での少なくとも1つの機能コントロールの各々の表示情報を示すために使用され、第1の情報は、宛先デバイス上での少なくとも1つの機能コントロールの各々の位置座標、表示幅、及び表示高さに関する情報を含む。送信元デバイスは、第1の情報を宛先デバイスに送信することができる。
例えば、図4(m)及び図4(n)に示すように、第1の情報は、スマートウォッチの表示インターフェース上での第1のUIコンポーネントの開始座標、長さ及び高さなどの情報を含んでもよい。ユーザは、列挙された情報を修正して、スマートウォッチ上で第1のUIコンポーネントを表示する方式を修正することができる。
任意選択で、第1のUIコンポーネントの設定情報は、さらに、第2の情報を含む。第2の情報は、少なくとも1つの機能コントロールの各々の識別子IDに関する情報を示すために使用される。
送信元デバイスは、第1のアプリケーションの各機能コントロールのID情報を知っていてもよいことを理解されたい。送信元デバイスは、第1のUIコンポーネントを判定した後、第1のUIコンポーネントに含まれる各機能コントロールのID情報を宛先デバイスに送信する。ユーザが宛先デバイス上で第1のUIコンポーネントにおける機能コントロールを行うときに、宛先デバイスは、機能コントロールのID情報と操作イベントの両方を送信元デバイスに送信することができ、送信元デバイスが、機能コントロールのID情報と操作イベントに関する情報に基づいて、第1のアプリケーションの第1の機能コントロールを判定し、第1の機能コントロールに対応する機能を実行するようにする。
例えば、図7(a)に示すように、ユーザは、スマートウォッチ側の音楽再生コントロールをタップして、再生停止状態に移行する。音楽は、携帯電話側で停止し、コントロールは、再生停止状態で表示される。
代替的には、図7(b)に示すように、ユーザが携帯電話側の音楽再生コントロールをタップするときに、スマートウォッチ側のコントロールも再生状態を表示する。
任意選択で、第1のUIコンポーネントの設定情報は、さらに、第3の情報を含む。第3の情報は、少なくとも1つの機能コントロールの各々の名称及び機能に関する情報を示すために使用される。
例えば、関連する設定ファイル及び関連するシーケンスの前述の説明に列挙された様々な情報は、ここでは再度説明しない。
任意選択で、第1のUIコンポーネントの設定情報は、さらに、第4の情報を含む。第4の情報は、第1のUIコンポーネントにおける各機能コントロールが宛先デバイス上での表示をサポートするかどうかを識別するために使用される情報である。送信元デバイスは、第4の情報に基づいて、第1のUIコンポーネントの各機能コントロールが宛先デバイス上での表示をサポートすると判定する。
同様に、図14は、この出願の一実施形態によるUIコンポーネントを表示するための方法の別の例の概略フローチャートである。図14に示すように、本方法は、宛先デバイス又は宛先デバイス内に構成されたチップによって実行されてもよい。具体的には、以下のステップが含まれる。
1401: 宛先デバイスは、送信元デバイスによって送信された第1のUIコンポーネントの設定情報を受信し、第1のUIコンポーネントの設定情報は、電子デバイス上に第1のUIコンポーネントを表示する方式を示すために使用され、第1のUIコンポーネントは、送信元デバイスの第1のアプリケーションの少なくとも1つの機能コントロールを含む。
1402: 宛先デバイスは、第1のUIコンポーネントの設定情報に基づいて第1のUIコンポーネントを表示する。
前述の機能を実施するために、送信元デバイス及び宛先デバイスは、機能を実施するための対応するハードウェア及び/又はソフトウェアモジュールを含むことが理解されよう。この明細書に開示された実施形態に記載された各例のアルゴリズムステップを参照して、この出願は、ハードウェアの形態、又はハードウェアとコンピュータソフトウェアの組み合わせで実施することができる。機能がハードウェアによって行われるのか、コンピュータソフトウェアによって駆動されるハードウェアによって行われるのかは、特定のアプリケーションと技術的解決策の設計上の制約に依存する。当業者であれば、実施形態を参照して、各特定の用途について記載された機能を実施するために異なる方法を使用することができるが、実施態様がこの出願の実施形態の範囲を超えているとは考えるべきではない。
本実施形態では、機能モジュールへの分割は、前述の方法の例に基づいて、送信元デバイス及び宛先デバイスに対して行われ得る。例えば、各機能モジュールは、各機能に対応する分割によって取得されてもよいし、2つ以上の機能が1つの処理モジュールに統合されてもよい。統合モジュールは、ハードウェアの形態で実装され得る。本実施形態では、モジュールへの分割は一例であり、単なる論理的な機能分割に過ぎないと留意されたい。実際の実施態様では、別の分割方式が使用され得る。
図15は、対応する各機能に基づいて各機能モジュールを分割を介して取得されるときに、前述の実施形態における電子デバイス1500の可能な概略構成図である。図15に示すように、電子デバイス1500は、電子デバイス1500が送信元デバイスであるときに、処理ユニット1501、取得ユニット1502、及び送信ユニット1503を含み得る。
処理ユニット1501は、ステップ1301及び/又は本明細書に記載される技術の別のプロセスを実行するように、電子デバイス1500をサポートするように構成され得る。
取得ユニット1502は、ステップ1302及び/又は本明細書に記載される技術の別のプロセスを実行するために、電子デバイス1500をサポートするように構成され得る。
送信ユニット1503は、ステップ1303及び/又は本明細書に記載される技術の別のプロセスを実行するために、電子デバイス1500をサポートするように構成され得る。
図16は、前述の実施形態における電子デバイス1600の可能な概略構成図である。図16に示すように、電子デバイス1600は、電子デバイス1600が宛先デバイスであるときに、受信ユニット1601及び処理ユニット1602を含み得る。
受信ユニット1601は、ステップ1401及び/又は本明細書に記載される技術の別のプロセスを実行するために、電子デバイス1600をサポートするように構成され得る。
処理ユニット1602は、ステップ1402及び/又は本明細書に記載される技術の別のプロセスを実行するために、電子デバイス1600をサポートするように構成され得る。
前述の方法の実施形態におけるステップのすべての関連する内容は、対応する機能モジュールの機能説明において引用することができることに留意されたい。詳細は、ここでは再度説明しない。
実施形態において提供される電子デバイスは、UIコンポーネントを表示するための方法を行うように構成されている。前述の実施方法と同様の効果を達成することができる。
集積化されたユニットが使用されるときに、電子デバイスは、処理モジュール、記憶モジュール、及び通信モジュールを含み得る。処理モジュールは、電子デバイスのアクションを制御及び管理するように構成することができ、例えば、送信元デバイス及び宛先デバイスによって行われるステップを実行するために電子デバイスをサポートするように構成することができる。記憶モジュールは、プログラムコード、データなどを記憶するために電子デバイスをサポートするように構成することができる。通信モジュールは、電子デバイスと別のデバイスとの間の通信をサポートするように構成することができる。
処理モジュールは、プロセッサ又はコントローラであり得る。プロセッサは、この出願に開示されたコンテンツに関連して説明された様々な例示的な論理ブロック、モジュール、及び回路を実施又は実行することができる。代替的には、プロセッサは、コンピューティング機能を実施するプロセッサの組み合わせ、例えば、1つ以上のマイクロプロセッサの組み合わせ、又はデジタル信号処理(digital signal processing、DSP)及びマイクロプロセッサの組み合わせであってもよい。記憶モジュールはメモリであり得る。通信モジュールは、具体的には、他の電子デバイスと相互作用するデバイス、例えば、無線周波数回路、Bluetoothチップ、又はWi-Fiチップであり得る。
一実施形態では、処理モジュールがプロセッサであり、記憶モジュールがメモリであるときに、この実施形態の電子デバイスは、図1に示す構造を有するデバイスであり得る。
一実施形態は、さらに、コンピュータ記憶媒体を提供する。コンピュータ記憶媒体は、コンピュータ命令を記憶する。コンピュータ命令が電子デバイス上で動作されるときに、電子デバイスは、関連する方法ステップを行い、前述の実施形態におけるUIコンポーネントを表示するための方法を実施することが可能となる。
一実施形態は、さらに、コンピュータプログラム製品を提供する。コンピュータプログラム製品がコンピュータ上で動作するときに、コンピュータは、関連するステップを実行して、前述の実施形態におけるUIコンポーネントを表示するための方法を実装することが可能となる。
追加的に、この出願の一実施形態は、さらに、装置を提供する。装置は、具体的には、チップ、コンポーネント、又はモジュールであり得る。装置は、接続されたプロセッサ及びメモリを含んでもよい。メモリは、コンピュータ実行可能命令を記憶するように構成されており、装置が動作するときに、プロセッサは、メモリに記憶されたコンピュータ実行可能命令を実行して、チップが前述の方法の実施形態におけるUIコンポーネントを表示するための方法を行うようにしてもよい。
実施形態において提供される電子デバイス、コンピュータ記憶媒体、コンピュータプログラム製品、又はチップは、上記で提供される対応する方法を行うように構成されている。したがって、達成可能な有益な効果については、上記の対応する方法における有益な効果を参照のこと。詳細は、ここでは再度説明しない。
実施態様に関する前述の説明は、便利で簡単な説明を目的として、前述の機能モジュールへの分割が例示のための一例として取られていることを、当業者が理解することを可能にする。実際のアプリケーションでは、前述の機能を異なる機能モジュールに割り当て、要件に従って実施することができる。すなわち、装置の内部構造を異なる機能モジュールに分割して、上述の機能の全部又は一部を実施する。
この出願に提供されるいくつかの実施形態では、開示された装置及び方法は、他の方法で実施することができると理解されたい。例えば、記載された装置の実施形態は、単なる一例に過ぎない。例えば、モジュール又はユニットへの分割は、単に論理的な機能分割であり、実際の実施態様における他の分割であってもよい。例えば、複数のユニット又はコンポーネントは、他の装置に組み合わせるか、又は一体化してもよいし、いくつかの特徴は、無視するか、又は行わなくてもよい。追加的に、表示又は議論された相互結合、直接結合、又は通信接続は、いくつかのインターフェースを使用することによって実施してもよい。装置又はユニット間の間接結合又は通信接続は、電子的、機械的、又は他の形態で実施することができる。
別個の部分として記載されるユニットは、物理的に分離されていてもいなくてもよく、ユニットとして表示される部分は、1又はそれ以上の物理ユニットであってもよく、1つの場所に位置してもよいし、異なる場所に分散されていてもよい。ユニットの一部又はすべては、実際の要件に基づいて選択されて、実施形態の解決策の目的を達成し得る。
追加的に、この出願の実施形態における機能ユニットは、1つの処理ユニットに統合されてもよく、ユニットの各々は、物理的に単独で存在してもよいし、又は2つ以上のユニットは、1つのユニットに統合される。統合ユニットは、ハードウェアの形態で実施されてもよいし、ソフトウェア機能ユニットの形態で実施されてもよい。
統合ユニットがソフトウェア機能ユニットの形態で実装され、独立した製品として販売又は使用されるときに、統合ユニットは可読記憶媒体に記憶され得る。このような理解に基づいて、この出願の実施形態の技術的解決策は、本質的に、従来技術に寄与する部分、又は技術的解決策の全部若しくは一部を、ソフトウェア製品の形態で実施することができる。ソフトウェア製品は、記憶媒体に記憶され、デバイス(シングルチップマイクロコンピュータ、チップなどであってもよい)又はプロセッサ(processor)に、この出願の実施形態に記載される方法のステップのすべて又は一部を行うように指示するためのいくつかの命令を含む。前述の記憶媒体は、USBフラッシュドライブ、リムーバブルハードディスク、読み出し専用メモリ(read only memory、ROM)、ランダムアクセスメモリ(random access memory、RAM)、磁気ディスク、又は光ディスクなどのプログラムコードを記憶することができる任意の媒体を含む。
前述の説明は、この出願の単なる具体的な実施態様であるが、この出願の保護範囲を制限することを意図するものではない。この出願に開示された技術的範囲内で、当業者が容易に理解することができる変更又は代替は、この出願の保護範囲に含まれる。したがって、この出願の保護範囲は、特許請求の範囲の保護範囲に従うものとする。
第4の態様及び前述の実施態様に関し、第1の態様のいくつかの実施態様では、1つ以上のプログラムが1つ以上のプロセッサによって実行されるときに、電子デバイスは、ユーザの第2の操作を検出することであって、第2の操作は、電子デバイス上に表示された第1のUIコンポーネントにおける第1の機能コントロールをトリガするために使用される、ことと、第2の操作に基づいて第1の機能コントロールの識別子を判定することと、第2の操作の操作情報を送信元デバイスに送信することであって、第2の操作の操作情報は、第1の機能コントロールの識別子を含む、ことと、を行うことが可能となる。