説明される様々な実施形態をより良く理解するため、以下の図面と併せて、以下の「発明を実施するための形態」が参照されるべきであり、類似の参照番号は、以下の図の全てを通じて、対応する部分を指す。
いくつかの実施形態に係るタッチ感知ディスプレイを有するポータブル多機能デバイスを示すブロック図である。
いくつかの実施形態に係るイベント処理のための例示的な構成要素を示すブロック図である。
いくつかの実施形態に係るタッチスクリーンを有するポータブル多機能デバイスを示す。
いくつかの実施形態に係る、ディスプレイ及びタッチ感知面を有する例示的な多機能デバイスのブロック図である。
いくつかの実施形態に係るポータブル多機能デバイス上のアプリケーションのメニューの例示的なユーザインタフェースを示す。
いくつかの実施形態に係るディスプレイとは別個のタッチ感知面を有する多機能デバイスの例示的なユーザインタフェースを示す。
いくつかの実施形態に係るパーソナル電子デバイスを示す。
いくつかの実施形態に係るパーソナル電子デバイスを示すブロック図である。
いくつかの実施形態に係るタッチ感知ディスプレイ及び強度センサを有するパーソナル電子デバイスの例示的な構成要素を示す。
いくつかの実施形態に係るタッチ感知ディスプレイ及び強度センサを有するパーソナル電子デバイスの例示的な構成要素を示す。
いくつかの実施形態に係るパーソナル電子デバイスの例示的な構成要素及びユーザインタフェースを示す。
いくつかの実施形態に係るパーソナル電子デバイスの例示的な構成要素及びユーザインタフェースを示す。
いくつかの実施形態に係るパーソナル電子デバイスの例示的な構成要素及びユーザインタフェースを示す。
いくつかの実施形態に係るパーソナル電子デバイスの例示的な構成要素及びユーザインタフェースを示す。
いくつかの実施形態に係る電子デバイスを示す。
いくつかの実施形態に係る電子デバイスを示すブロック図である。
いくつかの実施形態に係る、物理的構造及び例示的なデバイスの1組を示す図である。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを送信するための方法を示すフロー図である。
いくつかの実施形態に係る、音声メッセージを送信するための方法を示すフロー図である。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、通知を表示するための方法を示すフロー図である。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、視覚的な指示を表示するための方法を示すフロー図である。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、外部デバイスを管理するための方法を示すフロー図である。
いくつかの実施形態に係る、音声メッセージを再生するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを再生するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを再生するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを再生するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを再生するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを再生するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、音声メッセージを再生するための方法を示すフロー図である。 実施形態の説明
以下の説明は、例示的な方法、パラメータなどについて記載する。しかしながら、そのような説明は、本開示の範囲に対する限定として意図されるものではなく、代わりに例示的な実施形態の説明として提供されることを認識されたい。
音声メッセージを管理するための効率的な方法及びインタフェースを提供する電子デバイスが必要とされている。音声メッセージを管理するための技術は、デバイスの効率を増大させ(例えば、不必要な表示を低減する)、外部デバイスの周囲に提供される情報を増大させ(例えば、音声メッセージのソースを表示すること)、(オーディオ入力を受信したデバイスの状態のユーザに視覚的フィードバックを提供することによって)プライバシーを増大させる。このような技術は、音声メッセージを使用するユーザの認識的負担を軽減し、それにより、生産性を高めることができる。更に、このような技法は、普通なら冗長なユーザ入力に浪費されるプロセッサ及びバッテリの電力を低減させることができる。
以下の図1A〜1B、図2、図3、図4A〜4B、及び図5A〜5Jでは、音声メッセージを送信及び受信するための技術を実行するための例示的なデバイスについて説明する。図6は、いくつかの実施形態に係る、音声メッセージを送信及び受信するための技術を実行するための物理的構造及び例示的なデバイスの1組を示す図である。
図7A〜7AHは、いくつかの実施形態に係る、音声メッセージを送信するための例示的なユーザインタフェースを示す。図8A〜8Bは、いくつかの実施形態に係る、音声メッセージを送信するための方法を示すフロー図である。図7A〜7AHのユーザインタフェースは、図8A〜8Bのプロセスを含む、後述のプロセスを示すために使用される。
図9A〜9Xは、いくつかの実施形態に係る、通知を表示するための例示的なユーザインタフェースを示す。図10は、いくつかの実施形態に係る、通知を表示するための方法を示すフロー図である。図9A〜9Xのユーザインタフェースは、図10のプロセスを含む、後述するプロセスを示すために使用される。
図11A〜11Rは、視覚的な指示を表示するための例示的なユーザインタフェースを示す。図12は、視覚的な指示を表示するための方法を示すフロー図である。図11A〜11Rのユーザインタフェースは、図12のプロセスを含む、後述のプロセスを示すために使用される。
図13A〜13Nは、デバイスの状態を管理するための例示的なユーザインタフェースを示す。図14は、デバイスの状態を管理するための方法を示すフロー図である。図13A〜13Nのユーザインタフェースは、図14のプロセスを含む、後述のプロセスを示すために使用される。
図15A〜15Fは、いくつかの実施形態に係る、音声メッセージを再生するための例示的なユーザインタフェースを示す。図16は、いくつかの実施形態に係る、音声メッセージを再生するための方法を示すフロー図である。図15A〜15Fのユーザインタフェースは、図16のプロセスを含む、後述のプロセスを示すために使用される。
以下の説明では、様々な要素について説明するために、「第1の」、「第2の」などの用語を使用するが、これらの要素は、それらの用語によって限定されるべきではない。これらの用語は、ある要素を別の要素と区別するためにのみ使用される。例えば、記載する様々な実施形態の範囲から逸脱することなく、第1のタッチを第2のタッチと呼ぶこともでき、同様に第2のタッチを第1のタッチと呼ぶこともできる。第1のタッチ及び第2のタッチはどちらもタッチであるが、これらは同じタッチではない。
本明細書に記載する様々な実施形態の説明で使用される術語は、特定の実施形態を説明することのみを目的とし、限定的であることは意図されていない。記載する様々な実施形態の説明及び添付の特許請求の範囲では、単数形の「a(1つ、一)」、「an(1つ、一)」、及び「the(その、この)」は、文脈上別途明白に記載しない限り、複数形も同様に含むことが意図される。また、本明細書で使用されるとき、用語「及び/又は」は、関連する列挙された項目のうちの1つ以上のいずれか及び全ての考えられる組み合わせを指し、かつこれを含むことを理解されたい。用語「includes(含む)」、「including(含む)」、「comprises(含む、備える)」、及び/又は「comprising(含む、備える)」は、本明細書で使用する場合、述べられた特徴、整数、ステップ、動作、要素、及び/又は構成要素の存在を指定するが、1つ以上の他の特徴、整数、ステップ、動作、要素、構成要素、及び/又はそれらのグループの存在又は追加を除外しないことが更に理解されるであろう。
「〜の場合(if)」という用語は、任意選択的に、文脈に応じて、「〜とき(when)」若しくは「〜とき(upon)」、又は「〜と判定したことに応じて(in response to determining)」若しくは「〜を検出したことに応じて(in response to detecting)」を意味すると解釈される。同様に、「〜と判定された場合(if it is determined)」又は「[記載の状態又はイベント]が検出された場合(if [a stated condition or event] is detected)」という語句は、任意選択的に、文脈に応じて、「〜と判定したとき(upon determining)」若しくは「〜と判定したことに応じて(in response to determining)」、又は「[記載の状態又はイベント]を検出したとき(upon detecting [the stated condition or event])」若しくは「[記載の状態又はイベント]を検出したことに応じて(in response to detecting [the stated condition or event])」を意味すると解釈される。
電子デバイス、そのようなデバイス用のユーザインタフェース、及びそのようなデバイスを使用する関連するプロセスの実施形態が説明される。いくつかの実施形態では、デバイスは、PDA機能及び/又は音楽プレーヤ機能などの他の機能も含む、携帯電話などのポータブル通信デバイスである。ポータブル多機能デバイスの例示的な実施形態としては、カリフォルニア州クパチーノのApple Inc.からのiPhone(登録商標)、iPod Touch(登録商標)、及びiPad(登録商標)のデバイスが挙げられるが、これらに限定されない。任意選択的に、タッチ感知面(例えば、タッチスクリーンディスプレイ及び/又はタッチパッド)を有するラップトップ又はタブレットコンピュータなどの他のポータブル電子デバイスも使用される。また、いくつかの実施形態では、デバイスはポータブル通信デバイスではなく、タッチ感知面(例えば、タッチスクリーンディスプレイ及び/又はタッチパッド)を有するデスクトップコンピュータであることも理解されたい。
以下の論考では、ディスプレイ及びタッチ感知面を含む電子デバイスについて説明する。しかしながら、電子デバイスは、任意選択的に、物理キーボード、マウス、及び/又はジョイスティックなどの1つ以上の他の物理ユーザインタフェースデバイスを含むことを理解されたい。
デバイスは、典型的には、描画アプリケーション、プレゼンテーションアプリケーション、ワードプロセッシングアプリケーション、ウェブサイト作成アプリケーション、ディスクオーサリングアプリケーション、スプレッドシートアプリケーション、ゲームアプリケーション、電話アプリケーション、テレビ会議アプリケーション、電子メールアプリケーション、インスタントメッセージングアプリケーション、トレーニングサポートアプリケーション、写真管理アプリケーション、デジタルカメラアプリケーション、デジタルビデオカメラアプリケーション、ウェブブラウジングアプリケーション、デジタル音楽プレーヤアプリケーション、及び/又はデジタルビデオプレーヤアプリケーションのうちの1つ以上などの様々なアプリケーションに対応する。
本デバイス上で実行される様々なアプリケーションは、タッチ感知面などの、少なくとも1つの共通の物理ユーザインタフェースデバイスを、任意選択的に使用する。タッチ感知面の1つ以上の機能、並びにデバイス上に表示される対応する情報は、アプリケーションごとに、及び/又はそれぞれのアプリケーション内で、任意選択的に、調整及び/又は変更される。このように、デバイスの共通の物理アーキテクチャ(タッチ感知面など)は、任意選択的に、ユーザにとって直観的かつ透明なユーザインタフェースを備える様々なアプリケーションをサポートする。
ここで、タッチ感知ディスプレイを備えるポータブルデバイスの実施形態に注意を向ける。図1Aは、いくつかの実施形態に係るタッチ感知ディスプレイシステム112を有するポータブル多機能デバイス100を示すブロック図である。タッチ感知ディスプレイ112は、便宜上「タッチスクリーン」と呼ばれることがあり、「タッチ感知ディスプレイシステム」として知られている又は呼ばれることがある。デバイス100は、メモリ102(任意選択的に、1つ以上のコンピュータ可読記憶媒体を含む)、メモリコントローラ122、1つ以上の処理ユニット(CPU)120、周辺機器インタフェース118、RF回路108、オーディオ回路110、スピーカ111、マイクロフォン113、入出力(I/O)サブシステム106、他の入力コントロールデバイス116、及び外部ポート124を含む。デバイス100は、任意選択的に、1つ以上の光センサ164を含む。デバイス100は、任意選択的に、デバイス100上の接触の強度を検出する1つ以上の接触強度センサ165(例えば、デバイス100のタッチ感知ディスプレイシステム112などのタッチ感知面)を含む。デバイス100は、任意選択的に、デバイス100上で触知出力を生成する(例えばデバイス100のタッチ感知ディスプレイシステム112又はデバイス300のタッチパッド355などのタッチ感知面上で触知出力を生成する)1つ以上の触知出力生成器167を含む。これらの構成要素は、任意選択的に、1つ以上の通信バス又は信号ライン103を介して通信する。
本明細書及び特許請求の範囲では、タッチ感知面上の接触の「強度」という用語は、タッチ感知面上の接触(例えば、指の接触)の力若しくは圧力(単位面積当たりの力)、又はタッチ感知面上の接触の力若しくは圧力に対する代理(プロキシ)を指す。接触の強度は、少なくとも4つの別個の値を含み、より典型的には、数百の(例えば、少なくとも256の)別個の値を含む、値の範囲を有する。接触の強度は、任意選択的に、様々な手法、及び様々なセンサ又はセンサの組み合わせを使用して、判定(又は測定)される。例えば、タッチ感知面の下又はそれに隣接する1つ以上の力センサは、任意選択的に、タッチ感知面上の様々なポイントにおける力を測定するために使用される。いくつかの実装例では、複数の力センサからの力測定値は、接触の推定される力を判定するために組み合わされる(例えば、加重平均)。同様に、スタイラスの感圧性先端部は、任意選択的に、タッチ感知面上のスタイラスの圧力を判定するために使用される。あるいは、タッチ感知面上で検出される接触エリアのサイズ及び/若しくはその変化、接触に近接するタッチ感知面の電気容量及び/若しくはその変化、並びに/又は、接触に近接するタッチ感知面の抵抗及び/若しくはその変化は、任意選択的に、タッチ感知面上の接触の力又は圧力の代替物として使用される。いくつかの実装例では、接触の力又は圧力のための代替測定値は、強度閾値を超えているかどうかを判定するために直接使用される(例えば、強度閾値は、代替測定値に対応する単位で記述される)。いくつかの実装例では、接触力又は圧力に対する代理測定は、推定される力又は圧力に変換され、推定される力又は圧力は、強度閾値を超過したかどうかを判定するために使用される(例えば、強度閾値は、圧力の単位で測定される圧力閾値である)。接触の強度をユーザ入力の属性として使用することにより、アフォーダンスを(例えば、タッチ感知ディスプレイ上に)表示するための、及び/又は、ユーザ入力を(例えば、タッチ感知ディスプレイ、タッチ感知面、又は、ノブ若しくはボタンなどの物理的/機械的制御部を介して)受信するための面積が制限されている、低減されたサイズのデバイス上で、通常であればユーザによってアクセスすることが不可能であり得る追加のデバイス機能への、ユーザのアクセスが可能となる。
本明細書及び特許請求の範囲において使用される場合、用語「触知出力」は、ユーザの触覚でユーザによって検出されることになる、デバイスの従前の位置に対するそのデバイスの物理的変位、デバイスの構成要素(例えば、タッチ感知面)の、そのデバイスの別の構成要素(例えば、筐体)に対する物理的変位、又は、デバイスの質量中心に対する構成要素の変位を指す。例えば、デバイス又はデバイスの構成要素が、タッチに敏感なユーザの表面(例えば、ユーザの手の指、手のひら、又は他の部分)に接触している状況では、物理的変位によって生成された触知出力は、そのデバイス又はデバイスの構成要素の物理的特性の認識される変化に相当する触感として、ユーザによって解釈されることになる。例えば、タッチ感知面(例えば、タッチ感知ディスプレイ又はトラックパッド)の移動は、ユーザによって、物理アクチュエータボタンの「ダウンクリック」又は「アップクリック」として、任意選択的に解釈される。場合によっては、ユーザの動作により物理的に押された(例えば、変位された)タッチ感知面に関連付けられた物理アクチュエータボタンの移動がないときでさえ、ユーザは「ダウンクリック」又は「アップクリック」などの触感を感じる。別の例として、タッチ感知面の移動は、タッチ感知面の平滑度に変化がない場合であっても、ユーザによって、そのタッチ感知面の「粗さ」として、任意選択的に解釈又は感知される。そのようなユーザによるタッチの解釈は、ユーザの個人的な感覚認知に左右されるが、大多数のユーザに共通する、多くのタッチの感覚認知が存在する。したがって、触知出力が、ユーザの特定の感覚認知(例えば、「アップクリック」「ダウンクリック」、「粗さ」)に対応するものと記述される場合、別途記載のない限り、生成された触知出力は、典型的な(又は、平均的な)ユーザの記述された感覚認知を生成するデバイス、又はデバイスの構成要素の物理的変位に対応する。
デバイス100は、ポータブル多機能デバイスの一例に過ぎず、デバイス100は、任意選択的に、示されているものよりも多くの構成要素又は少ない構成要素を有するものであり、任意選択的に、2つ以上の構成要素を組み合わせるものであり、又は、任意選択的に、それらの構成要素の異なる構成若しくは配置を有するものであることを理解されたい。図1Aに示す様々な構成要素は、1つ以上の信号処理回路及び/又は特定用途向け集積回路を含む、ハードウェア、ソフトウェア、又はハードウェアとソフトウェアの両方の組み合わせで実施される。
メモリ102は、任意選択的に、高速ランダムアクセスメモリを含み、また任意選択的に、1つ以上の磁気ディスク記憶デバイス、フラッシュメモリデバイス、又は他の不揮発性ソリッドステートメモリデバイスなどの不揮発性メモリを含む。メモリコントローラ122は、任意選択的に、デバイス100の他の構成要素によるメモリ102へのアクセスを制御する。
周辺機器インタフェース118は、デバイスの入力及び出力周辺機器をCPU120及びメモリ102に結合するために使用することができる。1つ以上のプロセッサ120は、メモリ102に記憶された様々なソフトウェアプログラム及び/又は命令セットを動作させる又は実行して、デバイス100のための様々な機能を実行し、データを処理する。いくつかの実施形態では、周辺機器インタフェース118、CPU120、及びメモリコントローラ122は、任意選択的に、チップ104などの単一のチップ上で実施される。いくつかの他の実施形態では、それらは別々のチップ上に任意選択的に実装される。
RF(radio frequency)(無線周波数)回路108は、電磁信号とも呼ばれるRF信号を送受信する。RF回路108は、電気信号を電磁信号に、又は電磁信号を電気信号に変換し、電磁信号を介して通信ネットワーク及び他の通信デバイスと通信する。RF回路108は、任意選択的に、これらの機能を実行するための周知の回路を含み、それらの回路としては、限定するものではないが、アンテナシステム、RF送受信機、1つ以上の増幅器、同調器、1つ以上の発振器、デジタル信号プロセッサ、CODECチップセット、加入者識別モジュール(subscriber identity module、SIM)カード、メモリなどが挙げられる。RF回路108は、任意選択的に、ワールドワイドウェブ(World Wide Web、WWW)とも呼ばれるインターネット、イントラネット、並びに/又はセルラー電話ネットワーク、無線ローカルエリアネットワーク(local area network、LAN)及び/若しくはメトロポリタンエリアネットワーク(metropolitan area network、MAN)などの無線ネットワークなどのネットワークと、また他のデバイスと、無線通信によって通信する。RF回路108は、任意選択的に、短距離通信無線機などによって近距離通信(near field Communication、NFC)フィールドを検出するよく知られている回路を含む。無線通信は、任意選択的に、それだけに限定されるものではないが、動き通信用のグローバルシステム(Global System for Mobile Communications、GSM)、拡張データGSM環境(Enhanced Data GSM Environment、EDGE)、高速ダウンリンクパケットアクセス(high-speed downlink packet access、HSDPA)、高速アップリンクパケットアクセス(high-speed uplink packet access、HSUPA)、エボリューションデータオンリ(Evolution,Data-Only、EV−DO)、HSPA、HSPA+、デュアルセルHSPA(Dual-Cell HSPA、DC−HSPDA)、ロングタームエボリューション(long term evolution、LTE)、近距離通信(NFC)、広帯域符号分割多元接続(wideband code division multiple access、W−CDMA)、符号分割多元接続(code division multiple access、CDMA)、時分割多元接続(time division multiple access、TDMA)、Bluetooth(登録商標)、Bluetoothローエネルギ(Bluetooth Low Energy、BTLE(登録商標))、ワイヤレスフィデリティ(Wireless Fidelity、Wi−Fi(登録商標))(例えば、IEEE 802.11a、IEEE 802.11b、IEEE 802.11g、IEEE 802.11n、及び/若しくはIEEE 802.11ac)、ボイスオーバインターネットプロトコル(voice over Internet Protocol、VoIP)、Wi−MAX(登録商標)、電子メール用プロトコル(例えば、インターネットメッセージアクセスプロトコル(Internet message access protocol、IMAP)及び/若しくはポストオフィスプロトコル(post office protocol、POP))、インスタントメッセージング(例えば、拡張可能なメッセージング及びプレゼンスプロトコル(extensible messaging and presence protocol、XMPP)、インスタントメッセージング及びプレゼンスレベレイジングエクステンションのためのセッション開始プロトコル(Session Initiation Protocol for Instant Messaging and Presence Leveraging Extensions、SIMPLE)、インスタントメッセージング及びプレゼンスサービス(Instant Messaging and Presence Service、IMPS))、並びに/若しくはショートメッセージサービス(Short Message Service、SMS)、又は本明細書の出願日の時点でまだ開発されていない通信プロトコルを含む任意の他の適した通信プロトコルを含む、複数の通信規格、プロトコル、及び技術のうちのいずれかを使用する。
オーディオ回路110、スピーカ111、及びマイクロフォン113は、ユーザとデバイス100との間のオーディオインタフェースを提供する。オーディオ回路110は、周辺機器インタフェース118からオーディオデータを受信し、このオーディオデータを電気信号に変換し、この電気信号をスピーカ111に送信する。スピーカ111は、電気信号を人間の可聴音波に変換する。また、オーディオ回路110は、マイクロフォン113によって音波から変換された電気信号を受信する。オーディオ回路110は、電気信号をオーディオデータに変換し、このオーディオデータを処理のために周辺機器インタフェース118に送信する。オーディオデータは、任意選択的に、周辺機器インタフェース118によって、メモリ102及び/若しくはRF回路108から取得され、かつ/又はメモリ102及び/若しくはRF回路108に伝送される。いくつかの実施形態では、オーディオ回路110はまた、ヘッドセットジャック(例えば、図2の212)を含む。ヘッドセットジャックは、オーディオ回路110と、出力専用ヘッドホン又は出力(例えば片耳又は両耳用のヘッドホン)及び入力(例えばマイクロフォン)の両方を備えるヘッドセットなどの着脱可能なオーディオ入出力周辺機器との間のインタフェースを提供する。
I/Oサブシステム106は、タッチスクリーン112及び他の入力コントロールデバイス116などのデバイス100上の入出力周辺機器を、周辺機器インタフェース118に結合する。I/Oサブシステム106は、任意選択的に、ディスプレイコントローラ156、光センサコントローラ158、深度カメラコントローラ169、強度センサコントローラ159、触覚フィードバックコントローラ161、及び、他の入力デバイス若しくは制御デバイス用の1つ以上の入力コントローラ160を含む。1つ以上の入力コントローラ160は、他の入力コントロールデバイス116からの電気信号の受信/他の入力コントロールデバイス116への電気信号の送信を行う。他の入力コントロールデバイス116は、任意選択的に、物理ボタン(例えば、プッシュボタン、ロッカボタンなど)、ダイヤル、スライダスイッチ、ジョイスティック、クリックホイールなどを含む。いくつかの代替的な実施形態では、入力コントローラ(単数又は複数)160は、任意選択的に、キーボード、赤外線ポート、USBポート、及びマウスなどのポインタデバイスのうちのいずれかに結合される(又はいずれにも結合されない)。1つ以上のボタン(例えば、図2の208)は、任意選択的に、スピーカ111及び/又はマイクロフォン113の音量コントロールのための上下ボタンを含む。1つ以上のボタンは、任意選択的に、プッシュボタン(例えば、図2の206)を含む。
全体として参照により本明細書に組み込まれている、2005年12月23日出願の米国特許出願第11/322,549号、「Unlocking a Device by Performing Gestures on an Unlock Image」、米国特許第7,657,849号に記載されているように、プッシュボタンの素早い押下は、任意選択的に、タッチスクリーン112のロックを係合解除し、又は任意選択的に、タッチスクリーン上のジェスチャを使用してデバイスをアンロックするプロセスを開始する。プッシュボタン(例えば、206)のより長い押下は、任意選択的に、デバイス100への電力をオン又はオフにする。ボタンのうちの1つ以上の機能性は、任意選択的に、ユーザによってカスタマイズ可能である。タッチスクリーン112は、仮想又はソフトボタン及び1つ以上のソフトキーボードを実装するために使用される。
タッチ感知ディスプレイ112は、デバイスとユーザとの間の入力インタフェース及び出力インタフェースを提供する。ディスプレイコントローラ156は、タッチスクリーン112からの電気信号の受信、及び/又はタッチスクリーン112への電気信号の送信を行う。タッチスクリーン112は、ユーザに対して視覚出力を表示する。この視覚出力は、グラフィック、テキスト、アイコン、ビデオ、及びそれらの任意の組み合わせ(総称して「グラフィック」)を任意選択的に含む。いくつかの実施形態では、視覚出力の一部又は全ては、任意選択的に、ユーザインタフェースオブジェクトに対応する。
タッチスクリーン112は、触覚及び/又は触知接触に基づくユーザからの入力を受け入れるタッチ感知面、センサ、又はセンサのセットを有する。タッチスクリーン112及びディスプレイコントローラ156は(メモリ102内の任意の関連モジュール及び/又は命令セットと共に)、タッチスクリーン112上で接触(及び任意の接触の移動又は中断)を検出し、検出された接触をタッチスクリーン112上に表示されたユーザインタフェースオブジェクト(例えば、1つ以上のソフトキー、アイコン、ウェブページ又は画像)との対話に変換する。例示的な実施形態では、タッチスクリーン112とユーザとの間の接触点は、ユーザの指に対応する。
タッチスクリーン112は、任意選択的に、LCD(液晶ディスプレイ)技術、LPD(発光ポリマーディスプレイ)技術、又はLED(発光ダイオード)技術を使用するが、他の実施形態では、他のディスプレイ技術も使用される。タッチスクリーン112及びディスプレイコントローラ156は、任意選択的に、それだけに限定されるものではないが、容量性、抵抗性、赤外線、及び表面音波の技術、並びにタッチスクリーン112との1つ以上の接触点を判定する他の近接センサアレイ又は他の要素を含む、現在知られている又は今後開発される複数のタッチ感知技術のうちのいずれかを使用して、接触及びそのあらゆる動き又は中断を検出する。例示的な実施形態では、カリフォルニア州クパチーノのApple Inc.からのiPhone(登録商標)及びiPod Touch(登録商標)に見られるものなどの、投影型相互静電容量感知技術が使用される。
タッチスクリーン112のいくつかの実施形態におけるタッチ感知ディスプレイは、任意選択的に、それぞれ全体として参照により本明細書に組み込まれている、米国特許第6,323,846号(Westermanら)、第6,570,557号(Westermanら)、及び/若しくは第6,677,932号(Westerman)、並びに/又は米国特許公報第2002/0015024A1号という米国特許に記載されているマルチタッチ感知タッチパッドに類似している。しかしながら、タッチスクリーン112はデバイス100からの視覚出力を表示するのに対して、タッチ感知タッチパッドは視覚出力を提供しない。
タッチスクリーン112のいくつかの実施形態におけるタッチ感知ディスプレイは、(1)2006年5月2日出願の米国特許出願第11/381,313号、「Multipoint Touch Surface Controller」、(2)2004年5月6日出願の米国特許出願第10/840,862号、「Multipoint Touchscreen」、(3)2004年7月30日出願の米国特許出願第10/903,964号、「Gestures For Touch Sensitive Input Devices」、(4)2005年1月31日出願の米国特許出願第11/048,264号、「Gestures For Touch Sensitive Input Devices」、(5)2005年1月18日出願の米国特許出願第11/038,590号、「Mode−Based Graphical User Interfaces For Touch Sensitive Input Devices」、(6)2005年9月16日出願の米国特許出願第11/228,758号、「Virtual Input Device Placement On A Touch Screen User Interface」、(7)2005年9月16日出願の米国特許出願第11/228,700号、「Operation Of A Computer With A Touch Screen Interface」、(8)2005年9月16日出願の米国特許出願第11/228,737号、「Activating Virtual Keys Of A Touch−Screen Virtual Keyboard」、及び(9)2006年3月3日出願の米国特許出願第11/367,749号、「Multi−Functional Hand−Held Device」という出願に記載されている。これらの出願は全て、全体として参照により本明細書に組み込まれている。
タッチスクリーン112は、任意選択的に、100dpiを超えるビデオ解像度を有する。いくつかの実施形態では、タッチスクリーンは、約160dpiのビデオ解像度を有する。ユーザは、任意選択的に、スタイラス、指などの任意の適した物体又は付属物を使用して、タッチスクリーン112に接触する。いくつかの実施形態では、ユーザインタフェースは、指による接触及びジェスチャを主に扱うように設計されるが、これは、タッチスクリーン上の指の接触面積がより大きいため、スタイラスベースの入力ほど精密でない可能性がある。いくつかの実施形態では、デバイスは、指による粗い入力を、ユーザによって所望されているアクションを実行するための、正確なポインタ/カーソルの位置又はコマンドに変換する。
いくつかの実施形態では、タッチスクリーンに加えて、デバイス100は、任意選択的に、特定の機能をアクティブ化又は非アクティブ化するためのタッチパッドを含む。いくつかの実施形態では、タッチパッドは、タッチスクリーンとは異なり、視覚出力を表示しない、デバイスのタッチ感知エリアである。タッチパッドは、任意選択的に、タッチスクリーン112又はタッチスクリーンによって形成されるタッチ感知面の拡張部とは別個のタッチ感知面である。
デバイス100は、様々な構成要素に電力を供給する電力システム162も含む。電力システム162は、任意選択的に、電力管理システム、1つ以上の電源(例えば、バッテリ、交流(AC))、再充電システム、停電検出回路、電力コンバータ又はインバータ、電力状態インジケータ(例えば、発光ダイオード(LED))、並びにポータブルデバイス内での電力の生成、管理、及び分配に関連付けられた任意の他の構成要素を含む。
また、デバイス100は、任意選択的に、1つ以上の光センサ164を含む。図1Aは、I/Oサブシステム106内の光センサコントローラ158に結合された光センサを示す。光センサ164は、任意選択的に、電荷結合デバイス(charge-coupled device、CCD)又は相補的金属酸化物半導体(complementary metal-oxide semiconductor、CMOS)フォトトランジスタを含む。光センサ164は、1つ以上のレンズを通って投影された環境からの光を受信し、その光を、画像を表すデータに変換する。光センサ164は、撮像モジュール143(カメラモジュールとも呼ばれる)と連携して、任意選択的に、静止画像又はビデオをキャプチャする。いくつかの実施形態では、光センサは、デバイスの前面にあるタッチスクリーンディスプレイ112とは反対に、デバイス100の裏面に位置し、したがってタッチスクリーンディスプレイは、静止画像及び/又はビデオ画像の取得のためのビューファインダとして使用することが有効である。いくつかの実施形態では、光センサは、デバイスの前面に配置し、したがってユーザの画像が、任意選択的に、テレビ会議のために入手され、ユーザは、他のテレビ会議参加者をタッチスクリーンディスプレイ上で見る。いくつかの実施形態では、光センサ164の位置は、ユーザによって(例えば、デバイス筐体内でレンズ及びセンサを回転させることによって)変更することができ、したがって単一の光センサ164が、タッチスクリーンディスプレイと共に、テレビ会議にも静止画像及び/又はビデオ画像の取得にも使用される。
デバイス100はまた、任意選択的に、1つ以上の深度カメラセンサ175を含む。図1Aは、I/Oサブシステム106内の深度カメラコントローラ169に結合された深度カメラセンサを示す。深度カメラセンサ175は、環境からデータを受信して、視点(例えば、深度カメラセンサ)からのシーン内の対象物(例えば、顔面)の3次元モデルを作成する。いくつかの実施形態では、撮像モジュール143(カメラモジュールとも呼ばれる)と連携して、深度カメラセンサ175は、任意選択的に、撮像モジュール143によってキャプチャされた画像の種々の部分の深度マップを決定するために使用される。いくつかの実施形態では、ユーザが他のテレビ会議参加者をタッチスクリーンディスプレイ上で見ている間に、深度情報を有するユーザの画像が、任意選択的に、テレビ会議のために取得されるように、及び、深度マップデータを有する自撮り画像をキャプチャするように、デバイス100の前面に深度カメラセンサが配置されている。いくつかの実施形態では、深度カメラセンサ175は、デバイスの背面に、あるいはデバイス100の背面及び前面に配置されている。いくつかの実施形態では、深度カメラセンサ175の位置は、ユーザによって(例えば、デバイスハウジング内でレンズ及びセンサを回転させることによって)変更することができ、したがって深度カメラセンサ175が、タッチスクリーンディスプレイと共に、テレビ会議にも静止画像及び/又はビデオ画像の取得にも使用される。
デバイス100はまた、任意選択的に、1つ以上の接触強度センサ165を含む。図1Aは、I/Oサブシステム106内の強度センサコントローラ159に結合された接触強度センサを示す。接触強度センサ165は、任意選択的に、1つ以上のピエゾ抵抗ひずみゲージ、容量性力センサ、電気力センサ、圧電力センサ、光学力センサ、容量性タッチ感知面、又は他の強度センサ(例えば、タッチ感知面上の接触の力(若しくは圧力)を測定するために使用されるセンサ)を含む。接触強度センサ165は、接触強度情報(例えば、圧力情報、又は圧力情報に対するプロキシ)を環境から受信する。いくつかの実施形態では、少なくとも1つの接触強度センサは、タッチ感知面(例えばタッチ感知ディスプレイシステム112)と並置される、又はそれに近接される。いくつかの実施形態では、少なくとも1つの接触強度センサが、デバイス100の前面に配置されたタッチスクリーンディスプレイ112の反対側である、デバイス100の背面に配置されている。
また、デバイス100は、任意選択的に、1つ以上の近接センサ166を含む。図1Aは、周辺機器インタフェース118に結合された近接センサ166を示す。代わりに、近接センサ166は、任意選択的に、I/Oサブシステム106内の入力コントローラ160に結合される。近接センサ166は、任意選択的に、全体として参照により本明細書に組み込まれている、米国特許出願第11/241,839号、「Proximity Detector In Handheld Device」、第11/240,788号、「Proximity Detector In Handheld Device」第11/620,702号、「Using Ambient Light Sensor To Augment Proximity Sensor Output」、第11/586,862号、「Automated Response To And Sensing Of User Activity In Portable Devices」、及び同第11/638,251号、「Methods And Systems For Automatic Configuration Of Peripherals」で説明されるように機能するものであり、これらの出願は、全体が参照により本明細書に組み込まれる。いくつかの実施形態では、多機能デバイスが、ユーザの耳の近くに配置される場合(例えば、ユーザが電話通話を行っている場合)、近接センサは、タッチスクリーン112をオフにして無効化する。
デバイス100はまた、任意選択的に、1つ以上の触知出力生成器167を含む。図1Aは、I/Oサブシステム106内の触覚フィードバックコントローラ161に結合された触知出力生成器を示す。触知出力生成器167は、任意選択的に、スピーカ若しくは他のオーディオ構成要素などの1つ以上の電気音響デバイス、及び/又はモータ、ソレノイド、電気活性ポリマー、圧電アクチュエータ、静電アクチュエータ、若しくは他の触知出力生成構成要素(例えば、デバイス上で電気信号を触知出力に変換する構成要素)などのエネルギを直線の動きに変換する電気機械デバイスを含む。接触強度センサ165は、触覚フィードバックモジュール133から触知フィードバック生成命令を受信し、デバイス100のユーザが感知することが可能な触知出力をデバイス100上に生成する。いくつかの実施形態では、少なくとも1つの触知出力生成器は、タッチ感知面(例えば、タッチ感知ディスプレイシステム112)と並置される、又はそれに近接しており、任意選択的に、タッチ感知面を垂直方向(例えば、デバイス100の表面の内/外)に、又は水平方向(例えば、デバイス100の表面と同じ平面内の前後)に移動させることによって、触知出力を生成する。いくつかの実施形態では、少なくとも1つの触知出力生成器センサが、デバイス100の前面に配置されたタッチスクリーンディスプレイ112の反対側である、デバイス100の背面に配置されている。
また、デバイス100は、任意選択的に、1つ以上の加速度計168を含む。図1Aは、周辺機器インタフェース118に結合された加速度計168を示す。代わりに、加速度計168は、任意選択的に、I/Oサブシステム106内の入力コントローラ160に結合される。加速度計168は、任意選択的に、どちらも全体として参照により本明細書に組み込まれている、米国特許公開第20050190059号、「Acceleration−based Theft Detection System for Portable Electronic Devices」、及び米国特許公開第20060017692号、「Methods And Apparatuses For Operating A Portable Device Based On An Accelerometer」に記載されているように機能する。いくつかの実施形態では、情報は、1つ以上の加速度計から受信したデータの分析に基づいて、ポートレートビュー又はランドスケープビューでタッチスクリーンディスプレイ上に表示される。デバイス100は、加速度計168に加えて、磁気計並びにデバイス100の場所及び向き(例えば、縦方向又は横方向)に関する情報を取得するためのGPS(又はGLONASS又は他のグローバルナビゲーションシステム)受信機を任意選択的に含む。
いくつかの実施形態では、メモリ102内に記憶されているソフトウェア構成要素は、オペレーティングシステム126、通信モジュール(又は命令セット)128、接触/動きモジュール(又は命令セット)130、グラフィックモジュール(又は命令セット)132、テキスト入力モジュール(又は命令セット)134、全地球測位システム(Global Positioning System、GPS)モジュール(又は命令セット)135、及びアプリケーション(又は命令セット)136を含む。更に、いくつかの実施形態では、メモリ102(図1A)又は370(図3)は、図1A及び図3に示すように、デバイス/グローバル内部状態157を記憶する。デバイス/グローバル内部状態157は、現在アクティブ状態のアプリケーションがある場合に、どのアプリケーションがアクティブであるかを示すアクティブアプリケーション状態、どのアプリケーション、ビュー、又は他の情報がタッチスクリーンディスプレイ112の様々な領域を占めているかを示す表示状態、デバイスの様々なセンサ及び入力コントロールデバイス116から取得した情報を含むセンサ状態、並びにデバイスの位置及び/又は姿勢に関する位置情報、のうちの1つ以上を含む。
オペレーティングシステム126(例えば、Darwin(登録商標)、RTXC(登録商標)、LINUX(登録商標)、UNIX(登録商標)、OS X(登録商標)、iOS(登録商標)、WINDOWS(登録商標)、又はVxWorks(登録商標)などの組み込み型オペレーティングシステム)は、一般的なシステムタスク(例えば、メモリ管理、記憶デバイスの制御、電力管理など)を制御及び管理する様々なソフトウェア構成要素及び/又はドライバを含み、様々なハードウェア構成要素とソフトウェア構成要素との間の通信を容易にする。
通信モジュール128は、1つ以上の外部ポート124を介して他のデバイスとの通信を容易にし、RF回路108及び/又は外部ポート124が受信したデータを処理するための様々なソフトウェア構成要素をも含む。外部ポート124(例えば、ユニバーサルシリアルバス(Universal Serial Bus、USB)、FIREWIRE(登録商標)など)は、直接的に、又はネットワーク(例えばインターネット、無線LANなど)を介して間接的に、他のデバイスに結合するように適合されている。いくつかの実施形態では、外部ポートは、iPod(登録商標)(Apple Inc.の商標)デバイス上で使用される30ピンコネクタと同じ若しくは類似であり、かつ/又はそれに適合しているマルチピン(例えば、30ピン)コネクタである。
接触/動きモジュール130は、任意選択的に、タッチスクリーン112(ディスプレイコントローラ156と連携して)及び他のタッチ感知デバイス(例えば、タッチパッド又は物理クリックホイール)との接触を検出する。接触/動きモジュール130は、接触が生じたか否かを判定すること(例えば、指を下ろすイベントを検出すること)、接触の強度(例えば、接触の力若しくは圧力、又は接触の力若しくは圧力の代替物)を判定すること、接触の移動が存在するか否かを判定し、タッチ感知面を横断する移動を追跡すること(例えば、指をドラッグする1つ以上のイベントを検出すること)、及び接触が停止したか否かを判定すること(例えば、指を上げるイベント又は接触の中断を検出すること)などの、接触の検出に関する様々な動作を実行するための、様々なソフトウェア構成要素を含む。接触/動きモジュール130は、タッチ感知面から接触データを受信する。一連の接触データによって表される、接触点の移動を判定することは、任意選択的に、接触点の速さ(大きさ)、速度(大きさ及び方向)、及び/又は加速度(大きさ及び/又は方向の変化)を判定することを含む。これらの動作は、任意選択的に、単一の接触(例えば、1本の指の接触)又は複数の同時接触(例えば、「マルチタッチ」/複数の指の接触)に適用される。いくつかの実施形態では、接触/動きモジュール130及びディスプレイコントローラ156は、タッチパッド上の接触を検出する。
いくつかの実施形態では、接触/動きモジュール130は、ユーザによって動作が実行されたか否かを判定するための(例えば、ユーザがアイコン上で「クリック」したか否かを判定するための)、1つ以上の強度閾値のセットを使用する。いくつかの実施形態では、強度閾値の少なくとも1つのサブセットが、ソフトウェアパラメータに従って判定される(例えば、強度閾値は、特定の物理アクチュエータのアクティブ化閾値によって判定されるのではなく、デバイス100の物理ハードウェアを変化させることなく調整することができる)。例えば、トラックパッド又はタッチスクリーンディスプレイのマウス「クリック」閾値は、トラックパッド又はタッチスクリーンディスプレイハードウェアを変化させることなく、広範囲の既定閾値のうちのいずれかに設定することができる。加えて、いくつかの実装例では、デバイスのユーザは、強度閾値のセットのうちの1つ以上を調整するソフトウェア設定が提供される(例えば、システムレベルのクリック「強度」パラメータによって、個々の強度閾値を調整すること、及び/又は複数の強度閾値を一度に調整することによる)。
接触/動きモジュール130は、任意選択的に、ユーザによるジェスチャ入力を検出する。タッチ感知面上の異なるジェスチャは、異なる接触パターンを有する(例えば検出される接触の動き、タイミング、及び/又は強度が異なる)。したがって、ジェスチャは、任意選択的に、特定の接触パターンを検出することによって検出される。例えば、指タップジェスチャを検出することは、指ダウンイベントを検出し、それに続いて指ダウンイベントと同じ位置(又は実質的に同じ位置)(例えば、アイコンの位置)で指アップ(リフトオフ)イベントを検出することを含む。別の例として、タッチ感知面上で指スワイプジェスチャを検出することは、指ダウンイベントを検出し、それに続いて1つ以上の指ドラッグイベントを検出し、その後それに続いて指アップ(リフトオフ)イベントを検出することを含む。
グラフィックモジュール132は、表示されるグラフィックの視覚的な影響(例えば、輝度、透明度、彩度、コントラスト、又は他の視覚的特性)を変化させる構成要素を含めて、タッチスクリーン112又は他のディスプレイ上にグラフィックをレンダリング及び表示する様々な既知のソフトウェア構成要素を含む。本明細書では、「グラフィック」という用語は、それだけに限定されるものではないが、文字、ウェブページ、アイコン(ソフトキーを含むユーザインタフェースオブジェクトなど)、デジタル画像、ビデオ、アニメーションなどを含む、ユーザに表示することができる任意のオブジェクトを含む。
いくつかの実施形態では、グラフィックモジュール132は、使用されることになるグラフィックを表すデータを記憶する。各グラフィックには、任意選択的に、対応するコードが割り当てられる。グラフィックモジュール132は、アプリケーションなどから、必要に応じて、座標データ及び他のグラフィック特性データと共に、表示されることとなるグラフィックを指定する1つ以上のコードを受信し、次にディスプレイコントローラ156に出力する画面の画像データを生成する。
触覚フィードバックモジュール133は、デバイス100とのユーザ対話に応じて、デバイス100上の1つ以上の場所で触知出力を生成するために、触知出力生成器(単数又は複数)167によって使用される命令を生成するための、様々なソフトウェア構成要素を含む。
テキスト入力モジュール134は、任意選択で、グラフィックモジュール132の構成要素であり、様々なアプリケーション(例えば、連絡先137、電子メール140、IM141、ブラウザ147、及びテキスト入力を必要とする任意の他のアプリケーション)でテキストを入力するためのソフトキーボードを提供する。
GPSモジュール135は、デバイスの位置を判定し、この情報を様々なアプリケーションで使用するために(例えば、位置に基づくダイヤル発呼で使用するために電話138へ、写真/ビデオのメタデータとしてカメラ143へ、並びに、気象ウィジェット、地域のイエローページウィジェット、及び地図/ナビゲーションウィジェットなどの、位置に基づくサービスを提供するアプリケーションへ)提供する。
アプリケーション136は、任意選択的に、以下のモジュール(又は命令セット)又はそれらのサブセット若しくはスーパーセットを含む。
●連絡先モジュール137(アドレス帳又は連絡先リストと呼ばれることもある)、
●電話モジュール138、
●テレビ会議モジュール139、
●電子メールクライアントモジュール140、
●インスタントメッセージング(Instant messaging、IM)モジュール141、
●トレーニングサポートモジュール142、
●静止画像及び/又はビデオ画像用のカメラモジュール143、
●画像管理モジュール144、
●ビデオプレーヤモジュール、
●音楽プレーヤモジュール、
●ブラウザモジュール147、
●カレンダモジュール148、
●任意選択的に気象ウィジェット149−1、株式ウィジェット149−2、計算機ウィジェット149−3、アラーム時計ウィジェット149−4、辞書ウィジェット149−5、及びユーザによって入手された他のウィジェット、並びにユーザ作成ウィジェット149−6のうちの1つ以上を含むウィジェットモジュール149、
●ユーザ作成ウィジェット149−6を作成するためのウィジェット作成モジュール150、
●検索モジュール151、
●ビデオプレーヤモジュール及び音楽プレーヤモジュールを一体化したビデオ及び音楽プレーヤモジュール152、
●メモモジュール153、
●地図モジュール154、並びに/又は、
●オンラインビデオモジュール155。
任意選択的にメモリ102に記憶される他のアプリケーション136の例としては、他のワードプロセッシングアプリケーション、他の画像編集アプリケーション、描画アプリケーション、プレゼンテーションアプリケーション、JAVA(登録商標)対応アプリケーション、暗号化、デジタル著作権管理、音声認識、及び音声複製が挙げられる。
タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、連絡先モジュール137は、任意選択的に、アドレス帳に名前(単数又は複数)を追加すること、アドレス帳から名前(単数又は複数)を削除すること、電話番号(単数又は複数)、電子メールアドレス(単数又は複数)、実際の住所(単数又は複数)、又は他の情報を名前に関連付けること、画像を名前に関連付けること、名前を分類して並べ替えること、電話番号又は電子メールアドレスを提供して、電話138、テレビ会議モジュール139、電子メール140、又はIM141による通信を開始及び/又は促進することなどを含めて、アドレス帳又は連絡先リスト(例えば、メモリ102又はメモリ370内の連絡先モジュール137のアプリケーション内部状態192内に記憶される)を管理するために使用される。
RF回路108、オーディオ回路110、スピーカ111、マイクロフォン113、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、電話モジュール138は、任意選択的に、電話番号に対応する文字シーケンスの入力、連絡先モジュール137内の1つ以上の電話番号へのアクセス、入力された電話番号の修正、それぞれの電話番号のダイヤル、会話の実施、会話が終了したときの通話停止又はハングアップのために使用される。前述したように、無線通信は、任意選択的に、複数の通信規格、プロトコル、及び技術のうちのいずれかを使用する。
RF回路108、オーディオ回路110、スピーカ111、マイクロフォン113、タッチスクリーン112、ディスプレイコントローラ156、光センサ164、光センサコントローラ158、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、連絡先モジュール137、及び電話モジュール138と連携して、テレビ会議モジュール139は、ユーザ命令に従ってユーザと1人以上の他の参加者との間のテレビ会議を開始、実行、及び終了するための実行可能な命令を含む。
RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、電子メールクライアントモジュール140は、ユーザ命令に応じて電子メールを作成、送信、受信、及び管理するための実行可能な命令を含む。画像管理モジュール144と連携して、電子メールクライアントモジュール140は、カメラモジュール143で撮影された静止画像又はビデオ画像を有する電子メールの作成及び送信を非常に容易にする。
RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、インスタントメッセージングモジュール141は、インスタントメッセージに対応する文字シーケンスの入力、以前に入力された文字の修正、それぞれのインスタントメッセージの送信(例えば、電話通信ベースのインスタントメッセージ向けのショートメッセージサービス(Short Message Service、SMS)若しくはマルチメディアメッセージサービス(Multimedia Message Service、MMS)プロトコル、又はインターネットベースのインスタントメッセージ向けのXMPP、SIMPLE、若しくはIMPSを使用する)、インスタントメッセージの受信、及び受信したインスタントメッセージの閲覧のための実行可能な命令を含む。いくつかの実施形態では、送信及び/又は受信されるインスタントメッセージは、任意選択的に、MMS及び/又は拡張メッセージングサービス(Enhanced Messaging Service、EMS)でサポートされるグラフィック、写真、オーディオファイル、ビデオファイル、及び/又は他の添付ファイルを含む。本明細書では、「インスタントメッセージング」とは、電話通信ベースのメッセージ(例えば、SMS又はMMSを使用して送信されるメッセージ)と、インターネットベースのメッセージ(例えば、XMPP、SIMPLE、又はIMPSを使用して送信されるメッセージ)との両方を指す。
RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、GPSモジュール135、地図モジュール154、及び音楽プレーヤモジュールと連携して、トレーニングサポートモジュール142は、トレーニング(例えば、時間、距離、及び/又はカロリー燃焼目標を有する)を作成し、トレーニングセンサ(スポーツデバイス)と通信し、トレーニングセンサデータを受信し、トレーニングをモニタするために使用されるセンサを較正し、トレーニングのための音楽を選択及び再生し、並びに、トレーニングデータを表示、記憶、及び送信するための実行可能な命令を含む。
タッチスクリーン112、ディスプレイコントローラ156、光センサ(単数又は複数)164、光センサコントローラ158、接触/動きモジュール130、グラフィックモジュール132、及び画像管理モジュール144と連携して、カメラモジュール143は、静止画像若しくはビデオ(ビデオストリームを含む)のキャプチャ及びメモリ102内への記憶、静止画像若しくはビデオの特性の修正、又はメモリ102からの静止画像若しくはビデオの削除のための実行可能な命令を含む。
タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、及びカメラモジュール143と連携して、画像管理モジュール144は、静止画像及び/又はビデオ画像の配置、修正(例えば、編集)、あるいはその他の操作、ラベル付け、削除、提示(例えば、デジタルスライドショー又はアルバムにおける)、及び記憶のための実行可能な命令を含む。
RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、ブラウザモジュール147は、ウェブページ又はその一部分、並びにウェブページにリンクされた添付ファイル及び他のファイルの検索、リンク、受信、及び表示を含めて、ユーザ命令に従ってインターネットをブラウジングするための実行可能な命令を含む。
RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、電子メールクライアントモジュール140、及びブラウザモジュール147と連携して、カレンダモジュール148は、ユーザの指示に従い、カレンダ及びカレンダに関連付けられたデータ(例えば、カレンダアイテム、to doリストなど)を作成し、表示し、修正し、記憶するための実行可能な命令を含む。
RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、及びブラウザモジュール147と連携して、ウィジェットモジュール149は、任意選択的にユーザによってダウンロード及び使用されるミニアプリケーション(例えば、気象ウィジェット149−1、株式ウィジェット149−2、計算機ウィジェット149−3、アラーム時計ウィジェット149−4、及び辞書ウィジェット149−5)、又はユーザによって作成されるミニアプリケーション(例えば、ユーザ作成ウィジェット149−6)である。いくつかの実施形態では、ウィジェットは、HTML(Hypertext Markup Language、ハイパーテキストマークアップ言語)ファイル、CSS(Cascading Style Sheets、カスケーディングスタイルシート)ファイル、及びJavaScriptファイルを含む。いくつかの実施形態では、ウィジェットは、XML(Extensible Markup Language、拡張可能マークアップ言語)ファイル及びJavaScriptファイル(例えば、Yahoo!ウィジェット)を含む。
RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、及びブラウザモジュール147と連携して、ウィジェットクリエータモジュール150は、任意選択的に、ウィジェットを作成する(例えば、ウェブページのユーザ指定部分をウィジェットにする)ために、ユーザによって使用される。
タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、検索モジュール151は、ユーザ命令に従って1つ以上の検索基準(例えば、1つ以上のユーザ指定検索語)に一致するメモリ102内の文字、音楽、サウンド、画像、ビデオ、及び/又は他のファイルを検索するための実行可能な命令を含む。
タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、オーディオ回路110、スピーカ111、RF回路108、及びブラウザモジュール147と連携して、ビデオ及び音楽プレーヤモジュール152は、MP3又はAACファイルなどの1つ以上のファイル形式で記憶された録音済みの音楽及び他のサウンドファイルをユーザがダウンロード及び再生できるようにする実行可能な命令、並びにビデオを(例えば、タッチスクリーン112上又は外部ポート124を介して接続された外部のディスプレイ上に)表示、提示、又は別の方法で再生するための実行可能な命令を含む。いくつかの実施形態では、デバイス100は、任意選択的に、iPod(Apple Inc.の商標)などのMP3プレーヤの機能を含む。
タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、メモモジュール153は、ユーザ命令に従ってメモ、to doリストなどを作成及び管理するための実行可能な命令を含む。
RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、GPSモジュール135、及びブラウザモジュール147と連携して、地図モジュール154は、任意選択的に、ユーザ命令に従って、地図及び地図に関連付けられたデータ(例えば、運転方向、特定の場所又はその付近の店舗及び他の対象地点に関するデータ、並びに他の場所ベースのデータ)を受信、表示、修正、及び記憶するために使用される。
タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、オーディオ回路110、スピーカ111、RF回路108、テキスト入力モジュール134、電子メールクライアントモジュール140、及びブラウザモジュール147と連携して、オンラインビデオモジュール155は、ユーザが特定のオンラインビデオへのアクセス、特定のオンラインビデオのブラウジング、受信(例えば、ストリーミング及び/又はダウンロードによる)、再生(例えば、タッチスクリーン上又は外部ポート124を介して接続された外部ディスプレイ上)、特定のオンラインビデオへのリンクを有する電子メールの送信、並びにH.264などの1つ以上のファイル形式のオンラインビデオの他の管理を行うことを可能にする命令を含む。いくつかの実施形態では、特定のオンラインビデオへのリンクを送信するために、電子メールクライアントモジュール140ではなく、インスタントメッセージングモジュール141が使用される。オンラインビデオアプリケーションについての追加の説明は、その内容が全体として参照により本明細書に組み込まれている、2007年6月20日出願の米国仮特許出願第60/936,562号、「Portable Multifunction Device,Method,and Graphical User Interface for Playing Online Videos」、及び2007年12月31日出願の米国特許出願第11/968,067号、「Portable Multifunction Device,Method,and Graphical User Interface for Playing Online Videos」において見ることができる。
上記で特定したモジュール及びアプリケーションはそれぞれ、前述した1つ以上の機能及び本出願に記載する方法(例えば、本明細書に記載するコンピュータにより実装される方法及び他の情報処理方法)を実行する実行可能な命令のセットに対応する。これらのモジュール(例えば、命令セット)は、別個のソフトウェアプログラム、手順、又はモジュールとして実施する必要はなく、したがって、様々な実施形態において、これらのモジュールの様々なサブセットが、任意選択的に、組み合わされ、又は他の形で再構成される。例えば、ビデオプレーヤモジュールは、任意選択的に、音楽プレーヤモジュールと組み合わされて、単一のモジュール(例えば、図1Aのビデオ及び音楽プレーヤモジュール152)にされる。いくつかの実施形態では、メモリ102は、任意選択で、上記で特定されたモジュール及びデータ構造体のサブセットを記憶する。更に、メモリ102は、上記で説明されていない追加のモジュール及びデータ構造を任意選択的に記憶する。
いくつかの実施形態では、デバイス100は、そのデバイスにおける既定の機能のセットの動作がタッチスクリーン及び/又はタッチパッドのみを介して実行されるデバイスである。デバイス100が動作するための主要な入力コントロールデバイスとしてタッチスクリーン及び/又はタッチパッドを使用することにより、任意選択的に、デバイス100上の物理的な入力コントロールデバイス(プッシュボタン、ダイヤルなど)の数が削減される。
タッチスクリーン及び/又はタッチパッドを通じてのみ実行される既定の機能のセットは、任意選択的に、ユーザインタフェース間のナビゲーションを含む。いくつかの実施形態では、タッチパッドは、ユーザによってタッチされたときに、デバイス100上に表示される任意のユーザインタフェースから、メインメニュー、ホームメニュー、又はルートメニューにデバイス100をナビゲートする。このような実施形態では、「メニューボタン」は、タッチパッドを使用して実装される。いくつかの他の実施形態では、メニューボタンは、タッチパッドではなく、物理プッシュボタン又はその他の物理入力コントロールデバイスである。
図1Bは、いくつかの実施形態に係るイベント処理のための例示的な構成要素を示すブロック図である。いくつかの実施形態では、メモリ102(図1A)又は370(図3)は、イベントソータ170(例えば、オペレーティングシステム126内)と、それぞれのアプリケーション136−1(例えば、前述のアプリケーション137〜151、155、380〜390のうちのいずれか)とを含む。
イベントソータ170は、イベント情報を受信し、イベント情報が伝送されるアプリケーション136−1、及びアプリケーション136−1のアプリケーションビュー191を判定する。イベントソータ170は、イベントモニタ171及びイベントディスパッチャモジュール174を含む。いくつかの実施形態では、アプリケーション136−1は、アプリケーションがアクティブ又は実行中であるときにタッチ感知ディスプレイ112上に表示される現在のアプリケーションビュー(単数又は複数)を示すアプリケーション内部状態192を含む。いくつかの実施形態では、デバイス/グローバル内部状態157は、どのアプリケーション(単数又は複数)が現在アクティブであるかを判定するためにイベントソータ170によって使用され、アプリケーション内部状態192は、イベント情報が配信されるアプリケーションビュー191を判定するためにイベントソータ170によって使用される。
いくつかの実施形態では、アプリケーション内部状態192は、アプリケーション136−1が実行を再開するときに使用すべき再開情報、アプリケーション136−1によって表示されている情報を示す又は表示する準備ができたユーザインタフェース状態情報、ユーザがアプリケーション136−1の前の状態又はビューに戻ることを可能にする状態キュー、及びユーザによって行われた前のアクションのリドゥ/アンドゥキューのうちの1つ以上などの追加の情報を含む。
イベントモニタ171は、周辺機器インタフェース118からイベント情報を受信する。イベント情報は、サブイベント(例えば、マルチタッチジェスチャの一部としてのタッチ感知ディスプレイ112上のユーザタッチ)に関する情報を含む。周辺機器インタフェース118は、I/Oサブシステム106、又は近接センサ166、加速度計(単数又は複数)168、及び/若しくは(オーディオ回路110を介した)マイクロフォン113などのセンサから受信する情報を送信する。周辺機器インタフェース118がI/Oサブシステム106から受信する情報は、タッチ感知ディスプレイ112又はタッチ感知面からの情報を含む。
いくつかの実施形態では、イベントモニタ171は、所定の間隔で周辺機器インタフェース118に要求を送信する。それに応じて、周辺機器インタフェース118は、イベント情報を送信する。他の実施形態では、周辺機器インタフェース118は、重要なイベント(例えば、所定のノイズ閾値を上回る及び/又は所定の持続時間を超える入力の受信)があるときのみイベント情報を送信する。
いくつかの実施形態では、イベントソータ170はまた、ヒットビュー判定モジュール172及び/又はアクティブイベント認識部判定モジュール173を含む。
ヒットビュー判定モジュール172は、タッチ感知ディスプレイ112が2つ以上のビューを表示するとき、サブイベントが1つ以上のビュー内のどこで行われたかを判定するソフトウェア手順を提供する。ビューは、ユーザがディスプレイ上で見ることができる制御装置及び他の要素から構成されている。
アプリケーションに関連付けられたユーザインタフェースの別の態様は、本明細書ではアプリケーションビュー又はユーザインタフェースウインドウと呼ばれることもあるビューのセットであり、その中で情報が表示され、タッチに基づくジェスチャが生じる。タッチが検出される(それぞれのアプリケーションの)アプリケーションビューは、任意選択的に、アプリケーションのプログラム階層又はビュー階層内のプログラムレベルに対応する。例えば、タッチが検出される最下位レベルビューは、任意選択的に、ヒットビューと呼ばれ、また、適切な入力として認識されるイベントのセットは、任意選択的に、タッチによるジェスチャを開始する初期タッチのヒットビューに少なくとも部分的に基づいて決定される。
ヒットビュー判定モジュール172は、タッチに基づくジェスチャのサブイベントに関連する情報を受信する。アプリケーションが階層状に構成された複数のビューを有するとき、ヒットビュー判定モジュール172は、サブイベントを処理すべき階層内の最下位のビューとして、ヒットビューを特定する。ほとんどの状況では、ヒットビューは、開始サブイベント(例えば、イベント又は潜在的イベントを形成するサブイベントシーケンス内の第1のサブイベント)が行われる最も低いレベルのビューである。ヒットビューがヒットビュー判定モジュール172によって特定されると、このヒットビューは、典型的には、ヒットビューとして特定されたのと同じタッチ又は入力ソースに関係する全てのサブイベントを受信する。
アクティブイベント認識部判定モジュール173は、ビュー階層内のどのビュー(単数又は複数)がサブイベントの特定のシーケンスを受信すべきかを判定する。いくつかの実施形態では、アクティブイベント認識部判定モジュール173は、ヒットビューのみがサブイベントの特定のシーケンスを受信すべきであると判定する。他の実施形態では、アクティブイベント認識部判定モジュール173は、サブイベントの物理位置を含む全てのビューがアクティブに関わりがあるビューであると判定し、したがって、全てのアクティブに関わりがあるビューが、サブイベントの特定のシーケンスを受信すべきであると判定する。他の実施形態では、タッチサブイベントが1つの特定のビューに関連付けられたエリアに完全に限定された場合でも、階層内の上位のビューは、依然としてアクティブに関わりがあるビューであり続ける。
イベントディスパッチャモジュール174は、イベント情報をイベント認識部(例えばイベント認識部180)にディスパッチする。アクティブイベント認識部判定モジュール173を含む実施形態では、イベントディスパッチャモジュール174は、アクティブイベント認識部判定モジュール173により判定されたイベント認識部にイベント情報を伝送する。いくつかの実施形態では、イベントディスパッチャモジュール174は、それぞれのイベント受信部182によって取得されるイベント情報をイベントキューに記憶する。
いくつかの実施形態では、オペレーティングシステム126は、イベントソータ170を含む。あるいは、アプリケーション136−1がイベントソータ170を含む。更に他の実施形態では、イベントソータ170は、独立型のモジュールであり、又は接触/動きモジュール130などのメモリ102内に記憶されている別のモジュールの一部分である。
いくつかの実施形態では、アプリケーション136−1は、それぞれがアプリケーションのユーザインタフェースのそれぞれのビュー内で発生するタッチイベントを処理するための命令を含む、複数のイベント処理部190及び1つ以上のアプリケーションビュー191を含む。アプリケーション136−1の各アプリケーションビュー191は、1つ以上のイベント認識部180を含む。典型的には、それぞれのアプリケーションビュー191は、複数のイベント認識部180を含む。他の実施形態では、イベント認識部180のうちの任意の1つ以上は、ユーザインタフェースキット、又は、アプリケーション136−1が方法及び他の属性を継承する上位レベルのオブジェクト対象などの、別個のモジュールの一部である。いくつかの実施形態では、それぞれのイベント処理部190は、データ更新部176、オブジェクト更新部177、GUI更新部178、及び/又はイベントソータ170から受信されたイベントデータ179、のうちの1つ以上を含む。イベント処理部190は、任意選択的に、データ更新部176、オブジェクト更新部177、又はGUI更新部178を利用し又は呼び出して、アプリケーション内部状態192を更新する。あるいは、アプリケーションビュー191のうちの1つ以上が、1つ以上のそれぞれのイベント処理部190を含む。また、いくつかの実施形態では、データ更新部176、オブジェクト更新部177、及びGUI更新部178のうちの1つ以上は、それぞれのアプリケーションビュー191に含まれる。
それぞれのイベント認識部180は、イベントソータ170からイベント情報(例えば、イベントデータ179)を受信し、このイベント情報からイベントを特定する。イベント認識部180は、イベント受信部182及びイベント比較部184を含む。いくつかの実施形態では、イベント認識部180はまた、メタデータ183及びイベント配信命令188(任意選択的にサブイベント配信命令を含む)の少なくともサブセットも含む。
イベント受信部182は、イベントソータ170からイベント情報を受信する。イベント情報は、サブイベント、例えば、タッチ又はタッチの移動についての情報を含む。サブイベントに応じて、イベント情報はまた、サブイベントの位置などの追加の情報を含む。サブイベントがタッチの動きに関わるとき、イベント情報はまた任意選択的に、サブイベントの速さ及び方向を含む。いくつかの実施形態では、イベントは、1つの向きから別の向きへの(例えば、縦向きから横向きへ、又はその逆の)デバイスの回転を含み、イベント情報は、デバイスの現在の向き(デバイスの姿勢とも呼ぶ)についての対応する情報を含む。
イベント比較部184は、イベント情報を、定義済みのイベント又はサブイベントの定義と比較し、その比較に基づいて、イベント又はサブイベントを判定するか、あるいはイベント又はサブイベントの状態を判定若しくは更新する。いくつかの実施形態では、イベント比較部184は、イベント定義186を含む。イベント定義186は、例えばイベント1(187−1)及びイベント2(187−2)などのイベント(例えば、既定のサブイベントのシーケンス)の定義を含む。いくつかの実施形態では、イベント(187)内のサブイベントは、例えば、タッチの開始、タッチの終了、タッチの移動、タッチの取り消し、及び複数のタッチを含む。一実施例では、イベント1(187−1)についての定義は、表示されたオブジェクト上のダブルタップである。ダブルタップは、例えば、所定の段階に対する表示オブジェクト上の第1のタッチ(タッチ開始)、所定の段階に対する第1のリフトオフ(タッチ終了)、所定の段階に対する表示オブジェクト上の第2のタッチ(タッチ開始)、及び所定の段階に対する第2のリフトオフ(タッチ終了)を含む。別の実施例では、イベント2(187−2)の定義は、表示されたオブジェクト対象上のドラッグである。ドラッグは、例えば、所定の段階に対する表示オブジェクト上のタッチ(又は接触)、タッチ感知ディスプレイ112にわたるタッチの移動、及びタッチのリフトオフ(タッチ終了)を含む。いくつかの実施形態では、イベントは、1つ以上の関連付けられたイベント処理部190に関する情報も含む。
いくつかの実施形態では、イベント定義187は、それぞれのユーザインタフェースオブジェクトについてのイベントの定義を含む。いくつかの実施形態では、イベント比較部184は、どのユーザインタフェースオブジェクトがサブイベントに関連付けられているかを判定するヒットテストを実行する。例えば、タッチ感知ディスプレイ112上に3つのユーザインタフェースオブジェクトが表示されているアプリケーションビュー内で、タッチ感知ディスプレイ112上でタッチが検出されたとき、イベント比較部184は、ヒットテストを実行して、3つのユーザインタフェースオブジェクトのうちのどれがタッチ(サブイベント)に関連付けられているかを判定する。表示された各オブジェクトが、それぞれのイベント処理部190に関連付けられている場合、イベント比較部は、ヒットテストの結果を用いて、どのイベント処理部190をアクティブ化すべきかを判定する。例えば、イベント比較部184は、ヒットテストをトリガするサブイベント及びオブジェクトに関連付けられたイベント処理部を選択する。
いくつかの実施形態では、それぞれのイベント187の定義は、サブイベントのシーケンスがイベント認識部のイベントタイプに対応するか否かが判定されるまで、イベント情報の配信を遅らせる遅延アクションも含む。
それぞれのイベント認識部180が一連のサブイベントがイベント定義186のイベントのいずれとも一致しないと判断した場合、それぞれのイベント認識部180は、イベント不可能、イベント失敗、又はイベント終了の状態に入り、その後は、タッチに基づくジェスチャの次のサブイベントを無視する。この状況では、ヒットビューについてアクティブのままである他のイベント認識部があれば、そのイベント認識部は、進行中のタッチによるジェスチャのサブイベントの追跡及び処理を続行する。
いくつかの実施形態では、それぞれのイベント認識部180は、イベント配信システムがどのようにサブイベント配信を実行すべきかをアクティブに関与しているイベント認識部に示す構成可能なプロパティ、フラグ、及び/又はリストを有するメタデータ183を含む。いくつかの実施形態では、メタデータ183は、イベント認識部が互いにどのように対話するか、又はイベント認識部が互いにどのように対話することが可能となるかを示す構成可能なプロパティ、フラグ、及び/又はリストを含む。いくつかの実施形態では、メタデータ183は、サブイベントがビュー階層又はプログラム階層における多様なレベルに配信されるかを示す構成可能なプロパティ、フラグ、及び/又はリストを含む。
いくつかの実施形態では、それぞれのイベント認識部180は、イベントの1つ以上の特定のサブイベントが認識されるときに、イベントに関連付けられたイベント処理部190をアクティブ化する。いくつかの実施形態では、それぞれのイベント認識部180は、イベントに関連付けられたイベント情報をイベント処理部190に配信する。イベント処理部190をアクティブ化することは、それぞれのヒットビューにサブイベントを送信する(及び、送信を延期する)こととは別個である。いくつかの実施形態では、イベント認識部180は、認識したイベントに関連付けられたフラグを投入し、そのフラグに関連付けられたイベント処理部190は、そのフラグを捕らえ、既定のプロセスを実行する。
いくつかの実施形態では、イベント配信命令188は、イベント処理部をアクティブ化することなくサブイベントについてのイベント情報を配信するサブイベント配信命令を含む。代わりに、サブイベント配信命令は、一連のサブイベントと関連付けられたイベント処理部に、又はアクティブに関与しているビューにイベント情報を配信する。一連のサブイベント又はアクティブに関与しているビューと関連付けられたイベント処理部は、イベント情報を受信し、所定の処理を実行する。
いくつかの実施形態では、データ更新部176は、アプリケーション136−1で使用されるデータを作成及び更新する。例えば、データ更新部176は、連絡先モジュール137で使用される電話番号を更新し、又はビデオプレーヤモジュールで使用されるビデオファイルを記憶する。いくつかの実施形態では、オブジェクト更新部177は、アプリケーション136−1で使用されるオブジェクトを作成及び更新する。例えば、オブジェクト更新部177は、新たなユーザインタフェースオブジェクトを作成し、又はユーザインタフェースオブジェクトの位置を更新する。GUI更新部178は、GUIを更新する。例えば、GUI更新部178は、表示情報を準備し、タッチ感知ディスプレイ上に表示するために表示情報をグラフィックモジュール132に送る。
いくつかの実施形態では、イベント処理部(単数又は複数)190は、データ更新部176、オブジェクト更新部177、及びGUI更新部178を含む又はそれらへのアクセスを有する。いくつかの実施形態では、データ更新部176、オブジェクト更新部177、及びGUI更新部178は、それぞれのアプリケーション136−1又はアプリケーションビュー191の単一モジュールに含まれる。他の実施形態では、それらは、2つ以上のソフトウェアモジュールに含まれる。
タッチ感知ディスプレイ上のユーザのタッチのイベント処理に関する前述の記載は、入力デバイスを用いて多機能デバイス100を動作させるための他の形態のユーザ入力にも適用されるが、その全てがタッチスクリーン上で開始されるわけではないことを理解されたい。例えば、キーボードの単一又は複数の押圧若しくは保持と任意選択的に連携される、マウスの移動及びマウスボタンの押圧、タッチパッド上のタップ、ドラッグ、スクロールなどの接触の移動、ペンスタイラス入力、デバイスの移動、口頭による命令、検出された眼球運動、バイオメトリック入力、並びに/又はそれらの任意の組み合わせを、任意選択的に、認識するイベントを定義するサブイベントに対応する入力として利用する。
図2は、いくつかの実施形態に係る、タッチスクリーン112を有するポータブル多機能デバイス100を示す。タッチスクリーンは、任意選択的に、ユーザインタフェース(user interface、UI)200内に1つ以上のグラフィックを表示する。本実施形態、並びに以下で説明される他の実施形態では、ユーザは、例えば、1本以上の指202(図には正確な縮尺では描かれていない)又は1つ以上のスタイラス203(図には正確な縮尺では描かれていない)を使用して、グラフィック上でジェスチャを実施することによって、それらのグラフィックのうちの1つ以上を選択することが可能となる。いくつかの実施形態では、1つ以上のグラフィックの選択は、ユーザが、その1つ以上のグラフィックとの接触を中断する場合に実施される。いくつかの実施形態では、ジェスチャは、1回以上のタップ、1回以上のスワイプ(左から右へ、右から左へ、上向きに及び/若しくは下向きに)、並びに/又は、デバイス100と接触した指のローリング(右から左へ、左から右へ、上向きに及び/若しくは下向きに)を、任意選択で含む。いくつかの実装例又は状況では、グラフィックとの不測の接触は、そのグラフィックを選択するものではない。例えば、選択に対応するジェスチャがタップである場合、アプリケーションアイコンの上をスイープするスワイプジェスチャは、任意選択的に、対応するアプリケーションを選択するものではない。
デバイス100はまた、任意選択的に、「ホーム」ボタン又はメニューボタン204などの1つ以上の物理ボタンを含む。前述したように、メニューボタン204は、任意選択的に、任意選択的にデバイス100上で実行される1組のアプリケーション内の任意のアプリケーション136へナビゲートするために使用される。あるいは、いくつかの実施形態では、メニューボタンは、タッチスクリーン112上に表示されるGUI内のソフトキーとして実装される。
いくつかの実施形態では、デバイス100は、タッチスクリーン112、メニューボタン204、デバイスの電源をオン/オフにしてデバイスをロックするプッシュボタン206、音量調整ボタン208、加入者識別モジュール(SIM)カードスロット210、ヘッドセットジャック212、及びドッキング/充電用外部ポート124を含む。プッシュボタン206は、任意選択的に、ボタンを押し下げて、既定の期間にわたってボタンを押し下げた状態に保持することによって、デバイスの電源をオン/オフするため、ボタンを押し下げて、既定の時間が経過する前にボタンを解放することによってデバイスをロックするため、及び/又はデバイスをロック解除する、若しくはロック解除プロセスを開始するために、使用される。代替的実施形態では、デバイス100はまた、マイクロフォン113を介して、一部の機能をアクティブ化又は非アクティブ化するための口頭入力も受け入れる。デバイス100はまた、任意選択的に、タッチスクリーン112上の接触の強度を検出する1つ以上の接触強度センサ165、及び/又はデバイス100のユーザに対する触知出力を生成する1つ以上の触知出力生成器167を含む。
図3は、いくつかの実施形態に係る、ディスプレイ及びタッチ感知面を有する例示的な多機能デバイスのブロック図である。デバイス300は、ポータブル型である必要はない。いくつかの実施形態では、デバイス300は、ラップトップコンピュータ、デスクトップコンピュータ、タブレットコンピュータ、マルチメディアプレーヤデバイス、ナビゲーションデバイス、教育的デバイス(子供の学習玩具など)、ゲームシステム、又は制御デバイス(例えば、家庭用又は業務用コントローラ)である。デバイス300は、典型的には、1つ以上の処理ユニット(CPU)310、1つ以上のネットワーク又は他の通信インタフェース360、メモリ370、及びこれらの構成要素を相互接続する1つ以上の通信バス320を含む。通信バス320は、任意選択的に、システム構成要素間の通信を相互接続及び制御する回路(チップセットと呼ばれることもある)を含む。デバイス300は、ディスプレイ340を含む入出力(I/O)インタフェース330を含み、ディスプレイ340は、典型的には、タッチスクリーンディスプレイである。I/Oインタフェース330はまた、任意選択的に、キーボード及び/又はマウス(若しくは他のポインティングデバイス)350と、タッチパッド355と、デバイス300上に触知出力を生成する触知出力生成器357(例えば、図1Aを参照して前述した触知出力生成器167に類似している)と、センサ359(例えば、図1Aを参照して前述した接触強度センサ165に類似している光、加速度、近接、タッチ感知、及び/又は接触強度センサ)とを含む。メモリ370は、DRAM、SRAM、DDR RAM、又は他のランダムアクセスソリッドステートメモリデバイスなどの高速ランダムアクセスメモリを含み、任意選択的に、1つ以上の磁気ディスク記憶デバイス、光ディスク記憶デバイス、フラッシュメモリデバイス、又は他の不揮発性ソリッドステート記憶デバイスなどの不揮発性メモリを含む。メモリ370は、任意選択で、CPU(単数又は複数)310からリモートに位置する1つ以上の記憶デバイスを含む。いくつかの実施形態では、メモリ370は、ポータブル多機能デバイス100(図1A)のメモリ102内に記憶されているプログラム、モジュール、及びデータ構造に類似したプログラム、モジュール、及びデータ構造、又はそのサブセットを記憶する。更に、メモリ370は、任意選択で、ポータブル多機能デバイス100のメモリ102に存在しない追加のプログラム、モジュール、及びデータ構造を記憶する。例えば、デバイス300のメモリ370は、任意選択的に、描画モジュール380、プレゼンテーションモジュール382、ワードプロセッシングモジュール384、ウェブサイト作成モジュール386、ディスクオーサリングモジュール388、及び/又はスプレッドシートモジュール390を記憶するのに対して、ポータブル多機能デバイス100(図1A)のメモリ102は、任意選択的に、これらのモジュールを記憶しない。
図3の上記で特定した要素はそれぞれ、任意選択的に、前述したメモリデバイスのうちの1つ以上の中に記憶される。上記で特定したモジュールはそれぞれ、前述した機能を実行する命令セットに対応する。上記で特定したモジュール又はプログラム(例えば、命令セット)は、別個のソフトウェアプログラム、手順、又はモジュールとして実施する必要はなく、したがって様々な実施形態では、これらのモジュールの様々なサブセットは、任意選択的に、組み合わされ、又は他の形で再構成される。いくつかの実施形態では、メモリ370は、任意選択で、上記で特定されたモジュール及びデータ構造のサブセットを記憶する。更に、メモリ370は、上記で説明されていない追加のモジュール及びデータ構造体を任意選択的に記憶する。
次に、任意選択的に例えばポータブル多機能デバイス100上で実施されるユーザインタフェースの実施形態に注意を向ける。
図4Aは、いくつかの実施形態に係るポータブル多機能デバイス100上のアプリケーションのメニューの例示的なユーザインタフェースを示す。同様のユーザインタフェースは、デバイス300上に任意選択的に実装される。いくつかの実施形態では、ユーザインタフェース400は、以下の要素、又はそれらのサブセット若しくはスーパーセットを含む。
●セルラー信号及びWi−Fi(登録商標)信号などの無線通信(単数又は複数)のための信号強度インジケータ(単数又は複数)402、
●時刻404、
●Bluetooth(登録商標)インジケータ405、
●バッテリ状態インジケータ406、
●以下のような、頻繁に使用されるアプリケーションのアイコンを有するトレイ408:
○不在着信又はボイスメールメッセージの数のインジケータ414を任意選択的に含む、「電話」とラベル付けされた、電話モジュール138のアイコン416、
○未読電子メールの数のインジケータ410を任意選択的に含む、「メール」とラベル付けされた、電子メールクライアントモジュール140のアイコン418、
○「ブラウザ」とラベル付けされた、ブラウザモジュール147のアイコン420、及び
○「iPod」とラベル付けされた、iPod(Apple Inc.の登録商標)モジュール152とも呼ばれるビデオ及び音楽プレーヤモジュール152のアイコン422、及び
●以下のような、他のアプリケーションのアイコン:
○「メッセージ」とラベル付けされた、IMモジュール141のアイコン424、
○「カレンダ」とラベル付けされた、カレンダモジュール148のアイコン426、
○「写真」とラベル付けされた、画像管理モジュール144のアイコン428、
○「カメラ」とラベル付けされた、カメラモジュール143のアイコン430、
○「オンラインビデオ」とラベル付けされた、オンラインビデオモジュール155のアイコン432、
○「株式」とラベル付けされた、株式ウィジェット149−2のアイコン434、
○「地図」とラベル付けされた、地図モジュール154のアイコン436、
○「天気」とラベル付けされた、気象ウィジェット149−1のアイコン438、
○「時計」とラベル付けされた、アラーム時計ウィジェット149−4のアイコン440、
○「トレーニングサポート」とラベル付けされた、トレーニングサポートモジュール142のアイコン442、
○「メモ」とラベル付けされた、メモモジュール153のアイコン444、及び
○デバイス100及びその様々なアプリケーション136についての設定へのアクセスを提供する、「設定」とラベル付けされた、設定アプリケーション又はモジュールのアイコン446。
図4Aに示すアイコンラベルは、単なる例示であることに留意されたい。例えば、ビデオ及び音楽プレーヤモジュール152のためのアイコン422は、「音楽」又は「音楽プレーヤ」と表示される。他のラベルが、様々なアプリケーションアイコンのために、任意選択的に使用される。いくつかの実施形態では、それぞれのアプリケーションアイコンに関するラベルは、それぞれのアプリケーションアイコンに対応するアプリケーションの名前を含む。いくつかの実施形態では、特定のアプリケーションアイコンのラベルは、その特定のアプリケーションアイコンに対応するアプリケーションの名前とは異なる。
図4Bは、ディスプレイ450(例えば、タッチスクリーンディスプレイ112)とは別個のタッチ感知面451(例えば、図3のタブレット又はタッチパッド355)を有するデバイス(例えば、図3のデバイス300)上の例示的なユーザインタフェースを示す。デバイス300はまた、任意選択的に、タッチ感知面451上の接触の強度を検出する1つ以上の接触強度センサ(例えば、センサ359のうちの1つ以上)、及び/又はデバイス300のユーザに対する触知出力を生成する1つ以上の触知出力生成器357を含む。
以下の例のうちのいくつかは、タッチスクリーンディスプレイ112(タッチ感知面及びディスプレイが組み合わされている)上の入力を参照して与えられるが、いくつかの実施形態では、デバイスは、図4Bに示すディスプレイとは別個のタッチ感知面上の入力を検出する。いくつかの実施形態では、タッチ感知面(例えば、図4Bの451)は、ディスプレイ(例えば、450)上の1次軸(例えば、図4Bの453)に対応する1次軸(例えば、図4Bの452)を有する。これらの実施形態によれば、デバイスは、ディスプレイ上のそれぞれの場所に対応する場所(例えば、図4Bでは、460は468に対応し、462は470に対応する)で、タッチ感知面451との接触(例えば、図4Bの460及び462)を検出する。このようにして、タッチ感知面(例えば、図4Bの451)上でデバイスによって検出されるユーザ入力(例えば、接触460及び462、並びにこれらの動き)は、タッチ感知面がディスプレイとは別個であるとき、多機能デバイスのディスプレイ(例えば、図4Bの450)上のユーザインタフェースを操作するために、デバイスによって使用される。同様の方法が、本明細書に記載の他のユーザインタフェースに任意選択的に使用されることを理解されたい。
加えて、以下の例は、主に指入力(例えば、指接触、指タップジェスチャ、指スワイプジェスチャ)を参照して与えられるが、一部の実施形態では、指入力のうちの1つ以上は、別の入力デバイスからの入力(例えば、マウスベースの入力又はスタイラス入力)に置き換えられることを理解されたい。例えば、スワイプジェスチャは、(例えば、接触の代わりの)マウスクリックに続けた、(例えば、接触の移動の代わりの)スワイプの経路に沿ったカーソルの移動によって、任意選択的に置き換えられる。別の例として、タップジェスチャは、任意選択的に、カーソルがタップジェスチャの位置の上に位置する間はマウスクリックと置き換えられる(例えば、接触を検出して、それに続いて接触の検出を停止する代わりに)。同様に、複数のユーザ入力が同時に検出されるとき、複数のコンピュータマウスが、任意選択的に、同時に使用され、又はマウス及び指の接触が、任意選択的に、同時に使用されることを理解されたい。
図5Aは、例示的なパーソナル電子デバイス500を示す。デバイス500は、本体502を含む。いくつかの実施形態では、デバイス500は、デバイス100及び300(例えば、図1A〜4B)に関して説明する特徴のうちのいくつか又は全てを含むことができる。いくつかの実施形態では、デバイス500は、タッチ感知ディスプレイスクリーン504、以下ではタッチスクリーン504、を有する。あるいは、又はタッチスクリーン504に加えて、デバイス500は、ディスプレイ及びタッチ感知面を有する。デバイス100及び300と同様に、いくつかの実施形態では、タッチスクリーン504(又はタッチ感知面)は、任意選択的に、加えられている接触(例えば、タッチ)の強度を検出する1つ以上の強度センサを含む。タッチスクリーン504(又はタッチ感知面)の1つ以上の強度センサは、タッチの強度を表す出力データを提供することができる。デバイス500のユーザインタフェースは、タッチの強度に基づいてタッチに応答することができ、これは、異なる強度のタッチが、デバイス500上で異なるユーザインタフェース動作を呼び出すことができることを意味する。
タッチ強度を検出及び処理する例示的な技法は、例えば、それぞれ全体として参照により本明細書に組み込まれている、国際特許第WO/2013/169849号として公開された、2013年5月8日出願の国際特許出願第PCT/US2013/040061号、「Device,Method,and Graphical User Interface for Displaying User Interface Objects Corresponding to an Application」、及び国際特許第WO/2014/105276号として公開された、2013年11月11日出願の国際特許出願第PCT/US2013/069483号、「Device,Method,and Graphical User Interface for Transitioning Between Touch Input to Display Output Relationships」という関連出願に見られる。
いくつかの実施形態では、デバイス500は、1つ以上の入力機構506及び508を有する。入力機構506及び508は、含まれる場合、物理的機構とすることができる。物理的入力機構の例としては、プッシュボタン及び回転可能機構が挙げられる。いくつかの実施形態では、デバイス500は、1つ以上のアタッチメント機構を有する。そのようなアタッチメント機構は、含まれる場合、例えば帽子、アイウェア、イアリング、ネックレス、シャツ、ジャケット、ブレスレット、腕時計のバンド、チェーン、ズボン、ベルト、靴、財布、バックパックなどにデバイス500を取り付けることを可能にすることができる。これらのアタッチメント機構は、ユーザがデバイス500を着用することを可能にする。
図5Bは、例示的なパーソナル電子デバイス500を示す。いくつかの実施形態では、デバイス500は、図1A、図1B、及び図3に関して説明した構成要素のうちのいくつか又は全てを含むことができる。デバイス500は、I/Oセクション514を1つ以上のコンピュータプロセッサ516及びメモリ518に動作可能に結合するバス512を有する。I/Oセクション514は、ディスプレイ504に接続することができ、ディスプレイ504は、タッチ感知構成要素522と、任意選択的に強度センサ524(例えば、接触強度センサ)とを有することができる。加えて、I/Oセクション514は、Wi−Fi、Bluetooth(登録商標)、近距離通信(NFC)、セルラー、及び/又は他の無線通信技法を使用してアプリケーション及びオペレーティングシステムデータを受信する通信ユニット530に接続することができる。デバイス500は、入力機構506及び/又は508を含むことができる。入力機構506は、任意選択的に、例えば回転可能入力デバイス又は押下可能及び回転可能入力デバイスである。いくつかの例では、入力機構508は、任意選択的にボタンである。
いくつかの例では、入力機構508は、任意選択的にマイクロフォンである。パーソナル電子デバイス500は、任意選択的に、GPSセンサ532、加速度計534、方向センサ540(例えば、コンパス)、ジャイロスコープ536、動きセンサ538、及び/又はこれらの組み合わせなどの様々なセンサを含み、これらのセンサは全て、I/Oセクション514に動作可能に接続することができる。
パーソナル電子デバイス500のメモリ518は、コンピュータ実行可能命令を記憶するための1つ以上の非一時的コンピュータ可読記憶媒体を含み得、それらの命令は、1つ以上のコンピュータプロセッサ516によって実行されると、例えば、コンピュータプロセッサに、プロセス800(図8A〜8B)、プロセス1000(図10)、プロセス1200(図12)、プロセス1400(図14)、及びプロセス1600(図16)を含めた、以下に説明する技術を実行させることができる。コンピュータ可読記憶媒体は、命令実行システム、装置、又はデバイスによって使用するための、又は命令実行システム、装置、又はデバイスに接続されているコンピュータ実行可能命令を、有形に含み又は記憶することができる任意の媒体とすることができる。いくつかの実施例では、記憶媒体は、一時的コンピュータ可読記憶媒体である。いくつかの実施例では、記憶媒体は、非一時的コンピュータ可読記憶媒体である。非一時的コンピュータ可読記憶媒体は、それだけに限定されるものではないが、磁気、光学、及び/又は半導体記憶装置を含むことができる。そのような記憶装置の例としては、磁気ディスク、CD、DVD、又はBlu−ray(登録商標)技術に基づく光学ディスク、並びにフラッシュ、ソリッドステートドライブなどの常駐ソリッドステートメモリなどが挙げられる。パーソナル電子デバイス500は、図5Bの構成要素及び構成に限定されるものではなく、他の又は追加の構成要素を複数の構成で含むことができる。
本明細書では、「アフォーダンス」という用語は、任意選択的にデバイス100、300、及び/又は500(図1A、図3、及び図5A〜5B)のディスプレイスクリーン上に表示されるユーザ対話グラフィカルユーザインタフェースオブジェクトを指す。例えば、画像(例えば、アイコン)、ボタン、及び文字(例えば、ハイパーリンク)はそれぞれ、意選択的に、アフォーダンスを構成する。
本明細書で使用される「フォーカスセレクタ」という用語は、ユーザが対話しているユーザインタフェースの現在の部分を示す入力要素を指す。カーソル又は他の場所マーカーを含むいくつかの実装形態では、カーソルが「フォーカスセレクタ」として作用し、したがってカーソルが特定のユーザインタフェース要素(例えば、ボタン、ウインドウ、スライダ、又は他のユーザインタフェース要素)の上に位置する間に、タッチ感知面(例えば、図3のタッチパッド355又は図4Bのタッチ感知面451)上で入力(例えば、押下入力)が検出されたとき、特定のユーザインタフェース要素が、検出された入力に従って調整される。タッチスクリーンディスプレイ上のユーザインタフェース要素との直接対話を有効化するタッチスクリーンディスプレイ(例えば、図1Aのタッチ感知ディスプレイシステム112又は図4Aのタッチスクリーン112)を含むいくつかの実装形態では、タッチスクリーン上の検出された接触が「フォーカスセレクタ」として作用し、したがってタッチスクリーンディスプレイ上の特定のユーザインタフェース要素(例えば、ボタン、ウインドウ、スライダ、又は他のユーザインタフェース要素)の場所で入力(例えば、接触による押下入力)が検出されたとき、特定のユーザインタフェース要素が、検出された入力に従って調整される。いくつかの実装例では、タッチスクリーンディスプレイ上の対応するカーソルの移動又は接触の移動(例えば、フォーカスを1つのボタンから別のボタンへ動かすためにタブキー又は矢印キーを使用することによる)なく、フォーカスがユーザインタフェースの1つの領域からユーザインタフェースの別の領域へ動かされ、これらの実装例では、フォーカスセレクタは、ユーザインタフェースの種々の領域間でのフォーカスの移動に従って移動する。フォーカスセレクタがとる特有の形態に関わらず、フォーカスセレクタは、概して、ユーザインタフェース要素(又はタッチスクリーンディスプレイ上の接触)であり、ユーザの意図する対話をユーザインタフェースによって通信するように、ユーザによって制御される(例えば、ユーザが対話することを意図しているユーザインタフェースの要素をデバイスに示すことによる)。例えば、タッチ感知面(例えば、タッチパッド又はタッチスクリーン)上で押圧入力が検出されている間の、対応のボタンの上のフォーカスセレクタ(例えば、カーソル、接触、又は選択ボックス)の位置は、その対応のボタンを(そのデバイスのディスプレイ上に示される他のユーザインタフェース要素ではなく)アクティブ化することをユーザが意図していることを示すものである。
本明細書及び特許請求の範囲で使用される、接触の「特性強度」という用語は、接触の1つ以上の強度に基づく、その接触の特性を指す。いくつかの実施形態では、特性強度は複数の強度サンプルに基づく。特性強度は、任意選択的に、既定の数の強度サンプル、すなわち、既定のイベント(例えば、接触を検出した後、接触のリフトオフを検出する前、接触の移動の開始を検出する前若しくは後、接触の終了を検出する前、接触の強度の増大を検出する前若しくは後、及び/又は、接触の強度の減少を検出する前若しくは後の)に関連する既定の期間(例えば、0.05、0.1、0.2、0.5、1、2、5、10秒)の間に収集された強度サンプルのセットに基づく。接触の特性強度は、任意選択的に、接触の強度の最大値、接触の強度の平均(mean)値、接触の強度の平均(average)値、接触の強度の上位10パーセンタイル値、接触の強度の最大の2分の1の値、接触の強度の最大の90パーセントの値などのうちの1つ以上に基づいている。いくつかの実施形態では、特性強度を判定する際に(例えば、特性強度が経時的な接触の強度の平均であるときに)、接触の持続期間が使用される。いくつかの実施形態では、特性強度は、ユーザによって動作が実行されたかどうかを判定するために、1つ以上の強度閾値のセットと比較される。例えば、1組の1つ以上の強度閾値は、任意選択的に、第1の強度閾値及び第2の強度閾値を含む。この例では、第1の閾値を超過しない特性強度を有する接触は、第1の動作をもたらし、第1の強度閾値を超過するが第2の強度閾値を超過しない特性強度を有する接触は、第2の動作をもたらし、第2の閾値を超過する特性強度を有する接触は、第3の動作をもたらす。いくつかの実施形態では、特性強度と1つ以上の閾値との間の比較は、第1の動作を実行するべきか、それとも第2の動作を実行するべきかを判定するために使用されるのではなく、1つ以上の動作を実行するべきか否か(例えば、それぞれの動作を実行するべきか、それともそれぞれの動作を実行するのを取り止めるべきか)を判定するために使用される。
図5Cは、複数の強度センサ524A〜524Dによってタッチ感知ディスプレイスクリーン504上で複数の接触552A〜552Eを検出することを示す。図5Cは、追加として、強度単位に対する強度センサ524A〜524Dの現在の強度測定値を示す強度ダイアグラムを含む。この例では、強度センサ524A及び524Dの強度測定値はそれぞれ9強度単位であり、強度センサ524B及び524Cの強度測定値はそれぞれ7強度単位である。いくつかの実装形態では、集約強度は、複数の強度センサ524A〜524Dの強度測定値の和であり、この例では32強度単位である。いくつかの実施形態では、各接触に、集約強度の一部分であるそれぞれの強度が割り当てられる。図5Dは、力の中心554からの距離に基づいて、集約強度を接触552A〜552Eに割り当てることを示す。この例では、接触552A、552B、及び552Eのそれぞれに、集約強度の8強度単位の接触の強度が割り当てられ、接触552C及び552Dのそれぞれに、集約強度の4強度単位の接触の強度が割り当てられる。より一般的には、いくつかの実装例では、各接触jは、所定の数学関数Ij=A・(Dj/ΣDi)に従って、合計の強度Aの一部分である、それぞれの強度Ijが割り当てられ、ここで、Djは、力の中心からそれぞれの接触jまでの距離であり、ΣDiは、力の中心から全てのそれぞれ接触(例えば、i=1から最後まで)までの距離の和である。図5C〜図5Dを参照して説明した動作は、デバイス100、300又は500と類似若しくは同一の電子デバイスを使用して行うことができる。いくつかの実施形態では、接触の特性強度は、接触の1つ以上の強度に基づいている。いくつかの実施形態では、強度センサは、単一の特性強度(例えば、単一の接触の単一の特性強度)を判定するために使用される。強度ダイアグラムは、表示ユーザインタフェースの一部ではなく、読み手の助けになるように図5C〜図5Dに含まれていることに留意されたい。
いくつかの実施形態では、特性強度を判定する目的のために、ジェスチャの一部分が特定される。例えば、タッチ感知面は、任意選択的に、開始場所から遷移して終了場所に到達する連続するスワイプ接触を受信し、その時点で接触の強度が増大する。この例では、終了場所での接触の特性強度は、任意選択的に、スワイプ接触全体ではなく、連続するスワイプ接触の一部分のみ(例えば、スワイプ接触のうち終了場所の部分のみ)に基づいている。いくつかの実施形態では、任意選択的に、接触の特性強度を判定する前に、平滑化アルゴリズムがスワイプ接触の強度に適用される。例えば、平滑化アルゴリズムは、任意選択的に、非加重移動平均平滑化アルゴリズム、三角平滑化アルゴリズム、中央値フィルタ平滑化アルゴリズム、及び/又は指数平滑化アルゴリズムのうちの1つ以上を含む。いくつかの状況では、これらの平滑化アルゴリズムは、特性強度を判定する目的のために、スワイプ接触の強度の小幅な上昇又は降下を排除する。
タッチ感知面上の接触の強度は、任意選択的に、接触検出強度閾値、軽い押下の強度閾値、深い押下の強度閾値、及び/又は1つ以上の他の強度閾値などの1つ以上の強度閾値に対して特徴付けられる。いくつかの実施形態では、軽い押圧強度閾値は、通常、物理マウスのボタン又はトラックパッドをクリックすることに関連付けられた動作をデバイスが実行する強度に相当する。いくつかの実施形態では、深い押圧強度閾値は、通常、物理マウスのボタン又はトラックパッドをクリックすることに関連付けられた動作とは異なる動作をデバイスが実行する強度に相当する。いくつかの実施形態では、軽い押圧強度閾値を下回る(例えば、それを下回ると接触が検出されなくなる公称接触検出強度閾値を上回る)特性強度を有する接触が検出されたとき、デバイスは、軽い押圧強度閾値又は深い押圧強度閾値に関連付けられた動作を実行することなく、タッチ感知面上の接触の移動に従ってフォーカスセレクタを動かす。一般に、特に明記しない限り、これらの強度閾値は、ユーザインタフェース図の様々なセットの間で一貫している。
軽い押圧強度閾値を下回る強度から、軽い押圧強度閾値と深い押圧強度閾値との間の強度への、接触の特性強度の増大は、「軽い押圧」の入力と呼ばれることがある。深い押圧強度閾値を下回る強度から、深い押圧強度閾値を上回る強度への、接触の特性強度の増大は、「深い押圧」の入力と呼ばれることがある。接触検出強度閾値を下回る強度から、接触検出強度閾値と軽い押圧強度閾値との間の強度への、接触の特性強度の増大は、タッチ面上の接触の検出と呼ばれることがある。接触検出強度閾値を上回る強度から、接触検出強度閾値を下回る強度への、接触の特性強度の減少は、タッチ面からの接触のリフトオフの検出と呼ばれることがある。いくつかの実施形態では、接触検出強度閾値はゼロである。いくつかの実施形態では、接触検出強度閾値は、ゼロより大きい。
本明細書に記載する一部の実施形態では、それぞれの押圧入力を含むジェスチャを検出したことに応じて、又はそれぞれの接触(若しくは複数の接触)によって実行されたそれぞれの押圧入力を検出したことに応じて、1つ以上の動作が実行され、それぞれの押圧入力は、押圧入力強度閾値を上回る接触(又は複数の接触)の強度の増大を検出したことに少なくとも部分的に基づいて検出される。いくつかの実施形態では、それぞれの動作は、押圧入力強度閾値を上回るそれぞれの接触の強度の増大(例えば、それぞれの押圧入力の「ダウンストローク」)を検出したことに応じて実行される。いくつかの実施形態では、押圧入力は、押圧入力強度閾値を上回るそれぞれの接触の強度の増大、及びそれに続く押圧入力強度閾値を下回る接触の強度の減少を含み、それぞれの動作は、それに続く押圧入力閾値を下回るそれぞれの接触の強度の減少(例えば、それぞれの押圧入力の「アップストローク」)を検出したことに応じて実行される。
図5E〜5Hは、図5Eの軽い押圧の強度閾値(例えば、「ITL」)を下回る強度から、図5Hの深い押圧の強度閾値(例えば、「ITD」)を上回る強度への、接触562の強度の増大に対応する押圧入力を含むジェスチャの検出を示す。接触562によって実行されるジェスチャは、タッチ感知面560上で検出され、既定領域574内に表示されたアプリケーションアイコン572A〜572Dを含む表示ユーザインタフェース570上では、アプリ2に対応するアプリケーションアイコン572Bの上にカーソル576が表示される。いくつかの実施形態では、ジェスチャは、タッチ感知ディスプレイ504上に検出される。強度センサは、タッチ感知面560上の接触の強度を検出する。デバイスは、接触562の強度が深い押圧の強度閾値(例えば、「ITD」)を上回ってピークに達したと判定する。接触562は、タッチ感知面560上で維持される。ジェスチャの検出に応答して、ジェスチャ中に深い押圧の強度閾値(例えば、「ITD」)を上回る強度を有する接触562に従って、図5F〜5Hに示すように、アプリ2に対して最近開いた文書の縮尺が低減された表現578A〜578C(例えば、サムネイル)が表示される。いくつかの実施形態では、1つ以上の強度閾値と比較される強度は、接触の特性強度である。接触562に対する強度ダイアグラムは、表示ユーザインタフェースの一部ではなく、読み手の助けになるように図5E〜5Hに含まれていることに留意されたい。
いくつかの実施形態では、表現578A〜578Cの表示は、アニメーションを含む。例えば、図5Fに示すように、表現578Aが、アプリケーションアイコン572Bに近接して最初に表示される。アニメーションが進むにつれて、図5Gに示すように、表現578Aは上方へ動き、表現578Bが、アプリケーションアイコン572Bに近接して表示される。次いで、図5Hに示すように、表現578Aが上方へ動き、表現578Bが表現578Aに向かって上方へ動き、表現578Cが、アプリケーションアイコン572Bに近接して表示される。表現578A〜578Cは、アイコン572Bの上にアレイを形成する。いくつかの実施形態では、アニメーションは、図5F〜5Gに示すように、接触562の強度に従って進行し、接触562の強度が深い押圧の強度閾値(例えば、「ITD」)に向かって増大するにつれて、表現578A〜578Cが現れ、上方へ動く。いくつかの実施形態では、アニメーションの進行が基づいている強度は、接触の特性強度である。図5E〜5Hを参照して説明する動作は、デバイス100、300、又は500に類似又は同一の電子デバイスを使用して実行することができる。
一部の実施形態では、デバイスは、「ジッタ」と呼ばれる場合がある偶発的な入力を回避するために強度ヒステリシスを採用し、デバイスは、押圧入力強度閾値との所定の関係を有するヒステリシス強度閾値を定義又は選択する(例えば、ヒステリシス強度閾値は、押圧入力強度閾値よりも低いX強度単位であり、又はヒステリシス強度閾値は、押圧入力強度閾値の75%、90%、若しくは何らかの妥当な割合である)。したがって、一部の実施形態では、押圧入力は、押圧入力強度閾値を上回るそれぞれの接触の強度の増大、及びそれに続く押圧入力強度閾値に対応するヒステリシス強度閾値を下回る接触の強度の減少を含み、それぞれの動作は、それに続くヒステリシス強度閾値を下回るそれぞれの接触の強度の減少(例えば、それぞれの押圧入力の「アップストローク」)を検出したことに応答して実行される。類似して、一部の実施形態では、押圧入力は、デバイスが、ヒステリシス強度閾値以下の強度から押圧入力強度閾値以上の強度への接触の強度の増大、及び任意選択的に、その後のヒステリシス強度以下の強度への接触の強度の減少を検出するときにのみ検出され、それぞれの動作は、押圧入力(例えば、状況に依存して、接触の強度の増大又は接触の強度の減少)を検出したことに応答して実行される。
説明を容易にするために、押圧入力強度閾値に関連付けられた押圧入力、又は押圧入力を含むジェスチャに応答して実行される動作の説明は、任意選択的に、押圧入力強度閾値を上回る接触の強度の増大、ヒステリシス強度閾値を下回る強度から押圧入力強度閾値を上回る強度への接触の強度の増大、押圧入力強度閾値を下回る接触の強度の減少、及び/又は押圧入力強度閾値に対応するヒステリシス強度閾値を下回る接触の強度の減少のいずれかを検出したことに応答してトリガされる。更に、押圧入力強度閾値を下回る接触の強度の減少を検出したことに応答して実行されるように動作が記載される例では、動作は、任意選択的に、押圧入力強度閾値に対応し、かつそれよりも低いヒステリシス強度閾値を下回る接触の強度の減少を検出したことに応答して実行される。
図5Iは、例示的な電子デバイス580を示す。デバイス580は、本体580Aを含む。いくつかの実施形態では、デバイス580は、デバイス100、300、及び500(例えば、図1A〜5B)に関して説明する特徴のうちのいくつか又は全てを含むことができる。いくつかの実施形態では、デバイス580は、1つ以上のスピーカ580B(本体580Aに隠す)、1つ以上のマイクロフォン580C、1つ以上のタッチ感知面580D、及び1つ以上のディスプレイ580Eを有する。代替の場合、又はディスプレイ及びタッチ感知面580Dに加えて、デバイスは、タッチ感知ディスプレイ(タッチスクリーンとも呼ばれる)を有する。デバイス100、300、及び500と同様に、いくつかの実施形態では、タッチ感知面580D(又はタッチスクリーン)は、任意選択的に、加えられている接触(例えば、タッチ)の強度を検出するための1つ以上の強度センサを含む。タッチ感知面580D(又はタッチスクリーン)の1つ以上の強度センサによって、タッチの強度を表す出力データが提供され得る。デバイス580のユーザインタフェースは、タッチの強度に基づいてタッチに応答することができ、これは、異なる強度のタッチが、デバイス580上で異なるユーザインタフェース動作を呼び出すことができることを意味する。いくつかの実施形態では、1つ以上のディスプレイ580Eは、1つ以上の発光ダイオード(LED)である。例えば、ディスプレイは、単一のLED、LEDクラスタ(例えば、赤色、緑色、及び青色LED)、複数の分離LED、複数の分離LEDクラスタ、又は1つ以上のLEDの他の配置であり得る。例えば、ディスプレイ580Eは、円形状(例えば、リング)に配置された9個の分離LEDクラスタのアレイであってもよい。いくつかの実施例では、1つ以上のディスプレイは、別のタイプの発光要素のうちの任意の1つ以上から構成される。
図5Jは、例示的なパーソナル電子デバイス580を図示する。いくつかの実施形態では、デバイス580は、図1A、図1B、図3、及び図5A〜5Bに関して説明した構成要素のうちのいくつか又は全てを含むことができる。デバイス580は、I/Oセクション594を1つ以上のコンピュータプロセッサ596及びメモリ598に動作可能に結合するバス592を有する。I/Oセクション594は、ディスプレイ582に接続することができ、ディスプレイは、タッチ感知式構成要素584と、任意選択的に強度センサ585(例えば、接触強度センサ)とを有することができる。いくつかの実施形態では、タッチ感知式構成要素584は、ディスプレイ582とは別個の構成要素である。加えて、I/Oセクション594は、Wi−Fi、Bluetooth、近距離通信(NFC)、セルラー、及び/又は他の無線通信技術を使用してアプリケーション及びオペレーティングシステムデータを受信するための通信ユニット590に接続することができる。デバイス580は、入力メカニズム588を含むことができる。いくつかの例では、入力メカニズム588は、任意選択的にボタンである。いくつかの例では、入力メカニズム588は、任意選択的にマイクロフォンである。入力メカニズム588は任意選択的に、複数のマイクロフォン(例えば、マイクロフォンアレイ)である。
電子デバイス580は、音声を出力するスピーカ586を含む。デバイス580は、音声データを受信し、音声データを電気信号に変換し、電気信号をスピーカ586に送信するオーディオ回路(例えば、I/Oセクション594内)を含むことができる。スピーカ586は、電気信号を人間の可聴音波に変換する。オーディオ回路(例えば、I/Oセクション594内)はまた、マイクロフォン(例えば、入力メカニズム588)によって音波から変換された電気信号を受信する。オーディオ回路(例えば、I/Oセクション594内)は、電気信号を音声データに変換する。音声データは、任意選択的に、I/Oセクション594によって、(例えば、通信ユニット590の)メモリ598及び/又はRF回路590から取得され、並びに/若しくはメモリ102及び/又はRF回路108に送信される。
パーソナル電子デバイス580のメモリ598は、コンピュータ実行可能命令を記憶するための1つ以上の非一時的コンピュータ可読記憶媒体を含み得、それらの命令は、1つ以上のコンピュータプロセッサ596によって実行されると、例えば、コンピュータプロセッサに、プロセス800(図8A〜8B)、プロセス1000(図10)、プロセス1200(図12)、プロセス1400(図14)、及びプロセス1600(図16)を含めた、以下に説明する技術を実行させることができる。コンピュータ可読記憶媒体は、命令実行システム、装置、又はデバイスによって使用するための、又は命令実行システム、装置、又はデバイスに接続されているコンピュータ実行可能命令を、有形に含み又は記憶することができる任意の媒体とすることができる。いくつかの実施例では、記憶媒体は、一時的コンピュータ可読記憶媒体である。いくつかの実施例では、記憶媒体は、非一時的コンピュータ可読記憶媒体である。非一時的コンピュータ可読記憶媒体は、それだけに限定されるものではないが、磁気、光学、及び/又は半導体記憶装置を含むことができる。そのような記憶装置の例としては、磁気ディスク、CD、DVD、又はBlu−ray技術に基づく光学ディスク、並びにフラッシュ、ソリッドステートドライブなどの常駐ソリッドステートメモリなどが挙げられる。パーソナル電子デバイス580は、図5Jの構成要素及び構成に限定されるものではなく、他の又は追加の構成要素を複数の構成で含むことができる。
次に、ポータブル多機能デバイス100、デバイス300、又はデバイス500などの電子デバイス上で実装されるユーザインタフェース(「UI」)及び関連付けるプロセスの実施形態に注意を向ける。
図6は、いくつかの実施形態に係る物理的構造及び例示的なデバイスの1組を示す、図600を含む。図6は、図8A〜8B、図10及び図12のプロセスを含む、以下に説明するプロセスを例示するために使用される。
図600は、ホーム602及び1組のデバイス(例えば、デバイス646、デバイス604など)を含む。ホーム602は、キッチン602a、ダイニングルーム602b、寝室602c、リビングルーム602d、及びサンルーム602eなどの、複数の部屋を含む。キッチン602aはホーム602の左上部分にあり、ダイニングルーム602bはキッチン602aと寝室602cの間にあり、ここで寝室602cはダイニングルーム602bの右にある。キッチン602a及びダイニングルーム602bは、それらの間に壁を有していないが、ダイニングルーム602bと寝室602cの間は壁を有している。リビングルーム602dは、ホーム602の左下部分にあり、サンルーム602eは、ホーム602の右下部分にある。いくつかの実施形態では、ホーム602は、図6に図示される部屋以外の部屋を含み、及び/又は図6に図示される部屋を除外する。図600はホームを図示しているが、これは単に一例であり、本明細書に記載される技術は、オフィスビル、ホテル、アパートなどの他のタイプの物理的構造体で機能することができることを認識されたい。
図6に示すように、ホーム602の各部屋は、少なくとも1つのデバイスを有する。しかしながら、いくつかの実施形態では、ホーム602の部屋は、デバイスを有さない。
図6に示すように、ジョンの電話604は、ストーブとヒケの間のカウンター上に位置するキッチン602aにある。ダイニングルーム602bでは、ダイニングルームスピーカ616は、ダイニングルームテーブル上に位置している。寝室602cでは、ベッド上にパーソナルタブレット634が位置しており、寝室スピーカ636がベッドに隣接するナイトスタンド上に位置しており、寝室光632はベッドの反対側に配置される。リビングルーム602dでは、リビングルームスピーカ646及びリビングルームスピーカ648は、テレビの反対側にあり、リビングルームランプ642はテレビスクリーンの前に位置付けられる。サンルーム602eでは、サンルームスピーカ656及びサンルームスピーカ658は、部屋の両側に配置されている。
図6に示すように、コンピュータデバイス674及びジェーンの電話684は、ホーム602の外側にある。コンピュータデバイス674は、ホーム602から距離670である自動車のダッシュボード内の位置であり、ジェーンの電話684は、ホーム602から離れた距離680であり、現在、ジェーンの手元にある。いくつかの実施形態では、コンピュータデバイス674は、携帯電話(例えば、ジョンの電話604及び/又はジェーンの電話684に類似したパーソナルフォン)などの電子デバイスに接続され、電子デバイスは、コンピュータデバイス674にビジュアルコンテンツを表示させる命令をコンピュータデバイス674に提供する。距離670及び距離680は、ホームから離れた(例えば、1、5、10メートル)閾値距離を超えているため、コンピュータデバイス674及びジェーンの電話684は、ホーム602に対応する場所にあるとは見なされない(例えば、ホーム602のジオフェンス内にないか、又はホーム602に関連付けられた(例えば、内に設定された)無線ネットワークに接続されていない)。
この例では、図6に示すスピーカ(例えば、ダイニングルームスピーカ616、寝室スピーカ636、リビングルームスピーカ646、リビングルームスピーカ648、サンルームスピーカ656、及びサンルームスピーカ658)、光(例えば、寝室光632及びリビングルームランプ642)、及びパーソナルデバイス(例えば、ジョンの電話604、タブレット634、コンピュータデバイス674、及びジェーンの電話684)は、(例えば、ジョンのユーザアカウント又はジェーンのユーザアカウントなどのホーム602に関連付けられたユーザアカウントによって)ホーム602に(例えば、対応するグループに)指定される(例えば、プログラムでマッピングされる)。
加えて、それぞれ個々のスピーカ及び光はまた、それが配置された部屋に指定される(例えば、対応するグループにマッピングされる)。例えば、ダイニングルームスピーカ616には、ダイニングルーム602bに(例えば、対応するグループにプログラムでマッピングされる)指定される。寝室スピーカ636及び寝室光632は、寝室602cに指定される。リビングルームランプ642、リビングルームスピーカ646、及びリビングルームスピーカ648は、リビングルーム602dに指定され、サンルームスピーカ656及びサンルームスピーカ658はサンルーム602eに指定される。いくつかの実施形態では、各部屋に対応する各グループもまた、ホーム602に指定される。したがって、ホーム602の部屋にマッピングされるデバイスもまた、ホーム602に同時にマッピングされる。
外部デバイスは、異なる部屋に対応する2つの異なるデバイスグループに指定され得ない。例えば、ダイニングルームスピーカ616は、キッチン602a(例えば、キッチン602aに対応するグループ)及びダイニングルーム602bに同時に指定され得ない。しかしながら、それぞれの部屋にそれぞれ指定された2つのグループのデバイスは、(同じ)ゾーンにマッピングすることができる。この例では、娯楽ゾーン660は、図6のリビングルーム602d及び図6のサンルーム602eに指定される。この例では、娯楽ゾーン660は、ホーム602cの物理的部屋ではない。しかしながら、娯楽ゾーンは、サンルームリビングルーム602d及びサンルーム602eに指定されるものとしてプログラムで定義される。いくつかの実施形態では、2つの異なるゾーンは、デバイスのグループを共有する(例えば、いくつかの重畳するデバイスを含み、それぞれがいくつかの非重畳デバイスを含む)。例えば、サンルーム602eに指定されたデバイスのグループは、娯楽ゾーン660及び摂食ゾーンにマッピングすることができる(例えば、摂食ゾーンは、ダイニングルーム602b及びサンルーム602eに指定されたデバイスのグループに指定される)。
この例では、パーソナルデバイス(例えば、ジョンの電話604、タブレット634、及びジェーンの電話684)は、部屋に対応するグループにプログラムマッピングされず、ホームに対応するグループにのみマッピングされる。
いくつかの実施形態では、図6に示すスピーカ、光、及びパーソナルデバイス(例えば、ジョンの電話604、タブレット634、ジェーンの電話684)は、1つ以上のネットワーク(例えば、無線ネットワーク(例えば、Bluetooth、NFC、Wi−Fi、4Gなど))を介して互いに直接的に接続された、又は間接的に接続されたスマートデバイスである。いくつかの実施形態では、スマートアプライアンス、スマートサーモスタット、スマートプラグアウトレットなどの他のスマートデバイスは、1つ以上のネットワークに接続される。いくつかの実施形態では、1つ以上のパーソナルデバイスはまた、スマートウォッチ、ラップトップコンピュータ、デスクトップなどの他のタイプのパーソナルデバイスを含むことができる。
図7A〜7AHは、いくつかの実施形態に係る、音声メッセージを送信するための例示的な電子デバイス及びユーザインタフェースを示す。これらの図におけるユーザインタフェースは、図8A〜8Bにおけるプロセスを含む、以下で説明するプロセスを例示するために使用される。
図7Aは、ユーザインタフェース702を表示する電子デバイス700を示す。図7Aでは、電子デバイス700は、ポータブル多機能デバイスであり、デバイス100、200、300、及び500のうちの任意の1つ以上に関して上述した1つ以上の構成要素を有する。以下の図に関して、いくつかの実施形態では、デバイス700は、ホーム602から離れた所定の距離未満の場所で動作している。しかしながら、他の実施形態では、デバイス700は、ホーム602から離れた所定の距離よりも遠い場所で動作している。いくつかの実施形態では、デバイス700は、ホーム602に関連付けられたネットワーク(例えば、無線ネットワーク)に接続され、そのため、デバイス700は、ホーム602に位置する少なくとも1つのデバイス(例えば、スピーカ、光)が接続される同じ無線ネットワークに接続される。いくつかの実施形態では、2つ以上の無線ネットワークは、ホーム602に関連付けられる。いくつかの実施形態では、デバイス700は、それらのネットワークのうちの少なくとも1つに接続される。いくつかの実施形態では、デバイス700は、ホーム602に関連付けられた1つ以上のネットワークに接続されない。したがって、デバイス700は、デバイス700がホーム602又はデバイス700が接続されているネットワークからの距離に関わりなく、音声マルチキャストメッセージを送信し、ホーム602内のデバイスと通信することができる。
この説明は多くの場合、マルチキャストメッセージ(又は音声マルチキャストメッセージ)としてメッセージを指すが、このようなメッセージは任意選択的に、(1)マルチキャスト通信、(2)ブロードキャスト通信、(3)ユニキャスト通信、(4)又はこれらの任意の組み合わせを使用して送信される(例えば、(1)第1のデバイス(例えば、コントローラ)は、ユニキャスト通信を第2のデバイス(例えば、ホームのハブ)に送信し、(2)第2のデバイスは、(例えば、ユニキャスト通信からのコンテンツを含む)マルチキャスト又はブロードキャスト通信のいずれかを1つ以上の第3のデバイス(例えば、ホーム及び/又は1つ以上のパーソナルデバイス内の1つ以上のアクセサリデバイス)に送信する)。いくつかの実施形態では、マルチキャスト通信は、複数の受信者に送信される通信である。いくつかの実施形態では、ブロードキャスト通信は、チャネル又はネットワーク上のデバイスに送信される通信である。いくつかの実施形態では、ブロードキャスト通信は、チャネル又はネットワーク上の全てのデバイスに送信される通信である。いくつかの実施形態では、ユニキャスト通信は、単一の受信者に送信される通信である。そのような実施形態では、コンテンツが複数のデバイスに送信される必要がある場合、複数のユニキャスト通信が送信される。
いくつかの実施形態では、ブロードキャスト通信は、チャネル又はネットワーク上の全てのデバイスに送信される通信である。そのような実施形態では、コンテンツが複数のデバイスに送信される必要がある場合、複数のユニキャスト通信が送信される。
図7Aに示すように、ユーザインタフェース702は、ホームアプリケーションアイコン704aなどのアプリケーションアイコン704を含む。アプリケーションアイコン704のそれぞれは、アプリケーションアイコンが選択されると、デバイス700にそれぞれのアプリケーションのユーザインタフェースを表示させるように、アプリケーションに対応する。例えば、ホームアプリケーションアイコン704aは、ホームアプリケーションに対応する。図7Aでは、デバイス700は、ホームアプリケーションアイコン704aに対応する場所でタップジェスチャ750a(例えば、選択)を検出する。
図7Bに示すように、タップジェスチャ750aの検出に応答して、デバイス700は、ホームアプリケーションのユーザインタフェース710を表示する。ユーザインタフェース710は、ホーム602に指定された複数の外部デバイスを制御するためのユーザインタフェースである。ユーザインタフェース710は、ホーム場所識別子712、状態情報714、マクロ制御716、外部デバイス制御718、ナビゲーション制御722、ホームマルチキャスト命令724、及びホームマルチキャストアフォーダンス726(例えば、選択可能なユーザインタフェースオブジェクト対象)を含む。
ホーム場所識別子712は、ホーム602に対応する名前である。この例では、場所識別子は、ホーム602のアドレス(例えば、「メインストリート123番地」)の一部である。いくつかの実施形態では、場所識別子は、ホームに指定されたエイリアスなどのエイリアスである。いくつかの実施形態では、エイリアスは、システム作成エイリアスである。いくつかの実施形態では、エイリアスは、ユーザ作成エイリアスである。いくつかの実施形態では、場所識別子は、デバイス700のユーザ又は外部デバイスによって設定される。いくつかの実施形態では、場所識別子は、画像などのグラフィカルユーザインタフェースオブジェクト対象である。
状態情報714は、ホーム602に指定されたデバイスの一部の現在の状態に関する情報を含む。ここで、状態情報714は、少なくとも1つの光がホーム602にあることを示す。いくつかの実施形態では、状態情報714は、複数のデバイス(例えば、「寝室ファンオン」)の状態に関する情報を含む。
図7Bに示すように、ホーム場所識別子712及び状態情報714の下に2行のマクロ制御716が存在する。マクロ制御716は、それぞれのマクロを開始するためのアフォーダンス(例えば、選択可能なユーザインタフェースオブジェクト対象)である。いくつかの実施形態では、それぞれのマクロは、1つ以上の外部デバイスにアクションを実行させる。例えば、「おやすみ」マクロ制御は、選択されると、1つ以上の光をオフにさせる、1つ以上のスピーカに再生メディアを停止させる、及び/又は1つ以上のデッドボルトロックをロックさせる。
更に、図7Bでは、ユーザインタフェース710は、マクロ制御716の下の外部デバイス制御718のための行を含む。図7Bでは、外部デバイス制御718の2つの行は3列にわたって延在するため、合計6つの表示がある(例えば、3つのデバイス制御がそれぞれの対応する行上にある場合)。いくつかの実施形態では、ユーザは、より少ない外部デバイス制御718を必要とする制御のために、より少ない外部デバイスを有することができる。他の実施形態では、ユーザは、より多くの外部デバイス制御718を必要とする制御のために、より多くの外部デバイスを有することができる。いくつかの実施形態では、利用可能なスクリーンスペースよりも外部デバイス制御718が表示されると、スクリーンは、全ての外部デバイス制御を表示するために、スクロールする(例えば、上下又は左及び右)。外部デバイス制御718は、ダイニングルームスピーカ制御718a、リビングルームランプ制御718b、リビングルームスピーカ制御718c、サンルームスピーカ制御718d、寝室スピーカ制御718e、及び寝室光制御718fを含む。更に、外部デバイス制御718のそれぞれは、それぞれ対応する外部デバイスの現在の状態を表す状態情報を含む。例えば、ダイニングルームスピーカ制御718aの状態情報は、ダイニングルームスピーカ616がメディアを現在再生中であり(この例では状態情報714によって表されていない)、リビングルームランプ制御718bの状態情報は、リビングルームランプ642が現在オフであることを示す(この例では状態情報714によって表される)。
外部デバイス制御718のそれぞれは、選択されたときに、ホーム602に指定された少なくとも1つのデバイスを制御する。例えば、ダイニングルームスピーカ制御718aを選択すると、ダイニングルームスピーカ616に音楽を再生又は休止させる。いくつかの実施形態では、ダイニングルームスピーカ制御718aが選択されると、ダイニングルームスピーカ制御718aの状態情報は変化して、ダイニングルームスピーカ616がメディアの再生を休止したこと(例えば、寝室スピーカ制御718eによって示すように)、又はメディアの再生を停止していることを示す。外部デバイス制御718のいくつかは、選択されたときに複数のデバイスを制御する。例えば、サンルームスピーカ制御718dは、選択されると、サンルームスピーカ656及び658にメディアの再生を再生又は休止させ、サンルームスピーカ制御718d上に表示される状態情報はそれに応じて変化する。外部デバイス制御718のいくつかは、スピーカデバイス制御ではない。例えば、外部デバイス制御718は、リビングルームランプ制御718bを含み、選択されると、リビングルームランプ制御718bに、リビングルームランプ642をオン/オフにさせ、リビングルームランプ制御718b上に表示される状態情報はそれに応じて変化する。
いくつかの実施形態では、外部デバイス制御718は、ホーム602にも指定された他の外部制御のグループから選択される。例えば、図7Bに示す6つの制御は、ホーム602にも指定された10、20、又は50(又は6よりも多い任意の他の数)の外部制御から選択することができる。いくつかの実施形態では、外部デバイス制御718は、これらの外部デバイス制御のそれぞれがお気に入りの制御であるという判定に基づいて選択される。いくつかの実施形態では、外部デバイスがお気に入りの制御であるかどうかの判定は、外部デバイス制御(又は外部デバイス)が直近に使用された、最も頻繁に使用された、新しく追加された、お気に入りの重要な外部デバイス制御として指定された(例えば、1つ以上の入力の検出を介して)、など、又はこれらの任意の組み合わせに基づいている。
ユーザインタフェース710の下部は、ナビゲーション制御722である。ナビゲーション制御722は、ホームナビゲーション制御722a、部屋ナビゲーション制御722b、及び自動化ナビゲーション制御722cを含む。ナビゲーション制御722のそれぞれは、選択されると、デバイス700に、ホームアプリケーションのための異なるユーザインタフェースを表示させる。
図7Bに示すように、ユーザインタフェース710は、ホームマルチキャストアフォーダンス726に隣接するホームマルチキャスト命令724を含む。図7Bでは、ホームマルチキャスト命令724は、ホーム602に指定された1つ以上のデバイスにマルチキャストされる音声メッセージを送信するために、ホームマルチキャストアフォーダンス726をユーザが選択(例えば、「タップ」)する必要があることを示す。図7Bでは、デバイス700は、ホームマルチキャストアフォーダンス726に対応する場所でタップジェスチャ750bを検出する。
タップジェスチャ750bの検出に応答して、デバイス700は、音声マルチキャストメッセージをホーム602に指定された1つ以上のデバイスに送信するためのプロセスを開始する。いくつかの実施形態では、プロセスは、以下で説明するように、図7C、図7D、及び図7Eに図示されるユーザインタフェースを表示することを含む。いくつかの実施形態では、プロセスは、以下で説明するように、図7C1に図示されるユーザインタフェースを表示することを含む。
図7Cに示すように、タップジェスチャ750bの検出に応答して、ユーザインタフェース730は、ホーム宛先識別子732、終了アフォーダンス734、及びマルチキャスト記録アフォーダンス736を含む。ホーム宛先識別子732は、音声マルチキャストメッセージが、ホーム602に指定されたデバイスのグループに向けられたことを示す(例えば、音声マルチキャストメッセージを受信する)。終了アフォーダンス734は、ユーザインタフェース730から出るためのアフォーダンスである。いくつかの実施形態では、終了アフォーダンス734が選択されると、デバイス700は、図7Bに図示すように、ユーザインタフェース730の表示を中止し、ユーザインタフェース710を再表示する。図7Cでは、デバイス700は、マルチキャスト記録アフォーダンス736に対応する場所でタップジェスチャ750cを検出する。
図7Dに示すように、タップジェスチャ750cの検出に応答して、デバイス700はユーザインタフェース740を表示する。ユーザインタフェース740は、ユーザインタフェース730にも含まれていた、ホーム宛先識別子732と終了アフォーダンス734を含む。加えて、ユーザインタフェース740はまた、音声状態バー742及び音声波744aを含む。
更に、図7Dでは、デバイス700はまた、タップジェスチャ750cの検出に応答して、音声マルチキャストメッセージの記録を開始する。音声マルチキャストメッセージの音声は、デバイス700の1つ以上のマイクロフォンを介して検出される。音声マルチキャストメッセージの音声は、1つ以上の外部ソース(例えば、ユーザ音声など)から検出される。ここで、記録された音声は音声波744aによって表され、それは、デバイス700によってより多くのオーディオ入力が受信されると、時間のある期間にわたって音声状態バー742を充填する。
図7Dに示すように、タップジェスチャ750cの検出に応答して、デバイス700は、マルチキャスト記録アフォーダンス736が以前に図7Cに表示された位置で、マルチキャスト記録停止アフォーダンス746を表示する。図7Dでは、デバイス700は、マルチキャスト記録停止アフォーダンス746に対応する場所でタップジェスチャ750dを検出する。
図7Eに示すように、タップジェスチャ750dの検出に応答して、デバイス700はユーザインタフェース750を表示する。図7Eでは、タップジェスチャ750dの検出に応答して、デバイス700は、1つ以上の外部ソースからの音声の記録又はキャプチャを中止している。したがって、ユーザインタフェース750は、記録された音声マルチキャストメッセージの少なくとも一部を表す、音声波744aによってほとんど充填された音声状態バー742を含む。図7Eに示すように、ユーザインタフェース750は、音声マルチキャストメッセージ再生アフォーダンス752及び音声マルチキャストメッセージ削除アフォーダンス754を含む(例えば、ホーム宛先識別子732、終了アフォーダンス734、音声状態バー742、音声波744aを含むことに加えて)。いくつかの実施形態では、音声マルチキャストメッセージ再生アフォーダンス752の選択の検出に応答して、デバイス700は、音声マルチキャストメッセージの再生を開始する。いくつかの実施形態では、音声マルチキャストメッセージ削除アフォーダンス754の選択の検出に応答して、デバイス700は、音声マルチキャストメッセージを削除する。いくつかの実施形態では、音声マルチキャストメッセージ削除アフォーダンス754の選択の検出に応じて、デバイス700は、ユーザインタフェース710、730、及び/又は740を再表示する。
図7Eに示すように、タップジェスチャ750dの検出に応答して、デバイス700は、マルチキャスト記録停止アフォーダンス746が図7Dに以前に表示された位置(図7Cではマルチキャスト記録アフォーダンス736が表示された位置)で、マルチキャスト送信アフォーダンス756を表示する。
図7C、図7D、及び図7Eに記載されたフローの代替の場合、デバイス700は、図7Bでのタップジェスチャ750bの検出に応答して、図7C1に示すユーザインタフェースを表示することができる。図7C1に示すように、タップジェスチャ750bの検出に応答して、デバイス700は、ユーザインタフェース741を表示し、(例えば、タップジェスチャ750cなどの任意の更なるジェスチャを検出することなく)音声マルチキャストメッセージの記録を自動的に開始する。図7C1に示すように、ユーザインタフェース741は、図7C、図7D、及び図7Eに関連して上述したものと類似の技術を使用してデバイス700が表示する、ホーム宛先識別子732、終了アフォーダンス734、音声波744a、マルチキャスト送信アフォーダンス747を含む。例えば、図7C1では、音声波744aは動的であり、音声が記録されている時間の長さにわたって現在記録されている音声の1つ以上の特性(例えば、レベル、ピッチ、階調)に関して経時的に変化する。いくつかの実施形態では、音声が記録されている時間の長さにわたって音声が記録されている際、音声波744aは左に移動する。
いくつかの実施形態では、音声は、7C、7D、及び7Eに記載されたフローを通して、及び/又は図7Cに記載されたフローを通す代わりに、図7Bのユーザインタフェース710又は図7C1のユーザインタフェース741を使用して記録される。例えば、ホームマルチキャストアフォーダンス726上での保持ジェスチャの検出に応答して、デバイス700は、音声マルチキャストメッセージの記録を開始する。そのような例では、記録は、保持ジェスチャが終了する(例えば、解放される)ときに停止され、ホームマルチキャストアフォーダンス726を送信アフォーダンス(例えば、マルチキャスト送信アフォーダンス756と類似)で置き換えることが発生する。いくつかの実施形態では、保持ジェスチャが終了すると、音声はマルチキャストメッセージとして自動的に送信される。いくつかの実施形態では、保持ジェスチャが終了すると、ホームマルチキャスト命令724は、音声を再生するためのアフォーダンス(例えば、音声状態バー742と類似)及び音声を削除するためのアフォーダンス(例えば、音声マルチキャストメッセージ削除アフォーダンス754と類似)に置き換えられる。別の例では、ホームマルチキャストアフォーダンス726上でのタップジェスチャの検出に応答して、ホームマルチキャストアフォーダンス726は、マルチキャスト記録アフォーダンス736と類似に動作する(例えば、(マルチキャスト記録停止アフォーダンス746と類似の)停止アフォーダンスと置き換えられる)。そのような例では、停止アフォーダンス上でのタップジェスチャの検出に応答して、(1)停止アフォーダンスは、(例えば、マルチキャスト送信アフォーダンス756と類似の)送信アフォーダンスと置き換えられ、(2)ホームマルチキャスト命令724は、音声を再生するための(例えば、音声状態バー742と類似の)アフォーダンス及び(例えば、音声マルチキャストメッセージ削除アフォーダンス754と類似の)音声を削除するためのアフォーダンスと置き換えられる。図7Eで、デバイス700は、マルチキャスト送信アフォーダンス756に対応する場所でタップジェスチャ750eを検出し、又は図7C1でデバイス700、デバイスは、マルチキャスト送信アフォーダンス747に対応する場所でタップジェスチャ750c1を検出する。
図7Fに示すように、タップジェスチャ750e又はタップジェスチャ750c1(又は、先の段落で説明したような送信アフォーダンス上のタップジェスチャ)の検出に応答して、デバイス700は、音声マルチキャストメッセージを、ホーム602に指定された1組の外部デバイスにマルチキャスト(送信)させる。そのような送信は任意選択的に、(1)音声マルチキャストメッセージを含むメッセージを別のデバイス(例えば、ホーム内に配置されたデバイス)に送信すること、及び(2)他のデバイスが、音声マルチキャストメッセージを1組の外部デバイスに送信すること(いくつかの実施形態では、他のデバイスは、デバイス700の代わりに、外部デバイスの1組を識別する)を含む。表706は、音声マルチキャストメッセージが向けられた外部デバイスを示すために提供される。例えば、「受信した音声マルチキャストメッセージ」列のチェックマークは、音声マルチキャストメッセージがチェックマークのそれぞれの行上の外部デバイスに向けられ(例えば、送信され)たことを示し、「受信した音声マルチキャストメッセージ」列のダッシュは、音声マルチキャストメッセージがダッシュのそれぞれの列上の外部デバイスに向けられなかった(例えば、送信されていない)ことを示す。
図7Fでは、表706は、音声マルチキャストメッセージが各スピーカ(例えば、ダイニングルームスピーカ616、寝室スピーカ636、リビングルームスピーカ646、リビングルームスピーカ648、サンルームスピーカ656、及びサンルームスピーカ658)に向けられた(及び受信された)ことを示す。特に、音声マルチキャストメッセージはまた、パーソナルデバイス(例えば、ジョンの電話604、タブレット634、及びジェーンの電話684)にも向けられた。いくつかの実施形態では、音声マルチキャストメッセージは、パーソナルデバイスがホームに対応する場所にあったかどうか関係なく(例えば、距離670及び680が閾値距離を超えるかどうかに関係なく)パーソナルデバイスに向けられる。例えば、音声マルチキャストメッセージは、図6では、ホーム602の内側に位置するジョンの電話604及びタブレット634に向けられた。加えて、音声マルチキャストメッセージはまた、ホーム602の外側にある、コンピュータデバイス674及びジェーンの電話684(それぞれ、ホーム602から距離670及び距離680離れている)に向けられた。いくつかの実施形態では、音声マルチキャストメッセージは、パーソナルデバイスがホームのネットワークに含まれているかどうかに依存するパーソナルデバイスに向けられる(例えば、パーソナルデバイスがホームのネットワークに含まれている場合には、音声マルチキャストメッセージはパーソナルデバイスに向けられる)。
図7Fの表706はまた、音声マルチキャストメッセージが、いくつかの外部デバイスに向けられていなかった(したがって、音声マルチキャストメッセージを受信しなかった)ことを示すが、それらはホーム602に指定されている。例えば、表706は、音声マルチキャストメッセージが寝室光632及びリビングルームランプ642に向けられていないことを示す。いくつかの実施形態では、音声マルチキャストメッセージは、音声マルチキャストメッセージが送信されているデバイスのグループに指定されているかどうかにかかわらず、音声マルチキャストメッセージは、いくつかのタイプの外部デバイスに向けられない。いくつかの実施形態では、これらのタイプの外部デバイスは、1つ以上のオーディオ入力デバイス(例えば、マイクロフォン)及び/又は1つ以上のオーディオ出力機器(例えば、スピーカ)を有さないデバイスを含む。いくつかの実施形態では、これらのタイプの外部デバイスは、音声メッセージが送信される時間(又は時間の前)に、非アクティブであるか、給電されていない、又は機能しないデバイスを含む。
図7Fに示すように、タップジェスチャ750e又はタップジェスチャ750c1(又は上述のように、送信アフォーダンス上のタップジェスチャ)を検出した後のある時点で、デバイス700は、ユーザインタフェース710を再表示する。いくつかの実施形態では、ユーザインタフェース710は、デバイス700がタップジェスチャ750e又はタップジェスチャ750c1を検出した後に任意の追加入力を検出することなく(例えば、タップジェスチャ750e又はタップジェスチャ750c1(又は、送信アフォーダンス上のタップジェスチャ)を検出した後の所定の時間の期間後に)(上述のように、(例えば、タップジェスチャを検出した後の所定の時間の期間後に))表示される。いくつかの実施形態では、ユーザインタフェース710は、図7Eの終了アフォーダンス734上で検出されるタップジェスチャ入力などの、1つ以上の追加入力が検出されると、ユーザインタフェース710が表示される。
いくつかの実施形態では、リビングルームランプ制御718bに対応する場所でのタップジェスチャ750f1の検出に応答して、デバイス700は、リビングルームランプ642をオン(又は現在の状態がオンであった場合はオフ)にする命令を送信する。いくつかの実施形態では、リビングルームスピーカ制御718cに対応する場所でのタップジェスチャ750f2の検出に応答して、デバイス700は、リビングルームスピーカ646及び648(又はそれらのうちの少なくとも1つ)に、メディアの再生を開始させる(例えば、又は現在の状態が再生している場合にメディアの再生を休止させる)命令を送信する。図7Fで、デバイス700は、部屋ナビゲーションアフォーダンス722bに対応する場所でタップジェスチャ750f3を検出する。
図7Gに示すように、タップジェスチャ750f3の検出に応答して、デバイス700は、ホームアプリケーションのユーザインタフェース760を表示し、ホームナビゲーション制御722a(例えば、図7Gでは太字ではない)の代わりに、ホームナビゲーション制御722b(例えば、図7Gでは太字)が選択されていることを示す。ユーザインタフェース760は、リビングルーム場所識別子762によって示されるように、リビングルーム602dに指定された複数の外部デバイスを制御するためのユーザインタフェースである。ユーザインタフェース710は、マクロ制御766、外部デバイス制御768、ナビゲーション制御722、リビングルームマルチキャスト命令774、及びリビングルームマルチキャストアフォーダンス776を含む。ユーザインタフェース760のこれらの要素は、ホーム全体のデバイスの制御であるユーザインタフェース710の要素とは対照的に、リビングルームのデバイスのための特定の制御である。いくつかの実施形態では、ユーザインタフェース760のこれらの要素のうちの任意の1つ以上は、上述した(例えば、図7Bの)ユーザインタフェース710の要素のうちの任意の1つ以上に類似の目的又は機能性を有する。いくつかの実施形態では、ユーザインタフェース760は、リビングルーム602dに指定されたデバイスの現在の状態を含む状態情報を含む。いくつかの実施形態では、デバイス700は、ユーザインタフェース710上でスワイプジェスチャを受信した後に、ホームアプリケーションのユーザインタフェース760を表示する。
特に、ホームアプリケーションのユーザインタフェース(例えば、ユーザインタフェース710及び760)は、階層にレイアウトされる。例えば、ユーザインタフェース710は、階層の上位ノードであり、ホーム602に指定された外部デバイスのグループのための制御を含む。ユーザインタフェース710を表示している間、デバイス700にユーザインタフェース760を表示させる入力(例えば、単一の入力(例えば、タップジェスチャ750f))を検出することができ、それは、階層の下位ノードであり、ホーム602のそれぞれの部屋(例えば、リビングルーム602d)(及び他の部屋ではない)に指定された、外部デバイスのグループのための制御を含む。
図7Gに示すように、外部デバイス制御768は、リビングルームスピーカ制御768a、リビングルームランプ制御768b、リビングルームスイッチ(例えば、光スイッチ)制御768c、及びリビングテレビ制御768dを含む。図7Gでは、リビングルームスピーカ制御768a及びリビングルームランプ制御768bは、選択されると、リビングルームランプデバイス制御718b及びリビングルームスピーカデバイス制御718cが、それらのそれぞれの外部デバイスに(例えば、図7Bで)実行させるアクションではなく、対応する外部デバイスのそれぞれに、同じアクションを実行させる。したがって、この例では、リビングルームスピーカ制御768a及びリビングルームランプ制御768bは、リビングルームスピーカデバイス制御718c及びリビングルームランプデバイス制御718bと効果的に同じ制御であるが、それらはそれらに対応する部品のそれぞれとは視覚的に外観が異なる。いくつかの実施形態では、リビングルームスピーカ制御768a及びリビングルームランプ制御768bは、リビングルームスピーカデバイス制御718c及びリビングルームランプデバイス制御718bと視覚的に外観が異なって見えない。
図7Bに表示された外部デバイス制御718と比較すると、外部デバイス制御768は、図7Bの外部デバイス制御718の一部として表示された少なくとも1つの外部デバイス制御(例えば、リビングルームスピーカ制御768a及びリビングルームランプ制御768b)、及び表示されていない少なくとも1つの外部デバイス制御(例えば、リビングルームスイッチ制御768c及びリビングルームテレビ制御768d)を含む。換言すれば、少なくとも1つの外部デバイス(例えば、リビングルームスピーカ646及び648)は、ユーザインタフェース710及び760から制御することができ、少なくとも1つの外部デバイス(例えば、寝室スピーカ636及びユーザインタフェース760のリビングルームテレビ)は、ユーザインタフェース710及びユーザインタフェース760のうちの1つのみからのみ制御することができる。いくつかの実施形態では、リビングルームランプ制御768bに対応する場所でのタップジェスチャ750g1の検出に応答して、デバイス700は、リビングルームランプ642をオン(又は現在の状態がオンであった場合はオフ)にする命令を送信する。いくつかの実施形態では、リビングルームスピーカ制御768aに対応する場所でのタップジェスチャ750g2の検出に応答して、デバイス700は、リビングルームスピーカ646及び648(又はそれらのうちの少なくとも1つ)に、メディアの再生を開始させる(例えば、又は現在の状態が再生している場合にメディアの再生を休止させる)命令を送信する。
加えて、外部デバイス制御718は、図7Bのホーム602のお気に入りの制御の1組であると指定されているが、外部デバイス制御768は、図7Gのリビングルーム602dに指定された全ての制御の1組である。図7Bでは、ユーザインタフェース760は、リビングルーム602dに指定されていない外部デバイスを全く含まない。例えば、ダイニングルームスピーカ制御718a、サンルームスピーカデバイス制御718d、寝室スピーカデバイス制御718e、及び寝室光デバイス制御718fは、ユーザインタフェース760上に表示されない。いくつかの実施形態では、タップジェスチャ750f3の検出に応答して、別の部屋(例えば、寝室、サンルーム、キッチンなど)のための複数の外部デバイスを制御するためのユーザインタフェースが表示される。いくつかの実施形態では、別の部屋のための複数の外部デバイスを制御するためのユーザは、図7Gで検出される1つ以上の入力(例えば、スワイプ入力)に応答して表示される。
図7Gに示すように、ユーザインタフェース760は、リビングルームマルチキャストアフォーダンス776に隣接するリビングルームマルチキャスト命令774を含む。図7Gでは、リビングルームマルチキャスト命令774は、ユーザがリビングルーム602dに指定された1つ以上のデバイスにマルチキャストされる音声マルチキャストメッセージを送信するために、リビングルームマルチキャストアフォーダンス776を選択(例えば、「タップ」)する必要があることを示す。ここで、リビングルームマルチキャストアフォーダンス776は、(例えば、図7Bの)ホームマルチキャストアフォーダンス726とは視覚的に外観が異なって見えず、ホームマルチキャストアフォーダンス726が図7Bで表示されたデバイス700上の同じ位置に表示される。いくつかの実施形態では、リビングルームマルチキャストアフォーダンス776は、ホームマルチキャストアフォーダンス726と視覚的に外観が異なるように見える。図7Gでは、デバイス700は、リビングルームマルチキャストアフォーダンス776に対応する場所でタップジェスチャ750g3を検出する。
タップジェスチャ750g3の検出に応答して、デバイス700は、音声マルチキャストメッセージをリビングルーム602dに指定された1つ以上のデバイスに送信するためのプロセスを開始する。いくつかの実施形態では、プロセスは、図7Hに図示するような、ユーザインタフェース780aを表示することを含む。いくつかの実施形態では、プロセスは、デバイス700がタップジェスチャ750g3の検出に応答して表示される、図7C1のユーザインタフェース741と類似のユーザインタフェースを表示することを含む。いくつかの実施形態では、プロセスは、デバイス700が図7C1のユーザインタフェース741と類似のユーザインタフェースを表示して、リビングルーム602dに指定されたデバイスのグループに送信する音声マルチキャストメッセージを記録することを含む。いくつかの実施形態では、プロセスは、図7H〜7Jに後述するように、デバイス700がユーザインタフェースを表示することを含み、ここで音声が記録され、リビングルーム602dに指定されたデバイスのグループに送信される。
図7Hに示すように、タップジェスチャ750g3の検出に応答して、ユーザインタフェース780aは、ユーザインタフェース780aが終了アフォーダンス734及びマルチキャスト記録アフォーダンス736も含むように、図7Cのユーザインタフェース730と類似である。しかしながら、ユーザインタフェース780aは、ホーム宛先識別子732の代わりに、リビングルーム宛先識別子782を含む。リビングルーム宛先識別子782は、リビングルーム602dに指定されたデバイスのグループが、ユーザインタフェース780aを介して送信されたマルチキャストメッセージを受信することを示す。いくつかの実施形態では、ユーザインタフェース780aは、グループの一部であるデバイスの個々の名前/識別子をリスト表示しない。いくつかの実施形態では、ユーザインタフェース730に関して上述した1つ以上の技術をユーザインタフェース780aに適用することができる。
図7Kを参照すると、いくつかの実施形態では、ユーザインタフェース780bは、タップジェスチャ750g3の検出に応答して、リビングルーム602dに指定された1つ以上の(又は全ての)外部デバイス(例えば、スピーカ)が利用できない(例えば、非アクティブ又はオフである)という判定に従って表示される。図7Kに示されるように、ユーザインタフェース780bは、リビングルーム602dに指定された外部デバイスのうちの任意の1つ以上が利用不可能であり(又は、全てで全て未満が利用不可能である場合ではない)、マルチキャスト記録アフォーダンス736が、グレー表示又はグレーアウトとして表示されることを示すための利用不可能な示唆788を含む。図7Kでは、タップジェスチャ750kの検出に応答して、デバイス700は、マルチキャスト記録アフォーダンス736が無効化されるため、ユーザインタフェース780bの表示を継続する(例えば、リビングルーム602dに指定された1つ以上の外部デバイスが利用可能になるまで)。いくつかの実施形態では、図7Cでデバイス700がタップジェスチャ750cを検出したことに応答して、ユーザインタフェース780bと類似のユーザインタフェースが表示される。
図7Hに戻ると、デバイス700は、マルチキャスト記録アフォーダンス736に対応する場所でタップジェスチャ750hを受信する。
図7Iに示すように、タップジェスチャ750hの受信に応答して、デバイス700は、1つ以上の外部ソースから(例えば、デバイス700のマイクロフォンを使用して)音声の記録を開始し、図7Dのユーザインタフェース740と類似のユーザインタフェース784を表示する。ユーザインタフェース740のように、ユーザインタフェース784は、終了アフォーダンス734、音声状態バー742、及びマルチキャスト記録停止アフォーダンス746を含む。しかしながら、ユーザインタフェース784は、音声波744aによって表される図7Dに記録された音声から記録されている、異なる音声を表す音声波744bを含む。ユーザインタフェース784はまた、ホーム宛先識別子732の代わりに、リビングルーム宛先識別子782を含む。いくつかの実施形態では、ユーザインタフェース740に関して上述した1つ以上の技術をユーザインタフェース784に適用することができる。図7Iでは、デバイス700は、マルチキャスト記録停止アフォーダンス746に対応する場所でタップジェスチャ750iを検出する。
図7Jに示すように、タップジェスチャ750iの検出に応答して、デバイス700は、ユーザインタフェース786を表示し、1つ以上の外部ソースからの音声の記録又はキャプチャを停止する。ユーザインタフェース786は、(音声波744aの代わりに)表示されている音声波744b、及び(ホーム宛先識別子732の代わりに)表示されているリビングルーム宛先識別子782を除いて、ユーザインタフェース750と類似している。いくつかの実施形態では、ユーザインタフェース750に関して上述した1つ以上の技術をユーザインタフェース786に適用することができる。図7Jでは、デバイス700は、マルチキャスト送信アフォーダンス756に対応する場所でタップジェスチャ750j(又は、上述したように、図7C1のユーザインタフェース741と類似したユーザインタフェース上でのタップジェスチャ(例えば、タップジェスチャ750c1と類似))を検出する。
いくつかの実施形態では、デバイス700は、図7Lに示すように、タップジェスチャ750j(又は、上述したように、図7C1のユーザインタフェース741と類似のユーザインタフェース上でのタップジェスチャ(例えば、タップジェスチャ750c1と類似)の検出に応答して、ユーザインタフェース790を表示する。デバイス700は、音声マルチキャストメッセージがリビングルーム602dに指定された外部デバイスの1つ以上(又は全て)に伝送することができないとの判定のとき、ユーザインタフェース790を表示する。ユーザインタフェース790は、音声マルチキャストメッセージが目標化された外部デバイスに伝送されなかったことを示すために、示唆791を伝送しない。いくつかの実施形態では、デバイス700が図7Eのタップジェスチャ750e又は図7C1のタップジェスチャ750c1を検出したことに応答して、ユーザインタフェース790と類似のユーザインタフェースが表示される。
いくつかの実施形態では、ユーザインタフェース730、740、750、780a、780b、784、786、及び790のうちの任意の1つ以上は、記録された音声マルチキャストメッセージの意図された目標をスワップするためのアフォーダンスを含む(例えば、宛先識別子を変更する)。例えば、音声マルチキャストメッセージを第1のグループのデバイス(例えば、ホーム602に指定されたデバイス)に送信するためのプロセスの開始後(図7Jを示す間、及び上述のような図7C1のユーザインタフェース741に類似のユーザインタフェース上の入力750j又は(例えば、タップジェスチャ750c1と類似の)タップジェスチャを受信する前などの)、デバイス700は、記録された音声マルチキャストメッセージの意図された目標(例えば、又は意図された目標をスワップするための複数のアフォーダンス)を第1のグループのデバイスから第2のグループのデバイス(例えば、ダイニングルーム602bに指定されたデバイス)へとスワップするためのアフォーダンスの選択を検出することができる。
いくつかの実施形態では、音声は、タップジェスチャ750gの検出に応答して表示される、図7C1のユーザインタフェース741と類似のユーザインタフェースから記録され、送信される。いくつかの実施形態では、音声は、図7H〜7Jに記載されたフローの代わりに、図7Gのユーザインタフェース760から記録される。例えば、リビングルームマルチキャストアフォーダンス776上での保持ジェスチャの検出に応答して、デバイス700は、音声マルチキャストメッセージの記録を開始する。そのような例では、記録は、保持ジェスチャが終了する(例えば、解放される)ときに停止され、リビングルームマルチキャストアフォーダンス776を送信アフォーダンス(例えば、マルチキャスト送信アフォーダンス756と類似)で置き換えることが発生する。そのような例では、リビングルームマルチキャスト命令774は、音声を再生するためのアフォーダンス(例えば、音声状態バー742と類似)及び音声を削除するためのアフォーダンス(例えば、音声マルチキャストメッセージ削除アフォーダンス754と類似)に置き換えられる。別の例では、リビングルームマルチキャストアフォーダンス776上でのタップジェスチャの検出に応答して、リビングルームマルチキャストアフォーダンス776は、マルチキャスト記録アフォーダンス736と類似に動作する(例えば、(マルチキャスト記録停止アフォーダンス746と類似の)停止アフォーダンスと置き換えられる)。そのような例では、停止アフォーダンス上でのタップジェスチャの検出に応答して、停止アフォーダンスは、(例えば、マルチキャスト送信アフォーダンス756と類似の)送信アフォーダンスと置き換えられ、リビングルームマルチキャスト命令774は、音声を再生するための(例えば、音声状態バー742と類似の)アフォーダンス及び(例えば、音声マルチキャストメッセージ削除アフォーダンス754と類似の)音声を削除するためのアフォーダンスと置き換えられる。
図7Mの表706に示すように、タップジェスチャ750j(若しくは、先の段落で説明したような、送信アフォーダンス上のタップジェスチャ又は上述のように図7C1のユーザインタフェース741と類似のユーザインタフェース上のタップジェスチャ(例えば、タップジェスチャ750c1と類似))の検出に応答して、デバイス700は、音声マルチキャストメッセージを、リビングルーム602dに指定された1組の外部デバイスにマルチキャスト(送信又は方向付け)させる。そのような送信は任意選択的に、(1)音声マルチキャストメッセージを含むメッセージを別のデバイス(例えば、リビングルームに配置されたデバイス)に送信すること、及び(2)他のデバイスが、音声マルチキャストメッセージを1組の外部デバイスに送信すること(いくつかの実施形態では、他のデバイスは、デバイス700の代わりに、外部デバイスの1組を識別する)を含む。表706に示すように、音声マルチキャストメッセージは、音声マルチキャストメッセージを受信する、リビングルームスピーカ646及び648のみに向けられる。特に、音声マルチキャストメッセージは、パーソナルデバイス(例えば、ジョンの電話604、タブレット634、及びジェーンの電話684)に向けられていない、その理由は、パーソナルデバイスが部屋に対応するグループに指定されていない(例えば、パーソナルデバイスは、リビングルーム602dに対応するグループに指定されていない)ためである。更に、音声マルチキャストメッセージは、リビングルームランプ642に向けられない、その理由は、リビングルームランプ642が、上述した(例えば、図7Fの)類似の理由のために音声マルチキャストメッセージを受信することができる外部デバイスのタイプではないためである。
図7Mでは、デバイス700は、フレーズ「ヘイ、アシスタント、マルチキャストこんにちは」を含む音声入力792aを検出する。音声入力792aの一部を検出した後しばらくして、デバイス700はユーザインタフェース794に示唆794a(例えば、ユーザインタフェース794の左側)を表示する。ここで、示唆794aは、音声入力792aの一部の応答である。示唆794aは、「ご用件は何でしょうか?」と書いてある文字である。いくつかの実施形態では、デバイス700は、示唆794aの可聴バージョンを含むメディアを出力する。
図7Nでは、図7Mのユーザインタフェース794を表示した後、デバイス700は、ユーザインタフェース794の右側に示唆794bを表示する。加えて、デバイス700は、ユーザインタフェース794の左側及び示唆794bの下に示唆794cを表示する。示唆794bは、音声入力792aに含まれる可聴フレーズに対応する文字である「ヘイ、アシスタント、マルチキャストこんにちは」と書いてある文字である。加えて、示唆794cは、「OK、あなたのマルチキャストをメインストリート123番地に送りました」と書いてある文字である。特に、メインストリート123番地は、ホーム602の識別子(例えば、図7Bのホーム場所識別子712)である。いくつかの実施形態では、デバイス700は、応答794cの可聴バージョンを含むメディアを出力する。
図7Nの表706に示すように、音声入力792aを検出した後、図7Fに関連して上述したように、デバイス700は、音声マルチキャストメッセージをホーム602に指定された1つ以上のデバイスに向ける(例えば、送信する)。表706は、(上述のように)デバイスがホームに対応する場所にあるかどうかにかかわらず、及び/又はデバイスがホームに関連付けられたネットワークに接続されているかどうかにかかわらず、音声マルチキャストメッセージ(例えば、「こんにちは」)がホームの各スピーカ(例えば、ダイニングルームスピーカ616、寝室スピーカ636、リビングルームスピーカ646、リビングルームスピーカ648、サンルームスピーカ656、及びサンルームスピーカ658)に向けられ、音声マルチキャストメッセージ(例えば、「こんにちは」)が、ホームのパーソナルデバイス(例えば、ジョンの電話604、タブレット634、ジェーンの電話684)に向けられたことを示す。
図7Oに示すように、図7Nでユーザインタフェース794を表示した後しばらくして、デバイス700は、ユーザインタフェース710を表示する。ユーザインタフェース710を表示している間に、デバイス700は、図7Oで寝室スピーカ制御718eに対応する場所で、ジェスチャ750o(例えば、長押しジェスチャ)を検出する。
図7Pに示すように、ジェスチャ750oの検出に応答して、デバイス700は、寝室スピーカ636を制御するための複数の設定アフォーダンスを含むユーザインタフェース796を表示する(例えば、部屋設定(例えば、寝室スピーカ636が寝室602cに指定されていることを示すために寝室が図7Pで選択されている場合)、お気に入りの設定(例えば、お気に入りに含まれる場所が図7Pで選択され、これにより、寝室スピーカ制御718eをユーザインタフェース710上に表示させることができる))。図7Pに示すように、設定アフォーダンスのうちの1つはマルチキャスト設定アフォーダンス796aであり、これは、寝室スピーカ636がマルチキャストメッセージを受信するように構成されているという示唆を含む。図7Pでは、デバイス700は、マルチキャスト設定アフォーダンス796aに対応する場所でタップジェスチャ750pを検出する。
図7Qに示すように、タップジェスチャ750pの検出に応答して、デバイス700は、マルチキャスト設定トグル798aを含む、ユーザインタフェース798を表示する。図7Qでは、マルチキャスト設定トグル798aは、寝室スピーカ636がマルチキャストメッセージ(例えば、設定トグルの右側に表示された円)を受信するように構成されていることを示す。図7Qでは、デバイス700は、マルチキャスト設定アフォーダンス798aに対応する場所でタップジェスチャ750qを検出する。
図7Rに示すように、タップジェスチャ750q、デバイス700の検出に応答して、マルチキャストトグル798aの状態を変更し(例えば、設定トグルの左側に円を移動させる)、寝室スピーカ636がマルチキャストメッセージを受信するように構成されていないことを示す。いくつかの実施形態では、図7Pのマルチキャスト設定アフォーダンス796aは、異なるユーザインタフェース(例えば、ユーザインタフェース798)にナビゲートすることなく、オンからオフへの設定を変更するように選択可能である。
図7Sでは、デバイス700は、フレーズ「ヘイ、アシスタント、サンルームへのマルチキャスト、こんにちは」を含む音声入力792bを検出する。音声入力792bの一部を検出した後しばらくして、デバイス700はユーザインタフェース794に示唆794d(例えば、ユーザインタフェース794の左側)を表示する。ここで、示唆794dは、音声入力792bの一部の応答である。示唆794dは、「ご用件は何でしょうか?」と書いてある文字である。いくつかの実施形態では、デバイス700は、示唆794dの可聴バージョンを含むメディアを出力する。
図7Tでは、図7Sでユーザインタフェース794を表示した後、デバイス700は、ユーザインタフェース794の右側に示唆794eを表示し、ユーザインタフェース794の左側(及び示唆794eの下)に示唆794fを表示する。示唆794eは、音声入力792bに含まれる可聴フレーズに対応する文字である「ヘイ、アシスタント、サンルームへのマルチキャスト、こんにちは」と書いてある文字である。加えて、示唆794fは、「OK、あなたのマルチキャストをサンルームに送りました」と書いてある文字である。特に、「サンルーム」は、図6のサンルーム602eに指定されるデバイスのグループの識別子である。
図7Tの表706に示すように、音声入力792bを検出した後、デバイス700は、音声マルチキャストメッセージをサンルーム602eに指定された1つ以上のデバイスに向ける(例えば、送信する)。表706は、音声マルチキャストメッセージ(例えば、「こんにちは」)が、サンルームスピーカ656及びサンルームスピーカ658に向けられ、音声マルチキャストメッセージ(例えば、「こんにちは」)が他のデバイスに向けられていないことを示す。特に、音声入力792bは、識別子(例えば、「サンルーム」)を含んでいるが、音声792aは識別子を含んでいなかった。したがって、いくつかの実施形態では、音声入力が識別子なしで検出されると、デバイス700は、音声マルチキャストメッセージを既定のグループに指定されたデバイスのグループに送信する。いくつかの実施形態では、既定のグループは、図7Nに関連して上述したように、ホームに対応するグループ(例えば、ホーム602を有するなど)である。
図7Uでは、デバイス700は、フレーズ「ヘイ、アシスタント、娯楽ゾーンへのマルチキャスト、こんにちは」を含む音声入力792cを検出する。音声入力792cの一部を検出した後しばらくして、デバイス700はユーザインタフェース794に示唆794g(例えば、ユーザインタフェース794の左側)を表示する。ここで、示唆794gは、音声入力792cの一部の応答である。示唆794gは、「ご用件は何でしょうか?」と書いてある文字である。いくつかの実施形態では、デバイス700は、示唆794gの可聴バージョンを含むメディアを出力する。
図7Vでは、図7Uのユーザインタフェース794を表示した後しばらくして、デバイス700は、ユーザインタフェース794の左側(及び示唆794hの下)に示唆794iを表示する。示唆794iは、「OK、あなたのマルチキャストを娯楽ゾーンに送りました」と書いてある文字である。ゾーンは、複数のデバイスのグループの識別子である。ここで、娯楽ゾーン660は、図6のサンルーム602eに対応するデバイスのグループ、及び図6のリビングルーム602dに対応するデバイスのグループに指定される。
図7Vの表706に示すように、音声入力792cを検出した後、デバイス700は、音声マルチキャストメッセージを娯楽ゾーンに指定された1つ以上のデバイスに向ける(例えば、送信する)。表706は、音声マルチキャストメッセージ(例えば、「こんにちは」)が、リビングルームスピーカ646、リビングルームスピーカ648、サンルームスピーカ656、及びサンルームスピーカ658に向けられ、音声マルチキャストメッセージ(例えば、「こんにちは」)が他のデバイスに向けられていないことを示す。
図7Vに示すように、デバイス700はまた、新しい音声マルチキャストメッセージが、サンルーム602eに指定されたデバイスのグループから受信されたことを示す、マルチキャスト通知708aも表示する。新しい音声マルチキャストメッセージは、図7Tで送信された音声マルチキャストメッセージへの返信である。
図7Wでは、デバイス700は、フレーズ「ヘイ、アシスタント、マルチキャスト、もうすぐ立ち去るつもりである」を含む音声入力792dを検出する。
図7Xでは、音声入力792dを検出した後しばらくして、デバイス700は、ユーザインタフェース794の左側及び示唆794iの下に示唆794jを表示する。示唆794jは、「ヘイ、アシスタント、マルチキャスト、もうすぐ立ち去るつもりである」と書いてある文字である。この文字は、音声入力792dに含まれる可聴フレーズに対応する。ここで、音声入力792dは、識別子を含まない。加えて、図7Xでは、デバイス700はまた、ユーザインタフェース794の右側及び示唆794jの下に表示794kを表示する。示唆794kは、「OK、あなたのマルチキャストをサンルームに送りました」と書いてある文字である。
図7Xの表706に示すように、音声入力792dを検出した後、デバイス700は、音声マルチキャストメッセージをサンルームに指定されたデバイスのグループに送信するためのプロセス(例えば、「もうすぐ立ち去るつもりである」)を開始する。具体的には、デバイス700は、サンルームの識別子を含む音声入力792dなしに、音声マルチキャストメッセージをサンルーム602eに指定された1つ以上のデバイスに向ける(例えば、送信する)。したがって、マルチキャスト通知708aを受信した後の所定の時間の期間内に音声入力792dが検出されたため、デバイス700は、既定のグループ(ホーム602に対応するグループ)の代わりに、次の検出された音声マルチキャストメッセージをサンルームにインテリジェントに向ける。いくつかの実施形態では、デバイス700は、前のマルチキャストメッセージがサンルームに送信されたときから所定の時間内に音声入力702dが受信されたため、次に検出された音声マルチキャストメッセージを、既定のグループの代わりに、サンルームにインテリジェントに送信する。いくつかの実施形態では、2つの異なるゾーンは、少なくとも1つのデバイスのグループ(例えば、特定の部屋に指定された同じグループのデバイス)を共有することができる。
図7Xに示すように、デバイス700はまた、音声マルチキャストメッセージが、サンルーム602eに指定されたデバイスのグループから受信されたことを示す、マルチキャスト通知708bも表示する。ここで、デバイス700は、10:19にこのメッセージを受信する。
図7Yでは、デバイス700は、フレーズ「ヘイ、アシスタント、マルチキャスト、ディナーに行きましょう」を含む音声入力792eを検出し、示唆794lを有するユーザインタフェース794を表示する。示唆794lは、「ご用件は何でしょうか?」と書いてある。図7Yでは、時間は現在、10:30である(例えば、図7Xのユーザインタフェースが表示されてから11分が経過した)。
図7Zでは、図7Yでユーザインタフェース794を表示した後、デバイス700は、ユーザインタフェース794の右側に示唆794mを表示し、ユーザインタフェース794の左側(及び示唆794mの下)に示唆794nを表示する。示唆794mは、音声入力792eに含まれる音声フレーズに対応する文字である「ヘイ、アシスタント、マルチキャスト、ディナーに行きましょう」と書いてある文字である。加えて、示唆794nは、「OK、あなたのマルチキャストをメインストリート123番地に送りました」と書いてある文字である。
図7Zの表706に示すように、音声入力792eを検出した後、デバイス700は、音声マルチキャストメッセージ(例えば、「ディナーに行きましょう」)をホーム602に指定された1つ以上のデバイスに向ける(例えば、送信する)が、ホーム602の識別子を含む音声入力792eはない。ここで、マルチキャスト通知708bが受信されてから所定の時間の期間よりも長い時間が経過したため、デバイス700は、次の検出された音声マルチキャストメッセージを、サンルーム602eの代わりに、既定のグループ(ホーム602に対応するグループ)にインテリジェントに送信する。いくつかの実施形態では、デバイス700は、前のマルチキャストメッセージがサンルーム602eに送信されたときから所定の時間内に音声入力702eが受信されなかったため、検出された音声マルチキャストメッセージを、既定のグループにインテリジェントに送信する。
更に、図7Zの表706に示すように、(図7Nとは対照的に)図7Zのマルチキャストメッセージは、図7Qのタップジェスチャ750qの検出に応答して、寝室スピーカ636のマルチキャスト設定がオフされたため、寝室スピーカ636には向けられなかった。
図7Zでユーザインタフェース794を表示した後しばらくして、デバイス700は図7AAに示すようにユーザインタフェース710を表示する。図7AAでは、デバイス700は、図7AAのホーム場所識別子712の上方にある、ホーム設定アフォーダンス928に対応する場所でタップジェスチャ750aaを検出する。
図7ABに示すように、タップジェスチャ750aaの検出に応答して、デバイス700はユーザインタフェース797を表示する。ユーザインタフェース797は、ホームアプリケーションに指定された1つ以上のパーソナルデバイスを有する人々797aのグループ(例えば、ホーム602aに対応するグループ)を含む。ユーザインタフェース797はまた、マルチキャスト許可アフォーダンス797bを含む。図7ABでは、デバイス700は、マルチキャスト許可アフォーダンス797bに対応する場所でタップジェスチャ750abを検出する。
図7ACに示すように、タップジェスチャ750abの検出に応答して、デバイス700は、音声マルチキャストメッセージがパーソナルデバイスに送信されることを可能にすべきタイミングの複数のオプションを含む、ユーザインタフェース799を表示する。図7ACでは、オプションはネバーオプション779a、アットホームオプション779b、及び任意の時間オプション799cを含む。図7ACでは、任意の時間オプション799cが選択される。したがって、いくつかの実施形態では、デバイス700は、デバイス700の場所に関わりなく、任意の時間にマルチキャストメッセージを受信するように構成される。いくつかの実施形態では、ネバーオプション779aに対応する場所でのタップジェスチャ750c1の検出に応答して、デバイス700は、デバイス700の場所に関わりなく、マルチキャストメッセージを決して受信しないように構成される。いくつかの実施形態では、アットホームオプション799bに対応する場所でのタップジェスチャ750c2の検出に応答して、デバイス700は、デバイス700がホーム602に対応する又はホーム602内の場所にある間に、マルチキャストメッセージのみを受信するように構成されている(例えば、ホームの閾値距離内、又はデバイスがホーム602に関連付けられた1つ以上のネットワークに接続されているかどうかに関する)。いくつかの実施形態では、デバイス700が距離670及び距離680、ホームから離れているとき、コンピュータデバイス674及びジェーンの電話684などのデバイス700は、それらの距離が閾値距離よりも長い場合には、ホームオプション799bで選択されたときに、音声マルチキャストメッセージを受信しない。いくつかの実施形態では、デバイスがホームから離れている間に、メッセージのみを受信するオプションなどの1つ以上のオプションが選択可能であり、表示される。いくつかの実施形態では、デバイス700がホーム602に関連付けられた1つ以上のネットワークに接続される(例えば、ホームWi−Fiネットワークに接続される)と、デバイス700は、アットホームオプション799bが選択されたときに、音声マルチキャストメッセージを受信し、デバイス700がホーム602に関連付けられた1つ以上のネットワークに接続されていない(例えば、ホームWi−Fiネットワークに接続されていない)と、デバイス700は、アットホームオプション799bが選択されたときにも(例えば、デバイスの場所に関わりなく)、音声マルチキャストメッセージを受信しない。
図7AD〜7AEは、タブレット634などのデバイス700よりも大きなスクリーンを有するデバイス上で上述したユーザインタフェースを表示するための例示的なユーザインタフェースを示す。図7ADのユーザインタフェース711は、上述のユーザインタフェース710に対応する。加えて、図7AEのユーザインタフェース731は、上述のユーザインタフェース730に対応する。しかしながら、上述したユーザインタフェースのいずれかは、図7A〜7ACのために上述したものと1つ以上の類似の技術を使用して、タブレット634上で表示及び遷移することができる。
図7AF〜7AHは、スマートウォッチ701などのデバイス700よりも小さいスクリーンを有するデバイス上に上述のユーザインタフェースを表示するための例示的なユーザインタフェースを示す。図7AFのユーザインタフェース713は、上述のユーザインタフェース710に対応する。その上、図7AGのユーザインタフェース741は、上述のユーザインタフェース740に対応する。更に、図7AHのユーザインタフェース751は、上述のユーザインタフェース750に対応する。しかしながら、上述したユーザインタフェースのいずれかは、図7A〜7ACのために上述したものと1つ以上の類似の技術を使用して、スマートウォッチ701上で表示及び遷移することができる。
図8A〜8Bは、いくつかの実施形態に係る、音声メッセージを送信するための方法を示すフロー図である。方法800は、ディスプレイ生成構成要素(例えば、タッチ感知ディスプレイ)と通信するコンピュータシステム(例えば、100、300、500、634、674、700、701、850)で実行される。方法800のいくつかの動作は、任意選択的に組み合わされ、いくつかの動作の順序は、任意選択的に変更され、いくつかの動作は、任意選択的に省略される。
後述するように、方法800は、いくつかの実施形態に係る、音声メッセージを送信するための直観的方法を提供する。本方法は、音声メッセージを送信するユーザの認識的負担を軽減し、それにより、より効率的なヒューマン−マシンインタフェースを作成する。バッテリ動作式のコンピューティングデバイスの場合には、ユーザが音声メッセージをより高速かつより効率的に送信することを有効化することにより、電力が節約され、バッテリ充電の間隔が増す。
コンピュータシステムは(802)、ディスプレイ生成構成要素を介して、第1のユーザインタフェース(例えば、730)(例えば、1組の外部デバイスを制御するためのユーザインタフェース)を表示する。第1のユーザインタフェースは、第1の選択可能なユーザインタフェースオブジェクト対象(例えば、726)を含み(例えば、ディスプレイを含む)、第1の選択可能なユーザインタフェースオブジェクト対象の選択は、第1の音声メッセージを1組の外部デバイス(例えば、図7Fの706)(例えば、1組の外部デバイスの各外部デバイス)に記録(例えば、マイクロフォンを介してコンピュータシステムで)し、送信するためのプロセス(例えば、ユーザインタフェース730、740、及び750)を開始し、1組の外部デバイスは、1つ以上の外部デバイスの第1の1組(例えば、616)と、1つ以上の外部デバイスの第2の1組(例えば、646、648)とを含む。いくつかの実施形態では、第1の選択可能なユーザインタフェースオブジェクト対象を表示している間に、コンピュータシステムは、第1の選択可能なユーザインタフェースオブジェクト対象の選択に対応する入力を受信し、第1の選択可能なユーザインタフェースオブジェクト対象の選択に対応する入力の受信に応答して、コンピュータシステムは、1つ以上のデバイスの第1の1組及び1つ以上のデバイスの第2の1組(例えば、外部デバイスの1組)に音声メッセージを記録し、送信するためのユーザインタフェースを表示する。いくつかの実施形態では、1つ以上のデバイスの第1の1組は、1つ以上のデバイスの第2の1組とは異なる。いくつかの実施形態では、1組の外部デバイスを制御するためのユーザインタフェースは、1つ以上のデバイスの第1の1組及び1つ以上のデバイスの第2の1組に対応する複数の表現及び/又はアクセサリ制御ユーザインタフェースオブジェクト対象を表示することを含む。いくつかの実施形態では、複数のアクセサリ制御ユーザインタフェースオブジェクト対象は、1つ以上のデバイスの第1の1組に対応し、1つ以上のデバイスの第2の1組は1つ以上の選択可能なユーザインタフェースオブジェクト対象の1組である。いくつかの実施形態では、複数のアクセサリ制御ユーザインタフェースオブジェクト対象のそれぞれは、選択されると、1組の外部デバイスのそれぞれのアクセサリデバイスに、1つ以上の機能を実行させる、及び/又はそれぞれのアクセサリデバイスの状態を変更させる。いくつかの実施形態では、1組の外部デバイスは、1つ以上のデバイス(例えば、スマートスピーカ)の第1の1組又は1つ以上のデバイス(例えば、スマートスピーカ)の第2の1組にないタイプの外部電子デバイス(例えば、セルラー電話、タブレットコンピュータ)を含む。いくつかの実施形態では、外部デバイスの1組は、トップレベルの場所(又は宛先)(例えば、第1のタイプの場所)(例えば、ホーム場所、ビジネス、オフィス(トップレベルの場所にある場所(例えば、1つ以上の場所を定義する場所(例えば、サブ場所)及び/又はトップレベルの場所の場所によって定義されるエリア及び/又は周辺部内にある1つ以上の領域(又はゾーン)、場所の階層のトップレベルにある場所、1つ以上の場所(例えば、サブ位置)に(例えば、プログラムで)リンクされた場所及び/又は1つ以上の領域(又はゾーン)))に関連付けられている。いくつかの実施形態では、外部デバイスの1組は、デバイスの第1のグループ(例えば、デバイスのサブグループ)及びデバイスの第2のグループ(例えば、デバイスのサブグループ)を含む。いくつかの実施形態では、デバイスのサブグループは、トップレベルの場所のサブ場所(例えば、トップレベルの場所の境界、領域、若しくは周辺に、及び/又はトップレベルの場所に定義され、特定され、及び/又はリンクされ(例えば、プログラムでリンクされ)(例えば、ユーザによって)配置された部屋)及び/又はトップレベルの場所内(例えば、トップレベルの場所の境界、エリア、又は周辺部内及び/又は(例えば、ユーザによって)定義され、特定され、及び/又はリンクされた)のゾーン(例えば、2つ以上のサブ場所によって定義される場所)(トップレベルの場所内で(例えば、トップレベルの場所内にリビングルーム及びダイニングルームを含む娯楽ゾーン、トップレベルの場所内に2つ以上の寝室、リビングルーム、バスルームを含むパーソナルゾーン)に関連付けられる。いくつかの実施形態では、目標グループは、デバイスのサブグループに関連付けられ、デバイスのトップレベルグループではない。
第1のユーザインタフェースは、第1の外部アクセサリデバイスに対応する第1のアクセサリ制御ユーザインタフェースオブジェクト対象(例えば、718の1つ)(例えば、選択可能なユーザインタフェースオブジェクト対象)を含み、第1のアクセサリ制御ユーザインタフェースオブジェクト対象の選択(例えば、750f1、750f2)は、第1の外部アクセサリデバイスの状態を変更する(例えば、ドアをロック又はロック解除させ、光をオン又はオフにする)ための命令を送信するプロセス(例えば、選択によって命令の送信を引き起こす)を開始する。いくつかの実施形態では、入力の受信に応答して、コンピュータシステムは、第1の外部アクセサリデバイスの状態を変更するための命令を送信するプロセス(例えば、選択によって命令の送信を引き起こす)を開始し、第1のアクセサリ制御ユーザインタフェースオブジェクト対象の視覚的見掛けを第1の視覚的見掛けから、第1の視覚的見掛けとは異なる第2の視覚的見掛けに変更する(例えば、押圧した押された状態(又はその逆)、第1の色から第2の色に、1つ以上の差分文字(例えば、「オンからオフ」(又はその逆)))。
コンピュータシステムは、第1のユーザインタフェース(例えば、第1のユーザインタフェース)を表示している間に、第2のユーザインタフェース(例えば、760)を表示する要求に対応する入力(例えば、750f3)(例えば、単一のユーザ入力(例えば、1つ以上の外部デバイスの第2の1組を制御するためのユーザインタフェースにナビゲーションする選択可能なユーザインタフェースオブジェクト対象又はアイコン上のタップ入力)又は第1の選択可能なユーザインタフェースオブジェクト対象が表示されている間に受信される複数のユーザ入力)を受信する(804)(例えば、1つ以上の外部デバイスの第2の1組を制御するためのユーザインタフェース(例えば、1つ以上の外部デバイスの第1の1組を制御することなく))。いくつかの実施形態では、コンピュータシステムは、コンピュータシステムが第2のユーザインタフェースを表示するための選択可能なユーザインタフェースオブジェクト対象の選択を受信すると、第2のユーザインタフェースを表示する要求を受信する。
第2のユーザインタフェースを表示する要求の受信に応答して、コンピュータシステムは、第2のユーザインタフェース(例えば、760)を表示する(806)。第2のユーザインタフェースは、第2の選択可能なユーザインタフェースオブジェクト対象(812)(例えば、776)を含み(例えば、表示することを含む)、第2の選択可能なユーザインタフェースオブジェクト対象の選択は、第2の音声メッセージを1つ以上の外部デバイスの第1の1組(例えば、図7Mの706)に送信することなく、第2の音声メッセージを1つ以上の外部デバイスの第2の1組(例えば、646、648)に記録し、送信するためのプロセス(例えば、ユーザインタフェース780a、784、及び786a)を開始する。第2のユーザインタフェースは、(例えば、1つ以上のデバイスの第1の1組に対応せずに)第2の外部アクセサリデバイス(例えば、642、646、648)に対応する第2のアクセサリ制御ユーザインタフェースオブジェクト対象(814)(例えば、768のうちの1つ)(例えば、選択可能なユーザインタフェースオブジェクト対象)を含み、第2のアクセサリ制御ユーザインタフェースオブジェクト対象の選択(例えば、750g1、750g2)は、第2の外部アクセサリデバイスの状態を変更するための命令(例えば、選択によって命令の送信を引き起こす)を送信するプロセスを開始する。いくつかの実施形態では、入力の受信に応答して、コンピュータシステムは、第2の外部アクセサリデバイスの状態を変更するための命令を送信するプロセス(例えば、選択によって命令の送信を引き起こす)を開始し、第2のアクセサリ制御ユーザインタフェースオブジェクト対象の視覚的見掛けを第1の視覚的見掛けから、第1の視覚的見掛けとは異なる第2の視覚的見掛けに変更する(例えば、押圧した押された状態(又はその逆)、第1の色から第2の色に、1つ以上の差分文字(例えば、「オンからオフ」(又はその逆)))。いくつかの実施形態では、第2のユーザインタフェースを表示する要求の受信に応答して、コンピュータシステムは、第1のユーザインタフェース及び第1のユーザインタフェースオブジェクト対象の表示を中止する。いくつかの実施形態では、第2の選択可能なユーザインタフェースオブジェクト対象は、第1の選択可能なユーザインタフェースオブジェクト対象に置き換わる。いくつかの実施形態では、第2の選択可能なユーザインタフェースオブジェクト対象は、第1の選択可能なユーザインタフェースオブジェクト対象が以前に表示された場所と同じ場所で表示される。いくつかの実施形態では、第2のユーザインタフェースは、第1のユーザインタフェースの表示に置き換わる。いくつかの実施形態では、コンピュータシステムは、第2のユーザインタフェースからの1つ以上の外部デバイスの第1の1組(例えば、アクセサリ制御ユーザインタフェースオブジェクト対象は、表示されない、1つ以上のデバイスの第1の1組のうちの1つに対応する)を制御することができない(例えば、外部デバイスを状態変更させることができない)。いくつかの実施形態では、第1のユーザインタフェースは、1つ以上の外部デバイスの第1の1組に対応する1つ以上の表現及び/又はアクセサリ制御ユーザインタフェースオブジェクト対象の1組を(1つ以上の外部デバイスの第2の1組に対応する1つ以上の表現の1組を表示することなく)表示することを含む。いくつかの実施形態では、アクセサリ制御ユーザインタフェースオブジェクト対象のそれぞれは、選択されると、それぞれのデバイスに1つ以上の機能を実行させるか、又はそれぞれのデバイスの状態を変更させる。いくつかの実施形態では、第2の選択可能なユーザインタフェースオブジェクト対象を表示している間に、コンピュータシステムは、第2の選択可能なユーザインタフェースオブジェクト対象の選択に対応する入力を受信し、第2の選択可能なユーザインタフェースオブジェクト対象の選択に対応する入力の受信に応答して、コンピュータシステムは、音声メッセージを1つ以上の外部デバイスの第1の1組に送信することなく、1つ以上の外部デバイスの第2の1組に音声メッセージを記録し、送信するためのユーザインタフェースを表示する。いくつかの実施形態では、第2の選択可能なユーザインタフェースオブジェクト対象を表示している間に、コンピュータシステムは、選択可能なユーザインタフェースオブジェクト対象を表示することを含む1つ以上の外部デバイスの第1の1組を(例えば、1つ以上の外部デバイスの第2の1組を制御することなく)制御するためのユーザインタフェースを表示する要求に対応するユーザ入力(例えば、スワイプ入力)を受信し、それは、選択されると、音声メッセージを1つ以上の外部デバイスの第2の1組に送信することなく、音声メッセージを1つ以上の外部デバイスの第1の1組に記録し、送信するためのプロセスを開始する。いくつかの実施形態では、音声メッセージは、コンピュータシステムで記録される音声を含む。いくつかの実施形態では、音声メッセージを外部デバイスに記録し、送信するプロセスは、コンピュータシステムを使用して(例えば、コンピュータシステムと通信するマイクロフォンを使用して)音声メッセージを記録することを含む。いくつかの実施形態では、音声メッセージは、コンピュータシステムのユーザの声の音声を含む。制御の1組を制御する階層的ユーザインタフェースを提供することで、各ユーザインタフェースがそれぞれの階層のノードに対応することが、デバイスの別のそれぞれの1組を制御するための別のユーザインタフェースにユーザがどのように直感的にナビゲーションすることができるかに関する視覚的フィードバックと共に、それぞれのユーザインタフェースを介して制御することができる、制御の階層のデバイスの1組に関する視覚的フィードバックをユーザに提供する。改善された視覚的フィードバックをユーザに提供することにより、コンピュータシステムの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−シスインタフェースをより効率的にし、加えて、ユーザがデバイスをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、第1の外部アクセサリデバイス(例えば、718b)は、第2の外部アクセサリデバイス(例えば、768c)とは異なる。いくつかの実施形態では、第1の外部アクセサリデバイスは、「ホーム」グループの下にグループ化されるが、「ダイニングルーム」カテゴリ(例えば、寝室に位置する光)の一部ではなく、第2の外部アクセサリデバイスは、「ホーム」グループ、「ダイニングルーム」カテゴリ(例えば、ダイニングルームに位置する光)の両方の下にグループ化される外部デバイスである。対照的に、いくつかの実施形態では、第1の外部アクセサリデバイスは、第2の外部アクセサリデバイスと同じデバイスである(例えば、それらは、ダイニングルームに配置された同じ光であるか、又はそれらは、ダイニングルームに配置された同じスマートスピーカである)。
いくつかの実施形態では、第1の選択可能なユーザインタフェースオブジェクト対象(例えば、726)(例えば、第1のユーザインタフェースの一部として表示されている間)は、ディスプレイ生成構成要素を介して(例えば、ディスプレイ生成構成要素上に)、第1の場所(例えば、726及び776の場所)で表示され、第2の選択可能なユーザインタフェースオブジェクト対象(例えば776)(例えば、第2のユーザインタフェースの一部として表示されている間)は、ディスプレイ生成構成要素を介して(例えば、ディスプレイ生成構成要素上に)、第1の場所(例えば、726及び776の場所)で表示される。いくつかの実施形態では、第1のユーザインタフェースを表示している間に受信された入力は、第2の選択可能なユーザインタフェースオブジェクト対象で第1の選択可能なユーザインタフェースオブジェクト対象の表示を置き換えさせる。予め定められた条件が満たされたときに、第1の選択可能なユーザインタフェース又は第2の選択可能なユーザインタフェースオブジェクト対象を同じ場所で提供することにより、ユーザは、選択可能なユーザインタフェースオブジェクト対象の任意の異なる動作特性(例えば、デバイスのどの特定の1組が選択可能、特定の選択可能なユーザインタフェースオブジェクト対象が記録の音声メッセージを送信する)を識別することを必要とせずに、マルチキャストのための選択可能なユーザインタフェースオブジェクト対象を素早くに突き止めることができる。改善された視覚的フィードバックをユーザに提供することにより、コンピュータシステムの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、第1の外部アクセサリデバイス(例えば、646、648)(例えば、スマートスピーカであって、第1のアクセサリ制御ユーザインタフェースオブジェクト対象を使用して音楽の再生が構成することができるもの)が1組の外部デバイスに含まれる(例えば、第1の外部アクセサリデバイスは第1のユーザインタフェースから構成可能で、音声(コンピュータシステムで記録された)は第1の選択可能なユーザインタフェースオブジェクト対象を使用して第1の外部アクセサリデバイスに送信される)。いくつかの実施形態では、第1のユーザインタフェースは、第3の外部アクセサリデバイス(例えば、642)に対応する第3のアクセサリ制御ユーザインタフェースオブジェクト対象(例えば、718b)(例えば、選択可能なユーザインタフェースオブジェクト対象)を含む。いくつかの実施形態では、第3のアクセサリ制御ユーザインタフェースオブジェクト対象の選択は、第3の外部アクセサリデバイスの状態を変更する(例えば、ドアをロック又はロック解除させ、光をオン又はオフにする)命令を送信する(例えば、選択によって命令の送信を引き起こす)プロセスを開始する。いくつかの実施形態では、第3の外部アクセサリデバイス(例えば、642)は、1組の外部デバイスに含まれず、第1の選択可能なユーザインタフェースオブジェクト対象(例えば、776)の選択は、第1の音声メッセージを第3の外部アクセサリデバイス(例えば、7Fの706)に送信する(及び/又は記録する)ためのプロセスを開始しない。いくつかの実施形態では、第1のユーザインタフェースは、制御され得る(例えば、オン/オフにされる)が、第1の音声メッセージが送信されない(例えば、外部アクセサリデバイスが、音声メッセージを再生するためのスピーカを有さないため)いくつかの外部アクセサリデバイスのアクセサリ制御ユーザインタフェースオブジェクト対象を含み、及び第1のユーザインタフェースは、制御され得る(例えば、オン/オフにされる)、かつ第1の音声メッセージが送信される(例えば、外部アクセサリデバイスが音声メッセージの再生のためのスピーカを有するため)いくつかの外部アクセサリデバイスのアクセサリ制御ユーザインタフェースオブジェクト対象を含む。いくつかの実施形態では、第2のユーザインタフェースは、制御され得る(例えば、オン/オフにされる)が、第2の音声メッセージが送信されない(例えば、外部アクセサリデバイスが、音声メッセージを再生するためのスピーカを有さないため)いくつかの外部アクセサリデバイスのアクセサリ制御ユーザインタフェースオブジェクト対象を含み、及び第2のユーザインタフェースは、制御され得る(例えば、オン/オフにされる)、かつ第2の音声メッセージが送信される(例えば、外部アクセサリデバイスが音声メッセージの再生のためのスピーカを有するため)いくつかの外部アクセサリデバイスのアクセサリ制御ユーザインタフェースオブジェクト対象を含む。いくつかの実施形態では、1つ以上の外部デバイスの第1の1組(例えば、音声メッセージが送信される寝室グループのデバイス)は、第1の外部アクセサリデバイス(例えば、音声メッセージが送信されない寝室グループの光)を含まず、及び外部デバイスの第2の1組(例えば、音声メッセージが送信されるダイニングルームのデバイス)は、第2の外部アクセサリデバイス(例えば、音声メッセージが送信されないダイニングルームグループの光)を含まない。したがって、いくつかの実施形態では、音声メッセージは、アクセサリ制御ユーザインタフェースオブジェクト対象を使用して制御することができる全てのデバイスに必ずしも送信されず、それは、選択されると、それぞれのアクセサリデバイスに1つ以上の機能を実行させる、及び/又はそれぞれのアクセサリデバイスの状態を変更させる。いくつかの実施形態では、それぞれのアクセサリ制御ユーザインタフェースオブジェクト対象を使用して(1つ以上の機能を実行するため、及び/又はそれぞれのアクセサリデバイスの状態を変更するために)制御することができる外部デバイスは、1組の外部デバイス(例えば、外部デバイスの第1又は第2の1組)に含まれ、したがって、音声メッセージをその外部デバイスに送信することができ、外部デバイスを別個に制御することができる。
いくつかの実施形態では、第1のユーザインタフェースは、トップレベルの場所(例えば、602)(例えば、構造、ホーム)に対応し、第2のユーザインタフェースは、第1のタイプ(例えば、602a〜602e)(例えば、構造の部屋、家のダイニングルーム)の第1のサブ場所(例えば、602d)に対応する。いくつかの実施形態では、1つ以上の外部デバイスの第2の1組(例えば、646、648)は、第1のサブ場所(例えば、602d)に対応する(例えば、1つ以上の外部デバイスの第2の1組は、第1のタイプのサブ場所に指定されている)。いくつかの実施形態では、(例えば、任意の)1つ以上の外部デバイスの第2の1組(例えば、646、648)は、第1のサブ場所に対応する1つ以上の外部デバイス(例えば、602a〜602e)の第2の1組に基づいて、第1のタイプ(例えば、構造の任意の他の部屋)の第2のサブ場所(例えば、602a、602b、602c、又は602e)(例えば、第1のサブ場所以外の任意のサブ場所)に対応するように作ることができない。いくつかの実施形態では、第1のユーザインタフェースは、トップレベルの場所に対応し、第2のユーザインタフェースは、トップレベルの場所のサブ場所(例えば、ホームの部屋)に対応する。いくつかの実施形態では、第1の部屋及び第2の部屋は、ゾーン(例えば、一緒にグループ化された部屋の集合)の一部である。いくつかの実施形態では、1つ以上の外部デバイスの第2の1組は、第2のユーザインタフェースが対応する部屋に位置する(例えば、ユーザによって)識別されるデバイスである。
いくつかの実施形態では、第1のユーザインタフェースは、トップレベルの場所(例えば、構造、ホーム)に対応し、第2のユーザインタフェースは、第1のタイプ(例えば、602a〜602e)(例えば、複数の部屋)の複数(例えば、602a〜602e)のサブ場所に対応する第2のタイプ(娯楽ゾーン(例えば、602d及び602e))(例えば、第1のゾーン、メインフロア)の第3のサブ場所に対応する。いくつかの実施形態では、1つ以上の外部デバイスの第2の1組は、第1のタイプの複数のサブ場所(例えば、602a〜602e)に含まれる1つ以上の外部デバイスの第2の1組に基づいて、第3のサブ場所に対応する(例えば、第1の部屋(例えば、ホームのダイニングルーム)及び第2の部屋(例えば、ホームの寝室)を含む、構造体の複数の部屋)。いくつかの実施形態では、第1のユーザインタフェースは、トップレベルの場所に対応し、第2のユーザインタフェースは、トップレベルの場所のサブ場所(例えば、ホームの複数の部屋)に対応する。いくつかの実施形態では、1つ以上の外部デバイスの第2の1組は、第1の部屋に指定された少なくとも1つのデバイスと第2の部屋に指定された少なくとも1つのデバイスとを含む。いくつかの実施形態では、トップレベルの場所は、第3のサブ場所が対応しない少なくとも1つのデバイスに対応する(例えば、ホームは、第3のサブ場所内に含まれないいくつかのデバイスを含む)。
いくつかの実施形態では、第2の外部アクセサリデバイスは、第2のタイプの第3のサブ場所(例えば、娯楽ゾーン(例えば、602d及び602e))(例えば、第1のゾーン)に関連付けられる(例えば、対応する)。いくつかの実施形態では、第2の外部アクセサリデバイス(例えば、646、648)はまた、第3のサブ場所とは異なる第2のタイプ(例えば、娯楽ゾーン(例えば、602d及び602e))の第4のサブ場所(例えば、第2のゾーン)に関連付けられる(例えば、対応する)。いくつかの実施形態では、第2のゾーンは、サブ場所(例えば、ホームの複数の部屋)である。いくつかの実施形態では、第2のゾーンは、第1のゾーンに関連付けられていない外部アクセサリデバイスと関連付けられる。いくつかの実施形態では、コンピュータシステムは、様々なゾーンにメッセージを記録し、送信するためのプロセスを開始することができる。第1のゾーン及び第2のゾーンは、デバイスの異なる1組に対応することができ、そのうちのいくつかは第1のゾーン及び第2のゾーンの両方に対応し、そのうちのいくつかは、第1のゾーン又は第2のゾーンのうちの1つのみに対応する。
いくつかの実施形態では、1つ以上の外部デバイスの第2の1組(例えば、646、648)は、第1の場所(例えば、602d)(例えば、部屋、サブ場所、ゾーン)に関連付けられたものであって、第2の音声メッセージを1つ以上の外部デバイスの第1の1組に送信することなく、第2の音声メッセージを1つ以上の外部デバイスの第2の1組に記録し、送信するためのプロセスは、第1の場所(例えば、782)(例えば、音声メッセージが送信される部屋又はゾーンの名前を指定する文字)の示唆(例えば、文字示唆、グラフィカル示唆)を表示することを含む。いくつかの実施形態では、音声メッセージを記録し、送信するためのプロセスは、それぞれの音声メッセージが送信される外部デバイスに対応する場所の示唆を表示することを含む。いくつかの実施形態では、第1のユーザインタフェースは、トップレベルの場所(例えば、ホームなどの構造)に対応し、第2のユーザインタフェースは、トップレベルの場所のサブ場所(例えば、ホームの部屋、ホームのゾーン)に対応する。いくつかの実施形態では、第2のユーザインタフェースを表示すると、コンピュータシステムは、第2の選択可能なユーザインタフェースオブジェクト対象の選択(例えば、タップオン、押圧、及び保持)を検出する。いくつかの実施形態では、第2の選択可能なユーザインタフェースオブジェクト対象の選択の検出に応答して、コンピュータシステムは、記録ユーザインタフェースオブジェクト対象(例えば、選択可能な記録ボタン)であって、記録ユーザインタフェースの選択(例えば、タップ、押圧、及び保持)が、コンピュータシステムによって検出された音声を記録することによって、音声メッセージの記録を生じさせるもの、及びサブ場所(例えば、音声メッセージが送信される部屋又はゾーンの名前を指定する文字)の示唆(例えば、文字示唆、グラフィカル示唆)を同時に含む記録ユーザインタフェースを(例えば、第2のユーザインタフェースの全て又は一部を置き換えることによって)表示する。いくつかの実施形態では、第2のユーザインタフェースは、サブ場所の示唆を含む。音声メッセージがマルチキャストされることが意図されているデバイスのグループに関連付けられた場所の示唆を表示することにより、ユーザに、音声メッセージを記録し、送信するためのプロセスの状態に関する視覚的フィードバックを提供する。改善された視覚的フィードバックをユーザに提供することにより、コンピュータシステムの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、音声メッセージを外部デバイスに記録し、送信するためのプロセスを開始することの一部として、コンピュータシステムは、自動的に(例えば、音声の記録を開始する要求に対応するユーザ入力を介在させることなく)、新しい音声メッセージの記録を行い、記録されている音声の動的示唆(例えば、744a)を含む記録ユーザインタフェース(例えば、741)を表示する。
いくつかの実施形態では、コンピュータシステムは、記録ユーザインタフェースオブジェクト対象の選択(例えば、タップ、押圧、及び保持)を検出する。記録ユーザインタフェースオブジェクト対象の選択の検出に応答して、コンピュータシステムは、音声メッセージを記録する。音声メッセージを記録した後(及び音声メッセージを送信する前に)、コンピュータシステムは、メッセージが送信される外部デバイスを変更するオプションを提供する。いくつかの実施形態では、コンピュータシステムは、ドロップダウンアフォーダンスのアクティブ化を受信し、それに応じて、1つ以上のサブ場所(それぞれは、それぞれの外部デバイスの1組に対応する)を表示する。コンピュータシステムは、1つ以上のサブ場所のうちの1つの選択及び音声メッセージを送信する確認を受信する。それに応じて、コンピュータシステムは、第2のユーザインタフェースに対応する1つ以上の外部デバイスの第2の1組ではなく、選択されたサブ場所に対応する外部デバイスのそれぞれの1組に音声メッセージを送信する。
いくつかの実施形態では、1組の外部デバイスは、パーソナルモバイル電子装置(例えば、604、634、684)(例えば、スマートフォン、携帯電話、携帯時計)を含む。いくつかの実施形態では、パーソナルモバイル電子装置は、1つ以上のデバイスの第1の1組に含まれず、1つ以上の外部デバイスの第2の1組に含まれない。いくつかの実施形態では、パーソナルモバイル電子装置は、トップレベルの場所の任意のサブ場所に全く指定されないが、トップレベルの場所のメンバーである。したがって、いくつかの実施形態では、第1の選択可能なユーザインタフェースオブジェクト対象を選択することにより、パーソナルモバイル電子装置(及び、トップレベルの場所のメンバーである任意の他のパーソナルモバイル電子装置)を含む、1組の外部デバイスに音声メッセージを記録し、送信するプロセスが開始される。
いくつかの実施形態では、1つ以上の外部デバイスの第2の1組は、パーソナルモバイル電子装置(例えば、604、634、684)(例えば、スマートフォン、携帯電話、携帯時計)を含まない。いくつかの実施形態では、パーソナルモバイル電子装置は、1つ以上のデバイスの第1の1組に含まれず、1つ以上のデバイスの第2の1組に含まれない。いくつかの実施形態では、1組の外部デバイスは、パーソナルモバイル電子装置を含み、したがって、第1のユーザインタフェースから送信された音声メッセージは、パーソナルモバイル電子装置(及び、任意選択的に、ホームの一部である他のモバイル機器)に送信される。いくつかの実施形態では、第2のユーザインタフェース(又はサブ場所に対応する任意のユーザインタフェース)から送信された音声メッセージは、パーソナルモバイル電子装置に送信されない(及び、任意選択的に、ホームの一部である他のモバイル機器にも送信されない)。いくつかの実施形態では、コンピュータシステムは、パーソナルモバイル電子装置をトップレベルの場所の任意のサブ場所に指定することを拒否するが、パーソナルモバイル電子装置をトップレベルの場所に指定することを可能にする。したがって、いくつかの実施形態では、第2の選択可能なユーザインタフェースオブジェクト対象を選択することにより、パーソナルモバイル電子装置(又は、トップレベルの場所のメンバーである任意の他のパーソナルモバイル電子装置)を含まない、1つ以上のデバイスの第2の1組に音声メッセージを記録し、送信するプロセスが開始される。
いくつかの実施形態では、コンピュータシステムは、第2のユーザインタフェースを表示した後に、入力(例えば、750q)(例えば、ユーザ入力、設定ユーザインタフェース上の入力)を受信し、1つ以上の外部デバイスの第2の1組(例えば、638)に音声メッセージを送信することを無効にする。いくつかの実施形態では、音声メッセージを1つ以上の外部デバイスの第2の1組に送信することを無効にするための入力の受信に応答して、コンピュータシステムは、第1の選択可能なユーザインタフェースオブジェクト対象(例えば、726)の選択を介し(例えば、第1の選択可能なユーザインタフェースオブジェクト対象の選択を介して、1つ以上の外部デバイスの第1の1組への音声メッセージの送信を無効にすることなく)、及び第2の選択可能なユーザインタフェースオブジェクト対象(例えば、776)の選択を介して1つ以上の外部デバイスの第2の1組に音声メッセージを送信することを無効にする(例えば、768a)。いくつかの実施形態では、1つ以上の外部デバイスの第2の1組への音声メッセージの送信を無効にした後、第1のユーザインタフェースへナビゲートし、第1の選択可能なユーザインタフェースオブジェクト対象の選択を受信することにより、音声メッセージを1つ以上の外部デバイスの第2の1組に送信することなく、1つ以上の外部デバイスの第1の1組に音声メッセージを記録し、送信するプロセスが開始される。いくつかの実施形態では、1つ以上の外部デバイスの第2の1組に音声メッセージを送信することを無効にするための入力の受信に応答して、コンピュータシステムは、1つ以上の外部デバイスの第2の1組を外部デバイスの1組から除去する。いくつかの実施形態では、1つ以上の外部デバイスの第2の1組への音声メッセージの送信を無効にした後に、第2のユーザインタフェースへナビゲートし、第2の選択可能なユーザインタフェースオブジェクト対象の選択を受信することで、音声メッセージを任意のデバイスに記録し、送信するプロセスは開始されない。いくつかの実施形態では、1つ以上の外部デバイスの第2の1組への音声メッセージの送信を無効にした後、第2のユーザインタフェースは、第2の選択可能なユーザインタフェースオブジェクト対象を含まない(又は、ユーザインタフェースオブジェクト対象の非選択可能/無効化バージョンを含む)、それにより、音声メッセージを1つ以上の外部デバイスの第2の1組に記録し、送信するプロセスを開始することができない。
いくつかの実施形態では、第1のユーザインタフェースは、トップレベルの場所(例えば、602)(例えば、ホームなどの構造)に対応し、第2のユーザインタフェースは、トップレベルの場所(例えば、602)のサブ場所(例えば、602a〜602d)(例えば、ホームの部屋、ホームのゾーン)に対応する。いくつかの実施形態では、コンピュータシステムは、(例えば、第1のユーザインタフェースを表示しておらず、第2のユーザインタフェースを表示していない間)、コンピュータシステム(例えば、コンピュータシステムのマイクロフォン)と通信するマイクロフォンで、デジタルアシスタントの自然言語要求を含むオーディオ入力(例えば、792a〜792e)を受信し(808)、オーディオ入力は、音声メッセージ(例えば、「マルチキャスト」という用語を含む)、場所識別子(例えば、トップレベルの場所、サブ場所)、及び音声メッセージ(例えば、音声メッセージを送信するプロセスを開始するための命令の後に受信される、及び/又は場所の識別子の後に受信される)を含む。いくつかの実施形態では、場所識別子がトップレベルの場所(例えば、782a)に対応するとの判定に従って、コンピュータシステムは、双方向音声通信チャネルを確立することなく(全二重音声通信チャネルを確立することなく)、音声メッセージを、1つ以上の外部デバイスの第1の1組及び1つ以上の外部デバイスの第2の1組を含む、外部デバイスの1組での再生のため、外部デバイスの1組の任意のデバイスに送信する(810)(例えば、マルチキャスト)。いくつかの実施形態では、場所識別子がサブ場所(例えば、792b、792c)に対応するとの判定に従って、コンピュータシステムは、1つ以上の外部デバイスの第2の1組で再生し、1つ以上の外部デバイスの第1の1組で再生しないために、外部デバイスの1組の任意のデバイスとの全二重音声通信チャネルを確立することなく、音声メッセージを送信する(812)(例えば、マルチキャスト)。いくつかの実施形態では、コンピュータシステムは、リモート装置(例えば、サービス、外部デバイスの1組の外部デバイス)が、それぞれの外部デバイスに対応する外部デバイスに音声メッセージを分配することができるように、音声メッセージと共に場所識別子を送信する。
いくつかの実施形態では、外部デバイスに音声メッセージを記録し、送信するためのプロセスを開始することの一部が含まれるときに、コンピュータは、記録ユーザインタフェースオブジェクト対象(例えば、736)(例えば、選択可能な記録ボタン)であって、記録ユーザインタフェースオブジェクト対象の選択(例えば、750c)(例えば、タップしてから、音声メッセージが完了したら端部を押圧する、音声メッセージを発声している間に押圧して保持する、タップして、コンピュータシステムが音声メッセージの端部を識別することを可能にする)が、コンピュータシステムによって検出された音声を記録することによって、音声メッセージの記録を生じさせるもの、及び送信ユーザインタフェースオブジェクト対象(例えば、756)(例えば、選択可能な送信ボタン)であって、第2のユーザインタフェースオブジェクト対象の選択(例えば、750e)(例えば、タップ)が、コンピュータシステムに、外部デバイスに音声メッセージを送信させるものを同時に含む、記録ユーザインタフェース(例えば、730、740、750)を(例えば、第2のユーザインタフェースの全て又は一部を置き換えることによって)表示する。いくつかの実施形態では、記録ユーザインタフェースはまた、音声メッセージが送信される外部デバイスに対応する、場所(例えば、トップレベルの場所、サブ場所、音声メッセージが送信される部屋又はゾーンの名前を指定する文字)の示唆(例えば、文字示唆、グラフィカル示唆)を同時に含む。
いくつかの実施形態では、コンピュータシステムは、マイクロフォンを含む1つ以上の入力デバイスと通信する。いくつかの実施形態では、第1の音声メッセージを1組の外部デバイスに記録し、送信するためのプロセス(例えば、ユーザインタフェース730、740、750)の一部として、コンピュータシステムは、マイクロフォンを介して、第2のオーディオ入力を受信する。いくつかの実施形態では、コンピュータシステムは、第1の音声メッセージを1組の外部デバイスに送信するものであって、第1の音声メッセージは、第2のオーディオ入力(例えば、の記録を含む)に基づく。
方法800(例えば、図8A〜8B)に関して上述したプロセスの詳細は、後述する方法にも同様に当てはまることに留意されたい。例えば、方法800は、任意選択的に、方法1000及び1200に関して後述する様々な方法の特性のうちの任意の1つ以上を含む。例えば、コンピュータシステムは、同じシステムであってもよい。別の例では、方法800で送信された音声メッセージは、1000で受信したメディアとすることができる。別の例では、方法1200で送信された音声入力は、方法1000で受信したメディアと同じであり得る。簡潔にするために、これらの詳細は、以下で繰り返さない。
図9A〜9Xは、いくつかの実施形態に係る、通知を表示するための例示的なデバイス及び例示的なユーザインタフェースを示す。これらの図のユーザインタフェースは、図10のプロセスを含む後述のプロセスを例示するために使用される。
「マルチキャストメッセージ」及び/又は「音声マルチキャストメッセージ」というフレーズは、図7A〜7AH、図8A〜8B、図11A〜11F、及び図12に記載されているのと類似の技術を使用して、デバイスから送信されるマルチキャストメッセージを指すために、本明細書では、図9A〜9Xに関して概して使用される。しかしながら、本明細書で使用するとき、マルチキャストメッセージ及び/又は音声マルチキャストメッセージは、必ずしもデバイス700の他の特徴を使用して送信されるマルチキャスト通信を含むことを意図するものではない。
図9Aは、ユーザインタフェース900を表示する電子デバイス700を示す。図9Aでは、電子デバイス700は、ポータブル多機能デバイスであり、デバイス100、200、300、及び500のうちの任意の1つ以上に関して上述した1つ以上の構成要素を有する。以下に説明する図に関して、いくつかの実施形態では、デバイス700は、ホーム602から離れた閾値距離未満の場所で動作している。しかしながら、他の実施形態では、デバイス700は、ホーム602から離れた閾値距離よりも遠い場所で動作している。
図9Aに示すように、ユーザインタフェース900は、上述のように(例えば、図6及び図7A〜7AH)、ホームアプリケーションに対応する設定ユーザインタフェースである。ここで、設定ユーザインタフェースは、デバイス700に登録されている人物(例えば、ユーザ)、及びホームアプリケーション(例えば、図7ABの人々797aのグループ)によって認識されている人物(例えば、ユーザ)である、カムアップルシードの設定ページである。図9Aに示すように、デバイス700は、図9Aで有効化されているマルチキャストオプション900aによって示される、マルチキャスト通知を受信するように構成されている。マルチキャストオプション900aが有効化されるため、マルチキャスト通知は、図9B〜9Xに示されるようにデバイス700によって受信される。いくつかの実施形態では、デバイス700は、マルチキャストオプション900aに対応する場所でタップジェスチャ950aを検出する。いくつかの実施形態では、タップジェスチャ950a(又は1つ以上の後続のタップジェスチャ)の検出に応答して、デバイス700は、マルチキャストオプション900aを有効化から無効化に変更し、デバイス700は、本明細書に記載されるフローに基づいて送信されるマルチキャストメッセージを受信するように構成されていない。したがって、いくつかの実施形態では、マルチキャストオプション900aが無効化されると、デバイス700はマルチキャストメッセージを受信しない。
図9B〜9Hは、ある時間の期間にわたって表示されているマルチキャスト通知及び非マルチキャスト通知を示し、同時にマルチキャストオプション900aが有効化されている。具体的には、図9B〜9Hは、デバイスの特定の目標グループにも向けられる新しいマルチキャスト通知が、所定の時間の期間内に受信されない限り、表示の消滅又は中止(例えば、所定の時間の期間後)のデバイスの特定の目標グループに向けられる(例えば、それに対応する)そのマルチキャスト通知(例えば、本明細書に記載の方法を使用して送信されるマルチキャストメッセージ)を示す。いくつかの実施形態では、デバイスの特定の目標グループは、ホーム(例えば、図6のホーム602)、部屋(例えば、図6のダイニングルーム602b、寝室602c)、又はゾーン(例えば、例えば図7Uに関連して説明されるような「娯楽ゾーン」)に指定されたデバイスのグループである。
例えば、図9Bでは、10:00 AMで、デバイス700は、更新されたコンテンツがニュースアプリケーションによって公開されたことを示すデータを受信する。
図9Bに示すように、データの受信に応答して、デバイス700は、ニュース通知902を含むユーザインタフェースを表示する。図9Bでは、ニュース通知902はマルチキャスト通知ではない。したがって、ニュース通知902は、マルチキャストオプション900aが有効化されているか無効にされているかにかかわらず、表示される。換言すれば、マルチキャストオプション900aの状態は、マルチキャスト通知ではないため、ニュース通知902に影響を与えない。
10:02 AMで、デバイス700は、新しい音声マルチキャストメッセージが(例えば、電子デバイス700を含むデバイスに向けられて)ホーム602に送信されたことを示すデータ(「ホーム目標グループ」)を受信する。いくつかの実施形態では、データは、新しい音声マルチキャストメッセージの受信機としての目標グループ識別子(例えば、「ホーム」)を含む。
図9Cに示すように、データの受信に応答して、デバイス700は、10:02 AMで受信したデータを表す、マルチキャスト通知904を表示する。図9Cでは、マルチキャスト通知904は、ニュース通知902と同時に表示される。マルチキャスト通知904は、アプリケーション示唆904a、通知タイプ示唆904b、送信者示唆904c、目標示唆904d、及び受信示唆の時間904eを含む。
アプリケーション示唆904aは、通知を提供するアプリケーションを示す。ここで、アプリケーション示唆904aは、ホームアプリケーションに指定され、図7Aのホームアイコン704aと類似している、グラフィカル表現アイコンを含む。
通知タイプ示唆904bは、通知の通知タイプを示す。ここで、通知タイプはマルチキャスト通知である。
送信者示唆904cは、音声マルチキャストメッセージの送信者を示す。ここで、送信者は、音声マルチキャストメッセージを送信するプロセスを開始したデバイス(例えば、ホーム目標グループにあるデバイス)と登録されている人物、ジョンである。いくつかの実施形態では、送信者が人物である場合、送信者の識別情報は、1つ以上の音声識別アルゴリズムを使用して、音声マルチキャストメッセージに対応する音声入力を分析する1つ以上のデバイスによって確立される。いくつかの実施形態では、送信者の識別情報が人物として確立できない場合、送信者示唆904cは、送信者が、音声マルチキャストメッセージを送信するデバイスなどのデバイス(例えば、「リビングスピーカ」)であることを示す。いくつかの実施形態では、送信者が人物として確立されておらず、例えば、人物が、音声マルチキャストメッセージを送信するためのプロセスを開始した送信者デバイスと登録されていないとき、及び/又は複数の人々が、音声マルチキャストメッセージを送信するためのプロセスを開始した送信者デバイスと登録されているときに、人物は送信者デバイスで確立されていない。
目標示唆904dは、音声マルチキャストメッセージが対応するデバイスの目標グループを示す。ここで、目標示唆904dは、ホーム目標グループ(例えば、「ホームから」)である。いくつかの実施形態では、(音声マルチキャストメッセージに対応する)目標グループは、図7E〜7F、図7J〜7M、及び図7S〜7Uに関連して上述したように、音声マルチキャストメッセージの送信者によって識別されるグループである。いくつかの実施形態では、目標グループは、1つ以上のユーザ入力(例えば、音声入力(例えば、792a〜729d)及び/又はジェスチャ(例えば、750b及び750g3)に基づいて、音声マルチキャストメッセージの送信者によって識別される。いくつかの実施形態では、返信メッセージがデバイス700で受信されるとき、目標グループは、最初の音声マルチキャストメッセージに基づいて識別される。例えば、デバイス700は、デバイス700が寝室602cに指定されたデバイスのグループに最初の音声マルチキャストメッセージを以前に向けた場合など、ある状況では寝室602cに対応する目標グループを有する返信音声マルチキャストメッセージを受信することができる。
受信示唆904eの時間は、通知が表示されたとき(又は、いくつかの実施形態では、通知に対応するデータが受信されたとき)を示す。ここで、受信示唆904eの時間は、通知が「NOW(現在)」又は10:02 AMで表示されたことを示す。
図9Dに示すように、10:09 AMに、デバイス700は、ニュース通知902の表示を継続し、マルチキャスト通知904の表示を中止する。いくつかの実施形態では、通知904は、マルチキャスト通知が表示されることを中止した後に、デバイス700のユーザインタフェース上に全く表示されない。いくつかの実施形態では、通知904は、マルチキャスト通知が表示されることを中止した後の任意の他の時点で、図9Dのユーザインタフェース上に表示されない。いくつかの実施形態では、デバイスは、保留中の通知(例えば、ユーザによって影響を受けていない通知)を検視するためにユーザ入力を受信し、それに応じて、マルチキャスト通知904を表示することなく、新しい通知902を表示する。
図9Dに示すように、デバイス700は、マルチキャスト通知904の減衰期間(例えば、1秒、30秒、60秒、300秒など)の終了前(及び/又は所定の時間の期間内)、ホーム目標グループに対応する新しい音声マルチキャストメッセージに対応するデータが受信されないため、マルチキャスト通知904の表示を中止する(ディスプレイがオンの場合でも)。他方、デバイス700は、ニュース通知902がマルチキャスト通知ではなく、所定の時間の期間が経過すると(及び、ディスプレイがオンである場合)、デバイス700は、ニュース通知902の表示を継続する。
図9E〜9Hは、図9B〜9Dに関連して上述した例に加えて、技術の例を示す。図9B〜9Dでは、マルチキャスト通知(例えば、所定の時間の期間)の減衰期間は、例示目的のみのために5分である。いくつかの実施形態では、減衰期間は5分より短く、又は長い。
10:10に、デバイス700では、データの3つの異なる1組を受信する。データの第1の1組は、ホーム目標グループに対応する新しい音声マルチキャストメッセージが受信されたことを示す。データの第2の1組は、寝室602cに指定されたデバイスのグループ(「寝室目標グループ」)に対応する新しい音声マルチキャストメッセージが受信されたことを示す。データの第3の1組は、娯楽ゾーン(「娯楽ゾーン目標グループ」)に指定されたデバイスのグループ(「娯楽ゾーン目標グループ」)(例えば、リビングルーム602d及びサンルーム602eに指定されたデバイスのグループの組み合わせ)に対応する新しい音声マルチキャストメッセージが受信されたことを示す。
いくつかの実施形態では、データの第1の1組は、ホーム目標グループに対応する、最初の音声マルチキャストメッセージ又は返信音声マルチキャストメッセージ(例えば、デバイス700が送信した最初の音声マルチキャストメッセージへの返信)を表す。いくつかの実施形態では、データの第2の1組のデータ及びデータの第3の1組は、それぞれ対応する目標グループに別々に送信された最初の音声マルチキャストメッセージに応答して受信される、返信音声マルチキャストメッセージ、すなわち、音声マルチキャストメッセージを表す。いくつかの実施形態では、データの第2の1組のデータ及びデータの第3の1組は、上述のように(例えば、図7M、図7T、図7V、及び図7X)、デバイス700がゾーン又は部屋の目標グループに指定されておらず、それらの目標グループから送信される最初のメッセージを受信することができないため、それぞれの目標グループから受信される最初のメッセージではない。
図9Eに示すように、3つのデータの1組の受信に応答して、デバイス700はマルチキャスト通知906a、908a、及び910を表示する。デバイス700はまた、ニュース通知902を表示し続ける。図9Eに示すように、通知は通知リストに表示される。リスト(例えば、ニュース通知902)の下部に最も古い通知が表示され、最も新しい通知はリストの最上部にある(例えば、マルチキャスト通知910)。したがって、通知906a、908a、及び910は、ほぼ同時に表示されたが、通知906a、908a、及び910は、図9Eに示す順序でそれぞれ表示された。いくつかの実施形態では、通知は、異なる順序で、又は異なる配列で表示される。
図9Eに示すように、通知906aは、音声マルチキャストメッセージがホーム目標グループから「ジョン」によって送信されたことを示す。通知908aは、音声マルチキャストメッセージが寝室目標グループから「ジェーン」によって送信されたことを示し、通知910は、音声マルチキャストメッセージが、娯楽ゾーン目標グループから「エマ」によって送信されたことを示す。図9Eに示すように、新しいマルチキャスト通知のうちの3つ全ては、データが10:10 AMに最近受信された(又は最近表示された)ため、「NOW」の時間受信示唆を含む。しかしながら、そのデータが10:00に受信された(又は通知が表示された)ため、ニュース通知902の時刻受信示唆は「10分前」である。
10:11 AMには、デバイス700は、ホーム目標グループに対応する新しい音声マルチキャストメッセージが受信されたことを示すデータを受信する。
図9Fに示すように、新しいデータの受信に応答して、デバイス700は、ホーム目標グループに対応する新しい音声マルチキャストメッセージを示すデータが受信されたため(例えば、10:11で受信したデータ)、マルチキャスト通知906aの減衰期間が満了する前(例えば、マルチキャスト通知906aを表示した、又は図9Eの第1のデータを受信した後の所定の時間の期間内)に、マルチキャスト通知906bを表示する。特に、デバイス700は、通知906a及び910のディスプレイを更新せず、それらのそれぞれの目標グループに対応する新しい音声マルチキャストメッセージを示すデータが受信されておらず、その減衰期間が満了していない(例えば、それらは、それらの目標グループに対する新しいマルチキャストメッセージに対応するデータを受信することなく、5分を超えて表示されていない)ので、これらの通知の表示を継続する。
マルチキャスト通知906bは、デバイス700が図9Fに表示を中止した、マルチキャスト通知906aの更新バージョンである。図9Eを再び見ると、マルチキャスト通知906aは、ジョンがホーム目標グループに対応するマルチキャストメッセージを送信したことを示す。図9Fに戻ると、マルチキャスト通知906bはまた、ホーム目標グループに対応する以前のマルチキャストメッセージ(通知906aによる当初の表現のマルチキャストメッセージ)をジョンが送信した情報(例えば、通知906bの「ジョン」)も含む。加えて、マルチキャスト通知906bは、もう一方がホーム目標グループに対応するマルチキャストメッセージを送信した情報を含む。したがって、マルチキャスト通知906bは、2つの音声マルチキャストメッセージに関する情報を含み、すなわち、マルチキャスト通知906bは、ホーム目標グループに対応する第1の音声マルチキャストメッセージの送信者(「ジョン」)、及びホーム目標グループに対応する第2の音声マルチキャストメッセージの送信者(例えば、「もう一方」)を表す情報を含む。
図9Fに示すように、マルチキャスト通知906bは、直近の通知であるため、現在の時間受信示唆と共にリストの最上部に表示される。特に、ホーム目標グループに対応する新しい音声マルチキャストメッセージが受信された時間(例えば、10:11に受信されたデータ)を反映するために、図9Fでマルチキャスト通知906bの時間受信示唆が変更されるが、マルチキャスト通知906aは図9Eでは10:10に最初に表示された(又は、マルチキャスト通知906aに対応するデータが最初に受信された)。いくつかの実施形態では、マルチキャスト通知906aはマルチキャスト通知906bと同時に表示される。いくつかの実施形態では、マルチキャスト通知906aがマルチキャスト通知906bと同時に表示されるとき、マルチキャスト通知906aの時刻受信示唆は、「NOW」と書かれるように更新される。いくつかの実施形態では、マルチキャスト通知906aの時刻表示を更新することにより、マルチキャスト通知906aの減衰期間が延長される。いくつかの実施形態では、図9Fでのデータの受信は、マルチキャスト通知906a(例えば、又はマルチキャスト通知906bがマルチキャスト通知906aによって表される音声マルチキャストメッセージを表すコンテンツを含むため、マルチキャスト通知906aのコンテンツ)の減衰期間を延長する。
図9Fに示すように、直近から少なくとも最近にそれぞれリスト表示される通知910、908a、及び902は、マルチキャスト通知906bの下にある。加えて、通知910、908a、及び902の時間受信示唆は、それぞれがそれぞれ表示された時間の長さ(又は各それぞれの通知に対応するデータが受信されたために経過した時間)を反映するように、図9Fで更新されている。
10:12 AMには、デバイス700は、寝室目標グループに対応する新しい音声マルチキャストメッセージが受信されたことを示すデータを受信する。
図9Gに示すように、データの受信に応答して、デバイス700は、寝室目標グループに対応する新しい音声マルチキャストメッセージを示すデータが受信されたため(例えば、10:12で受信したデータ)、マルチキャスト通知908bの減衰期間が満了する前(例えば、マルチキャスト通知906bを表示した、又は図9Eの第2のデータを受信した後の所定の時間の期間内)に、マルチキャスト通知908bを表示する。特に、デバイス700は通知908b及び910を更新せず、それらのそれぞれの目標グループに対応する新しい音声マルチキャストメッセージを示すデータが受信されておらず、それらの減衰期間が満了していないため、通知908b及び910を表示し続ける。いくつかの実施形態では、マルチキャスト通知908bは、マルチキャスト通知906bに関して図9Fで上述したものと類似の技術を使用して表示される。
マルチキャスト通知908bは、デバイス700が図9Gに表示を中止した、マルチキャスト通知908aの更新バージョンである。図9Eを再び見ると、マルチキャスト通知908aは、ジェーンが寝室目標グループに対応するマルチキャストメッセージを送信したことを示す。図9Gに戻ると、マルチキャスト通知908bは、2つのマルチキャストメッセージが、寝室目標グループに対応するジェーンによって送信されたことを示す。ここで、新しい送信者を含むマルチキャスト通知908bの代わりに、マルチキャスト通知908bは、マルチキャスト通知908aと比較すると、それぞれの送信者によって送信された通知の増加量を表すコンテンツを表示する。いくつかの実施形態では、マルチキャスト通知908aは、異なる送信者が新しいマルチキャストメッセージを送信したかどうかに関係なく、寝室目標グループから受信された通知の量の表現を含む。
図9Hに示されるように、マルチキャスト通知908bがリストの最上部に表示され、通知906b、910、及び902は、直近から少なくとも最近の順序でマルチキャスト通知908bの下に表示される。
図9Hに示すように、10:15 AMに、マルチキャスト通知910の減衰期間が満了したため、デバイス700はマルチキャスト通知910の表示を中止する。換言すれば、デバイス700は、マルチキャスト通知910が最初に表示された(又は、娯楽目標グループに対応する音声マルチキャストメッセージを示すデータが受信された)ときの所定の時間内(又は、通知910の減衰期間の終了前)に、マルチキャスト通知910の目標グループ(例えば、「娯楽ゾーン」)に対応する新しい音声マルチキャストメッセージを示すデータを受信していない。したがって、図9Eを参照すると、デバイス700は、データの第1及び第2の1組に示されたそれぞれの目標グループに対応するデータが各それぞれの通知の減衰期間が終了する前に受信され、一方、データの第3の1組に示された目標グループに対応するデータが、マルチキャスト通知910の減衰期間が終了する前に受信されなかったため、データの第1の1組を表すコンテンツ(例えば、マルチキャスト通知906bのジョン)及びデータの第2の1組を表すコンテンツ(例えば、マルチキャスト通知908bのマルチキャストのうちの1つ)を表示し続け、データの第3の1組を表すコンテンツをもはや表示しない(例えば、マルチキャスト通知910)。
図9I〜9Pは、受信した音声マルチキャストメッセージの再生のためのユーザインタフェースを示す。具体的には、図9I〜9Kは、複数の音声マルチキャストメッセージが、単一の入力に応答して自動的に再生されるシナリオを示す。加えて、図9L〜9Pは、1つの受信された音声マルチキャストメッセージが、他の受信された音声マルチキャストメッセージのグループから選択され、再生されるシナリオを示す。図9Hでは、デバイス700は、マルチキャスト通知906bに対応する場所でタップジェスチャ950hを検出する。
図9Iに示すように、タップジェスチャ950hの検出に応答して、デバイス700は、ユーザインタフェース920を表示する。ユーザインタフェース920は、(図9Iで「ホームからのマルチキャスト」によって示されるように)ホーム目標グループに対応する音声マルチキャストメッセージである、マルチキャスト通知906bに示される音声マルチキャストメッセージを表示するためのユーザインタフェースである。ユーザインタフェース920は、マルチキャスト通知906bで表される音声マルチキャストメッセージのうちの1つをそれぞれ表す、グラフィカル送信者示唆924a及びグラフィカル送信者示唆924bを含む。ここで、グラフィカル送信者示唆924aはグラフィカル送信者示唆924bよりも大きく、ユーザインタフェースの中央では、グラフィカル送信者示唆924aに対応する音声マルチキャストメッセージが現在再生のために選択されていることを示す。グラフィカル送信者示唆924aは、スピーカデバイスの画像であり、図9Fで10:11 AMに受信された「もう一方」によって送信された音声マルチキャストメッセージに対応するデータを表す。グラフィカル送信者示唆924bはジョンの画像(すなわち、図7ABのジョンA.の画像を含む797a)であり、データの代表は、図9Eで10:10 AMに受信されたジョンによって送信された音声マルチキャストメッセージに対応する。いくつかの実施形態では、音声メッセージは、受信された順序で表示される(例えば、図9Eでは、グラフィカル送信者示唆924b及びグラフィカル送信者示唆924bが切り替えられる)。ユーザインタフェース920は、ユーザインタフェース(又は最大のグラフィカル送信者示唆)の中央に表示されるスピーカ又はデバイスに指定された名前を示す、現在の送信者示唆922aを更に含む。ここで、現在の送信者示唆922aは、スピーカが「リビングルーム」の名前を有し、送信者からの音声マルチキャストメッセージが現在再生中であるか、又は再生アフォーダンス926の選択によって現在再生され得ることを示す。加えて、デバイス700はまた、現在選択されている音声マルチキャストメッセージが、再生することができる10秒の長さを有することを示す、残りの示唆928、及び選択された音声マルチキャストメッセージが、ホーム目標グループに対応する音声マルチキャストメッセージの総数のうちの2つのメッセージ1であることを表すカウント示唆930を表示する。いくつかの実施形態では、設定が音声マルチキャストメッセージの音声表記を可能にすることが有効なとき、ユーザインタフェース920は、現在選択されている音声マルチキャストメッセージの文字表現を含む。
図9Iに示すように、デバイス700は、寝室目標グループに対応する新しい音声マルチキャストメッセージが受信されたことを示すデータを受信し、データの受信に応答してマルチキャスト通知940を表示する。いくつかの実施形態では、デバイス700は、以下の図9Lに関連して説明されるように、この受信されたデータに基づいて通知のリストを更新する。図9Iでは、デバイス700は、再生アフォーダンス926に対応する場所でタップジェスチャ950iを検出する。
図9J〜9Kに示すように、タップジェスチャ950iの検出に応答して、デバイス700は、メディアの再生を開始する。図9Jに示すように、デバイス700は、ホーム目標グループに対応する最後に受信した音声マルチキャストメッセージを再生する(例えば、上記の図9Fで10:11に受信した)。図9Jでは、現在選択されている音声マルチキャストメッセージ(例えば、10:11に受信した「もう一方」からの音声マルチキャストメッセージ)を再生している間に、デバイス700は、時刻表示932を表示し、示唆928及び930を更新する。図9Kに示すように、デバイス700は、現在、ホーム目標グループに対応する第1の音声マルチキャストメッセージを再生している(例えば、上記の図9Eのジョンから10:10に受信した)。特に、デバイス700は、ホーム目標グループに対応する最後の音声マルチキャストメッセージの再生を完了した後に(例えば、タップジェスチャ950iを検出した後に追加入力を受信することなく)、自動的に第1の音声マルチキャストメッセージを再生する。
図9Lに示すように、図9Kでユーザインタフェースを表示した後しばらくして、デバイス700は通知のリストを再表示する。ここで、通知902bは表示を中止している。いくつかの実施形態では、通知902bは、通知に対応する場所でジェスチャが検出されたこと及び/又は音声マルチキャストメッセージのうちの任意の1つ以上が図9J〜9Kで再生されたことから表示を中止している。いくつかの実施形態では、その減衰期間が、ホーム目標グループに対応する新しいマルチキャストが受信される前に(例えば、10:16 AMで)終了したため、通知902bは表示を中止する。
図9Lでは、デバイス700はまた、マルチキャスト通知908cを表示しており、マルチキャスト通知908bの表示を中止している。マルチキャスト通知908cは、図9Iで受信した音声マルチキャストメッセージに対応する参照データに更新されたマルチキャスト通知908bの更新バージョンであり、図9Iではマルチキャスト通知940によって表された。したがって、マルチキャスト通知908bは、寝室目標グループに対応する2つのマルチキャスト通知が受信されたことを示すコンテンツを含んでいるが、マルチキャスト通知908cは、寝室目標グループに対応する3つのマルチキャスト通知が受信されたことを示すコンテンツを含むように更新されている。図9Lでは、デバイス700は、マルチキャスト通知908cに対応する場所で押圧及び保持ジェスチャ950lを検出する。いくつかの実施形態では、デバイス700は、ジェスチャが検出(又は保持)され続けている間に、押圧及び保持ジェスチャ950lを検出する。いくつかの実施形態では、デバイス700は、ジェスチャが解放された後に、押圧及び保持ジェスチャを検出する。
図9Mに示すように、押圧及び保持ジェスチャ950lの検出に応答して、デバイス700は、(例えば、押圧及び保持ジェスチャ950lを検出し続けながら、押圧及び保持ジェスチャ950lの終了後)ユーザインタフェース960を表示する。ユーザインタフェース960は、(図9I〜9Kに関連して上述したように)ユーザインタフェース920に類似のユーザインタフェース要素を含む。しかしながら、ユーザインタフェース960は、ユーザインタフェース920よりも小さいエリアを有する。ユーザインタフェース960が寝室目標グループから音声マルチキャストメッセージを再生するためのユーザインタフェースである間、デバイス700は、ユーザインタフェース920に関して上述したような1つ以上の技術を使用することができる。いくつかの実施形態では、開いているアフォーダンス962上のユーザ入力950m1の検出に応答して、デバイス700は、ユーザインタフェース960の表示を中止し、ユーザインタフェース920と類似のサイズのユーザインタフェースを表示する。図9Mでは、デバイス700は、ユーザインタフェース960に対応する場所でスワイプジェスチャ950m2を検出する。
図9Nに示すように、第1のジェスチャ(例えば、スワイプジェスチャ950m2)の検出に応答して、デバイス700は、現在選択されている音声マルチキャストメッセージを、寝室目標グループに対応する最後に受信された音声マルチキャストメッセージ(例えば、その対応するデータが図9Iで受信された場合)から寝室目標グループに対応する第2の最後に受信された音声マルチキャストメッセージ(例えば、その対応するデータが図9Gで受信された場合)に変更する。図9Nでは、デバイス700は、ユーザインタフェース960に対応する場所でスワイプジェスチャ950nを検出する。
図9Oに示すように、第2のジェスチャ(例えば、スワイプジェスチャ950n)の検出に応答して、デバイス700は、現在選択されている音声マルチキャストメッセージを、寝室目標グループに対応する第2の最後に受信された音声マルチキャストメッセージ(例えば、その対応するデータが図9Fで受信された場合)から寝室目標グループに対応する第1に受信された音声マルチキャストメッセージ(例えば、その対応するデータが図9Eで受信された場合)に変更する。図9Oでは、デバイス700は、ユーザインタフェース960(例えば、再生アフォーダンス926上)に対応する場所でタップジェスチャ950oを検出する。
図9Pに示すように、タップジェスチャ950o、デバイス700の検出に応答して、デバイス700は、他の音声マルチキャストメッセージの再生を開始することなく、寝室目標グループに対応する第1に受信された音声マルチキャストメッセージ(例えば、現在選択されている)の再生を開始する。いくつかの実施形態では、図9P(又は9I〜9J)で、デバイス700は、マルチキャストアフォーダンス736に対応する場所でタップジェスチャ950pを検出し、タップジェスチャ950pの検出に応答して、マルチキャストアフォーダンス736に対応する場所で、デバイス700は、上述のように(例えば、図7C及び図7I)、1つ以上の入力デバイスを介して、メディアの記録を開始する。いくつかの実施形態では、図9Pでは、デバイス700は、(上述のように)音声入力720aなどの1つ以上の音声入力を検出して、ジェーンに再生するために、寝室目標グループに対応する音声マルチキャストメッセージを送信する。
図9Q〜9Vは、スマートウォッチ701などのデバイス700よりも小さいディスプレイを有するデバイス上に上述のユーザインタフェースを表示するための例示的なユーザインタフェースを示す。上述したユーザインタフェースのいずれかは、図9A〜9Pのために上述したものと1つ以上の類似の技術を使用して、スマートウォッチ701(例えば、ユーザインタフェース970、972、974、976、978、及び980)(又はタブレット634)上で表示及び遷移することができる。
図9W〜9Xは、コンピュータデバイス674などのデバイス上で上述したユーザインタフェースを表示するための例示的なユーザインタフェースを示す。上述のように、いくつかの実施形態では、コンピュータデバイス674は、1つ以上のユーザインタフェースを表示するためのコンピュータデバイス674の命令を送信する1つ以上のデバイスと通信する。上述したユーザインタフェースのいずれかは、図9A〜9Pのために上述したものと1つ以上の類似の技術を使用して、コンピュータデバイス674(例えば、ユーザインタフェース996及び998)上で表示及び遷移することができる。
図10は、いくつかの実施形態に係る、コンピュータシステムを使用した通知を表示するための方法を示すフロー図である。方法1000は、ディスプレイ生成構成要素と通信するコンピュータシステム(例えば、100、300、500、634、674、700、701、850)で実行される。方法1000のいくつかの動作は、任意選択的に組み合わされ、いくつかの動作の順序は、任意選択的に変更され、いくつかの動作は、任意選択的に省略される。
後述するように、方法1000は、通知を表示するための直観的方法を提供する。この方法は、通知を検視する際のユーザの認識的負担を軽減し、それにより、より効率的なヒューマン−マシンインタフェースを作り出す。バッテリ動作式コンピューティングデバイスの場合、ユーザがより高速かつ効率的に通知にアクセスすることを有効化することで、電力を節約し、バッテリ充電間の時間を延ばす。
コンピュータシステムは、第1のメディアに対応する第1のデータを受信する(1002)。
コンピュータシステムは、(例えば、第1のデータの受信に応答して)ディスプレイ生成構成要素を介して、第1の時間周期の端部(例えば、所定の第1の時間周期)まで、第1のメディア(例えば、904b、904c)(例えば、第1のデータに対応する通知)(例えば、第1のメディアを再生するプロセスを開始するために選択可能な通知)の示唆を有する第1の通知(例えば、906a、908a、910)を表示する(1004)。
コンピュータシステムは、第1のデータを受信した後(例えば、第1の通知のディスプレイの開始後)、第2のメディアに対応する第2のデータを受信するものであって(1006)、第2のメディア(例えば、9Jの932)は、第1のメディア(例えば、9Kの932)とは異なる。
コンピュータシステムは、第2のメディアが1つ以上の基準の1組を満たすとの判定に従い(及び、いくつかの実施形態では、1つ以上の基準は、第2のメディアが第1のメディアと同じ目標グループに向けられたときに満たされる基準を含み)、並びに(1)第2のデータが受信された時間、及び(2)第1のデータが受信された時間に基づく判定(例えば、第2のデータが、第1のデータが受信された後に所定の時間内に受信されたとの判定)に従って、ディスプレイ生成構成要素を介して、第2の時間周期の端部まで(例えば、第2のデータの受信に応答して)表示する(1008)。いくつかの実施形態では、第2の時間周期は、第2のデータの受信に基づく。いくつかの実施形態では、第2の時間周期は、第1のデータの受信に基づくものではない。いくつかの実施形態では、第2の時間周期は、所定の第2の時間周期である)、第1のメディア(例えば、9Kの932)(例えば、少なくとも第1のデータに対応する通知)(例えば、少なくとも第1のメディアを再生するためのプロセスを開始するために選択可能な通知)(例えば、少なくとも第1のデータの受信を示す通知)の示唆(例えば、906bの示唆(例えば、「ジョン」)、908b(例えば、「2」))を有する第2の通知(例えば、906b、908b、908c)、ここで、第1の時間周期の端部は、第2の時間周期の端部と異なる。いくつかの実施形態では、第2の通知は、第1の通知である。いくつかの実施形態では、第2の通知は、第1の通知とは異なる(例えば、第2の通知は、(1)第1のメディアに対応する情報と、(2)第2のメディアに対応する情報とを組み合わせる通知である)。いくつかの実施形態では、第2の通知は、第1の時間周期の後に表示される(例えば、最初に表示される)。いくつかの実施形態では、第2のメディアの受信が第1のメディアの受信の所定時間内であるとき、第1のメディアに対応する情報が表示される時間の長さが延長される。いくつかの実施形態では、第2の時間周期は、第1のデータが受信されたときと第2のデータが受信されたときとの間の差に基づいて決定される。いくつかの実施形態では、メディア(例えば、第1のメディア、第2のメディア)は、別のデバイスで記録され、第1のデータ及び第2のデータを受信するコンピュータシステムを含む、デバイスのグループに送信された音声メッセージである。いくつかの実施形態では、1つ以上の基準の1組は、第1のメディアのディスプレイ期間(例えば、通知が有効である持続時間、通知が通知の集合に表示される持続時間)の端部の前に第2のメディアが受信されたときに満たされる基準を含む。いくつかの実施形態では、1つ以上の基準の1組は、(例えば、第1の通知のアクティブ化を介して、第1の通知をクリアするユーザ入力を介して)第1の通知を表示することを停止する前に第2のメディアが受信されたときに満たされる基準を含む。特定の基準が満たされたときに第2の通知に関連した第1の通知に含まれる通知を含む第2の通知を動的に表示することにより、ユーザに、第2の通知と第1の通知の間の関係についてのフィードバックを提供し、同時にまた、第1の通知の表示を中止した場合であっても、第1の通知に含まれる示唆を表示し続けることを可能にする。改善された視覚的フィードバックをユーザに提供することにより、コンピュータシステムの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、第1の通知(例えば、906a)は、第2のデータが受信される時に(例えば、第2のメディアが1つ以上の基準の1組を満たすとの判定に従って)表示されている。いくつかの実施形態では、第2の通知(例えば、906b)の表示の一部として、コンピュータシステムは、第1の通知の表示を中止する(例えば、図9Eで)。いくつかの実施形態では、第2のメディアが1つ以上の基準の1組を満たすとの判定に従い(及び、いくつかの実施形態では、1つ以上の基準は、第2のメディアが第1のメディアと同じ目標グループに向けられたときに満たされる基準を含む)、及び第2のデータが第1のデータが受信された後の所定の時間内に受信されたとの判定に従って、第1の通知の表示を停止する。第2の通知が第1の通知に関する情報を含むときに第1の通知を表示することを停止することにより、ユーザインタフェースを乱すことなく、第1の通知の情報に関するフィードバックがユーザに提供される。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、第1のメディアは、第1の音声メッセージ(例えば、9Kの932)(例えば、外部デバイスで(マイクロフォンを使用して)記録され、外部デバイスによってデバイスのグループに送信される音声メッセージ、コンピュータシステムを含む複数の外部デバイスに向けられた(例えば、送信された)音声メッセージ)である。いくつかの実施形態では、第2の音声メッセージは、第2の複数の外部デバイス(例えば、複数の外部デバイスとは異なる、複数の外部デバイスと同じ)に向けられた(又は送信された)第2の音声メッセージである。マルチキャストされた音声メッセージに関連付けられた通知を表示することは、通知のタイプに関する視覚的フィードバックをユーザに提供し、これにより、通知が減衰し、所定の時間の期間に応答される必要があることをユーザに識別させる。改善された視覚的フィードバックをユーザに提供することにより、コンピュータシステムの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、第1の通知(例えば、904)は、第1のメディア(例えば、9Kの932)が(例えば、メディアに対応する第1のデータが送信された)複数の外部デバイスのグループの示唆(例えば、904d)を含む。いくつかの実施形態では、第1のデータは、第1のメディアが向けられた複数の外部デバイスのグループを識別する。いくつかの実施形態では、複数の外部デバイスはコンピュータシステムを含む。第1のメディアが向けられたデバイスのグループの示唆を含む通知を表示することにより、ユーザに、再生メッセージを送信及び/又は受信するデバイスに関するフィードバックが提供される。改善された視覚的フィードバックをユーザに提供することにより、コンピュータシステムの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、第1のデータの受信に応答して、コンピュータシステムは、第1の時間周期(例えば、所定の第1の時間周期)の端部まで、第1の通知(例えば、906a)を通知の集合(例えば、図9B〜9Hに表示された通知)(例えば、通知の集合の表示を要求するユーザ入力に応答して表示され、ディスプレイのためにアクセス可能な通知の集合、最近の通知のリスト表示)に追加する、いくつかの実施形態では、第1の時間周期の端部に到達することに従い、コンピュータシステムは、通知の集合から第1の通知(例えば、904)を除去する。いくつかの実施形態では、第1の時間周期の端部の前に、第2のメディアに対応する第2のデータを受信することに従い、及び第2のメディアが1つ以上の基準の1組を満たすとの判定に従って、コンピュータシステムは、通知の集合から第1の通知(例えば、906a)を除去し、通知の集合に第2の通知(例えば、906b)を追加する。いくつかの実施形態では、第1の所定の時間周期の端部の前に、メディアに対応するデータを受信することに従い、及び第2のメディアが1つ以上の基準の1組を満たさないとの判定に従って、通知の集合から第1の通知を除去することなく、通知の集合に第2の通知を追加する。いくつかの実施形態では、コンピュータシステムは、第1の通知のためにディスプレイの端部条件が満たされることに従って、通知の集合から第1の通知を除去する。通知に関連する追加のデータ(例えば、更新なし、又は新たなメディアなし)が特定の時間の期間内に受信されていないときに通知を削除することを選択することにより、デバイスは、ユーザが通知を手動で削除することを必要とせずに、UIを乱すユーザに失効(例えば、古い、非関連)通知を提供することを回避することができる。更なるユーザ入力を必要とせずに1組の状態が満たされた場合に最適化された動作を実行することにより、コンピュータシステムの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、第1のデータは、第1のメディアが向けられた(例えば、送信された)複数の外部デバイスの目標グループを識別する。いくつかの実施形態では、第1のメディア(例えば、及び、通知がアクティブ化されるとき、第1のメディア(例えば、第1の音声メッセージ)を再生するためのプロセスを開始する)に対応する通知(例えば、906a、908a、910)(例えば、第1の通知)を表示している間に、コンピュータシステムは、第3のメディアに対応する第3のデータを受信する(1010)。いくつかの実施形態では、第3のメディアに対応する第3のデータの受信に応答し(1012)、及び第3のメディアが1つ以上の基準の1組を満たすとの判定に従って(いくつかの実施形態では、1つ以上の基準は、メディアが第1のメディアと同じデバイスの目標グループに向けられたときに満たされる基準を含む)、コンピュータシステムは、第1のメディア(例えば、及び、通知がアクティブ化すると、第1のメディア(例えば、第1の音声メッセージ)を再生するためのプロセスを開始する)に対応する通知(例えば、第1の通知、第2の通知)が表示される(例えば、図9Fの906b)間、持続時間を延長する(1014)。いくつかの実施形態では、第3のメディアに対応する第3のデータの受信に応答し(1012)、及び第3のメディアが1つ以上の基準の1組を満たさないとの判定に従って(例えば、第3のメディアは、第1のメディアと比較して、目標デバイスの異なる1組に向けられた)、コンピュータシステムは、第1のメディアに対応する通知が表示される間(例えば、図9Fの908a、910)持続時間を延長することを取り止める(1016)。いくつかの実施形態では、コンピュータシステムが1つ以上の基準の1組を満たすメディアに対応する追加のデータを受信すると、デバイスは、1つ以上の基準の1組を満たすメディアに応答して表示された直前の通知が、時間周期の端部に到達することに基づいて表示されることをまだ中止していない限り、ディスプレイ生成構成要素を介して通知が表示される間、持続時間を延長し続ける。したがって、音声メッセージが、目標デバイス(例えば、外部デバイス)の同じ1組に向けられて受信されると、音声メッセージのそのチェーンに関する通知は、直近に受信された音声メッセージが、ディスプレイのための対応する所定の時間周期に到達しない限り、継続して表示される。通知に関連する更新された情報が所定の時間の期間受信されたかどうかに基づいて、通知の減衰期間を延長するかどうかを選択することにより、ユーザが通知を手動で更新/削除する必要なしに、デバイスは新規の(例えば、新しい、関連する)通知をユーザに提供すると同時に、UIを乱すユーザへの失効通知(例えば、古い、非関連)の提供を回避することができる。更なるユーザ入力を必要とせずに1組の状態が満たされた場合に最適化された動作を実行することにより、コンピュータシステムの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、第2のメディアが1つ以上の基準の1組を満たすとの判定に従って、第2の通知(例えば、1つ以上の基準の1組を満たす)は、第2の通知によって表される第1のメディア(例えば、音声メッセージの数)を含む、メディアの数(例えば、908a及び908b)に基づく(例えば、を示す)インジケータ(例えば、数)を含む。いくつかの実施形態では、通知のチェーンの第1の通知の後の後続の通知それぞれは、表示されている通知によって表されるメディアの数(例えば、音声メッセージの数)の示唆を含む。例えば、通知がチェーンの第5の通知である場合、通知は、通知が5つの受信されたメディア(例えば、5つの音声メッセージ)に対応することを示す。いくつかの実施形態では、第2のメディアが1つ以上の基準の1組を満たさないとの判定に従って、第2の通知(例えば、1つ以上の基準の1組を満たす)は、第2の通知によって表される第1のメディア(例えば、音声メッセージの数)を含む、メディアの数に基づく(例えば、を示す)インジケータ(例えば、数)を含まない。デバイスの目標グループから受信されたメディアアイテムの数(音声マルチキャストメッセージ(例えば、1つ以上のデバイスにマルチキャストされた音声メッセージ))の示唆を更新することにより、現在の状態、デバイスの遵守された目標グループに対して受信されたメディアアイテムの数に関するフィードバックがユーザに提供される。改善された視覚的フィードバックをユーザに提供することにより、コンピュータシステムの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、第2の通知は、第1のメディアの示唆を含む。いくつかの実施形態では、第2の通知(例えば、602b)を表示している間に、コンピュータシステムは、第2の通知に向けられた入力(例えば、950h)を受信する。いくつかの実施形態では、第2の通知に向けられた入力の受信に応答して(例えば、及び第2のメディアが1つ以上の基準の1組を満たすとの判定に従って)、コンピュータシステムは、第1のメディア及び第2のメディアを再生するためのプロセスを開始する(例えば、図9I〜9Jの920、922)(例えば、第1のメディア及び第2のメディアを再生する、第1のメディア及びその後に第2のメディアの再生を開始するためのユーザインタフェースを表示する)。いくつかの実施形態では、第1及び第2のメディアを再生するためのプロセスを開始することは自動的に(例えば、ユーザ入力の介在なしに第2の通知に向けられた入力の受信に応答して)、第1のメディア、その後、第2のメディアを再生し、第1のメディアを再生するためのユーザインタフェース(例えば、741)を表示することを含む。いくつかの実施形態では、第2の通知に向けられた入力の受信に応答し、及び第2のメディアが1つ以上の基準の1組を満たさないとの判定に従って、第1のメディアを再生することなく第2のメディアを再生するためのプロセスを開始することの一部として(例えば、第2のメディアを再生し、第1のメディアを再生しないユーザインタフェースを表示する)、コンピュータシステムは、第2のメディアの再生を開始し、その後に第1のメディアを自動的には再生しない。いくつかの実施形態では、第2のメディアが1つ以上の基準の1組を満たさないという判定に従って、第1の通知を表示している間に、コンピュータシステムは、第1の通知に向けられた入力を受信し、第1の通知に向けられた入力の受信に応答して、第2のメディアを再生することなく第1のメディアを再生するためのプロセスを開始する。
いくつかの実施形態では、第2のメディアは、1つ以上の基準の1組を満たす(例えば、第2のメディアは、第1のメディアと同じ外部デバイスに向けられる)。いくつかの実施形態では、第2の通知(例えば、908c)を表示している間に、コンピュータシステムは、第2の通知に向けられた入力(例えば、950l)を受信する。いくつかの実施形態では、第2の通知に向けられた入力の受信に応答して(例えば、第2のメディアが1つ以上の基準の1組を満たすとの判定に従って)、コンピュータシステムは、第1のメディアを再生するためのユーザインタフェースを表示するものであって(例えば、960)(例えば、第1のメディア及び第2のメディアを再生するためのプロセスを開始することの一部として)、第1のメディアを再生するためのユーザインタフェースは、記録ユーザインタフェースオブジェクト対象(例えば、選択可能な記録ボタン)を含む。いくつかの実施形態では、記録(例えば、736)ユーザインタフェースオブジェクト対象の選択(例えば、950p)によって、第1のデータが第1のメディアが向けられた(例えば、送信された)複数の外部デバイスの第1のグループ(例えば、寝室デバイス)を識別するとの判定に従い、コンピュータシステムは、音声メッセージを複数の外部デバイスの第1のグループ(例えば、及び第2のグループではない)に送信するためのプロセス(例えば、730、740、750)を開始する。いくつかの実施形態では、記録(例えば、736)ユーザインタフェースオブジェクト対象の選択(例えば、950p)によって、第1のデータが第1のメディアが向けられた(例えば、送信された)、第1のグループとは異なる、複数の外部デバイスの第2のグループ(例えば、ホームデバイス)を識別するとの判定に従い、コンピュータシステムは、音声メッセージを複数の外部デバイスの第2のグループ(例えば、及び第1のグループではない)に送信するためのプロセス(例えば、780a、784、786a)を開始する。いくつかの実施形態では、コンピュータシステムは、記録ユーザインタフェースオブジェクト対象の選択(例えば、タップ、押圧、及び保持)を検出し、記録ユーザインタフェースオブジェクト対象の選択の検出に応答して、上述のように、対応する動作を開始する。いくつかの実施形態では、外部デバイスの1組は、トップレベルの場所(又は宛先)(例えば、第1のタイプの場所)(例えば、ホーム場所、ビジネス、オフィス(トップレベルの場所にある場所(例えば、1つ以上の場所を定義する場所(例えば、サブ場所)及び/又はトップレベルの場所の場所によって定義されるエリア及び/又は周辺部内にある1つ以上の領域(又はゾーン)、場所の階層のトップレベルにある場所、1つ以上の場所(例えば、サブ位置)に(例えば、プログラムで)リンクされた場所及び/又は1つ以上の領域(又はゾーン)))に関連付けられている。いくつかの実施形態では、音声メッセージを送信するためのプロセスを開始することは、コンピュータシステムによって検出された音声を記録することによって、音声メッセージを記録することを含む。いくつかの実施形態では、第1のメディアを再生するためのユーザインタフェースは、グループ(例えば、トップレベルの場所、サブ場所)の示唆(例えば、文字示唆、グラフィカル示唆)(例えば、音声メッセージが送信される部屋又はゾーンの名前を指定する文字)を含む。
いくつかの実施形態では、第1のメディアを再生するためのユーザインタフェース(例えば、960)を表示している間に(例えば、第1のメディア及び第2のメディアを再生するためのプロセスを開始することの一部として)表示している間に、コンピュータシステムは、(例えば、タッチ感知面を使用して、1つ以上の入力デバイスを介して)ユーザ入力を受信する(例えば、950i、950m2、950n)。いくつかの実施形態では、ユーザ入力の受信に応答し、及びユーザ入力(例えば、950i)が再生ユーザインタフェースオブジェクト対象の選択に向けられたとの判定に従って(例えば、第1のメディアを再生するためのユーザインタフェースの一部として表示される再生ボタン上のタップ)、コンピュータシステムは、第1のメディアを再生する(及び、任意選択的に、自動的にその後、第2のメディアを再生し、第2のメディアを再生するためにユーザインタフェースに切り替える)。いくつかの実施形態では、ユーザ入力の受信に応答し、及びユーザ入力が、第1のメディアを再生するためのユーザインタフェースに向けられたスワイプジェスチャ(例えば、950m2、950n)(例えば、第1のメディアを再生するためのユーザインタフェース上の左スワイプジェスチャ)との判定に従って、コンピュータシステムは、第1のメディアを再生するためのユーザインタフェースのディスプレイを第2のメディアを再生するためのユーザインタフェースのディスプレイ(例えば、第1のメディアを再生することなく第2のメディアを再生するための再生ボタンを含む)に置き換える。いくつかの実施形態では、ユーザ入力の受信に応答し、及びユーザ入力(例えば、950i)が再生ユーザインタフェースオブジェクト対象の選択に向けられたとの判定に従って(例えば、第1のメディアを再生するためのユーザインタフェースの一部として表示される再生ボタン上のタップ)、コンピュータシステムは、第2のメディア(例えば、通知に対応する直近に受信されたメディア)を再生し、その後、第1のメディアを再生する。
いくつかの実施形態では、第1のメディアを再生する(例えば、第1のメディア及び第2のメディアを再生するためのプロセスを開始することの一部として)ためのユーザインタフェース(例えば、図15B〜15Eの720)を表示している間、及び第1のメディアを再生している間に、コンピュータシステムは入力を受信する。いくつかの実施形態では、ユーザ入力の受信に応答し、及びユーザ入力が第1のメディアを再生するためのユーザインタフェース上の第1の場所(例えば、ユーザインタフェース720上の736の場所)に向けられたとの判定に従って、コンピュータシステムは、新しいメディア(例えば、1つ以上の音声マルチキャストメッセージ)を送信し、記録する(及び、任意選択的に、送信のために音声を自動的に記録する)ためのユーザインタフェース(例えば、741)を表示する。いくつかの実施形態では、ユーザ入力の受信に応答し、及びユーザ入力が第1のメディアを再生するためのユーザインタフェース上の第2の場所(例えば、1534の場所)に向けられたとの判定に従って、コンピュータシステムは、(例えば、1524aに対応する)第1のメディアを再生するためのユーザインタフェースのディスプレイを、(例えば、1524bに対応する)第2のメディアを再生するためのユーザインタフェースのディスプレイに置き換えるものであって、第1のメディアを再生するためのユーザインタフェース上の第2の場所は、第1のメディアを再生するためのユーザインタフェース上の第1の場所とは異なる。ユーザ入力が第1の場所に向けられ、タップ入力であるとの判定に従って、コンピュータシステムは、後続の入力(例えば、第1の場所と同じ場所(又は第1の場所の近く)で検出される後続の入力)が検出されるまで(例えば、1つ以上のマイクロフォンを介して)音声を自動的に記録する。ユーザ入力が第1の場所に向けられ、押圧及び保持ジェスチャであるとの判定に従って、コンピュータシステムは、ユーザ入力の端部が検出されるまで(例えば、1つ以上のマイクロフォンを介して)音声を自動的に記録する。いくつかの実施形態では、第2の通知を表示している間に、コンピュータシステムは、第2の通知に向けられた入力(例えば、950h)を受信する。いくつかの実施形態では、第2の通知に向けられた入力の受信に応答して、コンピュータシステムは、第2の通知の表示を中止する。いくつかの実施形態では、第2の通知がアクティブ化されると、第2の通知は、(例えば、ディスプレイのためにユーザがアクセス可能な、通知の集合を表示することを要求するユーザ入力に応答して表示される、コンピュータシステムで受信された最近の通知のリスト表示)通知の集合から除去される。いくつかの実施形態では、通知の集合は、他の通知(例えば、電子メール通知、インスタントメッセージング通知)を引き続き含む。通知が対話されたときに通知の除去を選択することにより、デバイスは、ユーザが通知を手動で削除することを必要とせずに、UIを乱すユーザに失効通知(例えば、古い、非関連)を提供することを回避することを可能にする。更なるユーザ入力を必要とせずに1組の状態が満たされた場合に最適化された動作を実行することにより、コンピュータシステムの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、コンピュータシステムは、場所(例えば、トップレベルの場所(ホーム)、サブ場所(ホームの部屋)に向けられたメディアに対応するデータを受信する複数の外部デバイス(例えば、ホームの外部デバイスに向けられた音声メッセージを受信するデバイス)のグループにコンピュータシステムを含むかどうかを構成するためのユーザインタフェースを表示するものであって、グループのコンピュータシステムを含むかどうかを構成するためのユーザインタフェースは、コンピュータシステムの現在の物理的位置に関係なく(例えば、コンピュータシステムの場所センサによって判定されるように)、場所に向けられたメディアに対応するデータを受信する複数の外部デバイス(例えば、ホームの外部デバイスに向けられた音声メッセージを受信するデバイス)のグループにコンピュータシステムを(例えば、常に)含む、第1のオプション(例えば、799c)、及び、コンピュータシステムの現在の物理的位置に関係なく(例えば、コンピュータシステムの場所センサによって判定されるように)、場所に向けられたメディアに対応するデータを受信する複数の外部デバイス(例えば、ホームの外部デバイスに向けられた音声メッセージを受信するデバイス)のグループにコンピュータシステムを(例えば、決して)含まない第2のオプション(例えば、799a)を含む。いくつかの実施形態では、ユーザは、メディアに対応するデータを受信するために登録/登録解除する、又はメディアに対応する受信したデータに基づいて通知のディスプレイを有効/無効にするように、コンピュータシステムを構成することができる。
いくつかの実施形態では、コンピュータシステムは、場所(例えば、トップレベルの場所(ホーム)、サブ場所(ホームの部屋)に向けられたメディアに対応するデータを受信する複数の外部デバイス(例えば、ホームの外部デバイスに向けられた音声メッセージを受信するデバイス)のグループに対応するデータを受信する複数の外部デバイスのグループにコンピュータシステムを含むかどうかを構成するためのユーザインタフェースを表示するものであって、コンピュータシステムをグループに含むかどうかを構成するためのユーザインタフェースは、コンピュータシステム(例えば、700)が、現在、場所に対応する(例えば、ホームのジオフェンスされた周辺部内の、ホームの特定の部屋内の、コンピュータシステムの場所センサによって判定されたような)物理的場所にあるとき、場所に向けられたメディアに対応するデータを受信する複数の外部デバイス(例えば、ホームの外部デバイスに向けられた音声メッセージを受信するデバイス)のグループにコンピュータシステム(例えば、700)を含み、及びコンピュータシステム(例えば、700)が、現在、場所に対応する(例えば、ホームのジオフェンスされた周辺部内の、ホームの特定の部屋内の、コンピュータシステムの場所センサによって判定されたような)物理的場所にないとき、場所に向けられたメディアに対応するデータを受信する複数の外部デバイス(例えば、ホームの外部デバイスに向けられた音声メッセージを受信するデバイス)のグループにコンピュータシステム(例えば、700)を含まない、第3のオプション(例えば、77b)を含む。いくつかの実施形態では、ユーザは、コンピュータシステムがその場所にあるときには、場所のデバイスのグループに向けられたメディアに対応するデータのみを受信する(及び/又は通知のみを表示する)ようにシステムを構成する入力を提供できる(例えば、コンピュータシステムがホームにあるときには、ホームに向けられたメッセージのみを取得する、コンピュータシステムがその部屋にあるときには、部屋に向けられたメッセージのみを取得する)。
方法1000(例えば、図10)に関して上記したプロセスの詳細はまた、後述/前述の方法にも同様の方法で適用可能であることに留意されたい。例えば、方法1000は、任意選択的に、方法800及び1200に関して前述/後述した様々な方法の特性のうちの任意の1つ以上を含む。例えば、コンピュータシステムは、同じシステムであってもよい。別の例では、方法800で送信された音声メッセージは、方法1000で受信したメディアとすることができる。別の例では、方法1200で送信された音声入力は、方法1000で受信したメディアと同じであり得る。簡潔にするために、これらの詳細は、以下で繰り返さない。
図11A〜11Rは、視覚的なディスプレイを管理するための電子デバイス及び例示的なユーザインタフェースを示す。これらの図のユーザインタフェースは、図12のプロセスを含む後述のプロセスを例示するために使用される。
図11A〜11Rは、デバイス1100が、音声入力の一部が音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきであると判定する場合、デバイス1100は第1のタイプ(例えば、単一色の光)のビジュアルコンテンツを有する視覚的な指示を表示する、及びデバイス1100が、音声入力の一部が音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきであると判定できない(例えば、音声入力のどの部分も、音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきではないと判定する)場合、デバイス1100は第2のタイプ(例えば、複数色の光)のビジュアルコンテンツを有する視覚的な指示を表示するシナリオを示す。第1及び第2のタイプのビジュアルコンテンツは、例示のみを目的として以下に説明される。第1及び第2のタイプのビジュアルコンテンツは、発言された音声入力が1つ以上の外部デバイスに可能性としてマルチキャストされるかどうかの視覚的な指示をユーザに提供する。
図11Aは、人物の前に位置するテーブル上の位置にある電子デバイス1100を示す。デバイス1100はスマートスピーカであり、デバイス580の1つ以上の特徴を含む。例えば、デバイス1100は、1つ以上のディスプレイ580Eの1つ以上の構成要素を含む1つ以上のディスプレイ1102を含む。ディスプレイ1102は、複数のLEDを含む。いくつかの実施形態では、デバイス1100は、デバイス100、300、又は500の1つ以上の特徴を含む。図11Aでは、デバイス1100は、例示のみの目的のために、ホーム602及びリビングルーム602dと関連付けられている。したがって、図11Aでは、デバイス1100は、図6に関連して上述したようなリビングルームスピーカ646及び648のうちの1つである。いくつかの実施形態では、デバイス1100は、ホーム602(又は別のホーム)の別の部屋に関連付けられる。
図11Aに示すように、デバイス1100は、不活性状態(例えば、スリープ状態、低電力状態、デバイス1100が、ディスプレイ1102を介して、ビジュアルコンテンツを表示していない状態)にあり、それにより、ディスプレイ1102はビジュアルコンテンツ(例えば、視覚的な指示)を表示していない。いくつかの実施形態では、デバイス1100がビジュアルコンテンツを表示していない場合、ディスプレイ1102のLEDは点灯しない。
図11A〜11Lは、デバイスの1つ以上の目標グループにマルチキャストされる情報を含む音声入力の受信に応答して、ビジュアルコンテンツを表示するデバイス1100を示す。いくつかの実施形態では、図7M〜7N及び図7S〜7Zの音声入力を受信するデバイス700に関連して上述した1つ以上の類似技術は、以下に説明するように、音声入力を受信するデバイス1100に適用することができる(又はその逆)。
図11B〜11Fは、デバイス1100の前に立っている人物からの音声入力を受信するデバイス1100を示す。図11B〜11Fのデバイス1100によって受信された音声入力は「ヘイ、アシスタント、マルチキャスト、どの音楽をリビングルームで再生したいですか?」である。図11B〜11Fで受信した音声入力は、自然発音又は別の方法で受信することができる。図11B〜11Fは、デバイス1100が音声入力の異なる部分にどのように反応し得るかの例示的な実施形態を提供するために示されている。
図11Bでは、デバイス1100は、デバイス1100の前に立っている人物から、音声入力部分1150bを、デバイス1100の1つ以上のマイクロフォンを介して受信する。ここで、人物は、「ヘイ、アシスタント」というフレーズを発言している。
図11Bに示すように、音声入力部分1150bの受信に応答して、デバイス1100が、ディスプレイ1102を介して、ビジュアルコンテンツを表示するように、デバイス1100は活性状態(例えば、アウェイク状態、電力状態、ディスプレイ1102がビジュアルコンテンツを表示されている状態)に変化する。図11Bでは、デバイス1100は、ディスプレイ1102上の異なるタイプのディスク(例えば、図11Bの1102の黒色ディスク、白色ディスク、及びパターン化したディスク)によって表される、複数色であるビジュアルコンテンツ(例えば、視覚的な指示)(例えば、光)を表示する。図11Bでは、デバイス1100が、音声入力の一部が音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきであると判定されないため、デバイス1100は、複数色であるビジュアルコンテンツを表示する。
図11Cでは、デバイス1100は、デバイス1100の前に立っている人物から、音声入力部分1150cを、デバイス1100の1つ以上のマイクロフォンを介して受信する。ここで、人物は、「マルチキャスト」というフレーズを発言している。
図11Cに示すように、音声入力部分1150cの受信に応答して、デバイス1100は、活性状態のままである。図11Cでは、デバイス1100が、音声入力の一部が音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきであると判定したため、デバイス1100は、単一色(例えば、ディスクの他のいずれかのタイプなしの図11Bの1102の黒色ディスク)であるビジュアルコンテンツを表示する。ここで、デバイス1100は、デバイス1100が、人物がマルチキャストコマンド(例えば、音声メッセージをマルチキャストするコマンド)を発行していることを示す命令(例えば、「マルチキャスト」)フレーズを検出したので、音声入力の部分が音声マルチキャストメッセージとして送信(マルチキャスト)されるべきであると判定する。
図11Dでは、デバイス1100は、デバイス1100の前に立っている人物から、音声入力部分1150dを、デバイス1100の1つ以上のマイクロフォンを介して受信する。ここで、人物は、「どんな音楽」というフレーズを発言している。
図11Dに示すように、音声入力部分1150dの受信に応答して、デバイス1100は、活性状態のままである。図11Dでは、デバイス1100は、音声入力の一部が音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきであるという判定に基づいて、(例えば、図11Cに関連して上述したように)単一色であるビジュアルコンテンツを表示し続ける。いくつかの実施形態では、デバイス1100は、音声入力の一部が、(例えば、図7M〜7Nに関連して上述したものと類似の理由で)ホーム602に指定された1つ以上のデバイスに送信されるべきであると判定する。いくつかの実施形態では、デバイス1100は、音声入力の一部がグループ識別子(例えば、「ホーム」、「リビングルーム」、「娯楽ゾーン」、「ダイニングルームへ」)に対応する音声入力に基づくデバイスのグループに指定されているかどうかに基づいて、音声入力の一部を送信する1つ以上のデバイスを判定する。
特に、図11Cと比較すると、図11Dのデバイス1100によって表示されるビジュアルコンテンツのパターンは、図11Cのデバイス1100によって表示されるビジュアルコンテンツのパターンとは異なる。図11C〜11Dに示されるように、デバイス1100は、ディスプレイ1102を介して、人物の音声に反応する異なるビジュアルコンテンツを表示する。換言すれば、「マルチキャスト」及び「どんな音楽」は異なるフレーズであるため、デバイス1100はビジュアルコンテンツのパターンを変更する。いくつかの実施形態では、デバイス1100は、異なる音声コンテンツの部分が異なるビジュアルコンテンツのパターンを生成するように、音声コンテンツの一部の速度、鮮鋭度、音量、ピッチ、階調、及び/又はリズム(例えば、ビート)に基づいて、ビジュアルコンテンツのパターンを変更する。いくつかの実施形態では、デバイス1100は、音声コンテンツの一部の速度、鮮鋭度、音量、ピッチ、階調、及び/又はリズム(例えば、ビート)に基づいて、ビジュアルコンテンツの彩度、輝度、サイズ、又は位置を変更する。いくつかの実施形態では、デバイス1100は、ビジュアルコンテンツのパターンを変更しない、及び/又は人物の音声に反応しない。
図11Eでは、デバイス1100は、デバイス1100の前に立っている人物から、デバイス1100の1つ以上のマイクロフォンを介して、音声入力部分1150eを受信し続ける。ここで、人物は、「あなたが再生したいのは」というフレーズを発言している。
図11Eに示すように、音声入力部分1150eの受信に応答して、デバイス1100は、活性状態のままである。図11Eでは、デバイス1100は、音声入力の一部が1つ以上の外部デバイスに送信されるべきであるという判定に基づいて、単一色であるビジュアルコンテンツを表示し続ける。加えて、音声入力部分1150eが音声入力部分1150dとは異なるため、デバイス1100はビジュアルコンテンツのパターンを変更する。
図11Fでは、デバイス1100は、デバイス1100の前に立っている人物から、音声入力部分1150fを、デバイス1100の1つ以上のマイクロフォンを介して受信し続ける。ここで、人物は、「リビングルームで?」というフレーズを発言している。
図11Fに示すように、音声入力部分1150fの受信に応答して、デバイス1100は、活性状態のままである。図11Fでは、デバイス1100は、音声入力の一部が1つ以上の外部デバイスに送信されるべきであるという判定に基づいて、単一色であるビジュアルコンテンツを表示し続ける。加えて、音声入力部分1150fが音声入力部分1150eとは異なるため、デバイス1100はビジュアルコンテンツのパターンを変更する。
図11Fでは、デバイス1100は、図11B〜11Fで受信された音声入力の端部を検出する。図11Fでは、音声入力の端部を検出したことに応答して、デバイス1100は、音声入力の1つ以上の部分を、音声マルチキャストメッセージとして1つ以上の外部デバイスに送信する。いくつかの実施形態では、音声マルチキャストメッセージは、1150c〜1150dを含む(例えば、「リビングルームで再生したい音楽は何ですか?」)。いくつかの実施形態では、音声入力部分1150b及び/又は1150cが音声入力のコマンド部分に対応するとの判定のため、音声マルチキャストメッセージは、音声入力部分1150b(「ヘイ、アシスタント」)及び/又は1150c(「マルチキャスト」)を含まない。いくつかの実施形態では、入力が目標グループ識別子(例えば、「ホーム」又は「リビングルーム」)に対応する部分を含むとき、目標グループ識別子(目標グループ識別子に対応する音声入力の部分ではない)は、音声マルチキャストメッセージと共に(例えば、プレーン文字として)送信されるが、1つ以上の外部デバイスによって音声として出力されない。いくつかの実施形態では、1つ以上の外部デバイスによって出力される音声マルチキャストメッセージは、人物のようにサウンドし(音声入力を発言した人物の再生された記録である)、デバイスを介してコンピュータ生成スピーチではない。
図11Gに示すように、デバイス1100は、音声入力の一部がホーム602(例えば、ホーム場所識別子712に関連して上述したように「メインストリート123番地」)に対応する目標グループ識別子に送られたことを示す、出力1154gを提供する(例えば、出力する)。出力1154gを出力するとき、音声入力の一部(例えば、図11B〜11Fで受信された)が音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきであるとの判定により、デバイス1100は、単一色であるビジュアルコンテンツを表示する。いくつかの実施形態では、デバイス1100は、この判定に関わりなく、音声確認1154gを出力するときに、複数色のビジュアルコンテンツを表示する。
図11Hに示すように、デバイス1100は、不活性状態に変化する。図11Iでは、デバイス1100は、ホーム602に指定された外部デバイスのうちの任意の1つ以上を介して、ジェーンからの音声マルチキャストメッセージに対応するデータを受信する。
図11Iに示すように、音声マルチキャストメッセージの受信に応答して(及び、ユーザ入力を受信せずに(独立して))、デバイス1100は、イントロダクトリ階調又はチャイムである出力1154iを提供する。図11Jに示すように、出力1154iを提供した後、デバイス1100は、図11Iで受信した音声マルチキャストメッセージに対応する、出力1154jを提供する。
11I〜11J図に示すように、デバイス1100は、出力1150i及び出力1150jを提供するときに、単一色であるビジュアルコンテンツを表示する。デバイス1100は、デバイス1100が音声マルチキャストメッセージを出力しているため、単一の色であるビジュアルコンテンツを表示する。図11I〜11Jに示すように、デバイス1100はまた、同じパターンであるビジュアルコンテンツも表示する。したがって、図11I〜11Jでは、デバイス1100は、出力1150i及び出力1150jの異なるコンテンツに基づいてビジュアルコンテンツを変更しない。いくつかの実施形態では、デバイス1100は、出力1150i及び出力1150jの異なるコンテンツに基づいてビジュアルコンテンツを変更する。いくつかの実施形態では、デバイス1100は、デバイス1100の現在の音量レベル(例えば、システム音量レベル)で出力11541150i及び/又は出力1150jを提供する。いくつかの実施形態では、出力1154i及び/又は出力1150jのうちの1つは、デバイス1100の音量レベルで提供されるが、もう一方はそうではない。いくつかの実施形態では、デバイス1100は、ある時間の期間内に複数の音声マルチキャストメッセージを受信し、音声マルチキャストメッセージのそれぞれが再生される前に、同じ(又は異なる)イントロダクトリ階調を出力する。いくつかの実施形態では、デバイス1100は、ある時間の期間内に複数の音声マルチキャストメッセージを受信し、再生される音声マルチキャストメッセージの各(例えば、デバイスの目標グループによってグループ化された)グループの前に、同じ(又は異なる)イントロダクトリ階調を出力する。
図11Jに示すように、デバイス1100によって提供される音声メッセージは、「ジェーンはホームから返信した:ジャズはどうですか?」と言う。ここで、デバイス1100によって提供される音声メッセージは、目標識別子を含み、いくつかの実施形態では、含まない。
図11Kでは、デバイス1100は、デバイス1100の前に立っている人物から、音声入力部分1150kを、デバイス1100の1つ以上のマイクロフォンを介して受信する。ここで、人物は、「ヘイ、アシスタント、返信する、そのとおり」というフレーズを発言している。
図11Kに示すように、デバイス1100は、音声入力部分1150kの一部が音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきであると判定したため、デバイス1100は、単一色(例えば、図11Kの1102の黒色ディスク)であるビジュアルコンテンツを表示する。いくつかの実施形態では、デバイス1100が出力1150j(例えば、図11Jで受信した音声マルチキャストメッセージ)を提供した後、音声入力部分1150kが所定の時間(例えば、1、2、30、60秒)以内に受信されたため、デバイス1100はこの判定を行う。いくつかの実施形態では、デバイス1100が出力1150jを提供した後の第2の所定の時間内に、音声入力部分1150kが「返信」というフレーズを含む、及び/又は「返信」というフレーズを含むため、デバイス1100はこの判定を行う。いくつかの実施形態では、第2の所定の時間の期間は、第1の所定の時間の期間よりも多い。
図11Lに示すように、デバイス1100は、不活性状態に変化する。
図11M〜11Rは、デバイスの1つ以上の目標グループにマルチキャストされる情報を含まない音声入力の受信に応答して、ビジュアルコンテンツを表示するデバイス1100を示す。
図11M〜11Oは、デバイス1100の前に立っている人物からの音声入力を受信するデバイス1100を示した。図11M〜11Oのデバイス1100によって受信された音声入力は、「ヘイ、アシスタント、リビングルームでジャズ音楽を再生してください」である。図11M〜11Oで受信した音声入力は、自然発音又は別の方法で受信することができる。図11M〜11Oは、デバイス1100が音声入力の異なる部分にどのように反応し得るかの例示的な実施形態を提供するために示されている。
図11Mでは、デバイス1100は、デバイス1100の前に立っている人物から、音声入力部分1150mを、デバイス1100の1つ以上のマイクロフォンを介して受信する。ここで、人物は、「ヘイ、アシスタント」というフレーズを発言している。図11Mに示すように、音声入力部分1150mの受信に応答して、デバイス1100は、図11Bで上述したものと類似の1つ以上の技術を使用して、活性状態に変化する。加えて、デバイス1100が、音声入力の一部が音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきであると判定されないため、デバイス1100は、複数色であるビジュアルコンテンツ(例えば、光)を表示する。
図11Nでは、デバイス1100は、デバイス1100の前に立っている人物から、音声入力部分1150nを、デバイス1100の1つ以上のマイクロフォンを介して受信する。ここで、人物は、「ジャズ音楽を再生」というフレーズを発言している。図11Nに示すように、音声入力部分1150nの受信に応答して、デバイス1100が、音声入力の一部が音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきであると判定されないため、デバイス1100は、複数色であるビジュアルコンテンツ(例えば、光)を表示する。
図11Oでは、デバイス1100は、デバイス1100の前に立っている人物から、音声入力部分1150oを、デバイス1100の1つ以上のマイクロフォンを介して受信する。ここで、人物は、「リビングルームで」というフレーズを発言している。図11Oに示すように、音声入力部分1150oの受信に応答して、デバイス1100が、音声入力の一部が音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきであると判定されないため、デバイス1100は、複数色であるビジュアルコンテンツ(例えば、光)を表示する。
図11M〜11Oでは、デバイス1100ビジュアルコンテンツは、音声入力に対して反応性ではない。いくつかの実施形態では、デバイス1100が、音声入力の一部が音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきであると判定されないとき、デバイス1100は、ビジュアルコンテンツのパターンを変更しない。いくつかの実施形態では、デバイス1100は、この判定に関わりなく、異なる音声入力部分に対して反応性があるビジュアルコンテンツのパターンを変更する。
図11Pに示されるように、デバイス1100は、デバイス1100が現在のジャズ無線機を再生していることを示す、出力1154pを提供する(例えば、出力する)。出力1154gを提供するとき、音声入力の一部(例えば、図11M〜11Oで受信された)が音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきではないとの判定により、デバイス1100は、複数色であるビジュアルコンテンツ(例えば、視覚的な指示)を表示する。図11Pでは、デバイス1100はまた、ジャズ音楽も出力する。
図11Qに示すように、ジャズ音楽を出力している間に、デバイス1100は不活性状態に変化する。
図11Rに示すように、デバイス1100は、デバイス1100の前に立っている人物から、音声入力部分1150rを、デバイス1100の1つ以上のマイクロフォンを介して受信する。ここで、人物は、「休止する。」というフレーズを発言している。図11Rに示すように、音声入力部分1150rの受信に応答して、デバイス1100が、音声入力の一部が音声マルチキャストメッセージとして1つ以上の外部デバイスに送信されるべきであると判定されない(例えば、音声入力のどの部分もそのようにされるべきではないと判定される)ため、デバイス1100は、複数色であるビジュアルコンテンツ(例えば、光)を表示する。図11Rでは、デバイス1100はまた、「休止する」命令の受信に応答して、ジャズ音楽を出力することを停止し、ジャズ音楽に対応するメディアを一時停止する。
図12は、いくつかの実施形態に係る、電子デバイスを使用して視覚的な指示を表示するための方法を示すフロー図である。方法1200は、1つ以上のマイクロフォン、1つ以上のスピーカ、及び1つ以上のディスプレイ装置を有するデバイス(例えば、100、300、500、634、674、700、701、850)で実行される。方法1200のいくつかの動作は、任意選択的に組み合わされ、いくつかの動作の順序は、任意選択的に変更され、いくつかの動作は、任意選択的に省略される。
後述するように、方法1200は、視覚的な指示を表示するための直観的方法を提供する。本方法は、デバイスに所与のコマンドのタイプを判定するためのユーザの認識的負担を軽減し、それによって、より効率的なヒューマン−マシンインタフェースを作り出す。バッテリ動作式コンピューティングデバイスの場合、ユーザがより高速かつ効率的にコマンドのタイプを認識することを有効化することで、電力を節約し、バッテリ充電間の時間を延ばす。
電子デバイスは、1つ以上のマイクロフォンを介して音声入力(例えば、1150a〜1150r)を受信する(1202)。
電子デバイスは、音声入力の視覚的な表示(例えば、1102を介して表示される光)を表示し(1204)、ここで、1つ以上のディスプレイデバイスを介して、視覚的な指示(例えば、11B〜11F、11Kの1102)を表示する(1206)1つ以上のデバイスに送信される(例えば、及び/又は複数のデバイスに送信される(例えば、マルチキャストされる)(例えば、及び、いくつかの実施形態では、第1のタイプのコマンド(例えば、音声入力の少なくともいくつかを複数の外部デバイス(例えば、パーソナルデバイス(セルラー電話)、外部アクセサリデバイス(例えば、スマートホームアクセサリデバイス(例えば、スマート(例えば、インテリジェントな)電球、サーモスタット、ドアロック、ドアオープナー(例えば、ガレージドアオープナー)、スピーカ、テレビ、電気アウトレット、電源ストリップ、カメラ、アプライアンス(例えば、冷蔵庫、ストーブ))に送信するプロセスを開始するコマンド)に対応する音声入力の別の部分(例えば、送信されない音声入力の一部)))))音声入力に対応する音声入力の一部(例えば、1150b〜1150f、1150r)が、1つ以上の色の第1の1組を有する視覚的な指示を表示することを含むとの判定に従い、及び1つ以上のディスプレイ装置を介して、視覚的な指示(例えば、図11M〜11O、11Rの1102)を表示する(1210)、(例えば、音声入力の一部を他のデバイス(例えば、複数の他のデバイス)のスピーカなどによって出力するために)(例えば、音声入力の別の部分は第2のタイプのコマンドである)他のデバイスに音声入力の任意の部分を送信する命令(例えば、マルチキャストする命令)を含まない音声入力(例えば、1150m〜1150o、1150r)が、1つ以上の色の第1の1組とは異なる1つ以上の色の第2の1組を有する視覚的な指示を表示することを含むとの判定に従う。いくつかの実施形態では、第1のタイプのコマンドは、音声入力の少なくともいくつか(例えば、送信される音声入力の部分)を複数の外部デバイスに送信するためのプロセスを開始するコマンドである。いくつかの実施形態では、音声入力のうちの少なくともいくつかを複数のデバイスに送信することで、複数の外部デバイスのうちの2つ以上が、音声入力のいくつかを出力させる(例えば、自動的な(例えば、ユーザ入力を介在させずに)出力)。いくつかの実施形態では、複数の外部デバイスは、外部電子デバイスの異なるタイプ(例えば、パーソナルデバイス、外部アクセサリデバイス)を含む。いくつかの実施形態では、複数のデバイスは、トップレベルの場所(又は宛先)(例えば、第1のタイプの場所)(例えば、ホーム場所、ビジネス、オフィス(トップレベルの場所にある場所(例えば、1つ以上の場所を定義する場所(例えば、サブ場所)及び/又はトップレベルの場所の場所によって定義されるエリア及び/又は周辺部内にある1つ以上の領域(又はゾーン)、場所の階層のトップレベルにある場所、1つ以上の場所(例えば、サブ位置)に(例えば、プログラムで)リンクされた場所及び/又は1つ以上の領域(又はゾーン)))に関連付けられた第1のグループに関連付けられている。いくつかの実施形態では、デバイスの第1グループは、デバイスの複数のサブグループを含むことができる。いくつかの実施形態では、デバイスのサブグループは、トップレベルの場所のサブ場所(例えば、トップレベルの場所の境界、領域、若しくは周辺に、及び/又はトップレベルの場所に定義され、特定され、及び/又はリンクされ(例えば、プログラムでリンクされ)(例えば、ユーザによって)配置された部屋)及び/又はトップレベルの場所内(例えば、トップレベルの場所の境界、エリア、又は周辺部内及び/又は(例えば、ユーザによって)定義され、特定され、及び/又はリンクされた)のゾーン(例えば、2つ以上のサブ場所によって定義される場所)(トップレベルの場所内で(例えば、トップレベルの場所内にリビングルーム及びダイニングルームを含む娯楽ゾーン、トップレベルの場所内に2つ以上の寝室、リビングルーム、バスルームを含むパーソナルゾーン)に関連付けられる。いくつかの実施形態では、第1のユーザインタフェースは、制御ユーザインタフェースである。いくつかの実施形態では、複数のデバイスは、デバイスの複数のサブグループに関連付けられる。いくつかの実施形態では、視覚的な指示は、1つ以上のマイクロフォンを介して音声入力を受信している間、表示され続ける。いくつかの実施形態では、視覚的な指示は、1つ以上のマイクロフォンを介して音声入力を受信している間、最初に表示された後に表示を中止する。いくつかの実施形態では、第2のタイプのコマンドは、音声入力の少なくともいくつかを複数の外部デバイス(例えば、スピーカ、パーソナルデバイス(例えば、セルラー電話)に送信するためのプロセスを開始するコマンドではない。いくつかの実施形態では、視覚的な指示は、1つ以上のマイクロフォンを介して音声入力を受信している間、表示され続ける。いくつかの実施形態では、視覚的な指示は、1つ以上のマイクロフォンを介して音声入力を受信している間、最初に表示された後に表示を中止する。音声入力の一部が1つ以上の機器に送信されるべきであると判定されたときに、第1の1組の色を有する視覚的な指示を表示することにより、その発言が他の人によって可能性として聞こえることができることをユーザが認識できるように、外部電子デバイスで音声入力の一部が再生されるかどうかに関するフィードバックがユーザに提供される。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。ユーザの音声入力が音声入力の任意の部分を他のデバイスに送信する命令を含まないと判定されたときに、(例えば、1つ以上の色の第1の1組とは異なる)1つ以上の色の第2の1組を有する視覚的な指示を表示することにより、ユーザの発言が他の外部デバイスの個々の人によって聞こえないという再保証がユーザに提供される。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、電子デバイスが電子デバイスの情報を取得する(例えば、天気、1つ以上のクエリへの回答などの情報を取得する)、又は1つ以上の状態を変更する(例えば、音声状態(電話通話の回答/配置、音量の調整)、メディア再生の状態(例えば、メディアの休止、再生、早送り、巻き戻し、スキップ、シャッフル)、オン/オフ状態のうちの任意の1つ以上を変更する)ことを要求する音声入力(例えば、1150m〜1150o)は、音声入力のどの部分も他のデバイスに送信する命令を含まない音声入力である。
いくつかの実施形態では、1つ以上のデバイスに送信される音声入力に対応する音声入力(例えば、1150b〜1150f、1150k)は、デバイスのグループの識別子(例えば、場所、サブ場所、グループ(「ホーム」)又はカテゴリ(例えば、グループ内の「ダイニングルーム」、「リビングルーム」、「サンルーム」に対応する場所)を含む(1208)。いくつかの実施形態では、音声入力は、デバイスのグループの識別子及びデバイスのグループに送信される音声メッセージを含む。いくつかの実施形態では、音声入力のどの部分も他のデバイスに送信する命令を含まない音声入力(例えば、1150m〜1150o、1150r)は、デバイスのグループの識別子を含まない(1212)。いくつかの実施形態では、音声入力はデバイスのグループの識別子を含まず、音声メッセージはデバイスのグループに送信されない。
いくつかの実施形態では、1つ以上の色の第1の1組(例えば、図11C〜11Fの1102)は、一体色であり、1つ以上の色の第2の1組(例えば、図11M〜11Oの1102)は、複数の色である。いくつかの実施形態では、一体色は、複数の色に含まれない。異なる予め定められた条件が満たされるときに、異なる視覚効果を電子デバイスに適用することにより、ユーザは、それらの発言が外部電子デバイスによって送信及び再生されるかどうかを素早く認識することができる。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、1つ以上の色の第1の1組を有する視覚的な指示(例えば、図11C〜11Fの1102)を表示する一部として、電子デバイスは音声入力に基づいて(例えば、音声入力の入力パラメータ(音量、階調、及び/又はピッチなど)の値の変動に基づいて)一定時間(例えば、1、5、10秒)(例えば、音声入力が受信される時間に基づいて)にわたって(例えば、サイズ、輝度、彩度、及び/又は位置で)変化する(光のパターン(例えば、空間パターン)の)アニメーション(例えば、図11C〜11Fの1102)を表示する。
いくつかの実施形態では、アニメーションの表示の一部として(例えば、図11C〜11Fの1102)、電子デバイスは、音声入力の音量又はピッチのうちの任意の1つ以上に基づき、視覚的な指示(例えば、図11C〜11Fの1102)の輝度、サイズ、色彩度、又は位置のうちの任意の1つ以上を変化させる(例えば、増大又は減少させる)。いくつかの実施形態では、音声入力の音量及び/又はピッチが、視覚的な指示の輝度、サイズ、色彩度のうちの任意の1つ以上を増大/減少させる。いくつかの実施形態では、音声入力のリズム(例えば、ビート)が増大/減少するにつれて、アニメーションのリズム(又はビート)が増加/減少する。いくつかの実施形態では、音声入力の音量及び/又はピッチが増大/減少するにつれて、視覚的な指示は、ディスプレイ装置のエリアをより多く/より少なく占有する。ユーザの音声入力の変化(例えば、音量又は音声入力のピッチの変化)を反映する視覚的な指示の視覚的特性(例えば、輝度、サイズ、色彩度又は位置)を更新することにより、ユーザの音声入力の様々な特性に関する視覚的フィードバックがユーザに提供される。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、電子は、再生のための複数の音声メッセージに対応するデータを受信する。いくつかの実施形態では、再生のための複数の音声メッセージに対応するデータは、デバイスのグループの識別子(例えば、グループ(「ホーム」)又はカテゴリ(例えば、グループ内の「ダイニングルーム」、「リビングルーム」、「サンルーム」カテゴリに対応する場所)を含む。いくつかの実施形態では、複数の音声メッセージは、複数の識別子のためのものであり、各識別子は異なるグループ又はカテゴリに対応する。いくつかの実施形態では、再生のための複数の音声メッセージに対応するデータの受信に応答して、電子デバイスは、複数の音声メッセージのそれぞれの対応する音声メッセージを出力する前に(例えば、及びデバイスのグループの識別子を出力する前に)、イントロダクトリ階調(例えば、1154i)(例えば、ディンギング又はリンギングサウンド、全ての音声メッセージのイントロダクトリ階調又はチャイム)を出力する。いくつかの実施形態では、識別子は、(例えば、デバイスの目標グループを識別する)識別子に対応する音声メッセージのグループが出力される前に出力される。音声メッセージがマルチキャストタイプの音声メッセージであるマルチキャストアラート受信者である異なる音声メッセージを出力する前に、同じイントロダクトリ階調を出力する。改善された音声フィードバックを提供することにより、デバイスの操作性が向上し、(例えば、デバイスを操作する/デバイスと対話するときにユーザが適切な入力を行うのを支援しユーザの誤りを削減することによって)ユーザデバイスインタフェースがより効率的になり、このことにより更に、ユーザがデバイスをより素早くかつ効率的に使用することを有効化することによって、デバイスの電力使用量が削減されバッテリ寿命が改善される。
いくつかの実施形態では、電子デバイスは、再生のための音声メッセージ(例えば、音声マルチキャストメッセージ)に対応するデータを受信する。いくつかの実施形態では、再生のための音声メッセージに対応するデータは、デバイスのグループに関連付けられた識別子(例えば、グループ(「ホーム」)又はカテゴリ(例えば、グループ内の「ダイニングルーム」、「リビングルーム」、「サンルーム」カテゴリに対応する場所)を含む。いくつかの実施形態では、データの受信に応答して、電子デバイスは、自動的に、ユーザ入力なしに、音声メッセージを(例えば、電子デバイスのスピーカを介して)出力する(例えば、1154j)。いくつかの実施形態では、音声メッセージを出力することは、デバイスのグループの識別子(例えば、グループ(「ホーム」)又はカテゴリ(例えば、グループ内の「ダイニングルーム」、「リビングルーム」、「サンルーム」カテゴリに対応する場所)を出力することを含む。
いくつかの実施形態では、音声メッセージを出力する前に、データの受信に応答して、第2の視覚的な指示(例えば、11Iの1102)を表示する。いくつかの実施形態では、第2の視覚的な指示は、音声メッセージが複数のデバイス(例えば、デバイスのグループ)に送信された音声メッセージであるときに、第1の視覚的見掛け(例えば、色、サイズ、輝度)を有する。いくつかの実施形態では、第2の視覚的な指示は、音声メッセージが電子デバイスに送信され、他のデバイスには送信されない音声メッセージであるときに、第1の視覚的見掛けとは異なる第2の視覚的見掛けを有する。
いくつかの実施形態では、電子デバイスは、再生のための音声メッセージ(例えば、音声マルチキャストメッセージ)に対応するデータを受信する。いくつかの実施形態では、再生のための音声メッセージに対応するデータは、デバイスのグループに関連付けられた識別子(例えば、グループ(「ホーム」)又はカテゴリ(例えば、グループ内の「ダイニングルーム」、「リビングルーム」、「サンルーム」カテゴリに対応する場所)を含む。いくつかの実施形態では、音声メッセージを(例えば、ユーザ要求に応答して、自動的に)出力する。いくつかの実施形態では、音声メッセージを出力している間に、電子デバイスは、音声メッセージの1つ以上の特性(例えば、音量、ピッチ、階調、リズム(例えば、ビート))に基づいて変化しない視覚的な指示(例えば、図11Jの1102)を同時に表示する。
いくつかの実施形態では、音声メッセージは、電子デバイスの音量レベル(例えば、システムレベルの音声レベル)(例えば、現在の音量レベル)に基づく出力(例えば、1154j)である。いくつかの実施形態では、電子デバイスは、視覚的な指示(例えば、図11B〜11Fの1102)が表示される前に、ビジュアルコンテンツ(例えば、図11Aの1102)(例えば、任意の光(例えば、どのLEDもオンにされない))を表示していない。いくつかの実施形態では、電子デバイスは、視覚的な指示が表示される前に、非アクティブなディスプレイ状態(例えば、LEDは点灯していない)にある。いくつかの実施形態では、視覚的な指示を表示している間に、電子デバイスはアクティブなディスプレイ状態にある(例えば、いくつかのLEDは点灯される)。音声入力が受信されていないときにビジュアルコンテンツを表示しないことにより、音声入力が受信されておらず、ユーザによるどの発言も、他の外部デバイスによって送信し、再生されていないという視覚的フィードバックをユーザに提供する。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、電子デバイスは、視覚的な指示(例えば、図11Gの1102)を表示することを中止し(1214)、1つ以上のディスプレイ装置を介してビジュアルコンテンツ(例えば、図11Hの1102)を表示することを停止することを含む。いくつかの実施形態では、電子デバイスは、ビジュアルコンテンツの表示を停止した後に、非アクティブな表示状態にある。音声入力が受信されていないときにビジュアルコンテンツを表示しないことにより、デバイスが不活性状態にあるため、音声入力が受信されず、デバイスのバッテリ寿命を延ばす視覚フィードバックをユーザに提供する。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、視覚的な指示(例えば、図11Gの1102)は、別の視覚的な指示(例えば、視覚的な指示が対応する状態又はプロセスとは異なる状態又はプロセス(例えば、マルチキャストプロセス又は音声マルチキャストメッセージを送信/受信するためのプロセス)に対応する視覚的な指示)(例えば、又はビジュアルコンテンツ)と同時に表示されない。一度に1つの視覚的な指示のみを提供することにより、電子デバイスの状態及びユーザの発言が他の外部デバイスによって送信され、再生されているかどうかを明確にすることをユーザに提供する。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、視覚的な指示(例えば、図11Gの1102)は、電子デバイスと通信する(例えば、電子デバイス上若しくは電子デバイスにデータを送信するか又は電子デバイスからデータを受信する1つ以上の外部アプリケーション上で実行する)1つ以上のアプリケーションの状態(例えば、マルチキャストプロセスのための状態、又は音声マルチキャストメッセージを送信/受信するためのプロセス、電子デバイスの状態に関連付けられたプロセス、電子デバイスの状態に関連付けられたプロセス)に基づいて異なる光を提供する光(例えば、1102のLED)示唆である。
方法1200に関して上述したプロセス(例えば、図12)の詳細はまた、上述した方法にも類似の方式で適用可能であることに留意されたい。例えば、方法1200は、任意選択的に、方法800及び1000に関して前述した様々な方法の特性のうちの任意の1つ以上を含む。例えば、コンピュータシステムは、同じシステムであってもよい。別の例では、方法800で送信された音声メッセージは、方法1000で受信したメディアとすることができる。別の例では、方法1200で送信された音声入力は、方法1000で受信したメディアと同じであり得る。簡潔にするために、これらの詳細は、以下で繰り返さない。
図13A〜13Nは、いくつかの実施形態に係る、外部デバイスを管理するための例示的な電子デバイス及びユーザインタフェースを示す。これらの図のユーザインタフェースは、図14のプロセスを含む後述のプロセスを例示するために使用される。
図13Aは、ユーザインタフェース710を表示する電子デバイス700を示す。いくつかの実施形態では、デバイス700は、上述(例えば、図7A〜7AH)のように、ホーム602に関連し得る(例えば、関係する、関連する物理的場所に位置している、指定された1つ以上のデバイスと対話するなどの1つ以上のネットワークと通信しているか、又は通信していない)。ユーザインタフェース710は、ホーム602に指定された複数の外部デバイスを制御するためのユーザインタフェースである。ユーザインタフェース710は、1つ以上の特性を有し、図7A〜7AHに関連して上述されているような方法で応答され得る、ホーム場所識別子712、マクロ制御716、外部デバイス制御718、ナビゲーション制御722、ホームマルチキャスト命令724、及びホームマルチキャストアフォーダンス726(例えば、選択可能なユーザインタフェースオブジェクト対象)を含む。
ユーザインタフェース710はまた、状態インジケータ1314も含む。状態インジケータのそれぞれは、ホーム602に現在指定されているデバイスのうちのいくつかの現在の状態に関する情報(例えば、その一部は、図6に関して上述したもの)を含む。図13Aに示すように、状態インジケータ1314は、一酸化炭素状態インジケータ1314a、アラーム状態インジケータ1314b、アカウントエラー状態インジケータ1314c、は、更新利用可能な状態インジケータ1314d、及びタイマー状態インジケータ1314eの一部(それぞれ、左から右へ)を含む。一酸化炭素状態インジケータ1314aは、1つ以上の一酸化炭素検出器又はセンサが、ホーム602での一酸化炭素の存在を検出し、したがって、1つ以上の一酸化炭素検出器又はセンサは一酸化炭素検出状態、例えば、アラート「オン」で、一酸化炭素漏洩の検出を示す。アラーム状態インジケータ1314bは、ホーム602に関連する1つ以上のアラームがトリッピングされていることを示し、したがって、1つ以上のアラームがアクティブで、例えば、トリガされた又はアラートされた状態にあることを示す。アカウントエラー状態インジケータ1314cは、デバイス700が現在、700がホーム602に関連付けられたアカウントに現在ログインされていないか、又デバイス700がホーム602に指定された1つ以上の既知の外部デバイスに接続する問題を有するなどのホーム602に関連付けられたアカウントに関する問題を有することを示す。更新利用可能な状態インジケータ1314dは、更新されたソフトウェアが、1つ以上の外部デバイス及び/又はデバイス700(例えば、ホームアプリケーションに対応する1つ以上の機能を含むソフトウェア)にインストールされ得ることを示す。タイマー状態インジケータ1314eは、1つ以上のタイマーが現在アクティブであることを示す。加えて、タイマー状態インジケータ1314eは、少なくとも1つのタイマー(又は複数のタイマーの合計時間の総計)が、タイマー(又は複数のタイマー)が最初に設定された時間から時間の約0%が経過した状態であることを示す。具体的には、この状態は、タイマー状態インジケータ1314eの周辺部の約100%をカバーする、残りの時刻表示1314e1によって表される。
各状態インジケータは、状態インジケータ(例えば、一酸化炭素状態インジケータ1314a)に関連付けられた名前(例えば、「一酸化炭素)を含み、少なくとも1つの特定の視覚的な特性(例えば、色(例えば、赤色、グレーアウトなど)、パターン、形状など)で表示することができる。いくつかの実施形態では、状態インジケータのうちの任意の1つ以上は、状態インジケータによって表される状態(例えば、アクティブ、警告、又は注意注意)である特定のタイプ(例えば、一酸化炭素検出器又はセンサ)のいくつかのデバイスの表現を含む。各状態インジケータはまた、状態インジケータの状態の迅速な視覚的表現を含んでもよい。
図13Aでは、各状態インジケータは、特定の状態インジケータカテゴリ内にあり(例えば、その一部に含まれるか、又はそれに属する)、状態インジケータはそれぞれの状態インジケータのそれぞれが対応するそれぞれの状態インジケータカテゴリに基づく順序で表示される。図13Aでは、状態インジケータの特定の状態インジケータカテゴリは、状態インジケータの緊急性(又は重要度)を示す。1つの状態インジケータカテゴリ内にある状態インジケータは、異なる状態インジケータカテゴリ内にある状態インジケータの1つ以上の特性とは異なる1つ以上の特性を有することができる。図13Aに示すように、一酸化炭素状態インジケータ1314a及びアラーム状態インジケータ1314bは、第1の状態インジケータカテゴリ(例えば、最緊急性のカテゴリ、アラームカテゴリ)にあり、第1の色(例えば、垂直ハッチングによって示されるように、赤色)で表示される。いくつかの実施形態では、第1の状態インジケータカテゴリは、特定の状態インジケータに関連付けられた外部デバイスが可能な限り早くアドレス指定されるべきであることを示す。次に、図13Aでは、アカウントエラー状態インジケータ1314c及び更新利用可能な状態インジケータ1314dは、第2の状態インジケータカテゴリ(例えば、第2の最緊急性のカテゴリ、第1の状態インジケータカテゴリよりも緊急性が低い状態インジケータカテゴリ、アクションが必要なカテゴリ)にあり、第1のカテゴリ内の状態インジケータの色とは異なる色で表示される(例えば、ハッチングなしで示される)。図13Aでは、タイマー状態インジケータ1314eは、第3の状態インジケータカテゴリ(例えば、第3の最緊急性のカテゴリ、第2の状態インジケータカテゴリよりも緊急性が低い状態インジケータカテゴリ)にある。タイマー状態インジケータ1314eは、タイマー状態インジケータ1314eに対応するタイマーの状態に関連する1つ以上の動的構成要素(例えば、残りの時刻表示1314e1)を含む。いくつかの実施形態では、1つ以上の動的構成要素(例えば、残りの時刻表示1314e1)は、(例えば、図13Bを参照して以下で更に説明するように)リアルタイムで更新される。いくつかの実施形態では、第1及び/又は第2の状態インジケータカテゴリにある状態インジケータは、それぞれの状態インジケータに対応する1つ以上の外部デバイスの特定の状態に対して1つ以上の動的構成要素を有さない。
いくつかの実施形態では、新しい状態インジケータが表示される必要があると判定されると、デバイス700は、新しい状態インジケータと同じ状態インジケータカテゴリの状態インジケータの後(又はその前又は間)に新しい状態インジケータを表示する。例えば、新しい状態インジケータが表示されるべきであり、新しい状態インジケータが第2の状態インジケータカテゴリにあると判定されると、デバイス700は、更新利用可能な状態インジケータ1314dとタイマー状態インジケータ1314eの間に新しい状態インジケータを(例えば、表示された状態インジケータ1314の全ての開始及び/又は終了時に新しい状態インジケータを付加する代わりに)表示する。したがって、新しい状態インジケータは、状態インジケータの緊急性に関連する位置でデバイス700上に表示され、ユーザは、他の表示された状態インジケータの関連する緊急性と比較して、新しい状態インジケータの関連する緊急性に基づいて新しい状態インジケータを識別、及び/又は、と対話させることを可能にする。図13Aでは、デバイス700は、状態インジケータ1314に対応する場所でタップジェスチャ1350aを検出する。
図13Bでは、デバイス700は、ジェスチャ1350aが左方向のスワイプジェスチャであると判定する。図13Bに示すように、デバイス700は、ジェスチャ1350aがスワイプジェスチャであると判定したため、デバイス700は、デバイス700上(例えば、状態インジケータ1314と同じ領域内)に表示され得るよりも多くの状態インジケータが存在する場合には、追加の状態インジケータを表示する。具体的には、デバイス700は、図13Aに以前に表示された状態インジケータ1314を左に(例えば、ジェスチャ1350aの方向に)移動させ、それにより、一酸化炭素状態インジケータ1314a、アラーム状態インジケータ1314b、及びアカウントエラー状態インジケータ1314cが表示されなくなり、更新利用可能な状態インジケータ1314d及びタイマー状態インジケータ1314eは、それぞれ、一酸化炭素状態インジケータ1314a及びアラーム状態インジケータ1314bに置き換えられ、気候状態インジケータ1314f、ドアロック状態インジケータ1314g、及び光状態インジケータ1314hの一部は、図13Bに新たに表示される。
図13Bに示すように、タイマー状態インジケータ1314eは、動的構成要素、残りの時刻表示1314e1を含む。図13A〜13Bを見ると、残りの時刻表示1314e1は、図13Aではタイマーが13分で開始し、図13Bでは約10分の左になるまで実行するので、図13Aのタイマー状態インジケータ1314eの周辺部のおよそ100%から図13Bのタイマー状態インジケータ1314eの周辺部のおよそ75%であるまで(例えば、ユーザ入力に応答しないが、時間が経過したことに応答して)移動する。
図13Bでは、気候状態インジケータ1314fは、タイマー状態インジケータ1314eが図13Aに関して上述したものと同じ状態カテゴリである第3の状態インジケータカテゴリにある。気候状態インジケータ1314fは、外部デバイスの複数の異なるタイプ(例えば、空気品質センサ、温度、湿度センサ)の状態に対応する状態インジケータを表す。気候状態インジケータ1314fは、1つ以上の気候制御機器によって検出される平均温度(又は1つ以上の気候制御機器が設定される)が68度であり、1つ以上の湿度センサによって検出された平均湿度は40%であり、1つ以上の空気品質センサによって検出された平均空気品質が良好であることを示す。更に、状態インジケータ1314fはまた、サーモスタット制御が、加熱システムを起動させる(例えば、サーモスタット制御が制御されているデバイスによって部屋が加熱されている)ことを示し、これは状態示唆1314fの上向きの矢印によって示される。いくつかの実施形態では、状態インジケータ1314fが下向きの矢印を含むとき、状態インジケータ1314fは、サーモスタット制御が空調システムを起動させる(例えば、サーモスタット制御が制御されているデバイスによって部屋が冷却されている)ことを示す。いくつかの実施形態では、状態インジケータ1314fがダッシュを含むとき、状態インジケータ1314fは、サーモスタット制御が、空調システム又は加熱システムを起動させないことを示す(例えば、部屋が、サーモスタットが設定される指定温度であることが検出される)。図13Bでは、デバイス700は、状態インジケータ1314に対応する場所でタップジェスチャ1350bを検出する。
図13Cでは、デバイス700は、ジェスチャ1350bが左方向のスワイプジェスチャであると判定する。図13Cに示すように、デバイス700は、ジェスチャ1350bがスワイプジェスチャであると判定したため、デバイス700は、追加の状態インジケータを表示する。具体的には、デバイス700は、図13Bに以前に表示された状態インジケータ1314を左に移動させ、それにより、更新利用可能な状態インジケータ1314d、タイマー状態インジケータ1314e、及び気候状態インジケータ1314fが表示されなくなり、ドアロック状態インジケータ1314g、光状態インジケータ1314hは左にスライドし、開放窓状態インジケータ1314i、ドアセンサ状態インジケータ1314j、及び動きセンサ状態インジケータ1314kが、図13Cに新たに表示される。ジェスチャ1350bが右向きのスワイプジェスチャであると判定される実施形態では、デバイス700は、状態インジケータを右に移動させて、以前に表示された状態インジケータのうちの任意の1つ以上(例えば、図13Aに表示された一酸化炭素状態インジケータ1314a、アラーム状態インジケータ1314b)を表示する。
図13Cでは、ドアロック状態インジケータ1314g、光状態インジケータ1314h、及び開放窓状態インジケータ1314iは、第4の状態インジケータカテゴリ(例えば、第4の最緊急性のカテゴリ、第3の状態インジケータカテゴリよりも緊急性が低い状態インジケータカテゴリ、クイックアクション状態インジケータカテゴリ)にある。記載されるように、特定の状態タイプのカテゴリは予め定義されているが、いくつかの実施形態では、特定のタイプの状態インジケータのカテゴリは、1つ以上のユーザ入力を介して指定され得る。いくつかの実施形態では、デバイス700は、特定のタイプのデバイス(例えば、光)並びに/若しくはユーザが特定のタイプのデバイス及び/又は特定のタイプの状態インジケータ(例えば、最重要、2番目に最重要、3番目に最緊急など)に関連する状態インジケータの状態カテゴリを設定することを可能にする特定のタイプの状態インジケータのための1つ以上の設定を表示する。
第4の状態インジケータカテゴリの状態インジケータは、特定のタイプの外部デバイスの数が特定の状態にあることを示す。例えば、図13Bに示すように、ドアロック状態インジケータ1314gは、2つのドアロックがアンロック状態にあることを示す。別の例として、図13Cでは、光状態インジケータ1314hは、5つの光がアクティブ(又はオン)状態にあり、開放窓状態インジケータ1314iが7つの窓ブラインド(例えば、カバー、陰影)が開放状態にあることを示す。特に、第4の状態インジケータカテゴリの状態インジケータは、異なる状態にある同じタイプのデバイスに関する情報を除外する。例えば、ホーム602に指定されたリビングルームデスクランプは(例えば、リビングルームデスクランプ制御718gによって示されるように)オフである。図13Cでは、リビングルームデスクランプがオフであるため、光状態インジケータ1314hは、リビングルームデスクに関する情報を含まない(図13D〜13Fに関連して以下で更に詳細に説明する)。
図13C〜13Hは、状態インジケータ(例えば、第4の状態インジケータカテゴリの状態インジケータ)に向けられたデバイス700によって検出された異なるジェスチャを示す。具体的には、図13C〜13Hは、光状態インジケータ1314hに向けられている異なるジェスチャを示す。しかしながら、本明細書に記載される類似の技術は、ドアロック状態インジケータ1314g及び開放窓状態インジケータ1314iなどの他の状態インジケータに向けられているジェスチャに適用することができる。図13Cでは、デバイス700は、光状態インジケータ1314hに対応する(例えば、対応する場所で)ジェスチャ1350cを検出する。
図13Dでは、デバイス700は、ジェスチャ1350cが、押圧及び保持ジェスチャ(例えば、所定の時間の期間を超えて検出されるジェスチャ)であると判定する。図13Dに示すように、デバイス700が、ジェスチャ1350cが押圧及び保持ジェスチャであると判定したため、デバイス700は(例えば、ジェスチャ1350bがスワイプジェスチャであったと判定されたときに、追加の状態インジケータを表示することとは対照的に)ユーザインタフェース1340を表示する。図13Dに示すように、ユーザインタフェース1340は、図13Cで以前に表示されたユーザインタフェース710に置き換えられている。
図13Dに示すように、光状態インジケータ1314hは、ホーム602に指定された1つ以上の光の状態を示すため、ユーザインタフェース1340は、ホーム602に指定された光(例えば、照明装置)のための外部デバイス制御718を含む。図13Dに示すように、ユーザインタフェース1340上に表示される外部デバイス制御718は、それぞれの対応する外部デバイス制御が指定されるホーム602の部屋又は一部(例えば、「寝室」、「ダイニングルーム」、「リビングルーム」、「ポーチ」)によって順序付けられる。例えば、寝室光制御718f及び寝室常夜灯制御718hは、ホーム602の寝室(例えば、602c)に指定され、ユーザインタフェース1340上の「寝室」見出しの下にあり、ダイニングルーム光制御718iはホーム602のダイニングルーム(例えば、602b)に指定され、ユーザインタフェース1340上の「ダイニングルーム」見出しの下にあり、リビングルームランプ制御718b及びリビングルームデスクランプ制御718gはホーム602のリビングルーム(例えば、602d)に指定され、ユーザインタフェース1340上の「リビングルーム」見出しの下にあり、ポーチ光制御718jはホーム602のポーチに指定され、ユーザインタフェース1340上の「ポーチ」見出しの下にある。
特に、図13Dに示すように、寝室光制御1718f、寝室常夜灯制御718h、ダイニングルーム光制御718i、リビングルームランプ制御718b、及びポーチ光制御718jは、対応するそれぞれのデバイス(例えば、電球)がオン又は作動していることを示す。換言すれば、寝室光制御1718f、寝室常夜灯制御718h、ダイニングルーム光制御718i、リビングルームランプ制御718b、及びポーチ光制御718jに対応するデバイスはオンであり、図13Cの光状態インジケータ1314hによって示されるような「5つの点灯」示唆のうちの1つを示す。更に、光状態インジケータ1314hを見ると、6つの光がユーザインタフェース1340上に示されているが、第6の光及び/又は第6の光の状態の示唆は存在しない。5つの光のみがオン又はアクティブであり、光状態インジケータ1314hで識別されても、ホームは、ホームが関連付けられる非アクティブ又はオフである光などのより多くの光を有してもよい。いくつかの実施態様では、ユーザインタフェース1340は、光の詳細状態を表示する際に全ての光の詳細状態を示す。図13Dでは、リビングルームデスクランプは、他の光とは異なる視覚的な指示で表示される(例えば、リビングルームデスクランプ制御718gがオフであることを示す)。いくつかの実施形態では、リビングルームデスクランプが図13Cの光状態インジケータ1314hによって表される他の光制御と同じ状態にないため、ユーザインタフェース1340は、図13Dでリビングルームデスクランプ制御718gを含まない。いくつかの実施形態では、ユーザインタフェース1340が図13Dのリビングルームランプ制御718gを含まないとき、デバイス700は、リビングルームランプランプの状態がオンに変化したこと(例えば、誰かがリビングルームデスクランプを物理的にオンにしたとき)の示唆の受信、又は光状態インジケータ1314hによって表される他の光制御の同じ状態に応答して、ユーザインタフェース1340上にリビングルームランプ制御718gを表示することができる。図13Dでは、デバイス700は、寝室光制御718fに向けられたタップジェスチャ1350dを検出する。
図13Eでは、タップジェスチャ1350dの検出に応答して、デバイス700は寝室光632の状態を変化させる(例えば、オフにする)命令を送信し、寝室光制御718fの視覚的見掛けを更新する。図13Eに示すように、寝室光制御718fは、寝室光制御718fに対応する寝室光(例えば寝室光632)が、図13Dに示すように、例えば、活性状態にあるのとは対照的に、オフ、例えば、不活性状態にあることを示す。特に、ユーザインタフェース1340上に表示された他の光制御は、図13D〜13Eでは変更されていない。タップジェスチャ1350dの検出に応答して、デバイス700は、他の光制御によって表される他の光が状態を変化させることなく、寝室光632を変化させる命令を送信する。したがって、ユーザインタフェース1340は、ユーザがそれぞれ対応する制御によって表される各デバイスに、他のデバイスにアクションを実行させることなく、アクション(例えば、デバイスの状態を変更する)を個別に実行させることを可能にする。図13Eでは、デバイス700は、完了アフォーダンス1342に向けられたタップジェスチャ1350eを検出する。
図13Fに示すように、タップジェスチャ1350eの検出に応答して、デバイス700はユーザインタフェース1340の表示を中止し、状態インジケータ1314を有するユーザインタフェース710を再表示する。図13Fに示すように、光状態インジケータ1314hは、図13Cの光状態インジケータ1314hによって示されるように、5つの光がオンであるとは対照的に、ホーム602で4つの光がオンであることを反映するように更新される。したがって、いくつかの状態インジケータは、現在特定の状態(例えば、デバイスがその特定の状態から変更されたかどうか、又はデバイスがその特定の状態に変更されたかどうか)にあるデバイスの数を示すように更新される。更に、図13Fでは、寝室光制御718fはまた、ユーザインタフェース710上に表示された他の光制御(例えば、リビングルームランプ制御718b及びリビングルームデスクランプ制御718g)が、図13Cに示すように、それらのそれぞれの外観と比較したときに変化していない間、寝室光がオフであることを反映するためにユーザインタフェース710上で変化している。したがって、ユーザインタフェース710上に表示されたデバイス制御はまた、デバイス700が、ユーザインタフェース1340を介して表示されたデバイス制御に向けられたジェスチャ(例えば、ジェスチャ1350d)を検出したことに応答して更新される。図13Fでは、デバイス700は、光状態インジケータ1314hに向けられたジェスチャ1350fを検出する。
図13Gでは、デバイス700は、ジェスチャ1350fがタップジェスチャ(例えば、所定の時間の期間未満で検出されるジェスチャ、ジェスチャ1350a〜1350cとは異なるジェスチャ)であると判定する。図13Gでは、デバイス700は、ジェスチャ1350fがタップジェスチャであると判定したため、デバイス700は、図13Fの光状態インジケータ1314hによってオンとして示される4つの光をオフにする(又は、状態を変更する)命令を送信する。したがって、寝室常夜灯制御718h、ダイニングルーム光制御718i、リビングルームランプ制御718b、及びポーチ光制御718jが図13Gではオフである。図13Gに示すように、デバイス700は、ジェスチャ1350fがタップジェスチャであると判定したため、デバイス700は、光状態インジケータ1314hの視覚的見掛けを変更し(例えば、図13Fのハッチングなしと比較して図13Gでは新たに導入されたハッチングによって示される)、光状態インジケータ1314hを更新して、4つの光がオフされたことを示す。特に、図13Gに示すように、リビングルームランプ制御718b及びリビングルームデスクランプ制御718gもまた、それらのそれぞれの対応するデバイスがオフになったことを示すように変更される。したがって、図13Gでは、デバイス700は、状態インジケータ上の単一のジェスチャ(例えば、タップ)に応答して、複数のデバイス(例えば、異なる部屋に指定されたデバイス)の状態を変更し、これは、(例えば、図13Dのジェスチャ1350dに関して上述したように)外部デバイス制御上の同じタイプのジェスチャ(例えば、タップ)に応答して、1つのデバイスの状態を変更するだけであるデバイス700とは異なるものである。更に、図13Gでは、デバイス700は、タップジェスチャが向けられた状態インジケータによって示されるデバイス(例えば、光、ドアロック、窓ブラインド調整器)のタイプに基づく同じアクション(例えば、光のオン、ドアのロック、ブラインドの閉鎖)を実行することによって、複数のデバイスの状態を変更させる。図13Gに示すように、図13Hのジェスチャ1350fは、光状態インジケータ1314hに向けられたタップジェスチャであるため、デバイス700は、他の状態インジケータの状態を変更せず、他の状態インジケータに対応する他のデバイスが状態を変更する命令を送信せず、他の状態インジケータの外観を維持する(例えば、図13F〜13Gを比較するとき)。
図13Hでは、デバイス700が光状態インジケータ1314hに向けられた別のジェスチャを検出することなく、デバイス700はジェスチャ1350fが検出されたことから、所定の時間の期間が経過したと判定する。図13Hに示すように、ジェスチャ1350fが検出されたことから所定の時間の期間が経過したと判定されるので、デバイス700は、光状態インジケータ1314hの表示を中止し、光状態インジケータ1314hによって以前に占有されていた空間を満たすために、開放窓状態インジケータ1314i、ドアセンサ状態インジケータ1314j、及び動きセンサ状態インジケータ1314kを左に移動させる。例えば、開放窓状態インジケータ1314iは、図13Gの光状態インジケータ1314hに隣接し、開放窓状態インジケータ1314iは、図13Hの光状態インジケータ1314hによって空けられた場所を占有する。状態インジケータのいくつかが左に偏移されているため、追加の状態インジケータ、光センサ状態インジケータ1314kが新たに表示される。ドアセンサ状態インジケータ1314j、動きセンサ状態インジケータ1314k及び光センサ状態インジケータ1314kは、第5の状態インジケータカテゴリ(例えば、第5の最緊急性のカテゴリ、第4の状態インジケータカテゴリよりも緊急性が低い状態インジケータカテゴリ、センサ状態インジケータカテゴリ)にある。ドアセンサ状態インジケータ1314jは、ホーム602に指定されたドアセンサが、ドアが半開きであることを検出したことを示す。動きセンサ状態インジケータ1314kは、ホーム602に指定された1つ以上の動きセンサによって動きが検出されたことを示す。光センサ状態インジケータ1314lは、1つ以上のドアセンサが、ホーム602に指定された1つ以上のドアが開放していることを検出したことを示す。いくつかの実施形態では、光状態インジケータ1314hに向けられたジェスチャが所定の時間の期間が経過する前に検出されると、デバイス700は、4つの光をオン状態に変更し、光状態インジケータ1314hを更新して、(例えば、図13Fに示すように)4つの光がオンであることを示す。状態インジケータに関連付けられたアクセサリが緊急又は活性状態から変化した後の所定の時間の期間、状態インジケータを引き続き検視するこの能力は、ユーザにアクセサリの状態変化を容易にアンドゥする機会をユーザに提供する。いくつかの実施形態では、光状態インジケータ1314hに向けられたジェスチャが所定の時間の期間が経過する前に検出されると、デバイス700は、追加のジェスチャが受信される前に過ぎる時間に関わりなく、光状態インジケータ1314hの表示を維持する。これらの実施形態のいくつかでは、光状態インジケータ1314hが最初にユーザインタフェース710上に表示されたとき(例えば、図13B)、1つ以上の光が入っていた最初の状態に光のうちの任意の1つ以上が戻ることを、光状態インジケータ1314hが示すので、デバイス700は、光状態インジケータ1314hのディスプレイを維持する。図13Hでは、デバイス700は、部屋ナビゲーション制御722b上でタップジェスチャ1350hを検出する。
図13Iに示すように、タップジェスチャ1350hの検出に応答して、デバイス700は、ホームアプリケーションのユーザインタフェース1360を表示し、部屋ナビゲーション制御722bが(例えば、ボールドで示されるように)選択されていることを示す。ユーザインタフェース1360は、寝室識別子1368によって示されるように、寝室602cに指定された複数の外部デバイスを制御するためのユーザインタフェースである。いくつかの実施形態では、デバイス700は、図13Iのユーザインタフェース1360を表示するために、図7Gのユーザインタフェース760を表示することに関連して上述したような1つ以上の技術を使用することができる。いくつかの実施形態では、ユーザインタフェース1360は、図7Fのタップジェスチャ750f3の検出に応答して代替的に表示することができ、及び/又はユーザインタフェース760は、図13Hのタップジェスチャ1350hの検出に応答して代替の表示をすることができる。
図13Iに示すように、ユーザインタフェース1360は、図13A〜13C及び13F〜13Hに表示された状態インジケータよりも、状態インジケータの低減された1組を含む。ユーザインタフェース1360は、ユーザインタフェース1360上に表示されたそれぞれの状態インジケータが寝室602に指定された少なくとも1つのデバイスに対応すると判定されるので、状態インジケータの低減された1組を含む。換言すれば、寝室602cに指定された複数の外部デバイスを制御するためのユーザインタフェース1360を表示するとき、デバイス700は、寝室602cに指定された少なくとも1つの装置に対応しない状態インジケータの表示を中止する。
図13Iに示すように、状態インジケータの低減された1組は、一酸化炭素状態インジケータ1314a、気候状態インジケータ1314f、及び開放窓状態インジケータ1314iを含む。特に、図13Iの気候状態インジケータ1314fは、寝室に指定されているが、図13Bの気候状態インジケータ1314fが示した湿度及び/又は空気品質情報を示していないサーモスタットに関連する温度を示す。ここで、湿度及び空気品質センサが寝室に指定されていないため、図13Iの気候状態インジケータ1314fは湿度及び/又は空気品質情報を示さない。しかしながら、図13Iの気候状態インジケータ1314fは、少なくとも1つのサーモスタットが寝室に指定されているため、サーモスタット制御に関連する温度を示す。更に、図13Iの状態インジケータ1314fは更に、サーモスタット制御が、加熱システムを起動させる(例えば、サーモスタット制御が制御されているデバイスによって部屋が加熱されている)ことを示し続け(例えば、図13Bの1314fと比較したとき)、これは図13Iの状態示唆1314fの上向きの矢印によって示される。したがって、同じタイプの複数のデバイスに対応する状態インジケータは、ホーム602の異なる部分又は部屋に対応するユーザインタフェースにナビゲートするときに、デバイスのタイプのうちの任意の1つ以上に関する情報の表示を中止することができる。更に、図13Iの開放窓状態インジケータ1314iは、図13Hに示すように、7つの窓が開いていることを示すのとは対照的に、1つの窓が開いていることを示すように変更されている。図13Iの開放窓状態インジケータ1314iは、1つの寝室窓のみが寝室602cに指定された窓ブラインド調整器を有するため、1つの窓が開いていることを示すように変更されている。図13Iでは、デバイス700は、開放窓状態インジケータ1314iに向けられた押圧及び保持ジェスチャ1350iを検出する。
押圧及び保持ジェスチャ1350iの検出に応答して、図13Jに示すように、デバイス700は、窓ブラインド調整可能な制御1318iを含むユーザインタフェース1370を表示する。図13Jでは、デバイス700は、窓ブラインド調節可能な制御1318i上でのジェスチャ1350j(スワイプダウンジェスチャ)を検出する。図13Kに示すように、ジェスチャ1350jを検出したことに応答して、デバイス700は、窓ブラインド調整器に、(図31Jの示唆1372によって示されるように)100%の開放状態から、(例えば、図13Kの示唆1372によって示されるように)58%の開放状態に変更させる、寝室602bに指定された窓ブラインド調整器デバイスに命令を送る。
特に、図13Jでは、デバイス700は、窓ブラインド調整可能な制御1318iを表示し、ここで窓ブラインド調節可能な制御1318iの選択によって、窓ブラインド調整器の状態が窓ブラインド調節可能な制御1318iによって示される(例えば、「開放」100%開いている)状態とは異なる状態及び窓ブラインド調節可能な制御1318iによって示され状態(例えば、「開放」)とは反対の状態(例えば、「閉鎖」0%開いている)に変更される。したがって、窓ブラインド選択可能な制御1318iを選択することにより、ユーザが、図13Iの開放窓状態インジケータ1314iの方向にタップジェスチャを向けることによって、窓ブラインド調整器を変更することができる状態とは異なる状態に窓ブラインド調整器を変更することをユーザに可能にする。いくつかの実施形態では、デバイス700は、図13Iの開放窓状態インジケータ1314iが、所定の数を超えるデバイスを示すときに、図13Dのユーザインタフェース1340と類似のユーザインタフェースを表示する。したがって、図13Iの窓状態インジケータ1314iによって示される所定の数を超えるデバイスが存在する場合、複数のデバイスを制御する複数の制御が表示され、それぞれの制御のうちの1つの選択により、デバイスを反対状態(例えば、オン/オフ状態、開閉状態、ロック/アンロック状態)に変更させる。いくつかの実施形態では、デバイス700は、状態インジケータによって示される所定の数を超えるデバイスが存在する場合よりも、所定の数未満のデバイスが存在する場合に、ユーザが1つ以上のデバイスの上に、より多くの(又は異なる)制御を有することを可能にする制御を表示する。いくつかの実施形態では、状態インジケータによって示される所定の数未満のデバイスが存在し、状態インジケータ上でタップアンドホールドジェスチャが検出されと、デバイス700は、所定の数を超えるデバイスが状態インジケータによって特定の状態にあることが示されるとき、特定のデバイスに対して表示される制御の数よりも、特定のデバイスを制御するためのより多くの制御を表示する。
図13L〜13Nは、他の状態インジケータに向けられたジェスチャの検出に応答して表示される例示的なユーザインタフェースを示す。いくつかの実施形態では、他の状態インジケータに向けられたジェスチャは、図13L〜13Nのそれぞれのユーザインタフェースを表示するために、ジェスチャ1350c(例えば、押圧及び保持ジェスチャ)と同じタイプのジェスチャ又はジェスチャ1350f(例えば、タップジェスチャ)と同じタイプのジェスチャであり得る。したがって、いくつかの実施形態では、デバイス700は、ジェスチャのいずれかのタイプ(例えば、押圧及び保持ジェスチャ又はタップジェスチャ)の検出に応答して、図13L〜13Nのそれぞれのユーザインタフェースを表示する。
図13Lは、ユーザインタフェース1382を表示するデバイス700を示す。ユーザインタフェース1370は、デバイス700が図13Aの一酸化炭素状態インジケータ1314aに向けられたジェスチャを検出したことに応答して表示される。図13Lに示すように、ユーザインタフェース1382は、外部デバイス制御718を含み、ここで各外部デバイス制御は、ホーム602に指定された一酸化炭素デバイスの状態を示す。ユーザインタフェース1382によって示すように、寝室一酸化炭素センサが(例えば、寝室一酸化炭素制御718kによって示されるように)トリガされ、キッチン一酸化炭素センサ及びリビングルーム一酸化炭素センサは、(一酸化炭素センサ718l〜718mによって示されるように)トリガされていない。したがって、デバイス700が第4の状態インジケータカテゴリ(例えば、一酸化炭素状態インジケータ1314a)以外の状態インジケータカテゴリの状態インジケータに向けられたジェスチャの検出に応答して、デバイス700は、それぞれのカテゴリの状態インジケータに対応する特定のタイプのデバイス制御を表示し、ここでデバイス制御は、それぞれの制御に対応するデバイスがある状態を示す1つ以上の視覚的見掛けを有する。いくつかの実施形態では、ユーザインタフェース1370は、図13D〜13Eに関連して上述したものと類似の技術を使用して表示される。
図13Mは、ユーザインタフェース1384を表示するデバイス700を示す。ユーザインタフェース1384は、デバイス700が図13Bの気候状態インジケータ1314fに向けられたジェスチャを検出したことに応答して表示される。図13Lに示すように、ユーザインタフェース1384は、気候状態インジケータ1314fが、(例えば、図13Bに関して上述したように)複数のタイプのデバイスの状態を示すため、複数のタイプのデバイスに対応する制御を含む。例えば、図13Lでは、ユーザインタフェース1384は、サーモスタットデバイスを制御するための制御(例えば、寝室サーモスタット制御718n及びリビングルームサーモスタット制御718r)、空気品質センサを制御するための制御(例えば、キッチン空気品質センサ制御718o及びリビングルーム空気品質センサ制御718r)、及び湿度センサを制御するための制御(例えば、キッチン湿度センサ制御718p)を含む。
図13Nは、ユーザインタフェース1386を表示するデバイス700を示す。ユーザインタフェース1386は、デバイス700が図13Hの動きセンサ状態インジケータ1314kに向けられたジェスチャを検出したことに応答して表示される。13Nに示すように、ユーザインタフェース1386は、ホーム602に指定された動きセンサに対応する制御を含む。ユーザインタフェース1386は、図13D〜13E及び13Lに関連して上述したものと類似の技術を使用して表示される。
図14は、いくつかの実施形態に係る、コンピュータシステムを使用して外部デバイスを管理するための方法を示すフロー図である。方法1400は、ディスプレイ生成構成要素(例えば、ディスプレイ)及び1つ以上の入力デバイス(例えば、タッチ感知ディスプレイスクリーン)と通信するコンピュータシステム(例えば、100、300、500、634、674、700、701、850)で実行される。方法1400のいくつかの動作は、任意選択的に組み合わされ、いくつかの動作の順序は、任意選択的に変更され、いくつかの動作は、任意選択的に省略される。
後述するように、方法1400は、外部デバイスを管理するための直観的方法を提供する。本方法は、外部デバイスを管理するためのユーザの認識的負担を軽減し、それによって、より効率的なヒューマン−マシンインタフェースを作り出す。バッテリ動作式コンピューティングデバイスの場合、ユーザがより高速かつ効率的にデバイス状態を認識することを有効化することで、電力を節約し、バッテリ充電間の時間を延ばす。
コンピュータシステムは、第1のアクセサリタイプの複数のアクセサリデバイス(例えば、電球、窓、スイッチ、アウトレット、ロック(例えば、ドアロック、窓ロック)、テレビ)が第1の状態(例えば、オン、オフ、開放、閉鎖、ロック、アンロック)にあることを示す(例えば、グラフィカル表現及び対応する文字(例えば、2つの電球がオンである))第1の状態インジケータ(例えば、1314g、1314h、1314i)を、ディスプレイ生成構成要素を介して((例えば、表示を含む)含む第1のユーザインタフェース(例えば、アクセサリデバイスの1組を制御するためのユーザインタフェース)の表示の一部として)表示する(例えば、1402)。第1のアクセサリタイプの複数のアクセサリデバイスは、第1のアクセサリタイプであり、第1の状態にある第1のアクセサリデバイス(1404)、及び第1のアクセサリタイプであり、第1の状態にある第2のアクセサリデバイス(1406)を含み、ここで第2のアクセサリデバイスは、第1のアクセサリデバイスとは異なる。いくつかの実施形態では、第1の状態インジケータは、第1の状態にない第1のアクセサリタイプのアクセサリデバイス(例えば、第2の状態)(例えば、第1の状態インジケータは、第1の状態にない(例えば、第2の状態の)第1のアクセサリタイプの1つ以上のデバイスを(例えば、選択されたときに)示さない又は制御しない)を示さない。いくつかの実施形態では、第1の状態インジケータは、第1のアクセサリタイプではないアクセサリタイプのアクセサリデバイスの現在の状態に関わらず、第1のアクセサリタイプではないアクセサリタイプのアクセサリデバイスを示さない。
コンピュータシステムは、第1の状態インジケータを表示している間に、コンピュータシステムはジェスチャ(例えば、1350a〜1350c、1350f)を(例えば、1つ以上の入力デバイスを介して)検出する(1408)。
ジェスチャの検出(1410)に応答し、ジェスチャが第1のタイプのジェスチャ(例えば、1350f)(例えば、タップジェスチャ)で、第1の状態インジケータ(例えば、1350h)に(例えば、対応する場所で)向けられたとの判定に従って、コンピュータシステムは、第1のアクセサリデバイス(例えば、第1のアクセサリデバイスの状態を変更するアクションを実行するために)及び第2のアクセサリデバイスを(例えば、第2のアクセサリデバイスの状態を変更するアクションを実行するために)第1の状態とは異なる(例えば、(例えば、オン/オフ、ロック/アンロック、開閉)の反対)第2の状態に変更させる(1412)(例えば、プロセスを開始することを介して(及び、いくつかの実施形態では、プロセスは、1つ以上の命令を1つ以上のデバイス(例えば、サーバ、第1のアクセサリデバイス及び第2のアクセサリデバイスを含む複数のデバイスと通信するハブデバイス、第1のアクセサリデバイス、第2のアクセサリデバイス)に送信すること含む)。いくつかの実施形態では、第1のアクセサリデバイス及び第2のアクセサリデバイスを第2の状態にすることの一部として、コンピュータシステムは、(例えば、ジェスチャが検出される前に)第2の状態(又は、第1の状態とは異なる任意の状態)にある1つ以上のアクセサリデバイスに、任意のアクションを実行させない、及び/又は状態を変更させない。
ジェスチャの検出に(1410)応答し、ジェスチャが第1のタイプのジェスチャとは異なる第2のタイプのジェスチャ(例えば、1350c)(例えば、長押しジェスチャ)で、第1の状態インジケータ(例えば、1314h)に向けられたとの判定に従って、コンピュータシステムは、ディスプレイ生成構成要素を介して、第1のアクセサリデバイスに対応する第1のアクセサリ制御ユーザインタフェースオブジェクト対象(例えば、718b、718f〜718j)(例えば、第2のユーザインタフェースの表示の一部として)を表示し(1414)、ここで、第1のアクセサリ制御ユーザインタフェースオブジェクト対象の選択(例えば、1350d)(第1のタイプのジェスチャ(例えば、タップジェスチャ)であるジェスチャを介して)によって、(例えば、第1のアクセサリデバイスの状態を変更するアクションを実行するために)第1のアクセサリデバイスを、第2のアクセサリデバイスを第2の状態に変更させることなく(例えば、第1のアクセサリデバイスを第1の状態にすることを完了した後に、第2のアクセサリデバイスは第1の状態であり続ける)第2の状態に変更させる(例えば、プロセスを開始することを介して(及び、いくつかの実施形態では、プロセスは、命令を1つ以上のデバイス(例えば、サーバ、複数のアクセサリデバイス(例えば、第1及び第2のアクセサリデバイスを含む)と通信するハブデバイス、第1のアクセサリデバイス(第2のアクセサリデバイスではない))。いくつかの実施形態では、第1のアクセサリデバイスに対応する第1のアクセサリ制御ユーザインタフェースオブジェクト対象を表示している間に、コンピュータシステムは、第1のアクセサリ制御ユーザインタフェースオブジェクト対象に向けられたジェスチャを検出し(例えば、第1のアクセサリ制御ユーザインタフェースオブジェクト対象に向けられた第1のタイプのジェスチャ)、第1のアクセサリ制御ユーザインタフェースオブジェクト対象に向けられたジェスチャの検出に応答して、コンピュータシステムは、(例えば、第1のアクセサリデバイスを変更するアクションを実行するために)第1のアクセサリデバイスを、第2のアクセサリデバイスを第2の状態にすることなく、第2の状態に変更するアクションを実行させる(例えば、第1のアクセサリデバイスを第1の状態にすることを完了した後に、第2のアクセサリデバイスは第1の状態であり続ける)。いくつかの実施形態では、第1の状態インジケータに向けられたジェスチャの検出に応答し、ジェスチャが第1のジェスチャとは異なる第2のジェスチャ(例えば、長押しジェスチャ)であるとの判定に従って、コンピュータシステムは、ディスプレイ生成構成要素を介して、第3のアクセサリデバイスに対応する第3のアクセサリ制御ユーザインタフェースオブジェクト対象を表示し、ここで第3のアクセサリデバイスは第1のアクセサリデバイスタイプで、第1の状態にはない(例えば、第2の状態にある)、及び第3のアクセサリ制御ユーザインタフェースオブジェクト対象に向けられたジェスチャの検出に応答して、コンピュータシステムは、第3のアクセサリデバイスを、第1のアクセサリデバイス及び第2のアクセサリデバイスの状態を変更することなく(例えば、第1のアクセサリデバイス及び第2のアクセサリデバイスを第2の状態にすることなく)、(例えば、第3のアクセサリデバイスを変更するアクションを実行するために)第1の状態にする。いくつかの実施形態では、第2のユーザインタフェースは、第1のタイプではない(例えば、第1のアクセサリタイプとは異なる第2のアクセサリタイプの)アクセサリデバイスに対応する(例えば、又は任意の)アクセサリ制御ユーザインタフェースオブジェクト対象を含まない。いくつかの実施形態では、第1の状態インジケータに向けられたジェスチャの検出に応答し、ジェスチャが、第1のジェスチャとは異なる第2のジェスチャ(例えば、長押しジェスチャ)であるとの判定に従って、コンピュータシステムは、第1のアクセサリタイプとは異なるアクセサリタイプからなり、第2のユーザインタフェースを介して表示されるアクセサリ制御ユーザインタフェースオブジェクト対象を表示しない)。いくつかの実施形態では、第1の状態インジケータに向けられたジェスチャの検出に応答し、ジェスチャが第1のジェスチャとは異なる第2のジェスチャ(例えば、長押しジェスチャ)であるとの判定に従って、コンピュータシステムは、第1の状態インジケータの表示を中止する。ジェスチャが第1の状態インジケータに向けられるとき、検出されたジェスチャのタイプに基づいて異なる動作を実行することにより、ユーザには、ユーザインタフェースを乱すことなく、より多くの制御オプションが提供される。表示される追加コントローラによってUIを雑然とさせることなく、システムの追加制御できるようにすることにより、システムの操作性が高められ、ユーザ−システムインタフェースを(例えば、システムを操作する/システムと対話するときに適切な入力をもたらすようにユーザを支援し、ユーザの誤りを減らすことによって)より効率的にし、加えて、ユーザがシステムをより素早くかつ効率的に使用することを有効化することによって、システムの電力使用が抑えられ、バッテリ寿命が改善される。第1のアクセサリデバイス及び第2のアクセサリデバイスを、第1の状態とは異なる第2の状態に変更させることにより、複数のデバイスが状態を変化させる1つの制御をユーザに提供し、これにより、複数のデバイスに状態を変更させるために必要な入力の数が低減される。動作を実行するために必要な入力の数を低減することにより、システムの操作性を向上させ、(例えば、システムを操作する/システムと対話するときに、適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用を低減し、システムのバッテリ寿命を改善する。
いくつかの実施形態では、ジェスチャが、第1のタイプのジェスチャとは異なり、第1の状態インジケータ(例えば、1314h)に向けられた第2のタイプのジェスチャ(例えば、1350c)であるとの判定に従って、コンピュータシステムは、ディスプレイ生成構成要素を介し、第1のアクセサリ制御ユーザインタフェースオブジェクト対象(例えば、718b、718f〜718j)と同時に、第2のアクセサリデバイスに対応する第2のアクセサリ制御ユーザインタフェースオブジェクト対象(例えば、718b、718f〜718j)を表示する。いくつかの実施形態では、第2のアクセサリ制御ユーザインタフェースオブジェクト対象の(例えば、第1のタイプのジェスチャ(例えば、タップジェスチャ)を介しての)選択によって、(例えば、プロセスを介して(及び、いくつかの実施形態では、プロセスは1つ以上のデバイス(例えば、サーバ、複数のアクセサリデバイス(例えば、第1及び第2のアクセサリデバイスを含む)と通信するハブデバイス、第2のアクセサリデバイス(第1のアクセサリデバイスではない)に命令を送信することを含む)第2のアクセサリデバイスを、第1のアクセサリデバイスを第2の状態に変更させることなく、第2の状態に変更させる。いくつかの実施形態では、第2のアクセサリデバイスに対応する第2のアクセサリ制御ユーザインタフェースオブジェクト対象を表示している間に、コンピュータシステムは、第1のアクセサリ制御ユーザインタフェースオブジェクト対象に向けられたジェスチャを検出し(例えば、第1のアクセサリ制御ユーザインタフェースオブジェクト対象に向けられた第1のタイプのジェスチャ)、第2のアクセサリ制御ユーザインタフェースオブジェクト対象に向けられたジェスチャの検出に応答して、コンピュータシステムは、(例えば、第2のアクセサリデバイスを変更するアクションを実行するために)第2のアクセサリデバイスを、第1のアクセサリデバイスを第2の状態にすることなく、第2の状態に変更するアクションを実行させる(例えば、第2のアクセサリデバイスを第1の状態にすることを完了した後に、第1のアクセサリデバイスは第1の状態であり続ける)。いくつかの実施形態では、第2のアクセサリ制御ユーザインタフェースオブジェクト対象に向けられたジェスチャの検出に応答して、第2のアクセサリ制御ユーザインタフェースオブジェクト対象は、第1の視覚的見掛け(例えば、文字、サイズ、色、押圧された状態(例えば、押し下げられた、押圧))を有することから、第1の視覚的見掛けとは異なる第2の視覚的見掛け(例えば、文字、サイズ、色、押圧された状態(例えば、押し下げられた、押圧))に変更される。第1のアクセサリデバイスに対応する第1のアクセサリ制御と同時に第2のアクセサリデバイスに対応する第2のアクセサリ制御ユーザインタフェースオブジェクト対象を表示することは(例えば、ジェスチャが第1のタイプのジェスチャとは異なり、第1の状態インジケータに向けられた第2のタイプのジェスチャであるとの判定に従って)、ユーザインタフェースを乱すことなく個々のアクセサリデバイスを制御するためのより多くの制御オプションをユーザに提供する。表示される追加コントローラによってUIを雑然とさせることなく、システムの追加制御できるようにすることにより、システムの操作性が高められ、ユーザ−システムインタフェースを(例えば、システムを操作する/システムと対話するときに適切な入力をもたらすようにユーザを支援し、ユーザの誤りを減らすことによって)より効率的にし、加えて、ユーザがシステムをより素早くかつ効率的に使用することを有効化することによって、システムの電力使用が抑えられ、バッテリ寿命が改善される。
いくつかの実施形態では、ジェスチャは、第1の状態インジケータと共に、第1のアクセサリタイプとは異なる、第2のアクセサリタイプの複数のアクセサリデバイスが第3の状態にあることを示す第2の状態インジケータ(例えば、1314g、1314i)を同時に表示している間に検出され、第2のアクセサリタイプの複数のアクセサリデバイスは、第2のアクセサリタイプであり、第3の状態(例えば、第1の状態及び第2の状態とは異なる状態)にある第3のアクセサリデバイス及び第2のアクセサリタイプであり、第3の状態にある第4のアクセサリデバイスを含む。いくつかの実施形態では、第2のアクセサリタイプであり、第2の状態にある第3のアクセサリデバイス及び第2のアクセサリタイプであり、第2の状態にある第4のアクセサリデバイスは、第1のアクセサリデバイス及び第2のアクセサリデバイスとは異なる。いくつかの実施形態では、ジェスチャが第1のタイプのジェスチャ(例えば、1350fと類似の)(例えば、タップジェスチャ)で、第2の状態インジケータ(例えば、1314g、1314i)に(例えば、対応する場所で)向けられたとの判定に従って、コンピュータシステムは、第3のアクセサリデバイス及び第4のアクセサリデバイスを第3の状態とは異なる(例えば、第1のアクセサリデバイス及び第2のアクセサリデバイスを異なる状態に変更させることなく(例えば、第1の状態とは異なる(例えば、(例えば、オン/オフ、ロック/アンロック、開閉)の反対)第2の状態)第4の状態に変更させる(例えば、プロセスを開始することを介して(及び、いくつかの実施形態では、プロセスは、1つ以上の命令を1つ以上のデバイス(例えば、サーバ、第1のアクセサリデバイス、第2のアクセサリデバイス、第3のアクセサリデバイス、及び第4のアクセサリデバイスを含む複数のデバイスと通信するハブデバイス)に送信すること含む)。いくつかの実施形態では、ジェスチャが第2のタイプのジェスチャ(例えば、1350cと類似の)(例えば、押圧及び保持ジェスチャ)で、第2の状態インジケータ(例えば、1314g、1314i)に(例えば、対応する場所で)向けられたとの判定に従って、コンピュータシステムは、ディスプレイ生成構成要素を介して、第3のアクセサリデバイスに対応する第3のアクセサリ制御ユーザインタフェースオブジェクト対象を(例えば、第2のユーザインタフェースを表示することの一部として)表示する。いくつかの実施形態では、第3のアクセサリ制御ユーザインタフェースオブジェクト対象の(ジェスチャの第1のタイプであるジェスチャ(例えば、タップジェスチャ)を介して)の選択により(例えば、プロセスを介して(及び、いくつかの実施形態では、プロセスは1つ以上のデバイス(例え、サーバ、(例えば、第1、第2、第3、及び第4のアクセサリデバイスを含む)複数のアクセサリデバイスと通信するハブデバイス、第3のアクセサリデバイス(第4のアクセサリデバイスではない)に命令を送信することを含む)、(例えば、第1のアクセサリデバイスの状態を変更するアクションを実行するために)第3のアクセサリデバイスを、第4のアクセサリデバイスを第4の状態に変更させることなく、第4の状態に変更させる(及び、いくつかの実施形態では、第1のアクセサリデバイス及び/又は第2のアクセサリ制御ユーザインタフェースオブジェクト対象に対応する(例えば、第2のユーザインタフェースを表示することの一部として)第1のアクセサリ制御ユーザインタフェースオブジェクト対象を、ディスプレイ生成構成要素を介して、表示することなく)(例えば、第4のアクセサリデバイスは、第3のアクセサリデバイスが第4の状態にあることを引き起こした後に第3の状態にあり続ける)。いくつかの実施形態では、ジェスチャが第2のタイプのジェスチャ(例えば、押圧及び保持ジェスチャ)で、第2の状態インジケータに(例えば、対応する場所で)向けられたとの判定に従って、コンピュータシステムは、第3のアクセサリ制御ユーザインタフェースオブジェクト対象と同時に第4のアクセサリ制御ユーザインタフェースオブジェクト対象を表示する。いくつかの実施形態では、第4のアクセサリ制御ユーザインタフェースオブジェクト対象が選択されると、コンピュータシステムは、(例えば、プロセスを介して(及び、いくつかの実施形態では、プロセスは1つ以上のデバイス(例えば、サーバ、複数のアクセサリデバイス(例えば、第1、第2、第3、第4のアクセサリデバイスを含む)と通信するハブデバイス、第4のアクセサリデバイス(第3のアクセサリデバイスではない)に命令を送信することを含む)第4のアクセサリデバイスを、第3のアクセサリデバイスを第4の状態に変更させることなく、第4の状態に変更させる。ジェスチャが向けられた状態インジケータ及び検出されたジェスチャのタイプに基づいて異なる動作を実行することにより、ユーザインタフェースを乱すことなく、異なるアクセサリデバイスタイプを制御するためのより多くの制御オプションがユーザに提供される。表示される追加コントローラによってUIを雑然とさせることなく、システムの追加制御できるようにすることにより、システムの操作性が高められ、ユーザ−システムインタフェースを(例えば、システムを操作する/システムと対話するときに適切な入力をもたらすようにユーザを支援し、ユーザの誤りを減らすことによって)より効率的にし、加えて、ユーザがシステムをより素早くかつ効率的に使用することを有効化することによって、システムの電力使用が抑えられ、バッテリ寿命が改善される。第3のアクセサリデバイス及び第4のアクセサリデバイスを第4の状態に変更させることにより、複数のデバイスが状態を変化させる1つの制御がユーザに提供され、複数のデバイスに状態を変更させるために必要な入力の数が低減される。動作を実行するために必要な入力の数を低減することにより、システムの操作性を向上させ、(例えば、システムを操作する/システムと対話するときに、適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用を低減し、システムのバッテリ寿命を改善する。
いくつかの実施形態では、第5のアクセサリデバイス(例えば、図13Aの718bによって表されるデバイス)が第1のアクセサリデバイスタイプで、第5のアクセサリデバイス(例えば、図13Aの718bによって表されるデバイス)が第1の状態であるとの判定に従って、第1のアクセサリタイプの複数のアクセサリデバイスは(例えば、1314hで示されるように)(例えば、第1のアクセサリデバイス及び第2のアクセサリデバイスとは異なる)第5のアクセサリデバイスを含む。いくつかの実施形態では、第5のアクセサリデバイス(例えば、図13Aの718gによって表されるデバイス)が第1のアクセサリデバイスタイプで、第5のアクセサリデバイス(例えば、図13Aの718gによって表されるデバイス)は第1の状態にはないとの判定に従って、第1のアクセサリタイプの複数のアクセサリデバイスは、(例えば、1314hで示されるように)第5のアクセサリデバイスを含まない。いくつかの実施形態では、第5のアクセサリデバイスが第1のアクセサリデバイスタイプではなく、第5のアクセサリデバイスが第1の状態にあるとの判定に従って、第5のアクセサリタイプの複数のアクセサリデバイスは第5のアクセサリデバイスを含まない。いくつかの実施形態では、第5のアクセサリデバイスが第1のアクセサリデバイスタイプではなく、第5のアクセサリデバイスが第1の状態にはないとの判定に従って、第1のアクセサリタイプの複数のアクセサリデバイスは第5のアクセサリデバイスを含まない。第1の状態にある第1のアクセサリデバイスタイプのアクセサリデバイスを制御し、第1の状態にはない第1のアクセサリデバイスタイプのアクセサリデバイスを制御しない状態インジケータを提供することにより、特定の予め定められた条件を見た満たすアクセサリデバイスを制御する状態インジケータがユーザに提供される。更なるユーザ入力を必要とせずに条件の1組が満たされたときに動作を実行することにより、システムの操作性が高められ、ユーザ−システムインタフェースを(例えば、システムを操作する/システムと対話するときに適切な入力をもたらすようにユーザを支援し、ユーザの誤りを減らすことによって)より効率的にし、加えて、ユーザがシステムをより素早くかつ効率的に使用することを有効化することによって、システムの電力使用が抑えられ、バッテリ寿命が改善される。
いくつかの実施形態では、第1のタイプのジェスチャは、タップジェスチャ(例えば、1350f)(例えば、所定の時間の期間未満で(例えば、1つ以上の入力デバイスを介して)検出されるジェスチャ)である。いくつかの実施形態では、第2のタイプのジェスチャは、押圧及び保持ジェスチャ(例えば、1350c)(例えば、所定の時間の期間よりも長い間(例えば、1つ以上の入力デバイスを介して)検出されるジェスチャ)である。
いくつかの実施形態では、ジェスチャの検出に応答して、ジェスチャが第3のタイプのジェスチャ(例えば、1350a)(例えば、スワイプジェスチャ、ある方向(例えば、横方向)に移動するジェスチャ)(例えば、及び第1の状態インジケータに向けられている)との判定に従って、コンピュータシステムは、以前に表示されなかった状態インジケータ(例えば、図13Bの1314f)を(例えば、状態インジケータをスクロールすることによって)表示する(例えば、以前に表示されなかった状態インジケータは、第1のアクセサリデバイスタイプとは異なるアクセサリの複数のアクセサリデバイスが同じ状態にあることを示す)。いくつかの実施形態では、ジェスチャが第3のタイプのジェスチャであるとの判定に従って、(例えば、第1の状態インジケータを検視外にスクロールすることによって)第1の状態インジケータの表示を停止する。いくつかの実施形態では、ジェスチャが第3のタイプのジェスチャであるとの判定に従って、複数の表示された状態インジケータを(例えば、ジェスチャの方向(例えば、左、右、上、下など)に移動させ、それにより、複数の状態インジケータが移動された後、第1の状態インジケータは表示を中止し、一方、第3のタイプのジェスチャを検出する前に表示されなかった1つ以上の状態インジケータが表示される。いくつかの実施形態では、状態インジケータ(例えば、シーン制御、外部アクセサリデバイス制御)ではない1つ以上の制御は、ジェスチャが検出された後に表示されたままである。第3のタイプのジェスチャが第1の状態インジケータに向けられるときに異なる動作を実行することにより、ユーザには、ユーザインタフェースを乱すことなく、より多くの制御オプション(例えば、より多くの状態インジケータ)が提供される。表示される追加コントローラによってUIを雑然とさせることなく、システムの追加制御できるようにすることにより、システムの操作性が高められ、ユーザ−システムインタフェースを(例えば、システムを操作する/システムと対話するときに適切な入力をもたらすようにユーザを支援し、ユーザの誤りを減らすことによって)より効率的にし、加えて、ユーザがシステムをより素早くかつ効率的に使用することを有効化することによって、システムの電力使用が抑えられ、バッテリ寿命が改善される。
いくつかの実施形態では、第1のアクセサリデバイス及び第2のアクセサリデバイスを第2の状態に変更させることの一部として、コンピュータシステムは、第1のアクセサリデバイス及び第2のアクセサリデバイスに第1のアクセサリタイプ(例えば、光、ドアロック、ブラインド、温度制御)に基づくタイプのアクションを実行させる(例えば、光のオフ、ドアロックのアンロック、ブラインドを特定のパーセント開放、AC/加熱のオフ)。第1のアクセサリデバイス及び第2のアクセサリデバイスに、第1のアクセサリタイプに基づくタイプのアクションを実行させることにより、コンピュータシステムは、特定の予め定められた条件に基づく特定のアクションを実行することが可能になる。更なるユーザ入力を必要とせずに条件の1組が満たされたときに動作を実行することにより、システムの操作性が高められ、ユーザ−システムインタフェースを(例えば、システムを操作する/システムと対話するときに適切な入力をもたらすようにユーザを支援し、ユーザの誤りを減らすことによって)より効率的にし、加えて、ユーザがシステムをより素早くかつ効率的に使用することを有効化することによって、システムの電力使用が抑えられ、バッテリ寿命が改善される。
いくつかの実施形態では、ジェスチャを検出する前に、コンピュータシステムは、第1の状態インジケータに隣接する第3の状態インジケータ(例えば、1314b)(例えば、第2のアクセサリタイプ(例えば、第1のアクセサリタイプとは異なる)の複数のアクセサリデバイスが第3の状態にあることを示す)及び第3の状態インジケータ(例えば、1314e)に隣接する第4の状態インジケータ(例えば、1314c)(例えば、第3のアクセサリタイプ(例えば、第2のアクセサリタイプ及び第1のアクセサリタイプとは異なる)の複数のアクセサリデバイスが第4の状態にあることを示す)を表示する。いくつかの実施形態では、第1の状態インジケータ、第3の状態インジケータ、及び第4の状態インジケータは、それぞれ対応する状態インジケータ(例えば、各それぞれの状態インジケータが入っているそれぞれの状態インジケータカテゴリ)に対応するそれぞれの状態インジケータカテゴリ(例えば、アラーム(例えば、co、co2、スモーク、漏れ、アラーム)、必要なアクション(例えば、応答しないアクセサリ、アカウントエラー、低バッテリ、利用可能な更新されたもの)、重要な状態(重要なもの:ホーム温度、ドア又は窓の開放)、クイックアクション(例えば、アクセサリの状態の反転、ドアのアンロック、窓の開放、5つの光のオン、2つのファンのオンを行うカテゴリ)、センサ(例えば、湿度レベル、光レベル「34ルクス」など))に基づく順序で表示される。いくつかの実施形態では、第1の状態インジケータ、第3の状態インジケータ、及び第4の状態インジケータを順序で表示している間に、コンピュータシステムは、第5の状態インジケータが表示されるべきであるという示唆を受信し(例えば、(例えば、第1の状態インジケータ、第2の状態インジケータ、及び第3の状態インジケータによって示されるアクセサリデバイスタイプとは)異なるアクセサリデバイスタイプのうちの任意の1つ以上の状態が変更された)、並びに第5の状態インジケータが表示されるべきであるという示唆のインジケータの受信に応答して、(1)第5の状態インジケータが第1の状態インジケータカテゴリにあるという判定に従って(例えば、第1の状態インジケータと同じ状態インジケータカテゴリ)、コンピュータシステムは、第5の状態インジケータを第1の位置に表示し(例えば、第1の状態インジケータに隣接する場所)、(2)第5の状態インジケータが第2の状態インジケータカテゴリ(例えば、第1の状態インジケータカテゴリとは異なる状態インジケータカテゴリ)(例えば、第3の状態インジケータと同じ状態インジケータカテゴリ)にあるとの判定に従って、第1の場所とは異なる第2の場所(例えば、第3の状態インジケータに隣接する場所)で第5の状態インジケータを表示すること、及び(3)第5の状態インジケータが第3の状態インジケータカテゴリ(例えば、第1の状態インジケータカテゴリ及び第3の状態インジケータカテゴリとは異なる状態インジケータカテゴリ)(例えば、第4の状態インジケータと同じ状態インジケータカテゴリ)にあるとの判定に従って、第1の場所及び第2の場所とは異なる第3の場所(例えば、第4の状態インジケータに隣接する場所)で第5の状態インジケータを表示することである。それぞれのカテゴリに基づいて、状態インジケータを順序で表示することにより、特定の状態インジケータの重要性又はカテゴリに関する改善されたフィードバックをユーザに提供し、ユーザが、特定の状態インジケータが対応するカテゴリを素早く認識することを可能にする。改善された視覚的フィードバックをユーザに提供することにより、コンピュータシステムの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、コンピュータシステムは、第1のアクセサリタイプのそれぞれのアクセサリデバイスの状態の変化を検出する。いくつかの実施形態では、第1のアクセサリタイプのそれぞれのアクセサリデバイスの状態の変化の検出に応答して、それぞれのアクセサリデバイスの状態が第1の状態に変更されたとの判定に従って、コンピュータシステムは、それぞれのアクセサリデバイスを、第1の状態にある第1のアクセサリタイプ(例えば、電球、窓、スイッチ、アウトレット、ロック(例えば、ドアロック、窓ロック)、テレビ)の複数のアクセサリデバイスに追加する。いくつかの実施形態では、第1のアクセサリタイプのそれぞれのアクセサリデバイスの状態の変化の検出に応答して、それぞれのアクセサリデバイスの状態が第2の状態に変更された(又は、代替の、第1の状態ではないように変更された)との判定に従って、コンピュータシステムは、それぞれのアクセサリデバイスを、第1の状態にある第1のアクセサリタイプ(例えば、電球、窓、スイッチ、アウトレット、ロック(例えば、ドアロック、窓ロック)、テレビ)の複数のアクセサリデバイスから除去する。したがって、それぞれのタイプの追加のアクセサリがそれぞれの状態にあることが検出されると、追加のアクセサリがそれぞれの状態インジケータに追加され、それにより、追加のアクセサリは、状態インジケータをアクティブにすることによって制御され、それぞれのタイプのいくつかのアクセサリがそれぞれの状態にあることがもはや検出されないと、アクセサリがそれぞれの状態インジケータから除去され、それにより、除去されたアクセサリは、状態インジケータをアクティブにすることによって制御されない。アクセサリの状態に基づいて複数のアクセサリデバイスを更新することにより、システムは、ユーザが同じタイプ及び状態のアクセサリの状態を素早く変更することを可能にし、(例えば、押圧及び保持を介して)アクセサリに個別にアクセスすることを可能にする。表示される追加コントローラによってUIを雑然とさせることなく、システムの追加制御できるようにすることにより、システムの操作性が高められ、ユーザ−システムインタフェースを(例えば、システムを操作する/システムと対話するときに適切な入力をもたらすようにユーザを支援し、ユーザの誤りを減らすことによって)より効率的にし、加えて、ユーザがシステムをより素早くかつ効率的に使用することを有効化することによって、システムの電力使用が抑えられ、バッテリ寿命が改善される
いくつかの実施形態では、第1の状態インジケータは、第1の状態にある第1のアクセサリタイプの現在のアクセサリデバイスの数に基づいて表示される(又は更新される)多数のアクセサリデバイスの示唆を含む。いくつかの実施形態では、ジェスチャを検出する前に、第1の状態インジケータは、第1の数のアクセサリデバイス(例えば、第1のアクセサリタイプであり、第1の状態にある)の示唆を含む。いくつかの実施形態では、第1のアクセサリデバイスタイプである第10のアクセサリデバイスが第1の状態に変更されたとの判定に従って、コンピュータシステムは、第1の数のアクセサリデバイスの示唆とは異なる第2の数のアクセサリデバイス(例えば、第2のアクセサリタイプであり、第2の状態にある)の示唆を含むように、第1の状態インジケータを更新する。いくつかの実施形態では、第2のアクセサリが第1の状態に変更されていないとの判定に従って、コンピュータシステムは、第1の数のアクセサリデバイスの示唆及び第2の数のアクセサリデバイスの示唆とは異なる第3の数のアクセサリデバイスの示唆を含むように、第1の状態インジケータを更新する。いくつかの実施形態では、第2の数のアクセサリデバイスは、第1の数のアクセサリデバイスよりも多く、第3の数のアクセサリデバイスは、第1の数のアクセサリデバイス未満である。現在の数のアクセサリデバイスに基づく示唆を含む状態インジケータを表示することにより、状態インジケータによって示された状態が対応するデバイスの数をユーザが素早く認識することを可能にし、状態インジケータ上に入力されたどのくらいの数のデバイスが可能性として影響し得るかに関する改善されたフィードバックをユーザに提供する。改善された視覚的フィードバックをユーザに提供することにより、コンピュータシステムの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、ジェスチャが第1のタイプのジェスチャ(例えば、1350f)で、第1の状態インジケータ(例えば、1350h)に向けられたとの判定に従って、コンピュータシステムは、所定の時間の期間(例えば、1秒、5秒、30秒)(例えば、ジェスチャが検出された後の所定の時間の期間)の後に、第1の状態インジケータの表示を中止する(例えば、図13Gの1350hは図13Hに表示されることが中止されている)。いくつかの実施形態では、第1のタイプのジェスチャである第2のジェスチャが、第1のタイプであるジェスチャを受信した後、所定の時間の前に受信されるとの判定に従って、第1の状態インジケータの表示の中止を取り止める。いくつかの実施形態では、ジェスチャが第1のタイプのジェスチャで、第1の状態インジケータに向けられたとの判定に従い、状態インジケータが第1のカテゴリにあるとの判定に従って、コンピュータシステムは、状態インジケータによって表されるアクセサリデバイスが、第2の所定の時間の期間の後及び/又は所定の時間の期間後に、(例えば、光がオフ、ドアがロックされる、アラームがアクティブではないなど)特定の状態に変更された状態インジケータによって表されるとき、状態インジケータを表示することを中止する。いくつかの実施形態では、ジェスチャが第1のタイプのジェスチャで、第1の状態インジケータに向けられたとの判定に従い、状態インジケータが第1のカテゴリとは異なる第2のカテゴリにあるとの判定に従って、コンピュータシステムは、状態インジケータによって表されるアクセサリデバイスが、第2の所定の時間の期間の後及び/又は所定の時間の期間後に、(例えば、光がオフ、ドアがロックされる、アラームがアクティブではないなど)特定の状態に変更された状態インジケータによって表されるとき、状態インジケータを表示することを中止しない。第1のタイプのジェスチャの入力を検出した後に、状態インジケータを表示することを停止することにより、状態インジケータを介して制御されたアクセサリデバイスの状態を変更するアクションが実行されたという視覚的フィードバックをユーザに提供する。改善された視覚的フィードバックをユーザに提供することにより、コンピュータシステムの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、ジェスチャが検出されると、第1の状態インジケータ(例えば、1314h)が第1の場所で表示される。いくつかの実施形態では、ジェスチャが第1のタイプのジェスチャ(例えば、1350f)で、第1の状態インジケータ(例えば、1314h)に向けられたとの判定に従って、コンピュータシステムは、第1の場所で第1の状態インジケータ(例えば、1314h)の表示を中止し、第1の場所で第6の状態インジケータ(例えば、図13Hの1314i)(例えば、第1の状態インジケータとは異なる)を表示する。いくつかの実施形態では、第6の状態インジケータは、ジェスチャが検出される前に、第1の状態インジケータに隣接していた。いくつかの実施形態では、第1の場所で第1の状態インジケータとは異なる状態インジケータを表示することは、アニメーションを介して、第1の状態インジケータとは異なる状態インジケータを第3の場所から第1の場所へ移動させることを含む。状態インジケータの表示を停止し、第1のタイプのジェスチャの入力を検出した後にその場所に隣接する状態インジケータを表示することにより、状態インジケータを削除し、ディスプレイ上に(例えば、ディスプレイ生成構成要素を介して)新しい状態インジケータ(例えば、隣接する状態インジケータ)を表示するために必要とされる入力の数が低減される。動作を実行するために必要な入力の数を低減することにより、システムの操作性を向上させ、(例えば、システムを操作する/システムと対話するときに、適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用を低減し、システムのバッテリ寿命を改善する。
いくつかの実施形態では、ジェスチャが第1のタイプのジェスチャ(例えば、1350i)で、第1の状態インジケータ(例えば、1314h)に向けられたとの判定に従って、コンピュータシステムは、第1の状態インジケータが、第1のアクセサリタイプの複数のアクセサリデバイスが状態を変更したこと(例えば、第1の状態ではない、第2の状態(例えば、又は第1の視覚的見掛けとは異なる第2の視覚的見掛けで表示される))を示すために、第1のアクセサリタイプの複数のアクセサリデバイスが第1の状態(例えば、又は第1の視覚的見掛けで表示されている)にあることを示すことから変更されるように、第1の状態インジケータを視覚的に更新する(例えば、図13Gの1314h)。いくつかの実施形態では、第1の状態インジケータは、視覚的に更新された後の所定の時間の期間、表示を中止する。いくつかの実施形態では、ジェスチャが第2のタイプのジェスチャ(又は、第3のタイプのジェスチャ)で、第1の状態インジケータに向けられたとの判定に従って、コンピュータシステムは、第1のアクセサリタイプの複数のアクセサリデバイスが第2の状態にあることを示す(及び/又は第1の状態インジケータを維持する(例えば、第1のアクセサリタイプの複数のアクセサリデバイスが第1の状態にあることを示すように))第1の状態インジケータを更新することを取り止める。第1のタイプのジェスチャの入力を検出した後に、複数のアクセサリデバイスが状態を変化したことを示す状態インジケータを更新することにより、状態インジケータを介して制御されたアクセサリデバイスの状態を変更するアクションが実行されたという視覚的フィードバックをユーザに提供する。改善された視覚的フィードバックをユーザに提供することにより、コンピュータシステムの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、第1の状態インジケータ(例えば、1314h)は、第1のユーザインタフェース(例えば、710)上に表示される。いくつかの実施形態では、コンピュータシステムは、第1のユーザインタフェース(例えば、710)とは異なる第2のユーザインタフェース(例えば、1360)を表示する要求(例えば、1350h)を(例えば、第1のユーザインタフェース上に第1の状態インジケータを表示する間に)受信する。いくつかの実施形態では、第2のユーザインタフェースを表示する要求(例えば、1350h)の受信に応答して、コンピュータシステムは、第1のアクセサリタイプの1つ以上のアクセサリデバイスが第1の状態にあることを示す状態インジケータ(例えば、図13Iの1350i)を含む第2のユーザインタフェース(例えば、1360)を表示し、ここで、第2のユーザインタフェース(例えば、1360)(例えば、現在表示されているユーザインタフェース)が第1のグループのアクセサリデバイス(例えば、部屋(例えば、建物(例えば、ホーム)の一部(例えば、部屋(例えば、寝室、リビングルーム、オフィス、ガレージ)、ポーチ)を表すグループに指定されたデバイスのグループ)に対応し、及び第1のアクセサリデバイスが第1のグループのアクセサリデバイス(例えば、第1のアクセサリデバイスが第1の状態にある間)に対応するとの判定に従って、第1のアクセサリタイプの1つ以上のアクセサリデバイスは、第1のアクセサリデバイスを含み、第2のユーザインタフェース(例えば、1360)(例えば、現在表示されているユーザインタフェース)は、第1のグループのアクセサリデバイスに対応し、第1のアクセサリデバイスは第1のグループのアクセサリデバイスに対応せず(例えば、第1のアクセサリデバイスが第1の状態にある間)、第1のアクセサリタイプの1つ以上のアクセサリデバイスは、第1のアクセサリデバイスを含まない。いくつかの実施形態では、第2のユーザインタフェースを表示する要求の受信に応答して、コンピュータシステムは、第1のユーザインタフェースを含む第1のユーザインタフェースの表示を中止する。特定の予め定められた条件が満たされたときに、複数のデバイスの状態を示す状態インジケータを表示すること(例えば、状態を含むユーザインタフェースがアクセサリデバイスのグループに対応するかどうか、及び状態インジケータに関連する特定のデバイス(例えば、同じ状態及びアクセサリタイプ)がアクセサリデバイスのグループに対応するかどうか)により、アクセサリデバイスの特定のグループに対応するユーザインタフェースに関連する複数のデバイスを示す状態インジケータがユーザに自動的に提供される。更なるユーザ入力を必要とせずに条件の1組が満たされたときに動作を実行することにより、システムの操作性が高められ、ユーザ−システムインタフェースを(例えば、システムを操作する/システムと対話するときに適切な入力をもたらすようにユーザを支援し、ユーザの誤りを減らすことによって)より効率的にし、加えて、ユーザがシステムをより素早くかつ効率的に使用することを有効化することによって、システムの電力使用が抑えられ、バッテリ寿命が改善される。状態を含むユーザインタフェースが、アクセサリデバイスのグループに対応するかどうか、及び状態インジケータに関連する特定のデバイス(例えば、同じ状態及びアクセサリタイプ)が、アクセサリデバイスのグループに対応するかどうかに基づく、複数のデバイスの状態の状態インジケータを表示することにより、表示されている特定のユーザインタフェースに関連するデバイスを示す状態インジケータに関する視覚フィードバックがユーザに提供される。改善された視覚的フィードバックをユーザに提供することにより、コンピュータシステムの操作性を向上させ、(例えば、コンピュータシステムを操作する/コンピュータシステムと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−システムインタフェースをより効率的にし、加えて、ユーザがコンピュータシステムをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、コンピュータシステムのバッテリ寿命を改善する。
いくつかの実施形態では、ジェスチャ(例えば、1350a〜1350c及び1350f)を検出する前に、第3のアクセサリタイプの1つ以上のアクセサリデバイスが第7の状態(例えば、オン/オフ、開放、閉鎖)にあることを示す第8の状態インジケータが表示される。いくつかの実施形態では、1つ以上のアクセサリデバイスは、第3のアクセサリタイプの第8のアクセサリデバイスを含む。いくつかの実施形態では、ジェスチャ(例えば、1350f、1350i)が第2のタイプのジェスチャ(例えば、押圧及び保持ジェスチャ)で、第8の状態インジケータ(例えば、1314h)に(例えば、対応する場所で)向けられたとの判定に従い、第8の状態インジケータ(例えば、図13Iの1314h)が第7の状態にある(例えば、第3のアクセサリタイプの1つのアクセサリのみが第7の状態にある)第3のアクセサリタイプのアクセサリデバイスの所定の数未満(例えば、2未満)に対応する(及び/又は示す)との判定に従って、コンピュータシステムは、第8のアクセサリデバイスに対応する第8のアクセサリ制御ユーザインタフェースオブジェクト対象(例えば、1318)(例えば、第9のアクセサリ制御ユーザインタフェースオブジェクト対象よりも高い制御及び/又は精細度を有する)を表示する。いくつかの実施形態では、第8のアクセサリ制御ユーザインタフェースオブジェクト対象の選択により、第8のアクセサリデバイスを、第8の状態(例えば、80%の輝度、20%の輝度、40%の開放、20%の開放、第7の状態とは完全に反対ではない状態、第7の状態に対応する特性(例えば、オン/オフ)よりもデバイスによって表され得る異なる特性に対応する状態(例えば、光の色(例えば、青色、赤色、緑色、黄色、白色))に変更させる。いくつかの実施形態では、ジェスチャ(例えば、1350f、1350i)が第2のタイプのジェスチャ(例えば、押圧及び保持ジェスチャ)で、第8の状態インジケータ(例えば、1314h)に(例えば、対応する場所で)向けられたとの判定に従い、第8の状態インジケータ(例えば、図13Iの1314h)が第7の状態にある第3のアクセサリタイプのアクセサリデバイスの所定の数以上(例えば、2以上)に対応する(及び/又は示す)との判定に従って、コンピュータシステムは、第8のアクセサリデバイスに対応する第9のアクセサリ制御ユーザインタフェースオブジェクト対象(例えば、例えば、718hのように制御)を表示する。いくつかの実施形態では、第9のアクセサリ制御ユーザインタフェースオブジェクト対象を選択により、第8のアクセサリデバイスを(例えば、第8のアクセサリ制御ユーザインタフェースオブジェクト対象を表示せずに)第8の状態とは異なる第9の状態(例えば、オン/オフ、開放/閉鎖、第7の状態とは反対の状態)に変更させる。いくつかの実施形態では、第8のアクセサリデバイスに対応するアクセサリユーザインタフェース制御オブジェクト対象の数は、第8の状態インジケータが、第3のアクセサリタイプの所定の数未満(例えば、2)が第7の状態にあることを示すとの判定が行われる場合よりも、第8の状態インジケータが、第3のアクセサリタイプの所定の数未満(例えば、2)が第7の状態にあることを示すとの判定が行われる場合の方が大きい。いくつかの実施形態では、第8のアクセサリ制御ユーザインタフェースオブジェクト対象は、第9のアクセサリ制御ユーザインタフェースオブジェクト対象よりも大きい。選択されたとき、状態インジケータによって表される制御の数に基づいて、アクセサリデバイスを異なるように変更する制御を表示することにより、デバイスは、UIを乱すことなく、いくつかの状況で追加の又は異なる制御を提供することが可能になる。表示される追加コントローラによってUIを雑然とさせることなく、システムの追加制御できるようにすることにより、システムの操作性が高められ、ユーザ−システムインタフェースを(例えば、システムを操作する/システムと対話するときに適切な入力をもたらすようにユーザを支援し、ユーザの誤りを減らすことによって)より効率的にし、加えて、ユーザがシステムをより素早くかつ効率的に使用することを有効化することによって、システムの電力使用が抑えられ、バッテリ寿命が改善される。
いくつかの実施形態では、単一のアクセサリデバイスに対応するそれぞれの状態インジケータ(例えば、第8の状態インジケータ)に従って、それぞれの状態インジケータは、アクセサリデバイスの名前(例えば、英数字文字)を含む。複数のアクセサリデバイスに対応するそれぞれの状態インジケータ(例えば、第8の状態インジケータ)に従って、それぞれの状態インジケータは、表されるアクセサリデバイスの数の示唆(例えば、数字表現)を含む。
いくつかの実施形態では、コンピュータシステムは、別のタイプの状態インジケータ(例えば、1314a〜1314f及び1314j〜1314l)(例えば、気候制御、センサ(例えば、異なるタイプのセンサが単一の状態インジケータで組み合わされてもよい))上のタップを検出し、タップの検出に応答して、他のタイプの状態インジケータに関連する複数のタイプのデバイスを制御するためのユーザインタフェース(例えば、1382、1384、1386)を表示する。いくつかの実施形態では、デバイス700は、タップを検出した後に、他のタイプの制御を表示することを中止しない。
方法1400に関して上述したプロセス(例えば、図14)の詳細はまた、上述した方法にも類似の方式で適用可能であることに留意されたい。例えば、方法1400は、任意選択的に、方法800及び1000に関して前述した様々な方法の特性のうちの任意の1つ以上を含む。別の例では、方法800で送信された音声メッセージは、方法1400に関連して上述したように、変更又はより多くの状態インジケータであり得る。簡潔にするために、これらの詳細は、以下で繰り返さない。
図15A〜15Fは、いくつかの実施形態に係る、音声メッセージを再生するための例示的なユーザインタフェースを示す。これらの図のユーザインタフェースは、図16のプロセスを含む後述のプロセスを例示するために使用される。
図15Aは、アフォーダンス704を含むユーザインタフェース702を表示するデバイス700を示す。図15Aに示すように、マルチキャスト通知1502は、ユーザインタフェース702の一部の上に表示される。マルチキャスト通知1502は、音声マルチキャストメッセージがジョン及び3人の他者から、デバイス700を含む、ホーム602に指定されたデバイスのグループに送信されたことを示す。換言すれば、デバイス700がホーム602に指定されているため、デバイス700は、ジョン及び3人の他者から音声マルチキャストメッセージを受信している。マルチキャスト通知1502は、再生表現1504を含む。いくつかの実施形態では、再生表現1504は選択可能である。いくつかの実施形態では、マルチキャスト通知1502は、上述の他のマルチキャストメッセージ(例えば、マルチキャスト通知708a、マルチキャスト通知708、マルチキャスト通知904、マルチキャスト通知906a、マルチキャスト通知906b、マルチキャスト通知908a、マルチキャスト通知908b、マルチキャスト通知908c、マルチキャスト通知910)に関連して上述したように、1つ以上の特徴を含むことができる。いくつかの実施形態では、上記の他のマルチキャストメッセージは、マルチキャスト通知1502の1つ以上の特徴(例えば、再生表現1504)を含み得る。図15Aでは、デバイス700は、マルチキャスト通知1502上でタップジェスチャ1550aを検出する。
図15B〜15Fは、(例えば、自動的に)音声マルチキャストメッセージを再生するための例示的なユーザインタフェースを示す。いくつかの実施形態では、図15B〜15Fに関連して説明されるユーザインタフェースは、9I〜9Jのユーザインタフェース及び/又は9M〜9Pのユーザインタフェースなどの、上記の1つ以上のユーザインタフェースの代わりに表示することができる。
図15Bに示すように、タップジェスチャ1550aの検出に応答して、デバイス700は、ユーザインタフェース702の一部にオーバーレイされたユーザインタフェース1520を表示し、(例えば、タップジェスチャ1550aを検出した後にユーザ入力を介在させることなく)、現在の送信者示唆1322aによって示されるように、ジョンから受信した音声マルチキャストメッセージの再生を開始する。いくつかの実施形態では、音声の再生を開始する一部として、デバイス700は、デバイス700に電子的に結合された1つ以上のスピーカを介して音声を出力する。
図15Bに示すように、ユーザインタフェース1520は、ホーム602に関連付けられたデバイスのグループに送信された音声マルチキャストメッセージが再生されていることを示す、マルチキャストホーム識別子1532を含む。ユーザインタフェース1520はまた、マルチキャスト記録アフォーダンス736、現在の送信者示唆1522a、グラフィカル送信者示唆1524、及びカウント示唆930を含む。いくつかの実施形態では、デバイス700は、上述のマルチキャスト記録アフォーダンス736、現在の送信者示唆922a〜922b、グラフィカル送信者示唆924a〜924b、及びカウント示唆930を考慮して、それぞれ、表示及び動作するために使用する、マルチキャスト記録アフォーダンス736、現在の送信者示唆1522a、グラフィカル送信者示唆1524、及びカウント示唆930を考慮して表示及び動作するために、デバイス700は上述の1つ以上の技術を使用する。
図15Aを再び見ると、通知1502は、4つの音声マルチキャストメッセージが受信され(例えば、「ジョン及び3人の他者」)、再生されたことを示している。したがって、図15Bでは、ユーザインタフェース1520は、受信メッセージの一部に対応するグラフィカル送信者示唆1524を含む。図15Bでは、グラフィカル送信者示唆1524は、グラフィカル送信者示唆1524a〜1524cを含む。グラフィカル示唆1524aは、「ジョン」から受信した、第1の音声マルチキャストメッセージに対応する。グラフィカル示唆1524bは、第1の音声マルチキャストメッセージの後に受信された(又は送信された)第2の音声マルチキャストメッセージに対応する。グラフィカル示唆1524cは、第2の音声マルチキャストメッセージの後に受信された(又は送信された)第3の音声マルチキャストメッセージに対応する。特に、図15Aでは、ユーザインタフェース1520は、所定の数(例えば、3)のグラフィック示唆が同時に表示されるべきであると判定されたため、第4の音声マルチキャストメッセージに対応するグラフィカル示唆を含まない。
グラフィカル示唆1524a〜1524cは、異なる表現を図示するグラフィカル示唆1524a〜1524cによって示される、異なるユーザ(又はデバイス)によって送信された、異なるマルチキャストメッセージに対応する。グラフィカル示唆1524aは、第1の音声マルチキャストメッセージの送信者(例えば、「ジョン」)(例えば、判定された送信者)の視覚的表現を含む。グラフィカル示唆1524bは、第2の音声マルチキャストメッセージを記録したデバイス(例えば、スピーカ)の視覚的表現を含む。グラフィカル示唆1524cは、第3の音声マルチキャストメッセージの送信者(例えば、「エマアップルシード(Emma Appleseed)」を表す「EA」で、図7ABに示すようにホーム602に関連付けられた人物)に対応する文字の視覚的表現を含む。グラフィカル示唆1524bは、第2の音声マルチキャストメッセージを生成した人物が判定され得ないため、送信者の視覚的表現の代わりにデバイスの視覚的表現を含む。グラフィカル示唆1524cは、デバイス700がユーザの視覚的表現(例えば、エミリー)へのアクセスを有さないため、ユーザの視覚的表現の代わりに文字の視覚的表現を含む。いくつかの実施形態では、複数のグラフィカル示唆は、グラフィカル示唆に対応する音声マルチキャストメッセージが同じ送信者によって送信されたとの判定が行われると、同じ視覚的表現を含む。
図15Bに示されるように、グラフィカル示唆1524aは、ユーザインタフェース1520上に表示された最大のグラフィカル示唆であり、音声示唆1524a1(例えば、グラフィカル示唆1524aを取り囲む円)と共に表示される。現在の送信者示唆1522aによって示すように、ジョンからの第1の音声マルチキャストメッセージは、現在再生されている。したがって、グラフィカル示唆1524aは、最大のグラフィック表現であり、ジョンからの音声マルチキャストメッセージが現在再生されていることを示す音声示唆1524a1と共に表示される。いくつかの実施形態では、音声示唆1524a1は動的であり、再生されている第1の音声マルチキャストメッセージに従ってサイズが変化する。グラフィカル示唆1524bは、第2の音声マルチキャストメッセージが、デバイス700によって再生されるキューの次の音声マルチキャストメッセージであるため、ユーザインタフェース1520上に表示される第2の最大のグラフィカル示唆である。グラフィカル示唆1524cは、第3の音声マルチキャストメッセージが、第2の音声マルチキャストメッセージの後にデバイス700によって再生されるキューの次の音声マルチキャストメッセージであるため、ユーザインタフェース1520上に表示される第3の最大のグラフィカル示唆である。図15Bでは、デバイス700は、第1の音声マルチキャストメッセージが所定の時間の期間内に終了する(例えば、0秒、1秒)(又は次のメッセージ(例えば、第2のメッセージ)が所定の時間の期間内に開始する)と判定する。
第1の音声マルチキャストメッセージが所定の時間の期間内に終了する(又は終了した)と判定することに応答して(例えば、スキップアフォーダンス1534上のタップジェスチャに基づいて、ユーザ入力なしで)、デバイス700は、グラフィカル示唆1524b〜1524cを反時計回りに回転させ、グラフィカル示唆1524aの表示を中止する。図15Cに示すように、第1の音声マルチキャストメッセージが所定の時間の期間内に終了する(又は終了した)との判定に応答して、グラフィカル示唆1524bは、グラフィック表現1524aが図15Bに以前に表示された場所に表示され、グラフィカル示唆1524cは、グラフィック表現1524bが図15Bに以前に表示された場所に表示される。図15Cに示すように、グラフィカル示唆1524aは、グラフィック示唆1524bが図15Bに以前に表示された同じサイズで表示され、グラフィカル示唆1524cは、グラフィカル示唆1524bが図15Bに以前に表示された同じサイズで表示される。
図15Cに示すように、現在の送信者示唆1522bは、図15Bに以前に表示された、現在の送信者示唆1522aに置き換えられている。したがって、図15Cでは、図15Cのユーザインタフェース1520が表示される時間によって第1の音声マルチキャストメッセージの再生が完了しているため、デバイス700は現在、第2の音声マルチキャストメッセージを再生している。図15Cに示すように、ここで、グラフィカル示唆1524bは、音声示唆1524a1に関連して上述したものと類似の技術を使用して表示される、音声示唆1524b1と共に表示される。図15Cに示すように、グラフィカル示唆1524cは、デバイス700が現在、第3の音声マルチキャストメッセージ(例えば、グラフィカル示唆1524cに対応する音声マルチキャストメッセージ)を現在出力していないので、グラフィカル示唆1524cを取り囲む音声示唆を有さない。いくつかの実施形態では、デバイス600は、15Bのユーザインタフェース1520の表示と図15Cのユーザインタフェース1520の表示の間で遷移している間に、グラフィカル示唆1524b〜1524cのサイズを徐々に増大させるアニメーションを表示する。
図15Cに示すように、デバイス700は、グラフィカル示唆1524a(例えば、第1の音声マルチキャストメッセージが終了した)を表示することを中止しているので、デバイス700は、ジェーンによって送信された第4の音声マルチキャストメッセージに対応する、(図15Eの現在の送信者示唆1522dによって示すように)グラフィカル示唆1524dを新たに表示する。グラフィカル示唆1524dは、図15Bのグラフィカル示唆1524cと同じサイズで、同じ場所に表示される(例えば、グラフィカル示唆1524dは、ここで音声再生のキューで第2であるため)。図15Cでは、デバイス700は、第2の音声マルチキャストメッセージが所定の時間の期間内に終了する(例えば、0〜1秒)(又は次のメッセージ(例えば、第3の音声マルチキャストメッセージ)が所定の時間の期間内に開始する)(又は終了した)と判定する。
第2の音声マルチキャストメッセージが所定の時間の期間内に終了する(又は終了した)と判定することに応答して、デバイス700は、グラフィカル示唆1524c〜1524dを反時計回りに回転させ、グラフィカル示唆1524bの表示を中止する。図15Dに示すように、第2の音声マルチキャストメッセージが所定の時間の期間内に終了するとの判定に応答して、グラフィカル示唆1524cは、グラフィック表現1524bが図15Cに以前に表示された場所及びサイズで表示され、グラフィカル示唆1524dは、グラフィック表現1524cが図15Cに以前に表示された場所及びサイズで表示される。
図15Dに示すように、現在の送信者示唆1522cは、図15Cに以前に表示された、現在の送信指示1522bに置き換えられている。したがって、図15Dでは、図15Dのユーザインタフェース1520が表示される時間によって第2の音声マルチキャストメッセージの再生が完了しているため、デバイス700は現在、第3の音声マルチキャストメッセージを再生している。デバイス700は、第2の音声マルチキャストメッセージの再生の終了後の所定の時間の期間に、入力の介在なしに、第3の音声マルチキャストメッセージを自動的に再生する。いくつかの実施形態では、デバイス700は、再生されるマルチキャストメッセージ間で所定のサウンド(例えば、チャイム、バズ、階調)を再生する。例えば、デバイス700は、第2の音声マルチキャストメッセージの再生を自動的に開始する前に第1のサウンドを再生することができ、第3の音声マルチキャストメッセージの再生を自動的に開始する前に、第2のサウンド(例えば、同じチャイム)を再生することができる。いくつかの実施形態では、デバイス600は、所定のサウンドを再生している間(その後又は前に)、ユーザインタフェースを遷移する(例えば、図15Cのユーザインタフェース1520を図15Dのユーザインタフェース1520に遷移する)。いくつかの実施形態では、図15Cのスキップアフォーダンス1534上の入力の検出に応答して、デバイス700は、第2の音声メッセージの再生(例えば、図15Cで再生されている)を終了し(第2の音声メッセージの端部に到達する前に)、第3の音声メッセージの再生を開始し、ユーザインタフェースを遷移する(例えば、図15Cのユーザインタフェース1520を図15Dのユーザインタフェース1520に遷移する)。図15Dでは、デバイス700は、第3の音声マルチキャストメッセージが所定の時間の期間内に終了する(例えば、0〜1秒)(又は次のメッセージ(例えば、第4の音声マルチキャストメッセージ)が所定の時間の期間内に開始する)(又は終了した)と判定する。
第3の音声マルチキャストメッセージが所定の時間の期間内に終了する(又は終了した)と判定することに応答して、デバイス700は、グラフィカル示唆1524dを移動させ(例えば、の位置を変更して)、反時計回りに拡大し、グラフィカル示唆1524cの表示を中止する。図15Eに示すように、グラフィカル示唆1524dは、唯一の表示されたグラフィカル示唆であるため、デバイス700は、グラフィカル示唆1524dのサイズを、グラフィカル示唆1524cが以前に表示されたサイズよりも大きいサイズに増大させる。いくつかの実施形態では、グラフィカル示唆1524dは、図15Bのグラフィカル示唆1524aの場所と比較して、図15Eの異なる場所(例えば、1524の中心に)で表示される。図15Eに示すように、現在の送信者示唆1522dは、図15Dに以前に表示された、現在の送信指示1522cに置き換えられている。したがって、図15Eでは、図15Eのユーザインタフェース1520が表示される時間によって第3の音声マルチキャストメッセージの再生が完了したことから、デバイス700は現在、第4の音声マルチキャストメッセージ(例えば、グラフィカル示唆1524dに対応する音声マルチキャストメッセージ)を再生している。デバイス700は、第3の音声マルチキャストメッセージの再生の終了後(例えば、第3の音声マルチキャストメッセージが終了してから)の所定の時間の期間に、入力の介在なしに、第4の音声マルチキャストメッセージを自動的に再生する。
図15Fに示すように、第4の音声メッセージの再生が終了したと判定した後に、デバイス700は、追加のメディア(又はマルチキャスト音声メッセージ)を再生することなく、グラフィカル示唆1524a〜1524cを含むようにユーザインタフェース1520を更新する。グラフィカル示唆1524a〜1524cを再表示することに加えて、デバイス700は再生アフォーダンス926を表示する。いくつかの実施形態では、再生アフォーダンス926上でタップジェスチャ1550f1を検出したことに応答して、デバイス700は、第1の音声マルチキャストメッセージの再生を開始し、図15B〜15Eに記載されたフローを繰り返す。いくつかの実施形態では、マルチキャストアフォーダンスマルチキャスト記録アフォーダンス736上でタップジェスチャ1550f2(又は、押圧及び保持ジェスチャ)を検出することに応答して、デバイス700は、(例えば、マルチキャスト音声メッセージ(例えば、第1、第2、第3、第4の音声マルチキャストメッセージ)が送信されたデバイスのグループに返信するために)ホーム602に関連付けられたデバイスのグループに音声メッセージを記録し、送信するためのユーザインタフェースを表示する。したがって、いくつかの実施形態では、デバイス700は、マルチキャスト記録アフォーダンス736上でのタップジェスチャの検出に応答して、図7C1のユーザインタフェース741、図7Cのユーザインタフェース730、又は図7Dのユーザインタフェース740を表示する。いくつかの実施形態では、マルチキャスト記録アフォーダンス736上のタップジェスチャは、端部記録入力(例えば、別のタップジェスチャ)が検出されるまで音声録音を開始する。端部記録入力が検出されると、記録された音声メッセージは、デバイスのグループに送信される。いくつかの実施形態では、マルチキャスト記録アフォーダンス736上で、押圧及び保持ジェスチャが検出される。押圧及び保持ジェスチャが検出されると、音声記録が開始される。押圧及び保持ジェスチャの端部(例えば、リフトオフ)が検出されると、音声記録が終了し、記録された音声メッセージがデバイスのグループに送信される。いくつかの実施形態では、図15B〜15Eのユーザインタフェースのうちのいずれかでマルチキャスト記録アフォーダンス736のアクティブ化(例えば、タップジェスチャ、タップアンドホールドジェスチャ)を検出することにより、現在の再生メッセージの再生を停止させ、デバイスのグループに送信するために音声メッセージを記録するためのプロセスを開始させる。
図16は、いくつかの実施形態に係る、コンピュータシステムを使用して音声メッセージを再生するための方法を示すフロー図である。方法1600は、ディスプレイ生成構成要素(例えば、一体型ディスプレイ、接続されたディスプレイ)及び1つ以上の入力デバイス(例えば、タッチ感知面)と通信するコンピュータシステム(例えば、100、300、500、634、674、700、701、850)で実行される。方法1600のいくつかの動作は、任意選択的に組み合わされ、いくつかの動作の順序は、任意選択的に変更され、いくつかの動作は、任意選択的に省略される。
後述するように、方法1600は、メディアコンテンツを再生するための直観的方法を提供する。本方法は、メディアメッセージを再生するユーザの認識的負担を軽減し、それにより、より効率的なヒューマン−マシンインタフェースを作成する。バッテリ動作式コンピューティングデバイスの場合、ユーザがより高速かつ効率的にメディアコンテンツを再生することを有効化することで、電力を節約し、バッテリ充電間の時間を延ばす。
コンピュータシステム(例えば、700)は、ディスプレイ生成構成要素を介して、メディアユーザインタフェース(例えば、1520)を表示し(1602)、それには、第1の場所で、第1のメディアメッセージ(例えば、音声メディア、視覚的メディア、オーディオビジュアルメディア)の第1の表現(1604)(例えば、図15Bの1524a)、及び第1の場所とは異なる第2の場所で、第2のメディアメッセージの第2の表現(1606)(例えば、図15Bの1524b)が含まれる。いくつかの実施形態では、メディアユーザインタフェースは、メディアのグループ(例えば、メディアのグループが順序付けられた1組にある)の複数の(例えば、いくつかの、全てではない)メディアメッセージの表現を含む。
メディアユーザインタフェースを表示したこと、及びメディアユーザインタフェース(例えば、1520)に対応するユーザ入力に基づいていないことに応答して、コンピュータシステム(例えば、700)は、第1のメディアメッセージを再生する(1608)(例えば、第1のメディアメッセージの音声及び/又はビデオを出力する)。
第1のメディアメッセージの再生の完了(例えば、第1のメディアメッセージの端部まで再生することによって第1のメディアメッセージの端部に到達したこと)の検出に応答して、コンピュータシステム(例えば、700)は、ディスプレイ生成構成要素を介して、(例えば、図15Cのような)第1のメディアメッセージに対応する表現(例えば、1524a)(例えば、任意の表現)を表示することなく、(例えば、図15Cのような)第2のメディアメッセージの第2の表現(例えば、1524b)を表示する(1610)。
異なる場所で様々なメディアメッセージの表現を表示することは、ユーザに、メディアメッセージの順序に関するフィードバック、そして例えば、どのメディアメッセージが現在再生中で、どのメディアメッセージが次に再生するかを提供する。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、複数の(例えば、いくつかの、全てではない、3つの)メディアメッセージの表現は、順序付けられた1組の順序に基づいて様々なサイズで表示される。いくつかの実施形態では、より早くメディアメッセージが順序付けられた1組にあると、対応するメディアメッセージの表現はより大きくなる(例えば、現在再生しているメディアメッセージの表現は最大であり、次に再生されるメディアメッセージの表現はその次に最大であるなど)。したがって、メディアメッセージの順序は、それらの対応する表示描像の比較サイズで反映される。
いくつかの実施形態によれば、第1のメディアメッセージ(例えば、音声メディア、視覚的メディア、オーディオビジュアルメディア)の第1の表現(例えば、図15Bの1524a)を第1の場所で表示することは、第1のメディアメッセージ(例えば、音声メディア、視覚的メディア、オーディオビジュアルメディア)の第1の表現(例えば、1524a)を第1の場所及び第1のサイズ(例えば、図15Bのように)で表示することを含む。いくつかの実施形態によれば、第2の場所での第2のメディアメッセージの第2の表現(例えば、図15Bの1524b)を表示することは、第2の場所及び(例えば、図15Bのように)第1のサイズとは異なる(例えば、より小さい)第2のサイズで第2のメディアメッセージの第2の表示(例えば、1524b)を表示することを含む。
異なるサイズで様々なメディアメッセージの表現を表示することは、ユーザに、メディアメッセージの順序に関するフィードバック(例えば、順序付けられた1組でサイズが大きいほどより早い)、そして例えば、どのメディアメッセージが現在再生中で、どのメディアメッセージが次に再生するかを提供する。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態によれば、コンピュータシステム(例えば、700)は、ディスプレイ生成構成要素を介して、第1の場所での第1のメディアメッセージの第1の表現及び第2の場所での第2のメディアメッセージの第2の表現と同時に、第1のサイズとは異なる(及び、任意選択的に、第2のサイズとは異なる)第3のサイズ(例えば、第2のサイズと同じ、第2のサイズより小さい)及び第1の場所及び第2の場所とは異なる第3の場所で、第3のメディアメッセージの第3の表現(例えば、1524c)を表示する。第1のメディアメッセージの再生の完了(例えば、第1のメディアメッセージの端部まで再生することによって第1のメディアメッセージの端部に到達したこと)の検出に応答して、コンピュータシステム(例えば、700)は、ディスプレイ生成構成要素を介して、第1のメディアメッセージの第1の表現(例えば、1524a)を表示することなく、第1のサイズ及び第1の場所で、(例えば、図15Cのような)第2のメディアメッセージの第2の表現(例えば、1524b)を表示し、コンピュータシステム(例えば、700)は、第2のサイズ及び第2の場所で、(例えば、図15Cのような)第3のメディアメッセージの第3の表現(例えば、1524c)を表示する。
異なる場所及び異なるサイズで様々なメディアメッセージの表現を表示することにより、再生されるべきメディアメッセージの順序に関するフィードバックがユーザに提供される。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態によると、コンピュータシステム(例えば、700)は、第1のリモートユーザからの(例えば、コンピュータシステムを含む、デバイスの目標グループ(例えば、ホームの複数のデバイス(例えば、ホーム自動化システム))に向けられた)第1の(例えば、音声)メッセージである第1のメディアメッセージ、及び第1のリモートユーザとは異なる第2のリモートユーザからの(例えば、コンピュータシステムを含む、デバイスの目標グループ(例えば、ホームの複数のデバイス(例えば、ホーム自動化システム))に向けられた)第2の(例えば、音声)メッセージである第2のメディアメッセージを含む、メディアメッセージ(例えば、メディアのグループ、第1、第2、第3、及び第4のメディアメッセージ)に対応するデータ(第1、第2、第3、第4のデータ)を(例えば、無線ネットワークを介して)受信する。コンピュータシステム(例えば、700)は、ディスプレイ生成構成要素を介して、メディアメッセージに対応する通知(例えば、1502)を(例えば、(更に詳細に上述しているように)時間周期の端部までデータの受信に応答して)表示する。通知(例えば、1502)を表示している間に、コンピュータシステム(例えば、700)は、1つ以上の入力デバイスを介して、通知(例えば、ロックスクリーン上に表示された通知のアクティブ化、メディアのグループに対応する通知、メディアのグループが順序付けられた1組にある)の選択(例えば、1550a)を受信する。いくつかの実施形態では、メディアユーザインタフェースを表示することが、通知(例えば1502)の選択(例えば、1550a)の受信に応答して発生する。いくつかの実施形態では、第1のメディアメッセージを再生することが、通知(例えば1502)の選択(例えば、1550a)の受信に応答して発生する。
メディアユーザインタフェースを表示し、通知の選択に応答して第1のメディアメッセージを自動的に再生することによって、同じ入力に応答して、コンピュータシステムが2つの機能(表示及び再生)を実行することが可能になり、それによって、コンピュータシステムが再生を開始するために追加の入力を受信する必要性を低減する。動作を実行するために必要な入力の数を低減することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに、適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用を低減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、第1の表示(例えば、1524a)、第2の表現(例えば、1524b)、及び第3の表現(例えば、1524c)は、1つの線に表示されない(例えば、第1、第2、及び第3の場所は全て1つの線上にあるとは限らない)。いくつかの実施形態では、表示されるメディアの表現は、(例えば、表現が削除され、新しい表現が追加されると)1行に表示されない。
別の実施形態によると、第1のサイズは、第2のサイズよりも大きい。いくつかの実施形態では、第2のサイズは、第3のサイズより大きい。いくつかの実施形態では、第2のサイズ及び第3のサイズは、同じサイズである。いくつかの実施形態では、現在再生しているメディアファイルの表現(例えば、図15Bの1524a、図15Cの1524b)は、メディアメッセージの複数の他の(例えば、全て)表示描像のサイズよりも大きいサイズで表示される。
様々なメディアメッセージの表現を、ますます大きいサイズで表示することにより、メディアメッセージの順序に関するフィードバックがユーザに提供される。例えば、対応するメディアメッセージがより早ければ、表現がより大きくなることは、メディアメッセージの順序付けられた1組にあり、(例えば)最大表現は現在再生中のメディアアイテムである。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態によれば、第1のメディアメッセージの再生の完了(例えば、第1のメディアメッセージの端部まで再生することによって第1のメディアメッセージの端部に到達すること)を検出したことに応答して、更なるユーザ入力を受信(又は必要と)することなく、第2のメディアメッセージを再生する(例えば、第2のメディアの音声及び/又はビデオを出力する)。いくつかの実施形態では、第2のメディアメッセージは、第1のサイズ及び第1の場所で、第2のメディアメッセージの第2の表現を表示することと共に再生される。
第1のメディアメッセージの完了に応答して第2のメディアメッセージを自動的に再生することにより、コンピュータシステムが第2のメディアメッセージの再生を開始するために追加の入力を受信する必要がなくなる。動作を実行するために必要な入力の数を低減することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに、適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用を低減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、第2のメディアメッセージの再生の完了を検出したことに応答して(例えば、第2のメディアメッセージの端部に到達した、第1のメディアの残りをスキップする)、コンピュータシステムは、更なるユーザ入力を受信(又は必要と)することなく、第3のメディアメッセージを再生する(例えば、第3のメディアメッセージの音声及び/又はビデオを出力する)。いくつかの実施形態では、第3のメディアメッセージは、第1のサイズ及び第1の場所で、第3のメディアメッセージの第3の表現を表示することと共に再生される。いくつかの実施形態では、第5のメディアの第5の表現は、第2のメディアメッセージの再生の完了を検出した後には表示されない。
いくつかの実施形態によると、第1のメディアメッセージの再生の完了を検出する前に、第4のメディアメッセージ(例えば、音声メディア、視覚的メディア、オーディオビジュアルメディア)の第4の表現(例えば、1524d)は、第1のメディアの第1の表示と同時に表示されない(例えば、図15Bに示すように、メディアユーザインタフェース内に)。第1のメディアメッセージの再生の完了(例えば、第1のメディアメッセージの端部まで再生することによって第1のメディアメッセージの端部に到達したこと)の検出の後(例えば、応答して)、(いくつかの実施形態では、第1のメディアメッセージの再生の完了の検出に応答して)、コンピュータシステム(例えば、700)は、ディスプレイ生成構成要素を介して、(例えば、メディアユーザインタフェース(例えば、1520)の)第4のメディアメッセージの第4の表現(例えば、1524d)を(例えば、第3のサイズ及び第3の場所で)表示する(いくつかの実施形態では、第4のメディアメッセージは、メディアメッセージの第2及び第3の表現と同時に表示される)。
メディアメッセージが再生され、再生されたメディアメッセージの表現が除去されるまで、メディアのグループの追加のメディアメッセージの表現を表示することなく、メディアメッセージのグループの第1の所定の数のメディアメッセージの表現を表示することにより、ユーザインタフェースを乱すことなく、追加のメディアメッセージが再生のために利用可能であるというフィードバックがユーザに提供される。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、メディアユーザインタフェースが最初に表示されるとき(例えば、表示された通知の選択に応答して)、メディアユーザインタフェースは、第4の表現を含むことなく、第1の表現、第2の表現、及び第3の表現を含む。
いくつかの実施形態では、第3のメディアメッセージの再生の完了を検出したことに応答して(例えば、第3のメディアメッセージの端部に到達した、第3のメディアメッセージの残りをスキップする)、第1のサイズとは異なる(例えば、より大きい)サイズ及び第1の場所とは異なる場所で、第4のメディアメッセージの第4の表現(例えば、1524d)を表示し、(例えば、図15Eに示すように)ユーザ入力を受信(又は必要と)することなく、第4のメディアメッセージを再生する。
いくつかの実施形態によると、第2のメディアメッセージを再生している間に、コンピュータシステム(例えば、700)は、メディアユーザインタフェース(例えば、1520)に次のメディアユーザインタフェースオブジェクト対象(例えば、1534)を表示し、アクティブ化すると(例えば、タップオンの検出)、第2のメディアメッセージの再生を完了させる(例えば、現在再生しているメディアメッセージの再生を停止する、第2のメディアメッセージの残りの再生を取り止める、第2のメディアメッセージの残りを過ぎてスキップする)(及び任意選択的に、第3のメディアメッセージの再生を開始する)。第2のメディアメッセージを再生している間に、コンピュータシステム(例えば、700)は、1つ以上の入力デバイスを介して、次のメディアユーザインタフェースオブジェクト対象(例えば、1534)のアクティブ化(例えば、タップオン)を受信する。次のメディアユーザインタフェースオブジェクト対象(例えば、1534)のアクティブ化の受信に応答して、コンピュータシステム(例えば、700)は、ディスプレイ生成構成要素を介して、第2のメディアメッセージの第2の表現を表示することなく、第1の場所に(及び任意選択的に、第1のサイズで)第3のメディアメッセージの第3の表現を、ディスプレイ生成構成要素を介して表示する。いくつかの実施形態では、第3のメディアメッセージは、第1のサイズで第1の場所で第3のメディアメッセージの第3の表現を表示することと共に再生される。いくつかの実施形態では、次のメディアユーザインタフェースオブジェクト対象は、アクティブ化されると、現在再生しているメディアメッセージを完了させる。いくつかの実施形態では、現在再生しているメディアメッセージの完了を検出することにより(例えば、現在再生しているメディアメッセージがメディアのグループの最終メディアメッセージである場合を除いて)、技術によって、順序付けられた1組の次のメディアメッセージの再生に進む。いくつかの実施形態では、次のメディアユーザインタフェースオブジェクト対象(例えば、1534)のアクティブ化の受信に応答して、コンピュータシステムは、(例えば、第2のメディアメッセージの端部まで再生することなく)第2のメディアメッセージの再生を中止し、第3のメディアメッセージを再生する。
次のメディアユーザインタフェースオブジェクト対象を表示することにより、コンピュータシステムは、現在再生しているメディアメッセージの残りを再生する追加時間を費やすことなく、スキップして次のメディアメッセージを再生するためのユーザ入力の受信を可能にする。この追加の制御をユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより素早くかつ効率的に使用することを有効化することによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、コンピュータシステムは、(例えば、第2のメディアを再生すると同時に)以前のメディアユーザインタフェースオブジェクト対象を(例えば、メディアユーザインタフェースで)表示せず、アクティブ化すると(例えば、タップオンの検出)、(例えば、第2の)メディアメッセージの再生を完了させ、以前の(例えば、第1の)メディアメッセージの再生を開始する。いくつかの実施形態では、コンピュータシステムは、(例えば、図15Eのように)(例えば、メディアのグループの)最後(例えば、第4)のメディアメッセージが再生している時に、次のメディアユーザインタフェースオブジェクト対象を表示することを取り止める。
いくつかの実施形態では、第1のメディアメッセージ、第2のメディアメッセージ、及び第3のメディアメッセージは、メディアのグループの一部である。いくつかの実施形態によれば、最終メディアメッセージを再生した後(例えば、完了の検出に応答して)(例えば、メディアのグループの全てのメディアメッセージを再生又はスキップした後)、コンピュータシステム(例えば、700)は、ディスプレイ生成構成要素を介して、メディアユーザインタフェースの再生ユーザインタフェースオブジェクト対象を(例えば、926、第1の場所で、第4のメディアメッセージの第4の表現が表示された場所で)表示し、アクティブ化されると(例えば、1550f1、タップオンの検出)、後続のメディアメッセージ(例えば、第2、第3、及び第4のメディアメッセージ)の再生に進む前に、第1のメディアメッセージを再生する(例えば、第1のメディアメッセージの音声及び/又はビデオを出力する)。いくつかの実施形態では、再生ユーザインタフェースオブジェクト対象のアクティブ化によって、メディアのグループのメディアメッセージを再生するために再びプロセスが再開される。いくつかの実施形態では、(例えば、メディアのグループの)最終メディアメッセージを再生した後、コンピュータシステムは、コンピュータシステムから第1、第2、及び第3のメディアメッセージ(及び、任意選択的に第4のメディアメッセージ)を(例えば、所定の持続時間が経過した後に)削除する(又はそうでなければ、メディアメッセージをユーザからアクセス不能にする)。
ユーザインタフェースオブジェクト対象(例えば、再生ボタン)を表示して、メディアメッセージのグループのメディアメッセージを再生することにより、再生のために各メディアメッセージを個別に選択する必要なく、メディアメッセージを再生する(及び再リッスンする、再視聴する)ことが可能になる。表示される追加コントローラによってUIを雑然とさせることなく、追加制御オプションを提供することにより、デバイスの操作性が高められ、ユーザ−デバイスインタフェースを(例えば、デバイスを操作する/デバイスと対話するときにユーザを適切な入力を付与するのを支援し、ユーザの誤りを減らすことによって)より効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、デバイスの電力使用が抑えられ、バッテリ寿命が改善される。
いくつかの実施形態によると、第1のメディアメッセージ、第2のメディアメッセージ、及び第3のメディアメッセージ(及び、任意選択的に、第4のメディアメッセージ)は、コンピュータシステムを含むデバイス(例えば、ホームの複数のデバイス(例えば、ホーム自動化システム))の目標グループに向けられた。いくつかの実施形態によると、コンピュータシステム(例えば、700)は、ディスプレイ生成構成要素を介して、メディアユーザインタフェースにマルチキャストアフォーダンス(例えば、736)を表示し、アクティブ化されたとき(例えば、1550f2、タップオンの検出)、音声マルチキャストメッセージをデバイスの目標グループに送信するプロセスを開始する。いくつかの実施形態では、音声マルチキャストメッセージを送信するプロセスは、図7C1のユーザインタフェースを表示することを含み、図7C1に関して説明される。いくつかの実施形態では、1つ以上のデバイスは、第1、第2、及び第3のメディアメッセージが向けられた電子デバイスのグループの一部である電子デバイスである。
音声マルチキャストメッセージを1つ以上のデバイスに送信するプロセスを開始するマルチキャストアフォーダンスを表示することにより、どのユーザ/デバイスがメッセージを受信するかを個別に選択する必要なく、メッセージを含むメディアメッセージに応答する能力をユーザに提供し、それによって、応答を提供するためにユーザが必要とする入力の数を低減する。動作を実行するために必要な入力の数を低減することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに、適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用を低減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、音声マルチキャストメッセージを送信するプロセスは、コンピュータシステムで音声メッセージを記録することを含む。いくつかの実施形態では、音声メッセージは、(例えば、メディアのグループの一部として)コンピュータシステムでの再生のために利用可能にされる。いくつかの実施形態では、コンピュータシステムは、音声マルチキャストメッセージを送信することと共に、コンピュータシステムから第1、第2、及び第3のメディアメッセージ(及び任意選択的に、第4のメディアメッセージ)をコンピュータシステムから削除する(又はそうでなければ、メディアメッセージをユーザからアクセス不能にする)。
いくつかの実施形態によれば、それぞれのメディアメッセージ(例えば、第1のメディアメッセージ、第2のメディアメッセージ)を再生している間に、コンピュータシステム(例えば、700)は、ディスプレイ生成構成要素を介し、メディアユーザインタフェースで、それぞれのメディアメッセージが受信された、それぞれのユーザの名前(例えば、1524a、1524b、1524c、1524d)を表示する。いくつかの実施形態では、再生中のメディアメッセージが変更されると、それぞれのユーザの名前が置き換えられる(例えば、以前の名前、現在の名前、次の名前は同じ場所で表示される)。
現在再生しているメディアが受信されたそれぞれのユーザの名前を表示することにより、コンピュータシステムが現在再生しているメディアメッセージを受信したソースに関するフィードバックがユーザに提供される。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを削減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を削減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態によると、現在再生しているメディアメッセージ(例えば、図15Bの1524a、図15Cの1524b)の表現は、現在再生していないメディアメッセージのそれぞれの表示描像の背景色(例えば、図15Bの1524b及び1524c、図15Cの1524c及び1524d)の背景色とは異なる第1の背景色(例えば、緑色)で表示される。
いくつかの実施形態によると、メディアメッセージは、音声メッセージ(例えば、マルチキャスト音声メッセージ)である。いくつかの実施形態では、音声メッセージ(例えば、第1のメディアメッセージ)は、外部デバイスで(マイクロフォンを使用して)記録され、外部デバイスによってデバイスのグループに送信された音声メッセージ及び/又はコンピュータシステムを含む複数の外部デバイスに向けられた(例えば、送信された)音声メッセージである)。いくつかの実施形態では、第2のメディアメッセージは、第2の複数の外部デバイス(例えば、複数の外部デバイスとは異なる、複数の外部デバイスと同じ)に向けられた(又は送信された)第2の音声メッセージである。
会話の複数の音声メッセージを自動的に(例えば、順序で)再生することにより、ユーザが個別に特定の音声メッセージを選択して再生することを必要とせずに、コンピュータシステムに会話(例えば、複数の参加者間の音声会話)の出力を可能にし、それにより、必要な入力の数を低減する。動作を実行するために必要な入力の数を低減することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに、適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ−デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用を低減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、メディアのグループのメディアメッセージの合計カウント(例えば、図15Bの930の「4の1」の「4」)が表示される。いくつかの実施形態では、現在再生しているメディアの数が(例えば、合計カウントと共に)(例えば、図15Bの930の「4の1」内の「1」、メディアのグループの順序付けられた1組で)表示される(例えば、図15Dのような「4の3」)。
いくつかの実施形態では、メディアメッセージ(例えば、第1のメディアメッセージ)は、マルチユーザデバイス(例えば、複数のユーザ用に構成されたデバイス、特定のユーザ用には構成されていないデバイス)に対応する。いくつかの実施形態では、メディアメッセージ(例えば、第2のメディアメッセージ)は、単一ユーザデバイス(例えば、単一のユーザ用に構成されたデバイス)に対応する。いくつかの実施形態では、メディアメッセージの対応するユーザの視覚指示子(例えば、1522a、1524a、1522c、1524c)は、ユーザに対応するメディアメッセージを再生すると同時に表示される。いくつかの実施形態では、マルチユーザデバイスに対応するメディアメッセージを再生している間に、マルチユーザデバイスを示す視覚指示子(例えば、1522b、1524b)が表示される。
方法1600に関して上述したプロセス(例えば、図16)の詳細はまた、上述した方法にも類似の方式で適用可能であることに留意されたい。例えば、方法1600は、任意選択的に、方法800、1000及び1400に関して前述した様々な方法の特性のうちの任意の1つ以上を含む。別の例では、方法800の音声メッセージは、方法1600で送信される音声メッセージと同じであり得る。別の例では、方法800に関して記載の表示された通知は、方法1600で表示された同じ通知であり得る。別の例では、方法1200に関して1つ以上のデバイスに送信される音声入力は、方法1600のコンピュータシステムで受信及び再生される同じ音声メッセージであり得る。簡潔性のために、これらの詳細は、ここでは繰り返さない。
上記は、説明を目的として、特定の実施形態を参照して記述されている。しかしながら、上記の例示的な論考は、網羅的であること、又は開示される厳密な形態に本発明を限定することを意図するものではない。上記の教示を考慮して、多くの修正及び変形が可能である。これらの実施形態は、本技術の原理、及びその実際の適用を最もよく説明するために、選択及び記載されている。それにより、他の当業者は、意図された具体的な用途に適するような様々な修正を用いて、本技術及び様々な実施形態を最も良好に利用することが可能となる。
添付図面を参照して、本開示及び例を十分に説明してきたが、様々な変更及び修正が、当業者には明らかとなるであろうことに留意されたい。そのような変更及び修正は、特許請求の範囲によって定義されるような、本開示及び例の範囲内に含まれるものとして理解されたい。
上述のように、本技術の一態様は、様々なソースから入手可能なデータを収集及び使用して、ユーザへのビジュアルコンテンツ(例えば、視覚的な指示)又は音声入力が1つ以上のデバイスに音声メッセージとして送信されるかどうかに関する情報をユーザに提供する任意の他のコンテンツの伝送を改善することである。本開示は、いくつかの例において、この収集されたデータは、特定の人を一意に特定する個人情報データ、又は特定の人に連絡する若しくはその所在を突き止めるために使用できる個人情報データを含み得ることを想到している。
本開示は、本技術における個人情報データの使用がユーザの利益になる使用であり得る点を認識するものである。例えば、個人情報データは、それぞれのユーザが音声メッセージとして音声入力が送信されるかどうかを判定することができるように、示唆のディスプレイを改善するために使用することができる。したがって、そのような個人情報データの使用は、ユーザによる音声メッセージの送信についての計算された制御を可能にする。更には、ユーザに利益をもたらす、個人情報データに関する他の使用もまた、本開示によって想到される。
本開示は、そのような個人情報データの収集、分析、開示、伝送、記憶、又は他の使用に関与するエンティティが、確固たるプライバシーポリシー及び/又はプライバシー慣行を遵守するものとなることを想到する。具体的には、そのようなエンティティは、個人情報データを秘密として厳重に保守するための、業界又は政府の要件を満たしているか又は上回るものとして一般に認識されている、プライバシーのポリシー及び慣行を実施し、一貫して使用するべきである。そのようなポリシーは、ユーザによって容易にアクセス可能とするべきであり、データの収集及び/又は使用が変化するにつれて更新されるべきである。ユーザからの個人情報は、そのエンティティの合法的かつ正当な使用のために収集されるべきであり、それらの合法的使用を除いては、共有又は販売されるべきではない。更には、そのような収集/共有は、ユーザに告知して同意を得た後に実施されるべきである。更には、そのようなエンティティは、そのような個人情報データへのアクセスを保護して安全化し、その個人情報データへのアクセスを有する他者が、それらのプライバシーポリシー及び手順を遵守することを保証するための、あらゆる必要な措置を講じることを考慮するべきである。更には、そのようなエンティティは、広く受け入れられているプライバシーのポリシー及び慣行に対する自身の遵守を証明するために、第三者による評価を自らが受けることができる。更には、ポリシー及び慣行は、収集及び/又はアクセスされる具体的な個人情報データのタイプに適合されるべきであり、また、管轄権固有の考慮事項を含めた、適用可能な法令及び規格に適合されるべきである。例えば、アメリカ合衆国では、特定の健康データの収集又はアクセスは、医療保険の相互運用性と説明責任に関する法律(Health Insurance Portability and Accountability Act、HIPAA)などの、連邦法及び/又は州法によって管理することができ、その一方で、他国における健康データは、他の規制及びポリシーの対象となり得るものであり、それに従って対処されるべきである。それゆえ、各国の異なる個人データのタイプに関して、異なるプライバシー慣行が保たれるべきである。
前述のことがらにも関わらず、本開示はまた、個人情報データの使用又は個人情報データへのアクセスを、ユーザが選択的に阻止する実施形態も想到する。すなわち、本開示は、そのような個人情報データへのアクセスを防止又は阻止するように、ハードウェア要素及び/又はソフトウェア要素を提供することができると想到する。例えば、ユーザから音声入力を受信する場合、本技術は、ユーザが、サービスの登録中又はその後のいつでも、個人情報データの収集への参加の「オプトイン」又は「オプトアウト」を選択できるように構成され得る。別の例では、ユーザは、表示されている示唆に基づいて音声メッセージとして送信される音声入力を提供しないことを選択することができる。更に別の例では、ユーザは、表示されている示唆に基づいて、音声入力に対応する音声メッセージのコンテンツを制限するように選択することができる。「オプトイン」及び「オプトアウト」の選択肢を提供することに加えて、本開示は、個人情報のアクセス又は使用に関する通知を提供することを想到する。例えば、ユーザの個人情報データにアクセスすることとなるアプリのダウンロード時にユーザに通知され、その後、個人情報データがアプリによってアクセスされる直前に再びユーザに注意してもよい。
更には、本開示の意図は、個人情報データを、非意図的若しくは無許可アクセス又は使用の危険性を最小限に抑える方法で、管理及び処理するべきであるという点である。データの収集を制限し、データがもはや必要とされなくなった時点で削除することによって、危険性を最小限に抑えることができる。更には、適用可能な場合、特定の健康関連アプリケーションにおいて、ユーザのプライバシーを保護するために、データの非特定化を使用することができる。非特定化は、適切な場合には、特定の識別子(例えば、生年月日など)を除去すること、記憶されたデータの量又は特異性を制御すること(例えば、位置データを住所レベルよりも都市レベルで収集すること)、データがどのように記憶されるかを制御すること(例えば、データをユーザ全体にわたって情報集約すること)及び/又は他の方法によって、容易にすることができる。
それゆえ、本開示は、1つ以上の様々な開示された実施形態を実施するための、個人情報データの使用を広範に網羅するものではあるが、本開示はまた、そのような個人情報データにアクセスすることを必要とせずに、それらの様々な実施形態を実施することもまた可能であることを想到している。すなわち、本技術の様々な実施形態は、そのような個人情報データの全て又は一部分が欠如することにより、実施不可能となるものではない。例えば、視覚的な指示は、ユーザに関連付けられたデバイスによりリクエストされたコンテンツ、音声メッセージ送信サービスで使用可能な他の非個人情報、若しくは公的に使用可能な情報などの、非個人情報データ又は個人情報の最小限の量のみに基づいて、ユーザに表示することができる。