CN111108740A - 用于多用户通信会话的用户界面 - Google Patents

用于多用户通信会话的用户界面 Download PDF

Info

Publication number
CN111108740A
CN111108740A CN201880056514.5A CN201880056514A CN111108740A CN 111108740 A CN111108740 A CN 111108740A CN 201880056514 A CN201880056514 A CN 201880056514A CN 111108740 A CN111108740 A CN 111108740A
Authority
CN
China
Prior art keywords
real
time
transmitting
media
user input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201880056514.5A
Other languages
English (en)
Other versions
CN111108740B (zh
Inventor
F·A·安祖里斯
N·V·金
S·O·勒梅
H·珐姆
G·耶基斯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
Apple Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Apple Inc filed Critical Apple Inc
Priority to CN202110327012.5A priority Critical patent/CN113162841A/zh
Priority to CN202311186148.4A priority patent/CN117061472A/zh
Priority to CN202110328601.5A priority patent/CN113162843B/zh
Priority to CN202311185909.4A priority patent/CN117041195A/zh
Priority to CN202110328597.2A priority patent/CN113162842A/zh
Priority to CN202110328602.XA priority patent/CN112910764A/zh
Publication of CN111108740A publication Critical patent/CN111108740A/zh
Application granted granted Critical
Publication of CN111108740B publication Critical patent/CN111108740B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/04—Real-time or near real-time messaging, e.g. instant messaging [IM]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/07—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail characterised by the inclusion of specific contents
    • H04L51/10—Multimedia information
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/14—Systems for two-way working
    • H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147—Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/14—Systems for two-way working
    • H04N7/15—Conference systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/26—Devices for calling a subscriber
    • H04M1/27—Devices whereby a plurality of signals may be stored simultaneously
    • H04M1/274—Devices whereby a plurality of signals may be stored simultaneously with provision for storing more than one subscriber number at a time, e.g. using toothed disc
    • H04M1/2745—Devices whereby a plurality of signals may be stored simultaneously with provision for storing more than one subscriber number at a time, e.g. using toothed disc using static electronic memories, e.g. chips
    • H04M1/27453—Directories allowing storage of additional subscriber data, e.g. metadata
    • H04M1/27457—Management thereof, e.g. manual editing of data
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/26—Devices for calling a subscriber
    • H04M1/27—Devices whereby a plurality of signals may be stored simultaneously
    • H04M1/274—Devices whereby a plurality of signals may be stored simultaneously with provision for storing more than one subscriber number at a time, e.g. using toothed disc
    • H04M1/2745—Devices whereby a plurality of signals may be stored simultaneously with provision for storing more than one subscriber number at a time, e.g. using toothed disc using static electronic memories, e.g. chips
    • H04M1/27467—Methods of retrieving data
    • H04M1/27475—Methods of retrieving data using interactive graphical means or pictorial representations
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72433—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for voice messaging, e.g. dictaphones
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72439—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for image or video messaging
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/62—Details of telephonic subscriber devices user interface aspects of conference calls
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/14—Systems for two-way working
    • H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/142—Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
    • H04N2007/145—Handheld terminals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/11—Positioning of individual sound objects, e.g. moving airplane, within a sound field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2420/00—Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/01—Enhancing the perception of the sound image or of the spatial distribution using head related transfer functions [HRTF's] or equivalents thereof, e.g. interaural time difference [ITD] or interaural level difference [ILD]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30—Control circuits for electronic adaptation of the sound field

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • User Interface Of Digital Computer (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)
  • Telephone Function (AREA)

Abstract

本公开整体涉及用于多用户通信会话的用户界面。在一些示例中，设备在通信会话中发起实时流。在一些示例中，设备在流式传输实时音频和实时视频之间转换。在一些示例中，设备能够在实时流期间同步媒体回放。

Description

用于多用户通信会话的用户界面
相关申请的交叉引用
本专利申请要求2018年7月13日提交的名称为“USER INTERFACE FOR MULTI-USERCOMMUNICATION SESSION”的美国专利申请No.16/035,422，该美国专利申请要求2017年9月29日提交的名称为“USER INTERFACE FOR MULTI-USER COMMUNICATION SESSION”的美国临时专利申请No.62/566,181的优先权，这些专利中每一者的内容据此全文以引用方式并入。
技术领域
本公开整体涉及计算机用户界面，并且更具体地讲，涉及用于管理通信会话的技术。
背景技术
电子设备使远程用户能够诸如通过即时消息和电话呼叫进行通信。虽然此类示例性常规技术使得能够进行通信，但是这些技术仅向用户提供有限的充分参与会话的能力，特别是当会话包括用户组时。
发明内容
用于使用电子设备来管理通信会话的一些技术通常很麻烦且效率低下。例如，一些现有技术使用复杂且耗时的用户界面，该用户界面可包括多次按键或击键。现有技术需要比所需更多的时间，这导致浪费用户的时间和设备能量。这后一考虑在电池驱动的设备诸如移动电话中是特别重要的。
因此，本技术为电子设备提供了用于管理通信会话的更快、更有效的方法和界面。此类方法和界面任选地补充或替换用于管理通信会话的其他方法。此类方法和界面减少对用户所造成的认知负担，并且产生更有效的人机界面。对于电池驱动的计算设备，此类方法和界面节省功率，并且增大电池充电之间的时间间隔。此外，此类技术使用户能够更充分地同时与多个参与者参与会话。另外，此类技术使远程用户能够在通信时同时体验媒体。
根据一些实施方案，在具有显示器、一个或多个相机传感器和一个或多个麦克风的电子设备处执行方法。该方法包括：接收标识一个或多个联系人以作为一个或多个参与者包括在通信会话中的用户输入；当在通信会话中时，同时在显示器上显示：用于传输包括实时音频且不包括实时视频的实时媒体流的第一示能表示和用于传输包括实时音频和实时视频的实时媒体流的第二示能表示；接收激活第一示能表示和第二示能表示中的一者的用户输入；根据接收到激活第一示能表示的用户输入，同时：使用所述一个或多个麦克风来检测音频；并且将实时媒体流中的实时音频传输到通信会话的所述一个或多个参与者，其中传输实时音频在不传输实时视频的情况下发生；并且根据接收到激活第二示能表示的用户输入，同时：使用所述一个或多个麦克风来检测音频；使用所述一个或多个相机传感器来检测视频的多个图像；并且将实时媒体流中的实时音频和实时视频传输到通信会话的所述一个或多个参与者。
根据一些实施方案，描述了一种非暂态计算机可读存储介质。该非暂态计算机可读存储介质存储被配置为由具有显示器、一个或多个相机传感器和一个或多个麦克风的电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于以下操作的指令：接收标识一个或多个联系人以作为一个或多个参与者包括在通信会话中的用户输入；当在通信会话中时，同时在显示器上显示：用于传输包括实时音频且不包括实时视频的实时媒体流的第一示能表示和用于传输包括实时音频和实时视频的实时媒体流的第二示能表示；接收激活第一示能表示和第二示能表示中的一者的用户输入；根据接收到激活第一示能表示的用户输入，同时：使用所述一个或多个麦克风来检测音频；并且将实时媒体流中的实时音频传输到通信会话的所述一个或多个参与者，其中传输实时音频在不传输实时视频的情况下发生；并且根据接收到激活第二示能表示的用户输入，同时：使用所述一个或多个麦克风来检测音频；使用所述一个或多个相机传感器来检测视频的多个图像；并且将实时媒体流中的实时音频和实时视频传输到通信会话的所述一个或多个参与者。
根据一些实施方案，描述了一种暂态计算机可读存储介质。该暂态计算机可读存储介质存储被配置为由具有显示器、一个或多个相机传感器和一个或多个麦克风的电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于以下操作的指令：接收标识一个或多个联系人以作为一个或多个参与者包括在通信会话中的用户输入；当在通信会话中时，同时在显示器上显示：用于传输包括实时音频且不包括实时视频的实时媒体流的第一示能表示和用于传输包括实时音频和实时视频的实时媒体流的第二示能表示；接收激活第一示能表示和第二示能表示中的一者的用户输入；根据接收到激活第一示能表示的用户输入，同时：使用所述一个或多个麦克风来检测音频；并且将实时媒体流中的实时音频传输到通信会话的所述一个或多个参与者，其中传输实时音频在不传输实时视频的情况下发生；并且根据接收到激活第二示能表示的用户输入，同时：使用所述一个或多个麦克风来检测音频；使用所述一个或多个相机传感器来检测视频的多个图像；并且将实时媒体流中的实时音频和实时视频传输到通信会话的所述一个或多个参与者。
根据一些实施方案，描述了一种电子设备。该电子设备包括：显示器；一个或多个相机传感器；一个或多个麦克风；一个或多个处理器；和存储器，该存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行以下操作的指令：接收标识一个或多个联系人以作为一个或多个参与者包括在通信会话中的用户输入；当在通信会话中时，同时在显示器上显示：用于传输包括实时音频且不包括实时视频的实时媒体流的第一示能表示和用于传输包括实时音频和实时视频的实时媒体流的第二示能表示；接收激活第一示能表示和第二示能表示中的一者的用户输入；根据接收到激活第一示能表示的用户输入，同时：使用所述一个或多个麦克风来检测音频；并且将实时媒体流中的实时音频传输到通信会话的所述一个或多个参与者，其中传输实时音频在不传输实时视频的情况下发生；并且根据接收到激活第二示能表示的用户输入，同时：使用所述一个或多个麦克风来检测音频；使用所述一个或多个相机传感器来检测视频的多个图像；并且将实时媒体流中的实时音频和实时视频传输到通信会话的所述一个或多个参与者。
根据一些实施方案，描述了一种电子设备。该电子设备包括：显示器；一个或多个相机传感器；一个或多个麦克风；用于接收标识一个或多个联系人以作为一个或多个参与者包括在通信会话中的用户输入的装置；当在通信会话中时，用于同时在显示器上显示以下内容的装置：用于传输包括实时音频且不包括实时视频的实时媒体流的第一示能表示和用于传输包括实时音频和实时视频的实时媒体流的第二示能表示；用于接收激活第一示能表示和第二示能表示中的一者的用户输入的装置；根据接收到激活第一示能表示的用户输入，用于同时进行以下操作的装置：使用所述一个或多个麦克风来检测音频；并且将实时媒体流中的实时音频传输到通信会话的所述一个或多个参与者，其中传输实时音频在不传输实时视频的情况下发生；并且根据接收到激活第二示能表示的用户输入，用于同时进行以下操作的装置：使用所述一个或多个麦克风来检测音频；使用所述一个或多个相机传感器来检测视频的多个图像；并且将实时媒体流中的实时音频和实时视频传输到通信会话的所述一个或多个参与者。
根据一些实施方案，在具有显示器的电子设备处执行方法。该方法包括：当将第一类型的传出实时媒体流传输到通信会话的一个或多个参与者时：在电子设备处输出至少一个或多个传入实时媒体流；接收用于从传输第一类型的传出实时媒体流转换到传输第二类型的传出实时媒体流的用户输入，其中第一类型不同于第二类型；并且响应于接收到用于转换的用户输入来从传输第一类型的传出实时媒体流转换到传输第二类型的传出实时媒体流，包括：根据包括实时音频且不包括实时视频的第一类型的实时媒体流，传输实时视频；并且根据包括实时音频和实时视频的第一类型的实时媒体流，停止传输实时视频。
根据一些实施方案，描述了一种非暂态计算机可读存储介质。该非暂态计算机可读存储介质存储被配置为由具有显示器的电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于以下操作的指令：当将第一类型的传出实时媒体流传输到通信会话的一个或多个参与者时：在电子设备处输出至少一个或多个传入实时媒体流；接收用于从传输第一类型的传出实时媒体流转换到传输第二类型的传出实时媒体流的用户输入，其中第一类型不同于第二类型；并且响应于接收到用于转换的用户输入来从传输第一类型的传出实时媒体流转换到传输第二类型的传出实时媒体流，包括：根据包括实时音频且不包括实时视频的第一类型的实时媒体流，传输实时视频；并且根据包括实时音频和实时视频的第一类型的实时媒体流，停止传输实时视频。
根据一些实施方案，描述了一种暂态计算机可读存储介质。该暂态计算机可读存储介质存储被配置为由具有显示器的电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于以下操作的指令：当将第一类型的传出实时媒体流传输到通信会话的一个或多个参与者时：在电子设备处输出至少一个或多个传入实时媒体流；接收用于从传输第一类型的传出实时媒体流转换到传输第二类型的传出实时媒体流的用户输入，其中第一类型不同于第二类型；并且响应于接收到用于转换的用户输入来从传输第一类型的传出实时媒体流转换到传输第二类型的传出实时媒体流，包括：根据包括实时音频且不包括实时视频的第一类型的实时媒体流，传输实时视频；并且根据包括实时音频和实时视频的第一类型的实时媒体流，停止传输实时视频。
根据一些实施方案，描述了一种电子设备。该电子设备包括：显示器；一个或多个处理器；和存储器，该存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于以下操作的指令：当将第一类型的传出实时媒体流传输到通信会话的一个或多个参与者时：在电子设备处输出至少一个或多个传入实时媒体流；接收用于从传输第一类型的传出实时媒体流转换到传输第二类型的传出实时媒体流的用户输入，其中第一类型不同于第二类型；并且响应于接收到用于转换的用户输入来从传输第一类型的传出实时媒体流转换到传输第二类型的传出实时媒体流，包括：根据包括实时音频且不包括实时视频的第一类型的实时媒体流，传输实时视频；并且根据包括实时音频和实时视频的第一类型的实时媒体流，停止传输实时视频。
根据一些实施方案，描述了一种电子设备。该电子设备包括：显示器；当将第一类型的传出实时媒体流传输到通信会话的一个或多个参与者时，用于以下操作的装置：在电子设备处输出至少一个或多个传入实时媒体流；接收用于从传输第一类型的传出实时媒体流转换到传输第二类型的传出实时媒体流的用户输入，其中第一类型不同于第二类型；以及响应于接收到用于转换的用户输入，用于从传输第一类型的传出实时媒体流转换到传输第二类型的传出实时媒体流的装置，该转换包括：根据包括实时音频且不包括实时视频的第一类型的实时媒体流，传输实时视频；并且根据包括实时音频和实时视频的第一类型的实时媒体流，停止传输实时视频。
根据一些实施方案，在具有显示器的电子设备处执行方法。该方法包括：当与一个或多个参与者参与通信会话时：将媒体的链接传输到通信会话的一个或多个参与者；在显示器上显示媒体的表示，包括示能表示；检测用户输入；响应于检测到该用户输入：显示对应于媒体的媒体回放用户界面；当显示该媒体回放用户界面时，检测媒体回放控制用户输入；响应于接收到该媒体回放控制用户输入：根据接收到的媒体回放控制用户输入控制电子设备处的媒体回放用户界面中的媒体的回放；并且根据用户输入是示能表示的激活：根据接收到的媒体回放控制用户输入，传输用于控制所述一个或多个参与者的设备处的媒体回放的指令，使得通信会话的所述一个或多个参与者的设备处的媒体的回放保持大体上同步。
根据一些实施方案，描述了一种非暂态计算机可读存储介质。该非暂态计算机可读存储介质存储被配置为由具有显示器的电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于以下操作的指令：当与一个或多个参与者参与通信会话时：将媒体的链接传输到通信会话的一个或多个参与者；在显示器上显示媒体的表示，包括示能表示；检测用户输入；响应于检测到该用户输入：显示对应于媒体的媒体回放用户界面；当显示该媒体回放用户界面时，检测媒体回放控制用户输入；响应于接收到该媒体回放控制用户输入：根据接收到的媒体回放控制用户输入控制电子设备处的媒体回放用户界面中的媒体的回放；并且根据用户输入是示能表示的激活：根据接收到的媒体回放控制用户输入，传输用于控制所述一个或多个参与者的设备处的媒体回放的指令，使得通信会话的所述一个或多个参与者的设备处的媒体的回放保持大体上同步。
根据一些实施方案，描述了一种暂态计算机可读存储介质。该暂态计算机可读存储介质存储被配置为由具有显示器的电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于以下操作的指令：当与一个或多个参与者参与通信会话时：将媒体的链接传输到通信会话的一个或多个参与者；在显示器上显示媒体的表示，包括示能表示；检测用户输入；响应于检测到该用户输入：显示对应于媒体的媒体回放用户界面；当显示该媒体回放用户界面时，检测媒体回放控制用户输入；响应于接收到该媒体回放控制用户输入：根据接收到的媒体回放控制用户输入控制电子设备处的媒体回放用户界面中的媒体的回放；并且根据用户输入是示能表示的激活：根据接收到的媒体回放控制用户输入，传输用于控制所述一个或多个参与者的设备处的媒体回放的指令，使得通信会话的所述一个或多个参与者的设备处的媒体的回放保持大体上同步。
根据一些实施方案，描述了一种电子设备。该电子设备包括：显示器；一个或多个处理器；和存储器，该存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于以下操作的指令：当与一个或多个参与者参与通信会话时：将媒体的链接传输到通信会话的一个或多个参与者；在显示器上显示媒体的表示，包括示能表示；检测用户输入；响应于检测到该用户输入：显示对应于媒体的媒体回放用户界面；当显示该媒体回放用户界面时，检测媒体回放控制用户输入；响应于接收到该媒体回放控制用户输入：根据接收到的媒体回放控制用户输入控制电子设备处的媒体回放用户界面中的媒体的回放；并且根据用户输入是示能表示的激活：根据接收到的媒体回放控制用户输入，传输用于控制所述一个或多个参与者的设备处的媒体回放的指令，使得通信会话的所述一个或多个参与者的设备处的媒体的回放保持大体上同步。
根据一些实施方案，描述了一种电子设备。该电子设备包括：显示器；当与一个或多个参与者参与通信会话时，用于以下操作的装置：将媒体的链接传输到通信会话的一个或多个参与者；在显示器上显示媒体的表示，包括示能表示；检测用户输入；响应于检测到该用户输入：显示对应于媒体的媒体回放用户界面；当显示该媒体回放用户界面时，检测媒体回放控制用户输入；响应于接收到该媒体回放控制用户输入：根据接收到的媒体回放控制用户输入控制电子设备处的媒体回放用户界面中的媒体的回放；并且根据用户输入是示能表示的激活：根据接收到的媒体回放控制用户输入，传输用于控制所述一个或多个参与者的设备处的媒体回放的指令，使得通信会话的所述一个或多个参与者的设备处的媒体的回放保持大体上同步。
用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的非暂态计算机可读存储介质或其他计算机程序产品中。用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的暂态计算机可读存储介质或其他计算机程序产品中。
因此，为设备提供了用于管理通信会话的更快、更有效的方法和界面，从而提高了此类设备的有效性、效率和用户满意度。此类方法和界面可补充或替换用于管理通信会话的其他方法。
附图说明
为了更好地理解各种所述实施方案，应结合以下附图参考下面的具体实施方式，其中类似的附图标号在所有附图中指示对应的部分。
图1A是示出了根据一些实施方案的具有触敏显示器的便携式多功能设备的框图。
图1B是示出根据一些实施方案的用于事件处理的示例性部件的框图。
图2示出了根据一些实施方案的具有触摸屏的便携式多功能设备。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。
图4A示出了根据一些实施方案的针对便携式多功能设备上应用程序的菜单的示例性用户界面。
图4B示出了根据一些实施方案的针对具有与显示器分开的触敏表面的多功能设备的示例性用户界面。
图5A示出了根据一些实施方案的个人电子设备。
图5B是示出了根据一些实施方案的个人电子设备的框图。
图5C-图5D示出了根据一些实施方案的具有触敏显示器和强度传感器的个人电子设备的示例性部件。
图5E-图5H示出了根据一些实施方案的个人电子设备的示例性部件和用户界面。
图6A至图6AF示出了用于管理通信会话的示例性设备和用户界面。
图7A至图7B是示出了用于发起实时流的方法的流程图。
图8是示出了用于在流式传输实时音频和实时视频之间转换的方法的流程图。
图9A至图9B是示出了用于在实时流期间同步媒体回放的方法的流程图。
具体实施方式
以下描述阐述了示例性方法、参数等。然而，应当认识到，此类描述并非意在限制本公开的范围，而是作为对示例性实施方案的描述来提供。
电子设备需要提供用于管理通信会话的有效方法和界面。例如，需要用于发起实时流的有效方法和界面。又如，需要用于在流式传输实时音频和实时视频之间转换的有效方法和界面。又如，需要用于在实时流期间同步媒体回放的有效方法和界面。此类技术可减轻管理通信会话的用户的认知负担，从而提高生产率。此外，此类技术可减少以其他方式浪费在冗余用户输入上的处理器功率和电池功率。
下面图1A至1B、图2、图3、图4A至图4B和图5A至图5H提供了对用于执行管理事件通知的技术的示例性设备的描述。图6A至图6AF示出了用于管理通信会话的示例性设备和用户界面。图7A至图7B是示出了根据一些实施方案的发起实时流的方法的流程图。图8是示出了根据一些实施方案的在流式传输实时音频和实时视频之间转换的方法的流程图。图9A至图9B是示出了根据一些实施方案的在实时流期间同步媒体回放的方法的流程图。图6A至图6AF中的用户界面用于示出下文描述的过程，包括图7A至图7B、图8和图9A至图9B中的过程。
尽管以下描述使用术语“第一”、“第二”等来描述各种元件，但这些元件不应受术语的限制。这些术语只是用于将一个元件与另一元件区分开。例如，第一触摸可被命名为第二触摸并且类似地第二触摸可被命名为第一触摸，而不脱离各种所述实施方案的范围。第一触摸和第二触摸两者均为触摸，但是它们不是同一触摸。
在本文中对各种所述实施方案的描述中所使用的术语只是为了描述特定实施方案的目的，而并非旨在进行限制。如在对各种所述实施方案中的描述和所附权利要求书中所使用的那样，单数形式“一个”和“该”旨在也包括复数形式，除非上下文另外明确地指示。还将理解的是，本文中所使用的术语“和/或”是指并且涵盖相关联的所列出的项目中的一个或多个项目的任何和全部可能的组合。还将理解的是，术语“包括”(“includes”、“including”、“comprises”和/或“comprising”)在本说明书中使用时是指定存在所陈述的特征、整数、步骤、操作、元件和/或部件，但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、部件和/或其分组。
根据上下文，术语“如果”任选地被解释为意指“当......时”、“在......时”或“响应于确定”或“响应于检测到”。类似地，根据上下文，短语“如果确定……”或“如果检测到[所陈述的条件或事件]”任选地被解释为是指“在确定……时”或“响应于确定……”或“在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。
本文描述了电子设备、此类设备的用户界面和使用此类设备的相关过程的实施方案。在一些实施方案中，该设备为还包含其他功能诸如PDA和/或音乐播放器功能的便携式通信设备，诸如移动电话。便携式多功能设备的示例性实施方案包括但不限于来自AppleInc.(Cupertino,California)的
Figure BDA0002395249260000101
设备、iPod
Figure BDA0002395249260000102
设备、和
Figure BDA0002395249260000103
设备。任选地使用其他便携式电子设备，诸如具有触敏表面(例如，触摸屏显示器和/或触摸板)的膝上型电脑或平板电脑。还应当理解的是，在一些实施方案中，该设备并非便携式通信设备，而是具有触敏表面(例如，触摸屏显示器和/或触摸板)的台式计算机。
在下面的讨论中，描述了一种包括显示器和触敏表面的电子设备。然而，应当理解，该电子设备任选地包括一个或多个其他物理用户界面设备，诸如物理键盘、鼠标和/或操纵杆。
该设备通常支持各种应用程序，诸如以下中的一者或多者：绘图应用程序、呈现应用程序、文字处理应用程序、网站创建应用程序、盘编辑应用程序、电子表格应用程序、游戏应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息应用程序、健身支持应用程序、照片管理应用程序、数字相机应用程序、数字视频摄像机应用程序、网页浏览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。
在设备上执行的各种应用程序任选地使用至少一个通用的物理用户界面设备，诸如触敏表面。触敏表面的一种或多种功能以及被显示在设备上的对应信息任选地对于不同应用程序被调整和/或变化，和/或在相应应用程序内被调整和/或变化。这样，设备的共用物理架构(诸如触敏表面)任选地利用对于用户而言直观且清楚的用户界面来支持各种应用程序。
现在将注意力转到具有触敏显示器的便携式设备的实施方案。图1A是示出了根据一些实施方案的具有触敏显示器系统112的便携式多功能设备100的框图。触敏显示器112有时为了方便被叫做“触摸屏”，并且有时被称为或被叫做“触敏显示器系统”。设备100包括存储器102(其任选地包括一个或多个计算机可读存储介质)、存储器控制器122、一个或多个处理单元(CPU)120、外围设备接口118、RF电路108、音频电路110、扬声器111、麦克风113、输入/输出(I/O)子系统106、其他输入控制设备116和外部端口124。设备100任选地包括一个或多个光学传感器164。设备100任选地包括用于检测设备100(例如，触敏表面，诸如设备100的触敏显示器系统112)上的接触的强度的一个或多个接触强度传感器165。设备100任选地包括用于在设备100上生成触觉输出的一个或多个触觉输出发生器167(例如，在触敏表面(诸如设备100的触敏显示器系统112或设备300的触摸板355)上生成触觉输出)。这些部件任选地通过一个或多个通信总线或信号线103进行通信。
如在本说明书和权利要求书中所使用的，术语触敏表面上的接触的“强度”是指触敏表面上的接触(例如，手指接触)的力或压力(每单位面积的力)，或是指触敏表面上的接触的力或压力的替代物(代用物)。接触的强度具有值范围，该值范围包括至少四个不同的值并且更典型地包括上百个不同的值(例如，至少256个)。接触的强度任选地使用各种方法和各种传感器或传感器的组合来确定(或测量)。例如，在触敏表面下方或相邻于触敏表面的一个或多个力传感器任选地用于测量触敏表面上的不同点处的力。在一些具体实施中，来自多个力传感器的力测量值被组合(例如，加权平均)以确定所估计的接触力。类似地，触笔的压敏顶端任选地用于确定触笔在触敏表面上的压力。另选地，在触敏表面上检测到的接触区域的大小和/或其变化、接触附近的触敏表面的电容和/或其变化以及/或者接触附近的触敏表面的电阻和/或其变化任选地被用作触敏表面上的接触的力或压力的替代物。在一些具体实施中，接触力或压力的替代物测量直接用于确定是否已经超过强度阈值(例如，强度阈值以对应于替代物测量的单位来描述)。在一些具体实施中，接触力或压力的替代物测量被转换成估计的力或压力，并且估计的力或压力用于确定是否已超过强度阈值(例如，强度阈值是以压力的单位进行测量的压力阈值)。使用接触的强度作为用户输入的属性，从而允许用户访问在一些情况下用户在实际面积有限的尺寸更小的设备上本来不可访问的附加设备功能，该尺寸更小的设备用于(例如，在触敏显示器上)显示示能表示和/或接收用户输入(例如，经由触敏显示器、触敏表面或物理控件/机械控件，诸如旋钮或按钮)。
如本说明书和权利要求书中所使用的，术语“触觉输出”是指将由用户利用用户的触感检测到的设备相对于设备的先前位置的物理位移、设备的部件(例如，触敏表面)相对于设备的另一个部件(例如，外壳)的物理位移、或部件相对于设备的质心的位移。例如，在设备或设备的部件与用户对触摸敏感的表面(例如，手指、手掌或用户手部的其他部分)接触的情况下，通过物理位移生成的触觉输出将由用户解释为触感，该触感对应于设备或设备的部件的物理特征的所感知的变化。例如，触敏表面(例如，触敏显示器或触控板)的移动任选地由用户解释为对物理致动按钮的“按下点击”或“松开点击”。在一些情况下，用户将感觉到触感，诸如“按下点击”或“松开点击”，即使在通过用户的移动而物理地被按压(例如，被移位)的与触敏表面相关联的物理致动按钮没有移动时。又如，即使在触敏表面的光滑度无变化时，触敏表面的移动也会任选地由用户解释或感测为触敏表面的“粗糙度”。虽然用户对触摸的此类解释将受到用户的个体化感官知觉的限制，但是对触摸的许多感官知觉是大多数用户共有的。因此，当触觉输出被描述为对应于用户的特定感官知觉(例如，“按下点击”、“松开点击”、“粗糙度”)时，除非另外陈述，否则所生成的触觉输出对应于设备或其部件的物理位移，该物理位移将会生成典型(或普通)用户的所述感官知觉。
应当理解，设备100仅仅是便携式多功能设备的一个示例，并且设备100任选地具有比所示出的部件更多或更少的部件，任选地组合两个或更多个部件，或者任选地具有这些部件的不同配置或布置。图1A中所示的各种部件以硬件、软件、或硬件与软件两者的组合来实现，包括一个或多个信号处理和/或专用集成电路。
存储器102任选地包括高速随机存取存储器，并且还任选地包括非易失性存储器，诸如一个或多个磁盘存储设备、闪存存储器设备、或其他非易失性固态存储器设备。存储器控制器122任选地控制设备100的其他部件访问存储器102。
外围设备接口118可用于将设备的输入外围设备和输出外围设备耦接到CPU 120和存储器102。一个或多个处理器120运行或执行存储器102中所存储的各种软件程序和/或指令集以执行设备100的各种功能并处理数据。在一些实施方案中，外围设备接口118、CPU120和存储器控制器122任选地被实现在单个芯片诸如芯片104上。在一些其他实施方案中，它们任选地在独立的芯片上实现。
RF(射频)电路108接收和发送也被称作电磁信号的RF信号。RF电路108将电信号转换为电磁信号/将电磁信号转换为电信号，并且经由电磁信号与通信网络及其他通信设备进行通信。RF电路108任选地包括用于执行这些功能的熟知的电路，包括但不限于天线系统、RF收发器、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、编解码芯片组、用户身份模块(SIM)卡、存储器等等。RF电路108任选地通过无线通信来与网络和其他设备进行通信，这些网络为诸如互联网(也被称为万维网(WWW))、内联网和/或无线网络(诸如，蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))。RF电路108任选地包括用于诸如通过近程通信无线电部件来检测近场通信(NFC)场的熟知的电路。无线通信任选地使用多种通信标准、协议和技术中的任一者，包括但不限于全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入(HSUPA)、演进、纯数据(EV-DO)、HSPA、HSPA+、双单元HSPA(DC-HSPDA)、长期演进(LTE)、近场通信(NFC)、宽带码分多址(W-CDMA)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、蓝牙低功耗(BTLE)、无线保真(Wi-Fi)(例如，IEEE 802.11a、IEEE802.11b、IEEE 802.11g、IEEE 802.11n和/或IEEE802.11ac)、互联网协议语音(VoIP)、Wi-MAX、电子邮件协议(例如，互联网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如，可扩展消息处理和存在协议(XMPP)、用于即时消息和存在利用扩展的会话发起协议(SIMPLE)、即时消息和存在服务(IMPS))、和/或短消息服务(SMS)，或者包括在本文档提交日期时还未开发出的通信协议的任何其他适当的通信协议。
音频电路110、扬声器111和麦克风113提供用户与设备100之间的音频接口。音频电路110从外围设备接口118接收音频数据，将音频数据转换为电信号，并将电信号传输到扬声器111。扬声器111将电信号转换为人类可听到的声波。音频电路110还接收由麦克风113从声波转换的电信号。音频电路110将电信号转换为音频数据，并且将音频数据传输到外围设备接口118以用于处理。音频数据任选地由外围设备接口118检索自和/或传输至存储器102和/或RF电路108。在一些实施方案中，音频电路110还包括耳麦插孔(例如，图2中的212)。耳麦插孔提供音频电路110与可移除音频输入/输出外围设备之间的接口，该外围设备为诸如仅输出的耳机或者具有输出(例如，单耳耳机或双耳耳机)和输入(例如，麦克风)两者的耳麦。
I/O子系统106将设备100上的输入/输出外围设备诸如触摸屏112和其他输入控制设备116耦接到外围设备接口118。I/O子系统106任选地包括显示控制器156、光学传感器控制器158、强度传感器控制器159、触觉反馈控制器161、和用于其他输入或控制设备的一个或多个输入控制器160。该一个或多个输入控制器160从其他输入控制设备116接收电信号/将电信号发送到该其他输入控制设备。该其他输入控制设备116任选地包括物理按钮(例如，下压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击式转盘等。在一些另选实施方案中，输入控制器160任选地耦接至以下各项中的任一者(或不耦接至以下各项中的任一者)：键盘、红外线端口、USB端口以及指向设备诸如鼠标。一个或多个按钮(例如，图2中的208)任选地包括用于扬声器111和/或麦克风113音量控制的增大/减小按钮。该一个或多个按钮任选地包括下压按钮(例如，图2中的206)。
快速按下下压按钮任选地脱离触摸屏112的锁定或者任选地开始使用触摸屏上的手势来对设备进行解锁的过程，如在2005年12月23日提交的名称为“Unlocking a Deviceby Performing Gestures on an Unlock Image”的美国专利申请11/322,549(即，美国专利No.7,657,849)中所述的，该美国专利申请据此全文以引用方式并入本文。长按下压按钮(例如206)任选地使设备100开机或关机。一个或多个按钮的功能任选地为用户可定制的。触摸屏112用于实现虚拟按钮或软按钮以及一个或多个软键盘。
触敏显示器112提供设备和用户之间的输入接口和输出接口。显示控制器156从触摸屏112接收电信号和/或将电信号发送到触摸屏112。触摸屏112向用户显示视觉输出。视觉输出任选地包括图形、文本、图标、视频以及它们的任何组合(统称为“图形”)。在一些实施方案中，一些视觉输出或全部的视觉输出任选地与用户界面对象对应。
触摸屏112具有基于触觉和/或触感接触来接受来自用户的输入的触敏表面、传感器、或传感器组。触摸屏112和显示控制器156(与存储器102中的任何相关联的模块和/或指令集一起)检测触摸屏112上的接触(和该接触的任何移动或中断)，并且将所检测到的接触转换为与被显示在触摸屏112上的用户界面对象(例如，一个或多个软键、图标、网页或图像)的交互。在示例性实施方案中，触摸屏112与用户之间的接触点对应于用户的手指。
触摸屏112任选地使用LCD(液晶显示器)技术、LPD(发光聚合物显示器)技术或LED(发光二极管)技术，但是在其他实施方案中使用其他显示技术。触摸屏112和显示控制器156任选地使用现在已知的或以后将开发出的多种触摸感测技术中的任何技术以及其他接近传感器阵列或用于确定与触摸屏112接触的一个或多个点的其他元件来检测接触及其任何移动或中断，该多种触摸感测技术包括但不限于电容性的、电阻性的、红外线的、和表面声波技术。在示例性实施方案中，使用投射式互电容感测技术，诸如在来自Apple Inc.(Cupertino,California)的
Figure BDA0002395249260000151
和iPod
Figure BDA0002395249260000152
中使用的技术。
触摸屏112的一些实施方案中的触敏显示器任选地类似于以下美国专利中描述的多点触敏触控板：6,323,846(Westerman等人)、6,570,557(Westerman等人)和/或6,677,932(Westerman等人)和/或美国专利公开2002/0015024A1，该每个专利据此全文以引用方式并入。然而，触摸屏112显示来自设备100的视觉输出，而触敏触摸板不提供视觉输出。
在一些实施方案中，触摸屏112的触敏显示器如以下专利申请所述：(1)提交于2006年5月2日的名称为“Multipoint Touch Surface Controller”的美国专利申请No.11/381,313；(2)2004年5月6日提交的名称为“Multipoint Touchscreen”的美国专利申请No.10/840,862；(3)2004年7月30日提交的名称为“Gestures For Touch Sensitive InputDevices”的美国专利申请No.10/903,964；(4)2005年1月31日提交的名称为“Gestures ForTouch Sensitive Input Devices”的美国专利申请No.11/048,264；(5)2005年1月18日提交的名称为“Mode-Based Graphical User Interfaces For Touch Sensitive InputDevices”的美国专利申请No.11/038,590；(6)2005年9月16日提交的名称为“VirtualInput Device Placement On A Touch Screen User Interface”的美国专利申请No.11/228,758；(7)2005年9月16日提交的名称为“Operation Of A Computer With A TouchScreen Interface”的美国专利申请No.11/228,700；(8)2005年9月16日提交的名称为“Activating Virtual Keys Of A Touch-Screen Virtual Keyboard”的美国专利申请No.11/228,737；以及(9)2006年3月3日提交的名称为“Multi-Functional Hand-HeldDevice”的美国专利申请No.11/367,749。所有这些申请全文以引用方式并入本文。
触摸屏112任选地具有超过100dpi的视频分辨率。在一些实施方案中，触摸屏具有约160dpi的视频分辨率。用户任选地使用任何合适的物体或附加物诸如触笔、手指等等来与触摸屏112接触。在一些实施方案中，将用户界面设计为主要通过基于手指的接触和手势来工作，由于手指在触摸屏上的接触区域较大，因此这可能不如基于触笔的输入精确。在一些实施方案中，设备将基于手指的粗略输入转化为精确的指针/光标位置或命令以用于执行用户所期望的动作。
在一些实施方案中，除了触摸屏之外，设备100任选地包括用于激活或去激活特定功能的触控板(未示出)。在一些实施方案中，触控板是设备的触敏区域，与触摸屏不同，该触敏区域不显示视觉输出。触摸板任选地是与触摸屏112分开的触敏表面，或者是由触摸屏形成的触敏表面的延伸部分。
设备100还包括用于为各种部件供电的电力系统162。电力系统162任选地包括电力管理系统、一个或多个电源(例如，电池、交流电(AC))、再充电系统、电力故障检测电路、功率转换器或逆变器、电源状态指示符(例如，发光二极管(LED))以及与便携式设备中的电力的生成、管理和分配相关联的任何其他部件。
设备100任选地还包括一个或多个光学传感器164。图1A示出了耦接到I/O子系统106中的光学传感器控制器158的光学传感器。光学传感器164任选地包括电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)光电晶体管。光学传感器164从环境接收通过一个或多个透镜而投射的光，并且将光转换为表示图像的数据。结合成像模块143(也叫做相机模块)，光学传感器164任选地捕获静态图像或视频。在一些实施方案中，光学传感器位于设备100的后部上，与设备前部上的触摸屏显示器112相背对，使得触摸屏显示器能够用作用于静态图像和/或视频图像采集的取景器。在一些实施方案中，光学传感器位于设备的前部上，使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取该用户的图像以用于视频会议。在一些实施方案中，光学传感器164的位置可由用户改变(例如，通过旋转设备外壳中的透镜和传感器)，使得单个光学传感器164与触摸屏显示器一起使用，以用于视频会议和静态图像和/或视频图像采集两者。
设备100任选地还包括一个或多个接触强度传感器165。图1A示出了耦接到I/O子系统106中的强度传感器控制器159的接触强度传感器。接触强度传感器165任选地包括一个或多个压阻应变仪、电容式力传感器、电气力传感器、压电力传感器、光学力传感器、电容式触敏表面或其他强度传感器(例如，用于测量触敏表面上的接触的力(或压力)的传感器)。接触强度传感器165从环境接收接触强度信息(例如，压力信息或压力信息的代用物)。在一些实施方案中，至少一个接触强度传感器与触敏表面(例如，触敏显示器系统112)并置排列或邻近。在一些实施方案中，至少一个接触强度传感器位于设备100的后部上，与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个接近传感器166。图1A示出了耦接到外围设备接口118的接近传感器166。另选地，接近传感器166任选地耦接到I/O子系统106中的输入控制器160。接近传感器166任选地如以下美国专利申请中所述的那样执行：No.11/241,839，名称为“Proximity Detector In Handheld Device”；No.11/240,788，名称为“ProximityDetector In Handheld Device”；No.11/620,702，名称为“Using Ambient Light SensorTo Augment Proximity Sensor Output”；No.11/586,862，名称为“Automated ResponseTo And Sensing Of User Activity In Portable Devices”；以及No.11/638,251，名称为“Methods And Systems For Automatic Configuration Of Peripherals”，这些美国专利申请据此全文以引用方式并入本文。在一些实施方案中，当多功能设备被置于用户的耳朵附近时(例如，当用户正在进行电话呼叫时)，接近传感器关闭并且禁用触摸屏112。
设备100任选地还包括一个或多个触觉输出发生器167。图1A示出了耦接到I/O子系统106中的触觉反馈控制器161的触觉输出发生器。触觉输出发生器167任选地包括一个或多个电声设备诸如扬声器或其他音频部件；和/或用于将能量转换成线性运动的机电设备诸如电机、螺线管、电活性聚合物、压电致动器、静电致动器或其他触觉输出生成部件(例如，用于将电信号转换成设备上的触觉输出的部件)。接触强度传感器165从触觉反馈模块133接收触觉反馈生成指令，并且在设备100上生成能够由设备100的用户感觉到的触觉输出。在一些实施方案中，至少一个触觉输出发生器与触敏表面(例如，触敏显示器系统112)并置排列或邻近，并且任选地通过竖直地(例如，向设备100的表面内/外)或侧向地(例如，在与设备100的表面相同的平面中向后和向前)移动触敏表面来生成触觉输出。在一些实施方案中，至少一个触觉输出发生器传感器位于设备100的后部上，与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个加速度计168。图1A示出了耦接到外围设备接口118的加速度计168。另选地，加速度计168任选地耦接到I/O子系统106中的输入控制器160。加速度计168任选地如以下美国专利公开中所述的那样执行：美国专利公开No.20050190059，名称为“Acceleration-based Theft Detection System for PortableElectronic Devices”和美国专利公开No.20060017692，名称为“Methods AndApparatuses For Operating A Portable Device Based On An Accelerometer”，这两个美国专利公开均全文以引用方式并入本文。在一些实施方案中，基于对从一个或多个加速度计接收的数据的分析来在触摸屏显示器上以纵向视图或横向视图显示信息。设备100任选地除了一个或多个加速度计168之外还包括磁力仪(未示出)和GPS(或GLONASS或其他全球导航系统)接收器(未示出)，以用于获取关于设备100的位置和取向(例如，纵向或横向)的信息。
在一些实施方案中，存储于存储器102中的软件部件包括操作系统126、通信模块(或指令集)128、接触/运动模块(或指令集)130、图形模块(或指令集)132、文本输入模块(或指令集)134、全球定位系统(GPS)模块(或指令集)135以及应用程序(或指令集)136。此外，在一些实施方案中，存储器102(图1A)或370(图3)存储设备/全局内部状态157，如图1A和图3中所示。设备/全局内部状态157包括以下中的一者或多者：活动应用程序状态，其指示哪些应用程序(如果有的话)当前是活动的；显示状态，其指示什么应用程序、视图或其他信息占据触摸屏显示器112的各个区域；传感器状态，包括从设备的各个传感器和输入控制设备116获得的信息；以及关于设备的位置和/或姿态的位置信息。
操作系统126(例如，Darwin、RTXC、LINUX、UNIX、OS X、iOS、WINDOWS或嵌入式操作系统诸如VxWorks)包括用于控制和管理一般系统任务(例如，存储器管理、存储设备控制、功率管理等)的各种软件部件和/或驱动器，并且促进各种硬件部件和软件部件之间的通信。
通信模块128有利于通过一个或多个外部端口124来与其他设备进行通信，并且还包括用于处理由RF电路108和/或外部端口124所接收的数据的各种软件部件。外部端口124(例如，通用串行总线(USB)、FIREWIRE等)适于直接耦接到其他设备，或间接地通过网络(例如，互联网、无线LAN等)进行耦接。在一些实施方案中，外部端口是与
Figure BDA0002395249260000191
(Apple Inc.的商标)设备上所使用的30针连接器相同的或类似的和/或与其兼容的多针(例如，30针)连接器。
接触/运动模块130任选地检测与触摸屏112(结合显示控制器156)和其他触敏设备(例如，触摸板或物理点击式转盘)的接触。接触/运动模块130包括各种软件部件以用于执行与接触检测相关的各种操作，诸如确定是否已经发生了接触(例如，检测手指按下事件)、确定接触强度(例如，接触的力或压力，或者接触的力或压力的替代物)、确定是否存在接触的移动并跟踪在触敏表面上的移动(例如，检测一个或多个手指拖动事件)，以及确定接触是否已经停止(例如，检测手指抬起事件或者接触断开)。接触/运动模块130从触敏表面接收接触数据。确定接触点的移动任选地包括确定接触点的速率(量值)、速度(量值和方向)和/或加速度(量值和/或方向的改变)，所述接触点的移动由一系列接触数据表示。这些操作任选地被应用于单点接触(例如，单指接触)或者多点同时接触(例如，“多点触摸”/多个手指接触)。在一些实施方案中，接触/运动模块130和显示控制器156检测触控板上的接触。
在一些实施方案中，接触/运动模块130使用一组一个或多个强度阈值来确定操作是否已由用户执行(例如，确定用户是否已“点击”图标)。在一些实施方案中，根据软件参数来确定强度阈值的至少一个子集(例如，强度阈值不是由特定物理致动器的激活阈值来确定的，并且可在不改变设备100的物理硬件的情况下被调节)。例如，在不改变触控板或触摸屏显示器硬件的情况下，触控板或触摸屏的鼠标“点击”阈值可被设定成预定义的阈值的大范围中的任一个阈值。另外，在一些具体实施中，向设备的用户提供用于调节一组强度阈值中的一个或多个强度阈值(例如，通过调节各个强度阈值和/或通过利用对“强度”参数的系统级点击来一次调节多个强度阈值)的软件设置。
接触/运动模块130任选地检测由用户进行的手势输入。触敏表面上的不同手势具有不同的接触模式(例如，所检测到的接触的不同运动、计时和/或强度)。因此，任选地通过检测特定接触模式来检测手势。例如，检测手指轻击手势包括检测手指按下事件，然后在与手指按下事件相同的位置(或基本上相同的位置)处(例如，在图标的位置处)检测手指抬起(抬离)事件。作为另一个示例，在触敏表面上检测手指轻扫手势包括检测手指按下事件，然后检测一个或多个手指拖动事件，并且随后检测手指抬起(抬离)事件。
图形模块132包括用于在触摸屏112或其他显示器上呈现和显示图形的各种已知的软件部件，包括用于改变所显示的图形的视觉冲击(例如，亮度、透明度、饱和度、对比度或其他视觉属性)的部件。如本文所用，术语“图形”包括可被显示给用户的任何对象，其非限制性地包括文本、网页、图标(诸如包括软键的用户界面对象)、数字图像、视频、动画等。
在一些实施方案中，图形模块132存储表示待使用的图形的数据。每个图形任选地被分配有对应的代码。图形模块132从应用程序等接收指定待显示的图形的一个或多个代码，在必要的情况下还一起接收坐标数据和其他图形属性数据，并且然后生成屏幕图像数据，以输出至显示控制器156。
触觉反馈模块133包括用于生成指令的各种软件部件，该指令由触觉输出发生器167用于响应于用户与设备100的交互而在设备100上的一个或多个位置处产生触觉输出。
任选地为图形模块132的部件的文本输入模块134提供用于在各种应用程序(例如，联系人137、电子邮件140、IM 141、浏览器147和需要文本输入的任何其他应用程序)中输入文本的软键盘。
GPS模块135确定设备的位置，并提供该信息以供在各种应用程序中使用(例如提供给电话138以供在基于位置的拨号中使用；提供给相机143作为图片/视频元数据；以及提供给提供基于位置的服务的应用，诸如天气桌面小程序、本地黄页桌面小程序和地图/导航桌面小程序)。
应用程序136任选地包括以下模块(或指令集)或者其子集或超集：
·联系人模块137(有时称为通讯录或联系人列表)；
·电话模块138；
·视频会议模块139；
·电子邮件客户端模块140；
·即时消息(IM)模块141；
·健身支持模块142；
·用于静态图像和/或视频图像的相机模块143；
·图像管理模块144；
·视频播放器模块；
·音乐播放器模块；
·浏览器模块147；
·日历模块148；
·桌面小程序模块149，其任选地包括以下各项中的一者或多者：天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4、词典桌面小程序149-5、和由用户获取的其他桌面小程序、以及用户创建的桌面小程序149-6；
·用于形成用户创建的桌面小程序149-6的桌面小程序创建器模块150；
·搜索模块151；
·视频和音乐播放器模块152，其合并视频播放器模块和音乐播放器模块；
·记事本模块153；
·地图模块154；以及/或者
·在线视频模块155。
任选地存储在存储器102中的其他应用程序136的示例包括其他文字处理应用程序、其他图像编辑应用程序、绘图应用程序、呈现应用程序、支持JAVA的应用程序、加密、数字权益管理、语音识别和语音复制。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、和文本输入模块134，联系人模块137任选地用于管理通讯录或联系人列表(例如，存储在存储器102或存储器370中的联系人模块137的应用程序内部状态192中)，包括：向通讯录添加一个或多个姓名；从通讯录删除姓名；将电话号码、电子邮件地址、物理地址或其他信息与姓名关联；将图像与姓名关联；对姓名进行归类和分类；提供电话号码或电子邮件地址来发起和/或促进通过电话138、视频会议模块139、电子邮件140或IM 141进行的通信；等等。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134，电话模块138任选地用于输入与电话号码对应的字符序列、访问联系人模块137中的一个或多个电话号码、修改已输入的电话号码、拨打相应的电话号码、进行会话，以及当会话完成时断开或挂断。如上所述，无线通信任选地使用多种通信标准、协议和技术中的任一种。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132、文本输入模块134、联系人模块137和电话模块138，视频会议模块139包括根据用户指令来发起、执行和终止用户与一个或多个其他参与者之间的视频会议的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134，电子邮件客户端模块140包括响应于用户指令来创建、发送、接收和管理电子邮件的可执行指令。结合图像管理模块144，电子邮件客户端模块140使得非常容易创建和发送具有由相机模块143拍摄的静态图像或视频图像的电子邮件。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134，即时消息模块141包括用于以下操作的可执行指令：输入与即时消息对应的字符序列、修改先前输入的字符、传输相应即时消息(例如，使用短消息服务(SMS)或多媒体消息服务(MMS)协议以用于基于电话的即时消息或者使用XMPP、SIMPLE、或IMPS以用于基于互联网的即时消息)、接收即时消息以及查看所接收的即时消息。在一些实施方案中，所传输和/或接收的即时消息任选地包括图形、照片、音频文件、视频文件和/或MMS和/或增强消息服务(EMS)中所支持的其他附件。如本文所用，“即时消息”是指基于电话的消息(例如，使用SMS或MMS发送的消息)和基于互联网的消息(例如，使用XMPP、SIMPLE或IMPS发送的消息)两者。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135、地图模块154和音乐播放器模块，健身支持模块142包括用于创建健身(例如，具有时间、距离和/或卡路里燃烧目标)的可执行指令；与健身传感器(运动设备)进行通信；接收健身传感器数据；校准用于监视健身的传感器；为健身选择和播放音乐；以及显示、存储和传输健身数据。
结合触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132和图像管理模块144，相机模块143包括用于以下操作的可执行指令：捕获静态图像或视频(包括视频流)并且将它们存储到存储器102中、修改静态图像或视频的特征，或从存储器102删除静态图像或视频。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、和相机模块143，图像管理模块144包括用于排列、修改(例如，编辑)、或以其他方式操控、加标签、删除、呈现(例如，在数字幻灯片或相册中)、以及存储静态图像和/或视频图像的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134，浏览器模块147包括用于根据用户指令来浏览互联网，包括搜索、链接至、接收和显示网页或其部分，以及链接至网页的附件和其他文件的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、电子邮件客户端模块140和浏览器模块147，日历模块148包括根据用户指令来创建、显示、修改和存储日历以及与日历相关联的数据(例如，日历条目、待办事项等)的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147，桌面小程序模块149是任选地由用户下载和使用的微型应用程序(例如，天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4和词典桌面小程序149-5)或由用户创建的微型应用程序(例如，用户创建的桌面小程序149-6)。在一些实施方案中，桌面小程序包括HTML(超文本标记语言)文件、CSS(层叠样式表)文件和JavaScript文件。在一些实施方案中，桌面小程序包括XML(可扩展标记语言)文件和JavaScript文件(例如，Yahoo！桌面小程序)。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147，桌面小程序创建器模块150任选地被用户用于创建桌面小程序(例如，将网页的用户指定部分转变为桌面小程序)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134，搜索模块151包括根据用户指令在存储器102中搜索匹配一个或多个搜索条件(例如，一个或多个用户指定的搜索词)的文本、音乐、声音、图像、视频和/或其他文件的可执行指令。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、和浏览器模块147，视频和音乐播放器模块152包括允许用户下载和回放以一种或多种文件格式诸如MP3或AAC文件存储的所记录的音乐和其他声音文件的可执行指令，以及用于显示、呈现或以其他方式回放视频(例如，在触摸屏112上或在经由外部端口124连接的外部显示器上)的可执行指令。在一些实施方案中，设备100任选地包括MP3播放器诸如iPod(Apple Inc.的商标)的功能。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134，记事本模块153包括用于根据用户指令来创建和管理记事本、待办事项等的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135和浏览器模块147，地图模块154任选地用于根据用户指令接收、显示、修改和存储地图以及与地图相关联的数据(例如，驾驶方向、与特定位置处或附近的商店及其他兴趣点有关的数据，以及其他基于位置的数据)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、文本输入模块134、电子邮件客户端模块140和浏览器模块147，在线视频模块155包括用于执行以下操作的指令：允许用户访问、浏览、接收(例如，通过流式传输和/或下载)、回放(例如在触摸屏上或在经由外部端口124所连接的外部显示器上)、发送具有至特定在线视频的链接的电子邮件，以及以其他方式管理一种或多种文件格式诸如H.264的在线视频。在一些实施方案中，使用即时消息模块141而不是电子邮件客户端模块140来发送特定在线视频的链接。在线视频应用程序的其他描述可见于2007年6月20日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国临时专利申请No.60/936,562和2007年12月31日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国专利申请No.11/968,067，这两个专利申请的内容据此全文以引用方式并入本文。
上述每个模块和应用程序对应于用于执行上述一种或多种功能以及在本专利申请中所述的方法(例如，本文所述的计算机实现的方法和其他信息处理方法)的可执行指令集。这些模块(例如，指令集)不必以独立的软件程序、过程或模块实现，因此这些模块的各种子集任选地在各种实施方案中组合或以其他方式重新布置。例如，视频播放器模块任选地与音乐播放器模块组合成单个模块(例如，图1A中的视频和音乐播放器模块152)。在一些实施方案中，存储器102任选地存储上述模块和数据结构的子组。此外，存储器102任选地存储上文未描述的附加模块和数据结构。
在一些实施方案中，设备100是该设备上的预定义的一组功能的操作唯一地通过触摸屏和/或触摸板来执行的设备。通过使用触摸屏和/或触控板作为用于操作设备100的主要输入控制设备，任选地减少设备100上的物理输入控制设备(例如，下压按钮、拨盘等等)的数量。
唯一地通过触摸屏和/或触控板来执行的预定义的一组功能任选地包括在用户界面之间的导航。在一些实施方案中，触摸板在被用户触摸时将设备100从设备100上显示的任何用户界面导航到主菜单、home菜单或根菜单。在此类实施方案中，使用触控板来实现“菜单按钮”。在一些其他实施方案中，菜单按钮是物理下压按钮或者其他物理输入控制设备，而不是触控板。
图1B是示出根据一些实施方案的用于事件处理的示例性部件的框图。在一些实施方案中，存储器102(图1A)或存储器370(图3)包括事件分类器170(例如，在操作系统126中)以及相应的应用程序136-1(例如，前述应用程序137至151、155、380至390中的任一个应用程序)。
事件分类器170接收事件信息并确定要将事件信息递送到的应用程序136-1和应用程序136-1的应用程序视图191。事件分类器170包括事件监视器171和事件分配器模块174。在一些实施方案中，应用程序136-1包括应用程序内部状态192，该应用程序内部状态指示当应用程序是活动的或正在执行时被显示在触敏显示器112上的一个或多个当前应用程序视图。在一些实施方案中，设备/全局内部状态157被事件分类器170用来确定哪个(哪些)应用程序当前是活动的，并且应用程序内部状态192被事件分类器170用来确定要将事件信息递送到的应用程序视图191。
在一些实施方案中，应用程序内部状态192包括附加信息，诸如以下各项中的一者或多者：当应用程序136-1恢复执行时将被使用的恢复信息、指示正在被应用程序136-1显示或准备好用于被该应用程序显示的信息的用户界面状态信息、用于使用户能够返回到应用程序136-1的前一状态或视图的状态队列，以及用户采取的先前动作的重复/撤销队列。
事件监视器171从外围设备接口118接收事件信息。事件信息包括关于子事件(例如，触敏显示器112上的用户触摸，作为多点触摸手势的一部分)的信息。外围设备接口118传输其从I/O子系统106或传感器诸如接近传感器166、一个或多个加速度计168和/或麦克风113(通过音频电路110)接收的信息。外围设备接口118从I/O子系统106接收的信息包括来自触敏显示器112或触敏表面的信息。
在一些实施方案中，事件监视器171以预先确定的间隔将请求发送至外围设备接口118。作为响应，外围设备接口118传输事件信息。在其他实施方案中，外围设备接口118仅当存在显著事件(例如，接收到高于预先确定的噪声阈值和/或接收到超过预先确定的持续时间的输入)时才传输事件信息。
在一些实施方案中，事件分类器170还包括命中视图确定模块172和/或活动事件识别器确定模块173。
当触敏显示器112显示多于一个视图时，命中视图确定模块172提供用于确定子事件已在一个或多个视图内的什么地方发生的软件过程。视图由用户能够在显示器上看到的控件和其他元素构成。
与应用程序相关联的用户界面的另一方面是一组视图，本文中有时也称为应用程序视图或用户界面窗口，在其中显示信息并且发生基于触摸的手势。在其中检测到触摸的(相应应用程序的)应用程序视图任选地对应于在应用程序的程序化或视图分级结构内的程序化水平。例如，在其中检测到触摸的最低水平视图任选地被称为命中视图，并且被识别为正确输入的事件集任选地至少部分地基于初始触摸的命中视图来确定，所述初始触摸开始基于触摸的手势。
命中视图确定模块172接收与基于触摸的手势的子事件相关的信息。当应用程序具有以分级结构组织的多个视图时，命中视图确定模块172将命中视图识别为应当对子事件进行处理的分级结构中的最低视图。在大多数情况下，命中视图是发起子事件(例如，形成事件或潜在事件的子事件序列中的第一子事件)在其中发生的最低水平视图。一旦命中视图被命中视图确定模块172识别，命中视图便通常接收与其被识别为命中视图所针对的同一触摸或输入源相关的所有子事件。
活动事件识别器确定模块173确定视图分级结构内的哪个或哪些视图应接收特定子事件序列。在一些实施方案中，活动事件识别器确定模块173确定仅命中视图应接收特定子事件序列。在其他实施方案中，活动事件识别器确定模块173确定包括子事件的物理位置的所有视图是活跃参与的视图，并因此确定所有活跃参与的视图都应接收特定子事件序列。在其他实施方案中，即使触摸子事件完全被局限到与一个特定视图相关联的区域，分级结构中的较高视图将仍然保持为活跃参与的视图。
事件分配器模块174将事件信息分配到事件识别器(例如，事件识别器180)。在包括活动事件识别器确定模块173的实施方案中，事件分配器模块174将事件信息递送到由活动事件识别器确定模块173确定的事件识别器。在一些实施方案中，事件分配器模块174在事件队列中存储事件信息，该事件信息由相应事件接收器182进行检索。
在一些实施方案中，操作系统126包括事件分类器170。另选地，应用程序136-1包括事件分类器170。在又一个实施方案中，事件分类器170是独立模块，或者是存储在存储器102中的另一个模块(诸如，接触/运动模块130)的一部分。
在一些实施方案中，应用程序136-1包括多个事件处理程序190和一个或多个应用程序视图191，其中的每一个都包括用于处理发生在应用程序的用户界面的相应视图内的触摸事件的指令。应用程序136-1的每个应用程序视图191包括一个或多个事件识别器180。通常，相应应用程序视图191包括多个事件识别器180。在其他实施方案中，事件识别器180中的一个或多个事件识别器是独立模块的一部分，该独立模块为诸如用户界面工具包(未示出)或应用程序136-1从中继承方法和其他属性的较高级别的对象。在一些实施方案中，相应事件处理程序190包括以下各项中的一者或多者：数据更新器176、对象更新器177、GUI更新器178、和/或从事件分类器170接收的事件数据179。事件处理程序190任选地利用或调用数据更新器176、对象更新器177或GUI更新器178来更新应用程序内部状态192。另选地，应用程序视图191中的一个或多个应用程序视图包括一个或多个相应事件处理程序190。另外，在一些实施方案中，数据更新器176、对象更新器177和GUI更新器178中的一者或多者被包括在相应应用程序视图191中。
相应的事件识别器180从事件分类器170接收事件信息(例如，事件数据179)，并且根据事件信息识别事件。事件识别器180包括事件接收器182和事件比较器184。在一些实施方案中，事件识别器180还包括元数据183和事件传递指令188(其任选地包括子事件递送指令)的至少一个子集。
事件接收器182从事件分类器170接收事件信息。事件信息包括关于子事件例如触摸或触摸移动的信息。根据子事件，事件信息还包括附加信息，诸如子事件的位置。当子事件涉及触摸的运动时，事件信息任选地还包括子事件的速率和方向。在一些实施方案中，事件包括设备从一个取向旋转到另一取向(例如，从纵向取向旋转到横向取向，或反之亦然)，并且事件信息包括关于设备的当前取向(也被称为设备姿态)的对应信息。
事件比较器184将事件信息与预定义的事件或子事件定义进行比较，并且基于该比较来确定事件或子事件，或者确定或更新事件或子事件的状态。在一些实施方案中，事件比较器184包括事件定义186。事件定义186包含事件的定义(例如，预定义的子事件序列)，例如事件1(187-1)、事件2(187-2)以及其他。在一些实施方案中，事件(187)中的子事件例如包括触摸开始、触摸结束、触摸移动、触摸取消和多点触摸。在一个示例中，事件1(187-1)的定义是被显示对象上的双击。例如，双击包括被显示对象上的预先确定时长的第一触摸(触摸开始)、预先确定时长的第一抬离(触摸结束)、被显示对象上的预先确定时长的第二触摸(触摸开始)以及预先确定时长的第二抬离(触摸结束)。在另一个示例中，事件2(187-2)的定义是被显示对象上的拖动。例如，拖动包括被显示对象上的预先确定时长的触摸(或接触)、触摸在触敏显示器112上的移动、以及触摸的抬离(触摸结束)。在一些实施方案中，事件还包括用于一个或多个相关联的事件处理程序190的信息。
在一些实施方案中，事件定义187包括对用于相应用户界面对象的事件的定义。在一些实施方案中，事件比较器184执行命中测试以确定哪个用户界面对象与子事件相关联。例如，在触敏显示器112上显示三个用户界面对象的应用程序视图中，当在触敏显示器112上检测到触摸时，事件比较器184执行命中测试以确定这三个用户界面对象中的哪一个用户界面对象与该触摸(子事件)相关联。如果每个所显示对象与相应事件处理程序190相关联，则事件比较器使用该命中测试的结果来确定哪个事件处理程序190应当被激活。例如，事件比较器184选择与子事件和触发该命中测试的对象相关联的事件处理程序。
在一些实施方案中，相应事件(187)的定义还包括延迟动作，该延迟动作延迟事件信息的递送，直到已确定子事件序列确实对应于或不对应于事件识别器的事件类型。
当相应事件识别器180确定子事件序列不与事件定义186中的任何事件匹配时，该相应事件识别器180进入事件不可能、事件失败或事件结束状态，在此之后忽略基于触摸的手势的后续子事件。在这种情况下，对于命中视图保持活动的其他事件识别器(如果有的话)继续跟踪并处理持续进行的基于触摸的手势的子事件。
在一些实施方案中，相应事件识别器180包括具有指示事件递送系统应当如何执行对活跃参与的事件识别器的子事件递送的可配置属性、标记和/或列表的元数据183。在一些实施方案中，元数据183包括指示事件识别器彼此如何交互或如何能够交互的可配置属性、标志和/或列表。在一些实施方案中，元数据183包括指示子事件是否递送到视图或程序化分级结构中的不同层级的可配置属性、标志和/或列表。
在一些实施方案中，当事件的一个或多个特定子事件被识别时，相应事件识别器180激活与事件相关联的事件处理程序190。在一些实施方案中，相应事件识别器180将与事件相关联的事件信息递送到事件处理程序190。激活事件处理程序190不同于将子事件发送(和延期发送)到相应命中视图。在一些实施方案中，事件识别器180抛出与所识别的事件相关联的标记，并且与该标记相关联的事件处理程序190获取该标记并执行预定义过程。
在一些实施方案中，事件递送指令188包括递送关于子事件的事件信息而不激活事件处理程序的子事件递送指令。相反，子事件递送指令将事件信息递送到与子事件序列相关联的事件处理程序或者递送到活跃参与的视图。与子事件序列或与活跃参与的视图相关联的事件处理程序接收事件信息并执行预先确定的过程。
在一些实施方案中，数据更新器176创建并更新在应用程序136-1中使用的数据。例如，数据更新器176对联系人模块137中所使用的电话号码进行更新，或者对视频播放器模块中所使用的视频文件进行存储。在一些实施方案中，对象更新器177创建并更新在应用程序136-1中使用的对象。例如，对象更新器177创建新的用户界面对象或更新用户界面对象的位置。GUI更新器178更新GUI。例如，GUI更新器178准备显示信息，并且将显示信息发送到图形模块132用以显示在触敏显示器上。
在一些实施方案中，事件处理程序190包括数据更新器176、对象更新器177和GUI更新器178，或具有对该数据更新器、该对象更新器和该GUI更新器的访问权限。在一些实施方案中，数据更新器176、对象更新器177和GUI更新器178被包括在相应应用程序136-1或应用程序视图191的单个模块中。在其他实施方案中，它们被包括在两个或更多个软件模块中。
应当理解，关于触敏显示器上的用户触摸的事件处理的上述论述还适用于利用输入设备来操作多功能设备100的其他形式的用户输入，并不是所有用户输入都是在触摸屏上发起的。例如，任选地与单次或多次键盘按下或按住协作的鼠标移动和鼠标按钮按下；触控板上的接触移动，诸如轻击、拖动、滚动等；触笔输入；设备的移动；口头指令；检测到的眼睛移动；生物特征输入；和/或它们的任何组合任选地被用作对应于限定要识别的事件的子事件的输入。
图2示出了根据一些实施方案的具有触摸屏112的便携式多功能设备100。触摸屏任选地在用户界面(UI)200内显示一个或多个图形。在本实施方案以及下文所述的其他实施方案中，用户能够通过例如利用一根或多根手指202(在图中未按比例绘制)或一支或多支触笔203(在图中未按比例绘制)在图形上作出手势来选择这些图形中的一个或多个图形。在一些实施方案中，当用户中断与一个或多个图形的接触时，将发生对一个或多个图形的选择。在一些实施方案中，手势任选地包括一次或多次轻击、一次或多次轻扫(从左向右、从右向左、向上和/或向下)和/或已与设备100发生接触的手指的滚动(从右向左、从左向右、向上和/或向下)。在一些具体实施中或在一些情况下，不经意地与图形接触不会选择图形。例如，当与选择对应的手势是轻击时，在应用程序图标上方扫动的轻扫手势任选地不会选择对应的应用程序。
设备100任选地还包括一个或多个物理按钮，诸如“home”或菜单按钮204。如前所述，菜单按钮204任选地用于导航到任选地在设备100上被执行的一组应用程序中的任何应用程序136。另选地，在一些实施方案中，菜单按钮被实现为被显示在触摸屏112上的GUI中的软键。
在一些实施方案中，设备100包括触摸屏112、菜单按钮204、用于使设备开机/关机和用于锁定设备的下压按钮206、一个或多个音量调节按钮208、用户身份模块(SIM)卡槽210、耳麦插孔212和对接/充电外部端口124。下压按钮206任选地用于通过压下该按钮并且将该按钮保持在压下状态持续预定义的时间间隔来对设备进行开/关机；通过压下该按钮并在该预定义的时间间隔过去之前释放该按钮来锁定设备；和/或对设备进行解锁或发起解锁过程。在另选的实施方案中，设备100还通过麦克风113接受用于激活或去激活某些功能的语音输入。设备100还任选地包括用于检测触摸屏112上的接触的强度的一个或多个接触强度传感器165，和/或用于为设备100的用户生成触觉输出的一个或多个触觉输出发生器167。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。设备300不必是便携式的。在一些实施方案中，设备300是膝上型电脑、台式计算机、平板电脑、多媒体播放器设备、导航设备、教育设备(诸如儿童学习玩具)、游戏系统或控制设备(例如，家用控制器或工业用控制器)。设备300通常包括一个或多个处理单元(CPU)310、一个或多个网络或其他通信接口360、存储器370和用于使这些部件互连的一条或多条通信总线320。通信总线320任选地包括使系统部件互连并且控制系统部件之间的通信的电路(有时称作芯片组)。设备300包括具有显示器340的输入/输出(I/O)接口330，该显示器通常是触摸屏显示器。I/O接口330还任选地包括键盘和/或鼠标(或其他指向设备)350和触摸板355、用于在设备300上生成触觉输出的触觉输出发生器357(例如，类似于上文参考图1A所述的触觉输出发生器167)、传感器359(例如，光学传感器、加速度传感器、接近传感器、触敏传感器和/或接触强度传感器(类似于上文参考图1A所述的接触强度传感器165))。存储器370包括高速随机存取存储器，诸如DRAM、SRAM、DDR RAM，或其他随机存取固态存储器设备；并且任选地包括非易失性存储器，诸如一个或多个磁盘存储设备、光盘存储设备、闪存存储器设备或其他非易失性固态存储设备。存储器370任选地包括远离CPU 310定位的一个或多个存储设备。在一些实施方案中，存储器370存储与便携式多功能设备100(图1A)的存储器102中存储的程序、模块和数据结构类似的程序、模块和数据结构或其子集。此外，存储器370任选地存储在便携式多功能设备100的存储器102中不存在的附加程序、模块和数据结构。例如，设备300的存储器370任选地存储绘图模块380、呈现模块382、文字处理模块384、网站创建模块386、盘编辑模块388、和/或电子表格模块390，而便携式多功能设备100(图1A)的存储器102任选地不存储这些模块。
图3中的上述元素中的每个元素任选地存储于先前提到的存储器设备的一个或多个存储器设备中。上述模块中的每个模块对应于用于执行上述功能的指令集。上述模块或程序(例如，指令集)不必被实现为单独的软件程序、过程或模块，并且因此这些模块的各种子集任选地在各种实施方案中被组合或以其他方式重新布置。在一些实施方案中，存储器370任选地存储上述模块和数据结构的子组。此外，存储器370任选地存储上文未描述的附加模块和数据结构。
现在将注意力转到任选地在例如便携式多功能设备100上实现的用户界面的实施方案。
图4A示出了根据一些实施方案的便携式多功能设备100上的应用程序菜单的示例性用户界面。类似的用户界面任选地在设备300上实现。在一些实施方案中，用户界面400包括以下元件或者其子集或超集：
·一个或多个无线通信诸如蜂窝信号和Wi-Fi信号的一个或多个信号强度指示器402；
·时间404；
·蓝牙指示器405；
·电池状态指示器406；
·具有针对常用应用程序的图标的托盘408，该图标诸如：
○电话模块138的被标记为“电话”的图标416，该图标416任选地包括未接来电或语音留言的数量的指示符414；
○电子邮件客户端模块140的被标记为“邮件”的图标418，该图标418任选地包括未读电子邮件的数量的指示符410；
○浏览器模块147的标记为“浏览器”的图标420；以及
○视频和音乐播放器模块152(也称为iPod(苹果公司(Apple Inc.)的商标)模块152)的被标记为“iPod”的图标422；以及
·其他应用的图标，诸如：
○IM模块141的被标记为“消息”的图标424；
○日历模块148的被标记为“日历”的图标426；
○图像管理模块144的被标记为“照片”的图标428；
○相机模块143的被标记为“相机”的图标430；
○在线视频模块155的被标记为“在线视频”的图标432；
○股市桌面小程序149-2的被标记为“股市”的图标434；
○地图模块154的被标记为“地图”的图标436；
○天气桌面小程序149-1的被标记为“天气”的图标438；
○闹钟桌面小程序149-4的被标记为“时钟”的图标440；
○健身支持模块142的被标记为“健身支持”的图标442；
○记事本模块153的标记为“记事本”的图标444；以及
○设置应用程序或模块的被标记为“设置”的图标446，该图标提供对设备100及其各种应用程序136的设置的访问。
应当指出的是，图4A中示出的图标标签仅是示例性的。例如，视频和音乐播放器模块152的图标422被标记“音乐”或“音乐播放器”。对于各种应用程序图标任选地使用其他标签。在一些实施方案中，相应应用程序图标的标签包括与该相应应用程序图标对应的应用程序的名称。在一些实施方案中，特定应用程序图标的标签不同于与该特定应用程序图标对应的应用程序的名称。
图4B示出了具有与显示器450(例如，触摸屏显示器112)分开的触敏表面451(例如，图3的平板电脑或触摸板355)的设备(例如，图3的设备300)上的示例性用户界面。设备300还任选地包括用于检测触敏表面451上的接触的强度的一个或多个接触强度传感器(例如，传感器359中的一个或多个传感器)和/或用于为设备300的用户生成触觉输出的一个或多个触觉输出发生器357。
尽管将参考触摸屏显示器112(其中组合了触敏表面和显示器)上的输入给出以下示例中的一些示例，但是在一些实施方案中，设备检测与显示器分开的触敏表面上的输入，如图4B中所示。在一些实施方案中，触敏表面(例如，图4B中的451)具有与显示器(例如，450)上的主轴(例如，图4B中的453)对应的主轴(例如，图4B中的452)。根据这些实施方案，设备检测在与显示器上的相应位置对应的位置(例如，在图4B中，460对应于468并且462对应于470)处与触敏表面451的接触(例如，图4B中的460和462)。这样，当触敏表面(例如，图4B中的451)与多功能设备的显示器(例如，图4B中的450)分开时，由设备在该触敏表面上检测到的用户输入(例如，接触460和462以及它们的移动)被该设备用于操纵该显示器上的用户界面。应当理解，类似的方法任选地用于本文所述的其他用户界面。
另外，虽然主要是参考手指输入(例如，手指接触、单指轻击手势、手指轻扫手势)来给出下面的示例，但是应当理解的是，在一些实施方案中，这些手指输入中的一个或多个手指输入由来自另一输入设备的输入(例如，基于鼠标的输入或触笔输入)替代。例如，轻扫手势任选地由鼠标点击(例如，而不是接触)，之后是光标沿着轻扫的路径的移动(例如，而不是接触的移动)替代。又如，轻击手势任选地由在光标位于轻击手势的位置上方时的鼠标点击(例如，代替对接触的检测，之后是停止检测接触)替代。类似地，当同时检测到多个用户输入时，应当理解的是，多个计算机鼠标任选地被同时使用，或鼠标和手指接触任选地被同时使用。
图5A示出了示例性个人电子设备500。设备500包括主体502。在一些实施方案中，设备500可包括相对于设备100和300(例如，图1A至图4B)所述的特征中的一些或全部特征。在一些实施方案中，设备500具有在下文中称为触摸屏504的触敏显示屏504。作为触摸屏504的替代或补充，设备500具有显示器和触敏表面。与设备100和300的情况一样，在一些实施方案中，触摸屏504(或触敏表面)任选地包括用于检测所施加的接触(例如，触摸)强度的一个或多个强度传感器。触摸屏504(或触敏表面)的一个或多个强度传感器可提供表示触摸的强度的输出数据。设备500的用户界面可基于触摸的强度来对触摸作出响应，这意味着不同强度的触摸可调用设备500上的不同用户界面操作。
用于检测和处理触摸强度的示例性技术见于例如以下相关专利申请中：2013年5月8日提交的名称为“Device,Method,and Graphical User Interface for DisplayingUser Interface Objects Corresponding to an Application”的国际专利申请序列No.PCT/US2013/040061，发布为WIPO专利公开No.WO/2013/169849；以及2013年11月11日提交的名称为“Device,Method,and Graphical User Interface for TransitioningBetween Touch Input to Display Output Relationships”的国际专利申请序列No.PCT/US2013/069483，发布为WIPO专利公开No.WO/2014/105276，该每个专利申请据此全文以引用方式并入。
在一些实施方案中，设备500具有一个或多个输入机构506和508。输入机构506和508(如果包括的话)可以是物理形式的。物理输入机构的示例包括下压按钮和可旋转机构。在一些实施方案中，设备500具有一个或多个附接机构。此类附接机构(如果包括的话)可允许将设备500与例如帽子、眼镜、耳环、项链、衬衣、夹克、手镯、表带、手链、裤子、皮带、鞋子、钱包、背包等附接。这些附接机构允许用户穿戴设备500。
图5B示出了示例性个人电子设备500。在一些实施方案中，设备500可包括参考图1A、图1B和图3所述的部件中的一些或全部部件。设备500具有总线512，该总线将I/O部分514与一个或多个计算机处理器516和存储器518操作性地耦接。I/O部分514可连接到显示器504，该显示器可具有触敏部件522并且任选地具有强度传感器524(例如，接触强度传感器)。此外，I/O部分514可与通信单元530连接，用于使用Wi-Fi、蓝牙、近场通信(NFC)、蜂窝和/或其他无线通信技术来接收应用程序和操作系统数据。设备500可包括输入机构506和/或508。例如，输入机构506任选地是可旋转输入设备或者可按压输入设备以及可旋转输入设备。在一些示例中，输入机构508任选地是按钮。
在一些示例中，输入机构508任选地是麦克风。个人电子设备500任选地包括各种传感器，诸如GPS传感器532、加速度计534、定向传感器540(例如，罗盘)、陀螺仪536、运动传感器538和/或其组合，所有这些设备均可操作地连接到I/O部分514。
个人电子设备500的存储器518可包括用于存储计算机可执行指令的一个或多个非暂态计算机可读存储介质，该可执行指令当由一个或多个计算机处理器516执行时例如可使得计算机处理器执行下文描述的技术，包括过程700至过程900(图7A至图7B、图8和图9A至图9B)。计算机可读存储介质可以是可有形地包含或存储计算机可执行指令以供指令执行系统、装置和设备使用或与其结合的任何介质。在一些实施例中，存储介质是暂态计算机可读存储介质。在一些实施例中，存储介质是非暂态计算机可读存储介质。非暂态计算机可读存储介质可包括但不限于磁存储装置、光学存储装置、和/或半导体存储装置。此类存储装置的示例包括磁盘、基于CD、DVD或蓝光技术的光盘，以及持久性固态存储器诸如闪存、固态驱动器等。个人电子设备500不限于图5B的部件和配置，而是可包括多种配置中的其他部件或附加部件。
如本文所用，术语“示能表示”是指任选地在设备100、300和/或500(图1A、图3和图5A至图5B)的显示屏上显示的用户交互式图形用户界面对象。例如，图像(例如，图标)、按钮和文本(例如，超链接)任选地各自构成示能表示。
如本文所用，术语“焦点选择器”是指用于指示用户正与之进行交互的用户界面的当前部分的输入元件。在包括光标或其他位置标记的一些具体实施中，光标充当“焦点选择器”，使得当光标在特定用户界面元素(例如，按钮、窗口、滑块或其他用户界面元素)上方时在触敏表面(例如，图3中的触摸板355或图4B中的触敏表面451)上检测到输入(例如，按压输入)的情况下，该特定用户界面元素根据所检测到的输入而被调节。在包括能够实现与触摸屏显示器上的用户界面元素的直接交互的触摸屏显示器(例如，图1A中的触敏显示器系统112或图4A中的触摸屏112)的一些具体实施中，在触摸屏上所检测到的接触充当“焦点选择器”，使得当在触摸屏显示器上在特定用户界面元素(例如，按钮、窗口、滑块或其他用户界面元素)的位置处检测到输入(例如，由接触进行的按压输入)时，该特定用户界面元素根据所检测到的输入而被调节。在一些具体实施中，焦点从用户界面的一个区域移动到用户界面的另一个区域，而无需光标的对应移动或触摸屏显示器上的接触的移动(例如，通过使用制表键或箭头键将焦点从一个按钮移动到另一个按钮)；在这些具体实施中，焦点选择器根据焦点在用户界面的不同区域之间的移动而移动。不考虑焦点选择器所采取的具体形式，焦点选择器通常是由用户控制的以便递送与用户界面的用户预期的交互(例如，通过向设备指示用户界面的用户期望与其进行交互的元素)的用户界面元素(或触摸屏显示器上的接触)。例如，在触敏表面(例如，触控板或触摸屏)上检测到按压输入时，焦点选择器(例如，光标、接触或选择框)在相应按钮上方的位置将指示用户期望激活相应按钮(而不是设备显示器上示出的其他用户界面元素)。
如说明书和权利要求中所使用的，接触的“特征强度”这一术语是指基于接触的一个或多个强度的接触的特征。在一些实施方案中，特征强度基于多个强度样本。特征强度任选地基于相对于预定义事件(例如，在检测到接触之后，在检测到接触抬离之前，在检测到接触开始移动之前或之后，在检测到接触结束之前，在检测到接触的强度增大之前或之后和/或在检测到接触的强度减小之前或之后)而言在预先确定的时间段(例如，0.05秒、0.1秒、0.2秒、0.5秒、1秒、2秒、5秒、10秒)期间采集的预定义数量的强度样本或一组强度样本。接触的特征强度任选地基于以下各项中的一者或多者：接触的强度的最大值、接触的强度的均值、接触的强度的平均值、接触的强度的前10％处的值、接触的强度的半最大值、接触的强度的90％最大值等。在一些实施方案中，在确定特征强度时使用接触的持续时间(例如，在特征强度是接触的强度在时间上的平均值时)。在一些实施方案中，将特征强度与一组一个或多个强度阈值进行比较，以确定用户是否已执行操作。例如，该组一个或多个强度阈值任选地包括第一强度阈值和第二强度阈值。在该示例中，特征强度未超过第一阈值的接触导致第一操作，特征强度超过第一强度阈值但未超过第二强度阈值的接触导致第二操作，而特征强度超过第二阈值的接触导致第三操作。在一些实施方案中，使用特征强度与一个或多个阈值之间的比较来确定是否要执行一个或多个操作(例如，是执行相应操作还是放弃执行相应操作)而不是用于确定执行第一操作还是第二操作。
图5C示出了利用多个强度传感器524A-524D检测触敏显示屏504上的多个接触552A-552E。图5C还包括强度图，其相对于强度单位示出了强度传感器524A-524D的当前强度测量值。在该实施例中，强度传感器524A和524D的强度测量值均是9个强度单位，并且强度传感器524B和524C的强度测量值均是7个强度单位。在一些具体实施中，累积强度是多个强度传感器524A-524D的强度测量值之和，在该实施例中是32个强度单位。在一些实施方案中，每个接触都被分配了相应强度，即累积强度的一部分。图5D示出了基于其与力554中心的距离而向接触552A-552E分配累积强度。在该实施例中，接触552A、552B和552E中的每个接触都被分配以累积强度的8个强度单位的接触的强度，并且接触552C和552D的中每个接触都被分配以累积强度的4个强度单位的接触的强度。更一般地，在一些具体实施中，每个接触j都根据预定义的数学函数Ij＝A·(Dj/ΣDi)被分配相应强度Ij，其为累积强度A的一部分，其中Dj是相应接触j距力中心的距离，并且ΣDi是所有相应接触(例如，i＝1到最后)距力中心的距离之和。可以利用类似于或等同于设备100、300或500的电子设备执行参考图5C-图5D所述的操作。在一些实施方案中，接触的特征强度基于接触的一个或多个强度。在一些实施方案中，强度传感器用于确定单个特征强度(例如，单个接触的单个特征强度)。应当指出，强度图不是所显示用户界面的部分，而是包括在图5C-图5D中以辅助读者。
在一些实施方案中，识别手势的一部分以用于确定特征强度。例如，触敏表面任选地接收连续的轻扫接触，该连续的轻扫接触从起始位置过渡并到达结束位置，在该结束位置处，接触强度增加。在该示例中，接触在结束位置处的特征强度任选地仅基于连续轻扫接触的一部分，而不是整个轻扫接触(例如，仅结束位置处的轻扫接触的部分)。在一些实施方案中，在确定接触的特征强度之前任选地向轻扫接触的强度应用平滑算法。例如，平滑化算法任选地包括以下各项中的一种或多种：不加权滑动平均平滑化算法、三角平滑化算法、中值滤波器平滑化算法和/或指数平滑化算法。在一些情况下，这些平滑化算法消除了轻扫接触的强度中的窄的尖峰或凹陷，以实现确定特征强度的目的。
任选地相对于一个或多个强度阈值诸如接触检测强度阈值、轻按压强度阈值、深按压强度阈值和/或一个或多个其他强度阈值来表征触敏表面上的接触强度。在一些实施方案中，轻按压强度阈值对应于这样的强度：在该强度下设备将执行通常与点击物理鼠标或触摸板的按钮相关联的操作。在一些实施方案中，深按压强度阈值对应于这样的强度：在该强度下设备将执行与通常与点击物理鼠标或触控板的按钮相关联的操作不同的操作。在一些实施方案中，当检测到特征强度低于轻按压强度阈值(例如，并且高于标称接触检测强度阈值，比标称接触检测强度阈值低的接触不再被检测到)的接触时，设备将根据接触在触敏表面上的移动来移动焦点选择器，而不执行与轻按压强度阈值或深按压强度阈值相关联的操作。一般来讲，除非另有陈述，否则这些强度阈值在不同组的用户界面附图之间是一致的。
接触特征强度从低于轻按压强度阈值的强度增大到介于轻按压强度阈值与深按压强度阈值之间的强度有时被称为“轻按压”输入。接触特征强度从低于深按压强度阈值的强度增大到高于深按压强度阈值的强度有时被称为“深按压”输入。接触特征强度从低于接触检测强度阈值的强度增大到介于接触检测强度阈值与轻按压强度阈值之间的强度有时被称为检测到触摸表面上的接触。接触特征强度从高于接触检测强度阈值的强度减小到低于接触检测强度阈值的强度有时被称为检测到接触从触摸表面抬离。在一些实施方案中，接触检测强度阈值为零。在一些实施方案中，接触检测强度阈值大于零。
在本文中所述的一些实施方案中，响应于检测到包括相应按压输入的手势或响应于检测到利用相应接触(或多个接触)执行的相应按压输入来执行一个或多个操作，其中至少部分地基于检测到该接触(或多个接触)的强度增大到高于按压输入强度阈值而检测到相应按压输入。在一些实施方案中，响应于检测到相应接触的强度增大到高于按压输入强度阈值(例如，相应按压输入的“向下冲程”)来执行相应操作。在一些实施方案中，按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于按压输入强度阈值，并且响应于检测到相应接触的强度随后减小到低于按压输入阈值(例如，相应按压输入的“向上冲程”)来执行相应操作。
图5E-图5H示出了对手势的检测，手势包括与接触562的强度从低于图5E中的轻按压强度阈值(例如，“ITL”)的强度增大到高于图5H中的深按压强度阈值(例如，“ITD”)的强度对应的按压输入。在所显示的包括预定义区域574中显示的应用图标572A-572D的用户界面570上，在与应用2对应的应用图标572B上方显示光标576时，在触敏表面560上检测利用接触562执行的手势。在一些实施方案中，在触敏显示器504上检测到手势。强度传感器检测触敏表面560上的接触的强度。该设备确定接触562的强度在深按压强度阈值(例如，“ITD”)以上达到峰值。在触敏表面560上保持接触562。响应于检测到手势，并且根据在手势期间强度升高到深按压强度阈值(例如，“ITD”)以上的接触562，显示最近为应用2打开的文档的缩比表示578A-578C(例如，缩略图)，如图5F-图5H所示。在一些实施方案中，与一个或多个强度阈值相比，强度是接触的特征强度。应当指出，针对接触562的强度图不是所显示用户界面的部分，而是包括在图5E-图5H中以辅助读者。
在一些实施方案中，表示578A-578C的显示包括动画。例如，表示578A一开始显示于应用图标572B的附近，如图5F所示。随着动画的进行，表示578A向上移动，并在应用图标572B附近显示表示578B，如图5G中所示。然后，表示578A向上移动，578B朝表示578A向上移动，并且在应用图标572B附近显示表示578C，如图5H中所示。表示578A-578C在图标572B上方形成阵列。在一些实施方案中，动画根据接触562的强度进展，如图5F-图5G中所示，其中表示578A-578C出现并随着接触562的强度向深按压强度阈值(例如，“ITD”)增大而向上移动。在一些实施方案中，动画进展所依据的强度是接触的特征强度。可以利用类似于或等同于设备100、300或500的电子设备执行参考图5E-图5H所述的操作。
在一些实施方案中，设备采用强度滞后以避免有时被称为“抖动”的意外输入，其中设备限定或选择与按压输入强度阈值具有预定义关系的滞后强度阈值(例如，滞后强度阈值比按压输入强度阈值低X个强度单位，或滞后强度阈值是按压输入强度阈值的75％、90％或某个合理比例)。因此，在一些实施方案中，按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于对应于按压输入强度阈值的滞后强度阈值，并且响应于检测到相应接触的强度随后减小到低于滞后强度阈值(例如，相应按压输入的“向上冲程”)来执行相应操作。类似地，在一些实施方案中，仅在设备检测到接触强度从等于或低于滞后强度阈值的强度增大到等于或高于按压输入强度阈值的强度并且任选地接触强度随后减小到等于或低于滞后强度的强度时才检测到按压输入，并且响应于检测到按压输入(例如，根据环境，接触强度增大或接触强度减小)来执行相应操作。
为了容易解释，任选地，响应于检测到以下各种情况中的任一种情况而触发对响应于与按压输入强度阈值相关联的按压输入或响应于包括按压输入的手势而执行的操作的描述：接触强度增大到高于按压输入强度阈值、接触强度从低于滞后强度阈值的强度增大到高于按压输入强度阈值的强度、接触强度减小到低于按压输入强度阈值、和/或接触强度减小到低于与按压输入强度阈值对应的滞后强度阈值。另外，在将操作描述为响应于检测到接触的强度减小到低于按压输入强度阈值而执行的示例中，任选地响应于检测到接触的强度减小到低于对应于并且小于按压输入强度阈值的滞后强度阈值来执行操作。
现在将注意力转到在电子设备(诸如便携式多功能设备100、设备300或设备500)上实现的用户界面(“UI”)以及相关联的过程的实施方案。
图6A至图6AF示出了根据一些实施方案的用于管理通信会话的示例性用户界面。这些附图中的用户界面用于示出下文描述的过程，包括图7A至图7B、图8和图9A至图9B中的过程。
图6A示出了电子设备602和电子设备652。每个电子设备对应于不同的用户。例如，设备602对应于第一用户(“Freddy”)并且设备602登录到对应于该第一用户的第一用户账户。又如，设备652对应于第二用户(“Nick”)并且设备652登录到对应于该第二用户的第二用户账户。设备602和设备652彼此远离。
设备602接收激活消息应用程序的用户输入(例如，对应于该消息应用程序的示能表示上的轻击)。如图6A所示，响应于接收到用户输入，设备602显示用于消息应用程序的用户界面604。用于消息应用程序的用户界面604包括用于访问多个会话的示能表示604a和用于开始新会话的示能表示604b。在图6A处，设备603接收示能表示604b上(例如，在对应于该示能表示的触敏表面上的位置处)的轻击输入606a。图6A中的设备652的显示器关闭。
在图6B处，响应于接收到轻击输入606a，设备602显示用于接收用户输入的会话的参与者的联系人信息的输入字段604c，用于输入信息(诸如联系人信息)的键盘604d，用于接收用户输入的消息(例如，使用键盘604d)的字段604f，以及用于将参与者添加到会话中的示能表示604e。图6B中的设备652的显示器关闭。
在图6C处，设备602接收示能表示604e上的轻击输入606b。设备602接收从通讯录中选择联系人的附加用户输入并且将选择的联系人添加到会话中作为参与者，如图6D中的字段604c所示。设备602还诸如通过使用键盘604d的语音输入或键盘输入来接收用户输入，如图6D所示，该用户输入以草稿消息(例如，不将消息传输到会话的参与者)的形式显示在字段604f中。在该示例中，草稿消息包括第一部分和第二部分，该第一部分不包括URL，该第二部分包括URL。URL是媒体文件的链接。图6C至图6D中的设备652的显示器关闭。
在图6E处，设备602接收用于发送草稿消息的示能表示604g上的轻击输入606c。图6E中的设备652的显示器关闭。
响应于接收到示能表示604g上的轻击输入606c，设备602将草稿消息的内容传输到会话的参与者并且，如图6F所示，在会话日志608中显示消息608a和消息608b。实时示能表示610提供了关于设备602当前是否正在将实时媒体流传输到会话的参与者的指示。在该示例中，实时示能表示610未被加粗，因此指示设备602未在将实时媒体流传输到会话的参与者。在一些示例中，关于设备602是否正在传输的指示包括以下各项中的一者或多者：实时示能表示610的颜色、尺寸和动画。设备602同时为除设备602的用户之外的通信会话的参与者显示多个虚拟化身618a、620a和622a。在该示例中，虚拟化身618a、620a和622a显示在会话日志608上方。虚拟化身618a、620a和622a与在会话日志608上方的实时示能表示610相邻。设备602还在每个虚拟化身的正下方显示由虚拟化身表示的相应参与者的姓名。会话日志608将虚拟化身618a、620a和622a与键盘604d分隔开。例如，虚拟化身618a是3D计算机生成的表示正在使用设备652参与会话的参与者Nick的图像。
在图6F处，设备652在处于锁定状态时从设备602接收消息并且在锁定屏幕654上显示通知654a，该通知包括接收到的消息的至少一部分并且任选地包括发送者(例如，“Freddy”)的指示。
在图6G处，设备602和设备652两者均从会话的另一参与者(“Lauren”)接收新消息。设备602在会话日志608中显示新消息608c。设备652在处于锁定状态时在锁定屏幕654上显示新消息654b。
在图6H处，设备602接收实时示能表示610上的轻击输入606d。在图6I处，响应于接收到实时示能表示610上的轻击输入606d，设备602显示菜单612，该菜单同时包括用于传输包括实时音频且不包括实时视频的实时媒体流的音频示能表示612a，用于传输包括实时音频和实时视频的实时媒体流的视频示能表示612b，以及用于继续不传输实时媒体流的取消示能表示612c。当同时显示音频示能表示612a、视频示能表示612b和取消示能表示612c时，设备602接收音频示能表示612a上的轻击输入604h。
如图6J至图6M所示，响应于接收到音频示能表示612a上的轻击输入604h，设备602向用户提供倒计时614以开始传输实时媒体流。在一些示例中，通过生成音频来提供倒计时(例如，使用设备602的扬声器播放的口头倒计时)。在一些示例中，通过触觉反馈来提供倒计时。在该示例中，通过倒计时614的视觉显示来提供倒计时，如图6J至图6M所示。倒计时614包括取消示能表示614a，该取消示能表示在被激活时取消倒计时而不开始传输实时媒体流。需注意，设备602在整个图6A至图6I中没有传输实时媒体流，如未被加粗的实时示能表示610所指示的。
在图6M处，响应于接收到音频示能表示612a上的轻击输入604h并且在倒计时已成功完成之后，设备602开始使用设备602的麦克风检测音频。在一些示例中，设备602在倒计时完成之前开始检测音频，但是不将该音频作为实时媒体流的一部分传输。在一些示例中，响应于接收到音频示能表示612a上的轻击输入604h，设备602放弃开始使用设备602的相机传感器来检测视频。
响应于接收到音频示能表示612a上的轻击输入604h并且在倒计时已成功完成之后，设备602开始将实时媒体流中的音频(无视频)传输到会话的参与者(除设备602的用户之外)。因为设备602已接收到音频示能表示612a而不是视频示能表示612b的激活，所以实时媒体流包括实时音频而不包括实时视频。在设备602已接收到示能表示612b的激活之后，实时媒体流将包括实时音频和实时视频。
如图6M所示，设备652接收会话的参与者正在流式传输实时媒体的指示。设备652在处于锁定状态时在锁定屏幕654上显示Freddy正在传输实时媒体流的通知654c。通知654c包括实时媒体流的发送者654e的指示以及通知针对实时媒体流以及任选地通知针对实时音频流(而不是实时视频流)的指示(诸如指示654d和指示654f)。
在图6N处，响应于设备602开始将实时媒体流传输到会话的参与者，设备602在会话日志608中显示指示设备602已经开始传输实时媒体流的通知608d。类似地，实时示能表示610提供了设备602正在将实时媒体流传输到会话的参与者的指示。在该示例中，实时示能表示610被加粗以指示设备602正在传输实时媒体流。另外，实时示能表示610被更新以包括音频指示符610a，该音频指示符根据设备602使用麦克风检测到的音频的音量(或频率)而变化(例如，在形状、尺寸和或颜色方面)。音频指示符610a向用户指示实时媒体流的状态并且向用户确认设备602正在正确检测用于实时媒体流中的音频。
图6N还示出了设备652在锁定屏幕654上接收通知654c上的输入656a。在一些示例中，设备652包括一个或多个强度传感器并且确定输入656a的特征强度是否超过强度阈值。根据输入656a的特征强度超过强度阈值，设备652向用户提供实时媒体流的预览而不打开对应的消息应用程序(并且任选地，不向其他参与者指示用户已加入会话)。根据输入656a的特征强度未超过强度阈值，设备652通过打开对应的消息应用程序向用户提供实时媒体流(并且任选地，向其他参与者指示用户已加入会话)。
如图6O所示，响应于设备652检测到输入656a，设备652显示用于消息应用程序的用户界面(包括会话日志658)。会话日志658包括从会话中的其他参与者接收到的消息658a-658c以及指示参与者(设备602的用户)已经开始传输实时媒体流的通知658d。通知658d包括加入示能表示658e，该加入示能表示在被激活时使得设备658加入实时媒体流(例如，开始向设备652的用户提供实时媒体流)。在一些示例中，响应于设备652检测到输入656a，设备652向用户提供(例如，通过扬声器)正由会话的参与者传输的实时媒体流，在这种情况下，实时音频由设备602传输。在一些示例中，响应于设备652检测到输入656a，设备652不向用户提供(例如，通过扬声器)正由会话的参与者传输的实时媒体流，直到接收到加入示能表示658e的激活。设备652同时为除设备652的用户之外的通信会话的参与者显示多个虚拟化身668a、670a和672a。在该示例中，虚拟化身668a、670a和672a显示在会话日志658上方。虚拟化身668a、670a和672a与实时示能表示660相邻。具体地，虚拟化身668a表示正在使用设备602参与会话的参与者Freddy。设备652还在每个虚拟化身的正下方显示由虚拟化身表示的相应参与者的名称。
在图6O处，设备602接收实时示能表示610上的轻击输入604i。在图6P处，响应于接收到实时示能表示610上的轻击输入604i，设备602显示菜单616，该菜单同时包括用于从传输实时音频转换到传输实时视频和实时音频的视频示能表示616a，用于停止传输实时媒体流的结束-音频示能表示616b，以及用于继续传输包括实时音频且不包括实时视频的实时媒体流的取消示能表示616c。
在图6P中，设备652接收加入示能表示658e上的轻击输入656b。响应于检测到加入示能表示658e的激活，如图6Q所示，除了向用户提供(例如，通过扬声器)正由会话的参与者传输的实时媒体流之外，在这种情况下，实时音频由设备602传输，设备652开始传输包括实时音频(且不包括实时视频)的实时媒体流。类似地，设备652更新将被加粗的实时示能表示660以向用户指示设备652正在将实时媒体流传输到会话的参与者。在图6Q处，设备652在会话日志658中显示通知658f，该通知指示参与者Freddy已经开始使用设备602传输包括实时音频的实时媒体流。因此，设备602从设备652接收实时音频并且在设备602的扬声器上输出从设备652接收的实时音频。另外，设备602通过在虚拟化身618a下方显示点618c来提供参与者Nick正在提供实时媒体流的指示，点618c被显示在参与者的姓名(“Nick”)旁边。设备652还在会话日志658中显示指示设备652正在将实时音频传输到会话的参与者的通知658g。
在图6Q处，当设备602正在将实时音频传输到会话的参与者时，设备602接收用于从传输实时音频转换到传输实时视频和实时音频的视频示能表示616a上的轻击输入604j。响应于设备602接收到视频示能表示616a上的轻击输入604j，设备602从不传输实时视频转换到传输实时视频和实时音频。
在图6R处，响应于设备602接收到视频示能表示616a上的轻击输入604j，设备602用会话的一个或多个参与者的虚拟化身618a、620a和622a替换会话日志608的显示。在一些示例中，设备602显示动画，该动画将会话日志上方显示的虚拟化身618a、620b和620c转换成通过放大虚拟化身、移动虚拟化身(例如，在显示器上向下移动)以及改变虚拟化身的形状(例如，从圆形变成矩形)来替换会话日志的网格。设备602还显示设备602的用户的虚拟化身624a。参与者Nick的虚拟化身618a是3D计算机生成的图像。指示618b指示参与者Nick正在传输实时音频。参与者Lauren的虚拟化身620a是从设备602的通讯录访问的静态图像。参与者Lauren没有传输实时媒体流(没有实时音频也没有实时视频)。参与者Giancarlo的虚拟化身622a是该参与者的首字母集。想法气泡622b指示参与者Giancarlo正在会话中键入草稿消息。设备602的用户(Freddy)的虚拟化身624a是使用设备602的相机(诸如前向相机)捕获的实时视频，该实时视频与设备602在实时媒体流中传输的实时视频相同。全屏示能表示624b在被激活时使得设备602放大虚拟化身624a，并且任选地替换虚拟化身618a、620a和622a的显示。相机示能表示624c在被激活时使得设备602将用户的实时视频流的来源从第一相机传感器(例如，前向相机)改变为第二相机传感器(例如，后向相机)。示能表示624d在被激活时使得设备602在传输实时音频但不传输实时视频和传输实时音频和实时视频之间转换。
在图6R处，设备652开始接收对应于参与者Freddy的实时视频。响应于接收到对应于参与者Freddy的实时视频，设备652更新参与者Freddy的虚拟化身668a以包括对应于参与者Freddy的实时视频。如图6R所示，设备652显示虚拟化身668a周围的环668b。在一些示例中，显示环668b指示参与者Freddy正在传输实时媒体流。在一些示例中，环668b的特征(例如，颜色、厚度、动画)指示参与者Freddy当前是否正在将实时媒体流传输到通信会话的参与者。在一些示例中，环668b的尺寸(和/或颜色、和/或形状)根据从参与者Freddy接收到的音频的音量(或频率)而变化。
在图6S处，参与者Lauren已经开始传输实时视频，并且因此设备602更新参与者Lauren的虚拟化身620a以包括正在从参与者Lauren接收到的实时视频。另外，设备620a基于从参与者Lauren接收到实时音频来显示具有虚拟化身620a的字幕示能表示620b。设备602已经从参与者Giancarlo接收到文本消息，并且因此设备602在具有参与者Giancarlo的虚拟化身622a的语音气泡622c中显示消息。如图6S所示，设备602a接收字幕示能表示620b上的轻击输入604k。响应于接收到字幕示能表示620b上的轻击输入604k，设备602诸如在图6U处开始显示参与者Lauren传输的音频的字幕620c。该字幕任选地在设备602a或远程服务器上转录。
在图6S处，参与者Lauren已经开始传输实时视频，并且因此设备652更新参与者Lauren的虚拟化身670a以包括正在从参与者Lauren接收到的实时视频。
如图6T至图6X所示，设备652接收从与显示器顶部相邻(例如，与手柄上的虚拟化身668a、670a和672a相邻)的位置处开始的向下轻扫用户输入656c。在轻扫用户输入656c朝向显示器的底部行进时，设备652继续接收该轻扫用户输入而不检测轻扫用户输入656c的抬离。随着轻扫用户输入656c行进(用手柄662)，设备652通过同时逐渐放大虚拟化身668a、670a和672a的尺寸，改变所显示的虚拟化身的形状(例如，从图6T中的圆形变成图6W中的矩形)，以及改变所显示的虚拟化身668a、670a和672a的位置(例如，从显示器顶部的1×3网格变成2×2网格)来转换参与者的虚拟化身668a、670a和672a的显示。
在图6V处，设备602接收相机示能表示624c上的轻击输入604l。如图6V和图6W所示，响应于接收到相机示能表示624c上的轻击输入604l，设备602将虚拟化身624a的实时视频从设备602的第一相机(例如，前向相机)转换到第二相机(例如，后向相机)。
在图6X处，设备602接收全屏示能表示624b上的轻击输入604m。如图6Y所示，响应于接收到全屏示能表示624b上的轻击输入604m，设备602诸如通过使用平滑动画来放大设备602的显示器上的虚拟化身624a。在图6Y处，虚拟化身674a表示设备652的参与者Nick。设备652接收示能表示674b上的轻击输入656d。响应于接收到轻击输入656d，设备652从传输实时音频但不传输实时视频转换到传输实时音频和实时视频(例如，通过使用前向相机传感器在设备652处开始捕获实时视频)，如图6Z中包括实时视频的虚拟化身674a所示。
在图6AA处，设备602已经转换回显示包括通知608e的消息日志608，该通知指示设备652的参与者Nick之前已经开始传输作为实时媒体流的一部分的实时视频。在该示例中，设备602继续传输实时媒体流中的实时视频，如加粗的实时示能表示610所指示的。类似地，设备652已经转换回显示包括通知658h的消息日志658，该通知指示设备652之前已经开始传输作为实时媒体流的一部分的实时视频。
在图6AB处，设备602的用户已经提供了媒体文件的链接，诸如通过将URL输入到字段604f中。在一些示例中，用户使用如关于图6D至图6F所描述的相同(或相似)的技术来输入URL。在该示例中，该媒体文件是视频。作为响应，设备602将媒体文件的链接传输到通信会话的其他参与者(例如，Freddy、Lauren、Giancarlo)。如图6AB所示，设备602显示消息608f，该消息包括用于媒体文件同步回放的示能表示608g和用于媒体文件本地(未同步)回放的示能表示608h。示能表示608h的视觉外观基于媒体的内容(例如，包括来自对应的视频的帧)。消息608f还包括媒体文件的来源的指示608i。
在图6AB处，响应于接收到由设备602传输的媒体文件，设备652显示消息658i，该消息包括用于媒体文件同步回放的示能表示658l和用于媒体文件本地回放的示能表示658j。示能表示658j的视觉外观基于媒体的内容(例如，包括来自对应的视频的帧)。消息658i还包括媒体文件的来源的指示658k。
示能表示608h在被激活时使得设备602显示用于播放媒体文件而不将回放与会话的其他参与者同步的媒体回放用户界面。这允许设备602的用户例如观看视频而不导致在其他参与者的设备处开始视频的回放。示能表示608g在被激活时使得设备602显示用于播放媒体文件同时将回放与会话的其他参与者同步的媒体回放用户界面。这允许设备602的用户例如观看具有在其他参与者设备中的一个或多个之间同步的回放的视频。
在图AC处，设备602检测示能表示608g上的轻击输入604n。响应于检测到示能表示608g上的轻击输入604n，设备602显示媒体回放用户界面626并且将指令传输到会话的参与者以显示相应的媒体回放用户界面(例如，676)，如图6AD所示。媒体回放用户界面626包括视频626a，示出媒体文件回放时间的计时器626d，用于开始媒体文件回放的播放示能表示626b，其他媒体控件(快进、倒回)以及用于滚动到媒体文件中的不同时间的滚动条626c。媒体回放用户界面676包括视频676a，示出媒体文件回放时间的计时器676d，用于开始媒体文件回放的播放示能表示676b，其他媒体控件以及用于滚动到媒体文件中的不同时间的滚动条676c。设备602和/或设备652中的任一者可显示媒体回放用户界面626和媒体回放用户界面676中的任一者以及虚拟化身的对应布局。
在一些示例中，响应于轻击输入604n，媒体文件的同步回放自动开始(例如，在设备602和设备652上)。在该示例中，响应于设备602检测到播放示能表示626b的激活或者设备652检测到播放示能表示676b的激活，同步回放开始。在图6AD处，设备602接收播放示能表示626b上的轻击输入604o。响应于检测到播放示能表示626b上的轻击输入604o，设备602开始媒体文件的本地回放并且传输指令以控制其他参与者的设备处(例如，设备652上)的媒体文件的远程回放，使得本地回放和远程回放大体上同步，如图6AE所示。
在图6AE处，设备602检测滚动条626c上的轻扫输入604p。在图6AF中，响应于检测到轻扫输入604p，设备602将视频626a的显示更新为视频中对应于更新后的滚送条位置的时间，并且将指令传输到会话的参与者使得参与者的相应媒体播放器用户界面也更新为视频中的时间，从而使得视频的回放在设备之间大体上同步。类似地，在设备652处接收到的控制视频676a的回放播放(例如，使用滚动条676c)的输入使得设备652在设备652处更新视频的本地显示并且传输指令以控制会话参与者的设备处(例如，设备602处)的视频的回放，从而使得视频的回放在设备之间大体上同步。
如图6AE进一步所示，设备602在视频626a的同步回放期间继续从会话的参与者接收实时媒体流，诸如实时视频和实时音频。因此，设备602的用户可查看视频626a并且同时看到和听到其他参与者的反应，因为这些参与者也观看了视频的相同部分。
在一些示例中，会话的参与者可共享(例如，通过传输)其相应设备的用户界面的实时视图而不是使用相机捕获的实时视频。在一些示例中，可使用以上技术来同步相应设备上的游戏播放而不是视频回放，或者除了同步视频回放之外还可同步游戏播放。例如，两个远程用户可在第一人称游戏中共享同一视图并控制同一角色。
在一些示例中，当设备602正在传输实时媒体流时，设备602接收用户输入并且作为响应，返回显示用于消息应用程序的用户界面604，该用户界面包括用于在继续传输实时媒体流时访问多个会话的示能表示604a。在一些示例中，返回用户界面604使得设备602停止将实时视频传输(但是继续将实时音频传输)到会话的参与者。
在一些示例中，设备602基于显示器上参与者的相应虚拟化身的显示位置来修改来自相应参与者的音频(例如，使用与头部相关的传递函数，对应于显示器顶部处的虚拟化身的音频听起来像是从上方传来的，对应于显示器右侧处的虚拟化身的音频听起来像是从右侧传来的)。在一些示例中，可将包括实时视频的实时媒体流重定向到远程设备以在电视上显示。
在一些示例中，即使在会话的发起者(例如，设备602的用户)离开会话时，会话也得以保持。在一些示例中，在最后一个参与者离开会话时，会话结束。在一些示例中，传输实时媒体流的设备可将实时媒体流保存到本地存储器中，诸如保存到图像或视频查看应用程序可访问的储存库中。
图7A至图7B是示出根据一些实施方案的用于使用电子设备来传输实时媒体(例如，实时音频和/或实时视频)的方法的流程图。在具有显示器、一个或多个相机传感器和一个或多个麦克风的设备(例如，100、300、500)处执行方法700。方法700中的一些操作任选地被组合，一些操作的次序任选地被改变，并且一些操作任选地被省略。
如下所述，方法700提供了用于传输实时媒体(例如，实时音频和/或实时视频)的直观方式。该方法减轻了用户传输实时媒体的认知负担，从而创建了更有效的人机界面。对于电池驱动的计算设备，使用户能够更快且更有效地传输实时媒体节省了功率并且增大了电池两次充电之间的时间间隔。
在方法700中，电子设备接收(702)标识一个或多个联系人以作为一个或多个参与者(例如，除电子设备的用户之外)包括在通信会话中的用户输入(例如，606b)。在一些示例中，电子设备接收从多个联系人(诸如从存储在电子地址应用程序中的联系人)中选择一个或多个联系人的用户输入。
根据一些实施方案，电子设备接收(704)(例如，在接收到标识一个或多个联系人的用户输入606b之后)用于发起实时流会话(例如，“实时”示能表示610的激活)的用户输入(例如，606d)。
当在通信会话中时，电子设备同时在显示器上显示(706)：用于传输包括实时音频且不包括实时视频(或任何视频)的实时媒体流的第一(708)示能表示(例如，612a)和用于传输包括实时音频和实时视频的实时媒体流(例如，包括音频和视频两者的单个流)的第二(710)示能表示(例如，612b)。
根据一些实施方案，响应于接收到用于发起实时流会话的用户输入(例如，606d)，电子设备同时显示第一示能表示(例如，612a)和第二示能表示(例如，612b)。
电子设备接收(712)激活第一示能表示和第二示能表示中的一者的用户输入(例如，604h)。
根据(714)接收到激活第一示能表示(例如，604a)的用户输入(例如，604h)，电子设备使用一个或多个麦克风来检测(716)音频。在一些示例中，电子设备不使用一个或多个相机传感器来检测视频的多个图像。
进一步根据(714)接收到激活第一示能表示(例如，604a)的用户输入(例如，604h)，电子设备(例如，与检测音频同时)将实时媒体流中的实时音频(无视频，基于检测到的音频)传输(718)到通信会话的一个或多个参与者(除电子设备的用户之外)，其中传输实时音频在不传输实时视频的情况下发生。任选地，电子设备不使用一个或多个相机传感器来检测图像。任选地，电子设备不传输由通信会话的参与者接收的流视频(例如，基于由一个或多个相机传感器检测到的图像捕获的)。
根据(720)接收到激活第二示能表示(例如，604b)的用户输入，电子设备使用一个或多个麦克风来检测(722)音频。进一步根据(720)接收到激活第二示能表示(例如，604b)的用户输入，电子设备(例如，与检测音频同时)使用一个或多个相机传感器来检测(724)视频的多个图像。进一步根据(720)接收到激活第二示能表示(例如，604b)的用户输入，电子设备将实时媒体流中的实时音频(例如，基于检测到的音频)和实时视频(例如，基于视频的多个图像)传输(726)到通信会话的一个或多个参与者(例如，除电子设备的用户之外)。在一些示例中，替代传输音频或音频/视频(或除了其之外)，电子设备传输由通信会话的参与者接收的邀请以开始接收相应的音频或音频/视频。
根据一些实施方案，根据接收到激活第一示能表示(例如，612a)的用户输入(例如，604h)，电子设备在通信会话的记录区域(例如，608)中显示实时音频流已经开始的指示(例如，608d)。根据一些实施方案，根据接收到激活第二示能表示(例如，612b)的用户输入，电子设备在通信会话的记录区域中显示实时视频流已经开始的指示。提供已经开始的流类型的指示向用户提供了有关正在收集并传输到其他参与者的信息类型的反馈。为用户提供改进的视觉反馈增强了设备的可操作性，并且使用户设备界面更有效(例如，通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误)，这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
根据一些实施方案，响应于接收到标识一个或多个联系人的用户输入(例如，606b)，电子设备将请求自动传输到一个或多个联系人以加入通信会话。将请求自动传输到一个或多个联系人使用户能够与联系人共享实时音频和/或实时音频而无需过多的用户输入。减少执行操作所需的输入的数量增强了设备的可操作性，并且使用户-设备界面更有效，这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
根据一些实施方案，电子设备接收将媒体(例如，604h、604j)传输到通信会话的参与者的请求。响应于接收到将媒体传输到通信会话的参与者的请求，根据确定通信会话当前不包括传输实时媒体流，电子设备将第一类型的通知传输到第一参与者中的一个或多个而不将第二类型的通知传输到第一参与者中的一个或多个。响应于接收到将媒体传输到通信会话的参与者的请求，根据确定通信会话当前不包括传输实时媒体流，电子设备将第二类型的通知传输到第一参与者中的一个或多个而不将第一类型的通知传输到第一参与者中的一个或多个。在一些示例中，设备基于当前通信会话是包括还是不包括音频和/或视频的实时流来传输不同类型的数据。
根据一些实施方案，电子设备显示通信会话的参与者中的一个或多个(例如，全部、一些但不是全部)的一个或多个相应虚拟化身(例如，618a、620a、622a、668a、670a、672a)。在一些示例中，根据从参与者接收到包括实时视频的实时媒体流，参与者的相应虚拟化身包括接收到的实时视频的至少一部分。在一些示例中，电子设备以网格样式布置来布置一个或多个相应的虚拟化身。显示相应参与者的虚拟化身向用户提供关于谁是通信会话中的参与者的视觉反馈，而与该参与者当前是否在讲话无关。为用户提供改进的视觉反馈增强了设备的可操作性，并且使用户设备界面更有效(例如，通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误)，这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
根据一些实施方案，电子设备显示通信会话的参与者中的一个或多个(例如，全部、一些但不是全部)的一个或多个相应状态指示符(诸如，610、660、668b)。相应状态指示符包括相应参与者当前是否正在将实时媒体流传输到通信会话的参与者的相应指示。显示参与者的状态指示符向用户提供了关于通信会话中的每个参与者的状态的视觉反馈(例如，流式传输媒体、未流式传输媒体、仅流式传输音频、流式传输音频/视频)。为用户提供改进的视觉反馈增强了设备的可操作性，并且使用户设备界面更有效(例如，通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误)，这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
根据一些实施方案，电子设备显示通信会话中的参与者的相应虚拟化身(例如，668a)。在一些示例中，根据从参与者接收到包括实时视频的实时媒体流，参与者的相应虚拟化身包括接收到的实时视频的至少一部分。用于通信会话的参与者的相应状态指示符(例如，668b)包括通信会话的参与者的相应虚拟化身(例如，668a)周围的视觉指示符(例如，668b、环、圆形虚拟化身)。视觉指示符的特征(例如，颜色、厚度、动画)指示相应参与者当前是否正在将实时媒体流传输到通信会话的参与者。在一些示例中，当前正在流式传输实时媒体(例如，音频和/或视频)的参与者的虚拟化身(例如，668a)周围的环(例如，668b)是第一颜色(例如，绿色)。在一些示例中，当前没有流式传输实时媒体(例如，音频和/或视频)的参与者的虚拟化身(例如，668a)周围的环(例如，668b)是第二颜色(例如，不是绿色而是红色)。在一些示例中，当前没有流式传输实时媒体(例如，音频和/或视频)的参与者的虚拟化身不包括环。在一些示例中，绿色环指示参与者当前正在流式传输实时音频。在一些示例中，红色环指示参与者当前正在流式传输实时音频和视频。基于参与者的状态来显示不同类型的指示符(例如，形状、颜色)向用户提供关于通信会话中的每个参与者的状态的视觉反馈(例如，流式传输媒体、未流式传输媒体、仅流式传输音频、流式传输音频/视频)。为用户提供改进的视觉反馈增强了设备的可操作性，并且使用户设备界面更有效(例如，通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误)，这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
根据一些实施方案，视觉指示符(例如，668b)的特征是视觉指示符的尺寸。相应参与者(例如，668a)的视觉指示符(例如，668b)根据从相应参与者接收到的音频的音量(或频率)而变化。在一些实施方案中，环(例如，668b)的特征是环(例如，668b)的形状、环(例如，668b)的直径、环(例如，668b)的宽度和/或环(例如，668b)的表面积，这些特征根据从相应参与者接收到的音频的音量和/或频率而变化。基于音量(或频率)来显示视觉指示符中的变化允许用户在视觉上看到参与者是否正在流式传输实时音频并且看到实时音频的相对音量，而不要求用户打开扬声器或佩戴头戴式耳机。为用户提供改进的视觉反馈增强了设备的可操作性，并且使用户设备界面更有效(例如，通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误)，这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
根据一些实施方案，当在通信会话中并且在显示器上未显示键盘时，电子设备检测第一手势(例如，设备的触敏表面上的向上轻扫手势)。响应于检测到第一手势，电子设备(例如，通过从显示器的底部部分滑入视图)显示键盘(例如，用于在通信会话中输入文本消息)。
根据一些实施方案，进一步响应于检测到第一手势，电子设备通过同时进行以下操作来转换通信会话的一个或多个参与者的一个或多个虚拟化身的显示：减小一个或多个参与者的显示的一个或多个虚拟化身的尺寸，改变一个或多个参与者的显示的虚拟化身的形状(例如，从矩形变成圆形)，以及改变一个或多个参与者的显示的虚拟化身的位置(例如，从n×n网格(其中n不是1)变成1×n网格(其中n不是1))。在一些示例中，当尺寸的减小、形状的改变和位置的改变效果中的一个或多个没有发生时，响应于接收到第一手势，这些效果中的一个或多个发生。在一些示例中，根据从参与者接收到包括实时视频的实时媒体流，参与者的相应虚拟化身包括接收到的实时视频的至少一部分。
根据一些实施方案，在响应于第一手势转换一个或多个参与者的一个或多个虚拟化身的显示之后，电子设备检测第二手势(例如，656c，设备的触敏表面上的向下轻扫手势，不同于第一手势)。响应于检测到第二手势(例如，656c)，电子设备通过同时进行以下操作来转换一个或多个参与者的一个或多个虚拟化身(例如，668a、670a、672a)的显示：放大一个或多个参与者的显示的一个或多个虚拟化身的尺寸，改变一个或多个参与者的显示的虚拟化身的形状(例如，从圆形变成矩形)，以及改变一个或多个参与者的显示的虚拟化身的位置(例如，从1×n网格(其中n不是1)变成n×n网格(其中n不是1))。在一些示例中，当尺寸的放大、形状的改变和位置的改变效果中的一个或多个没有发生时，响应于接收到第二手势，这些效果中的一个或多个发生。在一些示例中，根据从参与者接收到包括实时视频的实时媒体流，参与者的相应虚拟化身包括接收到的实时视频的至少一部分。当空间可用时(例如，当未显示键盘时)，自动放大和重新排列一个或多个虚拟化身向用户提供了正在从其他参与者接收的实时视频流的更好视图。减少执行操作所需的输入的数量增强了设备的可操作性，并且使用户-设备界面更有效，这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
根据一些实施方案，电子设备检测对应于通信会话的参与者的显示的虚拟化身的位置处的第三手势(例如，604m，轻击手势)。响应于检测到第三手势(例如，604m)，电子设备放大参与者的相应虚拟化身。在一些示例中，根据从参与者接收到包括实时视频的实时媒体流，参与者的相应虚拟化身包括接收到的实时视频的至少一部分。在一些示例中，参与者的相应虚拟化身全屏显示。在一些示例中，响应于检测到第三手势，其他参与者的虚拟化身停止显示。
根据一些实施方案，电子设备检测用于启用字幕的用户输入(例如，604k)。响应于检测到用于启用字幕的用户输入(例如，604k)，电子设备显示通信会话的一个或多个参与者的音频馈源的字幕(例如，620c)。在一些示例中，设备检测用于禁用字幕以及作为响应停止显示通信会话的参与者的音频馈源的字幕的用户输入。在一些示例中，参与者的音频馈源与字幕的显示同时播放。在一些示例中，音频馈源由电子设备转录以产生字幕。在一些示例中，字幕由电子设备接收以显示。在一些示例中，通信会话的其他参与者可使字幕在通信会话期间显示(或停止显示)在电子设备上。例如，字幕(例如，620c)有助于使电子设备的用户能够在该用户处于安静的环境诸如图书馆中时参与通信会话。在一些示例中，用于启用字幕的用户输入对应于特定参与者并且设备在不改变其他参与者的字幕状态的情况下启用用于该参与者的字幕。
根据一些实施方案，响应于接收到激活第一示能表示(例如，612a)和第二示能表示(例如，612b)中的一者的用户输入(例如，604h)，电子设备发起用于发起实时流会话的倒计时(例如，614)的显示。将实时媒体流中的音频或视频传输到通信会话的一个或多个参与者(除电子设备的用户之外)在完成显示的倒计时之后(并响应于此)发生(例如，倒计时从10开始并且在倒计时为0时传输开始)。在开始流式传输之前显示倒计时向用户提供了关于实时媒体流将何时开始的反馈，并允许用户为实时媒体流式传输做准备。为用户提供改进的视觉反馈增强了设备的可操作性，并且使用户设备界面更有效(例如，通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误)，这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
需注意，上文相对于方法700所述的过程(例如，图7A至图7B)的详情也可以类似方式适用于下文所述的方法。例如，方法800和900任选地包括上文参考方法700所述的各种方法的一个或多个特征。例如，方法700、800和900描述类似的通信会话。又如，方法800、800和900描述类似的实时媒体流。又如，方法700的技术可用于在执行方法800和900的技术之前开始实时媒体会话。又如，可在使用方法700的技术开始的实时媒体会话期间执行方法800和900。又如，方法800的技术可用于改变使用方法700的技术开始的媒体流的类型。为了简明起见，这些详情在下文中不再重复。
图8是示出了根据一些实施方案的用于使用电子设备来在流式传输实时音频和实时视频之间转换的方法800的流程图。在具有显示器的设备(例如，100、300、500)处执行方法800。方法800中的一些操作任选地被组合，一些操作的次序任选地被改变，并且一些操作任选地被省略。
如下所述，方法800提供了用于在流式传输实时音频和实时视频之间转换的直观方式。该方法减轻了用户在流式传输实时音频和实时视频之间转换的认知负担，从而创建了更有效的人机界面。对于电池驱动的计算设备，使用户能够更快且更有效地在流式传输实时音频和实时视频之间转换节省了功率并且增大了电池两次充电之间的时间间隔。
当将第一类型的传出实时媒体流(例如，实时音频流、实时音频+视频流)传输(802)到通信会话的一个或多个参与者(除电子设备的用户之外)时，电子设备在电子设备处输出(804)(例如，在显示器上显示、在扬声器上播放音频)至少一个或多个传入实时媒体流(例如，一个或多个参与者的实时视频流、实时音频流)。
当将第一类型的传出实时媒体流传输(802)到通信会话的一个或多个参与者时，电子设备接收(806)用于从传输第一类型的传出实时媒体流转换到传输第二类型的传出实时媒体流(例如，实时音频流、实时音频+视频流)的用户输入(例如，604j)，其中第一类型不同于第二类型。
根据一些实施方案，接收(806)用于转换的用户输入包括检测(808)在示能表示(例如，674b)上的轻击用户输入(例如，656d)，其中示能表示(例如，674b)被显示为电子设备的用户的虚拟化身(例如，674a)的一部分。
在一些示例中，根据当前使用电子设备的相机来传输包括用户的实时视频的实时媒体流，用户的相应虚拟化身包括实时视频的至少一部分。在一些示例中，用户的虚拟化身包括由电子设备的相机捕获的视频。
响应于接收到用于转换的用户输入(例如，604j)，电子设备从传输第一类型的传出实时媒体流转换(810)到传输第二类型的传出实时媒体流，包括：根据包括实时音频且不包括实时视频的第一类型的实时媒体流，(发起、开始)传输(812)实时视频(并且任选地保持或重新开始传输实时音频)，并且根据包括实时音频和实时视频的第一类型的实时媒体流，停止(814)传输实时视频(并且任选地保持或重新开始传输实时音频)。
根据一些实施方案，在从传输第一类型的传出实时媒体流转换到传输第二类型的传出实时媒体流之后，电子设备接收用于从传输第二类型的传出实时媒体流转换到传输第一类型的传出实时媒体流的用户输入。响应于接收到用于转换的用户输入，电子设备从传输第二类型的传出实时媒体流转换到传输第一类型的传出实时媒体流，包括：根据包括实时音频且不包括实时视频的第二类型的实时媒体流，(发起、开始)传输实时视频(并且任选地保持或重新开始传输实时音频)，并且根据包括实时音频和实时视频的第二类型的实时媒体流，停止传输实时视频(并且任选地保持或重新开始传输实时音频)。
根据一些实施方案，电子设备还包括一个或多个相机传感器和一个或多个麦克风。根据一些实施方案，传输第二类型的传出实时媒体流(例如，音频+视频)包括：传输使用一个或多个相机传感器检测到的图像，以及传输使用一个或多个麦克风检测到的音频。因此，实时媒体流包括捕获来自电子设备环境中的实时音频/视频并且将该实时音频/视频传输到其他参与者。
根据一些实施方案，当传输实时视频时，电子设备在显示器上显示实时视频(例如，图6R中的624a)。因此，电子设备在设备的显示器上同时显示实时视频(该实时视频正在传输)。显示正在传输的实时视频向用户提供了关于正在传输的视频的内容的反馈。这使用户能够更容易地调整正在用于捕获实时视频的相机。为用户提供改进的视觉反馈增强了设备的可操作性，并且使用户设备界面更有效(例如，通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误)，这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
根据一些实施方案，一个或多个相机包括多个相机，多个相机包括第一相机和第二相机。当使用第一相机且不使用第二相机来检测第一图像时并且当将第一图像传输到通信会话的一个或多个参与者时(并且当在显示器上显示第一图像时)，电子设备显示用于切换相机的示能表示(例如，624c)。另外，当检测到并且显示第一图像时，电子设备检测用于切换相机的示能表示(例如，624c)的激活(例如，604l)。响应于检测到用于切换相机的示能表示(例如，624c)的激活(例如，604l)，电子设备使用第二相机且不使用第一相机来检测第二图像。进一步响应于检测到用于切换相机的示能表示(例如，624c)的激活(例如，604l)，电子设备将第二图像传输到通信会话的一个或多个参与者(并且任选地在显示器上显示第二图像而不传输第一图像或在显示器上显示第一图像)。因此，电子设备显示用于切换相机的示能表示。电子设备在被激活时改变传输到通信会话的参与者的视频的来源并且改变在显示器上显示的视频的来源。改变传输的视频的来源和显示的视频的来源两者的单个输入减少了提供操作所需的输入数量。减少执行操作所需的输入数量增强了设备的可操作性，并且使用户设备界面更高效(例如，通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误)，从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
根据一些实施方案，响应于接收到用于转换的用户输入并且进一步根据包括实时音频和实时视频的第一类型的实时媒体流，电子设备在显示器上用静态虚拟化身图像替换由设备的一个或多个相机捕获的实时视频的显示。在一些示例中，静态虚拟化身图像替换实时视频。将用户虚拟化身的显示从实时视频转换到静态图像向用户指示了设备的状态(不将实时视频传输到参与者)。
根据一些实施方案，响应于接收到用于转换的用户输入并且进一步根据包括实时音频和实时视频的第一类型的实时媒体流，电子设备在显示器上用文本显示区域替换由设备的一个或多个相机捕获的实时视频的显示。用文本显示区域替换实时视频的显示向用户提供了改进的视觉反馈，该改进的视觉反馈使用户能够确定正在接收和显示的文本的来源(例如，基于显示器上的位置、基于正在显示的先前视频的替换)。为用户提供改进的视觉反馈增强了设备的可操作性，并且使用户设备界面更有效(例如，通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误)，这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
根据一些实施方案，响应于接收到用于转换的用户输入并且进一步根据包括实时音频和实时视频的第一类型的实时媒体流，电子设备通过同时进行以下操作来转换(例如，通过动画)通信会话的一个或多个参与者的一个或多个虚拟化身的显示：减小一个或多个参与者的显示的一个或多个虚拟化身的尺寸，改变一个或多个参与者的显示的虚拟化身的形状(例如，从矩形变成圆形)，以及改变一个或多个参与者的显示的虚拟化身的位置(例如，从n×n网格(其中n不是1)变成1×n网格(其中n不是1))。在一些示例中，当尺寸的减小、形状的改变和位置的改变效果中的一个或多个没有发生时，响应于接收到第一手势，这些效果中的一个或多个发生。在一些示例中，根据从参与者接收到包括实时视频的实时媒体流，参与者的相应虚拟化身包括接收到的实时视频的至少一部分。在一些示例中，响应于接收到用于转换的用户输入并且进一步根据包括实时音频和实时视频的第一类型的实时媒体流，电子设备还同时显示通信会话的记录和键盘。
根据一些示例，电子设备检测请求结束传输传出实时媒体流的用户输入。响应于检测到请求结束传输传出实时媒体流的用户输入，电子设备停止传输传出实时媒体流(例如，如果仅音频，则停止将音频传输到参与者；如果音频+视频，则停止将音频+视频传输到参与者)。进一步响应于检测到请求结束传输传出实时媒体流的用户输入，电子设备停止从通信会话的参与者接收(并且停止显示)实时媒体流。
需注意，上文相对于方法800所述的过程(例如，图8)的详情也可以类似方式适用于下文和上文所述的方法。例如，方法700和900任选地包括上文参考方法800所述的各种方法的一个或多个特征。例如，方法700、800和900描述类似的通信会话。又如，方法800、800和900描述类似的实时媒体流。又如，方法700的技术可用于在执行方法800和900的技术之前开始实时媒体会话。又如，可在使用方法700的技术开始的实时媒体会话期间执行方法800和900。又如，方法800的技术可用于改变使用方法700的技术开始的媒体流的类型。为了简明起见，这些详情在下文中不再重复。
图9A至图9B是示出了根据一些实施方案的用于使用电子设备来在实时流期间同步媒体回放的方法900的流程图。在具有显示器的设备(例如，100、300、500)处执行方法900。方法900中的一些操作任选地被组合，一些操作的次序任选地被改变，并且一些操作任选地被省略。
如下所述，方法900提供了用于在实时流期间同步媒体回放的直观方式。该方法减轻了用户在流式传输实时音频和实时视频之间转换的认知负担，从而创建了更有效的人机界面。对于电池驱动的计算设备，使用户能够更快且更有效地在实时流期间同步媒体回放节省了功率并且增大了电池两次充电之间的时间间隔。
当与一个或多个参与者(除电子设备的用户之外，一个或多个远程参与者)参与(902)通信会话时，电子设备将媒体的链接(例如，到音频、视频、音频+视频、基于时间的媒体的链接(诸如URL))传输(904)到通信会话的一个或多个参与者。
当参与(902)通信会话时，电子设备在显示器上显示(906)包括(908)示能表示(例如，608g，“实时”示能表示)的媒体(例如，608f)的表示。
根据一些实施方案，媒体(例如，608f)的表示还包括(910)基于媒体内容的图像(例如，608h)。在一些示例中，媒体是视频并且图像是视频的帧。在一些示例中，媒体是专辑的歌曲并且图像是专辑的歌曲封面。在一些示例中，基于媒体内容的图像与示能表示(例如，实时示能表示)分离。在一些示例中，从远程服务器检索基于媒体内容的图像。
当参与(902)通信会话时电子设备检测(912)用户输入(例如，608n)。
响应于检测到用户输入(例如，608n)并且当参与(902)通信会话时，电子设备显示(916)对应于媒体的媒体回放用户界面(例如，626，视频回放UI、音频回放UI)(并且任选地，停止显示示能表示和/或基于媒体内容的图像)。
根据一些实施方案，进一步响应于检测到用户输入并且当参与(902)通信会话时，根据用户输入是示能表示(例如，608g，媒体的“实时”示能表示)的激活，电子设备将通信会话的一个或多个参与者的设备上的媒体的回放与电子设备上的媒体的回放同步(918)。自动同步多个设备之间的回放的用户输入使参与者能够共享媒体体验，而无需反复手动协调媒体的各个控件(播放、暂停、倒回等)。自动执行操作增强了设备的可操作性并且使用户-设备界面更有效，这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。自动同步还减少了用户提供多个输入以与其他设备同步回放的需要。减少执行任务所需的输入的数量还可增强设备的可操作性，并且使得用户-设备界面更有效。在一些示例中，参与者在其相应设备处执行媒体回放控制用户输入使得对电子设备上的媒体回放进行对应的控制。进一步响应于检测到用户输入并且根据用户输入不是示能表示的激活，电子设备放弃将通信会话的一个或多个参与者的设备上的媒体的回放与电子设备上的媒体的回放同步。
当显示媒体回放用户界面并且参与(902)通信会话时，电子设备检测(920)(例如，由用户在电子设备处经由触敏表面)媒体回放控制用户输入(例如，604o、604p，滚动到媒体中的特定时间的输入、播放或暂停媒体的输入)。
响应于(924)接收到媒体回放控制用户输入，电子设备根据接收到的媒体回放控制用户输入控制(926)电子设备处的媒体回放用户界面中的媒体的回放。
进一步响应于(924)接收到媒体回放控制用户输入，根据(928)用户输入是示能表示(例如，媒体的“实时”示能表示)的激活，电子设备根据接收到的媒体回放控制用户输入传输(930)指令以控制一个或多个参与者的设备处的媒体的回放，使得通信会话的一个或多个参与者的设备处的媒体的回放保持大体上同步。
根据一些实施方案，进一步响应于(924)接收到媒体回放控制用户输入，根据(932)用户输入是基于媒体内容的图像(例如，608h)的激活，电子设备根据接收到的媒体回放控制用户输入放弃(934)传输用于控制一个或多个参与者的设备处的媒体回放的指令。根据一些实施方案，根据用户输入是基于媒体内容的图像(例如，608h)的激活，通信会话的一个或多个参与者的设备上的媒体的回放不与电子设备上的媒体的回放同步。
根据一些实施方案，通信会话的每个参与者具有对媒体文件的同等控制并且可以开始/停止/倒回/快进视频。电子设备从参与者接收控制指令并且相应地修改回放。根据一些实施方案，当显示媒体回放用户界面时，电子设备从通信会话的参与者的远程设备接收一个或多个媒体回放控制指令。响应于从远程设备接收到一个或多个媒体回放控制指令，电子设备根据接收到的一个或多个媒体回放控制指令修改电子设备处的媒体的回放。
根据一些实施方案，根据用户输入是示能表示(例如，608g，媒体的“实时”示能表示)的激活，电子设备与对应于媒体的媒体回放用户界面(例如，626，视频回放UI、音频回放UI)的显示同时输出(例如，在显示器上显示、使用扬声器来播放音频)从通信会话的一个或多个参与者接收的一个或多个实时媒体流(例如，图6AD中的618a、620a、622a、624a，实时音频流、实时视频流)。在远程设备处的媒体回放期间在一个或多个参与者的远程设备处(例如，使用一个或多个相机、使用一个或多个麦克风)捕获一个或多个实时媒体流。在一些示例中，根据用户输入是示能表示的激活，电子设备与从通信会话的一个或多个参与者接收的一个或多个实时音频馈源在媒体回放用户界面中同时播放媒体回放的音频，其中在远程设备处的媒体回放期间在一个或多个参与者的远程设备处捕获一个或多个实时音频馈源。
需注意，上文相对于方法900所述的过程(例如，图9A至图9B)的详情也可以类似方式适用于上文所述的方法。例如，方法700和800任选地包括上面参考方法900所述的各种方法的一个或多个特征。例如，方法700、800和900描述类似的通信会话。又如，方法800、800和900描述类似的实时媒体流。又如，方法700的技术可用于在执行方法800和900的技术之前开始实时媒体会话。又如，可在使用方法700的技术开始的实时媒体会话期间执行方法800和900。又如，方法800的技术可用于改变使用方法700的技术开始的媒体流的类型。为了简明起见，这些详情在下文中不再重复。
出于解释的目的，前面的描述是通过参考具体实施方案来描述的。然而，上面的例示性论述并非旨在是穷尽的或将本发明限制为所公开的精确形式。根据以上教导内容，很多修改形式和变型形式都是可能的。选择并描述这些实施方案是为了最好地解释这些技术的原理及其实际应用程序。本领域的其他技术人员由此能够最好地利用这些技术以及具有适合于所预期的特定用途的各种修改的各种实施方案。
虽然参照附图对本公开以及示例进行了全面的描述，但应当注意，各种变化和修改对于本领域内的技术人员而言将变得显而易见。应当理解，此类变化和修改被认为被包括在由权利要求书所限定的本公开和示例的范围内。
如上所述，本发明技术的一个方面在于采集和使用得自各种来源的数据，以改进向用户递送其可能感兴趣的启发内容或任何其他内容。本公开预期，在一些实例中，这些所采集的数据可包括唯一地识别或可用于联系或定位特定人员的个人信息数据。此类个人信息数据可以包括人口统计数据、基于位置的数据、电话号码、电子邮件地址、推特ID、家庭地址、与用户的健康或健康水平有关的数据或记录(例如，生命体征测量、药物信息、锻炼信息)、出生日期或任何其他识别或个人信息。
本公开认识到在本发明技术中使用此类个人信息数据可用于使用户受益。例如，该个人信息数据可用于递送用户较感兴趣的目标内容。因此，使用此类个人信息数据使得能够对所递送的内容进行有计划的控制。此外，本公开还预期个人信息数据有益于用户的其他用途。例如，健康和健身数据可用于向用户的总体健康状况提供见解，或者可用作使用技术来追求健康目标的个人的积极反馈。
本公开还设想负责此类个人信息数据的收集、分析、公开、传输、存储或其他用途的实体将遵守已确立的隐私政策和/或隐私做法。具体地，此类实体应实施并坚持使用被公认为满足或超出对维护个人信息数据的隐私性和安全性的行业或政府要求的隐私政策和实践。用户可以方便地访问此类策略，并应随着数据的采集和/或使用变化而更新。用户的个人信息应采集为实体的合法和合理使用，而不应在这些合法使用之外共享或销售。此外，在收到用户知情同意后，应进行此类采集/共享。此外，此类实体应考虑采取任何必要步骤，保卫和保障对此类个人信息数据的访问，并确保其他有权访问个人信息数据的人遵守其隐私政策和流程。另外，此类实体可使其本身经受第三方评估以证明其遵守广泛接受的隐私政策和实践。此外，应调整政策和实践，以便采集和/或访问的特定类型的个人信息数据，并适用于包括管辖范围的具体考虑的适用法律和标准。例如，在美国，收集或访问某些健康数据可能受联邦和/或州法律的约束，诸如健康保险携带与责任法案(HIPAA)；而其他国家的健康数据可能受其他法规和政策的约束并且应予以相应处理。因此，应针对每个国家不同的个人数据类型保持不同的隐私实践。
不管前述情况如何，本公开还设想用户选择性地阻止使用或访问个人信息数据的实施方案。即本公开设想可提供硬件元件和/或软件元件，以防止或阻止对此类个人信息数据的访问。例如，就广告递送服务而言，本发明的技术可被配置为在注册服务期间允许用户选择“加入”或“退出”参与对个人信息数据的收集。又如，用户可选择不为目标内容递送服务提供位置信息。再如，用户可选择不提供精确的位置信息，但准许传输位置区域信息。
此外，本公开的目的是应管理和处理个人信息数据以最小化无意或未经授权访问或使用的风险。一旦不再需要数据，通过限制数据采集和删除数据可最小化风险。此外，并且当适用时，包括在某些健康相关应用中，数据去标识可用于保护用户的隐私。可在适当时通过移除特定标识符(例如，出生日期等)、控制所存储数据的量或特异性(例如，在城市级别而不是在地址级别收集位置数据)、控制数据如何被存储(例如，在用户之间聚合数据)、和/或其他方法来促进去标识。
因此，虽然本公开广泛地覆盖了使用个人信息数据来实现一个或多个各种所公开的实施方案，但本公开还预期各种实施方案也可在无需访问此类个人信息数据的情况下被实现。即，本发明技术的各种实施方案不会由于缺少此类个人信息数据的全部或一部分而无法正常进行。例如，可通过基于非个人信息数据或绝对最小量的个人信息诸如与用户相关联的设备所请求的内容、对内容递送服务可用的其他非个人信息或公开可用信息来推断偏好，从而选择内容并递送至用户。

Claims (49)

1.一种方法，包括：
在具有显示器、一个或多个相机传感器和一个或多个麦克风的电子设备处：
接收标识一个或多个联系人以作为一个或多个参与者包括在通信会话中的用户输入；
当在所述通信会话中时，同时在所述显示器上显示：
用于传输包括实时音频且不包括实时视频的实时媒体流的第一示能表示，以及
用于传输包括实时音频和实时视频的实时媒体流的第二示能表示；
接收激活所述第一示能表示和所述第二示能表示中的一者的用户输入；
根据接收到激活所述第一示能表示的用户输入，同时：
使用所述一个或多个麦克风来检测音频；以及
将实时媒体流中的实时音频传输到所述通信会话的所述一个或多个参与者，其中传输所述实时音频在不传输实时视频的情况下发生；以及
根据接收到激活所述第二示能表示的用户输入，同时：
使用所述一个或多个麦克风来检测音频；
使用所述一个或多个相机传感器来检测视频的多个图像；以及
将实时媒体流中的所述实时音频和所述实时视频传输到所述通信会话的所述一个或多个参与者。
2.根据权利要求1所述的方法，还包括：
接收用于发起实时流会话的用户输入，
其中响应于接收到用于发起所述实时流会话的所述用户输入，同时显示所述第一示能表示和所述第二示能表示。
3.根据权利要求1至2中任一项所述的方法，还包括：
根据接收到激活所述第一示能表示的所述用户输入：
在所述通信会话的记录区域中显示实时音频流已经开始的指示；以及
根据接收到激活所述第二示能表示的所述用户输入：
在所述通信会话的所述记录区域中显示实时视频流已经开始的指示。
4.根据权利要求1至3中任一项所述的方法，还包括：
响应于接收到标识一个或多个联系人的所述用户输入，将请求传输到所述一个或多个联系人以加入所述通信会话。
5.根据权利要求1至4中任一项所述的方法，还包括：
接收将媒体传输到所述通信会话的参与者的请求；以及
响应于接收到将媒体传输到所述通信会话的参与者的所述请求：
根据确定所述通信会话当前不包括传输实时媒体流，将第一类型的通知传输到所述第一参与者中的一个或多个而不将第二类型的通知传输到所述第一参与者中的所述一个或多个；以及
根据确定所述通信会话当前包括传输实时媒体流，将所述第二类型的通知传输到所述第一参与者中的一个或多个而不将所述第一类型的通知传输到所述第一参与者中的所述一个或多个。
6.根据权利要求1至5中任一项所述的方法，还包括：
显示所述通信会话的所述参与者中的一个或多个的一个或多个相应虚拟化身。
7.根据权利要求1至6中任一项所述的方法，还包括：
显示所述通信会话的所述参与者中的一个或多个的一个或多个相应状态指示符，其中相应状态指示符包括所述相应参与者当前是否正在将实时媒体流传输到所述通信会话的参与者的相应指示。
8.根据权利要求7所述的方法，还包括：
显示所述通信会话的参与者的相应虚拟化身，
其中用于所述通信会话的所述参与者的所述相应状态指示符包括所述通信会话的所述参与者的所述相应虚拟化身周围的视觉指示符，并且
其中所述视觉指示符的特征指示所述相应参与者当前是否正在将实时媒体流传输到所述通信会话的参与者。
9.根据权利要求8所述的方法，其中：
所述视觉指示符的所述特征是所述视觉指示符的尺寸，并且
相应参与者的所述视觉指示符根据从所述相应参与者接收到的音频的音量而变化。
10.根据权利要求1至9中任一项所述的方法，还包括：
当在所述通信会话中并且在所述显示器上未显示键盘时，检测第一手势；以及
响应于检测到所述第一手势，显示键盘。
11.根据权利要求6至10中任一项所述的方法，还包括：
响应于检测到所述第一手势，通过同时进行以下操作来转换所述通信会话的一个或多个参与者的一个或多个虚拟化身的显示：
减小所显示的所述一个或多个参与者的一个或多个虚拟化身的尺寸，
改变所显示的所述一个或多个参与者的虚拟化身的形状，以及
改变所显示的所述一个或多个参与者的虚拟化身的位置。
12.根据权利要求11所述的方法，还包括：
在响应于所述第一手势来转换一个或多个参与者的一个或多个虚拟化身的显示之后，检测第二手势；以及
响应于检测到所述第二手势，通过同时进行以下操作来转换所述一个或多个参与者的所述一个或多个虚拟化身的显示：
放大所显示的所述一个或多个参与者的一个或多个虚拟化身的尺寸，
改变所显示的所述一个或多个参与者的虚拟化身的形状，以及
改变所显示的所述一个或多个参与者的虚拟化身的位置。
13.根据权利要求1至12中任一项所述的方法，还包括：
在对应于所述通信会话的参与者的显示的虚拟化身的位置处检测第三手势；以及
响应于检测到所述第三手势，放大所述参与者的所述相应虚拟化身。
14.根据权利要求1至13中任一项所述的方法，还包括：
检测用于启用字幕的用户输入；以及
响应于检测到用于启用字幕的所述用户输入，显示所述通信会话的一个或多个参与者的音频馈源的字幕。
15.根据权利要求2至14中任一项所述的方法，还包括：
响应于接收到激活所述第一示能表示和所述第二示能表示中的一者的用户输入，发起用于发起所述实时流会话的倒计时的显示，
其中将所述实时媒体流中的所述音频或视频传输到所述通信会话的所述一个或多个参与者发生在完成所显示的倒计时之后。
16.一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储被配置为由具有显示器、一个或多个相机传感器和一个或多个麦克风的电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行根据权利要求1至15中任一项所述的方法的指令。
17.一种电子设备，所述电子设备包括：
显示器；
一个或多个相机传感器；
一个或多个麦克风；
一个或多个处理器；以及
存储器，所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行根据权利要求1至15中任一项所述的方法的指令。
18.一种电子设备，所述电子设备包括：
显示器；
一个或多个相机传感器；
一个或多个麦克风；
一个或多个处理器；以及
用于执行根据权利要求1至15中任一项所述的方法的装置。
19.一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储被配置为由具有显示器、一个或多个相机传感器和一个或多个麦克风的电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于以下操作的指令：
接收标识一个或多个联系人以作为一个或多个参与者包括在通信会话中的用户输入；
当在所述通信会话中时，同时在所述显示器上显示：
用于传输包括实时音频且不包括实时视频的实时媒体流的第一示能表示，以及
用于传输包括实时音频和实时视频的实时媒体流的第二示能表示；
接收激活所述第一示能表示和所述第二示能表示中的一者的用户输入；
根据接收到激活所述第一示能表示的用户输入，同时：
使用所述一个或多个麦克风来检测音频；以及
将实时媒体流中的实时音频传输到所述通信会话的所述一个或多个参与者，其中传输所述实时音频在不传输实时视频的情况下发生；以及
根据接收到激活所述第二示能表示的用户输入，同时：
使用所述一个或多个麦克风来检测音频；
使用所述一个或多个相机传感器来检测视频的多个图像；以及
将实时媒体流中的所述实时音频和所述实时视频传输到所述通信会话的所述一个或多个参与者。
20.一种电子设备，所述电子设备包括：
显示器；
一个或多个相机传感器；
一个或多个麦克风；
一个或多个处理器；以及
存储器，所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行以下操作的指令：
接收标识一个或多个联系人以作为一个或多个参与者包括在通信会话中的用户输入；
当在所述通信会话中时，同时在所述显示器上显示：
用于传输包括实时音频且不包括实时视频的实时媒体流的第一示能表示，以及
用于传输包括实时音频和实时视频的实时媒体流的第二示能表示；
接收激活所述第一示能表示和所述第二示能表示中的一者的用户输入；
根据接收到激活所述第一示能表示的用户输入，同时：
使用所述一个或多个麦克风来检测音频；以及
将实时媒体流中的实时音频传输到所述通信会话的所述一个或多个参与者，其中传输所述实时音频在不传输实时视频的情况下发生；以及
根据接收到激活所述第二示能表示的用户输入，同时：
使用所述一个或多个麦克风来检测音频；
使用所述一个或多个相机传感器来检测视频的多个图像；以及
将实时媒体流中的所述实时音频和所述实时视频传输到所述通信会话的所述一个或多个参与者。
21.一种电子设备，所述电子设备包括：
显示器；
一个或多个相机传感器；
一个或多个麦克风；
用于接收标识一个或多个联系人以作为一个或多个参与者包括在通信会话中的用户输入的装置；
当在所述通信会话中时，用于同时在所述显示器上显示以下内容的装置：
用于传输包括实时音频且不包括实时视频的实时媒体流的第一示能表示，以及
用于传输包括实时音频和实时视频的实时媒体流的第二示能表示；
用于接收激活所述第一示能表示和所述第二示能表示中的一者的用户输入的装置；
根据接收到激活所述第一示能表示的用户输入，用于同时进行以下操作的装置：
使用所述一个或多个麦克风来检测音频；以及
将实时媒体流中的实时音频传输到所述通信会话的所述一个或多个参与者，其中传输所述实时音频在不传输实时视频的情况下发生；以及
根据接收到激活所述第二示能表示的用户输入，用于同时进行以下操作的装置：
使用所述一个或多个麦克风来检测音频；
使用所述一个或多个相机传感器来检测视频的多个图像；以及
将实时媒体流中的所述实时音频和所述实时视频传输到所述通信会话的所述一个或多个参与者。
22.一种方法，包括：
在具有显示器的电子设备处：
当将第一类型的传出实时媒体流传输到通信会话的一个或多个参与者时：
在所述电子设备处输出至少一个或多个传入实时媒体流；
接收用于从传输所述第一类型的所述传出实时媒体流转换到传输第二类型的传出实时媒体流的用户输入，其中所述第一类型不同于所述第二类型；以及
响应于接收到用于转换的所述用户输入，从传输所述第一类型的所述传出实时媒体流转换到传输第二类型的传出实时媒体流，包括：
根据包括实时音频且不包括实时视频的所述第一类型的实时媒体流，传输实时视频；以及
根据包括实时音频和实时视频的所述第一类型的实时媒体流，停止传输所述实时视频。
23.根据权利要求22所述的方法，其中接收用于转换的所述用户输入包括：
检测在示能表示上的轻击用户输入，其中所述示能表示被显示为所述电子设备的所述用户的虚拟化身的一部分。
24.根据权利要求22至23中任一项所述的方法，还包括：
在从传输所述第一类型的所述传出实时媒体流转换到传输所述第二类型的所述传出实时媒体流之后：
接收用于从传输所述第二类型的所述传出实时媒体流转换到传输所述第一类型的传出实时媒体流的用户输入；以及
响应于接收到用于转换的所述用户输入，从传输所述第二类型的所述传出实时媒体流转换到传输所述第一类型的传出实时媒体流，包括：
根据包括实时音频且不包括实时视频的所述第二类型的实时媒体流，传输实时视频；以及
根据包括实时音频和实时视频的所述第二类型的实时媒体流，停止传输所述实时视频。
25.根据权利要求22至24中任一项所述的方法，所述电子设备包括一个或多个相机传感器和一个或多个麦克风，其中传输所述第二类型的所述传出实时媒体流包括：
传输使用所述一个或多个相机传感器检测到的图像；以及
传输使用所述一个或多个麦克风检测到的音频。
26.根据权利要求22至25中任一项所述的方法，还包括：
当传输实时视频时，在所述显示器上显示所述实时视频。
27.根据权利要求22至26中任一项所述的方法，其中所述一个或多个相机包括多个相机，所述多个相机包括第一相机和第二相机，所述方法还包括：
当使用所述第一相机且不使用所述第二相机来检测第一图像时并且当将所述第一图像传输到所述通信会话的一个或多个参与者时：
显示用于切换相机的示能表示；以及
检测用于切换相机的所述示能表示的激活；以及
响应于检测到用于切换相机的所述示能表示的激活：
使用所述第二相机且不使用所述第一相机来检测第二图像；以及
将所述第二图像传输到所述通信会话的一个或多个参与者。
28.根据权利要求22至27中任一项所述的方法，还包括：
响应于接收到用于转换的所述用户输入并且进一步根据包括实时音频和实时视频的所述第一类型的实时媒体流：
在所述显示器上，用静态虚拟化身图像替换由所述设备的所述一个或多个相机捕获的实时视频的显示。
29.根据权利要求22至27中任一项所述的方法，还包括：
响应于接收到用于转换的所述用户输入并且进一步根据包括实时音频和实时视频的所述第一类型的实时媒体流：
在所述显示器上，用文本显示区域替换由所述设备的所述一个或多个相机捕获的实时视频的显示。
30.根据权利要求22至27中任一项所述的方法，还包括：
响应于接收到用于转换的所述用户输入并且进一步根据包括实时音频和实时视频的所述第一类型的实时媒体流：
通过同时进行以下操作来转换所述通信会话的一个或多个参与者的一个或多个虚拟化身的显示：
减小所显示的所述一个或多个参与者的一个或多个虚拟化身的尺寸，
改变所显示的所述一个或多个参与者的虚拟化身的形状，以及
改变所显示的所述一个或多个参与者的虚拟化身的位置。
31.根据权利要求22至30中任一项所述的方法，还包括：
检测请求结束传输传出实时媒体流的用户输入；以及
响应于检测到请求结束传输所述传出实时媒体流的用户输入：
停止传输所述传出实时媒体流；以及
停止从所述通信会话的参与者接收实时媒体流。
32.一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储被配置为由具有显示器的电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行根据权利要求22至31中任一项所述的方法的指令。
33.一种电子设备，所述电子设备包括：
显示器；
一个或多个处理器；以及
存储器，所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行根据权利要求22至31中任一项所述的方法的指令。
34.一种电子设备，所述电子设备包括：
显示器；
一个或多个处理器；以及
用于执行根据权利要求22至31中任一项所述的方法的装置。
35.一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储被配置为由具有显示器的电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行以下操作的指令：
当将第一类型的传出实时媒体流传输到通信会话的一个或多个参与者时：
在所述电子设备处输出至少一个或多个传入实时媒体流；
接收用于从传输所述第一类型的所述传出实时媒体流转换到传输第二类型的传出实时媒体流的用户输入，其中所述第一类型不同于所述第二类型；以及
响应于接收到用于转换的所述用户输入，从传输所述第一类型的所述传出实时媒体流转换到传输第二类型的传出实时媒体流，包括：
根据包括实时音频且不包括实时视频的所述第一类型的实时媒体流，传输实时视频；以及
根据包括实时音频和实时视频的所述第一类型的实时媒体流，停止传输所述实时视频。
36.一种电子设备，所述电子设备包括：
显示器；
一个或多个处理器；以及
存储器，所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行以下操作的指令：
当将第一类型的传出实时媒体流传输到通信会话的一个或多个参与者时：
在所述电子设备处输出至少一个或多个传入实时媒体流；
接收用于从传输所述第一类型的所述传出实时媒体流转换到传输第二类型的传出实时媒体流的用户输入，其中所述第一类型不同于所述第二类型；以及
响应于接收到用于转换的所述用户输入，从传输所述第一类型的所述传出实时媒体流转换到传输第二类型的传出实时媒体流，包括：
根据包括实时音频且不包括实时视频的所述第一类型的实时媒体流，传输实时视频；以及
根据包括实时音频和实时视频的所述第一类型的实时媒体流，停止传输所述实时视频。
37.一种电子设备，所述电子设备包括：
显示器；
当将第一类型的传出实时媒体流传输到通信会话的一个或多个参与者时，用于以下操作的装置：
在所述电子设备处输出至少一个或多个传入实时媒体流；
接收用于从传输所述第一类型的所述传出实时媒体流转换到传输第二类型的传出实时媒体流的用户输入，其中所述第一类型不同于所述第二类型；以及
响应于接收到用于转换的所述用户输入，用于从传输所述第一类型的所述传出实时媒体流转换到传输第二类型的传出实时媒体流的装置，所述转换包括：
根据包括实时音频且不包括实时视频的所述第一类型的实时媒体流，传输实时视频；以及
根据包括实时音频和实时视频的所述第一类型的实时媒体流，停止传输所述实时视频。
38.一种方法，包括：
在具有显示器的电子设备处：
当与一个或多个参与者参与通信会话时：
将媒体的链接传输到所述通信会话的一个或多个参与者；
在所述显示器上显示所述媒体的表示，包括示能表示；
检测用户输入；
响应于检测到所述用户输入：
显示对应于所述媒体的媒体回放用户界面；
当显示所述媒体回放用户界面时，检测媒体回放控制用户输入；
响应于接收到所述媒体回放控制用户输入：
根据所述接收到的媒体回放控制用户输入，控制所述电子设备处的所述媒体回放用户界面中的所述媒体的回放；以及
根据所述用户输入是所述示能表示的激活：
根据所述接收到的媒体回放控制用户输入，传输用于控制所述一个或多个参与者的设备处的所述媒体的回放的指令，使得所述通信会话的所述一个或多个参与者的设备处的所述媒体的回放保持大体上同步。
39.根据权利要求38所述的方法，其中所述媒体的所述表示还包括基于所述媒体的所述内容的图像。
40.根据权利要求39所述的方法，还包括：
进一步响应于接收到所述媒体回放控制用户输入：
根据所述用户输入是基于所述媒体的所述内容的所述图像的激活：
根据所述接收到的媒体回放控制用户输入，放弃传输用于控制所述一个或多个参与者的设备处的所述媒体的回放的指令。
41.根据权利要求38至40中任一项所述的方法，还包括：
进一步响应于检测到所述用户输入并且根据所述用户输入是所述示能表示的激活，将所述通信会话的所述一个或多个参与者的设备上的所述媒体的回放与所述电子设备上的所述媒体的回放同步。
42.根据权利要求38至41中任一项所述的方法，还包括：
当显示所述媒体回放用户界面时，从所述通信会话的参与者的远程设备接收一个或多个媒体回放控制指令；以及
响应于从所述远程设备接收到所述一个或多个媒体回放控制指令，根据所述接收到的一个或多个媒体回放控制指令修改所述电子设备处的所述媒体的回放。
43.根据权利要求38至42中任一项所述的方法，还包括：
根据所述用户输入是所述示能表示的激活：
在显示对应于所述媒体的所述媒体回放用户界面时，同时输出从所述通信会话的一个或多个参与者接收到的一个或多个实时媒体流，其中在所述一个或多个参与者的远程设备处的所述媒体的回放期间在所述远程设备处捕获所述一个或多个实时媒体流。
44.一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储被配置为由具有显示器的电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行根据权利要求38至43中任一项所述的方法的指令。
45.一种电子设备，所述电子设备包括：
显示器；
一个或多个处理器；以及
存储器，所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行根据权利要求38至43中任一项所述的方法的指令。
46.一种电子设备，所述电子设备包括：
显示器；
一个或多个处理器；以及
用于执行根据权利要求38至43中任一项所述的方法的装置。
47.一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储被配置为由具有显示器的电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行以下操作的指令：
当与一个或多个参与者参与通信会话时：
将媒体的链接传输到所述通信会话的一个或多个参与者；
在所述显示器上显示所述媒体的表示，包括示能表示；
检测用户输入；
响应于检测到所述用户输入：
显示对应于所述媒体的媒体回放用户界面；
当显示所述媒体回放用户界面时，检测媒体回放控制用户输入；
响应于接收到所述媒体回放控制用户输入：
根据所述接收到的媒体回放控制用户输入，控制所述电子设备处的所述媒体回放用户界面中的所述媒体的回放；以及
根据所述用户输入是所述示能表示的激活：
根据所述接收到的媒体回放控制用户输入，传输用于控制所述一个或多个参与者的设备处的所述媒体的回放的指令，使得所述通信会话的所述一个或多个参与者的设备处的所述媒体的回放保持大体上同步。
48.一种电子设备，所述电子设备包括：
显示器；
一个或多个处理器；以及
存储器，所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行以下操作的指令：
当与一个或多个参与者参与通信会话时：
将媒体的链接传输到所述通信会话的一个或多个参与者；
在所述显示器上显示所述媒体的表示，包括示能表示；
检测用户输入；
响应于检测到所述用户输入：
显示对应于所述媒体的媒体回放用户界面；
当显示所述媒体回放用户界面时，检测媒体回放控制用户输入；
响应于接收到所述媒体回放控制用户输入：
根据所述接收到的媒体回放控制用户输入，控制所述电子设备处的所述媒体回放用户界面中的所述媒体的回放；以及
根据所述用户输入是所述示能表示的激活：
根据所述接收到的媒体回放控制用户输入，传输用于控制所述一个或多个参与者的设备处的所述媒体的回放的指令，使得所述通信会话的所述一个或多个参与者的设备处的所述媒体的回放保持大体上同步。
49.一种电子设备，所述电子设备包括：
显示器；
当与一个或多个参与者参与通信会话时，用于以下操作的装置：
将媒体的链接传输到所述通信会话的一个或多个参与者；
在所述显示器上显示所述媒体的表示，包括示能表示；
检测用户输入；
响应于检测到所述用户输入：
显示对应于所述媒体的媒体回放用户界面；
当显示所述媒体回放用户界面时，检测媒体回放控制用户输入；
响应于接收到所述媒体回放控制用户输入：
根据所述接收到的媒体回放控制用户输入，控制所述电子设备处的所述媒体回放用户界面中的所述媒体的回放；以及
根据所述用户输入是所述示能表示的激活：
根据所述接收到的媒体回放控制用户输入，传输用于控制所述一个或多个参与者的设备处的所述媒体的回放的指令，使得所述通信会话的所述一个或多个参与者的设备处的所述媒体的回放保持大体上同步。
CN201880056514.5A 2017-09-29 2018-08-27 电子设备、计算机可读存储介质及用于显示通信会话中的参与者的视觉指示符的方法 Active CN111108740B (zh)

Priority Applications (6)

Application Number Priority Date Filing Date Title
CN202110327012.5A CN113162841A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202311186148.4A CN117061472A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202110328601.5A CN113162843B (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202311185909.4A CN117041195A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202110328597.2A CN113162842A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202110328602.XA CN112910764A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201762566181P 2017-09-29 2017-09-29
US62/566,181 2017-09-29
US16/035,422 US10372298B2 (en) 2017-09-29 2018-07-13 User interface for multi-user communication session
US16/035,422 2018-07-13
PCT/US2018/048151 WO2019067131A1 (en) 2017-09-29 2018-08-27 USER INTERFACE FOR MULTI-USER COMMUNICATION SESSION

Related Child Applications (6)

Application Number Title Priority Date Filing Date
CN202311186148.4A Division CN117061472A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202110328597.2A Division CN113162842A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202311185909.4A Division CN117041195A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202110328602.XA Division CN112910764A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202110327012.5A Division CN113162841A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202110328601.5A Division CN113162843B (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面

Publications (2)

Publication Number Publication Date
CN111108740A true CN111108740A (zh) 2020-05-05
CN111108740B CN111108740B (zh) 2021-03-19

Family

ID=65896060

Family Applications (7)

Application Number Title Priority Date Filing Date
CN202311185909.4A Pending CN117041195A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202110328601.5A Active CN113162843B (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202110328597.2A Pending CN113162842A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202311186148.4A Pending CN117061472A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN201880056514.5A Active CN111108740B (zh) 2017-09-29 2018-08-27 电子设备、计算机可读存储介质及用于显示通信会话中的参与者的视觉指示符的方法
CN202110328602.XA Pending CN112910764A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202110327012.5A Pending CN113162841A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面

Family Applications Before (4)

Application Number Title Priority Date Filing Date
CN202311185909.4A Pending CN117041195A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202110328601.5A Active CN113162843B (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202110328597.2A Pending CN113162842A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202311186148.4A Pending CN117061472A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面

Family Applications After (2)

Application Number Title Priority Date Filing Date
CN202110328602.XA Pending CN112910764A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面
CN202110327012.5A Pending CN113162841A (zh) 2017-09-29 2018-08-27 用于多用户通信会话的用户界面

Country Status (4)

Country Link
US (5) US10372298B2 (zh)
EP (1) EP3659326A1 (zh)
CN (7) CN117041195A (zh)
WO (1) WO2019067131A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116886854A (zh) * 2021-01-31 2023-10-13 苹果公司 用于广角视频会议的用户界面
CN117768694A (zh) * 2021-05-15 2024-03-26 苹果公司 共享内容会话用户界面
US12101567B2 (en) 2021-04-30 2024-09-24 Apple Inc. User interfaces for altering visual media

Families Citing this family (67)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI439960B (zh) 2010-04-07 2014-06-01 Apple Inc 虛擬使用者編輯環境
US12080421B2 (en) 2013-12-04 2024-09-03 Apple Inc. Wellness aggregator
US20160019360A1 (en) 2013-12-04 2016-01-21 Apple Inc. Wellness aggregator
EP4365725A3 (en) 2014-05-30 2024-07-17 Apple Inc. Continuity
CN111180039B (zh) 2014-09-02 2023-10-24 苹果公司 身体活动和健身监视器
WO2016144385A1 (en) 2015-03-08 2016-09-15 Apple Inc. Sharing user-configurable graphical constructs
EP3337583B1 (en) 2015-08-20 2024-01-17 Apple Inc. Exercise-based watch face
DK201770423A1 (en) 2016-06-11 2018-01-15 Apple Inc Activity and workout updates
US9716825B1 (en) 2016-06-12 2017-07-25 Apple Inc. User interface for camera effects
US10042595B2 (en) 2016-09-06 2018-08-07 Apple Inc. Devices, methods, and graphical user interfaces for wireless pairing with peripheral devices and displaying status information concerning the peripheral devices
US10736543B2 (en) 2016-09-22 2020-08-11 Apple Inc. Workout monitor interface
US10845955B2 (en) 2017-05-15 2020-11-24 Apple Inc. Displaying a scrollable list of affordances associated with physical activities
US11765114B2 (en) * 2017-05-16 2023-09-19 Apple Inc. Voice communication method
DK180859B1 (en) 2017-06-04 2022-05-23 Apple Inc USER INTERFACE CAMERA EFFECTS
US10372298B2 (en) 2017-09-29 2019-08-06 Apple Inc. User interface for multi-user communication session
DK180130B1 (da) 2018-05-07 2020-06-02 Apple Inc. Multi-participant live communication user interface
US10375313B1 (en) * 2018-05-07 2019-08-06 Apple Inc. Creative camera
US11317833B2 (en) 2018-05-07 2022-05-03 Apple Inc. Displaying user interfaces associated with physical activities
US12033296B2 (en) 2018-05-07 2024-07-09 Apple Inc. Avatar creation user interface
DK201870374A1 (en) 2018-05-07 2019-12-04 Apple Inc. AVATAR CREATION USER INTERFACE
US11722764B2 (en) 2018-05-07 2023-08-08 Apple Inc. Creative camera
DK180171B1 (en) 2018-05-07 2020-07-14 Apple Inc USER INTERFACES FOR SHARING CONTEXTUALLY RELEVANT MEDIA CONTENT
DK201870623A1 (en) 2018-09-11 2020-04-15 Apple Inc. USER INTERFACES FOR SIMULATED DEPTH EFFECTS
US11770601B2 (en) 2019-05-06 2023-09-26 Apple Inc. User interfaces for capturing and managing visual media
US10645294B1 (en) 2019-05-06 2020-05-05 Apple Inc. User interfaces for capturing and managing visual media
US11128792B2 (en) 2018-09-28 2021-09-21 Apple Inc. Capturing and displaying images with multiple focal planes
US11321857B2 (en) 2018-09-28 2022-05-03 Apple Inc. Displaying and editing images with depth information
USD883319S1 (en) * 2018-10-29 2020-05-05 Apple Inc. Electronic device with graphical user interface
US11107261B2 (en) 2019-01-18 2021-08-31 Apple Inc. Virtual avatar animation based on facial feature movement
DK201970532A1 (en) 2019-05-06 2021-05-03 Apple Inc Activity trends and workouts
US11706521B2 (en) 2019-05-06 2023-07-18 Apple Inc. User interfaces for capturing and managing visual media
JP7297940B2 (ja) 2019-06-01 2023-06-26 アップル インコーポレイテッド マルチモードの活動追跡ユーザインタフェース
US11106342B1 (en) 2019-06-03 2021-08-31 Snap Inc. User interfaces to facilitate multiple modes of electronic communication
US11172298B2 (en) 2019-07-08 2021-11-09 Apple Inc. Systems, methods, and user interfaces for headphone fit adjustment and audio output control
DK202070613A1 (en) 2020-02-14 2021-10-15 Apple Inc User interfaces for workout content
US11079913B1 (en) 2020-05-11 2021-08-03 Apple Inc. User interface for status indicators
US11921998B2 (en) 2020-05-11 2024-03-05 Apple Inc. Editing features of an avatar
DK202070624A1 (en) 2020-05-11 2022-01-04 Apple Inc User interfaces related to time
US11722178B2 (en) 2020-06-01 2023-08-08 Apple Inc. Systems, methods, and graphical user interfaces for automatic audio routing
US11039074B1 (en) 2020-06-01 2021-06-15 Apple Inc. User interfaces for managing media
US11375314B2 (en) 2020-07-20 2022-06-28 Apple Inc. Systems, methods, and graphical user interfaces for selecting audio output modes of wearable audio output devices
US11941319B2 (en) 2020-07-20 2024-03-26 Apple Inc. Systems, methods, and graphical user interfaces for selecting audio output modes of wearable audio output devices
US11212449B1 (en) 2020-09-25 2021-12-28 Apple Inc. User interfaces for media capture and management
US11523243B2 (en) * 2020-09-25 2022-12-06 Apple Inc. Systems, methods, and graphical user interfaces for using spatialized audio during communication sessions
US11671697B2 (en) 2021-01-31 2023-06-06 Apple Inc. User interfaces for wide angle video conference
US11381411B1 (en) * 2021-03-30 2022-07-05 Snap Inc. Presenting participant reactions within a virtual conferencing system
US11855796B2 (en) 2021-03-30 2023-12-26 Snap Inc. Presenting overview of participant reactions within a virtual conferencing system
US11889028B2 (en) * 2021-04-26 2024-01-30 Zoom Video Communications, Inc. System and method for one-touch split-mode conference access
US11539876B2 (en) 2021-04-30 2022-12-27 Apple Inc. User interfaces for altering visual media
US11907605B2 (en) * 2021-05-15 2024-02-20 Apple Inc. Shared-content session user interfaces
US11360634B1 (en) * 2021-05-15 2022-06-14 Apple Inc. Shared-content session user interfaces
US11893214B2 (en) 2021-05-15 2024-02-06 Apple Inc. Real-time communication user interface
EP4323992A1 (en) * 2021-05-15 2024-02-21 Apple Inc. User interfaces for group workouts
CN115469735A (zh) * 2021-05-28 2022-12-13 北京字节跳动网络技术有限公司 基于手势的交互方法、装置和客户端
US12112024B2 (en) 2021-06-01 2024-10-08 Apple Inc. User interfaces for managing media styles
US11776190B2 (en) 2021-06-04 2023-10-03 Apple Inc. Techniques for managing an avatar on a lock screen
TWD218549S (zh) * 2021-06-07 2022-05-01 英屬開曼群島商一七直播公司 電腦程式產品之動畫圖形化使用者介面
KR102536806B1 (ko) * 2021-08-11 2023-05-26 라인플러스 주식회사 인스턴트 메시징 애플리케이션을 통해 통화 중 콘텐츠를 공유하는 방법 및 시스템
US12120459B2 (en) 2021-09-10 2024-10-15 Zoom Video Communications, Inc. Spatial chat view
US11496333B1 (en) * 2021-09-24 2022-11-08 Cisco Technology, Inc. Audio reactions in online meetings
US11770600B2 (en) 2021-09-24 2023-09-26 Apple Inc. Wide angle video conference
USD1014524S1 (en) * 2021-10-13 2024-02-13 Zoom Video Communications, Inc. Display screen or portion thereof with animated graphical user interface
US11916979B2 (en) 2021-10-25 2024-02-27 Zoom Video Communications, Inc. Shared control of a remote client
JP7312975B1 (ja) * 2022-03-31 2023-07-24 グリー株式会社 端末装置の制御プログラム、端末装置、端末装置の制御方法、サーバ装置の制御プログラム、サーバ装置、及びサーバ装置の制御方法
EP4273678A1 (en) * 2022-05-06 2023-11-08 Apple Inc. Devices, methods, and graphical user interfaces for updating a session region
US11896871B2 (en) 2022-06-05 2024-02-13 Apple Inc. User interfaces for physical activity information
US11977729B2 (en) 2022-06-05 2024-05-07 Apple Inc. Physical activity information user interfaces

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1890996A (zh) * 2003-12-05 2007-01-03 摩托罗拉公司(在特拉华州注册的公司) 多媒体一键通话中的通话权控制
CN101431564A (zh) * 2007-11-05 2009-05-13 三星电子株式会社 使用出席信息显示另一方终端信息的方法和移动终端
CN101854247A (zh) * 2009-03-30 2010-10-06 阿瓦雅公司 用于持续多媒体会议服务的系统和方法
CN102572369A (zh) * 2010-12-17 2012-07-11 华为终端有限公司 语音音量提示的方法、终端及视频通信系统
CN103222247A (zh) * 2010-06-23 2013-07-24 斯凯普公司 通信会话的处理
US20140375747A1 (en) * 2011-02-11 2014-12-25 Vodafone Ip Licensing Limited Method and system for facilitating communication between wireless communication devices

Family Cites Families (287)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3859005A (en) 1973-08-13 1975-01-07 Albert L Huebner Erosion reduction in wet turbines
US4826405A (en) 1985-10-15 1989-05-02 Aeroquip Corporation Fan blade fabrication system
US7185054B1 (en) 1993-10-01 2007-02-27 Collaboration Properties, Inc. Participant display and selection in video conference calls
US5617526A (en) 1994-12-13 1997-04-01 Microsoft Corporation Operating system provided notification area for displaying visual notifications from application programs
US6728784B1 (en) 1996-08-21 2004-04-27 Netspeak Corporation Collaborative multimedia architecture for packet-switched data networks
IL137478A (en) 1998-01-26 2005-11-20 Westerman Wayne Method and apparatus for integrating manual input
US6791583B2 (en) 2000-03-09 2004-09-14 Sun Microsystems, Inc. System and method for providing spatially distributed device interaction
US6731308B1 (en) 2000-03-09 2004-05-04 Sun Microsystems, Inc. Mechanism for reciprocal awareness of intent to initiate and end interaction among remote users
JP4434424B2 (ja) 2000-04-18 2010-03-17 株式会社ルネサステクノロジ ホームエレクトロニクスシステム、ホームサーバ装置およびコンピュータをホームサーバ装置として機能させるためのプログラムを記録したコンピュータ読取可能な記録媒体
US7218226B2 (en) 2004-03-01 2007-05-15 Apple Inc. Acceleration-based theft detection system for portable electronic devices
US7688306B2 (en) 2000-10-02 2010-03-30 Apple Inc. Methods and apparatuses for operating a portable device based on an accelerometer
US8707185B2 (en) 2000-10-10 2014-04-22 Addnclick, Inc. Dynamic information management system and method for content delivery and sharing in content-, metadata- and viewer-based, live social networking among users concurrently engaged in the same and/or similar content
US6677932B1 (en) 2001-01-28 2004-01-13 Finger Works, Inc. System and method for recognizing touch typing under limited tactile feedback conditions
US6570557B1 (en) 2001-02-10 2003-05-27 Finger Works, Inc. Multi-touch system and method for emulating modifier keys via fingertip chords
US20040239763A1 (en) 2001-06-28 2004-12-02 Amir Notea Method and apparatus for control and processing video images
US7728870B2 (en) 2001-09-06 2010-06-01 Nice Systems Ltd Advanced quality management and recording solutions for walk-in environments
US20030112938A1 (en) 2001-12-17 2003-06-19 Memcorp, Inc. Telephone answering machine and method employing caller identification data
US7287054B2 (en) 2002-05-31 2007-10-23 Microsoft Corporation Systems and methods for shared browsing among a plurality of online co-users
US7487211B2 (en) * 2002-07-01 2009-02-03 Microsoft Corporation Interactive, computer network-based video conferencing system and process
GB0222926D0 (en) 2002-10-03 2002-11-13 Koninkl Philips Electronics Nv Media communications apparatus and method
US6967565B2 (en) * 2003-06-27 2005-11-22 Hx Lifespace, Inc. Building automation system
US7571014B1 (en) 2004-04-01 2009-08-04 Sonos, Inc. Method and apparatus for controlling multimedia players in a multi-zone system
JP4352381B2 (ja) 2003-09-19 2009-10-28 日本ビクター株式会社 テレビ電話装置
US20050099492A1 (en) 2003-10-30 2005-05-12 Ati Technologies Inc. Activity controlled multimedia conferencing
US7305438B2 (en) 2003-12-09 2007-12-04 International Business Machines Corporation Method and system for voice on demand private message chat
US20060002315A1 (en) 2004-04-15 2006-01-05 Citrix Systems, Inc. Selectively sharing screen data
JP4707368B2 (ja) 2004-06-25 2011-06-22 雅貴 ▲吉▼良 立体視画像作成方法および装置
US7197121B2 (en) 2004-06-30 2007-03-27 Glenayre Electronics, Inc. Audio chunking
JP4592551B2 (ja) * 2004-11-10 2010-12-01 シャープ株式会社 通信装置
KR20060064326A (ko) * 2004-12-08 2006-06-13 엘지전자 주식회사 휴대단말기의 대체 영상신호 전송장치 및 방법
US7536565B2 (en) 2005-01-07 2009-05-19 Apple Inc. Techniques for improved playlist processing on media devices
US8929528B2 (en) 2005-02-11 2015-01-06 Rockstar Consortium Us Lp Method and system for enhancing collaboration
WO2007063922A1 (ja) 2005-11-29 2007-06-07 Kyocera Corporation 通信端末および通信システム、並びに通信端末の表示方法
JP4994646B2 (ja) * 2005-11-29 2012-08-08 京セラ株式会社 通信端末および通信システム、並びに通信端末の表示方法
US7657849B2 (en) 2005-12-23 2010-02-02 Apple Inc. Unlocking a device by performing gestures on an unlock image
US7338075B2 (en) * 2006-07-14 2008-03-04 Honda Motor Co., Ltd. Knee bolster
US8773494B2 (en) 2006-08-29 2014-07-08 Microsoft Corporation Techniques for managing visual compositions for a multimedia conference call
US8564544B2 (en) * 2006-09-06 2013-10-22 Apple Inc. Touch screen device, method, and graphical user interface for customizing display of content category icons
CN100472420C (zh) * 2006-09-14 2009-03-25 腾讯科技（深圳）有限公司 显示装置及显示方法
US9253222B2 (en) * 2007-02-22 2016-02-02 Match.Com. L.L.C. Synchronous delivery of media content in a collaborative environment
WO2008105429A1 (ja) 2007-02-27 2008-09-04 Kyocera Corporation 通信端末およびその制御方法
CN101309390B (zh) 2007-05-17 2012-05-23 华为技术有限公司 视讯通信系统、装置及其字幕显示方法
US8711102B2 (en) 2007-06-15 2014-04-29 Microsoft Corporation Graphical communication user interface with graphical position user input mechanism for selecting a display image
US20080313278A1 (en) * 2007-06-17 2008-12-18 Linqee Ltd Method and apparatus for sharing videos
US8180029B2 (en) * 2007-06-28 2012-05-15 Voxer Ip Llc Telecommunication and multimedia management method and apparatus
NO327899B1 (no) 2007-07-13 2009-10-19 Tandberg Telecom As Fremgangsmate og system for automatisk kamerakontroll
US20090025678A1 (en) * 2007-07-18 2009-01-29 Maiers Terry A Trinity pneumatic energy systems
US20090164587A1 (en) 2007-12-21 2009-06-25 Telefonaktiebolaget Lm Ericsson (Publ) Method and communication server for group communications
US9286027B2 (en) * 2008-04-11 2016-03-15 T-Mobile Usa, Inc. Digital picture frame having communication capabilities
US8270767B2 (en) 2008-04-16 2012-09-18 Johnson Controls Technology Company Systems and methods for providing immersive displays of video camera information from a plurality of cameras
US8112490B2 (en) * 2008-05-15 2012-02-07 Upton Kevin S System and method for providing a virtual environment with shared video on demand
US20100011065A1 (en) 2008-07-08 2010-01-14 Scherpa Josef A Instant messaging content staging
US8537196B2 (en) 2008-10-06 2013-09-17 Microsoft Corporation Multi-device capture and spatial browsing of conferences
KR101829865B1 (ko) 2008-11-10 2018-02-20 구글 엘엘씨 멀티센서 음성 검출
US9325823B2 (en) 2008-12-19 2016-04-26 Verizon Patent And Licensing Inc. Visual address book and dialer
US8650255B2 (en) 2008-12-31 2014-02-11 International Business Machines Corporation System and method for joining a conversation
WO2010095075A1 (en) 2009-02-20 2010-08-26 Koninklijke Philips Electronics N.V. System, method and apparatus for causing a device to enter an active mode
US20110115875A1 (en) * 2009-05-07 2011-05-19 Innovate, Llc Assisted Communication System
US8281244B2 (en) 2009-06-11 2012-10-02 Apple Inc. User interface for media playback
US8839128B2 (en) 2009-11-25 2014-09-16 Cooliris, Inc. Gallery application for content viewing
US20110161836A1 (en) 2009-12-31 2011-06-30 Ruicao Mu System for processing and synchronizing large scale video conferencing and document sharing
KR101737081B1 (ko) 2010-02-10 2017-05-17 삼성전자주식회사 디지털 촬영 장치 및 그 제어 방법과 이를 기록한 기록 매체
US9880619B2 (en) 2010-02-23 2018-01-30 Muy Interactive Ltd. Virtual reality system with a finger-wearable control
WO2011104709A2 (en) 2010-02-23 2011-09-01 Rami Parham A system for projecting content to a display surface having user-controlled size, shape and location/direction and apparatus and methods useful in conjunction therewith
US8818175B2 (en) 2010-03-08 2014-08-26 Vumanity Media, Inc. Generation of composited video programming
CN102215217B (zh) * 2010-04-07 2014-09-17 苹果公司 在通话期间建立视频会议
US8744420B2 (en) * 2010-04-07 2014-06-03 Apple Inc. Establishing a video conference during a phone call
US8704863B2 (en) * 2010-04-07 2014-04-22 Apple Inc. Transitioning between circuit switched calls and video calls
US8786664B2 (en) * 2010-04-28 2014-07-22 Qualcomm Incorporated System and method for providing integrated video communication applications on a mobile computing device
US8694313B2 (en) * 2010-05-19 2014-04-08 Google Inc. Disambiguation of contact information using historical data
US8392411B2 (en) * 2010-05-20 2013-03-05 Google Inc. Automatic routing of search results
US8558868B2 (en) 2010-07-01 2013-10-15 Cisco Technology, Inc. Conference participant visualization
CN101917529B (zh) * 2010-08-18 2012-08-22 浙江工业大学 基于家庭区域物联网的电话远程智能控制器
EP2609750A4 (en) 2010-08-26 2014-10-08 Tarik Taleb SYSTEM AND METHOD FOR CREATING A CUSTOMIZED MULTIMEDIA CONTENT CHANNEL FOR A SOCIAL NETWORK
KR101956639B1 (ko) 2010-09-13 2019-03-11 소니 인터랙티브 엔터테인먼트 아메리카 엘엘씨 비디오 서버 및 게임 서버를 포함하는 컴퓨터 게임 시스템에서 컴퓨터 게임을 제공하는 방법 및 시스템
US20120114108A1 (en) 2010-09-27 2012-05-10 Voxer Ip Llc Messaging communication application
US9294722B2 (en) 2010-10-19 2016-03-22 Microsoft Technology Licensing, Llc Optimized telepresence using mobile device gestures
US11265510B2 (en) 2010-10-22 2022-03-01 Litl Llc Video integration
US20120173383A1 (en) 2011-01-05 2012-07-05 Thomson Licensing Method for implementing buddy-lock for obtaining media assets that are consumed or recommended
WO2012097285A2 (en) 2011-01-14 2012-07-19 Suarez Corporation Industries Social shopping apparatus, system and method
KR101692401B1 (ko) 2011-01-21 2017-01-03 삼성전자주식회사 영상 처리 방법 및 장치
CN102651731B (zh) * 2011-02-24 2016-06-29 腾讯科技（深圳）有限公司 一种视频播放方法及其装置
KR101226560B1 (ko) * 2011-03-29 2013-01-25 (주)티아이스퀘어 커뮤니케이션 서비스 수행 도중 멀티미디어 콘텐츠 공유 서비스 제공 방법 및 시스템
US9294723B2 (en) 2011-04-29 2016-03-22 Creston Electronics, Inc. Meeting management system including automated equipment setup
US20140108084A1 (en) 2012-10-12 2014-04-17 Crestron Electronics, Inc. Initiating Schedule Management Via Radio Frequency Beacons
US10692020B2 (en) 2011-04-29 2020-06-23 Crestron Electronics, Inc. Real-time automatic meeting room reservation based on the number of actual participants
US10044871B2 (en) 2011-04-29 2018-08-07 Crestron Electronics, Inc. Conference system including automated equipment setup
US8949333B2 (en) * 2011-05-20 2015-02-03 Alejandro Backer Systems and methods for virtual interactions
EP2715658A4 (en) 2011-05-26 2015-02-18 Google Inc PROVIDING CONTEXT INFORMATION AND ACTIVATING A GROUP COMMUNICATION FOR PARTICIPANTS IN A CONVERSATION
US8621352B2 (en) * 2011-06-08 2013-12-31 Cisco Technology, Inc. Virtual meeting video sharing
US8832284B1 (en) * 2011-06-16 2014-09-09 Google Inc. Virtual socializing
US8970653B2 (en) 2011-06-16 2015-03-03 Vtel Products Corporation, Inc. Video conference control system and method
US9197427B2 (en) 2011-08-26 2015-11-24 Salesforce.Com, Inc. Methods and systems for screensharing
US9916538B2 (en) 2012-09-15 2018-03-13 Z Advanced Computing, Inc. Method and system for feature detection
US11074495B2 (en) 2013-02-28 2021-07-27 Z Advanced Computing, Inc. (Zac) System and method for extremely efficient image and pattern recognition and artificial intelligence platform
US20130088413A1 (en) 2011-10-05 2013-04-11 Google Inc. Method to Autofocus on Near-Eye Display
US8890926B2 (en) 2011-11-02 2014-11-18 Microsoft Corporation Automatic identification and representation of most relevant people in meetings
WO2013064854A1 (en) 2011-11-03 2013-05-10 Glowbl A communications interface and a communications method, a corresponding computer program, and a corresponding registration medium
US8655385B2 (en) 2011-11-18 2014-02-18 Blackberry Limited Social networking methods and apparatus for use in facilitating participation in user-relevant social groups
CA2893694C (en) 2011-12-06 2019-05-14 E-Vision Smart Optics, Inc. Systems, devices, and/or methods for providing images
US10313279B2 (en) 2011-12-12 2019-06-04 Rcs Ip, Llc Live video-chat function within text messaging environment
US10776103B2 (en) 2011-12-19 2020-09-15 Majen Tech, LLC System, method, and computer program product for coordination among multiple devices
US9277101B2 (en) 2011-12-22 2016-03-01 Verizon Patent And Licensing Inc. Method and system for generating interpolations of captured video content
US20130169742A1 (en) 2011-12-28 2013-07-04 Google Inc. Video conferencing with unlimited dynamic active participants
JP6065369B2 (ja) * 2012-02-03 2017-01-25 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JP2013178752A (ja) 2012-02-06 2013-09-09 Konami Digital Entertainment Co Ltd 管理サーバ、その制御方法、及びそのプログラム
US20130225140A1 (en) 2012-02-27 2013-08-29 Research In Motion Tat Ab Apparatus and Method Pertaining to Multi-Party Conference Call Actions
US8682809B2 (en) 2012-04-18 2014-03-25 Scorpcast, Llc System and methods for providing user generated video reviews
US9507327B2 (en) 2012-04-20 2016-11-29 Liaison Home Automation, Llc Systems and methods for controlling home and commercial environments including one touch and intuitive functionality
CN103384235B (zh) 2012-05-04 2017-09-29 腾讯科技（深圳）有限公司 多人会话时数据呈现的方法、服务器及系统
WO2013169849A2 (en) 2012-05-09 2013-11-14 Industries Llc Yknots Device, method, and graphical user interface for displaying user interface objects corresponding to an application
CN103458215B (zh) 2012-05-29 2016-11-23 国基电子（上海）有限公司 切换视频通话的系统、手机、电子装置及切换方法
US9800951B1 (en) 2012-06-21 2017-10-24 Amazon Technologies, Inc. Unobtrusively enhancing video content with extrinsic data
KR101960306B1 (ko) 2012-07-13 2019-03-20 엘지전자 주식회사 이동 단말기 및 이의 제어 방법
US8477176B1 (en) 2012-07-19 2013-07-02 Google Inc. System and method for automatically suggesting or inviting a party to join a multimedia communications session
US20140096169A1 (en) * 2012-09-28 2014-04-03 Joseph Dodson Playback synchronization in a group viewing a media title
US9444862B2 (en) * 2012-09-29 2016-09-13 Intel Corporation Dynamic media content output for mobile devices
JP2014071835A (ja) 2012-10-01 2014-04-21 Fujitsu Ltd 電子機器及び処理制御方法
US9213462B2 (en) 2012-10-10 2015-12-15 Microsoft Technology Licensing, Llc Unified communications application functionality in condensed views
US8948356B2 (en) 2012-10-15 2015-02-03 Twilio, Inc. System and method for routing communications
JP2014087126A (ja) 2012-10-22 2014-05-12 Sharp Corp 電力管理装置、電力管理装置の制御方法および電力管理装置の制御プログラム
CN105122119B (zh) 2012-12-06 2017-06-09 E-视觉有限公司 提供影像的系统、装置、和/或方法
US9466142B2 (en) 2012-12-17 2016-10-11 Intel Corporation Facial movement based avatar animation
JP6158947B2 (ja) 2012-12-29 2017-07-05 アップル インコーポレイテッド タッチ入力からディスプレイ出力への関係間を遷移するためのデバイス、方法及びグラフィカルユーザインタフェース
US9699271B2 (en) 2013-01-29 2017-07-04 Blackberry Limited Method and apparatus for suspending screen sharing during confidential data entry
US8848026B2 (en) 2013-02-01 2014-09-30 Maitland M. DeLand Video conference call conversation topic sharing system
US9565226B2 (en) 2013-02-13 2017-02-07 Guy Ravine Message capturing and seamless message sharing and navigation
US20140247368A1 (en) 2013-03-04 2014-09-04 Colby Labs, Llc Ready click camera control
US9025001B2 (en) * 2013-03-11 2015-05-05 Honeywell International Inc. Apparatus and method to switch a video call to an audio call
CN103237191B (zh) * 2013-04-16 2016-04-06 成都飞视美视频技术有限公司 在视频会议中同步推送音视频的方法
JP6244655B2 (ja) 2013-05-16 2017-12-13 ソニー株式会社 画像処理装置および画像処理方法
US10523454B2 (en) 2013-06-13 2019-12-31 Evernote Corporation Initializing chat sessions by pointing to content
KR102318442B1 (ko) 2013-06-18 2021-10-28 삼성전자주식회사 사용자 단말 장치 및 그 홈 네트워크 관리 방법
US9509913B2 (en) 2013-06-18 2016-11-29 Olympus Corporation Image pickup apparatus, method of controlling image pickup apparatus, image pickup apparatus system, and image pickup control program stored in storage medium of image pickup apparatus
JP6111898B2 (ja) 2013-06-28 2017-04-12 富士電機株式会社 画像表示装置、監視システム、及び画像表示プログラム
US20150033149A1 (en) 2013-07-23 2015-01-29 Saleforce.com, inc. Recording and playback of screen sharing sessions in an information networking environment
US8914752B1 (en) 2013-08-22 2014-12-16 Snapchat, Inc. Apparatus and method for accelerated display of ephemeral messages
CN105531623B (zh) 2013-09-12 2018-08-14 麦克赛尔株式会社 影像记录装置和存储介质
US9652475B2 (en) 2013-09-17 2017-05-16 Google Technology Holdings LLC Highlight reels
US10194189B1 (en) * 2013-09-23 2019-01-29 Amazon Technologies, Inc. Playback of content using multiple devices
US9977591B2 (en) 2013-10-01 2018-05-22 Ambient Consulting, LLC Image with audio conversation system and method
CN108107571B (zh) 2013-10-30 2021-06-01 株式会社摩如富 图像处理装置及方法及非暂时性计算机可读记录介质
US9563328B2 (en) 2013-12-23 2017-02-07 Microsoft Technology Licensing, Llc Information surfacing with visual cues indicative of relevance
US20160014477A1 (en) * 2014-02-11 2016-01-14 Benjamin J. Siders Systems and Methods for Synchronized Playback of Social Networking Content
US9219881B2 (en) 2014-03-07 2015-12-22 Shenzhen Seefaa Scitech Co., Ltd. Device and method for live video chat
JP6284396B2 (ja) 2014-03-10 2018-02-28 アルパイン株式会社 電子システムおよび電子装置、またそれらの状況通知方法およびプログラム
CN104010158A (zh) 2014-03-11 2014-08-27 宇龙计算机通信科技(深圳)有限公司 移动终端及多方视频通话的实现方法
US20160014059A1 (en) 2015-09-30 2016-01-14 Yogesh Chunilal Rathod Presenting one or more types of interface(s) or media to calling and/or called user while acceptance of call
US10070035B2 (en) 2014-04-02 2018-09-04 Alarm.Com Incorporated Monitoring system configuration technology
JP5660746B1 (ja) 2014-04-09 2015-01-28 パナソニックＩｐマネジメント株式会社 監視カメラシステム
GB201406789D0 (en) * 2014-04-15 2014-05-28 Microsoft Corp Displaying video call data
US10444715B2 (en) 2014-05-01 2019-10-15 Belkin International, Inc. Controlling settings and attributes related to operation of devices in a network
US9521170B2 (en) 2014-04-22 2016-12-13 Minerva Project, Inc. Participation queue system and method for online video conferencing
US9537811B2 (en) 2014-10-02 2017-01-03 Snap Inc. Ephemeral gallery of ephemeral messages
US9313397B2 (en) 2014-05-30 2016-04-12 Apple Inc. Realtime capture exposure adjust gestures
US9185062B1 (en) 2014-05-31 2015-11-10 Apple Inc. Message user interfaces for capture and transmittal of media and location content
US9971500B2 (en) 2014-06-01 2018-05-15 Apple Inc. Displaying options, assigning notification, ignoring messages, and simultaneous user interface displays in a messaging application
JP2016001446A (ja) 2014-06-12 2016-01-07 モイ株式会社 変換画像提供装置、変換画像提供方法及びプログラム
US20160057173A1 (en) * 2014-07-16 2016-02-25 Genband Us Llc Media Playback Synchronization Across Multiple Clients
KR102155094B1 (ko) 2014-08-28 2020-09-11 엘지전자 주식회사 이동 단말기 및 그 제어방법
CN105389173B (zh) * 2014-09-03 2020-08-04 腾讯科技（深圳）有限公司 一种基于长连接任务的界面切换展示方法及装置
US10178473B2 (en) 2014-09-05 2019-01-08 Plantronics, Inc. Collection and analysis of muted audio
US20170097621A1 (en) 2014-09-10 2017-04-06 Crestron Electronics, Inc. Configuring a control sysem
US10057305B2 (en) 2014-09-10 2018-08-21 Microsoft Technology Licensing, Llc Real-time sharing during a phone call
CN104469143B (zh) * 2014-09-30 2016-08-31 腾讯科技（深圳）有限公司 视频分享方法及装置
US20160139785A1 (en) 2014-11-16 2016-05-19 Cisco Technology, Inc. Multi-modal communications
CN104602133B (zh) * 2014-11-21 2018-09-18 腾讯科技（北京）有限公司 多媒体文件共享方法和终端及服务器
US10353532B1 (en) 2014-12-18 2019-07-16 Leap Motion, Inc. User interface for integrated gestural interaction and multi-user collaboration in immersive virtual reality environments
US10116601B2 (en) 2015-02-06 2018-10-30 Jamdeo Canada Ltd. Methods and devices for display device notifications
US9632664B2 (en) 2015-03-08 2017-04-25 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
JP6172610B2 (ja) 2015-03-17 2017-08-02 パナソニックＩｐマネジメント株式会社 テレビ会議用システム
US10080111B2 (en) 2015-03-19 2018-09-18 Facebook, Inc. Techniques for communication using audio stickers
US10061467B2 (en) 2015-04-16 2018-08-28 Microsoft Technology Licensing, Llc Presenting a message in a communication session
US20160308920A1 (en) 2015-04-16 2016-10-20 Microsoft Technology Licensing, Llc Visual Configuration for Communication Session Participants
US11113022B2 (en) 2015-05-12 2021-09-07 D&M Holdings, Inc. Method, system and interface for controlling a subwoofer in a networked audio system
WO2016189350A1 (en) 2015-05-23 2016-12-01 Yogesh Chunilal Rathod Calling to user(s) for real-time sharing, participation, e-commerce, workflow, communication & collaboration in the event of acceptance of call by caller user(s)
DK179328B1 (en) 2015-06-07 2018-05-07 Apple Inc DEVICES, METHODS AND GRAPHICAL USER INTERFACES FOR PROVIDING AND INTERACTING WITH NOTIFICATIONS
US20160364106A1 (en) 2015-06-09 2016-12-15 Whatsapp Inc. Techniques for dynamic media album display and management
CN105094957A (zh) 2015-06-10 2015-11-25 小米科技有限责任公司 视频会话窗口控制方法及装置
CN104980578B (zh) 2015-06-11 2018-01-23 广东欧珀移动通信有限公司 一种事件提醒方法及移动终端
CN106303648A (zh) * 2015-06-11 2017-01-04 阿里巴巴集团控股有限公司 一种同步播放多媒体数据的方法及装置
US20160380780A1 (en) * 2015-06-25 2016-12-29 Collaboration Solutions, Inc. Systems and Methods for Simultaneously Sharing Media Over a Network
CN105141498B (zh) * 2015-06-30 2017-01-25 腾讯科技（深圳）有限公司 一种通信群组的创建方法、装置及终端
DE112016003352T5 (de) 2015-07-24 2018-04-12 Max Andaker Reibungslose Benutzeroberfläche für virtuelle Kollaboration, Kommunikation und Cloud-Computing
WO2017017665A1 (en) 2015-07-30 2017-02-02 Brightgreen Pty Ltd Multiple input touch dimmer lighting control
CN105072336A (zh) 2015-07-31 2015-11-18 小米科技有限责任公司 调节拍摄功能的控制方法、装置和设备
WO2017026604A1 (en) 2015-08-10 2017-02-16 Lg Electronics Inc. Mobile terminal and method for controlling the same
CN105204846B (zh) 2015-08-26 2019-07-09 小米科技有限责任公司 多人视频中视频画面的显示方法、装置及终端设备
WO2017053440A1 (en) 2015-09-23 2017-03-30 Edoardo Rizzi Communication device and method
US20170094019A1 (en) 2015-09-26 2017-03-30 Microsoft Technology Licensing, Llc Providing Access to Non-Obscured Content Items based on Triggering Events
WO2017056032A1 (en) * 2015-09-30 2017-04-06 Monga Rajesh Device and method for displaying synchronized collage of digital content in digital photo frames
US20170111587A1 (en) 2015-10-14 2017-04-20 Garmin Switzerland Gmbh Navigation device wirelessly coupled with auxiliary camera unit
CN105391778B (zh) * 2015-11-06 2019-03-01 深圳市沃慧生活科技有限公司 基于移动互联网智慧社区的控制方法
CN105554429A (zh) * 2015-11-19 2016-05-04 掌赢信息科技（上海）有限公司 一种视频通话显示方法及视频通话设备
US10194089B2 (en) 2016-02-08 2019-01-29 Qualcomm Incorporated Systems and methods for implementing seamless zoom function using multiple cameras
KR20170110469A (ko) * 2016-03-23 2017-10-11 삼성전자주식회사 영상 통화를 제공하기 위한 방법 및 이를 위한 전자 장치
US10032371B2 (en) 2016-04-22 2018-07-24 Iteris, Inc. Notification of bicycle detection for cyclists at a traffic intersection
US10609093B2 (en) 2016-05-06 2020-03-31 Facebook, Inc. Instantaneous call sessions over a communications application
US10592098B2 (en) * 2016-05-18 2020-03-17 Apple Inc. Devices, methods, and graphical user interfaces for messaging
US10511456B2 (en) 2016-06-12 2019-12-17 Apple Inc. Presenting accessory group controls
DK201670609A1 (en) 2016-06-12 2018-01-02 Apple Inc User interfaces for retrieving contextually relevant media content
US10554599B2 (en) 2016-06-12 2020-02-04 Apple Inc. Conversion of detected URL in text message
DK179593B1 (en) 2016-06-12 2019-02-25 Apple Inc. USER INTERFACE FOR MANAGING CONTROLLABLE EXTERNAL DEVICES
US10310725B2 (en) 2016-06-12 2019-06-04 Apple Inc. Generating scenes based on accessory state
JP6634965B2 (ja) 2016-06-20 2020-01-22 株式会社リコー 通信端末、通信システム、通信制御方法、及びプログラム
US9681099B1 (en) 2016-06-28 2017-06-13 Facebook, Inc. Multiplex live group communication
JP6909990B2 (ja) 2016-07-06 2021-07-28 パナソニックＩｐマネジメント株式会社 表示制御システム、表示制御方法、及び表示制御プログラム
CN106210855B (zh) * 2016-07-11 2019-12-13 网易（杭州）网络有限公司 对象显示方法和装置
US20180047200A1 (en) 2016-08-11 2018-02-15 Jibjab Media Inc. Combining user images and computer-generated illustrations to produce personalized animated digital avatars
US10049515B2 (en) 2016-08-24 2018-08-14 Echostar Technologies International Corporation Trusted user identification and management for home automation systems
US10321193B2 (en) * 2016-09-02 2019-06-11 Google Llc Sharing a user-selected video in a group communication
US10042595B2 (en) 2016-09-06 2018-08-07 Apple Inc. Devices, methods, and graphical user interfaces for wireless pairing with peripheral devices and displaying status information concerning the peripheral devices
US10261747B2 (en) 2016-09-09 2019-04-16 The Boeing Company Synchronized side-by-side display of live video and corresponding virtual environment images
US10635274B2 (en) 2016-09-21 2020-04-28 Iunu, Inc. Horticultural care tracking, validation and verification
EP3516627A4 (en) 2016-09-23 2020-06-24 Apple Inc. CREATION AND EDITION OF AVATAR
JP6179834B1 (ja) 2016-09-27 2017-08-16 パナソニックＩｐマネジメント株式会社 テレビ会議装置
US20180096504A1 (en) 2016-10-04 2018-04-05 Facebook, Inc. Controls and Interfaces for User Interactions in Virtual Spaces
US20180124359A1 (en) 2016-10-31 2018-05-03 Microsoft Technology Licensing, Llc Phased experiences for telecommunication sessions
US20180123986A1 (en) 2016-11-01 2018-05-03 Microsoft Technology Licensing, Llc Notification of a Communication Session in a Different User Experience
US20180139374A1 (en) 2016-11-14 2018-05-17 Hai Yu Smart and connected object view presentation system and apparatus
US9819877B1 (en) 2016-12-30 2017-11-14 Microsoft Technology Licensing, Llc Graphical transitions of displayed content based on a change of state in a teleconference session
US20180205797A1 (en) 2017-01-15 2018-07-19 Microsoft Technology Licensing, Llc Generating an activity sequence for a teleconference session
US11240403B2 (en) 2017-02-24 2022-02-01 Avigilon Corporation Compensation for delay in PTZ camera system
US10523625B1 (en) 2017-03-09 2019-12-31 Snap Inc. Restricted group content collection
US20180295079A1 (en) 2017-04-04 2018-10-11 Anthony Longo Methods and apparatus for asynchronous digital messaging
US10200969B2 (en) 2017-05-09 2019-02-05 Qualcomm Incorporated Methods and apparatus for selectively providing alerts to paired devices
US20200186378A1 (en) 2017-05-19 2020-06-11 Curtis Wayne Six Smart hub system
US10168704B2 (en) 2017-06-05 2019-01-01 Hanzhou Zero Zero Technology Co., Ltd. System and method for providing easy-to-use release and auto-positioning for drone applications
US10404636B2 (en) 2017-06-15 2019-09-03 Google Llc Embedded programs and interfaces for chat conversations
WO2018232333A1 (en) 2017-06-15 2018-12-20 Lutron Electronics Co., Inc. Communicating with and controlling load control systems
US10348658B2 (en) * 2017-06-15 2019-07-09 Google Llc Suggested items for use with embedded applications in chat conversations
US10541824B2 (en) 2017-06-21 2020-01-21 Minerva Project, Inc. System and method for scalable, interactive virtual conferencing
US10771270B2 (en) 2017-07-20 2020-09-08 Slack Technologies, Inc. Channeling messaging communications in a selected group-based communication interface
US20190068670A1 (en) * 2017-08-22 2019-02-28 WabiSpace LLC System and method for building and presenting an interactive multimedia environment
CN107728876B (zh) 2017-09-20 2019-08-09 深圳市金立通信设备有限公司 一种分屏显示的方法、终端及计算机可读存储介质
US11190753B1 (en) 2017-09-28 2021-11-30 Apple Inc. Head-mountable device with object movement detection
US10372298B2 (en) 2017-09-29 2019-08-06 Apple Inc. User interface for multi-user communication session
US10466962B2 (en) 2017-09-29 2019-11-05 Sonos, Inc. Media playback system with voice assistance
KR102490376B1 (ko) 2017-11-06 2023-01-25 삼성전자 주식회사 전자 장치 및 전자 장치 간 음성으로 기능을 실행하는 방법
CN107704177B (zh) 2017-11-07 2020-04-21 Oppo广东移动通信有限公司 界面显示方法、装置及终端
US20190138951A1 (en) 2017-11-09 2019-05-09 Facebook, Inc. Systems and methods for generating multi-contributor content posts for events
US11769159B2 (en) 2017-11-13 2023-09-26 Aloke Chaudhuri System and method for human emotion and identity detection
CN107992248B (zh) 2017-11-27 2020-09-29 北京小米移动软件有限公司 消息显示方法及装置
US10410426B2 (en) 2017-12-19 2019-09-10 GM Global Technology Operations LLC Augmented reality vehicle user interface
JP7182632B2 (ja) 2017-12-22 2022-12-02 マジック リープ， インコーポレイテッド 仮想、拡張、または複合現実環境内で３ｄビデオを生成および表示するための方法およびシステム
US20190205861A1 (en) 2018-01-03 2019-07-04 Marjan Bace Customer-directed Digital Reading and Content Sales Platform
US10523976B2 (en) 2018-01-09 2019-12-31 Facebook, Inc. Wearable cameras
US11941719B2 (en) 2018-01-23 2024-03-26 Nvidia Corporation Learning robotic tasks using one or more neural networks
US20190236142A1 (en) 2018-02-01 2019-08-01 CrowdCare Corporation System and Method of Chat Orchestrated Visualization
KR20190102509A (ko) 2018-02-26 2019-09-04 삼성전자주식회사 음성 명령을 수행하는 방법 및 시스템
US20190303860A1 (en) 2018-03-29 2019-10-03 Qualcomm Incorporated System and method for item recovery by robotic vehicle
US10375313B1 (en) 2018-05-07 2019-08-06 Apple Inc. Creative camera
DK180130B1 (da) 2018-05-07 2020-06-02 Apple Inc. Multi-participant live communication user interface
KR102520069B1 (ko) 2018-05-07 2023-04-10 구글 엘엘씨 다양한 연결 디바이스를 제어하기 위한 복합 그래픽 어시스턴트 인터페이스 제공
US10558546B2 (en) 2018-05-08 2020-02-11 Apple Inc. User interfaces for controlling or presenting device usage on an electronic device
US10818093B2 (en) 2018-05-25 2020-10-27 Tiff's Treats Holdings, Inc. Apparatus, method, and system for presentation of multimedia content including augmented reality content
US11100498B2 (en) 2018-06-03 2021-08-24 Apple Inc. User interfaces for transfer accounts
US10981564B2 (en) 2018-08-17 2021-04-20 Ford Global Technologies, Llc Vehicle path planning
US10645294B1 (en) 2019-05-06 2020-05-05 Apple Inc. User interfaces for capturing and managing visual media
US11128792B2 (en) 2018-09-28 2021-09-21 Apple Inc. Capturing and displaying images with multiple focal planes
US10785413B2 (en) 2018-09-29 2020-09-22 Apple Inc. Devices, methods, and graphical user interfaces for depth-based annotation
US10924446B1 (en) 2018-10-08 2021-02-16 Facebook, Inc. Digital story reply container
US20200135191A1 (en) 2018-10-30 2020-04-30 Bby Solutions, Inc. Digital Voice Butler
US10679420B2 (en) 2018-11-02 2020-06-09 General Motors Llc Augmented reality (AR) remote vehicle assistance
US10885912B2 (en) 2018-11-13 2021-01-05 Motorola Solutions, Inc. Methods and systems for providing a corrected voice command
US11153238B2 (en) 2019-01-08 2021-10-19 Snap Inc. Dynamic application configuration
US20200274726A1 (en) 2019-02-24 2020-08-27 TeaMeet Technologies Ltd. Graphical interface designed for scheduling a meeting
KR20200111853A (ko) 2019-03-19 2020-10-05 삼성전자주식회사 전자 장치 및 전자 장치의 음성 인식 제어 방법
CN114938360B (zh) 2019-04-12 2023-04-18 腾讯科技（深圳）有限公司 一种基于即时通讯应用的数据处理方法和装置
US20200385116A1 (en) 2019-06-06 2020-12-10 Motorola Solutions, Inc. System and Method of Operating a Vehicular Computing Device to Selectively Deploy a Tethered Vehicular Drone for Capturing Video
US20210065134A1 (en) 2019-08-30 2021-03-04 Microsoft Technology Licensing, Llc Intelligent notification system
US20210064317A1 (en) 2019-08-30 2021-03-04 Sony Interactive Entertainment Inc. Operational mode-based settings for presenting notifications on a user display
US11227446B2 (en) 2019-09-27 2022-01-18 Apple Inc. Systems, methods, and graphical user interfaces for modeling, measuring, and drawing using augmented reality
US11172328B2 (en) 2019-09-27 2021-11-09 Sonos, Inc. Systems and methods for device localization
US11256392B2 (en) 2019-11-01 2022-02-22 Microsoft Technology Licensing, Llc Unified interfaces for paired user computing devices
AU2020381531A1 (en) 2019-11-15 2022-06-02 Geneva Technologies, Inc. Customizable communications platform
US11152011B2 (en) 2019-11-27 2021-10-19 Summit Wireless Technologies, Inc. Voice detection with multi-channel interference cancellation
US20210158622A1 (en) 2019-11-27 2021-05-27 Social Nation, Inc. Three dimensional image display in augmented reality and application setting
US11455412B2 (en) 2019-12-03 2022-09-27 Microsoft Technology Licensing, Llc Enhanced management of access rights for dynamic user groups sharing secret data
EP3840362B1 (en) 2019-12-19 2022-05-04 Axis AB A video camera system with a light sensor and a method for operating said video camera
US10963145B1 (en) 2019-12-30 2021-03-30 Snap Inc. Prioritizing display of user icons associated with content
CA3172369A1 (en) 2020-02-24 2021-09-02 Carefusion 303, Inc. Modular witnessing device
US10972655B1 (en) 2020-03-30 2021-04-06 Logitech Europe S.A. Advanced video conferencing systems and methods
US11079913B1 (en) 2020-05-11 2021-08-03 Apple Inc. User interface for status indicators
US20210349680A1 (en) 2020-05-11 2021-11-11 Apple Inc. User interface for audio message
US11703990B2 (en) 2020-08-17 2023-07-18 Microsoft Technology Licensing, Llc Animated visual cues indicating the availability of associated content
US11212449B1 (en) 2020-09-25 2021-12-28 Apple Inc. User interfaces for media capture and management

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1890996A (zh) * 2003-12-05 2007-01-03 摩托罗拉公司(在特拉华州注册的公司) 多媒体一键通话中的通话权控制
CN101431564A (zh) * 2007-11-05 2009-05-13 三星电子株式会社 使用出席信息显示另一方终端信息的方法和移动终端
CN101854247A (zh) * 2009-03-30 2010-10-06 阿瓦雅公司 用于持续多媒体会议服务的系统和方法
CN103222247A (zh) * 2010-06-23 2013-07-24 斯凯普公司 通信会话的处理
CN102572369A (zh) * 2010-12-17 2012-07-11 华为终端有限公司 语音音量提示的方法、终端及视频通信系统
US20140375747A1 (en) * 2011-02-11 2014-12-25 Vodafone Ip Licensing Limited Method and system for facilitating communication between wireless communication devices

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116886854A (zh) * 2021-01-31 2023-10-13 苹果公司 用于广角视频会议的用户界面
CN116886854B (zh) * 2021-01-31 2024-07-19 苹果公司 用于广角视频会议的用户界面
US12101567B2 (en) 2021-04-30 2024-09-24 Apple Inc. User interfaces for altering visual media
CN117768694A (zh) * 2021-05-15 2024-03-26 苹果公司 共享内容会话用户界面
CN117768693A (zh) * 2021-05-15 2024-03-26 苹果公司 共享内容会话用户界面

Also Published As

Publication number Publication date
US11435877B2 (en) 2022-09-06
CN113162843B (zh) 2023-09-29
CN113162841A (zh) 2021-07-23
CN117041195A (zh) 2023-11-10
US20210096703A1 (en) 2021-04-01
CN117061472A (zh) 2023-11-14
US20200183548A1 (en) 2020-06-11
US20230004264A1 (en) 2023-01-05
CN111108740B (zh) 2021-03-19
US10599297B2 (en) 2020-03-24
CN113162842A (zh) 2021-07-23
US10866703B2 (en) 2020-12-15
US10372298B2 (en) 2019-08-06
EP3659326A1 (en) 2020-06-03
US20190102049A1 (en) 2019-04-04
WO2019067131A1 (en) 2019-04-04
CN112910764A (zh) 2021-06-04
US20190339825A1 (en) 2019-11-07
CN113162843A (zh) 2021-07-23

Similar Documents

Publication Publication Date Title
CN111108740B (zh) 电子设备、计算机可读存储介质及用于显示通信会话中的参与者的视觉指示符的方法
CN107637073B (zh) 视频记录和回放
CN112214275B (zh) 多参与者实时通信用户界面
CN113950663A (zh) 音频媒体用户界面
CN112368674A (zh) 使用注视信息的设备控制
CN110456971B (zh) 用于共享上下文相关的媒体内容的用户界面
CN114327356A (zh) 用于内容应用程序的用户界面
CN113939793A (zh) 用于电子语音通信的用户界面
CN113574504A (zh) 用于呈现关于应用程序功能的信息并促进应用程序功能的用户界面
US20230164296A1 (en) Systems and methods for managing captions
CN113906374A (zh) 用于音频同步的方法和用户界面
CN113874824A (zh) 用于管理输入技术的用户界面
US11943559B2 (en) User interfaces for providing live video
US20220078506A1 (en) User interfaces for managing audio for media items
CN111684403A (zh) 用于图形用户界面的媒体捕获锁定示能表示
CN113906725A (zh) 用于共享音频的方法和用户界面
CN117441156B (zh) 用于音频路由的用户界面
CN117296103A (zh) 用于团体训练的用户界面

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant