CN117296309A - 自适应视频会议用户界面 - Google Patents
自适应视频会议用户界面 Download PDFInfo
- Publication number
- CN117296309A CN117296309A CN202280036185.4A CN202280036185A CN117296309A CN 117296309 A CN117296309 A CN 117296309A CN 202280036185 A CN202280036185 A CN 202280036185A CN 117296309 A CN117296309 A CN 117296309A
- Authority
- CN
- China
- Prior art keywords
- real
- time communication
- representations
- communication session
- participant
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000003044 adaptive effect Effects 0.000 title description 6
- 238000004891 communication Methods 0.000 claims description 631
- 238000000034 method Methods 0.000 claims description 174
- 230000004044 response Effects 0.000 claims description 135
- 230000008859 change Effects 0.000 claims description 127
- 230000033001 locomotion Effects 0.000 claims description 113
- 230000015654 memory Effects 0.000 claims description 51
- 230000000694 effects Effects 0.000 claims description 45
- 238000003860 storage Methods 0.000 claims description 33
- 238000004590 computer program Methods 0.000 claims description 14
- 230000000977 initiatory effect Effects 0.000 claims description 11
- 238000005304 joining Methods 0.000 claims description 9
- 230000000007 visual effect Effects 0.000 description 53
- 230000001976 improved effect Effects 0.000 description 33
- 230000008569 process Effects 0.000 description 29
- 230000006870 function Effects 0.000 description 27
- 230000003287 optical effect Effects 0.000 description 24
- 230000002093 peripheral effect Effects 0.000 description 19
- 238000005516 engineering process Methods 0.000 description 16
- 230000001360 synchronised effect Effects 0.000 description 15
- 238000012545 processing Methods 0.000 description 13
- 230000007423 decrease Effects 0.000 description 12
- 241000699666 Mus <mouse, genus> Species 0.000 description 11
- 238000010586 diagram Methods 0.000 description 11
- 238000007726 management method Methods 0.000 description 11
- 230000007246 mechanism Effects 0.000 description 11
- 230000009194 climbing Effects 0.000 description 10
- 238000001514 detection method Methods 0.000 description 10
- 230000002829 reductive effect Effects 0.000 description 10
- 230000036541 health Effects 0.000 description 8
- 239000003795 chemical substances by application Substances 0.000 description 6
- 238000005259 measurement Methods 0.000 description 6
- 230000003213 activating effect Effects 0.000 description 5
- 238000006073 displacement reaction Methods 0.000 description 5
- 241001503987 Clematis vitalba Species 0.000 description 4
- 230000001413 cellular effect Effects 0.000 description 4
- 230000001149 cognitive effect Effects 0.000 description 4
- 230000003247 decreasing effect Effects 0.000 description 4
- 239000003550 marker Substances 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000021317 sensory perception Effects 0.000 description 4
- 239000007787 solid Substances 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 230000007704 transition Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000003190 augmentative effect Effects 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 238000004904 shortening Methods 0.000 description 3
- 241000699670 Mus sp. Species 0.000 description 2
- 241001422033 Thestylus Species 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 210000000988 bone and bone Anatomy 0.000 description 2
- 238000013503 de-identification Methods 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 230000008707 rearrangement Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000035807 sensation Effects 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000010420 art technique Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000000881 depressing effect Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 229920001746 electroactive polymer Polymers 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000003032 molecular docking Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 229920000642 polymer Polymers 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 238000009528 vital sign measurement Methods 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Landscapes
- Information Transfer Between Computers (AREA)
- Telephonic Communication Services (AREA)
Abstract
本公开整体上涉及用于管理视频会议会话的用户界面。在一些实施方案中,视频会议界面当参与者加入和/或离开该视频会议会话时更新。在一些实施方案中,视频会议界面包括在所述视频会议会话中共享的内容的表示。
Description
相关申请的交叉引用
本申请要求2022年5月16日提交的名称为“ADAPTIVE VIDEO CONFERENCE USERINTERFACES”的美国申请序列号17/745,680的优先权;2021年8月6日提交的名称为“ADAPTIVE VIDEO CONFERENCE USER INTERFACES”的美国临时申请序列号63/230,476;2021年6月6日提交的名称为“ADAPTIVE VIDEO CONFERENCE USER INTERFACES”的美国临时申请序列号63/197,461;以及2021年5月18日提交的名称为“ADAPTIVE VIDEO CONFERENCEUSER INTERFACES”的美国临时专利申请序列号63/190,224,这些专利申请中的每篇专利申请的全部内容据此以引用方式并入。
技术领域
本公开整体涉及计算机用户界面,并且更具体地涉及用于管理视频会议会话的技术。
背景技术
计算机系统可包括用于显示用于各种类型的通信和信息共享的界面的硬件和/或软件。
发明内容
用于使用电子设备进行通信和信息共享的一些技术通常很麻烦且效率低下。例如,一些现有技术使用复杂且耗时的用户界面,该用户界面可包括多次按键或击键。现有技术需要比所需更多的时间,这导致浪费用户的时间和设备能量。这后一考虑在电池驱动的设备中是特别重要的。
本技术为电子设备提供了用于管理视频会议会话的更快、更有效的方法和界面。此类方法和界面任选地补充或替换用于管理视频会议会话的其他方法。此类方法和界面减少对用户所造成的认知负担,并且产生更有效的人机界面。对于电池驱动的计算设备,此类方法和界面节省功率,并且增大电池充电之间的时间间隔。
根据一些实施方案,描述了一种在与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统处执行的方法。该方法包括:显示实时通信会话的用户界面,该用户界面包括实时通信会话的多个参与者表示,该多个表示包括:在实时通信会话的用户界面的第一区域中以网格图案显示的第一组参与者表示;和在用户界面的第二区域中显示的第二组参与者表示,该第二区域在视觉上不同于第一区域,其中第一组表示中的表示大于第二组表示中的表示;在显示实时通信会话的用户界面,包括实时通信会话的该多个参与者表示时,检测到第一区域的一个或多个尺寸的改变;以及响应于检测到第一区域的该一个或多个尺寸的改变,基于第一区域的该一个或多个尺寸的改变来改变在第一区域中显示的实时通信会话的参与者表示的数量,包括停止在第一区域中显示相应参与者的第一表示以及在第二区域中显示相应参与者的第二表示。
根据一些实施方案,描述了一种非暂态计算机可读存储介质。该非暂态计算机可读存储媒体存储被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:显示实时通信会话的用户界面,该用户界面包括实时通信会话的多个参与者表示,该多个表示包括:在实时通信会话的用户界面的第一区域中以网格图案显示的第一组参与者表示;和在用户界面的第二区域中显示的第二组参与者表示,该第二区域在视觉上不同于第一区域,其中第一组表示中的表示大于第二组表示中的表示;在显示实时通信会话的用户界面,包括实时通信会话的该多个参与者表示时,检测到第一区域的一个或多个尺寸的改变;以及响应于检测到第一区域的该一个或多个尺寸的改变,基于第一区域的该一个或多个尺寸的改变来改变在第一区域中显示的实时通信会话的参与者表示的数量,包括停止在第一区域中显示相应参与者的第一表示以及在第二区域中显示相应参与者的第二表示。
根据一些实施方案,描述了一种暂态计算机可读存储介质。该暂态计算机可读存储媒体存储被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:显示实时通信会话的用户界面,该用户界面包括实时通信会话的多个参与者表示,该多个表示包括:在实时通信会话的用户界面的第一区域中以网格图案显示的第一组参与者表示;和在用户界面的第二区域中显示的第二组参与者表示,该第二区域在视觉上不同于第一区域,其中第一组表示中的表示大于第二组表示中的表示;在显示实时通信会话的用户界面,包括实时通信会话的该多个参与者表示时,检测到第一区域的一个或多个尺寸的改变;以及响应于检测到第一区域的该一个或多个尺寸的改变,基于第一区域的该一个或多个尺寸的改变来改变在第一区域中显示的实时通信会话的参与者表示的数量,包括停止在第一区域中显示相应参与者的第一表示以及在第二区域中显示相应参与者的第二表示。
根据一些实施方案,描述了一种被配置为与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统。该计算机系统包括:一个或多个处理器;和存储器,该存储器存储被配置为由该一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:显示实时通信会话的用户界面,该用户界面包括实时通信会话的多个参与者表示,该多个表示包括:在实时通信会话的用户界面的第一区域中以网格图案显示的第一组参与者表示;和在用户界面的第二区域中显示的第二组参与者表示,该第二区域在视觉上不同于第一区域,其中第一组表示中的表示大于第二组表示中的表示;在显示实时通信会话的用户界面,包括实时通信会话的该多个参与者表示时,检测到第一区域的一个或多个尺寸的改变;以及响应于检测到第一区域的该一个或多个尺寸的改变,基于第一区域的该一个或多个尺寸的改变来改变在第一区域中显示的实时通信会话的参与者表示的数量,包括停止在第一区域中显示相应参与者的第一表示以及在第二区域中显示相应参与者的第二表示。
根据一些实施方案,描述了一种被配置为与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统。该计算机系统包括:用于执行以下操作的装置:显示实时通信会话的用户界面,该用户界面包括实时通信会话的多个参与者表示,该多个表示包括:在实时通信会话的用户界面的第一区域中以网格图案显示的第一组参与者表示;和在用户界面的第二区域中显示的第二组参与者表示,该第二区域在视觉上不同于第一区域,其中第一组表示中的表示大于第二组表示中的表示;用于执行以下操作的装置:在显示实时通信会话的用户界面,包括实时通信会话的该多个参与者表示时,检测到第一区域的一个或多个尺寸的改变;和用于执行以下操作的装置:响应于检测到第一区域的该一个或多个尺寸的改变,基于第一区域的该一个或多个尺寸的改变来改变在第一区域中显示的实时通信会话的参与者表示的数量,包括停止在第一区域中显示相应参与者的第一表示以及在第二区域中显示相应参与者的第二表示。
根据一些实施方案,描述了一种计算机程序产品。该计算机程序产品包括被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:显示实时通信会话的用户界面,该用户界面包括实时通信会话的多个参与者表示,该多个表示包括:在实时通信会话的用户界面的第一区域中以网格图案显示的第一组参与者表示;和在用户界面的第二区域中显示的第二组参与者表示,该第二区域在视觉上不同于第一区域,其中第一组表示中的表示大于第二组表示中的表示;在显示实时通信会话的用户界面,包括实时通信会话的该多个参与者表示时,检测到第一区域的一个或多个尺寸的改变;以及响应于检测到第一区域的该一个或多个尺寸的改变,基于第一区域的该一个或多个尺寸的改变来改变在第一区域中显示的实时通信会话的参与者表示的数量,包括停止在第一区域中显示相应参与者的第一表示以及在第二区域中显示相应参与者的第二表示。
根据一些实施方案,描述了一种在与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统处执行的方法。该方法包括:接收显示与实时通信会话对应的实时通信应用程序的用户界面的请求;响应于接收到显示与实时通信会话对应的实时通信应用程序的用户界面的请求,显示与实时通信会话对应的实时通信应用程序的用户界面;以及在计算机系统连接到实时通信会话并且连接到共享内容会话时:在实时通信应用程序的用户界面中同时显示:实时通信会话的多个参与者表示,该多个表示以二维阵列显示,该二维阵列包括两个或更多个行以及两个或更多个列;和共享内容会话中的内容的表示,内容的该表示被显示为在视觉上与该阵列相关联,其中内容的该表示具有与该阵列的两个或更多个行和/或该阵列的两个或更多个列对应的大小。
根据一些实施方案,描述了一种非暂态计算机可读存储介质。该非暂态计算机可读介质存储被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:接收显示与实时通信会话对应的实时通信应用程序的用户界面的请求;响应于接收到显示与实时通信会话对应的实时通信应用程序的用户界面的请求,显示与实时通信会话对应的实时通信应用程序的用户界面;以及在计算机系统连接到实时通信会话并且连接到共享内容会话时:在实时通信应用程序的用户界面中同时显示:实时通信会话的多个参与者表示,该多个表示以二维阵列显示,该二维阵列包括两个或更多个行以及两个或更多个列;和共享内容会话中的内容的表示,内容的该表示被显示为在视觉上与该阵列相关联,其中内容的该表示具有与该阵列的两个或更多个行和/或该阵列的两个或更多个列对应的大小。
根据一些实施方案,描述了一种暂态计算机可读存储介质。该暂态计算机可读介质存储被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:接收显示与实时通信会话对应的实时通信应用程序的用户界面的请求;响应于接收到显示与实时通信会话对应的实时通信应用程序的用户界面的请求,显示与实时通信会话对应的实时通信应用程序的用户界面;以及在计算机系统连接到实时通信会话并且连接到共享内容会话时:在实时通信应用程序的用户界面中同时显示:实时通信会话的多个参与者表示,该多个表示以二维阵列显示,该二维阵列包括两个或更多个行以及两个或更多个列;和共享内容会话中的内容的表示,内容的该表示被显示为在视觉上与该阵列相关联,其中内容的该表示具有与该阵列的两个或更多个行和/或该阵列的两个或更多个列对应的大小。
根据一些实施方案,描述了一种被配置为与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统。该计算机系统包括:一个或多个处理器;和存储器,该存储器存储被配置为由该一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:接收显示与实时通信会话对应的实时通信应用程序的用户界面的请求;响应于接收到显示与实时通信会话对应的实时通信应用程序的用户界面的请求,显示与实时通信会话对应的实时通信应用程序的用户界面;以及在计算机系统连接到实时通信会话并且连接到共享内容会话时:在实时通信应用程序的用户界面中同时显示:实时通信会话的多个参与者表示,该多个表示以二维阵列显示,该二维阵列包括两个或更多个行以及两个或更多个列;和共享内容会话中的内容的表示,内容的该表示被显示为在视觉上与该阵列相关联,其中内容的该表示具有与该阵列的两个或更多个行和/或该阵列的两个或更多个列对应的大小。
根据一些实施方案,描述了一种被配置为与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统。该计算机系统包括:用于执行以下操作的装置:接收显示与实时通信会话对应的实时通信应用程序的用户界面的请求;用于执行以下操作的装置:响应于接收到显示与所述实时通信会话对应的所述实时通信应用程序的所述用户界面的所述请求,显示与所述实时通信会话对应的所述实时通信应用程序的所述用户界面;和用于执行以下操作的装置:在计算机系统连接到实时通信会话并且连接到共享内容会话时:在实时通信应用程序的用户界面中同时显示:实时通信会话的多个参与者表示,该多个表示以二维阵列显示,该二维阵列包括两个或更多个行以及两个或更多个列;和共享内容会话中的内容的表示,内容的该表示被显示为在视觉上与该阵列相关联,其中内容的该表示具有与该阵列的两个或更多个行和/或该阵列的两个或更多个列对应的大小。
根据一些实施方案,描述了一种计算机程序产品。该计算机程序产品包括被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:接收显示与实时通信会话对应的实时通信应用程序的用户界面的请求;响应于接收到显示与实时通信会话对应的实时通信应用程序的用户界面的请求,显示与实时通信会话对应的实时通信应用程序的用户界面;以及在计算机系统连接到实时通信会话并且连接到共享内容会话时:在实时通信应用程序的用户界面中同时显示:实时通信会话的多个参与者表示,该多个表示以二维阵列显示,该二维阵列包括两个或更多个行以及两个或更多个列;和共享内容会话中的内容的表示,内容的该表示被显示为在视觉上与该阵列相关联,其中内容的该表示具有与该阵列的两个或更多个行和/或该阵列的两个或更多个列对应的大小。
用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的非暂态计算机可读存储介质或其他计算机程序产品中。用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的暂态计算机可读存储介质或其他计算机程序产品中。
因此,为设备提供了用于管理视频会议会话的更快、更高效的方法和界面,从而提高了此类设备的有效性、效率和用户满意度。此类方法和界面可补充或替换用于管理视频会议会话的其他方法。
附图说明
为了更好地理解各种所述实施方案,应结合以下附图参考下面的具体实施方式,其中类似的附图标号在所有附图中指示对应的部分。
图1A是示出根据一些实施方案的具有触敏显示器的便携式多功能设备的框图。
图1B是示出了根据一些实施方案的用于事件处理的示例性部件的框图。
图2示出了根据一些实施方案的具有触摸屏的便携式多功能设备。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。
图4A示出了根据一些实施方案的针对便携式多功能设备上应用程序的菜单的示例性用户界面。
图4B示出了根据一些实施方案的针对具有与显示器分开的触敏表面的多功能设备的示例性用户界面。
图5A示出了根据一些实施方案的个人电子设备。
图5B是示出根据一些实施方案的个人电子设备的框图。
图5C示出了根据一些实施方案的电子设备之间的通信会话的示例性图。
图6A至图6AS示出了根据一些实施方案的用于管理视频会议会话的示例性用户界面。
图7描绘了根据一些实施方案的用于管理视频会议会话的方法的流程图。
图8A至图8H示出了根据一些实施方案的用于管理视频会议会话的示例性用户界面。
图9描绘了根据一些实施方案的用于管理视频会议会话的方法的流程图。
具体实施方式
以下描述阐述了示例性方法、参数等。然而,应当认识到,此类描述并非意在限制本公开的范围,而是作为对示例性实施方案的描述来提供。
需要提供用于管理视频会议会话的高效方法和界面的电子设备。此类技术可减轻在视频会议会话中访问内容的用户的认知负担,由此提高生产效率。此外,此类技术可减少以其他方式浪费在冗余用户输入上的处理器功率和电池功率。
下面,图1A至图1B、图2、图3、图4A至图4B和图5A至图5C提供对用于执行用于管理视频会议会话的技术的示例性设备的描述。图6A至图6AS示出了用于管理视频会议会话的示例性用户界面。图7是示出根据一些实施方案的管理视频会议会话的方法的流程图。图6A至图6AS中的用户界面用于示出下文所述的过程,包括图7中的过程。图8A至图8H示出了用于管理视频会议会话的示例性用户界面。图9是示出根据一些实施方案的管理视频会议会话的方法的流程图。图8A至图8H中的用户界面被用于示出下文所述的过程,包括图9中的过程。
下文所述的过程通过各种技术增强了设备的可操作性并且使用户-设备界面更有效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),包括通过向用户提供改进的视觉反馈、减少执行操作所需的输入数量、提供附加的控制选项而不会因附加的显示控件而使用户界面杂乱、在一组条件已经被满足时执行操作而无需进一步的用户输入和/或附加的技术。这些技术还通过使用户能够更快且更有效地使用设备而减少了电力使用并延长了设备的电池寿命。
此外,在本文所述的其中一个或多个步骤取决于已满足一个或多个条件的方法中,应当理解,所述方法可在多次重复中重复,使得在重复的过程中,在方法的不同重复中已满足决定方法中的步骤的所有条件。例如,如果方法需要执行第一步骤(如果满足条件),以及执行第二步骤(如果不满足条件),则普通技术人员将会知道,重复所声明的步骤,直到满足条件和不满足条件两者(不分先后)。因此,可将被描述为具有取决于已满足一个或多个条件的一个或多个步骤的方法重写为重复直到已满足该方法中所述的每个条件的方法。然而,这不需要系统或计算机可读介质声明该系统或计算机可读介质包含用于基于对应的一个或多个条件的满足来执行视情况而定的操作的指令,并且因此能够确定是否已满足可能的情况,而无需明确地重复方法的步骤直到已满足决定方法中的步骤的所有条件。本领域的普通技术人员还将理解,类似于具有视情况而定的步骤的方法,系统或计算机可读存储介质可根据需要多次重复方法的步骤,以确保已执行所有视情况而定的步骤。
尽管以下描述使用术语“第一”、“第二”等来描述各种元件,但这些元件不应受术语的限制。在一些实施方案中,这些术语用于区分一个元件与另一个元件。例如,第一触摸可被命名为第二触摸并且类似地第二触摸可被命名为第一触摸,而不脱离各种所述实施方案的范围。在一些实施方案中,第一触摸和第二触摸是对同一触摸的两个单独的引用。在一些实施方案中,第一触摸和第二触摸两者均为触摸,但是它们不是同一触摸。
在本文中对各种所述实施方案的描述中所使用的术语只是为了描述特定实施方案的目的,而并非旨在进行限制。如在对各种所述实施方案中的描述和所附权利要求书中所使用的那样,单数形式“一个”和“该”旨在也包括复数形式,除非上下文另外明确地指示。还将理解的是,本文中所使用的术语“和/或”是指并且涵盖相关联的所列出的项目中的一个或多个项目的任何和全部可能的组合。还将理解的是,术语“包括”和/或“包含”在本说明书中使用时是指定存在所陈述的特征、整数、步骤、操作、元件和/或部件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、部件和/或其分组。
根据上下文,术语“如果”任选地被解释为意指“当......时”、“在......时”或“响应于确定”或“响应于检测到”。类似地,根据上下文,短语“如果确定……”或“如果检测到[所陈述的条件或事件]”任选地被解释为是指“在确定……时”或“响应于确定……”或“在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。
本文描述了电子设备、此类设备的用户界面和使用此类设备的相关联的进程的实施方案。在一些实施方案中,该设备为还包含其他功能诸如PDA和/或音乐播放器功能的便携式通信设备,诸如移动电话。便携式多功能设备的示例性实施方案包括但不限于来自Apple Inc.(Cupertino,California)的设备、iPod/>设备、和/>设备。任选地使用其他便携式电子设备,诸如具有触敏表面(例如,触摸屏显示器和/或触摸板)的膝上型电脑或平板电脑。还应当理解的是,在一些实施方案中,该设备并非便携式通信设备,而是具有触敏表面(例如,触摸屏显示器和/或触摸板)的台式计算机。在一些实施方案中,电子设备是(例如,经由无线通信、经由有线通信)与显示生成部件进行通信的计算机系统。显示生成部件被配置为提供视觉输出,诸如经由CRT显示器的显示、经由LED显示器的显示或者经由图像投影的显示。在一些实施方案中,显示生成部件与该计算机系统集成。在一些实施方案中,显示生成部件与该计算机系统分开。如本文所用,“显示”内容包括通过经由有线或无线连接向集成或外部显示生成部件传输数据(例如,图像数据或视频数据)以在视觉上产生内容来显示内容(例如,由显示控制器156渲染或解码的视频数据)。
在下面的讨论中,描述了一种包括显示器和触敏表面的电子设备。然而,应当理解,该电子设备任选地包括一个或多个其他物理用户界面设备,诸如物理键盘、鼠标和/或操纵杆。
该设备通常支持各种应用程序,诸如以下中的一者或多者:绘图应用程序、呈现应用程序、文字处理应用程序、网站创建应用程序、盘编辑应用程序、电子表格应用程序、游戏应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息应用程序、健身支持应用程序、照片管理应用程序、数字相机应用程序、数字视频摄像机应用程序、网页浏览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。
在设备上执行的各种应用程序任选地使用至少一个通用的物理用户界面设备,诸如触敏表面。触敏表面的一种或多种功能以及被显示在设备上的对应信息任选地对于不同应用程序被调整和/或变化,和/或在相应应用程序内被调整和/或变化。这样,设备的共用物理架构(诸如触敏表面)任选地利用对于用户而言直观且清楚的用户界面来支持各种应用程序。
现在将注意力转到具有触敏显示器的便携式设备的实施方案。图1A是示出了根据一些实施方案的具有触敏显示器系统112的便携式多功能设备100的框图。触敏显示器112有时为了方便被叫做“触摸屏”,并且有时被称为或被叫做“触敏显示器系统”。设备100包括存储器102(其任选地包括一个或多个计算机可读存储介质)、存储器控制器122、一个或多个处理单元(CPU)120、外围设备接口118、RF电路108、音频电路110、扬声器111、麦克风113、输入/输出(I/O)子系统106、其他输入控制设备116和外部端口124。设备100任选地包括一个或多个光学传感器164。设备100任选地包括用于检测设备100(例如,触敏表面,诸如设备100的触敏显示器系统112)上的接触的强度的一个或多个接触强度传感器165。设备100任选地包括用于在设备100上生成触觉输出的一个或多个触觉输出发生器167(例如,在触敏表面(诸如设备100的触敏显示器系统112或设备300的触摸板355)上生成触觉输出)。这些部件任选地通过一个或多个通信总线或信号线103进行通信。
如在本说明书和权利要求书中所使用的,术语触敏表面上的接触的“强度”是指触敏表面上的接触(例如,手指接触)的力或压力(每单位面积的力),或是指触敏表面上的接触的力或压力的替代物(代用物)。接触的强度具有值范围,该值范围包括至少四个不同的值并且更典型地包括上百个不同的值(例如,至少256个)。接触的强度任选地使用各种方法和各种传感器或传感器的组合来确定(或测量)。例如,在触敏表面下方或相邻于触敏表面的一个或多个力传感器任选地用于测量触敏表面上的不同点处的力。在一些具体实施中,来自多个力传感器的力测量值被组合(例如,加权平均)以确定所估计的接触力。类似地,触控笔的压敏顶端任选地用于确定触控笔在触敏表面上的压力。另选地,在触敏表面上检测到的接触区域的尺寸和/或其变化、接触附近的触敏表面的电容和/或其变化以及/或者接触附近的触敏表面的电阻和/或其变化任选地被用作触敏表面上的接触的力或压力的替代物。在一些具体实施中,接触力或压力的替代物测量直接用于确定是否已经超过强度阈值(例如,强度阈值以对应于替代物测量的单位来描述)。在一些具体实施中,接触力或压力的替代物测量被转换成估计的力或压力,并且估计的力或压力用于确定是否已超过强度阈值(例如,强度阈值是以压力的单位进行测量的压力阈值)。使用接触的强度作为用户输入的属性,从而允许用户访问用户在实地面积有限的尺寸更小的设备上本来不可访问的附加设备功能,该尺寸更小的设备用于(例如,在触敏显示器上)显示示能表示和/或接收用户输入(例如,经由触敏显示器、触敏表面或物理控件/机械控件,诸如旋钮或按钮)。
如本说明书和权利要求书中所使用的,术语“触觉输出”是指将由用户利用用户的触感检测到的设备相对于设备的先前位置的物理位移、设备的部件(例如,触敏表面)相对于设备的另一个部件(例如,外壳)的物理位移、或部件相对于设备的质心的位移。例如,在设备或设备的部件与用户对触摸敏感的表面(例如,手指、手掌或用户手部的其他部分)接触的情况下,通过物理位移生成的触觉输出将由用户解释为触感,该触感对应于设备或设备的部件的物理特征的所感知的变化。例如,触敏表面(例如,触敏显示器或触控板)的移动任选地由用户解释为对物理致动按钮的“按下点击”或“松开点击”。在一些情况下,用户将感觉到触感,诸如“按下点击”或“松开点击”,即使在通过用户的移动而物理地被按压(例如,被移位)的与触敏表面相关联的物理致动按钮没有移动时。又如,即使在触敏表面的光滑度无变化时,触敏表面的移动也会任选地由用户解释或感测为触敏表面的“粗糙度”。虽然用户对触摸的此类解释将受到用户的个体化感官知觉的限制,但是对触摸的许多感官知觉是大多数用户共有的。因此,当触觉输出被描述为对应于用户的特定感官知觉(例如,“按下点击”、“松开点击”、“粗糙度”)时,除非另外陈述,否则所生成的触觉输出对应于设备或其部件的物理位移,该物理位移将会生成典型(或普通)用户的所述感官知觉。
应当理解,设备100仅仅是便携式多功能设备的一个示例,并且设备100任选地具有比所示出的部件更多或更少的部件,任选地组合两个或更多个部件,或者任选地具有这些部件的不同配置或布置。图1A中所示的各种部件以硬件、软件、或硬件与软件两者的组合来实现,包括一个或多个信号处理和/或专用集成电路。
存储器102任选地包括高速随机存取存储器,并且还任选地包括非易失性存储器,诸如一个或多个磁盘存储设备、闪存存储器设备、或其他非易失性固态存储器设备。存储器控制器122任选地控制设备100的其他部件访问存储器102。
外围设备接口118可用于将设备的输入外围设备和输出外围设备耦接到CPU 120和存储器102。该一个或多个处理器120运行或执行存储器102中所存储的各种软件程序(诸如计算机程序(例如,包括指令))和/或指令集以执行设备100的各种功能并处理数据。在一些实施方案中,外围设备接口118、CPU 120和存储器控制器122任选地被实现在单个芯片诸如芯片104上。在一些其他实施方案中,它们任选地在独立的芯片上实现。
RF(射频)电路108接收和发送也被称作电磁信号的RF信号。RF电路108将电信号转换为电磁信号/将电磁信号转换为电信号,并且经由电磁信号与通信网络及其他通信设备进行通信。RF电路108任选地包括用于执行这些功能的熟知的电路,包括但不限于天线系统、RF收发器、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、编解码芯片组、用户身份模块(SIM)卡、存储器等等。RF电路108任选地通过无线通信来与网络和其他设备进行通信,这些网络为诸如互联网(也被称为万维网(WWW))、内联网和/或无线网络(诸如,蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))。RF电路108任选地包括用于诸如通过近程通信无线电部件来检测近场通信(NFC)场的熟知的电路。无线通信任选地使用多种通信标准、协议和技术中的任一者,包括但不限于全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入(HSUPA)、演进、纯数据(EV-DO)、HSPA、HSPA+、双单元HSPA(DC-HSPDA)、长期演进(LTE)、近场通信(NFC)、宽带码分多址(W-CDMA)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、蓝牙低功耗(BTLE)、无线保真(Wi-Fi)(例如,IEEE 802.11a、IEEE 802.11b、IEEE 802.11g、IEEE 802.11n和/或IEEE802.11ac)、互联网协议语音(VoIP)、Wi-MAX、电子邮件协议(例如,互联网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如,可扩展消息处理和存在协议(XMPP)、用于即时消息和存在利用扩展的会话发起协议(SIMPLE)、即时消息和存在服务(IMPS))、和/或短消息服务(SMS),或者包括在本文档提交日期时还未开发出的通信协议的任何其他适当的通信协议。
音频电路110、扬声器111和麦克风113提供用户与设备100之间的音频接口。音频电路110从外围设备接口118接收音频数据,将音频数据转换为电信号,并将电信号传输到扬声器111。扬声器111将电信号转换为人类可听到的声波。音频电路110还接收由麦克风113从声波转换的电信号。音频电路110将电信号转换为音频数据,并且将音频数据传输到外围设备接口118以用于处理。音频数据任选地由外围设备接口118检索自和/或传输至存储器102和/或RF电路108。在一些实施方案中,音频电路110还包括耳麦插孔(例如,图2中的212)。耳麦插孔提供音频电路110与可移除音频输入/输出外围设备之间的接口,该外围设备为诸如仅输出的耳机或者具有输出(例如,单耳耳机或双耳耳机)和输入(例如,麦克风)两者的耳麦。
I/O子系统106将设备100上的输入/输出外围设备诸如触摸屏112和其他输入控制设备116耦接到外围设备接口118。I/O子系统106任选地包括显示控制器156、光学传感器控制器158、深度相机控制器169、强度传感器控制器159、触觉反馈控制器161,以及用于其他输入或控制设备的一个或多个输入控制器160。该一个或多个输入控制器160从其他输入控制设备116接收电信号/将电信号发送到该其他输入控制设备。该其他输入控制设备116任选地包括物理按钮(例如,下压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击式转盘等。在一些实施方案中,输入控制器160任选地耦接到以下各项中的任一者(或不耦接到以下各项中的任一者):键盘、红外线端口、USB端口,以及指向设备诸如鼠标。一个或多个按钮(例如,图2中的208)任选地包括用于扬声器111和/或麦克风113音量控制的增大/减小按钮。该一个或多个按钮任选地包括下压按钮(例如,图2中的206)。在一些实施方案中,电子设备是(例如,经由无线通信、经由有线通信)与一个或多个输入设备进行通信的计算机系统。在一些实施方案中,该一个或多个输入设备包括触敏表面(例如,触控板,作为触敏显示器的一部分)。在一些实施方案中,一个或多个输入设备包括一个或多个相机传感器(例如,一个或多个光学传感器164和/或一个或多个深度相机传感器175),诸如用于跟踪用户的手势(例如,手部手势和/或空中手势)作为输入。在一些实施方案中,一个或多个输入设备与该计算机系统集成。在一些实施方案中,一个或多个输入设备与该计算机系统分开。在一些实施方案中,空中手势是在用户不触摸作为设备的一部分的输入元件(或独立于作为设备的一部分的输入元件)的情况下检测到的并且基于所检测到的用户身体的一部分穿过空中的运动(包括用户的身体相对于绝对参考的运动(例如,用户的手臂相对于地面的角度或用户的手部相对于地面的距离)、相对于用户身体的另一部分的运动(例如,用户的手部相对于用户的肩部的移动、用户的一只手相对于用户的另一只手的移动、和/或用户的手指相对于用户的另一手指或手部的一部分的移动)、和/或用户身体的一部分的绝对运动(例如,包括手以预定姿势将移动预定量和/或速度的轻击手势、或包括用户身体的一部分的预定速度或旋转量的摇动手势))的手势。
快速按下下压按钮任选地脱离触摸屏112的锁定或者任选地开始使用触摸屏上的手势来对设备进行解锁的进程,如在2005年12月23日提交的名称为“Unlocking a Deviceby Performing Gestures on an Unlock Image”的美国专利申请11/322,549(即,美国专利号7,657,849)中所述的,该美国专利申请据此全文以引用方式并入本文。长按下压按钮(例如206)任选地使设备100开机或关机。一个或多个按钮的功能任选地为用户可定制的。触摸屏112用于实现虚拟按钮或软按钮以及一个或多个软键盘。
触敏显示器112提供设备和用户之间的输入接口和输出接口。显示控制器156从触摸屏112接收电信号和/或将电信号发送到触摸屏112。触摸屏112向用户显示视觉输出。视觉输出任选地包括图形、文本、图标、视频以及它们的任何组合(统称为“图形”)。在一些实施方案中,一些视觉输出或全部的视觉输出任选地与用户界面对象对应。
触摸屏112具有基于触觉和/或触感接触来接受来自用户的输入的触敏表面、传感器、或传感器组。触摸屏112和显示控制器156(与存储器102中的任何相关联的模块和/或指令集一起)检测触摸屏112上的接触(和该接触的任何移动或中断),并且将所检测到的接触转换为与被显示在触摸屏112上的用户界面对象(例如,一个或多个软键、图标、网页或图像)的交互。在示例性实施方案中,触摸屏112与用户之间的接触点对应于用户的手指。
触摸屏112任选地使用LCD(液晶显示器)技术、LPD(发光聚合物显示器)技术或LED(发光二极管)技术,但是在其他实施方案中使用其他显示技术。触摸屏112和显示控制器156任选地使用现在已知的或以后将开发出的多种触摸感测技术中的任何技术以及其他接近传感器阵列或用于确定与触摸屏112接触的一个或多个点的其他元件来检测接触及其任何移动或中断,该多种触摸感测技术包括但不限于电容性的、电阻性的、红外线的、和表面声波技术。在示例性实施方案中,使用投射式互电容感测技术,诸如在来自Apple Inc.(Cupertino,California)的和iPod/>中使用的技术。
触摸屏112的一些实施方案中的触敏显示器任选地类似于以下美国专利中描述的多点触敏触摸板:6,323,846(Westerman等人)、6,570,557(Westerman等人)和/或6,677,932(Westerman等人)和/或美国专利公开2002/0015024A1,这些专利中的每一者据此全文以引用方式并入。然而,触摸屏112显示来自设备100的视觉输出,而触敏触摸板不提供视觉输出。
触摸屏112的一些实施方案中的触敏显示器在以下申请中有所描述:(1)2006年5月2日提交的美国专利申请号11/381,313,“Multipoint Touch Surface Controller”;(2)2004年5月6日提交的美国专利申请号10/840,862,“Multipoint Touchscreen”;(3)2004年7月30日提交的美国专利申请号10/903,964,“Gestures For Touch Sensitive InputDevices”;(4)2005年1月31日提交的美国专利申请号11/048,264,“Gestures For TouchSensitive Input Devices”;(5)2005年1月18日提交的美国专利申请号11/038,590,“Mode-Based Graphical User Interfaces For Touch Sensitive Input Devices”;(6)2005年9月16日提交的美国专利申请号11/228,758,“Virtual Input Device PlacementOn A Touch Screen User Interface”;(7)2005年9月16日提交的美国专利申请号11/228,700,“Operation Of A Computer With A Touch Screen Interface”;(8)2005年9月16日提交的美国专利申请号11/228,737,“Activating Virtual Keys Of A Touch-ScreenVirtual Keyboard”;以及(9)2006年3月3日提交的美国专利申请号11/367,749,“Multi-Functional Hand-Held Device”。所有这些申请全文以引用方式并入本文。
触摸屏112任选地具有超过100dpi的视频分辨率。在一些实施方案中,触摸屏具有约160dpi的视频分辨率。用户任选地使用任何合适的物体或附加物诸如触控笔、手指等等来与触摸屏112接触。在一些实施方案中,将用户界面设计为主要通过基于手指的接触和手势来工作,由于手指在触摸屏上的接触区域较大,因此这可能不如基于触控笔的输入精确。在一些实施方案中,设备将基于手指的粗略输入转化为精确的指针/光标位置或命令以用于执行用户所期望的动作。
在一些实施方案中,除了触摸屏之外,设备100任选地还包括用于激活或去激活特定功能的触摸板。在一些实施方案中,触摸板是设备的触敏区域,与触摸屏不同,该触敏区域不显示视觉输出。触摸板任选地是与触摸屏112分开的触敏表面,或者是由触摸屏形成的触敏表面的延伸部分。
设备100还包括用于为各种部件供电的电力系统162。电力系统162任选地包括电力管理系统、一个或多个电源(例如,电池、交流电(AC))、再充电系统、电力故障检测电路、功率转换器或逆变器、电源状态指示符(例如,发光二极管(LED))以及与便携式设备中的电力的生成、管理和分配相关联的任何其他部件。
设备100任选地还包括一个或多个光学传感器164。图1A示出了耦接到I/O子系统106中的光学传感器控制器158的光学传感器。光学传感器164任选地包括电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)光电晶体管。光学传感器164从环境接收通过一个或多个透镜而投射的光,并且将光转换为表示图像的数据。结合成像模块143(也叫做相机模块),光学传感器164任选地捕获静态图像或视频。在一些实施方案中,光学传感器位于设备100的后部上,与设备前部上的触摸屏显示器112相背对,使得触摸屏显示器能够用作用于静态图像和/或视频图像采集的取景器。在一些实施方案中,光学传感器位于设备的前部上,使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取该用户的图像以用于视频会议。在一些实施方案中,光学传感器164的位置可由用户改变(例如,通过旋转设备外壳中的透镜和传感器),使得单个光学传感器164与触摸屏显示器一起使用,以用于视频会议和静态图像和/或视频图像采集两者。
设备100任选地还包括一个或多个深度相机传感器175。图1A示出了耦接到I/O子系统106中的深度相机控制器169的深度相机传感器。深度相机传感器175从环境接收数据以从视点(例如,深度相机传感器)创建场景内的对象(例如,面部)的三维模型。在一些实施方案中,结合成像模块143(也称为相机模块),深度相机传感器175可选地用于确定由成像模块143捕获的图像的不同部分的深度图。在一些实施方案中,深度相机传感器位于设备100的前部,使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取具有深度信息的用户图像以用于视频会议,并且捕捉具有深度图数据的自拍。在一些实施方案中,深度相机传感器175位于设备的后部,或者设备100的后部和前部。在一些实施方案中,深度相机传感器175的位置可由用户改变(例如,通过旋转设备外壳中的透镜和传感器),使得深度相机传感器175与触摸屏显示器一起使用以用于视频会议和静态图像和/或视频图像采集两者。
设备100任选地还包括一个或多个接触强度传感器165。图1A示出了耦接到I/O子系统106中的强度传感器控制器159的接触强度传感器。接触强度传感器165任选地包括一个或多个压阻应变仪、电容式力传感器、电气力传感器、压电力传感器、光学力传感器、电容式触敏表面或其他强度传感器(例如,用于测量触敏表面上的接触的力(或压力)的传感器)。接触强度传感器165从环境接收接触强度信息(例如,压力信息或压力信息的代用物)。在一些实施方案中,至少一个接触强度传感器与触敏表面(例如,触敏显示器系统112)并置排列或邻近。在一些实施方案中,至少一个接触强度传感器位于设备100的后部上,与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个接近传感器166。图1A示出了耦接到外围设备接口118的接近传感器166。另选地,接近传感器166任选地耦接到I/O子系统106中的输入控制器160。接近传感器166任选地如以下美国专利申请号中所述的那样执行:11/241,839,名称为“Proximity Detector In Handheld Device”;11/240,788,名称为“ProximityDetector In Handheld Device”;11/620,702,名称为“Using Ambient Light Sensor ToAugment Proximity Sensor Output”;11/586,862,名称为“Automated Response To AndSensing Of User Activity In Portable Devices”;以及11/638,251,名称为“MethodsAnd Systems For Automatic Configuration Of Peripherals”,这些美国专利申请据此全文以引用方式并入本文。在一些实施方案中,当多功能设备被置于用户的耳朵附近时(例如,当用户正在进行电话呼叫时),接近传感器关闭并且禁用触摸屏112。
设备100任选地还包括一个或多个触觉输出发生器167。图1A示出了耦接到I/O子系统106中的触觉反馈控制器161的触觉输出发生器。触觉输出发生器167任选地包括一个或多个电声设备诸如扬声器或其他音频部件;和/或用于将能量转换成线性运动的机电设备诸如电机、螺线管、电活性聚合物、压电致动器、静电致动器或其他触觉输出生成部件(例如,用于将电信号转换成设备上的触觉输出的部件)。接触强度传感器165从触觉反馈模块133接收触觉反馈生成指令,并且在设备100上生成能够由设备100的用户感觉到的触觉输出。在一些实施方案中,至少一个触觉输出发生器与触敏表面(例如,触敏显示器系统112)并置排列或邻近,并且任选地通过竖直地(例如,向设备100的表面内/外)或侧向地(例如,在与设备100的表面相同的平面中向后和向前)移动触敏表面来生成触觉输出。在一些实施方案中,至少一个触觉输出发生器传感器位于设备100的后部上,与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个加速度计168。图1A示出了耦接到外围设备接口118的加速度计168。另选地,加速度计168任选地耦接到I/O子系统106中的输入控制器160。加速度计168任选地如以下美国专利公开号中所述的那样执行:20050190059,名称为“Acceleration-based Theft Detection System for Portable Electronic Devices”和20060017692,名称为“Methods And Apparatuses For Operating A Portable DeviceBased On An Accelerometer”,这两个美国专利公开均全文以引用方式并入本文。在一些实施方案中,基于对从一个或多个加速度计接收的数据的分析来在触摸屏显示器上以纵向视图或横向视图显示信息。设备100任选地除了加速度计168之外还包括磁力仪和GPS(或GLONASS或其他全球导航系统)接收器,以用于获取关于设备100的位置和取向(例如,纵向或横向)的信息。
在一些实施方案中,存储于存储器102中的软件部件包括操作系统126、通信模块(或指令集)128、接触/运动模块(或指令集)130、图形模块(或指令集)132、文本输入模块(或指令集)134、全球定位系统(GPS)模块(或指令集)135以及应用程序(或指令集)136。此外,在一些实施方案中,存储器102(图1A)或370(图3)存储设备/全局内部状态157,如图1A和图3中所示。设备/全局内部状态157包括以下中的一者或多者:活动应用程序状态,其指示哪些应用程序(如果有的话)当前是活动的;显示状态,指示什么应用、视图或其他信息占据了触摸屏显示器112的各个区域;传感器状态,包括从设备的各个传感器和输入控制设备116获得的信息;以及涉及设备位置和/或姿态的位置信息。
操作系统126(例如,Darwin、RTXC、LINUX、UNIX、OS X、iOS、WINDOWS或嵌入式操作系统诸如VxWorks)包括用于控制和管理一般系统任务(例如,存储器管理、存储设备控制、功率管理等)的各种软件部件和/或驱动器,并且促进各种硬件部件和软件部件之间的通信。
通信模块128有利于通过一个或多个外部端口124来与其他设备进行通信,并且还包括用于处理由RF电路108和/或外部端口124所接收的数据的各种软件部件。外部端口124(例如,通用串行总线(USB)、火线等)适于直接耦接到其他设备,或间接地通过网络(例如,互联网、无线LAN等)进行耦接。在一些实施方案中,外部端口是与(Apple Inc.的商标)设备上所使用的30针连接器相同的或类似的和/或与其兼容的多针(例如,30针)连接器。
接触/运动模块130任选地检测与触摸屏112(结合显示控制器156)和其他触敏设备(例如,触摸板或物理点击式转盘)的接触。接触/运动模块130包括各种软件部件以用于执行与接触检测相关的各种操作,诸如确定是否已经发生了接触(例如,检测手指按下事件)、确定接触强度(例如,接触的力或压力,或者接触的力或压力的替代物)、确定是否存在接触的移动并跟踪在触敏表面上的移动(例如,检测一个或多个手指拖动事件),以及确定接触是否已经停止(例如,检测手指抬起事件或者接触断开)。接触/运动模块130从触敏表面接收接触数据。确定接触点的移动任选地包括确定接触点的速率(量值)、速度(量值和方向)和/或加速度(量值和/或方向的改变),所述接触点的移动由一系列接触数据表示。这些操作任选地被应用于单点接触(例如,单指接触)或者多点同时接触(例如,“多点触摸”/多个手指接触)。在一些实施方案中,接触/运动模块130和显示控制器156检测触摸板上的接触。
在一些实施方案中,接触/运动模块130使用一组一个或多个强度阈值来确定操作是否已由用户执行(例如,确定用户是否已“点击”图标)。在一些实施方案中,根据软件参数来确定强度阈值的至少一个子集(例如,强度阈值不是由特定物理致动器的激活阈值来确定的,并且可在不改变设备100的物理硬件的情况下被调节)。例如,在不改变触控板或触摸屏显示器硬件的情况下,触控板或触摸屏的鼠标“点击”阈值可被设定成预定义的阈值的大范围中的任一个阈值。另外,在一些具体实施中,向设备的用户提供用于调节一组强度阈值中的一个或多个强度阈值(例如,通过调节各个强度阈值和/或通过利用对“强度”参数的系统级点击来一次调节多个强度阈值)的软件设置。
接触/运动模块130任选地检测由用户进行的手势输入。触敏表面上的不同手势具有不同的接触模式(例如,所检测到的接触的不同运动、计时和/或强度)。因此,任选地通过检测特定接触模式来检测手势。例如,检测手指轻击手势包括检测手指按下事件,然后在与手指按下事件相同的位置(或基本上相同的位置)处(例如,在图标的位置处)检测手指抬起(抬离)事件。作为另一个示例,在触敏表面上检测手指轻扫手势包括检测手指按下事件,然后检测一个或多个手指拖动事件,并且随后检测手指抬起(抬离)事件。
图形模块132包括用于在触摸屏112或其他显示器上呈现和显示图形的各种已知的软件部件,包括用于改变所显示的图形的视觉冲击(例如,亮度、透明度、饱和度、对比度或其他视觉属性)的部件。如本文所用,术语“图形”包括可被显示给用户的任何对象,包括但不限于文本、网页、图标(诸如,包括软键的用户界面对象)、数字图像、视频、动画等。
在一些实施方案中,图形模块132存储表示待使用的图形的数据。每个图形任选地被分配有对应的代码。图形模块132从应用程序等接收用于指定待显示的图形的一个或多个代码,在必要的情况下还一起接收坐标数据和其他图形属性数据,并且然后生成屏幕图像数据,以输出至显示控制器156。
触觉反馈模块133包括用于生成指令的各种软件部件,该指令由触觉输出发生器167用于响应于用户与设备100的交互而在设备100上的一个或多个定位处产生触觉输出。
任选地为图形模块132的部件的文本输入模块134提供用于在各种应用程序(例如,联系人137、电子邮件140、IM 141、浏览器147和需要文本输入的任何其他应用程序)中输入文本的软键盘。
GPS模块135确定设备的位置,并提供该信息以供在各种应用程序中使用(例如提供给电话138以供在基于位置的拨号中使用;提供给相机143作为图片/视频元数据;以及提供给提供基于位置的服务的应用程序,诸如天气小组件、本地黄页小组件和地图/导航小组件)。
应用程序136任选地包括以下模块(或指令集)或者其子集或超集:
·联系人模块137(有时称为通讯录或联系人列表);
·电话模块138;
·视频会议模块139;
·电子邮件客户端模块140;
·即时消息(IM)模块141;
·健身支持模块142;
·用于静态图像和/或视频图像的相机模块143;
·图像管理模块144;
·视频播放器模块;
·音乐播放器模块;
·浏览器模块147;
·日历模块148;
·小组件模块149,其任选地包括以下各项中的一者或多者:天气小组件149-1、股市小组件149-2、计算器小组件149-3、闹钟小组件149-4、词典小组件149-5、和由用户获取的其他小组件、以及用户创建的小组件149-6;
·用于形成用户创建的小组件149-6的小组件创建器模块150;
·搜索模块151;
·视频和音乐播放器模块152,其合并视频播放器模块和音乐播放器模块;
·笔记模块153;
·地图模块154;和/或
·在线视频模块155。
任选地存储在存储器102中的其他应用程序136的示例包括其他文字处理应用程序、其他图像编辑应用程序、绘图应用程序、呈现应用程序、支持JAVA的应用程序、加密、数字权益管理、语音识别和语音复制。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、和文本输入模块134,联系人模块137任选地用于管理通讯录或联系人列表(例如,存储在存储器102或存储器370中的联系人模块137的应用程序内部状态192中),包括:向通讯录添加一个或多个姓名;从通讯录删除姓名;将电话号码、电子邮件地址、物理地址或其他信息与姓名关联;将图像与姓名关联;对姓名进行归类和分类;提供电话号码或电子邮件地址来发起和/或促进通过电话138、视频会议模块139、电子邮件140或IM 141进行的通信;等等。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,电话模块138任选地用于输入与电话号码对应的字符序列、访问联系人模块137中的一个或多个电话号码、修改已输入的电话号码、拨打相应的电话号码、进行会话,以及当会话完成时断开或挂断。如上所述,无线通信任选地使用多种通信标准、协议和技术中的任一种。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132、文本输入模块134、联系人模块137和电话模块138,视频会议模块139包括根据用户指令来发起、进行和终止用户与一个或多个其他参与者之间的视频会议的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,电子邮件客户端模块140包括响应于用户指令来创建、发送、接收和管理电子邮件的可执行指令。结合图像管理模块144,电子邮件客户端模块140使得非常容易创建和发送具有由相机模块143拍摄的静态图像或视频图像的电子邮件。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,即时消息模块141包括用于以下操作的可执行指令:输入与即时消息对应的字符序列、修改先前输入的字符、传输相应即时消息(例如,使用短消息服务(SMS)或多媒体消息服务(MMS)协议以用于基于电话的即时消息或者使用XMPP、SIMPLE、或IMPS以用于基于互联网的即时消息)、接收即时消息以及查看所接收的即时消息。在一些实施方案中,所传输和/或接收的即时消息任选地包括图形、照片、音频文件、视频文件和/或MMS和/或增强消息服务(EMS)中所支持的其他附件。如本文所用,“即时消息”是指基于电话的消息(例如,使用SMS或MMS发送的消息)和基于互联网的消息(例如,使用XMPP、SIMPLE或IMPS发送的消息)两者。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135、地图模块154和音乐播放器模块,健身支持模块142包括用于创建健身(例如,具有时间、距离和/或卡路里燃烧目标)的可执行指令;与健身传感器(运动设备)进行通信;接收健身传感器数据;校准用于监视健身的传感器;为健身选择和播放音乐;以及显示、存储和传输健身数据。
结合触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132和图像管理模块144,相机模块143包括用于以下操作的可执行指令:捕获静态图像或视频(包括视频流)并且将它们存储到存储器102中、修改静态图像或视频的特征,或从存储器102删除静态图像或视频。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、和相机模块143,图像管理模块144包括用于排列、修改(例如,编辑)、或以其他方式操控、加标签、删除、呈现(例如,在数字幻灯片或专辑中)、以及存储静态图像和/或视频图像的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,浏览器模块147包括用于根据用户指令来浏览互联网,包括搜索、链接至、接收和显示网页或其部分,以及链接至网页的附件和其他文件的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、电子邮件客户端模块140和浏览器模块147,日历模块148包括根据用户指令来创建、显示、修改和存储日历以及与日历相关联的数据(例如,日历条目、待办事项等)的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147,小组件模块149是任选地由用户下载和使用的微型应用程序(例如,天气小组件149-1、股市小组件149-2、计算器小组件149-3、闹钟小组件149-4和词典小组件149-5)或由用户创建的微型应用程序(例如,用户创建的小组件149-6)。在一些实施方案中,小组件包括HTML(超文本标记语言)文件、CSS(层叠样式表)文件和JavaScript文件。在一些实施方案中,小组件包括XML(可扩展标记语言)文件和JavaScript文件(例如,Yahoo!小组件)。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147,小组件创建器模块150任选地被用户用于创建小组件(例如,将网页的用户指定部分转变为小组件)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,搜索模块151包括用于根据用户指令来搜索存储器102中与一个或多个搜索条件(例如,一个或多个用户指定的搜索词)匹配的文本、音乐、声音、图像、视频和/或其他文件的可执行指令。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、和浏览器模块147,视频和音乐播放器模块152包括允许用户下载和回放以一种或多种文件格式诸如MP3或AAC文件存储的所记录的音乐和其他声音文件的可执行指令,以及用于显示、呈现或以其他方式回放视频(例如,在触摸屏112上或在经由外部端口124连接的外部显示器上)的可执行指令。在一些实施方案中,设备100任选地包括MP3播放器诸如iPod(Apple Inc.的商标)的功能。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,笔记模块153包括用于根据用户指令来创建和管理笔记、待办事项等的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135和浏览器模块147,地图模块154任选地用于根据用户指令接收、显示、修改和存储地图以及与地图相关联的数据(例如,驾驶方向、与特定位置处或附近的商店及其他兴趣点有关的数据,以及其他基于位置的数据)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、文本输入模块134、电子邮件客户端模块140和浏览器模块147,在线视频模块155包括用于执行以下操作的指令:允许用户访问、浏览、接收(例如,通过流式传输和/或下载)、回放(例如在触摸屏上或在经由外部端口124所连接的外部显示器上)、发送具有至特定在线视频的链接的电子邮件,以及以其他方式管理一种或多种文件格式诸如H.264的在线视频。在一些实施方案中,使用即时消息模块141而不是电子邮件客户端模块140来发送特定在线视频的链接。在线视频应用程序的其他描述可见于2007年6月20日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国临时专利申请号60/936,562和2007年12月31日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国专利申请号11/968,067,这两个专利申请的内容据此全文以引用方式并入本文。
上述每个模块和应用程序对应于用于执行上述一种或多种功能以及在本专利申请中所述的方法(例如,本文所述的计算机实现的方法和其他信息处理方法)的可执行指令集。这些模块(例如,指令集)不必以独立的软件程序(诸如计算机程序(例如,包括指令))、过程或模块实现,因此这些模块的各种子集任选地在各种实施方案中组合或以其他方式重新布置。例如,视频播放器模块任选地与音乐播放器模块组合成单个模块(例如,图1A中的视频和音乐播放器模块152)。在一些实施方案中,存储器102任选地存储上述模块和数据结构的子组。此外,存储器102任选地存储上文未描述的另外的模块和数据结构。
在一些实施方案中,设备100是该设备上的预定义的一组功能的操作唯一地通过触摸屏和/或触摸板来执行的设备。通过使用触摸屏和/或触摸板作为用于操作设备100的主要输入控制设备,任选地减少设备100上的物理输入控制设备(例如,下压按钮、拨盘等等)的数量。
唯一地通过触摸屏和/或触摸板来执行的预定义的一组功能任选地包括在用户界面之间的导航。在一些实施方案中,触摸板在被用户触摸时将设备100从设备100上显示的任何用户界面导航到主菜单、主桌面菜单或根菜单。在此类实施方案中,使用触摸板来实现“菜单按钮”。在一些其他实施方案中,菜单按钮是物理下压按钮或者其他物理输入控制设备,而不是触摸板。
图1B是示出了根据一些实施方案的用于事件处理的示例性部件的框图。在一些实施方案中,存储器102(图1A)或存储器370(图3)包括事件分类器170(例如,在操作系统126中)以及相应的应用程序136-1(例如,前述应用程序137至151、155、380至390中的任一个应用程序)。
事件分类器170接收事件信息并确定要将事件信息递送到的应用程序136-1和应用程序136-1的应用程序视图191。事件分类器170包括事件监视器171和事件分配器模块174。在一些实施方案中,应用程序136-1包括应用程序内部状态192,该应用程序内部状态指示当应用程序是活动的或正在执行时被显示在触敏显示器112上的一个或多个当前应用程序视图。在一些实施方案中,设备/全局内部状态157被事件分类器170用来确定哪个(哪些)应用程序当前是活动的,并且应用程序内部状态192被事件分类器170用来确定要将事件信息递送到的应用程序视图191。
在一些实施方案中,应用程序内部状态192包括附加信息,诸如以下各项中的一者或多者:当应用程序136-1恢复执行时将被使用的恢复信息、指示信息正被显示或准备好用于被应用程序136-1显示的用户界面状态信息、用于使得用户能够返回到应用程序136-1的前一状态或视图的状态队列,以及用户采取的先前动作的重复/撤销队列。
事件监视器171从外围设备接口118接收事件信息。事件信息包括关于子事件(例如,触敏显示器112上的用户触摸,作为多点触摸手势的一部分)的信息。外围设备接口118传输其从I/O子系统106或传感器诸如接近传感器166、一个或多个加速度计168和/或麦克风113(通过音频电路110)接收的信息。外围设备接口118从I/O子系统106接收的信息包括来自触敏显示器112或触敏表面的信息。
在一些实施方案中,事件监视器171以预先确定的间隔将请求发送至外围设备接口118。作为响应,外围设备接口118传输事件信息。在其他实施方案中,外围设备接口118仅当存在显著事件(例如,接收到高于预先确定的噪声阈值和/或接收到超过预先确定的持续时间的输入)时才传输事件信息。
在一些实施方案中,事件分类器170还包括命中视图确定模块172和/或活动事件识别器确定模块173。
当触敏显示器112显示多于一个视图时,命中视图确定模块172提供用于确定子事件已在一个或多个视图内的什么地方发生的软件过程。视图由用户能够在显示器上看到的控件和其他元素构成。
与应用程序相关联的用户界面的另一方面是一组视图,本文中有时也称为应用程序视图或用户界面窗口,在其中显示信息并且发生基于触摸的手势。在其中检测到触摸的(相应应用程序的)应用程序视图任选地对应于在应用程序的程序化或视图分级结构内的程序化水平。例如,在其中检测到触摸的最低水平视图任选地被称为命中视图,并且被辨别为正确输入的事件集任选地至少部分地基于初始触摸的命中视图来确定,所述初始触摸开始基于触摸的手势。
命中视图确定模块172接收与基于触摸的手势的子事件相关的信息。当应用程序具有以分级结构组织的多个视图时,命中视图确定模块172将命中视图识别为应当对子事件进行处理的分级结构中的最低视图。在大多数情况下,命中视图是发起子事件(例如,形成事件或潜在事件的子事件序列中的第一子事件)在其中发生的最低水平视图。一旦命中视图被命中视图确定模块172识别,命中视图便通常接收与其被识别为命中视图所针对的同一触摸或输入源相关的所有子事件。
活动事件识别器确定模块173确定视图分级结构内的哪个或哪些视图应接收特定子事件序列。在一些实施方案中,活动事件识别器确定模块173确定仅命中视图应接收特定子事件序列。在其他实施方案中,活动事件识别器确定模块173确定包括子事件的物理位置的所有视图是活跃参与的视图,并因此确定所有活跃参与的视图都应接收特定子事件序列。在其他实施方案中,即使触摸子事件完全被局限到与一个特定视图相关联的区域,分级结构中的较高视图将仍然保持为活跃参与的视图。
事件分配器模块174将事件信息分配到事件识别器(例如,事件识别器180)。在包括活动事件识别器确定模块173的实施方案中,事件分配器模块174将事件信息递送到由活动事件识别器确定模块173确定的事件识别器。在一些实施方案中,事件分配器模块174在事件队列中存储事件信息,该事件信息由相应事件接收器182进行检索。
在一些实施方案中,操作系统126包括事件分类器170。另选地,应用程序136-1包括事件分类器170。在又一个实施方案中,事件分类器170是独立模块,或者是存储在存储器102中的另一个模块(诸如,接触/运动模块130)的一部分。
在一些实施方案中,应用程序136-1包括多个事件处理程序190和一个或多个应用程序视图191,其中的每一个都包括用于处理发生在应用程序的用户界面的相应视图内的触摸事件的指令。应用程序136-1的每个应用程序视图191包括一个或多个事件识别器180。通常,相应应用程序视图191包括多个事件识别器180。在其他实施方案中,事件识别器180中的一个或多个事件识别器是独立模块的一部分,该独立模块为诸如用户界面工具包或应用程序136-1从中继承方法和其他属性的更高级别的对象。在一些实施方案中,相应事件处理程序190包括以下各项中的一者或多者:数据更新器176、对象更新器177、GUI更新器178、和/或从事件分类器170接收的事件数据179。事件处理程序190任选地利用或调用数据更新器176、对象更新器177或GUI更新器178来更新应用程序内部状态192。另选地,应用程序视图191中的一个或多个应用程序视图包括一个或多个相应事件处理程序190。另外,在一些实施方案中,数据更新器176、对象更新器177和GUI更新器178中的一者或多者被包括在相应应用程序视图191中。
相应的事件识别器180从事件分类器170接收事件信息(例如,事件数据179),并且根据事件信息识别事件。事件识别器180包括事件接收器182和事件比较器184。在一些实施方案中,事件识别器180还包括元数据183和事件传递指令188(其任选地包括子事件递送指令)的至少一个子集。
事件接收器182从事件分类器170接收事件信息。事件信息包括关于子事件例如触摸或触摸移动的信息。根据子事件,事件信息还包括附加信息,诸如子事件的位置。当子事件涉及触摸的运动时,事件信息任选地还包括子事件的速率和方向。在一些实施方案中,事件包括设备从一个取向旋转到另一取向(例如,从纵向取向旋转到横向取向,或反之亦然),并且事件信息包括关于设备的当前取向(也被称为设备姿态)的对应信息。
事件比较器184将事件信息与预定义的事件或子事件定义进行比较,并且基于该比较来确定事件或子事件,或者确定或更新事件或子事件的状态。在一些实施方案中,事件比较器184包括事件定义186。事件定义186包含事件的定义(例如,预定义的子事件序列),例如事件1(187-1)、事件2(187-2)以及其他。在一些实施方案中,事件(例如,187-1和/或187-2)中的子事件例如包括触摸开始、触摸结束、触摸移动、触摸取消和多点触摸。在一个示例中,事件1(187-1)的定义是被显示对象上的双击。例如,双击包括被显示对象上的预先确定时长的第一触摸(触摸开始)、预先确定时长的第一抬离(触摸结束)、被显示对象上的预先确定时长的第二触摸(触摸开始)以及预先确定时长的第二抬离(触摸结束)。在另一个示例中,事件2(187-2)的定义是被显示对象上的拖动。例如,拖动包括被显示对象上的预先确定时长的触摸(或接触)、触摸在触敏显示器112上的移动、以及触摸的抬离(触摸结束)。在一些实施方案中,事件还包括用于一个或多个相关联的事件处理程序190的信息。
在一些实施方案中,事件定义186包括对用于相应用户界面对象的事件的定义。在一些实施方案中,事件比较器184执行命中测试以确定哪个用户界面对象与子事件相关联。例如,在触敏显示器112上显示三个用户界面对象的应用程序视图中,当在触敏显示器112上检测到触摸时,事件比较器184执行命中测试以确定这三个用户界面对象中的哪一个用户界面对象与该触摸(子事件)相关联。如果每个所显示对象与相应事件处理程序190相关联,则事件比较器使用该命中测试的结果来确定哪个事件处理程序190应当被激活。例如,事件比较器184选择与子事件和触发该命中测试的对象相关联的事件处理程序。
在一些实施方案中,相应事件(187)的定义还包括延迟动作,该延迟动作延迟事件信息的递送,直到已确定子事件序列确实对应于或不对应于事件识别器的事件类型。
当相应事件识别器180确定子事件序列不与事件定义186中的任何事件匹配时,该相应事件识别器180进入事件不可能、事件失败或事件结束状态,在此之后忽略基于触摸的手势的后续子事件。在这种情况下,对于命中视图保持活动的其他事件识别器(如果有的话)继续跟踪并处理持续进行的基于触摸的手势的子事件。
在一些实施方案中,相应事件识别器180包括具有指示事件递送系统应当如何执行对活跃参与的事件识别器的子事件递送的可配置属性、标记和/或列表的元数据183。在一些实施方案中,元数据183包括指示事件识别器彼此如何交互或如何能够交互的可配置属性、标志和/或列表。在一些实施方案中,元数据183包括指示子事件是否递送到视图或程序化分级结构中的不同层级的可配置属性、标志和/或列表。
在一些实施方案中,当事件的一个或多个特定子事件被识别时,相应事件识别器180激活与事件相关联的事件处理程序190。在一些实施方案中,相应事件识别器180将与事件相关联的事件信息递送到事件处理程序190。激活事件处理程序190不同于将子事件发送(和延期发送)到相应命中视图。在一些实施方案中,事件识别器180抛出与所辨别出的事件相关联的标记,并且与该标记相关联的事件处理程序190获取该标记并执行预定义进程。
在一些实施方案中,事件递送指令188包括递送关于子事件的事件信息而不激活事件处理程序的子事件递送指令。相反,子事件递送指令将事件信息递送到与子事件序列相关联的事件处理程序或者递送到活跃参与的视图。与子事件序列或与活跃参与的视图相关联的事件处理程序接收事件信息并执行预先确定的进程。
在一些实施方案中,数据更新器176创建并更新在应用程序136-1中使用的数据。例如,数据更新器176对联系人模块137中所使用的电话号码进行更新,或者对视频播放器模块中所使用的视频文件进行存储。在一些实施方案中,对象更新器177创建并更新在应用程序136-1中使用的对象。例如,对象更新器177创建新的用户界面对象或更新用户界面对象的位置。GUI更新器178更新GUI。例如,GUI更新器178准备显示信息,并且将显示信息发送到图形模块132用以显示在触敏显示器上。
在一些实施方案中,事件处理程序190包括数据更新器176、对象更新器177和GUI更新器178,或具有对该数据更新器、该对象更新器和该GUI更新器的访问权限。在一些实施方案中,数据更新器176、对象更新器177和GUI更新器178被包括在相应应用程序136-1或应用程序视图191的单个模块中。在其他实施方案中,它们被包括在两个或更多个软件模块中。
应当理解,关于触敏显示器上的用户触摸的事件处理的上述论述还适用于利用输入设备来操作多功能设备100的其他形式的用户输入,并不是所有用户输入都是在触摸屏上发起的。例如,任选地与单次或多次键盘按下或按住协作的鼠标移动和鼠标按钮按下;触摸板上的接触移动,诸如轻击、拖动、滚动等;触控笔输入;设备的移动;口头指令;检测到的眼睛移动;生物特征输入;和/或它们的任何组合任选地被用作对应于限定要辨别的事件的子事件的输入。
图2示出了根据一些实施方案的具有触摸屏112的便携式多功能设备100。触摸屏任选地在用户界面(UI)200内显示一个或多个图形。在本实施方案以及下文所述的其他实施方案中,用户能够通过例如利用一根或多根手指202(在图中未按比例绘制)或一支或多支触控笔203(在图中未按比例绘制)在图形上作出手势来选择这些图形中的一个或多个图形。在一些实施方案中,当用户中断与一个或多个图形的接触时,将发生对一个或多个图形的选择。在一些实施方案中,手势任选地包括一次或多次轻击、一次或多次轻扫(从左向右、从右向左、向上和/或向下)和/或已与设备100发生接触的手指的滚动(从右向左、从左向右、向上和/或向下)。在一些具体实施中或在一些情况下,不经意地与图形接触不会选择图形。例如,当与选择对应的手势是轻击时,在应用程序图标上方扫动的轻扫手势任选地不会选择对应的应用程序。
设备100任选地还包括一个或多个物理按钮,诸如“主桌面”或菜单按钮204。如前所述,菜单按钮204任选地用于导航到任选地在设备100上被执行的一组应用程序中的任何应用程序136。另选地,在一些实施方案中,菜单按钮被实现为被显示在触摸屏112上的GUI中的软键。
在一些实施方案中,设备100包括触摸屏112、菜单按钮204、用于使设备开机/关机和用于锁定设备的下压按钮206、一个或多个音量调节按钮208、用户身份模块(SIM)卡槽210、耳麦插孔212和对接/充电外部端口124。下压按钮206任选地用于通过压下该按钮并且将该按钮保持在压下状态持续预定义的时间间隔来对设备进行开/关机;通过压下该按钮并在该预定义的时间间隔过去之前释放该按钮来锁定设备;和/或对设备进行解锁或发起解锁进程。在另选的实施方案中,设备100还通过麦克风113接受用于激活或去激活某些功能的语音输入。设备100还任选地包括用于检测触摸屏112上的接触的强度的一个或多个接触强度传感器165,和/或用于为设备100的用户生成触觉输出的一个或多个触觉输出发生器167。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。设备300不必是便携式的。在一些实施方案中,设备300是膝上型电脑、台式计算机、平板电脑、多媒体播放器设备、导航设备、教育设备(诸如儿童学习玩具)、游戏系统或控制设备(例如,家用控制器或工业用控制器)。设备300通常包括一个或多个处理单元(CPU)310、一个或多个网络或其他通信接口360、存储器370和用于使这些部件互连的一条或多条通信总线320。通信总线320任选地包括使系统部件互连并且控制系统部件之间的通信的电路(有时称作芯片组)。设备300包括具有显示器340的输入/输出(I/O)接口330,该显示器通常是触摸屏显示器。I/O接口330还任选地包括键盘和/或鼠标(或其他指向设备)350和触摸板355、用于在设备300上生成触觉输出的触觉输出发生器357(例如,类似于上文参考图1A所述的触觉输出发生器167)、传感器359(例如,光学传感器、加速度传感器、接近传感器、触敏传感器和/或接触强度传感器(类似于上文参考图1A所述的接触强度传感器165))。存储器370包括高速随机存取存储器,诸如DRAM、SRAM、DDR RAM,或其他随机存取固态存储器设备;并且任选地包括非易失性存储器,诸如一个或多个磁盘存储设备、光盘存储设备、闪存存储器设备或其他非易失性固态存储设备。存储器370任选地包括远离CPU 310定位的一个或多个存储设备。在一些实施方案中,存储器370存储与便携式多功能设备100(图1A)的存储器102中存储的程序、模块和数据结构类似的程序、模块和数据结构或其子集。此外,存储器370任选地存储在便携式多功能设备100的存储器102中不存在的附加程序、模块和数据结构。例如,设备300的存储器370任选地存储绘图模块380、呈现模块382、文字处理模块384、网站创建模块386、盘编辑模块388、和/或电子表格模块390,而便携式多功能设备100(图1A)的存储器102任选地不存储这些模块。
图3中的上述元素中的每个元素任选地存储于先前提到的存储器设备的一个或多个存储器设备中。上述模块中的每个模块对应于用于执行上述功能的指令集。上述模块或计算机程序(例如,指令集或包括指令)不必以单独的软件程序(诸如计算机程序(例如,包括指令))、过程或模块实现,并且因此这些模块的各种子集任选地在各种实施方案中被组合或以其他方式重新布置。在一些实施方案中,存储器370任选地存储上述模块和数据结构的子组。此外,存储器370任选地存储上文未描述的附加模块和数据结构。
现在将注意力转到任选地在例如便携式多功能设备100上实现的用户界面的实施方案。
图4A示出了根据一些实施方案的便携式多功能设备100上的应用程序菜单的示例性用户界面。类似的用户界面任选地在设备300上实现。在一些实施方案中,用户界面400包括以下元件或者其子集或超集:
·无线通信诸如蜂窝信号和Wi-Fi信号的信号强度指示符402;
·时间404;
·蓝牙指示符405;
·电池状态指示符406;
·具有针对常用应用程序的图标的托盘408,该图标诸如:
ο电话模块138的被标记为“电话”的图标416,该图标416任选地包括未接来电或语音信箱的数量的指示符414;
ο电子邮件客户端模块140的被标记为“邮件”的图标418,该图标418任选地包括未读电子邮件的数量的指示符410;
ο浏览器模块147的标记为“浏览器”的图标420;以及
ο视频和音乐播放器模块152(也称为iPod(苹果公司(Apple Inc.)的商标)模块152)的被标记为“iPod”的图标422;以及
·其他应用程序的图标,诸如:
οIM模块141的被标记为“消息”的图标424;
ο日历模块148的被标记为“日历”的图标426;
ο图像管理模块144的被标记为“照片”的图标428;
ο相机模块143的被标记为“相机”的图标430;
ο在线视频模块155的被标记为“在线视频”的图标432;
ο股市小组件149-2的被标记为“股市”的图标434;
ο地图模块154的被标记为“地图”的图标436;
ο天气小组件149-1的被标记为“天气”的图标438;
ο闹钟小组件149-4的被标记为“时钟”的图标440;
ο健身支持模块142的被标记为“健身支持”的图标442;
ο笔记模块153的标记为“笔记”的图标444;以及
ο设置应用程序或模块的被标记为“设置”的图标446,该图标提供对设备100及其各种应用程序136的设置的访问。
应当指出的是,图4A中示出的图标标签仅仅是示例性的。例如,视频和音乐播放器模块152的图标422被标记“音乐”或“音乐播放器”。对于各种应用程序图标任选地使用其他标签。在一些实施方案中,相应应用程序图标的标签包括与该相应应用程序图标对应的应用程序的名称。在一些实施方案中,特定应用程序图标的标签不同于与该特定应用程序图标对应的应用程序的名称。
图4B示出了具有与显示器450(例如,触摸屏显示器112)分开的触敏表面451(例如,图3的平板电脑或触摸板355)的设备(例如,图3的设备300)上的示例性用户界面。设备300还任选地包括用于检测触敏表面451上的接触的强度的一个或多个接触强度传感器(例如,传感器359中的一个或多个传感器)和/或用于为设备300的用户生成触觉输出的一个或多个触觉输出发生器357。
尽管将参考触摸屏显示器112(其中组合了触敏表面和显示器)上的输入给出以下示例中的一些示例,但是在一些实施方案中,设备检测与显示器分开的触敏表面上的输入,如图4B中所示。在一些实施方案中,触敏表面(例如,图4B中的451)具有与显示器(例如,450)上的主轴(例如,图4B中的453)对应的主轴(例如,图4B中的452)。根据这些实施方案,设备检测在与显示器上的相应定位对应的定位(例如,在图4B中,460对应于468并且462对应于470)处与触敏表面451的接触(例如,图4B中的460和462)。这样,当触敏表面(例如,图4B中的451)与多功能设备的显示器(例如,图4B中的450)分开时,由设备在该触敏表面上检测到的用户输入(例如,接触460和462以及它们的移动)被该设备用于操纵该显示器上的用户界面。应当理解,类似的方法任选地用于本文所述的其他用户界面。
另外,虽然主要是参考手指输入(例如,手指接触、单指轻击手势、手指轻扫手势)来给出下面的示例,但是应当理解的是,在一些实施方案中,这些手指输入中的一个或多个手指输入由来自另一输入设备的输入(例如,基于鼠标的输入或触控笔输入)替代。例如,轻扫手势任选地由鼠标点击(例如,而不是接触),之后是光标沿着轻扫的路径的移动(例如,而不是接触的移动)替代。又如,轻击手势任选地由在光标位于轻击手势的位置上方时的鼠标点击(例如,代替对接触的检测,之后是停止检测接触)替代。类似地,当同时检测到多个用户输入时,应当理解的是,多个计算机鼠标任选地被同时使用,或鼠标和手指接触任选地被同时使用。
图5A示出了示例性个人电子设备500。设备500包括主体502。在一些实施方案中,设备500可包括相对于设备100和300(例如,图1A至图4B)所述的特征中的一些或全部特征。在一些实施方案中,设备500具有在下文中称为触摸屏504的触敏显示屏504。作为触摸屏504的替代或补充,设备500具有显示器和触敏表面。与设备100和300的情况一样,在一些实施方案中,触摸屏504(或触敏表面)任选地包括用于检测所施加的接触(例如,触摸)强度的一个或多个强度传感器。触摸屏504(或触敏表面)的一个或多个强度传感器可提供表示触摸的强度的输出数据。设备500的用户界面可基于触摸的强度来对触摸作出响应,这意味着不同强度的触摸可调用设备500上的不同用户界面操作。
用于检测和处理触摸强度的示例性技术见于例如以下相关专利申请中:2013年5月8日提交的名称为“Device,Method,and Graphical User Interface for DisplayingUser Interface Objects Corresponding to an Application”的国际专利申请序列号PCT/US2013/040061,发布为WIPO专利公开号WO/2013/169849;以及2013年11月11日提交的名称为“Device,Method,and Graphical User Interface for Transitioning BetweenTouch Input to Display Output Relationships”的国际专利申请序列号PCT/US2013/069483,发布为WIPO专利公开号WO/2014/105276,这些专利申请中的每一者据此全文以引用方式并入。
在一些实施方案中,设备500具有一个或多个输入机构506和508。输入机构506和508(如果包括的话)可以是物理形式的。物理输入机构的示例包括下压按钮和可旋转机构。在一些实施方案中,设备500具有一个或多个附接机构。此类附接机构(如果包括的话)可允许将设备500与例如帽子、眼镜、耳环、项链、衬衣、夹克、手镯、表带、手链、裤子、皮带、鞋子、钱包、背包等附接。这些附接机构允许用户穿戴设备500。
图5B描绘了示例性个人电子设备500。在一些实施方案中,设备500可包括参考图1A、图1B和图3所述的部件中的一些或全部部件。设备500具有总线512,该总线将I/O部分514与一个或多个计算机处理器516和存储器518操作性地耦接。I/O部分514可连接到显示器504,该显示器可具有触敏部件522并且任选地具有强度传感器524(例如,接触强度传感器)。此外,I/O部分514可与通信单元530连接,用于使用Wi-Fi、蓝牙、近场通信(NFC)、蜂窝和/或其他无线通信技术来接收应用程序和操作系统数据。设备500可包括输入机构506和/或508。例如,输入机构506任选地是可旋转输入设备或者可按压输入设备以及可旋转输入设备。在一些示例中,输入机构508任选地是按钮。
在一些示例中,输入机构508任选地是麦克风。个人电子设备500任选地包括各种传感器,诸如GPS传感器532、加速度计534、定向传感器540(例如,罗盘)、陀螺仪536、运动传感器538和/或其组合,所有这些设备均可操作地连接到I/O部分514。
个人电子设备500的存储器518可包括用于存储计算机可执行指令的一个或多个非暂态计算机可读存储介质,该可执行指令当由一个或多个计算机处理器516执行时例如可使得计算机处理器执行下文所述技术,包括过程700和900(图7和图9)。计算机可读存储介质可以是可有形地包含或存储计算机可执行指令以供指令执行系统、装置和设备使用或与其结合的任何介质。在一些示例中,存储介质是暂态计算机可读存储介质。在一些示例中,存储介质是非暂态计算机可读存储介质。非暂态计算机可读存储介质可包括但不限于磁存储装置、光学存储装置、和/或半导体存储装置。此类存储装置的示例包括磁盘、基于CD、DVD或蓝光技术的光盘,以及持久性固态存储器诸如闪存、固态驱动器等。个人电子设备500不限于图5B的部件和配置,而是可包括多种配置中的其他部件或附加部件。
如本文所用,术语“示能表示”是指任选地在设备100、300和/或500(图1A、图3和图5A至图5B)的显示屏上显示的用户交互式图形用户界面对象。例如,图像(例如,图标)、按钮和文本(例如,超链接)任选地各自构成示能表示。
如本文所用,术语“焦点选择器”是指用于指示用户正与之进行交互的用户界面的当前部分的输入元素。在包括光标或其他位置标记的一些具体实施中,光标充当“焦点选择器”,使得当光标在特定用户界面元素(例如,按钮、窗口、滑块或其他用户界面元素)上方时在触敏表面(例如,图3中的触摸板355或图4B中的触敏表面451)上检测到输入(例如,按压输入)的情况下,该特定用户界面元素根据所检测到的输入而被调节。在包括能够实现与触摸屏显示器上的用户界面元素的直接交互的触摸屏显示器(例如,图1A中的触敏显示器系统112或图4A中的触摸屏112)的一些具体实施中,在触摸屏上所检测到的接触充当“焦点选择器”,使得当在触摸屏显示器上在特定用户界面元素(例如,按钮、窗口、滑块或其他用户界面元素)的位置处检测到输入(例如,由接触进行的按压输入)时,该特定用户界面元素根据所检测到的输入而被调节。在一些具体实施中,焦点从用户界面的一个区域移动到用户界面的另一个区域,而无需光标的对应移动或触摸屏显示器上的接触的移动(例如,通过使用制表键或箭头键将焦点从一个按钮移动到另一个按钮);在这些具体实施中,焦点选择器根据焦点在用户界面的不同区域之间的移动来移动。不考虑焦点选择器所采取的具体形式,焦点选择器通常是由用户控制的以便递送与用户界面的用户预期的交互(例如,通过向设备指示用户界面的用户期望与其进行交互的元素)的用户界面元素(或触摸屏显示器上的接触)。例如,在触敏表面(例如,触摸板或触摸屏)上检测到按压输入时,焦点选择器(例如,光标、接触或选择框)在相应按钮上方的位置将指示用户期望激活相应按钮(而不是设备显示器上示出的其他用户界面元素)。
如说明书和权利要求中所使用的,接触的“特征强度”这一术语是指基于接触的一个或多个强度的接触的特征。在一些实施方案中,特征强度基于多个强度样本。特征强度任选地基于相对于预定义事件(例如,在检测到接触之后,在检测到接触抬离之前,在检测到接触开始移动之前或之后,在检测到接触结束之前,在检测到接触的强度增大之前或之后和/或在检测到接触的强度减小之前或之后)而言在预先确定的时间段(例如,0.05秒、0.1秒、0.2秒、0.5秒、1秒、2秒、5秒、10秒)期间采集的预定义数量的强度样本或一组强度样本。接触的特征强度任选地基于以下各项中的一者或多者:接触的强度的最大值、接触的强度的均值、接触的强度的平均值、接触的强度的前10%处的值、接触的强度的半最大值、接触的强度的90%最大值等。在一些实施方案中,在确定特征强度时使用接触的持续时间(例如,在特征强度是接触的强度在时间上的平均值时)。在一些实施方案中,将特征强度与一组一个或多个强度阈值进行比较,以确定用户是否已执行操作。例如,该组一个或多个强度阈值任选地包括第一强度阈值和第二强度阈值。在该示例中,特征强度未超过第一阈值的接触导致第一操作,特征强度超过第一强度阈值但未超过第二强度阈值的接触导致第二操作,而特征强度超过第二阈值的接触导致第三操作。在一些实施方案中,使用特征强度与一个或多个阈值之间的比较来确定是否要执行一个或多个操作(例如,是执行相应操作还是放弃执行相应操作)而不是用于确定执行第一操作还是第二操作。
如本文所用,“已安装的应用程序”是指已下载到电子设备(例如,设备100、300和/或500)上并准备好在设备上启动(例如,变为打开)的软件应用程序。在一些实施方案中,下载的应用程序利用安装程序而变为已安装的应用程序,安装程序从下载的软件包提取程序部分并将提取的部分与计算机系统的操作系统集成。
如本文所用,术语“打开的应用程序”或“执行中的应用程序”是指具有保持状态信息(例如,作为设备/全局内部状态157和/或应用程序内部状态192的一部分)的软件应用程序。打开的或执行中的应用程序是任选地以下类型的应用程序中的任一者:
·当前显示于正使用应用程序的设备的显示屏上的活动应用程序;
·后台应用程序(或后台进程),其当前未显示但该应用程序的一个或多个进程正由一个或多个处理器处理;和
·没有运行但具有被存储在存储器(分别有易失性和非易失性的)中并可用于恢复应用程序的执行的状态信息的暂停的或休眠的应用程序。
如本文所用,术语“关闭的应用程序”是指不具有保持状态信息的软件应用程序(例如,关闭的应用程序的状态信息不被存储在设备的存储器中)。因此,关闭应用程序包括停止和/或移除应用程序的应用程序进程以及从设备的存储器移除应用程序的状态信息。一般来讲,当在第一应用程序中时,打开第二应用程序并不关闭第一应用程序。在显示第二应用程序并且第一应用程序停止显示时,第一应用程序变为后台应用程序。
图5C描绘了电子设备500A、500B和500C之间的通信会话的示例性图。设备500A、500B和500C类似于电子设备500,并且每个设备彼此共享一个或多个数据连接510(诸如互联网连接、Wi-Fi连接、蜂窝连接、短距离通信连接和/或任何其他此类数据连接或网络)以便促进相应设备之间的音频数据和/或视频数据的实时通信持续一段时间。在一些实施方案中,示例性通信会话可包括共享数据会话,由此数据从电子设备中的一个或多个电子设备传送到其他电子设备以使得能够在电子设备处同时输出相应内容。在一些实施方案中,示例性通信会话可包括视频会议会话,由此在设备500A、500B和500C之间传送音频数据和/或视频数据,使得相应设备的用户可使用电子设备进行实时通信。
在图5C中,设备500A表示与用户A相关联的电子设备。设备500A(经由数据连接510)与设备500B和500C通信,设备500B和500C分别与用户B和用户C相关联。设备500A包括用于捕获通信会话的视频数据的相机501A,以及用于显示与通信会话相关联的内容的显示器504A(例如,触摸屏)。设备500A还包括其他部件,诸如用于记录通信会话的音频的麦克风(例如,113)和用于输出通信会话的音频的扬声器(例如,111)。
设备500A经由显示器504A显示通信UI 520A,该通信UI是用于促进设备500B与设备500C之间的通信会话(例如,视频会议会话)的用户界面。通信UI 520A包括视频馈送525-1A和视频馈送525-2A。视频馈送525-1A是在设备500B处捕获(例如,使用相机501B)并且在通信会话期间从设备500B传送到设备500A和500C的视频数据的表示。视频馈送525-2A是在设备500C处捕获(例如,使用相机501C)并且在通信会话期间从设备500C传送到设备500A和500B的视频数据的表示。
通信UI 520A包括相机预览550A,该相机预览是在设备500A处经由相机501A捕获的视频数据的表示。相机预览550A向用户A表示在相应设备500B和500C处显示的用户A的预期视频馈送。
通信UI 520A包括用于控制通信会话的一个或多个方面的一个或多个控件555A。例如,控件555A可包括用于使通信会话的音频静音、改变通信会话的相机视图(例如,改变用于捕获通信会话视频的相机、调整缩放值)、终止通信会话、将视觉效果应用于通信会话的相机视图、激活与通信会话相关联的一个或多个模式的控件。在一些实施方案中,一个或多个控件555A任选地显示在通信UI 520A中。在一些实施方案中,一个或多个控件555A与相机预览550A分开显示。在一些实施方案中,一个或多个控件555A显示为覆盖相机预览550A的至少一部分。
在图5C中,设备500B表示与用户B相关联的电子设备,用户B(经由数据连接510)与设备500A和500C通信。设备500B包括用于捕获通信会话的视频数据的相机501B,以及用于显示与通信会话相关联的内容的显示器504B(例如,触摸屏)。设备500B还包括其他部件,诸如用于记录通信会话的音频的麦克风(例如,113)和用于输出通信会话的音频的扬声器(例如,111)。
设备500B经由触摸屏504B显示与设备500A的通信UI 520A类似的通信UI 520B。通信UI 520B包括视频馈送525-1B和视频馈送525-2B。视频馈送525-1B是在设备500A处捕获(例如,使用相机501A)并且在通信会话期间从设备500A传送到设备500B和500C的视频数据的表示。视频馈送525-2B是在设备500C处捕获(例如,使用相机501C)并且在通信会话期间从设备500C传送到设备500A和500B的视频数据的表示。通信UI 520B还包括:相机预览550B,该相机预览是经由相机501B在设备500B处捕获的视频数据的表示;和类似于控件555A的一个或多个控件555B,该一个或多个控件用于控制通信会话的一个或多个方面。相机预览550B向用户B表示在相应设备500A和500C处显示的用户B的预期视频馈送。
在图5C中,设备500C表示与用户C相关联的电子设备,用户C(经由数据连接510)与设备500A和500B通信。设备500C包括用于捕获通信会话的视频数据的相机501C,以及用于显示与通信会话相关联的内容的显示器504C(例如,触摸屏)。设备500C还包括其他部件,诸如用于记录通信会话的音频的麦克风(例如,113)和用于输出该通信会话的音频的扬声器(例如,111)。
设备500C经由触摸屏504C显示与设备500A的通信UI 520A和设备500B的通信UI520B类似的通信UI 520C。通信UI 520C包括视频馈送525-1C和视频馈送525-2C。视频馈送525-1C是在设备500B处捕获(例如,使用相机501B)并且在通信会话期间从设备500B传送到设备500A和500C的视频数据的表示。视频馈送525-2C是在设备500A处捕获(例如,使用相机501A)并且在通信会话期间从设备500A传送到设备500B和500C的视频数据的表示。通信UI520C还包括:相机预览550C,该相机预览是经由相机501C在设备500C处捕获的视频数据的表示;和类似于控件555A和555B的一个或多个控件555C,该一个或多个控件用于控制通信会话的一个或多个方面。相机预览550C向用户C表示在相应设备500A和500B处显示的用户C的预期视频馈送。
虽然图5C中描绘的图表示三个电子设备之间的通信会话,但该通信会话能够在两个或更多个电子设备之间建立,并且参与该通信会话的设备的数量可随着电子设备加入或离开该通信会话而改变。例如,如果电子设备中的一个电子设备离开通信会话,则来自停止参与通信会话的设备的音频数据和视频数据不再在参与设备上表示。例如,如果设备500B停止参与通信会话,则在设备500A与500C之间不存在数据连接510,并且在设备500C与500B之间不存在数据连接510。另外,设备500A不包括视频馈送525-1A,并且设备500C不包括视频馈送525-1C。类似地,如果设备加入通信会话,则在加入设备与现有设备之间建立连接,并且在所有设备之间共享视频数据和音频数据,使得每个设备都能够输出从其他设备传送的数据。
图5C中描绘的实施方案表示多个电子设备之间的通信会话的图,包括图6A至图6AS和图8A至图8H中描绘的示例性通信会话。在一些实施方案中,图6A至图6AS和图8A至图8H中描绘的通信会话包括两个或更多个电子设备,即使参与该通信会话的其他电子设备未在图中描绘。
现在将注意力转到在电子设备(诸如便携式多功能设备100、设备300或设备500)上实现的用户界面(“UI”)以及相关联的过程的实施方案。
图6A至图6AS示出了根据一些实施方案的用于管理视频会议会话的示例性用户界面。这些附图中的用户界面用于示出下文所述的包括图7中的过程的过程。在一些实施方案中,图6A至图6AS中的用户界面可用于示出以下相对于图9所述的过程。
本公开描述了用于管理视频会议会话的实施方案。在一些实施方案中,提供了与共享内容会话结合的视频会议会话(也称为共享会话),在共享内容会话中,能够在参与共享内容会话的多个设备处同时输出相应内容。在一些实施方案中,视频会议会话正在进行,而共享内容会话是不活动的或没有正在进行。在一些实施方案中,视频会议会话与共享内容会话同时进行。在一些实施方案中,共享内容会话从视频会议会话或用于提供视频会议会话的用户界面发起。在一些实施方案中,视频会议会话从共享内容会话或用于提供共享内容会话的用户界面发起。
在一些实施方案中,在参与共享内容会话的多个设备处同时输出的相应内容是屏幕共享内容。例如,与共享内容会话的参与者共享主机设备的显示屏幕的内容,使得参与者可在他们的相应设备处实时地查看主机设备(共享设备,或者其屏幕内容被共享的设备)的屏幕内容,包括对显示屏幕内容的任何改变。在一些实施方案中,相应内容是在共享内容会话的参与者的相应设备处同时输出的同步内容。例如,参与者的相应设备分别访问来自远程服务器和/或本地存储器的相应内容(例如,视频、电影、TV节目和/或歌曲),并且在它们的相应内容输出中同步,使得在相应设备处同时输出内容(例如,经由相应设备本地的应用程序),因为每个设备分别访问来自远程服务器和/或本地存储器的相应内容。在一些实施方案中,相应设备交换信息(例如,经由服务器)以促进同步。例如,相应设备可共享内容的播放状态和/或回放位置信息以及本地命令(例如,播放、暂停、停止、快进和/或倒带)的指示,以便在其他设备上实现对内容输出的命令。共享播放状态和/或回放位置信息对于同步相应设备处的内容更高效且更有效,因为主机设备不是向相应设备传输内容,而是传输包含播放状态和/或回放位置信息的较小数据分组。另外,每个相应设备以适合于相应设备和设备的连接性(例如,数据连接条件,诸如数据传输和/或处理速度)的大小和质量输出内容,由此在相应设备中的每个相应设备处提供更定制但同步的回放体验。在一些实施方案中,应用程序(或“app”)在相应设备处可用(例如,下载和/或安装)以使得该设备能够参与共享内容会话。
如本文所讨论的,术语“共享(share/sharing/shared)”通常用于指正在或能够在参与共享内容会话的多个设备处同时输出(例如,观看和/或播放)内容(例如,屏幕共享内容和/或同步内容)的情况。除非另有特别说明,否则这些术语不要求将正在“共享”的内容从参与共享内容会话的任何特定设备传输到正在与其共享内容的任何其他设备。在一些实施方案中,正在共享内容会话中共享的内容是每个相应设备例如从远程服务器或除参与共享内容会话的设备中的一个设备之外的另一源单独访问的内容。例如,在一些实施方案中,当正在参与共享内容会话的设备处播放诸如电影的媒体内容时,即使相应的参与者正在与共享内容会话中的其他参与者分开(但同时)访问(例如,从电影应用程序)并播放该电影,也认为与这些参与者共享该电影。在一些实施方案中,通过从主机设备向参与共享内容会话的其他设备传输表示在主机设备的显示屏幕上显示的内容的图像数据来与共享内容会话的参与者共享屏幕共享内容。
在一些实施方案中,一个或多个音频通道在共享内容会话期间是活动的(例如,打开的),使得共享内容会话的参与者可在共享内容会话正在进行时以及任选地在正在经由共享内容会话共享内容(例如,屏幕共享内容和/或同步内容)时实时地对彼此说话。在一些实施方案中,打开一个或多个视频通道(例如,经由相应设备本地的视频会议应用程序),使得共享内容会话的参与者可在共享内容会话正在进行时以及任选地在正在经由共享内容会话共享内容时参与实况视频通信(例如,视频聊天)。以下参考附图讨论这些实施方案的各个方面以及共享内容会话的进一步细节。
在一些实施方案中,内容被显示为窗口,该窗口任选地覆盖在另一用户界面上,并且可与在其上显示内容的用户界面分开移动。在一些实施方案中,此类窗口在本文被称为画中画窗口或“PiP”。在一些实施方案中,PiP可包括共享内容,诸如屏幕共享内容和/或同步内容。在一些实施方案中,PiP可包括独立于共享内容会话的内容,诸如来自视频会议的视频馈送(尽管在一些实施方案中,此类PiP可结合共享内容会话来显示)。
图6A至图6AS示出了根据一些实施方案的用于参与视频会议会话的示例性设备和用户界面。具体地,这些设备包括设备600(例如,平板计算机)、设备601(例如,膝上型计算机)和设备602(例如,智能电话)。这些设备包括显示器(例如,分别为600-1、601-1和602-1)、一个或多个相机(例如,分别为600-2、601-2和602-2)和一个或多个麦克风。设备600、601和602包括设备100、300和/或500的一个或多个元件。
在本文中所提供的实施方案中,设备600、601或602可被描述为执行与视频会议和/或共享内容会话相关联的一组功能。这些描述并非旨在限制由相应设备执行的功能,而是被提供来示出视频会议和/或共享内容会话的各个方面和实施方案。因此,除非另外指定,否则被描述为由设备600执行的功能类似地能够由设备601和设备602执行。类似地,除非另外指定,否则被描述为由设备601执行的功能类似地能够由设备600和602执行,并且被描述为由设备602执行的功能能够由设备600或601执行。
图6A至图6AS示出了描绘组的参与者之间的视频会议会话的示例性实施方案。视频会议的参与者在视频会议中用来自与相应参与者相关联的相应设备的相应视频馈送来表示。为了简单起见,参与者的相应视频馈送在图中由在轮廓内具有数字的图块610表示,每个数字对应于特定参与者的视频馈送。在一些实施方案中,按参与者加入呼叫的顺序对图块进行编号。类似地,设备600、601或602的相机预览(或自我视图)视频馈送的表示由在轮廓内具有文本“我”的图块(例如,图块608)指示。在图6A至图6L中,图块608表示例如使用相机600-2生成的设备600的视频馈送。
在图6A中,设备600显示视频会议界面605,该视频会议界面包括用于显示与视频会议的参与者对应的图块的至少两个区域:主区域604和名单606。在一些实施方案中,图块通常显示在主区域604中,但可基于各种标准(诸如,例如,当没有足够空间供相应图块在主区域604中显示时)而显示在名单606中。
在一些实施方案中,在名单606中显示的图块小于在主区域604中显示的图块。在一些实施方案中,在名单606中显示的图块全部以相同大小显示。在一些实施方案中,相机预览的图块608与名单606对准或显示在名单606内,并且以与名单中的图块相同的大小来显示。
名单606可显示多个完整图块和一个部分图块(例如,在图块608下方或由其覆盖)。名单606中的附加图块可不被隐藏,并且可通过滚动名单606来显示(例如,响应于用户输入或检测到的事件,诸如参与者通过谈话或移动活跃地参与)。名单606中与图块608重叠的图块可被部分地加阴影以指示在名单606中存在更多图块和/或名单606可被滚动。在一些实施方案中,名单606中的图块的顺序取决于参与者加入视频会议会话的顺序。在一些实施方案中,名单606中的图块的顺序随时间(例如,当参与者加入或离开视频会议会话时,或者当参与者由于例如对名单606中的图块的用户选择或名单606中表示的参与者的主动参与而移入或移出主区域604时)改变。在一些实施方案中,名单606中的图块的顺序是固定的(例如,显示名单606中的图块的顺序不随时间改变)。在一些实施方案中,名单606中的图块的顺序基于与组相关联的列表的顺序(例如,在创建组时将参与者添加到组的顺序)。在一些实施方案中,主区域604中的图块的显示(例如,视频馈送)以比名单606中的图块的显示更高的速率进行更新(例如,名单606中的图块的视频馈送以比主区域604中的图块的视频馈送更低的速率进行更新)。
在一些实施方案中,图块与用于显示的优先级水平相关联,并且具有更高优先级的图块在主区域中显示,而剩余图块(或剩余图块的子集)在名单中显示。在一些实施方案中,具有更高优先级的图块是显示活动水平更高(或最近活动)的参与者的视频馈送的那些图块、与正在共享内容或最近共享内容的参与者相关联的图块、在呼叫会话中较早加入视频会议的参与者、或已被选择(例如,固定)用于在主区域中显示的图块。在一些实施方案中,如果在主区域中没有足够的空间来显示具有更高优先级的图块,则可在名单中显示该图块。在一些实施方案中,当那些参与者的优先级改变时或当其他条件影响时,将图块从主区域604移动到名单606(或反之亦然)。在一些实施方案中,并非所有图块都可在名单中可见。在此类情况下,可响应于用户输入(例如,在名单上的轻扫或拖动手势)而滚动名单以显示分配给名单的附加图块。在一些实施方案中,响应于用户输入(例如,在相机预览608上的轻击),相机预览608被显示在名单606的至少一部分上方,并且名单606中的图块可在相机预览608下方滚动或从其下方滚动出来。
在一些实施方案中,可基于是否启用网格视图设置而以各种布置来显示主区域604中的图块。当启用网格视图设置时,设备600以网格布置显示图块,如例如图6A至图6L中所示。当禁用网格视图设置时,设备600以重叠或非网格显示布置来显示图块,如以下更详细讨论的(见图6Z或图8H)。
视频会议界面605还包括控件区域612,该控件区域包括与视频会议以及任选地与视频会议会话同时活动的共享内容会话相关联的信息和各种控件。在图6A中,控件区域612包括状态区域612-1,该状态区域指示被称为“登山者”的组的四个参与者当前在视频会议会话中是活动的。控件区域612还包括能够选择以控制视频会议和/或共享内容会话的操作、参数和/或设置的各种选项。例如,在一些实施方案中,可选择消息选项612-2来显示用于观看登山者组的成员之间的消息对话的消息界面。在一些实施方案中,可选择麦克风选项612-3来启用、禁用或改变用于视频会议和/或共享内容会话的麦克风的设置。在一些实施方案中,可选择相机选项612-4来发起与登山者组的视频会议会话、观看正在进行的视频会议会话、启用/禁用相机并且/或者选择要用于视频会议和/或共享内容会话的不同相机。在一些实施方案中,可选择共享选项612-5来显示和/或改变各种媒体回放设置或发起屏幕共享选项,由此在设备600的屏幕上显示的内容被与视频会议的参与者共享(例如,经由共享内容会话)。在一些实施方案中,可选择离开选项612-6来使得设备600离开视频会议和/或共享内容会话。在一些实施方案中,可选择状态区域612-1来观看登山者组的信息和/或视频会议和/或共享内容会话的其他设置。例如,在一些实施方案中,可选择状态区域612-1来显示包括启用或禁用网格视图设置的选项的组名片。
图6A至图6H示出了描绘当参与者加入视频会议会话时视频会议界面605的进展的示例性实施方案。在一些实施方案中,图块的布置被自动确定(例如,由设备600),以便平衡各种因素,诸如所显示的图块布置的美观性、可用于显示图块的空间、图块的优先级以及所显示的图块的大小,同时还减少(例如,最小化)当参与者加入或离开通信会话时移动和/或重新布置图块,以便避免让观看视频会议界面605的用户混淆或分心。
在图6A中,设备600显示与视频会议的参与者1至3对应的图块610-1、610-2和610-3。在主区域604中以单行显示图块,而在名单606中没有显示图块。在一些实施方案中,当参与者1至3加入视频会议时,与加入的参与者对应的图块被添加到主区域604,从而使现有图块的位置移位并且任选地调整现有图块的尺寸。例如,当参与者1是视频会议中的唯一远程参与者时,图块610-1以放大视图(例如,全屏或使用屏幕的指定用于系统状态信息和/或系统控件的一部分之外的所有屏幕)显示,并且当参与者2加入时,图块610-1的大小减小并且与参与者2的图块610-2一起被显示在主区域604中,图块610-2被显示为具有与图块610-1相同的大小。
在一些实施方案中,基于图块中所表示的参与者的活动(例如,说话、共享内容、播放内容和/或在相机馈送内移动)来将相应参与者确定为活动(或活动水平最高的)参与者。设备600强调活动参与者的图块以向视频会议界面605的观看者提供视觉反馈,从而标识活动参与者。例如,在图6A中,参与者1是活动水平最高的参与者,因此设备600显示图块610-1增大到放大大小(相对于其他图块)并包括阴影609以向图块610-1提供模拟深度。
在一些实施方案中,视频会议界面605包括布置选择选项672,可选择该布置选择选项来在以网格图案显示视频会议界面605中的参与者表示的模式(例如,如图6A中所示)与以重叠布置显示参与者表示的模式(例如,如图6Z中所示)之间改变。在一些实施方案中,布置选择选项672指示(例如,经由文本“网格”)网格图案(也被称为网格视图或网格布置)选项可用。在一些实施方案中,如果启用网格图案,则在视觉上强调布置选择选项672(例如,对其突出显示、加粗、加轮廓和/或填充),并且如果未启用网格图案(例如,启用重叠布置),则不在视觉上强调该布置选择选项。还参考图6X、图6Z和图6AH至图6AS来描述布置选择672的特征。
在图6B中,参与者4加入视频会议,并且设备600在主区域604中将图块610-4与图块610-1至610-3一起显示。当将图块610-4添加到主区域604时,以2x2布置来显示图块,其中图块610-1和610-2在顶行中,并且图块610-3和610-4在底行中。参与者1继续是活动水平最高的参与者。
在图6C中,参与者5和6加入视频会议,并且设备600在主区域604中显示对应的图块610-5和610-6。设备600以2x3布置显示图块,其中图块610-1至610-3在顶行中,并且图块610-4至610-6在底行中。参与者3现在被确定为活动水平最高的参与者。因此,设备600将图块610-1返回到弱化状态,增加图块610-3的大小,并且在图块610-3周围显示阴影609。
在图6D中,参与者7和8加入视频会议,并且设备600在主区域604中的新列中显示对应的图块610-7和610-8。设备600以2x4布置显示图块,其中图块610-7被添加到顶行的末端并且图块610-8被添加到底行的末端,从而缩小图块610-1至610-6的大小以适应新图块的添加。参与者3继续是活动水平最高的参与者。
在图6E中,参与者9至12加入视频会议,并且设备600在主区域604中的新行中显示对应的图块610-9至610-12。设备600以3x4布置显示图块,从而缩小图块的大小以适应具有图块610-9至610-12的新行的添加。参与者9现在被确定为活动水平最高的参与者,如由图块610-9(相对于其他图块)的增加的大小和阴影609所指示的。
在图6F中,参与者13至15加入视频会议,并且设备600在主区域604中的新列中显示对应的图块610-13至610-15。设备600以3x5布置显示图块,从而缩小图块的大小以适应具有图块610-13至610-15的新列的添加。参与者9继续是活动水平最高的参与者。
在图6G中,参与者16至18加入视频会议,并且设备600在主区域604中的新列中显示对应的图块610-16至610-18。设备600以3x6布置显示图块,从而缩小图块的大小以适应具有图块610-16至610-18的新列的添加。参与者8现在是活动水平最高的参与者。
在设备600填充主区域604之后,设备开始将附加参与者放置在名单606中。例如,在图6H中,参与者19至25已经加入视频会议,如控件区域612的状态区域中的26个活动参与者的指示所指出的。设备600不是将行或列添加到主区域604中的网格,而是在名单606中显示附加图块,如图块610-19至610-23所指示的。尽管设备600将参与者19至25的图块分配给名单,但在图6H中所描绘的实施方案中,显示器601上没有足够的空间来示出名单中的所有图块。因此,不显示名单606中的一些图块(具体地,参与者24和25的图块),如图6H中所描绘的。然而,可通过操纵视频会议界面605中的图块的布置来展示这些附加名单图块。例如,可滚动名单606来显示附加图块。作为另一示例,主区域604的尺寸可被增加或以其他方式改变以在主区域604中容纳附加图块。此类实施方案的示例描绘于图6I中。
在图6I中,设备600被旋转,从而将视频会议界面605从横向取向改变为纵向取向。作为旋转取向的结果,并且在一些实施方案中,由于图块的纵横比,与当视频会议界面605处于横向取向时相比,设备600在主区域604中容纳更大数量的图块。因此,设备600将一些图块(例如,名单中的图块中具有最高优先级的图块)从名单606移动到主区域604。具体地,图块610-19和610-20被从名单606移动到主区域604,并且名单606中的图块滑动到旁边以填充通过将图块610-19和610-20移动到主区域604而创建的空白,从而分别展示与参与者24和25对应的图块610-24和610-25。
在一些实施方案中,当设备600旋转视频会议界面605的取向时,设备600维持若干图块的相对定位,以便避免或最小化重新布置所显示的图块。例如,在图6I中,设备600保留图块610-1到610-12相对于彼此的定位(保持定位在图6H所示的前四列和前三行中),并且将图块610-13到610-18从两个最右列(如图6H所示)移动到图6I中的两个底行,从而用图块610-19和610-20填充该布置中的最后两个位点。尽管移动了图块610-13至610-18,但是设备600仍然维持这些图块的子集的相对定位。例如,图块610-13和610-16保持紧挨着彼此定位,如同图块610-14和610-17以及图块610-15和610-18那样。在一些实施方案中,从图6H中的布置到图6I中的布置的转变被显示为动画,其中图6H的两个最右列(例如,图块610-13至610-18)当设备600被旋转时淡出视图,并且在图6I中具有图块610-19和610-20的两个底行中淡入视图,同时剩余图块保持被显示并且适当地旋转以保持在直立观看位置中。
在一些实施方案中,从图6H到图6I的图块的重新布置可通过再次旋转设备600而反转。在图6J中,设备600返回到横向取向。相应地,上文相对于图6H和图6I所述的转变被反转,其中图块610-19和610-20从主区域604移动到名单606,并且图块610-24和610-25滑动离开屏幕(例如,滚动离开屏幕,位于相机预览608后方)。另外,将图块610-13到610-18从图6I中的两个底行移动到图6J中的两个最右列。在一些实施方案中,这种转变被显示为动画,其中图6I的两个底行(例如,图块610-13至610-20)当设备600被旋转时淡出视图,并且(例如,名单606中的图块610-19和610-20以及图6J的两个最右列中的图块610-13至610-18)在相应定位中淡入视图,而剩余图块保持被显示并且适当地旋转以保持在直立观看位置中。
在图6J中,显示通知614,指示参与者中的一个参与者(例如,参与者2)已选择内容(例如,TV节目)用于在视频会议会话中观看(例如,经由共享内容会话)。因为参与者2已选择用于与登山者组共享的内容,所以现在强调图块610-2,从而指示参与者2是活动水平最高的参与者。通知614包括选项614-1,该选项可被选择来在设备600处发起内容的回放,其中回放与登山者组的也正在使用其相应设备播放内容的其他参与者同步。响应于选择选项614-1的输入615-1,设备600启动TV应用程序来开始播放参与者2选择用于登山者组的TV节目,如图6K所示。在一些实施方案中,在设备600处根据各种设备设置来处理共享内容的回放,这些设备设置包括例如用于共享内容会话的设置和/或用于特定应用程序(诸如,TV应用程序)的设置。在图6J所示的实施方案中,设备600的设置使得设备600提示用户播放共享内容(例如,通过显示通知614)。然而,在一些实施方案中,设备600的设置可被设置成使得被选择用于与组共享的内容在设备600处自动播放(例如,而不显示通知614)。
在图6K中,设备600启动TV应用程序以播放参与者2选择用于登山者组的TV节目。TV节目内容在设备600处在内容PiP 620中显示。在一些实施方案中,设备600将内容PiP620显示为覆盖在视频会议界面605中的图块之上。在一些实施方案中,设备600重新布置图块的显示以避免被内容PiP 620覆盖。内容PiP 620包括用于调整回放(例如,暂停、播放、快进、后退和/或跳过)的回放控件620-2以及指示经过的播放时间的刷动条620-1,可选择该刷动条来刷过所显示的内容。内容PiP 620可在设备600的显示器上被操纵,包括被移动(例如,响应于拖动输入)、被调整大小(例如,响应于捏合或展开手势)、被最小化(例如,响应于将内容PiP 620拖动到显示器600-1的边缘)或被放大(例如,放大至展开视图、全屏视图、或使用屏幕的指定用于系统状态信息和/或系统控件的一部分之外的所有屏幕的视图)(例如,响应于对放大示能表示620-3的选择)。内容的回放可通过选择关闭示能表示620-4来终止。在一些实施方案中,终止内容的回放还终止了在登山者组的其他成员的相应设备处的相同内容的回放。类似地,调整内容的回放(例如,播放、暂停、刷动内容)也调整在登山者组的其他成员的相应设备处的内容的回放,使得登山者组的成员能够与其他成员同步地体验共享内容。同样地,登山者组的其他成员能够通过操纵在其相应设备处显示的内容的回放控件来控制设备600的内容PiP 620中的内容的回放。在一些实施方案中,成员能够体验(例如,观看和收听)共享的内容,同时通过视频会议会话的音频和视频通道彼此交互。
在图6L中,设备600继续播放内容PiP 620中的TV节目。内容PiP620的回放控件和其他元素被自动清除(例如,在预先确定时间量已经过去而在内容PiP 620处没有输入之后)。另外,参与者10现在是活动水平最高的参与者(例如,参与者10开始谈论TV节目),并且参与者6已经离开视频会议会话。在一些实施方案中,即使当参与者离开视频会议时,设备600也避免重新布置所显示的图块布置。例如,在图6L中,设备600停止显示与离开的参与者对应的图块610-6,从而在网格中留下空白622。在一些实施方案中,设备600通过用来自名单606的图块替换离开的参与者的图块来填充空白。
图6M至图6P示出了使用设备601显示的视频会议界面的示例性实施方案。设备601包括显示器601-1、相机601-2和键盘601-3(任选地包括触控板、鼠标或其他输入设备)。设备601在视频会议窗口630中显示视频会议界面,该视频会议界面类似于视频会议界面605。视频会议窗口630包括在主区域604(类似于主区域634)和名单606(类似于名单636)中显示的各种图块640(类似于图块610)、相机预览638(类似于相机预览608),以及包括类似于控件区域612中所示的控件的各种控件的控件区域632。相机预览638表示相机601-2的视频馈送的至少一部分。在一些实施方案中,视频会议窗口630包括布置选择选项672,可选择该布置选择选项来以类似于参考图6A、图6X、图6Z和图6AH至图6AS所述的方式在主区域634中的图块640的网格图案与重叠布置之间改变。
在图6M中,设备601在主区域634中以网格布置显示图块640-1至640-9,并且在名单636中显示图块640-10和640-11。图块640-1被示出为以略微放大的大小和阴影639来强调,从而指示参与者1是活动水平最高的参与者。设备601使用鼠标、触控板或其他输入设备来检测输入615-2(例如,利用光标进行的点击并拖动手势)。响应于输入615-2,设备601略微调整(例如,缩小)如图6N所示的视频会议窗口630的大小,包括缩小图块640-1至640-11以及相机预览638,而不将任何图块从主区域634移动到名单636(或反之亦然)。在一些实施方案中,可通过放大窗口630来反转调整尺寸(例如,放大图块和相机预览)。
在图6N中,设备601检测到输入615-3或615-4。输入615-3是使视频会议窗口630变窄的点击并拖动手势。输入615-4是缩短视频会议窗口630的点击并拖动手势。这些相应输入的结果分别示于图6O和图6P中,如下面更详细讨论的。
图6O示出了变窄输入615-3的结果。设备601使窗口630变窄,包括使主区域634变窄。因此,主区域634的尺寸在水平方向上减小,并且设备601将最右列的图块从主区域634移动到名单636。具体地,图块640-3、图块640-6和图块640-9被从主区域634移动到名单636,紧挨着也在名单中的图块640-10和640-11。在一些实施方案中,窗口630的变窄可被反转(例如,通过点击并拖动窗口630的侧边缘以加宽窗口),这也反转了图块的布置,将图块640-3、640-6和640-9从名单636移动到主区域634。
图6P示出了缩短输入615-4的结果。设备601缩短窗口630,包括缩短主区域634。因此,主区域634的尺寸在竖直方向上减小,并且设备601将底行的图块从主区域634移动到名单636。具体地,图块640-7、图块640-8和图块640-9被从主区域634移动到名单636,紧挨着也在名单中的图块640-10和640-11。在一些实施方案中,窗口630的缩短可被反转(例如,通过点击并拖动窗口630的顶部边缘以延长窗口),这也反转了图块的布置,将图块640-7、640-8和640-9从名单636移动到主区域634。
图6Q至图6AG示出了使用设备602显示的视频会议界面的示例性实施方案。设备602包括显示器602-1和相机602-2。设备602显示了视频会议界面650,该视频会议界面类似于视频会议界面605和视频会议窗口630。视频会议界面650包括在主区域654(类似于主区域604和主区域634)中显示的各种图块660(类似于图块610和图块640)、相机预览658(类似于相机预览608和相机预览638)和控件区域652(类似于控件区域612)。相机预览658表示相机602-2的视频馈送。在一些实施方案中,当名单中没有图块时,不显示名单。例如,在图6Q中,当适用时(例如,如图6V所示),设备602将图块660-2显示为在主区域654中并且部分地位于显示器602-1的通常显示名单的区域处。
在图6Q中,设备602在主区域654中显示图块660-1和660-2。参与者2是活动水平最高的参与者,如由图块660-2的放大大小和阴影659所指示的。相机预览658被显示为与图块660-2重叠。设备602检测到图块660-2上的输入615-5,并且作为响应,将图块660-2带到相机预览658前面,并且显示与图块660-2相关联的附加控件和元素,如图6R所示。具体地,设备602显示参与者姓名664、捕获示能表示662和放大示能表示666。可选择捕获示能表示662来捕获图块660-2的图像,并且可选择放大示能表示666来放大图块660-2(例如,在固定视图、全屏视图、或使用屏幕的指定用于系统状态信息和/或系统控件的一部分之外的所有屏幕的视图中)。
在一些实施方案中,设备基于主区域中的可用空间来调整视频会议界面中的图块的显示大小和/或布置。例如,在图6S中,控件区域652在预先确定时间量之后消失,并且设备602放大图块660-1和660-2并移位其位置,以填充由于控件区域652的移除而创建的可用空间。相反地,当显示控件区域652时,设备602调整图块660-1和660-2的大小并移位这些图块的位置以为控件区域腾出空间(例如,如图6Q所示)。在图6T中,参与者3加入视频会议会话,并且作为响应,设备602在主区域654中显示图块660-3,缩小图块660-1和660-2以为图块660-3腾出空间。在图6U中,参与者4加入视频会议会话,并且作为响应,设备602在主区域654中显示图块660-4,缩小并重新布置图块660-1至660-3以容纳图块660-4。
图6V描绘了参与者5至11已加入视频会议会话之后的设备602。图块660-5和660-6在主区域654中显示,并且图块660-7至660-9在名单656中示出,其中图块660-9定位在相机预览658后方。响应于输入615-6,设备602滚动名单656中的图块以示出图6W中的图块660-9至660-11。参与者4现在是活动水平最高的参与者,并且设备602检测到输入615-7,在相反方向上滚动名单,由此隐藏图块660-10和660-11并且重新显示图块660-7和660-8,如图6X所示。
在图6X中,响应于检测到图6W中的输入615-20(例如,轻击),设备602显示控件区域652和布置选择选项672,并且移位图块660-1至660-6并调整其大小以适应控件区域652的显示。设备602在控件区域652的状态区域652-1处检测到输入615-8,并且作为响应,显示组名片界面665,如图6Y所示。在一些实施方案中,组名片界面665包括启用或禁用网格视图布置的选项。例如,在图6Y中,设备602显示具有网格视图选项668的组名片界面665,该网格视图选项被示出为处于启用状态。在一些实施方案中,网格视图选项668被放置在组名片界面665中的不同定位处。例如,网格视图选项668显示在参与者列表下方(任选地包括在具有复制邀请链接的区域中),并且在一些实施方案中,在滚动组名片界面665之后显示(例如,当存在大量参与者时)。在图6Y中,设备602检测到选择网格视图选项668以禁用网格视图布置的输入615-9,并且检测到返回到视频会议界面650的输入615-10。在图6Z中,设备602显示禁用了网格视图布置的视频会议界面650。因此,在主区域654中以非网格布置(例如,重叠布置)显示图块660-1、660-2和660-3,并且将图块660-4、660-5和660-6移动到具有图块660-6至660-11的名单656。
在一些实施方案中,响应于检测到图6X中的输入615-14(例如,对布置选择选项672的选择),视频会议界面650从图6X所示的网格图案改变为图6Z所示的重叠布置。在一些实施方案中,响应于检测到图6X中的输入615-13(例如,包括接触615-13A和615-13B的手势),视频会议界面650从图6X所示的网格图案改变为图6Z所示的重叠布置。在图6X所示的实施方案中,输入615-13是具有两个接触的展开手势,这两个接触随时间移动得离得更远和/或移动通过与用户界面中的参与者表示中的一个或多个表示(例如,660)对应的定位。在一些实施方案中,响应于检测到具有两个或更多个接触(例如,615-15A和615-15B)的捏合手势,视频会议界面650从图6X所示的网格图案改变为图6Z所示的重叠布置,这两个或更多个接触随时间移动得离得更近并且移动通过与用户界面中的参与者表示中的一个或多个表示(例如,660)对应的定位。
在一些实施方案中,响应于检测到图6Z中的输入615-16(例如,对布置选择选项672的选择),视频会议界面650从图6Z所示的重叠布置改变为图6X所示的网格图案。在一些实施方案中,响应于检测到图6Z中的输入615-15(例如,包括接触615-15A和615-15B的手势),视频会议界面650从图6Z所示的重叠布置改变为图6X所示的网格图案。在图6Z所示的实施方案中,输入615-15是具有两个接触的捏合手势,这两个接触随时间移动得离得更近和/或移动通过与用户界面中的参与者表示中的一个或多个表示(例如,660)对应的定位。在一些实施方案中,响应于检测到具有两个或更多个接触(例如,615-13A和615-13B)的展开手势,视频会议界面650从图6Z所示的重叠布置改变为图6X所示的网格图案,这两个或更多个接触随时间移动得离得更远并且移动通过与用户界面中的参与者表示中的一个或多个表示(例如,660)对应的定位。
在图6AA中,在经过预先确定时间量而没有输入之后,或者响应于图6Z中的输入615-21(例如,视频会议界面650中不指向表示660的轻击),设备602隐藏控件区域652,并且调整主区域654中的图块660-1至660-3的大小并移位这些图块。参与者2现在是活动水平最高的参与者,如由图块660-2的略微放大大小和阴影659所指示的。
图6AB至图6AG示出了设备602移动图块以避免与共享内容重叠的各种实施方案。在图6AB中,设备602正在内容PiP 670(类似于内容PiP 620)中播放来自共享内容会话的媒体(例如,TV节目或电影)。图块660-1和660-2被调整大小和移位,并且图块660-3已被移动到名单656,以适应内容PiP 670的非重叠显示。设备602检测到内容PiP 670上的输入615-11(例如,拖动手势),并且作为响应,在输入615-11被维持的同时在显示器上移动内容PiP670。当内容PiP 670在显示器上被拖动时,设备602将图块660-1和660-2移出内容PiP 670的路径,如图6AC所示。
在一些实施方案中,设备602移动名单656和相机预览658以适应内容PiP 670的移动。例如,在图6AD中,当内容PiP 670被移动到显示器602-1的底部时,设备602移动名单656和相机预览658。在一些实施方案中,设备602不移动名单656或相机预览658来适应内容PiP670的移动。例如,如图6AC所示,当内容PiP 670正悬停在名单656和相机预览658上方并且输入615-11被终止(例如,手指抬起)时,设备602将内容PiP 670重新定位在名单656和相机预览658上方的定位处,并且重新定位图块660-1和660-2/调整其大小,如图6AE所示。在图6AE中,设备602检测到输入615-12,并且作为响应,将内容PiP 670移动到视频会议界面650的顶部,如图6AF所示。
在一些实施方案中,当视频会议界面的取向改变时,设备维持所显示的元素(例如,图块)相对于显示器的定位。例如,在图6AG中,设备602从图6AF中的纵向取向逆时针旋转。设备602维持内容PiP 670、图块660-1至660-5以及相机预览658相对于显示器602-1的定位,同时旋转相应元素以维持直立观看位置。在一些实施方案中,设备602任选地调整内容PiP670、图块660-1和/或图块660-2的大小以维持相应元素在显示器602-1上的位置。
图6AH至图6AS示出了视频会议界面650的实施方案。图6AH、图6AJ、图6AL、图6AN、图6AP和图6AR示出了禁用了网格图案(例如,启用了重叠布置)的视频会议界面650;并且图6AI、图6AK、图6AM、图6AO、图6AQ和图6AS示出了启用了网格图案(例如,禁用了重叠布置)的对应视频会议界面650。
图6AH示出了当在视频会议中存在两个活动参与者(例如,一个远程参与者(由660-1表示的参与者1)和与设备602相关联的参与者(由相机预览658表示))、显示了控件区域652并且禁用了网格图案时的视频会议界面650。因为参与者的数量(两个参与者)小于参与者的预先确定数量(例如,三个参与者、四个参与者(如在图6AH中)或五个参与者),所以在图6AH中不显示布置选择选项672。图6AI示出了在与图6AH相同的条件下的视频会议界面650,不同之处在于启用了网格图案(例如,相同的两个参与者是活动的,显示了控件区域652,并且启用了网格图案)。因为参与者的数量(两个参与者)小于参与者的预先确定数量(例如,三个参与者、四个参与者(如在图6AI中)或五个参与者),所以在图6AI中不显示布置选择选项672。在图6AH和图6AI所示的实施方案中,当存在两个活动参与者时,视频会议界面650当网格图案被禁用时与当网格图案被启用时相同。
图6AJ示出了当在视频会议中存在三个活动参与者(例如,与图6AH和图6AI相比,由660-2表示的参与者2已加入视频会议)、显示了控件区域652并且禁用了网格图案时的视频会议界面650。因为参与者的数量(三个参与者)小于参与者的预先确定数量(例如,三个参与者、四个参与者(如在图6AJ中)或五个参与者),所以在图6AJ中不显示布置选择选项672。图6AK示出了在与图6AJ相同的条件下的视频会议界面650,不同之处在于启用了网格图案(例如,相同的三个参与者是活动的,显示了控件区域652,并且启用了网格图案)。因为参与者的数量(三个参与者)小于参与者的预先确定数量(例如,三个参与者、四个参与者(如在图6AK中)或五个参与者),所以在图6AK中不显示布置选择选项672。在图6AJ和图6AK所示的实施方案中,当存在三个活动参与者时,视频会议界面650当网格图案被禁用时与当网格图案被启用时相同。
图6AL示出了当在视频会议中存在四个活动参与者(例如,与图6AJ和图6AK相比,由660-3表示的参与者3已加入视频会议)、显示了控件区域652并且禁用了网格图案时的视频会议界面650。因为参与者的数量(四个参与者)满足(例如,等于或大于)参与者的预先确定数量(例如,三个参与者、四个参与者(如在图6AL中)或五个参与者)并且显示了控件区域652,所以在图6AL中显示布置选择选项672。因为未启用网格图案,所以在图6AL中未强调(例如,未加粗)布置选择选项672。图6AM示出了在与图6AL相同的条件下的视频会议界面650,不同之处在于启用了网格图案(例如,相同的四个参与者是活动的,显示了控件区域652,并且启用了网格图案)。因为参与者的数量(四个参与者)满足参与者的预先确定数量(例如,三个参与者、四个参与者(如在图6AM中)或五个参与者)并且显示了控件区域652,所以在图6AM中显示布置选择选项672。在图6AJ和图6AK所示的实施方案中,当存在三个活动参与者时,视频会议界面650当网格图案被禁用时与当网格图案被启用时相同。因为启用网格图案,所以在图6AM中强调(例如,加粗)布置选择选项672。响应于检测到对与图6AL中的布置选择选项672的选择对应的输入615-17(例如,轻击),设备602启用网格图案,将视频会议界面650(例如,包括主区域654中的图块660)从图6AL中的重叠布置改变为图6AM中的网格图案,并且强调布置选择选项672。响应于检测到与对图6AM中的布置选择选项672的选择对应的输入615-18(例如,轻击),设备602禁用网格图案(例如,启用重叠布置),将视频会议界面650(例如,包括主区域654中的图块660)从图6AM中的网格图案改变为图6AL中的重叠布置,并且不强调布置选择选项672。
图6AN示出了当在视频会议中存在四个活动参与者(例如,与图6AL和图6AM中相同的4个参与者)、不显示控件区域652和布置选择选项672并且禁用网格图案时的视频会议界面650。在一些实施方案中,响应于确定自已经接收到输入以来已经过去了预先确定时间量,或者响应于检测到图6AL中的输入615-22(例如,在视频会议界面650上不与参与者的定位对应的定位处的轻击),设备602停止显示控件区域652和/或布置选择选项672。在一些实施方案中,响应于检测到图6AN中的输入615-24(例如,在视频会议界面650上不与参与者的定位对应的定位处的轻击),设备602显示控件区域652和/或布置选择选项672(例如,显示如图6AL所示的视频会议界面650)。图6AO示出了在与图6AN相同的条件下的视频会议界面650,不同之处在于启用了网格图案(例如,相同的四个参与者是活动的、不显示控件区域652和布置选择选项672,并且启用了网格图案)。在一些实施方案中,响应于确定自已经接收到输入以来已经过去了预先确定时间量,或者响应于检测到图6AM中的输入615-23(例如,在视频会议界面650上不与参与者的定位对应的处的轻击),设备602停止显示控件区域652和/或布置选择选项672。在一些实施方案中,响应于检测到图6AO中的输入615-26(例如,在视频会议界面650上不与参与者的定位对应的定位处的轻击),设备602显示控件区域652和/或布置选择选项672(例如,显示如图6AM所示的视频会议界面650)。在一些实施方案中,响应于检测到图6AN中的显示器602-1上的输入615-25(例如,如参考图6Z所述的展开手势,或如参考图6X所述的捏合手势),设备602启用网格图案,将视频会议界面650(例如,包括主区域654中的图块660)从图6AN中的重叠布置改变为图6AO中的网格图案。在一些实施方案中,响应于检测到图6AO中的显示器602-1上的输入615-27(例如,如参考图6Z所述的展开手势,或如参考图6X所述的捏合手势),设备602禁用网格图案(例如,启用重叠布置),将视频会议界面650(例如,包括主区域654中的图块660)从图6AO中的网格图案改变为图6AN中的重叠布置。
图6AP示出了当在视频会议中存在五个活动参与者(例如,与图6AN和图6AO相比,由660-4表示的参与者4已加入视频会议)并且禁用了网格图案(例如,启用了重叠布置)时的视频会议界面650。由于禁用了网格图案,所以表示参与者4的图块660-4紧挨着相机预览658显示在名单656中。响应于当参与者的数量增加到(或高于)预先确定数量(例如,四个参与者、五个参与者(如在图6AP中)或六个参与者)时禁用网格图案,设备602显示指示网格图案可用(例如,图块660中的一些或全部可以网格图案而不是例如图6AP所示的重叠布置来显示)的通知674。图6AQ示出了在与图6AP相同的条件下的视频会议界面650,不同之处在于启用了网格图案(例如,相同的五个参与者是活动的、不显示控件区域652和布置选择选项672,并且启用了网格图案)。由于启用了网格图案,表示参与者4的图块660-4被显示在主区域654中(例如,而不是名单656中)。因为当参与者的数量增加到图6AQ中的预先确定数量(例如,四个参与者、五个参与者(如在图6AQ中)或六个参与者)时启用网格图案,所以设备602放弃显示指示网格图案可用的通知674。响应于检测到与对图6AP中的通知674的选择对应的输入615-19(例如,轻击),设备602启用网格图案,将视频会议界面650(例如,包括主区域654中的图块660)从图6AP中的重叠布置改变为图6AQ中的网格图案(例如,包括将图块660-4从名单656移动到主区域654)。
图6AR示出了当在视频会议中存在七个活动参与者(例如,与图6AP和图6AQ相比,由660-5表示的参与者5和由660-6表示的参与者6已加入视频会议)并且禁用了网格图案(例如,启用了重叠布置)时的视频会议界面650。由于禁用了网格图案,所以表示参与者5的图块660-5和表示参与者6的图块660-6被显示在名单656中(例如,如图6AA所示)。在图6AR所示的实施方案中,设备602已停止显示通知674并且不响应于附加参与者(例如,参与者5和/或参与者6)加入视频会议而显示(例如,重新显示)通知674。
图6AS示出了在与图6AR相同的条件下的视频会议界面650,不同之处在于启用了网格图案(例如,相同的七个参与者是活动的、不显示控件区域652和布置选择选项672,并且启用了网格图案)。由于启用了网格图案,所以表示参与者5的图块660-5和表示参与者6的图块660-6被显示在主区域654中(例如,而不是名单656中)。在一些实施方案中,表示参与者5的图块660-5和/或表示参与者6的图块660-6被显示在名单656中(例如,而不是主区域654中)。
在一些实施方案中,参考图6AH至图6AS所述的应用于视频会议界面650的技术被应用于视频会议界面605(以及任选地,其中的图块610和/或控件区域612)和/或视频会议窗口630中的视频会议界面(以及任选地,其中的图块640和/或控件区域632)。
图7是示出根据一些实施方案的用于使用计算机系统(例如,600、601或602)管理视频会议会话的方法的流程图。方法700在与一个或多个显示生成部件(例如,600-1、601-1或602-1)(例如,显示控制器、触敏显示系统、扬声器、骨传导音频输出设备、触觉输出发生器、投影仪和/或全息显示器)以及一个或多个输入设备(例如,600-1、601-3或602-1)(例如,触敏表面、键盘、鼠标、触控板、用于检测手势的一个或多个光学传感器、用于检测悬停输入的一个或多个电容传感器和/或加速度计/陀螺仪/惯性测量单元)通信的计算机系统(例如,100、300、500、600、601或602)处执行。方法700中的一些操作任选地被组合,一些操作的次序任选地被改变,并且一些操作任选地被省略。
如下文所述,方法700提供了用于管理视频会议会话的直观方式。该方法减少了用户管理视频会议会话的认知负担,从而创建了更有效的人机界面。对于电池驱动的计算设备,使用户能够更快且更高效地管理视频会议会话,节省了电力并且增加了电池两次充电之间的时间间隔。
计算机系统显示(702)实时通信会话(例如,视频通信会话、音频通信会话、或音频/视频通信会话(例如,视频聊天))的用户界面(例如,605、630、或650)(例如,应用程序的界面),该用户界面包括实时通信会话的多个参与者表示(例如,图块610、图块640或图块650),该多个表示包括:在实时通信会话的用户界面的第一区域(例如,604、634或654)中以网格图案(例如,包括一个或多个行和一个或多个列的笛卡尔网格;二维阵列;画布区域)显示的第一组参与者表示;和在用户界面的第二区域(例如,606、636或656)(例如,单个行(沿着显示器的顶部或底部)或单个列(沿着显示器的左侧或右侧))中显示的第二组参与者表示(例如,第一组和第二组是互相排斥的),该第二区域在视觉上不同于第一区域(例如,不与其重叠;与其被可见边界分开),其中第一组表示中的表示比第二组表示中的表示更大(例如,在物理上更大;和/或具有更大的显示大小)(例如,第一组表示中的每个表示大于第二组表示中的每个表示;或者第一组表示中的最小表示大于第二组表示中的最大表示)。在一些实施方案中,第一组表示与第二组参与者表示同时显示。在一些实施方案中,网格图案包括比在区域中表示的参与者活动水平更高和/或优先级更高(例如,根据参与者优先级标准)的参与者的表示。
在显示实时通信会话的用户界面(例如,605、630或650),包括实时通信会话的多个参与者表示(例如,610、640或660)时,计算机系统(例如,600、601或602)检测到(704)第一区域(例如,604、634或654)的一个或多个尺寸的改变(例如,检测到第一区域的大小的改变(增大或减小)和/或第一区域的纵横比的改变(一个尺寸(高度)相对于另一尺寸(宽度)的大小的改变)。在一些实施方案中,检测到第一区域的一个或多个尺寸的改变包括(例如,是)检测到改变第一区域的请求。在一些实施方案中,检测到第一区域的一个或多个尺寸的改变包括(例如,是)检测到指向实时通信会话的用户界面的输入。
响应于检测到第一区域(例如,604、634或654)的该一个或多个尺寸的改变,计算机系统(例如,600、601或602)基于第一区域(例如,网格)的一个或多个尺寸的改变来改变(706)在第一区域(例如,网格)中显示的实时通信会话的多个参与者表示(例如,610、640或660),包括停止在第一区域中显示相应参与者的第一表示(例如,图6I中的610-19和/或610-20)(例如,图6N中的640-3、640-6、640-7、640-8和/或640-9)(例如,图6AA中的660-3),以及在第二区域(例如,606、636或656)中显示的相应参与者的第二表示(例如,图6J中的610-19和/或610-20)(例如,图6O中的640-3、640-6和/或640-9)(例如,图6P中的640-7、640-8和/或640-9)(例如,图6AB中的660-3)。基于第一区域的该一个或多个尺寸的改变来改变在第一区域中显示的实时通信会话的参与者表示的数量允许计算机系统基于第一区域的该一个或多个尺寸的改变来自动地且动态地优化参与者表示的布置,而不需要用户手动地调整实时通信会话的用户界面,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。
在一些实施方案中,基于第一区域的该一个或多个尺寸的改变来改变在第一区域(例如,604、634或654)中显示的实时通信会话的参与者表示的数量包括:停止在第二区域(例如,606、636或656)中显示相应参与者的第一表示(例如,图6J中的610-19和/或610-20)(例如,图6O中的640-3、640-6和/或640-9)(例如,图6P中的640-7、640-8和/或640-9)(例如,图6AB中的660-3),以及在第一区域中显示相应参与者的第二表示(例如,图6I中的610-19和/或610-20)(例如,图6N中的640-3、640-6、640-7、640-8和/或640-9)(例如,图6AA中的660-3)。在一些实施方案中,停止在第一区域中显示相应参与者的第一表示以及在第二区域中显示相应参与者的第二表示被称为将相应参与者从第一区域移动到第二区域。类似地,停止在第二区域中显示相应参与者的第一表示以及在第一区域中显示相应参与者的第二表示被称为将相应参与者从第二区域移动到第一区域。
在一些实施方案中,当第一区域(例如,604、634或654)的大小(例如,在一个或多个尺寸上)被减小(例如,超过阈值大小)时,计算机系统(例如,600、601或602)将实时通信会话的一个或多个参与者表示(例如,图6I中的610-19和/或610-20)(例如,图6N中的640-3、640-6、640-7、640-8和/或640-9)(例如,图6AA中的660-3)从第一区域移动到第二区域(例如,606、636或656)(并且任选地,从第一区域移除实时通信会话的一个或多个参与者表示)(例如,计算机系统减少在第一区域中显示的实时通信会话的参与者表示的数量)。在一些实施方案中,当第一区域的大小(例如,在一个或多个尺寸上)增加(例如,超过阈值大小)时,计算机系统将实时通信会话的一个或多个参与表示(例如,图6I中的610-19和/或610-20)(例如,图6N中的640-3、640-6、640-7、640-8和/或640-9)(例如,图6AA中的660-3)从第二区域移动到第一区域(并且任选地,从第二区域移除实时通信会话的一个或多个参与者表示)(例如,计算机系统增加在第一区域中显示的实时通信会话的参与者表示的数量)。
在一些实施方案中,第一区域(例如,604、634或654)的一个或多个尺寸的改变包括第一区域的取向的改变(例如,如图6H至图6J所示)(例如,从纵向改变成横向或从横向改变成纵向)。在一些实施方案中,当第一区域的长度和高度不同时,计算机系统响应于检测到导致第一区域的长度和高度被交换的计算机系统和/或显示生成部件的取向改变(例如,旋转)而改变第一区域的一个或多个尺寸。在一些实施方案中,第一区域(例如,604、634或654)的一个或多个尺寸的改变包括第一区域的一个或多个尺寸(例如,高度和/或宽度)的大小的改变(例如,如图6M至图6P所示)。
在一些实施方案中,当第一区域处于第一状态(例如,第一尺寸)(例如,图6N中的634)时检测到第一区域(例如,604、634或654)的一个或多个尺寸的改变。在一些实施方案中,响应于检测到第一区域(例如,615-3或615-4)的一个或多个尺寸的改变:根据确定第一区域的一个或多个尺寸的改变对应于第一区域(例如,615-3)从第一状态到第二状态(例如,第一经调整大小状态)(例如,图6O中的634)的改变,相应参与者是实时通信会话的第一参与者(例如,与图块640-3、640-6或640-9对应的参与者)(例如,如果第一区域改变到第二状态,则第一参与者的表示从第一区域移动到第二区域);并且根据确定第一区域的一个或多个尺寸的改变对应于第一区域(例如,615-4)从第一状态到与第二状态(例如,第二经调整大小状态)不同的第三状态(例如,图6P中的634)的改变,相应参与者是实时通信会话的与实时通信会话的第一参与者不同的第二参与者(例如,与图块640-7、640-8或640-9对应的参与者)(例如,如果第一区域改变到与第二状态不同的第三状态,则第二(不同)参与者的表示从第一区域移动到第二区域)。根据确定第一区域的一个或多个尺寸的改变对应于到第二状态或第三状态的改变,相应参与者是实时通信会话的第一或第二参与者,允许计算机系统基于第一区域的该一个或多个尺寸的改变来自动地且动态地优化参与者表示的布置,而不需要用户手动地调整实时通信会话的用户界面,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。在一些实施方案中,计算机系统根据改变第一区域的方式来将不同的参与者移动到第二区域。
在一些实施方案中,响应于检测到第一区域(例如,634)的该一个或多个尺寸的改变(例如,615-2),以及在改变在第一区域中显示的实时通信会话的参与者表示(例如,640)的数量之前,计算机系统(例如,600、601或602)改变(例如,减小或增大)第一区域中的第一组参与者表示中的一个或多个表示(例如,图6N中的640-1、640-2、640-3、640-4、640-5、640-6、640-7、640-8和/或640-9)(例如,表示的子集或所有表示)的大小(例如,高度和/或宽度)(并且任选地,不改变在第一区域中显示的实时通信会话的参与者表示的数量)。在改变在第一区域中显示的实时通信会话的参与者表示的数量之前改变第一区域中的第一组参与者表示中的一个或多个表示的大小,允许计算机系统自动地且动态地改变第一区域的显示大小,同时维持参与者表示的布置,而不要求用户手动地调整实时通信会话的用户界面中的参与者表示,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。
在一些实施方案中,第一区域(例如,604、634或654)的该一个或多个尺寸的改变包括第一区域的一个或多个尺寸(例如,到不满足大小阈值的大小)的第一(例如,初始)改变(例如,615-2)(例如,增大或减小),以及随后第一区域的一个或多个尺寸(例如,到满足大小阈值的大小)的第二(例如,继续或附加)改变(例如,615-3或615-4);响应于检测到第一改变,计算机系统(例如,600、601或602)改变(例如,分别增大或减小)第一区域中的参与者表示(例如,图6N中的640-1、640-2、640-3、640-4、640-5、640-6、640-7、640-8和/或640-9)的大小,但不改变在第一区域中显示的参与者表示的数量;并且响应于检测到第二改变,计算机系统改变在第一区域中显示的实时通信会话的参与者表示的数量(例如,如图6O或图6P所示)。
在一些实施方案中,计算机系统(例如,600、601或602)根据确定第一区域的该一个或多个尺寸的改变满足一组标准(例如,第一区域的一个或多个尺寸的大小已被减小到阈值大小或低于阈值大小)来改变在第一区域(例如,604、634或654)中显示的实时通信会话的参与者表示的数量。例如,响应于检测到第一区域的大小的减小,计算机系统最初减小表示的大小(例如,在图6N中),直到第一区域的大小减小到阈值大小为止,此时计算机系统改变(例如,减小)在第一区域中显示的实时通信会话的参与者表示的数量(例如,在图6O或6P中)。
在一些实施方案中,在第一区域(例如,604、634或654)中显示的实时通信会话的参与者表示(例如,610、640或660)的数量基于最小表示大小。显示实时通信会话的基于最小表示大小的数量的参与者表示允许计算机系统设置用于基于第一区域的该一个或多个尺寸的改变来自动地且动态地将参与者表示移动到第一区域或从第一区域移动参与者表示的大小阈值,而不需要用户手动地调整实时通信会话的用户界面,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。在一些实施方案中,根据确定第一区域的大小在第一区域大小范围内,计算机系统在第一区域中显示实时通信会话的第一数量的参与者表示;并且根据确定第一区域的大小不在第一区域大小范围内,计算机系统在第一区域中显示实时通信会话的第二数量的参与者表示,其中第二数量不同于第一数量。在一些实施方案中,第一区域大小范围包括第一最大区域大小和第一最小区域大小,在第一最大区域大小处,参与者表示具有最大表示显示大小,在第一最小区域大小处,参与者表示具有最小表示显示大小。在一些实施方案中,如果第一区域的大小被减小到低于第一最小区域大小,则计算机系统减少第一区域中的实时通信会话的参与者表示的数量并且增大表示的大小(例如,增大到最大表示显示大小)。
在一些实施方案中,在显示实时通信会话的用户界面(例如,605、630或650)时,计算机系统(例如,600、601或602)检测到实时通信会话的第一组一个或多个参与者表示(例如,图6L中的610-6)(例如,加入实时通信会话的一个或多个参与者、离开实时通信会话的一个或多个参与者、具有增加的活动水平的一个或多个参与者、具有降低的活动水平的一个或多个参与者、正从第一区域移动(例如,到第二区域)的一个或多个参与者表示,以及/或者正移动到第一区域的一个或多个参与者表示)的显示状态的改变。在一些实施方案中,响应于检测到实时通信会话的第一组一个或多个参与者表示的显示状态的改变,计算机系统基于实时通信会话的第一组一个或多个参与者表示的显示状态的改变来更新以网格图案(例如,604、634或654)显示的第一组参与者表示(例如,添加和/或移除网格中的图块),而不改变未被包括在第一组中的实时通信会话的第二组一个或多个参与者表示(例如,图6L中的610-1至610-5以及610-7至610-18中的任一者)的显示位置(例如,维持不具有经改变状态的图块在网格中的显示位置/布置)。基于实时通信会话的第一组一个或多个参与者表示的显示状态的改变来更新以网格图案显示的第一组参与者表示,而不改变未被包括在第一组中的第二组一个或多个参与者表示的显示位置允许计算机系统自动地且动态地优化参与者表示的布置,以避免基于第一区域的该一个或多个尺寸的改变来重新布置参与者表示,而不需要用户手动地调整实时通信会话的用户界面来维持第二组中的参与者表示的显示布置,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。
在一些实施方案中,计算机系统(例如,600、601或602)通过以最小化网格中的图块(例如,610、640或660)的移动的方式添加和/或移除图块来更新网格。例如,计算机系统一次添加或移除整个行和/或列,以避免网格零碎地构造或解构,或者当一个用户被添加到网格或从网格移除时通过重排网格来对网格中的图块进行重新排序。作为另一示例,如果参与者被从网格中移除(例如,对应的用户离开实时通信会话或被移动到名单),则计算机系统将与所移除的参与者对应的定位留为空白(例如,622)或在该定位处显示先前在第二区域(例如,名单)中表示的参与者的表示,而不移动网格中的其他图块。
在一些实施方案中,基于实时通信会话的第一组一个或多个参与者表示的显示状态的改变来更新以网格图案显示的第一组参与者表示,而不改变未被包括在第一组中的实时通信会话的第二组一个或多个参与者表示的显示位置包括:将实时通信会话的整行(例如,图6E中的610-9、610-10、610-11和610-12)或整列(例如,图6D中的610-7和610-8)参与者表示添加到第一区域(例如,604、634或654)或者从第一区域(例如,604、634或654)移除实时通信会话的整行(例如,图6P中的640-7、640-8和640-9)或整列(例如,图6O中的640-3、640-6和640-9)参与者表示。将实时通信会话的整行或整列参与者表示添加到第一区域或从第一区域移除允许计算机系统自动地且动态地优化参与者表示的布置,以避免基于第一区域的该一个或多个尺寸的改变来重新布置参与者表示,而不需要用户手动地调整实时通信会话的用户界面(例如,605、630或650)来维持第二组中的参与者表示的显示布置,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。
在一些实施方案中,当调整第一区域(例如,604、634或654)的大小时,基于该调整大小从第一区域移除或向第一区域添加整行或整列参与者表示。例如,当水平地调整第一区域的大小时,在减小第一区域的宽度时从第一区域移除一列参与者表示(例如,将一列参与者表示移动到名单),并且在增加第一区域的宽度时向第一区域添加一列参与者表示(例如,从名单移动一列参与者表示)。作为另一示例,当垂直地调整第一区域的大小时,在减小第一区域的高度时从第一区域移除一行参与者表示(例如,将一行参与者表示移动到名单),并且在增加第一区域的高度时向第一区域添加一行参与者表示(例如,从名单移动一行参与者表示)。
在一些实施方案中,基于实时通信会话的第一组一个或多个参与者表示的显示状态的改变来更新以网格图案显示的第一组参与者表示,而不改变未被包括在第一组中的实时通信会话的第二组一个或多个参与者表示的显示位置包括:响应于实时通信会话的用户界面(例如,605、630或650)的取向的改变而维持第二组中的参与者表示的显示布置(例如,图6O中的640-1、640-2、640-4、640-5、640-7和640-8)(例如,图6P中的640-1至640-6)。响应于实时通信会话的用户界面的取向的改变而维持第二组中的参与者表示的显示布置允许计算机系统自动地且动态地优化参与者表示的布置,以避免基于第一区域的该一个或多个尺寸的改变来重新布置参与者表示,而不需要用户手动地调整实时通信会话的用户界面来维持第二组中的参与者表示的显示布置,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。在一些实施方案中,当用户界面的取向改变(例如,旋转)时,网格中的图块维持相对于网格中的其他图块的相对定位。
在一些实施方案中,基于实时通信会话的第一组一个或多个参与者表示的显示状态的改变来更新以网格图案显示的第一组参与者表示,而不改变未被包括在第一组中的实时通信会话的第二组一个或多个参与者表示的显示位置包括:响应于实时通信会话的用户界面(例如,605、630或650)的取向的改变而维持第二组中的参与者表示(例如,图6AG中的660-1和/或660-2)相对于显示生成部件的定位,同时根据实时通信会话的用户界面的取向的改变来旋转参与者表示。响应于实时通信会话的用户界面的取向的改变而维持第二组中的参与者表示的定位允许计算机系统自动地且动态地优化参与者表示的布置,以避免基于第一区域的该一个或多个尺寸的改变来重新布置参与者表示,而不需要用户手动地调整实时通信会话的用户界面来维持第二组中的参与者表示的显示布置,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。在一些实施方案中,当用户界面的取向改变(例如,旋转)时,网格中的图块维持在显示器上的绝对定位,并且相应图块被适当旋转以为观看者维持直立位置。
在一些实施方案中,根据确定第三参与者的活动水平满足一组活动标准(例如,第三参与者在实时通信会话中具有参与者的最高活动水平),计算机系统(例如,600、601或602)增大第三参与者的表示(例如,图6C中的610-3)的大小(例如,在第一区域中)。根据确定第三参与者的活动水平满足一组活动标准而增大第三参与者的表示的大小向计算机系统的用户提供了关于在实时通信会话中哪个参与者满足该组活动标准的反馈,这提供了改进的视觉反馈。
在一些实施方案中,根据确定第四参与者的活动水平满足一组活动标准(例如,第四参与者在实时通信会话中具有参与者的最高活动水平),计算机系统(例如,600、601或602)在视觉上区分第四参与者的表示(例如,图6E中的610-9)(例如,在第一区域中),包括改变与第四参与者的表示相关联的深度效果(例如,609)(例如,增加阴影效果以指示增加的深度;减小阴影效应以指示减小的深度)。根据确定第四参与者的活动水平满足一组活动标准而改变与第四参与者的表示相关联的深度效果向计算机系统的用户提供了关于在实时通信会话中哪个参与者满足该组活动标准的反馈,这提供了改进的视觉反馈。
在一些实施方案中,计算机系统(例如,600、601或602)与一个或多个相机(例如,600-2、601-2或602-2)通信,并且实时通信会话(例如,605、630或650)的用户界面包括该一个或多个相机的视场的表示(例如,608、638或658)(例如,相机预览)。在一些实施方案中,在将该一个或多个相机的视场的表示显示为覆盖在实时通信会话的参与者的第一表示(例如,图6Q中的660-2)的至少一部分之上(例如,相机预览显示在参与者的表示的至少一部分的前方)时,计算机系统检测到与实时通信会话的参与者的第一表示对应的输入(例如,615-5)。在一些实施方案中,响应于检测到与实时通信会话的参与者的第一表示对应的输入,计算机系统将实时通信会话的参与者的第一表示显示为覆盖在该一个或多个相机的视场的表示的至少一部分之上(例如,参与者的表示显示在相机预览的至少一部分前方)(例如,如图6R所示)。响应于检测到与实时通信会话的参与者的第一表示对应的输入而将实时通信会话的参与者的第一表示显示为覆盖在该一个或多个相机的视场的表示的至少一部分之上提供了用于优化参与者的表示的布置的附加控件,而不需要显示附加控制选项,这提供了附加控制选项而不使用户界面杂乱。
在一些实施方案中,在显示实时通信会话的参与者的第二表示(例如,图6Q中的660-2)时,计算机系统(例如,600、601或602)检测到对实时通信会话的参与者的第二表示的选择(例如,615-5)。在一些实施方案中,响应于检测到对实时通信会话的参与者的第二表示的选择,计算机系统显示可选择来生成实时通信会话的参与者的第二表示的图像(例如,不生成实时通信会话的其他参与者的图像)的捕获示能表示(例如,662)。响应于检测到对实时通信会话的参与者的第二表示的选择而显示捕获示能表示提供了用于生成实时通信会话的参与者的第二表示的图像的附加控件,而不在检测到选择之前因附加控制选项而使用户界面杂乱,这提供了附加控制选项而不使用户界面杂乱。在一些实施方案中,与实时通信会话的远程参与者相关联的外部计算机系统捕获实时通信会话的参与者的第二表示的图像并将该图像发送到计算机系统(例如,计算机系统从外部计算机系统获得实时通信会话的参与者的第二表示的图像)。
在一些实施方案中,计算机系统(例如,600、601或602)与一个或多个相机(例如,600-2、601-2或602-2)通信;捕获示能表示(例如,662)被显示在实时通信会话的参与者的第二表示(例如,图6R中的660-2)的第一部分中;并且在检测到对实时通信会话的参与者的第二表示的选择(例如,615-5)之前,计算机系统将该一个或多个相机的视场的表示(例如,608、638或658)(例如,相机预览)显示为覆盖在实时通信会话的参与者的第二表示的第一部分之上(例如,如图6Q所示)。
在一些实施方案中,在显示在第二区域(例如,606、636或656)中显示的且具有第一大小的第二组参与者表示时,计算机系统(例如,600、601或602)接收显示用于实时通信会话的第一组一个或多个控件(例如,612、632或652)的请求。在一些实施方案中,响应于接收到显示用于实时通信会话的第一组一个或多个控件的请求,计算机系统:显示用于实时通信会话的第一组一个或多个控件(例如,包括与实时通信会话和/或共享内容会话相关联的信息的控件区域或图形对象,以及/或者在被选择时使得计算机系统执行与实时通信会话和/或共享内容会话相关联的相应功能的一个或多个可选择功能选项);并且显示在第二区域中显示的且具有小于第一大小的第二大小的第二组参与者表示(例如,当显示控件时显示具有更小大小的名单)(例如,在一些实施方案中,在图6X中,当显示控件区域652时,名单656中的图块缩小)。显示在第二区域中显示的且具有小于第一大小的第二大小的第二组参与者表示允许计算机系统自动地且动态地优化参与者表示的大小,以适应用于实时通信会话的第一组一个或多个控件的显示,而不需要用户手动地调整实时通信会话的用户界面以在第二区域中布置控件和参与者表示,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。
在一些实施方案中,计算机系统(例如,600、601或602)与一个或多个相机(例如,600-2、601-2或602-2)通信;实时通信会话的用户界面(例如,605、630或650)包括该一个或多个相机的视场的表示(例如,608、638或658)(例如,相机预览);并且在第二区域(例如,606、636或656)中显示的第二组参与者表示包括具有与该一个或多个相机的视场的表示相邻(例如,没有参与者的居间位置或表示)的移位位置的一个或多个参与者表示(例如,图6V中的660-9)(例如,图6W中的660-11)(例如,名单中的图块中的一个或多个图块被偏移以为相机预览腾出空间)。在第二区域中显示包括具有与该一个或多个相机的视场的表示相邻的移位位置的一个或多个参与者表示的第二组参与者表示允许计算机系统自动地且动态地优化第二区域中的参与者表示的布置,以适应该一个或多个相机的视场的表示的显示,而不需要用户手动地调整实时通信会话的用户界面以在第二区域中布置参与者表示,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。
在一些实施方案中,在显示在第二区域(例如,606、636或656)中显示的第二组参与者表示的第一子集时,计算机系统(例如,600、601或602)接收与在用户界面(例如,605、630或650)中在相应方向上的移动(例如,拖动或滑动手势)(例如,滚动第二组参与者表示的请求)(例如,滚动第一组参与者表示的请求)对应的输入(例如,615-6或615-7)。在一些实施方案中,响应于接收到与在用户界面中在相应方向上的移动对应的输入:根据确定与在用户界面中在相应方向上的移动对应的输入指向用户界面的包括第二组参与者表示的部分(例如,606、636或656),计算机系统在相应方向上滚动第二组参与者表示,包括显示未被包括在第二组参与者表示的第一子集中的一个或多个参与者表示(例如,图6W中的660-10和/或660-11)(例如,图6X中的660-7和/或660-8)(例如,并且停止显示第一子集中的一个或多个参与者表示)(例如,并且继续显示第一子集中的一个或多个参与者表示)。根据确定与在用户界面中的相应方向上的移动对应的输入指向用户界面的包括第二组参与者表示的部分而滚动第二组参与者表示允许计算机系统显示或隐藏第二区域中的参与者表示,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。
在一些实施方案中,响应于接收到与在用户界面(例如,615、615或650)中在相应方向上的移动对应的输入(例如,605-6或630-7),以及根据确定与在用户界面中在相应方向上的移动对应的输入指向用户界面(例如,604、634或656)的包括第一组参与者表示的部分,计算机系统(例如,600、601或602)放弃滚动第一组参与者表示。在一些实施方案中,不能滚动第一组参与者表示(例如,网格)。
在一些实施方案中,计算机系统(例如,600、601或602)与一个或多个相机(例如,600-2、601-2或602-2)通信;实时通信会话的用户界面(例如,605、630或650)包括该一个或多个相机的视场的表示(例如,608、638或658)(例如,相机预览);并且滚动第二组参与者表示包括在该一个或多个相机的视场的表示下方滚动第二组参与者表示中的一个或多个参与者表示(例如,图6X中的660-10和/或660-11)(例如,名单在相机预览下方滚动)。在该一个或多个相机的视场的表示下方滚动第二组参与者表示中的一个或多个参与者表示允许计算机系统显示或隐藏第二区域中的参与者表示,同时还适应该一个或多个相机的视场的表示的显示,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。
在一些实施方案中,在改变在第一区域(例如,604、634或654)中显示的实时通信会话的参与者表示的数量(例如,基于第一区域的该一个或多个尺寸的改变,基于离开或加入实时通信会话的一个或多个参与者)之后,计算机系统(例如,600、601或602)更新实时通信会话的用户界面(例如,605、630或650)的显示,包括:根据确定第二组参与者表示包括实时通信会话的多于阈值数量(例如,0、1或2)的参与者表示,显示实时通信会话的第二组参与者表示(例如,图6V中的660-7、660-8和/或660-9);以及根据确定第二组参与者表示不包括实时通信会话的多于阈值数量的参与者表示,停止显示实时通信会话的第二组参与者表示(例如,图6U中的区域656)(例如,如果所有图块从名单移动到网格,则停止显示名单)。根据确定第二组参与者表示不包括多于阈值数量的参与者表示而停止显示实时通信会话的第二组参与者表示向计算机系统的用户提供了存在少于阈值数量的参与者表示的反馈,并且通过消除实时通信会话的第二组参与者表示的显示而节省了计算资源,这提供了改进的视觉反馈并且节省了计算机系统的计算资源。
在一些实施方案中,在显示在第一区域(例如,604、634或654)中显示的且具有第一布置(例如,尺寸和/或定位)(例如,图6AA中的660-1、660-2和660-3)的第一组参与者表示时,计算机系统(例如,600、601或602)接收显示用于实时通信会话的第二组一个或多个控件(例如,612、632或652)的请求。在一些实施方案中,响应于接收到显示用于实时通信会话的第二组一个或多个控件的请求,计算机系统:显示用于实时通信会话的第二组一个或多个控件(例如,包括与实时通信会话和/或共享内容会话相关联的信息的控件区域或图形对象,以及/或者在被选择时使得计算机系统执行与实时通信会话和/或共享内容会话相关联的相应功能的一个或多个可选择功能选项);并且显示在第一区域中显示的且具有与第一布置不同的第二布置的第一组参与者表示(例如,图6Z中的660-1、660-2和660-3)(例如,基于该组控件的显示而具有不同的定位、位置、顺序和/或大小)。显示在第一区域中显示的且具有与第一布置不同的第二布置的第一组参与者表示允许计算机系统响应于显示用于实时通信会话的第二组一个或多个控件而自动地且动态地优化参与者表示的定位,而不需要用户手动地调整实时通信会话的用户界面,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。
在一些实施方案中,实时通信会话的用户界面(例如,665)包括布置选择选项(例如,668和/或672)(例如,示能表示、按钮和/或可选择图形元素),该布置选择选项当被选择时启用(或禁用)实时通信会话的第三组参与者表示(例如,图6Z中的660-1、660-2和660-3)的重叠布置(例如,图6AZ)(例如,在实时通信会话的用户界面的第一区域(例如,604、634或654)中)(或者,任选地,禁用实时通信会话的用户界面的第一区域(例如,604、634或654)中的第一组参与者表示的网格图案)。显示布置选择选项提供了用于启用第三组参与者表示的重叠布置的附加控件,而不在检测到输入之前因附加显示控件而使用户界面杂乱,这提供了附加控制选项而不使用户界面杂乱。在一些实施方案中,重叠布置包括与实时通信会话的一个或多个其他参与者表示重叠的一个或多个参与者表示(例如,图6Z、6AL、6AN、6AP和/或6AR)。在一些实施方案中,在处于重叠布置时,第三组表示中的一个或多个表示随时间改变大小和/或位置(例如,在图6Z中,660-1的大小增大,因为参与者1是活动水平最高的参与者),并且在改变大小和/或位置期间和/或之后维持与一个或多个其他表示重叠(例如,继续重叠)(例如,在图6Z中,660-1维持与660-2重叠,并且/或者660-2维持与660-3重叠)。在一些实施方案中,在改变大小和/或位置之后,第三组表示中的该一个或多个表示占据该一个或多个表示在改变大小和/或位置之前所占据的位置(例如,在图6Z中,660-1维持在660-2的上方和左侧,并且660-2维持在660-3的上方和右侧)。在一些实施方案中,实时通信会话的第三组参与者表示对应于与实时通信会话的第一组参与者表示相同的参与者(例如,第一组和第三组包括相同数量的表示)(例如,图6AL和图6AM)。在一些实施方案中,实时通信会话的第三组参与者表示包括与实时通信会话的第一组参与者表示不同数量的表示(例如,比第一组参与者表示更多的表示或更少的表示)(例如,表示的数量当从网格图案改变为重叠布置或从重叠布置改变为网格图案时改变)(例如,图6X和图6Z;图6AP和图6AQ;以及图6AR和图6AS)。
在一些实施方案中,在将与共享内容会话相关联的内容的表示(例如,620或670)与实时通信会话的用户界面的第一区域中的第一组参与者表示(例如,图6AB中的660-1和660-2)同时显示(例如,计算机系统与一个或多个外部计算机系统之间的会话,该会话使得计算机系统(例如,600、601或602)能够在该一个或多个外部计算机系统输出内容时输出内容(例如,同步内容(例如,音频和/或视频数据,针对该音频和/或视频数据,在计算机系统和外部计算机系统处被同步)和/或屏幕共享内容(例如,由设备(例如,计算机系统;外部计算机系统)生成的图像数据,该设备提供当前在设备处显示图像或音频内容的实时显示))时,计算机系统接收移动内容的表示的请求(例如,615-11或615-12)。在一些实施方案中,响应于接收到移动内容的表示的请求,计算机系统将内容的表示(例如,图6K中的620)(例如,图6AB中的670)从实时通信会话的用户界面中的第一定位移动到实时通信会话的用户界面中的第二定位,包括:根据确定启用了第一组参与者表示的重叠布置,基于内容的表示的移动(例如,其移动位置)来改变(例如,移动)第一区域中的第一组参与者表示中的一个或多个参与者表示的位置(例如,以避开内容的表示的移动位置)(例如,如图6AC、图6AD或图6AE所示);以及根据确定未启用第一组参与者表示的重叠布置,放弃基于内容的表示的移动(例如,其移动位置)来改变(例如,移动)第一区域中的第一组参与者表示中的一个或多个参与者表示的位置(例如,在一些实施方案中,将内容的表示显示为覆盖在第一组参与者表示中的一个或多个参与者表示之上)(例如,如图6K或图6L所示)。基于内容的表示的移动来改变第一区域中的第一组参与者表示中的一个或多个参与者表示的位置允许计算机系统基于内容的位置的改变来自动地且动态地优化表示的定位,而不需要用户手动地调整实时通信会话的用户界面,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。在一些实施方案中,当启用网格布置时,在共享内容移动时,网格中的图块不移动以避开共享内容的位置。在一些实施方案中,当启用重叠布置时,在共享内容移动时,图块移动以避开共享内容的位置。
在一些实施方案中,布置选择选项(例如,672)与实时通信会话的多个参与者表示同时显示(例如,图6X和图6Z),布置选择选项与实时通信会话的多个参与者表示同时显示提供了附加控制选项而不使用户界面杂乱,并且通过提供在无需进一步导航用户界面的情况下选择实时通信会话的参与者表示的布置的选项减少了执行操作所需的输入的数量。
在一些实施方案中,响应于预先确定数量的参与者(例如,三个参与者、四个参与者或五个参与者)参与(例如,同时参与)实时通信会话(例如,参与者加入实时通信会话并且使得参与者数量满足预先确定参与者数量),计算机系统显示(例如,初始显示和/或发起显示)布置选择选项(例如,图6AL和图6AM)。在一些实施方案中,在预先确定数量的参与者参与实时通信会话之前(例如,紧接此之前)不显示布置选择选项(例如,图6AH和图6AI)。在一些实施方案中,如果(例如,响应于和/或根据确定)少于预先确定数量的参与者参与(例如,同时参与)实时通信会话,则不显示布置选择选项。响应于预先确定数量的参与者参与实时通信会话而显示布置选择选项允许当参与者数量达到网格图案提供比重叠布置更优化的显示空间使用的数量时或者当网格图案与重叠布置之间存在显著差异时显示布置选择选项,这向用户提供了改进的视觉反馈并且当已满足一组条件时执行操作而不需要进一步的用户输入。
在一些实施方案中,在显示布置选择选项(例如,672)时,计算机系统接收少于预先确定数量的参与者正在参与(例如,同时参与)实时通信会话(例如,参与者已经离开实时通信会话并且导致参与者数量少于预先确定参与者数量)的指示。在一些实施方案中,响应于接收到少于预先确定数量的参与者正在参与实时通信会话的指示,计算机系统停止显示布置选择选项(例如,图6AJ和图6AK)。响应于接收到少于预先确定数量的参与者正在参与的指示而停止显示布置选择选项允许计算机系统避免在参与者数量小于其中网格图案提供比重叠布置更优化的显示空间使用或者网格图案与重叠布置之间没有显著差异的数量时显示布置选择选项,这向用户提供了改进的视觉反馈,在已经满足一组条件时执行操作而不需要进一步的用户输入,并且避免使用户界面杂乱。
在一些实施方案中,响应于参与者加入实时通信会话(例如,并且任选地,根据确定在参与者已加入实时通信会话之后,参与者数量大于或等于预先确定的参与者数量),计算机系统发起布置选择选项的显示(例如,672)。响应于参与者加入实时通信会话而发起布置选择选项的显示允许在参与者数量增加使得网格图案提供比重叠布置更优化的显示空间使用或者网格图案与重叠布置之间存在显著差异时显示布置选择选项,这向用户提供了改进的视觉反馈并且在已经满足一组条件时执行操作而不需要进一步的用户输入。
在一些实施方案中,在实时通信会话的用户界面中显示用于实时通信会话的第三组一个或多个控件(例如,612、632和/或652)(例如,包括与实时通信会话和/或共享内容会话相关联的信息的HUD或图形对象,以及/或者一个或多个可选择功能选项(例如,示能表示、按钮和/或可选择图形元素),该一个或多个可选择功能选项当被选择时使得计算机系统执行与实时通信会话相关联的相应功能(例如,离开呼叫、结束呼叫、显示视频效果选项、切换相机、静音/不静音麦克风和/或捕获图像))时(例如,响应于此或根据该第三组一个或多个控件的显示)显示布置选择选项(例如,672)。在一些实施方案中,在布置选择选项与用于实时通信会话的第三组一个或多个控件同时显示时,计算机系统检测到与停止显示用于实时通信会话的第三组一个或多个控件对应的相应条件(例如,用户界面中的轻击输入,或超过阈值时间量的流逝而没有检测到指向用户界面的输入)的发生。在一些实施方案中,响应于检测到相应条件的发生,计算机系统停止显示用于实时通信会话的第三组一个或多个控件(例如,612、632和/或652),并且停止显示布置选择选项(例如,672)。在一些实施方案中,计算机系统响应于检测到输入(例如,615-24或615-26)(例如,使得指针(例如,光标)悬停在实时通信会话的用户界面上的轻击手势或输入)而显示(例如,发起显示)第三组一个或多个控件(以及任选地,布置选择选项)。在一些实施方案中,计算机系统响应于检测到输入(例如,615-22或615-23)(例如,使得指针(例如,光标)不悬停在实时通信会话的用户界面上的轻击手势或输入)而停止显示第三组一个或多个控件(以及任选地,布置选择选项)。响应于检测到与停止显示用于实时通信会话的第三组一个或多个控件对应的相应条件的发生而停止显示用于实时通信会话的第三组一个或多个控件以及停止显示布置选择选项巩固了用于实时通信会话的选项的显示,这提供了附加控制选项而不因附加显示控件而使用户界面杂乱,并且当已经满足一组条件时执行操作而不需要进一步的用户输入。
在一些实施方案中,在实时通信会话的用户界面的第一区域中以网格图案显示第一组参与者表示时(例如,图6X),计算机系统检测到与改变用户界面中的该多个参与者表示的布置的请求对应的第一手势(例如,615-13A和615-13B,以及/或者615-15A和615-15B)(例如,包括与计算机系统通信的触敏表面上的一个或多个接触的且任选地独立于触摸手势的定位(例如,不指向特定图形元素)的触摸手势,诸如例如,展开手势(例如,包括随时间变得离得更远的两个或更多个接触的手势)或捏合手势(例如,包括随时间变得离得更近的两个或更多个接触的手势)),该第一手势包括通过与用户界面中的参与者表示(例如,图6X中的660)中的一个或多个表示对应的定位的移动。在一些实施方案中,响应于检测到第一手势,计算机系统以重叠布置显示(例如,在第一区域中)实时通信会话的第四组参与者表示(例如,图6Z)(例如,禁用实时通信会话的用户界面的第一区域中的第一组参与者表示的网格图案并且切换到重叠布置)。响应于包括通过与用户界面中的参与者表示中的一个或多个表示对应的定位的移动的手势而以重叠布置显示实时通信会话的参与者表示允许计算机系统改变实时通信会话的参与者表示的布置,而不管是否显示了用于改变实时通信会话的参与者表示的布置的可选择图形元素,这减少了执行操作所需的输入的数量并且提供了附加控制选项而不因附加显示控件而使用户界面杂乱。
在一些实施方案中,在实时通信会话的用户界面中以重叠布置显示实时通信会话的第五组参与者表示时(例如,图6Z),计算机系统检测到与改变用户界面中的该多个参与者表示的布置的请求对应的第二手势(例如,615-13A和615-13B,以及/或者615-15A和615-15B)(例如,包括与计算机系统通信的触敏表面上的一个或多个接触的触摸手势,诸如例如,捏合手势(例如,包括随时间变得离得更近的两个或更多个接触的手势)或展开手势(例如,包括随时间变得离得更远的两个或更多个接触的手势)),该第二手势包括通过与用户界面中的参与者表示(例如,图6Z中的660-2)中的一个或多个表示对应的定位的移动。在一些实施方案中,响应于检测到第二手势,计算机系统以网格图案显示(例如,在第一区域中)实时通信会话的第六组参与者表示(例如,图6X)(例如,禁用第五组参与者表示的重叠布置)。响应于包括通过与用户界面中的参与者表示中的一个或多个表示对应的定位的移动的手势而以网格图案显示实时通信会话的参与者表示允许计算机系统改变实时通信会话的参与者表示的布置,而不管是否显示了用于改变实时通信会话的参与者表示的布置的可选择图形元素,这减少了执行操作所需的输入的数量并且提供了附加控制选项而不因附加显示控件而使用户界面杂乱。
在一些实施方案中,在实时通信会话的用户界面中以重叠布置显示实时通信会话的第七组参与者表示时,计算机系统接收预先确定数量的参与者(例如,三个参与者、四个参与者、五个参与者或六个参与者)正在参与(例如,同时参与)实时通信会话(例如,参与者已加入实时通信会话并且使得参与者数量满足预先确定参与者数量)的指示。在一些实施方案中,响应于接收到预先确定数量的参与者正在参与实时通信会话的指示,计算机系统显示(例如,最初显示和/或发起显示)指示能够以网格图案显示实时通信会话的该多个参与者表示的通知(例如,674)。在一些实施方案中,通知包括(例如,是)可选择选项(例如,示能表示),该可选择选项当被选择(例如,615-19)时使得计算机系统在第一区域中以网格图案显示实时通信会话的参与者表示(例如,图6AQ)。响应于接收到预先确定数量的参与者正在参与实时通信会话的指示而显示指示能够网格图案显示实时通信会话的该多个参与者表示的通知向用户通知可为更大数量的参与者提供更优化显示的不同布置是可用的,这向用户提供了改进的视觉反馈。
在一些实施方案中,第二区域(例如,606、636或656)中的该组参与者表示中的表示具有与和计算机系统(例如,600、601或602)通信的相机(例如,600-2、601-2或602-2)的视场的表示(例如,608、638或658)(例如,相机预览)类似的高度(或相同的高度)。
在一些实施方案中,显示实时通信会话(例如,605、630或650)的用户界面包括在用户界面的在视觉上不同于第一区域(例如,604、634或654)的第二区域(例如,606、636或656)中显示与计算机系统(例如,600、601或602)通信的相机(例如,600-2、601-2或602-2)的视场的表示(例如,608、638或658)(例如,相机预览)(例如,第二区域包括相机预览和名单,这两者都与网格中的图块分开)。
在一些实施方案中,基于第一区域的该一个或多个尺寸的改变来改变在第一区域(例如,604、634或654)中显示的实时通信会话的参与者表示的数量包括:显示第一行参与者表示(例如,当转变到图6J中的布置时,图6I中的两个底行图块610-13至610-20中的一行图块)淡出(例如,通过降低第一行参与者表示的亮度、不透明度、饱和度和/或其他视觉属性来逐渐降低第一行参与者表示的视觉显著性,诸如例如,其中该行逐渐消失的动画),同时维持至少第二行参与者表示(例如,当转变到图6J中的布置时,图6I中的三个顶行中的图块610-1至610-12)在第一区域中的显示(例如,一行或多行逐渐消失,而一行或多行保持显示在网格中)。显示第一行参与者表示淡出同时维持至少第二行参与者表示在第一区域中的显示允许计算机系统自动地且动态地优化参与者表示的布置,以避免基于第一区域的该一个或多个尺寸的改变来重新布置参与者表示,而不需要用户手动地调整实时通信会话的用户界面来维持第二组中的参与者表示的显示布置,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。在一些实施方案中,第一行中的参与者表示被显示为在第二区域中的名单处淡入视图。
在一些实施方案中,基于第一区域的该一个或多个尺寸的改变来改变在第一区域(例如,604、634或654)中显示的实时通信会话的参与者表示的数量包括:显示第一列参与者表示(例如,当转变到图6I中的布置时,图6H中的两个最右列610-13至610-18中的一列)淡出(例如,通过降低第一行参与者表示的亮度、不透明度、饱和度和/或其他视觉属性来逐渐降低第一行参与者表示的视觉显著性,诸如例如,其中该列逐渐消失的动画),同时维持至少第二列参与者表示(例如,当转变到图6I中的布置时,图6H中的四个最左列图块610-1至610-12中的一列)在第一区域中的显示(例如,一列或多列淡出,而一列或多列保持显示在网格中)。显示第一列参与者表示淡出同时维持至少第二列参与者表示在第一区域中的显示允许计算机系统自动地且动态地优化参与者表示的布置,以避免基于第一区域的该一个或多个尺寸的改变来重新布置参与者表示,而不需要用户手动地调整实时通信会话的用户界面来维持第二组中的参与者表示的显示布置,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。在一些实施方案中,第一列中的参与者表示被显示为在第二区域中的名单处淡入视图。
应注意,上文相对于方法700所述的过程(例如图7)的详情也以类似方式适用于下文所述的方法。例如,方法900任选地包括上文参考方法700所述的各种方法的特性中的一个或多个特性。例如,图6A至图6AS中描绘的用于布置图块的方法可应用于参考方法900所述的实施方案。为简明起见,这些细节不再重复。
图8A至图8H示出了根据一些实施方案的用于管理视频会议会话的示例性用户界面。这些附图中的用户界面用于示出下文所述的包括图9中的过程的过程。在一些实施方案中,图8A至图8H中的用户界面可用于示出以上相对于图7所述的过程。
在图8A中,在登山者组正在参与与共享内容会话同时活动的视频会议时,设备600显示主屏幕801。设备600还显示与控件区域612类似的控件区域812。设备600检测到选择相机选项812-4的输入815-1,并且作为响应,显示与视频会议界面605类似的视频会议界面805。视频会议界面包括在主区域804中显示的图块810-1至810-12、在名单806中显示的图块810-13和810-14,以及相机预览808。参与者1是活动水平最高的参与者,如由图块810-1和的放大大小和阴影809所指示的。
在图8C中,参与者1开始与登山者组共享内容。因此,设备600显示共享内容区域820,该共享内容区域包括共享内容的表示和与共享内容相关联的其他元素。在图8C中描绘的实施方案中,参与者1(John)正在共享在其设备的屏幕上显示的内容。因此,共享内容区域820包括屏幕共享内容830,该屏幕共享内容是John的屏幕的实时表示。共享内容区域820还包括指示共享内容是John的屏幕的指示符824,以及作为来自John的设备的视频馈送的图块810-1b。在一些实施方案中,John的视频馈送被显示在共享内容区域820中和网格中,如由相应图块810-1a和810-b所指示的。在一些实施方案中,共享内容的视图可被调整大小、调整、放大、缩小、平移或以其他方式操纵。例如,可选择放大示能表示822来显示屏幕共享内容830的放大视图(例如,全屏或使用屏幕的指定用于系统状态信息和/或系统控件的一部分之外的所有屏幕)。图块810-1b和指示符824任选地与屏幕共享内容830的放大视图一起显示。在一些实施方案中,屏幕共享内容830的视图可被放大(例如,响应于展开手势)、缩小(例如,响应于捏合手势)、平移(例如,响应于一个或两个手指拖动手势)或以其他方式操纵。
当设备600显示共享内容区域820时,图块中的一些图块被移动到名单806,同时继续在主区域804中显示剩余图块。在图8B和图8C中描绘的实施方案中,设备600将主区域804的最右列中的图块(图块810-7、810-8和810-12)移动到名单806,同时保留剩余图块在其相应3x3布置中的相对位置。
图8D至图8H示出了其中活动参与者的图块被放大以例如指示该参与者是发言者的各种实施方案。在图8D中,参与者1停止共享其屏幕,并且设备600将图块返回到先前布置。当参与者2开始向登山者组说话时,强调图块810-2。在图8E中,随着参与者2继续向该组说话,设备600将图块810-2从图8D中的强调视图转变成如图块810-2b所示的放大的发言者状态。当参与者2变成发言者时,他们的视频馈送以放大的图块810-2b和网格图块810-2a来显示。在一些实施方案中,阴影809不在图块810-2a周围显示,因为参与者2已经以放大图块810-2b来强调。当显示放大图块810-2b时,设备600以类似于上文相对于图8B和图8C所述的方式来移动这些图块,包括将一些图块移动到名单806并且保留剩余图块在主区域804中的相对定位。
在图8E中,设备600检测到选择图块810-9的输入815-2。作为响应,设备600放大图块810-9,从而将图块810-9锁定在主区域804中,如图8F所示。当图块810-9被放大时,设备600将相邻图块810-4、810-5和810-10移动到名单806,同时将剩余图块810-1、810-2a、810-3、810-6和810-11保持在主区域804中。
在图8G中,参与者2开始与登山者组共享内容。设备600在内容PiP840(类似于内容PiP 620)中显示共享内容。设备600继续将放大图块810-2b与内容PiP 840一起显示在主区域804中,以指示参与者2正在与登山者组共享内容PiP 840中的内容。为了适应放大图块810-2b和内容PiP 840的显示,设备600将剩余图块移动到名单806,如图8G所示。
在一些实施方案中,设备600可以混合布置来显示图块,其中以网格来显示图块,其中所显示的发言者图块与网格的至少一部分重叠。这种实施方案的示例在图8H中示出,其中放大图块810-2b被显示在主区域804中的图块810-1至810-12上方。网格中的图块被分成两组,其中图块810-1、810-2a、810-4、810-5、810-9和810-10位于放大图块810-2b的一侧上,并且图块810-3、810-7、810-6、810-8、810-11和810-12位于放大图块810-2b的另一侧上。
图9是示出根据一些实施方案的用于使用计算机系统(例如,600、601或602)管理视频会议会话的方法的流程图。方法900在与一个或多个显示生成部件(例如,600-1、601-1或602-1)(例如,显示控制器、触敏显示系统、扬声器、骨传导音频输出设备、触觉输出发生器、投影仪和/或全息显示器)以及一个或多个输入设备(例如,600-1、601-3或602-1)(例如,触敏表面、键盘、鼠标、触控板、用于检测手势的一个或多个光学传感器、用于检测悬停输入的一个或多个电容传感器和/或加速度计/陀螺仪/惯性测量单元)通信的计算机系统(例如,100、300、500、600、601或602)(例如,智能电话、平板电脑、台式计算机或膝上型计算机)处执行。方法900中的一些操作任选地被组合,一些操作的次序任选地被改变,并且一些操作任选地被省略。在一些实施方案中,在实时通信会话可用(例如,要加入和/或要发起实时通信会话)时在计算机系统处执行方法900。在一些实施方案中,实时通信会话被包括在共享内容会话(的一部分)中。在一些实施方案中,共享内容会话被包括在实时通信会话(的一部分)中。在一些实施方案中,实时通信会话和共享内容会话被包括在同一通信会话(的一部分)中。
如下文所述,方法900提供了用于管理视频会议会话的直观方式。该方法减少了用户管理视频会议会话的认知负担,从而创建了更有效的人机界面。对于电池驱动的计算设备,使用户能够更快且更高效地管理视频会议会话,节省了电力并且增加了电池两次充电之间的时间间隔。
计算机系统接收(902)显示与实时通信会话对应的实时通信应用程序的用户界面(例如,805)的请求(例如,815-1)。响应于接收到显示与实时通信会话对应的实时通信应用程序的用户界面的请求,计算机系统显示(904)与实时通信会话对应的实时通信应用程序的用户界面(例如,805)。在计算机系统连接到实时通信会话并且连接到共享内容会话(例如,计算机系统与一个或多个外部计算机系统之间的会话,该会话使得计算机系统能够在该一个或多个外部计算机系统输出内容时输出内容(例如,同步内容(例如,音频和/或视频数据,针对该音频和/或视频数据,在计算机系统和外部计算机系统处被同步)和/或屏幕共享内容(例如,由设备(例如,计算机系统;外部计算机系统)生成的图像数据该设备提供当前在设备处显示的图像或视频内容的实时表示))时:计算机系统在实时通信应用程序(例如,视频通信会话、音频通信会话或音频/视频通信会话(例如,视频聊天))的用户界面(例如,应用程序的界面)中同时显示(906):实时通信会话的多个参与者表示(例如,810),其中该多个表示以包括两个或更多个行以及两个或更多个列的二维阵列(例如,网格;图案)(例如,如图8C、图8E、图8F和/或图8H所示的图块810在主区域804中的布置)来显示;和共享内容会话中的内容(例如,屏幕共享内容和/或同步内容)的表示(例如,820、830、810-2b和/或840),其中该内容的表示被显示在视觉上与该阵列相关联(例如,被显示为与该阵列相邻;被显示为与该阵列分组在一起;被显示在该阵列中),其中该内容的表示具有与该阵列的两个或更多个行和/或该阵列的两个或更多个列对应的大小。在一些实施方案中,二维阵列包括与相应行和相应列对应的对应定位。在一些实施方案中,在阵列中的每个定位处不存在表示(例如,定位可不具有内容或除了实时通信会话的参与者表示之外的内容)。在实时通信应用程序的用户界面中同时显示实时通信会话的该多个参与者表示和共享内容会话中的内容的表示允许用户观看共享内容会话的内容,同时维持正在进行的实时通信会话的上下文,而不需要用户在用于共享内容和实时通信应用程序的单独用户界面之间导航,这提供了改进的视觉反馈而不使用户界面杂乱。
在一些实施方案中,实时通信会话的该多个参与者表示(例如,810)至少部分地占据阵列(例如,图块810在主区域804中的布置)的两个或更多个行以及两个或更多个列(例如,该多个表示并非全部在单行或单列中)。在一些实施方案中,实时通信会话的该多个参与者表示中的一个或多个表示(例如,图块810-1)(例如,图6K中的图块610-1)占据至少部分地被内容的表示(例如,620、820、830、810-2b和/或840)占据的行,并且实时通信会话的该多个参与者表示中的一个或多个表示(例如,图6K中的图块610-12、610-15和/或610-18)占据至少部分地被内容的表示(例如,620)占据的列(例如,存在位于内容的表示上方/下方的实时通信会话的一个或多个参与者表示(例如,这些内容的表示占据相同的列但不同的行)以及位于内容的表示旁边的实时通信会话的一个或多个参与者表示(例如,这些内容的表示占据相同的行但不同的列))。在一些实施方案中,内容的表示包括:包括内容的表示(例如,830)的区域(例如,820),其中该区域至少部分地由边界限定,并且该区域和该区域内的内容的表示中的至少一者具有与阵列的两个或更多个行和/或阵列的两个或更多个列对应的大小。
在一些实施方案中,在共享内容会话期间,内容(例如,820、830、810-2b和/或840)同时在计算机系统(例如,600、601或602)和与实时通信会话的参与者相关联的一个或多个外部计算机系统两者处输出。在一些实施方案中,内容是来自计算机系统的屏幕共享内容(例如,显示在计算机系统的显示器上的内容),该屏幕共享内容被传输到外部计算机系统,使得计算机系统同时输出来自计算机系统的屏幕共享内容。在一些实施方案中,内容是来自外部计算机系统的屏幕共享内容(例如,830)(例如,显示在外部计算机系统的显示器上的内容),该屏幕共享内容被传输到计算机系统(以及,在一些实施方案中,其他外部计算机系统),使得计算机系统同时输出来自外部计算机系统的屏幕共享内容。在一些实施方案中,内容是在计算机系统和外部计算机系统处输出的同步内容(例如,840)。在一些实施方案中,计算机系统和外部计算机系统各自分别从远程服务器访问内容(例如,视频;电影;TV节目;;歌曲),并且在它们的内容的相应输出方面同步,使得内容在计算机系统处输出(例如,经由相应计算机系统本地的应用程序),同时每个计算机系统分别从远程服务器访问内容。在一些实施方案中,计算机系统和外部计算机系统响应于在计算机系统处或在外部计算机系统处所接收的用于请求输出内容的选择而分别访问内容(例如,同步内容)。
在一些实施方案中,共享内容会话中的内容的表示包括实时通信会话的活动参与者(例如,正在呈现内容、共享内容和/或说话的参与者)的表示(例如,810-1b、824和/或810-2b)(例如,实况视频馈送、姓名、图片和/或头像)。在一些实施方案中,共享内容会话中的内容的表示包括活动参与者的第一表示(例如,810-1b或810-2b)(例如,实况视频馈送、姓名、图片和/或头像),并且该多个参与者表示包括活动参与者的第二表示(例如,810-1a或810-2a)(例如,实况视频馈送、姓名、图片和/或头像)。显示内容的表示中的活动参与者的第一表示以及显示该多个参与者表示中的活动参与者的第二表示向计算机系统的用户提供了活动参与者与共享内容相关联的反馈,而无需调整该多个参与者表示的显示布置(这种调整可能使计算机系统的用户分心),由此提供了改进的视觉反馈。
在一些实施方案中,显示共享内容会话中的内容的表示包括:根据确定内容具有第一纵横比(例如,4:3、9:16或纵向取向),显示内容的具有第一大小的表示(例如,图8C中的830或图8G中的810-2b);以及根据确定内容具有与第一纵横比不同的第二纵横比(例如,16:9或横向取向),显示内容的具有与第一大小不同的第二大小的表示(例如,840)。在一些实施方案中,共享内容会话中的内容的表示包括发起共享内容会话中的内容的输出的参与者的表示(例如,810-1b、810-2b和/或824)(例如,实况视频馈送、姓名、图片和/或头像)。显示共享内容会话中的内容的表示(包括发起共享内容会话中的内容的输出的参与者的表示)向计算机系统的用户提供了参与者发起共享内容的输出的反馈,这提供了改进的视觉反馈。在一些实施方案中,发起共享内容会话中的内容的输出的参与者的表示包括参与者的实况视频馈送(例如,810-1b或810-2b)。在一些实施方案中,显示共享内容会话中的内容的表示包括显示包括内容(例如,屏幕共享内容和/或同步内容)的表示(例如,830)和发起共享内容会话中的内容的输出的参与者的表示(例如,810b和/或824)(例如,姓名、头像、图片和/或实况视频馈送)的区域(例如,820)(例如,边界内的区域),其中发起共享内容会话中的内容的输出的参与者的表示与内容的表示分开(例如,间隔开)显示。显示共享内容会话中的内容的表示(包括包括内容的表示和发起共享内容会话中的内容的输出的参与者的表示的区域)向计算机系统的用户提供了参与者发起共享内容的输出的反馈,这提供了改进的视觉反馈。
在一些实施方案中,在以二维阵列显示实时通信会话的多个参与者表示(其中相应参与者表示具有第一显示大小)时,计算机系统(例如,600、601或602)检测到与实时通信会话的参与者的具有第一显示大小的第一表示(例如,810-9)(例如,固定图块)对应的一组一个或多个输入(例如,815-2)。在一些实施方案中,该组一个或多个输入包括对固定该图块的请求。在一些实施方案中,该组一个或多个输入包括放大该图块的请求。在一些实施方案中,该组一个或多个输入包括缩小该图块的请求(例如,在该图块已经被放大之后)。在一些实施方案中,响应于检测到与实时通信会话的参与者的第一表示对应的一组一个或多个输入,计算机系统将实时通信会话的参与者的第一表示显示为位于二维阵列中并且具有与第一显示大小不同(例如,大于第一显示大小)的第二显示大小(例如,图8F中的810-9),同时将实时通信会话的其他参与者表示显示为具有第一显示大小(例如,图8F中的810-1)。将实时通信会话的参与者的第一表示显示为位于二维阵列中并且具有与第一显示大小不同的第二显示大小,同时将实时通信会话的其他参与者表示显示为具有第一显示大小,向计算机系统的用户提供了已选择该参与者的表示的反馈,并且提供了该参与者的表示的放大视图,这提供了改进的视觉反馈。在一些实施方案中,图块可被固定,使得其不改变在网格内的位置。在一些实施方案中,当固定图块被放大时,一个或多个相邻图块被推动到名单,而放大的固定图块保留在网格中。在一些实施方案中,当放大的固定图块被减小到其原始显示大小时,被推动到网格的图块被从名单移除并且被显示在与固定图块相邻的其原始位置处。
在一些实施方案中,以二维阵列显示的实时通信会话的该多个参与者表示包括具有阻止参与者的相应表示改变在二维阵列内的定位(例如,响应于二维阵列中呈现的参与者数量的改变)的固定状态的该参与者的相应表示(例如,图8F中的810-9)。显示包括具有阻止参与者的相应表示改变在二维阵列内的定位的固定状态的该参与者的相应表示的实时通信会话的多个参与者表示,提供了用于维持参与者的相应表示的固定位置的附加控件,而不因用于维持相应参与者的固定位置的附加控件而使用户界面杂乱,这提供了附加控制选项而不使用户界面杂乱。
在一些实施方案中,显示实时通信会话的该多个参与者表示包括:显示二维阵列的第一区段(例如,包括图8H中的810-1、810-2a、810-4、810-5、810-9和810-10的区段)(例如,包括实时通信会话的参与者的两个或更多个行以及两个或更多个列的表示的区段);显示二维阵列的与第一区段不同(例如,与第一区段分开)的第二区段(例如,包括图8H中的810-3、810-7、810-6、810-8、810-11和810-12的区段)(例如,包括实时通信会话的参与者的两个或更多个行以及两个或更多个列的表示的区段);以及显示实时通信会话的第一参与者的放大表示(例如,810-2b),其中第一参与者的放大表示与二维阵列的第一区段的至少一部分和二维阵列的第二区段的至少一部分重叠。显示实时通信会话的该多个参与者表示,包括显示与二维阵列的第一区段的至少一部分和二维阵列的第二区段的至少一部分重叠的实时通信会话的第一参与者的放大表示,允许用户观看第一参与者的表示,同时维持与其他参与者的正在进行的实时通信会话的上下文,而不需要用户在用于观看第一参与者的表示和在二维阵列的第一区段和第二区段中的参与者的表示的单独用户界面之间导航,这提供了改进的视觉反馈而不使用户界面杂乱。
在一些实施方案中,在显示实时通信会话的该多个参与者表示(例如,660或810)和共享内容会话中的内容的表示(例如,620、670、820、830、810-2b和/或840)时,计算机系统(例如,600、601或602)接收移动内容的表示的请求(例如,615-11或615-12)(例如,输入)。在一些实施方案中,响应于接收到移动内容的表示的请求,计算机系统:根据移动内容的表示的请求(例如,基于输入的移动的方向和/或量值)来移动内容的表示(例如,如图6AB至图6AF所示,移动670);以及基于内容的表示的移动(例如,其移动位置)来改变(例如,移动)实时通信会话的一个或多个参与者表示(例如,区域654和/或区域656中的图块660)的位置(例如,以避开内容的表示的移动位置)。基于内容的表示的移动来改变实时通信会话的一个或多个参与者表示的位置允许计算机系统基于内容的位置的改变来自动地且动态地优化表示的定位,而不需要用户手动地调整实时通信应用程序的用户界面,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。在一些实施方案中,实时通信应用程序的用户界面包括在用户界面的第一区域(例如,656或806)中显示的实时通信会话的参与者表示的子集(例如,区域656或806中的图块660或810),该第一区域在视觉上不同于二维阵列。
在一些实施方案中,基于内容的表示的移动来改变实时通信会话的一个或多个参与者表示的位置包括基于内容的表示的移动来将参与者表示的子集从用户界面的第一区域移动到第二区域(例如,如图6AD所示)(例如,以避开内容的表示的移动位置)。基于内容的表示的移动来将实时通信会话的参与者表示的子集从用户界面的第一区域移动到第二区域允许计算机系统基于内容的位置的改变来自动地且动态地优化参与者表示的子集的定位,而不需要用户手动地调整实时通信应用程序的用户界面,这提供了改进的视觉反馈并且减少了执行操作所需的输入的数量。
在一些实施方案中,在显示实时通信会话的该多个参与者表示和共享内容会话中的内容的表示时,计算机系统接收选择用于在实时通信应用程序的用户界面(例如,605、630、650或805)中移动的项目(例如,610、620、640、670、660、810、820、830、810-2b或840)(例如,实时通信会话的参与者表示、实时通信会话的一组一个或多个参与者表示、或共享内容会话中的内容的表示)的请求(例如,615-11或615-12)(例如,输入)。在一些实施方案中,响应于接收到选择用于移动的项目的请求:根据确定该请求对应于对共享内容会话中的内容的表示(例如,620、670、820、830、810-2b或840)的选择,计算机系统启用内容的表示的移动(例如,基于输入的移动的方向和/或量值);以及根据确定该请求对应于对实时通信会话的一组一个或多个参与者表示(例如,610、660、640或810)(例如,阵列中的一个或多个图块、名单中的一个或多个图块)的选择,计算机系统放弃启用实时通信会话的该组一个或多个参与者表示的移动。当请求对应于对共享内容会话中的内容的表示的选择时启用内容的表示的移动,以及当请求对应于对实时通信会话的该组一个或多个参与者表示的选择时放弃启用实时通信会话的该组一个或多个参与者表示的移动,提供了用于选择用于在用户界面中移动的内容的表示的控件,而不因用于移动内容的表示的附加控件而使用户界面杂乱,这提供了附加控制选项而不使用户界面杂乱。在一些实施方案中,共享内容的表示可被选择来在用户界面中移动,并且网格和/或名单中的图块不能被选择来在用户界面中移动。
在一些实施方案中,在显示相对于实时通信会话的该多个参与者表示(例如,660-1、660-2、660-3、660-4和/或660-5)具有第一位置的内容的表示(例如,670)时(例如,如图6AF所示),计算机系统检测到实时通信应用程序的用户界面的取向的改变(例如,如图6AG所示)(例如,计算机系统从纵向取向到横向取向的旋转,或者计算机系统从横向取向到纵向取向的旋转)。在一些实施方案中,响应于检测到实时通信应用程序的用户界面的取向的改变:根据确定取向的改变是在第一方向上的旋转(例如,顺时针旋转),计算机系统在第二方向上旋转(例如,逆时针旋转)内容的表示(例如,670)和该多个参与者表示(例如,660-1、660-2、660-3、660-4和/或660-5)的显示取向,同时维持内容的表示相对于实时通信会话的该多个参与者表示的第一位置;以及根据确定取向的改变是在第三方向上的旋转(例如,如图6AG所示)(例如,逆时针旋转),计算机系统在第四方向上旋转(例如,顺时针旋转)内容的表示(例如,670)和该多个参与者表示(例如,660-1、660-2、660-3、660-4和/或660-5)的显示取向,同时维持内容的表示相对于实时通信会话的该多个参与者表示的第一位置(例如,如图6AG所示)。旋转内容的表示和该多个参与者表示的显示取向,同时维持内容的表示相对于实时通信会话的该多个参与者表示的第一位置,允许计算机系统优化内容的表示和该多个参与者表示的显示取向,而无需调整内容的表示和该多个参与者表示的显示布置(这种调整可能使计算机系统的用户分心),由此提供了改进的视觉反馈。
需注意,上文相对于方法900(例如,图9)所述的过程的详情也以类似方式适用于上文所述的方法。例如,方法700任选地包括上文参考方法900所述的各种方法的特性中的一个或多个特性。例如,图8A至图8H中所描绘的且参考方法900所述的用于显示共享内容的方法可适用于图6A至图6AS中所描绘的且参考方法700所述的实施方案。为简明起见,这些细节不再重复。
本文提供的各种实施方案通常使用设备600、601和602来描述。然而,应当理解,可使用其他计算机系统或设备(除了或代替设备600、601和/或602)来参与视频会议会话(具有或不具有同时的共享内容会话),并且可跨参与视频会议会话的各个设备以不同方式实现视频会议会话的各个方面。例如,可使用任选地包括显示部件的智能扬声器来参与视频会议会话。在一些实施方案中,智能扬声器处的输入可通过口头方式提供并且任选地经由触摸输入来提供,并且输出可以是音频输出并且任选地是在连接的显示部件处提供的视觉输出。作为另一示例,头戴式设备(HMD)的显示部件可用于显示视频会议会话的视觉方面(以及用于产生音频的扬声器),并且可通过检测手势、视线、手部移动、音频输入、触摸输入等来接收输入。在一些实施方案中,图中描绘的用户界面能够在诸如增强现实或虚拟现实的扩展现实环境中显示。例如,图中示出的视频图块、窗口和/或其他显示区域可悬浮显示在三维环境中。作为另一示例,用户或参与者的表示可显示为模拟三维化身或定位在三维环境周围的二维化身,而不是视频会议应用程序中的视频图块或窗口。另外,本文使用各种类型的输入(诸如轻击、拖动、点击和悬停手势)来描述实施方案,然而,应当理解,所描述的实施方案可被修改为响应于包括手势、视线、手部移动、音频输入等的其他形式的输入。另外,具有不同能力的不同设备可组合在单个视频会议会话(例如,具有或不具有共享内容会话)中,例如智能电话、平板电脑、膝上型计算机、台式计算机、智能扬声器、智能TV、耳机或耳塞、HMD和/或智能手表(或其子集)可参与相同的会话,其中不同的设备根据设备的能力以不同的方式参与(例如,HMD在模拟三维环境或增强现实环境中呈现内容,智能扬声器提供音频输出和输入,耳机提供空间音频输出和音频输入,膝上型计算机和台式计算机、智能电话和平板电脑提供音频和视觉输入和输出,智能TV提供音频和视觉输出和音频输入(或音频和视觉输入))。
出于解释的目的,前面的描述是通过参考具体实施方案来描述的。然而,之上的例示性论述并非旨在是穷尽的或将本发明限制为所公开的精确形式。根据以上教导内容,很多修改形式和变型形式都是可能的。选择并描述这些实施方案是为了最好地解释这些技术的原理及其实际应用程序。本领域的其他技术人员由此能够最好地利用这些技术以及具有适合于所预期的特定用途的各种修改的各种实施方案。
虽然参照附图对本公开以及示例进行了全面的描述,但应当注意,各种变化和修改对于本领域内的技术人员而言将变得显而易见。应当理解,此类变化和修改被认为被包括在由权利要求书所限定的本公开和示例的范围内。
如上所述,本技术的一个方面在于采集并使用得自各种来源的数据,以改善向用户递送视频会议会话的内容。本公开预期,在一些实例中,这些所采集的数据可包括唯一地识别或可用于联系或定位特定人员的个人信息数据。此类个人信息数据可包括人口统计数据、基于位置的数据、电话号码、电子邮件地址、社交网络ID、家庭地址、与用户的健康或健身级别相关的数据或记录(例如,生命体征测量、药物信息、锻炼信息)、出生日期或任何其他识别或个人信息。
本公开认识到在本发明技术中使用此类个人信息数据可用于使用户受益。例如,该个人信息数据可用于递送用户较感兴趣的目标内容。因此,使用此类个人信息数据使得用户能够对所递送的内容进行有计划的控制。此外,本公开还预期个人信息数据有益于用户的其他用途。例如,健康和健身数据可用于向用户的总体健康状况提供见解,或者可用作使用技术来追求健康目标的个人的积极反馈。
本公开设想负责采集、分析、公开、传输、存储或其他使用此类个人信息数据的实体将遵守既定的隐私政策和/或隐私实践。具体地,此类实体应当实行并坚持使用被公认为满足或超出对维护个人信息数据的隐私性和安全性的行业或政府要求的隐私政策和实践。此类政策应该能被用户方便地访问,并应随着数据的采集和/或使用变化而被更新。来自用户的个人信息应当被收集用于实体的合法且合理的用途,并且不在这些合法使用之外共享或出售。此外,应在收到用户知情同意后进行此类采集/共享。另外,此类实体应考虑采取任何必要步骤,保卫和保障对此类个人信息数据的访问,并确保有权访问个人信息数据的其他人遵守其隐私政策和流程。另外,这种实体可使其本身经受第三方评估以证明其遵守广泛接受的隐私政策和实践。另外,应当调整政策和实践,以便采集和/或访问的特定类型的个人信息数据,并适用于包括管辖范围的具体考虑的适用法律和标准。例如,在美国,对某些健康数据的收集或获取可能受联邦和/或州法律的管辖,诸如健康保险流通和责任法案(HIPAA);而其他国家的健康数据可能受到其他法规和政策的约束并应相应处理。因此,在每个国家应为不同的个人数据类型保持不同的隐私实践。
不管前述情况如何,本公开还预期用户选择性地阻止使用或访问个人信息数据的实施方案。即本公开预期可提供硬件元件和/或软件元件,以防止或阻止对此类个人信息数据的访问。例如,在一些实施方案中,本发明的技术可被配置为允许用户在注册服务期间或其后随时随地选择参与采集个人信息数据的“选择加入”或“选择退出”。在另一示例中,本技术可被配置为允许用户防止共享可能出现在用户的屏幕上的个人信息(例如,诸如在屏幕共享实施方案中)。除了提供“选择加入”和“选择退出”选项外,本公开还设想提供与访问或使用个人信息相关的通知。例如,可在下载应用时向用户通知其个人信息数据将被访问,然后就在个人信息数据被应用访问之前再次提醒用户。
此外,本公开的目的是应管理和处理个人信息数据以最小化无意或未经授权访问或使用的风险。一旦不再需要数据,通过限制数据收集和删除数据可最小化风险。此外,并且当适用时,包括在某些健康相关应用程序中,数据去标识可用于保护用户的隐私。可在适当时通过移除特定标识符(例如,出生日期等)、控制所存储数据的量或特异性(例如,在城市级别而不是在地址级别收集位置数据)、控制数据如何被存储(例如,在用户之间聚合数据)、和/或其他方法来促进去标识。
因此,虽然本公开广泛地覆盖了使用个人信息数据来实现一个或多个各种所公开的实施方案,但本公开还预期各种实施方案也可在无需访问此类个人信息数据的情况下被实现。即,本发明技术的各种实施方案不会由于缺少此类个人信息数据的全部或一部分而无法正常进行。例如,可通过基于非个人信息数据或绝对最低数量的个人信息诸如与用户相关联的设备所请求的内容、对内容递送服务可用的其他非个人信息或公开可用的信息来推断偏好,从而选择内容并将该内容递送至用户。
Claims (66)
1.一种方法,包括:
在与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统处:
显示实时通信会话的用户界面,所述用户界面包括所述实时通信会话的参与者的多个表示,所述多个表示包括:
在所述实时通信会话的所述用户界面的第一区域中以网格图案显示的第一组参与者表示;以及
在所述用户界面的第二区域中显示的第二组参与者表示,所述第二区域在视觉上不同于所述第一区域,其中所述第一组表示中的表示大于所述第二组表示中的表示;
在显示所述实时通信会话的包括所述实时通信会话的参与者的所述多个表示的所述用户界面时,检测所述第一区域的一个或多个尺寸的改变;以及
响应于检测到所述第一区域的所述一个或多个尺寸的所述改变,基于所述第一区域的所述一个或多个尺寸的所述改变来改变在所述第一区域中显示的所述实时通信会话的参与者表示的数量,包括停止在所述第一区域中显示相应参与者的第一表示以及在所述第二区域中显示所述相应参与者的第二表示。
2.根据权利要求1所述的方法,其中所述第一区域的一个或多个尺寸的所述改变包括所述第一区域的取向的改变。
3.根据权利要求1至2中任一项所述的方法,其中所述第一区域的一个或多个尺寸的所述改变包括所述第一区域的一个或多个尺寸的大小的改变。
4.根据权利要求1至3中任一项所述的方法,其中:
当所述第一区域处于第一状态时检测所述第一区域的一个或多个尺寸的所述改变;并且
响应于检测到所述第一区域的一个或多个尺寸的所述改变:
根据确定所述第一区域的一个或多个尺寸的所述改变与所述第一区域从所述第一状态到第二状态的改变相对应,所述相应参与者是所述实时通信会话的第一参与者;以及
根据确定所述第一区域的一个或多个尺寸的所述改变与所述第一区域从所述第一状态到与所述第二状态不同的第三状态的改变相对应,所述相应参与者是所述实时通信会话的与所述实时通信会话的所述第一参与者不同的第二参与者。
5.根据权利要求1至4中任一项所述的方法,还包括:
响应于检测到所述第一区域的所述一个或多个尺寸的所述改变:
在改变在所述第一区域中显示的所述实时通信会话的参与者表示的所述数量之前,改变在所述第一区域中的所述第一组参与者表示中的一个或多个表示的大小。
6.根据权利要求1至5中任一项所述的方法,其中在所述第一区域中显示的所述实时通信会话的参与者表示的所述数量基于最小表示大小。
7.根据权利要求1至6中任一项所述的方法,还包括:
在显示所述实时通信会话的所述用户界面时,检测所述实时通信会话的第一组一个或多个参与者表示的显示状态的改变;以及
响应于检测到所述实时通信会话的所述第一组一个或多个参与者表示的所述显示状态的所述改变,基于所述实时通信会话的所述第一组一个或多个参与者表示的所述显示状态的所述改变来更新以所述网格图案显示的所述第一组参与者表示,而不改变所述实时通信会话的未被包括在所述第一组中的第二组一个或多个参与者表示的显示位置。
8.根据权利要求7所述的方法,其中基于所述实时通信会话的所述第一组一个或多个参与者表示的所述显示状态的所述改变来更新以所述网格图案显示的所述第一组参与者表示,而不改变所述实时通信会话的未被包括在所述第一组中的所述第二组一个或多个参与者表示的显示位置包括:将所述实时通信会话的整行或整列参与者表示添加到所述第一区域或者从所述第一区域移除所述实时通信会话的整行或整列参与者表示。
9.根据权利要求7至8中任一项所述的方法,其中基于所述实时通信会话的所述第一组一个或多个参与者表示的所述显示状态的所述改变来更新以所述网格图案显示的所述第一组参与者表示,而不改变所述实时通信会话的未被包括在所述第一组中的所述第二组一个或多个参与者表示的显示位置包括:响应于所述实时通信会话的所述用户界面的取向的改变而维持所述第二组中的所述参与者表示的显示布置。
10.根据权利要求7至9中任一项所述的方法,其中基于所述实时通信会话的所述第一组一个或多个参与者表示的所述显示状态的所述改变来更新以所述网格图案显示的所述第一组参与者表示,而不改变所述实时通信会话的未被包括在所述第一组中的所述第二组一个或多个参与者表示的显示位置包括:响应于所述实时通信会话的所述用户界面的取向的改变而维持所述第二组中的所述参与者表示相对于所述显示生成部件的定位,同时根据所述实时通信会话的所述用户界面的取向的所述改变来旋转所述参与者表示。
11.根据权利要求1至10中任一项所述的方法,还包括:
根据确定第三参与者的活动水平满足一组活动标准,增加所述第三参与者的表示的大小。
12.根据权利要求1至11中任一项所述的方法,还包括:
根据确定第四参与者的活动水平满足一组活动标准,在视觉上区分所述第四参与者的表示,包括改变与所述第四参与者的所述表示相关联的深度效果。
13.根据权利要求1至12中任一项所述的方法,其中所述计算机系统与一个或多个相机通信,并且所述实时通信会话的所述用户界面包括所述一个或多个相机的视场的表示,所述方法还包括:
在将所述一个或多个相机的所述视场的所述表示显示为覆盖在所述实时通信会话的参与者的第一表示的至少一部分之上时,检测与所述实时通信会话的所述参与者的所述第一表示相对应的输入;以及
响应于检测到与所述实时通信会话的所述参与者的所述第一表示相对应的所述输入,将所述实时通信会话的所述参与者的所述第一表示显示为覆盖在所述一个或多个相机的所述视场的所述表示的至少一部分之上。
14.根据权利要求1至13中任一项所述的方法,还包括:
在显示所述实时通信会话的参与者的第二表示时,检测对所述实时通信会话的所述参与者的所述第二表示的选择;以及
响应于检测到对所述实时通信会话的所述参与者的所述第二表示的所述选择,显示能够选择以生成所述实时通信会话的所述参与者的所述第二表示的图像的捕获示能表示。
15.根据权利要求14所述的方法,其中:
所述计算机系统与一个或多个相机通信;
所述捕获示能表示被显示在所述实时通信会话的所述参与者的所述第二表示的第一部分中;并且
所述方法还包括:在检测到对所述实时通信会话的所述参与者的所述第二表示的所述选择之前,将所述一个或多个相机的视场的表示显示为覆盖在所述实时通信会话的所述参与者的所述第二表示的所述第一部分之上。
16.根据权利要求1至15中任一项所述的方法,还包括:
在显示在所述第二区域中显示并具有第一大小的所述第二组参与者表示时,接收显示用于所述实时通信会话的第一组一个或多个控件的请求;以及
响应于接收到显示用于所述实时通信会话的第一组一个或多个控件的所述请求:
显示用于所述实时通信会话的所述第一组一个或多个控件;以及
显示在所述第二区域中显示并具有小于所述第一大小的第二大小的所述第二组参与者表示。
17.根据权利要求1至16中任一项所述的方法,其中:
所述计算机系统与一个或多个相机通信;
所述实时通信会话的所述用户界面包括所述一个或多个相机的视场的表示;并且
在所述第二区域中显示的所述第二组参与者表示包括具有与所述一个或多个相机的所述视场的所述表示相邻的移位位置的一个或多个参与者表示。
18.根据权利要求1至17中任一项所述的方法,还包括:
在显示在所述第二区域中显示的所述第二组参与者表示的第一子集时,接收与在所述用户界面中在相应方向上的移动相对应的输入;以及
响应于接收到与在所述用户界面中在所述相应方向上的移动相对应的所述输入:
根据确定与在所述用户界面中在所述相应方向上的移动相对应的所述输入指向所述用户界面的包括所述第二组参与者表示的一部分,在所述相应方向上滚动所述第二组参与者表示,包括显示未被包括在所述第二组参与者表示的所述第一子集中的一个或多个参与者表示。
19.根据权利要求18所述的方法,还包括:
响应于接收到与在所述用户界面中在所述相应方向上的移动相对应的所述输入:
根据确定与在所述用户界面中在所述相应方向上的移动相对应的所述输入指向所述用户界面的包括所述第一组参与者表示的一部分,放弃滚动所述第一组参与者表示。
20.根据权利要求18至19中任一项所述的方法,其中:
所述计算机系统与一个或多个相机通信;
所述实时通信会话的所述用户界面包括所述一个或多个相机的视场的表示;并且
滚动所述第二组参与者表示包括在所述一个或多个相机的所述视场的所述表示下方滚动所述第二组参与者表示中的一个或多个参与者表示。
21.根据权利要求1至20中任一项所述的方法,还包括:
在改变在所述第一区域中显示的所述实时通信会话的参与者表示的所述数量之后,更新所述实时通信会话的所述用户界面的显示,包括:
根据确定所述第二组参与者表示包括所述实时通信会话的多于阈值数量的参与者表示,显示所述实时通信会话的所述第二组参与者表示;以及
根据确定所述第二组参与者表示不包括所述实时通信会话的多于所述阈值数量的参与者表示,停止显示所述实时通信会话的所述第二组参与者表示。
22.根据权利要求1至21中任一项所述的方法,还包括:
在显示在所述第一区域中显示并具有第一布置的所述第一组参与者表示时,接收显示用于所述实时通信会话的第二组一个或多个控件的请求;以及
响应于接收到显示用于所述实时通信会话的第二组一个或多个控件的所述请求:
显示用于所述实时通信会话的所述第二组一个或多个控件;以及
显示在所述第一区域中显示并具有与所述第一布置不同的第二布置的所述第一组参与者表示。
23.根据权利要求1至22中任一项所述的方法,其中所述实时通信会话的所述用户界面包括布置选择选项,所述布置选择选项在被选择时启用所述实时通信会话的第三组参与者表示的重叠布置。
24.根据权利要求23所述的方法,还包括:
在将与共享内容会话相关联的内容的表示与所述实时通信会话的所述用户界面的所述第一区域中的所述第一组参与者表示同时显示时,接收移动内容的所述表示的请求;以及
响应于接收到移动内容的所述表示的所述请求,将内容的所述表示从所述实时通信会话的所述用户界面中的第一定位移动到所述实时通信会话的所述用户界面中的第二定位,包括:
根据确定启用了所述第一组参与者表示的所述重叠布置,基于内容的所述表示的所述移动来改变所述第一区域中的所述第一组参与者表示中的一个或多个参与者表示的位置;以及
根据确定未启用所述第一组参与者表示的所述重叠布置,放弃基于内容的所述表示的所述移动来改变所述第一区域中的所述第一组参与者表示中的一个或多个参与者表示的位置。
25.根据权利要求23至24中任一项所述的方法,其中所述布置选择选项与所述实时通信会话的所述多个参与者表示被同时显示。
26.根据权利要求23至25中任一项所述的方法,还包括:
响应于预先确定数量的参与者参与所述实时通信会话,显示所述布置选择选项。
27.根据权利要求23至26中任一项所述的方法,还包括:
在显示所述布置选择选项时,接收少于所述预先确定数量的参与者正在参与所述实时通信会话的指示;以及
响应于接收到少于所述预先确定数量的参与者正在参与所述实时通信会话的所述指示,停止显示所述布置选择选项。
28.根据权利要求23至27中任一项所述的方法,还包括:
响应于参与者加入所述实时通信会话,发起所述布置选择选项的显示。
29.根据权利要求23至28中任一项所述的方法,其中:
在所述实时通信会话的所述用户界面中显示用于所述实时通信会话的第三组一个或多个控件时,显示所述布置选择选项;并且
所述方法还包括:
在所述布置选择选项与用于所述实时通信会话的所述第三组一个或多个控件同时显示时,检测与停止显示用于所述实时通信会话的所述第三组一个或多个控件相对应的相应条件的发生;以及
响应于检测到所述相应条件的所述发生,停止显示用于所述实时通信会话的所述第三组一个或多个控件并且停止显示所述布置选择选项。
30.根据权利要求1至29中任一项所述的方法,还包括:
在所述实时通信会话的所述用户界面的所述第一区域中以所述网格图案显示所述第一组参与者表示时,检测与改变所述用户界面中的参与者的所述多个表示的所述布置的请求相对应的第一手势,所述第一手势包括通过与所述用户界面中的所述参与者表示中的一个或多个表示相对应的定位的移动;以及
响应于检测到所述第一手势,以重叠布置显示所述实时通信会话的第四组参与者表示。
31.根据权利要求1至30中任一项所述的方法,还包括:
在所述实时通信会话的所述用户界面中以重叠布置显示所述实时通信会话的第五组参与者表示时,检测与改变所述用户界面中的参与者的所述多个表示的所述布置的请求相对应的第二手势,所述第二手势包括通过所述用户界面中的所述参与者表示中的一个或多个表示相对应的定位的移动;以及
响应于检测到所述第二手势,以网格图案显示所述实时通信会话的第六组参与者表示。
32.根据权利要求1至31中任一项所述的方法,还包括:
在所述实时通信会话的所述用户界面中以重叠布置显示所述实时通信会话的第七组参与者表示时,接收预先确定数量的参与者正在参与所述实时通信会话的指示;以及
响应于接收到预先确定数量的参与者正在参与所述实时通信会话的所述指示,显示指示能够以所述网格图案显示所述实时通信会话的参与者的所述多个表示的通知。
33.根据权利要求1至32中任一项所述的方法,其中所述第二区域中的所述一组参与者表示中的所述表示具有与和所述计算机系统通信的相机的视场的表示类似的高度。
34.根据权利要求1至33中任一项所述的方法,其中显示所述实时通信会话的所述用户界面包括在所述用户界面的在视觉上与所述第一区域不同的所述第二区域中显示与所述计算机系统通信的相机的视场的表示。
35.根据权利要求1至34中任一项所述的方法,其中基于所述第一区域的所述一个或多个尺寸的所述改变来改变在所述第一区域中显示的所述实时通信会话的参与者表示的数量包括:显示第一行参与者表示淡出,同时维持至少第二行参与者表示在所述第一区域中的显示。
36.根据权利要求1至35中任一项所述的方法,其中基于所述第一区域的所述一个或多个尺寸的所述改变来改变在所述第一区域中显示的所述实时通信会话的参与者表示的数量包括:显示第一列参与者表示淡出,同时维持至少第二列参与者表示在所述第一区域中的显示。
37.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行根据权利要求1至36中任一项所述的方法的指令。
38.一种被配置为与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统,所述计算机系统包括:
一个或多个处理器;和
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行根据权利要求1至36中任一项所述的方法的指令。
39.一种被配置为与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统,包括:
用于执行根据权利要求1至36中任一项所述的方法的装置。
40.一种计算机程序产品,所述计算机程序产品包括被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行根据权利要求1至36中任一项所述的方法的指令。
41.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于以下操作的指令:
显示实时通信会话的用户界面,所述用户界面包括所述实时通信会话的参与者的多个表示,所述多个表示包括:
在所述实时通信会话的所述用户界面的第一区域中以网格图案显示的第一组参与者表示;以及
在所述用户界面的第二区域中显示的第二组参与者表示,所述第二区域在视觉上不同于所述第一区域,其中所述第一组表示中的表示大于所述第二组表示中的表示;
在显示所述实时通信会话的包括所述实时通信会话的参与者的所述多个表示的所述用户界面时,检测所述第一区域的一个或多个尺寸的改变;以及
响应于检测到所述第一区域的所述一个或多个尺寸的所述改变,基于所述第一区域的所述一个或多个尺寸的所述改变来改变在所述第一区域中显示的所述实时通信会话的参与者表示的数量,包括停止在所述第一区域中显示相应参与者的第一表示以及在所述第二区域中显示所述相应参与者的第二表示。
42.一种被配置为与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统,包括:
一个或多个处理器;和
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于以下操作的指令:
显示实时通信会话的用户界面,所述用户界面包括所述实时通信会话的参与者的多个表示,所述多个表示包括:
在所述实时通信会话的所述用户界面的第一区域中以网格图案显示的第一组参与者表示;和
在所述用户界面的第二区域中显示的第二组参与者表示,所述第二区域在视觉上不同于所述第一区域,其中所述第一组表示中的表示大于所述第二组表示中的表示;
在显示所述实时通信会话的包括所述实时通信会话的参与者的所述多个表示的所述用户界面时,检测所述第一区域的一个或多个尺寸的改变;以及
响应于检测到所述第一区域的所述一个或多个尺寸的所述改变,基于所述第一区域的所述一个或多个尺寸的所述改变来改变在所述第一区域中显示的所述实时通信会话的参与者表示的数量,包括停止在所述第一区域中显示相应参与者的第一表示以及在所述第二区域中显示所述相应参与者的第二表示。
43.一种被配置为与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统,包括:
用于显示实时通信会话的用户界面的装置,所述用户界面包括所述实时通信会话的参与者的多个表示,所述多个表示包括:
在所述实时通信会话的所述用户界面的第一区域中以网格图案显示的第一组参与者表示;和
在所述用户界面的第二区域中显示的第二组参与者表示,所述第二区域在视觉上不同于所述第一区域,其中所述第一组表示中的表示大于所述第二组表示中的表示;
用于以下操作的装置:在显示所述实时通信会话的包括所述实时通信会话的参与者的所述多个表示的所述用户界面时,检测所述第一区域的一个或多个尺寸的改变;和
用于以下操作的装置:响应于检测到所述第一区域的所述一个或多个尺寸的所述改变,基于所述第一区域的所述一个或多个尺寸的所述改变来改变在所述第一区域中显示的所述实时通信会话的参与者表示的数量,包括停止在所述第一区域中显示相应参与者的第一表示以及在所述第二区域中显示所述相应参与者的第二表示。
44.一种计算机程序产品,所述计算机程序产品包括被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于以下操作的指令:
显示实时通信会话的用户界面,所述用户界面包括所述实时通信会话的参与者的多个表示,所述多个表示包括:
在所述实时通信会话的所述用户界面的第一区域中以网格图案显示的第一组参与者表示;和
在所述用户界面的第二区域中显示的第二组参与者表示,所述第二区域在视觉上不同于所述第一区域,其中所述第一组表示中的表示大于所述第二组表示中的表示;
在显示所述实时通信会话的包括所述实时通信会话的参与者的所述多个表示的所述用户界面时,检测所述第一区域的一个或多个尺寸的改变;以及
响应于检测到所述第一区域的所述一个或多个尺寸的所述改变,基于所述第一区域的所述一个或多个尺寸的所述改变来改变在所述第一区域中显示的所述实时通信会话的参与者表示的数量,包括停止在所述第一区域中显示相应参与者的第一表示以及在所述第二区域中显示所述相应参与者的第二表示。
45.一种方法,包括:
在与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统处:
接收显示与实时通信会话相对应的实时通信应用程序的用户界面的请求;
响应于接收到显示与所述实时通信会话相对应的所述实时通信应用程序的所述用户界面的所述请求,显示与所述实时通信会话相对应的所述实时通信应用程序的所述用户界面;以及
在所述计算机系统连接到所述实时通信会话并且连接到共享内容会话时:
在所述实时通信应用程序的所述用户界面中同时显示:
所述实时通信会话的参与者的多个表示,所述多个表示以二维阵列显示,所述二维阵列包括两个或更多个行以及两个或更多个列;和
所述共享内容会话中的内容的表示,内容的所述表示被显示为在视觉上与所述阵列相关联,其中内容的所述表示具有与所述阵列的两个或更多个行和/或所述阵列的两个或更多个列相对应的大小。
46.根据权利要求45所述的方法,其中所述共享内容会话中的内容的所述表示包括所述实时通信会话的活动参与者的表示。
47.根据权利要求46所述的方法,其中所述共享内容会话中的内容的所述表示包括所述活动参与者的第一表示,并且参与者的所述多个表示包括所述活动参与者的第二表示。
48.根据权利要求45至47中任一项所述的方法,其中显示所述共享内容会话中的内容的表示包括:
根据确定所述内容具有第一纵横比,显示所述内容的具有第一大小的所述表示;以及
根据确定所述内容具有与所述第一纵横比不同的第二纵横比,显示所述内容的具有与所述第一大小不同的第二大小的所述表示。
49.根据权利要求45至48中任一项所述的方法,其中所述共享内容会话中的内容的所述表示包括发起所述共享内容会话中的所述内容的输出的参与者的表示。
50.根据权利要求49所述的方法,其中发起所述共享内容会话中的所述内容的输出的所述参与者的所述表示包括所述参与者的实况视频馈送。
51.根据权利要求49至50中任一项所述的方法,其中显示所述共享内容会话中的内容的所述表示包括显示包括所述内容的所述表示和发起所述共享内容会话中的所述内容的输出的参与者的表示的区域,其中发起所述共享内容会话中的所述内容的输出的所述参与者的所述表示与所述内容的所述表示分开显示。
52.根据权利要求45至51中任一项所述的方法,还包括:
在以所述二维阵列显示所述实时通信会话的参与者的所述多个表示,其中相应参与者表示具有第一显示大小时,检测与所述实时通信会话的参与者的具有所述第一显示大小的第一表示相对应的一组一个或多个输入;以及
响应于检测到与所述实时通信会话的所述参与者的所述第一表示相对应的所述一组一个或多个输入,将所述实时通信会话的所述参与者的所述第一表示显示为位于所述二维阵列中并且具有与所述第一显示大小不同的第二显示大小,同时将所述实时通信会话的其他参与者表示显示为具有所述第一显示大小。
53.根据权利要求45至52中任一项所述的方法,其中以所述二维阵列显示的所述实时通信会话的参与者的所述多个表示包括具有固定状态的参与者的相应表示,所述固定状态阻止参与者的所述相应表示改变在所述二维阵列内的定位。
54.根据权利要求45至53中任一项所述的方法,其中显示所述实时通信会话中的参与者的所述多个表示包括:
显示所述二维阵列的第一区段;
显示所述二维阵列的与所述第一区段不同的第二区段;以及
显示所述实时通信会话的第一参与者的放大表示,其中所述第一参与者的所述放大表示与所述二维阵列的所述第一区段的至少一部分和所述二维阵列的所述第二区段的至少一部分重叠。
55.根据权利要求45至54中任一项所述的方法,还包括:
在显示所述实时通信会话的参与者的所述多个表示和所述共享内容会话中的内容的所述表示时,接收移动内容的所述表示的请求;以及
响应于接收到移动内容的所述表示的所述请求:
根据移动内容的所述表示的所述请求来移动内容的所述表示;以及
基于内容的所述表示的所述移动来改变所述实时通信会话的一个或多个参与者表示的位置。
56.根据权利要求55所述的方法,其中:
所述实时通信应用程序的所述用户界面包括在所述用户界面的第一区域中显示的所述实时通信会话的参与者表示的子集,所述第一区域在视觉上不同于所述二维阵列;以及
基于内容的所述表示的所述移动来改变所述实时通信会话的一个或多个参与者表示的位置包括基于内容的所述表示的所述移动将参与者表示的所述子集从所述第一区域移动到所述用户界面的第二区域。
57.根据权利要求45至56中任一项所述的方法,还包括:
在显示所述实时通信会话的参与者的所述多个表示和所述共享内容会话中的内容的所述表示时,接收选择用于在所述实时通信应用程序的所述用户界面中移动的项目的请求;以及
响应于接收到选择用于移动的项目的所述请求:
根据确定所述请求与对所述共享内容会话中的内容的所述表示的选择相对应,启用内容的所述表示的移动;以及
根据确定所述请求与对所述实时通信会话的一组一个或多个参与者表示的选择相对应,放弃启用所述实时通信会话的所述一组一个或多个参与者表示的移动。
58.根据权利要求45至57中任一项所述的方法,还包括:
在显示相对于所述实时通信会话的参与者的所述多个表示具有第一位置的内容的所述表示时,检测所述实时通信应用程序的所述用户界面的取向的改变;以及
响应于检测到所述实时通信应用程序的所述用户界面的取向的所述改变:
根据确定取向的所述改变是在第一方向上的旋转,在第二方向上旋转所述内容的所述表示和参与者的所述多个表示的显示取向,同时维持所述内容的所述表示相对于所述实时通信会话的参与者的所述多个表示的所述第一位置;以及
根据确定取向的所述改变是在第三方向上的旋转,在第四方向上旋转所述内容的所述表示和参与者的所述多个表示的显示取向,同时维持所述内容的所述表示相对于所述实时通信会话的参与者的所述多个表示的所述第一位置。
59.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行根据权利要求45至58中任一项所述的方法的指令。
60.一种被配置为与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统,所述计算机系统包括:
一个或多个处理器;和
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行根据权利要求45至58中任一项所述的方法的指令。
61.一种被配置为与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统,包括:
用于执行根据权利要求45至58中任一项所述的方法的装置。
62.一种计算机程序产品,所述计算机程序产品包括被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行根据权利要求45至58中任一项所述的方法的指令。
63.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于以下操作的指令:
接收显示与实时通信会话相对应的实时通信应用程序的用户界面的请求;
响应于接收到显示与所述实时通信会话相对应的所述实时通信应用程序的所述用户界面的所述请求,显示与所述实时通信会话相对应的所述实时通信应用程序的所述用户界面;以及
在所述计算机系统连接到所述实时通信会话并且连接到共享内容会话时:
在所述实时通信应用程序的所述用户界面中同时显示:
所述实时通信会话的参与者的多个表示,所述多个表示以二维阵列显示,所述二维阵列包括两个或更多个行以及两个或更多个列;和
所述共享内容会话中的内容的表示,内容的所述表示被显示为在视觉上与所述阵列相关联,其中内容的所述表示具有与所述阵列的两个或更多个行和/或所述阵列的两个或更多个列相对应的大小。
64.一种被配置为与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统,包括:
一个或多个处理器;和
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于以下操作的指令:
接收显示与实时通信会话相对应的实时通信应用程序的用户界面的请求;
响应于接收到显示与所述实时通信会话相对应的所述实时通信应用程序的所述用户界面的所述请求,显示与所述实时通信会话相对应的所述实时通信应用程序的所述用户界面;以及
在所述计算机系统连接到所述实时通信会话并且连接到共享内容会话时:
在所述实时通信应用程序的所述用户界面中同时显示:
所述实时通信会话的参与者的多个表示,所述多个表示以二维阵列显示,所述二维阵列包括两个或更多个行以及两个或更多个列;和
所述共享内容会话中的内容的表示,内容的所述表示被显示为在视觉上与所述阵列相关联,其中内容的所述表示具有与所述阵列的两个或更多个行和/或所述阵列的两个或更多个列相对应的大小。
65.一种被配置为与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统,包括:
用于以下操作的装置:接收显示与实时通信会话相对应的实时通信应用程序的用户界面的请求;
用于以下操作的装置:响应于接收到显示与所述实时通信会话相对应的所述实时通信应用程序的所述用户界面的所述请求,显示与所述实时通信会话相对应的所述实时通信应用程序的所述用户界面;和
用于以下操作的装置:在所述计算机系统连接到所述实时通信会话并且连接到共享内容会话时:
在所述实时通信应用程序的所述用户界面中同时显示:
所述实时通信会话的参与者的多个表示,所述多个表示以二维阵列显示,所述二维阵列包括两个或更多个行以及两个或更多个列;和
所述共享内容会话中的内容的表示,内容的所述表示被显示为在视觉上与所述阵列相关联,其中内容的所述表示具有与所述阵列的两个或更多个行和/或所述阵列的两个或更多个列相对应的大小。
66.一种计算机程序产品,所述计算机程序产品包括被配置为由与一个或多个显示生成部件和一个或多个输入设备通信的计算机系统的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于以下操作的指令:
接收显示与实时通信会话相对应的实时通信应用程序的用户界面的请求;
响应于接收到显示与所述实时通信会话相对应的所述实时通信应用程序的所述用户界面的所述请求,显示与所述实时通信会话相对应的所述实时通信应用程序的所述用户界面;以及
在所述计算机系统连接到所述实时通信会话并且连接到共享内容会话时:
在所述实时通信应用程序的所述用户界面中同时显示:
所述实时通信会话的参与者的多个表示,所述多个表示以二维阵列显示,所述二维阵列包括两个或更多个行以及两个或更多个列;和
所述共享内容会话中的内容的表示,内容的所述表示被显示为在视觉上与所述阵列相关联,其中内容的所述表示具有与所述阵列的两个或更多个行和/或所述阵列的两个或更多个列相对应的大小。
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US63/190,224 | 2021-05-18 | ||
US63/197,461 | 2021-06-06 | ||
US63/230,476 | 2021-08-06 | ||
US17/745,680 US20220374136A1 (en) | 2021-05-18 | 2022-05-16 | Adaptive video conference user interfaces |
US17/745,680 | 2022-05-16 | ||
PCT/US2022/029580 WO2022245787A1 (en) | 2021-05-18 | 2022-05-17 | Adaptive video conference user interfaces |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117296309A true CN117296309A (zh) | 2023-12-26 |
Family
ID=89259007
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202280036185.4A Pending CN117296309A (zh) | 2021-05-18 | 2022-05-17 | 自适应视频会议用户界面 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117296309A (zh) |
-
2022
- 2022-05-17 CN CN202280036185.4A patent/CN117296309A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11895391B2 (en) | Capturing and displaying images with multiple focal planes | |
US20220374136A1 (en) | Adaptive video conference user interfaces | |
DK180130B1 (da) | Multi-participant live communication user interface | |
DK179635B1 (en) | USER INTERFACE FOR CAMERA EFFECTS | |
WO2020243662A1 (en) | Audio media user interface | |
US11921998B2 (en) | Editing features of an avatar | |
CN113114970A (zh) | 创意相机 | |
US20220391056A1 (en) | User interfaces for managing application widgets | |
CN112437912A (zh) | 加速滚动和选择 | |
AU2022228207B2 (en) | Multi-participant live communication user interface | |
US11943559B2 (en) | User interfaces for providing live video | |
AU2019218241B2 (en) | Media capture lock affordance for graphical user interface | |
CN117296309A (zh) | 自适应视频会议用户界面 | |
AU2021203903B2 (en) | Multi-participant live communication user interface | |
WO2022245787A1 (en) | Adaptive video conference user interfaces | |
JP2024521670A (ja) | 適応型ビデオ会議ユーザインターフェース | |
CN117501316A (zh) | 用于在增强现实环境中添加效果的系统、方法和图形用户界面 | |
WO2022067318A1 (en) | User interfaces for controlling an insertion marker | |
CN117041417A (zh) | 用于管理共享内容会话的用户界面 | |
KR20230113825A (ko) | 광각 화상 회의에 대한 사용자 인터페이스들 | |
CN112181258A (zh) | 加速滚动和选择 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |