CN117354622A - 相机和访问者用户界面 - Google Patents
相机和访问者用户界面 Download PDFInfo
- Publication number
- CN117354622A CN117354622A CN202311560430.4A CN202311560430A CN117354622A CN 117354622 A CN117354622 A CN 117354622A CN 202311560430 A CN202311560430 A CN 202311560430A CN 117354622 A CN117354622 A CN 117354622A
- Authority
- CN
- China
- Prior art keywords
- camera
- user interface
- view
- displaying
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 claims abstract description 214
- 230000004044 response Effects 0.000 claims description 261
- 230000008569 process Effects 0.000 claims description 101
- 238000004891 communication Methods 0.000 claims description 74
- 230000008859 change Effects 0.000 claims description 58
- 230000015654 memory Effects 0.000 claims description 46
- 230000000977 initiatory effect Effects 0.000 claims description 27
- 230000002829 reductive effect Effects 0.000 claims description 12
- 230000000007 visual effect Effects 0.000 description 158
- 230000001815 facial effect Effects 0.000 description 96
- 230000033001 locomotion Effects 0.000 description 71
- 230000004913 activation Effects 0.000 description 65
- 238000001994 activation Methods 0.000 description 65
- 238000004458 analytical method Methods 0.000 description 49
- 238000001514 detection method Methods 0.000 description 40
- 230000006870 function Effects 0.000 description 26
- 230000003287 optical effect Effects 0.000 description 22
- 230000002093 peripheral effect Effects 0.000 description 19
- 238000013475 authorization Methods 0.000 description 16
- 238000005516 engineering process Methods 0.000 description 16
- 238000012545 processing Methods 0.000 description 15
- 230000000694 effects Effects 0.000 description 14
- 230000003213 activating effect Effects 0.000 description 13
- 230000001976 improved effect Effects 0.000 description 13
- 230000005540 biological transmission Effects 0.000 description 12
- 230000007246 mechanism Effects 0.000 description 12
- 241000699666 Mus <mouse, genus> Species 0.000 description 11
- 238000012790 confirmation Methods 0.000 description 11
- 238000007726 management method Methods 0.000 description 11
- 230000006835 compression Effects 0.000 description 10
- 238000007906 compression Methods 0.000 description 10
- 230000007423 decrease Effects 0.000 description 10
- 238000003825 pressing Methods 0.000 description 10
- 230000007704 transition Effects 0.000 description 9
- 238000004590 computer program Methods 0.000 description 8
- 230000003111 delayed effect Effects 0.000 description 8
- 238000005259 measurement Methods 0.000 description 8
- 230000009471 action Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 238000009499 grossing Methods 0.000 description 7
- 238000012800 visualization Methods 0.000 description 7
- 230000001149 cognitive effect Effects 0.000 description 6
- 230000001186 cumulative effect Effects 0.000 description 6
- 238000010420 art technique Methods 0.000 description 5
- 238000006073 displacement reaction Methods 0.000 description 5
- 238000003058 natural language processing Methods 0.000 description 5
- 230000001960 triggered effect Effects 0.000 description 5
- 230000001276 controlling effect Effects 0.000 description 4
- 230000036541 health Effects 0.000 description 4
- 239000003550 marker Substances 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000021317 sensory perception Effects 0.000 description 4
- 239000007787 solid Substances 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 230000001413 cellular effect Effects 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 230000000670 limiting effect Effects 0.000 description 3
- 241000699670 Mus sp. Species 0.000 description 2
- 241001422033 Thestylus Species 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 238000013503 de-identification Methods 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000035807 sensation Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 230000008685 targeting Effects 0.000 description 2
- 241001503987 Clematis vitalba Species 0.000 description 1
- 241000282412 Homo Species 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000000881 depressing effect Effects 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 229920001746 electroactive polymer Polymers 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000007620 mathematical function Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000003032 molecular docking Methods 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 229920000642 polymer Polymers 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000008093 supporting effect Effects 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
- H04N7/186—Video door telephones
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/43—Querying
- G06F16/432—Query formulation
- G06F16/434—Query formulation using image data, e.g. images, photos, pictures taken by a user
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
- G06F16/5854—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using shape and object relationship
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/451—Execution arrangements for user interfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L12/00—Data switching networks
- H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
- H04L12/2803—Home automation networks
- H04L12/2816—Controlling appliance services of a home automation network by calling their functionalities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
- H04N21/4312—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
- H04N21/4316—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
- H04N21/47217—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for controlling playback functions for recorded or on-demand content, e.g. using progress bars, mode or play-point indicators or bookmarks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/188—Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
- H04L67/125—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks involving control of end-device applications over a network
Abstract
本公开整体涉及相机和访问者用户界面。在一些示例中,本公开涉及用于在相机视图的各配置之间切换的技术。在一些示例中,本公开涉及显示家庭自动化系统的附件设备所检测到的访问者的指示。在一些示例中,本公开涉及显示多视图相机用户界面。
Description
分案声明
本申请是PCT国际申请号为PCT/US2021/035715、国际申请日为2021年06月03日、进入中国国家阶段的申请号为202180006225.6并且发明名称为“相机和访问者用户界面”的发明专利申请的分案申请。
相关申请的交叉引用
本申请要求2021年5月17日提交的名称为“CAMERA AND VISITOR USERINTERFACES”的美国临时申请序列号63/189,605、2020年6月3日提交的名称为“CAMERAANDVISITOR USER INTERFACES”的美国临时申请No.63/034,313、2020年9月22日提交的名称为“CAMERA ANDVISITOR USER INTERFACES”的美国申请No.17/028,176以及2020年9月23日提交的名称为“CAMERA ANDVISITOR USER INTERFACES”的丹麦申请No.PA 2020 70627的优先权。这些申请的全部内容据此全文以引用方式并入本文。
技术领域
本公开整体涉及计算机用户界面,并且更具体地讲涉及用于管理相机视图和访问者的技术。
背景技术
安装在家的内部或外面的相机使该家的居住者能够查看在该家的入口处发生或已发生的事件。所述相机录制入口处的视频或拍摄入口处的图像,居住者可从各种电子设备查看所述视频或图像。
发明内容
然而,用于使用电子设备来管理相机视图和访问者的一些技术通常很麻烦且效率低下。例如,居住者可能希望收到相机所捕获的事件、入口处的访问者或其他重要事件的通知。又如,用于管理相机视图或通知的一些现有技术使用复杂且耗时的用户界面,该用户界面可包括多次按键或击键。又如,一些现有技术不能够使用户在不同相机视图之间切换,同时保持控制其他附件的能力。其他现有技术不能为用户提供在相机所捕获的图像中获得与近期访问者相关的信息的能力,其中该信息对于家庭认识的访问者和家庭不认识的访问者是不同的。此外,其他现有技术不能基于与可用于显示的媒体流相对应的事件来提供建议的通知。更进一步,其他现有技术不能提供通知,所述通知识别当前登入的用户或用户账户并且提供用于登入不同用户或用户账户的选项或指令。现有技术需要比所需更多的时间,这导致浪费用户的时间和设备能量。这后一考虑在电池驱动的设备中是特别重要的。
因此,本技术为电子设备提供了用于管理相机视图和访问者的更快、更有效的方法和界面。此类方法和界面任选地补充或替换用于管理相机视图和访问者的其他方法。此类方法和界面减少对用户所造成的认知负担,并且产生更有效的人机界面。对于电池驱动的计算设备,此类方法和界面节省功率,并且增大电池充电之间的时间间隔。
根据一些实施方案描述了一种方法。该方法包括在与显示生成部件通信的计算机系统处:在经由显示生成部件显示内容时,接收第一输入;响应于接收到第一输入,经由显示生成部件显示至少部分地覆盖在该内容上的相机视图,该相机视图使用第一视觉配置来显示;在经由显示生成部件显示覆盖在该内容上的具有第一视觉配置的相机视图时,接收第二输入;以及响应于接收到第二输入:经由显示生成部件同时显示:使用与第一视觉配置不同的第二视觉配置的相机视图;和对应于附件设备的附件控制用户界面对象,其中对该附件控制用户界面对象的选择发起用于传输改变该附件设备的状态的指令的过程。
根据一些实施方案描述了一种非暂态计算机可读存储介质。该非暂态计算机可读存储介质存储被配置为由与显示生成部件通信的计算机系统的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:在经由显示生成部件显示内容时,接收第一输入;响应于接收到第一输入,经由显示生成部件显示至少部分地覆盖在该内容上的相机视图,该相机视图使用第一视觉配置来显示;在经由显示生成部件显示覆盖在该内容上的具有第一视觉配置的相机视图时,接收第二输入;以及响应于接收到第二输入:经由显示生成部件同时显示:使用与第一视觉配置不同的第二视觉配置的相机视图;和对应于附件设备的附件控制用户界面对象,其中对该附件控制用户界面对象的选择发起用于传输改变该附件设备的状态的指令的过程。
根据一些实施方案描述了一种暂态计算机可读存储介质。该暂态计算机可读存储介质存储被配置为由与显示生成部件通信的计算机系统的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:在经由显示生成部件显示内容时,接收第一输入;响应于接收到第一输入,经由显示生成部件显示至少部分地覆盖在该内容上的相机视图,该相机视图使用第一视觉配置来显示;在经由显示生成部件显示覆盖在该内容上的具有第一视觉配置的相机视图时,接收第二输入;以及响应于接收到第二输入:经由显示生成部件同时显示:使用与第一视觉配置不同的第二视觉配置的相机视图;和对应于附件设备的附件控制用户界面对象,其中对该附件控制用户界面对象的选择发起用于传输改变该附件设备的状态的指令的过程。
根据一些实施方案描述了一种计算机系统。该计算机系统包括显示生成部件;一个或多个输入设备;一个或多个处理器;和存储器,该存储器存储被配置为由该一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:在经由显示生成部件显示内容时,接收第一输入;响应于接收到第一输入,经由显示生成部件显示至少部分地覆盖在该内容上的相机视图,该相机视图使用第一视觉配置来显示;在经由显示生成部件显示覆盖在该内容上的具有第一视觉配置的相机视图时,接收第二输入;以及响应于接收到第二输入:经由显示生成部件同时显示:使用与第一视觉配置不同的第二视觉配置的相机视图;和对应于附件设备的附件控制用户界面对象,其中对该附件控制用户界面对象的选择发起用于传输改变该附件设备的状态的指令的过程。
根据一些实施方案描述了一种计算机系统。该计算机系统包括显示生成部件;在经由显示生成部件显示内容时,用于接收第一输入的装置;响应于接收到第一输入,用于经由显示生成部件显示至少部分地覆盖在该内容上的相机视图的装置,该相机视图使用第一视觉配置来显示;在经由显示生成部件显示覆盖在该内容上的具有第一视觉配置的相机视图时,用于接收第二输入的装置;以及响应于接收到第二输入:用于经由显示生成部件同时显示以下各项的装置:使用与第一视觉配置不同的第二视觉配置的相机视图;和对应于附件设备的附件控制用户界面对象,其中对该附件控制用户界面对象的选择发起用于传输改变该附件设备的状态的指令的过程。
根据一些实施方案描述了一种方法。该方法包括在与显示生成部件通信的计算机系统处:经由显示生成部件显示多个示能表示,该多个示能表示对应于相机所捕获的访问者图像,其中该相机与该计算机系统相关联,并且其中该多个示能表示包括:第一示能表示,该第一示能表示对应于作为已知访问者的第一访问者;和与第一示能表示不同的第二示能表示,该第二示能表示对应于作为未知访问者的第二访问者;在显示对应于门铃相机所捕获的访问者图像的该多个示能表示时,接收第一用户输入;以及响应于接收到第一用户输入:根据确定第一用户输入对应于对第一示能表示的选择,显示第一用户界面,该第一用户界面包括对应于第一访问者的信息;根据确定第一用户输入对应于对第二示能表示的选择,发起用于将第二访问者分类为已知访问者的过程,包括显示第二用户界面;在显示第二用户界面之后,接收对应于姓名的一个或多个输入;以及响应于接收到对应于该姓名的该一个或多个输入,将第二访问者分类为已知访问者。
根据一些实施方案描述了一种非暂态计算机可读存储介质。该非暂态计算机可读存储介质存储被配置为由与显示生成部件通信的计算机系统的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:经由显示生成部件显示多个示能表示,该多个示能表示对应于相机所捕获的访问者图像,其中该相机与该计算机系统相关联,并且其中该多个示能表示包括:第一示能表示,该第一示能表示对应于作为已知访问者的第一访问者;和与第一示能表示不同的第二示能表示,该第二示能表示对应于作为未知访问者的第二访问者;在显示对应于门铃相机所捕获的访问者图像的该多个示能表示时,接收第一用户输入;以及响应于接收到第一用户输入:根据确定第一用户输入对应于对第一示能表示的选择,显示第一用户界面,该第一用户界面包括对应于第一访问者的信息;根据确定第一用户输入对应于对第二示能表示的选择,发起用于将第二访问者分类为已知访问者的过程,包括显示第二用户界面;在显示第二用户界面之后,接收对应于姓名的一个或多个输入;以及响应于接收到对应于该姓名的该一个或多个输入,将第二访问者分类为已知访问者。
根据一些实施方案描述了一种暂态计算机可读存储介质。该暂态计算机可读存储介质存储被配置为由与显示生成部件通信的计算机系统的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:经由显示生成部件显示多个示能表示,该多个示能表示对应于相机所捕获的访问者图像,其中该相机与该计算机系统相关联,并且其中该多个示能表示包括:第一示能表示,该第一示能表示对应于作为已知访问者的第一访问者;和与第一示能表示不同的第二示能表示,该第二示能表示对应于作为未知访问者的第二访问者;在显示对应于门铃相机所捕获的访问者图像的该多个示能表示时,接收第一用户输入;以及响应于接收到第一用户输入:根据确定第一用户输入对应于对第一示能表示的选择,显示第一用户界面,该第一用户界面包括对应于第一访问者的信息;根据确定第一用户输入对应于对第二示能表示的选择,发起用于将第二访问者分类为已知访问者的过程,包括显示第二用户界面;在显示第二用户界面之后,接收对应于姓名的一个或多个输入;以及响应于接收到对应于该姓名的该一个或多个输入,将第二访问者分类为已知访问者。
根据一些实施方案描述了一种计算机系统。该计算机系统包括显示生成部件;一个或多个输入设备;一个或多个处理器;和存储器,该存储器存储被配置为由该一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:经由显示生成部件显示多个示能表示,该多个示能表示对应于相机所捕获的访问者图像,其中该相机与该计算机系统相关联,并且其中该多个示能表示包括:第一示能表示,该第一示能表示对应于作为已知访问者的第一访问者;和与第一示能表示不同的第二示能表示,该第二示能表示对应于作为未知访问者的第二访问者;在显示对应于门铃相机所捕获的访问者图像的该多个示能表示时,接收第一用户输入;以及响应于接收到第一用户输入:根据确定第一用户输入对应于对第一示能表示的选择,显示第一用户界面,该第一用户界面包括对应于第一访问者的信息;根据确定第一用户输入对应于对第二示能表示的选择,发起用于将第二访问者分类为已知访问者的过程,包括显示第二用户界面;在显示第二用户界面之后,接收对应于姓名的一个或多个输入;以及响应于接收到对应于该姓名的该一个或多个输入,将第二访问者分类为已知访问者。
根据一些实施方案描述了一种计算机系统。该计算机系统包括显示生成部件;用于经由显示生成部件显示多个示能表示的装置,该多个示能表示对应于相机所捕获的访问者图像,其中该相机与该计算机系统相关联,并且其中该多个示能表示包括:第一示能表示,该第一示能表示对应于作为已知访问者的第一访问者;和与第一示能表示不同的第二示能表示,该第二示能表示对应于作为未知访问者的第二访问者;在显示对应于门铃相机所捕获的访问者图像的该多个示能表示时,用于接收第一用户输入的装置;以及响应于接收到第一用户输入而用于执行以下操作的装置:根据确定第一用户输入对应于对第一示能表示的选择,显示第一用户界面,该第一用户界面包括对应于第一访问者的信息;根据确定第一用户输入对应于对第二示能表示的选择,发起用于将第二访问者分类为已知访问者的过程,包括显示第二用户界面;在显示第二用户界面之后,用于接收对应于姓名的一个或多个输入的装置;以及响应于接收到对应于该姓名的该一个或多个输入,用于将第二访问者分类为已知访问者的装置。
根据一些实施方案描述了一种方法。该方法包括在与一个或多个麦克风和显示生成部件通信的计算机系统处:经由该一个或多个麦克风接收用于显示与位置的第一区域相关联的第一多个相机的第一多个相机视图的第一音频请求;响应于接收到用于显示第一多个相机视图的第一音频请求,经由显示生成部件显示第一多视图用户界面,这包括同时显示第一多个相机视图中的至少两个相机视图,而不经由显示生成部件显示与和该位置的第一区域不同的该位置的第二区域相关联的、与第一多个相机不同的第二多个相机的相机视图;在显示第一多视图用户界面时,接收第一输入,该第一输入对应于对第一多个相机视图中的第一相机视图的选择;以及响应于接收到第一输入:修改第一相机视图;根据确定一个或多个可控附件设备可用于第一区域,经由显示生成部件来与经修改的第一相机视图同时显示第一附件访问用户界面对象;以及根据确定没有可控附件设备可用于第一区域,放弃显示第一附件访问用户界面对象。
根据一些实施方案描述了一种非暂态计算机可读存储介质。该非暂态计算机可读存储介质存储被配置为由与一个或多个麦克风和显示生成部件通信的计算机系统的一个或多个处理器执行的一个或多个程序:经由该一个或多个麦克风接收用于显示与位置的第一区域相关联的第一多个相机的第一多个相机视图的第一音频请求;响应于接收到用于显示第一多个相机视图的第一音频请求,经由显示生成部件显示第一多视图用户界面,这包括同时显示第一多个相机视图中的至少两个相机视图,而不经由显示生成部件显示与和该位置的第一区域不同的该位置的第二区域相关联的、与第一多个相机不同的第二多个相机的相机视图;在显示第一多视图用户界面时,接收第一输入,该第一输入对应于对第一多个相机视图中的第一相机视图的选择;以及响应于接收到第一输入:修改第一相机视图;根据确定一个或多个可控附件设备可用于第一区域,经由显示生成部件来与经修改的第一相机视图同时显示第一附件访问用户界面对象;以及根据确定没有可控附件设备可用于第一区域,放弃显示第一附件访问用户界面对象。
根据一些实施方案描述了一种暂态计算机可读存储介质。该暂态计算机可读存储介质存储被配置为由与一个或多个麦克风和显示生成部件通信的计算机系统的一个或多个处理器执行的一个或多个程序:经由该一个或多个麦克风接收用于显示与位置的第一区域相关联的第一多个相机的第一多个相机视图的第一音频请求;响应于接收到用于显示第一多个相机视图的第一音频请求,经由显示生成部件显示第一多视图用户界面,这包括同时显示第一多个相机视图中的至少两个相机视图,而不经由显示生成部件显示与和该位置的第一区域不同的该位置的第二区域相关联的、与第一多个相机不同的第二多个相机的相机视图;在显示第一多视图用户界面时,接收第一输入,该第一输入对应于对第一多个相机视图中的第一相机视图的选择;以及响应于接收到第一输入:修改第一相机视图;根据确定一个或多个可控附件设备可用于第一区域,经由显示生成部件来与经修改的第一相机视图同时显示第一附件访问用户界面对象;以及根据确定没有可控附件设备可用于第一区域,放弃显示第一附件访问用户界面对象。
根据一些实施方案描述了一种计算机系统。该计算机系统被配置为与一个或多个麦克风和显示生成部件通信。该计算机系统包括:一个或多个处理器;和存储器,该存储器存储被配置为由该一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:经由该一个或多个麦克风接收用于显示与位置的第一区域相关联的第一多个相机的第一多个相机视图的第一音频请求;响应于接收到用于显示第一多个相机视图的第一音频请求,经由显示生成部件显示第一多视图用户界面,这包括同时显示第一多个相机视图中的至少两个相机视图,而不经由显示生成部件显示与和该位置的第一区域不同的该位置的第二区域相关联的、与第一多个相机不同的第二多个相机的相机视图;在显示第一多视图用户界面时,接收第一输入,该第一输入对应于对第一多个相机视图中的第一相机视图的选择;以及响应于接收到第一输入:修改第一相机视图;根据确定一个或多个可控附件设备可用于第一区域,经由显示生成部件来与经修改的第一相机视图同时显示第一附件访问用户界面对象;以及根据确定没有可控附件设备可用于第一区域,放弃显示第一附件访问用户界面对象。
根据一些实施方案描述了一种计算机系统。该计算机系统被配置为与一个或多个麦克风和显示生成部件通信。该计算机系统包括:用于经由该一个或多个麦克风接收用于显示与位置的第一区域相关联的第一多个相机的第一多个相机视图的第一音频请求的装置;响应于接收到用于显示第一多个相机视图的第一音频请求而用于经由显示生成部件显示第一多视图用户界面的装置,这包括同时显示第一多个相机视图中的至少两个相机视图,而不经由显示生成部件显示与和该位置的第一区域不同的该位置的第二区域相关联的、与第一多个相机不同的第二多个相机的相机视图;在显示第一多视图用户界面时用于接收第一输入的装置,该第一输入对应于对第一多个相机视图中的第一相机视图的选择;以及响应于接收到第一输入而用于执行以下操作的装置:修改第一相机视图;根据确定一个或多个可控附件设备可用于第一区域,经由显示生成部件来与经修改的第一相机视图同时显示第一附件访问用户界面对象;以及根据确定没有可控附件设备可用于第一区域,放弃显示第一附件访问用户界面对象。
根据一些实施方案描述了一种计算机程序产品。该计算机程序产品包括被配置为由与一个或多个麦克风和显示生成部件通信的计算机系统的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:经由该一个或多个麦克风接收用于显示与位置的第一区域相关联的第一多个相机的第一多个相机视图的第一音频请求;响应于接收到用于显示第一多个相机视图的第一音频请求,经由显示生成部件显示第一多视图用户界面,这包括同时显示第一多个相机视图中的至少两个相机视图,而不经由显示生成部件显示与和该位置的第一区域不同的该位置的第二区域相关联的、与第一多个相机不同的第二多个相机的相机视图;在显示第一多视图用户界面时,接收第一输入,该第一输入对应于对第一多个相机视图中的第一相机视图的选择;以及响应于接收到第一输入:修改第一相机视图;根据确定一个或多个可控附件设备可用于第一区域,经由显示生成部件来与经修改的第一相机视图同时显示第一附件访问用户界面对象;以及根据确定没有可控附件设备可用于第一区域,放弃显示第一附件访问用户界面对象。
用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的非暂态计算机可读存储介质或其他计算机程序产品中。用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的暂态计算机可读存储介质或其他计算机程序产品中。
因此,为设备提供了用于管理相机视图和访问者的更快、更高效的方法和界面,从而提高了此类设备的有效性、效率和用户满意度。此类方法和界面可补充或替换用于管理相机视图和访问者的其他方法。
附图说明
为了更好地理解各种所述实施方案,应结合以下附图参考下面的具体实施方式,其中类似的附图标号在所有附图中指示对应的部分。
图1A是示出了根据一些实施方案的具有触敏显示器的便携式多功能设备的框图。
图1B是示出了根据一些实施方案的用于事件处理的示例性部件的框图。
图2示出了根据一些实施方案的具有触摸屏的便携式多功能设备。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。
图4A示出了根据一些实施方案的针对便携式多功能设备上应用程序的菜单的示例性用户界面。
图4B示出了根据一些实施方案的针对具有与显示器分开的触敏表面的多功能设备的示例性用户界面。
图5A示出了根据一些实施方案的个人电子设备。
图5B是示出了根据一些实施方案的个人电子设备的框图。
图5C-图5D示出了根据一些实施方案的具有触敏显示器和强度传感器的个人电子设备的示例性部件。
图5E-图5H示出了根据一些实施方案的个人电子设备的示例性部件和用户界面。
图6A至图6U示出了根据一些实施方案的用于显示相机视图的示例性设备和用户界面。
图7示出了根据一些实施方案的用于显示相机视图的过程的流程图。
图8A至图8W示出了根据一些实施方案的用于管理访问者的示例性设备和用户界面。
图9示出了根据一些实施方案的用于管理访问者的过程的流程图。
图10A至图10U示出了根据一些实施方案的用于显示相机视图的示例性设备和用户界面。
图11示出了根据一些实施方案的用于显示相机视图的过程的流程图。
具体实施方式
以下描述阐述了示例性方法、参数等。然而,应当认识到,此类描述并非意在限制本公开的范围,而是作为对示例性实施方案的描述来提供。
需要能提供用于管理相机视图和访问者的有效方法和界面的电子设备。例如,当在电子设备上查看内容时,用户通常必须停止或暂停该内容以显示来自家的相机的视图。此外,将该内容替换为来自家的相机的放大视图可能是不可能的或需要繁琐界面的导航。所公开的技术可减少希望在电子设备上显示内容时接收来自相机的视图的用户的认知负担,从而提高生产率。又如,查看访问过家的个体的近期列表的用户可区分各个访问者以及家中的某人是否认识相应个体。此类技术还可减少想要查看与用户最相关的家的访问者的用户的认知负担,从而提高生产率。此外,此类技术可减少以其他方式浪费在冗余用户输入上的处理器功率和电池功率。
下面图1A-图1B、图2、图3、图4A-图4B和图5A-图5H提供了对用于执行管理事件通知的技术的示例性设备的描述。图6A至图6U示出了用于显示相机视图的示例性用户界面。图7是示出根据一些实施方案的显示相机视图的方法的流程图。图6A至图6U中的用户界面用于示出下文所述的过程,这些过程包括图7中的过程。图8A至图8W示出了用于管理访问者的示例性用户界面。图9是示出根据一些实施方案的管理访问者的方法的流程图。图8A至图8W中的用户界面用于示出下文所述的过程,这些过程包括图9中的过程。图10A至图10U示出了用于显示相机视图的示例性用户界面。图11是示出根据一些实施方案的显示相机视图的方法的流程图。图10A至图10U中的用户界面用于示出下文所述的过程,这些过程包括图11中的过程。
此外,在本文所述的其中一个或多个步骤取决于已满足一个或多个条件的方法中,应当理解,所述方法可在多次重复中重复,使得在重复的过程中,在方法的不同重复中已满足决定方法中的步骤的所有条件。例如,如果方法需要执行第一步骤(如果满足条件),以及执行第二步骤(如果不满足条件),则普通技术人员将会知道,重复所声明的步骤,直到满足条件和不满足条件两者(不分先后)。因此,可将被描述为具有取决于已满足一个或多个条件的一个或多个步骤的方法重写为重复直到已满足该方法中所述的每个条件的方法。然而,这不需要系统或计算机可读介质声明该系统或计算机可读介质包含用于基于对应的一个或多个条件的满足来执行视情况而定的操作的指令,并且因此能够确定是否已满足可能的情况,而无需明确地重复方法的步骤直到已满足决定方法中的步骤的所有条件。本领域的普通技术人员还将理解,类似于具有视情况而定的步骤的方法,系统或计算机可读存储介质可根据需要多次重复方法的步骤,以确保已执行所有视情况而定的步骤。
尽管以下描述使用术语“第一”、“第二”等来描述各种元件,但这些元件不应受术语的限制。这些术语只是用于将一个元件与另一元件区分开。例如,第一触摸可被命名为第二触摸并且类似地第二触摸可被命名为第一触摸,而不脱离各种所述实施方案的范围。第一触摸和第二触摸两者均为触摸,但是它们不是同一触摸。
在本文中对各种所述实施方案的描述中所使用的术语只是为了描述特定实施方案的目的,而并非旨在进行限制。如在对各种所述实施方案中的描述和所附权利要求书中所使用的那样,单数形式“一个”和“该”旨在也包括复数形式,除非上下文另外明确地指示。还将理解的是,本文中所使用的术语“和/或”是指并且涵盖相关联的所列出的项目中的一个或多个项目的任何和全部可能的组合。还将理解的是,术语“包括”(“includes”、“including”、“comprises”和/或“comprising”)在本说明书中使用时是指定存在所陈述的特征、整数、步骤、操作、元件和/或部件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、部件和/或其分组。
根据上下文,术语“如果”任选地被解释为意指“当......时”、“在......时”或“响应于确定”或“响应于检测到”。类似地,根据上下文,短语“如果确定……”或“如果检测到[所陈述的条件或事件]”任选地被解释为是指“在确定……时”或“响应于确定……”或“在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。
本文描述了电子设备、此类设备的用户界面和使用此类设备的相关过程的实施方案。在一些实施方案中,该设备为还包含其他功能诸如PDA和/或音乐播放器功能的便携式通信设备,诸如移动电话。便携式多功能设备的示例性实施方案包括但不限于来自AppleInc.(Cupertino,California)的设备、iPod/>设备、和/>设备。任选地使用其他便携式电子设备,诸如具有触敏表面(例如,触摸屏显示器和/或触控板)的膝上型电脑或平板电脑。还应当理解的是,在一些实施方案中,该设备并非便携式通信设备,而是具有触敏表面(例如,触摸屏显示器和/或触控板)的台式计算机。在一些实施方案中,电子设备是(例如,经由无线通信、经由有线通信)与显示生成部件进行通信的计算机系统。显示生成部件被配置为提供视觉输出,诸如经由CRT显示器的显示、经由LED显示器的显示或者经由图像投影的显示。在一些实施方案中,显示生成部件与该计算机系统集成。在一些实施方案中,显示生成部件与该计算机系统分开。如本文所用,“显示”内容包括通过经由有线或无线连接向集成或外部显示生成部件传输数据(例如,图像数据或视频数据)以在视觉上产生内容来显示内容(例如,由显示控制器156渲染或解码的视频数据)。
在下面的讨论中,描述了一种包括显示器和触敏表面的电子设备。然而,应当理解,该电子设备任选地包括一个或多个其他物理用户界面设备,诸如物理键盘、鼠标和/或操纵杆。
该设备通常支持各种应用程序,诸如以下中的一者或多者:绘图应用程序、呈现应用程序、文字处理应用程序、网站创建应用程序、盘编辑应用程序、电子表格应用程序、游戏应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息应用程序、健身支持应用程序、照片管理应用程序、数字相机应用程序、数字视频摄像机应用程序、网页浏览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。
在设备上执行的各种应用程序任选地使用至少一个通用的物理用户界面设备,诸如触敏表面。触敏表面的一种或多种功能以及被显示在设备上的对应信息任选地对于不同应用程序被调整和/或变化,和/或在相应应用程序内被调整和/或变化。这样,设备的共用物理架构(诸如触敏表面)任选地利用对于用户而言直观且清楚的用户界面来支持各种应用程序。
现在将注意力转到具有触敏显示器的便携式设备的实施方案。图1A是示出了根据一些实施方案的具有触敏显示器系统112的便携式多功能设备100的框图。触敏显示器112有时为了方便被叫做“触摸屏”,并且有时被称为或被叫做“触敏显示器系统”。设备100包括存储器102(其任选地包括一个或多个计算机可读存储介质)、存储器控制器122、一个或多个处理单元(CPU)120、外围设备接口118、RF电路108、音频电路110、扬声器111、麦克风113、输入/输出(I/O)子系统106、其他输入控制设备116和外部端口124。设备100任选地包括一个或多个光学传感器164。设备100任选地包括用于检测设备100(例如,触敏表面,诸如设备100的触敏显示器系统112)上的接触的强度的一个或多个接触强度传感器165。设备100任选地包括用于在设备100上生成触觉输出的一个或多个触觉输出发生器167(例如,在触敏表面(诸如设备100的触敏显示器系统112或设备300的触控板355)上生成触觉输出)。这些部件任选地通过一个或多个通信总线或信号线103进行通信。
如在本说明书和权利要求书中所使用的,术语触敏表面上的接触的“强度”是指触敏表面上的接触(例如,手指接触)的力或压力(每单位面积的力),或是指触敏表面上的接触的力或压力的替代物(代用物)。接触的强度具有值范围,该值范围包括至少四个不同的值并且更典型地包括上百个不同的值(例如,至少256个)。接触的强度任选地使用各种方法和各种传感器或传感器的组合来确定(或测量)。例如,在触敏表面下方或相邻于触敏表面的一个或多个力传感器任选地用于测量触敏表面上的不同点处的力。在一些具体实施中,来自多个力传感器的力测量值被组合(例如,加权平均)以确定所估计的接触力。类似地,触笔的压敏顶端任选地用于确定触笔在触敏表面上的压力。另选地,在触敏表面上检测到的接触区域的大小和/或其变化、接触附近的触敏表面的电容和/或其变化以及/或者接触附近的触敏表面的电阻和/或其变化任选地被用作触敏表面上的接触的力或压力的替代物。在一些具体实施中,接触力或压力的替代物测量直接用于确定是否已经超过强度阈值(例如,强度阈值以对应于替代物测量的单位来描述)。在一些具体实施中,接触力或压力的替代物测量被转换成估计的力或压力,并且估计的力或压力用于确定是否已超过强度阈值(例如,强度阈值是以压力的单位进行测量的压力阈值)。使用接触的强度作为用户输入的属性,从而允许用户访问用户在实地面积有限的尺寸更小的设备上本来不可访问的附加设备功能,该尺寸更小的设备用于(例如,在触敏显示器上)显示示能表示和/或接收用户输入(例如,经由触敏显示器、触敏表面或物理控件/机械控件,诸如旋钮或按钮)。
如本说明书和权利要求书中所使用的,术语“触觉输出”是指将由用户利用用户的触感检测到的设备相对于设备的先前位置的物理位移、设备的部件(例如,触敏表面)相对于设备的另一个部件(例如,外壳)的物理位移、或部件相对于设备的质心的位移。例如,在设备或设备的部件与用户对触摸敏感的表面(例如,手指、手掌或用户手部的其他部分)接触的情况下,通过物理位移生成的触觉输出将由用户解释为触感,该触感对应于设备或设备的部件的物理特征的所感知的变化。例如,触敏表面(例如,触敏显示器或触控板)的移动任选地由用户解释为对物理致动按钮的“按下点击”或“松开点击”。在一些情况下,用户将感觉到触感,诸如“按下点击”或“松开点击”,即使在通过用户的移动而物理地被按压(例如,被移位)的与触敏表面相关联的物理致动按钮没有移动时。又如,即使在触敏表面的光滑度无变化时,触敏表面的移动也会任选地由用户解释或感测为触敏表面的“粗糙度”。虽然用户对触摸的此类解释将受到用户的个体化感官知觉的限制,但是对触摸的许多感官知觉是大多数用户共有的。因此,当触觉输出被描述为对应于用户的特定感官知觉(例如,“按下点击”、“松开点击”、“粗糙度”)时,除非另外陈述,否则所生成的触觉输出对应于设备或其部件的物理位移,该物理位移将会生成典型(或普通)用户的所述感官知觉。
应当理解,设备100仅仅是便携式多功能设备的一个示例,并且设备100任选地具有比所示出的部件更多或更少的部件,任选地组合两个或更多个部件,或者任选地具有这些部件的不同配置或布置。图1A中所示的各种部件以硬件、软件或硬件与软件两者的组合来实现,包括一个或多个信号处理和/或专用集成电路。
存储器102任选地包括高速随机存取存储器,并且还任选地包括非易失性存储器,诸如一个或多个磁盘存储设备、闪存存储器设备、或其他非易失性固态存储器设备。存储器控制器122任选地控制设备100的其他部件访问存储器102。
外围设备接口118可用于将设备的输入外围设备和输出外围设备耦接到CPU 120和存储器102。该一个或多个处理器120运行或执行存储器102中所存储的各种软件程序(诸如计算机程序(例如,包括指令))和/或指令集以执行设备100的各种功能并处理数据。在一些实施方案中,外围设备接口118、CPU 120和存储器控制器122任选地被实现在单个芯片诸如芯片104上。在一些其他实施方案中,它们任选地在独立的芯片上实现。
RF(射频)电路108接收和发送也被称作电磁信号的RF信号。RF电路108将电信号转换为电磁信号/将电磁信号转换为电信号,并且经由电磁信号与通信网络及其他通信设备进行通信。RF电路108任选地包括用于执行这些功能的熟知的电路,包括但不限于天线系统、RF收发器、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、编解码芯片组、用户身份模块(SIM)卡、存储器等等。RF电路108任选地通过无线通信来与网络和其他设备进行通信,这些网络为诸如互联网(也被称为万维网(WWW))、内联网和/或无线网络(诸如,蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))。RF电路108任选地包括用于诸如通过近程通信无线电部件来检测近场通信(NFC)场的熟知的电路。无线通信任选地使用多种通信标准、协议和技术中的任一种,包括但不限于全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入(HSUPA)、演进、纯数据(EV-DO)、HSPA、HSPA+、双小区HSPA(DC-HSPDA)、长期演进(LTE)、近场通信(NFC)、宽带码分多址(W-CDMA)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、蓝牙低功耗(BTLE)、无线保真(Wi-Fi)(例如,IEEE 802.11a、IEEE 802.11b、IEEE 802.11g、IEEE 802.11n和/或IEEE802.11ac)、互联网协议语音(VoIP)、Wi-MAX、电子邮件协议(例如,互联网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如,可扩展消息处理和存在协议(XMPP)、用于即时消息和存在利用扩展的会话发起协议(SIMPLE)、即时消息和存在服务(IMPS))和/或短消息服务(SMS),或者任何其他适当的通信协议,包括在本文档提交日期时尚未开发出的通信协议。
音频电路110、扬声器111和麦克风113提供用户与设备100之间的音频接口。音频电路110从外围设备接口118接收音频数据,将音频数据转换为电信号,并将电信号传输到扬声器111。扬声器111将电信号转换为人类可听到的声波。音频电路110还接收由麦克风113从声波转换的电信号。音频电路110将电信号转换为音频数据,并且将音频数据传输到外围设备接口118以用于处理。音频数据任选地由外围设备接口118检索自和/或传输至存储器102和/或RF电路108。在一些实施方案中,音频电路110还包括耳麦插孔(例如,图2中的212)。耳麦插孔提供音频电路110与可移除音频输入/输出外围设备之间的接口,该外围设备为诸如仅输出的耳机或者具有输出(例如,单耳耳机或双耳耳机)和输入(例如,麦克风)两者的耳麦。
I/O子系统106将设备100上的输入/输出外围设备诸如触摸屏112和其他输入控制设备116耦接到外围设备接口118。I/O子系统106任选地包括显示控制器156、光学传感器控制器158、深度相机控制器169、强度传感器控制器159、触觉反馈控制器161,以及用于其他输入或控制设备的一个或多个输入控制器160。该一个或多个输入控制器160从其他输入控制设备116接收电信号/将电信号发送到该其他输入控制设备。该其他输入控制设备116任选地包括物理按钮(例如,下压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击式转盘等。在一些实施方案中,输入控制器160任选地耦接到以下各项中的任一者(或不耦接到以下各项中的任一者):键盘、红外线端口、USB端口,以及指向设备诸如鼠标。一个或多个按钮(例如,图2中的208)任选地包括用于扬声器111和/或麦克风113音量控制的增大/减小按钮。该一个或多个按钮任选地包括下压按钮(例如,图2中的206)。在一些实施方案中,电子设备是(例如,经由无线通信、经由有线通信)与一个或多个输入设备进行通信的计算机系统。在一些实施方案中,该一个或多个输入设备包括触敏表面(例如,触控板,作为触敏显示器的一部分)。在一些实施方案中,该一个或多个输入设备包括一个或多个相机传感器(例如,一个或多个光学传感器164和/或一个或多个深度相机传感器175),诸如用于跟踪用户的手势(例如,手部手势)作为输入。在一些实施方案中,一个或多个输入设备与该计算机系统集成。在一些实施方案中,一个或多个输入设备与该计算机系统分开。
快速按下下压按钮任选地脱离触摸屏112的锁定或者任选地开始使用触摸屏上的手势来对设备进行解锁的过程,如在2005年12月23日提交的名称为“Unlocking a Deviceby Performing Gestures on an Unlock Image”的美国专利申请11/322,549(即,美国专利No.7,657,849)中所述的,该美国专利申请据此全文以引用方式并入本文。长按下压按钮(例如206)任选地使设备100开机或关机。一个或多个按钮的功能任选地为用户可定制的。触摸屏112用于实现虚拟按钮或软按钮以及一个或多个软键盘。
触敏显示器112提供设备和用户之间的输入接口和输出接口。显示控制器156从触摸屏112接收电信号和/或将电信号发送到触摸屏112。触摸屏112向用户显示视觉输出。视觉输出任选地包括图形、文本、图标、视频以及它们的任何组合(统称为“图形”)。在一些实施方案中,一些视觉输出或全部的视觉输出任选地与用户界面对象对应。
触摸屏112具有基于触觉和/或触感接触来接受来自用户的输入的触敏表面、传感器、或传感器组。触摸屏112和显示控制器156(与存储器102中的任何相关联的模块和/或指令集一起)检测触摸屏112上的接触(和该接触的任何移动或中断),并且将所检测到的接触转换为与被显示在触摸屏112上的用户界面对象(例如,一个或多个软键、图标、网页或图像)的交互。在示例性实施方案中,触摸屏112与用户之间的接触点对应于用户的手指。
触摸屏112任选地使用LCD(液晶显示器)技术、LPD(发光聚合物显示器)技术或LED(发光二极管)技术,但是在其他实施方案中使用其他显示技术。触摸屏112和显示控制器156任选地使用现在已知的或以后将开发出的多种触摸感测技术中的任何技术以及其他接近传感器阵列或用于确定与触摸屏112接触的一个或多个点的其他元件来检测接触及其任何移动或中断,该多种触摸感测技术包括但不限于电容性的、电阻性的、红外线的、和表面声波技术。在示例性实施方案中,使用投射式互电容感测技术,诸如在来自Apple Inc.(Cupertino,California)的和iPod />中使用的技术。
触摸屏112的一些实施方案中的触敏显示器任选地类似于以下美国专利中描述的多点触敏触控板:6,323,846(Westerman等人)、6,570,557(Westerman等人)和/或6,677,932(Westerman等人)和/或美国专利公开2002/0015024A1,该每个专利据此全文以引用方式并入。然而,触摸屏112显示来自设备100的视觉输出,而触敏触控板不提供视觉输出。
在一些实施方案中,触摸屏112的触敏显示器如以下专利申请所述:(1)提交于2006年5月2日的名称为“Multipoint Touch Surface Controller”的美国专利申请No.11/381,313;(2)2004年5月6日提交的名称为“Multipoint Touchscreen”的美国专利申请No.10/840,862;(3)2004年7月30日提交的名称为“Gestures For Touch Sensitive InputDevices”的美国专利申请No.10/903,964;(4)2005年1月31日提交的名称为“Gestures ForTouch Sensitive Input Devices”的美国专利申请No.11/048,264;(5)2005年1月18日提交的名称为“Mode-Based Graphical User Interfaces For Touch Sensitive InputDevices”的美国专利申请No.11/038,590;(6)2005年9月16日提交的名称为“VirtualInput Device Placement On A Touch Screen User Interface”的美国专利申请No.11/228,758;(7)2005年9月16日提交的名称为“Operation Of A Computer With A TouchScreen Interface”的美国专利申请No.11/228,700;(8)2005年9月16日提交的名称为“Activating Virtual Keys Of A Touch-Screen Virtual Keyboard”的美国专利申请No.11/228,737;以及(9)2006年3月3日提交的名称为“Multi-Functional Hand-HeldDevice”的美国专利申请No.11/367,749。所有这些申请全文以引用方式并入本文。
触摸屏112任选地具有超过100dpi的视频分辨率。在一些实施方案中,触摸屏具有约160dpi的视频分辨率。用户任选地使用任何合适的物体或附加物诸如触笔、手指等等来与触摸屏112接触。在一些实施方案中,将用户界面设计为主要通过基于手指的接触和手势来工作,由于手指在触摸屏上的接触区域较大,因此这可能不如基于触笔的输入精确。在一些实施方案中,设备将基于手指的粗略输入转化为精确的指针/光标位置或命令以用于执行用户所期望的动作。
在一些实施方案中,除了触摸屏之外,设备100任选地包括用于激活或去激活特定功能的触控板。在一些实施方案中,触控板是设备的触敏区域,与触摸屏不同,该触敏区域不显示视觉输出。触控板任选地是与触摸屏112分开的触敏表面,或者是由触摸屏形成的触敏表面的延伸部分。
设备100还包括用于为各种部件供电的电力系统162。电力系统162任选地包括电力管理系统、一个或多个电源(例如,电池、交流电(AC))、再充电系统、电力故障检测电路、功率转换器或逆变器、电源状态指示符(例如,发光二极管(LED))以及与便携式设备中的电力的生成、管理和分配相关联的任何其他部件。
设备100任选地还包括一个或多个光学传感器164。图1A示出了耦接到I/O子系统106中的光学传感器控制器158的光学传感器。光学传感器164任选地包括电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)光电晶体管。光学传感器164从环境接收通过一个或多个透镜而投射的光,并且将光转换为表示图像的数据。结合成像模块143(也叫做相机模块),光学传感器164任选地捕获静态图像或视频。在一些实施方案中,光学传感器位于设备100的后部上,与设备前部上的触摸屏显示器112相背对,使得触摸屏显示器能够用作用于静态图像和/或视频图像采集的取景器。在一些实施方案中,光学传感器位于设备的前部上,使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取该用户的图像以用于视频会议。在一些实施方案中,光学传感器164的位置可由用户改变(例如,通过旋转设备外壳中的透镜和传感器),使得单个光学传感器164与触摸屏显示器一起使用,以用于视频会议和静态图像和/或视频图像采集两者。
设备100任选地还包括一个或多个深度相机传感器175。图1A示出了耦接到I/O子系统106中的深度相机控制器169的深度相机传感器。深度相机传感器175从环境接收数据以从视点(例如,深度相机传感器)创建场景内的对象(例如,面部)的三维模型。在一些实施方案中,结合成像模块143(也称为相机模块),深度相机传感器175可选地用于确定由成像模块143捕获的图像的不同部分的深度图。在一些实施方案中,深度相机传感器位于设备100的前部,使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取具有深度信息的用户图像以用于视频会议,并且捕捉具有深度图数据的自拍。在一些实施方案中,深度相机传感器175位于设备的后部,或者设备100的后部和前部。在一些实施方案中,深度相机传感器175的位置可由用户改变(例如,通过旋转设备外壳中的透镜和传感器),使得深度相机传感器175与触摸屏显示器一起使用以用于视频会议和静态图像和/或视频图像采集两者。
设备100任选地还包括一个或多个接触强度传感器165。图1A示出了耦接到I/O子系统106中的强度传感器控制器159的接触强度传感器。接触强度传感器165任选地包括一个或多个压阻应变仪、电容式力传感器、电气力传感器、压电力传感器、光学力传感器、电容式触敏表面或其他强度传感器(例如,用于测量触敏表面上的接触的力(或压力)的传感器)。接触强度传感器165从环境接收接触强度信息(例如,压力信息或压力信息的代用物)。在一些实施方案中,至少一个接触强度传感器与触敏表面(例如,触敏显示器系统112)并置排列或邻近。在一些实施方案中,至少一个接触强度传感器位于设备100的后部上,与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个接近传感器166。图1A示出了耦接到外围设备接口118的接近传感器166。另选地,接近传感器166任选地耦接到I/O子系统106中的输入控制器160。接近传感器166任选地如以下美国专利申请中所述的那样执行:No.11/241,839,名称为“Proximity Detector In Handheld Device”;No.11/240,788,名称为“ProximityDetector In Handheld Device”;No.11/620,702,名称为“Using Ambient Light SensorTo Augment Proximity Sensor Output”;No.11/586,862,名称为“Automated ResponseTo And Sensing Of User Activity In Portable Devices”;以及No.11/638,251,名称为“Methods And Systems For Automatic Configuration Of Peripherals”,这些美国专利申请据此全文以引用方式并入本文。在一些实施方案中,当多功能设备被置于用户的耳朵附近时(例如,当用户正在进行电话呼叫时),接近传感器关闭并且禁用触摸屏112。
设备100任选地还包括一个或多个触觉输出发生器167。图1A示出了耦接到I/O子系统106中的触觉反馈控制器161的触觉输出发生器。触觉输出发生器167任选地包括一个或多个电声设备诸如扬声器或其他音频部件;和/或用于将能量转换成线性运动的机电设备诸如电机、螺线管、电活性聚合物、压电致动器、静电致动器或其他触觉输出生成部件(例如,用于将电信号转换成设备上的触觉输出的部件)。接触强度传感器165从触觉反馈模块133接收触觉反馈生成指令,并且在设备100上生成能够由设备100的用户感觉到的触觉输出。在一些实施方案中,至少一个触觉输出发生器与触敏表面(例如,触敏显示器系统112)并置排列或邻近,并且任选地通过竖直地(例如,向设备100的表面内/外)或侧向地(例如,在与设备100的表面相同的平面中向后和向前)移动触敏表面来生成触觉输出。在一些实施方案中,至少一个触觉输出发生器传感器位于设备100的后部上,与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个加速度计168。图1A示出了耦接到外围设备接口118的加速度计168。另选地,加速度计168任选地耦接到I/O子系统106中的输入控制器160。加速度计168任选地如以下美国专利公开中所述的那样执行:美国专利公开No.20050190059,名称为“Acceleration-based Theft Detection System for PortableElectronic Devices”和美国专利公开No.20060017692,名称为“Methods AndApparatuses For Operating A Portable Device Based On An Accelerometer”,这两个美国专利公开均全文以引用方式并入本文。在一些实施方案中,基于对从一个或多个加速度计接收的数据的分析来在触摸屏显示器上以纵向视图或横向视图显示信息。设备100任选地除了加速度计168之外还包括磁力仪和GPS(或GLONASS或其他全球导航系统)接收器,以用于获取关于设备100的位置和取向(例如,纵向或横向)的信息。
在一些实施方案中,存储于存储器102中的软件部件包括操作系统126、通信模块(或指令集)128、接触/运动模块(或指令集)130、图形模块(或指令集)132、文本输入模块(或指令集)134、全球定位系统(GPS)模块(或指令集)135以及应用程序(或指令集)136。此外,在一些实施方案中,存储器102(图1A)或370(图3)存储设备/全局内部状态157,如图1A和图3中所示。设备/全局内部状态157包括以下中的一者或多者:活动应用程序状态,其指示哪些应用程序(如果有的话)当前是活动的;显示状态,其指示什么应用程序、视图或其他信息占据触摸屏显示器112的各个区域;传感器状态,包括从设备的各个传感器和输入控制设备116获得的信息;以及关于设备的位置和/或姿态的位置信息。
操作系统126(例如,Darwin、RTXC、LINUX、UNIX、OS X、iOS、WINDOWS或嵌入式操作系统诸如VxWorks)包括用于控制和管理一般系统任务(例如,存储器管理、存储设备控制、功率管理等)的各种软件部件和/或驱动器,并且促进各种硬件部件和软件部件之间的通信。
通信模块128有利于通过一个或多个外部端口124来与其他设备进行通信,并且还包括用于处理由RF电路108和/或外部端口124所接收的数据的各种软件组件。外部端口124(例如,通用串行总线(USB)、火线等)适于直接耦接到其他设备,或间接地通过网络(例如,互联网、无线LAN等)进行耦接。在一些实施方案中,外部端口是与(Apple Inc.的商标)设备上所使用的30针连接器相同的或类似的和/或与其兼容的多针(例如,30针)连接器。
接触/运动模块130任选地检测与触摸屏112(结合显示控制器156)和其他触敏设备(例如,触控板或物理点击式转盘)的接触。接触/运动模块130包括各种软件部件以用于执行与接触检测相关的各种操作,诸如确定是否已经发生了接触(例如,检测手指按下事件)、确定接触强度(例如,接触的力或压力,或者接触的力或压力的替代物)、确定是否存在接触的移动并跟踪在触敏表面上的移动(例如,检测一个或多个手指拖动事件),以及确定接触是否已经停止(例如,检测手指抬起事件或者接触断开)。接触/运动模块130从触敏表面接收接触数据。确定接触点的移动任选地包括确定接触点的速率(量值)、速度(量值和方向)和/或加速度(量值和/或方向的改变),所述接触点的移动由一系列接触数据表示。这些操作任选地被应用于单点接触(例如,单指接触)或者多点同时接触(例如,“多点触摸”/多个手指接触)。在一些实施方案中,接触/运动模块130和显示控制器156检测触控板上的接触。
在一些实施方案中,接触/运动模块130使用一组一个或多个强度阈值来确定操作是否已由用户执行(例如,确定用户是否已“点击”图标)。在一些实施方案中,根据软件参数来确定强度阈值的至少一个子集(例如,强度阈值不是由特定物理致动器的激活阈值来确定的,并且可在不改变设备100的物理硬件的情况下被调节)。例如,在不改变触控板或触摸屏显示器硬件的情况下,触控板或触摸屏的鼠标“点击”阈值可被设定成预定义的阈值的大范围中的任一个阈值。另外,在一些具体实施中,向设备的用户提供用于调节一组强度阈值中的一个或多个强度阈值(例如,通过调节各个强度阈值和/或通过利用对“强度”参数的系统级点击来一次调节多个强度阈值)的软件设置。
接触/运动模块130任选地检测由用户进行的手势输入。触敏表面上的不同手势具有不同的接触模式(例如,所检测到的接触的不同运动、计时和/或强度)。因此,任选地通过检测特定接触模式来检测手势。例如,检测手指轻击手势包括检测手指按下事件,然后在与手指按下事件相同的位置(或基本上相同的位置)处(例如,在图标的位置处)检测手指抬起(抬离)事件。作为另一个示例,在触敏表面上检测手指轻扫手势包括检测手指按下事件,然后检测一个或多个手指拖动事件,并且随后检测手指抬起(抬离)事件。
图形模块132包括用于在触摸屏112或其他显示器上呈现和显示图形的各种已知的软件部件,包括用于改变所显示的图形的视觉冲击(例如,亮度、透明度、饱和度、对比度或其他视觉属性)的部件。如本文所用,术语“图形”包括可被显示给用户的任何对象,包括但不限于文本、网页、图标(诸如,包括软键的用户界面对象)、数字图像、视频、动画等。
在一些实施方案中,图形模块132存储表示待使用的图形的数据。每个图形任选地被分配有对应的代码。图形模块132从应用程序等接收用于指定待显示的图形的一个或多个代码,在必要的情况下还一起接收坐标数据和其他图形属性数据,并且然后生成屏幕图像数据,以输出至显示控制器156。
触觉反馈模块133包括用于生成指令的各种软件部件,该指令由触觉输出发生器167用于响应于用户与设备100的交互而在设备100上的一个或多个位置处产生触觉输出。
任选地为图形模块132的部件的文本输入模块134提供用于在各种应用程序(例如,联系人137、电子邮件140、IM 141、浏览器147和需要文本输入的任何其他应用程序)中输入文本的软键盘。
GPS模块135确定设备的位置,并提供该信息以供在各种应用程序中使用(例如提供给电话138以供在基于位置的拨号中使用;提供给相机143作为图片/视频元数据;以及提供给提供基于位置的服务的应用,诸如天气桌面小程序、本地黄页桌面小程序和地图/导航桌面小程序)。
应用程序136任选地包括以下模块(或指令集)或者其子集或超集:
·联系人模块137(有时称为通讯录或联系人列表);
·电话模块138;
·视频会议模块139;
·电子邮件客户端模块140;
·即时消息(IM)模块141;
·健身支持模块142;
·用于静态图像和/或视频图像的相机模块143;
·图像管理模块144;
·视频播放器模块;
·音乐播放器模块;
·浏览器模块147;
·日历模块148;
·桌面小程序模块149,其任选地包括以下各项中的一者或多者:天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4、词典桌面小程序149-5、和由用户获取的其他桌面小程序、以及用户创建的桌面小程序149-6;
·用于形成用户创建的桌面小程序149-6的桌面小程序创建器模块150;
·搜索模块151;
·视频和音乐播放器模块152,其合并视频播放器模块和音乐播放器模块;
·记事本模块153;
·地图模块154;以及/或者
·在线视频模块155。
任选地存储在存储器102中的其他应用程序136的示例包括其他文字处理应用程序、其他图像编辑应用程序、绘图应用程序、呈现应用程序、支持JAVA的应用程序、加密、数字权益管理、语音识别和语音复制。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、和文本输入模块134,联系人模块137任选地用于管理通讯录或联系人列表(例如,存储在存储器102或存储器370中的联系人模块137的应用程序内部状态192中),包括:向通讯录添加一个或多个姓名;从通讯录删除姓名;将电话号码、电子邮件地址、物理地址或其他信息与姓名关联;将图像与姓名关联;对姓名进行归类和分类;提供电话号码或电子邮件地址来发起和/或促进通过电话138、视频会议模块139、电子邮件140或IM 141进行的通信;等等。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,电话模块138任选地用于输入与电话号码对应的字符序列、访问联系人模块137中的一个或多个电话号码、修改已输入的电话号码、拨打相应的电话号码、进行会话,以及当会话完成时断开或挂断。如上所述,无线通信任选地使用多种通信标准、协议和技术中的任一种。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132、文本输入模块134、联系人模块137和电话模块138,视频会议模块139包括根据用户指令来发起、进行和终止用户与一个或多个其他参与方之间的视频会议的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,电子邮件客户端模块140包括响应于用户指令来创建、发送、接收和管理电子邮件的可执行指令。结合图像管理模块144,电子邮件客户端模块140使得非常容易创建和发送具有由相机模块143拍摄的静态图像或视频图像的电子邮件。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,即时消息模块141包括用于以下操作的可执行指令:输入与即时消息对应的字符序列、修改先前输入的字符、传输相应即时消息(例如,使用短消息服务(SMS)或多媒体消息服务(MMS)协议以用于基于电话的即时消息或者使用XMPP、SIMPLE、或IMPS以用于基于互联网的即时消息)、接收即时消息以及查看所接收的即时消息。在一些实施方案中,所传输和/或接收的即时消息任选地包括图形、照片、音频文件、视频文件和/或MMS和/或增强消息服务(EMS)中所支持的其他附件。如本文所用,“即时消息”是指基于电话的消息(例如,使用SMS或MMS发送的消息)和基于互联网的消息(例如,使用XMPP、SIMPLE或IMPS发送的消息)两者。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135、地图模块154和音乐播放器模块,健身支持模块142包括用于创建健身(例如,具有时间、距离和/或卡路里燃烧目标)的可执行指令;与健身传感器(运动设备)进行通信;接收健身传感器数据;校准用于监视健身的传感器;为健身选择和播放音乐;以及显示、存储和传输健身数据。
结合触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132和图像管理模块144,相机模块143包括用于以下操作的可执行指令:捕获静态图像或视频(包括视频流)并且将它们存储到存储器102中、修改静态图像或视频的特征,或从存储器102删除静态图像或视频。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、和相机模块143,图像管理模块144包括用于排列、修改(例如,编辑)、或以其他方式操控、加标签、删除、呈现(例如,在数字幻灯片或相册中)、以及存储静态图像和/或视频图像的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,浏览器模块147包括用于根据用户指令来浏览互联网,包括搜索、链接至、接收和显示网页或其部分,以及链接至网页的附件和其他文件的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、电子邮件客户端模块140和浏览器模块147,日历模块148包括根据用户指令来创建、显示、修改和存储日历以及与日历相关联的数据(例如,日历条目、待办事项等)的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147,桌面小程序模块149是任选地由用户下载和使用的微型应用程序(例如,天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4和词典桌面小程序149-5)或由用户创建的微型应用程序(例如,用户创建的桌面小程序149-6)。在一些实施方案中,桌面小程序包括HTML(超文本标记语言)文件、CSS(层叠样式表)文件和JavaScript文件。在一些实施方案中,桌面小程序包括XML(可扩展标记语言)文件和JavaScript文件(例如,Yahoo!桌面小程序)。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147,桌面小程序创建器模块150任选地被用户用于创建桌面小程序(例如,将网页的用户指定部分转变为桌面小程序)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,搜索模块151包括用于根据用户指令来搜索存储器102中与一个或多个搜索条件(例如,一个或多个用户指定的搜索词)匹配的文本、音乐、声音、图像、视频和/或其他文件的可执行指令。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、和浏览器模块147,视频和音乐播放器模块152包括允许用户下载和回放以一种或多种文件格式诸如MP3或AAC文件存储的所记录的音乐和其他声音文件的可执行指令,以及用于显示、呈现或以其他方式回放视频(例如,在触摸屏112上或在经由外部端口124连接的外部显示器上)的可执行指令。在一些实施方案中,设备100任选地包括MP3播放器诸如iPod(Apple Inc.的商标)的功能。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,记事本模块153包括用于根据用户指令来创建和管理记事本、待办事项等的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135和浏览器模块147,地图模块154任选地用于根据用户指令接收、显示、修改和存储地图以及与地图相关联的数据(例如,驾驶方向、与特定位置处或附近的商店及其他兴趣点有关的数据,以及其他基于位置的数据)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、文本输入模块134、电子邮件客户端模块140和浏览器模块147,在线视频模块155包括用于执行以下操作的指令:允许用户访问、浏览、接收(例如,通过流式传输和/或下载)、回放(例如在触摸屏上或在经由外部端口124所连接的外部显示器上)、发送具有至特定在线视频的链接的电子邮件,以及以其他方式管理一种或多种文件格式诸如H.264的在线视频。在一些实施方案中,使用即时消息模块141而不是电子邮件客户端模块140来发送特定在线视频的链接。在线视频应用程序的其他描述可见于2007年6月20日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国临时专利申请No.60/936,562和2007年12月31日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国专利申请No.11/968,067,这两个专利申请的内容据此全文以引用方式并入本文。
上述每个模块和应用程序对应于用于执行上述一种或多种功能以及在本专利申请中所述的方法(例如,本文所述的计算机实现的方法和其他信息处理方法)的可执行指令集。这些模块(例如,指令集)不必以独立的软件程序(诸如计算机程序(例如,包括指令))、过程或模块实现,因此这些模块的各种子集任选地在各种实施方案中组合或以其他方式重新布置。例如,视频播放器模块任选地与音乐播放器模块组合成单个模块(例如,图1A中的视频和音乐播放器模块152)。在一些实施方案中,存储器102任选地存储上述模块和数据结构的子组。此外,存储器102任选地存储上文未描述的附加模块和数据结构。
在一些实施方案中,设备100是该设备上的预定义的一组功能的操作唯一地通过触摸屏和/或触控板来执行的设备。通过使用触摸屏和/或触控板作为用于操作设备100的主要输入控制设备,任选地减少设备100上的物理输入控制设备(例如,下压按钮、拨盘等等)的数量。
唯一地通过触摸屏和/或触控板来执行的预定义的一组功能任选地包括在用户界面之间的导航。在一些实施方案中,触控板在被用户触摸时将设备100从设备100上显示的任何用户界面导航到主菜单、home菜单或根菜单。在此类实施方案中,使用触控板来实现“菜单按钮”。在一些其他实施方案中,菜单按钮是物理下压按钮或者其他物理输入控制设备,而不是触控板。
图1B是示出了根据一些实施方案的用于事件处理的示例性部件的框图。在一些实施方案中,存储器102(图1A)或存储器370(图3)包括事件分类器170(例如,在操作系统126中)以及相应的应用程序136-1(例如,前述应用程序137至151、155、380至390中的任一个应用程序)。
事件分类器170接收事件信息并确定要将事件信息递送到的应用程序136-1和应用程序136-1的应用程序视图191。事件分类器170包括事件监视器171和事件分配器模块174。在一些实施方案中,应用程序136-1包括应用程序内部状态192,该应用程序内部状态指示当应用程序是活动的或正在执行时被显示在触敏显示器112上的一个或多个当前应用程序视图。在一些实施方案中,设备/全局内部状态157被事件分类器170用来确定哪个(哪些)应用程序当前是活动的,并且应用程序内部状态192被事件分类器170用来确定要将事件信息递送到的应用程序视图191。
在一些实施方案中,应用程序内部状态192包括附加信息,诸如以下各项中的一者或多者:当应用程序136-1恢复执行时将被使用的恢复信息、指示信息正被显示或准备好用于被应用程序136-1显示的用户界面状态信息、用于使得用户能够返回到应用程序136-1的前一状态或视图的状态队列,以及用户采取的先前动作的重复/撤销队列。
事件监视器171从外围设备接口118接收事件信息。事件信息包括关于子事件(例如,触敏显示器112上的用户触摸,作为多点触摸手势的一部分)的信息。外围设备接口118传输其从I/O子系统106或传感器诸如接近传感器166、一个或多个加速度计168和/或麦克风113(通过音频电路110)接收的信息。外围设备接口118从I/O子系统106接收的信息包括来自触敏显示器112或触敏表面的信息。
在一些实施方案中,事件监视器171以预先确定的间隔将请求发送至外围设备接口118。作为响应,外围设备接口118传输事件信息。在其他实施方案中,外围设备接口118仅当存在显著事件(例如,接收到高于预先确定的噪声阈值和/或接收到超过预先确定的持续时间的输入)时才传输事件信息。
在一些实施方案中,事件分类器170还包括命中视图确定模块172和/或活动事件识别器确定模块173。
当触敏显示器112显示多于一个视图时,命中视图确定模块172提供用于确定子事件已在一个或多个视图内的什么地方发生的软件过程。视图由用户能够在显示器上看到的控件和其他元素构成。
与应用程序相关联的用户界面的另一方面是一组视图,本文中有时也称为应用程序视图或用户界面窗口,在其中显示信息并且发生基于触摸的手势。在其中检测到触摸的(相应应用程序的)应用程序视图任选地对应于在应用程序的程序化或视图分级结构内的程序化水平。例如,在其中检测到触摸的最低水平视图任选地被称为命中视图,并且被识别为正确输入的事件集任选地至少部分地基于初始触摸的命中视图来确定,所述初始触摸开始基于触摸的手势。
命中视图确定模块172接收与基于触摸的手势的子事件相关的信息。当应用程序具有以分级结构组织的多个视图时,命中视图确定模块172将命中视图识别为应当对子事件进行处理的分级结构中的最低视图。在大多数情况下,命中视图是发起子事件(例如,形成事件或潜在事件的子事件序列中的第一子事件)在其中发生的最低水平视图。一旦命中视图被命中视图确定模块172识别,命中视图便通常接收与其被识别为命中视图所针对的同一触摸或输入源相关的所有子事件。
活动事件识别器确定模块173确定视图分级结构内的哪个或哪些视图应接收特定子事件序列。在一些实施方案中,活动事件识别器确定模块173确定仅命中视图应接收特定子事件序列。在其他实施方案中,活动事件识别器确定模块173确定包括子事件的物理位置的所有视图是活跃参与的视图,并因此确定所有活跃参与的视图都应接收特定子事件序列。在其他实施方案中,即使触摸子事件完全被局限到与一个特定视图相关联的区域,分级结构中的较高视图将仍然保持为活跃参与的视图。
事件分配器模块174将事件信息分配到事件识别器(例如,事件识别器180)。在包括活动事件识别器确定模块173的实施方案中,事件分配器模块174将事件信息递送到由活动事件识别器确定模块173确定的事件识别器。在一些实施方案中,事件分配器模块174在事件队列中存储事件信息,该事件信息由相应事件接收器182进行检索。
在一些实施方案中,操作系统126包括事件分类器170。另选地,应用程序136-1包括事件分类器170。在又一个实施方案中,事件分类器170是独立模块,或者是存储在存储器102中的另一个模块(诸如,接触/运动模块130)的一部分。
在一些实施方案中,应用程序136-1包括多个事件处理程序190和一个或多个应用程序视图191,其中的每一个都包括用于处理发生在应用程序的用户界面的相应视图内的触摸事件的指令。应用程序136-1的每个应用程序视图191包括一个或多个事件识别器180。通常,相应应用程序视图191包括多个事件识别器180。在其他实施方案中,事件识别器180中的一个或多个事件识别器是独立模块的一部分,该独立模块为诸如用户界面工具包或应用程序136-1从中继承方法和其他属性的更高级别的对象。在一些实施方案中,相应事件处理程序190包括以下各项中的一者或多者:数据更新器176、对象更新器177、GUI更新器178、和/或从事件分类器170接收的事件数据179。事件处理程序190任选地利用或调用数据更新器176、对象更新器177或GUI更新器178来更新应用程序内部状态192。另选地,应用程序视图191中的一个或多个应用程序视图包括一个或多个相应事件处理程序190。另外,在一些实施方案中,数据更新器176、对象更新器177和GUI更新器178中的一者或多者被包括在相应应用程序视图191中。
相应的事件识别器180从事件分类器170接收事件信息(例如,事件数据179),并且根据事件信息识别事件。事件识别器180包括事件接收器182和事件比较器184。在一些实施方案中,事件识别器180还包括元数据183和事件传递指令188(其任选地包括子事件递送指令)的至少一个子集。
事件接收器182从事件分类器170接收事件信息。事件信息包括关于子事件例如触摸或触摸移动的信息。根据子事件,事件信息还包括附加信息,诸如子事件的位置。当子事件涉及触摸的运动时,事件信息任选地还包括子事件的速率和方向。在一些实施方案中,事件包括设备从一个取向旋转到另一取向(例如,从纵向取向旋转到横向取向,或反之亦然),并且事件信息包括关于设备的当前取向(也被称为设备姿态)的对应信息。
事件比较器184将事件信息与预定义的事件或子事件定义进行比较,并且基于该比较来确定事件或子事件,或者确定或更新事件或子事件的状态。在一些实施方案中,事件比较器184包括事件定义186。事件定义186包含事件的定义(例如,预定义的子事件序列),例如事件1(187-1)、事件2(187-2)以及其他。在一些实施方案中,事件(187)中的子事件例如包括触摸开始、触摸结束、触摸移动、触摸取消和多点触摸。在一个示例中,事件1(187-1)的定义是被显示对象上的双击。例如,双击包括被显示对象上的预先确定时长的第一触摸(触摸开始)、预先确定时长的第一抬离(触摸结束)、被显示对象上的预先确定时长的第二触摸(触摸开始)以及预先确定时长的第二抬离(触摸结束)。在另一个示例中,事件2(187-2)的定义是被显示对象上的拖动。例如,拖动包括被显示对象上的预先确定时长的触摸(或接触)、触摸在触敏显示器112上的移动、以及触摸的抬离(触摸结束)。在一些实施方案中,事件还包括用于一个或多个相关联的事件处理程序190的信息。
在一些实施方案中,事件定义187包括对用于相应用户界面对象的事件的定义。在一些实施方案中,事件比较器184执行命中测试以确定哪个用户界面对象与子事件相关联。例如,在触敏显示器112上显示三个用户界面对象的应用程序视图中,当在触敏显示器112上检测到触摸时,事件比较器184执行命中测试以确定这三个用户界面对象中的哪一个用户界面对象与该触摸(子事件)相关联。如果每个所显示对象与相应事件处理程序190相关联,则事件比较器使用该命中测试的结果来确定哪个事件处理程序190应当被激活。例如,事件比较器184选择与子事件和触发该命中测试的对象相关联的事件处理程序。
在一些实施方案中,相应事件(187)的定义还包括延迟动作,该延迟动作延迟事件信息的递送,直到已确定子事件序列确实对应于或不对应于事件识别器的事件类型。
当相应事件识别器180确定子事件序列不与事件定义186中的任何事件匹配时,该相应事件识别器180进入事件不可能、事件失败或事件结束状态,在此之后忽略基于触摸的手势的后续子事件。在这种情况下,对于命中视图保持活动的其他事件识别器(如果有的话)继续跟踪并处理持续进行的基于触摸的手势的子事件。
在一些实施方案中,相应事件识别器180包括具有指示事件递送系统应当如何执行对活跃参与的事件识别器的子事件递送的可配置属性、标记和/或列表的元数据183。在一些实施方案中,元数据183包括指示事件识别器彼此如何交互或如何能够交互的可配置属性、标志和/或列表。在一些实施方案中,元数据183包括指示子事件是否递送到视图或程序化分级结构中的不同层级的可配置属性、标志和/或列表。
在一些实施方案中,当事件的一个或多个特定子事件被识别时,相应事件识别器180激活与事件相关联的事件处理程序190。在一些实施方案中,相应事件识别器180将与事件相关联的事件信息递送到事件处理程序190。激活事件处理程序190不同于将子事件发送(和延期发送)到相应命中视图。在一些实施方案中,事件识别器180抛出与所识别的事件相关联的标记,并且与该标记相关联的事件处理程序190获取该标记并执行预定义过程。
在一些实施方案中,事件递送指令188包括递送关于子事件的事件信息而不激活事件处理程序的子事件递送指令。相反,子事件递送指令将事件信息递送到与子事件序列相关联的事件处理程序或者递送到活跃参与的视图。与子事件序列或与活跃参与的视图相关联的事件处理程序接收事件信息并执行预先确定的过程。
在一些实施方案中,数据更新器176创建并更新在应用程序136-1中使用的数据。例如,数据更新器176对联系人模块137中所使用的电话号码进行更新,或者对视频播放器模块中所使用的视频文件进行存储。在一些实施方案中,对象更新器177创建并更新在应用程序136-1中使用的对象。例如,对象更新器177创建新的用户界面对象或更新用户界面对象的位置。GUI更新器178更新GUI。例如,GUI更新器178准备显示信息,并且将显示信息发送到图形模块132用以显示在触敏显示器上。
在一些实施方案中,事件处理程序190包括数据更新器176、对象更新器177和GUI更新器178,或具有对该数据更新器、该对象更新器和该GUI更新器的访问权限。在一些实施方案中,数据更新器176、对象更新器177和GUI更新器178被包括在相应应用程序136-1或应用程序视图191的单个模块中。在其他实施方案中,它们被包括在两个或更多个软件模块中。
应当理解,关于触敏显示器上的用户触摸的事件处理的上述论述还适用于利用输入设备来操作多功能设备100的其他形式的用户输入,并不是所有用户输入都是在触摸屏上发起的。例如,任选地与单次或多次键盘按下或按住协作的鼠标移动和鼠标按钮按下;触控板上的接触移动,诸如轻击、拖动、滚动等;触笔输入;设备的移动;口头指令;检测到的眼睛移动;生物特征输入;和/或它们的任何组合任选地被用作对应于限定要识别的事件的子事件的输入。
图2示出了根据一些实施方案的具有触摸屏112的便携式多功能设备100。触摸屏任选地在用户界面(UI)200内显示一个或多个图形。在本实施方案以及下文所述的其他实施方案中,用户能够通过例如利用一根或多根手指202(在图中未按比例绘制)或一支或多支触笔203(在图中未按比例绘制)在图形上作出手势来选择这些图形中的一个或多个图形。在一些实施方案中,当用户中断与一个或多个图形的接触时,将发生对一个或多个图形的选择。在一些实施方案中,手势任选地包括一次或多次轻击、一次或多次轻扫(从左向右、从右向左、向上和/或向下)和/或已与设备100发生接触的手指的滚动(从右向左、从左向右、向上和/或向下)。在一些具体实施中或在一些情况下,不经意地与图形接触不会选择图形。例如,当与选择对应的手势是轻击时,在应用程序图标上方扫动的轻扫手势任选地不会选择对应的应用程序。
设备100任选地还包括一个或多个物理按钮,诸如“home”或菜单按钮204。如前所述,菜单按钮204任选地用于导航到任选地在设备100上被执行的一组应用程序中的任何应用程序136。另选地,在一些实施方案中,菜单按钮被实现为被显示在触摸屏112上的GUI中的软键。
在一些实施方案中,设备100包括触摸屏112、菜单按钮204、用于使设备开机/关机和用于锁定设备的下压按钮206、一个或多个音量调节按钮208、用户身份模块(SIM)卡槽210、耳麦插孔212和对接/充电外部端口124。下压按钮206任选地用于通过压下该按钮并且将该按钮保持在压下状态持续预定义的时间间隔来对设备进行开/关机;通过压下该按钮并在该预定义的时间间隔过去之前释放该按钮来锁定设备;和/或对设备进行解锁或发起解锁过程。在另选的实施方案中,设备100还通过麦克风113接受用于激活或去激活某些功能的语音输入。设备100还任选地包括用于检测触摸屏112上的接触的强度的一个或多个接触强度传感器165,和/或用于为设备100的用户生成触觉输出的一个或多个触觉输出发生器167。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。设备300不必是便携式的。在一些实施方案中,设备300是膝上型电脑、台式计算机、平板电脑、多媒体播放器设备、导航设备、教育设备(诸如儿童学习玩具)、游戏系统或控制设备(例如,家用控制器或工业用控制器)。设备300通常包括一个或多个处理单元(CPU)310、一个或多个网络或其他通信接口360、存储器370和用于使这些部件互连的一条或多条通信总线320。通信总线320任选地包括使系统部件互连并且控制系统部件之间的通信的电路(有时称作芯片组)。设备300包括具有显示器340的输入/输出(I/O)接口330,该显示器通常是触摸屏显示器。I/O接口330还任选地包括键盘和/或鼠标(或其他指向设备)350和触控板355、用于在设备300上生成触觉输出的触觉输出发生器357(例如,类似于上文参考图1A所述的触觉输出发生器167)、传感器359(例如,光学传感器、加速度传感器、接近传感器、触敏传感器和/或接触强度传感器(类似于上文参考图1A所述的接触强度传感器165))。存储器370包括高速随机存取存储器,诸如DRAM、SRAM、DDR RAM,或其他随机存取固态存储器设备;并且任选地包括非易失性存储器,诸如一个或多个磁盘存储设备、光盘存储设备、闪存存储器设备或其他非易失性固态存储设备。存储器370任选地包括远离CPU 310定位的一个或多个存储设备。在一些实施方案中,存储器370存储与便携式多功能设备100(图1A)的存储器102中存储的程序、模块和数据结构类似的程序、模块和数据结构或其子集。此外,存储器370任选地存储在便携式多功能设备100的存储器102中不存在的附加程序、模块和数据结构。例如,设备300的存储器370任选地存储绘图模块380、呈现模块382、文字处理模块384、网站创建模块386、盘编辑模块388、和/或电子表格模块390,而便携式多功能设备100(图1A)的存储器102任选地不存储这些模块。
图3中的上述元素中的每个元素任选地存储于先前提到的存储器设备的一个或多个存储器设备中。上述模块中的每个模块对应于用于执行上述功能的指令集。上述模块或计算机程序(例如,指令集或包括指令)不必以单独的软件程序(诸如计算机程序(例如,包括指令))、过程或模块实现,并且因此这些模块的各种子集任选地在各种实施方案中被组合或以其他方式重新布置。在一些实施方案中,存储器370任选地存储上述模块和数据结构的子组。此外,存储器370任选地存储上文未描述的附加模块和数据结构。
现在将注意力转到任选地在例如便携式多功能设备100上实现的用户界面的实施方案。
图4A示出了根据一些实施方案的便携式多功能设备100上的应用程序菜单的示例性用户界面。类似的用户界面任选地在设备300上实现。在一些实施方案中,用户界面400包括以下元件或者其子集或超集:
·无线通信诸如蜂窝信号和Wi-Fi信号的信号强度指示符402;
·时间404;
·蓝牙指示符405;
·电池状态指示符406;
·具有针对常用应用程序的图标的托盘408,该图标诸如:
o电话模块138的被标记为“电话”的图标416,该图标416任选地包括未接来电或语音信箱的数量的指示符414;
o电子邮件客户端模块140的被标记为“邮件”的图标418,该图标418任选地包括未读电子邮件的数量的指示符410;
o浏览器模块147的标记为“浏览器”的图标420;以及
o视频和音乐播放器模块152(也称为iPod(苹果公司(AppleInc.)的商标)模块152)的被标记为“iPod”的图标422;以及
·其他应用的图标,诸如:
o IM模块141的被标记为“消息”的图标424;
o日历模块148的被标记为“日历”的图标426;
o图像管理模块144的被标记为“照片”的图标428;
o相机模块143的被标记为“相机”的图标430;
o在线视频模块155的被标记为“在线视频”的图标432;
o股市桌面小程序149-2的被标记为“股市”的图标434;
o地图模块154的被标记为“地图”的图标436;
o天气桌面小程序149-1的被标记为“天气”的图标438;
o闹钟桌面小程序149-4的被标记为“时钟”的图标440;
o健身支持模块142的被标记为“健身支持”的图标442;
o记事本模块153的标记为“记事本”的图标444;以及
o设置应用程序或模块的被标记为“设置”的图标446,该图标提供对设备100及其各种应用程序136的设置的访问。
应当指出的是,图4A中示出的图标标签仅是示例性的。例如,视频和音乐播放器模块152的图标422被标记“音乐”或“音乐播放器”。对于各种应用程序图标任选地使用其他标签。在一些实施方案中,相应应用程序图标的标签包括与该相应应用程序图标对应的应用程序的名称。在一些实施方案中,特定应用程序图标的标签不同于与该特定应用程序图标对应的应用程序的名称。
图4B示出了具有与显示器450(例如,触摸屏显示器112)分开的触敏表面451(例如,图3的平板电脑或触控板355)的设备(例如,图3的设备300)上的示例性用户界面。设备300还任选地包括用于检测触敏表面451上的接触的强度的一个或多个接触强度传感器(例如,传感器359中的一个或多个传感器)和/或用于为设备300的用户生成触觉输出的一个或多个触觉输出发生器357。
尽管将参考触摸屏显示器112(其中组合了触敏表面和显示器)上的输入给出以下示例中的一些示例,但是在一些实施方案中,设备检测与显示器分开的触敏表面上的输入,如图4B中所示。在一些实施方案中,触敏表面(例如,图4B中的451)具有与显示器(例如,450)上的主轴(例如,图4B中的453)对应的主轴(例如,图4B中的452)。根据这些实施方案,设备检测在与显示器上的相应位置对应的位置(例如,在图4B中,460对应于468并且462对应于470)处与触敏表面451的接触(例如,图4B中的460和462)。这样,当触敏表面(例如,图4B中的451)与多功能设备的显示器(例如,图4B中的450)分开时,由设备在该触敏表面上检测到的用户输入(例如,接触460和462以及它们的移动)被该设备用于操纵该显示器上的用户界面。应当理解,类似的方法任选地用于本文所述的其他用户界面。
另外,虽然主要是参考手指输入(例如,手指接触、单指轻击手势、手指轻扫手势)来给出下面的示例,但是应当理解的是,在一些实施方案中,这些手指输入中的一个或多个手指输入由来自另一输入设备的输入(例如,基于鼠标的输入或触笔输入)替代。例如,轻扫手势任选地由鼠标点击(例如,而不是接触),之后是光标沿着轻扫的路径的移动(例如,而不是接触的移动)替代。又如,轻击手势任选地由在光标位于轻击手势的位置上方时的鼠标点击(例如,代替对接触的检测,之后是停止检测接触)替代。类似地,当同时检测到多个用户输入时,应当理解的是,多个计算机鼠标任选地被同时使用,或鼠标和手指接触任选地被同时使用。
图5A示出了示例性个人电子设备500。设备500包括主体502。在一些实施方案中,设备500可包括相对于设备100和300(例如,图1A至图4B)所述的特征中的一些或全部特征。在一些实施方案中,设备500具有在下文中称为触摸屏504的触敏显示屏504。作为触摸屏504的替代或补充,设备500具有显示器和触敏表面。与设备100和300的情况一样,在一些实施方案中,触摸屏504(或触敏表面)任选地包括用于检测所施加的接触(例如,触摸)强度的一个或多个强度传感器。触摸屏504(或触敏表面)的一个或多个强度传感器可提供表示触摸的强度的输出数据。设备500的用户界面可基于触摸的强度来对触摸作出响应,这意味着不同强度的触摸可调用设备500上的不同用户界面操作。
用于检测和处理触摸强度的示例性技术见于例如以下相关专利申请中:2013年5月8日提交的名称为“Device,Method,and Graphical User Interface for DisplayingUser Interface Objects Corresponding to an Application”的国际专利申请序列No.PCT/US2013/040061,发布为WIPO专利公开No.WO/2013/169849;以及2013年11月11日提交的名称为“Device,Method,and Graphical User Interface for TransitioningBetween Touch Input to Display Output Relationships”的国际专利申请序列No.PCT/US2013/069483,发布为WIPO专利公开No.WO/2014/105276,该每个专利申请据此全文以引用方式并入。
在一些实施方案中,设备500具有一个或多个输入机构506和508。输入机构506和508(如果包括的话)可以是物理形式的。物理输入机构的示例包括下压按钮和可旋转机构。在一些实施方案中,设备500具有一个或多个附接机构。此类附接机构(如果包括的话)可允许将设备500与例如帽子、眼镜、耳环、项链、衬衣、夹克、手镯、表带、手链、裤子、皮带、鞋子、钱包、背包等附接。这些附接机构允许用户穿戴设备500。
图5B描绘了示例性个人电子设备500。在一些实施方案中,设备500可包括相对于图1A、图1B和图3所述的部件中的一些或全部部件。设备500具有总线512,该总线将I/O部分514与一个或多个计算机处理器516和存储器518操作性地耦接。I/O部分514可连接到显示器504,该显示器可具有触敏部件522并且任选地具有强度传感器524(例如,接触强度传感器)。此外,I/O部分514可与通信单元530连接,用于使用Wi-Fi、蓝牙、近场通信(NFC)、蜂窝和/或其他无线通信技术来接收应用程序和操作系统数据。设备500可包括输入机构506和/或508。例如,输入机构506任选地是可旋转输入设备或者可按压输入设备以及可旋转输入设备。在一些示例中,输入机构508任选地是按钮。
在一些示例中,输入机构508任选地是麦克风。个人电子设备500任选地包括各种传感器,诸如GPS传感器532、加速度计534、定向传感器540(例如,罗盘)、陀螺仪536、运动传感器538和/或其组合,所有这些设备均可操作地连接到I/O部分514。
个人电子设备500的存储器518可包括用于存储计算机可执行指令的一个或多个非暂态计算机可读存储介质,当由一个或多个计算机处理器516执行时,这些计算机可执行指令例如可使得计算机处理器执行下文所述的技术,包括过程700、900和1100(图7、图9和图11)。计算机可读存储介质可以是可有形地包含或存储计算机可执行指令以供指令执行系统、装置和设备使用或与其结合的任何介质。在一些示例中,存储介质是暂态计算机可读存储介质。在一些示例中,存储介质是非暂态计算机可读存储介质。非暂态计算机可读存储介质可包括但不限于磁存储装置、光学存储装置、和/或半导体存储装置。此类存储装置的示例包括磁盘、基于CD、DVD或蓝光技术的光盘,以及持久性固态存储器诸如闪存、固态驱动器等。个人电子设备500不限于图5B的部件和配置,而是可包括多种配置中的其他部件或附加部件。
如本文所用,术语“示能表示”是指任选地在设备100、300和/或500(图1A、图3和图5A至图5B)的显示屏上显示的用户交互式图形用户界面对象。例如,图像(例如,图标)、按钮和文本(例如,超链接)任选地各自构成示能表示。
如本文所用,术语“焦点选择器”是指用于指示用户正与之进行交互的用户界面的当前部分的输入元件。在包括光标或其他位置标记的一些具体实施中,光标充当“焦点选择器”,使得当光标在特定用户界面元素(例如,按钮、窗口、滑块或其他用户界面元素)上方时在触敏表面(例如,图3中的触控板355或图4B中的触敏表面451)上检测到输入(例如,按压输入)的情况下,该特定用户界面元素根据所检测到的输入而被调节。在包括能够实现与触摸屏显示器上的用户界面元素的直接交互的触摸屏显示器(例如,图1A中的触敏显示器系统112或图4A中的触摸屏112)的一些具体实施中,在触摸屏上所检测到的接触充当“焦点选择器”,使得当在触摸屏显示器上在特定用户界面元素(例如,按钮、窗口、滑块或其他用户界面元素)的位置处检测到输入(例如,由接触进行的按压输入)时,该特定用户界面元素根据所检测到的输入而被调节。在一些具体实施中,焦点从用户界面的一个区域移动到用户界面的另一个区域,而无需光标的对应移动或触摸屏显示器上的接触的移动(例如,通过使用制表键或箭头键将焦点从一个按钮移动到另一个按钮);在这些具体实施中,焦点选择器根据焦点在用户界面的不同区域之间的移动而移动。不考虑焦点选择器所采取的具体形式,焦点选择器通常是由用户控制的以便递送与用户界面的用户预期的交互(例如,通过向设备指示用户界面的用户期望与其进行交互的元素)的用户界面元素(或触摸屏显示器上的接触)。例如,在触敏表面(例如,触控板或触摸屏)上检测到按压输入时,焦点选择器(例如,光标、接触或选择框)在相应按钮上方的位置将指示用户期望激活相应按钮(而不是设备显示器上示出的其他用户界面元素)。
如说明书和权利要求中所使用的,接触的“特征强度”这一术语是指基于接触的一个或多个强度的接触的特征。在一些实施方案中,特征强度基于多个强度样本。特征强度任选地基于相对于预定义事件(例如,在检测到接触之后,在检测到接触抬离之前,在检测到接触开始移动之前或之后,在检测到接触结束之前,在检测到接触的强度增大之前或之后和/或在检测到接触的强度减小之前或之后)而言在预先确定的时间段(例如,0.05秒、0.1秒、0.2秒、0.5秒、1秒、2秒、5秒、10秒)期间采集的预定义数量的强度样本或一组强度样本。接触的特征强度任选地基于以下各项中的一者或多者:接触强度的最大值、接触强度的均值、接触强度的平均值、接触强度的前10%处的值、接触强度的半最大值、接触强度的90%最大值等。在一些实施方案中,在确定特征强度时使用接触的持续时间(例如,在特征强度是接触的强度在时间上的平均值时)。在一些实施方案中,将特征强度与一组一个或多个强度阈值进行比较,以确定用户是否已执行操作。例如,该组一个或多个强度阈值任选地包括第一强度阈值和第二强度阈值。在该示例中,特征强度未超过第一阈值的接触导致第一操作,特征强度超过第一强度阈值但未超过第二强度阈值的接触导致第二操作,而特征强度超过第二阈值的接触导致第三操作。在一些实施方案中,使用特征强度与一个或多个阈值之间的比较来确定是否要执行一个或多个操作(例如,是执行相应操作还是放弃执行相应操作),而不是用于确定执行第一操作还是第二操作。
图5C示出了利用多个强度传感器524A-524D检测触敏显示屏504上的多个接触552A-552E。图5C还包括强度图,其相对于强度单位示出了强度传感器524A-524D的当前强度测量值。在该示例中,强度传感器524A和524D的强度测量值均是9个强度单位,并且强度传感器524B和524C的强度测量值均是7个强度单位。在一些具体实施中,累积强度是多个强度传感器524A-524D的强度测量值之和,在该示例中是32个强度单位。在一些实施方案中,每个接触都被分配了相应强度,即累积强度的一部分。图5D示出了基于其与力554中心的距离而向接触552A-552E分配累积强度。在该示例中,接触552A、552B和552E中的每个接触都被分配以累积强度的8个强度单位的接触的强度,并且接触552C和552D的中每个接触都被分配以累积强度的4个强度单位的接触的强度。更一般地,在一些具体实施中,每个接触j都根据预定义的数学函数Ij=A·(Dj/ΣDi)被分配相应强度Ij,其为累积强度A的一部分,其中Dj是相应接触j距力中心的距离,并且ΣDi是所有相应接触(例如,i=1到最后)距力中心的距离之和。可以利用类似于或等同于设备100、300或500的电子设备执行参考图5C-图5D所述的操作。在一些实施方案中,接触的特征强度基于接触的一个或多个强度。在一些实施方案中,强度传感器用于确定单个特征强度(例如,单个接触的单个特征强度)。应当指出,强度图不是所显示用户界面的部分,而是包括在图5C-图5D中以辅助读者。
在一些实施方案中,识别手势的一部分以用于确定特征强度。例如,触敏表面任选地接收连续的轻扫接触,该连续的轻扫接触从起始位置过渡并到达结束位置,在该结束位置处,接触强度增加。在该示例中,接触在结束位置处的特征强度任选地仅基于连续轻扫接触的一部分,而不是整个轻扫接触(例如,仅结束位置处的轻扫接触的部分)。在一些实施方案中,在确定接触的特征强度之前任选地向轻扫接触的强度应用平滑算法。例如,平滑化算法任选地包括以下各项中的一种或多种:不加权滑动平均平滑化算法、三角平滑化算法、中值滤波器平滑化算法和/或指数平滑化算法。在一些情况下,这些平滑化算法消除了轻扫接触的强度中的窄的尖峰或凹陷,以实现确定特征强度的目的。
任选地相对于一个或多个强度阈值诸如接触检测强度阈值、轻按压强度阈值、深按压强度阈值和/或一个或多个其他强度阈值来表征触敏表面上的接触强度。在一些实施方案中,轻按压强度阈值对应于这样的强度:在该强度下设备将执行通常与点击物理鼠标或触控板的按钮相关联的操作。在一些实施方案中,深按压强度阈值对应于这样的强度:在该强度下设备将执行与通常与点击物理鼠标或触控板的按钮相关联的操作不同的操作。在一些实施方案中,当检测到特征强度低于轻按压强度阈值(例如,并且高于标称接触检测强度阈值,比标称接触检测强度阈值低的接触不再被检测到)的接触时,设备将根据接触在触敏表面上的移动来移动焦点选择器,而不执行与轻按压强度阈值或深按压强度阈值相关联的操作。一般来讲,除非另有陈述,否则这些强度阈值在不同组的用户界面附图之间是一致的。
接触特征强度从低于轻按压强度阈值的强度增大到介于轻按压强度阈值与深按压强度阈值之间的强度有时被称为“轻按压”输入。接触特征强度从低于深按压强度阈值的强度增大到高于深按压强度阈值的强度有时被称为“深按压”输入。接触特征强度从低于接触检测强度阈值的强度增大到介于接触检测强度阈值与轻按压强度阈值之间的强度有时被称为检测到触摸表面上的接触。接触特征强度从高于接触检测强度阈值的强度减小到低于接触检测强度阈值的强度有时被称为检测到接触从触摸表面抬离。在一些实施方案中,接触检测强度阈值为零。在一些实施方案中,接触检测强度阈值大于零。
在本文中所述的一些实施方案中,响应于检测到包括相应按压输入的手势或响应于检测到利用相应接触(或多个接触)执行的相应按压输入来执行一个或多个操作,其中至少部分地基于检测到该接触(或多个接触)的强度增大到高于按压输入强度阈值而检测到相应按压输入。在一些实施方案中,响应于检测到相应接触的强度增大到高于按压输入强度阈值(例如,相应按压输入的“向下冲程”)来执行相应操作。在一些实施方案中,按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于按压输入强度阈值,并且响应于检测到相应接触的强度随后减小到低于按压输入阈值(例如,相应按压输入的“向上冲程”)来执行相应操作。
图5E-图5H示出了对手势的检测,手势包括与接触562的强度从低于图5E中的轻按压强度阈值(例如,“ITL”)的强度增大到高于图5H中的深按压强度阈值(例如,“ITD”)的强度对应的按压输入。在所显示的包括预定义区域574中显示的应用程序图标572A-572D的用户界面570上,在与应用程序2对应的应用程序图标572B上方显示光标576时,在触敏表面560上检测利用接触562执行的手势。在一些实施方案中,在触敏显示器504上检测到手势。强度传感器检测触敏表面560上的接触的强度。该设备确定接触562的强度在深按压强度阈值(例如,“ITD”)以上达到峰值。在触敏表面560上保持接触562。响应于检测到手势,并且根据在手势期间强度升高到深按压强度阈值(例如,“ITD”)以上的接触562,显示最近为应用程序2打开的文档的缩比表示578A-578C(例如,缩略图),如图5F-图5H所示。在一些实施方案中,与一个或多个强度阈值相比,强度是接触的特征强度。应当指出,针对接触562的强度图不是所显示用户界面的部分,而是包括在图5E-图5H中以辅助读者。
在一些实施方案中,表示578A-578C的显示包括动画。例如,表示578A一开始显示于应用程序图标572B的附近,如图5F所示。随着动画的进行,表示578A向上移动,并在应用程序图标572B附近显示表示578B,如图5G中所示。然后,表示578A向上移动,578B朝表示578A向上移动,并且在应用程序图标572B附近显示表示578C,如图5H中所示。表示578A-578C在图标572B上方形成阵列。在一些实施方案中,动画根据接触562的强度进展,如图5F-图5G中所示,其中表示578A-578C出现并随着接触562的强度向深按压强度阈值(例如,“ITD”)增大而向上移动。在一些实施方案中,动画进展所依据的强度是接触的特征强度。可以利用类似于或等同于设备100、300或500的电子设备执行参考图5E至图5H所述的操作。
在一些实施方案中,设备采用强度滞后以避免有时被称为“抖动”的意外输入,其中设备限定或选择与按压输入强度阈值具有预定义关系的滞后强度阈值(例如,滞后强度阈值比按压输入强度阈值低X个强度单位,或滞后强度阈值是按压输入强度阈值的75%、90%或某个合理比例)。因此,在一些实施方案中,按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于对应于按压输入强度阈值的滞后强度阈值,并且响应于检测到相应接触的强度随后减小到低于滞后强度阈值(例如,相应按压输入的“向上冲程”)来执行相应操作。类似地,在一些实施方案中,仅在设备检测到接触强度从等于或低于滞后强度阈值的强度增大到等于或高于按压输入强度阈值的强度并且任选地接触强度随后减小到等于或低于滞后强度的强度时才检测到按压输入,并且响应于检测到按压输入(例如,根据环境,接触强度增大或接触强度减小)来执行相应操作。
为了容易解释,任选地,响应于检测到以下各种情况中的任一种情况而触发对响应于与按压输入强度阈值相关联的按压输入或响应于包括按压输入的手势而执行的操作的描述:接触强度增大到高于按压输入强度阈值、接触强度从低于滞后强度阈值的强度增大到高于按压输入强度阈值的强度、接触强度减小到低于按压输入强度阈值、和/或接触强度减小到低于与按压输入强度阈值对应的滞后强度阈值。另外,在将操作描述为响应于检测到接触的强度减小到低于按压输入强度阈值而执行的示例中,任选地响应于检测到接触的强度减小到低于对应于并且小于按压输入强度阈值的滞后强度阈值来执行操作。
现在将注意力转到在电子设备(诸如便携式多功能设备100、设备300或设备500)上实现的用户界面(“UI”)以及相关联的过程的实施方案。
图6A至图6U示出了根据一些实施方案的用于显示相机视图的示例性用户界面。这些附图中的用户界面用于示出下文所述的包括图7中的过程的过程。
在图6A处,计算机系统600(例如,设备100、300、500)正在显示器610(例如,电视)上显示视频604诸如棒球比赛,并且正在显示器610的扬声器处输出视频604的音频。在一些实施方案中,显示器610是计算机系统600的集成部分。在一些实施方案中,计算机系统600与显示器610(例如,无线、有线)通信。在一些实施方案中,从存储在计算机系统600处的本地媒体回放视频604。在一些实施方案中,经由在网络上接收到的视频流(例如,实时视频流)来播放视频604。
图6A还示出了遥控器602,该遥控器被配置为基于在遥控器602处检测到的用户输入来(例如,经由RF通信、经由蓝牙、经由红外)将数据传输到计算机系统600。遥控器602包括选择区域602a(其包括用于检测轻击、按压和轻扫手势的触敏表面)、菜单按钮602b、电视按钮602c、麦克风按钮602d、播放/暂停按钮和音量控制按钮。
在图6A处,在视频604继续播放时,遥控器602检测经由长按压630a对电视按钮602c的激活,并且将该输入的指示传输到计算机系统600。在视频604继续播放时,计算机系统600从遥控器602接收对应于电视按钮602c的长按压的指示,并且作为响应,将控制用户界面612覆盖在视频604上方,如图6B中所示。
在图6B处,在控制用户界面612覆盖在视频604上时,视频604继续播放。控制用户界面612覆盖视频604的第一部分(例如,先前包括投球手的部分)并且不覆盖视频604的第二部分(例如,包括击球手的部分)。
控制用户界面612包括家庭自动化系统的用户(John、Jane、Joe)的指示612a、设备的状态和可由家庭自动化系统控制的音频以及可选UI对象612b、612c和612d。可选UI对象612c对应于用于将音频和/或视频传输到远程设备的功能。可选UI对象612d对应于用于执行搜索的功能。可选UI对象612b对应于用于访问家庭自动化系统的相机(例如,相机、门铃相机)和其他附件的功能。在图6B处,计算机系统600已从遥控器602接收到对应于用于将焦点放在可选UI对象612b上的导航的输入,并且因此,在视觉上强调可选UI对象612b以指示焦点(如图6B中经由可选UI对象612b的粗边框所示)。
在图6B处,在视频604继续播放时并且在焦点位于可选UI对象612b上时,遥控器602检测经由按钮按压630b对选择区域602a的激活,并且将该输入的指示传输到计算机系统600。在视频604继续播放时并且在焦点位于可选UI对象612b上时,计算机系统600从遥控器602接收对应于选择区域602a的按钮按压630b的指示,并且作为响应,将控制用户界面612的显示替换为用户界面614,如图6C中所示。
在图6C处,视频604继续播放并且用户界面614覆盖在视频604上。用户界面614覆盖视频604的第一部分并且不覆盖视频604的第二部分。用户界面614包括对应于家庭自动化系统的家的名称的指示614a、相机区域616和场景区域618。
在图6C处,相机区域616包括位于家的前门处的相机(例如,门铃相机)的相机预览616a以及位于家的后院中的相机(例如,没有门铃能力的相机)的相机预览616b的一部分。相机预览616a是位于家的前门处的相机的视场的实时视频流。该实时视频流由覆盖在相机预览616a的左上方的“实时”指示来指示。相机的名称的指示(“前门”)显示在相机预览616a附近(例如,下方)。
在图6C处,场景区域618包括用于激活场景的若干对象,包括用于激活“离家”场景的UI对象618a和用于激活“到家”场景的UI对象618b。当场景被激活时,计算机系统600使得对应于每个场景的相应附件设备将模式改变为激活的场景的相应模式。例如,UI对象618a的激活使得音乐停止在智能扬声器上播放并且使得入口灯附件打开(或保持打开)。相机区域616可水平滚动(以展现附加相机预览)并且场景区域618可竖直滚动(以展现附加场景UI对象)。
在图6C处,在视频604继续播放时并且在焦点位于相机预览616a上时,遥控器602检测经由按钮按压630c对选择区域602a的激活,并且将该输入的指示传输到计算机系统600。在视频604继续播放时并且在焦点位于相机预览616a上时,计算机系统600从遥控器602接收对应于选择区域602a的按钮按压630c的指示,并且作为响应,将视频604和用户界面614的显示替换为前门相机UI 620,如图6D中所示。因此,计算机系统600停止显示视频604和用户界面614,并且转而显示前门相机UI 620,如图6D中所示。
在一些实施方案中,在图6C处,计算机系统600输出视频604的音频而不输出从位于家的前门处的相机的麦克风接收到的音频。在一些实施方案中,计算机系统600输出从位于家的前门处的相机的麦克风接收到的音频而不输出视频604的音频。在一些实施方案中,计算机系统600同时输出视频604的音频和从前门相机的麦克风接收到的音频。
在一些实施方案中,计算机系统600在转变到图6D的用户界面时暂停视频604的回放。在一些实施方案中,计算机系统600在转变到图6D的用户界面时不暂停视频604的回放。
在图6D处,前门相机UI 620包括位于家的前门处的相机的视场的全屏(例如,抵达显示器610的四个边缘中的每个边缘)相机视图620a。全屏相机视图620a大于相机预览616a,但这两个视图都对应于相同相机。前门相机UI 620还包括实时指示620b、音频指示620c、前门锁控制用户界面对象620d和入口灯控制用户界面对象620e,它们中的每一者均覆盖在全屏相机视图620a上。
在图6D处,全屏相机视图620a是位于家的前门处的相机的视场的实时视频流。该实时视频流由覆盖在全屏相机视图620a的左上方的“实时”指示620b来指示。音频指示620c向用户提供关于如何激活相机所在的入口处的音频通信的指令,诸如通过位于入口处的扬声器和/或麦克风。相机的名称的指示(“前门”)显示在音频指示620c附近(例如,上方)。前门锁控制用户界面对象620d是对应于前门的锁的附件控制用户界面对象。前门锁控制用户界面对象620d的激活发起用于锁定或解锁前门锁的过程。入口灯控制用户界面对象620e是对应于入口处的灯的附件控制用户界面对象。入口灯控制用户界面对象620e的激活发起用于打开或关闭入口灯的过程。
在一些实施方案中,计算机系统600还显示已知访问者(例如,经由面部识别分析来识别)的视觉表示620h,作为前门相机UI 620的一部分,如相对于图6O至图6S所示和所述。
在图6D处,如果计算机系统600从遥控器602接收到对应于选择区域602a的按钮按压的指示,则计算机系统600将发起用于锁定或解锁前门锁的过程,如相对于图6Q至图6S更详细描述的,这是由于焦点位于前门锁控制用户界面对象620d上。
在图6D处,在相机的视场的实时视频流620a正在播放时,遥控器602检测经由按钮按压630d对菜单按钮602b的激活并且将该输入的指示传输到计算机系统600。在相机的视场的实时视频流620a正在播放时,计算机系统600从遥控器602接收对应于菜单按钮602b的按钮按压630d的指示,并且作为响应(并与焦点无关),将前门相机UI 620的显示替换为视频604(例如,该视频开始播放)和用户界面614,如图6E中所示(并且与图6C中所示的相同)。在一些实施方案中,在显示图6E的用户界面时,计算机系统600接收对应于菜单按钮602b的按钮按压的指示(与焦点无关),并且作为响应,显示图6B的用户界面。在一些实施方案中,在显示图6B的用户界面时,计算机系统600接收对应于菜单按钮602b的按钮按压的指示(与焦点无关),并且作为响应,显示图6A的用户界面。
在图6E处,显示器已从图6D的全屏相机视图620a转变到如图6E中所示的用户界面并且任选地恢复暂停的视频604的回放。在图6E处,遥控器602另选地检测选择区域602a上的向下轻扫手势630e或向右轻扫手势630f,同时视频604和实时相机预览616a继续播放。
在图6E处,在焦点位于相机预览616a上时,当遥控器602检测到选择区域602a上的向下轻扫手势630e的情况下,遥控器602将该输入的指示传输到计算机系统600。在焦点位于相机预览616a上时,计算机系统600从遥控器602接收对应于向下轻扫手势630e的指示,并且作为响应,将焦点改变为用于激活“离家”场景的UI对象618a,如图6F中所示。
在图6F处,在焦点位于场景区域618中时,遥控器602的选择区域602a上检测到的附加向下轻扫(例如,630m)同时使得焦点在场景区域618中的对象之间改变并竖直地滚动场景区域618中的对象。在焦点位于场景区域618中时,向左轻扫和向右轻扫使得焦点分别向左和向右移动,但不会使得场景区域618中的对象(水平地或竖直地)滚动。当场景UI对象被激活时,计算机系统600使得对应于相应场景的相应附件设备将模式改变为激活的场景的相应模式。
返回到图6E,在焦点位于相机预览616a上时,当遥控器602检测到选择区域602a上的向右轻扫手势630f的情况下,遥控器602将该输入的指示传输到计算机系统600。在焦点位于相机预览616a上时,计算机系统600从遥控器602接收对应于向右轻扫手势630f的指示,并且作为响应,如图6G所示,同时水平地滚动相机区域616中的对象并将焦点改变为位于家的后院中的相机的相机预览616b。
在图6G处,显示相机预览616a(例如,实时预览)的一部分(并且不显示一部分),显示相机预览616b,并且显示相机预览616c的一部分(并且不显示一部分)。相机预览616b不是对应相机的视场的实时视频流。相反,相机预览616b示出了位于家的后院中的相机的先前捕获的视场的静态图像。覆盖在相机预览616b的右下方的指示“2S”(以及缺少覆盖在左上方的“实时”指示)指示相机预览616b不是实时视频流。“2S”还指示相机预览616b的图像是在两秒前捕获的(并且随着时间流逝继续递增)。相机的名称的指示(“后院”)显示在相机预览616b附近(例如,下方)。
在图6G处,在视频604继续播放时并且在焦点位于相机预览616b上时,遥控器602检测经由按钮按压630g对选择区域602a的激活并且将该输入的指示传输到计算机系统600。在视频604继续播放时并且在焦点位于相机预览616b上时,计算机系统600从遥控器602接收对应于选择区域602a的按钮按压630g的指示,并且作为响应,将视频604和控制用户界面614的显示替换为后院相机UI 622,如图6H至图6I中另选地所示。因此,计算机系统600停止显示视频604和控制用户界面614,并且转而显示后院相机UI 622。
在一些实施方案中,当位于家的后院处的相机的视场的实时视频流不可用时,计算机系统600显示位于家的后院中的相机的先前捕获的视场的静态图像(例如,静态图像相机视图622a)(如图6H中所示),作为后院相机UI 622的一部分。覆盖在静态图像相机视图622a上的后院相机UI 622的右下方的指示622B(“4S”)(以及缺少覆盖在左上方的“实时”指示)指示静态图像相机视图622a不是实时视频流。指示622B(“4S”)还指示后院相机UI 622的静态图像相机视图622a是在四秒前捕获的(并且随着时间流逝继续递增)。
静态图像相机视图622a大于相机预览616b,但这两个视图都对应于来自相同相机的相同视图。后院相机UI 622还包括门锁控制用户界面对象622d和庭院灯控制用户界面对象622e,它们中的每一者均覆盖在静态图像相机视图622a上。
当后院相机具有对应麦克风和/或扬声器(并与实时视频流是否可用无关)时,后院相机UI 622包括向观看者提供关于如何激活与后院的音频通信的指令的指示(如620c)。
在图6H处,显示相机的名称的指示(“后院”)。门锁控制用户界面对象622d是对应于后院的门的锁的附件控制用户界面对象。门锁控制用户界面对象622d的激活发起用于锁定或解锁门锁的过程。庭院灯控制用户界面对象622e是对应于后院中的灯的附件控制用户界面对象。庭院灯控制用户界面对象622e的激活发起用于打开或关闭庭院灯的过程。
如图6I中所示,当相机的实时视频流不可用时(例如,当已使相机或家庭自动化系统处于一定模式时,在该模式下诸如通过面部识别分析或对象识别分析来处理出现在相机的视场中的运动、面部和/或对象以进行识别),计算机系统600任选地示出错误UI 624,而不是后院相机UI 622。
在图6H和图6I两者处,不论焦点如何,当遥控器602检测到菜单按钮602b的激活时,该遥控器都将该输入的指示传输到计算机系统600。计算机系统600从遥控器602接收对应于菜单按钮602b的按钮按压的指示,并且作为响应(并与焦点无关),将用户界面的显示替换为视频604和用户界面614,如图6G中所示。
在图6J处,计算机系统600已接收到输入的指示(例如,菜单按钮602b的多次激活)而恢复在显示器610上显示视频604诸如棒球比赛的继续,并且在显示器610的扬声器处输出视频604的音频(与图6A中相同)。在显示视频604时,计算机系统600接收家的前门处的门铃活动的指示。在一些实施方案中,门铃活动是对应于位于家的前门处的相机(例如,与之连接、与之通信)的门铃的激活。在一些实施方案中,门铃活动是位于家的前门处的相机的视场中的个体的检测。
在图6K处,响应于接收到家的前门处的门铃活动的指示(例如,而未接收到任何附加用户输入,未在遥控器602处接收到输入),计算机系统600显示覆盖在视频604上的用户界面626(同时视频604继续播放)。用户界面626包括位于家的前门处的相机的相机预览626a、对应于已知访问者Anne的图形图像626b、访问者的文本描述626c以及指令626d。
相机预览626a包括位于家的前门处的相机的视场的实时视频流。该实时视频流由覆盖在相机预览626a的左上方的“实时”指示来指示。图形图像626b是例如从家庭自动化系统的储存库(诸如相对于图8A至图8W所述)检索的图片或头像。头像的图片对应于相机的视场中的访问者。在一些实施方案中,图形图像626b是在访问者位于相机的视场中时由相机捕获的图像。访问者的文本描述626c包括已知访问者的姓名(例如,从家庭自动化系统的储存库检索)和相机的名称(“前门”相机)。指令626d向计算机系统600的用户提供关于如何激活入口处的音频通信的指令,诸如通过位于入口处的扬声器和/或麦克风(例如,连接到相机、相机一部分的扬声器和/或麦克风)。
在一些实施方案中,在图6K处,计算机系统600(例如,使用显示器610的扬声器)输出视频604的音频而不输出从前门相机的(或连接到前门相机的)麦克风接收到的音频。在一些实施方案中,计算机系统600输出从前门相机的麦克风接收到的音频而不输出视频604的音频。在一些实施方案中,计算机系统600同时输出视频604的音频和从前门相机的麦克风接收到的音频。
在一些实施方案中,计算机系统600在显示图6K的用户界面时接收对应于菜单按钮602b的按钮按压的指示(与焦点无关)使得计算机系统600停止显示用户界面626并且继续显示视频604,如图6J中所示。
在图6L处,当视频604继续播放时,附加已知访问者已进入相机的视场,并且因此,计算机系统600已更新用户界面626以包括对应于已知访问者Frank的图形图像626e(除了先前显示的访问者Anne之外)并且已更新文本描述626c以除了先前显示的访问者的姓名(Anne)之外还包括附加访问者的姓名(例如,而未接收到任何附加用户输入,未在遥控器602处接收到输入)。在一些实施方案中,超时(例如,3秒)之后,指令626d从“按压MIC以讲话”改变为指示如何查看相机预览626a的全屏视图的指令:“按压TV以全屏显示”,如图6N中所示。
在图6L处,遥控器602检测经由按钮按压630h对麦克风按钮602d的激活,并且将该输入的指示传输到计算机系统600。计算机系统600从遥控器602接收对应于麦克风按钮602d的按钮按压630h的指示,并且作为响应,实现与入口的双向音频通信。在一些实施方案中,实现与入口的双向音频通信包括计算机系统600(例如,经由计算机系统600的麦克风,经由无线地连接到计算机系统600的麦克风,经由遥控器602的麦克风)传输在计算机系统600处接收到的音频以(例如,经由相机的扬声器)在位于入口处的扬声器处输出,并且同时引起(例如,经由显示器610的扬声器)由位于入口处的麦克风(例如,前门相机的麦克风)检测到的所接收的音频的音频输出。
在图6M处,当视频604继续播放时,响应于接收到对应于麦克风按钮602d的按钮按压630h的指示,计算机系统600将626b至626e的显示替换为音频(例如,在计算机系统600处接收到的音频、在计算机系统600的麦克风处接收到的此类音频)的(例如,基于音频的)可视化626f的显示。在一些实施方案中,在计算机系统600接收到已释放按钮按压630h的指示(如图6M中所示,例如,一旦按压并释放按钮就传输音频的发言转换(toggle-to-talk)系统)之后,可视化626f继续显示(并且计算机系统600继续传输在计算机系统600处接收到并用于在位于入口处的扬声器处输出的音频)。在一些实施方案中,当计算机系统600接收到已释放按钮按压630h的指示(例如,仅在按钮继续被按压时才传输音频的按键发言(push-to-talk)系统)时,可视化626f停止显示(并且计算机系统600停止传输在计算机系统600处接收到并用于在位于入口处的扬声器处输出的音频)。因此,遥控器602和计算机系统600的用户可与访问者通信。
在一些实施方案中,响应于接收到对应于如图6L中所示的麦克风按钮602d的按钮按压630h的指示,计算机系统604停止(例如,在显示器604的扬声器处)产生视频604的音频,同时继续播放视频604的视频。在一些实施方案中,响应于接收到对应于麦克风按钮602d的按钮按压630h的指示,计算机系统604(例如,在显示器604的扬声器处)产生从位于入口处的麦克风(例如,前门相机的麦克风)接收到的音频。
在图6N处,计算机系统600已接收到已再次按压按钮按压630h的指示(例如,对于一旦再次按压并释放按钮就停止传输音频的发言转换系统而言)或接收到已释放按钮按压630h的指示(例如,对于仅在按钮继续被按压时才传输音频的按键发言系统而言)。作为响应,计算机系统600停止显示可视化626f并且停止传输在计算机系统600处接收到并用于在位于入口处的扬声器处输出的音频。
在图6N处,遥控器602检测经由按钮按压630i对电视按钮602c的激活并且将该输入的指示传输到计算机系统600。计算机系统600从遥控器602接收对应于电视按钮602d的按钮按压630i的指示,并且作为响应(并与焦点无关),将视频604和用户界面626的显示替换为前门相机UI 620,如图6O中所示(并且与图6D相同)。因此,计算机系统600停止显示视频604和用户界面626,并且转而显示前门相机UI 620,如图6O中所示。
在图6O处,前门相机UI 620包括所检测到的访问者(例如,已知访问者)的视觉表示620h。在一些实施方案中,每个视觉表示是从识别数据库检索的照片,其中该照片对应于使用面部识别分析来识别的已知访问者。在一些实施方案中,每个视觉表示是对应于使用面部识别分析来识别的已知访问者的头像(例如,卡通头像)。
在图6O处,前门相机UI 620还包括访问者的文本描述620f(例如,与626c相同)。访问者的文本描述626f包括已知访问者的姓名(例如,从家庭自动化系统的储存库检索,如参考图8A至图8W所述)和相机的名称(“前门”)。前门相机UI 620包括如上文相对于图6D所述的相同特征和功能。在一些实施方案中,在显示图6O的用户界面时,计算机系统600接收对应于菜单按钮602b的按钮按压的指示,并且作为响应(并与焦点无关),显示图6J的用户界面(例如,视频605在没有用户界面626的情况下播放)。
在图6O处,当来自相机的实时视频馈送继续显示时,遥控器602检测经由按钮按压630j对麦克风按钮602d的激活并且将该输入的指示传输到计算机系统600。计算机系统600从遥控器602接收对应于麦克风按钮602d的按钮按压630j的指示,并且作为响应,实现与入口的双向音频通信。在一些实施方案中,实现与入口的双向音频通信包括计算机系统600(例如,经由计算机系统600的麦克风,经由无线地连接到计算机系统600的麦克风,经由遥控器602的麦克风)传输在计算机系统600处接收到的音频以(例如,经由相机的扬声器)在位于入口处的扬声器处输出,并且同时引起(例如,经由显示器610的扬声器)由位于入口处的麦克风(例如,前门相机的麦克风)检测到的所接收的音频的音频输出。
在图6P处,当来自相机的实时视频馈送继续显示时,响应于接收到对应于麦克风按钮602d的按钮按压630j的指示,计算机系统600将620f的显示替换为音频(例如,在计算机系统600处接收到的音频)的(例如,基于音频的)可视化620g的显示。在一些实施方案中,在计算机系统600接收到已释放按钮按压630j的指示(例如,一旦按压并释放按钮就传输音频的发言转换系统)之后,可视化620g继续显示(并且计算机系统600继续传输在计算机系统600处接收到并用于在位于入口处的扬声器处输出的音频)。在一些实施方案中,当计算机系统600接收到已释放按钮按压630j的指示(例如,仅在按钮继续被按压时才传输音频的按键发言系统)时,可视化620g停止显示(并且计算机系统600停止传输在计算机系统600处接收到并用于在位于入口处的扬声器处输出的音频)。因此,遥控器602和计算机系统600的用户可与访问者通信。
在图6Q处,基于计算机系统600已从遥控器602接收到对应于导航至前门锁控制用户界面对象620d的输入,焦点位于前门锁控制用户界面对象620d上,该前门锁控制用户界面对象对应于前门的锁。在视觉上强调前门锁控制用户界面对象620d以指示焦点(如图6Q中经由前门锁控制用户界面对象620d的粗边框所示)。
在图6Q处,在焦点位于前门锁控制用户界面对象620d上时,遥控器602检测经由按钮按压630k对选择区域602a的激活并且将该输入的指示传输到计算机系统600。在焦点位于可选UI对象612b上时,计算机系统600从遥控器602接收对应于选择区域602a的按钮按压630k的指示。
响应于在焦点位于前门锁控制用户界面对象620d上时对应于按钮按压630k的指示,并且根据确定从安全遥控器(例如,与计算机系统600配对的蓝牙遥控器)接收到对应于按钮按压630k的指示(并且任选地根据确定对应于前门锁控制用户界面对象620d的附件设备是安全附件设备(例如,锁、安全相关附件)),计算机系统600发起用于改变前门锁的状态(例如,锁定或解锁前门锁)的过程。
响应于在焦点位于前门锁控制用户界面对象620d上时对应于按钮按压630k的指示,并且根据确定对应于前门锁控制用户界面对象620d的附件设备是安全附件设备(例如,锁、安全相关附件)并且根据确定从非安全遥控器接收到对应于按钮按压630k的指示(例如,来自无法确认与计算机系统600配对的遥控器的红外指令),计算机系统600放弃发起用于改变前门锁的状态(例如,锁定或解锁前门锁)的过程。这有助于防止使用非安全遥控器改变安全附件设备的状态。
在图6R处,基于确定对应于前门锁控制用户界面对象620d的附件设备(前门锁)是安全附件设备来显示确认UI 632。由于前门锁是安全附件设备,因此直到计算机系统600接收到确认(例如,经由确认UI对象632a的激活)才改变前门锁的状态。该过程有助于防止无意地改变安全附件设备的状态。
在图6R处,在焦点位于确认UI对象632a上时,遥控器602检测经由按钮按压630l对选择区域602a的激活并且将该输入的指示传输到计算机系统600。在焦点位于确认UI对象632a上时,计算机系统600从遥控器602接收对应于选择区域602a的按钮按压630l的指示,并且作为响应,传输解锁入口前门锁的指令。
在图6S处,(例如,响应于接收到入口前门锁已被解锁的确认),计算机系统600更新前门锁控制用户界面对象620d的显示以指示该锁被“解锁”。
与前门锁控制用户界面对象620d相反,由于入口灯控制用户界面对象620e对应于非安全附件(例如,非锁定、非安全相关附件),因此计算机系统600发起用于改变对应附件(灯)的状态(例如,打开或关闭该对应附件)的过程,而与是否使用安全或非安全遥控器激活前门锁控制用户界面对象620d无关。此外,与安全附件(诸如对应于前门锁控制用户界面对象620d的锁)不同,发起用于改变对应非安全附件的状态(例如,打开或关闭该对应非安全附件)的过程不包括确认(例如,传输指令以打开/关闭位于入口处的灯而不需要进一步的用户输入)。
返回图6A,在显示视频604(例如,棒球比赛)时,计算机系统600(例如,从远程服务器)接收输入。根据确定该输入对应于与媒体流(例如,现场体育赛事诸如篮球比赛的视频流)对应的事件的指示(例如,现场体育赛事诸如篮球比赛还剩少于阈值量的比赛时间时的比分差距),(当内容604继续播放时)计算机系统600显示覆盖在内容604上的通知640,如图6T中所示。在一些实施方案中,计算机系统600基于建议标准(例如,基于用户偏好、先前播放的媒体、当前事件和/或内容可用性)来显示建议的内容(例如,建议的视频、建议的媒体)的通知。在一些实施方案中,(当内容604继续播放时)建议的内容的通知覆盖在内容604上。
在图6T处,通知640包括视觉表示640a、事件的文本描述640b以及用户为使得显示媒体流而可执行的指令640c。在一些实施方案中,视觉分隔线640d在视觉上将视觉表示640a和文本描述640b与指令640c分开。在一些实施方案中,视觉分隔线604d不显示为通知640的一部分。
在一些实施方案中,在计算机系统600显示覆盖在视频604上的通知640(该视频继续播放)时,遥控器602检测经由按钮按压对电视按钮602c的激活并且将该输入的指示传输到计算机系统。在视频604在覆盖了通知640的情况下继续播放时,计算机系统600从遥控器602接收对应于电视按钮602a的按压的指示,并且作为响应,将视频604的显示替换为与事件相关联的媒体流的显示(例如,全屏显示)。
返回图6A,在显示视频604(例如,棒球比赛)时,计算机系统600(例如,从遥控器602)接收输入。计算机系统600确定当前登入到计算机系统600中的用户账户(例如,当前在计算机系统600上活动的用户账户)。根据确定该输入满足一组标准(例如,打开电视的输入、将计算机系统从睡眠或低功耗模式唤醒的输入、请求改变将什么用户账户登入到计算机系统的输入),计算机系统600显示覆盖在视频604上的通知660(该视频继续播放),如图6U中所示。
在图6U处,通知660包括头像660a、文本描述660b和指令660c,用户可执行所述指令以发起用于改变当前登入到计算机系统600中的用户账户(例如,将登入账户从第一用户账户改变为第二用户账户)的过程。头像660a(例如,图像)对应于当前登入到计算机系统600中的用户账户。文本描述660b包括对应于当前登入到计算机系统600中的用户账户的标识符(例如,用户的姓名)。
在一些实施方案中,在计算机系统600显示覆盖在视频604上的通知660(该视频继续播放)时,遥控器602检测经由按钮按压对电视按钮602c的激活并且将该输入的指示传输到计算机系统。在视频604在覆盖了通知660的情况下继续播放时,计算机系统600从遥控器602接收对应于电视按钮602a的按压的指示,并且作为响应,发起用于改变登入到计算机系统600中的用户的过程。在一些实施方案中,发起该过程包括显示一个或多个用户账户对象以供选择,其中对用户账户对象的选择使得计算机系统600使用相应用户账户登入。
图7是示出了根据一些实施方案的用于使用计算机系统显示相机视图的方法的流程图。方法700在计算机系统(例如,100、300、500、600)处执行。方法700中的一些操作任选地被组合,一些操作的次序任选地被改变,并且一些操作任选地被省略。
如下所述,方法700提供了用于显示相机视图的直观方式。该方法减轻了用户显示相机视图的认知负担,从而创建了更有效的人机界面。对于电池驱动的计算设备,使得用户能够更快更有效地显示相机视图节省了功率并且增加了电池充电之间的时间。
计算机系统(例如,电子设备600、机顶设备;数字媒体播放器)与显示生成部件(例如,610)通信(例如,有线通信、无线通信)。在经由显示生成部件(例如,610)显示内容(例如,604,从相机之外的源接收到的视频内容,诸如从服务器流式传输的电影)时,计算机系统在(702)处接收第一输入(例如,对应于门铃活动的指示(相机已检测到运动的指示、门铃开关已被激活的指示)的输入、对应于经由显示生成部件显示的控制用户界面的可选用户界面对象的激活的输入(例如,630b);对应于包括语音命令的所接收的音频的输入)。在一些实施方案中,计算机系统还与相机(例如,门铃相机、包括相机传感器(和可选门铃开关)的相机系统、安装在物理位置的入口诸如家的入口处的相机系统)通信,并且与附件设备(例如,远程可控附件设备,诸如门锁或灯)通信。
响应于接收到第一输入(例如,630b),计算机系统(例如,600)在(704)处经由显示生成部件(例如,610)显示至少部分地覆盖(例如,完全覆盖)在该内容(例如,604)上的相机视图(例如,616a、626a,其包括来自相机的视觉元素,诸如视频馈送、实时视频馈送、图像、一系列图像、可选用户界面对象)(使得该内容的第一部分被替换为相机视图的显示,同时继续显示该内容的第二部分)。使用第一视觉配置(例如,第一显示尺寸(预览显示尺寸)、第一显示位置(在可显示区域的拐角中))显示相机视图。在一些实施方案中,即便接收到第一输入,该内容(例如,604)的回放也继续。
在经由显示生成部件(例如,610)显示覆盖在该内容(例如,视频内容)上的具有第一视觉配置的相机视图(例如,616a、626a)时,计算机系统(例如,600)在(706)处接收第二输入(例如,630c,对可选相机视图用户界面对象的选择630i、对应于遥控器按钮(诸如菜单按钮或选择按钮)的激活的指示的输入、或对应于包括语音命令的所接收的音频的输入)。
响应于接收到第二输入(例如,630c、630i),计算机系统(例如,600)在(708)处经由显示生成部件(例如,610)同时显示:使用与第一视觉配置不同(例如,并且不使用第一视觉配置显示相机视图)的第二视觉配置的相机视图(710)(例如,620a,处于大于第一显示尺寸的第二显示尺寸,处于使得相机视图抵达可显示区域的四个边缘的显示尺寸,处于全屏显示尺寸,处于与第一显示位置不同的第二显示位置)以及对应于附件设备的附件控制用户界面对象(例如,620d、620e、622d、622e)(712)。对附件控制用户界面对象(例如,620d、620e、622d、622e)的选择发起用于传输(例如,选择使得传输该指令)改变附件设备的状态的指令的过程(例如,使得门锁定或解锁,使得灯打开或关闭)。在一些实施方案中,附件控制用户界面对象(例如,620d、620e、622d、622e)覆盖在具有第二视觉配置的相机视图(例如,620a、622a)上。在一些实施方案中,响应于接收到第二输入(例如,630c、630i),计算机系统停止经由显示生成部件(例如,610)显示该内容(例如,604)。在一些实施方案中,相机视图(例如,620a、622a)完全替换该内容的显示,使得该内容的任何部分都不继续显示。在一些实施方案中,该内容(例如,604)是视频内容并且响应于接收到第二输入而暂停视频内容的回放。
同时显示使用第二视觉配置的相机视图与附件控制UI对象减少了控制附件设备所需的输入数量,同时仍能够查看相机视图。减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,响应于接收到第二输入(并且任选地根据确定个体(诸如对应于电子电话或地址簿的条目的个体)被描绘于相机视图中(或被确定为位于相机视图中)),计算机系统(例如,600)经由显示生成部件(例如,610)来与第二视觉配置中的相机视图(例如,620a)和对应于附件设备的附件控制用户界面对象(例如,620d、620e)同时显示:被确定为位于相机视图中的个体(例如,在与计算机系统通信的相机的视场内;使用面部识别来识别的个体)的指示(例如,“Anne”和“Frank”,从电话/地址簿检索的姓名);和被确定为位于相机视图中的个体的视觉表示(例如,620h,从电话/地址簿检索的个体的头像、与相机视图中所描绘(或被确定为位于相机视图中)的个体的图像不同的个体的图形非照片描绘)。
显示个体的指示和个体的视觉表示为用户提供了关于如计算机系统所确定的相机的视场中的个体的身份的反馈。提供改进的反馈增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,响应于接收到第二输入并且根据确定没有个体(或没有对应于电子电话或地址簿的条目的个体)被描绘于相机视图中(或被确定为位于相机视图中),放弃显示相机视图中的任何个体的指示或视觉表示。因此,在一些实施方案中,当已知的人(对应于电话/地址簿的条目的人)被显示于相机视图中时,示出已知的人的姓名和视觉表示;当已知的人未被描绘于相机视图中(或未被确定为位于相机视图中)时,不显示姓名和头像。
在一些实施方案中,响应于接收到第一输入(并且任选地根据确定个体(诸如对应于电子电话或地址簿的条目的个体)被描绘于相机视图中(或被确定为位于相机视图中)),经由显示生成部件来与第一视觉配置中的相机视图同时显示:被描绘于相机视图中(或被确定为位于相机视图中)的个体(例如,在与计算机系统通信的相机的视场内;使用面部识别来识别的个体)的指示(例如,从电话/地址簿检索的姓名);和被描绘于相机视图中(或被确定为位于相机视图中)的个体的视觉表示(例如,从电话/地址簿检索的个体的头像、与相机视图中所描绘(或被确定为位于相机视图中)的个体的图像不同的个体的图形非照片描绘)。
在一些实施方案中,响应于接收到第二输入(并且任选地根据确定个体(诸如对应于电子电话或地址簿的条目的个体)被描绘于相机视图中(或被确定为位于相机视图中)),经由显示生成部件来与第二视觉配置中的相机视图和对应于附件设备的附件控制用户界面对象同时显示:为激活麦克风处检测到的音频(例如,覆盖在相机视图上(底部处)的表述“按压控制设备的第三按钮(例如,音频按钮)以讲话”的消息)的传输而要遵循的指令。
在一些实施方案中,在经由显示生成部件(例如,610)同时显示使用第二视觉配置的相机视图(例如,620a)和对应于附件设备的附件控制用户界面对象(例如,620d、620e、622d、622d)时,接收对附件控制用户界面对象的选择(例如,用于以附件控制用户界面对象为目标(target)的导航输入以及用于激活所选择的附件控制用户界面对象的选择输入630k)。响应于接收到对附件控制用户界面对象的选择,计算机系统600发起用于传输改变附件设备的状态的指令的过程。该过程任选地包括传输改变附件设备的状态的指令(例如,打开或关闭灯、暂停/取消暂停扬声器)。
在一些实施方案中,从控制设备(例如,602,遥控器;安全控制设备,诸如蓝牙连接的或其他可识别的遥控器;非安全控制设备,诸如红外遥控器或非蓝牙连接的/不可识别的遥控器)接收到第二输入。发起用于传输改变附件设备的状态的指令的过程包括:根据确定附件设备是第二类型的附件设备(例如,安全附件设备;锁类型的设备;门锁),并且根据确定控制设备(例如,602)是安全控制设备(例如,是经计算机系统验证为先前批准的控制设备的设备;是当前配对的蓝牙控制设备),继续进行用于传输改变附件设备的状态的指令的过程(例如,请求确认传输改变附件设备的状态的指令;传输改变附件设备的状态的指令);并且根据确定附件设备是第二类型的附件设备(例如,安全附件设备;锁类型的设备;门锁),并且根据确定控制设备(例如,602)不是安全控制设备(例如,不是经计算机系统验证为先前批准的控制设备的设备;不是当前配对的蓝牙控制设备),放弃继续进行用于传输改变附件设备的状态的指令的过程(例如,放弃请求确认传输改变附件设备的状态的指令;放弃传输改变附件设备的状态的指令)。
在一些实施方案中,发起用于传输改变附件设备的状态的指令的过程还包括:根据确定附件设备是第一类型的附件设备(例如,非安全附件设备;不是锁类型的设备;不是门锁),传输改变附件设备的状态的指令(例如,不论接收到第二输入的控制设备是安全控制设备还是非安全控制设备,不请求确认改变附件设备的状态的指令;不将状态变化的通知发送到其他设备(基于为第一类型的附件)。
在一些实施方案中,要求安全控制设备锁定和解锁第二类型的附件设备。在一些实施方案中,根据确定附件设备是第二类型的附件设备(例如,安全附件设备;锁类型的设备;门锁),并且根据确定控制设备是安全控制设备(例如,由计算机系统诸如通过用户确认来验证为先前批准的控制设备的设备;当前配对的蓝牙控制设备),请求确认(例如,来自用户;使用安全控制设备)传输改变附件设备的状态的指令(例如,使用所显示的确认对象)(并且一旦接收到所请求的确认,就传输该指令并且将状态变化的通知发送到其他设备(基于为第二类型的附件)。
将特定附件限制于仅使用安全控制设备来激活提供了增加的安全性,因此使用非安全控制设备的未经授权的个体无法激活该附件。保护敏感附件的安全增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,发起用于传输改变附件设备的状态的指令的过程包括:根据确定附件设备是第一类型的附件设备(例如,非安全附件设备;不是锁类型的设备;不是门锁),响应于接收到对附件控制用户界面对象的选择(例如,630k)而传输改变附件设备的状态的指令(例如,不论接收到第二输入的控制设备是安全控制设备还是非安全控制设备,不请求确认改变附件设备的状态的指令);并且根据确定附件设备是第二类型的附件设备(例如,安全附件设备;锁类型的设备;门锁):请求确认(例如,632,来自用户;使用安全控制设备)传输改变附件设备的状态的指令(例如,使用所显示的确认对象)而不传输改变附件设备的状态的指令(并且一旦接收到所请求的确认,就传输该指令)。
请求特定附件的确认有助于防止无意地改变重要附件的状态。防止附件的无意状态变化增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,经由显示生成部件(例如,610)显示使用第二视觉配置的相机视图(例如,620a、622a)包括:根据确定可从对应于相机视图的相机(例如,门铃相机、包括相机传感器(和可选门铃开关)的相机系统、安装在物理位置的入口诸如家的入口处的相机系统)获得实时馈送(例如,实时视频馈送、实时音频和视图馈送;实时馈送)(例如,实时馈送是对应于自当前时间起的阈值时间量内的时间的馈送),同时显示:从相机接收到的实时馈送(例如,620a,相机的视场的实时视频馈送)以及相机视图为实时馈送的视觉指示(例如,在显示器的左上方覆盖在实时馈送上的“实时”)。在一些实施方案中,经由显示生成部件(例如,610)显示使用第二视觉配置的相机视图(例如,620a、622a)包括:根据确定不可从对应于相机视图的相机获得实时馈送,同时显示:从相机接收到的静态图像(例如,622a,相机所捕获的非运动图像,而不是实时视频馈送)以及基于对应于静态图像的经过时间(例如,“已有4秒”、“已有1周”;经过时间是指多久以前从相机接收到该图像;经过时间是指多久以前相机捕获到该图像)的视觉指示(例如,622b,在显示器的右下方覆盖在实时馈送上)。
提供关于相机视图是实时的还是静态的指示为用户提供了关于所显示的图像(例如,在计算机系统处接收到的图像)是否为相机的当前视场的表示的反馈。提供关于相机的改进反馈增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,经由显示生成部件在第一位置处显示相机视图为实时馈送的视觉指示(例如,覆盖在实时馈送上),并且在与第一位置不同的第二位置处显示基于经过时间的视觉指示(例如,覆盖在实时馈送上)。
在一些实施方案中,在经由显示生成部件(例如,610)同时显示使用第二视觉配置的相机视图(例如,620a、622a)和对应于附件设备的附件控制用户界面对象(例如,620d、620e、622d、622d)时并且在以附件控制用户界面对象(例如,图6O中的620d,显示了指示附件控制用户界面对象对焦的视觉焦点指示符)为目标(target)的同时,计算机系统600接收第三输入(例如,630j、630k)。响应于接收到第三输入(例如,630j、630k):根据确定第三输入(例如,630k)对应于控制设备(例如,602,遥控器;安全控制设备,诸如蓝牙连接的或其他可识别的遥控器;非安全控制设备,诸如红外遥控器或非蓝牙连接的/不可识别的遥控器)的第一按钮(例如,602a,选择按钮)的激活,计算机系统(例如,600)发起用于传输改变附件设备的状态的指令(例如,传输打开或关闭灯、暂停/取消暂停扬声器的指令)的过程(例如,基于在接收到第三输入时定向(target)附件控制用户界面对象);并且根据确定第三输入(例如,630j)对应于控制设备的第三按钮(例如,音频按钮)的激活(例如,不论任何定向;不论视觉焦点指示符的状态)(例如,接收到对应于与选择按钮和菜单按钮不同的音频按钮的激活的输入),计算机系统(例如,600)(例如在第三按钮继续被激活时)将经由麦克风检测到的音频(例如,在计算机系统处检测到的、在控制设备处检测到的音频)传输到远程扬声器设备(例如,传输到扬声器,传输到相机的扬声器,传输到与相机相连的扬声器)。
在一些实施方案中,基于接收到对应于控制设备的第一按钮(例如,选择按钮)的激活的输入来激活非安全示能表示(例如,通知、相机预览)而不论控制设备是(或不是)安全控制设备。
在一些实施方案中,在经由显示生成部件(例如,610)显示覆盖在该内容(例如,604)上的控制用户界面(例如,612)时接收到第一输入(例如,630b),该控制用户界面(例如,612)包括用于访问一个或多个附件设备的用户界面对象(例如,612b)(例如,用于访问家庭自动化用户界面或应用程序的图标)。在一些实施方案中,第一输入(例如,630b)是对用于访问一个或多个附件设备的用户界面对象(例如,612b)的选择(例如,诸如从遥控器接收导航输入以定向用于访问一个或多个附件设备的用户界面对象,并且诸如从遥控器接收选择输入以激活所选择的用户界面对象)。
在一些实施方案中,控制用户界面还包括一个或多个其他用户界面对象,诸如用于搜索的用户界面对象(例如,612d)和用于将媒体传输到设备的用户界面对象(例如,612c)。
显示覆盖在该内容上的控制用户界面使计算机系统能够继续显示,并且使用户能够继续查看该内容的至少一部分(例如,该内容的大部分),同时仍能访问附加功能。在保持该内容的显示的同时提供对附加功能的访问增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,在经由显示生成部件(例如,610)显示该内容(例如,604)时并且在将控制用户界面(例如,612)覆盖在该内容(例如,604)之前,计算机系统(例如,600)从控制设备(例如,602,遥控器)接收第四输入(例如,630a,控制设备的按钮(诸如电视按钮602c)上的长按压)。响应于接收到第四输入,计算机系统(例如,600)显示覆盖在该内容(例如,604)上的控制用户界面(例如,612),其中该控制用户界面包括用于访问一个或多个附件设备的用户界面对象(例如,612b)。
显示覆盖在该内容上的控制用户界面使计算机系统能够继续显示,并且使用户能够继续查看该内容的至少一部分(例如,该内容的大部分),同时仍能访问附加功能。在保持该内容的显示的同时提供对附加功能的访问增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,响应于接收到第一输入,计算机系统600经由显示生成部件(例如,610)来与相机视图(例如,616a)同时显示:至少部分地覆盖(例如,完全覆盖)在该内容上的第二相机视图的至少一部分(例如,616b,第二相机视图的一部分;包括来自第二相机的视觉元素的相机视图,诸如视频馈送、实时视频馈送、图像、一系列图像、第二可选用户界面对象)(例如,使得该内容的第一部分被替换为相机视图的显示,同时继续显示该内容的第二部分),其中相机视图和第二相机视图可经由用户输入来水平滚动(例如,一齐水平移动)(例如,滚动进入其他相机的附加相机视图的视图,同时滚动出相机视图和第二相机视图的视图)。在一些实施方案中,使用第一视觉配置(例如,第一显示尺寸(预览显示尺寸))显示第二相机视图。
在一些实施方案中,响应于接收到第一输入,计算机系统600经由显示生成部件(例如,610)来与相机视图(例如,616a)同时显示:可竖直滚动(例如,一齐竖直移动)的多个场景控制用户界面对象(例如,618,至少部分地覆盖在该内容上,完全覆盖在该内容上),其中对该多个场景控制用户界面对象中的相应场景控制用户界面对象(例如,6181、618b)的选择发起用于传输改变一个或多个(例如,多个)相应附件设备的状态的指令的过程(例如,选择使得传输该指令)。
提供可沿着不同轴线滚动的两组对象允许该系统接收不同输入(例如,竖直滚动输入、水平滚动输入)以显示相应组对象的附加输入。提供附加控制选项而不由于附加显示的控件使UI杂乱就增强了设备的可操作性,并且使用户-设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),这又通过使用户能够更快速且高效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,接收第二输入包括:从控制设备(例如,602,遥控器)接收定向于(target)相机视图的输入(例如,使得视觉焦点指示符指示相机视图对焦),并且在定向于相机视图的同时,从控制设备(例如,602)接收对应于控制设备(例如,602)的第一按钮(例如,602a,选择按钮)的激活的输入(例如,630c)(例如,接收对应于遥控器的选择按钮的激活的输入);在一些实施方案中,第二配置中的相机视图包括相应相机的名称(例如,“门廊相机”、“前门相机”)的指示,其中相机视图包括相应相机的视场的至少一部分。
在一些实施方案中,响应于接收到第二输入,停止经由显示生成部件(例如,610)显示该内容(例如,604,视频内容)。在一些实施方案中,第二视觉配置中的相机视图替换该内容的显示。在一些实施方案中,第二视觉配置是全屏配置。在显示使用第二视觉配置的相机视图(例如,620a、622a)时(并且在不显示该内容时),计算机系统(例如,600)从控制设备(例如,602,遥控器)接收对应于控制设备的第二按钮(例如,602b,菜单按钮)的激活的输入(例如,接收对应于与选择按钮不同的菜单按钮的激活的输入)。响应于接收到对应于控制设备的第二按钮的激活的输入,计算机系统(例如,600)重新显示该内容(例如,604,不论任何定向;不论视觉焦点指示符的状态)(并且任选地,重新显示相机视图、第二相机视图和/或覆盖在该内容上的该多个场景控制用户界面对象)。在一些实施方案中,根据确定在接收到第一输入时显示相机视图、第二相机视图和该多个场景控制用户界面对象,响应于接收到对应于控制设备的第二按钮的激活的输入而重新显示覆盖在该内容上的使用第一视觉配置的相机视图。
提供不同类型的输入以执行不同动作(例如,停止显示该内容、重新显示该内容)允许该系统对所提供的输入的用户意图进行消歧,从而减少了用户提供多个输入来访问该系统的期望功能的需要。
减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,接收第一输入包括接收已检测到门铃活动(例如,访问者(已知或未知)带到相机的视场中、在相机的视场中检测到的运动,已在门铃处检测到门铃按压)的指示。
在一些实施方案中,门铃相机系统从相机接收图像,处理这些图像,并且确定某个体(某人)何时位于相机的视场中。在一些实施方案中,第一输入是计算机系统从门铃相机系统接收到的输入,该输入指示已确定某个体(某人)位于相机的视场中。在一些实施方案中,门铃相机系统包括可被激活的按钮(例如,电子门铃)。在一些实施方案中,第一输入是计算机系统从门铃相机系统接收到的输入,该输入指示已确定按钮(例如,电子门铃)已被激活。
在检测到门铃活动时显示相机视图为用户提供了这样的反馈:在用户查看该内容时,计算机系统已接收到指示某人位于相机的视场中的数据。提供改进的反馈增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,在经由显示生成部件(例如,610)显示使用第一视觉配置(例如,第一显示尺寸(预览显示尺寸)、第一显示位置(在可显示区域的拐角中))的相机视图(例如,616a、626a)时,接收第五输入。
响应于接收到第五输入:根据确定第五输入对应于控制设备的第二按钮(例如,602b,菜单按钮)的激活(例如,接收到对应于与选择按钮不同的菜单按钮的激活的输入),计算机系统(例如,600)停止显示覆盖在该内容上的相机视图(例如,626a)(例如,停止显示相机视图并且继续显示该内容)。响应于接收到第五输入:根据确定第五输入(例如,630h)对应于控制设备的第三按钮(例如,602d,音频按钮)的激活(例如,不论任何定向;不论视觉焦点指示符的状态)(例如,接收到对应于与选择按钮和菜单按钮不同的音频按钮的激活的输入),计算机系统(例如,600)(例如在第三按钮继续被激活时)将经由麦克风检测到的音频(例如,在计算机系统处检测到的、在控制设备处检测到的音频)传输到远程扬声器设备(例如,传输到扬声器,传输到相机的扬声器,传输到与相机相连的扬声器)。响应于接收到第五输入:根据确定(例如,不论任何定向;不论视觉焦点指示符的状态)第五输入(例如,630i)对应于控制设备的第四按钮(例如,602c,电视按钮)的激活(例如,接收到对应于遥控器的电视按钮的激活的输入),计算机系统(例如,600)显示使用第二配置的相机视图(例如,620a)并且停止显示该内容。在一些实施方案中,第二配置中的相机视图包括相应相机的名称(例如,“门廊相机”、“前门相机”)的指示,其中相机视图包括相应相机的视场的至少一部分。
在计算机系统所接收到的各种输入之间消歧并且使得采取适当动作允许该系统为用户提供对多个动作的访问而不需要为每个动作显示视觉元素。提供附加控制选项而不由于附加显示的控件使UI杂乱就增强了设备的可操作性,并且使用户-设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),这又通过使用户能够更快速且高效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,接收第二输入包括接收对应于控制设备的第四按钮(例如,电视按钮)的激活的输入(例如,接收对应于遥控器的电视按钮的激活的输入),并且作为响应,停止显示该内容。
在一些实施方案中,在显示该内容(例如,604)而不显示相机视图时,计算机系统(例如,600)接收对应于音频指令的输入。响应于接收到对应于音频指令的输入:根据确定(例如,使用自然语言处理)音频指令对应于显示相机视图的指令,计算机系统显示相机视图(例如,620a、622a,对应于相机)(使用例如第二视觉配置);并且根据确定(例如,使用自然语言处理)音频指令对应于显示第二相机视图的指令,显示第二相机视图(例如,对应于与相机不同的第二相机)(使用例如第二视觉配置)。
在一些实施方案中,在显示该内容而不显示相机视图时,计算机系统接收对应于音频指令的输入。响应于接收到对应于音频指令的输入,计算机系统显示相机视图(例如,对应于相机)(使用例如第一视觉配置、第二视觉配置)。
在一些实施方案中,第一输入是音频指令(例如,用于由数字助理处理的语音命令),并且显示具有第一视觉配置的相机视图包括:根据音频指令包括第一相机的名称,显示具有第一视觉配置的第一相机的视图;并且根据音频指令包括与第一相机不同的第二相机的名称,显示具有第一视觉配置的第二相机的视图。
使用语音控制来使得显示特定相机视图允许用户使用有限的输入有效地访问相机视图,从而减少所需的输入数量。减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,外部设备可独立于计算机系统来将音频(例如,经由外部设备的麦克风接收到的音频)传输到对应于相机的扬声器。
在一些实施方案中,相机视图(例如,在第一视觉配置中、在第二视觉配置中)是从相机接收到的实时视频馈送(例如,相机的视场的实时视频馈送)。在一些实施方案中,相机视图(例如,在第一视觉配置中、在第二视觉配置中)是从相机接收到的延迟图像或延迟视频馈送(例如,相机的视场的延迟图像或延迟视频馈送)。
在一些实施方案中,第一视觉配置中的相机视图包括覆盖在相机视图上(例如,底部处)的表述“按压控制设备的第三按钮以讲话”的消息。超时(例如,5秒)之后,“按压控制设备的第三按钮以讲话。”改变为“按压电视按钮以返回全屏。”
在一些实施方案中,响应于接收到第一输入,经由显示生成部件来与第一相机的相机视图同时显示(第二相机的)第二相机视图(在完整相机视图的右方)(而不示出其他相机视图)。
在一些实施方案中,如果为该相机启用“检测活动”模式,则相机视图不是来自该相机的图像(例如,不是实时视图,不是延迟静态图像,是模糊图像,指示流不可用)。
在一些实施方案中,同时显示多个示能表示,该多个示能表示在被激活时使得显示对应应用程序,其中第一输入是该多个示能表示中的示能表示(例如,对应于家应用程序)的激活。
在一些实施方案中,基于通信信道(例如,蓝牙(安全)相比于IR(非安全))来确定控制设备是安全控制设备。
在一些实施方案中,基于已完成与计算机系统的配对过程来确定控制设备是安全控制设备。
在一些实施方案中,所接收到的用于在非安全附件的附件控制用户界面对象与安全附件的附件控制用户界面对象之间改变焦点的用户输入使得该变化对焦,而不论是从安全控制设备还是非安全控制设备接收到该输入。
应注意,上文相对于方法700所述的过程(例如图7)的详情也以类似方式适用于下文所述的方法。例如,方法900任选地包括上文参考方法700所述的各种方法的特性中的一个或多个特性。例如,可在显示不同相机视图(如方法700中所阐述)时在电子设备600上执行如下文相对于方法900所讨论的管理访问者。为了简明起见,这些详情在下文中不再重复。
图8A至图8W示出了根据一些实施方案的用于管理访问者的示例性用户界面。这些附图中的用户界面用于示出下文所述的包括图9中的过程的过程。
图8A示出了电子设备800的应用程序的用户界面802,该应用程序用于配置家庭自动化系统(包括相机和门铃附件)的设置。在图8A处,用户界面802包括家的名称802a(诸如“123大街”)、作为家的成员(例如,有权修改对应于家的附件的设置)的多个用户的指示804(Jane 804a、Joe 804b)、用于配置作为家庭自动化系统的一部分的相机附件的设置的相机用户界面对象802b、用于配置作为家庭自动化系统的一部分的灯附件的设置的照明用户界面对象802c以及用于配置作为家庭自动化系统的一部分的多媒体附件(例如,扬声器和电视)的设置的多媒体用户界面对象802d。
多个用户的指示804(Jane 804a、Joe 804b)显示与和家庭自动化系统相关联的各个用户有关的信息。家庭自动化系统与家相关联并且使家庭自动化系统的附件能够由作为家的成员(例如,与家庭自动化系统相关联)的每一个用户控制和/或调节。向对应于特定用户并且在电子设备(例如,电子设备800)上配置(例如,登录到该电子设备,使用该电子设备)的用户账户赋予访问家庭自动化系统的权限而将特定用户分类为家的成员。
图8A至图8W的描述提供了电子设备(例如,电子设备800)的示例,其中Jane的用户账户(例如,对应于指示804a)登录到电子设备800并且其中使Jane的用户账户能够配置作为家庭自动化系统的一部分的附件。因此,电子设备800可控制和/或调节家庭自动化系统的附件。在一些实施方案中,Joe(例如,对应于指示804b)或作为家庭自动化系统的成员的另一个用户可使用另一个电子设备(例如,外部设备)来也配置作为家庭自动化系统的一部分的附件。
在图8A处,电子设备800检测相机用户界面对象802b上的轻击手势850a。响应于检测到轻击手势850a,电子设备800显示用户界面810,如图8B中所示。
图8B示出了用于配置相机和门铃附件的设置的用户界面810。在图8B处,用户界面810包括通知设置区域812、面部识别区域814、今天访问者区域816(例如,在当前天期间检测到的访问者)和先前访问者区域818(例如,在不包括当前天的当前周期间检测到的访问者)。
通知设置区域812包括第一相机通知用户界面对象812a、第二相机通知用户界面对象812b和第一门铃通知用户界面对象812c。第一相机通知用户界面对象812a被配置为调节第一相机附件(例如,厨房相机)的通知设置(例如,打开或关闭电子设备800所显示的通知),第二相机通知用户界面对象812b被配置为调节第二相机附件(例如,客厅相机)的通知设置(例如,打开或关闭电子设备800所显示的通知),并且第一门铃通知用户界面对象812c被配置为调节第一门铃附件(例如,家的前门处的门铃)的通知设置(例如,打开或关闭电子设备800所显示的通知)。在一些实施方案中,通知设置区域812包括用于调节作为家庭自动化系统的一部分的每个相机和门铃附件的通知设置的对应用户界面对象。在一些实施方案中,通知设置区域812包括对相机和/或门铃附件所捕获的图像中被确定为戴着面罩(例如,遮盖个体的鼻部(noise)和/或嘴部(mount)的一部分的面罩)的个体启用/禁用通知的选项。
在图8B处,面部识别区域814包括面部识别用户界面对象814a(例如,“面部识别”),其被配置为在被激活时启用或禁用相机和/或门铃附件的面部识别特征。面部识别特征对相机和/或门铃(例如,门铃的相机)附件所捕获的图像以及可供家庭自动化系统访问以用于面部识别分析的图像信息(例如,照片)(例如,与家庭自动化系统相关联的识别数据库的图像信息、电子设备800或外部设备已与家庭自动化系统共享的图像信息(例如,来自电子设备800或外部设备的数据库))执行(和/或访问)面部识别分析。当面部识别特征被启用(如图8B中所示)时,执行面部识别分析并且电子设备800上显示的通知在可用时识别相机的所捕获的图像中的个体,从而将一个或多个访问者分类为已知访问者、未知访问者或未识别的访问者。当面部识别特征被禁用(例如,经由面部识别用户界面对象814a上的轻击手势)时,电子设备800上显示的通知不识别相机和/或门铃附件所捕获的图像中的个体。
在一些实施方案中,家庭自动化系统编译识别数据库,作为家的成员的用户可对该识别数据库有贡献并可访问该识别数据库。该识别数据库包括(或基于)作为家的成员的用户所共享和/或添加的图像信息(例如,视频、图像、面部识别信息)和识别信息(例如,姓名)。该识别数据库存取来自由有权访问家庭自动化系统的电子设备800和/或外部设备共享的数据库的图像信息(例如,具有与视频、图像和/或面部识别信息相关联的个体的识别信息(例如,姓名)的图像信息)。当作为家的成员的用户为相机和/或门铃附件所捕获的图像中的个体添加识别信息(例如,姓名)(例如,电子设备800接收输入,所述输入提供出现于相机和/或门铃附件所捕获的图像中的个体的识别信息)时,该识别数据库也从电子设备800接收图像信息。在一些实施方案中,用户可选择不让家庭自动化系统编译识别数据库。在所有实施方案中,家庭自动化系统符合如下进一步概述的隐私政策。
在一些实施方案中,已知访问者是使用包括在与家庭自动化系统相关联的识别数据库中的图像信息(例如,视频、图像、面部识别信息)经由相机和/或门铃附件所捕获的图像中的面部识别分析来识别的个体。在一些实施方案中,已知访问者是使用电子设备800(例如,已向家庭自动化系统赋予访问电子设备800的照片库的权限)或外部设备(例如,已向家庭自动化系统赋予访问外部设备的照片库的权限)所共享的所识别的个体的图像信息(例如,与个体的识别信息(例如,姓名)相关联的个体的视频、图像或面部识别信息)经由相机和/或门铃附件所捕获的图像中的面部识别分析来识别的个体。因此,在一些实施方案中,已知访问者是这样的访问者:(a)其匹配(使用面部识别)可由登录到家庭自动化系统中的电子设备的用户访问的(一个或多个)照片、视频和/或面部识别信息中的个体,以及(b)该个体具有可由登录到家庭自动化系统中的电子设备的用户访问的对应姓名。
在一些实施方案中,未知访问者是使用电子设备800(例如,已向家庭自动化系统赋予访问电子设备800的照片库的权限)或外部设备(例如,已向家庭自动化系统赋予访问外部设备的照片库的权限)所共享的未识别的个体的图像信息(例如,不与个体的识别信息(例如,姓名)相关联的视频、图像或面部识别信息)经由相机和/或门铃附件所捕获的图像中的面部识别分析来识别的个体。因此,在一些实施方案中,未知访问者是这样的访问者:(a)其匹配(使用面部识别)可由登录到家庭自动化系统中的电子设备的用户访问的(一个或多个)照片、视频和/或面部识别信息中的个体,以及(b)该个体不具有可由登录到家庭自动化系统中的电子设备的用户访问的对应姓名。
在一些实施方案中,未识别的访问者是使用包括在识别数据库中的图像信息、电子设备800或外部设备所共享的所识别的个体的图像信息以及电子设备800或外部设备所共享的未识别的个体的图像信息经由相机和/或门铃附件所捕获的图像中的面部识别分析而未识别的个体。因此,在一些实施方案中,未识别的访问者是不匹配(使用面部识别)可由登录到家庭自动化系统中的电子设备的用户访问的照片、视频和/或面部识别信息中的任何个体(并且因此将不具有可由家庭自动化系统访问的对应姓名)的访问者。
面部识别区域814还包括已知个体用户界面对象814b。已知个体用户界面对象814b包括作为家的已知访问者的个体(例如,对家庭自动化系统的识别数据库有贡献的个体)的数量的指示符814c。
今天访问者区域816包括第一访问者用户界面对象816a,该第一访问者用户界面对象对应于相机和/或门铃附件在第一时间段(例如,当前天)内捕获到其图像的未知访问者。虽然在该示例中图8B的今天访问者区域816仅示出了第一访问者用户界面对象816a,但电子设备800被配置为使得今天访问者区域816包括在第一时间段内捕获到其图像的每个已知访问者和每个未知访问者的单独用户界面对象。今天访问者区域816不包括未识别的访问者的用户界面对象(即使相机和/或门铃附件在第一时间段期间捕获到未识别的访问者)。例如,未识别的访问者包括不太可能与家的成员相关联的个体(例如,快递员),并且因此不显示未识别的访问者的用户界面对象。在一些实施方案中,今天访问者区域816中的一个或多个(或所有)条目包括指示相机捕获到该个体的日期和/或时间的日期和/或时间戳。
先前访问者区域818包括第二访问者用户界面对象818a和第三访问者用户界面对象818b,它们各自对应于相机和/或门铃附件在第二时间段(例如,不包括当前天的当前周)内捕获到其图像的已知访问者(例如,分别为John Appleseed和Kate Smith)。在一些实施方案中,第二时间段是在第一时间段之前发生并且不包括第一时间段的时间段。如图8B中所示,今天访问者区域816和先前访问者区域818是用户界面810上的单独区域。将今天访问者区域816和先前访问者区域818分开使用户能够区分相机和/或门铃附件最近捕获的访问者和在较早时间捕获的访问者。虽然在该示例中图8B的先前访问者区域818示出了第二访问者用户界面对象818a和第三访问者用户界面对象818b,但电子设备800被配置为使得先前访问者区域818包括在第二时间段内捕获到其图像的每个已知访问者和每个未知访问者的单独用户界面对象。先前访问者区域818不包括未识别的访问者的用户界面对象(即使相机和/或门铃附件在第二时间段期间捕获到未识别的访问者)。例如,未识别的访问者包括不太可能与家的成员相关联的个体(例如,快递员),并且因此不显示未识别的访问者的用户界面对象。在一些实施方案中,电子设备800被配置为不在今天访问者区域816中和/或先前访问者区域818中显示被确定为戴着面罩的个体的通知。在一些实施方案中,电子设备800被配置为(例如,经由显示的通知)向电子设备800的用户通知被确定为戴着面罩的个体不会出现在今天访问者区域816中和/或先前访问者区域818中。在一些实施方案中,在首次将个体确定为戴着面罩时发生该通知。在一些实施方案中,先前访问者区域818中的一个或多个(或所有)条目包括指示相机捕获到(例如,相应相机捕获到和/或识别)个体的日期和/或时间的日期和/或时间戳。例如,第二访问者用户界面对象818a任选地包括指示相机何时捕获到个体的日期(例如,“2021年5月10日”)和/或时间(例如,“下午3:32”)。
在图8B处,电子设备800检测已知个体用户界面对象814b上的轻击手势850b。响应于检测到轻击手势850b,电子设备800显示用户界面820,如图8C中所示。在图8C处,用户界面820包括数据库用户界面对象820a和已知面部区域822。已知面部区域822包括视觉指示(例如,姓名和/或图像(例如,来自电子设备800的图像数据的图像)),所述视觉指示对应于包括在家庭自动化系统的识别数据库中(例如,添加到该识别数据库或对该识别数据库有贡献)的个体(例如,John Appleseed 822a、Kate Smith 822b、Frank Rivera 822c和AnneSmith 822d)。如下文详细讨论,已将包括在已知面部区域822中的个体添加到家庭自动化系统的识别数据库。在图8C处,对应于已知面部区域822内的个体的视觉指示上的轻击手势可显示包括对应于所选择的个体的附加识别信息(例如,姓名、地址、电子邮件地址、电话号码等)的附加用户界面。
如图8C处所示,电子设备800检测数据库用户界面对象820a上的轻击手势850c。响应于检测到轻击手势850c,电子设备800显示图8D中所示的用户界面824。用户界面824包括数据授权用户界面对象824a、共享授权用户界面对象824b和添加姓名用户界面对象826c。数据授权用户界面对象824a在被激活时启用或禁用家庭自动化系统访问用于匹配到相机和/或门铃附件的所捕获的图像的电子设备800的数据库(例如,照片库)。当数据授权用户界面对象824a被激活时,向家庭自动化系统提供对电子设备800的数据库的访问以(例如,经由面部识别分析)将电子设备800的图像信息(例如,电子设备800的数据库中的图像信息)匹配到相机和/或门铃附件的所捕获的图像(例如,以便通知设备800的用户(而不通知家庭自动化系统的其他用户))。当数据授权用户界面对象824a被去激活时,家庭自动化系统不能访问电子设备800的数据库,并且因此,电子设备800的图像信息(例如,电子设备800的数据库中的图像信息)与相机和/或门铃附件的所捕获的图像的匹配(例如,经由面部识别分析)被禁用(例如,被阻止或被防止)。
类似地,共享授权用户界面对象824b在被激活时启用或禁用家庭自动化系统将电子设备800的图像数据(例如,照片库)与作为家的成员的其他(例如,所有)用户共享。因此,当共享授权用户界面对象824b被激活时,家庭自动化系统可使用电子设备800的数据库来向作为家的成员的所有用户提供通知。当共享授权用户界面对象824b未被激活时,家庭自动化系统可使用电子设备800的数据库来向与电子设备800相关联的用户提供通知(例如,当数据授权用户界面对象824a被激活并且共享授权用户界面对象824b被去激活时,Jane接收通知),但与作为家庭自动化系统的成员的所有其他用户相关联的外部设备不基于电子设备800的数据库中的图像信息来接收通知(例如,当面部识别分析确定相机和/或门铃附件所捕获的图像匹配电子设备800的图像信息时,Joe将不接收通知)。
在图8D处,电子设备800检测添加姓名用户界面对象826c上的轻击手势850d。响应于检测到轻击手势850d,电子设备800显示用户界面830,如图8E中所示。用户界面830包括与电子设备800的数据库(例如,照片库)相关联的图像信息(例如,视频、图像、面部识别信息)。在图8E处,用户界面830包括与电子设备800的数据库中的个体相关联的视觉指示符832(例如,面部识别分析检测数据库的图像和/或信息中的个体)。视觉指示符832包括对应于第一个体(例如,Kate Smith)的第一视觉指示符832a、对应于第二个体(例如,第一未识别的个体)的第二视觉指示符832b、对应于第三个体(例如,第二未识别的个体)的第三视觉指示符832c、对应于第四个体(例如,第三未识别的个体)的第四视觉指示符832d、对应于第五个体(例如,第四未识别的个体)的第五视觉指示符832e、对应于第六个体(例如,第五未识别的个体)的第六视觉指示符832f以及对应于第七个体(例如,第六未识别的个体)的第七视觉指示符832g。在一些实施方案中,视觉指示符832对应于(例如,经由面部识别分析)在电子设备800的数据库的一个或多个图像中识别的个体。
当电子设备800接收到对应于视觉指示符832的用户输入并且(例如,经由附加用户输入)接收到指示识别信息833的数据时,视觉指示符832包括识别信息833(例如,个体的姓名)。为了将识别信息833添加到与第二视觉指示符相关联的第二个体,在图8E处,电子设备800检测第二视觉指示符832b上的轻击手势850e。响应于检测到第二视觉指示符832b上的轻击手势850e,电子设备800显示用户界面834,如图8F中所示。在图8F处,用户界面834包括对应于第二个体的预览图像836以及在可用时对应于第二个体的附加图像838。在一些实施方案中,预览图像836在对应于包括在电子设备800的数据库中的第二个体的图像之间转变。在一些实施方案中,预览图像836是不在对应于第二个体的其他图像之间转变的静态图像。用户界面834还包括识别用户界面对象834a(例如,“添加姓名”,此时电子设备800尚未接收到对应于第二个体的识别信息)。
在图8F处,电子设备800检测对应于对识别用户界面对象834a的选择的轻击手势850f。响应于检测到轻击手势850f,电子设备800显示用户界面852,如下文详细讨论的图8I中所示。
现在转向图8G(与图8B中相同的UI),电子设备800显示用户界面810(例如,响应于接收到用户界面834、830、824和/或820的用户界面对象(例如,“返回”按钮)上的一个或多个用户输入)。在图8G处,电子设备800检测对应于对第一访问者用户界面对象816a的选择的轻击手势850g。响应于检测到轻击手势850g,电子设备800显示用户界面840,如图8H中所示。在图8H处,用户界面840包括与包括在相机和/或门铃附件所捕获的图像中的未知访问者相关的信息和设置。在一些实施方案中,第一访问者用户界面对象816a(例如,在左方)包括相机和/或门铃附件所捕获的包括未知访问者的面部在内的图像的一部分。如上所述,未知访问者包括经由将相机和/或门铃附件所捕获的图像信息匹配到没有电子设备800的识别信息的图像信息(例如,当图像数据授权用户界面对象824a在电子设备800上激活时)和/或没有外部设备的识别信息的图像信息(例如,当图像数据授权用户界面对象824a和共享授权用户界面对象824b在外部设备上激活时)的面部识别分析来识别的个体。在图8H处,用户界面840包括识别信息区域842、未知访问者设置区域844和事件详情区域846。
识别信息区域842包括与未知访问者相关联的个体的视觉指示842a。在一些实施方案中,视觉指示842a包括在检测到未知访问者时相机和/或门铃附件所捕获的个体的面部的图像、与被识别为未知访问者的个体相关联的头像(例如,面部识别分析将相机和/或门铃附件所捕获的图像信息匹配到电子设备800或外部设备的图像信息)和/或电子设备800或外部设备的图像(例如,面部识别分析将相机和/或门铃附件所捕获的图像信息匹配到电子设备800或外部设备的图像信息)。另外,识别信息区域842包括添加识别信息用户界面对象842b,该添加识别信息用户界面对象在被选择时被配置为发起让电子设备800的用户输入与未知访问者相关联的识别信息(例如,个体的姓名)的过程,如下文参考图8G所讨论。
未知访问者设置区域844包括定制门铃用户界面对象844a、隐藏通知用户界面对象844b和移除人员用户界面对象844c。定制门铃用户界面对象844a被配置为当被选择时,在家庭自动化系统经由相机和/或门铃附件所捕获的图像信息与识别数据库或电子设备800的图像信息之间的面部识别将个体识别为与未知访问者相关联的个体的时候调节家庭自动化系统的门铃附件的音频输出。隐藏通知用户界面对象844b被配置为当被选择时,响应于经由相机和/或门铃附件所捕获的图像信息与识别数据库或电子设备800的图像信息之间的面部识别将个体识别为与未知访问者相关联的个体(例如,在检测到该个体时,在该个体按门铃时)而启用或禁用电子设备800显示通知。移除人员用户界面对象844c从用户界面810移除第一访问者用户界面对象816a并且不将与第一访问者用户界面对象816a相关联的个体添加到识别数据库。事件详情区域846包括与家庭自动化系统的附件(例如,相机和/或门铃附件)检测到未知访问者的时间相关的第一文本信息846a。
在图8H处,为了将未知访问者添加到识别数据库(从而将访问者转换为已知访问者),电子设备800检测添加识别用户界面对象842b上的轻击手势850h。响应于检测到轻击手势850h,电子设备800显示用户界面852,如图8I中所示。
在图8I处,用户界面852包括文本输入用户界面对象852a、添加个体用户界面对象852b和键盘用户界面对象852c。电子设备800检测文本输入用户界面对象852a上的手势(例如,轻击手势)以使电子设备800能够接收经由键盘用户界面对象852c的输入。因此,电子设备800检测键盘用户界面对象852c上对应于与未知访问者对应的个体的识别信息(例如,姓名)的输入(例如,一系列轻击手势)。在键盘用户界面对象852c上的输入完成时,电子设备800检测添加个体用户界面对象852b上的轻击手势850i。响应于检测到轻击手势850i,电子设备800显示用户界面854,如图8J中所示。
在图8J处,电子设备800更新用户界面840以显示用户界面854,从而反映相同访问者现在为已知访问者(例如,具有对应姓名)。用户界面854包括经由来自用户界面852的用户输入而接收到的识别信息。如图8J中所示,添加识别信息用户界面对象842b被替换为识别信息用户界面对象854a(例如,将未知访问者识别为“GARDENER”的文本指示)。此外,修改访问者详情区域846以包括第二文本信息846b,该第二文本信息指示Jane在某日期(例如,2020年1月4日)识别(先前)未知访问者(例如,通过输入将未知访问者识别为“GARDENER”(例如,标记未知访问者)的信息)。在一些实施方案中,第二文本信息846b包括识别未知访问者(例如,输入与未知访问者相关联的识别信息)的作为家的成员的用户和/或作为家的成员的用户的用于识别未知访问者的数据库(例如,面部识别分析在相机和/或门铃附件所捕获的图像信息与作为家的成员的用户的数据库的图像信息之间识别未知访问者)。在一些实施方案中,第二文本信息846b不包括未知访问者的识别日期并且仅包括与作为家的成员的用户和/或作为家的成员的用户的用于识别未知访问者的数据库相关的文本信息。
在图8K处,电子设备800显示具有更新的已知面部区域822的用户界面820以包括与先前未知访问者(例如,Gardener 822e)相关联的用户界面对象。图8K示出了在电子设备800接收到与访问者相关的识别信息时将先前未知访问者(例如,“GARDNER”)添加到家庭自动化系统的识别数据库。因此,该个体现在已知并且电子设备800所接收到的与相机和/或门铃附件所捕获的Gardener图像相关联的未来通知将包括识别信息(例如,姓名“GARDENER”)以向作为家的成员的用户指示Gardener已被识别并且例如作为已知访问者位于门口。通过输入Gardener姓名,用户已将Gardener姓名添加到家庭自动化系统的识别数据库。因此,家庭自动化系统将该个体分类为已知访问者,并且当家庭自动化系统识别该个体已激活门铃活动(例如,按门铃,在相机处检测到)时,家庭自动化系统的用户可接收到具有姓名Gardener的相应通知。
图8L示出了电子设备800响应于用户界面810的第三访问者用户界面对象818b上的轻击手势850j而显示的用户界面860,如图8G中所示。用户界面860包括与包括在相机和/或门铃附件所捕获的图像中的已知访问者相关的信息和设置。如上所述,已知访问者包括使用相机和/或门铃附件所捕获的图像信息以及具有电子设备800的识别信息的图像信息(例如,当图像数据授权用户界面对象824a在电子设备800上激活并且该图像信息包括该个体的识别信息时)、具有外部设备的识别信息的图像信息(例如,当图像数据授权用户界面对象824a和共享授权用户界面对象824b在外部设备上激活并且该图像信息包括该个体的识别信息时)和/或识别数据库的图像信息经由面部识别分析来匹配的个体。在图8L处,用户界面860包括识别信息区域862、已知访问者设置区域864和事件详情区域866。
识别信息区域862包括与已知访问者相关联的个体的视觉指示862a。在一些实施方案中,视觉指示862a包括在检测到已知访问者时相机和/或门铃附件所捕获的图像、与被识别为已知访问者的个体相关联的头像(例如,面部识别分析将相机和/或门铃附件所捕获的图像信息匹配到电子设备800或外部设备的图像信息)和/或与已知访问者相关联的电子设备800或外部设备的图像(例如,面部识别分析将相机和/或门铃附件所捕获的图像信息匹配到电子设备800或外部设备的图像信息)。另外,识别信息区域862包括识别信息用户界面对象862b,该识别信息用户界面对象包括与已知访问者相关联的文本信息(例如,姓名“KATE SMITH”)。在一些实施方案中,电子设备800检测对应于对识别信息用户界面对象864b的选择的用户输入(例如,轻击手势)。响应于检测到该用户输入,电子设备800显示用户界面对象,该用户界面对象使电子设备600的用户能够修改与已知访问者相关联的文本信息(例如,更新识别数据库以反映访问者的新姓名)。在一些实施方案中,响应于检测到该用户输入,电子设备放弃显示该用户界面对象,使得电子设备600的用户不能修改与已知访问者相关联的文本信息。
在图8L处,已知访问者设置区域864包括定制门铃用户界面对象864a和隐藏通知用户界面对象864b。已知访问者设置区域864不包括移除人员用户界面对象844c,原因是由于作为家庭自动化系统的成员的另一个用户将电子设备(例如,外部设备)的图像信息(例如,照片库)与识别数据库共享,因此与用户界面860相关联的已知访问者包括在识别数据库中。换句话讲,经由作为家的成员的另一个用户的数据库(例如,照片库)来将与用户界面860相关联的已知访问者添加到识别数据库。经由作为家的成员的用户的数据库来添加到识别数据库的已知访问者不能从来自用户界面860的识别数据库移除。在一些实施方案中,经由其数据库来共享与已知访问者相关联的图像信息的作为家的成员的用户可通过访问用户界面830来移除已知访问者。家的所有其他成员不能从识别数据库移除已知访问者(例如,当经由作为家的成员的用户的数据库来将已知访问者添加到识别数据库时,电子设备800不显示移除人员用户界面对象844c)。
如上所述,图8L的定制门铃用户界面对象864a被配置为当被选择时,在家庭自动化系统经由相机和/或门铃附件所捕获的图像信息与识别数据库或电子设备800的图像信息之间的面部识别将个体识别为与已知访问者相关联的个体的时候调节家庭自动化系统的门铃附件的音频输出。隐藏通知用户界面对象864b被配置为当被选择时,响应于经由相机和/或门铃附件所捕获的图像信息与识别数据库或电子设备800的图像信息之间的面部识别将个体识别为与已知访问者相关联的个体而启用或禁用电子设备800所显示的通知。
在图8L处,访问者详情区域866包括与家庭自动化系统的附件(例如,相机和/或门铃附件)检测到已知访问者的时间相关的第一文本信息866a。此外,访问者详情区域866包括第二文本信息866b,该第二文本信息指示已知访问者(例如,“KATE SMITH”)从作为家的成员的用户(例如,Joe)的数据库(例如,“JOE的库”)添加到识别数据库。第二文本信息866b还可包括识别数据库从作为家的成员的用户的数据库接收到已知访问者的识别信息(例如,姓名)时的日期(例如,2019年12月19日)。如上所述,通过共享来自电子设备800的其数据库的图像信息来将已知访问者添加到识别数据库的作为家的成员的用户在电子设备800上接收到与已知访问者相关的通知(例如,当面部识别分析在相机和/或门铃附件所捕获的图像信息和数据库中的图像信息中将个体识别为与已知访问者相关联的个体时)。此外,当作为家的成员的用户使其数据库能够被作为家的成员的其他用户访问时,作为家的成员的其他用户也可(例如,在外部设备上)接收到此类通知。
现在转向图8M,电子设备800响应于从家庭自动化系统接收到相机和/或门铃附件检测到个体(例如,面部识别分析在相机和/或门铃附件所捕获的图像信息中识别个体)的指示而显示通知。在图8M处,电子设备800显示包括通知872的用户界面870。在该示例中,当电子设备800处于锁定模式(例如,电子设备800的至少一些功能被禁用;电子设备800保持处于锁定模式直到检测到解锁电子设备的输入(例如,密码、面部识别分析、指纹分析))时,在电子设备800上显示通知872。在一些实施方案中,当电子设备800处于解锁模式时,电子设备800也显示通知872。基于电子设备800是处于锁定模式(例如,在时间指示符下方朝向屏幕的中间部分)还是解锁模式(例如,朝向屏幕的顶部部分),通知872可定位在电子设备800的显示器(例如,显示生成部件)上的不同位置处。
在图8M处,用户界面870包括时间指示符870a、日期指示符870b以及与电子设备800的应用程序(例如,手电筒应用程序和相机应用程序)相关联的一个或多个可选用户界面对象870c。电子设备800在从家庭自动化系统(例如,家庭自动化系统的相机和/或门铃附件)接收到该指示之后的第一时间(例如,初始时间)显示通知872。通知872包括应用程序指示符872a(例如,生成通知872的应用程序(诸如家应用程序)的指示)、附件指示符872b(例如,“前门”相机和/或门铃附件)、检测时间指示符872c(例如,“现在”)、家庭自动化系统的附件所检测到的个体的视觉指示符872d(例如,相机和/或门铃附件所捕获的图像)以及与所检测的事件相关的识别指示符872e(例如,“有人在按门铃”)。
在一些实施方案中,家庭自动化系统未立即识别家庭自动化系统的附件(例如,相机)所检测到的个体(例如,个体部分地位于相机和/或门铃附件的视场内,或不位于全视场内,如视觉指示符872d中所示)。因此,第一时间的识别指示符872e包括一般指示家庭自动化系统的附件已检测到个体(而未指定该个体的姓名)的文本。在一些实施方案中,该个体移动到相机和/或门铃附件的视场内(例如,全视场内)的位置,使得可使用识别数据库和/或电子设备800的图像信息对相机和/或门铃附件所捕获的图像信息执行面部识别分析。当面部识别分析使相机和/或门铃附件所捕获的图像信息与识别数据库和/或电子设备800的图像信息匹配时,电子设备800更新通知872,如图8N中所示。在一些实施方案中,当面部识别分析未使相机和/或门铃附件所捕获的图像信息与识别数据库和/或电子设备800的图像信息匹配时,电子设备800保持通知872(例如,电子设备800不更新通知872的识别指示符872e),如图8P和图8Q的示例中所示。
在图8N处,响应于个体位于相机的视场内并且面部识别分析将相机和/或门铃附件所捕获的图像信息匹配到识别数据库和/或电子设备800的图像信息,更新(例如,由电子设备在第一时间之后的第二时间显示)识别指示符872e。图8N中的识别指示符872e包括与相机和/或门铃附件所捕获的图像中识别的个体的身份相关的识别信息(例如,从识别数据库检索的姓名“JOHN APPLESEED”)。另外,图8N示出了具有在相机和/或门铃附件的视场内的个体的所捕获的更新图像的视觉指示符872d。
在一些实施方案中,电子设备800在未检测到进一步用户输入的情况下显示通知872。因此,电子设备800继续显示通知872,但更新检测时间指示符872c以反映从在电子设备800接收到家庭自动化系统的附件检测到个体的指示时的第一时间起的时间流逝。如图8O中所示,更新检测时间指示符872c以示出家庭自动化系统的附件在过去的某时间(例如,“1小时前”)检测到该个体。例如,当在相机的视场中不再检测到该个体时,该指示从“在按”改变为“按过”以指示过去时态。在一些实施方案中,电子设备800继续更新通知872(例如,基于当前时间与第一时间之间的时间差来更新检测时间指示符872c)直到电子设备800检测到对应于通知872的用户输入和/或检测到解锁电子设备800(例如,使得电子设备800从锁定模式转变到解锁模式)的用户输入。
如上所述,当面部识别分析基于相机和/或门铃附件所捕获的图像信息与识别数据库和/或电子设备800的图像信息之间的比较而未识别个体时,不更新或修改识别指示符872e。如图8P中所示,电子设备800在用户界面870上显示未知访问者或未识别的访问者的通知876。在图8P处,用户界面870包括时间指示符870a、日期指示符870b以及与电子设备800的应用程序(例如,手电筒应用程序和相机应用程序)相关联的一个或多个可选用户界面对象870c。
通知876包括应用程序指示符876a(例如,生成通知872的应用程序(诸如家应用程序)的指示)、附件指示符876b(例如,“前门”相机和/或门铃附件)、检测时间指示符876c(例如,“现在”)、家庭自动化系统的附件所检测到的个体的视觉指示符876d(例如,相机和/或门铃附件所捕获的图像)以及与所检测的事件相关的识别指示符876e(例如,“有人在按门铃”)。当面部识别分析基于相机和/或门铃附件所捕获的图像信息与识别数据库和/或电子设备800的图像信息之间的比较而未识别个体时,识别指示符876e包括一般识别附件检测到个体的文本(例如,没有与特定个体相关联的识别信息)。换句话讲,识别指示符876e不包括与相机和/或门铃附件所捕获的图像中的个体的特定身份相关的详情(例如,姓名)。
在一些实施方案中,在家庭自动化系统检测到个体之后在相机和/或门铃附件所捕获的图像信息之间周期性地(例如,以预先确定的间隔,诸如每秒、每10秒、每30秒)执行面部识别分析。当在任何时间执行的面部识别分析在相机和/或门铃附件所捕获的图像信息内识别个体时,可更新通知876,如上文参考图8M和图8N所阐述。然而,当面部识别分析持续不能够在相机和/或门铃附件所捕获的图像信息内识别该个体时,电子设备800保持识别信息876e的显示以指示相机和/或门铃附件所捕获的图像信息内的个体是未知访问者和/或未识别的访问者。
在图8P处,电子设备800检测通知876上的用户输入850k(例如,长按压手势或长轻击手势)。响应于检测到用户输入850k,电子设备显示用户界面880,如图8Q中所示。在图8Q处,用户界面880包括应用程序指示符880a(例如,生成通知876的应用程序(诸如家应用程序)的指示)、附件指示符880b(例如,“前门”相机和/或门铃附件)、家庭自动化系统的附件所检测到的个体的视觉指示符880c以及与所检测的事件相关的识别指示符880d(例如,“有人在按门铃”)。视觉指示符880c包括相机和/或门铃附件所捕获的视频流的实时馈送。此外,视觉指示符880c包括说话用户界面对象882a、实时馈送指示符882b(例如,视频流为“实时”的视觉指示)、第一附件用户界面对象882c、第二附件用户界面对象882d以及第三附件用户界面对象882e。
在图8Q处,电子设备800检测说话用户界面对象882a上的第一用户输入(例如,轻击手势、按压并保持手势)以使作为家的成员的用户能够与相机和/或门铃附件所检测到的个体通信(例如,讲话)。在一些实施方案中,相机和/或门铃附件包括用于使音频能够在相机和/或门铃附件与电子设备800之间传输的扬声器和麦克风。作为家的成员的用户可通过第一用户输入来激活通信传输并且通过第二用户输入(例如,轻击手势、按压并保持手势)来去激活通信传输。在一些实施方案中,除了相机和/或门铃附件所捕获的视频流的实时馈送之外,作为家的成员的用户还可接收音频传输,而不论说话用户界面对象882a是否被激活。然而,相机和/或门铃附件所检测到的个体只有在说话用户界面对象882a激活时才可接收来自电子设备(例如,相机和/或门铃附件所输出)的音频传输。
第一附件用户界面对象882c控制锁附件(例如,门的锁)。响应于检测到第一附件用户界面对象882c上的轻击手势,电子设备800将信号发送到锁附件,使得锁附件改变状态(例如,在锁附件处于解锁状态时进入锁定状态,并且反之亦然)。第二附件用户界面对象88d控制第一灯附件(例如,室外前门廊灯)。响应于检测到第二附件用户界面对象882d上的轻击手势,电子设备800将信号发送到第一灯附件,使得第一灯附件改变状态(例如,在第一灯附件关闭时打开,并且反之亦然)。第三附件用户界面对象882e控制第二灯附件(例如,邻近前门的室内灯)。响应于检测到第三附件用户界面对象882e上的轻击手势,电子设备800将信号发送到第二灯附件,使得第二灯附件改变状态(例如,在第二灯附件关闭时打开,并且反之亦然)。
在图8Q处,用户界面880包括添加识别信息用户界面对象884。如上所述,通知876对应于相机和/或门铃附件所捕获的图像信息中检测到的未知访问者(例如,面部识别分析未将相机和/或门铃附件所捕获的图像信息匹配到识别数据库中的图像信息,和/或面部识别分析将相机和/或门铃附件所捕获的图像信息匹配到电子设备800的数据库或外部设备的共享数据库的图像信息)。响应于检测到添加识别信息用户界面对象884上的轻击手势,电子设备800显示用户界面852,如图8I中所示。因此,作为家的成员的用户可通过从电子设备800所显示的通知(例如,通知876)选择添加识别信息用户界面对象884来将未知访问者添加到识别数据库,从而将该个体改变为已知访问者。
在图8R处,面部识别分析在相机和/或门铃附件所捕获的图像信息内检测到多个个体。在图8R处,电子设备800显示包括通知886的用户界面870。通知886包括相机和/或门铃附件所捕获的图像信息内检测到的每个个体的多个视觉指示(例如,第一视觉指示886a和第二视觉指示886b)。此外,通知886包括识别信息886c,该识别信息包括指示家庭自动化系统的附件检测到多个个体的文本(例如,“多人在按门铃”)。当可用时(例如,当面部识别分析在相机和/或门铃附件所捕获的图像信息内识别所述个体中的一个或多个个体时),可更新识别信息886c以包括与相机和/或门铃附件所捕获的图像信息内检测到的每个个体的身份相关的详情。此外,可以以与如上所述的通知872和876类似的方式更新通知886(例如,可在电子设备800未检测到用户输入时随时间推移更新检测时间指示符886d)。
当在相机和/或门铃附件所捕获的图像信息内检测到多个个体时,用户界面810包括该多个个体中的每个个体的单独用户界面对象。在图8S处,用户界面810的今天访问者区域816包括第一访问者用户界面对象816a(已更新以反映图8G至图8K中电子设备800所接收到的识别信息)。此外,在图8S中更新今天访问者区域816以包括第四访问者用户界面对象816b、第五访问者用户界面对象816c、第六访问者用户界面对象816d和第七访问者用户界面对象816e。如图8S中所示,今天访问者区域816的每个用户界面对象对应于相机和/或门铃附件所捕获的图像信息中检测到的单个个体(例如,已知访问者或未知访问者)。
第四访问者用户界面对象816b对应于与通知886的第一视觉指示886a相关联的个体,并且第五访问者用户界面对象816c对应于与通知886的第二视觉指示886b相关联的个体。如图8S中所示,分别对应于第四访问者用户界面对象816b和第五访问者用户界面对象816c的两个个体均是未知访问者(例如,经由相机和/或门铃附件所捕获的图像信息和不包括与所述个体相关联的识别信息的电子设备800或外部设备的数据库的图像信息之间的面部识别分析来识别的个体)。因此,作为家的成员的用户可将未知访问者添加到识别数据库,如上文相对于图8G至图8K的描述所阐述。
第六访问者用户界面对象816d对应于被识别为已知访问者的个体(例如,“JOHNAPPLESEED”),如上文相对于图8M至图8O的描述所阐述。另外,第七访问者用户界面对象816e对应于被识别为未知访问者的个体,如上文相对于图8P至图8Q的描述所阐述。
在一些实施方案中,按时间顺序显示今天访问者区域816的用户界面对象。例如,朝向今天访问者区域816的顶部列出对应于相机和/或门铃附件最近检测到的个体的用户界面对象。朝向今天访问者区域816的底部显示对应于在第一时间段内的较早时间检测到的个体的用户界面对象。在一些实施方案中,用户界面810在显示先前访问者区域818之前在今天访问者区域816中显示对应于在第一时间段内检测到的个体的所有用户界面对象。响应于电子设备800检测到用户界面810上的用户输入(例如,滚动手势),可平移(例如,竖直平移)用户界面810以示出先前访问者区域818和先前访问者区域818内的对应用户界面对象(例如,对应于在第二时间段内检测到的个体的用户界面对象,诸如第二访问者用户界面对象818a和第三访问者用户界面对象818b)。
现在转向图8T,电子设备800可响应于从家庭自动化系统接收到家庭自动化系统的附件(例如,相机和/或门铃附件)检测到对象(例如,包裹)的指示而显示通知888。通知888包括应用程序指示符888a(例如,生成通知888的应用程序(诸如家应用程序)的指示)、附件指示符888b(例如,“前门”相机和/或门铃附件)、检测时间指示符888c(例如,“现在”)、家庭自动化系统的附件所检测到的对象的视觉指示符888d(例如,相机和/或门铃附件所捕获的图像、大致描绘包裹的图形)以及与所检测的事件相关的识别指示符888e(例如,“包裹已送达”)。
在一些实施方案中,电子设备800在指示家庭自动化系统的附件(例如,相机和/或门铃附件)检测到个体的通知(例如,通知872、876、886)之后显示通知888。在一些实施方案中,通知888与指示家庭自动化系统的附件(例如,相机和/或门铃附件)检测到个体的通知(例如,通知872、876、886)同时显示。
在一些实施方案中,电子设备800被配置为显示家庭自动化系统的附件(例如,相机和/或门铃附件)所检测到的事件的图像和/或视频。例如,电子设备800显示家庭自动化系统的附件所检测到的事件的先前捕获的图像和/或视频。为了显示先前捕获的图像和/或视频,在一些实施方案中,在通知已在电子设备800上显示了预先确定的时间段(例如,10分钟、30分钟、1小时)之后,电子设备800检测通知876上的用户输入。例如,电子设备800检测图8O中所示的通知876上的轻击手势850l。响应于检测到轻击手势850l,电子设备显示用户界面890,如图8U中所示。
图8U示出了相机和/或门铃附件检测到个体(例如,“JEN APPLESEED”)时相机和/或门铃附件所捕获的视频馈送892。在一些实施方案中,根据运动检测条件设置(例如,当检测到人的运动时进行录制),当检测到人的运动时触发录制。响应于检测到该运动,录制来自相机和/或门铃附件的视频馈送(例如,将该视频馈送发送到在相机和/或门铃附件或设备800远处的服务器)。在一些实施方案中,录制视频数据持续预先确定的时间量(例如,从检测到运动的时间起10秒或从检测到运动的时间起直到停止检测运动之后10秒)。
在图8U中,设备800在刷动条894中的表示录制该片段的时间的位置处显示视频馈送892的片段表示892a。设备800还将对应指示符892b与片段表示892a一起显示。在一些实施方案中,对应指示符892b是相机和/或门铃附件所捕获的视频馈送892的帧(或其一部分)。在一些实施方案中,对应指示符892b可以是与相机和/或门铃附件所捕获的图像信息中检测到的个体相关联的视觉表示(例如,相机和/或门铃附件所捕获的图像、来自识别数据库的图像、来自电子设备800或外部设备的图像、表示所检测的个体的头像(例如,已知访问者的头像)或表示未知或未识别的访问者的头像)。在一些实施方案中,设备800在刷动条894中显示覆盖在片段表示892a顶部上的对应指示符892b。在一些实施方案中,当对应指示符892b显示在刷动条894中时,该对应指示符小于片段表示892a的尺寸,并且与片段表示892a的一部分(而不是片段表示892a的另一部分)重叠。在一些实施方案中,对应指示符892b显示为与片段表示892a相邻,如图8V中所示。
现在转向图8W,示出了正显示与图8Q的用户界面880类似的用户界面898的电子设备896(例如,可穿戴电子设备、便携式电子设备)。因此,电子设备896(例如,经由电子设备800)连接到家庭自动化系统并且被配置为显示家庭自动化系统所生成的通知。虽然图8W示出了用户界面898(例如,对应于用户界面880)的示例,但上文相对于图8A至图8V的电子设备800所描述的每个实施方案可适用于图8W的电子设备896。
图9是示出根据一些实施方案的用于使用电子设备管理访问者的方法的流程图。方法900在与显示生成部件通信(例如,有线通信、无线通信)的计算机系统(例如,100、300、500、800)处执行。方法900中的一些操作任选地被组合,一些操作的次序任选地被改变,并且一些操作任选地被省略。
如下所述,方法900提供了用于管理访问者的直观方式。该方法减轻了用户管理访问者的认知负担,从而创建了更有效的人机界面。对于电池驱动的计算设备,使得用户能够更快更有效地管理访问者节省了功率并且增加了电池充电之间的时间。
计算机系统(例如,800,电子设备)与显示生成部件通信(例如,有线通信、无线通信)。计算机系统在(902)处经由显示生成部件显示多个示能表示(例如,816a、816b、816c、816d、816e、818a、818b),该多个示能表示对应于相机(例如,门铃相机;具有相机的门铃系统、具有相机的监测系统)所捕获的访问者图像。相机与计算机系统相关联(例如,通信地耦接到计算机系统或计算机系统的账户)。在一些实施方案中,计算机系统还与相机(例如,门铃相机、包括相机传感器(和可选门铃开关)的相机系统、安装在物理位置的入口诸如家的入口处的相机系统)通信。
该多个示能表示(例如,816a、816b、816c、816d、816e、818a、818b)包括(例如,同时显示)第一示能表示(904)(例如,816d、816e、818a、818b)(例如,具有与如下相关的文本的图标或按钮:访问者的姓名、图像、其他识别信息和/或与如何知道访问者相关的信息(例如,访问者由家庭成员标记、标记访问者的家庭成员的姓名、用于标记访问者的照片库和/或其照片库用于标记访问者的家庭成员的姓名)),该第一示能表示对应于作为已知访问者的第一访问者(例如,先前已存储在识别数据库中的访问者是已知访问者;被识别为与已将联系信息诸如姓名、住址或电话号码存储在识别数据库中的特定条目对应的访问者是已知访问者)。在一些示例中,经由相机所捕获的图像与存储在识别数据库中的图像信息(例如,视频、图像、面部识别信息)之间的面部识别分析(例如,比较)来将第一访问者确定为已知访问者。在一些示例中,经由在检测时相机所捕获的图像与存储在计算机系统的照片库中(或云中)的图像信息(例如,视频、图像、面部识别信息)之间的面部识别分析来将访问者(例如,第一访问者)确定为已知访问者。
该多个示能表示(例如,816a、816b、816c、816d、816e、818a、818b)包括(例如,同时显示)第二示能表示(906)(例如,816a、816b、816c)(例如,具有诸如“未知访问者”和/或“添加姓名”的文本的图标或按钮),该第二示能表示不同于第一示能表示,并且对应于作为未知访问者的第二访问者(例如,经由相机所捕获的图像与存储在计算机系统的照片库中(或云中)但未存储在识别数据库中的图像信息(例如,视频、图像、面部识别信息)之间的面部识别分析来确定的访问者是未知访问者)。
在显示对应于门铃相机所捕获的访问者图像的该多个示能表示(例如,816a、816b、816c、816d、816e、818a、818b)时,计算机系统(例如,800)在(908)处接收第一用户输入(例如,850g、850j,轻击手势)。
响应于接收到第一用户输入(910),根据确定第一用户输入对应于对第一示能表示(例如,816d、816e、818a、818b)的选择,计算机系统(例如,800)在(912)处显示第一用户界面(例如,860,已知访问者用户界面,而不显示第二用户界面),该第一用户界面包括对应于第一访问者的信息(例如,862)(例如,来自照片库的或先前从门铃相机捕获的第一访问者的图像(例如,862a)、第一访问者的姓名(例如,862b)、与第一访问者相关联的电话号码、电子邮件地址或其他联系信息、用于隐藏与第一访问者相关的通知的示能表示(例如,864b,切换键)和/或使第一访问者能够作为已知访问者被移除(例如,从识别数据库移除)的示能表示(例如,844c))。
响应于接收到第一用户输入(910),根据确定第一用户输入对应于对第二示能表示(例如,816a、816b、816c)的选择,计算机系统(例如,800)在(914)处发起用于将第二访问者分类为已知访问者的过程,包括显示第二用户界面(例如,840,未知访问者用户界面,而不显示第一用户界面)。在一些示例中,第二用户界面(例如,840)包括第三示能表示(例如,842b,使姓名或其他信息能够与识别数据库中的第二访问者相关联的文本输入示能表示、使用户能够将存储在照片库中的图像信息与识别数据库中的第二访问者相关联的示能表示和/或将第二访问者添加和/或存储在识别数据库中的示能表示(例如,按钮)),该第三示能表示在被选择时将第二访问者分类为已知访问者(例如,将门铃相机所捕获的第二访问者的图像和/或存储在照片库中的图像信息添加到识别数据库(或开始该添加过程))。
在显示第二用户界面(例如,840)之后,计算机系统(例如,800)在(916)处接收对应于姓名(例如,854a)的一个或多个输入(例如,852b)。
响应于接收到对应于姓名(例如,854a)的该一个或多个输入(例如,852b),计算机系统(例如,800)在(918)处将第二访问者分类为已知访问者。
显示多个访问者的示能表示为用户提供了关于计算机系统已接收到有关哪些访问者已位于相机的视场中的信息的反馈。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,显示对应于相机所捕获的访问者图像(例如,872d、876d、886a、886b)的该多个示能表示(例如,816a、816b、816c、816d、816e、818a、818b)包括:根据确定相机所捕获的访问者图像中的某访问者图像与作为未识别的访问者的第三访问者相关联(例如,先前尚未存储在识别数据库中或尚未经由访问者图像与存储在计算机系统的照片库中(或云中)的图像信息(例如,视频、图像、面部识别信息)之间的面部识别分析来识别的访问者是未识别的访问者),放弃显示对应于第三访问者的示能表示。在一些实施方案中,计算机系统不显示与未识别的访问者(例如,未存储在识别数据库中和/或未从照片库识别的访问者)相关联的示能表示,因为未识别的访问者不太可能是家的重复访问者和/或不太可能请求进入家(例如,快递员、销售员等)。在一些实施方案中,根据确定相机所捕获的访问者图像中的该访问者图像与作为识别的访问者(例如,已知访问者或未知访问者)的访问者相关联,显示对应于该访问者的示能表示。
放弃显示对应于未识别的访问者(例如,不太可能与计算机系统的用户相关的访问者)的视觉对象通过避免显示视觉对象所需的处理而节省了处理功率。
在一些实施方案中,经由显示生成部件来显示该多个示能表示(例如,816a、816b、816c、816d、816e、818a、818b)包括基于相应访问者的新近度(recency)来对该多个示能表示中的示能表示进行排序。
在一些实施方案中,计算机系统显示对应于相机在第一时间段(例如,距离当前时间最近发生的时间段)期间所捕获的访问者图像中识别的访问者的第一组示能表示(例如,第一示能表示和第二示能表示)。计算机系统放弃显示对应于相机在第二时间段期间所捕获的访问者图像中识别的访问者的第二组示能表示(例如,对应于相机在第一时间段之前检测到的访问者的示能表示),其中第二时间段在第一时间段之前(例如,第一时间段和第二时间段不重叠)(例如,所显示的示能表示对应于最近来到门前(例如,按门铃或被门铃相机捕获)的访问者)。在一些实施方案中,该多个示能表示包括基于屏幕尺寸的预定义数量的示能表示(例如,一次仅可显示一定数量的示能表示)。因此,计算机系统仅显示对应于最近访问者的示能表示。在一些实施方案中,计算机系统的用户可执行手势(例如,轻扫手势)以显示第二组示能表示。
显示最近识别的访问者的示能表示为用户提供了关于系统近期已识别哪些访问者的反馈。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,经由显示生成部件显示对应于相机所捕获的访问者图像(例如,872d、876d、886a、886b)的该多个示能表示(例如,816a、816b、816c、816d、816e、818a、818b)包括(例如,同时)显示:与第一时间段(例如,当前天)相关联的第一区域(例如,816)中的该多个示能表示(例如,816a、816b、816c、816d、816e、818a、818b)中的第一组示能表示(例如,816a、816b、816c、816d、816e)(例如,第一组示能表示对应于相机在第一时间段期间捕获的访问者图像;第一组示能表示可包括已知访问者和/或未知访问者);以及与第二时间段(例如,不包括当前天的当前周)相关联的第二区域(例如,818)中的该多个示能表示(例如,816a、816b、816c、816d、816e、818a、818b)中的第二组示能表示(例如,818a、818b)(例如,第二组示能表示对应于相机在第二时间段期间捕获的访问者图像;第二组示能表示可包括已知访问者和/或未知访问者),第二区域不同于第一区域(例如,不与第一区域重叠)(例如,第二区域以除位置之外的方式与第一区域在视觉上区分开),并且第二时间段不同于第一时间段(例如,不与第一时间段重叠)。
在对应于不同时间段的不同区域中显示不同组视觉元素向用户提供了关于对应于示能表示的访问者访问的时序的反馈。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,在显示该多个示能表示(例如,816a、816b、816c、816d、816e、818a、818b)时,接收第二用户输入(例如,850b)(例如,家庭认识的人示能表示上的轻击手势)。响应于接收到第二用户输入(例如,850b),计算机系统(例如,800)显示第一用户界面(例如,820)(例如,家庭认识的人用户界面),其中第一用户界面(例如,820)包括对应于作为已知访问者(例如,已存储在识别数据库(例如,家庭认识的人数据库)中的人)的访问者(例如,所有访问者,而不论他们是否已位于相机的视场中)的多个视觉指示(例如,822a、822b、822c、822d)(例如,示能表示、图像、姓名等)。在一些实施方案中,作为已知访问者的该多个访问者包括作为已知访问者的所有访问者,而与他们是否已在系统的相机(或任何相机)处检测到无关。在一些实施方案中,第一用户界面还包括(例如,所有)未知访问者。
显示包括所有已知访问者的视觉指示的用户界面为用户提供了关于什么个体可由计算机系统识别的反馈。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,计算机系统(例如,800)接收第三用户输入(例如,850c)(例如,导航到计算机系统的照片库的一个或多个轻击手势)。响应于接收到第三用户输入(例如,850c),计算机系统(例如,800)显示与计算机系统的数据库(例如,照片库)相关联的第二用户界面(例如,824),其中第二用户界面(例如,824)包括用于使得识别数据库能够使用(或共享)计算机系统的数据库的图像信息(例如,视频、图像、面部识别信息)的选项(例如,824b)。
在一些实施方案中,计算机系统接收用户输入以访问附加用户界面(例如,照片库的用户界面),该附加用户界面包括对应于计算机系统的数据库(例如,照片库)中识别的个体的多个视觉指示(例如,图像、照片)(例如,与照片库中识别的个体相关联的图像的瓦片(例如,面部识别分析确定照片库包括与特定个体相关联的一个或多个照片))。在显示附加用户界面时,计算机系统接收选择该多个视觉指示中的视觉指示的用户输入(例如,特定个体的图像上的轻击手势)。响应于接收到第四用户输入,计算机系统显示包括分类示能表示(例如,“添加姓名”示能表示)的用户界面,该分类示能表示被配置为响应于检测到对应于该分类示能表示的用户输入,发起用于将与该视觉指示相关联的个体分类为已知访问者的过程(例如,将姓名添加到照片库中的该人可自动地将该人添加到识别数据库;选择分类示能表示可调出用于键入该人的姓名的另一个用户界面,该另一个用户界面可包括用于将该用户添加到识别数据库(例如,家庭认识的人数据库)的选项(例如,示能表示))。
在一些实施方案中,计算机系统(例如,800)经由显示生成部件显示包括授权示能表示(例如,824a)(例如,切换键)的第四用户界面(例如,824)(例如,菜单或设置用户界面),该授权示能表示被配置为响应于检测到对应于该授权示能表示(例如,824a)的用户输入,禁用(或启用)识别数据库使用(或共享)计算机系统的数据库的图像信息(例如,视频、图像、面部识别信息)(例如,该授权示能表示在被激活或被选择时使家应用程序或相机能够访问计算机系统的照片库,并且在被去激活或未被选择时防止家应用程序或相机访问计算机系统的照片库)。
为用户提供禁用识别数据库使用图像信息的选项使用户能够限制如何访问信息,从而在计算机系统处提供附加数据安全性。
在一些实施方案中,访问者是基于相机所捕获的访问者图像中的对应访问者图像(例如,872d、876d、886a、886b)匹配到识别数据库的识别数据(例如,833、854a、862b)(例如,图像信息(例如,视频、图像、面部识别信息)、姓名信息(例如,姓名))(例如,与由计算机系统的用户和/或与相机/门铃相关联的外部设备的用户分类为已知访问者的访问者相关的图像信息(例如,视频、图像、面部识别信息))而得出的已知访问者,其中识别数据库的识别数据(例如,833、854a、862b)由外部设备(例如,为除被配置用于计算机系统的用户账户之外的用户账户配置的第二计算机系统(不同于该计算机系统))的数据库(例如,照片库)提供。在一些实施方案中,将访问者图像匹配到识别数据包括执行面部识别以将访问者图像的面部匹配到识别数据的面部。
在一些实施方案中,将相机所捕获的访问者图像中的某访问者图像与识别数据库的识别数据(例如,图像信息(例如,视频、图像、面部识别信息)(例如,与由计算机系统的用户和/或与相机/门铃相关联的外部设备的用户分类为已知访问者的访问者相关的图像信息(例如,视频、图像、面部识别信息))进行比较以确定访问者图像是否对应于已知访问者(例如,在访问者图像与识别数据库的识别数据之间执行面部识别分析以确定访问者图像是否对应于已知访问者)。
在一些实施方案中,计算机系统被配置为将来自计算机系统的识别数据(例如,833、854a、862b)提供给识别数据库(例如,识别数据库可经由网络来访问并且存储从计算机系统和/或外部设备接收到的图像信息)。在一些实施方案中,外部设备经由外部设备的照片库将图像信息提供给识别数据库(或将从外部设备的照片库检索的图像信息提供给识别数据库)。在一些实施方案中,计算机系统经由计算机系统的照片库将图像信息(例如,具有对应姓名的照片)提供给识别数据库(或将从计算机系统的照片库检索的图像信息提供给识别数据库)。计算机系统和外部设备均与相机/门铃的账户相关联或相连(例如,经由家应用程序)。
在一些实施方案中,对应于第一访问者的信息(例如,862)包括对应于将第一访问者识别为已知访问者的用户(例如,计算机系统的用户、外部设备的用户)的信息(例如,846b、866b)(例如,对应于第一访问者的信息包括与将第一访问者添加到识别数据库的家庭的某人相关的信息(例如,该人的姓名/姓名首字母的文本、该人的图像等)和/或家庭的该人用来将第一访问者添加到识别数据库(例如,在其照片库中标记第一访问者、将相机所捕获的访问者图像添加到门铃以及添加与第一访问者相关的信息)的技术。在一些实施方案中,将访问者识别为已知访问者包括提供访问者的姓名。
显示指定哪个用户将访问者识别为已知访问者的信息为用户提供了关于该识别的可靠性的反馈以及关于该访问者如何成为已知访问者的反馈。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
根据一些实施方案,该方法还包括:接收第五用户输入(例如,导航到与相机(例如,门铃相机)相关联的菜单的一个或多个轻击手势);响应于接收到第五用户输入,显示包括第四示能表示(例如,切换键)的第五用户界面(例如,相机(例如,门铃相机)的菜单用户界面),该第四示能表示被配置为响应于检测到对应于该第四示能表示的用户输入,禁用相机的面部识别功能(例如,对切换键的选择关闭相机的面部识别,使得不分析门铃所捕获的访问者图像以将访问者表征为已知访问者或未知访问者)。
在一些实施方案中,计算机系统(例如,800)接收到在相机的视场中检测到访问者的指示(例如,计算机系统从相机(或与相机相关联的门铃)接收到访问者位于相机所在的门口的信号)。响应于接收到该指示并且根据确定访问者是已知访问者,计算机系统(例如,800)经由显示生成部件显示通知(例如,872)(例如,在计算机系统处于锁定状态时的通知或在计算机系统处于解锁状态时的通知),包括相机所捕获的访问者的访问者图像(例如,872d)以及将访问者识别为已知访问者(例如,指定基于面部识别来检测的个体的姓名)的视觉指示(例如,872e)。响应于接收到该指示并且根据确定访问者是未知访问者,计算机系统(例如,800)经由显示生成部件显示通知(例如,876、886)(例如,在计算机系统处于锁定状态时的通知或在计算机系统处于解锁状态时的通知),包括相机所捕获的访问者的访问者图像(例如,876d、886a、886b)以及将访问者识别为未知访问者(例如,指定检测到“人”而不提供该个体的姓名)的视觉指示(例如,876e、886c)。
在一些实施方案中,视觉指示包括与已知访问者的姓名相关的文本、指示访问者是已知访问者的文本、指示访问者是未知访问者的文本、与未知访问者的姓名的预测(例如,基于访问者图像与计算机系统或外部设备的照片库之间的面部识别分析)相关的文本。
在一些实施方案中,计算机系统(例如,800)接收到在相机的视场中检测到访问者的指示(例如,计算机系统从相机(或与相机相关联的门铃)接收到访问者位于相机所在的门口的信号)。响应于接收到该指示:计算机系统(例如,800)经由显示生成部件显示通知(例如,872)(例如,在计算机系统处于锁定状态时的第一通知或在计算机系统处于解锁状态时的第一通知)。在显示该通知(例如,872)之后,计算机系统(例如,800)(例如,从相机)接收关于访问者的附加信息(例如,姓名信息、第二访问者信息)。响应于接收到附加信息:计算机系统(例如,800)(例如,在第二时间(例如,第一时间之后的时间(例如,一分钟、十分钟、一小时))经由显示生成部件基于附加信息(例如,872e)来更新通知(例如,872)的显示(例如,修改第一通知),包括相机所捕获的访问者的第二访问者图像(例如,在访问者已走近门口或按门铃之后捕获的与第一访问者图像相同的图像或与第一访问者图像不同的第二访问者图像)以及基于对应于第一时间的经过时间的视觉指示(例如,指示自接收到第一通知起已经过的时间量的文本、指示自访问者走近门口或按门铃起已经过的时间量的文本))。在一些实施方案中,第一通知在第一时间(例如,显示指示访问者位于相机所在的门口的初始通知的时间)显示并且包括相机所捕获的访问者的第一访问者图像(例如,相机在访问者走近门口或按门铃时所捕获的访问者的初始图像)。
在一些实施方案中,通知(例如,图8M的872)(例如,在第一时间)包括访问者的第一视觉指示(例如,图8M的872d)(例如,访问者或人位于相机所在的门口而不指定访问者的姓名的通用视觉指示(例如,文本))(例如,基于检测到但未识别访问者的面部),并且更新的通知(例如,图8N的872)(例如,在第二时间)包括与访问者的第一视觉指示(例如,图8M的872d)不同的访问者的第二视觉指示(例如,图8N的872d)(例如,对应于访问者的姓名或其他识别信息)(例如,基于使用面部识别将访问者识别为已知访问者)。
在一些实施方案中,通知(例如,872、876、886)包括:根据确定相机的视场包括单个访问者(例如,单个人正走近门口和/或在按相机所定位的门铃),第三视觉指示(例如,872e、876e)(例如,单个个体在相机前面的访问者未知时的第一视觉指示、访问者已知时的第二视觉指示(例如,有人位于门口和/或在敲门的文本、包括位于门口、在敲门、已按门铃的访问者的姓名的文本));以及根据确定相机的视场包括多个访问者(例如,一群人正走近门口和/或在按相机所定位的门铃),指示多个个体位于相机的视场中的第四视觉指示(例如,886e)(例如,多人位于门口、在敲门、已按门铃的文本)。
显示相机的视场中的人数的指示为用户提供了关于该系统已检测到多少人的反馈。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,计算机系统(例如,800)接收到在相机的视场中检测到包裹(例如,盒子、非人或动物的对象、无生命的对象)的指示(例如,基于对象检测,基于对象的类型的识别(盒子、无生命);访问者将包裹、邮包或其他物品放在相机所在的门口)。响应于接收到检测到包裹的指示,计算机系统(例如,800)经由显示生成部件显示指示在相机的视场中检测到包裹的通知(例如,888)(例如,在计算机系统处于锁定状态时的通知或在计算机系统处于解锁状态时的通知)(例如,该通知包括与对象的检测相关的文本、对象的图像和/或包裹的通用图像(例如,包裹的存储图像或库存图像))。
在一些实施方案中,计算机系统(例如,800)接收到在相机的视场中检测到访问者的指示(例如,计算机系统从相机(或与相机相关联的门铃)接收到访问者位于相机所在的门口的信号)。响应于接收到该指示,计算机系统(例如,800)显示通知(例如,876、880c),其中显示该通知(例如,876、880c)包括:根据确定访问者是未知访问者,经由显示生成部件显示包括第五示能表示(例如,884)的通知(例如,880c),该第五示能表示被配置为响应于检测到对应于第五示能表示(例如,884)的用户输入,发起用于将访问者分类为已知访问者的过程(例如,该通知包括在访问者的图像匹配电子设备的照片库内的包括姓名的图像信息时将访问者直接添加到识别数据库的示能表示,该通知包括打开用户界面而能够输入与访问者相关联的姓名和/或其他识别信息的示能表示)。
在一些实施方案中,显示该通知包括:根据确定访问者是已知访问者,显示不包括第五示能表示的通知。在一些实施方案中,计算机系统经由显示生成部件显示包括与已知访问者相关的识别信息的不同通知。该不同通知可包括第六示能表示,该第六示能表示在被选择时启动与相机相关联的应用程序(例如,家应用程序)。
在一些实施方案中,计算机系统检测该通知的激活(例如,该通知上的长按压)。响应于检测到该通知的激活:根据确定访问者是未知访问者,计算机系统经由显示生成部件显示包括示能表示的通知用户界面,该示能表示被配置为响应于检测到对应于该示能表示的用户输入,发起用于将访问者分类为已知访问者的过程;并且根据确定访问者是已知访问者,计算机系统显示不包括用于发起将访问者分类为已知访问者的过程的示能表示的通知用户界面。
在一些实施方案中,在显示该多个示能表示(例如,872、876、886)之前,计算机系统(例如,800)接收对应于同时位于相机的视场中的第一访问者和第二访问者的信息(例如,接收这两个访问者同时位于门口的通知)。第一示能表示(例如,816d、818a、818b)和第二示能表示(例如,816a、816b、816c、816e)基于对应于同时位于相机的视场中的第一访问者和第二访问者的信息。在一些实施方案中,相机所捕获的图像被确定为包括位于相机所在的门口的多人。在一些实施方案中,该多个示能表示包括在单一时间位于相机的视场中的多个个体中的每个个体的单独示能表示。在一些实施方案中,计算机系统经由显示生成部件显示对应于包括在访问者图像中的该多个访问者中的每个相应访问者的单独示能表示(例如,为具有多人的图像内识别的每个访问者显示单独示能表示)。在一些实施方案中,显示对应于相机的视场中的相应多个访问者的多个示能表示,而不论访问者是已知访问者还是未知访问者。
在一些实施方案中,第一用户界面(例如,820、840)包括第七示能表示(例如,844c)(例如,切换键示能表示),该第七示能表示被配置为响应于对应于对第七示能表示(例如,844c)的选择的用户输入,放弃显示对应于第一访问者的通知(例如,当访问者图像与来自识别数据库和/或照片库的图像信息之间的面部识别分析识别访问者图像中的第一访问者时,计算机系统放弃显示对应于第一访问者的通知(例如,第一访问者位于门口的通知、第一访问者在按或按过门铃的通知、第一访问者的示能表示和/或与和第一访问者相关的访问者图像相关联的时间线上的指示))。在一些实施方案中,可重新激活第七示能表示(例如,切换键示能表示),使得在相对于门铃活动检测到第一访问者(例如,检测到相机的门铃的激活,在相机的视场中检测到第一访问者)时再次显示对应于第一访问者的通知。
在一些实施方案中,计算机系统(例如,800)经由显示生成部件显示活动的时间线(例如,894)(例如,包括时间和定位在与相机捕获到相应访问者图像的相应时间相关联的时间处的访问者图像的可滚动的时间线),包括与访问者图像(例如,872d、876d、818a、818b)(例如,访问者图像中的可选图像)相关联的多个场景控制用户界面对象(例如,892a、892b)。该多个场景控制用户界面对象(例如,892a、892b)中的场景控制用户界面对象(例如,892a)定位在活动的时间线(例如,894)上对应于相机捕获到与场景控制用户界面对象(例如,892b)相关联的相应访问者图像的时间的位置处。计算机系统(例如,800)接收到对应于对场景控制用户界面对象(例如,892b)的选择的第六用户输入。响应于接收到第六用户输入,计算机系统(例如,800)经由显示生成部件显示从相机接收到并且对应于相机捕获到与场景控制用户界面对象(例如,892b)相关联的相应访问者图像的时间的相机视图(例如,892)(例如,录制的视频)(例如,选择场景控制用户界面对象会回放相机在与相应访问者图像相关联的时间捕获的录像)。
在一些实施方案中,通知用户界面包括切换按钮,该切换按钮激活计算机系统的麦克风和/或传输在计算机系统的麦克风处接收到的音频。在一些实施方案中,传输该音频以便在对应于相机的扬声器处输出。在一些实施方案中,重新激活切换按钮(在传输音频时)使得计算机系统停止传输在电子设备处接收到的音频。在一些实施方案中,切换按钮上的轻击启动传输音频,并且切换按钮上的第二轻击停止传输音频。在一些实施方案中,计算机系统输出从对应于相机的麦克风接收到的音频(例如,访问者讲话的音频)。
在一些实施方案中,该通知包括用户界面对象,该用户界面对象在被激活时使得显示相机的视频(例如,实时视频馈送、先前录制的视频馈送)。
在一些实施方案中,通知上的长按压使得显示通知用户界面,该通知用户界面包括:包括相机的视场中的访问者的图像的实时视频馈送(例如,来自对应相机)、包括相机的视场中的访问者的多个图像的先前录制的视频馈送和/或相机的视场中的访问者的一个图像。
在一些实施方案中,该通知用户界面包括对应于附件设备的附件控制用户界面对象,其中对附件控制用户界面对象的选择发起用于传输改变该附件设备的状态的指令的过程(例如,选择使得传输该指令)。在一些实施方案中,该附件设备是灯或门锁(例如,在相机的位置处)。
在一些实施方案中,将在相机的视场中检测到访问者的指示提供给多个设备(例如,机顶盒、媒体设备、手表、智能扬声器系统),使得用户可任选地从多种设备与访问者交互。
在一些实施方案中,识别数据库存储在可经由网络访问的服务器中(例如,云中)。在一些实施方案中,识别数据库不存储在计算机系统处。
需注意,上文相对于方法900(例如,图9)所述的过程的详情也以类似方式适用于上文/下文所述的方法。例如,方法700任选地包括上文参考方法900所述的各种方法的特性中的一个或多个特性。例如,可在显示不同相机视图(如方法700中所阐述)时在电子设备600上执行如上文相对于方法900所讨论的管理访问者。为了简明起见,这些详情在下文中不再重复。
图10A至图10U示出了根据一些实施方案的用于同时显示多个相机视图的示例性用户界面。些附图中的用户界面用于示出下文所述的过程,这些过程包括图11中的过程。
在图10A处,计算机系统600(例如,设备100、300、500)正在显示器610(例如,电视)上显示视频604诸如棒球比赛,并且正在显示器610的扬声器处输出视频604的音频。在一些实施方案中,显示器610是计算机系统600的集成部分。在一些实施方案中,计算机系统600与显示器610(例如,无线、有线)通信。在一些实施方案中,从存储在计算机系统600处的本地媒体回放视频604。在一些实施方案中,经由在网络上接收到的视频流(例如,实时视频流)来播放视频604。
图10A还示出了遥控器1002,该遥控器被配置为基于在遥控器1002处检测到的用户输入来(例如,经由RF通信、经由蓝牙、经由红外)将数据传输到计算机系统600。遥控器1002包括选择区域1002a(其包括用于检测触摸手势(诸如轻击、按压和轻扫手势)的触敏表面)、返回按钮1002b、电视按钮1002c、麦克风按钮1002d、播放/暂停按钮1002e、静音按钮1002f、音量控制按钮1002g和电源按钮1002h。
在图10A处,在视频604继续播放时,遥控器1002检测经由按压1050a对麦克风按钮1002d的激活,并且将该输入的指示传输到计算机系统600。在视频604继续播放时,计算机系统600从遥控器1002接收对应于麦克风按钮1002d的按压的指示。在图10A处,响应于接收到该指示,计算机系统600显示音频指示符1004,该音频指示符提示用户提供语音命令。在图10A处,在显示音频指示符1004时,计算机系统600经由遥控器1002的麦克风和/或经由计算机系统600的麦克风接收语音输入1050b,该语音输入请求计算机系统600显示与定位在与家庭自动化系统相关联的家的前部中的第一组相机相关联的相机视图。在图10A处,响应于接收到语音输入1050b,计算机系统600显示第一多视图UI 1006,如图10B处所示。
在图10A处,家庭自动化系统包括定位在家的不同位置中的多个相机。这些相机包括对应于家的特定位置的相应名称(例如,与家的位置相关联的标识符和/或名称,和/或这些相机以编程方式映射至与家的位置相关联的一组附件)。在一些实施方案中,基于对应于这些相机所定位的家的特定位置的名称来将这些相机布置成组(例如,经由一个或多个用户输入和/或经由计算机系统600的确定)。例如,定位在家前面的外部位置处的相机形成第一组相机,定位在家后面的外部位置处的相机形成第二组相机,和/或定位在家的内部位置处的相机形成第三组。在一些实施方案中,计算机系统600基于相机的相应名称与语音输入1050b的内容之间的比较来确定和/或形成一组相机(例如,名称中带有匹配语音输入1050b的内容的至少一个词的相机被确定为一组的一部分)。
在图10B处,第一多视图UI 1006包括对应于位于家的后门处的相机的第一相机视图UI对象1006a以及对应于位于家的后院处的相机的第二相机视图UI对象1006b。如上所述,计算机系统600基于相机定位在家中的位置、基于家庭自动化系统的相机的相应名称和/或基于语音输入1050b来使家庭自动化系统的相机彼此相关联。在图10B处,第一多视图UI 1006对应于定位在家的后部(例如,在家的后门处和后院处)的家庭自动化系统的相机。在一些实施方案中,计算机系统600检测到家庭自动化系统的相机的指示和/或标识符(例如,“后门”和/或“后院”)的至少一部分匹配语音输入1050b的内容的至少一部分(例如,“后”)。在一些实施方案中,计算机系统600使家庭自动化系统的相机与家的区域相关联(例如,家庭自动化系统的相机以编程方式映射至家的位置)。在一些此类实施方案中,计算机系统600将语音输入1050b的内容(例如,“家后面”)与包括家庭自动化系统的一个或多个相机的家的区域进行比较以确定家庭自动化系统的哪些相机在第一多视图UI 1006上显示相机视图UI对象。
第一多视图UI 1006不包括和/或不显示对应于定位在家的其他区域诸如家的前面和/或家的侧面中的家庭自动化系统的相机的相机视图UI对象。因此,对于被确定为不与对应于语音输入1050b的内容的家的位置和/或区域相关联的家庭自动化系统的相机,计算机系统600放弃显示相机视图UI对象。
在图10B处,相机视图UI对象1006a和1006b是相应相机的视场的实时视频流。该实时视频流由相机视图UI对象1006a和1006b的右下角的“实时”指示1008来指示。每个相机的名称的指示(“后门”和“后院”)在相机视图UI对象1006a和1006b的左下角显示。
在图10B处,计算机系统600与外部设备1010(例如,智能扬声器)通信并且被配置为响应于经由外部设备1010的麦克风接收到的语音输入而显示用户界面。在图10B处,在显示第一多视图UI 1006时,外部设备1010经由外部设备1010的麦克风检测对应于显示定位在与家庭自动化系统相关联的家的前部的第二组相机的请求的语音输入1050c。在显示第一多视图UI 1006时,计算机系统600从外部设备1010接收对应于语音输入1050c的指示。在图10B处,响应于接收到语音输入1050c的指示,计算机系统600显示第二多视图UI 1012,如图10C处所示。
在图10C处,第二多视图UI 1012包括对应于位于家的前门处的相机的第三相机视图UI对象1012a、对应于位于家的车库处的相机的第四相机视图UI对象1012b以及对应于位于家的前院处的相机的第五相机视图UI对象1012c。如上所述,计算机系统600基于相机定位在家中的位置、基于家庭自动化系统的相机的相应名称和/或基于语音输入1050c来使家庭自动化系统的相机彼此相关联。在图10C处,第二多视图UI 1012对应于定位在家的前部(例如,在前门处,在位于家的前面的车库处以及在家的前院处)的家庭自动化系统的相机。在一些实施方案中,计算机系统600检测到家庭自动化系统的相机的指示和/或标识符(例如,“前门”和/或“前院”)的至少一部分匹配语音输入1050c的内容的至少一部分(例如,“前”)。在一些实施方案中,计算机系统600使家庭自动化系统的相机与家的区域相关联(例如,家庭自动化系统的相机以编程方式映射至家的位置)。在一些此类实施方案中,计算机系统600将语音输入1050c的内容(例如,“家前面”)与包括家庭自动化系统的一个或多个相机的家的区域进行比较以确定家庭自动化系统的哪些相机在第二多视图UI 1012上显示相机视图UI对象。
第二多视图UI 1012不包括和/或不显示对应于定位在家的其他区域诸如家的后面(例如,“后门”相机和/或“后院”相机)和/或家的侧面中的家庭自动化系统的相机的相机视图UI对象。因此,对于被确定为不与对应于语音输入1050c的内容的家的位置和/或区域相关联的家庭自动化系统的相机,计算机系统600放弃显示相机视图UI对象。
在图10C处,相机视图UI对象1012a至1012c是相应相机的视场的实时视频流。该实时视频流由相机视图UI对象1012a至1012c的右下角的“实时”指示1014来指示。每个相机的名称的指示(“前门”、“车库”和“前院”)在相机视图UI对象1012a至1012c的左下角显示。
在图10C处,计算机系统600已从遥控器1002接收到对应于用于将焦点放在第三相机视图UI对象1012a上的导航的输入,并且因此,在视觉上强调第三相机视图UI对象1012a以指示焦点(如图10C中经由第三相机视图UI对象1012a的粗边框所示)。在图10C处,在显示第二多视图UI 1012时并且在焦点位于第三相机视图UI对象1012a上时,遥控器1002检测经由按钮按压1050d对选择区域1002a的激活,并且将该输入的指示传输到计算机系统600。在显示第二多视图UI 1012时并且在焦点位于第三相机视图UI对象1012a上时,计算机系统600从遥控器1002接收对应于选择区域1002a的按钮按压1050d的指示,并且作为响应,将第二多视图UI 1012的显示替换为前门相机UI 1016,如图10D处所示。
在图10D处,前门相机UI 1016包括位于家的前门处的相机的视场的全屏(例如,抵达显示器610的四个边缘中的每个边缘)相机视图1016a。前门相机UI 1016还包括实时指示1016b、勿扰UI对象1016c、附件UI对象1016d、多视图UI对象1016e和画中画(“PIP”)UI对象1016f。如下文参考图10I、图10T和图10U详细阐述的,在一些实施方案中,前门相机UI 1016不包括附件UI对象1016d和/或多视图UI对象1016e的显示。在一些实施方案中,当与前门相机UI 1016相关联的前门相机不与家庭自动化系统的另一个附件相关联时,计算机系统600不在前门相机UI 1016上显示附件UI对象1016d。在一些实施方案中,当与前门相机UI 1016相关联的前门相机是家的家庭自动化系统的唯一相机附件时和/或当与前门相机UI 1016相关联的前门相机是与家的前部相关联的家庭自动化系统的唯一相机附件时,计算机系统600不在前门相机UI 1016上显示多视图UI对象1016e。在一些实施方案中,当与前门相机UI1016相关联的前门相机不包括多视图名称(例如,使得计算机系统600将前门相机包括在多视图UI(例如,1022)中的名称)时,计算机系统600不在前门相机UI 1016上显示多视图UI对象1016e。
在图10D处,全屏相机视图1016a是位于家的前门处的相机的视场的实时视频流。该实时视频流由全屏相机视图1016a的底部的“实时”指示1016b来指示。相机的名称的指示(“前门”)显示在全屏相机视图1016a的左下方。
在图10D处,计算机系统600已从遥控器1002接收到对应于用于将焦点放在附件UI对象1016d上的导航的输入,并且因此,在视觉上强调附件UI对象1016d以指示焦点(如图10D中经由附件UI对象1016d的粗边框所示)。在图10D处,在显示全屏相机视图1016a时并且在焦点位于附件UI对象1016d上时,遥控器1002检测经由按钮按压1050e对选择区域1002a的激活,并且将该输入的指示传输到计算机系统600。在显示全屏相机视图1016a时并且在焦点位于附件UI对象1016d上时,计算机系统600从遥控器1002接收对应于选择区域1002a的按钮按压1050e的指示,并且作为响应,将勿扰UI对象1016c、附件UI对象1016d、多视图UI对象1016e和画中画(“PIP”)UI对象1016f的显示替换为第一附件UI对象1018a和第二附件UI对象1018b,如图10E中所示。
在图10E处,前门相机与第一附件(诸如前门锁)和第二附件(诸如入口灯)相关联(例如,以编程方式映射至该第一附件和该第二附件)和/或包括该第一附件和该第二附件。在一些实施方案中,响应于一个或多个用户输入将前门相机、第一附件和第二附件指定为一组附件(例如,对应于家的前门区域的一组附件和/或彼此相关联的一组附件以使得访问对应于该组的一个附件的UI能够控制该组的其他附件)而使前门相机与第一附件和第二附件相关联。
在图10E中,第一附件UI对象1018a对应于第一附件(诸如前门锁),并且第二附件UI对象1018b对应于第二附件(诸如入口灯)。在一些实施方案中,前门相机与超过两个附件相关联(例如,与超过两个附件分组在一起),使得前门相机UI 1016响应于计算机系统600接收到对应于按钮按压1050e的指示而显示附加附件UI对象。如下文参考图10I、图10T和图10U所述,在一些实施方案中,家庭自动化系统的相机不与任何附件相关联,使得计算机系统600放弃在前门相机UI 1016上显示附件UI对象1016d(例如,在接收到对应于按钮按压1050e的指示之前)。
在图10E处,第一附件UI对象1018a和第二附件UI对象1018b被配置为在经由用户输入来选择时分别调节第一附件和第二附件的状态和/或状况。在一些实施方案中,当计算机系统600接收到对应于对第一附件UI对象1018a和/或第二附件UI对象1018b的选择的指示时,计算机系统600使得第一附件和/或第二附件在第一状态与第二状态(例如,开和关、打开和关闭和/或锁定和解锁)之间转变(例如,切换)。在一些实施方案中,当计算机系统600接收到对应于对第一附件UI对象1018a和/或第二附件UI对象1018b的选择的指示时,计算机系统600使得和/或实现调节(例如,调制和/或切换)第一附件和/或第二附件的设置,诸如第一附件和/或第二附件的亮度设置、色温设置、音量设置和/或位置设置。
计算机系统600显示具有状态指示符1020a(例如,“锁定”)的第一附件UI对象1018a以及具有状态指示符1020b(例如,“关”)的第二附件UI对象1018b。因此,第一附件UI对象1018a和第二附件UI对象1018b分别经由状态指示符1020a和1020b来指示第一附件和第二附件的当前状态和/或状况。在图10E处,第一附件UI对象1018a因从遥控器1002接收到输入而具有焦点,而第二附件UI对象1018b不具有焦点。计算机系统600显示具有活动外观(例如,焦点、与第二附件UI对象1018b相比时增大的尺寸、与第二附件UI对象1018b相比时增加的亮度和/或与第二附件UI对象1018b不同的颜色)的第一附件UI对象1018a,这指示第一附件UI对象1018a具有焦点并且被配置为在经由用户输入来选择时使得第一附件在状态之间转变。在图10E处,计算机系统600显示具有不活动外观(例如,没有焦点、与第一附件UI对象1018a相比减小的尺寸、与第一附件UI对象1018a相比降低的亮度和/或与第一附件UI对象1018a不同的颜色(例如,灰度颜色方案))的第二附件UI对象1018b,这指示第二附件UI对象1018b不具有焦点,因此经由遥控器1002检测到的用户输入不会使得第二附件在状态之间转变。
在图10E处,计算机系统600已从遥控器1002接收到对应于用于将焦点放在第一附件UI对象1018a上的导航的输入,并且因此,在视觉上强调第一附件UI对象1018a以指示焦点(如图10E中经由第一附件UI对象1018a的粗边框所示)。在图10E处,在显示全屏相机视图1016a时并且在焦点位于第一附件UI对象1018a上时,遥控器1002检测经由按钮按压1050f对选择区域1002a的激活,并且将该输入的指示传输到计算机系统600。在显示全屏相机视图1016a时并且在焦点位于第一附件UI对象1018a上时,计算机系统600从遥控器1002接收对应于选择区域1002a的按钮按压1050f的指示,并且作为响应,使得第一附件从第一状态(例如,锁定状态)转变到第二状态(例如,解锁状态),如图10F处所示。
在图10F处,计算机系统600更新和/或显示第一附件UI对象1018a的状态指示符1020a(例如,“解锁”)以指示第一附件从第一状态转变到第二状态。例如,与图10E处的状态指示符1020a指示前门处于锁定状态相比,在图10F处,状态指示符1020a指示前门处于解锁状态。因此,响应于在焦点位于第一附件UI对象1018a上时接收到按钮按压1050f的指示,计算机系统600使得第一附件(例如,前门)从锁定状态转变到解锁状态。如上所述,在一些实施方案中,响应于在焦点位于第一附件UI对象1018a上时接收到来自遥控器1002的长按钮按压的指示,计算机系统600使用户能够(例如,经由附件UI的显示)对第一附件的设置进行调制和/或进行调节。
在图10F处,在全屏相机视图1016a与第一附件UI对象1018a和第二附件UI对象1018b一起显示时,遥控器1002检测经由按钮按压1050g对返回按钮1002b的激活,并且将该输入的指示传输到计算机系统600。在全屏相机视图1016a与第一附件UI对象1018a和第二附件UI对象1018b一起显示时,计算机系统600从遥控器1002接收对应于返回按钮1002b的按钮按压1050g的指示,并且作为响应,停止显示第一附件UI对象1018a和第二附件UI对象1018b并且显示勿扰UI对象1016c、附件UI对象1016d、多视图UI对象1016e和画中画(“PIP”)UI对象1016f,如图10G处所示。
在图10G处,全屏相机视图1016a与勿扰UI对象1016c、附件UI对象1016d、多视图UI对象1016e和画中画(“PIP”)UI对象1016f一起显示。在图10G处,计算机系统600已从遥控器1002接收到对应于用于将焦点放在多视图UI对象1016e上的导航的输入,并且因此,在视觉上强调多视图UI对象1016e以指示焦点(如图10G中经由多视图UI对象1016e的粗边框所示)。在图10G处,在显示全屏相机视图1016a时并且在焦点位于多视图UI对象1016e上时,遥控器1002检测经由按钮按压1050h对选择区域1002a的激活,并且将该输入的指示传输到计算机系统600。在显示全屏相机视图1016a时并且在焦点位于多视图UI对象1016e上时,计算机系统600从遥控器1002接收对应于选择区域1002a的按钮按压1050h的指示。在一些实施方案中,响应于接收到该指示,计算机系统显示第三多视图UI 1022,如图10H中所示。在一些实施方案中,响应于接收到该指示,计算机系统基于前门相机是家前面的一部分而显示第二多视图UI 1012,该第二多视图UI示出了家前面的相机的多视图,如图10C中所示。
在图10H处,第三多视图UI 1022包括对应于家庭自动化系统的相应相机和/或相机附件的相机视图UI对象1022a至1022f。第一相机视图UI对象1022a对应于与前门相机UI1016相关联的前门相机。第二相机视图UI对象1022b对应于家庭自动化系统的车库相机,第三相机视图UI对象1022c对应于家庭自动化系统的侧门相机,第四相机视图UI对象1022d对应于家庭自动化系统的侧巷相机,第五相机视图UI对象1022e对应于家庭自动化系统的后门相机,并且第六相机视图UI对象1022f对应于家庭自动化系统的后院相机。
与第一多视图UI 1006和第二多视图UI 1012相反,第三多视图UI 1022包括不限于家的特定区域和/或位置的相机视图UI对象1022a至1022f。在一些实施方案中,第三多视图UI 1022包括家庭自动化系统的所有相机的相机视图UI对象。如下文参考图10R和图10S所阐述的,在一些实施方案中,包括在第三多视图UI 1022中的家庭自动化系统的相机可以是用户定义的。在一些此类实施方案中,计算机系统600检测一个或多个用户输入,该一个或多个用户输入使得计算机系统600从第三多视图UI 1022移除(例如,不显示)家庭自动化系统的特定相机。在一些实施方案中,当添加相机和/或该相机以其他方式与家庭自动化系统相关联时,计算机系统600默认情况下在第三多视图UI 1022中包括家庭自动化系统的该相机。在一些实施方案中,响应于检测到和/或接收到指示相机将包括在第三多视图UI1022中的一个或多个用户输入,计算机系统600将家庭自动化系统的该相机包括在第三多视图UI 1022中。
在图10H处,相机视图UI对象1022a至1022f是相应相机的视场的实时视频流。该实时视频流由相机视图UI对象1022a至1022f中的每一者的右下角的“实时”指示1024来指示。在一些实施方案中,相机视图UI对象1022a至1022f中的一者或多者不是相应相机的视场的实时视频流(而任选地其他相机视图UI对象是实时流)。相反,在一些实施方案中,相机视图UI对象1022a至1022中的一些相机视图UI对象包括经由这些相机中的一个或多个相机在与对应于接收到按钮按压1050h的指示的时间邻近(例如,在1秒内、在2秒内、在5秒内和/或在10秒内)的时间捕获的图像的快照。在图10H处,第三多视图UI 1022包括在相机视图UI对象1022a至1022f中的每一者的左下方显示的每个相机的名称的指示(“前门”、“车库”、“侧门”、“侧巷”、“后门”和“后院”)。因此,在一些实施方案中,多视图UI 1022可包括一些实时流和一些快照。
在图10H处,计算机系统600经由显示器610在第三多视图UI 1022上显示六个相机视图UI对象1022a至1022f。在一些实施方案中,计算机系统600基于包括在第三多视图UI1022中的相机的数量及因此相机视图UI对象的数量(例如,由计算机系统600确定的要包括在第三多视图UI 1022中的相机的数量)来布置相机视图UI对象(例如,1022a至1022f)。例如,根据确定包括在第三多视图UI 1022中的相机的数量低于阈值数量(例如,十七、二十二和/或二十五),计算机系统600布置相机视图UI对象以使得每个相机视图UI对象同时在显示器610上以最大尺寸(例如,使所有相机视图UI对象能够同时在显示器610上显示的尺寸)显示。根据确定包括在第三多视图UI 1022中的相机的数量高于阈值数量,计算机系统600同时在显示器610上以最大尺寸显示阈值数量的相机视图UI对象。此外,当包括在第三多视图UI 1022中的相机的数量高于阈值数量时,第三多视图UI 1022可滚动,使得计算机系统600被配置为响应于用户输入(例如,遥控器1002的选择区域1002a上的轻扫手势)而使相机视图UI对象在显示器610上平移以显示附加相机视图UI对象。
第三多视图UI 1022使用户能够同时查看不限于家的特定区域的家庭自动化系统的多个相机的实时视频流。此外,响应于检测到和/或接收到对应于第三多视图UI 1022的相机视图UI对象1022a至1022f之一的一个或多个用户输入,计算机系统600可显示家庭自动化系统的特定相机的全屏视图。
在图10H处,计算机系统600已从遥控器1002接收到对应于用于将焦点放在第六相机视图UI对象1022f上的导航的输入,并且因此,在视觉上强调第六相机视图UI对象1022f以指示焦点(如图10H中经由第六相机视图UI对象1022f的粗边框所示)。在图10H处,在显示第三多视图UI 1022时,遥控器1002检测经由按钮按压1050i对选择区域1002a的激活,并且将该输入的指示传输到计算机系统600。在显示第三多视图UI 1022时,计算机系统600从遥控器1002接收对应于选择区域1002a的按钮按压1050i的指示,并且作为响应,显示后院相机UI 1026,如图10I处所示。
在图10I处,后院相机UI 1026包括位于家的后院处的相机的视场的全屏(例如,抵达显示器610的四个边缘中的每个边缘)相机视图1026a。全屏相机视图1026a大于第六相机视图UI对象1022f,但这两个视图都对应于相同相机。后院相机UI 1026还包括实时指示1026b、勿扰UI对象1026c、多视图UI对象1026d和画中画(“PIP”)UI对象1026e。
在图10I处,后院相机UI 1026不包括附件UI对象,因为位于家的后院处的相机不与家庭自动化系统的任何其他附件相关联。在一些实施方案中,当在家的第一位置(例如,后院)中指定相机并且尚未在家的第一位置中指定家庭自动化系统的其他附件时,家庭自动化系统的该相机不与家庭自动化系统的其他附件相关联。在一些实施方案中,当相机不(例如,经由家中的位置和/或区域和/或经由在家庭自动化系统的另一个附件和/或设备之间建立的关系)链接至家庭自动化系统的另一个附件和/或设备时,家庭自动化系统的该相机不与家庭自动化系统的其他附件相关联。在图10I处,计算机系统600不在后院相机UI1026上显示附件UI对象,这指示不可经由一个或多个用户输入来调节和/或控制对应于后院相机UI 1026的其他附件。
在图10I处,全屏相机视图1026a是位于家的后院处的相机的视场的实时视频流。该实时视频流由全屏相机视图1026a的底部的“实时”指示1026b来指示。相机的名称的指示(“后院”)显示在全屏相机视图1026a的左下方。
在图10I处,计算机系统600已从遥控器1002接收到对应于用于将焦点放在PIP UI对象1026e上的导航的输入,并且因此,在视觉上强调PIP UI对象1026e以指示焦点(如图10I中经由PIP UI对象10206e的粗边框所示)。在图10I处,在显示全屏相机视图1026a时并且在焦点位于PIP UI对象1026e上时,遥控器1002检测经由按钮按压1050j对选择区域1002a的激活,并且将该输入的指示传输到计算机系统600。在显示全屏相机视图1026a时并且在焦点位于PIP UI对象1026e上时,计算机系统600从遥控器1002接收对应于选择区域1002a的按钮按压1050j的指示,并且作为响应,显示PIP UI 1028,如图10J处所示。
在图10J处,PIP UI 1028包括在全屏视图(例如,抵达显示器610的四个边缘中的每个边缘)中显示的视频604以及覆盖在视频604上的后院相机UI对象1028a。在图10J处,后院相机UI对象1028a覆盖在视频604的右下部上。在一些实施方案中,响应于在显示PIP UI1028时检测到和/或接收到一个或多个用户输入,计算机系统600可调节后院相机UI对象1028a相对于视频604(和/或相对于显示器610的四个边缘)的位置。在一些实施方案中,计算机系统600在相对于视频604的不同位置处显示后院相机UI对象1028a(例如,覆盖在视频604的右上部上,覆盖在视频604的左上部上,和/或覆盖在视频604的左下部上)。PIP UI1028使计算机系统600的用户能够(例如,经由后院相机UI对象1028a)查看位于家的后院处的相机的视场的视频604和实时视频流。
在一些实施方案中,在显示PIP UI 1028时,计算机系统600输出视频604的音频而不输出从位于家的后院处的相机的麦克风接收到的音频。在一些实施方案中,计算机系统600输出从位于家的后院处的相机的麦克风接收到的音频而不输出视频604的音频(例如,当焦点位于后院相机UI对象1028a上时)。在一些实施方案中,计算机系统600同时输出视频604的音频和从前门相机的麦克风接收到的音频。
在图10J处,PIP UI 1028还包括全屏UI对象1028b和关闭UI对象1028c。在一些实施方案中,响应于检测到和/或接收到对应于关闭UI对象1028c的用户输入(例如,在关闭UI对象1028c具有焦点时),计算机系统停止显示后院相机UI对象1028a并且在全屏视图中显示视频604(例如,没有后院相机UI对象1028a)。
在图10J处,计算机系统600已从遥控器1002接收到对应于用于将焦点放在全屏UI对象1028b上的导航的输入,并且因此,在视觉上强调全屏UI对象1028b以指示焦点(如图10J中经由全屏UI对象1028b的粗边框所示)。在图10J处,在显示PIP UI 1028时并且在焦点位于全屏UI对象1028b上时,遥控器1002检测经由按钮按压1050k对选择区域1002a的激活,并且将该输入的指示传输到计算机系统600。在显示PIP UI 1028时并且在焦点位于全屏UI对象1028b上时,计算机系统600从遥控器1002接收对应于选择区域1002a的按钮按压1050k的指示。在一些实施方案中,响应于接收到对应于选择区域1002a的按钮按压1050k的指示,计算机系统600放大后院的相机视图(例如,如在图10I中)并嵌入视频604的画中画视图(例如,交换视频605和后院相机UI对象1028a的位置和/或尺寸),并且任选地,计算机系统600输出视频604的音频而不输出与后院相机UI对象1028a相关联的音频。在一些实施方案中,响应于接收到对应于选择区域1002a的按钮按压1050k的指示,计算机系统600显示后院相机UI 1026,如图10K处所示。
在图10K处,计算机系统600已从遥控器1002接收到对应于用于将焦点放在勿扰UI对象1026c上的导航的输入,并且因此,在视觉上强调勿扰UI对象1026c以指示焦点(如图10K中经由勿扰UI对象1026c的粗边框所示)。在图10K处,在显示后院相机UI 1026时并且在焦点位于勿扰UI对象1026c上时,遥控器1002检测经由按钮按压1050l对选择区域1002a的激活,并且将该输入的指示传输到计算机系统600。在显示后院相机UI 1026时并且在焦点位于勿扰UI对象1026c上时,计算机系统600从遥控器1002接收对应于选择区域1002a的按钮按压1050l的指示,并且作为响应,显示覆盖在后院相机UI 1026上的勿扰选项UI 1030,如图10L处所示。
在图10L处,勿扰选项UI 1030包括指示符1030a,该指示符指示对勿扰UI对象1026c的选择对应于勿扰特征。在一些实施方案中,位于家的后院中的相机包括检测在与相机邻近处(例如,在相机的视场内和/或在围绕相机的预定义的距离范围内)发生的事件的一个或多个传感器,诸如运动传感器、面部检测传感器、门铃传感器、对象检测传感器和/或另一个传感器。在一些实施方案中,计算机系统600从位于家的后院中的相机接收信息(例如,实时流)并且使用该信息来触发事件。计算机系统600接收该事件的指示并且在显示器610上显示与该事件相关联的通知。当勿扰特征被激活时,计算机系统600不在显示器610上显示与该事件相关联的通知(例如,放弃显示该通知)。例如,位于家的后院中的相机可在播放视频604的同时在后院中的聚会期间检测一系列运动事件。因此每当在后院中的聚会期间检测到运动事件时,正观看视频604的计算机系统600的用户都可激活勿扰特征以使通知静音和/或以其他方式使得计算机系统600放弃显示通知。
在一些实施方案中,当勿扰特征被激活时,计算机系统600放弃生成和/或显示对应于第一类型的所检测的事件(诸如运动检测事件)的通知,但计算机系统600会生成和/或显示对应于第二类型的所检测的事件(例如,第二类型的所检测的事件不同于第一类型的所检测的事件)诸如门铃事件的通知。在一些实施方案中,当勿扰特征被激活时,计算机系统600放弃生成和/或显示对应于位于家的后院中的相机的所检测的事件的通知,但计算机系统600会生成和/或显示对应于家庭自动化系统的其他相机的所检测的事件的通知。因此,用户可抑制家庭自动化系统的各个相机的通知。在一些实施方案中,当勿扰特征被激活时,计算机系统600放弃生成和/或显示对应于家庭自动化系统的所有相机(例如,启用了通知设置的所有相机)的所检测的事件的通知。
在图10L处,勿扰选项UI 1030包括内容结束UI对象1030b和其他持续时间UI对象1030c。内容结束UI对象1030b和其他持续时间UI对象1030c对应于勿扰特征将被激活的时间段(例如,计算机系统600放弃显示对应于位于家的后院中的相机的传感器所检测和/或家庭自动化系统的其他相机的传感器所检测的事件的通知的时间段)。在一些实施方案中,响应于检测到和/或接收到对应于其他持续时间UI对象1030c的用户输入,计算机系统600显示持续时间选项UI,该持续时间选项UI使用户能够选择激活勿扰特征的预定义时间段,诸如10分钟、30分钟、1小时、2小时和/或当前天的剩余时间。
在图10L处,计算机系统600已从遥控器1002接收到对应于用于将焦点放在内容结束UI对象1030b上的导航的输入,并且因此,在视觉上强调内容结束UI对象1030b以指示焦点(如图10L中经由内容结束UI对象1030b的粗边框所示)。在图10L处,在焦点位于内容结束UI对象1030b上时,遥控器1002检测经由按钮按压1050m对选择区域1002a的激活,并且将该输入的指示传输到计算机系统600。在焦点位于内容结束UI对象1030b上时,计算机系统600从遥控器1002接收对应于选择区域1002a的按钮按压1050m的指示,并且作为响应,在对应于视频604的持续时间的时间段内激活勿扰特征。例如,响应于接收到对应于按钮按压1050m的指示,计算机系统600激活勿扰特征并且放弃生成和/或显示对应于位于家的后院中的相机(以及任选地,家庭自动化系统的其他相机)的所检测的事件的通知,直到视频604结束(例如,棒球比赛的回放结束)。响应于检测到视频604结束(例如,当前时间是视频604预定结束的时间,和/或当前时间是视频604实际结束的时间),计算机系统600禁用勿扰特征并且生成和/或显示对应于位于家的后院中的相机(以及任选地,家庭自动化系统的其他相机)的所检测的事件的通知。
在图10L处,在接收到对应于按钮按压1050m的指示之后(例如,响应于接收到该指示),计算机系统600将后院相机UI 1026和勿扰选项UI 1030的显示替换为视频604,如图10M处所示。
在图10M处,计算机系统600正以全屏模式(例如,抵达显示器610的四个边缘中的每个边缘)显示视频604。在图10M处,在视频604继续播放时,遥控器1002检测经由长按压1050n对电视按钮1002c的激活,并且将该输入的指示传输到计算机系统600。在视频604继续播放时,计算机系统600从遥控器1002接收对应于电视按钮1002c的长按压1050n的指示,并且作为响应,将控制用户界面612覆盖在视频604上方,如图10N中所示。
在图10N处,在控制用户界面612覆盖在视频604上时,视频604继续播放。控制用户界面612覆盖视频604的第一部分(例如,先前包括投球手的部分)并且不覆盖视频604的第二部分(例如,包括击球手的部分)。
控制用户界面612包括家庭自动化系统的用户(John、Jane、Joe)的指示612a、设备的状态和可由家庭自动化系统控制的音频以及可选UI对象612b、612c和612d。可选UI对象612c对应于用于将音频和/或视频传输到远程设备的功能。可选UI对象612d对应于用于执行搜索的功能。可选UI对象612b对应于用于访问家庭自动化系统的相机(例如,相机、门铃相机)和其他附件的功能。在图10N处,计算机系统600已从遥控器1002接收到对应于用于将焦点放在可选UI对象612b上的导航的输入,并且因此,在视觉上强调可选UI对象612b以指示焦点(如图10N中经由可选UI对象612b的粗边框所示)。
在图10N处,控制用户界面612包括对应于计算机系统600的集体观看功能的状态612e。例如,状态612e指示视频604正由计算机系统600的用户以及与外部计算机系统相关联的其他用户(例如,被指定为“登山运动员”的一组用户)观看。在一些实施方案中,计算机系统600的用户可邀请另一个用户和/或一组用户与计算机系统600的用户同时观看视频604。在一些实施方案中,另一用户和/或用户组经由一个外部计算机系统(或多个外部计算机系统)接收对应于该邀请的消息和/或通知。然后另一用户和/或用户组可发起外部计算机系统上的视频604的回放,使得计算机系统600的用户和另一用户和/或用户组可在不同位置处在基本上相同的时间观看视频604(例如,计算机系统600和外部计算机系统使得回放视频604,从而计算机系统600的用户和另一用户和/或用户组在基本上相同的时间(例如,在1秒内、在5秒内、在10秒内和/或在30秒内)查看视频604的相同内容)。
在图10N处,在视频604继续播放时并且在焦点位于可选UI对象612b上时,遥控器1002检测经由按钮按压1050o对选择区域1002a的激活,并且将该输入的指示传输到计算机系统600。在视频604继续播放时并且在焦点位于可选UI对象612b上时,计算机系统600从遥控器1002接收对应于选择区域1002a的按钮按压1050o的指示,并且作为响应,将控制用户界面612的显示替换为用户界面614,如图10O中所示。
在图10O处,视频604继续播放并且用户界面614覆盖在视频604上。用户界面614覆盖视频604的第一部分并且不覆盖视频604的第二部分。用户界面614包括对应于家庭自动化系统的家的名称的指示614a、相机区域616和场景区域618。
在图10O处,相机区域616包括位于家的前门处的相机(例如,门铃相机)的相机预览616a以及位于家的后院中的相机(例如,没有门铃能力的相机)的相机预览616b的一部分。相机预览616a是位于家的前门处的相机的视场的实时视频流。该实时视频流由覆盖在相机预览616a的右下方的“实时”指示来指示。在一些实施方案中,相机预览616a包括经由位于家的前门处的相机在与对应于接收到按钮按压1050o的指示的时间邻近(例如,在1秒内、在2秒内、在5秒内和/或在10秒内)的时间捕获的图像的快照。用户界面614还包括在相机预览616a附近(例如,下方)显示的相机的名称的指示(“前门”)。
在一些实施方案中,在图10O处,计算机系统600输出视频604的音频而不输出从位于家的前门处的相机的麦克风接收到的音频。在一些实施方案中,计算机系统600输出从位于家的前门处的相机的麦克风接收到的音频而不输出视频604的音频。在一些实施方案中,计算机系统600同时输出视频604的音频和从前门相机的麦克风接收到的音频。
在一些实施方案中,在图10O处,响应于在焦点位于相机预览616a上时从遥控器1002接收到对应于选择区域1002a的按压手势的指示,计算机系统600显示前门相机UI1016。
在图10O处,场景区域618包括用于激活场景的若干对象,包括用于激活“离家”场景的UI对象618a和用于激活“到家”场景的UI对象618b。当场景被激活时,计算机系统600使得对应于每个场景的相应附件设备将模式改变为激活的场景的相应模式。例如,UI对象618a的激活使得音乐停止在智能扬声器上播放并且使得入口灯附件打开(或保持打开)。相机区域616可水平滚动(以展现附加相机预览)并且场景区域618可竖直滚动(以展现附加场景UI对象)。
在图10O处,在视频604继续播放时并且在焦点位于相机预览616a上时,遥控器1002检测经由轻扫手势1050p对选择区域1002a的激活,并且将该输入的指示传输到计算机系统600。在视频604继续播放时并且在焦点位于相机预览616a上时,计算机系统600从遥控器1002接收对应于选择区域1002a的轻扫手势1050p的指示,并且作为响应,显示相机预览616b上的焦点并且平移相机区域616以显示相机区域616的中心部分中的相机预览616b(并且显示相机预览616a和多视图预览1032的一部分),如图10P处所示。
在图10P处,视频604继续播放并且用户界面614覆盖在视频604上。相机区域616包括位于家的后院处的相机(例如,没有门铃能力的相机)的相机预览616b以及位于家的前门处的相机(例如,门铃相机)的相机预览616a的一部分。在图10P处,相机区域616还包括对应于家庭自动化系统的多个相机的多视图预览1032的一部分。相机预览616b是位于家的后院处的相机的视场的视频流。该视频流是比当前时间迟两秒的延迟视频流,如覆盖在相机预览616b的右下方的“2S”指示所指示。在一些实施方案中,相机预览616b不包括视频流(例如,实时视频流和/或延迟视频流),而是包括经由位于家的前门处的相机在与对应于接收到轻扫手势1050p的指示的时间邻近(例如,在1秒内、在2秒内、在5秒内和/或在10秒内)的时间捕获的图像的快照。用户界面614还包括在相机预览616b附近(例如,下方)显示的相机的名称的指示(“后院”)。
在一些实施方案中,在图10P处,计算机系统600输出视频604的音频而不输出从位于家的后院处的相机的麦克风接收到的音频。在一些实施方案中,计算机系统600输出从位于家的后院处的相机的麦克风接收到的音频而不输出视频604的音频。在一些实施方案中,计算机系统600同时输出视频604的音频和从后院相机的麦克风接收到的音频。
在一些实施方案中,在图10P处,响应于在焦点位于相机预览616b上时从遥控器1002接收到对应于选择区域1002a的按压手势的指示,计算机系统600显示后院相机UI1026。
在图10P处,在视频604继续播放时并且在焦点位于相机预览616b上时,遥控器1002检测经由轻扫手势1050q对选择区域1002a的激活,并且将该输入的指示传输到计算机系统600。在视频604继续播放时并且在焦点位于相机预览616b上时,计算机系统600从遥控器1002接收对应于选择区域1002a的轻扫手势1050q的指示,并且作为响应,显示多视图预览1032上的焦点并且平移相机区域616以显示相机区域616的中心部分中的多视图预览1032(并且停止显示相机预览616a并显示相机预览616b的一部分),如图10Q处所示。
在图10Q处,视频604继续播放并且用户界面614覆盖在视频604上。相机区域616包括家庭自动化系统的四个相机的多视图预览1032和相机预览616b的一部分。在图10Q处,多视图预览1032包括对应于家庭自动化系统的第一相机(例如,“前门”相机)的第一相机预览1032a、对应于家庭自动化系统的第二相机(例如,“车库”相机)的第二相机预览1032b、对应于家庭自动化系统的第三相机(例如,“侧巷”相机)的第三相机预览1032c以及对应于家庭自动化系统的第四相机(例如,“后门”相机)的第四相机预览1032d。在图10Q处,多视图预览1032包括家庭自动化系统的四个不同相机的四个相机预览。在一些实施方案中,即使当家庭自动化系统包括超过四个相机时,多视图预览1032也包括家庭自动化系统的四个不同相机的四个相机预览。在一些实施方案中,当家庭自动化系统包括超过四个相机时,多视图预览1032包括超过四个相机预览。在一些实施方案中,当家庭自动化系统包括少于四个相机时,多视图预览1032包括少于四个相机预览。在一些实施方案中,多视图预览1032包括来自家的多个区域(例如,家的前部和家的后部)的相机预览。
在图10Q处,相机预览1032a至1032d包括家庭自动化系统的四个相机中的每个相机的视场的实时视频流。在一些实施方案中,相机预览1032a至1032d中的一者或多者不包括视频流(例如,实时视频流和/或延迟视频流),而是包括经由家庭自动化系统的四个相机中的一个或多个相机在与对应于接收到轻扫手势1050p的指示的时间邻近(例如,在1秒内、在2秒内、在5秒内和/或在10秒内)的时间捕获的图像的快照。用户界面614还包括多视图预览1032的指示(“多视图”),其指示多视图预览对应于家庭自动化系统的超过一个相机。
在一些实施方案中,在图10Q处,响应于在焦点位于多视图预览1032上时从遥控器1002接收到对应于选择区域1002a的按压手势的指示,计算机系统600显示第三多视图UI1022。因此,用户可经由用户界面614、经由语音命令(例如,如上文参考图10A至图10C所阐述)和/或经由多视图UI对象1016e和/或多视图UI对象1026d来导航到多视图UI 1022。
如上所述,在一些实施方案中,用户可调节哪些相机包括在第三多视图UI 1022中。在图10R处,计算机系统600显示相机设置UI 1034。在一些实施方案中,用户通过以下方式导航到相机设置UI 1034:(例如,在计算机系统600显示和/或播放视频604时)选择遥控器1002的返回按钮1002b并(例如,经由遥控器1002上的一个或多个用户输入)导航到设置UI并且(例如,经由遥控器1002上的一个或多个用户输入)选择相机设置UI对象。
在图10R处,相机设置UI 1034包括相机选择UI对象1034a、对应于位于家的前门处的相机的第一相机设置区域1034b、对应于位于家的后院处的相机的第二相机设置区域1034c以及对应于位于家的车库处的相机的第三相机设置区域1034d。相机选择UI对象1034a在经由用户输入来选择时使用户能够选择计算机系统600可显示经由相机捕获的视频馈送和/或图像的特定相机。在图10R处,相机选择UI对象1034a包括收藏相机(例如,经由用户输入和/或默认设置来指定为收藏的相机)包括在计算机系统600可显示经由相机捕获的视频馈送和/或图像的相机中的指示(“收藏”)。在一些实施方案中,相机选择UI对象1034a使用户能够选择计算机系统600可显示经由相机捕获的视频馈送和/或图像的一组相机(例如,收藏相机)和/或各个相机。
在图10R处,相机设置区域1034b至1034d使用户能够调节是否在用户界面614中显示对应于相应相机设置区域1034b至1034d的相机,是否经由计算机系统600生成和/或显示门铃通知(例如,当相机是门铃相机时),是否经由计算机系统600生成和/或显示运动检测通知(例如,当相机包括运动传感器时),和/或对应于相应相机设置区域1034b至1034d的相机是否包括在第三多视图UI 1022中。
在图10R处,计算机系统600已从遥控器1002接收到对应于将焦点放在第二相机设置区域1034c的多视图UI对象1036上的导航的输入,并且因此,在视觉上强调多视图UI对象1036以指示焦点(如图10R中经由多视图UI对象1036的粗边框所示)。在图10R处,在焦点位于多视图UI对象1036上时,遥控器1002检测经由按钮按压1050r对选择区域1002a的激活,并且将该输入的指示传输到计算机系统600。在焦点位于多视图UI对象1036上时,计算机系统600从遥控器1002接收对应于选择区域1002a的按钮按压1050r的指示,并且作为响应,调节位于家的后院处的相机的设置以使得不在第三多视图UI 1022上显示第六相机UI对象1022f,如图10S处所示。
在图10S处,计算机系统600显示第三多视图UI 1022而不显示(例如,放弃显示)对应于位于家的后院中的相机的第六相机UI对象1022f。在图10S处,计算机系统600使第三多视图UI 1022与第一相机UI对象1022a、第二相机UI对象1022b、第三相机UI对象1022c、第四相机UI对象1022d和第五相机UI对象1022e一起显示,因为用户调节了对应于第六相机UI对象1022f的相机的多视图设置而未调节对应于相机UI对象1022a至1022e的相应相机的多视图设置。因此,用户可定制在第三多视图UI 1022中显示和/或包括家庭自动化系统的哪些相机以使得用户可查看来自与用户最相关的相机(例如,用户最常查看的相机)的视频馈送和/或图像。
在一些实施方案中,家庭自动化系统包括单个相机。在一些此类实施方案中,当计算机系统600显示家庭自动化系统的单个相机的相机UI时,相机UI不包括用于导航到第三多视图UI 1022的多视图UI对象(例如,多视图UI对象1016e和/或多视图UI对象1026d)。
在图10T处,计算机系统显示对应于位于家的走廊部分中的相机的走廊相机UI1038。在图10T处,走廊相机UI 1038包括位于家的走廊中的相机的视场的全屏(例如,抵达显示器610的四个边缘中的每个边缘)相机视图1038a。走廊相机UI 1038包括实时指示1038b、勿扰UI对象1038c、附件UI对象1038d和画中画(“PIP”)UI对象1038e。在一些实施方案中,走廊相机UI 1038不包括多视图UI对象(例如,多视图UI对象1016e和/或多视图UI对象1026d),因为家庭自动化系统在家的走廊部分中不包括附加相机。在一些实施方案中,走廊相机UI 1038不包括多视图UI对象,因为家庭自动化系统不包括与家的该区域无关的附加相机(例如,与位于家的走廊中的相机不同的相机)。在一些实施方案中,响应于检测到位于家的走廊中的相机的多视图设置被禁用(例如,响应于在焦点位于多视图UI对象1036上时并且在计算机系统600显示相机设置UI 1034时的按钮按压1050r),计算机系统600放弃显示多视图UI对象(例如,多视图对象1016e和/或多视图UI对象1026d)。在一些实施方案中,响应于检测到家的走廊部分中的其他相机的多视图设置被禁用(例如,走廊部分中存在其他相机,但它们已被配置为不出现在多视图UI中),计算机系统600放弃显示多视图UI对象(例如,多视图对象1016e和/或多视图UI对象1026d)。
在图10T处,全屏相机视图1038a是位于家的走廊中的相机的视场的实时视频流。该实时视频流由全屏相机视图1038a的底部的“实时”指示1038b来指示。相机的名称的指示(“走廊”)显示在全屏相机视图1038a的左下方。
在图10U处,计算机系统显示对应于位于被指定为家的“婴儿房”的房间中的相机的婴儿房相机UI 1040。在图10U处,婴儿房相机UI 1040包括位于家的婴儿房中的相机的视场的全屏(例如,抵达显示器610的四个边缘中的每个边缘)相机视图1040a。婴儿房相机UI1040还包括实时指示1040b、勿扰UI对象1040c和画中画(“PIP”)UI对象1040d。
在一些实施方案中,婴儿房相机UI 1040不包括多视图UI对象(例如,多视图UI对象1016e和/或多视图UI对象1026d),因为家庭自动化系统不包括附加相机(例如,与位于家的婴儿房中的相机不同的相机)。在一些实施方案中,响应于检测到位于婴儿房中的相机的多视图设置被禁用(例如,响应于在焦点位于多视图UI对象1036上时并且在计算机系统600显示相机设置UI 1034时的按钮按压1050r),计算机系统600放弃显示多视图UI对象(例如,多视图对象1016e和/或多视图UI对象1026d)。在一些实施方案中,响应于检测到在家的该区域(婴儿房)处没有其他相机和/或位于婴儿房中的其他相机的多视图设置被禁用,计算机系统600放弃显示多视图UI对象(例如,多视图对象1016e和/或多视图UI对象1026d)作为婴儿房相机UI 1040的一部分。
在图10U处,婴儿房相机UI 1040不包括附件UI对象(例如,附件UI对象1016d)的显示。与婴儿房相机UI 1040相关联的相机不与家庭自动化系统的另一个附件相关联,并且因此,计算机系统600不在婴儿房相机UI 1040上显示附件UI对象(例如,附件UI对象1016d)。
因此,基于该相机是否与家的其他附件相关联,除该相机之外家是否还包括其他相机,和/或该相机的多视图设置是否被启用和/或禁用,计算机系统600在相应相机UI上显示UI对象。因此,计算机系统600所显示的每个相机UI包括基于与相应相机UI相关联的特定相机的UI对象,从而为每个相机提供适当控件而不会因附加UI对象使相机UI杂乱。
图11是示出根据一些实施方案的用于同时显示多个相机视图的方法的流程图。方法1100在与一个或多个麦克风和显示生成部件通信(例如,有线通信、无线通信)的计算机系统(例如,100、300、500、600和/或1010)(例如,电子设备、机顶设备、智能音频扬声器和/或数字媒体播放器)处执行。在一些实施方案中,计算机系统还与相机(例如,门铃相机、包括相机传感器(和可选门铃开关)的相机系统、安装在物理位置的入口诸如家的入口处的相机系统)通信,并且与附件设备(例如,远程可控附件设备,诸如门锁或灯)通信。方法1100中的一些操作任选地被组合,一些操作的次序任选地被改变,并且一些操作任选地被省略。
如下所述,方法1100提供了用于同时显示多个相机视图的直观方式。该方法减轻了用户查看经由多个相机捕获的图像的认知负担,从而创建了更有效的人机界面。对于电池驱动的计算设备,使得用户能够更快更有效地查看经由多个相机捕获的图像节省了功率并增加了电池充电之间的时间。
计算机系统(例如,600、1010)在(1102)处经由该一个或多个麦克风接收第一音频请求(例如,1050c)(例如,检测用户(诸如经由语音识别来认证的授权用户)所说的音频)以显示与位置(例如,家和/或建筑物)的第一区域(例如,家的前部、房间、第二房间、后院和/或厨房)相关联(例如,位于该区域中;被指定为对应于该区域)的第一多个相机的第一多个相机视图。在一些实施方案中,第一音频请求是经由自然语言处理引擎来处理的自然语言话语。
响应于接收到用于显示第一多个相机视图的第一音频请求(例如,1050c),计算机系统(例如,600、1010)在(1104)处经由显示生成部件显示第一多视图用户界面(例如,1006),这包括(经由显示生成部件)同时显示第一多个相机视图中的至少两个(例如,两个、五个、所有)相机视图(例如,1012a、1012b和/或1012c),而不经由显示生成部件显示与和该位置的第一区域不同的该位置的第二区域(例如,家的后部)相关联的、与第一多个相机不同的第二多个相机的相机视图(例如,1006a和1006b)。
在显示第一多视图用户界面时,计算机系统(例如,600、1010)在(1106)处接收第一输入(例如,1050d),该第一输入对应于对第一多个相机视图中的第一相机视图(例如,1012a)的选择。
在(1108)处响应于接收到第一输入(例如,1050d),计算机系统(例如,600、1010)在(1110)处修改(例如,放大或呈现全屏)第一相机视图(例如,图10D的1016)(例如,该第一相机视图包括来自第一相机的视觉元素,诸如视频馈送、实时视频馈送、图像、一系列图像、可选用户界面对象)。在一些实施方案中,响应于接收到第一输入,计算机系统不再强调和/或停止显示其他相机视图(诸如第一多个相机视图中的其他相机视图)。
在(1108)处响应于接收到第一输入(例如,1050d)并且根据确定一个或多个可控附件设备(例如,第一附件设备、附加附件设备和/或不包括第一相机的附件设备)可用于第一区域,计算机系统(例如,600、1010)在(1110)处经由显示生成部件来与经修改的第一相机视图同时显示(例如,覆盖在经修改的第一相机视图上)第一附件访问用户界面对象(例如,1016d)。
在(1108)处响应于接收到第一输入(例如,1050d)并且根据确定没有可控附件设备可用于第一区域,计算机系统(例如,600、1010)在(1114)处放弃显示第一附件访问用户界面对象(例如,1016d)。显示包括多个相机的相机视图的多视图用户界面使计算机系统能够为用户提供特定区域的多个视图而不需要用户一次一个地提供输入来访问各种视图。通过不包括第二区域的可用相机视图,计算机系统减少了用户界面上的不必要的杂乱并且可显示相关(第一区域)相机视图的更大版本。减少执行操作所需的输入数量并提供附加控制选项而不因附加显示的控件使UI杂乱,增强了设备的可操作性,并且使用户-设备界面更高效(例如,通过帮助用户提供适当输入并减少操作设备/与设备交互时的用户错误),这又通过使用户能够更快速且高效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,计算机系统(例如,600、1010)(例如,在接收到第一音频请求之后并且任选地在显示第一多个相机视图时)经由该一个或多个麦克风接收第二音频请求(例如,1050b)(例如,检测用户(诸如经由语音识别来认证的授权用户)所说的音频)以显示与位置(例如,家和/或建筑物)的第二区域(例如,家的后部)(例如,房间、第二房间、后院和/或厨房)相关联(例如,位于该区域中;被指定为对应于该区域)的第二多个相机(例如,与第一多个相机不同)的第二多个相机视图(例如,与第一多个相机视图不同)。在一些实施方案中,第二音频请求是经由自然语言处理引擎来处理的自然语言话语。响应于接收到用于显示与第二区域相关联的第二多个相机的第二多个相机视图的第二音频请求(例如,1050b),计算机系统(例如,600、1010)经由显示生成部件显示第二多视图用户界面(例如,1006)(例如,通过将第一多视图用户界面的显示替换为第二多视图用户界面),这包括(经由显示生成部件)同时显示与第二区域(例如,家的后部)相关联的第二多个相机的第二多个相机视图中的至少两个(例如,两个、三个、四个、所有)相机视图(例如,1006a、1006b)而不经由显示生成部件显示第一多个相机的相机视图。显示包括多个相机的相机视图的多视图用户界面使计算机系统能够为用户提供第二区域的多个视图而不需要用户一次一个地提供输入来访问各种视图。通过不包括第一区域的可用相机视图,计算机系统减少了用户界面上的不必要的杂乱并且可显示相关(第一区域)相机视图的更大版本。减少执行操作所需的输入数量并提供附加控制选项而不因附加显示的控件使UI杂乱,增强了设备的可操作性,并且使用户-设备界面更高效(例如,通过帮助用户提供适当输入并减少操作设备/与设备交互时的用户错误),这又通过使用户能够更快速且高效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,计算机系统(例如,在显示第一多个相机视图时和/或在显示第二多个相机视图时)经由该一个或多个麦克风接收第三音频请求(例如,检测用户(诸如经由语音识别来认证的授权用户)所说的音频)以显示与该位置(例如,家和/或建筑物)相关联(例如,位于该区域中;被指定为对应于该区域)的第三多个相机的相机视图;在一些实施方案中,第三音频请求是经由自然语言处理引擎来处理的自然语言话语。响应于接收到用于显示与该位置相关联的第三多个相机视图的第三音频请求,计算机系统经由显示生成部件显示第三多视图用户界面(例如,通过将第一/第二多视图用户界面的显示替换为第三多视图用户界面),这包括(经由显示生成部件)同时显示与第一区域相关联的第一多个相机的第一多个相机视图中的至少一个(例如,一个、两个、三个、四个、所有)相机视图以及与第二区域相关联的第二多个相机的第二多个相机视图中的至少一个(例如,一个、两个、三个、四个、所有)相机视图。在一些实施方案中,响应于第三音频请求,计算机系统显示该位置(例如,家和/或建筑物)的所有相机视图(例如,可滚动用户界面上的所有可用相机视图)。
在一些实施方案中,在显示经修改的第一相机视图(例如,1016)时,计算机系统(例如,600、1010)接收第二输入(例如,1050e)。响应于接收到第二输入(例如,1050e),根据确定第二输入(例如,1050e)对应于对第一附件访问用户界面对象(例如,1016d)的选择,计算机系统(例如,600、1010)经由显示生成部件显示(例如,通过替换第一附件访问用户界面对象和/或相机多视图用户界面对象的显示)对应于与第一区域相关联的第一附件设备的第一附件控制用户界面对象(例如,1020a)(例如以及任选地,对应于第一区域的附加附件设备的附加附件控制用户界面对象和/或不显示对应于其他区域的附件设备的附件控制用户界面对象),其中对第一附件控制用户界面对象的选择发起用于传输改变第一附件设备的状态(例如,使得门锁定或解锁,使得灯打开或关闭)的命令的过程(例如,选择使得传输该命令)。在一些实施方案中,附件控制用户界面对象覆盖在经修改的第一相机视图上。自动地同时显示用于访问/控制第一区域的附件的附件访问用户界面对象使用户能够在查看第一区域的相机视图时快速访问相关附件的控件,而不需要用户提供输入来遍历控件的复杂菜单或分级结构,从而减少了控制与第一区域相关联的附件所需的输入的数量。减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,第一相机视图对应于(例如,接收自、包括由其捕获的图像和/或视频)第一相机(例如,而不对应于第一区域的另一个相机)。在一些实施方案中,响应于接收到第一输入(例如,1050c),计算机系统(例如,600、1010)经由显示生成部件来与经修改的第一相机视图(例如,1016)同时显示(例如,覆盖在经修改的第一相机视图上)对应于第一相机的第一勿扰用户界面对象(例如,1016c、1026c)。在显示经修改的第一相机视图时,计算机系统(例如,600、1010)接收第二输入(例如,1050e、1050h、1050l)。响应于接收到第二输入,根据确定第二输入(例如,1050l)对应于对第一勿扰用户界面对象(例如,1016c、1026c)的选择,计算机系统(例如,600、1010)发起用于在(非零)时间段内(例如,通过不显示通知,通过防止生成(通常会使得显示通知的)警示)抑制第一类型的通知(例如,第一类型的所有通知而不抑制与第一类型不同的第二类型的通知,和/或所有通知)的过程(例如,抑制经由显示生成部件显示和/或抑制在一个或多个其他外部设备处(例如,在电视处、在智能扬声器处和/或在与该位置相关联的用户的电话处)(例如,经由声音)产生)。在一些实施方案中,在该时间段之后,计算机系统停止抑制第一类型的通知(例如,来自第一相机)(从而允许经由显示生成部件显示第一类型的通知,和/或允许在一个或多个其他外部设备处(例如,在电视处、在智能扬声器处和/或在与该位置相关联的用户的电话处)(例如,经由声音)产生第一类型的通知)。自动地同时显示用于抑制第一类型的通知的勿扰用户界面对象使计算机系统能够为用户提供与对对应于第一相机的第一相机视图的较早选择相关的选项,从而减少了访问对应于第一相机的勿扰特征所需的输入的数量。减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,发起用于在该时间段内抑制第一类型的通知的过程包括经由显示生成部件显示(以及任选地,覆盖在经修改的第一相机视图上)持续时间用户界面对象(例如,1030b),该持续时间用户界面对象对应于基于媒体内容(例如,604)(例如,电视节目、电影、体育赛事)的剩余回放持续时间(例如,与该剩余回放持续时间相同)的时间段。在显示持续时间用户界面对象(例如,1030b)时,计算机系统(例如,600、1010)检测对持续时间用户界面对象的选择(例如,1050m)。响应于检测到对持续时间用户界面对象的选择(例如,1050m),计算机系统(例如,600、1010)在基于媒体内容的剩余回放持续时间的(非零)时间段内(例如,通过不显示通知,通过防止生成(通常会使得显示通知的)警示)抑制第一类型的通知(例如,第一类型的所有通知而不抑制与第一类型不同的第二类型的通知,和/或所有通知)。在一些实施方案中,对持续时间用户界面对象的选择使得仅在媒体内容播放时抑制第一类型的通知。在一些实施方案中,一旦媒体内容的回放结束,计算机系统就停止抑制第一类型的通知。在一些实施方案中,发起用于在该时间段内抑制第一类型的通知的过程包括经由显示生成部件显示(以及任选地,覆盖在经修改的第一相机视图上,与持续时间用户界面对象同时显示)对应于第一预定义持续时间(例如,30分钟)的第一预定义持续时间用户界面对象和/或对应于与第一预定义持续时间不同的第二预定义持续时间(例如,1小时)的第二预定义持续时间用户界面对象。对对应于预定义持续时间的选项的选择在相应预定义持续时间内抑制第一类型的通知(例如,而不论媒体内容的剩余回放持续时间如何)。基于媒体内容的剩余回放持续时间来抑制第一类型的通知自动地减少了媒体内容的回放期间的中断并且在媒体内容的回放已结束之后恢复它们。在一组条件已经被满足而不需要进一步的用户输入时执行操作增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,响应于接收到第二输入,根据确定第二输入对应于对第一勿扰用户界面对象(例如,1016c、1026c)的选择,计算机系统(例如,600、1010)放弃发起用于抑制第二类型(例如,与第一类型不同)的通知(例如,在(非零)时间段内和/或与第一相机相关联)的过程。在一些实施方案中,选择持续时间用户界面对象使得(在该时间段期间)抑制与第一相机相关联的一些警示(例如,第一类型的警示),而不在该时间段期间抑制与第一相机相关联的其他警示(例如,第二类型的警示)。在一些实施方案中,第一类型的通知是基于第一相机所检测到的(例如,在第一相机的视场中的)移动的通知,并且第二类型的通知是不基于所检测到的移动(例如,基于检测到已按下或以其他方式激活与第一相机相关联的门铃)的通知。抑制第一类型的通知而不抑制第二类型的通知允许计算机系统自动地减少因例如不太重要的通知(此类通知指示已在相机处检测到移动)引起的中断,同时继续提供更重要的通知,诸如指示门铃已被激活(例如,按压)的通知。在一组条件已经被满足而不需要进一步的用户输入时执行操作增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,第一类型的通知是与第一相机相关联的通知(例如,由第一相机触发的通知,基于由第一相机检测到的图像的通知,和/或基于由第一相机检测到的音频的通知)。在一些实施方案中,由第一相机之外的相机触发的通知不是第一类型的通知。在一些实施方案中,第一类型的通知是由第一相机检测到的基于运动的通知,并且不基于运动的通知不是第一类型的通知。在一些实施方案中,第一勿扰用户界面对象的激活抑制与第一相机相关联的(例如,特定类型或所有类型的)通知,但不抑制与第二相机(或任选地,任何相机)相关联的(任何类型的)通知。基于接收到第二输入来抑制与第一相机相关联的通知而不抑制与另一个相机相关联的通知,使计算机系统能够在抑制一些通知的同时继续提供相关通知。例如,用户可从相机接收通知,查看该相机,并且认识到来自该相机的通知对于该时间不重要,并且轻松抑制来自该相机的通知,而不需要访问用户界面的许多部分来识别要抑制哪些通知,从而减少所需用户输入的数量。减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,响应于接收到第一输入(例如,1050d),计算机系统(例如,600、1010)经由显示生成部件来与经修改的第一相机视图(例如,1016)同时显示(例如,覆盖在经修改的第一相机视图上)第一画中画用户界面对象(例如,1016f)。在显示经修改的第一相机视图(例如,1016)时,计算机系统(例如,600、1010)接收第二输入。响应于接收到第二输入:根据确定第二输入(例如,1050j)对应于对第一画中画用户界面对象(例如,1016f、1026e)的选择:计算机系统(例如,600、1010)减小经修改的第一相机视图的尺寸以显示尺寸减小的第一相机视图(例如,1028a);并且计算机系统(例如,600、1010)经由显示生成部件来与尺寸减小的第一相机视图同时显示媒体内容(例如,604)(例如,电视节目、电影、体育赛事)(例如,全屏和/或采用嵌入在所显示的媒体内容上的尺寸减小的第一相机视图)。在一些实施方案中,根据确定第二输入对应于对第一画中画用户界面对象的选择,计算机系统停止显示第一勿扰用户界面对象和第一附件访问用户界面对象。在一些实施方案中,根据确定第二输入对应于对第一画中画用户界面对象的选择,计算机系统(例如,经由与计算机系统通信的扬声器)输出媒体内容的音频而不输出经修改的第一相机视图的音频(例如,从第一相机接收到的音频)。在一些实施方案中,计算机系统使第一勿扰用户界面对象和第一附件访问用户界面对象与尺寸减小的第一相机视图同时显示(例如,嵌入在尺寸减小的第一相机视图上)。在一些实施方案中,第一画中画用户界面对象在尺寸减小的第一相机视图时继续显示并且在被选择时交换尺寸减小的第一相机视图和媒体内容的尺寸、位置和/或音频(例如,尺寸减小的第一相机视图被放大(例如,至全屏,至经修改的第一相机视图)并且媒体内容被显示为嵌入在第一相机视图上)。将尺寸减小的相机视图与媒体内容同时显示(例如,曾在访问相机视图之前显示该媒体内容)使计算机系统能够为用户提供关于计算机系统上的这两个过程(媒体内容回放和相机视图)的反馈。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,响应于接收到第一输入(例如,1050d):根据确定第一区域(例如,不论第二区域如何)包括多个相机(例如,具有可访问的相应相机视图;包括第一相机的多个相机),计算机系统(例如,600、1010)经由显示生成部件来与经修改的第一相机视图(例如,1016)同时显示(例如,覆盖在经修改的第一相机视图上)第一多视图用户界面对象(例如,1016e);并且根据确定第一区域不包括多个相机(例如,具有可访问的相应相机视图,仅包括第一相机),计算机系统(例如,600、1010)放弃显示第一多视图用户界面对象(例如,1016e)。在显示经修改的第一相机视图(例如,1016)时,计算机系统(例如,600、1010)接收第二输入(例如,1050h)。响应于接收到第二输入(例如,1050h)并且根据确定第二输入对应于对第一多视图用户界面对象(例如,1016d)的选择,计算机系统(例如,600、1010)经由显示生成部件显示第一多视图用户界面(例如,1012)(例如,通过将经修改的第一相机视图的显示替换为第一多视图用户界面),这包括(经由显示生成部件)同时显示与第一区域相关联的第一多个相机的第一多个相机视图中的至少两个(例如,两个、三个、四个、所有)相机视图(例如,1012a、1012b和/或1012c),而不经由显示生成部件显示第二多个相机的相机视图(例如,1006a、1006b)。在区域包括多个相机时显示多视图用户界面对象为用户提供了关于该区域的相机的相机视图的可用性的反馈。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。此外,使用户能够快速访问相同区域的不同相机视图为用户提供了对相关相机视图的快速访问(诸如当对象在该区域中移动,离开一个相机的视场并进入该相同区域中的另一个相机的视场时),从而减少了在对象移动时提供输入来访问不同相机视图的需要。减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,在显示第二多视图用户界面时,计算机系统(例如,600、1010)接收对应于对第二多个相机视图中的第二相机视图的选择的第三输入,其中第二相机视图对应于与第一相机不同(与第二区域相关联和/或不与第一区域相关联)的第二相机。响应于接收到第三输入,计算机系统(例如,600、1010)修改(例如,放大或呈现全屏)第二相机视图(例如,该第二相机视图包括来自第二相机的视觉元素,诸如视频馈送、实时视频馈送、图像、一系列图像、可选用户界面对象)。在一些实施方案中,响应于接收到第三输入,计算机系统不再强调和/或停止显示其他相机视图(诸如第二多个相机视图中的其他相机视图)。响应于接收到第三输入,根据确定一个或多个可控附件设备(例如,第二附件设备、附加附件设备、不包括第二相机的附件设备)可用于第二区域(例如,而不论是否存在可用于第一区域的附件设备)。响应于接收到第三输入,计算机系统(例如,600、1010)经由显示生成部件来与经修改的第二相机视图同时显示(例如,覆盖在经修改的第二相机视图上)第二附件访问用户界面对象;并且根据确定没有可控附件设备可用于第二区域,计算机系统(例如,600、1010)放弃显示第二附件访问用户界面对象。响应于接收到第三输入,计算机系统(例如,600、1010)经由显示生成部件来与经修改的第二相机视图同时显示(例如,覆盖在经修改的第二相机视图上)对应于第二相机的第二勿扰用户界面对象和第二画中画用户界面对象。响应于接收到第三输入:根据确定第二区域(例如,不论第一区域的相机如何)包括多个相机(例如,具有可访问的相应相机视图;包括第二相机的多个相机),计算机系统(例如,600、1010)经由显示生成部件来与经修改的第二相机视图同时显示(例如,覆盖在经修改的第二相机视图上)第二多视图用户界面对象;并且根据确定第二区域不包括多个相机(例如,具有可访问的相应相机视图和/或仅包括第二相机),计算机系统(例如,600、1010)放弃显示第二多视图用户界面对象。在显示经修改的第二相机视图时,计算机系统(例如,600、1010)接收第四输入。响应于接收到第四输入,根据确定第四输入对应于对第二附件访问用户界面对象的选择,计算机系统(例如,600、1010)经由显示生成部件显示(例如,通过替换第二附件访问用户界面对象和/或相机多视图用户界面对象的显示)对应于与第二区域相关联的第二附件设备的第二附件控制用户界面对象(例如以及任选地,对应于第二区域的附加附件设备的附加附件控制用户界面对象和/或不显示对应于其他区域的附件设备的附件控制用户界面对象),其中对第二附件控制用户界面对象的选择发起用于传输改变第二附件设备的状态(例如,使得门锁定或解锁,使得灯打开或关闭)的命令的过程(例如,选择使得传输该命令)。在一些实施方案中,附件控制用户界面对象覆盖在经修改的第二相机视图上。响应于接收到第四输入并且根据确定第四输入对应于对第二勿扰用户界面对象的选择,计算机系统(例如,600、1010)发起用于在(非零)时间段内(例如,通过不显示通知,通过防止生成(通常会使得显示通知的)警示)抑制第二类型的通知(例如,与第一类型不同,与第一类型相同,第二类型的所有通知而不抑制第一类型的通知,和/或所有通知)的过程。在一些实施方案中,在该时间段之后,计算机系统停止抑制(例如,来自第二相机的)第二类型的通知。响应于接收到第四输入并且根据确定第四输入对应于对第二画中画用户界面对象的选择:计算机系统(例如,600、1010)减小经修改的第二相机视图的尺寸以显示尺寸减小的第二相机视图;并且计算机系统(例如,600、1010)经由显示生成部件来与尺寸减小的第二相机视图同时显示媒体内容;以及(例如,电视节目、电影、体育赛事)(例如,全屏和/或采用嵌入在所显示的媒体内容上的尺寸减小的第二相机视图)。在一些实施方案中,根据确定第四输入对应于对第二画中画用户界面对象的选择,计算机系统停止显示第二勿扰用户界面对象和第二附件访问用户界面对象。在一些实施方案中,计算机系统显示第二勿扰用户界面对象和第二附件控制用户界面对象(例如,与尺寸减小的第二相机视图同时显示(例如,嵌入在尺寸减小的第二相机视图上))。在一些实施方案中,第二画中画用户界面对象在显示尺寸减小的第二相机视图时继续显示并且在被选择时交换尺寸减小的第二相机视图和媒体内容的尺寸、位置和/或音频(例如,尺寸减小的第二相机视图被放大(例如,至全屏、经修改的第二相机视图)并且媒体内容被显示为嵌入在第二相机视图上)。响应于接收到第四输入并且根据确定第四输入对应于对第二多视图用户界面对象的选择,计算机系统(例如,600、1010)经由显示生成部件显示第二多视图用户界面(例如,通过将经修改的第二相机视图的显示替换为第一多视图用户界面),这包括(经由显示生成部件)同时显示与第二区域相关联的第二多个相机的第二多个相机视图中的至少两个(例如,两个、三个、四个、所有)相机视图,而不经由显示生成部件显示第一多个相机的相机视图。提供可选选项诸如附件访问用户界面对象、勿扰用户界面对象、多视图用户界面对象和画中画用户界面对象使计算机系统能够从用户接收用于对应于当前显示的相机视图的区域的指令。因此,用户能够快速访问与相应区域相关的功能,从而减少选择那些功能所需的输入的数量。此外,一些可选选项的显示为用户提供了关于计算机系统的状态及功能(诸如该区域中的多个相机和附件设备(其状态可改变))的可用性的视觉反馈。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,第一多视图用户界面(和/或第二多视图用户界面)可滚动。在一些实施方案中,在显示相应(例如,第一、第二)多视图用户界面时,计算机系统接收滚动请求(例如,轻扫输入和/或语音命令)。响应于接收到该滚动请求,计算机系统滚动相应多视图用户界面,从而停止显示一个或多个相机视图(例如,滚动到该显示之外)并且转而显示一个或多个其他相机视图(滚动到该显示之上)。为多视图用户界面启用可滚动用户界面使计算机系统能够以能够适当查看相机视图的尺寸显示多视图用户界面的相机视图,与此同时能够易于访问附加相机视图,从而增加显示器的利用率,同时支持大量相机及其对应相机视图。
在一些实施方案中,计算机系统(例如,600、1010)接收用于改变将相机视图包括在第一多个相机视图中的用户输入(例如,1050r)(例如,一组一个或多个输入)。响应于接收到用于改变将与相应区域(例如,第一区域)相关联的相应相机(例如,第一相机)的相应相机视图包括在第一多个相机视图中的用户输入(例如,1050r)(并且在相应相机保持与相应区域相关联时):根据确定用于改变相应相机视图的包括的用户输入对应于用于从第一多个相机视图移除相应相机(例如,第一相机)的请求,计算机系统(例如,600、1010)从第一多个相机视图移除相应相机(例如,第一相机)而不使相应相机(例如,第一相机)与相应区域(例如,第一区域)解除关联;并且根据确定用于改变相应相机视图的包括的用户输入对应于用于将相应相机(例如,第三相机)添加到第一多个相机视图的请求,计算机系统(例如,600、1010)将相应相机(例如,第三相机)添加到第一多个相机视图并且保持相应相机(例如,第三相机)与相应区域(例如,第一区域)的关联。使用户能够从相应多视图用户界面包括/排除相机视图允许用户定制在访问多视图用户界面时呈现的相机视图以排除不感兴趣的相机视图,从而通过在不首先要求计算机系统滚动用户界面的情况下允许显示感兴趣的附加相机视图来减少所需的用户输入的数量。减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,相应多视图用户界面包括多个相机视图。这些相机视图各自包括来自相应相机的视觉元素,诸如视频馈送、实时视频馈送、图像和/或一系列捕获的图像。因此,多视图用户界面使计算机系统能够显示多个相机的视场的多个图像/视频。
在一些实施方案中,相应多视图用户界面的相机视图的尺寸基于正显示的和/或可用于显示的相机视图的数量。在一些实施方案中,被显示为多视图用户界面的一部分的每个相机视图的尺寸相同。在一些实施方案中,相应多视图用户界面的相机视图的布局基于正显示的和/或可用于显示的相机视图的数量。
在一些实施方案中,在显示对应于与第一区域相关联的第一附件设备的第一附件控制用户界面对象(例如,图10E的1020a)时,计算机系统(例如,600、1010)接收对第一附件控制用户界面对象(例如,图10E的1020a)的选择(例如,1050f)。响应于接收到对第一附件控制用户界面对象(例如,图10E的1020a)的选择(例如,1050f),计算机系统(例如,600、1010)传输改变第一附件设备的状态的命令(例如,引起图10F中解锁前门)(例如,使得门锁定或解锁,使得灯打开或关闭)。在一些实施方案中,对第一附件控制用户界面对象的选择改变(例如,切换)第一附件设备的状态。在一些实施方案中,第一附件控制用户界面对象连同对应于与第一区域相关联的相应附件设备的一个或多个其他附件控制用户界面对象一起显示。对相应附件控制用户界面对象的选择改变(例如,切换)相应附件设备的状态。在一些实施方案中,第一附件控制用户界面对象的视觉特征改变以反映第一附件设备的所改变的状态。
在选择相应附件控制用户界面对象时改变附件设备的状态使用户能够控制与和当前显示的相机视图相同的区域相关联的设备,从而减少对用于识别和查找此类附件设备的附加用户输入的需要。减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,经由计算机系统(例如,1010)(例如,智能扬声器)的一个或多个麦克风检测到第一音频请求(和/或第二音频请求),并且由与计算机系统不同的电子设备(例如,600)(例如,电视、机顶盒和/或监视器)的显示器显示第一多视图用户界面(和/或第二多视图用户界面)。在一些实施方案中,响应于接收到第一音频请求,使电子设备从第一状态(例如,非活动状态、挂起状态)转变到第二状态(例如,活动或激活状态)。
在一个设备(例如,智能扬声器)处接收到音频请求并且在第二设备(例如,电视、机顶盒和/或监视器)处显示相应多视图用户界面使计算机系统能够接收请求并且通过使得使用更适合显示该内容(例如,具有更好的显示器、具有更大显示器和/或在更方便/更易接近的位置处具有显示器)的另一个设备显示适当内容来对这些请求进行处理。此外,接收该请求的设备可能更适合接收音频请求(例如,由于具有更好的麦克风、具有更多麦克风和/或位于用于接收音频的更方便/更易接近的位置处),从而减少了错误的可能性以及让用户多次提供相同请求的需要。减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,计算机系统(例如,600、1010)经由显示生成部件显示控制用户界面(例如,614)(例如,覆盖在正播放的媒体内容上),该控制用户界面(例如,614)包括:具有第一外观(例如,第一尺寸)的多视图相机视图(例如,1032)的至少一部分(例如,全部),该多视图相机视图的至少一部分(例如,全部)在被选择时使得经由显示生成部件显示第三多视图用户界面(例如,1022),该第三多视图用户界面同时包括来自第一区域的至少一个相机视图和来自第二区域的至少一个相机视图;具有第一外观(例如,第一尺寸,第一相机视图的缩略图)的第一相机视图(例如,616a)的至少一部分(例如,全部),该第一相机视图的至少一部分(例如,全部)在被选择时使得经由显示生成部件显示经修改的第一相机视图(例如,全屏);以及具有第一外观(例如,第一尺寸,第二相机视图的缩略图)的第二相机视图(例如,616b)(例如,与对应于与第一区域不同的第二区域的第二相机相关联)的至少一部分(例如,全部),该第二相机视图的至少一部分(例如,全部)在被选择时使得经由显示生成部件显示经修改的第二相机视图(例如,全屏)。同时提供用于访问一组相机视图和特定相机视图的不同选项为用户提供了查看特定相机(如果期望一个相机)或查看多个相机视图以确定对哪个特定相机感兴趣的能力,而不需要导航菜单和/或相机视图的复杂分级结构。减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,具有第一外观的多视图相机视图(例如,1032)包括:从第一相机接收到的第一实时馈送(例如,1032a)(例如,第一相机的视场的实时视频馈送)和/或从第一相机接收到的静态图像(例如,第一相机所捕获的除实时视频馈送之外的非运动图像);以及从第二相机接收到的第二实时馈送(例如,1032b、1032c和/或1032d)(例如,第二相机的视场的实时视频馈送)和/或从第二相机接收到的静态图像(例如,第二相机所捕获的除实时视频馈送之外的非运动图像)。此外,计算机系统显示(例如,在可用时)多视图相机视图中的各种相机视图的实时视图以及(任选地)第一相机视图和第二相机视图的实时视图,从而允许用户在作出选择之前检视实时视图,由此减少访问多个视图的需要。减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,计算机系统(例如,600、1010)(例如,在经由显示生成部件显示媒体内容时)在从(例如,与相应区域相关联的)相应相机接收到的视频馈送中检测包裹(例如,诸如放在地上的盒子)。计算机系统(例如,600、1010)(例如,在显示媒体内容的同时和/或覆盖在媒体内容上和/或响应于检测到该包裹)经由显示生成部件显示已检测到包裹(例如,指示已在相应区域中检测到包裹)的通知。在一些实施方案中,计算机系统监测第一多个相机和第二多个相机以检测留在相应区域中的包裹。当包裹被检测为已留在相应区域中时,计算机系统显示包裹已留在相应区域中(例如,在前门处、在后院中)的通知。为用户提供所检测到的包裹的通知为用户提供了关于计算机系统的状态(检测到或未检测到包裹)的反馈。提供诸如通知还减少了用户反复访问相机视图以查看包裹是否已送达的需要,从而减少了所需的用户输入的数量。减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,计算机系统(例如,600、1010)(例如,使用面部识别)在从(例如,与相应区域相关联的)相应相机接收到的视频馈送中检测匹配识别数据库中的图像信息的访问者(例如,到达该位置的个体和/或人)。计算机系统(例如,600、1010)(例如,响应于检测到该访问者匹配图像信息)基于识别数据库中的图像信息匹配到该访问者,作为相应相机的相应相机视图和/或先前录制的相机视图的一部分(例如,覆盖在相应相机视图和/或先前录制的相机视图上)来显示对应于该访问者的姓名(例如,如图6Q中所示的“Anne和Frank”)。为用户提供所检测到的访问者的通知为用户提供了关于计算机系统的状态(检测到或未检测到访问者)的反馈。提供诸如通知还减少了用户反复访问相机视图以查看访问者是否已到达的需要,从而减少了所需的用户输入的数量。减少执行操作所需的输入数量增强了设备的可操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,识别数据库包括图像信息(例如,视频、图像、面部识别信息),并且其中该图像信息基于计算机系统的数据库(例如,照片库)以及与计算机系统不同的第二计算机系统的用户的一个或多个数据库(例如,照片库)。访问使用不同机制填充和/或具有不同信息层级的不同数据库(例如,具有图像但无姓名的数据库,和/或具有图像和姓名的用户的共享数据库)允许计算机系统识别更多访问者和/或访问更多访问者姓名,从而增加计算机系统可识别特定访问者并将姓名与特定访问者相关联以向用户显示的可能性。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
应注意,上文相对于方法1100(例如,图11)所述的过程的详情也以类似方式适用于上文所述的方法。例如,方法700和900任选地包括上文参考方法1100所述的各种方法的一个或多个特征。例如,同时显示多个相机视图可在显示不同相机视图(如方法700中所阐述)时在电子设备600上执行,和/或在管理访问者(如方法900中所阐述)时在电子设备800上执行。为了简明起见,这些详情在下文中不再重复。
出于解释的目的,前面的描述是通过参考具体实施方案来描述的。然而,上面的例示性论述并非旨在是穷尽的或将本发明限制为所公开的精确形式。根据以上教导内容,很多修改形式和变型形式都是可能的。选择并描述这些实施方案是为了最好地解释这些技术的原理及其实际应用程序。本领域的其他技术人员由此能够最好地利用这些技术以及具有适合于所预期的特定用途的各种修改的各种实施方案。
虽然参照附图对本公开以及示例进行了全面的描述,但应当注意,各种变化和修改对于本领域内的技术人员而言将变得显而易见。应当理解,此类变化和修改被认为被包括在由权利要求书所限定的本公开和示例的范围内。
如上所述,本发明技术的一个方面在于采集和使用数据,诸如面部识别数据,以改进向用户递送其可能感兴趣的通知和其他内容。本公开预期,在一些实例中,这些所采集的数据可包括唯一地识别或可用于联系或定位特定人员的个人信息数据。此类个人信息数据可包括人口统计数据、基于位置的数据、电话号码、电子邮件地址、twitter ID、家庭住址、出生日期、面部识别信息或任何其他识别或个人信息。
本公开认识到在本发明技术中使用此类个人信息数据可用于使用户受益。例如,该个人信息数据可用于递送用户较感兴趣的通知和其他内容。
本公开设想负责采集、分析、公开、传输、存储或其他使用此类个人信息数据的实体将遵守既定的隐私政策和/或隐私实践。具体地,此类实体应当实行并坚持使用被公认为满足或超出对维护个人信息数据的隐私性和安全性的行业或政府要求的隐私政策和实践。此类政策应该能被用户方便地访问,并应随着数据的采集和/或使用变化而被更新。来自用户的个人信息应当被收集用于实体的合法且合理的用途,并且不在这些合法使用之外共享或出售。此外,应在收到用户知情同意后进行此类采集/共享。此外,此类实体应考虑采取任何必要步骤,保卫和保障对此类个人信息数据的访问,并确保有权访问个人信息数据的其他人遵守其隐私政策和流程。另外,这种实体可使其本身经受第三方评估以证明其遵守广泛接受的隐私政策和实践。此外,应当调整政策和实践,以便采集和/或访问的特定类型的个人信息数据,并适用于包括管辖范围的具体考虑的适用法律和标准。例如,在美国,对某些健康数据的收集或获取可能受联邦和/或州法律的管辖,诸如健康保险流通和责任法案(HIPAA);而其他国家的健康数据可能受到其他法规和政策的约束并应相应处理。因此,在每个国家应为不同的个人数据类型保持不同的隐私实践。
不管前述情况如何,本公开还预期用户选择性地阻止使用或访问个人信息数据诸如面部识别信息的实施方案。即本公开预期可提供硬件元件和/或软件元件,以防止或阻止对此类个人信息数据的访问。例如,就面部识别信息而言,本发明技术可被配置为在注册服务期间或之后任何时候允许用户选择“选择加入”或“选择退出”参与对面部识别信息的收集。除了提供“选择加入”和“选择退出”选项外,本公开设想了提供与访问或使用面部识别信息相关的通知。例如,可在下载应用程序时向用户通知其面部识别信息将被访问,然后就在面部识别信息被该应用程序访问之前再次提醒用户。
此外,本公开的目的是应管理和处理个人信息数据诸如面部识别信息以最小化无意或未经授权访问或使用的风险。一旦不再需要数据,通过限制数据收集和删除数据可最小化风险。此外,并且当适用时,包括在某些健康相关应用程序中,数据去标识可用于保护用户的隐私。可在适当时通过移除特定标识符(例如,出生日期等)、控制所存储数据的量或特异性(例如,在城市级别而不是在地址级别收集位置数据)、控制数据如何被存储(例如,在用户之间聚合数据)、和/或其他方法来促进去标识。
因此,虽然本公开广泛地覆盖了使用个人信息数据来实现一个或多个各种所公开的实施方案,但本公开还预期各种实施方案也可在无需访问此类个人信息数据的情况下被实现。即,本发明技术的各种实施方案不会由于缺少此类个人信息数据的全部或一部分而无法正常进行。例如,面部识别信息可基于非个人信息数据或绝对最小量的个人信息,诸如与用户相关联的设备所请求的内容、可供执行面部识别的设备使用的其他非个人信息或公开可用信息。
Claims (57)
1.一种计算机系统,所述计算机系统被配置为与一个或多个麦克风和显示生成部件通信,所述计算机系统包括:
一个或多个处理器;以及
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行以下操作的指令:
经由所述一个或多个麦克风接收用于显示与位置的第一区域相关联的第一多个相机的第一多个相机视图的第一音频请求;
响应于接收到用于显示所述第一多个相机视图的所述第一音频请求,经由所述显示生成部件显示第一多视图用户界面,显示第一多视图用户界面包括同时显示所述第一多个相机视图中的至少两个相机视图,而不经由所述显示生成部件显示与和所述位置的所述第一区域不同的所述位置的第二区域相关联的、与所述第一多个相机不同的第二多个相机的相机视图;
在显示所述第一多视图用户界面时,接收第一输入,所述第一输入对应于对所述第一多个相机视图中的第一相机视图的选择;以及
响应于接收到所述第一输入:
修改所述第一相机视图;
根据确定一个或多个可控附件设备能够用于所述第一区域,经由所述显示生成部件来与经修改的第一相机视图同时显示第一附件访问用户界面对象;以及
根据确定没有可控附件设备能够用于所述第一区域,
放弃显示所述第一附件访问用户界面对象。
2.根据权利要求1所述的计算机系统,所述一个或多个程序还包括用于执行以下操作的指令:
经由所述一个或多个麦克风接收用于显示与所述位置的所述第二区域相关联的第二多个相机的第二多个相机视图的第二音频请求;以及
响应于接收到用于显示与所述第二区域相关联的所述第二多个相机的所述第二多个相机视图的所述第二音频请求,经由所述显示生成部件显示第二多视图用户界面,显示第二多视图用户界面包括同时显示与所述第二区域相关联的所述第二多个相机的所述第二多个相机视图中的至少两个相机视图,而不经由所述显示生成部件显示所述第一多个相机的相机视图。
3.根据权利要求1所述的计算机系统,所述一个或多个程序还包括用于执行以下操作的指令:
在显示经修改的第一相机视图时,接收第二输入;以及
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一附件访问用户界面对象的选择,经由所述显示生成部件显示对应于与所述第一区域相关联的第一附件设备的第一附件控制用户界面对象,其中对所述第一附件控制用户界面对象的选择发起用于传输改变所述第一附件设备的状态的命令的过程。
4.根据权利要求1所述的计算机系统,其中所述第一相机视图对应于第一相机,所述一个或多个程序还包括用于执行以下操作的指令:
响应于接收到所述第一输入,经由所述显示生成部件来与经修改的第一相机视图同时显示对应于所述第一相机的第一勿扰用户界面对象;
在显示经修改的第一相机视图时,接收第二输入;以及
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一勿扰用户界面对象的选择,发起用于在一时间段中抑制第一类型的通知的过程。
5.根据权利要求4所述的计算机系统,其中发起用于在所述时间段中抑制所述第一类型的通知的所述过程包括经由所述显示生成部件显示持续时间用户界面对象,所述持续时间用户界面对象对应于基于媒体内容的剩余回放持续时间的时间段,所述一个或多个程序还包括用于执行以下操作的指令:
在显示所述持续时间用户界面对象时,检测对所述持续时间用户界面对象的选择;以及
响应于检测到对所述持续时间用户界面对象的选择,在基于所述媒体内容的所述剩余回放持续时间的所述时间段中抑制所述第一类型的通知。
6.根据权利要求4所述的计算机系统,所述一个或多个程序还包括用于执行以下操作的指令:
响应于接收到所述第二输入:
根据所述确定所述第二输入对应于对所述第一勿扰用户界面对象的选择,放弃发起用于抑制第二类型的通知的过程。
7.根据权利要求4所述的计算机系统,其中所述第一类型的通知是与所述第一相机相关联的通知。
8.根据权利要求1所述的计算机系统,所述一个或多个程序还包括用于执行以下操作的指令:
响应于接收到所述第一输入,经由所述显示生成部件来与经修改的第一相机视图同时显示第一画中画用户界面对象;
在显示经修改的第一相机视图时,接收第二输入;以及
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一画中画用户界面对象的选择:
减小经修改的第一相机视图的尺寸以显示尺寸减小的第一相机视图;以及
经由所述显示生成部件来与所述尺寸减小的第一相机视图同时显示媒体内容。
9.根据权利要求1所述的计算机系统,所述一个或多个程序还包括用于执行以下操作的指令:
响应于接收到所述第一输入:
根据确定所述第一区域包括多个相机,经由所述显示生成部件来与经修改的第一相机视图同时显示第一多视图用户界面对象;以及
根据确定所述第一区域不包括多个相机,放弃显示所述第一多视图用户界面对象;
在显示经修改的第一相机视图时,接收第二输入;以及
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一多视图用户界面对象的选择,经由所述显示生成部件显示所述第一多视图用户界面,显示所述第一多视图用户界面包括同时显示与所述第一区域相关联的所述第一多个相机的所述第一多个相机视图中的至少两个相机视图,而不经由所述显示生成部件显示所述第二多个相机的相机视图。
10.根据权利要求2所述的计算机系统,其中所述第一相机视图对应于第一相机,所述一个或多个程序还包括用于执行以下操作的指令:
在显示所述第二多视图用户界面时,接收对应于对所述第二多个相机视图中的第二相机视图的选择的第三输入,其中所述第二相机视图对应于与所述第一相机不同的第二相机;
响应于接收到所述第三输入:
修改所述第二相机视图;
根据确定一个或多个可控附件设备能够用于所述第二区域,经由所述显示生成部件来与经修改的第二相机视图同时显示第二附件访问用户界面对象;
根据确定没有可控附件设备能够用于所述第二区域,放弃显示所述第二附件访问用户界面对象;
经由所述显示生成部件来与经修改的第二相机视图同时显示对应于所述第二相机的第二勿扰用户界面对象和第二画中画用户界面对象;
根据确定所述第二区域包括多个相机,经由所述显示生成部件来与经修改的第二相机视图同时显示第二多视图用户界面对象;以及
根据确定所述第二区域不包括多个相机,放弃显示所述第二多视图用户界面对象;以及
在显示经修改的第二相机视图时,接收第四输入;以及
响应于接收到所述第四输入:
根据确定所述第四输入对应于对所述第二附件访问用户界面对象的选择,经由所述显示生成部件显示对应于与所述第二区域相关联的第二附件设备的第二附件控制用户界面对象,其中对所述第二附件控制用户界面对象的选择发起用于传输改变所述第二附件设备的状态的命令的过程;
根据确定所述第四输入对应于对所述第二勿扰用户界面对象的选择,发起用于在一时间段中抑制第二类型的通知的过程;
根据确定所述第四输入对应于对所述第二画中画用户界面对象的选择:
减小经修改的第二相机视图的尺寸以显示尺寸减小的第二相机视图;以及
经由所述显示生成部件来与所述尺寸减小的第二相机视图同时显示媒体内容;并且
根据确定所述第四输入对应于对所述第二多视图用户界面对象的选择,经由所述显示生成部件显示所述第二多视图用户界面,显示所述第二多视图用户界面包括同时显示与所述第二区域相关联的所述第二多个相机的所述第二多个相机视图中的至少两个相机视图,而不经由所述显示生成部件显示所述第一多个相机的相机视图。
11.根据权利要求1所述的计算机系统,其中所述第一多视图用户界面能够滚动。
12.根据权利要求1所述的计算机系统,所述一个或多个程序还包括用于执行以下操作的指令:
接收用于改变将相机视图包括在所述第一多个相机视图中的用户输入;以及
响应于接收到用于改变将与相应区域相关联的相应相机的相应相机视图包括在所述第一多个相机视图中的所述用户输入:
根据确定用于改变相应相机视图的包括的所述用户输入对应于用于从所述第一多个相机视图移除所述相应相机的请求,
从所述第一多个相机视图移除所述相应相机而不使所述相应相机与所述相应区域解除关联;以及
根据确定用于改变相应相机视图的包括的所述用户输入对应于用于将所述相应相机添加到所述第一多个相机视图的请求,将所述相应相机添加到所述第一多个相机视图并且保持所述相应相机与所述相应区域的所述关联。
13.根据权利要求3所述的计算机系统,所述一个或多个程序还包括用于执行以下操作的指令:
在显示对应于与所述第一区域相关联的所述第一附件设备的所述第一附件控制用户界面对象时,接收对所述第一附件控制用户界面对象的选择;以及
响应于接收到对所述第一附件控制用户界面对象的选择,传输改变所述第一附件设备的所述状态的命令。
14.根据权利要求1所述的计算机系统,其中经由所述计算机系统的一个或多个麦克风检测到所述第一音频请求,并且由与所述计算机系统不同的电子设备的显示器显示所述第一多视图用户界面。
15.根据权利要求1所述的计算机系统,所述一个或多个程序还包括用于执行以下操作的指令:
经由所述显示生成部件显示控制用户界面,所述控制用户界面包括:
具有第一外观的多视图相机视图的至少一部分,所述多视图相机视图的所述至少一部分在被选择时使得经由所述显示生成部件显示第三多视图用户界面,所述第三多视图用户界面同时包括来自所述第一区域的至少一个相机视图和来自所述第二区域的至少一个相机视图;
具有所述第一外观的所述第一相机视图的至少一部分,所述第一相机视图的所述至少一部分在被选择时使得经由所述显示生成部件显示经修改的第一相机视图;以及
具有所述第一外观的第二相机视图的至少一部分,所述第二相机视图的所述至少一部分在被选择时使得经由所述显示生成部件显示经修改的第二相机视图。
16.根据权利要求15所述的计算机系统,其中所述第一相机视图对应于第一相机,其中具有所述第一外观的所述多视图相机视图包括:
从所述第一相机接收到的第一实时馈送和/或从所述第一相机接收到的静态图像;以及
从第二相机接收到的第二实时馈送和/或从所述第二相机接收到的静态图像。
17.根据权利要求1所述的计算机系统,所述一个或多个程序还包括用于执行以下操作的指令:
在从相应相机接收到的视频馈送中检测包裹;以及
经由所述显示生成部件显示已检测到包裹的通知。
18.根据权利要求1所述的计算机系统,所述一个或多个程序还包括用于执行以下操作的指令:
在从相应相机接收到的视频馈送中检测匹配识别数据库中的图像信息的访问者;以及
基于所述识别数据库中的所述图像信息匹配到所述访问者,作为所述相应相机的相应相机视图和/或先前录制的相机视图的一部分来显示对应于所述访问者的姓名。
19.根据权利要求18所述的计算机系统,其中所述识别数据库包括图像信息,并且其中所述图像信息基于所述计算机系统的数据库以及与所述计算机系统不同的第二计算机系统的用户的一个或多个数据库。
20.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储被配置为由与一个或多个麦克风和显示生成部件通信的计算机系统的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行以下操作的指令:
经由所述一个或多个麦克风接收用于显示与位置的第一区域相关联的第一多个相机的第一多个相机视图的第一音频请求;
响应于接收到用于显示所述第一多个相机视图的所述第一音频请求,经由所述显示生成部件显示第一多视图用户界面,显示第一多视图用户界面包括同时显示所述第一多个相机视图中的至少两个相机视图,而不经由所述显示生成部件显示与和所述位置的所述第一区域不同的所述位置的第二区域相关联的、与所述第一多个相机不同的第二多个相机的相机视图;
在显示所述第一多视图用户界面时,接收第一输入,所述第一输入对应于对所述第一多个相机视图中的第一相机视图的选择;以及
响应于接收到所述第一输入:
修改所述第一相机视图;
根据确定一个或多个可控附件设备能够用于所述第一区域,经由所述显示生成部件来与经修改的第一相机视图同时显示第一附件访问用户界面对象;以及
根据确定没有可控附件设备能够用于所述第一区域,放弃显示所述第一附件访问用户界面对象。
21.根据权利要求20所述的非暂态计算机可读存储介质,所述一个或多个程序还包括用于执行以下操作的指令:
经由所述一个或多个麦克风接收用于显示与所述位置的所述第二区域相关联的第二多个相机的第二多个相机视图的第二音频请求;以及
响应于接收到用于显示与所述第二区域相关联的所述第二多个相机的所述第二多个相机视图的所述第二音频请求,经由所述显示生成部件显示第二多视图用户界面,显示第二多视图用户界面包括同时显示与所述第二区域相关联的所述第二多个相机的所述第二多个相机视图中的至少两个相机视图,而不经由所述显示生成部件显示所述第一多个相机的相机视图。
22.根据权利要求20所述的非暂态计算机可读存储介质,所述一个或多个程序还包括用于执行以下操作的指令:
在显示经修改的第一相机视图时,接收第二输入;以及
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一附件访问用户界面对象的选择,经由所述显示生成部件显示对应于与所述第一区域相关联的第一附件设备的第一附件控制用户界面对象,其中对所述第一附件控制用户界面对象的选择发起用于传输改变所述第一附件设备的状态的命令的过程。
23.根据权利要求20所述的非暂态计算机可读存储介质,其中所述第一相机视图对应于第一相机,所述一个或多个程序还包括用于执行以下操作的指令:
响应于接收到所述第一输入,经由所述显示生成部件来与经修改的第一相机视图同时显示对应于所述第一相机的第一勿扰用户界面对象;
在显示经修改的第一相机视图时,接收第二输入;以及
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一勿扰用户界面对象的选择,发起用于在一时间段中抑制第一类型的通知的过程。
24.根据权利要求23所述的非暂态计算机可读存储介质,其中发起用于在所述时间段中抑制所述第一类型的通知的所述过程包括经由所述显示生成部件显示持续时间用户界面对象,所述持续时间用户界面对象对应于基于媒体内容的剩余回放持续时间的时间段,所述一个或多个程序还包括用于执行以下操作的指令:
在显示所述持续时间用户界面对象时,检测对所述持续时间用户界面对象的选择;以及
响应于检测到对所述持续时间用户界面对象的选择,在基于所述媒体内容的所述剩余回放持续时间的所述时间段中抑制所述第一类型的通知。
25.根据权利要求23所述的非暂态计算机可读存储介质,所述一个或多个程序还包括用于执行以下操作的指令:
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一勿扰用户界面对象的选择,放弃发起用于抑制第二类型的通知的过程。
26.根据权利要求23所述的非暂态计算机可读存储介质,其中所述第一类型的通知是与所述第一相机相关联的通知。
27.根据权利要求20所述的非暂态计算机可读存储介质,所述一个或多个程序还包括用于执行以下操作的指令:
响应于接收到所述第一输入,经由所述显示生成部件来与经修改的第一相机视图同时显示第一画中画用户界面对象;
在显示经修改的第一相机视图时,接收第二输入;以及
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一画中画用户界面对象的选择:
减小经修改的第一相机视图的尺寸以显示尺寸减小的第一相机视图;以及
经由所述显示生成部件来与所述尺寸减小的第一相机视图同时显示媒体内容。
28.根据权利要求20所述的非暂态计算机可读存储介质,所述一个或多个程序还包括用于执行以下操作的指令:
响应于接收到所述第一输入:
根据确定所述第一区域包括多个相机,经由所述显示生成部件来与经修改的第一相机视图同时显示第一多视图用户界面对象;以及
根据确定所述第一区域不包括多个相机,放弃显示所述第一多视图用户界面对象;
在显示经修改的第一相机视图时,接收第二输入;以及
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一多视图用户界面对象的选择,经由所述显示生成部件显示所述第一多视图用户界面,显示所述第一多视图用户界面包括同时显示与所述第一区域相关联的所述第一多个相机的所述第一多个相机视图中的至少两个相机视图,而不经由所述显示生成部件显示所述第二多个相机的相机视图。
29.根据权利要求21所述的非暂态计算机可读存储介质,其中所述第一相机视图对应于第一相机,所述一个或多个程序还包括用于执行以下操作的指令:
在显示所述第二多视图用户界面时,接收对应于对所述第二多个相机视图中的第二相机视图的选择的第三输入,其中所述第二相机视图对应于与所述第一相机不同的第二相机;
响应于接收到第三输入:
修改所述第二相机视图;
根据确定一个或多个可控附件设备能够用于所述第二区域,经由所述显示生成部件来与经修改的第二相机视图同时显示第二附件访问用户界面对象;
根据确定没有可控附件设备能够用于所述第二区域,放弃显示所述第二附件访问用户界面对象;
经由所述显示生成部件来与经修改的第二相机视图同时显示对应于所述第二相机的第二勿扰用户界面对象和第二画中画用户界面对象;
根据确定所述第二区域包括多个相机,经由所述显示生成部件来与经修改的第二相机视图同时显示第二多视图用户界面对象;以及
根据确定所述第二区域不包括多个相机,放弃显示所述第二多视图用户界面对象;以及
在显示经修改的第二相机视图时,接收第四输入;以及
响应于接收到所述第四输入:
根据确定所述第四输入对应于对所述第二附件访问用户界面对象的选择,经由所述显示生成部件显示对应于与所述第二区域相关联的第二附件设备的第二附件控制用户界面对象,其中对所述第二附件控制用户界面对象的选择发起用于传输改变所述第二附件设备的状态的命令的过程;
根据确定所述第四输入对应于对所述第二勿扰用户界面对象的选择,发起用于在一时间段中抑制第二类型的通知的过程;
根据确定所述第四输入对应于对所述第二画中画用户界面对象的选择:
减小经修改的第二相机视图的尺寸以显示尺寸减小的第二相机视图;以及
经由所述显示生成部件来与所述尺寸减小的第二相机视图同时显示媒体内容;并且
根据确定所述第四输入对应于对所述第二多视图用户界面对象的选择,经由所述显示生成部件显示所述第二多视图用户界面,显示所述第二多视图用户界面包括同时显示与所述第二区域相关联的所述第二多个相机的所述第二多个相机视图中的至少两个相机视图,而不经由所述显示生成部件显示所述第一多个相机的相机视图。
30.根据权利要求20所述的非暂态计算机可读存储介质,其中所述第一多视图用户界面能够滚动。
31.根据权利要求20所述的非暂态计算机可读存储介质,所述一个或多个程序还包括用于执行以下操作的指令:
接收用于改变将相机视图包括在所述第一多个相机视图中的用户输入;以及
响应于接收到用于改变将与相应区域相关联的相应相机的相应相机视图包括在所述第一多个相机视图中的所述用户输入:
根据确定用于改变相应相机视图的包括的所述用户输入对应于用于从所述第一多个相机视图移除所述相应相机的请求,从所述第一多个相机视图移除所述相应相机而不使所述相应相机与所述相应区域解除关联;以及
根据确定用于改变相应相机视图的包括的所述用户输入对应于用于将所述相应相机添加到所述第一多个相机视图的请求,将所述相应相机添加到所述第一多个相机视图并且保持所述相应相机与所述相应区域的所述关联。
32.根据权利要求22所述的非暂态计算机可读存储介质,所述一个或多个程序还包括用于执行以下操作的指令:
在显示对应于与所述第一区域相关联的所述第一附件设备的所述第一附件控制用户界面对象时,接收对所述第一附件控制用户界面对象的选择;以及
响应于接收到对所述第一附件控制用户界面对象的选择,传输改变所述第一附件设备的所述状态的命令。
33.根据权利要求20所述的非暂态计算机可读存储介质,其中经由所述计算机系统的一个或多个麦克风检测到所述第一音频请求,并且由与所述计算机系统不同的电子设备的显示器显示所述第一多视图用户界面。
34.根据权利要求20所述的非暂态计算机可读存储介质,所述一个或多个程序还包括用于执行以下操作的指令:
经由所述显示生成部件显示控制用户界面,所述控制用户界面包括:
具有第一外观的多视图相机视图的至少一部分,所述多视图相机视图的所述至少一部分在被选择时使得经由所述显示生成部件显示第三多视图用户界面,所述第三多视图用户界面同时包括来自所述第一区域的至少一个相机视图和来自所述第二区域的至少一个相机视图;
具有所述第一外观的所述第一相机视图的至少一部分,所述第一相机视图的所述至少一部分在被选择时使得经由所述显示生成部件显示经修改的第一相机视图;以及
具有所述第一外观的第二相机视图的至少一部分,所述第二相机视图的所述至少一部分在被选择时使得经由所述显示生成部件显示经修改的第二相机视图。
35.根据权利要求34所述的非暂态计算机可读存储介质,其中所述第一相机视图对应于第一相机,其中具有所述第一外观的所述多视图相机视图包括:
从所述第一相机接收到的第一实时馈送和/或从所述第一相机接收到的静态图像;以及
从第二相机接收到的第二实时馈送和/或从所述第二相机接收到的静态图像。
36.根据权利要求20所述的非暂态计算机可读存储介质,所述一个或多个程序还包括用于执行以下操作的指令:
在从相应相机接收到的视频馈送中检测包裹;以及
经由所述显示生成部件显示已检测到包裹的通知。
37.根据权利要求20所述的非暂态计算机可读存储介质,所述一个或多个程序还包括用于执行以下操作的指令:
在从相应相机接收到的视频馈送中检测匹配识别数据库中的图像信息的访问者;以及
基于所述识别数据库中的所述图像信息匹配到所述访问者,作为所述相应相机的相应相机视图和/或先前录制的相机视图的一部分来显示对应于所述访问者的姓名。
38.根据权利要求37所述的非暂态计算机可读存储介质,其中所述识别数据库包括图像信息,并且其中所述图像信息基于所述计算机系统的数据库以及与所述计算机系统不同的第二计算机系统的用户的一个或多个数据库。
39.一种方法,包括:
在与一个或多个麦克风和显示生成部件通信的计算机系统处:
经由所述一个或多个麦克风接收用于显示与位置的第一区域相关联的第一多个相机的第一多个相机视图的第一音频请求;
响应于接收到用于显示所述第一多个相机视图的所述第一音频请求,经由所述显示生成部件显示第一多视图用户界面,显示第一多视图用户界面包括同时显示所述第一多个相机视图中的至少两个相机视图,而不经由所述显示生成部件显示与和所述位置的所述第一区域不同的所述位置的第二区域相关联的、与所述第一多个相机不同的第二多个相机的相机视图;
在显示所述第一多视图用户界面时,接收第一输入,所述第一输入对应于对所述第一多个相机视图中的第一相机视图的选择;以及
响应于接收到所述第一输入:
修改所述第一相机视图;
根据确定一个或多个可控附件设备能够用于所述第一区域,经由所述显示生成部件来与经修改的第一相机视图同时显示第一附件访问用户界面对象;以及
根据确定没有可控附件设备能够用于所述第一区域,
放弃显示所述第一附件访问用户界面对象。
40.根据权利要求39所述的方法,还包括:
经由所述一个或多个麦克风接收用于显示与所述位置的所述第二区域相关联的第二多个相机的第二多个相机视图的第二音频请求;以及
响应于接收到用于显示与所述第二区域相关联的所述第二多个相机的所述第二多个相机视图的所述第二音频请求,经由所述显示生成部件显示第二多视图用户界面,显示第二多视图用户界面包括同时显示与所述第二区域相关联的所述第二多个相机的所述第二多个相机视图中的至少两个相机视图,而不经由所述显示生成部件显示所述第一多个相机的相机视图。
41.根据权利要求39所述的方法,还包括:
在显示经修改的第一相机视图时,接收第二输入;以及
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一附件访问用户界面对象的选择,经由所述显示生成部件显示对应于与所述第一区域相关联的第一附件设备的第一附件控制用户界面对象,其中对所述第一附件控制用户界面对象的选择发起用于传输改变所述第一附件设备的状态的命令的过程。
42.根据权利要求39所述的方法,其中所述第一相机视图对应于第一相机,所述方法还包括:
响应于接收到所述第一输入,经由所述显示生成部件来与经修改的第一相机视图同时显示对应于所述第一相机的第一勿扰用户界面对象;
在显示经修改的第一相机视图时,接收第二输入;以及
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一勿扰用户界面对象的选择,发起用于在一时间段中抑制第一类型的通知的过程。
43.根据权利要求42所述的方法,其中发起用于在所述时间段中抑制所述第一类型的通知的所述过程包括经由所述显示生成部件显示持续时间用户界面对象,所述持续时间用户界面对象对应于基于媒体内容的剩余回放持续时间的时间段,所述方法还包括:
在显示所述持续时间用户界面对象时,检测对所述持续时间用户界面对象的选择;以及
响应于检测到对所述持续时间用户界面对象的选择,在基于所述媒体内容的所述剩余回放持续时间的所述时间段中抑制所述第一类型的通知。
44.根据权利要求42所述的方法,还包括:
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一勿扰用户界面对象的选择,放弃发起用于抑制第二类型的通知的过程。
45.根据权利要求42所述的方法,其中所述第一类型的通知是与所述第一相机相关联的通知。
46.根据权利要求39所述的方法,还包括:
响应于接收到所述第一输入,经由所述显示生成部件来与经修改的第一相机视图同时显示第一画中画用户界面对象;
在显示经修改的第一相机视图时,接收第二输入;以及
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一画中画用户界面对象的选择:
减小经修改的第一相机视图的尺寸以显示尺寸减小的第一相机视图;以及
经由所述显示生成部件来与所述尺寸减小的第一相机视图同时显示媒体内容。
47.根据权利要求39所述的方法,还包括:
响应于接收到所述第一输入:
根据确定所述第一区域包括多个相机,经由所述显示生成部件来与经修改的第一相机视图同时显示第一多视图用户界面对象;以及
根据确定所述第一区域不包括多个相机,放弃显示所述第一多视图用户界面对象;
在显示经修改的第一相机视图时,接收第二输入;以及
响应于接收到所述第二输入:
根据确定所述第二输入对应于对所述第一多视图用户界面对象的选择,经由所述显示生成部件显示所述第一多视图用户界面,显示所述第一多视图用户界面包括同时显示与所述第一区域相关联的所述第一多个相机的所述第一多个相机视图中的至少两个相机视图,而不经由所述显示生成部件显示所述第二多个相机的相机视图。
48.根据权利要求40所述的方法,其中所述第一相机视图对应于第一相机,所述方法还包括:
在显示所述第二多视图用户界面时,接收对应于对所述第二多个相机视图中的第二相机视图的选择的第三输入,其中所述第二相机视图对应于与所述第一相机不同的第二相机;
响应于接收到第三输入:
修改所述第二相机视图;
根据确定一个或多个可控附件设备能够用于所述第二区域,经由所述显示生成部件来与经修改的第二相机视图同时显示第二附件访问用户界面对象;
根据确定没有可控附件设备能够用于所述第二区域,放弃显示所述第二附件访问用户界面对象;
经由所述显示生成部件来与经修改的第二相机视图同时显示对应于所述第二相机的第二勿扰用户界面对象和第二画中画用户界面对象;
根据确定所述第二区域包括多个相机,经由所述显示生成部件来与经修改的第二相机视图同时显示第二多视图用户界面对象;以及
根据确定所述第二区域不包括多个相机,放弃显示所述第二多视图用户界面对象;以及
在显示经修改的第二相机视图时,接收第四输入;以及
响应于接收到所述第四输入:
根据确定所述第四输入对应于对所述第二附件访问用户界面对象的选择,经由所述显示生成部件显示对应于与所述第二区域相关联的第二附件设备的第二附件控制用户界面对象,其中对所述第二附件控制用户界面对象的选择发起用于传输改变所述第二附件设备的状态的命令的过程;
根据确定所述第四输入对应于对所述第二勿扰用户界面对象的选择,发起用于在一时间段中抑制第二类型的通知的过程;
根据确定所述第四输入对应于对所述第二画中画用户界面对象的选择:
减小经修改的第二相机视图的尺寸以显示尺寸减小的第二相机视图;以及
经由所述显示生成部件来与所述尺寸减小的第二相机视图同时显示媒体内容;并且
根据确定所述第四输入对应于对所述第二多视图用户界面对象的选择,经由所述显示生成部件显示所述第二多视图用户界面,显示所述第二多视图用户界面包括同时显示与所述第二区域相关联的所述第二多个相机的所述第二多个相机视图中的至少两个相机视图,而不经由所述显示生成部件显示所述第一多个相机的相机视图。
49.根据权利要求39所述的方法,其中所述第一多视图用户界面能够滚动。
50.根据权利要求39所述的方法,还包括:
接收用于改变将相机视图包括在所述第一多个相机视图中的用户输入;以及
响应于接收到用于改变将与相应区域相关联的相应相机的相应相机视图包括在所述第一多个相机视图中的所述用户输入:
根据确定用于改变相应相机视图的包括的所述用户输入对应于用于从所述第一多个相机视图移除所述相应相机的请求,从所述第一多个相机视图移除所述相应相机而不使所述相应相机与所述相应区域解除关联;以及
根据确定用于改变相应相机视图的包括的所述用户输入对应于用于将所述相应相机添加到所述第一多个相机视图的请求,将所述相应相机添加到所述第一多个相机视图并且保持所述相应相机与所述相应区域的所述关联。
51.根据权利要求41所述的方法,还包括:
在显示对应于与所述第一区域相关联的所述第一附件设备的所述第一附件控制用户界面对象时,接收对所述第一附件控制用户界面对象的选择;以及
响应于接收到对所述第一附件控制用户界面对象的选择,传输改变所述第一附件设备的所述状态的命令。
52.根据权利要求39所述的方法,其中经由所述计算机系统的一个或多个麦克风检测到所述第一音频请求,并且由与所述计算机系统不同的电子设备的显示器显示所述第一多视图用户界面。
53.根据权利要求39所述的方法,还包括:
经由所述显示生成部件显示控制用户界面,所述控制用户界面包括:
具有第一外观的多视图相机视图的至少一部分,所述多视图相机视图的所述至少一部分在被选择时使得经由所述显示生成部件显示第三多视图用户界面,所述第三多视图用户界面同时包括来自所述第一区域的至少一个相机视图和来自所述第二区域的至少一个相机视图;
具有所述第一外观的所述第一相机视图的至少一部分,所述第一相机视图的所述至少一部分在被选择时使得经由所述显示生成部件显示经修改的第一相机视图;以及
具有所述第一外观的第二相机视图的至少一部分,所述第二相机视图的所述至少一部分在被选择时使得经由所述显示生成部件显示经修改的第二相机视图。
54.根据权利要求53所述的方法,其中所述第一相机视图对应于第一相机,其中具有所述第一外观的所述多视图相机视图包括:
从所述第一相机接收到的第一实时馈送和/或从所述第一相机接收到的静态图像;以及
从第二相机接收到的第二实时馈送和/或从所述第二相机接收到的静态图像。
55.根据权利要求39所述的方法,还包括:
在从相应相机接收到的视频馈送中检测包裹;以及
经由所述显示生成部件显示已检测到包裹的通知。
56.根据权利要求39所述的方法,还包括:
在从相应相机接收到的视频馈送中检测匹配识别数据库中的图像信息的访问者;以及
基于所述识别数据库中的所述图像信息匹配到所述访问者,作为所述相应相机的相应相机视图和/或先前录制的相机视图的一部分来显示对应于所述访问者的姓名。
57.根据权利要求56所述的方法,其中所述识别数据库包括图像信息,并且其中所述图像信息基于所述计算机系统的数据库以及与所述计算机系统不同的第二计算机系统的用户的一个或多个数据库。
Applications Claiming Priority (10)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US202063034313P | 2020-06-03 | 2020-06-03 | |
US63/034,313 | 2020-06-03 | ||
US17/028,176 | 2020-09-22 | ||
US17/028,176 US11657614B2 (en) | 2020-06-03 | 2020-09-22 | Camera and visitor user interfaces |
DKPA202070627 | 2020-09-23 | ||
DKPA202070627A DK180961B1 (en) | 2020-06-03 | 2020-09-23 | Camera and visitor user interfaces |
US202163189605P | 2021-05-17 | 2021-05-17 | |
US63/189,605 | 2021-05-17 | ||
PCT/US2021/035715 WO2021247872A1 (en) | 2020-06-03 | 2021-06-03 | Camera and visitor user interfaces |
CN202180006225.6A CN114641990A (zh) | 2020-06-03 | 2021-06-03 | 相机和访问者用户界面 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180006225.6A Division CN114641990A (zh) | 2020-06-03 | 2021-06-03 | 相机和访问者用户界面 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117354622A true CN117354622A (zh) | 2024-01-05 |
Family
ID=78830567
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180006225.6A Pending CN114641990A (zh) | 2020-06-03 | 2021-06-03 | 相机和访问者用户界面 |
CN202210646482.2A Active CN114978795B (zh) | 2020-06-03 | 2021-06-03 | 相机和访问者用户界面 |
CN202311560430.4A Pending CN117354622A (zh) | 2020-06-03 | 2021-06-03 | 相机和访问者用户界面 |
Family Applications Before (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180006225.6A Pending CN114641990A (zh) | 2020-06-03 | 2021-06-03 | 相机和访问者用户界面 |
CN202210646482.2A Active CN114978795B (zh) | 2020-06-03 | 2021-06-03 | 相机和访问者用户界面 |
Country Status (4)
Country | Link |
---|---|
EP (2) | EP4290858A2 (zh) |
KR (3) | KR20240007685A (zh) |
CN (3) | CN114641990A (zh) |
WO (1) | WO2021247872A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11187035B2 (en) * | 2004-05-06 | 2021-11-30 | Mechoshade Systems, Llc | Sky camera virtual horizon mask and tracking solar disc |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3859005A (en) | 1973-08-13 | 1975-01-07 | Albert L Huebner | Erosion reduction in wet turbines |
US4826405A (en) | 1985-10-15 | 1989-05-02 | Aeroquip Corporation | Fan blade fabrication system |
KR100595917B1 (ko) | 1998-01-26 | 2006-07-05 | 웨인 웨스터만 | 수동 입력 통합 방법 및 장치 |
US7218226B2 (en) | 2004-03-01 | 2007-05-15 | Apple Inc. | Acceleration-based theft detection system for portable electronic devices |
US7688306B2 (en) | 2000-10-02 | 2010-03-30 | Apple Inc. | Methods and apparatuses for operating a portable device based on an accelerometer |
US6677932B1 (en) | 2001-01-28 | 2004-01-13 | Finger Works, Inc. | System and method for recognizing touch typing under limited tactile feedback conditions |
US6570557B1 (en) | 2001-02-10 | 2003-05-27 | Finger Works, Inc. | Multi-touch system and method for emulating modifier keys via fingertip chords |
US7657849B2 (en) | 2005-12-23 | 2010-02-02 | Apple Inc. | Unlocking a device by performing gestures on an unlock image |
US20120291068A1 (en) * | 2011-05-09 | 2012-11-15 | Verizon Patent And Licensing Inc. | Home device control on television |
WO2013169849A2 (en) | 2012-05-09 | 2013-11-14 | Industries Llc Yknots | Device, method, and graphical user interface for displaying user interface objects corresponding to an application |
KR101439348B1 (ko) * | 2012-12-11 | 2014-11-04 | 주식회사 글로비트 | 얼굴인식을 이용한 출입통제 및 근태관리 시스템 |
EP3435220B1 (en) | 2012-12-29 | 2020-09-16 | Apple Inc. | Device, method and graphical user interface for transitioning between touch input to display output relationships |
US9104297B2 (en) * | 2013-01-25 | 2015-08-11 | International Business Machines Corporation | Indicating organization of visitor on user interface of user engaged in collaborative activity with visitor |
US20170084132A1 (en) * | 2013-07-26 | 2017-03-23 | SkyBell Technologies, Inc. | Doorbell communication systems and methods |
EP3579093B1 (en) * | 2016-06-12 | 2021-10-13 | Apple Inc. | User interface for managing controllable external devices |
KR20180027707A (ko) * | 2016-09-06 | 2018-03-15 | 주식회사 에이치제이엠앤씨 | 관제센터 중심의 키오스크 기반 출입통제 시스템 |
KR102546763B1 (ko) * | 2016-10-17 | 2023-06-22 | 한화비전 주식회사 | 영상 제공 장치 및 방법 |
US11134227B2 (en) * | 2017-09-20 | 2021-09-28 | Google Llc | Systems and methods of presenting appropriate actions for responding to a visitor to a smart home environment |
US11501572B2 (en) * | 2018-03-26 | 2022-11-15 | Nvidia Corporation | Object behavior anomaly detection using neural networks |
US10904628B2 (en) * | 2018-05-07 | 2021-01-26 | Apple Inc. | User interfaces for viewing live video feeds and recorded video |
-
2021
- 2021-06-03 EP EP23200934.0A patent/EP4290858A2/en active Pending
- 2021-06-03 KR KR1020237044810A patent/KR20240007685A/ko active IP Right Grant
- 2021-06-03 CN CN202180006225.6A patent/CN114641990A/zh active Pending
- 2021-06-03 EP EP21736104.7A patent/EP4042674A1/en active Pending
- 2021-06-03 KR KR1020227040554A patent/KR102619478B1/ko active IP Right Grant
- 2021-06-03 CN CN202210646482.2A patent/CN114978795B/zh active Active
- 2021-06-03 WO PCT/US2021/035715 patent/WO2021247872A1/en unknown
- 2021-06-03 KR KR1020227014651A patent/KR102505778B1/ko active IP Right Grant
- 2021-06-03 CN CN202311560430.4A patent/CN117354622A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
KR102619478B1 (ko) | 2024-01-02 |
EP4042674A1 (en) | 2022-08-17 |
WO2021247872A4 (en) | 2022-02-10 |
KR20220065881A (ko) | 2022-05-20 |
CN114978795A (zh) | 2022-08-30 |
WO2021247872A1 (en) | 2021-12-09 |
CN114978795B (zh) | 2023-12-08 |
CN114641990A (zh) | 2022-06-17 |
KR20240007685A (ko) | 2024-01-16 |
KR102505778B1 (ko) | 2023-03-06 |
EP4290858A2 (en) | 2023-12-13 |
KR20220159492A (ko) | 2022-12-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113162843B (zh) | 用于多用户通信会话的用户界面 | |
US11937021B2 (en) | Camera and visitor user interfaces | |
CN112789589A (zh) | 音频辅助注册 | |
CN114020203A (zh) | 用于内容流式传输的用户界面 | |
US20210349612A1 (en) | Editing features of an avatar | |
DK180961B1 (en) | Camera and visitor user interfaces | |
US20240069711A1 (en) | User interfaces for managing accessories | |
CN113906374A (zh) | 用于音频同步的方法和用户界面 | |
CN114978795B (zh) | 相机和访问者用户界面 | |
CN115185430B (zh) | 用于管理媒体的用户界面 | |
CN116195261A (zh) | 用于管理媒体项目的音频的用户界面 | |
DK202270086A1 (en) | Camera and visitor user interfaces | |
JP2024041887A (ja) | メディアを管理するためのユーザインタフェース | |
CN117957518A (zh) | 媒体控件用户界面 | |
CN117041417A (zh) | 用于管理共享内容会话的用户界面 | |
CN117296309A (zh) | 自适应视频会议用户界面 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |