CN117496643A - 检测和响应于智能家居环境的访客的系统和方法 - Google Patents
检测和响应于智能家居环境的访客的系统和方法 Download PDFInfo
- Publication number
- CN117496643A CN117496643A CN202311444135.2A CN202311444135A CN117496643A CN 117496643 A CN117496643 A CN 117496643A CN 202311444135 A CN202311444135 A CN 202311444135A CN 117496643 A CN117496643 A CN 117496643A
- Authority
- CN
- China
- Prior art keywords
- user
- visitor
- implementations
- guest
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 81
- 230000004044 response Effects 0.000 claims abstract description 41
- 230000000977 initiatory effect Effects 0.000 claims abstract description 24
- 230000009471 action Effects 0.000 claims description 268
- 230000033001 locomotion Effects 0.000 claims description 195
- 230000006854 communication Effects 0.000 claims description 104
- 238000004891 communication Methods 0.000 claims description 104
- 230000003993 interaction Effects 0.000 claims description 44
- 238000004458 analytical method Methods 0.000 claims description 29
- 230000001755 vocal effect Effects 0.000 claims description 22
- 230000000007 visual effect Effects 0.000 claims description 13
- 230000003542 behavioural effect Effects 0.000 claims description 12
- 230000003213 activating effect Effects 0.000 claims description 11
- 238000006243 chemical reaction Methods 0.000 claims description 4
- 230000035945 sensitivity Effects 0.000 claims description 3
- 230000001815 facial effect Effects 0.000 abstract description 25
- 238000012545 processing Methods 0.000 description 66
- 230000000875 corresponding effect Effects 0.000 description 41
- 238000003860 storage Methods 0.000 description 41
- 238000012512 characterization method Methods 0.000 description 26
- 238000001514 detection method Methods 0.000 description 23
- 238000007689 inspection Methods 0.000 description 21
- 238000012544 monitoring process Methods 0.000 description 19
- 230000008569 process Effects 0.000 description 19
- 238000005259 measurement Methods 0.000 description 14
- 238000013459 approach Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 11
- 238000003825 pressing Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 210000003128 head Anatomy 0.000 description 9
- 230000000386 athletic effect Effects 0.000 description 8
- 230000000694 effects Effects 0.000 description 8
- 230000009286 beneficial effect Effects 0.000 description 7
- 238000010079 rubber tapping Methods 0.000 description 7
- 230000005236 sound signal Effects 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 6
- 239000007787 solid Substances 0.000 description 6
- 230000002123 temporal effect Effects 0.000 description 6
- 230000006399 behavior Effects 0.000 description 5
- 230000002262 irrigation Effects 0.000 description 5
- 238000003973 irrigation Methods 0.000 description 5
- 230000005855 radiation Effects 0.000 description 5
- 239000013589 supplement Substances 0.000 description 5
- 230000007175 bidirectional communication Effects 0.000 description 4
- 238000013145 classification model Methods 0.000 description 4
- 230000001276 controlling effect Effects 0.000 description 4
- 230000001419 dependent effect Effects 0.000 description 4
- 239000012634 fragment Substances 0.000 description 4
- 230000011218 segmentation Effects 0.000 description 4
- 239000013598 vector Substances 0.000 description 4
- 101100408383 Mus musculus Piwil1 gene Proteins 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000007613 environmental effect Effects 0.000 description 3
- 230000005021 gait Effects 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 230000000873 masking effect Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- CURLTUGMZLYLDI-UHFFFAOYSA-N Carbon dioxide Chemical compound O=C=O CURLTUGMZLYLDI-UHFFFAOYSA-N 0.000 description 2
- XEEYBQQBJWHFJM-UHFFFAOYSA-N Iron Chemical compound [Fe] XEEYBQQBJWHFJM-UHFFFAOYSA-N 0.000 description 2
- 238000004140 cleaning Methods 0.000 description 2
- 210000005069 ears Anatomy 0.000 description 2
- 210000000887 face Anatomy 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000006855 networking Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000010399 physical interaction Effects 0.000 description 2
- 238000012913 prioritisation Methods 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 238000000638 solvent extraction Methods 0.000 description 2
- 238000003325 tomography Methods 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 238000002604 ultrasonography Methods 0.000 description 2
- 230000005457 Black-body radiation Effects 0.000 description 1
- UGFAIRIUMAVXCW-UHFFFAOYSA-N Carbon monoxide Chemical compound [O+]#[C-] UGFAIRIUMAVXCW-UHFFFAOYSA-N 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000009118 appropriate response Effects 0.000 description 1
- 235000021168 barbecue Nutrition 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000007664 blowing Methods 0.000 description 1
- 229910002092 carbon dioxide Inorganic materials 0.000 description 1
- 239000001569 carbon dioxide Substances 0.000 description 1
- 229910002091 carbon monoxide Inorganic materials 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000001010 compromised effect Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000008451 emotion Effects 0.000 description 1
- 235000013305 food Nutrition 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 229910052742 iron Inorganic materials 0.000 description 1
- 208000030175 lameness Diseases 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000036651 mood Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000000779 smoke Substances 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000009182 swimming Effects 0.000 description 1
- 238000013518 transcription Methods 0.000 description 1
- 230000035897 transcription Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
- 238000005406 washing Methods 0.000 description 1
- 239000002023 wood Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B3/00—Audible signalling systems; Audible personal calling systems
- G08B3/10—Audible signalling systems; Audible personal calling systems using electric transmission; using electromagnetic transmission
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/166—Detection; Localisation; Normalisation using acquisition arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19654—Details concerning communication with a camera
- G08B13/19656—Network used to communicate with a camera, e.g. WAN, LAN, Internet
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19678—User interface
- G08B13/19684—Portable terminal, e.g. mobile phone, used for viewing video remotely
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M11/00—Telephonic communication systems specially adapted for combination with other electrical systems
- H04M11/02—Telephonic communication systems specially adapted for combination with other electrical systems with bell or annunciator systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M11/00—Telephonic communication systems specially adapted for combination with other electrical systems
- H04M11/02—Telephonic communication systems specially adapted for combination with other electrical systems with bell or annunciator systems
- H04M11/025—Door telephones
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/768—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using context analysis, e.g. recognition aided by known co-occurring patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19695—Arrangements wherein non-video detectors start video recording or forwarding but do not generate an alarm themselves
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Signal Processing (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Electromagnetism (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Alarm Systems (AREA)
- Interconnected Communication Systems, Intercoms, And Interphones (AREA)
Abstract
本发明涉及测和响应于智能家居环境的访客的系统和方法。一种经由智能家居环境的电子问候系统检测和响应于智能家居环境的访客的方法,包括确定访客正在接近智能家居环境的入口;在访客正在接近入口时发起面部辨识操作;响应于确定访客正在接近入口,发起观察窗;在观察窗期间,从智能家居环境的一个或多个传感器获取场境信息;并且在时间窗结束时,基于场境信息和/或面部辨识操作的结果,发起对检测到的访客的接近的响应。
Description
分案说明
本申请属于申请日为2018年8月16日的中国发明专利申请No.201880033972.7的分案申请。
技术领域
这通常涉及响应于智能家居环境的访客,包括但不限于基于场境(contextual)信息来确定与访客交互的适当方式。
背景技术
房屋入口是通常与房屋居住者的安全和安心相关联的敏感区域。房屋所有者和居住者有兴趣监控他们的入口以确保安全和便利。一些现有的监视系统检测在安全相机的视场中的人员,并且一些在这样的检测时发起一般提醒。但是,单一类型的提醒并不适合所有检测到的人员。一些人员可能是受欢迎的客人、居住者、不受欢迎的访客或者仅仅是经过入口的人员。
准确识别和分类房屋的访客是一个挑战。向房屋的居住者提供有意义的选项以相应于这些访客也是一个挑战。非常需要用于发现和分类访客以及向用户提供相关选项以响应于访客的人性化技术。
发明内容
因此,需要具有用于实体(例如,人员)和事件识别、分类和呈现的更有效、准确和易于使用的方法的系统和/或设备。这类系统、设备和方法可选地补充或替代用于实体和事件识别、分类和/或呈现的常规系统、设备和方法。此外,需要具有用于识别和呈现与响应于实体和事件相关联的动作的更有效和易于使用的方法的系统和/或设备。这类系统、设备和方法可选地补充或替代用于动作识别和呈现的常规系统、设备和方法。
如果房屋监控系统不采用一些辨识/识别和分类处理,则该房屋监控系统的用户可能会受到关于不重要和琐碎事件的提醒和通知的轰炸。大量不必要或不完整的信息给用户增加了负担并且使得更难以识别和响应于重要事件。例如,每次有人员在房屋入口处安装的相机前面走动时均会接收入口运动通知的用户可能无法区分路人和访客。因此,能够辨识出何时检测事件是由接近入口的访客引起的是有益的。在区分该人员是否是接近入口的访客时,辨识关于该人员的动作的场境信息也是有益的。例如,系统可以发送详述“未知的人员正在接近前门”或“未知的人员已经在前门等了超过30秒但还未使门铃响铃”的通知,而不是发送陈述“运动被检测到”的通知。用户可以一目了然地看到事件的性质并请求更多细节(例如事件的片段)和/或生成响应(例如,提醒当局或者发起通信)。此外,通过在访客的接近期间辨识场境信息,房屋监控系统可以在访客到达入口之前确定用户的相关信息。因此,当访客到达入口并使门铃响铃或敲门时,房屋监控系统已经辨识出足够的场境信息以将相关信息发送给用户或采取适当的动作而无需必需等待访客到达入口,从而针对用户(例如,可以更快地响应于检测事件)和访客(例如,可以在几乎没有处理延迟的情况下与房屋监控系统交互)两者提高了系统的效率。
此外,房屋监控系统的用户通常具有可用于响应于检测到的访客的有限的选项。此外,如果呈现可用选项的任意子集,则它们可能与当前情况无关。因此,具有可用于响应于访客的大范围的选项是有益的,该选项诸如提醒当局、发起与访客的双向沟通、调整房屋中的安全设置等。此外,能够辨识关于访客的场境信息并呈现与特定情况相关的选项的适当子集是有益的。例如,如果已知的访客接近入口,则系统可以提供适合于已知的访客的动作的子集(例如,问候和/或解锁门的选项)。另一方面,如果未知的访客接近入口,则系统可以提供适合于未知的访客的不同的动作的子集(例如,警告、锁门的选项和/或呼叫当局的选项)。
在一个方面中,一些实施方式包括用于基于场境信息来辨识接近的访客以及发起响应的方法。在一些实施方式中,该方法包括:(1)确定访客正在接近入口;(2)在访客正在接近入口时发起面部辨识操作;(3)响应于确定访客正在接近入口,发起观察窗;(4)在观察窗期间,从智能家居环境的一个或多个传感器获取场境信息;(5)在观察窗结束时,基于场境信息和面部辨识操作的结果,发起对检测到的访客的接近的响应。
在一些实施方式中,在访客到达入口的物理交互区域之前发起观察窗,该物理交互区域限定访客在其中距入口足够接近以与入口的元件物理地交互的区域,该元件诸如门、门铃、传呼系统或电子问候系统的组件。例如,在访客足够接近以使门铃响铃或敲门之前,观察窗被发起以及(用作发起响应的基础的)场境信息被获取。
在一些实施方式中,在访客发起告知之前的任何时间,观察窗被发起(以及场境信息被获取),该告知诸如敲门、按下门铃按钮、口头告知或与电子问候系统的组件的物理交互。例如,即使访客距入口足够接近以使门铃响铃或敲门,在访客实际上使门铃响铃或敲门(或进行其他任何种类的告知)之前的任何时间,观察窗被发起以及场境信息被获取。
在一些实施方式中,确定访客正在接近入口包括获取并分析指示接近的访客或在入口附近的访客的存在信息。在一些实施方式中,从智能家居环境的一个或多个运动传感器的运动数据中得出存在信息的部分或全部,该运动传感器包括例如无源红外(PIR)传感器、超声传感器、微波传感器和/或层析成像传感器。在一些实施方式中,从具有对应于入口的视场的一个或多个相机的视频数据中得出存在信息的部分或全部。例如,通过确定由相机或其他类型的运动传感器检测到的运动量满足一个或多个运动标准——诸如运动量超过阈值——得出存在信息。作为又一示例,通过分析多个图像帧以确定多个图像帧中的(例如,以像素测量的)对象的位置中的差异是否超过阈值,得出存在信息。在一些实施方式中,从音频传感器获取的音频信号中得出存在信息的部分或全部。例如,捕获音频事件(诸如脚步声、口头告知、门铃声音或敲门)的音频信号指示访客的存在。
在一些实施方式中,确定访客正在接近入口包括随时间比较访客的特性的尺寸。在一些实施方式中,确定访客正在接近包括随时间跟踪访客的一个或多个尺寸。例如,确定访客正在接近入口包括获取对访客的特性的尺寸的第一度量(诸如对访客的头部的初始高度的度量)、获取对访客的特性的尺寸的后续度量(诸如在初始高度度量之后的预确定时间量时对访客的头部的第二高度的度量)并且确定第一度量和后续度量之间的差异是否超过阈值。例如,如果访客的头部高度在第一度量和第二度量之间增加,则访客可能正在接近;否则,如果访客的头部高度不增加,则访客很可能没有接近或正在静止地站着。
在一些实施方式中,确定访客正在接近入口包括确定访客在距入口的阈值距离内。例如,如果在距入口的预确定距离内检测到人员,则将该人员确定为接近的访客。例如,一旦访客位于入口的15英尺、10英尺或5英尺之内,观察窗就被发起以及场境信息被获取。在一些实施方式中,响应于确定访客正在接近入口而发起观察窗包括响应于确定访客正在到入口的路径上(例如,已经进入走道、走廊或通向入口的外围大门)而发起观察窗。
在一些实施方式中,确定访客正在接近入口包括得出运动流。在一些实施方式中,运动流是从相机的视频流中得出的数据流,其中,数据流用作运动分析的基础。在一些实施方式中,通过检测关于相机的视场中的运动的量的信息或者通过将相机的视场中的检测到的运动的量与阈值进行比较来从视频流中得出运动流。在一些实施方式中,运动流包括在视频流中检测到的运动事件的运动掩码(mask)。
在一些实施方式中,该方法进一步包括当面部的大小超过运动流的帧的阈值比例时,从运动流中捕获访客的面部的裁剪。例如,一旦访客在相机的阈值距离(例如10英尺、5英尺或3英尺)内,相机就会生成访客的面部的经裁剪的图像。
在一些实施方式中,确定访客正在接近入口包括从智能家居环境的传感器获取位置数据;基于对位置数据的分析,识别访客相对于入口的位置;以及将访客的位置与距入口的阈值距离或访客的先前位置进行比较。
在一些实施方式中,确定访客正在接近入口包括检测访客进入或占据用户限定的活动区域。例如,如果访客进入了由被递送的包裹周围的3英尺半径限定的区域,则系统确定访客正在接近。如下所述,该信息也是场境信息的有用基础。
在一些实施方式中,确定访客正在接近入口包括检测访客的面部、高度、形状或移动特性(例如,诸如跛行的特定行走方式)中的至少一个。在一些实施方式中,特定访客的访客简档被设置(例如,由用户手动设置或者经由机器学习设置)以将特定的面部、高度、形状或移动特性与访客相关联。
在一些实施方式中,仅在访客接近时并且在到达入口的预确定距离(例如,附近)之前获取场境信息。在一些实施方式中,在访客正在接近时以及在访客在入口附近时都会获取场境信息。在一些实施方式中,仅当访客在入口附近时才获取场境信息。
在一些实施方式中,场境信息包括检测到的告知事件(例如,按下门铃按钮、敲门或口头告知)或在预确定时间阈值期间没有检测到的告知事件。例如,与已经到达入口但徘徊多于30秒而没有使门铃响铃或敲门的访客相比,在到达入口5秒钟之内使门铃响铃的访客可能适合来自电子问候系统的不同响应。在一些实施方式中,按门铃、敲门或口头告知是与已知访客相关联或以其他方式与已知访客相关联的按门铃或敲门的预指派的模式的一部分。例如,智能家居环境(例如,智能门铃)确定特定的访客总是在门的特定位置以特定的模式并且使用特定量的力来敲门。在该示例中,智能家居环境将这类敲门属性与特定访客相关联。在另一示例中,设置(例如,由用户手动设置或通过机器学习设置)特定访客的访客简档以将特定的敲门模式、特定的门铃铃声模式或特定的口头告知与特定的访客相关联。
在一些实施方式中,场境信息基于面部辨识分析结果、访客的一个或多个行为特性、访客的一个或多个身体特性、访客的一个或多个服装和/或配件特性、访客在其期间接近入口的一天中的时间、访客在其期间接近入口的一周中的一天;来自智能家居环境的音频数据;时间上接近已排程事件;时间上接近智能家居环境的已排程状态;电子问候系统的用户的已知或未知状态;电子问候系统的用户的预期或非预期状态;电子问候系统的用户的位置;电子问候系统的用户的身份;和/或一个或多个检测到的访客动作(例如,门铃激活、敲门、音频告知和/或访客与电子问候系统之间的任何其他交互)。在一些实施方式中,场境信息基于一个或多个检测到的访客动作的计时(例如,自访客被检测到或被确定已经接近或在入口附近以来访客按下门铃或敲门花费的时间,或者自从访客被检测到或被确定已经接近或在入口附近以来访客徘徊了多久而没有按门铃或敲门)。
在一些实施方式中,场境信息包括访客的特性,诸如身高、性别、年龄等。在一些实施方式中,场境信息包括确定的访客的生物特征。在一些实施方式中,如果一组访客一起接近入口,则场境信息包括访客的数量和/或所识别的访客之间的互动。在一些实施方式中,场境信息包括关于访客是否持有任何物品和/或这类物品的标识(例如,盒子、铁棍或食品物品)的信息。在一些实施方式中,场境信息包括关于智能家居附近(例如,在街区、1英里或10英里内)的任何活动的或最近的(例如,在最近1小时、1天或1周内)安全提醒的信息。在一些实施方式中,场境信息包括关于智能家居的先前访客的信息(例如,先前访客是罪犯、推销员还是邻居)。
在一些实施方式中,观察窗在以下中的较早时结束:(1)预确定的时间阈值;以及(2)检测到的访客告知。例如,如果响应的访客使门铃响铃或敲门,则观察窗将束而不管是否达到预确定的时间阈值,从而允许电子问候系统做出迅速响应。作为另一示例,如果在到达预确定时间阈值之前徘徊的访客还未按门铃或敲门,即使访客还未作出告知,观察窗也结束,从而允许电子问候系统做出迅速响应。
在一些实施方式中,对访客的响应包括向访客传达通信;发起安全动作;和/或将告知传输给电子问候系统的用户、传输给用户的预选择的联系人和/或传输给公共或私人执法人员。
在一些实施方式中,通信包括以下中的至少一个:传达电子问候系统的用户的状态的通信;指示访客执行动作的通信;指示访客留言的通信;预编程的定制通信;用于转换为音频消息的用户编写的文本消息;通过合成语音传达的音频通信;和/或在显示器上呈现的视觉通信。
在一些实施方式中,安全动作包括以下中的至少一个:激活灯或调整智能家居环境的照明级别;锁或解锁智能家居环境的门;激活警报或调整智能家居环境的报警敏感度;激活智能家居环境的洒水器系统;激活模拟狗吠;激活安全系统或调整智能家居环境的安全状态;向公共或私人执法人员传输通知或提醒;向用户的预选择的联系人传输通知或提醒;和/或记录访客的图像或视频。
在一些实施方式中,通知包括以下中的至少一个:关于访客的信息;关于面部辨识操作的结果的信息;关于检测到的访客告知事件或缺少事件的信息;和/或关于所获取的场境信息的信息。
在另一方面,一些实施方式包括智能家居环境的电子问候系统,该电子问候系统包括:(1)相机;(2)一个或多个处理器;以及(3)耦合到一个或多个处理器的存储器,存储器存储被配置成由一个或多个处理器执行的一个或多个程序。在一些实施方式中,一个或多个程序包括用于实施上述操作中的一个或多个的指令。
在另一方面,一些实施方式包括存储一个或多个程序的非瞬时性计算机可读存储介质。在一些实施方式中,一个或多个程序包括指令,该指令在由计算系统执行时,使系统实现上述操作中的一个或多个。
在另一方面中,一些实施方式包括提供用于响应于智能家居环境的访客或与之交互的适当的动作的方法。在一些实施方式中,该方法包括:(1)检测智能家居环境的访客;(2)从智能家居环境中获取关于访客的场境信息;(3)基于场境信息,识别可用于客户端设备的用户的以用于经由电子问候系统与访客交互的多个适当动作;以及(4)使所识别的动作被呈现给客户端设备的用户。例如,智能家居环境可以检测具有盒子的递送员接近并向智能家居用户发送适当的动作(有时在本文中称为“快速动作”),使用户能够(1)指令递送员将盒子留在门廊上,(2)指令递送员稍后重新递送,或(3)询问递送员投递是否需要针对递送的签名。
在一些实施方式中,(1)检测访客包括确定(a)访客正在接近智能家居环境的入口,或者(b)访客在智能家居环境的入口附近。在一些实施方式中,确定访客正在接近或在入口附近包括先前所述的方面和实施方式中的任一个。
在一些实施方式中,(1)检测访客包括(a)从传感器获取运动数据;以及和(b)基于对运动数据的分析,识别涉及访客接近智能家居环境的入口的运动事件。在一些实施方式中,(a)获取运动数据包括:(i)分析多个图像帧以确定多个帧中的两个或更多个帧之间的运动是否满足运动标准;(ii)分析来自红外传感器的红外数据以确定红外数据的差异是否满足运动标准;和/或(iii)分析来自运动传感器的数据以确定该数据是否满足运动标准。例如,智能家居分析视频流以确定存在的运动的量是否超过预设的运动阈值。作为另一示例,智能家居利用无源红外(PIR)传感器来确定用户与智能家居入口之间的距离是否在缩小。在一些实施方式中,(b)识别运动事件包括:(i)检测访客进入了入口附近的活动区域;(ii)检测访客的面部;和/或(iii)检测访客的身高、外形和移动特性中的至少一个。
在一些实施方式中,(2)基于先前所述的方面和实施方式中的任一个来获取场境信息。
在一些实施方式中,(2)基于以下获取场境信息:(i)面部辨识分析;(ii)访客的一个或多个行为特性;(iii)访客的一个或多个服装特性;(iv)访客在其期间接近入口的一天中的时间;(v)音频数据;(vi)时间上接近预排程事件;(vii)时间上接近智能家居环境的预排程状态;(viii)用户的状态或位置;(ix)检测到的访客动作(例如,推门铃、敲门、音频或口头告知和/或访客与电子问候系统之间的交互);和/或(x)检测到的访客动作的计时(例如,将检测到的访客动作的计时与识别涉及访客接近入口的运动事件的计时进行比较)。在一些实施方式中,场境信息包括关于智能家居用户的位置和/或状态的信息。
在一些实施方式中,多个适当动作包括先前所述方面和实施方式中的响应中的任一个。
在一些实施方式中,多个适当的动作包括:(i)一个或多个基于通信的动作;(ii)一个或多个基于动作的动作;(iii)一个或多特定人员的动作;(iv)一个或多个特定位置的动作;(v)一个或多个特定建筑物的行动;和/或(vi)一个或多个特定用户意向的动作。
在一些实施方式中,(i)一个或多个基于通信的动作包括:(a)发送关于用户的状态的消息;(b)发送指示访客执行动作的消息;(c)发送指示访客留言的消息;(d)向访客发送预编程的定制消息;(e)为访客发送要被转换为音频消息的用户编写的文本消息;(f)向访客发送由合成语音说出的音频消息;和/或(g)向访客发送在屏幕上显示的视觉消息。在一些实施方式中,在用户和访客之间的同时音频通信期间,接收对基于通信的动作的用户选择。
在一些实施方式中,(ii)一个或多个基于动作的动作包括:(a)调整智能家居环境的安全级别;(b)锁或解锁智能家居环境的门;(c)调整智能家居环境的灯的亮度级别;(d)提醒执法人员;(e)提醒用户的预选择的联系人;(f)记录访客的图像或视频;和/或(g)打开智能家居环境的警报。
在一些实施方式中,(iii)基于以下选择一个或多特定人员的动作:(a)访客的状态(例如,已知的、未知的、预期的或非预期的);(b)检测到的访客的身份;和/或(c)当识别到运动事件时访客是否是被期望的。
在一些实施方式中,(4)识别可用于用户的多个适当动作包括基于场境信息对一个或多个动作进行排名以及基于排名对一个或多个动作进行排序。在一些实施方式中,要呈现给客户端设备的用户的所识别的动作的数量基于在客户端设备的用户界面的快速动作区域中可用的屏幕空间量。在一些实施方式中,要呈现给客户端设备的用户的所识别的动作的数量基于客户端设备的尺寸。在一些实施方式中,要呈现给客户端设备的用户的所识别的动作的数量基于客户端设备的定向。在一些实施方式中,识别可用于用户的多个适当动作包括从P个适当动作的超集中选择N个适当动作,其中,N和P为整数并且P大于N;以及将所选择的适当动作识别为多个适当动作。换句话说,显示给用户的适当动作的数量是适当动作的主列表的子集。
在一些实施方式中,该方法进一步包括:(5)从客户端设备的用户接收对所识别的动作的选择,以及(6)使该动作被执行。例如,智能家居用户选择要求访客陈述她为什么来访的原因快速动作。在该示例中,用户选择通过入口附近的扬声器(例如,智能门铃设备上的扬声器)中继该请求来触发音频输出。
在一些实施方式中,该方法进一步包括:(7)基于访客对所执行的动作的响应来获取附加场境信息;(8)基于附加场境信息,识别后续可用于客户端设备的用户以用于经由电子问候系统与访客交互的多个适当动作;以及(9)使所识别的后续动作被呈现给客户端设备的用户。在一些实施方式中,该方法进一步包括:(10)从客户端设备的用户接收对所识别的后续动作的后续选择,(11)以及使该后续动作被执行。例如,来自先前示例的访客陈述她到访是因为她与苏珊——智能家居居住者中的一个——有研究会议日程。在该示例中,然后,智能家居可以向智能家居用户发送新的快速动作集,包括(a)解锁门的动作,(b)向苏珊提醒访客的动作,(c)请求访客等待某人来接听的动作,以及(d)通知访客苏珊忙且必须取消研究会议的动作。
在一些实施方式中,该方法进一步包括:(12)连续获取场境信息;(13)基于连续获取的场境信息,连续地识别可用于客户端设备的用户的以用于经由电子问候系统与访客交互的接连的多个适当动作;以及(14)连续地使所识别的接连的多个动作被呈现给客户端设备的用户。在一些实施方式中,该方法进一步包括(15)从客户端设备的用户接连地接收对连续识别的接连的多个动作的一个或多个选择,以及(16)使一个或多个选择的动作被执行。
在另一方面,一些实施方式包括被配置为执行本文所述的方法中的任一个的电子问候系统。在一些实施方式中,电子问候系统包括用于执行本文所述的任何操作的装置。在一些实施方式中,电子问候系统包括一个或多个相机和服务器系统。在一些实施方式中,电子问候系统包括门铃设备,该门铃设备具有一个或多个麦克风、一个或多个扬声器、一个或多个相机以及用户界面(例如,触摸屏和/或用于触发设备的可供性(offordance))。
因此,为系统提供了更加高效和有效的方法以用于监控和便于对视频流中的事件和人员的检查,从而提高了这类系统的准确性、有效性、效率和用户满意度。另外,为系统提供了用于响应于视频流中的人员或与之交互的更有效的方法,从而提高了这类系统的准确性、有效性、效率和用户满意度。这类系统和方法可以补充或替代用于事件和人员监控、呈现、响应和交互的常规系统和方法。
附图说明
为了更好地理解各个所述的实施方式,应当结合下述附图,参考下文的实施方式的描述,在附图中,相同的附图标记在整个附图中指代对应的部件。
图1是根据一些实施方式的示例性智能家居环境。
图2A是示出根据一些实施方式的包括智能家居网络的代表性网络架构的框图。
图2B是根据一些实施方式的服务器系统在其中与客户端设备和智能设备交互的代表性操作环境。
图3A是示出根据一些实施方式的代表性服务器系统的框图。
图3B示出了一些实施方式中使用的各种数据结构。
图4是示出根据一些实施方式的代表性智能设备的框图。
图5示出根据一些实施方式的用于视频分析和分类的代表性系统架构。
图6是示出根据一些实施方式的代表性客户端设备的框图。
图7A-7C示出根据一些实施方式的代表性人员检测和辨识过程。
图8A-8B示出根据一些实施方式的代表性访客状态归类操作。
图9A-9D是示出根据一些实施方式的检测和响应于访客的方法的流程图。
图10A-10L示出了根据一些实施方式的用于通知客户端设备的用户访客正在接近并且促进与访客的交互的代表性用户界面。
图11A-11B示出了根据一些实施方式的用于显示具有快速动作的通知的代表性用户界面。
图12A-12D示出了根据一些实施方式的用于显示通知的代表性用户界面。
图13A-13D示出了根据一些实施方式的用于通过对话方式与访客进行交互的代表性用户界面。
图14示出了根据一些实施方式的包括交互摘要(例如,图9D,摘要988)的代表性摘要通知。
贯穿附图中的若干视图,相似的附图标记指代对应的部件。
具体实施方式
由于与房屋监控系统相关联的潜在大量提醒和通知,采用一些辨识/识别和分类过程是有益的。例如,能够辨识出运动事件是由接近入口的访客还是仅仅路过引起的并且通告用户发生的事件的类型以及所涉及的人员/实体是有益的,而不是每次有人员走过安装在房屋入口处的相机前就通知用户。这使得用户能够更快、更高效地确定事件是否需要任何动作或由用户进一步检查。以这种方式,用户可以更快速且容易地将重要事件(例如,需要立即响应或更详细检查的事件)与不需要进一步的检查或响应的琐碎事件区分开。此外,用户可以一目了然地看到事件的性质并且要求更多细节(例如,事件的片段)和/或产生响应(例如,提醒当局或发起通信)。
此外,由于许多不同的访客在其中可能会接近用户的住所的场景,因此在这种场境中有大范围的选项可用于响应于访客是有益的,诸如提醒当局、发起与访客的双向通信、调整住所的安全设置等。此外,能够辨识关于访客的场境信息并呈现与特定情况相关的适当的选项的子集是有益的。例如,如果已知访客接近入口,则系统可以提供适合于已知访客的动作的子集(例如,问候和/或解锁门的选项)。另一方面,如果未知访客接近入口,则系统可以提供适合未知访客的不同的动作的子集(例如,警告、锁门的选项和/或呼叫当局的选项)。
因此,一些实施方式包括联网的电子问候系统,该电子问候系统包括辨识与检测到的访客有关的场境信息的相机。在一些实施方式中,当访客按下门铃(或敲门或做出口头告知)时,系统将存在访客告知(例如,按下门铃按钮或敲门)的指示发送到用户的设备(在本文中有时也称为客户端设备和便携式电子设备;例如,智能电话),并且用户的设备显示提醒(或其他类型的通知)。在一些实施方式中,提醒包括访客的视频片段(例如,图形交换格式(gif))和/或静态图像。在一些实施方式中,如果系统感测到涉及正接近的访客的运动事件,并且访客在阈值时间量内未做出告知(例如,未按下门铃或敲门),则系统向用户的设备发送存在尚未做出告知的访客(有时本文称为徘徊的访客)的指示。
在一些实施方式中,用户设备的用户界面包括忽略提醒的选项、发起与访客的语音或文本到话音通信的选项以及显示建议动作列表的选项(在本文中有时也称为快速操作)。在一些实施方式中,在语音或文本到话音的通信会话之前和期间,显示快速动作的选项是可用的。在一些实施方式中,选择显示快速动作的选项不会在用户设备上打开麦克风,这使用户能够在不传输用户的实况音频的情况下进行响应。例如,如果用户正在开会或者不能或不愿意传输实况音频,则用户仍然能够经由快速动作进行响应。
在一些实施方式中,用户设备的用户界面包括使智能家居系统(例如,经由虚拟助手)与访客交互的选项。使用虚拟助手来与访客交互有时在本文中也称为对讲交互。在一些实施方式中,智能家居系统为用户提供虚拟助手与访客交互的摘要。
在一些实施方式中,用户可以对快速动作或助手响应中的一个或多个进行预编程。在一些实施方式中,用户可以通过向智能家居环境的扬声器设备讲话来预编程快速动作或助手响应。在一些实施方式中,用户可以通过使用客户端设备、电子问候系统、服务器系统或与智能家居环境相关联的任何其他合适的计算机系统来预编程快速动作或助手响应。
在一些实施方式中,快速动作的至少一个子集是基于通信的,诸如发送语音或文本到话音消息、发起对讲交互和/或发起预录制的问候。预录制的问候或警告消息可选的是人员的语音(例如,用户的语音)或人工语音(例如,虚拟助手的语音)的录音。在一些实施方式中,快速动作的至少一个子集是面向动作的,诸如提高智能家居环境的安全级别、锁门或解锁门、开灯或关灯、呼叫当局、提醒安全公司或与智能家居相关联的其他人员(例如邻居)、捕获访客的快照或视频片段(例如,并且将其发送给当局或将其存储在用户可访问的服务器系统上)和/或打开或关闭警报。在一些实施方式中,所呈现的快速动作列表包括至少一个基于通信的快速动作和至少一个面向动作的快速动作。在一些实施方式中,针对已知访客个性化快速动作的至少一个子集(例如,发送个性化的问候或指令、捎消息和/或询问密码)。在一些实施方式中,快速动作的至少一个子集特定于建筑物的类型(例如,住所、公寓楼、公寓建筑物和/或工作场所)。在一些实施方式中,快速动作的至少一个子集特定于智能家居用户的状况和/或性情,诸如智能家居用户是在家(例如,独自一人)还是不在家中,或者该用户当前是否没有感觉到安全(例如,一直受到威胁)。例如,如果智能家居用户当前感到不安全,则系统提供更多面向安全的动作,而如果智能家居用户感到安全,则系统提供更多基于问候的动作。
在一些实施方式中,电子问候系统包括请勿打扰模式,在此期间,提醒受到限制。在一些实施方式中,通过在房屋内使门铃声音效果静默(或减小其音量)来限制提醒,同时仍将提醒或其他通知发送到客户端设备。在一些实施方式中,与是否播放内部门铃声音无关,播放外部门铃声音以给访客已按门铃的反馈。在一些实施方式中,系统向用户提供视觉反馈(例如,在安装在门铃附近或与门铃集成的显示器上的旋转轮或预编程消息)。在一些实施方式中,通过使发送到客户端设备的提醒静音来限制提醒。在一些实施方式中,当处于请勿打扰模式时,电子问候系统(例如,通过助手)询问访客本次到访是否重要。如果重要,则系统向用户发送对应的提醒,并且可选地,停止限制提醒。如果不重要,则系统通告访客用户忙并且请求访客为用户留言。理解的是,如果与安全有关的场境信息使得这样做不谨慎,则系统将不会通告访客用户正忙或不在家里。在一些实施方式中,在确定用户正忙之后,电子问候系统捕获访客的图像或视频片段以向用户报告。在一些实施方式中,如果访客的面部没有在相机的视场中停留足够长的时间以捕获期望的图像或视频片段(例如,显示访客的面部的无遮挡的正面视图的图像或视频片段),则系统请求访客在门前停留一会儿(例如,直到系统有足够的时间来捕获图像或视频片段为止)。在一些实施方式中,当访客出现后用户使用电子问候系统时,系统向用户提供关于到访的报告。
在一些实施方式中,电子问候系统经由两个或更多个通信信道(例如,经由WiFi和蓝牙)选择性地耦合到智能家居环境。例如,当智能家居WiFi中断时,问候系统将切换到备用网络,诸如蓝牙。
在一些实施方式中,电子问候系统包括安装在门铃设备附近或与门铃设备集成的相机。附加地或替代地,电子问候系统包括安装在较高位置(例如5英尺、6英尺或8英尺高)的相机,以便更好地看到访客的面部。
在一些实施方式中,电子问候系统通过感测一系列敲击来检测敲门。在一些实施方式中,当检测到敲击时,系统适应于不同的门材料和/或类型(例如,木材、金属、前门、后门)。在一些实施方式中,当检测敲击时,系统适应于来自入口周围环境的环境噪声。在一些实施方式中,系统仅在确定访客正接近时才感测敲击。在一些实施方式中,在检测到敲击时,系统使门铃响起,向客户端设备发送对应的通知和/或捕获访客的图像或视频片段。
现在转到附图,图1是根据一些实施方式的示例性智能家居环境100。智能家居环境100包括具有各种集成设备的结构150(例如,住所、办公建筑物、车库或移动房屋)。将理解的是,设备也可以被集成到不包括整个结构150的智能家居环境100中,诸如公寓、公寓楼或办公室空间。此外,智能家居环境100可以控制和/或耦合到实际结构150外部的设备。实际上,智能家居环境100中的多个设备不需要物理上位于结构150内。例如,控制泳池加热器114或灌溉系统116的设备可以位于结构150的外部。
将被理解的是,“智能家居环境”可以是指代诸如单户住所的房屋的智能环境,但是本教导的范围不限于此。本教导还适用于但不限于联式房屋、联排别墅、多单元公寓建筑物、旅馆、零售店、办公建筑物、工业建筑物以及更常见的任何居住空间或工作空间。
还将被理解的是,尽管词语用户、客户、安装者、房物所有者、居住者、客人、租户、房东、维修人员等可以用来指代在本文所述的一些特定情况的场境中行动的一个或多个人员,但这些指代并不限制关于执行这种动作的一个或多个人员的本教导的范围。因此,例如,在单户居民住宅的情况下,词语用户、客户、购买者、安装者、订户和房物所有者可能经常指代同一人员,因为户主通常是做出购买决定、购买单元以及安装和配置单元的人员并且还是该单元的用户中的一个。但是,在其他场景下,诸如房东-租户环境,关于购买单元而言客户可能是房东,安装者可能是本地公寓监管员,第一用户可能是租户,关于远程控制功能而言第二用户可能又是房东。重要的是,尽管执行动作的人员的身份可能与实施方式中的一个或多个提供的特定优势密切相关,但在随后的描述中,这种身份不应当被解释为必然将本教导的范围限制到具有这些特定身份的特定个人。
所描绘的结构150包括多个房间152,其经由墙壁154至少部分地彼此分离。墙壁154可以包括内壁或外壁。每个房间可以进一步包括地板156和天花板158。设备可以安装在墙壁154、地板156或天花板158上、与墙壁154、地板156或天花板158集成和/或由墙壁154、地板156或天花板158支撑。
在一些实施方式中,智能家居环境100的集成设备包括在智能家居网络(例如,图2A 202)中彼此和/或与中央服务器或云计算系统无缝整合的智能化的、多感测的、联网的设备,以提供各种有用的智能家居功能。智能家居环境100可以包括:一个或多个智能化的、多感测的、联网的恒温器102(下文称为“智能恒温器102”);一个或多个智能化的、联网的、多感测的危险检测单元104(下文称为“智能危险检测器104”);一个或多个智能化的、多感测的、联网的入口接口设备106和120(下文称为“智能门铃106”和“智能门锁120”)以及一个或多个智能化的、多感测的、联网的警报系统122(下文称为“智能警报系统122”)。
在一些实施方式中,一个或多个智能恒温器102检测环境气候特性(例如,温度和/或湿度)并且相应地控制HVAC系统103。例如,相应的智能恒温器102包括环境温度传感器。
一个或多个智能危险检测器104可以包括指向相应的热源(例如,炉子、烤箱、其他家电、壁炉等)的热辐射传感器。例如,厨房153中的智能危险检测器104包括指向炉子/烤箱112的热辐射传感器。热辐射传感器可以确定其所指向的相应的热源(或其一部分)的温度并且可以将对应的黑体辐射数据提供为输出。
智能门铃106和/或智能门锁120可以检测人员接近或从位置(例如,外门)离开、控制门铃/锁门功能性(例如,从便携式电子设备166接收用户输入以致动智能门锁120的螺栓)、经由音频或视觉装置通告人员的接近或离开和/或控制安全系统上的设置(例如,当居住者离开和回来时激活或解除安全系统)。在一些实施方式中,智能门铃106包括相机118的组件和特征中的一些或所有。在一些实施方式中,智能门铃106包括相机118。在一些实施方式中,智能门铃106包括嵌入在门铃106中的相机118。在一些实施方式中,智能门铃106包括安装在门铃106上或附近的相机。在一些实施方式中,智能门铃106包括未安装在门铃中、门铃上或门铃附近而是安装在接近门铃106处的相机118。在一些实施方式中,智能门铃106包括两个或更多个相机118(例如,一个相机面向入口,并且另一个相机面向访客)。在一些实施方式中,智能门铃106具有与摄像机118分离的相机(在本文中有时也称为门铃相机106)。出于本公开的目的,对门铃106的视频相关引用是指代与门铃106相关联的一个或多个相机。
智能警报系统122可以检测极接近的个体的存在(例如,使用内置IR传感器),使警报发声(例如,通过内置扬声器或通过向一个或多个外部扬声器发送命令)并且向智能家居网络100内/外的实体或用户发送通知。在一些实施方式中,智能警报系统122还包括用于验证用户的身份的一个或多个输入设备或传感器(例如,小键盘、生物识别扫描仪、NFC收发器、麦克风)以及一个或多个输出设备(例如,显示器、扬声器)。在一些实施方式中,智能警报系统122还可以被设置为“布防”模式,使得除非执行撤防动作,否则对触发条件或事件的检测使警报被听见。
在一些实施方式中,智能家居环境100包括一个或多个智能化的、多感测的、联网的墙壁开关108(下文称为“智能墙壁开关108”)以及一个或多个智能化的、多感测的、联网的墙壁插座接口110(下文称为“智能墙壁插座110”)。智能墙壁开关108可以检测环境照明条件,检测房间占用状态并控制一个或多个灯的功率和/或调光状态。在一些情况下,智能墙壁开关108还可以控制诸如吊扇的风扇的功率状态或速度。智能墙壁插座110可以检测房间或封闭场地的占用并控制对一个或多个墙壁插座供电(例如,使得如果没有人在家,则不向插座供电)。
在一些实施方式中,图1的智能家居环境100包括多个智能化的、多感测的、联网的家电112(下文称为“智能家电112”),诸如冰箱、炉子、烤箱、电视、洗衣机、烘干机、灯、立体声音响、对讲机系统、车库门开启器、落地扇、吊扇、墙壁空调、游泳池加热器、灌溉系统、安全系统、空间加热器、窗户AC单元和电动管道通风口等。在一些实施方式中,当插入时,家电可以诸如通过指示家电的类型是什么来向智能家居网络告知自己,并且它可以自动地与智能家居的控件集成。可以通过有线或无线通信协议来促进家电到智能家居的这种通信。智能家居还可以包括各种非通信的传统家电140,诸如旧的传统洗衣机/烘干机、冰箱等,其可以由智能墙壁插座110控制。智能家居环境100可以进一步包括可以由智能危险检测器104或智能墙壁开关108提供的IR信号控制的多种部分地通信的传统家电142,诸如红外(“IR”)控制的墙壁空调或其他IR控制的设备。
在一些实施方式中,智能家居环境100包括被配置为在智能家居环境100中提供视频监控和安全的一个或多个联网的相机118。相机118可以被用来确定结构150和/或在结构150中的特定房间152的占用,因此可以充当占用传感器。例如,可以处理由相机118捕获的视频以识别结构150中(例如,特定房间152中)的居住者的存在。特定个体可以基于例如其外貌(例如,身高、面部)和/或移动(例如,其步行/步态)来被识别。相机118可以另外包括一个或多个传感器(例如,IR传感器、运动检测器)、输入设备(例如,用于捕获音频的麦克风)和输出设备(例如,用于输出音频的扬声器)。在一些实施方式中,相机118被分别配置为在白天模式和低光模式(例如,夜间模式)下操作。在一些实施方式中,相机118均包括一个或多个IR照明器,以用于在相机在低光模式下操作时提供照明。在一些实施方式中,相机118包括一个或多个室外相机。在一些实施方式中,室外相机包括附加特征和/或组件,诸如防风雨和/或太阳光线补偿。
在一些实施方式中,智能家居环境100包括被配置为在智能家居环境100的入口附近提供视频监控和安全的一个或多个联网的门铃106。门铃106可选地用于确定访客的接近和/或存在。特定个体基于例如其外貌(例如,身高、面部)和/或移动(例如,其步行/步态)来被可选地识别。门铃106可选地包括一个或多个传感器(例如,IR传感器、运动检测器)、输入设备(例如,用于捕获音频的麦克风)和输出设备(例如,用于输出音频的扬声器)。在一些实施方式中,门铃106被配置为在高光模式(例如,白天模式)和低光模式(例如,夜间模式)下操作。在一些实施方式中,门铃106包括一个或多个IR照明器,以用于在相机在低光模式下操作时提供照明。在一些实施方式中,门铃106包括一个或多个灯(例如,一个或多个LED),以用于在低光条件下照亮门铃和/或给访客视觉反馈。在一些实施方式中,门铃106包括附加的特征和/或组件,诸如防风雨和/或太阳光线补偿。在一些实施方式中,门铃106是电池供电的并且以低功率或高功率模式运行。在一些实施方式中,在低功率模式下,门铃106使用诸如一直接通或周期性接通的PIR传感器的低功率传感器来检测接近的访客。在一些实施方式中,在检测到访客接近之后,门铃106切换到高功率模式以执行进一步的处理功能(如下所述)。
在一些实施方式中,智能家居环境100可以附加地或替代地包括一个或多个其他占用传感器(例如,智能门铃106、智能门锁120、触摸屏、IR传感器、麦克风、环境光传感器、运动检测器、智能夜灯170等)。在一些实施方式中,智能家居环境100(例如,在每个房间152或其一部分中)包括基于位于或嵌入居住者中的RFID标签来确定占用的射频识别(RFID)读取器。例如,RFID读取器可以被集成到智能危险检测器104中。
在一些实施方式中,智能家居环境100可以包括在实际房屋之外但在房屋的邻近地理范围内的一个或多个设备。例如,智能家居环境100可以包括将当前泳池温度传送到智能家居环境100内的其他设备和/或接收用于控制泳池温度的命令的泳池加热器监控器114。类似地,智能家居环境100可以包括传送关于智能家居环境100内的灌溉系统的信息和/或接收用于控制这种灌溉系统的控制信息的灌溉监控器116。
借助于网络连接性,图1的智能家居设备中的一个或多个可以进一步允许用户与设备交互,即使用户不接近设备。例如,用户可以使用计算机(例如,台式计算机、手提计算机或平板电脑)或其他便携式电子设备166(例如,诸如智能电话的移动电话)与设备通信。网页或应用可以被配置为从用户接收通信并且基于通信控制设备和/或向用户呈现关于设备的操作的信息。例如,用户可以查看设备(例如,炉子)的当前设定点温度并且使用计算机对其进行调整。用户可能在该远程通信期间处于结构中或结构外。
如上所述,用户可以使用联网的计算机或便携式电子设备166来控制智能家居环境100中的智能设备。在一些示例中,居住者(例如,住在家中的个人)中的一些或所有可以向智能家居环境100注册他们的设备166。这样的注册可以在中央服务器处进行以将居住者和/或设备认证为与房屋相关联,并且许可居住者使用该设备来控制家中的智能设备。居住者可以使用他们的经注册的设备166来远程控制房屋中的智能设备,诸如当居住者在工作或度假时。当居住者实际位于房屋中时,诸如当居住者坐在房屋中的沙发上时,居住者还可以使用他们的经注册的设备来控制智能设备。应被理解的是,取代或除了注册设备166之外,智能家居环境100可以推断出哪些个人居住在房屋中并且因此是居住者以及哪些设备166与那些个人相关联。这样,智能家居环境可以“学习”谁是居住者并且允许与那些个人相关联的设备166来控制家中的智能设备。
在一些实施方式中,除了包含处理和感测能力之外,设备102、104、106、108、110、112、114、116、118、120和/或122(统称为“智能设备”)能够与其他智能设备、中央服务器或云计算系统和/或联网的其他设备进行数据通信和信息共享。可以使用各种定制或标准无线协议(例如,IEEE 802.15.4、Wi-Fi、ZigBee、6L0WPAN、Thread、Z-Wave、Bluetooth Smart、ISA100.5A、WirelessHART、MiWi等)中的任何一个和/或各种定制或标准有线协议(例如,以太网、HomePlug等)中的任何一个或包括在本文件的提交日期时还未开发的通信协议的任何其他合适的通信协议来执行数据通信。
在一些实施方式中,智能设备用作无线或有线中继器。在一些实施方式中,智能设备中的第一个经由无线路由器与智能设备中的第二个通信。智能设备可以进一步经由到诸如互联网162的网络的连接(例如,网络接口160)彼此通信。通过互联网162,智能设备可以与服务器系统164(本文也称为中央服务器系统和/或云计算系统)通信。服务器系统164可以与和智能设备相关联的制造商、支持实体或服务提供商相关联。在一些实施方式中,用户能够使用智能设备本身联系客户支持,而不是需要使用其他通信装置,诸如电话或连接互联网的计算机。在一些实施方式中,软件更新(例如,当可用时、当被购买时或以例行间隔)被自动地从服务器系统164发送到智能设备。
在一些实施方式中,网络接口160包括传统网络设备(例如,路由器),并且图1的智能家居环境100包括直接或者经由网络接口160通信地耦合到网络162的集线器设备180。集线器设备180进一步通信地耦合到上述智能化的、多感测的、联网的设备(例如,智能家居环境100的智能设备)中的一个或多个。这些智能设备中的每一个可选地使用至少在智能家居环境100中可用的一个或多个无线电通信网络(例如,ZigBee、Z-Wave、Insteon、蓝牙、Wi-Fi和其他无线电通信网络)与集线器设备180通信。在一些实施方式中,可以经由在智能电话、家庭控制器、手提电脑、平板计算机、游戏机或类似的电子设备上运行的应用来控制集线器设备180和与集线器耦合的设备/耦合到集线器的设备和/或与集线器设备180和与集线器耦合的设备/耦合到集线器的设备交互。在一些实施方式中,这类控制器应用的用户可以查看集线器设备或耦合的智能设备的状态、配置集线器设备以与新引入到家庭网络的智能设备互操作、调试新的智能设备以及调整或查看连接的智能设备的设置等。在一些实施方式中,集线器设备扩展了低性能智能设备的性能以匹配相同类型的高性能智能设备的性能,集成了多种不同设备类型的功能性——甚至跨不同的通信协议,并且被配置为简化新设备的添加和集线器设备的调试。在一些实施方式中,集线器设备180进一步包括本地存储设备,以用于存储与智能家居环境100的智能设备相关或由其输出的数据。在一些实施方式中,数据包括以下中的一个或多个:由相机设备输出的视频数据、由智能设备输出的元数据、智能设备的设置信息和智能设备的使用日志等。
在一些实施方式中,智能家居环境100包括本地存储设备190,以用于存储与智能家居环境100的智能设备相关或由智能家居环境100的智能设备输出的数据。在一些实施方式中,数据包括以下中的一个或多个:由相机设备(例如,包括在门铃106中的相机)输出的视频数据、由智能设备输出的元数据、智能设备的设置信息和智能设备的使用日志等。在一些实施方式中,本地存储设备190经由智能家居网络(例如,图2A,智能家居网络202)通信地耦合到一个或多个智能设备。在一些实施方式中,本地存储设备190经由有线和/或无线通信网络选择性地耦合到一个或多个智能设备。在一些实施方式中,本地存储设备190被用来在外部网络条件差时存储视频数据。例如,当包括在门铃106中的相机的编码比特率超过外部网络(例如,网络162)的可用带宽时,使用本地存储设备190。在一些实施方式中,本地存储设备190在将视频数据传递到服务器系统(例如,服务器系统164)之前,临时存储来自一个或多个门铃(例如,门铃106)的视频数据。
图2A是示出根据一些实施方式的包括智能家居网络202的代表性网络架构200的框图。在一些实施方式中,智能家居环境100中的智能设备204(例如,设备102、104、106、108、110、112、114、116、118、120和/或122)与集线器设备180组合以在智能家居网络202中创建网状网络。在一些实施方式中,智能家居网络202中的一个或多个智能设备204作为智能家居控制器操作。附加地和/或替代地,集线器设备180作为智能家居控制器操作。在一些实施方式中,智能家居控制器具有比其他智能设备更大的计算能力。在一些实施方式中,智能家居控制器处理(例如,来自智能设备204、电子设备166和/或服务器系统164的)输入并且(例如,向智能家居网络202中的智能设备204)发送命令以控制智能家居环境100的操作。在一些实施方式中,智能家居网络202中(例如,网状网络)中的智能设备204中的一些是“发言人(spokesman)”节点(例如,204-1),而其他智能设备是“低功率”节点(例如,204-9)。智能家居环境100中的智能设备中的一些是电池供电的,而其他智能设备诸如通过连接到智能家居环境的墙壁154后面的布线(例如,连接到120V线电压线路)而具有稳定且可靠的电源。具有稳定且可靠的电源的智能设备被称为“发言人”节点。这些节点通常被配备有使用无线协议来促进与智能家居环境100中的各种其他设备以及与服务器系统164的双向性通信的性能。在一些实施方式中,一个或多个“发言人”节点作为智能家居控制器操作。另一方面,电池供电的设备是“低功率”节点。这些节点往往比发言人节点小并且通常仅使用诸如Zigbee、ZWave、6LoWPAN、Thread、蓝牙等的需要非常小的功率的无线协议进行通信。
在一些实施方式中,一些低功率节点不能双向通信。这些低功率节点发送消息,但它们无法“收听”。因此,智能家居环境100中的诸如发言人节点的其他设备不能向这些低功率节点发送信息。
在一些实施方式中,一些低功率节点仅能够进行受限的双向通信。例如,其他设备只能在特定时间段期间与低功率节点通信。
如所描述的,在一些实施方式中,智能设备用作低功率和发言人节点以在智能家居环境100中创建网状网络。在一些实施方式中,智能家居环境中的各个低功率节点定期发出关于它们在感测什么的消息,并且智能家居环境中的其他低功率节点——除了发出它们自己的消息之外——还转发消息,从而使消息在整个智能家居网络202中从节点向节点(即,从设备向设备)传播。在一些实施方式中,智能家居网络202中的能够使用诸如IEEE802.11的相对高功率的通信协议通信的发言人节点能够切换到诸如IEEE 802.15.4的相对低功率的通信协议以接收这些消息,将消息转变为其他通信协议并且(使用例如相对高功率的通信协议)将经转变的消息发送到其他发言人节点和/或服务器系统164。因此,使用低功率通信协议的低功率节点能够在整个智能家居网络202上以及通过互联网162向服务器系统164发送和/或接收消息。在一些实施方式中,网状网络使得服务器系统164能够定期从房屋中的智能设备中的大多数或所有接收数据,基于数据做出推断,促进智能家居网络202内和外部的设备之间的状态同步以及向智能设备中的一个或多个发送命令以在智能家居环境中执行任务。
如所描述的,发言人节点和低功率节点中的一些能够“收听”。因此,用户、其他设备和/或服务器系统164可以将控制命令传送到低功率节点。例如,用户可以使用电子设备166(例如,智能电话)来通过互联网向服务器系统164发送命令,然后服务器系统164将该命令中继到智能家居网络202中的一个或多个发言人节点。发言人节点可以使用低功率协议来将该命令传送到整个智能家居网络202中的低功率节点以及传送到未直接从服务器系统164接收命令的其他发言人节点。
在一些实施方式中,作为智能设备204的示例的智能夜灯170(图1)是低功率节点。除了容纳光源之外,智能夜灯170还容纳占用传感器以及环境光传感器,该占用传感器诸如超声波或无源IR传感器,该环境光传感器诸如测量房间中的光的光敏电阻器或单像素传感器。在一些实施方式中,智能夜灯170被配置为当其环境光传感器检测到房间暗时并且当其占用传感器检测到有人在房间中时激活光源。在其他实施方式中,智能夜灯170被简单地配置为当其环境光传感器检测到房间暗时激活光源。此外,在一些实施方式中,智能夜灯170包括低功率无线通信芯片(例如,ZigBee芯片),该低功率无线通信芯片定期发出包括与占用传感器检测房间中的人员的存在同时发生的即时消息的关于房间的占用和房间中的光量的消息。如上所述,这些消息可以在智能家居网络202内从节点到节点(即,从智能设备到智能设备)被无线地(例如,使用网状网络)发送以及通过互联网162被发送到服务器系统164。
低功率节点的其他示例包括智能危险检测器104的电池运转的版本。这些智能危险检测器104通常位于不能获得恒定和可靠电力的区域中并且可以包括任何数量和类型的传感器,诸如烟/火/热传感器(例如,热辐射传感器)、一氧化碳/二氧化碳传感器、占用/运动传感器、环境光传感器、环境温度传感器和湿度传感器等。此外,智能危险检测器104可以诸如通过使用如上所述的网状网络,将对应于相应传感器的每一个的消息发送到其他设备和/或服务器系统164。
发言人节点的示例包括智能门铃106、智能恒温器102、智能墙壁开关108和智能墙壁插座110。这些设备通常位于可靠电源附近并与该可靠电源连接,并且因此可以包括更多的耗电的组件,诸如能够以各种协议进行双向通信的一个或多个通信芯片。
在一些实施方式中,智能家居环境100包括服务机器人168(图1),其被配置为以自主方式执行各种家庭任务中的任何一个。
如上参考图1所解释的,在一些实施方式中,图1的智能家居环境100包括被直接或经由网络接口160通信地耦合到网络162的集线器设备180。集线器设备180使用至少在智能家居环境100中可用的无线电通信网络被进一步可通信地耦合到智能设备中的一个或多个。无线电通信网络使用的通信协议包括但不限于ZigBee、Z-Wave、Insteon、EuOcean、Thread、OSIAN、蓝牙低功耗等。在一些实施方式中,集线器设备180不仅转换从每个智能设备接收的数据以满足网络接口160或网络162的数据格式要求,而且还转换从网络接口160或网络162接收的信息以满足与目标智能设备相关联的相应通信协议的数据格式要求。在一些实施方式中,除了数据格式转换之外,集线器设备180进一步处理初步从智能设备接收的数据或从网络接口160或网络162接收的信息。例如,集线器设备180可以整合来自多个传感器/连接的设备(包括相同和/或不同类型的传感器/设备)的输入,对这些输入执行更高级别的处理——例如,以评估整体环境并协调不同的传感器/设备之间的操作——和/或基于输入的集合和编程处理向不同设备提供指令。还注意到的是,在一些实施方式中,网络接口160和集线器设备180被集成到一个网络设备。本文描述的功能性表示智能设备、在代表性电子设备(诸如智能电话)上运行的控制应用、集线器设备180和经由互联网或其他广域网耦合到集线器设备的服务器的特定实施方式。该功能性和相关操作的全部或一部分可以由所述系统的任何元件执行——例如,可以在不同系统实施方式中、全部或部分地在服务器、一个或多个连接的智能设备和/或控制应用上或其不同组合上执行本文描述为由集线器设备的实施方式执行的全部或部分功能。
图2B示出了在其中服务器系统164提供数据处理以监控和促进检查由摄像机118或门铃相机106捕获的视频流中的事件(例如,运动、音频、安全等)的代表性操作环境。如图2B所示,服务器系统164从位于各个物理位置(例如,房屋内或附近、饭店、商店、街道、停车场和/或图1的智能家居环境100)的视频源222(包括相机118或门铃相机106)接收视频数据。每个视频源222可以被绑定到一个或多个检查者账户,并且服务器系统164将视频源222的视频监控数据提供给与检查者账户相关联的客户端设备220。例如,便携式电子设备166是客户端设备220的示例。在一些实施方式中,服务器系统164是向视频源和客户端设备220提供视频处理服务的视频处理服务器。
在一些实施方式中,视频源222中的每一个包括捕获视频并且将所捕获的视频基本上实时地发送到服务器系统164的一个或多个摄像机118或门铃相机106。在一些实施方式中,视频源222中的每一个包括捕获视频并且将所捕获的视频实时地(例如,在1秒、10秒、30秒或1分钟内)发送到服务器系统164的一个或多个门铃相机106。在一些实施方式中,门铃106中的每一个包括捕获视频并且将所捕获的视频实时发送到服务器系统164的摄像机。在一些实施方式中,视频源222包括用作一个或多个门铃106与服务器系统164之间的中介的控制器设备(未示出)。控制器设备从一个或多个门铃106接收视频数据、可选地对视频数据执行一些初步处理并且代表一个或多个门铃106(例如,实时地)将视频数据和/或初步处理的结果发送到服务器系统164。在一些实施方式中,每个相机具有其自己的板上处理能力以在将视频数据(例如,连同通过初步处理获取的元数据)发送到控制器设备和/或服务器系统164之前,对所捕获的视频数据执行一些初步处理。
根据一些实施方式,客户端设备220包括客户端侧模块,诸如图6中的客户端侧模块628。在一些实施方式中,客户端侧模块通过一个或多个网络162与在服务器系统164上执行的服务器侧模块通信。客户端侧模块提供用于事件监控和检查处理以及与服务器侧模块进行通信的客户端侧功能性。服务器侧模块为均存在于相应客户端设备220上的任何数量的客户端侧模块提供用于事件监控和检查处理的服务器侧功能性。服务器侧模块还为包括任何数量的控制设备、相机118和门铃106的任何数量的视频源222提供用于视频处理和相机控制的服务器侧功能。
在一些实施方式中,服务器系统164包括一个或多个处理器212、视频存储数据库210、账户数据库214、到一个或多个客户端设备216的I/O接口以及到一个或多个视频源218的I/O接口。到一个或多个客户端216的I/O接口促进面向客户端的输入和输出处理。账户数据库214存储向视频处理服务器注册的检查者账户的多个简档,其中相应的用户简档包括相应检查者账户的账户凭证以及链接到相应检查者账户的一个或多个视频源。到一个或多个视频源218的I/O接口促进与一个或多个视频源222(例如,一个或多个门铃106、相机118和相关联的控制器设备的组)的通信。视频存储数据库210存储从视频源222接收的原始视频数据以及各种类型的元数据,诸如运动事件、事件类别、事件类别模型、事件过滤器和事件掩码,以用在对于事件监控和每个检查者账户的检查的数据处理中。
代表性客户端设备220的示例包括手持式计算机、可穿戴计算设备、个人数字助理(PDA)、平板计算机、手提计算机、台式计算机、蜂窝电话、智能电话、增强型通用分组无线电服务(EGPRS)移动电话、媒体播放器、导航设备、游戏机、电视、遥控器、销售点(POS)终端、车载计算机、电子书阅读器或这些数据处理设备或其他数据处理设备中的任何两个或更多个的组合。
一个或多个网络162的示例包括局域网(LAN)和诸如互联网的广域网(WAN)。使用任何已知的网络协议来实现一个或多个网络162,该网络协议包括各种有线或无线协议,诸如以太网、通用串行总线(USB)、FIREWIRE、长期演进(LTE)、全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、Wi-Fi、网际协议语音(VoIP)、Wi-MAX或任何其他合适的通信协议。
在一些实施方式中,在一个或多个独立数据处理装置或分布式计算机网络上实现服务器系统164。在一些实施方式中,服务器系统164还采用第三方服务提供商(例如,第三方云服务提供商)的各种虚拟设备和/或服务来提供服务器系统164的底层计算资源和/或基础设施资源。在一些实施方式中,服务器系统164包括但不限于服务器计算机、手持计算机、平板计算机、手提计算机、台式计算机或这些数据处理设备或其他数据处理设备中的任何两个或更多个的组合。
图2B所示的服务器-客户端环境包括客户端侧部分(例如,客户端侧模块)和服务器侧部分(例如,服务器侧模块)。操作环境的客户端和服务器部分之间的功能性的划分可以在不同的实施方式中变化。类似地,视频源222和服务器系统164之间的功能性的划分可以在不同的实施方式中变化。例如,在一些实施方式中,客户端侧模块是仅提供面向用户的输入和输出处理功能并且将所有其他数据处理功能性委托给后端服务器(例如,服务器系统164)的瘦客户端。类似地,在一些实施方式中,视频源222中的相应一个是简单的视频捕获设备,该简单的视频捕获设备在受限的或没有对视频数据的本地初步处理的情况下连续地捕获视频数据并将该视频数据流式传输到服务器系统164。尽管从服务器系统164的角度描述了本技术的许多方面,但是由客户端设备220和/或视频源222执行的对应动作对于本领域技术人员而言将是显而易见的。类似地,可以从客户端设备或视频源的角度描述本技术的一些方面,并且由视频服务器执行的对应动作对于本领域技术人员而言将是显而易见的。此外,本技术的一些方面可以由服务器系统164、客户端设备220和视频源222协作地执行。
在一些实施方式中,视频源222(例如,相机118或具有图像传感器的门铃106)将视频数据的一个或多个流传输到服务器系统164。在一些实施方式中,一个或多个流包括由图像传感器捕获的原始视频的具有相应分辨率和/或帧率的多个流。在一些实施方式中,多个流包括对应于由图像传感器捕获的原始视频的具有某一分辨率和帧率的“主”流(例如226-1)以及一个或多个附加流(例如226-2至226-q)。附加流可选地是与“主”流相同但是处于不同的分辨率和/或帧率的视频流,或者是处于与“主”流相同或不同的分辨率和/或帧率的捕获“主”流的一部分的流(例如,被裁剪以包括主流的视场或像素的一部分)。
在一些实施方式中,流226中的一个或多个从视频源222被直接发送到客户端设备220(例如,无需被路由到服务器系统164或由服务器系统164处理)。在一些实施方式中,流中的一个或多个被存储在门铃106(例如,在图4的存储器406中)和/或诸如数字视频录像机(DVR)的本地存储设备(例如,专用记录设备)处。例如,根据一些实施方式,门铃106存储由相机记录的最近24小时的视频镜头(footage)。在一些实施方式中,一个或多个流的部分(例如,对应于感兴趣的特定事件或时间的部分)被存储在门铃106和/或本地存储设备处。
在一些实施方式中,服务器系统164将视频数据的一个或多个流传输到客户端设备220,以促进由用户进行的事件监控。在一些实施方式中,一个或多个流可以包括相同视频馈送的具有相应分辨率和/或帧率的多个流。如在美国专利申请No.15/594,518中所更详细地描述的,在一些实施方式中,多个流包括对应于视频馈送的具有某一分辨率和帧率的“主”流以及一个或多个附加流。附加流可以是与“主”流相同但处于不同的分辨率和/或帧率的视频流,或者是处于与“主”流相同或不同的分辨率和/或帧率的显示“主”流的一部分的流(例如,被裁剪为包括主流的视场或像素的一部分)。
图3A是示出根据一些实施方式的服务器系统164的框图。服务器系统164通常包括一个或多个处理单元(CPU)302、一个或多个网络接口304(例如,包括到一个或多个客户端设备的I/O接口和到一个或多个电子设备的I/O接口)、存储器306和用于互连这些组件(有时称为芯片组)的一个或多个通信总线308。存储器306包括高速随机存取存储器,诸如DRAM、SRAM、DDR SRAM或其他随机存取固态存储器设备;以及可选地包括非易失性存储器,诸如一个或多个磁盘存储设备、一个或多个光盘存储设备、一个或多个闪存设备或一个或多个其他非易失性固态存储设备。存储器306可选地包括远离一个或多个处理单元302的一个或多个存储设备。存储器306或替选地存储器306内的非易失性存储器包括非瞬时性计算机可读存储介质。在一些实施方式中,存储器306或存储器306的非瞬时性计算机可读存储介质存储以下程序、模块和数据结构或其子集或超集:
●操作系统310,该操作系统310包括用于处置各种基本系统服务和用于执行依赖于硬件的任务的过程;
●网络通信模块312,该网络通信模块312用于经由一个或多个网络接口304(有线或无线)将服务器系统164连接到其他系统和设备(例如,客户端设备、电子设备以及连接到一个或多个网络162的系统);
●服务器侧模块314,该服务器侧模块314提供用于设备控制、数据处理和数据检查的服务器侧功能性,该服务器侧模块314包括但不限于:
○数据接收模块3140,该数据接收模块3140用于从电子设备接收数据(例如,来自图1门铃106的视频数据),并且准备所接收的数据以供进一步处理和存储在数据存储数据库3160中;
○集线器和设备控制模块3142,该集线器和设备控制模块3142用于生成和发送服务器发起的控制命令以修改电子设备(例如,智能家居环境100的设备)的操作模式,和/或(例如,从客户端设备220)接收并且转发用户发起的控制命令以修改电子设备的操作模式;
○数据处理模块3144,该数据处理模块3144用于处理由电子设备提供的数据,和/或准备和向设备发送经处理的数据以用于检查(例如向客户端设备220发送经处理的数据以用于由用户检查),该数据处理模块3144包括但不限于:
■视频处理器子模块3146,该视频处理器子模块3146用于处理(例如,分类和/或辨识)所接收的视频流(例如,来自门铃106的视频流)内的检测到的实体和/或事件候选;以及
■用户接口子模块3150,该用户接口子模块3150用于与用户通信(例如,发送提醒、时间轴事件等,以及接收用户编辑和区域限定等);以及
●服务器数据库316,包括但不限于:
○数据存储数据库3160,该数据存储数据库3160用于存储与每个用户账户的每个电子设备(例如,每个门铃)相关联的数据,以及数据处理模型、经处理的数据结果和与数据相关联的其他相关元数据(例如,数据结果的名称、电子设备的位置、创建时间、持续时间、电子设备的设置等),其中(可选地)与集线器设备180或智能设备相关联的数据和/或处理的所有或部分被安全地存储;
○账户数据库3162,该账户数据库3162用于存储用户账户的账户信息,包括诸如用户简档3163的用户账户信息、链接的集线器设备和电子设备的信息和设置(例如集线器设备标识)、集线器设备特定机密、相关的用户和硬件特性(例如,服务层、设备型号、存储容量、处理性能等)、用户界面设置、数据检查偏好等,其中相关联的电子设备的信息包括但不限于一个或多个设备标识符(例如,MAC地址和UUID)、设备特定机密和显示的标题;
○设备信息数据库3164,该设备信息数据库3164用于存储诸如设备简档3165的与一个或多个设备有关的设备信息,例如,在与对应的集线器设备是否已经与任何用户账户相关联无关的情况下,设备标识符和集线器设备特定机密;
○事件信息数据库3166,该事件信息数据库3166用于存储诸如场境信息31686的事件信息,例如,描述接近的访客周围的环境的场境数据;以及
○人员数据库3180,用于存储关于检测到的和/或所辨识的人员的信息,诸如检测到的人员的图像(例如,经裁剪的头部特写)3182和人员的特征表征数据3184。
上述所标识的元件中的每一个可以被存储在前面提及的存储器设备中的一个或多个中并且对应于用于执行上述功能的指令集。上文标识的模块或程序(即,指令集)不需要被实现为单独的软件程序、过程或模块,并且因此这些模块的各种子集可以在各种实施方式中被组合或以其他方式重新布置。在一些实施方式中,存储器306可选地存储以上标识的模块和数据结构的子集。此外,存储器306可选地存储上述未描述的附加模块和数据结构。
图3B示出了由一些实施方式所使用的各种数据结构,包括事件记录3168-i、用户简档3163-j、设备简档3165-k以及表征数据3184-m。事件记录3168-i对应于事件“i”和事件“i”的数据。在一些实施方式中,事件“i”包括以下中的一个或多个:运动事件、危险事件、音频事件和安全事件。在一些情况下,运动事件“i”的数据包括指示事件何时和/或如何开始的事件开始数据31681、事件分段数据31682、原始视频数据31683、指示事件何时和/或如何结束的事件结束数据31684、事件特征数据31685、场境信息数据31686、关联用户信息31687和关联设备信息31688。在一些情况下,事件记录3168-i仅包括上述数据的子集。在一些情况下,事件记录3168-i包括未显示的附加事件数据,诸如关于事件/运动掩码的数据。
事件开始数据31681包括诸如时间戳的日期和时间信息以及可选地包括附加信息,诸如关于存在的运动的量的信息、运动开始位置、存在的音频的量、音频的特性等。类似地,事件结束数据31684包括诸如时间戳的日期和时间信息以及可选地包括附加信息,诸如关于存在的运动的量的信息、运动开始位置、存在的音频的量、音频特性等。
事件分段31682包括关于运动事件“i”的分割的信息。在一些情况下,事件分段与原始视频数据31683分离地存储。在一些情况下,事件分段以比原始视频数据更低的显示分辨率存储。例如,事件分段可选地以480p或780p存储并且原始视频数据以1080i或1080p存储。以较低的显示分辨率存储事件分段使得系统将较少的时间和资源用于检索和处理事件分段。在一些情况下,事件分段不被分离地存储并且分割信息包括对原始视频数据31683的引用以及日期和时间信息以用于再现事件分段。在一些实施方式中,事件分段包括一个或多个音频分段(例如,对应于视频分段)。
事件特征数据31685包括关于事件特征的信息,诸如事件分类/归类、对象掩码、运动掩码、所识别/所辨识/所跟踪的运动对象(有时也称为斑点(blob))、关于运动对象的特征的信息(例如,对象颜色、对象尺寸、速度、大小变化等)、关于兴趣区域中的活动的信息等。
场境信息数据31686包括关于事件的场境信息,诸如关于访客的信息(例如,行为、服装或大小特性)、关于接近计时的信息(例如,一天中的时间、亮度级别)、关于访客告知的信息(例如,按门铃、敲击及其相关联的计时)、关于日程安排的信息(例如,与已排程事件的时间接近度或与智能家居环境的预排程的状态的时间接近度)、关于一个或多个用户的状态或位置的信息等。
关联用户信息31687包括关于与事件相关联的用户的信息,该用户诸如事件中所识别的用户、接收事件的通知的用户等。在一些情况下,关联用户信息31687包括到用户的用户简档3163的链接、指针或引用。关联设备信息31688包括关于事件中涉及的一个或多个设备(例如,记录事件的门铃106)的信息。在一些情况下,关联设备信息31688包括对设备的设备简档3165的链接、指针或引用。
用户简档3163-j对应于与智能家居网络(例如,智能家居网络202)相关联的用户'j',诸如集线器设备204的用户、由集线器设备204识别的用户、从集线器设备204或从服务器系统164接收通知的用户等。在一些情况下,用户简档3163-j包括用户偏好31631、用户设置31632,关联设备信息31633和关联事件信息31634。在一些情况下,用户简档3163-j仅包括上述数据的子集。在一些情况下,用户简档3163-j包括未示出的附加用户信息,诸如关于与用户“j”相关联的其他用户的信息。
用户偏好31631包括由用户输入的显式用户偏好以及由系统(例如,服务器系统164和/或客户端设备220)确定的隐式和/或推断的用户偏好。在一些情况下,推断的用户偏好基于历史用户活动和/或其他用户的历史活动。用户设置31632包括关于由用户“j”设定的设置的信息,诸如通知设置、设备设置等。在一些情况下,用户设置31632包括与用户“j”相关联的设备的设备设置。
关联设备信息31633包括关于与用户'j'相关联的设备的信息,该设备诸如用户的智能家居环境100内的设备和/或客户端设备220。在一些情况下,关联设备信息31633包括到对应的设备简档3165的链接、指针或引用。关联事件信息31634包括关于与用户'j'相关联的事件的信息,该事件诸如用户'j'在其中被识别的事件、通知用户i的事件、对应于用户“j”的智能家居环境的事件等。在一些情况下,关联事件信息31634包括到对应的事件记录3168的链接、指针或引用。
设备简档3165-k对应于与智能家居网络(例如,智能家居网络202)相关联的设备“k”,诸如集线器设备204、门铃106、客户端设备220等。在一些情况下,设备简档3165-k包括设备设置31651、关联设备信息31652、关联用户信息31653、关联事件信息31654和环境数据31655。在一些情况下,设备简档3165-k仅包括上述数据的子集。在一些情况下,设备简档3165-k包括未示出的附加设备信息,诸如关于设备“k”当前是否活跃的信息。
设备设置31651包括关于设备“k”的当前设置的信息,诸如定位信息、操作模式信息等。在一些情况下,设备设置31651是用户特定的并且由设备“k”的相应用户设置。关联设备信息31652包括关于与设备“k”相关联的其他设备的信息,该其他设备诸如链接到设备i的其他设备和/或在与设备“k”相同的智能家居网络中的其他设备。在一些情况下,关联设备信息31652包括到与关联设备相对应的相应设备简档3165的链接、指针或引用。
关联用户信息31653包括关于与设备相关联的用户的信息,该用户诸如从设备接收通知的用户、向设备注册的用户、与设备的智能家居网络相关联的用户等。在一些情况下,相关联用户信息31653包括到与关联用户相对应的用户简档3163的链接、指针或引用。
关联事件信息31654包括关于与设备“k”相关联的事件的信息,该事件诸如涉及设备“k”的历史事件。在一些情况下,关联事件信息31654包括到与关联事件相对应的事件记录3168的链接、指针或引用。
环境数据31655包括关于设备'k'的环境的信息,诸如关于设备是在室外还是在室内的信息、关于环境的光级别的信息、关于环境中预期的活动量的信息(例如,关于设备是在私人住宅还是繁忙的商业地产中的信息)、关于环境对象的信息(例如,相机的深度映射信息)等。
表征数据3184-m对应于在智能家居环境100中检测到的人员“m”。在一些实施方式中,删除被指明为陌生人的人员的表征数据。在一些实施方式中,针对不同意使其个人可识别信息被存储的人员,删除表征数据。如图3B所示,根据一些实施方式,表征数据3184包括关联人员标识符31841、关联图像标识符31842、品质信息31843、姿态信息31844、计时信息31845、置信度信息31846、位置信息31847、身体特征信息31848和行为信息31849。在一些实施方式中,表征数据3184包括未示出的附加数据。在一些实施方式中,表征数据3184仅包括所示数据的子集。
关联人员标识符31841包括由表征数据表示的人员的标签或其他标识符。在一些实施方式中,标签是由用户在检查对应的图像时施加的。在一些实施方式中,标识符31841由系统根据确定表征数据3184匹配或类似于与该标识符相关联的其他表征数据来被指派。
关联图像标识符31842识别根据其生成表征数据3184的一个或多个图像。在一些实施方式中,表征数据和图像之间存在一对一映射,而在一些其他实施方式中,存在多对一或一对多映射。在一些实施方式中,关联图像标识符31842包括一个或多个图像的指针或逻辑存储地址。
品质信息31843包括表征数据3184的品质因数。在一些实施方式中,品质因数基于以下中的一个或多个:图像的模糊性、图像的分辨率、图像中可见的人员的数量、有多少人员的特征在图像中可见以及人员与捕获图像的相机之间的距离。
姿态信息31844识别检测到的人员的姿态。在一些实施方式中,姿态信息31844包括关于捕获图像的相机与检测到的人员之间的角度的信息。在一些实施方式中,姿态信息31844包括关于在图像中可见的人员的面部的一部分的信息。
计时信息31845包括关于图像何时被相机捕获的信息。在一些实施方式中,计时信息31845指示图像被捕获的一天中的时间、天、月、年等。在一些实施方式中,表征数据3184包括指示相机的操作模式和设置的相机的操作信息(例如,指示当图像被捕获时相机是否处于低光模式)。在一些实施方式中,计时信息31845与相机的设备简档3165结合使用以确定在图像被捕获时相机的操作信息。
置信度信息31846指示关联人员标识符31841正确的置信度。在一些实施方式中,置信度信息31846基于表征数据3184与关联人员的其他表征数据之间的相似性。在一些实施方式中,置信度信息31846包括表征数据3184的置信度得分。在一些实施方式中,根据确定置信度得分低于预确定阈值,重新评估与人员的关联性和/或表征数据3184和关联图像被标记为可能具有不正确的关联人员标识符31841。在一些实施方式中,将被标记的表征数据3184呈现给用户以用于确认或重新归类。
位置信息31847包括关于图像和/或检测到的人员的位置的信息。在一些实施方式中,位置信息31847指示捕获图像的相机的位置。在一些实施方式中,位置信息31847识别捕获图像的相机。在一些实施方式中,位置信息31847指示在图像中被捕获的智能家居环境的房间或一部分。在一些实施方式中,位置信息31847指示图像的GPS或基于坐标的位置。
身体特征信息31848包括关于检测到的人员的身体特征的信息。在一些实施方式中,身体特征信息31848包括人员的身体特征(例如,鼻子、耳朵、眼睛和头发)的表征。在一些实施方式中,身体特征信息31848包括关于人员的话音、步态和/或姿势的信息。在一些实施方式中,身体特征信息31848包括关于人员的尺寸的信息,诸如人员的眼睛或耳朵之间的距离或人员的手臂或腿的长度。在一些实施方式中,身体特征信息31848包括关于人员的年龄、性别和/或种族的信息。在一些实施方式中,身体特征信息31848包括关于人员的服装和/或配件的信息(例如,人员是否戴着帽子、眼镜、手套和/或戒指)。
行为信息31849包括关于检测到的人员的行为的信息。在一些实施方式中,行为信息31849包括关于检测到的人员的情绪和/或举止的信息。
图4是示出根据一些实施方式的代表性智能设备204的框图。在一些实施方式中,智能设备204(例如,图1的智能家居环境100的任何设备)包括一个或多个处理单元(例如,CPU、ASIC、FPGA、微处理器等)402、一个或多个通信接口404、存储器406、具有无线电440的通信模块442以及用于互连这些组件(有时称为芯片组)的一个或多个通信总线408。在一些实施方式中,用户接口410包括使得能够呈现媒体内容的一个或多个输出设备412,包括一个或多个扬声器和/或一个或多个视觉显示器。在一些实施方式中,用户接口410还包括一个或多个输入设备414,包括便于用户输入的用户接口组件,诸如键盘、鼠标、语音命令输入单元或麦克风、触摸屏显示器、触敏输入板、手势捕捉相机或其他输入按钮或控件。在一些实施方式中,门铃106的输入设备414是触觉或触敏门铃按钮。此外,一些智能设备204使用麦克风和语音辨识或相机和手势辨识来补充或替代键盘。在一些实施方式中,智能设备204包括一个或多个图像/视频捕获设备418(例如,相机、摄像机、扫描仪、照片传感器单元)。
内置传感器490包括例如一个或多个热辐射传感器、环境温度传感器、湿度传感器、IR传感器、接近传感器、范围传感器、占用传感器(例如,使用RFID传感器)、环境光传感器、运动检测器、加速度计和/或陀螺仪。
无线电440启用智能家居环境中的一个或多个无线电通信网络并且允许智能设备204与其他设备通信。在一些实施方式中,无线电440能够使用以下中的任何一个来数据通信:各种定制或标准无线协议(例如,IEEE 802.15.4、Wi-Fi、ZigBee、6LoWPAN、Thread、Z-Wave、Bluetooth Smart、ISA100.5A、WirelessHART、MiWi等)、定制或标准有线协议(例如,以太网、HomePlug等)和/或任何其他合适的通信协议,包括在本文件的提交日期时还未开发的通信协议。
通信接口404包括例如能够使用各种定制或标准无线协议(例如,IEEE 802.15.4、Wi-Fi、ZigBee、6LoWPAN、Thread、Z-Wave、Bluetooth Smart、ISA100.5A、WirelessHART、MiWi等)中的任何一个和/或各种定制或标准有线协议(例如,以太网、HomePlug等)中的任何一个或包括在本文件的提交日期时还未开发的通信协议的任何其他合适的通信协议来数据通信。
存储器406包括高速随机存取存储器,诸如DRAM、SRAM、DDR RAM或其他随机存取固态存储设备;以及可选地包括非易失性存储器,诸如一个或多个磁盘存储设备、一个或多个光盘存储设备、一个或多个闪存设备或一个或多个其他非易失性固态存储设备。存储器406或替选地存储器406内的非易失性存储器包括非瞬时性计算机可读存储介质。在一些实施方式中,存储器406或存储器406的非瞬时性计算机可读存储介质存储以下程序、模块和数据结构或其子集或超集:
●操作逻辑420,该操作逻辑420包括用于处置各种基本系统服务和用于执行依赖于硬件的过程;
●设备通信模块422,该设备通信模块422用于连接经由一个或多个通信接口404(有线或无线)被连接到一个或多个网络162的其他网络设备(例如,诸如提供互联网连接性的路由器的网络接口160、联网存储设备、网络路由设备、服务器系统164等)并与其通信;
●输入处理模块426,该输入处理模块426用于检测来自一个或多个输入设备414的一个或多个用户输入或交互并且解释检测到的输入或交互;
●用户界面模块428,该用户界面模块428用于提供和显示用户界面,在所述用户界面中可以配置和/或查看一个或多个设备(例如,智能设备204和/或智能家居环境100中的其他设备)的设置、所捕获的数据和/或其他数据;
●一个或多个应用430,该一个或多个应用430用于由智能设备执行(例如,游戏、社交网络应用、智能家居应用和/或其他基于Web或基于非Web的应用)以控制设备(例如,执行命令、发送命令和/或配置智能设备204和/或其他客户端/电子设备的设置)以及用于检查由设备捕获的数据(例如,设备状态和设置、所捕获的数据或关于智能设备204和/或其他客户端/电子设备的其他信息);
●设备侧模块432,该设备侧模块432提供用于设备控制、数据处理和数据检查的设备侧功能性,该设备侧模块432包括但不限于:
○命令接收模块4320,该命令接收模块4320用于接收、转发和/或执行(例如,来自客户端设备220、来自服务器系统164、来自在用户接口410上检测到的用户输入等的)指令和控制命令以操作智能设备204;以及
○数据处理模块4322,该数据处理模块4322用于处理由一个或多个输入(例如,输入设备414、图像/视频捕获设备418、位置检测设备416)、传感器(例如,内置传感器490)、接口(例如,通信接口404、无线电440)和/或智能设备204的其他组件捕获或接收的数据并且用于准备和向设备发送经处理的数据以供检查(例如,向客户端设备220发送经处理的数据以供用户检查);
●旁路模块436,该旁路模块436用于检测无线电440是否正在经由耦合到无线电440并相应地经由旁路线路或放大器(例如,低噪声放大器)将无线电440耦合到其相应天线的相应天线发送信号;
●传输接入模块438,该传输接入模块438用于(例如,基于检测到的控制信号和传输请求)准予或拒绝对一个或多个无线电440的传输接入;
●视频分析模块442,该视频分析模块442用于分析所捕获的视频数据,例如,以检测和/或辨识接近的访客和场境信息,该视频分析模块442包括但不限于:
○运动流模块4422,该运动流模块4422用于检测视频数据中的运动事件;
○访客检测模块4424,该访客检测模块4424用于从运动事件中检测接近的访客(例如,用于将与正在接近入口的人员相对应的运动与其他类型的运动区分开);以及
○场境感测模块4426,该场境感测模块4426用于感测关于正在接近的访客的场境数据,例如基于行为特性和计时;以及
●设备数据434,该设备数据434用于存储与设备(例如,智能设备204)相关联的数据,该设备数据434包括但不限于:
○账户数据4340,该账户数据4340存储与加载在智能设备204上的用户账户有关的信息,其中这类信息包括缓存的登录凭证、智能设备标识符(例如,MAC地址和UUID)、用户接口设置、显示偏好、认证令牌和标签、密码等;
○本地数据存储数据库4342,该本地数据存储数据库4342用于选择性地存储与智能设备204相关联的原始或经处理的数据(例如,由门铃106捕获的视频监视录像);以及
○实体数据4344,该实体数据4344存储与检测到的人员和其他实体有关的信息,诸如表征信息(例如,表征信息3184)和相关联的图像。
上文标识的元件中的每一个可以被存储在先前提及的存储设备中的一个或多个中并且对应于用于执行上述功能的指令集。上文标识的模块或程序(即,指令集)不需要被实现为单独的软件程序、过程或模块并且因此这些模块的各种子集可以在各种实施方式中被组合或以其他方式重新布置。在一些实施方式中,存储器406可选地存储上文标识的模块和数据结构的子集。此外,存储器406可选地存储上文未描述的附加模块和数据结构。
图5示出了代表性系统架构500。在一些实施方式中,服务器系统164包括事件处理器505、事件分类器507、实体辨识器3152和面向用户的前端3150的功能模块。事件处理器505获取事件候选(例如,通过处理视频流504或通过从视频源501接收事件开始信息,或通过检测用户按下门铃相机的门铃按钮)。在一些实施方式中,事件候选包括运动事件候选。在一些实施方式中,事件候选包括用户按下门铃相机的门铃按钮。在一些实施方式中,事件候选包括音频、电磁、嗅觉和/或视觉方面。在一些实施方式中,事件候选包括运动事件、接近检测和告知检测。事件分类器507(例如,基于来自事件处理器和/或实体辨识器的数据)将事件候选分类为不同的事件类别。面向用户的前端3150生成事件提醒和通知并且促进检查者通过客户端设备220上的检查界面检查检测到的实体和事件。面向用户的前端3150还接收对事件和实体类别的用户编辑、对提醒的用户偏好和事件过滤器、兴趣区域的区域限定等。事件分类器可选地基于由面向用户的前端接收到的用户编辑来修正事件分类模型和结果。实体识别器可选地基于由面向用户的前端接收到的用户编辑来修正实体分类和/或标签。服务器系统164还包括视频源数据数据库509、人员数据522、事件分类模型数据库510以及事件数据和事件掩码数据库511。在一些实施方式中,人员数据522包括人员数据库。在一些实施方式中,这些数据库中的每一个是服务器数据库316的部分(例如,数据存储数据库3160的部分)。
服务器系统164从视频源501(例如,图2B中的视频源222)接收一个或多个视频流504并且可选地接收事件候选信息502以及源信息503,该事件候选信息502诸如检测到的实体和事件的初步表征信息(例如,来自在门铃106处执行的处理的实体和事件元数据),该源信息503诸如门铃106的设备设置(例如,门铃106的设备简档3165)。在一些实施方式中,事件处理器505与视频源501通信例如以请求附加图像,诸如视频流504的高清晰度图像或元数据。服务器系统向客户端设备220发送事件的提醒512、检测到的人员的提醒524、事件时间线信息513和/或视频数据528(例如对应于检测到的人员和/或事件的视频片段)。在一些实施方式中,提醒512将访客接近事件与其他类型的运动事件区分开。在一些实施方式中,提醒512将在门铃106处捕获的运动事件与由其他智能设备(例如,相机118)捕获的运动事件区分开。服务器系统164可选地从客户端设备220接收用户信息,诸如事件信息514(例如,对事件类别的编辑)、区域限定515和人员数据526(例如,检测到的人员的归类)。
数据处理管道处理从视频源501(例如,包括门铃106和可选的控制器设备)接收的视频信息(例如,实况视频馈送)和/或实时地(例如,在10秒、30秒或2分钟之内)从一个或多个智能设备接收的音频信息以识别和分类在智能家居环境中发生的事件,并且将实时事件提醒(例如,在10秒、20秒或30秒之内)和刷新的事件时间线(例如,在30秒、1分钟或3分钟之内)发送到与智能家居环境的检查者账户相关联的客户端设备220。数据处理管道还处理所存储的信息(诸如所存储的来自视频源501的视频馈送)以根据需要对事件进行重新评估和/或重新分类,诸如何时获取关于事件的新信息和/或何时获取关于事件类别的新信息(例如,从用户获取了新的活动区域)。
在视频和/或音频数据在智能设备上被捕获之后,对数据进行处理以确定是否存在任何潜在的事件候选或人员。在一些实施方式中,在智能设备(例如,视频源501、相机118或门铃106)处初始地处理数据。因此,在一些实施方式中,智能设备向服务器系统164发送事件候选信息,诸如事件开始信息。在一些实施方式中,在服务器系统164处处理数据以用于事件开始检测。在一些实施方式中,视频和/或音频数据被存储在服务器系统164上(例如,在视频和源数据数据库509中)。在一些实施方式中,视频流被存储在与服务器系统164不同的服务器上。在一些实施方式中,在检测到运动开始之后,从存储(例如,从视频和源数据数据库509)中检索视频流的相关部分。
在一些实施方式中,事件识别过程包括将视频流分割成多个分段,然后对每个分段内的事件候选分类。在一些实施方式中,对事件候选进行分类包括背景因素、实体检测和识别、每个运动实体的运动矢量生成、实体特征以及场景特征的聚合,以生成事件候选的运动特征。在一些实施方式中,事件识别过程进一步包括:对每个分段进行分类;基于对分段的分类来生成或更新事件日志;基于对分段的分类来生成事件的提醒;对完整事件进行分类;基于完整事件更新事件日志以及基于完整事件生成事件的提醒。在一些实施方式中,分类基于确定事件发生在特定兴趣区域内。在一些实施方式中,分类基于确定事件候选涉及一个或多个兴趣区域。在一些实施方式中,分类基于音频数据和/或音频事件表征。
事件分析和分类过程可以由智能设备(例如,视频源501)和服务器系统164共同执行,并且任务的划分可以在不同的实施方式中针对不同的装备能力配置和/或针对不同的网络和服务器负载情况而改变。在服务器系统164对事件候选分类之后,可以将事件检测和分类的结果发送到与智能家居环境相关联的检查者。
在一些实施方式中,服务器系统164针对视频源501中的每一个(例如,在视频和源数据数据库509中)存储原始或经压缩的视频数据、(例如,在事件分类模型数据库510中)存储事件分类模型以及(例如,在事件数据和事件掩码数据库511中)存储事件掩码和其他事件元数据。在一些实施方式中,视频数据以诸如480p、780p、1080i、1080p等的一个或多个显示分辨率被存储。
在一些实施方式中,视频源501(例如,门铃106)经由一个或多个网络(例如,网络162)将实况视频馈送传输到远程服务器系统164。在一些实施方式中,当视频数据被门铃106捕获时,视频数据的传输是连续的。在一些实施方式中,视频数据的传输与视频数据的内容无关,并且视频数据被从视频源501上传到服务器系统164以便存储,而与是否已经在视频数据中捕获了任何运动事件无关。在一些实施方式中,视频数据可以被默认地存储在视频源501的本地存储设备中并且仅(例如,实时地)将与视频流中检测到的运动事件候选相对应的视频部分上传到服务器系统164。
在一些实施方式中,视频源501动态地确定视频流将以什么显示分辨率被上传到服务器系统164。在一些实施方式中,视频源501动态地确定视频流的哪些部分将被上传到服务器系统164。例如,在一些实施方式中,取决于当前服务器负载和网络状况,视频源501可选地使对应于新检测到的运动事件候选的视频部分的上传优先于不包含任何运动事件候选的视频流的其他部分;或者视频源501以比视频流的其他部分更高的显示分辨率上传对应于新检测到的运动事件候选的视频部分。这种上传优先化帮助确保即使在网络条件和服务器负载均未达到最佳状态时,也可以实时地检测重要的运动事件并且提醒检查者。在一些实施方式中,视频源501实现两个并行的上传连接,一个用于上传由门铃106捕获的连续视频流并且另一个用于上传与检测到的运动事件候选相对应的视频部分。在任何给定时间,视频源501确定是否需要瞬时挂起连续视频流的上传以确保足够的带宽被给予与新检测到的运动事件候选相对应的视频分段的上传。
在一些实施方式中,被上传用于云存储的视频流比被上传用于运动事件处理的视频分段处于更低的品质(例如,更低的分辨率、更低的帧率、更高的压缩率等)。
如图5所示,视频源501包括(包括图像传感器的)门铃106和可选的控制器设备。在一些实施方式中,门铃106包括足够的板上处理能力以执行所有必要的本地视频处理任务(例如,针对运动事件候选的提示点检测、视频上传优先化、网络连接管理等),并且门铃106与服务器系统164直接通信,无需任何控制器设备充当中介。在一些实施方式中,门铃106捕获视频数据并将视频数据发送到控制器设备以用于必要的本地视频处理任务。控制器设备可选地执行多个相机的本地处理任务。例如,在一个智能家居环境(例如,图1的智能家居环境100)中可能有多个相机,并且单个控制器设备从每个相机接收视频数据并处理该视频数据以检测来自每个相机的视频流中的运动事件候选。控制器设备负责分配足够的传出网络带宽以在使用剩余带宽来将视频流从每个相机传输到服务器系统164之前,将包含运动事件候选的视频分段从每个相机传输到服务器。在一些实施方式中,连续的视频流被发送并存储在一个服务器设施处,而包含运动事件候选的视频分段被发送到不同的服务器设施并在该不同的服务器设施处被处理。
在一些实施方式中,智能设备向服务器系统164发送附加源信息503。该附加源信息503可以包括关于设备状态的信息(例如,IR模式、AE模式、DTPZ设置等)和/或关于设备所位于的环境的信息(例如,室内、室外、夜间、白天等)。在一些实施方式中,服务器系统164使用源信息503来执行事件检测、实体辨识和/或对事件候选进行分类。在一些实施方式中,附加源信息503包括得自由门铃106执行的视频处理的一个或多个初步结果(例如,分类、对象/实体辨识、运动掩码等)。
在一些实施方式中,将检测到事件开始附带事件(incident)之后,视频部分被化分成多个分段。在一些实施方式中,分割继续直到获取事件结束信息(有时也称为“事件结束信号”)为止。在一些实施方式中,分割发生在服务器系统164内(例如,通过事件处理器505)。在一些实施方式中,分割包括生成重叠的分段。例如,每秒生成10秒的分段,使得新分段与先前分段重叠9秒。
在一些实施方式中,多个分段中的每一个具有相同或相似的持续时间(例如,每个分段具有10-12秒的持续时间)。在一些实施方式中,第一分段比后续分段具有较短的持续时间。将第一分段保持为短的允许实时的初始的分类和基于处理第一分段的提醒。然后可以基于对后续分段的处理来修正初始的分类。在一些实施方式中,如果运动实体进入新的兴趣区域,则生成新的分段。
在一些实施方式中,在事件处理器模块获取对应于事件候选的视频部分之后,事件处理器505获取背景因素并执行运动实体检测识别、针对每个运动实体的运动矢量生成以及特征识别。一旦事件处理器505完成了这些任务,事件分类器507就聚合所有信息并生成运动事件候选的分类。在一些实施方式中,事件处理器505和事件分类器507是视频处理模块3144的组件。在一些实施方式中,在运动事件候选被提交以用于事件分类之前,可选地执行误报(false positive)抑制以拒绝一些运动事件候选。在一些实施方式中,确定运动事件候选是否为误报包括确定运动事件候选是否发生在特定区域中。在一些实施方式中,确定运动事件候选是否为误报包括分析运动事件候选的重要性得分。候选运动事件的重要性得分可选地基于涉及运动事件候选的兴趣区域、背景特征、运动矢量、场景特征、实体特征、运动特征、运动路径等。
在一些实施方式中,视频源501具有足够的处理能力来执行并且确实执行实体检测、人员辨识、背景估计、运动实体识别、运动矢量生成和/或特征识别。
图6是示出根据一些实施方式的与用户账户相关联的代表性客户端设备220的框图。客户端设备220通常包括一个或多个处理单元(CPU)602、一个或多个网络接口604、存储器606以及用于互连这些组件(有时称为芯片组)的一个或多个通信总线608。可选地,客户端设备还包括用户接口610和一个或多个内置传感器690(例如,加速度计和陀螺仪)。用户接口610包括使得能够呈现媒体内容的一个或多个输出设备612,包括一个或多个扬声器和/或一个或多个视觉显示器。用户接口610还包括一个或多个输入设备614,包括便于用户输入的用户接口组件,诸如键盘、鼠标、语音命令输入单元或麦克风、触摸屏显示器、触敏输入板、手势捕捉相机或其他输入按钮或控件。此外,一些客户端设备使用麦克风和语音辨识或相机和手势辨识来补充或替代键盘。在一些实施方式中,客户端设备包括用于捕获图像的一个或多个相机、扫描仪或光传感器单元(未示出)。可选地,客户端设备包括位置检测设备616,诸如GPS(全球定位卫星)或其他地理位置接收器,以用于确定客户端设备的位置。
存储器606包括高速随机存取存储器,诸如DRAM、SRAM、DDR SRAM或其他随机存取固态存储器设备;并且可选地包括非易失性存储器,诸如一个或多个磁盘存储设备、一个或多个光盘存储设备、一个或多个闪存设备或一个或多个其他非易失性固态存储设备。存储器606可选地包括远离一个或多个处理单元602的一个或多个存储设备。存储器606或者替选地存储器606内的非易失性存储器包括非瞬时性计算机可读存储介质。在一些实施方式中,存储器606或存储器606的非瞬时性计算机可读存储介质存储以下程序、模块和数据结构或其子集或超集:
●操作系统618,该操作系统618包括用于处置各种基本系统服务和用于执行依赖于硬件的任务的过程;
●网络通信模块620,该网络通信模块620用于经由一个或多个网络接口604(有线或无线)将客户端设备220连接到其他系统和设备(例如,客户端设备、电子设备和连接到一个或多个网络162的系统);
●输入处理模块622,该输入处理模块622用于检测来自一个或多个输入设备614中的一个的一个或多个用户输入或交互并且解释检测到的输入或交互;
●一个或多个应用624,该一个或多个应用624用于由客户端设备执行(例如,游戏、社交网络应用、智能家居应用和/或其他基于web或基于非web的应用)以用于控制设备(例如,向集线器设备和/或其他客户端或电子设备发送命令、配置设置等)以及用于检查由设备捕获的数据(例如,设备状态和设置、所捕获的数据或关于集线器设备或其他连接的设备的其他信息);
●用户界面模块626,该用户界面模块626用于提供和显示用户界面,在该用户界面中可以配置和/或查看一个或多个设备(例如,智能家居环境100中的智能设备204)的设置、所捕获的数据和/或其他数据;
●客户端侧模块628,该客户端侧模块628提供用于设备控制、数据处理和数据检查的客户端侧功能性,该客户端侧模块628包括但不限于:
○集线器设备和设备控制模块6280,该集线器设备和设备控制模块6280用于根据用户输入生成用于修改集线器设备或电子设备的操作模式的控制命令;
○视频分析模块6281,该视频分析模块6281用于分析所捕获的视频数据,例如以检测和/或辨识人员、对象、动物和事件,诸如先前关于视频分析模块442所述的;
○数据检查模块6282,该数据检查模块6282用于提供用于检查由服务器系统164处理的数据的用户界面,该数据检查模块6282包括但不限于:
●事件检查子模块6283,该事件检查子模块6283用于检查事件(例如,运动和/或音频事件)并且可选地启用用户对事件的编辑和/或更新;以及
■人员检查子模块6284,该人员检查子模块6284用于检查关于检测到的人员和其他实体的数据和/或图像并且可选地启用用户对人员数据的编辑和/或更新;
○快速动作(QA)呈现模块6285,该QA呈现模块6285用于提供由服务器系统164识别的快速动作的子集;以及
○远程交互模块6286,该远程交互模块6286用于例如经由门铃106和/或服务器系统164与远程人员(例如,智能家居环境100的访客)交互;以及
●客户端数据630,该客户端数据630存储与用户账户和电子设备相关联的数据,该客户端数据630包括但不限于:
○账户数据6300,该账户数据6300存储与在客户端设备上加载的用户账户以及与用户账户相关联的(例如,视频源222的)电子设备两者有关的信息,其中,这样的信息包括缓存的登录凭证、集线器设备标识符(例如,MAC地址以及UUID)、电子设备标识符(例如,MAC地址和UUID)、用户接口设置、显示偏好、认证令牌和标签、密码等;以及;
○本地数据存储数据库6302,该本地数据存储数据库6302用于选择性地存储与电子设备(例如,诸如门铃106的视频源501的电子设备)相关联的原始或经处理的数据,可选地包括诸如前述的实体数据4344的实体数据。
上述所标识的元件中的每一个可以被存储在前面提及的存储设备中的一个或多个中并且对应于用于执行上述功能的指令集。上文标识的模块或程序(即,指令集)不需要被实现为单独的软件程序、过程、模块或数据结构,并且因此这些模块的各种子集可以在各种实施方式中被组合或以其他方式被重新布置。在一些实施方式中,存储器606可选地存储以上标识的模块和数据结构的子集。此外,存储器606可选地存储上面未描述的附加模块和数据结构。
图7A-7C示出根据一些实施方式的代表性人员检测和辨识过程。图7A示出了对应于与电子问候系统的门铃106相关联的第一相机的视场的图像700。在一些实施方式中,电子问候系统包括智能家居环境100的一个或多个设备和/或服务器系统164。如图7A所示,在图像700中不存在潜在的访客。图7B示出了对应于与门铃106相关联的第二相机的视场的图像710。在一些实施方式中,在人员712的初始的检测(在下文中更详细地讨论)时,门铃106自动地切换到第二相机,因为它具有更有助益于访客检测的视场。然而,在一些实施方式中,门铃106仅包括一个相机,并且在人员的初始的检测之后图像700保留。在一些实施方式中,在检测到运动事件时(即,人员712进入相机的视场),系统(例如,电子问候系统,包括但不限于门铃106的处理器)分析运动事件以确定人员712是否是访客(例如,人员712是否正在接近门铃106)。例如,当人员712在视场中移动时,系统测量人员的面部的高度(或其他尺寸)(或其他身体特性,诸如人员的躯干、肩膀宽度等)。图7B中的面部高度714增加到图7C中的更大面部高度716。在该示例中,基于面部高度增加是否满足一个或多个面部高度增加标准,系统确定人员712正在接近入口并且从而将人员712归类为访客。在一些实施方式中,分析运动事件附加地或替代地包括分析来自运动传感器的数据以确定运动数据是否满足运动标准和/或分析来自接近传感器(例如,PIR传感器)的数据以确定接近数据是否满足接近度标准。例如,PIR传感器检测热签名,并且与电子问候系统相关联的处理器分析热签名以确定热签名是否超过预确定阈值。根据检测到热签名超过阈值,与热签名相关联的人员712被归类为访客。作为另一示例,音频传感器检测音频信号,并且与电子问候系统相关联的处理器分析音频信号以检测指示正在接近的人员的音频事件,诸如脚步声。根据检测到音频事件的幅度或分贝级别(例如,检测到的脚步声的音量)超过预确定阈值,与音频事件相关联的人员712被归类为访客。在一些实施方式中,与电子问候系统相关联的处理器基于来自诸如雷达传感器的方向和/或距离传感器的信号来确定检测到的人员的移动方向和/或距离。在一些实施方式中,与电子问候系统相关联的处理器使用前述示例中的任何一个的组合来检测接近的人员并且将该人员归类为访客。
图8A-B示出根据一些实施方式的代表性访客状态归类操作。图8A示出了图像810中的访客820(例如,对应于第一时间时的门铃106的视场),以及图8B示出了图像822中的访客830(例如,对应于第二时间时的门铃106的视场)。在一些实施方式中,电子问候系统(例如,基于面部辨识操作)确定访客是否为系统已知的。在一些实施方式中,电子问候系统(例如,门铃106的处理器)执行面部裁剪操作并且对经裁剪的面部822和832执行面部辨识操作。例如,与电子问候系统相关联的处理器从图像810中裁剪出人员820的面部的图像822,并且将经裁剪的图像822发送到服务器以进行面部辨识处理。在一些实施方式中,如果检测到多个面部,则与电子问候系统相关联的处理器单独地裁剪每个面部并且将每个面部发送到服务器以进行面部辨识处理。替选地,处理器从图像810中裁剪出包括每个检测到的面部的区域并将经裁剪的区域发送到服务器以进行面部辨识处理。替选地,处理器将整个帧810发送到服务器以用于面部辨识处理。在一些实施方式中,相机本身执行面部辨识处理。在一些实施方式中,电子问候系统将图像810、822和/或图像822、832发送给智能家居环境100的用户(例如,作为通知或提醒的一部分)。在一些实施方式中,电子问候系统分析图像810、822以确定访客820、830的场境信息。
图9A-D是示出了根据一些实施方式的检测和/或响应于智能家居环境的访客的方法的流程图。在一些实施方式中,该方法由以下执行:(1)一个或多个智能设备204(例如,门铃106);(2)服务器系统164;(3)客户端设备220;或(4)其组合。在一些实例和实施方式中,本文所述的方法的各种操作是可互换的,并且方法的相应操作由上述设备、系统中的任何一个或设备和/或系统的组合来执行。例如,获取运动流(904)可选地由门铃106或服务器系统164执行。在一些实施方式中,视频和/或数据流通过不包括服务器系统164的网络(例如,WLAN)从门铃106发送到客户端设备220。在一些实施方式中,该方法由存储在一个或多个非瞬时性计算机可读存储介质中并且由一个或多个处理器执行的指令控制,该一个或多个服务器诸如服务器系统164的CPU 302和/或智能设备204(例如,门铃106)的CPU 402。为了方便起见,在下文中,将该方法操作描述为由特定组件或设备执行,但是不应将其解释为在所有实施方式中将操作的执行限于特定设备。
图9A示出根据一些实施方式的检测和响应于智能家居环境的访客的方法900。门铃106从与门铃106相关联或包括在门铃106中的相机获取视频流(902)。服务器系统164从相机的视频流中得出运动流(904)。在一些实施方式中,运动流包括从相机的视频流中得出的数据或元数据,该数据或元数据被分析以检测关于相机的视场中的运动量的信息。在一些实施方式中,运动流和视频流都从相机流式传输到服务器系统164以便分析。替选地,仅视频流被流式传输到服务器系统164以得出运动流并分析运动流。在一些实施方式中,仅当检测到满足阈值的运动量时,视频流和/或运动流才被流式传输到服务器系统164。在一些实施方式中,运动流包括具有元数据的视频流,该元数据包括运动数据。在一些实施方式中,运动流是单独的数据流(例如,不包括来自视频流的视频数据),该运动流包括与视频流相对应的运动数据。在一些实施方式中,从相机的视频流得出运动流包括将相机的视场中的检测到的运动的量与阈值进行比较。例如,如果检测到的运动量大于预确定阈值,则与检测到的运动相关联的数据被包括在运动流中以用于进一步的分析;否则,与检测到的运动相关联的数据不被包括在运动流中。设置预确定的运动阈值使得系统忽略一些琐碎的移动,诸如微风中吹动的树叶。
服务器系统164分析(906)运动流以确定访客是否正在接近入口。在一些实施方式中,服务器系统164通过跟踪随时间的访客的特性的尺寸(例如,访客的路线、访客与入口的接近度、访客的面部的尺寸、访客的身体的尺寸以及/或访客的任何其他身体特征,诸如身体的任何部分的高度或形状,该身体的任何部分包括整个身体)来分析运动流。例如,如果访客的高度或宽度随时间增加,或者访客的面部的尺寸随时间增加,则确定访客正在接近入口。附加地或可替代地,如果访客的特性的尺寸超过阈值,则确定访客正在接近入口。例如,如果检测到的人员从相机视场的外部进入,但被确定为极接近入口(例如,在3英尺、5英尺或10英尺内),则检测到的人员被视为访客。在一些实施方式中,根据确定检测到的人员比公共空间(例如,公共人行道)更靠近入口,将检测到的人员视为访客。
在一些实施方式中,除了分析运动流之外或作为对分析运动流的替代,服务器系统164通过检测人员的存在来确定访客是否正在接近入口(在本文中有时称为“存在信息”)。下文描述用于检测存在信息的几种示例性实施方式。
例如,确定访客正在接近入口包括获取和分析指示正接近的访客或入口附近的访客的存在信息。在一些实施方式中,从智能家居环境的一个或多个运动传感器的运动数据中得出存在信息的部分或全部,该一个或多个运动传感器包括例如无源红外(PIR)传感器、超声传感器、微波传感器和/或层析成像传感器。在一些实施方式中,从具有对应于入口的视场的一个或多个相机的视频数据中得出存在信息中的部分或全部。例如,通过确定由相机或其他类型的运动传感器检测到的运动量满足一个或多个运动标准——诸如运动量超过阈值——得出存在信息。作为又一示例,通过分析多个图像帧以确定(例如,以像素测量的)多个图像帧中的对象的位置差异是否超过阈值,得出存在信息。在一些实施方式中,从音频传感器获取的音频信号得出存在信息中的部分或全部。例如,捕获音频事件(诸如脚步声、口头告知、门铃声音或敲门)的音频信号指示访客的存在。
作为另一示例,确定访客正在接近入口包括比较随时间的访客的特性的尺寸。在一些实施方式中,确定访客正在接近包括跟踪随时间的访客的一个或多个尺寸。例如,确定访客正在接近入口包括获取访客的特性的尺寸的第一度量(诸如对访客的头部的初始高度度量)、获取访客的特性的尺寸的后续度量(诸如在初始高度测量之后的预确定时间量时的对访客的头部的第二高度度量)并且确定第一度量和后续度量之间的差异是否超过阈值。例如,如果访客的头部高度在第一和第二度量之间增加,则访客可能正在接近;否则,如果访客的头部高度没有增加,则访客可能没有接近或正在静止地站着。
作为另一示例,确定访客正在接近入口包括确定访客在距入口的阈值距离内。例如,如果在距入口的预确定距离之内检测到人员,则将该人员确定为正在接近的访客。例如,一旦访客位于入口的15英尺、10英尺或5英尺之内,发起观察窗并且获取场境信息。在一些实施方式中,响应于确定访客正在接近入口而发起观察窗包括响应于确定访客正在到入口的路径上(例如,已经进入走道、走廊,或通向入口的外围大门)而发起观察窗。
作为另一示例,确定访客正在接近入口包括得出运动流。在一些实施方式中,从相机的视频流得出运动流。在一些实施方式中,通过检测关于相机的视场中的运动量的信息或者通过将相机的视场中的检测到的运动量与阈值进行比较,从视频流中得出运动流。在一些实施方式中,运动流包括在视频流中检测到的运动事件的运动掩码。
在确定访客正在接近入口时,服务器系统164发起观察窗(908)。在一些实施方式中,观察窗的长度被预定义为对应于访客完成接近入口或到达距入口的阈值距离的合理的时间量。例如,与接近位于较短走道末端的入口的访客相比,给予接近位于长走道末端的入口的访客更多的时间以到达入口(或距入口的阈值距离)。在一些实施方式中,该方法附加地或可替代地包括响应于确定访客在距入口的阈值距离内而发起观察窗,其中阈值基于入口的布局被预确定。在一些实施方式中,电子问候系统分析入口的布局并且基于初始地检测到的人员到达入口的诸如门或大门的组件所花费的时间量来自动地设置阈值。附加地或替代地,用户使用电子问候系统的界面来手动地设置预确定阈值。在一些实施方式中,当访客足够接近入口以使得能够与电子问候系统交互(例如,按门铃或口头通信)时发起观察窗。在一些实施方式中,基于来自诸如无源红外(“PIR”)传感器或雷达的距离传感器的数据,确定访客已经到达距入口的阈值距离。
在发起观察窗时,门铃106获取场境信息(910)。在一些实施方式中,门铃106不断地获取场境信息,而在其他实施方式中,门铃在发起观察窗时开始获取场境信息。在一些实施方式中,场境信息基于检测到的告知事件(例如,按门铃、敲门、键盘输入或口头告知);面部辨识分析;访客的一个或多个行为特性;访客的一个或多个服装特性;访客在其期间接近入口的时间(例如一天中的时间或一周中的天);访客的口头告知;与预排程的事件的时间接近度;与智能家居环境的预排程的状态的时间接近度;用户的状态或位置;和/或与涉及访客接近入口的运动事件的识别的计时相比的检测到的访客动作的计时。下文提供关于获取场境信息的更多细节。
在发起观察窗时,服务器系统164基于由门铃106发送到服务器的运动流的一个或多个帧执行面部辨识操作(912),并且基于面部辨识操作的结果来确定访客是电子问候系统已知的(例如,图8A中所示的)还是电子问候系统未知的(例如,图8B中所示的)。
服务器系统164根据面部辨识(912)和场境信息(910)的结果来表征访客(914)。例如,访客被表征为以下中的一个或多个:已知的、未知的、预期的、非预期的、可疑的等。在一些实施方式中,根据场境信息和面部辨识对表征进行加权。在一些实施方式中,服务器系统进一步基于访客是否在关闭观察窗之内告知到访(例如,使门铃响或敲门)来表征访客。在一些实施方式中,观察窗在以下中的较早的时关闭:(1)访客告知(例如,按门铃或敲门事件);(2)预确定的时间阈值(例如,访客徘徊了多于预确定的时间阈值而没有做出告知)。在一些实施方式中,预确定的时间阈值是动态的并且取决于场境信息(例如,当场境信息暗示较高的安全或关切级别时,观察窗较长;而当场境信息暗示较低的安全或关切级别时,观察窗较短)。在一些实施方式中,场境信息包括确定在观察窗到期之前访客是否做出告知(例如,使门铃响或敲门)。
服务器系统根据访客表征(914)发起响应(916)。在一些实施方式中,服务器系统根据仅场境信息(910)或仅面部辨识结果(912)来发起响应(916)。在一些实施方式中,服务器系统根据场境信息(910)和面部辨识结果(912)而无需任何其他表征(914)来发起响应(916)。在图10-14中示出和下文论述响应的示例。
门铃106向访客输出响应(918)(例如,广播语音消息、提示访客答复等)。在一些实施方式中,另一智能设备204实现响应(例如,智能门锁120解锁门以让访客进入)。门铃106获取答复(922)并将答复发送到服务器164(例如,访客留下的口头或文本消息)。服务器164接收答复(924)并且发起后续响应(916)(例如,存储该答复以供用户稍后检索,或者发起通知)。在一些实施方式中,服务器通过向客户端设备220发送通知(920)来响应(916)于访客的表征(914)和/或答复(924)。在接收到该通知时,用户可以指令服务器164来发起后续响应(916)。
图9B示出了根据一些实施方式的通过向用户呈现适当的响应来检测和响应于智能家居环境的访客的方法930。
门铃106从与门铃106相关联或包括在门铃106中的相机获取视频流(932)。服务器系统164从相机的视频流得出运动流(934)(例如,如先前关于操作904所论述的)。在一些实施方式中,从相机的视频流得出运动流包括检测关于相机的视场中的运动量的信息。在一些实施方式中,从相机的视频流中得出运动流包括将检测到的相机的视场中的运动的量与阈值进行比较。例如,如果检测到的运动的量大于预确定阈值,则与检测到的运动相关联的数据被包括在运动流中以用于进一步分析;否则,与检测到的运动相关联的数据不被包括在运动流中。
服务器系统164分析(936)运动流以确定访客是否正在接近入口(例如,如先前关于操作906所论述的)。在一些实施方式中,服务器系统164通过比较随时间的访客的特性的尺寸(例如,访客的路线、访客与入口的接近度、访客的面部的尺寸、访客的身体的尺寸和/或访客的任何其他身体特性,诸如身体的任何部分的高度或形状,该身体的任何部分包括整个身体)来分析运动流。例如,如果访客的高度或宽度随时间增加,或者如果访客的面部的尺寸随时间增加,则确定访客正在接近入口。附加地或可替代地,如果访客的特性的尺寸超过阈值,则确定访客正在接近入口。
在检测到正在接近的访客时,门铃106获取(938)场境信息(例如,如先前参考操作910所论述的)。在一些实施方式中,门铃106不断地获取场境信息,而在其他实施方式中,门铃在检测到正在接近的访客时开始获取场境信息。在一些实施方式中,场境信息基于检测到的告知事件(例如,按门铃、敲门、键盘输入或口头告知);面部辨识分析;访客的一个或多个行为特性;访客的一个或多个服装特性;访客在其期间接近入口的一天中的时间;访客的口头告知;与预排程事件的时间接近度;与智能家居环境的预排程状态的时间接近度;用户的状态或位置;和/或与涉及访客接近入口的运动事件的识别的计时相比的检测到的访客动作的计时。在下文中,提供关于获取场境信息的更多细节。
基于场境信息,服务器系统识别可用于客户端设备的用户以用于经由电子问候系统与访客交互的多个适当动作(940)。如果动作基于场境信息被确定为可能由用户选择的动作,则该动作被定义为“适当”。因此,取决于场境信息,对于响应于访客,适当的动作因此是相关的、可适用的、有用的、有关的和/或适合的。在一些实施方式中,动作的集合被存储在数据库(例如,图3A的数据库316)中,并且按照每个动作对涉及特定访客和特定场境信息的当前状况的适用性、相关性和/或有用性进行排名。在一些实施方式中,然后基于排名对经排名的动作进行排序。在这些实施方式中,如果动作在排名的顶部处或附近(例如,排名中的前3、5或10的动作中的一个),则该动作被定义为“适当”。在一些实施方式中,动作排名越高,认为该动作越适当。在一些实施方式中,如果动作的排名高于预确定的阈值(例如,排名最高的十个动作),则该动作被定义为“适当”,并且向用户呈现适当动作的子集(例如,三个动作)。在其他实施方式中,基于可以在客户端设备的单个用户界面中向用户呈现的动作的数量来确定阈值(例如,如果用户界面一次仅能显示三个动作,则排名最高的三个动作被确定为“适当”),并且在同一用户界面中向用户同时呈现所有适当的动作。在一些实施方式中,要呈现给用户的动作的数量基于客户端设备的用户界面的快速动作区域中可用的显示空间量。在下文中,提供适当操作的示例。
在识别出可用于客户端设备的用户的用于经由电子问候系统与访客交互的多个适当动作时,服务器系统164在客户端设备220处向用户呈现所识别的适当动作的通知(942)。在图10中示出通知的示例。
服务器系统164从客户端设备220的用户接收对所识别的动作的选择(944),并且通过在门铃106处输出响应来实现该动作(946)。门铃106记录答复(948)并且将答复发送给服务器164(例如,访客留下的消息)。服务器164接收答复(950),识别经更新的动作(940)并且在客户端设备220处向用户呈现经更新的动作(942)。在一些实施方式中,服务器系统164识别用于识别出的动作的一个或多个适当的设备并且将识别出的动作发送到适当的设备。例如,服务器系统165确定用于解锁动作的适当设备是智能门锁并且将解锁动作发送到智能门锁。作为另一示例,服务器系统165确定用于提醒动作的适当设备包括智能家居环境中的照明灯设备、远程安全设备(例如,本地警察局的计算机)和门铃106(例如,向访客发出警告)并且向这些设备发送提醒动作。
图9C是示出根据一些实施方式的用于与访客进行交互的代表性方法的操作流程图960。在检测到访客告知(962)(例如,按门铃或敲门)之后,根据确定客户端220设备的用户当前正在操作客户端设备220上的电子问候系统的应用,界面前进到通话屏幕(964)(例如,图10C、图13A)。然而,根据确定客户端设备220的用户当前未操作客户端设备220上的电子问候系统的应用,向用户呈现提醒(970)(例如,图11A、图11B)。在完成与提醒的交互之后,该界面前进到事件列表(966),显示了过去的访客事件的列表(例如,图10F)。在完成通话屏幕上的交互(例如,通过按“消除”可供性)后,界面前进到事件列表(966),或者如果用户正在与电子问候系统应用的不同屏幕交互,则界面前进到先前屏幕(968)。
图9D是示出根据一些实施方式的用于与访客进行交互的代表性方法的操作流程图980。在检测到访客告知(982)(例如,按门铃或敲门)或徘徊的访客后,界面会提供对讲选项(984)(例如,图13A“对讲”可供性)和助手选项(986)(例如13A“助手”可供性)。在选择对讲选项(984)后,界面提供用于发送语音通信(例如,图13B)和/或文本到话音通信(例如,图13C)的对讲屏幕。在一些实施方式中,问候系统提供用于在文本到话音通信期间响应于消息的智能建议。在选择了助手选项(986)后,界面前进以提供助手屏幕(例如,图13D)。在助手屏幕中,用户可以可选地通过选择“对讲”可供性来进行响应,选择“对讲”可供性然后使界面前进到对讲屏幕(例如13B或13C)。在一些实施方式中,在助手会话结束(例如,访客和虚拟助手之间的交互结束)时,为用户提供该交互的摘要(988)(例如,图14)。在一些实施方式中,对讲界面等同于(通过通话屏幕选择的)交谈界面。如果用户在预定义的阈值时间量后未回答或已经将客户端设备设置为请勿打扰模式,则虚拟助手将基于某些场境信息(在下文中更详细说明)或基于定制的用户偏好来响应于访客。在一些实施方式中,如上所述,当虚拟助手与访客交互时,用户可以选择经由对讲交互(984)中的语音通话或文本到话音通话来接管交互。在一些实施方式中,在交互结束之后,为用户提供交互的摘要(988)(例如,图14)。
图10A-F示出了用于向客户端设备的用户通知访客正在接近并且用于促进与访客的交互的代表性用户界面。在一些实施方式中,在客户端设备220处(例如,利用用户界面模块626和/或人员检查模块6284)呈现用户界面。图10A图示了电子问候系统应用的房屋屏幕1002,包括相机的视场1004(例如,指向入口的第一相机)的图像。在一些实施方式中,场景的图像是显示检测到的访客的活动的视频片段的一部分(例如,以gif格式)。在一些实施方式中,视频片段由对应于涉及检测到的人员的事件的来自相机的多个帧(例如,每第10、第30或第100帧)组成。
在检测到访客接近入口、访客告知(例如,按门铃或敲门)、或访客在入口处徘徊了阈值时间量而没有任何告知或涉及访客的任何其他运动事件时,界面前进到通话屏幕1006(图10C)。在一些实施方式中,通话屏幕1006从屏幕的边缘(例如,如图10B中的底部)滑入。在一些实施方式中,通话屏幕1006包括从位置更好的以用于捕获访客的正面轮廓的图像或视频的不同的相机(例如,嵌入门铃106的相机)提供的更详细的图像。在一些实施方式中,场景的图像是示出了检测到的访客的活动的视频片段(例如,以gif格式)的一部分。在一些实施方式中,视频片段由对应于涉及检测到的人员的事件的来自相机的多个帧(例如,每第10、第30或第100帧)组成。在一些实施方式中,根据运动事件的检测,自动地切换相机视图(例如,在检测到接近的访客时,运动事件相机馈送切换到访客详细相机馈送)。
在一些实施方式中,通话屏幕1006包括访客所在的特定入口的标签(例如,“前门”)、关于有关该访客的相关信息的通知(例如,“门铃15秒前响起”或“徘徊了持续30秒”)、“消除”可供性1008(有时标记为“忽略”)、“交谈”可供性1010和“动作”可供性1012。
在选择交谈1010时,界面前进到交谈屏幕1014(图10D)。在一些实施方式中,在使用“完成”可供性1016替换交谈1010时,消除1008和动作1012消失(或以其他方式被指示为不可选择),指示用户界面处于交谈模式(例如,客户端设备记录来自用户的口头消息并将其发送给访客)。在一些实施方式中,在选择完成1016时,界面退出交谈模式(例如,通话结束,或语音记录停止),并返回到通话屏幕1006(图10E)、前进到事件列表屏幕1018或退出智能家居应用。在一些实施方式中,在选择消除1008时,用户退出通话屏幕1006并且界面前进到事件列表屏幕1018(图10F)或者退出智能家居应用。根据一些实施方式,事件列表屏幕1018包括事件列表1020,该事件列表1020包括过去交互的报告。
图10G-L示出了用于通过向用户提供快速动作来促进用户与访客之间的交互的代表性用户界面。在通话屏幕1006中,响应于对动作1012的选择(图10G),适当的快速动作1024的列表出现在快速动作选择屏幕1022中(图10H)。根据一些实施方式,选择快速动作(“我们将到那里”)去除快速动作1024显示,并且在通信(“我们将到那里”)1026例如经由门铃设备106处的扬声器递送给访客(图10I)时,界面返回到通话屏幕1006。
在一些实施方式中,所显示的快速动作1024仅包括基于通信的动作、仅包括基于动作的动作或包括至少一个基于通信的动作和至少一个基于动作的动作。图10J是用于未知或非预期访客1030的示例性快速动作选择屏幕1022a。根据一些实施方式,动作1032、1034和1036对应于关于访客1030的场境信息(例如,基于场境被认为是适当的)并且都是基于通信的。图10K是用于已知和/或预期访客1034的示例性快速动作选择屏幕1022b。基于通信的动作1042和1044以及基于动作的动作1046对应于关于访客1040的场境信息。图10L是用于未知和潜在不安全的访客1050的示例性快速动作选择屏幕1022c。基于通信的动作1052以及基于动作的动作1054和1056与关于访客1050的场境信息相对应。在选择快速动作后,电子问候系统执行与所选择的快速动作相对应的任务。在一些实施方式中,在选择快速动作后,用户设备界面返回到通话屏幕1006(图10I)。
图11A和图11B示出根据一些实施方式的用于显示具有快速动作的通知的代表性用户界面。在图11A中,用户界面1102包括通知1104以及关于入口(例如,“前门”)和运动事件(例如,“门口处有人”)的相关信息,该通知1104包括包含访客的图像或入口的图像的第一部分1106。界面进一步包括第二部分1108,第二部分1108包括适当的快速动作列表。在一些实施方式中,在初始通知中自动显示快速动作。在其他实施方式中,初始通知包括动作可供性(例如,如图10G所示),选择该动作可供性打开快速动作列表。在一些实施方式中,第一和第二部分1106和1108形成单个通知部分。在图11B中,用户界面1110包括可供性1112(类似于图10C中的那些可供性)以及快速动作列表1114。对于具有相对大的屏幕的客户端设备(例如,图11B),快速动作可选地占据屏幕的较小部分。在一些实施方式中,图像占据界面的整个背景,在前景层中显示快速动作。
图12A-D示出根据一些实施方式的用于显示通知的代表性用户界面。图12A描绘了用于当用户处在通话屏幕1006(图10C)中时,家庭成员接听通话时的界面1202。在这种情况下,根据一些实施方式,交谈和动作可供性消失、淡出或以其他方式被标识为不可选择。在一些实施方式中,该界面(例如,通过字幕)显示关于访客和家庭成员之间的通话的信息。在一些实施方式中,交谈和动作可供性中的一个或两者保持可选择,允许多个人同时加入通话和/或当另一个人在通话中时快速动作被采取。图12B描绘了当两个人同时接听通话时的界面1204。在一些实施方式中,显示错误消息,通知用户该通话无法完成。但是,在一些实施方式中,当两个人同时接听通话时,两个人都连接到该通话。图12C描绘了当没有足够的带宽来支持音频和视频数据时的界面1206。在一些实施方式中,可以丢弃视频以有利于支持较低带宽的基于音频和/或文本的交互。在一些实施方式中,在用户界面中显示消息,通知用户带宽限制。图12D描绘了用于当与入口相关联的相机(例如,门铃106的相机)关闭时的界面1208。在一些实施方式中,不能显示图像,并且在用户界面中显示消息,通知用户。在一些实施方式中,在用户界面中显示开关(或任何其他基于控制的可供性),允许用户打开相机。
图13A-D示出根据一些实施方式的用于通过对话与访客进行交互的代表性用户界面。图13A包括界面屏幕1302,该界面屏幕1302包括用于发起对讲对话的对讲可供性、用于发起助手主导的对话的助手可供性以及用于忽略通话的忽略可供性。在一些实施方式中,界面包括访客的面部的裁剪。图13B包括界面屏幕1304,该界面屏幕1304描绘了包括助手(例如,“我能如何帮助您?”)和访客(例如,“我是来送包裹的”)之间的交互的实况转录的助手通话。在一些实施方式中,访客的消息是音频消息,并且界面包括控制录音的回放的消息的播放按钮。图13C示出了界面1306,该界面1306用于使用所建议的答复(例如,“把它留在门廊上”和“好的”)响应于文本到语音对话中的消息。图13D包括在图13C中开始的交互的实况转录,其中用户已选择“把它留在门廊上”建议。
图14示出根据一些实施方式的包括交互摘要(例如,图9D,摘要988)的代表性摘要通知。在一些实施方式中,摘要1402-1408包括识别访客的信息(例如,“UPS”、“Michael”和“陌生人”)以及内容信息(例如,访客的告知消息的一部分)和/或活动信息(例如,“留言”、“包裹递送”和“助手让他进来了”)。在一些实施方式中,摘要1410附加地包括访客的视频片段。
根据上文参考附图所述的原理,现在转向某些实施方式。
一些实施方式包括识别和响应于智能家居环境的访客的方法。在一些实施方式中,该方法包括:(1)从智能家居环境的相机获取运动流,该相机具有智能家居环境的入口的视场;(2)基于对运动流的分析,确定访客正在接近入口;(3)基于运动流中的一个或多个帧执行面部辨识操作,并且基于面部辨识操作的结果确定人员是否是智能家居环境已知的;(4)响应于确定访客正在接近而发起观察窗;(5)在观察窗期间,获取并且关联来自智能家居环境的一个或多个传感器的场境信息;(6)在观察窗结束时,基于场境信息和面部辨识操作的结果,发起对正在接近入口的访客的响应。
在一些实施方式中,“访客”包括智能家居环境的居民、智能家居环境的非居民、已知人员(例如,由电子问候系统辨识的人员)和智能家居环境的入口附近的未知人员(例如,未被电子问候系统辨识的人员)。
在一些实施方式中,从相机获取运动流包括检测关于相机的视场中的运动的量的信息。在一些实施方式中,从相机的视频流中得出运动流包括将相机的视场中的检测到的运动的量与阈值进行比较。例如,如果检测到的运动的量大于预确定阈值,则与检测到的运动相关联的数据被包括在运动流中以用于进一步分析;否则,与检测到的运动相关联的数据不被包括在运动流中。
在一些实施方式中,确定访客是否正在接近入口包括比较随时间的访客的特性的尺寸(例如,访客的路线、访客与入口的接近度、访客的面部的尺寸、访客的身体的尺寸和/或访客的任何其他身体特性,诸如身体任何部分的高度或形状,该身体任何部分包括整个身体。例如,如果访客的高度或宽度随时间增加,或者如果访客的面部的尺寸随时间增加,则确定访客正在接近入口。附加地或可替代地,如果访客的特性的尺寸超过阈值,则确定访客正在接近入口。
在一些实施方式中,该方法进一步包括当面部的尺寸超过运动流的帧的阈值比例时,或者当面部的尺寸超过阈值时,从运动流捕获访客的面部的裁剪。
在一些实施方式中,确定访客正在接近入口包括检测访客进入入口附近的活动区域。在一些实施方式中,活动区域的尺寸和位置取决于入口的地理位置以及入口与公共空间的接近度。在一些实施方式中,活动区域的位置取决于所递送的包裹的位置。例如,当在入口附近处递送包裹时,电子问候系统实例化包括包裹周围的预确定缓冲区域的包裹周围的活动区域。当确定访客已经进入预确定缓冲区时,电子问候系统确定访客正在接近入口。在一些实施方式中,除了访客正在接近入口的任何确定以外或作为其替选,做出访客已经进入活动区域的确定。例如,如果确定访客正在接近入口,但没有进入包裹周围的活动区域,则仅做出接近确定。此外,如果访客进入包裹周围的活动区域,但是没有被确定为正在接近入口(例如,如果包裹已经离入口相对远地被递送),则仅做出活动区域违反确定。在一些实施方式中,活动区域被限定远离入口附近处的任何敏感对象(例如,花、草坪装饰物或用户可能期望保护其免受破坏或盗窃的任何其他对象)的位置。
在一些实施方式中,在确定访客正在接近入口时,该方法附加地包括自动地从被用来获取运动流的相机切换到位置更好以捕获访客的面部的图像的相机,诸如门铃相机。但是,在一些实施方式中,仅使用一个相机来获取运动流和捕获访客的面部。
在一些实施方式中,观察窗的长度被预定义为对应于访客完成接近入口或到达距入口的阈值距离的合理时间量。例如,与接近位于较短走道末端的入口的访客相比,接近位于长走道末端的入口的访客被给予更多的时间以到达入口(或距入口的阈值距离)。
在一些实施方式中,该方法附加地或替代地包括响应于确定访客在距入口的阈值距离内而发起观察窗,其中,阈值基于入口的布局被预确定。在一些实施方式中,当访客足够接近入口以使得能够与电子问候系统进行交互(例如,按门铃或口头通信)时,发起观察窗。在一些实施方式中,基于诸如无源红外(“PIR”)传感器或雷达的距离传感器,确定访客已经到达距入口的阈值距离。
在一些实施方式中,场境信息基于检测到的告知事件(例如,按门铃、敲门、键盘输入或口头告知);面部辨识分析;访客的一个或多个行为特性;访客的一个或多个服装特性;访客在其期间接近入口的一天中的时间;访客的口头告知;与预排程事件的时间接近度;与智能家居环境的预排程状态的时间接近度;用户的状态或位置和/或与涉及访客接近入口的运动事件的识别计时相比的检测到的访客动作的计时。
在一些实施方式中,场境信息包括检测到的告知事件。示例性告知事件包括按门铃、敲门、键盘输入、远程控制操作或访客与电子问候系统之间的任何其他类型的主动交互。在一些实施方式中,场境信息包括在多于预确定的时间阈值内没有检测到的告知事件(例如,访客在入口徘徊而没有按下门铃)。在一些实施方式中,告知是与已知的访客相关联的事件的预指派模式的一部分(例如,个性化的敲门或门铃响铃模式)。在一些实施方式中,告知是与已知访客相关联的预指派口头告知。对于这些实施方式,音频传感器(例如,麦克风)检测音频信号,并且处理器执行音频辨识分析以确定口头告知是否与存储在存储器中的任何已知告知匹配。在一些实施方式中,音频辨识分析确定访客的语音是否与存储在存储器中的已知语音匹配。在一些实施方式中,音频辨识分析确定访客的词语是否与存储在存储器中的已知词语模式相匹配(例如“这是Matt”、“我来这里烧烤”或“密码是Bosco”)。
在一些实施方式中,场境信息包括基于面部辨识分析的身份数据。在一些实施方式中,面部图像被存储在数据库中。在一些实施方式中,用户通过自动注册来自智能家居环境的新的或先前未注册的访客的新面部的经裁剪的图像来将新面部图像添加到数据库。在其他实施方式中,用户通过注册潜在访客来添加新面部图像,与访客是否在入口附近无关。例如,在不涉及到访的时间或位置,用户可以捕获潜在访客的面部图像,以便当潜在访客在将来的时间到访智能家居环境时,智能家居环境将辨识潜在用户并且基于面部辨识提供适当的场境信息。在一些实施方式中,除了身份数据(例如,“Matt在前门”)之外或作为其替代,场境信息包括基于访客的面部是否被识别的访客的归类(例如,“已知访客在前门,”或“未知访客在前门。”)。例如,如果访客的面部被辨识,则场境信息包括“已知”状态,并且如果访客的面部未被辨识,则场境信息包括访客的“未知”状态。附加地或替代地,身份数据或归类数据包括基于面部辨识分析的结果的对访客的进一步描述(例如,“泳池清洁员在前门”)。
在一些实施方式中,场境信息包括访客的一个或多个行为特性。例如,行为特性包括手持物体(例如,包裹、笔记板或暗示或标识访客存在的原因的任何其他物体)。作为另一示例,行为特性包括在活动区域(例如,由距入口或距诸如递送的包裹的物体的阈值距离限定的区域)中徘徊大于预确定阈值的时间段。
在一些实施方式中,场境信息包括访客的一个或多个服装特性。例如,服装特性包括(例如,由递送人员穿着的)制服。其他示例包括服装类别,诸如商务服装、休闲服装和可疑服装(例如,遮盖面部的一件服装、夜间或在黑暗照明条件下的深色服装以及与团伙有关的服装)。
在一些实施方式中,场境信息包括访客在其期间接近入口的一天中的时间。例如,在白天期间可疑级别可能较低,而在晚上期间可疑级别可能较高。在一些实施方式中,“白天”和“晚上”由预确定时间区分。在其他实施方式中,“白天”和“晚上”通过感测入口的视场中的光量区分。通过例如使用入口附近的光传感器,或者通过分析运动流的一个或多个帧中的亮度级别,完成感测视场中的光量。在一些实施方式中,基于可见性的场境信息基于中间亮度量(例如,在黄昏和黎明期间或在阴天期间)被加权。
在一些实施方式中,场境信息包括音频数据,诸如口头告知(上文描述其示例)。其他示例包括来自不是访客的来源的背景噪音(例如,吠叫的狗、警笛或可能为到访提供场境的任何其他声音)。
在一些实施方式中,场境信息包括与预排程事件的时间接近度。例如,遛狗者可以被排程以在预安排的时间接取狗。递送人员可以被排程以在预期的时间递送包裹。服务人员(或任何其他已知的人员)可以被排程以在预期时间或时间跨度期间到达(例如,每个星期二下午2点到4点之间清洁泳池、每月的第一个星期六为草坪服务或为其他目的而提前安排的一次到访)。
在一些实施方式中,场境信息包括与智能家居环境的预排程状态的时间接近度。例如,智能家居环境可以被预排程为在某些小时之间(例如,在上午9:00到下午6:00之间)无人(即,居住者不在)。作为进一步的示例,智能家居环境可以处于请勿打扰模式(例如,当婴儿正在睡觉时或者在居住者希望独自待着的安静时段期间)。
在一些实施方式中,场境信息包括用户的状态或位置。示例性用户状态包括请勿打扰状态、离开状态和/或在家状态。在一些实施方式中,客户端设备的位置传感器将用户位置信息提供给电子问候系统。在其他实施方式中,用户手动通知电子问候系统用户的位置和/或状态。
在一些实施方式中,场境信息包括上述示例的任何组合。在一些实施方式中,场境信息的各个子集被加权,并且场境信息是场境信息的各个子集的加权的组合。例如,亮度信息或一天中的时间信息可以比身份信息更重地加权(例如,如果泳池清洁员在深夜接近入口,则在确定接近访客的场境信息时,一天中的时间信息更相关,因此被更重地加权)。
在一些实施方式中,观察窗在以下中的较早的时结束:(1)访客告知(例如,按门铃或敲门事件);以及(2)预确定时间阈值(例如,访客已经徘徊了多于预确定时间阈值而没有做出告知)。在一些实施方式中,预确定时间阈值是动态的并且其取决于场境信息(例如,当场境信息暗示较高的安全或关切级别时,观察窗更长,并且当场境信息暗示较低的安全或关切级别时,观察窗更短)。
一些实施方式包括一种经由智能家居环境的电子问候系统与智能家居环境的访客进行交互的方法。在一些实施方式中,该方法包括:(1)从智能家居环境的传感器获取运动数据;(2)基于对运动数据的分析,确定涉及访客的运动事件;(3)针对运动事件,从智能家居环境中获取场境信息;(4)基于场境信息,识别可用于客户端设备的用户以用于经由电子问候系统与访客交互的多个适当动作;(5)使所识别的动作被呈现给客户端设备的用户。
在一些实施方式中,获取运动数据包括分析多个图像帧以确定多个帧中的两个或更多个帧之间的运动是否满足运动标准。在一些实施方式中,在后续帧之间比较像素运动。在其他实施方式中,在当前帧和参考图像之间执行图像差分。
在一些实施方式中,获取运动数据包括分析来自红外传感器(例如,PIR传感器)的红外数据以确定红外数据中的差异是否满足运动标准。在一些实施方式中,获取运动数据包括分析来自运动传感器的数据以确定运动数据是否满足运动标准。
在一些实施方式中,如上所述,识别运动事件包括检测访客进入入口附近的(上文定义的)活动区域,检测访客的面部和/或检测以下中的至少一个:访客的高度、形状和移动特性。
在一些实施方式中,识别运动事件包括上述与访客接近入口或进入活动区域有关的确定中的任一个。换句话说,当电子问候系统确定访客正在接近入口或进入活动区域时,动作事件被触发。
在一些实施方式中,针对运动事件从智能家居环境中获取场境信息包括获取上述场境信息中的任一个。换句话说,当动作事件被识别或触发时,通过电子问候系统获取上述场境信息中的任一个。
基于场境信息,电子问候系统识别可用于客户端设备的用户以用于经由电子问候系统与访客交互的多个适当动作。如果取决于场境信息,动作对于响应于访客是相关的、可适用的、有用的、有关的和/或适合的,则该动作被定义为“适当”。在一些实施方式中,动作的集合被存储在数据库中并且按照其对于涉及特定访客和特定场境信息的当前状况的适用性、相关性和/或有用性进行排名。然后基于排名对经排名的动作进行排序。在这些实施方式中,如果动作被排名相对高于另一动作,则该动作被定义为“适当”。在一些实施方式中,动作排名越高,认为该动作越适当。在一些实施方式中,如果动作的排名高于预确定阈值(例如,排名最高的十个动作),则该动作被定义为“适当”,并且向用户呈现适当动作的子集(例如,三个动作)。在其他实施方式中,基于可以在客户端设备的单个用户界面中向用户呈现的动作的数量来确定阈值(例如,如果用户界面一次只能显示三个动作,则排名最高的三个动作被确定为“适当”),并且在同一用户界面中向用户同时呈现所有适当的动作。在一些实施方式中,要呈现给用户的动作的数量基于客户端设备的用户界面的快速动作区域中可用的空间量。
在一些实施方式中,适当的动作包括一个或多个基于通信的动作。在一些实施方式中,电子问候系统使用合成语音与访客讲话。在其他实施方式中,电子问候系统向用户输出由用户提前记录的预记录的消息。基于通信的动作的示例包括向访客传送关于用户状态的消息(例如,“Matt正忙”或“Matt将到那里”);向访客传送指示访客采取动作的消息,(例如,“请留下包裹”、“稍后回来”或“进来并带走狗”);将定制的消息传送给预期或非预期的访客,诸如对销售员的答复(例如“对不起,我们不感兴趣”)、问候(例如“欢迎,请在后院加入我们”)或提示(例如,“我应该联系房主吗?”或“密码是什么?”);并向访客传送指示访客为用户留言的消息。在一些实施方式中,如果访客为用户留言,则电子问候系统会将消息发送给用户的设备。如果用户正在监控客户端设备,则用户可以在接收到消息时观看和/或收听消息。否则,该消息由客户端设备或由电子问候系统记录以供用户将来检索。在一些实施方式中,取决于所获取的场境信息,电子问候系统通过提及用户的姓名或通过使用通用占位符(例如“房主”)来向访客识别用户。例如,如果访客是已知的,则电子问候系统将使用用户的姓名,但是如果访客是未知的,则电子问候系统将通过通用占位符来指代用户。在一些实施方式中,(例如,如果用户是已知的)电子问候系统用姓名指代用户。在一些实施方式中,取决于场境信息(例如,如果用户不在,包裹被留在入口以及未知访客进入包装员周围的活动区域,系统向访客传送访客被辨识),电子问候系统通过其他描述性属性(例如,“您好,穿红色连帽衫的人员”)来指代用户。
在一些实施方式中,预编程定制消息,从而允许用户从列表中选择它们。在其他实施方式中,通过客户端设备实时传送定制消息。例如,用户通过直接输入文本消息或通过使用客户端设备的话音转文本应用,在客户端设备上编写定制消息。然后,用户编写的消息在电子问候系统处被文本到话音应用转换为音频消息,并且通过位于入口附近的扬声器将音频消息传送给访客。在一些实施方式中,访客的响应在电子问候系统或客户端设备处被话音到文本应用记录并转换为文本消息,并且通过客户端设备的用户界面将文本消息呈现给用户。在一些实施方式中,访客的消息以音频格式被传输到客户端设备并作为音频消息呈现给用户。在一些实施方式中,如果访客以用户不理解的语言讲话,反之亦然,则消息在电子问候系统或客户端设备处被翻译应用翻译。
在一些实施方式中,除了音频通信之外或作为其替代,电子问候系统向访客呈现视觉通信,诸如由用户在客户端设备上记录的视频消息、预编程的视频消息或用户的文本消息的视觉表示。在一些实施方式中,视觉通信在安装在入口附近的显示器上呈现给访客。
在一些实施方式中,适当的动作包括一个或多个基于动作的动作。基于动作的动作的示例包括调整智能家居环境的安全级别(例如,锁门或解锁门、通过调暗一个或多个灯或打开或关闭一个或多个灯来调整入口处的一个或多个灯或智能家居环境的其他区域中的一个或多个灯的亮度级别、调整警报敏感度级别);提醒执法人员(例如拨打911);提醒用户的预选择的联系人(例如,信任的邻居或邻里监督联系人);捕获访客的图像或视频数据并将其记录,将该访客的图像或视频数据发送给当局或发送给用户的预选择的联系人或打开智能家居环境的警报。
在一些实施方式中,适当的动作包括一个或多个特定人员的动作。特定人员的动作的示例包括基于检测到的访客身份的动作(例如,基于面部辨识、个性化的门铃按钮模式、个性化的键盘密码或上文讨论的其他示例检测的);访客被归类为已知还是未知(例如,“到后面来”对比“请等待帮助”);访客是预期的还是非预期的(例如,“进来并接狗”对比“您似乎比遛狗的约定早”);或访客正在做什么(例如,出现在活动区域中而没有告知、有包裹时进入活动区域或在入口附近徘徊超过阈值的时间)。在一些实施方式中,被归类为具有未知身份的访客仍可以基于其他因素被归类为预期访客,该其他因素诸如制服(例如,表示泳池清洁或遛狗服务)或访客携带或带有的物体(例如泳池清洁装备或狗链)。
在一些实施方式中,适当的动作包括一个或多个特定位置的动作。特定位置的动作的示例包括取决于入口位置的动作,诸如前门的动作的第一子集(例如,基于通信的问候)对比后门或内门的动作的第二子集(例如,基于动作的功能,诸如使警报发声)。
在一些实施方式中,适当的动作包括一个或多个特定建筑物的动作。特定建筑物的动作的示例包括基于智能家居环境是居民住所、公寓大厦或公寓(例如,有在家和离开时间以及各种基于居民的动作)还是工作场所(例如,有营业和关门时间和各种基于工作场所的动作)。特定建筑物的动作的其他示例包括基于智能家居环境所位于的街区或地理区域的相对安全级别的动作(例如,针对安全区域的基于通信的问候对比针对不安全区域的基于动作的安全功能)。
在一些实施方式中,适当的动作包括一个或多个特定用户意向的动作。特定用户意向的动作的示例包括针对感到不安全的用户的动作(例如,独自一人在不安全的街区中的用户可能希望更快地访问基于动作的安全功能)以及针对仅希望监控访客的用户的动作(例如,在工作中并且仅希望监控住所递送的用户可能希望更快地访问基于通信的问候)。
如上所论述的,电子问候系统识别可用于客户端设备的用户以用于经由电子问候系统与访客交互的多个适当动作。在一些实施方式中,该识别基于经排序的动作的排名,该动作的排名基于场境信息。在一些实施方式中,识别进一步基于针对不同情况的定制的用户偏好(例如,如上所论述的,当独自在家时,用户可以决定总是使警报动作快速可用)。电子问候系统继续进行以使所识别的动作被呈现给客户端设备的用户。在一些实施方式中,要呈现给用户的动作的数量基于客户端设备的用户界面的快速动作区域中可用的空间量。在一些实施方式中,用户界面的快速动作区域占用的空间量与用户界面的大小成比例。例如,与具有相对较小屏幕的客户端设备相比,对于具有相对大的屏幕的客户端设备,用户界面的快速动作区域更宽大,从而允许向用户呈现更多动作。在一些实施方式中,用户界面的快速动作区域的大小(因此可以同时呈现给用户的动作的数量)可由用户定制。
电子问候系统进一步被配置为从客户端设备的用户接收对所识别的动作的选择,并且使该动作被执行。在一些实施方式中,如果用户还未找到期望的动作,则系统可以接受用户的请求以显示后续的多个适当的动作。在一些实施方式中,系统从过去的对适当动作的用户选择中学习并且相应地调整具有相似场境信息的动作的未来排名。在一些实施方式中,系统被进一步配置为在由客户端设备促进的用户和访客之间的同时的单向或双向音频通信会话期间,从客户端设备的用户接收对所识别的动作的选择。换句话说,对于在其中用户正在与访客进行音频对话并希望在对话期间选择适当的动作的情况,系统允许用户选择动作(例如,解锁门或拍照)而无需离开音频对话。
在一些实施方式中,电子问候系统进一步被配置为根据在已经向用户呈现了动作的初始子集之后观察到的新的场境信息,向用户呈现动作的经更新的子集。例如,动作的初始子集可以包括基于通信的动作(例如,问候)和基于动作的安全动作(例如,使警报发声)。如果用户发送问候并且访客使用识别信息做出响应(例如,通过展示凭证、更直接地看向相机或在小键盘中输入密码),则电子问候系统可能会提供纯粹基于通信的经更新的动作子集(例如,对访客的响应的多个答复)。另一方面,如果访客未能响应于问候,则电子问候系统可以呈现纯粹基于动作的经更新的动作子集(例如,使警报发声或呼叫当局)。
尽管各种附图中的一些以特定顺序示出了多个逻辑阶段,但是可以重新排序不依赖于顺序的阶段,并且可以组合或分解其他阶段。虽然具体提到了一些重新排序或其他分组,但是其他对于本领域普通技术人员来说是显而易见的,因此本文呈现的排序和分组不是穷尽的替代的列表。此外,应当认识到,这些阶段可以用硬件、固件、软件或其任何组合来实现。
出于解释的目的,已经参考具体实施方式描述了前述描述。然而,上面的说明性讨论并非旨在穷举或将权利要求的范围限制为所公开的精确形式。鉴于上述教导,许多改进和变化都是可能的。选择实施方式以便最好地解释以权利要求为基础的原理及其实际应用,从而使得本领域的其他技术人员能够最好地使用具有适合于预期的特定用途的各种改进的实施方式。
Claims (20)
1.一种电子问候系统的方法,所述方法包括:
检测到环境的访客;
响应于所述检测,从所述环境获取场境信息,所述场境信息包括与所述访客有关的信息;
基于所述场境信息,识别能够用于客户端设备的用户的用于经由所述电子问候系统与所述访客交互的多个适当动作;以及
使所识别的动作被呈现给所述客户端设备的所述用户。
2.根据权利要求1所述的方法,其中,检测访客包括:获取和分析指示访客正在接近入口或在所述入口附近的存在信息。
3.根据权利要求2所述的方法,其中,从所述环境的一个或多个运动传感器的运动数据中得出所述存在信息。
4.根据权利要求2所述的方法,其中:
从具有对应于所述入口的视场的相机获取的视频数据中得出所述存在信息;以及
从所述视频数据中得出所述存在信息包括:分析多个图像帧以确定所述多个图像帧中的对象的位置差异是否超过阈值。
5.根据权利要求2所述的方法,其中:
从在所述入口附近的音频传感器获取的音频数据中得出所述存在信息;以及
从所述音频数据中得出所述存在信息包括识别选自由以下组成的组中的至少一个事件:敲门、门铃声音、脚步声或口头告知。
6.根据权利要求1所述的方法,其中,所述场境信息基于选自由以下组成的组中的一个或多个数据输入:
面部辨识分析结果;
所述访客的一个或多个行为特性;
所述访客的一个或多个身体特性;
所述访客的一个或多个服装和/或配件特性;
所述访客接近所述入口的一天中的时间;
所述访客接近所述入口的一周中的一天;
来自所述环境的音频数据;
时间上接近预排程事件;
时间上接近所述环境的预排程状态;
所述用户的已知或未知状态;
所述用户的预期或非预期状态;
所述用户的位置;
所述用户的身份;以及
一个或多个检测到的访客动作。
7.根据权利要求1所述的方法,其中,所述多个适当动作中的一个或多个动作包括向所述访客传达通信,所述通信选自由以下组成的组:
传达所述用户的状态的通信;
传达所述访客执行动作的请求的通信;
传达所述访客留言的请求的通信;
预编程的定制通信;
用于转换为音频消息的用户编写的文本消息;
通过合成语音传达的音频消息;以及
在显示器上呈现的视觉消息。
8.根据权利要求1所述的方法,其中,所述多个适当动作中的一个或多个动作包括发起选自由以下组成的组中的安全动作:
激活灯或调整所述环境的照明级别;
锁或解锁所述环境的门;
激活警报或调整所述环境的警报敏感度;
激活所述环境的洒水器系统;
激活模拟狗吠;
激活安全系统或调整所述环境的安全状态;
向公共或私人执法人员传输通知或警报;
向所述用户的预选择的联系人传输通知或警报;以及
记录所述访客的图像或视频。
9.根据权利要求1所述的方法,其中,所述多个适当动作包括特定于所述环境的位置的动作、特定于所述环境的建筑物类型的动作、或者特定于用户意向的动作。
10.根据权利要求1所述的方法,其中,所述多个适当动作中的第一动作包括向所述访客传达通信,以及所述多个适当动作中的第二动作包括发起安全动作。
11.根据权利要求1所述的方法,其中,所述场境信息包括在预确定的时间阈值期间不存在所检测的告知事件。
12.根据权利要求1所述的方法,其中,所述场境信息基于一个或多个检测到的访客动作,所述一个或多个检测到的访客动作选自由以下组成的组:门铃激活;敲门;音频告知;以及所述访客与所述电子问候系统之间的交互。
13.根据权利要求1所述的方法,其中,在所述用户与所述访客之间的同时通信期间,所述用户选择被接收。
14.一种电子问候系统,包括:
至少一个传感器;
一个或多个处理器;以及
耦合到所述一个或多个处理器的存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于以下的指令:
检测到环境的访客;
响应于所述检测,从所述环境获取场境信息,所述场境信息包括与所述访客有关的信息;
基于所述场境信息,识别能够用于客户端设备的用户的用于经由所述电子问候系统与所述访客交互的多个适当动作;以及
使所识别的动作被呈现给所述客户端设备的所述用户。
15.根据权利要求14所述的电子问候系统,其中,检测访客包括:获取和分析指示访客正在接近入口或在所述入口附近的存在信息。
16.根据权利要求15所述的电子问候系统,其中:
所述至少一个传感器包括运动传感器;以及
从所述运动传感器的运动数据中得出所述存在信息。
17.根据权利要求15所述的电子问候系统,其中:
所述至少一个传感器包括相机;
从具有对应于所述入口的视场的所述相机获取的视频数据中得出所述存在信息;以及
从所述视频数据中得出所述存在信息包括:分析多个图像帧以确定所述多个图像帧中的对象的位置差异是否超过阈值。
18.根据权利要求15所述的电子问候系统,其中:
所述至少一个传感器包括音频传感器;
从在所述入口附近的所述音频传感器获取的音频数据中得出所述存在信息;以及
从所述音频数据中得出所述存在信息包括识别选自由以下组成的组中的至少一个事件:敲门、门铃声音、脚步声或口头告知。
19.根据权利要求14所述的电子问候系统,其中,所述场境信息基于选自由以下组成的组中的一个或多个数据输入:
面部辨识分析结果;
所述访客的一个或多个行为特性;
所述访客的一个或多个身体特性;
所述访客的一个或多个服装和/或配件特性;
所述访客接近所述入口的一天中的时间;
所述访客接近所述入口的一周中的一天;
来自所述环境的音频数据;
时间上接近预排程事件;
时间上接近所述环境的预排程状态;
所述用户的已知或未知状态;
所述用户的预期或非预期状态;
所述用户的位置;
所述用户的身份;以及
一个或多个检测到的访客动作。
20.根据权利要求14所述的电子问候系统,其中,所述多个适当动作中的一个或多个动作包括向所述访客传达通信,所述通信选自由以下组成的组:
传达所述用户的状态的通信;
传达所述访客执行动作的请求的通信;
传达所述访客留言的请求的通信;
预编程的定制通信;
用于转换为音频消息的用户编写的文本消息;
通过合成语音传达的音频消息;以及
在显示器上呈现的视觉消息。
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201762561132P | 2017-09-20 | 2017-09-20 | |
US62/561,132 | 2017-09-20 | ||
US15/809,924 | 2017-11-10 | ||
US15/809,924 US10664688B2 (en) | 2017-09-20 | 2017-11-10 | Systems and methods of detecting and responding to a visitor to a smart home environment |
CN201880033972.7A CN110914878A (zh) | 2017-09-20 | 2018-08-16 | 检测和响应于智能家居环境的访客的系统和方法 |
PCT/US2018/046811 WO2019060066A1 (en) | 2017-09-20 | 2018-08-16 | SYSTEMS AND METHODS FOR VISITOR DETECTION AND RESPONSE OF INTELLIGENT DOMESTIC ENVIRONMENT |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201880033972.7A Division CN110914878A (zh) | 2017-09-20 | 2018-08-16 | 检测和响应于智能家居环境的访客的系统和方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117496643A true CN117496643A (zh) | 2024-02-02 |
Family
ID=65719370
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311444135.2A Pending CN117496643A (zh) | 2017-09-20 | 2018-08-16 | 检测和响应于智能家居环境的访客的系统和方法 |
CN201880033972.7A Pending CN110914878A (zh) | 2017-09-20 | 2018-08-16 | 检测和响应于智能家居环境的访客的系统和方法 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201880033972.7A Pending CN110914878A (zh) | 2017-09-20 | 2018-08-16 | 检测和响应于智能家居环境的访客的系统和方法 |
Country Status (4)
Country | Link |
---|---|
US (4) | US10664688B2 (zh) |
EP (1) | EP3685361A1 (zh) |
CN (2) | CN117496643A (zh) |
WO (1) | WO2019060066A1 (zh) |
Families Citing this family (48)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA3040856C (en) | 2015-10-21 | 2024-01-02 | 15 Seconds of Fame, Inc. | Methods and apparatus for false positive minimization in facial recognition applications |
US10380429B2 (en) | 2016-07-11 | 2019-08-13 | Google Llc | Methods and systems for person detection in a video feed |
US10095933B2 (en) * | 2016-12-05 | 2018-10-09 | Google Llc | Systems and methods for locating image data for selected regions of interest |
US11783010B2 (en) | 2017-05-30 | 2023-10-10 | Google Llc | Systems and methods of person recognition in video streams |
US11134227B2 (en) * | 2017-09-20 | 2021-09-28 | Google Llc | Systems and methods of presenting appropriate actions for responding to a visitor to a smart home environment |
US10664688B2 (en) | 2017-09-20 | 2020-05-26 | Google Llc | Systems and methods of detecting and responding to a visitor to a smart home environment |
US10777055B1 (en) * | 2018-02-18 | 2020-09-15 | Amazon Technologies, Inc. | Displaying event video on a device |
CN108280953A (zh) * | 2018-03-27 | 2018-07-13 | 上海小蚁科技有限公司 | 视频侦测报警方法及装置、存储介质、摄像头 |
US11115630B1 (en) * | 2018-03-28 | 2021-09-07 | Amazon Technologies, Inc. | Custom and automated audio prompts for devices |
US20190354074A1 (en) * | 2018-05-17 | 2019-11-21 | Johnson Controls Technology Company | Building management system control using occupancy data |
WO2020033344A1 (en) | 2018-08-06 | 2020-02-13 | Aldeyra Therapeutics, Inc. | Polymorphic compounds and uses thereof |
US10936856B2 (en) * | 2018-08-31 | 2021-03-02 | 15 Seconds of Fame, Inc. | Methods and apparatus for reducing false positives in facial recognition |
US11501618B1 (en) * | 2018-10-19 | 2022-11-15 | Amazon Technologies, Inc. | Security device with user-configurable motion detection settings |
US11195067B2 (en) * | 2018-12-21 | 2021-12-07 | Ambient AI, Inc. | Systems and methods for machine learning-based site-specific threat modeling and threat detection |
US11443515B2 (en) | 2018-12-21 | 2022-09-13 | Ambient AI, Inc. | Systems and methods for machine learning enhanced intelligent building access endpoint security monitoring and management |
US11741802B2 (en) * | 2018-12-27 | 2023-08-29 | John Otis Farneman | Home security light bulb adapter |
US11145171B2 (en) * | 2019-02-28 | 2021-10-12 | Arlo Technologies, Inc. | Electronic doorbell system with text communication |
US11010596B2 (en) | 2019-03-07 | 2021-05-18 | 15 Seconds of Fame, Inc. | Apparatus and methods for facial recognition systems to identify proximity-based connections |
US11900744B2 (en) | 2019-03-22 | 2024-02-13 | Eingot Llc | Virtual intercom system |
US10685516B1 (en) * | 2019-03-22 | 2020-06-16 | Eingot Llc | Virtual intercom system |
US11678011B1 (en) * | 2019-04-17 | 2023-06-13 | Kuna Systems Corporation | Mobile distributed security response |
US11181878B2 (en) * | 2019-04-29 | 2021-11-23 | Adnoviv Inc. | Dual mode system for detecting occupancy of a room |
US11709245B2 (en) * | 2019-04-29 | 2023-07-25 | Adnoviv Inc. | System and methods for radar-based detection of people in a room |
CN110164074A (zh) * | 2019-05-30 | 2019-08-23 | 移康智能科技(上海)股份有限公司 | 一种预警方法、预警装置及计算机存储介质 |
WO2020256195A1 (ko) * | 2019-06-21 | 2020-12-24 | 엘지전자 주식회사 | 빌딩 관리 로봇 및 그를 이용한 서비스 제공 방법 |
CN112211496B (zh) * | 2019-07-09 | 2022-11-01 | 杭州萤石软件有限公司 | 一种基于智能门锁的监控方法、系统及智能门锁 |
KR20210007586A (ko) * | 2019-07-12 | 2021-01-20 | 한화테크윈 주식회사 | 카메라를 포함하는 도어벨과 연관되는 사용자 단말기를 제어하는 네트워크 서버 및 방법 |
US11893795B2 (en) | 2019-12-09 | 2024-02-06 | Google Llc | Interacting with visitors of a connected home environment |
US11425339B2 (en) * | 2019-12-11 | 2022-08-23 | Lg Electronics Inc. | Artificial intelligence device and method thereof |
US11743070B2 (en) | 2019-12-11 | 2023-08-29 | At&T Intellectual Property I, L.P. | Variable information communication |
KR102514128B1 (ko) * | 2019-12-11 | 2023-03-24 | 엘지전자 주식회사 | 복수의 홈 디바이스간 연결을 제공하는 인공 지능 장치 및 그 방법 |
US11341351B2 (en) | 2020-01-03 | 2022-05-24 | 15 Seconds of Fame, Inc. | Methods and apparatus for facial recognition on a user device |
US11403925B2 (en) | 2020-04-28 | 2022-08-02 | Ademco Inc. | Systems and methods for broadcasting an audio or visual alert that includes a description of features of an ambient object extracted from an image captured by a camera of a doorbell device |
US11436906B1 (en) * | 2020-05-18 | 2022-09-06 | Sidhya V Peddinti | Visitor detection, facial recognition, and alert system and processes for assisting memory-challenged patients to recognize entryway visitors |
US11068702B1 (en) | 2020-07-29 | 2021-07-20 | Motorola Solutions, Inc. | Device, system, and method for performance monitoring and feedback for facial recognition systems |
JP2022028263A (ja) * | 2020-08-03 | 2022-02-16 | オムロン株式会社 | コミュニケーション支援装置、コミュニケーション支援方法、コミュニケーション支援プログラム及びサーバ装置 |
TWI812910B (zh) * | 2020-10-09 | 2023-08-21 | 美商嘉年華公司 | 用於無線訪客銜接系統的天線裝置及其製造和使用方法 |
CN112201278A (zh) * | 2020-10-12 | 2021-01-08 | 北京捷通华声科技股份有限公司 | 应答处理方法、装置、系统及计算机可读存储介质 |
GB202019713D0 (en) * | 2020-12-14 | 2021-01-27 | Vaion Ltd | Security system |
EP4272406A1 (en) | 2020-12-29 | 2023-11-08 | Snap Inc. | Body ui for augmented reality components |
US11500454B2 (en) * | 2020-12-29 | 2022-11-15 | Snap Inc. | Body UI for augmented reality components |
CN112967781A (zh) * | 2021-02-01 | 2021-06-15 | 苏州工业职业技术学院 | 一种基于nfc的运动社交系统及方法 |
US11571594B2 (en) * | 2021-02-11 | 2023-02-07 | Raheem Furson | Fire extinguishing range assembly |
CN113392271A (zh) * | 2021-05-25 | 2021-09-14 | 珠海格力电器股份有限公司 | 猫眼数据的处理方法、模组、电子设备和存储介质 |
CN117529754A (zh) * | 2021-08-02 | 2024-02-06 | 谷歌有限责任公司 | 用于设备上人员辨识和智能警报的供应的系统和方法 |
CN113656838B (zh) * | 2021-08-31 | 2023-05-26 | 日立楼宇技术(广州)有限公司 | 智能家居数据保护方法、装置、计算机设备和存储介质 |
US11546181B1 (en) * | 2021-09-13 | 2023-01-03 | International Business Machines Corporation | Contextually driven diversion enhancement framework |
CN114429617A (zh) * | 2022-01-26 | 2022-05-03 | 中煤科工集团重庆智慧城市科技研究院有限公司 | 应用于智慧城市箱体检测的异常识别结果处理方法 |
Family Cites Families (508)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2183878B (en) | 1985-10-11 | 1989-09-20 | Matsushita Electric Works Ltd | Abnormality supervising system |
DE8816238U1 (de) | 1988-12-31 | 1989-03-02 | Priesemuth, Wolfgang, 25524 Breitenburg | Tastschalter |
USD339543S (en) | 1990-02-28 | 1993-09-21 | Inventio Ag | Combined face plate and push button actuator of controlling an elevator |
US5237408A (en) | 1991-08-02 | 1993-08-17 | Presearch Incorporated | Retrofitting digital video surveillance system |
US5627586A (en) | 1992-04-09 | 1997-05-06 | Olympus Optical Co., Ltd. | Moving body detection device of camera |
US7110658B1 (en) | 1993-01-08 | 2006-09-19 | Televentions, Llc | Method and apparatus for eliminating television commercial messages |
US5396284A (en) | 1993-08-20 | 1995-03-07 | Burle Technologies, Inc. | Motion detection system |
US6028626A (en) | 1995-01-03 | 2000-02-22 | Arc Incorporated | Abnormality detection and surveillance system |
US5969755A (en) | 1996-02-05 | 1999-10-19 | Texas Instruments Incorporated | Motion based event detection system and method |
US6046745A (en) | 1996-03-25 | 2000-04-04 | Hitachi, Ltd. | Three-dimensional model making device and its method |
US7801736B1 (en) | 2000-10-13 | 2010-09-21 | Wms Gaming, Inc. | System, method, and article of manufacture for locating and communicating with a patron at a hospitality facility |
US5854902A (en) | 1996-10-31 | 1998-12-29 | Sensormatic Electronics Corporation | Video data capture and formatting in intelligent video information management system |
US5956424A (en) | 1996-12-23 | 1999-09-21 | Esco Electronics Corporation | Low false alarm rate detection for a video image processing based security alarm system |
AUPO894497A0 (en) | 1997-09-02 | 1997-09-25 | Xenotech Research Pty Ltd | Image processing method and apparatus |
US6400378B1 (en) | 1997-09-26 | 2002-06-04 | Sony Corporation | Home movie maker |
US6107918A (en) | 1997-11-25 | 2000-08-22 | Micron Electronics, Inc. | Method for personal computer-based home surveillance |
US6697103B1 (en) | 1998-03-19 | 2004-02-24 | Dennis Sunga Fernandez | Integrated network for monitoring remote objects |
KR100303727B1 (ko) | 1998-04-28 | 2001-09-24 | 구자홍 | 동영상의적응적디스플레이속도자동조절장치와방법 |
US7023469B1 (en) | 1998-04-30 | 2006-04-04 | Texas Instruments Incorporated | Automatic video monitoring system which selectively saves information |
US6816184B1 (en) | 1998-04-30 | 2004-11-09 | Texas Instruments Incorporated | Method and apparatus for mapping a location from a video image to a map |
KR100274397B1 (ko) | 1998-06-18 | 2000-12-15 | 구자홍 | 타임랩스 영상녹화재생기의 메모리 운용방법 |
USD450059S1 (en) | 1998-07-31 | 2001-11-06 | Sony Corporation | Computer generated image for a display panel or screen |
US6144375A (en) | 1998-08-14 | 2000-11-07 | Praja Inc. | Multi-perspective viewer for content-based interactivity |
US20030025599A1 (en) | 2001-05-11 | 2003-02-06 | Monroe David A. | Method and apparatus for collecting, sending, archiving and retrieving motion video and still images and notification of detected events |
US6970183B1 (en) | 2000-06-14 | 2005-11-29 | E-Watch, Inc. | Multimedia surveillance and monitoring system including network configuration |
US6628835B1 (en) | 1998-08-31 | 2003-09-30 | Texas Instruments Incorporated | Method and system for defining and recognizing complex events in a video sequence |
US6366296B1 (en) | 1998-09-11 | 2002-04-02 | Xerox Corporation | Media browser using multimodal analysis |
US6647200B1 (en) | 1998-10-29 | 2003-11-11 | Securion 24 Co., Ltd. | Digital recorder, monitoring system, remote monitoring system, monitor image retrieval method, remote image reproduction method, recording medium and computer data signal |
US6748421B1 (en) | 1998-12-23 | 2004-06-08 | Canon Kabushiki Kaisha | Method and system for conveying video messages |
JP3826598B2 (ja) | 1999-01-29 | 2006-09-27 | 株式会社日立製作所 | 画像監視装置及び記録媒体 |
US6236395B1 (en) | 1999-02-01 | 2001-05-22 | Sharp Laboratories Of America, Inc. | Audiovisual information management system |
US6330025B1 (en) | 1999-05-10 | 2001-12-11 | Nice Systems Ltd. | Digital video logging system |
US6895557B1 (en) | 1999-07-21 | 2005-05-17 | Ipix Corporation | Web-based media submission tool |
US6476858B1 (en) | 1999-08-12 | 2002-11-05 | Innovation Institute | Video monitoring and security system |
US20070008099A1 (en) | 1999-09-01 | 2007-01-11 | Nettalon Security Systems, Inc. | Method and apparatus for remotely monitoring a site |
US6917288B2 (en) | 1999-09-01 | 2005-07-12 | Nettalon Security Systems, Inc. | Method and apparatus for remotely monitoring a site |
US7995096B1 (en) | 1999-09-23 | 2011-08-09 | The Boeing Company | Visual security operations system |
US6424370B1 (en) | 1999-10-08 | 2002-07-23 | Texas Instruments Incorporated | Motion based event detection system and method |
US20020002425A1 (en) | 1999-11-30 | 2002-01-03 | Dossey James F. | Computer controlled irrigation and environment management system |
US6643416B1 (en) | 1999-11-30 | 2003-11-04 | Eastman Kodak Company | Method for determining necessary resolution for zoom and crop images |
FR2801991B1 (fr) | 1999-12-03 | 2002-05-03 | Canon Kk | Procede et dispositif de recherche d'images basee sur le contenu prenant en compte le contenu de regions d'interet |
GB9929870D0 (en) | 1999-12-18 | 2000-02-09 | Roke Manor Research | Improvements in or relating to security camera systems |
US6774905B2 (en) | 1999-12-23 | 2004-08-10 | Wespot Ab | Image data processing |
JP2001266158A (ja) | 2000-01-11 | 2001-09-28 | Canon Inc | 画像処理装置、画像処理システム、画像処理方法、及び記憶媒体 |
US7612796B2 (en) | 2000-01-13 | 2009-11-03 | Countwise, Llc | Video-based system and method for counting persons traversing areas being monitored |
US6665423B1 (en) | 2000-01-27 | 2003-12-16 | Eastman Kodak Company | Method and system for object-oriented motion-based video description |
US6600784B1 (en) | 2000-02-02 | 2003-07-29 | Mitsubishi Electric Research Laboratories, Inc. | Descriptor for spatial distribution of motion activity in compressed video |
US7823066B1 (en) | 2000-03-03 | 2010-10-26 | Tibco Software Inc. | Intelligent console for content-based interactivity |
US20010043721A1 (en) | 2000-03-21 | 2001-11-22 | Sarnoff Corporation | Method and apparatus for performing motion analysis on an image sequence |
KR100806647B1 (ko) | 2000-03-31 | 2008-02-26 | 유나이티드 비디오 프로퍼티즈, 인크. | 프로그램 녹화시 잘려나감을 감소시키는 시스템 및 방법 |
JP4660879B2 (ja) | 2000-04-27 | 2011-03-30 | ソニー株式会社 | 情報提供装置および方法、並びにプログラム |
ATE540347T1 (de) | 2000-05-01 | 2012-01-15 | Irobot Corp | Verfahren und vorrichtung zur steuerung eines mobilen roboters |
CN1606758A (zh) | 2000-08-31 | 2005-04-13 | 雷泰克公司 | 传感器和成像系统 |
WO2002021441A1 (fr) | 2000-09-06 | 2002-03-14 | Hitachi, Ltd. | Detecteur de comportement anormal |
US6665450B1 (en) | 2000-09-08 | 2003-12-16 | Avid Technology, Inc. | Interpolation of a sequence of images using motion analysis |
US8564661B2 (en) | 2000-10-24 | 2013-10-22 | Objectvideo, Inc. | Video analytic rule detection system and method |
US20050162515A1 (en) | 2000-10-24 | 2005-07-28 | Objectvideo, Inc. | Video surveillance system |
US20050146605A1 (en) | 2000-10-24 | 2005-07-07 | Lipton Alan J. | Video surveillance system employing video primitives |
WO2002037856A1 (en) | 2000-11-06 | 2002-05-10 | Dynapel Systems, Inc. | Surveillance video camera enhancement system |
US20020126224A1 (en) | 2000-12-28 | 2002-09-12 | Rainer Lienhart | System for detection of transition and special effects in video |
US20020089549A1 (en) | 2001-01-09 | 2002-07-11 | Munro James A. | Image having a hierarchical structure |
US7710457B2 (en) | 2001-01-10 | 2010-05-04 | Ip Holdings, Inc. | Motion detector camera having a flash |
US6841780B2 (en) | 2001-01-19 | 2005-01-11 | Honeywell International Inc. | Method and apparatus for detecting objects |
US20020168084A1 (en) | 2001-05-14 | 2002-11-14 | Koninklijke Philips Electronics N.V. | Method and apparatus for assisting visitors in navigating retail and exhibition-like events using image-based crowd analysis |
US20050005308A1 (en) | 2002-01-29 | 2005-01-06 | Gotuit Video, Inc. | Methods and apparatus for recording and replaying sports broadcasts |
US20030053658A1 (en) | 2001-06-29 | 2003-03-20 | Honeywell International Inc. | Surveillance system and methods regarding same |
US7162698B2 (en) | 2001-07-17 | 2007-01-09 | Mcafee, Inc. | Sliding window packet management systems |
JP2003059955A (ja) | 2001-08-08 | 2003-02-28 | Matsushita Electric Ind Co Ltd | 電子部品実装装置および電子部品実装方法 |
US7369680B2 (en) | 2001-09-27 | 2008-05-06 | Koninklijke Phhilips Electronics N.V. | Method and apparatus for detecting an event based on patterns of behavior |
US6778180B2 (en) | 2001-09-28 | 2004-08-17 | The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration | Video image tracking engine |
US20030101104A1 (en) | 2001-11-28 | 2003-05-29 | Koninklijke Philips Electronics N.V. | System and method for retrieving information related to targeted subjects |
US7130446B2 (en) | 2001-12-03 | 2006-10-31 | Microsoft Corporation | Automatic detection and tracking of multiple individuals using multiple cues |
US7088773B2 (en) | 2002-01-17 | 2006-08-08 | Sony Corporation | Motion segmentation system with multi-frame hypothesis tracking |
JP3999561B2 (ja) * | 2002-05-07 | 2007-10-31 | 松下電器産業株式会社 | 監視システムと監視カメラ |
US8872979B2 (en) | 2002-05-21 | 2014-10-28 | Avaya Inc. | Combined-media scene tracking for audio-video summarization |
US7016415B2 (en) | 2002-07-16 | 2006-03-21 | Broadcom Corporation | Modifying motion control signals based on input video characteristics |
US6879656B2 (en) | 2002-07-23 | 2005-04-12 | General Electric Company | Method and apparatus for deriving motion information from projection data |
US7058902B2 (en) | 2002-07-30 | 2006-06-06 | Microsoft Corporation | Enhanced on-object context menus |
US7382896B2 (en) | 2002-08-13 | 2008-06-03 | Hitachi Kokusai Electric Inc. | Object detection method and apparatus which perform object detection using set parameters |
GB0218982D0 (en) | 2002-08-15 | 2002-09-25 | Roke Manor Research | Video motion anomaly detector |
US8181205B2 (en) | 2002-09-24 | 2012-05-15 | Russ Samuel H | PVR channel and PVR IPG information |
USD483281S1 (en) | 2002-10-15 | 2003-12-09 | Koninklijke Philips Electronics N.V. | Signal transmitting device |
USD491956S1 (en) | 2002-10-17 | 2004-06-22 | Pioneer Digital Technologies, Inc. | Graphical timeline for a display |
USD499740S1 (en) | 2002-10-17 | 2004-12-14 | Pioneer Digital Technologies, Inc. | Minimized graphical timeline for a display |
US20040143602A1 (en) | 2002-10-18 | 2004-07-22 | Antonio Ruiz | Apparatus, system and method for automated and adaptive digital image/video surveillance for events and configurations using a rich multimedia relational database |
US20040109059A1 (en) | 2002-11-12 | 2004-06-10 | Kevin Kawakita | Hybrid joint photographer's experts group (JPEG) /moving picture experts group (MPEG) specialized security video camera |
US20040100560A1 (en) | 2002-11-22 | 2004-05-27 | Stavely Donald J. | Tracking digital zoom in a digital video camera |
US20040174434A1 (en) | 2002-12-18 | 2004-09-09 | Walker Jay S. | Systems and methods for suggesting meta-information to a camera user |
US20040123328A1 (en) | 2002-12-20 | 2004-06-24 | Ecamsecure, Inc. | Mobile surveillance vehicle |
US7095786B1 (en) | 2003-01-11 | 2006-08-22 | Neo Magic Corp. | Object tracking using adaptive block-size matching along object boundary and frame-skipping when object motion is low |
US7240361B2 (en) | 2003-01-31 | 2007-07-03 | Qwest Communications International Inc. | Systems and methods for controlled transmittance in a telecommunication system |
US7421727B2 (en) | 2003-02-14 | 2008-09-02 | Canon Kabushiki Kaisha | Motion detecting system, motion detecting method, motion detecting apparatus, and program for implementing the method |
US20040196369A1 (en) | 2003-03-07 | 2004-10-07 | Canon Kabushiki Kaisha | Monitoring system |
US8292433B2 (en) | 2003-03-21 | 2012-10-23 | Queen's University At Kingston | Method and apparatus for communication between humans and devices |
US20100002070A1 (en) | 2004-04-30 | 2010-01-07 | Grandeye Ltd. | Method and System of Simultaneously Displaying Multiple Views for Video Surveillance |
US7221331B2 (en) | 2003-05-05 | 2007-05-22 | Microsoft Corporation | Method and system for auxiliary display of information for a computing device |
US20040229569A1 (en) | 2003-05-13 | 2004-11-18 | Hewlett-Packard Development Company, L.P. | Door answering systems and methods |
US7440634B2 (en) | 2003-06-17 | 2008-10-21 | The Trustees Of Columbia University In The City Of New York | Method for de-blurring images of moving objects |
US8553949B2 (en) | 2004-01-22 | 2013-10-08 | DigitalOptics Corporation Europe Limited | Classification and organization of consumer digital images using workflow, and face detection and recognition |
GB2404247B (en) | 2003-07-22 | 2005-07-20 | Hitachi Int Electric Inc | Object tracing method and object tracking apparatus |
US7280753B2 (en) | 2003-09-03 | 2007-10-09 | Canon Kabushiki Kaisha | Display apparatus, image processing apparatus, and image processing system |
US7440613B2 (en) | 2003-09-12 | 2008-10-21 | Sony Corporation | Binary mask interpolation |
US7372991B2 (en) | 2003-09-26 | 2008-05-13 | Seiko Epson Corporation | Method and apparatus for summarizing and indexing the contents of an audio-visual presentation |
US20050157949A1 (en) | 2003-09-30 | 2005-07-21 | Seiji Aiso | Generation of still image |
US20050104958A1 (en) | 2003-11-13 | 2005-05-19 | Geoffrey Egnal | Active camera video-based surveillance systems and methods |
US20050132414A1 (en) | 2003-12-02 | 2005-06-16 | Connexed, Inc. | Networked video surveillance system |
US20080303903A1 (en) | 2003-12-02 | 2008-12-11 | Connexed Technologies Inc. | Networked video surveillance system |
US9311540B2 (en) | 2003-12-12 | 2016-04-12 | Careview Communications, Inc. | System and method for predicting patient falls |
JP2007520934A (ja) | 2003-12-24 | 2007-07-26 | ウオーカー ディジタル、エルエルシー | 画像を自動的に捕捉し、管理する方法および装置 |
WO2005084036A1 (ja) | 2004-03-01 | 2005-09-09 | Sony Corporation | 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム |
JP4424590B2 (ja) | 2004-03-05 | 2010-03-03 | 株式会社Kddi研究所 | スポーツ映像の分類装置 |
US20050200486A1 (en) | 2004-03-11 | 2005-09-15 | Greer Richard S. | Patient visual monitoring system |
US9191228B2 (en) | 2005-03-16 | 2015-11-17 | Icontrol Networks, Inc. | Cross-client sensor user interface in an integrated security network |
US10156959B2 (en) | 2005-03-16 | 2018-12-18 | Icontrol Networks, Inc. | Cross-client sensor user interface in an integrated security network |
US8472791B2 (en) | 2004-03-17 | 2013-06-25 | Hewlett-Packard Development Company, L.P. | Variable speed video playback |
US20070223874A1 (en) | 2004-04-07 | 2007-09-27 | Koninklijke Philips Electronics, N.V. | Video-Audio Synchronization |
US20050246119A1 (en) | 2004-04-16 | 2005-11-03 | Koodali Anurag T | Event occurrence graph |
DE112005000929B4 (de) | 2004-04-28 | 2011-07-21 | Chuo Electronics Co. Ltd., Tokyo | Automatisches Abbildungsverfahren und Vorrichtung |
US8427538B2 (en) | 2004-04-30 | 2013-04-23 | Oncam Grandeye | Multiple view and multiple object processing in wide-angle video camera |
US7382233B2 (en) | 2004-05-08 | 2008-06-03 | Scott Steinetz | Sampling playback doorbell system |
US7079014B2 (en) | 2004-05-08 | 2006-07-18 | Scott Steinetz | Digital sampling playback doorbell system |
US7813525B2 (en) | 2004-06-01 | 2010-10-12 | Sarnoff Corporation | Method and apparatus for detecting suspicious activities |
US20070035622A1 (en) | 2004-06-01 | 2007-02-15 | Hanna Keith J | Method and apparatus for video surveillance |
JP4478510B2 (ja) | 2004-06-03 | 2010-06-09 | キヤノン株式会社 | カメラシステム、カメラ、及びカメラの制御方法 |
US7631808B2 (en) | 2004-06-21 | 2009-12-15 | Stoplift, Inc. | Method and apparatus for detecting suspicious activity using video analysis |
US7304572B2 (en) | 2004-06-29 | 2007-12-04 | Motorola, Inc. | Cellular communications based intercom system and methods |
US8051087B2 (en) | 2004-07-04 | 2011-11-01 | Yahoo! Inc. | Customized geographical location indexing |
WO2006040687A2 (en) | 2004-07-19 | 2006-04-20 | Grandeye, Ltd. | Automatically expanding the zoom capability of a wide-angle video camera |
US7639840B2 (en) | 2004-07-28 | 2009-12-29 | Sarnoff Corporation | Method and apparatus for improved video surveillance through classification of detected objects |
US7457472B2 (en) | 2005-03-31 | 2008-11-25 | Euclid Discoveries, Llc | Apparatus and method for processing video data |
US7629995B2 (en) | 2004-08-06 | 2009-12-08 | Sony Corporation | System and method for correlating camera views |
US8724891B2 (en) | 2004-08-31 | 2014-05-13 | Ramot At Tel-Aviv University Ltd. | Apparatus and methods for the detection of abnormal motion in a video stream |
US7606425B2 (en) | 2004-09-09 | 2009-10-20 | Honeywell International Inc. | Unsupervised learning of events in a video sequence |
USD510584S1 (en) | 2004-09-15 | 2005-10-11 | International Business Machines Corporation | Portable digital multimedia jukebox |
CN101061489B (zh) | 2004-09-21 | 2011-09-07 | 欧几里得发现有限责任公司 | 用来处理视频数据的装置和方法 |
KR100561633B1 (ko) | 2004-09-22 | 2006-03-20 | 한국전자통신연구원 | 무선통신 단말기를 이용한 지능형 홈 방문자 확인 및 통화서비스 시스템과 그 방법 |
US20060072847A1 (en) | 2004-10-01 | 2006-04-06 | Microsoft Corporation | System for automatic image cropping based on image saliency |
US7447337B2 (en) | 2004-10-25 | 2008-11-04 | Hewlett-Packard Development Company, L.P. | Video content understanding through real time video motion analysis |
JP4487191B2 (ja) | 2004-12-24 | 2010-06-23 | カシオ計算機株式会社 | 画像処理装置および画像処理プログラム |
US8583139B2 (en) | 2004-12-31 | 2013-11-12 | Nokia Corporation | Context diary application for a mobile terminal |
US20060171453A1 (en) | 2005-01-04 | 2006-08-03 | Rohlfing Thomas R | Video surveillance system |
US7728911B2 (en) | 2005-01-26 | 2010-06-01 | Hewlett-Packard Development Company, L.P. | Positively indicating to user whether signal has been detected on each video input |
US7403116B2 (en) | 2005-02-28 | 2008-07-22 | Westec Intelligent Surveillance, Inc. | Central monitoring/managed surveillance system and method |
EP1859411B1 (en) | 2005-03-17 | 2010-11-03 | BRITISH TELECOMMUNICATIONS public limited company | Tracking objects in a video sequence |
US7760908B2 (en) | 2005-03-31 | 2010-07-20 | Honeywell International Inc. | Event packaged video sequence |
US7801328B2 (en) | 2005-03-31 | 2010-09-21 | Honeywell International Inc. | Methods for defining, detecting, analyzing, indexing and retrieving events using video image processing |
US7602944B2 (en) | 2005-04-06 | 2009-10-13 | March Networks Corporation | Method and system for counting moving objects in a digital video stream |
US7599542B2 (en) | 2005-04-08 | 2009-10-06 | John Philip Brockway | System and method for detection and display of diseases and abnormalities using confidence imaging |
US20070002141A1 (en) | 2005-04-19 | 2007-01-04 | Objectvideo, Inc. | Video-based human, non-human, and/or motion verification system and method |
ITRM20050192A1 (it) | 2005-04-20 | 2006-10-21 | Consiglio Nazionale Ricerche | Sistema per la rilevazione e la classificazione di eventi durante azioni in movimento. |
USD555661S1 (en) | 2005-04-27 | 2007-11-20 | Samsung Electronics Co., Ltd. | Mobile phone display panel with menus |
US20060274949A1 (en) | 2005-06-02 | 2006-12-07 | Eastman Kodak Company | Using photographer identity to classify images |
US7613324B2 (en) | 2005-06-24 | 2009-11-03 | ObjectVideo, Inc | Detection of change in posture in video |
ES2399030T3 (es) | 2005-07-18 | 2013-03-25 | Hysterical Sunset Limited | Indexación automatizada asistida de forma manual de imágenes usando reconocimiento facial |
WO2007009238A1 (en) | 2005-07-19 | 2007-01-25 | March Networks Corporation | Temporal data previewing system |
USD620950S1 (en) | 2005-08-05 | 2010-08-03 | Google Inc. | Display screen of a communications terminal with teardrop-shaped marker icon |
KR100718088B1 (ko) | 2005-08-19 | 2007-05-16 | 삼성전자주식회사 | 감시용 카메라 |
US20070058040A1 (en) | 2005-09-09 | 2007-03-15 | Objectvideo, Inc. | Video surveillance using spatial-temporal motion analysis |
US8024768B2 (en) | 2005-09-15 | 2011-09-20 | Penthera Partners, Inc. | Broadcasting video content to devices having different video presentation capabilities |
US7876978B2 (en) | 2005-10-13 | 2011-01-25 | Penthera Technologies, Inc. | Regions of interest in video frames |
US7773813B2 (en) | 2005-10-31 | 2010-08-10 | Microsoft Corporation | Capture-intention detection for video content analysis |
US7443304B2 (en) | 2005-12-09 | 2008-10-28 | Honeywell International Inc. | Method and system for monitoring a patient in a premises |
KR101268432B1 (ko) | 2006-01-09 | 2013-05-28 | 삼성전자주식회사 | 스마트 커뮤니케이터를 이용한 지능형 출입 인증 시스템 및방법 |
US20070186238A1 (en) | 2006-02-07 | 2007-08-09 | Schrager Martin M | Method and apparatus for presenting ecommerce offerings using seamless panoramic streaming of video data |
US7421455B2 (en) | 2006-02-27 | 2008-09-02 | Microsoft Corporation | Video search and services |
WO2007096004A1 (en) | 2006-02-27 | 2007-08-30 | Robert Bosch Gmbh | Video retrieval system, method and computer program for surveillance of moving objects |
JP4525618B2 (ja) | 2006-03-06 | 2010-08-18 | ソニー株式会社 | 映像監視システムおよび映像監視プログラム |
US8780139B2 (en) | 2006-03-27 | 2014-07-15 | Adobe Systems Incorporated | Resolution monitoring when using visual manipulation tools |
US20070255742A1 (en) | 2006-04-28 | 2007-11-01 | Microsoft Corporation | Category Topics |
US20070257986A1 (en) | 2006-05-05 | 2007-11-08 | Ivanov Yuri A | Method for processing queries for surveillance tasks |
US7685519B1 (en) | 2006-07-18 | 2010-03-23 | Intuit Inc. | Process and apparatus for providing a customizable content tooltip |
US20090117883A1 (en) | 2006-07-20 | 2009-05-07 | Dan Coffing | Transaction system for business and social networking |
EP2050067A1 (en) | 2006-08-03 | 2009-04-22 | Alterface S.A. | Method and device for identifying and extracting images of multiple users, and for recognizing user gestures |
US20080122926A1 (en) | 2006-08-14 | 2008-05-29 | Fuji Xerox Co., Ltd. | System and method for process segmentation using motion detection |
JP2008048279A (ja) | 2006-08-18 | 2008-02-28 | Toshiba Corp | 映像再生装置、方法およびプログラム |
US20080051648A1 (en) | 2006-08-25 | 2008-02-28 | Suri Jasjit S | Medical image enhancement system |
JP4750854B2 (ja) | 2006-09-14 | 2011-08-17 | 富士通株式会社 | 画像処理方法および装置とそのプログラム |
US9103195B2 (en) | 2006-09-27 | 2015-08-11 | Halliburton Energy Services, Inc. | Monitor and control of directional drilling operations and simulations |
KR20090091646A (ko) | 2006-12-18 | 2009-08-28 | 소니 가부시끼 가이샤 | 촬상 장치 및 방법, 기록 장치 및 방법, 재생 장치 및 방법 |
JP4843482B2 (ja) | 2006-12-27 | 2011-12-21 | 株式会社東芝 | 情報処理装置およびプログラム |
US7840031B2 (en) | 2007-01-12 | 2010-11-23 | International Business Machines Corporation | Tracking a range of body movement based on 3D captured image streams of a user |
US20080178069A1 (en) | 2007-01-22 | 2008-07-24 | Stallings Richard W | Content Authoring System and Method |
US10621203B2 (en) | 2007-01-26 | 2020-04-14 | Information Resources, Inc. | Cross-category view of a dataset using an analytic platform |
US20080270363A1 (en) | 2007-01-26 | 2008-10-30 | Herbert Dennis Hunt | Cluster processing of a core information matrix |
US8300890B1 (en) | 2007-01-29 | 2012-10-30 | Intellivision Technologies Corporation | Person/object image and screening |
WO2008092255A1 (en) | 2007-01-30 | 2008-08-07 | March Networks Corporation | Method and system for task-based video analytics processing |
US20100033573A1 (en) | 2007-02-15 | 2010-02-11 | Security Agency Sigma Jsc | Mobile system and method for remote control and viewing |
US8494234B1 (en) | 2007-03-07 | 2013-07-23 | MotionDSP, Inc. | Video hashing system and method |
US8295597B1 (en) | 2007-03-14 | 2012-10-23 | Videomining Corporation | Method and system for segmenting people in a physical space based on automatic behavior analysis |
WO2008111005A1 (en) | 2007-03-15 | 2008-09-18 | Nokia Corporation | System and method for providing improved residual prediction for spatial scalability in video coding |
JP5284599B2 (ja) | 2007-03-30 | 2013-09-11 | 株式会社日立国際電気 | 画像処理装置 |
JP2008250908A (ja) | 2007-03-30 | 2008-10-16 | Toshiba Corp | 映像判別方法および映像判別装置 |
US20080244453A1 (en) | 2007-04-01 | 2008-10-02 | Jason Edward Cafer | Iconic event timeline with latitude snapping and method for providing the same |
CA2682935C (en) | 2007-04-11 | 2020-01-28 | Thomson Licensing | Method and apparatus for enhancing digital video effects (dve) |
WO2008139489A1 (en) | 2007-05-10 | 2008-11-20 | Allgo Embedded Systems Private Limited | Dynamic motion vector analysis method |
US20090102924A1 (en) | 2007-05-21 | 2009-04-23 | Masten Jr James W | Rapidly Deployable, Remotely Observable Video Monitoring System |
USD597100S1 (en) | 2007-06-08 | 2009-07-28 | Apple Inc. | Icon for a portion of a display screen |
US20090006368A1 (en) | 2007-06-29 | 2009-01-01 | Microsoft Corporation | Automatic Video Recommendation |
US8411935B2 (en) | 2007-07-11 | 2013-04-02 | Behavioral Recognition Systems, Inc. | Semantic representation module of a machine-learning engine in a video analysis system |
EP2174310A4 (en) | 2007-07-16 | 2013-08-21 | Cernium Corp | DEVICE AND METHOD FOR VERIFYING VIDEO ALARMS |
US8619140B2 (en) | 2007-07-30 | 2013-12-31 | International Business Machines Corporation | Automatic adjustment of area monitoring based on camera motion |
IL185124A0 (en) | 2007-08-08 | 2008-11-03 | Wave Group Ltd | A generic omni directional imaging system & method for vision, orientation and maneuver of robots |
US9373076B1 (en) | 2007-08-08 | 2016-06-21 | Aol Inc. | Systems and methods for building and using social networks in image analysis |
US20090083787A1 (en) | 2007-09-20 | 2009-03-26 | Microsoft Corporation | Pivotable Events Timeline |
US8200063B2 (en) | 2007-09-24 | 2012-06-12 | Fuji Xerox Co., Ltd. | System and method for video summarization |
AU321299S (en) | 2007-09-28 | 2008-10-01 | Challenge Implements Holdings Pty Ltd | Front end loader |
JP4375488B2 (ja) | 2007-10-11 | 2009-12-02 | トヨタ自動車株式会社 | 運転支援装置 |
US9197903B2 (en) | 2007-10-17 | 2015-11-24 | Stmicroelectronics S.R.L. | Method and system for determining a macroblock partition for data transcoding |
US8456293B1 (en) | 2007-10-22 | 2013-06-04 | Alarm.Com Incorporated | Providing electronic content based on sensor data |
JP2009124618A (ja) | 2007-11-19 | 2009-06-04 | Hitachi Ltd | カメラ装置、画像処理装置 |
US8630497B2 (en) | 2007-11-27 | 2014-01-14 | Intelliview Technologies Inc. | Analyzing a segment of video |
US8204273B2 (en) | 2007-11-29 | 2012-06-19 | Cernium Corporation | Systems and methods for analysis of video content, event notification, and video content provision |
US9177209B2 (en) | 2007-12-17 | 2015-11-03 | Sinoeast Concept Limited | Temporal segment based extraction and robust matching of video fingerprints |
US8347326B2 (en) | 2007-12-18 | 2013-01-01 | The Nielsen Company (US) | Identifying key media events and modeling causal relationships between key events and reported feelings |
USD590412S1 (en) | 2007-12-27 | 2009-04-14 | Yahoo! Inc. | Graphical user interface for displaying content selections on a display panel |
AU2009209018B2 (en) | 2008-01-30 | 2014-03-20 | Google Llc | Notification of mobile device events |
US8102427B2 (en) | 2008-02-14 | 2012-01-24 | Sri International | Camera egomotion estimation from an infra-red image sequence for night vision |
US8515253B2 (en) | 2008-02-15 | 2013-08-20 | Sony Computer Entertainment America Llc | System and method for automated creation of video game highlights |
JP5088164B2 (ja) | 2008-02-21 | 2012-12-05 | ソニー株式会社 | 画像処理装置および方法、プログラム、並びに記録媒体 |
KR101607224B1 (ko) | 2008-03-03 | 2016-03-29 | 아비길론 페이턴트 홀딩 2 코포레이션 | 동적 물체 분류 방법 및 장치 |
US8331619B2 (en) | 2008-03-14 | 2012-12-11 | Sony Computer Entertainment Inc. | Image processing apparatus and image processing method |
JP5213486B2 (ja) | 2008-03-14 | 2013-06-19 | 株式会社ソニー・コンピュータエンタテインメント | 対象物追跡装置および対象物追跡方法 |
US9571798B2 (en) | 2008-03-19 | 2017-02-14 | Aleksej Alekseevich GORILOVSKIJ | Device for displaying the situation outside a building with a lift |
US8390684B2 (en) | 2008-03-28 | 2013-03-05 | On-Net Surveillance Systems, Inc. | Method and system for video collection and analysis thereof |
US9215781B2 (en) | 2008-04-16 | 2015-12-15 | Avo Usa Holding 2 Corporation | Energy savings and improved security through intelligent lighting systems |
CA2651464C (en) | 2008-04-30 | 2017-10-24 | Crim (Centre De Recherche Informatique De Montreal) | Method and apparatus for caption production |
CN101582063A (zh) | 2008-05-13 | 2009-11-18 | 华为技术有限公司 | 视频服务系统、视频服务装置及其关键帧的提取方法 |
US8284990B2 (en) | 2008-05-21 | 2012-10-09 | Honeywell International Inc. | Social network construction based on data association |
US8839387B2 (en) | 2009-01-28 | 2014-09-16 | Headwater Partners I Llc | Roaming services network and overlay networks |
US20150339702A1 (en) | 2008-06-20 | 2015-11-26 | Google Inc. | Integrated media planning and buying |
JP2010002370A (ja) | 2008-06-23 | 2010-01-07 | Fujitsu Ltd | パターン抽出プログラム、方法及び装置 |
JP4615038B2 (ja) | 2008-06-23 | 2011-01-19 | 日立オートモティブシステムズ株式会社 | 画像処理装置 |
US8311283B2 (en) | 2008-07-06 | 2012-11-13 | Automotive Research&Testing Center | Method for detecting lane departure and apparatus thereof |
US8213689B2 (en) | 2008-07-14 | 2012-07-03 | Google Inc. | Method and system for automated annotation of persons in video content |
US7990421B2 (en) | 2008-07-18 | 2011-08-02 | Sony Ericsson Mobile Communications Ab | Arrangement and method relating to an image recording device |
CN101651870A (zh) | 2008-08-13 | 2010-02-17 | 深圳富泰宏精密工业有限公司 | 实现功能菜单动态排序的手机、系统及方法 |
US8797233B2 (en) | 2008-08-20 | 2014-08-05 | The Regents Of The University Of California | Systems, methods, and devices for dynamic management of data streams updating displays |
US8200669B1 (en) | 2008-08-21 | 2012-06-12 | Adobe Systems Incorporated | Management of smart tags via hierarchy |
GB2463103A (en) | 2008-09-05 | 2010-03-10 | Skype Ltd | Video telephone call using a television receiver |
EP2329419A4 (en) | 2008-09-15 | 2016-01-13 | James A Aman | AUTOMATED SESSION RECORDING WITH RULE-BASED INDEXING, ANALYSIS AND EXPRESSION OF CONTENT |
US8284258B1 (en) | 2008-09-18 | 2012-10-09 | Grandeye, Ltd. | Unusual event detection in wide-angle video (based on moving object trajectories) |
USD625323S1 (en) | 2008-10-01 | 2010-10-12 | Nintendo Co., Ltd. | Display with changeable computer-generated icons |
GB0818561D0 (en) | 2008-10-09 | 2008-11-19 | Isis Innovation | Visual tracking of objects in images, and segmentation of images |
US7962365B2 (en) | 2008-10-31 | 2011-06-14 | International Business Machines Corporation | Using detailed process information at a point of sale |
US9357247B2 (en) | 2008-11-24 | 2016-05-31 | Time Warner Cable Enterprises Llc | Apparatus and methods for content delivery and message exchange across multiple content delivery networks |
US8180891B1 (en) | 2008-11-26 | 2012-05-15 | Free Stream Media Corp. | Discovery, access control, and communication with networked services from within a security sandbox |
JP2010136032A (ja) | 2008-12-04 | 2010-06-17 | Hitachi Ltd | 映像監視システム |
US9280759B2 (en) | 2008-12-24 | 2016-03-08 | Blackboard Inc. | Method and system for displaying plural notifications from plural sources |
TWI492188B (zh) | 2008-12-25 | 2015-07-11 | Univ Nat Chiao Tung | 利用多攝影機自動偵測與追蹤多目標的方法及系統 |
JP5230756B2 (ja) | 2009-01-29 | 2013-07-10 | 三菱電機株式会社 | 動画像表示装置 |
US9405970B2 (en) | 2009-02-02 | 2016-08-02 | Eyesight Mobile Technologies Ltd. | System and method for object recognition and tracking in a video stream |
US20100201815A1 (en) | 2009-02-09 | 2010-08-12 | Vitamin D, Inc. | Systems and methods for video monitoring |
US20100205203A1 (en) | 2009-02-09 | 2010-08-12 | Vitamin D, Inc. | Systems and methods for video analysis |
GB0902378D0 (en) | 2009-02-13 | 2009-04-01 | Authenticated Secure Messaging | Monitoring device and system |
US8467768B2 (en) | 2009-02-17 | 2013-06-18 | Lookout, Inc. | System and method for remotely securing or recovering a mobile device |
JP2010198755A (ja) | 2009-02-23 | 2010-09-09 | Funai Electric Co Ltd | ボタン用ledレンズ構造 |
EP2404253B1 (en) | 2009-03-04 | 2019-09-18 | Masimo Corporation | Medical monitoring system |
US8537219B2 (en) | 2009-03-19 | 2013-09-17 | International Business Machines Corporation | Identifying spatial locations of events within video image data |
US8587653B1 (en) | 2009-04-30 | 2013-11-19 | Verint Systems, Inc. | Modifying the resolution of video before transferring to a display system |
GB0907870D0 (en) | 2009-05-07 | 2009-06-24 | Univ Catholique Louvain | Systems and methods for the autonomous production of videos from multi-sensored data |
US8886489B2 (en) | 2009-05-12 | 2014-11-11 | Georgia Tech Research Corporation | Motion detecting method and device |
US8340654B2 (en) | 2009-05-26 | 2012-12-25 | Lextech Labs Llc | Apparatus and method for video display and control for portable device |
US8122038B2 (en) | 2009-06-15 | 2012-02-21 | Microsoft Corporation | Period to date functions for time intelligence functionality |
US8819559B2 (en) | 2009-06-18 | 2014-08-26 | Cyberlink Corp. | Systems and methods for sharing multimedia editing projects |
WO2010148326A1 (en) | 2009-06-19 | 2010-12-23 | Ingenix, Inc. | System and method for generation of attribute driven temporal clustering |
US8953848B2 (en) | 2009-07-17 | 2015-02-10 | University Of Maryland, College Park | Method and apparatus for authenticating biometric scanners |
US8577091B2 (en) | 2009-07-17 | 2013-11-05 | The University Of Maryland | Method and apparatus for authenticating biometric scanners |
US9380292B2 (en) | 2009-07-31 | 2016-06-28 | 3Dmedia Corporation | Methods, systems, and computer-readable storage media for generating three-dimensional (3D) images of a scene |
US8497914B2 (en) | 2009-08-10 | 2013-07-30 | Wisconsin Alumni Research Foundation | Vision system and method for motion adaptive integration of image frames |
US8305447B1 (en) | 2009-08-27 | 2012-11-06 | Wong Thomas K | Security threat detection system |
JP5523027B2 (ja) | 2009-09-02 | 2014-06-18 | キヤノン株式会社 | 情報送信装置及び情報送信方法 |
US9788017B2 (en) | 2009-10-07 | 2017-10-10 | Robert Laganiere | Video analytics with pre-processing at the source end |
US8547327B2 (en) | 2009-10-07 | 2013-10-01 | Qualcomm Incorporated | Proximity object tracker |
NO332170B1 (no) | 2009-10-14 | 2012-07-16 | Cisco Systems Int Sarl | Anordning og fremgangsmate for kamerakontroll |
US10264029B2 (en) | 2009-10-30 | 2019-04-16 | Time Warner Cable Enterprises Llc | Methods and apparatus for packetized content delivery over a content delivery network |
US8707194B1 (en) | 2009-11-20 | 2014-04-22 | Amazon Technologies, Inc. | System and method for decentralized performance monitoring of host systems |
US20160117951A1 (en) | 2009-11-28 | 2016-04-28 | Lior Fleischer | Apparatus and methods for corrective guidance of eating behavior after weight loss surgery |
US8676493B2 (en) | 2009-11-30 | 2014-03-18 | Honeywell International Inc. | Systems and methods for better alarm management |
US20110149078A1 (en) | 2009-12-18 | 2011-06-23 | At&T Intellectual Property I, Lp | Wireless anti-theft security communications device and service |
EP2341359B1 (en) | 2009-12-22 | 2015-08-05 | 9Solutions Oy | Location tracking system |
US8510677B2 (en) | 2010-01-06 | 2013-08-13 | Apple Inc. | Device, method, and graphical user interface for navigating through a range of values |
US8358359B2 (en) | 2010-01-21 | 2013-01-22 | Microsoft Corporation | Reducing motion-related artifacts in rolling shutter video information |
EP2529333A4 (en) | 2010-01-28 | 2013-10-23 | Pathway Innovations And Technologies Inc | DOCUMENT IMAGING SYSTEM WITH A CAMERA SCANNER DEVICE AND A PC-BASED PROCESSING SOFTWARE |
US8861842B2 (en) | 2010-02-05 | 2014-10-14 | Sri International | Method and apparatus for real-time pedestrian detection for urban driving |
US8811801B2 (en) | 2010-03-25 | 2014-08-19 | Disney Enterprises, Inc. | Continuous freeze-frame video effect system and method |
JP2011223565A (ja) | 2010-03-26 | 2011-11-04 | Panasonic Corp | 撮像装置 |
US8775242B2 (en) | 2010-04-12 | 2014-07-08 | First Data Corporation | Systems and methods for analyzing the effectiveness of a promotion |
CN102236899B (zh) | 2010-05-07 | 2013-12-04 | 株式会社理光 | 物体检测方法和装置 |
JP2011239075A (ja) | 2010-05-07 | 2011-11-24 | Sony Corp | 表示装置、表示方法及びプログラム |
TWI454140B (zh) | 2010-06-08 | 2014-09-21 | Univ Nat Taiwan | 與影片互動之方法與比賽模擬系統 |
US8942438B2 (en) | 2010-07-19 | 2015-01-27 | The University Of Maryland, College Park | Method and apparatus for authenticating swipe biometric scanners |
US20120019728A1 (en) | 2010-07-26 | 2012-01-26 | Darnell Janssen Moore | Dynamic Illumination Compensation For Background Subtraction |
CA2748061A1 (en) | 2010-08-04 | 2012-02-04 | Iwatchlife Inc. | Video analytics as a trigger for video communications |
US8532336B2 (en) | 2010-08-17 | 2013-09-10 | International Business Machines Corporation | Multi-mode video event indexing |
US9247212B2 (en) | 2010-08-26 | 2016-01-26 | Blast Motion Inc. | Intelligent motion capture element |
US9076041B2 (en) | 2010-08-26 | 2015-07-07 | Blast Motion Inc. | Motion event recognition and video synchronization system and method |
US9320957B2 (en) | 2010-08-26 | 2016-04-26 | Blast Motion Inc. | Wireless and visual hybrid motion capture system |
JP2012048689A (ja) * | 2010-08-30 | 2012-03-08 | Secom Co Ltd | 異常検知装置 |
US20120222133A1 (en) | 2010-09-28 | 2012-08-30 | Adam Kidron | Shared content management platform apparatuses, methods and systems |
JP2011044171A (ja) | 2010-10-18 | 2011-03-03 | Silverbrook Research Pty Ltd | センサモジュールとプリンタモジュールを備えるモバイル遠隔通信デバイス |
US20120120238A1 (en) | 2010-11-15 | 2012-05-17 | Seraphim Optronics Ltd. | Two layer video motion detection |
KR101753031B1 (ko) | 2010-11-15 | 2017-06-30 | 엘지전자 주식회사 | 이동 단말기 및 이것의 메타데이터 설정 방법 |
US20120173577A1 (en) | 2010-12-30 | 2012-07-05 | Pelco Inc. | Searching recorded video |
US8743204B2 (en) | 2011-01-07 | 2014-06-03 | International Business Machines Corporation | Detecting and monitoring event occurrences using fiber optic sensors |
US20120198319A1 (en) | 2011-01-28 | 2012-08-02 | Giovanni Agnoli | Media-Editing Application with Video Segmentation and Caching Capabilities |
US9113130B2 (en) | 2012-02-06 | 2015-08-18 | Legend3D, Inc. | Multi-stage production pipeline system |
US20120236181A1 (en) | 2011-03-16 | 2012-09-20 | Qualcomm Incorporated | Generating a zoomed image |
WO2012133028A1 (ja) | 2011-03-25 | 2012-10-04 | 株式会社ニコン | 電子機器、選択方法、取得方法、電子装置、合成方法および合成プログラム |
US8115623B1 (en) | 2011-03-28 | 2012-02-14 | Robert M Green | Method and system for hand basket theft detection |
US9432631B2 (en) | 2011-04-04 | 2016-08-30 | Polaris Wireless, Inc. | Surveillance system |
US8767030B2 (en) | 2011-04-07 | 2014-07-01 | Tara Chand Singhal | System and method for a grooming mirror in a portable electronic device with a user-facing camera |
WO2012147276A1 (ja) | 2011-04-28 | 2012-11-01 | パナソニック株式会社 | 映像表示装置および映像表示方法 |
US20120280789A1 (en) | 2011-05-02 | 2012-11-08 | Apigy Inc. | Systems and methods for controlling a locking mechanism using a portable electronic device |
WO2012150602A1 (en) | 2011-05-03 | 2012-11-08 | Yogesh Chunilal Rathod | A system and method for dynamically monitoring, recording, processing, attaching dynamic, contextual & accessible active links & presenting of physical or digital activities, actions, locations, logs, life stream, behavior & status |
US9928707B2 (en) | 2011-05-16 | 2018-03-27 | Garrett Thermal Systems Limited | Surveillance system |
US8902085B1 (en) | 2011-05-17 | 2014-12-02 | Raytheon Company | Integrated 3D audiovisual threat cueing system |
US9158455B2 (en) | 2011-07-12 | 2015-10-13 | Apple Inc. | Multifunctional environment for image cropping |
US9402034B2 (en) | 2011-07-29 | 2016-07-26 | Apple Inc. | Adaptive auto exposure adjustment |
US20130057695A1 (en) | 2011-09-07 | 2013-03-07 | Timothy J. Huisking | Method and apparatus for unlocking/locking a door and enabling two-way communications with a door security system via a smart phone |
US10129211B2 (en) | 2011-09-15 | 2018-11-13 | Stephan HEATH | Methods and/or systems for an online and/or mobile privacy and/or security encryption technologies used in cloud computing with the combination of data mining and/or encryption of user's personal data and/or location data for marketing of internet posted promotions, social messaging or offers using multiple devices, browsers, operating systems, networks, fiber optic communications, multichannel platforms |
US10063815B1 (en) | 2011-09-26 | 2018-08-28 | Jenesia1, Inc. | Mobile communication platform |
US8555364B2 (en) | 2011-09-30 | 2013-10-08 | Time Warner Cable Enterprises Llc | System and method for cloning a wi-fi access point |
US9124783B2 (en) | 2011-09-30 | 2015-09-01 | Camiolog, Inc. | Method and system for automated labeling at scale of motion-detected events in video surveillance |
US9269243B2 (en) | 2011-10-07 | 2016-02-23 | Siemens Aktiengesellschaft | Method and user interface for forensic video search |
US9143530B2 (en) | 2011-10-11 | 2015-09-22 | Citrix Systems, Inc. | Secure container for protecting enterprise data on a mobile device |
WO2013059599A1 (en) | 2011-10-19 | 2013-04-25 | The Regents Of The University Of California | Image-based measurement tools |
US9025836B2 (en) | 2011-10-28 | 2015-05-05 | Intellectual Ventures Fund 83 Llc | Image recomposition from face detection and facial features |
KR101233608B1 (ko) | 2011-11-10 | 2013-02-14 | 조희문 | 도어 록 장치 |
US9111147B2 (en) | 2011-11-14 | 2015-08-18 | Massachusetts Institute Of Technology | Assisted video surveillance of persons-of-interest |
US9530221B2 (en) | 2012-01-06 | 2016-12-27 | Pelco, Inc. | Context aware moving object detection |
US9530060B2 (en) | 2012-01-17 | 2016-12-27 | Avigilon Fortress Corporation | System and method for building automation using video content analysis with depth sensing |
US9113133B2 (en) | 2012-01-31 | 2015-08-18 | Prime Image Delaware, Inc. | Method and system for detecting a vertical cut in a video signal for the purpose of time alteration |
KR20130091596A (ko) | 2012-02-08 | 2013-08-19 | 한국전자통신연구원 | 비디오 정보를 통한 인간 행동 예측 방법 |
US8594488B1 (en) | 2012-03-13 | 2013-11-26 | Google Inc. | Methods and systems for video retargeting using motion saliency |
KR101739025B1 (ko) | 2012-03-13 | 2017-05-24 | 한화테크윈 주식회사 | 영상 처리 방법 |
US9349275B2 (en) | 2012-03-15 | 2016-05-24 | Behavorial Recognition Systems, Inc. | Alert volume normalization in a video surveillance system |
US8655030B2 (en) | 2012-04-18 | 2014-02-18 | Vixs Systems, Inc. | Video processing system with face detection and methods for use therewith |
US8792677B2 (en) | 2012-04-19 | 2014-07-29 | Intelligence Based Integrated Security Systems, Inc. | Large venue security method |
USD690757S1 (en) | 2012-04-20 | 2013-10-01 | Iconoscope, Llc | Remote camera |
JP5489144B1 (ja) | 2012-04-27 | 2014-05-14 | コニカミノルタ株式会社 | ビームフォーミング方法、及び超音波診断装置 |
US8982141B2 (en) | 2012-04-30 | 2015-03-17 | Blackberry Limited | Image processing method and apparatus |
JP2013238991A (ja) | 2012-05-14 | 2013-11-28 | Sony Corp | 情報処理装置、情報処理方法及びプログラム |
EP2667337A3 (en) | 2012-05-22 | 2014-03-12 | Hasso-Plattner-Institut für Softwaresystemtechnik GmbH | Transparent control of access invoking real-time analysis of the query history |
WO2014028069A1 (en) | 2012-08-17 | 2014-02-20 | Flextronics Ap, Llc | Epg aggregation from multiple sources |
US8861804B1 (en) | 2012-06-15 | 2014-10-14 | Shutterfly, Inc. | Assisted photo-tagging with facial recognition models |
US20130342689A1 (en) | 2012-06-25 | 2013-12-26 | Intel Corporation | Video analytics test system |
US10437454B2 (en) | 2012-07-09 | 2019-10-08 | Facebook, Inc. | Dynamically scaled navigation system for social network data |
US10289917B1 (en) | 2013-11-12 | 2019-05-14 | Kuna Systems Corporation | Sensor to characterize the behavior of a visitor or a notable event |
US10555393B1 (en) * | 2012-08-17 | 2020-02-04 | Kuna Systems Corporation | Face recognition systems with external stimulus |
US10117309B1 (en) * | 2012-08-17 | 2018-10-30 | Kuna Systems Corporation | Internet protocol security camera with behavior detection |
US9143741B1 (en) * | 2012-08-17 | 2015-09-22 | Kuna Systems Corporation | Internet protocol security camera connected light bulb/system |
US8989501B2 (en) | 2012-08-17 | 2015-03-24 | Ge Aviation Systems Llc | Method of selecting an algorithm for use in processing hyperspectral data |
SE537427C2 (sv) | 2012-08-20 | 2015-04-28 | Mindmancer AB | Metod och datorprogramprodukt för övervakningssystem och övervakningssystem |
CN103632415B (zh) | 2012-08-20 | 2016-01-06 | 棣南股份有限公司 | 门控系统以及操控器、门口机设备与通讯平台 |
US9070020B2 (en) | 2012-08-21 | 2015-06-30 | International Business Machines Corporation | Determination of train presence and motion state in railway environments |
KR101932535B1 (ko) | 2012-08-27 | 2018-12-27 | 한화테크윈 주식회사 | 실내 감시 시스템 및 실내 감시 방법 |
US9047400B2 (en) | 2012-08-29 | 2015-06-02 | Freescale Semiconductor, Inc. | Data processor device for handling a watchpoint and method thereof |
US9083751B2 (en) | 2012-08-31 | 2015-07-14 | Cisco Technology, Inc. | Method for cloud-based access control policy management |
EP4369718A1 (en) | 2012-09-04 | 2024-05-15 | TiVo Solutions Inc. | Wireless media streaming system |
US20140075370A1 (en) | 2012-09-13 | 2014-03-13 | The Johns Hopkins University | Dockable Tool Framework for Interaction with Large Scale Wall Displays |
US20140082497A1 (en) | 2012-09-17 | 2014-03-20 | Fanhattan Llc | System and method for browsing and accessing live media content |
US10735216B2 (en) * | 2012-09-21 | 2020-08-04 | Google Llc | Handling security services visitor at a smart-home |
US20150156030A1 (en) * | 2012-09-21 | 2015-06-04 | Google Inc. | Handling specific visitor behavior at an entryway to a smart-home |
US9600645B2 (en) | 2012-09-21 | 2017-03-21 | Google Inc. | Smart invitation handling at a smart-home |
US10332059B2 (en) * | 2013-03-14 | 2019-06-25 | Google Llc | Security scoring in a smart-sensored home |
US9208676B2 (en) | 2013-03-14 | 2015-12-08 | Google Inc. | Devices, methods, and associated information processing for security in a smart-sensored home |
US9960929B2 (en) | 2012-09-21 | 2018-05-01 | Google Llc | Environmental sensing with a doorbell at a smart-home |
US9978238B2 (en) * | 2012-09-21 | 2018-05-22 | Google Llc | Visitor options at an entryway to a smart-home |
SE537366C2 (sv) | 2012-09-25 | 2015-04-14 | Jonas Patrik Graphenius | Säkerhetsanordning och förfarande för detektering av förflyttning av en dörr samt övervakning av rörelse i ett område |
US9165535B2 (en) | 2012-09-27 | 2015-10-20 | Google Inc. | System and method for determining a zoom factor of content displayed on a display device |
KR101987820B1 (ko) | 2012-10-05 | 2019-06-11 | 삼성전자주식회사 | 고 해상도 컨텐츠를 처리하는 컨텐츠 처리 장치 및 그 방법 |
CN102915630A (zh) | 2012-10-10 | 2013-02-06 | 鸿富锦精密工业(深圳)有限公司 | 远程门铃控制系统及其智能门铃装置 |
US9392077B2 (en) | 2012-10-12 | 2016-07-12 | Citrix Systems, Inc. | Coordinating a computing activity across applications and devices having multiple operation modes in an orchestration framework for connected devices |
KR101245057B1 (ko) | 2012-10-16 | 2013-03-18 | (주)아이아이에스티 | 화재 감지 방법 및 장치 |
US9414038B2 (en) | 2012-10-16 | 2016-08-09 | Amanjyot Singh JOHAR | Creating time lapse video in real-time |
US9182903B2 (en) | 2012-10-30 | 2015-11-10 | Google Technology Holdings LLC | Method and apparatus for keyword graphic selection |
US20140137188A1 (en) | 2012-11-14 | 2014-05-15 | Domanicom Corporation | Devices, systems, and methods for simultaneously delivering personalized/ targeted services and advertisements to end users |
US9251121B2 (en) | 2012-11-21 | 2016-02-02 | Honeywell International Inc. | Determining pushback direction |
KR20140066914A (ko) | 2012-11-23 | 2014-06-03 | 삼성전자주식회사 | 퍼포먼스 측정 유닛, 이를 포함하는 프로세서 코어 및 프로세스 프로파일링 방법 |
US20140173692A1 (en) | 2012-12-15 | 2014-06-19 | Sudharshan Srinivasan | Bring your own device system using a mobile accessory device |
US9607011B2 (en) | 2012-12-19 | 2017-03-28 | Intel Corporation | Time-shifting image service |
CN104081760B (zh) | 2012-12-25 | 2018-01-09 | 华为技术有限公司 | 播放视频的方法、终端和系统 |
US20140210646A1 (en) | 2012-12-28 | 2014-07-31 | Balu Subramanya | Advanced parking and intersection management system |
US9374369B2 (en) | 2012-12-28 | 2016-06-21 | Lookout, Inc. | Multi-factor authentication and comprehensive login system for client-server networks |
US9196103B2 (en) * | 2013-01-30 | 2015-11-24 | International Business Machines Corporation | Entry technology for building automation |
US20140245411A1 (en) | 2013-02-22 | 2014-08-28 | Nokia Corporation | Method and apparatus for providing account-less access via an account connector platform |
US9003556B2 (en) | 2013-02-28 | 2015-04-07 | Facebook, Inc. | Techniques for in-app user data authorization |
US9213896B2 (en) | 2013-03-05 | 2015-12-15 | Mitsubishi Electric Research Laboratories, Inc. | Method for detecting and tracking objects in image sequences of scenes acquired by a stationary camera |
US20140313142A1 (en) | 2013-03-07 | 2014-10-23 | Tactus Technology, Inc. | Method for remotely sharing touch |
US9432361B2 (en) | 2013-03-13 | 2016-08-30 | Lookout, Inc. | System and method for changing security behavior of a device based on proximity to another device |
US9887884B2 (en) | 2013-03-15 | 2018-02-06 | Mentor Graphics Corporation | Cloud services platform |
US9762865B2 (en) | 2013-03-15 | 2017-09-12 | James Carey | Video identification and analytical recognition system |
US8874700B2 (en) | 2013-03-21 | 2014-10-28 | Nextbit Systems Inc. | Optimizing storage of data files |
US8982277B2 (en) | 2013-04-25 | 2015-03-17 | Broadcom Corporation | System and method for processing video data |
WO2014183004A1 (en) | 2013-05-10 | 2014-11-13 | Robert Bosch Gmbh | System and method for object and event identification using multiple cameras |
US8688483B2 (en) | 2013-05-17 | 2014-04-01 | Watts And Associates, Inc. | Systems, computer-implemented methods, and computer medium to determine premiums and indemnities for supplemental crop insurance |
CA2910492C (en) | 2013-05-17 | 2021-03-30 | International Electronic Machines Corporation | Operations monitoring in an area |
US9904852B2 (en) | 2013-05-23 | 2018-02-27 | Sri International | Real-time object detection, tracking and occlusion reasoning |
US9912549B2 (en) | 2013-06-14 | 2018-03-06 | Catbird Networks, Inc. | Systems and methods for network analysis and reporting |
US9430045B2 (en) | 2013-07-17 | 2016-08-30 | Lenovo (Singapore) Pte. Ltd. | Special gestures for camera control and image processing operations |
US10402661B2 (en) | 2013-07-22 | 2019-09-03 | Opengate Development, Llc | Shape/object recognition using still/scan/moving image optical digital media processing |
US9235943B2 (en) | 2013-07-26 | 2016-01-12 | Joseph Frank Scalisi | Remote identity verification of lodging guests |
US8941736B1 (en) | 2013-07-26 | 2015-01-27 | SkyBell Technologies, Inc. | Doorbell communication systems and methods |
US9196133B2 (en) | 2013-07-26 | 2015-11-24 | SkyBell Technologies, Inc. | Doorbell communication systems and methods |
US9065987B2 (en) | 2013-07-26 | 2015-06-23 | SkyBell Technologies, Inc. | Doorbell communication systems and methods |
US8823795B1 (en) | 2013-07-26 | 2014-09-02 | SkyBell Technologies, Inc. | Doorbell communication systems and methods |
US8872915B1 (en) * | 2013-07-26 | 2014-10-28 | SkyBell Technologies, Inc. | Doorbell communication systems and methods |
US9013575B2 (en) | 2013-07-26 | 2015-04-21 | SkyBell Technologies, Inc. | Doorbell communication systems and methods |
US20150046184A1 (en) | 2013-08-12 | 2015-02-12 | Dental Imaging Technologies Corporation | Managing dental photographs acquired by portable computing devices |
US20150081548A1 (en) | 2013-08-15 | 2015-03-19 | MDR Group LLC | Methods and systems for making mobile payments |
US9015072B2 (en) | 2013-08-19 | 2015-04-21 | Xerox Corporation | Method and apparatus for automated inventory management using depth sensing |
JP2015042002A (ja) | 2013-08-23 | 2015-03-02 | 株式会社東芝 | 方法、電子機器、及びプログラム |
CN105532008A (zh) | 2013-08-29 | 2016-04-27 | Vid拓展公司 | 用户自适应的视频电话 |
CN105684407A (zh) * | 2013-08-30 | 2016-06-15 | 思盖贝尔技术公司 | 门铃通信系统和方法 |
US9693030B2 (en) | 2013-09-09 | 2017-06-27 | Arris Enterprises Llc | Generating alerts based upon detector outputs |
US20150085060A1 (en) | 2013-09-20 | 2015-03-26 | Microsoft Corporation | User experience for conferencing with a touch screen display |
US8958602B1 (en) | 2013-09-27 | 2015-02-17 | The United States Of America As Represented By The Secretary Of The Navy | System for tracking maritime domain targets from full motion video |
US10739969B2 (en) | 2013-10-23 | 2020-08-11 | Lg Electronics Inc. | Terminal and method for controlling same |
EP3060118A4 (en) | 2013-10-24 | 2017-07-19 | Breathevision Ltd. | Motion monitor |
TW201520989A (zh) | 2013-11-20 | 2015-06-01 | Amaryllo International Inc | 智慧型電鈴之省電工作方法 |
WO2015088479A1 (en) | 2013-12-09 | 2015-06-18 | Intel Corporation | Eye reflected content for verification of user liveliness |
NL2012327B1 (en) | 2013-12-13 | 2016-06-21 | Utc Fire & Security B V | Selective intrusion detection systems. |
JP6411373B2 (ja) * | 2013-12-17 | 2018-10-24 | シャープ株式会社 | 認識データ伝送装置、認識データ記録装置及び認識データ記録方法 |
EP3087482B1 (en) | 2013-12-24 | 2019-11-06 | Pelco, Inc. | Method and apparatus for intelligent video pruning |
US20150181088A1 (en) | 2013-12-25 | 2015-06-25 | Geovision Inc. | Ip camera apparatus |
KR102104413B1 (ko) | 2014-01-16 | 2020-04-24 | 한화테크윈 주식회사 | 감시 카메라 및 디지털 비디오 리코더 |
US9584730B2 (en) | 2014-02-03 | 2017-02-28 | Cognex Corporation | Apparatus, systems, and methods for a multi-position image sensor |
US20150234571A1 (en) | 2014-02-17 | 2015-08-20 | Microsoft Corporation | Re-performing demonstrations during live presentations |
US10186123B2 (en) | 2014-04-01 | 2019-01-22 | Avigilon Fortress Corporation | Complex event recognition in a sensor network |
WO2015167504A1 (en) | 2014-04-30 | 2015-11-05 | Hewlett-Packard Development Company, L.P. | Extending features of one device to another |
US10564714B2 (en) | 2014-05-09 | 2020-02-18 | Google Llc | Systems and methods for biomechanically-based eye signals for interacting with real and virtual objects |
KR101926052B1 (ko) | 2014-05-12 | 2018-12-06 | 삼성에스디에스 주식회사 | 출입 관리 시스템 및 방법 |
US20160042621A1 (en) | 2014-06-13 | 2016-02-11 | William Daylesford Hogg | Video Motion Detection Method and Alert Management |
US9888216B2 (en) | 2015-09-22 | 2018-02-06 | SkyBell Technologies, Inc. | Doorbell communication systems and methods |
US20170085843A1 (en) | 2015-09-22 | 2017-03-23 | SkyBell Technologies, Inc. | Doorbell communication systems and methods |
CN104079881B (zh) | 2014-07-01 | 2017-09-12 | 中磊电子(苏州)有限公司 | 监控装置与其相关的监控方法 |
US9600723B1 (en) | 2014-07-03 | 2017-03-21 | Google Inc. | Systems and methods for attention localization using a first-person point-of-view device |
US9621798B2 (en) | 2014-07-07 | 2017-04-11 | GM Global Technology Operations LLC | Grid-based image resolution enhancement for video processing module |
US9224044B1 (en) | 2014-07-07 | 2015-12-29 | Google Inc. | Method and system for video zone monitoring |
US9449229B1 (en) | 2014-07-07 | 2016-09-20 | Google Inc. | Systems and methods for categorizing motion event candidates |
US9420331B2 (en) | 2014-07-07 | 2016-08-16 | Google Inc. | Method and system for categorizing detected motion events |
US9846687B2 (en) | 2014-07-28 | 2017-12-19 | Adp, Llc | Word cloud candidate management system |
USD782495S1 (en) | 2014-10-07 | 2017-03-28 | Google Inc. | Display screen or portion thereof with graphical user interface |
US10536353B2 (en) | 2014-10-09 | 2020-01-14 | Splunk Inc. | Control interface for dynamic substitution of service monitoring dashboard source data |
US9760240B2 (en) | 2014-10-09 | 2017-09-12 | Splunk Inc. | Graphical user interface for static and adaptive thresholds |
US9864797B2 (en) | 2014-10-09 | 2018-01-09 | Splunk Inc. | Defining a new search based on displayed graph lanes |
US9396397B2 (en) | 2014-10-21 | 2016-07-19 | Motorola Solutions, Inc. | Methods and systems for object-recognition and link integration in a composite video stream |
USD773329S1 (en) | 2014-10-27 | 2016-12-06 | Simple Matters Llc | Vibratory alert device |
US9576469B2 (en) | 2014-12-30 | 2017-02-21 | Google Inc. | Systems and methods of adaptively adjusting a sensor of a security system |
JP6459521B2 (ja) | 2015-01-07 | 2019-01-30 | 株式会社リコー | 撮像光学系、カメラ装置及びステレオカメラ装置 |
CN105989683A (zh) | 2015-02-12 | 2016-10-05 | 贝斯科技国际有限公司 | 增强型住宅安全系统 |
US20170048495A1 (en) | 2015-02-17 | 2017-02-16 | SkyBell Technologies, Inc. | Power outlet cameras |
US20160241818A1 (en) | 2015-02-18 | 2016-08-18 | Honeywell International Inc. | Automatic alerts for video surveillance systems |
CN104794834A (zh) | 2015-04-04 | 2015-07-22 | 金琥 | 一种智能语音门铃系统及其实现方法 |
US9984154B2 (en) | 2015-05-01 | 2018-05-29 | Morpho Detection, Llc | Systems and methods for analyzing time series data based on event transitions |
US9860451B2 (en) | 2015-06-07 | 2018-01-02 | Apple Inc. | Devices and methods for capturing and interacting with enhanced digital images |
US9626849B2 (en) | 2015-06-12 | 2017-04-18 | Google Inc. | Using scene information from a security camera to reduce false security alerts |
US10133443B2 (en) | 2015-06-14 | 2018-11-20 | Google Llc | Systems and methods for smart home automation using a multifunction status and entry point icon |
US9361011B1 (en) | 2015-06-14 | 2016-06-07 | Google Inc. | Methods and systems for presenting multiple live video feeds in a user interface |
US9704020B2 (en) | 2015-06-16 | 2017-07-11 | Microsoft Technology Licensing, Llc | Automatic recognition of entities in media-captured events |
USD764958S1 (en) | 2015-08-07 | 2016-08-30 | SkyBell Technologies, Inc. | Doorbell |
USD765530S1 (en) | 2015-08-12 | 2016-09-06 | SkyBell Technologies, Inc. | Doorbell |
US9699205B2 (en) | 2015-08-31 | 2017-07-04 | Splunk Inc. | Network security system |
US9679453B2 (en) * | 2015-10-20 | 2017-06-13 | Vivint, Inc. | System and methods for correlating sound events to security and/or automation system operations |
EP3371742A4 (en) | 2015-11-04 | 2019-06-26 | Shutterfly, Inc. | AUTOMATIC PICTURE PRODUCT POSITION FOR USER ACCOUNTS WITH A LARGE NUMBER OF IMAGES |
US20170162230A1 (en) | 2015-12-04 | 2017-06-08 | Livestream LLC | Interactive digital camera for live crop editing and recording of video streams |
US10506198B2 (en) | 2015-12-04 | 2019-12-10 | Livestream LLC | Video stream encoding system with live crop editing and recording |
USD810168S1 (en) | 2015-12-25 | 2018-02-13 | Hangzhou Hikvision Digital Technology Co., Ltd | Video camera |
CN105844209B (zh) * | 2016-01-26 | 2019-12-06 | 孙海金 | 基于红外辐射探测的访客识别 |
US9628286B1 (en) | 2016-02-23 | 2017-04-18 | Echostar Technologies L.L.C. | Television receiver and home automation system and methods to associate data with nearby people |
USD789365S1 (en) | 2016-02-29 | 2017-06-13 | Microsoft Corporation | Computer input device |
USD789364S1 (en) | 2016-02-29 | 2017-06-13 | Microsoft Corporation | Computer input device |
USD789367S1 (en) | 2016-02-29 | 2017-06-13 | Microsoft Corporation | Computer input device |
USD789363S1 (en) | 2016-02-29 | 2017-06-13 | Microsoft Corporation | Computer input device |
USD789366S1 (en) | 2016-02-29 | 2017-06-13 | Microsoft Corporation | Computer input device |
US10440333B2 (en) | 2016-03-15 | 2019-10-08 | Amazon Technologies, Inc. | Audio/Video recording and communication devices |
US20170301203A1 (en) * | 2016-04-15 | 2017-10-19 | Vivint, Inc. | Reducing bandwidth via voice detection |
US9613524B1 (en) | 2016-04-27 | 2017-04-04 | Ecolink Intelligent Technologies, Inc. | Reduced false alarm security system |
US10353882B2 (en) | 2016-06-30 | 2019-07-16 | Adobe Inc. | Packaging data science operations |
US10380429B2 (en) | 2016-07-11 | 2019-08-13 | Google Llc | Methods and systems for person detection in a video feed |
US10192415B2 (en) | 2016-07-11 | 2019-01-29 | Google Llc | Methods and systems for providing intelligent alerts for events |
US10957171B2 (en) | 2016-07-11 | 2021-03-23 | Google Llc | Methods and systems for providing event alerts |
US20180089288A1 (en) | 2016-09-26 | 2018-03-29 | Splunk Inc. | Metrics-aware user interface |
US9674453B1 (en) | 2016-10-26 | 2017-06-06 | Cisco Technology, Inc. | Using local talker position to pan sound relative to video frames at a remote location |
US10585560B2 (en) | 2016-10-31 | 2020-03-10 | Splunk Inc. | Display management for data visualizations of analytics data |
TWI603245B (zh) | 2016-11-02 | 2017-10-21 | 友達光電股份有限公司 | 觸控面板 |
US10218855B2 (en) | 2016-11-14 | 2019-02-26 | Alarm.Com Incorporated | Doorbell call center |
US10296880B2 (en) | 2016-11-21 | 2019-05-21 | Lisa Therese Miller | Invoice analytics system |
USD800201S1 (en) | 2016-11-30 | 2017-10-17 | Twoeyes Tech, Inc. | Camera |
JP6786378B2 (ja) | 2016-12-26 | 2020-11-18 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
US10708472B2 (en) | 2017-01-04 | 2020-07-07 | Google Llc | Doorbell camera |
WO2018144543A1 (en) | 2017-02-01 | 2018-08-09 | Anvizent Analytics Pvt., LTD | Big data analytical platform tools and methods of use |
CN207022109U (zh) | 2017-02-27 | 2018-02-16 | 瑞鹰公司 | 音频/视频记录和通信设备 |
US10475311B2 (en) * | 2017-03-20 | 2019-11-12 | Amazon Technologies, Inc. | Dynamic assessment using an audio/video recording and communication device |
USD793268S1 (en) | 2017-03-31 | 2017-08-01 | Shen Zhen Shi Fu Ying Xing Electronics Co., Ltd | Video doorbell |
US20180330169A1 (en) | 2017-05-12 | 2018-11-15 | Google Inc. | Methods and Systems for Presenting Image Data for Detected Regions of Interest |
US10410086B2 (en) | 2017-05-30 | 2019-09-10 | Google Llc | Systems and methods of person recognition in video streams |
US11783010B2 (en) | 2017-05-30 | 2023-10-10 | Google Llc | Systems and methods of person recognition in video streams |
US11256951B2 (en) | 2017-05-30 | 2022-02-22 | Google Llc | Systems and methods of person recognition in video streams |
US20190004639A1 (en) | 2017-06-29 | 2019-01-03 | Microsoft Technology Licensing, Llc | Providing living avatars within virtual meetings |
WO2021146700A1 (en) | 2020-01-17 | 2021-07-22 | Percipient.ai Inc. | Systems for multiclass object detection and alerting and methods therefor |
US11134227B2 (en) | 2017-09-20 | 2021-09-28 | Google Llc | Systems and methods of presenting appropriate actions for responding to a visitor to a smart home environment |
US10664688B2 (en) | 2017-09-20 | 2020-05-26 | Google Llc | Systems and methods of detecting and responding to a visitor to a smart home environment |
US11145171B2 (en) | 2019-02-28 | 2021-10-12 | Arlo Technologies, Inc. | Electronic doorbell system with text communication |
CN114128255A (zh) | 2019-05-20 | 2022-03-01 | 谷歌有限责任公司 | 使用混合边缘/云推理连同机器学习系统的视频会议 |
US20200380299A1 (en) | 2019-05-31 | 2020-12-03 | Apple Inc. | Recognizing People by Combining Face and Body Cues |
US11893795B2 (en) | 2019-12-09 | 2024-02-06 | Google Llc | Interacting with visitors of a connected home environment |
CN117529754A (zh) | 2021-08-02 | 2024-02-06 | 谷歌有限责任公司 | 用于设备上人员辨识和智能警报的供应的系统和方法 |
-
2017
- 2017-11-10 US US15/809,924 patent/US10664688B2/en active Active
-
2018
- 2018-08-16 EP EP18769880.8A patent/EP3685361A1/en active Pending
- 2018-08-16 WO PCT/US2018/046811 patent/WO2019060066A1/en unknown
- 2018-08-16 CN CN202311444135.2A patent/CN117496643A/zh active Pending
- 2018-08-16 CN CN201880033972.7A patent/CN110914878A/zh active Pending
-
2020
- 2020-05-26 US US16/883,932 patent/US11256908B2/en active Active
-
2022
- 2022-02-18 US US17/651,781 patent/US11710387B2/en active Active
-
2023
- 2023-06-01 US US18/327,468 patent/US20230306826A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
US10664688B2 (en) | 2020-05-26 |
CN110914878A (zh) | 2020-03-24 |
US20220237948A1 (en) | 2022-07-28 |
EP3685361A1 (en) | 2020-07-29 |
WO2019060066A1 (en) | 2019-03-28 |
US20230306826A1 (en) | 2023-09-28 |
US11256908B2 (en) | 2022-02-22 |
US20200285841A1 (en) | 2020-09-10 |
US11710387B2 (en) | 2023-07-25 |
US20190087646A1 (en) | 2019-03-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11710387B2 (en) | Systems and methods of detecting and responding to a visitor to a smart home environment | |
US11356643B2 (en) | Systems and methods of presenting appropriate actions for responding to a visitor to a smart home environment | |
US11386285B2 (en) | Systems and methods of person recognition in video streams | |
US11893795B2 (en) | Interacting with visitors of a connected home environment | |
US20220245396A1 (en) | Systems and Methods of Person Recognition in Video Streams | |
US11743578B2 (en) | Systems and methods of power-management on smart devices | |
CN112166350B (zh) | 智能设备中的超声感测的系统和方法 | |
EP3888344B1 (en) | Methods and systems for colorizing infrared images | |
US11783010B2 (en) | Systems and methods of person recognition in video streams | |
WO2023219649A1 (en) | Context-based user interface |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |