CN113038470A - 用于多模式用户设备认证的系统和方法 - Google Patents

用于多模式用户设备认证的系统和方法 Download PDF

Info

Publication number
CN113038470A
CN113038470A CN202011002409.9A CN202011002409A CN113038470A CN 113038470 A CN113038470 A CN 113038470A CN 202011002409 A CN202011002409 A CN 202011002409A CN 113038470 A CN113038470 A CN 113038470A
Authority
CN
China
Prior art keywords
user
analyzer
authentication
image data
audio data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011002409.9A
Other languages
English (en)
Inventor
A·麦吉
B·库珀
A·库玛尔
J·扎莫拉伊奎维尔
V·帕兰杰佩
W·刘易斯
M·巴切雷尔
G·拉法
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of CN113038470A publication Critical patent/CN113038470A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/32User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W12/00Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/06Authentication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/34User authentication involving the use of external additional devices, e.g. dongles or smart cards
    • G06F21/35User authentication involving the use of external additional devices, e.g. dongles or smart cards communicating wirelessly
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/70Multimodal biometrics, e.g. combining information from different biometric modalities
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification techniques
    • G10L17/06Decision making techniques; Pattern matching strategies
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/08Network architectures or network communication protocols for network security for authentication of entities
    • H04L63/083Network architectures or network communication protocols for network security for authentication of entities using passwords
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/08Network architectures or network communication protocols for network security for authentication of entities
    • H04L63/0853Network architectures or network communication protocols for network security for authentication of entities using an additional device, e.g. smartcard, SIM or a different communication terminal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/08Network architectures or network communication protocols for network security for authentication of entities
    • H04L63/0861Network architectures or network communication protocols for network security for authentication of entities using biometrical features, e.g. fingerprint, retina-scan
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Security & Cryptography (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Acoustics & Sound (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Business, Economics & Management (AREA)
  • Game Theory and Decision Science (AREA)
  • Biomedical Technology (AREA)
  • User Interface Of Digital Computer (AREA)
  • Power Sources (AREA)

Abstract

公开了用于多模式用户设备认证的系统和方法。示例电子设备包括:第一传感器;话筒;第一相机;以及置信度分析器,该置信度分析器用于响应于用户存在检测分析器检测到主体的存在、以及以下各项中的一项或多项而将该主体认证为经授权的用户:(a)音频数据分析器检测到经授权的用户的声音或(b)图像数据分析器检测到经授权的用户的特征。示例电子设备包括处理器,该处理器用于响应于置信度分析器将用户认证为经授权的用户而使电子设备从第一功率状态移至第二功率状态。相比于第一功率状态,电子设备在第二功率状态下将消耗更大量的功率。

Description

用于多模式用户设备认证的系统和方法
技术领域
本公开总体上涉及对电子用户设备的用户的认证,并且更具体地涉及用于多模式用户设备认证的系统和方法。
背景技术
诸如膝上型计算机或平板之类的电子设备可以通过在允许用户访问设备的存储器中所存储的数据(例如,(多个)应用、媒体)之前对该用户进行认证来提供对该数据的安全访问。用户认证模式可以包括经由图像分析(例如,面部识别)或语音分析将用户识别为设备的经授权的用户。
附图说明
图1图示出根据本公开的教导构造的、并且包括示例用户设备和用于控制用户对该用户设备上所存储的数据的访问的示例认证分析器的示例系统。
图2是图1的认证分析器的示例实现方式的框图。
图3是用于训练图2的示例认证分析器的训练管理器的示例实现方式的框图。
图4是图1的示例用户设备的推送通知控制器的示例实现方式的框图。
图5图示出根据本公开的教导构造的示例用户设备,并具体示出处于打开位置的用户设备。
图6图示出处于闭合位置的图5的示例用户设备。
图7和图8图示出图5和图6的示例用户设备并且图示出用于向示例用户设备传送请求的第二用户设备。
图9是表示可被执行以实现图3的示例训练管理器的示例机器可读指令的流程图。
图10A和图10B是表示可被执行以实现图1和/或图2的示例认证分析器以经由第一认证过程对用户设备的用户进行认证的示例机器可读指令的流程图。
图11A和图11B是表示可被执行以实现图1和/或图2的示例认证分析器以经由第二认证过程对用户设备的用户进行认证的示例机器可读指令的流程图。
图12是表示可被执行以实现图1和/或图4的示例推送通知控制器以使得用户设备能够对来自远程设备的请求进行响应的示例机器可读指令的流程图。
图13是被构造成用于执行图9的指令以实现图3的示例训练管理器的示例处理器平台的框图。
图14是被构造成用于执行图10A和图10B和/或图11A和图11B的指令以实现图1和/或图2中的示例认证分析器的示例处理器平台的框图。
图15是被构造成用于执行图12的指令以实现图1和/或图4中的示例推送通知控制器的示例处理器平台的框图。
这些图并未按比例绘制。一般来说,贯穿(多个)附图和所附书面说明书,相同的附图标记将用于指代相同或相似的部分。
当标识多个要素或组件时,本文使用描述符“第一”、“第二”、“第三”等,这些要素或组件可单独地被引用。除非基于它们的使用上下文另有规定或理解,否则此类描述符并非旨在赋予优先级、物理次序或列表中的布置、或者时间顺序的任何含义,而仅仅是为了便于理解所公开的示例而用作分别指代多个要素或组件的标签。在一些示例中,描述符“第一”可以用于指代详细描述中的要素,而在权利要求中可以使用诸如“第二”或“第三”之类的不同描述符来指代相同的要素。在此类实例中,应当理解,此类描述符仅用于易于引用多个要素或组件。
具体实施方式
诸如膝上型计算机或平板之类的电子设备可以通过在允许用户与该设备的存储器中所存储的数据(例如,(多个)媒体文件、(多个)应用)进行交互之前对该用户进行认证、来提供对该数据的安全访问。在一些实例中,当用户结束使用设备时,用户可从该设备注销以使得该用户或另一用户无法访问设备上所存储的数据,直到用户或新用户的身份被验证。在其他实例中,当设备被开启但在较长的时间段内未接收到用户输入时,针对设备的(多个)处理器可基于(多个)用户安全性设置而自动地使用户从设备注销。除了出于安全性目的而使用户从设备注销之外,当设备并未由用户活跃地使用时,设备还可以进入低功率状态以力图降低功耗。在一些示例中,设备进入连接待机模式或低功率待机状态,在连接待机模式或低功率状态下,设备保持连接至因特网以使得设备的(多个)处理器可以快速地对硬件和/或网络事件进行响应。
为了在用户已经注销之后提供对设备上的数据的访问,一些已知的设备要求用户输入密码或提供诸如指纹之类的另一标识输入。使用(多个)标识输入来验证用户是设备的经授权的用户。一些已知设备尝试经由图像识别来自动地对用户进行认证,以避免用户提供手动的(多个)标识输入的需要。当用户处于相机的视场内(例如,在设备的显示屏的前方)时,已知设备的相机可以生成用户的图像。此类已知的设备尝试基于例如面部识别分析来对用户进行认证。然而,为了在已知设备中使用图像数据来有效地对用户进行认证,用户应当相对于设备取向,以使得他的或她的面部面向显示屏。如果由相机生成的图像没有完整地捕捉用户的面部,则已知设备可能无法经由面部识别来对用户进行认证。在此类情况下,已知设备请求用户手动地提供标识数据(例如,密码、指纹)。而且,如果图像被获取时用户正穿戴有配饰(诸如眼镜或帽子),则此类已知设备可能不会识别出用户,因为该设备没有被训练用于识别带有该配饰的用户。而且,如果设备所处的环境中的环境光照很低(例如,黑暗的房间),则此类已知设备可能不会识别出用户,因为低光环境可以影响图像数据的质量。在此类实例中,已知设备产生错误,并且用户被要求手动地提供识别信息来访问设备上的数据。由此,已知设备要求针对经由图像分析来对用户进行认证的特定条件。如果此类条件不存在并且认证失败,则用户被要求手动地提供输入来获得对设备上的数据的访问。
进一步地,对于诸如膝上型计算机之类的具有蛤壳式形状因子的已知设备,相机可被定位成接近于设备的显示屏,以使得设备的机盖必须打开以使得相机能够捕捉用户的图像。因此,在其中当用户希望使用设备时机盖闭合的实例中,用户必须打开机盖以使得经由图像数据进行的认证过程能够被执行。
在一些已知设备中,经由图像分析来对用户进行认证涉及将设备从低功率状态唤醒到工作中系统功率状态,以激活相机、处理图像数据、和/或执行图像分析。在工作中系统功率状态下,设备完全操作,体现在:显示屏被开启,应用正由设备的(多个)处理器执行,等等。在工作中系统功率状态下,用户设备消耗最大量的功率。由此,在一些已知设备中,认证过程涉及设备的高功耗。进一步地,一些已知设备要求设备处于工作中系统功率状态,以接收基于因特网的提示(诸如传入的
Figure BDA0002694779970000041
呼叫)和/或与其他设备进行通信,以实现例如两个设备之间的屏幕共享。
一些已知设备尝试将设备维持在低功率状态下,直到基于由存在检测传感器生成数据在设备的附近检测到主体。然而,由存在检测传感器检测到的主体可能是正在路过该设备但不打算使用该设备的人。而且,检测到的主体可能是非人类主体,诸如宠物。结果是,当设备在预期仅基于对设备附近的主体的检测来执行对主体的认证的情况下移至工作中系统功率状态时,功率被设备不必要地消耗。
本文中所公开的是示例用户设备,该示例用户设备在该设备保持处于连接待机模式的同时、提供使用一个或多个认证模式对用户作为用户设备的经授权的用户进行低功率认证。本文中所公开的示例使用多级过程基于以下各项将用户认证为经授权的用户:对使用设备的用户意图的确定、诸如设备所处的环境中的光照量之类的环境因素、以及用户被预测为经授权的用户的置信度程度。本文中所公开的示例用户设备包括(多个)接近度传感器,该(多个)接近度传感器用于检测用户何时相对于用户设备是存在的。基于指示接近于用户设备的用户存在的传感器数据,本文中所公开的示例选择性地激活用户设备的(多个)话筒或(多个)相机,以分别生成音频数据或图像数据。音频数据或图像数据用于使用声音识别或图像识别来执行对用户的初始认证尝试。本文中所公开的一些示例选择激活(多个)话筒或(多个)相机,以基于例如设备所处的环境中的环境光照条件来执行初始认证分析。例如,如果设备位于低光环境中,则本文中所公开的示例可以优先于(多个)相机而选择激活(多个)话筒,从而基于声音识别来对用户进行认证、而不是使用由于低光设置而可能质量差的图像数据来尝试对用户进行认证。
本文中所公开的示例对用户经由初始认证模式(即,声音识别分析或图像识别分析)被预测为经授权的用户的置信度水平进行评估。基于置信度水平分析,本文中所公开的示例确定用户是否可以仅仅基于初始认证模式(例如,仅仅基于音频识别或仅仅基于图像识别)被成功认证为用户设备的经授权的用户,或者补充认证是否应当被执行以提高用户被标识为设备的经授权的用户的置信度水平。
例如,如果图像识别分析是初始认证模式,则由设备的(多个)相机生成的图像数据被分析以(例如,基于面部特征分析)预测在图像数据中标识出的用户是否为设备的已知的经授权的用户。就在图像数据中对经授权的用户的识别给预测指派置信度水平。如果基于由设备的(多个)相机生成的图像数据将用户认证为经授权的用户的置信度水平不满足预定义的置信度阈值,则本文中所公开的示例确定是否应当从用户处收集音频数据以执行声音分析。在此类示例中,对与图像识别分析和声音识别分析相关联的置信度水平进行评估,以确定组合分析的结果是否满足针对基于图像数据和音频数据来对用户进行认证的阈值。在其他实例中,本文中所公开的示例可检查受信任认证设备(例如,另一用户设备、密钥卡)的存在,并且基于图像识别和受信任认证设备的存在的组合来对用户进行认证。本文中所公开的示例维持用户设备处于低功率连接待机模式,直到用户被认证为经授权的用户。当用户被验证为设备的经授权的用户时,本文中所公开的示例指令设备移至全供电状态并且自动地使用户登录到设备中,以使得用户能够访问该设备的存储器中所存储的数据(例如,(多个)应用、媒体)。由此,本文中所公开的示例提供对用户的自动多模式认证,以确认尝试访问设备上存储的数据的用户是设备的经授权的用户,这优化了设备的功耗。
本文中所公开的示例可以在设备处于连接待机模式的同时接收来自(多个)远程用户设备的请求或(多个)推送通知,该请求或(多个)推送通知诸如,在设备之间共享屏幕的请求、传输文件的请求、和/或共享功率或无线充电能力的请求。如果本文中所公开的示例用户设备的用户接受从远程设备接收的请求,则本文中所公开的示例尝试在用户设备处于连接待机模式的同时、经由多模式认证(例如,图像识别、声音识别、图像识别和声音识别的组合)自动地将用户认证为示例用户设备的经授权的用户。如果用户被验证为经授权的用户,则本文中所公开的示例指示设备响应于请求而采取一个或多个动作,该一个或多个动作诸如经由设备的显示屏显示共享内容。在本文中所公开的一些示例中,诸如显示接收自远程设备的共享屏幕之类的动作可以在设备保持处于低功率连接待机模式的同时被执行。
虽然本文中公开的示例结合用户设备的连接待机模式来讨论,但是本文中所公开的示例可结合其他已知的待机/休眠功率状态或提供常通网际协议功能的未来待机/休眠功率状态来实现。
图1图示出根据本公开的教导构造的示例系统100,该示例系统100用于控制对个人计算(PC)设备或用户设备102的用户的认证以允许用户(术语“用户”和“主体”在本文中可互换地使用并且这两者指代诸如人类之类的生物)访问设备102的存储器中所存储的数据。用户设备102可以是例如膝上型计算机、台式机、混合式或可转换PC、电子平板等。
示例用户设备102包括主显示屏104。在用户设备102是膝上型计算机或其他蛤壳式设备的示例中,主显示屏104由膝上型计算机的机盖承载,其中,机盖在打开位置与闭合位置之间是可移动的,在打开位置中,主显示屏104是可见的,在闭合位置中,主显示屏105面对设备102的键盘。在用户设备102是电子平板的示例中,主显示屏104由平板的壳体承载。
图1的示例用户设备102的主显示器控制器103控制主显示屏104的操作并且促进经由主显示屏104对内容(例如,用户界面)的呈现。在一些示例中,主显示屏104是触摸屏,该触摸屏使得用户能够通过利用手写笔和/或用户的手部的一根或多根手指触摸屏幕、来与主显示屏104上所展示的数据进行交互。另外或替代地,用户可以经由用户设备102的一个或多个输入设备106(诸如,键盘、鼠标、触控板等)而与主显示屏104上所展示的数据进行交互。示例用户设备102包括处理器108,该处理器108执行软件以基于(多个)用户输入事件(例如,(多个)触摸事件、(多个)键盘输入等)来解释并输出(多个)响应。图1的用户设备102包括功率源109,诸如,用于向经由总线117通信地耦合的用户设备102的处理器108/或其他组件提供功率的电池。
在一些示例中,图1的用户设备102包括辅助显示屏105。辅助显示屏105可以在尺寸上小于主显示屏104,并且可以被定位在用户设备102上,以使得用户即使在主显示屏104被关闭和/或对于用户不可见(例如,因为用户设备102的机盖闭合)时也能够查看数据。例如,辅助显示屏105可以沿膝上型计算机的基座的边缘延伸,以使得当膝上型计算机的机盖闭合时辅助显示屏105对于用户是可见的。在一些示例中,辅助显示屏105是使得用户能够与经由该辅助显示屏105显示的内容进行交互的触敏屏幕。示例用户设备102包括辅助显示器控制器107,该辅助显示器控制器107用于控制辅助显示屏105的操作并且用于促进经由辅助显示屏105对内容(例如,用户界面)的呈现。
示例用户设备102包括用于向用户提供可听输出的一个或多个扬声器114。在一些示例中,扬声器114被定位在用户设备102的外表面上(例如,设备的基座的前边缘上,以使得无论设备的机盖是打开还是闭合,用户都可以听到由扬声器产生的声响)。示例用户设备102包括音频控制器115,该音频控制器115用于控制(多个)扬声器114的操作并促进经由(多个)扬声器114对音频内容的呈现。
在图1的示例中,当用户正在与用户设备102交互并且处理器108经由主显示屏104处的(多个)触摸事件和/或经由诸如键盘或鼠标这样的(多个)用户输入设备接收(多个)用户输入时,用户设备102处于工作中系统功率状态(例如,全供电状态)。在图1的示例中,当在用户设备102处未接收任何用户输入的阈值时间段之后(例如,五分钟之后、十分钟之后),处理器108可以指令用户设备102从工作中系统功率状态移至低功率状态。在图1的示例中,低功率状态是连接待机模式。在连接待机模式下,用户设备102的主显示屏104被关闭,用户设备102的某些组件可部分地或完全掉电,和/或某些应用可能无法由设备102的(多个)处理器执行。然而,用户设备102经由一个或多个有线或无线连接保持被连接到因特网,使得设备102的(多个)处理器108可以快速地对硬件和/或网络事件进行响应。
例如,在连接待机模式下,电子邮件应用下载电子邮件,而不是等到设备102返回到工作中系统功率状态时刷新电子邮件。在一些示例中,辅助显示屏105在设备102进入连接待机模式时被关闭,但是在设备102处于连接待机模式的同时被开启以显示所生成的通知(例如,新的电子邮件、传入的因特网电话呼叫)。在其他示例中,辅助显示屏105在用户设备102处于连接待机模式的持续时间内保持被开启。当设备102处于连接待机模式时辅助显示屏105的显示状态可以由处理器108控制。
示例用户设备102包括一个或多个通信接口111,该一个或多个用户接口111使得用户设备102能够以有线或无线的方式与(多个)其他(例如,远程)用户设备119进行通信,包括用户设备102处于连接待机模式时。在一些示例中,(多个)通信接口111接收来自其他设备119的推送通知,这些推送通知随后被处理和/或发起特定动作。例如,推送通知可对应于新电子邮件消息的接收、传入的会议呼叫、来自附近设备119的与计算机连接以共享文件或其他文档的请求的接收、由附近设备119共享的文件的接收等。(多个)其他用户设备119可以包括例如(多个)膝上型计算机、(多个)平板、(多个)智能电话等。(多个)通信接口111可以经由一个或多个通信协议来检测(多个)其他用户设备119和/或建立与(多个)其他用户设备119的通信,该一个或多个通信协议诸如Wi-Fi直连、
Figure BDA0002694779970000081
超声信标、和/或在设备之间提供对等访问的其他通信协议。
图1的示例用户设备102包括推送通知控制器113,该推送通知控制器113分析和/或控制对经由(多个)通信接口111接收自(多个)远程设备119的(多个)推送通知的响应。在图1的示例中,当设备处于连接待机模式时,推送通知控制器113保持操作以接收传入的(多个)推送通知。
在图1的示例中,当用户设备102进入连接待机模式时,处理器108使用户从用户设备102注销,以使得用户或另一用户在没有首先被认证或标识为设备102的经授权的用户的情况下无法访问设备102的存储器中所存储的数据(例如,媒体文件、(多个)应用)。在图1的示例中,用户可以在不提供(多个)手动标识输入(例如,密码、指纹)的情况下并且同时在设备102处于连接待机模式时、经由一个或多个认证模式被认证为设备102的经授权的用户。
图1的示例用户设备102包括一个或多个用户存在检测传感器110。(多个)用户存在检测传感器110提供用于在用户设备102位于其中的环境中检测用户相对于用户设备102的存在的装置,该用户诸如正在逐渐接近用户设备102的用户。在图1的示例中,(多个)用户存在检测传感器110可以包括(多个)运动传感器和/或(多个)接近度传感器,该(多个)运动传感器和/或(多个)接近度传感器发射例如电磁辐射(例如,光脉冲)并(例如,基于电磁辐射的反射)检测由于人或对象的存在而导致的信号的改变。在一些示例中,(多个)用户存在检测传感器110包括(多个)飞行时间(time-of-flight)传感器,该(多个)飞行时间传感器测量光在从人或对象被反射之后返回至传感器的时间长度,这可以用于确定深度。(多个)示例用户存在检测传感器110可以包括其他类型的传感器,诸如,基于雷达或声呐数据来检测改变的传感器。
(多个)用户存在检测传感器110由示例用户设备102承载,使得(多个)用户存在检测传感器110可以检测用户设备102位于其中的环境随(多个)用户存在检测传感器110的范围(例如,距离范围)(例如,在(多个)用户存在检测传感器110的10英尺内,在5英尺内,等等)而发生的改变。例如,(多个)用户存在检测传感器110可以被安装在主显示屏104的边框上,并被取向成使得(多个)用户存在检测传感器110能够检测逐渐接近用户设备102的用户。(多个)用户存在检测传感器110可以附加地或替代地位于用户设备102的、(多个)传感器110面向用户设备102所处环境的任何其他位置,诸如,在膝上型计算机的基座上(例如,在由基座承载的键盘前的该基座的边缘上),在膝上型计算机的机盖上,在其中主显示屏104是台式机或多合一PC的监视器的示例中在支撑主显示屏104的基座上,等等。
如本文中所公开,用户设备102包括(多个)通信接口111,以与远程设备通信。在一些示例中,(多个)通信接口111经由有线或无线通信协议而与一个或多个认证设备124建立通信。出于对用户设备102的用户进行认证的目的,(多个)认证设备124包括(多个)受信任设备。(多个)认证设备124可以包括(多个)硬件令牌(例如,密钥卡)、智能电话、诸如智能手表之类的可穿戴设备等。在一些示例中,认证设备124与远程用户设备119相同。在其他示例中,认证设备124不同于远程用户设备119。
示例用户设备102包括一个或多个话筒112,该一个或多个话筒用于检测用户设备102周围的环境中的声音。(多个)话筒112可以由用户设备102承载在例如设备的机盖的一侧或多侧上(例如,以使得能够对机盖何时被打开或被闭合的进行音频监视)、在用户设备102的基座的边缘处(例如,以与设备的机盖的位置无关地捕捉声音)等。
示例用户设备102包括一个或多个相机。在图1的示例中,用户102包括被定位成接近于主显示屏104的面向用户的相机116,以使得当用户面向主显示屏104时、该用户处于面向用户的相机116的视场内。图1的示例用户设备102包括面向外界的相机118。在一些示例中,面向外界的相机118被定位在用户设备102上,以面向与主显示屏104相反的方向。例如,当用户设备102是膝上型计算机时,面向用户的相机116可以被定位在机盖的内表面上、并且面向外界的相机118可以被定位在机盖的外表面上。在一些示例中,面向外界的相机118被定位在设备102的基座上,以使得当基座闭合时图像数据能够被生成。在一些示例中,面向用户的相机116和/或面向外界的相机118中的一者或多者包括深度感测相机。
示例用户设备102包括一个或多个环境光传感器120。(多个)环境光传感器120由用户设备102承载,以使得该(多个)环境光传感器120(例如,(多个)光电探测器)检测用户设备102位于其中的环境中的光的量。例如,当用户设备102是膝上型计算机时,(多个)环境光传感器120可以被设置在用户设备102的机盖上和/或基座的边缘上,以便被暴露于设备102位于其中的环境。
在用户设备102包括盖或机盖(例如,膝上型计算机机盖)的示例中,示例用户设备102包括(多个)机盖位置传感器123,该(多个)机盖位置传感器123用于确定用户设备102处于打开位置(例如,其中机盖与设备102的基座间隔开)还是闭合位置(例如,其中机盖至少部分地驻留在设备102的基座上)。(多个)机盖位置传感器123可以包括例如磁传感器,这些磁传感器检测相应的一对传感器何时彼此接近。(多个)机盖位置传感器123可以包括用于检测设备102的位置的(多个)其他类型传感器和/或开关。
图1的示例系统100包括一个或多个基于半导体的处理器,该一个或多个基于半导体的处理器用于处理由以下组件生成的数据:(多个)用户存在检测传感器110、(多个)通信接口111、(多个)话筒112、面向用户的相机116、面向外界的相机118、(多个)环境光传感器120、和/或(多个)机盖位置传感器123。例如,(多个)用户存在检测传感器110、(多个)通信接口111、(多个)话筒112、面向用户的相机116、面向外界的相机118、(多个)环境光传感器120、和/或(多个)机盖位置传感器123可以将数据传送至用户设备102的板载处理器108。在其他示例中,(多个)用户存在检测传感器110、(多个)通信接口111、(多个)话筒112、面向用户的相机116、面向外界的相机118、(多个)环境光传感器120、和/或(多个)机盖位置传感器123可以将数据传送至远程用户设备119的处理器125,或者在一些示例中,(例如,当认证设备是诸如智能电话之类的用户设备时)传送至认证设备124的处理器127。在其他示例中,(多个)用户存在检测传感器110、(多个)通信接口111、(多个)话筒112、面向用户的相机116、面向外界的相机118、(多个)环境光传感器120、和/或(多个)机盖位置传感器123可以将数据传送至基于云的设备126(例如,一个或多个服务器、(多个)处理器、和/或(多个)虚拟机)。
在一些示例中,用户设备102的处理器108通信地耦合至一个或多个其他处理器。在此类示例中,(多个)用户存在检测传感器110、(多个)通信接口111、(多个)话筒112、面向用户的相机116、面向外界的相机118、(多个)环境光传感器120、和/或(多个)机盖位置传感器123可以将数据传送至用户设备102的板载处理器108。用户设备102的板载处理器108随后可以将数据传送至用户设备119的处理器125、认证设备124的处理器127、和/或(多个)基于云的设备126。在一些此类示例中,用户设备102(例如,(多个)用户存在检测传感器110、(多个)通信接口111、(多个)话筒112、面向用户的相机116、面向外界的相机118、(多个)环境光传感器120、(多个)机盖位置传感器123、和/或板载处理器108)和(多个)处理器125、126、127经由一个或多个有线连接(例如,线缆)或无线连接(例如,蜂窝、Wi-Fi、或蓝牙连接)通信地耦合。在其他示例中,由(多个)用户存在检测传感器110、(多个)通信接口111、(多个)话筒112、面向用户的相机116、面向外界的相机118、(多个)环境光传感器120、和/或(多个)机盖位置传感器123生成的数据可仅由板载处理器108处理(即,不被发送离开该设备)。
在图1的示例中,由(多个)用户存在检测传感器110、(多个)通信接口111、(多个)话筒112、面向用户的相机116、面向外界的相机118、(多个)环境光传感器120、和/或(多个)机盖位置传感器123生成的数据由认证分析器128处理,以在设备102处于连接待机模式的同时将用户认证为用户设备102的经授权的用户,并且控制用户设备102从连接待机模式到工作中系统功率状态(即,全供电状态)的转变。在图1的示例中,认证分析器128由在用户设备102的处理器108上执行的指令实现。然而,在其他示例中,认证分析器128由在用户设备119的处理器125上、在认证设备124的处理器127上、和/或在(多个)基于云的设备126上执行的指令实现。在其他示例中,认证分析器128由位于用户设备102、用户设备119和/或认证设备124中的一者或多者上的专用电路实现。在一些示例中,示例认证分析器128的一个或多个组件由用户设备102的板载处理器108实现,并且一个或多个其他组件由用户设备119的处理器125、认证设备124的处理器127、和/或(多个)基于云的设备120实现。这些组件以软件、固件、硬件、或以软件、固件和硬件中的两个或更多个的组合来实现。
在一些示例中,认证分析器128由与实现例如设备102的操作系统的(例如,主)处理平台分离的芯片上系统(SOC)实现。在一些示例中,处理平台(例如,处理器)可以进入低功率状态(例如,休眠状态),同时,实现示例认证分析器128的SOC子系统保持操作用于检测例如接近于设备102的用户存在。SOC子系统可以消耗比认证分析器128由实现设备的操作系统的同一处理器实现的情况下更少的功率。
在图1的示例系统100中,认证分析器128用于处理由(多个)用户存在检测传感器110、(多个)通信接口111、(多个)话筒112、面向用户的相机116、面向外界的相机118、(多个)环境光传感器120、和/或(多个)机盖位置传感器123生成的数据,以在设备102已经进入连接待机模式之后对用户设备102的用户进行认证,并且指令用户设备102转变至工作中系统功率状态并允许用户访问设备102上所存储的数据(例如,应用)。在图1的示例中,认证分析器128可以使用多个认证模式来验证用户,该多个认证模式包括图像分析、声音分析、和/或对认证设备124的检测。例如,认证分析器128可以分析来自面向用户的相机116的图像数据和来自(多个)话筒112的音频数据,以基于对这两种类型的数据的分析来对用户进行认证。在图1的示例中,认证分析器128选择性地激活(多个)相机116、118和/或(多个)话筒112来生成传感器数据,该传感器数据相对于置信度阈值被分析以验证用户是设备102的经授权的用户。当认证分析器128验证用户的身份在置信度阈值内时,认证分析器128指令设备102移至工作中系统功率状态并且给客户提供对设备102上所存储的数据的访问权(例如,通过自动地使用户登录到设备102中)。
在图1的示例中,当用户设备102处于连接待机模式时,(多个)用户存在检测传感器110是活跃的以检测由于(多个)传感器110的范围内主体的存在导致的由(多个)传感器110发射的(多个)信号的改变。示例认证分析器128接收并处理来自(多个)用户存在检测传感器110的传感器数据。在一些示例中,认证分析器128基本上实时地(例如,接近数据被收集的时刻)接收来自(多个)用户存在检测传感器110的传感器数据。在其他示例中,认证分析器128在稍后时刻(例如,基于一个或多个设置周期性和/或非周期性地,但在引起传感器数据被生成的活动(诸如,用户在用户设备102前方行走)已发生的某个时间之后(例如,数秒后))接收传感器数据。认证分析器128可以对由(多个)用户存在检测传感器110生成的传感器数据执行一个或多个操作,诸如,过滤原始的信号数据、从信号数据移除噪声、将信号数据从模拟数据转换为数字数据、和/或对数据进行分析。
在一些示例中,用户设备102的用户定义的安全设置可请求对认证设备124(例如,辅助用户设备)的检测,以使得用户能够访问设备102上所存储的数据。在此类示例中,(多个)通信接口可以经由一个或多个通信协议(例如,经由Wi-Fi、蓝牙等)来检测认证设备的存在。认证分析器128分析接收自(多个)通信接口111的、指示对认证设备124的检测的数据,以确认认证设备124是受信任设备。
基于由(多个)用户存在检测传感器110生成的传感器数据和/或对认证设备124的检测,认证分析器128确定主体足够接近于用户设备102以便能开始认证过程。具体而言,在图1的示例中,认证分析器128尝试使用初始认证模式(例如,图像数据或音频数据)来对用户进行认证。如果对于初始认证模式、将用户认证为经授权的用户的置信度阈值未被满足,则认证分析器128确定是否应当执行补充认证(例如,使用图像数据或音频数据中的另一者),以提高用户被确定为设备102的经授权的用户的置信度。在一些示例中,由认证分析器128使用的(多个)认证模式基于由该认证分析器128获得的上下文知识来选择,该上下文知识诸如例如,可能影响图像数据的质量的、用户设备102位于其中的环境中的环境光条件。
在图1的示例中,在认证分析器128基于由(多个)用户存在检测传感器110生成的传感器数据检测到用户的存在和/或认证分析器128检测到认证设备124之后,认证分析器128使用声音识别或图像分析来执行初始认证尝试。在一些示例中,初始认证模式基于设备102的用户设置来定义。例如,可以基于(多个)用户输入而指令认证分析器128使用声音识别作为初始认证模式。在此类示例中,当用户被检测到接近于设备102时,认证分析器128指令(多个)话筒112生成音频数据。
在其他示例中,当设备102进入连接待机模式时,(多个)话筒112保持活跃。在此类示例中,如果认证分析器128检测到用户已经说出预定义的(多个)词和/或(多个)短语(一般被称为(多个)唤醒词),则认证分析器128能以使用音频数据作为初始认证模式来进行,该预定义的(多个)词和/或(多个)短语充当向认证分析器128通知用户希望使用设备的触发。例如,(多个)唤醒词可以包括诸如“开(on)”之类的词和/或诸如“唤醒(wake up)”之类的短语。如果在对用户的存在的检测的阈值时间段内由认证分析器128检测到(多个)唤醒词,则认证分析器128可自动地使用声音识别作为初始认证模式。
在其他示例中,认证分析器128基于设备102位于其中的环境中的环境光条件来选择使用声音识别或图像识别作为初始认证模式。例如,认证分析器128可以指令(多个)环境光传感器120生成指示设备102处于低光环境还是明亮光环境的传感器数据。基于来自(多个)环境光传感器120的数据,认证分析器128确定环境中的光照是否有益于图像分析。如果来自(多个)环境光传感器120的数据指示环境中的光是明亮的,则认证分析器128可以选择激活面向用户的相机116或面向外界的相机118中的一者或多者,以基于图像数据来对用户进行认证。如果来自(多个)环境光传感器120的数据指示环境中的光很低,则认证分析器128可以激活(多个)话筒来检测来自用户的声音输入。在此类示例中,认证分析器128尝试基于声音识别来对用户进行认证,以在对用户的认证中获得相较于基于对低光环境中捕获的(多个)图像的分析将获得的置信度更高的置信度。
在图1的示例中,如果经由初始认证模式(诸如声音识别)获得的(多个)预测的结果不满足仅仅基于初始认证模式将用户认证为经授权的用户的置信度阈值,则认证分析器128尝试以一个或多个其他认证模式来补充初始认证模式,该一个或多个其他认证模式诸如对认证设备124的检测、或者图像分析。如果认证分析器128无法使用补充认证模式来对用户进行认证,则认证分析器128可以请求来自用户的手动标识输入,诸如密码或指纹。认证分析器128使设备102维持处于连接待机模式直到对用户的认证成功,以避免在认证尝试期间消耗不必要的功率。
出于说明性目的,由认证分析器128执行的认证过程的第一示例将结合声音识别作为用于对用户设备102的用户进行认证的初始认证模式(例如,基于用户设置)来讨论。在该示例中,响应于基于由(多个)用户存在检测传感器110生成的传感器数据和/或对受信任的认证设备124的检测而检测到接近于用户设备102的用户,认证分析器128激活(多个)话筒112(即,如果(多个)话筒112尚未被激活)。在该示例中,(多个)相机116、118保持处于去激活状态。
认证分析器128分析由(多个)话筒112收集的音频数据,以确定用户是否已说出向认证分析器128通知用户希望使用设备的(多个)唤醒词。在图1的示例中,认证分析器128确定在例如由(多个)用户存在检测传感器110对用户进行检测的第一时间间隔内、是否在音频数据中检测到(多个)唤醒词。认证分析器128基于机器学习来执行语音识别分析,以在音频数据中标识(多个)唤醒词。
如果认证分析器128在由(多个)话筒112生成的音频数据中检测到(多个)唤醒词,则认证分析器128执行声音识别分析来确定用户的声音是否为经授权的用户的声音。认证分析器128生成关于在音频数据中检测到的声音是否为经授权的用户的声音的(多个)音频数据预测。认证分析器128基于机器学习来分析用户的声音,以将该声音识别为已知的经授权的用户的声音。
认证分析器128确定(多个)音频数据预测的置信度分数,该置信度分数表示由认证分析器128在音频数据中标识出的声音与用户设备102的经授权的用户的声音匹配的程度。可能影响(多个)音频数据预测的置信度分数的因素可以包括例如音频数据中的噪声水平。噪声可能影响认证分析器128准确表示用户的声音的能力。
图1的示例认证分析器128将(多个)音频数据预测的置信度分数与第一置信度阈值进行比较,该第一置信度阈值定义仅仅基于音频数据来对用户进行认证的最小置信度水平。如果认证分析器128确定(多个)音频数据预测满足基于音频数据对用户进行认证的第一置信度阈值,则认证分析器128指令用户设备102移至工作中系统功率状态(例如,全供电状态),并且指令用户设备102使用户登录到该设备102中以使得用户能够访问设备上所存储的数据。如果认证分析器128确定(多个)音频数据预测的第一置信度分数不满足置信度阈值并且由此存在关于尝试访问设备102的用户是否是经授权的用户的不确定性,则认证分析器128尝试使用(多个)其他认证模式来对用户进行认证,以补充音频数据分析并改善验证用户身份的置信度。
在(多个)音频数据预测的置信度分数不满足仅仅基于音频数据来对用户进行认证的置信度阈值、但认证分析器128已经检测到认证设备124的存在的示例中,认证分析器128尝试基于(多个)音频数据预测和对受信任的认证设备124的检测的组合来对用户进行认证。在此类示例中,认证分析器128将(多个)音频数据预测的置信度分数与第二置信度阈值进行比较,该第二置信度阈值定义基于音频数据和认证设备124的组合来对用户进行认证的最小阈值。可以定义第二置信度阈值来避免其中未经授权的用户拥有认证设备124并且试图通过说出(多个)唤醒词来获得访问权的情况。
如果认证分析器128因为(多个)音频数据预测不满足第二置信度阈值而无法基于(多个)音频数据预测与认证设备124的结合来验证用户,则认证分析器128可以尝试使用图像识别来对用户进行认证。如果(多个)音频数据预测不满足仅仅基于音频数据来对用户进行认证的第一置信度阈值并且没有认证设备124已被检测到(例如,因为认证设备124不存在或设备102未被配置成用于标识认证设备),则认证分析器128还可尝试使用图像识别来对用户进行认证。
为了获得图像数据,认证分析器128激活(多个)机盖位置传感器123,以访问关于设备102的形状因子的数据并且确定是否要激活面向用户的相机116和/或面向外界的相机118。如果由(多个)机盖位置传感器123生成的数据指示设备102处于打开位置,则认证分析器128激活面向用户的相机116来生成捕捉用户的图像数据,其中用户位于设备102的主显示屏104的前方。如果由(多个)机盖位置传感器123生成的数据指示设备处于闭合位置,则认证分析器128激活面向外界的相机118。面向外界的相机118生成用户设备102位于其中的环境的图像数据,以在设备102处于闭合位置时捕获用户的面部。
在一些示例中,如果认证分析器128确定(多个)音频数据预测不满足(多个)置信度阈值,则认证分析器128自动地指令(多个)相机116、118生成图像数据,以尝试经由图像识别来识别环境中的用户。在其他示例中,在经由(多个)相机116、118收集图像数据之前,认证分析器128生成要经由主显示屏104或第二显示屏105(例如,取决于如由(多个)机盖位置传感器123检测到的设备102的位置)显示的(多个)通知。通知可以包括指示需要附加信息用于认证并且请求用户相对于(多个)相机116、118对他或她自己进行定位的(多个)图像和/或文本。附加地或替代地,认证分析器128可以生成请求要由(多个)扬声器114输出图像数据的音频通知。
认证分析器128分析由面向用户的相机116和/或面向外界的相机118生成的图像数据,以基于经由机器学习所学习的图像识别技术(例如,面部识别)在图像数据中标识经授权的用户的(多个)特征。认证分析器128生成(多个)图像数据预测、或关于在由面向用户的相机116和/或面向外界的相机118生成的图像数据中标识出的用户是否为经授权的用户的(多个)预测。
认证分析器128对基于来自面向用户的相机116和/或面向外界的相机118的图像数据生成的(多个)图像数据预测进行评估,以确定该(多个)图像数据预测的(多个)置信度分数,其中,(多个)置信度分数指示由认证分析器128在图像数据中标识出的用户与用户设备102的经授权的用户的图像匹配的程度。在一些示例中,认证分析器128在向(多个)图像数据预测指派(多个)置信度分数时分析由(多个)环境光传感器120生成的数据。如上文所讨论,(多个)环境光传感器120生成指示环境中的光条件的数据。环境光传感器数据由认证分析器128用于确定图像数据是在低光环境还是明亮光环境中被生成。低光环境可能影响所获得的图像数据的质量,并且在此类实例中,认证分析器128可能无法在图像数据中准确地标识用户。如果认证分析器128基于环境光传感器数据确定图像数据在低光环境中被生成,则认证分析器128给图像数据预测指派比预测使用在较明亮环境中捕捉的图像数据被生成的情况下的置信度分数更低的置信度分数。在较明亮环境中生成的图像数据提供对图像特征更清晰的捕捉,并且由此提供改善的图像识别。
在图像数据用于对利用由(多个)话筒112捕捉的音频数据来执行的认证进行补充的示例中,当使用音频数据和图像数据两者时,认证分析器128确定(多个)音频数据预测的(多个)置信度分数和(多个)图像数据预测的(多个)置信度分数是否足以将用户认证为设备102的经授权的用户。例如,认证分析器128可以确定(多个)音频数据预测的(多个)置信度分数和(多个)图像数据预测的(多个)置信度分数是否满足相应的置信度阈值。(多个)置信度阈值可以定义基于音频数据和图像数据的组合来对用户进行认证的最小置信度水平。如果认证分析器128确定组合音频数据和图像数据满足使用这两种类型的数据来对用户进行认证的(多个)置信度阈值,则认证分析器128指令用户设备102移至工作中系统功率状态并且授予用户对设备102上的数据的访问权。
如果认证分析器128无法基于以下各项中的一项将用户认证为用户设备102的经授权的用户,则认证分析器128指令用户设备102保持处于低功率状态并且不向用户授予对设备102上的数据的访问权、直到例如用户提供正确的手动标识输入(诸如密码或指纹):(a)仅仅音频数据,(b)音频数据与对认证设备124的检测组合,或(c)音频数据与图像数据组合。
而且,如果当使用音频数据来执行初始认证尝试时、认证分析器128在检测用户存在的预定义的时间间隔内没有检测到(多个)唤醒词,则认证分析器128指令用户设备102保持处于低功率状态并且不向用户授予对设备102上的数据的访问权、直到正确的手动标识输入(诸如密码或指纹)被提供。在此类示例中,由于不存在检测到的(多个)唤醒词,因此认证分析器128使设备维持处于连接待机模式,直到来自用户的、确认该用户希望使用设备的手动输入被接收。由此,示例认证分析器128使用户设备102维持处于连接待机模式并且防止对设备102上的数据的未经授权的访问,直到用户经由自动声音或图像识别或者经由(多个)手动标识输入而被认证。
虽然前述示例在声音识别作为初始认证模式的上下文中讨论,但在其他示例中,图像识别可以被用作初始认证模式(例如,基于设备102的(多个)用户设置),并且如果需要,声音识别可以被用作补充认证模式以改善验证用户的身份的置信度水平。例如,如果(多个)用户存在检测传感器110检测到传感器范围内用户的存在和/或如果认证分析器128经由(多个)通信接口111检测到受信任的认证设备124,则认证分析器128可以(例如,基于从(多个)机盖位置传感器123获得的关于设备102的形状因子位置的数据)自动地激活面向用户的相机116和/或面向外界的相机118以获得图像数据。认证分析器128分析图像数据,以生成与在图像数据中检测经授权的用户有关的(多个)图像数据预测。认证分析器128向(多个)图像数据预测指派(多个)置信度分数。如果(多个)图像数据预测的置信度水平满足仅仅基于图像数据来对用户进行认证的置信度阈值,则指令用户设备102移至工作中系统功率状态并且授予用户对设备102上的数据的访问权。
在图像数据被用作初始认证模式并且(多个)图像数据预测不满足仅仅基于图像数据来对用户进行认证的置信度水平阈值(因为图像数据在低光环境中被捕捉)的示例中,认证分析器128可以请求经由一个或多个补充认证模式来进行认证。例如,如果认证设备124已经被检测到,则认证分析器128可以确定(多个)图像数据预测是否满足基于图像数据和存在认证设备124的组合来对用户进行认证的置信度阈值。
在认证分析器128无法仅仅基于图像数据或者基于图像数据和认证设备124来对用户进行认证的示例中,该认证分析器可以尝试基于声音数据来对用户进行认证。认证分析器激活(多个)话筒112并且请求来自用户的声音输入。例如,认证分析器128可以生成要经由主显示屏104或第二显示屏105(例如,取决于如由(多个)机盖位置传感器123检测到的设备102的形状因子位置)显示的、请求用户提供音频输入(例如,通过说出(多个)唤醒词)的通知。附加地或替代地,通知作为音频输出经由(多个)扬声器114被提供。
在此类示例中,认证分析器128分析经由(多个)话筒112接收的音频数据,以生成与在音频数据中检测经授权的用户的声音有关的(多个)音频数据预测。认证分析器128向(多个)音频数据预测指派(多个)置信度分数。如果(多个)图像数据预测的(多个)置信度分数和(多个)音频数据预测的(多个)置信度分数满足基于图像数据和声音数据的组合来对用户进行认证的(多个)置信度阈值,则认证分析器128指令用户设备102移至工作中系统功率状态并授予用户对设备102上的数据的访问权。
在图像数据要被用作初始认证模式或被用作对声音认证的补充的示例中,如果认证分析器128确定环境中的光过低以至于无法有效地分析图像数据,则认证分析器128可抑制而不激活(多个)相机116、118。例如,如果认证分析器128基于来自(多个)环境光传感器120的数据确定用户设备102位于黑暗环境中,则认证分析器128可以经由(多个)扬声器114请求来自用户的声音输入而不是激活(多个)相机116、118。如果经由声音识别(仅仅经由声音识别或经由声音识别与对认证设备124的检测)的认证尝试未成功,则认证分析器128可请求手动标识输入而不是尝试使用图像数据来对用户进行认证。在此类示例中,认证分析器128防止用户设备102的、与对(多个)相机116、118的激活有关的、因为黑暗环境中的(多个)相机116、118可能无法有效地用于标识用户而造成的不必要的功耗。
尽管已经讨论了通过经由(多个)用户存在检测传感器110对用户的检测和/或通过对受信任的认证设备124的检测发起认证过程的前述示例,但在其他示例中,当设备102处于连接待机状态时,(多个)通信接口111接收来自(多个)其他用户设备119的(多个)推送通知。(多个)推送通知可以请求用户设备102与(多个)其他用户设备119之间的对等通信,诸如,设备102、119之间的(多个)文件传输、屏幕共享、功率共享(例如,无线功率共享)、音频网格划分等。响应于接收自(多个)其他用户设备119的(多个)此类请求,认证分析器128输出指示来自(多个)其他用户设备119的(多个)请求的(多个)通知,该(多个)通知要经由(多个)扬声器114被输出和/或经由主显示屏104和/或辅助显示屏105被显示(例如,取决于设备102处于打开状态还是闭合状态)。认证分析器128监视指示对(多个)请求的接受或拒绝的(多个)用户输入。(多个)用户输入可以包括经由主显示屏104或第二显示屏105的触摸输入(例如,选择请求批准按钮)和/或经由(多个)话筒112检测的音频输入(例如,诸如“接受(accept)”之类的触发词)。
如果认证分析器128检测到确认用户希望接受从(多个)其他用户设备119接收的(多个)请求的用户输入,则认证分析器128尝试使用上文所公开的多模式认证来对用户进行认证,以确认接受请求的用户是设备102的经授权的用户。例如,认证分析器128可以基于经由(多个)话筒112捕捉的音频数据经由声音识别来对用户进行认证,基于经由(多个)相机116、118捕捉的图像数据经由图像数据分析来对用户进行认证,和/或基于声音数据和图像数据的、图像数据和对认证设备124的检测(其中,认证设备124可以与生成请求的设备是相同的设备或不同的设备)的、音频数据和对认证设备124的检测的(多个)组合等来对用户进行认证。
如果认证分析器128将接受来自(多个)远程用户设备119的请求的用户成功地认证为设备102的经授权的用户,则认证分析器128指令用户设备102基于(多个)推送通知采取一个或多个动作。在一些示例中,用户设备102可以在该设备102处于连接待机模式的同时响应于(多个)推送通知而执行一个或多个动作。例如,认证分析器128可以指令用户设备102的辅助显示控制器107从低功率状态移至较高的功率状态,以使得能够对在设备102、119之间共享的、要经由辅助显示屏105显示(例如,当用户设备102处于闭合状态时)的图像进行预览。在其他示例中,认证分析器128指令主显示器控制器103从低功率状态移至较高功率状态,以实现设备102、119之间的屏幕共享。当用户设备响应于推送通知而执行(多个)动作时,用户设备102的其他硬件设备可以保持处于低功率状态。在其他示例中,认证分析器128指令用户设备102移至工作中系统功率状态,以使得用户能够响应于推送通知而执行其他动作,诸如,保存经由另一用户设备119传输至用户设备102的文件。
因此,图1的示例认证分析器128优化用户设备102处于连接待机模式时的功耗。认证分析器128使设备102维持处于连接待机模式直到用户被认证。进一步地,当用户处于连接待机模式时,认证分析器128不激活例如(多个)相机116、118,直到由(多个)用户存在检测传感器110检测到用户的存在和/或诸如声音数据识别之类的其他认证模式已经被尝试。由此,认证分析器128选择性地控制用户设备102的(多个)传感器112、116、118、120、123的操作,以节省功率同时保护对设备102中所存储的数据的访问。进一步地,在用户已经被认证之后并且在设备102仍处于连接待机模式的同时,用户设备102可以执行诸如显示经由另一用户设备119共享的屏幕之类的动作。
图2是图1的认证分析器128的示例实现方式的框图。如上文所提及,认证分析器128被构造成用于使用一个或多个认证模式将用户认证为用户设备102的经授权的用户,并且用于生成使得用户设备102用于以下操作的指令:从连接待机模式移至工作中系统功率状态,并且授予经授权的用户对用户设备102上所存储的数据的访问权。在图2的示例中,认证分析器128由以下各项中的一项或多项来实现:用户设备102的处理器108、另一用户设备119的处理器125、认证设备124的处理器127、和/或(多个)基于云的设备126(例如,图1的(多个)服务器、(多个)处理器和/或云126中的(多个)虚拟机)。在一些示例中,认证分析中的一些由认证分析器128经由云计算环境实现,并且该分析的一个或多个其他部分由被控制的用户设备102的处理器108、认证设备124的处理器127、和/或第二用户设备119(诸如,可穿戴设备)的处理器125实现。
图2的示例认证分析器128包括传感器管理器202。在该示例中,传感器管理器202提供用于启用或禁用以下各项中的一项或多项的手段:(多个)用户存在检测传感器110、(多个)话筒112、面向用户的相机116、面向外界的相机118、(多个)环境光传感器120、和/或(多个)机盖位置传感器123。传感器管理器202基于一个或多个传感器激活规则204来确定应当被启用或被禁用的(多个)传感器110、112、116、118、120、123。(多个)传感器激活规则204可以基于(多个)用户输入而被定义,并且可以被存储在数据库203中。在一些示例中,认证分析器128包括数据库203。在其他示例中,如图2中所示,数据库203位于认证分析器128外部、在可由该认证分析器124访问的位置中。
(多个)传感器激活规则204可以指示例如当设备102处于连接待机模式时(多个)用户存在检测传感器110应当是活跃的。(多个)传感器激活规则204可以指示当设备102进入连接待机模式时、(多个)其他传感器112、116、118、120、123应当被禁用,以节约功率。(多个)传感器激活规则204定义当由(多个)用户存在检测传感器110检测到主体的存在时、哪个(哪些)传感器112、116、118、120、123应当被激活。
如图2中所图示,示例认证分析器128从图1的示例用户设备102的(多个)用户存在检测传感器110接收用户检测传感器数据205。可以将传感器数据存储在数据库203中。
图2的示例认证分析器128包括用户存在检测分析器208。在该示例中,用户存在检测分析器208提供用于分析由(多个)用户存在检测传感器110生成的传感器数据205的手段。具体而言,用户存在检测分析器208分析传感器数据205以确定主体是否在(多个)用户存在检测传感器110的范围内,并由此确定主体是否足够接近用户设备102以便能表明对该用户的认证应当被执行。用户存在检测分析器208基于一个或多个用户存在检测规则217来分析传感器数据205。(多个)用户存在检测规则217可以基于(多个)用户输入而被定义,并且可以被存储在数据库203中。
(多个)用户存在检测规则217可定义例如由(多个)用户存在检测传感器110进行的、指示在(多个)用户存在检测传感器110的范围内主体的存在的阈值飞行时间测量(例如,在发射波脉冲、从主体向外反射以及返回到传感器之间的时间量的测量)。在一些示例中,(多个)用户存在检测规则217定义用于确定主体在用户设备102的接近度内的(多个)阈值距离。在此类示例中,用户存在检测分析器208基于传感器数据205中的(多个)飞行时间测量和由(多个)传感器110发射的光的已知速度来确定(多个)距离。在一些示例中,用户存在检测分析器208识别深度或距离值随时间的变化,并基于这些变化来检测用户正在逐渐接近用户设备102还是正在移动离开用户设备102。用于用户检测传感器数据205的(多个)阈值飞行时间测量和/或(多个)距离可以基于(多个)传感器110发射脉冲的范围。在一些示例中,(多个)阈值飞行时间测量和/或(多个)距离基于用户定义的参考距离,该用户定义的参考距离用于确定用户是否接近或正逐渐接近用户设备102(相比于仅确定用户在用户设备102和用户两者所在的环境中)。
在一些示例中,由用户存在检测分析器208检测到的用户可以携带有认证设备124(图1),该认证设备124由(多个)通信接口111(例如,经由无线或有线通信协议)检测。在此类示例中,(多个)通信接口111生成设备检测数据207,该设备检测数据207由示例认证分析器128接受并且可以被存储在数据库203中。图2的示例认证分析器128包括认证设备分析器209。在该示例中,认证设备分析器209提供用于分析由(多个)通信接口111生成的、指示对(多个)其他设备的检测的设备检测数据207的手段。认证设备分析器209分析设备检测数据207以确定检测到的设备是否为受信任的认证设备124、或者先前已经被标识为可以用于对特定用户进行认证的设备的设备。认识设备分析器209基于(多个)认证设备规则211来确定检测到的认证设备124是否为经授权的设备。(多个)认证设备规则211标识先前已经被识别为用于对用户进行认证的目的的经授权的用户设备的用户设备,并且可以被存储在数据库203中。
当用户存在检测分析器208确定用户相对于设备102是存在的和/或认证设备分析器209检测到受信任的认证设备124时,传感器管理器202选择性地激活(多个)传感器112、116、118、120、123中的某些传感器,以使用图像数据和/或音频数据将用户认证为用户设备102的经授权的用户。传感器管理器202基于(多个)传感器激活规则204选择性地激活(多个)传感器112、116、118、120、123。
在一些示例中,(多个)传感器激活规则204定义是音频数据还是图像数据应当响应于由用户存在检测分析器208对用户的检测和/或由认证设备分析器209对认证设备124的检测而被用作初始认证模式。例如,(多个)传感器激活规则204可以定义音频数据优先于图像数据而应当被用作用于对用户进行认证的初始数据形式。鉴于(多个)此类规则,传感器管理器202激活(多个)话筒112,以使得该(多个)话筒112能够捕捉音频数据。在这些示例中,传感器管理器202使(多个)相机116、118维持处于去激活状态,并且可在需要时仅激活(多个)相机116、118,以使用图像数据来执行对用户的补充认证(例如,在音频数据分析的(多个)结果无法满足使用音频数据进行的认证的(多个)置信度阈值的情况下)。
替代地,(多个)传感器激活规则204可以定义图像数据应当优先于音频数据而被用于执行初始认证。在此类示例中,传感器管理器202响应于检测到接近于用户设备102的用户和/或认证设备124而激活面向用户的相机116和/或面向外界的相机118。在该实例中,传感器管理器202使(多个)话筒维持处于去激活状态,并且可在需要时仅激活(多个)话筒112,以经由音频数据对用户进行补充认证。
在其他示例中,响应于对用户的检测和/或对认证设备124的检测并且基于设备102位于其中的环境中的(多个)条件,传感器管理器202动态地确定是激活(多个)话筒112还是激活(多个)相机116、118。为了确定是使用音频数据还是图像数据来对用户进行认证,传感器管理器202激活图1的示例用户设备102的(多个)环境光传感器120,以获得与用户设备102位于其中的环境的光照有关的信息,并且具体地,关于用户设备102位于低光环境还是明亮环境中的信息。
图2的示例认证分析器128接收来自被激活的(多个)环境光传感器120的环境光数据206。环境光数据206可以被存储在数据库203中。示例认证分析器128包括环境光分析器210。在该示例中,环境光分析器210提供用于分析由(多个)环境光传感器120生成的传感器数据206以确定用户设备102位于其中的环境中的光照条件的手段。环境光分析器210基于一个或多个环境光规则212来分析传感器数据206。(多个)环境光规则212可以基于(多个)用户输入而被定义,并且可以被存储在数据库203中。(多个)环境光规则212可以定义针对由(多个)环境光传感器120检测的光的值(例如,亮度),这些值指示用户设备102是处于低光环境(例如,黑暗的房间)还是明亮环境中(例如,打开灯的房间中、在阳光充足的日子的室外露台上)。
当作出使用音频数据还是图像数据来尝试对用户初始地进行认证的动态决策时,示例认证分析器128的传感器管理器202接收由环境光分析器210对环境光数据206的分析的结果。例如,(多个)传感器激活规则204可以指示如果用户设备102处于低光环境中则(多个)话筒应当优先于(多个)相机116、118被激活以经由音频数据来对用户进行认证。在用户设备102位于低光环境中的示例中,就对用户进行认证而言,使用音频数据可以带来相较于使用在低光环境中收集的图像数据更高置信度的预测。在低光环境中,通过激活(多个)话筒112而不是(多个)相机116、118,传感器管理器202尝试通过在图像数据由于低光条件而不可靠的情况下避免对经由音频数据进行的补充认证的需要来节约功率。如本文中所公开,在此类示例中,认证分析器128可依赖于音频数据,并且如果对用户进行认证未成功,则可依赖于手动标识输入,而不是通过在低光环境中激活(多个)相机116、118而不必要地导致设备102消耗功率。
替代地,如果来自环境光分析器210的数据指示用户设备102处于明亮环境中,则传感器管理器202可以优先于(多个)话筒112而激活(多个)相机116、118,以尝试经由图像数据来对用户进行认证。(多个)传感器规则204可以指示,在明亮光环境中,(多个)相机116、118应当优先于(多个)话筒112被激活,以避免要求用户说话(如果可能)。
传感器管理器202基于(多个)传感器激活规则204来选择要激活一个或多个相机116、118中的哪个相机。在传感器管理器202确定(多个)相机116、118应当被激活以获得图像数据(例如,用于初始认证或补充认证)并且用户设备102具有蛤壳式形状因子(例如,诸如膝上型计算机)的示例中,传感器管理器202基于来自(多个)机盖位置传感器123的数据来确定要激活(多个)相机116、118中的哪个相机。例如,响应于由传感器管理器202对激活(多个)相机116、118的决策,传感器管理器202激活图1的示例用户设备102的(多个)机盖位置传感器123。结果是,示例认证分析器128接收来自图1的示例用户设备102的(多个)机盖位置传感器123的机盖位置数据214。机盖位置数据214可以被存储在数据库203中。
示例认证分析器128包括设备位置分析器221。在该示例中,设备位置分析器221提供用于分析由(多个)机盖位置传感器123生成的机盖位置数据214的手段。具体而言,设备位置分析器221分析机盖位置数据214,以确定用户设备102是处于使得主显示屏104可见的打开位置还是处于使得主显示屏104面向设备102的键盘的闭合位置。设备位置分析器221基于一个或多个设备位置规则223来分析机盖位置数据214。(多个)设备位置规则223可以基于(多个)用户输入而被定义,并且可以被存储在数据库203中。(多个)设备位置规则223可以定义例如(多个)传感器位置(例如,磁耦合件位置、开关位置),该(多个)传感器位置指示设备102处于闭合位置或打开位置。
传感器管理器202分析来自设备位置分析器221的数据,以确定是否要确定是否要激活面向用户的相机116和/或面向外界的相机118。例如,传感器激活规则204可以指示,如果用户设备102处于打开位置,则面向用户的相机116应当被激活,而如果用户设备102处于闭合位置,则面向外界的相机118应当被激活。
在一些示例中,当在连接待机模式下(多个)话筒112和/或(多个)相机116、118被激活时,传感器管理器202禁用(多个)用户存在检测传感器110以节约功率。在其他示例中,(多个)用户存在检测传感器110在设备102处于连接待机模式的时间的持续时间内保持活跃。
在图2的示例中,认证分析器128分析由被激活的(多个)话筒112和/或被激活的(多个)相机116、118生成的数据,以尝试将用户认证为设备102的经授权的用户。例如,当(多个)话筒112活跃时,示例认证分析器128接收来自(多个)话筒的音频数据216。音频数据216可以被存储在数据库203中。
示例认证分析器128包括音频数据分析器218。在该示例中,音频数据分析器218提供用于分析由(多个)话筒112生成的音频数据216的手段。具体而言,音频数据分析器218分析音频数据216,以确定:(a)在音频数据216中是否检测到(多个)唤醒词,以及(b)(多个)唤醒词是否已由用户设备102的经授权的用户说出。如本文中所公开(图3),音频数据分析器218分析音频数据216中的声音数据,以分别使用机器学习期间生成的(多个)关键词模型219和(多个)声音模型220来检测(多个)唤醒词以及将用户的声音验证为经授权的用户的声音。
示例音频数据分析器218针对音频数据216执行(多个)关键词模型,以基于语音识别来预测已知的(多个)唤醒词是否由用户说出。在一些示例中,如果在阈值时间间隔内音频数据分析器218没有在音频数据216中检测到(多个)唤醒词,则传感器管理器202可指令(多个)话筒112关闭,因为传感器管理器202确定用户不打算使用设备102。示例认证分析器128包括定时器222。定时器222基于存储在数据库203中且由(多个)用户输入定义的(多个)时间间隔阈值224来监测已逝去的时间量。(多个)时间间隔阈值224定义用于在音频数据216中检测(多个)关键词的时间间隔。当传感器管理器202响应于由用户存在检测分析器208检测到主体和/或由认证设备分析器209检测到认证设备124而激活(多个)话筒112时,定时器222被启动。
如果音频数据分析器218确定(多个)唤醒词由用户说出,则音频数据分析器218执行(多个)声音模型220以基于声音识别来确定这些(多个)唤醒词是否由经授权的用户说出。作为执行由(多个)话筒112生成的(多个)声音模型220的结果,音频数据分析器218生成(多个)音频数据预测或(多个)唤醒词由用户设备102的经授权的用户说出的(多个)预测。
音频数据分析器218确定(多个)音频数据预测的(多个)置信度分数、或者由音频数据分析器218对音频数据216标识出的声音与经授权的用户的声音匹配的程度。例如,音频数据分析器218可以通过将音频数据216中的声音数据与经授权的用户的已知声音数据或(多个)声纹进行比较,来确定(多个)音频数据预测的(多个)置信度分数,该(多个)置信度分数可以被存储在训练数据库(图3)或数据库203中。音频数据分析器218可以将音频数据216中的声音数据的(多个)特征(例如,频率、持续时间、强度)与(多个)声纹的(多个)特征进行比较,以确定音频数据216中的(多个)声音特征有多密切地与(多个)声纹匹配。基于比较分析,音频数据分析器218向(多个)音频数据预测指派(多个)置信度分数。
在一些示例中,音频数据分析器218在确定(多个)音频数据预测的(多个)置信度分数时、将诸如音频数据216中的噪声之类的变量考虑在内。例如,如果音频数据216包括高于阈值的噪声,则音频数据分析器218可降低指派给(多个)音频数据预测的(多个)置信度分数,因为噪声可能干扰音频数据分析器218准确分析用户的声音的能力。
如本文中所公开,在一些示例中,传感器管理器202激活面向用户的相机116和/或面向外界的相机118,以获得可以用于对用户进行认证的图像数据。当面向用户的相机116活跃时,示例认证分析器128从面向用户的相机116接收图像数据226。类似地,当面向外界的相机118活跃时,示例认证分析器128从面向外界的相机118接收图像数据228。由相应的相机116、118生成的图像数据226、228可以被存储在数据库203中。
示例认证分析器128包括图像数据分析器230。在该示例中,图像数据分析器230提供用于分析由(多个)话筒116、118生成的图像数据226、228的手段。具体而言,图像数据分析器230分析图像数据226、228,以确定设备102的经授权的用户在图像数据226、228中是否可标识。如本文中(图3)所公开,图像数据分析器230分析图像数据226、228,以使用在机器学习期间生成的(多个)图像模型231在图像数据226、228中标识经授权的用户的特征。作为针对图像数据226、228执行(多个)图像模型231的结果,图像数据分析器230生成(多个)图像数据预测、或者图像数据226、228包括经授权的用户的(多个)图像的(多个)预测。
图像数据分析器230确定(多个)图像数据预测的(多个)置信度分数。(多个)置信度分数表示如由图像数据分析器230所确定的、在图像数据226、228中标识出的用户的(多个)特征与经授权的用户的(多个)特征匹配的程度。例如,图像数据分析器230可以通过将在图像数据226、228中标识出的用户特征(例如,头发颜色、眼睛颜色、面部特征、用户的面部上所穿戴的诸如眼镜之类的配饰)与经授权的用户的已知特征进行比较,来确定(多个)图像数据预测的(多个)置信度分数,该(多个)置信度分数可以被存储在训练数据库(图3)或数据库203中。图像数据分析器230可以将图像数据226、228中用户的特征与经授权的用户的特征进行比较,以确定图像数据226、228中用户的特征有多密切地与经授权的用户的特征匹配。基于比较分析,图像数据分析器230向(多个)图像数据预测指派(多个)置信度分数。
在一些示例中,图像数据分析器230在确定(多个)图像数据预测的(多个)置信度分数时将诸如环境光条件之类的变量考虑在内。例如,如果来自环境光分析器210的数据指示用户设备102处于低光环境中,则鉴于低光对图像数据226、228的质量的影响,图像数据分析器230可降低指派给(多个)图像数据预测的(多个)置信度分数。
在一些示例中,如果在阈值时间间隔内图像数据分析器230未在图像数据226、228中检测到用户,则传感器管理器202可指令(多个)相机116、118关闭,因为传感器管理器202确定用户不打算使用设备102(例如,在最初处于(多个)用户存在检测传感器的范围内之后,用户从设备102处走开)。图2的示例认证分析器128的定时器222基于存储在数据库203中且由(多个)用户输入定义的(多个)时间间隔阈值224来监测已逝去的时间量。(多个)时间间隔阈值224定义用于在图像数据226、228中检测用户的时间间隔。当传感器管理器202响应于由用户存在检测分析器208检测到主体和/或由认证设备分析器209检测到认证设备124而激活(多个)相机116、118时,定时器222被启动。
图2的示例认证分析器128包括置信度分析器232。在该示例中,置信度分析器232提供用于分析由音频数据分析器218和/或图像数据分析器230生成的(多个)置信度分数以确定用户是否已经成功被标识为设备102的经授权的用户的手段。当音频数据在作为初始认证模式中被使用时,置信度分析器232分析(多个)音频数据预测的(多个)置信度分数,以确定是否应当使用例如图像数据来执行补充认证。类似地,当图像数据在对用户进行认证的初始尝试中被使用时,置信度分析器232分析(多个)图像数据预测的(多个)置信度分数,以确定是否应当使用例如音频数据来执行补充认证。
置信度分析器232基于一个或多个置信度规则234来分析(多个)置信度分数,该一个或多个置信度规则234被存储在数据库203中并且基于(多个)用户输入而被定义。(多个)置信度规则234定义(多个)音频数据预测的(多个)置信度分数的(多个)阈值,以确定用户是否已基于音频数据216而被认证为经授权的用户。(多个)置信度规则234定义(多个)图像数据预测的(多个)置信度分数的(多个)阈值,以确定用户是否已基于图像数据226、228而被认证为经授权的用户。
例如,当(多个)话筒112由传感器管理器202激活作为初始认证模式(即,音频数据分析优先于图像数据分析被选择用于初始认证尝试)时,置信度分析器232相对于由(多个)置信度规则234定义的第一置信度阈值、对(多个)音频数据预测的(多个)置信度分数进行分析。第一置信度阈值定义表示针对仅仅基于音频数据来对用户进行认证的最小置信度水平的置信度分数值。例如,第一置信度阈值可以指示,如果用户仅仅基于音频数据而被认证,则音频数据预测应当满足至少97%的置信度水平。如果(多个)音频数据预测的(多个)置信度分数满足第一音频数据置信度阈值,则置信度分析器232确定用户已经基于声音识别而被成功认证为经授权的用户。如果(多个)音频数据预测被生成,则置信度分析器232可以考虑例如(多个)置信度分数的平均数。
图2的示例认证分析器128包括通信器236。如果置信度分析器232确定用户已经基于音频数据216而被认证,则通信器236将由置信度分析器232生成的指令传送至用户设备102的其他组件(例如,主显示器控制器232),以使得用户设备的硬件设备唤醒并且使得用户设备退出低功率模式并进入工作中系统功率状态。由置信度分析器232生成的指令包括用于用户设备102基于对用户的成功认证自动地使用户登录到该设备中的指令。
如果置信度分析器232确定(多个)音频数据预测的(多个)置信度分数不满足第一置信度阈值,则置信度分析器232确定(多个)音频数据预测与另一类型的认证模式组合是否足以将用户认证为经授权的用户。
例如,在一些示例中,认证设备分析器209基于由(多个)通信接口111生成的数据来标识认证设备124的存在。在此类示例中,置信度分析器232鉴于认证设备124的存在来评估(多个)音频数据预测。在此类示例中,置信度分析器232将(多个)音频数据预测的(多个)置信度分数与由(多个)置信度规则234定义的第二置信度阈值进行比较。第二置信度阈值定义表示针对音频数据与对认证设备124的检测的组合来对用户进行认证的最小置信度水平的置信度分数值。例如,第二置信度阈值可以指示,如果用户要基于音频数据和对认证设备124的检测而被认证,则(多个)音频数据预测应当满足至少94%的置信度水平。在该示例中,鉴于经由对受信任的认证设备124的检测对用户进行的补充认证,第二置信度阈值定义相比于针对仅仅基于音频数据来对用户进行认证的第一音频数据置信度阈值更低的置信度水平。如果(多个)音频数据预测和对认证设备124的检测的组合满足第二音频数据置信度阈值,则置信度分析器232确定用户是经授权的用户,并且指令设备102移至工作中系统功率状态并使用户登录到设备102。通信器236将指令传送至设备102,以使设备102基于对用户的认证来执行动作。
在未检测到认证设备124或者(多个)音频数据预测和认证设备124的组合不满足第二音频数据置信度阈值的示例中,置信度分析器232确定除音频数据之外是否应当使用图像数据来对用户进行认证。
如本文中所公开,如果要利用图像数据分析来补充基于音频数据的认证,则传感器管理器202激活环境光传感器120来确定用户设备102是否处于其中所获得的图像数据的质量足以标识用户特征的环境中。如果来自环境光分析器210的数据指示用户设备102处于黑暗环境中,则传感器管理器202确定图像数据的质量可能不足以对用户进行认证。在此类示例中,为了节约功率,置信度分析器232确定用户应当手动地提供认证数据(例如,密码、指纹等)来访问设备102。
图2的示例认证分析器128包括请求生成器238。请求生成器238可以生成对来自用户的附加信息的(多个)视觉和/或音频请求。在要向用户请求(多个)手动标识输入的示例中,请求生成器238可以输出要经由例如辅助显示屏105显示的视觉提示和/或要经由(多个)扬声器114提供的音频提示。在一些示例中,通信器236指令主显示屏104和/或辅助显示屏105的相应的显示器控制器103、107唤醒以显示通知。
图2的示例认证分析器128包括标识输入分析器239。标识输入分析器239提供用于评估由用户提供的(多个)用户标识输入(例如,密码、指纹)以确定(多个)手动标识输入是否正确的手段。标识输入分析器239基于数据库203中所存储的(多个)标识输入规则来确定(多个)标识输入是否为用于访问设备102上的数据的(多个)正确输入。(多个)标识输入规则241定义针对(多个)经授权的用户的(多个)已知的标识输入(例如,先前设置的(多个)密码、(多个)指纹图像等)。如果标识输入分析器239确定(多个)输入是正确的,则通信器236指令设备102移至工作中系统功率状态。如果标识输入分析器239确定(多个)输入不是正确的,则通信器236指令设备保持处于连接待机模式并且不向用户授予对设备102上所存储的数据的访问权。
在一些示例中,来自环境光分析器210的数据指示用户设备102处于明亮环境中。在此类示例中,置信度分析器232确定图像数据分析应当被使用以补充音频数据分析来对用户进行认证并且避免请求来自用户的(多个)手动标识输入(例如,密码)。作为响应,传感器管理器202如本文中所公开地并且基于例如来自(多个)机盖位置传感器123的、指示设备102处于打开位置还是闭合位置的数据、来激活面向用户的相机116和/或面向外界的相机118。在一些示例中,请求生成器238输出对用户将他自己或她自己相对于(多个)相机116、118定位成用于图像认证的视觉和/或音频请求。在其他示例中,(多个)相机116、118在没有提示被提供给用户的情况下生成图像数据。图像数据分析器230使用(多个)图像模型231来分析图像数据,并且生成关于将图像数据226、228中的用户识别为经授权的用户的(多个)图像数据预测。图像数据分析器230向(多个)图像数据预测指派(多个)置信度分数。
示例置信度分析器232分析(多个)音频数据预测的(多个)置信度分数和(多个)图像数据预测的(多个)置信度分数,以确定使用图像数据来补充音频数据是否增加了用户被认证的置信度。为了作出此类确定,置信度分析器232确定(多个)音频数据预测和图像数据预测的(多个)置信度分数是否满足第三置信度阈值。第三置信度阈值可以定义例如针对(多个)音频数据预测的最小置信度阈值以及针对(多个)图像数据预测的最小置信度阈值,以使得当(多个)音频数据预测和(多个)图像数据预测两者满足相应的置信度阈值时、置信度分析器232确定用户已经成功被认证为经授权的用户。例如,当音频数据和图像数据两者被用来对用户进行认证时,针对(多个)音频数据预测的最小置信度阈值可以是85%,并且针对(多个)图像数据预测的最小置信度阈值可以是95%。当置信度分析器232确定(多个)音频数据预测和(多个)图像数据预测满足相应的阈值时,通信器236指令设备102移至工作中系统功率状态并使用户登录到设备102。
如果置信度分析器232确定(多个)音频数据预测不满足置信度阈值中的任一置信度阈值,则置信度分析器232确定用户应当手动地输入标识数据(例如,密码、指纹等)来访问设备102。请求生成器238生成要经由用户设备102的(多个)扬声器114和/或(多个)显示器104、105输出的(多个)通知。在一些示例中,通信器指令主显示屏104和/或辅助显示屏105的相应的显示器控制器唤醒以显示(多个)通知。标识输入分析器239分析(多个)输入,以确定是否提供(多个)正确的输入以用于对设备102进行解锁。
如上文中所公开,音频数据可以被用作初始认证模式并且图像数据可以被用于补充声音认证。在其他示例中,(多个)相机116、118被传感器管理器202激活作为初始认证模式(例如,图像数据分析优先于音频数据分析被选择用于初始认证尝试)。在此类示例中,置信度分析器232相对于由(多个)置信度规则234定义的第四置信度阈值来对(多个)图像数据预测的(多个)置信度分数进行分析。第四置信度阈值定义表示仅仅基于图像数据来对用户进行认证的最小置信度水平的置信度分数值。例如,第四置信度阈值可以指示,如果用户要仅仅基于图像数据而被认证,则(多个)图像数据预测应当满足至少95%的置信度水平。如果(多个)图像数据预测被生成,则置信度分析器232可以考虑例如(多个)置信度分数的平均数。如果(多个)图像数据预测的(多个)置信度分数满足第四置信度阈值,则置信度分析器232确定用户已经基于图像识别而被成功认证为经授权的用户。通信器236传送由置信度分析器232生成的指令,以使得设备102进入工作中系统功率状态并使用户登录。
如果置信度分析器232确定(多个)图像数据预测的(多个)置信度分数不满足第四置信度阈值,则置信度分析器232确定图像数据预测与另一类型的认证模式组合是否足以将用户认证为经授权的用户。
在一些示例中,认证分析器232考虑(多个)图像数据预测与如由认证设备分析器209检测到的认证设备124的存在组合。置信度分析器232将(多个)图像数据预测的(多个)置信度分数与由(多个)置信度规则234定义的第五置信度阈值进行比较。第五置信度阈值定义表示针对基于图像数据与对认证设备124的检测的组合来对用户进行认证的最小置信度水平的置信度分数值。例如,第五置信度阈值可以指示,如果用户要基于图像数据和对认证设备124的检测而被认证,则(多个)图像数据预测应当满足至少90%的置信度水平。如果图像数据预测与对认证设备124的检测的组合满足第五置信度阈值,则置信度分析器232确定用户是经授权的用户,并且指令设备102移至工作中系统功率状态并使用户登录到设备102。通信器236将指令传送至设备102,以使设备102基于对用户的认证来执行动作。
在未检测到认证设备124或者(多个)图像数据预测与认证设备124的组合不满足第五置信度阈值的示例中,置信度分析器232确定除图像数据之外还应当使用音频数据来对用户进行认证。
在此类示例中,请求生成器238生成对用户的、请求用户提供音频输入的(多个)通知。请求生成器238经由用户设备102的(多个)扬声器114将(多个)请求输出为(多个)音频通知,和/或经由辅助显示器105和/或主显示屏104将(多个)请求输出为(多个)视觉通知。
传感器管理器202激活(多个)话筒112,以实现对音频数据216的收集和由音频数据分析器218对该数据的分析。如本文中所公开,音频数据分析器218就音频数据216中对用户的声音的识别生成(多个)音频数据预测,并且给(多个)音频数据预测指派(多个)置信度分数。
示例置信度分析器232分析(多个)图像数据预测的(多个)置信度分数和(多个)音频数据预测的(多个)置信度分数,以确定使用音频数据来补充图像数据是否增加了用户被认证的置信度。置信度分析器232确定(多个)图像数据预测和(多个)音频数据预测是否满足第六置信度阈值。第六置信度阈值定义例如针对(多个)图像数据预测的最小置信度阈值以及针对(多个)音频数据预测的最小置信度阈值,以使得当(多个)图像数据预测和(多个)音频数据预测两者满足相应的置信度阈值时,置信度分析器232确定用户已经成功被认证为经授权的用户。当置信度分析器232确定(多个)音频数据预测和(多个)图像数据预测满足相应的阈值时,通信器236指令设备102移至工作中系统功率状态并使用户登录到设备102。
如果置信度分析器232确定(多个)图像数据预测不满足置信度阈值中的任一置信度阈值,则置信度分析器232确定用户应当手动地输入标识数据(例如,密码、指纹等)来访问设备102。请求生成器238生成要经由用户设备102的(多个)扬声器114和/或(多个)显示器104、105输出的(多个)通知。标识输入分析器239分析(多个)输入,以确定是否提供了(多个)正确的输入以用于对设备102进行解锁。
如本文中所公开,在一些示例中,用户设备102在其处于连接待机模式的同时接收来自(多个)外部用户设备119的、在预定义的距离范围(例如,Wi-Fi直连通信范围)内检测用户设备102的(多个)请求。来自(多个)用户设备119的(多个)请求可以包括共享屏幕、传送文件、共享功率或充电能力、执行音频协调等的(多个)请求。示例认证分析器128接收来自推送通知控制器113的通知接受数据240。通知接受数据240指示用户已经接受来自(多个)远程用户设备119的(多个)请求。响应于通知接受数据240,传感器管理器选择性地激活(多个)话筒112(如果尚未被激活成用于使得用户能够经由音频输入来接受请求)和/或(多个)相机116、118中的一者或多者,以捕捉用于将用户认证为设备102的经授权的用户的数据。如本文中所公开,响应于对请求的接受,示例认证分析器128尝试基于由音频数据分析器218生成的(多个)音频数据预测和/或由图像数据分析器230生成的(多个)图像数据预测来对用户进行认证。置信度分析器232分析(多个)音频数据预测和/或(多个)图像数据预测的(多个)置信度分数,以确定这些(多个)置信度分数是否满足由(多个)置信度规则234定义的(多个)置信度阈值,从而基于音频数据、图像数据、或其组合来对用户进行认证(例如,图像数据和音频数据、音频数据和对认证设备124的检测,该认证设备124可以与生成请求的设备119相同或不同)。
如果置信度分析器232确定用户已经被认证为设备102的经授权的用户,则通信器236向推动通知控制器113通知用户已经被认证。推送通知控制器113继续指令用户设备102的一个或多个硬件设备响应于接收自(多个)外部用户设备119的(多个)请求而采取一个或多个动作。
虽然图2中图示出实现图1的认证分析器128的示例方式,但图2中所图示的元件、过程和/或设备中的一个或多个可以被组合、拆分、重新设置、省略、消除和/或以任何其他方式被实现。进一步地,示例传感器管理器202、示例数据库203、示例用户存在检测分析器208、示例认证设备分析器209、示例环境光分析器210、示例设备位置分析器216、示例音频数据分析器218、示例定时器222、示例图像数据分析器230、示例置信度分析器232、示例通信器236、示例请求生成器238、示例标识输入分析器239、和/或更一般地图2的示例认证分析器128,可由硬件、软件、固件、和/或硬件、软件和/或固件的组合来实现。因此,例如,以下各项中的任一者可以由一个或多个模拟或数字电路、逻辑电路、(多个)可编程处理器、(多个)可编程控制器、(多个)图形处理单元(GPU)、(多个)数字信号处理器(DSP)、(多个)专用集成电路(ASIC)、(多个)可编程逻辑器件(PLD)和/或(多个)现场可编程逻辑器件(FPLD)来实现:示例传感器管理器202、示例数据库203、示例用户存在检测分析器208、示例认证设备分析器209、示例环境光分析器210、示例设备位置分析器216、示例音频数据分析器218、示例定时器222、示例图像数据分析器230、示例置信度分析器232、示例通信器236、示例请求生成器238、示例标识输入分析器239、和/或更一般地示例认证分析器128。当阅读涵盖纯软件和/或固件实现方式的本专利的装置或系统权利要求中的任一项时,以下各项中的至少一项由此被明确地限定为包括包含软件和/或固件的非瞬态计算机可读存储设备或存储盘(诸如,存储器、数字多功能盘(DVD)、紧凑盘(CD)、蓝光盘等):示例传感器管理器202、示例数据库203、示例用户存在检测分析器208、示例认证设备分析器209、示例环境光分析器210、示例设备位置分析器216、示例音频数据分析器218、示例定时器222、示例图像数据分析器230、示例置信度分析器232、示例通信器236、示例请求生成器238、和/或示例标识输入分析器239。更进一步地,示例认证分析器128可包括附加于或替代于图2中所图示的那些元件、过程和/或设备的一个或多个元件、过程和/或设备,和/或可包括所图示的元件、过程和设备中的任何或所有元件、过程和设备中的多于一个。如本文所使用,短语“通信”包括其各种变体,包含直接通信和/或通过一个或多个中间组件的间接通信,并且不需要直接物理(例如,有线)通信和/或持续通信,而是附加地包括以周期性间隔、预定间隔、非周期性间隔、和/或一次性事件来进行的选择性通信。
图3是可以用于训练图1和/或图2的示例认证分析器128以用于执行音频数据分析和图像数据分析的训练管理器300的示例实现方式的框图。示例训练管理器300可以由用户设备102的处理器108实现。在一些示例中,训练管理器300由用户设备119的处理器125和/或认证设备124的处理器127实现。在其他示例中,训练管理器300由基于云的设备126实现。在其他示例中,由训练管理器300执行的分析中的一些由(多个)基于云的设备(例如,基于云的设备126)来实现,并且分析中的其他部分由(多个)处理器或者一个或多个用户设备(例如,用户设备119的处理器125)实现。用于实现训练管理器300的(多个)处理器和/或(多个)基于云的设备可以与用于实现认证分析器128的(多个)处理器和/或(多个)基于云的设备相同或不同。
图3的示例训练管理器300对图2的示例认证分析器128的音频数据分析器218进行训练,以识别指示用户希望使用用户设备102的(多个)唤醒词。训练管理器300使用机器学习和训练关键词数据302来训练音频数据分析器218执行语音识别。训练关键词数据302被存储在数据库307中。在一些示例中,训练管理器300包括数据库307。在其他示例中,如图3中所示,数据库307位于训练管理器300外部、在可由该训练管理器300访问的位置中。图2的数据库203和图3的示例数据库307可使用同一存储设备或不同存储设备来实现。训练关键词数据302包括词和/或短语、以及词和/或短语在控制用户设备102的上下文中的相关联含义。例如,训练关键词数据302可以包括将词语“开(on)”与对用户设备从低功率状态移至工作中系统功率的请求相关联的规则。在一些示例中,训练关键词数据302基于在先前时间从设备102和/或另一设备的用户获得的语音样本。在一些示例中,训练关键词数据302可以包括当用户访问用户设备102并且通过认证分析器128进行认证时生成的音频数据216。
图3的示例训练管理器300还训练音频数据分析器以识别用户设备102的一个或多个经授权的用户的声音。训练管理器使用机器学习和从(多个)经授权的用户收集的训练声音数据304(例如,声纹)来训练音频数据分析器218以执行声音识别。训练声音数据304可以被存储在数据库307中。训练声音数据304包括表示针对经授权的用户的声音模式的、经授权的用户的(多个)声纹或声音的(多个)模型。(多个)声纹可以采用表示经授权的用户的声音的特征(诸如,频率)的(多个)声谱图的形式。在一些示例中,训练声音数据304基于在(多个)先前时间从(多个)经授权的用户获得的语音样本。在一些示例中,训练声音词数据304可以包括当经授权的用户访问用户设备102并且通过认证分析器128进行认证时生成的音频数据216。
示例训练管理器300使用机器学习和(多个)经授权的用户的训练图像数据306来训练图2的示例认证分析器128的图像数据分析器230以在图像数据中识别一个或多个经授权的用户的特征(例如,面部特征、头发颜色)。训练图像数据306可以被存储在数据库307中。训练图像数据306包括(多个)经授权的用户的图像。例如,训练图像数据306可以包括从不同的角度和/或以不同的光照的、经授权的用户的面部的图像。
图3的示例训练管理器300包括训练器308和机器学习引擎310。训练器308使用训练关键词数据302、训练声音数据304、以及训练图像数据306来训练机器学习引擎310,使用例如监督式学习来生成用于对音频数据和图像数据进行分析的模型。由认证分析器128使用机器学习模型来执行对尝试访问用户设备102的用户的认证。例如,训练器308使用训练关键词数据302经由机器学习引擎310生成(多个)关键词模型219。训练器308使用训练声音数据304经由机器学习引擎310生成(多个)声音模型220。(多个)声音模型220定义(多个)经授权的用户的(多个)声音的(多个)特征。训练器308使用训练图像数据306经由机器学习引擎310生成(多个)图像模型231。(多个)图像模型231定义用户的(多个)特征(例如,(多个)面部特征)。(多个)关键词模型219、(多个)声音模型220、以及(多个)图像模型231被存储在图2和图3的数据库203中。
如本文中所公开,音频数据分析器218使用(多个)关键词模型来解释由(多个)话筒112捕捉的音频数据216中的词和/或短语,以确定用户是否打算与用户设备102交互。音频数据分析器218使用(多个)声音模型220来生成(多个)音频数据预测、或者关于音频数据216中的用户的声音是否为经授权的用户的声音的(多个)预测。图像数据分析器230使用(多个)图像模型231来生成图像数据预测、或者关于如基于在图像数据226、228中标识出的用户的(多个)特征所确定的、尝试访问用户设备102的用户是否经授权的用户的预测,该图像数据226、228由面向用户的相机116和/或面向外界的相机118生成。
尽管图3中图示出实现训练管理器300的示例方式,但图3中所图示的元件、过程和/或设备中的一个或多个可以被组合、拆分、重新布置、省略、消除和/或以任何其他方式被实现。进一步地,示例数据库307、示例训练器308、示例机器学习引擎310、和/或更一般地图3的示例训练管理器300,可由硬件、软件、固件、和/或硬件、软件和/或固件的任何组合来实现。因此,例如,示例数据库307、示例训练器308、示例机器学习引擎310、和/或更一般地,图3的示例训练管理器300中的任一者可以由一个或多个模拟或数字电路、逻辑电路、(多个)可编程处理器、(多个)可编程控制器、(多个)图形处理单元(GPU)、(多个)数字信号处理器(DSP)、(多个)专用集成电路(ASIC)、(多个)可编程逻辑器件(PLD)和/或(多个)现场可编程逻辑器件(FPLD)来实现。当阅读到本专利的装置或系统权利要求中的任一项涵盖纯软件和/或固件实现方式时,示例数据库307、示例训练器308、示例机器学习引擎308和/或示例机器学习引擎310中的至少一者由此被明确地限定为包括包含该软件和/或固件的非瞬态计算机可读存储设备或存储盘(诸如,存储器、数字多功能盘(DVD)、紧凑盘(CD)、蓝光盘等)。更进一步地,示例训练管理器300可以包括附加于或替代于图3中所图示的那些元件、过程和/或设备的一个或多个元件、过程和/或设备,和/或可以包括所图示的元件、过程和设备中的任何或所有元件、过程和设备中的多于一个。如本文所使用,短语“通信”包括其各种变体,包含直接通信和/或通过一个或多个中间组件的间接通信,并且不需要直接物理(例如,有线)通信和/或持续通信,而是附加地包括以周期性间隔、预定间隔、非周期性间隔、和/或一次性事件来进行的选择性通信。
图4是图1的推送通知控制器113的示例实现方式的框图。如上文所提及,推送通知控制器113被构造成用于分析和/或控制对经由(多个)通信接口111从(多个)远程用户设备119接收的推送通知的响应。示例推送通知控制器113可以由用户设备102的处理器108实现。在一些示例中,推送通知控制器113由用户设备119的处理器125和/或认证设备124的处理器127实现。在其他示例中,推送通知控制器113由基于云的设备126实现。在其他示例中,由推送通知控制器113执行的分析中的一些分析由(多个)基于云的设备(例如,基于云的设备126)来实现,并且分析中的其他部分由(多个)处理器或者一个或多个用户设备(例如,用户设备119的处理器125)实现。用于实现推送通知控制器113的(多个)处理器和/或(多个)基于云的设备可以与用于实现认证分析器128的(多个)处理器和/或(多个)基于云的设备相同或不同。在图1、图2和图4的示例中,推送通知控制器113在用户设备102处于连接待机模式的同时被上电,以使得用户能够在计算机处于连接待机模式的同时查看并响应于传入的(多个)推送通知。
图4的示例推送通知控制器113包括请求接收器400,该请求接收器400用于检测来自(多个)远程用户设备的请求。图4的示例推送通知控制器113包括通知生成器401。通知生成器401提供用于使得(多个)音频、视觉、和/或触觉信号被生成以向用户提醒传入的(多个)请求。由通知生成器生成的(多个)通知可以包括不同的选项,用户可选择这些不同的选项来响应于传入的通知。例如,一个选项可以是用户解除(dismiss)通知并稍后响应,第二个选项可以是用户提供快速回复(例如,短的预设文本消息),且第三个选项可以是用户提供详细的响应(例如,立即接听传入的电话会议呼叫)。在图4的示例中,通知生成器401输出通知,以供经由例如用户设备102的辅助显示屏105显示。
在一些示例中,当推送通知被接收时,显示器104、105被关闭。示例推送通知控制器113包括通信器404,以指令主显示器控制器103和/或辅助显示器控制器107从低功率状态移至工作中状态,以使得主显示屏104和/或辅助显示屏105显示由通知生成401生成的(多个)通知。在一些示例中,通知生成器401分析来自(多个)机盖位置传感器123的数据,以确定用户设备102的形状因子位置(例如,打开状态、闭合状态)。通信器404可以基于设备102的形状因子位置选择性地指令主显示器控制器103和/或辅助显示器控制器106以显示(多个)通知。
图4的示例推送通知控制器113包括用户输入分析器402。用户输入分析器402分析由用户响应于由通知生成器401生成的(多个)通知而提供的(多个)输入。如果用户输入分析器402确定用户没有对通知进行响应并且拒绝了该通知,则通信器404抑制而不指令设备102采取动作来发起对(多个)通知的响应。
在图4的示例中,如果用户输入分析器402确定用户已经接受了推送通知,则通信器404与认证分析器128通信,以验证用户是用户设备102的经授权的用户。如结合图1-图3所公开,认证分析器128尝试使用图像数据和/或音频数据来对用户进行认证。如果认证分析器128无法使用图像数据和/或音频数据来对用户进行认证,则认证分析器128请求来自用户的其他标识模式(例如,输入密码、指纹)。
图4的示例推送通知控制器113包括请求响应器406。在图4的示例中,当用户被认证分析器128认证为经授权的用户时,请求响应器406生成使得用户设备102采取一个或多个动作来对(多个)推送通知进行响应的(多条)指令。请求响应器406基于(多个)请求响应规则408来生成(多条)指令,该(多个)请求响应规则408被存储在数据库410中并由(多个)用户输入定义。在一些示例中,推送通知控制器113包括数据库410。在其他示例中,如图4中所示,数据库410在推送通知控制器113的外部。数据库203、307、410可以是同一存储设备或不同存储设备。
例如,如果经授权的用户接受来自远程用户设备119的、共享屏幕的请求,则请求响应器406指令主显示器控制器103使得主显示屏104显示共享的屏幕(即,在远程用户设备119处可见的屏幕)。在一些示例中,请求响应器406指令辅助显示器控制器107使得第二显示屏105显示与通知相关联的数据。例如,如果用户接受对文件传输的请求,则请求响应器406可以指令辅助显示屏105显示该文件已经从远程设备119被接收的通知。在一些示例中,请求响应器406分析来自(多个)机盖位置传感器123的数据,以确定用户设备102的形状因子位置(例如,打开状态、闭合状态)。请求响应器406可以基于设备102的形状因子位置来指令主显示器控制器103和/或辅助显示器控制器106以显示数据。
在用户接受对传入的电话呼叫的请求和/或接收来自远程设备119的音频文件的请求的示例中,请求响应器406指令音频控制器115激活(多个)扬声器114和/或(多个)话筒,以使得用户能够收听音频和/或提供(多个)音频输入。请求响应器406可以与用户设备102的其他硬件设备通信,以使得用户设备能够例如接受来自远程设备的无线充电。
请求响应器406可以生成(多条)指令,该(多条)指令使得用户设备102的(多个)硬件设备在设备102处于低功率连接待机模式的同时响应于(多个)请求而采取一个或多个动作。例如,用户设备102可以在处于连接待机模式的同时显示接收自远程设备119的共享屏幕。在一些示例中,如果例如用户选择将接收自远程设备119的文件保存到用户设备102,则请求响应器406确定设备102应当被移至工作中系统功率状态(即,全供电状态)。在此类示例中,请求响应器406与用户设备的(多个)硬件设备通信,以使用户设备102移至工作中系统功率状态。请求响应器406分析用户设备102响应于(多个)推送请求而执行的(多个)动作,以确定设备102是否能保持处于连接待机模式或者该设备是否应当移至工作中系统功率状态。
虽然图4图示出实现图1的推送通知控制器113的示例方式,但图4中所图示的元件、过程和/或设备中的一个或多个可以被组合、拆分、重新设置、省略、消除和/或以任何其他方式被实现。进一步地,图4的示例请求接收器400、示例通知生成器401、示例用户输入分析器402、示例通信器404、示例请求响应器406、示例数据库410、和/或更一般地示例推送通知控制器113可由硬件、软件、固件、和/或硬件、软件和/或固件的任何组合实现。因此,例如,图4的示例请求接收器400、示例通知生成器401、示例用户输入分析器402、示例通信器404、示例请求响应器406、示例数据库410、和/或更一般地示例推送通知控制器113中的任何一者可以由一个或多个模拟或数字电路、逻辑电路、(多个)可编程处理器、(多个)可编程控制器、(多个)图形处理单元(GPU)、(多个)数字信号处理器(DSP)、(多个)专用集成电路(ASIC)、(多个)可编程逻辑器件(PLD)和/或(多个)现场可编程逻辑器件(FPLD)来实现。当阅读涵盖纯软件和/或固件实现的本专利的装置或系统权利要求中的任一项时,图4的示例请求接收器400、示例通知生成器401、示例用户输入分析器402、示例通信器404、示例请求响应器406和/或示例数据库410中的至少一者由此被明确地限定为包括包含软件和/或固件的非瞬态计算机可读存储设备或存储盘(例如,存储器、数字多功能盘(DVD)、紧凑盘(CD)、蓝光盘等等)。更进一步地,示例推送通知控制器113可包括附加于或替代于图4中所图示的那些元件、过程和/或设备的一个或多个元件、过程和/或设备,和/或可以包括所图示的元件、过程和设备中任何或所有元件、过程和设备中的多于一个。如本文所使用,短语“通信”包括其各种变体,包含直接通信和/或通过一个或多个中间组件的间接通信,并且不需要直接物理(例如,有线)通信和/或持续通信,而是附加地包括以周期性间隔、预定间隔、非周期性间隔、和/或一次性事件来进行的选择性通信。
图5图示出可在其中实现本文中所公开的示例的示例用户设备500。在图5中,示例用户设备500是膝上型计算机。然而,如本文中所公开,可以使用其他类型的用户设备(诸如,台式机或电子平板)来实现本文中所公开的示例。
图5的示例用户设备500包括壳体501,该壳体501包括机盖502和基座504。机盖502可以绕设备500的铰链503旋转,以使得设备500能够在图5的打开位置与闭合位置(图6)之间移动。示例用户设备500包括(多个)机盖位置传感器123,该(多个)机盖位置传感器123用于检测机盖502相对于基座504的位置。
如图5中所示,主显示屏104由机盖502承载,并且经由机盖502的第一侧505是可见的。示例用户设备500包括由基座504承载的辅助显示屏105。如图5中所示,辅助显示屏105被设置在基座504的前边缘506处,以便在机盖502闭合(图6)时可见。辅助显示屏105可以被设置在用户设备500上的其他位置处,诸如,在机盖502的远边缘508处。示例用户设备500包括诸如键盘510和触摸板511之类的(多个)用户输入设备(例如,(多个)用户输入设备106),以使得用户能够与设备500交互。
图5的示例用户设备500包括面向用户的相机116。如图5中所示,面向用户的相机116由机盖502承载,接近于远边缘508。在图5中,第一话筒112被设置成接近于面向用户的相机116。
示例用户设备500包括由基座504承载的(多个)扬声器114。在图5的示例中,扬声器114被设置在基座504的前边缘506处,以使得用户能够在机盖502闭合时收听音频内容。
示例用户设备500包括设置在基座504的前边缘506处的(多个)用户存在检测传感器110,以在设备500处于打开位置或闭合位置时检测接近于用户设备500的(多个)主体的存在。示例用户设备500包括设置在基座540的前边缘506处的(多个)环境光传感器120,以在设备500处于打开位置或闭合位置时检测用户设备500位于其中的环境中的光照。
图6图示出处于闭合位置的图5的示例用户设备500,其中,机盖502已经绕铰链503(图5)被旋转成使得机盖502的远边缘508基本上与基座504的前边缘506毗连。如图6中所示,当设备500处于闭合位置时,辅助显示屏105是可见的。而且,作为(多个)传感器110在基座504的前边缘上的位置的结果,(多个)用户存在传感器110能够在设备处于闭合位置时生成与对(多个)主体的检测有关的数据。类似地,作为(多个)传感器120在基座504的前边缘上的位置的结果,(多个)环境光传感器120能够生成关于设备500位于其中的环境中的光照条件的数据。
如图6中所示,示例用户设备500包括面向外界的相机118,该面向外界的相机118由机盖502的第二侧600承载,该第二侧600与承载辅助显示屏104的一侧505(图5)相对。而且,示例用户设备500包括位于机盖502的第二侧600处的第二话筒112,以在设备处于闭合位置时捕捉音频数据。
图7和图8图示出处于连接待机模式的图5和图6的示例用户设备500,其中设备500已经接收到来自远程用户设备700的请求。在图7和图8的示例中,远程用户设备700可以通过无线通信网络(诸如
Figure BDA0002694779970000451
或Wi-Fi直连)与用户设备500通信。如图7中所示,用户设备500可以在处于连接待机模式并处于闭合位置的同时接收请求。具体而言,响应于由远程用户设备700生成的请求,将推送请求702显示在辅助显示屏105上。推送通知702可以包括针对用户接受或拒绝来自远程用户设备700的请求的选项。例如,请求可以包括对于远程用户设备700与用户设备500共享屏幕704的请求,并且推送通知702可以显示“接受”按钮和“拒绝”按钮。
当用户(例如,通过在辅助显示屏105上提供触摸输入和/或通过提供音频输入)接受来自远程用户设备700的请求时,用户设备500响应于对请求的接受而采取一个或多个动作。如上文所公开,图1-图4的认证分析器128验证接受请求的用户是设备102的经授权的用户。图8示出其中用户接受与远程用户设备700共享屏幕的请求并且已经被认证为设备500的经授权的用户的示例。在图8的示例中,用户将设备500移动至打开位置。响应于对请求的接受和对用户的认证,认证分析器指令用户设备500的主显示器控制器(例如,图1的主显示器控制器103)经由主显示屏104显示接收自远程用户设备700的屏幕数据。设备500的其他硬件组件可以保持处于低功率状态。
虽然图8的示例示出数据经由主显示屏104被显示,但在其他示例中,与来自远程用户设备700的请求相关的数据可以附加地或替代地经由辅助显示屏105被显示。而且,虽然图7和图8的示例结合屏幕共享请求来讨论,但示例用户设备500可以接收并响应于来自远程用户设备700的其他请求,诸如共享音频、功率、充电能力等的请求。
在图9中示出了表示用于实现图3的示例训练管理器300的示例硬件逻辑、机器可读指令、硬件实现的状态机和/或其任何组合的流程图。机器可读指令可以是用于由计算机处理器执行的一个或多个可执行程序或可执行程序的(多个)部分,计算机处理器诸如下文结合图13所讨论的示例处理器平台1300中示出的处理器300。虽然程序能具体化在存储于与处理器300相关联的诸如CD-ROM、软盘、硬驱动器、DVD、蓝光盘或存储器之类的非瞬态计算机可读存储介质上的软件中,但是全部程序和/或其部分可替代地由除处理器300之外的设备执行,和/或被具体化在固件或专用硬件中。进一步地,虽然参考图9中所图示的流程图描述示例程序,但是可替代地使用实现示例训练管理器300的许多其他方法。例如,可改变框的执行次序,和/或可改变、消除或组合所描述的框中的一些框。附加地或替代地,任何或所有框可以由被构造成在不执行软件或固件的情况下执行相应的操作的一个或多个硬件电路(例如,分立的和/或集成的模拟和/或数字电路、FPGA、ASIC、比较器、运算放大器(op-amp)、逻辑电路等)来实现。
图9是当被执行时实现图3的示例训练管理器300的示例机器可读指令的流程图。在图9的示例中,训练管理器300使用训练数据来训练图1和/或图2的示例认证分析器128,训练图像数据针对用户设备(例如,图1的用户设备102、图5的用户设备500)的一个或多个经授权的用户被生成。如本文中所讨论,训练管理器300生成机器学习模型,该机器学习模型由图1和/或图2的认证分析器128用于基于由用户设备102、500的(多个)相机116、118捕捉的图像数据和/或由用户设备102、500的(多个)话筒112捕捉的音频数据来生成关于尝试访问用户设备102、500的用户是否为该设备102、500的经授权的用户的预测。
图9的示例指令可以由例如用户设备102、500的、第二用户设备(例如,认证设备124、用户设备119)的、和/或基于云的设备(例如,(多个)基于云的设备126)的一个或多个处理器执行。图9的指令可以与训练数据被训练管理器300接收基本上实时地执行,或者在训练数据被训练管理器300接收之后的某个时间执行。训练管理器300可以经由通信器236以及一个或多个有线或无线通信协议而与认证分析器128通信。
图3的示例训练器308访问包括训练关键词数据302、训练声音数据304、和/或训练图像数据306的训练数据(框900)。训练数据302、304、306可以被存储在数据库307中。在一些示例中,训练数据302、304、306可以针对并非正在与用户设备102、500进行交互的(多个)用户被生成。在一些示例中,训练数据302、304、306可以在(多个)用户正在与用户设备102、500进行交互的同时被生成。在一些此类示例中,训练传感器数据302、304、306可以接收自认证分析器128和/或直接接收自用户设备102、500的传感器112、116、118。
示例训练器308标识由训练关键词数据302表示的、用于控制用户设备102、500的(多个)唤醒词(框902)。例如,基于训练关键词数据302,训练器308标识当由经授权的用户说出时、指示用户期望与设备102、500进行交互的(多个)词和/或(多个)短语。例如,基于训练语音数据,训练器308标识如指示用户与设备102交互的意图的(多个)词,诸如“开”或“唤醒”。
图3的示例训练器308标识由训练声音数据304表示的、经授权的用户的特征(框904)。例如,基于训练声音数据304,训练器308标识经授权的用户的声音的(多个)特征,诸如频率、强度等。
图3的示例训练器308标识由训练图像数据306表示的、经授权的用户的特征(框906)。例如,基于训练图像数据,训练器308标识经授权的用户的外貌的(多个)特征,诸如头发颜色、眼睛颜色等。
图3的示例训练器308经由机器学习引擎310并且基于相应的训练数据302、304、306生成(多个)机器学习模型219(框908)。例如,训练器308使用训练关键词数据302来生成(多个)关键词模型219,该(多个)关键词模型219由认证分析器128(例如,音频数据分析器218)用于在由用户设备102、500的(多个)话筒112捕捉的音频数据216中检测(多个)唤醒词。训练器308使用训练声音数据304来生成(多个)声音模型220,该(多个)声音模型220由认证分析器128(例如,音频数据分析器218)用于预测由(多个)话筒112捕捉的音频数据216中的用户的声音是否与经授权的用户的声音匹配。训练器308使用训练图像数据306来生成(多个)图像模型231,该(多个)图像模型231由认证分析器128(例如,图像数据分析器230)用于预测在由(多个)相机116、118生成的图像数据226、228中标识出的用户的特征是否与经授权的用户的特征匹配。
示例训练器308可以使用不同的数据集和/或具有不同特异性水平的数据集继续训练认证分析器128(框910)。例如,训练器308可以使用第一训练图像数据集306和第二训练图像数据集306来生成(多个)机器学习图像模型231以供认证分析器128使用,第一训练图像数据集306包括经授权的用户的面部的侧面轮廓图像,第二训练图像数据集306包括经授权的用户的面部的正面轮廓。由此,训练器308给认证分析器128提供(多个)机器学习模型219、220、231,认证分析器128可以使用这些(多个)机器学习模型219、220、231来预测尝试与用户设备102、500进行交互的用户是否为该设备的经授权的用户。当没有附加训练要执行时(例如,基于(多个)用户输入),示例指令结束(框912)。
在图10A和图10B和/或11A和图11B中示出了表示用于实现图1和/或图2的示例认证分析器128的示例硬件逻辑、机器可读指令、硬件实现的状态机和/或其任何组合的流程图。机器可读指令可以是用于由计算机处理器执行的一个或多个可执行程序或可执行程序的(多个)部分,计算机处理器诸如下文结合图14所讨论的示例处理器平台1400中示出的处理器128。虽然程序能具体化在存储于与处理器128相关联的诸如CD-ROM、软盘、硬驱动器、DVD、蓝光盘或存储器之类的非瞬态计算机可读存储介质上的软件中,但是全部程序和/或其部分可替代地由除处理器128之外的设备执行,和/或被具体化在固件或专用硬件中。进一步地,虽然参考图10A和图10B和/或11A和图11B中所图示的流程图描述了示例程序,但是可替代地使用实现示例认证分析器128的许多其他方法。例如,可改变框的执行次序,和/或可改变、消除或组合所描述的框中的一些框。附加地或替代地,任何或所有框可以由被构造成在不执行软件或固件的情况下执行相应的操作的一个或多个硬件电路(例如,分立的和/或集成的模拟和/或数字电路、FPGA、ASIC、比较器、运算放大器(op-amp)、逻辑电路等)来实现。
图10A和图10B是当被执行时实现图1和/或图2的示例认证分析器128以执行第一认证过程的示例机器可读指令的流程图。图10A和图10B的示例指令可以由例如用户设备102、500的、第二用户设备(例如,认证设备124、用户设备119)的、和/或基于云的设备(例如,(多个)基于云的设备126)的一个或多个处理器执行。图10A和图10B的指令可以与由传感器数据被认证分析器128接收基本上实时地被执行,和/或可在传感器数据被认证分析器128接收之后的某个时间被执行。
图10A和图10B的示例指令在用户设备102、500处于连接待机模式时开始(框1000)。在此类示例中,用户设备102、500处于低供电操作状态,其中主显示屏104被关闭且处理器108对某些应用的执行被挂起,但是用户设备102保持被连接到因特网以周期性地更新数据(诸如,电子邮件)。
在一些示例中,(多个)用户存在检测传感器110生成传感器数据205,该传感器数据205由图2的示例认证分析器128的用户存在检测分析器208分析,以确定主体是否接近于用户位于其中的环境中的用户设备102(即,在(多个)用户存在检测传感器的范围内)(框1002)。如果用户存在检测分析器208未在(多个)用户存在检测传感器的范围内检测到用户,则认证分析器128使设备维持处于连接待机模式。
在一些示例中,用户设备102请求检测认证设备124,以使得用户能够访问设备102上所存储的数据。在此类示例中,用户设备102、500的(多个)通信接口111生成设备检测数据207,该设备检测数据207由图2的认证设备分析器209分析,以基于数据库203中所存储的(多个)认证设备规则211来确定经由(多个)有线或无线连接检测到的设备是否为受信任的认证设备124(框1004)。如果与用户设备102相关联的认证设备124未被检测到,则认证分析器128使设备102维持处于连接待机模式。
在图10A和图10B的涉及对用户存在的检测的示例中,如果用户存在检测分析器208检测到接近于用户设备102的用户,则尝试对该用户进行认证,以验证该用户是设备102、500的经授权的用户。而且,在涉及认证设备124的示例中,如果认证设备分析器209检测到认证设备124,则认证分析器128尝试对用户进行认证,以验证拥有认证设备的用户是设备102、500的经授权的用户。
图10A和图10B的示例指令使用由用户设备102、500的(多个)话筒112生成的音频数据作为初始认证模式来对用户进行认证(框1006)。优先于图像数据而使用音频数据可以基于在用户设备102、500处定义的用户设置。在一些示例中,认证分析器128的传感器管理器202响应于检测到用户和/或认证设备124而激活(多个)话筒112。在其他示例中,当用户设备102、500进入连接待机模式时,(多个)话筒112保持被激活(以使得(多个)话筒在用户存在被检测到时已经被激活或者在用户存在检测分析和/或认证设备检测分析未被执行的情况下已经被激活)。
在图10A和图10B的示例中,认证分析器128的音频数据分析器218确定指示用户希望与设备102、500进行交互的(多个)唤醒词在阈值时间段内是否已经被检测到(框1008)。音频数据分析器218执行(多个)关键词模型来确定(多个)唤醒词在阈值时间段内是否已经被检测到。在不涉及用户存在检测的示例中,对(多个)唤醒词的检测可以充当对相对于设备102的用户存在的检测的代理。
如果认证分析器128的音频数据分析器218在阈值时间段内没有检测到(多个)唤醒词,则认证分析器128的通信器236指令用户设备102、500的(多个)组件(例如,(多个)话筒112)返回至低功率状态。
如果音频数据分析器218在阈值时间段内检测到(多个)唤醒词,则音频数据分析器218执行(多个)声音模型220,以基于声音识别生成(多个)音频数据预测、或者关于在音频数据中检测到的声音是否为设备102、500的经授权的用户的声音的(多个)预测(框1010)。音频数据分析器218确定(多个)音频数据预测的(多个)置信度分数,该(多个)置信度分数表示由音频数据分析器218在音频数据中标识出的声音与用户设备102、500的经授权的用户的声音匹配的程度。
在图10A和图10B的示例中,认证分析器128的置信度分析器232分析(多个)音频数据预测的(多个)置信度分数,以确定用户是否仅仅基于音频数据而已经成功被标识为经授权的用户或者是否应当使用例如图像数据而执行补充认证(框1014)。置信度分析器232确定(多个)音频数据预测的(多个)置信度分数是否满足针对仅仅基于音频数据来对用户进行认证的第一置信度阈值。
如果置信度分析器232确定(多个)音频数据预测的(多个)置信度分数满足针对仅仅基于音频数据将用户认证为经授权的用户的(多个)置信度阈值,则通信器236指令设备102、500移至工作中系统功率状态或全供电状态,并且使用户登录以使得用户能够访问设备上所存储的数据(框1038)。
如果置信度分析器232确定(多个)音频数据预测的(多个)置信度分数不满足针对仅仅基于音频数据来对用户进行认证的(多个)置信度阈值,则认证分析器128尝试使用一个或多个其他认证模式来执行对用户的补充认证。在图2的示例中,如果受信任的认证设备124被检测到,则置信度分析器232确定(多个)音频数据预测的(多个)置信度分数是否满足针对基于(多个)音频数据预测的(多个)置信度分数与对认证设备124的检测的组合来对用户进行认证的第二置信度阈值(框1016)。在一些示例中,鉴于存在受信任的认证设备,针对(多个)音频数据预测的第二置信度阈值可以小于针对仅仅基于音频数据来对用户进行认证的第一置信度阈值。
如果置信度分析器232确定(多个)音频数据预测的(多个)置信度分数满足针对结合存在认证设备124而将用户认证为经授权的用户的(多个)置信度阈值,则通信器236指令设备102、500移至工作中系统功率状态或全供电状态,并且使用户登录以使得用户能够访问设备上所存储的数据(框1038)。
如果置信度分析器232(例如,因为认证设备124不存在和/或由于(多个)音频数据预测的(多个)置信度分数)无法仅仅基于音频数据或基于音频数据和认证设备124来对用户进行认证,则置信度分析器232确定图像数据是否应当在音频数据之外而被用作补充认证模式。在图10A和图10B的示例中,环境光分析器210分析由用户设备102、500的(多个)环境光传感器120生成的环境光数据(框1018)。环境光分析器210确定用户设备102、500位于低光(例如,黑暗)环境还是明亮(例如,良好照明)的环境中。
基于由环境光分析器210对环境光照条件的分析,置信度分析器232确定图像数据是否应当被用于补充音频数据(框1020)。如果环境光分析器210确定用户设备102位于低光环境中,则置信度分析器232确定在低光环境中获得的图像数据可能不具有足以对用户进行认证的质量。在此类示例中,通信器236指令(多个)相机116、118保持处于低功率状态。替代地,请求生成器238生成对用户提供诸如密码或指纹之类的(多个)手动标识输入的(多个)视觉和/或音频请求(框1034)。
如果环境光分析器210确定用户设备102位于明亮环境中,则置信度分析器232确定图像数据应当被用于补充基于音频数据对用户的认证。在此类示例中,传感器管理器202确定是否激活面向用户的相机116和/或面向外界的相机118(框1022)。在图10A和图10B的示例中,传感器管理器202基于如由认证分析器128的设备位置分析器221确定的用户设备102、500的形状因子位置来确定要激活哪个(哪些)相机。例如,如果设备位置分析器221确定设备102、500处于闭合位置(其中,主显示屏104面向设备102、500的键盘),则传感器管理器202确定面向外界的相机118应当被激活。
在一些示例中,请求生成器238输出对用户将他自己或她自己定位在(多个)相机116、118的视场中的请求(框1024)。传感器管理器202指令所选择的(多个)相机生成图像数据(框1026)。
示例图像数据分析器230分析由(多个)相机116、118生成的图像数据,并且基于图像识别生成(多个)图像数据预测、或者关于在图像数据中标识出的用户的(多个)特征是否为设备102、500的经授权的用户的(多个)特征的(多个)预测(框1028)。图像数据分析器230确定(多个)图像数据预测的(多个)置信度分数,该(多个)置信度分数与在图像数据226、228中标识出的用户的(多个)特征与经授权的用户的(多个)特征匹配的程度有关(框1030)。
置信度分析器232分析(多个)音频数据预测的(多个)置信度分数和(多个)图像数据预测的(多个)置信度分数,以确定针对基于音频数据和图像数据对用户进行认证的置信度阈值是否被满足(框1032)。如果置信度分析器232确定针对基于音频数据和图像数据来对用户进行认证的置信度阈值被满足,则通信器236指令设备102、500移至工作中系统功率状态或全供电状态,并且使用户登录以使得用户能够访问设备上所存储的数据(框1038)。
如果置信度分析器232确定针对基于音频数据和图像数据来对用户进行认证的置信度阈值未被满足,则请求生成器238生成对用户提供诸如密码或指纹之类的(多个)标识输入的(多个)视觉和/或音频请求(框1034)。
认证分析器128的标识输入分析器239分析接收自用户的(多个)标识输入,以基于(多个)标识输入规则241来确定该(多个)标识输入是否正确(框1036)。如果由用户提供的(多个)标识输入是正确的,则认证分析器128使设备102、500维持处于连接待机模式并且不向用户授予对设备102、500上所存储的数据的访问权(框1000)。
当用户已经经由音频数据、经由音频数据与认证设备124的组合和/或音频数据与图像数据的组合、或者经由(多个)手动标识输入而被认证时,通信器236指令用户设备102、500移至工作中系统功率状态,并且使用户登录以使得用户能够访问设备102、500上所存储的数据(框1038)。
在图10A和图10B的示例中,如果在例如用户设备102、500的不活跃的时段后用户设备102、500重新进入连接待机模式,则控制返回到框1000以监测接近于用户设备102、500的用户的存在(框1040)。当用户设备102、500失电时,图10A和图10B的示例指令结束(框1042、1044)。
图11A和图11B是当被执行时实现图1和/或图2的示例认证分析器128从而使用第二认证过程的示例机器可读指令的流程图。图11A和图11B的示例指令可以由例如用户设备102、500的、第二用户设备(例如,认证设备124、用户设备119)的、和/或基于云的设备(例如,(多个)基于云的设备126)的一个或多个处理器执行。图11A和图11B的指令可以与由传感器数据被认证分析器128接收基本上实时地被执行,和/或可在传感器数据被认证分析器128接收之后的某个时间被执行。
图11A和图11B的示例指令在用户设备102、500处于连接待机功率模式时开始(框1100)。(多个)用户存在检测传感器110生成传感器数据205,该传感器数据205由图2的示例认证分析器128的用户存在检测分析器208分析,以确定主体是否接近于用户位于其中的环境中的用户设备102(即,在(多个)用户存在检测传感器的范围内)(框1102)。如果用户存在检测分析器208未在(多个)用户存在检测传感器的范围内检测到用户,则认证分析器128使设备维持处于连接待机模式。
在一些示例中,用户设备102要求检测认证设备124,以使得用户能够访问设备102上所存储的数据。在此类示例中,用户设备102、500的(多个)通信接口111生成设备检测数据207,该设备检测数据207由图2的认证设备分析器209分析,以基于数据库203中所存储的(多个)认证设备规则211来确定经由(多个)有线或无线连接检测到的设备是否为受信任的认证设备124(框1104)。如果与用户设备102相关联的认证设备124未被检测到,则认证分析器128使设备102维持处于连接待机模式。
在图11A和图11B的示例中,如果用户存在检测分析器208检测到接近于用户设备102的用户,则尝试对该用户进行认证,以验证该用户是设备102、500的经授权的用户。而且,在涉及认证设备124的示例中,如果认证设备分析器209检测到认证设备124,则认证分析器128尝试对用户进行认证,以验证拥有认证设备的用户是设备102、500的经授权的用户。
图11A和图11B的示例指令使用由用户设备102、500的(多个)相机116、118生成的图像数据作为初始认证模式来对用户进行认证。优先于音频数据而使用图像数据可以基于在用户设备102、500处定义的用户设置。
传感器管理器202确定是否激活面向用户的相机116和/或面向外界的相机118(框1106)。在图11A和图11B的示例中,传感器管理器202基于如由认证分析器128的设备位置分析器221确定的用户设备102、500的形状因子位置来确定要激活哪个(哪些)相机116、118。例如,如果设备位置分析器221确定设备102、500处于闭合位置(其中,主显示屏104面向设备102、500的键盘),则传感器管理器202确定面向外界的相机118应当被激活。
在一些示例中,请求生成器238输出对用户将他自己或她自己定位在(多个)相机116、118的视场中的(多个)请求(框1108)。传感器管理器202指令所选择的(多个)相机116、118生成图像数据(框1110)。
示例图像数据分析器230分析由(多个)相机116、118生成的图像数据,并且基于图像识别生成(多个)图像数据预测、或者关于在图像数据中标识出的用户的(多个)特征是否为设备102、500的经授权的用户的(多个)特征的(多个)预测(框1112)。图像数据分析器230确定(多个)图像数据预测的(多个)置信度分数,该(多个)置信度分数与在图像数据226、228中标识出的用户的(多个)特征与经授权的用户的(多个)特征匹配的程度有关(框1114)。
在图11A和图11B的示例中,认证分析器128的置信度分析器232分析(多个)图像数据预测的(多个)置信度分数,以确定用户是否仅仅基于图像数据而已经成功被标识为经授权的用户或者确定是否应当使用例如音频数据而执行补充认证(框1116)。置信度分析器232确定(多个)图像数据预测的(多个)置信度分数是否满足针对仅仅基于图像数据来对用户进行认证的第一置信度阈值。
如果置信度分析器232确定(多个)图像数据预测的(多个)置信度分数满足针对仅仅基于图像数据将用户认证为经授权的用户的(多个)置信度阈值,则通信器236指令设备102、500移至工作中系统功率状态,并且使用户登录以使得用户能够访问设备上所存储的数据(框1138)。
如果置信度分析器232确定(多个)图像数据预测的(多个)置信度分数不满足针对仅仅基于图像数据来对用户进行认证的(多个)置信度阈值,则认证分析器128尝试使用一个或多个其他认证模式来执行对用户的补充认证。在图2的示例中,如果受信任的认证设备124被检测到,则置信度分析器232确定(多个)图像数据预测的(多个)置信度分数是否满足针对基于(多个)图像数据预测的(多个)置信度分数与对认证设备124的检测的组合来对用户进行认证的第二置信度阈值(框1118)。在一些示例中,鉴于存在受信任的认证设备,针对(多个)图像数据预测的第二置信度阈值可以小于针对仅仅基于图像数据来对用户进行认证的第一置信度阈值。
如果置信度分析器232(例如,因为认证设备124不存在和/或由于(多个)图像数据预测的(多个)置信度分数)无法仅仅基于图像数据或基于图像数据和认证设备124来对用户进行认证,则置信度分析器128尝试基于音频数据来对用户进行认证(框1120)。在一些示例中,认证分析器128的传感器管理器202响应于音频数据应当被用于补充经由图像数据进行的认证的确定而激活(多个)话筒112。在其他示例中,当用户设备102、500进入连接待机模式时,(多个)话筒112保持被激活。
请求生成器238输出对用户提供音频输入(即,(多个)唤醒词)的(多个)视觉和/或音频请求(框1122)。传感器管理器202指令(多个)话筒生成音频数据(框1124)。音频数据分析器218执行(多个)关键词模型219,以标识用于控制设备102、500的(多个)唤醒词(框1126)。如果音频数据分析器在阈值时间段内没有检测到(多个)唤醒词,则请求生成器238生成对用户提供诸如密码或指纹之类的(多个)标识输入的(多个)视觉和/或音频请求(框1134)。
如果音频数据分析器218在阈值时间段内检测到(多个)唤醒词,则音频数据分析器218执行(多个)声音模型220,以基于声音识别生成(多个)音频数据预测、或者关于在音频数据中检测到的声音是否为设备102、500的经授权的用户的声音的(多个)预测(框1128)。音频数据分析器218确定(多个)音频数据预测的(多个)置信度分数(框1130)。
置信度分析器232分析(多个)图像数据预测的(多个)置信度分数和(多个)音频数据预测的(多个)置信度分数,以确定针对基于图像数据和音频数据对用户进行认证的置信度阈值是否被满足(框1132)。如果置信度分析器232确定针对基于图像数据和音频数据来对用户进行认证的置信度阈值被满足,则通信器236指令设备102、500移至工作中系统功率状态,并且使用户登录以使得用户能够访问设备上所存储的数据(框1138)。
如果置信度分析器232确定针对基于图像数据和音频数据来对用户进行认证的置信度阈值未被满足,则请求生成器238生成对用户提供诸如密码或指纹之类的(多个)标识输入的(多个)视觉和/或音频请求(框1134)。
认证分析器128的标识输入分析器239分析接收自用户的(多个)标识输入,以基于(多个)标识输入规则241来确定该(多个)标识输入是否正确(框1136)。如果由用户提供的(多个)标识输入不是正确的,则认证分析器128使设备102、500维持处于连接待机模式并且不向用户授予对设备102、500上所存储的数据的访问权(框1100)。
当用户已经经由图像数据、经由图像数据与认证设备的组合和/或图像数据与音频数据的组合、或者经由(多个)手动标识输入而被认证时,通信器236指令用户设备102、500移至工作中系统功率状态,并且使用户登录以使得用户能够访问设备102、500上所存储的数据(框1138)。
在图11A和图11B的示例中,如果在例如用户设备102、500的不活跃的时段后、用户设备102、500重新进入连接待机模式,则控制返回到框1000以监测接近于用户设备102、500的用户的存在(框1140)。当用户设备102、500失电时,图11A和图11B的示例指令结束(框1142、1144)。
在图12中示出了表示用于实现图1和/或图4的示例推送通知控制器113的示例硬件逻辑、机器可读指令、硬件实现的状态机和/或其任何组合的流程图。机器可读指令可以是用于由计算机处理器执行的一个或多个可执行程序或可执行程序的(多个)部分,计算机处理器诸如下文结合图15所讨论的示例处理器平台1500中示出的处理器113。虽然程序能具体化在存储于与处理器113相关联的诸如CD-ROM、软盘、硬驱动器、DVD、蓝光盘或存储器之类的非瞬态计算机可读存储介质上的软件中,但是全部程序和/或其部分可替代地由除处理器113之外的设备执行,和/或被具体化在固件或专用硬件中。进一步地,虽然参考图12中所图示的流程图描述示例程序,但是可替代地使用实现示例推送通知控制器113的许多其他方法。例如,可改变框的执行次序,和/或可改变、消除或组合所描述的框中的一些框。附加地或替代地,任何或所有框可以由被构造成在不执行软件或固件的情况下执行相应的操作的一个或多个硬件电路(例如,分立的和/或集成的模拟和/或数字电路、FPGA、ASIC、比较器、运算放大器(op-amp)、逻辑电路等)来实现。
图12是表示当被执行时实现图1和/或图2的示例推送通知控制器113的示例机器可读指令的流程图。图12的示例指令可以由例如用户设备102、500的、第二用户设备(诸如,认证设备124、用户设备119)的、和/或基于云的设备(例如,(多个)基于云的设备126)的一个或多个处理器执行。图12的指令可以与来自(多个)其他用户设备的请求被推送通知控制器113接收基本上实时地或者在(多个)请求被推送通知控制器113接收之后的某个时间被执行。
图12的示例指令在用户设备102、500处于连接待机功率模式时开始(框1200)。示例推送通知控制器113的请求接收器400检测来自(多个)远程用户设备119的(多个)请求,诸如在用户设备102、500与(多个)远程用户设备119之间共享(多个)屏幕或传输(多个)文件的请求(框1202)。响应于(多个)请求,通知生成器401生成(多个)视觉、音频、和/或触觉通知,以向用户提示传入的(多个)请求(框1204)。
图4的推送通知控制器113的用户输入分析器402确定是否已经从用户接收到指示来自(多个)远程设备的(多个)请求已经被该用户接受的(多个)输入(框1206)。如果用户输入分析器402没有检测到指示(多个)请求的接受的(多个)用户输入,则推送通知控制器113的通信器404指令设备102、500不响应于该(多个)请求而采取任何动作。
如果用户输入分析器402确定用户已经接受来自(多个)远程用户设备119的(多个)请求,则图1-图4的认证分析器128确定接受该(多个)请求的用户是否为设备102、500的经授权的用户(框1208)。认证分析器128可以使用音频数据、图像数据、和/或(多个)手动标识输入基本上如图10A和图10B的框1004-1036和/或图11A和图11B的框1104-1136处所描述地对用户进行认证。
在图12的示例中,如果用户认证过程因为例如认证分析器128无法基于音频数据、图像数据、和/或(多个)手动标识输入将用户认证为经授权的用户而没有成功,则通信器404指令设备102、500不响应于(多个)请求而采取任何动作(框1210)。
如果认证分析器128能够将接受(多个)请求的用户成功地标识为设备102、500的经授权的用户,则请求响应器406生成使得用户设备102、500采取一个或多个动作来对该(多个)请求进行响应的(多条)指令(框1212)。请求响应器406基于(多个)请求响应规则408生成(多条)指令。请求响应器406可以指令主显示器控制器103经由主显示屏104显示接收自(多个)远程用户设备119的内容。请求响应器406可以指令音频控制器115响应于对基于因特网的电话呼叫的接受而经由(多个)扬声器114输出音频内容。在一些示例中,请求响应器406指令设备102、500基于响应于(多个)请求而要执行的动作(例如,下载文件)移至工作中系统功率状态。在其他示例中,请求响应器406指令设备102、500保持处于连接待机状态来执行请求。
图12的示例指令在没有进一步的请求从(多个)远程用户设备被接收时结束(框1214、1216)。
本文中结合图9、图10A、图10B、图11A、图11B和/或图12描述的机器可读指令能以压缩格式、加密格式、分段格式、编译格式、可执行格式、封装格式等中的一种或多种来存储。本文描述的机器可读指令可以作为可用于创建、制造和/或产生机器可执行指令的数据(例如,指令的部分、代码、代码表示等)来存储。例如,机器可读指令可以被分段并被存储在一个或多个存储设备和/或计算设备(例如,服务器)上。机器可读指令可能需要安装、修改、适配、更新、组合、补充、配置、解密、解压缩、拆包、分发、重新分配、编译等中的一项或多项,以使得它们由计算设备和/或其他机器直接可读取、可解释、和/或可执行。例如,机器可读指令可以存储在多个部分中,这些部分被单独压缩、加密并存储在单独的计算设备上,其中,这些部分在被解密、解压缩和组合时形成实现诸如本文所述的程序之类的程序的一组可执行指令。
在另一示例中,机器可读指令能以它们可被计算机读取的状态存储,但是需要添加库(例如,动态链接库(DLL))、软件开发工具包(SDK)、应用编程接口(API)等,以便在特定的计算设备或其他设备上执行指令。在另一示例中,在可整体或部分地执行机器可读指令和/或对应的(多个)程序之前,可能需要配置机器可读指令(例如,存储的设置、数据输入、记录的网络地址等)。因此,所公开的机器可读指令和/或对应的(多个)程序旨在包含此类机器可读指令和/或(多个)程序,而不管机器可读指令和/或(多个)程序在存储时或以其他方式处于静态或在传输中时的特定格式或状态如何。
本文所描述的机器可读指令可以由任何过去、现在或将来的指令语言、脚本语言、编程语言等表示。例如,机器可读指令可以用以下语言中的任何一种语言来表示:C、C++、Java、C#、Perl、Python、JavaScript、超文本标记语言(HTML)、结构化查询语言(SQL)、Swift等。
如上文所提及,可使用非瞬态计算机和/或机器可读介质上所存储的可执行指令(例如,计算机和/或机器可读指令)来实现图9、图10A-图10B、图11A-图11B和/或图12的示例过程,非瞬态计算机和/或机器可读介质诸如:硬盘驱动器、闪存、只读存储器、紧凑盘、数字多功能盘、高速缓存、随机存取存储器和/或在任何时长内(例如,在扩展时间段内、永久地、在简短的实例期间、在临时缓冲和/或信息缓存期间)将信息存储于其内的任何其他存储设备或存储盘。如本文中所使用,术语非瞬态计算机可读介质被明确地定义为包括任何类型的计算机可读存储设备和/或存储盘,并且排除传播信号并排除传输介质。
“包含”和“包括”(及其所有形式和时态)在本文中用作开放式术语。因此,每当权利要求将任何形式的“包含”或“包括”(例如,包括、包含、包括有、包含有、具有等)用作前序部分或用于任何种类的权利要求叙述内时,要理解的是,附加的要素、项等可以存在而不超出对应权利要求或叙述的范围。如本文中所使用,当短语“至少”被用作例如权利要求的前序部分中的过渡术语时,它以与术语“包含”和“包括”是开放式的相同的方式是开放式的。当例如以诸如A、B和/或C之类的形式使用术语“和/或”时,指的是A、B、C的任何组合或子集,诸如(1)仅A、(2)仅B、(3)仅C、(4)A与B、(5)A与C、(6)B与C、以及(7)A与B与C。如本文中在描述结构、组件、项、对象和/或事物的上下文中所使用,短语“A和B中的至少一者”旨在是指包括以下各项中的任一项的实现方式:(1)至少一个A、(2)至少一个B、以及(3)至少一个A和至少一个B。类似地,如本文中在描述结构、组件、项、对象和/或事物的上下文中所使用,短语“A或B中的至少一者”旨在是指包括以下各项中的任一项的实现方式:(1)至少一个A、(2)至少一个B、以及(3)至少一个A和至少一个B。如本文中在描述过程、指令、动作、活动和/或步骤的处理或执行的上下文中所使用,短语“A和B中的至少一者”旨在是指包括以下各项中的任一项的实现方式:(1)至少一个A、(2)至少一个B、以及(3)至少一个A和至少一个B。类似地,如本文中在描述过程、指令、动作、活动和/或步骤的处理或执行的上下文中所使用,短语“A或B中的至少一者”旨在是指包括以下各项中的任一项的实现方式:(1)至少一个A、(2)至少一个B、以及(3)至少一个A和至少一个B。
如本文所使用,单数引用(例如,“一个(a)”、“一个(an)”、“第一”、“第二”等)不排除复数。本文所使用的术语“一个(a或an)”实体是指一个或多个该实体。术语“一个(a)”(或“一个(an)”)、“一个或多个”和“至少一个”可以在本文中互换使用。此外,尽管单独列出,但多个装置、元件或方法动作可由例如单个单元或处理器来实现。另外,虽然各个特征可以被包括在不同的示例或权利要求中,但是这些特征可能被组合,并且在不同的示例或权利要求中的包含并不意味着特征的组合是不可行和/或不是有利的。
图13是被构造成用于执行图9的指令以实现图3的示例训练管理器300的示例处理器平台1300的框图。处理器平台1300可以是例如服务器、个人计算机、工作站、自学习机(例如,神经网络)、移动设备(例如,蜂窝电话、智能电话、诸如iPadTM之类的平板设备)、个人数字助理(PDA)、因特网设备、耳机或其他可穿戴设备、或任何其他类型的计算设备。
所图示示例的处理器平台1300包括处理器300。所图示示例的处理器300是硬件。例如,处理器300可以由来自任何所需要的系列或制造商的一个或多个集成电路、逻辑电路、微处理器、GPU、DSP或控制器实现。硬件处理器可以是基于半导体的(例如,硅基)器件。在该示例中,处理器实现示例训练器308和示例机器学习引擎310。
所图示示例的处理器300包括本地存储器1313(例如,高速缓存)。所图示示例的处理器300经由总线1318而与包括易失性存储器1314和非易失性存储器1316的主存储器进行通信。易失性存储器1314可由同步动态随机存取存储器(SDRAM)、动态随机存取存储器(DRAM)、
Figure BDA0002694779970000611
动态随机存取存储器
Figure BDA0002694779970000612
和/或任何其他类型的随机存取存储器设备实现。非易失性存储器1316可由闪存和/或任何其他所期望类型的存储器设备实现。由存储器控制器控制对主存储器1314、1316的访问。
所图示示例的处理器平台1300还包括接口电路1320。接口电路1320可由任何类型的接口标准实现,诸如以太网接口、通用串行总线(USB)、
Figure BDA0002694779970000621
接口、近场通信(NFC)接口和/或PCI express(PCI快速)接口。
在所图示的示例中,一个或多个输入设备1322被连接至接口电路1320。(多个)输入设备1322准许用户将数据和/或命令输入到处理器300中。(多个)输入设备可以由例如音频传感器、话筒、(静止的或视频)相机、键盘、按钮、鼠标、触摸屏、轨迹板、轨迹球、等点鼠标和/或语音识别系统实现。
一个或多个输出设备1324也被连接至所图示示例的接口电路1320。输出设备1324可例如由显示设备(例如,发光二极管(LED)、有机发光二极管(OLED)、液晶显示器(LCD)、阴极射线管显示器(CRT)、面内切换(IPS)显示器、触摸屏等)、触觉输出设备、打印机和/或扬声器实现。因此,所图示示例的接口电路1320典型地包括图形驱动器卡、图形驱动器芯片和/或图形驱动器处理器。
所图示示例的接口电路1320还包括诸如发射机、接收机、收发机、调制解调器、住宅网关、无线接入点、和/或网络接口之类的通信设备,以促进经由网络1326与外部机器(例如,任何种类的计算设备)交换数据。通信可以经由例如以太网连接、数字订户线路(DSL)连接、电话线连接、同轴电缆系统、卫星系统、直线对传式无线系统、蜂窝电话系统等。
所图示示例的处理器平台1300还包括用于存储软件和/或数据的一个或多个大容量存储设备1328。此类大容量存储设备1328的示例包括软盘驱动器、硬驱动器盘、紧凑盘驱动器、蓝光盘驱动器、独立磁盘冗余阵列(RAID)系统、以及数字多功能盘(DVD)驱动器。
图9的机器可执行指令1332可被存储在大容量存储设备1328中,存储在易失性存储器1314中,存储在非易失性存储器1316中,和/或存储在诸如CD或DVD之类的可移除非瞬态计算机可读存储介质上。
图14是被构造成用于执行图10A和图10B和/或图11A和图11B的指令以实现图1和/或图2中的示例认证分析器128的示例处理器平台1400的框图。处理器平台1400可以是例如服务器、个人计算机、工作站、自学习机(例如,神经网络)、移动设备(例如,蜂窝电话、智能电话、诸如iPadTM之类的平板设备)、个人数字助理(PDA)、因特网设备、耳机或其他可穿戴设备、或任何其他类型的计算设备。
所图示示例的处理器平台1400包括处理器128。所图示示例的处理器128是硬件。例如,处理器128可以由来自任何所需要的系列或制造商的一个或多个集成电路、逻辑电路、微处理器、GPU、DSP或控制器实现。硬件处理器可以是基于半导体的(例如,硅基)器件。在该示例中,处理器实现示例传感器管理器202、示例数据库203、示例用户存在检测分析器208、示例认证设备分析器209、示例环境光分析器210、示例设备位置分析器216、示例音频数据分析器218、示例定时器222、示例图像数据分析器230、示例置信度分析器232、示例通信器236、示例请求生成器238、示例标识输入分析器239。
所图示示例的处理器128包括本地存储器1413(例如,高速缓存)。所图示示例的处理器128经由总线1418而与包括易失性存储器1414和非易失性存储器1416的主存储器进行通信。易失性存储器1414可由同步动态随机存取存储器(SDRAM)、动态随机存取存储器(DRAM)、
Figure BDA0002694779970000631
动态随机存取存储器
Figure BDA0002694779970000632
和/或任何其他类型的随机存取存储器设备实现。非易失性存储器1416可由闪存和/或任何其他所期望类型的存储器设备实现。由存储器控制器控制对主存储器1414、1416的访问。
所图示示例的处理器平台1400还包括接口电路1420。接口电路1420可由任何类型的接口标准实现,诸如以太网接口、通用串行总线(USB)、
Figure BDA0002694779970000633
接口、近场通信(NFC)接口和/或PCI express(PCI快速)接口。
在所图示的示例中,一个或多个输入设备1422被连接至接口电路1420。(多个)输入设备1422准许用户将数据和/或命令输入到处理器128中。(多个)输入设备可以由例如音频传感器、话筒、(静止的或视频)相机、键盘、按钮、鼠标、触摸屏、轨迹板、轨迹球、等点鼠标和/或语音识别系统实现。
一个或多个输出设备1424也被连接至所图示示例的接口电路1420。输出设备1424可例如由显示设备(例如,发光二极管(LED)、有机发光二极管(OLED)、液晶显示器(LCD)、阴极射线管显示器(CRT)、面内切换(IPS)显示器、触摸屏等)、触觉输出设备、打印机和/或扬声器实现。因此,所图示示例的接口电路1420典型地包括图形驱动器卡、图形驱动器芯片和/或图形驱动器处理器。
所图示示例的接口电路1420还包括诸如发射机、接收机、收发机、调制解调器、住宅网关、无线接入点、和/或网络接口之类的通信设备,以促进经由网络1426与外部机器(例如,任何种类的计算设备)交换数据。通信可以经由例如以太网连接、数字订户线路(DSL)连接、电话线连接、同轴电缆系统、卫星系统、直线对传式无线系统、蜂窝电话系统等。
所图示示例的处理器平台1400还包括用于存储软件和/或数据的一个或多个大容量存储设备1428。此类大容量存储设备1428的示例包括软盘驱动器、硬驱动器盘、紧凑盘驱动器、蓝光盘驱动器、独立磁盘冗余阵列(RAID)系统、以及数字多功能盘(DVD)驱动器。
图14的机器可执行指令1432可被存储在大容量存储设备1428中,存储在易失性存储器1414中,存储在非易失性存储器1416中,和/或存储在诸如CD或DVD之类的可移除非瞬态计算机可读存储介质上。
图15是被构造成用于执行图12的指令以实现图1和/或图4中的示例推送通知控制器113的示例处理器平台1500的框图。处理器平台1500可以是例如服务器、个人计算机、工作站、自学习机(例如,神经网络)、移动设备(例如,蜂窝电话、智能电话、诸如iPadTM之类的平板设备)、个人数字助理(PDA)、因特网设备、耳机或其他可穿戴设备、或任何其他类型的计算设备。
所图示示例的处理器平台1500包括处理器113。所图示示例的处理器113是硬件。例如,处理器113可以由来自任何所需要的系列或制造商的一个或多个集成电路、逻辑电路、微处理器、GPU、DSP或控制器实现。硬件处理器可以是基于半导体的(例如,硅基)器件。在该示例中,处理器实现示例请求接收器400、示例通知生成器401、示例用户输入分析器402、示例通信器404、以及示例请求响应器405。
所图示示例的处理器113包括本地存储器1513(例如,高速缓存)。所图示示例的处理器113经由总线1518而与包括易失性存储器1514和非易失性存储器1516的主存储器进行通信。易失性存储器1514可由同步动态随机存取存储器(SDRAM)、动态随机存取存储器(DRAM)、
Figure BDA0002694779970000651
动态随机存取存储器
Figure BDA0002694779970000652
和/或任何其他类型的随机存取存储器设备实现。非易失性存储器1516可由闪存和/或任何其他所期望类型的存储器设备实现。由存储器控制器控制对主存储器1514、1516的访问。
所图示示例的处理器平台1500还包括接口电路1520。接口电路1520可由任何类型的接口标准实现,诸如以太网接口、通用串行总线(USB)、
Figure BDA0002694779970000653
接口、近场通信(NFC)接口和/或PCI express(PCI快速)接口。
在所图示的示例中,一个或多个输入设备1522被连接至接口电路1520。(多个)输入设备1522准许用户将数据和/或命令输入到处理器113中。(多个)输入设备可以由例如音频传感器、话筒、(静止的或视频)相机、键盘、按钮、鼠标、触摸屏、轨迹板、轨迹球、等点鼠标和/或语音识别系统实现。
一个或多个输出设备1524也被连接至所图示示例的接口电路1520。输出设备1524可例如由显示设备(例如,发光二极管(LED)、有机发光二极管(OLED)、液晶显示器(LCD)、阴极射线管显示器(CRT)、面内切换(IPS)显示器、触摸屏等)、触觉输出设备、打印机和/或扬声器实现。因此,所图示示例的接口电路1520典型地包括图形驱动器卡、图形驱动器芯片和/或图形驱动器处理器。
所图示示例的接口电路1520还包括诸如发射机、接收机、收发机、调制解调器、住宅网关、无线接入点、和/或网络接口之类的通信设备,以促进经由网络1526与外部机器(例如,任何种类的计算设备)交换数据。通信可以经由例如以太网连接、数字订户线路(DSL)连接、电话线连接、同轴电缆系统、卫星系统、直线对传式无线系统、蜂窝电话系统等。
所图示示例的处理器平台1500还包括用于存储软件和/或数据的一个或多个大容量存储设备1528。此类大容量存储设备1528的示例包括软盘驱动器、硬驱动器盘、紧凑盘驱动器、蓝光盘驱动器、独立磁盘冗余阵列(RAID)系统、以及数字多功能盘(DVD)驱动器。
图15的机器可执行指令1532可被存储在大容量存储设备1528中,存储在易失性存储器1514中,存储在非易失性存储器1516中,和/或存储在诸如CD或DVD之类的可移除非瞬态计算机可读存储介质上。
从前述内容将会领会,已经公开了提供对尝试与电子用户设备(例如,膝上型计算机、平板)进行交互的用户的多模式认证的示例方法、装置和制品。本文中所公开的示例使用以下各项中的一项来执行对用户的初始认证以确定用户是否为设备的经授权的用户:音频数据和声音识别分析、或者图像数据和图像识别分析。基于与使用初始认证模式将用户认证为设备的经授权的用户有关的置信度分析,本文中所公开的示例确定是否需要(多个)补充认证模式(例如,音频数据或图像数据中未被用作初始认证模式的另一者)来增加达到将用户确定为设备的经授权的用户的置信度。本文中所公开的示例在设备处于低功率连接待机模式的同时执行对用户的认证,并且按需选择性地激活该设备的(多个)组件以执行对用户的认证,(多个)组件诸如(多个)相机。本文中所公开的示例在用户被确认为是经授权的用户时将设备转变为全供电状态,由此节约功耗,直到认证成功。
本文中所公开的一些示例在用户设备处于连接待机模式的同时提供该用户设备与(多个)远程设备之间的通信。当推送通知从远程设备被接收并被用户接受时,本文中所公开的示例将用户认证为经授权的用户,并且在一些示例中,在设备处于连接待机模式的同时对通知进行响应。因此,本文中所公开的示例提供在设备处于低功率状态时设备的优化的功耗。
本文中公开了用于实现多模式用户设备认证的示例方法、装置、系统和制品。进一步的示例及其组合包括以下内容:
示例1包括一种电子设备,该电子设备包括:第一传感器;话筒;第一相机;用户存在检测分析器,用于分析由第一传感器生成的第一传感器数据以检测接近于电子设备的主体的存在;音频数据分析器,用于分析由话筒生成的音频数据以在该音频数据中检测电子设备的经授权的用户的声音;图像数据分析器,用于分析由第一相机生成的图像数据以在该图像数据中检测经授权的用户的特征;以及置信度分析器,用于响应于用户存在检测分析器检测到主体的存在、以及以下各项中的一项或多项而将主体认证为经授权的用户:(a)音频数据分析器检测到经授权的用户的声音、或(b)图像数据分析器检测到经授权的用户的特征;以及处理器,用于响应于置信度分析器将主体认证为经授权的用户而使电子设备从第一功率状态移至第二功率状态,相比于第一功率状态,电子设备在第二功率状态下将消耗更大量的功率。
示例2包括如示例1中定义的电子设备,进一步包括环境光传感器和环境光分析器,该环境光分析器用于分析由环境光传感器生成的第三传感器数据以确定包括电子设备的环境的光照条件。置信度分析器用于基于音频数据分析器检测到经授权的用户的声音以及图像数据分析器响应于光照条件检测到经授权的用户的特征、而对主体进行认证。
示例3包括如示例2中定义的电子设备,进一步包括请求生成器,该请求生成器用于响应于光照条件而输出对主体的声音请求。
示例4包括如示例1中定义的电子设备,进一步包括传感器管理器,该传感器管理器用于响应于用户存在检测分析器检测到主体的存在而激活第一相机。
示例5包括如示例1中定义的电子设备,进一步包括:第二相机,第一相机由电子设备的基座承载并且第二相机由电子设备的机盖承载;设备位置分析器,用于检测机盖的位置;以及传感器管理器,用于响应于对机盖的位置的检测而激活第一相机。
示例6包括如示例1中定义的电子设备,进一步包括推送通知控制器,该推送通知控制器用于接收来自第二电子设备的请求,置信度分析器用于响应于指示对该请求的接受的用户输入而对主体进行认证。
示例7包括如示例1中定义的电子设备,其中,音频数据分析器用于在音频数据中检测唤醒词。
示例8包括如示例1或7中定义的电子设备,其中,音频数据分析器用于响应于在音频数据中对声音的检测而生成预测,并且给该预测指派置信度分数,置信度分析器用于将该置信度分数与对主体进行认证的阈值进行比较。
示例9包括如示例1中定义的电子设备,进一步包括认证设备分析器,该认证分析器用于检测认证设备的存在,处理器用于响应于用户存在检测分析器检测到主体的存在、认证设备的存在的检测、以及以下各项中的一项而将主体认证为经授权的用户:(a)音频数据分析器检测到经授权的用户的声音、或(b)图像数据分析器检测到经授权的用户的特征。
示例10包括如示例1或4中定义的电子设备,其中,特征包括主体的面部特征。
示例11包括一种非瞬态计算机可读介质,包括指令,这些指令当被执行时使计算设备至少用于:基于由计算设备的第一传感器生成的第一传感器数据来检测接近于计算设备的用户的存在;响应于检测到用户而指令相机生成图像数据;基于图像数据来生成对用户与计算设备的经授权的用户之间的匹配的第一预测;响应于检测到音频输入而经由话筒生成音频数据;基于该音频数据来生成对用户的声音与经授权的用户的声音之间的匹配的第二预测;以及基于第一预测和第二预测将用户认证为经授权的用户。
示例12包括如示例11中定义的非瞬态计算机可读介质,其中,指令当被执行时进一步使计算设备用于:向第一预测指派第一置信度分数;以及执行该第一置信度分数与针对基于图像数据来对用户进行认证的阈值的第一比较。
示例13包括如示例12中定义的非瞬态计算机可读介质,其中,指令当被执行时进一步使计算设备用于:向第二预测指派第二置信度分数;执行第二置信度分数与针对基于音频数据来对用户进行认证的阈值的第二比较;以及基于第一比较和第二比较将用户认证为经授权的用户。
示例14包括如示例11中定义的非瞬态计算机可读介质,其中,指令当被执行时进一步使计算设备用于:响应于接收到来自第二计算设备的请求而输出通知;响应于检测到指示对该请求的接受的用户输入而指令相机生成图像数据;以及响应于将用户认证为经授权的用户而指令计算设备执行动作。
示例15包括如示例14中定义的非瞬态计算机可读介质,其中,动作包括:使显示器控制器从第一功率状态移至第二功率状态,以在计算设备的显示屏上显示内容。
示例16包括如示例11或12中定义的非瞬态计算机可读介质,其中,相机包括第一相机和第二相机,并且指令当被执行时进一步使计算设备用于:基于由计算设备的第二传感器生成的第二传感器数据来检测计算设备的机盖的位置;以及响应于对机盖的位置的检测而指令第一相机或第二相机中的一者生成图像数据。
示例17包括如示例11中定义的非瞬态计算机可读介质,其中,指令当被执行时进一步使计算设备用于:检测包括该计算设备的环境中的环境光照条件;以及响应于对环境光照条件的检测而指令相机生成图像数据。
示例18包括如示例11中定义的非瞬态计算机可读介质,其中,指令当被执行时进一步使计算设备输出通知以请求音频输入,该通知用于经由计算设备的显示屏来显示。
示例19包括一种计算设备,该计算设备包括:相机,用于生成图像数据;话筒,用于响应于检测到音频输出而生成音频数据;以及至少一个处理器,用于基于由相机生成的图像数据和由话筒生成的音频数据来控制计算设备的功率状态。
示例20包括如示例19中定义的计算设备,其中,功率状态包括连接待机状态和工作中功率状态。
示例21包括如示例20中定义的计算设备,进一步包括显示器控制器,至少一个处理器用于基于图像数据和音频数据来指令该显示器控制器使内容经由计算设备的显示屏被显示。
示例22包括如示例21中定义的计算设备,其中,至少一个处理器用于:当内容经由显示屏被显示时,使计算设备维持处于连接待机状态。
示例23包括如示例19中定义的计算设备,其中,至少一个处理器用于在图像数据中检测计算设备的经授权的用户的特征。
示例24包括如示例23中定义的计算设备,其中,至少一个处理器用于在音频数据中检测经授权的用户的声音。
示例25包括如示例19或23中定义的计算设备,其中,相机用于响应于(a)检测到接近于计算设备的用户的存在、或者(b)接收到来自第二计算设备的请求中的至少一项而生成图像数据。
示例26包括一种方法,该方法包括:通过利用至少一个处理器执行指令,基于由计算设备的第一传感器生成的第一传感器数据来检测接近于计算设备的用户的存在;通过利用至少一个处理器执行指令,响应于检测到用户而指令相机生成图像数据;通过利用至少一个处理器执行指令,基于图像数据生成对用户与计算设备的经授权的用户之间的匹配的第一预测;通过利用至少一个处理器执行指令,响应于检测到音频输入而经由话筒生成音频数据;通过利用至少一个处理器执行指令,基于音频数据生成对用户的声音与经授权的用户的声音之间的匹配的第二预测;以及通过所述至少一个处理器执行指令,基于第一预测和第二预测将所述用户认证为经授权的用户。
示例27包括如示例26中定义的方法,进一步包括:向第一预测指派第一置信度分数;以及执行该第一置信度分数与针对基于图像数据来对用户进行认证的阈值的第一比较。
示例28包括如示例27中定义的方法,进一步包括:向第二预测指派第二置信度分数;执行第二置信度分数与针对基于音频数据来对用户进行认证的阈值的第二比较;以及基于第一比较和第二比较将用户认证为经授权的用户。
示例29包括如示例26中定义的方法,进一步包括:响应于接收到来自第二计算设备的请求而输出通知;响应于检测到指示对该请求的接受的用户输入而指令相机生成图像数据;以及响应于将用户认证为经授权的用户而指令计算设备执行动作。
示例30包括如示例29中定义的方法,其中,动作包括:使显示器控制器从第一功率状态移至第二功率状态,以在计算设备的显示屏上显示内容。
示例31包括如示例26中定义的方法,其中,相机包括第一相机和第二相机,并且该方法进一步包括:基于由计算设备的第二传感器生成的第二传感器数据来检测计算设备的机盖的位置;以及响应于对机盖的位置的检测而指令第一相机或第二相机中的一者生成图像数据。
示例32包括如示例26中定义的方法,进一步包括:检测包括计算设备的环境中的环境光照条件;以及响应于对环境光照条件的检测而指令相机生成图像数据。
示例33包括如示例26中定义的方法,进一步包括:使得计算设备输出通知以请求音频输入,该通知用于经由计算设备的显示屏来显示。
虽然本文中已公开了某些示例方法、装置和制品,但本专利涵盖的范围并不限于此。相反,本专利涵盖落入本专利权利要求范围内的全部方法、装置和制品。
所附的权利要求由此通过本参考被并入到具体实施方式中,其中每一项权利要求其本身作为本公开的单独的实施例。

Claims (25)

1.一种电子设备,包括:
第一传感器;
话筒;
第一相机;
用户存在检测分析器,用于分析由所述第一传感器生成的第一传感器数据以检测接近于所述电子设备的主体的存在;
音频数据分析器,用于分析由所述话筒生成的音频数据以在所述音频数据中检测所述电子设备的经授权的用户的声音;
图像数据分析器,用于分析由所述第一相机生成的图像数据以在所述图像数据中检测所述经授权的用户的特征;
置信度分析器,用于响应于所述用户存在检测分析器检测到所述主体的所述存在、以及以下各项中一项或多项而将所述主体认证为所述经授权的用户:(a)所述音频数据分析器检测到所述经授权的用户的所述声音、或者(b)所述图像数据分析器检测到所述经授权的用户的所述特征;以及
处理器,用于响应于所述置信度分析器将所述主体认证为所述经授权的用户而使所述电子设备从第一功率状态移至第二功率状态,相比于所述第一功率状态,所述电子设备在所述第二功率状态下将消耗更大量的功率。
2.如权利要求1所述的电子设备,进一步包括:
环境光传感器;以及
环境光分析器,用于分析由所述环境光传感器生成的第三传感器数据以确定包括所述电子设备的环境的光照条件,所述置信度分析器用于响应于所述音频数据分析器检测到所述经授权的用户的所述声音以及所述图像数据分析器响应于所述光照条件检测到所述经授权的用户的所述特征、而对所述主体进行认证。
3.如权利要求1或2所述的电子设备,进一步包括:
第二相机,所述第一相机由所述电子设备的基座承载并且所述第二相机由所述电子设备的机盖承载;
设备位置分析器,用于检测所述机盖的位置;以及
传感器管理器,用于响应于对所述机盖的位置的检测而激活所述第一相机。
4.如权利要求1所述的电子设备,其中,所述音频数据分析器用于响应于在所述音频数据中对所述声音的检测而生成预测,并且给所述预测指派置信度分数,所述置信度分析器用于将所述置信度分数与阈值进行比较以便对所述主体进行认证。
5.如权利要求1所述的电子设备,进一步包括认证设备分析器,所述认证分析器用于检测认证设备的存在,所述处理器用于响应于所述用户存在检测分析器检测到所述主体的存在、所述认证设备的存在的检测、以及以下各项中的一项而将所述主体认证为所述经授权的用户:(a)所述音频数据分析器检测到所述经授权的用户的所述声音、或(b)所述图像数据分析器检测到所述经授权的用户的所述特征。
6.如权利要求1-5中任一项所述的电子设备,其中,所述特征包括所述主体的面部特征。
7.一种计算机可读介质,包括指令,所述指令当被执行时使计算设备至少用于:
基于由所述计算设备的第一传感器生成的第一传感器数据来检测接近于所述计算设备的用户的存在;
响应于检测到所述用户而指令相机生成图像数据;
基于所述图像数据来生成对所述用户与所述计算设备的经授权的用户之间的匹配的第一预测;
响应于检测到音频输入而经由话筒生成音频数据;
基于所述音频数据来生成对所述用户的声音与所述经授权的用户的声音之间的匹配的第二预测;以及
基于所述第一预测和所述第二预测将所述用户认证为所述经授权的用户。
8.如权利要求7所述的计算机可读介质,其中,所述指令当被执行时进一步使所述计算设备用于:
向所述第一预测指派第一置信度分数;以及
执行所述第一置信度分数与针对基于所述图像数据来对所述用户进行认证的阈值的第一比较。
9.如权利要求8所述的计算机可读介质,其中,所述指令当被执行时进一步使所述计算设备用于:
向所述第二预测指派第二置信度分数;
执行所述第二置信度分数与针对基于所述音频数据来对所述用户进行认证的阈值的第二比较;以及
基于所述第一比较和所述第二比较将所述用户认证为所述经授权的用户。
10.如权利要求7所述的计算机可读介质,其中,所述指令当被执行时进一步使所述计算设备用于:
响应于接收到来自第二计算设备的请求而输出通知;
响应于检测到指示对所述请求的接受的用户输入而指令所述相机生成图像数据;以及
响应于将所述用户认证为所述经授权的用户而指令所述计算设备执行动作。
11.如权利要求10所述的计算机可读介质,其中,所述动作包括:使显示屏控制器从第一功率状态移至第二功率状态,以在所述计算设备的显示屏上显示内容。
12.如权利要求7或8中所述的计算机可读介质,其中,所述相机包括第一相机和第二相机,并且所述指令当被执行时进一步使所述计算设备用于:
基于由所述计算设备的第二传感器生成的第二传感器数据来检测所述计算设备的机盖的位置;以及
响应于对所述机盖的位置的检测而指令所述第一相机或所述第二相机中的一者生成所述图像数据。
13.如权利要求7所述的计算机可读介质,其中,所述指令当被执行时进一步使所述计算设备用于:
检测包括所述计算设备的环境中的环境光照条件;以及
响应于对所述环境光照条件的检测而指令所述相机生成所述图像数据。
14.如权利要求7所述的计算机可读介质,其中,所述指令当被执行时进一步使得所述计算设备输出通知以请求所述音频输入,所述通知用于经由所述计算设备的显示屏来显示。
15.一种方法,包括:
通过利用至少一个处理器执行指令,基于由计算设备的第一传感器生成的第一传感器数据来检测接近于所述计算设备的用户的存在;
通过利用所述至少一个处理器执行指令,响应于检测到所述用户而指令相机生成图像数据;
通过利用所述至少一个处理器执行指令,基于所述图像数据生成对所述用户与所述计算设备的经授权的用户之间的匹配的第一预测;
通过利用所述至少一个处理器执行指令,响应于检测到音频输入而经由话筒生成音频数据;
通过利用所述至少一个处理器执行指令,基于所述音频数据生成对所述用户的声音与所述经授权的用户的声音之间的匹配的第二预测;以及
通过利用所述至少一个处理器执行指令,基于所述第一预测和所述第二预测将所述用户认证为所述经授权的用户。
16.如权利要求15所述的方法,进一步包括:
向所述第一预测指派第一置信度分数;以及
执行所述第一置信度分数与针对基于所述图像数据来对所述用户进行认证的阈值的第一比较。
17.如权利要求16所述的方法,进一步包括:
向所述第二预测指派第二置信度分数;
执行所述第二置信度分数与针对基于所述音频数据来对所述用户进行认证的阈值的第二比较;以及
基于所述第一比较和所述第二比较将所述用户认证为所述经授权的用户。
18.如权利要求15所述的方法,其中,所述相机包括第一相机和第二相机,并且所述方法进一步包括:
基于由所述计算设备的第二传感器生成的第二传感器数据来检测所述计算设备的机盖的位置;以及
响应于对所述机盖的位置的检测而指令所述第一相机或所述第二相机中的一者生成所述图像数据。
19.如权利要求15所述的方法,进一步包括:
检测包括所述计算设备的环境中的环境光照条件;以及
响应于对所述环境光照条件的检测而指令所述相机生成所述图像数据。
20.如权利要求15所述的方法,进一步包括:使得所述计算设备输出通知以请求所述音频输入,所述通知用于经由所述计算设备的显示屏来显示。
21.一种设备,包括:
用于基于由计算设备的第一传感器生成的第一传感器数据来检测接近于所述计算设备的用户的存在的装置;
用于指令相机响应于检测到所述用户而生成图像数据的装置;
用于预测的装置,所述用于预测的装置用于基于所述图像数据来生成对所述用户与所述计算设备的经授权的用户之间的匹配的第一预测;
用于响应于检测到音频输入而生成音频数据的装置,所述用于预测的装置用于基于所述音频数据来生成对所述用户的声音与所述经授权的用户的声音之间的匹配的第二预测;以及
用于基于所述第一预测和所述第二预测将所述用户认证为所述经授权的用户的装置。
22.如权利要求21所述的设备,其中,所述用于预测的装置用于:
向所述第一预测指派第一置信度分数;以及
执行所述第一置信度分数与针对基于所述图像数据来对所述用户进行认证的阈值的第一比较。
23.如权利要求22所述的设备,其中,所述用于预测的装置用于:
向所述第二预测指派第二置信度分数;以及
执行所述第二置信度分数与针对基于所述音频数据来对所述用户进行认证的阈值的第二比较,所述用于认证的装置用于基于所述第一比较和所述第二比较将所述用户认证为所述经授权的用户。
24.如权利要求21所述的设备,其中,所述相机包括第一相机和第二相机,并且所述设备进一步包括用于基于由所述计算设备的第二传感器生成的第二传感器数据来检测所述计算设备的机盖的位置的装置,所述用于指令的装置用于响应于对所述机盖的位置的检测而指令所述第一相机或所述第二相机中的一者生成所述图像数据。
25.如权利要求21所述的设备,进一步包括用于检测包括所述计算设备的环境中的环境光照条件的装置,所述用于指令的装置用于响应于对所述环境光照条件的检测而指令所述相机生成所述图像数据。
CN202011002409.9A 2019-12-23 2020-09-22 用于多模式用户设备认证的系统和方法 Pending CN113038470A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/725,467 US11809535B2 (en) 2019-12-23 2019-12-23 Systems and methods for multi-modal user device authentication
US16/725,467 2019-12-23

Publications (1)

Publication Number Publication Date
CN113038470A true CN113038470A (zh) 2021-06-25

Family

ID=70326801

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011002409.9A Pending CN113038470A (zh) 2019-12-23 2020-09-22 用于多模式用户设备认证的系统和方法

Country Status (3)

Country Link
US (2) US11809535B2 (zh)
EP (1) EP3842971A1 (zh)
CN (1) CN113038470A (zh)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9906954B2 (en) 2014-10-20 2018-02-27 Payfone, Inc. Identity authentication
US11194398B2 (en) 2015-09-26 2021-12-07 Intel Corporation Technologies for adaptive rendering using 3D sensors
US11176231B2 (en) 2016-05-19 2021-11-16 Payfone, Inc. Identifying and authenticating users based on passive factors determined from sensor data
USD914021S1 (en) 2018-12-18 2021-03-23 Intel Corporation Touchpad display screen for computing device
DE112019007085T5 (de) 2019-03-27 2022-01-20 Intel Corporation Intelligente Anzeigetafeleinrichtung und verwandte Verfahren
US10964324B2 (en) * 2019-04-26 2021-03-30 Rovi Guides, Inc. Systems and methods for enabling topic-based verbal interaction with a virtual assistant
US11379016B2 (en) 2019-05-23 2022-07-05 Intel Corporation Methods and apparatus to operate closed-lid portable computers
US11543873B2 (en) 2019-09-27 2023-01-03 Intel Corporation Wake-on-touch display screen devices and related methods
US11733761B2 (en) 2019-11-11 2023-08-22 Intel Corporation Methods and apparatus to manage power and performance of computing devices based on user presence
CA3103530A1 (en) * 2019-12-19 2021-06-19 Comcast Cable Communications, Llc Methods and systems for switching between service provider networks
US11360528B2 (en) 2019-12-27 2022-06-14 Intel Corporation Apparatus and methods for thermal management of electronic user devices based on user activity
US11093943B1 (en) * 2020-01-27 2021-08-17 Capital One Services, Llc Account security system
US11681949B2 (en) * 2020-03-19 2023-06-20 International Business Machines Corporation Power awareness systems and processes
JP7371595B2 (ja) * 2020-09-15 2023-10-31 横河電機株式会社 装置、システム、方法およびプログラム
US11861041B2 (en) * 2021-02-08 2024-01-02 Capital One Services, Llc Methods and systems for automatically preserving a user session on a public access shared computer
US11771977B2 (en) * 2021-05-20 2023-10-03 Microsoft Technology Licensing, Llc Computationally customizing instructional content
CN113411642B (zh) * 2021-06-16 2022-11-22 北京字节跳动网络技术有限公司 投屏方法、装置、电子设备和存储介质
US20230015583A1 (en) * 2021-07-16 2023-01-19 Next Caller, Inc. Systems and methods for authentication using browser fingerprinting
IT202100019808A1 (it) * 2021-07-26 2023-01-26 St Microelectronics Srl Metodo di controllo di un apparecchio per l'attivazione di una o piu' funzionalita' dello stesso
US20230281949A1 (en) * 2022-02-02 2023-09-07 Ford Global Technologies, Llc Biometric authorization
US20230245127A1 (en) * 2022-02-02 2023-08-03 Kyndryl, Inc. Augmented user authentication
US11841785B1 (en) 2023-01-18 2023-12-12 Dell Products L.P. System and methods for managing system configuration settings and session retainment based on user presence

Family Cites Families (308)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD324036S (en) 1989-12-06 1992-02-18 Kabushi Kaisha Toshiba Combined electronic computer and telephone
US5173940A (en) 1991-06-21 1992-12-22 Compaq Computer Corporation Keyboard activated screen blanking
JPH0651901A (ja) 1992-06-29 1994-02-25 Nri & Ncc Co Ltd 視線認識によるコミュニケーション装置
USD376791S (en) 1992-08-04 1996-12-24 Hunt Holdings, Inc. Mouse pad
USD359275S (en) 1992-09-18 1995-06-13 International Business Machines Corporation Portable personal computer
USD389129S (en) 1996-04-24 1998-01-13 Stratos Product Development Group, Inc. Touch pad
US5835083A (en) 1996-05-30 1998-11-10 Sun Microsystems, Inc. Eyetrack-driven illumination and information display
USD388774S (en) 1996-07-01 1998-01-06 Stratos Product Development Group Touch pad with scroll bars
JPH10268959A (ja) 1997-03-24 1998-10-09 Canon Inc 情報処理装置及びその方法
US6429846B2 (en) 1998-06-23 2002-08-06 Immersion Corporation Haptic feedback for touchpads and other touch controls
USD434773S (en) 1999-05-21 2000-12-05 Kabushiki Kaisha Toshiba Portion of an electronic computer
USD444462S1 (en) 1999-12-28 2001-07-03 Sharp Kabushiki Kaisha Electronic computer
USD433024S (en) 2000-01-21 2000-10-31 Hewlett-Packard Company Input device for a portable computing device
JP3499798B2 (ja) 2000-03-13 2004-02-23 シャープ株式会社 液晶情報表示装置
USD462967S1 (en) 2000-03-16 2002-09-17 Kabushiki Kaisha Toshiba Portion of an electronic computer
USD449307S1 (en) 2000-03-24 2001-10-16 Hiatchi, Ltd. Combined touch pad and buttons for a portable computer
US7210099B2 (en) 2000-06-12 2007-04-24 Softview Llc Resolution independent vector display of internet content
USD453508S1 (en) 2000-07-19 2002-02-12 Kabushiki Kaisha Toshiba Electronic computer
JP2002071833A (ja) 2000-08-31 2002-03-12 Ricoh Co Ltd 人体検知センサ装置、画像形成装置、人体検知センサ駆動方法及び記憶媒体
US6657647B1 (en) 2000-09-25 2003-12-02 Xoucin, Inc. Controlling the order in which content is displayed in a browser
US7559034B1 (en) 2000-10-19 2009-07-07 DG FastChannel, Inc. Method and system for using a hyperlink, banner, or graphical icon to initiate the overlaying of an object on a window
US6659516B2 (en) 2001-01-05 2003-12-09 Apple Computer, Inc. Locking system for a portable computer
USD454126S1 (en) 2001-04-10 2002-03-05 Hewlett-Packard Company Portable computing device
US6690365B2 (en) 2001-08-29 2004-02-10 Microsoft Corporation Automatic scrolling
JP3951727B2 (ja) 2002-02-06 2007-08-01 松下電器産業株式会社 情報処理装置
US6760649B2 (en) 2002-05-22 2004-07-06 International Business Machines Corporation Thermal management of a laptop computer
USD478089S1 (en) 2002-08-06 2003-08-05 Sony Corporation Computer
USD480089S1 (en) 2002-08-09 2003-09-30 Hewlett-Packard Development Company, L.P. Input device for portable computer
US7386799B1 (en) 2002-11-21 2008-06-10 Forterra Systems, Inc. Cinematic techniques in avatar-centric communication during a multi-user online simulation
US7379560B2 (en) 2003-03-05 2008-05-27 Intel Corporation Method and apparatus for monitoring human attention in dynamic power management
USD494161S1 (en) 2003-03-11 2004-08-10 Fujitsu Limited Personal computer
US20040252101A1 (en) 2003-06-12 2004-12-16 International Business Machines Corporation Input device that detects user's proximity
US7117380B2 (en) 2003-09-30 2006-10-03 International Business Machines Corporation Apparatus, system, and method for autonomic power adjustment in an electronic device
JP2005221907A (ja) 2004-02-09 2005-08-18 Sanyo Electric Co Ltd 表示装置
RU2379747C2 (ru) 2004-03-18 2010-01-20 Конинклейке Филипс Электроникс Н.В. Устройство сканирующего дисплея
USD517542S1 (en) 2004-05-14 2006-03-21 Lg Electronics Inc. Notebook computer
USD504129S1 (en) 2004-06-07 2005-04-19 Hewlett-Packard Development Company, L.P. Laptop computer
USD518042S1 (en) 2004-08-18 2006-03-28 Fujitsu Limited Personal computer
KR100677420B1 (ko) 2004-12-30 2007-02-02 엘지전자 주식회사 본체 회전 타입 휴대 단말기
US20060192775A1 (en) 2005-02-25 2006-08-31 Microsoft Corporation Using detected visual cues to change computer system operating states
USD534531S1 (en) 2005-06-24 2007-01-02 Sony Corporation Computer
US7697827B2 (en) 2005-10-17 2010-04-13 Konicek Jeffrey C User-friendlier interfaces for a camera
WO2007109924A1 (en) 2006-03-29 2007-10-04 Intel Corporation Apparatus and method for a mobile personal computer system (mpc) with a built-in scanner
US20150121287A1 (en) 2006-07-03 2015-04-30 Yoram Ben-Meir System for generating and controlling a variably displayable mobile device keypad/virtual keyboard
WO2008020446A1 (en) 2006-08-15 2008-02-21 N-Trig Ltd. Gesture detection for a digitizer
US7725547B2 (en) 2006-09-06 2010-05-25 International Business Machines Corporation Informing a user of gestures made by others out of the user's line of sight
US20080112571A1 (en) 2006-11-09 2008-05-15 Thomas Michael Bradicich Noise control in proximity to a computer system
US8195383B2 (en) 2006-11-29 2012-06-05 The Boeing Company System and method for electronic moving map and aeronautical context display
USD577013S1 (en) 2006-11-30 2008-09-16 Hewlett-Packard Development Company, L.P. Laptop computer
US7971156B2 (en) 2007-01-12 2011-06-28 International Business Machines Corporation Controlling resource access based on user gesturing in a 3D captured image stream of the user
US20080301300A1 (en) 2007-06-01 2008-12-04 Microsoft Corporation Predictive asynchronous web pre-fetch
USD591737S1 (en) 2007-06-13 2009-05-05 Fujitsu Limited Personal computer
TW200917136A (en) 2007-10-03 2009-04-16 Micro Star Int Co Ltd Method of determining power-saving mode for multimedia applications
US20090165125A1 (en) * 2007-12-19 2009-06-25 Research In Motion Limited System and method for controlling user access to a computing device
USD604294S1 (en) 2008-01-14 2009-11-17 Apple Inc. Electronic device
CN101656060A (zh) 2008-08-18 2010-02-24 鸿富锦精密工业(深圳)有限公司 屏幕显示节能系统及方法
USD608380S1 (en) 2008-08-29 2010-01-19 Kabushiki Kaisha Toshiba Data projector with screen
JP2010060746A (ja) 2008-09-02 2010-03-18 Sharp Corp 液晶表示装置
USD607449S1 (en) 2008-09-04 2010-01-05 Sony Corporation Computer
CN102231255B (zh) 2008-09-16 2015-09-23 联想(北京)有限公司 节能显示器以及电子设备
USD616433S1 (en) 2008-09-24 2010-05-25 Fujitsu Limited Personal computer
US20100079508A1 (en) 2008-09-30 2010-04-01 Andrew Hodge Electronic devices with gaze detection capabilities
USD604290S1 (en) 2008-10-10 2009-11-17 Apple Inc. Portable computer
US8468377B2 (en) 2008-10-22 2013-06-18 Microsoft Corporation Conserving power using predictive modelling and signaling
WO2010071631A1 (en) 2008-12-15 2010-06-24 Hewlett-Packard Development Company, L.P. Temperature threshold adjustment based on human detection
US8139032B2 (en) 2008-12-22 2012-03-20 Kuo-Hsin Su Power-saving computer mouse
USD612830S1 (en) 2009-02-18 2010-03-30 Samsung Electronics Co., Ltd. Mobile phone
EP2399182B1 (en) 2009-02-20 2014-04-09 Koninklijke Philips N.V. System, method and apparatus for causing a device to enter an active mode
US8482626B2 (en) 2009-04-07 2013-07-09 Mediatek Inc. Digital camera and image capturing method
US9106696B2 (en) 2009-04-15 2015-08-11 Wyse Technology L.L.C. Method and apparatus for portability of a remote session
US8633904B2 (en) 2009-04-24 2014-01-21 Cypress Semiconductor Corporation Touch identification for multi-touch technology
US9377857B2 (en) 2009-05-01 2016-06-28 Microsoft Technology Licensing, Llc Show body position
JP5299866B2 (ja) 2009-05-19 2013-09-25 日立コンシューマエレクトロニクス株式会社 映像表示装置
US20110055752A1 (en) 2009-06-04 2011-03-03 Rubinstein Jonathan J Method and Apparatus for Displaying and Auto-Correcting an Over-Scroll State on a Computing Device
USD614180S1 (en) 2009-06-09 2010-04-20 Cheng Uei Precision Industry Co., Ltd. Netbook computer
USD658171S1 (en) 2009-08-26 2012-04-24 Sony Corporation Computer
USD631039S1 (en) 2009-09-01 2011-01-18 Fujitsu Limited Personal computer
USD644641S1 (en) 2009-10-13 2011-09-06 Apple Inc. Electronic device
USD616882S1 (en) 2009-11-23 2010-06-01 Dell Products L.P. Information handling system housing
JP5602155B2 (ja) 2009-12-14 2014-10-08 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ ユーザインタフェース装置および入力方法
US9244533B2 (en) 2009-12-17 2016-01-26 Microsoft Technology Licensing, Llc Camera navigation for presentations
JP2011137874A (ja) 2009-12-25 2011-07-14 Toshiba Corp 映像再生装置及び映像再生方法
US9507418B2 (en) 2010-01-21 2016-11-29 Tobii Ab Eye tracker based contextual action
KR101743948B1 (ko) 2010-04-07 2017-06-21 삼성전자주식회사 인터렉티브 디스플레이에서 근접 센싱을 위한 방법 및 근접 센싱 이미지를 처리하는 방법
US20110252339A1 (en) 2010-04-12 2011-10-13 Google Inc. Collaborative Cursors in a Hosted Word Processor
US8581974B2 (en) 2010-05-06 2013-11-12 Aptina Imaging Corporation Systems and methods for presence detection
US9113190B2 (en) 2010-06-04 2015-08-18 Microsoft Technology Licensing, Llc Controlling power levels of electronic devices through user interaction
US20130021750A1 (en) 2010-07-08 2013-01-24 Hewlett-Packard Development Company, Lp. Electronic device thermal management
US20120032894A1 (en) 2010-08-06 2012-02-09 Nima Parivar Intelligent management for an electronic device
USD645857S1 (en) 2010-08-11 2011-09-27 Samsung Electronics Co., Ltd. Notebook computer
US20120054670A1 (en) 2010-08-27 2012-03-01 Nokia Corporation Apparatus and method for scrolling displayed information
US20120062470A1 (en) 2010-09-10 2012-03-15 Chang Ray L Power Management
TWI476571B (zh) 2010-09-30 2015-03-11 Ibm 資訊處理系統中裝置區域之風扇控制方法及風扇控制裝置
US9526006B2 (en) 2010-11-29 2016-12-20 Biocatch Ltd. System, method, and device of detecting identity of a user of an electronic device
JP5409931B2 (ja) 2010-11-30 2014-02-05 三菱電機株式会社 音声認識装置及びナビゲーション装置
USD659134S1 (en) 2010-12-30 2012-05-08 Motorola Mobility, Inc. Computer terminal
US8682388B2 (en) 2010-12-31 2014-03-25 Motorola Mobility Llc Mobile device and method for proximity detection verification
US9830831B2 (en) 2011-01-05 2017-11-28 Pathway Innovations And Technologies, Inc. Mobile handwriting recording instrument and group lecture delivery and response system using the same
US9285874B2 (en) 2011-02-09 2016-03-15 Apple Inc. Gaze detection in a 3D mapping environment
USD687831S1 (en) 2011-02-12 2013-08-13 Samsung Electronics Co., Ltd. Notebook computer
US8717318B2 (en) 2011-03-29 2014-05-06 Intel Corporation Continued virtual links between gestures and user interface elements
CN102762074A (zh) 2011-04-25 2012-10-31 昆山广兴电子有限公司 用于可携式电子装置的散热系统
US10120438B2 (en) 2011-05-25 2018-11-06 Sony Interactive Entertainment Inc. Eye gaze to alter device behavior
JP2013003911A (ja) 2011-06-17 2013-01-07 Sony Corp 電子機器、電子機器の制御方法およびプログラム
US8872799B2 (en) 2011-06-20 2014-10-28 The Regents Of The University Of California Scalable distributed/cooperative/collaborative paradigm for multi-user interaction with projection-based display walls
US8996987B2 (en) 2011-06-30 2015-03-31 Apple Inc. List view optimization
US8566696B1 (en) 2011-07-14 2013-10-22 Google Inc. Predicting user navigation events
US9606723B2 (en) 2011-07-21 2017-03-28 Z124 Second view
CN109271029B (zh) 2011-08-04 2022-08-26 视力移动技术有限公司 无触摸手势识别系统、无触摸手势识别方法和介质
US9897805B2 (en) 2013-06-07 2018-02-20 Sony Interactive Entertainment Inc. Image rendering responsive to user actions in head mounted display
CN103907113A (zh) 2011-09-14 2014-07-02 诺基亚公司 用于分布式脚本处理的方法和装置
USD669068S1 (en) 2011-09-19 2012-10-16 J. P. Sá Couto Laptop computer
US9607420B2 (en) 2011-11-14 2017-03-28 Microsoft Technology Licensing, Llc Animations for scroll and zoom
WO2013081632A1 (en) 2011-12-02 2013-06-06 Intel Corporation Techniques for notebook hinge sensors
EP2791790B1 (en) 2011-12-14 2019-08-14 Intel Corporation Gaze activated content transfer system
US20130173946A1 (en) 2011-12-29 2013-07-04 Efraim Rotem Controlling power consumption through multiple power limits over multiple time intervals
US9569557B2 (en) 2011-12-29 2017-02-14 Chegg, Inc. Cache management in HTML eReading application
US8959431B2 (en) 2012-01-16 2015-02-17 Microsoft Corporation Low resolution placeholder content for document navigation
US20150220150A1 (en) 2012-02-14 2015-08-06 Google Inc. Virtual touch user interface system and methods
US20150220149A1 (en) 2012-02-14 2015-08-06 Google Inc. Systems and methods for a virtual grasping user interface
KR101922589B1 (ko) 2012-02-15 2018-11-27 삼성전자주식회사 디스플레이장치 및 그 시선추적방법
US20130222329A1 (en) 2012-02-29 2013-08-29 Lars-Johan Olof LARSBY Graphical user interface interaction on a touch-sensitive device
KR101620777B1 (ko) 2012-03-26 2016-05-12 애플 인크. 증강된 가상 터치패드 및 터치스크린
CN104169838B (zh) 2012-04-12 2017-07-21 英特尔公司 基于人眼追踪而选择性地使显示器背光
US9304520B2 (en) 2012-04-27 2016-04-05 Hewlett-Packard Development Company, L.P. Thermal management
USD701501S1 (en) 2012-05-31 2014-03-25 Intel Corporation Electronic computer with an at least partially transparent input device
USD691995S1 (en) 2012-05-31 2013-10-22 Intel Corporation Electronic computer with partially transparent input device
USD694232S1 (en) 2012-05-31 2013-11-26 Intel Corporation Electronic computer with partially transparent input device
USD698350S1 (en) 2012-05-31 2014-01-28 Intel Corporation Electronic computer with an at least partially transparent input device
US9098258B2 (en) 2012-06-08 2015-08-04 Apple Inc. Thermal-based acoustic management
US8949639B2 (en) 2012-06-29 2015-02-03 Intel Corporation User behavior adaptive sensing scheme for efficient power consumption management
WO2014006456A1 (en) 2012-07-06 2014-01-09 Freescale Semiconductor, Inc. A method of sensing a user input to a capacitive touch sensor, a capacitive touch sensor controller, an input device and an apparatus
US9052896B2 (en) 2012-07-20 2015-06-09 Facebook, Inc. Adjusting mobile device state based on user intentions and/or identity
US20150193395A1 (en) 2012-07-30 2015-07-09 Google Inc. Predictive link pre-loading
USD698348S1 (en) 2012-08-06 2014-01-28 Hewlett-Packard Development Company, L.P. Computing device
USD706768S1 (en) 2012-08-10 2014-06-10 Kabushiki Kaisha Toshiba Electronic computer
USD706769S1 (en) 2012-08-10 2014-06-10 Kabushiki Kaisha Toshiba Electronic computer
TWD156867S (zh) 2012-08-10 2013-11-01 東芝股份有限公司 電腦
USD706772S1 (en) 2012-08-29 2014-06-10 Kabushiki Kaisha Toshiba Electronic computer
USD716795S1 (en) 2012-09-06 2014-11-04 Asustek Computer Inc. Portable electronic device
USD708178S1 (en) 2012-09-24 2014-07-01 Panasonic Corporation Portable computer
JP6056323B2 (ja) 2012-09-24 2017-01-11 富士通株式会社 視線検出装置、視線検出用コンピュータプログラム
US20140089865A1 (en) 2012-09-24 2014-03-27 Co-Operwrite Limited Handwriting recognition server
US9311909B2 (en) 2012-09-28 2016-04-12 Microsoft Technology Licensing, Llc Sensed sound level based fan speed adjustment
USD715793S1 (en) 2012-10-04 2014-10-21 Acer Incorporated Notebook computer
USD692875S1 (en) 2012-10-05 2013-11-05 Stephen Lawrence Notebook computer with wooden housing and silicon keyboard
SG10201601697SA (en) 2012-10-05 2016-04-28 Tactual Labs Co Hybrid systems and methods for low-latency user input processing and feedback
USD720712S1 (en) 2012-10-05 2015-01-06 Lg Electronics Inc. Mobile phone
US9158372B2 (en) 2012-10-30 2015-10-13 Google Technology Holdings LLC Method and apparatus for user interaction data storage
USD704185S1 (en) 2012-11-06 2014-05-06 Google Inc. Notebook computer housing
CA150941S (en) 2012-11-06 2014-06-02 Sony Computer Entertainment Inc Controller for electronic device
US9632683B2 (en) 2012-11-08 2017-04-25 Nokia Technologies Oy Methods, apparatuses and computer program products for manipulating characteristics of audio objects by using directional gestures
US20140149935A1 (en) 2012-11-28 2014-05-29 Michael Dudley Johnson User-Intent-Based Chrome
US20140189579A1 (en) 2013-01-02 2014-07-03 Zrro Technologies (2009) Ltd. System and method for controlling zooming and/or scrolling
US9696867B2 (en) 2013-01-15 2017-07-04 Leap Motion, Inc. Dynamic user interactions for display control and identifying dominant gestures
JP5489379B1 (ja) 2013-01-18 2014-05-14 パナソニック株式会社 スクロール装置、スクロール方法及びプログラム
JP5884742B2 (ja) 2013-01-21 2016-03-15 トヨタ自動車株式会社 ユーザインタフェース装置および入力取得方法
US9268434B2 (en) 2013-02-14 2016-02-23 Dell Products L.P. Systems and methods for reducing power consumption in a touch sensor display
CA151691S (en) 2013-02-19 2014-06-02 Sony Computer Entertainment Inc Controller for electronic device
WO2014131188A1 (en) 2013-02-28 2014-09-04 Hewlett-Packard Development Company, L.P. Input for portable computing device based on predicted input
US20140258942A1 (en) 2013-03-05 2014-09-11 Intel Corporation Interaction of multiple perceptual sensing inputs
KR102281233B1 (ko) 2013-03-14 2021-07-23 삼성전자 주식회사 화면 제어 방법 및 장치
US10216266B2 (en) 2013-03-14 2019-02-26 Qualcomm Incorporated Systems and methods for device interaction based on a detected gaze
US11233841B2 (en) 2013-03-15 2022-01-25 Yottaa, Inc. Systems and methods for configuration-based optimization by an intermediary
NL2010733C2 (nl) * 2013-04-29 2014-10-30 Baseline Automatisering B V Werkwijzen voor authenticatie, server, inrichting en datadrager.
US20140344599A1 (en) 2013-05-15 2014-11-20 Advanced Micro Devices, Inc. Method and System for Power Management
US9568524B2 (en) 2013-05-29 2017-02-14 Atmel Corporation Multi-state capacitive button
JP1488334S (zh) 2013-06-14 2017-01-10
US9307007B2 (en) 2013-06-14 2016-04-05 Microsoft Technology Licensing, Llc Content pre-render and pre-fetch techniques
US9292080B2 (en) 2013-06-19 2016-03-22 Microsoft Technology Licensing, Llc Selective blocking of background activity
US9236052B2 (en) 2013-06-20 2016-01-12 Bank Of America Corporation Utilizing voice biometrics
US10254844B2 (en) 2013-06-20 2019-04-09 Uday Parshionikar Systems, methods, apparatuses, computer readable medium for controlling electronic devices
CN104252209A (zh) 2013-06-26 2014-12-31 鸿富锦精密工业(深圳)有限公司 风扇转速自动调节方法及系统
US20150009238A1 (en) 2013-07-03 2015-01-08 Nvidia Corporation Method for zooming into and out of an image shown on a display
US20150015688A1 (en) 2013-07-09 2015-01-15 HTC Corportion Facial unlock mechanism using light level determining module
USD724576S1 (en) 2013-07-26 2015-03-17 Hewlett-Packard Development Company, L.P. Computer touch pad
TWD162093S (zh) 2013-08-12 2014-08-01 東芝股份有限公司 電腦
TWD162094S (zh) 2013-08-12 2014-08-01 東芝股份有限公司 電腦
KR102305578B1 (ko) 2013-08-23 2021-09-27 삼성전자 주식회사 단말의 모드 변경 방법 및 장치
WO2015026203A1 (en) 2013-08-23 2015-02-26 Samsung Electronics Co., Ltd. Mode switching method and apparatus of terminal
US9721383B1 (en) 2013-08-29 2017-08-01 Leap Motion, Inc. Predictive information for free space gesture control and communication
JP1505102S (zh) 2013-09-26 2017-08-07
US9881592B2 (en) 2013-10-08 2018-01-30 Nvidia Corporation Hardware overlay assignment
US10621276B2 (en) 2013-10-24 2020-04-14 Wmware, Inc. User interface virtualization for web applications
USD741318S1 (en) 2013-10-25 2015-10-20 Intel Corporation Electronic device with a window
US9996638B1 (en) 2013-10-31 2018-06-12 Leap Motion, Inc. Predictive information for free space gesture control and communication
USD731475S1 (en) 2013-11-01 2015-06-09 Hewlett-Packard Development Company, L.P. Computer
EP3063602B1 (en) 2013-11-01 2019-10-23 Intel Corporation Gaze-assisted touchscreen inputs
US8954884B1 (en) 2013-11-18 2015-02-10 Maestro Devices, LLC Navigation system for viewing an image data-stack in less time with less effort and less repetitive motions
USD746808S1 (en) 2013-12-09 2016-01-05 Google Inc. Notebook computer housing
WO2015094191A1 (en) 2013-12-17 2015-06-25 Intel Corporation Controlling vision correction using eye tracking and depth detection
US20140132514A1 (en) 2013-12-17 2014-05-15 Byron S. Kuzara Portable Electronic Device With Dual Opposing Displays
KR20150073378A (ko) 2013-12-23 2015-07-01 삼성전자주식회사 동작인식을 기반으로 하는 가상 입력장치의 사용자 인터페이스(ui)를 표시하는 장치 및 방법
WO2015117648A1 (en) 2014-02-05 2015-08-13 Fujitsu Technology Solutions Intellectual Property Gmbh Display device, computer system and method for managing the operating states of a computer system
GB2524473A (en) 2014-02-28 2015-09-30 Microsoft Technology Licensing Llc Controlling a computing-based device using gestures
TWD167526S (zh) 2014-03-19 2015-05-01 東芝股份有限公司 電腦
US10254178B2 (en) 2014-03-28 2019-04-09 Intel Corporation Ambient temperature estimation
USD813235S1 (en) 2014-06-25 2018-03-20 Sensel, Inc. Touch sensor typewriter keyboard
US9785447B2 (en) 2014-06-27 2017-10-10 Intel Corporation System standby emulation with fast resume
USD727314S1 (en) 2014-07-07 2015-04-21 Kabushiki Kaisha Toshiba Electronic computer
KR101659032B1 (ko) 2014-07-25 2016-09-23 엘지전자 주식회사 이동 단말기 및 그것의 제어방법
KR20160014915A (ko) 2014-07-30 2016-02-12 삼성전자주식회사 디스플레이장치 및 그 제어방법
US9841887B2 (en) 2014-08-27 2017-12-12 Apple Inc. Anchoring viewport
USD771684S1 (en) 2014-08-28 2016-11-15 Samsung Electronics Co., Ltd. Display screen or portion thereof with graphical user interface
JP1531213S (zh) 2014-09-04 2015-08-17
US9690340B2 (en) 2014-09-25 2017-06-27 Intel Corporation System and method for adaptive thermal and performance management in electronic devices
US20160116960A1 (en) 2014-10-24 2016-04-28 Ati Technologies Ulc Power management using external sensors and data
US9904775B2 (en) 2014-10-31 2018-02-27 The Toronto-Dominion Bank Systems and methods for authenticating user identity based on user-defined image data
US9936195B2 (en) 2014-11-06 2018-04-03 Intel Corporation Calibration for eye tracking systems
WO2016077385A1 (en) 2014-11-10 2016-05-19 Novi Security, Inc. Power-optimized security sensor
USD751062S1 (en) 2014-12-05 2016-03-08 Shuttle Inc. Portable computer
US20160170617A1 (en) 2014-12-11 2016-06-16 Cisco Technology, Inc. Automatic active region zooming
US20160180762A1 (en) 2014-12-22 2016-06-23 Elwha Llc Systems, methods, and devices for controlling screen refresh rates
US20160179767A1 (en) 2014-12-22 2016-06-23 Prasanna Bhat Mavinakuli Architecture for an application with integrated dynamic content
USD788767S1 (en) 2014-12-26 2017-06-06 Intel Corporation Portable computing device
WO2016108439A1 (en) 2014-12-29 2016-07-07 Samsung Electronics Co., Ltd. Foldable device and method of controlling the same
US20160212317A1 (en) 2015-01-15 2016-07-21 Motorola Mobility Llc 3d ir illumination for iris authentication
US20160232701A1 (en) 2015-02-05 2016-08-11 Blackberry Limited Devices and methods for rendering graphics data
US9846471B1 (en) 2015-02-12 2017-12-19 Marvell International Ltd. Systems and methods for power management in devices
US10037100B2 (en) 2015-03-02 2018-07-31 Apple Inc. SNR-aware active mode touch scans with electrode reallocation
US10101817B2 (en) 2015-03-03 2018-10-16 Intel Corporation Display interaction detection
USD801945S1 (en) 2015-03-06 2017-11-07 Samsung Display Co., Ltd. Mobile phone
US20160297362A1 (en) 2015-04-09 2016-10-13 Ford Global Technologies, Llc Vehicle exterior side-camera systems and methods
KR102353218B1 (ko) 2015-07-15 2022-01-20 삼성디스플레이 주식회사 표시 장치 및 그것의 구동 방법
JP6259790B2 (ja) * 2015-07-30 2018-01-10 株式会社オプティム ユーザ端末、画面共有方法及びユーザ端末用プログラム
US10990258B2 (en) 2015-08-04 2021-04-27 Google Llc Interactively presenting a visible portion of a rendering surface on a user device
JP2017054471A (ja) 2015-09-12 2017-03-16 レノボ・シンガポール・プライベート・リミテッド 携帯式電子機器、制御方法およびコンピュータ・プログラム
US20170085790A1 (en) 2015-09-23 2017-03-23 Microsoft Technology Licensing, Llc High-resolution imaging of regions of interest
USD769251S1 (en) 2015-09-25 2016-10-18 Getac Technology Corporation Detachable keyboard
US11194398B2 (en) 2015-09-26 2021-12-07 Intel Corporation Technologies for adaptive rendering using 3D sensors
US9792907B2 (en) 2015-11-24 2017-10-17 Intel IP Corporation Low resource key phrase detection for wake on voice
US9785234B2 (en) 2015-12-26 2017-10-10 Intel Corporation Analysis of ambient light for gaze tracking
USD814469S1 (en) 2016-01-05 2018-04-03 Pt Phototechnics Ag Touchpad
US20170219240A1 (en) 2016-02-03 2017-08-03 Avaya Inc. Method and apparatus for a fan auto adaptive noise
USD794027S1 (en) 2016-03-02 2017-08-08 Ironburg Inventions Ltd. Games controller
USD780760S1 (en) 2016-03-02 2017-03-07 Ironburg Inventions Ltd. Games controller
US10620786B2 (en) 2016-03-07 2020-04-14 Intel Corporation Technologies for event notification interface management
KR20170109408A (ko) 2016-03-21 2017-09-29 삼성전자주식회사 전자 장치 및 전자 장치 제어 방법
US10119666B2 (en) 2016-05-04 2018-11-06 Intel Corporation Display backlighting using ambient light
WO2017197620A1 (en) 2016-05-19 2017-11-23 Intel Corporation Detection of humans in images using depth information
US11232316B2 (en) 2016-06-28 2022-01-25 Intel Corporation Iris or other body part identification on a computing device
KR20230133940A (ko) 2016-07-25 2023-09-19 매직 립, 인코포레이티드 증강 현실 및 가상 현실 안경류를 사용한 이미징 수정, 디스플레이 및 시각화
JP1575920S (zh) 2016-07-29 2017-05-08
US10769635B2 (en) 2016-08-05 2020-09-08 Nok Nok Labs, Inc. Authentication techniques including speech and/or lip movement analysis
EP4443317A2 (en) 2016-08-19 2024-10-09 Samsung Electronics Co., Ltd Foldable device and method of controlling the same
KR102491564B1 (ko) 2016-09-12 2023-01-26 삼성전자 주식회사 플렉서블 디스플레이를 포함하는 접을 수 있는 전자 장치
US10415286B1 (en) 2016-09-20 2019-09-17 Apple Inc. Hinge with feedback
USD803946S1 (en) 2016-10-06 2017-11-28 Go Matsuda Grip
USD825435S1 (en) 2016-11-14 2018-08-14 Honda Motor Co., Ltd. Touch pad
US20180136719A1 (en) 2016-11-16 2018-05-17 Wuhan China Star Optoelectronics Technology Co., Ltd. Image brightness adjusting method and image brightness adjusting device
US10027662B1 (en) 2016-12-06 2018-07-17 Amazon Technologies, Inc. Dynamic user authentication
US10372260B2 (en) 2016-12-12 2019-08-06 Microsoft Technology Licensing, Llc Apparatus and method of adjusting power mode of a display of a device
JP6795387B2 (ja) 2016-12-14 2020-12-02 パナソニック株式会社 音声対話装置、音声対話方法、音声対話プログラム及びロボット
JP1577368S (zh) 2016-12-28 2017-05-29
US20180189547A1 (en) 2016-12-30 2018-07-05 Intel Corporation Biometric identification system
US10545534B2 (en) 2016-12-31 2020-01-28 Lenovo (Singapore) Pte. Ltd. Multiple display device
US10324525B2 (en) 2016-12-31 2019-06-18 Intel Corporation Context aware selective backlighting techniques
US11042174B2 (en) 2017-02-03 2021-06-22 Qualcomm Incorporated System and method for thermal management of a wearable computing device based on proximity to a user
USD816083S1 (en) 2017-02-27 2018-04-24 Lu Xue Wu Game controller
US10262599B2 (en) 2017-03-24 2019-04-16 Intel Corporation Display backlight brightness adjustment
USD823850S1 (en) 2017-04-12 2018-07-24 Samsung Electronics Co., Ltd. Laptop computer
US10304209B2 (en) 2017-04-19 2019-05-28 The Nielsen Company (Us), Llc Methods and systems to increase accuracy of eye tracking
US20180321731A1 (en) 2017-05-04 2018-11-08 Dell Products, Lp System and method for heuristics based user presence detection for power management
CN107272872B (zh) 2017-05-31 2020-01-21 Oppo广东移动通信有限公司 省电控制方法及相关产品
US10423212B2 (en) 2017-06-02 2019-09-24 Apple Inc. Techniques for adjusting computing device sleep states using onboard sensors and learned user behaviors
US11249516B2 (en) 2017-06-27 2022-02-15 Lenovo (Singapore) Pte. Ltd. Multiple display device with rotating display
KR102417002B1 (ko) 2017-06-28 2022-07-05 삼성전자 주식회사 두 개의 디스플레이를 구비하는 전자 장치 및 이의 화면 운용 방법
EP3574388B1 (en) 2017-07-25 2024-02-07 Hewlett-Packard Development Company, L.P. Determining user presence based on sensed distance
US11030289B2 (en) 2017-07-31 2021-06-08 Stmicroelectronics, Inc. Human presence detection
USD886112S1 (en) 2017-10-23 2020-06-02 Compal Electronics, Inc. Docking station with keyboard
US10901462B2 (en) 2017-10-26 2021-01-26 Samsung Electronics Co., Ltd. System and method for touch input
US11467650B2 (en) 2017-11-21 2022-10-11 Advanced Micro Devices, Inc. Selecting a low power state in an electronic device
USD879777S1 (en) 2017-12-11 2020-03-31 Innopresso, Inc. Keyboard
US10922395B2 (en) * 2018-01-05 2021-02-16 Stmicroelectronics, Inc. Facial authentication systems and methods utilizing time of flight sensing
USD867460S1 (en) 2018-01-09 2019-11-19 Intel Corporation Game controller having a game controller touchpad
US10499540B2 (en) 2018-01-31 2019-12-03 Dell Products L.P. Systems and methods for detecting impeded cooling air flow for information handling system chassis enclosures
KR102568686B1 (ko) 2018-02-09 2023-08-23 삼성전자주식회사 컨텍스트 허브를 포함하는 모바일 장치 및 그것의 동작 방법
US10657237B2 (en) * 2018-02-17 2020-05-19 Motorola Mobility Llc Methods and systems for electronic device concealed monitoring
GB2571395B (en) 2018-02-23 2020-06-03 Cirrus Logic Int Semiconductor Ltd A method and system for an electronic device
US10725510B2 (en) 2018-03-16 2020-07-28 Microsoft Technology Licensing, Llc Device configuration-based thermal management control
CN108520728B (zh) 2018-04-20 2020-08-04 京东方科技集团股份有限公司 背光调节方法、装置、计算设备、显示设备和存储介质
CN112272819B (zh) 2018-06-05 2024-04-26 三星电子株式会社 被动唤醒用户交互设备的方法和系统
US10755077B2 (en) * 2018-07-18 2020-08-25 Motorola Mobility Llc Fingerprint authentication based on fingerprint imager orientation
US10852791B2 (en) 2018-07-28 2020-12-01 Microsoft Technology Licensing, Llc Optimized touch temperature thermal management
USD878475S1 (en) 2018-08-08 2020-03-17 Logitech Europe, S.A. Gaming controller
US10551888B1 (en) 2018-08-13 2020-02-04 Dell Products L.P. Skin transition thermal control for convertible information handling systems
US10788880B2 (en) 2018-10-22 2020-09-29 Google Llc Smartphone-based radar system for determining user intention in a lower-power mode
WO2020117189A1 (en) * 2018-12-03 2020-06-11 Hewlett-Packard Development Company, L.P. Sensing audio information and footsteps to control power
US11031005B2 (en) 2018-12-17 2021-06-08 Intel Corporation Continuous topic detection and adaption in audio environments
USD914021S1 (en) 2018-12-18 2021-03-23 Intel Corporation Touchpad display screen for computing device
USD873835S1 (en) 2018-12-21 2020-01-28 Kung CHAN Keyboard
US10721408B1 (en) 2018-12-26 2020-07-21 Himax Imaging Limited Automatic exposure imaging system and method
WO2020142471A1 (en) * 2018-12-30 2020-07-09 Sang Chul Kwon Foldable mobile phone
WO2020163865A1 (en) * 2019-02-08 2020-08-13 Carmignani Andrea Authentication processing service
DE112019007085T5 (de) 2019-03-27 2022-01-20 Intel Corporation Intelligente Anzeigetafeleinrichtung und verwandte Verfahren
US11009936B2 (en) 2019-05-02 2021-05-18 Dell Products L.P. Information handling system power control sensor
US10819920B1 (en) 2019-05-22 2020-10-27 Dell Products L.P. Augmented information handling system user presence detection
US11379016B2 (en) 2019-05-23 2022-07-05 Intel Corporation Methods and apparatus to operate closed-lid portable computers
US10768724B1 (en) 2019-06-03 2020-09-08 Evga Corporation Mouse device and computer control system thereof
CN112115444B (zh) * 2019-06-21 2022-08-26 华为技术有限公司 一种解锁方法及电子设备
JP7292437B2 (ja) 2019-07-26 2023-06-16 グーグル エルエルシー Imuおよびレーダーに基づいて状態を下げること
US11448747B2 (en) 2019-09-26 2022-09-20 Apple Inc. Time-of-flight determination of user intent
US11543873B2 (en) 2019-09-27 2023-01-03 Intel Corporation Wake-on-touch display screen devices and related methods
US11733761B2 (en) 2019-11-11 2023-08-22 Intel Corporation Methods and apparatus to manage power and performance of computing devices based on user presence
US11360528B2 (en) 2019-12-27 2022-06-14 Intel Corporation Apparatus and methods for thermal management of electronic user devices based on user activity
US11334146B2 (en) 2020-01-31 2022-05-17 Dell Products L.P. Information handling system peripheral enhanced user presence detection
WO2021258395A1 (en) 2020-06-26 2021-12-30 Intel Corporation Methods, systems, articles of manufacture, and apparatus to dynamically schedule a wake pattern in a computing system
US20210109585A1 (en) 2020-12-21 2021-04-15 Intel Corporation Methods and apparatus to improve user experience on computing devices

Also Published As

Publication number Publication date
US11809535B2 (en) 2023-11-07
EP3842971A1 (en) 2021-06-30
US20200134151A1 (en) 2020-04-30
US20230376582A1 (en) 2023-11-23

Similar Documents

Publication Publication Date Title
US11809535B2 (en) Systems and methods for multi-modal user device authentication
US11662797B2 (en) Techniques for adjusting computing device sleep states
US11543873B2 (en) Wake-on-touch display screen devices and related methods
US10671231B2 (en) Electromagnetic interference signal detection
CN110291489B (zh) 计算上高效的人类标识智能助理计算机
US9256269B2 (en) Speech recognition system for performing analysis to a non-tactile inputs and generating confidence scores and based on the confidence scores transitioning the system from a first power state to a second power state
US10219222B2 (en) Adjusting mobile device state based on user intentions and/or identity
US10141929B2 (en) Processing electromagnetic interference signal using machine learning
US20210318743A1 (en) Sensing audio information and footsteps to control power
KR102339819B1 (ko) 프레임워크를 이용한 자연어 표현 생성 방법 및 장치
EP3646318B1 (en) Electronic device and system for deciding duration of receiving voice input based on context information
KR102421824B1 (ko) 외부 장치를 이용하여 음성 기반 서비스를 제공하기 위한 전자 장치, 외부 장치 및 그의 동작 방법
US10101869B2 (en) Identifying device associated with touch event
KR102391298B1 (ko) 음성 인식 서비스를 제공하는 전자 장치 및 그 방법
EP3335099B1 (en) Electromagnetic interference signal detection
KR20190090424A (ko) 사용자 발화 응답 방법 및 이를 지원하는 전자 장치
KR102369309B1 (ko) 파셜 랜딩 후 사용자 입력에 따른 동작을 수행하는 전자 장치
US11687164B2 (en) Modeling of preprogrammed scenario data of a gesture-based, access control system
US11430277B2 (en) Seamless access control system using wearables
KR102511517B1 (ko) 음성 입력 처리 방법 및 이를 지원하는 전자 장치
KR102396147B1 (ko) 음성 명령을 이용한 동작을 수행하는 전자 장치 및 전자 장치의 동작 방법
WO2023006033A1 (zh) 语音交互方法、电子设备及介质
KR102612835B1 (ko) 전자 장치 및 전자 장치의 기능 실행 방법
CN118295274A (zh) 电器控制方法、装置、设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination