CN112368674B - 使用注视信息的设备控制 - Google Patents

使用注视信息的设备控制 Download PDF

Info

Publication number
CN112368674B
CN112368674B CN201980041865.3A CN201980041865A CN112368674B CN 112368674 B CN112368674 B CN 112368674B CN 201980041865 A CN201980041865 A CN 201980041865A CN 112368674 B CN112368674 B CN 112368674B
Authority
CN
China
Prior art keywords
electronic device
user
digital assistant
audio
gaze
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201980041865.3A
Other languages
English (en)
Other versions
CN112368674A (zh
Inventor
S·B·凯利
F·巴西姆德阿罗约埃希尔瓦
K·巴克
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
Apple Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Apple Inc filed Critical Apple Inc
Priority to CN202211323860.XA priority Critical patent/CN115543170A/zh
Publication of CN112368674A publication Critical patent/CN112368674A/zh
Application granted granted Critical
Publication of CN112368674B publication Critical patent/CN112368674B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012—Head tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847—Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/163—Wearable computers, e.g. on a belt
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038—Indexing scheme relating to G06F3/038
    • G06F2203/0381—Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223—Execution procedure of a spoken command
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72415—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories for remote control of appliances

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)
  • Traffic Control Systems (AREA)

Abstract

本公开总体涉及控制电子设备。在一些示例中，所述电子设备使用注视信息来激活数字助理。在一些示例中，所述电子设备使用注视信息来识别要操作的外部设备。在一些示例中，所述电子设备提供区分不同讲话者的指示。

Description

使用注视信息的设备控制
相关申请的交叉引用
本专利申请要求2018年9月28日提交的名称为“DEVICE CONTROL USING GAZEINFORMATION”(使用注视信息的设备控制)的美国临时专利申请No.62/739,087的优先权，该临时专利申请的内容据此全文以引用方式并入本文。
技术领域
本公开整体涉及计算机用户界面，并且更具体地涉及用于使用注视信息控制电子设备的技术。
背景技术
用户经常提供输入诸如按键和语音输入，以控制电子设备。例如，用户激活设备的按钮或说出触发短语以启动设备上的应用程序。此类输入经常要求用户在手臂可触及范围内或麦克风范围内。
智能自动化助理(或数字助理)可在人类用户与电子设备之间提供有利界面。此类助理可允许用户使用自然语言以语音形式和/或文本形式与设备或系统进行交互。例如，用户可向正在电子设备上运行的数字助理提供包含用户请求的语音输入。数字助理可从该语音输入解译用户意图，将用户意图操作化成任务并且执行该任务。在一些系统中，以这种方式执行任务可以以识别任务的方式受到约束。然而，在一些情况下，用户可能受限于特定的一组命令，使得用户不能容易地指示数字助理使用自然语言语音输入来执行任务。此外，在许多情况下，数字助理无法基于先前的用户行为进行调整，继而缺乏用户体验的期望优化。
发明内容
然而，用于控制电子设备的一些技术通常很麻烦而且效率低下。例如，一些现有技术使用复杂且耗时的用户界面，该用户界面可包括多次按键或击键。又如，一些现有技术要求用户位于手臂的距离内以激活设备的按钮。现有技术需要比所需更多的时间，这导致浪费用户的时间和设备能量。这后一考虑在电池驱动的设备中是特别重要的。
因此，本技术向电子设备提供了用于控制电子设备的更快、更高效的方法和界面。此类方法和界面任选地补充或替换用于控制电子设备的其他方法。此类方法和界面减少对用户所造成的认知负担，并且产生更有效的人机界面。对于电池驱动的计算设备，此类方法和界面节省功率，并且增大电池充电之间的时间间隔。此类技术还允许用户在用户不位于可触及电子设备的距离内和/或用户在嘈杂环境(例如，包括基于由电子设备产生的音频的噪声)中更有效地与电子设备进行交互。
根据一些实施方案，提供了一种方法。在电子设备处执行该方法。该方法包括：当电子设备的数字助理未被激活时：使用一个或多个相机传感器获取第一注视信息；以及根据确定第一注视信息满足一组一个或多个激活标准：激活电子设备的数字助理；以及提供已满足该组一个或多个激活标准的指示。
根据一些实施方案，提供了一种非暂态计算机可读存储介质。该介质存储被配置为由电子设备的一个或多个处理器执行的一个或多个程序。该一个或多个程序包括用于执行以下操作的指令：当电子设备的数字助理未被激活时：使用一个或多个相机传感器获取第一注视信息；以及根据确定第一注视信息满足一组一个或多个激活标准：激活电子设备的数字助理；以及提供已满足该组一个或多个激活标准的指示。
根据一些实施方案，提供了一种暂态计算机可读存储介质。该介质存储被配置为由电子设备的一个或多个处理器执行的一个或多个程序。该一个或多个程序包括用于执行以下操作的指令：当电子设备的数字助理未被激活时：使用一个或多个相机传感器获取第一注视信息；以及根据确定第一注视信息满足一组一个或多个激活标准：激活电子设备的数字助理；以及提供已满足该组一个或多个激活标准的指示。
根据一些实施方案，提供了一种电子设备。该电子设备包括：一个或多个处理器；和存储器，该存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序，该一个或多个程序包括用于执行以下操作的指令：当电子设备的数字助理未被激活时：使用一个或多个相机传感器获取第一注视信息；以及根据确定第一注视信息满足一组一个或多个激活标准：激活电子设备的数字助理；以及提供已满足该组一个或多个激活标准的指示。
根据一些实施方案，提供了一种电子设备。该电子设备包括：用于当电子设备的数字助理未被激活时使用一个或多个相机传感器获取第一注视信息的装置；以及用于根据确定第一注视信息满足一组一个或多个激活标准而执行以下操作的装置：激活电子设备的数字助理；以及提供已满足该组一个或多个激活标准的指示。
根据一些实施方案，提供了一种方法。在电子设备处执行该方法。该方法包括：当第一外部设备处于第一状态时：接收执行第一命令的音频用户输入请求；以及使用一个或多个相机传感器获取第一注视信息；以及根据使用第一注视信息确定一组一个或多个注视标准针对第一外部设备被满足：基于第一命令来传输将第一外部设备从第一状态转变到第二状态的指令。
根据一些实施方案，提供了一种非暂态计算机可读存储介质。该介质存储被配置为由电子设备的一个或多个处理器执行的一个或多个程序。该一个或多个程序包括用于执行以下操作的指令：当第一外部设备处于第一状态时：接收执行第一命令的音频用户输入请求；以及使用一个或多个相机传感器获取第一注视信息；以及根据使用第一注视信息确定一组一个或多个注视标准针对第一外部设备被满足：基于第一命令来传输将第一外部设备从第一状态转变到第二状态的指令。
根据一些实施方案，提供了一种暂态计算机可读存储介质。该介质存储被配置为由电子设备的一个或多个处理器执行的一个或多个程序。该一个或多个程序包括用于执行以下操作的指令：当第一外部设备处于第一状态时：接收执行第一命令的音频用户输入请求；以及使用一个或多个相机传感器获取第一注视信息；以及根据使用第一注视信息确定一组一个或多个注视标准针对第一外部设备被满足：基于第一命令来传输将第一外部设备从第一状态转变到第二状态的指令。
根据一些实施方案，提供了一种电子设备。该电子设备包括：一个或多个处理器；和存储器，该存储器存储被配置为由一个或多个处理器执行的一个或多个程序，该一个或多个程序包括用于执行以下操作的指令：当第一外部设备处于第一状态时：接收执行第一命令的音频用户输入请求；以及使用一个或多个相机传感器获取第一注视信息；以及根据使用第一注视信息确定一组一个或多个注视标准针对第一外部设备被满足：基于第一命令来传输将第一外部设备从第一状态转变到第二状态的指令。
根据一些实施方案，提供了一种电子设备。该电子设备包括：用于当第一外部设备处于第一状态时执行以下操作的装置：接收执行第一命令的音频用户输入请求；以及使用一个或多个相机传感器获取第一注视信息；以及用于根据使用第一注视信息确定一组一个或多个注视标准针对第一外部设备被满足而执行以下操作的装置：基于第一命令来传输将第一外部设备从第一状态转变到第二状态的指令。
根据一些实施方案，提供了一种方法。在电子设备处执行该方法。该方法包括：接收音频用户输入请求；根据确定所述音频用户输入请求对应于第一用户，将指示符的特征的值更新为对应于所述第一用户的第一值；根据确定所述音频用户输入请求对应于不同于所述第一用户的第二用户，将所述指示符的所述特征的所述值更新为对应于所述第二用户的第二值，其中所述第二值不同于所述第一值；以及使用指示符对音频用户输入请求作出响应，其中该指示符包括特征的所更新的值。
根据一些实施方案，提供了一种非暂态计算机可读存储介质。该介质存储被配置为由电子设备的一个或多个处理器执行的一个或多个程序。该一个或多个程序包括用于执行以下操作的指令：接收音频用户输入请求；根据确定所述音频用户输入请求对应于第一用户，将指示符的特征的值更新为对应于所述第一用户的第一值；根据确定所述音频用户输入请求对应于不同于所述第一用户的第二用户，将所述指示符的所述特征的所述值更新为对应于所述第二用户的第二值，其中所述第二值不同于所述第一值；以及使用指示符对音频用户输入请求作出响应，其中该指示符包括特征的所更新的值。
根据一些实施方案，提供了一种暂态计算机可读存储介质。该介质存储被配置为由电子设备的一个或多个处理器执行的一个或多个程序。该一个或多个程序包括用于执行以下操作的指令：接收音频用户输入请求；根据确定所述音频用户输入请求对应于第一用户，将指示符的特征的值更新为对应于所述第一用户的第一值；根据确定所述音频用户输入请求对应于不同于所述第一用户的第二用户，将所述指示符的所述特征的所述值更新为对应于所述第二用户的第二值，其中所述第二值不同于所述第一值；以及使用指示符对音频用户输入请求作出响应，其中该指示符包括特征的所更新的值。
根据一些实施方案，提供了一种电子设备。该电子设备包括：一个或多个处理器；和存储器，该存储器存储被配置为由一个或多个处理器执行的一个或多个程序，该一个或多个程序包括用于执行以下操作的指令：接收音频用户输入请求；根据确定所述音频用户输入请求对应于第一用户，将指示符的特征的值更新为对应于所述第一用户的第一值；根据确定所述音频用户输入请求对应于不同于所述第一用户的第二用户，将所述指示符的所述特征的所述值更新为对应于所述第二用户的第二值，其中所述第二值不同于所述第一值；以及使用指示符对音频用户输入请求作出响应，其中该指示符包括特征的所更新的值。
根据一些实施方案，提供了一种电子设备。该电子设备包括：用于接收音频用户输入请求的装置；用于根据确定所述音频用户输入请求对应于第一用户而将指示符的特征的值更新为对应于所述第一用户的第一值的装置；用于根据确定所述音频用户输入请求对应于不同于所述第一用户的第二用户而将所述指示符的所述特征的所述值更新为对应于所述第二用户的第二值的装置，所述第二值不同于所述第一值；以及用于使用指示符对音频用户输入请求作出响应的装置，其中该指示符包括特征的所更新的值。
用于执行这些功能的可执行指令可选地被包括在被配置用于由一个或多个处理器执行的非暂态计算机可读存储介质或其他计算机程序产品中。用于执行这些功能的可执行指令可选地被包括在被配置用于由一个或多个处理器执行的暂态计算机可读存储介质或其他计算机程序产品中。
因此，向设备提供了更快、更高效的方法和界面以用于控制电子设备，从而提高了此类设备的有效性、效率和用户满意度。此类方法和界面可补充或替换用于控制电子设备的其他方法。
附图说明
为了更好地理解各种所述实施方案，应结合以下附图参考下面的具体实施方式，其中类似的附图标号在所有附图中指示对应的部分。
图1A是示出了根据一些实施方案的具有触敏显示器的便携式多功能设备的框图。
图1B是示出根据一些实施方案的用于事件处理的示例性部件的框图。
图1C是示出了根据一些实施方案的用于实现数字助理的系统和环境的框图。
图2示出了根据一些实施方案的具有触摸屏的便携式多功能设备。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。
图4A示出了根据一些实施方案的针对便携式多功能设备上应用程序的菜单的示例性用户界面。
图4B示出了根据一些实施方案的针对具有与显示器分开的触敏表面的多功能设备的示例性用户界面。
图5A示出了根据一些实施方案的个人电子设备。
图5B是示出了根据一些实施方案的个人电子设备的框图。
图6A至图6O示出了用于使用注视信息来激活数字助理的示例性技术。
图7A至图7B是示出用于使用注视信息来激活数字助理的方法的流程图。
图8A至图8L示出了用于使用注视信息向命令提供环境情况的示例性技术。
图9A至图9B是示出用于使用注视信息向命令提供环境情况的方法的流程图。
图10A至图10D示出了用于提供区分不同讲话者的指示的示例性技术。
图11A至图11B是示出了用于提供区分不同讲话者的指示的方法的流程图。
具体实施方式
以下描述阐述了示例性方法、参数等。然而，应当认识到，此类描述并非意在限制本公开的范围，而是作为对示例性实施方案的描述来提供。
需要提供用于控制电子设备的高效的方法和界面的电子设备。例如，消除或减少用户提供触觉或言语输入以激活数字助理的需要使得用户能够更有效地控制电子设备。又如，通过用户的注视来识别外部设备消除或减少了提供复杂并且耗时的用户输入以识别此类设备的需要。此类技术可减轻控制电子设备的用户的认知负担，从而提高生产率。此外，此类技术可减少以其他方式浪费在冗余用户输入上的处理器功率和电池功率。
下面，图1A至图1C、图2、图3、图4A至图4B和图5A至图5B提供了对用于执行用于控制电子设备的技术的示例性设备的描述。图6A至图6O示出了用于使用注视信息来激活数字助理的示例性用户界面。图7A至图7B是示出了根据一些实施方案的使用注视信息来激活数字助理的方法的流程图。图6A至图6O中的用户界面用于示出下文所述的过程，包括图7A至图7B中的过程。图8A至图8L示出了用于使用注视信息向命令提供环境情况的示例性用户界面。图9A至图9B是示出了根据一些实施方案的用于使用注视信息向命令提供环境情况的方法的流程图。图8A至图8L中的用户界面用于示出下文所述的过程，包括图9A至图9B中的过程。图10A至图10D示出了用于提供区分不同讲话者的指示的示例性用户界面。图11A至图11B是示出根据一些实施方案的用于提供区分不同讲话者的指示的方法的流程图。图10A至图10D中的用户界面用于示出下文所述的过程，包括图11A至图11B中的过程。
尽管以下描述使用术语“第一”、“第二”等来描述各种元件，但这些元件不应受术语的限制。这些术语只是用于将一个元件与另一元件区分开。例如，第一触摸可被命名为第二触摸并且类似地第二触摸可被命名为第一触摸，而不脱离各种所述实施方案的范围。第一触摸和第二触摸两者均为触摸，但是它们不是同一触摸。
在本文中对各种所述实施方案的描述中所使用的术语只是为了描述特定实施方案的目的，而并非旨在进行限制。如在对各种所述实施方案中的描述和所附权利要求书中所使用的那样，单数形式“一个”和“该”旨在也包括复数形式，除非上下文另外明确地指示。还将理解的是，本文中所使用的术语“和/或”是指并且涵盖相关联的所列出的项目中的一个或多个项目的任何和全部可能的组合。还将理解的是，术语“包括”(“includes”、“including”、“comprises”和/或“comprising”)在本说明书中使用时是指定存在所陈述的特征、整数、步骤、操作、元件和/或部件，但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、部件和/或其分组。
根据上下文，术语“如果”任选地被解释为意指“当……时”、“在……时”或“响应于确定”或“响应于检测到”。类似地，根据上下文，短语“如果确定……”或“如果检测到[所陈述的条件或事件]”任选地被解释为是指“在确定……时”或“响应于确定……”或“在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。
本文描述了电子设备、此类设备的用户界面和使用此类设备的相关过程的实施方案。在一些实施方案中，该设备为还包含其他功能诸如PDA和/或音乐播放器功能的便携式通信设备，诸如移动电话。便携式多功能设备的示例性实施方案包括但不限于来自AppleInc.(Cupertino,California)的
Figure BDA0002849855860000081
设备、iPod
Figure BDA0002849855860000082
设备、和
Figure BDA0002849855860000083
设备。任选地使用其他便携式电子设备，诸如具有触敏表面(例如，触摸屏显示器和/或触控板)的膝上型电脑或平板电脑。还应当理解的是，在一些实施方案中，该设备并非便携式通信设备，而是具有触敏表面(例如，触摸屏显示器和/或触控板)的台式计算机。
在下面的讨论中，描述了一种包括显示器和触敏表面的电子设备。然而，应当理解，该电子设备任选地包括一个或多个其他物理用户界面设备，诸如物理键盘、鼠标和/或操纵杆。
该设备通常支持各种应用程序，诸如以下中的一者或多者：绘图应用程序、呈现应用程序、文字处理应用程序、网站创建应用程序、盘编辑应用程序、电子表格应用程序、游戏应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息应用程序、健身支持应用程序、照片管理应用程序、数字相机应用程序、数字视频摄像机应用程序、网页浏览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。
在设备上执行的各种应用程序任选地使用至少一个通用的物理用户界面设备，诸如触敏表面。触敏表面的一种或多种功能以及被显示在设备上的对应信息任选地对于不同应用程序被调整和/或变化，和/或在相应应用程序内被调整和/或变化。这样，设备的共用物理架构(诸如触敏表面)任选地利用对于用户而言直观且清楚的用户界面来支持各种应用程序。
现在将注意力转到具有触敏显示器的便携式设备的实施方案。图1A是示出了根据一些实施方案的具有触敏显示器系统112的便携式多功能设备100的框图。触敏显示器112有时为了方便被叫做“触摸屏”，并且有时被称为或被叫做“触敏显示器系统”。设备100包括存储器102(其任选地包括一个或多个计算机可读存储介质)、存储器控制器122、一个或多个处理单元(CPU)120、外围设备接口118、RF电路108、音频电路110、扬声器111、麦克风113、输入/输出(I/O)子系统106、其他输入控制设备116和外部端口124。设备100任选地包括一个或多个光学传感器164。设备100任选地包括用于检测设备100(例如，触敏表面，诸如设备100的触敏显示器系统112)上的接触的强度的一个或多个接触强度传感器165。设备100任选地包括用于在设备100上生成触觉输出的一个或多个触觉输出发生器167(例如，在触敏表面诸如设备100的触敏显示器系统112或设备300的触控板355上生成触觉输出)。这些部件任选地通过一个或多个通信总线或信号线103进行通信。
如在本说明书和权利要求书中所使用的，术语触敏表面上的接触的“强度”是指触敏表面上的接触(例如，手指接触)的力或压力(每单位面积的力)，或是指触敏表面上的接触的力或压力的替代物(代用物)。接触的强度具有值范围，该值范围包括至少四个不同的值并且更典型地包括上百个不同的值(例如，至少256个)。接触的强度任选地使用各种方法和各种传感器或传感器的组合来确定(或测量)。例如，在触敏表面下方或相邻于触敏表面的一个或多个力传感器任选地用于测量触敏表面上的不同点处的力。在一些具体实施中，来自多个力传感器的力测量值被组合(例如，加权平均)以确定所估计的接触力。类似地，触笔的压敏顶端任选地用于确定触笔在触敏表面上的压力。另选地，在触敏表面上检测到的接触区域的大小和/或其变化、接触附近的触敏表面的电容和/或其变化以及/或者接触附近的触敏表面的电阻和/或其变化任选地被用作触敏表面上的接触的力或压力的替代物。在一些具体实施中，接触力或压力的替代物测量直接用于确定是否已经超过强度阈值(例如，强度阈值以对应于替代物测量的单位来描述)。在一些具体实施中，接触力或压力的替代物测量被转换成估计的力或压力，并且估计的力或压力用于确定是否已超过强度阈值(例如，强度阈值是以压力的单位进行测量的压力阈值)。使用接触的强度作为用户输入的属性，从而允许用户访问用户在实地面积有限的尺寸更小的设备上本来不可访问的附加设备功能，该尺寸更小的设备用于(例如，在触敏显示器上)显示示能表示和/或接收用户输入(例如，经由触敏显示器、触敏表面或物理控件/机械控件，诸如旋钮或按钮)。
如本说明书和权利要求书中所使用的，术语“触觉输出”是指将由用户利用用户的触感检测到的设备相对于设备的先前位置的物理位移、设备的部件(例如，触敏表面)相对于设备的另一个部件(例如，外壳)的物理位移、或部件相对于设备的质心的位移。例如，在设备或设备的部件与用户对触摸敏感的表面(例如，手指、手掌或用户手部的其他部分)接触的情况下，通过物理位移生成的触觉输出将由用户解释为触感，该触感对应于设备或设备的部件的物理特征的所感知的变化。例如，触敏表面(例如，触敏显示器或触控板)的移动任选地由用户解释为对物理致动按钮的“按下点击”或“松开点击”。在一些情况下，用户将感觉到触感，诸如“按下点击”或“松开点击”，即使在通过用户的移动而物理地被按压(例如，被移位)的与触敏表面相关联的物理致动按钮没有移动时。又如，即使在触敏表面的光滑度无变化时，触敏表面的移动也会任选地由用户解释或感测为触敏表面的“粗糙度”。虽然用户对触摸的此类解释将受到用户的个体化感官知觉的限制，但是对触摸的许多感官知觉是大多数用户共有的。因此，当触觉输出被描述为对应于用户的特定感官知觉(例如，“按下点击”、“松开点击”、“粗糙度”)时，除非另外陈述，否则所生成的触觉输出对应于设备或其部件的物理位移，该物理位移将会生成典型(或普通)用户的所述感官知觉。
应当理解，设备100仅是便携式多功能设备的一个示例，并且设备100任选地具有比所示出的更多或更少的部件，任选地组合两个或更多个部件，或者任选地具有这些部件的不同配置或布置。图1A中所示的各种部件以硬件、软件、或硬件与软件两者的组合来实现，包括一个或多个信号处理和/或专用集成电路。
存储器102任选地包括高速随机存取存储器，并且还任选地包括非易失性存储器，诸如一个或多个磁盘存储设备、闪存存储器设备、或其他非易失性固态存储器设备。存储器控制器122任选地控制设备100的其他部件访问存储器102。
外围设备接口118可用于将设备的输入外围设备和输出外围设备耦接到CPU 120和存储器102。一个或多个处理器120运行或执行存储器102中所存储的各种软件程序和/或指令集以执行设备100的各种功能并处理数据。在一些实施方案中，外围设备接口118、CPU120和存储器控制器122任选地被实现在单个芯片诸如芯片104上。在一些其他实施方案中，它们任选地在独立的芯片上实现。
RF(射频)电路108接收和发送也被称作电磁信号的RF信号。RF电路108将电信号转换为电磁信号/将电磁信号转换为电信号，并且经由电磁信号与通信网络及其他通信设备进行通信。RF电路108任选地包括用于执行这些功能的熟知的电路，包括但不限于天线系统、RF收发器、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、编解码芯片组、用户身份模块(SIM)卡、存储器等等。RF电路108任选地通过无线通信来与网络和其他设备进行通信，这些网络为诸如互联网(也被称为万维网(WWW))、内联网和/或无线网络(诸如，蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))。RF电路108任选地包括用于检测近场通信(NFC)场的熟知的电路，诸如通过近程通信无线电部件来进行检测。无线通信任选地使用多种通信标准、协议和技术中的任一者，包括但不限于全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入(HSUPA)、演进、纯数据(EV-DO)、HSPA、HSPA+、双单元HSPA(DC-HSPDA)、长期演进(LTE)、近场通信(NFC)、宽带码分多址(W-CDMA)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、蓝牙低功耗(BTLE)、无线保真(Wi-Fi)(例如，IEEE 802.11a、IEEE 802.11b、IEEE 802.11g、IEEE802.11n和/或IEEE 802.11ac)、互联网协议语音(VoIP)、Wi-MAX、电子邮件协议(例如，互联网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如，可扩展消息处理和存在协议(XMPP)、用于即时消息和存在利用扩展的会话发起协议(SIMPLE)、即时消息和存在服务(IMPS))、和/或短消息服务(SMS)，或者包括在本文档提交日期时还未开发出的通信协议的任何其他适当的通信协议。
音频电路110、扬声器111和麦克风113提供用户与设备100之间的音频接口。音频电路110从外围设备接口118接收音频数据，将音频数据转换为电信号，并将电信号传输到扬声器111。扬声器111将电信号转换为人类可听到的声波。音频电路110还接收由麦克风113从声波转换的电信号。音频电路110将电信号转换为音频数据，并且将音频数据传输到外围设备接口118以用于处理。音频数据任选地由外围设备接口118检索自和/或传输至存储器102和/或RF电路108。在一些实施方案中，音频电路110还包括耳麦插孔(例如，图2中的212)。耳麦插孔提供音频电路110和可移除的音频输入/输出外围设备之间的接口，该可移除的音频输入/输出外围设备诸如仅输出的耳机或者具有输出(例如，单耳耳机或双耳耳机)和输入(例如，麦克风)两者的耳麦。
I/O子系统106将设备100上的输入/输出外围设备诸如触摸屏112和其他输入控制设备116耦接到外围设备接口118。I/O子系统106任选地包括显示控制器156、光学传感器控制器158、深度相机控制器169、强度传感器控制器159、触觉反馈控制器161，以及用于其他输入或控制设备的一个或多个输入控制器160。一个或多个输入控制器160从其他输入控制设备116接收电信号/将电信号发送到其他输入控制设备116。其他输入控制设备116任选地包括物理按钮(例如，下压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击式转盘等。在一些另选实施方案中，输入控制器160任选地耦接至以下各项中的任一者(或不耦接至以下各项中的任一者)：键盘、红外线端口、USB端口以及指向设备诸如鼠标。一个或多个按钮(例如，图2中的208)任选地包括用于扬声器111和/或麦克风113音量控制的增大/减小按钮。一个或多个按钮任选地包括下压按钮(例如，图2中的206)。
快速按下下压按钮任选地脱离触摸屏112的锁定或者任选地开始使用触摸屏上的手势来对设备进行解锁的过程，如在2005年12月23日提交的名称为“Unlocking a Deviceby Performing Gestures on an Unlock Image”的美国专利申请11/322,549(即，美国专利No.7,657,849)中所述的，该美国专利申请据此全文以引用方式并入本文。长按下压按钮(例如206)任选地使设备100开机或关机。一个或多个按钮的功能任选地为用户可定制的。触摸屏112用于实现虚拟按钮或软按钮以及一个或多个软键盘。
触敏显示器112提供设备和用户之间的输入接口和输出接口。显示控制器156从触摸屏112接收电信号和/或将电信号发送至该触摸屏。触摸屏112向用户显示视觉输出。视觉输出任选地包括图形、文本、图标、视频以及它们的任何组合(统称为“图形”)。在一些实施方案中，一些视觉输出或全部的视觉输出任选地与用户界面对象对应。
触摸屏112具有基于触觉和/或触感接触来接受来自用户的输入的触敏表面、传感器或传感器组。触摸屏112和显示控制器156(与存储器102中的任何相关联的模块和/或指令集一起)检测触摸屏112上的接触(和该接触的任何移动或中断)，并且将所检测到的接触转换为与被显示在触摸屏112上的用户界面对象(例如，一个或多个软键、图标、网页或图像)的交互。在示例性实施方案中，触摸屏112与用户之间的接触点对应于用户的手指。
触摸屏112任选地使用LCD(液晶显示器)技术、LPD(发光聚合物显示器)技术或LED(发光二极管)技术，但是在其他实施方案中使用其他显示技术。触摸屏112和显示控制器156任选地使用现在已知的或以后将开发出的多种触摸感测技术中的任何技术以及其他接近传感器阵列或用于确定与触摸屏112接触的一个或多个点的其他元件来检测接触及其任何移动或中断，该多种触摸感测技术包括但不限于电容性的、电阻性的、红外线的、和表面声波技术。在示例性实施方案中，使用投射式互电容感测技术，诸如在来自Apple Inc.(Cupertino,California)的
Figure BDA0002849855860000131
和iPod
Figure BDA0002849855860000132
中使用的技术。
触摸屏112的一些实施方案中的触敏显示器任选地类似于以下美国专利中描述的多点触敏触控板：6,323,846(Westerman等人)、6,570,557(Westerman等人)和/或6,677,932(Westerman等人)和/或美国专利公开2002/0015024A1，该每个专利据此全文以引用方式并入。然而，触摸屏112显示来自设备100的视觉输出，而触敏触控板不提供视觉输出。
在一些实施方案中，触摸屏112的触敏显示器如以下专利申请所述：(1)提交于2006年5月2日的名称为“Multipoint Touch Surface Controller”的美国专利申请No.11/381,313；(2)2004年5月6日提交的名称为“Multipoint Touchscreen”的美国专利申请No.10/840,862；(3)2004年7月30日提交的名称为“Gestures For Touch Sensitive InputDevices”的美国专利申请No.10/903,964；(4)2005年1月31日提交的名称为“Gestures ForTouch Sensitive Input Devices”的美国专利申请No.11/048,264；(5)2005年1月18日提交的名称为“Mode-Based Graphical User Interfaces For Touch Sensitive InputDevices”的美国专利申请No.11/038,590；(6)2005年9月16日提交的名称为“VirtualInput Device Placement On A Touch Screen User Interface”的美国专利申请No.11/228,758；(7)2005年9月16日提交的名称为“Operation Of A Computer With A TouchScreen Interface”的美国专利申请No.11/228,700；(8)2005年9月16日提交的名称为“Activating Virtual Keys Of A Touch-Screen Virtual Keyboard”的美国专利申请No.11/228,737；以及(9)2006年3月3日提交的名称为“Multi-Functional Hand-HeldDevice”的美国专利申请No.11/367,749。所有这些申请全文以引用方式并入本文。
触摸屏112任选地具有超过100dpi的视频分辨率。在一些实施方案中，触摸屏具有约160dpi的视频分辨率。用户任选地使用任何合适的物体或附加物诸如触笔、手指等等来与触摸屏112接触。在一些实施方案中，将用户界面设计为主要通过基于手指的接触和手势来工作，由于手指在触摸屏上的接触区域较大，因此这可能不如基于触笔的输入精确。在一些实施方案中，设备将基于手指的粗略输入转化为精确的指针/光标位置或命令以用于执行用户所期望的动作。
在一些实施方案中，除了触摸屏之外，设备100任选地包括用于激活或去激活特定功能的触控板。在一些实施方案中，触控板是设备的触敏区域，与触摸屏不同，该触敏区域不显示视觉输出。触控板任选地是与触摸屏112分开的触敏表面，或者是由触摸屏形成的触敏表面的延伸部分。
设备100还包括用于为各种部件供电的电力系统162。电力系统162任选地包括电力管理系统、一个或多个电源(例如，电池、交流电(AC))、再充电系统、电力故障检测电路、功率转换器或逆变器、电源状态指示符(例如，发光二极管(LED))以及与便携式设备中的电力的生成、管理和分配相关联的任何其他部件。
设备100任选地还包括一个或多个光学传感器164。图1A示出了耦接到I/O子系统106中的光学传感器控制器158的光学传感器。光学传感器164任选地包括电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)光电晶体管。光学传感器164从环境接收通过一个或多个透镜而投射的光，并且将光转换为表示图像的数据。结合成像模块143(也叫做相机模块)，光学传感器164任选地捕获静态图像或视频。在一些实施方案中，光学传感器位于设备100的后部上，与设备前部上的触摸屏显示器112相背对，使得触摸屏显示器能够用作用于静态图像和/或视频图像采集的取景器。在一些实施方案中，光学传感器位于设备的前部上，使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取该用户的图像以用于视频会议。在一些实施方案中，光学传感器164的位置可由用户改变(例如，通过旋转设备外壳中的透镜和传感器)，使得单个光学传感器164与触摸屏显示器一起使用，以用于视频会议和静态图像和/或视频图像采集两者。
设备100任选地还包括一个或多个深度相机传感器175。图1A示出了耦接到I/O子系统106中的深度相机控制器169的深度相机传感器。深度相机传感器175从环境接收数据以从视点(例如，深度相机传感器)创建场景内的对象(例如，面部)的三维模型。在一些实施方案中，与成像模块143(也称为相机模块)一起，深度相机传感器175任选地用于确定由成像模块143捕获的图像的不同部分的深度图。在一些实施方案中，深度相机传感器位于设备100的前部，使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取具有深度信息的用户图像以用于视频会议，并且捕捉具有深度图数据的自拍。在一些实施方案中，深度相机传感器175位于设备的后部，或者设备100的后部和前部。在一些实施方案中，深度相机传感器175的位置可由用户改变(例如，通过旋转设备外壳中的透镜和传感器)，使得深度相机传感器175与触摸屏显示器一起使用以用于视频会议和静态图像和/或视频图像采集两者。
在一些实施方案中，深度图(例如，深度图图像)包含与场景中的对象距视点(例如，相机、光学传感器、深度相机传感器)的距离相关的信息(例如，值)。在深度图的一个实施方案中，每个深度像素定义视点的Z轴中其对应的二维像素所在的位置。在一些实施方案中，深度图由像素组成，其中每个像素由值(例如，0到255)定义。例如，“0”值表示位于“三维”场景中距离视点(例如，相机、光学传感器、深度相机传感器)最远处的像素，“255”值表示位于“三维”场景中距离视点最近处的像素。在其他实施方案中，深度图表示场景中的对象与视点的平面之间的距离。在一些实施方案中，深度图包括关于深度相机的视野中感兴趣对象的各种特征的相对深度的信息(例如，用户面部的眼睛、鼻部、嘴部、耳朵的相对深度)。在一些实施方案中，深度图包括使设备能够确定感兴趣对象在z方向上的轮廓的信息。
设备100任选地还包括一个或多个接触强度传感器165。图1A示出了耦接到I/O子系统106中的强度传感器控制器159的接触强度传感器。接触强度传感器165任选地包括一个或多个压阻应变仪、电容式力传感器、电气力传感器、压电力传感器、光学力传感器、电容式触敏表面、或其他强度传感器(例如，用于测量触敏表面上的接触的力(或压力)的传感器)。接触强度传感器165从环境接收接触强度信息(例如，压力信息或压力信息的代用物)。在一些实施方案中，至少一个接触强度传感器与触敏表面(例如，触敏显示器系统112)并置排列或邻近。在一些实施方案中，至少一个接触强度传感器位于设备100的后部上，与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个接近传感器166。图1A示出了耦接到外围设备接口118的接近传感器166。另选地，接近传感器166任选地耦接到I/O子系统106中的输入控制器160。接近传感器166任选地如以下美国专利申请中所述的那样执行：No.11/241,839，名称为“Proximity Detector In Handheld Device”；No.11/240,788，名称为“ProximityDetector In Handheld Device”；No.11/620,702，名称为“Using Ambient Light SensorTo Augment Proximity Sensor Output”；No.11/586,862，名称为“Automated ResponseTo And Sensing Of User Activity In Portable Devices”；以及No.11/638,251，名称为“Methods And Systems For Automatic Configuration Of Peripherals”，这些美国专利申请据此全文以引用方式并入本文。在一些实施方案中，当多功能设备被置于用户的耳朵附近时(例如，当用户正在进行电话呼叫时)，接近传感器关闭并且禁用触摸屏112。
设备100任选地还包括一个或多个触觉输出发生器167。图1A示出了耦接到I/O子系统106中的触觉反馈控制器161的触觉输出发生器。触觉输出发生器167任选地包括一个或多个电声设备，诸如扬声器或其他音频部件；和/或将能量转换成线性运动的机电设备，诸如马达、螺线管、电活性聚合器、压电致动器、静电致动器或其他触觉输出生成部件(例如，将电信号转换成设备上的触觉输出的部件)。接触强度传感器165从触觉反馈模块133接收触觉反馈生成指令，并且在设备100上生成能够由设备100的用户感觉到的触觉输出。在一些实施方案中，至少一个触觉输出发生器与触敏表面(例如，触敏显示器系统112)并置排列或邻近，并且任选地通过竖直地(例如，向设备100的表面内/外)或侧向地(例如，在与设备100的表面相同的平面中向后和向前)移动触敏表面来生成触觉输出。在一些实施方案中，至少一个触觉输出发生器传感器位于设备100的后部上，与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个加速度计168。图1A示出了耦接到外围设备接口118的加速度计168。另选地，加速度计168任选地耦接到I/O子系统106中的输入控制器160。加速度计168任选地如以下美国专利公开中所述的那样执行：美国专利公开No.20050190059，名称为“Acceleration-based Theft Detection System for PortableElectronic Devices”和美国专利公开No.20060017692，名称为“Methods AndApparatuses For Operating A Portable Device Based On An Accelerometer”，这两个美国专利公开均全文以引用方式并入本文。在一些实施方案中，基于对从一个或多个加速度计接收的数据的分析来在触摸屏显示器上以纵向视图或横向视图显示信息。设备100任选地除了加速度计168之外还包括磁力仪和GPS(或GLONASS或其他全球导航系统)接收器，以用于获取关于设备100的位置和取向(例如，纵向或横向)的信息。
在一些实施方案中，存储于存储器102中的软件组件包括操作系统126、通信模块(或指令集)128、接触/运动模块(或指令集)130、图形模块(或指令集)132、文本输入模块(或指令集)134、全球定位系统(GPS)模块(或指令集)135以及应用程序(或指令集)136。此外，在一些实施方案中，存储器102(图1A)或370(图3)存储设备/全局内部状态157，如图1A和图3中所示。设备/全局内部状态157包括以下中的一者或多者：活动应用程序状态，其指示哪些应用程序(如果有的话)当前是活动的；显示状态，其指示什么应用程序、视图或其他信息占据触摸屏显示器112的各个区域；传感器状态，包括从设备的各个传感器和输入控制设备116获取的信息；以及关于设备的位置和/或姿态的位置信息。
操作系统126(例如，Darwin、RTXC、LINUX、UNIX、OS X、iOS、WINDOWS、或嵌入式操作系统诸如VxWorks)包括用于控制和管理一般系统任务(例如，存储器管理、存储设备控制、功率管理等)的各种软件部件和/或驱动程序，并且促进各种硬件部件和软件部件之间的通信。
通信模块128有利于通过一个或多个外部端口124来与其他设备进行通信，并且还包括用于处理由RF电路108和/或外部端口124所接收的数据的各种软件组件。外部端口124(例如，通用串行总线(USB)、火线等)适于直接耦接到其他设备，或间接地通过网络(例如，互联网、无线LAN等)进行耦接。在一些实施方案中，外部端口是与
Figure BDA0002849855860000181
(Apple Inc.的商标)设备上所使用的30针连接器相同的或类似的和/或与其兼容的多针(例如，30针)连接器。
接触/运动模块130任选地检测与触摸屏112(结合显示控制器156)和其他触敏设备(例如，触控板或物理点击式转盘)的接触。接触/运动模块130包括各种软件部件以用于执行与接触检测相关的各种操作，诸如确定是否已经发生了接触(例如，检测手指按下事件)、确定接触强度(例如，接触的力或压力，或者接触的力或压力的替代物)、确定是否存在接触的移动并跟踪在触敏表面上的移动(例如，检测一个或多个手指拖动事件)，以及确定接触是否已经停止(例如，检测手指抬起事件或者接触断开)。接触/运动模块130从触敏表面接收接触数据。确定接触点的移动任选地包括确定接触点的速率(量值)、速度(量值和方向)和/或加速度(量值和/或方向的改变)，所述接触点的移动由一系列接触数据表示。这些操作任选地被应用于单点接触(例如，单指接触)或者多点同时接触(例如，“多点触摸”/多指接触)。在一些实施方案中，接触/运动模块130和显示控制器156检测触控板上的接触。
在一些实施方案中，接触/运动模块130使用一组一个或多个强度阈值来确定操作是否已由用户执行(例如，确定用户是否已“点击”图标)。在一些实施方案中，根据软件参数来确定强度阈值的至少一个子集(例如，强度阈值不是由特定物理致动器的激活阈值来确定的，并且可在不改变设备100的物理硬件的情况下被调节)。例如，在不改变触控板或触摸屏显示器硬件的情况下，触控板或触摸屏的鼠标“点击”阈值可被设定成预定义的阈值的大范围中的任一个阈值。另外，在一些具体实施中，向设备的用户提供用于调节一组强度阈值中的一个或多个强度阈值(例如，通过调节各个强度阈值和/或通过利用对“强度”参数的系统级点击来一次调节多个强度阈值)的软件设置。
接触/运动模块130任选地检测用户的手势输入。触敏表面上的不同手势具有不同的接触模式(例如，所检测到的接触的不同运动、计时和/或强度)。因此，任选地通过检测特定接触模式来检测手势。例如，检测手指轻击手势包括检测手指按下事件，然后在与手指按下事件相同的位置(或基本上相同的位置)处(例如，在图标的位置处)检测手指抬起(抬离)事件。作为另一个示例，在触敏表面上检测手指轻扫手势包括检测手指按下事件，然后检测一个或多个手指拖动事件，并且随后检测手指抬起(抬离)事件。
图形模块132包括用于在触摸屏112或其他显示器上呈现和显示图形的各种已知的软件部件，包括用于改变所显示的图形的视觉冲击(例如，亮度、透明度、饱和度、对比度或其他视觉特征)的部件。如本文所用，术语“图形”包括可被显示给用户的任何对象，其非限制性地包括文本、网页、图标(诸如包括软键的用户界面对象)、数字图像、视频、动画等。
在一些实施方案中，图形模块132存储表示待使用的图形的数据。每个图形任选地被分配有对应的代码。图形模块132从应用程序等接收用于指定待显示的图形的一个或多个代码，在必要的情况下还一起接收坐标数据和其他图形属性数据，并且然后生成屏幕图像数据，以输出至显示控制器156。
触觉反馈模块133包括用于生成指令的各种软件部件，该指令由触觉输出发生器167使用，以便响应于用户与设备100的交互而在设备100上的一个或多个位置处产生触觉输出。
任选地为图形模块132的部件的文本输入模块134提供用于在各种应用程序(例如，联系人137、电子邮件140、IM 141、浏览器147和需要文本输入的任何其他应用程序)中输入文本的软键盘。
GPS模块135确定设备的位置，并提供该信息以供在各种应用程序中使用(例如提供给电话138以供在基于位置的拨号中使用；提供给相机143作为图片/视频元数据；以及提供给提供基于位置的服务的应用，诸如天气桌面小程序、本地黄页桌面小程序和地图/导航桌面小程序)。
应用程序136任选地包括以下模块(或指令集)或者其子集或超集：
·联系人模块137(有时称为通讯录或联系人列表)；
·电话模块138；
·视频会议模块139；
·电子邮件客户端模块140；
·即时消息(IM)模块141；
·健身支持模块142；
·用于静态图像和/或视频图像的相机模块143；
·图像管理模块144；
·视频播放器模块；
·音乐播放器模块；
·浏览器模块147；
·日历模块148；
·桌面小程序模块149，其任选地包括以下各项中的一者或多者：天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4、词典桌面小程序149-5、和由用户获取的其他桌面小程序、以及用户创建的桌面小程序149-6；
·用于形成用户创建的桌面小程序149-6的桌面小程序创建器模块150；
·搜索模块151；
·视频和音乐播放器模块152，其合并视频播放器模块和音乐播放器模块；
·记事本模块153；
·地图模块154；以及/或者
·在线视频模块155。
任选地存储在存储器102中的其他应用程序136的示例包括其他文字处理应用程序、其他图像编辑应用程序、绘图应用程序、呈现应用程序、支持JAVA的应用程序、加密、数字权益管理、话音识别和语音复制。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、和文本输入模块134，联系人模块137任选地用于管理通讯录或联系人列表(例如，存储在存储器102或存储器370中的联系人模块137的应用程序内部状态192中)，包括：向通讯录添加一个或多个姓名；从通讯录删除姓名；将电话号码、电子邮件地址、物理地址或其他信息与姓名相关联；将图像与姓名相关联；对姓名进行归类和分类；提供电话号码或电子邮件地址来发起和/或促进通过电话138、视频会议模块139、电子邮件140或IM 141进行的通信；等等。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134，电话模块138任选地用于输入与电话号码对应的字符序列、访问联系人模块137中的一个或多个电话号码、修改已输入的电话号码、拨打相应的电话号码、进行会话，以及当会话完成时断开或挂断。如上所述，无线通信任选地使用多种通信标准、协议和技术中的任一种。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132、文本输入模块134、联系人模块137和电话模块138，视频会议模块139包括根据用户指令来发起、进行和终止用户与一个或多个其他参与方之间的视频会议的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134，电子邮件客户端模块140包括响应于用户指令来创建、发送、接收和管理电子邮件的可执行指令。结合图像管理模块144，电子邮件客户端模块140使得非常容易创建和发送具有由相机模块143拍摄的静态图像或视频图像的电子邮件。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134，即时消息模块141包括用于以下操作的可执行指令：输入与即时消息对应的字符序列、修改先前输入的字符、传输相应即时消息(例如，使用短消息服务(SMS)或多媒体消息服务(MMS)协议以用于基于电话的即时消息或者使用XMPP、SIMPLE、或IMPS以用于基于互联网的即时消息)、接收即时消息以及查看所接收的即时消息。在一些实施方案中，所传输和/或接收的即时消息任选地包括图形、照片、音频文件、视频文件和/或MMS和/或增强消息服务(EMS)中所支持的其他附件。如本文所用，“即时消息”是指基于电话的消息(例如，使用SMS或MMS发送的消息)和基于互联网的消息(例如，使用XMPP、SIMPLE或IMPS发送的消息)两者。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135、地图模块154和音乐播放器模块，健身支持模块142包括用于创建健身(例如，具有时间、距离和/或卡路里燃烧目标)的可执行指令；与健身传感器(运动设备)进行通信；接收健身传感器数据；校准用于监视健身的传感器；为健身选择和播放音乐；以及显示、存储和传输健身数据。
结合触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132和图像管理模块144，相机模块143包括用于以下操作的可执行指令：捕获静态图像或视频(包括视频流)并且将它们存储到存储器102中、修改静态图像或视频的特征，或从存储器102删除静态图像或视频。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、和相机模块143，图像管理模块144包括用于排列、修改(例如，编辑)、或以其他方式操控、加标签、删除、呈现(例如，在数字幻灯片或相册中)、以及存储静态图像和/或视频图像的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134，浏览器模块147包括用于根据用户指令来浏览互联网，包括搜索、链接至、接收和显示网页或其部分，以及链接至网页的附件和其他文件的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、电子邮件客户端模块140和浏览器模块147，日历模块148包括根据用户指令来创建、显示、修改和存储日历以及与日历相关联的数据(例如，日历条目、待办事项等)的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147，桌面小程序模块149是任选地由用户下载和使用的微型应用程序(例如，天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4和词典桌面小程序149-5)或由用户创建的微型应用程序(例如，用户创建的桌面小程序149-6)。在一些实施方案中，桌面小程序包括HTML(超文本标记语言)文件、CSS(层叠样式表)文件和JavaScript文件。在一些实施方案中，桌面小程序包括XML(可扩展标记语言)文件和JavaScript文件(例如，Yahoo！桌面小程序)。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147，桌面小程序创建器模块150任选地被用户用于创建桌面小程序(例如，将网页的用户指定部分转变为桌面小程序)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134，搜索模块151包括用于根据用户指令来搜索存储器102中与一个或多个搜索条件(例如，一个或多个用户指定的搜索词)匹配的文本、音乐、声音、图像、视频和/或其他文件的可执行指令。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、和浏览器模块147，视频和音乐播放器模块152包括允许用户下载和回放以一种或多种文件格式诸如MP3或AAC文件存储的所记录的音乐和其他声音文件的可执行指令，以及用于显示、呈现或以其他方式回放视频(例如，在触摸屏112上或在经由外部端口124连接的外部显示器上)的可执行指令。在一些实施方案中，设备100任选地包括MP3播放器诸如iPod(Apple Inc.的商标)的功能。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134，记事本模块153包括根据用户指令来创建和管理记事本、待办事项等的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135和浏览器模块147，地图模块154任选地用于根据用户指令接收、显示、修改和存储地图以及与地图相关联的数据(例如，驾驶方向、与特定位置处或附近的商店及其他兴趣点有关的数据，以及其他基于位置的数据)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、文本输入模块134、电子邮件客户端模块140和浏览器模块147，在线视频模块155包括用于执行以下操作的指令：允许用户访问、浏览、接收(例如，通过流式传输和/或下载)、回放(例如在触摸屏上或在经由外部端口124所连接的外部显示器上)、发送具有至特定在线视频的链接的电子邮件，以及以其他方式管理一种或多种文件格式诸如H.264的在线视频。在一些实施方案中，使用即时消息模块141而不是电子邮件客户端模块140来发送特定在线视频的链接。在线视频应用程序的其他描述可见于2007年6月20日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国临时专利申请No.60/936,562和2007年12月31日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国专利申请No.11/968,067，这两个专利申请的内容据此全文以引用方式并入本文。
上述每个模块和应用程序对应于用于执行上述一种或多种功能以及在本专利申请中所述的方法(例如，本文所述的计算机实现的方法和其他信息处理方法)的可执行指令集。这些模块(例如，指令集)不必以独立的软件程序、过程或模块实现，因此这些模块的各种子集任选地在各种实施方案中组合或以其他方式重新布置。例如，视频播放器模块任选地与音乐播放器模块组合成单个模块(例如，图1A中的视频和音乐播放器模块152)。在一些实施方案中，存储器102任选地存储上述模块和数据结构的子集。此外，存储器102任选地存储上文未描述的另外的模块和数据结构。
在一些实施方案中，设备100是该设备上的预定义的一组功能的操作唯一地通过触摸屏和/或触控板来执行的设备。通过使用触摸屏和/或触控板作为用于操作设备100的主要输入控制设备，任选地减少设备100上的物理输入控制设备(例如，下压按钮、拨盘等等)的数量。
唯一地通过触摸屏和/或触控板来执行的预定义的一组功能任选地包括在用户界面之间的导航。在一些实施方案中，触控板在被用户触摸时将设备100从设备100上显示的任何用户界面导航到主菜单、home菜单或根菜单。在此类实施方案中，使用触控板来实现“菜单按钮”。在一些其他实施方案中，菜单按钮是物理下压按钮或者其他物理输入控制设备，而不是触控板。
图1B是示出根据一些实施方案的用于事件处理的示例性部件的框图。在一些实施方案中，存储器102(图1A)或存储器370(图3)包括事件分类器170(例如，在操作系统126中)以及相应的应用程序136-1(例如，前述应用程序137至151、155、380至390中的任一个应用程序)。
事件分类器170接收事件信息并确定要将事件信息递送到的应用程序136-1和应用程序136-1的应用程序视图191。事件分类器170包括事件监视器171和事件分配器模块174。在一些实施方案中，应用程序136-1包括应用程序内部状态192，该应用程序内部状态指示当应用程序是活动的或正在执行时被显示在触敏显示器112上的一个或多个当前应用程序视图。在一些实施方案中，设备/全局内部状态157被事件分类器170用来确定哪个(哪些)应用程序当前是活动的，并且应用程序内部状态192被事件分类器170用来确定要将事件信息递送到的应用程序视图191。
在一些实施方案中，应用程序内部状态192包括附加信息，诸如以下各项中的一者或多者：当应用程序136-1恢复执行时将被使用的恢复信息、指示信息正被显示或准备好用于被应用程序136-1显示的用户界面状态信息、用于使得用户能够返回到应用程序136-1的前一状态或视图的状态队列，以及用户采取的先前动作的重复/撤销队列。
事件监视器171从外围设备接口118接收事件信息。事件信息包括关于子事件(例如，触敏显示器112上的用户触摸，作为多点触摸手势的一部分)的信息。外围设备接口118传输其从I/O子系统106或传感器诸如接近传感器166、一个或多个加速度计168和/或麦克风113(通过音频电路110)接收的信息。外围设备接口118从I/O子系统106接收的信息包括来自触敏显示器112或触敏表面的信息。
在一些实施方案中，事件监视器171以预先确定的间隔将请求发送至外围设备接口118。作为响应，外围设备接口118传输事件信息。在其他实施方案中，外围设备接口118仅当存在显著事件(例如，接收到高于预先确定的噪声阈值和/或接收到超过预先确定的持续时间的输入)时才传输事件信息。
在一些实施方案中，事件分类器170还包括命中视图确定模块172和/或活动事件识别器确定模块173。
当触敏显示器112显示多于一个视图时，命中视图确定模块172提供用于确定子事件已在一个或多个视图内的什么地方发生的软件过程。视图由用户能够在显示器上看到的控件和其他元素构成。
与应用程序相关联的用户界面的另一方面是一组视图，本文中有时也称为应用程序视图或用户界面窗口，在其中显示信息并且发生基于触摸的手势。在其中检测到触摸的(相应应用程序的)应用程序视图任选地对应于在应用程序的程序化或视图分级结构内的程序化水平。例如，在其中检测到触摸的最低水平视图任选地被称为命中视图，并且被识别为正确输入的事件集任选地至少部分地基于初始触摸的命中视图来确定，所述初始触摸开始基于触摸的手势。
命中视图确定模块172接收与基于触摸的手势的子事件相关的信息。当应用程序具有以分级结构组织的多个视图时，命中视图确定模块172将命中视图识别为应当对子事件进行处理的分级结构中的最低视图。在大多数情况下，命中视图是发起子事件(例如，形成事件或潜在事件的子事件序列中的第一子事件)在其中发生的最低水平视图。一旦命中视图被命中视图确定模块172识别，命中视图便通常接收与其被识别为命中视图所针对的同一触摸或输入源相关的所有子事件。
活动事件识别器确定模块173确定视图分级结构内的哪个或哪些视图应接收特定子事件序列。在一些实施方案中，活动事件识别器确定模块173确定仅命中视图应接收特定子事件序列。在其他实施方案中，活动事件识别器确定模块173确定包括子事件的物理位置的所有视图是活跃参与的视图，并因此确定所有活跃参与的视图都应接收特定子事件序列。在其他实施方案中，即使触摸子事件完全被局限到与一个特定视图相关联的区域，分级结构中的较高视图将仍然保持为活跃参与的视图。
事件分配器模块174将事件信息分配到事件识别器(例如，事件识别器180)。在包括活动事件识别器确定模块173的实施方案中，事件分配器模块174将事件信息递送到由活动事件识别器确定模块173确定的事件识别器。在一些实施方案中，事件分配器模块174在事件队列中存储事件信息，该事件信息由相应事件接收器182进行检索。
在一些实施方案中，操作系统126包括事件分类器170。另选地，应用程序136-1包括事件分类器170。在又一个实施方案中，事件分类器170是独立模块，或者是存储在存储器102中的另一个模块(诸如，接触/运动模块130)的一部分。
在一些实施方案中，应用程序136-1包括多个事件处理程序190和一个或多个应用程序视图191，其中的每一个都包括用于处理发生在应用程序的用户界面的相应视图内的触摸事件的指令。应用程序136-1的每个应用程序视图191包括一个或多个事件识别器180。通常，相应应用程序视图191包括多个事件识别器180。在其他实施方案中，事件识别器180中的一个或多个事件识别器是独立模块的一部分，该独立模块为诸如用户界面工具包或应用程序136-1从中继承方法和其他属性的更高级别的对象。在一些实施方案中，相应事件处理程序190包括以下各项中的一者或多者：数据更新器176、对象更新器177、GUI更新器178、和/或从事件分类器170接收的事件数据179。事件处理程序190任选地利用或调用数据更新器176、对象更新器177或GUI更新器178来更新应用程序内部状态192。另选地，应用程序视图191中的一个或多个应用程序视图包括一个或多个相应事件处理程序190。另外，在一些实施方案中，数据更新器176、对象更新器177和GUI更新器178中的一者或多者包括在相应应用程序视图191中。
相应的事件识别器180从事件分类器170接收事件信息(例如，事件数据179)，并且从事件信息识别事件。事件识别器180包括事件接收器182和事件比较器184。在一些实施方案中，事件识别器180还包括元数据183和事件传递指令188(其任选地包括子事件递送指令)的至少一个子集。
事件接收器182接收来自事件分类器170的事件信息。事件信息包括关于子事件例如触摸或触摸移动的信息。根据子事件，事件信息还包括附加信息，诸如子事件的位置。当子事件涉及触摸的运动时，事件信息任选地还包括子事件的速率和方向。在一些实施方案中，事件包括设备从一个取向旋转到另一取向(例如，从纵向取向旋转到横向取向，或反之亦然)，并且事件信息包括关于设备的当前取向(也被称为设备姿态)的对应信息。
事件比较器184将事件信息与预定义的事件或子事件定义进行比较，并且基于该比较来确定事件或子事件，或者确定或更新事件或子事件的状态。在一些实施方案中，事件比较器184包括事件定义186。事件定义186包含事件的定义(例如，预定义的子事件序列)，例如事件1(187-1)、事件2(187-2)以及其他。在一些实施方案中，事件(187)中的子事件例如包括触摸开始、触摸结束、触摸移动、触摸取消和多点触摸。在一个示例中，事件1(187-1)的定义是被显示对象上的双击。例如，双击包括被显示对象上的预先确定时长的第一触摸(触摸开始)、预先确定时长的第一抬离(触摸结束)、被显示对象上的预先确定时长的第二触摸(触摸开始)以及预先确定时长的第二抬离(触摸结束)。在另一个示例中，事件2(187-2)的定义是被显示对象上的拖动。例如，拖动包括被显示对象上的预先确定时长的触摸(或接触)、触摸在触敏显示器112上的移动、以及触摸的抬离(触摸结束)。在一些实施方案中，事件还包括用于一个或多个相关联的事件处理程序190的信息。
在一些实施方案中，事件定义187包括对用于相应用户界面对象的事件的定义。在一些实施方案中，事件比较器184执行命中测试以确定哪个用户界面对象与子事件相关联。例如，在触敏显示器112上显示三个用户界面对象的应用程序视图中，当在触敏显示器112上检测到触摸时，事件比较器184执行命中测试以确定这三个用户界面对象中的哪一个用户界面对象与该触摸(子事件)相关联。如果每个所显示对象与相应事件处理程序190相关联，则事件比较器使用该命中测试的结果来确定哪个事件处理程序190应当被激活。例如，事件比较器184选择与子事件和触发该命中测试的对象相关联的事件处理程序。
在一些实施方案中，相应事件(187)的定义还包括延迟动作，所述延迟动作延迟事件信息的递送，直到已确定子事件序列确实对应于或不对应于事件识别器的事件类型。
当相应事件识别器180确定子事件序列不与事件定义186中的任何事件匹配时，该相应事件识别器180进入事件不可能、事件失败或事件结束状态，在此之后忽略基于触摸的手势的后续子事件。在这种情况下，对于命中视图保持活动的其他事件识别器(如果有的话)继续跟踪并处理持续进行的基于触摸的手势的子事件。
在一些实施方案中，相应事件识别器180包括具有指示事件递送系统应当如何执行对活跃参与的事件识别器的子事件递送的可配置属性、标记和/或列表的元数据183。在一些实施方案中，元数据183包括指示事件识别器彼此如何交互或如何能够交互的可配置属性、标志和/或列表。在一些实施方案中，元数据183包括指示子事件是否递送到视图或程序化分级结构中的不同层级的可配置属性、标志和/或列表。
在一些实施方案中，当事件的一个或多个特定子事件被识别时，相应事件识别器180激活与事件相关联的事件处理程序190。在一些实施方案中，相应事件识别器180将与事件相关联的事件信息递送到事件处理程序190。激活事件处理程序190不同于将子事件发送(和延期发送)到相应命中视图。在一些实施方案中，事件识别器180抛出与所识别的事件相关联的标记，并且与该标记相关联的事件处理程序190获得该标记并执行预定义过程。
在一些实施方案中，事件递送指令188包括递送关于子事件的事件信息而不激活事件处理程序的子事件递送指令。相反，子事件递送指令将事件信息递送到与子事件序列相关联的事件处理程序或者递送到活跃参与的视图。与子事件序列或与活跃参与的视图相关联的事件处理程序接收事件信息并执行预先确定的过程。
在一些实施方案中，数据更新器176创建并更新在应用程序136-1中使用的数据。例如，数据更新器176对联系人模块137中所使用的电话号码进行更新，或者对视频播放器模块中所使用的视频文件进行存储。在一些实施方案中，对象更新器177创建和更新在应用程序136-1中使用的对象。例如，对象更新器177创建新的用户界面对象或更新用户界面对象的位置。GUI更新器178更新GUI。例如，GUI更新器178准备显示信息，并且将显示信息发送至图形模块132以用以显示在触敏显示器上。
在一些实施方案中，事件处理程序190包括数据更新器176、对象更新器177和GUI更新器178或者具有对它们的访问权限。在一些实施方案中，数据更新器176、对象更新器177和GUI更新器178被包括在相应应用程序136-1或应用程序视图191的单个模块中。在其他实施方案中，它们被包括在两个或更多个软件模块中。
应当理解，关于触敏显示器上的用户触摸的事件处理的上述论述还适用于利用输入设备来操作多功能设备100的其他形式的用户输入，并不是所有用户输入都是在触摸屏上发起的。例如，任选地与单次或多次键盘按下或按住协作的鼠标移动和鼠标按钮按下；触控板上的接触移动，诸如轻击、拖动、滚动等；触笔输入；设备的移动；口头指令；检测到的眼睛移动；生物特征输入；和/或它们的任何组合任选地被用作对应于限定要识别的事件的子事件的输入。
图1C示出了根据各种示例的系统2100的框图。在一些示例中，系统2100实现数字助理。术语“数字助理”、“虚拟助理”、“智能自动化助理”或“自动数字助理”是指解译口头形式和/或文本形式的自然语言输入来推断用户意图并且基于推断出的用户意图来执行动作的任何信息处理系统。例如，为了作用于推断出的用户意图，系统执行下述步骤中的一个或多个：识别具有设计用于实现推断出的用户意图的步骤和参数的任务流，根据推断出的用户意图将特定要求输入到任务流中；通过调用程序、方法、服务、API等执行任务流；以及以可听(例如，语音)和/或可视形式来生成对用户的输出响应。
具体地，数字助理能够接受至少部分地为自然语言命令、请求、声明、讲述和/或询问的形式的用户请求。通常，用户请求寻求数字助理作出信息性回答或执行任务。对用户请求的令人满意的响应包括提供所请求的信息性回答、执行所请求的任务或这两者的组合。例如，用户向数字助理提出问题，诸如“我现在在哪里？”。基于用户的当前位置，数字助理回答“你在中央公园西门附近。”用户还请求执行任务，例如“请邀请我的朋友们下周来参加我女朋友的生日聚会。”作为响应，数字助理可通过讲出“好的，马上”来确认请求，然后代表用户将合适的日历邀请发送到用户电子通讯录中列出的用户朋友中的每位朋友。在执行所请求的任务期间，数字助理有时在很长时间段内在涉及多次信息交换的持续对话中与用户进行交互。存在与数字助理进行交互以请求信息或执行各种任务的许多其他方法。除提供言语响应并采取经编程的动作之外，数字助理还提供其他视频或音频形式的响应，例如作为文本、警报、音乐、视频、动画等。
如图1C所示，在一些示例中，数字助理根据客户端-服务器模型来实现。数字助理包括在用户设备104上执行的客户端侧部分2102(下文称为“DA客户端2102”)以及在服务器系统2108上执行的服务器侧部分2106(下文称为“DA服务器2106”)。DA客户端2102通过一个或多个网络2110与DA服务器2106通信。DA客户端2102提供客户端侧功能，诸如面向用户的输入和输出处理，以及与DA服务器2106通信。DA服务器2106为各自位于相应用户设备2104上的任意数量的DA客户端2102提供服务器侧功能。
在一些示例中，DA服务器2106包括面向客户端的I/O接口2112、一个或多个处理模块2114、数据和模型2116以及到外部服务的I/O接口2118。面向客户端的I/O接口2112有利于DA服务器2106的面向客户端的输入和输出处理。一个或多个处理模块2114利用数据和模型2116来处理语音(speech)输入并基于自然语言输入来确定用户的意图。此外，一个或多个处理模块2114基于推断出的用户意图来进行任务执行。在一些示例中，DA服务器2106通过网络2110与外部服务120通信以完成任务或采集信息。到外部服务的I/O接口2118有利于此类通信。
用户设备2104可以是任何合适的电子设备。在一些示例中，用户设备2104是便携式多功能设备(例如，上文参考图1A所述的设备100)、多功能设备或另一个电子设备(例如，设备600、800、1000)。便携式多功能设备是例如还包含其他功能(诸如，PDA和/或音乐播放器功能)的移动电话。便携式多功能设备的特定示例包括来自Apple Inc.(Cupertino,California)的Apple
Figure BDA0002849855860000311
iPod
Figure BDA0002849855860000312
和
Figure BDA0002849855860000313
设备。便携式多功能设备的其他示例包括但不限于耳塞式耳机/头戴式耳机、扬声器以及膝上型电脑或平板电脑。此外，在一些示例中，用户设备2104是非便携式多功能设备。具体地，用户设备2104是台式计算机、游戏机、扬声器、电视或电视机顶盒。在一些示例中，用户设备2104包括触敏表面(例如，触摸屏显示器和/或触控板)。此外，用户设备2104任选地包括一个或多个其他物理用户接口设备，诸如物理键盘、鼠标和/或操纵杆。下文更详细地描述了电子设备诸如多功能设备的各种示例。
通信网络2110的示例包括局域网(LAN)和广域网(WAN)，例如互联网。通信网络2110使用任何已知的网络协议来实现，包括各种有线或无线协议，诸如以太网、通用串行总线(USB)、FIREWIRE、全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、Wi-Fi、互联网协议语音(VoIP)、Wi-MAX或任何其他合适的通信协议。
服务器系统2108在一个或多个独立式数据处理装置或分布式计算机网络上实现。在一些示例中，服务器系统2108还采用第三方服务提供方(例如，第三方云服务提供方)的各种虚拟设备和/或服务来提供服务器系统2108的潜在计算资源和/或基础结构资源。
在一些示例中，用户设备2104经由第二用户设备2122与DA服务器2106通信。第二用户设备2122与用户设备2104类似或相同。用户设备2104被配置为经由直接通信连接(诸如蓝牙、NFC、BTLE等)或者经由有线或无线网络(诸如局域Wi-Fi网络)而通信地耦接到第二用户设备2122。在一些示例中，第二用户设备2122被配置为充当用户设备2104与DA服务器2106之间的代理。例如，用户设备2104的DA客户端2102被配置为经由第二用户设备2122向DA服务器2106传输信息(例如，在用户设备2104处接收的用户请求)。DA服务器2106处理该信息并经由第二用户设备2122将相关数据(例如，响应于用户请求的数据内容)返回到用户设备2104。
在一些示例中，用户设备2104被配置为将针对数据的缩略请求发送到第二用户设备2122，以减少从用户设备2104传输的信息量。第二用户设备2122被配置为确定添加到该缩略请求的补充信息，以生成完整的请求来传输到DA服务器2106。该系统架构可有利地通过使用具有较强通信能力和/或电池电力的第二用户设备2122(例如，移动电话、膝上型计算机、平板电脑等)作为到DA服务器2106的代理，允许具有有限通信能力和/或有限电池电力的用户设备2104(例如，手表或类似的紧凑型电子设备)访问DA服务器2106提供的服务。虽然图1C中仅示出两个用户设备2104和2122，但应当理解，在一些示例中，系统2100包括在此代理配置中被配置为与DA服务器系统2106通信的任意数量和类型的用户设备。
尽管图1C中所示的数字助理包括客户端侧部分(例如，DA客户端2102)和服务器侧部分(例如，DA服务器2106)两者，但在一些示例中，数字助理的功能被实现为安装在用户设备上的独立式应用程序。此外，数字助理的客户端部分与服务器部分之间的功能划分在不同的具体实施中可变化。例如，在一些示例中，DA客户端为仅提供面向用户的输入和输出处理功能并将数字助理的所有其他功能委派给后端服务器的瘦客户端。
图2示出了根据一些实施方案的具有触摸屏112的便携式多功能设备100。触摸屏任选地在用户界面(UI)200内显示一个或多个图形。在本实施方案以及下文所述的其他实施方案中，用户能够通过例如利用一根或多根手指202(在图中未按比例绘制)或一支或多支触笔203(在图中未按比例绘制)在图形上作出手势来选择这些图形中的一个或多个图形。在一些实施方案中，当用户中断与一个或多个图形的接触时，将发生对一个或多个图形的选择。在一些实施方案中，手势任选地包括一次或多次轻击、一次或多次轻扫(从左向右、从右向左、向上和/或向下)和/或已与设备100发生接触的手指的滚动(从右向左、从左向右、向上和/或向下)。在一些具体实施中或在一些情况下，不经意地与图形接触不会选择图形。例如，当与选择对应的手势是轻击时，在应用程序图标上方扫动的轻扫手势任选地不会选择对应的应用程序。
设备100任选地还包括一个或多个物理按钮，诸如“home”或菜单按钮204。如前所述，菜单按钮204任选地用于导航到任选地在设备100上被执行的一组应用程序中的任何应用程序136。另选地，在一些实施方案中，菜单按钮被实现为被显示在触摸屏112上的GUI中的软键。
在一些实施方案中，设备100包括触摸屏112、菜单按钮204、用于使设备开机/关机和用于锁定设备的下压按钮206、一个或多个音量调节按钮208、用户身份模块(SIM)卡槽210、耳麦插孔212和对接/充电外部端口124。下压按钮206任选地用于通过压下该按钮并且将该按钮保持在压下状态持续预定义的时间间隔来对设备进行开/关机；通过压下该按钮并在该预定义的时间间隔过去之前释放该按钮来锁定设备；和/或对设备进行解锁或发起解锁过程。在另选的实施方案中，设备100还通过麦克风113接受用于激活或去激活某些功能的语音输入。设备100还任选地包括用于检测触摸屏112上的接触的强度的一个或多个接触强度传感器165，和/或用于为设备100的用户生成触觉输出的一个或多个触觉输出发生器167。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。设备300不必是便携式的。在一些实施方案中，设备300是膝上型电脑、台式计算机、平板电脑、多媒体播放器设备、导航设备、教育设备(诸如儿童学习玩具)、游戏系统或控制设备(例如，家用控制器或工业用控制器)。设备300通常包括一个或多个处理单元(CPU)310、一个或多个网络或其他通信接口360、存储器370和用于使这些部件互连的一个或多个通信总线320。通信总线320任选地包括使系统部件互连并且控制系统部件之间的通信的电路(有时称作芯片组)。设备300包括具有显示器340的输入/输出(I/O)接口330，该显示器通常是触摸屏显示器。I/O接口330还任选地包括键盘和/或鼠标(或其他指向设备)350和触控板355、用于在设备300上生成触觉输出的触觉输出发生器357(例如，类似于以上参考图1A所述的一个或多个触觉输出发生器167)、传感器359(例如，光学传感器、加速度传感器、接近传感器、触敏传感器和/或接触强度传感器(类似于以上参考图1A所述的一个或多个接触强度传感器165))。存储器370包括高速随机存取存储器，诸如DRAM、SRAM、DDR RAM或其他随机存取固态存储器设备；并且任选地包括非易失性存储器，诸如一个或多个磁盘存储设备、光盘存储设备、闪存存储器设备或其他非易失性固态存储设备。存储器370任选地包括远离CPU310定位的一个或多个存储设备。在一些实施方案中，存储器370存储与便携式多功能设备100(图1A)的存储器102中存储的程序、模块和数据结构类似的程序、模块和数据结构或其子集。此外，存储器370任选地存储在便携式多功能设备100的存储器102中不存在的附加程序、模块和数据结构。例如，设备300的存储器370任选地存储绘图模块380、呈现模块382、文字处理模块384、网站创建模块386、盘编辑模块388、和/或电子表格模块390，而便携式多功能设备100(图1A)的存储器102任选地不存储这些模块。
图3中的上述元素中的每个元素任选地存储于先前提到的存储器设备的一个或多个存储器设备中。上述模块中的每个模块对应于用于执行上述功能的指令集。上述模块或程序(例如，指令集)不必被实现为单独的软件程序、过程或模块，并且因此这些模块的各种子集任选地在各种实施方案中被组合或以其他方式重新布置。在一些实施方案中，存储器370任选地存储上述模块和数据结构的子集。此外，存储器370任选地存储上文未描述的附加模块和数据结构。
现在将注意力转到任选地在例如便携式多功能设备100上实现的用户界面的实施方案。
图4A示出了根据一些实施方案的便携式多功能设备100上的应用程序菜单的示例性用户界面。类似的用户界面任选地在设备300上实现。在一些实施方案中，用户界面400包括以下元件或者其子集或超集：
·一个或多个无线通信诸如蜂窝信号和Wi-Fi信号的一个或多个信号强度指示器402；
·时间404；
·蓝牙指示器405；
·电池状态指示器406；
·具有针对常用应用程序的图标的托盘408，该图标诸如：
ο电话模块138的被标记为“电话”的图标416，该图标416任选地包括未接来电或语音留言的数量的指示符414；
ο电子邮件客户端模块140的被标记为“邮件”的图标418，该图标418任选地包括未读电子邮件的数量的指示符410；
ο浏览器模块147的标记为“浏览器”的图标420；以及
ο视频和音乐播放器模块152(也称为iPod(Apple Inc.的商标)模块152)的被标记为“iPod”的图标422；以及
·其他应用的图标，诸如：
οIM模块141的被标记为“消息”的图标424；
ο日历模块148的被标记为“日历”的图标426；
ο图像管理模块144的被标记为“照片”的图标428；
ο相机模块143的被标记为“相机”的图标430；
ο在线视频模块155的被标记为“在线视频”的图标432；
ο股市桌面小程序149-2的被标记为“股市”的图标434；
ο地图模块154的被标记为“地图”的图标436；
ο天气桌面小程序149-1的被标记为“天气”的图标438；
ο闹钟桌面小程序149-4的被标记为“时钟”的图标440；
ο健身支持模块142的被标记为“健身支持”的图标442；
ο记事本模块153的标记为“记事本”的图标444；以及
ο设置应用程序或模块的被标记为“设置”的图标446，该图标提供对设备100及其各种应用程序136的设置的访问。
应当指出的是，图4A中示出的图标标签仅是示例性的。例如，视频和音乐播放器模块152的图标422被标记“音乐”或“音乐播放器”。对于各种应用程序图标任选地使用其他标签。在一些实施方案中，相应应用程序图标的标签包括与该相应应用程序图标对应的应用程序的名称。在一些实施方案中，特定应用程序图标的标签不同于与该特定应用程序图标对应的应用程序的名称。
图4B示出了具有与显示器450(例如，触摸屏显示器112)分开的触敏表面451(例如，图3的平板或触控板355)的设备(例如，图3的设备300)上的示例性用户界面。设备300还任选地包括用于检测触敏表面451上的接触的强度的一个或多个接触强度传感器(例如，传感器359中的一个或多个传感器)和/或用于为设备300的用户生成触觉输出的一个或多个触觉输出发生器357。
尽管将参考触摸屏显示器112(其中组合了触敏表面和显示器)上的输入给出以下示例中的一些示例，但是在一些实施方案中，设备检测与显示器分开的触敏表面上的输入，如图4B中所示。在一些实施方案中，触敏表面(例如，图4B中的451)具有与显示器(例如，450)上的主轴(例如，图4B中的453)对应的主轴(例如，图4B中的452)。根据这些实施方案，设备检测在与显示器上的相应位置对应的位置(例如，在图4B中，460对应于468并且462对应于470)处与触敏表面451的接触(例如，图4B中的460和462)。这样，在触敏表面(例如，图4B中的451)与多功能设备的显示器(图4B中的450)分开时，由设备在触敏表面上检测到的用户输入(例如，接触460和462以及它们的移动)被该设备用于操控显示器上的用户界面。应当理解，类似的方法任选地用于本文所述的其他用户界面。
另外，虽然主要是参考手指输入(例如，手指接触、单指轻击手势、手指轻扫手势)来给出下面的示例，但是应当理解的是，在一些实施方案中，这些手指输入中的一个或多个手指输入由来自另一输入设备的输入(例如，基于鼠标的输入或触笔输入)替代。例如，轻扫手势任选地由鼠标点击(例如，而不是接触)，之后是光标沿着轻扫的路径的移动(例如，而不是接触的移动)替代。又如，轻击手势任选地由在光标位于轻击手势的位置上方时的鼠标点击(例如，代替对接触的检测，之后是停止检测接触)替代。类似地，当同时检测到多个用户输入时，应当理解的是，多个计算机鼠标任选地被同时使用，或鼠标和手指接触任选地被同时使用。
图5A示出了示例性个人电子设备500。设备500包括主体502。在一些实施方案中，设备500可包括相对于设备100和300(例如，图1A至图4B)所述的特征中的一些或全部特征。在一些实施方案中，设备500具有在下文中称为触摸屏504的触敏显示屏504。作为触摸屏504的替代或补充，设备500具有显示器和触敏表面。与设备100和300的情况一样，在一些实施方案中，触摸屏504(或触敏表面)任选地包括用于检测所施加的接触(例如，触摸)强度的一个或多个强度传感器。触摸屏504(或触敏表面)的一个或多个强度传感器可提供表示触摸的强度的输出数据。设备500的用户界面可基于触摸的强度来对触摸作出响应，这意味着不同强度的触摸可调用设备500上的不同用户界面操作。
用于检测和处理触摸强度的示例性技术见于例如以下相关专利申请中：2013年5月8日提交的名称为“Device,Method,and Graphical User Interface for DisplayingUser Interface Objects Corresponding to an Application”的国际专利申请序列No.PCT/US2013/040061，发布为WIPO专利公开No.WO/2013/169849；以及2013年11月11日提交的名称为“Device,Method,and Graphical User Interface for TransitioningBetween Touch Input to Display Output Relationships”的国际专利申请序列No.PCT/US2013/069483，发布为WIPO专利公开No.WO/2014/105276，该每个专利申请据此全文以引用方式并入。
在一些实施方案中，设备500具有一个或多个输入机构506和508。输入机构506和508(如果包括的话)可以是物理形式的。物理输入机构的示例包括下压按钮和可旋转机构。在一些实施方案中，设备500具有一个或多个附接机构。此类附接机构(如果包括的话)可允许将设备500与例如帽子、眼镜、耳环、项链、衬衣、夹克、手镯、表带、手链、裤子、皮带、鞋子、钱包、背包等附接。这些附接机构允许用户穿戴设备500。
图5B示出了示例性个人电子设备500。在一些实施方案中，设备500可包括参考图1A、图1B和图3所述的部件中的一些或全部部件。设备500具有总线512，该总线将I/O部分514与一个或多个计算机处理器516和存储器518操作性地耦接。I/O部分514可连接到显示器504，该显示器可具有触敏部件522并且任选地具有强度传感器524(例如，接触强度传感器)。此外，I/O部分514可与通信单元530连接，用于使用Wi-Fi、蓝牙、近场通信(NFC)、蜂窝和/或其他无线通信技术来接收应用程序和操作系统数据。设备500可包括输入机构506和/或508。例如，输入机构506任选地是可旋转输入设备或者可按压输入设备以及可旋转输入设备。在一些示例中，输入机构508任选地是按钮。
在一些示例中，输入机构508任选地是麦克风。个人电子设备500任选地包括各种传感器，诸如GPS传感器532、加速度计534、定向传感器540(例如，罗盘)、陀螺仪536、运动传感器538和/或其组合，所有这些设备均可操作地连接到I/O部分514。
个人电子设备500的存储器518可包括用于存储计算机可执行指令的一个或多个非暂态计算机可读存储介质，当这些计算机可执行指令由一个或多个计算机处理器516执行时，例如可使得计算机处理器执行下文所述的技术，包括过程700、900和1100(图7A至图7B、图9A至图9B和图11A至图11B)。计算机可读存储介质可以是可有形地包含或存储计算机可执行指令以供指令执行系统、装置和设备使用或与其结合的任何介质。在一些示例中，存储介质是暂态计算机可读存储介质。在一些示例中，存储介质是非暂态计算机可读存储介质。非暂态计算机可读存储介质可包括但不限于磁存储装置、光学存储装置、和/或半导体存储装置。此类存储装置的示例包括磁盘、基于CD、DVD或蓝光技术的光盘，以及持久性固态存储器诸如闪存、固态驱动器等。个人电子设备500不限于图5B的部件和配置，而是可包括多种配置中的其他部件或附加部件。
如本文所用，术语“示能表示”是指任选地在设备100、300和/或500(图1A、图3和图5A至图5B)的显示屏上显示的用户交互式图形用户界面对象。例如，图像(例如，图标)、按钮和文本(例如，超链接)任选地各自构成示能表示。
如本文所用，术语“焦点选择器”是指用于指示用户正与之进行交互的用户界面的当前部分的输入元件。在包括光标或其他位置标记的一些具体实施中，光标充当“焦点选择器”，使得当光标在特定用户界面元素(例如，按钮、窗口、滑块或其他用户界面元素)上方时在触敏表面(例如，图3中的触控板355或图4B中的触敏表面451)上检测到输入(例如，按压输入)的情况下，该特定用户界面元素根据所检测到的输入而被调节。在包括能够实现与触摸屏显示器上的用户界面元素的直接交互的触摸屏显示器(例如，图1A中的触敏显示器系统112或图4A中的触摸屏112)的一些具体实施中，在触摸屏上所检测到的接触充当“焦点选择器”，使得当在触摸屏显示器上在特定用户界面元素(例如，按钮、窗口、滑块或其他用户界面元素)的位置处检测到输入(例如，由接触进行的按压输入)时，该特定用户界面元素根据所检测到的输入而被调节。在一些具体实施中，焦点从用户界面的一个区域移动到用户界面的另一个区域，而无需光标的对应移动或触摸屏显示器上的接触的移动(例如，通过使用制表键或箭头键将焦点从一个按钮移动到另一个按钮)；在这些具体实施中，焦点选择器根据焦点在用户界面的不同区域之间的移动而移动。不考虑焦点选择器所采取的具体形式，焦点选择器通常是由用户控制的以便递送与用户界面的用户预期的交互(例如，通过向设备指示用户界面的用户期望与其进行交互的元素)的用户界面元素(或触摸屏显示器上的接触)。例如，在触敏表面(例如，触控板或触摸屏)上检测到按压输入时，焦点选择器(例如，光标、接触或选择框)在相应按钮上方的位置将指示用户期望激活相应按钮(而不是设备显示器上示出的其他用户界面元素)。
如说明书和权利要求中所使用的，接触的“特征强度”这一术语是指基于接触的一个或多个强度的接触的特征。在一些实施方案中，特征强度基于多个强度样本。特征强度任选地基于相对于预定义事件(例如，在检测到接触之后，在检测到接触抬离之前，在检测到接触开始移动之前或之后，在检测到接触结束之前，在检测到接触的强度增大之前或之后和/或在检测到接触的强度减小之前或之后)而言在预先确定的时间段(例如，0.05秒、0.1秒、0.2秒、0.5秒、1秒、2秒、5秒、10秒)期间采集的预定义数量的强度样本或一组强度样本。接触的特征强度任选地基于以下各项中的一者或多者：接触的强度的最大值、接触的强度的均值、接触的强度的平均值、接触的强度的前10％处的值、接触的强度的半最大值、接触的强度的90％最大值等。在一些实施方案中，在确定特征强度时使用接触的持续时间(例如，在特征强度是接触的强度在时间上的平均值时)。在一些实施方案中，将特征强度与一组一个或多个强度阈值进行比较，以确定用户是否已执行操作。例如，该组一个或多个强度阈值任选地包括第一强度阈值和第二强度阈值。在该示例中，特征强度未超过第一阈值的接触导致第一操作，特征强度超过第一强度阈值但未超过第二强度阈值的接触导致第二操作，而特征强度超过第二阈值的接触导致第三操作。在一些实施方案中，使用特征强度与一个或多个阈值之间的比较来确定是否要执行一个或多个操作(例如，是执行相应操作还是放弃执行相应操作)而不是用于确定执行第一操作还是第二操作。
在一些实施方案中，识别手势的一部分以用于确定特征强度。例如，触敏表面任选地接收连续的轻扫接触，该连续的轻扫接触从起始位置过渡并到达结束位置，在该结束位置处，接触强度增加。在该示例中，接触在结束位置处的特征强度任选地仅基于连续轻扫接触的一部分，而不是整个轻扫接触(例如，仅结束位置处的轻扫接触的部分)。在一些实施方案中，在确定接触的特征强度之前任选地向轻扫接触的强度应用平滑算法。例如，平滑化算法任选地包括以下各项中的一种或多种：不加权滑动平均平滑化算法、三角平滑化算法、中值滤波器平滑化算法和/或指数平滑化算法。在一些情况下，这些平滑化算法消除了轻扫接触的强度中的窄的尖峰或凹陷，以实现确定特征强度的目的。
任选地相对于一个或多个强度阈值诸如接触检测强度阈值、轻按压强度阈值、深按压强度阈值和/或一个或多个其他强度阈值来表征触敏表面上的接触强度。在一些实施方案中，轻按压强度阈值对应于这样的强度：在该强度下设备将执行通常与点击物理鼠标或触控板的按钮相关联的操作。在一些实施方案中，深按压强度阈值对应于这样的强度：在该强度下设备将执行与通常与点击物理鼠标或触控板的按钮相关联的操作不同的操作。在一些实施方案中，当检测到特征强度低于轻按压强度阈值(例如，并且高于标称接触检测强度阈值，比标称接触检测强度阈值低的接触不再被检测到)的接触时，设备将根据接触在触敏表面上的移动来移动焦点选择器，而不执行与轻按压强度阈值或深按压强度阈值相关联的操作。一般来讲，除非另有陈述，否则这些强度阈值在不同组的用户界面附图之间是一致的。
接触特征强度从低于轻按压强度阈值的强度增大到介于轻按压强度阈值与深按压强度阈值之间的强度有时被称为“轻按压”输入。接触特征强度从低于深按压强度阈值的强度增大到高于深按压强度阈值的强度有时被称为“深按压”输入。接触特征强度从低于接触检测强度阈值的强度增大到介于接触检测强度阈值与轻按压强度阈值之间的强度有时被称为检测到触摸表面上的接触。接触特征强度从高于接触检测强度阈值的强度减小到低于接触检测强度阈值的强度有时被称为检测到接触从触摸表面抬离。在一些实施方案中，接触检测强度阈值为零。在一些实施方案中，接触检测强度阈值大于零。
在本文中所述的一些实施方案中，响应于检测到包括相应按压输入的手势或响应于检测到利用相应接触(或多个接触)执行的相应按压输入来执行一个或多个操作，其中至少部分地基于检测到该接触(或多个接触)的强度增大到高于按压输入强度阈值而检测到相应按压输入。在一些实施方案中，响应于检测到相应接触的强度增大到高于按压输入强度阈值(例如，相应按压输入的“向下冲程”)来执行相应操作。在一些实施方案中，按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于按压输入强度阈值，并且响应于检测到相应接触的强度随后减小到低于按压输入阈值(例如，相应按压输入的“向上冲程”)来执行相应操作。
在一些实施方案中，设备采用强度滞后以避免有时被称为“抖动”的意外输入，其中设备限定或选择与按压输入强度阈值具有预定义关系的滞后强度阈值(例如，滞后强度阈值比按压输入强度阈值低X个强度单位，或滞后强度阈值是按压输入强度阈值的75％、90％或某个合理比例)。因此，在一些实施方案中，按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于对应于按压输入强度阈值的滞后强度阈值，并且响应于检测到相应接触的强度随后减小到低于滞后强度阈值(例如，相应按压输入的“向上冲程”)来执行相应操作。类似地，在一些实施方案中，仅在设备检测到接触强度从等于或低于滞后强度阈值的强度增大到等于或高于按压输入强度阈值的强度并且任选地接触强度随后减小到等于或低于滞后强度的强度时才检测到按压输入，并且响应于检测到按压输入(例如，根据环境，接触强度增大或接触强度减小)来执行相应操作。
为了容易解释，任选地，响应于检测到以下各种情况中的任一种情况而触发对响应于与按压输入强度阈值相关联的按压输入或响应于包括按压输入的手势而执行的操作的描述：接触强度增大到高于按压输入强度阈值、接触强度从低于滞后强度阈值的强度增大到高于按压输入强度阈值的强度、接触强度减小到低于按压输入强度阈值、和/或接触强度减小到低于与按压输入强度阈值对应的滞后强度阈值。另外，在将操作描述为响应于检测到接触的强度减小到低于按压输入强度阈值而执行的示例中，任选地响应于检测到接触的强度减小到低于对应于并且小于按压输入强度阈值的滞后强度阈值来执行操作。
现在将注意力转到在电子设备(诸如便携式多功能设备100、设备300或设备500)上实现的用户界面(“UI”)以及相关联的过程的实施方案。
图6A至图6O示出了根据一些实施方案的用于使用扫视和语音命令来激活数字助理并与数字助理进行交互的示例性用户界面。这些附图用于示出下文所述的过程，包括图7A至图7B中的过程。
图6A至图6D示出了用户620通过在电子设备600处扫视来激活电子设备600上的示例性数字助理。一旦激活数字助理，用户620就通过向数字助理说出命令624A至624B来打开桌灯。
图6A示出了电子设备600上的处于如显示器602关闭所指示的非活动状态的数字助理。在一些实施方案中，当电子设备600未检测到用户注视或用户620看向电子设备600时，数字助理处于非活动状态。在一些实施方案中，在电子设备600检测到按钮按压(或其他激活命令)之前以及/或者在另一个设备(例如，手表630)接收到激活命令并向电子设备传输激活指令之前，数字助理处于非活动状态。当基于用户620的注视的注视信息满足一组一个或多个激活标准时，用户620可在电子设备600处扫视以触发对数字助理的激活。电子设备600使用任选地位于外部设备上的一个或多个相机传感器616A以及/或者与电子设备600集成的一个或多个相机传感器616B诸如相机来获取用户620的注视的注视信息。相机传感器616A无线连接到电子设备600，或者另选地可以有线连接。该一个或多个相机传感器包括红外相机传感器和/或可见光传感器，这些传感器一旦检测到注视就测量注视信息。注视信息任选地包括以下各项中的一者或多者：用户的头部位置的位置、注视的停留时间或持续时间、注视的方向、注视的视场606，以及对象(例如，电子设备600或外部设备诸如桌灯618)是否位于注视的视场606内。
电子设备600确定从一个或多个相机传感器616A至616B获取的注视信息是否满足一组一个或多个激活标准。换句话讲，电子设备600确定用户620是否意图看向电子设备600以激活数字助理。该组一个或多个激活标准任选地包括方向标准，当用户的注视指向电子设备600的方向时满足方向标准。该组一个或多个激活标准还任选地包括停留时间标准，当电子设备600检测到在电子设备600的方向上的注视的停留时间或持续时间大于非零预先确定的时间段(例如，几秒)时满足停留时间标准。如果注视的停留时间或持续时间小于阈值时间段，则这可指示用户不打算触发数字助理。因此，小于阈值时间段的停留时间不满足激活标准，从而导致数字助理不被激活。
该组一个或多个激活标准还任选地包括视场标准。如图6A所示，用户620未看向电子设备600，并且电子设备600确定设备600不在用户620的视场606中。如下文进一步讨论的，当确定电子设备600位于用户620的视场606中时，则满足视场标准，但是当确定电子设备600不在用户620的视场600中时，则不满足视场标准。使用视场606来确定用户602是否正看向目标电子设备(例如，设备600)导致更高的注视检测率，因为即使用户没有直接看向目标电子设备但仍然打算识别(或激活)目标电子设备，也可以在视场中检测到注视。
视场606是用户视线612上方和下方的角度范围，如阈值偏移角度604所示。在一些实施方案中，当电子设备600直接位于用户620的视线612中或者所确定的偏移角度为零时，满足视场标准。在一些实施方案中，当注视的所确定的偏移角度622小于阈值偏移角度604(例如，与直接看向电子设备的用户620的视线612的最大可接受偏差，如图6B所示)时，满足视场标准。所确定的偏移角度622(在该示例中)和阈值偏移角度604大于零度(例如，三十度)。基于形成在来自用户620的注视(例如，用户实际正在看向的位置)的视线612和从用户620到电子设备600的所计算的视线608(例如，用户直接看向电子设备600的理想路径)之间的角度来计算所确定的偏移角度622。当偏移角度622大于阈值偏移角度604时，不满足视场标准，从而导致数字助理保持未激活状态，因为电子设备600位于视场606之外，如图6A所示。在一些实施方案中，如果确定电子设备600定位在用户620的视场606之外大于非零阈值度数(例如，多于30度)的位置，则电子设备600不在用户的注视中并且不激活数字助理。在一些实施方案中，基于用户的头部位置来测量视线612。在一些实施方案中，用户的头部位置基于用户头部的倾斜或旋转(例如，扭头、点头和/或歪头)。
在图6A中，因为从相机传感器(例如，616A、61B)获取的注视信息不满足该组一个或多个激活标准，如上所述，电子设备600上的数字助理未被激活。当用户620的注视的停留时间小于阈值停留时间或者电子设备600不在用户620的视场中时，电子设备600确定用户620未看向电子设备600。在一些实施方案中，当用户的视线612与所计算的视线608之间的所确定的偏移角度622大于阈值偏移角度604时，不满足视场标准。当数字助理未被激活并且注视信息不满足该组一个或多个激活标准时，电子设备600放弃激活数字助理。当数字助理未被激活时，电子设备600任选地不打开麦克风或扬声器中的一者或多者，不录制音频，并且/或者不启用为了执行口头命令而对所录制的音频的处理(例如，电子设备600仍可处理音频以检测触发字词，但不为了执行不激活命令而处理音频)。在一些实施方案中，当数字助理未被激活时(例如，电子设备600的状态保持不变)，电子设备600不使用视觉或音频指示符来提供任何指示。在一些实施方案中，电子设备600保持与在确定注视信息尚不满足该组一个或多个激活标准之前相同的非活动状态。
在图6A中，用户620在激活数字助手之前开始说出命令624A至624B“打开桌灯”的部分624A“打…”。在一些实施方案中，如果数字助理随后未被激活(例如，在设定(非零)持续时间内)，则命令624A至624B的部分624A未被处理、被取消并且/或者被数字助理忽略，如下文进一步讨论的。在一些实施方案中，如果在完成命令624A至624B(或在该设定持续时间内)之前激活数字助手(例如，通过用户620看向电子设备600，从而满足该组一个或多个激活标准)，则处理在激活数字助手之前由单子设备600接收的命令624A至624B中的部分624A，如下文进一步讨论的。
如图6B所示，用户620正看向电子设备600，并且电子设备600确定电子设备600位于用户620的视场606中。从相机传感器(例如，616A、616B)获取的注视信息满足该组一个或多个激活标准。
在图6C中，电子设备600确定从相机传感器(例如，616A、616B)获取的注视信息满足该组一个或多个激活标准，并且作为响应，激活数字助理。激活数字助理任选地包括以下各项中的一者或多者：打开麦克风或扬声器，录制音频，以及为了执行口头命令而启用对所录制的音频的处理(而不是仅检测触发短语)。电子设备600任选地提供已满足一组一个或多个激活标准以及/或者已激活数字助理的指示(例如，经由指示符610A、610B或610C)。指示符任选地为视觉指示610A、音频指示610B、数字助理说出的确认610C或不同指示符的任何组合。提供视觉指示610A任选地包括以下各项中的一者或多者：打开电子设备600的显示器602、打开电子设备600的LED、在电子设备600的显示器602上显示特定颜色(例如，蓝色或当数字助理未被激活时的默认颜色之外的颜色)的亮光、亮光图案或视觉输出。在一些实施方案中，指示数字助理被激活的视觉指示符610A不同于指示数字助理何时已执行命令或处于非活动状态的视觉指示符610A。例如，电子设备响应于满足该组一个或多个激活条件而显示视觉指示符610A的第一颜色，响应于数字助理被激活而显示为视觉指示符610A的第二颜色，响应于确定数字助理已执行命令而显示视觉指示符610A的第三颜色，以及/或者响应于将数字助理改变为未被激活而显示视觉指示符610A的第四颜色。音频指示610B任选地包括以下各项中的一者或多者：播放声音、短语、字词或音调。在一些实施方案中，指示数字助理被激活(或者该组一个或多个激活标准已被满足)的音频指示符610B不同于指示数字助理何时已执行命令(例如，624A)或者处于非活动状态的音频指示符610B。数字助理任选地提供数字助理语音确认610C(例如，“请问需要什么帮助？”)，其指示数字助理已被激活或者该组一个或多个激活标准已被满足。在一些示例中，如参考图10A至图10D进一步详细描述的，电子设备基于检测到的用户使用特定语音(例如，口音、男性或女性语音)输出语音确认。
在图6C中，在电子设备激活数字助理并使用显示器602提供指示之后，电子设备检测用户620完成说出命令624C“打开桌灯，”的剩余部分624B“…开桌灯”。在一些实施方案中，电子设备600在数字助理被激活之后检测到用户620说出整个命令624C“打开桌灯”。任选地，电子设备600根据确定在开始接收命令624A至624B之前满足该组一个或多个激活标准而提供指示610C，并且电子设备600根据确定在开始接收命令624A至624B之后(但不是之前)满足该组一个或多个激活标准而不提供指示610C。
在一些实施方案中，电子设备600在接收到命令624A至624B的剩余部分624B之前以第一音量产生音频输出，诸如播放音乐。在一些实施方案中，响应于电子设备600接收到命令624A至624B的第一部分624A，电子设备600将音频输出的第一音量减小(降低)到低于第一音量的第二音量，其中第二音量任选地基于用户620和电子设备600之间的距离。降低音频输出的第一音量，使得电子设备600可以更好地检测具有降低的背景噪声干扰的字词。在一些实施方案中，响应于确定满足该组一个或多个激活标准而减小第一音量。在一些实施方案中，音量减小的量基于在命令624A至624B的第一部分624A(而不是第二部分624B)被接收时用户620和电子设备600之间的距离。电子设备600使用电子设备600上的外部相机传感器616A和/或相机传感器616B来确定用户620与电子设备600之间的距离。在一些实施方案中，电子设备600通过在检测到用户620讲话时静音或降低音频输出的音量来可变地减小音频输出的音量。电子设备600在检测到命令624B的结束之后将音频输出的音量恢复回到第一音量。音量变化不基于请求的内容。在一些实施方案中，即使电子设备600在激活数字助理之前检测到用户620说出命令624A至624B的第一部分624A，但数字助理仍然能够在满足一组一个或多个性能标准的情况下处理命令(包括624A)。当满足该组一个或多个性能标准时，数字助理基于请求的内容来执行命令。该组一个或多个性能标准任选地包括以下各项中的一者或多者：命令完成标准、可执行标准和激活标准。当电子设备600检测到所接收的音频命令(例如，音频用户输入请求)的结束时，满足命令完成标准。由电子设备600检测到所接收的音频中的暂停(或缺少接收用户音频)超过非零预先确定的时间段来确定命令624A至24B的结束。在一些实施方案中，当检测到的暂停持续小于非零预先确定的时间段(例如，用户没有说完命令)时，不满足命令完成标准。当电子设备600确定所接收的命令是可执行的(例如，该设备具有执行该命令的权限和/或能力)时，满足可执行标准。在一些示例中，如果命令是访问来自账户的信息，但是电子设备尚未接收到访问账户的授权，则该命令不可执行，因为该设备无权访问该账户。在一些示例中，当电子设备600不能将所接收的请求处理成数字助理可执行或传输的命令(例如，命令是“打开电视”，但房间中不存在可向其发送对应指令的电视)时，不满足可执行标准。当已激活数字助理时，满足激活标准。
图6D示出了一旦在激活数字助理时满足该组一个或多个性能标准，数字助理就执行该命令。如果数字助理成功地处理该命令并确定满足性能标准，则数字助理将发送使得适当设备的状态发生变化的指令。在该示例中，该指令被发送到桌灯618(外部设备)以打开该桌灯。在一些实施方案中，根据图8A至图8C的描述确定要操作哪个外部设备，如下文更详细地描述。在数字助理已执行命令之后，电子设备600任选地提供指示是否已成功执行命令624A至624B的指示符(例如，指示符610A、610B、610C)。在一些实施方案中，指示符是显示特定颜色(例如，蓝色或当数字助理未被激活时的默认颜色之外的颜色)的亮光或亮光图案以指示数字助理已执行命令624A至624B的视觉指示符610A。在一些实施方案中，指示符是播放声音、短语、字词或音调的音频指示符610B。在一些实施方案中，指示符是当数字助理已执行命令624A至624B时由数字助理说出的确认610C，该数字助理可以特定语音(例如，口音、男性或女性语音)说话，诸如参考图10A至图10D所述。在一些实施方案中，用户620可定制视觉、音频或数字助理指示符以包括与他/她的配置文件相关联的特征(例如，用户姓名，对亮光颜色、图案、声音、语音、口音的特定用户偏好)的值，如下文参考图10A至图10D所述。例如，在图6D中，数字助理可提供确认“Jack，桌灯已被打开”。从用户620的用户配置文件获取用户620的姓名，用户620在注册期间提供该用户配置文件，并且如下文参考图10A至图10D所述确定该用户配置文件。下文参考图10A至图10D并参考方法1100详细描述注册过程。数字助理可利用来自用户620的配置文件的设置来进一步定制指示符以反映哪个用户(例如，Jack)说出过该命令。
当不满足该组一个或多个性能标准时，电子设备600放弃基于命令的内容来执行命令。在一些示例中，当不满足可执行标准时，不满足该组一个或多个性能标准。当不满足可执行标准时，电子设备600任选地产生如图6O所示的摇头指示，以指示数字助理不能执行该命令，因为其不能处理命令、缺少授权或不能执行命令。图6O中的摇头指示包括电子设备600的显示器602的第一侧上的亮光的显示或亮光的图案602A(如6O-A所示)，然后是显示器602的第二侧上的亮光的图案602B(如6O-B所示)，然后是显示器602的第一侧上的亮光的图案602A(如6O-C所示)，其模拟摇晃他/她头部的人。在一些实施方案中，当不满足性能标准时，由电子设备600产生特定指示符(例如，亮光的图案、颜色或特定声音)。特定指示符可对应于指示数字助理为何不能执行命令的特定错误代码(例如，蓝色亮光指示命令未被理解，紫色亮光指示缺少授权)。在一些实施方案中，当数字助理不能执行命令时产生的指示符不同于当数字助理能够执行命令时产生的指示符。
图6E至图6G示出了用户620激活可穿戴或移动电子设备630上的数字助理的另一个实施方案。在图6E中，当电子设备630检测到用户输入或手势诸如手腕抬起时，电子设备630上的数字助理被激活。在一些实施方案中，用户620还可任选地按下按钮、旋转表冠或提供音频用户输入以激活电子设备630上的数字助理。一旦数字助理被激活，电子设备630任选地提供视觉指示符610A(例如，亮光)、音频指示符610B(例如，声音、音调、字词)或数字助理语音确认610C以指示已激活数字助理或满足该组一个或多个激活标准。上文参考图6B讨论了各种类型的指示符。
在图6F中，电子设备630检测包括来自用户620的命令624C“打开桌灯”的口头命令。在接收到口头命令之后，数字助理确定是否满足一组一个或多个性能标准(例如，可执行标准、命令完成标准、激活标准)。如上所述，当满足一个或多个性能标准时，数字助理基于音频输入请求的内容来执行命令。如图6F所示，电子设备任选地还确定用户的注视是否满足一组一个或多个注视标准以识别要操作的外部设备。下文更详细地描述了该组一个或多个注视标准。
图6G示出了提供指示符(例如，610A、610B、610C)的电子设备630，该指示符通过从关闭状态打开桌灯而成功地执行该命令。上文参考图6E讨论了在成功执行命令时显示的指示符。
图6H至图6J示出了当不满足该组一个或多个性能标准时数字助理何时不执行与口头命令624A至624B相关联的命令，因为用户620在说出命令642A至624B时已中断他/她的注视。该组一个或多个性能标准包括连续注视标准，当电子设备600确定第二注视信息(例如，由电子设备600(在用户620正说话时)使用一个或多个相机传感器616A、616B获取)指示用户620中断他/她指向电子设备600的注视没有超过激活数字助理和完成说出命令624A至624B之间的阈值持续时间时满足连续注视标准。在一些实施方案中，阈值持续时间为零，这意味着用户在说话时不能中断他/她的注视。在一些实施方案中，阈值持续时间是非零时间段，这允许用户在不取消命令的情况下短暂地移开视线。
在图6H至图6I中，在电子设备600被激活时，用户602在说出命令624A至624B以“打开桌灯”时中断他/她指向电子设备600处的注视。如图6H所示，在电子设备600接收到命令624A至624B的第一部分624A“打…”时，电子设备600确定用户620正看向该电子设备。在图6I中，在完成说出命令624A至624B的剩余部分624B“…开桌灯”之前，当用户620转动180度以从电子设备600移开视线时，电子设备600检测到用户注视的中断。当电子设备600确定不满足视场标准超过非零阈值持续时间(例如，3秒)时，用户的注视从电子设备600中断。
图6J示出，即使已满足该组一个或多个激活标准(例如，在图6H中)，但是当不满足连续注视标准时，电子设备600也放弃执行命令624A至624B以“打开那盏灯”。因此，桌灯618保持关闭状态，因为数字助理尚未向桌灯618传输指令以打开该桌灯。电子设备600任选地产生指示尚未执行命令的指示符(例如，610A、610B、610C)。在一些实施方案中，指示符可以是视觉指示符610A(例如，彩色亮光或亮光图案)、音频指示符610B(例如，声音、语音或特定语音)或数字语音确认620C，如上所述。当不执行命令624A至624B时由电子设备600提供的指示符(例如，610A、610B、610C)任选地不同于当成功执行命令624A至624B时由电子设备600提供的指示符(例如，610A、610B、610C)。
图6K至图6N示出了即使电子设备600在电子设备接收到命令624D至624F(当电子设备600被激活时)时检测到用户620中断其指向电子设备600的注视，如果注视中断小于阈值持续时间，则仍然满足连续注视标准。图6K示出了电子设备600已激活数字助理并且正在接收来自用户620的命令624D至624F的部分624D以“打开桌灯”。在图6L中，电子设备600继续接收来自用户620的命令624D至624F的第二部分624E“…开…”，但电子设备600在用户从电子设备600移开视线时检测到用户注视的中断。
在图6M中，电子设备600检测到用户620已在阈值持续时间(例如，3秒)内将其注视返回到电子设备600。电子设备继续接收命令624D至624F的最后部分624F“…桌灯”。由于注视中断小于阈值持续时间，因此仍然满足连续注视标准。在图6N中，当满足连续注视标准时，数字助理执行命令624D至624F以“打开桌灯”，并且一旦桌灯618已打开就提供指示(例如，视觉指示610A、音频指示610B和数字助理确认指示610C)。
图7A至图7B是示出根据一些实施方案的使用电子设备的方法700的流程图。在电子设备(例如，100、300、500、600、630、800、1000)处执行方法700。方法700中的一些操作任选地被组合，一些操作的次序任选地被改变，并且一些操作任选地被省略。
如下所述，方法700提供了用于通过在电子设备处扫视来激活电子设备上的数字助理的直观方式。该方法减少了用户在提供用于激活数字助理的用户输入(例如，通过说话说出的音频输入或经由按钮按压的触摸输入)时的认知负担。在一些情况下，用户不能有效地使用语音激活(例如，当房间嘈杂时)或提供触觉用户输入(例如，按下按钮)。因此，通过看向电子设备能够激活数字助理，用户能够使用更有效的用户-设备界面来与数字助理进行交互。
当电子设备(例如，600)的数字助理未被激活(702)时，电子设备(例如，600)使用一个或多个相机传感器(例如，相机616A、616B)获取(704)(例如，用户620的)第一注视信息。例如，该一个或多个相机传感器是红外相机传感器和/或可见光传感器。例如，该一个或多个相机传感器位于电子设备(例如，600)外部，诸如通过无线连接到电子设备。
根据确定(706)(例如，当数字助理未被激活时)第一注视信息满足一组一个或多个激活标准：(例如，注视的角度小于相对于视线的阈值度数，注视在特定方向上，注视的持续时间大于或等于预先确定的时间段)，电子设备(例如，600)激活(708)电子设备(例如，600)的数字助理(例如，通过打开麦克风，启用对所录制的音频的处理)。
当满足该组一个或多个激活标准时使用注视检测来激活数字助理向用户提供了用于激活数字助理的更高效的用户界面，特别是在用户不能按下按钮或由于房间太嘈杂而不能使用语音控件的环境情况下。提供改进的用户界面以激活数字助理而不需要触觉用户输入(例如，按钮按压)或语音输入增强了数字助理的可操作性并且使数字助理界面的用户界面更高效。此外，使用注视检测减少了激活数字助理以执行命令所需的用户输入的数量，这增强了电子设备的可操作性。
在一些实施方案中，该组一个或多个激活标准包括视场标准，当所确定的偏移角度(例如，622)小于阈值偏移角度(例如，604)(例如，非零角度值，与直接看向设备的用户的最大可接受偏差)时满足视场标准，其中所确定的偏移角度(例如，622)是在用户(例如，620)的注视的视线(例如，612)(例如，根据注视信息确定)与从用户(例如，620)到电子设备(例如，600)的所计算的视线(例如，608)之间形成的角度。
使用视场标准作为激活标准允许检测用户的注视，而无需用户(例如，620)直接看向电子设备(例如，600)。相反，只要电子设备(例如，600)位于用户的注视的视场(例如，606)内，用户的注视就满足激活标准，从而允许激活数字助理。使用视场标准允许经由注视更成功地激活数字助理，这增强了数字助理的可操作性并且使注视检测更高效(例如，数字助理具有更高的激活率，因为电子设备(例如，600)不必位于用户(例如，620)的直接视线(例如，612)中)。
在一些示例中，如果确定电子设备(例如，600)定位在大于阈值度数(例如，在注视的视场606之外)的位置，则电子设备(例如，600)不在用户的注视中，并且不激活数字助理。在一些示例中，当电子设备(例如，600)通过位于阈值度数内而位于注视的视场(例如，606)中时，激活数字助理。
在一些实施方案中，用户(例如，620)的注视的视线(例如，612)基于用户(例如，620)的头部位置。在一些示例中，用户的头部位置可受到倾斜或旋转(例如，用户头部的扭头、点头和歪头)的影响。
在一些实施方案中，该组一个或多个激活标准包括停留时间标准，当根据第一注视信息确定的注视的停留时间(例如，持续时间)大于阈值时间段(例如，非零阈值时间段)时满足停留时间标准。在一些示例中，如果注视的停留时间小于阈值时间段，则不激活数字助理。
进一步根据确定(706)第一注视信息满足该组一个或多个激活标准，电子设备(例如，600)提供(710)已满足该组一个或多个激活标准以及/或者电子设备的数字助理正在转变或转变为被激活的指示。
提供已满足该组一个或多个激活标准并且激活数字助理的指示(例如，610A、610B、610C)向用户提供关于数字助理的当前状态的反馈。该指示(例如，610A、610B、610C)可以是视觉指示、音频指示或数字助理语音确认，其向各种环境情况提供可定制的反馈。例如，在不能听到声音指示符(例如，嘈杂房间)的环境情况下，提供视觉反馈(例如，610A)允许用户(例如，620)知道数字助理是否被激活并且可处理命令。提供数字设备状态的定制反馈通过通知用户(例如，620)数字助理何时可用于处理命令(例如，活动状态)以及何时不可用(例如，非活动状态)，增强了数字助理的可操作性并且使用户-设备界面更高效(例如，当数字助理处于非活动状态时用户(例如，620)不发出命令)。此外，对数字助理状态的反馈允许用户(例如，620)更高效地使用数字助理。
在一些实施方案中，指示(712)是指示数字助理被激活的视觉指示(例如，610A)(诸如电子设备600打开电子设备的显示器、LED或亮光)。在一些实施方案中，指示(714)是用于指示数字助理现在被激活的音频指示(例如，610B)(诸如电子设备600通过电子设备600的扬声器播放声音)。
在一些实施方案中，根据确定(716)(例如，当数字助理未被激活时)第一注视信息不满足该组一个或多个激活标准：(例如，电子设备(例如，600)不在用户的视场中(例如，606)，注视在错误的方向上，注视的持续时间小于预先确定的时间段)，电子设备(例如，600)放弃激活数字助理。在一些实施方案中，放弃激活数字助理包括数字助理保持未激活状态或者电子设备(例如，600)未启用麦克风或对所录制的音频的处理。在一些示例中，当第一组注视信息不满足该组一个或多个激活标准时，电子设备(例如，600)也放弃提供已满足该组一个或多个激活标准的指示符(例如，610A、610B、610C)。
在一些实施方案中，电子设备(例如，600)接收(718)执行命令(例如，624A至624B、624C)的音频用户输入请求。响应于电子设备(例如，600)接收(720)到执行命令(例如，624A至624B、624C)的音频用户输入请求(或者根据数字助理解释命令(例如，624A至624B、624C))，并且根据确定满足一组一个或多个性能标准(例如，可执行标准、命令完成标准、激活标准)，电子设备(例如，600)基于音频用户输入请求的内容来执行(722)命令(例如，624A至624B、624C)。在一些示例中，响应于接收到音频输入请求并且根据未能解释命令(例如，624A至624B、624C)，电子设备(例如，600)放弃执行命令(例如，624A至624B、624C)并且提供电子设备(例如，600)未解释命令(例如，624A至624B、624C)的指示(例如，610A、610B、610C)(例如，视觉指示的显示，诸如摇头指示)。因此，如果数字助理不理解音频输入，则电子设备(例如，600)提供指示(例如，610A、610B、610C)。在一些示例中，当数字助理未被激活时，数字助理放弃执行所接收的命令(例如，624A至624B、624C)。
在一些实施方案中，响应于电子设备(例如，600)接收到执行命令(例如，624A至624B、624C)的音频用户输入请求并且根据确定不满足该组一个或多个性能标准(例如，可执行标准、命令完成标准、激活标准)，电子设备(例如，600)提供摇头指示。摇头指示包括电子设备(例如，600)在电子设备(例如，600)的显示器(例如，602)的第一侧上显示第一亮光图案。在显示第一亮光图案之后，电子设备(例如，600)在电子设备(例如，600)的显示器(例如，602)的第二侧上显示第二亮光图案。在显示第二亮光图案之后，电子设备(例如，600)在电子设备(例如，600)的显示器(例如，602)的第一侧上显示第一亮光图案。
提供不满足该组一个或多个性能标准的视觉指示(例如，610A)(例如，摇头指示(例如，602A至602B))向用户提供由用户发布的命令不能被处理的反馈。提供指示命令(例如，624A至624B、624C)将何时不被处理的可定制指示诸如摇头指示(例如，602A至602B)通过通知用户(例如，602)命令(例如，624A至624B、624C)将不被执行，增强了数字助理的可操作性并且使用户-设备界面更高效。此外，对应于错误代码的定制指示(例如，610A、610B、610C)向用户提供改进的反馈，该反馈传达不执行命令(例如，624A至624B、624C)的原因，这使用户-设备界面更高效。
在一些实施方案中，该组一个或多个性能标准包括完成标准，当电子设备(例如，600)检测到所接收的音频命令的结束(例如，音频用户输入请求的结束、音频暂停超过预先确定的时间段)时满足完成标准。在一些示例中，该组一个或多个性能标准包括可执行标准，当电子设备(例如，600)确定所接收的命令是可执行的(例如，该数字助理具有执行该命令的权限和/或能力)时满足可执行标准。
在一些实施方案中，电子设备(例如，600)在未激活数字助理时开始接收音频用户输入请求。在一些示例中，数字助理处于非活动状态，因为注视信息尚不满足该组一个或多个激活条件。这可例如在用户(例如，620)在看向数字助理之前开始说出命令(例如，624A至624B、624C)时发生。在一些示例中，第一注视信息满足该组一个或多个激活标准，并且作为响应，在电子设备(例如，600)完成接收执行命令的音频用户输入请求之前激活数字助理。
即使用户(例如，602)尚未激活数字助理，能够在激活数字助理之前接收音频用户输入请求也允许用户(例如，602)开始说话。当尚不满足该组激活条件时检测音频用户输入请求增强了数字助理的可操作性并且使设备-用户界面更高效，因为不必按顺序执行激活和说出命令(例如，624A至624B、624C)。
在一些实施方案中，响应于电子设备(例如，600)接收到执行命令(例如，124C)的音频用户输入请求并且根据确定不满足该组一个或多个性能标准(例如，电子设备应满足以执行命令(例如，624A至624B、624C)的各种标准)，该电子设备(例如，600)放弃(724)基于该音频用户输入请求来执行命令(例如，624A至624B、624C)，其中该组一个或多个性能标准包括连续注视标准，当电子设备(例如，600)确定第二注视信息(例如，由电子设备(例如，600)使用一个或多个相机传感器获取)指示用户(例如，602)未进行以下操作时被满足：中断指向电子设备(例如，600)的注视超过激活数字助理和完成音频用户输入请求之间的阈值持续时间(例如，非零持续时间)。在一些示例中，数字助理不执行命令(例如，624A至624B、624C)，因为用户(例如，602)中断了对设备的注视(例如，用户(例如，602)在完成命令之前移开视线，用户(例如，602)每次移开视线超过1秒)。在一些示例中，阈值持续时间为0秒。在一些示例中，阈值持续时间是非零(例如，0.5秒)的持续时间。
在一些实施方案中，电子设备(例如，600)产生音频输出(例如，电子设备(例如，600)正在播放歌曲)，其中在接收音频用户输入请求之前以第一音量产生该音频输出。响应于开始接收音频用户输入请求，电子设备(例如，600)将音频输出的音量减小到低于第一音量的第二音量，其中第二音量基于用户(例如，提供音频用户输入请求的用户)和电子设备(例如，600)之间的距离。在一些示例中，电子设备(例如，600)使用外部传感器(例如，616A)或电子设备(例如，600)上的传感器(例如，616B)确定用户(例如，602)和电子设备(例如，600)之间的距离，并且确定在用户(例如，602)讲话时是否静音或减小音乐的音量(例如，可变地降低音频输出的音量)。在一些示例中，在检测到命令(例如，624C)的结束之后，电子设备可使音量回到第一音量。在一些示例中，音量变化不基于请求的内容。
当电子设备接收到音频用户输入请求时减小音频输出音量或使音频输出静音使得音频用户输入请求能够更容易地被处理，并且导致随着环境噪声的减小来源于音频用户输入请求的命令(例如，624C)将被电子设备理解的可能性更高。移除可能干扰由数字助理处理的命令(例如，624C)的可能的环境噪声或声音通过实现执行正确命令的更高准确性，增强了数字助理的可操作性并且使用户-设备界面更高效，这改善了用户体验，因为当数字助理不能处理命令(例如，624C)时，用户(例如，602)不必再次重复命令。
需注意，上文参考方法700(例如，图7A至图7B)所述过程的详情也以类似方式适用于下文所述的方法。例如，方法700可包括下文参考图9A、图9B、图11A和图11B中的过程所述的各种方法的特征中的一个或多个特征。为了简明起见，这些详情在下文中不再重复。
应当理解，已描述的以下图9A至图9B和图11A至图11B中的操作的具体次序是示例性的，而并非意图指示所述次序是这些操作可被执行的唯一次序。本领域的普通技术人员将想到各种方式来对本文所述的操作进行重新排序，以及排除某些操作。为了简明起见，此处不再重复这些细节。此外，应当指出的是，可将整个本说明书中描述的方法和过程的各方面彼此结合。
图8A至图8L示出了根据一些实施方案的用于一旦数字助理已被激活电子设备就使用注视信息来确定用于执行命令的环境情况(例如，命令指向的器具)的示例性用户界面。图8A至图8L所示的技术任选地结合图6A至图6O所示的技术工作或包括图6A至图6O所示的技术，其公开了用户可如何通过看向电子设备来激活数字助理并发出命令。因此，下文所述的技术包括上文参考图6A至图6O和方法700所述的各种技术的特征中的一个或多个特征。这些附图中的用户界面用于示出下文所述的过程，包括图9A至图9B中的过程。
图8A至图8C示出了一旦电子设备800的数字助理已被激活，电子设备800从用户820接收音频用户输入请求以执行第一命令824A至824B。基于触发字词、注视(例如，如上文参考图6A至图6O所述)、按钮按压、当用户正穿戴可穿戴电子设备(例如，手表)时的手腕抬起(图6E至图6G)以及/或者检测到在电子设备800处正被指向的外部设备(例如，电话)来激活数字助理。电子设备(例如，800)任选地提供视觉或音频指示810A至810B以指示数字助理被激活。
在图8A中，用户820站在具有桌灯818和落地灯814的房间中。已基于电子设备800确定已参考如上所述的方法700满足该组一个或多个激活标准而激活电子设备800的数字助理(例如，设备800确定用户820正看向设备800)。一旦数字助理被激活，电子设备检测到用户820说出完整命令824A至824B的部分824A“打…”。在一些实施方案中，完整命令824A至824B适用于可位于房间中的多个外部设备(例如，桌灯818、落地灯814)。在一些实施方案中，用户的命令824A至824B不包括足够的细节供数字助理确定命令824A至824B指向哪个外部设备(例如，桌灯818、落地灯814)。因此，仅基于命令824A至824B，电子设备800不能确定“那盏灯”是指桌灯818还是落地灯814。
在图8B中，用户820通过看向桌灯818来指示他/她想要操作(例如，打开)哪个外部设备(例如，灯)，同时完成命令824A至824B“打开那盏灯”的剩余部分824B“…开那盏灯”。当用户的注视满足一组一个或多个注视标准时，电子设备在用户820说话时基于用户的注视接收并使用注视信息，来确定桌灯818是预期设备。电子设备800通过可位于外部设备816A上和/或在相机816B处与电子设备800集成的一个或多个相机传感器获取与用户的注视相关的信息。相机816A无线地连接到电子设备600，尽管这些相机可以另选地有线连接。该一个或多个相机传感器包括红外相机传感器和/或可见光传感器，并且这些传感器一旦检测到注视就测量注视信息。注视信息任选地包括以下各项中的一者或多者：用户的头部位置的位置、注视的停留时间或持续时间、注视的方向、注视的视场806、注视的方向，以及对象(例如，电子设备800)或外部设备(例如，灯814、818))是否位于注视的视场806内(例如，外部设备在距用户视线812的阈值偏移角度804内)。
在一些实施方案中，当满足方向标准、停留时间标准和/或视场标准时，电子设备800确定满足该组一个或多个注视标准。该组一个或多个注视标准任选地包括方向标准，当注视指向桌灯818的方向时满足方向标准。
该组一个或多个注视标准任选地包括停留时间标准，当电子设备800检测到在桌灯818的方向上的注视的停留时间或持续时间大于非零预先确定的时间段(例如，2秒、阈值时间段)时满足停留时间标准。在一些示例中，电子设备800利用停留时间来确定用户820是否正看向桌灯818，以便确定要操作哪个外部对象(例如，向其发送指令)。如果注视的停留时间或持续时间太短或小于阈值时间段，则这指示用户不期望特定外部设备(例如，桌灯818)成为命令824A至824B的目标设备。在一些实施方案中，小于阈值时间段的停留时间不满足注视标准，导致命令824A至824B不被传输到由电子设备800识别的特定外部设备。在一些实施方案中，小于阈值时间段的停留时间导致电子设备800不识别任何外部设备。
该组一个或多个注视标准任选地包括视场标准。当确定外部设备诸如桌灯818位于用户820的视场806中时，视场标准针对特定外部设备被满足。当桌灯818位于距用户的视线812的阈值偏移角度804内时，确定桌灯818位于用户820的视场806中。使用视场来确定用户是否正看向目标外部设备(例如，桌灯818、落地灯814)导致更高的注视检测率，因为即使用户没有直接看向目标设备，也可以在视场中检测到注视。在一些实施方案中，当桌灯818直接位于用户820的视线812中时，桌灯818满足视场标准。在一些实施方案中，当注视的所确定的偏移角度小于到外部设备的阈值偏移角度804(例如，与直接看向桌灯818的用户820的视线812的最大可接受偏差)时，视场标准针对特定外部设备被满足。阈值偏移角度804大于零度(例如，三十度)。基于形成在来自用户820的注视的视线812和从用户820到电子设备800的所计算的视线之间的角度来计算所确定的偏移角度。在图8B的示例中，用户820正直接看向桌灯818。在一些示例中，当桌灯818通过位于距用户的直接视线的阈值度数内而处于注视的视场中时，桌灯818满足视场标准，并且电子设备800任选地将指令传输到桌灯818。当偏移角度大于阈值偏移角度804时不视场标准，从而导致数字助理不将指令传输到位于用户820的视场806之外的桌灯818。在一些实施方案中，如果确定桌灯818定位在用户820的视场808之外大于阈值度数的位置，则确定桌灯818不在用户的注视中，并且电子设备800不将指令传输到桌灯818。在一些实施方案中，基于用户的头部位置来测量视线812。在一些实施方案中，用户的头部位置基于用户头部的倾斜或旋转(例如，扭头、点头和/或歪头)。以上参考图6B至图6C更详细地示出和描述了这些技术的各方面。
电子设备800任选地提供当桌灯818满足该组一个或多个注视标准时的指示(例如，指示符810A、指示符810B、指示符810C)。该指示任选地指示来自所接收的音频用户输入请求的命令824A至824B与桌灯818相关联或指向桌灯818。该指示可以是视觉指示符810A或音频指示符810B，其指示数字助理已基于用户的注视识别出桌灯818。在一些实施方案中，指示符是视觉指示符810A，其显示特定颜色(例如，蓝色或当识别出桌灯818时默认颜色之外的颜色)的亮光或亮光图案，以指示数字助理已基于用户的注视识别出桌灯818。在一些实施方案中，指示符是音频指示符810B，当数字助理已识别出桌灯818时，该音频指示符播放声音、字词、音调或以特定语音(例如，口音、男性或女性语音)说话。在一些实施方案中，数字助理提供音频确认(“打开桌灯”)以指示电子设备800已识别要操作(例如，打开)的外部设备。
在图8C中，当电子设备确定桌灯818满足该组一个或多个注视标准时，数字助理传输指令以操作该命令。例如，电子设备确定命令将执行功能“打开”，并且该功能应指向特定设备—桌灯818。因此，电子设备传输指令(例如，传输到桌灯818或传输到控制桌灯818的另一设备)以将桌灯从关闭状态切换到打开状态。在一些实施方案中，数字助理传输指令，这些指令使得外部设备由于从第一状态转变到第二状态而改变任务。例如，当外部设备改变歌曲、从执行一个任务转变为执行另一个任务(例如，播放音乐以提供天气)或从非活动状态转变为活动状态时，数字助理可传输使得外部设备(例如，计算机或电话)从第一状态转变为第二状态的指令，反之亦然。
如图8C所示，当房间中存在(或电子设备800可访问的)多个外部设备(例如，桌灯818、落地灯814)时，电子设备800能够区分多个外部设备并且仅将指令传输到预期外部设备(例如，桌灯818、落地灯814)。电子设备800通过确定特定外部设备(例如，桌灯818、落地灯814)是否满足该组一个或多个注视标准来识别预期外部设备(例如，桌灯818、落地灯814)。换句话讲，当满足该组一个或多个注视标准时，电子设备800使用注视信息来确定用户正看向哪个外部设备(例如，桌灯818、落地灯814)。在一些实施方案中，当电子设备800将指令传输(例如，“打开”)到所识别的第一外部设备桌灯818时，房间中的第二外部设备落地灯814保持不受影响，因为落地灯814不是由注视信息识别的外部设备。落地灯814(第二外部设备)可处于打开状态或关闭状态。例如，在图8C中，指令被传输到桌灯818，使得桌灯818打开，但是指令不被传输到落地灯814，因此其保持关闭状态(落地灯814先前处于关闭状态)。因此，所传输的指令不会使得落地灯814改变状态。在一些实施方案中，当用户820扫视落地灯814而不是桌灯818时，落地灯814而不是桌灯818满足该组一个或多个注视标准。因此，数字助理将指令传输到落地灯814，而桌灯818保持不受影响(例如，如果桌灯818先前打开，则其保持打开状态，并且如果桌灯先前关闭，则其保持关闭状态)。
当数字助理已向对应的外部设备传输指令时，电子设备800任选地提供指示桌灯818已从第一状态转变到第二状态的指示符(例如，指示符810A、810B、810C)。在一些实施方案中，指示符是视觉指示符810A，其显示特定颜色(例如，蓝色或除默认颜色之外的颜色)的亮光或亮光图案以指示桌灯818已由于接收到指令而从关闭状态打开。在一些实施方案中，指示符是为声音、一个或多个字词或音调的音频指示符810B。在一些实施方案中，指示符是来自数字助理的音频确认810C，诸如“好的，Jack，桌灯已打开”。用户可定制指示符以包括与用户820在注册期间提供的用户的配置文件相关联的特征(例如，用户姓名、对亮光颜色、图案、声音、语音、口音的特定用户偏好)。下文参考图10A至图10D和方法1100详细描述注册过程。数字助理定制指示符以反映哪个用户(例如，Jack)被识别，如下文参考图10A至图10D和方法1100所述。在一些实施方案中，电子设备800在数字助理已成功向桌灯818发送指令时提供指示符(例如，810A、810B、810C)，而不管桌灯818实际上是否打开。在一些实施方案中，电子设备800响应于确定桌灯818已打开而提供指示符(例如，810A、810B、810C)。任选地，当桌灯818未能执行“打开”命令并保持关闭状态时，电子设备800提供不同的指示符(例如，810A、810B、810C)。在一些实施方案中，当未成功执行命令824A至824B时，电子设备800可提供不同的指示符(例如，810A、810B、810C)以指示特定错误代码。
指示符(例如，810A、810B、810C)任选地是特定于域的(例如，音乐域)。在一些实施方案中，电子设备800确定该命令是指特定域中的动作(例如，音乐域中的“喜欢那首歌曲”命令)。根据确定该命令属于第一域(例如，音乐)，该指示是第一类型指示(例如，特定的一组声音或亮光指示符)。根据确定该命令属于不同于第一域的第二域(例如，电子邮件)，该指示是不同于第一类型指示的第二类型指示(例如，不同组的声音或亮光指示符)。具有用于不同域的不同指示符(例如，810A、810B、810C)允许用户容易地识别何时成功执行命令与何时未能执行命令。
图8D示出了一旦数字助理已传输打开桌灯818的指令，用户820可通过在第二外部设备处提供输入(例如，通过旋转用户820正佩戴的手表830的表冠832)来进一步改变外部设备的设置(例如，灯的亮度)。手表830不具有对关于要控制哪个外部设备的环境情况信息的访问权限。相反，用户仅使用手表830的表冠832作为扩展的输入机构来控制该灯。手表830检测用户输入并将用户输入的指示发送到电子设备800。电子设备800接收用户输入的指示并确定桌灯818是应当接收指令的预期外部设备(例如，桌灯818、落地灯814)。在图8D中，用户820转动表冠842以将桌灯818的亮度增加到80的亮度。在一些示例中，电子设备800基于已基于用户820的动作将指令传输到桌灯818的电子设备800的新近度(recency)来确定桌灯818是预期外部设备。在一些实施方案中，电子设备800将指令(基于手表830处的用户输入)传输到电子设备800指示的最近设备(例如，桌灯818)。例如，如果电子设备800刚刚指示计算机播放音乐，则用户转动手表840上的表冠842，使得电子设备800向计算机传输指令以增大(或减小)计算机的音量。在一些实施方案中，电子设备800与桌灯818配对。在一些实施方案中，当手表840与电子设备800配对时，电子设备800检测到用户820正佩戴手表840。在一些实施方案中，手表840(也)与桌灯818配对。一旦电子设备800已向桌灯818发送指令，电子设备800就提供指示符(例如，810A、810B、810C)以指示指令被成功发送。在一些实施方案中，电子设备800提供指示指令未成功发送到桌灯818的不同指示符(例如，810A、810B、810C)。
图8E示出了电子设备800从手表830接收用户输入的附加指示，以将桌灯818的亮光调暗到与用户820对表冠832的旋转量对应的较低亮度。响应于接收到来自手表830的输入的指示，电子设备800向桌灯818传输指令，以基于已指示桌灯818打开的新近度，将亮光从80的亮度调暗到20的降低的亮度。在一些实施方案中，一旦桌灯818已打开，用户820使用手表830直接控制桌灯818，而不必向数字助理提供附加命令。一旦电子设备800已向桌灯818发送指令，电子设备800就提供指示符(例如，810A、810B、810C)以指示指令被成功发送。在一些实施方案中，电子设备800提供指示指令未成功发送到桌灯818的不同指示符(例如，810A、810B、810C)。
在一些实施方案中，如图8F至图8H所示，当房间中存在多个外部设备(例如，落地灯814、桌灯818)时，电子设备800基于用户的注视使用用户的注视信息来将特定外部设备识别为预期外部设备。电子设备800通过基于注视信息确定特定外部设备是否满足该组一个或多个注视标准来识别预期外部设备。当任何外部设备都不满足该组一个或多个注视标准时，电子设备800放弃传输指令，因为电子设备800不能根据注视信息确定外部设备。因此，房间中的外部设备保持其初始状态。
图8F示出了电子设备800检测用户820的注视信息，并且根据确定已满足该组一个或多个激活标准(例如，如上文参考图6A至图6D所述)，电子设备激活数字助理。电子设备可任选地提供视觉指示符810A(例如，打开显示器802)、音频指示符810B或数字语音确认810C以指示数字助理被激活。
图8G示出了最初打开的桌灯818和最初关闭的落地灯814。电子设备800检测到用户820说出第二命令824C以“打开那盏灯”。然而，用户820不看向作为命令826C的预期外部设备的落地灯814。电子设备800通过可位于外部设备上和/或在相机816B处与电子设备800集成的一个或多个相机传感器816A获取第二注视信息。第二注视信息任选地包括以下各项中的一者或多者：用户的头部位置的位置、注视的停留时间或持续时间、注视的方向、注视的视场806、注视的方向以及落地灯814是否位于注视的视场806内。
在图8H中，电子设备800确定从一个或多个相机传感器816获取的第二注视信息不满足该组一个或多个注视标准。如上所述，该组一个或多个注视标准任选地包括方向标准，当注视指向落地灯814的方向时落地灯814满足方向标准。该组一个或多个注视标准任选地包括停留时间标准，当电子设备800检测到在落地灯814的方向上的注视的停留时间或持续时间大于预先确定的时间段(例如，非零阈值，两秒)时，落地灯814满足停留时间标准。该组一个或多个注视标准任选地包括视场标准。当确定落地灯814位于用户820的视场808中时，落地灯814满足视场标准。图8G至图8H示出了未确定落地灯814和桌灯818位于用户820的视场808中，因为所确定的偏移角度大于与用户820的视线812的阈值偏移角度。阈值偏移角度804大于零度(例如，三十度)。当由于任何外部设备不满足持续时间标准、停留时间标准和/或视场标准中的一者或多者而不满足该组一个或多个注视标准时，电子设备800不能确定用户820意图操作(例如，打开)哪个外部设备(落地灯814、桌灯818)。
图8H示出了：因为任何外部设备都不满足该组一个或多个注视标准，所以电子设备800放弃传输指令“打开那盏灯”以将外部设备、落地灯814或桌灯818从第一状态(例如，关闭)转变到第二状态(例如，打开)。因此，落地灯814保持关闭状态并且桌灯818保持关闭状态，这是在电子设备800检测到用户820说出命令824C之前外部设备的初始状态。例如，桌灯818保持其打开状态，因为没有指令被发送到桌灯818以改变其初始打开状态。
电子设备800任选地产生特定指示符(例如，810A、810B、810C)(例如，一系列亮光，诸如摇头指示(例如，图6O或声音))，以指示电子设备800没有传输指令，因为其不能基于用户820的注视信息将落地灯814(或任何其他设备)识别为预期外部设备。在一些实施方案中，特定指示符(例如，亮光的图案、颜色或特定声音)可对应于特定错误代码，该特定错误代码指示数字助理无法确定与命令824C相关联的外部设备的原因。当数字助理不能传输指令时产生的指示符任选地不同于当数字助理能够传输指令时产生的指示符。在一些实施方案中，当数字助理不传输与命令824C相关联的指令时，不产生指示符。
图8I示出了另一个实施方案，其中房间中存在多个外部设备(例如，落地灯814和桌灯818)并且该多个外部设备与电子设备800配对。在该示例中，数字助理已被用户820的扫视激活。在其他示例中，通过字词、扫视或按钮按压来激活数字助理，如上所述。如图8I所示，在用户说出图8J至图8L中的命令824A至824B之前，桌子灯818已处于打开状态，而落地灯814处于关闭状态。
在图8J中，电子设备800检测到用户820说出第二命令824A至824B的部分824A“打…”以在检测到用户820正看向落地灯814时“打开那盏灯”。在图8J中，电子设备800通过可位于外部设备上和/或在相机816B处与电子设备800集成的一个或多个相机传感器816A，基于用户在落地灯814处的扫视来获取第二注视信息。第二注视信息任选地包括以下各项中的一者或多者：用户的头部位置的位置、注视的停留时间或持续时间、注视的方向、注视的视场、注视的方向以及落地灯814是否基于偏移角度位于注视的视场内。
电子设备800确定从一个或多个相机传感器816A至816B获取的第二注视信息是否满足一组一个或多个注视标准。当落地灯814满足该组一个或多个注视标准时，电子设备800能够确定用户820意图将第二命令824A至824B应用于落地灯814。如上所述，该组一个或多个注视标准任选地包括方向标准，当注视指向落地灯814的方向时落地灯814满足方向标准。该组一个或多个注视标准任选地包括停留时间标准，当电子设备800检测到在落地灯814的方向上的注视的停留时间或持续时间大于非零预先确定的时间段(例如，2秒)时满足停留时间标准。该组一个或多个注视标准任选地包括视场标准。当确定外部设备落地灯814位于用户820的视场808中时，满足视场标准。当落地灯814位于距用户的视线812的阈值偏移角度804内时，确定落地灯814位于用户820的视场808中。在一些实施方案中，当落地灯814直接位于用户820的视线812中时，满足视场标准，如图8J所示。在一些实施方案中，当注视的所确定的偏移角度小于阈值偏移角度(例如，与直接看向落地灯814的用户820的视线812的最大可接受偏差)时，满足视场标准。阈值偏移角度804任选地大于零度(例如，三十度)。基于形成在来自用户820的注视的视线812和从用户820到电子设备800的所计算的视线808之间的角度来计算所确定的偏移角度。在一些示例中，当落地灯814通过位于距用户的直接视线812的阈值度数内而处于注视的视场中时，落地灯814满足视场标准。
在一些实施方案中，如图8K所示，用户820在说出第二命令824A至824B的剩余部分824B时中断其在落地灯814处的注视。图8K示出了电子设备800检测到用户820正从落地灯814移开视线，从而在说出第二命令824A至824B的第二部分824B时中断其对落地灯814的注视。在一些实施方案中，当电子设备800在用户820移开视线之前已确定落地灯814是预期外部设备时，即使用户820在完成第二命令824A至824B之前已中断其注视，但仍满足该组一个或多个注视标准。在一些实施方案中，如果电子设备800检测到用户820在阈值持续时间内将其注视返回到落地灯814，则在完成命令824A至824B之前(例如，在图6E至图6G)电子设备800仍将落地灯814识别为外部设备。
当满足该组一个或多个注视标准时，电子设备向落地灯814传输指令，使得落地灯814从关闭状态转变为打开状态，如图8L所示。桌灯818保持先前的打开状态，因为桌灯818不满足该组一个或多个注视标准，因此电子设备不传输用于改变桌灯818的状态的指令。在一些实施方案中，如果确定由电子设备800接收的命令824C指向落地灯814并且包括“关闭那盏灯”，则当落地灯814满足该组一个或多个注视标准时，电子设备800将传输关闭落地灯814的指令，而先前处于打开状态的桌灯818将保持打开状态。
图8L示出了当电子设备800已向落地灯814传输指令时，电子设备800任选地提供指示落地灯814已从关闭状态转变为打开状态的指示符(例如，指示符810A、810B、810C)。在一些实施方案中，指示符是视觉指示符810A，其显示特定颜色(例如，蓝色或除默认颜色之外的颜色)的亮光或亮光图案以指示桌灯818已由于接收到指令而从关闭状态打开。在一些实施方案中，指示符是播放声音、一个或多个字词或音调的音频指示符810B。在一些实施方案中，数字助理说出确认810C。在一些实施方案中，用户820可定制音频和视觉指示符以包括与他/她的用户配置文件相关联的特征(例如，用户姓名，对亮光颜色、图案、声音、语音、口音的特定用户偏好)。在图8K中，数字助理提供音频指示符“Jack，落地灯已打开”。音频指示符提供指令已执行的确认。音频指示符还包括从用户820的用户配置文件获取的用户820的姓名，该用户配置文件由用户820在注册期间提供。下文参考图10A至图10D详细描述注册过程。数字助理可利用来自用户820的配置文件的设置来进一步定制指示符以反映哪个用户(例如，Jack)说出过该命令。在一些实施方案中，当电子设备800已成功向落地灯814发送“打开”的指令时，该电子设备提供指示符，而不管落地灯814实际上是否打开。任选地，当落地灯814未能执行“打开”命令并保持关闭状态时，电子设备800提供不同的指示符。在一些实施方案中，当未成功执行命令824C时的指示符包括用于不同错误代码的不同指示符。
图9A至图9B是示出根据一些实施方案的用于使用电子设备的方法900的流程图。在电子设备(例如，100、300、500、600、640、800、1000)处执行方法900。方法900中的一些操作任选地被组合，一些操作的次序任选地被改变，并且一些操作任选地被省略。
如下所述，方法900向用户(例如，820)提供直观的方式，以通过扫视音频用户输入请求意图在其上操作的外部设备(例如，814、818)来向电子设备(例如，800)上的数字助理提供音频用户输入请求的环境情况。该方法减少了用户(例如，820)在向数字助理提供音频用户输入请求(例如，必须记住在命令中说出外部设备)时的认知负担。因此，数字助理能够通过监测用户(例如，820)的注视来确定用于命令的外部设备(例如，814、818)。
当第一外部设备(例如，818)处于第一状态(902)时(例如，第一外部设备(例如，818)打开或关闭，第一外部设备(例如，818)播放特定媒体项)，电子设备(例如，800)接收(904)执行第一命令(例如，824A至824B)(例如，以将该外部设备转变到第二状态，从而告知数字助理“打开那盏灯”)的音频用户输入请求(例如，用户语音输入)。在一些实施方案中，当电子设备(例如，800)上的数字助理处于活动状态时(例如，基于触发字词、注视和/或按钮按压)，电子设备接收(904)音频用户输入请求。
当第一外部设备(例如，818)处于第一状态(902)时，电子设备使用一个或多个相机传感器(例如，816A、816B)(例如，红外相机传感器、可见光传感器)或从位于电子设备(例如，800)外部的相机(诸如无线连接到该电子设备或为电子设备(例如，800)的一部分)获取(906)第一注视信息(例如，电子设备(例如，800)检测到指向第一外部设备(例如，818)的注视信息)。在一些示例中，电子设备(例如，800)使用第一注视信息确定特定外部设备是否满足一组一个或多个注视标准。
根据使用第一注视信息确定(908)第一外部设备(例如，818)(例如，器具诸如灯、电视或计算机)满足一组一个或多个注视标准(以及任选地，响应于电子设备(例如，800)接收到音频用户输入请求)：电子设备(例如，800)基于第一命令传输(910)(例如，向第一外部设备(例如，818)传输)将第一外部设备(例如，818)从第一状态转变到第二状态(例如，数字助理通过使得外部设备(例如，818)从打开状态转变到关闭状态或从关闭状态转变到打开状态来在外部设备(例如，818)上执行动作)的指令。
当满足该组一个或多个注视标准时，使用注视检测来确定哪个外部设备(例如，814、818)与命令(例如，824A至824B)相关联向用户提供更高效的用户界面，该用户界面仅通过看向该外部设备(例如，814、818)就能向数字助理提供环境情况，而无需回答数字助理的后续问题以阐明哪个外部设备(例如，814、818)是预期外部设备。提供改进的用户界面以向数字助理提供命令(例如，824A至824B)的环境情况而无需数字助理与用户进行交互来获取更多信息使得数字助理界面的用户界面更高效。此外，使用注视检测减少了激活数字助理以执行命令(例如，824A至824B)所需的输入的数量，这增强了数字助理的可操作性。
在一些实施方案中，根据确定第一外部设备(例如，818)满足该组一个或多个注视标准(例如，角度、持续时间和注视方向)，电子设备(例如，800)提供(912)满足该组一个或多个注视标准的指示(例如，810A、810B、810C)(例如，视觉或音频指示)(例如，指示第一命令(例如，824A至824B)与第一外部设备(例如，818)相关联)。
提供已满足该组一个或多个注视标准并且数字助理已成功向外部设备(例如，800)传输指令的指示向用户提供关于命令(例如，824A至824B)是否被执行的反馈。该指示(例如，810A、810B、810C)可以是视觉指示、音频指示或数字助理语音确认，其向各种环境情况提供可定制的反馈。例如，在无法听到声音(例如，嘈杂房间)的环境情况中，提供视觉反馈允许用户知道数字助理是否已传输命令(例如，824C)。提供数字设备状态的定制反馈通过通知用户数字助理何时已成功向外部设备传输命令，增强了数字助理的可操作性并且使用户-设备界面更高效(例如，用户不必重复命令，因为用户不确定是否由数字助理执行该命令)。此外，对数字助理状态的反馈允许用户更快速且高效地使用设备。
在一些实施方案中，指示(例如，810A、810B、810C)(例如，视觉或音频指示)是特定于域的(914)(例如，音乐域、天气域、消息域)。在一些示例中，电子设备(例如，800)确定命令(例如，824C)属于特定域。根据确定命令(例如，824C)属于第一域的，指示(例如，810A、810B、810C)是第一类型指示。根据确定命令(例如，824C)属于不同于第一域的第二域，指示(例如，810A、810B、810C)是不同于第一类型指示的第二类型指示。
提供特定于域的指示快速通知用户(例如，820)数字助理是否能够成功传输用于命令(例如，824C)的指令。将特定的视觉、音频或数字语音指示符与特定的域相关联为用户快速地提供了改进的用户界面，该改进的用户界面允许用户快速地确定在没有成功执行命令(例如，824C)的情况下是否需要采取更多的动作。例如，当用户快速说出“喜欢那首歌曲”时，被播放并与该命令相关联的特定音调快速通知用户(例如，820)数字助理已将该歌曲添加到收藏夹列表，而无需用户快速验证已添加该歌曲。这迅速减少了用户的认知负担，因为添加成功的音调与特定域中的特定动作的关联提供了对任务被执行的立即确认。此外，对数字助理状态的反馈允许用户(例如，820)更快速且高效地使用数字助理。
在一些实施方案中，电子设备(例如，800)与第一外部设备(例如，814、818)配对(916)(例如，配对的灯、电视、计算机、电话或手表)。
在一些实施方案中，根据使用第一注视信息确定第一外部设备(例如，814、818)不满足该组一个或多个注视标准(例如，用户中断注视；用户看向外部设备未持续阈值时间段)，电子设备(例如，800)放弃传输将第一外部设备(例如，818)从第一状态转变到第二状态的指令。在一些示例中，当不满足该组一个或多个注视标准时，数字助理不执行命令(例如，824C)。
在一些实施方案中，该组一个或多个注视标准包括视场标准，当所确定的偏移角度(例如，810)小于阈值偏移角度(例如，804)(例如，与直接看向设备的用户的最大可接受偏差；非零阈值偏移角度；阈值偏移角度大于零度)时满足视场标准，其中所确定的偏移角度(例如，810)是形成在用户的注视的视线(例如，812)(例如，根据注视信息确定)和从用户(例如，820)到第一外部设备(例如，818)的所计算的视线(例如，808)之间的角度。在一些示例中，如果确定第一外部设备(例如，818)定位在大于阈值度数(例如，在注视的视场(例如，806)之外)的位置，则第一外部设备(例如，818)不在用户的注视中，并且不将指令发送到第一外部设备(例如，818)。在一些示例中，当第一外部设备(例如，818)通过位于阈值度数内而位于注视的视场(例如，806)中时，数字助理将指令发送到第一外部设备(例如，818)。
使用视场标准作为注视标准允许检测用户的注视，而无需用户直接看向外部设备(例如，818)。相反，只要外部设备(例如，818)位于用户的注视的视场内，用户的注视满足注视标准，从而允许电子设备(例如，800)确定哪个外部设备(例如，814、818)是预期外部设备。使用视场标准允许在不需要与用户进行进一步交互的情况下确定外部设备(例如，818)，这增强了数字助理的可操作性，并且使电子设备(例如，800)的注视检测更高效(例如，更容易识别外部设备(例如，818)，因为外部设备(例如，818)不必位于用户(例如，820)的直接视线内)。
在一些实施方案中，用户(例如，820)的注视的视线(例如，812)基于用户(例如，820)(例如，从其接收音频用户输入请求的同一用户)的头部位置。在一些示例中，用户的头部位置可受到用户头部的倾斜或旋转(例如，扭头、点头和歪头)的影响。在一些示例中，头部位置跟踪用于确定第一外部设备(例如，818)是否位于视场(例如，806)中。
在一些实施方案中，该组一个或多个注视标准包括停留时间标准，当根据第一注视信息确定的注视的停留时间(例如，持续时间)大于阈值时间段(例如，非零时间段)时第一外部设备(例如，818)满足停留时间标准。在一些示例中，该组一个或多个注视标准包括停留时间标准，当用户(例如，820)的注视的停留时间小于阈值时间量时第一外部设备(例如，818)满足停留时间标准。
在一些实施方案中，在电子设备(例如，8000)传输(例如，向第一外部设备(例如，818)传输)将第一外部设备(例如，818)从第一状态转变到第二状态的指令之后，电子设备(例如，800)提供第一外部设备(例如，818)处于第二状态的指示(例如，810A、810B、810C)(例如，音频或视觉指示)(例如，电子设备(例如，800)提供指示第一外部设备(例如，818)已打开的视觉指示(例如，810A))。在一些示例中，当命令(例如，824C)不能被执行(例如，第一外部设备(例如，818)仍处于第一状态)时，电子设备(例如，800)提供不同的指示(例如，810A、810B、810C)。
在一些实施方案中，当第一外部设备(例如，818)处于第一状态并且第二外部设备处于第三状态时并且根据使用第一注视信息确定第二外部设备(例如，器具诸如灯、电视或计算机)满足该组一个或多个注视标准(以及任选地，响应于接收到音频用户输入请求)：电子设备(例如，800)基于第一命令(例如，824C)传输(例如，向第一外部设备(例如，818)传输)将第二外部设备(例如，814)从第三状态转变到第四状态的指令(例如，电子设备(例如，800)通过将第二外部设备从打开状态转变到关闭状态或从关闭状态转变到打开状态在第二外部设备(例如，814)上执行动作)。
根据使用第一注视信息确定第二外部设备(例如，814)(例如，器具诸如灯、电视或计算机)不满足该组一个或多个注视标准(以及任选地，响应于接收到音频用户输入请求)：电子设备(例如，800)基于第一命令(例如，824C)放弃传输(例如，向第一外部设备传输)将第二外部设备(例如，814)从第三状态转变到第四状态的指令(例如，电子设备(例如，800)放弃在第二外部设备上执行动作，诸如放弃将第二外部设备从打开状态转变到关闭状态或从关闭状态转变到打开状态)。
在一些实施方案中，当第一外部设备(例如，818)处于第二状态(例如，第一外部设备(例如，818)也可处于第一状态)并且第二外部设备(例如，814)处于第三状态(918)时：电子设备(例如，800)接收(920)包括第二命令(例如，826C)的第二用户输入请求(例如，用户语音输入)。
电子设备(例如，800)使用一个或多个相机传感器(例如，816A、816B)获取(922)第二注视信息(例如，以将第二外部设备(例如，814)转变到第二状态，从而告知数字助理打开“那盏”灯)。
根据使用第二注视信息确定第二外部设备(例如，814)满足该组一个或多个注视标准(例如，第二注视通过满足注视标准(诸如注视的角度在阈值度数内、在特定方向上注视、持续时间大于或等于预先确认的时间段)来识别第二外部设备(例如，814))：电子设备(例如，800)基于第二命令(例如，824C)传输(924)将第二外部设备(例如，814)从第三状态转变到第四状态(例如，改变第二外部设备(例如，814)的状态：落地灯已打开)的指令，而第一外部设备(例如，818)保持在第二状态(例如，不改变第一外部设备的状态：桌灯保持打开状态)。
在一些实施方案中，当第二外部设备(例如，814)处于第三状态时并且根据使用第二注视信息确定第二外部设备(例如，814)不满足该组一个或多个注视标准(例如，未识别第二外部设备)：电子设备(例如，800)放弃(926)传输将第二外部设备(例如，814)从第三状态转变到第四状态的指令(例如，第二外部设备(例如，814)保持在与之前相同的状态)。
在一些实施方案中，在传输(例如，向第二外部设备(例如，814)传输)将第二外部设备(例如，814)从第三状态转变到第四状态的指令之后，电子设备(例如，800)提供指示第二外部设备(例如，814)处于第四状态的指示(例如，810A、810B、810C)(例如，视觉或音频指示)(例如，提供指示第二外部设备(例如，814)以改变状态的视觉(例如，810A)或音频(例如，810B)指示)。在一些示例中，当第二命令(例如，824C)不能被执行(例如，第二外部设备(例如，813)仍处于第三状态)时，电子设备(例如，800)提供不同的指示(例如，810A、810B、810C)。
在一些实施方案中，在传输(例如，向第一外部设备(例如，818)传输)将第一外部设备(例如，818)从第一状态转变到第二状态的指令之后：电子设备(例如，800)从第三外部设备(例如，手表或电话)接收由第三外部设备(例如，830)接收的输入的指示(例如，旋转第三外部设备(例如，832)上的表冠)。电子设备(例如，800)基于该电子设备(例如，800)已指示(例如，转变第一外部设备(例如，818)的第三指令)第一外部设备(例如，818)的新近度向第一外部设备(例如，818)传输第二指令(例如，在桌灯已打开之后将桌灯的亮光的亮度调暗)。在一些示例中，第三外部设备(例如，830)不知道第三外部设备(例如，840)正与哪个外部设备(例如，814、818)进行交互。第三外部设备(例如，830)仅接收输入并将用户输入传输到电子设备(例如，800)，该电子设备是知道向哪个外部设备(例如，814、818)发送指令(例如，调暗灯光)的设备。
使用第三外部设备(例如，830)来进一步控制电子设备(例如，800)向其发送指令的最近的外部设备(例如，818)，向用户(例如，820)提供附加的用户界面以对外部设备(例如，818)具有更多的控制。
为用户(例如，820)提供用于控制设备的附加用户界面和机构而不必经过数字助理提供了更高效的用户界面，并且减少了执行命令所需与数字助理进行交互的次数。用户(例如，820)可仅使用外部设备(例如，830)来提供有时难以用字词解释的更精确的输入，而不必与数字助理进行交互以处理附加命令。基于从第三外部设备(例如，840)接收的输入来接收附加用户输入增强了数字助理的可操作性，并且使得控制外部设备(例如，818)的用户界面由于不需要附加命令而更高效。
需注意，上文参考方法900所述的过程(例如，图9A至图9B)的详情也可以类似方式适用于下文/上文所述的方法。例如，方法900任选地包括上文参考方法700和下文参考方法1100所述的各种方法的特征中的一个或多个特征。例如，方法900可包括上下文参考图7A、图7B、图11A和图11B中的过程所述的各种方法的特征中的一个或多个特征。为了简明起见，这些详情在下文中不再重复。
应当理解，已描述的以下图7A至图7B和图11A至图11B中的操作的具体次序是示例性的，而并非意图指示所述次序是这些操作可被执行的唯一次序。本领域的普通技术人员将想到各种方式来对本文所述的操作进行重新排序，以及排除某些操作。为了简明起见，此处不再重复这些细节。此外，应当指出的是，可将整个本说明书中描述的方法和过程的各方面彼此结合。
图10A至图10D示出了根据一些实施方案的用于提供不同指示符以指示数字助理一旦被激活就识别房间中正在说出命令的各种用户(例如，1020、1030)的示例性用户界面。基于触发字词、如上文参考方法700所述的注视、按钮按压、当用户正穿戴可穿戴电子设备(例如，手表)时的手腕抬起(图6E至图6G)以及/或者用户正在电子设备1000指向外部设备(例如，电话)来激活数字助理。在一些示例中，电子设备1000响应于确定用户(例如，1020、1030)正看向电子设备1000(例如，如上所述，根据使用注视信息确定满足一组一个或多个激活标准)而激活数字助理，并且一旦数字助理被激活就接收命令。图10A至10D所述的技术还任选地包括方法900和关于参考图8A至图8L描述的技术的各方面，这些技术示出了使用用户的注视来确定与命令相关联的特定外部对象(例如，桌灯1018、落地灯)的电子设备。这些附图中的技术用于示出下文所述的过程，包括图11A至图11B中的过程。
如图10A至图10D所示，用户Jane 1030和Jack 1020与电子设备1000在同一房间中。在图10A中，诸如使用上述技术的各方面来激活电子设备的数字助理。电子设备1000从一个或多个用户(例如，Jane 1030和Jack1020)接收口头命令(例如，1024a、1024b)，以控制房间中的各种外部设备，诸如落地灯1014或桌灯1018。响应于电子设备1000接收到命令(例如，1024A、1024B)，电子设备1000确定说出命令(例如，1024A、1024B)的特定用户的用户身份(例如，1020、1030)。在一些实施方案中，外部设备(例如，外部相机1016A、电话或集成相机1016B)确定对应于该命令的用户身份，并且将用户身份发送到电子设备1000。在一些实施方案中，电子设备1000使用外部或内部设备(例如，外部相机1016A、电话或集成相机1016B)获取关于正讲话的用户的信息。在一些实施方案中，电子设备1000使用所获取的信息来执行面部识别、话音(voice)识别，或者计算到正讲话的用户的距离以确定用户身份。
在一些实施方案中，在电子设备激活数字助理之前，用户Jane 1030和Jack 1020已任选地注册用户配置文件，然后将其存储在电子设备1000上。在一些实施方案中，用户配置文件存储在服务器上并且可由电子设备1000访问。用户配置文件包括电子设备可用于定制指示符1010A、1010B、1010C的设置和偏好(例如，数字助理语音的口音类型、数字助理语音的性别、指示符音调、LED亮光颜色)，电子设备使用这些指示符以指示数字助理何时被激活或者命令1024A、1024B何时已被成功执行或未被成功执行。例如，用户可通过为指示符的每个特征提供值来定制数字指示符设置。在一些示例中，指示符的特征包括类型(例如，视觉、音频、语音确认或任何类型的组合)、用于视觉指示符的亮光颜色、用于音频指示符的音调以及用于数字语音的定制(例如，语言、口音类型和性别)。用户配置文件还任选地存储关于用户Jane 1030和Jack 1020在注册用户同意期间提供的用户的信息，诸如用户姓名、生日、性别和/或地址。可在任何时间更新用户配置文件设置和偏好。本文所述的用于电子设备1000上的用户注册的技术可在上文中参考图7A、图7B、图9A和图9B中的过程结合方法700和900使用。为了简明起见，本文不再重复这些细节。
在图10A中，当数字助理被激活时，电子设备1000从Jane 1030接收命令1024A，“打开桌灯”。当电子设备100正接收正由Jane 1030说出的命令1024A时(或在接收到由Jane1030说出的命令1024A之后)，电子设备1000确定讲话者是Jane 1030。例如，设备1000使用外部相机1016A、集成相机1016B和/或麦克风来确定所接收的命令1024A来自Jane 1030就坐的方向。因此，电子设备1000在显示器1002上显示亮光图案1010D(例如，三个照明点)，其位置对应于Jane 1030就坐的方向。在一些实施方案中，电子设备1000在显示器1002上显示动画亮光图案1010D，其中亮光图案以动画方式显示以指向Jane 1030就坐的方向。
在图10A中，当数字助理确定命令1024A的讲话者是Jane 1030时，电子设备1000将指示符(例如，视觉1010A、音频1010B或数字助理确认1010C)的特征(例如，亮光的颜色、特定声音、字词或特定数字助理语音)的值更新为对应于Jane 1030的值(例如，紫色的亮光、两个音符的音调、Jane的姓名、英国口音、女性语音)。在一些实施方案中，特征的值是从Jane的用户配置文件获取的值。例如，电子设备将显示器1002上的亮光图案1010D(例如，三个照明点)的颜色设定为对应于Jane 1030的颜色(诸如紫色)。因此，电子设备1000向Jane1030和Jack 1020指示设备1000已将讲话者识别为Jane 1030，并且将使用Jane 1030的偏好中的一个或多个偏好。
相比之下，在图10C中，当数字助理确定命令1024B的讲话者是Jack1020(其是不同于Jane 1030的用户)时，电子设备1000将指示符(例如，视觉指示符或音频指示符)的特征(例如，亮光的颜色、声音或数字助理语音)的值更新为对应于Jack 1020的值(例如，蓝色的亮光、一个音符的音调、Jack的姓名、美式口音、男性语音)，其中与Jack 1020相关联的特征的值不同于与Jane 1030相关联的特征的值。例如，电子设备将显示器1002上的亮光图案1010E(例如，三个照明点)的颜色设定为对应于Jack 1020的颜色(诸如蓝色)。因此，电子设备1000向Jane 1030和Jack 1020指示设备1000已将讲话者识别为Jack 1020，并且将使用Jack 1020的偏好中的一个或多个偏好。
在一些实施方案中，Jack 1020和Jane 1030可具有与每个人相关联的相同的特征的值。例如，Jack 1020和Jane 1030均可选择美国女性数字助理语音。在一些实施方案中，与每个用户相关联的指示符的特征的值是唯一的。例如，Jane 1030和Jack 1020可具有与相应用户相关联的不同亮光颜色(例如，Jane的紫色对Jack的蓝色)和不同声音(例如，两个音符的声音对一个音符的声音)。
在图10B中，一旦电子设备1000已识别出Jane 1030正在说出命令1024A，电子设备1000就确定是否满足一组一个或多个性能标准，如上文参考方法900所述。该组一个或多个性能标准包括以下各项中的一者或多者：完成标准、可执行标准和激活标准。当满足该组一个或多个性能标准时，电子设备1000执行动作，诸如将指令传输到落地灯1014以将其打开。
当电子设备1000已执行命令1024A时，电子设备1000任选地使用Jane 1030的偏好来提供指示符(例如，指示符1010A、1010B、1010C)以指示已成功执行该命令。上文参考方法700和900讨论了各类型的指示符(例如，视觉、音频和数字语音确认)及其特征。在图10B中，电子设备1000已确定讲话者为Jane 1030，并且基于该确定，使用具有美国口音的女性数字助理语音确认来提供确认，“Jane，落地灯已打开”。从Jane 1030的用户配置文件获取姓名“Jane”，Jane 1030在注册期间提供该用户配置文件。电子设备1000基于存储为Jane 1030的用户配置文件的一部分的先前偏好使用女性美国口音。紫色的亮光图案可作为视觉指示符在电子设备1000上显示，以指示数字助理已处理Jane的命令1024A。与Jane 1030相关联的音调也可作为音频指示符在电子设备1000上播放，以指示数字助理已处理Jane的命令1024A。因此，Jane 1030和Jack 1020均认识到Jane被识别为讲话者。
图10C类似地示出了Jack 1020说出命令1024B“打开落地灯”。电子设备1000使用例如外部相机1016A、集成相机1016B和/或麦克风来确定命令1024B来自Jack 1030就坐的方向，以确定讲话者是Jack 1020。作为响应，电子设备1000在显示器1002上显示亮光图案1010E(例如，三个照明点)，其位置对应于Jack 1020站立的方向。在一些实施方案中，电子设备1000在显示器1002上显示动画亮光图案1010E，其中亮光图案以动画方式显示以指向Jack 1020站立的方向。例如，电子设备将显示器1002上的亮光图案1010E(例如，三个照明点)的颜色设定为对应于Jack 1020的颜色(诸如蓝色)。因此，电子设备1000向Jane 1030和Jack 1020指示设备1000已将讲话者识别为Jack 1020，并且将使用Jack 1020的偏好中的一个或多个偏好。
在图10D中，一旦电子设备1000已识别出Jack 1020正在说出命令1024B，电子设备1000就确定是否满足一组一个或多个性能标准，如上文参考方法900所述。该组一个或多个性能标准包括以下各项中的一者或多者：完成标准、可执行标准和激活标准。当满足该组一个或多个性能标准时，电子设备1000执行动作，诸如将指令传输到落地灯1014以将其打开。
当电子设备1000已执行命令1024B时，电子设备1000任选地使用Jack 1020的偏好来提供指示符(例如，指示符1010A、1010B、1010C)以指示已成功执行该命令。上文参考方法700和900讨论了各类型的指示符(例如，视觉、音频和数字语音确认)及其特征。在图10D中，电子设备1000已确定讲话者为Jack 1020，并且基于该确定，使用具有澳洲口音的男性数字助理语音来提供确认，“Jack，桌灯已打开”。从Jack 1030的用户配置文件获取姓名“Jack”，Jack 1020在注册期间提供该用户配置文件。电子设备1000基于存储为Jack 1020的用户配置文件的一部分的先前偏好使用男性澳洲口音。蓝色的亮光图案可作为视觉指示符在电子设备1000上显示，以指示数字助理已处理Jack的命令1024B。电子设备任选地播放与Jack1020相关联的定制音调作为音频指示符，以指示数字助理已处理Jack的命令1024B。
图11A至图11B是示出根据一些实施方案的使用电子设备的方法1100的流程图。在电子设备(例如，100、300、500、600、640、800、1000)处执行方法1100。方法1100中的一些操作任选地被组合，一些操作的次序任选地被改变，并且一些操作任选地被省略。
如下所述，方法1100通过为每个人提供唯一指示符来为数字助理提供直观的方式以示出对不同用户(例如，1020、1030)的识别。该方法减少了用户(例如，1020、1030)的认知负担，因为当多个用户在房间中说出命令时，用户能够确认数字助理处理了特定用户的命令。因此，数字助理能够提供指示哪些用户的命令被处理过的立即反馈。
在基于触发字词、注视和/或按钮按压激活电子设备(例如，1000)上的数字助理之后，电子设备1000接收(1106)音频用户输入请求(例如，1024A、1024B)。在一些示例中，响应于接收到音频用户输入请求(例如，1024A、1024B)，电子设备(例如，1000)确定对应于该音频用户输入请求(例如，1024A、1024B)的用户身份(例如，特定用户(例如，1020、1030))。在一些示例中，远程设备(例如，相机1016)确定对应于音频用户输入请求(例如，1024A、1024B)的用户身份，并且电子设备(例如，1000)接收该确定的结果。
在一些实施方案中，在电子设备(例如，1000)接收到音频用户输入请求(例如，1024A、1024B)之前，电子设备(例如，1000)接收(1102)注册信息(例如，用户配置文件信息)。在一些实施方案中，电子设备(例如，1000)使用注册信息将电子设备(例如，1000)的指示符(例如，1010A、1010B、1010C)的特征(例如，亮光、声音、数字助理语音)的第一值与第一用户(例如，1020)(而不是第二用户)相关联(1104)，并且将电子设备(例如，1000)的指示符的特征的第二值与第二用户(例如，1030)(而不是第一用户)相关联。在一些示例中，在注册过程期间，电子设备(例如，1000)接收用户的姓名，并且稍后将该姓名与用户(例如，1020、1030)的语音相关联。在一些示例中，在注册过程期间，电子设备(例如，1000)将视觉指示符的颜色(例如，LED颜色)与用户(例如，1020、1030)相关联。
将指示符(例如，1010A、1010B、1010C)的特征的值与来自用户的用户配置文件的偏好相关联使得数字助理能够提供确认数字助理已识别出说出命令的特定用户(例如，1020、1030)的反馈。提供确认用户(例如，1020、1030)的定制反馈通过使用指示符(例如，1010A、1010B、1010C)中的用户偏好向用户(例如，1020、1030)提供确认，增强了数字助理的可操作性并且使用户-设备界面更高效(例如，用户(例如，1020、1030)知道数字助理已处理用户的命令(例如，1024A、1024B))。这减少了用户(例如，1020、1030)的认知负担，因为成功指示符与特定用户设置的关联提供了对任务已被执行的立即确认，并且减少了在背景中有多个用户同时讲话或存在其他讲话者时的混淆。此外，对数字助理状态的反馈允许用户(例如，1020、1030)更快速且高效地使用数字助理。
电子设备接收(1106)音频用户输入请求。
在一些实施方案中，音频用户输入请求(例如，1024A、1024B)为用户语音输入(例如，话语、命令)，并且特征(例如，亮光、声音、数字助理语音)的值的更新(1108)不基于音频用户输入请求(例如，1024A、1024B)的转录内容(例如，特征的值不基于用户说的字词，而是基于用户的身份)。
根据确定该音频用户输入请求对应于第一用户(例如，1020)(并且任选地，响应于接收到音频用户输入请求)，电子设备(例如，1000)将指示符(例如，1010A、1010B、1010C)(例如，视觉指示符、音频指示符或数字助理语音确认)的特征(例如，亮光的颜色、声音或数字助理语音)的值更新(1110)为对应于第一用户(例如，1020)的第一值(例如，特征的值与第一用户的身份相关联)。
根据确定该音频用户输入请求对应于不同于第一用户的第二用户(例如，1030)(并且任选地，响应于接收到音频用户输入请求)，电子设备(例如，1000)将指示符(例如，1010A、1010B、1010C)(例如，视觉指示符、音频指示符或数字助理语音确认)的特征(例如，亮光的颜色、声音或数字助理语音)的值更新(1112)为对应于第二用户(例如，1030)的第二值(例如，特征的值与第二用户的身份相关联)，第二值不同于第一值。
电子设备(例如，1000)使用指示符(例如，1010A、1010B、1010C)响应(1114)于该音频用户输入请求(例如，1024A、1024B)(例如，作为响应，电子设备(例如，1000)显示亮光、播放声音、使用特定数字助理语音或使用用户的姓名)，其中该指示符(例如，1010A、1010B、1010C)包括特征(例如，亮光的颜色、声音或数字助理语音)的所更新的值。
在一些实施方案中，电子设备(例如，1000)使用指示符(例如，1010A、1010B、1010C)对音频用户输入请求(例如，1024A、1024B)作出响应包括该电子设备(例如，1000)使用特征(例如，亮光颜色、所显示的亮光的位置)的值显示(1116)视觉指示符(例如，1010A)(例如，亮光)，该特征对应于与该音频用户输入请求(例如，1024A、1024B)相关联的用户。
在一些实施方案中，电子设备(例如，1000)使用指示符对该音频用户输入请求(例如，1024A、1024B)作出响应包括该电子设备(例如，1000)使用特征的值(该特征的值可以是口音、性别、音调、语音、声音或特定数字助理语音，诸如美国女性数字助理语音)提供(1118)音频指示符(例如，1010B)(例如，语音、声音)，该特征对应于与该音频用户输入请求(例如，1024A、1024B)相关联的用户(例如，1020、1030)。在一些示例中，用户在数字助理语音设置中选择美国女性数字助理语音，如用户的用户配置文件(例如，1020、1030)中所指示的。
在一些实施方案中，指示符为视觉指示符(例如，1010A)并且响应于电子设备(例如，1000)接收到音频用户输入请求(例如，1024A、1024B)并且在确定该音频用户输入请求(例如，1024A、1024B)对应于特定用户(例如，1020、1030)之前，电子设备(例如，1000)显示具有特征的默认值(例如，白色亮光)的视觉指示符(例如，1010A)(例如，当数字助理被激活时显示第一亮光颜色)。在一些实施方案中，特征的默认值不同于第一值和第二值。
在一些实施方案中，音频指示符(例如，1010B)(例如，数字助理使用字词提供确认)的特征是对应于与音频用户输入请求(例如，1024A、1024B)相关联的(例如，提供音频用户输入请求的)用户的术语(例如，字词、名称)。
在数字助理语音确认指示符(例如，1010C)中使用用户(例如，1020、1030)的姓名使得数字助理能够提供确认数字助理已识别出说出命令的特定用户(例如，1020、1030)的反馈。提供确认用户(例如，1020、1030)的定制反馈增强了数字助理的可操作性并且使用户-设备界面更高效(例如，特定用户(例如，1020、1030)知道数字助理已处理用户的命令(例如，1024A、1024B))。这减少了用户(例如，1020、1030)的认知负担，因为使用用户的姓名提供了对任务已被执行的立即确认，并且减少了在背景中有多个用户(例如，1020、1030)同时讲话或存在其他讲话者时的混淆。此外，对数字助理状态的反馈允许用户(例如，1020、1030)更快速且高效地使用数字助理。
在一些实施方案中，电子设备(例如，1000)基于话音识别、面部识别和音频用户输入请求的方向中的一者或多者来确定与该音频用户输入请求相关联的用户。
出于解释的目的，前面的描述是通过参考具体实施方案来描述的。然而，上面的例示性论述并非旨在是穷尽的或将本发明限制为所公开的精确形式。根据以上教导内容，很多修改形式和变型形式都是可能的。选择并描述这些实施方案是为了最好地解释这些技术的原理及其实际应用程序。本领域的其他技术人员由此能够最好地利用这些技术以及具有适合于所预期的特定用途的各种修改的各种实施方案。
虽然参照附图对本公开以及示例进行了全面的描述，但应当注意，各种变化和修改对于本领域内的技术人员而言将变得显而易见。应当理解，此类变化和修改被认为被包括在由权利要求书所限定的本公开和示例的范围内。
如上所述，本技术的一个方面在于收集并使用得自各种来源的数据，以更好地使用户能够控制电子设备。本公开预期，在一些实例中，这些所采集的数据可包括唯一地识别或可用于联系或定位特定人员的个人信息数据。此类个人信息数据可以包括人口统计数据、基于位置的数据、电话号码、电子邮件地址、推特ID、家庭地址、与用户的健康或健康水平有关的数据或记录(例如，生命体征测量、药物信息、锻炼信息)、出生日期或任何其他识别或个人信息。
本公开认识到在本发明技术中使用此类个人信息数据可用于使用户受益。例如，个人信息数据可用于使设备交互个性化。因此，使用此类个人信息数据使得用户能够更容易地控制电子设备。此外，本公开还预期个人信息数据有益于用户的其他用途。例如，健康和健身数据可用于向用户的总体健康状况提供见解，或者可用作使用技术来追求健康目标的个人的积极反馈。
本公开设想负责采集、分析、公开、传输、存储或其他使用此类个人信息数据的实体将遵守既定的隐私政策和/或隐私实践。具体地，此类实体应当实行并坚持使用被公认为满足或超出对维护个人信息数据的隐私性和安全性的行业或政府要求的隐私政策和实践。此类政策应该能被用户方便地访问，并应随着数据的采集和/或使用变化而被更新。来自用户的个人信息应当被收集用于实体的合法且合理的用途，并且不在这些合法使用之外共享或出售。此外，应在收到用户知情同意后进行此类采集/共享。此外，此类实体应考虑采取任何必要步骤，保卫和保障对此类个人信息数据的访问，并确保有权访问个人信息数据的其他人遵守其隐私政策和流程。另外，这种实体可使其本身经受第三方评估以证明其遵守广泛接受的隐私政策和实践。此外，应当调整政策和实践，以便采集和/或访问的特定类型的个人信息数据，并适用于包括管辖范围的具体考虑的适用法律和标准。例如，在美国，对某些健康数据的收集或获取可能受联邦和/或州法律的管辖，诸如健康保险流通和责任法案(HIPAA)；而其他国家的健康数据可能受到其他法规和政策的约束并应相应处理。因此，在每个国家应为不同的个人数据类型保持不同的隐私实践。
不管前述情况如何，本公开还预期用户选择性地阻止使用或访问个人信息数据的实施方案。即本公开预期可提供硬件元件和/或软件元件，以防止或阻止对此类个人信息数据的访问。例如，就数字助理、用户注视和用户配置文件而言，本发明的技术可被配置为在注册服务期间或者其后的任何时间，允许用户选择“加入”或“退出”参与对个人信息数据的收集。又如，用户可选择不向用户配置文件提供个人信息。又如，用户可以选择限制维持个人信息的时间长度或者完全禁止基线配置文件的开发。除了提供“选择加入”和“选择退出”选项外，本公开设想提供与访问或使用个人信息相关的通知。例如，可在下载应用程序(例如，数字助理应用程序)时向用户通知其个人信息数据将被访问，然后就在个人信息数据被该应用程序访问之前再次提醒用户。
此外，本公开的目的是应管理和处理个人信息数据以最小化无意或未经授权访问或使用的风险。一旦不再需要数据，通过限制数据收集和删除数据可最小化风险。此外，并且当适用时，包括在某些健康相关应用程序中，数据去标识可用于保护用户的隐私。可在适当时通过移除特定标识符(例如，出生日期等)、控制所存储数据的量或特异性(例如，在城市级别而不是在地址级别收集定位数据)、控制数据如何被存储(例如，在用户之间聚合数据)、和/或其他方法来促进去标识。
因此，虽然本公开广泛地覆盖了使用个人信息数据来实现一个或多个各种所公开的实施方案，但本公开还预期各种实施方案也可在无需访问此类个人信息数据的情况下被实现。即，本发明技术的各种实施方案不会由于缺少此类个人信息数据的全部或一部分而无法正常进行。例如，用户可基于非个人信息数据或绝对最小量的个人信息的来与电子设备进行交互。

Claims (27)

1.一种电子设备，包括：
一个或多个处理器；以及
存储器，所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行以下操作的指令：
当所述电子设备的数字助理未被激活时：
接收用于执行命令的音频用户输入请求的第一部分；
使用一个或多个相机传感器获取第一注视信息；独立于音频输入：
根据确定所述第一注视信息满足一组一个或多个激活标准：
激活所述电子设备的所述数字助理；以及
提供所述一组一个或多个激活标准已被满足的指示；
当所述电子设备的所述数字助理被激活时，接收用于执行所述命令的所述音频用户输入请求的第二部分；以及
响应于接收到用于执行所述命令的所述音频用户输入请求：
根据确定一组一个或多个性能标准被满足，基于所述音频用户输入请求的所述第一部分和所述第二部分的内容来执行所述命令；以及
根据确定所述一组一个或多个性能标准未被满足，放弃基于所述音频用户输入请求的所述内容来执行所述命令，
其中所述一组一个或多个性能标准包括连续注视标准，所述连续注视标准在所述电子设备确定第二注视信息指示所述用户未进行以下操作时被满足：所述用户中断指向所述电子设备的注视超过所述数字助理的激活和所述音频用户输入请求的终止之间的阈值持续时间。
2.根据权利要求1所述的电子设备，所述一个或多个程序还包括用于执行以下操作的指令：
独立于音频输入：
根据确定所述第一注视信息不满足所述一组一个或多个激活标准：
放弃激活所述数字助理。
3.根据权利要求1所述的电子设备，所述一个或多个程序还包括用于执行以下操作的指令：
产生音频输出，其中在接收到所述音频用户输入请求之前以第一音量产生所述音频输出；以及
响应于开始接收所述音频用户输入请求，将所述音频输出的音量降低到低于所述第一音量的第二音量，其中所述第二音量是基于用户和所述电子设备之间的距离的。
4.根据权利要求1所述的电子设备，所述一个或多个程序还包括用于执行以下操作的指令：
响应于接收到用于执行所述命令的所述音频用户输入请求：
根据确定所述一组一个或多个性能标准未被满足，提供摇头指示，其中所述摇头指示包括：
在所述电子设备的显示器的第一侧上显示第一亮光图案，
在显示所述第一亮光图案之后，在所述电子设备的所述显示器的第二侧上显示第二亮光图案，以及
在显示所述第二亮光图案之后，在所述电子设备的所述显示器的所述第一侧上显示所述第一亮光图案。
5.根据权利要求1所述的电子设备，其中所述指示是指示所述数字助理被激活的视觉指示。
6.根据权利要求1所述的电子设备，其中所述指示是指示所述数字助理被激活的音频指示。
7.根据权利要求1所述的电子设备，其中所述一组一个或多个激活标准包括视场标准，所述视场标准在所确定的偏移角度小于阈值偏移角度时被满足，其中所确定的偏移角度是形成在以下项之间的角度：
用户的注视的视线，以及
从所述用户到所述电子设备的所计算的视线。
8.根据权利要求7所述的电子设备，其中所述用户的所述注视的所述视线是基于所述用户的头部位置的。
9.根据权利要求1所述的电子设备，其中所述一组一个或多个激活标准包括停留时间标准，所述停留时间标准在根据所述第一注视信息确定的所述注视的停留时间大于阈值时间段时被满足。
10.一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储被配置为由电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于执行以下操作的指令：
当所述电子设备的数字助理未被激活时：
接收用于执行命令的音频用户输入请求的第一部分；
使用一个或多个相机传感器获取第一注视信息；
独立于音频输入：
根据确定所述第一注视信息满足一组一个或多个激活标准：
激活所述电子设备的所述数字助理；以及
提供所述一组一个或多个激活标准已被满足的指示；
当所述电子设备的所述数字助理被激活时，接收用于执行所述命令的所述音频用户输入请求的第二部分；以及
响应于接收到用于执行所述命令的所述音频用户输入请求：
根据确定一组一个或多个性能标准被满足，基于所述音频用户输入请求的所述第一部分和所述第二部分的内容来执行所述命令；以及
根据确定所述一组一个或多个性能标准未被满足，放弃基于所述音频用户输入请求的所述内容来执行所述命令，
其中所述一组一个或多个性能标准包括连续注视标准，所述连续注视标准在所述电子设备确定第二注视信息指示所述用户未进行以下操作时被满足：所述用户中断指向所述电子设备的注视超过所述数字助理的激活和所述音频用户输入请求的终止之间的阈值持续时间。
11.根据权利要求10所述的非暂态计算机可读存储介质，所述一个或多个程序还包括用于执行以下操作的指令：
独立于音频输入：
根据确定所述第一注视信息不满足所述一组一个或多个激活标准：
放弃激活所述数字助理。
12.根据权利要求10所述的非暂态计算机可读存储介质，所述一个或多个程序还包括用于执行以下操作的指令：
产生音频输出，其中在接收到所述音频用户输入请求之前以第一音量产生所述音频输出；以及
响应于开始接收所述音频用户输入请求，将所述音频输出的音量降低到低于所述第一音量的第二音量，其中所述第二音量是基于用户和所述电子设备之间的距离的。
13.根据权利要求10所述的非暂态计算机可读存储介质，所述一个或多个程序还包括用于执行以下操作的指令：
响应于接收到用于执行所述命令的所述音频用户输入请求：
根据确定所述一组一个或多个性能标准未被满足，提供摇头指示，其中所述摇头指示包括：
在所述电子设备的显示器的第一侧上显示第一亮光图案，
在显示所述第一亮光图案之后，在所述电子设备的所述显示器的第二侧上显示第二亮光图案，以及
在显示所述第二亮光图案之后，在所述电子设备的所述显示器的所述第一侧上显示所述第一亮光图案。
14.根据权利要求10所述的非暂态计算机可读存储介质，其中所述指示是指示所述数字助理被激活的视觉指示。
15.根据权利要求10所述的非暂态计算机可读存储介质，其中所述指示是指示所述数字助理被激活的音频指示。
16.根据权利要求10所述的非暂态计算机可读存储介质，其中所述一组一个或多个激活标准包括视场标准，所述视场标准在所确定的偏移角度小于阈值偏移角度时被满足，其中所确定的偏移角度是形成在以下项之间的角度：
用户的注视的视线，以及
从所述用户到所述电子设备的所计算的视线。
17.根据权利要求16所述的非暂态计算机可读存储介质，其中所述用户的所述注视的所述视线是基于所述用户的头部位置的。
18.根据权利要求10所述的非暂态计算机可读存储介质，其中所述一组一个或多个激活标准包括停留时间标准，所述停留时间标准在根据所述第一注视信息确定的所述注视的停留时间大于阈值时间段时被满足。
19.一种用于电子设备的数字助理的方法，包括：
在所述电子设备处：
当所述电子设备的所述数字助理未被激活时：
接收用于执行命令的音频用户输入请求的第一部分；
使用一个或多个相机传感器获取第一注视信息；独立于音频输入：
根据确定所述第一注视信息满足一组一个或多个激活标准：
激活所述电子设备的所述数字助理；以及
提供所述一组一个或多个激活标准已被满足的指示；
当所述电子设备的所述数字助理被激活时，接收用于执行所述命令的所述音频用户输入请求的第二部分；以及
响应于接收到用于执行所述命令的所述音频用户输入请求：
根据确定一组一个或多个性能标准被满足，基于所述音频用户输入请求的所述第一部分和所述第二部分的内容来执行所述命令；以及
根据确定所述一组一个或多个性能标准未被满足，放弃基于所述音频用户输入请求的所述内容来执行所述命令，
其中所述一组一个或多个性能标准包括连续注视标准，所述连续注视标准在所述电子设备确定第二注视信息指示所述用户未进行以下操作时被满足：所述用户中断指向所述电子设备的注视超过所述数字助理的激活和所述音频用户输入请求的终止之间的阈值持续时间。
20.根据权利要求19所述的方法，还包括：
独立于音频输入：
根据确定所述第一注视信息不满足所述一组一个或多个激活标准：
放弃激活所述数字助理。
21.根据权利要求19所述的方法，还包括：
产生音频输出，其中在接收到所述音频用户输入请求之前以第一音量产生所述音频输出；以及
响应于开始接收所述音频用户输入请求，将所述音频输出的音量降低到低于所述第一音量的第二音量，其中所述第二音量是基于用户和所述电子设备之间的距离的。
22.根据权利要求19所述的方法，还包括：
响应于接收到用于执行所述命令的所述音频用户输入请求：
根据确定所述一组一个或多个性能标准未被满足，提供摇头指示，其中所述摇头指示包括：
在所述电子设备的显示器的第一侧上显示第一亮光图案，
在显示所述第一亮光图案之后，在所述电子设备的所述显示器的第二侧上显示第二亮光图案，以及
在显示所述第二亮光图案之后，在所述电子设备的所述显示器的所述第一侧上显示所述第一亮光图案。
23.根据权利要求19所述的方法，其中所述指示是指示所述数字助理被激活的视觉指示。
24.根据权利要求19所述的方法，其中所述指示是指示所述数字助理被激活的音频指示。
25.根据权利要求19所述的方法，其中所述一组一个或多个激活标准包括视场标准，所述视场标准在所确定的偏移角度小于阈值偏移角度时被满足，其中所确定的偏移角度是形成在以下项之间的角度：
用户的注视的视线，以及
从所述用户到所述电子设备的所计算的视线。
26.根据权利要求25所述的方法，其中所述用户的所述注视的所述视线是基于所述用户的头部位置的。
27.根据权利要求19所述的方法，其中所述一组一个或多个激活标准包括停留时间标准，所述停留时间标准在根据所述第一注视信息确定的所述注视的停留时间大于阈值时间段时被满足。
CN201980041865.3A 2018-09-28 2019-08-30 使用注视信息的设备控制 Active CN112368674B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211323860.XA CN115543170A (zh) 2018-09-28 2019-08-30 使用注视信息的设备控制

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862739087P 2018-09-28 2018-09-28
US62/739,087 2018-09-28
PCT/US2019/049239 WO2020068375A1 (en) 2018-09-28 2019-08-30 Device control using gaze information

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202211323860.XA Division CN115543170A (zh) 2018-09-28 2019-08-30 使用注视信息的设备控制

Publications (2)

Publication Number Publication Date
CN112368674A CN112368674A (zh) 2021-02-12
CN112368674B true CN112368674B (zh) 2022-11-18

Family

ID=67957439

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201980041865.3A Active CN112368674B (zh) 2018-09-28 2019-08-30 使用注视信息的设备控制
CN202211323860.XA Pending CN115543170A (zh) 2018-09-28 2019-08-30 使用注视信息的设备控制

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN202211323860.XA Pending CN115543170A (zh) 2018-09-28 2019-08-30 使用注视信息的设备控制

Country Status (7)

Country Link
US (3) US10860096B2 (zh)
EP (2) EP3788468B1 (zh)
JP (3) JP6930042B2 (zh)
KR (3) KR102604685B1 (zh)
CN (2) CN112368674B (zh)
AU (3) AU2019346842C1 (zh)
WO (1) WO2020068375A1 (zh)

Families Citing this family (54)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
KR101615472B1 (ko) 2007-09-24 2016-04-25 애플 인크. 전자 장치 내의 내장형 인증 시스템들
US8600120B2 (en) 2008-01-03 2013-12-03 Apple Inc. Personal computing device control using face detection and recognition
US9002322B2 (en) 2011-09-29 2015-04-07 Apple Inc. Authentication with secondary approver
CN104969289B (zh) 2013-02-07 2021-05-28 苹果公司 数字助理的语音触发器
US9898642B2 (en) 2013-09-09 2018-02-20 Apple Inc. Device, method, and graphical user interface for manipulating user interfaces based on fingerprint sensor inputs
US9324067B2 (en) 2014-05-29 2016-04-26 Apple Inc. User interface for payments
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
WO2017043132A1 (ja) * 2015-09-08 2017-03-16 日本電気株式会社 顔認識システム、顔認識方法、表示制御装置、表示制御方法および表示制御プログラム
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
DK179186B1 (en) 2016-05-19 2018-01-15 Apple Inc REMOTE AUTHORIZATION TO CONTINUE WITH AN ACTION
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
DK201770427A1 (en) 2017-05-12 2018-12-20 Apple Inc. LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT
JP6736686B1 (ja) 2017-09-09 2020-08-05 アップル インコーポレイテッドＡｐｐｌｅ Ｉｎｃ． 生体認証の実施
KR102185854B1 (ko) 2017-09-09 2020-12-02 애플 인크. 생체측정 인증의 구현
US10366291B2 (en) * 2017-09-09 2019-07-30 Google Llc Systems, methods, and apparatus for providing image shortcuts for an assistant application
EP3729421A1 (en) * 2017-12-22 2020-10-28 Telefonaktiebolaget LM Ericsson (publ) Gaze-initiated voice control
US10818288B2 (en) * 2018-03-26 2020-10-27 Apple Inc. Natural assistant interaction
US10928918B2 (en) 2018-05-07 2021-02-23 Apple Inc. Raise to speak
DK180639B1 (en) 2018-06-01 2021-11-04 Apple Inc DISABILITY OF ATTENTION-ATTENTIVE VIRTUAL ASSISTANT
US11170085B2 (en) 2018-06-03 2021-11-09 Apple Inc. Implementation of biometric authentication
US10860096B2 (en) 2018-09-28 2020-12-08 Apple Inc. Device control using gaze information
US11100349B2 (en) 2018-09-28 2021-08-24 Apple Inc. Audio assisted enrollment
US11462215B2 (en) 2018-09-28 2022-10-04 Apple Inc. Multi-modal inputs for voice commands
US11227599B2 (en) 2019-06-01 2022-01-18 Apple Inc. Methods and user interfaces for voice-based control of electronic devices
US11334174B2 (en) 2019-07-18 2022-05-17 Eyal Shlomot Universal pointing and interacting device
KR20210031265A (ko) * 2019-09-11 2021-03-19 삼성전자주식회사 전자 장치 및 그 동작방법
CN110730115B (zh) * 2019-09-11 2021-11-09 北京小米移动软件有限公司 语音控制方法及装置、终端、存储介质
US11145315B2 (en) * 2019-10-16 2021-10-12 Motorola Mobility Llc Electronic device with trigger phrase bypass and corresponding systems and methods
KR20210066644A (ko) * 2019-11-28 2021-06-07 삼성전자주식회사 단말 장치, 서버 및 그 제어 방법
US11256894B2 (en) * 2019-12-04 2022-02-22 Qualcomm Incorporated Multi-stage biometric authentication
US11749281B2 (en) 2019-12-04 2023-09-05 Soundhound Ai Ip, Llc Neural speech-to-meaning
US11308938B2 (en) * 2019-12-05 2022-04-19 Soundhound, Inc. Synthesizing speech recognition training data
US11175730B2 (en) 2019-12-06 2021-11-16 Facebook Technologies, Llc Posture-based virtual space configurations
US11922193B2 (en) * 2020-02-28 2024-03-05 Google Llc Interface and mode selection for digital action execution
US11061543B1 (en) 2020-05-11 2021-07-13 Apple Inc. Providing relevant data items based on context
US11269667B2 (en) * 2020-07-16 2022-03-08 Lenovo (Singapore) Pte. Ltd. Techniques to switch between different types of virtual assistance based on threshold being met
US11490204B2 (en) 2020-07-20 2022-11-01 Apple Inc. Multi-device audio adjustment coordination
US11438683B2 (en) 2020-07-21 2022-09-06 Apple Inc. User identification using headphones
US20220284883A1 (en) * 2021-03-05 2022-09-08 Comcast Cable Communications, Llc Keyword Detection
US11955137B2 (en) 2021-03-11 2024-04-09 Apple Inc. Continuous dialog with a digital assistant
US20220358917A1 (en) * 2021-04-21 2022-11-10 Meta Platforms, Inc. Multi-device Mediation for Assistant Systems
US11861315B2 (en) 2021-04-21 2024-01-02 Meta Platforms, Inc. Continuous learning for natural-language understanding models for assistant systems
KR20220151474A (ko) * 2021-05-06 2022-11-15 삼성전자주식회사 AI(artificial intelligent) 에이전트 서비스를 통해 업데이트 정보를 제공하기 위한 전자 장치
US11676599B2 (en) * 2021-05-10 2023-06-13 International Business Machines Corporation Operational command boundaries
US20230081605A1 (en) * 2021-09-16 2023-03-16 Apple Inc. Digital assistant for moving and copying graphical elements
US20230214171A1 (en) * 2021-12-30 2023-07-06 Harman International Industries, Incorporated In-vehicle multi-occupant media management
WO2023177077A1 (ko) * 2022-03-15 2023-09-21 삼성전자 주식회사 전자 장치 및 그의 동작 방법
US20230325046A1 (en) * 2022-04-11 2023-10-12 Facebook Technologies, Llc Activating a Snap Point in an Artificial Reality Environment
CN115019798A (zh) * 2022-06-21 2022-09-06 珠海格力电器股份有限公司 语音识别设备的控制方法、装置、电子设备及存储介质
US11902656B2 (en) * 2022-06-29 2024-02-13 Western Digital Technologies, Inc. Audio sensors for controlling surveillance video data capture
EP4321990A1 (en) * 2022-08-11 2024-02-14 Koninklijke Philips N.V. Selectively communicating an audio signal
WO2024063508A1 (ko) * 2022-09-19 2024-03-28 삼성전자 주식회사 전자 장치 및 복수의 장치들의 동작 상태를 제공하는 방법

Family Cites Families (1035)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3859005A (en) 1973-08-13 1975-01-07 Albert L Huebner Erosion reduction in wet turbines
US4826405A (en) 1985-10-15 1989-05-02 Aeroquip Corporation Fan blade fabrication system
US4805222A (en) 1985-12-23 1989-02-14 International Bioaccess Systems Corporation Method and apparatus for verifying an individual's identity
US5265007A (en) 1988-06-07 1993-11-23 Huntington Bancshares Incorporated Central check clearing system
JPH04158434A (ja) 1990-10-23 1992-06-01 Toshiba Corp ディスプレイ装置のポインティングデバイス
US5229764A (en) 1991-06-20 1993-07-20 Matchett Noel D Continuous biometric authentication matrix
US5783808A (en) 1996-01-11 1998-07-21 J. D. Carreker And Associates, Inc. Electronic check presentment system having transaction level reconciliation capability
US5237159A (en) 1991-07-17 1993-08-17 J. D. Carreker And Associates Electronic check presentment system
US5691524A (en) 1991-07-17 1997-11-25 J.D. Carreker And Associates, Inc. Electronic check presentment system having a non-ECP exceptions notification system incorporated therein
EP0593386A3 (en) 1992-10-16 1996-07-31 Ibm Method and apparatus for accessing touch screen desktop objects via fingerprint recognition
US5484988A (en) 1992-11-13 1996-01-16 Resource Technology Services, Inc. Checkwriting point of sale system
JPH06284182A (ja) 1993-03-30 1994-10-07 Fujitsu Ltd 携帯電話機
JP2813728B2 (ja) 1993-11-01 1998-10-22 インターナショナル・ビジネス・マシーンズ・コーポレイション ズーム／パン機能付パーソナル通信機
JP3393691B2 (ja) 1993-11-25 2003-04-07 浜松ホトニクス株式会社 照合装置
US6950810B2 (en) 1994-11-28 2005-09-27 Indivos Corporation Tokenless biometric electronic financial transactions via a third party identicator
US6230148B1 (en) 1994-11-28 2001-05-08 Veristar Corporation Tokenless biometric electric check transaction
US6269348B1 (en) 1994-11-28 2001-07-31 Veristar Corporation Tokenless biometric electronic debit and credit transactions
US5717868A (en) 1995-03-07 1998-02-10 Huntington Bancshares Inc. Electronic payment interchange concentrator
FR2733379B1 (fr) 1995-04-20 1997-06-20 Gemplus Card Int Procede de generation de signatures electroniques, notamment pour cartes a puces
US5838306A (en) 1995-05-05 1998-11-17 Dell U.S.A., L.P. Mouse with security feature
JP3316725B2 (ja) 1995-07-06 2002-08-19 三菱電機株式会社 顔画像撮像装置
JPH0981309A (ja) * 1995-09-13 1997-03-28 Toshiba Corp 入力装置
US5821933A (en) 1995-09-14 1998-10-13 International Business Machines Corporation Visual access to restricted functions represented on a graphical user interface
CN1163669A (zh) 1995-10-05 1997-10-29 富士通电装株式会社 指纹记录方法和指纹检验装置
US5767457A (en) 1995-11-13 1998-06-16 Cirque Corporation Apparatus and method for audible feedback from input device
US5828773A (en) 1996-01-26 1998-10-27 Harris Corporation Fingerprint sensing method with finger position indication
JP3470327B2 (ja) 1996-02-20 2003-11-25 横河電機株式会社 セキュリティー装置
JPH09269930A (ja) 1996-04-03 1997-10-14 Hitachi Ltd ネットワークシステムの防疫方法及びその装置
GB2312040A (en) 1996-04-13 1997-10-15 Xerox Corp A computer mouse
US6016484A (en) 1996-04-26 2000-01-18 Verifone, Inc. System, method and article of manufacture for network electronic payment instrument and certification of payment and credit collection utilizing a payment
US5748766A (en) 1996-04-30 1998-05-05 Identix Incorporated Method and device for reducing smear in a rolled fingerprint image
DE19620346A1 (de) 1996-05-21 1997-11-27 Bosch Gmbh Robert Grafische Paßworteingabe
FR2749955B1 (fr) 1996-06-14 1998-09-11 Thomson Csf Systeme de lecture d'empreintes digitales
US5933134A (en) 1996-06-25 1999-08-03 International Business Machines Corporation Touch screen virtual pointing device which goes into a translucent hibernation state when not in use
JPH1069346A (ja) 1996-08-28 1998-03-10 Alps Electric Co Ltd 座標入力装置およびその制御方法
US5726034A (en) 1996-09-06 1998-03-10 Protein Technologies International, Inc. Aglucone isoflavone enriched vegetable protein extract and protein material, and high genistein and daidzein content materials and process for producing the same
US6219793B1 (en) 1996-09-11 2001-04-17 Hush, Inc. Method of using fingerprints to authenticate wireless communications
US6175922B1 (en) 1996-12-04 2001-01-16 Esign, Inc. Electronic transaction systems and methods therefor
US6111517A (en) 1996-12-30 2000-08-29 Visionics Corporation Continuous video monitoring using face recognition for access control
US6164528A (en) 1996-12-31 2000-12-26 Chequemark Patent, Inc. Check writing point of sale system
JP3469031B2 (ja) 1997-02-18 2003-11-25 株式会社東芝 顔画像登録装置及びその方法
JPH10247936A (ja) 1997-03-04 1998-09-14 Matsushita Electric Ind Co Ltd 電子メール送受信システム
JPH10255112A (ja) 1997-03-12 1998-09-25 Oki Electric Ind Co Ltd 自動取引装置の監視方法と監視システム
JPH10269358A (ja) 1997-03-25 1998-10-09 Sony Corp 物体認識装置
US6193152B1 (en) 1997-05-09 2001-02-27 Receiptcity.Com, Inc. Modular signature and data-capture system and point of transaction payment and reward system
CA2208179A1 (en) 1997-06-18 1998-12-18 Roland S. Walch Pointing device with optical fingerprint recognition and tracking capability
KR19990009965A (ko) 1997-07-14 1999-02-05 정명식 타자 패턴을 이용한 사용자 인증 방법
JPH1139385A (ja) 1997-07-23 1999-02-12 Oki Electric Ind Co Ltd 送料金額の計算方法及び送料金額の計算プログラムを記録した媒体
US5974150A (en) 1997-09-30 1999-10-26 Tracer Detection Technology Corp. System and method for authentication of goods
US20020097145A1 (en) 1997-11-06 2002-07-25 David M. Tumey Integrated vehicle security system utilizing facial image verification
GB9725571D0 (en) 1997-12-04 1998-02-04 Philips Electronics Nv Electronic apparatus comprising fingerprint sensing devices
JPH11175478A (ja) 1997-12-10 1999-07-02 Nec Corp 本人認証システム
JPH11185016A (ja) 1997-12-24 1999-07-09 Sharp Corp 情報処理装置
US6408087B1 (en) 1998-01-13 2002-06-18 Stmicroelectronics, Inc. Capacitive semiconductor user input device
KR100595917B1 (ko) 1998-01-26 2006-07-05 웨인 웨스터만 수동 입력 통합 방법 및 장치
JP3574559B2 (ja) 1998-01-27 2004-10-06 株式会社エヌ・ティ・ティ・データ 電子チケットシステム、回収端末、サービス提供端末、利用者端末、電子チケット回収方法及び記録媒体
JPH11242745A (ja) 1998-02-25 1999-09-07 Victor Co Of Japan Ltd 顔画像の計測・処理方法
FI980427A (fi) 1998-02-25 1999-08-26 Ericsson Telefon Ab L M Menetelmä, järjestely ja laite todentamiseen
US6104922A (en) 1998-03-02 2000-08-15 Motorola, Inc. User authentication in a communication system utilizing biometric information
US6173402B1 (en) 1998-03-04 2001-01-09 International Business Machines Corporation Technique for localizing keyphrase-based data encryption and decryption
US6141436A (en) 1998-03-25 2000-10-31 Motorola, Inc. Portable communication device having a fingerprint identification system
US6192380B1 (en) 1998-03-31 2001-02-20 Intel Corporation Automatic web based form fill-in
US6618806B1 (en) 1998-04-01 2003-09-09 Saflink Corporation System and method for authenticating users in a computer network
US6189785B1 (en) 1998-04-14 2001-02-20 International Check Services Demand deposit account data processing system
US20010044906A1 (en) 1998-04-21 2001-11-22 Dimitri Kanevsky Random visual patterns used to obtain secured access
US6421453B1 (en) 1998-05-15 2002-07-16 International Business Machines Corporation Apparatus and methods for user recognition employing behavioral passwords
US6400836B2 (en) 1998-05-15 2002-06-04 International Business Machines Corporation Combined fingerprint acquisition and control device
US6151208A (en) 1998-06-24 2000-11-21 Digital Equipment Corporation Wearable computing device mounted on superior dorsal aspect of a hand
US6573883B1 (en) 1998-06-24 2003-06-03 Hewlett Packard Development Company, L.P. Method and apparatus for controlling a computing device with gestures
JPH1173530A (ja) 1998-07-15 1999-03-16 Yokogawa Electric Corp 無線型料金支払いシステム
US7130454B1 (en) 1998-07-20 2006-10-31 Viisage Technology, Inc. Real-time facial recognition and verification system
US6328207B1 (en) 1998-08-11 2001-12-11 Electronic Data Systems Corporation Method and apparatus for automated cashing of checks
US6374145B1 (en) 1998-12-14 2002-04-16 Mark Lignoul Proximity sensor for screen saver and password delay
US6317835B1 (en) 1998-12-23 2001-11-13 Radiant Systems, Inc. Method and system for entry of encrypted and non-encrypted information on a touch screen
US20020059295A1 (en) 1999-01-29 2002-05-16 Harold Aaron Ludtke Method and system for distributed queues in a multimedia network
JP3921865B2 (ja) 1999-03-11 2007-05-30 カシオ計算機株式会社 データ処理システムおよびそのプログラム記録媒体
JP4306006B2 (ja) 1999-03-30 2009-07-29 コニカミノルタセンシング株式会社 ３次元データ入力方法及び装置
US7046838B1 (en) 1999-03-30 2006-05-16 Minolta Co., Ltd. Three-dimensional data input method and apparatus
US7039221B1 (en) 1999-04-09 2006-05-02 Tumey David M Facial image verification utilizing smart-card with integrated video camera
US6337919B1 (en) 1999-04-28 2002-01-08 Intel Corporation Fingerprint detecting mouse
AU4501600A (en) 1999-04-30 2000-11-17 X.Com Corporation System and method for electronically exchanging value among distributed users
JP2000315118A (ja) 1999-05-06 2000-11-14 Canon Inc 情報処理装置、情報処理装置制御方法、情報処理装置制御プログラムを格納した記憶媒体
US6795569B1 (en) 1999-05-11 2004-09-21 Authentec, Inc. Fingerprint image compositing method and associated apparatus
US6560711B1 (en) 1999-05-24 2003-05-06 Paul Given Activity sensing interface between a computer and an input peripheral
US6282655B1 (en) 1999-05-24 2001-08-28 Paul Given Keyboard motion detector
US6737591B1 (en) 1999-05-25 2004-05-18 Silverbrook Research Pty Ltd Orientation sensing device
AU781021B2 (en) 1999-06-18 2005-04-28 Echarge Corporation Method and apparatus for ordering goods, services and content over an internetwork using a virtual payment account
US7716080B2 (en) 1999-06-23 2010-05-11 Signature Systems, Llc Method and system for using multi-function cards for storing, managing and aggregating reward points
US6639584B1 (en) 1999-07-06 2003-10-28 Chuang Li Methods and apparatus for controlling a portable electronic device using a touchpad
US6609198B1 (en) 1999-08-05 2003-08-19 Sun Microsystems, Inc. Log-on service providing credential level change without loss of session continuity
KR100348521B1 (ko) 1999-08-26 2002-08-14 김운용 생체인식에 의한 출입통제방법 및 그 장치
JP2001092554A (ja) 1999-09-21 2001-04-06 Seiko Instruments Inc 情報処理装置
JP2001092783A (ja) 1999-09-27 2001-04-06 Hitachi Software Eng Co Ltd 個人認証方法およびシステム、記録媒体
JP4518217B2 (ja) 1999-09-30 2010-08-04 ソニー株式会社 通信装置、通信システム及び通信方法
US7030860B1 (en) 1999-10-08 2006-04-18 Synaptics Incorporated Flexible transparent touch sensing system for electronic devices
KR200184982Y1 (ko) 1999-11-08 2000-06-15 삼성전자주식회사 지문인식기능을 가지는 디스플레이장치
JP3738629B2 (ja) 1999-11-25 2006-01-25 三菱電機株式会社 携帯型電子機器
DE60032863D1 (de) 1999-11-30 2007-02-22 Citibank Na System und Verfahren zur Durchführung einer elektronischen Transaktion mit einer elektronischen Geldbörse mittels eines Transaktionproxys
US20040252867A1 (en) 2000-01-05 2004-12-16 Je-Hsiung Lan Biometric sensor
US6398646B1 (en) 2000-01-06 2002-06-04 Melange Computer Services, Inc. Method and system for storing preselected numbers for use in games of bingo
US7609862B2 (en) 2000-01-24 2009-10-27 Pen-One Inc. Method for identity verification
US6721738B2 (en) 2000-02-01 2004-04-13 Gaveo Technology, Llc. Motion password control system
KR20000030544A (ko) 2000-03-02 2000-06-05 김종완 인터넷 조각 그림 맞추기 홈페이지를 이용한 광고 표현 기법
CN1263324A (zh) 2000-03-20 2000-08-16 后健慈 指纹辨识键盘装置及其辨识方法
DE60119418T2 (de) 2000-03-22 2007-05-24 Kabushiki Kaisha Toshiba, Kawasaki Gesichtsbildaufnehmendes Erkennungsgerät und Passüberprüfungsgerät
US20010039497A1 (en) 2000-03-30 2001-11-08 Hubbard Edward A. System and method for monitizing network connected user bases utilizing distributed processing systems
US7086085B1 (en) 2000-04-11 2006-08-01 Bruce E Brown Variable trust levels for authentication
AU2001249968A1 (en) 2000-04-18 2001-10-30 Bioconx, Inc. System for logging into multiple network systems
US20010047365A1 (en) 2000-04-19 2001-11-29 Hiawatha Island Software Co, Inc. System and method of packaging and unpackaging files into a markup language record for network search and archive services
SG145536A1 (en) 2000-04-26 2008-09-29 Applic Co Ltd Comp Method for managing buyer transactions and settlements using communication network between computers, and method for relaying information following buyer consumption trends to the buyer
US20020046064A1 (en) 2000-05-19 2002-04-18 Hector Maury Method and system for furnishing an on-line quote for an insurance product
JP2001331758A (ja) 2000-05-22 2001-11-30 Sumisho Computer Systems Corp 認証ワークフローシステム、認証サーバ装置、決裁に関する認証方法、記録媒体
JP4914533B2 (ja) 2000-06-05 2012-04-11 株式会社三井住友銀行 情報処理装置及び情報処理方法
SE517484C2 (sv) 2000-06-30 2002-06-11 Nokia Corp Föräldrakontroll av anordningar som levererar mediainnehåll
US6720860B1 (en) 2000-06-30 2004-04-13 International Business Machines Corporation Password protection using spatial and temporal variation in a high-resolution touch sensitive display
CA2412184C (en) 2000-07-10 2015-04-07 Paypal, Inc. System and method for verifying a financial instrument
US7359880B2 (en) 2000-07-11 2008-04-15 Abel Luther C System and method for consumer control over card-based transactions
JP4221220B2 (ja) 2000-07-24 2009-02-12 株式会社ディー・ディー・エス 指紋照合装置、指紋照合方法及び指紋照合プログラム
CN101025778A (zh) 2000-07-25 2007-08-29 有限会社信息安全 保密信息记录媒介、保护方法、保护存储方法及信息访问报警系统
JP2002049570A (ja) 2000-08-02 2002-02-15 Ntt Data Corp クライアント・サーバ・システム、サーバ装置、データ中継方法及びそのプログラムを記録した記録媒体
JP4469476B2 (ja) 2000-08-09 2010-05-26 パナソニック株式会社 眼位置検出方法および眼位置検出装置
KR20020022295A (ko) 2000-09-19 2002-03-27 장기화 3차원 정보를 이용한 얼굴 인식 장치 및 방법
JP2002099854A (ja) 2000-09-21 2002-04-05 Sanyo Electric Co Ltd カード決済加盟店端末、カード決済サービスシステム、及びカード決済におけるカード有効性判断方法
KR20070118707A (ko) 2000-09-21 2007-12-17 아메리칸 캘카어 인코포레이티드 차량을 효과적으로 그리고 안전하게 운전하는 기술
GB0023681D0 (en) 2000-09-27 2000-11-08 Canon Kk Image processing apparatus
US7337144B1 (en) 2000-09-28 2008-02-26 Microsoft Corporation Method and system for restricting the usage of payment accounts
US7218226B2 (en) 2004-03-01 2007-05-15 Apple Inc. Acceleration-based theft detection system for portable electronic devices
US7688306B2 (en) 2000-10-02 2010-03-30 Apple Inc. Methods and apparatuses for operating a portable device based on an accelerometer
JP4264564B2 (ja) 2000-11-16 2009-05-20 ソニー株式会社 データ受信装置、受信状況表示方法およびデータ送信方法
JP2002159052A (ja) 2000-11-17 2002-05-31 Nec Kofu Ltd 指紋認証機能付き移動端末
JP4590717B2 (ja) 2000-11-17 2010-12-01 ソニー株式会社 顔識別装置及び顔識別方法
US7346778B1 (en) 2000-11-29 2008-03-18 Palmsource, Inc. Security method and apparatus for controlling the data exchange on handheld computers
US20040143553A1 (en) 2000-12-01 2004-07-22 Torget John W. System and method for remotely generating instruments
JP2002183093A (ja) 2000-12-12 2002-06-28 Canon Inc 制御装置および制御装置の制御方法および記憶媒体
US7921297B2 (en) 2001-01-10 2011-04-05 Luis Melisendro Ortiz Random biometric authentication utilizing unique biometric signatures
JP2002207525A (ja) 2001-01-10 2002-07-26 Matsushita Electric Ind Co Ltd 指紋センサ付き携帯情報端末
US20020091937A1 (en) 2001-01-10 2002-07-11 Ortiz Luis M. Random biometric authentication methods and systems
US20020095588A1 (en) 2001-01-12 2002-07-18 Satoshi Shigematsu Authentication token and authentication system
US7124300B1 (en) 2001-01-24 2006-10-17 Palm, Inc. Handheld computer system configured to authenticate a user and power-up in response to a single action by the user
US6677932B1 (en) 2001-01-28 2004-01-13 Finger Works, Inc. System and method for recognizing touch typing under limited tactile feedback conditions
US8949902B1 (en) 2001-02-06 2015-02-03 Rovi Guides, Inc. Systems and methods for providing audio-based guidance
US6570557B1 (en) 2001-02-10 2003-05-27 Finger Works, Inc. Multi-touch system and method for emulating modifier keys via fingertip chords
US7194618B1 (en) 2001-03-05 2007-03-20 Suominen Edwin A Encryption and authentication systems and methods
TWI282941B (en) 2001-03-15 2007-06-21 Toshiba Corp Entrance management apparatus and entrance management method by using face features identification
US6920236B2 (en) 2001-03-26 2005-07-19 Mikos, Ltd. Dual band biometric identification system
JP2002288137A (ja) 2001-03-27 2002-10-04 Toshiba Corp 電子機器における個人認証方式
US20020141586A1 (en) 2001-03-29 2002-10-03 Aladdin Knowledge Systems Ltd. Authentication employing the bluetooth communication protocol
JP4196973B2 (ja) 2001-04-17 2008-12-17 パナソニック株式会社 個人認証装置および方法
US7079652B1 (en) 2001-05-01 2006-07-18 Harris Scott C Login renewal based on device surroundings
US20040085300A1 (en) 2001-05-02 2004-05-06 Alec Matusis Device and method for selecting functions based on intrinsic finger features
KR20020087665A (ko) 2001-05-15 2002-11-23 엘지전자 주식회사 개인휴대용 통신단말기의 분실모드에 따른 동작방법
US20050024341A1 (en) 2001-05-16 2005-02-03 Synaptics, Inc. Touch screen with user interface enhancement
US7730401B2 (en) 2001-05-16 2010-06-01 Synaptics Incorporated Touch screen with user interface enhancement
US20020190960A1 (en) 2001-06-15 2002-12-19 Shyh-Ren Kuo Method for controlling computer cursor based on identification of user fingerprint
US6709333B1 (en) 2001-06-20 2004-03-23 Sierra Design Group Player identification using biometric data in a gaming environment
JP2003016398A (ja) 2001-06-27 2003-01-17 Sony Corp 携帯端末機
TWI246028B (en) 2001-06-28 2005-12-21 Trek 2000 Int Ltd A portable device having biometrics-based authentication capabilities
US20030141959A1 (en) 2001-06-29 2003-07-31 Keogh Colin Robert Fingerprint biometric lock
US20030115475A1 (en) 2001-07-12 2003-06-19 Russo Anthony P. Biometrically enhanced digital certificates and system and method for making and using
US6930718B2 (en) 2001-07-17 2005-08-16 Eastman Kodak Company Revised recapture camera and method
US7536556B2 (en) 2001-07-27 2009-05-19 Yulia Vladimirovna Fedorova Method and device for entering a computer database password
EP1413116A1 (en) 2001-08-03 2004-04-28 Matsushita Electric Industrial Co., Ltd. Access control system
US7099845B2 (en) 2001-08-16 2006-08-29 Ncr Corporation Electronic check presentment with image interchange system and method of operating an electronic check presentment with image interchange system
US20030038754A1 (en) 2001-08-22 2003-02-27 Mikael Goldstein Method and apparatus for gaze responsive text presentation in RSVP display
JP2003067343A (ja) 2001-08-23 2003-03-07 Toshiba Tec Corp 業務端末装置
US8050997B1 (en) 2001-08-23 2011-11-01 Paypal Inc. Instant availability of electronically transferred funds
JP3974375B2 (ja) 2001-10-31 2007-09-12 株式会社東芝 人物認識装置、人物認識方法および通行制御装置
US20030188183A1 (en) 2001-08-27 2003-10-02 Lee Lane W. Unlocking method and system for data on media
US20030046557A1 (en) 2001-09-06 2003-03-06 Miller Keith F. Multipurpose networked data communications system and distributed user control interface therefor
EP1293874A3 (en) 2001-09-06 2006-08-02 Nippon Telegraph and Telephone Corporation Authentication method, authentication system, and authentication token
US7027619B2 (en) 2001-09-13 2006-04-11 Honeywell International Inc. Near-infrared method and system for use in face detection
US7099850B1 (en) 2001-09-21 2006-08-29 Jpmorgan Chase Bank, N.A. Methods for providing cardless payment
US20040030934A1 (en) 2001-10-19 2004-02-12 Fumio Mizoguchi User selectable authentication interface and universal password oracle
JP2003143290A (ja) 2001-10-30 2003-05-16 Sanyo Electric Co Ltd 携帯電話機
WO2003038698A1 (fr) 2001-10-31 2003-05-08 Mitsubishi Denki Kabushiki Kaisha Terminal portable et terminal point de vente
DE10153591A1 (de) 2001-11-02 2003-05-22 Rene Baltus Wiedererkennung einer Person durch die Erfassung und dem Vergleich der personentypischen Betätigungsdynamik an einem Joystick
JP2003150550A (ja) 2001-11-14 2003-05-23 Toshiba Corp 情報処理システム
US7415502B2 (en) 2001-11-16 2008-08-19 Sbc Technology Resources, Inc. Method and system for intelligent routing based on presence detection
US8504652B2 (en) 2006-04-10 2013-08-06 Portulim Foundation Llc Method and system for selectively supplying media content to a user and media storage device for use therein
US8266212B2 (en) 2001-11-23 2012-09-11 Igt Game talk service bus
US20030099379A1 (en) 2001-11-26 2003-05-29 Monk Bruce C. Validation and verification apparatus and method
KR100456619B1 (ko) 2001-12-05 2004-11-10 한국전자통신연구원 에스.브이.엠(ｓｖｍ)을 이용한 얼굴 등록/인증 시스템 및방법
US6644546B2 (en) 2002-01-02 2003-11-11 International Business Machines Corporation System and method for electronic check conversion at a point-of-sale terminal
US7394346B2 (en) 2002-01-15 2008-07-01 International Business Machines Corporation Free-space gesture recognition for transaction security and command processing
US6970855B2 (en) 2002-01-29 2005-11-29 Pitney Bowes Inc. Method and system for enterprise-level unassisted customer shipping
US6850255B2 (en) 2002-02-28 2005-02-01 James Edward Muschetto Method and apparatus for accessing information, computer programs and electronic communications across multiple computing devices using a graphical user interface
EP1481561A1 (en) 2002-03-04 2004-12-01 Nokia Corporation Method for intermediate unlocking of a keypad on a mobile electronic device
JP2003298689A (ja) 2002-04-02 2003-10-17 Canon Inc 携帯電話
AU2003219276A1 (en) 2002-04-03 2003-10-13 Swivel Secure Limited System and method for secure credit and debit card transactions
JP4022861B2 (ja) 2002-04-10 2007-12-19 日本電気株式会社 指紋認証システム、指紋認証方法及び指紋認証プログラム
US7707120B2 (en) 2002-04-17 2010-04-27 Visa International Service Association Mobile account authentication service
US6980081B2 (en) 2002-05-10 2005-12-27 Hewlett-Packard Development Company, L.P. System and method for user authentication
JP2003346059A (ja) 2002-05-24 2003-12-05 Nec Engineering Ltd オンラインショッピングシステム
US7356516B2 (en) 2002-06-13 2008-04-08 Visa U.S.A. Inc. Method and system for facilitating electronic dispute resolution
AU2003233103A1 (en) 2002-06-17 2003-12-31 Koninklijke Philips Electronics N.V. Method for authentication between devices
US20030236746A1 (en) 2002-06-19 2003-12-25 Turner Michael B. Check and cash dispensing machine and method
FI20021655A (fi) 2002-06-19 2003-12-20 Nokia Corp Menetelmä lukituksen avaamiseksi ja kannettava elektroninen laite
JP2004086866A (ja) 2002-06-25 2004-03-18 Chuo Spring Co Ltd 指紋照合方法及び指紋画像の登録方法
US7543156B2 (en) 2002-06-25 2009-06-02 Resilent, Llc Transaction authentication card
KR20040000954A (ko) 2002-06-26 2004-01-07 삼성전자주식회사 이동통신단말기에 있어서 지문인식 방향 선택 방법
US7243239B2 (en) 2002-06-28 2007-07-10 Microsoft Corporation Click passwords
KR20040005505A (ko) 2002-07-10 2004-01-16 삼성전자주식회사 컴퓨터시스템 및 그 부팅제어방법
US7822688B2 (en) 2002-08-08 2010-10-26 Fujitsu Limited Wireless wallet
US7606560B2 (en) 2002-08-08 2009-10-20 Fujitsu Limited Authentication services using mobile device
PE20040351A1 (es) 2002-09-10 2004-06-17 Ivi Smart Technologies Inc Una tarjeta inteligente de identificacion, metodo y sistema que usan dicha tarjeta
FI20021682A (fi) 2002-09-20 2004-03-21 Nokia Corp Menetelmä laitteen lukitustilan avaamiseksi ja elektroninen laite
HK1062117A2 (en) 2002-09-25 2004-09-17 Univ Hong Kong Polytechnic Method of palm print identification using geometry, line and/or texture features
US20040229560A1 (en) 2002-10-10 2004-11-18 Maloney William C. Methods of tracking and verifying human assets
US20040073432A1 (en) 2002-10-15 2004-04-15 Stone Christopher J. Webpad for the disabled
US7194105B2 (en) 2002-10-16 2007-03-20 Hersch Roger D Authentication of documents and articles by moiré patterns
US7548746B2 (en) 2002-11-01 2009-06-16 At&T Mobility Ii Llc General purpose automated activation and provisioning technologies
US7676748B1 (en) 2002-11-04 2010-03-09 Sun Microsystems, Inc. System graphics for security shield
US7278019B2 (en) 2002-11-04 2007-10-02 Hewlett-Packard Development Company, L.P. Method of hindering the propagation of a computer virus
US20040091136A1 (en) 2002-11-13 2004-05-13 Dombrowski James Douglas Real-time biometric data extraction and comparison for self identification
JP2004178584A (ja) 2002-11-26 2004-06-24 Asulab Sa 機能、装置、又は所定の場所にアクセスするためのタッチスクリーンによるセキュリティコードの入力方法、及びその方法を実行するためのデバイス
KR100477150B1 (ko) 2002-12-06 2005-03-17 에스케이 텔레콤주식회사 전자지갑을 구비한 이동통신 단말기의 전자지갑 잠금기능해제 관리 시스템 및 방법
US20040122685A1 (en) 2002-12-20 2004-06-24 Daryl Bunce Verification system for facilitating transactions via communication networks, and associated method
US7116805B2 (en) 2003-01-07 2006-10-03 Avagotechnologies Ecbu Ip (Singapore) Pte. Ltd. Fingerprint verification device
US7542945B2 (en) 2003-01-15 2009-06-02 Sanmina-Sci Corporation Authentication device, system and methods
EP1594085A4 (en) 2003-02-13 2008-02-27 Nec Corp DEVICE AND METHOD FOR DETECTING UNEMPLOYED PERSONS
JP4293516B2 (ja) 2003-02-20 2009-07-08 株式会社三菱東京Ｕｆｊ銀行 口座振替申込受付システム、方法及びプログラム
US20040172562A1 (en) 2003-03-01 2004-09-02 Vladimir Berger System and method for identity recognition of an individual for enabling an access to a secured system
JP4296008B2 (ja) 2003-03-04 2009-07-15 日本信号株式会社 個人認証システム
US7373657B2 (en) 2003-03-10 2008-05-13 Avaya Technology Corp. Method and apparatus for controlling data and software access
US7369759B2 (en) 2003-03-27 2008-05-06 Matsushita Electric Industrial Co., Ltd. Eye image pickup apparatus, iris authentication apparatus and portable terminal device having iris authentication function
US20040196400A1 (en) 2003-04-07 2004-10-07 Stavely Donald J. Digital camera user interface using hand gestures
JP2004313459A (ja) 2003-04-16 2004-11-11 Seiko Epson Corp 指紋照合装置、電子機器及び指紋の照合方法
US20040250138A1 (en) 2003-04-18 2004-12-09 Jonathan Schneider Graphical event-based password system
US7644019B2 (en) 2003-04-21 2010-01-05 Buysafe, Inc. Safe transaction guaranty
JP2004334788A (ja) 2003-05-12 2004-11-25 Minoru Ikeda 個人認証システム、認証装置、個人認証方法、プログラム、および、記録媒体
AU2003902422A0 (en) 2003-05-19 2003-06-05 Intellirad Solutions Pty. Ltd Access security system
KR20070026808A (ko) 2003-05-21 2007-03-08 가부시키가이샤 히다치 하이테크놀로지즈 지문센서내장 휴대 단말장치
JP2004348600A (ja) 2003-05-23 2004-12-09 Sony Corp 情報処理装置および方法、並びにプログラム
JP4341298B2 (ja) 2003-05-23 2009-10-07 ソニー株式会社 情報処理装置および方法、並びにプログラム
JP2004356816A (ja) 2003-05-28 2004-12-16 Hitachi Ltd 通信システム、通信端末及び通信端末の動作プログラム
US7783892B2 (en) 2003-05-30 2010-08-24 Privaris, Inc. System and methods for assignation and use of media content subscription service privileges
JP2005004490A (ja) 2003-06-12 2005-01-06 Murata Mach Ltd 文書処理装置及びそのプログラム
WO2004111940A1 (ja) 2003-06-16 2004-12-23 Yokohama Tlo Co., Ltd. 個人認証装置、及び個人認証装置を備えるシステム
FI20030920A0 (fi) 2003-06-19 2003-06-19 Nokia Corp Menetelmä ja järjestelmä graafisen salasanan tuottamiseksi sekä päätelaite
US7088220B2 (en) 2003-06-20 2006-08-08 Motorola, Inc. Method and apparatus using biometric sensors for controlling access to a wireless communication device
WO2005003907A2 (en) 2003-06-26 2005-01-13 Ebay Inc. Method and apparatus to authenticate and authorize user access to a system
US7057607B2 (en) 2003-06-30 2006-06-06 Motorola, Inc. Application-independent text entry for touch-sensitive display
US8043152B2 (en) 2003-07-03 2011-10-25 Igt Methods and system for providing paper-based outcomes
KR100538579B1 (ko) 2003-07-14 2005-12-22 이지케어텍(주) 온라인 상에서의 의무기록서식 관리 방법
KR100991172B1 (ko) 2003-07-14 2010-11-02 소니 주식회사 정보기록장치 및 정보기록방법
KR100613697B1 (ko) 2003-07-18 2006-08-21 학교법인연세대학교 손가락의 슬라이딩/롤링에 따른 지문영상획득방법
US7779345B2 (en) 2003-07-30 2010-08-17 Aol Inc. Reverse mapping method and apparatus for form filling
WO2005015452A1 (en) 2003-08-08 2005-02-17 Paycool, International, Ltd. Methods for facilitating validation of financial transactions made through a wireless communication network
WO2005020190A2 (en) 2003-08-11 2005-03-03 Virtualblue, Llc Rectractable flexible digital display apparatus
US7546470B2 (en) 2003-08-13 2009-06-09 International Business Machines Corporation Selective computer component activation apparatus method and system
US20050044387A1 (en) 2003-08-18 2005-02-24 Ozolins Helmars E. Portable access device
US20040230843A1 (en) 2003-08-20 2004-11-18 Wayne Jansen System and method for authenticating users using image selection
JP4633347B2 (ja) 2003-08-27 2011-02-16 ソニー株式会社 電子機器
CN1820288A (zh) 2003-08-29 2006-08-16 诺基亚公司 用于定制的基于图片的用户标识和认证方法和设备
JP4086740B2 (ja) 2003-09-09 2008-05-14 日本電気株式会社 端末利用者監視システム
US7756726B2 (en) 2003-09-25 2010-07-13 International Business Machines Corporation Secured medical sign-in
EP1521161A3 (en) 2003-09-25 2006-03-15 Matsushita Electric Industrial Co., Ltd. An apparatus and a method for preventing unauthorized use and a device with a function of preventing unauthorized use
JP4495545B2 (ja) 2003-09-25 2010-07-07 パナソニック株式会社 不正使用防止装置及び方法
EP1668473B1 (en) 2003-09-26 2012-11-14 Disney Enterprises, Inc. Cell phone parental control
JP2005115480A (ja) 2003-10-03 2005-04-28 Toshiba Social Automation Systems Co Ltd 認証システム及びコンピュータ読み取り可能な記憶媒体
US7280677B2 (en) 2003-10-10 2007-10-09 Authentec, Inc. Electronic device including fingerprint sensor and display having selectable menu items and associated methods
US7231231B2 (en) 2003-10-14 2007-06-12 Nokia Corporation Method and apparatus for locking a mobile telephone touch screen
US7577659B2 (en) 2003-10-24 2009-08-18 Microsoft Corporation Interoperable credential gathering and access modularity
US7532196B2 (en) 2003-10-30 2009-05-12 Microsoft Corporation Distributed sensing techniques for mobile devices
US7492472B2 (en) 2003-10-30 2009-02-17 Xerox Corporation Multimedia communications/collaboration hub
US7415720B2 (en) 2003-10-31 2008-08-19 Samsung Electronics Co., Ltd. User authentication system and method for controlling the same
JP4448000B2 (ja) 2003-11-05 2010-04-07 キヤノン株式会社 情報送信装置および情報送信宛先指定方法および記憶媒体およびプログラム
JP4387764B2 (ja) 2003-11-10 2009-12-24 富士通株式会社 認証装置および認証システム
US7597250B2 (en) 2003-11-17 2009-10-06 Dpd Patent Trust Ltd. RFID reader with multiple interfaces
KR101114553B1 (ko) 2003-11-18 2012-03-13 소니 주식회사 입력장치 및 입력방법과 전자기기
KR100580630B1 (ko) 2003-11-19 2006-05-16 삼성전자주식회사 적외선을 이용한 사람 식별 장치 및 방법
US20050110801A1 (en) 2003-11-20 2005-05-26 I-Jong Lin Methods and systems for processing displayed images
TW200517975A (en) 2003-11-20 2005-06-01 Lightuning Tech Inc Sweep-type fingerprint sensor device capable of guiding a finger in a fixed sweeping direction
US20050114686A1 (en) 2003-11-21 2005-05-26 International Business Machines Corporation System and method for multiple users to securely access encrypted data on computer system
JP4131229B2 (ja) 2003-11-25 2008-08-13 日本電気株式会社 折り畳み式携帯電話機及び折り畳み式携帯電話機のロック解除方法
CN1627317A (zh) 2003-12-12 2005-06-15 北京阳光奥森科技有限公司 利用主动光源获取人脸图像的方法
WO2005059690A2 (en) 2003-12-12 2005-06-30 Michael Stockton Method and system configured for facilitating management of international trade receivables transactions
KR100554129B1 (ko) 2003-12-19 2006-02-20 노틸러스효성 주식회사 인체의 열정보를 이용한 개인인증장치와 그 방법
CN100421058C (zh) 2003-12-23 2008-09-24 奥森泰克公司 具有用于字符输入的手指传感器的电子设备和相关方法
JP2005202578A (ja) 2004-01-14 2005-07-28 Toshiba Corp コミュニケーション装置およびコミュニケーション方法
US7697729B2 (en) 2004-01-29 2010-04-13 Authentec, Inc. System for and method of finger initiated actions
US20090106558A1 (en) 2004-02-05 2009-04-23 David Delgrosso System and Method for Adding Biometric Functionality to an Application and Controlling and Managing Passwords
TWI231689B (en) 2004-02-27 2005-04-21 Htc Corp Handheld electronic device
KR100652624B1 (ko) 2004-03-02 2006-12-06 엘지전자 주식회사 이동통신단말기의 대기화면 표시방법
US20050204173A1 (en) 2004-03-10 2005-09-15 Giga-Byte Technology Co., Ltd. Method for automatically filling in user data using fingerprint identification
US20050206501A1 (en) 2004-03-16 2005-09-22 Michael Farhat Labor management system and method using a biometric sensing device
US7693308B2 (en) 2004-03-24 2010-04-06 Fujifilm Corporation Authentication system, authentication method, machine readable medium storing thereon authentication program, certificate photograph taking apparatus, and certificate photograph taking method
US7542592B2 (en) 2004-03-29 2009-06-02 Siemesn Corporate Research, Inc. Systems and methods for face detection and recognition using infrared imaging
US7378939B2 (en) 2004-03-30 2008-05-27 Sengupta Uttam K Method and apparatus for providing proximity based authentication, security, and notification in a wireless system
JP2005292542A (ja) 2004-04-01 2005-10-20 Matsushita Electric Ind Co Ltd 目画像撮像装置および携帯端末装置
US11475436B2 (en) 2010-01-08 2022-10-18 Blackhawk Network, Inc. System and method for providing a security code
US20140019352A1 (en) 2011-02-22 2014-01-16 Visa International Service Association Multi-purpose virtual card transaction apparatuses, methods and systems
JP4059224B2 (ja) 2004-04-13 2008-03-12 株式会社デンソー 運転者の外観認識システム
WO2005106774A2 (en) 2004-04-23 2005-11-10 Validity Sensors, Inc. Methods and apparatus for acquiring a swiped fingerprint image
US20050250538A1 (en) 2004-05-07 2005-11-10 July Systems, Inc. Method and system for making card-based payments using mobile devices
JP2005324450A (ja) 2004-05-14 2005-11-24 Canon Inc 画像形成装置および情報処理装置およびジョブ表示制御方法およびコンピュータが読み取り可能なプログラムを格納した記憶媒体およびプログラム
JP4321350B2 (ja) 2004-05-14 2009-08-26 パナソニック株式会社 パラメタ推定方法、パラメタ推定装置および照合方法
JP2005339425A (ja) 2004-05-31 2005-12-08 Sanyo Electric Co Ltd 本人認証装置
US8684839B2 (en) 2004-06-18 2014-04-01 Igt Control of wager-based game using gesture recognition
US20060075228A1 (en) 2004-06-22 2006-04-06 Black Alistair D Method and apparatus for recognition and real time protection from view of sensitive terms in documents
US20060021003A1 (en) 2004-06-23 2006-01-26 Janus Software, Inc Biometric authentication system
JP4592341B2 (ja) 2004-06-29 2010-12-01 セコム株式会社 生体情報認証装置
TWI267789B (en) 2004-06-30 2006-12-01 Au Optronics Corp Transparent touch panel for recognizing fingerprint
JP2006018613A (ja) 2004-07-02 2006-01-19 Oki Electric Ind Co Ltd 自動取引装置
JP4281638B2 (ja) 2004-07-13 2009-06-17 ソニー株式会社 情報処理システム、情報処理装置、情報処理方法、および情報記録媒体
US8190907B2 (en) 2004-08-11 2012-05-29 Sony Computer Entertainment Inc. Process and apparatus for automatically identifying user of consumer electronics
US7328850B2 (en) 2004-08-12 2008-02-12 Codecard, Inc. Financial and similar identification cards and methods relating thereto
KR100601963B1 (ko) 2004-08-23 2006-07-14 삼성전자주식회사 시선을 이용한 인증 장치 및 그 방법
JP4699139B2 (ja) 2004-09-14 2011-06-08 富士フイルム株式会社 セキュリティシステム
JP2006085559A (ja) 2004-09-17 2006-03-30 Canon Inc 個人認証装置および個人認証方法および記憶媒体
JP2006093912A (ja) 2004-09-22 2006-04-06 Casio Hitachi Mobile Communications Co Ltd 携帯電話装置およびプログラム
US20060075250A1 (en) 2004-09-24 2006-04-06 Chung-Wen Liao Touch panel lock and unlock function and hand-held device
JP4351982B2 (ja) 2004-10-07 2009-10-28 株式会社東芝 個人認証方法、装置及びプログラム
JP2006107366A (ja) 2004-10-08 2006-04-20 Fujitsu Ltd 生体情報入力装置，生体認証装置，生体情報処理方法，生体情報処理プログラムおよび同プログラムを記録したコンピュータ読取可能な記録媒体
ATE392785T1 (de) 2004-10-11 2008-05-15 Swisscom Mobile Ag Identifizierungs- und/oder authentifizierungsmethode anhand von fingerabdrücken
JP4442385B2 (ja) 2004-10-13 2010-03-31 株式会社カシオ日立モバイルコミュニケーションズ 携帯端末装置およびプログラム
US20060104224A1 (en) 2004-10-13 2006-05-18 Gurminder Singh Wireless access point with fingerprint authentication
US20100205091A1 (en) 2004-10-22 2010-08-12 Zevez Payments, Inc. Automated payment transaction system
US20060093192A1 (en) 2004-11-03 2006-05-04 Bechtel J S Finger guide device
KR100682898B1 (ko) 2004-11-09 2007-02-15 삼성전자주식회사 적외선을 이용한 영상 장치 및 그의 영상 식별 방법
US7602942B2 (en) 2004-11-12 2009-10-13 Honeywell International Inc. Infrared and visible fusion face recognition system
ES2760474T3 (es) 2004-11-12 2020-05-14 Koninkl Philips Electronics Nv Identificacion distinctiva de los usuarios y autenticacion para el acceso de multiples usuarios a dispositivos de visualizacion.
US7469060B2 (en) 2004-11-12 2008-12-23 Honeywell International Inc. Infrared face detection and recognition system
US20060107067A1 (en) 2004-11-15 2006-05-18 Max Safal Identification card with bio-sensor and user authentication method
US7138905B2 (en) 2004-11-18 2006-11-21 Honeywell International Inc. Controlled environment thermal image detection system and methods regarding same
US20060115130A1 (en) 2004-11-29 2006-06-01 Douglas Kozlay Eyewear with biometrics to protect displayed data
US8224753B2 (en) 2004-12-07 2012-07-17 Farsheed Atef System and method for identity verification and management
JP2006163960A (ja) 2004-12-09 2006-06-22 Sharp Corp 決済機能付き携帯通信端末、課金決済システム及び課金決済における認証方法
JP2006172180A (ja) 2004-12-16 2006-06-29 Konica Minolta Business Technologies Inc 認証装置及び画像形成装置
JP4079937B2 (ja) 2004-12-17 2008-04-23 シャープ株式会社 画像処理装置
US20060136734A1 (en) 2004-12-21 2006-06-22 Eastman Kodak Company Identification display device
JP4095639B2 (ja) 2004-12-22 2008-06-04 キヤノン株式会社 画像処理装置及び画像処理装置の制御方法
JP2006189999A (ja) 2005-01-04 2006-07-20 Fujitsu Ltd セキュリティ管理方法、プログラム及び情報機器
JP2006191245A (ja) 2005-01-05 2006-07-20 Nec Corp ダイヤルロック機能認証装置及びその方法並びにそれを用いた携帯端末
KR100729280B1 (ko) 2005-01-08 2007-06-15 아이리텍 잉크 스테레오 카메라를 장착한 이동단말기를 이용한 홍채인식시스템 및 그 방법
US8438400B2 (en) 2005-01-11 2013-05-07 Indigo Identityware, Inc. Multiple user desktop graphical identification and authentication
JP2006197071A (ja) 2005-01-12 2006-07-27 Konica Minolta Photo Imaging Inc 無線通信システムの制御方法、無線通信システム、無線端末装置、画像データ通信システム及びプログラム
US20060208060A1 (en) 2005-01-18 2006-09-21 Isaac Mendelovich Method for managing consumer accounts and transactions
US8700729B2 (en) 2005-01-21 2014-04-15 Robin Dua Method and apparatus for managing credentials through a wireless network
US7197324B2 (en) 2005-01-31 2007-03-27 Sweeney Robert J Permission based text messaging
JP2006215705A (ja) 2005-02-02 2006-08-17 Sony Ericsson Mobilecommunications Japan Inc 情報通信装置及び情報通信システム、情報記録装置及び情報再生装置
US8145912B2 (en) 2005-03-01 2012-03-27 Qualcomm Incorporated System and method for using a visual password scheme
CN101171604A (zh) 2005-03-07 2008-04-30 诺基亚公司 包括智能卡模块和近场通信装置的方法和移动终端设备
JP4696608B2 (ja) 2005-03-15 2011-06-08 オムロン株式会社 被写体認証装置、携帯電話、及び被写体認証プログラム
JP4702598B2 (ja) 2005-03-15 2011-06-15 オムロン株式会社 監視システム、監視装置および方法、記録媒体、並びにプログラム
JP4734980B2 (ja) 2005-03-15 2011-07-27 オムロン株式会社 顔認証装置およびその制御方法、顔認証装置を備えた電子機器、顔認証装置制御プログラム、ならびに該プログラムを記録した記録媒体
JP4739787B2 (ja) 2005-03-28 2011-08-03 富士通株式会社 電子機器
JP2006277670A (ja) 2005-03-30 2006-10-12 Nec Corp 決済手段の選択方法及び決済手段選択システム、ならびにコンピュータプログラム
US7725511B2 (en) 2005-03-31 2010-05-25 Intel Corporation Bio-metric input mechanism
JP2006303701A (ja) 2005-04-18 2006-11-02 Fujitsu Ltd 電子機器、その動作抑止制御方法及び動作抑止制御プログラム
JP2008541206A (ja) 2005-04-19 2008-11-20 マイクロソフト コーポレーション ネットワーク商取引
US7590269B2 (en) 2005-04-22 2009-09-15 Microsoft Corporation Integrated control for navigation, authentication, power on and rotation
JP2006308375A (ja) 2005-04-27 2006-11-09 Matsushita Electric Ind Co Ltd 赤外線利用型目位置検出装置
US7793851B2 (en) 2005-05-09 2010-09-14 Dynamics Inc. Dynamic credit card with magnetic stripe and embedded encoder and methods for using the same to provide a copy-proof credit card
US7929946B2 (en) 2005-05-24 2011-04-19 Rathus Spencer A Remote subscriber identification (RSID) system and method
EP1892611A4 (en) 2005-05-27 2013-03-06 Sharp Kk DISPLAY DEVICE
US20060288226A1 (en) 2005-06-15 2006-12-21 Stelor Productions, Llc. System and method for establishing and authorizing a security code
US8452654B1 (en) 2005-06-16 2013-05-28 Rbs Nb System and method for issuing rewards to card holders
US8370639B2 (en) 2005-06-16 2013-02-05 Sensible Vision, Inc. System and method for providing secure access to an electronic device using continuous facial biometrics
KR100713494B1 (ko) 2005-06-20 2007-04-30 삼성전자주식회사 카메라부를 이용한 사용자 인증 방법 및 이를 위한이동통신단말기
NO324406B1 (no) 2005-06-20 2007-10-08 Telenor Asa SIM RFID-leser med WLAN-tilgang
US7831520B2 (en) 2005-06-28 2010-11-09 Ebay Inc. Mobile device communication system
JP2007011420A (ja) 2005-06-28 2007-01-18 Konami Co Ltd 認証装置及びこれを備えるゲーム装置
JP2007011667A (ja) 2005-06-30 2007-01-18 Matsushita Electric Ind Co Ltd 虹彩認証装置および虹彩認証方法
US20070009139A1 (en) 2005-07-11 2007-01-11 Agere Systems Inc. Facial recognition device for a handheld electronic device and a method of using the same
US20070016958A1 (en) 2005-07-12 2007-01-18 International Business Machines Corporation Allowing any computer users access to use only a selection of the available applications
JP2007052770A (ja) 2005-07-21 2007-03-01 Omron Corp 監視装置
JP4663441B2 (ja) 2005-07-26 2011-04-06 株式会社エヌ・ティ・ティ・ドコモ 移動体端末装置及び電子決済システム
US7424218B2 (en) 2005-07-28 2008-09-09 Microsoft Corporation Real-time preview for panoramic images
US7438414B2 (en) * 2005-07-28 2008-10-21 Outland Research, Llc Gaze discriminating electronic control apparatus, system, method and computer program product
JP2007036928A (ja) 2005-07-29 2007-02-08 Sharp Corp 携帯情報端末装置
CN1908981A (zh) 2005-08-01 2007-02-07 富士通株式会社 用于物理销售点交易的无线计算机钱包
JP4829599B2 (ja) 2005-08-12 2011-12-07 森 直樹 階段室型共同住宅の増築方法及びこの方法で増築された建築物
JP4646734B2 (ja) 2005-08-17 2011-03-09 シャープ株式会社 携帯情報端末装置
EP1760619A1 (en) 2005-08-19 2007-03-07 STMicroelectronics Ltd. System for restricting data access
JP2007058397A (ja) 2005-08-23 2007-03-08 Konica Minolta Holdings Inc 認証システム、登録システム及び証明用媒体
US20070061126A1 (en) 2005-09-01 2007-03-15 Anthony Russo System for and method of emulating electronic input devices
WO2007029710A1 (ja) 2005-09-07 2007-03-15 Matsushita Electric Industrial Co., Ltd. 携帯処理装置
CN100437671C (zh) 2005-09-09 2008-11-26 中国工商银行股份有限公司 异地授权系统及方法
CN101305375A (zh) 2005-09-12 2008-11-12 沙盒技术有限公司 用于控制电子信息的分发的系统和方法
US8090945B2 (en) 2005-09-16 2012-01-03 Tara Chand Singhal Systems and methods for multi-factor remote user authentication
JP2007102278A (ja) 2005-09-30 2007-04-19 Oki Electric Ind Co Ltd 自動取引装置
US7633076B2 (en) 2005-09-30 2009-12-15 Apple Inc. Automated response to and sensing of user activity in portable devices
US20070081081A1 (en) 2005-10-07 2007-04-12 Cheng Brett A Automated multi-frame image capture for panorama stitching using motion sensor
US7484173B2 (en) 2005-10-18 2009-01-27 International Business Machines Corporation Alternative key pad layout for enhanced security
KR100663437B1 (ko) 2005-11-01 2007-01-02 삼성전자주식회사 지문 인식 센서를 이용한 원격 입력 방법
JP4332803B2 (ja) 2005-11-02 2009-09-16 コニカミノルタビジネステクノロジーズ株式会社 情報処理装置
KR100725057B1 (ko) 2005-11-03 2007-06-08 삼성전자주식회사 휴대용 무선단말기에서 영상 통화 장치 및 방법
JP2007128288A (ja) 2005-11-04 2007-05-24 Fuji Xerox Co Ltd 情報表示システム
JP2007135149A (ja) 2005-11-14 2007-05-31 Nec Corp 移動携帯端末
US7868874B2 (en) 2005-11-15 2011-01-11 Synaptics Incorporated Methods and systems for detecting a position-based attribute of an object using digital codes
JP2007140696A (ja) 2005-11-15 2007-06-07 Nec Corp コミュニケーションシステム、機器およびプログラム
GB0523995D0 (en) 2005-11-25 2006-01-04 Ibm Method,system and computer program product for access control
JP2007148801A (ja) 2005-11-28 2007-06-14 Yamatake Corp 指紋照合装置
SG133415A1 (en) 2005-12-12 2007-07-30 Syed Mahtab Uddin Mahmood Antiphishing login techniques
US20070143628A1 (en) 2005-12-20 2007-06-21 Konica Minolta Business Technologies, Inc. User authentication method, system provided with user authentication function, and, apparatus and computer software provided with user authentication function
JP4826277B2 (ja) 2006-02-21 2011-11-30 コニカミノルタビジネステクノロジーズ株式会社 ユーザ認証方法、ユーザ認証機能を備えるシステム、ユーザ認証機能を備える装置及びコンピュータソフトウェア
US8509494B2 (en) 2005-12-21 2013-08-13 Koninklijke Philips N.V. Biometric information detection using sweep-type imager
US20070150918A1 (en) 2005-12-22 2007-06-28 Sony Ericsson Mobile Communications Ab Methods, devices, and computer program products for providing parental control over access to media content using a mobile terminal
US7657849B2 (en) 2005-12-23 2010-02-02 Apple Inc. Unlocking a device by performing gestures on an unlock image
JP4881615B2 (ja) 2005-12-23 2012-02-22 パナソニック株式会社 電子機器の認証についての識別管理システム
JP4252994B2 (ja) 2005-12-26 2009-04-08 株式会社日立製作所 携帯電話機
US8018440B2 (en) 2005-12-30 2011-09-13 Microsoft Corporation Unintentional touch rejection
US8352323B2 (en) 2007-11-30 2013-01-08 Blaze Mobile, Inc. Conducting an online payment transaction using an NFC enabled mobile communication device
US7860536B2 (en) 2006-01-05 2010-12-28 Apple Inc. Telephone interface for a portable communication device
JP4651681B2 (ja) 2006-01-10 2011-03-16 富士通株式会社 端末装置およびコンピュータプログラム
CN100481001C (zh) 2006-01-17 2009-04-22 大唐移动通信设备有限公司 界面自动生成方法和界面自动生成系统
CA2640261A1 (en) 2006-01-26 2007-08-09 Imprivata, Inc. Systems and methods for multi-factor authentication
JP2007199984A (ja) 2006-01-26 2007-08-09 Toshiba Corp 通信端末装置
US8858332B2 (en) 2006-01-27 2014-10-14 Wms Gaming Inc. Handheld device for wagering games
US8078990B2 (en) 2006-02-01 2011-12-13 Research In Motion Limited Secure device sharing
EP1816821B1 (en) 2006-02-01 2011-05-18 Research In Motion Limited System and method for validating a user of an account using a wireless device
EP1987627B1 (en) 2006-02-03 2016-11-16 Mideye AB A system, an arrangement and a method for end user authentication
KR100705598B1 (ko) 2006-02-10 2007-04-09 삼성전자주식회사 얼굴인식을 통한 화상전화기의 사용자 정보 접근제어장치그 방법
KR20070081773A (ko) 2006-02-13 2007-08-17 스마트 와이어레스 가부시키가이샤 적외선 얼굴 인증장치, 이를 구비하는 휴대 단말기 및보안장치
US20070208743A1 (en) 2006-02-14 2007-09-06 Narayan Sainaney System and Method For Searching Rights Enabled Documents
US20070192168A1 (en) 2006-02-15 2007-08-16 Leviathan Entertainment, Llc Map and Inventory-Based On-Line Purchases
JP2007220004A (ja) 2006-02-20 2007-08-30 Funai Electric Co Ltd テレビおよび認証装置
US7353991B2 (en) 2006-02-21 2008-04-08 David Benjamin Esplin System and method for managing wireless point-of-sale transactions
US9830634B2 (en) 2006-02-23 2017-11-28 International Business Machines Corporation Performing secure financial transactions in an instant messaging environment
US20070204037A1 (en) 2006-02-27 2007-08-30 Microsoft Corporation Multiuser Web Service Sign-In
US9250703B2 (en) * 2006-03-06 2016-02-02 Sony Computer Entertainment Inc. Interface with gaze detection and voice input
US7630522B2 (en) 2006-03-08 2009-12-08 Microsoft Corporation Biometric measurement using interactive display systems
JP4853063B2 (ja) 2006-03-15 2012-01-11 オムロン株式会社 利用者機器、通信機器、認証システム、認証方法、認証プログラムおよび記録媒体
WO2007107708A2 (en) 2006-03-20 2007-09-27 British Telecommunications Public Limited Company Establishing communications
CA2647194C (en) 2006-03-20 2016-08-16 Gerald R. Black Mobile communication device
US20070226778A1 (en) 2006-03-22 2007-09-27 Jorg Pietruszka Bluetooth theft protection
US9195428B2 (en) 2006-04-05 2015-11-24 Nvidia Corporation Method and system for displaying data from auxiliary display subsystem of a notebook on a main display of the notebook
US7818264B2 (en) 2006-06-19 2010-10-19 Visa U.S.A. Inc. Track data encryption
US9395905B2 (en) 2006-04-05 2016-07-19 Synaptics Incorporated Graphical scroll wheel
KR100847532B1 (ko) 2006-04-06 2008-07-21 재단법인서울대학교산학협력재단 사용자의 행동 패턴 정보를 이용한 사용자 인증에 사용되는사용자 단말기 및 인증 장치
WO2007116521A1 (ja) 2006-04-10 2007-10-18 Panasonic Corporation 携帯端末およびこれを使用したクレジットカード選択方法
US20070249288A1 (en) 2006-04-14 2007-10-25 Kamran Moallemi Distance-based security
JPWO2007119818A1 (ja) 2006-04-14 2009-08-27 日本電気株式会社 機能ロック解除システム、機能ロック解除方法、および機能ロック解除用プログラム
US8396711B2 (en) 2006-05-01 2013-03-12 Microsoft Corporation Voice authentication system and method
EP2018744B1 (en) 2006-05-05 2010-09-08 Nxp B.V. Authentication of devices in a wireless network
WO2007128069A1 (en) 2006-05-05 2007-11-15 On Q Technologies Pty Ltd System and method for purchasing digital content
JP4177858B2 (ja) 2006-05-18 2008-11-05 株式会社カシオ日立モバイルコミュニケーションズ 指紋認証機能付き携帯端末装置及びプログラム
US20070277224A1 (en) 2006-05-24 2007-11-29 Osborn Steven L Methods and Systems for Graphical Image Authentication
WO2007139070A1 (ja) 2006-05-29 2007-12-06 Panasonic Corporation 光源推定装置、光源推定システムおよび光源推定方法、並びに、画像高解像度化装置および画像高解像度化方法
CN101461219A (zh) 2006-06-09 2009-06-17 诺基亚公司 由指纹激活的快速功能选择
JP4903501B2 (ja) 2006-06-15 2012-03-28 Ｎｅｃカシオモバイルコミュニケーションズ株式会社 認証機能付き携帯端末装置及びプログラム
JP4185533B2 (ja) 2006-06-15 2008-11-26 株式会社カシオ日立モバイルコミュニケーションズ 認証機能付き携帯端末装置及びプログラム
CN101485128B (zh) 2006-06-19 2016-08-03 维萨美国股份有限公司 便携式消费者设备验证系统
JP2008005180A (ja) 2006-06-22 2008-01-10 Murata Mach Ltd 通信装置
KR100856203B1 (ko) 2006-06-27 2008-09-03 삼성전자주식회사 지문 인식 센서를 이용한 사용자 입력 장치 및 방법
JP4807167B2 (ja) 2006-07-06 2011-11-02 オムロン株式会社 なりすまし検知装置
JP4752660B2 (ja) 2006-07-28 2011-08-17 沖電気工業株式会社 個人認証方法及び個人認証装置
JP2008046692A (ja) 2006-08-10 2008-02-28 Fujitsu Ten Ltd 入力装置
US7525424B2 (en) 2006-08-15 2009-04-28 Patented Technology Incorporated Illuminated trail marker apparatus
US8095634B2 (en) 2006-08-15 2012-01-10 Hewlett-Packard Development Company, L.P. Device management system for mobile devices that supports multiple-point transport
US7886962B2 (en) 2006-08-17 2011-02-15 Verizon Patent And Licensing Inc. Multi-function transaction device
US8707409B2 (en) 2006-08-22 2014-04-22 Interdigital Technology Corporation Method and apparatus for providing trusted single sign-on access to applications and internet-based services
US7849321B2 (en) 2006-08-23 2010-12-07 Authernative, Inc. Authentication method of random partial digitized path recognition with a challenge built into the path
US7978091B2 (en) 2006-08-24 2011-07-12 Navisense Method and device for a touchless interface
CN100591011C (zh) 2006-08-31 2010-02-17 华为技术有限公司 一种认证方法及系统
US8395658B2 (en) 2006-09-07 2013-03-12 Sony Computer Entertainment Inc. Touch screen-like user interface that does not require actual touching
JP4963388B2 (ja) 2006-09-12 2012-06-27 日立オムロンターミナルソリューションズ株式会社 生体認証装置及び操作案内通知方法
JP4786483B2 (ja) 2006-09-14 2011-10-05 富士通株式会社 生体認証装置の生体誘導制御方法及び生体認証装置
US20080069412A1 (en) 2006-09-15 2008-03-20 Champagne Katrina S Contoured biometric sensor
US8452978B2 (en) 2006-09-15 2013-05-28 Identity Metrics, LLC System and method for user authentication and dynamic usability of touch-screen devices
JP2008075424A (ja) 2006-09-25 2008-04-03 Miwa Lock Co Ltd 指紋錠システム
US20130212655A1 (en) 2006-10-02 2013-08-15 Hector T. Hoyos Efficient prevention fraud
US20080084539A1 (en) 2006-10-06 2008-04-10 Daniel Tyler J Human-machine interface device and method
GB0621189D0 (en) 2006-10-25 2006-12-06 Payfont Ltd Secure authentication and payment system
US20080114980A1 (en) 2006-11-13 2008-05-15 Thangapandi Sridhar System, method and apparatus for using standard and extended storage devices in two-factor authentication
US20080114678A1 (en) 2006-11-15 2008-05-15 David Lawrence Bennett Method and apparatus for remote authorization
US8280118B2 (en) 2006-11-21 2012-10-02 Hitachi, Ltd. Biometrics authentication device and portable terminal
JP2010510609A (ja) 2006-11-22 2010-04-02 コックス，マーク，エー． 磁気帯エミュレータおよび生体認証付き販売時点取引用装置
JP4946383B2 (ja) 2006-11-22 2012-06-06 富士通株式会社 情報処理装置、情報処理装置の異常検出方法及び制御プログラム
US20080141378A1 (en) 2006-12-12 2008-06-12 Mclean Ivan Hugh Method and apparatus for creating licenses in a mobile digital rights management network
US8970503B2 (en) 2007-01-05 2015-03-03 Apple Inc. Gestures for devices having one or more touch sensitive surfaces
KR20080064395A (ko) 2007-01-05 2008-07-09 삼성전자주식회사 카드 결제 정보를 이용한 이동 통신 단말기의 정보 검색방법
US9069745B2 (en) 2007-01-16 2015-06-30 Ebay, Inc. Electronic form automation
US8607359B2 (en) 2007-01-22 2013-12-10 Dell Products L.P. Removable hard disk with front panel input
CN101232631B (zh) 2007-01-23 2011-08-31 阿里巴巴集团控股有限公司 通信终端通过短信息进行安全认证的方法及系统
US8705720B2 (en) 2007-02-08 2014-04-22 Avaya Inc. System, method and apparatus for clientless two factor authentication in VoIP networks
US8793184B2 (en) 2007-02-12 2014-07-29 Visa U.S.A. Inc. Mobile payment services
CN101035335A (zh) 2007-02-13 2007-09-12 中电通信科技有限责任公司 一种手机私密保护方法
US20080208762A1 (en) 2007-02-22 2008-08-28 First Data Corporation Payments using a mobile commerce device
US8362873B2 (en) 2007-03-01 2013-01-29 Deadman Technologies, Llc Control of equipment using remote display
JP4857164B2 (ja) 2007-03-30 2012-01-18 日立オムロンターミナルソリューションズ株式会社 生体情報読取装置および生体情報読取システム
US8111879B2 (en) 2007-04-05 2012-02-07 Honeywell International Inc. Face and iris imaging system and method
US7941834B2 (en) 2007-04-05 2011-05-10 Microsoft Corporation Secure web-based user authentication
CN101299694B (zh) 2007-04-30 2012-04-25 华为技术有限公司 家庭网络中访客管理的方法及系统、家庭网关
US8606512B1 (en) 2007-05-10 2013-12-10 Allstate Insurance Company Route risk mitigation
US8471689B2 (en) 2007-05-11 2013-06-25 Philippe Stanislas Zaborowski Touch-sensitive motion device
US7835988B2 (en) 2007-06-05 2010-11-16 Mastercard International, Inc. Methods and apparatus for preventing fraud in payment processing transactions
US8004493B2 (en) 2007-06-08 2011-08-23 Apple Inc. Methods and systems for providing sensory information to devices and peripherals
US8681104B2 (en) 2007-06-13 2014-03-25 Apple Inc. Pinch-throw and translation gestures
US8733632B2 (en) 2007-06-22 2014-05-27 Visa U.S.A. Inc. Mobile subscriber device for financial transaction tokens
US8027518B2 (en) 2007-06-25 2011-09-27 Microsoft Corporation Automatic configuration of devices based on biometric data
US7835999B2 (en) 2007-06-27 2010-11-16 Microsoft Corporation Recognizing input gestures using a multi-touch input device, calculated graphs, and a neural network with link weights
US8127254B2 (en) 2007-06-29 2012-02-28 Nokia Corporation Unlocking a touch screen device
JP5110983B2 (ja) 2007-06-29 2012-12-26 日立オムロンターミナルソリューションズ株式会社 生体認証処理システム
JP5023389B2 (ja) 2007-07-04 2012-09-12 Ｎｅｃカシオモバイルコミュニケーションズ株式会社 携帯端末装置及びプログラム
US7930249B2 (en) 2007-07-11 2011-04-19 Qualcomm Incorporated Mobile wireless financial instrument for automatically selecting a payment instrument
US8316410B2 (en) 2007-07-23 2012-11-20 At&T Intellectual Property I, Lp Apparatus and method for communicating media between communication devices
JP5340567B2 (ja) 2007-07-24 2013-11-13 株式会社エヌ・ティ・ティ・ドコモ 通信端末、情報管理装置及びプログラム
KR101369676B1 (ko) 2007-07-25 2014-03-04 엘지전자 주식회사 휴대용 컴퓨터의 보조 입출력 장치 및 이를 이용한애플리케이션의 실행 방법
US20090037742A1 (en) 2007-07-31 2009-02-05 International Business Machines Corporation Biometric authentication device, system and method of biometric authentication
US20090055484A1 (en) 2007-08-20 2009-02-26 Thanh Vuong System and method for representation of electronic mail users using avatars
JP5104124B2 (ja) 2007-08-22 2012-12-19 日本電気株式会社 携帯端末及びその利用制限方法
US9477395B2 (en) 2007-09-04 2016-10-25 Apple Inc. Audio file interface
US11126321B2 (en) 2007-09-04 2021-09-21 Apple Inc. Application menu user interface
EP2187333A4 (en) 2007-09-05 2011-09-07 Panasonic Corp ELECTRONIC DEVICE, PASSWORD CONTROL METHOD AND PROGRAM
US20090067685A1 (en) 2007-09-07 2009-03-12 Authentec, Inc. Finger sensing apparatus using template watermarking and associated methods
US20090074255A1 (en) 2007-09-18 2009-03-19 Motorola, Inc. Apparatus and method for capturing skin texture biometric in electronic devices
KR101615472B1 (ko) 2007-09-24 2016-04-25 애플 인크. 전자 장치 내의 내장형 인증 시스템들
US8159551B2 (en) 2007-09-26 2012-04-17 Sony Ericsson Mobile Communications Ab Portable electronic equipment with automatic control to keep display turned on and method
US8893284B2 (en) 2007-10-03 2014-11-18 Motorola Mobility Llc Method and system for providing extended authentication
TW200935929A (en) 2007-10-04 2009-08-16 Lucent Technologies Inc Network enforced access control for femtocells
JP5267966B2 (ja) 2007-10-19 2013-08-21 Ｎｅｃカシオモバイルコミュニケーションズ株式会社 携帯端末装置および携帯端末処理プログラム
US8154608B2 (en) 2007-11-13 2012-04-10 Olympus Corporation Digital camera security
TW200929974A (en) 2007-11-19 2009-07-01 Ibm System and method for performing electronic transactions
US7689508B2 (en) 2007-11-20 2010-03-30 Wells Fargo Bank N.A. Mobile device credit account
EP2073092B1 (en) 2007-11-30 2010-05-26 Telefonaktiebolaget L M Ericsson (publ) Portable electronic apparatus having more than one display area, and method of controlling a user interface thereof
WO2009073579A2 (en) 2007-12-03 2009-06-11 Choi Yu Yung System and method for streamlined registration of electronic products over a communication network and for verification and management of information related thereto
US8299889B2 (en) 2007-12-07 2012-10-30 Cisco Technology, Inc. Home entertainment system providing presence and mobility via remote control authentication
US7913167B2 (en) 2007-12-19 2011-03-22 Microsoft Corporation Selective document redaction
US20090159703A1 (en) 2007-12-24 2009-06-25 Dynamics Inc. Credit, security, debit cards and the like with buttons
TWI359381B (en) 2007-12-25 2012-03-01 Htc Corp Method for unlocking a locked computing device and
US8600120B2 (en) 2008-01-03 2013-12-03 Apple Inc. Personal computing device control using face detection and recognition
US8972299B2 (en) 2008-01-07 2015-03-03 Bally Gaming, Inc. Methods for biometrically identifying a player
KR100817767B1 (ko) 2008-01-14 2008-03-31 알서포트 주식회사 아이콘 암호를 이용한 인증방법
WO2009091029A1 (ja) 2008-01-16 2009-07-23 Asahi Kasei Kabushiki Kaisha 顔姿勢推定装置、顔姿勢推定方法、及び、顔姿勢推定プログラム
US8424079B2 (en) 2008-01-25 2013-04-16 Research In Motion Limited Method, system and mobile device employing enhanced user authentication
CN101227359A (zh) 2008-01-25 2008-07-23 华为技术有限公司 控制用户接入的方法、接入点设备和系统
JP2009187146A (ja) 2008-02-04 2009-08-20 Fuji Xerox Co Ltd 情報処理システム及び情報処理プログラム
US9947002B2 (en) 2008-02-15 2018-04-17 First Data Corporation Secure authorization of contactless transaction
JP5684577B2 (ja) 2008-02-27 2015-03-11 ソニー コンピュータ エンタテインメント アメリカ リミテッド ライアビリテイ カンパニー シーンの深度データをキャプチャし、コンピュータのアクションを適用する方法
JP2009211166A (ja) 2008-02-29 2009-09-17 Toshiba Corp 認証装置、認証方法及び認証プログラム
US20090224874A1 (en) 2008-03-05 2009-09-10 International Business Machines Corporation Apparatus, system, and method for providing authentication and activation functions to a computing device
US8595757B2 (en) 2008-03-05 2013-11-26 At&T Intellectual Property I, L.P. System and method of sharing media content
US8904479B1 (en) 2008-03-28 2014-12-02 Google Inc. Pattern-based mobile device unlocking
JP5065965B2 (ja) 2008-03-31 2012-11-07 富士通株式会社 非接触型生体認証装置の生体誘導制御方法及び非接触型生体認証装置
JP5261009B2 (ja) 2008-04-16 2013-08-14 パナソニック株式会社 顔画像登録装置
US7860936B1 (en) 2008-05-09 2010-12-28 Symantec Corporation Verifying instant messaging aliases via online parental control accounts
US9024890B2 (en) 2008-05-17 2015-05-05 David H. Chin Comparison of an applied gesture on a touch screen of a mobile device with a remotely stored security gesture
US20120081282A1 (en) 2008-05-17 2012-04-05 Chin David H Access of an application of an electronic device based on a facial gesture
US20090288012A1 (en) 2008-05-18 2009-11-19 Zetawire Inc. Secured Electronic Transaction System
US8909940B2 (en) 2008-06-23 2014-12-09 Intel Corporation Extensible pre-boot authentication
JP4459282B2 (ja) 2008-06-30 2010-04-28 株式会社東芝 情報処理装置およびセキュリティ保護方法
JP2010015417A (ja) 2008-07-04 2010-01-21 Hitachi Ltd 着信お知らせサーバ、及びメッセージサーバシステム
KR101517967B1 (ko) 2008-07-07 2015-05-06 엘지전자 주식회사 휴대 단말기 및 그 제어방법
JP2010028404A (ja) 2008-07-18 2010-02-04 Hitachi Ltd 記録再生装置
US8482381B2 (en) 2008-07-31 2013-07-09 Palm, Inc. Multi-purpose detector-based input feature for a computing device
US10983665B2 (en) 2008-08-01 2021-04-20 Samsung Electronics Co., Ltd. Electronic apparatus and method for implementing user interface
US8679012B1 (en) 2008-08-13 2014-03-25 Cleveland Medical Devices Inc. Medical device and method with improved biometric verification
US20100042835A1 (en) 2008-08-18 2010-02-18 Keep Security Inc. System and method for permission confirmation by transmitting a secure request through a central server to a mobile biometric device
JP5308747B2 (ja) 2008-09-03 2013-10-09 オリンパス株式会社 情報提示システム、プログラム及び情報記憶媒体
US8341557B2 (en) 2008-09-05 2012-12-25 Apple Inc. Portable touch screen device, method, and graphical user interface for providing workout support
US20100063926A1 (en) 2008-09-09 2010-03-11 Damon Charles Hougland Payment application framework
US10380573B2 (en) 2008-09-30 2019-08-13 Apple Inc. Peer-to-peer financial transaction devices and methods
KR20110056561A (ko) 2008-09-30 2011-05-30 애플 인크. 피어 대 피어 금융 트랜잭션 장치들 및 방법들
KR20110086095A (ko) 2008-10-20 2011-07-27 비욘드 오블리비언 인크. 다운로드 트랜잭션과 소셜 네트워크 상호 작용을 처리하는 방법 및 시스템
US9037468B2 (en) 2008-10-27 2015-05-19 Sony Computer Entertainment Inc. Sound localization for user in motion
US8949955B2 (en) 2008-10-29 2015-02-03 Symantec Corporation Method and apparatus for mobile time-based UI for VIP
US20100114731A1 (en) 2008-10-30 2010-05-06 Kingston Tamara S ELECTRONIC WALLET ("eWallet")
US20100125495A1 (en) 2008-11-17 2010-05-20 Smith Steven M System and method of providing a mobile wallet at a mobile telephone
US8584031B2 (en) 2008-11-19 2013-11-12 Apple Inc. Portable touch screen device, method, and graphical user interface for using emoji characters
US20100131300A1 (en) 2008-11-26 2010-05-27 Fred Collopy Visible insurance
US9197738B2 (en) 2008-12-04 2015-11-24 Microsoft Technology Licensing, Llc Providing selected data through a locked display
GB2466038A (en) 2008-12-09 2010-06-16 Alexzandre Anthony Capurro Authorisation of cashless payment using SMS
US20100153265A1 (en) 2008-12-15 2010-06-17 Ebay Inc. Single page on-line check-out
US8605959B2 (en) 2008-12-22 2013-12-10 International Business Machines Corporation Apparatus, system, and method for sequenced biometric authentication
JP5084712B2 (ja) 2008-12-24 2012-11-28 日立オムロンターミナルソリューションズ株式会社 利用者認証端末、認証システム、利用者認証方法、および利用者認証プログラム
US8505078B2 (en) 2008-12-28 2013-08-06 Qualcomm Incorporated Apparatus and methods for providing authorized device access
JP5293206B2 (ja) 2009-01-13 2013-09-18 カシオ計算機株式会社 画像検索装置、画像検索方法及びプログラム
US20100185871A1 (en) 2009-01-15 2010-07-22 Authentiverse, Inc. System and method to provide secure access to personal information
US20100191570A1 (en) 2009-01-23 2010-07-29 Joe Phillip Michaud Loyalty reward program simulators
KR101274294B1 (ko) 2009-01-30 2013-06-13 후지츠 프론테크 가부시키가이샤 인증 장치, 촬상 장치, 인증 방법, 및 인증 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체
US8289130B2 (en) 2009-02-19 2012-10-16 Apple Inc. Systems and methods for identifying unauthorized users of an electronic device
US8548426B2 (en) 2009-02-20 2013-10-01 Boku, Inc. Systems and methods to approve electronic payments
EP2224348A1 (en) 2009-02-26 2010-09-01 Research In Motion Limited System and method for capturing user inputs in electronic forms
US8606638B2 (en) 2009-03-02 2013-12-10 First Data Corporation Systems, methods and apparatus for facilitating transactions using a mobile device
KR101549556B1 (ko) 2009-03-06 2015-09-03 엘지전자 주식회사 휴대 단말기 및 그 제어방법
KR101549557B1 (ko) 2009-03-10 2015-09-03 엘지전자 주식회사 휴대 단말기 및 그 제어방법
JP2010211579A (ja) 2009-03-11 2010-09-24 Hitachi Omron Terminal Solutions Corp 生体認証装置
JP5223736B2 (ja) 2009-03-11 2013-06-26 パナソニック株式会社 情報読取装置
US9069908B2 (en) 2009-03-16 2015-06-30 Apple Inc. Accessory and mobile computing device communication using an application communication protocol
US8302858B2 (en) 2009-03-24 2012-11-06 Eng U P Peter Methods and systems for protecting credit card account information
US20100251243A1 (en) 2009-03-27 2010-09-30 Qualcomm Incorporated System and method of managing the execution of applications at a portable computing device and a portable computing device docking station
JP4851556B2 (ja) 2009-04-10 2012-01-11 株式会社エヌ・ティ・ティ・ドコモ 連携サーバ装置、アプリケーション連携判断システム、及び、アプリケーション連携判断方法
US8060571B2 (en) 2009-04-15 2011-11-15 Sling Media, Inc. Sharing of audio/visual content with a selected user
US8157164B1 (en) 2009-04-16 2012-04-17 United Services Automobile Association (Usaa) Systems and methods for providing financial card via automated teller machine
US8131258B2 (en) 2009-04-20 2012-03-06 Boku, Inc. Systems and methods to process transaction requests
US20100265204A1 (en) 2009-04-21 2010-10-21 Sony Ericsson Mobile Communications Ab Finger recognition for authentication and graphical user interface input
KR101557678B1 (ko) 2009-04-22 2015-10-19 삼성전자주식회사 휴대 단말기의 캘리브레이션 방법 및 장치
KR101789113B1 (ko) 2009-05-03 2017-10-23 에스에무케이 가부시키가이샤 휴대폰과 같은 이동 통신 디바이스를 이용하는 지불 단말기；자동 이체 지불 트랜잭션의 방법
JP5388114B2 (ja) 2009-05-19 2014-01-15 シャープ株式会社 情報通信システム、通信装置、通信プログラム、および通信方法
CN101567109B (zh) 2009-06-03 2012-01-04 普天信息技术研究院有限公司 一种集成支付和收款功能的装置、系统和交易方法
CN101576989A (zh) 2009-06-09 2009-11-11 阿里巴巴集团控股有限公司 移动终端中实现支付的方法及移动设备
JP2011022687A (ja) 2009-07-14 2011-02-03 Fujitsu Ltd 認証機能を有する電子機器および認証方法
CN101610155A (zh) 2009-07-20 2009-12-23 成都市华为赛门铁克科技有限公司 远程授权方法、装置及系统
US8978130B2 (en) 2009-08-05 2015-03-10 Technology Policy Associates, Llc Method and system for child authentication
CA2774713A1 (en) 2009-08-14 2011-02-17 Payfone, Inc. System and method for paying a merchant using a cellular telephone account
US8233272B2 (en) 2009-08-25 2012-07-31 Mindray Ds Usa, Inc. Display units for use in monitoring patients and related systems and methods
KR101615290B1 (ko) 2009-08-26 2016-04-26 삼성전자주식회사 촬영 방법 및 시스템
JP5333068B2 (ja) 2009-08-31 2013-11-06 ソニー株式会社 情報処理装置、表示方法及び表示プログラム
JP2011054120A (ja) 2009-09-04 2011-03-17 Konica Minolta Business Technologies Inc 画像処理装置、画像処理システムおよびユーザ認証方法
US8601573B2 (en) 2009-09-17 2013-12-03 International Business Machines Corporation Facial recognition for document and application data access control
US8131848B1 (en) 2009-09-29 2012-03-06 Jason Adam Denise Image analysis and communication device control technology
TWI416366B (zh) 2009-10-12 2013-11-21 Htc Corp 生物特徵資料建立方法、電子裝置及電腦程式產品
US8924893B2 (en) 2009-10-14 2014-12-30 At&T Mobility Ii Llc Locking and unlocking of an electronic device using a sloped lock track
JP5816677B2 (ja) 2009-10-16 2015-11-18 日立オムロンターミナルソリューションズ株式会社 生体認証装置および生体認証方法
US8374916B2 (en) 2009-10-27 2013-02-12 At&T Mobility Ii Llc Secure mobile-based financial transactions
JP2011097287A (ja) 2009-10-28 2011-05-12 Nikon Corp カメラ
US8843838B2 (en) 2009-11-13 2014-09-23 Google Inc. Live wallpaper
KR20110056099A (ko) 2009-11-20 2011-05-26 삼성전자주식회사 디지털 촬영장치, 그 제어방법 및 이를 실행시키기 위한 프로그램을 저장한 기록매체
JP2010102718A (ja) 2009-11-27 2010-05-06 Toshiba Corp 情報処理装置
US8763594B2 (en) 2009-12-04 2014-07-01 Ford Global Technologies, Llc Humidity and fuel alcohol content estimation
US20110142234A1 (en) 2009-12-15 2011-06-16 Michael Leonard Rogers Multi-Factor Authentication Using a Mobile Phone
US8411604B2 (en) 2009-12-21 2013-04-02 Research In Motion Limited Methods and apparatus for use in facilitating access to aggregator services for mobile communication devices via wireless communication networks
US9558520B2 (en) 2009-12-31 2017-01-31 Hartford Fire Insurance Company System and method for geocoded insurance processing using mobile devices
US8805707B2 (en) 2009-12-31 2014-08-12 Hartford Fire Insurance Company Systems and methods for providing a safety score associated with a user location
JP2011141683A (ja) 2010-01-06 2011-07-21 Ricoh Co Ltd 画像処理装置、表示装置、認証システム、表示制御方法、表示制御プログラム、及びそのプログラムを記録した記録媒体
US8791792B2 (en) 2010-01-15 2014-07-29 Idex Asa Electronic imager using an impedance sensor grid array mounted on or about a switch and method of making
US20110201306A1 (en) 2010-02-15 2011-08-18 Samama Technologies Systems and methods for unified billing
FR2956502B1 (fr) 2010-02-17 2012-02-10 Sagem Securite Procede et dispositif de detection de l'orientation d'une zone du corps d'un individu posee sur une zone d'apposition d'un support d'un capteur biometrique
CA2692677C (en) 2010-02-26 2017-10-03 Xtreme Mobility Inc. Secure billing system and method for a mobile device
US9195926B2 (en) 2010-03-02 2015-11-24 Gonow Technologies, Llc Portable e-wallet and universal card
US8892474B1 (en) 2010-03-11 2014-11-18 Bank Of America Corporation Virtual purchasing card transaction
JP5035372B2 (ja) 2010-03-17 2012-09-26 カシオ計算機株式会社 三次元モデリング装置、三次元モデリング方法、ならびに、プログラム
JP2011197786A (ja) 2010-03-17 2011-10-06 Sony Corp 情報処理装置および情報処理方法
CN102209321B (zh) 2010-03-31 2013-10-09 华为终端有限公司 一种切换处理方法及通信系统以及相关设备
WO2011124275A1 (en) 2010-04-09 2011-10-13 Jasbir Singh Authentication system and method thereof
US8380177B2 (en) 2010-04-09 2013-02-19 Paydiant, Inc. Mobile phone payment processing methods and systems
US8638222B2 (en) 2010-04-19 2014-01-28 Microsoft Corporation Controllable device selection based on controller location
KR101318958B1 (ko) 2010-05-06 2013-10-29 (주)시루정보 전자결제 서비스 방법과, 이를 실행하는 전자결제 서비스 장치, 이동통신 단말기 및 거래 단말기
WO2011146651A1 (en) 2010-05-18 2011-11-24 Dynamics Inc Systems and methods for cards and devices operable to communicate via light pulses and touch sensitive displays
KR101005719B1 (ko) 2010-05-18 2011-01-06 주식회사 슈프리마 정합 및 합성의 시작과 종료를 자동으로 인식하는 회전 지문 획득 장치 및 방법
US8694899B2 (en) 2010-06-01 2014-04-08 Apple Inc. Avatars reflecting user states
US20120124122A1 (en) 2010-11-17 2012-05-17 El Kaliouby Rana Sharing affect across a social network
US20110313779A1 (en) 2010-06-17 2011-12-22 Microsoft Corporation Augmentation and correction of location based data through user feedback
US8488040B2 (en) 2010-06-18 2013-07-16 Microsoft Corporation Mobile and server-side computational photography
JP5023193B2 (ja) 2010-06-28 2012-09-12 株式会社東芝 情報処理装置
JP5589608B2 (ja) 2010-06-28 2014-09-17 富士通株式会社 生体認証装置および生体認証プログラム
US8811948B2 (en) 2010-07-09 2014-08-19 Microsoft Corporation Above-lock camera access
US8233887B2 (en) 2010-07-28 2012-07-31 Sprint Communications Company L.P. Covert message redaction and recovery in a wireless communication device
JP5747916B2 (ja) 2010-07-29 2015-07-15 富士通株式会社 生体認証装置および生体認証プログラム
US20120032891A1 (en) 2010-08-03 2012-02-09 Nima Parivar Device, Method, and Graphical User Interface with Enhanced Touch Targeting
US8311514B2 (en) 2010-09-16 2012-11-13 Microsoft Corporation Prevention of accidental device activation
GB2484268A (en) 2010-09-16 2012-04-11 Uniloc Usa Inc Psychographic profiling of users of computing devices
TWI441072B (zh) 2010-09-21 2014-06-11 Altek Corp 觸控螢幕解鎖方法及其具有攝像功能之電子裝置
US20120078751A1 (en) 2010-09-24 2012-03-29 Macphail William Mobile device point of sale transaction system
JP2012073724A (ja) 2010-09-28 2012-04-12 Nec Casio Mobile Communications Ltd 携帯端末、ユーザ認証方法およびプログラム
US20120078789A1 (en) 2010-09-29 2012-03-29 Ebay Inc. Offline to online payment
JP5491357B2 (ja) 2010-11-04 2014-05-14 ヤフー株式会社 送金システム連携装置及びその方法
US20120267432A1 (en) 2010-11-12 2012-10-25 Kuttuva Avinash Secure payments with global mobile virtual wallet
US8831677B2 (en) 2010-11-17 2014-09-09 Antony-Euclid C. Villa-Real Customer-controlled instant-response anti-fraud/anti-identity theft devices (with true-personal identity verification), method and systems for secured global applications in personal/business e-banking, e-commerce, e-medical/health insurance checker, e-education/research/invention, e-disaster advisor, e-immigration, e-airport/aircraft security, e-military/e-law enforcement, with or without NFC component and system, with cellular/satellite phone/internet/multi-media functions
CN102004908B (zh) 2010-11-30 2012-10-17 汉王科技股份有限公司 一种自适应的人脸识别方法及装置
CA2723647C (en) 2010-12-02 2015-11-24 Philip Y.W. Tsui Remote control device with password functions
AU2011343638B2 (en) 2010-12-17 2015-03-19 Google Llc Digital wallet
CN102096546A (zh) 2010-12-29 2011-06-15 华为终端有限公司 一种操作系统的解锁方法及装置
EP2659445A4 (en) 2010-12-30 2016-10-12 Mozido Corfire Korea Ltd SYSTEM AND METHOD FOR MANAGING A MOBILE PORTFOLIO AND ASSOCIATED AUTHENTICATORS
CN102065148A (zh) 2011-01-12 2011-05-18 无锡网芯科技有限公司 基于通信网络的存储系统访问授权方法
CN102591889A (zh) 2011-01-17 2012-07-18 腾讯科技（深圳）有限公司 一种基于移动终端浏览器辅助用户输入的方法及装置
KR101228478B1 (ko) 2011-01-19 2013-01-31 브이피 주식회사 어플리케이션 제공 방법, 어플리케이션 제공 시스템, 및 그를 위한 이동 단말기
US20130282577A1 (en) 2012-04-19 2013-10-24 Benjamin P. Milne Social network transaction processing system
US20130030934A1 (en) 2011-01-28 2013-01-31 Zumigo, Inc. System and method for credit card transaction approval based on mobile subscriber terminal location
JP5772023B2 (ja) 2011-02-04 2015-09-02 ソニー株式会社 情報処理システム及び情報処理方法
US20120215553A1 (en) 2011-02-08 2012-08-23 Leston Jeff Method and system of validating and verifying health care transactions
JP5673942B2 (ja) 2011-02-15 2015-02-18 日本電気株式会社 携帯端末における認証情報入力装置、方法およびプログラム
US8686873B2 (en) 2011-02-28 2014-04-01 Toyota Motor Engineering & Manufacturing North America, Inc. Two-way video and 3D transmission between vehicles and system placed on roadside
US20120221464A1 (en) 2011-02-28 2012-08-30 Research In Motion Limited Communications system for performing secure transactions based upon mobile wireless communications device proximity and related methods
JP2012194661A (ja) 2011-03-15 2012-10-11 Kyocera Corp シーケンス表示装置及びシーケンス表示方法
US8994499B2 (en) 2011-03-16 2015-03-31 Apple Inc. Locking and unlocking a mobile device using facial recognition
US8392259B2 (en) 2011-03-17 2013-03-05 Research In Motion Limited Methods and apparatus to obtain transaction confirmation
US20140173717A1 (en) 2011-03-21 2014-06-19 Assa Abloy Ab System and method of secure data entry
US9262612B2 (en) 2011-03-21 2016-02-16 Apple Inc. Device access using voice authentication
US20120245985A1 (en) 2011-03-24 2012-09-27 Danal Co., Ltd. Method of controlling system and mobile device for processing payment and data
WO2012135115A2 (en) 2011-03-25 2012-10-04 Visa International Service Association In-person one-tap purchasing apparatuses, methods and systems
JP5672109B2 (ja) 2011-03-29 2015-02-18 カシオ計算機株式会社 撮像装置及び撮像方法、並びにプログラム
JP2012215981A (ja) 2011-03-31 2012-11-08 Toshiba Tec Corp 決済装置およびプログラム
US10580049B2 (en) 2011-04-05 2020-03-03 Ingenico, Inc. System and method for incorporating one-time tokens, coupons, and reward systems into merchant point of sale checkout systems
US9225701B2 (en) 2011-04-18 2015-12-29 Intelmate Llc Secure communication systems and methods
US9832183B2 (en) 2011-04-19 2017-11-28 Early Warning Services, Llc Key management using quasi out of band authentication architecture
US9042607B2 (en) 2011-05-02 2015-05-26 Omnicell, Inc. System and method for user access of dispensing unit
US9229489B2 (en) 2011-05-03 2016-01-05 Facebook, Inc. Adjusting mobile device state based on user intentions and/or identity
US9047453B2 (en) 2011-05-10 2015-06-02 Htc Corporation Unlocking method, computer readable storage medium for storing thereof and handheld electrical device applying thereof
CA2835508A1 (en) 2011-05-10 2012-11-15 Dynamics Inc. Systems, devices, and methods for mobile payment acceptance, mobile authorizations, mobile wallets, and contactless communication mechanisms
US9721243B2 (en) 2011-05-11 2017-08-01 Riavera Corp. Mobile payment system using subaccounts of account holder
US20120310760A1 (en) 2011-06-03 2012-12-06 Simon Phillips Mobile device automatic card account selection for a transaction
US11165963B2 (en) 2011-06-05 2021-11-02 Apple Inc. Device, method, and graphical user interface for accessing an application in a locked device
US20120316933A1 (en) 2011-06-09 2012-12-13 Massachusetts Institute Of Technology Method for promoting behavior change through social reward mediation
US8902288B1 (en) 2011-06-16 2014-12-02 Google Inc. Photo-image-based 3D modeling system on a mobile device
KR101121440B1 (ko) 2011-06-16 2012-03-16 에이큐 주식회사 엔에프시 통신방식의 이동통신단말기 및 제어방법
KR101121441B1 (ko) 2011-06-16 2012-03-16 에이큐 주식회사 엔에프시 통신방식의 이동통신단말기 및 그 제어방법
JP5957524B2 (ja) 2011-06-27 2016-07-27 アマゾン テクノロジーズ インコーポレイテッド モバイルデバイスによる支払い選択および承認
US20140094143A1 (en) 2011-06-28 2014-04-03 The Boeing Company Passenger mobile station registration with a passenger communications system using near field communicaitons
WO2013000150A1 (en) 2011-06-30 2013-01-03 Nokia Corporation Method, apparatus and computer program product for retrieval of lost or forgotten passwords
US10121129B2 (en) 2011-07-05 2018-11-06 Visa International Service Association Electronic wallet checkout platform apparatuses, methods and systems
US9082235B2 (en) 2011-07-12 2015-07-14 Microsoft Technology Licensing, Llc Using facial data for device authentication or subject identification
JP5762186B2 (ja) 2011-07-12 2015-08-12 株式会社日本総合研究所 カード不正利用防止システム及びカード不正利用防止方法
JP5673417B2 (ja) 2011-07-29 2015-02-18 富士通株式会社 データ復旧方法，データ復旧装置およびデータ復旧プログラム
US9071418B2 (en) 2011-07-29 2015-06-30 Blackfire Research Corporation Synchronous media rendering of demuxed media components across multiple devices
JP5818563B2 (ja) 2011-08-02 2015-11-18 株式会社東光高岳 電気移動体用充電システム並びにそれに含まれる電気移動体用充電装置、携帯通信端末及びサーバ装置並びに電気移動体用充電方法
US9171139B2 (en) 2011-08-05 2015-10-27 Vmware, Inc. Lock screens to access work environments on a personal mobile device
US9355394B2 (en) 2011-08-11 2016-05-31 Visa International Service Association Systems and methods of aggregating split payments using a settlement ecosystem
MX357516B (es) 2011-08-17 2018-07-12 Trans Union Llc Sistemas y métodos para generar cotizaciones de primas de seguro de vehículos con base en un historial de vehículos.
US10372712B2 (en) 2011-08-18 2019-08-06 Visa International Service Association Converged merchant processing apparatuses, methods and systems
US8789156B2 (en) 2011-08-19 2014-07-22 International Business Machines Corporation Data management with a networked mobile device
US8806369B2 (en) 2011-08-26 2014-08-12 Apple Inc. Device, method, and graphical user interface for managing and interacting with concurrently open software applications
US20130060678A1 (en) 2011-09-06 2013-03-07 Rawllin International Inc. Electronic payment systems and supporting methods and devices
JP2013058828A (ja) 2011-09-07 2013-03-28 Jvc Kenwood Corp 笑顔判定装置及び方法
KR101719994B1 (ko) 2011-09-07 2017-03-27 엘지전자 주식회사 이동단말기 및 그 제어방법
US10489570B2 (en) 2011-09-09 2019-11-26 Google Llc Preventing computing device from timing out
US20130067545A1 (en) 2011-09-13 2013-03-14 Sony Computer Entertainment America Llc Website Security
US8769286B2 (en) 2011-09-20 2014-07-01 Daon Holdings Limited Methods and systems for increasing the security of electronic messages
CN103020807B (zh) 2011-09-20 2019-08-27 联想(北京)有限公司 一种信息显示方法和系统
US20130080275A1 (en) 2011-09-23 2013-03-28 Bank Of America Corporation Transaction device and processing system
US20130080272A1 (en) 2011-09-23 2013-03-28 Bank Of America Corporation Transaction device and processing system
US9002322B2 (en) 2011-09-29 2015-04-07 Apple Inc. Authentication with secondary approver
US8769624B2 (en) 2011-09-29 2014-07-01 Apple Inc. Access control utilizing indirect authentication
US9576284B2 (en) 2011-09-29 2017-02-21 Paypal, Inc. Social proximity payments
US20130082974A1 (en) 2011-09-30 2013-04-04 Apple Inc. Quick Access User Interface
JP5866728B2 (ja) 2011-10-14 2016-02-17 サイバーアイ・エンタテインメント株式会社 画像認識システムを備えた知識情報処理サーバシステム
KR101160681B1 (ko) 2011-10-19 2012-06-28 배경덕 이동 통신 단말기의 활성화 시에 특정 동작이 수행되도록 하기 위한 방법, 이동 통신 단말기 및 컴퓨터 판독 가능 기록 매체
CN102394919B (zh) 2011-10-20 2013-12-25 福州瑞芯微电子有限公司 基于生理检测的心情交互网络平台系统
JP5739303B2 (ja) 2011-10-25 2015-06-24 京セラ株式会社 携帯端末、ロック制御プログラムおよびロック制御方法
US9305312B2 (en) 2011-10-25 2016-04-05 Theodosios Kountotsis Express easy-pass checkout at grocery stores and retail establishments for preferred members
US20130110675A1 (en) 2011-10-31 2013-05-02 Microsoft Corporation Marketplace for Composite Application and Data Solutions
US10510056B2 (en) 2011-11-02 2019-12-17 Mastercard International Incorporated Method and system for multiple payment applications
US9031847B2 (en) 2011-11-15 2015-05-12 Microsoft Technology Licensing, Llc Voice-controlled camera operations
US9526127B1 (en) 2011-11-18 2016-12-20 Google Inc. Affecting the behavior of a user device based on a user's gaze
US20130129162A1 (en) 2011-11-22 2013-05-23 Shian-Luen Cheng Method of Executing Software Functions Using Biometric Detection and Related Electronic Device
JP5869316B2 (ja) 2011-11-25 2016-02-24 京セラ株式会社 携帯型電子機器
JP5269972B2 (ja) 2011-11-29 2013-08-21 株式会社東芝 電子機器及び三次元モデル生成支援方法
US10169822B2 (en) 2011-12-02 2019-01-01 Spireon, Inc. Insurance rate optimization through driver behavior monitoring
CN103164117A (zh) 2011-12-09 2013-06-19 富泰华工业（深圳）有限公司 外部操作设备、电子装置及其延时锁屏方法
US9246543B2 (en) 2011-12-12 2016-01-26 Futurewei Technologies, Inc. Smart audio and video capture systems for data processing systems
CN103164791B (zh) 2011-12-13 2016-04-06 阿里巴巴集团控股有限公司 一种通过电子终端实现安全支付的方法和装置
US8732822B2 (en) 2011-12-16 2014-05-20 Microsoft Corporation Device locking with hierarchical activity preservation
CN102542444A (zh) 2011-12-22 2012-07-04 大唐微电子技术有限公司 移动支付身份验证方法、装置和系统
US20130166325A1 (en) 2011-12-23 2013-06-27 Mohan Ganapathy Apparatuses, systems and methods for insurance quoting
US8874162B2 (en) 2011-12-23 2014-10-28 Microsoft Corporation Mobile device safe driving
US9116611B2 (en) 2011-12-29 2015-08-25 Apple Inc. Devices, methods, and graphical user interfaces for providing multitouch inputs and hardware-based features using a single touch input
EP2798594A4 (en) 2011-12-29 2015-07-01 Intel Corp VIRTUAL POINT OF SALE
US9292195B2 (en) 2011-12-29 2016-03-22 Apple Inc. Device, method, and graphical user interface for configuring and implementing restricted interactions for applications
WO2013103912A1 (en) 2012-01-05 2013-07-11 Visa International Service Association Transaction visual capturing apparatuses, methods and systems
CN103593594A (zh) 2012-01-09 2014-02-19 明智视觉有限公司 用于使用脸部生物特征识别和屏幕手势来提供对电子设备的安全访问的系统和方法
JP5715968B2 (ja) 2012-01-23 2015-05-13 富士通フロンテック株式会社 応札装置、せりシステム、および応札方法
WO2013116726A1 (en) 2012-02-03 2013-08-08 Ebay Inc. Adding card to mobile wallet using nfc
AU2013221323B2 (en) 2012-02-15 2018-11-08 Blackhawk Network, Inc System and method of registering stored-value cards into electronic wallets
US20150109191A1 (en) * 2012-02-16 2015-04-23 Google Inc. Speech Recognition
KR101443960B1 (ko) 2012-02-22 2014-11-03 주식회사 팬택 사용자 인증 전자 장치 및 방법
JP5981984B2 (ja) 2012-02-22 2016-08-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 仮想計算機システム、秘匿情報保護方法及び秘匿情報保護プログラム
US9767453B2 (en) 2012-02-23 2017-09-19 XRomb Inc. System and method for processing payment during an electronic commerce transaction
US8763896B2 (en) 2012-02-23 2014-07-01 XRomb Inc. System and method of loading a transaction card and processing repayment on a mobile device
US9778706B2 (en) 2012-02-24 2017-10-03 Blackberry Limited Peekable user interface on a portable electronic device
EP3965042A1 (en) 2012-02-29 2022-03-09 Apple Inc. Method, device and secure element for conducting a secured financial transaction on a device
US9251360B2 (en) 2012-04-27 2016-02-02 Intralinks, Inc. Computerized method and system for managing secure mobile device content viewing in a networked secure collaborative exchange environment
US9177130B2 (en) 2012-03-15 2015-11-03 Google Inc. Facial feature detection
WO2013145564A1 (ja) 2012-03-27 2013-10-03 パナソニック株式会社 電気機器
US9600709B2 (en) 2012-03-28 2017-03-21 Synaptics Incorporated Methods and systems for enrolling biometric data
ES2553713T1 (es) 2012-04-01 2015-12-11 Authentify, Inc. Autentificación segura en un sistema con múltiples partes
KR20120040693A (ko) 2012-04-09 2012-04-27 주식회사 비즈모델라인 결제수단 설정 방법
US8583549B1 (en) 2012-04-10 2013-11-12 Hossein Mohsenzadeh Systems, devices, and methods for managing a payment transaction
US8254647B1 (en) 2012-04-16 2012-08-28 Google Inc. Facial image quality assessment
US20130279768A1 (en) 2012-04-19 2013-10-24 Authentec, Inc. Electronic device including finger-operated input device based biometric enrollment and related methods
CN202735894U (zh) 2012-05-03 2013-02-13 北京壹人壹本信息科技有限公司 便携式电子设备
US20130304514A1 (en) 2012-05-08 2013-11-14 Elwha Llc Systems and methods for insurance based on monitored characteristics of an autonomous drive mode selection system
US9423870B2 (en) * 2012-05-08 2016-08-23 Google Inc. Input determination method
WO2013169849A2 (en) 2012-05-09 2013-11-14 Industries Llc Yknots Device, method, and graphical user interface for displaying user interface objects corresponding to an application
CN106201316B (zh) 2012-05-09 2020-09-29 苹果公司 用于选择用户界面对象的设备、方法和图形用户界面
US9953310B2 (en) 2012-05-10 2018-04-24 Mastercard International Incorporated Systems and method for providing multiple virtual secure elements in a single physical secure element of a mobile device
US9053293B2 (en) 2012-05-15 2015-06-09 Sap Se Personal authentications on computing devices
US9823742B2 (en) 2012-05-18 2017-11-21 Microsoft Technology Licensing, Llc Interaction and management of devices using gaze detection
WO2013177548A1 (en) 2012-05-24 2013-11-28 Paydiant , Inc. Method and systems for wallet enrollment
CN102737313A (zh) 2012-05-25 2012-10-17 天地融科技股份有限公司 一种给电子签名工具授权校验的方法、系统及电子签名工具
WO2013177500A1 (en) 2012-05-25 2013-11-28 On The Block, L.L.C. System and method for using scannable codes for electronic payment
CN104364809A (zh) 2012-05-27 2015-02-18 金燕川 选单层级的推荐及奖励系统
US10025920B2 (en) 2012-06-07 2018-07-17 Early Warning Services, Llc Enterprise triggered 2CHK association
EP2674889B1 (en) 2012-06-11 2018-05-30 Samsung Electronics Co., Ltd Mobile device and control method thereof
US20130332358A1 (en) 2012-06-12 2013-12-12 Ebay, Inc. Fraud detection system
US8842888B2 (en) 2012-06-15 2014-09-23 Aoptix Technologies, Inc. User interface for combined biometric mobile device
US8441548B1 (en) 2012-06-15 2013-05-14 Google Inc. Facial image quality assessment
AU2013206449A1 (en) 2012-06-20 2014-01-16 Visa International Service Association Multi-channel remote payment apparatuses, methods and systems
US9042971B2 (en) 2012-06-22 2015-05-26 Fitbit, Inc. Biometric monitoring device with heart rate measurement activated by a single user-gesture
US10073541B1 (en) 2012-06-22 2018-09-11 Amazon Technologies, Inc. Indicators for sensor occlusion
US20130342672A1 (en) 2012-06-25 2013-12-26 Amazon Technologies, Inc. Using gaze determination with device input
US8396265B1 (en) 2012-06-26 2013-03-12 Google Inc. Facial recognition
KR101887061B1 (ko) 2012-06-27 2018-08-09 엘지전자 주식회사 이동단말기 및 그 제어방법
US9202099B2 (en) 2012-06-29 2015-12-01 Apple Inc. Fingerprint sensing and enrollment
US20140006155A1 (en) 2012-06-30 2014-01-02 Jesus J. Ramirez Instant floor plan and mobile marketing map
US20140013422A1 (en) 2012-07-03 2014-01-09 Scott Janus Continuous Multi-factor Authentication
CN102799383B (zh) 2012-07-18 2014-05-14 腾讯科技（深圳）有限公司 移动终端屏幕截图方法、屏幕截图装置
US9767446B2 (en) 2012-07-19 2017-09-19 Mastercard International Incorporated Touch screen system and methods for multiple contactless payments
CN102841683B (zh) 2012-07-24 2015-07-22 东莞宇龙通信科技有限公司 应用启动的方法及其通信终端
KR101458179B1 (ko) 2012-08-03 2014-11-04 김만근 통합 전자지갑 운용시스템 및 통합 전자지갑 운용방법
CN102843681A (zh) 2012-08-15 2012-12-26 腾讯科技（深圳）有限公司 信息交互方法和装置
US20140058935A1 (en) 2012-08-21 2014-02-27 Noel Mijares Mobile contactless digital watch payment
US20140058939A1 (en) 2012-08-24 2014-02-27 Ebay Inc. Method and apparatus for processing payment transactions from a chat application integrated with a payment application that leverages social features from the chat application
CA3202407A1 (en) 2012-08-24 2014-02-27 Samsung Electronics Co., Ltd. Apparatus and method for providing interaction information by using image on device display
WO2014030876A1 (en) 2012-08-24 2014-02-27 Samsung Electronics Co., Ltd. Method and apparatus for determining item based on interaction environment
GB2505239A (en) 2012-08-24 2014-02-26 Vodafone Ip Licensing Ltd A method of authenticating a user using different illumination conditions
US10567376B2 (en) 2012-08-24 2020-02-18 Sensible Vision, Inc. System and method for providing secure access to an electronic device using multifactor authentication
KR102174437B1 (ko) 2012-08-24 2020-11-04 삼성전자주식회사 화면 상의 이미지를 이용하여 인터랙션 정보를 제공하는 장치 및 방법
US8560004B1 (en) 2012-08-31 2013-10-15 Google Inc. Sensor-based activation of an input device
EA201590485A1 (ru) 2012-09-05 2015-12-30 Элемент, Инк. Система и способ биометрической аутентификации с использованием устройств, снабженных камерами
US8543834B1 (en) 2012-09-10 2013-09-24 Google Inc. Voice authentication and command
US9282893B2 (en) 2012-09-11 2016-03-15 L.I.F.E. Corporation S.A. Wearable communication platform
CN102833423B (zh) 2012-09-24 2014-06-04 武汉大学 一种基于指纹识别的触摸屏手机及登录解锁方法
KR102001913B1 (ko) 2012-09-27 2019-07-19 엘지전자 주식회사 휴대 단말기 및 그 동작 방법
JP5964190B2 (ja) 2012-09-27 2016-08-03 京セラ株式会社 端末装置
EP2717552A1 (en) 2012-10-04 2014-04-09 Nagravision S.A. A portable proximity wireless communication device
CN103092503B (zh) 2012-10-11 2016-08-31 百度在线网络技术（北京）有限公司 移动终端的解锁及验证方法与解锁及验证装置
US9147058B2 (en) 2012-10-12 2015-09-29 Apple Inc. Gesture entry techniques
US20160019536A1 (en) 2012-10-17 2016-01-21 Royal Bank Of Canada Secure processing of data
KR20140051640A (ko) 2012-10-23 2014-05-02 삼성전자주식회사 휴대 단말에서의 결제 수행 방법 및 장치와 그 방법에 대한 프로그램 소스를 저장한 기록 매체
US10140537B2 (en) 2012-10-26 2018-11-27 Daon Holdings Limited Methods and systems for capturing biometric data
US8963806B1 (en) 2012-10-29 2015-02-24 Google Inc. Device authentication
KR101448547B1 (ko) 2012-10-31 2014-10-08 에스케이씨앤씨 주식회사 어플리케이션 통합 관리 방법 및 시스템
US20140129441A1 (en) 2012-11-02 2014-05-08 German Blanco Systems and methods for authorizing sensitive purchase transactions with a mobile device
US11222329B2 (en) 2012-11-05 2022-01-11 Mastercard International Incorporated Electronic wallet apparatus, method, and computer program product
WO2014081453A1 (en) 2012-11-20 2014-05-30 Braintree Payment Solutions, Llc Environment and methods for enabling eletronic transactions
US10600128B2 (en) 2012-12-29 2020-03-24 Robert William Graham Mobile expense report system
US20140157153A1 (en) 2012-12-05 2014-06-05 Jenny Yuen Select User Avatar on Detected Emotion
US20140164082A1 (en) 2012-12-06 2014-06-12 Capital One Financial Corporation Systems and methods for social media referrals based rewards
US10121023B2 (en) 2012-12-18 2018-11-06 Oracle International Corporation Unveil information on prompt
US8762272B1 (en) 2012-12-27 2014-06-24 Google Inc. Management of emails containing payments
KR101330962B1 (ko) 2012-12-27 2013-11-18 신한카드 주식회사 결제 방식 선택을 위한 결제 디바이스 제어방법
JP6080548B2 (ja) 2012-12-28 2017-02-15 キヤノン株式会社 通信装置、情報端末、それらの制御方法、プログラム
EP3435220B1 (en) 2012-12-29 2020-09-16 Apple Inc. Device, method and graphical user interface for transitioning between touch input to display output relationships
US20140244365A1 (en) 2012-12-29 2014-08-28 DGRT Software LLC Toll app system
KR102010296B1 (ko) 2013-01-07 2019-08-13 엘지전자 주식회사 냉장고를 이용한 식단제공방법 및 그를 이용한 냉장고
CN104969289B (zh) 2013-02-07 2021-05-28 苹果公司 数字助理的语音触发器
US9710806B2 (en) 2013-02-27 2017-07-18 Fiserv, Inc. Systems and methods for electronic payment instrument repository
US20140258292A1 (en) 2013-03-05 2014-09-11 Clip Interactive, Inc. Apparatus, system, and method for integrating content and content services
KR101443021B1 (ko) 2013-03-08 2014-09-22 주식회사 슈프리마 얼굴 등록 장치, 방법, 포즈 변화 유도 장치 및 얼굴 인식 장치
US9208525B2 (en) 2013-03-10 2015-12-08 State Farm Mutual Automobile Insurance Company System and method for determining and monitoring auto insurance incentives
US20140258828A1 (en) 2013-03-11 2014-09-11 Brent Lymer Pick-and-place webform autofill
US20140279554A1 (en) 2013-03-12 2014-09-18 Seth Priebatsch Distributed authenticity verification for consumer payment transactions
US20140279497A1 (en) 2013-03-12 2014-09-18 Bank Of America Corporation Secure Identity Element
FI20135248L (fi) 2013-03-14 2014-09-15 Op Palvelut Oy Mobiililaite transaktioinformaation kera
US9262671B2 (en) 2013-03-15 2016-02-16 Nito Inc. Systems, methods, and software for detecting an object in an image
US20140283141A1 (en) 2013-03-15 2014-09-18 Apple Inc. Switching a Mobile Device from Operating in a Primary Access Mode to a Secondary Access Mode
US10270748B2 (en) 2013-03-22 2019-04-23 Nok Nok Labs, Inc. Advanced authentication techniques and applications
FI20135275A (fi) 2013-03-22 2014-09-23 Meontrust Oy Tapahtumien auktorisointimenetelmä ja -järjestelmä
KR102138512B1 (ko) 2013-03-26 2020-07-28 엘지전자 주식회사 디스플레이 디바이스 및 그의 제어 방법
US10229258B2 (en) 2013-03-27 2019-03-12 Samsung Electronics Co., Ltd. Method and device for providing security content
US9565181B2 (en) 2013-03-28 2017-02-07 Wendell D. Brown Method and apparatus for automated password entry
US9253375B2 (en) 2013-04-02 2016-02-02 Google Inc. Camera obstruction detection
KR102080183B1 (ko) 2013-04-18 2020-04-14 삼성전자주식회사 전자 장치 및 전자 장치에서 잠금 해제 방법
US9384751B2 (en) * 2013-05-06 2016-07-05 Honeywell International Inc. User authentication of voice controlled devices
US9591211B2 (en) 2013-05-10 2017-03-07 Huawei Technologies Co., Ltd. Photographing method and apparatus
US9313200B2 (en) 2013-05-13 2016-04-12 Hoyos Labs Ip, Ltd. System and method for determining liveness
US9104853B2 (en) 2013-05-16 2015-08-11 Symantec Corporation Supporting proximity based security code transfer from mobile/tablet application to access device
KR20140136350A (ko) 2013-05-20 2014-11-28 삼성전자주식회사 전자장치의 사용 방법 및 장치
JP5785218B2 (ja) 2013-05-22 2015-09-24 シャープ株式会社 ネットワークシステム、サーバ、家電、プログラムおよび家電の連携方法
US9747900B2 (en) * 2013-05-24 2017-08-29 Google Technology Holdings LLC Method and apparatus for using image data to aid voice recognition
US9330513B2 (en) 2013-05-31 2016-05-03 Microsoft Technology Licensing, Llc Resource management based on biometric data
US9497231B2 (en) 2013-06-04 2016-11-15 Echostar Technologies L.L.C. Real-time placeshifting of media content to paired devices
US9626493B2 (en) 2013-06-08 2017-04-18 Microsoft Technology Licensing, Llc Continuous digital content protection
US9055210B2 (en) 2013-06-19 2015-06-09 Blackberry Limited Device for detecting a camera obstruction
CN103294171A (zh) 2013-06-24 2013-09-11 深圳市中兴移动通信有限公司 移动终端的省电方法和省电装置
US20150006386A1 (en) 2013-06-28 2015-01-01 Sap Ag Offline mobile payment process
CN103346957B (zh) 2013-07-02 2016-12-28 北京播思无线技术有限公司 一种根据联系人消息改变联系人头像表情的系统及方法
JP5654642B1 (ja) 2013-07-05 2015-01-14 ソフトバンクモバイル株式会社 認証システム及びプログラム
US9965608B2 (en) 2013-07-18 2018-05-08 Samsung Electronics Co., Ltd. Biometrics-based authentication method and apparatus
CN103413072A (zh) 2013-07-27 2013-11-27 金硕澳门离岸商业服务有限公司 保护应用程序的方法和装置
US9984270B2 (en) 2013-08-05 2018-05-29 Apple Inc. Fingerprint sensor in an electronic device
CN103413218B (zh) 2013-08-07 2017-11-10 天地融科技股份有限公司 移动终端、nfc支付方法、装置及系统
JP5541407B1 (ja) 2013-08-09 2014-07-09 富士ゼロックス株式会社 画像処理装置及びプログラム
RU2016108315A (ru) 2013-08-12 2017-09-19 Хеон Со ПАК Электронное усстройство, система управления, носитель записи и способ использования дополнительного кода
JP6024617B2 (ja) 2013-08-15 2016-11-16 富士ゼロックス株式会社 情報処理装置及び情報処理プログラム
JP5705929B2 (ja) 2013-08-16 2015-04-22 ファナック株式会社 軸受寿命判定装置
CN104426847A (zh) 2013-08-22 2015-03-18 腾讯科技（深圳）有限公司 互联网服务安全访问和验证的方法、系统和服务器
US10346822B2 (en) 2013-08-23 2019-07-09 Visa International Service Association Dynamic account selection
KR102090750B1 (ko) 2013-08-23 2020-03-18 삼성전자주식회사 지문 인식을 위한 전자 장치 및 방법
US20150066762A1 (en) 2013-08-28 2015-03-05 Geoffrey W. Chatterton Authentication system
US9898642B2 (en) 2013-09-09 2018-02-20 Apple Inc. Device, method, and graphical user interface for manipulating user interfaces based on fingerprint sensor inputs
KR20150029495A (ko) 2013-09-10 2015-03-18 삼성전자주식회사 전자장치에서 센서의 인식 오류를 출력하기 위한 방법 및 장치
JP6102648B2 (ja) 2013-09-13 2017-03-29 ソニー株式会社 情報処理装置及び情報処理方法
JP2015075877A (ja) 2013-10-08 2015-04-20 シャープ株式会社 撮影システム
CN103501304B (zh) 2013-10-12 2017-01-25 深信服网络科技（深圳）有限公司 控制web系统越权访问的方法及装置
CN104579670A (zh) 2013-10-28 2015-04-29 腾讯科技（深圳）有限公司 一种移动终端的身份验证方法和移动终端
KR102091606B1 (ko) 2013-10-30 2020-03-20 엘지전자 주식회사 단말기 및 그 제어 방법
US9706040B2 (en) 2013-10-31 2017-07-11 Udayakumar Kadirvel System and method for facilitating communication via interaction with an avatar
WO2015069153A1 (en) 2013-11-05 2015-05-14 Telefonaktiebolaget L M Ericsson (Publ) Methods of processing electronic files including combined close and delete, and related systems and computer program products
US10528946B2 (en) 2013-11-06 2020-01-07 Tencent Technology (Shenzhen) Company Limited System and method for authenticating, associating and storing secure information
JP5920894B2 (ja) 2013-11-07 2016-05-18 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および顔識別用データの登録方法
US9110635B2 (en) * 2013-12-03 2015-08-18 Lenova (Singapore) Pte. Ltd. Initiating personal assistant application based on eye tracking and gestures
KR102188090B1 (ko) * 2013-12-11 2020-12-04 엘지전자 주식회사 스마트 가전제품, 그 작동방법 및 스마트 가전제품을 이용한 음성인식 시스템
WO2015099677A1 (en) 2013-12-23 2015-07-02 Intel Corporation Computing device authentication based on user's hair follicle pattern
CN103701605A (zh) 2013-12-24 2014-04-02 北京握奇智能科技有限公司 一种数据认证方法及装置
US20150186152A1 (en) 2013-12-27 2015-07-02 Gangatharan Jothiswaran Sensing and assisting computing device connections
US20150187019A1 (en) 2013-12-31 2015-07-02 Hartford Fire Insurance Company Systems and method for autonomous vehicle data processing
KR101569268B1 (ko) 2014-01-02 2015-11-13 아이리텍 잉크 얼굴 구성요소 거리를 이용한 홍채인식용 이미지 획득 장치 및 방법
US9369282B2 (en) 2014-01-29 2016-06-14 Red Hat, Inc. Mobile device user authentication for accessing protected network resources
US9223955B2 (en) 2014-01-30 2015-12-29 Microsoft Corporation User-authentication gestures
US20150220924A1 (en) 2014-02-04 2015-08-06 Outsite Networks, Inc. Method and system for linking a customer identity to a retail transaction
KR102201738B1 (ko) 2014-02-05 2021-01-12 엘지전자 주식회사 디스플레이 디바이스 및 그 제어 방법
US9208301B2 (en) 2014-02-07 2015-12-08 Bank Of America Corporation Determining user authentication requirements based on the current location of the user in comparison to the users's normal boundary of location
WO2015120019A1 (en) 2014-02-10 2015-08-13 Google Inc. Smart camera user interface
US9569605B1 (en) 2014-02-12 2017-02-14 Symantec Corporation Systems and methods for enabling biometric authentication options
WO2015122716A1 (en) 2014-02-14 2015-08-20 Samsung Electronics Co., Ltd. Electronic device, method for authenticating user, and computer readable recording medium
KR102204247B1 (ko) 2014-02-19 2021-01-18 삼성전자 주식회사 전자 장치의 생체 정보 처리 방법 및 장치
US9537661B2 (en) 2014-02-28 2017-01-03 Verizon Patent And Licensing Inc. Password-less authentication service
US9503894B2 (en) 2014-03-07 2016-11-22 Cellco Partnership Symbiotic biometric security
EP3118761B1 (en) 2014-03-13 2021-05-12 LG Electronics Inc. Mobile terminal and method for controlling same
CN104935497B (zh) 2014-03-20 2020-08-14 腾讯科技（深圳）有限公司 一种通讯会话方法和装置
JP6287450B2 (ja) 2014-03-26 2018-03-07 富士通株式会社 携帯型情報処理装置、及びプログラム
CN112134708A (zh) 2014-04-15 2020-12-25 创新先进技术有限公司 一种授权方法、请求授权的方法及装置
US9679121B2 (en) 2014-05-06 2017-06-13 International Business Machines Corporation Unlocking electronic devices using touchscreen input gestures
US9408076B2 (en) 2014-05-14 2016-08-02 The Regents Of The University Of California Sensor-assisted biometric authentication for smartphones
CN105099861A (zh) 2014-05-19 2015-11-25 阿里巴巴集团控股有限公司 基于用户情绪的显示控制方法和显示控制装置
US9324067B2 (en) 2014-05-29 2016-04-26 Apple Inc. User interface for payments
US20150349959A1 (en) 2014-05-30 2015-12-03 Apple Inc. User Authentication Retry with a Biometric Sensing Device
US10318016B2 (en) 2014-06-03 2019-06-11 Harman International Industries, Incorporated Hands free device with directional interface
US9264423B2 (en) 2014-06-12 2016-02-16 Nadapass, Inc. Password-less authentication system and method
US9349035B1 (en) 2014-06-13 2016-05-24 Maxim Integrated Products, Inc. Multi-factor authentication sensor for providing improved identification
US9715824B2 (en) 2014-06-13 2017-07-25 Huawei Technologies Co., Ltd. Method and control device for selecting controlled device
KR102236279B1 (ko) 2014-06-17 2021-04-02 엘지전자 주식회사 이동단말기 및 그 제어방법
US9766702B2 (en) * 2014-06-19 2017-09-19 Apple Inc. User detection by a computing device
US9817549B2 (en) 2014-06-25 2017-11-14 Verizon Patent And Licensing Inc. Method and system for auto switching applications based on device orientation
CN104112091A (zh) 2014-06-26 2014-10-22 小米科技有限责任公司 文件锁定方法和装置
US9904774B2 (en) 2014-06-26 2018-02-27 Xiaomi Inc. Method and device for locking file
MX2016016624A (es) 2014-06-27 2017-04-27 Microsoft Technology Licensing Llc Proteccion de datos con base en el reconocimiento del usuario y gestos.
JP6092485B2 (ja) 2014-07-24 2017-03-08 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置
KR101773233B1 (ko) 2014-07-25 2017-09-12 이동광 생체인증 인식불능 반복 상황 처리 방법
WO2016018028A1 (en) 2014-07-31 2016-02-04 Samsung Electronics Co., Ltd. Device and method of setting or removing security on content
US10621670B2 (en) 2014-08-15 2020-04-14 Scope Technologies Holdings Limited Determination and display of driving risk
CA2902093C (en) 2014-08-28 2023-03-07 Kevin Alan Tussy Facial recognition authentication system including path parameters
US10614204B2 (en) 2014-08-28 2020-04-07 Facetec, Inc. Facial recognition authentication system including path parameters
US11256792B2 (en) 2014-08-28 2022-02-22 Facetec, Inc. Method and apparatus for creation and use of digital identification
US9465930B2 (en) 2014-08-29 2016-10-11 Dropbox, Inc. Fingerprint gestures
US10089607B2 (en) 2014-09-02 2018-10-02 Apple Inc. Mobile merchant proximity solution for financial transactions
US9734379B2 (en) 2014-09-03 2017-08-15 Fingerprint Cards Ab Guided fingerprint enrollment
KR101540544B1 (ko) 2014-09-05 2015-07-30 서용창 캐릭터를 이용한 메시지 서비스 방법, 상기 방법을 수행하는 사용자 단말, 상기 방법을 포함하는 메시지 애플리케이션
US10317992B2 (en) * 2014-09-25 2019-06-11 Microsoft Technology Licensing, Llc Eye gaze for spoken language understanding in multi-modal conversational interactions
US20160092665A1 (en) 2014-09-27 2016-03-31 Intel Corporation Liveness Detection for User Authentication
US9269083B1 (en) 2014-09-30 2016-02-23 Wal-Mart Stores, Inc. Mobile device payment
JP2016076799A (ja) 2014-10-03 2016-05-12 シャープ株式会社 家電管理システム、家電、リモコン装置、ロボット
US9430696B2 (en) 2014-10-09 2016-08-30 Sensory, Incorporated Continuous enrollment for face verification
CN104361302B (zh) 2014-10-21 2017-10-17 天津三星电子有限公司 一种基于通讯设备的保护隐私信息的方法和通讯设备
CN107251096B (zh) 2014-11-10 2022-02-11 英特尔公司 图像捕获装置和方法
US10027667B2 (en) 2014-11-12 2018-07-17 Time Warner Cable Enterprises Llc Methods and apparatus for provisioning services which require a device to be securely associated with an account
US9412169B2 (en) 2014-11-21 2016-08-09 iProov Real-time visual feedback for user positioning with respect to a camera and a display
CN104539924A (zh) 2014-12-03 2015-04-22 深圳市亿思达科技集团有限公司 基于人眼追踪的全息显示方法及全息显示装置
US9817956B2 (en) 2014-12-12 2017-11-14 Excalibur Ip, Llc User authentication and data encryption
SE1451598A1 (en) 2014-12-19 2016-06-20 Fingerprint Cards Ab Improved guided fingerprint enrollment
KR101714349B1 (ko) 2014-12-29 2017-03-09 주식회사 슈프리마 생체 인증 장치와 그 생체 영상 출력제어 방법
US10198594B2 (en) 2014-12-30 2019-02-05 Xiaomi Inc. Method and device for displaying notification information
US10111093B2 (en) 2015-01-09 2018-10-23 Qualcomm Incorporated Mobile device to provide continuous and discrete user authentication
US10037528B2 (en) 2015-01-14 2018-07-31 Tactilis Sdn Bhd Biometric device utilizing finger sequence for authentication
US9996728B2 (en) 2015-01-23 2018-06-12 Samsung Electronics Co., Ltd. System and method for partial fingerprint enrollment and matching using small size fingerprint sensors
US20160224973A1 (en) 2015-02-01 2016-08-04 Apple Inc. User interface for payments
US9654978B2 (en) 2015-02-03 2017-05-16 Qualcomm Incorporated Asset accessibility with continuous authentication for mobile devices
US9432193B1 (en) 2015-02-05 2016-08-30 Sensory, Incorporated Face-based authentication with situational adaptivity
KR102338864B1 (ko) 2015-02-12 2021-12-13 삼성전자주식회사 전자 장치 및 전자 장치에서의 지문 등록 방법
US9294476B1 (en) 2015-02-18 2016-03-22 Keeper Security, Inc. User-defined identity verification system
JP6511293B2 (ja) 2015-02-26 2019-05-15 株式会社エヌ・ティ・ティ・データ ユーザ監視システム
CN104753766B (zh) 2015-03-02 2019-03-22 小米科技有限责任公司 表情发送方法及装置
CN107408171B (zh) 2015-03-17 2020-11-24 微软技术许可有限责任公司 基于生物测定用户认证有选择地在锁屏上提供个人信息和对功能的访问
CN104732396A (zh) 2015-03-24 2015-06-24 广东欧珀移动通信有限公司 一种支付控制方法及装置
JP2016194799A (ja) 2015-03-31 2016-11-17 富士通株式会社 画像解析装置及び画像解析方法
US9774453B2 (en) 2015-04-01 2017-09-26 Northrop Grumman Systems Corporation System and method for providing an automated biometric enrollment workflow
JP5920747B1 (ja) 2015-04-07 2016-05-18 エイピーエス．エスエイ アプリケーションプログラムおよびカード
US10305895B2 (en) 2015-04-14 2019-05-28 Blubox Security, Inc. Multi-factor and multi-mode biometric physical access control device
CN108369630A (zh) * 2015-05-28 2018-08-03 视觉移动科技有限公司 用于智能家居的手势控制系统和方法
US9940637B2 (en) 2015-06-05 2018-04-10 Apple Inc. User interface for loyalty accounts and private label accounts
US20160358133A1 (en) 2015-06-05 2016-12-08 Apple Inc. User interface for loyalty accounts and private label accounts for a wearable device
US20160364600A1 (en) 2015-06-10 2016-12-15 Microsoft Technology Licensing, Llc Biometric Gestures
US20160364591A1 (en) 2015-06-15 2016-12-15 Cypress Semiconductor Corporation Fingerprint Sensing Access for Security and Personalization in Apps and Devices
JP6140773B2 (ja) 2015-06-26 2017-05-31 京セラ株式会社 電子機器及び電子機器の動作方法
US10094655B2 (en) 2015-07-15 2018-10-09 15 Seconds of Fame, Inc. Apparatus and methods for facial recognition and video analytics to identify individuals in contextual video streams
CN104992102A (zh) 2015-07-23 2015-10-21 京东方科技集团股份有限公司 一种消息显示方法及装置
US20170046507A1 (en) 2015-08-10 2017-02-16 International Business Machines Corporation Continuous facial recognition for adaptive data restriction
KR101696602B1 (ko) 2015-08-11 2017-01-23 주식회사 슈프리마 제스처를 이용한 생체 인증
WO2017030223A1 (ko) 2015-08-20 2017-02-23 엘지전자 주식회사 카드유닛을 구비하는 이동 단말기 및 이의 제어방법
KR102387568B1 (ko) 2015-08-31 2022-04-18 삼성전자주식회사 지문 인식 기반 인증 방법 및 장치
JP6613740B2 (ja) 2015-09-09 2019-12-04 富士通コネクテッドテクノロジーズ株式会社 表示制御装置、表示制御方法および表示制御プログラム
WO2017043314A1 (ja) 2015-09-09 2017-03-16 日本電気株式会社 ガイダンス取得装置、ガイダンス取得方法及びプログラム
US10146981B2 (en) 2015-09-10 2018-12-04 Qualcomm Incorporated Fingerprint enrollment and matching with orientation sensor input
US9519901B1 (en) 2015-09-16 2016-12-13 Square, Inc. Biometric payment technology
CN105391843A (zh) 2015-09-28 2016-03-09 努比亚技术有限公司 终端设备、信息发布方法及信息发布系统
US9558636B1 (en) 2015-09-28 2017-01-31 Uniloc Luxembourg S.A. Automatic teller machine inventory and distribution system
US9613245B1 (en) 2015-10-22 2017-04-04 Motorola Mobility Llc Device and method for authentication by a biometric sensor
JP2017091129A (ja) 2015-11-09 2017-05-25 グローリー株式会社 顔認証装置、顔認証装置を備えた管理システム、および、顔認証装置における画面表示制御方法
EP3243128A4 (en) 2015-11-23 2018-11-07 VeriFone, Inc. Systems and methods for authentication code entry in touch-sensitive screen enabled devices
WO2017094052A1 (ja) 2015-11-30 2017-06-08 日立マクセル株式会社 携帯端末及びそれを用いたキーレスエントリシステムまたはセキュリティシステム及びその認証方法
US10210318B2 (en) 2015-12-09 2019-02-19 Daon Holdings Limited Methods and systems for capturing biometric data
US10003738B2 (en) 2015-12-18 2018-06-19 Light Labs Inc. Methods and apparatus for detecting and/or indicating a blocked sensor or camera module
JP2017117159A (ja) 2015-12-24 2017-06-29 シャープ株式会社 端末装置及び双方向通信システム
US10102358B2 (en) 2015-12-29 2018-10-16 Sensory, Incorporated Face-controlled liveness verification
KR102456598B1 (ko) 2016-01-04 2022-10-20 삼성전자주식회사 전자 장치 및 그의 동작 방법
US20170235361A1 (en) 2016-01-20 2017-08-17 Panasonic Automotive Systems Company Of America, Division Of Panasonic Corporation Of North America Interaction based on capturing user intent via eye gaze
JP2017138846A (ja) 2016-02-04 2017-08-10 レノボ・シンガポール・プライベート・リミテッド 情報処理装置、その表示方法、及びコンピュータが実行可能なプログラム
KR102483832B1 (ko) 2016-02-19 2023-01-03 삼성전자주식회사 생체 정보 기반 인증을 이용한 전자 장치들 간 연결 방법 및 장치
CN105844101A (zh) 2016-03-25 2016-08-10 惠州Tcl移动通信有限公司 一种基于智能手表的情绪数据处理方法、系统及智能手表
US10019904B1 (en) 2016-04-11 2018-07-10 State Farm Mutual Automobile Insurance Company System for identifying high risk parking lots
US20170300897A1 (en) 2016-04-14 2017-10-19 American Express Travel Related Services Company, Inc. Systems and Methods for an Electronic Wallet Payment Tool
KR102480294B1 (ko) 2016-05-04 2022-12-23 엘지전자 주식회사 웨어러블 디바이스 및 웨어러블 디바이스의 제어 방법
DK179186B1 (en) 2016-05-19 2018-01-15 Apple Inc REMOTE AUTHORIZATION TO CONTINUE WITH AN ACTION
CN105868613A (zh) 2016-06-08 2016-08-17 广东欧珀移动通信有限公司 一种生物特征识别方法、装置和移动终端
CA3026963A1 (en) 2016-06-10 2017-12-14 Tapplock Corporation Padlock device, systems including a padlock device, and methods of operating therefor
CN114707984A (zh) 2016-06-12 2022-07-05 苹果公司 用于交易的用户界面
WO2017218094A1 (en) 2016-06-12 2017-12-21 Apple Inc. User interfaces for transactions
US9854156B1 (en) 2016-06-12 2017-12-26 Apple Inc. User interface for camera effects
US20180004924A1 (en) 2016-06-30 2018-01-04 Synaptics Incorporated Systems and methods for detecting biometric template aging
US10265856B2 (en) 2016-07-21 2019-04-23 X Development Llc Reorienting a distance sensor using an adjustable leveler
CN106156566A (zh) 2016-07-29 2016-11-23 努比亚技术有限公司 隐式认证装置和方法
US20180063249A1 (en) 2016-08-23 2018-03-01 Vu Trong Nguyen System and method for controlling smart devices
JP6754642B2 (ja) 2016-09-01 2020-09-16 株式会社日立製作所 生体検知装置
CN106355058A (zh) 2016-09-13 2017-01-25 珠海格力电器股份有限公司 一种终端解锁方法及装置
DK179978B1 (en) 2016-09-23 2019-11-27 Apple Inc. IMAGE DATA FOR ENHANCED USER INTERACTIONS
CN106503514A (zh) 2016-09-28 2017-03-15 北京用友政务软件有限公司 基于虹膜识别的电子终端设备的解锁方法及系统
CN106485123A (zh) 2016-10-17 2017-03-08 信利光电股份有限公司 一种冷屏唤醒方法及智能终端
US9739627B1 (en) 2016-10-18 2017-08-22 Allstate Insurance Company Road frustration index risk mapping and mitigation
US20180150627A1 (en) 2016-11-30 2018-05-31 Benjamin Rodefer Authentication using multi-component swipe pattern and color, sound or symbol series unlocking patterns and or codes
CN106778222B (zh) 2016-12-20 2020-06-02 北京小米移动软件有限公司 解锁方法及装置
US20190333508A1 (en) * 2016-12-30 2019-10-31 Harman International Industries, Incorporated Voice recognition system
JP2017102952A (ja) 2017-01-25 2017-06-08 京セラ株式会社 電子機器
US10467509B2 (en) * 2017-02-14 2019-11-05 Microsoft Technology Licensing, Llc Computationally-efficient human-identifying smart assistant computer
KR20180102871A (ko) 2017-03-08 2018-09-18 엘지전자 주식회사 이동단말기 및 이동단말기의 차량 제어 방법
US10810912B2 (en) 2017-03-15 2020-10-20 Aether Inc. Face recognition triggered digital assistant and LED light ring for a smart mirror
US11250307B2 (en) 2017-03-23 2022-02-15 Idex Biometrics Asa Secure, remote biometric enrollment
EP3602943A1 (en) 2017-03-24 2020-02-05 Intel IP Corporation Techniques to enable physical downlink control channel communications
US10219095B2 (en) 2017-05-24 2019-02-26 Glen A. Norris User experience localizing binaural sound during a telephone call
US10325409B2 (en) * 2017-06-16 2019-06-18 Microsoft Technology Licensing, Llc Object holographic augmentation
WO2018226265A1 (en) 2017-09-09 2018-12-13 Apple Inc. Implementation of biometric authentication
WO2019033129A2 (en) 2017-09-09 2019-02-14 Apple Inc. IMPLEMENTING A BIOMETRIC AUTHENTICATION
JP6736686B1 (ja) 2017-09-09 2020-08-05 アップル インコーポレイテッドＡｐｐｌｅ Ｉｎｃ． 生体認証の実施
KR102185854B1 (ko) 2017-09-09 2020-12-02 애플 인크. 생체측정 인증의 구현
AU2018279788B2 (en) 2017-09-09 2019-11-21 Apple Inc. Implementation of biometric authentication
US20220342972A1 (en) 2017-09-11 2022-10-27 Apple Inc. Implementation of biometric authentication
WO2019216499A1 (ko) 2018-05-08 2019-11-14 엘지전자 주식회사 전자 장치 및 그 제어 방법
US11170085B2 (en) 2018-06-03 2021-11-09 Apple Inc. Implementation of biometric authentication
CN110932673A (zh) 2018-09-19 2020-03-27 恩智浦美国有限公司 一种包含并联陷波滤波器的斩波稳定放大器
US11100349B2 (en) 2018-09-28 2021-08-24 Apple Inc. Audio assisted enrollment
US10860096B2 (en) 2018-09-28 2020-12-08 Apple Inc. Device control using gaze information
EP4264460A1 (en) 2021-01-25 2023-10-25 Apple Inc. Implementation of biometric authentication
US20220284084A1 (en) 2021-03-04 2022-09-08 Apple Inc. User interface for enrolling a biometric feature

Also Published As

Publication number Publication date
AU2019346842A1 (en) 2020-12-24
JP7209782B2 (ja) 2023-01-20
US20200103963A1 (en) 2020-04-02
KR102239604B1 (ko) 2021-04-13
WO2020068375A1 (en) 2020-04-02
JP2021193572A (ja) 2021-12-23
KR20210002747A (ko) 2021-01-08
JP6930042B2 (ja) 2021-09-01
US11619991B2 (en) 2023-04-04
US10860096B2 (en) 2020-12-08
EP3788468A1 (en) 2021-03-10
AU2021202352A1 (en) 2021-05-13
AU2021202352B2 (en) 2022-06-16
CN115543170A (zh) 2022-12-30
KR20210041131A (ko) 2021-04-14
AU2022231779B2 (en) 2024-02-15
AU2019346842B2 (en) 2021-02-04
KR102604685B1 (ko) 2023-11-22
KR20230164199A (ko) 2023-12-01
EP3788468B1 (en) 2022-11-02
AU2022231779A1 (en) 2022-10-13
US20230185373A1 (en) 2023-06-15
JP2023052287A (ja) 2023-04-11
JP2021521496A (ja) 2021-08-26
US20210048883A1 (en) 2021-02-18
AU2019346842C1 (en) 2021-08-05
CN112368674A (zh) 2021-02-12
EP4137933A1 (en) 2023-02-22

Similar Documents

Publication Publication Date Title
CN112368674B (zh) 使用注视信息的设备控制
CN113939793B (zh) 用于电子语音通信的用户界面
CN116508021A (zh) 用于处理用户请求的方法和用户界面
US11670144B2 (en) User interfaces for indicating distance
CN113906725B (zh) 用于音量控制的方法、电子设备和计算机可读存储介质
US11785277B2 (en) User interfaces for managing audio for media items
CN115866123B (zh) 用于控制音频媒体输出的方法和设备
CN117501236A (zh) 用于听觉特征的方法和用户界面
CN117441156A (zh) 用于音频路由的用户界面
CN117957518A (zh) 媒体控件用户界面

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant