CN110797019B - 多命令单一话语输入方法 - Google Patents

Abstract

本公开涉及多命令单一话语输入方法。本发明公开了一种用于处理虚拟助理的多部分语音命令的系统和过程。可从用户接收语音输入，该语音输入包括单一话语内的多个可执行命令。可使用语音转录过程从语音输入生成文本串。可基于域关键字、祈使动词、预先确定的子串长度等来将该文本串解析成多个候选子串。针对每个候选子串，可确定用于指示候选子串是否对应于可执行命令的概率。可基于语义连贯、与用户请求模板的相似性、用于确定可管理性的查询服务等来确定此类概率。如果该概率超过阈值，则可确定每个子串的用户意图、可执行与用户意图相关联的过程，并且可将确认提供至用户。

Description

多命令单一话语输入方法

相关申请的交叉引用

本申请是国际申请号为PCT/US2015/033051、国际申请日为2015年5月28日、进入中国国家阶段日期为2016年11月29日、中国国家申请号为201580028468.4、发明名称为“多命令单一话语输入方法”的发明专利申请的分案申请。

本申请要求提交于2014年5月30日的名称为“MULTI-COMMAND SINGLE UTTERANCEINPUT METHOD”的美国临时专利申请No.62/005,556以及提交于2015年3月8日的标题为“MULTI-COMMAND SINGLE UTTERANCE INPUT METHOD”的美国临时专利申请No.62/129,851的优先权。这些专利申请的内容据此全文以引用方式并入。

技术领域

本发明总体涉及用于虚拟助理的语音处理，更具体地讲，涉及处理单一话语，所述单一话语具有用于虚拟助理的多个可执行命令。

背景技术

智能自动化助理(或虚拟助理)提供用户与电子设备之间的直观接口。这些助理可允许用户使用自然语言以语音形式和/或文本形式与设备或系统交互。例如，用户可通过将语音用户输入以自然语言形式提供至与电子设备相关联的虚拟助理来访问电子设备的服务。虚拟助理可对语音用户输入执行自然语言处理，以推断用户意图并且将用户意图操作化成任务。随后可通过执行电子设备的一项或多项功能来执行任务，并且相关的输出可以自然语言形式返回给用户。

然而，在电子用户设备继续提供增强功能的同时，一些用户可能会被通知、播报、消息、提醒等淹没。此外，对于用户而言，单独处理每个通知、播报、消息或提醒可能低效且耗时。例如，使用语音与虚拟助理交互，用户通常一次只提出单个项目、功能或活动。此外，在转换到另一任务之前，用户可能需要等待虚拟辅助任务完成。除了限制效率之外，这种延迟也可分散用户的注意力，从而可使用户忘记他们可能想到过的其他项目。

因此，在一些实例中，对于用户而言，使用语音与虚拟助理交互来处理多个任务(一次一个)可能耗时、低效并且令人沮丧。

发明内容

本文公开了用于处理多部分语音命令的系统和过程。在一个示例中，可从用户接收语音输入，所述语音输入包括具有一个或多个可执行命令的单一话语。基于语音输入使用语音转录过程可生成文本串。可将文本串解析成多个候选子串。可针对候选子串中的每一者确定用于指示它们是否可能对应于可执行命令的概率。响应于概率超出阈值，可针对候选子串中的每一者确定用户意图。随后可执行与用户意图相关联的过程。确认也可提供至与各种用户意图相关联的用户。

在一些示例中，可通过识别域关键字来解析文本串。在其他示例中，可通过识别祈使动词来解析文本串。可通过确定子串的语义连贯来确定子串对应于可执行命令的概率。也可通过将子串与用户请求模板进行比较来确定概率。也可通过将子串提交到服务并接收该服务可转换来自子串的可执行命令的可能性来确定概率。

此外，在一些示例中，可基于先前子串中的字词来确定子串的用户意图。也可基于显示的信息来确定用户意图。显示的信息可包括列表，并且可基于与列表中的项目相关联的顺序描述符来确定用户意图。显示的信息可包括通知和电子邮件。也可基于显示的信息，通过确定潜在用户请求来确定用户意图。

此外，在一些示例中，确认可包括可听确认或触觉反馈。提供确认也可包括提供与用户意图相关联的任务，包括显示所述任务。提供确认也可包括提供完成指示符，包括显示完成指示符，如复选标记。提供确认也可包括提供状态指示符，包括显示状态指示符，如沙漏或状态条。在其他示例中，提供确认可包括使用不同形式的强调来显示不同的候选子串，诸如粗体文本、斜体文本、带下划线的文本、圈出的文本、勾出的文本、彩色文本和/或群集的文本。

附图说明

为了更好地理解本发明的各种所描述的实施方案，应该结合以下附图参考下面的具体实施方式，在附图中，类似的附图标号在所有附图中指示对应的部分。

图1是示出根据各种示例的用于实现数字助理的系统和环境的框图。

图2A是示出根据一些实施方案的实现数字助理的客户端侧部分的便携式多功能设备的框图。

图2B是示出根据各种示例的用于事件处理的示例性部件的框图。

图3示出根据各种示例的实现数字助理的客户端侧部分的便携式多功能设备。

图4是根据各种示例的具有显示器和触敏表面的示例性多功能设备的框图。

图5A示出了根据各种示例的便携式多功能设备上的应用程序菜单的示例性用户界面。

图5B示出了根据各种示例的具有与显示器分开的触敏表面的多功能设备的示例性用户界面。

图6A示出根据各种示例的个人电子设备。

图6B是示出根据各种示例的个人电子设备的框图。

图7A是示出根据各种示例的数字助理系统或其服务器部分的框图。

图7B示出根据各种示例的图7A所示数字助理的功能。

图7C示出根据各种示例的知识本体的一部分。

图8示出用于处理单一用户话语中的多个可执行命令的示例性过程。

图9示出示例性解析的多部分语音命令。

图10示出具有用于解译多部分语音命令的上下文的示例性显示器。

图11示出具有各种类型的多个通知的示例性显示器，所述多个通知可用作用于解译多部分语音命令的上下文。

图12示出具有邮件应用程序的示例性显示器，所述邮件应用程序可用作用于解译多部分语音命令的上下文。

图13示出用于传送多部分语音命令的状态的示例性用户界面。

图14A和图14B示出用于传送多部分语音命令的识别的示例性用户界面。

图15示出根据各种示例的被配置为处理多部分语音命令的电子设备的功能框图。

具体实施方式

在以下对示例的描述中将引用附图，在附图中以例示的方式示出了可被实施的特定示例。应当理解，在不脱离各个示例的范围的情况下，可使用其他示例并且可作出结构性变更。

下面，图2A至图2B、图3、图4、图5A至5B和图6A至图6B提供了用于执行处理多部分语音命令的技术的示例性设备的描述。图10至图14B示出了示例性用户界面。附图中的用户界面还被用于示出下文描述的过程，包括图8中的过程800。

尽管以下描述使用术语“第一”、“第二”等来描述各种元件，但这些元件不应受术语的限制。这些术语只是用于将一个元件与另一元件区分开。例如，第一输入可被命名为第二输入并且类似地第二输入可被命名为第一输入，而不脱离各种所述示例的范围。第一输入和第二输入可都是输出，并且在一些情况下可为独立且不同的输入。

在本文中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的，而并非旨在进行限制。如在对各种所述示例的描述和所附权利要求书中所使用的那样，单数形式“一个(“a”,“an”)和“该”旨在也包括复数形式，除非上下文另外明确地指示。还将理解的是，本文中所使用的术语“和/或”是指并且涵盖相关联的所列出的项目中的一个或多个项目的任何和全部可能的组合。还将理解的是，术语“包括”(“includes”,“including”,“comprises”和/或“comprising”)当在本说明书中使用时是指定存在所陈述的特征、整数、步骤、操作、元件和/或部件，但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、部件和/或其分组。

根据上下文，术语“如果”可被解释为意指“当...时”(“when”或“upon”)或“响应于确定”或“响应于检测到”。类似地，根据上下文，短语“如果确定...”或“如果检测到[所陈述的条件或事件]”可被解释为意指“在确定...时”或“响应于确定...”或“在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。

1.系统和环境

图1示出根据各种示例的系统100的框图。在一些示例中，系统100可实现数字助理。术语“数字助理”、“虚拟助理”、“智能自动化助理”或“自动数字助理”可指解译语音形式和/或文本形式的自然语言输入以推断用户意图，并基于推断出的用户意图来执行动作的任何信息处理系统。例如，为了对推断出的用户意图采取行动，系统可执行以下内容中的一者或多者：通过设计用以实现所推断出的用户意图的步骤和参数来识别任务流，将来自推断出的用户意图的具体要求输入到任务流中；通过调用程序、方法、服务、API等来执行任务流；以及生成对用户的听觉(例如，语音)和/或视觉形式的输出响应。

具体地讲，数字助理可能够接受至少部分地为自然语言命令、请求、声明、讲述和/或询问的形式的用户请求。通常，用户请求可寻求数字助理作出信息性回答或者寻求数字助理执行任务。针对用户请求的令人满意的响应可以是提供所请求的信息性回答、执行所请求的任务或这两者的组合。例如，用户可向数字助理提问，诸如“我现在在哪里？”基于用户的当前位置，数字助理可能回答“你在中央公园西门附近。”用户还可请求执行任务，例如“请邀请我的朋友下周来参加我女朋友的生日聚会。”作为响应，数字助理可通过讲出“好的，马上”来确认请求，然后代表用户将合适的日历邀请发送到用户电子通讯录中列出的用户朋友中的每个朋友。在执行所请求的任务期间，数字助理有时可在很长时间段内在涉及多次信息交换的持续对话中与用户进行交互。存在与数字助理进行交互以请求信息或执行各种任务的许多其他方法。除提供言语响应并采取经编程的动作之外，数字助理还可提供其他视频或音频形式的响应，例如作为文本、警报、音乐、视频、动画等。

如图1中所示，在一些示例中，数字助理可根据客户端-服务器模型来实现。数字助理可包括在用户设备104上执行的客户端侧部分102(后文称作“DA客户端102”)，以及在服务器系统108上执行的服务器侧部分106(后文称作“DA服务器106”)。DA客户端102可通过一个或多个网络110与DA服务器106通信。DA客户端102可提供客户端侧功能，诸如面向用户的输入和输出处理，并且与DA服务器106通信。DA服务器106可为任意数量的DA客户端102提供服务器侧功能，所述任意数量的DA客户端各自位于相应的用户设备104上。

在一些示例中，DA服务器106可包括面向客户端的I/O接口112、一个或多个处理模块114、数据与模型116，以及到外部服务的I/O接口118。面向客户端的I/O接口112可有利于DA服务器106的面向客户端的输入和输出处理。一个或多个处理模块114可利用数据与模型116来处理语音输入，并基于自然语言输入确定用户意图。此外，一个或多个处理模块114基于推断出的用户意图来进行任务执行。在一些示例中，DA服务器106可通过一个或多个网络110与外部服务120通信以完成任务或采集信息。到外部服务的I/O接口118可促进此类通信。

用户设备104可以是任何合适的电子设备。例如，用户设备104可以是便携式多功能设备(例如，下文参考图2A描述的设备200)、多功能设备(例如，下文参考图4描述的设备400)或者个人电子设备(例如，下文参考图6A-B描述的设备600)。例如，便携式多功能设备可以是移动电话，所述移动电话也包含其他功能，诸如PDA和/或音乐播放器功能。便携式多功能设备的特定示例可包括来自Apple Inc.(Cupertino,California)的iPod和/>设备。便携式多功能设备的其他示例可包括但不限于膝上型电脑或平板电脑。此外，在一些示例中，用户设备104可以是非便携式多功能设备。具体而言，用户设备104可以是台式计算机、游戏机、电视机或电视机机顶盒。在一些示例中，用户设备104可包括触敏表面(例如，触摸屏显示器和/或触摸板)。此外，用户设备104可任选地包括一个或多个其他物理用户接口设备，诸如物理键盘、鼠标和/或操纵杆。电子设备诸如多功能设备的各种示例在下文更详细地描述。

一个或多个通信网络110的示例可包括局域网(LAN)和广域网(WAN)，例如互联网。一个或多个通信网络110可使用任何已知的网络协议来实现，包括各种有线或无线协议，例如以太网、通用串行总线(USB)、火线(FIREWIRE)、全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、Wi-Fi、互联网协议语音(VoIP)、Wi-MAX或任何其他合适的通信协议。

服务器系统108可在计算机的一个或多个独立式数据处理设备或分布式网络上实现。在一些示例中，服务器系统108还可采用第三方服务提供方(例如，第三方云服务提供方)的各种虚拟设备和/或服务来提供服务器系统108的潜在计算资源和/或基础结构资源。

在一些示例中，用户设备104可经由第二用户设备122与DA服务器106通信。第二用户设备122可与用户设备104类似或相同。例如，第二用户设备122可类似于下文参考图2A、图4和图6A-B描述的设备200、设备400或设备600。用户设备104可被配置为经由直接通信连接诸如蓝牙、NFC、BTLE等或者经由有线或无线网络诸如局域Wi-Fi网络而通信耦接到第二用户设备122。在一些示例中，第二用户设备122可被配置为充当用户设备104与DA服务器106之间的代理。例如，用户设备104的DA客户端102可被配置为经由第二用户设备122将信息(例如，在用户设备104处接收的用户请求)传输到DA服务器106。DA服务器106可处理所述信息，并经由第二用户设备122将相关数据(例如，响应于用户请求的数据内容)返回到用户设备104。

在一些示例中，用户设备104可被配置为将针对数据的缩略请求发送到第二用户设备122，以减少从用户设备104传输的信息量。第二用户设备122可被配置为确定添加到缩略请求的补充信息，以生成完整的请求来传输到DA服务器106。该系统架构可有利地通过使用具有较强通信能力和/或电池电力的第二用户设备122(例如，移动电话、膝上型计算机、平板电脑等)作为到DA服务器106的代理来允许具有有限通信能力和/或有限电池电力的用户设备104(例如，手表或类似的紧凑型电子设备)访问DA服务器106提供的服务。虽然图1中仅示出两个用户设备104和122，应当理解，系统100可包括在此代理配置中被配置为与DA服务器系统106通信的任意数量和类型的用户设备。

尽管图1中所示的数字助理可包括客户端侧部分(例如，DA客户端102)和服务器侧部分(例如，DA服务器106)两者，但在一些示例中，数字助理的功能可以实现为安装在用户设备上的独立式应用程序。此外，数字助理的客户端部分与服务器部分之间的功能划分在不同的具体实施中可变化。例如，在一些示例中，DA客户端可以是仅提供面向用户的输入和输出处理功能，且将数字助理的所有其他功能委派给后端服务器的瘦客户端。

2.电子设备

现在将注意力转到用于实现数字助理的客户端侧部分的电子设备的实施方案。图2A是示出根据一些实施方案的具有触敏显示器系统212的便携式多功能设备200的框图。触敏显示器212有时为了方便被叫做“触摸屏”，并且有时可被称为或被叫做“触敏显示器系统”。设备200包括存储器202(其任选地包括一个或多个计算机可读存储介质)、存储器控制器222、一个或多个处理单元(CPU)220、外围设备接口218、RF电路208、音频电路210、扬声器211、麦克风213、输入/输出(I/O)子系统206、其他输入控制设备216和外部端口224。设备200任选地包括一个或多个光学传感器264。设备200任选地包括用于检测设备200(例如，触敏表面，诸如设备200的触敏显示器系统212)上的接触的强度的一个或多个接触强度传感器265。设备200任选地包括用于在设备200上生成触觉输出的一个或多个触觉输出发生器267(例如，在触敏表面诸如设备200的触敏显示器系统212或设备400的触摸板455上生成触觉输出)。这些部件任选地通过一个或多个通信总线或信号线203进行通信。

如在本说明书和权利要求书中所使用的，术语触敏表面上的接触的“强度”是指触敏表面上的接触(例如，手指接触)的力或压力(每单位面积的力)，或是指触敏表面上的接触的力或压力的替代物(代用物)。接触的强度具有值范围，该值范围包括至少四个不同的值并且更典型地包括上百个不同的值(例如，至少256个)。接触的强度任选地使用各种方法和各种传感器或传感器的组合来确定(或测量)。例如，在触敏表面下方或相邻于触敏表面的一个或多个力传感器任选地用于测量触敏表面上的不同点处的力。在一些具体实施中，来自多个力传感器的力测量被合并(例如，加权平均数)以确定估计的接触力。类似地，触笔的压敏顶端任选地用于确定触笔在触敏表面上的压力。另选地，在触敏表面上检测到的接触面积的尺寸和/或其变化、接触附近触敏表面的电容和/或其变化以及/或者接触附近触敏表面的电阻和/或其变化任选地被用作触敏表面上的接触的力或压力的替代物。在一些具体实施中，接触力或压力的替代物测量直接用于确定是否已超过强度阈值(例如，强度阈值是以与替代物测量对应的单位来描述的)。在一些具体实施中，接触力或压力的替代物测量被转换成估计的力或压力，并且估计的力或压力用于确定是否已超过强度阈值(例如，强度阈值是以压力的单位进行测量的压力阈值)。使用接触的强度作为用户输入的属性，从而允许用户访问用户在实地面积有限的尺寸更小的设备上本来不可访问的附加设备功能，该尺寸更小的设备用于(例如，在触敏显示器上)显示示能表示和/或接收用户输入(例如，经由触敏显示器、触敏表面或物理控件/机械控件诸如旋钮或按钮)。

如本说明书和权利要求书中所使用的，术语“触觉输出”是指将由用户利用用户的触感检测到的设备相对于设备的先前位置的物理位移、设备的部件(例如，触敏表面)相对于设备的另一个部件(例如，外壳)的物理位移、或部件相对于设备的质心的位移。例如，在设备或设备的部件与用户对触摸敏感的表面(例如，手指、手掌或用户手部的其他部分)接触的情况下，通过物理位移生成的触觉输出将由用户解释为触感，该触感对应于设备或设备的部件的物理特征的所感知的变化。例如，触敏表面(例如，触敏显示器或触控板)的移动任选地由用户解释为对物理致动按钮的“按下点击”或“松开点击”。在一些情况下，用户将感觉到触感，诸如“按下点击”或“松开点击”，即使在通过用户的移动而物理地被按压(例如，被移位)的与触敏表面相关联的物理致动按钮没有移动时。作为另一个示例，即使在触敏表面的光滑度无变化时，触敏表面的移动也会任选地由用户解释为或感觉为触敏表面的“粗糙度”。虽然由用户对触摸的此类解释将受到用户的个体化感官知觉限制，但是有许多触摸的感官知觉是大多数用户共有的。因此，当触觉输出被描述为对应于用户的特定感官知觉(例如，“按下点击”、“松开点击”、“粗糙度”)时，除非另外陈述，否则所生成的触觉输出对应于设备或其部件的物理位移，该物理位移将会生成典型(或普通)用户的感官知觉。

应当理解，设备200仅是便携式多功能设备的一个示例，并且设备200任选地具有比所示出的更多或更少的部件，任选地组合两个或更多个部件，或者任选地具有这些部件的不同配置或布置。图2A中所示的各种部件以硬件、软件或硬件与软件两者的组合来实现，包括一个或多个信号处理电路和/或专用集成电路。

存储器202可包括一个或多个计算机可读存储介质。该计算机可读存储介质可以是有形的和非暂态的。存储器202可包括高速随机存取存储器，并且还可包括非易失性存储器，诸如一个或多个磁盘存储设备、闪存存储器设备或其他非易失性固态存储器设备。存储器控制器222可控制设备200的其他部件访问存储器202。

在一些示例中，存储器202的非暂态计算机可读存储介质可用来存储指令(例如，用于执行下文描述的过程800的多个方面)，以供指令执行系统、装置或设备诸如基于计算机的系统、包含处理器的系统或可从指令执行系统、装置或设备获取指令并执行指令的其他系统使用或与其结合。在其他示例中，指令(例如，用于执行下文描述的过程800的多个方面)可被存储在服务器系统108的非暂态计算机可读存储介质(未示出)上，或者可在存储器202的非暂态计算机可读存储介质与服务器系统108的非暂态计算机可读存储介质之间划分。在本文的上下文中，“非暂态计算机可读存储介质”可以是可包含或存储程序以供指令执行系统、装置和设备使用或与其结合的任何介质。

外围设备接口218可被用于将设备的输入外围设备和输出外围设备耦接到CPU220和存储器202。所述一个或多个处理器220运行或执行存储在存储器202中的各种软件程序和/或指令集以执行设备200的各种功能并处理数据。在一些实施方案中，外围设备接口218、CPU 220和存储器控制器222可在单个芯片诸如芯片204上实现。在一些其他实施方案中，它们可在单独的芯片上实现。

RF(射频)电路208接收和发送也被叫做电磁信号的RF信号。RF电路208将电信号转换为电磁信号/将电磁信号转换为电信号，并且经由电磁信号来与通信网络以及其他通信设备进行通信。RF电路208任选地包括用于执行这些功能的熟知的电路，包括但不限于天线系统、RF收发器、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、编解码芯片组、用户身份模块(SIM)卡、存储器等。RF电路208任选地通过无线通信来与网络以及其他设备进行通信，该网络为诸如互联网(也被称为万维网(WWW))、内联网和/或无线网络(诸如蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))。RF电路208任选地包括用于检测近场通信(NFC)场的熟知的电路，诸如通过近程通信无线电部件来进行检测。无线通信任选地使用多种通信标准、协议和技术中的任一种，包括但不限于全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入(HSUPA)、演进、纯数据(EV-DO)、HSPA、HSPA+、双单元HSPA(DC-HSPDA)、长期演进(LTE)、近场通信(NFC)、宽带码分多址(W-CDMA)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、蓝牙低功耗(BTLE)、无线保真(Wi-Fi)(例如，IEEE802.11a、IEEE 802.11b、IEEE 802.11g、IEEE802.11n和/或IEEE802.11ac)、互联网协议语音(VoIP)、Wi-MAX、电子邮件协议(例如，互联网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如，可扩展消息处理和存在协议(XMPP)、用于即时消息和存在利用扩展的会话发起协议(SIMPLE)、即时消息和存在服务(IMPS))以及/或者短消息服务(SMS)，或者任何其他适当的通信协议，包括到本文档提交日期为止还未开发出的通信协议。

音频电路210、扬声器211和麦克风213提供用户和设备200之间的音频接口。音频电路210从外围设备接口218接收音频数据，将音频数据转换为电信号，并将电信号传输到扬声器211。扬声器211将电信号转换为人类可听的声波。音频电路210还接收由麦克风213根据声波转换的电信号。音频电路210将电信号转换为音频数据，并将音频数据传输到外围设备接口218以用于处理。音频数据可由外围设备接口218从存储器202和/或RF电路208进行检索和/或被传输至所述存储器和/或所述RF电路。在一些实施方案中，音频电路210还包括耳麦插孔(例如，图3中的312)。耳麦插孔提供音频电路210和可移除的音频输入/输出外围设备之间的接口，该可移除的音频输入/输出外围设备诸如仅输出的耳机或者具有输出(例如，单耳耳机或双耳耳机)和输入(例如，麦克风)两者的头戴式耳机。

I/O子系统206将设备200上的输入/输出外围设备诸如触摸屏212和其他输入控制设备216耦接到外围设备接口218。I/O子系统206任选地包括显示控制器256、光学传感器控制器258、强度传感器控制器259、触觉反馈控制器261和用于其他输入或控制设备的一个或多个输入控制器260。所述一个或多个输入控制器260从其他输入控制设备216接收电信号/将电信号发送到所述其他输入控制设备。其他输入控制设备216任选地包括物理按钮(例如，下压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击式转盘等。在一些另选实施方案中，一个或多个输入控制器260任选地耦接至以下各项中的任一者(或不耦接至以下各项中的任一者)：键盘、红外线端口、USB端口以及指针设备诸如鼠标。一个或多个按钮(例如，图3中的308)任选地包括用于扬声器211和/或麦克风213的音量控制的增大/减小按钮。一个或多个按钮任选地包括下压按钮(例如，图3中的306)。

快速按下下压按钮可解除对触摸屏212的锁定或者开始使用触摸屏上的手势来对设备进行解锁的过程，如在于2005年12月23日提交的标题为“Unlocking a Device byPerforming Gestures on an Unlock Image”的美国专利申请11/322,549以及美国专利申请No.7,657,849中所述的。上述美国专利申请据此全文以引用方式并入。更长地按下下按按钮(例如306)可使设备200开机或关机。用户能够对一个或多个按钮的功能进行自定义。触摸屏212用于实现虚拟按钮或软按钮以及一个或多个软键盘。

触敏显示器212提供设备和用户之间的输入接口和输出接口。显示控制器256从触摸屏212接收电信号和/或将电信号发送至该触摸屏。触摸屏212向用户显示视觉输出。该视觉输出可包括图形、文本、图标、视频及它们的任意组合(统称为“图形”)。在一些实施方案中，一些视觉输出或全部的视觉输出可对应于用户界面对象。

触摸屏212具有基于触觉和/或触感接触来接受来自用户的输入的触敏表面、传感器或传感器组。触摸屏212和显示控制器256(与存储器202中的任何相关联的模块和/或指令集一起)检测触摸屏212上的接触(和该接触的任何移动或中断)，并且将所检测到的接触转换为与被显示在触摸屏212上的用户界面对象(例如，一个或多个软键、图标、网页或图像)的交互。在一个示例性实施方案中，触摸屏212和用户之间的接触点对应于用户的手指。

触摸屏212可使用LCD(液晶显示器)技术、LPD(发光聚合物显示器)技术或LED(发光二极管)技术，但是在其他实施方案中可使用其他显示技术。触摸屏212和显示控制器256可使用现在已知的或以后将开发出的多种触摸感测技术中的任何触摸感测技术以及其他接近传感器阵列或用于确定与触摸屏212的一个或多个接触点的其他元件来检测接触及其任何移动或中断，该多种触摸感测技术包括但不限于电容性技术、电阻性技术、红外技术和表面声波技术。在一个示例性实施方案中，使用投射式互电容感测技术，诸如从Apple Inc.(Cupertino,California)的和iPod Touch发现的技术。

触摸屏212的一些实施方案中的触敏显示器可类似于以下美国专利中所述的多点触敏触摸板：6,323,846(Westerman等人)、6,570,557(Westerman等人)和/或6,677,932(Westerman)；和/或美国专利公开2002/0015024A1，这些专利申请中的每个专利申请据此全文以引用方式并入本文。然而，触摸屏212显示来自设备200的视觉输出，而触敏触摸板不提供视觉输出。

触摸屏212的一些实施方案中的触敏显示器可如在以下专利申请中那样进行描述：(1)于2006年5月2日提交的标题为“Multipoint Touch Surface Controller”美国专利申请No.11/381,313；(2)于2004年5月6日提交的标题为“Multipoint Touchscreen”美国专利申请No.10/840,862；(3)于2004年7月30日提交的标题为“Gestures For TouchSensitive Input Devices”美国专利申请No.10/903,964；(4)于2005年1月31日提交的标题为“Gestures For Touch Sensitive Input Devices”美国专利申请No.11/048,264；(5)于2005年1月18日提交的标题为“Mode-Based Graphical User Interfaces For TouchSensitive Input Devices”美国专利申请No.11/038,590；(6)于2005年9月16日提交的标题为“Virtual Input Device Placement On A Touch Screen User Interface”美国专利申请No.11/228,758；(7)于2005年9月16日提交的标题为“Operation Of A Computer WithA Touch Screen Interface”美国专利申请No.11/228,700；(8)于2005年9月16日提交的标题为“Activating Virtual Keys Of A Touch-Screen Virtual Keyboard”美国专利申请No.11/228,737；和(9)于2006年3月3日提交的标题为“Multi-Functional Hand-HeldDevice”美国专利申请No.11/367,749。所有这些专利申请全文以引用方式并入本文。

触摸屏212可具有超过100dpi的视频分辨率。在一些实施方案中，触摸屏具有约160dpi的视频分辨率。用户可使用任何合适的物体或附加物诸如触笔、手指等来与触摸屏212接触。在一些实施方案中，用户界面被设计用于主要与基于手指的接触和手势工作，由于手指在触摸屏上的接触区域较大，因此这可能不如基于触笔的输入精确。在一些实施方案中，设备将基于手指的粗略输入翻译为精确的指针/光标位置或命令，以用于执行用户所期望的动作。

在一些实施方案中，除了触摸屏之外，设备200可包括用于激活或去激活特定功能的触摸板(未示出)。在一些实施方案中，触摸板是设备的触敏区域，该触敏区域与触摸屏不同，其不显示视觉输出。触摸板可以是与触摸屏212分开的触敏表面，或者是由触摸屏形成的触敏表面的延伸部分。

设备200还包括用于为各种部件供电的电力系统262。电力系统262可包括功率管理系统、一个或多个电源(例如，电池、交流电(AC))、再充电系统、电力故障检测电路、功率转换器或逆变器、电源状态指示器(例如，发光二极管(LED))和与便携式设备中的电力的生成、管理和分配相关联的任何其他部件。

设备200还可包括一个或多个光学传感器264。图2A示出耦接到I/O子系统206中的光学传感器控制器258的光学传感器。光学传感器264可包括电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)光电晶体管。光学传感器264从环境接收通过一个或多个透镜而投射的光，并且将光转换为表示图像的数据。结合成像模块243(也称为相机模块)，光学传感器264可捕获静态图像或视频。在一些实施方案中，光学传感器位于设备200的与设备的前部上的触摸屏显示器212相背对的后部上，使得触摸屏显示器可被用作用于静态图像和/或视频图像采集的取景器。在一些实施方案中，光学传感器位于设备的前部，使得在用户在触摸屏显示器上观看其他视频会议参与者的同时可获得该用户的图像，以用于视频会议。在一些实施方案中，光学传感器264的位置可由用户改变(例如通过旋转设备外壳中的透镜和传感器)，使得单个光学传感器264可与触摸屏显示器一起使用，以用于视频会议和静态图像和/或视频图像采集两者。

设备200任选地还包括一个或多个接触强度传感器265。图2A示出耦接到I/O子系统206中的强度传感器控制器259的接触强度传感器。接触强度传感器265任选地包括一个或多个压阻应变仪、电容式力传感器、电力传感器、压电力传感器、光学力传感器、电容式触敏表面或其他强度传感器(例如，用于测量触敏表面上的接触的力(或压力)的传感器)。接触强度传感器265从环境接收接触强度信息(例如，压力信息或压力信息的代用物)。在一些实施方案中，至少一个接触强度传感器与触敏表面(例如，触敏显示器系统212)并置排列或邻近。在一些实施方案中，至少一个接触强度传感器位于设备200的与位于设备200的前部上的触摸屏显示器212相背对的后部上。

设备200还可包括一个或多个接近传感器266。图2A示出耦接到外围设备接口218的接近传感器266。作为另外一种选择，接近传感器266可耦接到I/O子系统206中的输入控制器260。接近传感器266可如以下美国专利申请中所述的那样执行：11/241,839，标题为“Proximity Detector In Handheld Device”；11/240,788，标题为“Proximity DetectorIn Handheld Device”；11/620,702，标题为“Using Ambient Light Sensor To AugmentProximity Sensor Output”；11/586,862，标题为“Automated Response To And SensingOf User Activity In Portable Devices”；和11/638,251，标题为“Methods And SystemsFor Automatic Configuration Of Peripherals”，这些美国专利申请据此全文以引用方式并入本文。在一些实施方案中，当多功能设备被置于用户的耳朵附近时(例如，当用户正在进行电话呼叫时)，接近传感器关闭并且禁用触摸屏212。

设备200任选地还包括一个或多个触觉输出发生器267。图2A示出耦接到I/O子系统206中的触觉反馈控制器261的触觉输出发生器。触觉输出发生器267任选地包括：一个或多个电声设备，诸如扬声器或其他音频部件；和/或用于将能量转换成线性运动的机电设备，诸如电机、螺线管、电活性聚合器、压电致动器、静电致动器或其他触觉输出生成部件(例如，用于将电信号转换成设备上的触觉输出的部件)。接触强度传感器265从触觉反馈模块233接收触觉反馈生成指令，并且在设备200上生成能够由设备200的用户感觉到的触觉输出。在一些实施方案中，至少一个触觉输出发生器与触敏表面(例如，触敏显示器系统212)并置排列或邻近，并且任选地通过竖直地(例如，向设备200的表面内/外)或侧向地(例如，在与设备200的表面相同的平面中向后和向前)移动触敏表面来生成触觉输出。在一些实施方案中，至少一个触觉输出发生器传感器位于设备200的与位于设备200的前部上的触摸屏显示器212相背对的后部上。

设备200还可包括一个或多个加速度计268。图2A示出耦接到外围设备接口218的加速度计268。作为另外一种选择，加速度计268可被耦接至I/O子系统206中的输入控制器260。加速度计268可如以下美国专利公开中所述的那样执行：20050190059，标题为“Acceleration-based Theft Detection System for Portable Electronic Devices”和20060017692，标题为“Methods And Apparatuses For Operating A Portable DeviceBased On An Accelerometer”，这两个美国专利公开均全文以引用方式并入本文。在一些实施方案中，基于对从该一个或多个加速度计所接收的数据的分析来在触摸屏显示器上以纵向视图或横向视图显示信息。设备200任选地除了一个或多个加速度计268之外还包括磁力仪(未示出)和GPS(或GLONASS或其他全球导航系统)接收器(未示出)，以用于获取关于设备200的位置和取向(例如，纵向或横向)的信息。

在一些实施方案中，被存储在存储器202中的软件部件包括操作系统226、通信模块(或指令集)228、接触/运动模块(或指令集)230、图形模块(或指令集)232、文本输入模块(或指令集)234、全球定位系统(GPS)模块(或指令集)235、数字助理客户端模块229以及应用程序(或指令集)236。此外，存储器202可存储数据和模型，诸如用户数据与模型231。此外，在一些实施方案中，存储器202(图2A)或470(图4)存储设备/全局内部状态257，如图2A和图4中所示。设备/全局内部状态257包括以下各项中的一者或多者：活动应用程序状态，该活动应用程序状态用于指示哪些应用程序(如果有的话)当前是活动的；显示状态，该显示状态用于指示什么应用程序、视图或其他信息占据触摸屏显示器212的各个区域；传感器状态，该传感器状态包括从设备的各个传感器和输入控制设备216获得的信息；和关于设备位置和/或姿态的位置信息。

操作系统226(例如，Darwin、RTXC、LINUX、UNIX、OS X、iOS、WINDOWS、或嵌入式操作系统诸如VxWorks)包括用于控制和管理一般系统任务(例如，存储器管理、存储设备控制、功率管理等)的各种软件部件和/或驱动程序，并且促进各种硬件部件和软件部件之间的通信。

通信模块228促进通过一个或多个外部端口224来与其他设备进行通信，并且还包括用于处理由RF电路208和/或外部端口224所接收的数据的各种软件部件。外部端口224(例如，通用串行总线(USB)、火线等)适于直接耦接到其他设备或者间接地通过网络(例如，互联网、无线LAN等)耦接。在一些实施方案中，外部端口是与(Apple Inc.的商标)设备上所使用的30针连接器相同的或类似的和/或与其兼容的多针(例如，30针)连接器。

接触/运动模块230任选地检测与触摸屏212(结合显示控制器256)和其他触敏设备(例如，触摸板或物理点击式转盘)的接触。接触/运动模块230包括各种软件部件以用于执行与接触检测相关的各种操作，诸如确定是否已发生接触(例如，检测手指按下事件)、确定接触的强度(例如，接触的力或压力，或者接触的力或压力的替代物)、确定是否存在接触的移动并跟踪在触敏表面上的移动(例如，检测一个或多个手指拖动事件)，以及确定接触是否已停止(例如，检测手指抬起事件或者接触断开)。接触/运动模块230从触敏表面接收接触数据。确定接触点的移动任选地包括确定接触点的速率(量值)、速度(量值和方向)和/或加速度(量值和/或方向的改变)，所述接触点的移动由一系列接触数据来表示。这些操作任选地被应用于单点接触(例如，单指接触)或者多点同时接触(例如，“多点触摸”/多个手指接触)。在一些实施方案中，接触/运动模块230和显示控制器256检测触摸板上的接触。

在一些实施方案中，接触/运动模块230使用一组一个或多个强度阈值来确定操作是否已由用户执行(例如，确定用户是否已“点击”图标)。在一些实施方案中，根据软件参数来确定强度阈值的至少一个子集(例如，强度阈值不是由特定物理致动器的激活阈值来确定的，并且可在不改变设备200的物理硬件的情况下被调节)。例如，在不改变触控板或触摸屏显示器硬件的情况下，触控板或触摸屏的鼠标“点击”阈值可被设定成预定义的阈值的大范围中的任一个阈值。另外，在一些具体实施中，向设备的用户提供用于调节一组强度阈值中的一个或多个强度阈值(例如，通过调节各个强度阈值和/或通过利用对“强度”参数的系统级点击来一次调节多个强度阈值)的软件设置。

接触/运动模块230任选地检测用户的手势输入。触敏表面上的不同手势具有不同接触图案(例如，所检测到的接触的不同运动、计时和/或强度)。因此，任选地通过检测具体接触图案来检测手势。例如，检测手指轻击手势包括检测手指按下事件，然后在与手指按下事件相同的位置(或基本上相同的位置)处(例如，在图标的位置处)检测手指抬起(抬离)事件。作为另一个示例，在触敏表面上检测手指轻扫手势包括检测手指按下事件，然后检测一个或多个手指拖动事件，并且随后检测手指抬起(抬离)事件。

图形模块232包括用于在触摸屏212或其他显示器上呈现和显示图形的各种已知的软件部件，包括用于改变所显示的图形的视觉冲击(例如，亮度、透明度、饱和度、对比度或其他视觉特征)的部件。如本文所用，术语“图形”包括可被显示给用户的任何对象，非限制性地包括文本、网页、图标(诸如包括软键的用户界面对象)、数字图像、视频、动画等。

在一些实施方案中，图形模块232存储待使用的用于表示图形的数据。每个图形任选地被分配有对应的代码。图形模块232从应用程序等接收用于指定待显示的图形的一个或多个代码，在必要的情况下还一起接收坐标数据和其他图形属性数据，然后生成屏幕图像数据，以输出至显示控制器256。

触觉反馈模块233包括用于生成指令的各种软件部件，该指令由一个或多个触觉输出发生器267使用，以便响应于用户与设备200的交互而在设备200上的一个或多个位置处生成触觉输出。

可作为图形模块232的部件的文本输入模块234提供用于在各种应用程序(例如，联系人237、电子邮件240、即时消息241、浏览器247和需要文本输入的任何其他应用程序)中输入文本的软键盘。

GPS模块235确定设备的位置并提供了在各种应用程序中使用的这种信息(例如，提供至用于基于位置的拨号的电话238；提供至相机243作为图片/视频元数据；以及提供至提供基于位置的服务诸如天气桌面小程序、当地黄页桌面小程序和地图/导航桌面小程序的应用程序)。

数字助理客户端模块229可包括各种客户端侧数字助理指令，以提供数字助理的客户端侧功能。例如，数字助理客户端模块229可能够通过便携式多功能设备200的各种用户界面(例如，麦克风213、加速度计268、触敏显示器系统212、光学传感器229、其他输入控制设备216等)接受声音输入(例如，语音输入)、文本输入、触摸输入和/或手势输入。数字助理客户端模块229也能够通过便携式多功能设备200的各种输出界面(例如，扬声器211、触敏显示器系统212、触觉输出发生器267等)提供音频形式输出(例如，语音输出)、视觉形式输出和/或触觉形式输出。例如，可将输出提供为语音、声音、警报、文本消息、菜单、图形、视频、动画、振动、和/或以上两者或更多者的组合。在操作期间，数字助理客户端模块229可利用RF电路208与DA服务器106通信。

用户数据与模型231可包括与用户相关联的各种数据(例如，用户特定词汇数据、用户偏好数据、用户指定名称发音、来自用户电子通讯录的数据、待办事项、购物清单等)，以提供数字助理的客户端侧功能。此外，用户数据与模型231可包括各种模型(例如，语音识别模型、统计语言模型、自然语言处理模型、知识本体、任务流模型、服务模型等)，以用于处理用户输入并确定用户意图。

在一些示例中，数字助理客户端模块229可利用便携式多功能设备200的各种传感器、子系统和外围设备来从便携式多功能设备200的周围环境采集附加信息，以建立与用户、当前用户交互和/或当前用户输入相关联的上下文。在一些示例中，数字助理客户端模块229可将上下文信息或其子集与用户输入一起提供至DA服务器106以帮助推断用户的意图。在一些示例中，数字助理还可使用上下文信息来确定如何准备输出并将其传送至用户。上下文信息可被称为上下文数据。

在一些实施例中，伴随用户输入的上下文信息可包括传感器信息，例如照明、环境噪声、环境温度、周围环境的图像或视频等。在一些实施例中，上下文信息还可包括设备的物理状态，例如设备取向、设备位置、设备温度、功率电平、速度、加速度、运动模式、蜂窝信号强度等。在一些示例中，还可将与DA服务器106的软件状态相关的信息，例如便携式多功能设备200的运行过程、已安装程序、过去和当前的网络活动、后台服务、错误日志、资源使用等，作为与用户输入相关联的上下文信息提供至DA服务器106。

在一些示例中，数字助理客户端模块229可响应于来自DA服务器106的请求而选择性地提供存储在便携式多功能设备200上的信息(例如，用户数据231)。在一些示例中，数字助理客户端模块229还可在DA服务器106请求时引出来自用户经由自然语言对话或其他用户界面的附加输入。数字助理客户端模块229可将所述附加输入传送至DA服务器106，以帮助DA服务器106进行意图推断和/或满足在用户请求中表达的用户意图。

数字助理的更详细描述在下文参考图7A-C描述。应认识到，数字助理客户端模块229可包括下文所述的数字助理模块726的任何数量的子模块。

应用程序236可包括以下模块(或指令集)，或者其子集或超集：

· 联系人模块237(有时称为地址簿或联系人列表)；

·电话模块238；

· 视频会议模块239；

· 电子邮件客户端模块240；

· 即时消息(IM)模块241；

· 健身支持模块242；

· 用于静态图像和/或视频图像的相机模块243；

· 图像管理模块244；

· 视频播放器模块；

· 音乐播放器模块；

· 浏览器模块247；

· 日历模块248；

· 桌面小程序模块249，其可包括以下各项中的一者或多者：天气桌面小程序249-1、股市桌面小程序249-2、计算器桌面小程序249-3、闹钟桌面小程序249-4、词典桌面小程序249-5、和由用户获取的其他桌面小程序以及用户创建的桌面小程序249-6；

· 用于形成用户创建的桌面小程序249-6的桌面小程序创建器模块250；

· 搜索模块251；

· 视频和音乐播放器模块252，其合并视频播放器模块和音乐播放器模块；

· 记事本模块253；

· 地图模块254；和/或

· 在线视频模块255。

可被存储在存储器202中的其他应用程序236的示例包括其他文字处理应用程序、其他图像编辑应用程序、绘图应用程序、呈现应用程序、支持JAVA的应用程序、加密、数字权益管理、语音识别和语音复制。

结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232、和文本输入模块234，联系人模块237可用于管理地址簿或联系人列表(例如，被存储在存储器202或存储器470中的联系人模块237的应用程序内部状态292中)，包括：将一个或多个姓名添加到地址簿；从地址簿删除一个或多个姓名；使一个或多个电话号码、一个或多个电子邮件地址、一个或多个物理地址或其他信息与姓名相关联；使图像与姓名相关联；对姓名归类和分类；提供电话号码或电子邮件地址以发起和/或促进通过电话238、视频会议模块239、电子邮件240、或IM 241进行通信；等。

结合RF电路208、音频电路210、扬声器211、麦克风213、触摸屏212、显示控制器256、接触/运动模块230、图形模块232、和文本输入模块234，电话模块238可用于输入与电话号码对应的字符序列、访问联系人模块237中的一个或多个电话号码、修改已输入的电话号码、拨打相应的电话号码、进行会话以及当会话完成时断开或挂断。如上所述，无线通信可使用多个通信标准、协议和技术中的任一者。

结合RF电路208、音频电路210、扬声器211、麦克风213、触摸屏212、显示控制器256、光学传感器264、光学传感器控制器258、接触/运动模块230、图形模块232、文本输入模块234、联系人模块237和电话模块238，视频会议模块239包括根据用户指令来发起、进行和终止用户与一个或多个其他参与方之间的视频会议的可执行指令。

结合RF电路208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232和文本输入模块234，电子邮件客户端模块240包括响应于用户指令来创建、发送、接收和管理电子邮件的可执行指令。结合图像管理模块244，电子邮件客户端模块240使得非常容易创建和发送具有由相机模块243拍摄的静态图像或视频图像的电子邮件。

结合RF电路208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232和文本输入模块234，即时消息模块241包括用于进行以下操作的可执行指令：输入与即时消息对应的字符序列、修改先前输入的字符、传输相应即时消息(例如，使用短消息服务(SMS)或多媒体消息服务(MMS)协议以用于基于电话的即时消息或者使用XMPP、SIMPLE、或IMPS以用于基于互联网的即时消息)、接收即时消息以及查看所接收的即时消息。在一些实施方案中，所传输的和/或所接收的即时消息可包括图形、照片、音频文件、视频文件和/或在MMS和/或增强型消息服务(EMS)中支持的其他附件。如本文所用，“即时消息”是指基于电话的消息(例如，使用SMS或MMS传输的消息)和基于互联网的消息(例如，使用XMPP、SIMPLE、或IMPS传输的消息)两者。

结合RF电路208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232、文本输入模块234、GPS模块235、地图模块254和音乐播放器模块，健身支持模块242包括用于进行以下操作的可执行指令：创建健身(例如具有时间、距离和/或卡路里燃烧目标)；与健身传感器(移动设备)进行通信；接收健身传感器数据；校准用于监测健身的传感器；选择健身音乐并进行播放；以及显示、存储和传输健身数据。

结合触摸屏212、显示控制器256、一个或多个光学传感器264、光学传感器控制器258、接触/运动模块230、图形模块232和图像管理模块244，相机模块243包括用于进行以下操作的可执行指令：捕获静态图像或视频(包括视频流)并且将它们存储到存储器202中、修改静态图像或视频的特征、或从存储器202删除静态图像或视频。

结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232、文本输入模块234、和相机模块243，图像管理模块244包括用于排列、修改(例如，编辑)、或以其他方式操控、加标签、删除、呈现(例如，在数字幻灯片或相册中)、以及存储静态图像和/或视频图像的可执行指令。

结合RF电路208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232和文本输入模块234，浏览器模块247包括用于根据用户指令来浏览互联网(包括搜索、链接至、接收、和显示网页或其部分，以及链接至网页的附件和其他文件)的可执行指令。

结合RF电路系统208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232、文本输入模块234、电子邮件客户端模块240和浏览器模块247，日历模块248包括用于根据用户指令来创建、显示、修改和存储日历以及与日历相关联的数据(例如，日历条目、待办事项等)的可执行指令。

结合RF电路系统208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232、文本输入模块234、和浏览器模块247，桌面小程序模块249是可由用户下载并使用的微型应用程序(例如，天气桌面小程序249-1、股市桌面小程序249-2、计算器桌面小程序249-3、闹钟桌面小程序249-4、和字典桌面小程序249-5)或由用户创建的微型应用程序(例如，用户创建的桌面小程序249-6)。在一些实施方案中，桌面小程序包括HTML(超文本标记语言)文件、CSS(层叠样式表)文件和JavaScript文件。在一些实施方案中，桌面小程序包括XML(可扩展标记语言)文件和JavaScript文件(例如，Yahoo！桌面小程序)。

结合RF电路208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232、文本输入模块234、和浏览器模块247，桌面小程序创建器模块250可被用户用于创建桌面小程序(例如，将网页的用户指定部分转到桌面小程序中)。

结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232和文本输入模块234，搜索模块251包括用于根据用户指令来搜索存储器202中的匹配一个或多个搜索条件(例如，一个或多个用户指定的搜索词)的文本、音乐、声音、图像、视频和/或其他文件的可执行指令。

结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232、音频电路系统210、扬声器211、RF电路系统208和浏览器模块247，视频和音乐播放器模块252包括允许用户下载和回放以一种或多种文件格式(诸如MP3或AAC文件)存储的所记录的音乐和其他声音文件的可执行指令，以及用于显示、呈现或以其他方式回放视频(例如，在触摸屏212上或在经由外部端口224连接的外部显示器上)的可执行指令。在一些实施方案中，设备200任选地包括MP3播放器，诸如iPod(Apple Inc.的商标)的功能。

结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232和文本输入模块234，记事本模块253包括根据用户指令来创建和管理记事本、待办事项等的可执行指令。

结合RF电路208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232、文本输入模块234、GPS模块235和浏览器模块247，地图模块254可用于根据用户指令接收、显示、修改和存储地图以及与地图相关联的数据(例如，驾驶方向、与特定位置处或附近的商店及其他兴趣点有关的数据，以及其他基于位置的数据)。

结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232、音频电路210、扬声器211、RF电路208、文本输入模块234、电子邮件客户端模块240和浏览器模块247，在线视频模块255包括指令，该指令允许用户访问、浏览、接收(例如，通过流式传输和/或下载)、回放(例如在触摸屏上或在经由外部端口224所连接的外部显示器上)、发送具有至特定在线视频的链接的电子邮件，以及以其他方式管理一种或多种文件格式诸如H.264的在线视频。在一些实施方案中，即时消息模块241而不是电子邮件客户端模块240用于发送至特定在线视频的链接。在线视频应用程序的附加描述可在于2007年6月20日提交的标题为“Portable Multifunction Device,Method,and Graphical User Interface forPlaying Online Videos”的美国临时专利申请No.60/936,562、和于2007年12月31日提交的标题为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国专利申请No.11/968,067中找到，这两个专利申请的内容据此全文以引用方式并入本文。

上述每个模块和应用程序对应于用于执行上述一种或多种功能以及在本专利申请中所述的方法(例如，本文所述的计算机实现的方法和其他信息处理方法)的可执行指令集。这些模块(例如，指令集)不必被实现为独立的软件程序、过程或模块，并因此在各种实施方案中可组合或以其他方式重新布置这些模块的各种子集。例如，视频播放器模块可与音乐播放器模块组合成单个模块(例如，图2A中的视频和音乐播放器模块252)。在一些实施方案中，存储器202可存储上述模块和数据结构的子集。此外，存储器202可存储上文没有描述的附加模块和数据结构。

在一些实施方案中，设备200是唯一地通过触摸屏和/或触摸板来执行设备上的预定义的一组功能的操作的设备。通过使用触摸屏和/或触摸板作为用于设备200的操作的主要输入控制设备，可减少设备200上的物理输入控制设备(诸如下压按钮、拨号盘等)的数量。

预定义的一组唯一地通过触摸屏和/或触摸板执行的功能任选地包括在用户界面之间的导航。在一些实施方案中，触摸板在被用户触摸时将设备200从被显示在设备200上的任何用户界面导航到主菜单、home菜单或根菜单。在此类实施方案中，使用触摸板来实现“菜单按钮”。在一些其他实施方案中，菜单按钮是物理下压按钮或者其他物理输入控制设备，而不是触摸板。

图2B是示出根据一些实施方案的用于事件处理的示例性部件的框图。在一些实施方案中，存储器202(图2A)或存储器470(图4)包括事件分类器270(例如，在操作系统226中)以及相应的应用程序236-1(例如，前述应用程序237-251、255、480-490中的任一个应用程序)。

事件分类器270接收事件信息并确定要将事件信息递送到的应用程序236-1和应用程序236-1的应用程序视图291。事件分类器270包括事件监视器271和事件分配器模块274。在一些实施方案中，应用程序236-1包括应用程序内部状态292，该应用程序内部状态指示当应用程序是活动的或正在执行时被显示在触敏显示器212上的一个或多个当前应用程序视图。在一些实施方案中，设备/全局内部状态257被事件分类器270用于确定哪个(哪些)应用程序当前是活动的，并且应用程序内部状态292被事件分类器270用于确定要将事件信息递送到的应用程序视图291。

在一些实施方案中，应用程序内部状态292包括附加信息，诸如以下各项中的一者或多者：当应用程序236-1恢复执行时将被使用的恢复信息、指示正被应用程序236-1显示的信息或准备好用于被该应用程序显示的信息的用户界面状态信息、用于使得用户能够返回到应用程序236-1的前一状态或视图的状态队列以及用户采取的先前动作的重复/撤销队列。

事件监视器271从外围设备接口218接收事件信息。事件信息包括关于子事件(例如，作为多点触摸手势的一部分的触敏显示器212上的用户触摸)的信息。外围设备接口218传输其从I/O子系统206或传感器(诸如接近传感器266、一个或多个加速度计268和/或麦克风213(通过音频电路210))所接收的信息。外围设备接口218从I/O子系统206所接收的信息包括来自触敏显示器212或触敏表面的信息。

在一些实施方案中，事件监视器271以预先确定的间隔将请求发送至外围设备接口218。作为响应，外围设备接口218传输事件信息。在其他实施方案中，外围设备接口218仅当存在显著事件(例如，接收到高于预先确定的噪声阈值的输入和/或接收到超过预先确定的持续时间的输入)时才传输事件信息。

在一些实施方案中，事件分类器270还包括命中视图确定模块272和/或活动事件识别器确定模块273。

当触敏显示器212显示多于一个视图时，命中视图确定模块272提供用于确定子事件已在一个或多个视图内的什么地方发生的软件过程。视图由用户能在显示器上看到的控件和其他元件构成。

与应用程序相关联的用户界面的另一方面是一组视图，本文中有时也称为应用程序视图或用户界面窗口，在其中显示信息并且发生基于触摸的手势。在其中检测到触摸的(相应应用程序的)应用程序视图可对应于应用程序的程序化或视图分级结构内的程序化水平。例如，在其中检测到触摸的最低水平视图任选地被叫做命中视图，并且被识别为正确输入的那组事件至少部分地基于开始基于触摸的手势的初始触摸的命中视图来确定。

命中视图确定模块272接收与基于触摸的手势的子事件相关的信息。当应用程序具有在分级结构中组织的多个视图时，命中视图确定模块272将命中视图识别为应对子事件进行处理的分级结构中的最低视图。在大多数情况下，命中视图是发起子事件(例如，形成事件或潜在事件的子事件序列中的第一子事件)在其中发生的最低水平视图。一旦命中视图被命中视图确定模块272识别，命中视图通常接收与其被识别为命中视图所针对的同一触摸或输入源相关的所有子事件。

活动事件识别器确定模块273确定视图分级结构内的哪个或哪些视图应接收特定子事件序列。在一些实施方案中，活动事件识别器确定模块273确定仅命中视图应接收特定子事件序列。在其他实施方案中，活动事件识别器确定模块273确定包括子事件的物理位置的所有视图是活跃参与的视图，并且因此确定所有活跃参与的视图应接收特定子事件序列。在其他实施方案中，即使触摸子事件完全被局限到与一个特定视图相关联的区域，但是分级结构中的更高的视图将仍然保持为活跃参与的视图。

事件分配器模块274将事件信息分配到事件识别器(例如，事件识别器280)。在包括活动事件识别器确定模块273的实施方案中，事件分配器模块274将事件信息递送到由活动事件识别器确定模块273确定的事件识别器。在一些实施方案中，事件分配器模块274在事件队列中存储事件信息，该事件信息由相应事件接收器282进行检索。

在一些实施方案中，操作系统226包括事件分类器270。作为另外一种选择，应用程序236-1包括事件分类器270。在另一个实施方案中，事件分类器270是独立的模块，或者是被存储在存储器202中的另一模块(诸如接触/运动模块230)的一部分。

在一些实施方案中，应用程序236-1包括多个事件处理程序290和一个或多个应用程序视图291，其中每个应用程序视图包括用于处理发生在应用程序的用户界面的相应视图内的触摸事件的指令。应用程序236-1的每个应用程序视图291包括一个或多个事件识别器280。通常，相应应用程序视图291包括多个事件识别器280。在其他实施方案中，事件识别器280中的一个或多个是独立模块的一部分，该独立模块诸如是用户界面工具包(未示出)或应用程序236-1从中继承方法和其他属性的更高水平的对象。在一些实施方案中，相应事件处理程序290包括以下各项中的一者或多者：数据更新器276、对象更新器277、GUI更新器278和/或从事件分类器270所接收的事件数据279。事件处理程序290可利用或调用数据更新器276、对象更新器277或GUI更新器278，以更新应用程序内部状态292。作为另外一种选择，应用程序视图291中的一个或多个应用程序视图包括一个或多个相应事件处理程序290。另外，在一些实施方案中，数据更新器276、对象更新器277和GUI更新器278中的一者或多者被包括在相应应用程序视图291中。

相应的事件识别器280从事件分类器270接收事件信息(例如，事件数据279)，并且从事件信息识别事件。事件识别器280包括事件接收器282和事件比较器284。在一些实施方案中，事件识别器280还至少包括以下各项的子集：元数据283和事件递送指令288(其可包括子事件递送指令)。

事件接收器282从事件分类器270接收事件信息。事件信息包括关于子事件的信息，例如触摸或触摸移动。根据子事件，事件信息还包括附加信息，诸如子事件的位置。当子事件涉及触摸的运动时，事件信息还可包括子事件的速率和方向。在一些实施方案中，事件包括设备从一个取向旋转到另一个取向(例如，从纵向取向旋转到横向取向，或反之亦然)，并且事件信息包括关于设备的当前取向(也被称为设备姿态)的对应信息。

事件比较器284将事件信息与预定义的事件或子事件定义进行比较，并且基于比较结果，确定事件或子事件，或者确定或更新事件或子事件的状态。在一些实施方案中，事件比较器284包括事件定义286。事件定义286包含事件的定义(例如，预定义的子事件序列)，例如事件1(287-1)、事件2(287-2)以及其他事件。在一些实施方案中，事件(287)中的子事件包括例如触摸开始、触摸结束、触摸移动、触摸取消和多点触摸。在一个示例中，事件1(287-1)的定义是在被显示对象上的双击。例如，双击包括在被显示对象上的预先确定时长的第一次触摸(触摸开始)、预先确定时长的第一次抬起(触摸结束)、在被显示对象上的预先确定时长的第二次触摸(触摸开始)以及预先确定时长的第二次抬起(触摸结束)。在另一个示例中，事件2(287-2)的定义是在被显示对象上的拖动。例如，拖动包括在被显示对象上的预先确定时长的触摸(或接触)、触摸在触敏显示器212上的移动、以及触摸的抬起(触摸结束)。在一些实施方案中，事件还包括用于一个或多个相关联的事件处理程序290的信息。

在一些实施方案中，事件定义287包括用于相应用户界面对象的事件的定义。在一些实施方案中，事件比较器284执行命中测试以确定哪个用户界面对象与子事件相关联。例如，在触敏显示器212上显示三个用户界面对象的应用程序视图中，当在触敏显示器212上检测到触摸时，事件比较器284执行命中测试以确定这三个用户界面对象中的哪一个用户界面对象与该触摸(子事件)相关联。如果每个所显示的对象与相应的事件处理程序290相关联，则事件比较器使用该命中测试的结果来确定哪个事件处理程序290应当被激活。例如，事件比较器284选择与子事件和触发该命中测试的对象相关联的事件处理程序。

在一些实施方案中，相应事件(287)的定义还包括延迟动作，该延迟动作延迟事件信息的递送，直到已确定子事件序列是否确实对应于或不对应于事件识别器的事件类型。

当相应事件识别器280确定子事件序列不与事件定义286中的任何事件匹配时，该相应事件识别器280进入事件不可能、事件失败或事件结束状态，在此之后忽略基于触摸的手势的后续子事件。在这种情况下，对于命中视图保持活动的其他事件识别器(如果有的话)继续跟踪和处理持续的基于触摸的手势的子事件。

在一些实施方案中，相应事件识别器280包括具有用于指示事件递送系统应该如何执行对活跃参与的事件识别器的子事件递送的可配置属性、标记和/或列表的元数据283。在一些实施方案中，元数据283包括用于指示事件识别器彼此如何交互或可如何交互的可配置属性、标志和/或列表。在一些实施方案中，元数据283包括用于指示子事件是否被递送到视图或程序化分级结构中的不同层级的可配置属性、标记和/或列表。

在一些实施方案中，当事件的一个或多个特定子事件被识别时，相应事件识别器280激活与事件相关联的事件处理程序290。在一些实施方案中，相应事件识别器280将与该事件相关联的事件信息递送到事件处理程序290。激活事件处理程序290不同于将子事件发送(和延期发送)到相应的命中视图。在一些实施方案中，事件识别器280抛出与所识别的事件相关联的标记，并且与该标记相关联的事件处理程序290获取该标记并执行预定义的过程。

在一些实施方案中，事件递送指令288包括递送关于子事件的事件信息而不激活事件处理程序的子事件递送指令。相反，子事件递送指令将事件信息递送到与子事件序列相关联的事件处理程序或者递送到活跃参与的视图。与子事件序列或与活跃参与的视图相关联的事件处理程序接收事件信息并执行预先确定的过程。

在一些实施方案中，数据更新器276创建并更新在应用程序236-1中使用的数据。例如，数据更新器276对联系人模块237中所使用的电话号码进行更新，或者对视频播放器模块中所使用的视频文件进行存储。在一些实施方案中，对象更新器277创建和更新在应用程序236-1中使用的对象。例如，对象更新器277创建新的用户界面对象或更新用户界面对象的位置。GUI更新器278更新GUI。例如，GUI更新器278准备显示信息并将其发送至图形模块232以用于显示在触敏显示器上。

在一些实施方案中，一个或多个事件处理程序290包括数据更新器276、对象更新器277和GUI更新器278或者具有对该数据更新器、该对象更新器和该GUI更新器的访问权限。在一些实施方案中，数据更新器276、对象更新器277和GUI更新器278被包括在相应应用程序236-1或应用程序视图291的单个模块中。在其他实施方案中，它们被包括在两个或更多个软件模块中。

应当理解，关于触敏显示器上的用户触摸的事件处理的上述讨论还适用于利用输入设备来操作多功能设备200的其他形式的用户输入，并不是所有用户输入都是在触摸屏上发起的。例如，任选地与单次或多次键盘按压或保持结合的鼠标移动和鼠标按钮按压；触摸板上的接触移动，诸如轻击、拖动、滚动等；触笔输入；设备的移动；口头指令；所检测到的眼睛移动；生物特征输入；和/或作为与子事件对应的输入的用于定义要识别的事件其任意的组合。

图3示出了根据一些实施方案的具有触摸屏212的便携式多功能设备200。触摸屏任选地在用户界面(UI)300内显示一个或多个图形。在本实施方案中以及在下文中描述的其他实施方案中，用户能够通过例如利用一个或多个手指302(在附图中没有按比例绘制)或者一个或多个触笔303(在附图中没有按比例绘制)在图形上作出手势来选择这些图形中的一个或多个图形。在一些实施方案中，当用户中断与一个或多个图形的接触时，将发生对一个或多个图形的选择。在一些实施方案中，手势任选地包括一次或多次轻击、一次或多次轻扫(从左向右、从右向左、向上和/或向下)和/或已与设备200发生接触的手指的滚动(从右向左、从左向右、向上和/或向下)。在一些具体实施中或在一些情况下，不经意地与图形接触不会选择图形。例如，当与选择对应的手势是轻击时，在应用程序图标上方扫动的轻扫手势任选地不会选择相应应用程序。

设备200还可包括一个或多个物理按钮，诸如“home”按钮或菜单按钮304。如前所述，菜单按钮304可被用于导航到可在设备200上执行的应用程序集中的任何应用程序236。作为另外一种选择，在一些实施方案中，菜单按钮被实现为被显示在触摸屏212上的GUI中的软键。

在一个实施方案中，设备200包括触摸屏212、菜单按钮304、用于使设备开机/关机和用于锁定设备的下压按钮306、一个或多个音量调节按钮308、用户身份模块(SIM)卡槽310、耳麦插孔312和对接/充电外部端口224。下压按钮306被任选地用于：通过按下按钮并使按钮在下压状态保持预先确定的时间间隔来使设备通电/断电；通过按下按钮并在经过预先确定的时间间隔之前释放按钮来锁定设备；和/或对设备进行解锁或发起解锁过程。在另选的实施方案中，设备200还通过麦克风213来接受用于激活或去激活某些功能的言语输入。设备200还任选地包括用于检测触摸屏212上的接触的强度的一个或多个接触强度传感器265，和/或用于为设备200的用户生成触觉输出的一个或多个触觉输出发生器267。

图4是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。设备400不必是便携式的。在一些实施方案中，设备400是膝上型计算机、台式计算机、平板电脑、多媒体播放器设备、导航设备、教育设备(诸如儿童学习玩具)、游戏系统或控制设备(例如，家用控制器或工业用控制器)。设备400通常包括一个或多个处理单元(CPU)410、一个或多个网络或其他通信接口460、存储器470和用于使这些部件互连的一个或多个通信总线420。通信总线420任选地包括使系统部件互连并且控制系统部件之间的通信的电路系统(有时叫做芯片组)。设备400包括具有显示器440的输入/输出(I/O)接口430，该显示器通常是触摸屏显示器。I/O接口430还任选地包括键盘和/或鼠标(或其他指向设备)450和触摸板455、用于在设备400上生成触觉输出的触觉输出发生器457(例如，类似于以上参考图2A所述的一个或多个触觉输出发生器267)、传感器459(例如，光学传感器、加速度传感器、接近传感器、触敏传感器和/或类似于以上参考图2A所述的一个或多个接触强度传感器265的接触强度传感器)。存储器470包括高速随机存取存储器诸如DRAM、SRAM、DDR RAM或其他随机存取固态存储器设备，并且任选地包括非易失性存储器诸如一个或多个磁盘存储设备、光盘存储设备、闪存存储器设备或其他非易失性固态存储设备。存储器470任选地包括远离一个或多个CPU 410定位的一个或多个存储设备。在一些实施方案中，存储器470存储与便携式多功能设备200(图2A)的存储器202中所存储的程序、模块和数据结构类似的程序、模块以及数据结构，或者它们的子集。此外，存储器470任选地存储在便携式多功能设备200的存储器202中不存在的附加程序、模块和数据结构。例如，设备400的存储器470任选地存储绘图模块480、呈现模块482、文字处理模块484、网站创建模块486、盘编辑模块488和/或电子表格模块490，而便携式多功能设备200(图2A)的存储器202任选地不存储这些模块。

图4中的上述元件中的每个元件可被存储在一个或多个前面提到的存储器设备中。上述模块中的每个模块对应于用于执行上述功能的指令集。上述模块或程序(例如，指令集)不必被实现为单独的软件程序、过程或模块，并且因此这些模块的各种子集可在各种实施方案中被组合或以其他方式重新布置。在一些实施方案中，存储器470可存储上述模块和数据结构的子集。此外，存储器470可存储上文没有描述的附加模块和数据结构。

现在将注意力转到可在例如便携式多功能设备200上实现的用户界面的实施方案。

图5A示出了根据一些实施方案的便携式多功能设备200上的应用程序菜单的示例性用户界面。类似的用户界面可在设备400上实现。在一些实施方案中，用户界面500包括以下元素或者其子集或超集：

· 一个或多个无线通信(诸如蜂窝信号和Wi-Fi信号)的一个或多个信号强度指示符502；

· 时间504；

· 蓝牙指示符505；

· 电池状态指示符506；

· 具有常用应用程序的图标的托盘508，该图标诸如：

o 电话模块238的被标记为“电话”的图标516，该图标任选地包括未接来电或语音留言的数量的指示符514；

o 电子邮件客户端模块240的被标记为“邮件”的图标518，该图标任选地包括未读电子邮件的数量的指示符510；

o 浏览器模块247的被标记为“浏览器”的图标520；和

o 视频和音乐播放器模块252(也称为iPod(Apple Inc.的商标)模块252)的被标记为“iPod”的图标522；以及

· 其他应用程序的图标，诸如：

o IM模块241的被标记为“消息”的图标524；

o 日历模块248的被标记为“日历”的图标526；

o 图像管理模块244的被标记为“照片”的图标528；

o 相机模块243的被标记为“相机”的图标530；

o 在线视频模块255的被标记为“在线视频”的图标532；

o 股市桌面小程序249-2的被标记为“股市”的图标534；

o 地图模块254的被标记为“地图”的图标536；

o 天气桌面小程序249-1的被标记为“天气”的图标538；

o 闹钟桌面小程序249-4的被标记为“时钟”的图标540；

o 健身支持模块242的被标记为“健身支持”的图标542；

o 记事本模块253的被标记为“记事本”的图标544；和

o 用于设置应用程序或模块的被标记为“设置”的图标546，该图标提供对设备200及其各种应用程序236的设置的访问。

应当指示的是，图5A中示出的图标标签仅是示例性的。例如，视频和音乐播放器模块252的图标522可任选地被标记为“音乐”或“音乐播放器”。其他标签任选地用于各种应用程序图标。在一些实施方案中，相应应用程序图标的标签包括与该相应应用程序图标对应的应用程序的名称。在一些实施方案中，特定应用程序图标的标签不同于与该特定应用程序图标对应的应用程序的名称。

图5B示出了具有与显示器550(例如，触摸屏显示器212)分开的触敏表面551(例如，图4的平板电脑或触摸板455)的设备(例如，图4的设备400)上的示例性用户界面。设备400还任选地包括用于检测触敏表面551上的接触的强度的一个或多个接触强度传感器(例如，传感器457中的一个或多个传感器)，和/或用于为设备400的用户生成触觉输出的一个或多个触觉输出发生器459。

尽管将参考触摸屏显示器212(其中组合了触敏表面和显示器)上的输入给出随后的示例中的一些示例，但是在一些实施方案中，设备检测与显示器分开的触敏表面上的输入，如图5B中所示。在一些实施方案中，触敏表面(例如，图5B中的551)具有与显示器(例如，550)上的主轴(例如，图5B中的553)对应的主轴(例如，图5B中的552)。根据这些实施方案，设备检测在与显示器上的相应位置对应的位置(例如，在图5B中，560对应于568并且562对应于570)处与触敏表面551的接触(例如，图5B中的560和562)。这样，在触敏表面(例如，图5B中的551)与多功能设备的显示器(图5B中的550)分开时，由设备在触敏表面上检测到的用户输入(例如，接触560和562以及它们的移动)被该设备用于操控显示器上的用户界面。应当理解，类似的方法任选地用于本文所述的其它用户界面。

另外，虽然主要是参考手指输入(例如，手指接触、单指轻击手势、手指轻扫手势)来给出下面的示例，但是应当理解的是，在一些实施方案中，这些手指输入中的一个或多个手指输入由来自另一输入设备的输入(例如，基于鼠标的输入或触笔输入)替代。例如，轻扫手势任选地由鼠标点击(例如，而不是接触)，之后是光标沿着轻扫的路径的移动(例如，而不是接触的移动)来替代。又如，轻击手势任选地由在光标位于轻击手势的位置上方时的鼠标点击(例如，而不是对接触的检测，之后是终止检测接触)来替代。类似地，当同时检测到多个用户输入时，应当理解的是，多个计算机鼠标任选地被同时使用，或一个鼠标和多个手指接触任选地被同时使用。

图6A示出了示例性个人电子设备600。设备600包括主体602。在一些实施方案中，设备600可包括针对设备200和400(例如，图2A至图4)所述的特征中的一些或全部特征。在一些实施方案中，设备600具有在下文中称为触摸屏604的触敏显示屏604。作为触摸屏604的替代或补充，设备600具有显示器和触敏表面。与设备200和400的情况一样，在一些实施方案中，触摸屏604(或触敏表面)可具有用于检测所施加的接触(例如，触摸)的强度的一个或多个强度传感器。触摸屏604(或触敏表面)的一个或多个强度传感器可提供表示触摸的强度的输出数据。设备600的用户界面可基于触摸强度来对触摸作出响应，这意味着不同强度的触摸可调用设备600上的不同的用户界面操作。

例如，可在如下相关专利申请中找到用于检测和处理触摸强度的技术：于2013年5月8日提交的标题为“Device,Method,and Graphical User Interface for DisplayingUser Interface Objects Corresponding to an Application”的国际专利申请No.PCT/US2013/040061，以及于2013年11月11日提交的标题为“Device,Method,and GraphicalUser Interface for Transitioning Between Touch Input to Display OutputRelationships”的国际专利申请No.PCT/US2013/069483，这两个专利申请中的每个专利申请据此全文以引用方式并入本文。

在一些实施方案中，设备600具有一个或多个输入机构606和608。输入机构606和608(如果包括的话)可以是物理形式的。物理输入机构的示例包括下压按钮和可旋转机构。在一些实施方案中，设备600具有一个或多个附接机构。此类附接机构(如果包括的话)可允许将设备600与例如帽子、眼镜、耳环、项链、衬衣、夹克、手镯、表带、手链、裤子、皮带、鞋子、钱包、背包等附接。这些附接机构可允许用户穿戴设备600。

图6B示出了示例性个人电子设备600。在一些实施方案中，设备600可包括参考图2A、图2B和图4所述的部件中的一些或全部部件。设备600具有总线612，该总线将I/O部分614与一个或多个计算机处理器616和存储器618操作性地耦接。I/O部分614可连接到显示器604，该显示器可具有触敏部件622，并且任选地还具有触摸强度敏感部件624。此外，I/O部分614可与通信单元630连接，以用于使用Wi-Fi、蓝牙、近场通信(NFC)、蜂窝和/或其他无线通信技术来接收应用程序和操作系统数据。设备600可包括输入机构606和/或608。例如，输入机构606可以是可旋转输入设备或者可按压输入设备以及可旋转输入设备。在一些示例中，输入机构608可以是按钮。

在一些示例中，输入机构608可以是麦克风。个人电子设备600可包括各种传感器，诸如GPS传感器632、加速度计634、定向传感器640(例如，罗盘)、陀螺仪636、运动传感器638和/或其组合，所有这些设备均可操作性连接到I/O部分614。

个人电子设备600的存储器618可以是用于存储计算机可执行指令的非暂态计算机可读存储介质，该计算机可执行指令在由一个或多个计算机处理器616执行时例如可使得计算机处理器执行下文描述的技术，包括过程800(图8)。该计算机可执行指令也可在任何非暂态计算机可读存储介质内进行存储和/或传送，以供指令执行系统、装置或设备诸如基于计算机的系统、包含处理器的系统或可从指令执行系统、装置或设备获取指令并执行指令的其他系统使用或与其结合。对于本文的目的而言，“非暂态计算机可读存储介质”可以是可有形地包含或存储计算机可执行指令以供指令执行系统、装置和设备使用或与其结合的任何介质。非暂态计算机可读存储介质可包括但不限于磁存储装置、光学存储装置和/或半导体存储装置。这种存储器的实例包括磁盘、基于光盘的CD、DVD或Blu-ray技术，以及持久性固态存储器诸如闪存和固态驱动器。个人电子设备600不限于图6B的部件和配置，而是可包括多种配置中的其他部件或附加部件。

如本文所用，术语“示能表示”是指可在设备200、设备400和/或设备600(图2、图4和图6)的显示屏上显示的用户交互式图形用户界面对象。例如，图像(例如，图标)、按钮和文本(例如，超级链接)可各自构成示能表示。

如本文所用，术语“焦点选择器”是指用于指示用户正与之进行交互的用户界面的当前部分的输入元件。在包括光标或其他位置标记的一些具体实施中，光标充当“焦点选择器”，使得当光标在特定用户界面元素(例如，按钮、窗口、滑块或其他用户界面元素)上方时在触敏表面(例如，图4中的触摸板455或图5B中的触敏表面551)上检测到输入(例如，按压输入)的情况下，该特定用户界面元素根据所检测到的输入而被调节。在包括能够实现与触摸屏显示器上的用户界面元素的直接交互的触摸屏显示器(例如，图2A中的触敏显示器系统212或图5A中的触摸屏212)的一些具体实施中，触摸屏上的所检测到的接触充当“焦点选择器”，使得当在触摸屏显示器上在特定用户界面元素(例如，按钮、窗口、滑块或其他用户界面元素)的位置处检测到输入(例如，由接触进行的按压输入)时，该特定用户界面元素根据所检测到的输入而被调节。在一些具体实施中，焦点从用户界面的一个区域移动到用户界面的另一个区域，而无需光标的对应移动或触摸屏显示器上的接触的移动(例如，通过使用制表键或箭头键将焦点从一个按钮移动到另一个按钮)；在这些具体实施中，焦点选择器根据用户界面的不同区域之间的焦点移动而移动。不考虑焦点选择器所采取的具体形式，焦点选择器通常是由用户控制的以便递送与用户界面的用户预期的交互(例如，通过向设备指示用户界面的用户期望与其进行交互的元素)的用户界面元素(或触摸屏显示器上的接触)。例如，在触敏表面(例如，触摸板或触摸屏)上检测到按压输入时，焦点选择器(例如，光标、接触或选择框)在相应按钮上方的位置将指示用户期望激活相应按钮(而不是设备显示器上示出的其他用户界面元素)。

如说明书和权利要求中所使用的，接触的“特征强度”这一术语是指基于接触的一个或多个强度的接触的特征。在一些实施方案中，特征强度基于多个强度样本。特征强度任选地基于相对于预定义事件(例如，在检测到接触之后，在检测到接触抬起之前，在检测到接触开始移动之前或之后，在检测到接触结束之前，在检测到接触的强度增大之前或之后和/或在检测到接触的强度减小之前或之后)而言在预先确定的时间段(例如，0.05秒、0.1秒、0.2秒、0.5秒、1秒、2秒、5秒、10秒)期间采集的预定义数量的强度样本或一组强度样本。接触的特征强度任选地基于以下各项中的一者或多者：接触强度的最大值、接触强度的均值、接触强度的平均值、接触强度的前10％处的值、接触强度的半最大值、接触强度的90％最大值等。在一些实施方案中，在确定特征强度时使用接触的持续时间(例如，在特征强度是接触的强度在时间上的平均值时)。在一些实施方案中，将特征强度与一组一个或多个强度阈值进行比较，以确定用户是否已执行操作。例如，该组一个或多个强度阈值可包括第一强度阈值和第二强度阈值。在本示例中，特征强度未超过第一阈值的接触导致第一操作，特征强度超过第一强度阈值但未超过第二强度阈值的接触导致第二操作，并且特征强度超过第二阈值的接触导致第三操作。在一些实施方案中，使用特征强度与一个或多个阈值之间的比较来确定是否要执行一个或多个操作(例如，是执行相应操作还是放弃执行相应操作)，而不是用于确定执行第一操作还是第二操作。

在一些实施方案中，识别手势的一部分以用于确定特征强度。例如，触敏表面可接收连续的轻扫接触，该连续的轻扫接触从起始位置过渡并到达结束位置，在该结束位置处，接触的强度增加。在该示例中，接触在结束位置处的特征强度可仅基于连续轻扫接触的一部分，而不是整个轻扫接触(例如，仅结束位置处的轻扫接触的一部分)。在一些实施方案中，可在确定接触的特征强度之前向轻扫手势的强度应用平滑化算法。例如，该平滑化算法任选地包括以下各项中的一者或多者：不加权滑动平均平滑化算法、三角平滑化算法、中值滤波器平滑化算法和/或指数平滑化算法。在一些情况下，这些平滑化算法消除了轻扫接触的强度中的窄的尖峰或凹陷，以实现确定特征强度的目的。

可相对于一个或多个强度阈值诸如接触检测强度阈值、轻按压强度阈值、深按压强度阈值和/或一个或多个其他强度阈值来表征触敏表面上的接触的强度。在一些实施方案中，轻按压强度阈值对应于这样的强度：在该强度下设备将执行通常与点击物理鼠标或触控板的按钮相关联的操作。在一些实施方案中，深按压强度阈值对应于这样的强度：在该强度下设备将执行与通常与点击物理鼠标或触控板的按钮相关联的操作不同的操作。在一些实施方案中，当检测到特征强度低于轻按压强度阈值(例如，并且高于标称接触检测强度阈值，比该阈值低的接触不再被检测到)的接触时，设备将根据接触在触敏表面上的移动来移动焦点选择器，而无需执行与轻按压强度阈值或深按压强度阈值相关联的操作。一般来讲，除非另有陈述，否则这些强度阈值在不同组的用户界面附图之间是一致的。

接触特征强度从低于轻按压强度阈值的强度增大到介于轻按压强度阈值与深按压强度阈值之间的强度有时被称为“轻按压”输入。接触特征强度从低于深按压强度阈值的强度增大到高于深按压强度阈值的强度有时被称为“深按压”输入。接触特征强度从低于接触检测强度阈值的强度增大到介于接触检测强度阈值与轻按压强度阈值之间的强度有时被称为检测到触摸表面上的接触。接触特征强度从高于接触检测强度阈值的强度减小到低于接触检测强度阈值的强度有时被称为检测到接触从触摸表面抬起。在一些实施方案中，接触检测强度阈值为零。在一些实施方案中，接触检测强度阈值大于零。

在本文中所述的一些实施方案中，响应于检测到包括相应按压输入的手势或响应于检测到利用相应接触(或多个接触)执行的相应按压输入来执行一个或多个操作，其中至少部分地基于检测到该接触(或多个接触)的强度增大到高于按压输入强度阈值而检测到相应按压输入。在一些实施方案中，响应于检测到相应接触的强度增大到高于按压输入强度阈值(例如，相应按压输入的“向下冲程”)来执行相应操作。在一些实施方案中，按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于按压输入强度阈值，并且响应于检测到相应接触的强度随后减小到低于按压输入阈值(例如，相应按压输入的“向上冲程”)来执行相应操作。

在一些实施方案中，设备采用强度滞后以避免有时称为“抖动”的意外输入，其中设备限定或选择与按压输入强度阈值具有预定义关系的滞后强度阈值(例如，滞后强度阈值比按压输入强度阈值低X个强度单位，或滞后强度阈值是按压输入强度阈值的75％、90％或某个合理比例)。因此，在一些实施方案中，按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于对应于按压输入强度阈值的滞后强度阈值，并且响应于检测到相应接触的强度随后减小到低于滞后强度阈值(例如，相应按压输入的“向上冲程”)来执行相应操作。类似地，在一些实施方案中，仅在设备检测到接触的强度从等于或低于滞后强度阈值的强度增大到等于或高于按压输入强度阈值的强度并且任选地接触的强度随后减小到等于或低于滞后强度的强度时才检测到按压输入，并且响应于检测到按压输入(例如，根据环境，接触的强度增大或接触的强度减小)来执行相应操作。

为了容易解释，任选地，响应于检测到以下各种情况中的任一种情况而触发对响应于与按压输入强度阈值相关联的按压输入或响应于包括按压输入的手势而执行的操作的描述：接触的强度增大到高于按压输入强度阈值、接触的强度从低于滞后强度阈值的强度增大到高于按压输入强度阈值的强度、接触的强度减小到低于按压输入强度阈值、和/或接触的强度减小到低于与按压输入强度阈值对应的滞后强度阈值。另外，在将操作描述为响应于检测到接触的强度减小到低于按压输入强度阈值而执行的示例中，任选地响应于检测到接触的强度减小到低于对应于并且小于按压输入强度阈值的滞后强度阈值来执行操作。

3.数字助理系统

图7A示出根据各种示例的数字助理系统700的框图。在一些示例中，数字助理系统700可在独立式计算机系统上实现。在一些示例中，数字助理系统700可跨多个计算机分布。在一些示例中，数字助理的模块和功能中的一些可被划分成服务器部分和客户端部分，其中客户端部分位于一个或多个用户设备(例如，设备104、设备122、设备200、设备400或设备600)上并通过一个或多个网络与服务器部分(例如，服务器系统108)通信，例如，如图1中所示。在一些示例中，数字助理系统700可以是图1中所示的服务器系统108(和/或DA服务器106)的具体实施。应当指出，数字助理系统700仅为数字助理系统的一个示例，且该数字助理系统700可具有比所示更多或更少的部件、可组合两个或更多个部件，或者可具有部件的不同配置或布局。图7A中所示的各种部件可在硬件、用于由一个或多个处理器执行的软件指令、固件(包括一个或多个信号处理集成电路和/或专用集成电路)或者它们的组合中实现。

数字助理系统700可包括存储器702、一个或多个处理器704、输入/输出(I/O)接口706以及网络通信接口708。这些部件可通过一条或多条通信总线或者信号线710彼此通信。

在一些示例中，存储器702可包括非暂态计算机可读介质，诸如高速随机存取存储器和/或非易失性计算机可读存储介质(例如，一个或多个磁盘存储设备、闪存存储器设备或其他非易失性固态存储器设备)。

在一些示例中，I/O接口706可将数字助理系统700的输入/输出设备716诸如显示器、键盘、触摸屏和麦克风耦接至用户界面模块722。I/O接口706与用户界面模块722结合，可接收用户输入(例如，声音输入、键盘输入、触摸输入等)并相应地对这些输入进行处理。在一些示例中，例如，当数字助理在独立式用户设备上实现时，数字助理系统700可包括相对于图2A、图4、图6A-B中各自的设备200、设备400或设备600所描述的部件和I/O通信接口中的任一者。在一些示例中，数字助理系统700可代表数字助理具体实施的服务器部分，并且可通过位于用户设备(例如，设备104、设备200、设备400或设备600)上的客户端侧部分与用户进行交互。

在一些示例中，网络通信接口708可包括一个或多个有线通信端口712，以及/或者无线传输和接收电路714。一个或多个有线通信端口可经由一个或多个有线接口例如以太网、通用串行总线(USB)、火线等接收和发送通信信号。无线电路714可从通信网络及其他通信设备接收RF信号和/或光学信号以及将RF信号和/或光学信号发送至通信网络及其他通信设备。无线通信可使用多种通信标准、协议和技术中的任一种，诸如GSM、EDGE、CDMA、TDMA、蓝牙、Wi-Fi、VoIP、Wi-MAX或任何其他合适的通信协议。网络通信接口708可使数字助理系统700通过网络，诸如互联网、内联网以及/或者无线网络诸如蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN)，与其他设备之间的通信成为可能。

在一些示例中，存储器702或存储器702的计算机可读存储介质可存储程序、模块、指令和数据结构，包括以下内容中的全部或其子集：操作系统718、通信模块720、用户界面模块722、一个或多个应用程序724和数字助理模块726。具体而言，存储器702或存储器702的计算机可读存储介质可存储用于执行下文描述的过程800的指令。一个或多个处理器704可执行这些程序、模块和指令，并从数据结构读取数据或将数据写到数据结构。

操作系统718(例如，Darwin、RTXC、LINUX、UNIX、iOS、OS X、WINDOWS或者嵌入式操作系统诸如VxWorks)可包括用于控制和管理一般系统任务(例如，存储器管理、存储设备控制、功率管理等)的各种软件组件和/或驱动器，并且有利于各种硬件、固件与软件部件之间的通信。

通信模块720可促进数字助理系统700与其他设备之间通过网络通信接口708进行的通信。例如，通信模块720可与电子设备的RF电路208通信，诸如，分别在图2A、图4、图6A-B中示出的设备200、设备400和设备600。通信模块720还可包括各种部件用于处理由无线电路714和/或有线通信端口712所接收的数据的各种部件。

用户界面模块722可经由I/O接口706从用户(例如，来自键盘、触摸屏、指向设备、控制器和/或麦克风)接收命令和/或输入，并在显示器上生成用户界面对象。用户界面模块722还可准备输出(例如，语音、声音、动画、文本、图标、振动、触觉反馈、光照等)并将其经由I/O接口706(例如，通过显示器、音频通道、扬声器和触摸板等)传送至用户。

应用程序724可包括被配置为由一个或多个处理器704执行的程序和/或模块。例如，如果数字助理系统在独立式用户设备上实现，则应用程序724可包括用户应用程序，诸如游戏、日历应用程序、导航应用程序或邮件应用程序。如果数字助理系统700在服务器上实现，则应用程序724可包括例如资源管理应用程序、诊断应用程序或调度应用程序。

存储器702还可存储数字助理模块726(或数字助理的服务器部分)。在一些示例中，数字助理模块726可包括以下子模块或者其子集或超集：输入/输出处理模块728、语音转文本(STT)处理模块730、自然语言处理模块732、对话流处理模块734、任务流处理模块736、服务处理模块738和语音合成模块740。这些模块中的每一者均可具有对以下数字助理模块726的系统或数据与模型中的一者或多者或者其子集或超集的访问权限：知识本体760、词汇索引744、用户数据748、任务流模型754、服务模型756和ASR系统。

在一些示例中，使用在数字助理模块726中实现的处理模块、数据和模型，数字助理可执行以下内容中的至少一些：将语音输入转换成文本；识别从用户接收的自然语言输入中表达的用户的意图；主动引出并获得充分推断用户意图所需的信息(例如，通过消除字词、游戏、意向等的歧义)；确定用于实现推断出的意图的任务流；以及执行任务流以实现推断出的意图。

在一些示例中，如图7B中所示，I/O处理模块728可通过图7A中的I/O设备716与用户交互或通过图7A中的网络通信接口708与用户设备(例如，设备104、设备200、设备400或设备600)交互，以获得用户输入(例如，语音输入)并提供对用户输入的响应(例如，作为语音输出)。I/O处理模块728随同接收到用户输入一起或在接收到用户输入之后不久可任选地获得与来自用户设备的用户输入相关联的上下文信息。上下文信息可包括用户特定的数据、词汇和/或与用户输入相关的偏好。在一些示例中，上下文信息还包括在接收到用户请求时用户设备的软件和硬件状态，和/或与在接收到用户请求时用户周围环境相关的信息。在一些示例中，I/O处理模块728还可向用户发送与用户请求有关的跟进问题，并从用户接收回答。在用户请求被I/O处理模块728接收且用户请求可包括语音输入时，I/O处理模块728可将语音输入转发至STT处理模块730(或语音识别器)以进行语音文本转换。

STT处理模块730可包括一个或多个ASR系统。一个或多个ASR系统可处理通过I/O处理模块728接收到的语音输入，以产生识别结果。每个ASR系统可包括前端语音预处理器。前端语音预处理器可从语音输入中提取代表性特征。例如，前端语音预处理器可对语音输入执行傅里叶变换，以提取表征语音输入的光谱特征作为代表性多维向量的序列。此外，每个ASR系统可包括一个或多个语音识别模型(例如，声音模型和/或语言模型)，并且可实现一个或多个语音识别引擎。语音识别模型的示例可包括隐马尔可夫模型、高斯混合模型、深层神经网络模型、n元语言模型以及其他统计模型。语音识别引擎的示例可包括基于动态时间规整的引擎和基于加权有限状态变换器(WFST)的引擎。一个或多个语音识别模型和一个或多个语音识别引擎可用来处理前端语音预处理器的所提取的代表性特征，以产生中间识别结果(例如，音素、音素串和子字)，并且最终产生文本识别结果(例如，字词、字词串或符号的序列)。在一些示例中，语音输入可至少部分地由第三方服务处理或在用户的设备(例如，设备104、设备200、设备400或设备600)上处理，以产生识别结果。一旦STT处理模块730产生包含文本串(例如，字词，或字词的序列，或符号的序列)的识别结果，识别结果即可被传送至自然语言处理模块732以供意图推断。

有关语音转文本处理的更多细节在提交于2011年9月20日的名为“ConsolidatingSpeech Recognition Results”的美国实用新型专利申请序列号13/236,942中有所描述，其全部公开内容以引用方式并入本文。

在一些示例中，STT处理模块730可包括和/或经由语音字母转换模块731访问可识别字词的词汇。每个词汇字词可与以语音识别语音字母表示的字词的一个或多个候选发音相关联。具体而言，可识别字词的词汇可包括与多个候选发音相关联的字词。例如，词汇可包括与和/>的候选发音相关联的字词“番茄”。此外，词汇字词可与基于先前来自用户的语音输入的自定义候选发音相关联。此类自定义候选发音可存储在STT处理模块730中，并且可经由设备上的用户配置文件而与特定用户相关联。在一些示例中，字词的候选发音可基于字词的拼写以及一个或多个语言学和/或语音学规则进行确定。在一些示例中，候选发音可手动生成，例如，基于已知的标准发音而手动生成。

在一些示例中，候选发音可基于候选发音的普通性来排名。例如，候选发音可比/>排名更高，因为(例如，在所有用户中，对于特定地理区域的用户而言，或者对于任何其他合适的用户子集而言)前者是更常用的发音。在一些示例中，候选发音可基于候选发音是不是与用户相关联的自定义候选发音来排名。例如，自定义候选发音可比标准候选发音排名更高。这可用于识别具有偏离标准发音的独特发音的专有名词。在一些示例中，候选发音可与一个或多个语音特征相关联，诸如地理起源、国家或种族。例如，候选发音/>可与美国相关联，而候选发音/>可与英国相关联。此外，候选发音的排名可基于存储在设备上的用户配置文件中的用户的一个或多个特征(例如，地理起源、国家、种族等)。例如，可从用户配置文件确定用户与美国相关联。基于用户与美国相关联，候选发音/>(与美国相关联)可比候选发音/>(与英国相关联)排名更高。在一些示例中，排名的候选发音中的一个可被选作预测发音(例如，最可能的发音)。

接收到语音输入时，STT处理模块730可被用来(例如，使用声音模型)确定对应于语音输入的音素，然后尝试(例如，使用语言模型)确定匹配音素的字词。例如，如果STT处理模块730可首先识别对应于语音输入的一部分的音素序列则它随后可基于词汇索引744确定该序列对应于字词“番茄”。

在一些示例中，STT处理模块730可使用模糊匹配技术来确定话语中的字词。因此，例如，STT处理模块730可确定音素序列对应于字词“番茄”，即使该特定音素序列不是该字词的候选音素序列。

数字助理的自然语言处理模块732(“自然语言处理器”)可取得由STT处理模块730生成的字词或符号的序列(“符号序列”)，并尝试将该符号序列与由数字助理所识别的一个或多个“可执行意图”相关联。“可执行意图”可表示可由数字助理执行并且可具有在任务流模型754中实现的相关联的任务流的任务。相关联的任务流可以是数字助理为了执行任务而采取的一系列经编程的动作和步骤。数字助理的能力范围可取决于已在任务流模型754中实现并存储的任务流的数量和种类，或换言之，取决于数字助理所识别的“可执行意图”的数量和种类。然而，数字助理的有效性还可取决于助理从以自然语言表达的用户请求中推断出正确的“一个或多个可执行意图”的能力。

在一些示例中，除从STT处理模块730获得的字词或符号的序列之外，自然语言处理器732还可(例如，从I/O处理模块728)接收与用户请求相关联的上下文信息。自然语言处理模块732可任选地使用上下文信息来明确、补充和/或进一步定义在从STT处理模块730接收的符号序列中包含的信息。上下文信息可包括例如：用户偏好，用户设备的硬件和/或软件状态，在用户请求之前、期间或之后不久收集的传感器信息，数字助理与用户之间的先前交互(例如，对话)等。如本文中所述，上下文信息可以是动态的，并且可随对话的时间、位置、内容以及其他因素而变化。

在一些示例中，自然语言处理可以是基于例如知识本体760进行的。知识本体760可以是包含许多节点的分级结构，每个节点表示“可执行意图”或者与“可执行意图”或其他“属性”中的一者或多者相关的“属性”。如上所述，“可执行意图”可表示数字助理能够执行的任务，即，该任务为“可执行的”或可被进行的。“属性”可表示与可执行意图或另一属性的子方面相关联的参数。知识本体760中的可执行意图节点与属性节点之间的连接可定义由属性节点表示的参数如何与由可执行意图节点表示的任务相关。

在一些示例中，知识本体760可由可执行意图节点和属性节点组成。在知识本体760内，每个可执行意图节点可直接连接至或通过一个或多个中间属性节点连接至一个或多个属性节点。类似地，每个属性节点可直接连接至或通过一个或多个中间属性节点连接至一个或多个可执行意图节点。例如，如图7C所示，知识本体760可包括“餐厅预订”节点(即，可执行意图节点)。属性节点“餐厅”、“日期/时间”(针对预订)和“同行人数”均可直接连接至可执行意图节点(即，“餐厅预订”节点)。

此外，属性节点“菜系”、“价格区间”、“电话号码”和“位置”可以是属性节点“餐厅”的子节点，并且均可通过中间属性节点“餐厅”连接至“餐厅预订”节点(即，可执行意图节点)。又如，如图7C所示，知识本体760还可包括“设定提醒”节点(即，另一可执行意图节点)。属性节点“日期/时间”(针对设定提醒)和“主题”(针对提醒)均可连接至“设定提醒”节点。由于属性“日期/时间”可与进行餐厅预订的任务和设定提醒的任务二者相关，因此属性节点“日期/时间”可连接至知识本体760中的“餐厅预订”节点和“设定提醒”节点二者。

可执行意图节点连同其连接的概念节点一起，可被描述为“域”。在本讨论中，每个域可与相应的可执行意图相关联，并涉及与特定可执行意图相关联的一组节点(以及其间的关系)。例如，图7C中示出的知识本体760可包括在知识本体760内的餐厅预订域762的示例以及提醒域764的示例。餐厅预订域包括可执行意图节点“餐厅预订”、属性节点“餐厅”、“日期/时间”和“同行人数”以及子属性节点“菜系”、“价格区间”、“电话号码”和“位置”。提醒域764可包括可执行意图节点“设置提醒”和属性节点“主题”和“日期/时间”。在一些示例中，知识本体760可由多个域组成。每个域可与一个或多个其他域共享一个或多个属性节点。例如，除了餐厅预订域762和提醒域764之外，“日期/时间”属性节点还可与许多不同域(例如，行程安排域、旅行预订域、电影票域等)相关联。

尽管图7C示出知识本体760内的两个示例性域，但其他域可包括例如“找一部电影”、“发起电话呼叫”、“查找方向”、“安排会议”、“发送消息”以及“提供问题的回答”、“阅读列表”、“提供导航指令”、“提供针对任务的指令”等。“发送消息”域可与“发送消息”可执行意图节点相关联，并且还可包括属性节点诸如“一个或多个接收方”、“消息类型”和“消息正文”。属性节点“接收方”可进一步例如由子属性节点诸如“接收方姓名”和“消息地址”来定义。

在一些示例中，知识本体760可包括数字助理能够理解并对其起作用的所有域(以及因此可执行的意图)。在一些示例中，知识本体760可诸如通过添加或移除整个域或节点或者通过修改知识本体760内节点之间的关系来修改。

在一些示例中，可将与多个相关可执行意图相关联的节点群集在知识本体760中的“超级域”下。例如，“旅行”超级域可包括与旅行有关的属性节点和可执行意图节点的群集。与旅行有关的可执行意图节点可包括“机票预订”、“酒店预订”、“汽车租赁”、“路线规划”、“寻找兴趣点”等。同一超级域(例如，“旅行”超级域)下的可执行意图节点可具有多个共用的属性节点。例如，针对“机票预订”、“酒店预订”、“汽车租赁”、“路线规划”和“寻找兴趣点”的可执行意图节点可共享以下属性节点中的一个或多个属性节点：“起始位置”、“目的地”、“出发日期/时间”、“到达日期/时间”和“同行人数”。

在一些示例中，知识本体760中的每个节点可与跟由节点表示的属性或可执行意图有关的一组字词和/或短语相关联。与每个节点相关联的相应组的字词和/或短语可以是所谓的与节点相关联的“词汇”。与每个节点相关联的相应组的字词和/或短语可被存储在与由节点所代表的属性或可执行意图相关联的词汇索引744中。例如，返回图7B，与“餐厅”属性的节点相关联的词汇可包括字词，诸如“美食”、“酒水”、“菜系”、“饥饿”、“吃”、“披萨”、“快餐”、“膳食”等。又如，与“发起电话呼叫”可执行意图的节点相关联的词汇可包括字词和短语，诸如“呼叫”、“打电话”、“拨打”、“与……通电话”、“呼叫该号码”、“打电话给”等。词汇索引744可任选地包括不同语言的字词和短语。

自然语言处理模块732可从STT处理模块730接收符号序列(例如，文本串)，并确定符号序列中的字词牵涉哪些节点。在一些示例中，如果发现符号序列中的字词或短语与知识本体760中的一个或多个节点相关联(经由词汇索引744)，则所述字词或短语可“触发”或“激活”这些节点。基于已激活节点的数量和/或相对重要性，自然语言处理模块732可选择可执行意图中的一个可执行意图作为用户意图使数字助理执行的任务。在一些示例中，可选择具有最多“已触发”节点的域。在一些示例中，可(例如，基于其各个已触发节点的相对重要性)选择具有最高置信度的域。在一些示例中，可基于已触发节点的数量和重要性的组合来选择域。在一些示例中，在选择节点的过程中还考虑附加因素，诸如数字助理先前是否已正确解译来自用户的类似请求。

用户数据748可包括用户特定的信息，诸如用户特定的词汇、用户偏好、用户地址、用户的默认语言和第二语言、用户的联系人列表，以及每位用户的其他短期或长期信息。在一些示例中，自然语言处理模块732可使用用户特定的信息来补充用户输入中所包含的信息以进一步限定用户意图。例如，针对用户请求“邀请我的朋友参加我的生日聚会”，自然语言处理模块732可能够访问用户数据748以确定“朋友”是哪些人以及“生日聚会”将于何时何地举行，而不需要用户在其请求中明确地提供此类信息。

基于符号串搜索知识本体的其他细节在提交于2008年12月22日的名为“Methodand Apparatus for Searching Using An Active Ontology”的美国实用新型专利申请序列号12/341,743中有所描述，其全部公开内容以引用方式并入本文。

在一些示例中，一旦自然语言处理模块732基于用户请求识别出可执行意图(或域)，自然语言处理模块732便可生成结构化查询以表示所识别的可执行意图。在一些示例中，结构化查询可包括域内针对可执行意图的一个或多个节点的参数，并且所述参数中的至少一些填充有在用户请求中指定的特定信息和要求。例如，用户可说“帮我在寿司店预订晚上7点的座位。”在这种情况下，自然语言处理模块732可能够基于用户输入将可执行意图正确地识别为“餐厅预订”。根据知识主体，“餐厅预订”域的结构化查询可包括参数诸如{菜系}、{时间}、{日期}、{同行人数}等。在一些示例中，基于语音输入和使用STT处理模块730从语音输入得出的文本，自然语言处理模块732可针对餐厅预订域生成部分结构化查询，其中部分结构化查询包括参数{菜系＝“寿司类”}以及{时间＝“晚上7点”}。然而，在该示例中，用户话语包含不足以完成与域相关联的结构化查询的信息。因此，基于当前可用信息，在结构化查询中可能未指定其他必要参数，诸如{同行人数}和{日期}。在一些示例中，自然语言处理模块732可用所接收的上下文信息来填充结构化查询的一些参数。例如，在一些示例中，如果用户请求“附近的”寿司店，则自然语言处理模块732可用来自用户设备的GPS坐标来填充结构化查询中的{位置}参数。

在一些示例中，自然语言处理模块732可将结构化查询(包括任何已完成的参数)传送至任务流处理模块736(“任务流处理器”)。任务流处理模块736可被配置为从自然语言处理模块732接收结构化查询，完成结构化查询(必要时)，以及执行“完成”用户最终请求所需的动作。在一些示例中，完成这些任务所必需的各种过程可在任务流模型754中提供。在一些示例中，任务流模型754可包括用于获取来自用户的附加信息的过程，以及用于执行与可执行意图相关联的动作的任务流。

如上所述，为了完成结构化查询，任务流处理模块736可能需要发起与用户的附加对话，以便获得附加信息并/或弄清可能有歧义的话语。当有必要进行此类交互时，任务流处理模块736可调用对话流处理模块734来参与与用户的对话。在一些示例中，对话流处理模块734可确定如何(和/或何时)向用户请求附加信息，并且接收和处理用户响应。通过I/O处理模块728可将问题提供至用户并可从用户接收回答。在一些示例中，对话流处理模块734可经由音频和/或视频输出向用户呈现对话输出，并接收经由口头或物理(例如，点击)响应的来自用户的输入。继续上述示例，在任务流处理模块736调用对话流处理模块734来确定针对与域“餐厅预订”相关联的结构化查询的“同行人数”和“日期”信息时，对话流处理模块734可生成诸如“一行几位？”和“预订哪天？”之类的问题传递给用户。一旦接收到来自用户的回答，对话流处理模块734则可用缺失信息填充结构化查询，或将信息传递给任务流处理模块736以完成结构化查询中的缺失信息。

一旦任务流处理模块736已针对可执行意图完成结构化查询，任务流处理模块736便可着手执行与可执行意图相关联的最终任务。因此，任务流处理模块736可根据结构化查询中包含的特定参数来执行任务流模型中的步骤和指令。例如，针对可执行意图“餐厅预订”的任务流模型可包括用于联系餐厅并实际地请求在特定时间针对特定同行人数的预订的步骤和指令。例如，通过使用结构化查询诸如：{餐厅预订，餐厅＝ABC咖啡馆，日期＝2012/3/12，时间＝下午7点，同行人数＝5人}，任务流处理模块736可执行以下步骤：(1)登录到ABC咖啡馆的服务器或餐厅预订系统诸如(2)在网站上的表格中输入日期、时间和同行人数信息，(3)提交表格，以及(4)在用户日历中针对该预订制作日历条目。

在一些示例中，任务流处理模块736可在服务处理模块738(“服务处理模块”)的辅助下完成用户输入中所请求的任务或者提供用户输入中所请求的信息性回答。例如，服务处理模块738可代表任务流处理模块736发起电话呼叫、设置日历条目、调用地图搜索、调用用户设备上安装的其他用户应用程序或与所述其他应用程序交互，以及调用第三方服务(例如，餐厅预订门户网站、社交网站、银行门户网站等)或与第三方服务交互。在一些示例中，可通过服务模型756中的相应服务模型指定每项服务所需的协议和应用编程接口(API)。服务处理模块738可针对服务访问适当的服务模型，并依据服务模型根据该服务所需的协议和API生成针对该服务的请求。

例如，如果餐厅已启用在线预订服务，则餐厅可提交服务模型，该服务模型指定用于进行预订的必要参数以及将必要参数的值传送至在线预订服务的API。在被任务流处理模块736请求时，服务处理模块738可使用存储在服务模型中的web地址来建立与在线预订服务的网络连接，并将预订的必要参数(例如，时间、日期、同行人数)以根据在线预订服务的API的格式发送至在线预订接口。

在一些示例中，自然语言处理模块732、对话流处理模块734以及任务流处理模块736可共同且反复地被使用，以推断并限定用户的意图、获得信息以进一步明确并提炼用户意图并最终生成响应(即，输出至用户，或完成任务)以满足用户的意图。所生成的响应可以是对至少部分满足用户意图的语音输入的对话响应。此外，在一些示例中，所生成的响应可作为语音输出被输出。在这些示例中，所生成的响应可被发送至语音合成模块740(例如，语音合成器)，其中该响应可被处理，以将对话响应合成为语音形式。在其他示例中，所生成的响应可以是与满足语音输入中的用户请求相关的数据内容。

语音合成模块740可被配置为合成语音输出以呈现给用户。语音合成模块740基于数字助理提供的文本来合成语音输出。例如，所生成的对话响应可为文本串的形式。语音合成模块740可将文本串转换成可听语音输出。语音合成模块740可使用任何适当的语音合成技术，以便从文本生成语音输出，所述技术包括但不限于：拼接合成、单位选择合成、双音子合成、域特定合成、格式合成、发音合成、基于隐马尔可夫模型(HMM)的合成，以及正弦波合成。在一些示例中，语音合成模块740可被配置为基于对应于字词的音素串来合成各个字词。例如，音素串可与所生成的对话响应中的字词相关联。音素串可存储在与字词相关联的元数据中。语音合成模型740可被配置为直接处理元数据中的音素串，以合成语音形式的字词。

在一些示例中，替代于使用语音合成模块740(或作为补充)，语音合成可在远程设备(例如，服务器系统108)上执行，并且合成的语音可发送到用户设备以输出给用户。例如，这可发生在一些具体实施中，其中在服务器系统处生成数字助理的输出。而且由于服务器系统通常比用户设备具有更强的处理能力或更多的资源，其有可能获得比客户端侧合成将实现的质量更高的语音输出。

有关数字助理的更多细节可见于提交于2011年1月10日的名称为“IntelligentAutomated Assistant”的美国实用新型专利申请No.12/987,982以及提交于2011年9月30日的名称为“Generating and Processing Task Items That Represent Tasks toPerform”的美国实用新型专利申请No.13/251,088中，其全部公开内容以引用方式并入本文。

图8示出根据各种示例的用于处理单一用户话语中的多个可执行命令的示例性过程800。过程800可例如在上文参考图1论述的服务器系统108的处理模块114上执行。在其他示例中，过程800可在上文参考图7论述的数字助理系统700的处理器704上执行。在其他示例中，服务器系统108的处理模块114和数字助理系统700的处理器704可一起用来执行过程800中的一些或全部。在框802处，可(例如，从图2的麦克风213)从用户接收语音输入。在一些示例中，语音输入可针对虚拟助理，并且可包括一个可执行命令(例如，“今天天气怎么样？”)或多个可执行命令(例如，“导航到Jessica家并给她发消息说我在路上。”)。本文中所使用的可执行命令可包括虚拟助理可执行、响应或以其他方式处理的任何任务、过程、查询、动作、请求等。例如，可执行命令可包括关于股票价格的查询、发送消息的请求、提供导航服务的命令、发起电话呼叫的命令等。

在一些示例中，用户可以通过用按钮、触摸屏界面等发信号来控制多部分命令的捕获。例如，为了使用户的设备继续监听附加命令，用户可以在说话的同时下压并保持按钮(例如，用户设备104的按钮)，并且可以在完成用户想要说出的尽可能多的命令之后释放按钮。在其他示例中，用户设备可以在语音持续的同时继续监听，或者可以包括持续(例如，一直或在一段延长的持续时间内)监控音频的始终监听功能。

单一话语内的多部分命令可包括具有任意数量论据的任意数量的命令。例如，用户可以请求与同一主题相关联的多个动作(例如，将图片用电子邮件发给朋友、将图片保存在存储器中，以及将图片设置为设备显示器上的壁纸)。在另一示例中，用户可以请求与不同主题相关联的多个动作(例如，将图片用电子邮件发给朋友、将“我马上就到”的消息发给亲属、取消日历通知，以及提醒用户一小时内的特定任务)。一些语音输入还可将命令与口述混合，如在单一话语中口述要发送的消息同时请求其他动作的示例中。采用单一话语的语音输入因而可以包括与任意数量论据相关联的任意数量的命令。

在框804处，可基于语音输入使用语音转录过程来生成文本串。可以使用多种语音转录方法中的任一种。此外，在一些示例中，可以按顺序或同时生成并处理多个可能的转录，以识别最佳的可能匹配(例如，最可能的匹配)。

在框806处，可将文本串(或多个候选文本串)解析成至少第一候选子串和第二候选子串。在一个示例中，针对多部分命令，可将任何语音输入解析成任意数量的候选子串以供测试。在其他示例中，解析成多个候选子串可以基于语音输入的长度、用户指示(例如，在说出多个命令的同时保持按钮按下)、多个祈使动词的识别等来完成。

图9示出示例性解析的多部分语音命令。用户语音920可包括单一话语“导航到Jessica家并给她发消息说我在路上”的转录。在一个示例中，可将用户语音920解析成两个子串：第一候选子串922和第二候选子串924。此类解析可以多种方式来完成。例如，可以在文本串中识别域关键字，并且可以基于它们的位置对串进行解析。在图9的示例中，字词“导航”可以对应于用于提供地图、逐个拐弯导航指令或者对用户的其他导航辅助的虚拟助理域。字词“发送”可对应于消息传送域或多个虚拟助理域(例如，电子邮件、即时消息、文本消息、即时消息应用程序等)。字词“消息”可同样对应于多个虚拟助理域。在一些情况下，彼此一定数量的字词内的“发送”和“消息”的组合可以指示可能匹配的虚拟助理域。

基于所识别的域关键字的位置，用户语音920可以分成以关键字“导航”开始并且在连接词“并”之前结束的第一候选子串922，和以关键字“发送”开始并且以串的结束为结束的第二候选子串924。在其他示例中，连接词“并”可以被包括在任一候选子串或两个候选子串内。各种其他的域关键字可以采用类似的方式使用，以对串进行解析。例如，天气域可与例如“天气”、“温度”、“多冷”、“多热”、“下雨”等关键字或关键短语相关联。相似地，电话域可与“呼叫”、“拨打”等关键字相关联。日历域可与例如“会议”、“安排会议”、“与会人”、“新的约会”、“时间表”等关键字或关键短语相关联。提醒域可与例如“提示”、“提醒”、“设定提醒”、“提醒我”等关键字或关键短语相关联。应当理解，各种其他域可以具有可用来解析文本串的多种相关联的关键字或关键短语。

替代域关键字或与之结合，可以在文本串中识别祈使动词，并且可以基于它们的位置对串进行解析。在图9的示例中，字词“导航”是串中的第一祈使动词。字词“发送”是串中的下一个祈使动词。在一些情况下，字词"message"可以被解释为另一祈使动词。然而，在该示例中，根据如下多种因素可将"message"一词恰当地识别为名词“消息”：之前有不定冠词"a"，跟在“发送”后面的几个词之后，后接"that"从句，等。因此，可在用户语音920中识别两个祈使动词。祈使动词的位置随后可用来将串解析成以祈使动词“导航”开始的第一候选子串922和以祈使动词“发送”开始的第二候选子串924。其他祈使动词示例包括例如“安排”、“设定”、“呼叫”、“发电子邮件”、“发短信”、“邮递”、“播放”、“启动”、“提醒”、“注意”、“打开”、“搜索”等字词。此外，在一些示例中，用户话语可以分解成语音的多个部分，以帮助恰当地识别祈使动词(例如，与可能是名词的同音异义词相比)。

替代域关键字和/或祈使动词或者与之结合，可以多种方式解析单一用户话语，并且可以测试多个解析，以确定最佳解析。在其他示例中，可以基于预先确定的子串长度(例如，一些字符、一些字词等)来解析串。在其他示例中，可以所有可能的方式(例如，从每个单独字词作为子串到单个串中的所有字词一起)或近乎所有可能的方式(例如，从最小的每一对或三个一组的字词作为子串到单个串中的所有字词一起)对串进行解析。考虑到对串进行解析的多种方式，可以分析解析结果以基于多种因素取消各种解析方法。例如，如果解析得到没有动词的候选子串，则该解析可被取消。在一些示例中，可对各种解析结果中的一些或全部进行分析，如下文参考过程800的框808所述，以识别具有准确反映用户意图的最高可能性的解析。因此，来自用户语音的单一话语的文本串可以多种方式解析成至少第一候选子串和第二候选子串。

再次参考图8的过程800，在框808处，可确定第一候选子串对应于第一可执行命令的第一概率和第二候选子串对应于第二可执行命令的第二概率。在一些示例中，可分析每个候选子串以确定它对应于有效的可执行命令的概率。如上所述，在一些示例中，可以完成上述概率分析，以证实特定解析的准确性和/或将不同解析得到不同候选子串的可能性进行比较。在一些示例中，概率可用于选择最可能准确地反映用户意图的解析及其相关子串(例如，准确地将单一话语分成不同的可执行命令)。用于各种候选子串的概率可以多种方式确定，并且多种方法可以组合以达到综合概率(例如，使用线性内插法或其他组合机制)。

在一个示例中，可分析(来自一个解析或者来自多个不同的潜在解析)的每个候选子串的语义连贯。在一些示例中，针对每个候选子串，可以仅基于子串内的字词(例如，不考虑上下文或者先前或随后的字词)来确定语义连贯。语义连贯可包括二进制“是/否”结果或者概率。语义连贯可反映子串是否可以独立作为具有目标语言(例如，英语)含义的连贯命令(或请求)。例如，如上所述，不具有动词的子串可被识别为缺少语义连贯或者具有较低的语义连贯概率(例如，“去Jessica家”、“进度报告会议”等)。在另一示例中，缺少主题、论据、实体等的子串可被识别为缺少语义连贯或者具有较低的语义连贯概率(例如，“导航到”、“告诉约翰”等)。在又一示例中，具有缺少名词的不完整介词短语或介词的子串可被识别为缺少语义连贯或者具有较低的语义连贯概率(例如，“设定提醒在xx买牛奶”、“为xx安排会议”等)。此外，在一些示例中，可以根据语音的用于验证语法规则遵循的部分来分析候选子串，并且可以相应地确定语义连贯。应当理解，可以多种其他方式确定子串的语义连贯，并且不同的规则和测试可适用于不同的语言、方言、区域等。

替代语义连贯或与之结合，可以基于虚拟助理的用户请求模板来分析每个候选子串。例如，虚拟助理可以通过将语音请求匹配到模板来部分地处理用户请求。模板可以具有虚拟助理可用于处理用户请求的相关过程、任务、算法等。此外，模板可以具有指定变量，其中可以预期实体、论据等(例如，模板“呼叫[联系人]”中的联系人姓名)。每个候选子串因此可与虚拟助理的各种模板中的一些或全部进行比较。

在一个示例中，基于子串与用户请求模板的相似程度，可确定匹配的相似性得分或概率。在一些示例中，可以在比较中忽略对应于预期实体、论据等的字词。在另一示例中，基于是否可从比较中找到一个或多个匹配(或近乎匹配)的模板，可产生二进制“是/否”结果。

参考作为示例的图9的第一候选子串922，子串“导航到Jessica家”可以与虚拟助理的一些或全部模板进行比较。在一个示例中，给定关键字“导航”，则只可以使用与导航相关联的模板。在其他示例中，可使用其他或所有模板。在虚拟助理中，与提供地图、引导或导航相关联的模板可包括“导航到[位置]”、“路线规划到[位置]”、“给我展示[位置]的地图”等。在将候选子串922与此类导航相关模板比较时，可以识别至少一个匹配模板：“导航到[位置]”，其中出于比较的目的，位置变量可允许忽略字词“Jessica家”。在该示例中，可以识别至少一个匹配模板，因此可以产生“是”结果或者高相似性得分或概率。

在另一示例中，子串可以类似于模板而不是实际上匹配模板(例如，具有外来字词，包括非预期连接词等)。在此类示例中，可以产生较低相似性得分或概率，或者根据特定应用程序，可以产生“是”或“否”结果。在其他示例中，可找到不匹配或类似模板，并且可产生“否”结果或者零相似性得分或概率。因此，候选子串可以与虚拟助理的用户请求模板相比较，以识别匹配、匹配的可能性、相似性得分等。应当理解，针对特定应用程序，基于与虚拟助理请求模板的比较，可以根据需要产生多种概率、得分等中的任一种。

替代语义连贯和/或模板匹配或与之结合，可以通过用虚拟助理的各种服务测试每个候选子串来对其进行分析。例如，可将每个候选子串提交到虚拟助理的一个或多个服务(例如，消息服务、导航服务、电话服务等)。可以查询服务以确定它们是否可以由该候选子串转换为可执行命令。在一个示例中，服务可以完全否定请求或者拒绝子串(例如，转换子串的零可能性)。在另一示例中，服务可被配置为产生能够用更多信息(例如，上下文、用户数据等)转换子串的可能性。在又一示例中，服务可被配置为产生该服务是(例如，基于域关键字、可用功能等)处理用户请求的适当服务的可能性。

参考图9的第二候选子串924作为示例，在一些示例中，消息服务可产生能够将子串转换成可执行命令的较高可能性。例如，在子串“给她发送消息说我在路上”中，字词“发送”和“消息”可对应于消息传送域关键字或模板，并且可以引导消息服务产生它能够将子串转换成可执行命令的较高可能性。此外，消息服务可以识别出，假定可能无法单独从该子串中得知“她”，则要转换成完整命令可能需要附加上下文，但消息服务可以产生能够在给定附加上下文信息的情况下转换子串的适中可能性。另外，消息服务可将子串与消息模板进行比较，从而确认子串可能意图用于消息服务，而不是另一服务。消息服务因而可以产生能够将候选子串924转换成可执行命令的较高可能性。相比之下，基于缺少关键字、匹配模板、突出实体等，导航服务、电话服务或搜索服务可产生能够转换候选子串924的较低可能性或零可能性。候选子串因而可以被提交到服务，以确定服务中的一个服务可将该子串转换成可执行命令的可能性。应当理解，针对特定应用程序，基于提交到各种虚拟助理服务，可以根据需要产生多种概率、可能性、二进制结果等中的任一种。

在一些示例中，语义连贯、模板匹配和/或服务测试的组合可以用来确定候选子串对应于可执行命令的概率。例如，两个或更多个测试的结果可以使用已知方法(例如，线性内插法等)进行组合。此外，替代上文论述的这些或作为补充，可以使用多种其他的测试或方法确定候选子串对应于可执行命令的概率。例如，知识本体可用于尝试将候选子串转换成可执行命令，并且可基于知识本体遍历的成功或失败产生概率。还可使用各种其他方法来测试候选子串并且证实解析的准确性。

再次参考图8的过程800，在框810处，确定在框808处确定的概率是否超过阈值。例如，可确定最小阈值，低于该最小阈值的特定解析可被视作不可能或无法接受。在一些示例中，可将每个候选子串对应于可执行命令的概率与阈值水平进行比较，并且解析的任何候选子串没有满足该水平则可被视作该解析的失败，导向框810的“否”分支。在其他示例中，解析的每个候选子串的概率可以多种方式组合(例如，归一法、线性内插法等)，然后与阈值比较。基于虚拟助理阈值等，可以根据经验确定阈值水平。

然而，在其他示例中，可以从过程800中省略框808(和框810)。例如，在一些情况下，解析可被确定为足够准确，使得附加的概率测试或验证可为不必要的。常见用户请求、多部分命令的常见组合、语义上有意义的解析的较高概率等可用于确定，解析可足够可信以便在没有附加验证或准确性测试的情况下继续进行。此外，在一些示例中，用来解析多部分命令的方法可足够准确，以便保证省略验证或准确性测试。参照框808描述的测试因而可以是可选的。

如果来自框808的概率未能满足或超过框810处的阈值(例如，“否”分支)，则在一些示例中，过程800可以返回到框806，以尝试对文本串的不同解析。例如，假定该解析第一次未能通过，则可以尝试新的解析，或者可在框806处进行调整，以尝试在第二次或随后识别更准确的解析。然而在其他示例中，可以同时测试大多数或所有可能的解析，在这种情况下，框810处的失败可以导致虚拟助理查询更多信息、要求命令的重复、返回失败消息等。类似地，如果重复的解析未能产生准确的结果，则虚拟助理可以查询更多信息、要求命令的重复、返回失败消息等。在一些示例中，如果解析的一组候选子串中的一个或多个子串超过阈值，则那些候选子串可以如下文所述进一步处理，而同时虚拟助理通过对话、错误消息等来解决剩余(失败)的一个或多个子串。通过这种方式，不论是否可以在没有附加信息的情况下准确转换其他部分，都可以处理多部分语音命令的一些部分。

如果来自框808的概率满足或超过框810处的阈值(例如，“是”分支)，则过程800可以继续到框812。在框812处，可确定与第一候选子串相关联的第一意图和与第二候选子串相关联的第二意图。在一个示例中，虚拟助理可通过将用户的语音与具有虚拟助理可进行或执行的任务、过程等的特定域进行匹配，从语音输入中确定用户的意图。确定用户的意图还可包括使用上下文(例如，用户数据、显示的信息、先前的请求等)来转换模糊词、代词等。因此，在框812处，在根据用户的多部分命令准备执行的过程中，可针对每个候选子串确定意图。

在一些示例中，来自过程800的先前框的信息可用于在框812处确定用户意图。例如，来自上文论述的先前框中的域关键字、请求模板、服务匹配等可用于识别特定候选子串的用户意图。

参考图9的示例，可以针对第一候选子串922和第二候选子串924来确定意图。在一个示例中，可基于命令字词“导航”将第一候选子串922匹配到导航域。在该域内也可识别匹配模板“导航到[位置]”。然后可使用用户数据转换位置“Jessica家”，例如，从用户的联系人信息中识别出名为Jessica的联系人的家庭地址。

基于字词“发送”和“消息”和/或对应的模板，可将第二候选子串924匹配到消息传送域。例如，可以识别模板“向[接收方]发送消息[消息内容]”。基于来自第一候选子串922的先前请求的上下文，可解决接收方。具体而言，基于多部分命令中的先前命令，可以识别出预期接收方“Jessica”(和用户联系人中她的联系信息)用来替换“她”。消息变量中的文本可以从子串(例如，“我在路上。”)直接转录。

在另一示例中，来自多部分命令中的先前命令的上下文可类似地用来转换模糊字词。在多部分命令“给史蒂夫发消息说我会晚点到，并且提醒我在二十分钟后打电话给他”中，在没有先前命令的上下文的情况下，代词“他”可为模糊的。具体而言，在一个示例中，针对给史蒂夫发消息说“我会晚点到”，可以识别第一可执行命令。然而，第二可执行命令可利用先前命令的上下文，对用户想要在二十分钟后被提醒打电话给哪个人进行准确意图解释。因而可以基于话语中的先前命令的上下文来解译第二命令的意图，以准确地确定用户想要在二十分钟后被提醒打电话给史蒂夫。

可类似地使用多种其他上下文信息来确定针对特定候选子串的用户意图。例如，图10示出具有显示器1030的示例性用户设备104，所述显示器具有用于解译多部分语音命令的上下文。应当理解，图10示出根据本文中的各种示例的用户设备104的一个示例，但很多其他示例也是可能的(包括不具有显示器的设备、具有不同比例的设备等)。同样地，应当理解，尽管显示器1030被示为与用户设备104合并(例如，作为触摸屏)，但在其他示例中，显示器1030可以与用户设备104分开(例如，如在电视机、计算机监视器、独立用户设备等中)。

在一个示例中，当查看图10中示出的内容时，用户可以说出多部分命令，诸如“保存那张图片、把它发送给我的爸爸，以及将它设置为我的主屏幕壁纸”。这种多部分命令可以被解析成三个候选子串：“保存那张图片”、“把它发送给我的爸爸”，以及“将它设置为我的主屏幕壁纸”。针对第一子串，在没有附加的上下文信息的情况下，主题“那张图片”可为模糊的。此处，显示在显示器1030上的内容(包括链接1034和图片1032)可用于消除第一子串的歧义(或转换第一子串)。具体而言，给定显示器1030上的图片1032出现的上下文，主题“那张图片”可以被转换成图片1032。第一子串的用户意图因而可以被确定为保存图片1032(例如，保存到用户设备上的存储器)。其他内容元素可以类似地被用作上下文，包括显示的文本、电子邮件、通知、提醒、相册、歌曲、列表、日历条目等。

由于“把它发送给我的爸爸”和“将它设置为我的主屏幕壁纸”中的代词“它”，第二子串和第三子串类似地可为模糊的。为了解决这种模糊性问题，可以使用来自所转换的第一子串的上下文。具体而言，将主题“那张图片”转换为显示器1030上的图片1032可用于识别第二子串和第三子串的预期主题。第二子串的用户意图因而可以被确定为将图片1032发送给用户的父亲(例如，如在联系人列表等中所识别的)，并且第三子串的用户意图可以被确定为将图片1032设置为用户设备的主屏幕壁纸。所显示的内容因而可用作用于从用户语音解译用户意图的上下文，并且基于同一话语内(或来自先前话语)的先前发出的命令，可以消除命令的歧义。

图11示出具有显示器1030的示例性用户设备104，所述显示器具有可用作解译多部分语音命令的上下文的各种类型的多个通知。具体而言，显示器1030显示通知1040，包括电子邮件1142、消息1144(例如，即时消息、文本消息等)、提醒1146以及会议请求1148。如本文所述的多部分语音命令可以是用户同时管理多个通知的有效方式。例如，用户可说出“用我不在办公室的答复来答复那些电子邮件、提醒我在二十分钟后打电话给我妈妈、告诉Joe当然、将那些提醒暂停一小时，并且接受那个会议请求”。在一个示例中，当用户在思考接下来的动作时，可以有停顿地说出这么长的多部分命令，并且虚拟助理可以在不打断用户的情况下(例如，基于按钮被按下、用户偏好或设置等)继续等待进一步的命令。此外，在解译一个命令的用户意图之后，虚拟助理可以即刻开始采取行动，而不用等到转换多部分命令中的随后命令。例如，虚拟助理可开始将不在办公室的电子邮件发送给Jane Doe和Jennifer Smith，而同时用户继续与消息1144、提醒1146和会议请求1148相关的命令。在其他示例中，虚拟助理可以等待用户完成所有的命令，再开始执行与它们相关联的过程。

与图11中示出的内容相关联的多部分命令可以使用所显示通知的类型、与那些通知相关联的名字、有关那些通知的细节等(根据需要)消除歧义。例如，针对子串“用我不在办公室的答复来答复那些电子邮件”，主题“那些电子邮件”可能是模糊的，但所显示的内容可用于确定“那些电子邮件”对应于显示器1030上显示的电子邮件1142。具体而言，电子邮件通知或内容类型可用于准确地将“那些电子邮件”与所显示的电子邮件相关通知相关联。类似地，子串“告诉Joe当然”可为模糊的(例如，哪个Joe)，但所显示的内容可用于确定“Joe”对应于消息1144中的一个消息的发送方。具体而言，可以对照显示器1030上显示的名字(以及对照用户联系人等)来检查名字“Joe”，以准确识别用户指的是哪个Joe。

子串“将那些提醒暂停一小时”类似地可为模糊的，但所显示的内容可用于确定“那些提醒”对应于显示器1030上显示的提醒1146。具体而言，提醒通知类型可用于准确地将“那些提醒”与提醒1146相关联。最后，子串“接受那个会议请求”类似地可为模糊的，但所显示的内容可用于确定“那个会议请求”对应于显示器1030上显示的会议请求1148。具体而言，会议请求通知类型可用于准确地将“那个会议请求”与会议请求1148相关联。

在其他示例中，用户可以其他方式引用通知1040，并且所显示的内容可类似地用于消除用户的请求的歧义。例如，用户可以按照类型(例如，邮件、提醒等)、名字(例如，Jane、Jennifer、妈妈等)、主题(例如，晚餐邀请、进度报告、牛奶、进度报告会议等)、位置参考或顺序描述符(例如，前两个、第一封电子邮件、第二个提醒、最后三个等)等来引用通知。

图12示出具有显示器1030的示例性用户设备104，所述显示器具有可被用作解译多部分语音命令的上下文的邮件应用程序1250中示出的多个电子邮件1142。如本文所述的多部分语音命令可以是用户管理项目列表的有效方式，包括图12中示出的电子邮件1142的列表。应当理解，邮件应用程序1250被作为电子邮件可以如何显示在列表中的示例提供，但很多其他配置也是可能的(例如，包括预览窗格等)，并且任何类型的列表可用作解译多部分语音命令的上下文。

在一个示例中，用户可以通过发出命令中的顺序描述符来参考所列出的电子邮件1142。例如，用户可说出“将我不在办公室的答复发送给前三封，将最后一封的发送方添加到屏蔽的联系人列表，并且将最后一封移动到垃圾邮件”。列表内的电子邮件1142的顺序位置随后可用于消除用户的多部分命令的歧义。第一子串中的描述符“前三封”可为模糊的，但所显示的内容可用于确定“前三封”对应于显示器1030上显示的前三封电子邮件1142(例如，来自Jane、Jennifer和Alan的电子邮件)。具体而言，前三封电子邮件的顺序位置可用于准确地将“前三封”与列表中的第一封、第二封和第三封电子邮件1142相关联，以确定用户的意图。类似地，第二子串和第三子串中的描述符“最后一封”可为模糊的，但所显示的内容可用于确定“最后一封”对应于显示器1030上显示的最后电子邮件1142(例如，来自Investor Tip Co.的电子邮件)。具体而言，列表中第四且最终的电子邮件的顺序位置可用于准确地将“最后一封”与列表中的第四封电子邮件1142相关联，以确定用户的意图。在其他示例中，用户可以采用可类似地消除歧义的其他方式参考所列出的项目(例如，第二封邮件、第三个提醒、第二到最后、倒数第二、最终、中间一个、最后两个条目、前三个项目、最末四个等)。

在其他示例中，用户可以参考发出命令中的内容的整个列表。例如，用户可说出“将所有那些标记为已读，并且将它们全部移动到垃圾桶”。显示器1030上电子邮件1142的列表的出现可以用来消除用户的多部分命令的歧义。描述符“所有那些”和“它们全部”可为模糊的，但所显示的内容可用于确定“所有那些”和“它们全部”对应于图12中示出的四封电子邮件1142的完整列表。在其他示例中，可以使用各种其他模糊参考项目并且基于列表内容来类似地消除歧义。

除了使用所显示的内容来消除多部分命令中项目的歧义之外，可将各种其他方法用于确定候选子串的用户意图。在一个示例中，潜在(或可能的)用户请求可以基于所显示的信息来确定，并且用户意图可以基于潜在用户请求来确定。再次参考图12作为示例，用户在查看邮件应用程序1250中的电子邮件1142时可能发出与电子邮件管理相关的某一组命令。例如，与电子邮件管理相关的潜在用户请求可包括答复、删除、移动、归档、转发、标记为已读、标记为未读、标记为垃圾邮件、存档、屏蔽的发送方等。在确定子串的用户意图时，这些潜在用户请求可被给予附加权重或优先级，或者可用作比较(例如，比较模板)，以准确地解译用户命令。具体而言，基于出现在显示器1030上的电子邮件1142，与电子邮件管理相关联的潜在用户请求可用于基于用户将发出与所显示内容相关联的命令的至少一些可能性来解译用户命令。

在其他示例中，可以基于多种其他内容来确定潜在用户请求，以提供准确的意图解译。例如，再次参见图11，潜在用户请求可被识别以用于处理通知1140，并且这些潜在用户请求可用于确定用户意图。相关联的命令可包括撤销项目、暂停提醒、答复消息、接受会议请求、提出会议新时间等。在另一示例中，再次参见图10，潜在用户请求可被识别以用于与所显示的内容(包括链接1034和图片1032)交互，并且这些潜在用户请求可用于确定用户意图。相关联的命令可包括保存图片、分享图片、分享链接、打印页面、选择所显示的项目等。因此可基于所显示的内容来识别潜在用户请求，并且所识别的潜在用户请求可用于确定多部分命令中的子串的用户意图。

再次参考图8的过程800，在框814处，可执行与第一意图相关联的第一过程和与第二意图相关联的第二过程。通过针对每个候选子串(或一些候选子串)确定的用户意图，可执行与用户意图相关联的过程。例如，可以编写并发送消息、可以删除电子邮件、可以撤销通知等。在一些示例中，多个任务或过程可以与单独的用户意图相关联，并且各种任务或过程可以在框814处执行。在其他示例中，虚拟助理可以使用户参与对话，以获取完成任务流所需的附加信息。如上所述，在一些示例中，如果只有多部分命令的子串的子集可以被解译成用户意图，则可执行与那些用户意图相关联的过程，并且虚拟助理可以多种方式处理剩余的子串(例如，请求更多信息、返回错误等)。

再次参考图8的过程800，在框816处，可将与第一意图和第二意图相关联的确认提供至用户。例如，可将确认提供至用户以表明一个或多个命令的接受、执行各种命令的状态、各种命令的解译、与特定命令相关联的错误、一些命令需要的信息等。在一个示例中，这样的确认可包括可听确认(例如，音调、说出词语等)。例如，虚拟助理可以向用户重复所解译的命令的列表作为确认(或者允许用户有机会校正、插入、取消等)。在另一示例中，可以播放确认音调以指示用户命令的有效解译。同样可以使用各种其他听觉形式的反馈。

在另一示例中，多部分命令的确认可包括触觉反馈。例如，用户设备可以振动以确认用户命令的有效解译或者指示信息的错误或缺失。触觉反馈也可以指示某些信息的模式执行，诸如，振动设定数量的脉冲，以指示所识别的命令的数量。

在又一示例中，多部分命令的确认可包括通过例如说出任务和/或将它们显示在显示器上来将任务提供至用户。具体而言，用户意图(例如，过程800的框812、814和816的第一意图和第二意图)可以与特定的虚拟助理任务相关联，并且虚拟助理可以通过例如说出和/或显示这些任务来解释这些任务并将它们提供至用户。

图13示出具有显示器1030的示例性用户设备104，所述显示器显示与多部分命令相关联的所解释的任务1360。应当理解，替代显示任务1360或除了显示该任务之外，还可以说出该任务。如图所示，三个任务被显示为对多部分命令的用户的确认。例如，可参考图12说出这样的命令，并且可包括多部分命令，诸如“将最后一封电子邮件放入垃圾邮件，并且将其发送方添加到屏蔽的列表，而且答复前三封就说我在巴厘岛度假”。可能已识别出可与图13中示出的解释任务相关联的三个子串。具体而言，第一解释任务可包括“将‘极好的新机遇’电子邮件放入垃圾邮件文件夹”，第二解释任务可包括“将‘Investor Tip Co.’添加到屏蔽的发送方列表”，以及第三解释任务可包括“发送电子邮件给Jane、Jennifer和Alan：‘我在巴厘岛度假’”。多部分用户命令的确认因而可包括针对每个解译的命令，通过将其说出和/或显示而将解释任务提供至用户。

在一些示例中，在有或没有用户语音的转录的情况下，解释任务可以显示在虚拟助理的对话界面内(例如，以会话格式)。在其他示例中，解释任务可以显示在弹出窗口、通知区域等中。在其他示例中，所显示的任务1360(或用户语音的转录)可以供选择以用于编辑、取消、排列优先级等。例如，用户可以选择任务1360中的一个任务，并且动作菜单可被提供用于编辑任务参数、取消任务、排列任务的优先级、延迟任务等。在另一示例中，默认动作可以与选择所显示的任务相关联，诸如，编辑任务、暂停任务、取消任务等。

此外，在一些示例中，可通过例如播放相关联的指示符音调、说出相关联的状态指示符或者显示相关联的指示符，将完成指示符和/或状态指示符提供至用户。图13示出与任务1360相关联的示例性指示符。在一个示例中，在过程或任务完成之后，可将完成指示符提供至用户，诸如由第一任务1360显示复选标记1362以指示完成。在另一示例中，可以播放音调或可以说出字词，以指示完成(例如，“第一任务完成”等)。

在另一示例中，在过程或任务仍在执行(完成之前)的同时，可将处理状态指示符提供至用户。可以通过发出音调或说出状态来提供状态(例如，“正在处理第二任务”等)。也可以通过显示处理状态指示符，诸如沙漏1364和/或状态条1366(或者在任务完成后即可勾上复选标记1362的空框)来提供状态。在一个示例中，沙漏1364可指示任务仍在执行。然而，在其他示例中，沙漏1364可指示需要更多信息、仍在解译请求、正在执行搜索等。状态条1366也可用于指示任务执行状态，并且可以反映特定任务的完成百分比。在其他示例中，处理状态指示符可包括动画、图表、字体变化(例如，文本颜色、大小等)，等。

也可将各种其他确认提供至用户，以传达有关多部分命令的信息(例如，照亮指示灯、以动画方式显示电子邮件被丢弃、以动画方式显示消息被编写和发送等)。此外，可以提供确认的任意组合，诸如，显示任务的列表、大声说出任务，以及显示状态和完成指示符。

此外，在一些示例中，可以在用户仍在说出命令的同时提供确认。例如，在例如检测到完整可执行命令之后，可将确认音调、触觉反馈、语音等提供至用户。具体而言，在命令正被说出时，虚拟助理可以简单地说出“好的”、播放音调、振动用户设备、显示用户语音等。这可将命令得到理解的确认提供至用户，从而允许用户在很有信心地认为虚拟助理一直在处理命令的情况下继续发出命令。

在其他示例中，虚拟助理可将它识别单一用户语音流中的多个命令的视觉确认提供至用户。图14A和图14B示出用于在用户设备104的显示器1030上传达多部分语音命令的识别的示例性虚拟助理界面1470。在一个示例中，在用户语音流内认出的不同命令可以与其他命令不同的方式强调，以指示虚拟助理已正确地认识到正在发出多部分命令。在一个示例中，可以在用户完成说话之后添加此类强调。然而，在其他示例中，用户的语音可以在用户说话时被转录，并且当转录的文本在用户设备的显示器上流式传输时，可以动态强调候选子串。用户说话时的这种动态反馈可以向用户确认，虚拟助理了解到正在发出多部分命令，从而可允许用户根据需要而有信心地继续发出命令。

图14A示出虚拟助理界面1470中以不同方式强调不同候选子串的一个示例。如图所示，界面1470可包括会话式对话界面，其中助理问候1472促使用户发出请求。转录的用户语音1474示出在用户语音被转录时用户语音中以不同方式强调候选子串的一个示例。具体而言，第一候选子串用粗体、斜体且加下划线的文本示出。第二候选子串用粗体且加下划线的文本示出。第三候选子串用斜体且加下划线的文本示出。通过这种方式，可以强调不同的候选子串或命令，以便传达虚拟助理认识到正在发出多部分命令，并且虚拟助理正确认识到各自不同的命令。

在图14A的示例中，由于用户仍可发出命令，因此转录的用户语音1474被示为未完成。具体而言，第三命令以“答复前三封就说”开始，但尚未说出相关联消息的文本。在一些示例中，可以显示自动完成建议1476，并且用户可以选择自动完成建议中的一个，以完成当前正在发出的命令。例如，用户可以轻击自动完成建议“我不在办公室”，以完成第三命令并且提供答复的消息文本。在其他示例中，自动完成建议1476可以提供与话语中的先前命令相关的示例性命令、与显示器上显示的对象相关的命令、用户频繁发出的命令等。此外，在一些示例中，自动完成建议1476可定位在正在发出的当前命令附近、与当前命令成直线，或者在相对于当前命令的另一位置处。例如，自动完成建议1476可定位在对象或部分命令附近，并且通过线或其他图形关联(例如，点)连接到所述对象或部分命令。

图14B示出虚拟助理界面1470中以不同方式强调不同候选子串的另一示例。具体而言，转录的用户语音1478示出使用标签云状群集强调不同候选子串。在一个示例中，各种命令可以通过群集在一起的每个命令的字词而在空间上分开。在一些示例中，可被编辑的字词、关键字、命令词、主语词或在其他方面重要的字词可以用粗体文本、更大字体大小等进行强调。在其他示例中，基于重要性，可以不同方式强调字词。例如，主要命令词(例如，发送)可以用最大最粗的字体显示，主语词(例如，接收方姓名)可以用中等字体显示，并且其他字词可以用小字体显示。字词可以各种方式群集在一起，包括次序颠倒并且以不同的取向。在一些示例中，基于与命令相关联的解译信心(例如，基于用户的语音，虚拟助理对于解译正确的信心程度)，可以不同方式设定不同命令的大小。命令群集可以在用户说出命令时或者在用户完成说出多部分命令之后分开并且显示。各种其他群集类型的显示器也可以用来强调多部分命令区别。

多部分命令中的不同命令或候选子串也可以多种其他方式进行强调。例如，单独命令可以被圈出、勾出或通过画出图形标记以其他方式分开(例如，围绕命令画出形状、在命令之间画出分割线或图形、将不同的命令置于不同的对话框中等)。在另一示例中，不同命令可以带有不同颜色(例如，用于第一命令的红色文本、用于第二命令的绿色文本、用于第三命令的蓝色文本等)。在又一示例中，上述方法的任意组合可用于以不同方式强调不同的候选子串、命令、任务等(例如，使用与另一群集命令在空间上分开的群集命令内的不同颜色的字词)。因此，使用上述多种视觉显示方法中的任一种，虚拟助理可以显示，在单一流中认出多个命令。此外，在其他示例中，这些视觉显示方法可以与本文论述的其他形式的反馈(例如，听觉、触觉等)组合。

图8的过程800因而可用于处理多部分命令。如上所述，并且如本领域普通技术人员将理解的，可以进行各种修改，包括移除过程800的框、更改操作的顺序、扩大各种操作的量等。

此外，在本文所述的各种示例的任一个中，可以针对特定用户将各个方面个性化。如上文所述，包括联系人、偏好、位置等的用户数据可以用来解译语音命令。根据用户偏好、联系人、文本、使用历史、配置文件数据、人口统计等，本文所述的各种过程也可以各种其他方式修改。此外，基于用户交互(例如，频繁说出的命令、频繁选择的应用程序等)，此类偏好和设置可以随时间更新。可得自各种来源的用户数据的收集和使用可用于改善将邀请内容或用户可能感兴趣的任何其他内容传送到用户。本公开预期，在一些实例中，这些所采集的数据可包括唯一地识别或可用于联系或定位特定人员的个人信息数据。此类个人信息数据可包括人口数据、基于位置的数据、电话号码、电子邮件地址、家庭地址或任何其他识别信息。

本公开认识到在本发明技术中使用此类个人信息数据可用于使用户受益。例如，该个人信息数据可用于递送用户较感兴趣的目标内容。因此，使用此类个人信息数据使得能够对所递送的内容进行有计划的控制。此外，本公开还预期个人信息数据有益于用户的其他用途。

本公开还预期负责此类个人信息数据的收集、分析、公开、传输、存储或其他用途的实体将遵守已确立的隐私政策和/或隐私实践。具体地，此类实体应当实行并坚持使用被公认为满足或超出对维护个人信息数据的隐私性和安全性的行业或政府要求的隐私政策和实践。例如，来自用户的个人信息应当被收集用于实体的合法且合理的用途，并且不在这些合法使用之外共享或出售。另外，此类收集应当仅在用户知情同意之后进行。另外，此类实体应采取任何所需的步骤，以保障和保护对此类个人信息数据的访问，并且确保能够访问个人信息数据的其他人遵守他们的隐私政策和程序。另外，这种实体可使其本身经受第三方评估以证明其遵守广泛接受的隐私政策和实践。

不管前述情况如何，本公开还预期用户选择性地阻止使用或访问个人信息数据的示例。即本公开预期可提供硬件元件和/或软件元件，以防止或阻止对此类个人信息数据的访问。例如，就广告递送服务而言，本发明的技术可被配置为在注册服务期间允许用户选择“加入”或“退出”参与对个人信息数据的收集。又如，用户可选择不为目标内容递送服务提供位置信息。再如，用户可选择不提供精确的位置信息，但准许传输位置区域信息。

因此，虽然本公开广泛地覆盖了使用个人信息数据来实现一个或多个各种所公开的示例，但本公开还预期各种示例也可在无需访问此类个人信息数据的情况下被实现。即，本发明技术的各种示例不会由于缺少此类个人信息数据的全部或一部分而无法正常进行。例如，可通过基于非个人信息数据或绝对最低限度的个人信息，诸如与用户相关联的设备所请求的内容、对内容传送服务可用的其他非个人信息或公开可用信息来推断偏好，从而选择内容并传送给用户。

根据一些示例，图15示出根据各种所述示例的原理进行配置的一种电子设备1500的功能框图。设备的功能块可以任选地由执行各种所述示例的原理的硬件、软件或硬件和软件的组合来实现。本领域的技术人员应当理解，图15中所述的功能块可以被组合或被分离为子块，以便实现各种所述示例的原理。因此，本文的描述任选地支持本文所述的功能块的任何可能的组合或分离或进一步限定。

如图15所示，电子设备1500可包括被配置为接收信息的输入单元1502(例如，用于捕获用户语音的麦克风、用于通过网络来接收用户语音的设备等)。电子设备1500还可包括被配置为输出信息的输出单元1504(例如，用于播放声音的扬声器、用于显示信息的显示器、用于通过网络来传输信息的设备等)。电子设备1500还可包括耦接至输入单元1502和输出单元1504的处理单元1506。在一些示例中，处理单元1506可包括语音输入接收单元1508、文本串生成单元1510、文本串解析单元1512、概率确定单元1514、意图确定单元1516、过程执行单元1518，以及确认提供单元1520。

处理单元1506可以被配置为(例如，使用语音输入接收单元1508通过输入单元1502)从用户接收语音输入，其中语音输入包括具有一个或多个可执行命令的单一话语。处理单元1506还可以被配置为基于语音输入使用语音转录过程来生成文本串(例如，使用文本串生成单元1510)。处理单元1506还可以被配置为将文本串(例如，使用文本串解析单元1512)解析成至少第一候选子串和第二候选子串。处理单元1506还可以被配置为(例如，使用概率确定单元1514)确定第一候选子串对应于第一可执行命令的第一概率和第二候选子串对应于第二可执行命令的第二概率。处理单元1506还可以被配置为响应于第一概率和第二概率超过阈值，(例如，使用意图确定单元1516)确定与第一候选子串相关联的第一意图和与第二候选子串相关联的第二意图。处理单元1506还可以被配置为(例如，使用过程执行单元1518执行)与第一意图相关联的第一过程和与第二意图相关联的第二过程。处理单元1506还可以被配置为将与第一意图和第二意图相关联的确认(例如，使用确认提供单元1520通过输出单元1504进行)提供至用户。

在一些示例中，(例如，使用文本串解析单元1512)将文本串解析成至少第一候选子串和第二候选子串包括，识别文本串中的与第一域对应的第一关键字以确定第一候选子串，以及识别文本串中的与第二域对应的第二关键字以确定第二候选子串。在其他示例中，(例如，使用文本串解析单元1512)将文本串解析成至少第一候选子串和第二候选子串包括，识别文本串中的第一祈使动词以确定第一候选子串，以及识别文本串中的第二祈使动词以确定第二候选子串。

在一些示例中，(例如，使用概率确定单元1514)确定第一候选子串对应于第一可执行命令的第一概率和第二候选子串对应于第二可执行命令的第二概率包括，确定第一候选子串的第一语义连贯和第二候选子串的第二语义连贯，以及基于第一语义连贯和第二语义连贯来确定第一概率和第二概率。在其他示例中，(例如，使用概率确定单元1514)确定第一候选子串对应于第一可执行命令的第一概率和第二候选子串对应于第二可执行命令的第二概率包括，将第一候选子串和第二候选子串与一个或多个用户请求模板比较，并且基于该比较来确定第一概率和第二概率。在其他示例中，(例如，使用概率确定单元1514)确定第一候选子串对应于第一可执行命令的第一概率和第二候选子串对应于第二可执行命令的第二概率包括，将第一候选子串和第二候选子串提交到至少第一服务和第二服务、接收第一服务可解决第一可执行命令的第一可能性和第二服务可解决第二可执行命令的第二可能性，以及基于第一可能性和第二可能性来确定第一概率和第二概率。

在一些示例中，(例如，使用意图确定单元1516)确定与第一候选子串相关联的第一意图和与第二候选子串相关联的第二意图包括，基于第一候选子串中的至少一个字词来确定第二意图。在其他示例中，(例如，使用意图确定单元1516)确定与第一候选子串相关联的第一意图和与第二候选子串相关联的第二意图包括，基于被显示在与电子设备相关联的显示器上的信息来确定第一意图或第二意图。在一些示例中，信息包括列表，并且(例如，使用意图确定单元1516)确定与第一候选子串相关联的第一意图和与第二候选子串相关联的第二意图包括，基于第一候选子串或第二候选子串中的顺序描述符来确定第一意图或第二意图，其中顺序描述符与列表中的一个或多个项目相关联。在其他示例中，信息包括一个或多个通知。在其他示例中，信息包括一个或多个电子邮件。在一些示例中，(例如，使用意图确定单元1516)确定与第一候选子串相关联的第一意图和与第二候选子串相关联的第二意图包括，基于被显示在显示器上的信息来确定一个或多个潜在用户请求，以及基于一个或多个潜在用户请求来确定第一意图或第二意图。

在一些示例中，确认(例如，来自确认提供单元1520)包括可听确认。在其他示例中，确认包括触觉反馈。在一些示例中，将与第一意图和第二意图相关联的确认(例如，使用确认提供单元1520通过输出单元1504)提供至用户包括，提供与第一意图相关联的第一任务和与第二意图相关联的第二任务。在一个示例中，提供与第一意图相关联的第一任务和与第二意图相关联的第二任务包括，显示第一任务和第二任务。

在一些示例中，处理单元1506还可以被配置为响应于完成第一过程，(例如，使用确认提供单元1520)提供与第一任务相关联的第一指示符，以及响应于完成第二过程，提供与第二任务相关联的第二指示符。在一个示例中，提供与第一任务相关联的第一指示符包括显示第一指示符，并且提供与第二任务相关联的第二指示符包括显示第二指示符。在其他示例中，处理单元1506还可以被配置为在完成第一过程之前(例如，使用确认提供单元1520)提供与第一任务相关联的第一处理状态指示符，以及在完成第二过程之前提供与第二任务相关联的第二处理状态指示符。在一个示例中，提供与第一任务相关联的第一处理状态指示符包括显示第一处理状态指示符，并且提供与第二任务相关联的第二处理状态指示符包括显示第二处理状态指示符。在一些示例中，第一指示符和第二指示符包括复选标记。在其他示例中，第一处理状态指示符和第二处理状态指示符包括以下各项中的一者或多者：沙漏、动画或状态条。

在其他示例中，将与第一意图和第二意图相关联的确认(例如，使用确认提供单元1520通过输出单元1504)提供至用户包括，使用第一强调来显示第一候选子串，以及使用与第一强调不同的第二强调来显示第二候选子串。在一些示例中，第一强调和第二强调包括以下各项中的一者或多者：粗体文本、斜体文本、带下划线的文本、圈出的文本、勾出的文本、彩色文本和群集的文本。

以上参考图8所述的操作任选地由图2A至图2B或图15中所描绘的部件来实现。例如，接收操作802、生成操作804、解析操作806、确定操作808-812、执行操作814和提供操作816任选地由事件分类器170、事件识别器180和事件处理程序190来实现。事件分类器170中的事件监视器171检测在触敏显示器112上的接触，并且事件分配器模块174将事件信息传送到应用程序136-1。应用程序136-1的相应事件识别器180将事件信息与相应事件定义186进行比较，并且确定触敏表面上第一位置处的第一接触是否(或该设备的旋转是否)对应于预定义的事件或子事件，诸如对用户界面上的对象的选择、或该设备从一个取向到另一个取向的旋转。当检测到相应的预定义的事件或子事件时，事件识别器180激活与对该事件或子事件的检测相关联的事件处理程序190。事件处理程序190任选地使用或调用数据更新器176或对象更新器177来更新应用程序内部状态192。在一些实施方案中，事件处理程序190访问相应GUI更新器178来更新应用程序所显示的内容。类似地，本领域的普通技术人员会清楚地知道如何可基于在图2A至图2B中所描绘的部件来实现其他过程。

出于解释的目的，前面的描述是通过参考具体实施方案来描述的。然而，上面的示例性的讨论并非旨在是穷尽的或将本发明限制为所公开的精确形式。根据以上教导内容，很多修改形式和变型形式都是可能的。选择并描述这些实施方案是为了最好地解释这些技术的原理及其实际应用。本领域的其他技术人员由此能够最好地利用这些技术以及具有适合于所预期的特定用途的各种修改的各种实施方案。

虽然参照附图对本公开以及示例进行了全面的描述，但应当注意，各种变化和修改对于本领域内的技术人员而言将变得显而易见。应当理解，此类变化和修改被认为被包括在由权利要求书所限定的本公开和示例的范围内。

Claims (46)

1.一种用于处理语音输入的方法，包括：

在电子设备处：

接收语音输入，其中所述语音输入包括具有两个或更多个可执行命令的单一话语；

使用语音转录过程、基于所述语音输入来生成文本串，其中使用一个或多个语音识别模型来执行所述语音转录过程；

识别所述文本串中的第一关键字；

识别所述文本串中的第二关键字；

至少部分地基于所述第一关键字与所述第二关键字之间的连接词的位置，将所述文本串至少解析为第一候选子串和第二候选子串；

确定与所述第一候选子串相关联的第一意图以及与所述第二候选子串相关联的第二意图，其中所述第一意图对应于所述语音输入中的第一可执行命令，并且所述第二意图对应于所述语音输入中的第二可执行命令，其中所述第一意图和所述第二意图基于知识本体的一个或多个节点而被确定；以及

执行由所述第一意图识别的第一过程以及由所述第二意图识别的第二过程。

2.根据权利要求1所述的方法，其中所述第一关键字对应于第一域，并且所述第二关键字对应于第二域。

3.根据权利要求1至2中任一项所述的方法，其中所述第一关键字是第一祈使动词，并且所述第二关键字是第二祈使动词。

4.根据权利要求1至2中任一项所述的方法，其中确定与所述第一候选子串相关联的所述第一意图以及与所述第二候选子串相关联的所述第二意图包括：

基于所述第一候选子串中的至少一个字词来确定所述第二意图。

5.根据权利要求1至2中任一项所述的方法，其中确定与所述第一候选子串相关联的所述第一意图以及与所述第二候选子串相关联的所述第二意图包括：

基于被显示在与所述电子设备相关联的显示器上的信息来确定所述第一意图或所述第二意图。

6.根据权利要求5所述的方法，其中所述信息包括列表；以及

其中确定与所述第一候选子串相关联的所述第一意图以及与所述第二候选子串相关联的所述第二意图包括：

基于所述第一候选子串或所述第二候选子串中的顺序描述符来确定所述第一意图或所述第二意图，其中所述顺序描述符与所述列表中的一个或多个项目相关联。

7.根据权利要求5所述的方法，其中所述信息包括一个或多个通知。

8.根据权利要求5所述的方法，其中所述信息包括一个或多个电子邮件。

9.根据权利要求5所述的方法，其中确定与所述第一候选子串相关联的所述第一意图以及与所述第二候选子串相关联的所述第二意图包括：

基于被显示在所述显示器上的所述信息来确定一个或多个潜在用户请求；以及

基于所述一个或多个潜在用户请求来确定所述第一意图或所述第二意图。

10.根据权利要求1至2中任一项所述的方法，还包括：

提供对所述第一过程和所述第二过程至少已开始被执行的确认。

11.根据权利要求10所述的方法，其中提供与所述第一意图和所述第二意图相关联的所述确认包括：

提供与所述第一意图相关联的第一任务以及与所述第二意图相关联的第二任务。

12.根据权利要求11所述的方法，还包括：

响应于完成所述第一过程，提供与所述第一任务相关联的第一指示符；以及

响应于完成所述第二过程，提供与所述第二任务相关联的第二指示符。

13.根据权利要求11所述的方法，还包括：

在完成所述第一过程之前，提供与所述第一任务相关联的第一处理状态指示符；以及

在完成所述第二过程之前，提供与所述第二任务相关联的第二处理状态指示符。

14.根据权利要求10所述的方法，其中提供与所述第一意图和所述第二意图相关联的所述确认包括：

使用第一强调来显示所述第一候选子串，以及使用与所述第一强调不同的第二强调来显示所述第二候选子串。

15.根据权利要求14所述的方法，其中所述第一强调和所述第二强调中的每个强调包括以下各项中的一项或多项：粗体文本、斜体文本、带下划线的文本、圈出的文本、勾出的文本、彩色文本和群集的文本。

16.一种计算机可读存储介质，存储被配置为由电子设备的一个或多个处理器执行的一个或多个程序，所述一个或多个程序包括用于进行以下操作的指令：

接收语音输入，其中所述语音输入包括具有两个或更多个可执行命令的单一话语；

使用语音转录过程、基于所述语音输入来生成文本串，其中使用一个或多个语音识别模型来执行所述语音转录过程；

识别所述文本串中的第一关键字；

识别所述文本串中的第二关键字；

至少部分地基于所述第一关键字与所述第二关键字之间的连接词的位置，将所述文本串至少解析为第一候选子串和第二候选子串；

确定与所述第一候选子串相关联的第一意图以及与所述第二候选子串相关联的第二意图，其中所述第一意图对应于所述语音输入中的第一可执行命令，并且所述第二意图对应于所述语音输入中的第二可执行命令，其中所述第一意图和所述第二意图基于知识本体的一个或多个节点而被确定；以及

执行由所述第一意图识别的第一过程以及由所述第二意图识别的第二过程。

17.根据权利要求16所述的计算机可读存储介质，其中所述第一关键字对应于第一域，并且所述第二关键字对应于第二域。

18.根据权利要求16至17中任一项所述的计算机可读存储介质，其中所述第一关键字是第一祈使动词，并且所述第二关键字是第二祈使动词。

19.根据权利要求16至17中任一项所述的计算机可读存储介质，其中确定与所述第一候选子串相关联的所述第一意图以及与所述第二候选子串相关联的所述第二意图包括：

基于所述第一候选子串中的至少一个字词来确定所述第二意图。

20.根据权利要求16至17中任一项所述的计算机可读存储介质，其中确定与所述第一候选子串相关联的所述第一意图以及与所述第二候选子串相关联的所述第二意图包括：

基于被显示在与所述电子设备相关联的显示器上的信息来确定所述第一意图或所述第二意图。

21.根据权利要求20所述的计算机可读存储介质，其中所述信息包括列表；以及

其中确定与所述第一候选子串相关联的所述第一意图以及与所述第二候选子串相关联的所述第二意图包括：

基于所述第一候选子串或所述第二候选子串中的顺序描述符来确定所述第一意图或所述第二意图，其中所述顺序描述符与所述列表中的一个或多个项目相关联。

22.根据权利要求20所述的计算机可读存储介质，其中所述信息包括一个或多个通知。

23.根据权利要求20所述的计算机可读存储介质，其中所述信息包括一个或多个电子邮件。

24.根据权利要求20所述的计算机可读存储介质，其中确定与所述第一候选子串相关联的所述第一意图以及与所述第二候选子串相关联的所述第二意图包括：

基于被显示在所述显示器上的所述信息来确定一个或多个潜在用户请求；以及

基于所述一个或多个潜在用户请求来确定所述第一意图或所述第二意图。

25.根据权利要求16至17中任一项所述的计算机可读存储介质，其中所述一个或多个程序还包括用于进行以下操作的指令：

提供对所述第一过程和所述第二过程至少已开始被执行的确认。

26.根据权利要求25所述的计算机可读存储介质，其中提供与所述第一意图和所述第二意图相关联的所述确认包括：

提供与所述第一意图相关联的第一任务以及与所述第二意图相关联的第二任务。

27.根据权利要求26所述的计算机可读存储介质，其中所述一个或多个程序还包括用于进行以下操作的指令：

响应于完成所述第一过程，提供与所述第一任务相关联的第一指示符；以及

响应于完成所述第二过程，提供与所述第二任务相关联的第二指示符。

28.根据权利要求26所述的计算机可读存储介质，其中所述一个或多个程序还包括用于进行以下操作的指令：

在完成所述第一过程之前，提供与所述第一任务相关联的第一处理状态指示符；以及

在完成所述第二过程之前，提供与所述第二任务相关联的第二处理状态指示符。

29.根据权利要求25所述的计算机可读存储介质，其中提供与所述第一意图和所述第二意图相关联的所述确认包括：

使用第一强调来显示所述第一候选子串，以及使用与所述第一强调不同的第二强调来显示所述第二候选子串。

30.根据权利要求29所述的计算机可读存储介质，其中所述第一强调和所述第二强调中的每个强调包括以下各项中的一项或多项：粗体文本、斜体文本、带下划线的文本、圈出的文本、勾出的文本、彩色文本和群集的文本。

31.一种电子设备，包括：

一个或多个处理器；

存储器，存储一个或多个程序，所述一个或多个程序被配置为由所述一个或多个处理器执行，所述一个或多个程序包括用于进行以下操作的指令：

接收语音输入，其中所述语音输入包括具有两个或更多个可执行命令的单一话语；

使用语音转录过程、基于所述语音输入来生成文本串，其中使用一个或多个语音识别模型来执行所述语音转录过程；

识别所述文本串中的第一关键字；

识别所述文本串中的第二关键字；

至少部分地基于所述第一关键字与所述第二关键字之间的连接词的位置，将所述文本串至少解析为第一候选子串和第二候选子串；

确定与所述第一候选子串相关联的第一意图以及与所述第二候选子串相关联的第二意图，其中所述第一意图对应于所述语音输入中的第一可执行命令，并且所述第二意图对应于所述语音输入中的第二可执行命令，其中所述第一意图和所述第二意图基于知识本体的一个或多个节点而被确定；以及

执行由所述第一意图识别的第一过程以及由所述第二意图识别的第二过程。

32.根据权利要求31所述的电子设备，其中所述第一关键字对应于第一域，并且所述第二关键字对应于第二域。

33.根据权利要求31至32中任一项所述的电子设备，其中所述第一关键字是第一祈使动词，并且所述第二关键字是第二祈使动词。

34.根据权利要求31至32中任一项所述的电子设备，其中确定与所述第一候选子串相关联的所述第一意图以及与所述第二候选子串相关联的所述第二意图包括：

基于所述第一候选子串中的至少一个字词来确定所述第二意图。

35.根据权利要求31至32中任一项所述的电子设备，其中确定与所述第一候选子串相关联的所述第一意图以及与所述第二候选子串相关联的所述第二意图包括：

基于被显示在与所述电子设备相关联的显示器上的信息来确定所述第一意图或所述第二意图。

36.根据权利要求35所述的电子设备，其中所述信息包括列表；以及

其中确定与所述第一候选子串相关联的所述第一意图以及与所述第二候选子串相关联的所述第二意图包括：

基于所述第一候选子串或所述第二候选子串中的顺序描述符来确定所述第一意图或所述第二意图，其中所述顺序描述符与所述列表中的一个或多个项目相关联。

37.根据权利要求35所述的电子设备，其中所述信息包括一个或多个通知。

38.根据权利要求35所述的电子设备，其中所述信息包括一个或多个电子邮件。

39.根据权利要求35所述的电子设备，其中确定与所述第一候选子串相关联的所述第一意图以及与所述第二候选子串相关联的所述第二意图包括：

基于被显示在所述显示器上的所述信息来确定一个或多个潜在用户请求；以及

基于所述一个或多个潜在用户请求来确定所述第一意图或所述第二意图。

40.根据权利要求31至32中任一项所述的电子设备，其中所述一个或多个程序还包括用于进行以下操作的指令：

提供对所述第一过程和所述第二过程至少已开始被执行的确认。

41.根据权利要求40所述的电子设备，其中提供与所述第一意图和所述第二意图相关联的所述确认包括：

提供与所述第一意图相关联的第一任务以及与所述第二意图相关联的第二任务。

42.根据权利要求41所述的电子设备，其中所述一个或多个程序还包括用于进行以下操作的指令：

响应于完成所述第一过程，提供与所述第一任务相关联的第一指示符；以及

响应于完成所述第二过程，提供与所述第二任务相关联的第二指示符。

43.根据权利要求41所述的电子设备，其中所述一个或多个程序还包括用于进行以下操作的指令：

在完成所述第一过程之前，提供与所述第一任务相关联的第一处理状态指示符；以及

在完成所述第二过程之前，提供与所述第二任务相关联的第二处理状态指示符。

44.根据权利要求40所述的电子设备，其中提供与所述第一意图和所述第二意图相关联的所述确认包括：

使用第一强调来显示所述第一候选子串，以及使用与所述第一强调不同的第二强调来显示所述第二候选子串。

45.根据权利要求44所述的电子设备，其中所述第一强调和所述第二强调中的每个强调包括以下各项中的一项或多项：粗体文本、斜体文本、带下划线的文本、圈出的文本、勾出的文本、彩色文本和群集的文本。

46.一种电子设备，包括：

用于执行根据权利要求1至2中任一项所述的方法的装置。