CN108874766A - 用于数字助理服务中的语音匹配的方法和系统 - Google Patents

Abstract

本发明题为“用于数字助理服务中的语音匹配的方法和系统”。本发明提供了用于操作智能自动助理以基于语音匹配技术来提供媒体项目的系统和过程。示例性方法包括接收来自用户的言语输入和确定该言语输入是否包括对媒体项目的用户请求。该方法还包括根据确定所述言语输入包括对获得媒体项目的用户请求，从多个媒体项目来确定候选媒体项目。该方法进一步包括基于候选媒体项目的语音表示和言语输入的语音表示之间的差值来确定是否要将候选媒体项目提供给用户。该方法进一步包括根据确定要将候选媒体项目提供给用户，将所述候选媒体项目提供给所述用户。

Description

用于数字助理服务中的语音匹配的方法和系统

相关专利申请的交叉引用

本专利申请要求提交于2017年9月13日的名称为“METHODS AND SYSTEMS FORPHONETIC MATCHING IN DIGITAL ASSISTANT SERVICES”的美国非临时专利申请15/703,013的优先权，此非临时专利申 请要求提交于2017年5月16日的名称为“METHODS ANDSYSTEMS FOR PHONETIC MATCHING IN DIGITAL ASSISTANT SERVICES”的美 国临时专利申请62/506,871和提交于2017年9月7日的名称为 “METHODS AND SYSTEMS FOR PHONETICMATCHING IN DIGITAL ASSISTANT SERVICES”的美国临时专利申请62/555,311的优先权。

技术领域

本发明整体涉及智能自动化助理，并且更具体地涉及用于基于语音匹 配技术来提供媒体项目的智能自动化助理。

背景技术

智能自动化助理(或数字助理)可在人类用户与电子设备之间提供有 利界面。此类助理可允许用户使用自然语言以口语形式和/或文本形式与设 备或系统进行交互。例如，用户可向正在电子设备上运行的数字助理提供 包含用户请求的言语输入。数字助理可从该言语输入解译用户意图并且将 用户意图操作化成任务。随后可通过执行电子设备的一项或多项服务来执 行这些任务，并且可将响应于用户请求的相关输出返回给用户。

数字助理可用于基于用户的言语输入获得媒体项目。例如，在尝试获 得一首歌曲时，用户可说出“播放21Savage演唱的Skrrt Skrrt”。由于多 种原因(例如，发音的相似性、可用媒体项目的名称的相似性、缺少意图推 断的上下文信息)，对用于获得媒体项目的言语输入的用户意图解读可能是 很困难而且不准确的。不准确的用户意图可能使得数字助理获得不正确的 媒体项目或无法获得任何媒体项目。在上述示例中，如果数字助理将用户意图解读为“Kodak Black演唱的Skirt”或“Kodak Black演唱的Skrrt”或 “21Savage演唱的Skrt Skrt”，则数字助理可能无法获得正确的媒体项 目。又如，用户可能想要名称为“Zedd的Candyman”的专辑，而数字助 理可能错误地解读为“Zedd的Candy Man”，这就可能无法识别并返回正 确的专辑。

发明内容

本公开提供了用于提供数字助理服务以获得媒体项目的系统和过程。

本文公开了示例性方法。一种示例性方法包括在具有一个或多个处理 器的电子设备处，接收来自用户的言语输入和确定该言语输入是否包括对 媒体项目的用户请求。该方法还包括根据确定所述言语输入包括对获得媒 体项目的用户请求，从多个媒体项目来确定候选媒体项目。该方法还包括 基于候选媒体项目的语音表示和言语输入的语音表示之间的差值，确定是 否要将候选媒体项目提供给用户。该方法还包括根据确定要将候选媒体项 目提供给用户，将所述候选媒体项目提供给所述用户。

本文公开了示例性非暂态计算机可读介质。公开了一种存储一个或多 个程序的示例性非暂态计算机可读存储介质。一个或多个程序包括指令， 该指令当由电子设备的一个或多个处理器执行时使得电子设备接收来自用 户的言语输入并确定该言语输入是否包括对媒体项目的用户请求。一个或 多个程序还包括指令，该指令使得电子设备根据确定言语输入包括对获得 媒体项目的用户请求，从多个媒体项目来确定候选媒体项目。一个或多个 程序还包括指令，该指令使得电子设备基于候选媒体项目的语音表示和言 语输入的语音表示之间的差值，确定是否要将候选媒体项目提供给用户。 一个或多个程序还包括指令，该指令使得电子设备根据确定要将候选媒体 项目提供给用户，将候选媒体项目提供给用户。

本文公开了示例性电子设备。一种示例性电子设备包括一个或多个处 理器；存储器；一个或多个程序，其中所述一个或多个程序被存储在所述 存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序 包括用于接收来自用户的言语输入并确定所述言语输入是否包括对媒体项 目的用户请求的指令。一个或多个程序还包括指令，该指令用于根据确定 所述言语输入包括对获得媒体项目的用户请求，从多个媒体项目来确定候 选媒体项目。一个或多个程序还包括指令，该指令用于基于候选媒体项目 的语音表示和言语输入的语音表示之间的差值，确定是否要将候选媒体项 目提供给用户。一个或多个程序还包括指令，该指令用于根据确定要将候 选媒体项目提供给用户，将候选媒体项目提供给用户。

一种示例性电子设备包括用于接收来自用户的言语输入和确定所述言 语输入是否包括对媒体项目的用户请求的装置。该电子设备还包括用于根 据确定所述言语输入包括对获得媒体项目的用户请求，从多个媒体项目来 确定候选媒体项目的装置。该电子设备还包括用于基于候选媒体项目的语 音表示和言语输入的语音表示之间的差值，确定是否要将候选媒体项目提 供给用户的装置。该电子设备还包括用于根据确定要将候选媒体项目提供 给用户，将所述候选媒体项目提供给所述用户的装置。

语音匹配技术可用于提高基于言语输入来获得媒体项目的准确度。如 上所述，基于用户的言语输入获得媒体项目可与用户意图解读中的难度相 关联，这就导致无法获得正确的媒体项目。可施用语音匹配技术以确定从 媒体项目的储存库中所获得候选媒体项目的语音表示和言语输入的语音表 示之间的差值，从而确定是否应将候选媒体项目提供给用户。在某些情况 下，候选媒体项目可表示储存库中的最佳可用媒体项目，但可能仍不是用 户预期的媒体项目。通过执行语音匹配，可使获得与用户意图不相匹配的 媒体项目的错误率降低。此外，语音匹配增强了设备的可操作性并使得用 户设备界面更为有效(例如，通过降低获得不正确的媒体项目的错误率)，这 就通过使用户更快速高效地使用设备进一步降低了用电量并提高了设备的 电池寿命。

附图说明

图1是示出根据各种示例的用于实现数字助理的系统和环境的框图。

图2A是示出根据各种示例的实现数字助理的客户端侧部分的便携式 多功能设备的框图。

图2B是示出根据各种示例的用于事件处理的示例性部件的框图。

图3示出了根据各种示例的实现数字助理的客户端侧部分的便携式多 功能设备。

图4是根据各种示例的具有显示器和触敏表面的示例性多功能设备的 框图。

图5A示出了根据各种示例的便携式多功能设备上的应用程序菜单的 示例性用户界面。

图5B示出了根据各种示例的具有与显示器分开的触敏表面的多功能设 备的示例性用户界面。

图6A示出了根据各种示例的个人电子设备。

图6B是示出根据各种示例的个人电子设备的框图。

图7A是示出根据各种示例的数字助理系统或其服务器部分的框图。

图7B示出了根据各种示例的图7A所示的数字助理的功能。

图7C示出了根据各种示例的知识本体的一部分。

图8示出了根据各种示例的用于基于语音匹配技术提供媒体项目的数 字助理的框图。

图9示出了根据各种示例的用于接收来自用户的言语输入的数字助理 的框图。

图10示出了根据各种示例的请求检测器的框图。

图11A示出了根据各种示例的媒体项目搜索引擎的框图。

图11B示出了根据各种示例的用于生成语音图的框图。

图11C示出了根据各种示例的用于示例性言语输入的示例性语音图。

图11D示出了根据各种示例的另一示例性语音图。

图12A-图12E示出了根据各种示例的用于操作数字助理以基于言语输 入来提供媒体项目的过程。

具体实施方式

在以下对示例的描述中将引用附图，在附图中以例示的方式示出了可 被实施的特定示例。应当理解，在不脱离各个示例的范围的情况下，可使 用其他示例并且可作出结构性变更。

期望用于基于用户的言语输入向用户提供媒体项目的技术。语音匹配 技术可用于提高获得媒体项目的准确度。在一些示例中，从用户接收到言 语输入并据此确定该言语输入是否包括对媒体项目的用户请求。如果该言 语输入包括对媒体项目的用户请求，则根据媒体项目的储存库确定候选媒 体项目。候选媒体项目可表示从该言语输入得出的所请求的媒体项目和储 存库中可获得的媒体项目之间的最接近匹配。可施用语音匹配技术以确定 候选媒体项目的语音表示和言语输入的语音表示之间的差值，从而确定是 否应将候选媒体项目提供给用户。如果差值不满足阈值条件，则候选媒体 项目很可能与用户请求不匹配，从而将不被提供给用户。语音匹配技术可 减少获得媒体项目中的错误率并提高用户交互效率。

尽管以下描述使用术语第一、第二等来描述各种元素，但这些元素不 应受术语的限制。这些术语只是用于将一个元件与另一元件区分开。例 如，在不脱离各种所述示例的范围的情况下，第一输入可被称为第二输 入，并且类似地，第二输入可被称为第一输入。第一输入和第二输入均为 输入，并且在一些情况下为独立且不同的输入。

在本文中对各种所述示例的描述中所使用的术语只是为了描述特定示 例，而并非旨在进行限制。如在对各种所述示例的描述和所附权利要求书 中所使用的那样，单数形式“一个”和“该”旨在也包括复数形式，除非 上下文另外明确地指示。还应当理解，本文中所使用的术语“和/或”是指 并且涵盖相关联地列出的项目中的一个或多个项目的任何和全部可能的组 合。还将理解的是，术语“包括”和/或“包含”当在本说明书中使用时指 定存在所陈述的特征、整数、步骤、操作、元素、和/或部件，但是并不排 除存在或添加一个或多个其他特征、整数、步骤、操作、元素、部件、和/ 或其分组。

根据上下文，术语“如果”可被解释为意指“当...时”、“在...时”或 “响应于确定”或“响应于检测到”。类似地，根据上下文，短语“如果 确定...”或“如果检测到[所陈述的条件或事件]”可以、被解释为意指“在 确定...时”或“响应于确定...”或“在检测到[所陈述的条件或事件]时”或 “响应于检测到[所陈述的条件或事件]”。

1.系统和环境

图1示出了根据各种示例的系统100的框图。在一些示例中，系统100 实现数字助理。术语“数字助理”、“虚拟助理”、“智能自动化助理” 或“自动数字助理”是指解译口头形式和/或文本形式的自然语言输入来推 断用户意图并基于推断出的用户意图来执行动作的任何信息处理系统。例 如，为了作用于推断出的用户意图，系统执行下述步骤中的一个或多个： 识别具有设计用于实现推断出的用户意图的步骤和参数的任务流，根据推 断出的用户意图将特定要求输入到任务流中；通过调用程序、方法、服 务、API等来执行任务流；以及以可听(例如，言语)和/或可视形式来生 成对用户的输出响应。

具体地讲，数字助理能够接受至少部分地为自然语言命令、请求、声 明、讲述和/或询问的形式的用户请求。通常，用户请求要么寻求数字助理 作出信息性回答，要么寻求数字助理执行任务。对用户请求的令人满意的 响应包括提供所请求的信息性回答、执行所请求的任务或这两者的组合。 例如，用户向数字助理提出问题，诸如“我现在在哪里？”。基于用户的当 前位置，数字助理回答“你在中央公园西门附近。”用户还请求执行任 务，例如“请邀请我的朋友们下周来参加我女朋友的生日聚会。”作为响 应，数字助理可通过讲出“好的，马上”来确认请求，并然后代表用户将 合适的日历邀请发送至用户的电子通讯录中列出的用户朋友中的每个朋 友。在执行所请求的任务期间，数字助理有时在很长时间段内在涉及多次 信息交换的持续对话中与用户进行交互。存在与数字助理进行交互以请求 信息或执行各种任务的许多其他方法。除提供口头响应并采取经编程的行 动之外，数字助理还提供其他视频或音频形式的响应，例如作为文本、警 报、音乐、视频、动画等。

如图1所示，在一些示例中，数字助理根据客户端-服务器模型来实 现。数字助理包括在用户设备104上执行的客户端侧部分102(后文称作 “DA客户端102”)以及在服务器系统108上执行的服务器侧部分106 (后文称作“DA服务器106”)。DA客户端102通过一个或多个网络110 与DA服务器106通信。DA客户端102提供客户端侧功能，诸如面向用户 的输入和输出处理，以及与DA服务器106通信。DA服务器106为各自位 于相应用户设备104上的任意数量的DA客户端102提供服务器侧功能。

在一些示例中，DA服务器106包括面向客户端的I/O接口112、一个 或多个处理模块114、数据与模型116，以及到外部服务的I/O接口118。 面向客户端的I/O接口112有利于DA服务器106的面向客户端的输入和输 出处理。一个或多个处理模块114利用数据与模型116来处理言语输入， 并基于自然语言输入来确定用户意图。此外，一个或多个处理模块114基 于推断出的用户意图来进行任务执行。在一些示例中，DA服务器106通过 一个或多个网络110与外部服务120通信以完成任务或采集信息。到外部 服务的I/O接口118促成此类通信。

用户设备104可以是任何合适的电子设备。在一些示例中，用户设备 是便携式多功能设备(例如，下面参考图2A描述的设备200)、多功能设 备(例如，下面参考图4描述的设备400)或个人电子设备(例如，下面参 考图6A至图6B描述的设备600)。便携式多功能设备是例如还包含诸如 PDA和/或音乐播放器功能的其他功能的移动电话。便携式多功能设备的特 定示例包括来自Apple Inc.(Cupertino,California)的iPod 和设备。便携式多功能设备的其他示例包括但不限于膝上型电脑或平板 电脑。此外，在一些示例中，用户设备104是非便携式多功能设备。具体 地讲，用户设备104是台式计算机、游戏机、电视或电视机顶盒。在一些 示例中，用户设备104包括触敏表面(例如，触摸屏显示器和/或触控 板)。此外，用户设备104任选地包括一个或多个其他物理用户接口设 备，诸如物理键盘、鼠标和/或操纵杆。下文更详细地描述了电子设备诸如 多功能设备的各种示例。

一个或多个通信网络110的示例包括局域网(LAN)和广域网(WAN)， 例如互联网。一个或多个通信网络110使用任何已知的网络协议来实现， 包括各种有线或无线协议，诸如以太网、通用串行总线(USB)、火线 (FIREWIRE)、全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、 码分多址(CDMA)、时分多址(TDMA)、蓝牙、Wi-Fi、互联网协议语音(VoIP)、Wi-MAX或任何其他合适的通信协议。

服务器系统108在一个或多个独立式数据处理设备或分布式计算机网 络上实现。在一些示例中，服务器系统108还采用第三方服务提供方(例 如，第三方云服务提供方)的各种虚拟设备和/或服务来提供服务器系统 108的潜在计算资源和/或基础结构资源。

在一些示例中，用户设备104经由第二用户设备122与DA服务器106 通信。第二用户设备122与用户设备104相似或相同。例如，第二用户设 备122类似于下文参考图2A、图4和图6A至图6B描述的设备200、设备 400或设备600。用户设备104被配置为经由直接通信连接诸如蓝牙、 NFC、BTLE等或者经由有线或无线网络诸如局域Wi-Fi网络而通信耦接到 第二用户设备122。在一些示例中，第二用户设备122被配置为充当用户设 备104与DA服务器106之间的代理。例如，用户设备104的DA客户端 102被配置为经由第二用户设备122向DA服务器106传输信息(例如，在 用户设备104处接收的用户请求)。DA服务器106处理该信息，并经由第 二用户设备122将相关数据(例如，响应于用户请求的数据内容)返回到 用户设备104。

在一些示例中，用户设备104可被配置为将针对数据的缩略请求发送 到第二用户设备122，以减少从用户设备104传输的信息量。第二用户设备 122被配置为确定添加到缩略请求的补充信息，以生成完整的请求来传输到 DA服务器106。该系统架构可有利地通过使用具有较强通信能力和/或电池 电力的第二用户设备122(例如，移动电话、膝上型计算机、平板电脑等) 作为至DA服务器106的代理而允许具有有限通信能力和/或有限电池电力的用户设备104(例如，手表或类似的紧凑型电子设备)访问由DA服务器 106所提供的服务。虽然图1中仅示出两个用户设备104和122，但应当理 解，在一些示例中，系统100可包括在此代理配置中被配置为与DA服务 器系统106通信的任意数量和类型的用户设备。

虽然图1中所示的数字助理包括客户端侧部分(例如，DA客户端 102)和服务器侧部分(例如，DA服务器106)两者，但在一些示例中， 数字助理的功能被实现为被安装在用户设备上的独立式应用程序。此外， 数字助理的客户端部分与服务器部分之间的功能划分在不同的具体实施中 可变化。例如，在一些示例中，DA客户端为仅提供面向用户的输入和输出 处理功能，并将数字助理的所有其他功能委派给后端服务器的瘦客户端。

2.电子设备

现在将注意力转至用于实现数字助理的客户端侧部分的电子设备的实 施方案。图2A是示出了根据一些实施方案的具有触敏显示系统212的便携 式多功能设备200的框图。触敏显示器212有时为了方便被叫做“触摸 屏”，并且有时可被称为或被叫做“触敏显示器系统”。设备200包括存 储器202(其任选地包括一个或多个计算机可读存储介质)、存储器控制器 222、一个或多个处理单元(CPU)220、外围设备接口218、RF电路208、音 频电路210、扬声器211、麦克风213、输入/输出(I/O)子系统206、其他输 入控制设备216、和外部端口224。设备200任选地包括一个或多个光学传 感器264。设备200任选地包括用于检测设备200(例如，触敏表面，诸如 设备200的触敏显示器系统212)上的接触的强度的一个或多个接触强度传 感器265。设备200任选地包括用于在设备200上生成触觉输出的一个或多 个触觉输出发生器267(例如在触敏表面诸如设备200的触敏显示器系统 212或设备400的触摸板455上生成触觉输出)。这些部件任选地通过一个 或多个通信总线或信号线203进行通信。

如在本说明书和权利要求书中所使用的那样，触敏表面上的接触的术 语“强度”是指触敏表面上的接触(例如，手指接触)的力或压力(每单 位面积的力)，或是指触敏表面上的接触的力或压力的替代物(代用 物)。接触的强度具有值范围，该值范围包括至少四个不同值并且更典型 地包括上百个不同值(例如，至少256个)。接触的强度任选地使用各种方法和各种传感器或传感器的组合来确定(或测量)。例如，在触敏表面 下方或相邻于触敏表面的一个或多个力传感器任选地用于测量触敏表面上 的不同点处的力。在一些具体实施中，来自多个力传感器的力测量被合并 (例如，加权平均)，以确定估计的接触力。类似地，触笔的压敏顶端任 选地用于确定触笔在触敏表面上的压力。另选地，在触敏表面上检测到的 接触区域的大小和/或其变化、接触附近的触敏表面的电容和/或其变化、和 /或接触附近的触敏表面的电阻和/或其变化任选地被用作触敏表面上的接触 的力或压力的替代。在一些具体实施中，接触力或压力的替代测量值直接 用于确定是否已超出强度阈值(例如，强度阈值以与替代测量值对应的单 位描述)。在一些具体实施中，接触力或压力的替代测量被转换成估计的 力或压力，并且估计的力或压力用于确定是否已超过强度阈值(例如，强 度阈值是以压力的单位进行测量的压力阈值)。使用接触强度作为用户输 入的属性，从而允许用户访问用户在尺寸更小的设备上可能本来不能访问 的附加设备功能，该尺寸更小的设备具有有限的实地面积以用于(例如， 在触敏显示器上)显示示能表示和/或接收用户输入(例如，经由触敏显示 器、触敏表面或物理控件/机械控件，诸如旋钮或按钮)。

如本说明书和权利要求书中所使用的，术语“触觉输出”是指将由用 户利用用户的触感检测到的设备相对于设备的先前位置的物理位移、设备 的部件(例如，触敏表面)相对于设备的另一个部件(例如，外壳)的物 理位移、或部件相对于设备的质心的位移。例如，在设备或设备的部件与 用户的对触摸敏感的表面(例如，手指、手掌或用户手部的其他部分)接 触的情况下，通过物理位移生成的触觉输出将由用户解释为触感，该触感 对应于设备或设备部件的物理特征所感知的变化。例如，触敏表面(例 如，触敏显示器或触控板)的移动任选地由用户解释为对物理致动按钮的 “按下点击”或“松开点击”。在一些情况下，用户将感觉到触感，诸如 “按下点击”或“松开点击”，即使在通过用户的移动而物理地被按压(例如，被移位)的与触敏表面相关联的物理致动按钮没有移动时。作为 另一个示例，即使在触敏表面的光滑度无变化时，触敏表面的移动也将任 选地由用户解释为或感测为触敏表面的“粗糙度”。虽然由用户对触摸的 此类解释将受到用户的个体化感官知觉的限制，但是存在触摸的许多感官 知觉是大多数用户共有的。因此，当触觉输出被描述为对应于用户的特定 感官知觉(例如，“按下点击”、“松开点击”、“粗糙度”)时，除非 另外陈述，否则所生成的触觉输出对应于设备或其部件的物理位移，该物 理位移将会生成典型(或普通)用户的所述感官知觉。

应当理解，设备200仅是便携式多功能设备的一个示例，并且设备 200任选地具有比所示出的更多或更少的部件，任选地组合两个或更多个部 件，或者任选地具有这些部件的不同配置或布置。图2A中所示的各种部件 以硬件、软件、或硬件与软件两者的组合来实现，包括一个或多个信号处 理电路和/或专用集成电路。

存储器202包括一个或多个计算机可读存储介质。这些计算机可读存 储介质例如为有形的和非暂态的。存储器202包括高速随机存取存储器， 并且还包括非易失性存储器，诸如一个或多个磁盘存储设备、闪存存储器 设备或其他非易失性固态存储器设备。存储器控制器222控制设备200的 其他部件访问存储器202。

在一些示例中，存储器202的非暂态计算机可读存储介质用于存储指 令(例如，用于执行下文描述的过程的各方面)以供指令执行系统、装置 或设备诸如基于计算机的系统、包含处理器的系统或可从指令执行系统、 装置或设备取出指令并执行指令的其他系统使用或与其结合使用。在其他 示例中，指令(例如，用于执行下文描述的过程的各方面)存储在服务器 系统108的非暂态计算机可读存储介质(未示出)上，或在存储器202的 非暂态计算机可读存储介质与服务器系统108的非暂态计算机可读存储介 质之间划分。

外围设备接口218用于将该设备的输入和输出外围设备耦接到CPU 220和存储器202。一个或多个处理器220运行或执行存储在存储器202中 的各种软件程序和/或指令集以执行设备200的各种功能并处理数据。在一 些实施方案中，外围设备接口218、CPU 220和存储器控制器222在单个芯 片诸如芯片204上实现。在一些其他实施方案中，它们在独立的芯片上实 现。

RF(射频)电路208接收和发送又称电磁信号的RF信号。RF电路 208将电信号转换为电磁信号/将电磁信号转换为电信号，并且经由电磁信 号来与通信网络以及其他通信设备进行通信。RF电路208任选地包括用于 执行这些功能的熟知的电路，包括但不限于天线系统、RF收发器、一个或 多个放大器、调谐器、一个或多个振荡器、数字信号处理器、编解码芯片 组、用户身份模块(SIM)卡、存储器等等。RF电路208任选地通过无线通 信来与网络以及其他设备进行通信，该网络为诸如互联网(也被称为万维 网(WWW))、内联网和/或无线网络(诸如蜂窝电话网络、无线局域网 (LAN)和/或城域网(MAN))。RF电路208任选地包括用于检测近场通信 (NFC)场的熟知的电路，诸如通过近程通信无线电部件来进行检测。无线通信任选地使用多种通信标准、协议和技术中的任一种，包括但不限于全球 移动通信系统(GSM)、增强型数据GSM环境(EDGE)、高速下行链路分组接 入(HSDPA)、高速上行链路分组接入(HSUPA)、演进、纯数据(EV-DO)、 HSPA、HSPA+、双小区HSPA(DC-HSPDA)、长期演进(LTE)、近场通信 (NFC)、宽带码分多址(W-CDMA)、码分多址(CDMA)、时分多址 (TDMA)、蓝牙、蓝牙低功耗(BTLE)、无线保真(Wi-Fi)(例如，IEEE 802.11a、IEEE 802.11b、IEEE 802.11g、IEEE802.11n和/或IEEE 802.11ac)、互联网协议语音(VoIP)、Wi-MAX、电子邮件协议(例如，互联网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如，可扩 展消息处理和存在协议(XMPP)、用于即时消息和存在利用扩展的会话发起 协议(SIMPLE)、即时消息和存在服务(IMPS))和/或短消息服务(SMS)，或 者任何其他适当的通信协议，包括在本文档提交日期时尚未开发出的通信 协议。

音频电路210、扬声器211和麦克风213提供用户和设备200之间的音 频接口。音频电路210从外围设备接口218接收音频数据，将音频数据转 换为电信号，并将电信号传输到扬声器211。扬声器211将电信号转换为人 类可听的声波。音频电路210还接收由麦克风213根据声波转换的电信 号。音频电路210将电信号转换为音频数据，并将音频数据传输到外围设 备接口218，以用于处理。音频数据通过外围设备接口218检索自和/或传 输至存储器202和/或RF电路208。在一些实施方案中，音频电路210还包 括耳麦插孔(例如，图3中的312)。耳麦插孔提供音频电路210与可移除 的音频输入/输出外围设备之间的接口，该外围设备诸如仅输出的耳机或者 具有输出(例如，单耳或双耳耳机)和输入(例如，麦克风)二者的耳 麦。

I/O子系统206将设备200上的输入/输出外围设备诸如触摸屏212和 其他输入控制设备216耦接到外围设备接口218。I/O子系统206任选地包 括显示控制器256、光学传感器控制器258、强度传感器控制器259、触觉 反馈控制器261，以及用于其他输入或控制设备的一个或多个输入控制器 260。该一个或多个输入控制器260从其他输入控制设备216接收电信号/将 电信号发送到其他输入控制设备216。其他输入控制设备216任选地包括物 理按钮(例如，下压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、 点击轮等等。在一些另选的实施方案中，一个或多个输入控制器260任选 地耦接到以下各项中的任一者(或不耦接到以下各项中的任一者)：键 盘、红外线端口、USB端口以及指针设备诸如鼠标。一个或多个按钮(例 如，图3中的308)任选地包括用于扬声器211和/或麦克风213的音量控 制的增大/减小按钮。一个或多个按钮任选地包括下压按钮(例如，图3中 的306)。

快速按下下压按钮可解除触摸屏212的锁定或者开始使用触摸屏上的 手势来对设备进行解锁的过程，如在2005年12月23日提交的标题为 “Unlocking a Device byPerforming Gestures on an Unlock Image”的美国专 利申请11/322,549，美国专利7,657,849中所述，上述美国专利申请全文以 引用方式并入本文。较长地按下下压按钮(例如，306)使设备200开机或 关机。用户能够自定义一个或多个按钮的功能。触摸屏212用于实现虚拟 按钮或软按钮以及一个或多个软键盘。

触敏显示器212提供设备和用户之间的输入接口和输出接口。显示控 制器256从触摸屏212接收电信号和/或将电信号发送至触摸屏212。触摸 屏212向用户显示视觉输出。视觉输出包括图形、文本、图标、视频及其 任何组合(统称为“图形”)。在一些实施方案中，一些视觉输出或全部 视觉输出对应于用户界面对象。

触摸屏212具有基于触觉和/或触感接触来接受来自用户的输入的触敏 表面、传感器或传感器组。触摸屏212和显示控制器256(与存储器202中 的任何相关联的模块和/或指令集一起)检测触摸屏212上的接触(和该接 触的任何移动或中断)，并且将所检测到的接触转换为与显示在触摸屏212 上的用户界面对象(例如，一个或多个软键、图标、网页或图像)的交 互。在一个示例性实施方案中，触摸屏212和用户之间的接触点与用户的 手指对应。

触摸屏212使用LCD(液晶显示器)技术、LPD(发光聚合物显示 器)技术或LED(发光二极管)技术，但在其他实施方案中可使用其他显 示技术。触摸屏212和显示控制器256使用目前已知或以后将开发的多种 触摸感测技术中的任何技术，以及其他接近传感器阵列或用于确定与触摸 屏212接触的一个或多个点的其他元件来检测接触及其任何移动或中断， 所述多种触摸感测技术包括但不限于电容式、电阻式、红外和表面声波技 术。在一个示例性实施方案中，使用投射式互电容感测技术，诸如在Apple Inc.(Cupertino,California)的和iPod 中发现的技术。

在一些实施方案中，触摸屏212的触敏显示器类似于下文美国专利： 6,323,846(Westerman等人)、6,570,557(Westerman等人)和/或6,677,932 (Westerman)和/或美国专利公告2002/0015024A1中所述的多触敏触摸板， 这些专利申请均据此全文以引用方式并入本文。然而，触摸屏212显示来 自设备200的视觉输出，而触敏触摸板不提供视觉输出。

在一些实施方案中，触摸屏212的触敏显示器如以下专利申请所述： (1)提交于2006年5月2日的名称为“Multipoint Touch Surface Controller” 的美国专利申请11/381,313；(2)提交于2004年5月6日的名称为 “Multipoint Touchscreen”的美国专利申请10/840,862；(3)提交于2004年7 月30日的名称为“Gestures For Touch Sensitive InputDevices”的美国专利 申请10/903,964；(4)提交于2005年1月31日的名称为“Gestures ForTouch Sensitive Input Devices”的美国专利申请11/048,264；(5)提交于2005年1 月18日的名称为“Mode-Based Graphical User Interfaces For Touch Sensitive InputDevices”的美国专利申请11/038,590；(6)提交于2005年9月16日的 名称为“VirtualInput Device Placement On A Touch Screen User Interface” 的美国专利申请11/228,758；(7)提交于2005年9月16日的名称为 “Operation Of A Computer With A TouchScreen Interface”的美国专利申请 11/228,700；(8)提交于2005年9月16日的名称为“Activating Virtual Keys Of A Touch-Screen Virtual Keyboard”的美国专利申请11/228,737；和(9)提 交于2006年3月3日2006的名称为“Multi-Functional Hand-HeldDevice” 的美国专利申请11/367,749。所有这些专利申请全文以引用方式并入本文。

触摸屏212例如具有超过100dpi的视频分辨率。在一些实施方案中， 触摸屏具有约160dpi的视频分辨率。用户使用任何合适的对象或附加物诸 如触笔、手指等与触摸屏212进行接触。在一些实施方案中，将用户界面 设计用来主要与基于手指的接触和手势一起工作，由于手指在触摸屏上的 接触面积较大，因此这可能不如基于触笔的输入那样精确。在一些实施方 案中，设备将基于手指的粗略输入转化为精确的指针/光标位置或命令，以 用于执行用户所期望的动作。

在一些实施方案中，除了触摸屏之外，设备200还包括用于激活或去 激活特定功能的触控板(未示出)。在一些实施方案中，触控板是设备的 触敏区域，该触敏区域与触摸屏不同，其不显示视觉输出。触控板是与触 摸屏212分开的触敏表面，或者是由触摸屏形成的触敏表面的延伸。

设备200还包括用于为各种部件供电的电力系统262。电力系统262包 括电力管理系统、一个或多个电源(例如，电池、交流电(AC))、再充电 系统、电力故障检测电路、功率转换器或逆变器、电力状态指示器(例 如，发光二极管(LED))和与便携式设备中电力的生成、管理和分配相关联 的任何其他部件。

设备200还包括一个或多个光学传感器264。图2A示出了耦接至I/O 子系统206中的光学传感器控制器258的光学传感器。光学传感器264包 括电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)光电晶体管。光学 传感器264从环境接收通过一个或多个透镜而投射的光，并且将光转换为 表示图像的数据。结合成像模块243(也叫做相机模块)，光学传感器264 捕获静态图像或视频。在一些实施方案中，光学传感器位于设备200的后 部，与设备前部的触摸屏显示器212相背对，使得触摸屏显示器被用作用 于静态图像和/或视频图像采集的取景器。在一些实施方案中，光学传感器 位于设备的前部，使得在用户在触摸屏显示器上查看其他视频会议参与者 的同时获得该用户的图像以用于视频会议。在一些实施方案中，光学传感 器264的位置可由用户改变(例如，通过旋转设备外壳中的透镜和传感器)，使得单个光学传感器264与触摸屏显示器一起使用，以用于视频会 议和静态图像和/或视频图像采集两者。

设备200任选地还包括一个或多个接触强度传感器265。图2A示出了 耦接至I/O子系统206中的强度传感器控制器259的接触强度传感器。接触 强度传感器265任选地包括一个或多个压阻应变仪、电容式力传感器、电 气力传感器、压电力传感器、光学力传感器、电容式触敏表面或其他强度 传感器(例如，用于测量触敏表面上的接触的力(或压力)的传感器)。 接触强度传感器265从环境接收接触强度信息(例如，压力信息或压力信 息的代用物)。在一些实施方案中，至少一个接触强度传感器与触敏表面 (例如，触敏显示系统212)并置排列或邻近。在一些实施方案中，至少一 个接触强度传感器位于设备200的后部上，与位于设备200的前部上的触 摸屏显示器212相背对。

设备200还包括一个或多个接近传感器266。图2A示出了耦接至外围 设备接口218的接近传感器266。另选地，接近传感器266耦接到I/O子系 统206中的输入控制器260。接近传感器266如名称为“Proximity Detector In Handheld Device”的美国专利申请11/241,839；名称为“Proximity Detector In Handheld Device”的美国专利申请11/240,788；名称为“Using Ambient Light Sensor To Augment Proximity Sensor Output”的美国专利申请 11/620,702；名称为“Automated Response To And Sensing Of User Activity InPortable Devices”的美国专利申请11/586,862；和名称为“Methods And Systems ForAutomatic Configuration Of Peripherals”的美国专利申请 11/638,251中所述的那样执行，这些专利申请据此全文以引用方式并入。在 一些实施方案中，当多功能设备被置于用户的耳朵附近时(例如，当用户 正在进行电话呼叫时)，接近传感器关闭并且禁用触摸屏212。

设备200任选地还包括一个或多个触觉输出发生器267。图2A示出了 耦接至I/O子系统206中的触觉反馈控制器261的触觉输出发生器。触觉输 出发生器267任选地包括一个或多个电声设备诸如扬声器或其他音频部 件；和/或用于将能量转换成线性运动的机电设备诸如电机、螺线管、电活 性聚合物、压电致动器、静电致动器或其他触觉输出生成部件(例如，用 于将电信号转换成设备上的触觉输出的部件)。接触强度传感器265从触 觉反馈模块233接收触觉反馈生成指令，并且在设备200上生成能够由设 备200的用户感觉到的触觉输出。在一些实施方案中，至少一个触觉输出 发生器与触敏表面(例如，触敏显示系统212)并置排列或邻近，并且任选 地通过竖直地(例如，向设备200的表面内/外)或侧向地(例如，在与设 备200的表面相同的平面中向后和向前)移动触敏表面来生成触觉输出。 在一些实施方案中，至少一个触觉输出发生器传感器位于设备200的后部 上，与位于设备200的前部上的触摸屏显示器212相背对。

设备200还包括一个或多个加速度计268。图2A示出了耦接至外围设 备接口218的加速度计268。另选地，加速度计268耦接至I/O子系统206 中的输入控制器260。加速度计268如以下美国专利公开中所述那样执行： 美国专利公开20050190059，“Acceleration-based Theft Detection System for Portable Electronic Devices”和美国专利公开20060017692，“Methods And Apparatuses For Operating A Portable Device Based OnAn Accelerometer”， 这两个美国专利公开全文以引用方式并入本文。在一些实施方案中，信息 基于对从一个或多个加速度计所接收的数据的分析而在触摸屏显示器上以 纵向视图或横向视图被显示。设备200任选地除了加速度计268之外还包 括磁力仪(未示出)和GPS(或GLONASS或其他全球导航系统)接收器 (未示出)，以用于获得关于设备200的位置和取向(例如，纵向或横 向)的信息。

在一些实施方案中，存储于存储器202中的软件部件包括操作系统 226、通信模块(或指令集)228、接触/运动模块(或指令集)230、图形模 块(或指令集)232、文本输入模块(或指令集)234、全球定位系统(GPS) 模块(或指令集)235、数字助理客户端模块229以及应用程序(或指令 集)236。此外，存储器202存储数据与模型，诸如用户数据与模型231。 此外，在一些实施方案中，存储器202(图2A)或470(图4)存储设备/ 全局内部状态257，如图2A和图4中所示。设备/全局内部状态257包括以 下各项中的一者或多者：活动应用程序状态，用于指示哪些应用程序(如 果有的话)当前处于活动态；显示状态，用于指示什么应用程序、视图或 其它信息占据触摸屏显示器212的各个区域；传感器状态，包括从设备的 各个传感器和输入控制设备216获得的信息；以及关于设备的位置和/或姿 态的位置信息。

操作系统226(例如，Darwin、RTXC、LINUX、UNIX、OS X、 iOS、WINDOWS、或嵌入式操作系统诸如VxWorks)包括用于控制和管理 一般系统任务(例如，存储器管理、存储设备控制、功率管理等)的各种 软件部件和/或驱动程序，并且促进各种硬件部件和软件部件之间的通信。

通信模块228有利于通过一个或多个外部端口224与其他设备进行通 信，并且还包括用于处理由RF电路208和/或外部端口224所接收的数据 的各种软件部件。外部端口224(例如，通用串行总线(USB)、火线等)适 于直接耦接到其他设备或通过网络(例如，互联网、无线LAN等)间接耦 接。在一些实施方案中，外部端口是与(Apple Inc.的商标)设备上所 使用的30针连接器相同的或类似的和/或与其兼容的多针(例如，30针) 连接器。

接触/运动模块230任选地检测与触摸屏212(结合显示控制器256) 和其他触敏设备(例如，触摸板或物理点击轮)的接触。接触/运动模块 230包括各种软件部件以用于执行与接触检测相关的各种操作，诸如确定是 否已发生接触(例如，检测手指按下事件)、确定接触的强度(例如，接 触的力或压力，或者接触的力或压力的替代物)、确定是否存在接触的移 动并跟踪在触敏表面上的移动(例如，检测一个或多个手指拖动事件)， 以及确定接触是否已停止(例如，检测手指抬起事件或者接触断开)。接 触/运动模块230从触敏表面接收接触数据。确定接触点的移动任选地包括 确定接触点的速率(量值)、速度(量值和方向)和/或加速度(量值和/或 方向的改变)，接触点的移动由一系列接触数据表示。这些操作任选地被 应用于单点接触(例如，单指接触)或者多点同时接触(例如，“多点触 摸”/多个手指接触)。在一些实施方案中，接触/运动模块230和显示控制 器256检测触控板上的接触。

在一些实施方案中，接触/运动模块230使用一组一个或多个强度阈值 来确定操作是否已由用户执行(例如，确定用户是否已“点击”图标)。 在一些实施方案中，根据软件参数来确定强度阈值的至少一个子集(例 如，强度阈值不是由特定物理致动器的激活阈值来确定的，并且可在不改 变设备200的物理硬件的情况下被调节)。例如，在不改变触控板或触摸 屏显示器硬件的情况下，触控板或触摸屏显示器的鼠标“点击”阈值可被 设定成预定义的阈值的大范围中的任一个阈值。另外，在一些具体实施 中，向设备的用户提供用于调节一组强度阈值中的一个或多个强度阈值 (例如，通过调节各个强度阈值和/或通过利用对“强度”参数的系统级点 击来一次调节多个强度阈值)的软件设置。

接触/运动模块230任选地检测用户的手势输入。触敏表面上的不同手 势具有不同的接触模式(例如，所检测到的接触的不同运动、定时和/或强 度)。因此，任选地通过检测特定接触图案来检测手势。例如，检测手指 轻击手势包括检测手指按下事件，然后在与手指按下事件相同的位置(或 基本上相同的位置)处(例如，在图标的位置处)检测手指抬起(抬离) 事件。作为另一个示例，在触敏表面上检测手指轻扫手势包括检测手指按 下事件，然后检测一个或多个手指拖动事件，并且随后检测手指抬起(抬 离)事件。

图形模块232包括用于在触摸屏212或其他显示器上呈现和显示图形 的各种已知的软件部件，包括用于改变所显示的图形的视觉冲击(例如， 亮度、透明度、饱和度、对比度或其他视觉特征)的部件。如本文所用， 术语“图形”包括可被显示给用户的任何对象，非限制性地包括文本、网 页、图标(诸如，包括软键的用户界面对象)、数字图像、视频、动画 等。

在一些实施方案中，图形模块232存储用于表示待使用图形的数据。 每个图形任选地被分配有对应的代码。图形模块232从应用程序等接收用 于指定待显示的图形的一个或多个代码，在必要的情况下还接收坐标数据 和其他图形属性数据，并且然后生成屏幕图像数据，以输出至显示控制器 256。

触觉反馈模块233包括用于生成指令的各种软件部件，该指令由一个 或多个触觉输出发生器267使用，以便响应于用户与设备200的交互而在 设备200上的一个或多个位置处产生触觉输出。

在一些示例中作为图形模块232的部件的文本输入模块234提供用于 在各种应用程序(例如，联系人237、电子邮件240、IM 241、浏览器247 和需要文本输入的任何其他应用程序)中输入文本的软键盘。

GPS模块235确定设备的位置并将该信息提供用于各种应用程序中(例 如，提供给电话238以用于基于位置的拨号；提供给相机243用作图片/视 频元数据；以及提供给提供基于位置的服务的应用程序，诸如天气桌面小 程序、本地黄页桌面小程序和地图/导航桌面小程序)。

数字助理客户端模块229包括各种客户端侧数字助理指令，以提供数 字助理的客户端侧功能。例如，数字助理客户端模块229能够通过便携式 多功能设备200的各种用户接口(例如，麦克风213、加速度计268、触敏 显示器系统212、光学传感器229、其他输入控制设备216等)接受声音输 入(例如，言语输入)、文本输入、触摸输入和/或手势输入。数字助理客 户端模块229还能够通过便携式多功能设备200的各种输出接口(例如， 扬声器211、触敏显示器系统212、触觉输出生成器267等)提供音频形式 的输出(例如，言语输出)、视觉形式的输出和/或触觉形式的输出。例 如，将输出提供为语音、声音、警报、文本消息、菜单、图形、视频、动 画、振动和/或以上两者或更多者的组合。在操作期间，数字助理客户端模 块229使用RF电路208与DA服务器106通信。

用户数据与模型231包括与用户相关联的各种数据(例如，用户特定 的词汇数据、用户偏好数据、用户指定的名称发音、来自用户电子通讯录 的数据、待办事项、购物清单等)以提供数字助理的客户端侧功能。此 外，用户数据与模型231包括用于处理用户输入并且确定用户意图的各种 模型(例如，言语识别模型、统计语言模型、自然语言处理模型、知识本 体、任务流模型、服务模型等)。

在一些示例中，数字助理客户端模块229利用便携式多功能设备200 的各种传感器、子系统和外围设备来从便携式多功能设备200的周围环境 采集附加信息，以建立与用户、当前用户交互和/或当前用户输入相关联的 上下文。在一些示例中，数字助理客户端模块229将上下文信息或其子集 与用户输入一起提供至DA服务器106以帮助推断用户意图。在一些示例 中，数字助理还使用上下文信息来确定如何准备输出并将其传送给用户。 上下文信息被称为上下文数据。

在一些示例中，伴随用户输入的上下文信息包括传感器信息，例如照 明、环境噪声、环境温度、周围环境的图像或视频等。在一些示例中，上 下文信息还可包括设备的物理状态，例如设备取向、设备位置、设备温 度、功率电平、速度、加速度、运动模式、蜂窝信号强度等。在一些示例 中，将与DA服务器106的软件状态相关的信息，例如便携式多功能设备200的运行过程、已安装程序、过去和当前的网络活动、后台服务、错误日 志、资源使用等，作为与用户输入相关联的上下文信息提供至DA服务器 106。

在一些示例中，数字助理客户端模块229响应于来自DA服务器106 的请求而选择性地提供存储在便携式多功能设备200上的信息(例如，用 户数据231)。在一些示例中，数字助理客户端模块229还在DA服务器 106请求时引出来自用户经由自然语言对话或其他用户接口的附加输入。数 字助理客户端模块229将该附加输入传送至DA服务器106，以帮助DA服 务器106进行意图推断和/或满足在用户请求中表达的用户意图。

下面参考图7A-图7C对数字助理进行更详细的描述。应当认识到，数 字助理客户端模块229可包括下文所述的数字助理模块726的任何数量的 子模块。

应用程序236包括以下模块(或指令集)或者其子集或超集：

·联系人模块237(有时称为通讯录或联系人列表)；

·电话模块238；

·视频会议模块239；

·电子邮件客户端模块240；

·即时消息(IM)模块241；

·健身支持模块242；

·用于静态图像和/或视频图像的相机模块243；

·图像管理模块244；

·视频播放器模块；

·音乐播放器模块；

·浏览器模块247；

·日历模块248；

·桌面小程序模块249，其在一些示例中包括以下各项中的一者或多 者：天气桌面小程序249-1、股票桌面小程序249-2、计算器桌面小 程序249-3、闹钟桌面小程序249-4、词典桌面小程序249-5和用户 获得的其他桌面小程序，以及用户创建的桌面小程序249-6；

·用于制作用户创建的桌面小程序249-6的桌面小程序创建器模块 250；

·搜索模块251；

·视频和音乐播放器模块252，其合并视频播放器模块和音乐播放器 模块；

·记事本模块253；

·地图模块254；和/或

·在线视频模块255。

存储在存储器202中的其他应用程序236的示例包括其他文字处理应 用程序、其他图像编辑应用程序、绘图应用程序、呈现应用程序、支持 JAVA的应用程序、加密、数字版权管理、声音识别和声音复制。

结合触摸屏212、显示控制器256、接触/运动模块230、图形模块 232、和文本输入模块234，联系人模块237用于管理通讯录或联系人列表 (例如，存储在存储器202或存储器470中的联系人模块237的应用程序 内部状态292中)，包括：将一个或多个姓名添加到通讯录；从通讯录删 除一个或多个姓名；将一个或多个电话号码、一个或多个电子邮件地址、一个或多个物理地址或其他信息与姓名相关联；将图像与姓名进行关联； 对姓名进行分类和排序；提供电话号码或电子邮件地址来发起和/或促进通 过电话238、视频会议模块239、电子邮件240或即时消息241的通信；等 等。

结合RF电路208、音频电路210、扬声器211、麦克风213、触摸屏 212、显示控制器256、接触/运动模块230、图形模块232和文本输入模块 234，电话模块238用于输入对应于电话号码的字符序列、访问联系人模块 237中的一个或多个电话号码、修改已经输入的电话号码、拨打相应的电话 号码、进行会话以及当会话完成时断开或挂断。如上所述，无线通信使用 多种通信标准、协议和技术中的任一种。

结合RF电路208、音频电路210、扬声器211、麦克风213、触摸屏 212、显示控制器256、光学传感器264、光学传感器控制器258、接触/运 动模块230、图形模块232、文本输入模块234、联系人模块237和电话模 块238，视频会议模块239包括根据用户指令来发起、进行和终止用户与一 个或多个其他参与者之间的视频会议的可执行指令。

结合RF电路208、触摸屏212、显示控制器256、接触/运动模块 230、图形模块232和文本输入模块234，电子邮件客户端模块240包括响 应于用户指令来创建、发送、接收和管理电子邮件的可执行指令。结合图 像管理模块244，电子邮件客户端模块240使得非常容易创建和发送具有由 相机模块243拍摄的静态图像或视频图像的电子邮件。

结合RF电路208、触摸屏212、显示控制器256、接触/运动模块 230、图形模块232和文本输入模块234，即时消息模块241包括用于以下 操作的可执行指令：输入与即时消息对应的字符序列、修改先前输入的字 符、传输相应即时消息(例如，使用短消息服务(SMS)或多媒体消息服务 (MMS)协议以用于基于电话的即时消息或者使用XMPP、SIMPLE或IMPS 以用于基于互联网的即时消息)、接收即时消息以及查看所接收的即时消 息。在一些实施方案中，所传输和/或接收的即时消息包括图形、照片、音 频文件、视频文件和/或如MMS和/或增强型消息服务(EMS)中支持的其他 附件。如本文所用，“即时消息”是指基于电话的消息(例如，使用SMS 或MMS发送的消息)和基于互联网的消息(例如，使用XMPP、 SIMPLE、或IMPS发送的消息)两者。

结合射频电路208、触摸屏212、显示器控制器256、接触模块230、 图形模块232、文本输入模块234、GPS模块235、地图模块254和音乐播 放器模块146，健身支持模块242包括用于以下各项的可执行指令：创建健 身(例如，具有时间、距离和/或卡路里燃烧目标)；与健身传感器(运动 设备)进行通信；接收健身传感器数据；校准用于监视健身的传感器；选择和播放用于健身的音乐；以及显示、存储和传输健身数据。

结合触摸屏212、显示控制器256、一个或多个光学传感器264、光学 传感器控制器258、接触/运动模块230、图形模块232和图像管理模块 244，相机模块243包括用于以下操作的可执行指令：捕获静态图像或视频 (包括视频流)并且将它们存储到存储器202中、修改静态图像或视频的 特征，或从存储器202删除静态图像或视频。

结合触摸屏212、显示控制器256、接触/运动模块230、图形模块 232、文本输入模块234和相机模块243，图像管理模块244包括用于以下 操作的可执行指令：排列、修改(例如，编辑)，或以其他方式操控、加 标签、删除、呈现(例如，在数字幻灯片或相册中)，以及存储静态图像 和/或视频图像。

结合RF电路208、触摸屏212、显示控制器256、接触/运动模块 230、图形模块232和文本输入模块234，浏览器模块247包括根据用户指 令来浏览互联网(包括搜索、链接至、接收和显示网页或其部分，以及链 接至网页的附件和其他文件)的可执行指令。

结合RF电路208、触摸屏212、显示控制器256、接触/运动模块 230、图形模块232、文本输入模块234、电子邮件客户端模块240和浏览 器模块247，日历模块248包括根据用户指令来创建、显示、修改和存储日 历以及与日历相关联的数据(例如，日历条目、待办事项等)的可执行指 令。

结合RF电路208、触摸屏212、显示控制器256、接触/运动模块 230、图形模块232、文本输入模块234和浏览器模块247，桌面小程序模 块249是可由用户下载并使用的微型应用程序(例如，天气桌面小程序 249-1、股市桌面小程序249-2、计算器桌面小程序249-3、闹钟桌面小程序 249-4和词典桌面小程序249-5)或由用户创建的微型应用程序(例如，用 户创建的桌面小程序249-6)。在一些实施方案中，桌面小程序包括HTML (超文本标记语言)文件、CSS(层叠样式表)文件和JavaScript文件。在 一些实施方案中，桌面小程序包括XML(可扩展标记语言)文件和 JavaScript文件(例如，Yahoo！桌面小程序)。

结合RF电路208、触摸屏212、显示控制器256、接触/运动模块 230、图形模块232、文本输入模块234和浏览器模块247，桌面小程序创 建器模块250被用户用于创建桌面小程序(例如，使网页的用户指定部分 变成桌面小程序)。

结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232 和文本输入模块234，搜索模块251包括根据用户指令来搜索存储器202中 的匹配一个或多个搜索条件(例如，一个或多个用户指定的搜索词)的文 本、音乐、声音、图像、视频和/或其他文件的可执行指令。

结合触摸屏212、显示控制器256、接触/运动模块230、图形模块 232、音频电路系统210、扬声器211、RF电路系统208和浏览器模块 247，视频和音乐播放器模块252包括允许用户下载和回放以一种或多种文 件格式(诸如MP3或AAC文件)存储的所记录的音乐和其他声音文件的 可执行指令，以及用于显示、呈现或以其他方式回放视频(例如，在触摸 屏212上或在经由外部端口224连接的外部显示器上)的可执行指令。在 一些实施方案中，设备200任选地包括MP3播放器诸如iPod(Apple Inc.的 商标)的功能。

结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232 和文本输入模块234，记事本模块253包括根据用户指令来创建和管理记事 本、待办事项等的可执行指令。

结合RF电路208、触摸屏212、显示控制器256、接触/运动模块 230、图形模块232、文本输入模块234、GPS模块235和浏览器模块247， 地图模块254用于根据用户指令接收、显示、修改和存储地图以及与地图 相关联的数据(例如，驾驶方向、与特定位置处或附近的商店及其他兴趣 点有关的数据，以及其他基于位置的数据)。

结合触摸屏212、显示控制器256、接触/运动模块230、图形模块 232、音频电路210、扬声器211、RF电路208、文本输入模块234、电子 邮件客户端模块240和浏览器模块247，在线视频模块255包括允许用户访 问、浏览、接收(例如，通过流式传输和/或下载)、回放(例如，在触摸 屏上或经由外部端口224在所连接的外部显示器上)、发送具有至特定在线视频的链接的电子邮件，以及以其他方式管理一种或多种文件格式(诸 如，H.264)的在线视频的指令。在一些实施方案中，即时消息模块241而 不是电子邮件客户端模块240用于发送至特定在线视频的链接。在线视频 应用程序的附加描述可在于2007年6月20日提交的标题为“Portable Multifunction Device,Method,and Graphical User Interface forPlaying Online Videos”的美国临时专利申请60/936,562、和于2007年12月31日提交的标题为“Portable Multifunction Device,Method,and Graphical User Interface forPlaying Online Videos”的美国专利申请11/968,067中找到，这两个专利 申请的内容据此全文以引用方式并入本文。

上述模块和应用程序中的每个模块和应用程序对应于用于执行上述一 种或多种功能以及在该专利申请中所述的方法(例如，本文所述的计算机 实现的方法和其他信息处理方法)的可执行指令集。这些模块(例如，指 令集)不必被实现为独立的软件程序、过程或模块，并因此在各种实施方 案中可组合或以其他方式重新布置这些模块的各种子集。例如，视频播放 器模块可与音乐播放器模块组合成单个模块(例如，图2A中的视频和音乐 播放器模块252)。在一些实施方案中，存储器202存储上述模块和数据结 构的子集。此外，存储器202存储上文未描述的另外的模块和数据结构。

在一些实施方案中，设备200是该设备上的预定义的一组功能的操作 唯一地通过触摸屏和/或触控板来执行的设备。通过使用触摸屏和/或触控板 作为用于设备200的操作的主要输入控制设备，减少设备200上的物理输 入控制设备(诸如下压按钮、拨盘等)的数量。

唯一地通过触摸屏和/或触控板执行的该预定义的一组功能任选地包括 在用户界面之间进行导航。在一些实施方案中，触控板在被用户触摸时将 设备200从被显示在设备200上的任何用户界面导航到主菜单、home菜单 或根菜单。在此类实施方案中，使用触摸板来实现“菜单按钮”。在一些 其他实施方案中，菜单按钮是物理下压按钮或者其他物理输入控制设备， 而不是触控板。

图2B是示出了根据一些实施方案用于事件处理的示例性部件的框图。 在一些实施方案中，存储器202(图2A)或存储器470(图4)包括事件分 类器270(例如，在操作系统226中)以及相应的应用程序236-1(例如， 前述应用程序237至251、255、480至490中的任一个应用程序)。

事件分类器270接收事件信息并确定要将事件信息递送到的应用程序 236-1和应用程序236-1的应用程序视图291。事件分类器270包括事件监 视器271和事件分配器模块274。在一些实施方案中，应用程序236-1包括 应用程序内部状态292，该应用程序内部状态指示当应用程序是活动的或正 在执行时被显示在触敏显示器212上的一个或多个当前应用程序视图。在 一些实施方案中，设备/全局内部状态257被事件分类器270用于确定哪个(哪些)应用程序当前是活动的，并且应用程序内部状态292被事件分类 器270用于确定要将事件信息递送到的应用程序视图291。

在一些实施方案中，应用程序内部状态292包括附加信息，诸如以下 各项中的一者或多者：当应用程序236-1恢复执行时将被使用的恢复信息、 指示正被应用程序236-1显示的信息或准备好用于被应用程序236-1显示的 信息的用户界面状态信息、用于使得用户能够返回到应用程序236-1的前一 状态或视图的状态队列、以及用户采取的先前动作的重复/撤销队列。

事件监视器271从外围设备接口218接收事件信息。事件信息包括关 于子事件(例如，作为多点触摸手势一部分的触敏显示器212上的用户触 摸)的信息。外围设备接口218传输其从I/O子系统206或传感器诸如接近 传感器266、加速度计268和/或麦克风213(通过音频电路210)接收的信 息。外围设备接口218从I/O子系统206接收的信息包括来自触敏显示器 212或触敏表面的信息。

在一些实施方案中，事件监视器271以预先确定的间隔将请求发送至 外围设备接口218。作为响应，外围设备接口218传输事件信息。在其他实 施方案中，外围设备接口218仅当存在显著事件(例如，接收到高于预先 确定的噪声阈值和/或接收到超过预先确定的持续时间的输入)时才传输事 件信息。

在一些实施方案中，事件分类器270还包括命中视图确定模块272和/ 或活动事件识别器确定模块273。

当触敏显示器212显示多于一个视图时，命中视图确定模块272提供 用于确定子事件已在一个或多个视图内的何处发生的软件过程。视图由用 户能在显示器上看到的控件和其他元素构成。

与应用程序相关联的用户界面的另一方面是一组视图，在本文中有时 也被称为应用程序视图或用户界面窗口，在其中显示信息并且发生基于触 摸的手势。在其中检测到触摸的(相应应用程序的)应用程序视图对应于 应用程序的程序化分级结构或视图分级结构内的程序化水平。例如，在其 中检测到触摸的最低水平视图被称为命中视图，并且被认为是正确输入的 事件集至少部分地基于初始触摸的命中视图来确定，该初始触摸开始基于 触摸的手势。

点击视图确定模块272接收与基于接触的手势的子事件相关的信息。 当应用程序具有在分级结构中组织的多个视图时，命中视图确定模块272 将命中视图识别为应对子事件进行处理的分级结构中的最低视图。在大多 数情况下，命中视图是发起子事件(例如，形成事件或潜在事件的子事件 序列中的第一子事件)在其中发生的最低水平视图。一旦命中视图被命中 视图确定模块272识别，命中视图便通常接收与其被识别为命中视图所针 对的同一触摸或输入源相关的所有子事件。

活动事件识别器确定模块273确定视图分级结构内的哪个或哪些视图 应接收特定子事件序列。在一些实施方案中，活动事件识别器确定模块273 确定仅命中视图应接收特定子事件序列。在其他实施方案中，活动事件识 别器确定模块273确定包括子事件的物理位置的所有视图都是活跃参与的 视图，因此确定所有活跃参与的视图都应接收特定子事件序列。在其他实 施方案中，即使触摸子事件完全被局限到与一个特定视图相关联的区域， 但在分级结构中较高的视图将仍然保持为活跃参与的视图。

事件分配器模块274将事件信息分配到事件识别器(例如，事件识别 器280)。在包括活动事件识别器确定模块273的实施方案中，事件分配器 模块274将事件信息递送到由活动事件识别器确定模块273确定的事件识 别器。在一些实施方案中，事件分配器模块274在事件队列中存储事件信 息，该事件信息由相应事件接收器282进行检索。

在一些实施方案中，操作系统226包括事件分类器270。另选地，应 用程序236-1包括事件分类器270。在其他实施方案中，事件分类器270是 独立的模块，或者是被存储在存储器202中的另一个模块(诸如接触/运动 模块230)的一部分。

在一些实施方案中，应用236-1包括多个事件处理程序290和一个或 多个应用视图291，其中每个应用视图包括用于处理发生在应用的用户界面 的相应视图内的触摸事件的指令。应用程序236-1的每个应用程序视图291 包括一个或多个事件识别器280。通常，相应应用程序视图291包括多个事 件识别器280。在其他实施方案中，事件识别器280中的一个或多个事件识 别器是独立模块的一部分，该独立模块诸如用户界面工具包(未示出)或应用程序236-1从中继承方法和其他属性的更高水平的对象。在一些实施方 案中，相应事件处理程序290包括以下各项中的一者或多者：数据更新器 276、对象更新器277、GUI更新器278、和/或从事件分类器270接收的事 件数据279。事件处理程序290利用或调用数据更新器276、对象更新器 277或GUI更新器278来更新应用程序内部状态292。另选地，应用视图291中的一个或多个应用视图包括一个或多个相应事件处理程序290。另 外，在一些实施方案中，数据更新器276、对象更新器277和GUI更新器 278中的一者或多者被包括在相应应用程序视图291中。

相应的事件识别器280从事件分类器270接收事件信息(例如，事件 数据279)，并且从事件信息识别事件。事件识别器280包括事件接收器 282和事件比较器284。在一些实施方案中，事件识别器280还包括元数据 283和事件传递指令288(其包括子事件传递指令)的至少一个子集。

事件接收器282接收来自事件分类器270的事件信息。事件信息包括 关于子事件例如触摸或触摸移动的信息。根据子事件，事件信息还包括附 加信息，诸如子事件的位置。当子事件涉及触摸的运动时，事件信息还包 括子事件的速率和方向。在一些实施方案中，事件包括设备从一个取向旋 转到另一取向(例如，从纵向取向到横向取向，或反之亦然)的旋转，并 且事件信息包括关于设备的当前取向(也被称为设备姿态)的对应信息。

事件比较器284将事件信息与预定义的事件或子事件定义进行比较， 并且基于该比较，确定事件或子事件，或者确定或更新事件或子事件的状 态。在一些实施方案中，事件比较器284包括事件定义286。事件定义286 包含事件的定义(例如，预定义的子事件序列)，例如事件1(287-1)、 事件2(287-2)以及其他事件。在一些实施方案中，事件(287)中的子事件例如包括触摸开始、触摸结束、触摸移动、触摸取消和多点触摸。在一 个示例中，事件1(287-1)的定义是在被显示对象上的双击。例如，双击包 括被显示对象上的预先确定时长的第一次触摸(触摸开始)、预先确定时 长的第一次抬离(触摸结束)、被显示对象上的预先确定时长的第二次触 摸(触摸开始)、以及预先确定时长的第二次抬离(触摸结束)。在另一个示例中，事件2(287-2)的定义是被显示对象上的拖动。例如，拖动包括 所显示对象上的预先确定时长的触摸(或接触)、触摸在触敏显示器212 上的移动，以及触摸的抬离(触摸结束)。在一些实施方案中，事件还包 括用于一个或多个相关联的事件处理程序290的信息。

在一些实施方案中，事件定义287包括对用于相应用户界面对象的事 件的定义。在一些实施方案中，事件比较器284执行命中测试，以确定哪 个用户界面对象与子事件相关联。例如，在触敏显示器212上显示三个用 户界面对象的应用程序视图中，当在触敏显示器212上检测到触摸时，事 件比较器284执行命中测试以确定这三个用户界面对象中的哪一个用户界 面对象与该触摸(子事件)相关联。如果每个所显示的对象与相应的事件 处理程序290相关联，则事件比较器使用该命中测试的结果，以确定哪个 事件处理程序290应当被激活。例如，事件比较器284选择与子事件和触 发该命中测试的对象相关联的事件处理程序。

在一些实施方案中，相应事件(287)的定义还包括延迟动作，该延迟 动作延迟事件信息的递送，直到已确定子事件序列是否确实对应于或不对 应于事件识别器的事件类型。

当相应事件识别器280确定子事件序列不与事件定义286中的任何事 件匹配时，该相应事件识别器280进入事件不可能、事件失败或事件结束 状态，在此之后忽略基于触摸的手势的后续子事件。在这种情况下，对于 命中视图保持活动的其他事件识别器(如果有的话)继续跟踪并处理持续 进行的基于触摸的手势的子事件。

在一些实施方案中，相应事件识别器280包括具有指示事件递送系统 应该如何执行对活跃参与的事件识别器的子事件递送的可配置属性、标志 和/或列表的元数据283。在一些实施方案中，元数据283包括指示事件识 别器彼此如何交互或如何能够交互的可配置属性、标志和/或列表。在一些 实施方案中，元数据283包括指示子事件是否递送到视图或程序化分级结 构中的不同层级的可配置属性、标志和/或列表。

在一些实施方案中，当识别事件的一个或多个特定子事件时，相应事 件识别器280激活与事件相关联的事件处理程序290。在一些实施方案中， 相应事件识别器280将与事件相关联的事件信息递送到事件处理程序290。 激活事件处理程序290不同于将子事件发送(和延期发送)到相应命中视 图。在一些实施方案中，事件识别器280抛出与所识别的事件相关联的标 志，并且与该标志相关联的事件处理程序290获得该标志并执行预定义的过程。

在一些实施方案中，事件递送指令288包括递送关于子事件的事件信 息而无需激活事件处理程序的子事件递送指令。相反，子事件递送指令将 事件信息递送到与子事件系列相关联的事件处理程序或递送到活跃参与的 视图。与子事件系列或与活跃参与的视图相关联的事件处理程序接收事件 信息并执行预先确定的过程。

在一些实施方案中，数据更新器276创建并更新在应用程序236-1中 使用的数据。例如，数据更新器276对联系人模块237中所使用的电话号 码进行更新，或者对视频播放器模块中所使用的视频文件进行存储。在一 些实施方案中，对象更新器277创建和更新在应用程序236-1中使用的对 象。例如，对象更新器277创建新用户界面对象或更新用户界面对象的位 置。GUI更新器278更新GUI。例如，GUI更新器278准备显示信息并将 其发送至图形模块232以用于在触敏显示器上显示。

在一些实施方案中，一个或多个事件处理程序290包括数据更新器 276、对象更新器277和GUI更新器278或者具有对该数据更新器、该对象 更新器和该GUI更新器的访问权限。在一些实施方案中，数据更新器 276、对象更新器277和GUI更新器278被包括在相应应用程序236-1或应 用程序视图291的单个模块中。在其他实施方案中，它们被包括在两个或更多个软件模块中。

应当理解，关于触敏显示器上的用户触摸的事件处理的上述论述还适 用于利用输入设备来操作多功能设备200的其他形式的用户输入，并不是 所有用户输入都是在触摸屏上发起的。例如，任选地与单次或多次键盘按 下或按住协作的鼠标移动和鼠标按钮按下；触控板上的接触移动，诸如轻 击、拖拽、滚动等；触笔输入；设备的移动；口头指令；检测到的眼睛移 动；生物特征输入；和/或它们的任何组合任选地被用作对应于限定要识别 的事件的子事件的输入。

图3示出了根据一些实施方案的具有触摸屏212的便携式多功能设备 200。触摸屏任选地在用户界面(UI)300内显示一个或多个图形。在本实施 方案中以及在下文中描述的其他实施方案中，用户能够通过例如利用一个 或多个手指302(在附图中没有按比例绘制)或者利用一个或多个触笔303 (在附图中没有按比例绘制)，在图形上作出手势来选择这些图形中的一 个或多个图形。在一些实施方案中，当用户中断与一个或多个图形的接触 时，将发生对一个或多个图形的选择。在一些实施方案中，手势任选地包 括一次或多次轻击、一次或多次轻扫(从左向右、从右向左、向上和/或向 下)和/或已与设备200发生接触的手指的滚动(从右向左、从左向右、向 上和/或向下)。在一些具体实施中或在一些情况下，不经意地与图形接触 不会选择图形。例如，当与选择对应的手势是轻击时，在应用程序图标上 方扫动的轻扫手势任选地不选择对应应用程序。

设备200还包括一个或多个物理按钮，诸如“主桌面”或菜单按钮 304。如前所述，菜单按钮304用于导航到在设备200上执行的一组应用程 序中的任何应用程序236。另选地，在一些实施方案中，菜单按钮被实现为 被显示在触摸屏212上的GUI中的软键。

在一个实施方案中，设备200包括触摸屏212、菜单按钮304、用于使 设备通电/断电和用于锁定设备的下压按钮306、一个或多个音量调节按钮 308、用户身份模块(SIM)卡槽310、耳麦插孔312、和对接/充电外部端口 224。下压按钮306任选地用于通过压下该按钮并且将该按钮保持在压下状 态预定义的时间间隔来对设备进行开/关机；通过压下该按钮并在该预定义 的时间间隔过去之前释放该按钮来锁定设备；和/或对设备进行解锁或发起解锁过程。在另选的实施方案中，设备200还通过麦克风213来接受用于 激活或去激活某些功能的口头输入。设备200还任选地包括用于检测触摸 屏212上的接触的强度的一个或多个接触强度传感器265，和/或用于为设 备200的用户生成触觉输出的一个或多个触觉输出发生器267。

图4是根据一些实施方案的具有显示器和触敏表面的示例性多功能设 备的框图。设备400不必是便携式的。在一些实施方案中，设备400是膝 上型计算机、台式计算机、平板电脑、多媒体播放器设备、导航设备、教 育设备(诸如儿童学习玩具)、游戏系统、或控制设备(例如，家用控制 器或工业用控制器)。设备400通常包括一个或多个处理单元(CPU)410、一个或多个网络或其他通信接口460、存储器470和用于使这些部件互连的 一个或多个通信总线420。通信总线420任选地包括使系统部件互连并且控 制系统部件之间的通信的电路(有时称为芯片组)。设备400包括具有显 示器440的输入/输出(I/O)接口430，该显示器通常是触摸屏显示器。I/O接 口430还任选地包括键盘和/或鼠标(或其他指向设备)450和触摸板455、 用于在设备400上生成触觉输出的触觉输出发生器457(例如，类似于以上 参考图2A所述的触觉输出发生器267)、传感器459(例如，光学传感 器、加速度传感器、接近传感器、触敏传感器和/或一个或多个接触强度传 感器(类似于以上参考图2A所述的接触强度传感器265))。存储器470 包括高速随机存取存储器，诸如DRAM、SRAM、DDR RAM或其它随机 存取固态存储器设备；并且任选地包括非易失性存储器，诸如一个或多个 磁盘存储设备、光盘存储设备、闪存设备、或其它非易失性固态存储设 备。存储器470任选地包括远离一个或多个CPU 410定位的一个或多个存 储设备。在一些实施方案中，存储器470存储与在便携式多功能设备200 (图2A)的存储器202中所存储的程序、模块和数据结构类似的程序、模 块和数据结构，或它们的子集。此外，存储器470任选地存储在便携式多 功能设备200的存储器202中不存在的附加程序、模块和数据结构。例 如，设备400的存储器470任选地存储绘图模块480、呈现模块482、文字 处理模块484、网站创建模块486、盘编辑模块488，和/或电子表格模块 490，而便携式多功能设备200(图2A)的存储器202任选地不存储这些模 块。

图4中的上述元件中的每一者在一些示例中存储在一个或多个先前提 到的存储器设备中。上述模块中的每个模块与用于执行上述功能的指令集 对应。上述模块或程序(例如，指令集)不必被实现为独立的软件程序、 过程或模块，因此这些模块的各种子集在各种实施方案中组合或以其他方 式重新布置。在一些实施方案中，存储器470存储上述模块和数据结构的 子集。此外，存储器470存储上文未描述的附加的模块和数据结构。

现在将注意力转到可在例如便携式多功能设备200上实现的用户界面 的实施方案。

图5A示出了根据一些实施方案的便携式多功能设备200上的应用程序 菜单的示例性用户界面。类似的用户界面在设备400上实现。在一些实施 方案中，用户界面500包括以下元件或者其子集或超集：

一种或多种无线通信诸如蜂窝信号和Wi-Fi信号的一个或多个信号强 度指示器502；

·时间504；

·蓝牙指示器505；

·电池状态指示器506；

·具有常用应用程序图标的托盘508，图标诸如：

○电话模块238的被标记为“电话”的图标516，该图标任选地包 括未接来电或语音留言的数量的指示符514；

○电子邮件客户端模块240的被标记为“邮件”的图标518，该图 标任选地包括未读电子邮件的数量的指示符510；

○浏览器模块247的被标记为“浏览器”的图标520；和

○视频和音乐播放器模块252(也叫做iPod(Apple Inc.的商标)模 块252)的标记“iPod”的图标522；和

·其它应用程序的图标，诸如：

○IM模块241的被标记为“消息”的图标524；

○日历模块248的被标记为“日历”的图标526；

○图像管理模块244的被标记为“照片”的图标528；

○相机模块243的被标记为“相机”的图标530；

○在线视频模块255的被标记为“在线视频”的图标532；

○股市桌面小程序249-2的被标记为“股市”的图标534；

○地图模块254的被标记为“地图”的图标536；

○天气桌面小程序249-1的被标记为“天气”的图标538；

○闹钟桌面小程序249-4的被标记为“时钟”的图标540；

○健身支持模块242的被标记为“健身支持”的图标542；

○记事本模块253的被标记为“记事本”的图标544；和

○用于设置应用程序或模块的被标记为“设置”的图标546，该图 标提供对设备200及其各种应用程序236的设置的访问。

需注意，图5A中示出的图标标签仅是示例性的。例如，视频和音乐 播放器模块252的图标522任选地被标记为“音乐”或“音乐播放器”。 对于各种应用程序图标任选地使用其他标签。在一些实施方案中，相应应 用程序图标的标签包括与该相应应用程序图标对应的应用程序的名称。在 一些实施方案中，特定应用图标的标签不同于与该特定应用图标对应的应 用的名称。

图5B示出了具有与显示器550(例如，触摸屏显示器212)分开的触 敏表面551(例如，图4的平板电脑或触摸板455)的设备(例如，图4的 设备400)上的示例性用户界面。设备400还任选地包括用于检测触敏表面 551上接触强度的一个或多个接触强度传感器(例如，传感器457中的一个 或多个传感器)，和/或用于为设备400的用户生成触觉输出的一个或多个 触觉输出发生器459。

尽管将参考触摸屏显示器212(其中组合了触敏表面和显示器)上的 输入给出随后的示例中的一些示例，但是在一些实施方案中，设备检测与 显示器分开的触敏表面上的输入，如图5B所示。在一些实施方案中，触敏 表面(例如，图5B中的551)具有与显示器(例如，550)上的主轴(例 如，图5B中的553)对应的主轴(例如，图5B中的552)。根据这些实施方案，设备检测在与显示器上的相应位置对应的位置(例如，在图5B中， 560对应于568并且562对应于570)处的与触敏表面551的接触(例如， 图5B中的560和562)。这样，在触敏表面(例如，图5B中的551)与多 功能设备的显示器(图5B中的550)分开时，由设备在触敏表面上检测到 的用户输入(例如，接触560和562以及它们的移动)被该设备用于操纵 显示器上的用户界面。应当理解，类似的方法任选地用于本文所述的其他 用户界面。

另外，虽然主要是参考手指输入(例如，手指接触、单指轻击手势、 手指轻扫手势)来给出下面的示例，但是应当理解，在一些实施方案中， 这些手指输入中的一个或多个手指输入由来自另一输入设备的输入(例 如，基于鼠标的输入或触笔输入)替代。例如，轻扫手势任选地由鼠标点 击(例如，而不是接触)，之后是光标沿着轻扫的路径的移动(例如，而不是接触的移动)来替代。又如，轻击手势任选地由在光标位于轻击手势 的位置上方时的鼠标点击(例如，而不是对接触的检测，以及之后的停止 检测接触)来代替。类似地，当同时检测到多个用户输入时，应当理解的 是，多个计算机鼠标任选地被同时使用，或鼠标和手指接触任选地被同时 使用。

图6A示出了示例性个人电子设备600。设备600包括主体602。在一 些实施方案中，设备600包括相对于设备200和400(例如，图2A至图 4)所述的特征中的一些或全部特征。在一些实施方案中，设备600具有在 下文中称为触摸屏604的触敏显示屏604。另选地，或作为触摸屏604的补 充，设备600具有显示器和触敏表面。与设备200和400的情况一样，在 一些实施方案中，触摸屏604(或触敏表面)具有用于检测正在施加的接触 (例如，触摸)的强度的一个或多个强度传感器。触摸屏604(或触敏表 面)的一个或多个强度传感器提供表示触摸的强度的输出数据。设备600 的用户界面基于触摸强度来对触摸作出响应，这意味着不同强度的触摸可 调用设备600上的不同的用户界面操作。

用于检测和处理触摸强度的技术存在于相关申请中：例如于2013年5 月8日提交的标题为“Device,Method,and Graphical User Interface for Displaying UserInterface Objects Corresponding to an Application”的国际专 利申请序列PCT/US2013/040061，以及于2013年11月11日提交的标题为 “Device,Method,and GraphicalUser Interface for Transitioning Between Touch Input to Display OutputRelationships”的国际专利申请序列 PCT/US2013/069483，这两个专利申请中的每个专利申请据此全文以引用方 式并入本文。

在一些实施方案中，设备600具有一个或多个输入机构606和608。输 入机构606和608(如果包括的话)是物理形式的。物理输入机构的示例包 括下压按钮和可旋转机构。在一些实施方案中，设备600具有一个或多个 附接机构。此类附接机构(如果包括的话)可允许将设备600与例如帽 子、眼镜、耳环、项链、衬衣、夹克、手镯、表带、手链、裤子、腰带、 鞋子、钱包、背包等附接。这些附接机构允许设备600被用户穿戴。

图6B示出了示例性个人电子设备600。在一些实施方案中，设备600 包括相对于图2A、图2B和图4所述的部件中的一些或全部部件。设备600 具有总线612，该总线将I/O部分614与一个或多个计算机处理器616和存 储器618操作性地耦接。I/O部分614被连接到显示器604，该显示器可具 有触敏部件622并且任选地还具有触摸强度敏感部件624。此外，I/O部分 614与通信单元630连接，以用于使用Wi-Fi、蓝牙、近场通信(NFC)、蜂 窝和/或其他无线通信技术来接收应用程序和操作系统数据。设备600包括 输入机构606和/或608。例如，输入机构606是可旋转输入设备或者可按 压输入设备以及可旋转输入设备。在一些示例中，输入机构608是按钮。

在一些示例中，输入机构608是麦克风。个人电子设备600包括例如 各种传感器，诸如GPS传感器632、加速度计634、定向传感器640(例 如，罗盘)、陀螺仪636、运动传感器638和/或其组合，所有这些设备均 可操作性连接到I/O部分614。

个人电子设备600的存储器618包括用于存储计算机可执行指令的一 个或多个非暂态计算机可读存储介质，该指令当由一个或多个计算机处理 器616执行时例如使得计算机处理器执行上述技术和过程。该计算机可执 行指令也例如在任何非暂态计算机可读存储介质内进行存储和/或传送，以 供指令执行系统、装置或设备诸如基于计算机的系统、包含处理器的系统 或可从指令执行系统、装置或设备获取指令并执行指令的其他系统使用或 与其结合。个人电子设备600不限于图6B的部件和配置，而是可包括多种 配置的其他部件或附加部件。

如本文所用，术语“示能表示”是指在设备200、400和/或600(图 2、图4和图6)的显示屏上显示的用户交互式图形用户界面对象。例如， 图像(例如，图标)、按钮和文本(例如，超链接)各自构成示能表示。

如本文所用，术语“焦点选择器”是指用于指示用户正与之进行交互 的用户界面的当前部分的输入元素。在包括光标或其他位置标记的一些具 体实施中，光标充当“焦点选择器”，使得在光标在特定用户界面元素 (例如，按钮、窗口、滑块或其他用户界面元素)上方时在触敏表面(例 如，图4中的触控板455或图5B中的触敏表面551)上检测到输入(例如，按压输入)的情况下，该特定用户界面元素根据所检测到的输入而被 调节。在包括能够实现与触摸屏显示器上的用户界面元素的直接交互的触 摸屏显示器(例如，图2A中的触敏显示系统212或图5A中的触摸屏 212)的一些具体实施中，触摸屏上所检测到的接触充当“焦点选择器”， 使得当在触摸屏显示器上在特定用户界面元素(例如，按钮、窗口、滑块 或其他用户界面元素)的位置处检测到输入(例如，由接触进行的按压输 入)时，该特定用户界面元素根据所检测到的输入而被调节。在一些具体 实施中，焦点从用户界面的一个区域移动到用户界面的另一个区域，而无 需光标的对应移动或触摸屏显示器上的接触的移动(例如，通过使用制表 键或箭头键将焦点从一个按钮移动到另一个按钮)；在这些具体实施中， 焦点选择器根据焦点在用户界面的不同区域之间的移动而移动。不考虑焦 点选择器所采取的具体形式，焦点选择器通常是由用户控制的以便递送与 用户界面的用户预期的交互(例如，通过向设备指示用户界面的用户期望 与其进行交互的元素)的用户界面元素(或触摸屏显示器上的接触)。例 如，在触敏表面(例如，触摸板或触摸屏)上检测到按压输入时，焦点选 择器(例如，光标、接触或选择框)在相应按钮上方的位置将指示用户意 图激活相应按钮(而不是设备的显示器上示出的其他用户界面元素)。

如说明书和权利要求书中所使用的，接触的“特征强度”这一术语是 指基于接触的一个或多个强度的接触的特征。在一些实施方案中，特征强 度基于多个强度样本。特征强度任选地基于相对于预定义事件(例如，在 检测到接触之后，在检测到接触抬离之前，在检测到接触开始移动之前或 之后，在检测到接触结束之前，在检测到接触强度增大之前或之后和/或在 检测到接触强度减小之前或之后)而言在预先确定的时间段(例如，0.05 秒、0.1秒、0.2秒、0.5秒、1秒、2秒、5秒、10秒)期间采集的预定义数 量的强度样本或一组强度样本。接触的特征强度任选地基于以下各项中的 一者或多者：接触强度的最大值、接触强度的均值、接触强度的平均值、 接触强度的前10％处的值、接触强度的半最大值、接触强度的90％最大值 等。在一些实施方案中，在确定特征强度时使用接触的持续时间(例如， 在特征强度是接触强度在时间上的平均值时)。在一些实施方案中，将特 征强度与一组一个或多个强度阈值进行比较，以确定用户是否已执行操 作。例如，该组一个或多个强度阈值包括第一强度阈值和第二强度阈值。 在该示例中，特征强度未超过第一阈值的接触导致第一操作，特征强度超 过第一强度阈值但未超过第二强度阈值的接触导致第二操作，并且特征强 度超过第二阈值的接触导致第三操作。在一些实施方案中，使用特征强度 与一个或多个阈值之间的比较来确定是否要执行一个或多个操作(例如， 是执行相应操作还是放弃执行相应操作)，而不是用于确定执行第一操作 还是第二操作。

在一些实施方案中，识别手势的一部分，目的是确定特征强度。例 如，触敏表面接收连续的轻扫接触，该连续的轻扫接触从起始位置过渡并 到达结束位置，在该结束位置处，接触的强度增加。在该示例中，接触在 结束位置处的特征强度仅基于连续轻扫接触的一部分，而不是整个轻扫接 触(例如，仅轻扫接触在结束位置处的部分)。在一些实施方案中，在确 定接触的特征强度之前向轻扫手势的强度应用平滑化算法。例如，该平滑 化算法任选地包括以下各项中的一者或多者：不加权滑动平均平滑化算 法、三角平滑化算法、中值滤波器平滑化算法和/或指数平滑化算法。在一 些情况下，这些平滑化算法消除了轻扫接触强度中的窄的尖峰或倾斜，目 的是确定特征强度。

相对于一个或多个强度阈值诸如接触检测强度阈值、轻按压强度阈 值、深按压强度阈值和/或一个或多个其他强度阈值来表征触敏表面上的接 触的强度。在一些实施方案中，轻按压强度阈值对应于这样的强度：在该 强度下设备将执行通常与点击物理鼠标的按钮或触控板相关联的操作。在 一些实施方案中，深按压强度阈值对应于这样的强度：在该强度下设备将 执行与通常与点击物理鼠标或触控板的按钮相关联的操作不同的操作。在一些实施方案中，当检测到特征强度低于轻按压强度阈值(例如，并且高 于标称接触检测强度阈值，比该标称接触检测强度阈值低的接触不再被检 测到)的接触时，设备将根据接触在触敏表面上的移动来移动焦点选择 器，而不执行与轻按压强度阈值或深按压强度阈值相关联的操作。一般来 讲，除非另有陈述，否则这些强度阈值在不同组的用户界面附图之间是一 致的。

接触的特征强度从低于轻按压强度阈值的强度增大到介于轻按压强度 阈值与深按压强度阈值之间的强度有时被称为“轻按压”输入。接触特征 强度从低于深按压强度阈值的强度增大到高于深按压强度阈值的强度有时 被称为“深按压”输入。接触的特征强度从低于接触检测强度阈值的强度 增大到介于接触检测强度阈值与轻按压强度阈值之间的强度有时被称为检 测到触摸表面上的接触。接触的特征强度从高于接触检测强度阈值的强度 减小到低于接触检测强度阈值的强度有时被称为检测到接触从触摸表面抬 离。在一些实施方案中，接触检测强度阈值为零。在一些实施方案中，接 触检测强度阈值大于零。

在本文中所述的一些实施方案中，响应于检测到包括相应按压输入的 手势或响应于检测到利用相应接触(或多个接触)执行的相应按压输入来 执行一个或多个操作，其中至少部分地基于检测到该接触(或多个接触) 的强度增大到高于按压输入强度阈值而检测到相应按压输入。在一些实施 方案中，响应于检测到相应接触强度增大到高于按压输入强度阈值(例 如，相应按压输入的“向下冲程”)而执行相应操作。在一些实施方案 中，按压输入包括相应接触强度增大到高于按压输入强度阈值以及该接触 强度随后减小到低于按压输入强度阈值，并且响应于检测到相应接触强度 随后减小到低于按压输入阈值(例如，相应按压输入的“向上冲程”)而 执行相应操作。

在一些实施方案中，设备采用强度滞后以避免有时被称为“抖动”的 意外输入，其中设备限定或选择与按压输入强度阈值具有预定义关系的滞 后强度阈值(例如，滞后强度阈值比按压输入强度阈值低X个强度单位， 或滞后强度阈值是按压输入强度阈值的75％、90％或某个合理比例)。因 此，在一些实施方案中，按压输入包括相应接触强度增大到高于按压输入 强度阈值以及该接触强度随后减小到低于与按压输入强度阈值对应的滞后 强度阈值，并且响应于检测到相应接触强度随后减小到低于滞后强度阈值(例如，相应按压输入的“向上冲程”)而执行相应操作。类似地，在一 些实施方案中，仅在设备检测到接触强度从等于或低于滞后强度阈值的强 度增大到等于或高于按压输入强度阈值的强度并且任选地接触强度随后减 小到等于或低于滞后强度的强度时才检测到按压输入，并且响应于检测到 按压输入(例如，根据环境，接触强度增大或接触强度减小)而执行相应 操作。

为了容易解释，任选地，响应于检测到以下各种情况中的任一种情况 而触发对响应于与按压输入强度阈值相关联的按压输入或响应于包括按压 输入的手势而执行的操作的描述：接触强度增大到高于按压输入强度阈 值、接触强度从低于滞后强度阈值的强度增大到高于按压输入强度阈值的 强度、接触强度减小到低于按压输入强度阈值、和/或接触强度减小到低于 与按压输入强度阈值对应的滞后强度阈值。另外，在将操作描述为响应于检测到接触强度减小到低于按压输入强度阈值而执行的示例中，任选地响 应于检测到接触强度减小到低于对应于并且小于按压输入强度阈值的滞后 强度阈值来执行操作。

3.数字助理系统

图7A示出根据各种示例的数字助理系统700的框图。在一些示例中， 数字助理系统700在独立式计算机系统上实现。在一些示例中，数字助理 系统700跨多个计算机分布。在一些示例中，数字助理的模块和功能中的 一些被划分成服务器部分和客户端部分，其中客户端部分位于一个或多个 用户设备(例如，设备104、设备122、设备200、设备400或设备600) 上并通过一个或多个网络与服务器部分(例如，服务器系统108)通信，例 如，如图1中所示。在一些示例中，数字助理系统700是图1中所示的服 务器系统108(和/或DA服务器106)的具体实施。应当指出，数字助理系 统700仅为数字助理系统的一个示例，且该数字助理系统700具有比所示 更多或更少的部件、组合两个或更多个部件，或者可具有部件的不同配置 或布局。图7A中所示的各种部件在硬件、用于由一个或多个处理器执行的 软件指令、固件(包括一个或多个信号处理集成电路和/或专用集成电 路)，或其组合中实现。

数字助理系统700包括存储器702、输入/输出(I/O)接口706、网络通 信接口708，以及一个或多个处理器704。这些部件可通过一个或多个通信 总线或信号线710彼此进行通信。

在一些示例中，存储器702包括非暂态计算机可读介质，诸如高速随 机存取存储器和/或非易失性计算机可读存储介质(例如，一个或多个磁盘 存储设备、闪存存储器设备或其他非易失性固态存储器设备)。

在一些示例中，I/O接口706将数字助理系统700的输入/输出设备716 诸如显示器、键盘、触摸屏和麦克风耦接至用户界面模块722。I/O接口 706，与用户界面模块722结合，接收用户输入(例如，言语输入、键盘输 入、触摸输入等)并相应地对这些输入进行处理。在一些示例中，例如， 当数字助理在独立式用户设备上实现时，数字助理系统700包括相对于图 2A、图4、图6A至图6B中各自的设备200、设备400或设备600所描述 的部件和I/O通信接口中的任一者。在一些示例中，数字助理系统700代表 数字助理具体实施的服务器部分，并且可通过位于用户设备(例如，设备 104、设备200、设备400或设备600)上的客户端侧部分与用户进行交 互。

在一些示例中，网络通信接口708包括一个或多个有线通信端口 712，以及/或者无线传输和接收电路714。一个或多个有线通信端口经由一 个或多个有线接口例如以太网、通用串行总线(USB)、火线等接收和发送通 信信号。无线电路714从通信网络及其他通信设备接收RF信号和/或光学 信号以及将RF信号和/或光学信号发送至通信网络及其他通信设备。无线 通信使用多种通信标准、协议和技术中的任一种，诸如GSM、EDGE、 CDMA、TDMA、蓝牙、Wi-Fi、VoIP、Wi-MAX、或任何其他合适的通信 协议。网络通信接口708使数字助理系统700通过网络，诸如互联网、内 联网和/或无线网络诸如蜂窝电话网络、无线局域网(LAN)和/或城域网 (MAN)，与其他设备之间的通信成为可能。

在一些示例中，存储器702或存储器702的计算机可读存储介质存储 程序、模块、指令和数据结构，包括以下内容中的全部或其子集：操作系 统718、通信模块720、用户界面模块722、一个或多个应用程序724和数 字助理模块726。具体地讲，存储器702或存储器702的计算机可读存储介 质存储用于执行上述过程的指令。一个或多个处理器704执行这些程序、 模块和指令，并从数据结构读取数据或将数据写到数据结构。

操作系统718(例如，Darwin、RTXC、LINUX、UNIX、iOS、OS X、WINDOWS、或嵌入式操作系统诸如VxWorks)包括用于控制和管理 一般系统任务(例如，存储器管理、存储设备控制、电源管理等)的各种 软件组件和/或驱动器，并且有利于各种硬件、固件和软件组件之间的通 信。

通信模块720促成数字助理系统700与其他设备之间通过网络通信接 口708进行的通信。例如，通信模块720与电子设备诸如分别在图2A、图 4、图6A至图6B中所示的设备200、400或600的RF电路208通信。通 信模块720还包括各种部件，用于处理由无线电路714和/或有线通信端口 712所接收的数据。

用户界面模块722经由I/O接口706接收来自用户(例如，来自键 盘、触摸屏、指向设备、控制器和/或麦克风)的命令和/或输入，并在显示 器上生成用户界面对象。用户界面模块722还准备输出(例如，言语、声 音、动画、文本、图标、振动、触觉反馈、光照等)并将其经由I/O接口 706(例如，通过显示器、音频通道、扬声器、触控板等)传送给用户。

应用程序724包括被配置为由所述一个或多个处理器704执行的程序 和/或模块。例如，如果数字助理系统在独立式用户设备上实施，则应用程 序724包括用户应用程序，诸如游戏、日历应用程序、导航应用程序或邮 件应用程序。如果数字助理系统700在服务器上实现，则应用程序724包 括例如资源管理应用程序、诊断应用程序、或调度应用程序。

存储器702还存储数字助理模块726(或数字助理的服务器部分)。 在一些示例中，数字助理模块726包括以下子模块或者其子集或超集：输 入/输出处理模块728、言语到文本(STT)处理模块730、自然语言处理模块 732、对话流处理模块734、任务流处理模块736、服务处理模块738和言 语合成模块740。这些模块中的每一者均具有对以下数字助理模块726的系 统或数据与模型中的一者或多者或者其子集或超集的访问权限：知识本体 760、词汇索引744、用户数据748、任务流模型754、服务模型756和 ASR系统758。

在一些示例中，使用数字助理模块726中实现的处理模块、数据和模 型，数字助理可执行下述各项的至少一部分：将言语输入转换为文本；识 别在从用户接收的自然语言输入中表达的用户意图；主动引出并获得充分 推断用户意图所需的信息(例如，通过消除词、名称、意图的歧义等)； 确定用于满足推断出的意图的任务流；以及执行该任务流以满足推断出的 意图。

在一些示例中，如图7B中所示，I/O处理模块728可通过图7A中的 I/O设备716与用户交互或通过图7A中的网络通信接口708与用户设备 (例如，设备104、设备200、设备400或设备600)交互，以获得用户输 入(例如，言语输入)并提供对用户输入的响应(例如，作为言语输 出)。I/O处理模块728随同接收到用户输入一起或在接收到用户输入之后 不久任选地获得与来自用户设备的用户输入相关联的上下文信息。上下文 信息包括特定于用户的数据、词汇，和/或与用户输入相关的偏好。在一些 示例中，该上下文信息还包括在接收到用户请求时的用户设备的软件状态 和硬件状态，和/或与在接收到用户请求时的用户的周围环境相关的信息。 在一些示例中，I/O处理模块728还向用户发送与用户请求有关的跟进问 题，并从用户接收回答。在用户请求被I/O处理模块728接收且用户请求包 括言语输入时，I/O处理模块728将言语输入转发至STT处理模块730(或 言语识别器)以进行言语到文本转换。

STT处理模块730包括一个或多个ASR系统758。该一个或多个ASR 系统758可处理通过I/O处理模块728接收到的言语输入，以产生识别结 果。每个ASR系统758可包括前端言语预处理器。前端言语预处理器从言 语输入中提取代表性特征。例如，前端言语预处理器对言语输入执行傅里 叶变换，以提取表征言语输入的光谱特征作为代表性多维向量的序列。另 外，每个ASR系统758包括一个或多个言语识别模型(例如，声学模型和/ 或语言模型)并且实现一个或多个言语识别引擎。言语识别模型的示例包 括隐马尔可夫模型、高斯混合模型、深层神经网络模型、n元语言模型以及 其他统计模型。言语识别引擎的示例包括基于动态时间规整的引擎和基于 加权有限状态变换器(WFST)的引擎。使用一个或多个言语识别模型和一个 或多个言语识别引擎来处理前端言语预处理器的所提取的代表性特征以产 生中间识别结果(例如，音素、音素串和子字词)，并且最终产生文本识 别结果(例如，字词、字词串、或符号序列)。在一些示例中，言语输入 至少部分地由第三方服务处理或在用户的设备(例如，设备104、设备 200、设备400或设备600)上处理，以产生识别结果。一旦STT处理模块 730产生包含文本串(例如，字词，或字词的序列，或符号序列)的识别结 果，识别结果即被传送至自然语言处理模块732以供意图推断。在一些示 例中，STT处理模块730产生言语输入的多个候选文本表示。每个候选文 本表示是与言语输入对应的字词或符号的序列。在一些示例中，每个候选 文本表示与言语识别置信度得分相关联。基于言语识别置信度得分，STT 处理模块730对候选文本表示进行排序并将n个最佳(例如，n个排名最高) 候选文本表示提供给自然语言处理模块732以供意图推断，其中n为大于 零的预先确定的整数。例如，在一个示例中，仅将排名最高的(n＝1)候选文 本表示递送至自然语言处理模块732以供意图推断。又如，将5个排名最 高的(n＝5)候选文本表示递送至自然语言处理模块732以供意图推断。

有关言语转文本处理的更多细节在提交于2011年9月20日的标题为“Consolidating Speech Recognition Results”的美国实用新型专利申请序列 号13/236,942中有所描述，其全部公开内容以引用方式并入本文。

在一些示例中，STT处理模块730包括可识别字词的词汇和/或经由语 音字母转换模块731访问该词汇。每个词汇字词与言语识别语音字母表中 表示的字词的一个或多个候选发音相关联。具体地讲，可识别字词的词汇 包括与多个候选发音相关联的字词。例如，该词汇包括与和 的候选发音相关联的字词“tomato”。另外，词汇字词与基于来自 用户的先前言语输入的自定义候选发音相关联。此类自定义候选发音存储 在STT处理模块730中，并且经由设备上的用户配置文件与特定用户相关 联。在一些示例中，字词的候选发音基于字词的拼写以及一个或多个语言 学和/或语音规则确定。在一些示例中，候选发音手动生成，例如，基于已 知的标准发音而手动生成。

在一些示例中，基于候选发音的普遍性来对候选发音进行排名。例 如，候选发音的排序高于因为前者是更常用的发音 (例如，在所有用户中，对于特定地理区域的用户而言，或者对于任何其 他合适的用户子集而言)。在一些示例中，基于候选发音是否为与用户相 关联的自定义候选发音来对候选发音进行排序。例如，自定义候选发音的 排名高于标准候选发音。这可用于识别具有偏离规范发音的独特发音的专 有名词。在一些示例中，候选发音与一个或多个言语特征(诸如地理起 源、国家或种族)相关联。例如，候选发音与美国相关联，而候 选发音与英国相关联。此外，候选发音的排序基于存储在设备上 的用户配置文件中的用户的一个或多个特征(例如，地理起源、国家、种 族等)。例如，可从用户配置文件确定该用户与美国相关联。基于用户与 美国相关联，候选发音(与美国相关联)可比候选发音 (与英国相关联)排名更高。在一些示例中，经排序的候选发音中的一个 可被选作预测发音(例如，最可能的发音)。

接收到言语输入时，STT处理模块730被用来(例如，使用声音模 型)确定对应于该言语输入的音素，然后尝试(例如，使用语言模型)确 定匹配该音素的字词。例如，如果STT处理模块730首先识别对应于该言 语输入的一部分的音素序列那么它随后可基于词汇索引744确 定该序列对应于字词“tomato”。

在一些示例中，STT处理模块730使用模糊匹配技术来确定话语中的 字词。因此，例如，STT处理模块730确定音素序列对应于字词 “tomato”，即使该特定音素序列不是该字词的候选音素序列。

数字助理的自然语言处理模块732(“自然语言处理器”)获取由 STT处理模块730生成的n个最佳候选文字表示(“字词序列”或“符号 序列”)，并尝试将每个候选文本表示与由数字助理所识别的一个或多个 “可执行意图”相关联。“可执行意图”(或“用户意图”)表示可由数 字助理执行并且可具有在任务流模型754中实现的相关联的任务流的任 务。相关联任务流是数字助理为了执行任务而采取的一系列经编程的动作 和步骤。数字助理的能力范围取决于已在任务流模型754中实现并存储的 任务流的数量和种类，或换言之，取决于数字助理所识别的“可执行意 图”的数量和种类。然而，数字助理的有效性还取决于助理从以自然语言 表达的用户请求中推断出正确的“一个或多个可执行意图”的能力。

在一些示例中，除从STT处理模块730获得的字词或符号的序列之 外，自然语言处理模块732还(例如，从I/O处理模块728)接收与用户请 求相关联的上下文信息。自然语言处理模块732任选地使用上下文信息来 明确、补充和/或进一步限定在从STT处理模块730接收的候选文本表示中 包含的信息。上下文信息包括例如用户偏好，用户设备的硬件和/或软件状 态，在用户请求之前、期间或之后不久收集的传感器信息，数字助理与用 户之间的先前交互(例如，对话)，等等。如本文所述，在一些示例中， 上下文信息是动态的，并且随对话的时间、位置、内容、以及其他因素而 变化。

在一些示例中，自然语言处理基于例如知识本体760。知识本体760 为包含许多节点的分级结构，每个节点表示“可执行意图”或与“可执行 意图”或其他“属性”中的一者或多者相关的“属性”。如上所述，“可 执行意图”表示数字助理能够执行的任务，即，该任务为“可执行的”或 可被进行的。“属性”代表与可执行意图或另一属性的子方面相关联的参数。知识本体760中可执行意图节点与属性节点之间的连接定义由属性节 点表示的参数如何从属于由可执行意图节点表示的任务。

在一些示例中，知识本体760由可执行意图节点和属性节点组成。在 知识本体760内，每个可执行意图节点直接连接至或通过一个或多个中间 属性节点连接至一个或多个属性节点。类似地，每个属性节点直接连接至 或通过一个或多个中间属性节点连接至一个或多个可执行意图节点。例 如，如图7C所示，知识本体760包括“餐厅预订”节点(即，可执行意图 节点)。属性节点“餐厅”、“日期/时间”(针对预订)和“同行人数”均 直接连接至可执行意图节点(即，“餐厅预订”节点)。

此外，属性节点“菜系”、“价格区间”、“电话号码”和“位置” 是属性节点“餐厅”的子节点，并且均通过中间属性节点“餐厅”连接至 “餐厅预订”节点(即，可执行意图节点)。又如，如图7C所示，知识本体 760还包括“设定提醒”节点(即，另一个可执行意图节点)。属性节点“日 期/时间”(针对设定提醒)和“主题”(针对提醒)均连接至“设定提 醒”节点。由于属性“日期/时间”与进行餐厅预订的任务和设定提醒的任 务二者相关，因此属性节点“日期/时间”连接至知识本体760中的“餐厅 预订”节点和“设定提醒”节点二者。

可执行意图节点连同其连接的概念节点一起，被描述为“域”。在本 讨论中，每个域与相应的可执行意图相关联，并涉及与特定可执行意图相 关联的一组节点(以及这些节点之间的关系)。例如，图7C中示出的知识 本体760包括在知识本体760内的餐厅预订域762的示例以及提醒域764的 示例。餐厅预订域包括可执行意图节点“餐厅预订”、属性节点“餐厅”、“日期/时间”和“同行人数”以及子属性节点“菜系”、“价格范 围”、“电话号码”和“位置”。提醒域764包括可执行意图节点“设定 提醒”和属性节点“主题”和“日期/时间”。在一些示例中，知识本体 760由多个域组成。每个域与一个或多个其他域共享一个或多个属性节点。 例如，除了餐厅预订域762和提醒域764之外，“日期/时间”属性节点还 与许多不同域(例如，行程安排域、旅行预订域、电影票域等)相关联。

尽管图7C示出知识本体760内的两个示例性域，但其他域包括例如 “查找电影”、“发起电话呼叫”、“查找方向”、“安排会议”、“发 送消息”以及“提供问题的回答”、“阅读列表”、“提供导航指令”、 “提供针对任务的指令”等。“发送消息”域与“发送消息”可执行意图节点相关联，并且进一步包括属性节点诸如“一个或多个接收人”、“消 息类型”和“消息正文”。属性节点“接收人”进一步例如由子属性节点 诸如“接收人姓名”和“消息地址”来限定。

在一些示例中，知识本体760包括数字助理能够理解并对其起作用的 所有域(以及因而可执行意图)。在一些示例中，知识本体760诸如通过 添加或移除整个域或节点，或者通过修改知识本体760内的节点之间的关 系进行修改。

在一些示例中，将与多个相关可执行意图相关联的节点群集在知识本 体760中的“超级域”下。例如，“旅行”超级域包括与旅行相关的属性 节点和可执行意图节点的群集。与旅行相关的可执行意图节点包括“机票 预订”、“酒店预订”、“汽车租赁”、“路线规划”、“寻找感兴趣的 点”，等等。同一超级域(例如，“旅行”超级域)下的可执行意图节点 具有多个共用的属性节点。例如，针对“机票预订”、“酒店预订”、 “汽车租赁”、“路线规划”和“寻找感兴趣的点”的可执行意图节点共 享属性节点“起始位置”、“目的地”、“出发日期/时间”、“到达日期/ 时间”和“同行人数”中的一者或多者。

在一些示例中，知识本体760中的每个节点与跟由节点代表的属性或 可执行意图有关的一组字词和/或短语相关联。与每个节点相关联的相应组 的字词和/或短语是所谓的与节点相关联的“词汇”。将与每个节点相关联 的相应组的字词和/或短语存储在与由节点所代表的属性或可执行意图相关 联的词汇索引744中。例如，返回图7B，与“餐厅”属性的节点相关联的 词汇包括字词诸如“美食”、“酒水”、“菜系”、“饥饿”、“吃”、 “披萨”、“快餐”、“膳食”等。又如，与“发起电话呼叫”可执行意 图的节点相关联的词汇包括字词和短语诸如“呼叫”、“打电话”、“拨 打”、“与……通电话”、“呼叫该号码”、“打电话给”等。词汇索引 744任选地包括不同语言的字词和短语。

自然语言处理模块732接收来自STT处理模块730的候选文本表示(例 如，一个或多个文本串或一个或多个符号序列)，并针对每个候选表示，确 定候选文本表示中的字词涉及到哪些节点。在一些示例中，如果发现候选 文本表示中的字词或短语(经由词汇索引744)与知识本体760中的一个或 多个节点相关联，则所述字词或短语“触发”或“激活”这些节点。基于 已激活节点的数量和/或相对重要性，自然语言处理模块732选择可执行意 图中的一个可执行意图作为用户意图使数字助理执行的任务。在一些示例 中，选择具有最多“已触发”节点的域。在一些示例中，选择具有最高置 信度(例如，基于其各个已触发节点的相对重要性)的域。在一些示例 中，基于已触发节点的数量和重要性的组合来选择域。在一些示例中，在 选择节点的过程中还考虑附加因素，诸如数字助理先前是否已正确解译来自用户的类似请求。

用户数据748包括特定于用户的信息，诸如特定于用户的词汇、用户 偏好、用户地址、用户的默认语言和第二语言、用户的联系人列表，以及 每位用户的其他短期或长期信息。在一些示例中，自然语言处理模块732 使用特定于用户的信息来补充用户输入中所包含的信息以进一步限定用户 意图。例如，针对用户请求“邀请我的朋友参加我的生日派对”，自然语 言处理模块732能够访问用户数据748以确定“朋友”是哪些人以及“生 日派对”将于何时何地举行，而不需要用户在其请求中明确地提供此类信 息。

应认识到，在一些示例中，利用一个或多个机器学习机构(例如，神经 网络)来实现自然语言处理模块732。具体地，一个或多个机器学习机构被 配置为接收候选文本表示和与候选文本表示相关联的上下文信息。基于候 选文本表示和相关联的上下文信息，一个或多个机器学习机构被配置为基 于一组候选可执行意图确定意图置信度得分。自然语言处理模块732可基 于所确定的意图置信度得分从一组候选可执行意图中选择一个或多个候选 可执行意图。在一些示例中，还利用知识本体(例如，知识本体760)从一组 候选可执行意图中选择一个或多个候选可执行意图。

基于符号串搜索知识本体的其他细节在于2008年12月22日提交的标 题为“Method and Apparatus for Searching Using An Active Ontology”的美 国实用新型专利申请序列号12/341,743中有所描述，其全部公开内容以引 用方式并入本文。

在一些示例中，一旦自然语言处理模块732基于用户请求识别出可执 行意图(或域)，自然语言处理模块732便生成结构化查询以表示所识别 的可执行意图。在一些示例中，结构化查询包括针对可执行意图的域内的 一个或多个节点的参数，并且所述参数中的至少一些参数填充有用户请求 中指定的特定信息和要求。例如，用户说“帮我在寿司店预订晚上7点的 座位。”在这种情况下，自然语言处理模块732能够基于用户输入将可执 行意图正确地识别为“餐厅预订”。根据知识本体，“餐厅预订”域的结 构化查询包括参数诸如{菜系}、{时间}、{日期}、{同行人数}等。在一些 示例中，基于言语输入和使用STT处理模块730从言语输入得出的文本， 自然语言处理模块732针对餐厅预订域生成部分结构化查询，其中部分结 构化查询包括参数{菜系＝“寿司类”}以及{时间＝“晚上7点”}。然而， 在该示例中，用户话语包含不足以完成与域相关联的结构化查询的信息。 因此，基于当前可用信息，在结构化查询中未指定其他必要参数，诸如{同 行人数}和{日期}。在一些示例中，自然语言处理模块732用所接收的上下 文信息来填充结构化查询的一些参数。例如，在一些示例中，如果请求 “附近的”寿司店，自然语言处理模块732用来自用户设备的GPS坐标来 填充结构化查询中的{位置}参数。

在一些示例中，自然语言处理模块732识别针对从STT处理模块730 所接收的每个候选文本表示的多个候选可执行意图。另外，在一些示例 中，针对每个所识别的候选可执行意图生成相应的结构化查询(部分地或全 部地)。自然语言处理模块732确定针对每个候选可执行意图的意图置信 度得分，并基于意图置信度得分对候选可执行意图进行排序。在一些示例 中，自然语言处理模块732将所生成的一个或多个结构化查询(包括任何 已完成的参数)传送至任务流处理模块736(“任务流处理器”)。在一些 示例中，针对m个最佳(例如，m个排名最高的)候选可执行意图的一个 或多个结构化查询被提供给任务流处理模块736，其中m为预先确定的大 于零的整数。在一些示例中，将针对m个最佳候选可执行意图的一个或多 个结构化查询连同对应的候选文本表示提供给任务流处理模块736。

基于根据言语输入的多个候选文本表示所确定的多个候选可执行意图 推断用户意图的其他细节在提交于2014年6月6日的“System and Method for Inferring UserIntent From Speech Inputs”的美国实用新型申请号 14/298,725中有所描述，其全部公开内容以引用方式并入本文。

任务流处理模块736被配置为接收来自自然语言处理模块732的一个 或多个结构化查询，(必要时)完成结构化查询，以及执行“完成”用户 最终请求所需的动作。在一些示例中，完成这些任务所必需的各种过程在 任务流模型754中提供。在一些示例中，任务流模型754包括用于获得来 自用户的附加信息的过程，以及用于执行与可执行意图相关联的动作的任 务流。

如上所述，为了完成结构化查询，任务流处理模块736需要发起与用 户的附加对话，以便获得附加信息和/或弄清可能有歧义的话语。当有必要 进行此类交互时，任务流处理模块736调用对话流处理模块734来参与同 用户的对话。在一些示例中，对话流处理器模块734确定如何(和/或何 时)向用户请求附加信息，并且接收和处理用户响应。通过I/O处理模块 728将问题提供给用户并从用户接收回答。在一些示例中，对话处理模块 734经由音频和/或视频输出向用户呈现对话输出，并接收经由口头或物理 (例如，点击)响应的来自用户的输入。继续上述示例，在任务流处理模 块736调用对话流处理模块734来确定针对与域“餐厅预订”相关联的结 构化查询的“同行人数”和“日期”信息时，对话流处理模块734生成诸 如“一行几位？”和“预订哪天？”之类的问题传递给用户。一旦收到来自 用户的回答，对话流处理模块734就用缺失信息填充结构化查询，或将信 息传递给任务流处理模块736以根据结构化查询完成缺失信息。

一旦任务流处理模块736已针对可执行意图完成结构化查询，任务流 处理模块736便开始执行与可执行意图相关联的最终任务。因此，任务流 处理模块736根据结构化查询中包含的特定参数来执行任务流模型中的步 骤和指令。例如，针对可执行意图“餐厅预订”的任务流模型包括用于联 系餐厅并实际上请求在特定时间针对特定同行人数的预订的步骤和指令。 例如，使用结构化查询诸如：餐厅预订、{餐厅＝ABC咖啡馆、日期＝ 3/12/2012、时间＝7pm、同行人数＝5，}任务流处理模块736可执行以下步 骤：(1)登录ABC咖啡馆的服务器或诸如之类的餐厅预订系 统，(2)以网站上的形式输入日期、时间和同行人数信息，(3)提交表格，以 及(4)在用户的日历上形成针对预订的日历条目。

在一些示例中，任务流处理模块736在服务处理模块738(“服务处 理模块”)的辅助下完成用户输入中所请求的任务或者提供用户输入中所 请求的信息性回答。例如，服务处理模块738代表任务流处理模块736发 起电话呼叫、设定日历条目、调用地图搜索、调用用户设备上安装的其他 用户应用程序或与所述其他应用程序进行交互，以及调用第三方服务(例 如，餐厅预订门户网站、社交网站、银行门户网站等)或与第三方服务进 行交互。在一些示例中，通过服务模型756中的相应服务模型指定每项服 务所需的协议和应用程序编程接口(API)。服务处理模块738针对服务访问 适当的服务模型，并依据服务模型根据该服务所需的协议和API生成针对 该服务的请求。

例如，如果餐厅已启用在线预订服务，则餐厅提交服务模型，该服务 模型指定进行预订的必要参数以及将必要参数的值传送至在线预订服务的 API。在被任务流处理模块736请求时，服务处理模块738可使用存储在服 务模型中的web地址来建立与在线预订服务的网络连接，并将预订的必要 参数(例如，时间、日期、同行人数)以根据在线预订服务的API的格式 发送至在线预订接口。

在一些示例中，自然语言处理模块732、对话处理模块734以及任务 流处理模块736被共同且反复地使用，以推断并限定用户的意图、获得信 息以进一步明确并细化用户意图、并最终生成响应(即，输出至用户，或 完成任务)以满足用户的意图。所生成的响应是至少部分地满足用户意图 的对言语输入的对话响应。另外，在一些示例中，所生成的响应被输出为 言语输出。在这些示例中，所生成的响应被发送到言语合成模块740(例 如，言语合成器)，在言语合成模块中，可处理所生成的响应以将对话响 应以言语形式合成。在其他示例中，所生成的响应是与满足言语输入中的 用户请求相关的数据内容。

在任务流处理模块736接收到来自自然语言处理模块732的多个结构 化查询的示例中，任务流处理模块736首先处理所接收结构化查询的第一 结构化查询以试图完成第一结构化查询和/或执行由第一结构化查询所表示 的一个或多个任务或动作。在一些示例中，第一结构化查询对应于排名最 高的可执行意图。在其他示例中，第一结构化查询选自基于对应的语音识 别置信度得分和对应的意图置信度得分的结合所接收的结构化查询。在一 些示例中，如果任务流处理模块736在第一结构化查询的处理期间(例如， 由于无法确定必要的参数)遇到错误，任务流处理模块736可继续选择和处 理所接收结构化查询的与排名较低的可执行意图对应的第二结构化查询。 例如基于对应候选文本表示的语音识别置信度得分、对应候选可执行意图 的意图置信度得分、第一结构化查询中的缺失必要参数或它们的任何组合 来选择第二结构化查询。

言语合成模块740被配置为合成用于呈现给用户的言语输出。言语合 成模块740基于数字助理提供的文本来合成言语输出。例如，所生成的对 话响应是文本串的形式。言语合成模块740将文本串转换成可听言语输 出。言语合成模块740使用任何适当言语合成技术，以便从文本生成言语 输出，包括但不限于：拼接合成、单元选择合成、双音素合成、域特定合 成、共振峰合成、发音合成、基于隐马尔可夫模型(HMM)的合成，以及正 弦波合成。在一些示例中，言语合成模块740被配置为基于对应于这些字 词的音素串来合成各个字词。例如，音素串与所生成的对话响应中的字词 相关联。音素串存储在与字词相关联的元数据中。言语合成模型740被配 置为直接处理元数据中的音素串，以合成言语形式的字词。

在一些示例中，替代使用言语合成模块740(或除此之外)，在远程 设备(例如，服务器系统108)上执行言语合成，并且将合成的言语发送至 用户设备以输出给用户。例如，这可发生在一些具体实施中，其中在服务 器系统处生成数字助理的输出。而且由于服务器系统通常比用户设备具有 更强的处理能力或更多的资源，其有可能获得比客户端侧合成将实现的质 量更高的言语输出。

有关数字助理的附加细节可在于2011年1月10日提交的标题为 “IntelligentAutomated Assistant”的美国实用新型专利申请12/987,982和于 2011年9月30日提交的标题为“Generating and Processing Task Items That Represent Tasks to Perform”的美国实用新型专利申请13/251,088中找到， 其全部公开内容以引用方式并入本文。

4.数字助理的示例性功能和架构基于语音匹配技术提供媒体项目

图8示出了根据各种示例的用于基于语音匹配技术提供媒体项目的数 字助理800的框图。在一些示例中，数字助理800(例如，数字助理系统 700)由用户设备根据各种示例来实现。在一些示例中，用户设备、服务器 (例如，服务器108)或它们的组合可实现数字助理800。用户设备可利用例 如如图1、2A-2B、4和6所示的设备104、200、400或600来实现。在一 些示例中，数字助理800可利用数字助理系统700的数字助理模块726来 实现。数字助理800包括类似于数字助理模块726的一个或多个模块、模 型、应用程序、词汇表和用户数据。例如，数字助理800包括下述子模块 或它们的子集或超集：输入/输出处理模块、STT处理模块、自然语言处理 模块、任务流处理模块和言语合成模块。这些模块也可类似于如图7B所示 的对应模块来实现，因此未示出并且不进行重复描述。

如图8所示，在一些实施方案中，数字助理800可包括请求检测器 810、媒体项目搜索引擎820、媒体项目的储存库830和语音匹配模块 840。数字助理800可接收言语输入802。图9示出了根据各种示例的用于 接收来自用户902的言语输入的数字助理800的框图。参照图8和图9，言 语输入802可包括非结构化自然语言信息。例如，如图9所示，言语输入 802A可包括“播放21Savage的‘Skrrt Skrrt；”并且言语输入802B可包 括“为我找到Zedd的‘Candyman”。尽管言语输入802A和802B包括诸 如歌曲名称、专辑名称、艺术家名称等信息，但应理解，言语输入也可包 括诸如流派、主演、著名场景等其他信息。

在一些示例中，需要数字助理800准确确定用户意图并获得正确的媒 体项目，尽管存在发音的相似性、储存库中能够获得的媒体项目的相似 性、以及缺少用于意图推断的上下文信息。在上述示例中，将需要数字助 理800确定例如言语输入802A是否包括字词“Skirt”、“Skrrt”或 “Skrt；”以及言语输入802B是否包括字词“Candyman”或字词序列“Candy man”。在一些示例中，用户可以不提供附加信息，并且言语输入 802A或802B可为针对用户意图的推断对数字助理800可用的所有信息。 语音匹配技术可提高获得正确媒体项目的准确度，如下文所详述的。

如上所述，数字助理800可包括请求检测器810。图10示出了根据各 种示例的请求检测器810的框图。请求检测器810可确定言语输入802是 否包括对媒体项目的用户请求。言语输入802可包括任何信息或任何请求 类型。例如，言语输入802可包括对天气信息、股票价格等的请求，并且 与请求媒体项目无关。因此，期望首先确定言语输入802是否包括对媒体 项目的用户请求。媒体项目可为可听项目(例如，歌曲、有声读物/章节、新 闻的语音输出等)、视频项目(例如，电影、纪录片、电视节目等)，或它们 的组合。

参考图10，请求检测器810接收言语输入802。在一些实施方案中， 为了确定言语输入802是否包括对媒体项目的用户请求，请求检测器810 可基于言语输入802获得符号或字词序列。例如，请求检测器810可包括 言语转文本(STT)处理模块1010。STT处理模块1010可利用如上所述的 STT处理模块730来实现。因此，STT处理模块1010可处理言语输入802(例如，利用各种声音和/或语言模型执行特征提取和言语识别)并产生包含 文本串(例如，字词、字词序列或符号序列)的识别结果。言语识别模型的示 例包括隐马尔可夫模型、高斯混合模型、深层神经网络模型、n元语言模型 以及其他统计模型。

在一些示例中，STT处理模块1010可产生言语输入802的多个候选文 本表示。每个候选文本表示是与言语输入对应的字词或符号的序列。在一 些示例中，每个候选文本表示与言语识别置信度得分相关联。基于言语识 别置信度得分，STT处理模块1010可对候选文本表示进行排序并将n个最 佳(例如，n个排名最高)候选文本表示提供给请求分析器1020，其中n为大 于零的预先确定的整数。例如，在一个示例中，仅将排名最高(n＝1)的候选 文本表示递送至请求分析器1020以确定言语输入802是否包括对媒体项目 的用户请求。又如，将5个排名最高(n＝5)的候选文本表示递送至请求分析 器1020以确定言语输入802是否包括对媒体项目的用户请求。

在一些实施方案中，如图10所示，请求分析器1020接收由STT处理 模块1010所提供的一个或多个字词序列。请求分析器1020可确定一个或 多个字词序列是否包括对媒体项目的用户请求的表示。在一个示例中，请 求分析器1020可确定一个或多个字词序列是否包括一个或多个预先确定的 字词。例如，预先确定的字词(例如，“播放”、“随机播放”、“听”、 “查找”)或预先确定的字词序列(例如，“可否播放…？”)可能表明言语输 入802包括对媒体项目的用户请求。

在一个示例中，请求分析器1020可确定一个或多个字词序列是否对应 于一个或多个预先确定的语法。例如，预先确定的字词序列的语法可具有 如下模式：诸如歌曲名称紧接艺术家名称(例如，“21Savage的Skrrt Skrrt (Skrrt Skrrt by 21Savage)”)、艺术家名称紧接歌曲名称(例如，“21 Savage Skrrt Skrrt”)、定冠词紧接歌曲名称(例如，“theSkrrt Skrrt”)、任 何字词紧接艺术家名称(例如，“…21Savage”)、定冠词紧接专辑名称和/ 或艺术家名称(例如，“the Candyman by Zedd)或任何字词紧接或紧随流派 (例如，“请播放轻音乐”)。在一些示例中，如果从言语输入802获得的一 个或多个字词序列对应于一个或多个预先确定的语法，则很可能言语输入 802包括对媒体项目的用户请求。

在一些示例中，请求分析器1020可基于预先确定的字词和预先确定的 语法的结合来确定STT处理模块1010所提供的一个或多个字词序列是否包 括对媒体项目的用户请求。例如，请求分析器1020可确定序列或字词是否 均包括预先确定的字词并对应于上述模式中的任一种(例如，“播放21 Savage的Skrrt Skrrt”)。如果序列或字词均包括预先确定的字词并对应于 上述模式中的任一种，则很可能言语输入802包括对媒体项目的用户请求。

在一些示例中，为了减小言语输入802是否包括对媒体项目的用户请 求的错误确定的可能性，请求检测器810中可包括停用字词检测器1030。 停用字词检测器1030可确定一个或多个字词序列是否包括一个或多个停用 字词或短语。停用字词包括经常被确定指示言语输入包括数字助理不太可 能能够识别的请求的常用词。很多情况下，这些言语输入可包括一个或多 个停用字词，诸如“播放列表”或“播客”。这些字词可与可能不与候选 媒体项目824的集合相对应或可能不被候选媒体项目824的集合所支持的 大量项目相关联，使得它们不太可能被语音匹配模块840识别出来。在一 些示例中，停用字词检测器1030可包括用于检测停用字词的有限状态机。 如果检测到一个或多个停用字词，则言语输入802不太可能包括对媒体项 目的用户请求。

在一些示例中，请求检测器810可确定字词序列的概率和/或得分，并 将该概率或得分与阈值概率或得分进行比较。如果概率或得分满足阈值概 率或得分，则请求检测器810可确定言语输入802包括对媒体项目的用户 请求。例如，如果字词序列包括一个或多个预先确定的字词(例如，“播 放”)和/或预先确定的语法(例如，歌曲名称紧接艺术家名称)，则请求检测 器810可增加字词序列的概率和/或得分，并且如果字词序列包括一个或多 个停用字词，则请求检测器810减小其概率和/或得分。

如图8和图10所示，在一些实施方案中，根据确定言语输入802包括 对媒体项目的用户请求，则请求检测器810可将表示言语输入802的字词 序列812提供给媒体项目搜索引擎820。媒体项目搜索引擎820可根据媒体 项目的储存库830来确定候选媒体项目。图11A示出了根据各种示例的媒 体项目搜索引擎820的框图。在一些实施方案中，媒体项目搜索引擎820 可包括语音符号序列发生器1110、符号搜索引擎1120和搜索结果精炼模块 1130。下文更详细描述媒体项目搜索引擎820的这些部件中的每个部件。

参考图11A，语音符号序列发生器1110可生成表示言语输入802的语 音符号序列1112。在一些实施方案中，语音符号序列发生器1110可包括如 上所述的言语合成模块740。在一些示例中，利用言语合成模块740，可使 用任何适当言语合成技术从字词序列812来生成语音符号序列1112，这些 言语合成技术包括但不限于：拼接合成、单元选择合成、双音素合成、域 特定合成、共振峰合成、发音合成、基于隐马尔可夫模型(HMM)的合成， 以及正弦波合成。如上所述，字词序列812基于言语输入802来获得。在 一些示例中，由于用户在言语输入802中的不完美发音(例如，用户的口 音)、噪声环境和/或与言语到文本转换相关联的不准确本质，字词序列812 可能准确地或不准确地表示用户意图。例如，言语输入802可包括艺术家 名称“James Smith”，而图10所示的言语到文本处理模块1010可生成包 括字词“fChame Snix”的字词序列812。这样，基于字词序列812，语音符 号序列发生器1110可生成语音符号序列1112，诸如“f-ch-ay-m-[]-s-n-ix- []”。

在一些实施方案中，如图11A所示，符号搜索引擎1120可基于表示言 语输入802的语音符号序列1112来确定一个或多个参考语音符号序列 1122。参考语音符号序列可表示从一个或多个字典获得的字词序列。这 样，参考语音符号序列中所表示的字词可为其标准形式(例如，公认形式或 无误形式)的字词；因此，参考语音符号中所包括的发音可为标准发音。利 用上述示例，字词序列“James Smith”的参考语音符号序列可为“[]-jh-ey- m-z-s-m-ih-th”。

在一些实施方案中，为了确定参考语音符号序列1122，符号搜索引擎 1120可使用语音图(phonomap)。语音图使一个或多个参考语音符号序列 (例如，基于字典中的字词所获得的语音符号序列)与表示言语输入的语音符 号序列相关联。图11B示出了根据各种示例的用于生成语音图的框图。图 11C示出了字词序列“James Smith”的示例性语音图。

参考图11A-图11C，在一些实施方案中，符号搜索引擎1120可基于 可在表示言语输入802的语音符号序列1112期间执行的多个预先确定的操 作来生成语音图1146。如上所述，由于用户在言语输入802中的不完美发 音(例如，用户的口音)、噪声环境和/或与言语到文本转换相关联的不准确 本质，字词序列812可能准确地或不准确地表示预期字词。在一些示例 中，一个或多个操作(例如，插入、删除或置换)可在表示言语输入802的语 音符号序列1112的生成期间执行，从而导致不准确的语音符号、额外的语 音符号和/或缺失的语音符号。因此，为了确定参考语音符号序列1122中的 参考语音符号，符号搜索引擎1120可确定是否在表示言语输入802的语音 符号序列1112的生成期间执行一个或多个预先确定的操作(例如，插入操 作、替换操作和/或删除操作)。插入操作、替换操作和/或删除操作可用于 映射不同的但能够经常被关联的语音符号。例如，针对表示言语输入802 的语音符号序列1112的每个语音符号，符号搜索引擎1120可确定参考语 音符号序列1122的语音符号是否对应于不同的参考语音符号。可基于能够 在表示言语输入802的语音符号序列1112的生成期间执行的预先确定的操 作(例如，插入、置换或删除)来确定对应关系。

如图11A和11C所示，由于不完美语音符号序列的生成，表示言语输 入802的语音符号序列1112可包括语音符号1154A(例如，“f”)。语音符 号1154A可为在语音符号序列生成过程期间经常被插入的或额外的语音符 号。因此，符号搜索引擎1120可确定语音符号序列发生器1110可能已经 在生成语音符号序列1112中执行插入操作。因此，符号搜索引擎1120可 确定语音符号序列1112中的语音符号1154A(例如，符号“f”)对应于参考 语音符号序列1122中的语音符号1152A(例如，不发音符号或无符号)。

又如，由于不完美语音符号序列的生成，表示言语输入的语音符号序 列1112可包括语音符号1154B(例如，“ch”)。语音符号1154B可为语音 符号1152B(例如，“jh”)在语音符号序列生成过程期间的常用替代形式或 另选形式。因此，符号搜索引擎1120可确定语音符号序列发生器1110可 能在生成语音符号序列1112中执行替换操作。因此，符号搜索引擎1120 可确定语音符号序列1112中的语音符号1154B(例如，符号“ch”)对应于 参考语音符号序列1122中的语音符号1152B(例如，符号“jh”)。

又如，由于不完美语音符号序列的生成，表示言语输入的语音符号序 列1112可包括语音符号1154D(例如，不发音符号或无符号)。语音符号 1154D可为在语音符号序列生成过程期间经常被省略或删除的语音符号。 因此，符号搜索引擎1120可确定语音符号序列发生器1110可能在生成语 音符号序列1112中执行删除操作。因此，符号搜索引擎1120可确定语音 符号序列1112中的语音符号1154D(例如，不发音符号或无符号)对应于参 考语音符号序列1122中的语音符号1152D(例如，符号“z”)。

在一些示例中，如果基于当前言语输入生成的语音符号和参考语音符 号之间存在准确匹配，则符号搜索引擎1120可确定语音符号序列发生器 1110可能未执行诸如插入、替换或删除等操作。例如，针对表示言语输入 802的语音符号序列1112的每个语音符号，符号搜索引擎1120可确定参考 语音符号序列1122的语音符号是否与参考语音符号序列1122的相同参考 语音符号匹配。如图11C所示，符号搜索引擎1120可确定语音符号序列 1112中的语音符号1154C(例如，“m”)与参考语音符号序列1122中的参 考语音符号1152C(例如，“m”)完全匹配。因此，语音图1146表明存在 匹配并且语音符号序列发生器1110可能不执行操作。

在一些示例中，针对表示言语输入802的语音符号序列1112中的每个 语音符号，符号搜索引擎1120还可确定语音符号序列1112的语音符号与 参考语音符号序列1122中的参考语音符号相对应的概率。符号搜索引擎 1120可包括语音图中的概率。图11D示出了根据各种示例的此类示例性语 音图。

参考图11A和11D，符号搜索引擎1120可生成语音图1160。语音图 1160可包括表示言语输入802的语音符号序列1112中的多个语音符号 1164。语音符号1164可包括例如“Ae-Eh-B-D-Dx-Del”，其中“Del”表 示符号的删除操作或省略操作。语音图1160还可包括参考语音符号序列 1122中的多个参考语音符号1162。参考语音符号1162可包括例如“ae0-ae1-ae2-eh0-eh1-eh2-b<-b>-d<-d>-dx-ins”，其中“ins”表示插入操作。在 语音图1160中，数字与语音符号1164关联，并且参考语音符号1162表示 特定语音符号1164与特定参考语音符号1162对应的概率。例如，语音图 1160中的元素1166A表示语音符号1112中的语音符号1164A(例如， “Ae”)与参考语音符号序列1122中的参考语音符号1162A(例如， “ae0”)对应的概率(例如，92％)。即，元素1166A表示语音符号序列发生 器1110可在生成语音符号1164A时在表示言语输入802的语音符号序列 1112中执行替换操作(例如，用“Ae”替换“ae0”)的概率。

再例如，语音图1160中的元素1166B表示代表言语输入802的语音符 号序列1112中的语音符号1164B(例如，“D”)已被语音符号序列发生器 1110插入的概率(例如，6％)。又如，语音图1160中的元素1166C表示语音 符号序列发生器1110可在表示言语输入802的语音符号序列1112中执行 删除操作或省略参考语音符号1162C(例如，“b<”)的概率(例如，5％)。 在一些示例中，可基于训练数据来确定语音图1160中的概率。语音图的训 练在提交于2003年3月31日并作为美国专利号7,146,319公布的名称为 “PHONETICALLY BASEDSPEECH RECOGNITION SYSTEM AND METHOD”的美国专利申请10/401,572中详述，该文献的内容据此全文以 引用方式并入本文并包括在附录中。

在一些示例中，语音图1160还可包括其他信息，诸如特定参考语音符 号在所有参考语音符号之间出现的相对频率。例如，元素1166D指示参考 语音序号1162B(例如，“ae1”)在所有参考语音符号之间出现的相对频率 为1。语音图1160还可包括信息，诸如在语音符号序列发生器1110生成语 音符号1164时的期望分数。该分数可指示语音符号1164表示言语输入802 的准确度或可能性。

再次参考图11A，在一些示例中，搜索结果精炼模块1130可基于参考 语音符号序列1122来确定候选媒体项目。例如，针对一个或多个参考语音 符号序列1122中的每个参考语音符号序列，搜索结果精炼模块1130可确 定指示表示言语输入802的语音符号序列1112和特定参考语音符号序列 1122之间的匹配度的分数。例如，如果特定参考语音符号序列1122具有较 高的匹配度(例如，不进行操作或仅进行诸如替换、插入或删除之类的几个 操作)，则特定参考语音符号序列1122可具有较高分数。在一些示例中，搜 索结果精炼模块1130可基于与一个或多个参考语音符号序列1122相关联 的分数来确定一个或多个媒体项目。例如，搜索结果精炼模块1130可基于 一个或多个参考语音符号序列1122的相应分数对它们进行排名；选择具有 最高分数的参考语音符号序列；并基于具有最高分数的参考语音符号序列 来识别候选媒体项目。

参考图8和图11A，在一些示例中，可利用具有最高分数的参考语音 符号序列和媒体项目的储存库830中能够获得的媒体项目的语音表示832 来执行识别候选媒体项目。例如，基于媒体项目的储存库830，可生成与储 存库830中能够获得的每个可用媒体项目(例如，标题、专辑、流派、艺术 家等)相关的信息的语音符号序列。储存库830中能够获得的所有媒体项目 的信息的语音符号序列可形成语音表示832。搜索结果精炼模块1130可通 过利用例如加权有限状态转换器(WFST)使具有最高分数的参考语音符号序 列映射到语音表示832来确定候选媒体项目。WFST可使得两组符号(例 如，参考语音符号序列1122中的语音符号和语音表示832的每个语音符号 序列中所包括的语音符号)之间的映射成为可能。因此，基于语音符号序列 的映射，可识别候选媒体项目。候选媒体项目可对应于与具有最高分数的 参考语音符号序列最匹配的语音表示832的语音符号序列。使用WFST允 许对候选媒体项目更快速有效的确定。如图11A所示，搜索结果精炼模块 1130可提供候选媒体项目的语音符号序列1132以供进一步处理。候选媒体 项目的语音符号序列1132表示与具有最高分数的参考语音符号序列最匹配 的语音表示832的语音符号序列。

再次参考图8，媒体项目搜索引擎820可提供言语输入802的语音表示 822和候选媒体项目的语音表示824。言语输入802的语音表示822可包括 例如表示言语输入802的语音符号序列1112，如图11A所示。候选媒体项 目的语音表示824可包括候选媒体项目的语音符号序列1132，如图11A所 示。在一些示例中，基于候选媒体项目的语音表示824和言语输入802的 语音表示822之间的差值，语音匹配模块840可确定是否需向用户提供候 选媒体项目。

如上所述，媒体项目搜索引擎820可确定候选媒体项目的语音表示 824。可从媒体项目的储存库830中识别候选媒体项目。因此，候选媒体项 目表示能够从储存库830获得的最佳匹配的媒体项目。但候选媒体项目可 能是或可能不是用户预期的项目。例如，如果用户预期的特定媒体项目未 存储在储存库830中，则候选媒体项目可表示密切相关的媒体项目，但可 能不是用户预期的确切项目。因此，进一步确定候选媒体项目是否与从言 语输入802得出的用户意图匹配可提高准确性并提供更有效的用户交互界 面。例如，如果在储存库830中未发现用户预期的媒体项目，则可以不向 用户提供候选媒体项目(例如，表示储存库830中最佳匹配的项目)。在一些 示例中，如果与候选媒体项目的语音表示824相关联的分数满足阈值条 件，则可能不需要进一步确定候选媒体项目是否与用户意图相匹配。例如，与语音表示824相关联的分数可与参考语音符号序列1122的最高分数 对应。如果最高分数超过特定阈值条件，则可能表明候选媒体项目极有可 能与用户意图相匹配，并且可能不需要语音匹配的过程(如下文所详述的)。 因此，可放弃(例如，不执行或放弃)对候选媒体项目是否与用户意图匹配的 确定并可将候选媒体项目提供给用户。放弃对候选媒体项目是否与用户意 图匹配的确定可提高对用户作出响应的速度。

参考图8和图11A，在一些实施方案中，为了确定是否将候选媒体项 目提供给用户(例如，确定候选媒体项目是否与用户预期的项目充分匹配)， 语音匹配模块840可确定候选媒体项目的语音表示824和言语输入802的 语音表示822之间的差值。如上所述，在一些示例中，言语输入802的语 音表示822可包括表示言语输入802的语音符号序列1112；并且语音表示 824可包括候选媒体项目的语音符号序列1132。在一些示例中，差值的确 定可基于与语音符号序列1112相关联的预期分数和指示语音符号序列1112 和候选媒体项目的语音符号序列1132之间匹配度的分数。

在一些示例中，与表示言语输入802的语音符号序列1112相关联的预 期分数可为与生成表示言语输入802的语音符号序列1112中所包括的音符 相关联的最佳可能分数。在一些示例中，最佳可能分数可为与生成表示言 语输入802的语音符号序列1112相关联的置信度分数。如上所述，在一些 示例中，生成语音符号序列1112可包括生成言语输入802的字词序列812 和基于字词序列812生成语音符号序列1112的过程。这些过程可能需要言 语到文本转换以将言语输入802转换为字词序列812，同时还需要言语合成 过程以将字词序列812转换为语音符号序列1112。因此，可确定一个或多 个置信度分数以指示与用于基于言语输入802生成语音符号序列1112的这 些过程相关联的准确度的可能性。

参考图8和图11A，语音匹配模块840可确定候选媒体项目的语音表 示824和言语输入802的语音表示822之间的差值是否满足阈值条件；并 且根据确定该差值满足阈值条件来确定要将候选媒体项目提供给用户。如 上所述，表示言语输入802的语音符号序列1112可包括在语音表示822中 并且候选媒体项目的语音符号序列1132可包括在语音表示824中。在一些 示例中，语音匹配模块840可根据如下公式(1)来确定候选媒体项目的语音表示824和言语输入802的语音表示822之间的差值是否满足阈值条件：

(与表示言语输入802的语音符号序列1112相关联的预期分数–指示语 音符号序列1112和候选媒体项目的语音符号序列1132之间的最高匹配度的最高分数)/N<T (1)

在上述公式(1)中，“N”代表表示言语输入802的语音符号序列1112 中所包括的语音符号的数量；并且T代表用于保持候选媒体项目的语音符 号序列1132的阈值条件(例如，分数差)。这样，如果满足上述公式，则基 于存储于储存库830中的可用媒体项目所识别的候选媒体项目很可能与言 语输入802所表示的用户意图相匹配；并且语音匹配模块840可确定应将 语音符号序列1132所表示的候选媒体项目提供给用户。在一些示例中，语 音匹配模块840可包括前瞻机制用以放弃或终止对是否要将候选媒体项目 提供给用户的确定。确定过程的放弃或终止可发生在基于预期分数进行确 定的情况下。例如，与表示言语输入802的语音符号序列1112相关联的预 期分数可指示满足公式(1)的可能性极小，从而可放弃或终止确定过程。执 行候选媒体项目的语音表示824和言语输入802的语音表示822之间的语 音匹配可提高准确识别与用户意图相匹配的媒体项目的可能性。这就降低 了错误率并提高了基于用户意图的端到端的准确性。

再次参考图8，在一些实施方案中，根据确定要将候选媒体项目提供 给用户，数字助理800可将候选媒体项目842提供给用户。例如，数字助 理800可输出与候选媒体项目842相关联的音频和/或视频(例如，播放歌 曲、电影等)。在一些示例中，数字助理800还可确定与候选媒体项目842 相关联的附加信息(例如，标题、艺术家、来源、专辑名称、流派等)，并将 该附加信息提供给用户。例如，数字助理800可输出音频和/或将附加信息 可视地显示给用户。

在一些实施方案中，数字助理800可确定是否可能需要语音匹配并且 可基于确定进行语音匹配或不进行语音匹配来提供一个或多个媒体项目。 此类确定可基于诸如语言模型分数等一个或多个标准。语言模型分数指示 基于对非常大量文本的先验分析出现字词序列的可能性。其可指示在缺少 语音匹配的情况下基于自然语言处理结果(上述)识别和/或解释用户请求的 准确度。例如，如果数字助理800确定语言模型分数满足(例如，高于或等 于)模型-分数阈值条件，则可确定执行用户请求不需要语音匹配。满足模型 -分数阈值条件的语言模型分数可指示相对于用户输入执行的自然语言处理 具有高准确度，从而进一步的语音匹配不太可能有帮助。例如，用户输入 可包括“播放些音乐”，这是常用短语并且由数字助理800的自然语言处 理元件很好地识别/解释。因此，数字助理800可确定与用户输入“播放些 音乐”相关联的语言模型分数高于模型-分数阈值条件，从而不提供用户输 入用以语音匹配。相反，一个或多个媒体项目可在没有语音匹配的情况下 被识别并提供给用户。

在一些示例中，如果数字助理800确定语言模型分数不满足(例如，低 于)模型-分数阈值条件，则可指示在不存在语音匹配不确定的情况下基于自 然语言处理对用户输入进行识别/解释。因此，数字助理800可确定执行用 户请求需要语音匹配，从而提供用户输入用以语音匹配。在一些实施方案 中，在将用户输入提供至语音匹配之前对是否需要语音匹配的确定可提高 识别用户请求的媒体项目的准确度并提高提供媒体项目的效率。例如，如 果在没有确定是否需要语音匹配的情况下所有用户输入提供用于语音匹 配，数字助理800可能无法针对某些用户请求(例如，常用短语诸如“播放 些音乐”)准确地识别特定媒体项目，这是因为指定艺术家或标题的特定项 目有时可能会由于自动语音识别中出现的变化而更好地匹配。

5.用于基于语音匹配技术提供媒体项目的过程

图12A-图12E示出了根据各种示例的用于操作数字助理以基于语音匹 配技术提供媒体项目的过程1200。可使用例如实施了数字助理的一个或多 个电子设备来执行过程1200。在一些示例中，利用客户端-服务器系统(例 如，系统100)执行过程1200，并且在服务器(例如，DA服务器106)和客户 端设备之间以任何方式划分过程1200的框。在其他示例中，在服务器和多 个客户端设备(例如，移动电话和智能手表)之间划分过程1200的框。因 此，尽管过程1200的部分在本文中被描述为由客户端-服务器系统的特定设 备执行，但应当理解，过程1200不限于此。在其他示例中，利用仅客户端 设备(例如，用户设备104)或仅多个客户端设备来执行过程1200。在过程 1200中，一些框被任选地组合，一些框的顺序被任选地改变，并且一些框 被任选地省略。在一些示例中，附加步骤可与过程1200结合而执行。

参考图12A，在框1202，从用户接收言语输入。在框1204，言语输入 包括非结构化自然语言信息(例如，“播放21Savage的Skrrt Skrrt”)。

在框1206，确定言语输入是否包括对媒体项目的用户请求。在框 1208，为了确定言语输入是否包括对媒体项目的用户请求，基于言语输入 来获得字词序列。在框1210,为了获得字词序列，基于统计语言模型执行言 语输入的语音文字转换。

在框1212，基于获得的字词序列，确定字词序列是否包括对媒体项目 的用户请求的表示。在框1214，在一些示例中，为了确定字词序列是否包 括用户请求的表示，确定字词序列是否包括一个或多个预先确定的字词(例 如，“播放”)。在框1216，在一些示例中，为了确定字词序列是否包括用 户请求的表示，确定字词序列是否对应于一个或多个预先确定的语法(例 如，媒体项目名称后接艺术家)。在框1218，在一些示例中，为了确定字词 序列是否包括用户请求的表示，确定字词序列是否包括一个或多个停用字 词(例如，“播放列表”)。

参考图12B，在框1220，根据确定言语输入包括对媒体项目的用户请 求，则根据媒体项目的储存库确定候选媒体项目。在框1222，为了确定候 选媒体项目，生成用于表示言语输入的语音符号序列。在框1224，基于从 言语输入的言语到文本转换获得的字词序列生成生成语音符号序列。

在框1226，基于表示言语输入的语音符号序列，确定一个或多个参考 语音符号序列。在框1228，参考语音符号序列表示从一个或多个词典中获 得的字词序列。在框1230，在一些示例中，为了确定参考语音符号序列， 针对表示言语输入的语音符号序列中的每个语音符号，确定表示言语输入 的语音符号序列中的语音符号是否与相同参考语音符号匹配。

在框1232，在一些示例中，为了确定参考语音符号序列，针对表示言 语输入的语音符号序列中的每个语音符号，确定表示言语输入的语音符号 序列中的语音符号是否对应于不同参考语音符号。在框1234，为了确定对 应关系，确定是否在表示言语输入的语音符号序列的生成期间执行一个或 多个预先确定的操作。在一些示例中，预先确定的操作为替换操作、删除 操作和/或插入操作。在框1236，针对表示言语输入的语音符号序列中的每个语音符号，确定表示言语输入的语音符号序列中的语音符号与参考语音 符号对应的概率。

参考图12C，在框1238，基于使与表示言语输入的语音符号序列相关 联的一个或多个模式与一个或多个参考模式相匹配来确定一个或多个参考 语音符号序列。

在框1240，基于一个或多个确定的参考语音符号序列来确定候选媒体 项目。在框1242，为了确定候选媒体项目，针对一个或多个参考语音符号 序列中的每个参考语音符号序列，确定指示表示言语输入的语音符号序列 和一个或多个参考语音符号序列中每个参考语音符号序列之间的匹配度的 分数。

在框1244，基于与一个或多个参考语音符号序列相关联的分数来确定 候选媒体项目。在框1246，为了确定候选媒体项目，基于一个或多个参考 语音符号序列的相应分数来对它们进行排序。在框1248，选择具有最高分 数的参考语音符号序列。在框1250，基于具有最高分数的参考语音符号序 列来识别候选媒体项目。

在框1252，为了识别参考媒体项目，将具有最高分数的参考语音符号 序列映射到媒体项目的储存库中能够获得的媒体项目的语音表示。如上所 述，储存库中能够获得的媒体项目的语音表示可包括与媒体项目相关联的 信息(例如，歌曲、艺术家、专辑、流派等的名称)的多个语音符号序列。在 框1254，基于映射识别候选媒体项目。例如，可基于在储存库中能够获得 的媒体项目之中的媒体项目的最匹配语音符号序列来识别候选媒体项目。在框1256，在一些示例中，确定最高分数是否满足分数-阈值条件。在框 1258，根据确定最高分数满足分数-阈值条件，放弃对是否要将候选媒体项 目提供给用户的确定。例如，分数可能高到足以满足分数-阈值条件，因此 无需确定是否需基于语音匹配技术将候选媒体项目提供给用户。

参考图12D，在框1260，基于候选媒体项目的语音表示和言语输入的 语音表示之间的差值，来确定是否要将候选媒体项目提供给用户。

在框1262，为了确定是否要将候选媒体项目提供给用户，确定候选媒 体项目的语音表示和言语输入的语音表示之间的差值。如上所述，可施用 两个语音表示之间的语音匹配。在一些示例中，在框1264，基于与表示言 语输入的语音符号序列相关联的预期分数以及指示表示言语输入的语音符 号序列和候选媒体项目的语音符号序列之间的匹配度的分数来确定差值。 例如，可使用如上所述的公式来确定差值。在一些示例中，与言语输入的语音符号序列相关联的预期分数为与生成言语输入的语音符号序列相关联 的置信度分数。在框1266，在一些示例中，在确定是否要将候选媒体项目 提供给用户时，基于与言语输入的语音符号序列相关联的期望分数来终止 或放弃该确定。例如，可确定预期分数太低而无法满足上述公式(1)，从而 无需进一步确定。

在框1268，确定候选媒体项目的语音表示和言语输入的语音表示之间 的差值是否满足阈值条件。在框1270，根据确定该差值满足阈值条件，来 确定要将候选媒体项目提供给用户。在一些示例中，如果差值满足阈值条 件，则可能候选媒体项目与用户意图严格匹配，从而将被提供给用户。

在框1272，根据确定要将候选媒体项目提供给用户，来将候选媒体项 目提供给用户。在框1274，输出与候选媒体项目相关联的音频(例如，播放 歌曲)。在框1276，确定与候选媒体项目相关联的附加信息。附加信息可包 括例如艺术家、专辑、流派等。在框1278，将与候选媒体项目相关联的附 加信息提供给用户。

参考图12E，在框1280，在确定言语输入是否包括对媒体项目的用户 请求之前，执行言语输入的自然语言处理。在框1282，基于自然语言处理 的结果来确定是否需要语音匹配。在框1284，根据确定需要语音匹配，发 起对言语输入是否包括对媒体项目的用户请求的确定。在框1286，根据确 定无需语音匹配，来提供基于自然语言处理结果所获得的媒体项目。

以上参考图12A至12D描述的操作任选地由图1至图4、图6A至图 6B和图7A至图7C描绘的部件来实现。例如，过程800的操作可由数字助 理系统700来实现。本领域人员会清楚地知道如何基于在图1至图4、图 6A至图6B和图7A至图7C中所描绘的部件来实现其他过程。

根据一些具体实施，提供一种计算机可读存储介质(例如，非暂态计算 机可读存储介质)，该计算机可读存储介质存储供电子设备的一个或多个处 理器执行的一个或多个程序，该一个或多个程序包括用于执行本文所述方 法或过程中的任一个的指令。

根据一些具体实施，提供了一种电子设备(例如，便携式电子设 备)，该电子设备包括用于执行本文所述的方法和过程中的任一个的装 置。

根据一些具体实施，提供了一种电子设备(例如，便携式电子设 备)，该电子设备包括处理单元，该处理单元被配置为执行本文所述的方 法和过程中的任一个。

根据一些具体实施，提供了一种电子设备(例如，便携式电子设 备)，该电子设备包括一个或多个处理器和存储用于由该一个或多个处理 器执行的一个或多个程序的存储器，该一个或多个程序包括用于执行本文 所描述的方法和过程中的任一个的指令。

出于解释的目的，前面的描述是通过参考具体实施方案来描述的。然 而，上面的示例性讨论并非旨在是穷尽的，也并非旨在将本发明限制为所 公开的精确形式。根据以上教导内容，很多修改形式和变型形式都是可能 的。选择并描述这些实施方案是为了最好地解释这些技术的原理及其实际 应用。本领域的其他技术人员由此能够最好地利用这些技术以及具有适合 于所设想的特定用途的各种修改的各种实施方案。

虽然参照附图对本公开以及示例进行了全面的描述，但应当注意，各 种变化和修改对于本领域内的技术人员而言将变得显而易见。应当理解， 此类变化和修改被认为被包括在由权利要求书所限定的本公开和示例的范 围内。另外，尽管本公开使用媒体项目作为示例，但本领域的技术人员可 理解这些技术能够适用于任何其他项目，诸如包括兴趣点和邮政地址的地 理项目列表。

Claims (35)

1.一种用于提供数字助理服务的方法，包括：

在具有存储器和一个或多个处理器的一个或多个电子设备处：

接收来自用户的言语输入；

确定所述言语输入是否包括对媒体项目的用户请求；

根据确定所述言语输入包括对媒体项目的用户请求，从媒体项目的储存库来确定候选媒体项目；

基于所述候选媒体项目的语音表示和所述言语输入的语音表示之间的差值来确定是否要将所述候选媒体项目提供给所述用户；以及

根据确定要将所述候选媒体项目提供给所述用户，将所述候选媒体项目提供给所述用户。

2.根据权利要求1所述的方法，其中所述言语输入包含非结构化自然语言信息。

3.根据权利要求1和2中的任一项所述的方法，其中确定所述言语输入是否包括对媒体项目的用户请求包括：

基于所述言语输入来获得字词序列；以及

确定所述字词序列是否包括对媒体项目的所述用户请求的表示。

4.根据权利要求3所述的方法，其中基于所述言语输入来获得所述字词序列包括基于统计语言模型来执行所述言语输入的言语到文本转换。

5.根据权利要求3和4中的任一项所述的方法，其中确定所述字词序列是否包括对媒体项目的所述用户请求的表示包括确定所述字词序列是否包括一个或多个预先确定的字词。

6.根据权利要求3-5中的任一项所述的方法，其中确定所述字词序列是否包括对媒体项目的所述用户请求的表示包括确定所述字词序列是否对应于一个或多个预先确定的语法。

7.根据权利要求3-6中的任一项所述的方法，其中确定所述字词序列是否包括对媒体项目的所述用户请求的表示包括确定所述字词序列是否包括一个或多个停用字词。

8.根据权利要求1-7中的任一项所述的方法，其中从媒体项目的储存库来确定所述候选媒体项目包括：

生成表示所述言语输入的语音符号序列；

基于表示所述言语输入的所述语音符号序列来确定一个或多个参考语音符号序列；以及

基于所确定的一个或多个参考语音符号序列来确定候选媒体项目。

9.根据权利要求8所述的方法，其中生成表示所述言语输入的语音符号序列包括：

基于从所述言语输入的言语到文本转换获得的字词序列来生成表示所述言语输入的所述语音符号序列。

10.根据权利要求8和9中的任一项所述的方法，其中所述参考语音符号序列表示从一个或多个词典获得的字词序列。

11.根据权利要求8-10中的任一项所述的方法，其中基于表示所述言语输入的所述语音符号序列来确定所述一个或多个参考语音符号序列包括：

针对表示所述言语输入的所述语音符号序列中的每个语音符号来确定表示所述言语输入的所述语音符号序列中的所述语音符号是否与相同的参考语音符号匹配。

12.根据权利要求8-11中的任一项所述的方法，其中基于表示所述言语输入的所述语音符号序列来确定所述一个或多个参考语音符号序列包括：

针对表示所述言语输入的所述语音符号序列中的每个语音符号来确定表示所述言语输入的所述语音符号序列中的所述语音符号是否与不同的参考语音符号对应。

13.根据权利要求12所述的方法，其中确定表示所述言语输入的所述语音符号序列中的所述语音符号是否与不同的参考语音符号对应包括：

确定是否在表示所述言语输入的语音符号序列的生成期间执行一个或多个预先确定的操作。

14.根据权利要求13所述的方法，其中所述一个或多个预先确定的操作包括替换操作。

15.根据权利要求13和14中的任一项所述的方法，其中所述一个或多个预先确定的操作包括删除操作。

16.根据权利要求13-15中的任一项所述的方法，其中所述一个或多个预先确定的操作包括插入操作。

17.根据权利要求8-16中的任一项所述的方法，还包括：

针对表示所述言语输入的所述语音符号序列中的每个语音符号来确定表示所述言语输入的所述语音符号序列中的所述语音符号与参考语音符号对应的概率。

18.根据权利要求8-17中的任一项所述的方法，其中基于所确定的一个或多个参考语音符号序列来确定所述候选媒体项目包括：

针对所述一个或多个参考语音符号序列中的每个参考语音符号序列来确定指示表示所述言语输入的所述语音符号序列和所述一个或多个参考语音符号序列中每个参考语音符号序列之间的匹配度的分数；以及

基于与所述一个或多个参考语音符号序列相关联的所述分数来确定所述候选媒体项目。

19.根据权利要求18所述的方法，其中基于与所述一个或多个参考语音符号序列相关联的所述分数来确定所述候选媒体项目包括：

基于所述一个或多个参考语音符号序列的相应分数来对所述一个或多个参考语音符号序列进行排序；

选择具有最高分数的所述参考语音符号序列；以及

基于具有所述最高分数的所述参考语音符号序列来识别所述候选媒体项目。

20.根据权利要求19所述的方法，还包括：

确定所述最高分数是否满足分数-阈值条件；

根据确定所述最高分数满足所述分数-阈值条件，放弃对是否要将所述候选媒体项目提供给所述用户的确定。

21.根据权利要求19所述的方法，其中基于具有所述最高分数的所述参考语音符号序列来识别所述候选媒体项目包括：

将具有所述最高分数的所述参考语音符号序列映射到能够在媒体项目的所述储存库中获得的媒体项目的语音表示；

基于所述映射来识别所述候选媒体项目。

22.根据权利要求1-21中的任一项所述的方法，其中确定是否要将所述候选媒体项目提供给所述用户包括：

确定所述候选媒体项目的所述语音表示和所述言语输入的所述语音表示之间的差值；

确定所述候选媒体项目的所述语音表示和所述言语输入的所述语音表示之间的所述差值是否满足阈值条件；以及

根据确定所述差值满足所述阈值条件，确定要将所述候选媒体项目提供给所述用户。

23.根据权利要求22所述的方法，其中确定所述候选媒体项目的所述语音表示和所述言语输入的所述语音表示之间的所述差值包括：

基于与表示所述言语输入的语音符号序列相关联的预期分数以及指示表示所述言语输入的语音符号序列和所述候选媒体项目的所述语音符号序列之间的匹配度的分数来确定所述差值。

24.根据权利要求23所述的方法，其中与所述言语输入的所述语音符号序列相关联的所述预期分数是与生成所述言语输入的所述语音符号序列相关联的置信度分数。

25.根据权利要求23-24中的任一项所述的方法，还包括：

在确定是否要将所述候选媒体项目提供给所述用户时，基于与所述言语输入的所述语音符号序列相关联的所述期望分数来终止所述确定。

26.根据权利要求1-25中的任一项所述的方法，其中将所述候选媒体项目提供给所述用户包括输出与所述候选媒体项目相关联的音频。

27.根据权利要求1-26中的任一项所述的方法，还包括：

确定与所述候选媒体项目相关联的附加信息；以及

将与所述候选媒体项目相关联的所述附加信息提供给所述用户。

28.根据权利要求1-27中的任一项所述的方法，在确定所述言语输入是否包括对媒体项目的用户请求之前，还包括：

执行所述言语输入的自然语言处理；

基于所述自然语言处理的结果来确定是否需要语音匹配；

根据确定需要语音匹配，发起对所述言语输入是否包括对媒体项目的用户请求的确定；以及

根据确定无需语音匹配，提供基于所述自然语言处理结果获得的媒体项目。

29.一种存储一个或多个程序的非暂态计算机可读存储介质，所述一个或多个程序包括指令，所述指令当由电子设备的一个或多个处理器执行时，使所述电子设备：

接收来自用户的言语输入；

确定所述言语输入是否包括对媒体项目的用户请求；

根据确定所述言语输入包括对获得媒体项目的用户请求，从媒体项目的储存库来确定候选媒体项目；

基于所述候选媒体项目的语音表示和所述言语输入的语音表示之间的差值来确定是否要将所述候选媒体项目提供给所述用户；以及

根据确定要将所述候选媒体项目提供给所述用户，将所述候选媒体项目提供给所述用户。

30.一种电子设备，包括：

一个或多个处理器；

存储器；和

存储在存储器中的一个或多个程序，所述一个或多个程序包括用于以下操作的指令：

接收来自用户的言语输入；

确定所述言语输入是否包括对媒体项目的用户请求；

根据确定所述言语输入包括对获得媒体项目的用户请求，

从媒体项目的储存库来确定候选媒体项目；

基于所述候选媒体项目的语音表示和所述言语输入的语音表示之间的差值来确定是否要将所述候选媒体项目提供给所述用户；以及

根据确定要将所述候选媒体项目提供给所述用户，将所述候选媒体项目提供给所述用户。

31.一种电子设备，包括：

用于接收来自用户的言语输入的装置；

用于确定所述言语输入是否包括对媒体项目的用户请求的装置；

根据确定所述言语输入包括对获得媒体项目的用户请求，用于从媒体项目的储存库来确定候选媒体项目的装置；

用于基于所述候选媒体项目的语音表示和所述言语输入的语音表示之间的差值来确定是否要将所述候选媒体项目提供给所述用户的装置；和

根据确定要将所述候选媒体项目提供给所述用户，用于将所述候选媒体项目提供给所述用户的装置。

32.一种电子设备，包括：

一个或多个处理器；

存储器；和

存储在存储器中的一个或多个程序，所述一个或多个程序包括用于执行根据权利要求1-28中的任一项所述的方法的指令。

33.一种电子设备，包括：

用于执行根据权利要求1-28所述的方法中的任一方法的装置。

34.一种包括用于由电子设备的一个或多个处理器执行的一个或多个程序的非暂态计算机可读存储介质，所述一个或多个程序包括指令，所述指令在由所述一个或多个处理器执行时使所述电子设备执行根据权利要求1-28中的任一项所述的方法。

35.一种用于操作数字助理的系统，所述系统包括用于执行根据权利要求1-28所述的方法中的任一方法的装置。