CN107895574A - 基于装置拓扑结构来处理语音命令 - Google Patents

基于装置拓扑结构来处理语音命令 Download PDF

Info

Publication number
CN107895574A
CN107895574A CN201710924487.6A CN201710924487A CN107895574A CN 107895574 A CN107895574 A CN 107895574A CN 201710924487 A CN201710924487 A CN 201710924487A CN 107895574 A CN107895574 A CN 107895574A
Authority
CN
China
Prior art keywords
topological structure
transcription
partially
user
speech utterance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710924487.6A
Other languages
English (en)
Other versions
CN107895574B (zh
Inventor
巴纳比·约翰·詹姆斯
大卫·罗伊·沙伊雷尔
艾米·林恩·鲍德温
文森特·扬顿·莫
杨军
马克·斯帕特斯四世
钟磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Google LLC
Original Assignee
Google LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Google LLC filed Critical Google LLC
Priority to CN202110396193.7A priority Critical patent/CN113140218A/zh
Publication of CN107895574A publication Critical patent/CN107895574A/zh
Application granted granted Critical
Publication of CN107895574B publication Critical patent/CN107895574B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/40Processing or translation of natural language
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/18Speech classification or search using natural language modelling
    • G10L15/183Speech classification or search using natural language modelling using context dependencies, e.g. language models
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/28Constructional details of speech recognition systems
    • G10L15/30Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/28Constructional details of speech recognition systems
    • G10L15/34Adaptation of a single recogniser for parallel processing, e.g. by use of multiple processors or cloud computing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/28Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/2803Home automation networks
    • H04L12/2816Controlling appliance services of a home automation network by calling their functionalities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/28Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/2803Home automation networks
    • H04L12/2816Controlling appliance services of a home automation network by calling their functionalities
    • H04L12/282Controlling appliance services of a home automation network by calling their functionalities based on user interaction within the home
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/12Discovery or management of network topologies
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/226Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics
    • G10L2015/227Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics of the speaker; Human-factor methodology
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/226Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics
    • G10L2015/228Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics of application context
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/12Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
    • H04L67/125Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks involving control of end-device applications over a network

Abstract

本申请涉及基于装置拓扑结构来处理语音命令。本公开的示例性方面涉及处理语音命令或话语。例如,可以接收表示语音话语的数据。可以访问装置拓扑结构表示。所述装置拓扑结构表示可以定义与一个或多个建筑物相关联的多个智能装置。所述装置拓扑结构表示可以进一步定义所述多个装置中的每一个装置在所述相关联的建筑物内的位置。可以至少部分地基于所述装置拓扑结构表示来确定所述语音话语的转录。可以至少部分地基于所述确定的转录和所述装置拓扑结构表示来确定一个或多个所选择的装置和待由所述一个或多个所选择的装置执行的一个或多个动作。

Description

基于装置拓扑结构来处理语音命令
技术领域
本公开总的涉及解译语音话语,更具体地说,涉及基于装置的拓扑结构来解译语音话语。
背景技术
智能、多感应网络连接装置不断地扩散,如扬声器、家庭报警器、门锁、摄像头、照明系统、跑步机、重量秤、智能床、灌溉系统、车库门开启器、家电、婴儿监护仪、火灾报警器等。这些智能装置可以例如位于建筑物的范围内,并且用户可能希望与这种智能装置交互。为此,用户可以使用控制装置来例如经由网络与智能装置进行无线通信。
在一些情况下,用户可能希望通过向控制装置提供语音命令或话语来与一个或多个智能装置进行通信。常规的语音命令处理技术使用各种合适的自动语音识别、自然语言处理和/或自然语言理解技术来处理和解译语音话语,并根据语音话语来控制智能装置。然而,这种常规技术通常不能解译复杂的语音话语,并且可能需要来自用户的更多信息的请求。特别地,这样的常规技术通常缺乏对智能家居网络内的装置以及网络内这些装置之间关系的充分了解。
发明内容
本公开的实施例的方面和优点将部分地在以下描述中阐述,或者可以从描述中获悉,或者可以通过实践实施例来了解。
本公开的一个示例方面涉及一种处理语音话语的由计算机实现的方法。该方法包括由一个或多个计算装置接收表示语音话语的数据。语音话音由用户提供给控制装置。该方法还包括由所述一个或多个计算装置访问装置拓扑结构表示。装置拓扑结构表示定义与一个或多个建筑物相关联的多个智能装置。装置拓扑结构表示还限定了相关联建筑物内的多个装置中的每一个的位置。该方法还包括至少部分地基于装置拓扑结构表示来由所述一个或多个计算装置确定语音话语的转录。该方法还包括至少部分地基于所确定的转录和装置拓扑结构表示,由所述一个或多个计算装置确定一个或多个所选择的装置以及待由所述一个或多个所选择的装置执行的一个或多个动作。
本公开的其它示例方面涉及用于处理语音命令的系统,装置,有形的、非暂态的计算机可读介质,用户界面,存储器装置和电子装置。
参考以下描述和所附权利要求书,各种实施例的这些和其它特征,方面和优点将变得更好地理解。并入并构成本说明书的一部分的附图示出了本公开的实施例,并且与描述一起用于解释相关原理。
附图说明
在说明书中阐述了针对本领域普通技术人员的实施例的详细讨论,说明书参考附图,其中:
图1描绘了根据本公开的示例实施例的用于处理语音命令的示例系统的概述;
图2描绘了根据本公开的示例实施例的用于实现装置拓扑结构表示的示例用户界面;
图3描绘了根据本公开的示例实施例的示例装置拓扑结构表示的框图;
图4描绘了根据本公开的示例实施例的处理语音命令的示例方法的流程图;
图5描绘了根据本公开的示例实施例的生成个性化语言模型的示例方法的流程图;
图6描绘了根据本公开的示例实施例的确定语音话语的转录的示例方法的流程图;
图7描绘了根据本公开的示例实施例的解译语音话语的转录的示例方法的流程图;
图8描绘了根据本公开的示例实施例的示例系统的概述;
具体实施例
现在将详细参考实施例,实施例的一个或多个示例在附图中示出。通过实施例的说明来提供每个示例,而不限制本公开。事实上,对于本领域技术人员显而易见的是,在不脱离本公开的范围或精神的情况下,可以对实施例进行各种修改和变化。例如,作为一个实施例的一部分示出或描述的特征可以与另一个实施例一起使用,以产生又一个实施例。因此,意图是本公开的方面涵盖这些修改和变化。
本公开的示例方面涉及基于来自用户的语音命令来控制智能装置。例如,可以从控制装置的用户接收语音话语。语音话语可以是由靠近被配置为控制一个或多个智能装置的用户装置的用户所说的命令。智能装置可以是被配置为与中央服务器、云计算系统和/或一个或多个另外的智能装置进行通信以提供各种有用的智能家居服务中任何服务的智慧型、多感测的、网络连接的装置。例如,智能装置可以是或可以以其它方式与以下相关联:空调系统、照明装置、家庭影院和娱乐系统、安全系统、自动门锁系统、调温器装置、家庭自动化系统、扬声器、摄像头装置、跑步机、重量秤、智能床、灌溉系统、车库门开启器、家电、婴儿监护仪、火灾报警器和/或其它合适的装置或系统。
希望控制一个或多个智能装置的用户可以构造装置拓扑结构表示。可以使用各种合适的技术来构造装置拓扑结构表示,并且可以是能够表示一个或多个建筑物内的一个或多个智能装置的拓扑结构和组织的任何合适格式和/或结构。装置拓扑结构表示可以定义和/或组织与用户相关联的一个或多个建筑物。例如,与用户相关联的建筑物可以是与用户相关联的家庭、商业、车辆、办公室和/或任何其它合适的建筑物。用户可以将每个建筑物组织成一个或多个房间(例如卧室,起居室,厨房),并且可以将一个或多个智能装置分配给所述一个或多个房间。例如,用户可以将一个或多个智能灯分配给特定建筑物的第一房间,以及将一个或多个门锁系统分配到该建筑物的第二房间。然后,用户可以将一个或多个不同的智能装置分配给第二建筑物内的一个或多个房间。
用户可以在装置拓扑结构表示中给智能装置分配一个或多个标识。标识可由用户选择并与装置拓扑结构表示内的相应的智能装置相关联。(多个)标识可以包括用户为智能装置选择的昵称和/或别名(例如,沙发灯、前门锁、卧室扬声器等)。以这种方式,当提供用于控制智能装置的语音话语时,标识可以是用户可能使用的、相应的智能装置的名称或别名。
装置拓扑结构表示可以进一步指定与相应的装置相关联的一个或多个装置属性。装置属性可以与智能装置配置执行的一个或多个动作相关联。例如,与照明装置相关联的装置属性可以包括开启能力,关闭能力,调光能力和/或与照明装置相关联的其它合适的属性。作为另一示例,自动门锁装置可以包括锁定能力、解锁能力和/或其它合适的能力。
用户可以向控制装置提供语音话语。语音话语可以是指定控制一个或多个智能装置的意图的任何合适的语音话语。例如,用户可以提供语音话语,其意图是改变智能装置的状态(例如,接通或断开智能装置,增大智能装置的音量等),或者意图是接收与智能装置相关联的信息(例如与当前温度相关的信息等)。控制装置可以是能够从用户接收语音话语的任何合适的装置,并且例如经由网络与一个或多个智能装置或中央服务器进行通信。控制装置可以是用户在提供语音话语时对着说话的装置。在一些实施方式中,控制装置可以是与用户相关联的用户装置,诸如智能电话、平板电脑,膝上型计算机、台式计算机、可穿戴计算装置和/或其它合适的用户装置。在一些实施方式中,控制装置可以是被配置为接收语音话语的智能装置。例如,控制装置可以是装置拓扑结构表示中指定的智能装置。
可以解译语音话语,以确定用户意图针对一个或多个智能装置的控制命令。在这方面,可以至少部分地基于装置拓扑结构表示来对话音语音执行语音识别。例如,可以向一个或多个语言模型提供表示语音话语的数据,以确定语音话语的转录。在一些实施方式中,通用语言模型可以朝向于装置拓扑结构表示偏置,以确定语音话语的文本转录。通用语言模型可以包括多个公共短语,并且可以将概率估计与每个短语相关联。每个短语可以包含一个或多个单词的序列。概率估计可以指定相应短语的预测出现情况。应当理解,可以使用各种合适的通用语言模型而不会偏离本公开的范围。
通用语言模型可能朝向于装置拓扑结构表示偏置,以生成个性化语言模型。特别地,可以通过增加与装置拓扑结构表示相关联的一个或多个单词或短语相关联的概率估计来偏置通用语言模型。例如,所述一个或多个单词或短语可以包括在装置拓扑结构表示中指定的房间名称、建筑物名称、装置标识、与装置属性相关联的项等。以这种方式,个性化语言模型可以估计出被包括在装置拓扑结构表示中的单词或短语出现的较高概率。
可以将表示语音话语的数据提供给个性化语言模型,以基于个性化语言模型来确定语音话语的文本转录。在一些实施方式中,可以将表示语音话语的数据提供给通用语言模型,以基于通用语言模型确定语音话语的第一转录。可以为第一转录确定表示第一转录的准确性的置信度的第一置信度分数。然后,可以将表示语音话语的数据提供给个性化语言模型,以基于个性化语言模型确定语音话语的第二转录。可以为第二转录确定表示第二转录的准确性的置信度的第二置信度分数。在一些实施方式中,可以使用具有较高置信度分数的转录。在一些实施方式中,表示语音话语的数据可以进一步提供给一个或多个额外的语言模型,诸如与各种合适应用程序相关联的一个或多个专门语言模型。以这种方式,可以使用该额外的语言模型来确定一个或多个另外的转录,每个转录都具有相关的置信度分数。可以使用具有最高置信度分数的转录。
一旦确定了语音话语的转录,就可以确定一个或多个用于控制的装置(例如所选择的装置)以及待由所选择的装置执行的一个或多个动作。例如,可以使用一种或多种语义解译技术来确定转录的语义解译。语义解译可以提供转录的概念意义的表示。以这种方式,转录的解译可以提供用户在执行语音话语时的意图的解译。例如,如果来自用户的语音话语的转录声明为“打开灯”,则转录的语义解译可以尝试确定所要执行的动作(例如,启动一个或多个灯光装置),以及用于执行该动作的一个或多个所选择的装置(例如,旨在由用户控制的一个或多个适当的照明装置)。
解译可以至少部分地基于装置拓扑结构表示来确定。例如,可以访问装置拓扑结构表示,以确定所述一个或多个所选择的装置和/或所要执行的动作。以这种方式,可以访问装置拓扑结构表示并将其与转录进行比较,以确定与转录相关联的一个或多个项和与装置拓扑结构表示相关联的一个或多个项之间的匹配。例如,如果转录读的是“打开沙发灯”,则可以访问装置拓扑结构表示,以确定是否在装置拓扑结构表示中有指定的装置具有“沙发灯”的装置标识。
如所指出的,也可以确定所要由(一个或多个)所选择的装置执行的一个或多个动作。例如,动作可以基于转录的解译来确定。在一些实施方式中,可以至少部分地基于与装置拓扑结构表示中指定的(一个或多个)所选择的装置相关联的装置属性来确定动作。以这种方式,所识别的动作可以是所选择的装置能够执行的动作。
在某些情况下,装置拓扑结构中指定的装置标识与转录的项之间的直接匹配可能无法确定。例如,当执行语音话语时,用户可能不指定装置标识,而是可以给出更加非正式的指令。作为另一示例,在装置拓扑结构表示中指定的多个建筑物可以包括具有相同或相似名称或标识的一个或多个房间和/或装置。例如,读的是“打开卧室中的灯”的转录可能不包括对特定装置标识的引用,使得无法确定直接匹配。在这种情况下,可以访问装置拓扑结构表示,以推断一个或多个所选择的装置。例如,可以访问装置拓扑结构表示,以在装置拓扑结构表示中指定的建筑物中识别标记为“卧室”的房间。如果识别出这样的“卧室”,则可以识别位于卧室内的一个或多个适当的装置。例如,如果装置拓扑结构表示指定卧室内的一个或多个照明装置,则可以将所述一个或多个照明装置中的至少一个照明装置推断为所选择的装置。
在其中在转录中未指定装置标识的情况下,可以至少部分地基于装置拓扑结构表示中指定的装置属性来确定所述一个或多个所选择的装置和/或所要执行的动作。例如,可以将装置拓扑结构表示中指定的装置属性与转录进行比较,以确定能够执行转录中指定的动作的一个或多个装置。以这种方式,可以至少部分地基于相应的装置属性来推断所选择的装置。
在一些实施方式中,可以至少部分地基于诸如用户位置的上下文数据来确定所选择的装置和/或所要执行的动作。例如,响应于从用户接收到语音话语,可以确定用户的位置。可以使用各种合适的位置确定技术来确定位置。可以至少部分地基于用户提供语音话语对着的控制装置来确定位置确定技术。例如,控制装置是在装置拓扑结构表示中指定的智能装置,用户位置可以映射到装置拓扑结构表示中分配了控制装置的建筑物和/或房间。如果控制装置是装置拓扑结构表示中未指定的用户装置,则可以使用一个或多个位置确定技术来确定用户位置,诸如使用与一个或多个智能装置相关联的无线接入点或短距离信标装置的技术,和/或其它合适的位置确定技术。然后,可以将用户位置映射到在装置拓扑结构表示中指定的一个或多个建筑物和/或房间。
以这种方式,用户位置可以在确定一个或多个所选择的装置时用作上下文数据。例如,响应于接收到读的是“打开灯”的转录,可以确定用户位置并将其映射到在装置拓扑结构表示中指定的一个或多个房间和/或建筑物,以确定用户所在的建筑物和房间。可以在这样的建筑物和房间内识别一个或多个灯光装置,以确定用户想要控制的所选择的装置。以这种方式,在这种情况下,可以推断,用户希望控制的灯是用户当前所在的房间中的灯。
在确定所要控制的所述一个或多个所选择的装置和由该所选择的装置执行的一个或多个动作后,可以生成一个或多个控制命令,并且分别提供给(一个或多个)所选择的装置。所述一个或多个控制命令可以包括用于使(一个或多个)所选择的装置执行指定动作的指令。一旦接收到适当的控制命令,(一个或多个)所选择的装置可以根据(一个或多个)所接收的控制命令执行适当的动作。在一些实施方式中,如果不能基于所接收到的语音话语来确定一个或多个所选择的装置和/或所要执行的一个或多个动作,则可以向用户提供提示(例如,在由控制装置或其它合适的装置显示的用户界面内),请求用户说清楚语音话语和/或手动选择待由一个或多个智能装置执行的一个或多个动作。
以这种方式,可以使用本公开的示例方面来提高用于智能家居和/或物联网环境的语音命令处理的效率和准确性。特别地,相对于智能装置所在的一个或多个建筑物的拓扑结构来组织智能装置可以允许对语音话语的鲁棒性更高的解译,并且可以允许用户与控制装置之间的自然“对话式”通信体验。结合装置拓扑结构考虑诸如用户位置的上下文数据可以提供更强大的能力来推断由用户提供的语音话语的含义。此外,这种语音命令处理技术可以通过促进准确地并且更快速地解译更宽范围的语音话语的能力来允许用户与系统之间更少的通信回合。因此,可以减少智能装置执行的操作次数,例如,接收和处理重复的语音话语,或者输出对于更多信息的请求,并且可以避免处理回复,并且智能装置的功耗因此可以减少。虽然本公开涉及在智能家居和/或物联网环境中处理语音命令,但是应当理解,本公开的示例方面可以扩展到各种其它合适的应用和环境,而不会偏离本公开的范围。例如,本公开的示例方面可以用于处理和解译用于控制各种其它合适的非物联网装置的语音命令。
现在参考附图,将更详细地描述本公开的示例方面。例如,图1描绘了根据本公开的示例实施例的用于处理语音命令的示例系统100的概述。系统100包括控制装置102和服务器104。控制装置102和服务器104可以例如经由网络进行通信。控制装置102可以是被配置为监视和接收来自用户的语音话语的任何合适的装置。如所指出的,语音话语可以是用户意图控制一个或多个智能装置而说出的句子或短语。控制装置102可以是与用户相关联的用户装置。在一些实施方式中,控制装置102可以是智能装置。智能装置可以是被配置为与中央服务器、云计算系统和/或一个或多个另外的智能装置进行通信的网络连接的装置,以提供各种有用的智能家居和/或物联网服务。可以基于用户提供的语音话语来动态地配置控制装置。例如,控制装置可以是从用户接收语音话语的装置(例如,用户装置、智能装置或其它装置)。
一旦从用户接收到语音话语,控制装置102就可以向服务器104提供表示该语音话语的数据。服务器104包括偏置器106、转录器108、解译器110和命令生成器112。表示语音话语的数据可以被提供给转录器108。转录器108可以被配置为至少部分地基于语言模型数据114来确定语音话语的一个或多个文本转录。语言模型数据114可以包括一个或多个用于录取语音话语的语言模型。特别地,语言模型数据114可以包括指定针对多个公共短语的概率估计的通用语言模型。语言模型数据114还可以包括一个或多个专门的语言模型,诸如例如个性化语言模型。个性化语言模型可以由偏置器106生成。特别地,可以通过将通用语言模型朝向装置拓扑结构表示116偏置来生成个性化语言模型。
装置拓扑结构表示116可以由用户构造,以定义与用户相关联的一个或多个智能装置的组织拓扑结构。例如,图2描绘了用于定义装置拓扑结构表示的示例用户界面120。具体地,图2描绘了被配置为显示用户界面120的用户装置122。应当理解,图2中描绘的用户界面120仅用于说明目的,并且可以使用各种其它合适的用户界面来实现装置拓扑结构表示,而不会脱离本公开的范围。用户装置122可以是任何合适的用户装置,诸如智能电话、平板电脑、膝上型计算机、台式计算机、可穿戴计算装置等。在一些实施方式中,用户装置122可以是智能装置或其它装置。在一些实施方式中,用户可能需要出现在某个位置,以定义针对该位置的装置拓扑结构表示。例如,在这种实施方式中,希望定义针对特定建筑物的装置拓扑结构表示的用户将需要位于该建筑物处,以实现装置拓扑结构表示。以这种方式,可以使用各种合适的位置确定技术来确定用户的位置,并且可以允许用户为位于用户位置处或附近的建筑物定义装置拓扑结构表示。
用户界面120可以包括一个或多个用户界面元素124,以便于用户实现装置拓扑结构表示126。装置拓扑结构表示126可以对应于图1和图3中描绘的装置拓扑结构表示116。如图所示,所述一个或多个用户界面元素124包括允许用户添加建筑物,添加房间并将装置添加到装置拓扑结构表示126的界面元素。以这种方式,用户可以根据需要与用户界面元素124交互,以定义和组织装置拓扑结构表示126。例如,用户可以选择“添加装置”界面元素,以将新的智能装置添加到装置拓扑结构表示126。以这种方式,用户可能能够添加新装置,添加将要与装置相关联的一个或多个装置标识,添加将要与装置相关联的一个或多个装置属性等。类似地,如果用户选择“添加房间”界面元素,则用户可能能够向特定建筑物添加新房间,添加与该房间相关联的房间标识等。
在一些实施方式中,装置拓扑结构表示126可以是交互式用户界面元素,使得用户可以与如在用户界面120内所显示的那样的装置拓扑结构表示126进行交互。例如,用户可以选择(例如,通过触摸输入,或其它合适的输入)装置拓扑结构表示126的特定建筑物、房间或装置,以便于呈现与所选择的建筑物、房间或装置相关联的更多信息。
图3描绘了根据本公开的示例实施例的示例装置拓扑结构表示116的框图。装置拓扑结构表示116定义与用户相关联的、多个建筑物内的多个智能装置的拓扑结构。特别地,该建筑物包括主要住宅152、海滩别墅154和与用户相关联的办公室156。每个建筑物可以被组织成建筑物内的一个或多个房间。例如,图3描绘了与主要住宅152相关联的起居室158、卧室160和客房162。每个房间可以与智能家居内一个或多个智能装置和/或与用户相关联的物联网相关联。特别地,起居室158与具有装置标识“沙发灯”的照明装置、具有“楼下调温器)”的装置标识的调温器装置和具有“起居室扬声器”的装置标识的扬声器装置相关联。卧室160与具有“吊扇”的装置标识的吊扇装置、与具有“顶灯”的装置标识的一个或多个照明装置以及具有装置标识为“扬声器”的扬声器装置相关联。客房162与具有“楼上调温器”的装置标识的调温器装置、具有“台灯”的装置标识的照明装置和具有“扬声器”的装置标识的扬声器装置相关联。指定的装置可以是单个装置或一组装置。例如,装置标识“顶灯”可以对应于构成卧室中的头顶天花板灯的单个照明装置或一组照明装置。
如所指出的,用户可以在装置拓扑结构表示内定义一个或多个建筑物和一个或多个房间。用户可以为每个房间和建筑物分配标识。用户可以为每个房间分配一个或多个智能装置,以表示实际建筑物的房间内的装置的拓扑结构。用户可以进一步向一个或多个智能装置中的每一个分配一个或多个装置标识。在一些实施方式中,如果用户没有将装置标识分配给装置,则可以自动地给装置分配默认装置标识。装置拓扑结构表示116还可以为每个装置指定一个或多个装置属性。装置属性可以与装置能执行的一个或多个动作相关联。例如,灯光装置可以具有“开启”属性,“关闭”属性,“调光”属性等。吊扇装置可以具有“开启”属性,“关闭”属性,“增加速度”属性,“降低速度”属性等。在一些实施方式中,用户可以将装置属性输入到装置拓扑结构表示116。在一些实施方式中,可以将装置属性自动添加到装置拓扑结构表示116。
当用户希望反映例如装置拓扑结构的一个或多个更改时,用户可以更新或修改装置拓扑结构表示。例如,用户可以根据用户需要添加装置,移除装置,在房间和/或建筑物之间移动装置,添加建筑物,移除建筑物,添加房间,移除房间等等。以这种方式,用户可以组织装置拓扑结构,以在实际建筑物内提供装置的准确和动态的拓扑结构。
装置拓扑结构表示116可以用于偏置通用语言模型。回过来参考图1,偏置器106可以被配置为访问装置拓扑结构表示116和通用语言模型,以使通用语言模型偏置朝向装置拓扑结构表示116。例如,偏置器可以识别在装置拓扑结构表示116中指定的一个或多个项或短语(例如装置标识,房间名称,建筑物名称,装置类型(例如照明装置,扬声器装置),装置属性等)。偏置器106可以增加由通用语言模型指定的那些项的概率估计,并且可以生成个性化语言模型,使得所识别的项或短语被分配增加的概率估计。以这种方式,可以生成个性化语言模型,以反映由用户提供的语音话语将包括与装置拓扑结构表示116相关联的项或短语的增加的可能性。
如所指出的,转录器108可以至少部分地基于语言模型数据114来确定语音话语的一个或多个文本转录。应当理解,转录器108可以使用各种合适的语音识别技术来确定语音话语的文本转录。在一些实施方式中,转录器108可以基于由偏置器106生成的个性化语言模型来确定语音话语的转录。在一些实施方式中,转录器108可以使用一个或多个另外的语言模型(例如,通用语言模型和/或与语言模型数据114相关联的一个或多个其它合适的语言模型)来确定语音话语的一个或多个另外的转录。在这样的实施方式中,可以为每个转录确定置信度分数,每个转录都指定转录器108的置信度,使得相应的转录是语音话语的准确转录。然后,可以至少部分地基于置信度分数来从上述多个转录选择转录。在一些实施方式中,如果所选择的转录是使用个性化语言模型确定的转录,则可以将所选择的转录提供给解译器110。
在一些实施方式中,可以至少部分地基于用户的位置来选择装置拓扑结构表示以供使用。例如,可以确定用户位于装置拓扑结构表示中指定的特定建筑物内。然后,可以访问指定该建筑物的装置拓扑结构表示,以在处理由用户提供的语音话语时使用。在这样的实施方式中,所访问的装置拓扑结构表示然后可以用于确定由用户提供的语音话语的转录。以这种方式,然后可以至少部分地基于用户的位置来确定转录。例如,在确定用户的位置后,可以访问对应的装置拓扑结构表示,并且可以使用与装置拓扑结构表示相关联的一个或多个项来偏置通用语言模型。在一些实施方式中,可以在先前已经生成用于建筑物和/或装置拓扑结构表示的个性化语言模型,在这种情况下,响应于确定用户位置和/或从用户接收语音话语,适当的个性化语言模型可以被访问并用于确定语音话语的转录。根据本公开的示例方面,然后可以使用对应于用户位置的这种装置拓扑结构表示来解译语音话语。
所确定的转录可以被提供给解译器110。解译器110可以被配置为确定用户在向控制装置102提供语音话语时的意图。特别地,解译器110可以被配置为至少部分地基于转录来确定一个或多个所选择的装置118以及待由所选择的装置118执行的一个或多个动作。例如,在一些实施方式中,解译器110可以对转录执行语义解译技术,以确定转录的概念性含义的逻辑表示。以这种方式,解译器110可以通过识别单词之间的语义关系来确定转录中每个单词的作用。
解译器110可以至少部分地基于装置拓扑结构表示116来确定所述一个或多个所选择的装置118和/或待要执行的动作。例如,解译器110可以将转录与装置拓扑结构表示116进行比较,以确定所选择的装置118和/或待要执行的动作。特别地,解译器110可以将转录与装置拓扑结构表示116中指定的装置标识进行比较,以确定转录的一个或多个项与一个或多个装置标识之间的相关性。例如,如果转录读的是“提高起居室扬声器音量”,项“起居室扬声器”可以与装置拓扑结构表示116的装置标识“起居室扬声器”相关联。以这种方式,可以基于这种相关性来选择具有装置标识“起居室扬声器”的扬声器装置作为所选择的装置。
在一些实施方式中,解译器110可以被配置为推断所述一个或多个所选择的装置。例如,如果不能找到装置标识与转录之间的精确匹配,则解译器可以被配置为推断一个或多个所选择的装置。作为另一示例,如果在装置拓扑结构表示中指定的两个或多个装置具有相同或相似的装置标识,则解译器110可能不能确定用户想要控制哪个装置。例如,装置拓扑结构表示116包括在卧室160和客房162中的、具有相同装置标识“扬声器”的扬声器装置。在这种情况下,解译器110可能不能区分用户希望控制哪个扬声器装置。解译器110然后可以被配置为至少部分地基于与装置拓扑结构表示116和/或用户相关联的其它信息来推断所选择的装置。
作为一个示例,如果转录与装置标识之间没有直接匹配但是转录包括与装置拓扑结构表示116中指定的装置标识足够相似的一个或多个项,则解译器110可以被配置为推断所选择的装置。在这种情况下,解译器110可以将足够相似的(一个或多个)项与装置标识相关联,并且可以基于相似性来推断所选择的装置。例如,如果转录读的是“打开沙发床灯”,则解译器110可以识别装置标识“沙发灯”,并且可以确定短语“沙发床灯”与装置标识“沙发灯”足够相似。然后,解译器110可以选择具有标识“沙发灯”的照明装置作为所选择的装置。
在一些实施方式中,解译器110可以至少部分地基于装置拓扑结构表示116中指定的装置属性来推断所选择的装置。装置属性可以指定每个装置(例如照明装置,扬声器装置等)的类型、每个装置可以执行的一个或多个能力或动作(例如,打开,关闭,增加音量,减小音量,增加速度,降低速度等)和/或与装置相关联的其它合适的属性或特性。以这种方式,可以将转录与装置拓扑结构表示中指定的装置属性进行比较,以确定所述一个或多个所选择的装置。例如,解译器110可将转录中的一个或多个项与装置的所述一个或多个装置属性进行比较,以确定相关性。例如,如果转录读的是“升高温度”,则解译器110可以尝试识别具有与增加温度的动作相关联的合适属性的一个或多个装置。以这种方式,解译器110可能能够将适当的装置缩小到“楼上调温器”和“楼下调温器”。
在一些实施方式中,解译器110可以至少部分地基于用户在向控制装置102提供语音话语时的位置来确定所述一个或多个所选择的装置。如所指出的,控制装置102可以是智能装置或提供语音话语所对着的用户装置。解译器110可以确定控制装置102的位置,并且使控制装置102的位置与用户的位置相关。例如,在控制装置102是装置拓扑结构表示116中指定的智能装置的情况下,解译器110可以访问装置拓扑结构表示,以确定位置(例如,装置拓扑结构表示116中指定的建筑物和房间)。然后,解译器110可以将用户位置与用户提供语音命令所对着的控制装置102的位置相关。
在控制装置102未在装置拓扑结构表示116中指定的情况下(例如,当控制装置102是用户装置或其它合适的控制装置)时,可以使用一个或多个替代的位置确定技术。例如,在一些实施方式中,可以使用一个或多个无线(例如Wi-Fi)接入点来定位控制装置102。可以至少部分地基于所述一个或多个接入点的已知位置以及在控制装置102与所述一个或多个接入点之间通信的一个或多个信号来确定控制装置102的位置。更具体地说,在一些实施方式中,可以至少部分地基于与用户装置与一个或多个接入点之间通信的一个或多个信号相关联的往返循环时间(RTT)计算来确定用户装置的位置。例如,用户装置可以通过向多个接入点发送信号来启动位置查找进程。接入点可以向用户装置发送一个或多个响应信号。响应信号可以包括表示相应的接入点接收到启动信号与发送响应信号之间的时间延迟(例如,处理延迟)的数据。用户装置可以至少部分地基于用户装置发送启动信号的时间、用户装置接收到响应信号的时间和/或与接入点相关联的时间延迟来计算与启动信号和/或响应信号相关联的飞行时间。如果用户装置从三个或更多个接入点接收到响应信号,则用户装置可以将三边测量技术应用于所确定的距离和位置,以相对于接入点定位用户装置自身。例如,用户装置可以确定:它位于某个区域(例如,在特定房间内)的特定位置。
类似地,在一些实施方式中,可以使用一个或多个信标装置(例如,蓝牙信标装置)来确定控制装置102的位置。例如,可以至少部分地基于信标装置的已知位置以及在信标装置与控制装置102之间通信的一个或多个信号来确定控制装置的位置。应当理解,可以使用各种其它适当的位置确定技术,而不会偏离本公开的范围。更具体地,在确定用户装置位置时,用户装置可以广播可以由位于用户所在的建筑物内的两个或更多个信标装置接收到的一个或多个信号。信标装置可以具有建筑物内的已知位置。在一些实施方式中,信标装置可以在装置拓扑结构表示116中定义的一个或多个智能装置内实现。响应于接收到所述一个或多个信号,两个或多个信标装置可以广播一个或多个识别信号,该识别信号分别识别信标装置。识别信号可以包括相应的信标装置的位置。然后,可以至少部分地基于所接收到的识别信号中指定的信标位置来确定用户装置的位置。
应当理解,可以使用各种其它位置确定技术,而不会偏离本公开的范围。例如,可以使用诸如蓝牙,低功耗蓝牙,ZigBee,近场通信,Wi-Fi直连或其它技术的各种合适的通信信号来实现位置确定技术。在替代实施例中,可以至少部分地通过与用户装置相关联的定位系统(例如,GPS或其它定位系统)和/或基于网络(例如,WiFi,蜂窝网络等)位置确定来确定用户的位置。
在一些实施方式中,可以相对于装置拓扑结构表示116来确定控制装置102的位置。例如,在使用无线接入点和/或信标装置来确定控制装置102的位置的实施方式中,接入点和/或信标装置的位置可以映射到装置拓扑结构表示116内的一个或多个房间。以这种方式,控制装置102相对于装置拓扑结构表示116的位置然后可以至少部分地基于装置拓扑结构表示116内的接入点和/或信标装置的位置来确定。
如指出的那样,解译器110可以至少部分地基于在用户提供语音话语时的控制装置的位置来确定所选择的装置。解译器110可以推断所选择的装置将位于用户所在的同一房间中。作为示例,如果转录读的是“打开灯”,则解译器110可以确定用户位于卧室中,并且可以推断出用户正提及的照明装置是与装置拓扑结构表示116中的、与卧室相关联的灯光装置(例如“顶灯”)。
解译器110可以使用上述解译技术中的一种或多种技术来解译转录。例如,在各种情况下,可以至少部分地基于装置标识、装置属性或用户位置中的一个或多个来确定所选择的装置。
解译器110可以进一步确定待要执行的一个或多个所选择的动作。例如,解译器110可以分析转录,以确定所述一个或多个动作。例如,解译器110可以分析读的是“打开灯”的转录,并且可以确定短语“开启(打开)”对应于启动或打开装置的动作。在一些实施方式中,解译器110可以至少部分地基于装置拓扑结构表示116中指定的装置属性来确定待要执行的动作。例如,一旦所选择的装置已被确定,则解译器110可以比较转录与所选择的装置的装置属性,以此来确定转录与装置属性之间的相关性。
一旦(一个或多个)所选择的装置和待要执行的动作已经被确定,就可以确定一个或多个控制命令来指示(一个或多个)所选择的装置执行(一个或多个)适当的动作。特别地,表示(一个或多个)所选择的装置的和(一个或多个)待要执行的动作的数据可以被提供给命令生成器112。命令生成器112可以为(一个或多个)所选择的装置确定一个或多个合适的控制命令。如所指出的,控制命令可以是用于与(一个或多个)所选择的装置通信的任何合适的控制命令。特别地,可以至少部分地基于与(一个或多个)所选择的装置相关联的一个或多个通信协议来确定控制命令。以这种方式,至少部分地基于(一个或多个)所选择的装置的通信协议,控制命令可以是任何合适的格式或结构。命令生成器112可以向(一个或多个)所选择的装置提供控制命令,使得(一个或多个)所选择的装置可以执行控制命令并执行(一个或多个)适当的动作。
虽然系统100被描绘为具有客户端-服务器架构,但是将理解的是,服务器104的功能中的一个或多个(例如,偏置器106、转录器108、解译器110或命令生成器112中的一个或多个)可以由一个或多个其它合适的装置(诸如,例如控制装置102)来执行。以这种方式,可以理解的是,控制装置102可以包括以下中的一个或多个:偏置器106、转录器108、解译器110或命令生成器112。.
图4描绘了根据本公开的示例性实施例的处理语音命令的示例方法(200)的流程图。方法(200)可以由一个或多个计算装置来实施,诸如图8所示的计算装置中的一个或多个计算装置。另外,图4为了说明和讨论的目的而描绘了以特定顺序执行的步骤。使用本文提供的公开内容的本领域普通技术人员将理解,本文讨论的任何方法的步骤都可以以各种方式进行调整、重新排列、扩展、省略或修改,而不会脱离本公开的范围。
在(202)中,方法(300)可以包括从用户接收表示语音话语的数据。如所指出的,用户可以向控制装置提供语音话语,目的是控制一个或多个智能装置。
在(204)中,方法(200)可以包括访问与用户相关联的装置拓扑结构表示。如所指出的,用户可以设置或构造定义与用户相关联的一个或多个建筑物的拓扑结构的装置拓扑结构表示。例如,用户可以将建筑物组织成房间,并且可以将装置分配给房间。用户可以为装置分配装置标识。装置拓扑结构表示可以进一步包括用于装置的一个或多个装置属性。装置属性可以指定装置类型、能力等。以这种方式,装置拓扑结构表示可以允许用户通过装置的位置来组织智能家居或物联网。
在(206)中,方法(200)可以包括至少部分地基于装置拓扑结构表示来确定语音话语的转录。例如,可以至少部分地基于一个或多个语言模型来确定转录。例如,在一些实施方案中,可以通过将通用语言模型朝向在装置拓扑结构表示中指定的一个或多个项(例如,装置标识、房间名称、建筑物名称、装置属性等)偏置来确定转录。以这种方式,可以生成具有与装置拓扑结构表示的这些项相关联的、增加的概率估计的个性化语言模型。可以向个性化语言模型提供表示语音话语的数据,以确定语音话语的转录。在一些实施方案中,可以向一个或多个另外的语言模型提供表示语音话语的数据,以确定转录。
在(208)中,方法(200)可以包括至少部分地基于装置拓扑结构表示来确定转录的解译。例如,确定解译可以包括:至少部分地基于转录和装置拓扑结构表示来确定一个或多个所选择的装置和待由所选择的装置执行的一个或多个动作。所述一个或多个所选择的装置可以是在装置拓扑结构表示中指定的装置,并且要执行的所述一个或多个动作可以是与所选择的装置相关联的一个或多个装置属性所关联的动作。
在(210)中,方法(200)可以包括至少部分地基于解译为所述一个或多个所选择的装置生成一个或多个控制命令。所述一个或多个控制命令可以包括让相应的所选择的装置执行适当的动作的指令。控制命令可以是能够被相关联的智能装置理解的任何合适的控制命令。在(212)中,方法(200)可以包括向所选择的装置提供所述一个或多个控制命令,使得所选择的装置可以执行控制命令并执行适当的动作。
图5描绘了根据本公开的示例性实施例的生成个性化语言模型的示例性方法(300)的流程图。方法(300)可以由一个或多个计算装置来实施,诸如图8所示的计算装置中的一个或多个。在一些实施方式中,方法(300)可以由图1中描绘的偏置器106实施。
在(302)中,方法(300)可以包括访问通用语言模型。如所指出的,通用语言模型可以包括多个公共短语。短语可以是一个或多个单词构成的序列。通用语言模型还可以包括与每一个短语相关联的、表示该关联短语的出现概率的估计的概率估计。
在(304)中,方法(300)可以包括从装置拓扑结构表示中识别一个或多个偏置项或短语。例如,所述一个或多个偏置项或短语可以包括装置标识、房间标识、建筑物标识、装置属性和/或与装置拓扑结构表示相关联的其它合适的项或短语。
在(306)中,方法(300)可以包括至少部分地基于所述一个或多个偏置项来偏置通用语言模型。例如,偏置通用语言模型可以包括:至少部分地基于偏置项来调整通用语言模型的一个或多个概率估计。特别地,偏置通用语言模型可以包括提高偏置项的概率估计,以提高偏置项的估计出现概率。在(308)中,方法(300)可以包括至少部分地基于偏置来生成个性化语言模型。例如,可以基于通用语言模型生成个性化语言模型。个性化语言模型可以包括与通用语言模型相同的短语组,但可以包括朝向偏置项偏置的概率估计。
图6描绘了根据本公开的示例性实施例的确定语音话语的文本转录的示例性方法(400)的流程图。方法(400)可以由一个或多个计算装置来实施,诸如图8所示的计算装置中的一个或多个。在一些实施方式中,方法(300)可以由图1中描绘的转录器108实施。
在(402)中,方法(400)可以包括向通用语言模型提供表示语音话语的数据。在(404)中,方法(400)可以包括至少部分地基于通用语言模型来确定语音话语的第一转录。可以使用各种合适的语音识别技术来确定第一转录。在(406)中,方法(400)可以包括确定第一转录的第一置信度分数。第一置信度分数可以表示对语音话语的第一转录的准确性的估计。
在(408)中,方法(400)可以包括向个性化语言模型提供表示语音话语的数据。可以至少部分地基于智能家居或物联网的拓扑结构(例如,在装置拓扑结构表示中指定的)来确定个性化语言模型。例如,个性化语言模型可以是图5中描述的语言模型。在(410)中,方法(400)可以包括至少部分地基于个性化语言模型来确定语音话语的第二转录。可以使用各种合适的语音识别技术来确定第二转录。在(412)中,方法(400)可以包括确定第二转录的第二置信度分数。第二置信度分数可以表示对语音话语的第二转录的准确性的估计。
在(414)中,方法(400)可以包括至少部分地基于置信度分数选择要解译的转录。例如,具有较高置信度分数的转录可以被确定为语音话语的更准确的转录,并且可以选择为要解译的转录。在一些实施方案中,可以使用一个或多个另外的语言模型来确定一个或多个另外的转录。可以为相应的另外的转录确定另外的置信度分数。可以至少部分地基于每一个置信度分数来选择要解译的转录。
图7描绘了根据本公开的示例性实施例的解译语音话语的转录的示例性方法(500)的流程图。方法(500)可以由一个或多个计算装置来实施,诸如图8所示的计算装置中的一个或多个。在一些实施方式中,方法(300)可以由图1中描绘的解译器110实施。
在(502)中,方法(500)可以包括将转录与在装置拓扑结构表示中指定的一个或多个装置标识进行比较。在(504)中,方法(500)可以包括确定是否可以至少部分地基于装置标识来确定所选择的装置。例如,如果在装置标识和转录之间产生相关,则可以确定所选择的装置。如果一个或多个装置标识与转录中的一个或多个项匹配,和/或如果一个或多个装置标识与转录中的一个或多个项充分相似,则可以产生相关。在一些实施方案中,如果在装置拓扑结构表示中指定的多个装置和转录之间产生相关,则可能无法确定所选择的装置。例如,如果多个装置具有相同或相似的装置标识,则可能无法确定所选择的装置。如果可以确定所选择的装置,则在(506)中,方法(500)可以包括确定所选择的装置和待由所选择的装置执行的动作。
如果无法确定所选择的装置,则在(508)中,方法(500)可以包括将转录与在装置拓扑结构表示中指定的一个或多个装置属性进行比较。如所指出的,装置属性可以表示装置类型和/或装置的一个或多个能力。以这种方式,可以将装置属性与转录中的一个或多个项进行比较,以确定所述一个或多个项与装置属性之间的相关性。转录和一个或多个装置属性的相关性可以提供关于所选择装置的证据。例如,如果发现相关性,则可以确定只有具有相关的装置属性的装置才应被选择为所选择的装置。以这种方式,相关性可以有助于在确定所选择的装置时缩小装置范围。
在(510)中,方法(500)可以包括确定是否可以确定所选择的装置。特别地,确定是否可以确定所选择的装置可以包括:确定是否可以至少部分地基于转录与所述一个或多个装置属性和/或所述一个或多个装置标识的比较来确定所选择的装置。如果可以确定所选择的装置,则方法(500)可以返回到(506),并且可以确定要执行的所述一个或多个动作。
如果无法确定所选择的装置,则在(512)中,方法(500)可以包括确定用户相对于装置拓扑结构表示的位置。如所指出的,在控制装置是在装置拓扑结构表示的组织拓扑结构内指定的装置的情况下,用户的位置可以对应于装置拓扑结构表示中的控制装置的位置。在未在装置拓扑结构表示中指定控制装置的情况下,可以基于各种合适的位置确定技术(例如使用无线接入点和/或信标装置的技术)来确定用户位置。然后,可以将这样确定的用户位置映射到在装置拓扑结构表示中指定的建筑物和房间。
在(514)中,方法(500)可以包括将相对的用户位置与装置拓扑结构表示中指定的装置拓扑结构进行比较。例如,可以将用户在建筑物中的位置与在装置拓扑结构表示中指定的、与该位置相关联的装置进行比较。以这种方式,可以推断所选择的装置是位于用户所在的房间中的装置。例如,如果转录读的是“打开灯”,则可以分析位于用户所在的房间中的装置,以识别与该房间相关联的一个或多个照明装置。以这种方式,可以推断,被选为所选择的装置的装置应当是位于用户当前所在的房间内的照明装置。
在(516)中,方法(500)可以包括确定是否可以确定所选择的装置。特别地,确定是否可以确定所选择的装置可以包括:确定是否可以至少部分地基于转录与所述一个或多个装置属性、所述一个或多个装置标识和/或相对的用户位置的比较来确定所选择的装置。如果可以确定所选择的装置,则方法(500)可以包括返回到(506),并且可以确定要执行的动作。如果无法确定所选择的装置,则在(518)中,方法(500)可以包括从用户请求更多的信息。例如,可以在控制装置或其它合适的装置的用户界面中向用户呈现提示,询问用户有关语音命令的更多信息。
应当理解,在各种情况下,可以至少部分地基于装置标识、装置属性或相对的用户位置中的一个或多个来确定所选择的装置和/或要执行的动作。以这种方式,可以访问和/或确定与用户和/或装置拓扑结构表示相关联的各种数据,以确定或推断与语音话语相关联的所述一个或多个所选择的装置。根据转录和装置拓扑结构表示的特定组织,可以使用上面参考的因素的各种合适的组合来确定所选择的装置和/或要执行的动作。以这种方式,应当理解,可以以各种方式使用装置拓扑结构表示和/或用户位置的各个方面来确定所选择的装置和/或要执行的动作。
图8描绘了可以用于实施根据本公开的示例性方面的方法和系统的示例性计算系统700。可以使用包括通过网络740与一个或多个客户端装置730通信的服务器710的客户端-服务器架构来实施系统700。系统700可以使用诸如单个计算装置的其它合适的架构来实施。
系统700包括诸如网络服务器的服务器710。服务器710可以使用任何合适的计算装置来实施。服务器710可以具有一个或多个处理器712和一个或多个存储器装置714。服务器710还可以包括用于通过网络740与一个或多个客户端装置730进行通信的网络接口。网络接口可以包括用于与一个或多个网络连接的任何合适的组件,包括例如发射器、接收器、端口、控制器、天线或其它合适的组件。
所述一个或多个处理器712可以包括任何合适的处理装置,诸如微处理器、微控制器、集成电路、逻辑装置或其它合适的处理装置。所述一个或多个存储器装置714可以包括一个或多个计算机可读介质,包括但不限于非暂态计算机可读介质、RAM、ROM、硬盘驱动器、闪存驱动器或其它存储器装置。所述一个或多个存储器装置714可以存储所述一个或多个处理器712可访问的信息,包括可由所述一个或多个处理器712执行的计算机可读指令716。指令716可以是当由所述一个或多个处理器712执行时使得所述一个或多个处理器712执行操作的任何指令集。例如,指令716可以由所述一个或多个处理器712执行,以实施参考图1描述的偏置器106、转录器108、解译器110或命令发生器112。
如图8所示,所述一个或多个存储器装置714还可以存储可被所述一个或多个处理器712检索、操纵、创建或存储的数据718。数据718可以包括例如语言模型数据、装置拓扑结构表示数据和其它数据。数据718可以存储在一个或多个数据库中。该一个或多个数据库可以通过高带宽LAN或WAN连接到服务器710,或者也可以通过网络740连接到服务器710。该一个或多个数据库可以被拆分,以便使得它们位于多个场所中。
服务器710可以通过网络740与一个或多个客户端装置730交换数据。任何数量的客户端装置730可以通过网络740连接到服务器710。一个或多个客户端装置730可以是被配置成提供家庭自动化服务、智能家居服务、物联网服务和/或其它合适服务的智能装置。智能装置可以包括以下装置或可以以其它方式与以下装置相关联:空调系统、照明装置、家庭影院和娱乐系统、安全系统、自动门锁系统、调温器装置、家庭自动化系统、声音扬声器、摄像头装置、跑步机、重量秤、智能床、灌溉系统、车库门开启器、家电、婴儿监护仪、火灾报警器和/或其它合适的装置或系统。客户端装置中的一个或多个还可以是用户计算装置,诸如通用计算机、专用计算机、笔记本电脑、台式电脑、移动装置、导航系统、智能电话、平板电脑、可穿戴计算装置、具有一个或多个处理器的显示器或其它合适的计算装置。
与服务器710相似,客户端装置730可以包括一个或多个处理器732和一个存储器734。该一个或多个处理器732可以包括一个或多个中央处理单元(CPU)、专用于有效地渲染图像或执行其它专门计算的图形处理单元(GPU)和/或其它处理装置。存储器734可以包括一个或多个计算机可读介质,并且可以存储所述一个或多个处理器732可访问的信息,包括可由所述一个或多个处理器732执行的指令736和数据738。例如,存储器734可以存储用于实施用户界面的指令736。
图8的客户端装置730可以包括用于从用户提供和接收信息的各种输入/输出装置737,诸如触摸屏、触摸板、数据输入键、扬声器和/或适合于语音识别的麦克风。例如,根据本公开的示例性方面,客户端装置730可以具有用于呈现用户界面的显示装置735。
客户端装置730还可以包括用于通过网络740与一个或多个远程计算装置(例如,服务器710)进行通信的网络接口。网络接口可以包括用于与一个或多个网络连接的任何合适的组件,包括例如发射器、接收器、端口、控制器、天线或其它合适的组件。
网络740可以是任何类型的通信网络,诸如局域网(例如,内联网)、广域网(例如,因特网)、蜂窝网络或上述的某种组合。网络740还可以包括客户端装置730和服务器710之间的直接连接。通常,可以使用各种通信协议(例如,TCP/IP、HTTP、SMTP、FTP)、编码或格式(例如,HTML、XML)和/或保护方案(例如,VPN、安全HTTP、SSL),使用任何类型的有线和/或无线连接,通过网络接口来携载服务器710和客户端装置730之间的通信。
本公开的一个示例性方面涉及一种由计算机实施的处理语音话语的方法。该方法可以包括由一个或多个计算装置接收表示语音话语的数据。语音话语可以由用户提供给控制装置。该方法可以包括由一个或多个计算装置访问装置拓扑结构表示。装置拓扑结构表示可以定义与一个或多个建筑物相关联的多个智能装置。装置拓扑结构表示可以进一步定义多个装置和控制装置中的每一个在相关联的建筑物内的位置。该方法可以包括由所述一个或多个计算装置至少部分地基于表示语音话语的数据并且进一步至少部分地基于由装置拓扑结构表示定义的控制装置在相关联的建筑物内的位置,来确定一个或多个所选择的装置以及待由该一个或多个所选择的装置要执行的一个或多个动作。
在一些实施方案中,由所述一个或多个计算装置确定所述一个或多个所选择的装置可以包括:由所述一个或多个计算装置识别与控制装置共享相同位置的所述多个装置的子集;以及由所述一个或多个计算装置从所识别的多个装置的子集中确定所述一个或多个所选择的装置。
在一些实施方案中,装置拓扑结构表示可以在一个或多个建筑物中的每一个内定义一个或多个房间。由装置拓扑结构表示定义的多个装置和控制装置中的每一个的位置可以分别对应于所述一个或多个房间中的至少一个。
在一些实施方案中,由所述一个或多个计算装置确定所述一个或多个所选择的装置可以包括:由所述一个或多个计算装置识别与控制装置处在相同房间的所述多个装置的子集;以及由所述一个或多个计算装置从所识别的多个装置的子集中确定所述一个或多个所选择的装置。
在一些实施方案中,由所述一个或多个计算装置从所识别的多个装置的子集中确定所述一个或多个所择选的装置可以包括:由所述一个或多个计算装置识别由语音话语引用的一个或多个装置属性;以及由所述一个或多个计算装置识别所述多个装置的所述子集中的哪一个具有所述一个或多个装置属性。
在一些实施方案中,控制装置是所述多个装置之一。
在一些实施方案中,装置拓扑结构表示可以为多个装置中的每一个指定一个或多个装置标识和一个或多个装置属性。
在一些实施方案中,由所述一个或多个计算装置确定所述一个或多个所选择的装置和一个或多个动作可以包括:由所述一个或多个计算装置至少部分地基于在装置拓扑结构表示中指定的所述一个或多个装置标识中的至少一个来确定所述一个或多个所选择的装置和所述一个或多个动作。
在一些实施方案中,由所述一个或多个计算装置确定所述一个或多个所选择的装置和一个或多个动作可以包括:由所述一个或多个计算装置至少部分地基于在装置拓扑结构表示中指定的所述一个或多个装置属性中的至少一个来确定所述一个或多个所选择的装置和所述一个或多个动作。
在一些实施方案中,该方法还可以包括由所述一个或多个计算装置至少部分地基于所述一个或多个所选择的装置和所述一个或多个动作来确定一个或多个控制命令,所述一个或多个控制命令分别指示所述一个或多个所选择的装置执行一个或多个动作。在一些实施方案中,该方法还可以包括由所述一个或多个计算装置向所述一个或多个所选择的装置提供所述一个或多个控制命令。
在一些实施方案中,执行该方法的所述一个或多个计算装置可以由控制装置组成。
本公开的另一个示例性方面涉及一种包括一个或多个处理器和一个或多个存储器装置的计算系统。所述一个或多个存储器装置可以存储当由所述一个或多个处理器执行时使得该一个或多个处理器执行操作的计算机可读指令。所述操作可以包括:接收表示语音话语的数据。语音话语可以由用户提供给控制装置。所述操作可以包括访问装置拓扑结构表示。装置拓扑结构表示可以定义与一个或多个建筑物相关联的多个智能装置。装置拓扑结构表示可以进一步在相关联的建筑物内定义多个装置和控制装置中的每一个的位置。所述操作可以包括至少部分地基于表示语音话语的数据并且进一步至少部分地基于由装置拓扑结构表示定义的控制装置在相关联的建筑物内的位置来确定一个或多个所选择的装置以及待由所述一个或多个所选择的装置执行的一个或多个动作。
在一些实施方案中,确定所述一个或多个所选择的装置可以包括:识别与控制装置共享相同位置的多个装置的子集;以及从所识别的多个装置的子集中确定所述一个或多个所选择的装置。
在一些实施方案中,装置拓扑结构表示可以在所述一个或多个建筑物中的每一个内定义一个或多个房间。由装置拓扑结构表示定义的多个装置和控制装置中的每一个的位置可以分别对应于所述一个或多个房间中的至少一个。
在一些实施方案中,确定所述一个或多个所选择的装置可以包括:识别与控制装置处在相同房间的多个装置的子集;以及从所识别的多个装置的子集中确定所述一个或多个所选择的装置。
在一些实施方案中,从所识别的多个装置的子集中确定所述一个或多个所选择的装置可以包括:识别由语音话语引用的一个或多个装置属性;以及识别所述多个装置的所述子集中的哪一个具有所述一个或多个装置属性。
在一些实施方案中,所述操作可以进一步包括:至少部分地基于所述一个或多个所选择的装置和所述一个或多个动作来确定一个或多个控制命令,所述一个或多个控制命令分别指示所述一个或多个所选择的装置执行所述一个或多个动作;以及向所述一个或多个所选择的装置提供所述一个或多个控制命令。
在一些实施方案中,计算系统可以包括控制装置,并且控制装置可以包括所述一个或多个处理器和所述一个或多个存储器装置。
本公开的另一个示例性方面涉及一种由计算机实施的方法。所述方法可以包括通过一个或多个计算装置获得装置拓扑结构表示,其描述装置拓扑结构表示中包括的多个装置中的每一个的相应位置。该多个装置可以包括一个或多个控制装置。所述方法可以包括通过所述一个或多个计算装置获得语音话语。所述方法可以包括通过所述一个或多个计算装置识别所述一个或多个控制装置中的由用户提供语音话语所对着的第一控制装置。所述方法可以包括通过所述一个或多个计算装置来确定由装置拓扑结构表示描述为具有与提供语音话语所对着的第一控制装置相同位置的多个装置的子集。所述方法可以包括由所述一个或多个计算装置至少部分地基于表示语音话语的数据来从多个装置的子集中确定一个或多个所选择的装置。
在一些实施方案中,装置拓扑结构表示可以为多个装置中的每一个装置指定特定的房间。在一些实施方案中,由所述一个或多个计算装置确定所述多个装置的子集可以包括:由所述一个或多个计算装置识别所述多个装置的该子集,对于所述多个装置的该子集,所述装置拓扑结构表示指定与提供语音话语所对着的第一控制装置相同的房间。
在一些实施方案中,所述一个或多个计算装置可以由第一控制装置组成,使得第一控制装置执行由计算机实施的方法。在一些实施方案中,所述多个装置可以包括多个控制装置。在一些实施方案中,所述多个控制装置可以分别与多个位置相关联。例如,所述多个控制装置可以分别与多个房间相关联。
本文讨论的技术参考了服务器、数据库、软件应用程序和其它基于计算机的系统,以及向这些系统和从这些系统采取的动作和发送的信息。本领域普通技术人员将认识到,基于计算机的系统的固有灵活性允许组件之间和之中的对于任务和功能的各种可能的配置、组合和划分。例如,本文讨论的服务器进程可以使用单个服务器或多个以组合方式工作的服务器实施。数据库和应用程序可以在单个系统上实施或分布在多个系统上。分布式组件可以依次或并行操作。
虽然已经关于本发明的主题的具体示例性实施例详细描述了本发明的主题,但是应当理解,本领域技术人员在获知和理解前述内容后可以容易地产生对这些实施例的替代、变化和等同物。因此,本公开的范围是作为示例而不是限制,并且本公开不排除对本发明主题的这样的修改、变化和/或添加,这对于本领域普通技术人员将是显而易见的。

Claims (20)

1.一种由计算机实施的处理语音话语的方法,所述方法包括:
由一个或多个计算装置接收表示语音话语的数据,所述语音话语由用户提供给控制装置;
由所述一个或多个计算装置访问装置拓扑结构表示,所述装置拓扑结构表示定义与一个或多个建筑物相关联的多个智能装置,所述装置拓扑结构表示进一步定义所述多个装置中的每一个装置在所述相关联的建筑物内的位置;
由所述一个或多个计算装置至少部分地基于所述装置拓扑结构表示来确定所述语音话语的转录;以及
由所述一个或多个计算装置至少部分地基于所确定的转录和所述装置拓扑结构表示来确定一个或多个所选择的装置和待由所述一个或多个所选择的装置执行的一个或多个动作。
2.根据权利要求1所述的由计算机实施的方法,其中,由所述一个或多个计算装置来确定所述语音话语的所述转录包括:
由所述一个或多个计算装置向通用语言模型提供表示所述语音话语的数据;
由所述一个或多个计算装置至少部分地基于所述通用语言模型来确定所述语音话语的第一转录;以及
由所述一个或多个计算装置来确定与所述第一转录相关联的第一置信度分数。
3.根据权利要求1所述的由计算机实施的方法,其中,由所述一个或多个计算装置来确定所述语音话语的所述转录包括:
由所述一个或多个计算装置向个性化语言模型提供表示所述语音话语的所述数据,所述个性化语言模型至少部分地基于所述装置拓扑结构表示来确定;
由所述一个或多个计算装置至少部分地基于所述个性化语言模型来确定所述语音话语的第二转录;
由所述一个或多个计算装置来确定与所述第二转录相关联的第二置信度分数;以及
由所述一个或多个计算装置至少部分地基于所述第一和第二置信度分数来选择要解译的所述第一转录或所述第二转录。
4.根据任一前述权利要求所述的由计算机实施的方法,其中,由所述一个或多个计算装置来确定一个或多个所选择的装置和一个或多个动作包括:至少部分地基于与所述用户相关联的上下文数据来确定所述一个或多个所选择的装置和所述一个或多个动作。
5.根据权利要求4所述的由计算机实施的方法,其中,与所述用户相关联的所述上下文数据包括相对于在所述装置拓扑结构表示中指定的一个或多个装置的位置的、与所述用户相关联的位置数据。
6.根据任一前述权利要求所述的由计算机实施的方法,其中,所述装置拓扑结构表示定义所述一个或多个建筑物中的每一个建筑物内的一个或多个房间,并且其中所述多个装置中的每一个装置的位置对应于所述一个或多个房间中的至少一个房间。
7.根据任一前述权利要求所述的由计算机实施的方法,其中,所述装置拓扑结构表示针对每一个智能装置都指定一个或多个装置标识和一个或多个装置属性。
8.根据权利要求7所述的由计算机实施的方法,其中,由所述一个或多个计算装置来确定一个或多个所选择的装置和一个或多个动作包括:至少部分地基于在所述装置拓扑结构表示中指定的所述一个或多个装置标识中的至少一个装置标识来确定所述一个或多个所选择的装置和所述一个或多个动作。
9.根据权利要求7或权利要求8所述的由计算机实施的方法,其中,由所述一个或多个计算装置来确定一个或多个所选择的装置和一个或多个动作包括:至少部分地基于在所述装置拓扑结构表示中指定的所述一个或多个装置属性中的至少一个装置属性来确定所述一个或多个所选择的装置和所述一个或多个动作。
10.根据任一前述权利要求所述的由计算机实施的方法,还包括:
由所述一个或多个计算装置至少部分地基于所述一个或多个所选择的装置和所述一个或多个动作来确定一个或多个控制命令,所述一个或多个控制命令分别指示所述一个或多个所选择的装置执行所述一个或多个动作;以及
由所述一个或多个计算装置向所述一个或多个所选择的装置提供所述一个或多个控制命令。
11.一种计算系统,包括:
一个或多个处理器;以及
一个或多个存储器装置,所述一个或多个存储器装置存储当由所述一个或多个处理器执行时使所述一个或多个处理器执行操作的计算机可读指令,所述操作包括:
接收表示语音话语的数据,所述语音话语由使用户提供给控制装置;
访问装置拓扑结构表示,所述装置拓扑结构表示定义与一个或多个建筑物相关联的多个智能装置,所述装置拓扑结构表示进一步定义所述多个装置中的每一个装置在所述相关联的建筑物内的位置;
至少部分地基于所述装置拓扑结构表示来确定所述语音话语的转录;以及
至少部分地基于所确定的转录和所述装置拓扑结构表示来确定一个或多个所选择的装置和待由所述一个或多个所选择的装置执行的一个或多个动作。
12.根据权利要求11所述的计算系统,其中,确定所述语音话语的转录包括:至少部分地基于所述装置拓扑结构表示将通用语言模型偏置,以及至少部分地基于所述偏置来确定所述转录。
13.根据权利要求11或权利要求12所述的计算系统,所述操作还包括:至少部分地基于所述控制装置的位置来确定所述用户的位置。
14.根据权利要求13所述的计算系统,其中,至少部分地基于所述装置拓扑结构表示中指定的所述控制装置的位置来确定与所述用户相关联的位置。
15.根据权利要求13或权利要求14所述的计算系统,其中,确定一个或多个所选择的装置和一个或多个动作包括:至少部分地基于相对于所述装置拓扑结构表示中指定的一个或多个装置的位置的、与所述用户相关联的位置来确定所述一个或多个所选择的装置和所述一个或多个动作。
16.根据权利要求11到15中的任一项所述的计算系统,其中,所述装置拓扑结构表示定义所述一个或多个建筑物中的每一个建筑物内的一个或多个房间,并且其中,所述多个装置中的每一个装置的位置对应于所述一个或多个房间中的至少一个房间。
17.一种或多种有形的非暂态计算机可读介质,其存储有在由一个或多个处理器执行时使所述一个或多个处理器执行操作的计算机可读指令,所述操作包括:
接收表示语音话语的数据,所述语音话语由用户提供给控制装置;
访问装置拓扑结构表示,所述装置拓扑结构表示定义与一个或多个建筑物相关联的多个智能装置,所述装置拓扑结构表示进一步定义所述多个装置中的每一个装置在所述相关联的建筑物内的位置;
至少部分地基于所述装置拓扑结构表示来确定所述语音话语的转录;以及
至少部分地基于所确定的转录和所述装置拓扑结构表示来确定一个或多个所选择的装置和待由所述一个或多个所选择的装置执行的一个或多个动作。
18.根据权利要求17所述的一个或多个有形的非暂态计算机可读介质,其中,所述装置拓扑结构表示针对每一个智能装置指定一个或多个装置标识和一个或多个装置属性。
19.根据权利要求18所述的一个或多个有形的非暂态计算机可读介质,其中,确定一个或多个所选择的装置和一个或多个动作包括:至少部分地基于在所述装置拓扑结构表示中指定的所述一个或多个装置标识中的至少一个装置标识来确定所述一个或多个所选择的装置和所述一个或多个动作。
20.根据权利要求18或权利要求19所述的一个或多个有形的非暂态计算机可读介质,其中,由所述一个或多个计算装置确定一个或多个所选择的装置和一个或多个动作包括:至少部分地基于在所述装置拓扑结构表示中指定的所述一个或多个装置属性中的至少一个装置属性来确定所述一个或多个所选择的装置和所述一个或多个动作。
CN201710924487.6A 2016-10-03 2017-09-30 基于装置拓扑结构来处理语音命令 Active CN107895574B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110396193.7A CN113140218A (zh) 2016-10-03 2017-09-30 基于装置拓扑结构来处理语音命令

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201662403441P 2016-10-03 2016-10-03
US62/403,441 2016-10-03

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202110396193.7A Division CN113140218A (zh) 2016-10-03 2017-09-30 基于装置拓扑结构来处理语音命令

Publications (2)

Publication Number Publication Date
CN107895574A true CN107895574A (zh) 2018-04-10
CN107895574B CN107895574B (zh) 2021-04-20

Family

ID=60043351

Family Applications (2)

Application Number Title Priority Date Filing Date
CN202110396193.7A Pending CN113140218A (zh) 2016-10-03 2017-09-30 基于装置拓扑结构来处理语音命令
CN201710924487.6A Active CN107895574B (zh) 2016-10-03 2017-09-30 基于装置拓扑结构来处理语音命令

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN202110396193.7A Pending CN113140218A (zh) 2016-10-03 2017-09-30 基于装置拓扑结构来处理语音命令

Country Status (8)

Country Link
US (3) US10699707B2 (zh)
EP (1) EP3507798A1 (zh)
JP (2) JP6683893B2 (zh)
KR (3) KR20200035476A (zh)
CN (2) CN113140218A (zh)
DE (2) DE202017105942U1 (zh)
GB (2) GB202000173D0 (zh)
WO (1) WO2018067350A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112102826A (zh) * 2020-08-31 2020-12-18 南京创维信息技术研究院有限公司 一种控制语音设备多端唤醒的系统和方法

Families Citing this family (146)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8677377B2 (en) 2005-09-08 2014-03-18 Apple Inc. Method and apparatus for building an intelligent automated assistant
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US8676904B2 (en) 2008-10-02 2014-03-18 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US10706373B2 (en) 2011-06-03 2020-07-07 Apple Inc. Performing actions associated with task items that represent tasks to perform
US10276170B2 (en) 2010-01-18 2019-04-30 Apple Inc. Intelligent automated assistant
US10417037B2 (en) 2012-05-15 2019-09-17 Apple Inc. Systems and methods for integrating third party services with a digital assistant
CN104969289B (zh) 2013-02-07 2021-05-28 苹果公司 数字助理的语音触发器
US10652394B2 (en) 2013-03-14 2020-05-12 Apple Inc. System and method for processing voicemail
US10748529B1 (en) 2013-03-15 2020-08-18 Apple Inc. Voice activated device for use with a voice-based digital assistant
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US9966065B2 (en) 2014-05-30 2018-05-08 Apple Inc. Multi-command single utterance input method
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
US9721566B2 (en) 2015-03-08 2017-08-01 Apple Inc. Competing devices responding to voice triggers
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US10460227B2 (en) 2015-05-15 2019-10-29 Apple Inc. Virtual assistant in a communication session
US10200824B2 (en) 2015-05-27 2019-02-05 Apple Inc. Systems and methods for proactively identifying and surfacing relevant content on a touch-sensitive device
US20160378747A1 (en) 2015-06-29 2016-12-29 Apple Inc. Virtual assistant for media playback
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US10740384B2 (en) 2015-09-08 2020-08-11 Apple Inc. Intelligent automated assistant for media search and playback
US10331312B2 (en) 2015-09-08 2019-06-25 Apple Inc. Intelligent automated assistant in a media environment
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10956666B2 (en) 2015-11-09 2021-03-23 Apple Inc. Unconventional virtual assistant interactions
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US10095470B2 (en) 2016-02-22 2018-10-09 Sonos, Inc. Audio response playback
US10509626B2 (en) 2016-02-22 2019-12-17 Sonos, Inc Handling of loss of pairing between networked devices
US10264030B2 (en) 2016-02-22 2019-04-16 Sonos, Inc. Networked microphone device control
US9947316B2 (en) 2016-02-22 2018-04-17 Sonos, Inc. Voice control of a media playback system
US9965247B2 (en) 2016-02-22 2018-05-08 Sonos, Inc. Voice controlled media playback system based on user profile
US10743101B2 (en) 2016-02-22 2020-08-11 Sonos, Inc. Content mixing
US11227589B2 (en) 2016-06-06 2022-01-18 Apple Inc. Intelligent list reading
US9978390B2 (en) 2016-06-09 2018-05-22 Sonos, Inc. Dynamic player selection for audio signal processing
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
DK179415B1 (en) 2016-06-11 2018-06-14 Apple Inc Intelligent device arbitration and control
US10134399B2 (en) 2016-07-15 2018-11-20 Sonos, Inc. Contextualization of voice inputs
US10152969B2 (en) 2016-07-15 2018-12-11 Sonos, Inc. Voice detection by multiple devices
US10115400B2 (en) 2016-08-05 2018-10-30 Sonos, Inc. Multiple voice services
US9942678B1 (en) 2016-09-27 2018-04-10 Sonos, Inc. Audio playback settings for voice interaction
US9743204B1 (en) 2016-09-30 2017-08-22 Sonos, Inc. Multi-orientation playback device microphones
US10181323B2 (en) 2016-10-19 2019-01-15 Sonos, Inc. Arbitration-based voice recognition
US11204787B2 (en) 2017-01-09 2021-12-21 Apple Inc. Application integration with a digital assistant
US11183181B2 (en) 2017-03-27 2021-11-23 Sonos, Inc. Systems and methods of multiple voice services
DK201770383A1 (en) 2017-05-09 2018-12-14 Apple Inc. USER INTERFACE FOR CORRECTING RECOGNITION ERRORS
DK180048B1 (en) 2017-05-11 2020-02-04 Apple Inc. MAINTAINING THE DATA PROTECTION OF PERSONAL INFORMATION
US10726832B2 (en) 2017-05-11 2020-07-28 Apple Inc. Maintaining privacy of personal information
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
DK201770427A1 (en) 2017-05-12 2018-12-20 Apple Inc. LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT
DK179745B1 (en) 2017-05-12 2019-05-01 Apple Inc. SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT
DK179560B1 (en) 2017-05-16 2019-02-18 Apple Inc. FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES
US10303715B2 (en) 2017-05-16 2019-05-28 Apple Inc. Intelligent automated assistant for media exploration
US20180336892A1 (en) 2017-05-16 2018-11-22 Apple Inc. Detecting a trigger of a digital assistant
US10475449B2 (en) 2017-08-07 2019-11-12 Sonos, Inc. Wake-word detection suppression
US10048930B1 (en) 2017-09-08 2018-08-14 Sonos, Inc. Dynamic computation of system response volume
US10446165B2 (en) 2017-09-27 2019-10-15 Sonos, Inc. Robust short-time fourier transform acoustic echo cancellation during audio playback
US10621981B2 (en) 2017-09-28 2020-04-14 Sonos, Inc. Tone interference cancellation
US10482868B2 (en) 2017-09-28 2019-11-19 Sonos, Inc. Multi-channel acoustic echo cancellation
US10051366B1 (en) 2017-09-28 2018-08-14 Sonos, Inc. Three-dimensional beam forming with a microphone array
US10466962B2 (en) 2017-09-29 2019-11-05 Sonos, Inc. Media playback system with voice assistance
US10785562B1 (en) * 2017-12-08 2020-09-22 Verily Life Sciences Llc Position-aware recording devices able to provide context to speech
US10880650B2 (en) 2017-12-10 2020-12-29 Sonos, Inc. Network microphone devices with automatic do not disturb actuation capabilities
US10818290B2 (en) 2017-12-11 2020-10-27 Sonos, Inc. Home graph
US10798053B2 (en) * 2017-12-30 2020-10-06 Intel Corporation Alias-based time-limited lease addressing for internet of things devices
WO2019152722A1 (en) 2018-01-31 2019-08-08 Sonos, Inc. Device designation of playback and network microphone device arrangements
US20190235831A1 (en) * 2018-01-31 2019-08-01 Amazon Technologies, Inc. User input processing restriction in a speech processing system
US10818288B2 (en) 2018-03-26 2020-10-27 Apple Inc. Natural assistant interaction
US11145299B2 (en) * 2018-04-19 2021-10-12 X Development Llc Managing voice interface devices
US11145294B2 (en) 2018-05-07 2021-10-12 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US10928918B2 (en) 2018-05-07 2021-02-23 Apple Inc. Raise to speak
US11175880B2 (en) 2018-05-10 2021-11-16 Sonos, Inc. Systems and methods for voice-assisted media content selection
CN108646580A (zh) * 2018-05-14 2018-10-12 中兴通讯股份有限公司 控制对象的确定方法及装置、存储介质、电子装置
US10847178B2 (en) 2018-05-18 2020-11-24 Sonos, Inc. Linear filtering for noise-suppressed speech detection
US10867609B2 (en) * 2018-05-18 2020-12-15 Sorenson Ip Holdings, Llc Transcription generation technique selection
US10959029B2 (en) 2018-05-25 2021-03-23 Sonos, Inc. Determining and adapting to changes in microphone performance of playback devices
DK180639B1 (en) 2018-06-01 2021-11-04 Apple Inc DISABILITY OF ATTENTION-ATTENTIVE VIRTUAL ASSISTANT
US10892996B2 (en) 2018-06-01 2021-01-12 Apple Inc. Variable latency device coordination
DK179822B1 (da) 2018-06-01 2019-07-12 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
US10681460B2 (en) 2018-06-28 2020-06-09 Sonos, Inc. Systems and methods for associating playback devices with voice assistant services
US10461710B1 (en) 2018-08-28 2019-10-29 Sonos, Inc. Media playback system with maximum volume setting
US11076035B2 (en) 2018-08-28 2021-07-27 Sonos, Inc. Do not disturb feature for audio notifications
US10587430B1 (en) 2018-09-14 2020-03-10 Sonos, Inc. Networked devices, systems, and methods for associating playback devices based on sound codes
US10878811B2 (en) 2018-09-14 2020-12-29 Sonos, Inc. Networked devices, systems, and methods for intelligently deactivating wake-word engines
US11024331B2 (en) 2018-09-21 2021-06-01 Sonos, Inc. Voice detection optimization using sound metadata
US10811015B2 (en) 2018-09-25 2020-10-20 Sonos, Inc. Voice detection optimization based on selected voice assistant service
US11010561B2 (en) 2018-09-27 2021-05-18 Apple Inc. Sentiment prediction from textual data
US11462215B2 (en) 2018-09-28 2022-10-04 Apple Inc. Multi-modal inputs for voice commands
US11100923B2 (en) 2018-09-28 2021-08-24 Sonos, Inc. Systems and methods for selective wake word detection using neural network models
US10692518B2 (en) 2018-09-29 2020-06-23 Sonos, Inc. Linear filtering for noise-suppressed speech detection via multiple network microphone devices
US10978046B2 (en) * 2018-10-15 2021-04-13 Midea Group Co., Ltd. System and method for customizing portable natural language processing interface for appliances
US11899519B2 (en) 2018-10-23 2024-02-13 Sonos, Inc. Multiple stage network microphone device with reduced power consumption and processing load
US11475898B2 (en) 2018-10-26 2022-10-18 Apple Inc. Low-latency multi-speaker speech recognition
EP3654249A1 (en) 2018-11-15 2020-05-20 Snips Dilated convolutions and gating for efficient keyword spotting
EP3770702A1 (en) * 2018-12-03 2021-01-27 Google LLC Efficient control and/or linking of smart devices
US11183183B2 (en) 2018-12-07 2021-11-23 Sonos, Inc. Systems and methods of operating media playback systems having multiple voice assistant services
US11132989B2 (en) 2018-12-13 2021-09-28 Sonos, Inc. Networked microphone devices, systems, and methods of localized arbitration
US10602268B1 (en) 2018-12-20 2020-03-24 Sonos, Inc. Optimization of network microphone devices using noise classification
US11638059B2 (en) 2019-01-04 2023-04-25 Apple Inc. Content playback on multiple devices
US11315556B2 (en) 2019-02-08 2022-04-26 Sonos, Inc. Devices, systems, and methods for distributed voice processing by transmitting sound data associated with a wake word to an appropriate device for identification
US10867604B2 (en) 2019-02-08 2020-12-15 Sonos, Inc. Devices, systems, and methods for distributed voice processing
US11348573B2 (en) 2019-03-18 2022-05-31 Apple Inc. Multimodality in digital assistant systems
US11120794B2 (en) 2019-05-03 2021-09-14 Sonos, Inc. Voice assistant persistence across multiple network microphone devices
US11475884B2 (en) 2019-05-06 2022-10-18 Apple Inc. Reducing digital assistant latency when a language is incorrectly determined
US11307752B2 (en) 2019-05-06 2022-04-19 Apple Inc. User configurable task triggers
US11423908B2 (en) 2019-05-06 2022-08-23 Apple Inc. Interpreting spoken requests
DK201970509A1 (en) 2019-05-06 2021-01-15 Apple Inc Spoken notifications
US11140099B2 (en) 2019-05-21 2021-10-05 Apple Inc. Providing message response suggestions
DK180129B1 (en) 2019-05-31 2020-06-02 Apple Inc. USER ACTIVITY SHORTCUT SUGGESTIONS
DK201970510A1 (en) 2019-05-31 2021-02-11 Apple Inc Voice identification in digital assistant systems
US11496600B2 (en) 2019-05-31 2022-11-08 Apple Inc. Remote execution of machine-learned models
US11289073B2 (en) 2019-05-31 2022-03-29 Apple Inc. Device text to speech
US11360641B2 (en) 2019-06-01 2022-06-14 Apple Inc. Increasing the relevance of new available information
US11227599B2 (en) 2019-06-01 2022-01-18 Apple Inc. Methods and user interfaces for voice-based control of electronic devices
US11361756B2 (en) 2019-06-12 2022-06-14 Sonos, Inc. Conditional wake word eventing based on environment
US11200894B2 (en) 2019-06-12 2021-12-14 Sonos, Inc. Network microphone device with command keyword eventing
US10586540B1 (en) 2019-06-12 2020-03-10 Sonos, Inc. Network microphone device with command keyword conditioning
US11138969B2 (en) 2019-07-31 2021-10-05 Sonos, Inc. Locally distributed keyword detection
US10871943B1 (en) 2019-07-31 2020-12-22 Sonos, Inc. Noise classification for event detection
US11138975B2 (en) 2019-07-31 2021-10-05 Sonos, Inc. Locally distributed keyword detection
US11488406B2 (en) 2019-09-25 2022-11-01 Apple Inc. Text detection using global geometry estimators
KR102423711B1 (ko) 2019-10-15 2022-07-22 구글 엘엘씨 스마트 장치의 효율적이고 낮은 대기시간 자동 어시스턴트 제어
WO2021075774A1 (en) * 2019-10-16 2021-04-22 Samsung Electronics Co., Ltd. Method for controlling iot device and electronic device therefor
US11189286B2 (en) 2019-10-22 2021-11-30 Sonos, Inc. VAS toggle based on device orientation
US20210158803A1 (en) * 2019-11-21 2021-05-27 Lenovo (Singapore) Pte. Ltd. Determining wake word strength
US11200900B2 (en) 2019-12-20 2021-12-14 Sonos, Inc. Offline voice control
US11562740B2 (en) 2020-01-07 2023-01-24 Sonos, Inc. Voice verification for media playback
US11556307B2 (en) 2020-01-31 2023-01-17 Sonos, Inc. Local voice data processing
US11308958B2 (en) 2020-02-07 2022-04-19 Sonos, Inc. Localized wakeword verification
US11810578B2 (en) 2020-05-11 2023-11-07 Apple Inc. Device arbitration for digital assistant-based intercom systems
US11061543B1 (en) 2020-05-11 2021-07-13 Apple Inc. Providing relevant data items based on context
US11043220B1 (en) 2020-05-11 2021-06-22 Apple Inc. Digital assistant hardware abstraction
US11755276B2 (en) 2020-05-12 2023-09-12 Apple Inc. Reducing description length based on confidence
US11308962B2 (en) 2020-05-20 2022-04-19 Sonos, Inc. Input detection windowing
US11727919B2 (en) 2020-05-20 2023-08-15 Sonos, Inc. Memory allocation for keyword spotting engines
US11482224B2 (en) 2020-05-20 2022-10-25 Sonos, Inc. Command keywords with input detection windowing
US11508380B2 (en) * 2020-05-26 2022-11-22 Apple Inc. Personalized voices for text messaging
EP4184309A4 (en) * 2020-07-14 2024-04-10 Lg Electronics Inc DISPLAY DEVICE
US11490204B2 (en) 2020-07-20 2022-11-01 Apple Inc. Multi-device audio adjustment coordination
US11438683B2 (en) 2020-07-21 2022-09-06 Apple Inc. User identification using headphones
US11698771B2 (en) 2020-08-25 2023-07-11 Sonos, Inc. Vocal guidance engines for playback devices
US20220131718A1 (en) * 2020-10-25 2022-04-28 Dizmo Ag System and method for controlling devices
US11514109B2 (en) 2020-10-29 2022-11-29 Google Llc Inferring semantic label(s) for assistant device(s) based on device-specific signal(s)
CN112860827B (zh) * 2021-01-15 2024-04-30 北京小米移动软件有限公司 设备间交互控制方法、设备间交互控制装置及存储介质
US11551700B2 (en) 2021-01-25 2023-01-10 Sonos, Inc. Systems and methods for power-efficient keyword detection

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1324175A (zh) * 2000-05-11 2001-11-28 松下电工株式会社 用于操作家用电器的话音控制系统
CN102695122A (zh) * 2011-03-21 2012-09-26 美国博通公司 应用于支持基于位置的服务的媒体网关中的系统及方法
CN104145304A (zh) * 2012-03-08 2014-11-12 Lg电子株式会社 用于多个装置语音控制的设备和方法
CN104509079A (zh) * 2012-08-01 2015-04-08 谷歌公司 基于位置标记的语音识别模型
CN104570996A (zh) * 2013-10-14 2015-04-29 霍尼韦尔国际公司 具有语音控制的建筑物自动化系统
CN105575386A (zh) * 2015-12-18 2016-05-11 百度在线网络技术(北京)有限公司 语音识别方法和装置
WO2016085776A1 (en) * 2014-11-28 2016-06-02 Microsoft Technology Licensing, Llc Device arbitration for listening devices
CN106062734A (zh) * 2013-12-02 2016-10-26 亚马逊技术股份有限公司 二级装置的自然语言控制

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4086280B2 (ja) * 2002-01-29 2008-05-14 株式会社東芝 音声入力システム、音声入力方法及び音声入力プログラム
JP4706893B2 (ja) * 2004-01-07 2011-06-22 ソニー株式会社 音声認識装置および方法、並びに、プログラムおよび記録媒体
JP4846734B2 (ja) * 2005-12-07 2011-12-28 三菱電機株式会社 音声認識装置
JP2009042298A (ja) * 2007-08-06 2009-02-26 Panasonic Electric Works Co Ltd 音声による機器制御装置
JP2010078877A (ja) * 2008-09-25 2010-04-08 Pioneer Electronic Corp 音声認識装置、音声認識方法及び音声認識プログラム
US20130073293A1 (en) * 2011-09-20 2013-03-21 Lg Electronics Inc. Electronic device and method for controlling the same
US10593326B2 (en) * 2013-04-25 2020-03-17 Sensory, Incorporated System, method, and apparatus for location-based context driven speech recognition
US9930519B2 (en) * 2013-11-21 2018-03-27 Samsung Electronics Co., Ltd. Method and apparatus for controlling home devices on group basis based upon history of the home devices
US9286892B2 (en) * 2014-04-01 2016-03-15 Google Inc. Language modeling in speech recognition
US9661058B2 (en) * 2014-08-10 2017-05-23 Belkin International Inc. Grouping of network devices
US20160164748A1 (en) * 2014-12-04 2016-06-09 Belkin International, Inc. Identifying and resolving network device rule conflicts and recursive operations at a network device
US10453461B1 (en) * 2015-03-17 2019-10-22 Amazon Technologies, Inc. Remote execution of secondary-device drivers
US20170032783A1 (en) * 2015-04-01 2017-02-02 Elwha Llc Hierarchical Networked Command Recognition
US9691380B2 (en) * 2015-06-15 2017-06-27 Google Inc. Negative n-gram biasing
US9576578B1 (en) 2015-08-12 2017-02-21 Google Inc. Contextual improvement of voice query recognition
US9892732B1 (en) * 2016-08-12 2018-02-13 Paypal, Inc. Location based voice recognition system

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1324175A (zh) * 2000-05-11 2001-11-28 松下电工株式会社 用于操作家用电器的话音控制系统
CN102695122A (zh) * 2011-03-21 2012-09-26 美国博通公司 应用于支持基于位置的服务的媒体网关中的系统及方法
CN104145304A (zh) * 2012-03-08 2014-11-12 Lg电子株式会社 用于多个装置语音控制的设备和方法
CN104509079A (zh) * 2012-08-01 2015-04-08 谷歌公司 基于位置标记的语音识别模型
CN104570996A (zh) * 2013-10-14 2015-04-29 霍尼韦尔国际公司 具有语音控制的建筑物自动化系统
CN106062734A (zh) * 2013-12-02 2016-10-26 亚马逊技术股份有限公司 二级装置的自然语言控制
WO2016085776A1 (en) * 2014-11-28 2016-06-02 Microsoft Technology Licensing, Llc Device arbitration for listening devices
CN105575386A (zh) * 2015-12-18 2016-05-11 百度在线网络技术(北京)有限公司 语音识别方法和装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112102826A (zh) * 2020-08-31 2020-12-18 南京创维信息技术研究院有限公司 一种控制语音设备多端唤醒的系统和方法

Also Published As

Publication number Publication date
GB2557404B (en) 2019-01-09
EP3507798A1 (en) 2019-07-10
JP2020126248A (ja) 2020-08-20
GB202000173D0 (en) 2020-02-19
KR102095514B1 (ko) 2020-03-31
KR20190042098A (ko) 2019-04-23
JP2019536072A (ja) 2019-12-12
WO2018067350A1 (en) 2018-04-12
US10699707B2 (en) 2020-06-30
KR20220074984A (ko) 2022-06-03
DE202017105942U1 (de) 2018-01-10
GB2557404A (en) 2018-06-20
KR20200035476A (ko) 2020-04-03
CN113140218A (zh) 2021-07-20
US20180096683A1 (en) 2018-04-05
US20200286482A1 (en) 2020-09-10
CN107895574B (zh) 2021-04-20
DE102017122644A1 (de) 2018-04-05
JP6683893B2 (ja) 2020-04-22
GB201715844D0 (en) 2017-11-15
JP6959384B2 (ja) 2021-11-02
US20230186915A1 (en) 2023-06-15

Similar Documents

Publication Publication Date Title
CN107895574A (zh) 基于装置拓扑结构来处理语音命令
US20210326103A1 (en) Grouping Devices for Voice Control
US10992491B2 (en) Smart home automation systems and methods
US11353259B2 (en) Augmented-reality refrigerator and method of controlling thereof
US20180322872A1 (en) Method and system for processing user command to provide and adjust operation of electronic device by analyzing presentation of user speech
CN106062734A (zh) 二级装置的自然语言控制
KR101968725B1 (ko) 음성요청에 대응하는 정보 제공을 위한 미디어 선택
JP6728319B2 (ja) 人工知能機器で複数のウェイクワードを利用したサービス提供方法およびそのシステム
CN109407527A (zh) 实现智能设备推荐的方法及装置
CN109324515A (zh) 一种控制智能电器的方法及控制终端
JP2020141235A (ja) 機器制御システム、機器制御方法及びプログラム
GB2567067A (en) Processing voice commands based on device topology
US11741969B1 (en) Controlled access to device data
Rodriguez Location Finding of Wireless Beacons
Dhillon et al. Method for Real-Time Voice Communication
TW202415977A (zh) 用於以雷達為基礎之手勢偵測器之使用者區分
Chang et al. Intelligent Voice Assistant Extended Through Voice Relay System
Wilson Radically Connected Home for Power Control and Device Discovery and Synergy

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: American California

Applicant after: Google limited liability company

Address before: American California

Applicant before: Google Inc.

GR01 Patent grant
GR01 Patent grant