CN108073574A - 用于处理自然语言以及训练自然语言模型的方法和设备 - Google Patents

用于处理自然语言以及训练自然语言模型的方法和设备 Download PDF

Info

Publication number
CN108073574A
CN108073574A CN201710626027.5A CN201710626027A CN108073574A CN 108073574 A CN108073574 A CN 108073574A CN 201710626027 A CN201710626027 A CN 201710626027A CN 108073574 A CN108073574 A CN 108073574A
Authority
CN
China
Prior art keywords
word
vector
character
natural language
sentence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710626027.5A
Other languages
English (en)
Inventor
李相浩
朴莹旻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of CN108073574A publication Critical patent/CN108073574A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/18—Speech classification or search using natural language modelling
    • G10L15/1815—Semantic context, e.g. disambiguation of the recognition hypotheses based on word meaning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/232—Orthographic correction, e.g. spell checking or vowelisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/237—Lexical tools
    • G06F40/242—Dictionaries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G06F40/35—Discourse or dialogue representation
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
    • G10L15/063—Training
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/14—Speech classification or search using statistical models, e.g. Hidden Markov Models [HMMs]
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/16—Speech classification or search using artificial neural networks
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/18—Speech classification or search using natural language modelling
    • G10L15/183—Speech classification or search using natural language modelling using context dependencies, e.g. language models
    • G10L15/19—Grammatical context, e.g. disambiguation of the recognition hypotheses based on word sequence rules
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/26—Speech to text systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/10—Text processing
    • G06F40/103—Formatting, i.e. changing of presentation of documents
    • G06F40/111—Mathematical or scientific formatting; Subscripts; Superscripts
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/20—Speech recognition techniques specially adapted for robustness in adverse environments, e.g. in noise, of stress induced speech
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
    • G10L2015/025—Phonemes, fenemes or fenones being the recognition units

Abstract

公开了一种用于处理自然语言以及训练自然语言模型的方法和设备。所述自然语言处理方法可包括将通过语音识别识别出的句子数据中的词语转换为相应的词向量以及将所述句子数据中的字符转换为相应的字符向量。所述自然语言处理方法还可包括基于所述词向量和所述字符向量来产生句子向量以及基于所述句子向量来确定所述句子数据的意图信息。

Description

用于处理自然语言以及训练自然语言模型的方法和设备
相关申请的交叉引用
本申请要求于2016年11月16日在韩国知识产权局提交的第10-2016-0152712号韩国专利申请的权益，所述专利申请的全部公开为了所有的目的通过引用合并于此。
技术领域
下面的描述涉及一种用于处理自然语言的方法和设备。
背景技术
语音识别是一种识别用户的语音或言语的技术。在语音识别中，人类语音被转换为文本。然而，响应于在语音识别期间不能被正确地识别的词语被发音，在所述语音的识别以及所述语音向准确文本的转换期间产生错误。
发明内容
提供本发明内容以用于以简化的形式介绍对在下面的详细描述中将被进一步地描述的构思的选择。本发明内容不旨在确定所要求保护的主题的关键特征或基本特征，本发明内容也不旨在被用于帮助确定所要求保护的主题的范围。
根据实施例，可提供一种自然语言处理方法，包括：将通过语音识别识别出的句子数据中的词语转换为相应的词向量；将句子数据中的字符转换为相应的字符向量；基于所述词向量和所述字符向量来产生句子向量；以及基于所述句子向量来确定所述句子数据的意图信息。
产生句子向量的步骤可包括：通过将每个词语的词向量和每个词语中的每个字符的字符向量进行连接来产生每个词语的连接向量；以及通过连接句子数据中的词语的相应的连接向量来产生所述句子向量。
将句子数据中的词语转换为相应的词向量的步骤可包括：响应于未标记的词语在句子数据中的词语之中，将与未标记的词语相应的词语转换为与未知的词向量相应的词向量。
确定所述句子数据的意图信息的步骤可包括：计算从所述句子向量确定的多条候选意图信息中的每一条的概率；以及基于所计算的所述多条候选意图信息中的每一条的概率来在所述多条候选意图信息中确定所述意图信息。
确定所述句子数据的意图信息的步骤可包括：基于所述句子数据中的错误词语的连接向量来确定与所述错误词语相应的目标词语；以及将所述错误词语识别为目标词语，其中，所述错误词语的连接向量可通过连接所述错误词语的词向量和所述错误词语中的每个字符的字符向量来产生。
响应于所述错误词语是未标记的词语，所述错误词语的词向量与未知的词向量相应。
所述意图信息可以是由接收所述句子向量的自然语言处理模型产生的。
响应于所述自然语言处理模型接收到包括通过将噪声施加到第一词语而产生的第二词语的训练数据，所述自然语言处理模型可被训练为将第二词语识别为第一词语。
第二词语可通过将第一词语中的一部分字符改变为其他字符，或者将另一字符添加到第一词语来产生。
所述自然语言处理方法还可包括：接收语音信号；从接收的语音信号提取特征；通过声学模型从提取的特征识别音素序列；并且通过经由语言模型从音素序列识别词语来产生所述句子数据。
根据另一实施例，可提供一种训练方法，包括：通过将噪声施加到句子数据中的词语来产生改变的词语；将所述改变的词语和可不施加噪声的另一词语转换为相应的词向量；将所述改变的词语中的字符和所述另一词语中的字符转换为相应的字符向量；以及基于所述词向量和所述字符向量来产生句子向量。
产生句子向量的步骤可包括：通过将所述改变的词语的词向量和所述改变的词语中的每个字符的字符向量进行连接来产生所述改变的词语的连接向量；通过将所述另一词语的词向量和所述另一词语中的每个字符的字符向量进行连接来产生所述另一词语的连接向量；以及通过将所述改变的词语的连接向量和所述另一词语的连接向量进行连接来产生所述句子向量。
所述改变的词语可以是通过将所述词语中的字符改变为另一字符，或者将另一字符添加到所述词语中而产生的。
产生改变的词语的步骤可包括：基于标准在所述词语中的字符中确定将被改变的字符；从词典选择另一字符；以及用所选择的另一字符替换所确定的字符。
所述标准可以是基于所述词语的长度、将被改变的字符的数量和将被改变的每个字符的位置确定的。
响应于所述改变的词语是未标记的词语，所述改变的词语的词向量与未知的词向量相应。
所述训练方法还可包括：从句子数据中的多个词语随机选择所述词语。
所述训练方法还可包括：基于所述句子向量来训练基于神经网络的自然语言处理模型。
根据实施例，可提供一种自然语言处理设备，包括：控制器；存储器，包括可由所述控制器执行的至少一个指令，其中，响应于所述指令被所述控制器执行，所述控制器可被配置为将通过语音识别识别出的句子数据中的词语转换为相应的词向量，将所述句子数据中的字符转换为相应的字符向量，基于所述词向量和所述字符向量产生句子向量，以及基于所述句子向量确定所述句子数据的意图信息。
根据另一实施例，可提供一种训练设备，包括：控制器；以及存储器，包括可由所述控制器执行的至少一个指令，其中，响应于所述指令被所述控制器执行，所述控制器可被配置为通过将噪声施加到句子数据中的词语来产生改变的词语，将所述改变的词语和可不施加噪声的另一词语转换为词向量，将所述改变的词语中的字符和所述另一词语中的字符转换为相应的字符向量，并基于所述词向量和所述字符向量产生句子向量。
根据另一实施例，可提供一种训练方法，包括：随机地选择句子数据中的词语，并将噪声施加到所选择的词语以产生改变的词语；将所述改变的词语和可不施加噪声的另一词语转换为相应的词向量，其中，响应于所述改变的词语是不可识别的词语，所述改变的词语可被转换为未知的词向量；将所述改变的词语中的字符和所述另一词语中的字符转换为相应的字符向量；通过将所述改变的词语的相应的词向量或未知的词向量和所述改变的词语中的字符的字符向量进行连接来产生所述改变的词语的连接向量；通过将所述另一词语的相应的词向量和所述另一词语中的字符的字符向量进行连接来产生所述另一词语的连接向量；以及通过将所述改变的词语的连接向量和所述另一词语的连接向量进行连接来产生句子向量。
所述训练设备还可被配置为使用所述句子向量来训练自然语言处理模型。
所述训练设备通过对所述句子数据执行正演计算来训练所述自然语言处理模型以确定包括所述改变的词语的句子数据的意图信息。
所述训练设备可基于所述改变的词语的连接向量或所述改变的词语中的每个字符的字符向量训练所述自然语言处理模型来执行正演计算以将所述改变的词语识别为目标词语。
根据另一实施例，提供一种训练设备，包括：噪声施加器，被配置为随机地选择句子数据中的词语，并将噪声施加到所选择的词语以产生改变的词语；词语嵌入器，被配置为将所述改变的词语和可不施加噪声的另一词语转换为相应的词向量，其中，响应于所述改变的词语是不可识别的词语，词语嵌入器将所述改变的词语转换为未知的词向量；字符嵌入器，被配置为将所述改变的词语中的字符和所述另一词语中的字符转换为相应的字符向量；以及组合器，被配置为通过将所述改变的词语的相应的词向量或未知的词向量和所述改变的词语中的每个字符的字符向量进行连接来产生所述改变的词语的连接向量，通过将所述另一词语的相应的词向量和所述另一词语中的每个字符的字符向量进行连接来产生所述另一词语的连接向量，并通过将所述改变的词语的连接向量和所述另一词语的连接向量进行连接来产生句子向量。
从下面的详细的描述、附图和权利要求中，其他特征和方面将是显而易见的。
附图说明
图1是示出自然语言处理设备的示例的示图；
图2是示出语音识别器的示例的示图；
图3是示出自然语言分析器的示例的示图；
图4是示出用于产生句子向量的方法的示例的示图；
图5是示出训练设备的示例的示图；
图6是示出用于施加噪声的方法的示例的示图；
图7至图9是示出自然语言处理模型的示例的示图；
图10是示出自然语言处理方法的示例的流程图；
图11是示出自然语言处理方法的另一示例的流程图；
图12是示出自然语言处理设备的另一示例的示图；
图13是示出训练设备的另一示例的示图。
贯穿附图和详细的描述，除非另有说明或提供，否则相同的附图参考标号将被理解为表示相同的元素、特征和结构。为清楚、图解以及方便起见，附图可以不是按比例的，并且附图中的元素的相对尺寸、比例以及描述可被夸大。
具体实施方式
提供下面的详细描述以帮助读者获得对本文描述的方法、设备和/或系统的全面理解。然而，在理解本申请的公开之后，本文描述的方法、设备和/或系统的各种改变、修改和等同物将是显而易见的。例如，本文描述的操作顺序仅是示例，并不限于本文所阐述的那些，而是除了必须按特定顺序发生的操作之外可被改变，正如在理解本申请的公开之后将是显而易见的。此外，为了更加清楚和简洁，可以省略对本领域的已知的特征的描述。
本文描述的特征可以以不同的形式被实现，并且不应被解释为限于本文所述的示例。相反，提供本文中描述的示例仅是为了说明实现本文描述的方法、设备和/或系统的许多可能的方式中的一些，这在理解本申请的公开之后将是显而易见的。
这里可以使用诸如第一、第二、A、B、(a)、(b)等的术语来描述组件。这些术语中的每一个不被用于限定相应的组件的本质、顺序或序列，而仅用于将相应的组件与其他组件相区分。例如，第一组件可以被称作第二组件，并且类似地，第二组件也可以被称作第一组件。
应当注意，如果在本说明书中描述一个组件被“连接”、“耦合”或“结合”到另一组件，则第三组件可以被“连接”、“耦合”和“结合”在第一组件和第二组间之间，尽管第一组件可以被直接连接、耦合或结合到第二组件。此外，应当注意，如果在说明书中描述一个组件被“直接连接”或“直接结合”到另一组件，则第三组件不能出现在它们二者之间。类似地，例如“在...之间”和“紧邻在...之间”以及“与...相邻”和“与...紧邻”的表述也可以如上所述被解释。
本文使用的术语仅是为了描述特定实施例的目的，而不意图限制。如本文所使用的，除非上下文另有明确指示，否则单数形式也意图包括复数形式。还将进一步理解，术语“包括”、“包括...的”、“包含”和/或“包含...的”在本文中被使用时指明描述的特征、整体、操作、元件和/或组件的存在，而不排除一个或更多个其他特征、整体、操作、元件、组件和/或其组合的存在或者添加。
除非另有定义，否则基于对本公开的理解，本文使用的包括技术和科学术语的所有术语具有与本公开所属领域的普通技术人员通常理解的含义相同的含义。诸如通用词典中定义的术语应被解释为具有与它们在相关领域和本公开的语境中的含义一致的含义，并且不被解释为理想的或过于形式的意义，除非在本文中被这样明确地定义。
图1是示出自然语言处理设备的示例的示图。
参照图1，自然语言处理设备100包括语音识别器110和自然语言分析器120。
自然语言处理设备100接收语音信号。自然语言处理设备100可被配置为处理器或服务器，并通过用户终端和网络从用户接收语音信号。例如，自然语言处理设备100可从用户终端接收“向我父亲发送照片”的语音信号。
语音识别器110通过语音识别识别语音信号来产生句子数据。例如，语音识别器110通过经由语音识别识别语音信号“向我的父亲发送照片”而将语音信号的句子数据产生为“向我的父亲发送照片”。将参照图2对语音识别器110进行更详细地描述。
自然语言分析器120从语音识别器110接收句子数据。自然语言分析器120对句子数据执行语素分析、语法分析、语义分析或话语分析中的至少一种。通过这样的分析，自然语言分析器120确定句子数据的意图信息。例如，自然语言分析器120通过分析句子数据“向我的父亲发送照片”来确定句子数据的意图信息意味“向我的父亲的终端发送照片”。例如，术语“发送”被分析为意味或指向“检索和传送”我父亲的照片。
在语音识别器110由于环境噪声、低量值语音信号或其他问题而无法准确地识别语音信号的示例中，自然语言分析器120预测产生的句子数据的意图信息。例如，自然语言分析器120预测包括错误词语的句子数据的意图信息，其中，所述错误词语是由于语音识别器110的不准确识别而产生的词语。将参照图3对自然语言分析器120进行更详细地描述。
自然语言分析器120基于意图信息产生结果信息。例如，在自然语言分析器120分析句子数据“向我的父亲发送照片”并且将句子数据的意图信息确定为“向我的父亲的终端发送照片”的情况下，自然语言分析器120产生与“向我的父亲的终端发送照片”相应的控制信号。
自然语言处理设备100发送产生的结果信息。例如，自然语言处理设备100将与“向我的父亲的终端发送照片”相应的控制信号发送到用户终端。通过基于控制信号的操作，用户终端随后产生或将照片输出到用户的父亲的终端。
图2是示出语音识别器的示例的示图。
参照图2，语音识别器200包括特征提取器210、声学模型220、解码器230和语言模型240。
语音识别器200接收语音信号作为输入。在图2所示的示例中，语音识别器200接收语音信号“Where is a French restaurant？”
特征提取器210从语音信号中提取特征或特征向量。特征提取器210使用例如线性预测编码(LPC)方法或梅尔频率倒谱系数(MFCC)方法从语音信号提取特征或特征向量。
声学模型220从所述特征识别音素。声学模型220可以是例如基于动态时间规整(DTW)的声学模型和基于隐马尔可夫模型(HMM)的声学模型。然而，声学模型220不限于上述的示例。
解码器230通过经由语言模型240从所述音素识别词语来产生句子数据。语言模型240可以是例如n-gram语言模型和基于神经网络的模型。然而，语言模型240不限于上述的示例。
由于噪声或其他环境因素的影响，语音识别器200可能不能准确地识别语音信号。也就是说，可能会产生语音识别错误。例如，语音识别器200可能不能准确地识别语音信号“Where is a French restaurant？”，而是，可能产生句子数据“Where is a Franchrestaurant？”。句子数据“Where is a Franchrestaurant？”包括错误词语或在词语“Franch”中包括错误。在这样的示例中，可能不能准确地确定句子数据的意图信息。自然语言分析器(将在图3中被示出和描述)预测句子数据“Where is a Franch restaurant？”的意图信息是正在寻找一家法国餐厅。将参照图3对自然语言分析器进行更详细地描述。
图3是示出自然语言分析器的示例的示图。
参照图3，自然语言分析器300包括向量转换器310和自然语言处理模型320。
自然语言分析器300从语音识别器(诸如，针对图2示出和描述的语音识别器200)接收句子数据。在图3所示的示例中，自然语言分析器300从语音识别器接收句子数据“Where is a Franch restaurant？”
向量转换器310将句子数据中的词语转换为相应的词向量。例如，向量转换器310使用词语嵌入将句子数据“Where is a Franch restaurant？”中的例如“where”、“is”、“a”、“Franch”和“restaurant”的每个词语转换为词向量。词向量可以是实数向量。词向量可以是例如独热向量或分布向量。
句子数据可包括未标记的词语。未标记的词语表示未被定义向量的词语。响应于句子数据包括这样的未标记的词语，向量转换器310将未标记的词语处理为“未知的”。例如，在“Franch”是未标记的词语的情况下，向量转换器310将“Franch”处理为“未知的”，并将“Franch”转换为相应于“未知的”的词向量。与未知相应的词向量也被称为与未知的词向量相应的词向量。未知的词向量表示常数向量或预定义向量，例如，[0,0,0,0,0,0,0,1]。然而，未知的词向量不限于上述的示例。
词向量被表示为[词语]。表1示出句子数据“Where is a Franch restaurant？”中的每个词语的词向量。
表1
词语 词向量
Where [Where]
is [is]
a [a]
Franch [Franch]
restaurant [restaurant]
向量转换器310将句子数据的字符转换为相应的字符向量。例如，向量转换器310使用字符嵌入将句子数据“Where is a Franch restaurant？”中的每个字符例如“W”、“h”、“e”、“r”、“e”、...、“r”、“e”、“s”、“t”、“a”、“u”、“r”、“a”、“n”和“t”转换为字符向量。字符向量可以是实数或字母-数字向量。字符向量可以是例如独热向量或分布向量。
字符向量被表示为[字符]。表2示出句子数据“Where is a Franch restaurant？”中的每个字符的字符向量。
表2
字符 字符向量
W [W]
h [h]
e [e]
… …
F [F]
r [r]
a [a]
n [n]
… …
a [a]
n [n]
t [t]
向量转换器310基于词向量和字符向量产生句子数据的句子向量。在一个示例中，向量转换器310通过将句子数据中的每个词语的词向量和包括在句子数据中的词语中的每个字符的字符向量进行连接来产生连接向量。向量转换器310通过连接句子数据中的词语的相应的连接向量来产生句子向量。将参照图4对产生句子向量的操作进行更详细地描述。
向量转换器310将句子向量输入到自然语言处理模型320。自然语言处理模型320可以是基于神经网络的模型。将通过训练或学习而被优化的连接权重应用于自然语言处理模型320。当自然语言处理模型320接收句子向量作为输入时，自然语言处理模型320通过对句子向量执行正演计算来确定句子数据的意图信息。正演计算表示沿着自然语言处理模型320的输入层→中间层→输出层的方向执行的计算。通过正演计算，在输出层产生句子数据的意图信息。
在一个示例中，句子数据可包括错误词语。如果是这种情况，则自然语言处理模型320通过对包括错误词语的句子数据的句子向量执行正演计算来确定包括错误词语的句子数据的意图信息。自然语言处理模型320基于错误词语的连接向量或包括在错误词语中的每个字符的字符向量来执行正演计算。自然语言处理模型320通过正演计算将错误词语识别为与错误词语相应的目标词语。此外，自然语言处理模型320通过将错误词语识别为目标词语来确定句子数据的意图信息。
例如，自然语言处理模型320接收包括错误词语“Franch”的句子数据“Where is aFranch restaurant？”的句子向量。自然语言处理模型320基于对句子数据“Where is aFranch restaurant？”的句子向量执行的正演计算从错误词语“Franch”的连接向量[Franch][F][r][a][n][c][h]预测“French”的连接向量[French][F][r][e][n][c][h]。在本示例中，在[Franch]是与未知的词向量相应的词向量的情况下，自然语言处理模型320从包括在错误词语“Franch”中的字符的字符向量的连接[F][r][a][n][c][h]预测“French”的连接向量[French][F][r][e][n][c][h]。虽然在下文中进行描述，但是自然语言处理模型320包括使用包括施加了噪声的一个词语或多个词语的训练数据预先训练的模型。因此，自然语言处理模型320从[Franch][F][r][a][n][c][h]或[F][r][a][n][c][h]预测[French][F][r][e][n][c][h]。自然语言处理模型320通过这样的预测来确定与“Franch”相应的目标词语为“French”。自然语言处理模型320将“Franch”识别为“French”。自然语言处理模型320通过将“Franch”识别为“French”来确定句子数据“Where is a Franchrestaurant？”的意图信息为“搜索法国餐厅”。将参照图7对训练自然语言处理模型320的操作进行更详细地描述。
根据实施例，自然语言处理模型320计算从句子向量确定的多条候选意图信息中的每一条的概率。自然语言处理模型320基于所述多条候选意图信息中的每一条的概率来在所述多条候选意图信息中确定所述句子数据的意图信息。例如，自然语言处理模型320将具有最高概率的候选意图信息确定为句子数据的意图信息。在句子数据中包括错误词语的情况下，当错误词语被识别为目标词语时确定的候选意图信息可具有最高概率。自然语言处理模型320将所述候选意图信息确定为句子数据的意图信息。
自然语言分析器300产生与意图信息相应的结果信息。例如，自然语言分析器300产生用于“搜索法国餐厅”的控制信号。此外，自然语言分析器300将错误词语替换为目标词语。自然语言分析器300产生与意图信息相应的句子数据。例如，自然语言分析器300通过用“French”替换“Franch”来产生与意图信息相应的句子数据“Where is a Frenchrestaurant？”。也就是说，自然语言分析器300将输入的句子数据中的错误词语改正为目标词语。
自然语言分析器300将结果信息发送到发送语音信号的用户终端。
根据一个示例，自然语言分析器300对于语音识别中的噪声或错误是强健的，并且提高了处理在将语音信号转换为文本数据时可能发生的错误的准确性。
图4是示出用于产生句子向量的方法的示例的示图。
参照图4，针对图3描述的向量转换器(向量转换器310)为在句子数据410“Whereis a Franch restaurant？”中识别的每个词语产生相应的连接向量，例如，连接向量420、421、422、423和424。向量转换器通过连接[Where]、[W]、[h]、[e]、[r]和[e]来产生“Where”的连接向量420。如所示，“Where”的连接向量420是[Where][W][h][e][r][e]。根据实施例，“Where”的连接向量420可以是[W][h][e][r][e][Where]或[W][Where][h][e][r][e]。然而，“Where”的连接向量420并不限于上述的示例。类似地，向量转换器产生在句子数据410“Where is a Franch restaurant？”中识别的剩余词语的连接向量421、422、423和424。在一个示例中，如上所述，响应于“Franch”是未标记的词语或不可识别的词语，向量转换器将“Franch”转换为与未知的词向量相应的词向量。向量转换器通过将与未知的词向量相应的词向量和与“Franch”中的每个字符相应的字符向量进行连接来产生“Franch”的连接向量423。
句子数据410“Where is a Franch restaurant？”中的词语的相应的连接向量420至424在图4中被示出。
向量转换器通过连接句子数据410“Where is a Franch restaurant？”中的词语的连接向量420至424来产生句子向量430。如图4中所示，向量转换器产生句子数据410“Where is a Franch restaurant？”的句子向量430，例如，[Where][W][h][e][r][e]…[Franch][F]…[restaurant]…[a][n][t]。然而，句子数据410“Where is a Franchrestaurant？”的句子向量430不限于上述的示例。此外，尽管句子数据410中的一个词语是未标记的词语或不可识别的词语，但句子数据410可包括多个未标记的词语或不可识别的词语。
图4中还示出了实数向量440。实数向量440是表示句子向量430的不同形式的向量。
图5是示出训练设备的示例的示图。
参照图5，训练设备500包括噪声施加器510、词语嵌入器520、字符嵌入器530、组合器540和自然语言处理模型550。
例如，将句子数据“Searching for a French food recipe”输入到训练设备500。所述句子数据作为训练数据被输入到训练设备500。
噪声施加器510通过对句子数据中的词语施加噪声来产生改变的词语。噪声施加器510在句子数据中的多个词语中随机地选择至少一个词语，并对所选择的词语施加噪声。也就是说，噪声施加器510将噪声注入到句子数据中。例如，噪声施加器510可从句子数据“Searching for a French food recipe,”中选择“French”和“recipe”，并将噪声施加到“French”和“recipe”。作为对所选择的词语施加噪声的结果，位于“French”中的第三个字符“e”可被改变为“a”，从而可产生改变的词语“Franch”。类似地，作为对所选择的词语施加噪声的结果，位于“recipe”中的第六个字符“e”可被改变为“i”，从而可产生改变的词语“recipi”。将参照图6对施加噪声的操作进行更详细地描述。
例如，词语嵌入器520通过词语嵌入将改变的词语转换为词向量。在一个示例中，在改变的词语是未标记的或不可识别的词语的情况下，词语嵌入器520将改变的词语处理为“未知的”，并将改变的词语转换为未知的词向量。
词语嵌入器520将未被施加噪声的另一词语转换为词向量。例如，词语嵌入器520将“Searching”、“for”、“a”和“food”中的每一个转换为词向量[Searching]、[for]、[a]和[food]。在句子数据中的一个或更多个其他词语是未标记的词语或不可识别的词语的情况下，词语嵌入器520将句子数据中的所述一个或更多个其他词语转换为未知的词向量。
字符嵌入器530将包括在改变的词语中的字符和包括所述一个或更多个未被施加噪声的其他词语中的字符转换为相应的字符向量。例如，字符嵌入器530将包括在“Franch”中的字符“F”、“r”、“a”、“n”、“c”和“h”分别转换为字符向量[F]、[r]、[a]、[n]、[c]和[h]。此外，字符嵌入器530将包括在“recipi”中的字符“r”、“e”、“c”、“i”、“p”和“i”分别转换为字符向量[r]、[e]、[c]、[i]、[p]和[i]。类似地，字符嵌入器530将包括在“Searching”、“for”和“food”中的每一个的每个字符转换为相应的字符向量。
组合器540基于改变的词语的相应的词向量和未被施加噪声的所述一个或更多个其他词语的相应的词向量以及包括在改变的词语和所述一个或更多个其他词语中的字符的相应的字符向量来产生句子向量。在一个示例中，组合器540通过将改变的词语的词向量和包括在改变的词语中的每个字符的字符向量进行连接来产生改变的词语的连接向量。此外，组合器540通过将所述其他词语中的每一个词语的词向量和包括在所述其他词语中的每一个词语中的每个字符的字符向量进行连接来产生所述其他词语中的每一个词语的连接向量。组合器540通过将改变的词语的连接向量和所述其他词语中的每一个词语的连接向量进行连接来产生句子向量。
例如，组合器540通过将改变的词语“Franch”的连接向量和另一词语的连接向量进行连接来产生句子向量，例如，[Searching][S]…[Franch][F][r][a]…[recipe]…[i][p][e]。另外，组合器540通过将改变的词语“recipi”的连接向量和另一词语的连接向量进行连接来产生句子向量，例如[Searching][S]…[French][F][r][e]…[recipi]…[i][p][i]。
参照图4对产生句子向量的操作进行描述，因此，为了简洁起见，这里省略了更详细且重复的描述。
由组合器540产生的句子向量与包括噪声的句子数据或包括被施加了噪声的词语的句子数据相应。例如，句子向量[Searching][S]…[Franch][F][r][a]…[recipe]…[i][p][e]可与“Searching for a Franch food recipe.”相应。另外，句子向量[Searching][S]…[French][F][r][e]…[recipi]…[i][p][i]可与“Searching for a French foodrecipi.”相应。也就是说，可产生与输入到训练设备500的句子数据不同的另一句子数据，例如，“Searching for a Franch food recipe”和“Searching for a French foodrecipe”。
训练设备500使用句子向量训练自然语言处理模型550。也就是说，训练设备500通过包括噪声的句子数据来训练自然语言处理模型550。通过这样的训练，自然语言处理模型550变得对噪声更加强健，并且在错误词语被包括在句子数据中的情况下，提高处理错误词语的准确性。
将参照图7对训练自然语言处理模型550的操作进行更详细地描述。
图6是示出施加噪声的方法的示例的示图。
如参照图5所述，噪声施加器从句子数据选择至少一个词语。例如，噪声施加器随机地选择至少一个词语。另外，噪声施加器对所选择的词语施加噪声。在一个示例中，噪声施加器基于预定或预定义的标准来确定包括在所选择的词语中的字符中的将被改变的字符。所述预定义的标准将是基于对特定语言(例如，英语)中的典型错误或特定词语的发音错误执行的统计分析的。此外，所述预定义的标准将考虑典型的发音错误是否是由儿童、成人或对英语语言陌生的人员执行。所述预定义的标准还将考虑被认为影响数据的捕获的环境因素，诸如，风、背景噪声或雨。噪声施加器从预定的词典选择字符，并用所选择的字符替换所确定的字符。表3示出了所述标准。然而，所述标准不限于表3中所示的示例。
表3
在图6中所示的示例中，噪声施加器从“Searching for a French food recipe.”选择“French”和“recipe”。“French”的长度为6，因此，噪声施加器通过参照表3随机地选择“French”的第三位置，并确定将被改变的字符是与“French”第三位置相应的“e”。此外，“recipe”的长度为6，因此，噪声施加器通过参照表3随机地选择“recipe”的第六位置，并确定将被改变的字符是与“recipe”的第六位置相应的“e”。
噪声施加器从词典选择字符“a”，并通过用所选择的字符“a”替换从“French”确定的字符“e”来产生改变的词语“Franch”。此外，噪声施加器从词典选择字符“i”，并通过用所选择的字符“i”替换从“recipe”确定的字符“e”来产生改变的词语“recipi”。
根据实施例，噪声施加器将从词典选择的字符添加到从句子数据选择的词语。例如，噪声施加器通过将从词典选择的字符“a”添加到紧邻与“French”的最后位置相应的字符“h”的位置来产生改变的词语“Frencha”。此外，噪声施加器通过将从词典中选择的字符“i”添加到紧邻与“recipie”的第五位置相应的字符“p”的位置来产生改变的词语“recipie”。
参照图6描述的施加噪声的操作仅作为示例被提供，因此，施加噪声的操作不限于上述示例。
图7至图9是示出自然语言处理模型的示例的示图。
参照图7，自然语言处理模型是基于神经网络700的模型。
神经网络700包括多个层。神经网络包括例如输入层710、隐藏层720和输出层730。根据实施例，神经网络700包括多个隐藏层。
层710至层730中的每一层包括至少一个人工神经元。层710至层730中的每一层的人工神经元通过连接线被连接到相邻层的至少一个人工神经元。连接线具有连接权重。
当输入数据被输入到自然语言处理模型时，执行正演计算，并在输出层730中产生输出值。当输入数据沿着输入层710→隐藏层720→输出层730的方向被传递时，连接权重被相乘或相加。因此，输出值在输出层730中产生。
训练设备通过反向传播学习训练自然语言处理模型。反向传播学习表示计算参考值和输出值之间的误差，沿神经网络700的输出层730→隐藏层720→输入层710的方向传播误差并更新连接权重以减少误差的方法。
例如，在句子向量[Searching][S]…[Franch][F][r][a][n][c][h]…[recipe]…[i][p][e]被输入到自然语言处理模型以及参考概率作为参考值被输入到自然语言处理模型的情况下，自然语言处理模型通过对输入的句子向量执行正演计算来产生输出值。在示例中，参考概率是已知值。训练设备计算指示输出值与参考概率之间的差的误差。训练设备沿输出层730→隐藏层720→输入层710的方向传播误差，并且更新连接权重以减少误差。训练设备通过重复执行正演计算和反向传播学习来训练自然语言处理模型。
此外，训练设备在训练过程中确定“Franch”和“French”是否出现在同一文档(例如,在线新闻文章)中，并且/或者确定是否存在“Franch”被表述为“French”的情况。在“Franch”和“French”出现在同一文档中或“Franch”被表述为“French”的情况下，训练设备训练自然语言处理模型以允许自然语言处理模型从”Franch“的连接向量预测“French“的连接向量。也就是说，训练设备训练自然语言处理模型以使得自然语言处理模型将“Franch”识别为“French”。
自然语言处理模型也可以是基于递归神经网络(RNN)的模型。在下文中，将参照图8和图9对RNN进行描述。
参照图8，RNN 800是包括在不同时间段内的隐藏节点之间的循环连接(recurrentconnection)的神经网络。与一般神经网络不相似，RNN 800使用对输入序列进行处理的内部存储器。先前时间段810中的隐藏节点的输出被连接到当前时间段820中的隐藏节点。当前时间段820中的隐藏节点的输出被连接到随后时间段830中的隐藏节点。
例如，如图8和图9所示，先前时间段810中的第一隐藏节点811、当前时间段820中的第二隐藏节点821和随后时间段830中的第三隐藏节点831如图9所示被连接。参照图9，第一隐藏节点811的输出被输入到第二隐藏节点821，第二隐藏节点821的输出被输入到第三隐藏节点831。
训练设备计算指示RNN 800的输出值与参考概率之间的差的误差，并通过经由沿时间反向传播(BPTT，backpropagation through time)方法对所述误差进行反向传播来训练自然语言处理模型。
根据实施例，自然语言处理模型是基于卷积神经网络(CNN)的模型。
通过参照图7至图9描述的训练过程训练的自然语言处理模型可将“Franch”识别为“French”。因此，自然语言处理模型确定不能被准确地识别出的“Where is a Franchrestaurant？"的意图信息是“搜索法国餐厅."。
图10是示出自然语言处理方法的示例的流程图。
在下文中将参照图10描述的自然语言处理方法由结构自然语言处理设备执行。
参照图10，在操作1010中，自然语言处理设备将通过语音识别识别出的句子数据中的词语转换为相应的词向量。
在操作1020中，自然语言处理设备将句子数据的字符转换为相应的字符向量。
在操作1030中，自然语言处理设备基于词向量和字符向量产生句子数据的句子向量。
在操作1040中，自然语言处理设备基于句子向量来确定句子数据的意图信息。
参照图1至图9提供的描述可应用于参考图10描述的操作，因此，为了简洁起见，这里省略更详细和重复的描述。
图11是示出训练方法的示例的流程图。
这里将参照图11描述的训练方法由训练设备执行。
参照图11，在操作1110中，训练设备通过对句子数据中的词语施加噪声来产生改变的词语。将句子数据作为训练数据输入到训练设备。
在操作1120中，训练设备将改变的词语和未被施加噪声的另一词语转换为相应的词向量。
在操作1130中，训练设备将包括在改变的词语中的字符和包括在未被施加噪声的另一词语中的字符转换为相应的字符向量。
在操作1140中，训练设备基于词向量和字符向量来产生句子向量。
参照图1至图10提供的描述可应用于参照图11描述的操作，因此为了简洁起见，这里省略更详细和重复的描述。
图12是示出自然语言处理设备的另一示例的示图。
参照图12，自然语言处理设备1200包括控制器1210和存储器1220。
上述语音识别器和/或自然语言分析器可由控制器1210来实现。
控制器1210将通过语音识别识别出的句子数据中的词语转换为相应的词向量。控制器1210将句子数据的字符转换为相应的字符向量。控制器1210基于词向量和字符向量来产生句子数据的句子向量。控制器1210基于句子向量来确定句子数据的意图信息。
存储器1220存储与控制器1210和/或自然语言处理模型的操作相关联的至少一个指令。
参照图1至图11提供的描述可应用于图12所示的示例。因此，为了简洁起见，这里省略更详细和重复的描述。
图13是示出训练设备的另一示例的示图。
参照图13，训练设备1300包括控制器1310和存储器1320。
参照图5和图6描述的噪声施加器、词语嵌入器、字符嵌入器和/或组合器可由控制器1310来实现。
控制器1310通过对句子数据中的词语施加噪声来产生改变的词语。控制器1310将改变的词语和未被施加噪声的另一词语转换为相应的词向量。控制器1310将包括在改变的词语中的字符和包含在未施加噪声的另一词语中的字符转换为相应的字符向量。控制器1310基于词向量和字符向量来产生句子向量。
存储器1320存储与控制器1310的操作相关联的至少一个指令。
参照图1至图12提供的描述可应用于图13所示的示例，因此，为了简洁起见，这里省略更详细和重复的描述。
在图1、图2、图3、图5、图12和13中示出的执行本文针对图4、图6、图10和图11描述的操作的设备、识别器、施加器、嵌入器、分析器、提取器、模型、转换器、模块、装置和其他组件由硬件组件来实施。硬件组件的示例包括控制器、传感器、产生器、驱动器以及本领域普通技术人员已知的任何其它电子组件。在一个示例中，硬件组件由一个或更多个处理器或计算机来实施。处理器或计算机由一个或更多个处理元件(诸如，逻辑门阵列、控制器和算术逻辑单元、数字信号处理器、微计算机、可编程逻辑控制器、现场可编程门阵列、可编程逻辑阵列、微处理器或本领域普通技术人员已知的任何其他装置或装置的组合)来实施，其中，所述一个或更多个处理元件能够以定义的方式响应并执行指令以取得期望的结果。在一个示例中，处理器或计算机包括或被连接到存储由处理器或计算机执行的指令或软件的一个或更多个存储器。由处理器或计算机实现的硬件组件执行指令或软件(诸如，操作系统(OS)和在OS上运行的一个更或多个软件应用)以执行本文针对图4、图6、图10和图11描述的操作。硬件组件还可响应于指令或软件的执行来访问、操纵、处理、创建和存储数据。为了简单起见，在本文描述的示例的描述中可以使用单数术语“处理器”或“计算机”，而在其它示例中，使用多个处理器或计算机，或者处理器或计算机包括多个处理元件或多种类型的处理元件或其两者。在一个示例中，硬件组件包括多个处理器，并且在另一示例中，硬件组件包括处理器和控制器。硬件组件具有不同处理配置中的任意一个或更多个配置，所述处理配置的示例包括单个处理器、独立处理器、并行处理器、单指令单数据(SISD)多处理、单指令多数据(SIMD)多处理、多指令单数据(MISD)多处理和多指令多数据(MIMD)多处理。
用于控制处理器或计算机来实现所述硬件组件并执行上述方法的指令或软件被编写为计算机程序、代码段、指令或其任何组合以用于单独地或共同地指示或配置所述处理器或计算机来作为用于执行由所述硬件组件执行的操作和如上所述的方法的机器或专用计算机进行操作。在一个示例中，所述指令或软件包括由处理器或计算机直接执行的机器代码，诸如，由编译器产生的机器代码。在另一示例中，所述指令或软件包括由处理器或计算机使用解释器执行的更高级代码。本领域普通编程者可基于公开了用于执行由所述硬件组件执行的操作以及如上所述的方法的算法的附图中所示的框图和流程图以及说明书中相应的描述来容易地编写所述指令或软件。
用于控制处理器或计算机来实现所述硬件组件并执行如上所述的方法的指令或软件以及任何相关联的数据、数据文件和数据结构被记录、存储或固定在一个或更多个非暂时性计算机可读存储介质中或者一个或更多个非暂时性计算机可读存储介质上。非暂时性计算机可读存储介质的示例包括只读存储器(ROM)、随机存取存储器(RAM)、闪速存储器、CD-ROM、CD-R、CD+Rs、CD-RW、CD+RW、DVD-ROM、DVD-R、DVD+R、DVD-RW、DVD+RW、DVD-RAM、BD-ROM、BD-R、BD-R LTH、BD-RE、磁带、软盘、磁光数据存储装置、光学数据存储装置、硬盘、固态盘以及本领域普通技术人员已知的能够存以非暂时性方式储指令或软件以及任何相关联的数据、数据文件和数据结构，并将所述指令或软件以及任何相关联的数据、数据文件和数据结构提供给处理器或计算机以使得处理器或计算机能够执行所述指令的任何装置。在一个示例中，所述指令或软件以及任何相关联的数据、数据文件和数据结构分布在联网的计算机系统上以使得所述指令和软件以及任何相关联的数据、数据文件和数据结构被所述处理器或计算机分布式地存储、访问和执行。
虽然本公开包括特定示例，但是在理解本申请的公开之后，在不脱离权利要求和它们的等同物的精神和范围的情况下显而易见的是，可以在这些示例中做出形式和细节上的各种改变。这里描述的示例将被理解为仅具有描述性意义，而不是为了限制的目的。每个示例中的特征或方面的描述被认为适用于其他示例中的类似的特征或方面。如果描述的技术以不同的顺序被执行，和/或如果描述的系统、架构、装置或电路中的组件以不同的方式被组合和/或由其他组件或它们的等同物来替代或补充，则可以取得合适的结果。因此，本公开的范围不是由详细的描述而是由权利要求及其等同物限定，并且权利要求及其等同物的范围内的所有变化将被解释为包括在本公开中。

Claims (15)

1.一种自然语言处理方法，包括：
将通过语音识别识别出的句子数据中的词语转换为相应的词向量；
将所述句子数据中的字符转换为相应的字符向量；
基于所述词向量和所述字符向量来产生句子向量；以及
基于所述句子向量来确定所述句子数据的意图信息。
2.如权利要求1所述的自然语言处理方法，其中，产生句子向量的步骤包括：
通过将每个词语的词向量和每个词语中的每个字符的字符向量进行连接来产生每个词语的连接向量；以及
通过连接句子数据中的词语的相应连接向量来产生句子向量。
3.如权利要求1所述的自然语言处理方法，其中，将句子数据中的词语转换为相应的词向量的步骤包括：
响应于未标记的词语在句子数据中的词语中，将与所述未标记的词语相应的词语转换为与未知的词向量相应的词向量。
4.如权利要求1所述的自然语言处理方法，其中，确定所述句子数据的意图信息的步骤包括：
计算从所述句子向量确定的多条候选意图信息中的每一条的概率；
以及基于所计算的所述多条候选意图信息中的每一条的概率，在所述多条候选意图信息中确定所述意图信息。
5.如权利要求1所述的自然语言处理方法，其中，确定所述句子数据的意图信息的步骤包括：
基于所述句子数据中的错误词语的连接向量来确定与所述错误词语相应的目标词语；以及
将所述错误词语识别为目标词语，
其中，通过将所述错误词语的词向量和所述错误词语中的每个字符的字符向量进行连接来产生所述错误词语的连接向量。
6.如权利要求5所述的自然语言处理方法，其中，响应于所述错误词语是未标记的词语，所述错误词语的词向量与未知的词向量相应。
7.如权利要求1所述的自然语言处理方法，其中，所述意图信息是通过接收所述句子向量的自然语言处理模型产生的。
8.如权利要求7所述的自然语言处理方法，其中，响应于所述自然语言处理模型接收到包括通过对第一词语施加噪声而产生的第二词语的训练数据，所述自然语言处理模型被训练为将第二词语识别为第一词语。
9.如权利要求8所述的自然语言处理方法，其中，第二词语是通过将第一词语中的一部分字符改变为其他字符，或者将另一字符添加到第一词语而产生的。
10.如权利要求1所述的自然语言处理方法，还包括：
接收语音信号；
从接收的语音信号提取特征；
通过声学模型从提取的特征识别音素序列；以及
通过语言模型从所述音素序列识别词语来产生所述句子数据。
11.一种训练设备，包括：
控制器；以及
存储器，包括可由控制器执行的至少一个指令，
其中，响应于所述指令被控制器执行，控制器被配置为通过对句子数据中的词语施加噪声来产生改变的词语，将所述改变的词语和未被施加噪声的另一词语转换为相应的词向量，将所述改变的词语中的字符和所述另一词语中的字符转换为相应的字符向量，并基于所述词向量和所述字符向量来产生句子向量。
12.如权利要求11所述的训练设备，其中，所述控制器还被配置为：
通过将所述改变的词语的词向量和所述改变的词语中的每个字符的字符向量进行连接来产生所述改变的词语的连接向量；
通过将所述另一词语的词向量和所述另一词语中的每个字符的字符向量进行连接来产生所述另一词语的连接向量；以及
通过将所述改变的词语的连接向量和所述另一词语的连接向量进行连接来产生句子向量。
13.如权利要求11所述的训练设备，其中，所述控制器还被配置为：
基于标准来确定所述词语中的字符之中将被改变的字符；
从词典中选择另一字符；以及
用所选择的另一字符替换所确定的字符，
其中，所述标准是基于所述词语的长度、将被改变的字符的数量以及将被改变的每个字符的位置来确定的。
14.如权利要求11所述的训练设备，其中，所述改变的词语是通过将所述词语中的字符改变为另一字符，或者向所述词语添加另一字符而产生的，并且/或者
其中，响应于所述改变的词语是未标记的词语，所述改变的词语的词向量与未知的词向量相应。
15.如权利要求11所述的训练设备，其中，控制器还被配置为从所述句子数据中的多个词语随机选择所述词语，或者基于所述句子向量来训练基于神经网络的自然语言处理模型。
CN201710626027.5A 2016-11-16 2017-07-27 用于处理自然语言以及训练自然语言模型的方法和设备 Pending CN108073574A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2016-0152712 2016-11-16
KR1020160152712A KR20180055189A (ko) 2016-11-16 2016-11-16 자연어 처리 방법 및 장치와 자연어 처리 모델을 학습하는 방법 및 장치

Publications (1)

Publication Number Publication Date
CN108073574A true CN108073574A (zh) 2018-05-25

Family

ID=59631551

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710626027.5A Pending CN108073574A (zh) 2016-11-16 2017-07-27 用于处理自然语言以及训练自然语言模型的方法和设备

Country Status (5)

Country Link
US (1) US10540964B2 (zh)
EP (1) EP3324405A1 (zh)
JP (1) JP2018081298A (zh)
KR (1) KR20180055189A (zh)
CN (1) CN108073574A (zh)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109033156A (zh) * 2018-06-13 2018-12-18 腾讯科技（深圳）有限公司 一种信息处理方法、装置及终端
CN109241259A (zh) * 2018-08-24 2019-01-18 国网江苏省电力有限公司苏州供电分公司 基于er模型的自然语言查询方法、装置及系统
CN109960804A (zh) * 2019-03-21 2019-07-02 江西风向标教育科技有限公司 一种题目文本句子向量生成方法及装置
CN110287285A (zh) * 2019-05-31 2019-09-27 平安科技（深圳）有限公司 一种问题意图识别方法、装置、计算机设备及存储介质
CN110619050A (zh) * 2018-06-20 2019-12-27 华为技术有限公司 意图识别方法及设备
CN111126024A (zh) * 2018-10-12 2020-05-08 西门子医疗有限公司 语句生成
CN111951805A (zh) * 2020-07-10 2020-11-17 华为技术有限公司 一种文本数据处理方法及装置
CN112789561A (zh) * 2018-10-15 2021-05-11 美的集团股份有限公司 用于为电器定制便携式自然语言处理接口的系统和方法
CN112926306A (zh) * 2021-03-08 2021-06-08 北京百度网讯科技有限公司 文本纠错方法、装置、设备以及存储介质
CN113139561A (zh) * 2020-01-17 2021-07-20 Tcl集团股份有限公司 一种垃圾分类方法、装置、终端设备及存储介质
CN113407814A (zh) * 2021-06-29 2021-09-17 北京字节跳动网络技术有限公司 文本搜索方法、装置、可读介质及电子设备

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10395641B2 (en) * 2017-02-08 2019-08-27 International Business Machines Corporation Modifying a language conversation model
US10515625B1 (en) 2017-08-31 2019-12-24 Amazon Technologies, Inc. Multi-modal natural language processing
US10572585B2 (en) * 2017-11-30 2020-02-25 International Business Machines Coporation Context-based linguistic analytics in dialogues
US11030414B2 (en) * 2017-12-26 2021-06-08 The Allen Institute For Artificial Intelligence System and methods for performing NLP related tasks using contextualized word representations
CN108549637A (zh) * 2018-04-19 2018-09-18 京东方科技集团股份有限公司 基于拼音的语义识别方法、装置以及人机对话系统
US10831997B2 (en) * 2018-08-09 2020-11-10 CloudMinds Technology, Inc. Intent classification method and system
US11481558B2 (en) 2018-09-12 2022-10-25 Samsung Electroncis Co., Ltd. System and method for a scene builder
CN110929508B (zh) * 2018-09-20 2023-05-02 阿里巴巴集团控股有限公司 词向量的生成方法、装置和系统
KR102143745B1 (ko) * 2018-10-11 2020-08-12 주식회사 엔씨소프트 음절 기반의 벡터를 이용한 한글 오류 보정 방법 및 한글 오류 보정 시스템
US11341207B2 (en) 2018-12-10 2022-05-24 Ebay Inc. Generating app or web pages via extracting interest from images
US10777191B2 (en) * 2018-12-30 2020-09-15 International Business Machines Corporation Visually exploring and prioritizing discordant conversations with conversational bots
US10977445B2 (en) * 2019-02-01 2021-04-13 International Business Machines Corporation Weighting features for an intent classification system
US10937416B2 (en) * 2019-02-01 2021-03-02 International Business Machines Corporation Cross-domain multi-task learning for text classification
FR3098000B1 (fr) * 2019-06-27 2022-05-13 Ea4T Procédé et dispositif d’obtention d’une réponse à partir d’une question orale posée à une interface homme-machine.
EP4026120A4 (en) * 2019-09-04 2023-10-18 Brain Technologies, Inc. REAL-TIME MORPHING INTERFACE FOR DISPLAY ON A COMPUTER SCREEN
JP7216627B2 (ja) * 2019-09-06 2023-02-01 東京海上日動火災保険株式会社 入力支援方法、入力支援システム、及びプログラム
CN110633470A (zh) * 2019-09-17 2019-12-31 北京小米智能科技有限公司 命名实体识别方法、装置及存储介质
KR20210042707A (ko) 2019-10-10 2021-04-20 삼성전자주식회사 음성 처리 방법 및 장치
US11538465B1 (en) * 2019-11-08 2022-12-27 Suki AI, Inc. Systems and methods to facilitate intent determination of a command by grouping terms based on context
US11217227B1 (en) 2019-11-08 2022-01-04 Suki AI, Inc. Systems and methods for generating disambiguated terms in automatically generated transcriptions including instructions within a particular knowledge domain
CN112906370B (zh) * 2019-12-04 2022-12-20 马上消费金融股份有限公司 意图识别模型训练方法、意图识别方法及相关装置
CN111160568B (zh) 2019-12-27 2021-04-06 北京百度网讯科技有限公司 机器阅读理解模型训练方法、装置、电子设备和存储介质
US11455555B1 (en) 2019-12-31 2022-09-27 Meta Platforms, Inc. Methods, mediums, and systems for training a model
CN111241832B (zh) * 2020-01-15 2023-08-15 北京百度网讯科技有限公司 核心实体标注方法、装置及电子设备
CN111259148B (zh) * 2020-01-19 2024-03-26 北京小米松果电子有限公司 信息处理方法、装置及存储介质
CN111081219A (zh) * 2020-01-19 2020-04-28 南京硅基智能科技有限公司 一种端到端的语音意图识别方法
US11626106B1 (en) * 2020-02-25 2023-04-11 Amazon Technologies, Inc. Error attribution in natural language processing systems
CN111666469B (zh) * 2020-05-13 2023-06-16 广州国音智能科技有限公司 语句库构建方法、装置、设备和存储介质
KR20210142891A (ko) 2020-05-19 2021-11-26 삼성에스디에스 주식회사 자연어 처리 모델을 맞춤화하기 위한 방법 및 장치
CN111539223B (zh) * 2020-05-29 2023-08-18 北京百度网讯科技有限公司 语言模型的训练方法、装置、电子设备及可读存储介质
CN111783434B (zh) * 2020-07-10 2023-06-23 思必驰科技股份有限公司 提升回复生成模型抗噪能力的方法及系统
KR102236639B1 (ko) * 2020-07-27 2021-04-06 주식회사 엔씨소프트 음절 기반의 벡터를 이용한 한글 오류 보정 방법 및 한글 오류 보정 시스템
CN111914551B (zh) * 2020-07-29 2022-05-20 北京字节跳动网络技术有限公司 自然语言处理方法、装置、电子设备及存储介质
CN112017643B (zh) * 2020-08-24 2023-10-31 广州市百果园信息技术有限公司 语音识别模型训练方法、语音识别方法及相关装置
US11862157B2 (en) * 2021-02-24 2024-01-02 Conversenow Ai Automated ordering system
CN113342932B (zh) * 2021-05-31 2024-04-19 北京明略软件系统有限公司 目标词向量的确定方法、装置、存储介质和电子装置
CN113254616B (zh) * 2021-06-07 2021-10-19 佰聆数据股份有限公司 面向智能问答系统的句向量生成方法及系统
WO2023073887A1 (ja) * 2021-10-28 2023-05-04 日本電気株式会社 情報処理システム、情報処理装置、情報処理方法、及び記録媒体
KR102606415B1 (ko) * 2023-03-27 2023-11-29 (주)유알피 딥러닝 기반 음성인식을 이용한 문맥 의도 인식 장치 및 방법
KR102552297B1 (ko) * 2023-03-29 2023-07-06 (주)유알피 딥러닝 기반 대화모델을 적용한 사용자 맞춤형 순화문장 생성방법 및 그 장치

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7050977B1 (en) 1999-11-12 2006-05-23 Phoenix Solutions, Inc. Speech-enabled server for internet website and method
WO2001084535A2 (en) 2000-05-02 2001-11-08 Dragon Systems, Inc. Error correction in speech recognition
JP2003295882A (ja) 2002-04-02 2003-10-15 Canon Inc 音声合成用テキスト構造、音声合成方法、音声合成装置及びそのコンピュータ・プログラム
KR101163411B1 (ko) 2007-03-19 2012-07-12 돌비 레버러토리즈 라이쎈싱 코오포레이션 지각 모델을 사용한 스피치 개선
US8504374B2 (en) 2009-02-02 2013-08-06 Jerry Lee Potter Method for recognizing and interpreting patterns in noisy data sequences
US8223986B2 (en) 2009-11-19 2012-07-17 Apple Inc. Electronic device and external equipment with digital noise cancellation and digital audio path
US20120246133A1 (en) 2011-03-23 2012-09-27 Microsoft Corporation Online spelling correction/phrase completion system
US8892488B2 (en) 2011-06-01 2014-11-18 Nec Laboratories America, Inc. Document classification with weighted supervised n-gram embedding
US8929954B2 (en) 2012-04-25 2015-01-06 Kopin Corporation Headset computer (HSC) as auxiliary display with ASR and HT input
KR102332729B1 (ko) 2014-07-28 2021-11-30 삼성전자주식회사 발음 유사도를 기반으로 한 음성 인식 방법 및 장치, 음성 인식 엔진 생성 방법 및 장치
JP6467893B2 (ja) 2014-12-03 2019-02-13 日本電気株式会社 情報処理システム、情報処理方法、及び、プログラム
KR102167719B1 (ko) 2014-12-08 2020-10-19 삼성전자주식회사 언어 모델 학습 방법 및 장치, 음성 인식 방법 및 장치

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109033156A (zh) * 2018-06-13 2018-12-18 腾讯科技（深圳）有限公司 一种信息处理方法、装置及终端
CN110619050A (zh) * 2018-06-20 2019-12-27 华为技术有限公司 意图识别方法及设备
CN110619050B (zh) * 2018-06-20 2023-05-09 华为技术有限公司 意图识别方法及设备
CN109241259A (zh) * 2018-08-24 2019-01-18 国网江苏省电力有限公司苏州供电分公司 基于er模型的自然语言查询方法、装置及系统
CN111126024A (zh) * 2018-10-12 2020-05-08 西门子医疗有限公司 语句生成
CN111126024B (zh) * 2018-10-12 2024-02-02 西门子医疗有限公司 语句生成
CN112789561A (zh) * 2018-10-15 2021-05-11 美的集团股份有限公司 用于为电器定制便携式自然语言处理接口的系统和方法
CN112789561B (zh) * 2018-10-15 2022-04-05 美的集团股份有限公司 用于为电器定制便携式自然语言处理接口的系统和方法
CN109960804B (zh) * 2019-03-21 2023-05-02 江西风向标教育科技有限公司 一种题目文本句子向量生成方法及装置
CN109960804A (zh) * 2019-03-21 2019-07-02 江西风向标教育科技有限公司 一种题目文本句子向量生成方法及装置
CN110287285B (zh) * 2019-05-31 2023-06-16 平安科技（深圳）有限公司 一种问题意图识别方法、装置、计算机设备及存储介质
WO2020237869A1 (zh) * 2019-05-31 2020-12-03 平安科技（深圳）有限公司 一种问题意图识别方法、装置、计算机设备及存储介质
CN110287285A (zh) * 2019-05-31 2019-09-27 平安科技（深圳）有限公司 一种问题意图识别方法、装置、计算机设备及存储介质
CN113139561A (zh) * 2020-01-17 2021-07-20 Tcl集团股份有限公司 一种垃圾分类方法、装置、终端设备及存储介质
CN113139561B (zh) * 2020-01-17 2024-05-03 Tcl科技集团股份有限公司 一种垃圾分类方法、装置、终端设备及存储介质
CN111951805A (zh) * 2020-07-10 2020-11-17 华为技术有限公司 一种文本数据处理方法及装置
CN112926306A (zh) * 2021-03-08 2021-06-08 北京百度网讯科技有限公司 文本纠错方法、装置、设备以及存储介质
CN112926306B (zh) * 2021-03-08 2024-01-23 北京百度网讯科技有限公司 文本纠错方法、装置、设备以及存储介质
CN113407814B (zh) * 2021-06-29 2023-06-16 抖音视界有限公司 文本搜索方法、装置、可读介质及电子设备
WO2023273598A1 (zh) * 2021-06-29 2023-01-05 北京字节跳动网络技术有限公司 文本搜索方法、装置、可读介质及电子设备
CN113407814A (zh) * 2021-06-29 2021-09-17 北京字节跳动网络技术有限公司 文本搜索方法、装置、可读介质及电子设备

Also Published As

Publication number Publication date
JP2018081298A (ja) 2018-05-24
KR20180055189A (ko) 2018-05-25
US20180137855A1 (en) 2018-05-17
EP3324405A1 (en) 2018-05-23
US10540964B2 (en) 2020-01-21

Similar Documents

Publication Publication Date Title
CN108073574A (zh) 用于处理自然语言以及训练自然语言模型的方法和设备
US11238845B2 (en) Multi-dialect and multilingual speech recognition
US11176946B2 (en) Method and apparatus for speech recognition
Long et al. Simpler context-dependent logical forms via model projections
Baker et al. Developments and directions in speech recognition and understanding, Part 1 [DSP Education]
CN108124477B (zh) 基于伪数据改进分词器以处理自然语言
Alon et al. Contextual speech recognition with difficult negative training examples
JPWO2008004666A1 (ja) 音声認識装置、音声認識方法、および音声認識用プログラム
Tada et al. Robust understanding of robot-directed speech commands using sequence to sequence with noise injection
Goyal et al. Knowledge-driven description synthesis for floor plan interpretation
CN111508497B (zh) 语音识别方法、装置、电子设备及存储介质
Guillaume et al. Plugging a neural phoneme recognizer into a simple language model: a workflow for low-resource settings
KR20130126570A (ko) 핵심어에서의 음소 오류 결과를 고려한 음향 모델 변별 학습을 위한 장치 및 이를 위한 방법이 기록된 컴퓨터 판독 가능한 기록매체
CN114896966A (zh) 一种中文文本语法错误定位方法、系统、设备及介质
Fenghour et al. Disentangling homophemes in lip reading using perplexity analysis
JP6235922B2 (ja) 重み付き有限状態オートマトン作成装置、記号列変換装置、音声認識装置、それらの方法、及びプログラム
Yuwan et al. Automatic extraction phonetically rich and balanced verses for speaker-dependent quranic speech recognition system
Kayalvizhi et al. Deep learning approach for extracting catch phrases from legal documents
US20240161732A1 (en) Multi-dialect and multilingual speech recognition
Aransa et al. Improving continuous space language models using auxiliary features
Zembrzuski et al. Automatic speech recognition adaptation to the IoT domain dialogue system
Huckvale Learning from the experience of building automatic speech recognition systems
Sigurgeirsson A Semi-Supervised Approach to Automatic Speech Recognition Training For the Icelandic Language
Barriga et al. Automatic Interlinear Glossing for Otomi language
KR100339668B1 (ko) 음성 발생 원리를 이용한 음성 언어 파서

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20180525