CN111966798A - 一种基于多轮K-means算法的意图识别方法、装置和电子设备 - Google Patents

一种基于多轮K-means算法的意图识别方法、装置和电子设备 Download PDF

Info

Publication number
CN111966798A
CN111966798A CN202010728392.9A CN202010728392A CN111966798A CN 111966798 A CN111966798 A CN 111966798A CN 202010728392 A CN202010728392 A CN 202010728392A CN 111966798 A CN111966798 A CN 111966798A
Authority
CN
China
Prior art keywords
class
clustering
round
intention
means algorithm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
CN202010728392.9A
Other languages
English (en)
Inventor
孔醍
刘宗全
张家兴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Qibao Xinan Technology Co ltd
Original Assignee
Beijing Qibao Xinan Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Qibao Xinan Technology Co ltd filed Critical Beijing Qibao Xinan Technology Co ltd
Priority to CN202010728392.9A priority Critical patent/CN111966798A/zh
Publication of CN111966798A publication Critical patent/CN111966798A/zh
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation or dialogue systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G06F40/35—Discourse or dialogue representation
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/18—Speech classification or search using natural language modelling
    • G10L15/1822—Parsing for meaning understanding

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Machine Translation (AREA)

Abstract

本发明提供了一种基于多轮K‑means算法的意图识别方法、装置和电子设备。该方法包括：建立样本数据集，该样本数据集包括多个由对话文本转化得到的语义向量，所述对话文本是用户与智能语音机器人进行对话时输入的语音所转化；使用K‑means算法对样本数据集进行多轮聚类处理，并输出初始的聚类结果；对所有初始的聚类结果进行融合去噪，形成最终的聚类结果；基于最终的聚类结果，对当前用户与智能语音机器人进行对话时输入的语音，进行意图识别。本发明的方法采用改进了的K‑means算法，进行多轮聚类处理，并对多轮聚类的聚类结果进行融合去噪，实现了更精确的意图分类和识别，提高了意图聚类质量，还优化了方法。

Description

一种基于多轮K-means算法的意图识别方法、装置和电子设备
技术领域
本发明涉及计算机信息处理领域，具体涉及一种基于多轮K-means算法的意图识别方法、装置和电子设备。
背景技术
随着互联网技术的发展，对话系统在电商、智能设备等方面有着广泛的应用，越来越引起人们的关注。意图识别是对话系统中首要且重要的任务，并且是一个多分类问题，相应地，需要使用一个多分类的模型来做对应的处理。事实上，分类问题是机器学习的基本问题，与其对应的还有回归、聚类等等。
聚类，就是将已有的数据对象进行分类，让每一类内部之间的相似度尽可能的大，每一类外部之间的相似度尽可能的小。一般情况下，在对数据进行划分的过程中，只靠信息之间简单的相似性作为准则，没有任何背景知识和相应的假设，不需要定义类别和性质，按照自然属性进行分类，由此，聚类分析被认为是一种无监督分析方法。聚类在许多领域中都得到应用，如：生物学，统计学，神经网络，信息检索，图像处理和数据挖掘。但是，如何利用这些领域知识来提高聚类分析的质量，是半监督聚类分析的重要研究内容。
现有的聚类算法一般分为五类，分别是划分方法，层次方法，基于密度的方法，基于网格的方法和基于模型的方法。其中，最经典的k-means算法是基于划分的聚类方法。传统的k-means聚类算法是一种无监督学习方法，它按照基础优化准则对数据进行分类，通过最自然的相关性，没有考虑用户真实世界提供的任何知识。但是，在应用的聚类质量和方法优化方面仍存在很大改进空间。
因此，有必要提供一种聚类质量更高且更优化的基于多轮K-means算法的意图识别方法。
发明内容
为了解决上述问题，本发明提供了一种基于多轮K-means算法的意图识别方法，应用于智能语音机器人中对用户意图的识别，包括：建立样本数据集，该样本数据集包括多个由对话文本转化得到的语义向量，所述对话文本是用户与智能语音机器人进行对话时输入的语音所转化；使用K-means算法对所述样本数据集进行多轮聚类处理，并输出初始的聚类结果；对所有初始的聚类结果进行融合去噪，形成最终的聚类结果；基于所述最终的聚类结果，对当前用户与智能语音机器人进行对话时输入的语音，进行意图识别。
优选地，所述多轮聚类处理的轮数为3至5轮。
优选地，每一轮聚类处理包括：设定初始k值；随机产生k个类中心向量，使用K-means算法迭代更新该类中心向量，直到本次迭代时的类中心向量与上一次迭代时的类中心向量之间的距离小于指定阈值。
优选地，使用K-means算法迭代更新该类中心向量包括：计算样本到每个类中心向量的欧氏距离；在样本到各类中心向量的欧氏距离中，将距离最小的类中心向量所在的类作为该样本在本次迭代中所归属的类；将属于同一类的样本的均值向量作为下一轮迭代的类中心向量。
优选地，对所有初始的聚类结果进行融合去噪，形成最终的聚类结果包括：基于预定筛选规则，提取多轮聚类结果重叠部分的数据集合，并确定类集合的数量k′，以输出最终的聚类结果。
优选地，所述预定筛选规则包括设定参数指标，该参数指标包括纯度、噪音比率、轮廓系数、覆盖度占比；判断各类集合的纯度是否达到纯度设定阈值，和/或判断各类集合的噪音比率是否小于噪音设定阈值。
优选地，所述预定筛选规则还包括设定类集合内的最小样本数量阈值，将样本数量小于最小样本数量阈值的类集合作为噪声集合或去除集合。
优选地，还包括：对重叠部分的所有数据集合都计算同一类集合的纯度、噪声比率和覆盖度占比；将所计算的纯度大于等于纯度设定阈值的类集合作为保留的类集合；将所计算的噪声比率小于噪音设定阈值的类集合作为保留的类集合；和/或将所计算覆盖度占比在设定占比范围的类集合作为保留的类集合；基于所有要保留的类集合，确定类集合的数量k′。
优选地，所述基于所述最终的聚类结果，对当前用户与智能语音机器人进行对话时输入的语音，进行意图识别包括：基于所述聚类结果，建立意图类别数据库；实时获取当前用户的用户对话输入，将对所述对话输入的意图类别信息进行语义向量转换，基于所述意图类别数据库和所述意图类别信息，判断所述当前用户的用户意图类别所属的类集合，以进行用于意图识别。
此外，本发明还提供了一种基于多轮K-means算法的意图识别装置，应用于智能语音机器人中对用户意图的识别，包括：建立模块，用于建立样本数据集，该样本数据集包括多个由对话文本转化得到的语义向量，所述对话文本是用户与智能语音机器人进行对话时输入的语音所转化；聚类模块，用于使用K-means算法对所述样本数据集进行多轮聚类处理，并输出初始的聚类结果；融合去噪模块，用于对所有初始的聚类结果进行融合去噪，形成最终的聚类结果；识别模块，用于基于所述最终的聚类结果，对当前用户与智能语音机器人进行对话时输入的语音，进行意图识别。
优选地，所述多轮聚类处理的轮数为3至5轮。
优选地，还包括设定模块，所述设定模块用于设定初始k值；随机产生k个类中心向量，使用K-means算法迭代更新该类中心向量，直到本次迭代时的类中心向量与上一次迭代时的类中心向量之间的距离小于指定阈值。
优选地，还包括计算模块，所述计算模块用于计算样本到每个类中心向量的欧氏距离；在样本到各类中心向量的欧氏距离中，将距离最小的类中心向量所在的类作为该样本在本次迭代中所归属的类；将属于同一类的样本的均值向量作为下一轮迭代的类中心向量。
优选地，还包括：基于预定筛选规则，提取多轮聚类结果重叠部分的数据集合，并确定类集合的数量k′，以输出最终的聚类结果。
优选地，所述预定筛选规则包括设定参数指标，该参数指标包括纯度、噪音比率、轮廓系数、覆盖度占比；判断各类集合的纯度是否达到纯度设定阈值，和/或判断各类集合的噪音比率是否小于噪音设定阈值。
优选地，所述预定筛选规则还包括设定类集合内的最小样本数量阈值，将样本数量小于最小样本数量阈值的类集合作为噪声集合或去除集合。
优选地，还包括：对重叠部分的所有数据集合都计算同一类集合的纯度、噪声比率和覆盖度占比；将所计算的纯度大于等于纯度设定阈值的类集合作为保留的类集合；将所计算的噪声比率小于噪音设定阈值的类集合作为保留的类集合；和/或将所计算覆盖度占比在设定占比范围的类集合作为保留的类集合；基于所有要保留的类集合，确定类集合的数量k′。
优选地，所述基于所述最终的聚类结果，对当前用户与智能语音机器人进行对话时输入的语音，进行意图识别包括：基于所述聚类结果，建立意图类别数据库；实时获取当前用户的用户对话输入，将对所述对话输入的意图类别信息进行语义向量转换，基于所述意图类别数据库和所述意图类别信息，判断所述当前用户的用户意图类别所属的类集合，以进行用于意图识别。
此外，本发明还提供了一种电子设备，其中，该电子设备包括：处理器；以及，存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行本发明所述的基于多轮K-means算法的意图识别方法。
此外，本发明还提供了一种计算机可读存储介质，其中，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被处理器执行时，实现本发明所述的基于多轮K-means算法的意图识别方法。
有益效果
与现有技术相比，本发明的意图识别方法采用改进了的K-means算法，对待识别的用户对话文本进行多轮聚类处理，并对多轮聚类的聚类结果进行融合去噪，实现了更精确的意图分类和识别，提高了意图聚类质量，还优化了方法。
附图说明
为了使本发明所解决的技术问题、采用的技术手段及取得的技术效果更加清楚，下面将参照附图详细描述本发明的具体实施例。但需声明的是，下面描述的附图仅仅是本发明本发明示例性实施例的附图，对于本领域的技术人员来讲，在不付出创造性劳动的前提下，可以根据这些附图获得其他实施例的附图。
图1是本发明的基于多轮K-means算法的意图识别方法的一示例的流程图。
图2是本发明的基于多轮K-means算法的意图识别方法的另一示例的流程图。
图3是本发明的使用多轮K-means算法执行三轮聚类处理后所呈现的多个重叠部分的数据集合的一示例的示意图。
图4是本发明的基于多轮K-means算法的意图识别方法的又一示例的流程图。
图5是本发明的基于多轮K-means算法的意图识别装置的一示例的示意性结构框图。
图6是本发明的基于多轮K-means算法的意图识别装置的另一示例的示意性结构框图。
图7是本发明的基于多轮K-means算法的意图识别装置的又一示例的示意性结构框图。
图8是根据本发明的一种电子设备的示例性实施例的结构框图。
图9是根据本发明的计算机可读介质的示例性实施例的结构框图。
具体实施方式
现在将参考附图更全面地描述本发明的示例性实施例。然而，示例性实施例能够以多种形式实施，且不应被理解为本发明仅限于在此阐述的实施例。相反，提供这些示例性实施例能够使得本发明更加全面和完整，更加便于将发明构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的元件、组件或部分，因而将省略对它们的重复描述。
在符合本发明的技术构思的前提下，在某个特定的实施例中描述的特征、结构、特性或其他细节不排除可以以合适的方式结合在一个或更多其他的实施例中。
在对于具体实施例的描述中，本发明描述的特征、结构、特性或其他细节是为了使本领域的技术人员对实施例进行充分理解。但是，并不排除本领域技术人员可以实践本发明的技术方案而没有特定特征、结构、特性或其他细节的一个或更多。
附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
应理解，虽然本文中可能使用第一、第二、第三等表示编号的定语来描述各种器件、元件、组件或部分，但这不应受这些定语限制。这些定语乃是用以区分一者与另一者。例如，第一器件亦可称为第二器件而不偏离本发明实质的技术方案。
术语“和/或”或者“及/或”包括相关联的列出项目中的任一个及一或多者的所有组合。
为了进一步提高意图识别和分类的精确性，本发明提出了一种基于多轮K-means算法的意图识别方法，采用改进了的K-means算法，对待识别的用户对话文本进行多轮聚类处理，并对多轮聚类的聚类结果进行融合去噪，实现了更精确的意图分类和识别，提高了意图聚类质量，还优化了方法。
为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明作进一步的详细说明。
实施例1
下面，将参照图1至图4描述本发明的基于多轮K-means算法的意图识别方法的实施例。
图1是本发明的基于多轮K-means算法的意图识别方法的一示例的流程图。
如图1所示，一种基于多轮K-means算法的意图识别方法，该方法包括以下步骤。
步骤S101，建立样本数据集，该样本数据集包括多个由对话文本转化得到的语义向量，所述对话文本是用户与智能语音机器人进行对话时输入的语音所转化。
步骤S102，使用K-means算法对所述样本数据集进行多轮聚类处理，并输出初始的聚类结果。
步骤S103，对所有初始的聚类结果进行融合去噪，形成最终的聚类结果。
步骤S104，基于所述最终的聚类结果，对当前用户与智能语音机器人进行对话时输入的语音，进行意图识别。
在本示例中，本发明的方法应用于智能语音机器人中对用户意图的识别，以下将描述具体过程。
首先，在步骤S101中，建立样本数据集，该样本数据集包括多个由对话文本转化得到的语义向量，所述对话文本是用户与智能语音机器人进行对话时输入的语音所转化。
在本示例中，在用户与智能语音机器人进行对话时，获取用户的对话语音输入，并将该用户的对话语音输入转化为对话文本。
具体地，该对话文本包括意图类别信息。例如，“A”为理财产品或者金融服务产品的名称，例如用户1输入“我想了解A”，形成意图1，再例如，用户2输入“A的利率定价是多少？”，形成意图2。
优选地，对该对话文本进行预处理，将所述对话文本分为标签句、兜底句和中间句，以用于意图分类。
进一步地，例如使用BERT预训练模型对该用户的对话文本进行语义向量转换，形成语义向量表示，以用于意图识别。
需要说明的是，对于语义向量转换，在其他示例中，还可以使用RoBERTa模型、DistilBERT模型等。上述仅作为示例进行说明，不能理解成对本发明的限制。
接下来，在步骤S102中，使用K-means算法对所述样本数据集进行多轮聚类处理，并输出初始的聚类结果。
如图2所示，还包括设定多轮聚类处理的轮数的步骤S201。
在步骤S201中，设定多轮聚类处理的轮数，以用于将多轮的聚类结果进行融合去噪，由此获得最优的聚类结果。
优选地，所述多轮聚类处理的轮数为3至5轮，在本示例中，该轮数为3轮，换言之，将使用K-means算法所进行的聚类执行三次。
在本示例中，使用质心的算法进行聚类计算。具体地，每一轮聚类处理包括：设定初始k值；随机产生k个类中心向量，使用K-means算法迭代更新该类中心向量，直到本次迭代时的类中心向量与上一次迭代时的类中心向量之间的距离小于指定阈值。
进一步地，计算样本数据集中每个样本到每个类中心向量的欧氏距离；在各样本到各类中心向量的欧氏距离中，将距离最小的类中心向量所在的类作为该样本在本次迭代中所归属的类；将属于同一类的样本的均值向量作为下一轮迭代的类中心向量。
为了更清楚地说明本发明的方法，以下将具体描述本发明的方法计算原理。
在发明的方法中，使用基于质心的算法计算每个簇(在本说明书中，成为类集合)的中心向量。具体地，将样本数据集划分成k个类，对于k值的选择，由技术人员设定。算法的具体流程如下。
首先，初始化k个类的中心向量μ1，μ2，...，μk，在本发明中，设定k为3。
分配阶段。根据当前的类中心值确定每个样本所述的类：
循环，对每个样本xi计算样本离每个类中心μj的距离：Dij＝||xi-μj||，将样本分配到距离最近的那个类，结束循环。
更新阶段。更新每个类的类中心：
循环三次，对每个类根据上一步的分配方案更新每个类的类中心，为该类所有样本的均值：
Figure BDA0002600224690000091
结束循环。
由此，通过上述算法，执行三次聚类处理，得到三轮初始的聚类结果。
接下来，在步骤S103中，对所有初始的聚类结果进行融合去噪，形成最终的聚类结果。
图3是出了在执行三轮聚类处理之后的聚类结果所呈现的多个重叠部分的一示例的示意图。
需要说明的是，如图3所示，每个重叠部分的数据集均可视为是一个类集合，但是具体哪些类集合是需要保留的，哪些类集合是需要去除的，需要进一步确定。
如图4所示，还包括设定筛选规则的步骤S401。
在步骤S401中，设定筛选规则，以用于确定最终的聚类结果。
在本示例中，基于预定筛选规则，提取多轮聚类结果重叠部分的数据集合，并确定类集合的数量k′，以输出最终的聚类结果。
具体地，所述预定筛选规则包括设定参数指标，该参数指标包括纯度、噪音比率、轮廓系数、覆盖度占比。
需要说明的是，在本示例中，覆盖度占比是指标签句、兜底句或中间句的数量占各类集合的数量的比例，而整体覆盖度占比是指指标签句、兜底句或中间句的数量占样本数据集合的总数量的比例。但是不限于此，在其他应用场景下，可以根据具体业务重新设定覆盖度占比。
进一步地，判断各类集合的纯度是否达到纯度设定阈值，和/或判断各类集合的噪音比率是否小于噪音设定阈值。
在本示例中，所述预定筛选规则还包括设定类集合内的最小样本数量阈值，将样本数量小于最小样本数量阈值的类集合作为噪声集合或去除集合。
具体地，对重叠部分的所有数据集合都计算同一类集合的纯度、噪声比率和覆盖度占比。
进一步地，基于计算结果，将所计算的纯度大于等于纯度设定阈值的类集合作为保留的类集合；将所计算的噪声比率小于噪音设定阈值的类集合作为保留的类集合；和/或将所计算覆盖度占比在设定占比范围的类集合作为保留的类集合。
更进一步地，基于所有要保留的类集合和所要去除的类集合，确定类集合的数量k′。
与传统的K-means算法相比，通过本发明的改进了K-means算法，得到的聚类结果更精确，换言之，k′值更准确。
接下来，在步骤S104中，基于所述最终的聚类结果，对当前用户与智能语音机器人进行对话时输入的语音，进行意图识别。
在本示例中，基于所述聚类结果，建立意图类别数据库。
具体地，实时获取当前用户的用户对话语音输入，将对所述对话语音输入的意图类别信息进行语义向量转换，基于所述意图类别数据库和所述意图类别信息，判断所述当前用户的用户意图类别所属的类集合，以进行用于意图识别。
进一步地，在判断当前用户的意图是新意图的情况下，进行新意图标注，并生成相应回复。
优选地，将所述新意图的相关数据增加至待分类的样本数据集，以用于更新所述样本数据集。
在另一示例中，还包括设定数据更新时间的步骤，并按照所述数据更新时间更新待分类的样本数据集。
上述基于多轮K-means算法的意图识别方法的过程仅用于对本发明的说明，其中，步骤的顺序和数量没有特别的限制。此外，上述方法中的步骤还可以拆分成两个、三个，或者有些步骤也可以合并成一个步骤，根据实际示例进行调整。
与现有技术相比，本发明的意图识别方法采用改进了的K-means算法，对待识别的用户对话文本进行多轮聚类处理，并对多轮聚类的聚类结果进行融合去噪，实现了更精确的意图分类和识别，提高了意图聚类质量，还优化了方法。
本领域技术人员可以理解，实现上述实施例的全部或部分步骤被实现为由计算机数据处理设备执行的程序(计算机程序)。在该计算机程序被执行时，可以实现本发明提供的上述方法。而且，所述的计算机程序可以存储于计算机可读存储介质中，该存储介质可以是磁盘、光盘、ROM、RAM等可读存储介质，也可以是多个存储介质组成的存储阵列，例如磁盘或磁带存储阵列。所述的存储介质不限于集中式存储，其也可以是分布式存储，例如基于云计算的云存储。
下面描述本发明的装置的实施例，该装置可以用于执行本发明的方法实施例。对于本发明装置实施例中描述的细节，应视为对于上述方法实施例的补充；对于在本发明装置实施例中未披露的细节，可以参照上述方法实施例来实现。
实施例2
参照图5、图6和图7，本发明还提供了一种基于多轮K-means算法的意图识别装置500，应用于智能语音机器人中对用户意图的识别，包括：建立模块501，用于建立样本数据集，该样本数据集包括多个由对话文本转化得到的语义向量，所述对话文本是用户与智能语音机器人进行对话时输入的语音所转化；聚类模块502，用于使用K-means算法对所述样本数据集进行多轮聚类处理，并输出初始的聚类结果；融合去噪模块503，用于对所有初始的聚类结果进行融合去噪，形成最终的聚类结果；识别模块504，用于基于所述最终的聚类结果，对当前用户与智能语音机器人进行对话时输入的语音，进行意图识别。
优选地，所述多轮聚类处理的轮数为3至5轮。
如图6所示，还包括设定模块601，所述设定模块601用于设定初始k值；随机产生k个类中心向量，使用K-means算法迭代更新该类中心向量，直到本次迭代时的类中心向量与上一次迭代时的类中心向量之间的距离小于指定阈值。
如图7所示，还包括计算模块701，所述计算模块701用于计算样本到每个类中心向量的欧氏距离；在样本到各类中心向量的欧氏距离中，将距离最小的类中心向量所在的类作为该样本在本次迭代中所归属的类；将属于同一类的样本的均值向量作为下一轮迭代的类中心向量。
优选地，还包括：基于预定筛选规则，提取多轮聚类结果重叠部分的数据集合，并确定类集合的数量k′，以输出最终的聚类结果。
优选地，所述预定筛选规则包括设定参数指标，该参数指标包括纯度、噪音比率、轮廓系数、覆盖度占比；判断各类集合的纯度是否达到纯度设定阈值，和/或判断各类集合的噪音比率是否小于噪音设定阈值。
优选地，所述预定筛选规则还包括设定类集合内的最小样本数量阈值，将样本数量小于最小样本数量阈值的类集合作为噪声集合或去除集合。
优选地，还包括：对重叠部分的所有数据集合都计算同一类集合的纯度、噪声比率和覆盖度占比；将所计算的纯度大于等于纯度设定阈值的类集合作为保留的类集合；将所计算的噪声比率小于噪音设定阈值的类集合作为保留的类集合；和/或将所计算覆盖度占比在设定占比范围的类集合作为保留的类集合；基于所有要保留的类集合，确定类集合的数量k′。
优选地，所述基于所述最终的聚类结果，对当前用户与智能语音机器人进行对话时输入的语音，进行意图识别包括：基于所述聚类结果，建立意图类别数据库；实时获取当前用户的用户对话输入，将对所述对话输入的意图类别信息进行语义向量转换，基于所述意图类别数据库和所述意图类别信息，判断所述当前用户的用户意图类别所属的类集合，以进行用于意图识别。
需要说明的是，在实施例2中，省略了与实施例1相同的部分的说明。
与现有技术相比，本发明的意图识别方法采用改进了的K-means算法，对待识别的用户对话文本进行多轮聚类处理，并对多轮聚类的聚类结果进行融合去噪，实现了更精确的意图分类和识别，提高了意图聚类质量，还优化了方法。
本领域技术人员可以理解，上述装置实施例中的各模块可以按照描述分布于装置中，也可以进行相应变化，分布于不同于上述实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块。
实施例3
下面描述本发明的电子设备实施例，该电子设备可以视为对于上述本发明的方法和装置实施例的具体实体实施方式。对于本发明电子设备实施例中描述的细节，应视为对于上述方法或装置实施例的补充；对于在本发明电子设备实施例中未披露的细节，可以参照上述方法或装置实施例来实现。
图8是根据本发明的一种电子设备的示例性实施例的结构框图。下面将参照图8来描述根据本发明的电子设备200。图8显示的电子设备200仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图8所示，电子设备200以通用计算设备的形式表现。电子设备200的组件可以包括但不限于：至少一个处理单元210、至少一个存储单元220、连接不同系统组件(包括存储单元220和处理单元210)的总线230、显示单元240等。
其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元210执行，使得所述处理单元210执行本说明书的上述电子设备处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元210可以执行如图1所示的步骤。
所述存储单元220可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)2201和/或高速缓存存储单元2202，还可以进一步包括只读存储单元(ROM)2203。
所述存储单元220还可以包括具有一组(至少一个)程序模块2205的程序/实用工具2204，这样的程序模块2205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线230可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备200也可以与一个或多个外部设备300(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备200交互的设备通信，和/或与使得该电子设备200能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口250进行。并且，电子设备200还可以通过网络适配器260与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。网络适配器260可以通过总线230与电子设备200的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备200使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述，本领域的技术人员易于理解，本发明描述的示例性实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个计算机可读的存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方法。当所述计算机程序被一个数据处理设备执行时，使得该计算机可读介质能够实现本发明的上述方法。
如图9所示，所述计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言-诸如Java、C++等，还包括常规的过程式程序设计语言-诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
综上所述，本发明可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)等通用数据处理设备来实现根据本发明实施例中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，应理解的是，本发明不与任何特定计算机、虚拟装置或者电子设备固有相关，各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于多轮K-means算法的意图识别方法，应用于智能语音机器人中对用户意图的识别，其特征在于，包括：
建立样本数据集，该样本数据集包括多个由对话文本转化得到的语义向量，所述对话文本是用户与智能语音机器人进行对话时输入的语音所转化；
使用K-means算法对所述样本数据集进行多轮聚类处理，并输出初始的聚类结果；
对所有初始的聚类结果进行融合去噪，形成最终的聚类结果；
基于所述最终的聚类结果，对当前用户与智能语音机器人进行对话时输入的语音，进行意图识别。
2.根据权利要求1所述的意图识别方法，其特征在于：
所述多轮聚类处理的轮数为3至5轮。
3.根据权利要求1或2所述的意图识别方法，其特征在于，每一轮聚类处理包括：
设定初始k值；
随机产生k个类中心向量，使用K-means算法迭代更新该类中心向量，直到本次迭代时的类中心向量与上一次迭代时的类中心向量之间的距离小于指定阈值。
4.根据权利要求1至3中任一项所述的意图识别方法，其特征在于，使用K-means算法迭代更新该类中心向量包括：
计算样本到每个类中心向量的欧氏距离；
在样本到各类中心向量的欧氏距离中，将距离最小的类中心向量所在的类作为该样本在本次迭代中所归属的类；
将属于同一类的样本的均值向量作为下一轮迭代的类中心向量。
5.根据权利要求1至4中任一项所述的意图识别方法，其特征在于，对所有初始的聚类结果进行融合去噪，形成最终的聚类结果包括：
基于预定筛选规则，提取多轮聚类结果重叠部分的数据集合，并确定类集合的数量k′，以输出最终的聚类结果。
6.根据权利要求1至5中任一项所述的意图识别方法，其特征在于，
所述预定筛选规则包括设定参数指标，该参数指标包括纯度、噪音比率、轮廓系数、覆盖度占比；
判断各类集合的纯度是否达到纯度设定阈值，和/或判断各类集合的噪音比率是否小于噪音设定阈值。
7.根据权利要求1至6中任一项所述的意图识别方法，其特征在于，所述预定筛选规则还包括设定类集合内的最小样本数量阈值，将样本数量小于最小样本数量阈值的类集合作为噪声集合或去除集合。
8.一种基于多轮K-means算法的意图识别装置，应用于智能语音机器人中对用户意图的识别，其特征在于，包括：
建立模块，用于建立样本数据集，该样本数据集包括多个由对话文本转化得到的语义向量，所述对话文本是用户与智能语音机器人进行对话时输入的语音所转化；
聚类模块，用于使用K-means算法对所述样本数据集进行多轮聚类处理，并输出初始的聚类结果；
融合去噪模块，用于对所有初始的聚类结果进行融合去噪，形成最终的聚类结果；
识别模块，用于基于所述最终的聚类结果，对当前用户与智能语音机器人进行对话时输入的语音，进行意图识别。
9.一种电子设备，其中，该电子设备包括：
处理器；以及，
存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行根据权利要求1至7中任一项所述的基于多轮K-means算法的意图识别方法。
10.一种计算机可读存储介质，其中，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被处理器执行时，实现权利要求1至7中任一项所述的基于多轮K-means算法的意图识别方法。
CN202010728392.9A 2020-07-24 2020-07-24 一种基于多轮K-means算法的意图识别方法、装置和电子设备 Withdrawn CN111966798A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010728392.9A CN111966798A (zh) 2020-07-24 2020-07-24 一种基于多轮K-means算法的意图识别方法、装置和电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010728392.9A CN111966798A (zh) 2020-07-24 2020-07-24 一种基于多轮K-means算法的意图识别方法、装置和电子设备

Publications (1)

Publication Number Publication Date
CN111966798A true CN111966798A (zh) 2020-11-20

Family

ID=73362945

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010728392.9A Withdrawn CN111966798A (zh) 2020-07-24 2020-07-24 一种基于多轮K-means算法的意图识别方法、装置和电子设备

Country Status (1)

Country Link
CN (1) CN111966798A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112530409A (zh) * 2020-12-01 2021-03-19 平安科技（深圳）有限公司 基于几何学的语音样本筛选方法、装置及计算机设备
CN113808578A (zh) * 2021-11-16 2021-12-17 阿里巴巴达摩院(杭州)科技有限公司 音频信号处理方法、装置、设备及存储介质

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112530409A (zh) * 2020-12-01 2021-03-19 平安科技（深圳）有限公司 基于几何学的语音样本筛选方法、装置及计算机设备
WO2022116442A1 (zh) * 2020-12-01 2022-06-09 平安科技（深圳）有限公司 基于几何学的语音样本筛选方法、装置、计算机设备及存储介质
CN112530409B (zh) * 2020-12-01 2024-01-23 平安科技（深圳）有限公司 基于几何学的语音样本筛选方法、装置及计算机设备
CN113808578A (zh) * 2021-11-16 2021-12-17 阿里巴巴达摩院(杭州)科技有限公司 音频信号处理方法、装置、设备及存储介质
CN113808578B (zh) * 2021-11-16 2022-04-15 阿里巴巴达摩院(杭州)科技有限公司 音频信号处理方法、装置、设备及存储介质
WO2023088142A1 (zh) * 2021-11-16 2023-05-25 阿里巴巴达摩院(杭州)科技有限公司 音频信号处理方法、装置、设备及存储介质

Similar Documents

Publication Publication Date Title
WO2021174757A1 (zh) 语音情绪识别方法、装置、电子设备及计算机可读存储介质
CN111026842B (zh) 自然语言处理方法、自然语言处理装置及智能问答系统
CN111191000B (zh) 一种智能语音机器人的对话管理方法、装置和系统
CN111950294A (zh) 一种基于多参数K-means算法的意图识别方法、装置和电子设备
CN107590172B (zh) 一种大规模语音数据的核心内容挖掘方法及设备
CN111177186B (zh) 基于问题检索的单句意图识别方法、装置和系统
CN112348519A (zh) 一种欺诈用户识别方法、装置和电子设备
CN110223134B (zh) 基于语音识别的产品推荐方法及相关设备
CN112035626A (zh) 一种大规模意图的快速识别方法、装置和电子设备
CN112528658B (zh) 层次化分类方法、装置、电子设备和存储介质
CN111966798A (zh) 一种基于多轮K-means算法的意图识别方法、装置和电子设备
CN113434683A (zh) 文本分类方法、装置、介质及电子设备
CN115713072A (zh) 一种基于提示学习和上下文感知的关系类别推断系统及方法
JP2021081713A (ja) 音声信号を処理するための方法、装置、機器、および媒体
CN111144102A (zh) 用于识别语句中实体的方法、装置和电子设备
CN112418320A (zh) 一种企业关联关系识别方法、装置及存储介质
CN111582645A (zh) 基于因子分解机的app风险评估方法、装置和电子设备
CN113870863A (zh) 声纹识别方法及装置、存储介质及电子设备
JP2020135689A (ja) モデル学習システム、意図解釈システム、モデル学習方法およびモデル学習用プログラム
CN113570222A (zh) 一种用户设备鉴别方法、装置和计算机设备
CN112100339A (zh) 用于智能语音机器人的用户意图识别方法、装置和电子设备
CN113918710A (zh) 文本数据处理方法、装置、电子设备和可读存储介质
CN111949777A (zh) 一种基于人群分类的智能语音对话方法、装置及电子设备
CN113869049B (zh) 基于法律咨询问题的具有法律属性的事实抽取方法及装置
CN112685374A (zh) 日志分类方法、装置及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WW01 Invention patent application withdrawn after publication

Application publication date: 20201120

WW01 Invention patent application withdrawn after publication