CN111858891A - 问答库构建方法、装置、电子设备及存储介质 - Google Patents
问答库构建方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111858891A CN111858891A CN202010718725.XA CN202010718725A CN111858891A CN 111858891 A CN111858891 A CN 111858891A CN 202010718725 A CN202010718725 A CN 202010718725A CN 111858891 A CN111858891 A CN 111858891A
- Authority
- CN
- China
- Prior art keywords
- question
- vector
- sentences
- statement
- particle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000010276 construction Methods 0.000 title claims abstract description 47
- 239000013598 vector Substances 0.000 claims abstract description 183
- 239000002245 particle Substances 0.000 claims abstract description 108
- 238000006243 chemical reaction Methods 0.000 claims abstract description 39
- 238000000034 method Methods 0.000 claims abstract description 22
- 238000000605 extraction Methods 0.000 claims abstract description 11
- 238000004590 computer program Methods 0.000 claims description 11
- 230000011218 segmentation Effects 0.000 claims description 8
- 238000012545 processing Methods 0.000 abstract description 4
- 238000005516 engineering process Methods 0.000 abstract description 2
- 238000013473 artificial intelligence Methods 0.000 abstract 1
- 230000006870 function Effects 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000013500 data storage Methods 0.000 description 2
- 201000010099 disease Diseases 0.000 description 2
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 208000024891 symptom Diseases 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/355—Class or cluster creation or modification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/237—Lexical tools
- G06F40/242—Dictionaries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Mathematical Physics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
一种问答库构建方法,所述方法包括:获取客服对话语句;根据预设关键词,对所述客服对话语句进行语句提取,获得提问语句;对所述提问语句进行向量转换,获得语句向量;根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别;根据所述提问语句以及所述提问语句对应的类别,构建客服问答库。本发明还提供一种问答库构建装置、电子设备及存储介质。本发明能提高问答库的构建速度。此外,本发明涉及数据处理及人工智能技术领域,本发明还涉及区块链技术,问答库的内容可存储于区块链节点中,同时,本发明还可用于智慧政务、智慧医疗或智慧教育领域,从而推动智慧城市的建设。
Description
技术领域
本发明涉及数据处理技术领域,尤其涉及一种问答库构建方法、装置、电子设备及存储介质。
背景技术
目前,可以构建问答库来支持智能客服系统,但是实践中发现,为了提高智能客服系统的性能,需要搜集大量的问答语句来构建问答库,并可能需要经常更新问答库,随着用户量的增加,线上数据量逐渐增大,问题的种类五花八门,问题的形式变化不一等,问答库的构建效率会变慢。
因此,如何提高问答库的构建速度是一个亟需解决的问题。
发明内容
鉴于以上内容,有必要提供一种问答库构建方法、装置、电子设备及存储介质,能够提高问答库的构建速度。
本发明的第一方面提供一种问答库构建方法,所述问答库构建方法包括:
获取客服对话语句;
根据预设关键词,对所述客服对话语句进行语句提取,获得提问语句;
对所述提问语句进行向量转换,获得语句向量;
根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别;
根据所述提问语句以及所述提问语句对应的类别,构建客服问答库。
在一种可能的实现方式中,所述预设质点向量中的每个质点对应一个不同的类别,所述类别用于区分不同类型的提问语句,所述根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别包括:
针对每个所述语句向量,确定所述语句向量与所述预设质点向量中的每个质点的距离;
从所述预设质点向量的所有质点中,将与所述语句向量的距离最小的质点确定为目标质点;
获取所述目标质点对应的目标类别;
判断所述语句向量与所述目标质点的距离是否小于预设距离阈值;
若所述语句向量与所述目标质点的距离小于预设距离阈值,确定所述提问语句对应的类别为所述目标类别。
在一种可能的实现方式中,所述根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别还包括:
若所述语句向量与所述目标质点的距离大于或等于预设距离阈值,创建新类别;
确定所述提问语句对应的类别为所述新类别。
在一种可能的实现方式中,所述确定所述提问语句对应的类别为所述目标类别之后,所述问答库构建方法还包括:
将所述语句向量添加至所述目标质点对应的簇;
重新计算所述簇的质点。
在一种可能的实现方式中,所述获取客服对话语句之前,所述问答库构建方法还包括:
获取历史提问语句;
对所述历史提问语句进行向量转换,获得历史向量;
对所述历史向量进行均值聚类,获得所述预设质点向量。
在一种可能的实现方式中,所述对所述提问语句进行向量转换,获得语句向量包括:
对所述提问语句进行分词,获得多个词语;
通过预先训练好的转换网络,对所述多个词语进行向量转换,获得多个词语向量;
根据所述词语向量,生成所述提问语句的语句向量。
在一种可能的实现方式中,所述距离包括欧式距离,或曼哈顿距离,或余弦相似距离。
本发明的第二方面提供一种问答库构建装置,所述问答库构建装置包括:
获取模块,用于获取客服对话语句;
提取模块,用于根据预设关键词,对所述客服对话语句进行语句提取,获得提问语句;
转换模块,用于对所述提问语句进行向量转换,获得语句向量;
聚类模块,用于根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别;
构建模块,用于根据所述提问语句以及所述提问语句对应的类别,构建客服问答库。
本发明的第三方面提供一种电子设备,所述电子设备包括处理器和存储器,所述处理器用于执行所述存储器中存储的计算机程序时实现所述的问答库构建方法。
本发明的第四方面提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现所述的问答库构建方法。
由以上技术方案,本发明可以搜集提问语句,并通过增量聚类的方式将所述提问语句进行快速归类,避免了对历史数据的重复聚类,减少了客服问答库的构建时间并节约了系统资源,提高了客服问答库的构建速度。
附图说明
图1是本发明公开的一种问答库构建方法的较佳实施例的流程图。
图2是本发明公开的一种问答库构建装置的较佳实施例的功能模块图。
图3是本发明实现问答库构建方法的较佳实施例的电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
除非另有定义,本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本文中在本发明的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本发明。
本发明实施例的问答库构建方法应用在电子设备中,也可以应用在电子设备和通过网络与所述电子设备进行连接的服务器所构成的硬件环境中,由服务器和电子设备共同执行。网络包括但不限于:广域网、城域网或局域网。
其中,服务器可以是指能对网络中其它设备(如电子设备)提供服务的计算机系统。如果一个个人电脑能够对外提供文件传输协议(File Transfer Protocol,简称FTP)服务,也可以叫服务器。从狭义范围上讲,服务器专指某些高性能计算机,能通过网络,对外提供服务,其相对于普通的个人电脑来说,稳定性、安全性、性能等方面都要求更高,因此在CPU、芯片组、内存、磁盘系统、网络等硬件和普通的个人电脑有所不同。
所述电子设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、数字处理器(DSP)、嵌入式设备等。所述电子设备还可包括网络设备和/或用户设备。其中,所述网络设备包括但不限于单个网络设备、多个网络设备组成的服务器组或基于云计算(Cloud Computing)的由大量主机或网络设备构成的云,其中,云计算是分布式计算的一种,由一群松散耦合的计算机集组成的一个超级虚拟计算机。所述用户设备包括但不限于任何一种可与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互的电子产品,例如,个人计算机、平板电脑、智能手机、个人数字助理PDA等。
请参见图1,图1是本发明公开的一种问答库构建方法的较佳实施例的流程图。其中,根据不同的需求,该流程图中步骤的顺序可以改变,某些步骤可以省略。所述问答库构建方法的执行主体可以是电子设备。
S11、获取客服对话语句。
其中,所述客服对话语句可以从客服系统中存储的用户沟通记录中获取。
作为一种可选的实施方式,所述步骤S11之前,所述方法还包括:
获取历史提问语句;
对所述历史提问语句进行向量转换,获得历史向量;
对所述历史向量进行均值聚类,获得所述预设质点向量。
在该可选的实施方式中,所述均值聚类(KMeans),对于给定的样本集,按照样本之间的距离大小,预设一个数量k,将样本集划分为k个簇,让簇内的点尽量紧密的连在一起,而让簇间的距离尽量的大。假设输入的样本集(所述历史向量)为D={x1,x2,...xm},聚类的簇的数量为k,最大迭代次数为N,最后输出的簇(所述预设质点向量)为C={C1,C2,...Ck}。可以先从样本集D中随机选择k个样本作为初始的k个质心向量,质心向量的集合为:{μ1,μ2,...μk},初始化后进行步骤a和步骤b;步骤a:对于i=1,2,...,m,计算样本xi和各个质心向量μj(j=1,2,...k)的距离dij,计算公式为:将样本加入与其距离最小的类别,假设类别为λi,聚类更新后的簇为Cλi=Cλi∪{xi}。步骤b:对于j=1,2,...,k,对簇Cj中所有的样本点重新计算新的质心向量,计算公式为:重复步骤a和步骤b直到所有的k个质心向量都没有发生变化,输出最终得到的簇为C={C1,C2,...Ck},即所述预设质点向量为C。
S12、根据预设关键词,对所述客服对话语句进行语句提取,获得提问语句。
本发明实施例中,可以对所述客服对话语句中的具有用户标识的语句进行语句提取,可以提取具有预设词语的语句,比如带有“修改”“怎么”“如何”等词语的语句。
S13、对所述提问语句进行向量转换,获得语句向量。
具体的,所述对所述提问语句进行向量转换,获得语句向量包括:
对所述提问语句进行分词,获得多个词语;
通过预先训练好的转换网络,对所述多个词语进行向量转换,获得多个词语向量;
根据所述词语向量,生成所述提问语句的语句向量。
在该可选的实施方式中,可以针对不同领域的语句使用不同的词典进行分词,获得一些关键词,比如“我想改手机号”经过分词后,可以获得“修改”“手机号”等词语。其中,所述转换网络可以将词转换为一组向量表示,所述转换网络可以使用CBOW(continuous-bag-of-words,连续词袋)训练获得。可以使用预先训练好的转换网络,将所述多个词语进行向量转换,获得对应的词语向量,例如:“修改”经过向量转换后表示为[-0.124,-0.871,0.812,-1.290,…]。所述提问语句的语句向量可以是由这些词语的词语向量组合成的向量集合。
S14、根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别。
具体的,所述预设质点向量中的每个质点对应一个不同的类别,所述类别用于区分不同类型的提问语句,所述根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别包括:
针对每个所述语句向量,确定所述语句向量与所述预设质点向量中的每个质点的距离;
从所述预设质点向量的所有质点中,将与所述语句向量的距离最小的质点确定为目标质点;
获取所述目标质点对应的目标类别;
判断所述语句向量与所述目标质点的距离是否小于预设距离阈值;
若所述语句向量与所述目标质点的距离小于预设距离阈值,确定所述提问语句对应的类别为所述目标类别。
其中,所述距离包括欧式距离,或曼哈顿距离,或余弦相似距离。比如:对于向量坐标x(x1,x2,x3,...,xn)和y(y1,y2,y3,...,yn),两者的欧式距离为:
在该可选的实施方式中,可以在所述预设质点向量的基础上进行聚类(即所述增量聚类),计算新数据(所述语句向量)与所述预设质点向量中所有质点的距离,从所述预设质点向量的所有质点中,将与所述语句向量的距离最小的质点确定为目标质点;获取所述目标质点对应的目标类别;判断所述语句向量与所述目标质点的距离是否小于预设距离阈值;若所述语句向量与所述目标质点的距离小于预设距离阈值,确定所述提问语句对应的类别为所述目标类别。不需要对所有数据重新计算距离,节约了系统资源,提高了系统性能。
作为一种可选的实施方式,所述确定所述提问语句对应的类别为所述目标类别之后,所述方法还包括:
将所述语句向量添加至所述目标质点对应的簇;
重新计算所述簇的质点。
在该可选的实施方式中,确定所述提问语句对应的类别为所述目标类别之后,可以将所述语句向量添加至所述目标质点对应的簇中,并重新计算这个簇的质点,更新该簇的质点。
作为一种可选的实施方式,所述根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别还包括:
若所述语句向量与所述目标质点的距离大于或等于预设距离阈值,创建新类别;
确定所述提问语句对应的类别为所述新类别。
在该可选的实施方式中,若所述语句向量与所述目标质点的距离大于或等于预设距离阈值,则说明所述语句向量在聚类的多维空间中表示一个孤立的点,可以将所述语句向量单独看成一个类别,该类别的质点就是所述语句向量。
S15、根据所述提问语句以及所述提问语句对应的类别,构建客服问答库。
其中,所述客服问答库可以是一个存储有提问语句以及回答语句的数据库,所述目标类别可以是用来指示同一类别问题,对与同一类别问题,其回答语句可以是一样的,比如:假设类别为修改联系电话,该类别对应的提问语句可以为“修改联系电话”,“改号码了”,“换号了”,“我想改手机号码”,“我想更改联系方式”等。
本发明实施例中,可以将所述提问语句自动归类,来构建客服问答库,提高了客服问答库的构建速度。
需要强调的是,为进一步保证上述问答库的内容的私密和安全性,上述问答库的内容还可以存储于一区块链的节点中。
同时,本发明还可用于智慧政务、智慧医疗或智慧教育领域,从而推动智慧城市的建设。可搜集人们办理的各种政务中的问题,比如办理某个证件需要准备哪些资料;可搜集人们在医疗咨询上的问题,比如某种症状对应需要挂什么科看病;可搜集人们在教育上的问题,比如孩子叛逆需要怎么处理等。构建问答库,可以快速解决政务、医疗以及教育领域常见的问题,从而推动智慧城市的建设。
在图1所描述的方法流程中,可以搜集提问语句,并通过增量聚类的方式将所述提问语句进行快速归类,避免了对历史数据的重复聚类,减少了客服问答库的构建时间并节约了系统资源,提高了客服问答库的构建速度。
图2是本发明公开的一种问答库构建装置的较佳实施例的功能模块图。
请参见图2,所述问答库构建装置20可运行于电子设备中。所述问答库构建装置20可以包括多个由程序代码段所组成的功能模块。所述问答库构建装置20中的各个程序段的程序代码可以存储于存储器中,并由至少一个处理器所执行,以执行图1所描述的问答库构建方法中的部分或全部步骤。
本实施例中,所述问答库构建装置20根据其所执行的功能,可以被划分为多个功能模块。所述功能模块可以包括:获取模块201、提取模块202、转换模块203、聚类模块204、及构建模块205。本发明所称的模块是指一种能够被至少一个处理器所执行并且能够完成固定功能的一系列计算机程序段,其存储在存储器中。
获取模块201,用于获取客服对话语句。
其中,所述客服对话语句可以从客服系统中存储的用户沟通记录中获取。
提取模块202,用于根据预设关键词,对所述客服对话语句进行语句提取,获得提问语句。
本发明实施例中,可以对所述客服对话语句中的具有用户标识的语句进行语句提取,可以提取具有预设词语的语句,比如带有“修改”“怎么”“如何”等词语的语句。
转换模块203,用于对所述提问语句进行向量转换,获得语句向量。
聚类模块204,用于根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别。
构建模块205,用于根据所述提问语句以及所述提问语句对应的类别,构建客服问答库。
其中,所述客服问答库可以是一个存储有提问语句以及回答语句的数据库,所述目标类别可以是用来指示同一类别问题,对与同一类别问题,其回答语句可以是一样的,比如:假设类别为修改联系电话,该类别对应的提问语句可以为“修改联系电话”,“改号码了”,“换号了”,“我想改手机号码”,“我想更改联系方式”等。
本发明实施例中,可以将所述提问语句自动归类,来构建客服问答库,提高了客服问答库的构建速度。
作为一种可选的实施方式,所述聚类模块204根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别的方式具体为:
针对每个所述语句向量,确定所述语句向量与所述预设质点向量中的每个质点的距离;
从所述预设质点向量的所有质点中,将与所述语句向量的距离最小的质点确定为目标质点;
获取所述目标质点对应的目标类别;
判断所述语句向量与所述目标质点的距离是否小于预设距离阈值;
若所述语句向量与所述目标质点的距离小于预设距离阈值,确定所述提问语句对应的类别为所述目标类别。
其中,所述距离包括欧式距离,或曼哈顿距离,或余弦相似距离。比如:对于向量坐标x(x1,x2,x3,...,xn)和y(y1,y2,y3,...,yn),两者的欧式距离为:
在该可选的实施方式中,可以在所述预设质点向量的基础上进行聚类(即所述增量聚类),计算新数据(所述语句向量)与所述预设质点向量中所有质点的距离,从所述预设质点向量的所有质点中,将与所述语句向量的距离最小的质点确定为目标质点;获取所述目标质点对应的目标类别;判断所述语句向量与所述目标质点的距离是否小于预设距离阈值;若所述语句向量与所述目标质点的距离小于预设距离阈值,确定所述提问语句对应的类别为所述目标类别。不需要对所有数据重新计算距离,节约了系统资源,提高了系统性能。
作为一种可选的实施方式,所述聚类模块204根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别的方式还包括:
若所述语句向量与所述目标质点的距离大于或等于预设距离阈值,创建新类别;
确定所述提问语句对应的类别为所述新类别。
在该可选的实施方式中,若所述语句向量与所述目标质点的距离大于或等于预设距离阈值,则说明所述语句向量在聚类的多维空间中表示一个孤立的点,可以将所述语句向量单独看成一个类别,该类别的质点就是所述语句向量。
作为一种可选的实施方式,所述问答库构建装置20还可以包括:
添加模块,用于所述聚类模块204确定所述提问语句对应的类别为所述目标类别之后,将所述语句向量添加至所述目标质点对应的簇;
计算模块,用于重新计算所述簇的质点。
在该可选的实施方式中,确定所述提问语句对应的类别为所述目标类别之后,可以将所述语句向量添加至所述目标质点对应的簇中,并重新计算这个簇的质点,更新该簇的质点。
作为一种可选的实施方式,所述获取客服对话语句之前,所述问答库构建方法还包括:
所述获取模块201,还用于获取历史提问语句;
所述转换模块203,还用于对所述历史提问语句进行向量转换,获得历史向量;
所述聚类模块204,还用于对所述历史向量进行均值聚类,获得所述预设质点向量。
在该可选的实施方式中,所述均值聚类(KMeans),对于给定的样本集,按照样本之间的距离大小,预设一个数量k,将样本集划分为k个簇,让簇内的点尽量紧密的连在一起,而让簇间的距离尽量的大。假设输入的样本集(所述历史向量)为D={x1,x2,...xm},聚类的簇的数量为k,最大迭代次数为N,最后输出的簇(所述预设质点向量)为C={C1,C2,...Ck}。可以先从样本集D中随机选择k个样本作为初始的k个质心向量,质心向量的集合为:{μ1,μ2,...μk},初始化后进行步骤a和步骤b;步骤a:对于i=1,2,...,m,计算样本xi和各个质心向量μj(j=1,2,...k)的距离dij,计算公式为:将样本加入与其距离最小的类别,假设类别为λi,聚类更新后的簇为Cλi=Cλi∪{xi}。步骤b:对于j=1,2,...,k,对簇Cj中所有的样本点重新计算新的质心向量,计算公式为:重复步骤a和步骤b直到所有的k个质心向量都没有发生变化,输出最终得到的簇为C={C1,C2,...Ck},即所述预设质点向量为C。
作为一种可选的实施方式,所述转换模块203对所述提问语句进行向量转换,获得语句向量的方式具体为:
对所述提问语句进行分词,获得多个词语;
通过预先训练好的转换网络,对所述多个词语进行向量转换,获得多个词语向量;
根据所述词语向量,生成所述提问语句的语句向量。
在该可选的实施方式中,可以针对不同领域的语句使用不同的词典进行分词,获得一些关键词,比如“我想改手机号”经过分词后,可以获得“修改”“手机号”等词语。其中,所述转换网络可以将词转换为一组向量表示,所述转换网络可以使用CBOW(continuous-bag-of-words,连续词袋)训练获得。可以使用预先训练好的转换网络,将所述多个词语进行向量转换,获得对应的词语向量,例如:“修改”经过向量转换后表示为[-0.124,-0.871,0.812,-1.290,…]。所述提问语句的语句向量可以是由这些词语的词语向量组合成的向量集合。
需要强调的是,为进一步保证上述问答库的内容的私密和安全性,上述问答库的内容还可以存储于一区块链的节点中。
同时,本发明还可用于智慧政务、智慧医疗或智慧教育领域,从而推动智慧城市的建设。可搜集人们办理的各种政务中的问题,比如办理某个证件需要准备哪些资料;可搜集人们在医疗咨询上的问题,比如某种症状对应需要挂什么科看病;可搜集人们在教育上的问题,比如孩子叛逆需要怎么处理等。构建问答库,可以快速解决政务、医疗以及教育领域常见的问题,从而推动智慧城市的建设。
在图2所描述的问答库构建装置20中,可以搜集提问语句,并通过增量聚类的方式将所述提问语句进行快速归类,避免了对历史数据的重复聚类,减少了客服问答库的构建时间并节约了系统资源,提高了客服问答库的构建速度。
如图3所示,图3是本发明实现问答库构建方法的较佳实施例的电子设备的结构示意图。所述电子设备3包括存储器31、至少一个处理器32、存储在所述存储器31中并可在所述至少一个处理器32上运行的计算机程序33及至少一条通讯总线34。
本领域技术人员可以理解,图3所示的示意图仅仅是所述电子设备3的示例,并不构成对所述电子设备3的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述电子设备3还可以包括输入输出设备、网络接入设备等。
所述电子设备3还包括但不限于任何一种可与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互的电子产品,例如,个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant,PDA)、游戏机、交互式网络电视(InternetProtocol Television,IPTV)、智能式穿戴式设备等。所述电子设备3所处的网络包括但不限于互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network,VPN)等。
所述至少一个处理器32可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、晶体管逻辑器件、分立硬件组件等。该处理器32可以是微处理器或者该处理器32也可以是任何常规的处理器等,所述处理器32是所述电子设备3的控制中心,利用各种接口和线路连接整个电子设备3的各个部分。
所述存储器31可用于存储所述计算机程序33和/或模块/单元,所述处理器32通过运行或执行存储在所述存储器31内的计算机程序和/或模块/单元,以及调用存储在存储器31内的数据,实现所述电子设备3的各种功能。所述存储器31可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据电子设备3的使用所创建的数据等。此外,存储器31可以包括非易失性存储器,例如硬盘、内存、插接式硬盘,智能存储卡(SmartMedia Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件等。
结合图1,所述电子设备3中的所述存储器31存储多个指令以实现一种问答库构建方法,所述处理器32可执行所述多个指令从而实现:
获取客服对话语句;
根据预设关键词,对所述客服对话语句进行语句提取,获得提问语句;
对所述提问语句进行向量转换,获得语句向量;
根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别;
根据所述提问语句以及所述提问语句对应的类别,构建客服问答库。
具体地,所述处理器32对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
在图3所描述的电子设备3中,可以搜集提问语句,并通过增量聚类的方式将所述提问语句进行快速归类,避免了对历史数据的重复聚类,减少了客服问答库的构建时间并节约了系统资源,提高了客服问答库的构建速度。
所述电子设备3集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
进一步地,所述计算机可用存储介质可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序等;存储数据区可存储根据区块链节点的使用所创建的数据等。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种问答库构建方法,其特征在于,所述问答库构建方法包括:
获取客服对话语句;
根据预设关键词,对所述客服对话语句进行语句提取,获得提问语句;
对所述提问语句进行向量转换,获得语句向量;
根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别;
根据所述提问语句以及所述提问语句对应的类别,构建客服问答库。
2.根据权利要求1所述的问答库构建方法,其特征在于,所述预设质点向量中的每个质点对应一个不同的类别,所述类别用于区分不同类型的提问语句,所述根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别包括:
针对每个所述语句向量,确定所述语句向量与所述预设质点向量中的每个质点的距离;
从所述预设质点向量的所有质点中,将与所述语句向量的距离最小的质点确定为目标质点;
获取所述目标质点对应的目标类别;
判断所述语句向量与所述目标质点的距离是否小于预设距离阈值;
若所述语句向量与所述目标质点的距离小于预设距离阈值,确定所述提问语句对应的类别为所述目标类别。
3.根据权利要求2所述的问答库构建方法,其特征在于,所述根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别还包括:
若所述语句向量与所述目标质点的距离大于或等于预设距离阈值,创建新类别;
确定所述提问语句对应的类别为所述新类别。
4.根据权利要求2所述的问答库构建方法,其特征在于,所述确定所述提问语句对应的类别为所述目标类别之后,所述问答库构建方法还包括:
将所述语句向量添加至所述目标质点对应的簇;
重新计算所述簇的质点。
5.根据权利要求1至4中任一项所述的问答库构建方法,其特征在于,所述获取客服对话语句之前,所述问答库构建方法还包括:
获取历史提问语句;
对所述历史提问语句进行向量转换,获得历史向量;
对所述历史向量进行均值聚类,获得所述预设质点向量。
6.根据权利要求1至4中任一项所述的问答库构建方法,其特征在于,所述对所述提问语句进行向量转换,获得语句向量包括:
对所述提问语句进行分词,获得多个词语;
通过预先训练好的转换网络,对所述多个词语进行向量转换,获得多个词语向量;
根据所述词语向量,生成所述提问语句的语句向量。
7.根据权利要求1至4中任一项所述的问答库构建方法,其特征在于,所述距离包括欧式距离,或曼哈顿距离,或余弦相似距离。
8.一种问答库构建装置,其特征在于,所述问答库构建装置包括:
获取模块,用于获取客服对话语句;
提取模块,用于根据预设关键词,对所述客服对话语句进行语句提取,获得提问语句;
转换模块,用于对所述提问语句进行向量转换,获得语句向量;
聚类模块,用于根据预设质点向量以及所述语句向量,对所述提问语句进行增量聚类,以确定所述提问语句对应的类别;
构建模块,用于根据所述提问语句以及所述提问语句对应的类别,构建客服问答库。
9.一种电子设备,其特征在于,所述电子设备包括处理器和存储器,所述处理器用于执行存储器中存储的计算机程序以实现如权利要求1至7中任意一项所述的问答库构建方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有至少一个指令,所述至少一个指令被处理器执行时实现如权利要求1至7中任意一项所述的问答库构建方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010718725.XA CN111858891A (zh) | 2020-07-23 | 2020-07-23 | 问答库构建方法、装置、电子设备及存储介质 |
PCT/CN2021/096633 WO2022016995A1 (zh) | 2020-07-23 | 2021-05-28 | 问答库构建方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010718725.XA CN111858891A (zh) | 2020-07-23 | 2020-07-23 | 问答库构建方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111858891A true CN111858891A (zh) | 2020-10-30 |
Family
ID=72950451
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010718725.XA Pending CN111858891A (zh) | 2020-07-23 | 2020-07-23 | 问答库构建方法、装置、电子设备及存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111858891A (zh) |
WO (1) | WO2022016995A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112463943A (zh) * | 2020-12-11 | 2021-03-09 | 深圳市一号互联科技有限公司 | 基于聚类算法的新知识点发现的处理方法及其装置、电子设备及存储介质 |
CN113010658A (zh) * | 2021-04-08 | 2021-06-22 | 深圳市一号互联科技有限公司 | 一种智能问答知识库构建方法、系统、终端以及存储介质 |
WO2022016995A1 (zh) * | 2020-07-23 | 2022-01-27 | 平安科技(深圳)有限公司 | 问答库构建方法、装置、电子设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130325862A1 (en) * | 2012-06-04 | 2013-12-05 | Michael D. Black | Pipelined incremental clustering algorithm |
CN107784105A (zh) * | 2017-10-26 | 2018-03-09 | 平安科技(深圳)有限公司 | 基于海量问题的知识库构建方法、电子装置及存储介质 |
CN109918498A (zh) * | 2019-01-16 | 2019-06-21 | 平安科技(深圳)有限公司 | 一种问题入库方法和装置 |
CN110555101A (zh) * | 2019-09-09 | 2019-12-10 | 浙江诺诺网络科技有限公司 | 一种客服知识库更新方法、装置、设备及存储介质 |
CN110750629A (zh) * | 2019-09-18 | 2020-02-04 | 平安科技(深圳)有限公司 | 机器人对话生成方法、装置、可读存储介质及机器人 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106649868B (zh) * | 2016-12-30 | 2019-03-26 | 首都师范大学 | 问答匹配方法及装置 |
CN110309377B (zh) * | 2018-03-22 | 2023-08-15 | 阿里巴巴集团控股有限公司 | 语义归一化、提问模式的生成、应答确定方法及装置 |
CN111858891A (zh) * | 2020-07-23 | 2020-10-30 | 平安科技(深圳)有限公司 | 问答库构建方法、装置、电子设备及存储介质 |
-
2020
- 2020-07-23 CN CN202010718725.XA patent/CN111858891A/zh active Pending
-
2021
- 2021-05-28 WO PCT/CN2021/096633 patent/WO2022016995A1/zh active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130325862A1 (en) * | 2012-06-04 | 2013-12-05 | Michael D. Black | Pipelined incremental clustering algorithm |
CN107784105A (zh) * | 2017-10-26 | 2018-03-09 | 平安科技(深圳)有限公司 | 基于海量问题的知识库构建方法、电子装置及存储介质 |
CN109918498A (zh) * | 2019-01-16 | 2019-06-21 | 平安科技(深圳)有限公司 | 一种问题入库方法和装置 |
CN110555101A (zh) * | 2019-09-09 | 2019-12-10 | 浙江诺诺网络科技有限公司 | 一种客服知识库更新方法、装置、设备及存储介质 |
CN110750629A (zh) * | 2019-09-18 | 2020-02-04 | 平安科技(深圳)有限公司 | 机器人对话生成方法、装置、可读存储介质及机器人 |
Non-Patent Citations (1)
Title |
---|
吴陈: "模式识别", 31 March 2020, 北京:机械工业出版社, pages: 21 - 21 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022016995A1 (zh) * | 2020-07-23 | 2022-01-27 | 平安科技(深圳)有限公司 | 问答库构建方法、装置、电子设备及存储介质 |
CN112463943A (zh) * | 2020-12-11 | 2021-03-09 | 深圳市一号互联科技有限公司 | 基于聚类算法的新知识点发现的处理方法及其装置、电子设备及存储介质 |
CN113010658A (zh) * | 2021-04-08 | 2021-06-22 | 深圳市一号互联科技有限公司 | 一种智能问答知识库构建方法、系统、终端以及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2022016995A1 (zh) | 2022-01-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2022016995A1 (zh) | 问答库构建方法、装置、电子设备及存储介质 | |
JP2022058399A (ja) | 機械学習に基づくウェブインタフェース生成及びテストシステム | |
CN111461168A (zh) | 训练样本扩充方法、装置、电子设备及存储介质 | |
CN113140254B (zh) | 元学习药物-靶点相互作用预测系统及预测方法 | |
CN113470684B (zh) | 音频降噪方法、装置、设备及存储介质 | |
CN111897818A (zh) | 数据存储方法、装置、电子设备及存储介质 | |
CN111563192A (zh) | 实体对齐方法、装置、电子设备及存储介质 | |
CN110675250A (zh) | 一种基于用户营销评分的信贷额度管理的方法、装置和电子设备 | |
CN110162637A (zh) | 信息图谱构建方法、装置及设备 | |
JP2023007366A (ja) | 分子構造取得方法、装置、電子デバイス及び記憶媒体 | |
CN113470672B (zh) | 语音增强方法、装置、设备及存储介质 | |
CN113268597B (zh) | 文本分类方法、装置、设备及存储介质 | |
CN114372060A (zh) | 数据存储方法、装置、设备及存储介质 | |
CN113570391A (zh) | 基于人工智能的社群划分方法、装置、设备及存储介质 | |
CN116402166B (zh) | 一种预测模型的训练方法、装置、电子设备及存储介质 | |
CN114723652A (zh) | 细胞密度确定方法、装置、电子设备及存储介质 | |
CN116503608A (zh) | 基于人工智能的数据蒸馏方法及相关设备 | |
CN112199958A (zh) | 概念词序列生成方法、装置、计算机设备及存储介质 | |
CN116468043A (zh) | 嵌套实体识别方法、装置、设备及存储介质 | |
CN116150185A (zh) | 基于人工智能的数据标准提取方法、装置、设备及介质 | |
CN116757207A (zh) | 基于人工智能的icd自动编码方法及相关设备 | |
CN113420545B (zh) | 摘要生成方法、装置、设备及存储介质 | |
CN112016889A (zh) | 流程构建方法、装置、电子设备及存储介质 | |
CN113591881A (zh) | 基于模型融合的意图识别方法、装置、电子设备及介质 | |
CN112507185A (zh) | 用户肖像的确定方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |