CN112541067A - 知识库问题挖掘方法、装置、电子设备及存储介质 - Google Patents
知识库问题挖掘方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN112541067A CN112541067A CN202011478825.6A CN202011478825A CN112541067A CN 112541067 A CN112541067 A CN 112541067A CN 202011478825 A CN202011478825 A CN 202011478825A CN 112541067 A CN112541067 A CN 112541067A
- Authority
- CN
- China
- Prior art keywords
- standard
- mining
- feature
- model
- clustering
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/335—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Human Computer Interaction (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及智能决策领域,揭露一种知识库问题挖掘方法,包括:接收原始问题集,对所述原始问题集进行清洗和去重,得到训练问题集,利用问题特征抽取模型对所述训练问题集进行特征提取,得到问题特征集,将所述问题特征集进行聚类,得到聚类问题集,并从所述聚类问题集中提取标准问题集,利用所述标准问题集对预构建的问题挖掘模型进行迭代训练,得到标准问题挖掘模型,利用达到上线标准的标准问题挖掘模型对待挖掘的问题集进行进行问题挖掘,得到扩展问题。发明还涉及一种区块链技术,所述问题挖掘结果可以存储在区块链节点中。本发明还提出一种知识库问题挖掘装置、电子设备以及计算机可读存储介质。本发明可以实现智能挖掘扩展问题。
Description
技术领域
本发明涉及智能决策领域,尤其涉及一种知识库问题挖掘方法、装置、电子设备及计算机可读存储介质。
背景技术
企业的智能客服运营一般都是基于知识库的问答系统。知识库的问答系统中的问题和对应答案都需要人工提前编辑好,但是由于用户输入的问题在语句表述方面具有很大的差异性,且提前编辑好的问题不可能考虑到所有问题,导致智能客服对问题的解答率下降,影响智能客服的服务质量,因此知识库的问题挖掘变得尤为重要。目前企业针对知识库问题挖掘主要依赖于人工操作,通过人工读取知识库的线上日志,根据人工经验编写好标准问题和扩展问题,将编写好的标准问题和扩展问题保存至知识库中。由于人工编写问题的过程繁琐且任务量巨大,因此一般都间隔很长一段时间才去补充和更新知识库中的问题,这样导致对用户提出的问题解答率不高,影响智能客服运营的质量。
发明内容
本发明提供一种知识库问题挖掘方法、装置、电子设备及计算机可读存储介质,其主要目的在于实现智能挖掘扩展问题。
为实现上述目的,本发明提供的一种知识库问题挖掘方法,包括:
接收原始问题集,对所述原始问题集进行清洗和去重,得到训练问题集;
利用预先训练完成的问题特征抽取模型对所述训练问题集进行特征提取,得到问题特征集;
将所述问题特征集进行聚类,得到聚类问题集,并从所述聚类问题集中提取标准问题集;
利用所述标准问题集对预构建的问题挖掘模型进行迭代训练,得到标准问题挖掘模型;
利用测试问题集对所述标准问题挖掘模型进行性能评估,得到所述标准问题挖掘模型的评估分数;
根据所述评估分数,评估所述标准问题挖掘模型是否达到上线标准;
若所述标准问题挖掘模型未达到所述上线标准,则重新返回利用预先训练完成的问题特征抽取模型对所述训练问题集进行特征提取的步骤;
若所述标准问题挖掘模型达到所述上线标准,则利用所述标准问题挖掘模型对待挖掘的问题集进行问题挖掘,得到扩展问题。
可选地,所述利用预先训练完成的问题特征抽取模型对所述训练问题集进行特征提取,得到问题特征集,包括:
利用所述问题特征抽取模型中的卷积层,对所述训练问题集进行卷积操作,得到特征向量集;
利用所述问题特征抽取模型中的目标函数对所述特征向量集进行特征计算,得到问题特征集。
可选地,所述将所述问题特征集进行聚类,得到聚类问题集,包括:
步骤A、利用预设聚类类别个数选择算法从所述问题特征集中选择K个问题特征作为初始聚类中心;
步骤B、计算所述问题特征集中每个问题特征与所述初始聚类中心的距离值,并根据所述距离值将所述问题特征集进行初始聚类,得到初始聚类问题集;
步骤C、计算所述初始聚类问题集中每个问题特征的中心,将所述中心作为新聚类中心;
步骤D、计算所述问题特征集中每个问题特征与所述新聚类中心的距离值,并根据所述距离值将所述问题特征集再次聚类,并重复执行上述的步骤A至步骤D,直到完成预设循环次数,得到聚类问题集。
可选地,所述从所述聚类问题集中提取标准问题集,包括:
利用下述匹配度计算方法,计算所述聚类问题集与预构建的标准问题库中标准问题的语句匹配度T(x,y):
其中,xi表示聚类问题集的第i个聚类问题,yi表示标准问题库中的第i个标准问题;
根据所述语句匹配度,将匹配成功的聚类问题集作为标准问题集。
可选地,所述利用所述标准问题集迭代训练预构建的问题挖掘模型,得到标准问题挖掘模型之前,所述方法还包括:
将所述训练完成的问题特征抽取模型、预设的自编码问题聚类算法模型以及相对熵损失函数进行合并,得到问题挖掘模型。
可选地,所述利用所述标准问题集迭代训练预构建的问题挖掘模型,得到标准问题挖掘模型,包括:
利用所述问题特征抽取模型对所述标准问题集进行特征提取,得到标准问题特征集;
利用所述自编码问题聚类算法模型对所述标准问题特征集进行压缩降维,得到标准问题特征表征集;
计算所述标准问题特征表征集与预设的标准问题中心的距离值,根据所述距离值,利用预设的概率分布函数计算所述标准问题特征表征集的概率分布;
利用所述相对熵损失函数计算所述概率分布与预设理想分布的相对熵值;
当所述相对熵值不小于预设阈值时,调整所述标准问题挖掘模型的内部参数,直到所述相对熵值小于所述预设阈值时,得到标准问题挖掘模型。
可选地,所述利用所述标准问题挖掘模型对待挖掘的问题集进行问题挖掘,得到扩展问题之后,还包括:
将所述扩展问题转换成标准问题-扩展问题的格式后添加至预设知识库中。
为了解决上述问题,本发明还提供一种知识库问题挖掘装置,所述装置包括:
问题特征抽取模块,用于接收原始问题集,对所述原始问题集进行清洗和去重,得到训练问题集,利用预先训练完成的问题特征抽取模型对所述训练问题集进行特征提取,得到问题特征集;
问题聚类模块,用于将所述问题特征集进行聚类,得到聚类问题集,并从所述聚类问题集中提取标准问题集;
模型训练模块,用于利用所述标准问题集对预构建的问题挖掘模型进行迭代训练,得到标准问题挖掘模型,利用测试问题集对所述标准问题挖掘模型进行性能评估,得到所述标准问题挖掘模型的评估分数,根据所述评估分数,评估所述标准问题挖掘模型是否达到上线标准;
问题挖掘模块,用于若所述标准问题挖掘模型达到所述上线标准,则利用所述标准问题挖掘模型对待挖掘的问题集进行问题挖掘,得到扩展问题。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
至少一个处理器:以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够实现上述中任意一项所述的知识库问题挖掘方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,包括存储数据区和存储程序区,所述存储数据区存储创建的数据,所述存储程序区存储有计算机程序,其中,所述计算机程序被处理器执行时实现上述所述的知识库问题挖掘方法。
本发明实施例首先对原始问题集进行清洗和去重,得到训练问题集,并对训练问题集进行特征提取,得到问题特征集,由于特征提取可有效提取出每个目标问题的特征,同时对提取到的特征进行计算,减少了非目标问题特征的干扰;将所述问题特征集进行聚类,得到聚类问题集,并从所述聚类问题集中提取标准问题集,通过标准问题集对预构建的问题挖掘模型进行迭代训练,得到标准问题挖掘模型,由于有效地提取出了标准问题,并根据标准问题训练问题挖掘模型,避免了由于标准问题提取不恰当,导致对整个问题挖掘过程的影响,故可以提高问题挖掘的准确度。进一步地,本发明通过测试问题集评估标准问题挖掘模型,根据评估分数评估标准问题集挖掘模型是否达到上线标准,利用达到上线标准的标准问题挖掘模型对待挖掘问题集进行问题挖掘,得到扩展问题,由于将标准问题挖掘模型进行了有效评估,并按照评估结果得到达到上线标准的标准问题挖掘模型,避免由于标准问题挖掘模型的问题挖掘效果不佳,降低整个问题挖掘过程的效率。因此,本发明提出的知识库问题挖掘方法、装置及计算机可读存储介质,可以实现智能挖掘扩展问题。
附图说明
图1为本发明一实施例提供的知识库问题挖掘方法的流程示意图;
图2为本发明一实施例提供的知识库问题挖掘方法中S3的详细流程示意图;
图3为本发明一实施例提供的知识库问题挖掘方法中S4的详细流程示意图;
图4为本发明一实施例提供的知识库问题挖掘装置的模块示意图;
图5为本发明一实施例提供的实现知识库问题挖掘方法的电子设备的内部结构示意图;
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本申请实施例提供一种知识库问题挖掘方法。所述知识库问题挖掘方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之,所述知识库问题挖掘方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。
参照图1所示,为本发明一实施例提供的知识库问题挖掘方法的流程示意图。在本实施例中,所述知识库问题挖掘方法包括:
S1、接收原始问题集,对所述原始问题集进行清洗和去重,得到训练问题集。
本发明实施例中,所述原始问题集可以是某一具体应用场景下可能产生的所有问题的集合,可以通过从网络中爬取并由专业人员进行汇整得到。其中,所述具体应用场景包括银行智能客服、保险智能客服等。以银行智能客服场景为例,当前受新型冠状肺炎影响,银行客户可能会咨询在疫情期间如何还贷,本发明实施例需要根据客户输入的多表述的但意图相同的关于疫情期间如何还贷的问题挖掘出扩展问题,以提高对用户输入的问题的答案命中率。
进一步地,本发明实施例可以利用python正则表达式对所述原始问题集进行清洗,清洗出所述原始问题集中的特殊字符等,并将清洗后的原始问题集进行去重。
本发明其中一个实施例可以采用如下方法将清洗后的原始问题集进行去重:
其中d表示原始问题集中任意两个问题的距离值,w1j和w2j是原始问题集中任意两个原始问题的向量表示。
本发明实施例将上述计算出来的距离值与预设的距离值进行比较,当所述距离值小于预设的距离值时,本发明实施例删除其中任意一个原始问题,若所述距离值不小于预设的距离值时,则同时保留两个原始问题。较佳地,本发明实施例所述预设的距离值可以为0.1。
S2、利用预先训练完成的问题特征抽取模型对所述训练问题集进行特征提取,得到问题特征集。
本发明较佳实施例中,所述预先训练完成的问题特征抽取模型包括卷积层及目标函数。本发明实施例利用所述问题特征抽取模型中的卷积层,对所述训练问题集进行卷积操作,得到特征向量集;进一步地,;利用所述问题特征抽取模型中的目标函数对所述特征向量集进行特征计算,得到问题特征集。
本发明其中一个实施例可以采用如下目标函数对所述特征向量集进行特征计算:
其中,ELMO表示问题特征集,L表示卷积层,j表示卷积层数,γ表示卷积层的缩放系数,k表示特征向量在卷积层中的位置,sj表示卷积层中逻辑回归的权重系数,hk,j表示每个卷积层中双向拼接的特征向量。
进一步地,本发明实施例中所述S2之前还包括:
获取预训练问题集;
利用问题特征抽取模型中的卷积层对所述预训练问题集进行卷积操作,得到预训练特征向量集;
利用所述问题特征抽取模型中预设的目标函数对所述预训练特征向量集进行特征计算,得到预训练问题特征集;
利用预设的特征损失函数计算所述预训练问题特征集的损失值,当所述损失值大于预设阈值时,调整所述问题特征抽取模型中的参数,直到所述损失值不大于预设阈值。
S3、将所述问题特征集进行聚类,得到聚类问题集,并从所述聚类问题集中提取标准问题集。
详细地,参阅图2所示,所述将问题特征集进行聚类,得到聚类问题集具体包括:
S31、利用预设聚类类别个数选择算法从所述问题特征集中选择K个问题特征作为初始聚类中心;
本发明其中一个实施例中,可采用当前已知的肘部法则(Elbow Method)进行聚类类别个数选择,如利用肘部法则可将聚类类别个数K选择为4。
在所述肘部法则中,用横轴表示聚类类别个数K的取值,纵轴表示每个初始聚类类别与所述初始聚类中心点的距离,随着聚类类别个数的增加,所述距离会随之降低,当所述距离的下降幅度明显趋于缓慢时,取该“肘部”点对应横轴上的坐标作为K值。
S32、计算所述问题特征集中每个问题特征与所述初始聚类中心的距离值,并根据所述距离值将所述问题特征集进行初始聚类,得到初始聚类问题集;
本发明实施例中,利用如下距离公式计算所述问题特征集中每个问题特征与所述初始聚类中心的距离值D(x,y):
其中,n表示问题特征的维度数,xi表示问题特征集的第i个问题特征,yi表示初始聚类中心的第i个聚类中心。
S33、计算所述初始聚类问题集中每个问题特征的中心,将所述中心作为新聚类中心;
S34、计算所述问题特征集中每个问题特征与所述新聚类中心的距离值,并根据所述距离值将所述问题特征集再次聚类,并执行S35,判断是否完成预设循环次数。
若没有完成预设的循环次数,则重复执行上述的步骤S31至步骤S34,直到完成预设循环次数,执行S36、得到聚类问题集。
进一步地,本发明实施例可以计算所述聚类问题集与预构建的标准问题库中的标准问题的语句匹配度,根据所述语句匹配度,将匹配成功的聚类问题集作为标准问题集。
本发明其中一个实施例中,采用如下匹配度计算方法计算所述聚类问题集与预构建的标准问题库中标准问题的语句匹配度T(x,y):
其中,xi表示聚类问题集的第i个聚类问题,yi表示标准问题库中的第i个标准问题。
S4、利用所述标准问题集对预构建的问题挖掘模型进行迭代训练,得到标准问题挖掘模型。
本发明其中一个实施例中,所述问题挖掘模型是由所述训练完成的问题特征抽取模型、预设的自编码问题聚类算法模型以及相对熵损失函数进行合并得到的。
详细地,参照图3所示,所述S4具体包括:
S41、利用所述问题特征抽取模型对所述标准问题集进行特征提取,得到标准问题特征集;
S42、利用所述自编码问题聚类算法模型对所述标准问题特征集进行压缩降维,得到标准问题特征表征集;
S43、计算所述标准问题特征表征集与预设的标准问题中心的距离值,根据所述距离值,利用预设的概率分布函数计算所述标准问题特征表征集的概率分布;
本发明较佳实施例中,可以利用如下概率分布函数,计算所述标准问题特征表征集的概率分布qij:
其中,qij表示所述标准问题表征集的概率分布,i表示第i个标准问题特征表征,j表示第j个预设的标准问题中心,zi表示第i个标准问题特征表征的表征空间,uj表示第j个预设的标准问题中心的质心,||zi-uj||2表示第i个标准问题特征表征与第j个预设的标准问题中心的距离,α表示概率分布qij的自由度,本发明一个实施例中,α可以为1。
S44、利用所述相对熵损失函数计算所述概率分布与预设理想分布的相对熵值;
本发明一个实施例中,所述相对熵损失函数包括:
其中,L表示相对熵损失值,i表示第i个标准问题特征表征,j表示第j个预设的标准问题中心,pij表示预设理想分布,qij表示所述标准问题表征集的概率分布。
S45、判断所述相对熵值是否小于预设阈值。
当所述相对熵值不小于预设阈值时,执行S46、调整所述问题挖掘模型的内部参数,直到所述相对熵值小于所述预设阈值时,执行S47,得到标准问题挖掘模型。
S5、利用测试问题集对所述标准问题挖掘模型进行性能评估,得到所述标准问题挖掘模型的评估分数。
本发明较佳实施例中,所述测试问题集是智能客服运营人员将某一具体场景下的问题进行整理得到的标准问题-扩展问题格式的问题集合。以银行智能客服场景为例,如所述测试问题集可以为疫情延期还款-疫情没有还款会怎样、疫情期间贷款还不上怎样、疫情期间可以推迟还贷吗等。
本发明一个实施例,将所述测试问题集逐条输入至所述标准问题挖掘模型,判断所述标准问题挖掘模型是否能识别所述测试问题集,对每个测试问题返回的结果进行标注,得到标注结果,并根据下述的双重指标加权的策略对所述标准问题挖掘模型进行性能评估,得到评估分数F:
F=0.3*FRR+0.7*FAR
FRR=FN/(TP+FN)*100%
FAR=FP/(TN+FP)*100%
其中,FRR表示拒识率,FAR表示误识率,TP为标注结果表示不是扩展问题,实际也不是扩展问题,FP为标注结果表示不是扩展问题,实际是扩展问题,FN为标注结果表示是扩展问题,实际是扩展问题,TN为标注结果表示是扩展问题,实际不是扩展问题。
S6、根据所述评估分数,评估所述标准问题挖掘模型是否达到上线标准。
本发明较佳实施例中,所述上线标准可以为0.3,其中当所述标准问题挖掘模型的评估分数小于0.3时,则所述标准问题挖掘模型达到上线标准,当所述标准问题挖掘模型的评估分数不小于0.3时,则所述标准问题挖掘模型未达到上线标准。
若所述标准问题挖掘模型未达到上线标准,则重新返回上述的步骤S2,直至达到所述上线标准。
S7、若所述标准问题挖掘模型达到上线标准,则利用所述标准问题挖掘模型对待挖掘的问题集进行问题挖掘,得到扩展问题。
详细地,本发明较佳实施例利用所述标准问题挖掘模型中所述预先训练完成的问题特征抽取模型对待挖掘的问题集进行特征提取,得到待挖掘问题特征集,进一步地,利用所述标准问题挖掘模型中预设的自编码问题聚类算法模型对所述待挖掘问题特征集进行聚类,得到聚类待挖掘问题集,并从所述聚类待挖掘问题集中提取扩展问题。
较佳地,本发明实施例在S7步骤后,还包括:将所述扩展问题转换成标准问题-扩展问题的格式后添加至知识库。
本发明的另一实施例中,为了保证数据的隐私性,所述标准问题-扩展问题可以存储在区块链的节点中。
本发明实施例首先对原始问题集进行清洗和去重,得到训练问题集,并对训练问题集进行特征提取,得到问题特征集,由于特征提取可有效提取出每个目标问题的特征,同时对提取到的特征进行计算,减少了非目标问题特征的干扰;将所述问题特征集进行聚类,得到聚类问题集,并从所述聚类问题集中提取标准问题集,通过标准问题集迭代训练预构建的问题挖掘模型,得到标准问题挖掘模型,由于有效地提取出了标准问题,并根据标准问题训练问题挖掘模型,避免了由于标准问题提取不恰当,导致对整个问题挖掘过程的影响,故可以提高问题挖掘的准确度。进一步地,本发明通过测试问题集评估标准问题挖掘模型,根据评估分数评估标准问题集挖掘模型是否达到上线标准,利用达到上线标准的标准问题挖掘模型对待挖掘问题集进行问题挖掘,得到扩展问题,由于将标准问题挖掘模型进行了有效评估,并按照评估结果得到达到上线标准的标准问题挖掘模型,避免由于标准问题挖掘模型的问题挖掘效果不佳,降低整个问题挖掘过程的效率。因此,本发明提出的知识库问题挖掘方法、装置及计算机计算机可读存储介质,可以实现智能挖掘扩展问题。
如图4所示,是本发明知识库问题挖掘装置的模块示意图。
本发明所述知识库问题挖掘装置100可以安装于电子设备中。根据实现的功能,所述知识库问题挖掘装置可以包括问题特征抽取模块101、问题聚类模块102、模型训练模块103及问题挖掘模块104。本发所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述问题特征抽取模块101,用于接收原始问题集,对所述原始问题集进行清洗和去重,得到训练问题集,用预先训练完成的问题特征抽取模型对所述训练问题集进行特征提取,得到问题特征集;
所述问题聚类模块102,用于将所述问题特征集进行聚类,得到聚类问题集,并从所述聚类问题集中提取标准问题集;
所述模型训练模块103,用于利用所述标准问题集对预构建的问题挖掘模型进行迭代训练,得到标准问题挖掘模型,利用测试问题集对所述标准问题挖掘模型进行性能评估,得到所述标准问题挖掘模型的评估分数,根据所述评估分数,评估所述标准问题挖掘模型是否达到上线标准,若所述标准问题挖掘模型未达到上线标准,则重新返回利用训练完成的问题特征抽取模型对所述训练问题集进行特征提取的步骤;
所述问题挖掘模块104,用于若所述标准问题挖掘模型达到上线标准,则利用所述标准问题挖掘模型对待挖掘的问题集进行问题挖掘,得到扩展问题。
本发明实施例中,所述知识库问题挖掘装置100中的各个模块再由电子设备的处理器所执行时,可以实现上述如图1至3中所述的知识库问题挖掘方法,并产生相同的有益效果,这里不再赘述。
如图5所示,是本发明实现知识库问题挖掘方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如知识库问题挖掘程序12。
其中,所述存储器11至少包括一种类型的计算机可读存储介质,所述计算机可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如知识库问题挖掘程序12的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如执行知识库问题挖掘程序等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图5仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图5示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的知识库问题挖掘程序12是多个指令的组合,在所述处理器10中运行时,可以实现:
接收原始问题集,对所述原始问题集进行清洗和去重,得到训练问题集;
利用预先训练完成的问题特征抽取模型对所述训练问题集进行特征提取,得到问题特征集;
将所述问题特征集进行聚类,得到聚类问题集,并从所述聚类问题集中提取标准问题集;
利用所述标准问题集对预构建的问题挖掘模型进行迭代训练,得到标准问题挖掘模型;
利用测试问题集对所述标准问题挖掘模型进行性能评估,得到所述标准问题挖掘模型的评估分数;
根据所述评估分数,评估所述标准问题挖掘模型是否达到上线标准;
若所述标准问题挖掘模型未达到上线标准,则重新返回利用训练完成的问题特征抽取模型对所述训练问题集进行特征提取的步骤;
用于若所述标准问题挖掘模型达到上线标准,则利用所述标准问题挖掘模型对待挖掘的问题集进行问题挖掘,得到扩展问题。
进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
进一步地,所述计算机可用存储介质可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序等;存储数据区可存储根据区块链节点的使用所创建的数据等。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图表记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种知识库问题挖掘方法,其特征在于,所述方法包括:
接收原始问题集,对所述原始问题集进行清洗和去重,得到训练问题集;
利用预先训练完成的问题特征抽取模型对所述训练问题集进行特征提取,得到问题特征集;
将所述问题特征集进行聚类,得到聚类问题集,并从所述聚类问题集中提取标准问题集;
利用所述标准问题集对预构建的问题挖掘模型进行迭代训练,得到标准问题挖掘模型;
利用测试问题集对所述标准问题挖掘模型进行性能评估,得到所述标准问题挖掘模型的评估分数;
根据所述评估分数,评估所述标准问题挖掘模型是否达到上线标准;
若所述标准问题挖掘模型未达到所述上线标准,则重新返回利用预先训练完成的问题特征抽取模型对所述训练问题集进行特征提取的步骤;
若所述标准问题挖掘模型达到所述上线标准,则利用所述标准问题挖掘模型对待挖掘的问题集进行问题挖掘,得到扩展问题。
2.如权利要求1所述的知识库问题挖掘方法,其特征在于,所述利用预先训练完成的问题特征抽取模型对所述训练问题集进行特征提取,得到问题特征集,包括:
利用所述问题特征抽取模型中的卷积层,对所述训练问题集进行卷积操作,得到特征向量集;
利用所述问题特征抽取模型中的目标函数对所述特征向量集进行特征计算,得到问题特征集。
3.如权利要求1所述的知识库问题挖掘方法,其特征在于,所述将所述问题特征集进行聚类,得到聚类问题集,包括:
步骤A、利用预设聚类类别个数选择算法从所述问题特征集中选择K个问题特征作为初始聚类中心;
步骤B、计算所述问题特征集中每个问题特征与所述初始聚类中心的距离值,并根据所述距离值将所述问题特征集进行初始聚类,得到初始聚类问题集;
步骤C、计算所述初始聚类问题集中每个问题特征的中心,将所述中心作为新聚类中心;
步骤D、计算所述问题特征集中每个问题特征与所述新聚类中心的距离值,并根据所述距离值将所述问题特征集再次聚类,并重复执行上述的步骤A至步骤D,直到完成预设循环次数,得到聚类问题集。
5.如权利要求1所述的知识库问题挖掘方法,其特征在于,所述利用所述标准问题集对预构建的问题挖掘模型进行迭代训练,得到标准问题挖掘模型之前,所述方法还包括:
将所述训练完成的问题特征抽取模型、预设的自编码问题聚类算法模型以及相对熵损失函数进行合并,得到问题挖掘模型。
6.如权利要求5所述的知识库问题挖掘方法,其特征在于,所述利用所述标准问题集迭代训练预构建的问题挖掘模型,得到标准问题挖掘模型,包括:
利用所述问题特征抽取模型对所述标准问题集进行特征提取,得到标准问题特征集;
利用所述自编码问题聚类算法模型对所述标准问题特征集进行压缩降维,得到标准问题特征表征集;
计算所述标准问题特征表征集与预设的标准问题中心的距离值,根据所述距离值,利用预设的概率分布函数计算所述标准问题特征表征集的概率分布;
利用所述相对熵损失函数计算所述概率分布与预设理想分布的相对熵值;
当所述相对熵值不小于预设阈值时,调整所述所述标准问题挖掘模型的内部参数,直到所述相对熵值小于所述预设阈值时,得到标准问题挖掘模型。
7.如权利要求1所述的知识库问题挖掘方法,其特征在于,所述利用所述标准问题挖掘模型对待挖掘的问题集进行问题挖掘,得到扩展问题之后,还包括:
将所述扩展问题转换成标准问题-扩展问题的格式后添加至预设知识库中。
8.一种知识库问题挖掘装置,其特征在于,所述装置包括:
问题特征抽取模块,用于接收原始问题集,对所述原始问题集进行清洗和去重,得到训练问题集,利用预先训练完成的问题特征抽取模型对所述训练问题集进行特征提取,得到问题特征集;
问题聚类模块,用于将所述问题特征集进行聚类,得到聚类问题集,并从所述聚类问题集中提取标准问题集;
模型训练模块,用于利用所述标准问题集对预构建的问题挖掘模型进行迭代训练,得到标准问题挖掘模型,利用测试问题集对所述标准问题挖掘模型进行性能评估,得到所述标准问题挖掘模型的评估分数,根据所述评估分数,评估所述标准问题挖掘模型是否达到上线标准;
问题挖掘模块,用于若所述标准问题挖掘模型达到所述上线标准,则利用所述标准问题挖掘模型对待挖掘的问题集进行问题挖掘,得到扩展问题。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至7中任一项所述的知识库问题挖掘方法。
10.一种计算机可读存储介质,包括存储数据区和存储程序区,所述存储数据区存储创建的数据,所述存储程序区存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的知识库问题挖掘方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011478825.6A CN112541067A (zh) | 2020-12-15 | 2020-12-15 | 知识库问题挖掘方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011478825.6A CN112541067A (zh) | 2020-12-15 | 2020-12-15 | 知识库问题挖掘方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112541067A true CN112541067A (zh) | 2021-03-23 |
Family
ID=75018755
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011478825.6A Pending CN112541067A (zh) | 2020-12-15 | 2020-12-15 | 知识库问题挖掘方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112541067A (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105608199A (zh) * | 2015-12-25 | 2016-05-25 | 上海智臻智能网络科技股份有限公司 | 用于智能问答系统中的标准问的扩展方法和装置 |
CN106649742A (zh) * | 2016-12-26 | 2017-05-10 | 上海智臻智能网络科技股份有限公司 | 数据库维护方法和装置 |
CN108804567A (zh) * | 2018-05-22 | 2018-11-13 | 平安科技(深圳)有限公司 | 提高智能客服应答率的方法、设备、存储介质及装置 |
CN109784352A (zh) * | 2017-11-14 | 2019-05-21 | 北京京东尚科信息技术有限公司 | 一种评估分类模型的方法和装置 |
CN110263618A (zh) * | 2019-04-30 | 2019-09-20 | 阿里巴巴集团控股有限公司 | 一种核身模型的迭代方法和装置 |
US20190295533A1 (en) * | 2018-01-26 | 2019-09-26 | Shanghai Xiaoi Robot Technology Co., Ltd. | Intelligent interactive method and apparatus, computer device and computer readable storage medium |
CN111382235A (zh) * | 2018-12-27 | 2020-07-07 | 上海智臻智能网络科技股份有限公司 | 一种问答知识库的优化方法及其装置 |
-
2020
- 2020-12-15 CN CN202011478825.6A patent/CN112541067A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105608199A (zh) * | 2015-12-25 | 2016-05-25 | 上海智臻智能网络科技股份有限公司 | 用于智能问答系统中的标准问的扩展方法和装置 |
CN106649742A (zh) * | 2016-12-26 | 2017-05-10 | 上海智臻智能网络科技股份有限公司 | 数据库维护方法和装置 |
CN109784352A (zh) * | 2017-11-14 | 2019-05-21 | 北京京东尚科信息技术有限公司 | 一种评估分类模型的方法和装置 |
US20190295533A1 (en) * | 2018-01-26 | 2019-09-26 | Shanghai Xiaoi Robot Technology Co., Ltd. | Intelligent interactive method and apparatus, computer device and computer readable storage medium |
CN108804567A (zh) * | 2018-05-22 | 2018-11-13 | 平安科技(深圳)有限公司 | 提高智能客服应答率的方法、设备、存储介质及装置 |
CN111382235A (zh) * | 2018-12-27 | 2020-07-07 | 上海智臻智能网络科技股份有限公司 | 一种问答知识库的优化方法及其装置 |
CN110263618A (zh) * | 2019-04-30 | 2019-09-20 | 阿里巴巴集团控股有限公司 | 一种核身模型的迭代方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108428132B (zh) | 欺诈交易识别方法、装置、服务器及存储介质 | |
CN107909178B (zh) | 电子装置、失联修复率预测方法和计算机可读存储介质 | |
CN113449187A (zh) | 基于双画像的产品推荐方法、装置、设备及存储介质 | |
CN114663198A (zh) | 基于用户画像的产品推荐方法、装置、设备及存储介质 | |
CN112257578A (zh) | 人脸关键点检测方法、装置、电子设备及存储介质 | |
CN113886691A (zh) | 基于历史数据的智能推荐方法、装置、电子设备及介质 | |
CN113064994A (zh) | 会议质量评估方法、装置、设备及存储介质 | |
CN111652278A (zh) | 用户行为检测方法、装置、电子设备及介质 | |
CN112988963A (zh) | 基于多流程节点的用户意图预测方法、装置、设备及介质 | |
CN114491047A (zh) | 多标签文本分类方法、装置、电子设备及存储介质 | |
CN115018588A (zh) | 产品推荐方法、装置、电子设备及可读存储介质 | |
CN113516417A (zh) | 基于智能建模的业务评估方法、装置、电子设备及介质 | |
CN113886708A (zh) | 基于用户信息的产品推荐方法、装置、设备及存储介质 | |
CN113268665A (zh) | 基于随机森林的信息推荐方法、装置、设备及存储介质 | |
CN115392237A (zh) | 情感分析模型训练方法、装置、设备及存储介质 | |
CN114862140A (zh) | 基于行为分析的潜力评估方法、装置、设备及存储介质 | |
CN113704474B (zh) | 银行网点设备操作指引生成方法、装置、设备及存储介质 | |
CN113918704A (zh) | 基于机器学习的问答方法、装置、电子设备及介质 | |
CN113837631A (zh) | 员工评价方法、装置、电子设备及可读存储介质 | |
CN113362162A (zh) | 基于网络行为数据的风控识别方法、装置、电子设备及介质 | |
CN113435746B (zh) | 用户工作量的评分方法、装置、电子设备及存储介质 | |
CN112541067A (zh) | 知识库问题挖掘方法、装置、电子设备及存储介质 | |
CN114610854A (zh) | 智能问答方法、装置、设备及存储介质 | |
CN115049383A (zh) | 组合支付推荐方法、装置、电子设备及存储介质 | |
CN113888265A (zh) | 产品推荐方法、装置、设备及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |