CN112685547A - 话术模板评估方法、装置、电子设备及存储介质 - Google Patents

话术模板评估方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN112685547A
CN112685547A CN202011600019.1A CN202011600019A CN112685547A CN 112685547 A CN112685547 A CN 112685547A CN 202011600019 A CN202011600019 A CN 202011600019A CN 112685547 A CN112685547 A CN 112685547A
Authority
CN
China
Prior art keywords
evaluation
evaluated
template
model
dialect
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011600019.1A
Other languages
English (en)
Inventor
庞承杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Puhui Enterprise Management Co Ltd
Original Assignee
Ping An Puhui Enterprise Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Puhui Enterprise Management Co Ltd filed Critical Ping An Puhui Enterprise Management Co Ltd
Priority to CN202011600019.1A priority Critical patent/CN112685547A/zh
Publication of CN112685547A publication Critical patent/CN112685547A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明涉及人工智能技术领域,提供一种话术模板评估方法、装置、电子设备及存储介质,所述方法包括:接收客户端发送的话术模板的待评估请求;提取待评估话术模板的多个历史版本的交互数据;根据多个历史版本的交互数据构建多个评估模型;提取待评估话术模板的当前版本的交互数据,并在当前版本的交互数据的基础上挖掘并提取多个特征参数;将多个特征参数输入至对应的评估模型中进行评估,得到评估结果;根据多个评估结果对待评估话术模板的当前版本进行评估,获得目标评估结果。本发明通过所述多个评估模型的多个评估结果综合评估待评估话术模板,从多个维度对待评估话术模板同时进行评估,提高了评估结果的准确率。

Description

话术模板评估方法、装置、电子设备及存储介质
技术领域
本发明涉及人工智能技术领域,具体涉及一种话术模板评估方法、装置、电子设备及存储介质。
背景技术
随着人工智能市场的扩张,越来越多的产业在工作中使用人工智能,通过人工智能与用户进行交互获取交互信息,现有技术根据话术模板与用户进行交互,由于话术模板是固定的,在交互过程中人工智能无法根据用户的思想及时的更新话术模板,在后期更新话术模板过程中,以人工操作的标准进行更新,无法根据具体的历史交互数据从多个维度进行话术模板的评估,导致话术模板评估的准确率低。
发明内容
鉴于以上内容,有必要提出一种话术模板评估方法、装置、电子设备及存储介质,通过所述多个评估模型的多个评估结果综合评估待评估话术模板,从多个维度对待评估话术模板同时进行评估,提高了评估结果的准确率。
本发明的第一方面提供一种话术模板评估方法,所述方法包括:
接收客户端发送的话术模板的待评估请求,其中,所述待评估请求中包括待评估话术模板;
提取所述待评估话术模板的多个历史版本的交互数据;
根据所述待评估话术模板的多个历史版本的交互数据构建多个评估模型;
提取所述待评估话术模板的当前版本的交互数据,并在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数;
将所述多个特征参数输入至对应的评估模型中进行评估,得到评估结果;
根据多个所述评估结果对所述待评估话术模板的当前版本进行评估,获得目标评估结果。
可选的,所述根据所述待评估话术模板的多个历史版本的交互数据构建多个评估模型包括:
将所述待评估话术模板的多个历史版本的交互数据分别输入至多个机器学习模型中进行训练;
获取训练完成的机器学习模型的模型参数;
根据每个机器学习模型的模型参数构建对应的机器学习模型的评估模型。
可选的,所述将所述待评估话术模板的多个历史版本的交互数据分别输入至多个机器学习模型中进行训练包括:
针对每个机器学习模型,从所述多个历史版本的交互数据中提取出所述机器学习模型的多个模型参数及每个模型参数对应的评分作为样本数据集;
从所述样本数据集中划分出训练集和测试集;
将所述训练集输入预设神经网络中进行训练,得到所述机器学习模型的评估模型;
将所述测试集输入至所述机器学习模型的评估模型中进行测试,并计算测试通过率;
若所述测试通过率大于预设通过率阈值,确定所述机器学习模型的评估模型训练结束;若所述测试通过率小于预设通过率阈值,增加训练集的数量,重新进行所述机器学习模型的评估模型的训练。
可选的,所述在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数包括:
去除所述当前版本的交互数据中的冗余数据;
根据预设的缺失比例处理规则对所述当前版本的交互数据进行归一化;
对类别型数据进行编码,并转换为数值型数据;
从所述数值型数据中提取每个所述评估模型对应的多个特征参数。
可选的,所述根据多个所述评估结果对所述待评估话术模板的当前版本进行评估,获得目标评估结果包括:
获取待评估话术模板的当前版本的上一版本的多个评估结果;
比对所述当前版本的多个评估结果与所述上一版本的多个评估结果,返回多个比对结果;
根据所述多个比对结果确定目标评估结果。
可选的,在所述根据所述多个比对结果确定目标评估结果之后,所述方法还包括:
获取每个评估结果的预设权重;
根据所述多个比对结果及每个评估结果的预设权重确定目标评估结果。
可选的,所述根据所述多个比对结果及每个评估结果的预设权重确定目标评估结果包括:
判断每个比对结果是否满足预设的更新阈值;
当任意一个比对结果满足预设的第一更新阈值时,判断所述比对结果的评估结果的预设权重是否满足预设的第二更新阈值;
当所述比对结果的评估结果的预设权重满足所述预设的第二更新阈值,确定所述目标评估结果为更新所述待评估话术模板的当前版本;或者
当所述比对结果的评估结果的预设权重不满足所述预设的第二更新阈值,确定所述目标评估结果为不更新所述待评估话术模板的当前版本。
本发明的第二方面提供一种话术模板评估装置,所述装置包括:
接收模块,用于接收客户端发送的话术模板的待评估请求,其中,所述待评估请求中包括待评估话术模板;
第一提取模块,用于提取所述待评估话术模板的多个历史版本的交互数据;
构建模块,用于根据所述待评估话术模板的多个历史版本的交互数据构建多个评估模型;
第二提取模块,用于提取所述待评估话术模板的当前版本的交互数据,并在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数;
输入模块,用于将所述多个特征参数输入至对应的评估模型中进行评估,得到评估结果;
评估模块,用于根据多个所述评估结果对所述待评估话术模板的当前版本进行评估,获得目标评估结果。
本发明的第三方面提供一种电子设备,所述电子设备包括处理器和存储器,所述处理器用于执行所述存储器中存储的计算机程序时实现所述的话术模板评估方法。
本发明的第四方面提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现所述的话术模板评估方法。
综上所述,本发明所述的话术模板评估方法、装置、电子设备及存储介质,一方面,通过将待评估话术模板的历史版本的交互数据分别输入至多个机器学习模型中,得到每个机器学习模型的模型参数,而不是根据人工意图进行提取模型参数,确保提取得到的模型参数的主观性及准确率;另一方面,通过在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数,确保了基础数据的一致性,进而提高了评估结果的准确率;最后,每个评估结果都可以用以评估所述待评估话术模板中的对应的指标,根据所述多个评估模型的多个评估结果综合评估所述待评估话术模板,从多个维度对待评估话术模板同时进行评估,提高了评估结果的准确率。
此外,根据所述多个评估模型的多个评估结果对所述待评估话术模板的当前版本进行评估,并根据比对结果对应的评估结果的权重的大小确定到底更新所述待评估话术模板的当前版本的具体参数,提高了更新所述待评估话术模板的多样性。
附图说明
图1是本发明实施例一提供的话术模板评估方法的流程图。
图2是本发明实施例二提供的话术模板评估装置的结构图。
图3是本发明实施例三提供的电子设备的结构示意图。
如下具体实施方式将结合上述附图进一步说明本发明。
具体实施方式
为了能够更清楚地理解本发明的上述目的、特征和优点,下面结合附图和具体实施例对本发明进行详细描述。需要说明的是,在不冲突的情况下,本发明的实施例及实施例中的特征可以相互组合。
除非另有定义,本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本文中在本发明的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本发明。
实施例一
图1是本发明实施例一提供的话术模板评估方法的流程图。
在本实施例中,所述话术模板评估方法可以应用于电子设备中,对于需要进行话术模板评估的电子设备,可以直接在电子设备上集成本发明的方法所提供的话术模板评估的功能,或者以软件开发工具包(Software Development Kit,SKD)的形式运行在电子设备中。
如图1所示,所述话术模板评估方法具体包括以下步骤,根据不同的需求,该流程图中步骤的顺序可以改变,某些可以省略。
S11,接收客户端发送的话术模板的待评估请求,其中,所述待评估请求中包括待评估话术模板。
本实施例中,所述待评估请求是用于请求对当前的话术模板进行评估,确定当前的话术模板是否需要更新或者更换,具体地,在接收到客户端发送的话术模板的待评估请求时,解析所述待评估请求获取所述评估请求中的多个待评估话术模板。
S12,提取所述待评估话术模板的多个历史版本的交互数据。
本实施例中,由于不同的待评估话术模板的话术要求不同,针对不同的待评估话术模板提取的历史版本的交互数据也不同。
可选地,所述提取所述待评估话术模板的多个历史版本的交互数据包括:
识别待评估话术模板的类型;
根据所述类型对应的提取规则从预设的多个数据源中提取所述待评估话术模板的多个历史版本的交互数据。
本实施例中,通过识别待评估话术模板的类型,针对所述待评估话术模板的类型按照预设的提取规则进行提取,具体地,获取预设的多个数据源,从每个数据源中按照所述预设的提取规则提取所述待评估话术模板的历史交互数据。
本实施例中,通过按照不同的待评估话术模板的类型提取不同的历史交互数据,确保了提取的历史交互数据的准确率,根据所述历史交互数据进行所述待评估话术模板的评估,提高了评估效率。
S13,根据所述待评估话术模板的多个历史版本的交互数据构建多个评估模型。
本实施例中,针对待评估话术模板根据历史版本的交互数据从多个维度同时进行评估,在评估过程中,首先创建多个评估模型,具体地,每个评估模型输出一个评估指标,并且,每个评估模型都是机器根据历史版本的交互数据进行学习得到的,不是用户根据主观判断得到的,提高了评估的准确率。
可选地,所述根据所述待评估话术模板的多个历史版本的交互数据构建多个评估模型包括:
将所述待评估话术模板的多个历史版本的交互数据分别输入至多个机器学习模型中进行训练;
获取训练完成的机器学习模型的模型参数;
根据每个机器学习模型的模型参数构建对应的机器学习模型的评估模型。
本实施例中,所述多个机器学习模型可以为逻辑回归、岭回归及随机森林等机器学习模型,具体地,所述逻辑回归是一种分类学习算法,通过根据历史版本的交互数据建立代价函数,然后通过优化方法迭代进行求解得到模型参数,然后测试验证求解得的模型的好坏,可以用来评估所述待评估话术模板的分类的准确率;岭回归属于一种线性回归模型,通过根据历史版本的交互数据构建线性回归模型的目标函数,然后通过求解目标函数得到模型参数,可以用来评估所述待评估话术模板的容错率;随机森林一种由决策树构成的集成算法,通过将历史版本的交互数据构建成决策树,对每一棵决策树进行判断和分类得到模型参数,可以用来评估所述待评估话术模板的多样性。
本实施例中,通过将待评估话术模板的历史版本的交互数据分别输入至多个机器学习模型中,得到每个机器学习模型的模型参数,而不是根据人工意图进行提取模型参数,确保提取得到的模型参数的主观性及准确率。
具体地,所述将所述待评估话术模板的多个历史版本的交互数据分别输入至多个机器学习模型中进行训练包括:
针对每个机器学习模型,从所述多个历史版本的交互数据中提取出所述机器学习模型的多个模型参数及每个模型参数对应的评分作为样本数据集;
从所述样本数据集中划分出训练集和测试集;
将所述训练集输入预设神经网络中进行训练,得到所述机器学习模型的评估模型;
将所述测试集输入至所述机器学习模型的评估模型中进行测试,并计算测试通过率;
若所述测试通过率大于预设通过率阈值,确定所述机器学习模型的评估模型训练结束;若所述测试通过率小于预设通过率阈值,增加训练集的数量,重新进行所述机器学习模型的评估模型的训练。
本实施例中,可以在确定好每个评估模型对应的模型参数时,从所述历史版本的交互数据中提取出每个机器学习模型对应的多个模型参数及每个模型参数对应的评分,将所述每个机器学习模型对应的多个模型参数及每个模型参数对应的评分输入至对应的评估模型中进行训练,后续只需要不断的获取待评估话术模板的不同版本的历史交互数据中的模型参数,即可通过评估模型得到对待评估话术模板进行评估,准确率高。
S14,提取所述待评估话术模板的当前版本的交互数据,并在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数。
本实施例中,由于待评估话术模板存在多个版本,通过不断的评估进行版本的升级,进而达到话术模板的交互要求,在提取所述待评估话术模板的当前版本的交互数据之后,每个评估模型需要的参数不同,故针对不同的评估模型在所述当前版本的交互数据的基础上挖掘并进行提取得到每个评估模型对应的多个特征参数。
可选地,所述在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数包括:
去除所述当前版本的交互数据中的冗余数据;
根据预设的缺失比例处理规则对所述当前版本的交互数据进行归一化;
对类别型数据进行编码,并转换为数值型数据;
从所述数值型数据中提取每个所述评估模型对应的多个特征参数。
本实施例中,在进行多个特征参数的提取过程中,首先对所述当前版本的交互数据中的冗余数据进行去除,例如,对于交互中多次出现的、了等一些不影响话术的词进行去除,在去除冗余数据之后,根据预设的缺失比例处理规则对所述当前版本的交互数据进行归一化,具体地,当缺失值比例低于10%时,使用众数填充;当缺失值比例在10%-50%之间时,数值型特征用-999填充,类别型特征用“Unknow”填充;当缺失值比例超过50%时,将该特征直接删除。
本实施例中,在进行归一化之后,对类别型数据进行编码,例如,one-hot编码,并将所述类别型数据转换为数值型数据,从所述数值型数据中提取每个所述评估模型对应的多个特征参数作为对应评估模型的输入参数。
本实施例中,针对不同的评估模型从相同的交互数据中挖掘并提取出对应的多个特征参数,确保了基础数据的一致性,进而提高了评估结果的准确率。
S15,将所述多个特征参数输入至对应的评估模型中进行评估,得到评估结果。
本实施例中,在得到每个评估模型对应的多个特征参数之后,将所述多个特征参数输入至对应的评估模型中进行评估,接收每个评估模型输出的评估结果,而不是将所有的特征参数一起输入至不同的评估模型中进行评估,提高了每个评估模型输出评估结果的效率。
S16,根据多个所述评估结果对所述待评估话术模板的当前版本进行评估,获得目标评估结果。
本实施例中,每个评估结果都可以用以评估所述待评估话术模板中的对应的指标,根据所述多个评估模型的多个评估结果综合评估所述待评估话术模板,从多个维度对待评估话术模板同时进行评估,提高了评估结果的准确率。
可选地,所述根据多个所述评估结果对所述待评估话术模板的当前版本进行评估,获得目标评估结果包括:
获取待评估话术模板的当前版本的上一版本的多个评估结果;
比对结果比对所述当前版本的多个评估结果与所述上一版本的多个评估结果,返回多个比对结果;
根据所述多个比对结果确定目标评估结果。
本实施例中,通过将比对结果比对所述当前版本的多个评估结果与所述上一版本的多个评估结果,返回多个比对结果,根据多个比对结果综合确定所述目标评估结果,提高了评估结果的准确率。
进一步地,在所述根据所述多个比对结果确定目标评估结果之后,所述方法还包括:
获取每个评估结果的预设权重;
根据所述多个比对结果及每个评估结果的预设权重确定目标评估结果。
本实施例中,由于不同的评估结果对应的预设的权重不同,根据每个评估结果的预设权重确定待评估话术模板的特征参数的更新的先后顺序,进而提高了更新后待评估话术模板的使用效率及准确率。
进一步地,所述根据所述多个比对结果及每个评估结果的预设权重确定目标评估结果包括:
判断每个比对结果是否满足预设的更新阈值;
当任意一个比对结果满足预设的第一更新阈值时,判断所述比对结果的评估结果的预设权重是否满足预设的第二更新阈值;
当所述比对结果的评估结果的预设权重满足所述预设的第二更新阈值,确定所述目标评估结果确定所述目标评估结果为更新所述待评估话术模板的当前版本;或者
当所述比对结果的评估结果的预设权重不满足所述预设的第二更新阈值,确定所述目标评估结果为不更新所述待评估话术模板的当前版本。
进一步地,所述判断每个比对结果是否满足预设的更新阈值还包括:
当任意两个比对结果满足所述预设的第一更新阈值时,且所述任意两个比对结果的评估结果的预设权重满足预设的第二更新阈值,确定所述目标评估结果为按照所述任意两个比对结果的评估结果的预设权重由大到小更新所述待评估话术模板的当前版本。
本实施例中,在进行确定更新所述待评估话术模板的当前版本时,根据比对结果对应的评估结果的权重的大小确定到底更新所述待评估话术模板的当前版本的具体参数,提高了更新所述待评估话术模板的多样性。
本实施例中,由于现有的评话术模板的评估过程是通过人工评分进行评估的,人工在进行评分过程中会掺杂情绪分,无法客观的进行评分,导致评估结果不准确,本实施例采用的多种机器学习算法从多个维度进行学习得到评估结果,根据多个评估结果对每个待评估模板进行评估,提高了评估的准确率。
综上所述,本实施例所述的一种话术模板评估方法,通过接收客户端发送的话术模板的待评估请求,其中,所述待评估请求中包括待评估话术模板;提取所述待评估话术模板的多个历史版本的交互数据;根据所述待评估话术模板的多个历史版本的交互数据构建多个评估模型;提取所述待评估话术模板的当前版本的交互数据,并在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数;将所述多个特征参数输入至对应的评估模型中进行评估,得到评估结果;根据多个所述评估结果对所述待评估话术模板的当前版本进行评估,获得目标评估结果。
本实施例,一方面,通过将待评估话术模板的历史版本的交互数据分别输入至多个机器学习模型中,得到每个机器学习模型的模型参数,而不是根据人工意图进行提取模型参数,确保提取得到的模型参数的主观性及准确率;另一方面,通过在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数,确保了基础数据的一致性,进而提高了评估结果的准确率;最后,每个评估结果都可以用以评估所述待评估话术模板中的对应的指标,根据所述多个评估模型的多个评估结果综合评估所述待评估话术模板,从多个维度对待评估话术模板同时进行评估,提高了评估结果的准确率。
此外,根据所述多个评估模型的多个评估结果对所述待评估话术模板的当前版本进行评估,并根据比对结果对应的评估结果的权重的大小确定到底更新所述待评估话术模板的当前版本的具体参数,提高了更新所述待评估话术模板的多样性。
实施例二
图2是本发明实施例二提供的话术模板评估装置的结构图。
在一些实施例中,所述话术模板评估装置20可以包括多个由程序代码段所组成的功能模块。所述话术模板评估装置20中的各个程序段的程序代码可以存储于电子设备的存储器中,并由所述至少一个处理器所执行,以执行(详见图1描述)话术模板评估的功能。
本实施例中,所述话术模板评估装置20根据其所执行的功能,可以被划分为多个功能模块。所述功能模块可以包括:接收模块201、第一提取模块202、构建模块203、第二提取模块204、输入模块205、评估模块206及确定模块207。本发明所称的模块是指一种能够被至少一个处理器所执行并且能够完成固定功能的一系列计算机程序段,其存储在存储器中。在本实施例中,关于各模块的功能将在后续的实施例中详述。
接收模块201,用于接收客户端发送的话术模板的待评估请求,其中,所述待评估请求中包括待评估话术模板。
本实施例中,所述待评估请求是用于请求对当前的话术模板进行评估,确定当前的话术模板是否需要更新或者更换,具体地,在接收到客户端发送的话术模板的待评估请求时,解析所述待评估请求获取所述评估请求中的多个待评估话术模板。
第一提取模块202,用于提取所述待评估话术模板的多个历史版本的交互数据。
本实施例中,由于不同的待评估话术模板的话术要求不同,针对不同的待评估话术模板提取的历史版本的交互数据也不同。
可选地,所述第一提取模块202提取所述待评估话术模板的多个历史版本的交互数据包括:
识别待评估话术模板的类型;
根据所述类型对应的提取规则从预设的多个数据源中提取所述待评估话术模板的多个历史版本的交互数据。
本实施例中,通过识别待评估话术模板的类型,针对所述待评估话术模板的类型按照预设的提取规则进行提取,具体地,获取预设的多个数据源,从每个数据源中按照所述预设的提取规则提取所述待评估话术模板的历史交互数据。
本实施例中,通过按照不同的待评估话术模板的类型提取不同的历史交互数据,确保了提取的历史交互数据的准确率,根据所述历史交互数据进行所述待评估话术模板的评估,提高了评估效率。
构建模块203,用于根据所述待评估话术模板的多个历史版本的交互数据构建多个评估模型。
本实施例中,针对待评估话术模板根据历史版本的交互数据从多个维度同时进行评估,在评估过程中,首先创建多个评估模型,具体地,每个评估模型输出一个评估指标,并且,每个评估模型都是机器根据历史版本的交互数据进行学习得到的,不是用户根据主观判断得到的,提高了评估的准确率。
可选地,所述构建模块203根据所述待评估话术模板的多个历史版本的交互数据构建多个评估模型包括:
将所述待评估话术模板的多个历史版本的交互数据分别输入至多个机器学习模型中进行训练;
获取训练完成的机器学习模型的模型参数;
根据每个机器学习模型的模型参数构建对应的机器学习模型的评估模型。
本实施例中,所述多个机器学习模型可以为逻辑回归、岭回归及随机森林等机器学习模型,具体地,所述逻辑回归是一种分类学习算法,通过根据历史版本的交互数据建立代价函数,然后通过优化方法迭代进行求解得到模型参数,然后测试验证求解得的模型的好坏,可以用来评估所述待评估话术模板的分类的准确率;岭回归属于一种线性回归模型,通过根据历史版本的交互数据构建线性回归模型的目标函数,然后通过求解目标函数得到模型参数,可以用来评估所述待评估话术模板的容错率;随机森林一种由决策树构成的集成算法,通过将历史版本的交互数据构建成决策树,对每一棵决策树进行判断和分类得到模型参数,可以用来评估所述待评估话术模板的多样性。
本实施例中,通过将待评估话术模板的历史版本的交互数据分别输入至多个机器学习模型中,得到每个机器学习模型的模型参数,而不是根据人工意图进行提取模型参数,确保提取得到的模型参数的主观性及准确率。
具体地,所述将所述待评估话术模板的多个历史版本的交互数据分别输入至多个机器学习模型中进行训练包括:
针对每个机器学习模型,从所述多个历史版本的交互数据中提取出所述机器学习模型的多个模型参数及每个模型参数对应的评分作为样本数据集;
从所述样本数据集中划分出训练集和测试集;
将所述训练集输入预设神经网络中进行训练,得到所述机器学习模型的评估模型;
将所述测试集输入至所述机器学习模型的评估模型中进行测试,并计算测试通过率;
若所述测试通过率大于预设通过率阈值,确定所述机器学习模型的评估模型训练结束;若所述测试通过率小于预设通过率阈值,增加训练集的数量,重新进行所述机器学习模型的评估模型的训练。
本实施例中,可以在确定好每个评估模型对应的模型参数时,从所述历史版本的交互数据中提取出每个机器学习模型对应的多个模型参数及每个模型参数对应的评分,将所述每个机器学习模型对应的多个模型参数及每个模型参数对应的评分输入至对应的评估模型中进行训练,后续只需要不断的获取待评估话术模板的不同版本的历史交互数据中的模型参数,即可通过评估模型得到对待评估话术模板进行评估,准确率高。
第二提取模块204,用于提取所述待评估话术模板的当前版本的交互数据,并在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数。
本实施例中,由于待评估话术模板存在多个版本,通过不断的评估进行版本的升级,进而达到话术模板的交互要求,在提取所述待评估话术模板的当前版本的交互数据之后,每个评估模型需要的参数不同,故针对不同的评估模型在所述当前版本的交互数据的基础上挖掘并进行提取得到每个评估模型对应的多个特征参数。
可选地,所述第二提取模块204在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数包括:
去除所述当前版本的交互数据中的冗余数据;
根据预设的缺失比例处理规则对所述当前版本的交互数据进行归一化;
对类别型数据进行编码,并转换为数值型数据;
从所述数值型数据中提取每个所述评估模型对应的多个特征参数。
本实施例中,在进行多个特征参数的提取过程中,首先对所述当前版本的交互数据中的冗余数据进行去除,例如,对于交互中多次出现的、了等一些不影响话术的词进行去除,在去除冗余数据之后,根据预设的缺失比例处理规则对所述当前版本的交互数据进行归一化,具体地,当缺失值比例低于10%时,使用众数填充;当缺失值比例在10%-50%之间时,数值型特征用-999填充,类别型特征用“Unknow”填充;当缺失值比例超过50%时,将该特征直接删除。
本实施例中,在进行归一化之后,对类别型数据进行编码,例如,one-hot编码,并将所述类别型数据转换为数值型数据,从所述数值型数据中提取每个所述评估模型对应的多个特征参数作为对应评估模型的输入参数。
本实施例中,针对不同的评估模型从相同的交互数据中挖掘并提取出对应的多个特征参数,确保了基础数据的一致性,进而提高了评估结果的准确率。
输入模块205,用于将所述多个特征参数输入至对应的评估模型中进行评估,得到评估结果。
本实施例中,在得到每个评估模型对应的多个特征参数之后,将所述多个特征参数输入至对应的评估模型中进行评估,接收每个评估模型输出的评估结果,而不是将所有的特征参数一起输入至不同的评估模型中进行评估,提高了每个评估模型输出评估结果的效率。
评估模块206,用于根据多个所述评估结果对所述待评估话术模板的当前版本进行评估,获得目标评估结果。
本实施例中,每个评估结果都可以用以评估所述待评估话术模板中的对应的指标,根据所述多个评估模型的多个评估结果综合评估所述待评估话术模板,从多个维度对待评估话术模板同时进行评估,提高了评估结果的准确率。
可选地,所述评估模块206根据多个所述评估结果对所述待评估话术模板的当前版本进行评估,获得目标评估结果包括:
获取待评估话术模板的当前版本的上一版本的多个评估结果;
比对结果比对所述当前版本的多个评估结果与所述上一版本的多个评估结果,返回多个比对结果;
根据所述多个比对结果确定目标评估结果。
本实施例中,通过将比对结果比对所述当前版本的多个评估结果与所述上一版本的多个评估结果,返回多个比对结果,根据多个比对结果综合确定所述目标评估结果,提高了评估结果的准确率。
进一步地,在所述根据所述多个比对结果确定目标评估结果之后,获取每个评估结果的预设权重;根据所述多个比对结果及每个评估结果的预设权重确定目标评估结果。
本实施例中,由于不同的评估结果对应的预设的权重不同,根据每个评估结果的预设权重确定待评估话术模板的特征参数的更新的先后顺序,进而提高了更新后待评估话术模板的使用效率及准确率。
进一步地,确定模块207,用于所述根据所述多个比对结果及每个评估结果的预设权重确定目标评估结果包括:
判断每个比对结果是否满足预设的更新阈值;
当任意一个比对结果满足预设的第一更新阈值时,判断所述比对结果的评估结果的预设权重是否满足预设的第二更新阈值;
当所述比对结果的评估结果的预设权重满足所述预设的第二更新阈值,确定所述目标评估结果确定所述目标评估结果为更新所述待评估话术模板的当前版本;或者
当所述比对结果的评估结果的预设权重不满足所述预设的第二更新阈值,确定所述目标评估结果为不更新所述待评估话术模板的当前版本。
进一步地,所述判断每个比对结果是否满足预设的更新阈值还包括:
当任意两个比对结果满足所述预设的第一更新阈值时,且所述任意两个比对结果的评估结果的预设权重满足预设的第二更新阈值,确定所述目标评估结果为按照所述任意两个比对结果的评估结果的预设权重由大到小更新所述待评估话术模板的当前版本。
本实施例中,在进行确定更新所述待评估话术模板的当前版本时,根据比对结果对应的评估结果的权重的大小确定到底更新所述待评估话术模板的当前版本的具体参数,提高了更新所述待评估话术模板的多样性。
本实施例中,由于现有的评话术模板的评估过程是通过人工评分进行评估的,人工在进行评分过程中会掺杂情绪分,无法客观的进行评分,导致评估结果不准确,本实施例采用的多种机器学习算法从多个维度进行学习得到评估结果,根据多个评估结果对每个待评估模板进行评估,提高了评估的准确率。
综上所述,本实施例所述的一种话术模板评估装置,通过接收客户端发送的话术模板的待评估请求,其中,所述待评估请求中包括待评估话术模板;提取所述待评估话术模板的多个历史版本的交互数据;根据所述待评估话术模板的多个历史版本的交互数据构建多个评估模型;提取所述待评估话术模板的当前版本的交互数据,并在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数;将所述多个特征参数输入至对应的评估模型中进行评估,得到评估结果;根据多个所述评估结果对所述待评估话术模板的当前版本进行评估,获得目标评估结果。
本实施例,一方面,通过将待评估话术模板的历史版本的交互数据分别输入至多个机器学习模型中,得到每个机器学习模型的模型参数,而不是根据人工意图进行提取模型参数,确保提取得到的模型参数的主观性及准确率;另一方面,通过在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数,确保了基础数据的一致性,进而提高了评估结果的准确率;最后,每个评估结果都可以用以评估所述待评估话术模板中的对应的指标,根据所述多个评估模型的多个评估结果综合评估所述待评估话术模板,从多个维度对待评估话术模板同时进行评估,提高了评估结果的准确率。
此外,根据所述多个评估模型的多个评估结果对所述待评估话术模板的当前版本进行评估,并根据比对结果对应的评估结果的权重的大小确定到底更新所述待评估话术模板的当前版本的具体参数,提高了更新所述待评估话术模板的多样性。
实施例三
参阅图3所示,为本发明实施例三提供的电子设备的结构示意图。在本发明较佳实施例中,所述电子设备3包括存储器31、至少一个处理器32、至少一条通信总线33及收发器34。
本领域技术人员应该了解,图3示出的电子设备的结构并不构成本发明实施例的限定,既可以是总线型结构,也可以是星形结构,所述电子设备3还可以包括比图示更多或更少的其他硬件或者软件,或者不同的部件布置。
在一些实施例中,所述电子设备3是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的电子设备,其硬件包括但不限于微处理器、专用集成电路、可编程门阵列、数字处理器及嵌入式设备等。所述电子设备3还可包括客户设备,所述客户设备包括但不限于任何一种可与客户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互的电子产品,例如,个人计算机、平板电脑、智能手机、数码相机等。
需要说明的是,所述电子设备3仅为举例,其他现有的或今后可能出现的电子产品如可适应于本发明,也应包含在本发明的保护范围以内,并以引用方式包含于此。
在一些实施例中,所述存储器31用于存储程序代码和各种数据,例如安装在所述电子设备3中的话术模板评估装置20,并在电子设备3的运行过程中实现高速、自动地完成程序或数据的存取。所述存储器31包括只读存储器(Read-Only Memory,ROM)、可编程只读存储器(Programmable Read-Only Memory,PROM)、可擦除可编程只读存储器(ErasableProgrammable Read-Only Memory,EPROM)、一次可编程只读存储器(One-timeProgrammable Read-Only Memory,OTPROM)、电子擦除式可复写只读存储器(Electrically-Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(CompactDisc Read-Only Memory,CD-ROM)或其他光盘存储器、磁盘存储器、磁带存储器、或者能够用于携带或存储数据的计算机可读的任何其他介质。
在一些实施例中,所述至少一个处理器32可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述至少一个处理器32是所述电子设备3的控制核心(Control Unit),利用各种接口和线路连接整个电子设备3的各个部件,通过运行或执行存储在所述存储器31内的程序或者模块,以及调用存储在所述存储器31内的数据,以执行电子设备3的各种功能和处理数据。
在一些实施例中,所述至少一条通信总线33被设置为实现所述存储器31以及所述至少一个处理器32等之间的连接通信。
尽管未示出,所述电子设备3还可以包括给各个部件供电的电源(比如电池),可选的,电源可以通过电源管理装置与所述至少一个处理器32逻辑相连,从而通过电源管理装置实现管理充电、放电、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备3还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
上述以软件功能模块的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能模块存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,电子设备,或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分。
在进一步的实施例中,结合图2,所述至少一个处理器32可执行所述电子设备3的操作装置以及安装的各类应用程序(如所述的话术模板评估装置20)、程序代码等,例如,上述的各个模块。
所述存储器31中存储有程序代码,且所述至少一个处理器32可调用所述存储器31中存储的程序代码以执行相关的功能。例如,图2中所述的各个模块是存储在所述存储器31中的程序代码,并由所述至少一个处理器32所执行,从而实现所述各个模块的功能以达到话术模板评估的目的。
在本发明的一个实施例中,所述存储器31存储多个指令,所述多个指令被所述至少一个处理器32所执行以实现话术模板评估的功能。
具体地,所述至少一个处理器32对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,既可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。此外,显然“包括”一词不排除其他单元或,单数不排除复数。本发明中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一,第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。

Claims (10)

1.一种话术模板评估方法,其特征在于,所述方法包括:
接收客户端发送的话术模板的待评估请求,其中,所述待评估请求中包括待评估话术模板;
提取所述待评估话术模板的多个历史版本的交互数据;
根据所述待评估话术模板的多个历史版本的交互数据构建多个评估模型;
提取所述待评估话术模板的当前版本的交互数据,并在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数;
将所述多个特征参数输入至对应的评估模型中进行评估,得到评估结果;
根据多个所述评估结果对所述待评估话术模板的当前版本进行评估,获得目标评估结果。
2.如权利要求1所述的话术模板评估方法,其特征在于,所述根据所述待评估话术模板的多个历史版本的交互数据构建多个评估模型包括:
将所述待评估话术模板的多个历史版本的交互数据分别输入至多个机器学习模型中进行训练;
获取训练完成的机器学习模型的模型参数;
根据每个机器学习模型的模型参数构建对应的机器学习模型的评估模型。
3.如权利要求2所述的话术模板评估方法,其特征在于,所述将所述待评估话术模板的多个历史版本的交互数据分别输入至多个机器学习模型中进行训练包括:
针对每个机器学习模型,从所述多个历史版本的交互数据中提取出所述机器学习模型的多个模型参数及每个模型参数对应的评分作为样本数据集;
从所述样本数据集中划分出训练集和测试集;
将所述训练集输入预设神经网络中进行训练,得到所述机器学习模型的评估模型;
将所述测试集输入至所述机器学习模型的评估模型中进行测试,并计算测试通过率;
若所述测试通过率大于预设通过率阈值,确定所述机器学习模型的评估模型训练结束;若所述测试通过率小于预设通过率阈值,增加训练集的数量,重新进行所述机器学习模型的评估模型的训练。
4.如权利要求1所述的话术模板评估方法,其特征在于,所述在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数包括:
去除所述当前版本的交互数据中的冗余数据;
根据预设的缺失比例处理规则对所述当前版本的交互数据进行归一化;
对类别型数据进行编码,并转换为数值型数据;
从所述数值型数据中提取每个所述评估模型对应的多个特征参数。
5.如权利要求1所述的话术模板评估方法,其特征在于,所述根据多个所述评估结果对所述待评估话术模板的当前版本进行评估,获得目标评估结果包括:
获取待评估话术模板的当前版本的上一版本的多个评估结果;
比对所述当前版本的多个评估结果与所述上一版本的多个评估结果,返回多个比对结果;
根据所述多个比对结果确定目标评估结果。
6.如权利要求5所述的话术模板评估方法,其特征在于,在所述根据所述多个比对结果确定目标评估结果之后,所述方法还包括:
获取每个评估结果的预设权重;
根据所述多个比对结果及每个评估结果的预设权重确定目标评估结果。
7.如权利要求6所述的话术模板评估方法,其特征在于,所述根据所述多个比对结果及每个评估结果的预设权重确定目标评估结果包括:
判断每个比对结果是否满足预设的更新阈值;
当任意一个比对结果满足预设的第一更新阈值时,判断所述比对结果的评估结果的预设权重是否满足预设的第二更新阈值;
当所述比对结果的评估结果的预设权重满足所述预设的第二更新阈值,确定所述目标评估结果为更新所述待评估话术模板的当前版本;或者
当所述比对结果的评估结果的预设权重不满足所述预设的第二更新阈值,确定所述目标评估结果为不更新所述待评估话术模板的当前版本。
8.一种话术模板评估装置,其特征在于,所述装置包括:
接收模块,用于接收客户端发送的话术模板的待评估请求,其中,所述待评估请求中包括待评估话术模板;
第一提取模块,用于提取所述待评估话术模板的多个历史版本的交互数据;
构建模块,用于根据所述待评估话术模板的多个历史版本的交互数据构建多个评估模型;
第二提取模块,用于提取所述待评估话术模板的当前版本的交互数据,并在当前版本的交互数据的基础上挖掘并提取每个所述评估模型对应的多个特征参数;
输入模块,用于将所述多个特征参数输入至对应的评估模型中进行评估,得到评估结果;
评估模块,用于根据多个所述评估结果对所述待评估话术模板的当前版本进行评估,获得目标评估结果。
9.一种电子设备,其特征在于,所述电子设备包括处理器和存储器,所述处理器用于执行所述存储器中存储的计算机程序时实现如权利要求1至7中任意一项所述的话术模板评估方法。
10.一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任意一项所述的话术模板评估方法。
CN202011600019.1A 2020-12-29 2020-12-29 话术模板评估方法、装置、电子设备及存储介质 Pending CN112685547A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011600019.1A CN112685547A (zh) 2020-12-29 2020-12-29 话术模板评估方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011600019.1A CN112685547A (zh) 2020-12-29 2020-12-29 话术模板评估方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN112685547A true CN112685547A (zh) 2021-04-20

Family

ID=75455300

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011600019.1A Pending CN112685547A (zh) 2020-12-29 2020-12-29 话术模板评估方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN112685547A (zh)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109241519A (zh) * 2018-06-28 2019-01-18 平安科技(深圳)有限公司 质量评价模型获取方法及装置、计算机设备与存储介质
JP2019125044A (ja) * 2018-01-12 2019-07-25 三菱電機株式会社 アセスメント支援装置およびアセスメント支援プログラム
CN110472017A (zh) * 2019-08-21 2019-11-19 佰聆数据股份有限公司 一种话术分析和话题点识别匹配的方法及系统
US20190362645A1 (en) * 2018-05-25 2019-11-28 Open Text Corporation Artificial Intelligence Based Data Processing System for Automatic Setting of Controls in an Evaluation Operator Interface
JP2019215830A (ja) * 2018-06-14 2019-12-19 Zホールディングス株式会社 評価装置、評価方法および評価プログラム
CN111160017A (zh) * 2019-12-12 2020-05-15 北京文思海辉金信软件有限公司 关键词抽取方法、话术评分方法以及话术推荐方法
CN111259132A (zh) * 2020-01-16 2020-06-09 中国平安财产保险股份有限公司 话术推荐方法、装置、计算机设备和存储介质
CN111861488A (zh) * 2020-07-15 2020-10-30 中国工商银行股份有限公司 机器学习模型对比方法及装置
CN111950738A (zh) * 2020-08-10 2020-11-17 中国平安人寿保险股份有限公司 机器学习模型优化效果评估方法、装置、终端及存储介质
CN111985751A (zh) * 2019-05-23 2020-11-24 百度在线网络技术(北京)有限公司 人机聊天体验评估体系

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019125044A (ja) * 2018-01-12 2019-07-25 三菱電機株式会社 アセスメント支援装置およびアセスメント支援プログラム
US20190362645A1 (en) * 2018-05-25 2019-11-28 Open Text Corporation Artificial Intelligence Based Data Processing System for Automatic Setting of Controls in an Evaluation Operator Interface
JP2019215830A (ja) * 2018-06-14 2019-12-19 Zホールディングス株式会社 評価装置、評価方法および評価プログラム
CN109241519A (zh) * 2018-06-28 2019-01-18 平安科技(深圳)有限公司 质量评价模型获取方法及装置、计算机设备与存储介质
CN111985751A (zh) * 2019-05-23 2020-11-24 百度在线网络技术(北京)有限公司 人机聊天体验评估体系
CN110472017A (zh) * 2019-08-21 2019-11-19 佰聆数据股份有限公司 一种话术分析和话题点识别匹配的方法及系统
CN111160017A (zh) * 2019-12-12 2020-05-15 北京文思海辉金信软件有限公司 关键词抽取方法、话术评分方法以及话术推荐方法
CN111259132A (zh) * 2020-01-16 2020-06-09 中国平安财产保险股份有限公司 话术推荐方法、装置、计算机设备和存储介质
CN111861488A (zh) * 2020-07-15 2020-10-30 中国工商银行股份有限公司 机器学习模型对比方法及装置
CN111950738A (zh) * 2020-08-10 2020-11-17 中国平安人寿保险股份有限公司 机器学习模型优化效果评估方法、装置、终端及存储介质

Similar Documents

Publication Publication Date Title
CN107578212B (zh) 工程量清单综合单价合理性的检测方法、检测系统
CN114663223A (zh) 基于人工智能的信用风险评估方法、装置及相关设备
CN111798123A (zh) 基于人工智能的合规性评价方法、装置、设备及介质
CN113435998B (zh) 贷款逾期预测方法、装置、电子设备及存储介质
CN113435582A (zh) 基于句向量预训练模型的文本处理方法及相关设备
CN110689225A (zh) 基于外呼的企业金融风险画像创建方法及相关设备
CN113256108A (zh) 人力资源分配方法、装置、电子设备及存储介质
CN116956896A (zh) 基于人工智能的文本分析方法、系统、电子设备及介质
CN114201328A (zh) 基于人工智能的故障处理方法、装置、电子设备及介质
CN113919432A (zh) 一种分类模型构建方法、数据分类方法及装置
CN112818028B (zh) 数据指标筛选方法、装置、计算机设备及存储介质
CN113591463A (zh) 意图识别方法、装置、电子设备及存储介质
CN112685547A (zh) 话术模板评估方法、装置、电子设备及存储介质
CN114925674A (zh) 文件合规性检查方法、装置、电子设备及存储介质
CN114968336A (zh) 应用灰度发布方法、装置、计算机设备及存储介质
CN113469237B (zh) 用户意图识别方法、装置、电子设备及存储介质
CN113268579B (zh) 对话内容类别识别方法、装置、计算机设备及存储介质
CN114817449A (zh) 基于人工智能的文本搜索排序方法、装置及相关设备
CN115759862A (zh) 预约揽件服务考核方法、装置、设备及存储介质
CN114881313A (zh) 基于人工智能的行为预测方法、装置及相关设备
CN113674065A (zh) 基于服务触点的业务推荐方法、装置、电子设备及介质
CN113987351A (zh) 基于人工智能的智能推荐方法、装置、电子设备及介质
CN114330285A (zh) 语料处理方法、装置、电子设备及计算机可读存储介质
CN113342940A (zh) 文本匹配分析方法、装置、电子设备及存储介质
CN114840325A (zh) 业务数据加载方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination