CN114328891A - 信息推荐模型的训练方法、信息推荐方法及装置 - Google Patents

信息推荐模型的训练方法、信息推荐方法及装置 Download PDF

Info

Publication number
CN114328891A
CN114328891A CN202111680641.2A CN202111680641A CN114328891A CN 114328891 A CN114328891 A CN 114328891A CN 202111680641 A CN202111680641 A CN 202111680641A CN 114328891 A CN114328891 A CN 114328891A
Authority
CN
China
Prior art keywords
feature
alarm
processing
vector
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111680641.2A
Other languages
English (en)
Inventor
刘运璇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Industrial and Commercial Bank of China Ltd ICBC
Original Assignee
Industrial and Commercial Bank of China Ltd ICBC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Industrial and Commercial Bank of China Ltd ICBC filed Critical Industrial and Commercial Bank of China Ltd ICBC
Priority to CN202111680641.2A priority Critical patent/CN114328891A/zh
Publication of CN114328891A publication Critical patent/CN114328891A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供了一种信息推荐模型的训练方法、信息推荐方法及装置、电子设备和计算机可读存储介质,可以应用于人工智能技术领域和金融领域。该信息推荐模型的训练方法包括:获取训练样本数据集,其中,训练样本数据集中的训练样本包括经预处理后的报警信息以及报警信息的标签信息,报警信息包括报警文本和与报警文本对应的报警手册文本,经预处理后的报警信息包括报警文本的词向量和报警手册文本的词向量;以及利用训练样本数据集训练信息推荐模型,得到经训练的信息推荐模型。

Description

信息推荐模型的训练方法、信息推荐方法及装置
技术领域
本公开涉及人工智能技术领域和金融领域,更具体地,涉及一种信息推荐模型的训练方法、信息推荐方法及装置、电子设备、计算机可读存储介质和一种计算机程序产品。
背景技术
随着云时代的来临,用于存储这些文本的数据库种类也越来越多。相关技术中数据库的报警分析基本上采用人工方式,由人工按照来自短信、邮件、或应用程序等的报警内容,查询报警处理指引手册,然后按照手册内容进行数据库的报警分析。
在实现本公开构思的过程中,发明人发现相关技术中至少存在如下问题:随着数据库种类的增多,报警内容的类型及对应的处理方法也更加复杂,人工查询报警手册耗费时间和人力。
发明内容
有鉴于此,本公开提供了一种信息推荐模型的训练方法、信息推荐方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
根据本公开的第一个方面,提供了一种信息推荐模型的训练方法,包括:
获取训练样本数据集,其中,上述训练样本数据集中的训练样本包括经预处理后的报警信息以及上述报警信息的标签信息,上述报警信息包括报警文本和与上述报警文本对应的报警手册文本,上述经预处理后的报警信息包括上述报警文本的词向量和上述报警手册文本的词向量;以及
利用上述训练样本数据集训练信息推荐模型,得到经训练的信息推荐模型。
根据本公开的实施例,其中,所述信息推荐模型包括特征提取网络和特征匹配网络,所述利用所述训练样本数据集训练所述信息推荐模型,得到经训练的信息推荐模型包括:
利用上述特征提取网络,提取上述训练样本数据集中的初始特征数据;
利用上述特征匹配网络,处理上述初始特征数据,得到处理向量;
根据信息推荐模型的损失函数,利用上述处理向量与上述标签信息,得到损失结果;
根据上述损失结果调整上述信息推荐模型的网络参数,直至上述损失函数满足预设条件;以及
将上述损失函数满足预设条件时得到的模型确定为上述信息推荐模型。
根据本公开的实施例,其中,上述特征提取网络包括问题特征提取网络和答案特征提取网络,上述利用上述特征提取网络,提取上述训练样本数据集中的初始特征数据包括:
利用上述问题特征提取网络,提取上述训练样本数据集中上述报警文本的词向量的初始问题特征数据;
利用上述答案特征提取网络,提取上述训练样本数据集中上述报警手册文本的词向量的初始答案特征数据。
根据本公开的实施例,其中,上述问题特征提取网络包括第一双向长短期记忆网络层、第一卷积层、第二卷积层及第三卷积层;
上述利用上述问题特征提取网络,提取上述训练样本数据集中上述报警文本的词向量的初始问题特征数据包括:
利用上述第一双向长短期记忆网络层,处理上述训练样本数据集中的上述报警文本的词向量,得到初始问题特征向量;
利用上述第一卷积层,处理上述初始问题特征向量,得到第一特征向量;
利用上述第二卷积层,处理上述第一特征向量,得到第二特征向量;
利用上述第三卷积层,处理上述第二特征向量,得到第三特征向量;以及
根据上述初始问题特征向量和上述第三特征向量,确定上述训练样本数据集的上述初始问题特征数据。
根据本公开的实施例,其中,上述答案特征提取网络包括第二双向长短期记忆网络层、第四卷积层、第五卷积层及第六卷积层;
上述利用上述答案特征提取网络,提取上述训练样本数据集中上述报警手册文本的词向量的初始答案特征数据包括:
利用上述第二双向长短期记忆网络层,处理上述训练样本数据集中的上述报警手册文本的词向量,得到初始答案特征向量;
利用上述第四卷积层,处理上述初始答案特征向量,得到第四特征向量;
利用上述第五卷积层,处理上述第四特征向量,得到第五特征向量;
利用上述第六卷积层,处理上述第五特征向量,得到第六特征向量;以及
根据上述初始答案特征向量和上述第六特征向量,确定上述训练样本数据集的上述初始答案特征数据。
根据本公开的实施例,其中:
上述第一卷积层和上述第四卷积层均包括2x2卷积核,其中,上述2x2卷积核的空洞率为1;
上述第二卷积层和上述第五卷积层均包括2x2卷积核,其中,上述2x2卷积核的空洞率为2;
上述第三卷积层和上述第六卷积层均包括2x2卷积核,其中,上述2x2卷积核的空洞率为4。
根据本公开的实施例,其中,上述特征匹配网络包括问题特征匹配网络和答案特征匹配网络,上述利用上述特征匹配网络,处理上述初始特征数据,得到处理向量包括:
利用上述问题特征匹配网络,处理上述初始问题特征数据,得到与上述标签信息对应的问题处理向量;
利用上述答案特征匹配网络,处理上述初始答案特征数据,得到与上述标签信息对应的答案处理向量。
根据本公开的实施例,其中,上述问题特征匹配网络包括第一注意力层和第一长短期记忆网络层;
上述利用上述问题特征匹配网络,处理上述初始问题特征数据,得到与上述标签信息对应的问题处理向量包括:
利用上述第一注意力层对上述初始问题特征数据和上述初始答案特征数据进行加权,得到第一目标特征向量;
利用上述第一长短期记忆网络层,处理上述第一目标特征向量,得到与上述标签信息对应的上述问题处理向量。
根据本公开的实施例,其中,上述答案特征匹配网络包括第二注意力层和第二长短期记忆网络层;
上述利用上述答案特征匹配网络,处理上述初始答案特征数据,得到与上述标签信息对应的答案处理向量包括:
利用上述第二注意力层对上述初始答案特征数据和上述初始问题特征数据进行加权,得到第二目标特征向量;
利用上述第二长短期记忆网络层,处理上述第二目标特征向量,得到与上述标签信息对应的上述答案处理向量。
根据本公开的实施例,其中,上述将上述处理向量与上述标签信息输入至待训练的信息推荐模型的损失函数,得到损失结果包括:
根据信息推荐模型的损失函数,利用上述问题处理向量、上述答案处理向量与上述标签信息,得到损失结果。
根据本公开的第二个方面,提供了一种信息推荐方法,包括:
获取报警文本;
对上述报警文本进行预处理,得到上述报警文本的词向量;
利用信息推荐模型对上述报警文本的词向量进行处理,得到推荐结果,其中,上述信息推荐模型是通过如上所述的训练方法得到的。
根据本公开的第三个方面,提供了一种信息推荐模型的训练装置,包括:
第一获取模块,用于获取训练样本数据集,其中,上述训练样本数据集中的训练样本包括经预处理后的报警信息以及上述报警信息的标签信息,上述报警信息包括报警文本和与上述报警文本对应的报警手册文本,上述经预处理后的报警信息包括上述报警文本的词向量和上述报警手册文本的词向量;
训练模块,用于利用上述训练样本数据集训练信息推荐模型,得到经训练的信息推荐模型。
根据本公开的第四个方面,提供了一种信息推荐装置,包括:
第二获取模块,用于获取报警文本;
预处理模块,用于对所述报警文本进行预处理,得到所述报警文本的词向量;
处理模块,用于利用信息推荐模型对所述报警文本的词向量进行处理,得到推荐结果,其中,所述信息推荐模型是通过如上所述的训练方法得到的。
根据本公开的第五个方面,提供了一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个指令,
其中,当上述一个或多个指令被上述一个或多个处理器执行时,使得上述一个或多个处理器实现如上所述的方法。
根据本公开的第六个方面,提供了一种计算机可读存储介质,其上存储有可执行指令,上述可执行指令被处理器执行时使处理器实现如上所述的方法。
根据本公开的第七个方面,提供了一种计算机程序产品,上述计算机程序产品包括计算机可执行指令,上述计算机可执行指令在被执行时用于实现如上所述的方法。
根据本公开的实施例,通过利用由报警文本的词向量、报警手册文本的词向量以及标签信息组成的训练样本数据集,对模型进行训练,得到经训练的信息推荐模型。通过上述技术手段,至少部分地克服了相关技术中人工查询手册耗费时间和人力的问题,实现了提高报警文本的处理效率和准确度的技术效果。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的可以应用信息推荐模型的训练方法、信息推荐方法的系统架构图;
图2示意性示出了根据本公开实施例的信息推荐模型的训练方法的流程图;
图3示意性示出了根据本公开实施例的得到经训练的信息推荐模型的方法流程图;
图4示意性示出了根据本公开实施例的信息推荐模型的网络结构示意图;
图5示意性示出了根据本公开实施例的信息推荐方法的流程图;
图6示意性示出了根据本公开实施例的信息推荐模型的训练装置的结构框图;
图7示意性示出了根据本公开实施例的信息推荐装置的结构框图;以及
图8示意性示出了根据本公开实施例的适于实现信息推荐模型的训练方法、信息推荐方法的电子设备的框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
在本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
随着云时代的来临,大数据技术的发展日新月异,呈现给信息使用者的海量信息基本属于半结构文本或者纯原始文本的形式,用于存储这些文本的数据库种类也越来越多。
相关技术中数据库的报警分析基本上采用人工方式,由人工按照来自短信、邮件、或应用程序等的报警内容,查询报警处理指引手册,然后按照手册内容进行数据库的报警分析。
在实现本公开构思的过程中,发明人发现相关技术中至少存在如下问题:随着数据库种类的增多,报警内容的类型及对应的处理方法也更加复杂,人工查询报警手册耗费时间和人力。
为了至少部分地解决相关技术中存在的技术问题,本公开提供了一种信息推荐模型的训练方法、信息推荐方法及装置、电子设备和计算机可读存储介质,可以应用于人工智能技术领域和金融领域。该信息推荐模型的训练方法包括:获取训练样本数据集,其中,训练样本数据集中的训练样本包括经预处理后的报警信息以及报警信息的标签信息,报警信息包括报警文本和与报警文本对应的报警手册文本,经预处理后的报警信息包括报警文本的词向量和报警手册文本的词向量;以及利用训练样本数据集训练信息推荐模型,得到经训练的信息推荐模型。
需要说明的是,本公开实施例提供的信息推荐模型的训练方法、信息推荐方法及装置可用于人工智能技术领域和金融领域,例如针对各个银行网点的报警文本的处理。本公开实施例提供的信息推荐模型的训练方法、信息推荐方法和装置也可用于除人工智能技术领域和金融领域之外的任意领域,例如在运维时针对数据库报警信息的处理。本公开实施例提供的信息推荐模型的训练方法、信息推荐方法和装置的应用领域不做限定。
图1示意性示出了根据本公开实施例的可以应用信息推荐模型的训练方法、信息推荐方法的系统架构图。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线和/或无线通信链路等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的信息推荐模型的训练方法一般可以由服务器105执行。相应地,本公开实施例所提供的信息推荐模型的训练装置一般可以设置于服务器105中。本公开实施例所提供的信息推荐模型的训练方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的信息推荐模型的训练装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。或者,本公开实施例所提供的信息推荐模型的训练方法也可以由终端设备101、102、或103执行,或者也可以由不同于终端设备101、102、或103的其他终端设备执行。相应地,本公开实施例所提供的信息推荐模型的训练装置也可以设置于终端设备101、102、或103中,或设置于不同于终端设备101、102、或103的其他终端设备中。
例如,报警信息可以原本存储在终端设备101、102、或103中的任意一个(例如,终端设备101,但不限于此)之中,或者存储在外部存储设备上并可以导入到终端设备101中。然后,终端设备101可以在本地执行本公开实施例所提供的信息推荐模型的训练方法和信息推荐方法,或者将报警信息发送到其他终端设备、服务器、或服务器集群,并由接收该报警信息的其他终端设备、服务器、或服务器集群来执行本公开实施例所提供的信息推荐模型的训练方法和信息推荐方法。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的信息推荐模型的训练方法的流程图。
如图2所示,该信息推荐模型的训练方法包括操作S201~S202。
在操作S201,获取训练样本数据集,其中,训练样本数据集中的训练样本包括经预处理后的报警信息以及报警信息的标签信息,报警信息包括报警文本和与报警文本对应的报警手册文本,经预处理后的报警信息包括报警文本的词向量和报警手册文本的词向量。
在操作S202,利用训练样本数据集训练信息推荐模型,得到经训练的信息推荐模型。
根据本公开的实施例,标签信息可以用于表征报警文本和报警手册文本的对应关系。
根据本公开的实施例,可以将训练样本数据集中的训练样本输入至信息推荐模型中,以对信息推荐模型进行训练,从而得到经训练的信息推荐模型。
根据本公开的实施例,通过利用由报警文本的词向量、报警手册文本的词向量以及标签信息组成的训练样本数据集,对模型进行训练,得到经训练的信息推荐模型。通过上述技术手段,至少部分地克服了相关技术中人工查询手册耗费时间和人力的问题,实现了提高报警文本的处理效率和准确度的技术效果。
下面参考图3~图5,结合具体实施例对图2所示的方法做进一步说明。
根据本公开的实施例,所述信息推荐模型包括特征提取网络和特征匹配网络。
图3示意性示出了根据本公开实施例的得到经训练的信息推荐模型的方法流程图。
如图3所示,该得到经训练的信息推荐模型的方法包括操作S301~S305。
在操作S301,利用特征提取网络,提取训练样本数据集中的初始特征数据。
在操作S302,利用特征匹配网络,处理初始特征数据,得到处理向量。
在操作S303,根据信息推荐模型的损失函数,利用处理向量与标签信息,得到损失结果。
在操作S304,根据损失结果调整信息推荐模型的网络参数,直至损失函数满足预设条件。
在操作S305,将损失函数满足预设条件时得到的模型确定为信息推荐模型。
根据本公开的实施例,损失函数可以包括将随机事件或其有关随机变量的取值映射为非负实数以表示该随机事件的“风险”或“损失”的函数。
根据本公开的实施例,损失函数可以包括绝对值、平方损失函数、指数损失函数、Hinge损失函数和交叉熵损失函数等。
根据本公开的实施例,损失函数可以作为学习准则与优化问题相联系,可以通过最小化损失函数求解和评估模型。
根据本公开的实施例,通过利用特征提取网络,提取初始特征数据,然后利用特征匹配网络,处理初始特征数据,得到处理向量,并根据损失函数基于处理向量与标签信息得到损失结果,再根据损失结果调整网络参数,从而可以基于反向传播机制确定信息推荐模型。
图4示意性示出了根据本公开实施例的信息推荐模型的网络结构示意图。
如图4所示,信息推荐模型的网络结构可以包括:特征提取网络401和特征匹配网络402,其中,特征提取网络401可以包括问题特征提取网络4011和答案特征提取网络4012,问题特征提取网络4011可以包括第一双向长短期记忆网络层40110、第一卷积层40111、第二卷积层40112和第三卷积层40113,答案特征提取网络4012可以包括第二双向长短期记忆网络层40120、第四卷积层40121、第五卷积层40122和第六卷积层40123;特征匹配网络402可以包括问题特征匹配网络4021和答案特征匹配网络4022,问题特征匹配网络4021可以包括第一注意力层40211和第一长短期记忆网络层40212,答案特征匹配网络4022可以包括第二注意力层40221和第二长短期记忆网络层40222。
根据本公开的实施例,可以将报警文本视为问题,将报警手册文本视为答案,利用问题和答案匹配的思路来设计信息推荐模型。
根据本公开的实施例,问答系统可以通过深度学习模型理解文本的深层语义,匹配知识库中的正确答案,从而完成答案选择。
根据本公开的实施例,特征提取网络包括问题特征提取网络和答案特征提取网络,利用特征提取网络,提取训练样本数据集中的初始特征数据包括:
利用问题特征提取网络,提取训练样本数据集中报警文本的词向量的初始问题特征数据;利用答案特征提取网络,提取训练样本数据集中报警手册文本的词向量的初始答案特征数据。
根据本公开的实施例,问题特征提取网络包括第一双向长短期记忆网络层、第一卷积层、第二卷积层及第三卷积层;利用问题特征提取网络,提取训练样本数据集中报警文本的词向量的初始问题特征数据包括:
利用第一双向长短期记忆网络层,处理训练样本数据集中的报警文本的词向量,得到初始问题特征向量;利用第一卷积层,处理初始问题特征向量,得到第一特征向量;利用第二卷积层,处理第一特征向量,得到第二特征向量;利用第三卷积层,处理第二特征向量,得到第三特征向量;以及根据初始问题特征向量和第三特征向量,确定训练样本数据集的初始问题特征数据。
根据本公开的实施例,双向长短期记忆网络层可以简称为Bi-LSTM(Bi-directional Long Short-Term Memory),可以包括前向LSTM(Long Short-Term Memory,长短期记忆网络)和后向LSTM,可以通过Bi-LSTM获取双向的语义依赖,可以利用Bi-LSTM获取每个词语在上下文中的语义。
根据本公开的实施例,还可以利用空洞卷积提取语义单元信息,通过空洞卷积可以扩大感受野,且不需要引入额外的参数,可以检测分割大目标以及精确定位目标。
根据本公开的实施例,可以将经预处理后的训练样本数据集中的报警文本的词向量作为第一双向长短期记忆网络层的输入。
Figure BDA0003448825210000131
Figure BDA0003448825210000132
Figure BDA0003448825210000133
其中,w1 (t)可以表示报警文本中的词,第一双向长短期记忆网络层中的前向LSTM可以根据上文词w1 (1)到w1 (t),将w1 (t)编码成
Figure BDA0003448825210000134
第一双向长短期记忆网络层中的后向LSTM可以根据上文词w1 (n)到w1 (t),将w1 (t)编码成
Figure BDA0003448825210000135
初始问题特征向量h1 (t)可以包括
Figure BDA0003448825210000136
Figure BDA0003448825210000137
所构成的最终表示。
根据本公开的实施例,在每个时间t处,可以将第一双向长短期记忆网络层的输出h1 (t)作为第一卷积层的输入,然后可以将经过3层空洞卷积输出的第三特征向量g1 (t)与第一双向长短期记忆网络层输出的初始问题特征向量h1 (t)相连,共同作为问题特征提取网络输出的初始问题特征数据o1 (t)
o1 (t)=[h1 (t),g1 (t)] (4)
根据本公开的实施例,答案特征提取网络包括第二双向长短期记忆网络层、第四卷积层、第五卷积层及第六卷积层;利用答案特征提取网络,提取训练样本数据集中报警手册文本的词向量的初始答案特征数据包括:
利用第二双向长短期记忆网络层,处理训练样本数据集中的报警手册文本的词向量,得到初始答案特征向量;利用第四卷积层,处理初始答案特征向量,得到第四特征向量;利用第五卷积层,处理第四特征向量,得到第五特征向量;利用第六卷积层,处理第五特征向量,得到第六特征向量;以及根据初始答案特征向量和第六特征向量,确定训练样本数据集的初始答案特征数据。
根据本公开的实施例,可以将经预处理后的训练样本数据集中的报警手册文本的词向量作为第二双向长短期记忆网络层的输入。
Figure BDA0003448825210000141
Figure BDA0003448825210000142
Figure BDA0003448825210000143
其中,w2 (t)可以表示报警手册文本中的词,第二双向长短期记忆网络层中的前向LSTM可以根据上文词w2 (1)到w2 (t),将w2 (t)编码成
Figure BDA0003448825210000144
第二双向长短期记忆网络层中的后向LSTM可以根据上文词w2 (n)到w2 (t),将w2 (t)编码成
Figure BDA0003448825210000145
初始答案特征向量h2 (t)可以包括
Figure BDA0003448825210000146
Figure BDA0003448825210000147
所构成的最终表示。
根据本公开的实施例,在每个时间t处,可以将第二双向长短期记忆网络层的输出h2 (t)作为第四卷积层的输入,然后可以将经过3层空洞卷积输出的第六特征向量g2 (t)与第二双向长短期记忆网络层输出的初始答案特征向量h2 (t)相连,共同作为答案特征提取网络输出的初始答案特征数据o2 (t)
o2 (t)=[h2 (t),g2 (t)] (8)
根据本公开的实施例,第一卷积层和第四卷积层均包括2x2卷积核,其中,2x2卷积核的空洞率为1;第二卷积层和第五卷积层均包括2x2卷积核,其中,2x2卷积核的空洞率为2;第三卷积层和第六卷积层均包括2x2卷积核,其中,2x2卷积核的空洞率为4。
根据本公开的实施例,通过将特征提取网络划分为问题特征提取网络和答案特征提取网络,并利用双向长短期记忆网络和三层空洞卷积网络的组合,分别构建问题特征提取网络和答案特征提取网络,然后利用问题特征提取网络处理报警文本的词向量,利用答案特征提取网络处理报警手册文本的词向量,可以分别确定初始问题特征数据和初始答案特征数据,以供后续特征匹配网络使用。
根据本公开的实施例,特征匹配网络包括问题特征匹配网络和答案特征匹配网络,利用特征匹配网络,处理初始特征数据,得到处理向量包括:
利用问题特征匹配网络,处理初始问题特征数据,得到与标签信息对应的问题处理向量;利用答案特征匹配网络,处理初始答案特征数据,得到与标签信息对应的答案处理向量。
根据本公开的实施例,特征匹配网络可以包括注意力层和LSTM层。
根据本公开的实施例,问题特征匹配网络包括第一注意力层和第一长短期记忆网络层;利用问题特征匹配网络,处理初始问题特征数据,得到与标签信息对应的问题处理向量包括:
利用第一注意力层对初始问题特征数据和初始答案特征数据进行加权,得到第一目标特征向量;利用第一长短期记忆网络层,处理第一目标特征向量,得到与标签信息对应的问题处理向量。
根据本公开的实施例,可以将问题特征提取网络输出的初始问题特征数据o1 (t),作为第一注意力层的输入向量,经非线性变换计算一组权重
Figure BDA0003448825210000151
然后可以通过答案特征提取网络输出的初始答案特征数据o2 (t)与权重
Figure BDA0003448825210000152
计算得到第一长短期记忆网络层输入的第一目标特征向量c1 (t),以便得到第一长短期记忆网络层输出的问题处理向量qn
Figure BDA0003448825210000153
Figure BDA0003448825210000154
根据本公开的实施例,可以通过将初始问题特征数据o1 (t)进行非线性变换得到一个新的特征,使用这个新的特征进行线性的分类,可以相当于对初始问题特征数据o1 (t)进行了非线性分类。
根据本公开的实施例,答案特征匹配网络包括第二注意力层和第二长短期记忆网络层;利用答案特征匹配网络,处理初始答案特征数据,得到与标签信息对应的答案处理向量包括:
利用第二注意力层对初始答案特征数据和初始问题特征数据进行加权,得到第二目标特征向量;利用第二长短期记忆网络层,处理第二目标特征向量,得到与标签信息对应的答案处理向量。
根据本公开的实施例,可以将答案特征提取网络输出的初始答案特征数据o2 (t),作为第二注意力层的输入向量,经非线性变换计算一组权重α2;然后可以通过问题特征提取网络输出的初始问题特征数据o1 (t)与权重α2,计算得到第二长短期记忆网络层输入的第二目标特征向量c2 (t),以便得到第二长短期记忆网络层输出的答案处理向量an
Figure BDA0003448825210000161
Figure BDA0003448825210000162
根据本公开的实施例,将处理向量与标签信息输入至待训练的信息推荐模型的损失函数,得到损失结果包括:
根据信息推荐模型的损失函数,利用问题处理向量、答案处理向量与标签信息,得到损失结果。
根据本公开的实施例,可以通过计算问题处理向量qn和答案处理向量an的相似度,获得报警手册文本的词向量和报警文本的词向量的匹配度y,损失函数可以表示为l(y)。
Figure BDA0003448825210000163
根据本公开的实施例,相似度计算方法可以包括余弦相似度、杰卡德相关系数、皮尔森相关系数、海明距离等。
根据本公开的实施例,可以基于与标签信息对应的问题处理向量和答案处理向量,得到损失结果,并可以根据损失结果调整信息推荐模型的网络参数,以便确定信息推荐模型。
根据本公开的实施例,通过将特征匹配网络划分为问题特征匹配网络和答案特征匹配网络,然后利用注意力网络和长短期记忆网络的组合,分别构建问题特征匹配网络和答案特征匹配网络,并对来自特征提取网络的初始问题特征数据和初始答案特征数据进行处理,可以分别得到与标签信息对应的问题处理向量和答案处理向量。
图5示意性示出了根据本公开实施例的信息推荐方法的流程图。
如图5所示,该信息推荐方法包括操作S501~S503。
在操作S501,获取报警文本。
根据本公开的实施例,可以从监控环境中获取当天所有报警文本。
在操作S502,对报警文本进行预处理,得到报警文本的词向量。
根据本公开的实施例,报警文本一般包括非结构化文本,在输入模型前需要对报警文本进行预处理。
根据本公开的实施例,预处理可以包括分词和word2vec编码,以便将报警文本表示为词向量的形式。
在操作S503,利用信息推荐模型对报警文本的词向量进行处理,得到推荐结果,其中,信息推荐模型是通过如上所述的训练方法得到的。
根据本公开的实施例,可以将经预处理得到的报警文本的词向量输入信息推荐模型中,以便于得到推荐结果,并可以将推荐的报警手册文本作为与报警文本对应的报警处理方法。
根据本公开的实施例,通过获取报警文本,然后利用信息推荐模型对预处理后得到的报警文本的词向量进行处理,得到推荐结果。通过上述技术手段,能够根据报警文本推荐正确的报警分析处理方法,从而提高了报警处理效率和准确率。
图6示意性示出了根据本公开实施例的信息推荐模型的训练装置的结构框图。
如图6所示,信息推荐模型的训练装置装置600包括:第一获取模块601和训练模块602。
第一获取模块601,用于获取训练样本数据集,其中,训练样本数据集中的训练样本包括经预处理后的报警信息以及报警信息的标签信息,报警信息包括报警文本和与报警文本对应的报警手册文本,经预处理后的报警信息包括报警文本的词向量和报警手册文本的词向量。
训练模块602,用于利用训练样本数据集训练信息推荐模型,得到经训练的信息推荐模型。
根据本公开的实施例,通过利用由报警文本的词向量、报警手册文本的词向量以及标签信息组成的训练样本数据集,对模型进行训练,得到经训练的信息推荐模型。通过上述技术手段,至少部分地克服了相关技术中人工查询手册耗费时间和人力的问题,实现了提高报警文本的处理效率和准确度的技术效果。
根据本公开的实施例,其中,信息推荐模型包括特征提取网络和特征匹配网络,训练模块602包括:提取子模块、第一处理子模块、第二处理子模块、调整子模块和确定子模块。
提取子模块,用于利用特征提取网络,提取训练样本数据集中的初始特征数据。
第一处理子模块,用于利用特征匹配网络,处理初始特征数据,得到处理向量。
第二处理子模块,用于根据信息推荐模型的损失函数,处理处理向量与标签信息,得到损失结果。
调整子模块,用于根据损失结果调整信息推荐模型的网络参数,直至损失函数满足预设条件。
确定子模块,用于将损失函数满足预设条件时得到的模型确定为信息推荐模型。
根据本公开的实施例,其中,特征提取网络包括问题特征提取网络和答案特征提取网络,提取子模块包括:第一提取单元和第二提取单元。
第一提取单元,用于利用问题特征提取网络,提取训练样本数据集中报警文本的词向量的初始问题特征数据。
第二提取单元,用于利用答案特征提取网络,提取训练样本数据集中报警手册文本的词向量的初始答案特征数据。
根据本公开的实施例,其中,问题特征提取网络包括第一双向长短期记忆网络层、第一卷积层、第二卷积层及第三卷积层,第一提取单元包括:第一处理子单元、第二处理子单元、第三处理子单元、第四处理子单元和第一确定子单元。
第一处理子单元,用于利用第一双向长短期记忆网络层,处理训练样本数据集中的报警文本的词向量,得到初始问题特征向量。
第二处理子单元,用于利用第一卷积层,处理初始问题特征向量,得到第一特征向量。
第三处理子单元,用于利用第二卷积层,处理第一特征向量,得到第二特征向量。
第四处理子单元,用于利用第三卷积层,处理第二特征向量,得到第三特征向量。
第一确定子单元,用于根据初始问题特征向量和第三特征向量,确定训练样本数据集的初始问题特征数据。
根据本公开的实施例,其中,答案特征提取网络包括第二双向长短期记忆网络层、第四卷积层、第五卷积层及第六卷积层,第二提取单元包括:第五处理子单元、第六处理子单元、第七处理子单元、第八处理子单元和第二确定子单元。
第五处理子单元,用于利用第二双向长短期记忆网络层,处理训练样本数据集中的报警手册文本的词向量,得到初始答案特征向量。
第六处理子单元,用于利用第四卷积层,处理初始答案特征向量,得到第四特征向量。
第七处理子单元,用于利用第五卷积层,处理第四特征向量,得到第五特征向量。
第八处理子单元,用于利用第六卷积层,处理第五特征向量,得到第六特征向量。
第二确定子单元,用于根据初始答案特征向量和第六特征向量,确定训练样本数据集的初始答案特征数据。
根据本公开的实施例,第一卷积层和第四卷积层均包括2x2卷积核,其中,2x2卷积核的空洞率为1;第二卷积层和第五卷积层均包括2x2卷积核,其中,2x2卷积核的空洞率为2;第三卷积层和第六卷积层均包括2x2卷积核,其中,2x2卷积核的空洞率为4。
根据本公开的实施例,其中,特征匹配网络包括问题特征匹配网络和答案特征匹配网络,第一处理子模块包括:第一处理单元和第二处理单元。
第一处理单元,用于利用问题特征匹配网络,处理初始问题特征数据,得到与标签信息对应的问题处理向量。
第二处理单元,用于利用答案特征匹配网络,处理初始答案特征数据,得到与标签信息对应的答案处理向量。
根据本公开的实施例,其中,问题特征匹配网络包括第一注意力层和第一长短期记忆网络层,第一处理单元包括:第一加权子单元和第九处理子单元。
第一加权子单元,用于利用第一注意力层对初始问题特征数据和初始答案特征数据进行加权,得到第一目标特征向量。
第九处理子单元,用于利用第一长短期记忆网络层,处理第一目标特征向量,得到与标签信息对应的问题处理向量。
根据本公开的实施例,其中,答案特征匹配网络包括第二注意力层和第二长短期记忆网络层,第二处理单元包括:第二加权子单元和第十处理子单元。
第二加权子单元,用于利用第二注意力层对初始答案特征数据和初始问题特征数据进行加权,得到第二目标特征向量。
第十处理子单元,用于利用第二长短期记忆网络层,处理第二目标特征向量,得到与标签信息对应的答案处理向量。
根据本公开的实施例,第二处理子模块包括:第三处理单元。
第三处理单元,根据信息推荐模型的损失函数,处理问题处理向量、答案处理向量与标签信息,得到损失结果。
图7示意性示出了根据本公开实施例的信息推荐装置的结构框图。
如图7所示,信息推荐装置700包括:第二获取模块701、预处理模块702和处理模块703。
第二获取模块701,用于获取报警文本。
预处理模块702,用于对报警文本进行预处理,得到报警文本的词向量。
处理模块703,用于利用信息推荐模型对报警文本的词向量进行处理,得到推荐结果,其中,信息推荐模型是通过如上所述的训练方法得到的。
根据本公开的实施例,通过获取报警文本,然后利用信息推荐模型对预处理后得到的报警文本的词向量进行处理,得到推荐结果。通过上述技术手段,能够根据报警文本推荐正确的报警分析处理方法,从而提高了报警处理效率和准确率。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,第一获取模块601、训练模块602、第二获取模块701、预处理模块702和处理模块703中的任意多个可以合并在一个模块/单元/子单元中实现,或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者,这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合,并在一个模块/单元/子单元中实现。根据本公开的实施例,第一获取模块601、训练模块602、第二获取模块701、预处理模块702和处理模块703中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,第一获取模块601、训练模块602、第二获取模块701、预处理模块702和处理模块703中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
需要说明的是,本公开的实施例中信息推荐模型的训练装置部分与本公开的实施例中信息推荐模型的训练方法部分是相对应的,信息推荐模型的训练装置部分的描述具体参考信息推荐模型的训练方法部分,在此不再赘述;本公开的实施例中信息推荐装置部分与本公开的实施例中信息推荐方法部分是相对应的,信息推荐装置部分的描述具体参考信息推荐方法部分,在此不再赘述。
图8示意性示出了根据本公开实施例的适于实现信息推荐模型的训练方法、信息推荐方法的电子设备的框图。图8示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图8所示,根据本公开实施例的计算机电子设备800包括处理器801,其可以根据存储在只读存储器(ROM)802中的程序或者从存储部分808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。处理器801例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器801还可以包括用于缓存用途的板载存储器。处理器801可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 803中,存储有电子设备800操作所需的各种程序和数据。处理器801、ROM802以及RAM 803通过总线804彼此相连。处理器801通过执行ROM 802和/或RAM 803中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 802和RAM 803以外的一个或多个存储器中。处理器801也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备800还可以包括输入/输出(I/O)接口805,输入/输出(I/O)接口805也连接至总线804。电子设备800还可以包括连接至I/O接口805的以下部件中的一项或多项:包括键盘、鼠标等的输入部分806;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分807;包括硬盘等的存储部分808;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至I/O接口805。可拆卸介质811,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器810上,以便于从其上读出的计算机程序根据需要被安装入存储部分808。
根据本公开的实施例,根据本公开实施例的方法流程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分809从网络上被下载和安装,和/或从可拆卸介质811被安装。在该计算机程序被处理器801执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 802和/或RAM 803和/或ROM 802和RAM 803以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行本公开实施例所提供的方法的程序代码,当计算机程序产品在电子设备上运行时,该程序代码用于使电子设备实现本公开实施例所提供的信息处理方法。
在该计算机程序被处理器801执行时,执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分809被下载和安装,和/或从可拆卸介质811被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。

Claims (16)

1.一种信息推荐模型的训练方法,包括:
获取训练样本数据集,其中,所述训练样本数据集中的训练样本包括经预处理后的报警信息以及所述报警信息的标签信息,所述报警信息包括报警文本和与所述报警文本对应的报警手册文本,所述经预处理后的报警信息包括所述报警文本的词向量和所述报警手册文本的词向量;以及
利用所述训练样本数据集训练所述信息推荐模型,得到经训练的信息推荐模型。
2.根据权利要求1所述的方法,其中,所述信息推荐模型包括特征提取网络和特征匹配网络,所述利用所述训练样本数据集训练所述信息推荐模型,得到经训练的信息推荐模型包括:
利用所述特征提取网络,提取所述训练样本数据集中的初始特征数据;
利用所述特征匹配网络,处理所述初始特征数据,得到处理向量;
根据信息推荐模型的损失函数,利用所述处理向量与所述标签信息,得到损失结果;
根据所述损失结果调整所述信息推荐模型的网络参数,直至所述损失函数满足预设条件;以及
将所述损失函数满足预设条件时得到的模型确定为所述信息推荐模型。
3.根据权利要求2所述的方法,其中,所述特征提取网络包括问题特征提取网络和答案特征提取网络,所述利用所述特征提取网络,提取所述训练样本数据集中的初始特征数据包括:
利用所述问题特征提取网络,提取所述训练样本数据集中所述报警文本的词向量的初始问题特征数据;
利用所述答案特征提取网络,提取所述训练样本数据集中所述报警手册文本的词向量的初始答案特征数据。
4.根据权利要求3所述的方法,其中,所述问题特征提取网络包括第一双向长短期记忆网络层、第一卷积层、第二卷积层及第三卷积层;
所述利用所述问题特征提取网络,提取所述训练样本数据集中所述报警文本的词向量的初始问题特征数据包括:
利用所述第一双向长短期记忆网络层,处理所述训练样本数据集中的所述报警文本的词向量,得到初始问题特征向量;
利用所述第一卷积层,处理所述初始问题特征向量,得到第一特征向量;
利用所述第二卷积层,处理所述第一特征向量,得到第二特征向量;
利用所述第三卷积层,处理所述第二特征向量,得到第三特征向量;以及
根据所述初始问题特征向量和所述第三特征向量,确定所述训练样本数据集的所述初始问题特征数据。
5.根据权利要求4所述的方法,其中,所述答案特征提取网络包括第二双向长短期记忆网络层、第四卷积层、第五卷积层及第六卷积层;
所述利用所述答案特征提取网络,提取所述训练样本数据集中所述报警手册文本的词向量的初始答案特征数据包括:
利用所述第二双向长短期记忆网络层,处理所述训练样本数据集中的所述报警手册文本的词向量,得到初始答案特征向量;
利用所述第四卷积层,处理所述初始答案特征向量,得到第四特征向量;
利用所述第五卷积层,处理所述第四特征向量,得到第五特征向量;
利用所述第六卷积层,处理所述第五特征向量,得到第六特征向量;以及
根据所述初始答案特征向量和所述第六特征向量,确定所述训练样本数据集的所述初始答案特征数据。
6.根据权利要求5所述的方法,其中:
所述第一卷积层和所述第四卷积层均包括2x2卷积核,其中,所述2x2卷积核的空洞率为1;
所述第二卷积层和所述第五卷积层均包括2x2卷积核,其中,所述2x2卷积核的空洞率为2;
所述第三卷积层和所述第六卷积层均包括2x2卷积核,其中,所述2x2卷积核的空洞率为4。
7.根据权利要求6所述的方法,其中,所述特征匹配网络包括问题特征匹配网络和答案特征匹配网络,所述利用所述特征匹配网络,处理所述初始特征数据,得到处理向量包括:
利用所述问题特征匹配网络,处理所述初始问题特征数据,得到与所述标签信息对应的问题处理向量;
利用所述答案特征匹配网络,处理所述初始答案特征数据,得到与所述标签信息对应的答案处理向量。
8.根据权利要求7所述的方法,其中,所述问题特征匹配网络包括第一注意力层和第一长短期记忆网络层;
所述利用所述问题特征匹配网络,处理所述初始问题特征数据,得到与所述标签信息对应的问题处理向量包括:
利用所述第一注意力层对所述初始问题特征数据和所述初始答案特征数据进行加权,得到第一目标特征向量;
利用所述第一长短期记忆网络层,处理所述第一目标特征向量,得到与所述标签信息对应的所述问题处理向量。
9.根据权利要求7所述的方法,其中,所述答案特征匹配网络包括第二注意力层和第二长短期记忆网络层;
所述利用所述答案特征匹配网络,处理所述初始答案特征数据,得到与所述标签信息对应的答案处理向量包括:
利用所述第二注意力层对所述初始答案特征数据和所述初始问题特征数据进行加权,得到第二目标特征向量;
利用所述第二长短期记忆网络层,处理所述第二目标特征向量,得到与所述标签信息对应的所述答案处理向量。
10.根据权利要求9所述的方法,其中,所述将所述处理向量与所述标签信息输入至待训练的信息推荐模型的损失函数,得到损失结果包括:
根据信息推荐模型的损失函数,利用所述问题处理向量、所述答案处理向量与所述标签信息,得到损失结果。
11.一种信息推荐方法,包括:
获取报警文本;
对所述报警文本进行预处理,得到所述报警文本的词向量;
利用信息推荐模型对所述报警文本的词向量进行处理,得到推荐结果,其中,所述信息推荐模型是通过权利要求1至10中任一项所述的训练方法得到的。
12.一种信息推荐模型的训练装置,包括:
第一获取模块,用于获取训练样本数据集,其中,所述训练样本数据集中的训练样本包括经预处理后的报警信息以及所述报警信息的标签信息,所述报警信息包括报警文本和与所述报警文本对应的报警手册文本,所述经预处理后的报警信息包括所述报警文本的词向量和所述报警手册文本的词向量;
训练模块,用于利用所述训练样本数据集训练信息推荐模型,得到经训练的信息推荐模型。
13.一种信息推荐装置,包括:
第二获取模块,用于获取报警文本;
预处理模块,用于对所述报警文本进行预处理,得到所述报警文本的词向量;
处理模块,用于利用信息推荐模型对所述报警文本的词向量进行处理,得到推荐结果,其中,所述信息推荐模型是通过权利要求1至10中任一项所述的训练方法得到的。
14.一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个指令,
其中,当所述一个或多个指令被所述一个或多个处理器执行时,使得所述一个或多个处理器实现权利要求1至11中任一项所述的方法。
15.一种计算机可读存储介质,其上存储有可执行指令,所述可执行指令被处理器执行时使处理器实现权利要求1至11中任一项所述的方法。
16.一种计算机程序产品,所述计算机程序产品包括计算机可执行指令,所述计算机可执行指令在被执行时用于实现权利要求1至11中任一项所述的方法。
CN202111680641.2A 2021-12-31 2021-12-31 信息推荐模型的训练方法、信息推荐方法及装置 Pending CN114328891A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111680641.2A CN114328891A (zh) 2021-12-31 2021-12-31 信息推荐模型的训练方法、信息推荐方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111680641.2A CN114328891A (zh) 2021-12-31 2021-12-31 信息推荐模型的训练方法、信息推荐方法及装置

Publications (1)

Publication Number Publication Date
CN114328891A true CN114328891A (zh) 2022-04-12

Family

ID=81023474

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111680641.2A Pending CN114328891A (zh) 2021-12-31 2021-12-31 信息推荐模型的训练方法、信息推荐方法及装置

Country Status (1)

Country Link
CN (1) CN114328891A (zh)

Similar Documents

Publication Publication Date Title
US20220129731A1 (en) Method and apparatus for training image recognition model, and method and apparatus for recognizing image
US11062089B2 (en) Method and apparatus for generating information
US11681924B2 (en) Training neural networks using a variational information bottleneck
US20190332938A1 (en) Training machine learning models
CN110825956A (zh) 一种信息流推荐方法、装置、计算机设备及存储介质
CN112863683A (zh) 基于人工智能的病历质控方法、装置、计算机设备及存储介质
CN113507419B (zh) 流量分发模型的训练方法、流量分发方法及装置
US20190147540A1 (en) Method and apparatus for outputting information
CN107766498B (zh) 用于生成信息的方法和装置
CN113779240A (zh) 信息识别方法、装置、计算机系统及可读存储介质
CN116720489B (zh) 页面填充方法及装置、电子设备和计算机可读存储介质
CN113128773A (zh) 地址预测模型的训练方法、地址预测方法及装置
CN117216393A (zh) 信息推荐方法、信息推荐模型的训练方法及装置、设备
CN116756281A (zh) 知识问答方法、装置、设备和介质
CN115525781A (zh) 多模态虚假信息检测方法、装置和设备
CN114676694A (zh) 业务模型的生成方法、装置、设备、介质和程序产品
CN114238641A (zh) 运维知识的挖掘方法、装置、设备、存储介质和程序产品
CN114064859A (zh) 知识抽取方法、装置、设备、介质和程序产品
CN114328891A (zh) 信息推荐模型的训练方法、信息推荐方法及装置
CN113609018A (zh) 测试方法、训练方法、装置、设备、介质和程序产品
CN113392215A (zh) 生产问题分类模型的训练方法、生产问题分类方法及装置
CN114301713A (zh) 风险访问检测模型的训练方法、风险访问检测方法及装置
CN113191137A (zh) 一种操作风险获取方法、系统、电子设备及存储介质
CN113010666A (zh) 摘要生成方法、装置、计算机系统及可读存储介质
CN112947928A (zh) 代码评价的方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination