CN116578696A - 文本摘要生成方法、装置、设备及存储介质 - Google Patents
文本摘要生成方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN116578696A CN116578696A CN202310551348.9A CN202310551348A CN116578696A CN 116578696 A CN116578696 A CN 116578696A CN 202310551348 A CN202310551348 A CN 202310551348A CN 116578696 A CN116578696 A CN 116578696A
- Authority
- CN
- China
- Prior art keywords
- text
- paragraph
- target
- matrix
- sequence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Machine Translation (AREA)
Abstract
本发明涉及人工智能领域,可以用于对保险知识培训文本的文本摘要生成,揭露一种文本摘要生成方法,包括:对所述目标文本进行段落划分,得到段落文本;将所述段落文本进行向量转换,得到段落向量;基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵;基于注意力机制对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵;基于所述目标文本矩阵,利用预构建的文本生成模型进行文本生成,得到目标文本摘要。本发明还涉及一种区块链技术,所述段落向量可以存储在区块链节点中。本发明还提出一种文本摘要生成装置、设备以及介质,可应用于金融领域,提高保险知识培训文本等文本摘要生成的准确率。
Description
技术领域
本发明涉及人工智能技术及金融科技领域,尤其涉及一种文本摘要生成方法、装置、电子设备及存储介质。
背景技术
随着自然语言处理技术的发展,各种自然语言处理技术逐渐应用到各种业务问题中,如要对员工进行保险知识培训时,需要选取合适的保险知识培训文本进行对应的知识培训,但是由于保险知识培训文本数量较多,为了更清晰快速的了解每个保险知识培训文本的主要内容,利用文本摘要生成方法对每个保险知识培训文本进行文本摘要生成,进而通过生成的文本摘要筛选想要的保险知识培训文本。
但是,现有的文本摘要生成技术只是将目标文本(如保险知识培训文本)转化为向量后,直接基于转化的向量进行摘要生成,忽略了转化的向量中无关文本特征对文本摘要生成的影响,进而导致文本摘要生成的准确率较低。
发明内容
本发明提供一种文本摘要生成方法、装置、电子设备及存储介质,其主要目的在于提高保险知识培训文本等文本摘要生成的准确率。
获取目标文本,对所述目标文本进行段落划分,得到段落文本;
对所述段落文本进行分词,并根据分词结果筛选所述段落文本中的关键词;
将所述段落文本中的所有词语及所有关键词,按照词语在所述段落文本中的顺序进行拼接,得到所述段落文本的目标段落文本序列;
将所述目标段落文本序列进行向量转换,得到段落向量;
基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵;
基于注意力机制对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵;
基于所述目标文本矩阵,利用预构建的文本生成模型进行文本生成,得到目标文本摘要。
可选地,所述对所述段落文本进行分词,并根据分词结果筛选所述段落文本中的关键词,包括:
对所述段落文本中的每一句文本进行分词直至所述段落文本中的所有文本均被分词,得到所述段落文本的分词词语;
提取所述段落文本中的每一句文本,得到对应的句文本;
根据所述句文本计算所述分词词语的重要性系数,以衡量所述分词词语在所述段落文本中重要性;
基于所述重要性系数对所述段落文本中的所有分词词语进行筛选,得到该段落文本的关键词。
可选地,所述根据所述句文本计算所述分词词语的重要性系数,包括:
计算每个所述分词词语在所述段落文本中出现的频率,得到每个所述分词词语对应的分词词语频率;
根据所述段落文本中所有分词词语对应的分词词语频率进行计算,得到分词词语总频率;
根据所述分词词语对应的分词词语频率与所述分词词语总频率进行计算,得到所述分词词语的词频系数;
将包含所述分词词语的句文本确定为该分词词语的目标句文本;
根据所述分词词语对应的目标句文本的数量与所述段落文本中句文本的总数量进行计算,得到所述分词词语的文件频率;
根据所述分词词语的分词词语频率及文件频率进行计算,得到所述分词词语的重要性系数。
可选地,所述基于所述重要性系数对所述段落文本中的所有分词词语进行筛选,得到该段落文本的关键词,包括:
按照所述重要性系数的大小将所有分词词语进行排序,得到词语排序序列;
利用预设的切分长度以所述词语排序序列中的第一个词语为起点,对所述词语排序序列进行切分,得到目标词语排序序列;
将所述目标排序序列中的所有词语确定为所述关键词。
可选地,所述基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵,包括:
将所述段落文本在所述目标文本中的顺序确定为该段落文本对应的目标段落文本序列的序列顺序;
将所述目标段落文本序列的序列顺序确定为该目标段落文本序列对应的段落向量的向量顺序;
按照所述向量顺序的大小将所有所述段落向量进行组合,得到所述初始文本矩阵。
可选地,所述基于注意力机制对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵,包括:
提取预构建的注意力网络中每个注意力头对应的查询权重矩阵、键权重矩阵及值权重矩阵,其中,所述注意力网络为基于多头注意力机制构建的包含预设数量注意力头的注意力网络;
利用所述初始文本矩阵与每一个所述注意力头的查询权重矩阵进行计算,得到每一个所述注意力头对应的注意力查询矩阵;
利用所述初始文本矩阵与每一个所述注意力头的键权重矩阵进行计算,得到每一个所述注意力头对应注意力键矩阵;
利用所述初始文本矩阵与每一个所述注意力头的值权重矩阵进行计算,得到每一个所述注意力头对应的注意力值矩阵;
将所述注意力头对应的注意力查询矩阵及注意力键矩阵进行计算,得到所述注意力头对应的注意力权重矩阵;
将所述注意力头对应的注意力权重矩阵及注意力值矩阵进行计算,得到所述注意力头的初始文本特征矩阵;
将所有所述初始文本特征矩阵基于预设的注意力头顺序进行组合,得到所述目标文本矩阵。
为了解决上述问题,本发明还提供一种文本摘要生成装置,所述装置包括:
特征提取模块,用于获取目标文本,对所述目标文本进行段落划分,得到段落文本;对所述段落文本进行分词,并根据分词结果筛选所述段落文本中的关键词;将所述段落文本中的所有词语及所有关键词,按照词语在所述段落文本中的顺序进行拼接,得到所述段落文本的目标段落文本序列;将所述目标段落文本序列进行向量转换,得到段落向量;基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵;
语义增强模块,用于基于注意力机制对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵;
摘要生成模块,用于基于所述目标文本矩阵,利用预构建的文本生成模型进行文本生成,得到目标文本摘要。
可选地,所述基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵,包括:
将所述段落文本在所述目标文本中的顺序确定为该段落文本对应的目标段落文本序列的序列顺序;
将所述目标段落文本序列的序列顺序确定为该目标段落文本序列对应的段落向量的向量顺序;
按照所述向量顺序的大小将所有所述段落向量进行组合,得到所述初始文本矩阵。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
存储器,存储至少一个计算机程序;及
处理器,执行所述存储器中存储的计算机程序以实现上述所述的文本摘要生成方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个计算机程序,所述至少一个计算机程序被电子设备中的处理器执行以实现上述所述的文本摘要生成方法。
本发明实施例基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵;基于注意力机制对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵,分段落利用向量组合表征所述目标文本的文本特征,可以更加准确的表征不同段落对所述目标文本的文本特征的影响,进而利用注意力机制对所述初始文本矩阵进行语义特征强化,强化了初始文本矩阵中的有效特征,去除无关特征的影响,进而使得目标文本矩阵可以更准确的表征目标文本的文本特征,从而提高基于目标文本矩阵进行文本摘要生成的准确率。因此本发明实施例提出的文本摘要生成方法、装置、电子设备及可读存储介质可以提高保险知识培训文本等文本摘要生成的准确率。
附图说明
图1为本发明一实施例提供的文本摘要生成方法的流程示意图;
图2为本发明一实施例提供的文本摘要生成装置的模块示意图;
图3为本发明一实施例提供的实现文本摘要生成方法的电子设备的内部结构示意图;
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明实施例提供一种文本摘要生成方法。所述文本摘要生成方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之,所述文本摘要生成方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等,服务器可以是独立的服务器,也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
参照图1所示的本发明一实施例提供的文本摘要生成方法的流程示意图,在本发明实施例中,所述文本摘要生成方法包括以下步骤:
S1、获取目标文本,对所述目标文本进行段落划分,得到段落文本;
本发明实施例中所述目标文本为需要进行摘要生成的文本,为保险知识培训文本。
进一步地,本发明实施例中为了更好的提取所述目标文本的文本特征,对所述目标文本即保险知识培训文本进行段落划分,得到所述段落文本。
具体地,本发明实施例中所述对所述目标文本进行段落划分,得到所述段落文本,包括:
根据预设切分符号进行比对识别,以识别所述目标文本中的分段符号;
将所述分段符号作为切分节点对所述目标文本进行切分,得到至少一个段落文本。
具体地,本发明实施例中将所述目标文本中与所述切分符号相同的符号确定为分段符号。
S2、对所述段落文本进行分词,并根据分词结果筛选所述段落文本中的关键词;
本发明实施例中为了表征所述保险知识培训文本中每一段的语义,对所述段落文本进行分词,并根据分词结果筛选所述段落文本中的关键词。
本发明实施例中所述S2,包括:
对所述段落文本中的每一句文本进行分词直至所述段落文本中的所有文本均被分词,得到所述段落文本的分词词语;
提取所述段落文本中的每一句文本,得到对应的句文本;
根据所述句文本计算所述分词词语的重要性系数,以衡量所述分词词语在所述段落文本中重要性;
基于所述重要性系数对所述段落文本中的所有分词词语进行筛选,得到该段落文本的关键词。
进一步地,本发明实施例中所述根据所述句文本计算所述分词词语的重要性系数,包括:
计算每个所述分词词语在所述段落文本中出现的频率,得到每个所述分词词语对应的分词词语频率;
根据所述段落文本中所有分词词语对应的分词词语频率进行计算,得到分词词语总频率;
根据所述分词词语对应的分词词语频率与所述分词词语总频率进行计算,得到所述分词词语的词频系数;
将包含所述分词词语的句文本确定为该分词词语的目标句文本;
根据所述分词词语对应的目标句文本的数量与所述段落文本中句文本的总数量进行计算,得到所述分词词语的文件频率;
根据所述分词词语的分词词语频率及文件频率进行计算,得到所述分词词语的重要性系数。
具体地,本发明实施例中所述基于所述重要性系数对所述段落文本中的所有分词词语进行筛选,得到该段落文本的关键词,包括:
按照所述重要性系数的大小将所有分词词语进行排序,得到词语排序序列;
利用预设的切分长度以所述词语排序序列中的第一个词语为起点,对所述词语排序序列进行切分,得到目标词语排序序列;
将所述目标排序序列中的所有词语确定为所述关键词。
本发明实施例中对所述切分长度不做限制,所述切分长度可以为10个词语,或词语排序序列中10%数量的词语等。
S3、将所述段落文本中的所有词语及所有关键词,按照词语在所述段落文本中的顺序进行拼接,得到所述段落文本的目标段落文本序列;
本发明实施例中将所述段落文本中的所有词语及所有关键词,按照词语在所述段落文本中的顺序进行拼接,得到所述段落文本的目标段落文本序列,包括:
将所有段落文本中的所有分词词语按照每个分词词语在所述段落文本中的先后顺序进行组合,得到分词词语序列;
将所述段落文本中的所有关键词按照每个关键词在所述段落文本中的先后顺序进行组合,得到关键词序列;
利用预设连接符将所述分词词语序列及所述关键词序列进行拼接,得到所述段落文本的目标段落文本序列。
S4、将所述目标段落文本序列进行向量转换,得到段落向量;
本发明实施例中为了更好的表征所述目标段落文本序列的文本特征,即表征所述保险知识培训文本每一段的语义,将所述将所述目标段落文本序列进行向量转换,得到段落向量。
具体地,本发明实施例中将所述目标段落文本序列进行向量转换,得到段落向量,包括:
将所述目标段落文本序列每个词语或符号转化为向量,得到对应的序列标识向量;
将所有所述序列标识向量按照对应的词语或符号在所述目标段落文本序列中的先后顺序进行组合,得到序列标识矩阵;
将所述序列标识矩阵进行维度压缩,以得到维度为预设向量维度的段落向量。
具体地,本发明实施例可利用深度学习模型(如bert模型)或向量转化算法将所述目标段落文本序列每个词语或符号转化为向量,本发明实施例对向量转化的具体方法不做限制。
本发明另一实施例中所述将所述目标段落文本序列进行向量转换,得到段落向量,包括:
将所述目标段落文本序列输入bert模型,得到所述段落向量。
本发明另一实施例中所述段落向量可以存储在区块链节点中,利用区块链节点高吞吐的特性,提高数据的取用效率。
S5、基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵;
本发明实施例中为了能表征所述保险知识培训文本的语义特征,基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵。
详细地,本发明实施例中所述基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵,包括:
将所述段落文本在所述目标文本中的顺序确定为该段落文本对应的目标段落文本序列的序列顺序;
将所述目标段落文本序列的序列顺序确定为该目标段落文本序列对应的段落向量的向量顺序;
按照所述向量顺序的大小将所有所述段落向量进行组合,得到所述初始文本矩阵。
S6、基于注意力机制对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵;
本发明实施例中为了强化所述初始文本矩阵中的语义特征,使得所述保险知识培训文本的语义特征表征的更准确,对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵。
具体地,本发明实施例中基于注意力机制对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵,包括:
步骤A:提取预构建的注意力网络中每个注意力头对应的查询权重矩阵、键权重矩阵及值权重矩阵,其中,所述注意力网络为基于多头注意力机制构建的包含预设数量注意力头的注意力网络;
本发明实施例中为查询权重矩阵、键权重矩阵、值权重矩阵为将所述初始文本矩阵映射为每个注意力头对应的注意力机制中K、Q、V的权重参数。
步骤B:利用所述初始文本矩阵与每一个所述注意力头的查询权重矩阵进行计算,得到每一个所述注意力头对应的注意力查询矩阵;
步骤C:利用所述初始文本矩阵与每一个所述注意力头的键权重矩阵进行计算,得到每一个所述注意力头对应注意力键矩阵;
步骤D:利用所述初始文本矩阵与每一个所述注意力头的值权重矩阵进行计算,得到每一个所述注意力头对应的注意力值矩阵;
步骤E:将所述注意力头对应的注意力查询矩阵及注意力键矩阵进行计算,得到所述注意力头对应的注意力权重矩阵;
具体地,本发明实施例中将所述注意力头对应的注意力查询矩阵及注意力键矩阵相乘,得到所述注意力头的初始注意力矩阵;利用softmax函数将所述注意力头的初始注意力矩阵行归一化,得到所述所述注意力头对应的注意力权重矩阵。
步骤F:将所述注意力头对应的注意力权重矩阵及注意力值矩阵进行计算,得到所述注意力头的初始文本特征矩阵;
步骤G:将所有所述初始文本特征矩阵基于预设的注意力头顺序进行组合,得到所述目标文本矩阵。
例如:共有三个注意力头,分别为A、B、C,注意力头A对应的初始文本特征矩阵为注意力头B对应的初始文本特征矩阵为/>注意力头C对应的初始文本特征矩阵为/>预设的注意力头顺序为B、A、C,那么将对应的初始文本特征矩阵组合得到的目标文本矩阵为
S7、基于所述目标文本矩阵,利用预构建的文本生成模型进行文本生成,得到目标文本摘要。
本发明实施例中将所述目标文本矩阵输入所述文本生成模型,得到所述目标文本摘要。
本发明实施例中所述文本生成模型为训练完成的用于文本生成的模型,具体地,本发明实施例中所述文本生成模型为训练完成的用于文本生成的LSTM模型,模型训练的过程中使用的损失函数为交叉熵损失函数及长度平滑损失函数。
例如:生成的目标文本摘要为寿险索赔的注意事项,那么想要培训寿险索赔的相关注意事项时,就可以选择该文本摘要对应的保险知识培训文本。
如图2所示,是本发明文本摘要生成装置的功能模块图。
本发明所述文本摘要生成装置100可以安装于电子设备中。根据实现的功能,所述文本摘要生成装置可以包括特征提取模块101、语义增强模块102、摘要生成模块103,本发所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述特征提取模块101用于获取目标文本,对所述目标文本进行段落划分,得到段落文本;对所述段落文本进行分词,并根据分词结果筛选所述段落文本中的关键词;将所述段落文本中的所有词语及所有关键词,按照词语在所述段落文本中的顺序进行拼接,得到所述段落文本的目标段落文本序列;将所述目标段落文本序列进行向量转换,得到段落向量;基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵;
所述语义增强模块102用于基于注意力机制对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵;
所述摘要生成模块103用于基于所述目标文本矩阵,利用预构建的文本生成模型进行文本生成,得到目标文本摘要。
详细地,本发明实施例中所述文本摘要生成装置100中所述的各模块在使用时采用与上述图1中所述的文本摘要生成方法一样的技术手段,并能够产生相同的技术效果,这里不再赘述。
如图3所示,是本发明实现文本摘要生成方法的电子设备的结构示意图。
所述电子设备可以包括处理器10、存储器11、通信总线12和通信接口13,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如文本摘要生成程序。
其中,所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备的内部存储单元,例如该电子设备的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备的外部存储设备,例如电子设备上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备的应用软件及各类数据,例如文本摘要生成程序的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing Unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如文本摘要生成程序等),以及调用存储在所述存储器11内的数据,以执行电子设备的各种功能和处理数据。
所述通信总线12可以是外设部件互连标准(PerIPheralComponentInterconnect,简称PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述通信总线12总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
图3仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图3示出的结构并不构成对所述电子设备的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障分类电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
可选地,所述通信接口13可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备与其他电子设备之间建立通信连接。
可选地,所述通信接口13还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备中的所述存储器11存储的文本摘要生成程序是多个计算机程序的组合,在所述处理器10中运行时,可以实现:
获取目标文本,对所述目标文本进行段落划分,得到段落文本;
对所述段落文本进行分词,并根据分词结果筛选所述段落文本中的关键词;
将所述段落文本中的所有词语及所有关键词,按照词语在所述段落文本中的顺序进行拼接,得到所述段落文本的目标段落文本序列;
将所述目标段落文本序列进行向量转换,得到段落向量;
基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵;
基于注意力机制对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵;
基于所述目标文本矩阵,利用预构建的文本生成模型进行文本生成,得到目标文本摘要。
具体地,所述处理器10对上述计算机程序的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
进一步地,所述电子设备集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。所述计算机可读介质可以是非易失性的,也可以是易失性的。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
本发明实施例还可以提供一种计算机可读存储介质,所述可读存储介质存储有计算机程序,所述计算机程序在被电子设备的处理器所执行时,可以实现:
获取目标文本,对所述目标文本进行段落划分,得到段落文本;
对所述段落文本进行分词,并根据分词结果筛选所述段落文本中的关键词;
将所述段落文本中的所有词语及所有关键词,按照词语在所述段落文本中的顺序进行拼接,得到所述段落文本的目标段落文本序列;
将所述目标段落文本序列进行向量转换,得到段落向量;
基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵;
基于注意力机制对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵;
基于所述目标文本矩阵,利用预构建的文本生成模型进行文本生成,得到目标文本摘要。
进一步地,所述计算机可用存储介质可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序等;存储数据区可存储根据区块链节点的使用所创建的数据等。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种文本摘要生成方法,其特征在于,所述方法包括:
获取目标文本,对所述目标文本进行段落划分,得到段落文本;
对所述段落文本进行分词,并根据分词结果筛选所述段落文本中的关键词;
将所述段落文本中的所有词语及所有关键词,按照词语在所述段落文本中的顺序进行拼接,得到所述段落文本的目标段落文本序列;
将所述目标段落文本序列进行向量转换,得到段落向量;
基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵;
基于注意力机制对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵;
基于所述目标文本矩阵,利用预构建的文本生成模型进行文本生成,得到目标文本摘要。
2.如权利要求1所述的文本摘要生成方法,其特征在于,所述对所述段落文本进行分词,并根据分词结果筛选所述段落文本中的关键词,包括:
对所述段落文本中的每一句文本进行分词直至所述段落文本中的所有文本均被分词,得到所述段落文本的分词词语;
提取所述段落文本中的每一句文本,得到对应的句文本;
根据所述句文本计算所述分词词语的重要性系数,以衡量所述分词词语在所述段落文本中重要性;
基于所述重要性系数对所述段落文本中的所有分词词语进行筛选,得到该段落文本的关键词。
3.如权利要求2所述的文本摘要生成方法,其特征在于,所述根据所述句文本计算所述分词词语的重要性系数,包括:
计算每个所述分词词语在所述段落文本中出现的频率,得到每个所述分词词语对应的分词词语频率;
根据所述段落文本中所有分词词语对应的分词词语频率进行计算,得到分词词语总频率;
根据所述分词词语对应的分词词语频率与所述分词词语总频率进行计算,得到所述分词词语的词频系数;
将包含所述分词词语的句文本确定为该分词词语的目标句文本;
根据所述分词词语对应的目标句文本的数量与所述段落文本中句文本的总数量进行计算,得到所述分词词语的文件频率;
根据所述分词词语的分词词语频率及文件频率进行计算,得到所述分词词语的重要性系数。
4.如权利要求2所述的文本摘要生成方法,其特征在于,所述基于所述重要性系数对所述段落文本中的所有分词词语进行筛选,得到该段落文本的关键词,包括:
按照所述重要性系数的大小将所有分词词语进行排序,得到词语排序序列;
利用预设的切分长度以所述词语排序序列中的第一个词语为起点,对所述词语排序序列进行切分,得到目标词语排序序列;
将所述目标排序序列中的所有词语确定为所述关键词。
5.如权利要求1所述的文本摘要生成方法,其特征在于,所述基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵,包括:
将所述段落文本在所述目标文本中的顺序确定为该段落文本对应的目标段落文本序列的序列顺序;
将所述目标段落文本序列的序列顺序确定为该目标段落文本序列对应的段落向量的向量顺序;
按照所述向量顺序的大小将所有所述段落向量进行组合,得到所述初始文本矩阵。
6.如权利要求1至5中任意一项所述的文本摘要生成方法,其特征在于,所述基于注意力机制对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵,包括:
提取预构建的注意力网络中每个注意力头对应的查询权重矩阵、键权重矩阵及值权重矩阵,其中,所述注意力网络为基于多头注意力机制构建的包含预设数量注意力头的注意力网络;
利用所述初始文本矩阵与每一个所述注意力头的查询权重矩阵进行计算,得到每一个所述注意力头对应的注意力查询矩阵;
利用所述初始文本矩阵与每一个所述注意力头的键权重矩阵进行计算,得到每一个所述注意力头对应注意力键矩阵;
利用所述初始文本矩阵与每一个所述注意力头的值权重矩阵进行计算,得到每一个所述注意力头对应的注意力值矩阵;
将所述注意力头对应的注意力查询矩阵及注意力键矩阵进行计算,得到所述注意力头对应的注意力权重矩阵;
将所述注意力头对应的注意力权重矩阵及注意力值矩阵进行计算,得到所述注意力头的初始文本特征矩阵;
将所有所述初始文本特征矩阵基于预设的注意力头顺序进行组合,得到所述目标文本矩阵。
7.一种文本摘要生成装置,其特征在于,包括:
特征提取模块,用于获取目标文本,对所述目标文本进行段落划分,得到段落文本;对所述段落文本进行分词,并根据分词结果筛选所述段落文本中的关键词;将所述段落文本中的所有词语及所有关键词,按照词语在所述段落文本中的顺序进行拼接,得到所述段落文本的目标段落文本序列;将所述目标段落文本序列进行向量转换,得到段落向量;基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵;
语义增强模块,用于基于注意力机制对所述初始文本矩阵进行语义特征强化,以得到维度不变的目标文本矩阵;
摘要生成模块,用于基于所述目标文本矩阵,利用预构建的文本生成模型进行文本生成,得到目标文本摘要。
8.如权利要求7所述的文本摘要生成装置,其特征在于,所述基于所述段落文本在所述目标文本中的顺序将所有所述段落向量进行组合,得到初始文本矩阵,包括:
将所述段落文本在所述目标文本中的顺序确定为该段落文本对应的目标段落文本序列的序列顺序;
将所述目标段落文本序列的序列顺序确定为该目标段落文本序列对应的段落向量的向量顺序;
按照所述向量顺序的大小将所有所述段落向量进行组合,得到所述初始文本矩阵。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至6中任一项所述的文本摘要生成方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的文本摘要生成方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310551348.9A CN116578696A (zh) | 2023-05-16 | 2023-05-16 | 文本摘要生成方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310551348.9A CN116578696A (zh) | 2023-05-16 | 2023-05-16 | 文本摘要生成方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116578696A true CN116578696A (zh) | 2023-08-11 |
Family
ID=87542783
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310551348.9A Pending CN116578696A (zh) | 2023-05-16 | 2023-05-16 | 文本摘要生成方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116578696A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117688927A (zh) * | 2024-02-02 | 2024-03-12 | 北方健康医疗大数据科技有限公司 | 病历章节重配置方法、系统、终端及存储介质 |
-
2023
- 2023-05-16 CN CN202310551348.9A patent/CN116578696A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117688927A (zh) * | 2024-02-02 | 2024-03-12 | 北方健康医疗大数据科技有限公司 | 病历章节重配置方法、系统、终端及存储介质 |
CN117688927B (zh) * | 2024-02-02 | 2024-04-30 | 北方健康医疗大数据科技有限公司 | 病历章节重配置方法、系统、终端及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113449187B (zh) | 基于双画像的产品推荐方法、装置、设备及存储介质 | |
CN113157927B (zh) | 文本分类方法、装置、电子设备及可读存储介质 | |
CN112541338A (zh) | 相似文本匹配方法、装置、电子设备及计算机存储介质 | |
CN113360654B (zh) | 文本分类方法、装置、电子设备及可读存储介质 | |
CN113658002B (zh) | 基于决策树的交易结果生成方法、装置、电子设备及介质 | |
CN116578696A (zh) | 文本摘要生成方法、装置、设备及存储介质 | |
CN113656690B (zh) | 产品推荐方法、装置、电子设备及可读存储介质 | |
CN113157739B (zh) | 跨模态检索方法、装置、电子设备及存储介质 | |
CN113505273B (zh) | 基于重复数据筛选的数据排序方法、装置、设备及介质 | |
CN113157853B (zh) | 问题挖掘方法、装置、电子设备及存储介质 | |
CN113344125B (zh) | 长文本匹配识别方法、装置、电子设备及存储介质 | |
CN114840684A (zh) | 基于医疗实体的图谱构建方法、装置、设备及存储介质 | |
CN116720525A (zh) | 基于问诊数据的疾病辅助分析方法、装置、设备及介质 | |
CN116468025A (zh) | 电子病历结构化方法、装置、电子设备及存储介质 | |
CN113626605B (zh) | 信息分类方法、装置、电子设备及可读存储介质 | |
CN114610854A (zh) | 智能问答方法、装置、设备及存储介质 | |
CN112528183B (zh) | 基于大数据的网页组件布局方法、装置、电子设备及介质 | |
CN114723488B (zh) | 课程推荐方法、装置、电子设备及存储介质 | |
CN113486266B (zh) | 页面标签添加方法、装置、设备及存储介质 | |
CN113704411B (zh) | 基于词向量的相似客群挖掘方法、装置、设备及存储介质 | |
CN113704478B (zh) | 文本要素提取方法、装置、电子设备及介质 | |
CN115204158B (zh) | 数据隔离应用方法、装置、电子设备及存储介质 | |
CN113704587B (zh) | 基于阶段划分的用户黏着度分析方法、装置、设备及介质 | |
CN113592606B (zh) | 基于多重决策的产品推荐方法、装置、设备及存储介质 | |
CN113706019B (zh) | 基于多维数据的业务能力分析方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |