CN115034318B - 标题判别模型的生成方法和装置、设备、介质 - Google Patents
标题判别模型的生成方法和装置、设备、介质 Download PDFInfo
- Publication number
- CN115034318B CN115034318B CN202210687369.9A CN202210687369A CN115034318B CN 115034318 B CN115034318 B CN 115034318B CN 202210687369 A CN202210687369 A CN 202210687369A CN 115034318 B CN115034318 B CN 115034318B
- Authority
- CN
- China
- Prior art keywords
- word
- title
- original
- approximate
- preliminary
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 78
- 230000011218 segmentation Effects 0.000 claims abstract description 28
- 238000003062 neural network model Methods 0.000 claims abstract description 18
- 238000012549 training Methods 0.000 claims abstract description 14
- 238000004891 communication Methods 0.000 claims description 13
- 238000005065 mining Methods 0.000 claims description 12
- 230000009471 action Effects 0.000 claims description 11
- 239000012634 fragment Substances 0.000 claims description 6
- 238000010276 construction Methods 0.000 claims description 4
- 238000005516 engineering process Methods 0.000 abstract description 18
- 230000008569 process Effects 0.000 abstract description 17
- 238000013473 artificial intelligence Methods 0.000 description 13
- 238000003058 natural language processing Methods 0.000 description 11
- 238000012545 processing Methods 0.000 description 10
- 238000000605 extraction Methods 0.000 description 7
- 238000007781 pre-processing Methods 0.000 description 4
- 241001596784 Pegasus Species 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000011143 downstream manufacturing Methods 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000009193 crawling Effects 0.000 description 1
- 230000002354 daily effect Effects 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/237—Lexical tools
- G06F40/247—Thesauruses; Synonyms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/258—Heading extraction; Automatic titling; Numbering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/284—Lexical analysis, e.g. tokenisation or collocates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Machine Translation (AREA)
Abstract
本申请实施例提供一种标题判别模型的生成方法和装置、设备、介质，属于自然语言语义理解技术领域。该方法包括：通过对原始标题和原始内容分别进行语义理解，并根据语义理解得到的分词结果对原始标题进行更新，目的是自动生成大量的负样本标题，从而得到负样本集，进而得到包含负样本集的样本集，并根据样本集对模型进行训练，以得到标题判别模型。本实施例样本集的生成过程中无需人工参与进行标注，通过语义理解技术自动生成样本集，提高了样本的生成效率。另外，通过自动生成的样本集对预设的二分类神经网络模型进行训练得到标题判别模型，能够通过标题判别模型实现对标题的生成是否符合现实进行判别，可以有效提升标题和内容的事实符合程度。
Description
技术领域
本申请涉及自然语言语义理解技术领域，尤其涉及一种标题判别模型的生成方法和装置、设备、介质。
背景技术
在信息流标题生成场景中，一般是通过标题生成模型对内容进行提炼，从而生成对应的标题。但目前没有判断标题的生成是否和内容一致的判断方法，即无法判断得到生成标题和内容的符合程度。因此，如何提供一种标题判别模型的生成方法，能够实现对标题和内容符合程度的判断，成为了亟待解决的技术问题。
发明内容
本申请实施例的主要目的在于提出标题判别模型的生成方法和装置、设备、介质，能够实现对标题和内容符合程度的判断。
为实现上述目的，本申请实施例的第一方面提出了一种标题判别模型的生成方法，所述方法包括：
获取待处理数据，所述待处理数据包括原始标题和所述原始标题对应的原始内容；
对所述原始标题进行语义理解，得到多个原始标题分词以及每个所述原始标题分词的词类型；
对所述原始内容进行语义理解，得到多个原始内容分词以及每个所述原始内容分词的词类型；
对于每个所述原始内容分词，匹配出词类型与所述原始内容分词的词类型相同的原始标题分词，并在所述原始标题中将所述原始标题分词替换为所述原始内容分词，以得到多个负样本标题；
将每个所述负样本标题和所述原始内容作为一对负样本，以得到多对负样本，根据多对所述负样本构建负样本集；
创建样本集，并将所述负样本集添加至所述样本集；
根据所述样本集对预设的二分类神经网络模型进行训练，以得到标题判别模型。
在一些实施例，所述对所述原始内容进行语义理解，得到多个原始内容分词以及每个所述原始内容分词的词类型，包括：
对所述原始内容进行语义理解，得到多个初步原始内容分词以及每个所述初步原始内容分词的词类型；
根据多个所述初步原始内容分词和每个所述初步原始内容分词的词类型构建初步内容集；
对于每个所述初步原始内容，若确定所述初步原始内容分词的词类型不属于预设的第一类型集合，则在所述初步内容集中删除所述初步原始内容分词和所述初步原始内容分词的词类型，得到目标内容集，所述第一类型集合包括地区类、动作类、数量词类中的至少一个；
根据所述目标内容集确定多个所述原始内容，以及确定每个所述原始内容分词的词类型。
在一些实施例，所述在所述原始标题中将所述原始标题分词替换为所述原始内容分词，以得到多个负样本标题，包括：
在所述原始标题中将所述原始标题分词替换为所述原始内容分词，以得到多个初步负样本标题；
根据多个所述初步负样本标题构建初步负样本标题集；
计算每个初步负样本标题和原始标题的相似度值，得到多个相似度值；
根据多个所述相似度值进行比较，删除在所述初步负样本标题中的所述相似度值重复的初步负样本标题，以得到目标负样本标题集；
根据所述目标负样本标题集确定多个所述负样本标题。
在一些实施例，所述样本集还包含正样本集，所述方法还包括：
将所述原始标题和所述原始内容作为一对原始正样本，根据所述原始正样本得到所述正样本集，将所述正样本集添加至所述样本集。
在一些实施例，所述样本集还包含正样本集，所述方法还包括：
通过预设的语义相似模型对多个所述原始标题分词进行近似词组的挖掘，以得到多个近似词，并将在所述原始标题中的原始标题分词替换为所述近似词，以得到多个正样本标题；
将每个所述正样本标题和所述原始内容作为一对近似正样本，以得到多对所述近似正样本，并根据多对所述近似正样本得到所述正样本集；
将所述正样本集添加至所述样本集。
在一些实施例，所述通过预设的语义相似模型对多个所述原始标题分词进行近似词组的挖掘，以得到多个近似词，并将在所述原始标题中的原始标题分词替换为所述近似词，以得到多个正样本标题，包括：
对于每个所述原始标题分词，通过预设的语义相似模型对所述原始标题分词进行近义词组的挖掘，以得到与所述原始标题分词对应的多个近似词，并确定每个所述近似词的词类型，所述近似词的词类型与所述原始标题分词的词类型一致；
对于每个所述近似词，匹配出词类型与所述近似词的词类型相同的原始标题分词，并将在所述原始标题中的所述原始标题分词替换为所述近似词，以得到多个正样本标题。
在一些实施例，所述对于每个所述原始标题分词，通过预设的语义相似模型对所述原始标题分词进行近义词组的挖掘，以得到与所述原始标题分词对应的多个近似词，并确定每个所述近似词的词类型，包括：
对于每个所述原始标题分词，通过预设的语义相似模型对所述原始标题分词进行近义词组的挖掘，以得到所述原始标题分词对应的多个初步近似词，并确定每个所述初步近似词的词类型，所述初步近似词的词类型与所述原始标题分词的词类型一致；
根据多个所述初步近似词和每个所述初步近似词的词类型构建初步近似词集；
若确定所述初步近似词的词类型属于预设的第二词类型集合，则在所述初步近似词集中删除所述初步近似词和所述初步近似词的词类型，以得到目标近似词集，其中，所述第二词类型集合包括地区类、动作类、数量词类中的至少一个；
根据所述目标近似词集得到多个近似词以及每个所述近似词的词类型。
为实现上述目的，本申请实施例的第二方面提出了一种标题判别模型的生成装置，所述装置包括：
获取模块，用于获取待处理数据，所述待处理数据包括原始标题和所述原始标题对应的原始内容；
第一语义理解模块，用于对所述原始标题进行语义理解，得到多个原始标题分词以及每个所述原始标题分词的词类型；
第二语义理解模块，用于对所述原始内容进行语义理解，得到多个原始内容分词以及每个所述原始内容分词的词类型；
负样本标题生成模块，用于对于每个所述原始内容分词，匹配出词类型与所述原始内容分词的词类型相同的原始标题分词，并在所述原始标题中将所述原始标题分词替换为所述原始内容分词，以得到多个负样本标题；
负样本集构建模块，用于将每个所述负样本标题和所述原始内容作为一对负样本，以得到多对负样本，根据多对所述负样本构建负样本集；
样本集创建模块，用于创建样本集，并将所述负样本集添加至所述样本集；
标题判别模型生成模块，用于根据所述样本集对预设的二分类神经网络模型进行训练，以得到标题判别模型。
为实现上述目的，本申请实施例的第三方面提出了一种计算机设备，所述计算机设备包括存储器、处理器、存储在所述存储器上并可在所述处理器上运行的程序以及用于实现所述处理器和所述存储器之间的连接通信的数据总线，所述程序被所述处理器执行时实现上述第一方面所述的方法。
为实现上述目的，本申请实施例的第四方面提出了一种存储介质，所述存储介质为计算机可读存储介质，用于计算机可读存储，所述存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现上述第一方面所述的方法。
本申请提出的标题判别模型的生成方法和装置、设备、介质，通过对原始标题和原始内容分别进行语义理解，并根据语义理解得到的分词结果对原始标题进行更新，目的是自动生成大量的负样本标题，从而得到负样本集，进而得到包含负样本集的样本集。本实施例样本集的生成过程中无需人工参与进行标注，通过语义理解技术自动生成样本集，提高了样本的生成效率。另外，通过自动生成的样本集对预设的二分类神经网络模型进行训练，以得到标题判别模型。能够通过标题判别模型实现对标题的生成是否符合现实进行判别，可以有效提升标题和内容的事实符合程度。
附图说明
图1是本申请实施例提供的标题判别模型的生成方法的流程图；
图2是图1中的步骤S130的流程图；
图3是图1中的步骤S130的流程图；
图4是本申请实施例提供的方法的另一流程图；
图5是本申请实施例提供的方法的另一流程图；
图6是图5中的步骤S510的流程图；
图7是图6中的步骤S610的流程图；
图8是本申请实施例提供的标题判别模型的生成装置的模块结构框图；
图9是本申请实施例提供的计算机设备的硬件结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本申请，并不用于限定本申请。
需要说明的是，虽然在装置示意图中进行了功能模块划分，在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于装置中的模块划分，或流程图中的顺序执行所示出或描述的步骤。说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。
除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本申请实施例的目的，不是旨在限制本申请。
首先，对本申请中涉及的若干名词进行解析：
人工智能(Artificial Intelligence，AI)：是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学；人工智能是计算机科学的一个分支，人工智能企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能可以对人的意识、思维的信息过程的模拟。人工智能还是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
自然语言处理(Natural Language Processing，NLP)：NLP用计算机来处理、理解以及运用人类语言(如中文、英文等)，NLP属于人工智能的一个分支，是计算机科学与语言学的交叉学科，又常被称为计算语言学。自然语言处理包括语法分析、语义分析、篇章理解等。自然语言处理常用于机器翻译、手写体和印刷体字符识别、语音识别及文语转换、信息图像处理、信息抽取与过滤、文本分类与聚类、舆情分析和观点挖掘等技术领域，它涉及与语言处理相关的数据挖掘、机器学习、知识获取、知识工程、人工智能研究和与语言计算相关的语言学研究等。
信息抽取(Information Extraction，NER)：从自然语言文本中抽取指定类型的实体、关系、事件等事实信息，并形成结构化数据输出的文本处理技术。信息抽取是从文本数据中抽取特定信息的一种技术。文本数据是由一些具体的单位构成的，例如句子、段落、篇章，文本信息正是由一些小的具体的单位构成的，例如字、词、词组、句子、段落或是这些具体的单位的组合。抽取文本数据中的名词短语、人名、地名等都是文本信息抽取，当然，文本信息抽取技术所抽取的信息可以是各种类型的信息。
语料：即语言材料，语料是构成语料库的基本单元，通常是一定数量和规模的文本资源集合。语料规模可大可小，大至千万，甚至数亿句或更大，小至几百句。人们简单地用文本作为替代，并把文本中的上下文关系作为现实世界中语言的上下文关系的替代品。可以把一个文本集合称为语料库，当有几个这样的文本集合的时候，可称之为语料库集合。互联网本身就是一个巨大庞杂的语料库。语料根据不同标准可以有很多分类，比如，语料可以是单语语料，也可以是多语种语料。
PEGASUS模型：PEGASUS是为摘要定制的预训练模型，它可以作为通用的生成式预训练任务，PEGASUS是一个标准的Transformer(前序编解码预测器)，既有encoder也有decoder,预训练目标包括GSG(Gap Sentences Generation，生成间隙句子)和MLM(MaskedLanguage Model，掩码语言模型)。
最长公共子序列(Longest Common Subsequence，LCS)：是从给定的两个序列X和Y中取出尽可能多的一部分字符，按照它们在原序列排列的先后次序排列得到。子序列(subsequence)：一个特定序列的子序列就是将给定序列中零个或多个元素去掉后得到的结果(不改变元素间相对次序)。公共子序列(common subsequence)：给定序列X和Y，序列Z是X的子序列，也是Y的子序列，则Z是X和Y的公共子序列。例如X＝[A,B,C,B,D,A,B]，Y＝[B,D,C,A,B,A[，那么序列Z＝[B,C,A]为X和Y的公共子序列，其长度为3。但Z不是X和Y的最长公共子序列，而序列[B,C,B,A]和[B,D,A,B]也均为X和Y的最长公共子序列，长度为4，而X和Y不存在长度大于等于5的公共子序列。对于序列[A,B,C]和序列[E,F,G]的公共子序列只有空序列[]。最长公共子序列：给定序列X和Y，从它们的所有公共子序列中选出长度最长的那一个或几个。
BERT模型(Bidirectional Encoder Representations from Transformers，BERT)：是一种基于Transformers架构以及编码器的深度学习模型。BERT模型在经过无标注的训练数据预训练后，只需要在应用到具体的下游处理任务之前，针对具体的下游处理任务使用相应的样本数据来进行少量训练，即可具有处理下游处理任务的能力，BERT模型这一特点很适合应用到自然语言处理(NLP，Natural Language Processing)等领域。
在信息流标题生成场景中，一般是通过标题生成模型对内容进行提炼，从而生成对应的标题。但目前没有判断标题的生成是否和内容一致的判断方法，即无法判断得到生成标题和内容的符合程度。因此，如何提供标题判别模型的生成方法，能够实现对标题和内容符合程度的判断，成为了亟待解决的技术问题。
基于此，本申请实施例的主要目的在于提出标题判别模型的生成方法和装置、设备、介质，旨在通过构造样本作为训练样本对模型进行训练，目的是提供能够对标题和内容的符合程度判别的标题判别模型，本实施例能够提高样本的生成效率，以及能够提高模型的训练效率。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本申请实施例提供的标题判别模型的生成方法，涉及人工智能技术领域。本申请实施例提供的标题判别模型的生成方法可应用于终端中，也可应用于服务器端中，还可以是运行于终端或服务器端中的软件。在一些实施例中，终端可以是智能手机、平板电脑、笔记本电脑、台式计算机等；服务器端可以配置成独立的物理服务器，也可以配置成多个物理服务器构成的服务器集群或者分布式系统，还可以配置成提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN以及大数据和人工智能平台等基础云计算服务的云服务器；软件可以是实现标题判别模型的生成方法的应用等，但并不局限于以上形式。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本申请实施例提供标题判别模型的生成方法和装置、设备、介质，具体通过如下实施例进行说明，首先描述本申请实施例中的标题判别模型的生成方法。
图1是本申请实施例提供的标题判别模型的生成方法的一个可选的流程图，图1中的方法可以包括但不限于包括步骤S110至步骤S170。
步骤S110，获取待处理数据，待处理数据包括原始标题和原始标题对应的原始内容；
步骤S120，对原始标题进行语义理解，得到多个原始标题分词以及每个原始标题分词的词类型；
步骤S130，对原始内容进行语义理解，得到多个原始内容分词以及每个原始内容分词的词类型；
步骤S140，对于每个原始内容分词，匹配出词类型与原始内容分词的词类型相同的原始标题分词，并在原始标题中将原始标题分词替换为原始内容分词，以得到多个负样本标题；
步骤S150，将每个负样本标题和原始内容作为一对负样本，以得到多对负样本，根据多对负样本构建负样本集；
步骤S160，创建样本集，并将负样本集添加至样本集；
步骤S170，根据样本集对预设的二分类神经网络模型进行训练，以得到标题判别模型。
本申请实施例所示意的步骤S110至步骤S170，通过对原始标题和原始内容分别进行语义理解，并根据语义理解得到的分词结果对原始标题进行更新，目的是自动生成大量的负样本标题，从而得到包含负样本集的样本集，进而根据样本集对二分类神经网络模型进行训练，目的是得到标题判别模型。本实施例样本集的生成过程中无需人工参与进行标注，通过语义理解技术自动生成样本集，提高了样本的生成效率，并且通过该样本集对模型进行训练，得到的标题判别模型能够对标题和内容的符合程度进行判别，有效提升标题和内容的事实符合程度。
在一些实施例的步骤S110中，待处理数据是指新闻数据，包括原始新闻标题和原始新闻内容。待处理数据也可指文章数据，包括原始文章标题和原始文章内容。进一步地，本申请实施例可通过爬虫工具从网页中爬取待处理数据，可选的，爬虫工具基于node.js技术构建。详细地，通过爬虫工具获取待处理数据包括：利用node.js爬取待获取待处理数据的统一资源定位符(Un i form Resource Locator，URL)地址，并对待获取的待处理数据进行字符标识，根据URL地址，加载待获取的待处理数据对应的系统界面，根据字符标识，从系统界面中获取对应的待处理数据。
可以理解的是，爬取的待处理数据中包含大量的原始标题，每一原始标题对应的原始内容篇幅不统一，对后续的语义理解带来困难，因此，本申请实施例通过对待处理数据进行预处理操作，以提高后续数据的处理效率。具体的，获取预设的字符长度阈值，并通过pagasus模型或LCS算法对原始爬取内容进行摘要提取处理，以得到原始内容，其中，原始内容的字符长度小于字符长度阈值。通过对原始爬取内容进行预处理，目的是提取出符合字符长度阈值的原始内容，有助于提高后续对原始内容进行语义理解的效率。具体的，预设的字符长度阈值可为512，也可为其他取值，本申请实施例不做具体限定。
待处理数据也可指语料，语料往往是有监督语料，因此语料会有对应的模板标签。例如在意图识别中，模型会给出哪些句子属于哪些意图，然后要求模型进行分类。可将语料作为原始标题，将语料对应的模板标签作为原始内容，通过后续对语料和模板标签进行处理，自动生成大量的样本数据，从而得到样本集。
在一些实施例的步骤S120中，对原始标题进行语义理解，得到多个原始标题分词以及每个原始标题分词的词类型。具体的，语义理解是指对文本进行分词，并标记出词的类别。例如原始标题可为“国外本次漫展为期3天，平均每天接待超过一千人”，可通过现有的wordtag模型对原始标题进行语义理解。在对原始标题进行语义理解后，得到如表1所示的结果。
表1：
在一些实施例的步骤S130中，对原始内容进行语义理解，得到多个原始内容分词以及每个原始内容分词的词类型。可以理解的是，对原始内容的语义理解过程可参照步骤S120中的对原始标题的语义理解过程，此处不再赘述。
需要说明的是，原始内容分词的词类型包括有多种类型，例如包括地区类、代词类、介词类、赛事活动类、数量词类等。其中，代词类和介词类等词类型在标题生成的过程中是不易出错的，若是将不易出错的词类型对应的原始标题分词进行替换，从而生成的新标题与原先的原始标题差别不大，若是将该新标题作为一个负样本标题，会影响负样本标题的生成效率和生成质量，进而影响生成的负样本集的质量。因此，本申请实施例通过对原始内容分词的词类型进行预处理操作，以提高后续负样本标题的生成效率。
具体的，参照图2，在一些实施例中，步骤S130包括但不限于包括步骤S210至步骤S240：
步骤S210，对原始内容进行语义理解，得到多个初步原始内容分词以及每个初步原始内容分词的词类型；
步骤S220，根据多个初步原始内容分词和每个初步原始内容分词的词类型构建初步内容集；
步骤S230，对于每个初步原始内容，若确定初步原始内容分词的词类型不属于预设的第一类型集合，则在初步内容集中删除初步原始内容分词和初步原始内容分词的词类型，得到目标内容集，第一类型集合包括地区类、动作类、数量词类中的至少一个；
步骤S240，根据目标内容集确定多个原始内容，以及确定每个原始内容分词的词类型。
本申请实施例所示意的步骤S210至步骤S240，通过将不属于第一类型集合的词类型进行删除实现了对词类型的预处理，以便提高负样本标题的生成效率和生成质量。需要说明的是，第一类型集合可根据实际需求进行删减或增加，本实施例不作具体限定。可以理解的是，地区类、动作类以及数量词类是在标题生成的过程中是容易出错的，将容易出错的词类型对应的原始标题分词替换掉，生成的新标题可作为负样本标题，保证了负样本标题的生成质量，也有助于提高负样本标题的生成效率。
在一些实施例的步骤S140中，对于每个原始内容分词，匹配出词类型与原始内容分词的词类型相同的原始标题分词，并在原始标题中将原始标题分词替换为原始内容分词，以得到多个负样本标题。例如，针对地区类，若在原始内容中没有对应的原始内容分词，则忽略。针对赛事活动类，若在原始内容中存在比赛、活动、奖牌等原始内容分词，可将原始标题中的漫展替换为比赛、活动、或奖牌，以得到新的标题，并将该新的标题作为负标题，例如负样本标题为“国外本次比赛为期3天，平均每天接待超过一千人”。针对数量词类，若在原始内容中存在2千人、3千人等原始内容分词，可将原始标题中的一千人替换为2千人或3千人，以得到新的标题，并将该新的标题作为负样本标题，例如负样本标题为“国外本次漫展为期3天，平均每天接待超过2千人”。本申请实施例只列举了一部分内容，可以理解的是本实施例包括但不限于此。
具体的，参照图3，在一些实施例中，步骤S140包括但不限于包括步骤S310至步骤S350：
步骤S310，在原始标题中将原始标题分词替换为原始内容分词，以得到多个初步负样本标题；
步骤S320，根据多个初步负样本标题构建初步负样本标题集；
步骤S330，计算每个初步负样本标题和原始标题的相似度值，得到多个相似度值；
步骤S340，根据多个相似度值进行比较，删除在初步负样本标题中的相似度值重复的初步负样本标题，以得到目标负样本标题集；
步骤S350，根据目标负样本标题集确定多个负样本标题。
本申请实施例所示意的步骤S310至步骤S350，通过对相似度值重复的负样本标题进行删除，目的是保证每一个负样本标题与原始标题的语义的第一相似度是唯一的，有助于提高负样本的生成质量以及提高负样本集的生成效率。
在一实施例中，在将每一个负样本标题和原始内容作为一对负样本之前，还包括以下步骤：计算每一个负样本标题和原始标题的相似度值，得到多个相似度值；并将相似度值与预设的第一相似度阈值进行比较，若相似度值大于第一相似度阈值，则删除相似度值对应的负样本标题。具体的，每一个负样本标题的语义应该尽可能的与原先的原始标题不同，本实施例通过相似度值作为语义相似程度的判断，若相似度值大于第一相似度阈值，则说明该负样本标题的与原先的原始标题的语义差别不大，不应将其作为一个负样本标题，因此将该负样本标题删除，提高后续生成负样本集的生成质量。
在一些实施例的步骤S150至步骤S160中，一般原始标题和原始内容是一一对应的，而本申请是对原始标题中的原始标题分词进行的替换得到的新标题，即负样本标题，负样本标题与原先的原始标题的相似度极大，但语义是错误的。通过将每一个负样本标题和原始内容作为一对负样本，可以得到大量的负样本，从而得到负样本集，进而得到包含负样本集的样本集。本申请实施例有效提高了样本的生成效率。
在一些实施例的步骤S170中，根据样本集对预设的二分类神经网络模型进行训练，以得到标题判别模型。具体的，预设的二分类神经网络模型为常见的BERT二分类模型。由于样本集可以用自监督的方法大量生成，可通过该样本集对预设的二分类神经网络模型进行训练，能够得到标题判别模型。可通过标题判别模型实现对标题的生成是否符合现实进行判别，可以有效提升标题和内容的事实符合程度。在一实施例中，样本集包括正样本集和负样本集，对二分类神经网络的训练过程具体包括以下步骤：将正样本集输入至二分类神经网络模型，通过二分类神经网络模型对正样本集进行评分，以得到第一输出评分；将负样本集输入至二分类神经网络模型，通过二分类神经网络模型对负样本集进行评分，以得到第二输出评分；通过第一输出评分和第二输出评分对二分类神经网络模型进行参数调整，以得到训练好的标题判别模型。
参照图4，在一些实施例中，样本集还包含正样本集，标题判别模型的生成方法还包括但不限于包括步骤S410：
步骤S410，将原始标题和原始内容作为一对原始正样本，根据原始正样本得到正样本集，将正样本集添加至样本集。
本申请实施例所示意的步骤S210，在生成样本集的过程中直接将原始标题和原始内容作为一对原始正样本，通过该原始正样本得到的正样本集的质量高。
参照图5，在一些实施例中，样本集还包含正样本集，标题判别模型的生成方法还包括但不限于包括步骤S510至步骤S530：
步骤S510，通过预设的语义相似模型对多个原始标题分词进行近似词组的挖掘，以得到多个近似词，并将在原始标题中的原始标题分词替换为近似词，以得到多个正样本标题；
步骤S520，将每个正样本标题和原始内容作为一对近似正样本，以得到多对近似正样本，并根据多对近似正样本得到正样本集；
步骤S530，将正样本集添加至样本集。
本申请实施例所示意的步骤S510至步骤S530，通过预设的语义相似模型对原始标题分词进行近义词组的挖掘得到多个近似词，并通过多个近似词对原始标题进行更新进而得到多个正样本标题，提高了正样本标题的生成效率。
在一实施例中，在将每一个正样本标题和原始内容作为一对近似正样本之前，还包括以下步骤：计算每一个正样本标题和原始标题的相似度值，得到多个相似度值；并将相似度值与预设的第二相似度阈值进行比较，若相似度值小于第二相似度阈值，则删除相似度值对应的正样本标题。具体的，每一个正样本标题的语义应该尽可能的与原先的原始标题相同，本实施例通过相似度值作为语义相似程度的判断，若相似度值小于第二相似度阈值，则说明该正样本标题的与原先的原始标题的语义差别过大，不应将其作为一个正样本标题，因此将该正样本标题删除，提高后续生成正样本集的生成质量。
在一实施例中，在将每一个正样本标题和原始内容作为一对近似正样本之前，还包括以下步骤：计算每一个正样本标题和原始标题的相似度值，得到多个相似度值；根据多个相似度值对正样本标题进行筛选，以删除相似度值重复的正样本标题。具体的，通过对相似度值重复的正样本标题进行删除，目的是保证每一个正样本标题与原始标题的语义的第二相似度值是唯一的，有助于提高正样本的生成质量以及提高正样本集的生成效率。
参照图6，在一些实施例中，步骤S510还包括但不限于包括步骤S610至步骤S620：
步骤S610，对于每个原始标题分词，通过预设的语义相似模型对原始标题分词进行近义词组的挖掘，以得到与原始标题分词对应的多个近似词，并确定每个近似词的词类型，近似词的词类型与原始标题分词的词类型一致；
步骤S620，对于每个近似词，匹配出词类型与近似词的词类型相同的原始标题分词，并将在原始标题中的原始标题分词替换为近似词，以得到多个正样本标题。
本申请实施例所示意的步骤S610至步骤S620，通过近似词的词类型与原始标题分词的词类型之间的对应匹配，生成的正样本标题和原先的原始标题语义相似，保证了正样本标题的生成质量，也有助于提高正样本标题的生成效率。
需要说明的是，近似词的词类型与原始标题分词的词类型一致，因此近似词的词类型与原始标题分词的词类型均包括有多种类型，例如包括地区类、动作类、代词类、介词类、赛事活动类、数量词类等。其中，地区类、动作类和数量词类在标题生成的过程中是极易出错的，若是将极易出错的原始标题分词的词类型对应的原始标题分词进行替换，会导致生成的新标题与原先的原始标题出现语义相近但不符合事实的情况。若是将该新标题作为一个正样本标题，会影响正样本标题的生成效率和生成质量，并且会影响生成的正样本集的质量。因此，本申请实施例通过对近似词的词类型进行预处理操作，以提高后续正样本标题的生成效率以及生成质量。
参照图7，在一些实施例中，步骤S610还包括但不限于包括步骤S710至步骤S740：
步骤S710，对于每个原始标题分词，通过预设的语义相似模型对原始标题分词进行近义词组的挖掘，以得到与原始标题分词对应的多个初步近似词，并确定每个初步近似词的词类型，初步近似词的词类型与原始标题分词的词类型一致；
步骤S720，根据多个初步近似词和每个初步近似词的词类型构建初步近似词集；
步骤S730，若确定初步近似词的词类型属于预设的第二词类型集合，则在初步近似词集中删除初步近似词和初步近似词的词类型，以得到目标近似词集，其中，第二词类型集合包括地区类、动作类、数量词类中的至少一个；
步骤S740，根据目标近似词集得到多个近似词以及每个近似词的词类型。
本申请实施例所示意的步骤S710至步骤S740，通过将属于第二类型集合的初步近似词的词类型进行删除实现了对初步近似词的词类型的预处理，以便提高正样本标题的生成效率和生成质量。其中，第二类型集合包括地区类、动作类、数量词类中的至少一个。需要说明的是，第二类型集合可根据实际需求进行删减或增加，本实施例不作具体限定。可以理解的是，地区类、动作类以及数量词类是在标题生成的过程中是容易出错的，将容易出错的近似词的词类型进行删除，只对不易出错的近似词的词类型对应的原始标题分词进行替换，从而得到的新标题与原始标题语义相近且符合标题生成的实际需求。通过将该新标题作为正样本标题保证了正样本标题的生成质量，也有助于提高正样本标题的生成效率。
请参阅图8，本申请实施例还提供标题判别模型的生成装置，可以实现上述标题判别模型的生成方法，图8为本申请实施例提供的标题判别模型的生成装置的模块结构框图，该装置包括：获取模块810、第一语义理解模块820、第二语义理解模块830、负样本标题生成模块840、负样本集生成模块850、样本集生成模块860和标题判别模型生成模块870。其中，获取模块810用于获取待处理数据，所述待处理数据包括原始标题和所述原始标题对应的原始内容；第一语义理解模块820用于对所述原始标题进行语义理解，得到多个原始标题分词以及每个所述原始标题分词的词类型；第二语义理解模块830用于对所述原始内容进行语义理解，得到多个原始内容分词以及每个所述原始内容分词的词类型；负样本标题生成模块840用于对于每个所述原始内容分词，匹配出词类型与所述原始内容分词的词类型相同的原始标题分词，并在所述原始标题中将所述原始标题分词替换为所述原始内容分词，以得到多个负样本标题；负样本集构建模块850用于将每个所述负样本标题和所述原始内容作为一对负样本，以得到多对负样本，根据多对所述负样本构建负样本集；样本集创建模块860用于创建样本集，并将所述负样本集添加至所述样本集；标题判别模型生成模块870用于根据所述样本集对预设的二分类神经网络模型进行训练，以得到标题判别模型。
本申请实施例的标题判别模型的生成装置，能够通过对原始标题和原始内容分别进行语义理解，并根据语义理解得到的分词结果对原始标题进行更新，目的是自动生成大量的负样本标题，从而得到包含负样本集的样本集，进而根据样本集对二分类神经网络模型进行训练，目的是得到标题判别模型。本实施例样本集的生成过程中无需人工参与进行标注，通过语义理解技术自动生成样本集，提高了样本的生成效率，并且通过该样本集对模型进行训练，得到的标题判别模型能够对标题和内容的符合程度进行判别，有效提升标题和内容的事实符合程度。
需要说明的是，该标题判别模型的生成装置的具体实施方式与上述标题判别模型的生成方法的具体实施例基本相同，在此不再赘述。
本申请实施例还提供了一种计算机设备，计算机设备包括：存储器、处理器、存储在存储器上并可在处理器上运行的程序以及用于实现处理器和存储器之间的连接通信的数据总线，程序被处理器执行时实现上述标题判别模型的生成方法。该计算机设备可以为包括平板电脑、车载电脑等任意智能终端。
请参阅图9，图9示意了另一实施例的计算机设备的硬件结构，计算机设备包括：
处理器901，可以采用通用的CPU(Central Processing Unit，中央处理器)、微处理器、应用专用集成电路(Application Specific Integrated Circuit，ASIC)、或者一个或多个集成电路等方式实现，用于执行相关程序，以实现本申请实施例所提供的技术方案；
存储器902，可以采用只读存储器(Read Only Memory，ROM)、静态存储设备、动态存储设备或者随机存取存储器(Random Access Memory，RAM)等形式实现。存储器902可以存储操作系统和其他应用程序，在通过软件或者固件来实现本说明书实施例所提供的技术方案时，相关的程序代码保存在存储器902中，并由处理器901来调用执行本申请实施例的标题判别模型的生成方法；
输入/输出接口903，用于实现信息输入及输出；
通信接口904，用于实现本设备与其他设备的通信交互，可以通过有线方式(例如USB、网线等)实现通信，也可以通过无线方式(例如移动网络、WI FI、蓝牙等)实现通信；
总线905，在设备的各个组件(例如处理器901、存储器902、输入/输出接口903和通信接口904)之间传输信息；
其中处理器901、存储器902、输入/输出接口903和通信接口904通过总线905实现彼此之间在设备内部的通信连接。
本申请实施例还提供了一种存储介质，存储介质为计算机可读存储介质，用于计算机可读存储，存储介质存储有一个或者多个程序，一个或者多个程序可被一个或者多个处理器执行，以实现上述标题判别模型的生成方法。
存储器作为一种非暂态计算机可读存储介质，可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外，存储器可以包括高速随机存取存储器，还可以包括非暂态存储器，例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中，存储器可选包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本申请实施例提供的标题判别模型的生成方法、标题判别模型的生成装置、计算机设备及存储介质，通过对原始标题和原始内容分别进行语义理解，并根据语义理解得到的分词结果对原始标题进行更新，目的是自动生成大量的负样本标题，从而得到负样本集，进而得到包含负样本集的样本集。本实施例样本集的生成过程中无需人工参与进行标注，通过语义理解技术自动生成样本集，提高了样本的生成效率。另外，由于样本集可以用自监督的方法大量生成，可通过该样本集训练较大规模的标题判别模型，进而通过标题判别模型实现对标题的生成是否符合现实进行判别，可以有效提升标题和内容的事实符合程度。
本申请实施例描述的实施例是为了更加清楚的说明本申请实施例的技术方案，并不构成对于本申请实施例提供的技术方案的限定，本领域技术人员可知，随着技术的演变和新应用场景的出现，本申请实施例提供的技术方案对于类似的技术问题，同样适用。
本领域技术人员可以理解的是，图1-7中示出的技术方案并不构成对本申请实施例的限定，可以包括比图示更多或更少的步骤，或者组合某些步骤，或者不同的步骤。
以上所描述的装置实施例仅仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本领域普通技术人员可以理解，上文中所公开方法中的全部或某些步骤、系统、设备中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。
本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应当理解，在本申请中，“至少一个(项)”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，用于描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：只存在A，只存在B以及同时存在A和B三种情况，其中A，B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a，b或c中的至少一项(个)，可以表示：a，b，c，“a和b”，“a和c”，“b和c”，或“a和b和c”，其中a，b，c可以是单个，也可以是多个。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括多指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，简称ROM)、随机存取存储器(Random Access Memory，简称RAM)、磁碟或者光盘等各种可以存储程序的介质。
以上参照附图说明了本申请实施例的优选实施例，并非因此局限本申请实施例的权利范围。本领域技术人员不脱离本申请实施例的范围和实质内所作的任何修改、等同替换和改进，均应在本申请实施例的权利范围之内。
Claims (7)
1.一种标题判别模型的生成方法，其特征在于，所述方法包括：
获取待处理数据，所述待处理数据包括原始标题和所述原始标题对应的原始内容；
对所述原始标题进行语义理解，得到多个原始标题分词以及每个所述原始标题分词的词类型；
对所述原始内容进行语义理解，得到多个原始内容分词以及每个所述原始内容分词的词类型；
对于每个所述原始内容分词，匹配出词类型与所述原始内容分词的词类型相同的原始标题分词，并在所述原始标题中将所述原始标题分词替换为所述原始内容分词，以得到多个负样本标题，包括：在所述原始标题中将所述原始标题分词替换为所述原始内容分词，以得到多个初步负样本标题；根据多个所述初步负样本标题构建初步负样本标题集；计算每个初步负样本标题和原始标题的相似度值，得到多个相似度值；根据多个所述相似度值进行比较，删除在所述初步负样本标题中的所述相似度值重复的初步负样本标题，以得到目标负样本标题集；根据所述目标负样本标题集确定多个所述负样本标题；
计算每一个所述负样本标题和所述原始标题的相似度值，将所述负样本标题和所述原始标题的相似度值与预设的第一相似度阈值进行比较，若所述负样本标题和所述原始标题的相似度值大于第一相似度阈值，则删除相似度值对应的负样本标题，将每个所述负样本标题和所述原始内容作为一对负样本，以得到多对负样本，根据多对所述负样本构建负样本集；
创建样本集，并将所述负样本集添加至所述样本集；还通过预设的语义相似模型对多个所述原始标题分词进行近似词组的挖掘，以得到多个近似词，并将在所述原始标题中的原始标题分词替换为所述近似词，以得到多个正样本标题；将每个所述正样本标题和所述原始内容作为一对近似正样本，以得到多对所述近似正样本，并根据多对所述近似正样本得到正样本集；将所述正样本集添加至所述样本集；
根据所述样本集对预设的二分类神经网络模型进行训练，以得到标题判别模型。
2.根据权利要求1所述的方法，其特征在于，所述对所述原始内容进行语义理解，得到多个原始内容分词以及每个所述原始内容分词的词类型，包括：
对所述原始内容进行语义理解，得到多个初步原始内容分词以及每个所述初步原始内容分词的词类型；
根据多个所述初步原始内容分词和每个所述初步原始内容分词的词类型构建初步内容集；
对于每个所述初步原始内容，若确定所述初步原始内容分词的词类型不属于预设的第一类型集合，则在所述初步内容集中删除所述初步原始内容分词和所述初步原始内容分词的词类型，得到目标内容集，所述第一类型集合包括地区类、动作类、数量词类中的至少一个；
根据所述目标内容集确定多个所述原始内容，以及确定每个所述原始内容分词的词类型。
3.根据权利要求1所述的方法，其特征在于，所述通过预设的语义相似模型对多个所述原始标题分词进行近似词组的挖掘，以得到多个近似词，并将在所述原始标题中的原始标题分词替换为所述近似词，以得到多个正样本标题，包括：
对于每个所述原始标题分词，通过预设的语义相似模型对所述原始标题分词进行近义词组的挖掘，以得到与所述原始标题分词对应的多个近似词，并确定每个所述近似词的词类型，所述近似词的词类型与所述原始标题分词的词类型一致；
对于每个所述近似词，匹配出词类型与所述近似词的词类型相同的原始标题分词，并将在所述原始标题中的所述原始标题分词替换为所述近似词，以得到多个正样本标题。
4.根据权利要求3所述的方法，其特征在于，所述对于每个所述原始标题分词，通过预设的语义相似模型对所述原始标题分词进行近义词组的挖掘，以得到与所述原始标题分词对应的多个近似词，并确定每个所述近似词的词类型，包括：
对于每个所述原始标题分词，通过预设的语义相似模型对所述原始标题分词进行近义词组的挖掘，以得到所述原始标题分词对应的多个初步近似词，并确定每个所述初步近似词的词类型，所述初步近似词的词类型与所述原始标题分词的词类型一致；
根据多个所述初步近似词和每个所述初步近似词的词类型构建初步近似词集；
若确定所述初步近似词的词类型属于预设的第二词类型集合，则在所述初步近似词集中删除所述初步近似词和所述初步近似词的词类型，以得到目标近似词集，其中，所述第二词类型集合包括地区类、动作类、数量词类中的至少一个；
根据所述目标近似词集得到多个近似词以及每个所述近似词的词类型。
5.一种标题判别模型的生成装置，其特征在于，所述标题判别模型由权利要求1至4任一项所述的方法生成，所述装置包括：
获取模块，用于获取待处理数据，所述待处理数据包括原始标题和所述原始标题对应的原始内容；
第一语义理解模块，用于对所述原始标题进行语义理解，得到多个原始标题分词以及每个所述原始标题分词的词类型；
第二语义理解模块，用于对所述原始内容进行语义理解，得到多个原始内容分词以及每个所述原始内容分词的词类型；
负样本标题生成模块，用于对于每个所述原始内容分词，匹配出词类型与所述原始内容分词的词类型相同的原始标题分词，并在所述原始标题中将所述原始标题分词替换为所述原始内容分词，以得到多个负样本标题；
负样本集构建模块，用于将每个所述负样本标题和所述原始内容作为一对负样本，以得到多对负样本，根据多对所述负样本构建负样本集；
样本集创建模块，用于创建样本集，并将所述负样本集添加至所述样本集；
标题判别模型生成模块，用于根据所述样本集对预设的二分类神经网络模型进行训练，以得到标题判别模型。
6.一种计算机设备，其特征在于，所述计算机设备包括存储器、处理器、存储在所述存储器上并可在所述处理器上运行的程序以及用于实现所述处理器和所述存储器之间的连接通信的数据总线，所述程序被所述处理器执行时实现如权利要求1至4任一项所述的方法的步骤。
7.一种存储介质，所述存储介质为计算机可读存储介质，用于计算机可读存储，其特征在于，所述存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现权利要求1至4中任一项所述的方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210687369.9A CN115034318B (zh) | 2022-06-17 | 2022-06-17 | 标题判别模型的生成方法和装置、设备、介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210687369.9A CN115034318B (zh) | 2022-06-17 | 2022-06-17 | 标题判别模型的生成方法和装置、设备、介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115034318A CN115034318A (zh) | 2022-09-09 |
| CN115034318B true CN115034318B (zh) | 2024-05-17 |
Family
ID=83124754
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210687369.9A Active CN115034318B (zh) | 2022-06-17 | 2022-06-17 | 标题判别模型的生成方法和装置、设备、介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115034318B (zh) |
Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108363700A (zh) * | 2018-03-23 | 2018-08-03 | 北京奇虎科技有限公司 | 新闻标题的质量评估方法及装置 |
| CN109614625A (zh) * | 2018-12-17 | 2019-04-12 | 北京百度网讯科技有限公司 | 标题正文相关度的确定方法、装置、设备及存储介质 |
| CN110728240A (zh) * | 2019-10-14 | 2020-01-24 | 北京华宇信息技术有限公司 | 一种对电子卷宗的标题自动识别的方法及装置 |
| CN110795930A (zh) * | 2019-10-24 | 2020-02-14 | 网娱互动科技(北京)股份有限公司 | 一种文章标题优化方法、系统、介质及设备 |
| CN111125360A (zh) * | 2019-12-19 | 2020-05-08 | 网易（杭州）网络有限公司 | 游戏领域的情感分析方法、装置及其模型训练方法、装置 |
| JP2020098594A (ja) * | 2018-12-18 | 2020-06-25 | 富士通株式会社 | 情報処理方法、自然言語処理方法及び情報処理装置 |
| CN111626049A (zh) * | 2020-05-27 | 2020-09-04 | 腾讯科技（深圳）有限公司 | 多媒体信息的标题修正方法、装置、电子设备及存储介质 |
| CN112101030A (zh) * | 2020-08-24 | 2020-12-18 | 沈阳东软智能医疗科技研究院有限公司 | 建立术语映射模型、实现标准词映射的方法、装置及设备 |
| CN112989043A (zh) * | 2021-03-17 | 2021-06-18 | 中国平安人寿保险股份有限公司 | 指代消解方法、装置、电子设备及可读存储介质 |
| WO2021212675A1 (zh) * | 2020-04-21 | 2021-10-28 | 清华大学 | 对抗样本的生成方法、装置、电子设备及存储介质 |
| CN114579700A (zh) * | 2022-02-21 | 2022-06-03 | 北京小米移动软件有限公司 | 文本数据处理方法及装置、电子设备、存储介质 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20040013302A1 (en) * | 2001-12-04 | 2004-01-22 | Yue Ma | Document classification and labeling using layout graph matching |
-
2022
- 2022-06-17 CN CN202210687369.9A patent/CN115034318B/zh active Active
Patent Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108363700A (zh) * | 2018-03-23 | 2018-08-03 | 北京奇虎科技有限公司 | 新闻标题的质量评估方法及装置 |
| CN109614625A (zh) * | 2018-12-17 | 2019-04-12 | 北京百度网讯科技有限公司 | 标题正文相关度的确定方法、装置、设备及存储介质 |
| JP2020098594A (ja) * | 2018-12-18 | 2020-06-25 | 富士通株式会社 | 情報処理方法、自然言語処理方法及び情報処理装置 |
| CN110728240A (zh) * | 2019-10-14 | 2020-01-24 | 北京华宇信息技术有限公司 | 一种对电子卷宗的标题自动识别的方法及装置 |
| CN110795930A (zh) * | 2019-10-24 | 2020-02-14 | 网娱互动科技(北京)股份有限公司 | 一种文章标题优化方法、系统、介质及设备 |
| CN111125360A (zh) * | 2019-12-19 | 2020-05-08 | 网易（杭州）网络有限公司 | 游戏领域的情感分析方法、装置及其模型训练方法、装置 |
| WO2021212675A1 (zh) * | 2020-04-21 | 2021-10-28 | 清华大学 | 对抗样本的生成方法、装置、电子设备及存储介质 |
| CN111626049A (zh) * | 2020-05-27 | 2020-09-04 | 腾讯科技（深圳）有限公司 | 多媒体信息的标题修正方法、装置、电子设备及存储介质 |
| CN112101030A (zh) * | 2020-08-24 | 2020-12-18 | 沈阳东软智能医疗科技研究院有限公司 | 建立术语映射模型、实现标准词映射的方法、装置及设备 |
| CN112989043A (zh) * | 2021-03-17 | 2021-06-18 | 中国平安人寿保险股份有限公司 | 指代消解方法、装置、电子设备及可读存储介质 |
| CN114579700A (zh) * | 2022-02-21 | 2022-06-03 | 北京小米移动软件有限公司 | 文本数据处理方法及装置、电子设备、存储介质 |
Non-Patent Citations (2)
| Title |
|---|
| 基于多因素的中文文本主题自动抽取方法;刘金岭 等;计算机技术与发展;20100710;20(第07期);第72-79页 * |
| 基于注意力机制和RECWE模型的中文词向量方法;高统超 等;网络空间安全;20200225;11(第02期);第96-103页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115034318A (zh) | 2022-09-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110705206B (zh) | 一种文本信息的处理方法及相关装置 | |
| CN111309910A (zh) | 文本信息挖掘方法及装置 | |
| CN116561538A (zh) | 问答评分方法、问答评分装置、电子设备及存储介质 | |
| CN113742592A (zh) | 舆情信息推送方法、装置、设备及存储介质 | |
| CN114240552A (zh) | 基于深度聚类算法的产品推荐方法、装置、设备及介质 | |
| CN111597807B (zh) | 分词数据集生成方法、装置、设备及其存储介质 | |
| CN114841146B (zh) | 文本摘要生成方法和装置、电子设备及存储介质 | |
| CN115238039A (zh) | 文本生成方法、电子设备及计算机可读存储介质 | |
| CN112926341A (zh) | 文本数据处理方法、装置 | |
| CN113312924A (zh) | 一种基于nlp高精解析标签的风险规则分类方法及装置 | |
| CN114492437B (zh) | 关键词识别方法、装置、电子设备及存储介质 | |
| CN116701604A (zh) | 问答语料库的构建方法和装置、问答方法、设备及介质 | |
| CN115034318B (zh) | 标题判别模型的生成方法和装置、设备、介质 | |
| CN114996458A (zh) | 文本处理方法和装置、设备、介质 | |
| CN116364054A (zh) | 基于diffusion的语音合成方法、装置、设备、存储介质 | |
| CN115270746A (zh) | 问题样本生成方法和装置、电子设备及存储介质 | |
| CN115795007A (zh) | 智能问答方法、智能问答装置、电子设备及存储介质 | |
| CN109597879B (zh) | 一种基于“引文关系”数据的业务行为关系抽取方法及装置 | |
| CN114997133A (zh) | 文本模板的生成方法和装置、计算机设备、存储介质 | |
| CN116700691A (zh) | 前端组件的代码生成方法以及相关设备 | |
| CN117592456A (zh) | 文本质量检测方法和装置、电子设备及存储介质 | |
| CN116580015A (zh) | 分布外样本检测方法、装置、设备、介质 | |
| CN116702781A (zh) | 文本数据增强方法和装置、电子设备、存储介质 | |
| CN116702782A (zh) | 文本处理方法、文本处理装置、电子设备及存储介质 | |
| CN115376541A (zh) | 基于语音数据的角色分离方法和装置、设备、介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |