CN111767391A - 目标文本生成方法、装置、计算机系统和介质 - Google Patents
目标文本生成方法、装置、计算机系统和介质 Download PDFInfo
- Publication number
- CN111767391A CN111767391A CN202010233974.XA CN202010233974A CN111767391A CN 111767391 A CN111767391 A CN 111767391A CN 202010233974 A CN202010233974 A CN 202010233974A CN 111767391 A CN111767391 A CN 111767391A
- Authority
- CN
- China
- Prior art keywords
- sample data
- target text
- word
- attribute
- text sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 42
- 230000007246 mechanism Effects 0.000 claims description 10
- 238000007791 dehumidification Methods 0.000 description 14
- 238000004590 computer program Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 230000015654 memory Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 238000004891 communication Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000010276 construction Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000004806 packaging method and process Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000010076 replication Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 108010001267 Protein Subunits Proteins 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/34—Browsing; Visualisation therefor
- G06F16/345—Summarisation for human users
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Databases & Information Systems (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Machine Translation (AREA)
Abstract
本公开提供了一种目标文本生成方法,包括:接收输入文本,以及基于非属性词词典和输入文本,生成目标文本。其中,所述非属性词词典是通过如下操作确定的:获取样本数据,样本数据包括原始文本样本数据和目标文本样本数据,基于原始文本样本数据和目标文本样本数据确定非属性词词典,其中,非属性词词典中包括至少一个非属性词,至少一个非属性词是从目标文本样本数据中获得的。
Description
技术领域
本公开涉及计算机技术领域,更具体地,涉及一种目标文本生成方法、装置、计算机系统和介质。
背景技术
随着计算机和网络技术的快速发展,为了方便人们的工作和生活,摘要自动生成技术广泛应用于搜索平台、电商平台和学术报告等诸多环境中。摘要自动生成技术是一种根据原始文本自动生成摘要文本的技术。例如,可以根据某商品的详细描述文本,利用摘要自动生成技术,自动生成该商品的摘要文本,以便客户可以快速了解到该商品的特性。
在实现本发明构思的过程中,发明人发现相关技术中至少存在如下问题:自动生成的摘要文本和原始文本会出现信息不一致的问题。
发明内容
有鉴于此,本公开提供了一种目标文本生成方法、装置、计算机系统和介质。
本公开的一个方面提供了一种目标文本生成方法,包括:接收输入文本,以及基于非属性词词典和所述输入文本,生成目标文本。其中,所述非属性词词典是通过如下操作确定的:获取样本数据,所述样本数据包括原始文本样本数据和目标文本样本数据,基于所述原始文本样本数据和所述目标文本样本数据确定非属性词词典,其中,所述非属性词词典中包括至少一个非属性词,所述至少一个非属性词是从所述目标文本样本数据中获得的。
根据本公开的实施例,所述基于所述原始文本样本数据和所述目标文本样本数据确定非属性词词典,包括:计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度,基于所述相似度从所述目标文本样本数据中确定非属性词,其中,所述非属性词与所述原始文本样本数据中包含的每个词语彼此之间的相似度均小于预定阈值,将所述非属性词,添加到所述非属性词词典中。
根据本公开的实施例,所述计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度,包括:计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的杰卡德系数。
根据本公开的实施例,所述获取样本数据,包括:获取多组样本数据,所述多组样本数据中的每组样本数据包括原始文本样本数据和相对应的目标文本样本数据。所述计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度,包括:针对每组样本数据,计算该组样本数据的目标文本样本数据中包含的每个词语与该组样本数据的原始文本样本数据中包含的词语之间的相似度。
根据本公开的实施例,所述基于所述非属性词词典和所述输入文本,生成目标文本,包括:对所述输入文本进行编码,生成隐层序列,基于所述非属性词词典,利用复制机制,对所述隐层序列进行解码,以生成目标文本。
本公开的另一个方面提供了一种目标文本生成装置,该装置包括接收模块和生成模块。其中,接收模块用于接收输入文本,生成模块用于基于非属性词词典和所述输入文本,生成目标文本。所述非属性词词典是通过如下操作确定的:获取样本数据,所述样本数据包括原始文本样本数据和目标文本样本数据,基于所述原始文本样本数据和所述目标文本样本数据确定非属性词词典,其中,所述非属性词词典中包括至少一个非属性词,所述至少一个非属性词是从所述目标文本样本数据中获得的。
根据本公开的实施例,所述基于所述原始文本样本数据和所述目标文本样本数据确定非属性词词典,包括:计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度,基于所述相似度从所述目标文本样本数据中确定非属性词,其中,所述非属性词与所述原始文本样本数据中包含的每个词语彼此之间的相似度均小于预定阈值,将所述非属性词,添加到所述非属性词词典中。
根据本公开的实施例,所述计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度,包括:计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的杰卡德系数。
根据本公开的实施例,所述获取样本数据,包括:获取多组样本数据,所述多组样本数据中的每组样本数据包括原始文本样本数据和相对应的目标文本样本数据。所述计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度,包括:针对每组样本数据,计算该组样本数据的目标文本样本数据中包含的每个词语与该组样本数据的原始文本样本数据中包含的词语之间的相似度。
根据本公开的实施例,所述基于所述非属性词词典和所述输入文本,生成目标文本,包括:对所述输入文本进行编码,生成隐层序列,基于所述非属性词词典,利用复制机制,对所述隐层序列进行解码,以生成目标文本。
本公开的另一方面提供了一种计算机系统,包括:一个或多个处理器,存储装置,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行如上所述的方法。
本公开的另一方面提供了一种计算机可读介质,存储有计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
本公开的另一方面提供了一种计算机程序,所述计算机程序包括计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
根据本公开的实施例,可以至少部分地解决相关技术中自动生成的摘要文本和原始文本有时会出现信息不一致的问题,并因此可以实现自动生成的摘要文本与原始文本保持关键信息一致的技术效果。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的目标文本生成方法和装置的示例性系统架构;
图2示意性示出了根据本公开实施例的目标文本生成方法的流程图;
图3A和3B示意性示出了根据本公开实施例的目标文本生成装置的框图;以及
图4示意性示出了根据本公开实施例的计算机系统的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。本领域技术人员还应理解,实质上任意表示两个或更多可选项目的转折连词和/或短语,无论是在说明书、权利要求书还是附图中,都应被理解为给出了包括这些项目之一、这些项目任一方、或两个项目的可能性。例如,短语“A或B”应当被理解为包括“A”或“B”、或“A和B”的可能性。
本公开的实施例提供了一种目标文本生成方法,该方法包括:确定非属性词词典,接收输入文本,以及基于该非属性词词典和输入文本,生成目标文本。其中,确定非属性词词典包括:获取样本数据,样本数据包括原始文本样本数据和目标文本样本数据,基于原始文本样本数据和目标文本样本数据确定非属性词词典,其中,非属性词词典中包括至少一个非属性词,该至少一个非属性词是从目标文本样本数据中获得的。
图1示意性示出了根据本公开实施例的目标文本生成方法和装置的示例性系统架构100。
需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104是用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网络功能的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的目标文本生成方法一般可以由服务器105执行。相应地,本公开实施例所提供的目标文本生成装置一般可以设置于服务器105中。本公开实施例所提供的目标文本生成方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的目标文本生成装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
例如,用户可以通过终端设备101、102、103中的任意一个(例如,终端设备101,但不限于此)向服务器105发送输入文本。服务器105可以接受该输入文本,并且基于该输入文本和确定的非属性词词典,生成目标文本。服务器105还可以将生成的目标文本发送至终端设备101,以便用户获得与其输入文本对应的目标文本。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的目标文本生成方法的流程图。
如图2所示,该方法包括操作S201~S203。
在操作S201,确定非属性词词典。
根据本公开实施例,在电商平台场景中,“属性词”例如可以是特定类型商品的属性描述词。例如,“定频”、“变频”和“白色”等词语。如果该商品的属性是“定频”,而根据该商品的详细描述文本自动生成的摘要文本出现了“变频”,就会导致信息不一致的问题。“非属性词”例如可以是除“属性词”以外的其他词语。例如,“为”、“带来”、“更好”等词语。
在本公开实施例中,为了解决信息不一致的问题,可以先创建一个非属性词词典。具体地,可以获取样本数据,样本数据包括原始文本样本数据和目标文本样本数据,基于原始文本样本数据和目标文本样本数据确定非属性词词典。其中,非属性词词典中包括至少一个非属性词,至少一个非属性词是从目标文本样本数据中获得的。
根据本公开实施例,样本数据可以是成组的样本数据。例如,一个原始文本,以及一个与该原始文本所对应的目标文本可以组成一组样本数据。例如,关于商品A的详细描述文本与关于该商品A的摘要文本可以组成一组样本数据。
在本公开实施例中,可以获取多组样本数据,多组样本数据中的每组样本数据均包括相对应的原始文本样本数据和目标文本样本数据。
本公开实施例中的多组样本数据还可以作为训练本公开实施中的编码器和解码器的训练数据。
根据本公开实施例,基于原始文本样本数据和目标文本样本数据确定非属性词词典可以包括:计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度,基于该相似度确定非属性词词典。
在本公开一实施例中,可以基于相似度从目标文本样本数据中确定非属性词,其中,非属性词与原始文本样本数据中包含的每个词语彼此之间的相似度均小于预定阈值,将确定的非属性词添加到非属性词词典中以组成非属性词词典。
在本公开另一实施例中,还可以基于相似度从目标文本样本数据中确定属性词,其中,属性词与原始文本中包含的至少一个词语彼此之间的相似度大于等于预定阈值,将确定的属性词从全量词典中删除以生成非属性词词典。本公开实施例中的全量词典可以是目标文本样本数据中的所有词语组成的全量词典。
可以理解,对于一组样本数据(例如,商品详细描述文本-商品摘要文本),由于商品摘要文本是对商品详细描述文本的浓缩,商品摘要文本中的属性词通常会出现在商品详细描述文本中(出现的形式可能不一样,比如“抽湿”和“除湿”)。换句话说,出现在商品摘要文本中而不出现在商品详细描述文本中的词通常不是属性词。
然而,如果使用严格的词匹配方法去判断商品摘要文本中的词是否出现在商品详细描述文本中,可能会遗漏一些属性词。比如商品摘要文本中是“抽湿”,而商品详细描述文本中是“除湿”,在这种情况下,容易误判断“抽湿”为非属性词。
在本公开实施例中,可以通过计算目标文本样本数据中的词语与原始文本样本数据中的词语的相似度来提高非属性词判断的准确率。例如,可以计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的杰卡德(Jaccard)系数。
根据本公开实施例,如果两个词语之间的Jaccard系数大于预定阈值(例如,1/5),则可以认为这两个词语可能描述的是相同的属性。例如,对于“抽湿”和“除湿”两个词语,集合A={“抽”,“湿”},集合B={“除”,“湿”},A∩B={“湿”},A∪B={“抽”,“除”,“湿”},则“抽湿”和“除湿”两个词语之间的Jaccard系数可以表示为:
由于“抽湿”和“除湿”两个词语之间的Jaccard系数为1/3,大于预定阈值(例如,1/5)。在“抽湿”为目标文本样本数据中的词语,“除湿”为原始文本样本数据中的词语的情况下,“抽湿”可以被判断为属性词。
在本公开实施例中,针对每组样本数据,可以计算该组样本数据的目标文本样本数据中包含的每个词语与该组样本数据的原始文本样本数据中包含的词语之间的Jaccard系数。
例如,表1示出了一组样本数据。如表1所示,该组样本数据包括原始文本样本数据和目标文本样本数据。文本中包含的各词语(包括字符)通过空格分割开来。
针对该组样本数据,可以从目标文本样本数据的第一个词语开始,与原始文本样本数据中的词语逐一计算Jaccard系数。若与原始文本样本数据中的某个词语之间的Jaccard系数大于等于预定阈值,则将目标文本样本数据中的该词语认定为属性词,为了加快进度,在认定该词语为属性词后,可以停止对该词语的计算。若与原始文本样本数据中的每个词语之间的Jaccard系数均小于预定阈值,则将目标文本样本数据中的该词语可以认定为非属性词,添加到非属性词词典中。
例如,针对目标文本样本数据的第一个词语“采用”,依次与原始文本样本数据中的“大”→“二级”→……→“采用”计算Jaccard系数,当计算到原始文本样本数据的词语“采用”时,目标文本样本数据的词语“采用”与原始文本样本数据词语“采用”之间Jaccard系数大于等于预定阈值,则目标文本样本数据的词语“采用”判定为属性词。
依此类推,可以从目标文本样本数据中确定如下非属性词:“为”、“您”、“先进”、“给”、“你”、“使用”和“更”(表1中加粗的词语)。可以将该些非属性词添加到非属性词词典中。
表1
在操作S202,接收输入文本。
根据本公开实施例,在电商平台场景中,可以接收用户输入的关于某商品的详细描述文本,以便基于该详细描述文本为该用户自动生成该商品的摘要文本。
根据本公开实施例,在论文平台场景中,可以接收用户输入的论文章节内容文本,以便可以基于该论文章节内容文本为该用户自动生成该章节的摘要文本。
在操作S203,基于非属性词词典和输入文本,生成目标文本。
根据本公开实施例,可以先对输入文本进行编码,生成隐层序列,然后基于非属性词词典,利用复制机制,对该隐层序列进行解码,以生成目标文本。
例如,对于接收到的输入文本x,可以使用双向LSTM(Long Short Term Memory)编码器fenc将其编码,生成一个隐层序列h,隐层序列h可以表示为:
hi=fenc(xi,hi-1)
然后,可以使用单向LSTM解码器fdec,通过注意力机制和复制机制,逐词生成目标文本,公式如下:
st=fdec(st-1,yt-1,ct)
αt=softmax(et)
ct=Σiαt,ihi
其中,st是解码器fdec的隐层序列,y是目标文本,ct是t时刻的上下文向量,通过注意力机制计算得到,αt,i为t时刻对输入文本中的词语xi的注意力,ua、Wa、Va、Wb和Vb为参数矩阵。
解码器从非属性词词典中生成目标文本词w的概率计算公式如下:
Pvocab(w)=softmax(Wbst+Vbct)
最终解码器生成目标文本词w的概率是从非属性词词典中生成词w的概率Pvocab(w)和从输入文本词中的复制概率(对词w注意力权重,输入文本词可能有多个词w,对所有词w的注意力进行了累加)的叠加:
其中,pgen表示通过从非属性词词典中生成词w的方式输出词w的概率,(1-pgen)表示通过从输入文本中复制词w的方式输出词w的概率,计算公式如下:
其中,向量wc,ws,wx和标量bc是模型参数,σ是sigmoid函数。
在本公开实施例中,操作S201可以是每次执行操作S203之前都执行一次。例如,针对每次生成目标文本的操作,都执行一次确定非属性词词典的操作。或者,操作S201也可以是每隔预设时间执行一次。例如,每隔预设时间更新一次非属性词词典。或者,操作S201也可以是仅执行一次。例如,仅在系统初始化时生成一次非属性词词典,在之后的n次生成目标文本的操作中,仅需要使用该非属性词词典即可。
可以理解,在相关技术中,利用复制机制自动生成的目标文本中的词语,有的来自于原始文本,有的来自于全量词典,因此经常会出现自动生成的目标文本和输入的原始文本存在信息不一致的问题。为了解决上述问题,本公开实施例创建了一个非属性词词典,在解码过程中,属性词只能从输入文本中复制,而不会从非属性词词典中生成,因此避免了通过词典生成错误的属性词而引发的信息不一致的问题。
本公开实施例创建的非属性词词典中的词语数量远小于全量词典,因此在解码过程中可以大量减少计算量,提高解码效率。
图3A和3B示意性示出了根据本公开实施例的目标文本生成装置300的框图。
如图3A所示,该装置300包括确定模块310、接收模块320和生成模块330。
确定模块310用于确定非属性词词典。
接收模块320用于接收输入文本。
生成模块330用于基于非属性词词典和输入文本,生成目标文本。
如图3B所示,确定模块310包括获取单元311和确定单元312。
获取单元311用于获取样本数据,样本数据包括原始文本样本数据和目标文本样本数据。
确定单元312用于基于原始文本样本数据和目标文本样本数据确定非属性词词典,其中,非属性词词典中包括至少一个非属性词,至少一个非属性词是从目标文本样本数据中获得的。
根据本公开实施例,所述基于所述原始文本样本数据和所述目标文本样本数据确定非属性词词典,包括:计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度,基于所述相似度从所述目标文本样本数据中确定非属性词,其中,所述非属性词与所述原始文本样本数据中包含的每个词语彼此之间的相似度均小于预定阈值,以及将所述非属性词,添加到所述非属性词词典中。
根据本公开实施例,所述计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度,包括:计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的杰卡德系数。
根据本公开实施例,所述获取样本数据,包括:获取多组样本数据,所述多组样本数据中的每组样本数据包括原始文本样本数据和相对应的目标文本样本数据。所述计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度,包括:针对每组样本数据,计算该组样本数据的目标文本样本数据中包含的每个词语与该组样本数据的原始文本样本数据中包含的词语之间的相似度。
根据本公开实施例,所述基于所述非属性词词典和所述输入文本,生成目标文本,包括:对所述输入文本进行编码,生成隐层序列,基于所述非属性词词典,利用复制机制,对所述隐层序列进行解码,以生成目标文本。
根据本公开实施例,装置300例如可以执行上文参考图2描述的方法,在此不再赘述。
在本公开另一实施例中,目标文本生成装置可以仅包括接收模块和生成模块。确定模块可以置于其他装置或者系统中。目标文本生成装置可以与确定模块交互,以获得确定模块所确定的非属性词词典。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,确定模块310、接收模块320和生成模块330可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本发明的实施例,确定模块310、接收模块320和生成模块330中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以以对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式的适当组合来实现。或者,确定模块310、接收模块320和生成模块330中的至少一个可以至少被部分地实现为计算机程序模块,当该程序被计算机运行时,可以执行相应模块的功能。
图4示意性示出了根据本公开实施例的计算机系统的方框图。图4示出的计算机系统仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图4所示,根据本公开实施例的计算机系统400包括处理器401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储部分408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。处理器401例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器401还可以包括用于缓存用途的板载存储器。处理器401可以包括用于执行参考图2描述的根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 403中,存储有系统400操作所需的各种程序和数据。处理器401、ROM 402以及RAM 403通过总线404彼此相连。处理器401通过执行ROM 402和/或RAM 403中的程序来执行如上所述的各种操作。需要注意,所述程序也可以存储在除ROM 402和RAM 403以外的一个或多个存储器中。处理器401也可以通过执行存储在所述一个或多个存储器中的程序来执行如上所述的各种操作。
根据本公开的实施例,系统400还可以包括输入/输出(I/O)接口405,输入/输出(I/O)接口405也连接至总线404。系统400还可以包括连接至I/O接口405的以下部件中的一项或多项:包括键盘、鼠标等的输入部分406;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分407;包括硬盘等的存储部分408;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分409。通信部分409经由诸如因特网的网络执行通信处理。驱动器410也根据需要连接至I/O接口405。可拆卸介质411,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器410上,以便于从其上读出的计算机程序根据需要被安装入存储部分408。
根据本公开的实施例,上文参考流程图描述的方法可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分409从网络上被下载和安装,和/或从可拆卸介质411被安装。在该计算机程序被处理器401执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
需要说明的是,本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。根据本公开的实施例,计算机可读介质可以包括上文描述的ROM 402和/或RAM 403和/或ROM 402和RAM 403以外的一个或多个存储器。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
作为另一方面,本公开还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备执行如上所述的方法。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (10)
1.一种目标文本生成方法,包括:
接收输入文本;以及
基于非属性词词典和所述输入文本,生成目标文本;
其中,所述非属性词词典是通过如下操作确定的:
获取样本数据,所述样本数据包括原始文本样本数据和目标文本样本数据;
基于所述原始文本样本数据和所述目标文本样本数据确定非属性词词典,其中,所述非属性词词典中包括至少一个非属性词,所述至少一个非属性词是从所述目标文本样本数据中获得的。
2.根据权利要求1所述的方法,其中,所述基于所述原始文本样本数据和所述目标文本样本数据确定非属性词词典,包括:
计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度;
基于所述相似度从所述目标文本样本数据中确定非属性词,其中,所述非属性词与所述原始文本样本数据中包含的每个词语彼此之间的相似度均小于预定阈值;
将所述非属性词,添加到所述非属性词词典中。
3.根据权利要求2所述的方法,其中,所述计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度,包括:
计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的杰卡德系数。
4.根据权利要求2所述的方法,其中:
所述获取样本数据,包括:
获取多组样本数据,所述多组样本数据中的每组样本数据包括原始文本样本数据和相对应的目标文本样本数据;
所述计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度,包括:
针对每组样本数据,计算该组样本数据的目标文本样本数据中包含的每个词语与该组样本数据的原始文本样本数据中包含的词语之间的相似度。
5.根据权利要求1所述的方法,其中,所述基于所述非属性词词典和所述输入文本,生成目标文本,包括:
对所述输入文本进行编码,生成隐层序列;
基于所述非属性词词典,利用复制机制,对所述隐层序列进行解码,以生成目标文本。
6.一种目标文本生成装置,包括:
接收模块,用于接收输入文本;以及
生成模块,用于基于非属性词词典和所述输入文本,生成目标文本;
其中,所述非属性词词典是通过如下操作确定的:
获取样本数据,所述样本数据包括原始文本样本数据和目标文本样本数据;
基于所述原始文本样本数据和所述目标文本样本数据确定非属性词词典,其中,所述非属性词词典中包括至少一个非属性词,所述至少一个非属性词是从所述目标文本样本数据中获得的。
7.根据权利要求6所述的装置,其中,所述基于所述原始文本样本数据和所述目标文本样本数据确定非属性词词典,包括:
计算目标文本样本数据中包含的每个词语与原始文本样本数据中包含的词语彼此之间的相似度;
基于所述相似度从所述目标文本样本数据中确定非属性词,其中,所述非属性词与所述原始文本样本数据中包含的每个词语彼此之间的相似度均小于预定阈值;
将所述非属性词,添加到所述非属性词词典中。
8.根据权利要求6所述的装置,其中,所述基于所述非属性词词典和所述输入文本,生成目标文本,包括:
对所述输入文本进行编码,生成隐层序列;
基于所述非属性词词典,利用复制机制,对所述隐层序列进行解码,以生成目标文本。
9.一种计算机系统,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~5中任一项所述的方法。
10.一种计算机可读介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010233974.XA CN111767391B (zh) | 2020-03-27 | 2020-03-27 | 目标文本生成方法、装置、计算机系统和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010233974.XA CN111767391B (zh) | 2020-03-27 | 2020-03-27 | 目标文本生成方法、装置、计算机系统和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111767391A true CN111767391A (zh) | 2020-10-13 |
CN111767391B CN111767391B (zh) | 2024-04-16 |
Family
ID=72719043
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010233974.XA Active CN111767391B (zh) | 2020-03-27 | 2020-03-27 | 目标文本生成方法、装置、计算机系统和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111767391B (zh) |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013118435A1 (ja) * | 2012-02-09 | 2013-08-15 | 日本電気株式会社 | 意味的類似度計算方法、システム及びプログラム |
US20140019133A1 (en) * | 2012-07-12 | 2014-01-16 | International Business Machines Corporation | Data processing method, presentation method, and corresponding apparatuses |
CN104715049A (zh) * | 2015-03-26 | 2015-06-17 | 无锡中科泛在信息技术研发中心有限公司 | 基于本体词库的商品评论属性词抽取方法 |
US20160196342A1 (en) * | 2015-01-06 | 2016-07-07 | Inha-Industry Partnership | Plagiarism Document Detection System Based on Synonym Dictionary and Automatic Reference Citation Mark Attaching System |
CN108984600A (zh) * | 2018-06-04 | 2018-12-11 | 百度在线网络技术(北京)有限公司 | 交互处理方法、装置、计算机设备及可读介质 |
CN109684642A (zh) * | 2018-12-26 | 2019-04-26 | 重庆誉存大数据科技有限公司 | 一种结合页面解析规则和nlp文本向量化的摘要提取方法 |
CN110019660A (zh) * | 2017-08-06 | 2019-07-16 | 北京国双科技有限公司 | 一种相似文本检测方法及装置 |
CN110033022A (zh) * | 2019-03-08 | 2019-07-19 | 腾讯科技(深圳)有限公司 | 文本的处理方法、装置和存储介质 |
CN110377778A (zh) * | 2019-07-11 | 2019-10-25 | 北京字节跳动网络技术有限公司 | 基于标题图相关性的图排序方法、装置及电子设备 |
CN110413764A (zh) * | 2019-06-18 | 2019-11-05 | 杭州熊猫智云企业服务有限公司 | 基于预建词库的长文本企业名称识别算法 |
-
2020
- 2020-03-27 CN CN202010233974.XA patent/CN111767391B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013118435A1 (ja) * | 2012-02-09 | 2013-08-15 | 日本電気株式会社 | 意味的類似度計算方法、システム及びプログラム |
US20140019133A1 (en) * | 2012-07-12 | 2014-01-16 | International Business Machines Corporation | Data processing method, presentation method, and corresponding apparatuses |
US20160196342A1 (en) * | 2015-01-06 | 2016-07-07 | Inha-Industry Partnership | Plagiarism Document Detection System Based on Synonym Dictionary and Automatic Reference Citation Mark Attaching System |
CN104715049A (zh) * | 2015-03-26 | 2015-06-17 | 无锡中科泛在信息技术研发中心有限公司 | 基于本体词库的商品评论属性词抽取方法 |
CN110019660A (zh) * | 2017-08-06 | 2019-07-16 | 北京国双科技有限公司 | 一种相似文本检测方法及装置 |
CN108984600A (zh) * | 2018-06-04 | 2018-12-11 | 百度在线网络技术(北京)有限公司 | 交互处理方法、装置、计算机设备及可读介质 |
CN109684642A (zh) * | 2018-12-26 | 2019-04-26 | 重庆誉存大数据科技有限公司 | 一种结合页面解析规则和nlp文本向量化的摘要提取方法 |
CN110033022A (zh) * | 2019-03-08 | 2019-07-19 | 腾讯科技(深圳)有限公司 | 文本的处理方法、装置和存储介质 |
CN110413764A (zh) * | 2019-06-18 | 2019-11-05 | 杭州熊猫智云企业服务有限公司 | 基于预建词库的长文本企业名称识别算法 |
CN110377778A (zh) * | 2019-07-11 | 2019-10-25 | 北京字节跳动网络技术有限公司 | 基于标题图相关性的图排序方法、装置及电子设备 |
Non-Patent Citations (2)
Title |
---|
冯勇;屈渤浩;徐红艳;王嵘冰;张永刚;: "融合TF-IDF和LDA的中文FastText短文本分类方法", 应用科学学报, no. 03, 30 May 2019 (2019-05-30) * |
王帅;赵翔;李博;葛斌;汤大权;: "TP-AS:一种面向长文本的两阶段自动摘要方法", 中文信息学报, no. 06, 15 June 2018 (2018-06-15) * |
Also Published As
Publication number | Publication date |
---|---|
CN111767391B (zh) | 2024-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110874440B (zh) | 一种信息推送及其模型训练的方法、装置及电子设备 | |
CN110222775B (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
US11758088B2 (en) | Method and apparatus for aligning paragraph and video | |
CN107526718B (zh) | 用于生成文本的方法和装置 | |
CN109829164B (zh) | 用于生成文本的方法和装置 | |
CN109062560B (zh) | 用于生成信息的方法和装置 | |
CN111897950A (zh) | 用于生成信息的方法和装置 | |
CN112182281B (zh) | 一种音频推荐方法、装置及存储介质 | |
CN110188113B (zh) | 一种利用复杂表达式进行数据比对的方法、装置及存储介质 | |
CN110852057A (zh) | 一种计算文本相似度的方法和装置 | |
CN113761174A (zh) | 一种文本生成方法和装置 | |
CN111858916B (zh) | 用于聚类句子的方法和装置 | |
CN112214770A (zh) | 恶意样本的识别方法、装置、计算设备以及介质 | |
CN117751368A (zh) | 隐私敏感神经网络训练 | |
CN111026849A (zh) | 数据处理方法和装置 | |
CN113010666B (zh) | 摘要生成方法、装置、计算机系统及可读存储介质 | |
CN107483595B (zh) | 信息推送方法和装置 | |
CN111767391A (zh) | 目标文本生成方法、装置、计算机系统和介质 | |
CN110781523B (zh) | 用于处理信息的方法和装置 | |
CN113066479A (zh) | 一种评测模型的方法和装置 | |
CN111967001A (zh) | 一种基于双容器的解码与编码安全隔离方法 | |
CN110929512A (zh) | 一种数据增强方法和装置 | |
CN112131502A (zh) | 数据处理方法、数据处理装置、电子设备和介质 | |
CN111784377A (zh) | 用于生成信息的方法和装置 | |
CN107870679B (zh) | 多音字处理方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |