CN109710898B - 文本的查重方法、装置、电子设备及存储介质 - Google Patents

Abstract

本发明提供一种文本的查重方法、装置、电子设备及存储介质，所述方法包括：对获取到的每个文本进行分词处理，获取与该文本对应的多个非实体词和多个实体词；将所述多个非实体词中在该文本中连续的至少两个非实体词划分为一个非实体词组，以及将在该文本中不连续的所有非实体词中每个非实体词划分为一个非实体词组，并将所述多个实体词中每个实体词划分为一个实体词组；基于两个文本的所述多个实体词组和所述多个非实体词组，获取用于表征所述两个文本相似度的度量值。将所述多个非实体词中在该文本中连续的至少两个非实体词划分为一个非实体词组，解决了在该文本中连续的至少两个非实体词词序发生变化时而导致文本相似度计算精度不高的问题。

Description

文本的查重方法、装置、电子设备及存储介质

技术领域

本发明涉及数据处理技术领域，具体而言，涉及一种文本的查重方法、装置、电子设备及存储介质。

背景技术

文本是最重要的信息载体，面对海量新闻数据中重复或近似重复数据的检测技术尤为重要，目前，对新闻文本的查重成为当今数据挖掘和信息检索技术的热点之一，其中，文本的查重技术中一个基础而关键的问题就是文本相似度的计算，然而现有的技术存在对新闻文本相似度计算精度不高的问题，继而导致查重结果的可靠性不高。

发明内容

鉴于此，本发明实施例提供一种文本的查重方法、装置、电子设备及存储介质，使得文本相似度计算精度高，增加查重结果的可靠性。

第一方面，本发明实施例提供一种文本的查重方法，所述方法包括：对获取到的每个文本进行分词处理，获取与该文本对应的多个非实体词和多个实体词；将所述多个非实体词中在该文本中连续的至少两个非实体词划分为一个非实体词组，以及将在该文本中不连续的所有非实体词中每个非实体词划分为一个非实体词组，并将所述多个实体词中每个实体词划分为一个实体词组；基于两个文本的所述多个实体词组和所述多个非实体词组，获取用于表征所述两个文本相似度的度量值。通过将所述多个非实体词中在该文本中连续的至少两个非实体词划分为一个非实体词组，不受词序的限制，有效的解决了在该文本中连续的至少两个非实体词词序发生变化时而导致文本相似度计算精度不高的问题，继而增加增加查重结果的可靠性。

基于第一方面，在一种可能的设计中，基于两个文本的所述多个实体词组和所述多个非实体词组，获取用于表征所述两个文本相似度的度量值，包括：针对每个文本，对与该文本对应的所述多个实体词组和所述多个非实体词组中的每个分组进行Hash运算，获取与所述多个实体词组和所述多个非实体词组一一对应的二进制序列；将与该文本对应的多个所述二进制序列中的每个二进制序列分别进行加权处理，获取与多个所述二进制序列一一对应的加权序列；将与该文本对应的多个所述加权序列中对应位置的数值进行累加，获取用于表征该文本的特征的特征序列；基于两个文本的特征序列，获取用于表征所述两个文本相似度的度量值。通过将所述多个非实体词中在该文本中连续的至少两个非实体词划分为一个非实体词组，不受词序的限制，有效的解决了在该文本中连续的至少两个非实体词词序发生变化时而导致文本相似度计算精度不高的问题，继而增加增加查重结果的可靠性。

基于第一方面，在一种可能的设计中，将与该文本对应的所述多个二进制序列中的每个二进制序列分别进行加权处理，获取与多个所述二进制序列一一对应的加权序列，包括：将与该文本对应的多个所述二进制序列中的每个二进制序列中值为0的元素的值重置为-1，获取与多个所述二进制序列一一对应的第一序列；将与该文本对应的每个实体词组的第一序列乘以第一权重，以及将与该文本对应的每个非实体词组的第一序列乘以第二权重，获取与该文本对应的多个加权序列，其中，所述第一权重大于所述第二权重。通过给实体词组分配的权重大于给非实体词组分配的权重，加大实体词的重要性，有效解决了在两个文本只有实体不同的情况下，文本相似度计算精度不高的问题，继而增加查重结果的可靠性。

基于第一方面，在一种可能的设计中，将与该文本对应的每个实体词组的第一序列乘以第一权重，以及将与该文本对应的每个非实体词组的第一序列乘以第二权重，获取与该文本对应的多个加权序列，包括：将与该文本对应的每个实体词组的第一序列乘以第一权重，获取与所述多个实体词组一一对应的第一加权序列，以及将与该文本对应的每个非实体词组的第一序列乘以第二权重，获取与所述多个非实体词组一一对应的第二加权序列；基于数值大小原则，对与该文本对应的所述多个第一加权序列进行排序，获取排序后的多个实体序列，以及对与该文本对应的所述多个第二加权序列进行排序，获取排序后的多个非实体序列；基于与该文本对应的所述多个实体序列，获取用于表征相邻序列之间距离的多个第一距离值；基于与该文本对应的所述多个非实体序列，获取用于表征相邻序列之间距离的多个第二距离值；针对与该文本对应的每个第一距离值和每个第二距离值，在该第一距离值小于预设门限值时，将所述多个实体序列中与该第一距离值对应的一个实体序列删除，以及在该第二距离值小于所述预设门限值时，将所述多个非实体序列中与该第二距离值对应的一个非实体序列删除，获取删除后的与该文本对应的多个加权序列。通过该方式，获取删除后的与该文本对应的多个加权序列，仅仅需要对删除后的多个加权序列进行处理，而不需要对删除前的所有加权序列进行处理，实现对每个文本单独去重，降低计算复杂度。

基于第一方面，在一种可能的设计中，基于两个文本的特征序列，获取用于表征所述两个文本相似度的度量值，包括：

通过

获取用于表征所述两个文本相似度的度量值，其中，ht(t_A)表示文本t_A的特征序列，ht(t_B)表示文本t_B的特征序列，LCS(ht(t_A),ht(t_B))表示ht(t_A)和ht(t_B)之间最长公共子序列，|ht(t_A)|表示特征序列ht(t_A)的位数，Sim(t_A,t_B)表示文本t_A和文本t_B的度量值。

基于第一方面，在一种可能的设计中，对获取到的每个文本进行分词处理，获取与该文本对应的多个非实体词和多个实体词，包括：根据标点符号，对获取到的每个文本进行分句处理，获取与该文本对应的至少一个字符串；对与该文本对应的每个字符串进行分词处理，获取与该文本对应的多个非实体词和多个实体词。通过该方式，能够更好的区分文本中的任意两个非实体词是否连续，提高文本相似度计算精度。

基于第一方面，在一种可能的设计中，针对每个文本，对与该文本对应的所述多个实体词组和所述多个非实体词组中的每个分组进行Hash运算，获取与所述多个实体词组和所述多个非实体词组一一对应的二进制序列，包括：获取初始化向量；针对每个文本，对与该文本对应的所述多个实体词组和所述多个非实体词组中的每个分组进行Hash运算，获取与所述多个实体词组和所述多个非实体词组一一对应的二进制序列，其中，每个二进制序列的位数与所述初始化向量的位数相同。通过这种方式，使得每个词组对应的二进制序列的位数一致，方便统一处理。

第二方面，本发明实施例提供一种文本的查重装置，所述装置包括：获取单元，用于对获取到的每个文本进行分词处理，获取与该文本对应的多个非实体词和多个实体词；分组单元，用于将所述多个非实体词中在该文本中连续的至少两个非实体词划分为一个非实体词组，以及将在该文本中不连续的所有非实体词中每个非实体词划分为一个非实体词组，并将所述多个实体词中每个实体词划分为一个实体词组；计算单元，用于基于两个文本的所述多个实体词组和所述多个非实体词组，获取用于表征所述两个文本相似度的度量值。

基于第二方面，在一种可能的设计中，所述计算单元包括：Hash值计算单元，用于针对每个文本，对与该文本对应的所述多个实体词组和所述多个非实体词组中的每个分组进行Hash运算，获取与所述多个实体词组和所述多个非实体词组一一对应的二进制序列；加权单元，用于将与该文本对应的所述多个二进制序列中的每个二进制序列分别进行加权处理，获取与所述多个二进制序列一一对应的加权序列；累加单元，用于将与该文本对应的所述多个加权序列中对应位置的数值进行累加，获取用于表征该文本的特征的特征序列；计算子单元，用于基于两个文本的特征序列，获取用于表征所述两个文本相似度的度量值。

基于第二方面，在一种可能的设计中，所述加权单元，还用于将与该文本对应的所述多个二进制序列中的每个二进制序列中值为0的元素的值重置为-1，获取与所述多个二进制序列一一对应的第一序列；以及将与该文本对应的每个实体词组的第一序列乘以第一权重，以及将与该文本对应的每个非实体词组的第一序列乘以第二权重，获取与该文本对应的多个加权序列，其中，所述第一权重大于所述第二权重。

基于第二方面，在一种可能的设计中，所述加权单元，还用于将与该文本对应的每个实体词组的第一序列乘以第一权重，获取与所述多个实体词组一一对应的第一加权序列，以及将与该文本对应的每个非实体词组的第一序列乘以第二权重，获取与所述多个非实体词组一一对应的第二加权序列；以及基于数值大小原则，对与该文本对应的所述多个第一加权序列进行排序，获取排序后的多个实体序列，以及对与该文本对应的所述多个第二加权序列进行排序，获取排序后的多个非实体序列；以及基于与该文本对应的所述多个实体序列，获取用于表征相邻序列之间距离的多个第一距离值；以及基于与该文本对应的所述多个非实体序列，获取用于表征相邻序列之间距离的多个第二距离值；以及针对与该文本对应的每个第一距离值和每个第二距离值，在该第一距离值小于预设门限值时，将所述多个实体序列中与该第一距离值对应的一个实体序列删除，以及在该第二距离值小于所述预设门限值时，将所述多个非实体序列中与该第二距离值对应的一个非实体序列删除，获取删除后的与该文本对应的多个加权序列。

基于第二方面，在一种可能的设计中，所述计算子单元，还用于通过

获取用于表征所述两个文本相似度的度量值，其中，ht(t_A)表示文本t_A的特征序列，ht(t_B)表示文本t_B的特征序列，LCS(ht(t_A),ht(t_B))表示ht(t_A)和ht(t_B)之间最长公共子序列，|ht(t_A)|表示特征序列ht(t_A)的位数，Sim(t_A,t_B)表示文本t_A和文本t_B的度量值。

基于第二方面，在一种可能的设计中，所述获取单元，还用于根据标点符号，对获取到的每个文本进行分句处理，获取与该文本对应的至少一个字符串；以及对与该文本对应的每个字符串进行分词处理，获取与该文本对应的多个非实体词和多个实体词。

基于第二方面，在一种可能的设计中，所述Hash值计算单元，还用于获取初始化向量；以及针对每个文本，对与该文本对应的所述多个实体词组和所述多个非实体词组中的每个分组进行Hash运算，获取与所述多个实体词组和所述多个非实体词组一一对应的二进制序列，其中，每个二进制序列的位数与所述初始化向量的位数相同。

第三方面，本发明实施例提供一种电子设备，所述电子设备包括处理器和存储器，所述存储器耦接到所述处理器，所述存储器存储指令，当所述指令由所述处理器执行时，所述电子设备执行第一方面中任一种可能的设计中的方法。

第四方面，本发明实施例提供一种存储介质，所述存储介质中存储有计算机程序，当所述计算机程序在计算机上运行时，使得所述计算机执行第一方面中任一种可能的设计中的方法。

本发明的其他特征和优点将在随后的说明书阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明实施例了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1为本发明实施例提供的电子设备的结构示意图；

图2为本发明第一实施例提供的文本的查重方法的流程示意图；

图3为本发明第二实施例提供的文本的查重装置的结构示意图。

图标：100-电子设备；110-存储器；120-存储控制器；130-处理器；140-外设接口；150-输入输出单元；160-音频单元；170-显示单元；410-获取单元；420-分组单元；430-计算单元。

具体实施方式

下面将结合本发明实施例中附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本发明的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。

本发明实施例提供一种电子设备100的结构示意图，所述电子设备100可以是个人电脑(personal computer，PC)、平板电脑、智能手机、个人数字助理(personal digitalassistant，PDA)等。

如图1所示，所述电子设备100可以包括：文本的查重装置、存储器110、存储控制器120、处理器130、外设接口140、输入输出单元150、音频单元160、显示单元170。

所述存储器110、存储控制器120、处理器130、外设接口140、输入输出单元150、音频单元160以及显示单元170各元件相互之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述文本的查重装置包括至少一个可以软件或固件(firmware)的形式存储于所述存储器110中或固化在客户端设备的操作装置(operating system，OS)中的软件功能模块。所述处理器130用于执行存储器110中存储的可执行模块，例如所述文本的查重装置包括的软件功能模块或计算机程序。

其中，存储器110可以是，但不限于，随机存取存储器(Random Access Memory，RAM)，只读存储器(Read Only Memory，ROM)，可编程只读存储器(Programmable Read-OnlyMemory，PROM)，可擦除只读存储器(Erasable Programmable Read-Only Memory，EPROM)，电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory，EEPROM)等。其中，存储器110用于存储程序，所述处理器130在接收到执行指令后，执行所述程序，前述本发明实施例任一实施例揭示的流程定义的电子设备100所执行的方法可以应用于处理器130中，或者由处理器130实现。

处理器130可能是一种集成电路芯片，具有信号的处理能力。上述的处理器130可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

所述外设接口140将各种输入/输出装置耦合至处理器130以及存储器110。在一些实施例中，外设接口140，处理器130以及存储控制器120可以在单个芯片中实现。在其他一些实例中，他们可以分别由独立的芯片实现。

输入输出单元150用于提供给用户输入数据实现用户与电子设备100的交互。所述输入输出单元150可以是，但不限于，鼠标和键盘等。

音频单元160向用户提供音频接口，其可包括一个或多个麦克风、一个或者多个扬声器以及音频电路。

显示单元170在电子设备100与用户之间提供一个交互界面(例如用户操作界面)或用于显示图像数据给用户参考。在本实施例中，所述显示单元170可以是液晶显示器或触控显示器。若为触控显示器，其可为支持单点和多点触控操作的电容式触控屏或电阻式触控屏等。支持单点和多点触控操作是指触控显示器能感应到来自该触控显示器上一个或多个位置处同时产生的触控操作，并将该感应到的触控操作交由处理器130进行计算和处理。

第一实施例

请参照图2，图2为本发明第一实施例提供的一种文本的查重方法的流程图，所述方法应用于如图1所示的电子设备100，下面将对图2所示的流程进行详细阐述，所述方法包括：

S100：对获取到的每个文本进行分词处理，获取与该文本对应的多个非实体词和多个实体词。

在需要对获取到的至少两个文本进行查重时，其中，所述至少两个文本可以是两个文本、三个文本、四个文本、五个文本等，例如，对获取到的三个文本(文本A、文本B以及文本C)进行查重时，若需要计算文本A和另外两个文本(文本B、文本C)的相似度时，则需要分别计算文本A和文本B的相似度，以及计算文本A和文本C的相似度，若文本A和文本B的相似度为a1，文本A和文本B的相似度为b1，若a1大于b1，则判定文本A与另外两个文本(文本B、文本C)的相似度为a1，在本实施例中，在计算文本A和文本B的相似度时，对文本A和文本B分别进行相同的处理流程，举例来说，文本A：‘A股份有限公司下发通知，张三同志任职为B公司的总经理。’文本B：‘A股份有限公司下发通知，李四同志任职为C公司的总经理。’；为了提高数据处理效率，在本实施例中，基于词的属性，将词的类别划分为实体词、非实体词以及停用词三类，其中，实体词包括：人名、机构、地点等，如‘张三’、‘李四’等，停用词包括：语气助词、副词、介词、连接词等，通常自身并无明确的意义，只有将其放入一个完整的句子中才有一定作用，如常见的‘的’、‘在’、‘为’之类。基于词的属性和标点符号，对文本A中的词依次进行提取，继而提取出文本A中的所有实体词、非实体词、停用词以及标点符号，作为一种实施方式，可以将文本A中的词分别与存储实体词的字典、存储非实体词的字典以及存储停用词的字典进行一一匹配，继而获取文本A中的实体词、非实体词以及停用词，其中，文本A的实体词包括：‘A股份有限公司’、‘张三’和‘B公司’，非实体词包括：‘下发’、‘通知’、‘同志’、‘任职’和‘总经理’，停用词包括：‘为’和‘的’；B文本的实体词包括：‘A股份有限公司’、‘李四’和‘C公司’，非实体词包括：‘下发’、‘通知’、‘同志’、‘任职’和‘总经理’，停用词包括：‘为’和‘的’；为了提高数据处理效率，在本发明实施例中，不会对停用词进行处理，因此对于文本A和文本B进行分词处理，只需要获取实体词和非实体词，不需要获取停用词。

作为一种实施方式，对文本A和文本B的分词处理过程也可以采用以下方式进行：

能够更好的区分文本中的任意两个非实体词是否连续，提高文本相似度计算精度，针对文本A，首先提取文本A中的标点符号，根据标点符号，对获取到的每个文本进行分句处理，根据逗号、顿号等进行分句，句号和分号表示结束，获取与该文本对应的至少一个字符串，可以理解的是，在本实施例中，通过提取文本A中的标点符号，获取到的标点符号为一个逗号和一个句号，根据逗号，将文本A划分为两个字符串，其中，第一个字符串为‘A股份有限公司下发通知’，第二个字符串为‘张三同志任职为B公司的总经理’，同理文本B也被划分为两个字符串，其中，第三字符串为‘A股份有限公司下发通知’，第四字符串为‘李四同志任职为C公司的总经理’。

对与该文本对应的每个字符串进行分词处理，可以理解的是，分别对第一字符串、第二字符串、第三字符串以及第四字符串进行分词处理，通过上述处理方式，获取与该文本对应的多个非实体词和多个实体词，其中，文本A的实体词包括：‘A股份有限公司’、‘张三’和‘B公司’，非实体词包括：‘下发’、‘通知’、‘同志’、‘任职’和‘总经理’，停用词包括：‘为’和‘的’；B文本的实体词包括：‘A股份有限公司’、‘李四’和‘C公司’，非实体词包括：‘下发’、‘通知’、‘同志’、‘任职’和‘总经理’，停用词包括：‘为’和‘的’。

S200：将所述多个非实体词中在该文本中连续的至少两个非实体词划分为一个非实体词组，以及将在该文本中不连续的所有非实体词中每个非实体词划分为一个非实体词组，并将所述多个实体词中每个实体词划分为一个实体词组。

对于文本A，将文本A中的所有非实体词进行重新分组，可以理解的是，由于‘下发’和‘通知’为在文本A中的两个连续的非实体词，为了防止词序发生变化时，影响相似度计算精度，继而将下发’和‘通知’划分为一个非实体词组‘下发通知’，同理，由于‘同志’和‘任职’为在文本A中的两个连续的非实体词，继而将‘同志’和‘任职’划分为一个非实体词组‘同志任职’，由于非实体词‘总经理’和‘任职’不连续，因此，将‘总经理’单独划分为一个非实体词组，文本A中的每一个实体词单独划分为一个实体词组，可以理解的是，‘A股份有限公司’为一个实体词组，‘张三’为一个实体词组、‘B公司’为一个实体词组；

对于文本B中的所有实体词和非实体词的分组方式相同，继而获得非实体词组‘下发通知’、非实体词组‘同志任职’以及非实体词组‘总经理’；实体词组‘A股份有限公司’、实体词组‘李四’以及实体词组‘C公司’。

通过将所述多个非实体词中在该文本中连续的至少两个非实体词划分为一个非实体词组，继而不受词序的限制，从而有效的解决了在该文本中连续的至少两个非实体词词序发生变化时而导致文本相似度计算精度不高的问题，继而增加增加查重结果的可靠性。

S300：基于两个文本的所述多个实体词组和所述多个非实体词组，获取用于表征所述两个文本相似度的度量值。

作为一种实施方式，S300包括：

针对每个文本，对与该文本对应的所述多个实体词组和所述多个非实体词组中的每个分组进行Hash运算，可以理解的是，对于文本A，利用Hash算法对文本A对应的所有实体词组和所有非实体词组中的每个分组进行Hash运算，在本实施例中，所述Hash算法可以为md5，在其他实施例中，所述Hash算法也可以为sha等其他Hash算法，其中，对于文本A和文本B，均采用相同的Hash算法，获取与所述多个实体词组和所述多个非实体词组一一对应的二进制序列，可以理解的是，基于一个实体词组，获取一个二进制序列，基于一个非实体词组，获取一个二进制序列，每个二进制序列的长度相同，在本实施例中，每个二进制序列包括32位的二进制Hash值，在其他实施例中，每个二进制序列也可为64位、128位等，其中，二进制序列的长度越长，计算复杂度越高，相似度的计算精度也越高。

作为一种实施方式，为了保证每个分组对应的二进制序列的位数相同，首先，获取初始化向量，在本实施例中，所述初始化向量为值全部为0的32位行向量，在其他实施例中，所述初始化向量也可以为值全部为0的64位行向量或列向量，其中，每个实体词组和非实体词组对应的初始化向量均相同；然后，针对每个文本，对与该文本对应的所述多个实体词组和所述多个非实体词组中的每个分组进行Hash运算，可以理解的是，利用Hash算法对文本A对应的所有实体词组和所有非实体词组中的每个分组进行Hash运算，在本实施例中，所述Hash算法可以为md5，其中，对于文本A和文本B，均采用相同的Hash算法，针对每个分组，将计算出32位Hash值用于更新所述初始化向量，获取与所述多个实体词组和所述多个非实体词组一一对应的二进制Hash值序列，可以理解的是，基于一个实体词组，获取一个二进制序列，基于一个非实体词组，获取一个二进制序列，其中，每个二进制序列的位数与所述初始化向量的位数相同。为为了方便理解，下面对基于文本A和文本B计算出的二进制Hash值序列结果进行展示：

对于文本A，实体词组A1：‘A股份有限公司’、‘张三’和‘B公司’对应的32位二进制序列分别为：

hash A1(1)＝1,1,0,1………

hash A1(2)＝1,0,0,1………

hash A1(3)＝1,0,1,0………

非实体词组A2：‘下发通知’、‘同志任职’和‘总经理’对应的32位二进制序列分别为：

hash A2(1)＝0,1,0,1………

hash A2(2)＝1,0,1,0………

hash A2(3)＝1,0,0,1………

对于文本B，实体词组B1：‘A股份有限公司’、‘李四’和‘C公司’对应的32位二进制序列分别为：

hash B1(1)＝1,1,0,1………

hash B1(2)＝0,0,1,0………

hash B1(3)＝1,0,1,1………

非实体词组B2：‘下发通知’、‘同志任职’和‘总经理’对应的32位二进制序列分别为：

hash B2(1)＝0,1,0,1………

hash B2(2)＝1,0,1,0………

hash B2(3)＝1,0,0,1………

将与该文本对应的所述多个二进制序列中的每个二进制序列分别进行加权处理，获取与所述多个二进制序列一一对应的加权序列。

作为一种实施方式，将与该文本对应的所述多个二进制序列中的每个二进制序列中值为0的元素的值重置为-1，获取与所述多个二进制序列一一对应的第一序列。可以理解的是，由于hash A1(1)＝1,1,0,1………，通过将hash A1(1)中元素值为0的值重置为-1，因此，与hash A1(1)对应的第一序列的值为1,1,-1,1………，作为一种实施方式，也可以将与该文本对应的所述多个二进制序列中的每个二进制序列中值为0的元素的值重置为-2，将与该文本对应的所述多个二进制序列中的每个二进制序列中值为1的元素的值重置为2。

将与该文本对应的每个实体词组的第一序列乘以第一权重W₁，以及将与该文本对应的每个非实体词组的第一序列乘以第二权重W2，获取与该文本对应的多个加权序列，其中，所述第一权重W₁大于所述第二权重W₂。在本实施例中，W₁＝2*W₂，在本实施例中，W₁＝2，W₂＝1，在其他实施例中，在W1的值为3时，W2的值也可为2。由于在两个文本在只有实体不同的情况下，现有技术容易将所述两个文本误判为相同的文本，因此，通过给实体词组分配的权重大于给非实体词组分配的权重，加大实体词的重要性，通过该方式有效解决了在两个文本在只有实体不同的情况下，文本相似度计算精度不高的问题，继而增加查重结果的可靠性。

作为一种实施方式，所述第一权重W1也可以小于所述第二权重W2。

作为一种实施方式，将与该文本对应的每个实体词组的第一序列乘以第一权重，获取与所述多个实体词组一一对应的第一加权序列，可以理解的是，一个实体词组对应一个第一加权序列，以及将与该文本对应的每个非实体词组的第一序列乘以第二权重，获取与所述多个非实体词组一一对应的第二加权序列，可以理解的是，一个非实体词组对应一个第二加权序列。为了方便理解，在W₁＝2，W₂＝1时，下面通过举例来展示第一加权序列的结果：

对于文本A:

bwh A1(1)＝{2,2,-2,2………}

bwh A1(2)＝{2,-2,-2,2………}

bwh A1(3)＝{2,-2,2,-2………}

bwh A2(1)＝{-1,1,-1,1………}

bwh A2(2)＝{1,-1,1,-1………}

bwh A2(3)＝{1,-1,-1,1………}

对于文本B

bwh B1(1)＝{2,2,-2,2………}

bwh B1(2)＝{-2,-2,2,-2………}

bwh B1(3)＝{2,-2,2,-2………}

bwh B2(1)＝{-1,1,-1,1………}

bwh B2(2)＝{1,-1,1,-1………}

Bwh B2(3)＝{1,-1,-1,1………}

基于数值大小原则，对与该文本对应的所述多个第一加权序列进行排序，获取排序后的多个实体序列，作为一种实施方式，按照从小到大原则对文本A的3个实体词组对应的第一加权序列bwh A1(1)、bwh A1(2)和bwh A1(3)进行排序，由于bwh A1(1)、bwh A1(2)和bwh A1(3)中的第一位上的数值均为2，因此，对bwh A1(1)、bwh A1(2)和bwh A1(3)中的第二位上的数值进行比较，由于bwh A1(1)的第二位数值为2，bwh A1(2)和bwh A1(3)中第二位数值均为-2，由于2大于-2，所以将bwh A1(1)排在第三位，接着对bwh A1(2)和bwh A1(3)中第三位上的数值进行比较，由于bwh A1(2)中第三位数值为-2，bwh A1(3)中第三位数值为2，因此，bwh A1(2)排在第一位，bwh A1(3)排在第二位，bwh A1(1)排在第三位，完成排序，获取排序后的实体序列bwh A1(2)、bwh A1(3)和bwh A1(1)，同理，对与文本A对应的所述多个第二加权序列进行排序，获取排序后的三个非实体词序bwh A2(3)、bwh A2(2)和bwhA2(1)。同理，对于文本B的处理方式相同。作为一种实施方式，也可以按照从大到小原则对对文本A的3个实体词组对应的第一加权序列进行排序，排序原理相同，因此不再赘述。

基于与该文本对应的所述多个实体序列，获取用于表征相邻序列之间距离的多个第一距离值，可以理解的是，对于文本A的三个实体词序列bwh A1(2)、bwh A1(3)和bwh A1(1)，在本实施例中，计算bwh A1(2)和bwh A1(3)之间的杰卡德距离值

以及计算bwh A1(3)和bwh A1(1)之间的杰卡德距离值。对于文本B的处理方式相同。在其他实施例中，也可以计算计算bwhA1(2)和bwh A1(3)之间的欧式距离。

基于与该文本对应的所述多个非实体序列，可以理解的是，对于文本A的三个非实体词序bwh A2(3)、bwh A2(2)和bwh A2(1)，计算bwh A2(3)和bwh A3(3)之间的杰卡德距离值，以及计算bwh A2(3)和bwhA2(1)之间的杰卡德距离值。对于文本B的处理方式相同。

针对与该文本对应的每个第一距离值和每个第二距离值，在该第一距离值小于预设门限值时，在本实施例中，所述预设门限值为0.7，在其他实施例中，所述预设门限值也可以为0.6、0.8等，其中，所述预设门限值为大于0和小于1的值，将所述多个实体序列中与该第一距离值对应的一个实体序列删除，假设，在J(bwh A1(2),bwh A1(3))的值小于所述预设门限值时，在本实施例中，将bwh A1(2)删除，因此，文本A对应的加权序列bwh A2(2)和bwh A2(1)，作为一种实施方式，也可以将bwh A1(3)删除，以及在该第二距离值小于所述预设门限值时，将所述多个非实体序列中与该第二距离值对应的一个非实体序列删除，获取删除后的与该文本对应的多个加权序列。

通过该方式，获取删除后的与该文本对应的多个加权序列，仅仅需要对删除后的多个加权序列进行处理，而不需要对删除前的所有加权序列进行处理，实现对每个文本单独去重，降低计算复杂度。

将与该文本对应的所述多个加权序列中对应位置的数值进行累加，可以理解的是，对文本A对应的删除后的所有加权序列中每个加权序列上的对应位置上的数值进行累加，获取用于表征文本A的特征的特征序列ht(t_A)。同理，对文本B的处理方式相同，获取用于表征文本B的特征的特征序列ht(t_B)。为了方便理解，下面对ht(t_A)的获取过程进行举例说明：

bwh A1(3)＝{2,-2,2,-2………}

bwh A1(1)＝{2,2,-2,2………}

bwh A2(3)＝{1,-1,-1,1………}

bwh A2(2)＝{1,-1,1,-1………}

bwh A2(1)＝{-1,1,-1,1………}

ht(t_A)＝{5,-1,-1,1………}

基于两个文本的特征序列，获取用于表征所述两个文本相似度的度量值。

作为一种实施方式，通过

获取用于表征所述两个文本相似度的度量值，其中，ht(t_A)表示文本t_A的特征序列，ht(t_B)表示文本t_B的特征序列，LCS(ht(t_A),ht(t_B))表示ht(t_A)和ht(t_B)之间最长公共子序列，|ht(t_A)|表示特征序列ht(t_A)的位数，Sim(t_A,t_B)表示文本t_A和文本t_B的度量值。Sim(t_A,t_B)越接近1，则表示两个文本越相似，等于1表示文本t_A和文本t_B为完全重复文本。

其中，文本A和文本C的相似度计算方法相同，因此不再赘述。

第二实施例

请参照图3，图3是本发明第二实施例提供的一种文本查的重装置的结构框图。所述装置存储于如图1所述的电子设备100，下面将对图3所示的结构框图进行阐述，所示装置包括：

获取单元410，用于对获取到的每个文本进行分词处理，获取与该文本对应的多个非实体词和多个实体词。

分组单元420，用于将所述多个非实体词中在该文本中连续的至少两个非实体词划分为一个非实体词组，以及将在该文本中不连续的所有非实体词中每个非实体词划分为一个非实体词组，并将所述多个实体词中每个实体词划分为一个实体词组。

计算单元430，用于基于两个文本的所述多个实体词组和所述多个非实体词组，获取用于表征所述两个文本相似度的度量值。

作为一种实施方式，计算单元430包括：Hash值计算单元，用于针对每个文本，对与该文本对应的所述多个实体词组和所述多个非实体词组中的每个分组进行Hash运算，获取与所述多个实体词组和所述多个非实体词组一一对应的二进制序列；加权单元，用于将与该文本对应的所述多个二进制序列中的每个二进制序列分别进行加权处理，获取与所述多个二进制序列一一对应的加权序列；累加单元，用于将与该文本对应的所述多个加权序列中对应位置的数值进行累加，获取用于表征该文本的特征的特征序列；计算子单元，用于基于两个文本的特征序列，获取用于表征所述两个文本相似度的度量值。

作为一种实施方式，所述加权单元，还用于将与该文本对应的所述多个二进制序列中的每个二进制序列中值为0的元素的值重置为-1，获取与所述多个二进制序列一一对应的第一序列；以及将与该文本对应的每个实体词组的第一序列乘以第一权重，以及将与该文本对应的每个非实体词组的第一序列乘以第二权重，获取与该文本对应的多个加权序列，其中，所述第一权重大于所述第二权重。

作为一种实施方式，所述加权单元，还用于将与该文本对应的每个实体词组的第一序列乘以第一权重，获取与所述多个实体词组一一对应的第一加权序列，以及将与该文本对应的每个非实体词组的第一序列乘以第二权重，获取与所述多个非实体词组一一对应的第二加权序列；以及基于数值大小原则，对与该文本对应的所述多个第一加权序列进行排序，获取排序后的多个实体序列，以及对与该文本对应的所述多个第二加权序列进行排序，获取排序后的多个非实体序列；以及基于与该文本对应的所述多个实体序列，获取用于表征相邻序列之间距离的多个第一距离值；以及基于与该文本对应的所述多个非实体序列，获取用于表征相邻序列之间距离的多个第二距离值；以及针对与该文本对应的每个第一距离值和每个第二距离值，在该第一距离值小于预设门限值时，将所述多个实体序列中与该第一距离值对应的一个实体序列删除，以及在该第二距离值小于所述预设门限值时，将所述多个非实体序列中与该第二距离值对应的一个非实体序列删除，获取删除后的与该文本对应的多个加权序列。

作为一种实施方式，所述计算子单元，还用于通过

获取用于表征所述两个文本相似度的度量值，其中，ht(t_A)表示文本t_A的特征序列，ht(t_B)表示文本t_B的特征序列，LCS(ht(t_A),ht(t_B))表示ht(t_A)和作为一种实施方式，所述计算子单元，还用于通过

获取用于表征所述两个文本相似度的度量值，其中，ht(t_A)表示文本t_A的特征序列，ht(t_B)表示文本t_B的特征序列，LCS(ht(t_A),ht(t_B))表示ht(t_A)和之间最长公共子序列，|ht(t_A)|表示特征序列ht(t_A)的位数，Sim(t_A,t_B)表示文本t_A和文本t_B的度量值。

作为一种实施方式，获取单元410，还用于根据标点符号，对获取到的每个文本进行分句处理，获取与该文本对应的至少一个字符串；以及对与该文本对应的每个字符串进行分词处理，获取与该文本对应的多个非实体词和多个实体词。

作为一种实施方式，所述Hash值计算单元，还用于获取初始化向量；以及针对每个文本，对与该文本对应的所述多个实体词组和所述多个非实体词组中的每个分组进行Hash运算，获取与所述多个实体词组和所述多个非实体词组一一对应的二进制序列，其中，每个二进制序列的位数与所述初始化向量的位数相同。

本实施例对文本的查重装置的各功能单元实现各自功能的过程，请参见上述图2所示实施例中描述的内容，此处不再赘述。

此外，本发明实施例还提供了一种存储介质，在该存储介质中存储有计算机程序，当所述计算机程序在计算机上运行时，使得所述计算机执行本发明任一项实施方式所提供的文本的查重方法。

综上所述，本发明各实施例提出的文本的查重方法、装置、电子设备及存储介质，所述方法包括：对获取到的每个文本进行分词处理，获取与该文本对应的多个非实体词和多个实体词；将所述多个非实体词中在该文本中连续的至少两个非实体词划分为一个非实体词组，以及将在该文本中不连续的所有非实体词中每个非实体词划分为一个非实体词组，并将所述多个实体词中每个实体词划分为一个实体词组；基于两个文本的所述多个实体词组和所述多个非实体词组，获取用于表征所述两个文本相似度的度量值。通过将所述多个非实体词中在该文本中连续的至少两个非实体词划分为一个非实体词组，不受词序的限制，有效的解决了在该文本中连续的至少两个非实体词词序发生变化时而导致文本相似度计算精度不高的问题，继而增加查重结果的可靠性。

在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本发明的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的装置来实现，或者可以用专用硬件与计算机指令的组合来实现。另外，在本发明各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

Claims (10)

1.一种文本的查重方法，其特征在于，所述方法包括：

对获取到的每个文本进行分词处理，获取与该文本对应的多个非实体词和多个实体词；

将所述多个非实体词中在该文本中连续的至少两个非实体词划分为一个非实体词组，以及将在该文本中不连续的所有非实体词中每个非实体词划分为一个非实体词组，并将所述多个实体词中每个实体词划分为一个实体词组；

基于两个文本的所述多个实体词组和所述多个非实体词组，获取用于表征所述两个文本相似度的度量值。

2.根据权利要求1所述的方法，其特征在于，基于两个文本的所述多个实体词组和所述多个非实体词组，获取用于表征所述两个文本相似度的度量值，包括：

针对每个文本，对与该文本对应的所述多个实体词组和所述多个非实体词组中的每个分组进行Hash运算，获取与所述多个实体词组和所述多个非实体词组一一对应的二进制序列；

将与该文本对应的多个所述二进制序列中的每个二进制序列分别进行加权处理，获取与多个所述二进制序列一一对应的加权序列；

将与该文本对应的多个所述加权序列中对应位置的数值进行累加，获取用于表征该文本的特征的特征序列；

基于两个文本的特征序列，获取用于表征所述两个文本相似度的度量值。

3.根据权利要求2所述的方法，其特征在于，将与该文本对应的多个所述二进制序列中的每个二进制序列分别进行加权处理，获取与多个所述二进制序列一一对应的加权序列，包括：

将与该文本对应的多个所述二进制序列中的每个二进制序列中值为0的元素的值重置为-1，获取与多个所述二进制序列一一对应的第一序列；

将与该文本对应的每个实体词组的第一序列乘以第一权重，以及将与该文本对应的每个非实体词组的第一序列乘以第二权重，获取与该文本对应的多个加权序列，其中，所述第一权重大于所述第二权重。

4.根据权利要求3所述的方法，其特征在于，将与该文本对应的每个实体词组的第一序列乘以第一权重，以及将与该文本对应的每个非实体词组的第一序列乘以第二权重，获取与该文本对应的多个加权序列，包括：

将与该文本对应的每个实体词组的第一序列乘以第一权重，获取与所述多个实体词组一一对应的第一加权序列，以及将与该文本对应的每个非实体词组的第一序列乘以第二权重，获取与所述多个非实体词组一一对应的第二加权序列；

基于数值大小原则，对与该文本对应的所述多个第一加权序列进行排序，获取排序后的多个实体序列，以及对与该文本对应的所述多个第二加权序列进行排序，获取排序后的多个非实体序列；

基于与该文本对应的所述多个实体序列，获取用于表征相邻序列之间距离的多个第一距离值；

基于与该文本对应的所述多个非实体序列，获取用于表征相邻序列之间距离的多个第二距离值；

针对与该文本对应的每个第一距离值和每个第二距离值，在该第一距离值小于预设门限值时，将所述多个实体序列中与该第一距离值对应的一个实体序列删除，以及在该第二距离值小于所述预设门限值时，将所述多个非实体序列中与该第二距离值对应的一个非实体序列删除，获取删除后的与该文本对应的多个加权序列。

5.根据权利要求2所述的方法，其特征在于，基于两个文本的特征序列，获取用于表征所述两个文本相似度的度量值，包括：

通过公式

获取用于表征所述两个文本相似度的度量值，其中，ht(t_A)表示文本t_A的特征序列，ht(t_B)表示文本t_B的特征序列，LCS(ht(t_A),ht(t_B))表示ht(t_A)和ht(t_B)之间最长公共子序列，|ht(t_A)|表示特征序列ht(t_A)的位数，Sim(t_A,t_B)表示文本t_A和文本t_B的度量值。

6.根据权利要求1所述的方法，其特征在于，对获取到的每个文本进行分词处理，获取与该文本对应的多个非实体词和多个实体词，包括：

根据标点符号，对获取到的每个文本进行分句处理，获取与该文本对应的至少一个字符串；

对与该文本对应的每个字符串进行分词处理，获取与该文本对应的多个非实体词和多个实体词。

7.根据权利要求2所述的方法，其特征在于，针对每个文本，对与该文本对应的所述多个实体词组和所述多个非实体词组中的每个分组进行Hash运算，获取与所述多个实体词组和所述多个非实体词组一一对应的二进制序列，包括：

获取初始化向量；

针对每个文本，对与该文本对应的所述多个实体词组和所述多个非实体词组中的每个分组进行Hash运算，获取与所述多个实体词组和所述多个非实体词组一一对应的二进制序列，其中，每个二进制序列的位数与所述初始化向量的位数相同。

8.一种文本的查重装置，其特征在于，所述装置包括：

获取单元，用于对获取到的每个文本进行分词处理，获取与该文本对应的多个非实体词和多个实体词；

分组单元，用于将所述多个非实体词中在该文本中连续的至少两个非实体词划分为一个非实体词组，以及将在该文本中不连续的所有非实体词中每个非实体词划分为一个非实体词组，并将所述多个实体词中每个实体词划分为一个实体词组；

计算单元，用于基于两个文本的所述多个实体词组和所述多个非实体词组，获取用于表征所述两个文本相似度的度量值。

9.一种电子设备，其特征在于，包括处理器以及与所述处理器连接的存储器，所述存储器内存储计算机程序，当所述计算机程序被所述处理器运行时，使得所述电子设备执行权利要求1-7中任意一项所述的方法。

10.一种存储介质，其特征在于，所述存储介质中存储有计算机程序，当所述计算机程序在计算机上运行时，使得所述计算机执行如权利要求1-7中任意一项所述的方法。

Images