CN109359183B - 文本信息的查重方法、装置及电子设备 - Google Patents

Abstract

本发明提供了一种文本信息的查重方法、装置及电子设备，涉及信息处理的技术领域，包括获取待查询文本；对待查询文本进行段落拆分处理，得到待查询文本的多个拆分段落；对每个拆分段落进行哈希函数处理，得到拆分段落的特征指纹；将拆分段落的特征指纹进行分段处理，得到多个特征指纹片段，并将每个特征指纹片段与其对应的特征指纹片段库中的预设特征指纹片段进行匹配，根据匹配结果确定查重结果。该方法通过将每个特征指纹片段与其对应的特征指纹片段库进行匹配，能够快速的得到查重结果，并且是对每个拆分段落进行的查重，查重结果的相似度性能好，缓解了现有的文本信息查重方法存在检索速度慢、检索结果的相似度性能差的技术问题。

Description

文本信息的查重方法、装置及电子设备

技术领域

本发明涉及信息处理的技术领域，尤其是涉及一种文本信息的查重方法、装置及电子设备。

背景技术

大数据时代的数据量远远大于了人可以处理的范围，其中绝大多数是重复的，转载的或者说是抄袭的。出于查明文本抄袭来源或者减少相同内容重复存储的目的，需要查重或者查相似的系统。

现有技术中的文本信息查重方法，对文本内容做分词，去掉停止词并进行特征词提取，将特征词向量存储在数据库中，请求的文章会被做一样的处理，并求特征词向量的距离，如：海明距离，余弦距离，距离越近的相似性越高。这种方法可以找到高相似的文章，但问题是特征向量的维数不好把控，维数高的情况下，建立索引以及检索的速度就会很慢，如果维数比较低的情况下，提取的特征词可能就不够用来做相似检索，相似度性能会大打折扣。

综上所述，现有的文本信息查重方法存在检索速度慢、检索结果的相似度性能差的技术问题。

发明内容

有鉴于此，本发明的目的在于提供一种文本信息的查重方法、装置及电子设备，以缓解现有的文本信息查重方法存在检索速度慢、检索结果的相似度性能差的技术问题。

第一方面，本发明实施例提供了一种文本信息的查重方法，包括：获取待查询文本；对所述待查询文本进行段落拆分处理，得到所述待查询文本的多个拆分段落；对每个所述拆分段落进行哈希函数处理，得到所述拆分段落的特征指纹，其中，所述特征指纹为包含所述待查询文本的特征的数组；将所述拆分段落的特征指纹进行分段处理，得到多个特征指纹片段，并将每个所述特征指纹片段与其对应的特征指纹片段库中的预设特征指纹片段进行匹配，根据匹配结果确定查重结果，其中，所述查重结果至少包括：是否存在重复内容，所述重复内容的出处。

结合第一方面，本发明实施例提供了第一方面的第一种可能的实施方式，其中，对所述待查询文本进行段落拆分处理包括：根据所述待查询文本中的分隔符号对所述待查询文本进行分句处理，得到多个语句，其中，所述分隔符号至少包括：句号，换行符，问号；将所述多个语句进行组合，得到所述待查询文本的多个拆分段落，其中，所述拆分段落至少包含一个语句。

结合第一方面，本发明实施例提供了第一方面的第二种可能的实施方式，其中，将所述多个语句进行组合包括：获取动态采样窗口的大小和动态采样窗口的滑动步长，其中，所述动态采样窗口的大小决定所述拆分段落所包含的字数，或，所述动态采样窗口的大小决定所述拆分段落所包含的语句个数；根据所述动态采样窗口的大小和所述动态采样窗口的滑动步长对所述多个语句进行遍历采样，得到所述待查询文本的多个拆分段落。

结合第一方面，本发明实施例提供了第一方面的第三种可能的实施方式，其中，对每个所述拆分段落进行哈希函数处理包括：在每个所述拆分段落中遍历提取连续的n个单字，并将每个所述连续的n个单字作为第一目标词，进而得到由多个第一目标词组成的第一目标词集；对所述第一目标词集中的每个所述第一目标词进行第一哈希函数处理，得到多个第一初始哈希值；基于算式h(x)＝(ax+b)mod c对多个所述第一初始哈希值进行第二哈希函数处理，得到多个第一目标哈希值，其中，h(x)表示所述第一目标哈希值，x表示所述第一初始哈希值，a，b，c表示预设随机正整数，且所述预设随机正整数为f组；在每组所述预设随机正整数确定的所述多个第一目标哈希值中确定一个特征值，进而得到f个特征值，其中，所述特征值为所述多个第一目标哈希值中的最小值；对所述f个特征值进行第一压缩处理，得到第一特征指纹，并将所述第一特征指纹作为所述拆分段落的特征指纹。

结合第一方面，本发明实施例提供了第一方面的第四种可能的实施方式，其中，对每个所述拆分段落进行哈希函数处理包括：在每个所述拆分段落中遍历提取连续的m个单字，并将每个所述连续的m个单字作为第二目标词，进而得到由多个第二目标词组成的第二目标词集；对所述第二目标词集中的每个所述第二目标词进行第三哈希函数处理，得到多个第二初始哈希值，其中，所述第三哈希函数的输出位数为w位；将每个所述第二初始哈希值转换为w位的二进制数；获取每个所述第二目标词的TFIDF权重；将每个所述w位的二进制数的每一位的表示位与对应的第二目标词的TFIDF权重进行相乘，得到多个w位的计算数值，其中，若所述w位的二进制数中的任意一位为0，则其表示位为-1，若所述w位的二进制数中的任意一位为1，则其表示位为+1；将所述多个w位的计算数值中的对应位进行相加计算，得到目标计算数值；对所述目标计算数值进行第二压缩处理，得到第二特征指纹，并将所述第二特征指纹作为所述拆分段落的特征指纹。

结合第一方面，本发明实施例提供了第一方面的第五种可能的实施方式，其中，将所述拆分段落的特征指纹进行分段处理包括：获取预设的特征指纹分段数量；按照所述数量对所述拆分段落的特征指纹进行分段处理，得到多个特征指纹片段。

第二方面，本发明实施例还提供一种文本信息的查重装置，包括：获取模块，用于获取待查询文本；拆分模块，用于对所述待查询文本进行段落拆分处理，得到所述待查询文本的多个拆分段落；函数处理模块，用于对每个所述拆分段落进行哈希函数处理，得到所述拆分段落的特征指纹，其中，所述特征指纹为包含所述待查询文本的特征的数组；分段匹配模块，用于将所述拆分段落的特征指纹进行分段处理，得到多个特征指纹片段，并将每个所述特征指纹片段与其对应的特征指纹片段库中的预设特征指纹片段进行匹配，根据匹配结果确定查重结果，其中，所述查重结果至少包括：是否存在重复内容，所述重复内容的出处。

结合第二方面，本发明实施例提供了第二方面的第一种可能的实施方式，其中，所述拆分模块包括：分句单元，用于根据所述待查询文本中的分隔符号对所述待查询文本进行分句处理，得到多个语句，其中，所述分隔符号至少包括：句号，换行符，问号；组合单元，用于将所述多个语句进行组合，得到所述待查询文本的多个拆分段落，其中，所述拆分段落至少包含一个语句。

第三方面，本发明实施例还提供了一种电子设备，包括存储器、处理器，所述存储器上存储有可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第一方面中所述的方法的步骤。

第四方面，本发明实施例还提供了一种具有处理器可执行的非易失的程序代码的计算机可读介质，所述程序代码使所述处理器执行上述第一方面中所述的方法。

在本发明实施例中，首先获取待查询文本，然后对待查询文本进行段落拆分处理，得到待查询文本的多个拆分段落，再对每个拆分段落进行哈希函数处理，得到拆分段落的特征指纹，其中，特征指纹为包含待查询文本的特征的数组，最后，将拆分段落的特征指纹进行分段处理，得到多个特征指纹片段，并将每个特征指纹片段与其对应的特征指纹片段库中的预设特征指纹片段进行匹配，根据匹配结果确定查重结果，其中，查重结果包括：是否存在重复内容，重复内容的出处。通过上述描述可知，该方法通过将每个特征指纹片段与其对应的特征指纹片段库进行匹配，能够快速的得到查重结果，并且是对每个拆分段落进行的查重，查重结果的相似度性能好，有效缓解了现有的文本信息查重方法存在检索速度慢、检索结果的相似度性能差的技术问题。

本发明的其他特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。

为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例的一种文本信息的查重方法的流程图；

图2为本发明实施例的对待查询文本进行段落拆分处理的流程图；

图3为本发明实施例的对每个拆分段落进行哈希函数处理的流程图；

图4为本发明实施例的另一种对每个拆分段落进行哈希函数处理的流程图；

图5为本发明实施例的一种文本信息的查重装置的功能模块图；

图6为本发明实施例的一种电子设备的示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合附图对本发明的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例一：

图1是根据本发明实施例的一种文本信息的查重方法，如图1所示，该方法包括如下步骤：

步骤S11，获取待查询文本；

在本发明实施例中，待查询文本可以是用户给定的，也可以是在网络节点上自动获取到的，用户可以根据需求而设定，本发明实施例对其不进行具体限制。

另外，本发明支持大数据的架构，能够对待查询文本做实时的流处理，在数据量增流的情况下能更加方便快速的做运算和存储性能的优化和升级。

步骤S12，对待查询文本进行段落拆分处理，得到待查询文本的多个拆分段落；

获取到待查询文本后，进一步对待查询文本进行段落拆分处理，得到待查询文本的多个拆分段落，下文中再对该过程进行详细介绍。

步骤S13，对每个拆分段落进行哈希函数处理，得到拆分段落的特征指纹，其中，特征指纹为包含待查询文本的特征的数组；

在得到待查询文本的多个拆分段落后，对每个拆分段落进行哈希函数处理，哈希函数处理的目的就是将每一个拆分段落处理为特定长度的数组，进而得到每一个拆分段落的特征指纹，每一个特征指纹都是包含待查询文本的特征的数组，下文中再对哈希函数的处理过程进行详细介绍。

步骤S14，将拆分段落的特征指纹进行分段处理，得到多个特征指纹片段，并将每个特征指纹片段与其对应的特征指纹片段库中的预设特征指纹片段进行匹配，根据匹配结果确定查重结果，其中，查重结果至少包括：是否存在重复内容，重复内容的出处。

在得到拆分段落的特征指纹后，按照特征指纹片段库的数量将拆分段落的特征指纹进行分段，得到多个特征指纹片段，并将每个特征指纹片段与其对应的特征指纹片段库中的预设特征指纹片段进行匹配，最后根据匹配结果确定是否存在重复内容，重复内容的出处，下文中再对该过程进行详细介绍。

在本发明实施例中，首先获取待查询文本，然后对待查询文本进行段落拆分处理，得到待查询文本的多个拆分段落，再对每个拆分段落进行哈希函数处理，得到拆分段落的特征指纹，其中，特征指纹为包含待查询文本的特征的数组，最后，将拆分段落的特征指纹进行分段处理，得到多个特征指纹片段，并将每个特征指纹片段与其对应的特征指纹片段库中的预设特征指纹片段进行匹配，根据匹配结果确定查重结果，其中，查重结果包括：是否存在重复内容，重复内容的出处。通过上述描述可知，该方法通过将每个特征指纹片段与其对应的特征指纹片段库进行匹配，能够快速的得到查重结果，并且是对每个拆分段落进行的查重，查重结果的相似度性能好，缓解了现有的文本信息查重方法存在检索速度慢、检索结果的相似度性能差的技术问题。

上述内容对本发明的文本信息查重方法进行了简要介绍，下面对其中涉及到的具体内容进行详细描述。

在本实施例中，如图2所示，对待查询文本进行段落拆分处理包括以下步骤：

步骤S21，根据待查询文本中的分隔符号对待查询文本进行分句处理，得到多个语句，其中，分隔符号至少包括：句号，换行符，问号；

具体的，在获取到待查询文本后，使用句子分隔符号(比如：句号，换行符，问号)将待查询文本分割成多个语句。

步骤S22，将多个语句进行组合，得到待查询文本的多个拆分段落，其中，拆分段落至少包含一个语句。

具体的：

步骤S221，获取动态采样窗口的大小和动态采样窗口的滑动步长，其中，动态采样窗口的大小决定拆分段落所包含的字数，或，动态采样窗口的大小决定拆分段落所包含的语句个数；

要将多个语句进行组合，就先要获取到预设的动态采样窗口的大小和动态采样窗口的滑动步长，在实际应用中，动态采样窗口的大小可以根据不同的使用情况进行设置，可以将动态采样窗口的大小设定为在不拆分单个语句的前提下，将不超过固定字数的多个语句进行组合作为一个拆分段落；还可以在不考虑句子长度的情况下，动态采样窗口采集固定数量的语句，比如设定动态采样窗口将单个语句作为一个拆分段落进行采样，单个语句相比多个语句组成的拆分段落拥有更好的相似敏感性，可以发现更多相似的小的片段，用户可以根据需求而设定，本发明实施例对其不进行具体限制。

步骤S222，根据动态采样窗口的大小和动态采样窗口的滑动步长对多个语句进行遍历采样，得到待查询文本的多个拆分段落。

具体的，使用动态采样窗口对上述中得到的多个语句进行采样，动态采样窗口的采样内容就是一个拆分段落，动态采样窗口从待查询文本的第一个语句开始，按照获取到的滑动步长一直滑动到待查询文本的最后一个语句为止，采样得到多个拆分段落。

为了便于理解，对于将多个语句进行组合的过程进行举例说明，如果获取到的预设动态采样窗口的大小是在不拆分单个语句的前提下，将不超过100个字的多个语句进行组合作为一个拆分段落，那么动态采样窗口在采样的过程中，一个包含100个字的单个语句就能够成为一个拆分段落，或者说，十个连续的只有10个字的语句也能够组合成为一个拆分段落。

发明人对动态采样窗口的采样方式进行了验证：如果设置动态采样窗口的采样标准为不超过100字的多个语句作为一个拆分段落，滑动步长为一个语句，对待查询文本进行采样，这种方法的好处是不会有采样数据的丢失，但问题是会带来更大的数据冗余。实验得到的结果是数据的采样率是260％，即采样的得到的所有拆分段落总字数是2.6倍的待查询文本的字数。

上述内容对待查询文本进行段落拆分处理的过程进行了详细介绍，下面对哈希函数处理的过程进行详细描述。

如图3所示，对每个拆分段落进行哈希函数处理包括以下步骤：

步骤S31，在每个拆分段落中遍历提取连续的n个单字，并将每个连续的n个单字作为第一目标词，进而得到由多个第一目标词组成的第一目标词集；

在得到待查询文本的多个拆分段落后，要对每一个拆分段落进行分词处理，将连续的n个单字作为一个词来采集，并将这连续的n个单字作为第一目标词，进而得到由多个第一目标词组成的第一目标词集，这一步可以采用ngram的分词方式对拆分段落进行处理，本发明实施例不对分词方式进行具体限制。

步骤S32，对第一目标词集中的每个第一目标词进行第一哈希函数处理，得到多个第一初始哈希值；

得到第一目标词集后，对第一目标词集中的每一个第一目标词进行第一哈希函数处理，得到多个第一初始哈希值，其中，所使用的第一哈希函数必须是输出为正整数的哈希函数，这样所有的第一目标词经过处理转换为一个正整数，即第一初始哈希值。

步骤S33，基于算式h(x)＝(ax+b)mod c对多个第一初始哈希值进行第二哈希函数处理，得到多个第一目标哈希值，其中，h(x)表示第一目标哈希值，x表示第一初始哈希值，a，b，c表示预设随机正整数，且预设随机正整数为f组；

得到第一初始哈希值后，基于算式h(x)＝(ax+b)mod c对多个第一初始哈希值进行第二哈希函数处理，经过第二哈希函数处理，每一个第一初始哈希值x都会得到一个对应的第一目标哈希值h(x)，a，b，c表示预设随机正整数，且预设随机正整数为f组。

步骤S34，在每组预设随机正整数确定的多个第一目标哈希值中确定一个特征值，进而得到f个特征值，其中，特征值为多个第一目标哈希值中的最小值；

对于一组预设随机正整数a，b，c，将第二哈希函数处理得到的多个第一目标哈希值h(x)中的最小值作为一个特征值，那么对于f组预设随机正整数a，b，c，每组随机正整数对应一个算式，每个算式计算得到的多个第一目标哈希值都能够按照取最小值的原则确定一个特征值，进而得到f个特征值。

步骤S35，对f个特征值进行第一压缩处理，得到第一特征指纹，并将第一特征指纹作为拆分段落的特征指纹。

根据第二哈希函数处理的算式h(x)＝(ax+b)mod c可以知道，每一个特征值的取值范围都是[0,c)，不方便存储和运算，将这f个最大值为c的数值除以M求余数，再将这f个余数转换成M进制的表达方式存储在一个数组中，最终得到的f位的数组就称为第一特征指纹，并将第一特征指纹作为拆分段落的特征指纹，其中M的取值可以根据预设的系统存储量需求进行设定，M取值越大系统存储量越大，优选的，可以将M设置为16。

上面是哈希函数处理的一种实施方式，本发明实施例还提供了另外一种哈希函数的处理方式。

在本发明的一个可选实施方式中，如图4所示，具体包括以下步骤：

步骤S41，在每个拆分段落中遍历提取连续的m个单字，并将每个连续的m个单字作为第二目标词，进而得到由多个第二目标词组成的第二目标词集；

在得到待查询文本的多个拆分段落后，要对每一个拆分段落进行分词处理，将连续的m个单字作为一个词来采集，并将这连续的m个单字作为第二目标词，进而得到由多个第二目标词组成的第二目标词集，这一步可以采用ngram的分词方式对拆分段落进行处理，本发明实施例不对分词方式进行具体限制。

步骤S42，对第二目标词集中的每个第二目标词进行第三哈希函数处理，得到多个第二初始哈希值，其中，第三哈希函数的输出位数为w位；

得到第二目标词集后，对第二目标词集中的每一个第二目标词进行第三哈希函数处理，得到多个第二初始哈希值，其中，所使用的第三哈希函数的输出位数为w位并且必须是输出为正整数的哈希函数，这样所有的第二目标词经过处理转换为一个w位正整数，即第二初始哈希值。

步骤S43，将每个第二初始哈希值转换为w位的二进制数；

将经过第三哈希函数处理得到的w位第二初始哈希值转换为w位的二进制数。

步骤S44，获取每个第二目标词的TFIDF权重；

步骤S45，将每个w位的二进制数的每一位的表示位与对应的第二目标词的TFIDF权重进行相乘，得到多个w位的计算数值，其中，若w位的二进制数中的任意一位为0，则其表示位为-1，若w位的二进制数中的任意一位为1，则其表示位为+1；

步骤S46，将多个w位的计算数值中的对应位进行相加计算，得到目标计算数值；

步骤S47，对目标计算数值进行第二压缩处理，得到第二特征指纹，并将第二特征指纹作为拆分段落的特征指纹。

得到w位的目标计算数值后，将w位的目标计算数值转换为w位二进制数进行表示，转换规则为大于0的转换成1，小于0的转换成0，进而得到w位的二进制数，将得到的w位二进制数组成的w位数组称为第二特征指纹，并将第二特征指纹作为拆分段落的特征指纹。

本发明将待查询文本通过哈希函数处理压缩成了多个f位或者w位的数组，不会占用很大存储空间。

上述内容对哈希函数处理的过程进行了详细介绍，下面对拆分段落的特征指纹进行分段处理的过程进行详细描述。

本发明实施例中，将拆分段落的特征指纹进行分段处理包括以下步骤：

步骤S51，获取预设的特征指纹分段数量；

要将拆分段落的特征指纹进行拆分，首先要获取预设的特征指纹分段数量。

步骤S52，按照数量对拆分段落的特征指纹进行分段处理，得到多个特征指纹片段。

获取到预设的特征指纹分段数量后，按照预设特征指纹分段数量对拆分段落的特征指纹进行分段处理，得到多个特征指纹片段。

下面对分段处理进行举例说明，如果获取的预设特征指纹分段数量有8个，那么就将上述得到的所有拆分段落的f位或者w位特征指纹都拆分成8段。

在本实施例中，特征指纹片段库中的预设特征指纹片段都是按照本发明中的方法进行处理得到的，而且特征指纹片段库中存储了每个预设特征指纹片段所对应的文本ID，以及每个预设特征指纹片段在对应的文本中的位置。

本发明实施例中，将待查询文本包含的每个拆分段落的特征指纹片段与其对应的特征指纹片段库中的预设特征指纹片段进行匹配，根据匹配结果确定查重结果。

为了便于理解，下面进行举例说明，如果获取的预设特征指纹分段数量有8个，那么特征指纹片段库的数量也是8个，依次为特征指纹片段库1，特征指纹片段库2，特征指纹片段库3，特征指纹片段库4，特征指纹片段库5，特征指纹片段库6，特征指纹片段库7，特征指纹片段库8，并且拆分段落的特征指纹就需要拆分成8段，得到8个特征指纹片段，即特征指纹片段1至特征指纹片段8，在进行匹配时，特征指纹片段1与特征指纹片段库1中的预设特征指纹片段进行匹配，特征指纹片段2与特征指纹片段库2中的预设特征指纹片段进行匹配，以此类推，此处不再赘述，每一个特征指纹片段的匹配可以同时进行，所以本发明能够快速的得到查重结果。

如果特征指纹片段库中存在与拆分段落的特征指纹片段相同的片段，那么判定待查询文本与特征指纹片段库所包含文本有相似的部分，基于查询到的相同的特征指纹片段，能够获取到这个相同的特征指纹片段的文本ID，以及这个特征指纹片段在对应的文本中的位置。

如果特征指纹片段库中不存在与拆分段落的特征指纹片段相同的片段，那么判定待查询文本与特征指纹片段库所对应文本不相似。

用户可以根据实际情况，决定是否将处理得到的待查询文本的特征指纹片段存入特征指纹片段库。

本实施例中，相似文本的发现阈值是可以调节的，在对每个拆分段落连续的n个或m个单字作为一个词来采集时，n或m的取值越大，文本的相似度越高，即只有非常相似的文本才会被找到，如果n或m的取值越小，文本的相似要求越低，即有较低相似度的文本也会被发现；如果特征指纹片段库越多，即特征指纹被拆分的段数越多，文本相似要求越高，特征指纹被拆分的段数越少，文本相似要求越低，特征指纹被拆分的片段数量比n或m的取值对文本相似度的调整幅度要大很多，所以n或m的数值可以用来微调文本相似度要求，特征指纹被拆分的片段数量用来划定文本相似度要求的范围。

综合上述内容，本发明的文本信息查重方法具有以下优点：

1.本发明支持大数据的架构，能够对待查询文本做实时的流处理，在数据量增流的情况下能更加方便快速的做运算和存储性能的优化和升级。

2.本发明将文本压缩成多个f位或者w位的数组，即使储存海量数据，也不会占用很大存储空间。

3.f位或者w位的M进制数组可以存储多个不同文本而不产生重复，基本可以满足任何系统的存储量需求。

4.本发明是对文本中的句子进行匹配，可以快速查询到待查询文本中某个段落的来源以及该段落在相似文本中的位置。

5.本发明作为一种数字指纹技术，可以应用在那些文本内容不方便存储的检索系统中，而且特征指纹是不能还原成原始文本内容的，所以即使特征指纹片段库被泄露也不会有信息安全问题，实际应用中，可以通过修改第二哈希函数中的预设随机正整数a，b，c的参数，来生成完全不一样的特征指纹系统，这也进一步的提升了系统的安全性。

6.可以通过调节特征指纹分段的数量以及分词时连续采集的字数来调节查重的敏感度。

实施例二：

本发明实施例还提供了一种文本信息的查重装置，该文本信息的查重装置主要用于执行本发明实施例上述内容所提供文本信息的查重方法，以下对本发明实施例提供的文本信息的查重装置做具体介绍。

图5是根据本发明实施例的一种文本信息的查重装置的示意图，如图5所示，该装置主要包括获取模块10，拆分模块20，函数处理模块30，分段匹配模块40，其中：

获取模块，用于获取待查询文本；

拆分模块，用于对待查询文本进行段落拆分处理，得到待查询文本的多个拆分段落；

函数处理模块，用于对每个拆分段落进行哈希函数处理，得到拆分段落的特征指纹，其中，特征指纹为包含待查询文本的特征的数组；

分段匹配模块，用于将拆分段落的特征指纹进行分段处理，得到多个特征指纹片段，并将每个特征指纹片段与其对应的特征指纹片段库中的预设特征指纹片段进行匹配，根据匹配结果确定查重结果，其中，查重结果至少包括：是否存在重复内容，重复内容的出处。

在本发明实施例中，首先获取待查询文本，然后对待查询文本进行段落拆分处理，得到待查询文本的多个拆分段落，再对每个拆分段落进行哈希函数处理，得到拆分段落的特征指纹，其中，特征指纹为包含待查询文本的特征的数组，最后，将拆分段落的特征指纹进行分段处理，得到多个特征指纹片段，并将每个特征指纹片段与其对应的特征指纹片段库中的预设特征指纹片段进行匹配，根据匹配结果确定查重结果，其中，查重结果包括：是否存在重复内容，重复内容的出处。通过上述描述可知，该方法通过将每个特征指纹片段与其对应的特征指纹片段库进行匹配，能够快速的得到查重结果，并且是对每个拆分段落进行的查重，查重结果的相似度性能好，缓解了现有的文本信息查重方法存在检索速度慢、检索结果的相似度性能差的技术问题。

可选地，拆分模块包括：分句单元，用于根据待查询文本中的分隔符号对待查询文本进行分句处理，得到多个语句，其中，分隔符号至少包括：句号，换行符，问号；组合单元，用于将多个语句进行组合，得到待查询文本的多个拆分段落，其中，拆分段落至少包含一个语句。

可选地，组合单元还用于：获取动态采样窗口的大小和动态采样窗口的滑动步长，其中，动态采样窗口的大小决定拆分段落所包含的字数，或，动态采样窗口的大小决定拆分段落所包含的语句个数；根据动态采样窗口的大小和动态采样窗口的滑动步长对多个语句进行遍历采样，得到待查询文本的多个拆分段落。

可选地，函数处理模块还用于：在每个拆分段落中遍历提取连续的n个单字，并将每个连续的n个单字作为第一目标词，进而得到由多个第一目标词组成的第一目标词集；对第一目标词集中的每个第一目标词进行第一哈希函数处理，得到多个第一初始哈希值；基于算式h(x)＝(ax+b)mod c对多个第一初始哈希值进行第二哈希函数处理，得到多个第一目标哈希值，其中，h(x)表示第一目标哈希值，x表示第一初始哈希值，a，b，c表示预设随机正整数，且预设随机正整数为f组；在每组预设随机正整数确定的多个第一目标哈希值中确定一个特征值，进而得到f个特征值，其中，特征值为多个第一目标哈希值中的最小值；对f个特征值进行第一压缩处理，得到第一特征指纹，并将第一特征指纹作为拆分段落的特征指纹。

可选地，函数处理模块还用于：在每个拆分段落中遍历提取连续的m个单字，并将每个连续的m个单字作为第二目标词，进而得到由多个第二目标词组成的第二目标词集；对第二目标词集中的每个第二目标词进行第三哈希函数处理，得到多个第二初始哈希值，其中，第三哈希函数的输出位数为w位；将每个第二初始哈希值转换为w位的二进制数；获取每个第二目标词的TFIDF权重；将每个w位的二进制数的每一位的表示位与对应的第二目标词的TFIDF权重进行相乘，得到多个w位的计算数值，其中，若w位的二进制数中的任意一位为0，则其表示位为-1，若w位的二进制数中的任意一位为1，则其表示位为+1；将多个w位的计算数值中的对应位进行相加计算，得到目标计算数值；对目标计算数值进行第二压缩处理，得到第二特征指纹，并将第二特征指纹作为拆分段落的特征指纹。

可选地，分段匹配模块还用于：获取预设的特征指纹分段数量；按照数量对拆分段落的特征指纹进行分段处理，得到多个特征指纹片段。

本发明实施例所提供的装置，其实现原理及产生的技术效果和前述方法实施例相同，为简要描述，装置实施例部分未提及之处，可参考前述方法实施例中相应内容。

实施例三：

参见图6，本发明实施例还提供一种电子设备，包括：处理器50，存储器51，总线52和通信接口53，所述处理器50、通信接口53和存储器51通过总线52连接；处理器50用于执行存储器51中存储的可执行模块，例如计算机程序。

其中，存储器51可能包含高速随机存取存储器(RAM，Random Access Memory)，也可能还包括非不稳定的存储器(non-volatile memory)，例如至少一个磁盘存储器。通过至少一个通信接口53(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接，可以使用互联网，广域网，本地网，城域网等。

总线52可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图6中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

其中，存储器51用于存储程序，所述处理器50在接收到执行指令后，执行所述程序，前述本发明实施例任一实施例揭示的流过程定义的装置所执行的方法可以应用于处理器50中，或者由处理器50实现。

处理器50可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器50中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器50可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(Digital SignalProcessing，简称DSP)、专用集成电路(Application Specific Integrated Circuit，简称ASIC)、现成可编程门阵列(Field-Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器51，处理器50读取存储器51中的信息，结合其硬件完成上述方法的步骤。

本发明实施例所提供的一种文本信息的查重方法、装置及电子设备的计算机程序产品，包括存储了处理器可执行的非易失的程序代码的计算机可读存储介质，所述程序代码包括的指令可用于执行前面方法实施例中所述的方法，具体实现可参见方法实施例，在此不再赘述。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

另外，在本发明实施例的描述中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以具体情况理解上述术语在本发明中的具体含义。

在本发明的描述中，需要说明的是，术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。此外，术语“第一”、“第二”、“第三”仅用于描述目的，而不能理解为指示或暗示相对重要性。

在本申请所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

最后应说明的是：以上所述实施例，仅为本发明的具体实施方式，用以说明本发明的技术方案，而非对其限制，本发明的保护范围并不局限于此，尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。

Claims (7)

1.一种文本信息的查重方法，其特征在于，包括：

获取待查询文本；

对所述待查询文本进行段落拆分处理，得到所述待查询文本的多个拆分段落；

对每个所述拆分段落进行哈希函数处理，得到所述拆分段落的特征指纹，其中，所述特征指纹为包含所述待查询文本的特征的数组；

将所述拆分段落的特征指纹进行分段处理，得到多个特征指纹片段，并将每个所述特征指纹片段与其对应的特征指纹片段库中的预设特征指纹片段进行匹配，根据匹配结果确定查重结果，其中，所述查重结果至少包括：是否存在重复内容，所述重复内容的出处；

其中，对所述待查询文本进行段落拆分处理包括：

根据所述待查询文本中的分隔符号对所述待查询文本进行分句处理，得到多个语句，其中，所述分隔符号至少包括：句号，换行符，问号；

将所述多个语句进行组合，得到所述待查询文本的多个拆分段落，其中，所述拆分段落至少包含一个语句；

其中，将所述多个语句进行组合包括：

获取动态采样窗口的大小和动态采样窗口的滑动步长，其中，所述动态采样窗口的大小决定所述拆分段落所包含的字数，或，所述动态采样窗口的大小决定所述拆分段落所包含的语句个数；

根据所述动态采样窗口的大小和所述动态采样窗口的滑动步长对所述多个语句进行遍历采样，得到所述待查询文本的多个拆分段落。

2.根据权利要求1所述的方法，其特征在于，对每个所述拆分段落进行哈希函数处理包括：

在每个所述拆分段落中遍历提取连续的n个单字，并将每个所述连续的n个单字作为第一目标词，进而得到由多个第一目标词组成的第一目标词集；

对所述第一目标词集中的每个所述第一目标词进行第一哈希函数处理，得到多个第一初始哈希值；

基于算式h(x)＝(ax+b)mod c对多个所述第一初始哈希值进行第二哈希函数处理，得到多个第一目标哈希值，其中，h(x)表示所述第一目标哈希值，x表示所述第一初始哈希值，a，b，c表示预设随机正整数，且所述预设随机正整数为f组；

在每组所述预设随机正整数确定的所述多个第一目标哈希值中确定一个特征值，进而得到f个特征值，其中，所述特征值为所述多个第一目标哈希值中的最小值；

对所述f个特征值进行第一压缩处理，得到第一特征指纹，并将所述第一特征指纹作为所述拆分段落的特征指纹。

3.根据权利要求1所述的方法，其特征在于，对每个所述拆分段落进行哈希函数处理包括：

在每个所述拆分段落中遍历提取连续的m个单字，并将每个所述连续的m个单字作为第二目标词，进而得到由多个第二目标词组成的第二目标词集；

对所述第二目标词集中的每个所述第二目标词进行第三哈希函数处理，得到多个第二初始哈希值，其中，所述第三哈希函数的输出位数为w位；

将每个所述第二初始哈希值转换为w位的二进制数；

获取每个所述第二目标词的TFIDF权重；

将每个所述w位的二进制数的每一位的表示位与对应的第二目标词的TFIDF权重进行相乘，得到多个w位的计算数值，其中，若所述w位的二进制数中的任意一位为0，则其表示位为-1，若所述w位的二进制数中的任意一位为1，则其表示位为+1；

将所述多个w位的计算数值中的对应位进行相加计算，得到目标计算数值；

对所述目标计算数值进行第二压缩处理，得到第二特征指纹，并将所述第二特征指纹作为所述拆分段落的特征指纹。

4.根据权利要求1所述的方法，其特征在于，将所述拆分段落的特征指纹进行分段处理包括：

获取预设的特征指纹分段数量；

按照所述数量对所述拆分段落的特征指纹进行分段处理，得到多个特征指纹片段。

5.一种文本信息的查重装置，其特征在于，包括：

获取模块，用于获取待查询文本；

拆分模块，用于对所述待查询文本进行段落拆分处理，得到所述待查询文本的多个拆分段落；

函数处理模块，用于对每个所述拆分段落进行哈希函数处理，得到所述拆分段落的特征指纹，其中，所述特征指纹为包含所述待查询文本的特征的数组；

分段匹配模块，用于将所述拆分段落的特征指纹进行分段处理，得到多个特征指纹片段，并将每个所述特征指纹片段与其对应的特征指纹片段库中的预设特征指纹片段进行匹配，根据匹配结果确定查重结果，其中，所述查重结果至少包括：是否存在重复内容，所述重复内容的出处；

其中，所述拆分模块包括：

分句单元，用于根据所述待查询文本中的分隔符号对所述待查询文本进行分句处理，得到多个语句，其中，所述分隔符号至少包括：句号，换行符，问号；

组合单元，用于将所述多个语句进行组合，得到所述待查询文本的多个拆分段落，其中，所述拆分段落至少包含一个语句；

其中，组合单元还用于：

获取动态采样窗口的大小和动态采样窗口的滑动步长，其中，所述动态采样窗口的大小决定所述拆分段落所包含的字数，或，所述动态采样窗口的大小决定所述拆分段落所包含的语句个数；

根据所述动态采样窗口的大小和所述动态采样窗口的滑动步长对所述多个语句进行遍历采样，得到所述待查询文本的多个拆分段落。

6.一种电子设备，包括存储器、处理器，所述存储器上存储有可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现上述权利要求1至4中任一项所述的方法的步骤。

7.一种具有处理器可执行的非易失的程序代码的计算机可读介质，其特征在于，所述程序代码使所述处理器执行权利要求1至4中任一项所述的方法。

Images