CN113361249B - 文档判重方法、装置、电子设备和存储介质 - Google Patents
文档判重方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN113361249B CN113361249B CN202110747096.8A CN202110747096A CN113361249B CN 113361249 B CN113361249 B CN 113361249B CN 202110747096 A CN202110747096 A CN 202110747096A CN 113361249 B CN113361249 B CN 113361249B
- Authority
- CN
- China
- Prior art keywords
- document
- image
- feature vector
- unit
- text
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 50
- 239000013598 vector Substances 0.000 claims abstract description 64
- 238000004364 calculation method Methods 0.000 claims description 10
- 238000000605 extraction Methods 0.000 claims description 7
- 238000010276 construction Methods 0.000 claims description 6
- 238000009825 accumulation Methods 0.000 claims description 5
- 230000011218 segmentation Effects 0.000 claims description 5
- 238000006243 chemical reaction Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 abstract description 8
- 238000004458 analytical method Methods 0.000 abstract description 3
- 238000003058 natural language processing Methods 0.000 abstract description 2
- 238000004891 communication Methods 0.000 description 10
- 238000004590 computer program Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 238000004422 calculation algorithm Methods 0.000 description 6
- 230000002354 daily effect Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 230000003203 everyday effect Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/194—Calculation of difference between files
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
- G06F16/5846—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using extracted text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/216—Parsing using statistical methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Library & Information Science (AREA)
- Probability & Statistics with Applications (AREA)
- Databases & Information Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种文档判重方法，涉及自然语言处理和图像处理领域，尤其涉及语义分析领域。具体实现方案为：提取第一文档的文本特征和图像特征；根据第一文档的文本特征和图像特征，生成第一文档的特征向量；根据第一文档的特征向量，构建第一文档的索引；根据第一文档的索引，获取预先存储的至少一个第二文档；以及计算第一文档与各个第二文档之间的重复度。本公开还公开了一种文档判重装置、电子设备和存储介质。
Description
技术领域
本公开涉及自然语言处理和图像处理技术领域，尤其涉及语义分析技术。更具体地，本公开提供了一种文档判重方法、装置、电子设备和存储介质。
背景技术
互联网上的电子文档为用户获取知识提供了便捷，然而由于互联网的开放性与文档的可复制性，用户可以上传其他用户上传过的文档，造成文档重复。
因此，如何从海量的数据中确定重复文档成为待解决的问题。
发明内容
本公开提供了一种文档判重方法、装置、电子设备以及存储介质。
根据第一方面，提供了一种文档判重方法，该方法包括：提取第一文档的文本特征和图像特征；根据第一文档的文本特征和图像特征，生成第一文档的特征向量；根据第一文档的特征向量，构建第一文档的索引；根据第一文档的索引，获取预先存储的至少一个第二文档；以及计算第一文档与各个第二文档之间的重复度。
根据第二方面，提供了一种文档判重装置，该装置包括：提取模块，用于提取第一文档的文本特征和图像特征；生成模块，用于根据第一文档的文本特征和图像特征，生成第一文档的特征向量；构建模块，用于根据第一文档的特征向量，构建第一文档的索引；获取模块，用于根据第一文档的索引，获取预先存储的至少一个第二文档；以及计算模块，用于计算第一文档与各个第二文档之间的重复度。
根据第三方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行根据本公开提供的方法。
根据第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行根据本公开提供的方法。
根据第五方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据本公开提供的方法。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是根据本公开的一个实施例的可以应用文档判重方法和装置的示例性系统架构示意图；
图2是根据本公开的一个实施例的文档判重方法的流程图；
图3是根据本公开的另一个实施例的文档判重方法的流程图；
图4是根据本公开的一个实施例的文档判重方法的系统原理图；
图5是根据本公开的一个实施例的文档判重装置的框图；以及
图6是根据本公开的一个实施例的文档判重方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
文档类商城社区(例如，各种文库)包含WORD、PPT以及PDF等多种内容形式的文档。这种社区模式为用户获取知识提供了渠道，然而由于社区的开放性与文档的可复制性，且文档的版权很难界定，用户可以上传其他用户上传过的文档，造成文档重复，影响版权人的权益与社区用户体验。如何鉴别重复并从海量数据中判别出重复文档是社区中待解决的主要问题。
目前判别重复文档主要采用基于文本的判重方法和基于图像的判重方法。
基于文本的判重方法通过提取文档中可编辑的文本，将文本转化为向量，通过汉明距离衡量其重复程度。基于文本的判重方法应用范围比较有限，仅适用于能够提取出文本文字的文档，且对字数有一定要求，无法解决文字含量较少的文档，例如纯PPT图片模板与通用类型的PPT文本等。
基于图像的判重方法通过对文档进行截图将文档中的图像和文字转化为一张图像，将图像转化为图像向量，并通过汉明距离判定重复程度。基于图片的判重方法仅能对图片进行判别，对于采用相同模板但内容不同的文档很难进行判别。
本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
图1是根据本公开一个实施例的可以应用文档判重方法和装置的示例性系统架构示意图。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示，根据该实施例的系统架构100可以包括多个终端设备101、网络102和服务器103。网络102用以在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线和/或无线通信链路等等。
用户可以使用终端设备101通过网络102与服务器103进行交互，以接收或发送消息等。终端设备101可以是各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机等等。
本公开实施例所提供的文档判重方法一般可以由服务器103执行。相应地，本公开实施例所提供的文档判重装置一般可以设置于服务器103中。本公开实施例所提供的文档判重方法也可以由不同于服务器103且能够与终端设备101和/或服务器103通信的服务器或服务器集群执行。相应地，本公开实施例所提供的文档判重装置也可以设置于不同于服务器103且能够与终端设备101和/或服务器103通信的服务器或服务器集群中。
图2是根据本公开的一个实施例的文档判重方法的流程图。
如图2所示，该文档判重方法200可以包括操作S210～操作S250。
在操作S210，提取第一文档的文本特征和图像特征。
例如，第一文档可以是用户新上传的WORD、PPT或PDF等形式的文档，第一文档的内容可以包含文本和图像。可以提取文档中可编辑的文本，通过simhash等文本向量化算法将文本转化为文本特征。还可以对文档进行截图将文档中的图像和文字转化为一张图像，并通过phash等图像向量化算法将图像转化为图像特征。
在操作S220，根据第一文档的文本特征和图像特征，生成第一文档的特征向量。
例如，将第一文档的文本特征和图像特征进行拼接，拼接后得到的特征向量作为第一文档的特征向量。
例如，第一文档的文本特征和图像特征分别可以是64维的特征向量，则第一文档的特征向量是拼接后得到的128维的特征向量。该128维的特征向量包含图文特征，能够更全面准确地表征图文结合的文档。
在操作S230，根据第一文档的特征向量，构建第一文档的索引。
例如，第一文档的特征向量是128维的特征向量，可以将该128维的特征向量作为第一文档的索引，用于第一文档的入库和检索。
又例如，可以将该128维的特征向量切分为多份，每份作为第一文档的一个索引。如将该128维的特征向量均匀切分为16份，每份8维的特征向量作为一个索引，用于第一文档的入库和检索，可以减少检索的计算成本。
在操作S240，根据第一文档的索引，获取预先存储的至少一个第二文档。
例如，可以使用第一文档的索引对文档库进行检索，从文档库中初步召回与第一文档相似的至少一个第二文档。文档库中可以存储有用户上传的大量历史文档，且文档库中的历史文档可以是经过判重后确定的重复度小于预设阈值(例如50％)的文档。
在操作S250，计算第一文档与各个第二文档之间的重复度。
例如，可以计算第一文档的128维的特征向量与各个第二文档的128维的特征向量之间的汉明距离，来衡量第一文档与各个第二文档之间的重复度。
例如，可以根据阈值判定文档是否为重复文档。如果第一文档与第二文档之间的重复度大于阈值(例如50％)，则可以确定该第一文档是重复文档，可以将该文档下线。如果第一文档与第二文档之间的重复度不大于阈值(例如50％)，则可以确定该第一文档不是重复文档，可以将该文档存入文档库。
根据本公开的实施例，将第一文档的文本特征和图片特征进行结合，得到第一文档的特征向量，根据第一文档的特征向量构建索引，来获取相似的第二文本，并计算第一文档和第二文档之间的重复度，相比于单纯的基于文本或基于图像的进行判重的方法，能够提高判重准确率。
图3是根据本公开的另一个实施例的文档判重方法的流程图。
如图3所示，该文档判重方法可以包括操作S311～操作S314、操作S321～操作S322、以及操作S331～操作S335。其中操作S311～操作S314是提取第一文档的文本特征的步骤，操作S321～操作S322是提取第一文档的图像特征的步骤，操作S331～操作S335是对第一文档进行判重的步骤。操作S311～操作S314与操作S321～操作S322可以是并行执行的，但是本公开的实施例不限于此，这两组操作也可以按照其他顺序来执行，例如先执行操作S321～操作S322，再执行操作S311～操作S314，或者先执行操作S311～操作S314，再执行操作S321～操作S322。
在操作S311，将第一文档中的文本内容按照语义进行切分，得到多个语义词。
例如，第一文档是PPT文档，可以提取PPT文档中可编辑的文本，通过语义分析方法将文本进行切分，得到多个语义词。
在操作S312，以预设个数的语义词作为一个连接单元，将多个语义词进行连接，得到至少一个语义词单元。
例如，可以通过n-gram算法对语义词进行连接。例如n＝3，则以3个语义词为一个连接单元对多个语义词进行连接，得到至少一个语义词单元，每个语义词单元中包含3个语义词。
在操作S313，计算每个语义词单元的哈希值。
在操作S314，对至少一个语义词单元进行权重累加，得到文本特征。
例如，计算每个语义词单元的哈希值，并根据重要性为每个语义词单元赋予权重，例如使用TF-IDF(Term Frequency-Inverse Document Frequency，词频-逆文本频率指数)算法为每个语义词单元赋予权重。根据每个语义词单元的权重对至少一个语义词单元进行权重累加，得到一个哈希串(例如该哈希串为64位)作为第一文档的文本特征。
在操作S321，从第一文档中截取至少一张图像。
例如，第一文档是PPT文档，可以选取PPT文档中的一个或多个PPT图片作为代表图，来进行图像特征的计算。
例如，代表图可以包括PPT文档中的首页、尾页以及中间三张PPT图片。
在操作S322，将至少一张图像转化为图像向量，作为第一文档的图像特征。
例如，通过phash等图像向量化算法将图像转化为64维的图像特征。
在操作S331，结合文本特征和图像特征，生成第一文档的特征向量，并将第一文档的特征向量进行切分，得到多个索引。
例如，将64维的文本特征和64维的图像特征进行拼接，得到128维的特征向量。
例如，将该128维的特征向量均匀切分为16份，每份8维的特征向量作为一个索引，可以减少检索的计算成本。
在操作S332，使用索引进行检索得到至少一个第二文档，并计算第一文档与各个第二文档之间的重复度。
例如，使用索引从文档库中检索得到至少一个第二文档，并计算第一文档与各个第二文档之间的汉明距离。
在操作S333，判断重复度是否大于预设阈值(例如50％)，如果大于则执行操作S334。否则执行操作S335。
在操作S334，将第一文档下线。
在操作S335，将第一文档入库。
根据本公开的实施例，结合第一文档的文本特征和图片特征，得到第一文档的特征向量，将第一文档的特征向量切分为多个索引，能够提高检索的计算成本。
图4是根据本公开的一个实施例的文档判重方法的系统原理图。
如图4所示，该文档判重方法的系统包括增量文档库410和存量文档库420。增量文档库410用于存储预设时长内(例如每日)新上线的文档，存量文档库420用于存储重复度满足预设条件(例如小于阈值50％)的历史文档。增量文档库410中设置有分表1411、......、分表i412......、和分表n 413，存量文档库420中设置有分表1421、......、分表i422......、和分表n 423。增量文档库410和存量文档库420的数量可以是任意的，可以根据实际需要调整。
例如，新上线文档401可以是用户每日新上传的文档，新上线文档401可以存入到增量文档库410中。通过增量文档库410可以对新上线文档进行判重，保存重复度满足预设条件(例如小于阈值50％)的新上线文档，并删除复度不满足预设条件(例如小于阈值50％)的新上线文档，即删除下线文档402。预设时长内(例如每日)更新完成的增量文档库410可以存入存量文档库420中。例如，增量文档库410的分表1 411中的文档存入存量文档库420中的分表1 421，增量文档库410的分表i412中的文档存入存量文档库420中的分表i 422中，以此类推。存入到存量文档库420的文档后续可以直接作为电子资源供用户查询和使用。
通过增量文档库410对新上线文档进行判重的过程如下。
提取新上线的文档的文本特征和图片特征，根据文本特征和图片特征生成当前新上线文档的特征向量，将当前新上线文档的特征向量切分为多份，每份作为当前文档的一个索引，用于后续建库以及对文档进行检索。
为提高检索效率，可以根据文档的文本特征和/或图像特征，将文档存储至预设的多个分表之一。例如，增量文档库410共有16个分表，使用文档的64维的文本特征、64维的图像特征或者128维的特征向量中的之一对16取模，结果为1的文档保存在第一个分表中，结果为2的文档保存在第二个分表中，以此类推，可以将取模结果不同的文档保存在不同的分表中。这样在检索存量文档库420中与新上线文档相似的历史文档时，根据新上线文档所在的分表可以快速定位到历史文档所在的分表中，提高检索效率。
针对待判重的新上线文档，可以使用该文档的索引从定位到的历史文档所在的分表中筛选出与该文档相似的历史文档，计算该文档的特征向量与被筛选出的多个历史文档之间的汉明距离，以确定该文档与历史文档之间的重复度。在重复度满足预设条件(例如小于阈值50％)的情况下，保留该文档，在重复度不满足预设条件(例如小于阈值50％)的情况下，将该文档从增量文档库410中删除，即删除下线文档402。
针对存量文档库420中的历史文档，响应于用户的删除操作，也可以将历史文档从存量文档库420中删除。
根据本公开的实施例，通过每日更新增量文档库来存储重复度满足预设条件的新上线文档，并删除重复度不满足预设条件的新上线文档，将每日更新完成的增量文档库存入到存量文档库，可以实现对海量文档进行建库以及判重。
图5是根据本公开的一个实施例的文档判重装置的框图。
如图5所示，该文档判重装置500可以包括提取模块501、生成模块502、构建模块503、获取模块504以及计算模块505。
提取模块501用于提取第一文档的文本特征和图像特征。
生成模块502用于根据第一文档的文本特征和图像特征，生成第一文档的特征向量。
构建模块503用于根据第一文档的特征向量，构建第一文档的索引。
获取模块504用于根据第一文档的索引，获取预先存储的至少一个第二文档。
计算模块505用于计算第一文档与各个第二文档之间的重复度。
根据本公开的实施例，构建模块503用于将第一文档的特征向量按照预设切分单元进行切分，得到多个特征向量单元，作为第一文档的多个索引。
根据本公开的实施例，该文档判重装置500还包括存储模块。
存储模块用于根据第一文档的文本特征和/或图像特征，将第一文档存储至预设的多个分表之一。
根据本公开的实施例，计算模块505用于计算第一文档的特征向量与各个第二文档的特征向量之间的距离，作为第一文档与各个第二文档之间的重复度。
根据本公开的实施例，提取模块501包括获取单元、切分单元、连接单元、第一计算单元以及第二计算单元。
获取单元用于获取第一文档中的文本内容。
切分单元用于将文本内容按照语义进行切分，得到多个语义词。
连接单元用于以预设个数的语义词作为一个连接单元，将多个语义词进行连接，得到至少一个语义词单元。
第一计算单元用于计算每个语义词单元的哈希值。
第二计算单元用于对至少一个语义词单元进行权重累加，得到文本特征。
根据本公开的实施例，提取模块501包括截取单元和转化单元。
截取单元用于从第一文档中截取至少一张图像。
转化单元用于将至少一张图像转化为图像向量，作为第一文档的图像特征。
根据本公开的实施例，生成模块502包括拼接单元和生成单元。
拼接单元用于将第一文档的文本特征和图像特征进行拼接，得到第一文档的拼接特征。
生成单元用于根据第一文档的拼接特征，生成第一文档的特征向量。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示，设备600包括计算单元601，其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序，来执行各种适当的动作和处理。在RAM 603中，还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
设备600中的多个部件连接至I/O接口605，包括：输入单元606，例如键盘、鼠标等；输出单元607，例如各种类型的显示器、扬声器等；存储单元608，例如磁盘、光盘等；以及通信单元609，例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理，例如文档判重方法。例如，在一些实施例中，文档判重方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。在一些实施例中，计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由计算单元601执行时，可以执行上文描述的文档判重方法的一个或多个步骤。备选地，在其他实施例中，计算单元601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行文档判重方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。
Claims (10)
1.一种文档判重方法，包括：
提取第一文档的文本特征和图像特征；
根据第一文档的文本特征和图像特征，生成所述第一文档的特征向量；
根据所述第一文档的特征向量，构建所述第一文档的索引；
根据所述第一文档的索引，获取预先存储的至少一个第二文档；以及
计算所述第一文档与各个第二文档之间的重复度；
其中，所述根据所述第一文档的特征向量，构建所述第一文档的索引包括：将所述第一文档的特征向量按照预设切分单元进行切分，得到多个特征向量单元，作为所述第一文档的多个索引；
所述方法还包括：根据所述第一文档的文本特征和/或图像特征，将所述第一文档存储至预设的多个分表之一；
其中，所述提取第一文档的文本特征和图像特征包括：获取所述第一文档中的文本内容；将所述文本内容按照语义进行切分，得到多个语义词；以预设个数的语义词作为一个连接单元，将所述多个语义词进行连接，得到至少一个语义词单元；计算每个语义词单元的哈希值；以及对所述至少一个语义词单元进行权重累加，得到所述文本特征。
2.根据权利要求1所述的方法，其中，所述计算所述第一文档与各个第二文档之间的重复度包括：
计算所述第一文档的特征向量与各个第二文档的特征向量之间的距离，作为所述第一文档与各个第二文档之间的重复度。
3. 根据权利要求1所述的方法，其中，所述提取第一文档的文本特征和图像特征包括：
从所述第一文档中截取至少一张图像；以及
将所述至少一张图像转化为图像向量，作为所述第一文档的图像特征。
4. 根据权利要求1所述的方法，其中，根据第一文档的文本特征和图像特征，生成所述第一文档的特征向量包括：
将所述第一文档的文本特征和图像特征进行拼接，得到所述第一文档的拼接特征；以及
根据所述第一文档的拼接特征，生成所述第一文档的特征向量。
5.一种文档判重装置，包括：
提取模块，用于提取第一文档的文本特征和图像特征；
生成模块，用于根据第一文档的文本特征和图像特征，生成所述第一文档的特征向量；
构建模块，用于根据所述第一文档的特征向量，构建所述第一文档的索引；
获取模块，用于根据所述第一文档的索引，获取预先存储的至少一个第二文档；以及
计算模块，用于计算所述第一文档与各个第二文档之间的重复度；
其中，所述构建模块用于将所述第一文档的特征向量按照预设切分单元进行切分，得到多个特征向量单元，作为所述第一文档的多个索引；
所述装置还包括：存储模块，用于根据所述第一文档的文本特征和/或图像特征，将所述第一文档存储至预设的多个分表之一；
其中，所述提取模块包括：获取单元，用于获取所述第一文档中的文本内容；切分单元，用于将所述文本内容按照语义进行切分，得到多个语义词；连接单元，用于以预设个数的语义词作为一个连接单元，将所述多个语义词进行连接，得到至少一个语义词单元；第一计算单元，用于计算每个语义词单元的哈希值；以及第二计算单元，用于对所述至少一个语义词单元进行权重累加，得到所述文本特征。
6.根据权利要求5所述的装置，其中，所述计算模块，用于计算所述第一文档的特征向量与各个第二文档的特征向量之间的距离，作为所述第一文档与各个第二文档之间的重复度。
7. 根据权利要求5所述的装置，其中，所述提取模块包括：
截取单元，用于从所述第一文档中截取至少一张图像；以及
转化单元，用于将所述至少一张图像转化为图像向量，作为所述第一文档的图像特征。
8. 根据权利要求5所述的装置，其中，所述生成模块包括：
拼接单元，用于将所述第一文档的文本特征和图像特征进行拼接，得到所述第一文档的拼接特征；以及
生成单元，用于根据所述第一文档的拼接特征，生成所述第一文档的特征向量。
9. 一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1至4中任一项所述的方法。
10.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1至4中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110747096.8A CN113361249B (zh) | 2021-06-30 | 2021-06-30 | 文档判重方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110747096.8A CN113361249B (zh) | 2021-06-30 | 2021-06-30 | 文档判重方法、装置、电子设备和存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113361249A CN113361249A (zh) | 2021-09-07 |
| CN113361249B true CN113361249B (zh) | 2023-11-17 |
Family
ID=77537827
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110747096.8A Active CN113361249B (zh) | 2021-06-30 | 2021-06-30 | 文档判重方法、装置、电子设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113361249B (zh) |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1916905A (zh) * | 2006-09-04 | 2007-02-21 | 北京航空航天大学 | 基于倒排表进行检索提示的方法 |
| CN106339495A (zh) * | 2016-08-31 | 2017-01-18 | 广州智索信息科技有限公司 | 一种基于层次增量聚类的话题检测方法及系统 |
| CN108287851A (zh) * | 2017-01-10 | 2018-07-17 | 长沙云昊信息科技有限公司 | 基于Simhash技术的文档反作弊方案 |
| CN109376288A (zh) * | 2018-09-28 | 2019-02-22 | 北京北斗方圆电子科技有限公司 | 一种实现语义搜索的云计算平台及其均衡方法 |
| CN110046264A (zh) * | 2019-04-02 | 2019-07-23 | 云南大学 | 一种面向手机文档的自动分类方法 |
| CN110298338A (zh) * | 2019-06-20 | 2019-10-01 | 北京易道博识科技有限公司 | 一种文档图像分类方法及装置 |
| CN111753060A (zh) * | 2020-07-29 | 2020-10-09 | 腾讯科技（深圳）有限公司 | 信息检索方法、装置、设备及计算机可读存储介质 |
| CN111832403A (zh) * | 2020-06-04 | 2020-10-27 | 北京百度网讯科技有限公司 | 文档结构识别方法、文档结构识别的模型训练方法和装置 |
| CN112004111A (zh) * | 2020-09-01 | 2020-11-27 | 南京烽火星空通信发展有限公司 | 一种全域深度学习的新闻视频信息抽提方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110569846A (zh) * | 2019-09-16 | 2019-12-13 | 北京百度网讯科技有限公司 | 图像文字识别方法、装置、设备及存储介质 |
-
2021
- 2021-06-30 CN CN202110747096.8A patent/CN113361249B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1916905A (zh) * | 2006-09-04 | 2007-02-21 | 北京航空航天大学 | 基于倒排表进行检索提示的方法 |
| CN106339495A (zh) * | 2016-08-31 | 2017-01-18 | 广州智索信息科技有限公司 | 一种基于层次增量聚类的话题检测方法及系统 |
| CN108287851A (zh) * | 2017-01-10 | 2018-07-17 | 长沙云昊信息科技有限公司 | 基于Simhash技术的文档反作弊方案 |
| CN109376288A (zh) * | 2018-09-28 | 2019-02-22 | 北京北斗方圆电子科技有限公司 | 一种实现语义搜索的云计算平台及其均衡方法 |
| CN110046264A (zh) * | 2019-04-02 | 2019-07-23 | 云南大学 | 一种面向手机文档的自动分类方法 |
| CN110298338A (zh) * | 2019-06-20 | 2019-10-01 | 北京易道博识科技有限公司 | 一种文档图像分类方法及装置 |
| CN111832403A (zh) * | 2020-06-04 | 2020-10-27 | 北京百度网讯科技有限公司 | 文档结构识别方法、文档结构识别的模型训练方法和装置 |
| CN111753060A (zh) * | 2020-07-29 | 2020-10-09 | 腾讯科技（深圳）有限公司 | 信息检索方法、装置、设备及计算机可读存储介质 |
| CN112004111A (zh) * | 2020-09-01 | 2020-11-27 | 南京烽火星空通信发展有限公司 | 一种全域深度学习的新闻视频信息抽提方法 |
Non-Patent Citations (1)
| Title |
|---|
| 结合Doc2Vec与改进聚类算法的中文单文档自动摘要方法研究;贾晓婷;王名扬;曹宇;;数据分析与知识发现(第02期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113361249A (zh) | 2021-09-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11062089B2 (en) | Method and apparatus for generating information | |
| CN107766492B (zh) | 一种图像搜索的方法和装置 | |
| CN114861889B (zh) | 深度学习模型的训练方法、目标对象检测方法和装置 | |
| KR20210091076A (ko) | 비디오를 처리하기 위한 방법, 장치, 전자기기, 매체 및 컴퓨터 프로그램 | |
| CN116028618B (zh) | 文本处理、文本检索方法、装置、电子设备及存储介质 | |
| CN114693934A (zh) | 语义分割模型的训练方法、视频语义分割方法及装置 | |
| CN113468857B (zh) | 风格转换模型的训练方法、装置、电子设备以及存储介质 | |
| CN114037059A (zh) | 预训练模型、模型的生成方法、数据处理方法及装置 | |
| CN112906368A (zh) | 行业文本增量方法、相关装置及计算机程序产品 | |
| CN116955856A (zh) | 信息展示方法、装置、电子设备以及存储介质 | |
| CN113361249B (zh) | 文档判重方法、装置、电子设备和存储介质 | |
| CN116155541A (zh) | 面向网络安全应用的自动化机器学习平台以及方法 | |
| CN115687717A (zh) | Grok表达式获取方法、装置、设备及计算机可读存储介质 | |
| CN113722593B (zh) | 事件数据处理方法、装置、电子设备和介质 | |
| CN113360672B (zh) | 用于生成知识图谱的方法、装置、设备、介质和产品 | |
| CN113869042A (zh) | 文本标题生成方法、装置、电子设备以及存储介质 | |
| CN109857838B (zh) | 用于生成信息的方法和装置 | |
| CN114218431A (zh) | 视频搜索方法、装置、电子设备以及存储介质 | |
| CN112541346A (zh) | 摘要生成方法、装置、电子设备及可读存储介质 | |
| CN113254826B (zh) | 转储文件的处理方法及装置 | |
| CN113377922B (zh) | 用于匹配信息的方法、装置、电子设备以及介质 | |
| CN116824609B (zh) | 文档版式检测方法、装置和电子设备 | |
| CN113822057B (zh) | 地点信息确定方法、装置、电子设备以及存储介质 | |
| CN115982358B (zh) | 文档拆分方法、装置、终端设备和计算机可读存储介质 | |
| CN113377921B (zh) | 用于匹配信息的方法、装置、电子设备以及介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |