CN112579534A - 文件筛选方法及装置 - Google Patents

文件筛选方法及装置 Download PDF

Info

Publication number
CN112579534A
CN112579534A CN201910924832.5A CN201910924832A CN112579534A CN 112579534 A CN112579534 A CN 112579534A CN 201910924832 A CN201910924832 A CN 201910924832A CN 112579534 A CN112579534 A CN 112579534A
Authority
CN
China
Prior art keywords
file
files
similarity
screened
determining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910924832.5A
Other languages
English (en)
Other versions
CN112579534B (zh
Inventor
吕孟亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Gridsum Technology Co Ltd
Original Assignee
Beijing Gridsum Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Gridsum Technology Co Ltd filed Critical Beijing Gridsum Technology Co Ltd
Priority to CN201910924832.5A priority Critical patent/CN112579534B/zh
Publication of CN112579534A publication Critical patent/CN112579534A/zh
Application granted granted Critical
Publication of CN112579534B publication Critical patent/CN112579534B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/14Details of searching files based on file metadata
    • G06F16/148File search processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/14Details of searching files based on file metadata
    • G06F16/156Query results presentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/16File or folder operations, e.g. details of user interfaces specifically adapted to file systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Library & Information Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Human Computer Interaction (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Collating Specific Patterns (AREA)

Abstract

本发明公开了一种文件筛选方法及装置,可以获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段;根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件;根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。由于本发明首先从待筛选文件中筛选出N个待筛选文件,然后再根据指纹辅助字段从N个待筛选文件中确定出与第一文件相似的目标文件,因此本发明有效减少了获得文件相似度的计算量,可以高效的对文件进行筛选。

Description

文件筛选方法及装置
技术领域
本发明涉及文件处理技术领域,尤其涉及文件筛选方法及装置。
背景技术
出于某种需求,企业常需要从大量的文件中筛选出和某一文件相似甚至相同的文件。
现有的文件筛选技术将该某一文件与所有的待筛选文件分别进行对比,计算量很大,非常耗时。
可见,现有的文件筛选技术无法高效的对文件进行筛选。
发明内容
鉴于上述问题,本发明提供一种克服上述问题或者至少部分地解决上述问题的文件筛选方法及装置,技术方案如下:
一种文件筛选方法,包括:
获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段,其中,所述指纹辅助字段根据文件指纹获得;
根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件,所述N个待筛选文件中至少包括所述多个待筛选文件中与所述第一文件的文件相似度最大的文件,所述N为自然数;
根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;
根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。
可选的,所述根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件,包括:
在计算到的各所述文件相似度中的最小值不大于第一预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述方法还包括:
在计算到的各所述文件相似度中的最小值大于第一预设相似度时,增大所述N,并返回执行所述根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件的步骤。
可选的,所述根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件,包括:
在计算到的各所述文件相似度中的最大值不小于第二预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述方法还包括:
在计算到的各所述文件相似度中的最大值小于第二预设相似度时,确定所述N个待筛选文件中不存在与所述第一文件相似的目标文件。
可选的,所述根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件,包括:
在计算到的各所述文件相似度中的最小值不大于第一预设相似度且各所述文件相似度中的最大值不小于第二预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述方法还包括:
在计算到的各所述文件相似度中的最小值大于第一预设相似度时,增大所述N,并返回执行所述根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件的步骤;
在计算到的各所述文件相似度中的最大值小于第二预设相似度时,确定所述N个待筛选文件中不存在与所述第一文件相似的目标文件;
其中,所述第二预设相似度不小于所述第一预设相似度。
可选的,所述方法还包括:
根据所述文件相似度和至少部分所述目标文件之间的文件相似度,确定文件组中文件的关系,所述文件组包括所述第一文件和所述目标文件;
和/或,所述方法还包括:
根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相同的文件,根据与所述第一文件相同的文件的文件信息确定所述第一文件的文件流转信息;
和/或,所述指纹辅助字段为十六进制的所述文件指纹转换为二进制后的二进制字段,所述根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度,包括:
根据所述N个待筛选文件中各待筛选文件的指纹辅助字段分别与所述第一文件的指纹辅助字段的位差,计算所述N个待筛选文件分别与所述第一文件的文件相似度。
可选的,在所述方法还包括根据所述文件相似度和至少部分所述目标文件之间的文件相似度,确定文件组中文件的关系,所述文件组包括所述第一文件和所述目标文件时,所述根据所述文件相似度和至少部分所述目标文件之间的文件相似度,确定文件组中文件的关系,包括:
将与所述第一文件的文件相似度不低于第二预设相似度的目标文件确定为:与所述第一文件具有预设关系的第一类文件;
对除所述第一类文件外的其他目标文件,确定所述其他目标文件与各所述第一类文件的文件相似度;
当第三文件与第二文件的文件相似度不低于所述第二预设相似度时,确定所述第三文件为与所述第二文件具有所述预设关系的第二类文件,其中,所述第三文件为所述其他目标文件中的一个文件,所述第二文件为所述第一类文件中的一个文件。
可选的,还包括:
对具有所述预设关系的文件的文件图标进行连接,获得文件关系图谱。
一种文件筛选装置,包括:指纹辅助字段获得单元、文件初步筛选单元、相似度计算单元和目标文件确定单元,
所述指纹辅助字段获得单元,用于获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段,其中,所述指纹辅助字段根据文件指纹获得;
所述文件初步筛选单元,用于根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件,所述N个待筛选文件中至少包括所述多个待筛选文件中与所述第一文件的文件相似度最大的文件,所述N为自然数;
所述相似度计算单元,用于根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;
所述目标文件确定单元,用于根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。
可选的,所述目标文件确定单元具体用于:在计算到的各所述文件相似度中的最小值不大于第一预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述装置还包括:初筛增大单元,用于在计算到的各所述文件相似度中的最小值大于第一预设相似度时,增大所述N,并再次触发所述文件初步筛选单元。
可选的,所述目标文件确定单元具体用于:在计算到的各所述文件相似度中的最大值不小于第二预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述装置还包括:结果确定单元,用于在计算到的各所述文件相似度中的最大值小于第二预设相似度时,确定所述N个待筛选文件中不存在与所述第一文件相似的目标文件。
可选的,所述目标文件确定单元具体用于:在计算到的各所述文件相似度中的最小值不大于第一预设相似度且各所述文件相似度中的最大值不小于第二预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述装置还包括:初筛增大单元和结果确定单元,
所述初筛增大单元,用于在计算到的各所述文件相似度中的最小值大于第一预设相似度时,增大所述N,并再次触发所述文件初步筛选单元;
所述结果确定单元,用于在计算到的各所述文件相似度中的最大值小于第二预设相似度时,确定所述N个待筛选文件中不存在与所述第一文件相似的目标文件;
其中,所述第二预设相似度不小于所述第一预设相似度。
可选的,所述装置还包括:文件关系确定单元,用于根据所述文件相似度和至少部分所述目标文件之间的文件相似度,确定文件组中文件的关系,所述文件组包括所述第一文件和所述目标文件;
和/或,所述装置还包括:流转确定单元,用于根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相同的文件,根据与所述第一文件相同的文件的文件信息确定所述第一文件的文件流转信息;
和/或,所述指纹辅助字段为十六进制的所述文件指纹转换为二进制后的二进制字段,所述相似度计算单元具体用于:
根据所述N个待筛选文件中各待筛选文件的指纹辅助字段分别与所述第一文件的指纹辅助字段的位差,计算所述N个待筛选文件分别与所述第一文件的文件相似度。
可选的,在所述装置还包括:文件关系确定单元时,所述文件关系确定单元包括:第一类文件确定子单元、相似度确定子单元和第二类文件确定子单元,
所述第一类文件确定子单元,用于将与所述第一文件的文件相似度不低于第二预设相似度的目标文件确定为:与所述第一文件具有预设关系的第一类文件;
所述相似度确定子单元,用于对除所述第一类文件外的其他目标文件,确定所述其他目标文件与各所述第一类文件的文件相似度;
所述第二类文件确定子单元,用于当第三文件与第二文件的文件相似度不低于所述第二预设相似度时,确定所述第三文件为与所述第二文件具有所述预设关系的第二类文件,其中,所述第三文件为所述其他目标文件中的一个文件,所述第二文件为所述第一类文件中的一个文件。
可选的,所述装置还包括:图谱获得单元,用于对具有所述预设关系的文件的文件图标进行连接,获得文件关系图谱。
一种存储介质,其上存储有程序,该程序被处理器执行时实现上述的任一种文件筛选方法。
一种设备,设备包括至少一个处理器、以及与处理器连接的至少一个存储器、总线;其中,所述处理器、所述存储器通过所述总线完成相互间的通信;所述处理器用于调用所述存储器中的程序指令,以执行上述的任一种文件筛选方法。
借由上述技术方案,本发明提供的一种文件筛选方法及装置,可以获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段;根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件;根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。由于本发明首先从待筛选文件中筛选出N个待筛选文件,然后再根据指纹辅助字段从N个待筛选文件中确定出与第一文件相似的目标文件,因此本发明有效减少了获得文件相似度的计算量,可以高效的对文件进行筛选。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了本发明实施例提供的一种文件筛选方法的流程图;
图2示出了本发明实施例提供的另一种文件筛选方法的流程图;
图3示出了本发明实施例提供的另一种文件筛选方法的流程图;
图4示出了本发明实施例提供的另一种文件筛选方法的流程图;
图5示出了本发明实施例提供的另一种文件筛选方法的流程图;
图6示出了本发明实施例提供的文件关系图谱的示意图;
图7示出了本发明实施例提供的另一种文件筛选方法的流程图;
图8示出了本发明实施例提供的文件流转路径的示意图;
图9示出了本发明实施例提供的一种文件筛选装置的结构示意图;
图10示出了本发明实施例提供的一种设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
如图1所示,本发明实施例提供的一种文件筛选方法,可以包括:
S100、获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段,其中,所述指纹辅助字段根据文件指纹获得。
其中,待筛选文件和第一文件的文件类型可以有多种,如文档、图片、音频、视频等,本发明在此不做限定。
在一可选实施例中,第一文件可以为机密文件,如企业的机密文件。待筛选文件可以为一个或多个电子设备中的文件。本发明可以在一个或多个电子设备的文件中筛选和机密文件相似的文件,从而确定待筛选文件是否为机密文件。可选的,本发明可以获得各待筛选文件的文件标识与待筛选文件所在的电子设备的互联网协议(IP,Internet Protocol)地址的对应关系。这样,在筛选得到和机密文件相似的文件后,本发明就可以根据该对应关系确定机密文件在哪些IP地址的电子设备上泄漏了。
本发明可以首先获得文件指纹,然后将文件指纹转换为指纹辅助字段。本发明可以通过多种不同的方式获得文件指纹,例如通过哈希算法来获得文件的文件指纹,再如:根据MD5信息摘要算法(MD5 Message-Digest Algorithm)获得文件的文件指纹。当然,本发明还可以将哈希算法和MD5信息摘要算法结合起来,即:使用哈希算法和MD5信息摘要算法获得文件的文件指纹,这样,文件指纹中可以包括:哈希算法的计算结果以及MD5信息摘要算法的计算结果。需要说明的是,本发明可以对上述哈希算法和MD5信息摘要算法进行改进,并使用改进后的算法获得文件指纹。本发明获得文件指纹的方式并不限于上述的几种。
具体的,每一个文件都可以获得一个文件指纹。文件指纹与文件中的内容相关。文件指纹可以为16进制的字符,可选的,文件指纹可以为16位或19位的16进制的字符。
其中,指纹辅助字段可以根据文件指纹得到,具体的,指纹辅助字段可以由文件指纹进行进制转换后得到,指纹辅助字段和文件指纹的进制可以不同。具体的,指纹辅助字段可以为八进制、十进制或十六进制的字符。可选的,指纹辅助字段可以为16位、32位、64位或128位的字符。当文件指纹为19位的十六进制的字符时,本发明可以将其中的3位字符(如前3位)去除,获得16位的十六进制的字符,然后将其转换为64位的二进制的字符。
S200、根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件,所述N个待筛选文件中至少包括所述多个待筛选文件中与所述第一文件的文件相似度最大的文件,所述N为自然数。
具体的,在一可选实施例中,步骤S200可以具体包括:
获得数据库根据与指纹辅助字段确定的各待筛选文件分别与所述第一文件的初步相似度;
从多个待筛选文件中筛选出所述初步相似度最高的N个待筛选文件,所述N个待筛选文件中至少包括所述多个待筛选文件中与所述第一文件的文件相似度最大的文件。
其中,上述数据库可以为Elastic Search。在一可选实施例中,文件指纹和指纹辅助字段对应保存在数据库中。Elastic Search可以确定指纹辅助字段的位差,根据位差确定文件的初步相似度。由于Elastic Search为分布式数据库,因此受到分片因素的影响,Elastic Search确定的相似度的准确度不是很高,但是其确定的相似度排序的趋势在整体上是准确度比较高的。因此,本发明筛选的初步相似度最高的N个待筛选文件会包括与所述第一文件的文件相似度最大的文件。
本发明可以利用数据库从大量的待筛选文件中筛选出部分初步相似度较高的文件并进行后续处理,有效的减少了从数据库中提取数据的数量以及进行相似度计算的数量。
其中,N的取值可以进行设定和修改。
S300、根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度。
其中,所述指纹辅助字段为十六进制的所述文件指纹转换为二进制后的二进制字段,步骤S300可以具体包括:
根据所述N个待筛选文件中各待筛选文件的指纹辅助字段分别与所述第一文件的指纹辅助字段的位差,计算所述N个待筛选文件分别与所述第一文件的文件相似度。
具体的,本发明可以通过公式
文件相似度=位差/指纹辅助字段总位数
来根据位差获得文件相似度。
下面举例说明指纹辅助字段的位差:
假设第一文件的第一指纹辅助字段和第二文件的第二指纹辅助字段均为64位的二进制的字符,且第一指纹辅助字段为:0101010101010101010101010101010101010101010101010101010101010101。第二指纹辅助字段为:1101010101010101010101010101010101010101010101010101010101010101。则可知第一指纹辅助字段和第二指纹辅助字段中只有第1位的二进制的字符不同,其他均相同,则可知位差为1。
基于上述举例,对根据位差计算文件相似度的方式进行举例说明:
当位差为1时,则第一文件和第二文件的文件相似度为:
1/64=0.984375。
当然,文件相似度可以通过百分比等不同的表示方式来表示,本发明不做限定。
S400、根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。
具体的,步骤S400可以将文件相似度高于预设阈值的待筛选文件确定为与第一文件类似的目标文件。
可以理解的是,当某待筛选文件与第一文件的文件相似度为1时,可以确定该待筛选文件与第一文件相同。
本发明实施例提供的一种文件筛选方法,可以获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段;根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件;根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。由于本发明首先从待筛选文件中筛选出N个待筛选文件,然后再根据指纹辅助字段从N个待筛选文件中确定出与第一文件相似的目标文件,因此本发明有效减少了获得文件相似度的计算量,可以高效的对文件进行筛选。
如图2所示,本发明实施例提供的另一种文件筛选方法,可以包括:
S100、获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段,其中,所述指纹辅助字段根据文件指纹获得;
S200、根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件,所述N个待筛选文件中至少包括所述多个待筛选文件中与所述第一文件的文件相似度最大的文件,所述N为自然数;
S300、根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;
其中,步骤S100至步骤S300已在图1所示实施例说明,不再赘述。
S410、在计算到的各所述文件相似度中的最小值不大于第一预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。
当各所述文件相似度中的最小值不大于第一预设相似度,则说明N个待筛选文件中存在与第一文件相似度相对较低的文件,这种情况下,步骤S200筛选的N个待筛选文件的数量已经足够,无需再筛选更多的文件。
其中,步骤S410为图1所示实施例中步骤S400的一种可选具体实施方式。
S510、在计算到的各所述文件相似度中的最小值大于第一预设相似度时,增大所述N,并返回执行步骤S200。
当各所述文件相似度中的最小值大于第一预设相似度,则说明N个待筛选文件中所有文件与第一文件相似度均相对较高的文件,这种情况可能是由于N太小导致的,即:可能将部分与第一文件相似度均相对较高的文件漏掉了,因此可以增大N,再次执行步骤S200以筛选更多的待筛选文件。
如图3所示,本发明实施例提供的另一种文件筛选方法,可以包括:
S100、获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段,其中,所述指纹辅助字段根据文件指纹获得;
S200、根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件,所述N个待筛选文件中至少包括所述多个待筛选文件中与所述第一文件的文件相似度最大的文件,所述N为自然数;
S300、根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;
其中,步骤S100至步骤S300已在图1所示实施例说明,不再赘述。
S420、在计算到的各所述文件相似度中的最大值不小于第二预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。
当计算到的各文件相似度中的最大值不小于第二预设相似度时,说明筛选出的N个待筛选文件中存在与第一文件比较相似的目标文件,可以从中确定出目标文件。
其中,步骤S420为图1所示实施例中步骤S400的一种可选具体实施方式。
S520、在计算到的各所述文件相似度中的最大值小于第二预设相似度时,确定所述N个待筛选文件中不存在与所述第一文件相似的目标文件。
当计算到的各文件相似度中的最大值小于第二预设相似度时,说明筛选出的N个待筛选文件中不存在与第一文件相似的目标文件。当然,步骤S520还可以进一步确定所有待筛选文件中不存在与第一文件相似的目标文件。
如图4所示,本发明实施例提供的另一种文件筛选方法,可以包括:
S100、获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段,其中,所述指纹辅助字段根据文件指纹获得;
S200、根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件,所述N个待筛选文件中至少包括所述多个待筛选文件中与所述第一文件的文件相似度最大的文件,所述N为自然数;
S300、根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;
其中,步骤S100至步骤S300已在图1所示实施例说明,不再赘述。
S430、在计算到的各所述文件相似度中的最小值不大于第一预设相似度且各所述文件相似度中的最大值不小于第二预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。
其中,步骤S430为图1所示实施例中步骤S400的一种可选具体实施方式。
S510、在计算到的各所述文件相似度中的最小值大于第一预设相似度时,增大所述N,并返回执行步骤S200。
S520、在计算到的各所述文件相似度中的最大值小于第二预设相似度时,确定所述N个待筛选文件中不存在与所述第一文件相似的目标文件。
其中,所述第二预设相似度不小于所述第一预设相似度。
可选的,所述第二预设相似度和第一预设相似度可以相同,如可以均为0.9。
如图5所示,本发明实施例提供的另一种文件筛选方法,可以包括:
S100、获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段,其中,所述指纹辅助字段根据文件指纹获得;
S200、根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件,所述N个待筛选文件中至少包括所述多个待筛选文件中与所述第一文件的文件相似度最大的文件,所述N为自然数;
S300、根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;
S400、根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。
其中,步骤S100至步骤S400已在图1所示实施例说明,不再赘述。
S500、根据所述文件相似度和至少部分所述目标文件之间的文件相似度,确定文件组中文件的关系,所述文件组包括所述第一文件和所述目标文件。
其中,文件的关系可以包括:不相似、相似、高度相似、相同等。
本发明可以根据文件相似度的数值来确定两个文件的关系,例如:两个文件的文件相似度低于0.8时,将这两个文件的关系确定为不相似;当这两个文件的文件相似度介于0.8和0.9之间时,将这两个文件的关系确定为相似;当这两个文件的文件相似度介于0.9和1之间(不为1)时,将这两个文件的关系确定为高度相似;当这两个文件的文件相似度为1时,将这两个文件的关系确定为相同。
当然,在其他实施例中,文件的关系还可以包括其他种类,上述不相似、相似、高度相似、相同的关系的确定方式还可以为其他方式,本发明在此不做限定。
其中,步骤S500可以具体包括:
将与所述第一文件的文件相似度不低于第二预设相似度的目标文件确定为:与所述第一文件具有预设关系的第一类文件;
对除所述第一类文件外的其他目标文件,确定所述其他目标文件与各所述第一类文件的文件相似度;
当第三文件与第二文件的文件相似度不低于所述第二预设相似度时,确定所述第三文件为与所述第二文件具有所述预设关系的第二类文件,其中,所述第三文件为所述其他目标文件中的一个文件,所述第二文件为所述第一类文件中的一个文件。
其中,预设关系可以为高度相似或相同。
除确定第一文件与目标文件的文件相似度外,本实施例还可以确定目标文件之间的文件相似度。这样,根据确定的文件相似度,本实施例可以将文件相似度较高的文件筛选出来,并确定这些文件之间的关系。
为方便理解,下面举例说明:
设第一文件为文件A,目标文件包括:文件B、文件C、文件D、文件E、文件F、文件G和文件H。
其中,文件B与文件A的相似度为0.95,文件C与文件A的相似度为0.97,文件D与文件A的相似度为0.85,文件E与文件A的相似度为0.87,文件F与文件A的相似度为0.83,文件G与文件A的相似度为0.88,文件H与文件A的相似度为0.92。设第二预设相似度为0.9,预设关系为高度相似,则可以确定文件B、文件C和文件H为与文件A高度相似的第一类文件。则对于其他目标文件(文件D、文件E、文件F和文件G),本发明可以确定其和第一类文件中各文件的文件相似度。
设文件D与文件B的相似度为0.95,文件E与文件B的相似度为0.98,文件F与文件B的相似度为0.65,文件G和文件B的相似度为0.73。
设文件D与文件C的相似度为0.85,文件E与文件C的相似度为0.88,文件F与文件C的相似度为0.75,文件G和文件C的相似度为0.93。
设文件D与文件H的相似度为0.85,文件E与文件H的相似度为0.88,文件F与文件H的相似度为0.95,文件G和文件H的相似度为0.73。
则可以确定文件D和文件E为与文件B高度相似的第二类文件,可以确定文件F为与文件H高度相似的第二类文件,可以确定文件G为与文件C高度相似的第二类文件。
在本发明其他实施例中,还可以对具有所述预设关系的文件的文件图标进行连接,获得文件关系图谱。
以上述文件A至文件H的举例而言,可以将高度相似的两个文件的文件图标连接后,可以获得如图6所示的文件关系图谱。
其中,第一类文件可以作为文件关系图谱的内层文件,第二类文件可以作为文件关系图谱的外层文件。
本发明通过图5所示实施例可以进一步确定文件的关系,可以为用户进行文件处理(如追查)提供更多的信息。
如图7所示,本发明实施例提供的另一种文件筛选方法,可以包括:
S100、获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段,其中,所述指纹辅助字段根据文件指纹获得;
S200、根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件,所述N个待筛选文件中至少包括所述多个待筛选文件中与所述第一文件的文件相似度最大的文件,所述N为自然数;
S300、根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;
S400、根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。
其中,步骤S100至步骤S400已在图1所示实施例说明,不再赘述。
S600、根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相同的文件,根据与所述第一文件相同的文件的文件信息确定所述第一文件的文件流转信息。
本实施例可以将文件相似度高于第三预设相似度的两个文件确定为相同的文件,第三预设相似度可以为0.95等数值。
当然,其他实施例可以将文件相似度为1的两个文件确定为相同的文件。
其中,文件信息可以包括:文件建立时间、文件所在的设备的IP地址、文件、文件所在的设备的用户的标识等信息中的至少一个。其中,用户的标识可以包括:用户的姓名、用户所属部门、用户所属公司等标识中的至少一个。
本实施例可以根据文件建立时间确定第一文件的文件流转信息,该文件流转信息可以为文件流转路径。假设文件A、文件B、文件C为相同的文件,第一文件为文件A。文件A的文件信息包括:文件建立时间为2019年01月01日00点00分01秒,文件所在的设备的IP地址为第一IP地址。文件B的文件信息包括:文件建立时间为2019年01月01日00点01分01秒,文件所在的设备的IP地址为第二IP地址。文件C的文件信息包括:文件建立时间为2019年01月01日00点03分01秒,文件所在的设备的IP地址为第三IP地址。则本发明可以确定如图8所示的文件流转路径。
与上述方法实施例相对应,本发明还提供了一种文件筛选装置。
如图9所示,本发明实施例提供的一种文件筛选装置,可以包括:指纹辅助字段获得单元100、文件初步筛选单元200、相似度计算单元300和目标文件确定单元400,
所述指纹辅助字段获得单元100,用于获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段,其中,所述指纹辅助字段根据文件指纹获得;
所述文件初步筛选单元200,用于根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件,所述N个待筛选文件中至少包括所述多个待筛选文件中与所述第一文件的文件相似度最大的文件,所述N为自然数;
所述相似度计算单元300,用于根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;
所述目标文件确定单元400,用于根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。
可选的,所述目标文件确定单元400具体用于:在计算到的各所述文件相似度中的最小值不大于第一预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述装置还包括:初筛增大单元,用于在计算到的各所述文件相似度中的最小值大于第一预设相似度时,增大所述N,并再次触发所述文件初步筛选单元。
可选的,所述目标文件确定单元400具体用于:在计算到的各所述文件相似度中的最大值不小于第二预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述装置还包括:结果确定单元,用于在计算到的各所述文件相似度中的最大值小于第二预设相似度时,确定所述N个待筛选文件中不存在与所述第一文件相似的目标文件。
可选的,所述目标文件确定单元400具体用于:在计算到的各所述文件相似度中的最小值不大于第一预设相似度且各所述文件相似度中的最大值不小于第二预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述装置还包括:初筛增大单元和结果确定单元,
所述初筛增大单元,用于在计算到的各所述文件相似度中的最小值大于第一预设相似度时,增大所述N,并再次触发所述文件初步筛选单元;
所述结果确定单元,用于在计算到的各所述文件相似度中的最大值小于第二预设相似度时,确定所述N个待筛选文件中不存在与所述第一文件相似的目标文件;
其中,所述第二预设相似度不小于所述第一预设相似度。
可选的,所述装置还包括:文件关系确定单元,用于根据所述文件相似度和至少部分所述目标文件之间的文件相似度,确定文件组中文件的关系,所述文件组包括所述第一文件和所述目标文件;
和/或,所述装置还包括:流转确定单元,用于根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相同的文件,根据与所述第一文件相同的文件的文件信息确定所述第一文件的文件流转信息;
和/或,所述指纹辅助字段为十六进制的所述文件指纹转换为二进制后的二进制字段,所述相似度计算单元具体用于:
根据所述N个待筛选文件中各待筛选文件的指纹辅助字段分别与所述第一文件的指纹辅助字段的位差,计算所述N个待筛选文件分别与所述第一文件的文件相似度。
可选的,在所述装置还包括:文件关系确定单元时,所述文件关系确定单元包括:第一类文件确定子单元、相似度确定子单元和第二类文件确定子单元,
所述第一类文件确定子单元,用于将与所述第一文件的文件相似度不低于第二预设相似度的目标文件确定为:与所述第一文件具有预设关系的第一类文件;
所述相似度确定子单元,用于对除所述第一类文件外的其他目标文件,确定所述其他目标文件与各所述第一类文件的文件相似度;
所述第二类文件确定子单元,用于当第三文件与第二文件的文件相似度不低于所述第二预设相似度时,确定所述第三文件为与所述第二文件具有所述预设关系的第二类文件,其中,所述第三文件为所述其他目标文件中的一个文件,所述第二文件为所述第一类文件中的一个文件。
可选的,所述装置还包括:图谱获得单元,用于对具有所述预设关系的文件的文件图标进行连接,获得文件关系图谱。
本发明实施例提供的一种文件筛选装置,可以获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段;根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件;根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。由于本发明首先从待筛选文件中筛选出N个待筛选文件,然后再根据指纹辅助字段从N个待筛选文件中确定出与第一文件相似的目标文件,因此本发明有效减少了获得文件相似度的计算量,可以高效的对文件进行筛选。
所述文件筛选装置包括处理器和存储器,上述指纹辅助字段获得单元100、文件初步筛选单元200、相似度计算单元300和目标文件确定单元400等均作为程序单元存储在存储器中,由处理器执行存储在存储器中的上述程序单元来实现相应的功能。
处理器中包含内核,由内核去存储器中调取相应的程序单元。内核可以设置一个或以上,通过调整内核参数来确定出与所述第一文件相似的目标文件。
本发明实施例提供了一种存储介质,其上存储有程序,该程序被处理器执行时实现任一种所述文件筛选方法。
本发明实施例提供了一种处理器,所述处理器用于运行程序,其中,所述程序运行时执行任一种所述文件筛选方法。
如图10所示,本发明实施例提供了一种设备70,设备70包括至少一个处理器701、以及与处理器701连接的至少一个存储器702、总线703;其中,处理器701、存储器702通过总线703完成相互间的通信;处理器701用于调用存储器702中的程序指令,以执行上述的任一种文件筛选方法。本文中的设备可以是服务器、PC、PAD、手机等。
本申请还提供了一种计算机程序产品,当在数据处理设备上执行时,适于执行初始化有如下方法步骤的程序:
一种文件筛选方法,包括:
获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段,其中,所述指纹辅助字段根据文件指纹获得;
根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件,所述N个待筛选文件中至少包括所述多个待筛选文件中与所述第一文件的文件相似度最大的文件,所述N为自然数;
根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;
根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。
可选的,所述根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件,包括:
在计算到的各所述文件相似度中的最小值不大于第一预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述方法还包括:
在计算到的各所述文件相似度中的最小值大于第一预设相似度时,增大所述N,并返回执行所述根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件的步骤。
可选的,所述根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件,包括:
在计算到的各所述文件相似度中的最大值不小于第二预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述方法还包括:
在计算到的各所述文件相似度中的最大值小于第二预设相似度时,确定所述N个待筛选文件中不存在与所述第一文件相似的目标文件。
可选的,所述根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件,包括:
在计算到的各所述文件相似度中的最小值不大于第一预设相似度且各所述文件相似度中的最大值不小于第二预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述方法还包括:
在计算到的各所述文件相似度中的最小值大于第一预设相似度时,增大所述N,并返回执行所述根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件的步骤;
在计算到的各所述文件相似度中的最大值小于第二预设相似度时,确定所述N个待筛选文件中不存在与所述第一文件相似的目标文件;
其中,所述第二预设相似度不小于所述第一预设相似度。
可选的,所述方法还包括:
根据所述文件相似度和至少部分所述目标文件之间的文件相似度,确定文件组中文件的关系,所述文件组包括所述第一文件和所述目标文件;
和/或,所述方法还包括:
根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相同的文件,根据与所述第一文件相同的文件的文件信息确定所述第一文件的文件流转信息;
和/或,所述指纹辅助字段为十六进制的所述文件指纹转换为二进制后的二进制字段,所述根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度,包括:
根据所述N个待筛选文件中各待筛选文件的指纹辅助字段分别与所述第一文件的指纹辅助字段的位差,计算所述N个待筛选文件分别与所述第一文件的文件相似度。
可选的,在所述方法还包括根据所述文件相似度和至少部分所述目标文件之间的文件相似度,确定文件组中文件的关系,所述文件组包括所述第一文件和所述目标文件时,所述根据所述文件相似度和至少部分所述目标文件之间的文件相似度,确定文件组中文件的关系,包括:
将与所述第一文件的文件相似度不低于第二预设相似度的目标文件确定为:与所述第一文件具有预设关系的第一类文件;
对除所述第一类文件外的其他目标文件,确定所述其他目标文件与各所述第一类文件的文件相似度;
当第三文件与第二文件的文件相似度不低于所述第二预设相似度时,确定所述第三文件为与所述第二文件具有所述预设关系的第二类文件,其中,所述第三文件为所述其他目标文件中的一个文件,所述第二文件为所述第一类文件中的一个文件。
可选的,还包括:
对具有所述预设关系的文件的文件图标进行连接,获得文件关系图谱。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
在一个典型的配置中,设备包括一个或多个处理器(CPU)、存储器和总线。设备还可以包括输入/输出接口、网络接口等。
存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM),存储器包括至少一个存储芯片。存储器是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本申请的实施例可提供为方法、系统或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
以上仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

Claims (10)

1.一种文件筛选方法,其特征在于,包括:
获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段,其中,所述指纹辅助字段根据文件指纹获得;
根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件,所述N个待筛选文件中至少包括所述多个待筛选文件中与所述第一文件的文件相似度最大的文件,所述N为自然数;
根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;
根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。
2.根据权利要求1所述的方法,其特征在于,所述根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件,包括:
在计算到的各所述文件相似度中的最小值不大于第一预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述方法还包括:
在计算到的各所述文件相似度中的最小值大于第一预设相似度时,增大所述N,并返回执行所述根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件的步骤。
3.根据权利要求1所述的方法,其特征在于,所述根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件,包括:
在计算到的各所述文件相似度中的最大值不小于第二预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述方法还包括:
在计算到的各所述文件相似度中的最大值小于第二预设相似度时,确定所述N个待筛选文件中不存在与所述第一文件相似的目标文件。
4.根据权利要求1所述的方法,其特征在于,所述根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件,包括:
在计算到的各所述文件相似度中的最小值不大于第一预设相似度且各所述文件相似度中的最大值不小于第二预设相似度时,根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件;
所述方法还包括:
在计算到的各所述文件相似度中的最小值大于第一预设相似度时,增大所述N,并返回执行所述根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件的步骤;
在计算到的各所述文件相似度中的最大值小于第二预设相似度时,确定所述N个待筛选文件中不存在与所述第一文件相似的目标文件;
其中,所述第二预设相似度不小于所述第一预设相似度。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据所述文件相似度和至少部分所述目标文件之间的文件相似度,确定文件组中文件的关系,所述文件组包括所述第一文件和所述目标文件;
和/或,所述方法还包括:
根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相同的文件,根据与所述第一文件相同的文件的文件信息确定所述第一文件的文件流转信息;
和/或,所述指纹辅助字段为十六进制的所述文件指纹转换为二进制后的二进制字段,所述根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度,包括:
根据所述N个待筛选文件中各待筛选文件的指纹辅助字段分别与所述第一文件的指纹辅助字段的位差,计算所述N个待筛选文件分别与所述第一文件的文件相似度。
6.根据权利要求5所述的方法,其特征在于,在所述方法还包括根据所述文件相似度和至少部分所述目标文件之间的文件相似度,确定文件组中文件的关系,所述文件组包括所述第一文件和所述目标文件时,所述根据所述文件相似度和至少部分所述目标文件之间的文件相似度,确定文件组中文件的关系,包括:
将与所述第一文件的文件相似度不低于第二预设相似度的目标文件确定为:与所述第一文件具有预设关系的第一类文件;
对除所述第一类文件外的其他目标文件,确定所述其他目标文件与各所述第一类文件的文件相似度;
当第三文件与第二文件的文件相似度不低于所述第二预设相似度时,确定所述第三文件为与所述第二文件具有所述预设关系的第二类文件,其中,所述第三文件为所述其他目标文件中的一个文件,所述第二文件为所述第一类文件中的一个文件。
7.根据权利要求6所述的方法,其特征在于,还包括:
对具有所述预设关系的文件的文件图标进行连接,获得文件关系图谱。
8.一种文件筛选装置,其特征在于,包括:指纹辅助字段获得单元、文件初步筛选单元、相似度计算单元和目标文件确定单元,
所述指纹辅助字段获得单元,用于获得多个待筛选文件的指纹辅助字段,获得第一文件的指纹辅助字段,其中,所述指纹辅助字段根据文件指纹获得;
所述文件初步筛选单元,用于根据所述指纹辅助字段,从所述多个待筛选文件中筛选出N个待筛选文件,所述N个待筛选文件中至少包括所述多个待筛选文件中与所述第一文件的文件相似度最大的文件,所述N为自然数;
所述相似度计算单元,用于根据所述指纹辅助字段,分别计算所述N个待筛选文件与所述第一文件的文件相似度;
所述目标文件确定单元,用于根据所述文件相似度从所述N个待筛选文件中确定出与所述第一文件相似的目标文件。
9.一种存储介质,其特征在于,其上存储有程序,该程序被处理器执行时实现权利要求1至7中任一项所述的文件筛选方法。
10.一种设备,其特征在于,设备包括至少一个处理器、以及与处理器连接的至少一个存储器、总线;其中,所述处理器、所述存储器通过所述总线完成相互间的通信;所述处理器用于调用所述存储器中的程序指令,以执行权利要求1至7中任一项所述的文件筛选方法。
CN201910924832.5A 2019-09-27 2019-09-27 文件筛选方法及装置 Active CN112579534B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910924832.5A CN112579534B (zh) 2019-09-27 2019-09-27 文件筛选方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910924832.5A CN112579534B (zh) 2019-09-27 2019-09-27 文件筛选方法及装置

Publications (2)

Publication Number Publication Date
CN112579534A true CN112579534A (zh) 2021-03-30
CN112579534B CN112579534B (zh) 2024-06-25

Family

ID=75109881

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910924832.5A Active CN112579534B (zh) 2019-09-27 2019-09-27 文件筛选方法及装置

Country Status (1)

Country Link
CN (1) CN112579534B (zh)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101542484A (zh) * 2006-11-30 2009-09-23 皇家飞利浦电子股份有限公司 比较文件的内容标识符的装置
CN103020174A (zh) * 2012-11-28 2013-04-03 华为技术有限公司 相似性分析方法、装置及系统
US20130297579A1 (en) * 2012-05-02 2013-11-07 Microsoft Corporation Code regeneration determination from selected metadata fingerprints
US9514312B1 (en) * 2014-09-05 2016-12-06 Symantec Corporation Low-memory footprint fingerprinting and indexing for efficiently measuring document similarity and containment
US20170373856A1 (en) * 2016-06-28 2017-12-28 AVAST Software s.r.o. Prefix fingerprint
CN108875050A (zh) * 2018-06-27 2018-11-23 北京工业大学 面向文本的数字取证分析方法、装置和计算机可读介质
CN110019642A (zh) * 2017-08-06 2019-07-16 北京国双科技有限公司 一种相似文本检测方法及装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101542484A (zh) * 2006-11-30 2009-09-23 皇家飞利浦电子股份有限公司 比较文件的内容标识符的装置
US20130297579A1 (en) * 2012-05-02 2013-11-07 Microsoft Corporation Code regeneration determination from selected metadata fingerprints
CN103020174A (zh) * 2012-11-28 2013-04-03 华为技术有限公司 相似性分析方法、装置及系统
US20160267099A1 (en) * 2012-11-28 2016-09-15 Huawei Technologies Co., Ltd. Similarity Analysis Method, Apparatus, and System
US9514312B1 (en) * 2014-09-05 2016-12-06 Symantec Corporation Low-memory footprint fingerprinting and indexing for efficiently measuring document similarity and containment
US20170373856A1 (en) * 2016-06-28 2017-12-28 AVAST Software s.r.o. Prefix fingerprint
CN110019642A (zh) * 2017-08-06 2019-07-16 北京国双科技有限公司 一种相似文本检测方法及装置
CN108875050A (zh) * 2018-06-27 2018-11-23 北京工业大学 面向文本的数字取证分析方法、装置和计算机可读介质

Also Published As

Publication number Publication date
CN112579534B (zh) 2024-06-25

Similar Documents

Publication Publication Date Title
CN109347787B (zh) 一种身份信息的识别方法及装置
CN109597822B (zh) 一种用户数据的存储及查询方法和用户数据处理装置
CN106897335B (zh) 一种业务数据的存储方法、记录标识符的生成方法及装置
CN111163072B (zh) 机器学习模型中特征值的确定方法、装置及电子设备
CN110162526A (zh) 一种块链式账本中数据记录的查询方法、装置及设备
CN106557307B (zh) 业务数据的处理方法及处理系统
JP6636647B2 (ja) ランダム文字列を生成する方法および装置
CN109145053B (zh) 数据处理方法和装置、客户端、服务器
CN111767144A (zh) 交易数据的交易路由确定方法、装置、设备及系统
CN114328029B (zh) 一种应用资源的备份方法、装置、电子设备及存储介质
CN108647102B (zh) 异构系统的服务请求处理方法、装置和电子设备
CN112733510A (zh) 一种财务凭证生成方法、装置、设备及计算机可读存储介质
CN111177093A (zh) 一种科技资源的共享方法及设备、介质
CN112579534B (zh) 文件筛选方法及装置
CN110019357B (zh) 数据库查询脚本生成方法及装置
CN112491943A (zh) 数据请求方法、装置、存储介质和电子设备
CN107562533B (zh) 一种数据加载处理方法及装置
CN110598072B (zh) 一种特征数据聚合方法及装置
CN115098738A (zh) 业务数据的提取方法、装置、存储介质及电子设备
CN110555020A (zh) 一种映射关系建立、数据查询方法、装置及设备
CN113986879A (zh) 一种业务数据迁移方法以及相关装置
CN113822704A (zh) 计算优惠费用的方法、装置、电子设备及可读存储介质
CN114443781A (zh) 一种企业担保图谱的生成方法、装置
CN114205329A (zh) 一种设备编码方法及装置
CN110209666B (zh) 一种数据存储方法及终端设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant