CN112580308A - 文档比对方法、装置、电子设备及可读存储介质 - Google Patents
文档比对方法、装置、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN112580308A CN112580308A CN202011477927.6A CN202011477927A CN112580308A CN 112580308 A CN112580308 A CN 112580308A CN 202011477927 A CN202011477927 A CN 202011477927A CN 112580308 A CN112580308 A CN 112580308A
- Authority
- CN
- China
- Prior art keywords
- document
- content
- comparison
- difference
- documents
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 104
- 238000012545 processing Methods 0.000 claims abstract description 84
- 238000012015 optical character recognition Methods 0.000 claims description 42
- 238000004458 analytical method Methods 0.000 claims description 29
- 238000012549 training Methods 0.000 claims description 22
- 238000004590 computer program Methods 0.000 claims description 11
- 239000012634 fragment Substances 0.000 claims description 10
- 238000012937 correction Methods 0.000 claims description 7
- 238000006243 chemical reaction Methods 0.000 claims description 4
- 238000000638 solvent extraction Methods 0.000 claims 4
- 230000008569 process Effects 0.000 description 38
- 238000005516 engineering process Methods 0.000 description 14
- 230000004048 modification Effects 0.000 description 9
- 238000012986 modification Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 238000012805 post-processing Methods 0.000 description 6
- 238000004422 calculation algorithm Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 230000002411 adverse Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 239000000969 carrier Substances 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000007621 cluster analysis Methods 0.000 description 1
- -1 computer disks Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000004304 visual acuity Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/194—Calculation of difference between files
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/93—Document management systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/103—Formatting, i.e. changing of presentation of documents
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/451—Execution arrangements for user interfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/412—Layout analysis of documents structured with printed lines or input boxes, e.g. business forms or tables
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/418—Document matching, e.g. of document images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Databases & Information Systems (AREA)
- Business, Economics & Management (AREA)
- General Business, Economics & Management (AREA)
- Data Mining & Analysis (AREA)
- Human Computer Interaction (AREA)
- Character Input (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Document Processing Apparatus (AREA)
Abstract
本公开公开了一种文档比对方法、装置、电子设备及可读存储介质,涉及数据处理技术领域,具体涉及大数据技术领域。本公开通过根据待比对的特定格式的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元,使得能够对所述至少两组比对单元中各组比对单元进行内容比对,以获得所述各组比对单元的内容比对结果,作为所述各文档的比对结果,由于将待比对的各文档进行了基于文档布局的区域划分,获得各文档之间相互对应的多组比对单元,然后将所获得的不同区域的各组比对单元单独进行对应的内容比对,从而有效提高了文档比对的准确率。
Description
技术领域
本共开涉及数据处理技术领域,具体涉及大数据技术领域,尤其涉及一种文档比对方法、装置、电子设备及可读存储介质。
背景技术
在对不同版本的文档进行内容比对时,例如,合同、论文、模板等可能会具有多种版本的文档,传统的比对算法基于文本行进行,通常的处理方式是通过文档解析技术获取到两个待比对的文档的文本行后,从左到右从上到下排序形成句子集合,拼接形成字符串,然后逐字符进行比对。这种方式,文档比对的准确率较低。
发明内容
本公开的多个方面提供一种文档比对方法、装置、电子设备及可读存储介质,用以识别重复的数据,以提高数据的可靠性和有效性。
根据本公开的一方面,提供了一种文档比对方法,包括:
根据待比对的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元;其中,所述文档布局包括布局标识、布局内容和布局位置中的至少一项;
对所述至少两组比对单元中各组比对单元进行内容比对,以获得所述各组比对单元的内容比对结果;
根据所述各组比对单元的内容比对结果,获得所述两个文档的比对结果。
根据本公开的另一方面,提供了一种文档比对装置,包括:
划分单元,用于根据待比对的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元;其中,所述文档布局包括布局标识、布局内容和布局位置中的至少一项;
内容单元,用于对所述至少两组比对单元中各组比对单元进行内容比对,以获得所述各组比对单元的内容比对结果;
结果单元,用于根据所述各组比对单元的内容比对结果,获得所述两个文档的比对结果。
根据本公开的再一方面,提供一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的方面和任一可能的实现方式的方法。
根据本公开的又一方面,提供一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如上所述的方面和任一可能的实现方式的方法。
根据本公开的又一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如上所述的方面和任一可能的实现方式的方法。
由上述技术方案可知,本公开实施例通过根据待比对的特定格式的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元,使得能够对所述至少两组比对单元中各组比对单元进行内容比对,以获得所述各组比对单元的内容比对结果,作为所述各文档的比对结果,由于将待比对的各文档进行了基于文档布局的区域划分,获得各文档之间相互对应的多组比对单元,然后将所获得的不同区域的各组比对单元单独进行对应的内容比对,从而有效提高了文档比对的准确率。
另外,采用本公开所提供的技术方案,通过采用文档对齐处理技术,能够进一步提升文档比对的准确率,降低文档比对的复杂度。
另外,采用本公开所提供的技术方案,通过对各组比对单元的内容比对结果,进行修正处理,能够进一步提升文档比对的准确率。
另外,采用本公开所提供的技术方案,能够有效地提高用户的体验。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本公开实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。附图仅仅用于更好地理解本公开,不构成对本公开的限定。其中:
图1是根据本公开第一实施例的示意图;
图2是图1对应的实施例中待比对的文档的文档布局示意图;
图3是图1对应的实施例中所采用的文档对齐技术的示意图;
图4是根据本公开第二实施例的示意图;
图5是用来实现本公开实施例的文档比对方法的电子设备的示意图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
显然,所描述的实施例是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例,都属于本公开保护的范围。
需要说明的是,本公开实施例中所涉及的终端设备可以包括但不限于手机、个人数字助理(Personal Digital Assistant,PDA)、无线手持设备、平板电脑(TabletComputer)等智能设备;显示设备可以包括但不限于个人电脑、电视等具有显示功能的设备。
另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
随着互联网技术的突飞猛进及计算机的迅速普及,在工作以及生活中利用电子文档(以下简称文档)替代纸质出版物的情况变得越来越普遍。
在日常办公活动中,经常需要对不同版本的文档进行内容比对,例如,合同、论文、模板等可能会具有多种版本的文档,如果采用人工比对的方式,不仅耗费大量人力,效率低下,比对时间周期长,而且由于工作量巨大,很容易在比对过程中出现遗漏或者错误的情形。
为了解决上述人工比对方式中存在的问题,传统的比对算法虽然能够提高比对的效率,但是其基于文本行进行比对,具体方式是通过文档解析技术获取到两个待比对的文档的文本行后,一般是从左到右从上到下排序形成句子集合,拼接形成字符串,然后逐字符进行比对。这种方式,文档比对的准确率仍然较低。
因此,亟需提供一种文档比对方法,能够有效提高文档比对的准确率。
本公开提出一种文档比对方法,通过基于文档布局对文档内容进行分割处理获得相应的各组比对单元,而后再对各组比对单元分别进行单独内容比对,因此在比对过程中消除了各组比对单元的内容之间相互影响,最终提升了文档比对的准确率。
图1是根据本公开第一实施例的示意图,如图1所示。
101、根据待比对的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元。
其中,所述文档布局可以包括但不限于布局标识、布局内容和布局位置中的至少一项,本实施例对此不进行特别限定。
102、对所述至少两组比对单元中各组比对单元进行内容比对,以获得所述各组比对单元的内容比对结果。
103、根据所述各组比对单元的内容比对结果,获得所述两个文档的比对结果。
本公开中的文档是指以计算机盘片、固态硬盘、磁盘和光盘等化学磁性物理材料为载体的文字、图片材料。它主要包括电子文书、电子信件、电子报表、电子图纸、纸质文本文档的电子版本等电子文档。
需要说明的是,101~103的执行主体的部分或全部可以为位于本地终端的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(SoftwareDevelopment Kit,SDK)等功能单元,或者还可以为位于网络侧服务器中的处理引擎,或者还可以为位于网络侧的分布式系统,例如,网络侧的文档比对服务器中的处理引擎或者分布式系统等,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在本地终端上的本地程序(nativeApp),或者还可以是本地终端上的浏览器的一个网页程序(webApp),本实施例对此不进行限定。
这样,通过基于文档布局对文档内容进行分割处理获得相应的各组比对单元,而后再对各组比对单元分别进行单独内容比对,因此在比对过程中消除了各组比对单元的内容之间相互影响,最终提升了文档比对的准确率。
本公开中,所述文档布局可以包括但不限于布局标识、布局内容和布局位置中的至少一项,本实施例对此不进行特别限定。
其中,所述布局内容,是指文档布局的具体布局形式,可以包括但不限于文本布局、图像布局、表格布局、栏目布局、页眉布局以及页脚布局中的至少一项。具体地,如图2所示,文本布局是指文档内容为文本的布局形式;图像布局是指文档内容为图像的布局形式;表格布局是指文档内容为表格的布局形式;栏目布局是指文档内容为单栏内容、双栏内容或者三栏内容等多栏方式的布局形式,图2中示出的栏目布局即为双栏内容,具体包括分栏1和分栏2;页眉布局是指文档内容为页眉的布局形式;以及页脚布局是指文档内容为页脚的布局形式。
所述布局标识,是指文档布局的具体布局形式的标识信息,即布局内容的标识信息。为了方便对其布局内容进行标识,还可以对上述布局内容的种类采用数字或字母等标号的形式进行标识,例如将页眉布局的标识信息设置为01,页脚布局的标识信息设置为02,正文布局的标识信息设置为03等。
所述布局位置,是指文档布局的具体布局形式所在的文档位置,例如,距离页面的下边线的距离为0.8cm。通常,文档的各种布局内容具有较为固定的布局位置,通过识别布局位置,就能够识别出文档的各种文档布局。例如,布局位置为距离页面的下边线的距离为0.8cm,且距离页面的左边线的距离与距离页面的右边线的距离相等,那么,根据这个布局位置,就可以识别出该位置所对应的文档的文档布局为页脚布局。
在实际应用中,在一些情况下,例如,文档的内容形式多样的情况,或者文档可能会不只一页内容,可能会出现多页内容的情况,需要进行内容比对的文档往往包含两种或两种以上布局内容,例如包括页眉布局,页脚布局以及正文布局,例如包括页眉布局,页脚布局以及文本布局、表格布局、图像布局等正文布局,传统的比对方法由于缺乏可靠的切分思路,在进行内容比对时,无法对不同的文档布局的布局内容进行有效区分,进而在内容比对过程中,容易产生比对内容上的混乱,即,将两个待比对的文档的不相对应的部分错误地进行了比对,产生了错误的比对结果。例如将其中一个待比对的文档中的页眉部分或者页脚部分的内容与另外一个待比对的文档中的正文部分的内容进行比对,最终产生了错误的比对结果,比对结果的准确率也因此大为降低。
为了解决上述问题,本公开提供了一种完全不同的文档内容比对方法,也即首先根据文档布局对两个待比对的文档的内容进行分割处理,形成不同的比对单元。例如可以将文档的页眉部分分成一个比对单元,页脚部分分成一个比对单元,以及正文部分分成一个比对单元。或者,再例如还可以进一步将正文部分中的图像部分分成一个比对单元,表格部分分成一个比对单元,以及文本部分分成一个比对单元。
在上述分割处理完成之后,可以将两个待比对的文档的相应比对单元进行内容比对。
例如将两个待比对的文档的页眉部分的比对单元进行内容比对,以获得页眉部分的一组比对单元的比对结果。对于页脚部分的内容比对,以及正文部分的内容比对,采用相同的方式均可获得相应的比对结果。
在对两个待比对的文档的所有相应的比对单元的内容进行比对完毕之后,将各组比对单元的内容比对结果进行汇总处理,即可获得上述两个待比对的文档的内容比对结果。
这样,通过基于文档布局对文档内容进行分割处理获得相应的各组比对单元,而后再对各组比对单元分别进行单独内容比对,因此在比对过程中消除了各组比对单元的内容之间相互影响,最终提升了文档比对的准确率。
可选地,在本实施例的一个可能的实现方式中,在101之前,还可以进一步确定所述待比对的两个文档中各文档的文档格式,对文档格式不为特定格式的文档进行格式转换处理,以获得文档格式为所述特定格式的文档,作为待比对的文档。
本公开中的待比对的文档的文档格式可以为PDF格式、doc格式、docx格式、xls格式、xlsx格式、htm格式以及html格式中的任意一种,本实施例对此不进行特别限定。
可移植文档格式(Portable Document Format,PDF)文件是一种计算机文件类型,它被确立为行业标准文件类型,允许创建和保存文档以供在许多不同的实际应用程序中。使用可移植的文档格式文件的功能独立于计算机硬件或软件应用程序,也就是说,PDF文档不管是在Windows操作系统、Unix操作系统,还是在苹果公司的MacOS操作系统中都是通用的。
基于PDF文档的通用性,PDF文档的排版格式在不同电脑操作系统中上不会发生任何变化,因此可以将PDF文档作为本公开中的标准格式,也即首先将两个待比对的文档均转化为PDF格式文档,然后再执行101至103步骤中的操作进行内容比对。此外,采用上述方式,可以使得本公开适用于任何电脑操作系统。
这样,通过将两个待比对的文档均转化为排版格式不变的PDF格式文档,能够使得所述实现方式具有更强的通用性,同时也避免了格式变动对比对过程产生的不良影响,有助于提高比对结果的准确率。
可选地,在本实施例的一个可能的实现方式中,在101中,具体可以根据所述各文档的文档布局,对所述各文档进行特征分析处理,以获得所述各文档的至少一个特征片段,进而,则可以根据所述至少一个特征片段中各特征片段,进行文档对齐处理。然后,可以根据所述文档对齐处理的处理结果,获得所述各文档之间相互对应的至少两组比对单元。
在本实现方式中,采用文档对齐技术划分比对单元,即首先在两个待比对的文档的文档内容中分别获取至少一个具有唯一性的特征片段,并根据各个特征片段,建立两者的特征片段之间的对应关系,然后采用具有对应关系的特征片段对两个待比对的文档内容进行分割,从而获得所述各文档之间相互对应的至少两组比对单元。由于上述比对单元是利用文档对齐技术获取的,这保证了比对单元之间具有精准的对应关系,避免了各组比对单元之间的对应关系出现混乱的情况,因此有助于提升比对准确率。
此处的特征片段须能够确实标识文档的文档内容,具有将所标识的文档的部分内容与文档的其他部分内容相区分的能力。优选的,特征片段的分离要比较容易实现,以提高该过程的执行效率。
如图3所示,分别获得待比对的文档1的特征片段和待比对的文档2的特征片段之后,具体可以根据这些特征片段,建立两者的特征片段之间的对应关系,如图中的曲线所示:曲线的两端分别所对应的文档1的特征片段与待比对的文档2的特征片段之间是一一对应的对应关系。由于曲线2与曲线3是交错的,说明这两条曲线的两端所对应的特征片段的位置出现交叉的情况,则容易得知,两个待比对的文档在内容上,其各对应的特征片段在位置次序上就是不同的,对于次序交叉的曲线2所对应的特征片段和曲线3所对应的特征片段,产生交叉的原因很有可能是内容调整过程中对特征片段2或特征片段3的位置进行过移动,因此,不适合作为对齐依据的特征片段,可以将其从特征片段中进行删除。将两个待比对的文档内容中其他存在一一对应关系的其他特征片段作为锚点,分别将两个待比对的文档分割成数量相同的比对单元,这样,就形成了一组一组的比对单元。
在一个具体的实现过程中,具体可以根据所述各文档的文档布局,将所述各文档划分为至少一个内容片段,进而,则可以对所述至少一个内容片段中各内容片段进行特征分析处理,以获得所述各文档的至少一个特征片段。
具体地,在获得各文档所划分的至少一个内容片段之后,采用特征分析方法,对各内容片段进行特征分析处理,若对应的内容片段的特征分析的结果一致,则可以将其作为该文档的一个特征片段。
例如,在进行特征分析处理的过程中,可以采用基于N元语法(N-Gram)模型的特征分析方法,N-Gram是一种基于统计语言模型的算法。它的基本思想是将文本里面的内容按照字节进行大小为N的滑动窗口操作,从而形成长度是N的字节片段序列。每一个字节片段称为Gram片段,对所有Gram片段的出现频度进行统计,并且按照事先设定好的阈值进行过滤,形成关键Gram列表,也就是这个文本的向量特征空间,列表中的每一种Gram片段就是一个特征向量维度。其中,N的取值越大,分辨能力也越强。在此处,为了保证识别足够准确,N的取值优选大于8。如果两个Gram片段一致,则可以将该Gram片段作为各自文档的一个特征片段。
这样,通过对各文档中至少一个内容片段进行特征分析处理,从而获得至少一个特征片段,上述方式简便易行,效率高。在本实现过程中,可以在两个待比对的文档内容中选取至少一个内容片段,并以相同方式对其进行特征分析处理,若两个内容片段的特征分析处理的结果一致,则可以将其作为一个特征片段。
可选地,在本实施例的一个可能的实现方式中,对于文档中存在需要识别图像中字符的情况,在101中,具体可以利用预先训练的光学字符识别(Optical CharacterRecognition,OCR)模型,对所述各文档中的图像进行字符识别处理,以获得所述图像中的图像识别字符。
在本实现方式中,对于图像版PDF文档,或者待比对的文档中的含有字符的图像,如果按照常规采用根据字符比较的方式对其内容进行比较,需要先通过OCR模型将图像中的字符识别出来。
在本实现方式中,利用OCR模型对文档中的图像进行字符识别处理的过程一般可以包括但不限于如下步骤:图像输入步骤,包括二值化、噪声去除和倾斜较正过程的预处理步骤,将文档图像分段落、分行的版面分析步骤,字符切割步骤,字符识别步骤,版面恢复步骤以及后处理、核对步骤。由于目前通用的OCR模型的识别技术仍然存在着识别效率较低的技术问题。
为此,本实现方式还进一步在通用的OCR模型基础上,根据所述待比对的两个文档所属应用场景的训练文档所属应用场景(包括技术领域,类别等背景信息),利用爬虫技术获取相关训练数据,并将其转换为图像,然后通过一些增强方法(例如,模糊、扭曲、光照变化、水印/盖章等)获取一大批带标注的训练数据,利用这些带标注的该训练数据对通用的OCR模型进行调优训练,以获得优化的OCR模型。
那么,本公开可以采用优化的OCR模型对文档中的图像进行字符识别处理,该优化的OCR模型可以为利用所述待比对的两个文档所属应用场景的训练文档进行训练得到,例如,合同文档的应用场景,用以对本公开中的各文档中的图像进行字符识别处理。
这样,通过利用预先训练的优化的OCR模型对文档中的图像中的字符进行识别,可以获得更高的识别准确率,进而提高了文档内容比对准确率。
可选地,在本实施例的一个可能的实现方式中,在102中,具体可以对所述各组比对单元的内容比对结果,进行修正处理,进而,则可以根据所述修正处理之后的所述各组比对单元的内容比对结果,获得所述两个文档的比对结果。
在进行内容比对过程中或该过程之前的任何一个环节都存在出现错误的可能性,一旦出现错误,都会造成比对单元的内容比对结果出现错误。为此,在本公开中,为了降低各组比对单元的内容比对结果出现错误的几率,可以进一步对各组比对单元的内容比对结果进行修正处理,处理完成之后,再将其汇总为两个文档的比对结果,从而有效提高了文档内容比对准确率。
在一个具体的实现过程中,所进行的修正处理具体可以获取内容比对结果为差异比对结果的各组比对单元的至少一个差异内容和所述至少一个差异内容中各差异内容所在位置,进而,则可以根据所获取的各组比对单元的所述各差异内容和该差异内容所在位置,确定所述各差异内容的差异类型,例如,正文内容差异、页眉内容差异等。若差异内容的差异类型为特定类型,忽略该差异内容所对应的差异比对结果。
该实现过程中,特定类型可以为页眉内容差异或页脚内容差异等非正文布局的特殊布局的内容差异。
对于页眉布局或者页脚布局等布局内容所对应的非正文内容的漏识别情况,会导致出现错误的差异比对结果,因此需要忽略此类差异结果。结合差异内容和该差异内容所在位置,进行聚类分析,从而确定该差异内容的差异类型。然后,对差异内容的差异类型进行判断处理。若该差异内容的差异类型属于特定类型,则表明上述的比对的结果属于无效结果,因此可以忽略此类比对结果。通过上述方式,忽略了错误的差异比对结果,因而有助于进一步提高文档比对的准确率。
在另一个具体的实现过程中,所进行的修正处理具体可以获取内容比对结果为差异比对结果的各组比对单元的至少一个差异内容。若所获取的各组比对单元的差异内容为指定字符数量的差异内容,且所述指定字符数量的差异内容为基于OCR模型所识别,那么,则可以利用图像相似度模型,对所述指定字符数量的差异内容所属图像进行相似度识别处理,以确定所述指定字符数量的差异内容所属图像是否一致。若所述指定字符数量的差异内容所属图像一致,则可以忽略所述指定字符数量的差异内容所对应的差异比对结果。
对于样式复杂的指定字符数量的字符或者字符组合,例如,单字或者单字母等,目前的OCR模型在识别字符时还不可避免地存在识别错误的情况,这就使得最终内容比对结果中显示的这些文档内容的差异内容可能是错误的。对于该种情况,为了提高文档比对的准确率,可以针对内容比对结果中显示的指定字符数量的差异内容进行二次比对。
具体地,可以对内容比对结果中所存在的指定字符数量的差异内容采用图像比对的方式进行二次比对,通过判断两者所属的图像的相似度来判定两者是否相同。
以单字或者单字母为例,鉴于常见中英文字符的数量是有限的,针对易出现识别错误的样式复杂的单字图像或者单字母图像,可以通过数据增强方法生成对应的单字图像或者单字母图像,例如,字形、光照、形变等,采用单文档(Pointwise)方法或者文档对(Pairwise)方法的训练图像相似度模型,再利用该图像相似度模型模型对内容比对结果中的单字差异或者单字母差异进行相似度识别处理,从而确认两者是否存在差异。如果经过相似度识别处理之后确认两者存在差异,则无需对该单字或单字母的差异内容所对应的差异比对结果进行任何操作,即无需进行修正处理。如果经过相似度识别处理之后确认两者不存在差异,则说明该差异内容是由于OCR模型的识别错误所造成的,那么,则可以忽略该单字或单字母的差异内容所对应的差异比对结果,从而最终提高文档比对的准确率。
其中,Pointwise处理对象是单一文档,将文档转化为特征向量后,主要是将排序问题转化为机器学习中常规的分类或回归问题。Pairwise是目前比较流行的方法,相比于Pointwise,它将重点转向文档顺序关系,它主要将排序问题归结为二元分类问题。
本公开的技术方案存在以下的优点:
1、通过对多页内容之间的特征进行分析,有助于获得整体文档布局,并根据整体文档布局对文档的多页内容进行区域划分处理,可以获得各文档的多页内容之间相互对应的至少两组比对单元,即正确的比对内容流。因此在对复杂的多页文档进行比对时,降低了比对的复杂度,大大减少了各种复杂的文档(尤其是长文档、布局复杂文档等)的比对过程中容易出现的错乱的情况,因而提高了文档比对的准确率。
2、通过文档对齐技术,即在两个待比对的文档内容中分别获取至少一个具有唯一性的特征片段,并根据各个特征片段,建立两个待比对的文档的特征片段之间的对应关系,然后采用具有对应关系的特征片段对两个待比对的文档内容进行分割,从而获得所述各文档之间相互对应的至少两组比对单元。由于上述比对单元是利用文档对齐技术获取的,这保证了比对单元之间具有精准的对应关系,避免了各组比对单元之间的对应关系出现混乱的情况,进而减少了在两个待比对的文档内容在比对过程中出现比对内容不对应的情况,因此有助于提升比对准确率。
3、目前的OCR模型在识别样式复杂的单字或者单字母等时,还不可避免地存在识别错误的情况,因此若比对结果中的差异内容若为单字或者单字母,且上述差异内容的在比对之前,是通过OCR模型所识别而获取的。那么,则可以采用本公开所提供的技术方案,利用图像相似度模型,对上述差异内容的单字或者单字母图像进行相似度识别处理,以确定所述指定字符数量的差异内容所属图像是否一致,进而对上述比对结果进行修正,识别出由于OCR模型识别错误所导致的错误比对结果,并采取相应的后续步骤,从而有助于提升文档比对准确率。
本实施例中,通过根据待比对的特定格式的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元,使得能够对所述至少两组比对单元中各组比对单元进行内容比对,以获得所述各组比对单元的内容比对结果,作为所述各文档的比对结果,由于将待比对的各文档进行了基于文档布局的区域划分,获得各文档之间相互对应的多组比对单元,然后将所获得的不同区域的各组比对单元单独进行对应的内容比对,从而有效提高了文档比对的准确率。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本公开并不受所描述的动作顺序的限制,因为依据本公开,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本公开所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
图4是根据本公开第二实施例的示意图,如图4所示。本实施例的文档比对装置400可以包括划分单元401、内容单元402和结果单元403。其中,划分单元401,用于根据待比对的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元;其中,所述文档布局包括布局标识、布局内容和布局位置中的至少一项;内容单元402,用于对所述至少两组比对单元中各组比对单元进行内容比对,以获得所述各组比对单元的内容比对结果;结果单元403,用于根据所述各组比对单元的内容比对结果,获得所述两个文档的比对结果。
需要说明的是,本实施例的文档比对装置的部分或全部可以为位于本地终端的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(SoftwareDevelopment Kit,SDK)等功能单元,或者还可以为位于网络侧服务器中的处理引擎,或者还可以为位于网络侧的分布式系统,例如,网络侧的文档比对服务器中的处理引擎或者分布式系统等,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在本地终端上的本地程序(nativeApp),或者还可以是本地终端上的浏览器的一个网页程序(webApp),本实施例对此不进行限定。
这样,通过划分单元根据待比对的特定格式的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元,使得内容单元能够对所述至少两组比对单元中各组比对单元进行内容比对,因此结果单元能够获得所述各组比对单元的内容比对结果,作为所述各文档的比对结果。由于本实施例将待比对的各文档进行了基于文档布局的区域划分,获得各文档之间相互对应的多组比对单元,然后将所获得的不同区域的各组比对单元单独进行对应的内容比对,从而有效提高了文档比对的准确率。
可选地,在本实施例的一个可能的实现方式中,所述划分单元401,还用于确定所述待比对的两个文档中各文档的文档格式;以及对文档格式不为特定格式的文档进行格式转换处理,以获得文档格式为所述特定格式的文档,作为待比对的文档。
这样,通过划分单元将两个待比对的文档均转化为排版格式不变的PDF格式文档,能够使得所述实现方式具有更强的通用性,同时也避免了格式变动对比对过程产生的不良影响,有助于提高比对结果的准确率。
可选地,在本实施例的一个可能的实现方式中,所述划分单元401,具体用于根据所述各文档的文档布局,对所述各文档进行特征分析处理,以获得所述各文档的至少一个特征片段;根据所述至少一个特征片段中各特征片段,进行文档对齐处理;以及根据所述文档对齐处理的处理结果,获得所述各文档之间相互对应的至少两组比对单元。
在本实现方式中,通过划分单元采用文档对齐技术划分比对单元,即划分单元首先在两个待比对的文档内容中分别获取至少一个具有唯一性的特征片段,并根据各个特征片段,建立两者的特征片段之间的对应关系,然后采用具有对应关系的特征片段对两个待比对的文档内容进行分割,从而获得所述各文档之间相互对应的至少两组比对单元。由于上述比对单元是利用文档对齐技术获取的,这保证了比对单元之间具有精准的对应关系,避免了各组比对单元之间的对应关系出现混乱的情况,因此有助于提升比对准确率。
在一个具体的实现过程中,所述划分单元401,具体用于根据所述各文档的文档布局,将所述各文档划分为至少一个内容片段;以及对所述至少一个内容片段中各内容片段进行特征分析处理,以获得所述各文档的至少一个特征片段。
具体地,所述划分单元401,具体用于在获得各文档所划分的至少一个内容片段之后,采用特征分析方法,对各内容片段进行特征分析处理,若对应的内容片段的特征分析的结果一致,则可以将其作为该文档的一个特征片段。
这样,通过划分单元对各文档中至少一个内容片段进行特征分析,从而获得至少一个特征片段,上述方式简便易行,效率高。在本实现过程中,划分单元可以在两个待比对的文档内容中选取至少一个内容片段,并以相同方式对其进行特征分析,若两个内容片段的特征分析的结果一致,则可以将其作为一个特征片段。
可选地,在本实施例的一个可能的实现方式中,所述划分单元401,还用于利用预先训练的OCR模型,对所述各文档中的图像进行字符识别处理,以获得所述图像中的图像识别字符;其中,所述OCR模型为利用所述待比对的两个文档所属应用场景的训练文档进行训练得到。
在本实现方式中,对于图像版PDF文档,或者待比对的文档中的含有文字的图像,如果按照常规采用根据字符比较的方式对其内容进行比较,需要先通过OCR模型将图像中的内容识别为字符。
OCR是光学字符识别的简称,是指对包含文本资料的图像文件进行分析识别处理,获取文字及版面信息的技术,利用OCR模型对图像进行处理,其过程一般包括:图像输入步骤,包括二值化、噪声去除和倾斜较正过程的预处理步骤,将文档图像分段落、分行的版面分析步骤,字符切割步骤,字符识别步骤,版面恢复步骤以及后处理、核对步骤。但是目前通用OCR模型的识别技术仍然存在着识别效率较低的技术问题。
为此,本实现方式,划分单元在利用通用OCR模型对所述各文档中的图像进行字符识别处理之前,专门根据所述待比对的两个文档所属应用场景的训练文档所属应用场景(包括技术领域,类别等背景信息)。利用爬虫技术获取相关训练数据,并将其转换为图片,然后通过一些增强方法(例如,模糊、扭曲、光照变化、水印/盖章等)获取一大批带标注的训练数据。利用该训练数据对通用OCR模型进行调优训练,以获得本公开所采用的优化OCR模型。然后划分单元利用该预先训练的优化OCR模型对文档中的图像中的字符进行识别,可以获得更高的识别准确率,进而提高了文档内容比对准确率。
可选地,在本实施例的一个可能的实现方式中,所述结果单元403,具体可以用于对所述各组比对单元的内容比对结果,进行修正处理;以及根据所述修正处理之后的所述各组比对单元的内容比对结果,获得所述两个文档的比对结果。
在进行内容比对过程中或该过程之前的任何一个环节都存在出现错误的可能性,一旦出现错误,都会造成比对单元的内容比对结果出现错误。为此,在本实现方式中,为了降低各组比对单元的内容比对结果出现错误的几率,可以通过结果单元进一步对各组比对单元的内容比对结果进行修正处理,处理完成之后,再将其汇总为两个文档的比对结果,从而有效提高了文档内容比对准确率。
在一个具体的实现过程中,所述结果单元403,具体可以用于获取内容比对结果为差异比对结果的各组比对单元的至少一个差异内容和所述至少一个差异内容中各差异内容所在位置;根据所获取的各组比对单元的所述各差异内容和该差异内容所在位置,确定所述各差异内容的差异类型;若差异内容的差异类型为特定类型,忽略该差异内容所对应的差异比对结果。
具体地,该实现过程中,特定类型可以为页眉内容差异或页脚内容差异等特殊布局的内容差异。对于页眉布局或者页脚布局等布局内容所对应的非正文内容的漏识别情况,会导致出现错误的差异比对结果,因此需要忽略此类差异结果。因此通过结果单元获取差异内容和该差异内容所在位置,进行聚类分析,从而确定该差异内容的差异类型。然后,利用结果单元对差异内容的差异类型进行判断处理。若该差异内容的差异类型属于特定类型,则表明上述的比对的结果属于无效结果,因此可以忽略此类比对结果。通过上述方式,忽略了错误的差异比对结果,因而有助于进一步提高文档比对的准确率。
在另一个具体的实现过程中,所述结果单元403,具体可以用于获取内容比对结果为差异比对结果的各组比对单元的至少一个差异内容;若所获取的各组比对单元的差异内容为指定字符数量的差异内容,且所述指定字符数量的差异内容为基于OCR模型所识别,利用图像相似度模型,对所述指定字符数量的差异内容所属图像进行相似度识别处理,以确定所述指定字符数量的差异内容所属图像是否一致;若所述指定字符数量的差异内容所属图像一致,忽略所述指定字符数量的差异内容所对应的差异比对结果。
对于样式复杂的指定字符数量的字符或者字符组合,例如,单字或者单字母等,目前的OCR模型在识别字符时还不可避免地存在识别错误的情况,这就使得最终内容比对结果中显示的这些文档内容的差异内容可能是错误的。对于该种情况,为了提高文档比对的准确率,可以利用结果单元针对内容比对结果中显示的指定字符数量的差异内容进行二次比对。
具体地,可以利用结果单元对内容比对结果中所存在的指定字符数量的差异内容采用图像比对的方式进行二次比对,通过判断两者所属的图像的相似度来判定两者是否相同。
以单字或者单字母为例,鉴于常见中英文字符的数量是有限的,针对易出现识别错误的样式复杂的单字图像或者单字母图像,可以通过数据增强方法生成对应的单字图像或者单字母图像,采用单文档(Pointwise)方法或者文档对(Pairwise)方法的训练图像相似度模型,再利用该图像相似度模型模型对内容比对结果中的单字差异或者单字母差异进行相似度识别处理,从而确认两者是否存在差异,还是由于OCR模型的识别错误所造成的。如果两者存在差异,则可以忽略该单字或单字母的差异内容所对应的差异比对结果,从而最终提高文档比对的准确率。
需要说明的是,图1对应的实施例中的方法可以由本实施例提供的文档比对装置实现。详细描述可以参见图1对应的实施例中的相关内容,此处不再赘述。
本实施例中,通过划分单元根据待比对的特定格式的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元,使得内容单元能够对所述至少两组比对单元中各组比对单元进行内容比对,以获得所述各组比对单元的内容比对结果,由结果单元将其作为所述各文档的比对结果。由于将待比对的各文档进行了基于文档布局的区域划分,获得各文档之间相互对应的多组比对单元,然后将所获得的不同区域的各组比对单元单独进行对应的内容比对,从而有效提高了文档比对的准确率。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图5示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图5所示,电子设备500包括计算单元501,其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序,来执行各种适当的动作和处理。在RAM503中,还可存储电子设备500操作所需的各种程序和数据。计算单元501、ROM502以及RAM503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
电子设备500中的多个部件连接至I/O接口505,包括:输入单元506,例如键盘、鼠标等;输出单元507,例如各种类型的显示器、扬声器等;存储单元508,例如磁盘、光盘等;以及通信单元509,例如网卡、调制解调器、无线通信收发机等。通信单元509允许电子设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理,例如文档比对方法。例如,在一些实施例中,文档比对方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元508。在一些实施例中,计算机程序的部分或者全部可以经由ROM502和/或通信单元509而被载入和/或安装到电子设备500上。当计算机程序加载到RAM503并由计算单元501执行时,可以执行上文描述的文档比对方法的一个或多个步骤。备选地,在其他实施例中,计算单元501可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行文档比对方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、互联网和区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (19)
1.一种文档比对方法,包括:
根据待比对的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元;其中,所述文档布局包括布局标识、布局内容和布局位置中的至少一项;
对所述至少两组比对单元中各组比对单元进行内容比对,以获得所述各组比对单元的内容比对结果;
根据所述各组比对单元的内容比对结果,获得所述两个文档的比对结果。
2.根据权利要求1所述的方法,其中,所述根据待比对的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元之前,还包括:
确定所述待比对的两个文档中各文档的文档格式;
对文档格式不为特定格式的文档进行格式转换处理,以获得文档格式为所述特定格式的文档,作为待比对的文档。
3.根据权利要求1所述的方法,其中,所述根据待比对的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元,包括:
根据所述各文档的文档布局,对所述各文档进行特征分析处理,以获得所述各文档的至少一个特征片段;
根据所述至少一个特征片段中各特征片段,进行文档对齐处理;
根据所述文档对齐处理的处理结果,获得所述各文档之间相互对应的至少两组比对单元。
4.根据权利要求3所述的方法,其中,所述根据所述各文档的文档布局,对所述各文档进行特征分析处理,以获得所述各文档的至少一个特征片段,包括:
根据所述各文档的文档布局,将所述各文档划分为至少一个内容片段;
对所述至少一个内容片段中各内容片段进行特征分析处理,以获得所述各文档的至少一个特征片段。
5.根据权利要求1所述的方法,其中,所述根据待比对的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元,还包括:
利用预先训练的光学字符识别OCR模型,对所述各文档中的图像进行字符识别处理,以获得所述图像中的图像识别字符;其中,所述OCR模型为利用所述待比对的两个文档所属应用场景的训练文档进行训练得到。
6.根据权利要求1-5中任一项所述的方法,其中,所述根据所述各组比对单元的内容比对结果,获得所述两个文档的比对结果,包括:
对所述各组比对单元的内容比对结果,进行修正处理;
根据所述修正处理之后的所述各组比对单元的内容比对结果,获得所述两个文档的比对结果。
7.根据权利要求6所述的方法,其中,所述对所述各组比对单元的内容比对结果,进行修正处理,包括:
获取内容比对结果为差异比对结果的各组比对单元的至少一个差异内容和所述至少一个差异内容中各差异内容所在位置;
根据所获取的各组比对单元的所述各差异内容和该差异内容所在位置,确定所述各差异内容的差异类型;
若差异内容的差异类型为特定类型,忽略该差异内容所对应的差异比对结果。
8.根据权利要求6所述的方法,其中,所述对所述各组比对单元的内容比对结果,进行修正处理,包括:
获取内容比对结果为差异比对结果的各组比对单元的至少一个差异内容;
若所获取的各组比对单元的差异内容为指定字符数量的差异内容,且所述指定字符数量的差异内容为基于OCR模型所识别,利用图像相似度模型,对所述指定字符数量的差异内容所属图像进行相似度识别处理,以确定所述指定字符数量的差异内容所属图像是否一致;
若所述指定字符数量的差异内容所属图像一致,忽略所述指定字符数量的差异内容所对应的差异比对结果。
9.一种文档比对装置,包括:
划分单元,用于根据待比对的两个文档中各文档的文档布局,对所述各文档进行区域划分处理,以获得所述各文档之间相互对应的至少两组比对单元;其中,所述文档布局包括布局标识、布局内容和布局位置中的至少一项;
内容单元,用于对所述至少两组比对单元中各组比对单元进行内容比对,以获得所述各组比对单元的内容比对结果;
结果单元,用于根据所述各组比对单元的内容比对结果,获得所述两个文档的比对结果。
10.根据权利要求9所述的装置,其中,所述划分单元,还用于
确定所述待比对的两个文档中各文档的文档格式;以及
对文档格式不为特定格式的文档进行格式转换处理,以获得文档格式为所述特定格式的文档,作为待比对的文档。
11.根据权利要求9所述的装置,其中,所述划分单元,具体用于
根据所述各文档的文档布局,对所述各文档进行特征分析处理,以获得所述各文档的至少一个特征片段;
根据所述至少一个特征片段中各特征片段,进行文档对齐处理;以及
根据所述文档对齐处理的处理结果,获得所述各文档之间相互对应的至少两组比对单元。
12.根据权利要求11所述的装置,其中,所述划分单元,具体用于
根据所述各文档的文档布局,将所述各文档划分为至少一个内容片段;以及
对所述至少一个内容片段中各内容片段进行特征分析处理,以获得所述各文档的至少一个特征片段。
13.根据权利要求9所述的装置,其中,所述划分单元,还用于
利用预先训练的光学字符识别OCR模型,对所述各文档中的图像进行字符识别处理,以获得所述图像中的图像识别字符;其中,所述OCR模型为利用所述待比对的两个文档所属应用场景的训练文档进行训练得到。
14.根据权利要求9-13中任一项所述的装置,其中,所述结果单元,具体用于
对所述各组比对单元的内容比对结果,进行修正处理;以及
根据所述修正处理之后的所述各组比对单元的内容比对结果,获得所述两个文档的比对结果。
15.根据权利要求14所述的装置,其中,所述结果单元,具体用于
获取内容比对结果为差异比对结果的各组比对单元的至少一个差异内容和所述至少一个差异内容中各差异内容所在位置;
根据所获取的各组比对单元的所述各差异内容和该差异内容所在位置,确定所述各差异内容的差异类型;
若差异内容的差异类型为特定类型,忽略该差异内容所对应的差异比对结果。
16.根据权利要求14所述的装置,其中,所述结果单元,具体用于
获取内容比对结果为差异比对结果的各组比对单元的至少一个差异内容;
若所获取的各组比对单元的差异内容为指定字符数量的差异内容,且所述指定字符数量的差异内容为基于OCR模型所识别,利用图像相似度模型,对所述指定字符数量的差异内容所属图像进行相似度识别处理,以确定所述指定字符数量的差异内容所属图像是否一致;
若所述指定字符数量的差异内容所属图像一致,忽略所述指定字符数量的差异内容所对应的差异比对结果。
17.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行根据权利要求1-8中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-8中任一项所述的方法。
19.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-8中任一项所述的方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011477927.6A CN112580308A (zh) | 2020-12-15 | 2020-12-15 | 文档比对方法、装置、电子设备及可读存储介质 |
JP2021103269A JP2021166070A (ja) | 2020-12-15 | 2021-06-22 | 文書比較方法、装置、電子機器、コンピュータ読取可能な記憶媒体及びコンピュータプログラム |
US17/552,149 US20220108556A1 (en) | 2020-12-15 | 2021-12-15 | Method of comparing documents, electronic device and readable storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011477927.6A CN112580308A (zh) | 2020-12-15 | 2020-12-15 | 文档比对方法、装置、电子设备及可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112580308A true CN112580308A (zh) | 2021-03-30 |
Family
ID=75135111
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011477927.6A Pending CN112580308A (zh) | 2020-12-15 | 2020-12-15 | 文档比对方法、装置、电子设备及可读存储介质 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20220108556A1 (zh) |
JP (1) | JP2021166070A (zh) |
CN (1) | CN112580308A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113128195A (zh) * | 2021-04-23 | 2021-07-16 | 达而观信息科技(上海)有限公司 | 一种金融行业基于文档结构自动寻找局部差异点的方法和装置 |
CN113176979A (zh) * | 2021-05-24 | 2021-07-27 | 平安国际智慧城市科技股份有限公司 | 应用程序异常监控方法、装置、计算机设备及存储介质 |
CN113408251A (zh) * | 2021-06-30 | 2021-09-17 | 北京百度网讯科技有限公司 | 版式文档的处理方法、装置、电子设备及可读存储介质 |
CN113468864A (zh) * | 2021-06-09 | 2021-10-01 | 广西电网有限责任公司 | 一种长文档的快速比对方法、装置和存储介质 |
CN114153796A (zh) * | 2021-12-02 | 2022-03-08 | 银清科技有限公司 | 文件异常检测方法、装置及系统 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11423459B1 (en) * | 2019-09-06 | 2022-08-23 | Mwg, Llc | Extraction system and related methods |
US12086551B2 (en) * | 2021-06-23 | 2024-09-10 | Microsoft Technology Licensing, Llc | Semantic difference characterization for documents |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109597913A (zh) * | 2018-11-05 | 2019-04-09 | 东软集团股份有限公司 | 对齐文档图片的方法,装置,存储介质和电子设备 |
CN111104786A (zh) * | 2018-10-26 | 2020-05-05 | 北京金山办公软件股份有限公司 | 一种文档追踪的方法、装置、计算机存储介质及终端 |
CN111737965A (zh) * | 2020-05-29 | 2020-10-02 | 北京百度网讯科技有限公司 | 文档的比对方法、装置、电子设备和可读存储介质 |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7113943B2 (en) * | 2000-12-06 | 2006-09-26 | Content Analyst Company, Llc | Method for document comparison and selection |
US6547635B1 (en) * | 2001-03-30 | 2003-04-15 | Edward J. Gildea | Doll bath |
US20030163785A1 (en) * | 2002-02-28 | 2003-08-28 | Hui Chao | Composing unique document layout for document differentiation |
US20040223648A1 (en) * | 2003-05-05 | 2004-11-11 | Keith Hoene | Determining differences between documents |
JP2006092344A (ja) * | 2004-09-24 | 2006-04-06 | Fuji Xerox Co Ltd | 重複文書検出装置、重複文書検出方法および重複文書検出プログラム |
US8332401B2 (en) * | 2004-10-01 | 2012-12-11 | Ricoh Co., Ltd | Method and system for position-based image matching in a mixed media environment |
US7860318B2 (en) * | 2004-11-09 | 2010-12-28 | Intelli-Check, Inc | System and method for comparing documents |
JP4918776B2 (ja) * | 2005-10-24 | 2012-04-18 | 富士通株式会社 | 電子文書比較プログラム、電子文書比較装置および電子文書比較方法 |
US20070294610A1 (en) * | 2006-06-02 | 2007-12-20 | Ching Phillip W | System and method for identifying similar portions in documents |
US20140006922A1 (en) * | 2008-04-11 | 2014-01-02 | Alex Smith | Comparison output of electronic documents |
US8196030B1 (en) * | 2008-06-02 | 2012-06-05 | Pricewaterhousecoopers Llp | System and method for comparing and reviewing documents |
US8285734B2 (en) * | 2008-10-29 | 2012-10-09 | International Business Machines Corporation | Comparison of documents based on similarity measures |
US9514103B2 (en) * | 2010-02-05 | 2016-12-06 | Palo Alto Research Center Incorporated | Effective system and method for visual document comparison using localized two-dimensional visual fingerprints |
US9552340B2 (en) * | 2012-10-09 | 2017-01-24 | Robert E. Marsh | Method and computer-readable media for comparing electronic documents |
US9922247B2 (en) * | 2013-12-18 | 2018-03-20 | Abbyy Development Llc | Comparing documents using a trusted source |
US9235758B1 (en) * | 2014-06-30 | 2016-01-12 | Adobe Systems Incorporated | Robust method to find layout similarity between two documents |
US10318563B2 (en) * | 2017-08-23 | 2019-06-11 | Lead Technologies, Inc. | Apparatus, method, and computer-readable medium for recognition of a digital document |
JP6885318B2 (ja) * | 2017-12-15 | 2021-06-16 | 京セラドキュメントソリューションズ株式会社 | 画像処理装置 |
US20200117893A1 (en) * | 2018-10-16 | 2020-04-16 | International Business Machines Corporation | Determining differences in documents to generate a visualization highlighting the differences between documents |
US11416700B1 (en) * | 2019-12-05 | 2022-08-16 | American Express Travel Related Services Company, Inc. | Computer-based systems configured for machine learning version control of digital objects and methods of use thereof |
-
2020
- 2020-12-15 CN CN202011477927.6A patent/CN112580308A/zh active Pending
-
2021
- 2021-06-22 JP JP2021103269A patent/JP2021166070A/ja active Pending
- 2021-12-15 US US17/552,149 patent/US20220108556A1/en active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111104786A (zh) * | 2018-10-26 | 2020-05-05 | 北京金山办公软件股份有限公司 | 一种文档追踪的方法、装置、计算机存储介质及终端 |
CN109597913A (zh) * | 2018-11-05 | 2019-04-09 | 东软集团股份有限公司 | 对齐文档图片的方法,装置,存储介质和电子设备 |
CN111737965A (zh) * | 2020-05-29 | 2020-10-02 | 北京百度网讯科技有限公司 | 文档的比对方法、装置、电子设备和可读存储介质 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113128195A (zh) * | 2021-04-23 | 2021-07-16 | 达而观信息科技(上海)有限公司 | 一种金融行业基于文档结构自动寻找局部差异点的方法和装置 |
CN113176979A (zh) * | 2021-05-24 | 2021-07-27 | 平安国际智慧城市科技股份有限公司 | 应用程序异常监控方法、装置、计算机设备及存储介质 |
CN113176979B (zh) * | 2021-05-24 | 2022-11-04 | 深圳赛安特技术服务有限公司 | 应用程序异常监控方法、装置、计算机设备及存储介质 |
CN113468864A (zh) * | 2021-06-09 | 2021-10-01 | 广西电网有限责任公司 | 一种长文档的快速比对方法、装置和存储介质 |
CN113408251A (zh) * | 2021-06-30 | 2021-09-17 | 北京百度网讯科技有限公司 | 版式文档的处理方法、装置、电子设备及可读存储介质 |
CN113408251B (zh) * | 2021-06-30 | 2023-08-18 | 北京百度网讯科技有限公司 | 版式文档的处理方法、装置、电子设备及可读存储介质 |
CN114153796A (zh) * | 2021-12-02 | 2022-03-08 | 银清科技有限公司 | 文件异常检测方法、装置及系统 |
Also Published As
Publication number | Publication date |
---|---|
US20220108556A1 (en) | 2022-04-07 |
JP2021166070A (ja) | 2021-10-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112580308A (zh) | 文档比对方法、装置、电子设备及可读存储介质 | |
US10846553B2 (en) | Recognizing typewritten and handwritten characters using end-to-end deep learning | |
CN110334346B (zh) | 一种pdf文件的信息抽取方法和装置 | |
US20220270382A1 (en) | Method and apparatus of training image recognition model, method and apparatus of recognizing image, and electronic device | |
US10915788B2 (en) | Optical character recognition using end-to-end deep learning | |
WO2020238054A1 (zh) | Pdf文档中图表的定位方法、装置及计算机设备 | |
US8838657B1 (en) | Document fingerprints using block encoding of text | |
CN114821622A (zh) | 文本抽取方法、文本抽取模型训练方法、装置及设备 | |
CN112396049A (zh) | 文本纠错方法、装置、计算机设备及存储介质 | |
US11599727B2 (en) | Intelligent text cleaning method and apparatus, and computer-readable storage medium | |
EP4138050A1 (en) | Table generating method and apparatus, electronic device, storage medium and product | |
CN113627439A (zh) | 文本结构化处理方法、处理装置、电子设备以及存储介质 | |
CN113657395B (zh) | 文本识别方法、视觉特征提取模型的训练方法及装置 | |
CN113408251B (zh) | 版式文档的处理方法、装置、电子设备及可读存储介质 | |
US20230052906A1 (en) | Entity Recognition Method and Apparatus, and Computer Program Product | |
US20230196805A1 (en) | Character detection method and apparatus , model training method and apparatus, device and storage medium | |
CN113408660A (zh) | 图书聚类方法、装置、设备和存储介质 | |
CN113361523A (zh) | 文本确定方法、装置、电子设备和计算机可读存储介质 | |
CN110532449B (zh) | 一种业务文档的处理方法、装置、设备和存储介质 | |
CN114419636A (zh) | 文本识别方法、装置、设备以及存储介质 | |
CN114092948A (zh) | 一种票据识别方法、装置、设备以及存储介质 | |
RU2597163C2 (ru) | Сравнение документов с использованием достоверного источника | |
CN111832258B (zh) | 文档的分割方法、装置及电子设备 | |
US20150186718A1 (en) | Segmentation of Overwritten Online Handwriting Input | |
CN116311276A (zh) | 文档图像矫正方法、装置、电子设备及可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |