CN111507265B - 表格关键点检测模型训练方法、装置、设备以及存储介质 - Google Patents

表格关键点检测模型训练方法、装置、设备以及存储介质 Download PDF

Info

Publication number
CN111507265B
CN111507265B CN202010305779.3A CN202010305779A CN111507265B CN 111507265 B CN111507265 B CN 111507265B CN 202010305779 A CN202010305779 A CN 202010305779A CN 111507265 B CN111507265 B CN 111507265B
Authority
CN
China
Prior art keywords
sample
document image
key point
table key
detection result
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010305779.3A
Other languages
English (en)
Other versions
CN111507265A (zh
Inventor
曲福
庞敏辉
韩光耀
姜泽青
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010305779.3A priority Critical patent/CN111507265B/zh
Publication of CN111507265A publication Critical patent/CN111507265A/zh
Application granted granted Critical
Publication of CN111507265B publication Critical patent/CN111507265B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/416Extracting the logical structure, e.g. chapters, sections or page numbers; Identifying elements of the document, e.g. authors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/413Classification of content, e.g. text, photographs or tables

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本申请实施例公开了表格关键点检测模型训练方法、装置、设备以及存储介质,涉及云计算领域、人工智能技术领域。该方法的一具体实施方式包括:构建多层卷积神经网络;构建样本文档影像集,其中,样本文档影像集中的样本文档影像上标注有真实表格关键点;将样本文档影像作为输入,将样本文档影像的表格关键点作为输出,对多层卷积神经网络和多个卷积层进行训练,得到表格关键点检测模型。该实施方式提供了一种基于深度学习的表格关键点检测技术,训练出一个深度学习模型来检测表格关键点,提升了表格关键点检测的鲁棒性。

Description

表格关键点检测模型训练方法、装置、设备以及存储介质
技术领域
本申请实施例涉及计算机技术领域,具体涉及人工智能技术领域。
背景技术
随着AI(Artificial Intelligence,人工智能)技术的不断进步,使用AI来进行文档影像的智能分析越来越多。AI可以对文档影像进行方向和歪斜矫正、布局分析、内容识别等等,这些能力可以极大地方便各类涉及对文档影像进行录入、审核等的工作人员,极大地提升各类业务流程的智能化。
针对含有表格的文档影像,其中进行方向和歪斜矫正可以基于表格关键点检测来实现。目前,表格关键点检测方式主要是基于直线检测的关键点检测技术,通过霍夫变换或腐蚀膨胀等方式检测出表格的边框直线,通过边框直线的交点确定表格关键点。
发明内容
本申请实施例提出了表格关键点检测模型训练方法、装置、设备以及存储介质。
第一方面,本申请实施例提出了一种表格关键点检测模型训练方法,包括:构建多层卷积神经网络;构建样本文档影像集,其中,样本文档影像集中的样本文档影像上标注有真实表格关键点;将样本文档影像作为输入,将样本文档影像的表格关键点作为输出,对多层卷积神经网络和多个卷积层进行训练,得到表格关键点检测模型。
第二方面,本申请实施例提出了一种表格关键点检测模型训练装置,包括:网络构建模块,被配置成构建多层卷积神经网络;样本构建模块,被配置成构建样本文档影像集,其中,样本文档影像集中的样本文档影像上标注有真实表格关键点;模型训练模块,被配置成将样本文档影像作为输入,将样本文档影像的表格关键点作为输出,对多层卷积神经网络和多个卷积层进行训练,得到表格关键点检测模型。
第三方面,本申请实施例提出了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。
第四方面,本申请实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。
本申请实施例提供的表格关键点检测模型训练方法、装置、设备以及存储介质,首先构建多层卷积神经网络和样本文档影像集;然后将样本文档影像作为输入,将样本文档影像的表格关键点作为输出,对多层卷积神经网络和多个卷积层进行训练,得到表格关键点检测模型。提供了一种基于深度学习的表格关键点检测技术,训练出一个深度学习模型来检测表格关键点,提升了表格关键点检测的鲁棒性。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显。附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是本申请可以应用于其中的示例性系统架构;
图2是根据本申请的表格关键点检测模型训练方法的一个实施例的流程图;
图3是根据本申请的表格关键点检测模型训练方法的又一个实施例的流程图;
图4是根据本申请的表格关键点检测模型使用方法的一个实施例的流程图;
图5是根据本申请的表格关键点检测模型训练装置的一个实施例的结构示意图;
图6是用来实现本申请实施例的表格关键点检测模型训练方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的表格关键点检测模型训练方法或表格关键点检测模型训练装置的实施例的示例性系统架构100。
如图1所示,系统架构100中可以包括存储设备101、网络102和服务器103。网络102用以在存储设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
存储设备101可以通过网络102与服务器103交互。存储设备101中可以提供样本文档影像集,包括但不限于数据库、用户终端等等。
服务器103可以是具有模型计算能力的独立服务器,也可以是具有计算能力的处理模块。例如,服务器103可以是模型服务器。模型服务器可以对从存储设备101获取到的样本文档影像集等数据进行分析等处理,并生成处理结果(例如表格关键点检测模型)。
需要说明的是,服务器103可以是硬件,也可以是软件。当服务器103为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器103为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是,本申请实施例所提供的表格关键点检测模型训练方法一般由服务器103执行,相应地,表格关键点检测模型训练装置一般设置于服务器103中。
应该理解,图1中的存储设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的存储设备、网络和服务器。在服务器103中存储有样本文档影像集的情况下,系统架构100可以不设置存储设备101和网络102。
继续参考图2,其示出了根据本申请的表格关键点检测模型训练方法的一个实施例的流程200。该表格关键点检测模型训练方法包括以下步骤:
步骤201,构建多层卷积神经网络。
在本实施例中,表格关键点检测模型训练方法的执行主体(例如图1所示的服务器103)可以构建多层卷积神经网络。其中,多层卷积神经网络可以是包含卷积计算且具有深度结构的神经网络。多层卷积神经网络可以包括多个卷积层,且不同卷积层可以具有不同大小的卷积核,以使多层卷积网络能够输出多尺度特征图。
步骤202,构建样本文档影像集。
在本实施例中,上述执行主体可以构建样本文档影像集。其中,样本文档影像集可以包括大量样本文档影像。样本文档影像中可以含有表格,是经过真实表格关键点标注的文档影像。表格关键点可以包括表格的四个顶点。
通常,上述执行主体可以获取文档影像和文档影像的表格关键点坐标;基于文档影像的表格关键点坐标对文档影像进行标注,生成样本文档影像,以及添加到样本文档影像集中,以实现对样本文档影像集的构建。
此外,通过对文档影像进行数据增广,能够实现对样本文档影像集的扩充。例如,上述执行主体可以首先对文档影像进行几何变换,生成增广文档影像;之后确定文档影像到增广文档影像的变换矩阵;然后基于变换矩阵对文档影像的表格关键点坐标进行变换,得到增广文档影像的表格关键点坐标;最后基于增广文档影像的表格关键点坐标对增广文档影像进行标注,生成样本文档影像,以及添加到样本文档影像集中。其中,几何变换可以包括但不限于平移、旋转、缩放等变换。变换矩阵可以是能够将文档影像映射成增广文档影像的矩阵,存储文档影像上的点到增广文档影像上的点的映射关系。因此,基于变换矩阵能够将文档影像的表格关键点坐标映射成增广文档影像的表格关键点坐标。
步骤203,将样本文档影像作为输入,将样本文档影像的表格关键点作为输出,对多层卷积神经网络和多个卷积层进行训练,得到表格关键点检测模型。
在本实施例中,上述执行主体可以将样本文档影像作为输入,将样本文档影像的表格关键点作为输出,对多层卷积神经网络和多个卷积层进行有监督训练,得到表格关键点检测模型。
通常,多层卷积神经网络可以是输出表格关键点检测结果的一个分支,多个卷积层可以是输出表格关键点检测结果的另一个分支。例如,上述执行主体可以利用多层卷积神经网络输出一个表格关键点检测结果,并将表格关键点检测结果输入至多个卷积层,再输出一个表格关键点检测结果。又例如,上述执行主体可以利用多层卷积神经网络输出一个表格关键点检测结果,利用该表格关键点检测结果对样本文档影像进行切图,并将切图输入至多个卷积层,再输出一个表格关键点检测结果。其中,表格关键点检测结果可以是表征文档影像中的表格关键点的位置的信息。
本申请实施例提供的表格关键点检测模型训练方法,首先构建多层卷积神经网络和样本文档影像集;然后将样本文档影像作为输入,将样本文档影像的表格关键点作为输出,对多层卷积神经网络和多个卷积层进行训练,得到表格关键点检测模型。提供了一种基于深度学习的表格关键点检测技术,训练出一个深度学习模型来检测表格关键点,提升了表格关键点检测的鲁棒性。
进一步参考图3,其示出了根据本申请的表格关键点检测模型训练方法的又一个实施例的流程300。该表格关键点检测模型训练方法包括以下步骤:
步骤301,构建多层卷积神经网络。
步骤302,构建样本文档影像集。
在本实施例中,步骤301-302具体操作已在图2所示的实施例中步骤201-202进行了详细的介绍,在此不再赘述。
步骤303,将样本文档影像输入多层卷积神经网络,得到样本全局特征图和第一样本表格关键点检测结果。
在本实施例中,表格关键点检测模型训练方法的执行主体(例如图1所示的服务器103)可以将样本文档影像输入多层卷积神经网络,得到样本全局特征图和第一样本表格关键点检测结果。其中,多层卷积神经网络可以是输出表格关键点检测结果的一个分支。
样本全局特征图可以是多层卷积神经网络的一个卷积层输出的特定尺度(例如W×H)的特征图。通常,多层卷积神经网络的不同卷积层可以输出不同尺度的特征图,而越靠后的卷积层输出的特征图的尺度越小,其具有的高维特征越多。因此,为了使样本全局特征图具有较多的高维特征,可以选取相对靠后的卷积层的输出作为样本全局特征图。
第一样本表格关键点检测结果可以是多层卷积神经网络的输出层输出的表格关键点检测结果。其中,第一样本表格关键点检测结果可以是多层卷积神经网络检测的样本文档影像中的表格关键点的位置的信息。通常,多层卷积神经网络中可以包括全连接层,也可以不包括全连接层。在包括全连接层的情况下,其输出的第一样本表格关键点检测结果可以是表格关键点的坐标。在不包括全连接层的情况下,其输出的第一样本表格关键点检测结果可以是热力图。热力图上的各个点的热力值可以表征各个点是表格关键点的概率,热力值越大,对应的点是表格关键点的概率就越大。
在本实施例的一些可选的实现方式中,上述执行主体可以将样本文档影像输入多层卷积神经网络,从多层卷积神经网络的卷积层获取与切图尺寸一致的样本全局特征图,以及从多层卷积神经网络的输出层获取第一样本表格关键点检测结果。通常,切图尺寸是预先确定的。由于多层卷积神经网络的不同卷积层输出不同尺度的特征图,这里选取输出与切图尺寸一致的卷积层输出的特征图作为样本全局特征图,以便于样本全局特征图与切图的拼接。
步骤304,基于第一样本表格关键点检测结果对样本文档影像进行切图,得到样本表格关键点切图。
在本实施例中,上述执行主体可以基于第一样本表格关键点检测结果对样本文档影像进行切图,得到样本表格关键点切图。
通常,上述执行主体可以从样本文档影像中切分出以第一样本表格关键点检测结果指示的表格关键点为中心,且尺寸与样本全局特征图相同的样本表格关键点切图。
步骤305,将样本全局特征图与样本表格关键点切图拼接,得到样本拼接图。
在本实施例中,上述执行主体可以将样本全局特征图与样本表格关键点切图拼接,得到样本拼接图。
通常,样本全局特征图和样本表格关键点切图均具有三个维度,即通道数、宽度和高度。样本全局特征图与样本表格关键点切图可以在通道数维度上进行拼接。例如,若样本全局特征图是4×W×H的图像,样本表格关键点切图是3×W×H的图像,那么由样本全局特征图与样本表格关键点切图拼接而成的样本拼接图可以是7×W×H的图像。其中,4是样本全局特征图的通道数,W是样本全局特征图、样本表格关键点切图和样本拼接图的宽度,H是样本全局特征图、样本表格关键点切图和样本拼接图的高度。
步骤306,将样本拼接图输入多个卷积层,得到第二样本表格关键点检测结果。
在本实施例中,上述执行主体可以将样本拼接图输入多个卷积层,得到第二样本表格关键点检测结果。其中,多个卷积层可以是输出表格关键点检测结果的另一个分支。多个卷积层输出的第二样本表格关键点检测结果可以是热力图。热力图上的各个点的热力值可以表征各个点是表格关键点的概率,热力值越大,对应的点是表格关键点的概率就越大。
步骤307,结合第一样本表格关键点检测结果与样本文档影像的表格关键点的差异,以及第二样本表格关键点检测结果与样本文档影像的表格关键点的差异,更新多层卷积神经网络和多个卷积层的参数,得到表格关键点检测模型。
在本实施例中,上述执行主体可以结合第一样本表格关键点检测结果与样本文档影像的表格关键点的差异,以及第二样本表格关键点检测结果与样本文档影像的表格关键点的差异,更新多层卷积神经网络和多个卷积层的参数,得到表格关键点检测模型。
在本实施例的一些可选的实现方式中,上述执行主体可以首先将第一样本表格关键点检测结果、第二样本表格关键点检测结果和样本文档影像的真实表格关键点输入损失函数,得到损失;然后选取优化器更新多层卷积神经网络和多个卷积层的参数,直至损失最小化且模型收敛。其中,损失函数可以例如是MSE(Mean Squared Error,均方误差)。通过损失函数计算的损失可以由两个分支检测的表格关键点检测结果与真实结果的差异共同确定。优化器可以包括但不限于SGD(Stochastic gradient descent,随机梯度下降算法)、adam(Adaptive Moment Estimation,自适应矩阵估计)优化算法等等。
从图3中可以看出,与图2对应的实施例相比,本实施例中的表格关键点检测模型训练方法的流程300突出了训练步骤。由此,在本实施例描述的方案中,通过将第一分支预测的表格关键点附近的切图与全局特征图合并构建第二分支,结合两个分支同时进行优化,解决了表格关键点位置分散较远而难以准确定位的技术问题,使得表格关键点检测更加准确、更加高效。
进一步参考图4,其示出了根据本申请的表格关键点检测模型使用方法的一个实施例的流程400。该表格关键点检测模型使用方法包括以下步骤:
步骤401,将预测文档影像输入表格关键点检测模型中的多层卷积神经网络,得到预测全局特征图和第一预测表格关键点检测结果。
在本实施例中,上述执行主体可以将预测文档影像输入表格关键点检测模型中的多层卷积神经网络,得到预测全局特征图和第一预测表格关键点检测结果。其中,预测文档影像中可以含有表格。多层卷积神经网络可以是输出表格关键点检测结果的一个分支。
多层卷积神经网络的一个卷积层可以输出预测全局特征图。预测全局特征图可以是包括预测文档影像的高维特征的特征图。多层卷积神经网络的输出层可以输出第一预测表格关键点检测结果。第一预测表格关键点检测结果可以是包括多层卷积神经网络检测的预测文档影像中的表格关键点的位置的信息。
步骤402,基于第一预测表格关键点检测结果对预测文档影像进行切图,得到预测表格关键点切图。
在本实施例中,上述执行主体可以基于第一预测表格关键点检测结果对预测文档影像进行切图,得到预测表格关键点切图。
通常,上述执行主体可以从预测文档影像中切分出以第一预测关键点检测结果指示的表格关键点为中心,且尺寸与预测全局特征图相同的预测表格关键点切图。
步骤403,将预测全局特征图与预测表格关键点切图拼接,得到预测拼接图。
在本实施例中,上述执行主体可以将预测全局特征图与预测表格关键点切图拼接,得到预测拼接图。
通常,预测全局特征图和预测表格关键点切图均具有三个维度,即通道数、宽度和高度。预测全局特征图与预测表格关键点切图可以在通道数维度上进行拼接。例如,若预测全局特征图是4×W×H的图像,预测表格关键点切图是3×W×H的图像,那么由预测全局特征图与预测表格关键点切图拼接而成的预测拼接图可以是7×W×H的图像。其中,4是预测全局特征图的通道数,W是预测全局特征图、预测表格关键点切图和预测拼接图的宽度,H是预测全局特征图、预测表格关键点切图和预测拼接图的高度。
步骤404,将预测拼接图输入表格关键点检测模型中的多个卷积层,得到第二预测表格关键点检测结果,作为预测文档影像的表格关键点检测结果。
在本实施例中,上述执行主体可以将预测拼接图输入多个卷积层,得到第二预测表格关键点检测结果,作为预测文档影像的表格关键点检测结果。其中,多个卷积层可以是输出表格关键点检测结果的另一个分支。多个卷积层输出的第二预测表格关键点检测结果可以是热力图。热力图上的各个点的热力值可以表征各个点是表格关键点的概率,热力值越大,对应的点是表格关键点的概率就越大。
本申请实施例提供的表格关键点检测模型使用方法,首先将预测文档影像输入表格关键点检测模型中的多层卷积神经网络,得到预测全局特征图和第一预测表格关键点检测结果;之后基于第一预测表格关键点检测结果对预测文档影像进行切图,得到预测表格关键点切图;然后将预测全局特征图与预测表格关键点切图拼接,得到预测拼接图;最后将预测拼接图输入表格关键点检测模型中的多个卷积层,得到第二预测表格关键点检测结果,作为预测文档影像的表格关键点检测结果。第一分支预测的表格关键点附近的切图包括表格的局部信息,第一分支输出的全局特征图包括表格的全局信息。通过将表格的局部信息与全局信息合并来再次进行表格关键点检测,提升了表格关键点检测的效果。
进一步地,本申请实施例提供的表格关键点检测模型使用方法可以集成到各种文档智能处理平台中,作为平台功能的扩展,帮助平台在矫正、检测、识别等任务中获取更好的效果。
进一步参考图5,作为对上述各图所示方法的实现,本申请提供了一种表格关键点检测模型训练装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的表格关键点检测模型训练装置500可以包括:网络构建模块501、样本构建模块502和模型训练模块503。其中,网络构建模块501,被配置成构建多层卷积神经网络;样本构建模块502,被配置成构建样本文档影像集,其中,样本文档影像集中的样本文档影像上标注有真实表格关键点;模型训练模块503,被配置成将样本文档影像作为输入,将样本文档影像的表格关键点作为输出,对多层卷积神经网络和多个卷积层进行训练,得到表格关键点检测模型。
在本实施例中,表格关键点检测模型训练装置500中:网络构建模块501、样本构建模块502和模型训练模块503的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-203的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,模型训练模块503包括:第一样本检测子模块(图中未示出),被配置成将样本文档影像输入多层卷积神经网络,得到样本全局特征图和第一样本表格关键点检测结果;样本切图子模块(图中未示出),被配置成基于第一样本表格关键点检测结果对样本文档影像进行切图,得到样本表格关键点切图;图片拼接子模块(图中未示出),被配置成将样本全局特征图与样本表格关键点切图拼接,得到样本拼接图;第二样本检测子模块(图中未示出),被配置成将样本拼接图输入多个卷积层,得到第二样本表格关键点检测结果;参数更新子模块(图中未示出),被配置成结合第一样本表格关键点检测结果与样本文档影像的表格关键点的差异,以及第二样本表格关键点检测结果与样本文档影像的表格关键点的差异,更新多层卷积神经网络和多个卷积层的参数。
在本实施例的一些可选的实现方式中,第一样本检测子模块进一步被配置成:将样本文档影像输入多层卷积神经网络,从多层卷积神经网络的卷积层获取与切图尺寸一致的样本全局特征图,以及从多层卷积神经网络的输出层获取第一样本表格关键点检测结果。
在本实施例的一些可选的实现方式中,样本切图子模块进一步被配置成:从样本文档影像中切分出以第一样本表格关键点检测结果指示的表格关键点为中心,且尺寸与样本全局特征图相同的样本表格关键点切图。
在本实施例的一些可选的实现方式中,参数更新子模块进一步被配置成:将第一样本表格关键点检测结果、第二样本表格关键点检测结果和样本文档影像的真实表格关键点输入损失函数,得到损失;选取优化器更新多层卷积神经网络和多个卷积层的参数,直至损失最小化且模型收敛。
在本实施例的一些可选的实现方式中,样本构建模块502进一步被配置成:获取文档影像和文档影像的表格关键点坐标;基于文档影像的表格关键点坐标对文档影像进行标注,生成样本文档影像,以及添加到样本文档影像集中。
在本实施例的一些可选的实现方式中,样本构建模块502进一步被配置成:对文档影像进行几何变换,生成增广文档影像;确定文档影像到增广文档影像的变换矩阵;基于变换矩阵对文档影像的表格关键点坐标进行变换,得到增广文档影像的表格关键点坐标;基于增广文档影像的表格关键点坐标对增广文档影像进行标注,生成样本文档影像,以及添加到样本文档影像集中。
在本实施例的一些可选的实现方式中,表格关键点检测模型训练装置500还包括:第一表格检测模块(图中未示出),被配置成将预测文档影像输入表格关键点检测模型中的多层卷积神经网络,得到预测全局特征图和第一预测表格关键点检测结果;影像切图模块(图中未示出),被配置成基于第一预测表格关键点检测结果对预测文档影像进行切图,得到预测表格关键点切图;图片拼接模块(图中未示出),被配置成将预测全局特征图与预测表格关键点切图拼接,得到预测拼接图;第二表格检测模块(图中未示出),被配置成将预测拼接图输入表格关键点检测模型中的多个卷积层,得到第二预测表格关键点检测结果,作为预测文档影像的表格关键点检测结果。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图6所示,是根据本申请实施例表格关键点检测模型训练方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示,该电子设备包括:一个或多个处理器601、存储器602,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。
存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的表格关键点检测模型训练方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的表格关键点检测模型训练方法。
存储器602作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的表格关键点检测模型训练方法对应的程序指令/模块(例如,附图5所示的网络构建模块501、样本构建模块502和模型训练模块503)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的表格关键点检测模型训练方法。
存储器602可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据表格关键点检测模型训练方法的电子设备的使用所创建的数据等。此外,存储器602可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器602可选包括相对于处理器601远程设置的存储器,这些远程存储器可以通过网络连接至表格关键点检测模型训练方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
表格关键点检测模型训练方法的电子设备还可以包括:输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接,图6中以通过总线连接为例。
输入装置603可接收输入的数字或字符信息,以及产生与表格关键点检测模型训练方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请的技术方案,首先构建多层卷积神经网络和样本文档影像集;然后将样本文档影像作为输入,将样本文档影像的表格关键点作为输出,对多层卷积神经网络和多个卷积层进行训练,得到表格关键点检测模型。提供了一种基于深度学习的表格关键点检测技术,训练出一个深度学习模型来检测表格关键点,提升了表格关键点检测的鲁棒性。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。

Claims (18)

1.一种表格关键点检测模型训练方法,包括:
构建多层卷积神经网络;
构建样本文档影像集,其中,所述样本文档影像集中的样本文档影像上标注有真实表格关键点;
将所述样本文档影像作为输入,将所述样本文档影像的表格关键点作为输出,对所述多层卷积神经网络和多个卷积层进行训练,得到表格关键点检测模型,其中,利用所述多层卷积神经网络输出样本全局特征图和第一样本表格关键点检测结果,利用所述第一样本表格关键点检测结果对所述样本文档影像进行切图,并将得到的切图与所述样本全局特征图拼接后输入至所述多个卷积层,输出第二样本表格关键点检测结果。
2.根据权利要求1所述的方法,其中,所述将所述样本文档影像作为输入,将所述样本文档影像的表格关键点作为输出,对所述多层卷积神经网络和多个卷积层进行训练,包括:
将所述样本文档影像输入所述多层卷积神经网络,得到样本全局特征图和第一样本表格关键点检测结果;
基于所述第一样本表格关键点检测结果对所述样本文档影像进行切图,得到样本表格关键点切图;
将所述样本全局特征图与所述样本表格关键点切图拼接,得到样本拼接图;
将所述样本拼接图输入所述多个卷积层,得到第二样本表格关键点检测结果;
结合所述第一样本表格关键点检测结果与所述样本文档影像的表格关键点的差异,以及所述第二样本表格关键点检测结果与所述样本文档影像的表格关键点的差异,更新所述多层卷积神经网络和所述多个卷积层的参数。
3.根据权利要求2所述的方法,其中,所述将所述样本文档影像输入所述多层卷积神经网络,得到样本全局特征图和第一样本表格关键点检测结果,包括:
将所述样本文档影像输入所述多层卷积神经网络,从所述多层卷积神经网络的卷积层获取与切图尺寸一致的所述样本全局特征图,以及从所述多层卷积神经网络的输出层获取所述第一样本表格关键点检测结果。
4.根据权利要求2所述的方法,其中,所述基于所述第一样本表格关键点检测结果对所述样本文档影像进行切图,得到样本表格关键点切图,包括:
从所述样本文档影像中切分出以所述第一样本表格关键点检测结果指示的表格关键点为中心,且尺寸与所述样本全局特征图相同的样本表格关键点切图。
5.根据权利要求2所述的方法,其中,所述结合所述第一样本表格关键点检测结果与所述样本文档影像的表格关键点的差异,以及所述第二样本表格关键点检测结果与所述样本文档影像的表格关键点的差异,更新所述多层卷积神经网络和所述多个卷积层的参数,包括:
将所述第一样本表格关键点检测结果、所述第二样本表格关键点检测结果和所述样本文档影像的真实表格关键点输入损失函数,得到损失;
选取优化器更新所述多层卷积神经网络和所述多个卷积层的参数,直至所述损失最小化且模型收敛。
6.根据权利要求1所述的方法,其中,所述构建样本文档影像集,包括:
获取文档影像和所述文档影像的表格关键点坐标;
基于所述文档影像的表格关键点坐标对所述文档影像进行标注,生成所述样本文档影像,以及添加到所述样本文档影像集中。
7.根据权利要求6所述的方法,其中,所述构建样本文档影像集,还包括:
对所述文档影像进行几何变换,生成增广文档影像;
确定所述文档影像到所述增广文档影像的变换矩阵;
基于所述变换矩阵对所述文档影像的表格关键点坐标进行变换,得到所述增广文档影像的表格关键点坐标;
基于所述增广文档影像的表格关键点坐标对所述增广文档影像进行标注,生成所述样本文档影像,以及添加到所述样本文档影像集中。
8.根据权利要求2-5之一所述的方法,其中,所述方法还包括:
将预测文档影像输入所述表格关键点检测模型中的所述多层卷积神经网络,得到预测全局特征图和第一预测表格关键点检测结果;
基于所述第一预测表格关键点检测结果对所述预测文档影像进行切图,得到预测表格关键点切图;
将所述预测全局特征图与所述预测表格关键点切图拼接,得到预测拼接图;
将所述预测拼接图输入所述表格关键点检测模型中的所述多个卷积层,得到第二预测表格关键点检测结果,作为所述预测文档影像的表格关键点检测结果。
9.一种表格关键点检测模型训练装置,包括:
网络构建模块,被配置成构建多层卷积神经网络;
样本构建模块,被配置成构建样本文档影像集,其中,所述样本文档影像集中的样本文档影像上标注有真实表格关键点;
模型训练模块,被配置成将所述样本文档影像作为输入,将所述样本文档影像的表格关键点作为输出,对所述多层卷积神经网络和多个卷积层进行训练,得到表格关键点检测模型,其中,利用所述多层卷积神经网络输出样本全局特征图和第一样本表格关键点检测结果,利用所述第一样本表格关键点检测结果对所述样本文档影像进行切图,并将得到的切图与所述样本全局特征图拼接后输入至所述多个卷积层,输出第二样本表格关键点检测结果。
10.根据权利要求9所述的装置,其中,所述模型训练模块包括:
第一样本检测子模块,被配置成将所述样本文档影像输入所述多层卷积神经网络,得到样本全局特征图和第一样本表格关键点检测结果;
样本切图子模块,被配置成基于所述第一样本表格关键点检测结果对所述样本文档影像进行切图,得到样本表格关键点切图;
图片拼接子模块,被配置成将所述样本全局特征图与所述样本表格关键点切图拼接,得到样本拼接图;
第二样本检测子模块,被配置成将所述样本拼接图输入所述多个卷积层,得到第二样本表格关键点检测结果;
参数更新子模块,被配置成结合所述第一样本表格关键点检测结果与所述样本文档影像的表格关键点的差异,以及所述第二样本表格关键点检测结果与所述样本文档影像的表格关键点的差异,更新所述多层卷积神经网络和所述多个卷积层的参数。
11.根据权利要求10所述的装置,其中,所述第一样本检测子模块进一步被配置成:
将所述样本文档影像输入所述多层卷积神经网络,从所述多层卷积神经网络的卷积层获取与切图尺寸一致的所述样本全局特征图,以及从所述多层卷积神经网络的输出层获取所述第一样本表格关键点检测结果。
12.根据权利要求10所述的装置,其中,所述样本切图子模块进一步被配置成:
从所述样本文档影像中切分出以所述第一样本表格关键点检测结果指示的表格关键点为中心,且尺寸与所述样本全局特征图相同的样本表格关键点切图。
13.根据权利要求10所述的装置,其中,所述参数更新子模块进一步被配置成:
将所述第一样本表格关键点检测结果、所述第二样本表格关键点检测结果和所述样本文档影像的真实表格关键点输入损失函数,得到损失;
选取优化器更新所述多层卷积神经网络和所述多个卷积层的参数,直至所述损失最小化且模型收敛。
14.根据权利要求9所述的装置,其中,所述样本构建模块进一步被配置成:
获取文档影像和所述文档影像的表格关键点坐标;
基于所述文档影像的表格关键点坐标对所述文档影像进行标注,生成所述样本文档影像,以及添加到所述样本文档影像集中。
15.根据权利要求14所述的装置,其中,所述样本构建模块进一步被配置成:
对所述文档影像进行几何变换,生成增广文档影像;
确定所述文档影像到所述增广文档影像的变换矩阵;
基于所述变换矩阵对所述文档影像的表格关键点坐标进行变换,得到所述增广文档影像的表格关键点坐标;
基于所述增广文档影像的表格关键点坐标对所述增广文档影像进行标注,生成所述样本文档影像,以及添加到所述样本文档影像集中。
16.根据权利要求10-13之一所述的装置,其中,所述装置还包括:
第一表格检测模块,被配置成将预测文档影像输入所述表格关键点检测模型中的所述多层卷积神经网络,得到预测全局特征图和第一预测表格关键点检测结果;
影像切图模块,被配置成基于所述第一预测表格关键点检测结果对所述预测文档影像进行切图,得到预测表格关键点切图;
图片拼接模块,被配置成将所述预测全局特征图与所述预测表格关键点切图拼接,得到预测拼接图;
第二表格检测模块,被配置成将所述预测拼接图输入所述表格关键点检测模型中的所述多个卷积层,得到第二预测表格关键点检测结果,作为所述预测文档影像的表格关键点检测结果。
17.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行权利要求1-8中任一项所述的方法。
CN202010305779.3A 2020-04-17 2020-04-17 表格关键点检测模型训练方法、装置、设备以及存储介质 Active CN111507265B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010305779.3A CN111507265B (zh) 2020-04-17 2020-04-17 表格关键点检测模型训练方法、装置、设备以及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010305779.3A CN111507265B (zh) 2020-04-17 2020-04-17 表格关键点检测模型训练方法、装置、设备以及存储介质

Publications (2)

Publication Number Publication Date
CN111507265A CN111507265A (zh) 2020-08-07
CN111507265B true CN111507265B (zh) 2023-07-25

Family

ID=71876220

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010305779.3A Active CN111507265B (zh) 2020-04-17 2020-04-17 表格关键点检测模型训练方法、装置、设备以及存储介质

Country Status (1)

Country Link
CN (1) CN111507265B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112966592A (zh) * 2021-03-03 2021-06-15 北京百度网讯科技有限公司 手部关键点检测方法、装置、设备和介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104077760A (zh) * 2014-03-19 2014-10-01 中科宇图天下科技有限公司 一种航空摄影测量的快速拼接系统及其实现方法
CN108334863A (zh) * 2018-03-09 2018-07-27 百度在线网络技术(北京)有限公司 身份认证方法、系统、终端和计算机可读存储介质

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10356027B2 (en) * 2016-10-03 2019-07-16 HYP3R Inc Location resolution of social media posts
CN110287854B (zh) * 2019-06-20 2022-06-10 北京百度网讯科技有限公司 表格的提取方法、装置、计算机设备和存储介质
CN110674815A (zh) * 2019-09-29 2020-01-10 四川长虹电器股份有限公司 基于深度学习关键点检测的发票图像畸变校正方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104077760A (zh) * 2014-03-19 2014-10-01 中科宇图天下科技有限公司 一种航空摄影测量的快速拼接系统及其实现方法
CN108334863A (zh) * 2018-03-09 2018-07-27 百度在线网络技术(北京)有限公司 身份认证方法、系统、终端和计算机可读存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
卷积神经网络在图像处理方面的应用;董叶豪;柯宗武;熊旭辉;;福建电脑(第05期);155-157 *

Also Published As

Publication number Publication date
CN111507265A (zh) 2020-08-07

Similar Documents

Publication Publication Date Title
US11854246B2 (en) Method, apparatus, device and storage medium for recognizing bill image
US20210201182A1 (en) Method and apparatus for performing structured extraction on text, device and storage medium
US11756332B2 (en) Image recognition method, apparatus, device, and computer storage medium
KR20210040301A (ko) 이미지 문답 방법, 장치, 기기, 저장매체 및 컴퓨터 프로그램
CN111739005B (zh) 图像检测方法、装置、电子设备及存储介质
US20120054601A1 (en) Methods and systems for automated creation, recognition and display of icons
CN113947147B (zh) 目标地图模型的训练方法、定位方法及相关装置
CN112308051B (zh) 文本框检测方法、装置、电子设备和计算机存储介质
CN111695519B (zh) 关键点定位方法、装置、设备以及存储介质
JP7142121B2 (ja) 文字認識の方法、装置、電子設備、コンピュータ可読記憶媒体、及びプログラム
JP7242994B2 (ja) ビデオイベント識別方法、装置、電子デバイス及び記憶媒体
CN113011155B (zh) 用于文本匹配的方法、装置、设备和存储介质
CN114511661A (zh) 图像渲染方法、装置、电子设备及存储介质
CN114792355B (zh) 虚拟形象生成方法、装置、电子设备和存储介质
CN111523467B (zh) 人脸跟踪方法和装置
KR20210065901A (ko) 이미지에서의 키 포인트 위치의 인식 방법, 장치, 전자기기 및 매체
CN111640103A (zh) 图像检测方法、装置、设备以及存储介质
CN114550313A (zh) 图像处理方法、神经网络及其训练方法、设备和介质
CN111507265B (zh) 表格关键点检测模型训练方法、装置、设备以及存储介质
EP3882817A2 (en) Method, apparatus and device for recognizing bill and storage medium
CN111833391B (zh) 图像深度信息的估计方法及装置
CN111767946B (zh) 医学影像分级模型训练及预测方法、装置、设备及介质
CN115809325B (zh) 文档处理模型训练方法、文档处理方法、装置及设备
CN111079059A (zh) 页面检查方法、装置、设备及计算机可读存储介质
CN110738261A (zh) 图像分类和模型训练方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant