CN115063822A - 文档检测方法、装置、电子设备及存储介质 - Google Patents

Abstract

本公开提供一种文档检测方法、装置、电子设备及存储介质，所述方法包括：获取待检测图像；将所述待检测图像输入至预先训练的角点和方向预测模型，以获取所述待检测图像的角点预测图和向量预测结果，其中，所述向量预测结果包括每个预测角点上的两个预测向量，所述两个预测向量分别为水平方向预测向量和垂直方向预测向量；根据所述角点预测图和所述向量预测结果，确定所述待检测图像对应的目标角点；根据所述目标角点的坐标值，采用透视变换从所述待检测图像中裁剪出文档图像。采用本公开的方案，能够利用向量预测结果补全缺失的角点，进而实现缺角和拍摄不全的文档页面的检测和拆分，提高缺角和拍摄不全的页面的检测效果。

Description

文档检测方法、装置、电子设备及存储介质

技术领域

本公开涉及深度学习技术领域，尤其涉及一种文档检测方法、装置、电子设备及存储介质。

背景技术

随着计算机技术和人工智能技术的不断发展，人工智能技术已逐步应用在教育教学场景中，比如拍照搜题、智能批改、题目录入等。

在教育教学场景中，学生或教师在拍摄试卷、作业等的图像时，可能出现文档页面拍摄不全的现象，或者，被拍摄的文档页面存在缺角的现象，而现有的文档检测技术通常不支持缺角文档的检测，无法在图像中的文档缺角或页面不全的情况下进行文档检测和拆分。

因此，如何从图像中准确地拆分出缺角或页面拍摄不全的文档图像成为亟待解决的问题。

发明内容

为了解决上述技术问题或者至少部分地解决上述技术问题，本公开实施例提供了一种文档检测方法、装置、电子设备及存储介质。

根据本公开的一方面，提供了一种文档检测方法，包括：

获取待检测图像；

将所述待检测图像输入至预先训练的角点和方向预测模型，以获取所述待检测图像的角点预测图和向量预测结果，其中，所述向量预测结果包括每个预测角点上的两个预测向量，所述两个预测向量分别为水平方向预测向量和垂直方向预测向量；

根据所述角点预测图和所述向量预测结果，确定所述待检测图像对应的目标角点；

根据所述目标角点的坐标值，采用透视变换从所述待检测图像中裁剪出文档图像。

根据本公开的另一方面，提供了一种文档检测装置，包括：

图像获取模块，用于获取待检测图像；

预测结果获取模块，用于将所述待检测图像输入至预先训练的角点和方向预测模型，以获取所述待检测图像的角点预测图和向量预测结果，其中，所述向量预测结果包括每个预测角点上的两个预测向量，所述两个预测向量分别为水平方向预测向量和垂直方向预测向量；

确定模块，用于根据所述角点预测图和所述向量预测结果，确定所述待检测图像对应的目标角点；

裁剪模块，用于根据所述目标角点的坐标值，采用透视变换从所述待检测图像中裁剪出文档图像。

根据本公开的另一方面，提供了一种电子设备，包括：

处理器；以及

存储程序的存储器，

其中，所述程序包括指令，所述指令在由所述处理器执行时使所述处理器执行根据前述一方面所述的文档检测方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据前述一方面所述的文档检测方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，其中，所述计算机程序在被计算机的处理器执行时用于使所述计算机执行根据前述一方面所述的文档检测方法。

本公开实施例中提供的一个或多个技术方案，通过利用预先训练的角点和方向预测模型来预测待检测图像的角点预测图和向量预测结果，结合角点预测图和向量预测结果确定待检测图像对应的目标角点，进而根据目标角点从待检测图像中裁剪出文档图像，能够利用向量预测结果补全缺失的角点，进而实现缺角和拍摄不全的文档页面的检测和拆分，提高缺角和拍摄不全的页面的检测效果。

附图说明

在下面结合附图对于示例性实施例的描述中，本公开的更多细节、特征和优点被公开，在附图中：

图1示出了根据本公开一示例性实施例的文档检测方法的流程图；

图2示出了根据本公开另一示例性实施例的文档检测方法的流程图；

图3示出了根据本公开一示例性实施例的候选角点位置示意图；

图4示出了根据本公开又一示例性实施例的文档检测方法的流程图；

图5示出了根据本公开一示例性实施例的角点和方向预测模型的结构图；

图6示出了根据本公开一示例性实施例的后处理流程示意图；

图7示出了根据本公开一示例性实施例的文档检测装置的示意性框图；

图8示出了能够用于实现本公开的实施例的示例性电子设备的结构框图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。

应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。

本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。

以下参照附图描述本公开提供的文档检测方法、装置、电子设备及存储介质。

针对现有的文档检测方式不支持缺角文档的检测，无法在图像中的文档缺角或页面不全的情况下进行文档检测和拆分的技术问题，本公开提供了一种文档检测方法，通过利用预先训练的角点和方向预测模型来预测待检测图像的角点预测图和向量预测结果，结合角点预测图和向量预测结果确定待检测图像对应的目标角点，进而根据目标角点从待检测图像中裁剪出文档图像，能够利用向量预测结果补全缺失的角点，进而实现缺角和拍摄不全的文档页面的检测和拆分，提高缺角和拍摄不全的页面的检测效果。

图1示出了根据本公开一示例性实施例的文档检测方法的流程图，该方法可以由文档检测装置执行，其中该装置可以采用软件和/或硬件实现，一般可集成在电子设备中，所述电子设备可以是但不限于是智能手机、平板电脑、笔记本电脑、服务器、穿戴式设备等。如图1所示，该文档检测方法包括：

步骤101，获取待检测图像。

其中，待检测图像是指需要进行文档检测的图像，待检测图像中包含的文档页面可以是完整的页面，也可以是缺角或拍摄不全的页面。

示例性地，在学生对自己完成的作业进行自检的场景中，待检测图像可以是学生通过电子设备的摄像头，对文档页面进行拍摄后获得的图像。

示例性地，在教师对学生上交的纸质作业或试卷进行批改的场景中，待检测图像可以是教师通过电子设备的摄像头，对学生上交的纸质作业或试卷进行拍摄后获得的图像。

示例性地，在学生以照片的形式上交已完成的纸质作业的场景中，待检测图像可以是从电子设备的存储空间中获取的图像，电子设备的存储空间中的图像是由学生对纸质作业的文档页面进行拍摄后，上传至所述电子设备并由电子设备保存在存储空间中的。

步骤102，将所述待检测图像输入至预先训练的角点和方向预测模型，以获取所述待检测图像的角点预测图和向量预测结果，其中，所述向量预测结果包括每个预测角点上的两个预测向量，所述两个预测向量分别为水平方向预测向量和垂直方向预测向量。

其中，角点和方向预测模型是预先训练得到的，具体的训练过程将在后续实施例中进行详细说明，为避免重复，此处不再赘述。利用训练好的角点和方向预测模型，能够获得图像中所包含文档的角点预测图以及向量预测结果。

本公开实施例中，对于获取的待检测图像，可以将该待检测图像输入至预先训练好的角点和方向预测模型中，由角点和方向预测模型输出待检测图像对应的角点预测图和向量预测结果。

其中，角点预测图中包含的是对待检测图像中文档的角点的预测信息，预测信息可以包括但不限于角点预测图中的各特征点的预测得分，各个特征点可以通过对应的坐标值进行标识，不同的特征点的坐标值不同。比如，特征点的坐标值可以用特征点所在行和所在列表示为(u，v)，其中，u表示特征点所在的行数，v表示特征点所在的列数。能够理解的是，角点预测图中包含多个特征点，预测得分较大的特征点可能是角点。角点预测图可以由四个通道的预测图组成，分别为左上角点预测图、左下角点预测图、右上角点预测图和右下角点预测图，每个预测图用于确定对应的角点，比如左上角点预测图用于确定左上角点，右下角点预测图用于预测右下角点。向量预测结果中包括每个预测角点上的两个预测向量，两个预测向量分别为水平方向预测向量和垂直方向预测向量。也就是说，基于角点和方向预测模型，能够获取待检测图像中文档的角点预测结果以及向量预测结果，向量预测结果由每个预测角点分别对应的两个预测向量(一个水平方向预测向量和一个垂直方向预测向量)组成。

步骤103，根据所述角点预测图和所述向量预测结果，确定所述待检测图像对应的目标角点。

本公开实施例中，获取了待检测图像的角点预测图和向量预测结果之后，可以根据角点预测图和向量预测结果，确定出待检测图像对应的目标角点。

示例性地，可以先根据角点预测图中各特征点的预测得分，分别从各预测图中的多个特征点中筛选出预测得分最大的特征点，如果最大预测得分大于预设得分阈值(比如0.3)，则将该特征点确定为角点，并记录该角点的坐标。比如，对于左上角点预测图中的各特征点，从中筛选出预测得分最大的特征点，并将该最大预测得分与预设得分阈值进行比较，如果该最大预测得分大于预设得分阈值，则确定该特征点为左上角点，记录该特征点的坐标作为左上角点的角点坐标；如果该最大预测得分不大于预设得分阈值，则确定左上角点缺失。进一步地，如果从角点预测图中确定出四个角点，分别为左上角点、右下角点、右上角点和左下角点，则将这四个角点作为待检测图像对应的目标角点；如果从角点预测图中确定的角点的个数小于4个，则根据向量预测结果补全缺失的角点，将补全后的四个角点确定为待检测图像的目标角点。其中，根据向量预测结果补全缺失的角点的具体实现过程将在后续内容中进行详细描述，此处不再赘述。

步骤104，根据所述目标角点的坐标值，采用透视变换从所述待检测图像中裁剪出文档图像。

本公开实施例中，确定了目标角点之后，基于确定的目标角点的坐标值，采用透视变换，可以从待检测图像中裁剪出文档图像。

需要说明的是，采用透视变换进行图像裁剪是图像处理技术中较为成熟的技术，本公开对此不作详述。

本公开实施例的文档检测方法，通过获取待检测图像，将待检测图像输入至预先训练的角点和方向预测模型，以获取待检测图像的角点预测图和向量预测结果，其中，向量预测结果包括每个预测角点上的两个预测向量，两个预测向量分别为水平方向预测向量和垂直方向预测向量，接着根据角点预测图和向量预测结果，确定待检测图像对应的目标角点，进而根据目标角点的坐标值，采用透视变换从待检测图像中裁剪出文档图像。采用上述技术方案，通过利用预先训练的角点和方向预测模型来预测待检测图像的角点预测图和向量预测结果，结合角点预测图和向量预测结果确定待检测图像对应的目标角点，进而根据目标角点从待检测图像中裁剪出文档图像，能够利用向量预测结果补全缺失的角点，进而实现缺角和拍摄不全的文档页面的检测和拆分，提高缺角和拍摄不全的页面的检测效果。

通常，角点分布在文档的四个不同的方位，即四个不同的角，包括左上角、左下角、右上角和右下角。本公开实施例中，利用预先训练的角点和方向预测模型对待检测图像进行预测，能够获得待检测图像的角点特征图和向量预测结果，当根据角点特征图确定的角点不足4个时，可以根据向量预测结果确定缺失的角点，进而得到待检测图像的4个角点用于文档图像的裁剪。从而，在本公开的一种可选实施方式中，如图2所示，在如图1所示实施例的基础上，步骤103可以包括以下步骤：

步骤201，根据所述角点预测图中每个特征点的预测得分，从所述角点预测图中确定候选角点。

本公开实施例中，角点预测图包括左上角点预测图、左下角点预测图、右上角点预测图和右下角点预测图，针对上述预测图中的每个预测图，可以采用相同的处理方式来确定候选角点。下面以从左上角点预测图中确定左上候选角点为例进行详细说明。

示例性地，可以将左上角点预测图中每个特征点的预测得分大于预设得分阈值的特征点，确定为左上候选角点。其中，预设得分阈值可以预先设定，比如设置预设得分阈值为0.3。如果左上角点预测图中各个特征点的预测得分均不大于预设得分阈值，则确定待检测图像无左上候选角点；如果左上角点预测图中预测得分大于预设得分阈值的特征点为一个，则将该特征点确定为左上候选角点；如果左上角点预测图中预测得分大于预设得分阈值的特征点为多个，则可以采用从预测得分大于预设得分阈值的多个特征点中随机选择一个特征点、选择预测得分最大的特征点、将多个特征点进行均值合并等方式，确定出左上候选角点。采用上述相同的方式，可以从左下角点预测图、右上角点预测图和右下角点预测图中确定出左下候选角点、右上候选角点和右下候选角点，或者确定其中一个或多个角点缺失。之后，将确定的各方位(左上、左下、右上和右下)的角点作为候选角点。

步骤202，在所述候选角点的个数小于四个且存在一对对角的情况下，根据所述向量预测结果确定所述一对对角分别对应的目标方向预测向量。

本公开实施例中，从角点预测图中确定了候选角点之后，可以进一步判断候选角点的个数和各候选角点的位置关系，如果候选角点小于四个且存在一对对角，则可以根据待检测图像的向量预测结果确定这一对对角分别对应的目标方向预测向量。

在本公开的一种可选实施方式中，在所述候选角点的个数为三个且存在一对对角的情况下，根据所述候选角点确定待补充角点，接着根据所述向量预测结果，确定所述一对对角至所述待补充角点的水平方向预测向量和垂直方向预测向量，进而将所述一对对角至所述待补充角点的水平方向预测向量和垂直方向预测向量作为所述目标方向预测向量。

本公开实施例中，待检测图像的向量预测结果中包括每个预测角点分别对应的一个水平方向预测向量和一个垂直方向预测向量，当从角点预测图中确定的候选角点为3个且存在一对对角时，可以从向量预测结果中选择这一对对角至缺失的待补充角点的一个水平方向预测向量和一个垂直方向预测向量，并将所选择的这两个向量确定为目标方向预测向量。

示例性地，图3示出了根据本公开一示例性实施例的候选角点位置示意图。如图3所示，从角点预测图中确定的候选角点为3个，分别为左上角点A、右上角点B和左下角点D，且存在一对对角(角点B和角点D)，待补充角点为右下角点，则根据待检测图像的向量预测结果，可以从向量预测结果中角点B上的两个预测向量中，确定出对角中的角点B至待补充角点的垂直方向预测向量，以及从向量预测结果中角点D上的两个预测向量中，确定出角点D至待补充角点的水平方向预测向量，将这两个向量作为目标方向预测向量用于确定待补充角点。

在本公开实施例中，当候选角点的个数为三个且存在一对对角时，根据向量预测结果确定一对对角至待补充角点的水平方向预测向量和垂直方向预测向量作为目标方向预测向量，由此，仅需选择能够确定出缺失的角点的两个向量即可，无需获取另外两个能够确定未缺失角点的向量，由此能够降低运算量。

在本公开的一种可选实施方式中，在所述候选角点的个数为两个且所述候选角点为一对对角的情况下，根据所述向量预测结果确定每个所述候选角点上的两个预测向量，并将两个所述候选角点分别对应的两个预测向量作为所述目标方向预测向量。

本公开实施例中，当从待检测图像的角点预测图中仅确定了两个候选角点，且这两个候选角点为一对对角时，则可以从向量预测结果中确定出每个候选角点上的两个预测向量，此时一共获取到四个预测向量，并将这四个预测向量确定为目标方向预测向量用于补全缺失的角点。

示例性地，仍以图3为例，假设从角点预测图中确定的候选角点为角点B和角点D，从图3可以看出，这两个角点为一对对角，则根据待检测图像的向量预测结果，可以从向量预测结果中获取角点B上的两个预测向量以及角点D上的两个预测向量，并将获取的这四个预测向量确定为目标方向预测向量。

在本公开实施例中，当获取的候选角点只有一对对角时，则根据向量预测结果确定每个候选角点上的两个预测向量，并将两个候选角点分别对应的两个预测向量，确定为目标方向预测向量，由此，为补全缺失的两个角点提供了条件。

在本公开的一种可选实施方式中，如果候选角点的个数为一个，或者候选角点的个数为两个但这两个候选角点不是对角，则无法根据向量预测结果确定出待检测图像中缺失的角点，从而无法从待检测图像中检测出文档图像。

步骤203，根据所述目标方向预测向量确定所述待检测图像中的缺失角点。

本公开实施例中，确定了目标方向预测向量之后，即可根据目标方向预测向量确定出待检测图像中的缺失角点。

示例性地，如图3所示，当待检测图像中的右下角点缺失时，确定的目标方向预测向量为角点B上的垂直方向预测向量和角点D上的水平方向预测向量，计算这两个向量，的交点，即得到待检测图像中缺失的右下角点，如图3中的交点C所示。

在本公开的一种可选实施方式中，如果从角点预测图中确定的两个候选角点是一对对角，待检测图像中缺失的是一对角点，则确定的目标方向预测向量为每个候选角点上的两个预测向量，在根据目标方向预测向量确定缺失角点时，可以针对两个候选角点，确定其中一个候选角点的水平方向预测向量与另一候选角点的垂直方向预测向量的交点，将所述交点确定为所述待检测图像中的缺失角点。

示例性地，仍以图3为例，假设确定的候选角点为角点B和角点D，待检测图像中缺失的是左上角点和右下角点，则确定的目标方向预测向量是角点B的两个预测向量和角点D的两个预测向量，计算角点B的水平方向预测向量和角点D的垂直方向预测向量之间的交点，能够得到缺失的左上角点，计算角点B的垂直方向预测向量和角点D的水平方向预测向量之间的交点，能够得到缺失的右下角点，将计算得到的两个交点确定为待检测图像中的缺失角点。

在本公开实施例中，当从角点预测图中确定的候选角点为一对对角时，通过计算一个候选角点的水平方向预测向量与另一个候选角点的垂直方向预测向量的交点，将交点确定为待检测图像中的缺失角点，由此，能够利用方向预测向量补全缺失的两个角点，为从待检测图像中准确裁剪出文档图像提供了条件。

步骤204，根据所述候选角点和所述缺失角点，确定所述待检测图像对应的目标角点。

本公开实施例中，确定了缺失角点之后，可以将确定的缺失角点和从角点预测图中确定的候选节点，作为待检测图像对应的目标角点。

本公开实施例的文档检测方法，通过根据角点预测图中每个特征点的预测得分，从角点预测图中确定候选角点，并在候选角点的个数小于四个且存在一对对角时，根据向量预测结果确定一对对角分别对应的目标方向预测向量，之后根据目标方向预测向量确定待检测图像中的缺失角点，进而根据候选角点和缺失角点，确定待检测图像对应的目标角点，由此，能够在预测出的候选角点的个数不足四个且存在对角时，利用对角上的预测向量确定出缺失的角点，实现缺失角点的补全，为从待检测图像中拆分出缺角的文档图像提供了条件。

图4示出了根据本公开又一示例性实施例的文档检测方法的流程图，如图4所示，本公开实施例中的角点和方向预测模型可以通过如下步骤训练得到：

步骤301，获取训练样本集，所述训练样本集包括样本图像以及所述样本图像中文档的角点标注数据和各角点上的标注向量。

本公开实施例中，可以通过从网上公开的图片中获取或者通过线下收集的方式获取若干个包含至少一个文档的样本图像，获取的样本图像包括但不限于教育场景文档，并对获取的样本图像进行标注，标注出样本图像中每个文档对应的角点标注数据和各角点上的标注向量，得到标注好的多个样本图像，标注好的样本图像构成训练样本集。

其中，在标注样本图像中各角点的标注向量时，可以根据各角点的坐标计算相邻两个角点之间的单位向量作为标注向量，对于每个角点，分别标注一个水平方向的单位向量和一个垂直方向的单位向量。

示例性地，在对样本图像进行角点标注时，选取样本图像中文档的各个角点并赋值为1，其余点赋值为0。能够理解的是，角点标注数据中包括每个点的赋值，不同的点可以通过对应的坐标值进行标识，不同的点的坐标值不同。比如，样本图像中各个像素点的坐标值可以用各像素点所在行和所在列表示为(u，v)，其中，u表示像素点所在的行数，v表示像素点所在的列数。

可选地，由于不同的样本图像之间的尺寸存在差异，为便于模型训练，可以对收集的样本图像进行尺寸修正处理，将不同尺寸的样本图像均修正为统一的尺寸，比如，将样本图像的尺寸修正为统一的256*256*3。

步骤302，将所述样本图像输入待训练模型进行特征提取，获取与所述样本图像对应的输出特征图。

本公开实施例中，对于训练样本集中的样本图像，可以将每个样本图像输入至待训练模型中，在待训练模型中进行特征提取，得到与样本图像对应的输出特征图。

示例性地，可以采用轻量化的骨干网络(backbone)对输入的样本图像进行特征提取，得到与样本图像对应的输出特征图。

步骤303，利用所述待训练模型中的角点预测网络对所述输出特征图进行卷积处理，得到角点预测图。

步骤304，利用所述待训练模型中的方向预测网络对所述输出特征图进行卷积处理，得到每个角点的水平方向预测数据和垂直方向预测数据。

本公开实施例中，待训练模型包括角点预测网络和方向预测网络两个分支，角点预测网络和方向预测网络均由卷积层构成，在提取出样本图像的输出特征图之后，将输出特征图分别输入至角点预测网络和方向预测网络中，利用角点预测网络对输出特征图进行卷积处理，可以得到角点预测图；利用向量预测网络对输出特征图进行卷积处理，可以得到样本图像中每个角点的水平(X)方向预测数据和垂直(Y)方向预测数据。

示例性地，向量预测网络可以包括水平方向预测分支和垂直方向预测分支，水平方向预测分支和垂直方向预测分支均包括两个通道，分别为每个角点预测和其相邻的两个角点的单位向量的x数值(由水平方向预测分支的两个通道输出)和y数值(由垂直方向预测分支的两个通道输出)，即水平方向预测数据和垂直方向预测数据。

为了保证不同分支中特征点的一一对应关系，本公开实施例中，角点预测网络和水平方向预测分支、垂直方向预测分支的特征图尺寸是相同的，但通道数不同，具体地，如果输入图像的尺寸为256*256*3，则角点预测网络的输出为64*64*4，水平方向预测分支和垂直方向预测分支的输出为64*64*2。

步骤305，根据所述水平方向预测数据和所述垂直方向预测数据，确定所述每个角点上的两个预测向量。

本公开实施例中，得到每个角点的水平方向预测数据和垂直方向预测数据之后，根据各角点的水平方向预测数据和垂直方向预测数据，可以确定各角点上的两个预测向量。

以图3为例，假设A点的预测位置在角点预测图中的坐标为(m，n)，则其对应真实的输入图像的坐标为(4*m，4*n)。假设水平方向预测分支输出的对应点(m，n)的两个水平方向预测数据分别为vx1和vx2，垂直方向预测分支输出的对应点(m，n)的两个垂直方向预测数据分别为vy1和vy2，则可以确定点A上的两个预测向量分别为：水平方向预测向量(vx1，vy1)和垂直方向预测向量(vx2，vy2)。需要说明的是，本公开实施例中，水平方向预测数据中的第一个x数值与垂直方向预测数据中的第一个y数值构成点A的水平方向预测向量，水平方向预测数据中的第二个x数值与垂直方向预测数据中的第二个y数值构成点A的垂直方向预测向量，这是预先规定好的规则，也可以规定其他规则来确定点的两个预测向量，本公开对此不作限制。

步骤306，根据所述角点预测图中特征点的预测结果与所述角点标注数据之间的差异，以及所述每个所述角点上的两个预测向量与所述标注向量之间的差异，更新所述待训练模型的网络参数，直至所述待训练模型的损失函数值小于或等于预设值，得到所述角点和方向预测模型。

其中，预设值可以预先设定，比如设置预设值为0.01、0.001等。

能够理解的是，模型的训练是个重复迭代的过程，通过不断地调整模型的网络参数进行训练，直到模型整体的损失函数值小于预设值，或者模型整体的损失函数值不再变化或变化幅度缓慢，模型收敛，得到训练好的模型。

本公开实施例中，得到角点预测图和每个角点的两个预测向量之后，可以根据角点预测图中特征点的预测结果与角点标注数据中样本图像的各个点对应的标注值(赋值1或0)之间的差异，以及每个角点上的两个预测向量与对应角点的标注向量之间的差异，更新待训练模型的网络参数，直至待训练模型的损失函数值小于或等于预设值，得到训练好的角点和方向预测模型。

示例性地，本公开实施例中，待训练模型的角点预测网络和向量预测网络可以分别进行训练，两个网络分支可以采用不同的损失函数。具体地，角点预测网络的损失函数可以采用Dice loss损失函数，向量预测网络可以采用L1范数损失函数，Dice loss损失函数(记为L_dice)如公式(1)所示，L1范数损失函数用于计算同一点的标注向量模长与预测向量模长之间的损失值。

其中，P表示角点预测图中特征点的集合，Q表示角点标注数据，|P|表示P中的元素的个数，|Q|表示Q中的元素的个数，|P∩Q|表示P和Q之间的交集的个数。

本公开实施例中，在每次迭代训练过程中，可以根据角点预测图中特征点的预测结果与角点标注数据中样本图像的各个点对应的标注值之间的差异，以及每个角点上的两个预测向量与标注向量之间的差异，计算待训练模型的角点预测网络和向量预测网络的损失函数值，并将计算得到的损失函数值与预设值进行比较，若损失函数值大于预设值，则更新待训练模型的网络参数，基于更新网络参数后的待训练模型重新获取角点预测图和各角点的预测向量，并根据新获取的角点预测图和预测向量再次计算待训练模型的损失函数值，如此迭代，直至损失函数值小于预设值，得到训练好的角点和方向预测模型。

本公开实施例中，通过预先训练得到角点和方向预测模型，利用训练好的角点和方向预测模型获取待检测图像的角点预测图和向量预测结果，为后续利用获取的角点预测图和向量预测结果确定目标角点进行图像裁剪，拆分出图像中的文档提供了条件。

进一步地，在本公开的一种可选实施方式中，将待检测图像输入至预先训练的角点和方向预测模型，以获取待检测图像的角点预测图和向量预测结果时，具体包括：将所述待检测图像输入所述角点和方向预测模型，以获取所述角点和方向预测模型的所述角点预测网络输出所述待检测图像的角点预测图，以及所述方向预测网络输出的每个预测角点的水平方向预测数据和垂直方向预测数据，进而根据所述每个预测角点的水平方向预测数据和垂直方向预测数据，确定所述每个预测角点的向量预测结果。

本公开实施例中，角点和方向预测模型的向量预测网络输出的是每个预测角点的水平方向预测数据和垂直方向预测数据，水平方向预测数据包括预测角点的两个预测向量的x数值，垂直方向预测数据包括预测角点的两个预测向量的y数值，由此能够确定预测角点上的一个水平方向预测向量和一个垂直方向预测向量。

图5示出了根据本公开一示例性实施例的角点和方向预测模型的结构图，利用图5所示的角点和方向预测模型，可以获取到图像的角点预测图和各角点X方向预测数据和Y方向预测数据。如图5所示，角点和方向预测模型的输入为256*256*3的图像，输出的角点预测图为64*64*4，也就是说，角点预测图为4通道，分别为左上角点预测图、右上角点预测图、左下角点预测图和左下角点预测图，输出的水平方向预测数据和垂直方向预测数据均为64*64*2。本公开实施例中，将待处理图像输入至如图5所示的模型中，先利用backbone网络对待检测图像进行特征提取得到输出特征图，在角点预测网络对输出特征图进行卷积处理得到角点预测图，在向量预测网络对输出特征图进行卷积，分别得到各角点的水平方向预测数据和垂直方向预测数据。之后，对角点预测模型输出的角点预测图、各角点的水平方向预测数据和垂直方向预测数据进行后处理，完成待检测图像中文档的拆分，得到文档图像。

图6示出了根据本公开一示例性实施例的后处理流程示意图，如图6所示，对于从角点和方向预测网络获取的角点预测图以及各角点的水平方向预测数据和垂直方向预测数据，先执行步骤601，根据各角点的水平方向预测数据和垂直方向预测数据确定各角点上的两个预测向量，得到向量预测结果。之后，执行步骤602，从角点预测图中确定出候选角点，再执行步骤603，判断候选角点是否为4个，如果是，则执行步骤604，根据四个点的坐标值，从待检测图像中裁剪出文档图像；如果候选角点的个数不足4个，则执行步骤605，判断候选角点中是否存在一对对角，如果是，则执行步骤606，根据向量预测结果确定出缺失角点，补足待检测图像的四个角点，之后执行步骤604，根据四个点的坐标值，从待检测图像中裁剪出文档图像；如果候选角点不足4个且不存在对角，则直接结束。需要说明的是，本实施例中，仅以步骤602在步骤601之后执行作为示例来解释说明本公开的方案，二者也可以同时执行获取步骤602在步骤601之前执行，本公开对步骤601和步骤602的执行顺序不作限制。采用本公开的方案，通过利用预先训练的角点和方向预测模型来预测待检测图像的角点预测图和向量预测结果，结合角点预测图和向量预测结果确定待检测图像对应的目标角点，进而根据目标角点从待检测图像中裁剪出文档图像，能够利用向量预测结果补全缺失的角点，进而实现缺角和拍摄不全的文档页面的检测和拆分，提高缺角和拍摄不全的页面的检测效果。

本公开示例性实施例还提供了一种文档检测装置。图7示出了根据本公开一示例性实施例的文档检测装置的示意性框图，如图7所示，该文档检测装置70包括：图像获取模块701、预测结果获取模块702、确定模块703和裁剪模块704。

其中，图像获取模块701，用于获取待检测图像；

预测结果获取模块702，用于将所述待检测图像输入至预先训练的角点和方向预测模型，以获取所述待检测图像的角点预测图和向量预测结果，其中，所述向量预测结果包括每个预测角点上的两个预测向量，所述两个预测向量分别为水平方向预测向量和垂直方向预测向量；

确定模块703，用于根据所述角点预测图和所述向量预测结果，确定所述待检测图像对应的目标角点；

裁剪模块704，用于根据所述目标角点的坐标值，采用透视变换从所述待检测图像中裁剪出文档图像。

可选地，所述确定模块703包括：

第一确定单元，用于根据所述角点预测图中每个特征点的预测得分，从所述角点预测图中确定候选角点；

第二确定单元，用于在所述候选角点的个数小于四个且存在一对对角的情况下，根据所述向量预测结果确定所述一对对角分别对应的目标方向预测向量；

第三确定单元，用于根据所述目标方向预测向量确定所述待检测图像中的缺失角点；

第四确定单元，用于根据所述候选角点和所述缺失角点，确定所述待检测图像对应的目标角点。

可选地，所述第二确定单元，还用于：

在所述候选角点的个数为三个且存在一对对角的情况下，根据所述候选角点确定待补充角点；

根据所述向量预测结果，确定所述一对对角至所述待补充角点的水平方向预测向量和垂直方向预测向量；

将所述一对对角至所述待补充角点的水平方向预测向量和垂直方向预测向量作为所述目标方向预测向量。

可选地，所述第二确定单元，还用于：

在所述候选角点的个数为两个且所述候选角点为一对对角的情况下，根据所述向量预测结果确定每个所述候选角点上的两个预测向量；

将两个所述候选角点分别对应的两个预测向量作为所述目标方向预测向量。

进一步地，可选地，所述第三确定单元，还用于：

针对两个候选角点，确定其中一个候选角点的水平方向预测向量与另一候选角点的垂直方向预测向量的交点；

将所述交点确定为所述待检测图像中的缺失角点。

可选地，所述装置还包括：模型训练模块；所述模型训练模块用于：

获取训练样本集，所述训练样本集包括样本图像以及所述样本图像中文档的角点标注数据和各角点上的标注向量；

将所述样本图像输入待训练模型进行特征提取，获取与所述样本图像对应的输出特征图；

利用所述待训练模型中的角点预测网络对所述输出特征图进行卷积处理，得到角点预测图；

利用所述待训练模型中的方向预测网络对所述输出特征图进行卷积处理，得到每个角点的水平方向预测数据和垂直方向预测数据；

根据所述水平方向预测数据和所述垂直方向预测数据，确定所述每个角点上的两个预测向量；

根据所述角点预测图中特征点的预测结果与所述角点标注数据之间的差异，以及所述每个所述角点上的两个预测向量与所述标注向量之间的差异，更新所述待训练模型的网络参数，直至所述待训练模型的损失函数值小于或等于预设值，得到所述角点和方向预测模型。

可选地，所述预测结果获取模块，还用于：

将所述待检测图像输入所述角点和方向预测模型，以获取所述角点和方向预测模型的所述角点预测网络输出所述待检测图像的角点预测图，以及所述方向预测网络输出的每个预测角点的水平方向预测数据和垂直方向预测数据；

根据所述每个预测角点的水平方向预测数据和垂直方向预测数据，确定所述每个预测角点的向量预测结果。

本公开实施例所提供的文档检测装置，可执行本公开实施例所提供的任意可应用于服务器等电子设备的文档检测方法，具备执行方法相应的功能模块和有益效果。本公开装置实施例中未详尽描述的内容可以参考本公开任意方法实施例中的描述。

本公开示例性实施例还提供一种电子设备，包括：处理器，以及存储程序的存储器，所述处理器为至少一个，所述存储器与至少一个处理器通信连接。所述程序包括指令，所述指令在由所述处理器执行时使所述处理器执行根据本公开实施例的文档检测方法。

本公开示例性实施例还提供一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令在被计算机的处理器执行时用于使所述计算机执行根据本公开实施例的文档检测方法。

本公开示例性实施例还提供一种计算机程序产品，包括计算机程序，其中，所述计算机程序在被计算机的处理器执行时用于使所述计算机执行根据本公开实施例的文档检测方法。

参考图8，现将描述可以作为本公开的服务器或客户端的电子设备1100的结构框图，其是可以应用于本公开的各方面的硬件设备的示例。电子设备旨在表示各种形式的数字电子的计算机设备，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图8所示，电子设备1100包括计算单元1101，其可以根据存储在只读存储器(ROM)1102中的计算机程序或者从存储单元1108加载到随机访问存储器(RAM)1103中的计算机程序，来执行各种适当的动作和处理。在RAM1103中，还可存储设备1100操作所需的各种程序和数据。计算单元1101、ROM1102以及RAM1103通过总线1104彼此相连。输入/输出(I/O)接口1105也连接至总线1104。

电子设备1100中的多个部件连接至I/O接口1105，包括：输入单元1106、输出单元1107、存储单元1108以及通信单元1109。输入单元1106可以是能向电子设备1100输入信息的任何类型的设备，输入单元1106可以接收输入的数字或字符信息，以及产生与电子设备的用户设置和/或功能控制有关的键信号输入。输出单元1107可以是能呈现信息的任何类型的设备，并且可以包括但不限于显示器、扬声器、视频/音频输出终端、振动器和/或打印机。存储单元1104可以包括但不限于磁盘、光盘。通信单元1109允许电子设备1100通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据，并且可以包括但不限于调制解调器、网卡、红外通信设备、无线通信收发机和/或芯片组，例如蓝牙TM设备、WiFi设备、WiMax设备、蜂窝通信设备和/或类似物。

计算单元1101可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1101的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1101执行上文所描述的各个方法和处理。例如，在一些实施例中，文档检测方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元1108。在一些实施例中，计算机程序的部分或者全部可以经由ROM1102和/或通信单元1109而被载入和/或安装到电子设备1100上。在一些实施例中，计算单元1101可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行文档检测方法。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

如本公开使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

Claims (10)

1.一种文档检测方法，所述方法包括：

获取待检测图像；

将所述待检测图像输入至预先训练的角点和方向预测模型，以获取所述待检测图像的角点预测图和向量预测结果，其中，所述向量预测结果包括每个预测角点上的两个预测向量，所述两个预测向量分别为水平方向预测向量和垂直方向预测向量；

根据所述角点预测图和所述向量预测结果，确定所述待检测图像对应的目标角点；

根据所述目标角点的坐标值，采用透视变换从所述待检测图像中裁剪出文档图像。

2.根据权利要求1所述的文档检测方法，其中，所述根据所述角点预测图和所述向量预测结果，确定所述待检测图像对应的目标角点，包括：

根据所述角点预测图中每个特征点的预测得分，从所述角点预测图中确定候选角点；

在所述候选角点的个数小于四个且存在一对对角的情况下，根据所述向量预测结果确定所述一对对角分别对应的目标方向预测向量；

根据所述目标方向预测向量确定所述待检测图像中的缺失角点；

根据所述候选角点和所述缺失角点，确定所述待检测图像对应的目标角点。

3.根据权利要求2所述的文档检测方法，其中，所述如果所述候选角点的个数小于四个且存在一对对角，则根据所述向量预测结果确定所述一对对角分别对应的目标方向预测向量，包括：

在所述候选角点的个数为三个且存在一对对角的情况下，根据所述候选角点确定待补充角点；

根据所述向量预测结果，确定所述一对对角至所述待补充角点的水平方向预测向量和垂直方向预测向量；

将所述一对对角至所述待补充角点的水平方向预测向量和垂直方向预测向量作为所述目标方向预测向量。

4.根据权利要求2所述的文档检测方法，其中，所述如果所述候选角点的个数小于四个且存在一对对角，则根据所述向量预测结果确定所述一对对角分别对应的目标方向预测向量，包括：

在所述候选角点的个数为两个且所述候选角点为一对对角的情况下，根据所述向量预测结果确定每个所述候选角点上的两个预测向量；

将两个所述候选角点分别对应的两个预测向量作为所述目标方向预测向量。

5.根据权利要求4所述的文档检测方法，其中，所述根据所述目标方向预测向量确定所述待检测图像中的缺失角点，包括：

针对两个候选角点，确定其中一个候选角点的水平方向预测向量与另一候选角点的垂直方向预测向量的交点；

将所述交点确定为所述待检测图像中的缺失角点。

6.根据权利要求1-5任一项所述的文档检测方法，其中，所述角点和方向预测模型通过如下步骤训练得到：

获取训练样本集，所述训练样本集包括样本图像以及所述样本图像中文档的角点标注数据和各角点上的标注向量；

将所述样本图像输入待训练模型进行特征提取，获取与所述样本图像对应的输出特征图；

利用所述待训练模型中的角点预测网络对所述输出特征图进行卷积处理，得到角点预测图；

利用所述待训练模型中的方向预测网络对所述输出特征图进行卷积处理，得到每个角点的水平方向预测数据和垂直方向预测数据；

根据所述水平方向预测数据和所述垂直方向预测数据，确定所述每个角点上的两个预测向量；

根据所述角点预测图中特征点的预测结果与所述角点标注数据之间的差异，以及所述每个所述角点上的两个预测向量与所述标注向量之间的差异，更新所述待训练模型的网络参数，直至所述待训练模型的损失函数值小于或等于预设值，得到所述角点和方向预测模型。

7.根据权利要求6所述的文档检测方法，其中，所述将所述待检测图像输入至预先训练的角点和方向预测模型，以获取所述待检测图像的角点预测图和向量预测结果，包括：

将所述待检测图像输入所述角点和方向预测模型，以获取所述角点和方向预测模型的所述角点预测网络输出所述待检测图像的角点预测图，以及所述方向预测网络输出的每个预测角点的水平方向预测数据和垂直方向预测数据；

根据所述每个预测角点的水平方向预测数据和垂直方向预测数据，确定所述每个预测角点的向量预测结果。

8.一种文档检测装置，包括：

图像获取模块，用于获取待检测图像；

预测结果获取模块，用于将所述待检测图像输入至预先训练的角点和方向预测模型，以获取所述待检测图像的角点预测图和向量预测结果，其中，所述向量预测结果包括每个预测角点上的两个预测向量，所述两个预测向量分别为水平方向预测向量和垂直方向预测向量；

确定模块，用于根据所述角点预测图和所述向量预测结果，确定所述待检测图像对应的目标角点；

裁剪模块，用于根据所述目标角点的坐标值，采用透视变换从所述待检测图像中裁剪出文档图像。

9.一种电子设备，包括：

处理器；以及

存储程序的存储器，

其中，所述程序包括指令，所述指令在由所述处理器执行时使所述处理器执行根据权利要求1-7中任一项所述的文档检测方法。

10.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的文档检测方法。

Images