CN113255664B - 图像处理方法、相关装置及计算机程序产品 - Google Patents

Abstract

本公开提供了图像处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品，涉及计算机视觉和深度学习等人工智能技术领域，可应用于图像识别场景下。该方法的一具体实施方式包括：确定待处理图像在不同分辨率下构成待矫正对象的像素点的三维坐标，得到三维预测坐标后，根据该三维预测坐标确定该待矫正对象的表面扭曲参数，最终根据该三维预测坐标和该表面扭曲参数生成该待矫正对象的平面图像。该实施方式基于不同分辨率的待处理图像进行三维坐标预测，以更精准的确定待矫正对象的表面扭曲参数，实现更为精准的图像扭曲矫正，提升图像识别、矫正结果的质量。

Description

图像处理方法、相关装置及计算机程序产品

技术领域

本公开涉及图像处理技术领域，具体涉及计算机视觉和深度学习等人工智能技术领域，可应用于图像识别场景下，尤其涉及图像处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品。

背景技术

当今社会中，往往会将纸质材料扫描为数据化文档的方式进行存储，以便于后续通过电子设备查阅、发送该纸质材料对应的电子文档内容，以提高信息传递的效率。

但在将纸质文件扫描为数据化文档的过程中，由于不可控因素(例如纸张的物理变形，变化的相机位置和不受约束的照明条件)，使用移动设备拍摄的照片通常会存在不同程度的失真、变形。

发明内容

本公开实施例提出了一种图像处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品。

第一方面，本公开实施例提出了一种图像处理方法，包括：确定待处理图像在不同分辨率下构成待矫正对象的像素点的三维坐标，得到三维预测坐标；根据该三维预测坐标确定该待矫正对象的表面扭曲参数；根据该三维预测坐标和该表面扭曲参数生成该待矫正对象的平面图像。

第二方面，本公开实施例提出了一种图像处理装置，包括：三维坐标预测单元，被配置成确定待处理图像在不同分辨率下构成待矫正对象的像素点的三维坐标，得到三维预测坐标；扭曲参数确定单元，被配置成根据该三维预测坐标确定该待矫正对象的表面扭曲参数；平面图像生成单元，被配置成根据该三维预测坐标和该表面扭曲参数生成该待矫正对象的平面图像。

第三方面，本公开实施例提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器执行时能够实现如第一方面中任一实现方式描述的图像处理方法。

第四方面，本公开实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行时能够实现如第一方面中任一实现方式描述的图像处理方法。

第五方面，本公开实施例提供了一种包括计算机程序的计算机程序产品，该计算机程序在被处理器执行时能够实现如第一方面中任一实现方式描述的图像处理方法。

本公开实施例提供的图像处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品，确定待处理图像在不同分辨率下构成待矫正对象的像素点的三维坐标，得到三维预测坐标后，根据该三维预测坐标确定该待矫正对象的表面扭曲参数，最终根据该三维预测坐标和该表面扭曲参数生成该待矫正对象的平面图像。

本公开提供的实施方式可以基于不同分辨率的待处理图像进行三维坐标预测，以适应不同场景下的待处理图像和不同类型的待矫正对象，为待矫正对象提供准确的三维坐标预测，以更精准的确定待矫正对象的表面扭曲参数，实现更为精准的图像扭曲矫正，提升图像识别、矫正结果的质量。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：

图1是本公开可以应用于其中的示例性系统架构；

图2为本公开实施例提供的一种图像处理方法的流程图；

图3为本公开实施例提供的另一种图像处理方法的流程图；

图4为本公开实施例提供的再一种图像处理方法的流程图；

图5a、5b和5c为本公开实施例提供的在一应用场景下的图像处理方法的效果示意图；

图6为本公开实施例提供的一种图像处理装置的结构框图；

图7为本公开实施例提供的一种适用于执行图像处理方法的电子设备的结构示意图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。

此外，本公开涉及的技术方案中，所涉及的用户个人信息的获取(例如本公开中涉及的待矫正对象中可能记载的用户人脸信息、身份信息等)、存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。

图1示出了可以应用本公开的图像处理方法、装置、电子设备及计算机可读存储介质的实施例的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103和服务器105上可以安装有各种用于实现两者之间进行信息通讯的应用，例如图像矫正类应用、光学字符识别类应用、即时通讯类应用等。

终端设备101、102、103和服务器105可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等；当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中，其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块，在此不做具体限定。当服务器105为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器；服务器为软件时，可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块，在此不做具体限定。

服务器105通过内置的各种应用可以提供各种服务，以可以提供图像矫正功能的光学字符识别类应用为例，服务器105在该光学字符识别类应用时可实现如下效果：首先，通过网络104从终端设备101、102、103中获取待处理图像后，确定该待处理图像在不同分辨率下构成待矫正对象的像素点的三维坐标，得到三维预测坐标；然后，服务器105根据该三维预测坐标确定该待矫正对象的表面扭曲参数；进一步的，服务器105根据该三维预测坐标和该表面扭曲参数生成该待矫正对象的平面图像最后；最终，对该平面图像中的内容、字符进行光学识别，以得到光学字符识别结果。

需要指出的是，待处理图像除可以从终端设备101、102、103通过网络104获取到之外，也可以通过各种方式预先存储在服务器105本地。因此，当服务器105检测到本地已经存储有这些数据时(例如开始处理之前留存的图像处理、图像识别任务)，可选择直接从本地获取这些数据，在此种情况下，示例性系统架构100也可以不包括终端设备101、102、103和网络104。

进一步的，不同分辨率下的待处理图像可以由终端设备101、102、103发送，也可以在服务器接收到待处理图像后，在本地进行处理，以得到不同分辨率的该待处理图像。

由于图像处理时需要占用较多的运算资源和较强的运算能力，因此本公开后续各实施例所提供的图像处理方法一般由拥有较强运算能力、较多运算资源的服务器105来执行，相应地，图像处理装置一般也设置于服务器105中。但同时也需要指出的是，在终端设备101、102、103也具有满足要求的运算能力和运算资源时，终端设备101、102、103也可以通过其上安装的图像矫正类应用、光学字符识别类应用等应用完成上述本交由服务器105做的各项运算，进而输出与服务器105同样的结果。尤其是在同时存在多种具有不同运算能力的终端设备的情况下，但图像矫正类应用、光学字符识别类应用等应用判断所在的终端设备拥有较强的运算能力和剩余较多的运算资源时，可以让终端设备来执行上述运算，从而适当减轻服务器105的运算压力，相应的，图像处理装置也可以设置于终端设备101、102、103中。在此种情况下，示例性系统架构100也可以不包括服务器105和网络104。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

请参考图2，图2为本公开实施例提供的一种图像处理方法的流程图，其中流程200包括以下步骤：

步骤201，确定待处理图像在不同分辨率下构成待矫正对象的像素点的三维坐标，得到三维预测坐标。

在本实施例中，由图像处理方法的执行主体(例如图1所示的服务器105)获取到待处理图像后，根据该待处理图像的不同分辨率的图像进行三维坐标预测，以得到对应待矫正对象的像素点的三维预测坐标，该三维坐标系可以基于相机坐标参数进行构建，也可以在待处理图像中选取参照物后进行构建，最终得到待处理图像在不同分辨率下的待矫正对象对应的像素点的三维预测坐标。

在实践中，为了更清楚的表征分辨率与三维预测坐标的关系，可以将同一分辨率下得到的三维预测坐标构成同一集合，并以该分辨率进行标记，以便于后续根据分辨率信息提取到对应该分辨率的所有三维预测坐标。

其中，待矫正对象通常指的是待处理图像中存在的表面具有内容记载的、用户期望提取表面信息的对象，该对象因摆放、拍摄等原因导致存在一定的扭曲、畸变，影响基于待处理图像对其表面内容进行提取、识别，例如折叠的纸张、宣传板等，在一些可选的应用场景中，也可以为因物体形状、摆放或拍摄等原因导致外表面存在一定的扭曲、畸变的其他物体。

需要指出的是，待处理图像可以由上述执行主体直接从本地的存储设备获取，也可以从非本地的存储设备(例如图1所示的终端设备101、102、103)中获取。本地的存储设备可以是设置在上述执行主体内的一个数据存储模块，例如服务器硬盘，在此种情况下，待处理图像可以在本地快速读取到；非本地的存储设备还可以为其它任何被设置用于存储数据的电子设备，例如一些用户终端等，在此情况下，上述执行主体可以通过向该电子设备发送获取命令来获取所需的待处理图像。

进一步的，不同分辨率下的该待处理图像就可以由非本地的存储设备存储后，基于上述获取命令一并获取，也可以在上述执行主体本地获取到单一的待处理图像后，进行相应的分辨率增、减处理得到。

步骤202，根据三维预测坐标确定待矫正对象的表面扭曲参数。

本实施例中，在上述步骤201的基础上，获取到各分辨率对应的三维预测坐标，在同一个分辨率下，连接在该分辨率下获取到的各三维预测坐标，构建三维面，并确定该三维面中的扭曲参数，该扭曲参数以表征对应三维面中的扭曲位置、扭曲情况，示例性的可以为扭曲角度、扭曲点、扭曲曲率等内容，后续以同样的方式确定各分辨率下对应的三维面的扭曲参数后，将各个三维面的扭曲参数拟合生成待矫正对象的表面扭曲参数，以得到表征该待矫正对象外表面姿态、状态的表面扭曲参数。

进一步的，也可以根据分辨率的数值情况设置相应的拟合权重值，并根据该拟合权重值对现有获取到的不同分辨率下的扭曲参数进行拟合，以得到质量更高的待矫正对象的表面扭曲参数。

其中，优选地设置低分辨率对应的扭曲参数的权重值低，设置高分辨率对应的扭曲参数的权重值高，以便于利用低分辨率对应的扭曲参数搭建框架，高分辨率对应的扭曲参数进行更贴近真实情况的修补，在保证拟合得到的表面扭曲参数的质量的情况下，提升拟合效率。

步骤203，根据三维预测坐标和表面扭曲参数生成待矫正对象的平面图像。

在本实施例中，在获取到待矫正对象的表面扭曲参数后，根据该表面扭曲参数对三维预测坐标进行修正，以修正待矫正对象的外表面的像素点的位置，将在三维空间中存在堆叠、扭曲的像素点位置进行修正，并记录修正后的三维预测坐标，最终根据修正后的三维预测坐标建立与二维图像的映射关系，得到生成待矫正对象的平面图像。

本公开实施例提供的图像处理方法，可以基于不同分辨率的待处理图像进行三维坐标预测，以适应不同场景下的待处理图像和不同类型的待矫正对象，为待矫正对象提供准确的三维坐标预测，以更精准的确定待矫正对象的表面扭曲参数，实现更为精准的图像扭曲矫正，提升图像识别、矫正结果的质量。

在本实施例的一些可选的实现方式中，根据三维预测坐标确定待矫正对象的表面扭曲参数，包括：根据三维预测坐标确定对应待矫正对象表面的各像素点所组成平面的角度参数和曲率参数。

具体的，根据三维预测坐标确定对应待矫正对象表面的各像素点所组成平面的角度参数和曲率参数，以通过角度参数和曲率参数的内容更为直观的表现出待矫正对象表面的姿态，直接反映出对应待矫正对象表面的各像素点所组成的平面的状态，便于后续根据该状态确定对三维预测坐标的矫正参数，提升图像处理方法的效率。

其中，曲率参数，主要衡量了三维预测坐标的扭曲变化，增强三维预测坐标的预测能力，像素点i平均曲率参数H(M)_i可以基于如下公式进行计算：

其中，N_i表示该像素点的所有相邻顶点像素点的集合，v表示像素点的三维预测坐标。

角度参数，可以基于三维预估模型进行预测，该预估模型会预测4个辅助通道，每个轴一对，表示为(φ_xx，φ_xy，φ_yx，φ_yy)。φ_xy的预测提供针对X轴在Y方向上预测的偏移值，依此类推。对于每个轴，利用如下公式计算角度θ_i(i∈{x,y})的幅值ρ_i：

θ_i＝arctan2(φ_ix，φ_iy)

ρ_i＝||φ_ix，φ_iy|₂

其中，其中“arctan2”是反正切运算符的四象限变体(也称为“atan2”)。

在角度真值的计算过程中通常需要引入后向图，即从待处理图像转化为最终平面图像的映射关系，为了保持待处理图像与待矫正对象的平面图像的角度和待处理图像到真值的角度的一致性，还可以引入角度损失作为监督，具体可利用如下公式求得：

其中，角度损失将每个预测角度{θ_x，θ_y}与它们的真值之间的最小角度2π最小化，/>为笛卡尔到极坐标转换衍生出的角度置信度。

进一步的，在以角度参数和曲率参数作为待矫正对象的表面扭曲参数的情况下，在本实施例的一些可选的实现方式中，还包括：响应于该角度参数和该曲率参数中的至少一项不满足预设条件，返回该待矫正对象无法矫正为有效的平面图像的通知信息。

具体的，在确定获取到的角度参数和曲率参数中至少一项不满足预设条件时，可确定无法基于当前的待处理图像对其中的待矫正对象进行矫正，返回该待矫正对象无法矫正为有效的平面图像的通知信息，以告知请求进行图像处理的一侧用户，便于该侧用户进行相应调整。

进一步的，在返回该待矫正对象无法矫正为有效的平面图像的通知信息时，还可以一并反馈待处理图像、获取到的三维预测坐标中对获取到的角度参数和/或曲率参数影响较大的像素点的三维预测坐标给用户，以便于用户根据对应的三维预测坐标对待处理图像中的待矫正对象对应的选择进行选取，以减少识别范围的方式减小待矫正对象的表面扭曲参数，提升针对待矫正对象内容进行矫正的可能性。

请参考图3，图3为本公开实施例提供的另一种图像处理方法的流程图，其中流程300包括以下步骤：

步骤301，从低分辨率的待处理图像中确定构成待矫正对象的大像素点的低精度三维坐标。

在本实施例中，从该待处理图像的低分辨率图像中确定与待矫正对象对应的像素点的三维预测坐标，因该像素点对应的分辨率较低，将得到的三维预测坐标作为大像素点的低精度三维坐标。

步骤302，根据低精度三维坐标确定基于大像素点构成的识别区域。

在本实施例中，根据大像素点的内容确定用于识别待矫正对象中高分辨率像素点的三维预测坐标的识别区域。

步骤303，从高分辨率的待处理图像中确定属于识别区域的小像素点的高精度三维坐标。

在本实施例中，从高分辨率的待处理图像中确定属于识别区域的小像素点，并获取对应的高精度的三维坐标。

步骤304，基于低精度三维坐标和高精度三维坐标，确定三维预测坐标。

在本实施例中，整合低精度三维坐标和高精度三维坐标，得到完整的三维预测坐标。

其中，因分辨率的差异，低精度三维坐标也可以表现为高精度三维坐标的集合，因此可以根据低精度三维坐标与高精度三维坐标的对应关系进行互相引证，以筛选出在低精度三维坐标下属于待矫正对象、在高精度三维坐标下不属于该待矫正对象的像素点的三维预测坐标进行剔除，提升获取到的三维预测坐标的质量。

步骤305，根据三维预测坐标确定待矫正对象的表面扭曲参数。

步骤306，根据三维预测坐标和表面扭曲参数生成待矫正对象的平面图像。

以上步骤305-306与如图2所示的步骤202-203一致，相同部分内容请参见上一实施例的相应部分，此处不再进行赘述。

本实施例中提供的图像处理方法，在上述图2所示的实施例的基础上，进一步的，预先利用低分辨率的待处理图像来确定待矫正图像位于待处理图像中的位置，以及待处理图像中包括的待矫正对象的像素点的大致范围后，利用高分辨率的处理图像来对该范围内的内容进行获取，以提升获取待矫正对象的像素点的三维预测坐标的效率，并且后续可以利用不同分辨率之间得到的相近内容的三维预测坐标对得到的三维预测坐标进行筛选、优化，以提升得到的三维预测坐标的质量。

请参考图4，图4为本公开实施例提供的再一种图像处理方法的流程图，其中流程400包括以下步骤：

步骤401，基于待处理图像生成待处理图像集合，待处理图像集合中包括多张不同分辨率的该待处理图像；

在本实施例中，在获取到单一的或者不同分辨率下图像数量不满足预设要求的待处理图像后，可以基于获取到待处理图像生成待处理图像集合，其中该待处理图像集合中包括多张不同分辨率的该待处理图像。

应当理解的是，当获取到的该待处理图像的不同分辨率下的图像数量满足预设要求时，执行主体可适应性的选择不执行上述步骤401。

步骤402，将待处理图像集合输入预设的三维坐标预测网络；

在本实施例中，三维坐标预测网络中设置有多个用于确定构成待矫正对象的像素点的三维预测坐标的三维坐标预测层，每个三维坐标预测层可输出与该预测层配置相对应的分辨率下的构成待矫正对象的像素点的三维预测坐标，在该三维坐标预测网络接收到待处理图像集合后，可以将不同分辨率下的待处理图像对象的输送至对应的三维坐标预测层进行三维预测。

优选地，三维坐标预测网络可以以Unet的体系结构为基础，根据三维坐标预测层对应的可支持预测的分辨率，由低到高逐层递进的方式进行搭建，实现对待矫正对象的多尺度特征融合，从而增强对待矫正对象的像素点的三维预测坐标的预测能力。

步骤403，接收三维坐标预测网络输出的三维预测坐标。

在本实施例中，接收到基于上述步骤402中三维坐标预测网络完成预测后返回的三维预测坐标。

步骤404，根据三维预测坐标确定待矫正对象的表面扭曲参数。

步骤405，根据三维预测坐标和表面扭曲参数生成待矫正对象的平面图像。

以上步骤404-405与如图2所示的步骤202-203一致，相同部分内容请参见上一实施例的相应部分，此处不再进行赘述。

本实施例中提供的图像处理方法，在上述图2所示的实施例的基础上，进一步的，以利用可预测不同分辨率下三维预测坐标的三维坐标预测网络生成三维预测坐标，提升三维预测坐标的预测精度。

进一步的，还可以利用该待矫正对象的真实平面图像和该待处理图像，对比得到三维坐标差异；基于该三维坐标差异调整该三维坐标预测层的具体参数；其中，该具体参数包括预测层的层数、多个预测层之间的连接方式、不同预测层之间的参数比值中的至少一项，以优化三维坐标预测网络中的预测能力，进而提升三维预测坐标的预测精度。

在上述任一实施例的基础上，该根据三维预测坐标和表面扭曲参数生成待矫正对象的平面图像，包括：根据该三维预测坐标和该表面扭曲参数预测该平面图像的二维像素排布序列；建立该二维像素排布序列中二维像素点与该待矫正对象的像素点的三维预测坐标之间的映射关系；基于该映射关系将该待处理图像中的像素内容填至该二维像素排布序列中，生成该平面图像。

具体的，在获取到三维预测坐标和表面扭曲参数后，根据三维预测坐标构建参考面，并根据该表面扭曲参数将该参考面调整为二维平面后，预测该二维平面的形状，并根据该二维平面的形状生成对应的二维像素排布序列，该二维像素排布序列用以指示最终得到的待矫正对象的平面图像的内容，建立二维像素排布序列中二维像素点与该待矫正对象的像素点的三维预测坐标之间的映射关系，该映射关系指的是该二维像素排布序列中的元素对应的记录的是应存在于该位置的像素点内容对应的像素点的三维预测坐标，最终基于该映射关系将该待处理图像中的像素内容填至该二维像素排布序列中，根据二维像素排布序列为上述确定的二维平面的形状的图像中各像素点的内容添加具体的像素(显示)内容，以生成该平面图像，该方式可以通过二维像素排布序列记录对应的位于待处理图像中的像素点的坐标后，向原待处理图像进行像素内容提取的方式生成平面图像，无需对原有的三维预测坐标进行扭曲矫正，提升了生成平面图像的效率和质量，并且可以广泛的使用于不同场景下的不同图像，无需引入图像畸变。

应当理解的是，在得到二维平面的形状后还可以根据实际的需求对该形状进行调整，以更贴近后续的图像识别需求。

在本申请一些可选的实施例中，建立该二维像素排布序列中二维像素点与该待矫正对象的像素点的三维预测坐标之间的映射关系，包括：依赖于提供的基于DenseNet的纹理贴图网络作为后向映射器将三维预测坐标转换为后向图后，使用可差分后向映射器允许使用组合目标进行网络的端到端训练，并使用组合目标共同优化三维估计和后向映射网络建立该二维像素排布序列中二维像素点与该待矫正对象的像素点的三维预测坐标之间的映射关系。

优选地，在本结构添加后向映射的真值作为监督，同时加入角度监督，预测的角度可以直接从预测的后向图中计算得到。

在本申请一些可选的实施例中，若同时采用三维坐标预测网络和纹理贴图网络时，可以针对三维坐标预测网络和纹理贴图网络预先进行训练，在该训练过程中先对三维坐标预测网络和纹理贴图网络两个子网路分别进行训练，然后加载每个子网络的最优模型进行联合训练，在子网络的训练过程中，对于三维坐标预测网络，先用少量数据进行预训练，此过程仅使用待矫正对象的三维预测坐标与标签的逐像素差异为监督，后加入其余数据与其他监督，进行再次训练，直到得到三维坐标预测网络的最佳模型。对于纹理贴图网络，同样的先用一部分数据进行预训练，此过程仅用预测的后向映射的坐标流与标签的逐像素差异作为监督，然后加入其他训练数据以及其他监督。

为加深理解，本公开还结合一个具体应用场景，给出了一种具体的实现方案，该待处理图像如图5a所示，其中包括记录有文字内容(ABCD)的纸张作为待矫正对象，基于该待处理图像获取到待矫正对象的平面图像的过程具体包括：

获取该待处理图像在不同分辨率下构成待矫正对象的像素点的三维坐标，得到三维预测坐标。

根据获取到的三维预测坐标生成用于表征待矫正对象外表现的特征平面，以便于根据获取到的三维预测坐标确定该待矫正对象的表面扭曲参数，该特征平面可参考图5b所示。

在获取到待矫正对象的表面扭曲参数后，根据三维预测坐标和该表面扭曲参数预测该平面图像为矩形图形，并生成对应的二维像素排布序列。

建立二维像素排布序列中二维像素点与该待矫正对象的像素点的三维预测坐标之间的映射关系后，基于该映射关系将待处理图像中的像素内容填充至二维像素排布序列中，以得到最终的平面图像，该平面图像如图5c所示。

进一步参考图6，作为对上述各图所示方法的实现，本公开提供了一种图像处理装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图6所示，本实施例的图像处理装置600可以包括：三维坐标预测单元601、扭曲参数确定单元602和平面图像生成单元603。其中，三维坐标预测单元601，被配置成确定待处理图像在不同分辨率下构成待矫正对象的像素点的三维坐标，得到三维预测坐标；扭曲参数确定单元602，被配置成根据该三维预测坐标确定该待矫正对象的表面扭曲参数；平面图像生成单元603，被配置成根据该三维预测坐标和该表面扭曲参数生成该待矫正对象的平面图像。

在本实施例中，图像处理装置600中：三维坐标预测单元601、扭曲参数确定单元602和平面图像生成单元603的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-203的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，该三维坐标预测单元601包括：低精度三维坐标确定子单元，被配置成从低分辨率的待处理图像中确定构成该待矫正对象的大像素点的低精度三维坐标；识别区域确定子单元，被配置成根据该低精度三维坐标确定基于大像素点构成的识别区域；高精度三维坐标确定子单元，被配置成从高分辨率的待处理图像中确定属于该识别区域的小像素点的高精度三维坐标；三维预测坐标生成子单元，被配置成基于该低精度三维坐标和该高精度三维坐标，确定该三维预测坐标。

在本实施例的一些可选的实现方式中，该扭曲参数确定单元602进一步被配置成，根据该三维预测坐标确定对应该待矫正对象表面的各像素点所组成平面的角度参数和曲率参数。

在本实施例的一些可选的实现方式中，该图像处理装置还包括：通知信息生成单元，被配置成响应于该角度参数和该曲率参数中的至少一项不满足预设条件，返回该待矫正对象无法矫正为有效的平面图像的通知信息。

在本实施例的一些可选的实现方式中，平面图像生成单元603，包括：排布序列预测子单元，被配置成根据该三维预测坐标和该表面扭曲参数预测该平面图像的二维像素排布序列；映射关系建立子单元，被配置成建立该二维像素排布序列中二维像素点与该待矫正对象的像素点的三维预测坐标之间的映射关系；平面图像生成子单元，被配置成基于该映射关系将该待处理图像中的像素内容填至该二维像素排布序列中，生成该平面图像。

在本实施例的一些可选的实现方式中，该三维坐标预测单元601，包括：待处理图像集合生成子单元，被配置成基于待处理图像生成待处理图像集合，该待处理图像集合中包括多张不同分辨率的该待处理图像；待处理图像发送子单元，被配置成将该待处理图像集合输入预设的三维坐标预测网络；其中，该三维坐标预测网络中设置有多个用于确定构成待矫正对象的像素点的三维预测坐标的三维坐标预测层；三维预测坐标接收子单元，被配置成接收该三维坐标预测网络输出的三维预测坐标。

在本实施例的一些可选的实现方式中，该图像处理装置，还包括：坐标差异生成单元，被配置成利用该待矫正对象的真实平面图像和该待处理图像，对比得到三维坐标差异；三维坐标预测层调整单元，被配置成基于该三维坐标差异调整该三维坐标预测层的具体参数；其中，该具体参数包括预测层的层数、多个预测层之间的连接方式、不同预测层之间的参数比值中的至少一项。

本实施例作为对应于上述方法实施例的装置实施例存在，本实施例提供的图像处理装置可以基于不同分辨率的待处理图像进行三维坐标预测，以适应不同场景下的待处理图像和不同类型的待矫正对象，为待矫正对象提供准确的三维坐标预测，以更精准的确定待矫正对象的表面扭曲参数，实现更为精准的图像扭曲矫正，提升图像识别、矫正结果的质量。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图7所示，设备700包括计算单元701，其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序，来执行各种适当的动作和处理。在RAM 703中，还可存储设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。

设备700中的多个部件连接至I/O接口705，包括：输入单元706，例如键盘、鼠标等；输出单元707，例如各种类型的显示器、扬声器等；存储单元708，例如磁盘、光盘等；以及通信单元709，例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理，例如图像处理方法。例如，在一些实施例中，图像处理方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元708。在一些实施例中，计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时，可以执行上文描述的图像处理方法的一个或多个步骤。备选地，在其他实施例中，计算单元701可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行图像处理方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决传统物理主机与虚拟专用服务器(VPS，Virtual Private Server)服务中存在的管理难度大，业务扩展性弱的缺陷。服务器也可以分为分布式系统的服务器，或者是结合了区块链的服务器。

根据本公开实施例的技术方案，可以基于不同分辨率的待处理图像进行三维坐标预测，以适应不同场景下的待处理图像和不同类型的待矫正对象，为待矫正对象提供准确的三维坐标预测，以更精准的确定待矫正对象的表面扭曲参数，实现更为精准的图像扭曲矫正，提升图像识别、矫正结果的质量。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开提供的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (14)

1.一种图像处理方法，包括：

确定待处理图像在不同分辨率下构成待矫正对象的像素点的三维坐标，得到三维预测坐标；

根据所述三维预测坐标确定所述待矫正对象的表面扭曲参数；

根据所述三维预测坐标和所述表面扭曲参数生成所述待矫正对象的平面图像；

其中，所述确定待处理图像在不同分辨率下构成待矫正对象的像素点的三维坐标，得到三维预测坐标包括：

从低分辨率的待处理图像中确定构成所述待矫正对象的大像素点的低精度三维坐标；根据所述低精度三维坐标确定基于大像素点构成的识别区域；从高分辨率的待处理图像中确定属于所述识别区域的小像素点的高精度三维坐标；基于所述低精度三维坐标和所述高精度三维坐标，确定所述三维预测坐标。

2.根据权利要求1所述的方法，其中，所述根据所述三维预测坐标确定所述待矫正对象的表面扭曲参数，包括：

根据所述三维预测坐标确定对应所述待矫正对象表面的各像素点所组成平面的角度参数和曲率参数。

3.根据权利要求2所述的方法，还包括：

响应于所述角度参数和所述曲率参数中的至少一项不满足预设条件，返回所述待矫正对象无法矫正为有效的平面图像的通知信息。

4.根据权利要求1所述的方法，其中，所述根据所述三维预测坐标和所述表面扭曲参数生成所述待矫正对象的平面图像，包括：

根据所述三维预测坐标和所述表面扭曲参数预测所述平面图像的二维像素排布序列；

建立所述二维像素排布序列中二维像素点与所述待矫正对象的像素点的三维预测坐标之间的映射关系；

基于所述映射关系将所述待处理图像中的像素内容填至所述二维像素排布序列中，生成所述平面图像。

5.根据权利要求1所述的方法，其中，所述确定待处理图像在不同分辨率下构成待矫正对象的像素点的三维坐标，得到三维预测坐标，包括：

基于待处理图像生成待处理图像集合，所述待处理图像集合中包括多张不同分辨率的所述待处理图像；

将所述待处理图像集合输入预设的三维坐标预测网络；其中，所述三维坐标预测网络中设置有多个用于确定构成待矫正对象的像素点的三维预测坐标的三维坐标预测层；

接收所述三维坐标预测网络输出的三维预测坐标。

6.根据权利要求5所述的方法，还包括：

利用所述待矫正对象的真实平面图像和所述待处理图像，对比得到三维坐标差异；

基于所述三维坐标差异调整所述三维坐标预测层的具体参数；其中，所述具体参数包括预测层的层数、多个预测层之间的连接方式、不同预测层之间的参数比值中的至少一项。

7.一种图像处理装置，包括：

三维坐标预测单元，被配置成确定待处理图像在不同分辨率下构成待矫正对象的像素点的三维坐标，得到三维预测坐标；

扭曲参数确定单元，被配置成根据所述三维预测坐标确定所述待矫正对象的表面扭曲参数；

平面图像生成单元，被配置成根据所述三维预测坐标和所述表面扭曲参数生成所述待矫正对象的平面图像；

其中，所述三维坐标预测单元包括：低精度三维坐标确定子单元，被配置成从低分辨率的待处理图像中确定构成所述待矫正对象的大像素点的低精度三维坐标；识别区域确定子单元，被配置成根据所述低精度三维坐标确定基于大像素点构成的识别区域；高精度三维坐标确定子单元，被配置成从高分辨率的待处理图像中确定属于所述识别区域的小像素点的高精度三维坐标；三维预测坐标生成子单元，被配置成基于所述低精度三维坐标和所述高精度三维坐标，确定所述三维预测坐标。

8.根据权利要求7所述的装置，其中，所述扭曲参数确定单元进一步被配置成，根据所述三维预测坐标确定对应所述待矫正对象表面的各像素点所组成平面的角度参数和曲率参数。

9.根据权利要求8所述的装置，还包括：

通知信息生成单元，被配置成响应于所述角度参数和所述曲率参数中的至少一项不满足预设条件，返回所述待矫正对象无法矫正为有效的平面图像的通知信息。

10.根据权利要求7所述的装置，其中，所述平面图像生成单元，包括：

排布序列预测子单元，被配置成根据所述三维预测坐标和所述表面扭曲参数预测所述平面图像的二维像素排布序列；

映射关系建立子单元，被配置成建立所述二维像素排布序列中二维像素点与所述待矫正对象的像素点的三维预测坐标之间的映射关系；

平面图像生成子单元，被配置成基于所述映射关系将所述待处理图像中的像素内容填至所述二维像素排布序列中，生成所述平面图像。

11.根据权利要求7所述的装置，其中，所述三维坐标预测单元，包括：

待处理图像集合生成子单元，被配置成基于待处理图像生成待处理图像集合，所述待处理图像集合中包括多张不同分辨率的所述待处理图像；

待处理图像发送子单元，被配置成将所述待处理图像集合输入预设的三维坐标预测网络；其中，所述三维坐标预测网络中设置有多个用于确定构成待矫正对象的像素点的三维预测坐标的三维坐标预测层；

三维预测坐标接收子单元，被配置成接收所述三维坐标预测网络输出的三维预测坐标。

12.根据权利要求11所述的装置，还包括：

坐标差异生成单元，被配置成利用所述待矫正对象的真实平面图像和所述待处理图像，对比得到三维坐标差异；

三维坐标预测层调整单元，被配置成基于所述三维坐标差异调整所述三维坐标预测层的具体参数；其中，所述具体参数包括预测层的层数、多个预测层之间的连接方式、不同预测层之间的参数比值中的至少一项。

13.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的图像处理方法。

14.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-6中任一项所述的图像处理方法。