CN112085775B - 图像处理的方法、装置、终端和存储介质 - Google Patents

Abstract

本公开涉及计算机技术领域，具体涉及一种图像捕获的方法、装置、终端和存储介质。本公开提供的图像处理的方法包括：通过彩色传感器获取彩色图像信息；通过深度传感器获取与彩色图像信息对应的深度信息；基于深度信息和彩色图像信息获取目标物体的目标关键特征；根据深度信息和目标关键特征对彩色图像信息执行基于视角的转换以产生校正图像信息。根据本公开提供的图像处理的方法，基于深度信息进行关键特征识别和视角转换提升了识别准确性、降低了转换失真度，无需彩色传感器正对目标物体拍摄也无需在使用时反复调节。

Description

图像处理的方法、装置、终端和存储介质

技术领域

本公开涉及计算机技术领域，具体涉及一种图像处理的方法、装置、终端和存储介质。

背景技术

随着网络通信技术的发展，线上教育愈来愈普及。在线上教育的场景下，教师可以通过网络视频远程获取学生听课和书写情况并进行实时辅导。对此，一些据发明人所知的相关技术使用一种高拍仪，其需要设置在桌面的正上方且镜头正对桌面，用来拍摄其正下方的书本。用户每次使用这种高拍仪时，不得不反复调节高拍仪或者书本的位置，以使高拍仪正对书本，且此种高拍仪占据桌面中心位置，不方便用户使用。

发明内容

提供该发明内容部分以便以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。

根据本公开的一个或多个实施例，提供了一种图像处理的方法，应用于图像捕获设备，所述图像捕获设备包括彩色传感器和深度传感器，所述方法包括：

通过所述彩色传感器获取彩色图像信息；

通过所述深度传感器获取与所述彩色图像信息对应的深度信息；

基于所述深度信息和所述彩色图像信息获取目标物体的目标关键特征；

根据所述深度信息和所述目标关键特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息。

根据本公开的一个或多个实施例，提供了一种图像处理的装置，应用于图像捕获设备，所述图像捕获设备包括彩色传感器和深度传感器，所述装置包括：

彩色图像获取单元，用于通过所述彩色传感器获取彩色图像信息；

深度信息获取单元，用于通过所述深度传感器获取与所述彩色图像信息对应的深度信息；

特征获取单元，用于基于所述深度信息和所述彩色图像信息获取目标物体的目标关键特征；

视角转换单元，用于根据所述深度信息和所述目标关键特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息。

根据本公开的一个或多个实施例，提供了一种图像捕获设备，所述电子设备包括：

至少一个存储器、至少一个处理器和彩色传感器；

其中，所述存储器用于存储程序代码，所述处理器用于调用所述存储器所存储的程序代码以执行根据本公开的一个或多个实施例提供的图像处理的方法。

根据本公开的一个或多个实施例，提供了一种非暂态计算机存储介质，所述非暂态计算机存储介质存储有程序代码，所述程序代码可被计算机设备执行来使得所述计算机设备执行根据本公开的一个或多个实施例提供的图像处理的方法。

根据本公开实施例体提供的图像处理的方法，通过基于深度信息获取目标物体的目标关键特征以及对彩色图像信息进行视角转换，可以得到校正图像信息，从而改变目标物体在校正图像信息中的观看视角，因此无需摄像设备正对目标物体拍摄，也无需在使用时反复调节摄像设备，方便用户使用，并且，基于深度信息进行目标关键特征识别和视角转换提升了识别准确性、降低了转换失真度。此外，本公开实施例体提供的图像处理的方法集成于图像捕获设备中，可以使该电子设备与市面上任意的视频系统匹配，无需另外安装特定的软件或网络。

附图说明

结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。

图1为根据本公开一实施例提供的图像处理的方法的流程图；

图2为根据本公开另一实施例提供的图像处理的方法的使用场景示意图；

图3为根据本公开一实施例提供的图像处理的方法的流程图；

图4为根据本公开一实施例提供的图像处理的装置的结构示意图；

图5为用来实现本公开实施例的电子设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。

应当理解，本公开的装置实施方式中记载的步骤可以按照不同的顺序执行，和/或并行执行。此外，装置实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。

本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。术语“确定”广泛涵盖各种各样的动作，可包括演算、计算、处理、推导、调研、查找(例如，在表、数据库或其他数据结构中查找)、探明、和类似动作，还可包括接收(例如，接收信息)、访问(例如，访问存储器中的数据)和类似动作，以及解析、选择、选取、建立和类似动作等等。其他术语的相关定义将在下文描述中给出。

需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。

为了本公开的目的，短语“A和/或B”意为(A)、(B)或(A和B)。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。

图1为根据本公开实施例提供的图像处理的方法的使用场景示意图。本公开实施例提供的图像处理的方法应用于图像捕获设备，如图1所示，图像捕获设备10包括彩色传感器11和深度传感器12，可以用于拍摄用户20使用目标物体30的场景。

参考图2，图2示出了本公开实施例提供的图像处理的方法200的流程图，方法200包括步骤S201-步骤S204：

步骤S201：通过彩色传感器获取彩色图像信息。

其中，彩色图像信息包括彩色传感器捕获的原始彩色图像信息，以及根据该原始彩色图像信息进行编码、预处理后生成的图像信息，例如MPEG编码信息、1080P视频流信息等。

步骤S202：通过深度传感器获取与所述彩色图像信息对应的深度信息。

其中，深度传感器可以捕获场景的深度信息，深度信息表示传感器所捕捉的场景中的物体与传感器的距离，其可以由每个像素的深度值组成，深度值可以用厘米、毫米等距离单位表示。深度传感器包括但不限于TOF(Time Of Flight，飞行时间)模块、激光雷达、双目摄像头、结构光传感器、超声波雷达等。本实施例中，深度传感器被配置为可以获取彩色图像信息对应的深度值。示例性地，预先将深度传感器和彩色图像传感器进行校准标定，以使深度传感器获得的每个像素的深度值和彩色图像传感器每个像素一一对应。

步骤S203：基于所述深度信息和所述彩色图像信息获取目标物体的目标关键特征。

其中，目标物体包括但不限于纸张、书本、手写板、平板电脑等可供书写或阅读的纸质或电子、机械制品。在一些实施例中，目标物体的目标关键特征包括目标物体的顶点或边缘，例如纸张的角或边缘。示例性地，可以通过训练好的分类器识别目标物体的目标关键特征。还可以通过本领域其他相关的图像识别技术获取目标物体的目标关键特征，本实施例对此不做限定。

在获取目标物体的目标关键特征时，目标物体附近的物体或目标物体的其他特征均可能对目标关键特征的识别过程产生干扰。以目标物体为书籍、目标关键特征为书籍顶层书页的书角为例，白色桌角、桌子边缘以及书籍本身底层书页的书角等特征均可能被误识别为目标关键特征，导致后续生成的校正图像信息存在误差。

对此，本实施例通过基于深度信息可以更加准确地获取目标物体的目标关键特征并且降低校正图像的失真度。一方面，因目标物体通常具有一定的厚度，同样以书籍为例，一本在桌面上的书籍的顶层书页与桌面以及底层书页存在一定的高度差，从而在彩色图像信息中，目标物体的顶层书页与桌面或底层书页的深度值亦不相同，因而可以通过深度信息区分书面与桌面、顶层书页与底层书页，从而排除干扰信息；另一方面，可以通过深度信息确定关键特征是否位于平面，以及各个关键特征所在的平面之间的关系，从而使得到的目标关键特征更能精确地反映目标物体的真实形状，降低校正图像的失真度。因此，根据本实施例体提供的图像处理的方法，在步骤S203中，基于所述深度信息可以更加准确地获取目标物体的目标关键特征，并且可以降低目标物体经过视角转换后在校正图像中的失真度。

在一些实施例中，所述目标关键特征皆位于所述目标物体的同一平面上。

在本实施例中，获取位于同一平面的目标关键特征更能精确地反映目标物体在该平面的真实形状，从而可以降低后续生成校正图像信息的失真度。

在一些实施例中，步骤S203包括：

步骤A1：基于彩色图像信息获取目标物体的关键特征；

步骤A2：基于深度信息从所述关键特征中确定位于所述目标物体的同一平面上的目标关键特征。

在一些实施例中，将目标物体的位于同一平面(例如顶层平面)的目标关键点特征和其对应的深度信息与彩色图像信息分别作为期望输出和期望输入训练关键特征识别模型，从而训练好的关键特征模型可以基于检测的深度信息和彩色图像信息获取目标物体的位于同一平面的关键特征。

步骤S204：根据所述深度信息和所述目标关键特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息。

在本实施例中，因为彩色传感器并非正对着桌面上的书写物，因而在其捕获的彩色图像信息中，被书写的形状及其上的书写内容因透视原理产生变形。因此，根据本实施例体提供的图像处理的方法，在步骤S204中，根据所述深度信息和所述目标关键特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息，从而改变目标物体在校正图像信息中的观看视角。优选地，可以将图1所示的倾斜地拍摄目标物体的视角转换为正对目标物体的视角，使目标物体在校正图像信息中还原成或接近其原本的形状，例如，在彩色图形信息中呈不规则四边形的目标物体通过视角转换在目标图形信息中呈矩形。

作为一种具体的实施方式，可以基于所述深度信息和关键点特征确定透视变换矩阵，并根据透视变换矩阵对所述彩色图像信息进行透视变换以获得校正图像信息。其中，透视变换矩阵可以把原图的坐标映射到一个新的预设平面上。本实施例中，步骤S204还可以采用本领域提供的其他的相关透视变换技术，例如OpenCV的warpPerspective方法等，本公开在此不做限制。

这样，根据本公开实施例体提供的图像处理的方法，通过基于深度信息获取目标物体的目标关键特征以及对彩色图像信息进行视角转换，可以得到校正图像信息，从而改变目标物体在校正图像信息中的观看视角，因此无需图像捕获设备正对目标物体拍摄，也无需在使用时反复调节图像捕获设备，方便用户使用，并且，基于深度信息进行目标关键特征识别和视角转换提升了识别准确性、降低了转换失真度。此外，本公开实施例体提供的图像处理的方法集成于图像捕获设备中，可以使该图像捕获设备与市面上任意的视频系统匹配，无需另外安装特定的软件或网络。

在一些实施例中，方法200还包括：基于所述彩色图像信息获取所述目标物体的方向特征；步骤204进一步包括：根据所述深度信息、所述目标关键特征和所述方向特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息。

其中，方向特征是指可以表征目标物体朝向的特征。举例而言，目标物体上通常手写、印刷或显示有文字，通过获取文字的朝向得到当前目标物体的当前朝向。此外，用户在使用目标物体时，书写手臂通常会覆盖目标物体的底边或右下角，因此，通过获取目标物体的被用户书写手臂所覆盖的边和/或角亦可得到目标物体当前的朝向。因此，本实施例通过获取目标物体的方向特征可以获知目标物体的当前朝向，从而可以根据目标物体在彩色图像中的朝向对彩色图像信息执行基于视角的转换。

在一些实施例中，方法200还包括：对所述校正图像信息进行文字识别，以获取文字识别结果。本实施例在校正图像信息的基础上进行文字识别得到的文字识别结果具备更高的识别准确性，提升了用户体验。

在一些实施例中，步骤S203还包括：

步骤B1：基于所述深度信息和所述彩色图像信息获取目标物体的至少一个关键特征；

步骤B2：对所述至少一个关键特征进行拟合得到至少一个所述目标关键特征。

在实际应用场景下，可能出现目标物体的部分关键特征位于画面外、被用户手部遮挡、被扭曲等情况，从而影响后续的视角转换处理。对此，本实施例利用目标物体通常具备规则形状的特性，对识别到的部分关键特征进行拟合以得到至少一个目标关键特征，可以克服上述问题。示例性地，当目标物体为书籍时，可以基于识别得到的书页的两条边，即关键特征，拟合得到该两条边形成的书页的角，即目标关键特征。

在一些实施例中，方法200还包括：输出所述彩色图像信息和所述校正图像信息。在本实施例中，通过同时发送彩色图像信息和校正图像信息，可以让视频接收者同时得到彩色传感器捕获的真实影像以及目标物体的校正影像。例如，在线上教育的应用场景下，可以同时发送学生的听讲影像和学生做题时的作业本影像，从而方便教师进行在线辅导。

在一些实施例中，可以基于用户的设置输出彩色图像信息和/或校正图像信息，例如可以仅输出彩色图像信息、或仅输出校正图像信息，或也可以同时输出两种视角的图像。

参考图3，图3示出了本公开实施例提供的图像处理的方法300的流程图。方法300应用于图像捕获设备，图像捕获设备包括彩色传感器和深度传感器。方法300包括步骤S301-步骤S305：

步骤S301：通过所述彩色传感器获取彩色图像信息；

步骤S302：通过所述深度传感器获取与所述彩色图像信息对应的深度信息；

步骤S303：基于所述深度信息和所述彩色图像信息获取目标物体的目标关键特征和方向特征；

步骤S304：根据所述深度信息、目标关键特征和方向特征确定透视变换矩阵；

步骤S305：根据所述透视变换矩阵对所述彩色图像信息进行透视变换以获得校正图像信息。

相应地，如图4所示，本公开实施例提供了一种图像处理的装置400，包括：

彩色图像获取单元401，用于通过所述彩色传感器获取彩色图像信息；

深度信息获取单元402，用于通过所述深度传感器获取与所述彩色图像信息对应的深度信息；

特征获取单元403，用于基于所述深度信息和所述彩色图像信息获取目标物体的目标关键特征；

视角转换单元404，用于根据所述深度信息和所述目标关键特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息。

对于装置的实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，其中作为分离模块说明的模块可以是或者也可以不是分开的。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。

根据本公开实施例体提供的图像处理的装置，通过基于深度信息获取目标物体的目标关键特征以及对彩色图像信息进行视角转换，可以得到校正图像信息，从而改变目标物体在校正图像信息中的观看视角，因此无需图像捕获设备正对目标物体拍摄，也无需在使用时反复调节图像捕获设备，方便用户使用，并且，基于深度信息进行目标关键特征识别和视角转换提升了识别准确性、降低了转换失真度。此外，本公开实施例体提供的图像处理的装置，可以使该图像捕获设备与市面上任意的视频系统匹配，无需另外安装特定的软件或网络。

在一些实施例中，所述目标关键特征皆位于所述目标物体的同一平面上。

在本实施例中，获取位于同一平面的目标关键特征更能精确地反映目标物体在该平面的真实形状，从而可以降低后续生成校正图像信息的失真度。

在一些实施例中，特征获取单元403用于基于彩色图像信息获取目标物体的关键特征，以及基于深度信息从所述关键特征中确定位于所述目标物体的同一平面上的目标关键特征。

在一些实施例中，将目标物体的位于同一平面(例如顶层平面)的目标关键点特征和其对应的深度信息与彩色图像信息分别作为期望输出和期望输入训练关键特征识别模型，从而训练好的关键特征模型可以基于检测的深度信息和彩色图像信息获取目标物体的位于同一平面的关键特征。

在一些实施例中，图像处理的装置400还包括：

方向特征获取单元，用于基于所述彩色图像信息获取所述目标物体的方向特征；视角转换单元404进一步用于根据所述深度信息、所述目标关键特征和所述方向特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息。

其中，方向特征是指可以表征目标物体朝向的特征。举例而言，目标物体上通常手写、印刷或显示有文字，通过获取文字的朝向得到当前目标物体的当前朝向。此外，用户在使用目标物体时，书写手臂通常会覆盖目标物体的底边或右下角，因此，通过获取目标物体的被用户书写手臂所覆盖的边和/或角亦可得到目标物体当前的朝向。因此，本实施例通过获取目标物体的方向特征可以获知目标物体的当前朝向，从而可以根据目标物体在彩色图像中的朝向对彩色图像信息执行基于视角的转换。

在一些实施例中，图像处理的装置400还包括：

文字识别单元，用于对所述校正图像信息进行文字识别，以获取文字识别结果。本实施例在校正图像信息的基础上进行文字识别得到的文字识别结果具备更高的识别准确性，提升了用户体验。

在一些实施例中，特征获取单元403包括：

关键特征获取子单元，用于基于所述深度信息和所述彩色图像信息获取目标物体的至少一个关键特征；

目标关键特征获取子单元，用于对所述至少一个关键特征进行拟合得到至少一个所述目标关键特征。

在实际应用场景下，可能出现目标物体的部分关键特征位于画面外、被用户手部遮挡、被扭曲等情况，从而影响后续的视角转换处理。对此，本实施例利用目标物体通常具备规则形状的特性，对识别到的部分关键特征进行拟合以得到至少一个目标关键特征，可以克服上述问题。示例性地，当目标物体为书籍时，可以基于识别得到的书页的两条边，即关键特征，拟合得到该两条边形成的书页的角，即目标关键特征。

在一些实施例中，装置400还包括：

输出单元，用于输出所述彩色图像信息和所述校正图像信息。

在本实施例中，通过同时发送彩色图像信息和校正图像信息，可以让视频接收者同时得到彩色传感器捕获的真实影像以及目标物体的校正影像。例如，在线上教育的应用场景下，可以同时发送学生的听讲影像和学生做题时的作业本影像，从而方便教师进行在线辅导。

在一些实施例中，可以基于用户的设置输出彩色图像信息和/或校正图像信息，例如可以仅输出彩色图像信息、或仅输出校正图像信息，或也可以同时输出两种视角的图像。

相应地，根据本公开的一个或多个实施例，提供了一种图像捕获设备，包括：

至少一个存储器、至少一个处理器和彩色传感器；

其中，存储器用于存储程序代码，处理器用于调用存储器所存储的程序代码以执行根据本公开一个或多个实施例提供的图像处理的方法。

相应地，根据本公开的一个或多个实施例，提供了一种非暂态计算机存储介质，非暂态计算机存储介质存储有程序代码，程序代码可被计算机设备执行来使得所述计算机设备执行根据本公开一个或多个实施例提供的图像处理的方法。

图5示出了用来实现本公开实施例的图像捕获设备800的结构示意图。本公开实施例中的图像捕获设备可以包括但不限于摄像机、照相机、摄像头，以及诸如移动电话、笔记本电脑、PAD(平板电脑)、PMP(便携式多媒体播放器)、智能电视等配备摄像头的电子设备。图5示出的图像捕获设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图5所示，图像捕获设备800可以包括处理装置(例如中央处理器、图形处理器等)801，其可以根据存储在只读存储器(ROM)802中的程序或者从存储装置808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。在RAM 803中，还存储有图像捕获设备800操作所需的各种程序和数据。处理装置801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。

通常，以下装置可以连接至I/O接口805：输入装置806，包括彩色传感器和深度传感器，以及例如触摸屏、触摸板、键盘、鼠标、麦克风、加速度计、陀螺仪等输入装置；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置807；包括例如磁带、硬盘等的存储装置808；以及通信装置809。示例性地，存储装置808可以存储第一数据库和第二数据库，其中，第一数据库存储有第一程序的至少一个第一子程序标识；第二数据库存储有第一程序的至少一个第二子程序标识。通信装置809可以允许图像捕获设备800与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的图像捕获设备800，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的装置的程序代码。在这样的实施例中，该计算机程序可以通过通信装置809从网络上被下载和安装，或者从存储装置808被安装，或者从ROM 802被安装。在该计算机程序被处理装置801执行时，执行本公开实施例的装置中限定的上述功能。

需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。

上述计算机可读介质可以是上述图像捕获设备中所包含的；也可以是单独存在，而未装配入该图像捕获设备中。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该图像捕获设备执行时，使得该图像捕获设备：通过彩色传感器获取彩色图像信息；通过深度传感器获取与彩色图像信息对应的深度信息；基于深度信息和彩色图像信息获取目标物体的目标关键特征；根据深度信息和目标关键特征对彩色图像信息执行基于视角的转换以产生校正图像信息。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、装置和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定，例如，彩色图像获取单元可以被描述为“用于通过所述彩色传感器获取彩色图像信息的单元”。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

根据本公开的一个或多个实施例，提供了一种图像处理的方法，应用于图像捕获设备，其特征在于，所述图像捕获设备包括彩色传感器和深度传感器，所述方法包括：通过所述彩色传感器获取彩色图像信息；通过所述深度传感器获取与所述彩色图像信息对应的深度信息；基于所述深度信息和所述彩色图像信息获取目标物体的目标关键特征；根据所述深度信息和所述目标关键特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息。

根据本公开的一个或多个实施例，所述目标关键特征包括所述目标物体的至少一个顶点和/或至少一个边缘。

根据本公开的一个或多个实施例，所述方法还包括：基于所述彩色图像信息获取所述目标物体的方向特征；所述根据所述深度信息和所述目标关键特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息，包括：根据所述深度信息、所述目标关键特征和所述方向特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息。

根据本公开的一个或多个实施例，所述方向特征包括所述目标物体上的文字、所述目标物体的被用户书写手臂所覆盖的边和/或角。

根据本公开的一个或多个实施例，所述根据所述深度信息和所述目标关键特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息，包括：根据所述深度信息确定透视变换矩阵；根据所述透视变换矩阵对所述彩色图像信息进行透视变换以获得校正图像信息。

根据本公开的一个或多个实施例提供的图像处理的方法，还包括：对所述校正图像信息进行文字识别，以获取文字识别结果。

根据本公开的一个或多个实施例，所述基于所述深度信息和所述彩色图像信息获取目标物体的目标关键特征，包括：基于所述深度信息和所述彩色图像信息获取目标物体的至少一个关键特征；对所述至少一个关键特征进行拟合得到至少一个所述目标关键特征。

根据本公开的一个或多个实施例提供的图像处理的方法，还包括：输出所述彩色图像信息和所述校正图像信息。

根据本公开的一个或多个实施例，提供了一种图像处理的装置，应用于图像捕获设备，其特征在于，所述图像捕获设备包括彩色传感器和深度传感器，所述装置包括：彩色图像获取单元，用于通过所述彩色传感器获取彩色图像信息；深度信息获取单元，用于通过所述深度传感器获取与所述彩色图像信息对应的深度信息；特征获取单元，用于基于所述深度信息和所述彩色图像信息获取目标物体的目标关键特征；视角转换单元，用于根据所述深度信息和所述目标关键特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息。

根据本公开的一个或多个实施例，提供了一种图像捕获设备，其特征在于，包括：至少一个存储器、至少一个处理器、彩色传感器和深度传感器；其中，所述存储器用于存储程序代码，所述处理器用于调用所述存储器所存储的程序代码以执行根据本公开的一个或多个实施例提供的图像处理的方法。

一种非暂态计算机存储介质，其特征在于，所述非暂态计算机存储介质存储有程序代码，所述程序代码可被计算机设备执行来使得所述计算机设备执行以执行根据本公开的一个或多个实施例提供的图像处理的方法。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。

尽管已经采用特定于结构特征和/或装置逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (10)

1.一种图像处理的方法，应用于图像捕获设备，其特征在于，所述图像捕获设备包括彩色传感器和深度传感器，所述方法包括：

通过所述彩色传感器获取彩色图像信息；

通过所述深度传感器获取与所述彩色图像信息对应的深度信息；

基于所述深度信息和所述彩色图像信息获取目标物体的目标关键特征，所述目标关键特征包括所述目标物体的至少一个顶点和/或至少一个边缘；

根据所述深度信息和所述目标关键特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息。

2.如权利要求1所述的图像处理的方法，其特征在于，所述方法还包括：基于所述彩色图像信息获取所述目标物体的方向特征；

所述根据所述深度信息和所述目标关键特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息，包括：根据所述深度信息、所述目标关键特征和所述方向特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息。

3.如权利要求2所述的图像处理的方法，其特征在于，所述方向特征包括所述目标物体上的文字、所述目标物体的被用户书写手臂所覆盖的边和/或角。

4.如权利要求1所述的图像处理的方法，其特征在于，所述根据所述深度信息和所述目标关键特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息，包括：

根据所述深度信息确定透视变换矩阵；

根据所述透视变换矩阵对所述彩色图像信息进行透视变换以获得校正图像信息。

5.如权利要求1所述的图像处理的方法，其特征在于，所述方法还包括：

对所述校正图像信息进行文字识别，以获取文字识别结果。

6.如权利要求1所述的图像处理的方法，其特征在于，所述基于所述深度信息和所述彩色图像信息获取目标物体的目标关键特征，包括：

基于所述深度信息和所述彩色图像信息获取目标物体的至少一个关键特征；

对所述至少一个关键特征进行拟合得到至少一个所述目标关键特征。

7.如权利要求1所述的图像处理的方法，其特征在于，所述方法还包括：

输出所述彩色图像信息和所述校正图像信息。

8.一种图像处理的装置，应用于图像捕获设备，其特征在于，所述图像捕获设备包括彩色传感器和深度传感器，所述装置包括：

彩色图像获取单元，用于通过所述彩色传感器获取彩色图像信息；

深度信息获取单元，用于通过所述深度传感器获取与所述彩色图像信息对应的深度信息；

特征获取单元，用于基于所述深度信息和所述彩色图像信息获取目标物体的目标关键特征，所述目标关键特征包括所述目标物体的至少一个顶点和/或至少一个边缘；

视角转换单元，用于根据所述深度信息和所述目标关键特征对所述彩色图像信息执行基于视角的转换以产生校正图像信息。

9.一种图像捕获设备，其特征在于，包括：

至少一个存储器、至少一个处理器、彩色传感器和深度传感器；

其中，所述存储器用于存储程序代码，所述处理器用于调用所述存储器所存储的程序代码以执行权利要求1至7任一所述的方法。

10.一种非暂态计算机存储介质，其特征在于，所述非暂态计算机存储介质存储有程序代码，所述程序代码可被计算机设备执行来使得所述计算机设备执行权利要求1至7任一所述的方法。