CN112801907B - 深度图像的处理方法、装置、设备和存储介质 - Google Patents

深度图像的处理方法、装置、设备和存储介质 Download PDF

Info

Publication number
CN112801907B
CN112801907B CN202110152764.2A CN202110152764A CN112801907B CN 112801907 B CN112801907 B CN 112801907B CN 202110152764 A CN202110152764 A CN 202110152764A CN 112801907 B CN112801907 B CN 112801907B
Authority
CN
China
Prior art keywords
depth
depth image
image
constraint
color image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110152764.2A
Other languages
English (en)
Other versions
CN112801907A (zh
Inventor
焦少慧
刘鑫
王悦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing ByteDance Network Technology Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN202110152764.2A priority Critical patent/CN112801907B/zh
Publication of CN112801907A publication Critical patent/CN112801907A/zh
Application granted granted Critical
Publication of CN112801907B publication Critical patent/CN112801907B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/77—Retouching; Inpainting; Scratch removal
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/269—Analysis of motion using gradient-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10024—Color image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10028—Range image; Depth image; 3D point clouds
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种深度图像的处理方法、装置、设备和存储介质。该方法包括：获取同一空间区域下的彩色图像和深度图像；通过预训练神经网络预测所述彩色图像中的目标三维信息，其中，所述预训练神经网络通过样本彩色图像和所述样本彩色图像中的样本三维信息训练得到；根据所述目标三维信息，填补所述深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区。该方法不仅对深度图像中存在的空洞进行了深度填补，同时，还对深度图像的视野盲区进行了深度填补，从而扩大了深度图像的视角范围以及深度范围。

Description

深度图像的处理方法、装置、设备和存储介质
技术领域
本发明实施例涉及图像处理技术领域，尤其涉及一种深度图像的处理方法、装置、设备和存储介质。
背景技术
深度图像的出现为各类计算机视觉的应用开辟了新的道路，并在物体识别以及三维重建等应用中发挥着重要的作用。通常可以通过深度采集设备来采集拍摄场景的深度图像，如深度采集设备利用飞行时间(Time Of Flight，TOF)或者结构光等技术来采集深度图像。但是，目前的深度采集设备在光滑明亮、磨砂面或者透明等表面会存在过曝以及欠曝等情况，从而导致所采集的深度图像上存在大量的空洞。
发明内容
针对传统技术中的深度采集设备所采集的深度图像上存在大量的空洞的技术问题，本发明提供一种深度图像的处理方法、装置、设备和存储介质。
第一方面，本发明实施例提供一种深度图像的处理方法，包括：
获取同一空间区域下的彩色图像和深度图像；
通过预训练神经网络预测所述彩色图像中的目标三维信息，其中，所述预训练神经网络通过样本彩色图像和所述样本彩色图像中的样本三维信息训练得到；
根据所述目标三维信息，填补所述深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区。
第二方面，本发明实施例提供一种深度图像的处理装置，包括：
获取模块，用于获取同一空间区域下的彩色图像和深度图像；
第一预测模块，用于通过预训练神经网络预测所述彩色图像中的目标三维信息，其中，所述预训练神经网络通过样本彩色图像和样本彩色图像中的样本三维信息训练得到；
第一处理模块，用于根据所述目标三维信息，填补所述深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区。
第三方面，本发明实施例提供一种深度图像的处理设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现本发明实施例第一方面提供的深度图像的处理方法的步骤。
第四方面，本发明实施例提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现本发明实施例第一方面提供的深度图像的处理方法的步骤。
本申请实施例提供的深度图像的处理方法、装置、设备和存储介质，获取同一空间区域下的彩色图像和深度图像，通过预训练神经网络预测彩色图像中的目标三维信息，根据该目标三维信息，填补深度图像中的空洞以及深度图像相对彩色图像的视野盲区。通过预测同一空间区域下的彩色图像中的目标三维信息，并基于该目标三维信息对深度图像进行深度填补，不仅使得深度采集设备所采集的深度图像中存在的空洞得到了填补，同时，还填补了深度图像的视野盲区，从而扩大了该深度图像的视角范围以及深度范围，即还解决了深度采集设备所采集的深度图像深度采集范围局限的问题。
附图说明
结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。
图1为本发明实施例提供的深度图像的处理方法的一种流程示意图；
图2为本发明实施例提供的深度图像的深度填补的一种流程示意图；
图3为本发明实施例提供的输入深度图像和增强深度图像之间的对比示意图；
图4为本发明实施例提供的深度图像序列的插帧处理过程的一种流程示意图；
图5为本发明实施例提供的深度图像的处理装置的一种结构示意图；
图6为本发明实施例提供的深度图像的处理设备的一种结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
目前，受限于深度采集设备的硬件成本，深度采集设备在光滑明亮、磨砂面或者透明等表面会存在过曝以及欠曝等情况，从而导致所采集的深度图像上存在大量的空洞；同时，相对彩色采集设备来说，深度采集设备的深度采集范围(包括采集视角范围和采集深度范围)也是受限的，对于相对过远或者过近的区域，深度采集设备无法采集到对应的深度信息。为此，本申请实施例提供的技术方案，能够基于同一空间区域下的彩色图像中的三维信息对深度图像进行处理，以扩大深度图像的视角范围和深度范围，以及填补深度图像中存在的空洞。
为使本发明的目的、技术方案和优点更加清楚明白，下文中将结合附图对本发明的实施例进行详细说明。需要说明的是，在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互任意组合。
需要说明的是，下述方法实施例的执行主体可以是深度图像的处理装置，该装置可以通过软件、硬件或者软硬件结合的方式实现成为深度图像的处理设备(以下简称电子设备)的部分或者全部。可选地，该电子设备可以包括但不限于智能手机、平板电脑、电子书阅读器以及图像采集设备(如相机)等。当然，该电子设备也可以为独立的服务器或者服务器集群，本发明实施例对电子设备的具体形式不做限定。下述方法实施例以执行主体是电子设备为例进行说明。
图1为本发明实施例提供的深度图像的处理方法的一种流程示意图。本实施例涉及的是电子设备如何对深度图像进行深度填补的具体过程。如图1所示，该方法可以包括：
S101、获取同一空间区域下的彩色图像和深度图像。
其中，该彩色图像可以是指包括了每个像素点的像素值的图像，在一可选地实施例中，像素值由R(红)、G(绿)、B(蓝)三个分量来表示，每个分量介于(0，255)。上述深度图像是指包括了每个像素点深度信息的图像，这里的深度信息是指采集图像的传感器所在平面与该像素点对应的物体表面之间的距离。
在实际应用中，可以通过彩色相机采集彩色图像，通过深度相机采集深度图像，如TOF相机或者结构光相机等。通常，将彩色相机和深度相机设置在相邻的两个位置，且确保两个相机的采集方向均对准同一空间区域，以使两个相机所采集的图像来自同一空间区域。当然，也可以将两个相机采集的同一空间区域下的彩色图像和深度图像预先存储到云端，当需要对深度图像进行处理时，电子设备从云端下载同一空间区域下的彩色图像和深度图像。
S102、通过预训练神经网络预测所述彩色图像中的目标三维信息。
其中，所述预训练神经网络通过样本彩色图像和所述样本彩色图像中的样本三维信息训练得到。
可以理解的是，目标三维信息是指彩色图像中能够体现深度变化的信息特征，其对于深度信息具有一定的指导性。例如，彩色图像中的空间直线在一定程度下可以反映深度信息的变化，且可信度较高。因此，通过预测彩色图像中的目标三维信息，以该目标三维信息中体现出的深度信息的变化作为参考依据，对来自同一空间区域下的深度图像中缺失的深度信息进行预估。
可选地，目标三维信息可以包括深度边界、法向量以及能够体现空间透视关系的直线。其中，深度边界可以理解为彩色图像中的物体轮廓，如人脸的轮廓。上述法向量可以体现彩色图像中的平面。上述空间直线可以为彩色图像中存在的道路线、建筑边缘线、室内墙角线以及踢脚线等。
在实际应用中，可以通过预训练神经网络来实现彩色图像中目标三维信息的预测。因此，需要采用大量的训练数据来训练该预训练神经网络。在该预训练神经网络的训练过程中，可以通过大量的样本彩色图像和该样本彩色图像中的样本三维信息来进行训练。具体的，将样本彩色图像作为预训练神经网络的输入，将样本三维信息作为预训练神经网络的期望输出，通过预训练神经网络的预测输出与期望输出，计算预设的损失函数的损失值，并结合该损失值对预训练神经网络的参数进行调整，直至达到预设的收敛条件，从而得到训练好的预训练神经网络。可选地，该预训练神经网络可以通过卷积神经网络或者编码器-解码器网络来构建。
在得到训练好的预训练神经网络之后，将彩色图像输入至预训练神经网络中，通过预训练神经网络便可以预测出彩色图像中的目标三维信息。
S103、根据所述目标三维信息，填补所述深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区。
其中，在得到彩色图像中的目标三维信息之后，由于该目标三维信息在一定程度上能够体现空间区域中深度信息的变化，因此，电子设备便可以基于该目标三维信息对深度图像进行深度填补。通常，相对彩色相机，深度相机的采集视角以及深度采集范围均较小，对于过远或过近的区域无法采集到深度信息，导致深度图像相对彩色图像存在视野盲区。为了能够得到更完善的深度图像，电子设备可以基于得到的目标三维信息，一方面对深度图像中存在的空洞进行深度填补，另一方面对深度图像相对彩色图像的视野盲区进行深度填补，从而扩大深度图像的视角范围以及深度范围，以使深度图像的视角范围和深度范围与彩色图像保持一致。
由于同一空间区域下的彩色图像和深度图像来自不同的采集设备，即彩色图像和深度图像的坐标系是不相同的，为了能够基于彩色图像对深度图像进行处理，需要对深度图像进行坐标系转换。在上述实施例的基础上，可选地，在上述S101之后，该方法还可以包括：确定所述彩色图像和所述深度图像之间的变换矩阵；根据所述变换矩阵，对所述深度图像进行坐标系变换。
其中，对彩色相机和深度相机进行标定，从而获取两个相机之间的对应关系。具体的，可以分别通过彩色相机和深度相机对同一标定对象进行拍摄，得到标定对象的彩色图像和深度图像。接着，分别从标定对象的彩色图像和深度图像中提取特征点，将提取出的特征点进行匹配，得到多组匹配的特征点。再接着，通过多组匹配的特定点，建立相应的方程组，通过求解方程组即可得到彩色图像和深度图像之间的变换矩阵。在得到变换矩阵之后，电子设备基于变换矩阵对深度图像进行坐标系转换。
本申请实施例提供的深度图像的处理方法，获取同一空间区域下的彩色图像和深度图像，通过预训练神经网络预测彩色图像中的目标三维信息，根据该目标三维信息，填补深度图像中的空洞以及深度图像相对彩色图像的视野盲区。通过预测同一空间区域下的彩色图像中的目标三维信息，并基于该目标三维信息对深度图像进行深度填补，不仅使得深度采集设备所采集的深度图像中存在的空洞得到了填补，同时，还填补了深度图像的视野盲区，从而扩大了该深度图像的视角范围以及深度范围，即还解决了深度采集设备所采集的深度图像深度采集范围局限的问题。
在一个实施例中，还提供了一种基于彩色图像中的目标三维信息对深度图像进行深度填补的具体过程。在上述实施例的基础上，可选地，上述S103可以包括：根据所述目标三维信息，通过求解最小化能量函数来填补所述深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区。
其中，最小化能量函数用于表示深度图像和处理后的深度图像之间的能量差距最小。在得到彩色图像中的目标三维信息之后，可以通过最小化能量函数来求解深度填补信息，通过所求解的深度填补信息来填补深度图像中的空洞和视野盲区。
通过该方式，不仅填补了深度图像中的空洞和视野盲区，还能够使得处理后的深度图像和处理前的深度图像之间的能量差距最小，即保证了两个图像之间的像素值变化最小，使得经过深度填补后的深度图像更准确，更符合实际的深度情况。
可选地，经过预训练神经网络预测出的彩色图像中的目标三维信息可以包括深度边界、法向量以及空间直线。因此，可以基于深度边界、法向量以及空间直线来对深度图像进行深度填补，具体可以参照下述实施例所述的过程。在上述实施例的基础上，可选地，如图2所示，上述根据所述目标三维信息，通过求解最小化能量函数来填补所述深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区的过程可以包括：
S201、将所述深度图像作为输入深度图像，根据所述深度边界，将所述输入深度图像在深度边界处的深度绝对差和输出深度图像在深度边界处的深度绝对差间的统计最小平方差作为第一约束条件。
其中，所述输出深度图像是指假设对所述输入深度图像经过空洞以及视野盲区填补后得到的图像。输入深度图像在深度边界处的深度绝对差是指输入深度图像中位于深度边界内的像素点的像素值与位于深度边界外的像素点的像素值之间的绝对差值。同理，输出深度图像在深度边界处的深度绝对差是指输出深度图像中位于深度边界内的像素点的像素值与位于深度边界外的像素点的像素值之间的绝对差值。针对预测出的各个深度边界，分别计算输入深度图像在深度边界处的深度绝对差和输出深度图像在该深度边界处的深度绝对差之间的统计最小平方差，以该统计最小平方差作为求解深度填补值的第一约束条件。
S202、根据所述直线，将所述输入深度图像和所述输出深度图像在直线上的统计最小平方差作为第二约束条件。
其中，针对预测出的每条空间直线，分别计算输入深度图像在直线上的像素点的像素值与输出深度图像在该直线上的像素点的像素值之间的统计最小平方差，以该统计最小平方差作为求解深度填补值的第二约束条件。
S203、根据所述法向量，将所述输入深度图像和所述输出深度图像在法向估计上的统计最小平方差作为第三约束条件。
其中，针对预测出的每个法向量，分别计算输入深度图像在法向估计上的像素点的像素值与输出深度图像在该法向估计上的像素点的像素值之间的统计最小平方差，以该统计最小平方差作为求解深度填补值的第三约束条件。
S204、将所述输入深度图像和所述输出深度图像在深度像素上的统计最小平方差作为第四约束条件。
其中，为了确保输入深度图像和输出深度图像之间的能量差距最小，还需要将输入深度图像和输出深度图像在深度像素上的统计最小平方差作为第四约束条件，来求解最终的深度填补值。
S205、基于所述第一约束条件、所述第二约束条件和所述第三约束条件中的至少之一，以及所述第四约束条件求解最小化能量函数，得到目标解。
其中，由于目标三维信息中的空间直线最能体现深度信息的变化，同时，为了确保输入深度图像和输出深度图像之间的能量差距最小，基于此，在求解最小化能量函数时，可以分别对上述第一约束条件、第二约束条件、第三约束条件以及第四约束条件设置对应的权重。可选地，第一约束条件、第二约束条件、第三约束条件以及第四约束条件各自对应的权重按照由大到小的顺序排列如下：第二约束条件、第四约束条件、第一约束条件、第三约束条件。
可选地，以通过第一约束条件、第二约束条件、第三约束条件以及第四约束条件求解最小化能量函数为例，电子设备可以通过如下公式1求解最小化能量函数E：
公式1：E＝a1*Ed+a2*E1+a3*Eb+b1*En，
其中，Ed为上述第四约束条件，E1为上述第二约束条件，Eb为上述第一约束条件，En为上述第三约束条件，a1、a2、a3以及b1分别为各约束条件对应的权重，且a2＞a1＞a3＞b1。
S206、根据所述目标解填补所述输入深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区，得到最终的输出深度图像。
其中，在得到全局最优的目标解之后，电子设备便可以基于该目标解对输入深度图像中的空洞以及视野盲区进行深度填补，并输出经过深度填补后的深度图像。
在本实施例中，基于从彩色图像中预测出的深度边界、法向量以及空间直线，通过求解最小化能量函数来得到最优的深度填补值，并基于该求解出的深度填补值对深度图像中的空洞以及视野盲区进行深度填补。通过该方式，不仅实现了对输入深度图像中的空洞以及视野盲区的填补，而且在求解最小化能量函数时将输入深度图像和输出深度图像在深度像素上的差距最小作为约束条件，保证了深度填补后的深度图像与输入深度图像之间的能量差距最小，使得深度填补后的深度图像的深度信息更准确。
在实际应用中，受限于深度采集设备的硬件成本，深度采集设备所采集的深度图像的空间分辨率较低。为此，可以对采集的深度图像进行处理，以增强深度图像的空间分辨率。在上述实施例的基础上，可选地，在上述S103之后，该方法还可以包括：对经过空洞以及视野盲区填补后的深度图像进行上采样处理，得到增强深度图像。
其中，在得到经过深度填补后的深度图像之后，电子设备可以采用预设的上采样算法对该深度图像进行上采样处理，以增强该深度图像的空间分辨率。在实际应用中，可以采用插值法进行上采样处理，如最近邻插值、双线性插值、均值插值以及中值插值等，也可以采用转置卷积进行上采样处理，本实施例对此不做限定。
为了直观地展示深度图像处理前后的效果，分别采集两个空间区域下的彩色图像和深度图像。参见图3，图3中的第一张图和第二张图分别为来自同一空间区域下的彩色图像和深度图像，第三张图为基于第一张彩色图像中的目标三维信息，对上述第二张深度图像进行深度填补以及上采样处理后得到的增强深度图像。从图3中可以明显看出，所得到的增强深度图像不仅实现了空洞的填补，还扩大了深度图像的深度采集范围。
另外，受限于深度采集设备的硬件成本，深度采集设备所采集的深度图像序列的帧率较低。为此，可以对采集的深度图像序列进行处理，以提高深度图像序列的时间分辨率。在上述实施例的基础上，可选地，如图4所示，该方法还可以包括：
S401、采用光流法预测深度图像序列的帧间运动信息。
其中，所述深度图像序列包括多个在时间上连续的所述增强深度图像。在得到深度采集设备所采集的初始深度图像序列之后，电子设备可以分别对初始深度图像序列中的每帧深度图像中的空洞以及视野盲区进行深度填补，并对深度填补后的深度图像进行上采样处理，得到增强深度图像。
接着，为了提高深度图像序列的帧率，电子设备可以采用光流法预测由多帧增强深度图像形成的深度图像序列的帧间运动信息。在实际应用中，可以基于匹配的光流法、基于频域的光流法或者基于梯度的光流法来预测帧间运动信息。
S402、根据所述帧间运动信息对所述深度图像序列进行插帧处理。
其中，在得到帧间运动信息之后，电子设备便可以基于帧间运动信息预测当前深度帧图像的上一深度帧图像和下一深度帧图像，并将预测的上一深度帧图像和下一深度帧图像对应插入在深度图像序列中，以补充深度图像序列中更细密的深度帧信息。
在本实施例中，通过对深度填补后得到的深度图像进行上采样处理，从而提高了深度图像的空间分辨率。并且，通过光流法预测由多帧增强深度图像形成的深度图像序列的帧间运动信息，并基于该帧间运动信息对深度图像序列进行插帧处理，从而提高了深度图像序列的帧率。
图5为本发明实施例提供的深度图像的处理装置的一种结构示意图。如图5所示，该装置可以包括：获取模块501、第一预测模块502和第一处理模块503。
具体的，获取模块501用于获取同一空间区域下的彩色图像和深度图像；
第一预测模块502用于通过预训练神经网络预测所述彩色图像中的目标三维信息，其中，所述预训练神经网络通过样本彩色图像和样本彩色图像中的样本三维信息训练得到；
第一处理模块503用于根据所述目标三维信息，填补所述深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区。
本申请实施例提供的深度图像的处理装置，获取同一空间区域下的彩色图像和深度图像，通过预训练神经网络预测彩色图像中的目标三维信息，根据该目标三维信息，填补深度图像中的空洞以及深度图像相对彩色图像的视野盲区。通过预测同一空间区域下的彩色图像中的目标三维信息，并基于该目标三维信息对深度图像进行深度填补，不仅使得深度采集设备所采集的深度图像中存在的空洞得到了填补，同时，还填补了深度图像的视野盲区，从而扩大了该深度图像的视角范围以及深度范围，即还解决了深度采集设备所采集的深度图像深度采集范围局限的问题。
可选地，所述目标三维信息包括深度边界、法向量以及能够体现空间透视关系的直线。
在上述实施例的基础上，可选地，第一处理模块503具体用于根据所述目标三维信息，通过求解最小化能量函数来填补所述深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区，其中，所述最小化能量函数用于表示所述深度图像和处理后的深度图像之间的能量差距最小。
在上述实施例的基础上，可选地，第一处理模块503可以包括：第一确定单元、第二确定单元、第三确定单元、第四确定单元、求解单元和填补单元；
具体的，第一确定单元用于将所述深度图像作为输入深度图像，根据所述深度边界，将所述输入深度图像在深度边界处的深度绝对差和输出深度图像在深度边界处的深度绝对差间的统计最小平方差作为第一约束条件，其中，所述输出深度图像是指假设对所述输入深度图像经过空洞以及视野盲区填补后得到的图像；
第二确定单元用于根据所述直线，将所述输入深度图像和所述输出深度图像在直线上的统计最小平方差作为第二约束条件；
第三确定单元用于根据所述法向量，将所述输入深度图像和所述输出深度图像在法向估计上的统计最小平方差作为第三约束条件；
第四确定单元用于将所述输入深度图像和所述输出深度图像在深度像素上的统计最小平方差作为第四约束条件；
求解单元用于基于所述第一约束条件、所述第二约束条件和所述第三约束条件中的至少之一，以及所述第四约束条件求解最小化能量函数，得到目标解；
填补单元用于根据所述目标解填补所述输入深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区，得到最终的输出深度图像。
可选地，所述第一约束条件、所述第二约束条件、所述第三约束条件以及所述第四约束条件各自对应的权重按照由大到小的顺序排列如下：所述第二约束条件、所述第四约束条件、所述第一约束条件、所述第三约束条件。
在上述实施例的基础上，可选地，该装置还包括：上采样模块；
具体的，上采样模块用于对经过空洞以及视野盲区填补后的深度图像进行上采样处理，得到增强深度图像。
在上述实施例的基础上，可选地，该装置还包括：第二预测模块和第二处理模块；
具体的，第二预测模块用于采用光流法预测深度图像序列的帧间运动信息，其中，所述深度图像序列包括多个在时间上连续的所述增强深度图像；
第二处理模块用于根据所述帧间运动信息对所述深度图像序列进行插帧处理。
在上述实施例的基础上，可选地，该装置还包括：确定模块和坐标变换模块；
具体的，确定模块用于在所述获取模块501获取同一空间区域下的彩色图像和深度图像之后，确定所述彩色图像和所述深度图像之间的变换矩阵；
坐标变换模块用于根据所述变换矩阵，对所述深度图像进行坐标系变换。
下面参考图6，其示出了适于用来实现本公开实施例的电子设备600的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、图像采集设备等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示，电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置606加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM603中，还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常，以下装置可以连接至I/O接口605：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置609；包括例如磁带、硬盘等的存储装置606；以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置609从网络上被下载和安装，或者从存储装置606被安装，或者从ROM 602被安装。在该计算机程序被处理装置601执行时，执行本公开实施例的方法中限定的上述功能。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取至少两个网际协议地址；向节点评价设备发送包括所述至少两个网际协议地址的节点评价请求，其中，所述节点评价设备从所述至少两个网际协议地址中，选取网际协议地址并返回；接收所述节点评价设备返回的网际协议地址；其中，所获取的网际协议地址指示内容分发网络中的边缘节点。
或者，上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：接收包括至少两个网际协议地址的节点评价请求；从所述至少两个网际协议地址中，选取网际协议地址；返回选取出的网际协议地址；其中，接收到的网际协议地址指示内容分发网络中的边缘节点。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
在一个实施例中，还提供了一种深度图像的处理设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现以下步骤：
获取同一空间区域下的彩色图像和深度图像；
通过预训练神经网络预测所述彩色图像中的目标三维信息，其中，所述预训练神经网络通过样本彩色图像和所述样本彩色图像中的样本三维信息训练得到；
根据所述目标三维信息，填补所述深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区。
在一个实施例中，还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现以下步骤：
获取同一空间区域下的彩色图像和深度图像；
通过预训练神经网络预测所述彩色图像中的目标三维信息，其中，所述预训练神经网络通过样本彩色图像和所述样本彩色图像中的样本三维信息训练得到；
根据所述目标三维信息，填补所述深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区。
上述实施例中提供的深度图像的处理装置、设备以及存储介质可执行本发明任意实施例所提供的深度图像的处理方法，具备执行该方法相应的功能模块和有益效果。未在上述实施例中详尽描述的技术细节，可参见本发明任意实施例所提供的深度图像的处理方法。
根据本公开的一个或多个实施例，提供一种深度图像的处理方法，包括：
获取同一空间区域下的彩色图像和深度图像；
通过预训练神经网络预测所述彩色图像中的目标三维信息，其中，所述预训练神经网络通过样本彩色图像和所述样本彩色图像中的样本三维信息训练得到；
根据所述目标三维信息，填补所述深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区。
可选地，所述目标三维信息包括深度边界、法向量以及能够体现空间透视关系的直线。
根据本公开的一个或多个实施例，提供了如上的深度图像的处理方法，还包括：根据所述目标三维信息，通过求解最小化能量函数来填补所述深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区，其中，所述最小化能量函数用于表示所述深度图像和处理后的深度图像之间的能量差距最小。
根据本公开的一个或多个实施例，提供了如上的深度图像的处理方法，还包括：将所述深度图像作为输入深度图像，根据所述深度边界，将所述输入深度图像在深度边界处的深度绝对差和输出深度图像在深度边界处的深度绝对差间的统计最小平方差作为第一约束条件，其中，所述输出深度图像是指假设对所述输入深度图像经过空洞以及视野盲区填补后得到的图像；
根据所述直线，将所述输入深度图像和所述输出深度图像在直线上的统计最小平方差作为第二约束条件；根据所述法向量，将所述输入深度图像和所述输出深度图像在法向估计上的统计最小平方差作为第三约束条件；将所述输入深度图像和所述输出深度图像在深度像素上的统计最小平方差作为第四约束条件；基于所述第一约束条件、所述第二约束条件和所述第三约束条件中的至少之一，以及所述第四约束条件求解最小化能量函数，得到目标解；根据所述目标解填补所述输入深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区，得到最终的输出深度图像。
可选地，所述第一约束条件、所述第二约束条件、所述第三约束条件以及所述第四约束条件各自对应的权重按照由大到小的顺序排列如下：所述第二约束条件、所述第四约束条件、所述第一约束条件、所述第三约束条件。
根据本公开的一个或多个实施例，提供了如上的深度图像的处理方法，还包括：对经过空洞以及视野盲区填补后的深度图像进行上采样处理，得到增强深度图像。
根据本公开的一个或多个实施例，提供了如上的深度图像的处理方法，还包括：采用光流法预测深度图像序列的帧间运动信息，其中，所述深度图像序列包括多个在时间上连续的所述增强深度图像；根据所述帧间运动信息对所述深度图像序列进行插帧处理。
根据本公开的一个或多个实施例，提供了如上的深度图像的处理方法，还包括：确定所述彩色图像和所述深度图像之间的变换矩阵；根据所述变换矩阵，对所述深度图像进行坐标系变换。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (8)

1.一种深度图像的处理方法，其特征在于，包括：
获取同一空间区域下的彩色图像和深度图像；
通过预训练神经网络预测所述彩色图像中的目标三维信息，其中，所述预训练神经网络通过样本彩色图像和所述样本彩色图像中的样本三维信息训练得到，所述目标三维信息包括深度边界、法向量以及能够体现空间透视关系的直线；
将所述深度图像作为输入深度图像，根据所述深度边界，将所述输入深度图像在深度边界处的深度绝对差和输出深度图像在深度边界处的深度绝对差间的统计最小平方差作为第一约束条件，其中，所述输出深度图像是指假设对所述输入深度图像经过空洞以及视野盲区填补后得到的图像，所述深度边界处的深度绝对差为图像中位于深度边界内的像素点的像素值与位于深度边界外的像素点的像素值之间的绝对差值；
根据所述直线，将所述输入深度图像和所述输出深度图像在直线上的像素点的像素值间的统计最小平方差作为第二约束条件；
根据所述法向量，将所述输入深度图像和所述输出深度图像在法向估计上的像素点的像素值间的统计最小平方差作为第三约束条件；
将所述输入深度图像和所述输出深度图像在深度像素上的统计最小平方差作为第四约束条件；
基于所述第一约束条件、所述第二约束条件和所述第三约束条件中的至少之一，以及所述第四约束条件求解最小化能量函数，得到目标解；
根据所述目标解填补所述输入深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区，得到最终的输出深度图像。
2.根据权利要求1所述的方法，其特征在于，所述第一约束条件、所述第二约束条件、所述第三约束条件以及所述第四约束条件各自对应的权重按照由大到小的顺序排列如下：
所述第二约束条件、所述第四约束条件、所述第一约束条件、所述第三约束条件。
3.根据权利要求1至2中任一项所述的方法，其特征在于，还包括：
对经过空洞以及视野盲区填补后的深度图像进行上采样处理，得到增强深度图像。
4.根据权利要求3所述的方法，其特征在于，还包括：
采用光流法预测深度图像序列的帧间运动信息，其中，所述深度图像序列包括多个在时间上连续的所述增强深度图像；
根据所述帧间运动信息对所述深度图像序列进行插帧处理。
5.根据权利要求1至2中任一项所述的方法，其特征在于，在所述获取同一空间区域下的彩色图像和深度图像之后，还包括：
确定所述彩色图像和所述深度图像之间的变换矩阵；
根据所述变换矩阵，对所述深度图像进行坐标系变换。
6.一种深度图像的处理装置，其特征在于，包括：
获取模块，用于获取同一空间区域下的彩色图像和深度图像；
第一预测模块，用于通过预训练神经网络预测所述彩色图像中的目标三维信息，其中，所述预训练神经网络通过样本彩色图像和样本彩色图像中的样本三维信息训练得到，所述目标三维信息包括深度边界、法向量以及能够体现空间透视关系的直线；
第一处理模块，用于根据所述目标三维信息，填补所述深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区；
所述第一处理模块还包括：
第一确定单元，用于将所述深度图像作为输入深度图像，根据所述深度边界，将所述输入深度图像在深度边界处的深度绝对差和输出深度图像在深度边界处的深度绝对差间的统计最小平方差作为第一约束条件，其中，所述输出深度图像是指假设对所述输入深度图像经过空洞以及视野盲区填补后得到的图像，所述深度边界处的深度绝对差为图像中位于深度边界内的像素点的像素值与位于深度边界外的像素点的像素值之间的绝对差值；
第二确定单元，用于根据所述直线，将所述输入深度图像和所述输出深度图像在直线上的像素点的像素值间的统计最小平方差作为第二约束条件；
第三确定单元，用于根据所述法向量，将所述输入深度图像和所述输出深度图像在法向估计上的像素点的像素值间的统计最小平方差作为第三约束条件；
第四确定单元，用于将所述输入深度图像和所述输出深度图像在深度像素上的统计最小平方差作为第四约束条件；
求解单元，用于基于所述第一约束条件、所述第二约束条件和所述第三约束条件中的至少之一，以及所述第四约束条件求解最小化能量函数，得到目标解；
填补单元，用于根据所述目标解填补所述输入深度图像中的空洞以及所述深度图像相对所述彩色图像的视野盲区，得到最终的输出深度图像。
7.一种深度图像的处理设备，包括存储器和处理器，所述存储器存储有计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至5中任一项所述方法的步骤。
8.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至5中任一项所述方法的步骤。
CN202110152764.2A 2021-02-03 2021-02-03 深度图像的处理方法、装置、设备和存储介质 Active CN112801907B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110152764.2A CN112801907B (zh) 2021-02-03 2021-02-03 深度图像的处理方法、装置、设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110152764.2A CN112801907B (zh) 2021-02-03 2021-02-03 深度图像的处理方法、装置、设备和存储介质

Publications (2)

Publication Number Publication Date
CN112801907A CN112801907A (zh) 2021-05-14
CN112801907B true CN112801907B (zh) 2024-04-16

Family

ID=75814082

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110152764.2A Active CN112801907B (zh) 2021-02-03 2021-02-03 深度图像的处理方法、装置、设备和存储介质

Country Status (1)

Country Link
CN (1) CN112801907B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113269785A (zh) * 2021-05-13 2021-08-17 北京字节跳动网络技术有限公司 图像处理方法、设备、存储介质及程序产品
CN113126944B (zh) * 2021-05-17 2021-11-09 北京的卢深视科技有限公司 深度图的显示方法、显示装置、电子设备及存储介质
CN117011413B (zh) * 2023-09-28 2024-01-09 腾讯科技（深圳）有限公司 道路图像重建方法、装置、计算机设备和存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105517671A (zh) * 2015-05-25 2016-04-20 北京大学深圳研究生院 一种基于光流法的视频插帧方法及系统
CN111192305A (zh) * 2018-11-15 2020-05-22 百度在线网络技术（北京）有限公司 用于生成三维图像的方法和装置
CN111741303A (zh) * 2020-06-09 2020-10-02 Oppo广东移动通信有限公司 深度视频处理方法、装置、存储介质与电子设备
CN112102199A (zh) * 2020-09-18 2020-12-18 贝壳技术有限公司 深度图像的空洞区域填充方法、装置和系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105517671A (zh) * 2015-05-25 2016-04-20 北京大学深圳研究生院 一种基于光流法的视频插帧方法及系统
CN111192305A (zh) * 2018-11-15 2020-05-22 百度在线网络技术（北京）有限公司 用于生成三维图像的方法和装置
CN111741303A (zh) * 2020-06-09 2020-10-02 Oppo广东移动通信有限公司 深度视频处理方法、装置、存储介质与电子设备
CN112102199A (zh) * 2020-09-18 2020-12-18 贝壳技术有限公司 深度图像的空洞区域填充方法、装置和系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Deep Depth Completion of a Single RGB-D Image;Yinda Zhang et al.;《CVPR》;第175-185页 *
Yinda Zhang et al. .Deep Depth Completion of a Single RGB-D Image.《CVPR》.2018,第175-185页. *

Also Published As

Publication number Publication date
CN112801907A (zh) 2021-05-14

Similar Documents

Publication Publication Date Title
CN112801907B (zh) 深度图像的处理方法、装置、设备和存储介质
CN110728622B (zh) 鱼眼图像处理方法、装置、电子设备及计算机可读介质
CN113327318B (zh) 图像显示方法、装置、电子设备和计算机可读介质
CN113962859B (zh) 一种全景图生成方法、装置、设备及介质
CN114125411B (zh) 投影设备校正方法、装置、存储介质以及投影设备
US20240037856A1 (en) Walkthrough view generation method, apparatus and device, and storage medium
CN115761090A (zh) 特效渲染方法、装置、设备、计算机可读存储介质及产品
CN115409696A (zh) 图像处理方法、装置、电子设备及存储介质
CN111915532B (zh) 图像追踪方法、装置、电子设备及计算机可读介质
CN111862342B (zh) 增强现实的纹理处理方法、装置、电子设备及存储介质
CN111833459B (zh) 一种图像处理方法、装置、电子设备及存储介质
CN110399802B (zh) 处理面部图像眼睛亮度的方法、装置、介质和电子设备
WO2023193613A1 (zh) 高光渲染方法、装置、介质及电子设备
CN115984950A (zh) 视线检测方法、装置、电子设备及存储介质
CN115937290A (zh) 一种图像深度估计方法、装置、电子设备及存储介质
CN114757843A (zh) 图像处理方法、装置、电子设备及存储介质
CN111489428B (zh) 图像生成方法、装置、电子设备及计算机可读存储介质
CN114494574A (zh) 一种多损失函数约束的深度学习单目三维重建方法及系统
CN112308809B (zh) 一种图像合成方法、装置、计算机设备及存储介质
CN114693860A (zh) 高光渲染方法、装置、介质及电子设备
CN114723600A (zh) 美妆特效的生成方法、装置、设备、存储介质和程序产品
CN110807114B (zh) 用于图片展示的方法、装置、终端及存储介质
CN113891057A (zh) 视频的处理方法、装置、电子设备和存储介质
CN113256785A (zh) 图像处理方法、装置、设备及介质
CN113066166A (zh) 图像处理方法、装置和电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant