CN111223192B - 一种图像处理方法及其应用方法、装置及设备 - Google Patents

一种图像处理方法及其应用方法、装置及设备 Download PDF

Info

Publication number
CN111223192B
CN111223192B CN202010020237.1A CN202010020237A CN111223192B CN 111223192 B CN111223192 B CN 111223192B CN 202010020237 A CN202010020237 A CN 202010020237A CN 111223192 B CN111223192 B CN 111223192B
Authority
CN
China
Prior art keywords
image
virtual scene
target object
depth information
human body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010020237.1A
Other languages
English (en)
Other versions
CN111223192A (zh
Inventor
刘昭良
李骊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing HJIMI Technology Co Ltd
Original Assignee
Beijing HJIMI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing HJIMI Technology Co Ltd filed Critical Beijing HJIMI Technology Co Ltd
Priority to CN202010020237.1A priority Critical patent/CN111223192B/zh
Publication of CN111223192A publication Critical patent/CN111223192A/zh
Application granted granted Critical
Publication of CN111223192B publication Critical patent/CN111223192B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明提供了一种图像处理方法及其应用方法、装置及设备,在真实图像中的人物与3D虚拟场景整合过程中,基于所述3D虚拟场景的深度信息以及所述人体图像的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合,也即从图像深度上考虑了所述3D虚拟场景以及所述人体图像的相对位置,从而使得该人体图像真实的嵌入到所述3D虚拟场景中一深度值对应的位置中,从而使得整合的图像中人物处理自然,整合的图像质量较高。

Description

一种图像处理方法及其应用方法、装置及设备
技术领域
本发明涉及图像处理领域,更具体的说,涉及一种图像处理方法及其应用方法、装置及设备。
背景技术
随着人们对美图技术的要求不断提高,美图功能逐渐增多,已经可以把真实图像中的人物与不同的3D虚拟场景进行整合,从而可以满足用户不同的P图需求,但是这种整合方法会使得真实图像中的人物与3D虚拟场景整合效果不自然,从而导致整合后的图像质量较差。
发明内容
有鉴于此,本发明提供一种图像处理方法及其应用方法、装置及设备,以解决真实图像中的人物与3D虚拟场景整合效果不自然,从而导致整合后的图像质量较差的问题。
为解决上述技术问题,本发明采用了如下技术方案:
一种图像处理方法,包括:
采集目标对象的图像以及所述目标对象的深度信息;
获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面;
将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中;
获取依据所述目标对象的深度信息从所述目标对象的图像中提取的人体图像以及确定的所述人体图像的深度信息;
依据所述人体图像的深度信息以及所述3D虚拟场景的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合。
可选地,获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面,包括:
调用预设图像处理算法,以使所述预设图像处理算法依据所述目标对象的深度信息对所述目标对象的图像进行处理,得到所述目标对象的图像中的3D虚拟场景展示平面;所述预设图像处理算法包括即时定位与地图构建SLAM算法。
可选地,将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中,包括:
获取用户在所述3D虚拟场景展示平面中选取的图像添加位置;
将所述3D虚拟场景对应的三维信息中的坐标原点设置在所述图像添加位置,以使所述3D虚拟场景添加到所述3D虚拟场景展示平面中。
可选地,获取依据所述目标对象的深度信息从所述目标对象的图像中提取的人体图像以及确定的所述人体图像的深度信息,包括:
依据所述目标对象的深度信息,对所述目标对象的图像进行人体骨架识别,得到所述目标对象的图像中的人体图像的深度信息;
基于所述人体图像的深度信息,提取所述目标对象的图像中的人体图像。
一种拍照方法,包括:
获取通过上述的图像处理方法得到的整合图像;所述整合图像为所述3D虚拟场景和所述人体图像整合得到的图像;
判断是否接收到图像采集指令;
若接收到所述目标对象的图像采集指令,保存并输出所述整合图像。
一种图像处理装置,包括:
数据采集模块,用于采集目标对象的图像以及所述目标对象的深度信息;
平面获取模块,用于获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面;
图像添加模块,用于将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中;
信息获取模块,用于获取依据所述目标对象的深度信息从所述目标对象的图像中提取的人体图像以及确定的所述人体图像的深度信息;
图像整合模块,用于依据所述人体图像的深度信息以及所述3D虚拟场景的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合。
可选地,所述平面获取模块用于获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面时,具体用于:
调用预设图像处理算法,以使所述预设图像处理算法依据所述目标对象的深度信息对所述目标对象的图像进行处理,得到所述目标对象的图像中的3D虚拟场景展示平面;所述预设图像处理算法包括即时定位与地图构建SLAM算法。
可选地,所述图像添加模块用于将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中时,具体用于:
获取用户在所述3D虚拟场景展示平面中选取的图像添加位置,将所述3D虚拟场景对应的三维信息中的坐标原点设置在所述图像添加位置,以使所述3D虚拟场景添加到所述3D虚拟场景展示平面中。
一种拍照装置,包括:
图像获取模块,用于获取通过上述的图像处理方法得到的整合图像;所述整合图像为所述3D虚拟场景和所述人体图像整合得到的图像;
判断模块,用于判断是否接收到图像采集指令;
图像输出模块,用于若接收到所述目标对象的图像采集指令,保存并输出所述整合图像。
一种电子设备,包括:存储器和处理器;
其中,所述存储器用于存储程序;
处理器调用程序并用于:
采集目标对象的图像以及所述目标对象的深度信息;
获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面;
将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中;
获取依据所述目标对象的深度信息从所述目标对象的图像中提取的人体图像以及确定的所述人体图像的深度信息;
依据所述人体图像的深度信息以及所述3D虚拟场景的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合。
一种电子设备,包括:存储器和处理器;
其中,所述存储器用于存储程序;
处理器调用程序并用于:
获取通过上述的图像处理方法得到的整合图像;所述整合图像为所述3D虚拟场景和所述人体图像整合得到的图像;
判断是否接收到图像采集指令;
若接收到所述目标对象的图像采集指令,保存并输出所述整合图像。
相较于现有技术,本发明具有以下有益效果:
本发明提供了一种图像处理方法及其应用方法、装置及设备,在真实图像中的人物与3D虚拟场景整合过程中,基于所述3D虚拟场景的深度信息以及所述人体图像的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合,也即从图像深度上考虑了所述3D虚拟场景以及所述人体图像的相对位置,从而使得该人体图像真实的嵌入到所述3D虚拟场景中一深度值对应的位置中,从而使得整合的图像中人物处理自然,整合的图像质量较高。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本发明实施例提供的一种图像处理方法的方法流程图;
图2为本发明实施例提供的另一种图像处理方法的方法流程图;
图3为本发明实施例提供的一种3D虚拟场景的场景示意图;
图4为本发明实施例提供的又一种图像处理方法的方法流程图;
图5为本发明实施例提供的一种拍照设备的显示界面的场景示意图;
图6为本发明实施例提供的另一种拍照设备的显示界面的场景示意图;
图7为本发明实施例提供的一种拍照方法的方法流程图;
图8为本发明实施例提供的一种图像处理装置的结构示意图;
图9为本发明实施例提供的一种拍照装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
随着人们对美图技术的要求不断提高,美图功能逐渐增多,已经可以把真实图像中的人物与不同的3D虚拟场景进行整合,从而可以满足用户不同的P图需求,在将真实图像中的人物与3D虚拟场景整合过程中,直接将真实图像的人物当做前景放置在3D虚拟场景中,这种整合方法会使得真实图像中的人物与3D虚拟场景整合效果不自然,从而导致整合后的图像质量较差。发明人经过研究发现,出现上述问题的原因是因为采集的真实图像以及3D虚拟场景都是2D图像,并没有深度信息,进而在进行真实图像以及3D虚拟场景的整合时,只能是将真实图像的人物当做前景放置在3D虚拟场景中,因此发明人在进行图像整合时引入了图像深度信息,从而可以基于图像深度信息进行图像整合,进而使得真实图像中的人物与3D虚拟场景整合效果自然,整合后的图像质量较好。
具体的,参照图1,图像处理方法可以包括:
S11、采集目标对象的图像以及所述目标对象的深度信息。
本实施例的应用场景为用户使用拍照设备进行拍照的场景,拍照设备可以是相机、手机等拍照设备,当用户打开拍照设备时,拍照设备会根据自身的参数,如拍摄焦距、快门、光圈、是否开闪光灯等参数,进行初始化操作。初始化完成之后,拍照设备就会显示拍照界面,将拍照设备对准目标对象,如一个人,一棵树,一条马路等等。拍照设备就会采集目标对象的图像信息,本实施例称为图像,并在拍照设备的拍照界面进行显示。
本实施例中,对拍照设备也做了改进,由原来的2D摄像头更改为3D摄像头,即此时的拍照设备不仅可以采集到目标对象的图像,此图像为2D图像,此外还可以采集到目标对象的深度信息,也就是说,此时可以采集到目标对象的三维信息。将该目标对象的图像以及深度信息进行渲染,渲染到拍照设备的显示界面,用户就可以在显示界面看到拍照设备的图像。
S12、获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面。
在实际应用中,需要预先确定一个所述目标对象的图像中的3D虚拟场景展示平面,从而可以将用户选取的3D虚拟场景放置到3D虚拟场景展示平面中,此时才可以使用该3D虚拟场景进行拍照,就可以将目标对象与3D虚拟场景放置到同一图像中,即实现了3D虚拟场景与真实图像中的目标对象,如人物、动物等的整合。
本发明的另一实现方式中,步骤S12的具体实现过程可以包括:
调用预设图像处理算法,以使所述预设图像处理算法依据所述目标对象的深度信息对所述目标对象的图像进行处理,得到所述目标对象的图像中的3D虚拟场景展示平面;所述预设图像处理算法包括即时定位与地图构建SLAM算法。
具体的,在确定所述目标对象的图像中的3D虚拟场景展示平面时,引入了SLAM(simultaneous localization and mapping,即时定位与地图构建)算法,SLAM算法中的SLAM地图是表示稀疏点云的3D点的图,其中每个点对应于场景中的光学特征点的坐标(例如,桌子的桌角),通过最近在相同坐标中检测到该特征点的帧数来衡量,每隔几秒就存储在地图中,用于帮助设备跟踪器将现实世界与虚拟地图相匹配。地图使用密集点云时更可靠,但需要消耗更多的GPU(Graphics Processing Unit,图形处理器)计算力和内存,本实施例中拍照设备的摄像头打开的那一瞬间便是SLAM算法对应的世界原点,通过拍照设备对目标对象进行采集,得到目标对象的深度信息,使用目标对象的深度信息对应的点云信息,输出位姿矩阵,据此来扫描并寻找目标对象的图像中的一个平面,优选可以是图像中的地平面,以此作为3D虚拟场景展示平面。通过SLAM算法寻找3D虚拟场景展示平面的过程可以包括点云的合并、去重、存储和追踪定位等操作。
在SLAM算法的使用过程中,会参考拍照设备的倾斜信息,如参考拍照设备内置的重力感应器,加速度感应器,陀螺仪检测的数据,以此来更好地确定出3D虚拟场景展示平面,并且可以在快速移动设备时slam状态不丢失,精准定位,无需重建地图。
S13、将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中。
本实施例中的3D虚拟场景是一个具有深度信息的图像,也即是说,3D虚拟场景可以是三维图像,具有三维信息,即存在坐标原点(0,0,0),并且3D虚拟场景的每一像素都对应有一三维坐标。
本发明的一实现方式中,步骤S13具体可以包括:
S21、获取用户在所述3D虚拟场景展示平面中选取的图像添加位置。
在找到3D虚拟场景展示平面之后,需要将该平面与3D虚拟场景进行融合,在融合过程中,就需要考虑该3D虚拟场景放置在3D虚拟场景展示平面的哪一位置,本实施例中,可以在拍照设备的显示界面选取一个图像添加位置,该图像添加位置优选是拍照设备的显示界面的中心位置,以保证3D虚拟场景放置在拍照设备的显示界面的正中心,在实际应用中,拍照设备可以确定出显示界面的中心位置,并通过正方形框进行提示,若用户点击该位置,则会确定该位置为图像添加位置。此外,还可以是用户随机选取的一个位置,对此不做限定。
S22、将所述3D虚拟场景对应的三维信息中的坐标原点设置在所述图像添加位置,以使所述3D虚拟场景添加到所述3D虚拟场景展示平面中。
在确定图像添加位置之后,就可以将该3D虚拟场景的坐标原点(0,0,0)放置在该图像添加位置,即将3D虚拟场景放置在以图像添加位置为坐标原点(0,0,0)的坐标系中,从而拍照设备的显示界面就会显示出该3D虚拟场景。
本实施例中的3D虚拟场景可以是用户从多张3D虚拟场景中选取的,每一3D虚拟场景可以对应一个效果,如刮风、下雨、下雪等效果,用户可以通过点击操作从多个效果中选取一张效果,即可将该3D虚拟场景展示在拍照设备的显示界面中。具体可以参照图3,图3为一个落叶的场景,该场景对应一落叶的3D虚拟场景。在该3D虚拟场景展示在拍照设备的显示界面中后,即实现了真实世界与虚拟世界的统一。
S14、获取依据所述目标对象的深度信息从所述目标对象的图像中提取的人体图像以及确定的所述人体图像的深度信息。
本发明实施例中的目的就是为了使得目标对象的图像与3D虚拟场景整合在一张图像中,目标对象可以是人物,此时人物应在拍照设备的拍摄区域,并且会采集到人物的图像以及深度信息,即步骤S11中的目标对象的图像以及所述目标对象的深度信息。
在得到目标对象的图像以及深度信息之后,需要从图像中提取出人物图像以及确定该人物图像的深度信息。具体的,参照图4,步骤S14具体可以包括:
S31、依据所述目标对象的深度信息,对所述目标对象的图像进行人体骨架识别,得到所述目标对象的图像中的人体图像的深度信息。
本实施例中采用人体骨架识别算法,如深度图骨架算法,深度图骨架算法的输入为目标对象的深度信息,也即目标对象的深度图,深度图骨架算法可以提供人体在深度图上的骨架节点位置,设置骨架点作为种子点,通过区域生长的方式,可以将人体的区域从深度图上分割出来,进而可以得到图像中的人体图像的深度信息,该深度信息也可以是深度图,由于深度图良好的边界特征,能够准确地过滤掉背景的干扰,为彩色图抠图提供较好的分割边界。
S32、基于所述人体图像的深度信息,提取所述目标对象的图像中的人体图像。
本实施例中,提取目标对象的图像中的人体图像采用的是抠图算法,抠图算法的输入为目标对象的图像(即拍照设备采集的彩色图)以及目标对象的深度信息(即深度图)。
抠图算法的处理过程为:对深度图进行人体前景分割,得到人体图像在图像中的位置信息,根据位置信息,在彩色图中将人像区域(包含人的最小矩形区域)提取出来,送入图像分割的深度学习模型中,得到人像从图像中的分割结果,并结合深度图的深度信息,获取人体图像在坐标系中的3D位置,从而提取出图像中的人体图像,即将目标对象的图像中将人物部分扣图出来。在抠图完成后,可以输出抠图的人物的位置以及宽高,以方便后续使用该抠图进行图像拼接时,可以参考抠图的人物的位置以及宽高,从而可以更好地进行拼图操作。
本实施例中,在得到目标对象的图像以及深度信息之后,可以对图像以及深度信息进行图像预处理,如滤波操作等,使得图像以及深度信息更准确。
S15、依据所述人体图像的深度信息以及所述3D虚拟场景的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合。
在实际应用中,确定了人体图像的深度信息以及所述3D虚拟场景的深度信息之后,两个深度信息就会有图像深度上的相对位置关系,举例来说,人体图像的深度信息为7,3D虚拟场景的一棵树的深度信息为6,则人就位于树的后边,参照图5,若人体图像的深度信息为5,3D虚拟场景的一棵树的深度信息为6,则人就位于树的前边,参照图6。
在拍照设备的显示界面,会同时显示人体图像和3D虚拟场景,即显示的是人体图像和3D虚拟场景融合后的图像,并且该融合后的图像会随着人体的位置的移动而做改变,如人原先的位置在拍照设备的显示界面中显示在树的后边,人往前走,则人在拍照设备的显示界面中可能会显示到树的前边。具体参照图5和图6,也即人物与3D虚拟场景之间会产生遮挡效果,如图5的树遮挡人,图6的人遮挡树。
本实施例中,在真实图像中的人物与3D虚拟场景整合过程中,基于所述3D虚拟场景的深度信息以及所述人体图像的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合,也即从图像深度上考虑了所述3D虚拟场景以及所述人体图像的相对位置,从而使得该人体图像真实的嵌入到所述3D虚拟场景中一深度值对应的位置中,从而使得整合的图像中人物处理自然,整合的图像质量较高。
在上述的图像处理方法的实施例的基础上,本发明的另一实施例提供了一种拍照方法,参照图7,可以包括:
S41、获取整个图像。
在实际应用中,获取的是通过上述的图像处理方法得到的整合图像。该所述整合图像为所述3D虚拟场景和所述人体图像整合得到的图像,也即是说,该整合图像就是拍照设备的显示界面显示的图像。
S42、判断是否接收到图像采集指令;若是,执行步骤S43。
S43、保存并输出所述整合图像。
若用户点击或长按拍照按钮时,此时拍照设备就会接收到图像采集指令,若用户点击该拍照按钮,即认为是拍照,此时保存并输出当前的拍照设备的显示界面显示的图像,保存和输出可以是指保存到拍照设备的指令位置,如若拍照设备为手机,则会保存到手机的相册中。
若用户长按该拍照按钮,即认为是拍视频,此时会进入录像模式,录制视频,直至用户不触碰该拍照按钮,此时就保存并输出采集的视频,如保存到上述手机的相册中,后续用户可以选择相册中的图片或视频进行分享等操作。
本实施例中,可以使用3D虚拟场景进行图像采集以及视频录制,进而可以实现真实人物的图像与3D虚拟场景的融合,可以满足用户的P图需求。
可选地,在上述图像处理方法的实施例的基础上,本发明的另一实施例提供了一种图像处理装置,参照图8,可以包括:
数据采集模块11,用于采集目标对象的图像以及所述目标对象的深度信息;
平面获取模块12,用于获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面;
图像添加模块13,用于将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中;
信息获取模块14,用于获取依据所述目标对象的深度信息从所述目标对象的图像中提取的人体图像以及确定的所述人体图像的深度信息;
图像整合模块15,用于依据所述人体图像的深度信息以及所述3D虚拟场景的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合。
进一步,所述平面获取模块用于获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面时,具体用于:
调用预设图像处理算法,以使所述预设图像处理算法依据所述目标对象的深度信息对所述目标对象的图像进行处理,得到所述目标对象的图像中的3D虚拟场景展示平面;所述预设图像处理算法包括即时定位与地图构建SLAM算法。
进一步,所述图像添加模块用于将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中时,具体用于:
获取用户在所述3D虚拟场景展示平面中选取的图像添加位置,将所述3D虚拟场景对应的三维信息中的坐标原点设置在所述图像添加位置,以使所述3D虚拟场景添加到所述3D虚拟场景展示平面中。
进一步,信息获取模块用于获取依据所述目标对象的深度信息从所述目标对象的图像中提取的人体图像以及确定的所述人体图像的深度信息时,具体用于;
依据所述目标对象的深度信息,对所述目标对象的图像进行人体骨架识别,得到所述目标对象的图像中的人体图像的深度信息,基于所述人体图像的深度信息,提取所述目标对象的图像中的人体图像。
本实施例中,在真实图像中的人物与3D虚拟场景整合过程中,基于所述3D虚拟场景的深度信息以及所述人体图像的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合,也即从图像深度上考虑了所述3D虚拟场景以及所述人体图像的相对位置,从而使得该人体图像真实的嵌入到所述3D虚拟场景中一深度值对应的位置中,从而使得整合的图像中人物处理自然,整合的图像质量较高。
需要说明的是,本实施例中的各个模块的工作过程,请参照上述实施例中的相应说明,在此不再赘述。
可选地,在上述拍照方法的实施例的基础上,本发明的另一实施例提供了一种拍照装置,参照图9,包括:
图像获取模块21,用于获取通过上述的图像处理方法得到的整合图像;所述整合图像为所述3D虚拟场景和所述人体图像整合得到的图像;
判断模块22,用于判断是否接收到图像采集指令;
图像输出模块23,用于若接收到所述目标对象的图像采集指令,保存并输出所述整合图像。
本实施例中,可以使用3D虚拟场景进行图像采集以及视频录制,进而可以实现真实人物的图像与3D虚拟场景的融合,可以满足用户的P图需求。
需要说明的是,本实施例中的各个模块的工作过程,请参照上述实施例中的相应说明,在此不再赘述。
可选地,在上述图像处理方法及装置的实施例的基础上,本发明的另一实施例提供了一种电子设备,包括:存储器和处理器;
其中,所述存储器用于存储程序;
处理器调用程序并用于:
采集目标对象的图像以及所述目标对象的深度信息;
获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面;
将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中;
获取依据所述目标对象的深度信息从所述目标对象的图像中提取的人体图像以及确定的所述人体图像的深度信息;
依据所述人体图像的深度信息以及所述3D虚拟场景的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合。
本实施例中,在真实图像中的人物与3D虚拟场景整合过程中,基于所述3D虚拟场景的深度信息以及所述人体图像的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合,也即从图像深度上考虑了所述3D虚拟场景以及所述人体图像的相对位置,从而使得该人体图像真实的嵌入到所述3D虚拟场景中一深度值对应的位置中,从而使得整合的图像中人物处理自然,整合的图像质量较高。
可选地,在上述拍照方法及装置的实施例的基础上,本发明的另一实施例提供了一种电子设备,包括:存储器和处理器;
其中,所述存储器用于存储程序;
处理器调用程序并用于:
获取通过如上述的图像处理方法得到的整合图像;所述整合图像为所述3D虚拟场景和所述人体图像整合得到的图像;
判断是否接收到图像采集指令;
若接收到所述目标对象的图像采集指令,保存并输出所述整合图像。
本实施例中,可以使用3D虚拟场景进行图像采集以及视频录制,进而可以实现真实人物的图像与3D虚拟场景的融合,可以满足用户的P图需求。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (9)

1.一种图像处理方法,其特征在于,包括:
采集目标对象的图像以及所述目标对象的深度信息;
获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面;
将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中;
获取依据所述目标对象的深度信息从所述目标对象的图像中提取的人体图像以及确定的所述人体图像的深度信息;
依据所述人体图像的深度信息以及所述3D虚拟场景的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合;
其中,获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面,包括:
调用预设图像处理算法,以使所述预设图像处理算法依据所述目标对象的深度信息对所述目标对象的图像进行处理,得到所述目标对象的图像中的3D虚拟场景展示平面;所述预设图像处理算法包括即时定位与地图构建SLAM算法。
2.根据权利要求1所述的图像处理方法,其特征在于,将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中,包括:
获取用户在所述3D虚拟场景展示平面中选取的图像添加位置;
将所述3D虚拟场景对应的三维信息中的坐标原点设置在所述图像添加位置,以使所述3D虚拟场景添加到所述3D虚拟场景展示平面中。
3.根据权利要求1所述的图像处理方法,其特征在于,获取依据所述目标对象的深度信息从所述目标对象的图像中提取的人体图像以及确定的所述人体图像的深度信息,包括:
依据所述目标对象的深度信息,对所述目标对象的图像进行人体骨架识别,得到所述目标对象的图像中的人体图像的深度信息;
基于所述人体图像的深度信息,提取所述目标对象的图像中的人体图像。
4.一种拍照方法,其特征在于,包括:
获取通过如权利要求1-3任一项所述的图像处理方法得到的整合图像;所述整合图像为所述3D虚拟场景和所述人体图像整合得到的图像;
判断是否接收到图像采集指令;
若接收到所述目标对象的图像采集指令,保存并输出所述整合图像。
5.一种图像处理装置,其特征在于,包括:
数据采集模块,用于采集目标对象的图像以及所述目标对象的深度信息;
平面获取模块,用于获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面;
图像添加模块,用于将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中;
信息获取模块,用于获取依据所述目标对象的深度信息从所述目标对象的图像中提取的人体图像以及确定的所述人体图像的深度信息;
图像整合模块,用于依据所述人体图像的深度信息以及所述3D虚拟场景的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合;
其中,所述平面获取模块用于获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面时,具体用于:
调用预设图像处理算法,以使所述预设图像处理算法依据所述目标对象的深度信息对所述目标对象的图像进行处理,得到所述目标对象的图像中的3D虚拟场景展示平面;所述预设图像处理算法包括即时定位与地图构建SLAM算法。
6.根据权利要求5所述的图像处理装置,其特征在于,所述图像添加模块用于将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中时,具体用于:
获取用户在所述3D虚拟场景展示平面中选取的图像添加位置,将所述3D虚拟场景对应的三维信息中的坐标原点设置在所述图像添加位置,以使所述3D虚拟场景添加到所述3D虚拟场景展示平面中。
7.一种拍照装置,其特征在于,包括:
图像获取模块,用于获取通过如权利要求1-3任一项所述的图像处理方法得到的整合图像;所述整合图像为所述3D虚拟场景和所述人体图像整合得到的图像;
判断模块,用于判断是否接收到图像采集指令;
图像输出模块,用于若接收到所述目标对象的图像采集指令,保存并输出所述整合图像。
8.一种电子设备,其特征在于,包括:存储器和处理器;
其中,所述存储器用于存储程序;
处理器调用程序并用于:
采集目标对象的图像以及所述目标对象的深度信息;
获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面;
将预先获取的3D虚拟场景添加到所述3D虚拟场景展示平面中;
获取依据所述目标对象的深度信息从所述目标对象的图像中提取的人体图像以及确定的所述人体图像的深度信息;
依据所述人体图像的深度信息以及所述3D虚拟场景的深度信息,确定所述人体图像与所述3D虚拟场景在图像深度上的相对位置关系,并依据所述相对位置关系,对所述3D虚拟场景和所述人体图像进行整合;
其中,获取依据所述目标对象的深度信息确定的所述目标对象的图像中的3D虚拟场景展示平面,包括:
调用预设图像处理算法,以使所述预设图像处理算法依据所述目标对象的深度信息对所述目标对象的图像进行处理,得到所述目标对象的图像中的3D虚拟场景展示平面;所述预设图像处理算法包括即时定位与地图构建SLAM算法。
9.一种电子设备,其特征在于,包括:存储器和处理器;
其中,所述存储器用于存储程序;
处理器调用程序并用于:
获取通过如权利要求1-3任一项所述的图像处理方法得到的整合图像;所述整合图像为所述3D虚拟场景和所述人体图像整合得到的图像;
判断是否接收到图像采集指令;
若接收到所述目标对象的图像采集指令,保存并输出所述整合图像。
CN202010020237.1A 2020-01-09 2020-01-09 一种图像处理方法及其应用方法、装置及设备 Active CN111223192B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010020237.1A CN111223192B (zh) 2020-01-09 2020-01-09 一种图像处理方法及其应用方法、装置及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010020237.1A CN111223192B (zh) 2020-01-09 2020-01-09 一种图像处理方法及其应用方法、装置及设备

Publications (2)

Publication Number Publication Date
CN111223192A CN111223192A (zh) 2020-06-02
CN111223192B true CN111223192B (zh) 2023-10-03

Family

ID=70831008

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010020237.1A Active CN111223192B (zh) 2020-01-09 2020-01-09 一种图像处理方法及其应用方法、装置及设备

Country Status (1)

Country Link
CN (1) CN111223192B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113160308A (zh) * 2021-04-08 2021-07-23 北京鼎联网络科技有限公司 一种图像处理方法和装置、电子设备及存储介质

Citations (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2900261A1 (fr) * 2006-04-25 2007-10-26 Gdi Simulation Sa Procede de traitement d'images d'un simulateur
CN103543827A (zh) * 2013-10-14 2014-01-29 南京融图创斯信息科技有限公司 基于单个摄像机的沉浸式户外活动交互平台的实现方法
CN104504671A (zh) * 2014-12-12 2015-04-08 浙江大学 一种用于立体显示的虚实融合图像生成方法
CN104537716A (zh) * 2015-01-20 2015-04-22 湖南化身科技有限公司 三维数字人像与虚拟场景的合成系统
CN105825544A (zh) * 2015-11-25 2016-08-03 维沃移动通信有限公司 一种图像处理方法及移动终端
CN107509043A (zh) * 2017-09-11 2017-12-22 广东欧珀移动通信有限公司 图像处理方法及装置
CN107613228A (zh) * 2017-09-11 2018-01-19 广东欧珀移动通信有限公司 虚拟服饰的添加方法和终端设备
CN107705277A (zh) * 2017-09-11 2018-02-16 广东欧珀移动通信有限公司 图像处理方法和装置
CN107705243A (zh) * 2017-09-11 2018-02-16 广东欧珀移动通信有限公司 图像处理方法及装置、电子装置和计算机可读存储介质
CN107734264A (zh) * 2017-09-11 2018-02-23 广东欧珀移动通信有限公司 图像处理方法和装置
CN108022301A (zh) * 2017-11-23 2018-05-11 腾讯科技(上海)有限公司 一种图像处理方法、装置以及存储介质
CN108520552A (zh) * 2018-03-26 2018-09-11 广东欧珀移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN109215416A (zh) * 2018-10-24 2019-01-15 天津工业大学 一种基于增强现实技术的汉字辅助学习系统及方法
CN109598796A (zh) * 2017-09-30 2019-04-09 深圳超多维科技有限公司 将真实场景与虚拟物体进行3d融合显示的方法和装置
CN109658443A (zh) * 2018-11-01 2019-04-19 北京华捷艾米科技有限公司 立体视觉匹配方法及系统
EP3511864A1 (en) * 2018-01-12 2019-07-17 Beijing Xiaomi Mobile Software Co., Ltd. Method and apparatus for synthesizing virtual and real objects
CN110544315A (zh) * 2019-09-06 2019-12-06 北京华捷艾米科技有限公司 虚拟对象的控制方法及相关设备

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI530909B (zh) * 2013-12-31 2016-04-21 財團法人工業技術研究院 影像合成系統及方法
US9779508B2 (en) * 2014-03-26 2017-10-03 Microsoft Technology Licensing, Llc Real-time three-dimensional reconstruction of a scene from a single camera

Patent Citations (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2900261A1 (fr) * 2006-04-25 2007-10-26 Gdi Simulation Sa Procede de traitement d'images d'un simulateur
CN103543827A (zh) * 2013-10-14 2014-01-29 南京融图创斯信息科技有限公司 基于单个摄像机的沉浸式户外活动交互平台的实现方法
CN104504671A (zh) * 2014-12-12 2015-04-08 浙江大学 一种用于立体显示的虚实融合图像生成方法
CN104537716A (zh) * 2015-01-20 2015-04-22 湖南化身科技有限公司 三维数字人像与虚拟场景的合成系统
CN105825544A (zh) * 2015-11-25 2016-08-03 维沃移动通信有限公司 一种图像处理方法及移动终端
CN107705243A (zh) * 2017-09-11 2018-02-16 广东欧珀移动通信有限公司 图像处理方法及装置、电子装置和计算机可读存储介质
CN107613228A (zh) * 2017-09-11 2018-01-19 广东欧珀移动通信有限公司 虚拟服饰的添加方法和终端设备
CN107705277A (zh) * 2017-09-11 2018-02-16 广东欧珀移动通信有限公司 图像处理方法和装置
CN107509043A (zh) * 2017-09-11 2017-12-22 广东欧珀移动通信有限公司 图像处理方法及装置
CN107734264A (zh) * 2017-09-11 2018-02-23 广东欧珀移动通信有限公司 图像处理方法和装置
CN109598796A (zh) * 2017-09-30 2019-04-09 深圳超多维科技有限公司 将真实场景与虚拟物体进行3d融合显示的方法和装置
CN108022301A (zh) * 2017-11-23 2018-05-11 腾讯科技(上海)有限公司 一种图像处理方法、装置以及存储介质
EP3511864A1 (en) * 2018-01-12 2019-07-17 Beijing Xiaomi Mobile Software Co., Ltd. Method and apparatus for synthesizing virtual and real objects
CN108520552A (zh) * 2018-03-26 2018-09-11 广东欧珀移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN109215416A (zh) * 2018-10-24 2019-01-15 天津工业大学 一种基于增强现实技术的汉字辅助学习系统及方法
CN109658443A (zh) * 2018-11-01 2019-04-19 北京华捷艾米科技有限公司 立体视觉匹配方法及系统
CN110544315A (zh) * 2019-09-06 2019-12-06 北京华捷艾米科技有限公司 虚拟对象的控制方法及相关设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
李自力,朱光喜,朱耀庭.虚拟演播室中节目主持人或演员与虚拟场景融合的一种技术方案.通信学报.(第10期),全文. *
高伟;张菱珂;王嶺;苗鹏.基于RGB-D深度相机的下一代虚拟演播室构建.工业控制计算机.(第01期),全文. *

Also Published As

Publication number Publication date
CN111223192A (zh) 2020-06-02

Similar Documents

Publication Publication Date Title
KR101709380B1 (ko) 화상처리장치, 화상처리방법 및 프로그램
Arth et al. Real-time self-localization from panoramic images on mobile devices
US11748907B2 (en) Object pose estimation in visual data
CN109474780B (zh) 一种用于图像处理的方法和装置
KR102097016B1 (ko) 동작 분석 장치 및 방법
US20230419438A1 (en) Extraction of standardized images from a single-view or multi-view capture
WO2023280038A1 (zh) 一种三维实景模型的构建方法及相关装置
JP2006053694A (ja) 空間シミュレータ、空間シミュレート方法、空間シミュレートプログラム、記録媒体
EP2852161A1 (en) Method and device for implementing stereo imaging
Li et al. Diminished reality using appearance and 3D geometry of internet photo collections
Zhang et al. Personal photograph enhancement using internet photo collections
CN112308977B (zh) 视频处理方法、视频处理装置和存储介质
CN114071010B (zh) 一种拍摄方法及设备
CN113256781A (zh) 虚拟场景的渲染和装置、存储介质及电子设备
CN109064533B (zh) 一种3d漫游方法及系统
CN108961375A (zh) 一种根据二维图像生成三维图像的方法及装置
US9171357B2 (en) Method, apparatus and computer-readable recording medium for refocusing photographed image
CN110310325B (zh) 一种虚拟测量方法、电子设备及计算机可读存储介质
CN111223192B (zh) 一种图像处理方法及其应用方法、装置及设备
CN108564654B (zh) 三维大场景的画面进入方式
CN112511815B (zh) 图像或视频生成方法及装置
CN110177216B (zh) 图像处理方法、装置、移动终端以及存储介质
US20230290061A1 (en) Efficient texture mapping of a 3-d mesh
CN109040612B (zh) 目标对象的图像处理方法、装置、设备及存储介质
CN114066731A (zh) 生成全景图的方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant