CN115049803A - 增强现实画面的展示方法、装置、计算机设备及存储介质 - Google Patents
增强现实画面的展示方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN115049803A CN115049803A CN202210372760.XA CN202210372760A CN115049803A CN 115049803 A CN115049803 A CN 115049803A CN 202210372760 A CN202210372760 A CN 202210372760A CN 115049803 A CN115049803 A CN 115049803A
- Authority
- CN
- China
- Prior art keywords
- virtual
- image
- real scene
- virtual image
- target object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Processing Or Creating Images (AREA)
Abstract
本公开提供了一种增强现实画面的展示方法、装置、计算机设备及存储介质,其中,该方法包括:获取拍摄得到的现实场景图像,并确定所述现实场景图像中是否存在能够进行影像呈现的目标物体;在确定存在所述目标物体的情况下,确定待融入现实场景的虚拟对象相对所述目标物体的相对位姿信息;根据所述相对位姿信息,确定所述虚拟对象在所述目标物体上呈现出的虚拟影像;基于所述虚拟影像,展示所述虚拟对象融入所述现实场景图像对应的现实场景中的增强现实AR画面,其中,在所述AR画面中的所述目标物体上展示有所述虚拟影像。
Description
技术领域
本公开涉及增强现实(Augmented Reality,AR)技术领域,具体而言,涉及一种增强现实画面的展示方法、装置、计算机设备及存储介质。
背景技术
在虚拟直播等场景下,真实人物可以控制虚拟角色执行相关动作,并在直播画面或其他展示画面中,实时呈现虚拟角色的行为动作。在现实场景中,具有可以产生光照反射的物品,比如可以映射物品的镜子、光滑的桌面等。而由于虚拟角色并不在现实场景中真实存在,因此这些物品并不会将虚拟角色的影像呈现出,这就会导致展示出的增强现实画面的真实性较差。
发明内容
本公开实施例至少提供一种增强现实画面的展示方法、装置、计算机设备及存储介质。
第一方面,本公开实施例提供了一种增强现实画面的展示方法,包括:获取拍摄得到的现实场景图像,并确定所述现实场景图像中是否存在能够进行影像呈现的目标物体;在确定存在所述目标物体的情况下,确定待融入现实场景的虚拟对象相对所述目标物体的相对位姿信息;根据所述相对位姿信息,确定所述虚拟对象在所述目标物体上呈现出的虚拟影像;基于所述虚拟影像,展示所述虚拟对象融入所述现实场景图像对应的现实场景中的增强现实AR画面,其中,在所述AR画面中的所述目标物体上展示有所述虚拟影像。
一种可选的实施方式中,所述目标物体包括具有光滑表面的物体;所述确定所述现实场景图像中是否存在能够进行影像呈现的目标物体,包括:对所述现实场景图像进行物体类型检测,确定所述现实场景图像中各个物体的类型;基于各个物体的类型、以及预设的目标类型,从各个物体中筛选出所述目标物体;其中,所述目标类型下的物体具有光滑表面。
一种可选的实施方式中,所述相对位姿信息,包括所述目标物体与所述虚拟对象的距离信息、以及所述目标物体相对所述虚拟对象的姿态信息;所述根据所述相对位姿信息,确定所述虚拟对象在所述目标物体上呈现出的虚拟影像,包括:基于所述姿态信息,确定所述目标物体对所述虚拟对象的显示视角,并基于所述显示视角确定呈现所述虚拟对象的初始虚拟影像;基于所述距离信息,对所述初始虚拟影像进行缩放处理,得到所述虚拟影像。
一种可选的实施方式中,所述基于所述显示视角确定呈现所述虚拟对象的初始虚拟影像,包括:确定在所述显示视角下,所述虚拟对象与所述目标物体之间是否存在遮挡物体;在所述虚拟对象和所述目标物体之间存在遮挡物体的情况下,确定所述显示视角下所述遮挡物体的第一虚拟影像;基于所述第一虚拟影像以及所述虚拟对象的第二虚拟影像,确定所述初始虚拟影像。
一种可选的实施方式中,所述基于所述距离信息,对所述初始虚拟影像进行缩放处理,得到所述虚拟影像,包括:基于预设的距离信息与缩放比例之间的对应关系,确定在所述距离信息下对所述初始虚拟影像的缩放比例;基于所述缩放比例对所述初始虚拟影像进行缩放处理,得到所述虚拟影像。
一种可选的实施方式中,基于所述距离信息,对所述初始虚拟影像进行缩放处理,得到所述虚拟影像之前,所述方法还包括:确定所述目标物体的表面属性特征;对所述初始虚拟影像进行与所述表面属性特征匹配的画面调整处理,并基于得到的画面调整处理结果更新所述初始虚拟影像。
一种可选的实施方式中,所述表面属性特征包括下述至少一种:表面形状、表面纹理、表面颜色、以及表面反射系数。
一种可选的实施方式中,在基于所述虚拟影像,展示所述虚拟对象融入所述现实场景图像对应的现实场景中的增强现实AR画面之前,还包括:基于所述现实场景图像,确定所述现实场景中的环境光照信息;所述光照信息包括光照强度和/或光照颜色;基于所述光照参数,对所述虚拟影像进行与所述环境光照信息匹配的画面调整处理,并根据画面调整处理的结果更新所述虚拟影像。
第二方面,本公开实施例还提供一种增强现实画面的展示装置,包括:处理模块,用于获取拍摄得到的现实场景图像,并确定所述现实场景图像中是否存在能够进行影像呈现的目标物体;第一确定模块,用于在确定存在所述目标物体的情况下,确定待融入现实场景的虚拟对象相对所述目标物体的相对位姿信息;第二确定模块,用于根据所述相对位姿信息,确定所述虚拟对象在所述目标物体上呈现出的虚拟影像;展示模块,用于基于所述虚拟影像,展示所述虚拟对象融入所述现实场景图像对应的现实场景中的增强现实AR画面,其中,在所述AR画面中的所述目标物体上展示有所述虚拟影像。
一种可选的实施方式中,所述目标物体包括具有光滑表面的物体;所述处理模块在确定所述现实场景图像中是否存在能够进行影像呈现的目标物体时,用于:对所述现实场景图像进行物体类型检测,确定所述现实场景图像中各个物体的类型;基于各个物体的类型、以及预设的目标类型,从各个物体中筛选出所述目标物体;其中,所述目标类型下的物体具有光滑表面。
一种可选的实施方式中,所述相对位姿信息,包括所述目标物体与所述虚拟对象的距离信息、以及所述目标物体相对所述虚拟对象的姿态信息;所述第二确定模块在根据所述相对位姿信息,确定所述虚拟对象在所述目标物体上呈现出的虚拟影像时,用于:基于所述姿态信息,确定所述目标物体对所述虚拟对象的显示视角,并基于所述显示视角确定呈现所述虚拟对象的初始虚拟影像;基于所述距离信息,对所述初始虚拟影像进行缩放处理,得到所述虚拟影像。
一种可选的实施方式中,所述第二确定模块在基于所述显示视角确定呈现所述虚拟对象的初始虚拟影像时,用于:确定在所述显示视角下,所述虚拟对象与所述目标物体之间是否存在遮挡物体;在所述虚拟对象和所述目标物体之间存在遮挡物体的情况下,确定所述显示视角下所述遮挡物体的第一虚拟影像;基于所述第一虚拟影像以及所述虚拟对象的第二虚拟影像,确定所述初始虚拟影像。
一种可选的实施方式中,所述第二确定模块在基于所述距离信息,对所述初始虚拟影像进行缩放处理,得到所述虚拟影像时,用于:基于预设的距离信息与缩放比例之间的对应关系,确定在所述距离信息下对所述初始虚拟影像的缩放比例;基于所述缩放比例对所述初始虚拟影像进行缩放处理,得到所述虚拟影像。
一种可选的实施方式中,基于所述距离信息,对所述初始虚拟影像进行缩放处理,得到所述虚拟影像之前,所述第二确定模块还用于:确定所述目标物体的表面属性特征;对所述初始虚拟影像进行与所述表面属性特征匹配的画面调整处理,并基于得到的画面调整处理结果更新所述初始虚拟影像。
一种可选的实施方式中,所述表面属性特征包括下述至少一种:表面形状、表面纹理、表面颜色、以及表面反射系数。
一种可选的实施方式中,在基于所述虚拟影像,展示所述虚拟对象融入所述现实场景图像对应的现实场景中的增强现实AR画面之前,所述展示模块还用于:基于所述现实场景图像,确定所述现实场景中的环境光照信息;所述光照信息包括光照强度和/或光照颜色;基于所述光照参数,对所述虚拟影像进行与所述环境光照信息匹配的画面调整处理,并根据画面调整处理的结果更新所述虚拟影像。
第三方面,本公开可选实现方式还提供一种计算机设备,处理器、存储器,所述存储器存储有所述处理器可执行的机器可读指令,所述处理器用于执行所述存储器中存储的机器可读指令,所述机器可读指令被所述处理器执行时,所述机器可读指令被所述处理器执行时执行上述第一方面,或第一方面中任一种可能的实施方式中的步骤。
第四方面,本公开可选实现方式还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被运行时执行上述第一方面,或第一方面中任一种可能的实施方式中的步骤。
关于上述增强现实画面的展示装置、计算机设备、及计算机可读存储介质的效果描述参见上述增强现实画面的展示方法的说明,这里不再赘述。
本公开实施例提供的一种增强现实画面的展示方法、装置、计算机设备及存储介质,在获取到对现实场景拍摄到的现实场景图像后,确定是否存在可以进行影像呈现的目标物品,然后利用目标物品与虚拟角色之间的相对位姿信息,确定在进行影像呈现时可以呈现出的虚拟影像,以在增强现实AR画面中进行展示。这样,在渲染显示会增强现实画面时,补充了现实场景中的物品对虚拟对象进行映射的细节,更符合在现实情况下的显示逻辑,可以使展示出的增强现实画面真实性更强。
为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,此处的附图被并入说明书中并构成本说明书中的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。应当理解,以下附图仅示出了本公开的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本公开实施例所提供的一种增强现实画面的展示方法的流程图;
图2示出了本公开实施例所提供的一种现实场景图像的示意图;
图3示出了本公开实施例所提供的一种确定初始虚拟影像的示意图;
图4示出了本公开实施例所提供的另一种现实场景图像的示意图;
图5示出了本公开实施例所提供的另一种确定初始虚拟影像的示意图;
图6示出了本公开实施例所提供的一种增强现实画面的展示装置的示意图;
图7示出了本公开实施例所提供的一种计算机设备的示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。通常在此处描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此,以下对本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围,而是仅仅表示本公开的选定实施例。基于本公开的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。
在展示虚拟角色时,通常会通过在现实场景中获取的现实场景图像上将虚拟角色直接渲染显示出。而在现实情况下,现实场景中包括可以被其他物品影响变化的物品,比如可以产生光照反射的物品,例如镜子、光滑的桌面等。而虚拟角色并不真实存在,因此在现实场景图像上并不会具有镜子等物体映射出虚拟角色的细节。如果忽略这种在现实情况下映射虚拟角色的细节,在渲染显示后的真实性就会较差。
基于上述研究,本公开提供了一种增强现实画面的展示方法,在获取到对现实场景拍摄到的现实场景图像后,确定是否存在可以进行影像呈现的目标物品,然后利用目标物品与虚拟角色之间的相对位姿信息,确定在进行影像呈现时可以呈现出的虚拟影像,以在增强现实AR画面中进行展示。这样,在渲染显示会增强现实画面时,补充了现实场景中的物品对虚拟对象进行映射的细节,更符合在现实情况下的显示逻辑,可以使展示出的增强现实画面真实性更强。
针对以上方案所存在的缺陷,均是发明人在经过实践并仔细研究后得出的结果,因此,上述问题的发现过程以及下文中本公开针对上述问题所提出的解决方案,都应该是发明人在本公开过程中对本公开做出的贡献。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
为便于对本实施例进行理解,首先对本公开实施例所公开的一种增强现实画面的展示方法进行详细介绍,本公开实施例所提供的增强现实画面的展示方法的执行主体一般为具有一定计算能力的计算机设备,该计算机设备例如包括但不限于可以支持AR显示的设备,例如手机、平板电脑等移动设备;或者AR穿戴设备,例如AR眼镜。在一些可能的实现方式中,该增强现实画面的展示方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
本公开实施例提供的展示方法,用于对包含现实场景中的物品以及虚拟对象的AR画面进行展示。其中,现实场景可以包括室内有限大小的场景,比如客厅、厨房、展览馆等;或者也可以包括室外开阔空间的场景,比如游乐园、广场等。
针对虚拟角色,虚拟角色例如包括人物角色或者动漫角色等。虚拟角色的实时行为受控于虚拟角色控制对象的行为数据;虚拟角色控制对象可以为现实场景中的真实人物。通过行为捕捉设备对虚拟角色控制对象的行为进行实时捕捉,可以生成虚拟角色控制对象的行为数据;进一步的,利用行为数据可以确定控制虚拟角色的实时行为的控制信息,控制信息可以控制虚拟角色的行为,以得到基于现实场景图像和虚拟角色的AR画面数。在AR画面中,可以显示出虚拟角色在现实场景中活动的效果。
下面对本公开实施例提供的增强现实画面的展示方法加以说明。
参见图1所示,为本公开实施例提供的一种增强现实画面的展示方法的流程图,所述方法包括步骤S101~S104,其中:
S101:获取拍摄得到的现实场景图像,并确定所述现实场景图像中是否存在能够进行影像呈现的目标物体;
S102:在确定存在所述目标物体的情况下,确定待融入现实场景的虚拟对象相对所述目标物体的相对位姿信息;
S103:根据所述相对位姿信息,确定所述虚拟对象在所述目标物体上呈现出的虚拟影像;
S104:基于所述虚拟影像,展示所述虚拟对象融入所述现实场景图像对应的现实场景中的增强现实AR画面,其中,在所述AR画面中的所述目标物体上展示有所述虚拟影像。
下面对上述S101~S104加以详细说明。
针对上述S101,得到的现实场景图像中具体可以包括在现实场景中实际存在的物体,比如放置的桌椅、镜子等物体。示例性的,参见图2所示,为本公开实施例提供的一种现实场景图像的示意图。在现实场景图像中,具体包括一张桌子21,以及挂在墙面上的镜子22和画布23。
在确定现实场景图像后,可以进一步的确定现实场景图像中是否存在能够进行影像呈现的目标物体。在一种可能的情况下,具有光滑表面的物体,可以作为本公开实施例中说明的目标物体。示例性的,具有镜面的物体,比如梳妆镜等,或者光滑玻璃材质的物体,比如水杯等,以及打磨光滑的皮具、木制品等,均可以作为目标物体。
在确定现实场景中是否存在能够进行影像呈现的目标物体时,由于通过现实场景图像判断其中包含的物体表面是否光滑是较为困难的,而对于在现实场景中可能出现的物体,可以预先确定各物体是否具有光滑表面,从而确定具有光滑表面的物体所属的物体类型。这样在确定通过现实场景图像确定目标物体时,具体可以采用下述方式:对现实场景图像进行物体类型检测,确定所述现实场景图像中各个物体的类型;基于各个物体的类型、以及预设的目标类型,从各个物体中筛选出所述目标物体。
示例性的,若确定预设的目标类型包括桌子以及镜子的情况下,对于图2中示出的现实场景图像,可以确定作为目标物体的物体,包括桌子和镜子,而画布不作为目标物体。
针对上述S102,在确定现实场景图像中存在能够进行影像呈现的目标物体的情况下,为了确定虚拟对象在目标物体上呈现出的虚拟影像,可以先确定待融入现实场景的虚拟对象相对目标物体的相对位姿信息。
对于待呈现出的虚拟对象,可以根据虚拟角色控制对象对虚拟角色的控制信息,对虚拟对象的行为进行控制,从而确定虚拟角色在现实场景中对应的位置信息,以确定虚拟角色和现实场景中的目标物体之间的相对位姿信息。
此处,虚拟角色控制对象对虚拟角色的控制信息,例如可以通过虚拟角色控制对象的行为数据确定。这里,行为数据也即通过各种动作捕捉设备捕捉的指示虚拟角色控制对象发生的一系列行为的数据。
其中,用于获取行为数据的动作捕捉设备,具体可以包括感应虚拟角色控制对象的身体各部位动作的传感器设备,比如动捕手套、动捕头盔(用于捕捉面部表情动作)、以及发声捕捉设备(比如捕捉嘴部发声的麦克风和捕捉发声动作的喉麦)等。行为数据包括动作捕捉设备对虚拟角色控制对象捕捉的动作数据和/或音频数据。这样,利用动作捕捉设备对虚拟角色控制对象的动作、音频等进行捕捉,可以生成虚拟角色控制对象的行为数据。或者,动作捕捉设备也可以包括摄像头,通过摄像头拍摄虚拟角色控制对象得到视频帧图像,并对视频帧图像进行人体动作的语义特征识别,也可以相应地确定虚拟角色控制对象的行为数据。利用虚拟角色控制对象的行为数据,可以相应的生成使虚拟角色执行相同或相似行为动作的控制信息,以使虚拟角色在AR画面中展示出与虚拟角色控制对象相同或相似的行为动作。
在对虚拟对象的行为进行控制时,通过虚拟角色移动,可以实时确定虚拟角色在的现实场景图像上进行显示时,虚拟对象相对于的现实场景的位姿信息。而对于现实场景中的目标物体,也可以相应的确定对应的位姿信息。这样,利用虚拟对象和目标物体分别在现实场景中对应的位姿信息,可以确定目标物体与虚拟对象之间的距离信息,以及目标物体相对虚拟对象的姿态信息,也即可以虚拟对象相对目标物体的相对位姿信息。
针对上述S103,利用上述确定的相对位姿信息,可以确定虚拟对象在目标物体上呈现出的虚拟影像。
在具体实施中,例如可以采用下述方式确定虚拟影像:基于所述姿态信息,确定所述目标物体对所述虚拟对象的显示视角,并基于所述显示视角确定呈现所述虚拟对象的初始虚拟影像;基于所述距离信息,对所述初始虚拟影像进行缩放处理,得到所述虚拟影像。
此处,以在现实场景中的镜子对实际存在的物品进行映射为例进行说明。在镜子中映射物品时,映射出的影像通常包括至少两方面的影响因素,具体包括物品与镜子的距离,以及镜子相对物品的摆放方式。
其中,针对物品与镜子的距离,若物品与镜子之间的距离约小,则在镜子上可以显示出物品越不完整;若物品与镜子之间的距离较大,则在镜子上可以显示出物品越完整。针对镜子相对物品的摆放方式,若镜子的摆放方式固定,而物品变换在镜子前的姿态时,在镜子中会相应的显示出物品的不同部分。
因此,对于虚拟对象以及目标物体而言,利用相对位姿信息中的姿态信息,可以确定目标物体对虚拟对象的显示视角,利用显示视角可以确定呈现虚拟对象的初始虚拟影像。示例性的,若目标物体包括在墙面上的镜子,虚拟对象在镜子前面对镜子直立,则镜子可以以正视的角度,对虚拟对象进行映射。因此,在确定的初始虚拟影像中,例如可以完整地显示出虚拟对象的正面。
示例性的,参见图3所示,为本公开实施例提供的一种确定初始虚拟影像的示意图。针对图2中示出的现实场景图像,在对应的现实场景中,虚拟对象31位置例如图3中(a)所示。根据上述示例的说明可以知道,初始虚拟影像中可以完整地现实出虚拟对象的正面,因此对应的初始虚拟影像例如图3中(b)所示。
在一种可能的情况下,目标物体可以映射出虚拟对象,但虚拟对象和目标物体之间可能还存在遮挡物体,由于遮挡物体也会在目标物体上被显示出,并且在虚拟对象之前,因此会对虚拟对象在目标物体中的映射造成部分遮挡。
因此,在确定初始虚拟影像时,可以先确定在显示视角下,虚拟对象和目标物体之间是否存在遮挡物体。具体地,可以根据虚拟对象和目标物体分别对应的位姿信息、以及现实场景中其他物体的位姿信息,确定在虚拟对象和目标物体之间,是否具有其他物体。
在确定虚拟对象和目标物体之间存在遮挡物体的情况下,可以确定在显示视角下遮挡物体的第一虚拟影像,以基于第一虚拟影像和虚拟对象的第二虚拟影像,确定初始虚拟影像。
示例性的,参见图4所示,为本公开实施例提供的另一种现实场景图像的示意图。相较于图2所示的现实场景图像,在图4中示出的现实场景图像中,还包括有圆柱状的高凳41。
在该种情况下,参见图5所示,在确定初始虚拟影像时,若虚拟对象的位置与图3中(a)的位置一致,对于可以映射虚拟对象的目标对象镜子而言,可以呈现出虚拟对象的虚拟影像。但在虚拟对象和目标对象之间,由于包括有圆柱状的高凳41,因,在目标对象上对虚拟对象进行映射时,由于高凳41的遮挡,并不能完整地对虚拟对象进行展示。在图5中(b)示出了由于高凳41的遮挡,为虚拟对象确定的初始虚拟影像的示意图。相较于图3中(b)示出的初始虚拟影像,图5中(b)示出的初始虚拟影像,在展示虚拟对象正面时,具有圆柱状高凳造成的矩形遮挡。
在该种情况下,可以根据显示视角,确定遮挡物体的第一虚拟影像,然后再利用第一虚拟影像对虚拟对象的第二虚拟影像进行处理,以得到遮挡物体在第二虚拟影像上对虚拟对象产生部分遮挡的效果。利用第一虚拟影像对第二虚拟影像进行处理后,得到的虚拟影像即为初始虚拟影像。
在确定初始虚拟影像的情况下,可以利用距离信息,对初始虚拟影像进行缩放处理,可以得到虚拟影像。在具体实施中,可以基于预设的距离信息与缩放比例之间的对应关系,确定在所述距离信息下对所述初始虚拟影像的缩放比例;基于所述缩放比例对所述初始虚拟影像进行缩放处理,得到所述虚拟影像。
示例性的,在获取预设的距离信息与缩放比例之间的对应关系时,可以根据在现实场景中实际的镜面在映射物体时,映射出物体的大小和镜面与物体的距离之间的实际关系确定。例如,在现实场景中,对于距离镜面3 米的物体,镜面在呈现该物体时,呈现出的影像中物体缩小50%;而对于距离镜面5米的物体,镜面在呈现该物体时,呈现出的影像中物体将缩小至70%。
利用这样的对应关系,可以确定在当前的距离信息下,对初始虚拟影像的缩放比例,例如0.7倍。利用缩放比例,对初始虚拟影像进行缩放处理,即可以得到在目标物体上映射的虚拟影像。
在一种可能的情况下,对于皮具、木制品、桌面等可以映射目标对象,但由于表面材质与镜面不同,可能并不能清晰地对目标对象进行映射的物体,并且在映射物体时,可能会存在由于自身具有一定颜色,导致映射出的物体颜色发生变化的情况。另外,对于目标对象而言,也可能具有并不完全平整的表面,比如具有弧度的玻璃水杯,这也会在映射物体时出现呈现出的物体有拉伸等形变。或者,对于镜子而言,由于镜子的外形在设计时可能会设计为各种形状,比如将多个小块的镜子以一定的间距拼接在一起,构成具有艺术性的镜子,则在映射物体时,每个小块的镜子仅能映射出物体的一部分。
针对上述举例的部分情况下,本公开实施例中还提供了一种根据目标物体的表面属性特征,对初始虚拟影像进行画面调整处理的方式。具体地,在确定初始虚拟影像后,可以确定所述目标物体的表面属性特征;对所述初始虚拟影像进行与所述表面属性特征匹配的画面调整处理,并基于得到的画面调整处理结果更新所述初始虚拟影像。
其中,目标物体的表面属性特征例如可以包括下述至少一种:表面形状、表面纹理、表面颜色、以及表面反射系数。下面分别对上述列举出的四种表面属性特征对应的画面调整处理进行举例说明。
针对目标物体的表面属性特征包括表面形状的情况,一方面目标物体具有一定形状的轮廓,另一方面目标物体的表面可能具有弯折、弧度等。以目标物体包括玻璃红酒杯为例,其表面具有一定弧度,并且在外形上可以映射物体的一面为半圆形。因此,在得到初始虚拟影像后,可以对初始虚拟影像进行与玻璃红酒杯的表面弧度匹配的画面拉伸处理,并根据半圆形的映射形状对初始虚拟影像进行画面剪裁处理,并利用得到的画面调整处理结果更新初始虚拟影像。
针对目标物体的表面属性特征包括表面纹理的情况,目标物体由于材质的不同,可能会出现表面具有褶皱、裂痕纹理。在一种可能的情况下,在现实场景中,皮质的沙发等在映射物体时,由于表面会具有较小且数量较多的裂纹,因此映射的物体可能会较为模糊。因此根据目标物体的表面纹理,可以对应的对初始虚拟影像进行画面的模糊处理,并利用得到的画面调整处理结果更新初始虚拟影像。
针对目标物体的表面属性特征包括表面颜色的情况,目标物体由于表面颜色的不同,也可以影响在映射物体时,呈现出的物体的颜色。例如,对于可以映射物体的白色桌面和棕色桌面,在白色桌面上映射出的目标物体的颜色基本不发生变化,而在棕色桌面上映射出的目标物体的颜色会较深。因此,在确定目标物体的表面颜色后,可以对应的对初始虚拟影像进行画面的颜色调整处理,并利用得到的画面调整处理结果更新初始虚拟影像。
针对目标物体的表面属性特征包括表面反射系数的情况,由于目标物体的表面材质不同,因此表面在反射光时的反射系数不同。在一种可能的情况下,目标物体的表面越光滑,在反射光时的反射系数越高,映射出的物体更清晰;相反的,目标物体的表面越粗糙,在反射光时的反射系数越低,映射出的物体更模糊。因此根据目标物体的表面反射系数,可以对应的对初始虚拟影像进行画面的模糊处理,并利用得到的画面调整处理结果更新初始虚拟影像。
此处,仅列举出部分可能的表面属性特征,若存在其他的表面属性特征,且表面属性特征可能会对目标物体对其他物体的映射造成影响,这些表面属性特征均在本公开实施例的保护范围内。
在本公开另一实施例中,在目标物体对虚拟对象进行映射时,除了目标物体的表面属性特征会对映射造成影响外,还可能会受到所处的现实场景的影响。在一种可能的情况下,现实场景中的光照可能也会对映射得到的虚拟影像具有一定的影响。
在具体实施中,在获取到虚拟影像后,还可以基于所述现实场景图像,确定所述现实场景中的环境光照信息;所述光照信息包括光照强度和/或光照颜色;基于所述光照参数,对所述虚拟影像进行与所述环境光照信息匹配的画面调整处理,并根据画面调整处理的结果更新所述虚拟影像。、
示例性的,对于在现实场景中的镜子,若在现实场景中的光照强度较高时,也即现实场景中较为明亮的情况下,在镜子中可以较为清楚地将物体映射出。而在现实场景中光照强度较低时,也即现实场景中较为昏暗的情况下,在镜子中也仅能较为模糊地将物体映射出,并不能非常清晰地将物体的细节展示出。
因此,在确定现实场景中的光照强度后,可以对虚拟影像进行对应的画面调整处理,具体可以包括对画面的明暗强度处理,例如将虚拟影像调整至与现实场景中的环境光照的光照强度相似的画面明暗。或者,也可以直接对虚拟影像进行画面的模糊处理,以使虚拟影像表现出由于现实场景中的光照强度发生变化时,目标对象在映射虚拟对象时的不同模糊程度。
而对于现实场景中的环境光照的光照颜色,对于在现实场景中实际存在的物体,会由于光照颜色改变物体的表面颜色,具体包括对目标对象的表面颜色的改变以及对将映射在目标对象表面的其他物体的颜色改变。因此,在确定光照颜色的情况下,为了提高真实性,可以为虚拟角色的虚拟影像进行在颜色上的画面调整处理,以显示出虚拟角色受到现实场景中真实光照影响的效果。
这样,利用环境光照信息可以对虚拟影像进行相匹配的画面调整处理,并可以画面调整处理的结果更新所述虚拟影像。
针对上述S104,在确定虚拟影像的情况下,可以利用虚拟影像,展示所述虚拟对象融入所述现实场景图像对应的现实场景中的增强现实AR画面。其中,在AR画面的目标物体上展示虚拟影像。
在具体实施中,在一种可能的情况下,将虚拟影像贴合在目标物体上进行展示时,可以先利用现实场景图像和虚拟影像,确定将虚拟影像融合至目标物体表面后得到的AR画面。在对AR画面展示时,直接将得到的 AR画面进行展示。在另一种可能的情况下,可以在展示现实场景图像时,将虚拟影像叠加在目标物体表面的对应位置处进行展示。这样,由于在AR 画面中具有目标物体上呈现出虚拟影像的效果,因此可以提高AR画面的真实性。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
基于同一发明构思,本公开实施例中还提供了与增强现实画面的展示方法对应的增强现实画面的展示装置,由于本公开实施例中的装置解决问题的原理与本公开实施例上述增强现实画面的展示方法相似,因此装置的实施可以参见方法的实施,重复之处不再赘述。
参照图6所示,为本公开实施例提供的一种增强现实画面的展示装置的示意图,所述装置包括:处理模块61、第一确定模块62、第二确定模块 63、展示模块64;其中,
处理模块61,用于获取拍摄得到的现实场景图像,并确定所述现实场景图像中是否存在能够进行影像呈现的目标物体;
第一确定模块62,用于在确定存在所述目标物体的情况下,确定待融入现实场景的虚拟对象相对所述目标物体的相对位姿信息;
第二确定模块63,用于根据所述相对位姿信息,确定所述虚拟对象在所述目标物体上呈现出的虚拟影像;
展示模块64,用于基于所述虚拟影像,展示所述虚拟对象融入所述现实场景图像对应的现实场景中的增强现实AR画面,其中,在所述AR画面中的所述目标物体上展示有所述虚拟影像。
一种可选的实施方式中,所述目标物体包括具有光滑表面的物体;所述处理模块61在确定所述现实场景图像中是否存在能够进行影像呈现的目标物体时,用于:对所述现实场景图像进行物体类型检测,确定所述现实场景图像中各个物体的类型;基于各个物体的类型、以及预设的目标类型,从各个物体中筛选出所述目标物体;其中,所述目标类型下的物体具有光滑表面。
一种可选的实施方式中,所述相对位姿信息,包括所述目标物体与所述虚拟对象的距离信息、以及所述目标物体相对所述虚拟对象的姿态信息;所述第二确定模块63在根据所述相对位姿信息,确定所述虚拟对象在所述目标物体上呈现出的虚拟影像时,用于:基于所述姿态信息,确定所述目标物体对所述虚拟对象的显示视角,并基于所述显示视角确定呈现所述虚拟对象的初始虚拟影像;基于所述距离信息,对所述初始虚拟影像进行缩放处理,得到所述虚拟影像。
一种可选的实施方式中,所述第二确定模块63在基于所述显示视角确定呈现所述虚拟对象的初始虚拟影像时,用于:确定在所述显示视角下,所述虚拟对象与所述目标物体之间是否存在遮挡物体;在所述虚拟对象和所述目标物体之间存在遮挡物体的情况下,确定所述显示视角下所述遮挡物体的第一虚拟影像;基于所述第一虚拟影像以及所述虚拟对象的第二虚拟影像,确定所述初始虚拟影像。
一种可选的实施方式中,所述第二确定模块63在基于所述距离信息,对所述初始虚拟影像进行缩放处理,得到所述虚拟影像时,用于:基于预设的距离信息与缩放比例之间的对应关系,确定在所述距离信息下对所述初始虚拟影像的缩放比例;基于所述缩放比例对所述初始虚拟影像进行缩放处理,得到所述虚拟影像。
一种可选的实施方式中,基于所述距离信息,对所述初始虚拟影像进行缩放处理,得到所述虚拟影像之前,所述第二确定模块63还用于:确定所述目标物体的表面属性特征;对所述初始虚拟影像进行与所述表面属性特征匹配的画面调整处理,并基于得到的画面调整处理结果更新所述初始虚拟影像。
一种可选的实施方式中,所述表面属性特征包括下述至少一种:表面形状、表面纹理、表面颜色、以及表面反射系数。
一种可选的实施方式中,在基于所述虚拟影像,展示所述虚拟对象融入所述现实场景图像对应的现实场景中的增强现实AR画面之前,所述展示模块64还用于:基于所述现实场景图像,确定所述现实场景中的环境光照信息;所述光照信息包括光照强度和/或光照颜色;基于所述光照参数,对所述虚拟影像进行与所述环境光照信息匹配的画面调整处理,并根据画面调整处理的结果更新所述虚拟影像。
关于装置中的各模块的处理流程、以及各模块之间的交互流程的描述可以参照上述方法实施例中的相关说明,这里不再详述。
本公开实施例还提供了一种计算机设备,如图7所示,为本公开实施例提供的计算机设备结构示意图,包括:
处理器10和存储器20;所述存储器20存储有处理器10可执行的机器可读指令,处理器10用于执行存储器20中存储的机器可读指令,所述机器可读指令被处理器10执行时,处理器10执行下述步骤:
获取拍摄得到的现实场景图像,并确定所述现实场景图像中是否存在能够进行影像呈现的目标物体;在确定存在所述目标物体的情况下,确定待融入现实场景的虚拟对象相对所述目标物体的相对位姿信息;根据所述相对位姿信息,确定所述虚拟对象在所述目标物体上呈现出的虚拟影像;基于所述虚拟影像,展示所述虚拟对象融入所述现实场景图像对应的现实场景中的增强现实AR画面,其中,在所述AR画面中的所述目标物体上展示有所述虚拟影像。
上述存储器20包括内存210和外部存储器220;这里的内存210也称内存储器,用于暂时存放处理器10中的运算数据,以及与硬盘等外部存储器220交换的数据,处理器10通过内存210与外部存储器220进行数据交换。
上述指令的具体执行过程可以参考本公开实施例中所述的增强现实画面的展示方法的步骤,此处不再赘述。
本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述方法实施例中所述的增强现实画面的展示方法的步骤。其中,该存储介质可以是易失性或非易失的计算机可读取存储介质。
本公开实施例还提供一种计算机程序产品,该计算机程序产品承载有程序代码,所述程序代码包括的指令可用于执行上述方法实施例中所述的增强现实画面的展示方法的步骤,具体可参见上述方法实施例,在此不再赘述。
其中,上述计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(Software Development Kit,SDK)等等。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本公开所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本公开各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本公开的具体实施方式,用以说明本公开的技术方案,而非对其限制,本公开的保护范围并不局限于此,尽管参照前述实施例对本公开进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本公开实施例技术方案的精神和范围,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应所述以权利要求的保护范围为准。
Claims (11)
1.一种增强现实画面的展示方法,其特征在于,所述展示方法包括:
获取拍摄得到的现实场景图像,并确定所述现实场景图像中是否存在能够进行影像呈现的目标物体;
在确定存在所述目标物体的情况下,确定待融入现实场景的虚拟对象相对所述目标物体的相对位姿信息;
根据所述相对位姿信息,确定所述虚拟对象在所述目标物体上呈现出的虚拟影像;
基于所述虚拟影像,展示所述虚拟对象融入所述现实场景图像对应的现实场景中的增强现实AR画面,其中,在所述AR画面中的所述目标物体上展示有所述虚拟影像。
2.根据权利要求1所述的方法,其特征在于,所述目标物体包括具有光滑表面的物体;
所述确定所述现实场景图像中是否存在能够进行影像呈现的目标物体,包括:
对所述现实场景图像进行物体类型检测,确定所述现实场景图像中各个物体的类型;
基于各个物体的类型、以及预设的目标类型,从各个物体中筛选出所述目标物体;其中,所述目标类型下的物体具有光滑表面。
3.根据权利要求1所述的方法,其特征在于,所述相对位姿信息,包括所述目标物体与所述虚拟对象的距离信息、以及所述目标物体相对所述虚拟对象的姿态信息;
所述根据所述相对位姿信息,确定所述虚拟对象在所述目标物体上呈现出的虚拟影像,包括:
基于所述姿态信息,确定所述目标物体对所述虚拟对象的显示视角,并基于所述显示视角确定呈现所述虚拟对象的初始虚拟影像;
基于所述距离信息,对所述初始虚拟影像进行缩放处理,得到所述虚拟影像。
4.根据权利要求3所述的方法,其特征在于,所述基于所述显示视角确定呈现所述虚拟对象的初始虚拟影像,包括:
确定在所述显示视角下,所述虚拟对象与所述目标物体之间是否存在遮挡物体;
在所述虚拟对象和所述目标物体之间存在遮挡物体的情况下,确定所述显示视角下所述遮挡物体的第一虚拟影像;
基于所述第一虚拟影像以及所述虚拟对象的第二虚拟影像,确定所述初始虚拟影像。
5.根据权利要求3所述的方法,其特征在于,所述基于所述距离信息,对所述初始虚拟影像进行缩放处理,得到所述虚拟影像,包括:
基于预设的距离信息与缩放比例之间的对应关系,确定在所述距离信息下对所述初始虚拟影像的缩放比例;
基于所述缩放比例对所述初始虚拟影像进行缩放处理,得到所述虚拟影像。
6.根据权利要求3所述的方法,其特征在于,基于所述距离信息,对所述初始虚拟影像进行缩放处理,得到所述虚拟影像之前,所述方法还包括:
确定所述目标物体的表面属性特征;
对所述初始虚拟影像进行与所述表面属性特征匹配的画面调整处理,并基于得到的画面调整处理结果更新所述初始虚拟影像。
7.根据权利要求6所述的方法,其特征在于,所述表面属性特征包括下述至少一种:表面形状、表面纹理、表面颜色、以及表面反射系数。
8.根据权利要求1所述的方法,其特征在于,在基于所述虚拟影像,展示所述虚拟对象融入所述现实场景图像对应的现实场景中的增强现实AR画面之前,还包括:
基于所述现实场景图像,确定所述现实场景中的环境光照信息;所述光照信息包括光照强度和/或光照颜色;
基于所述光照参数,对所述虚拟影像进行与所述环境光照信息匹配的画面调整处理,并根据画面调整处理的结果更新所述虚拟影像。
9.一种增强现实画面的展示装置,其特征在于,包括:
处理模块,用于获取拍摄得到的现实场景图像,并确定所述现实场景图像中是否存在能够进行影像呈现的目标物体;
第一确定模块,用于在确定存在所述目标物体的情况下,确定待融入现实场景的虚拟对象相对所述目标物体的相对位姿信息;
第二确定模块,用于根据所述相对位姿信息,确定所述虚拟对象在所述目标物体上呈现出的虚拟影像;
展示模块,用于基于所述虚拟影像,展示所述虚拟对象融入所述现实场景图像对应的现实场景中的增强现实AR画面,其中,在所述AR画面中的所述目标物体上展示有所述虚拟影像。
10.一种计算机设备,其特征在于,包括:处理器、存储器,所述存储器存储有所述处理器可执行的机器可读指令,所述处理器用于执行所述存储器中存储的机器可读指令,所述机器可读指令被所述处理器执行时,所述处理器执行如权利要求1至8任一项所述的增强现实画面的展示方法的步骤。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被计算机设备运行时,所述计算机设备执行如权利要求1至8任一项所述的增强现实画面的展示方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210372760.XA CN115049803A (zh) | 2022-04-11 | 2022-04-11 | 增强现实画面的展示方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210372760.XA CN115049803A (zh) | 2022-04-11 | 2022-04-11 | 增强现实画面的展示方法、装置、计算机设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115049803A true CN115049803A (zh) | 2022-09-13 |
Family
ID=83158452
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210372760.XA Pending CN115049803A (zh) | 2022-04-11 | 2022-04-11 | 增强现实画面的展示方法、装置、计算机设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115049803A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024055965A1 (zh) * | 2022-09-16 | 2024-03-21 | 北京字跳网络技术有限公司 | 一种图像显示方法、扩展现实空间中镜像显示方法、装置、电子设备和介质 |
-
2022
- 2022-04-11 CN CN202210372760.XA patent/CN115049803A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024055965A1 (zh) * | 2022-09-16 | 2024-03-21 | 北京字跳网络技术有限公司 | 一种图像显示方法、扩展现实空间中镜像显示方法、装置、电子设备和介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11694392B2 (en) | Environment synthesis for lighting an object | |
JP6644833B2 (ja) | アルベドモデルにより拡張現実コンテンツをレンダリングするシステムおよび方法 | |
US10068369B2 (en) | Method and apparatus for selectively integrating sensory content | |
CN105210093B (zh) | 捕获和显示外观的装置、系统和方法 | |
US10963140B2 (en) | Augmented reality experience creation via tapping virtual surfaces in augmented reality | |
US8218903B2 (en) | 3D object scanning using video camera and TV monitor | |
US20090109240A1 (en) | Method and System for Providing and Reconstructing a Photorealistic Three-Dimensional Environment | |
US20210279898A1 (en) | Object detection using multiple three dimensional scans | |
US20180197345A1 (en) | Augmented reality technology-based handheld viewing device and method thereof | |
US20120120071A1 (en) | Shading graphical objects based on face images | |
CN109255841A (zh) | Ar图像呈现方法、装置、终端及存储介质 | |
US11720996B2 (en) | Camera-based transparent display | |
US11175744B2 (en) | Holographic projection system | |
WO2023116396A1 (zh) | 一种渲染显示方法、装置、计算机设备及存储介质 | |
WO2019123547A1 (ja) | 画像生成装置、基準画像データ生成装置、画像生成方法、および基準画像データ生成方法 | |
CN111868787A (zh) | 用于插入内容的增强镜面反射 | |
CN111696190A (zh) | 来自发光的插入内容的照明效果 | |
JP2018092503A (ja) | 屋内光シミュレーションシステム、屋内光シミュレーション方法及びプログラム | |
CN115049803A (zh) | 增强现实画面的展示方法、装置、计算机设备及存储介质 | |
CN109427089A (zh) | 基于环境光照条件的混合现实对象呈现 | |
CN108932750A (zh) | 增强现实的展示方法、装置、电子设备及存储介质 | |
US11893207B2 (en) | Generating a semantic construction of a physical setting | |
JP7419908B2 (ja) | 画像処理システム、画像処理方法、及びプログラム | |
US12002165B1 (en) | Light probe placement for displaying objects in 3D environments on electronic devices | |
CN115769271A (zh) | 3d照片 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |