CN110058685B - 虚拟对象的显示方法、装置、电子设备和计算机可读存储介质 - Google Patents

虚拟对象的显示方法、装置、电子设备和计算机可读存储介质 Download PDF

Info

Publication number
CN110058685B
CN110058685B CN201910215466.6A CN201910215466A CN110058685B CN 110058685 B CN110058685 B CN 110058685B CN 201910215466 A CN201910215466 A CN 201910215466A CN 110058685 B CN110058685 B CN 110058685B
Authority
CN
China
Prior art keywords
virtual object
key points
displaying
image
positions
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910215466.6A
Other languages
English (en)
Other versions
CN110058685A (zh
Inventor
李润祥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing ByteDance Network Technology Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN201910215466.6A priority Critical patent/CN110058685B/zh
Publication of CN110058685A publication Critical patent/CN110058685A/zh
Priority to PCT/CN2020/074447 priority patent/WO2020186935A1/zh
Application granted granted Critical
Publication of CN110058685B publication Critical patent/CN110058685B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20Indexing scheme for editing of 3D models
    • G06T2219/2016Rotation, translation, scaling

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Architecture (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本公开公开了一种虚拟对象的显示方法,其特征在于,包括:获取视频中的图像帧;在所述图像帧中根据与虚拟对象的关键点对应的图像特征确定所述虚拟对象的关键点的位置;根据与所述虚拟对象的关键点对应的渲染信息和所述虚拟对象的关键点的位置渲染所述虚拟对象;在显示界面的第一显示区域显示所述虚拟对象。本公开实施例提供的虚拟对象的显示方法、装置、电子设备和计算机可读存储介质,通过对视频中的图像帧进行处理,能够根据视频中的图像帧灵活地显示虚拟对象。

Description

虚拟对象的显示方法、装置、电子设备和计算机可读存储介质
技术领域
本公开涉及信息处理领域,尤其涉及一种虚拟对象的显示方法、装置、电子设备及计算机可读存储介质。
背景技术
随着互联网相关技术的进步,视频的相关应用正成为重要的交互手段,例如用户可以制作卡通人物等虚拟对象的视频并发布到视频分享平台,但是制作虚拟对象的视频需要具备专业的美工技术和计算机图像处理技术,对于虚拟对象的每个动作都需要花费大量的工作进行编辑绘制,普通用户很难实现。
现有技术中,一些APP可以实现显示虚拟对象并根据用户的操作控制虚拟对象运动,例如在显示屏幕的固定位置显示虚拟对象,然后根据用户的操作实现虚拟对象的转向移动等,但是这种显示虚拟对象的形式比较单一,且无法灵活地使虚拟对象显示出更多的动作。
发明内容
本公开实施例提供虚拟对象的显示方法,装置,电子设备,和计算机可读存储介质,通过对视频中的图像帧进行处理,能够根据视频中的图像帧灵活地显示虚拟对象。
第一方面,本公开实施例提供一种虚拟对象的显示方法,其特征在于,包括:获取视频中的图像帧;在所述图像帧中根据与虚拟对象的关键点对应的图像特征确定所述虚拟对象的关键点的位置;根据与所述虚拟对象的关键点对应的渲染信息和所述虚拟对象的关键点的位置渲染所述虚拟对象;在显示界面的第一显示区域显示所述虚拟对象。
进一步的,在所述图像帧中根据与虚拟对象的关键点对应的图像特征确定虚拟对象的关键点的位置,包括:在所述图像帧中确定与所述图像特征匹配的关键点的位置;将与所述图像特征匹配的关键点的位置作为所述虚拟对象的关键点的位置。
进一步的,所述图像特征包括人物对象的图像特征。
进一步的,所述虚拟对象的渲染信息包括如下信息中的一种或多种:所述虚拟对象的像素位置信息;所述虚拟对象的像素颜色信息;所述虚拟对象的轮廓信息;所述虚拟对象的贴图信息;所述虚拟对象的建模规则信息。
进一步的,所述在显示界面的第一显示区域显示所述虚拟对象,包括:在所述显示界面的第一显示区域放大或缩小显示所述虚拟对象。
进一步的,所述方法还包括:在所述显示界面的第二显示区域显示所述图像帧。
进一步的,所述第一显示区域与所述第二显示区域重叠,或者所述第一显示区域与所述第二显示区域不重叠。
第二方面,本公开实施例提供一种虚拟对象的显示装置,其特征在于,包括:视频获取模块,用于获取视频中的图像帧;确定模块,用于在所述图像帧中根据与虚拟对象的关键点对应的图像特征确定所述虚拟对象的关键点的位置;渲染模块,用于根据与所述虚拟对象的关键点对应的渲染信息和所述虚拟对象的关键点的位置渲染所述虚拟对象;显示模块,在显示界面的第一显示区域显示所述虚拟对象。
进一步的,所述确定模块还用于在所述图像帧中确定与所述图像特征匹配的关键点的位置,并将与所述图像特征匹配的关键点的位置作为所述虚拟对象的关键点的位置。
进一步的,所述图像特征包括人物对象的图像特征。
进一步的,所述虚拟对象的渲染信息包括如下信息中的一种或多种:所述虚拟对象的像素位置信息;所述虚拟对象的像素颜色信息;所述虚拟对象的轮廓信息;所述虚拟对象的贴图信息;所述虚拟对象的建模规则信息。
进一步的,所述显示模块还用于在所述显示界面的第一显示区域放大或缩小显示所述虚拟对象。
进一步的,所述显示模块还用于在所述显示界面的第二显示区域显示所述图像帧。
进一步的,所述第一显示区域与所述第二显示区域重叠,或者所述第一显示区域与所述第二显示区域不重叠。
第三方面,本公开实施例提供一种电子设备,包括:存储器,用于存储计算机可读指令;以及与所述存储器耦合的一个或多个处理器,用于运行所述计算机可读指令,使得所述处理器运行时实现前述第一方面中的任一所述虚拟对象的显示方法。
第四方面,本公开实施例提供一种非暂态计算机可读存储介质,其特征在于,所述非暂态计算机可读存储介质存储计算机指令,当所述计算机指令被计算机执行时,使得所述计算机执行前述第一方面中的任一所述虚拟对象的显示方法。
本公开公开了一种虚拟对象的显示方法、装置、电子设备和计算机可读存储介质。其中所述虚拟对象的显示方法,其特征在于,包括:获取视频中的图像帧;在所述图像帧中根据与虚拟对象的关键点对应的图像特征确定所述虚拟对象的关键点的位置;根据与所述虚拟对象的关键点对应的渲染信息和所述虚拟对象的关键点的位置渲染所述虚拟对象;在显示界面的第一显示区域显示所述虚拟对象。本公开实施例提供的虚拟对象的显示方法、装置、电子设备和计算机可读存储介质,通过对视频中的图像帧进行处理,能够根据视频中的图像帧灵活地显示虚拟对象。
上述说明仅是本公开技术方案的概述,为了能更清楚了解本公开的技术手段,而可依照说明书的内容予以实施,并且为让本公开的上述和其他目的、特征和优点能够更明显易懂,以下特举较佳实施例,并配合附图,详细说明如下。
附图说明
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本公开实施例提供的虚拟对象的显示方法实施例的流程图;
图2为本公开实施例提供的虚拟对象的关键点和/或关键点的位置的示意图;
图3为本公开实施例提供的虚拟对象的显示装置实施例的结构示意图;
图4为根据本公开实施例提供的电子设备的结构示意图。
具体实施方式
以下通过特定的具体实例说明本公开的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本公开的其他优点与功效。显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。本公开还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本公开的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
需要说明的是,下文描述在所附权利要求书的范围内的实施例的各种方面。应显而易见,本文中所描述的方面可体现于广泛多种形式中,且本文中所描述的任何特定结构及/或功能仅为说明性的。基于本公开,所属领域的技术人员应了解,本文中所描述的一个方面可与任何其它方面独立地实施,且可以各种方式组合这些方面中的两者或两者以上。举例来说,可使用本文中所阐述的任何数目个方面来实施设备及/或实践方法。另外,可使用除了本文中所阐述的方面中的一或多者之外的其它结构及/或功能性实施此设备及/或实践此方法。
还需要说明的是,以下实施例中所提供的图示仅以示意方式说明本公开的基本构想,图示中仅显示与本公开中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
另外,在以下描述中,提供具体细节是为了便于透彻理解实例。然而,所属领域的技术人员将理解,可在没有这些特定细节的情况下实践所述方面。
本实施例提供的该虚拟对象的显示方法可以由一个虚拟对象的显示装置来执行,该装置可以实现为软件,可以实现为硬件,还可以实现为软件和硬件的组合,例如所述虚拟对象的显示装置包括计算机设备,从而通过该计算机设备来执行本实施例提供的该虚拟对象的显示方法,如本领域技术人员所理解的,计算机设备可以是台式或便携计算机设备,还可以是移动终端设备等。
图1为本公开实施例提供的虚拟对象的显示方法实施例一的流程图,如图1所示,本公开实施例的虚拟对象的显示方法包括如下步骤:
步骤S101,获取视频中的图像帧;
在步骤S101中,虚拟对象的显示装置可以通过多种方式获取视频中的图像帧,本公开实施例对此不作限定。例如虚拟对象的显示装置包括摄像装置,从而通过摄像装置拍摄视频以获取视频中的图像帧,虚拟对象的显示装置还可以通过网络获取视频中的图像帧,例如虚拟对象的显示装置通过网络从其他存储设备或者网络摄像装置获取视频中的图像帧。如同本领域技术人员的理解,本公开实施例中的视频是由一系列图像帧组成,当播放所述视频时,可以按照所述一系列图像帧在所述视频中的先后顺序显示所述一些列图像帧,例如每秒显示24个图像帧,当然,所述图像帧还可以被称为图像。
步骤S102,在所述图像帧中根据与虚拟对象的关键点对应的图像特征确定所述虚拟对象的关键点的位置;
虚拟对象的显示装置需要获取所述虚拟对象的关键点位置,以便显示所述虚拟对象,因此在步骤S102中,所述虚拟对象的显示装置根据与虚拟对象的关键点对应的图像特征,在步骤S101中获取的图像帧中确定虚拟对象的关键点的位置。
在一个可选的实施例中,本公开实施例的虚拟对象包括预设数量的关键点,每个虚拟对象的关键点对应有图像特征,从而根据与每个虚拟对象的关键点对应的图像特征,在所述图像帧中确定所述虚拟对象的关键点的位置。
如同本领域技术人员所理解的,本公开实施例中,图像特征可以通过颜色特征和/或形状特征来表征,即图像特征包括颜色特征和/或形状特征。可选的,所述图像特征包括视频对象的图像特征或图像帧对象的图像特征,从而可以根据视频对象的图像特征或图像帧对象的图像特征在所述视频中的图像帧中确定与所述视频对象的图像特征或图像帧对象的图像特征对应或匹配的关键点的位置,也就是进行关键点定位。其中,所述视频对象或者所述图像帧对象可以包括所述视频的图像帧中的任何对象,例如人物对象和物体对象等,相应地,所述图像特征可以包括人物对象的图像特征和物体对象的图像特征等。
可选的,在所述图像帧中根据与虚拟对象的关键点对应的图像特征确定所述虚拟对象的关键点的位置,包括:在所述图像帧中确定与所述图像特征匹配的关键点的位置,并将与所述图像特征匹配的关键点的位置作为所述虚拟对象的关键点的位置。可选的,所述图像特征包括人物对象的图像特征,从而所述虚拟对象显示装置根据与所述虚拟对象的关键点对应的人物对象的图像特征确定所述虚拟对象的关键点的位置。
以图像特征包括人物对象的图像特征为例,人物对象的图像特征可以包括人脸图像特征,手臂图像特征,骨骼图像特征,关节图像特征,器官图像特征等,从而可以根据人物对象的图像特征在图像帧中确定与这些人物对象的图像特征对应或匹配的关键点(也称为人物对象的关键点)的位置,进一步的,可以将确定出的人物对象的关键点的位置作为虚拟对象的关键点的位置。作为一个示例,虚拟对象包括五个关键点P0-P4,其中与虚拟对象的关键点P0对应的图像特征包括人脸图像特征,与虚拟对象的关键点P1对应的图像特征包括左手图像特征,与虚拟对象的关键点P2对应的图像特征包括右手图像特征,与虚拟对象的关键点P3对应的图像特征包括左脚图像特征,与虚拟对象的关键点P4对应的图像特征包括右脚图像特征。那么在步骤S102中,将根据所述人脸图像特征在所述图像帧中确定的人物对象的关键点的位置作为P0的位置,将根据所述左手图像特征在所述图像帧中确定的人物对象的关键点的位置作为P1的位置,将根据右手图像特征在所述图像帧中确定的人物对象的关键点的位置作为P2的位置,将根据左脚图像特征在所述图像帧中确定的人物对象的关键点的位置作为P3的位置,将根据所述右脚图像特征在所述图像帧中确定的人物对象的关键点的位置作为P4的位置。
在上述根据与虚拟对象的关键点对应的人物对象的图像特征确定所述虚拟对象的关键点的位置的过程中,作为一个可选的实施例,首先可以使用颜色特征定位人物对象的位置,这样可以将人物对象从背景中分割出来,进而根据所述人物对象的图像特征确定与所述人物对象的图像特征对应的人物对象的关键点的位置,从而将确定出的人物对象的关键点的位置作为所述虚拟对象的关键点的位置。具体的,视频中的图像帧是通过摄像装置拍摄获得,摄像装置的图像传感器在拍摄过程中对于每一个图像帧都会记录颜色信息以及颜色的位置信息,然后将颜色信息以及颜色的位置信息输入基于卷积神经网络的分类器,如果图像帧中存在人物对象,那么通过所述分类器就能够识别出人物对象的轮廓,这样就将人物对象从背景中分割出来,之后根据所述分割出的人物对象,并且基于前述的图像特征在图像帧中进行搜索比对,确定所述人物对象的关键点的位置,这也可以称为确定所述人物对象的关键点,因为确定所述人物对象的关键点的过程就是根据与该人物对象的关键点对应的图像特征在图像帧上进行定位的过程。如同本领域技术人员所理解的,人物对象的关键点是基于与人物对象的关键点对应的图像特征确定的,因此所述人物对象的关键点对应于所述图像特征,所述图像特征也对应所述人物对象的关键点;由于人物对象的关键点在图像中仅占据非常小的面积(通常只有几个至几十个像素的大小),与人物对象的关键点对应的图像特征在图像上所占据的区域通常也是非常有限和局部的,目前用的特征提取方式有两种:(1)沿轮廓垂向的一维范围图像特征提取;(2)关键点方形邻域的二维范围图像特征提取。上述两种方式有很多种实现方法,如ASM和AAM类方法、统计能量函数类方法、回归分析方法、深度学习方法、分类器方法、批量提取方法等等。
作为一个可选的实施例,可以通过坐标表示人物对象的关键点的位置和虚拟对象的关键点的位置。如同本领域技术人员的理解,拍摄视频的摄像装置在拍摄过程中会根据画幅设定相应的坐标系,该坐标系也称为所述视频对应的坐标系或者所述视频中的图像帧对应的坐标系,从而对于拍摄的图像帧的每个像素,都可以基于该坐标系标记相应的坐标,那么根据人物对象的图像特征从所述图像帧中确定的人物对象的关键点的位置也可以基于所述人物对象的关键点所占据的一个或多个像素的坐标来表示(如果所述人物对象的关键点占据多个像素,则可以通过所述多个像素的坐标的平均值来表示所述人物对象的关键点的位置),相应地,所述虚拟对象的关键点的位置也可以基于所述人物对象的关键点所占据的一个或多个像素的坐标来表示。例如某个人物对象的关键点的坐标可以表示为(x,y),其中x和y分别为横坐标和纵坐标;还例如对于具有深度传感器的摄像装置所拍摄的视频的图像帧,还会对每个像素记录深度信息,那么所述图像帧中的某个人物对象的关键点的坐标还可以表示为(x,y,z),其中x和y分别为横坐标和纵坐标,z为深度坐标,相应地,由于将所述人物对象的关键点的位置作为所述虚拟对象的关键点的位置,那么所述虚拟对象的关键点的坐标就可以表示为(x,y),(x,y,z)。为便于后续的描述和理解,“人物对象的关键点在图像帧中的坐标”,“虚拟对象的关键点在图像帧中的坐标”,“人物对象的关键点的坐标”,和“虚拟对象的关键点的坐标”的表述时,该坐标所对应的坐标系均指前述拍摄视频的摄像装置在拍摄过程中根据画幅所设定的坐标系,但是本领域技术人员可以理解,对于视频中的图像帧,也可以建立其他坐标系来表示所述人物对象的关键点的位置和所述虚拟对象的关键点的位置,本公开实施例对此不作限定。
如前所述,本公开实施例可以使用颜色特征定位人物对象的位置,以将人物对象从背景中分割出来,然后再根据人物对象的图像特征从图像帧中确定人物对象的关键点的位置,从而将所述人物对象的关键点的位置作为所述虚拟对象的关键点的位置。但是,这不应理解为对本公开实施例的限制,本公开实施例还可以通过其他方法从图像帧中提取人物对象的关键点,例如不需要使用颜色特征定位人物的对象的位置,而直接根据与虚拟对象的关键点对应的人物对象的图像特征从图像帧中确定与所述人物对象的图像特征对应的关键点(即前述的人物对象的关键点)的位置,并将所述位置作为所述虚拟对象的关键点的位置。
图2所示为步骤S102中根据人物对象的图像特征确定虚拟对象的关键点的位置的示意图。图2所示包括确定的A到K共11个虚拟对象的关键点,每个虚拟对象的关键点的位置可以通过坐标表示。其中虚拟对象的关键点A和B(的位置)是根据躯干图像特征从所述图像帧中确定的,虚拟对象的关键点C(的位置)是根据头部图像特征从所述图像帧中确定的,虚拟对象的关键点D和E(的位置)是根据一条手臂的图像特征从所述图像帧中确定的,虚拟对象的关键点F和G(的位置)是根据另一条手臂的图像特征从所述图像帧中确定的,虚拟对象的关键点H和I(的位置)是根据一条腿部的图像特征从所述图像帧中确定的,虚拟对象的关键点J和K(的位置)是根据另一条腿部的图像特征从所述图像帧中确定的。本领域有技术人员可以理解,根据需要和图像特征的不同等因素,可以提取更多或者更少的与所述图像特征对应的关键点,在一些实施例中,这些虚拟对象的关键点和/或虚拟对象的关键点的位置构成所述虚拟对象的姿势或姿态。
步骤S103,根据与所述虚拟对象的关键点对应的渲染信息和所述虚拟对象的关键点的位置渲染所述虚拟对象。
本公开实施例中的虚拟对象可以是任何二维或者三维的虚拟对象,本公开实施例对此不做具体的限制,任何可以在显示界面上显示的虚拟对象都可以引入到本公开中,相应地,为了显示所述二维或者三维的虚拟对象,需要在步骤S103中对所述虚拟对象进行渲染。
在一个可选的实施例中,与所述虚拟对象的关键点对应的渲染信息包括如下信息中的至少一种:虚拟对象的像素位置信息,虚拟对象的像素颜色信息,虚拟对象的轮廓信息,虚拟对象的贴图信息,虚拟对象的建模规则信息。由于在步骤S102中确定了虚拟对象的关键点的位置,进而可以基于虚拟对象的关键点的位置和与所述虚拟对象的关键点对应的渲染信息渲染所述虚拟对象,例如可以根据虚拟对象的关键点位置和轮廓信息确定该虚拟关键点位置所对应的虚拟对象的部位的大小,并根据该大小调整贴图大小,以便在像素级别上渲染出完整的虚拟对象;可以根据所述虚拟对象的关键点的位置和建模规则信息通过三角形或多边形建模以形成虚拟对象的轮廓,并施加贴图以实现对虚拟对象的渲染;还可以通过生成对抗网络(GAN)或渐进结构条件GAN等根据所述虚拟对象的关键点的位置,和各虚拟对象的关键点所对应的贴图信息、按照缩放比例渲染虚拟对象。本领域技术人员可知,任何根据关键点和渲染信息渲染二维或者三维对象的方法都可以引入本公开,本公开实施例对此不做具体的限制。
步骤S104,在显示界面的第一显示区域显示所述虚拟对象。
在通过步骤S103完成对虚拟对象的渲染之后,执行步骤S104,在显示界面的第一显示区域显示所述虚拟对象。在一个可选的实施例中,在所述显示界面的第一显示区域显示所述虚拟对象包括:在所述显示界面的第一显示区域放大或缩小显示所述虚拟对象。例如完成步骤S103对虚拟对象的渲染后,可以得到通过像素的位置和像素的颜色表示的虚拟对象,那么在步骤S104中,可以在显示界面的第一显示区域,根据所述虚拟对象的像素位置和像素颜色,放大或缩小显示所述虚拟对象。如本领域技术人员所理解的,在步骤S104中通过显示界面显示所述虚拟对象时,可以对所述虚拟对象的像素位置通过坐标变换的方式,在所述显示界面的第一显示区域放大或缩小显示所述虚拟对象;如果所述显示界面采用了新的坐标系,可以对所述虚拟对象的像素通过坐标系变换的方式,在所述显示界面的第一显示区域放大或缩小显示所述虚拟对象;另外在放大或缩小显示所述虚拟对象时还可能涉及到分辨率的升高或者降低,但是本公开实施例对显示所述虚拟对象的方法做出限定。
应用上述实施方式,通过对视频中的图像帧进行处理,并根据图像帧的人物对象信息显示虚拟对象,不需要用户具备专业的美工技术和计算机图像处理技术,就能够实现根据视频中的图像帧灵活地显示虚拟对象。
由于所述虚拟对象的关键点的位置是根据与所述虚拟对象的关键点对应的图像特征在所述图像帧中确定的,因此在步骤S103中渲染并在步骤S104中显示的所述虚拟对象的动作、姿势、或者姿态可以与所述图像特征存在关联。以图2中根据人物对象的图像特征在图像帧中确定的虚拟对象的关键点的位置的示意图为例,图2中的虚拟对象的关键点C的位置是根据与其对应的头部图像特征从所述图像帧中确定的,也就是说将所述图像帧中的人物对象的头部关键点所在的位置作为所述虚拟对象的关键点C的位置,相应地,将所述图像帧中的人物对象的躯干,手部,和腿部关键点的位置分别作为所述虚拟对象的关键点A和B,D和E,F和G,H和I,以及J和K的位置,因此在根据上述虚拟对象的关键点的位置和与所述虚拟对象的关键点对应的渲染信息渲染所述虚拟对象的过程中,如果与关键点C对应的渲染信息也包括与虚拟对象的头部对应的渲染信息,相应地,与关键点A和B,D和E,F和G,H和I,以及J和K对应的渲染信息也分别包括与虚拟对象的躯干,手部,和腿部对应的的渲染信息,那么所渲染出的虚拟对象将会与所述图像帧中的人物对象具有一致的或者对应的动作、姿势、或者姿态。相应地,在一个可选的实施例中,可以根据所述图像帧在所述视频中的先后顺序,对所述图像帧中每一个图像帧执行本公开的虚拟对象的显示方法的步骤S102-S104,从而按照所述先后顺序显示根据每个图像帧所渲染的所述虚拟对象,当按照预设的时间间隔(例如24帧每秒)在所述第一显示区域显示根据每个图像帧所渲染的所述虚拟对象时,相当于播放所述虚拟对象运动的视频,在该播放的视频中所述虚拟对象运动的动作、姿势、或者姿态与步骤S101对应的视频中的人物对象的动作、姿势、或者姿态保持一致或对应。
在一个可选的实施例中,在所述显示界面的第二显示区域显示所述图像帧。可选的,所述第一显示区域与所述第二显示区域重叠,例如所述第二显示区域充满所述显示界面,而所述第一显示区域占据所述显示界面的角落如右上角;可选的,所述第一显示区域与所述第二显示区域不重叠,例如所述第一显示区域充满所述显示界面的左半边,所述第二显示区域充满所述显示界面的右半边。
在又一个可选的实施例中,在所述显示界面的第二显示区域播放所述步骤S101中的视频,在所述显示界面的第一显示区域所显示的虚拟对象是根据所述第二显示区域当前所显示的图像帧渲染的。也就是说,在所述显示界面的第二显示区域播放所述步骤S101中的视频时,是按照预设的速度(例如24帧每秒)依序显示所述视频中的图像帧,而在所述显示界面的第一显示区域所显示的虚拟对象,是在所述第二显示区域当前所显示的图像帧中根据与虚拟对象的关键点对应的图像特征确定所述虚拟对象的关键点的位置(即步骤S102),然后根据与所述虚拟对象的关键点对应的渲染信息和所述虚拟对象的关键点的位置所渲染的虚拟对象。相当于在所述显示界面的第一显示区域播放所述虚拟对象运动的视频,并且在所述显示界面的第二显示区域播放所述步骤S101中的视频,在所述第一显示区域播放的视频中的所述虚拟对象运动的动作、姿势、或者姿态与在所述显示界面的第二区域中播放的视频中的人物对象的动作、姿势、或者姿态保持一致或对应。
图3所示为本公开实施例提供的虚拟对象的显示装置300实施例的结构示意图,如图3所示,所述装置包括视频获取模块301,确定模块302,渲染模块303,和显示模块304。
其中所述视频获取模块301,用于获取视频中的图像帧;所述确定模块302,用于在所述图像帧中根据与虚拟对象的关键点对应的图像特征确定所述虚拟对象的关键点的位置;所述渲染模块303,用于根据与所述虚拟对象的关键点对应的渲染信息和所述虚拟对象的关键点的位置渲染所述虚拟对象;所述显示模块304,用于在显示界面的第一显示区域显示所述虚拟对象。
在一个可选的实施例中,所述显示模块304,还用于在所述显示界面的第二显示区域显示所述图像帧。
图3所示装置可以执行图1所示实施例的方法,本实施例未详细描述的部分,可参考对图1所示实施例的相关说明。该技术方案的执行过程和技术效果参见图1所示实施例中的描述,在此不再赘述。
下面参考图4,其示出了适于用来实现本公开实施例的电子设备400的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图4示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图4所示,电子设备400可以包括处理装置(例如中央处理器、图形处理器等)401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储装置408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有电子设备400操作所需的各种程序和数据。处理装置401、ROM 402以及RAM 403通过总线或通信线路404彼此相连。输入/输出(I/0)接口405也连接至总线或通信线路404。
通常,以下装置可以连接至I/0接口405:包括例如触摸屏、触摸板、键盘、鼠标、图像传感器、麦克风、加速度计、陀螺仪等的输入装置406;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置407;包括例如磁带、硬盘等的存储装置408;以及通信装置409。通信装置409可以允许电子设备400与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的电子设备400,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置409从网络上被下载和安装,或者从存储装置408被安装,或者从ROM 402被安装。在该计算机程序被处理装置401执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备执行上述实施例中的虚拟对象的显示方法。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言-诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言-诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络-包括局域网(LAN)或广域网(WAN)-连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (8)

1.一种虚拟对象的显示方法,其特征在于,包括:
获取视频中的图像帧;
在所述图像帧中根据与虚拟对象的关键点对应的图像特征确定所述虚拟对象的关键点的位置;
根据与所述虚拟对象的关键点对应的渲染信息和所述虚拟对象的关键点的位置渲染所述虚拟对象,其中所述虚拟对象的关键点和/或所述虚拟对象的关键点的位置构成所述虚拟对象的姿势或姿态;
在显示界面的第一显示区域显示所述虚拟对象,其中,所述虚拟对象的视频能够用于分享;
其中,所述根据与所述虚拟对象的关键点对应的渲染信息和所述虚拟对象的关键点的位置渲染所述虚拟对象,包括:
根据虚拟对象的关键点位置和轮廓信息确定该虚拟关键点位置所对应的虚拟对象的部位的大小,并根据该大小调整贴图大小,以便在像素级别上渲染出完整的虚拟对象;
其中,所述在显示界面的第一显示区域显示所述虚拟对象,包括:根据所述虚拟对象的像素位置和像素颜色,放大或缩小显示所述虚拟对象。
2.根据权利要求1所述的虚拟对象的显示方法,其特征在于,在所述图像帧中根据与虚拟对象的关键点对应的图像特征确定虚拟对象的关键点的位置,包括:
在所述图像帧中确定与所述图像特征匹配的关键点的位置;
将与所述图像特征匹配的关键点的位置作为所述虚拟对象的关键点的位置。
3.根据权利要求1所述的虚拟对象的显示方法,其特征在于,所述图像特征包括人物对象的图像特征。
4.根据权利要求1所述的虚拟对象的显示方法,其特征在于,所述虚拟对象的渲染信息包括如下信息中的一种或多种:
所述虚拟对象的像素位置信息;
所述虚拟对象的像素颜色信息;
所述虚拟对象的轮廓信息;
所述虚拟对象的贴图信息;
所述虚拟对象的建模规则信息。
5.根据权利要求1所述的虚拟对象的显示方法,其特征在于,所述在显示界面的第一显示区域显示所述虚拟对象,包括:
在所述显示界面的第一显示区域放大或缩小显示所述虚拟对象。
6.一种虚拟对象的显示装置,其特征在于,包括:
视频获取模块,用于获取视频中的图像帧;
确定模块,用于在所述图像帧中根据与虚拟对象的关键点对应的图像特征确定所述虚拟对象的关键点的位置;
渲染模块,用于根据与所述虚拟对象的关键点对应的渲染信息和所述虚拟对象的关键点的位置渲染所述虚拟对象,其中所述虚拟对象的关键点和/或所述虚拟对象的关键点的位置构成所述虚拟对象的姿势或姿态;
显示模块,在显示界面的第一显示区域显示所述虚拟对象其中,所述虚拟对象的视频能够用于分享;
其中,所述根据与所述虚拟对象的关键点对应的渲染信息和所述虚拟对象的关键点的位置渲染所述虚拟对象,包括:
根据虚拟对象的关键点位置和轮廓信息确定该虚拟关键点位置所对应的虚拟对象的部位的大小,并根据该大小调整贴图大小,以便在像素级别上渲染出完整的虚拟对象;
其中,所述在显示界面的第一显示区域显示所述虚拟对象,包括:根据所述虚拟对象的像素位置和像素颜色,放大或缩小显示所述虚拟对象。
7.一种电子设备,包括:
存储器,用于存储计算机可读指令;以及
处理器,用于运行所述计算机可读指令,使得所述处理器运行时实现根据权利要求1-5中任意一项所述的虚拟对象的显示方法。
8.一种非暂态计算机可读存储介质,用于存储计算机可读指令,当所述计算机可读指令由计算机执行时,使得所述计算机执行权利要求1-5中任意一项所述的虚拟对象的显示方法。
CN201910215466.6A 2019-03-20 2019-03-20 虚拟对象的显示方法、装置、电子设备和计算机可读存储介质 Active CN110058685B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201910215466.6A CN110058685B (zh) 2019-03-20 2019-03-20 虚拟对象的显示方法、装置、电子设备和计算机可读存储介质
PCT/CN2020/074447 WO2020186935A1 (zh) 2019-03-20 2020-02-06 虚拟对象的显示方法、装置、电子设备和计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910215466.6A CN110058685B (zh) 2019-03-20 2019-03-20 虚拟对象的显示方法、装置、电子设备和计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN110058685A CN110058685A (zh) 2019-07-26
CN110058685B true CN110058685B (zh) 2021-07-09

Family

ID=67316302

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910215466.6A Active CN110058685B (zh) 2019-03-20 2019-03-20 虚拟对象的显示方法、装置、电子设备和计算机可读存储介质

Country Status (2)

Country Link
CN (1) CN110058685B (zh)
WO (1) WO2020186935A1 (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110058685B (zh) * 2019-03-20 2021-07-09 北京字节跳动网络技术有限公司 虚拟对象的显示方法、装置、电子设备和计算机可读存储介质
CN110570502A (zh) * 2019-08-05 2019-12-13 北京字节跳动网络技术有限公司 显示图像帧的方法、装置、电子设备和计算机可读存储介质
CN110660032A (zh) * 2019-09-24 2020-01-07 Oppo广东移动通信有限公司 一种对象屏蔽方法、对象屏蔽装置及电子设备
CN110807728B (zh) * 2019-10-14 2022-12-13 北京字节跳动网络技术有限公司 对象的显示方法、装置、电子设备及计算机可读存储介质
CN110827379A (zh) * 2019-10-31 2020-02-21 北京字节跳动网络技术有限公司 虚拟形象的生成方法、装置、终端及存储介质
CN112784622B (zh) * 2019-11-01 2023-07-25 抖音视界有限公司 图像的处理方法、装置、电子设备及存储介质
CN111210485B (zh) * 2020-01-06 2023-03-28 北京字节跳动网络技术有限公司 图像的处理方法、装置、可读介质和电子设备
CN111669502B (zh) * 2020-06-19 2022-06-24 北京字节跳动网络技术有限公司 目标对象显示方法、装置及电子设备
CN112199016B (zh) * 2020-09-30 2023-02-21 北京字节跳动网络技术有限公司 图像处理方法、装置、电子设备及计算机可读存储介质
CN112333464B (zh) * 2020-10-30 2022-08-02 北京字跳网络技术有限公司 一种交互数据生成方法、装置以及计算机存储介质
CN112714337A (zh) * 2020-12-22 2021-04-27 北京百度网讯科技有限公司 视频处理方法、装置、电子设备和存储介质
CN114419298A (zh) * 2022-01-21 2022-04-29 北京字跳网络技术有限公司 虚拟物体的生成方法、装置、设备及存储介质
CN115442637A (zh) * 2022-09-06 2022-12-06 北京字跳网络技术有限公司 直播特效渲染方法、装置、设备、可读存储介质及产品

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108227931A (zh) * 2018-01-23 2018-06-29 北京市商汤科技开发有限公司 用于控制虚拟人物的方法、设备、系统、程序和存储介质

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8749557B2 (en) * 2010-06-11 2014-06-10 Microsoft Corporation Interacting with user interface via avatar
CN108273265A (zh) * 2017-01-25 2018-07-13 网易(杭州)网络有限公司 虚拟对象的显示方法及装置
CN108629843B (zh) * 2017-03-24 2021-07-13 成都理想境界科技有限公司 一种实现增强现实的方法及设备
CN108229282A (zh) * 2017-05-05 2018-06-29 商汤集团有限公司 关键点检测方法、装置、存储介质及电子设备
WO2018237172A1 (en) * 2017-06-21 2018-12-27 Quantum Interface, Llc SYSTEMS, APPARATUSES, INTERFACES AND METHODS FOR VIRTUAL CONTROL CONSTRUCTIONS, OCULAR MOTION OBJECT CONTROL DEVICES, AND VIRTUAL TRAINING
US10535160B2 (en) * 2017-07-24 2020-01-14 Visom Technology, Inc. Markerless augmented reality (AR) system
CN107831902B (zh) * 2017-11-23 2020-08-25 腾讯科技(上海)有限公司 一种运动控制方法及其设备、存储介质、终端
CN108537867B (zh) * 2018-04-12 2020-01-10 北京微播视界科技有限公司 根据用户肢体运动的视频渲染方法和装置
CN109035373B (zh) * 2018-06-28 2022-02-01 北京市商汤科技开发有限公司 三维特效程序文件包的生成及三维特效生成方法与装置
CN110058685B (zh) * 2019-03-20 2021-07-09 北京字节跳动网络技术有限公司 虚拟对象的显示方法、装置、电子设备和计算机可读存储介质

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108227931A (zh) * 2018-01-23 2018-06-29 北京市商汤科技开发有限公司 用于控制虚拟人物的方法、设备、系统、程序和存储介质

Also Published As

Publication number Publication date
CN110058685A (zh) 2019-07-26
WO2020186935A1 (zh) 2020-09-24

Similar Documents

Publication Publication Date Title
CN110058685B (zh) 虚拟对象的显示方法、装置、电子设备和计算机可读存储介质
CN111242881B (zh) 显示特效的方法、装置、存储介质及电子设备
CN106846497B (zh) 应用于终端的呈现三维地图的方法和装置
CN110189246B (zh) 图像风格化生成方法、装置及电子设备
CN112929582A (zh) 一种特效展示方法、装置、设备及介质
WO2020248900A1 (zh) 全景视频的处理方法、装置及存储介质
CN110069191B (zh) 基于终端的图像拖拽变形实现方法和装置
CN109754464B (zh) 用于生成信息的方法和装置
JP2022505118A (ja) 画像処理方法、装置、ハードウェア装置
CN110062157B (zh) 渲染图像的方法、装置、电子设备和计算机可读存储介质
CN112672185B (zh) 基于增强现实的显示方法、装置、设备及存储介质
US20220159197A1 (en) Image special effect processing method and apparatus, and electronic device and computer readable storage medium
CN111783662B (zh) 姿态估计方法、估计模型训练方法、装置、介质及设备
CN110262763B (zh) 基于增强现实的显示方法和装置以及存储介质和电子设备
CN112734910A (zh) 基于rgb单图实时人脸三维图像重建方法、装置及电子设备
CN109981989B (zh) 渲染图像的方法、装置、电子设备和计算机可读存储介质
CN113163135B (zh) 视频的动画添加方法、装置、设备及介质
WO2020077912A1 (zh) 图像处理方法、装置、硬件装置
CN114445269A (zh) 一种图像特效处理方法、装置、设备及介质
CN114693876A (zh) 数字人生成方法、装置、存储介质和电子设备
CN111862349A (zh) 虚拟画笔实现方法、装置和计算机可读存储介质
CN109816791B (zh) 用于生成信息的方法和装置
CN110189364B (zh) 用于生成信息的方法和装置,以及目标跟踪方法和装置
CN110197459B (zh) 图像风格化生成方法、装置及电子设备
CN113223012B (zh) 视频处理方法、设备及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant