CN112714263A - 视频生成方法、装置、设备及存储介质 - Google Patents
视频生成方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN112714263A CN112714263A CN202011582388.2A CN202011582388A CN112714263A CN 112714263 A CN112714263 A CN 112714263A CN 202011582388 A CN202011582388 A CN 202011582388A CN 112714263 A CN112714263 A CN 112714263A
- Authority
- CN
- China
- Prior art keywords
- parameter
- human body
- target
- parameters
- picture
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本公开实施例公开了一种视频生成方法、装置、设备及存储介质。包括:提取原始图片中人体的第一参数和原始姿态视频每帧图片中人体的第二参数;所述参数包括体型参数和姿态参数;将第一参数中的姿态参数替换为所述第二参数中的姿态参数,获得目标参数;根据所述目标参数生成多帧目标人体姿态图;基于所述多帧目标人体姿态图生成多帧目标图片;所述多帧目标图片进行合并,获得目标姿态视频。本公开实施例公开的视频生成方法,将原始图片人体参数中的姿态参数替换为原始姿态视频每帧图片人体参数中的姿态参数,以实现姿态迁移视频的合成,降低姿态迁移视频合成的成本,可以防止提高姿态迁移视频形变失真。
Description
技术领域
本公开实施例涉及视频处理技术领域,尤其涉及一种视频生成方法、装置、设备及存储介质。
背景技术
动作迁移技术由于其在角色动画、数字电影制作等方面的广泛应用而受到各界的关注。现有的方法首先需要针对单人进行模型构建,再通过提取源视频的关键点来合成新的视频,因此存在以下问题:一是模型不具有通用性,每个目标人物都需要进行模型训练;二是为保证模型能学到充足的目标人物信息,需要对单人进行较多数据的采集;三是通过人体关键点生成的视频对人体的外形迁移粗糙,人体容易出现不同程度的形变失真。
发明内容
本公开实施例提供一种视频生成方法、装置、设备及存储介质,可以实现姿态迁移视频的合成,降低姿态迁移视频合成的成本,可以防止提高姿态迁移视频形变失真。
第一方面,本公开实施例提供了一种视频生成方法,包括:
提取原始图片中人体的第一参数和原始姿态视频每帧图片中人体的第二参数;所述参数包括体型参数和姿态参数;
将第一参数中的姿态参数替换为所述第二参数中的姿态参数,获得目标参数;
根据所述目标参数生成多帧目标人体姿态图;
基于所述多帧目标人体姿态图生成多帧目标图片;
将所述多帧目标图片进行合并,获得目标姿态视频。
第二方面,本公开实施例还提供了一种视频生成装置,其特征在于,包括:
参数提取模块,用于提取原始图片中人体的第一三维人体模型参数和原始姿态视频每帧图片中人体的第二参数;所述参数包括体型参数和姿态参数;
目标参数获取模块,用于将第一参数中的姿态参数替换为所述第二参数中的姿态参数,获得目标参数;
目标人体姿态图生成模块,用于根据所述目标参数生成多帧目标人体姿态图;
目标图片生成模块,用于基于所述多帧目标人体姿态图生成多帧目标图片;
目标姿态视频获取模块,用于将所述多帧目标图片进行合并,获得目标姿态视频。
第三方面,本公开实施例还提供了一种电子设备,所述电子设备包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理装置执行,使得所述一个或多个处理装置实现如本公开实施例所述的视频生成方法。
第四方面,本公开实施例还提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理装置执行时实现如本公开实施例所述的视频生成方法。
本公开实施例公开了一种视频生成方法、装置、设备及存储介质。提取原始图片中人体的第一参数和原始姿态视频每帧图片中人体的第二参数;将第一参数中的姿态参数替换为第二参数中的姿态参数,获得目标参数;根据目标参数生成多帧目标人体姿态图;基于多帧目标人体姿态图生成多帧目标图片;将多帧目标图片进行合并,获得目标姿态视频。本公开实施例公开的视频生成方法,将原始图片人体参数中的姿态参数替换为原始姿态视频每帧图片人体参数中的姿态参数,以实现姿态迁移视频的合成,降低姿态迁移视频合成的成本,可以防止提高姿态迁移视频形变失真。
附图说明
图1是本公开实施例中的一种视频生成方法的流程图;
图2是本公开实施例中的一种视频生成装置的结构示意图;
图3是本公开实施例中的一种电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
图1为本公开实施例提供的一种视频生成方法的流程图,本实施例可适用于生成姿态迁移视频情况,该方法可以由视频生成模块来执行,该装置可由硬件和/或软件组成,并一般可集成在具有视频生成功能的设备中,该设备可以是服务器、移动终端或服务器集群等电子设备。如图1所示,该方法具体包括如下步骤:
步骤110,提取原始图片中人体的第一参数和原始姿态视频每帧图片中人体的第二参数。
其中,参数可以是三维人体模型(A Skinned Multi-Person Linear Model,SMPL)参数,可以包括体型参数和姿态参数。体型参数可以包括表征人体高矮胖瘦、头身比例等的10个参数,姿态参数可以包括表征人体运动位姿的24个关节相对角度的75个参数。提取人体参数可以采用人体网格恢复(Human Mesh Recovery,HMR)算法、人体姿态和形状估计(Video Inference for Human Body Pose and Shape Estimation,WIBE)算法或者变形获取(Towards Temporally Coherent Clothing Capture from Monocular RGB Video,MonoClothCap)算法中的任意一种算法实现。
具体的,提取原始图片中人体的第一参数和原始姿态视频每帧图片中人体的第二参数的过程可以是:对原始图片和原始姿态视频中的每帧图片分别进行人体识别,获得人体检测框;对人体检测框中的图像进行三维建模,获得3D模型;提取3D模型中的SMPL参数,获得原始图片中人体的第一SMPL参数和原始姿态视频每帧图片中人体的第二SMPL参数。
其中,人体识别的方式可以采用现有的任意方式实现。本实施例中,对于原始图片和原始姿态视频中的每帧图片,首先进行人体识别,在获得人体检测框后,将人体检测框裁剪下来,然后对人体检测框内的图像进行3D建模,获得二位图片中人体对应的三维模型,最后提取三维模型中的SMPL参数,即体型参数和姿态参数,获得原始图片中人体的第一SMPL参数和原始姿态视频每帧图片中人体的第二SMPL参数。
步骤120,将第一参数中的姿态参数替换为第二参数中的姿态参数,获得目标参数。
其中,目标参数包括多个连续帧分别对应的参数。本实施例中,由于第二参数为原始姿态视频每帧图片分别对应的参数,因此,要将每帧图片对应的第二参数的姿态参数逐一替换第一参数中的姿态参数,从而获得多个连续帧分别对应的参数,即目标参数。
具体的,将第一参数中的姿态参数替换为第二参数中的参数,获得目标参数的过程可以是:获取原始图片拍摄点与原始姿态视频拍摄点间的坐标系转换关系;根据坐标系转换关系将第二参数转化为原始图片拍摄点下的参数;将第一参数中的姿态参数替换为转换后的第二参数中的姿态参数,获得目标参数。
其中,拍摄点可以理解为拍摄点所在的相机,每个拍摄点对应一个相机,每个相机具有对应的映射矩阵,坐标系转换关系可以理解为映射矩阵间的变换关系,该变换关系可用一个变换矩阵表征。本实施例中,由于拍摄原始图片的相机和拍摄原始姿态视频的相机的坐标系可能不同,因此需要将第二参数转换至原始图片拍摄点所在的相机坐标系下。可以将坐标系转换关系与第二参数进行点乘计算,实现第二参数的转换。
步骤130,根据目标参数生成多帧目标人体姿态图。
其中,基于目标参数生成多帧目标人体姿态图的方式可以是:将目标参数输入图像生成对抗网络中,获得多帧目标人体姿态图。
具体的,根据目标参数生成多帧目标人体姿态图的方式过程可以是:对目标参数进行平滑处理;根据平滑处理后的目标参数生成多帧目标人体姿态图。
本实施例中,目标参数包括多个连续帧分别对应的参数,为了使得帧与帧之间人体姿态更加平滑连贯,需要对目标参数进行平滑处理。平滑处理可以采用KalmanFilter或者OneEuroFilter等滤波算法进行处理。
步骤140,基于多帧目标人体姿态图生成多帧目标图片。
本实施例中,需要将多帧目标人体姿态图与背景图分别进行融合,从而获得多帧目标图片。
具体的,基于多帧目标人体姿态图生成多帧目标图片的过程可以是:根据目标人体姿态图生成人体掩码图;获取设定背景图;基于人体掩码图将多帧目标人体姿态图分别和设定背景图进行融合,获得多帧目标图片。
其中,人体掩膜图可以是二值图,即人体掩码二值图(mask),该二值图可以理解为人体区域的像素值为1,其他区域的像素值为0的图像。设定背景图可以是由原始图片中的背景区域构成的图片或者其他任意的不包含人体的图片。本实施例中,基于人体掩码图将多帧目标人体姿态图分别和设定背景图进行融合的方式可以是:目标图片=目标人体姿态图*人体掩码图+设定背景图*(1-人体掩码二值图)。
可选的,为了人体边缘与背景的融合更加平滑,采用泊松融合。
本实施例中,若设定背景图为原始图片中的背景区域构成的图片,则获取设定背景图的方式可以是:将原始图片中的人体和背景进行分割,获得初始背景图;对初始背景图进行修复处理,获得设定背景图。
其中,对人体和背景进行分割可以采用上述步骤上获取到的人体检测框以及第一参数。本实施例中,将原始图片中的人体和背景进行分割,获得初始背景图的方式可以是:根据人体检测框与原始图片的位置关系将第一参数映射至原始图片;根据映射结果对原始图片中的人体区域进行渲染,获得分割人体后的初始背景图。
其中,人体检测框与原始图片的位置关系可以包括坐标值(x与y)的比例系数以及偏移量。第一参数是一个三维参数,将第一参数映射至原始图片可以理解为将第一参数投影至原始图片,获得二维人体图像。具体的,根据人体检测框与原始图片的位置关系以确定人体在原始图片中位置,然后将第一参数投影至原始图片,获得二维人体图像。
其中,根据映射结果对原始图片中的人体区域进行渲染的方式可以是:采用PyRender或者Neural 3D Mesh Renderer等SMPL渲染算法进行处理。渲染后,原始图片中人体部分像素可以是255(黑色),从而得到一个抠除人体的背景图片。
其中修复处理可以理解为图片修复的过程。本实施例中,对初始背景图进行补图处理的方式可以是:使用LiquidWarpingGan、DeepFillV2(free-form inpainting)、深度卷积对抗生成网络(Deep Convolutional Generative Adversarial Networks,DCGAN)、Wasserstein生成对抗网络(Wasserstein Generative Adversarial Networks,WGAN)或者最小二乘生成对抗网络(Least squares Generative Adversarial Networks,LSGAN)中的任意一种进行补图处理。
步骤150,将多帧目标图片进行合并,获得目标姿态视频。
本实施例中,通过视频合成渲染的方式将多帧目标图片进行合成并渲染为目标姿态视频。
本公开实施例的技术方案,提取原始图片中人体的第一三维人体模型参数和原始姿态视频每帧图片中人体的第二参数;将第一参数中的姿态参数替换为第二参数中的姿态参数,获得目标参数;根据目标参数生成多帧目标人体姿态图;基于多帧目标人体姿态图生成多帧目标图片;将多帧目标图片进行合并,获得目标姿态视频。本公开实施例公开的视频生成方法,将原始图片人体参数中的姿态参数替换为原始姿态视频每帧图片人体参数中的姿态参数,以实现姿态迁移视频的合成,降低姿态迁移视频合成的成本,可以防止提高姿态迁移视频形变失真。
图2是本公开实施例公开的一种视频生成装置的结构示意图。如图2所示,该装置包括:
参数提取模块210,用于提取原始图片中人体的第一参数和原始姿态视频每帧图片中人体的第二参数;参数包括体型参数和姿态参数;
目标参数获取模块220,用于将第一参数中的姿态参数替换为第二参数中的姿态参数,获得目标参数;
目标人体姿态图生成模块230,用于根据目标参数生成多帧目标人体姿态图;
目标图片生成模块240,用于基于多帧目标人体姿态图生成多帧目标图片;
目标姿态视频获取模块250,用于将多帧目标图片进行合并,获得目标姿态视频。
可选的,参数提取模块210,还用于:
对原始图片和原始姿态视频中的每帧图片分别进行人体识别,获得人体检测框;
对人体检测框中的图像进行三维建模,获得3D模型;
提取3D模型中的参数,获得原始图片中人体的第一SMPL参数和原始姿态视频每帧图片中人体的第二SMPL参数。
可选的,目标参数获取模块220,还用于:
获取原始图片拍摄点与原始姿态视频拍摄点间的坐标系转换关系;
根据坐标系转换关系将第二参数转化为原始图片所在相机坐标系下的参数;
将第一参数中的姿态参数替换为转换后的第二参数中的姿态参数,获得目标参数。
可选的,目标参数包括多个连续帧分别对应的参数,目标人体姿态图生成模块230,还用于:
对目标参数进行平滑处理;
根据平滑处理后的目标参数生成多帧目标人体姿态图。
可选的,目标图片生成模块240,还用于:
根据目标人体姿态图生成人体掩码图;
获取设定背景图;
基于人体掩码二值图将多帧目标人体姿态图分别和设定背景图进行融合,获得多帧目标图片。
可选的,目标图片生成模块240,还用于:
将原始图片中的人体和背景进行分割,获得初始背景图;
对初始背景图进行修复处理,获得设定背景图。
可选的,目标图片生成模块240,还用于:
根据人体检测框与原始图片的位置关系将第一参数映射至原始图片;
根据映射结果对原始图片中的人体区域进行渲染,获得分割人体后的初始背景图。
上述装置可执行本公开前述所有实施例所提供的方法,具备执行上述方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本公开前述所有实施例所提供的方法。
下面参考图3,其示出了适于用来实现本公开实施例的电子设备300的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端,或者各种形式的服务器,如独立服务器或者服务器集群。图3示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图3所示,电子设备300可以包括处理装置(例如中央处理器、图形处理器等)301,其可以根据存储在只读存储装置(ROM)302中的程序或者从存储装置305加载到随机访问存储装置(RAM)303中的程序而执行各种适当的动作和处理。在RAM 303中,还存储有电子设备300操作所需的各种程序和数据。处理装置301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。
通常,以下装置可以连接至I/O接口305:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置306;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置307;包括例如磁带、硬盘等的存储装置308;以及通信装置309。通信装置309可以允许电子设备300与其他设备进行无线或有线通信以交换数据。虽然图3示出了具有各种装置的电子设备300,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行词语的推荐方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置309从网络上被下载和安装,或者从存储装置305被安装,或者从ROM 302被安装。在该计算机程序被处理装置301执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:提取原始图片中人体的第一参数和原始姿态视频每帧图片中人体的第二参数;所述参数包括体型参数和姿态参数;将第一参数中的姿态参数替换为所述第二参数中的姿态参数,获得目标参数;根据所述目标参数生成多帧目标人体姿态图;基于所述多帧目标人体姿态图生成多帧目标图片;将所述多帧目标图片进行合并,获得目标姿态视频。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开实施例的一个或多个实施例,本公开实施例公开了一种视频生成方法,包括:
提取原始图片中人体的第一参数和原始姿态视频每帧图片中人体的第二参数;所述参数包括体型参数和姿态参数;
将第一参数中的姿态参数替换为所述第二参数中的姿态参数,获得目标参数;
根据所述目标参数生成多帧目标人体姿态图;
基于所述多帧目标人体姿态图生成多帧目标图片;
将所述多帧目标图片进行合并,获得目标姿态视频。
进一步地,所述参数为三维人体模型SMPL参数,提取原始图片中人体的第一三维人体模型参数和原始姿态视频每帧图片中人体的第二参数,包括:
对原始图片和原始姿态视频中的每帧图片分别进行人体识别,获得人体检测框;
对所述人体检测框中的图像进行三维建模,获得3D模型;
提取3D模型中的参数,获得所述原始图片中人体的第一SMPL参数和所述原始姿态视频每帧图片中人体的第二SMPL参数。
进一步地,将所述第一参数中的姿态参数替换为所述第二参数中的参数,获得目标参数,包括:
获取所述原始图片拍摄点与所述原始姿态视频拍摄点间的坐标系转换关系;
根据所述坐标系转换关系将所述第二参数转化为所述原始图片所在相机坐标系下的参数;
将所述第一参数中的姿态参数替换为转换后的第二参数中的姿态参数,获得目标参数。
进一步地,所述目标参数包括多个连续帧分别对应的参数,根据所述目标参数生成多帧目标人体姿态图,包括:
对所述目标参数进行平滑处理;
根据平滑处理后的目标参数生成多帧目标人体姿态图。
进一步地,基于所述多帧目标人体姿态图生成多帧目标图片,包括:
根据所述目标人体姿态图生成人体掩码图;
获取设定背景图;
基于所述人体掩码二值图将所述多帧目标人体姿态图分别和所述设定背景图进行融合,获得多帧目标图片。
进一步地,获取设定背景图,包括:
将所述原始图片中的人体和背景进行分割,获得初始背景图;
对所述初始背景图进行修复处理,获得设定背景图。
进一步地,将所述原始图片中的人体和背景进行分割,获得初始背景图,包括:
根据所述人体检测框与所述原始图片的位置关系将所述第一参数映射至所述原始图片;
根据映射结果对所述原始图片中的人体区域进行渲染,获得分割人体后的初始背景图。
注意,上述仅为本公开的较佳实施例及所运用技术原理。本领域技术人员会理解,本公开不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本公开的保护范围。因此,虽然通过以上实施例对本公开进行了较为详细的说明,但是本公开不仅仅限于以上实施例,在不脱离本公开构思的情况下,还可以包括更多其他等效实施例,而本公开的范围由所附的权利要求范围决定。
Claims (10)
1.一种视频生成方法,其特征在于,包括:
提取原始图片中人体的第一参数和原始姿态视频每帧图片中人体的第二参数;所述参数包括体型参数和姿态参数;
将第一参数中的姿态参数替换为所述第二参数中的姿态参数,获得目标参数;
根据所述目标参数生成多帧目标人体姿态图;
基于所述多帧目标人体姿态图生成多帧目标图片;
将所述多帧目标图片进行合并,获得目标姿态视频。
2.根据权利要求1所述的方法,其特征在于,所述参数为三维人体模型SMPL参数;提取原始图片中人体的第一参数和原始姿态视频每帧图片中人体的参数,包括:
对原始图片和原始姿态视频中的每帧图片分别进行人体识别,获得人体检测框;
对所述人体检测框中的图像进行三维建模,获得3D模型;
提取所述3D模型中的SMPL参数,获得所述原始图片中人体的第一SMPL参数和所述原始姿态视频每帧图片中人体的第二SMPL参数。
3.根据权利要求1所述的方法,其特征在于,将所述第一参数中的姿态参数替换为所述第二参数中的参数,获得目标参数,包括:
获取所述原始图片拍摄点与所述原始姿态视频拍摄点间的坐标系转换关系;
根据所述坐标系转换关系将所述第二参数转化为所述原始图片拍摄点下的参数;
将所述第一参数中的姿态参数替换为转换后的第二参数中的姿态参数,获得目标参数。
4.根据权利要求1所述的方法,其特征在于,所述目标参数包括多个连续帧分别对应的参数,根据所述目标参数生成多帧目标人体姿态图,包括:
对所述目标参数进行平滑处理;
根据平滑处理后的目标参数生成多帧目标人体姿态图。
5.根据权利要求1或2所述的方法,其特征在于,基于所述多帧目标人体姿态图生成多帧目标图片,包括:
根据所述目标人体姿态图生成人体掩码图;
获取设定背景图;
基于所述人体掩码图将所述多帧目标人体姿态图分别和所述设定背景图进行融合,获得多帧目标图片。
6.根据权利要求5所述的方法,其特征在于,获取设定背景图,包括:
将所述原始图片中的人体和背景进行分割,获得初始背景图;
对所述初始背景图进行修复处理,获得设定背景图。
7.根据权利要求6所述的方法,其特征在于,将所述原始图片中的人体和背景进行分割,获得初始背景图,包括:
根据所述人体检测框与所述原始图片的位置关系将所述第一参数映射至所述原始图片;
根据映射结果对所述原始图片中的人体区域进行渲染,获得分割人体后的初始背景图。
8.一种视频生成装置,其特征在于,包括:
参数提取模块,用于提取原始图片中人体的第一参数和原始姿态视频每帧图片中人体的第二参数;所述参数包括体型参数和姿态参数;
目标参数获取模块,用于将第一参数中的姿态参数替换为所述第二参数中的姿态参数,获得目标参数;
目标人体姿态图生成模块,用于根据所述目标参数生成多帧目标人体姿态图;
目标图片生成模块,用于基于所述多帧目标人体姿态图生成多帧目标图片;
目标姿态视频获取模块,用于将所述多帧目标图片进行合并,获得目标姿态视频。
9.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理装置执行,使得所述一个或多个处理装置实现如权利要求1-7中任一所述的视频生成方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理装置执行时实现如权利要求1-7中任一所述的视频生成方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011582388.2A CN112714263B (zh) | 2020-12-28 | 2020-12-28 | 视频生成方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011582388.2A CN112714263B (zh) | 2020-12-28 | 2020-12-28 | 视频生成方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112714263A true CN112714263A (zh) | 2021-04-27 |
CN112714263B CN112714263B (zh) | 2023-06-20 |
Family
ID=75545886
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011582388.2A Active CN112714263B (zh) | 2020-12-28 | 2020-12-28 | 视频生成方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112714263B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113705401A (zh) * | 2021-08-18 | 2021-11-26 | 深圳传音控股股份有限公司 | 图像处理方法、终端设备及存储介质 |
CN113873175A (zh) * | 2021-09-15 | 2021-12-31 | 广州繁星互娱信息科技有限公司 | 视频播放方法、装置和存储介质及电子设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130250050A1 (en) * | 2012-03-23 | 2013-09-26 | Objectvideo, Inc. | Video surveillance systems, devices and methods with improved 3d human pose and shape modeling |
US20170280130A1 (en) * | 2016-03-25 | 2017-09-28 | Microsoft Technology Licensing, Llc | 2d video analysis for 3d modeling |
CN109859296A (zh) * | 2019-02-01 | 2019-06-07 | 腾讯科技(深圳)有限公司 | Smpl参数预测模型的训练方法、服务器及存储介质 |
CN110245638A (zh) * | 2019-06-20 | 2019-09-17 | 北京百度网讯科技有限公司 | 视频生成方法和装置 |
CN110430416A (zh) * | 2019-07-17 | 2019-11-08 | 清华大学 | 自由视点图像生成方法和装置 |
CN111027438A (zh) * | 2019-12-03 | 2020-04-17 | Oppo广东移动通信有限公司 | 一种人体姿态的迁移方法、移动终端以及计算机存储介质 |
-
2020
- 2020-12-28 CN CN202011582388.2A patent/CN112714263B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130250050A1 (en) * | 2012-03-23 | 2013-09-26 | Objectvideo, Inc. | Video surveillance systems, devices and methods with improved 3d human pose and shape modeling |
US20170280130A1 (en) * | 2016-03-25 | 2017-09-28 | Microsoft Technology Licensing, Llc | 2d video analysis for 3d modeling |
CN109859296A (zh) * | 2019-02-01 | 2019-06-07 | 腾讯科技(深圳)有限公司 | Smpl参数预测模型的训练方法、服务器及存储介质 |
CN110245638A (zh) * | 2019-06-20 | 2019-09-17 | 北京百度网讯科技有限公司 | 视频生成方法和装置 |
CN110430416A (zh) * | 2019-07-17 | 2019-11-08 | 清华大学 | 自由视点图像生成方法和装置 |
CN111027438A (zh) * | 2019-12-03 | 2020-04-17 | Oppo广东移动通信有限公司 | 一种人体姿态的迁移方法、移动终端以及计算机存储介质 |
Non-Patent Citations (1)
Title |
---|
李桂等: "基于姿态引导的场景保留人物视频生成", 《图学学报》, no. 04 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113705401A (zh) * | 2021-08-18 | 2021-11-26 | 深圳传音控股股份有限公司 | 图像处理方法、终端设备及存储介质 |
CN113873175A (zh) * | 2021-09-15 | 2021-12-31 | 广州繁星互娱信息科技有限公司 | 视频播放方法、装置和存储介质及电子设备 |
CN113873175B (zh) * | 2021-09-15 | 2024-03-15 | 广州繁星互娱信息科技有限公司 | 视频播放方法、装置和存储介质及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN112714263B (zh) | 2023-06-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110503703B (zh) | 用于生成图像的方法和装置 | |
CN110517214B (zh) | 用于生成图像的方法和装置 | |
CN111368685A (zh) | 关键点的识别方法、装置、可读介质和电子设备 | |
CN112927271B (zh) | 图像处理方法、图像处理装置、存储介质与电子设备 | |
CN114331820A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN112714263B (zh) | 视频生成方法、装置、设备及存储介质 | |
CN111967397A (zh) | 人脸影像处理方法和装置、存储介质和电子设备 | |
CN114937192A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN114399814A (zh) | 一种基于深度学习的遮挡物移除和三维重建方法 | |
CN114004905A (zh) | 人物风格形象图的生成方法、装置、设备及存储介质 | |
CN114339447B (zh) | 图片转视频的方法、装置、设备及存储介质 | |
CN111612715B (zh) | 图像修复方法、装置和电子设备 | |
CN116596748A (zh) | 图像风格化处理方法、装置、设备、存储介质和程序产品 | |
CN116486009A (zh) | 单目三维人体重建方法、装置以及电子设备 | |
CN111784726A (zh) | 人像抠图方法和装置 | |
CN114422698A (zh) | 视频生成方法、装置、设备及存储介质 | |
CN112132871B (zh) | 一种基于特征光流信息的视觉特征点追踪方法、装置、存储介质及终端 | |
CN115063335A (zh) | 特效图的生成方法、装置、设备及存储介质 | |
CN114040129A (zh) | 视频生成方法、装置、设备及存储介质 | |
CN111696041B (zh) | 图像处理方法、装置及电子设备 | |
CN114723600A (zh) | 美妆特效的生成方法、装置、设备、存储介质和程序产品 | |
CN114418835A (zh) | 图像处理方法、装置、设备及介质 | |
CN112070903A (zh) | 虚拟对象的展示方法、装置、电子设备及计算机存储介质 | |
CN110717467A (zh) | 头部姿势的估计方法、装置、设备及存储介质 | |
CN111626919B (zh) | 图像合成方法、装置、电子设备及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |