CN108022278B - 基于视频中运动跟踪的人物动画绘制方法及系统 - Google Patents
基于视频中运动跟踪的人物动画绘制方法及系统 Download PDFInfo
- Publication number
- CN108022278B CN108022278B CN201711487839.2A CN201711487839A CN108022278B CN 108022278 B CN108022278 B CN 108022278B CN 201711487839 A CN201711487839 A CN 201711487839A CN 108022278 B CN108022278 B CN 108022278B
- Authority
- CN
- China
- Prior art keywords
- human body
- character
- posture
- scanning
- standard template
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 27
- 230000037237 body shape Effects 0.000 claims abstract description 46
- 238000001914 filtration Methods 0.000 claims abstract description 22
- 239000013598 vector Substances 0.000 claims description 26
- 238000005457 optimization Methods 0.000 claims description 22
- 238000013527 convolutional neural network Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 7
- 238000009877 rendering Methods 0.000 claims description 5
- 238000004519 manufacturing process Methods 0.000 abstract description 7
- 230000036544 posture Effects 0.000 description 42
- 230000003068 static effect Effects 0.000 description 7
- 230000009471 action Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 3
- 239000000463 material Substances 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000005452 bending Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/20—3D [Three Dimensional] animation
- G06T13/40—3D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/277—Analysis of motion involving stochastic approaches, e.g. using Kalman filters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/08—Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明公开了一种基于视频中运动跟踪的人物动画绘制方法及系统,其中,方法包括:获取包含人物运动的视频,以进行标准姿态下的3D扫描得到3D扫描人物模型;根据预设的标准模板对3D扫描人物模型进行匹配,以获取人体形状和人体姿态;在每读入一帧时,根据人体形状和人体姿态对目标函数进行优化,以将标准模板和视频中的人物进行匹配,获取人体姿态参数,并优化形状参数;对不同帧之间的人物运动中加入卡尔曼滤波,使得通过匹配的对应点将标准模板转换回3D扫描的人物模型,获取人体骨架以实现人物动画绘制。该方法可以有效提高动画制作的准确性和可靠性,并拥有广阔的应用前景,简单易实现。
Description
技术领域
本发明涉及计算机图形学以及计算机视觉技术领域,特别涉及一种基于视频中运动跟踪的人物动画绘制方法及系统。
背景技术
基于运动跟踪的人物动画绘制是计算机图形学领域中一个非常重要的问题,以前的基于运动跟踪的人物动画绘制都是基于多个摄像头或者一个深度摄像头,而本专利只需要一个单目摄像头所拍摄下来的视频即可实现。此外由于kinect的市场化,扫描人体静态模型的难度大大降低,但是对于静态模型的动态使用方式还有所局限。本专利提供的系统也是一种对于扫描的3D人体静态模型的动态使用方式,在电影制作、虚拟现实、游戏效果等等方面都有很大的前景。
相关技术的大量运动跟踪方法都是直接在图片中提取2D/3D骨架,计算出帧与帧之间骨架的旋转角度,从而对人体扫描模型直接进行操控。但是这种方式由于缺乏先验知识的束缚,经常造成肢体的不自然僵硬或者产生不合理姿态。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。
为此,本发明的一个目的在于提出一种基于视频中运动跟踪的人物动画绘制方法,该方法可以有效提高动画制作的准确性和可靠性,并拥有广阔的应用前景,简单易实现。
本发明的另一个目的在于提出一种基于视频中运动跟踪的人物动画绘制系统。
为达到上述目的,本发明一方面实施例提出了一种基于视频中运动跟踪的人物动画绘制方法,包括以下步骤:获取包含人物运动的视频,以进行标准姿态下的3D扫描得到3D扫描人物模型;根据预设的标准模板对所述3D扫描人物模型进行匹配,以获取人体形状和人体姿态;在每读入一帧时,根据所述人体形状和人体姿态对目标函数进行优化,以将所述标准模板和所述视频中的人物进行匹配,获取人体姿态参数,并优化形状参数;对不同帧之间的人物运动中加入卡尔曼滤波,使得通过匹配的对应点将所述标准模板转换回3D扫描的人物模型,获取人体骨架以实现人物动画绘制。
本发明实施例的基于视频中运动跟踪的人物动画绘制方法,可以利用已有数据集直接优化标准网格模板,并通过加入卡尔曼滤波对计算出的姿态进行优化帧与帧之间动作的连贯性,从而大大减少了不合理以及不自然姿态出现的概率,需求的输入信息简单易采集,可以得到高精度的动画绘制效果,进而可以有效提高动画制作的准确性和可靠性,并拥有广阔的应用前景,简单易实现。
另外,根据本发明上述实施例的基于视频中运动跟踪的人物动画绘制方法还可以具有以下附加的技术特征:
进一步地,在本发明的一个实施例中,所述根据预设的标准模板对所述静态3D扫描人物模型进行匹配,进一步包括:对所述预设的标准模板进行人体形状变形,并微调所述标准模板的姿态,使得所述标准模板的姿态与所述3D扫描人物模型的所述对应点差最小;通过迭代优化得到最优的人体姿态和所述人体形状。
进一步地,在本发明的一个实施例中,迭代优化的公式为:
其中,θ为所述人体姿态,β为所述人体形状,a为所述人体姿态和所述人体形状变形后的所述标准模板的顶点的索引,b为所述3D扫描人物模型网格的顶点的索引,C为a和b点的集合,v′a(β)为所述人体形状变形后a对应的新顶点,T(θ,v′a(β))为所述人体姿态和所述人体形状变形后a所对应的新顶点。
进一步地,在本发明的一个实施例中,所述目标函数的优化函数为:
E(β,θ)=EJ(β,θ;K,Jest)+λθEθ(θ)+λαEα(α)+λspEsp(θ;β),
其中,Jest为卷积神经网络对每帧进行人物骨架和关节点提取得到的数据项,K为照相机参数。
进一步地,在本发明的一个实施例中,所述对不同帧之间的人物运动中加入卡尔曼滤波,进一步包括:通过姿态向量建立运动模型;通过上一状态的估计值对当前状态进行估计,并通过所述当前状态的观测值得到预测值,以获取新估计值;将卡尔曼滤波后的状态向量的前预设维作为新的所述姿态向量。
为达到上述目的,本发明另一方面实施例提出了一种基于视频中运动跟踪的人物动画绘制方法系统,包括:第一获取模块,用于获取包含人物运动的视频,以进行标准姿态下的3D扫描得到3D扫描人物模型;第二获取模块,用于根据预设的标准模板对所述3D扫描人物模型进行匹配,以获取人体形状和人体姿态;优化获取模块,用于在每读入一帧时,根据所述人体形状和人体姿态对目标函数进行优化,以将所述标准模板和所述视频中的人物进行匹配,获取人体姿态参数,并优化形状参数;处理模块,用于对不同帧之间的人物运动中加入卡尔曼滤波,使得通过匹配的对应点将所述标准模板转换回3D扫描的人物模型,获取人体骨架以实现人物动画绘制。
本发明实施例的基于视频中运动跟踪的人物动画绘制系统,可以利用已有数据集直接优化标准网格模板,并通过加入卡尔曼滤波对计算出的姿态进行优化帧与帧之间动作的连贯性,从而大大减少了不合理以及不自然姿态出现的概率,需求的输入信息简单易采集,可以得到高精度的动画绘制效果,进而可以有效提高动画制作的准确性和可靠性,并拥有广阔的应用前景,简单易实现。
另外,根据本发明上述实施例的基于视频中运动跟踪的人物动画绘制方法系统还可以具有以下附加的技术特征:
进一步地,在本发明的一个实施例中,所述第二获取模块还用于对所述预设的标准模板进行人体形状变形,并微调所述标准模板的姿态,使得所述标准模板的姿态与所述3D扫描人物模型的所述对应点差最小,并通过迭代优化得到最优的人体姿态和所述人体形状。
进一步地,在本发明的一个实施例中,迭代优化的公式为:
其中,θ为所述人体姿态,β为所述人体形状,a为所述人体姿态和所述人体形状变形后的所述标准模板的顶点的索引,b为所述3D扫描人物模型网格的顶点的索引,C为a和b点的集合,v′a(β)为所述人体形状变形后a对应的新顶点,T(θ,v′a(β))为所述人体姿态和所述人体形状变形后a所对应的新顶点。
进一步地,在本发明的一个实施例中,所述目标函数的优化函数为:
E(β,θ)=EJ(β,θ;K,Jest)+λθEθ(θ)+λαEα(α)+λspEsp(θ;β),
其中,Jest为卷积神经网络对每帧进行人物骨架和关节点提取得到的数据项,K为照相机参数。
进一步地,在本发明的一个实施例中,所述处理模块还用于通过姿态向量建立运动模型,并通过上一状态的估计值对当前状态进行估计,并通过所述当前状态的观测值得到预测值,以获取新估计值,以及将卡尔曼滤波后的状态向量的前预设维作为新的所述姿态向量。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为根据本发明一个实施例的基于视频中运动跟踪的人物动画绘制方法的流程图;
图2为根据本发明一个实施例的基于视频中运动跟踪的人物动画绘制系统的结构示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面参照附图描述根据本发明实施例提出的基于视频中运动跟踪的人物动画绘制方法及系统,首先将参照附图描述根据本发明实施例提出的基于视频中运动跟踪的人物动画绘制方法。
图1是本发明一个实施例的基于视频中运动跟踪的人物动画绘制方法的流程图。
如图1所示,该基于视频中运动跟踪的人物动画绘制方法包括以下步骤:
在步骤S101中,获取包含人物运动的视频,以进行标准姿态下的3D扫描得到3D扫描人物模型。
首先,本发明实施例需要提供一段视频,视频中要求有一个正在运动着的人,其次还需要提供一个3D扫描的人物模型。也就是说,用户需输入一段包含人物运动的视频,本发明实施例的方法可以使用kinect或者其他设备对用户进行标准姿态下的3D扫描以得到静态3D模型。
在步骤S102中,根据预设的标准模板对3D扫描人物模型进行匹配,以获取人体形状和人体姿态。
可以理解的是,本发明实施例可以使用标准模板对输入的3D扫描人物模型进行匹配,获得人体形状和初始姿态参数。也就是说,在获得单目视频和3D扫描人物模型后,使用标准模板对输入的3D扫描人物模型进行匹配,获得人体形状和初始姿态参数。
进一步地,在本发明的一个实施例中,根据预设的标准模板对静态3D扫描人物模型进行匹配,进一步包括:对预设的标准模板进行人体形状变形,并微调标准模板的姿态,使得标准模板的姿态与3D扫描人物模型的对应点差最小;通过迭代优化得到最优的人体姿态和人体形状。
可选地,在本发明的一个实施例中,迭代优化的公式为:
其中,θ为人体姿态,β为人体形状,a为人体姿态和人体形状变形后的标准模板的顶点的索引,b为3D扫描人物模型网格的顶点的索引,C为a和b点的集合,v′a(β)为人体形状变形后a对应的新顶点,T(θ,v′a(β))为人体姿态和人体形状变形后a所对应的新顶点。
具体而言,本发明实施例可以使用SMPL标准模板对输入的3D扫描人物模型进行匹配,对标准模板首先进行人体形状变形,之后微调标准模板的姿态使之与3D扫描人物模型的对应点差最小;通过迭代优化下式来得出最优的θ和β:
其中θ代表人体姿态,是一个72维的旋转向量,β代表人体形状,是一个PCA计算出的10维权重向量,a是经过形状和姿态变形后的标准模板的顶点的索引,b是3D扫描人物网格的顶点的索引,a和b代表的点是两个网格中的对应点。C是这些对应点所组成的点集。v′a(β)是进行形状变形后a所对应的新顶点。T(θ,v′a(β))是经过形状和LBS姿态变形后a所对应的新顶点。
在步骤S103中,在每读入一帧时,根据人体形状和人体姿态对目标函数进行优化,以将标准模板和视频中的人物进行匹配,获取人体姿态参数,并优化形状参数。
可以理解的是,本发明实施例可以通过优化一个目标函数将标准模板和视频中的人物进行匹配,获得人体姿态参数并适当优化形状参数。
具体而言,本发明实施例可以通过优化一个目标函数将标准模板和视频中的人物进行匹配,获得人体姿态参数并适当优化形状参数,该目标函数包括四项,分别用来进行:
(1)使优化出的人物网格的3D关节点映射到2D后和直接从图片中估计出的2D关节点尽可能接近;
(2)使计算出的人体姿态在日常中出现的概率更高;
(3)惩罚那些计算出的不自然弯曲的姿态,比如手肘向后弯曲大于90度等等;
(4)减少肢体间相互贯通的现象。
可选地,在本发明的一个实施例中,目标函数的优化函数为:
E(β,θ)=EJ(β,θ;K,Jest)+λθEθ(θ)+λαEα(α)+λspEsp(θ;β),
其中,Jest为卷积神经网络对每帧进行人物骨架和关节点提取得到的数据项,K为照相机参数。
具体而言,每次读入一帧,通过优化一个目标函数将标准模板和视频中的人物进行匹配:
E(β,θ)=EJ(β,θ;K,Jest)+λθEθ(θ)+λαEα(α)+λspEsp(θ;β),
此优化函数主要由四项组成,第一项是基于关节点的数据项,需要首先使用卷积神经网络对该帧进行人物骨架和关节点提取,得到Jest,其次将目前经过变换后的SMPL标准模板(β,θ)所对应的3D骨架利用估计出的照相机参数K映射到2D,希望两个2D骨架在Geman-McClure惩罚方程的作用下值尽可能小,也即位置尽可能接近。第二项是希望计算出的人体姿态在日常中出现的概率更高,需要利用CMU提供的MoCap数据集所计算出的姿态的分布规律。第三项是惩罚那些计算出的不自然弯曲的姿态,比如手肘向后弯曲大于90度等等。第四项是为了减少肢体间相互贯通的现象,将人的躯干简化为球体,惩罚那些相对于半径来说球心过近的情况。
在步骤S104中,对不同帧之间的人物运动中加入卡尔曼滤波,使得通过匹配的对应点将标准模板转换回3D扫描的人物模型,获取人体骨架以实现人物动画绘制。
可以理解的是,本发明实施例可以对不同帧之间的人物运动加入卡尔曼滤波,最后将标准模板转换回3D扫描的人物模型。也就是说,本发明实施例可以对不同帧之间的人物运动加入卡尔曼滤波,并使用对应点来将标准模板转换回3D扫描的人物模型,并利用MVC(Model View Controller,MVC框架)计算出更精确的人体骨架。
进一步地,在本发明的一个实施例中,对不同帧之间的人物运动中加入卡尔曼滤波,进一步包括:通过姿态向量建立运动模型;通过上一状态的估计值对当前状态进行估计,并通过当前状态的观测值得到预测值,以获取新估计值;将卡尔曼滤波后的状态向量的前预设维作为新的姿态向量。
具体而言,卡尔曼滤波包括以下步骤:
(1)、首先建立运动模型:考虑运动为一阶可导,则72维姿态向量分别可求出各自得导数,加起来组成144维的状态向量。观测向量则为权利要求2)中计算出的新的姿态向量。由于这里该模型中并没有控制变量,因此控制矩阵为0;
(2)、卡尔曼滤波器的操作包括两个阶段:预测与更新。在预测阶段,滤波器使用上一状态的估计,做出对当前状态的估计。在更新阶段,滤波器利用对当前状态的观测值优化在预测阶段获得的预测值,以获得一个更精确的新估计值;
(3)、将卡尔曼滤波后的状态向量的前72维作为新的姿态向量。
综上,本发明实施例可以实现让该静态3D扫描人物模型模仿视频中的人物进行运动,需求的输入信息简单易采集,并可得到高精度的动画绘制效果,且本发明实施例的方法求解较为准确,从而大大减少了不合理以及不自然姿态出现的概率,以及本发明实施例的方法简单易行,拥有广阔的应用前景,例如,可以应用在电影制作、虚拟现实、游戏效果等方面。
根据本发明实施例提出的基于视频中运动跟踪的人物动画绘制方法,可以利用已有数据集直接优化标准网格模板,并通过加入卡尔曼滤波对计算出的姿态进行优化帧与帧之间动作的连贯性,从而大大减少了不合理以及不自然姿态出现的概率,需求的输入信息简单易采集,可以得到高精度的动画绘制效果,进而可以有效提高动画制作的准确性和可靠性,并拥有广阔的应用前景,简单易实现。
其次参照附图描述根据本发明实施例提出的基于视频中运动跟踪的人物动画绘制方法系统。
图2是本发明一个实施例的基于视频中运动跟踪的人物动画绘制方法系统的结构示意图。
如图2所示,该基于视频中运动跟踪的人物动画绘制方法系统10包括:第一获取模块100、第二获取模块200、优化获取模块300和处理模块400。
第一获取模块100用于获取包含人物运动的视频,以进行标准姿态下的3D扫描得到3D扫描人物模型。第二获取模块200用于根据预设的标准模板对3D扫描人物模型进行匹配,以获取人体形状和人体姿态。优化获取模块300用于在每读入一帧时,根据人体形状和人体姿态对目标函数进行优化,以将标准模板和视频中的人物进行匹配,获取人体姿态参数,并优化形状参数。处理模块400用于对不同帧之间的人物运动中加入卡尔曼滤波,使得通过匹配的对应点将标准模板转换回3D扫描的人物模型,获取人体骨架以实现人物动画绘制。本发明实施例的系统10可以利用已有数据集直接优化标准网格模板,并通过加入卡尔曼滤波对计算出的姿态进行优化帧与帧之间动作的连贯性,从而有效提高动画制作的准确性和可靠性,并拥有广阔的应用前景,简单易实现。
进一步地,在本发明的一个实施例中,第二获取模块200还用于对预设的标准模板进行人体形状变形,并微调标准模板的姿态,使得标准模板的姿态与3D扫描人物模型的对应点差最小,并通过迭代优化得到最优的人体姿态和人体形状。
进一步地,在本发明的一个实施例中,迭代优化的公式为:
其中,θ为人体姿态,β为人体形状,a为人体姿态和人体形状变形后的标准模板的顶点的索引,b为3D扫描人物模型网格的顶点的索引,C为a和b点的集合,v′a(β)为人体形状变形后a对应的新顶点,T(θ,v′a(β))为人体姿态和人体形状变形后a所对应的新顶点。
进一步地,在本发明的一个实施例中,目标函数的优化函数为:
E(β,θ)=EJ(β,θ;K,Jest)+λθEθ(θ)+λαEα(α)+λspEsp(θ;β),
其中,Jest为卷积神经网络对每帧进行人物骨架和关节点提取得到的数据项,K为照相机参数。
进一步地,在本发明的一个实施例中,处理模块400还用于通过姿态向量建立运动模型,并通过上一状态的估计值对当前状态进行估计,并通过当前状态的观测值得到预测值,以获取新估计值,以及将卡尔曼滤波后的状态向量的前预设维作为新的姿态向量。
需要说明的是,前述对方法实施例的解释说明也适用于该实施例的装置,此处不再赘述。
根据本发明实施例提出的基于视频中运动跟踪的人物动画绘制系统,可以利用已有数据集直接优化标准网格模板,并通过加入卡尔曼滤波对计算出的姿态进行优化帧与帧之间动作的连贯性,从而大大减少了不合理以及不自然姿态出现的概率,需求的输入信息简单易采集,可以得到高精度的动画绘制效果,进而可以有效提高动画制作的准确性和可靠性,并拥有广阔的应用前景,简单易实现。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”、“顺时针”、“逆时针”、“轴向”、“径向”、“周向”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本发明中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系,除非另有明确的限定。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
在本发明中,除非另有明确的规定和限定,第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触,或第一和第二特征通过中间媒介间接接触。而且,第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方,或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方,或仅仅表示第一特征水平高度小于第二特征。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (6)
1.一种基于视频中运动跟踪的人物动画绘制方法,其特征在于,包括以下步骤:
获取包含人物运动的视频,以进行标准姿态下的3D扫描得到3D扫描人物模型;
根据预设的标准模板对所述3D扫描人物模型进行匹配,以获取人体形状和人体姿态,其中,所述根据预设的标准模板对所述3D扫描人物模型进行匹配,进一步包括:对所述预设的标准模板进行人体形状变形,并微调所述标准模板的姿态,使得所述标准模板的姿态与所述3D扫描人物模型的对应点差最小;通过迭代优化得到最优的人体姿态和人体形状,迭代优化的公式为:其中,θ为所述最优的人体姿态,β为所述最优的人体形状,a为所述人体姿态和所述人体形状变形后的所述标准模板的顶点的索引,b为所述3D扫描人物模型网格的顶点的索引,C为a和b点的集合,v′a(β)为所述人体形状变形后a对应的新顶点,T(θ,v′a(β))为所述人体姿态和所述人体形状变形后a所对应的新顶点,zb为3D扫描人体模型的对应顶点位置;
在每读入一帧时,根据所述人体形状和人体姿态对目标函数进行优化,以将所述标准模板和所述视频中的人物进行匹配,获取人体姿态参数,并优化形状参数;以及
对不同帧之间的人物运动中加入卡尔曼滤波,使得通过匹配的对应点将所述标准模板转换回3D扫描的人物模型,获取人体骨架以实现人物动画绘制。
2.根据权利要求1所述的基于视频中运动跟踪的人物动画绘制方法,其特征在于,所述目标函数的优化函数为:
E(β,θ)=EJ(β,α;K,Jest)+λθEθ(θ)+λαEα(α)+λspEsp(θ;β),
其中,Jest为卷积神经网络对每帧进行人物骨架和关节点提取得到的数据项,K为照相机参数。
3.根据权利要求1-2任一项所述的基于视频中运动跟踪的人物动画绘制方法,其特征在于,所述对不同帧之间的人物运动中加入卡尔曼滤波,进一步包括:
通过姿态向量建立运动模型;
通过上一状态的估计值对当前状态进行估计,并通过所述当前状态的观测值得到预测值,以获取新估计值;
将卡尔曼滤波后的状态向量的前预设维作为新的所述姿态向量。
4.一种基于视频中运动跟踪的人物动画绘制系统,其特征在于,包括:
第一获取模块,用于获取包含人物运动的视频,以进行标准姿态下的3D扫描得到3D扫描人物模型;
第二获取模块,用于根据预设的标准模板对所述3D扫描人物模型进行匹配,以获取人体形状和人体姿态,其中,所述第二获取模块还用于对所述预设的标准模板进行人体形状变形,并微调所述标准模板的姿态,使得所述标准模板的姿态与所述3D扫描人物模型的对应点差最小,并通过迭代优化得到最优的人体姿态和所述人体形状,迭代优化的公式为:其中,θ为所述最优的人体姿态,β为所述最优的人体形状,a为所述人体姿态和所述人体形状变形后的所述标准模板的顶点的索引,b为所述3D扫描人物模型网格的顶点的索引,C为a和b点的集合,v′a(β)为所述人体形状变形后a对应的新顶点,T(θ,v′a(β))为所述人体姿态和所述人体形状变形后a所对应的新顶点,zb为3D扫描人体模型的对应顶点位置;
优化获取模块,用于在每读入一帧时,根据所述人体形状和人体姿态对目标函数进行优化,以将所述标准模板和所述视频中的人物进行匹配,获取人体姿态参数,并优化形状参数;以及
处理模块,用于对不同帧之间的人物运动中加入卡尔曼滤波,使得通过匹配的对应点将所述标准模板转换回3D扫描的人物模型,获取人体骨架以实现人物动画绘制。
5.根据权利要求4所述的基于视频中运动跟踪的人物动画绘制系统,其特征在于,所述目标函数的优化函数为:
E(β,θ)=EJ(β,θ;K,Jest)+λθEθ(θ)+λαEα(α)+λspEsp(θ;β),
其中,Jest为卷积神经网络对每帧进行人物骨架和关节点提取得到的数据项,K为照相机参数。
6.根据权利要求4-5 任一项所述的基于视频中运动跟踪的人物动画绘制系统,其特征在于,所述处理模块还用于通过姿态向量建立运动模型,并通过上一状态的估计值对当前状态进行估计,并通过所述当前状态的观测值得到预测值,以获取新估计值,以及将卡尔曼滤波后的状态向量的前预设维作为新的所述姿态向量。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711487839.2A CN108022278B (zh) | 2017-12-29 | 2017-12-29 | 基于视频中运动跟踪的人物动画绘制方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711487839.2A CN108022278B (zh) | 2017-12-29 | 2017-12-29 | 基于视频中运动跟踪的人物动画绘制方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108022278A CN108022278A (zh) | 2018-05-11 |
CN108022278B true CN108022278B (zh) | 2020-12-22 |
Family
ID=62072373
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711487839.2A Active CN108022278B (zh) | 2017-12-29 | 2017-12-29 | 基于视频中运动跟踪的人物动画绘制方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108022278B (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108629801B (zh) * | 2018-05-14 | 2020-11-24 | 华南理工大学 | 一种视频序列的三维人体模型姿态与形状重构方法 |
CN108830812B (zh) * | 2018-06-12 | 2021-08-31 | 福建帝视信息科技有限公司 | 一种基于网格结构深度学习的视频高帧率重制方法 |
CN109948505B (zh) * | 2019-03-14 | 2021-03-30 | 郑州大学 | 一种人体三维姿态匹配算法的优化方法 |
CN110232672A (zh) * | 2019-06-20 | 2019-09-13 | 合肥工业大学 | 一种运动数据的去噪方法及系统 |
CN110245638A (zh) * | 2019-06-20 | 2019-09-17 | 北京百度网讯科技有限公司 | 视频生成方法和装置 |
CN111462301B (zh) * | 2020-03-05 | 2022-10-28 | 清华大学 | 用于多视图植物三维重建的生成模型的构建方法 |
KR20220143721A (ko) * | 2020-03-31 | 2022-10-25 | 소니그룹주식회사 | 볼류메트릭 캡처 및 메시 추적 기반 머신 학습 |
CN111611997B (zh) * | 2020-04-30 | 2023-04-18 | 青岛联合创智科技有限公司 | 一种基于人体动作迁移的卡通定制形象运动视频生成方法 |
CN113688907B (zh) * | 2021-08-25 | 2023-07-21 | 北京百度网讯科技有限公司 | 模型训练、视频处理方法,装置,设备以及存储介质 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104915978A (zh) * | 2015-06-18 | 2015-09-16 | 天津大学 | 基于体感相机Kinect的真实感动画生成方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7728839B2 (en) * | 2005-10-28 | 2010-06-01 | Honda Motor Co., Ltd. | Discriminative motion modeling for human motion tracking |
CN101789125B (zh) * | 2010-01-26 | 2013-10-30 | 北京航空航天大学 | 一种无标记单目视频人体骨架运动跟踪方法 |
CN104794722A (zh) * | 2015-04-30 | 2015-07-22 | 浙江大学 | 利用单个Kinect计算着装人体三维净体模型的方法 |
CN105184767B (zh) * | 2015-07-22 | 2018-04-06 | 北京工业大学 | 一种运动人体姿态相似性度量方法 |
-
2017
- 2017-12-29 CN CN201711487839.2A patent/CN108022278B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104915978A (zh) * | 2015-06-18 | 2015-09-16 | 天津大学 | 基于体感相机Kinect的真实感动画生成方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108022278A (zh) | 2018-05-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108022278B (zh) | 基于视频中运动跟踪的人物动画绘制方法及系统 | |
CN111598998B (zh) | 三维虚拟模型重建方法、装置、计算机设备和存储介质 | |
CN107403463B (zh) | 在成像系统中具有非刚性部分的人体表示 | |
WO2019219012A1 (zh) | 联合刚性运动和非刚性形变的三维重建方法及装置 | |
CN108629831B (zh) | 基于参数化人体模板和惯性测量的三维人体重建方法及系统 | |
WO2019219013A1 (zh) | 联合优化人体体态与外观模型的三维重建方法及系统 | |
CN111784821B (zh) | 三维模型生成方法、装置、计算机设备及存储介质 | |
GB2520613A (en) | Target region fill utilizing transformations | |
CN113689539B (zh) | 基于隐式光流场的动态场景实时三维重建方法 | |
US20170278302A1 (en) | Method and device for registering an image to a model | |
CN110415336B (zh) | 高精度人体体态重建方法及系统 | |
US20170213320A1 (en) | Reconstruction of articulated objects from a moving camera | |
JP6207210B2 (ja) | 情報処理装置およびその方法 | |
WO2022237249A1 (zh) | 三维重建方法、装置和系统、介质及计算机设备 | |
CN111462300A (zh) | 衣物物理模型驱动的实时人体动态三维重建方法及系统 | |
CN115951784B (zh) | 一种基于双神经辐射场的穿衣人体运动捕捉和生成方法 | |
TW201128568A (en) | Image processing method for feature retention and the system of the same | |
CN110490973B (zh) | 一种模型驱动的多视图鞋模型三维重建方法 | |
CN113034681A (zh) | 空间平面关系约束的三维重建方法及装置 | |
CN116452715A (zh) | 动态人手渲染方法、装置及存储介质 | |
CN111932670B (zh) | 基于单个rgbd相机的三维人体自画像重建方法及系统 | |
CN109859268B (zh) | 基于生成查询网络的物体被遮挡部分成像方法 | |
CN116071485A (zh) | 一种人体三维重建方法及设备 | |
CN113920270A (zh) | 一种基于多视角全景的布局重建方法及其系统 | |
KR101533494B1 (ko) | 템플릿 모델 기반의 3d 영상 생성 방법 및 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |