CN116188684A - 基于视频序列的三维人体重建方法及相关设备 - Google Patents
基于视频序列的三维人体重建方法及相关设备 Download PDFInfo
- Publication number
- CN116188684A CN116188684A CN202310004845.7A CN202310004845A CN116188684A CN 116188684 A CN116188684 A CN 116188684A CN 202310004845 A CN202310004845 A CN 202310004845A CN 116188684 A CN116188684 A CN 116188684A
- Authority
- CN
- China
- Prior art keywords
- human body
- dimensional human
- dimensional
- determining
- inputting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 60
- 238000013528 artificial neural network Methods 0.000 claims abstract description 32
- 238000012937 correction Methods 0.000 claims description 32
- 238000001514 detection method Methods 0.000 claims description 31
- 230000007246 mechanism Effects 0.000 claims description 11
- 230000008859 change Effects 0.000 claims description 7
- 238000004590 computer program Methods 0.000 claims description 7
- 230000003287 optical effect Effects 0.000 claims description 5
- 238000009826 distribution Methods 0.000 claims description 4
- 230000033001 locomotion Effects 0.000 description 19
- 238000012545 processing Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 5
- 238000013256 Gubra-Amylin NASH model Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 125000004122 cyclic group Chemical group 0.000 description 3
- 230000002708 enhancing effect Effects 0.000 description 3
- 238000005096 rolling process Methods 0.000 description 3
- 241000288105 Grus Species 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 2
- 230000037237 body shape Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000008485 antagonism Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000003542 behavioural effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/06—Topological mapping of higher dimensional structures onto lower dimensional surfaces
- G06T3/067—Reshaping or unfolding 3D tree structures onto 2D planes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Computer Graphics (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- Geometry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Abstract
本公开提供了一种基于视频序列的三维人体重建方法及相关设备，涉及三维重建技术领域。该方法包括：将目标人物的多帧图像输入预设的生成器，确定第一三维人体；将真实三维数据与第一三维人体输入判别器，确定第二三维人体；将目标人物的多帧图像输入预设的神经网络编码器，确定相机参数；根据相机参数与第二三维人体，确定重建三维人体。本公开能够准确地重建出被遮挡部分的人的姿态和形状。
Description
技术领域
本公开涉及三维重建技术领域，尤其涉及一种基于视频序列的三维人体重建方法及相关设备。
背景技术
图像和视频提供了关于真实世界各类场景的丰富底层信息。人体运动是现实世界中最常见的视觉内容之一，随着图像视频获取设备的大规模普及，对理解人类行为这一机器视觉任务的智能化解决变得日益重要。其中，人体运动重建是通过给定的图形、视频、传感器信息，从中重建出人体的关键关节或部位，然后按照人体关节层级连接关系组合为整体，达到重建运动的效果。几乎所有与人类相关的行为理解，都需要以准确的运动重建为基础，这也使人体运动重建成为近年来机器视觉研究的热点问题。
现有技术中，基于图像的单人三维形状重建的方法日趋成熟，重建的精确度也越来越高。但在基于视频的多人三维形状重建过程中，图像中会存在人与人遮挡的问题，导致人体细节缺失，无法准确地重建出被遮挡部分的人的姿态和形状。
需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开提供一种基于视频序列的三维人体重建方法及相关设备，至少在一定程度上克服由于相关技术中人体细节缺失无法准确地重建出被遮挡部分的人的姿态和形状的问题。
本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。
根据本公开的一个方面，提供了一种基于视频序列的三维人体重建方法，包括：将目标人物的多帧图像输入预设的生成器，确定第一三维人体；将真实三维数据与所述第一三维人体输入判别器，确定第二三维人体；将目标人物的多帧图像输入预设的神经网络编码器，确定相机参数；根据所述相机参数与所述第二三维人体，确定重建三维人体。
在一些实施例中，所述将目标人物的多帧图像输入预设的生成器，确定第一三维人体包括：将目标人物的多帧图像输入预设的生成器，确定三维人体的形状参数和姿态参数；根据所述形状参数和所述姿态参数，确定确定第一三维人体。
在一些实施例中，所述将真实三维数据与所述第一三维人体输入判别器，确定第二三维人体包括：将真实三维数据与所述第一三维人体输入判别器，判别器使用自注意力机制改变各个节点的注意力权重，确定第二三维人体。
在一些实施例中，所述注意力权重通过如下公式进行计算：
其中，φ表示线性层的可学习参数，αi表示第i个节点注意力权重，T表示输出节点的个数，通过使用Softmax进行归一化，形成权重概率分布，权重总和为1。
在一些实施例中，所述将目标人物的多帧图像输入预设的神经网络编码器，确定相机参数包括：将目标人物的多帧图像输入预设的神经网络，确定相机内参修正参数和人体目标检测信息；根据所述相机内参修正参数和所述人体目标检测信息，确定相机参数。
在一些实施例中，所述相机内参修正通过如下公式进行计算：
cx＝bx+dx；
cy＝by+dy；
其中，df表示修正参数，w表示目标检测框的宽，h表示目标检测框的高，bx和by表示检测框的中心，dx和dy表示修正参数，fx为x方向的焦距，fy为y方向的焦距，cx，cy为光轴对于投影平面坐标中心的偏移量。
在一些实施例中，所述根据所述相机参数与所述第二三维人体，确定重建三维人体包括：将所述第二三维人体的三维关键点通过所述相机参数重投影到图像上，确定二维关键点；根据第二三维人体拟合二维关键点，确定重建三维人体。
根据本公开的另一个方面，还提供了一种基于视频序列的三维人体重建装置，包括：第一三维人体确定模块，用于将目标人物的多帧图像输入预设的生成器，确定第一三维人体；第二三维人体确定模块，用于将真实三维数据与所述第一三维人体输入判别器，确定第二三维人体；相机参数确定模块，用于将目标人物的多帧图像输入预设的神经网络编码器，确定相机参数；三维人体重建模块，用于根据所述相机参数与所述第二三维人体，确定重建三维人体。
根据本公开的另一个方面，还提供了一种电子设备，该电子设备包括：处理器；以及存储器，用于存储所述处理器的可执行指令；其中，所述处理器配置为经由执行所述可执行指令来执行上述任意一项所述的基于视频序列的三维人体重建方法。
根据本公开的另一个方面，还提供了一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述任意一项所述的基于视频序列的三维人体重建方法。
根据本公开的另一个方面，还提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现上述任意一项的基于视频序列的三维人体重建方法。
本公开的实施例中提供的基于视频序列的三维人体重建方法及相关设备，将目标人物的多帧图像输入预设的生成器，确定第一三维人体；将真实三维数据与所述第一三维人体输入判别器，确定第二三维人体；将目标人物的多帧图像输入预设的神经网络编码器，确定相机参数；根据所述相机参数与所述第二三维人体，确定重建三维人体。本公开实施例中，由于采用生成器与判别器引入图卷积网络，并结合相机参数辅助三维人体重建，能够生成更平滑和高质量的人体网格模型，准确地重建出被遮挡部分的人的姿态和形状。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1示出本公开实施例中一种基于视频序列的三维人体重建系统结构的示意图；
图2示出本公开实施例中一种神经网络编码器的示意图；
图3示出本公开实施例中一种基于视频序列的三维人体重建方法流程图；
图4示出本公开实施例中一种基于视频序列的三维人体重建方法一具体实例的流程图；
图5示出本公开实施例中一种基于视频序列的三维人体重建方法又一具体实例的流程图；
图6示出本公开实施例中一种基于视频序列的三维人体重建方法再一具体实例的流程图；
图7示出本公开实施例中一种基于视频序列的三维人体重建装置示意图；
图8示出本公开实施例中一种基于视频序列的三维人体重建的计算机设备的结构框图；
图9示出本公开实施例中一种计算机可读存储介质的示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。
此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
为便于理解，在介绍本公开实施例之前，首先对本公开实施例中涉及到的几个名词进行解释如下：
SMPL：Skinned Multi-Person Linear Model，蒙皮多人线性模型；
SMPL-X：SMPL eXpressive，蒙皮多人线性模型表达；
GRU：Gated Recurrent Unit，门循环单元；
GAN：Generative Adversarial Nets，生成对抗网络；
2D：Two Dimensional，二维；
3D：Three Dimensional，三维。
下面结合附图，对本公开实施例的具体实施方式进行详细说明。
图1示出了可以应用本公开实施例中基于视频序列的三维人体重建方法的示例性应用系统架构示意图。如图1所示，该系统架构可以包括神经网络编码器101、生成器102和判别器103。
本公开为了能够从视频中重建出逼真并且符合真实姿态的人体模型，提出了基于视频序列的生成对抗网络人体重建方法。该网络在生成器和判别器中引入了图卷积网络，图卷积网络利用网格拓扑捕获3D人体的完整信息，然后生成更平滑和高质量的人体网格模型。
其中，在生成器102中，图卷积网络以网格顶点和特征向量作为输入。其目的是推断每个网格顶点的三维坐标。生成器中引入图卷积网络可以输出任意精度的三维人体模型，从而可以恢复人体的丰富细节。在判别器中，增加图卷积网络可以更好地区分真实数据和伪造数据，从而提高生成器学习的准确性。为了加快神经网络的训练速度，本公开在图卷积层中加入了残差连接和组归一化。
为了实现基于视频序列的三维人体重建，本公开提出利用GRU循环神经网络来处理时间序列数据，其主要的思想是利用前一帧的信息来改善当前帧的人体重建结果，生成更加平滑的人体运动序列，并且在人体被遮挡时也能有较好的重建效果。
为了提升网络性能，还增加了运动判别器103结构。运动判别器使用自注意力机制来放大视频中重要帧的作用，从而加强判别器的性能。自注意力机制能够在训练中自动学习改变各个节点的注意力权重，由此加强关键帧输出时的占比。
通过神经网络编码器101(如图2所示)得到目标检测和内参修正参数，利用其输出作为相机参数预测的输入，从而联合预测每个目标的相机参数。
基于预测的参数估计和相机参数，将人体的三维关节点反投影到二维图像上，完成人体的二维关节点的预测。为了增强人体形状的重建效果，提出一种相机参数的近似预测方法。
再具体实施时，首先，将视频进行序列抽帧，之后使用神经网络模块作为网络的编码器(相当于上述神经网络编码器101)，后边接两个由卷积神经网络构成的模块，它们分别用来预测相机修正参数和人体目标检测框。
其次，使用内参修正参数和目标检测框联合预测每个目标的相机参数。
接着，在生成器中利用GRU捕获人体运动的顺序性质，基于图卷积网络得到SMPL-X模型的形状和姿态参数。
然后，利用基于图卷积的生成器得到的SMPL-X模型的3D关键点通过预测的相机参数重投影到图像上，预测人体的2D关键点。
最后，对SMPL-X模型参数与真实三维数据通过判别器判别，以得到更好的人体形状和参数，从而输出三维人体重建结果。
在上述系统架构下，本公开实施例中提供了一种基于视频序列的三维人体重建方法，该方法可以由任意具备计算处理能力的电子设备执行。
图3示出本公开实施例中一种基于视频序列的三维人体重建方法流程图，如图3所示，本公开实施例中提供的基于视频序列的三维人体重建方法包括如下步骤：
S302，将目标人物的多帧图像输入预设的生成器，确定第一三维人体。
需要说明的是，上述目标人物可以是需要建立三维模型的人体。上述多帧图像可以是多个影像动画中最小单位的单幅影像画。上述生成器可以是GAN模型中的生成器。GAN模型中有两个分布，一个是生成器，一个是判别器。上述第一三维人体可以是三维人体模型，例如，根据多帧图像模拟出来的三维人体模型。
例如，获取目标视频，将目标视频解析为目标人物的多帧图像，将目标人物的多帧图像输入GAN模型中的生成器，得到参数化模型(相当于上述第一三维人体)。
S304，将真实三维数据与第一三维人体输入判别器，确定第二三维人体。
需要说明的是，上述真实三维数据可以是真实的三维模型参数。
例如，生成器得到的参数化模型(相当于上述第一三维人体)与真实的三维模型参数进行比较，不断辨别优化输出的姿态和形状参数，从而生成更好的3D人体重建结果。
S306，将目标人物的多帧图像输入预设的神经网络编码器，确定相机参数。
需要说明的是，上述神经网络编码器可以是利用GRU循环神经网络处理时间序列数据，该网络在生成器和运动判别器引入GRU以捕获人类运动的顺序性质。
例如，通过神经网络编码器得到目标检测和内参修正参数，利用其输出作为相机参数预测的输入，从而联合预测每个目标的相机参数。
S308，根据相机参数与第二三维人体，确定重建三维人体。
需要说明的是，上述重建三维人体可以是重新建立的三维人体模型，例如，重建出逼真并且符合真实姿态的人体模型。
例如，基于预测的参数估计和相机参数，将人体的三维关节点反投影到二维图像上，完成人体的二维关节点的预测，根据预测的二维关节点对第二三维人体进行辅助修正，确定重建三维人体。
在具体实施时，利用GRU循环神经网络处理时间序列数据。该网络在生成器和运动判别器引入GRU以捕获人类运动的顺序性质，运动判别器对生成器得到的参数化模型与真实的三维模型参数进行比较，不断辨别优化输出的姿态和形状参数，并结合相机参数，在人体被遮挡时也能有较好的重建效果。
在本公开的一个实施例中，如图4所示，本公开实施例中提供的目标检测方法可以通过如下步骤来确定三维人体的形状参数和姿态参数，能够准确确定第一三维人体：
S402，将目标人物的多帧图像输入预设的生成器，确定三维人体的形状参数和姿态参数；
S404，根据形状参数和姿态参数，确定第一三维人体。
在一个实例中，将真实三维数据与第一三维人体输入判别器，确定第二三维人体包括：将真实三维数据与第一三维人体输入判别器，判别器使用自注意力机制改变各个节点的注意力权重，确定第二三维人体。
本公开为了实现基于视频序列的三维人体重建，利用结合GRU和自注意力机制来处理时间序列数据；本公开为了提升网络性能，还增加了运动判别器结构，其中，运动判别器采用注意力机制来放大视频中重要帧的作用。
进一步地，在一个实例中，注意力权重通过如下公式(1)进行计算：
其中，φ表示线性层的可学习参数，αi表示第i个节点注意力权重，T表示输出节点的个数，通过使用Softmax进行归一化，形成权重概率分布，权重总和为1。
在本公开的一个实施例中，如图5所示，本公开实施例中提供的目标检测方法可以通过如下步骤来获取相机内参修正参数和人体目标检测信息，能够准确确定相机参数：
S502，将目标人物的多帧图像输入预设的神经网络，确定相机内参修正参数和人体目标检测信息；
S504，根据相机内参修正参数和人体目标检测信息，确定相机参数。
在一个实例中，相机内参修正通过如下公式(2)、公式(3)、公式(4)进行计算：
cx＝bx+dx； (3)
cy＝by+dy； (4)
其中，df表示修正参数，w表示目标检测框的宽，h表示目标检测框的高，bx和by表示检测框的中心，dx和dy表示修正参数，fx表示x方向的焦距，fy表示y方向的焦距，cx，cy表示光轴对于投影平面坐标中心的偏移量。
本公开设计了基于视频序列的生成对抗网络，在生成器和判别器中引入图卷积网络来回归人体网格坐标。利用GRU循环神经网络处理时间序列数据。该网络在生成器和运动判别器引入GRU以捕获人类运动的顺序性质，运动判别器采用自注意力机制来放大视频中重要帧的作用。对生成器得到的参数化模型与真实的三维模型参数进行比较，不断辨别优化输出的姿态和形状参数，从而生成更好的3D人体重建结果。与此同时，通过神经网络编码器得到目标检测和内参修正参数，利用其输出作为相机参数预测的输入，从而联合预测每个目标的相机参数。基于预测的参数估计和相机参数，将人体的三维关节点反投影到二维图像上，完成人体的二维关节点的预测。
在本公开的一个实施例中，如图6所示，本公开实施例中提供的目标检测方法可以通过如下步骤来准确重建三维人体：
S602，将第二三维人体的三维关键点通过相机参数重投影到图像上，确定二维关键点；
S604，根据第二三维人体拟合二维关键点，确定重建三维人体。
本公开为了增强人体形状的重建效果，使用内参修正和目标检测网络的输出作为相机参数预测的输入，从而联合预测每个目标的相机参数。基于预测的参数估计和相机参数，将人体的三维关节点反投影到二维图像上，完成人体的二维关节点的预测。
基于同一发明构思，本公开实施例中还提供了一种基于视频序列的三维人体重建装置，如下面的实施例所述。由于该装置实施例解决问题的原理与上述方法实施例相似，因此该装置实施例的实施可以参见上述方法实施例的实施，重复之处不再赘述。
图7示出本公开实施例中一种基于视频序列的三维人体重建装置示意图，如图7所示，该装置包括：第一三维人体确定模块71，第二三维人体确定模块72，相机参数确定模块73和三维人体重建模块74。
其中，第一三维人体确定模块71，用于将目标人物的多帧图像输入预设的生成器，确定第一三维人体。
第二三维人体确定模块72，用于将真实三维数据与第一三维人体输入判别器，确定第二三维人体。
相机参数确定模块73，用于将目标人物的多帧图像输入预设的神经网络编码器，确定相机参数。
三维人体重建模块74，用于根据相机参数与第二三维人体，确定重建三维人体。
在本公开的一个实施例中，上述第一三维人体确定模块71还用于：将目标人物的多帧图像输入预设的生成器，确定三维人体的形状参数和姿态参数；根据形状参数和姿态参数，确定确定第一三维人体。
在本公开的一个实施例中，上述第二三维人体确定模块72还用于：将真实三维数据与第一三维人体输入判别器，判别器使用自注意力机制改变各个节点的注意力权重，确定第二三维人体。
在本公开的一个实施例中，上述第二三维人体确定模块72注意力权重通过上述公式(1)进行计算。
在本公开的一个实施例中，上述相机参数确定模块73还用于：将目标人物的多帧图像输入预设的神经网络，确定相机内参修正参数和人体目标检测信息；根据相机内参修正参数和人体目标检测信息，确定相机参数。
在本公开的一个实施例中，上述相机参数确定模块73中相机内参修正通过上述公式(2)、公式(3)、公式(4)进行计算。
在本公开的一个实施例中，上述三维人体重建模块74还用于：将第二三维人体的三维关键点通过相机参数重投影到图像上，确定二维关键点；根据第二三维人体拟合二维关键点，确定重建三维人体。
此处需要说明的是，上述第一三维人体确定模块71，第二三维人体确定模块72，相机参数确定模块73和三维人体重建模块74分别对应于方法实施例中的S302～S308，上述模块与对应的步骤所实现的示例和应用场景相同，但不限于上述方法实施例所公开的内容。需要说明的是，上述模块作为装置的一部分可以在诸如一组计算机可执行指令的计算机系统中执行。
所属技术领域的技术人员能够理解，本公开的各个方面可以实现为系统、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。
下面参照图8来描述根据本公开的这种实施方式的电子设备800。图8显示的电子设备800仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图8所示，电子设备800以通用计算设备的形式表现。电子设备800的组件可以包括但不限于：上述至少一个处理单元810、上述至少一个存储单元820、连接不同系统组件(包括存储单元820和处理单元810)的总线830。
其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元810执行，使得所述处理单元810执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。
例如，所述处理单元810可以执行上述方法实施例的如下步骤：将目标人物的多帧图像输入预设的生成器，确定第一三维人体；将真实三维数据与第一三维人体输入判别器，确定第二三维人体；将目标人物的多帧图像输入预设的神经网络编码器，确定相机参数；根据相机参数与第二三维人体，确定重建三维人体。
例如，所述处理单元810可以执行上述方法实施例的如下步骤：将目标人物的多帧图像输入预设的生成器，确定三维人体的形状参数和姿态参数；根据形状参数和姿态参数，确定确定第一三维人体。
例如，所述处理单元810可以执行上述方法实施例的如下步骤：将真实三维数据与第一三维人体输入判别器，判别器使用自注意力机制改变各个节点的注意力权重，确定第二三维人体。
例如，所述处理单元810可以执行上述方法实施例中注意力权重通过上述公式(1)进行计算。
例如，所述处理单元810可以执行上述方法实施例的如下步骤：将目标人物的多帧图像输入预设的神经网络，确定相机内参修正参数和人体目标检测信息；根据相机内参修正参数和人体目标检测信息，确定相机参数。
例如，所述处理单元810可以执行上述方法实施例中相机内参修正通过上述公式(2)、公式(3)、公式(4)进行计算。
例如，所述处理单元810可以执行上述方法实施例的如下步骤：将第二三维人体的三维关键点通过相机参数重投影到图像上，确定二维关键点；根据第二三维人体拟合二维关键点，确定重建三维人体。
存储单元820可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)8201和/或高速缓存存储单元8202，还可以进一步包括只读存储单元(ROM)8203。
存储单元820还可以包括具有一组(至少一个)程序模块8205的程序/实用工具8204，这样的程序模块8205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线830可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备800也可以与一个或多个外部设备840(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备800交互的设备通信，和/或与使得该电子设备800能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口850进行。并且，电子设备800还可以通过网络适配器860与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器860通过总线830与电子设备800的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备800使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机程序产品，该计算机程序产品包括：计算机程序，所述计算机程序被处理器执行时实现上述基于视频序列的三维人体重建方法。
在本公开的示例性实施例中，还提供了一种计算机可读存储介质，该计算机可读存储介质可以是可读信号介质或者可读存储介质。图9示出本公开实施例中一种计算机可读存储介质的示意图，如图9所示，该计算机可读存储介质900上存储有能够实现本公开上述方法的程序产品。在一些可能的实施方式中，本公开的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在终端设备上运行时，所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。
在一个实施例中，本公开实施例中的程序产品被处理器执行时实现如下步骤的方法：将目标人物的多帧图像输入预设的生成器，确定第一三维人体；将真实三维数据与第一三维人体输入判别器，确定第二三维人体；将目标人物的多帧图像输入预设的神经网络编码器，确定相机参数；根据相机参数与第二三维人体，确定重建三维人体。
在一个实施例中，本公开实施例中的程序产品被处理器执行时实现如下步骤的方法：将目标人物的多帧图像输入预设的生成器，确定三维人体的形状参数和姿态参数；根据形状参数和姿态参数，确定确定第一三维人体。
在一个实施例中，本公开实施例中的程序产品被处理器执行时实现如下步骤的方法：将真实三维数据与第一三维人体输入判别器，判别器使用自注意力机制改变各个节点的注意力权重，确定第二三维人体。
在一个实施例中，本公开实施例中的程序产品被处理器执行时注意力权重通过上述公式(1)进行计算。
在一个实施例中，本公开实施例中的程序产品被处理器执行时实现如下步骤的方法：将目标人物的多帧图像输入预设的神经网络，确定相机内参修正参数和人体目标检测信息；根据相机内参修正参数和人体目标检测信息，确定相机参数。
在一个实施例中，本公开实施例中的程序产品被处理器执行时相机内参修正通过上述公式(2)、公式(3)、公式(4)进行计算。
在一个实施例中，本公开实施例中的程序产品被处理器执行时实现如下步骤的方法：将第二三维人体的三维关键点通过相机参数重投影到图像上，确定二维关键点；根据第二三维人体拟合二维关键点，确定重建三维人体。
本公开中的计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
在本公开中，计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可选地，计算机可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。
在具体实施时，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外，尽管在附图中以特定顺序描述了本公开中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。
通过以上实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由所附的权利要求指出。
Claims (10)
1.一种基于视频序列的三维人体重建方法，其特征在于，包括：
将目标人物的多帧图像输入预设的生成器，确定第一三维人体；
将真实三维数据与所述第一三维人体输入判别器，确定第二三维人体；
将目标人物的多帧图像输入预设的神经网络编码器，确定相机参数；
根据所述相机参数与所述第二三维人体，确定重建三维人体。
2.根据权利要求1所述的基于视频序列的三维人体重建方法，其特征在于，所述将目标人物的多帧图像输入预设的生成器，确定第一三维人体包括：
将目标人物的多帧图像输入预设的生成器，确定三维人体的形状参数和姿态参数；
根据所述形状参数和所述姿态参数，确定确定第一三维人体。
3.根据权利要求2所述的基于视频序列的三维人体重建方法，其特征在于，所述将真实三维数据与所述第一三维人体输入判别器，确定第二三维人体包括：
将真实三维数据与所述第一三维人体输入判别器，判别器使用自注意力机制改变各个节点的注意力权重，确定第二三维人体。
4.根据权利要求3所述的基于视频序列的三维人体重建方法，其特征在于，所述注意力权重通过如下公式进行计算：
其中，φ表示线性层的可学习参数，αi表示第i个节点注意力权重，T表示输出节点的个数，通过使用Softmax进行归一化，形成权重概率分布，权重总和为1。
5.根据权利要求1所述的基于视频序列的三维人体重建方法，其特征在于，所述将目标人物的多帧图像输入预设的神经网络编码器，确定相机参数包括：
将目标人物的多帧图像输入预设的神经网络，确定相机内参修正参数和人体目标检测信息；
根据所述相机内参修正参数和所述人体目标检测信息，确定相机参数。
6.根据权利要求5所述的基于视频序列的三维人体重建方法，其特征在于，所述相机内参修正通过如下公式进行计算：
cx＝bx+dx；
cy＝by+dy；
其中，df表示修正参数，w表示目标检测框的宽，h表示目标检测框的高，bx和by表示检测框的中心，dx和dy表示修正参数，fx为x方向的焦距，fy为y方向的焦距，cx，cy为光轴对于投影平面坐标中心的偏移量。
7.根据权利要求1所述的基于视频序列的三维人体重建方法，其特征在于，所述根据所述相机参数与所述第二三维人体，确定重建三维人体包括：
将所述第二三维人体的三维关键点通过所述相机参数重投影到图像上，确定二维关键点；
根据第二三维人体拟合二维关键点，确定重建三维人体。
8.一种基于视频序列的三维人体重建装置，其特征在于，包括：
第一三维人体确定模块，用于将目标人物的多帧图像输入预设的生成器，确定第一三维人体；
第二三维人体确定模块，用于将真实三维数据与所述第一三维人体输入判别器，确定第二三维人体；
相机参数确定模块，用于将目标人物的多帧图像输入预设的神经网络编码器，确定相机参数；
三维人体重建模块，用于根据所述相机参数与所述第二三维人体，确定重建三维人体。
9.一种电子设备，其特征在于，包括：
处理器；以及
存储器，用于存储所述处理器的可执行指令；
其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1～7中任意一项所述的基于视频序列的三维人体重建方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1～7中任意一项所述的基于视频序列的三维人体重建方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310004845.7A CN116188684A (zh) | 2023-01-03 | 2023-01-03 | 基于视频序列的三维人体重建方法及相关设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310004845.7A CN116188684A (zh) | 2023-01-03 | 2023-01-03 | 基于视频序列的三维人体重建方法及相关设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116188684A true CN116188684A (zh) | 2023-05-30 |
Family
ID=86441639
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310004845.7A Pending CN116188684A (zh) | 2023-01-03 | 2023-01-03 | 基于视频序列的三维人体重建方法及相关设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116188684A (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117218297A (zh) * | 2023-09-29 | 2023-12-12 | 北京百度网讯科技有限公司 | 人体重建参数生成方法、装置、设备和介质 |
| CN117542122A (zh) * | 2024-01-09 | 2024-02-09 | 北京渲光科技有限公司 | 人体位姿估计与三维重建方法、网络训练方法及装置 |
| CN117726760A (zh) * | 2024-02-07 | 2024-03-19 | 之江实验室 | 一种用于视频的三维人体重建模型的训练方法及装置 |
| CN117854666A (zh) * | 2024-03-07 | 2024-04-09 | 之江实验室 | 一种三维人体康复数据集构建方法及装置 |
-
2023
- 2023-01-03 CN CN202310004845.7A patent/CN116188684A/zh active Pending
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117218297A (zh) * | 2023-09-29 | 2023-12-12 | 北京百度网讯科技有限公司 | 人体重建参数生成方法、装置、设备和介质 |
| CN117542122A (zh) * | 2024-01-09 | 2024-02-09 | 北京渲光科技有限公司 | 人体位姿估计与三维重建方法、网络训练方法及装置 |
| CN117542122B (zh) * | 2024-01-09 | 2024-03-22 | 北京渲光科技有限公司 | 人体位姿估计与三维重建方法、网络训练方法及装置 |
| CN117726760A (zh) * | 2024-02-07 | 2024-03-19 | 之江实验室 | 一种用于视频的三维人体重建模型的训练方法及装置 |
| CN117726760B (zh) * | 2024-02-07 | 2024-05-07 | 之江实验室 | 一种用于视频的三维人体重建模型的训练方法及装置 |
| CN117854666A (zh) * | 2024-03-07 | 2024-04-09 | 之江实验室 | 一种三维人体康复数据集构建方法及装置 |
| CN117854666B (zh) * | 2024-03-07 | 2024-06-04 | 之江实验室 | 一种三维人体康复数据集构建方法及装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Luo et al. | 3d human motion estimation via motion compression and refinement | |
| CN116188684A (zh) | 基于视频序列的三维人体重建方法及相关设备 | |
| Hou et al. | Real-time body tracking using a gaussian process latent variable model | |
| Sminchisescu et al. | BM³E: Discriminative Density Propagation for Visual Tracking | |
| Yang et al. | Bayesian denet: Monocular depth prediction and frame-wise fusion with synchronized uncertainty | |
| CN108491763B (zh) | 三维场景识别网络的无监督训练方法、装置及存储介质 | |
| Kim et al. | Simvodis: Simultaneous visual odometry, object detection, and instance segmentation | |
| CN110007754B (zh) | 手与物体交互过程的实时重建方法及装置 | |
| Zhou et al. | Hemlets posh: Learning part-centric heatmap triplets for 3d human pose and shape estimation | |
| CN111080671B (zh) | 一种基于深度神经网络的运动预测方法和智能终端 | |
| CN113989928A (zh) | 一种动作捕捉和重定向方法 | |
| CN115272565A (zh) | 一种头部三维模型的重建方法及电子设备 | |
| CN115661336A (zh) | 一种三维重建方法及相关装置 | |
| CN117218246A (zh) | 图像生成模型的训练方法、装置、电子设备及存储介质 | |
| CN116524121A (zh) | 一种单目视频三维人体重建方法、系统、设备及介质 | |
| Zhang et al. | Deep learning-based real-time 3D human pose estimation | |
| CN112199994B (zh) | 一种实时检测rgb视频中的3d手与未知物体交互的方法和装置 | |
| CN114170353A (zh) | 一种基于神经网络的多条件控制的舞蹈生成方法及系统 | |
| Wang et al. | Swimmer’s posture recognition and correction method based on embedded depth image skeleton tracking | |
| CN111738092A (zh) | 一种基于深度学习的恢复被遮挡人体姿态序列方法 | |
| CN111915587A (zh) | 视频处理方法、装置、存储介质和电子设备 | |
| CN116758212A (zh) | 基于自适应去噪算法的3d重建方法、装置、设备及介质 | |
| CN115860113A (zh) | 一种自对抗神经网络模型的训练方法及相关装置 | |
| KR102310757B1 (ko) | 순차적 네트워크를 이용한 사람 모션 생성 방법 및 그 장치 | |
| CN113761965B (zh) | 动作捕捉方法、装置、电子设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |