CN113099208B - 基于神经辐射场的动态人体自由视点视频生成方法和装置 - Google Patents

Abstract

本发明提出一种基于神经辐射场的动态人体自由视点视频生成方法和装置，其中，方法包括：采集动态单人体图像序列；利用卷积神经网络，对图像序列的每一帧提取人体关节点在图像上的位置；利用人体关节点位置信息，对整个图像序列拟合对应的人体模板动态序列；构建神经辐射场网络；利用人体模板姿态序列和所有图像训练神经辐射场网络；训练完成后，给定任意观察视点，即可对训练好的神经辐射场做体渲染，得到该新视点下的图像。由此，能够自动地实现从单视点动态人体视频到自由视点动态人体视频的转换，得到逼真的自由视点渲染结果。

Description

基于神经辐射场的动态人体自由视点视频生成方法和装置

技术领域

本发明涉及计算机视觉和计算机图形学技术领域，尤其涉及一种基于神经辐射场的动态人体自由视点视频生成方法和装置。

背景技术

动态人体的自由视点视频生成是计算机图形学和计算机视觉领域的重点问题。高质量的自由视点视频生成在影视娱乐、全息通信等领域有着广泛的应用前景和重要的应用价值。然而，当前高质量的动态人体自由视点视频的获取通常依靠价格昂贵的多相机阵列系统来实现，虽然精度较高，但是也显著存在着一些缺点：第一，造假昂贵，很难普及到普通民众日常生活中；第二，速度慢，往往重建一帧的自由视点视频就需要至少10分钟到数小时的时间。

发明内容

本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本发明的第一个目的在于提出一种基于神经辐射场的动态人体自由视点视频生成方法，以实现针对动态人体的自由视点视频生成。

本发明的第二个目的在于提出一种基于神经辐射场的动态人体自由视点视频生成装置。

本发明的第三个目的在于提出一种计算机设备。

为达上述目的，本发明第一方面实施例提出了一种基于神经辐射场的动态人体自由视点视频生成方法，包括：采集动态单人体的图像序列；通过预设的卷积神经网络，对所述图像序列中的每一帧图像提取人体关节点的位置信息；根据所述位置信息对所述图像序列拟合生成对应的三维人体模板动态序列；构建初始神经辐射场网络，并根据预设的损失函数、所述三维人体模板动态序列和所述图像序列训练所述初始神经辐射场网络获取目标神经辐射场网络；通过所述目标神经辐射场网络和所述图像序列，渲染指定视点下的图像。

为达上述目的，本发明第二方面实施例提出了一种基于神经辐射场的动态人体自由视点视频生成装置，包括：采集模块，用于采集动态单人体的图像序列；提取模块，用于通过预设的卷积神经网络，对所述图像序列中的每一帧图像提取人体关节点的位置信息；生成模块，用于根据所述位置信息对所述图像序列拟合生成对应的三维人体模板动态序列；训练模块，用于构建初始神经辐射场网络，并根据预设的损失函数、所述三维人体模板动态序列和所述图像序列训练所述初始神经辐射场网络获取目标神经辐射场网络；渲染模块，用于通过所述目标神经辐射场网络和所述图像序列，渲染指定视点下的图像。

为达上述目的，本发明第三方面实施例提出了一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时，实现如上述第一方面实施例所述的基于神经辐射场的动态人体自由视点视频生成方法。

本发明的实施例，至少具有如下的技术效果：

采集动态单人体图像序列；利用卷积神经网络，对图像序列的每一帧提取人体关节点在图像上的位置；利用人体关节点位置信息，对整个图像序列拟合对应的人体模板动态序列；构建神经辐射场网络；利用人体模板姿态序列和所有图像训练神经辐射场网络；训练完成后，给定任意观察视点，即可对训练好的神经辐射场做体渲染，得到该新视点下的图像。根据本发明实施例的动态人体自由视点视频生成方法，能够自动地实现从单视点动态人体视频到自由视点动态人体视频的转换，得到逼真的自由视点渲染结果。

本发明附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。

附图说明

本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为本发明实施例所提供的一种基于神经辐射场的动态人体自由视点视频生成方法的流程示意图；

图2为本发明实施例所提供的另一种基于神经辐射场的动态人体自由视点视频生成方法的流程示意图；以及

图3为本发明实施例所提供的一种基于神经辐射场的动态人体自由视点视频生成装置的结构示意图。

具体实施方式

下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。

下面参考附图描述本发明实施例的基于神经辐射场的动态人体自由视点视频生成方法和装置。

图1为本发明实施例所提供的一种基于神经辐射场的动态人体自由视点视频生成方法的流程示意图。

如图1所示，该方法包括以下步骤：

步骤101，采集动态单人体的图像序列。

本实施例中，采集动态单人体图像序列，记作

其中N为序列长度，即图像数目，i表示第i张图像，即第i帧。

步骤102，通过预设的卷积神经网络，对图像序列中的每一帧图像提取人体关节点的位置信息。

在本实施例中，利用卷积神经网络，对图像序列的每一帧I_i提取人体关节点在图像上的位置

其中j表示第j个关节点，J为关节点总数目，关节点包括但不限于髋关节、膝关节、踝关节、脚尖、肘关节、腕关节、肩关节、头部等。

在本发明的一个实施例中，所使用的三维人体模板，为一个线性函数M(·)，该函数的输入是人体的姿态参数，即骨架关节的旋转量θ，输出是三维人体模板的顶点坐标

即V＝M(θ)，其中S为三维人体模板的顶点总数。从输出的三维人体模板顶点坐标中，可以回归出人体模板的关节点坐标：K＝R_KV，其中

为回归矩阵。

步骤103，根据位置信息对图像序列拟合生成对应的三维人体模板动态序列。

在本实施例中，利用人体关节点位置信息，对整个序列拟合对应的三维人体模板动态序列

拟合三维人体模板动态序列的方法为，最小化如下的能量函数E为下述公式(1)所示：

其中，π(·)为相机投影函数，用于将空间中的三维点根据相机内外参投影至图像二维平面，K⁽ⁱ⁾为第i帧的三维人体模板的关节点坐标，即K⁽ⁱ⁾＝R_KV⁽ⁱ⁾＝R_KM(θ⁽ⁱ⁾)，

为

堆叠而成的矩阵，θ⁽ⁱ⁾为第i帧的人体模板姿态参数。

步骤104，构建初始神经辐射场网络，并根据预设的损失函数、三维人体模板动态序列和图像序列训练初始神经辐射场网络获取目标神经辐射场网络。

在本实施例中，构建神经辐射场网络f(·)，利用人体模板姿态序列和所有图像构建损失函数L，训练神经辐射场网络。

在本发明的一个实施例中，用于训练神经辐射场网络f(·)的损失函数为：

其中c⁽ⁱ⁾(r)为第i帧的射线r利用f(·)进行体渲染，所得到的颜色值，

是其真实值，即采集得到的图像像素颜色值。

步骤105，通过目标神经辐射场网络和图像序列，渲染指定视点下的图像。

在本实施例中，神经辐射场为一个以五维向量为输入的函数f(·)，其中五维中的三维对应一个空间中三维点的坐标(x,y,z)，另外二维为观察方向(φ,ψ)，函数的输出为RGB颜色值c＝(R,G,B)和体密度σ，即

表示三维空间中各个点的颜色值和密度分布。对该函数的输出做体渲染，可以将其渲染为二维图像。具体来说，给定任意相机内外参数，对于任意以相机光心o为起点，d为方向的相机射线r(t)＝o+td，该射线在图像上的像素颜色为该射线上采样点的颜色值的加权求和，具体公式为公式(2)：

其中，

δ为采样间隔，下标p/q表示第p/q个采样点。

在本实施例中，训练完成后，给定任意观察视点合帧序号，即可对训练好的神经辐射场做体渲染，得到该新视点下的图像。

在本发明的一个实施例中，训练完成后，给定任意观察视点，即可对第i帧的神经辐射场进行体渲染，渲染方法遍历图像上所有像素，确定对应的相机射线，在射线上进行采样后计算采样点的加权求和，计算方法参照上述实施例，神经辐射场输入第i帧空间中三维点的坐标x＝(x,y,z)之后，会根据第i帧的人体模板姿态信息，将其转换到关节坐标系下，转换方式为，利用拟合得到的人体姿态参数θ⁽ⁱ⁾，计算各个关节点的三维位置

及旋转矩阵

然后将三维点坐标转换到该关节坐标系下：

转换完成后，利用全连接网络对其做特征提取，并最终回归出当前帧该点的RGB颜色值c＝(R,G,B)和体密度σ，即参照公式(3)，其中，在公式(3)中，其中g()为一个全连接网络，，包含8个全连接层，全连接层采用线性整流函数为激活函数，每个全连接层的神经元数目为256：

也可以理解，训练完成后，给定任意观察视点，即可对第i帧的神经辐射场进行体渲染，渲染方法遍历图像上所有像素，确定对应的相机射线，在射线上进行采样后计算采样点的加权求和，计算方法与训练时所述的方法相同。

为了使得本领域的技术人员更加清楚的了解，如何基于神经辐射场的动态人体自由视点视频生成，下面结合具体的应用场景进行说明：

如图2所示，在该场景中，根据本发明一个实施例的基于神经辐射场的动态人体自由视点视频生成方法，其步骤包括：

步骤201，采集动态单人体图像序列。采集时需要采集对象做某段动作序列，可以更换朝向重复多次，使得相机能够看到人体的正面和背面。

步骤202，利用卷积神经网络，对图像序列的每一帧I_i提取人体关节点在图像上的位置

其中j表示第j个关节点，J为关节点总数目，所提取的关节包括髋关节、膝关节、踝关节、脚尖、肘关节、腕关节、肩关节、头部等。

步骤203，构建满足预设条件的图像特征提取网络。利用人体关节点位置信息，对整个序列拟合对应的三维人体模板动态序列

所使用的三维人体模板，为一个线性函数M(·)，该函数的输入是人体的姿态参数，即骨架关节的旋转量θ，输出是三维人体模板的顶点坐标

即V＝M(θ)，其中S为三维人体模板的顶点总数。从输出的三维人体模板顶点坐标中，可以回归出人体模板的关节点坐标：K＝R_KV，同样包括包括髋关节、膝关节、踝关节、脚尖、肘关节、腕关节、肩关节、头部，其中

为回归矩阵。拟合三维人体模板动态序列的方法为，最小化如下的能量函数E：

其中，π(·)为相机投影函数，用于将空间中的三维点根据相机内外参投影至图像二维平面，K⁽ⁱ⁾为第i帧的三维人体模板的关节点坐标，即K⁽ⁱ⁾＝R_KV⁽ⁱ⁾＝R_KM(θ⁽ⁱ⁾)，

为

堆叠而成的矩阵，θ⁽ⁱ⁾为第i帧的人体模板姿态参数。

步骤204，构建神经辐射场网络f(·)。神经辐射场为一个以五维向量为输入的函数f(·)，其中五维中的三维对应一个空间中三维点的坐标(x,y,z)，另外二维为观察方向(φ,ψ)，函数的输出为RGB颜色值c＝(R,G,B)和体密度σ，即

表示三维空间中各个点的颜色值和密度分布。

训练时，对该函数的输出做体渲染，可以将其渲染为二维图像。具体来说，给定任意相机内外参数，对于任意以相机光心o为起点，d为方向的相机射线r(t)＝o+td，该射线在图像上的像素颜色为该射线上采样点的颜色值的加权求和，具体公式为：

其中，

其中，δ为采样间隔，下标p/q表示第p/q个采样点。神经辐射场输入第i帧空间中三维点的坐标x＝(x,y,z)之后，会根据第i帧的人体模板姿态信息，将其转换到关节坐标系下，转换方式为，利用拟合得到的人体姿态参数θ⁽ⁱ⁾，计算各个关节点的三维位置

及旋转矩阵

然后将三维点坐标转换到该关节坐标系下：

转换完成后，利用全连接网络对其做特征提取，并最终回归出当前帧该点的RGB颜色值c＝(R,G,B)和体密度σ，即

其中g()为一个全连接网络，包含8个全连接层，全连接层采用线性整流函数为激活函数，每个全连接层的神经元数目为256。

步骤205，利用人体模板姿态序列和所有图像构建损失函数L，训练神经辐射场网络。用于训练神经辐射场网络f(·)的损失函数为：

其中c⁽ⁱ⁾(r)为第i帧的射线r利用f(·)进行体渲染，所得到的颜色值，

是其真实值，即采集得到的图像像素颜色值。

步骤206，训练完成后，给定任意观察视点，即可对第i帧的神经辐射场进行体渲染，渲染方法遍历图像上所有像素，确定对应的相机射线，在射线上进行采样后计算采样点的加权求和，计算方法与训练时所述的方法相同。

综上，本发明实施例的基于神经辐射场的动态人体自由视点视频生成方法，通过对所有输入图像拟合人体模板来建立帧与帧之间的联系，并通过协同训练来实现多帧信息的融合，从而实现单视点视频到自由视点视频的转换，具有很强的使用性。

为了实现上述实施例，本发明还提出一种基于神经辐射场的动态人体自由视点视频生成装置。

图3为本发明实施例提供的一种基于神经辐射场的动态人体自由视点视频生成装置的结构示意图。

如图3所示，该基于神经辐射场的动态人体自由视点视频生成装置包括：采集模块301、提取模块302、生成模块303、训练模块304和渲染模块305。

其中，采集模块301，用于采集动态单人体的图像序列；

提取模块302，用于通过预设的卷积神经网络，对所述图像序列中的每一帧图像提取人体关节点的位置信息；

生成模块303，用于根据所述位置信息对所述图像序列拟合生成对应的三维人体模板动态序列；

训练模块304，用于构建初始神经辐射场网络，并根据预设的损失函数、所述三维人体模板动态序列和所述图像序列训练所述初始神经辐射场网络获取目标神经辐射场网络；

渲染模块305，用于通过所述目标神经辐射场网络和所述图像序列，渲染指定视点下的图像。

需要说明的是，前述对基于神经辐射场的动态人体自由视点视频生成方法实施例的解释说明也适用于该实施例的基于神经辐射场的动态人体自由视点视频生成装置，此处不再赘述。

为了实现上述实施例，本发明还提出一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时，实现如上述实施例所描述的基于神经辐射场的动态人体自由视点视频生成方法。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本发明各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (8)

1.一种基于神经辐射场的动态人体自由视点视频生成方法，其特征在于，包括以下步骤：

采集动态单人体的图像序列；

通过预设的卷积神经网络，对所述图像序列中的每一帧图像提取人体关节点的位置信息；

根据所述位置信息对所述图像序列拟合生成对应的三维人体模板动态序列，其中，所述根据所述位置信息对所述图像序列拟合生成对应的三维人体模板动态序列，包括：根据预设的能量函数对所述图像序列拟合生成对应的三维人体模板动态序列，所述预设的能量函数为：

其中，π(·)为相机投影函数，用于将空间中的三维点根据相机内外参投影至图像二维平面，K⁽ⁱ⁾为第i帧的三维人体模板的关节点坐标，即K⁽ⁱ⁾＝R_KV⁽ⁱ⁾＝R_KM(θ⁽ⁱ⁾)，

为

堆叠而成的矩阵，θ⁽ⁱ⁾为第i帧的图像的姿态参数，

为回归矩阵，其中，

为三维人体模板的顶点坐标，S为三维人体模板的顶点总数，J表示第J个关节点；

构建初始神经辐射场网络，并根据预设的损失函数、所述三维人体模板动态序列和所述图像序列训练所述初始神经辐射场网络获取目标神经辐射场网络；

通过所述目标神经辐射场网络和所述图像序列，渲染指定视点下的图像。

2.如权利要求1所述的方法，其特征在于，所述通过预设的卷积神经网络，对所述图像序列中的每一帧图像提取人体关节点的位置信息，包括：

获取所述预设的卷积神经网络对应的线性函数；

提取所述每一帧图像中的人体姿态参数，将所述人体姿态参数输入所述线性函数，获取三维人体模板的顶点坐标；

根据所述三维人体模板的顶点坐标和回归矩阵回归出所述人体关节点的位置信息。

3.如权利要求2所述的方法，其特征在于，所述人体姿态参数包括：

骨架关节的旋转量θ。

4.如权利要求1所述的方法，其特征在于，所述目标神经辐射场网络为：

一个以五维向量为输入的函数f(·)，其中，所述五维向量中的三维对应一个空间中三维点的坐标(x,y,z)，所述五维向量中的另外二维为观察方向(φ,ψ)，所述函数f(·)的输出为RGB颜色值c＝(R,G,B)和体密度σ，即f:

表示三维空间中各个点的颜色值和密度分布。

5.如权利要求4所述的方法，其特征在于，所述预设的损失函数，包括：

其中，c⁽ⁱ⁾(r)为第i帧的图像的射线r利用f(·)进行体渲染，所得到的颜色值，

是第i帧的图像的真实颜色值。

6.如权利要求5所述的方法，其特征在于，所述通过所述目标神经辐射场网络和所述图像序列，渲染指定视点下的图像，包括：

遍历第i帧的神经辐射场对应的图像中所有的像素，确定与所述指定视点对应的相机射线；

在所述相机射线上进行采样后计算采样点的加权求和，以实现渲染指定视点下的图像。

7.一种基于神经辐射场的动态人体自由视点视频生成装置，其特征在于，包括：

采集模块，用于采集动态单人体的图像序列；

提取模块，用于通过预设的卷积神经网络，对所述图像序列中的每一帧图像提取人体关节点的位置信息；

生成模块，用于根据所述位置信息对所述图像序列拟合生成对应的三维人体模板动态序列，其中，所述根据所述位置信息对所述图像序列拟合生成对应的三维人体模板动态序列，包括：根据预设的能量函数对所述图像序列拟合生成对应的三维人体模板动态序列，所述预设的能量函数为：

其中，π(·)为相机投影函数，用于将空间中的三维点根据相机内外参投影至图像二维平面，K⁽ⁱ⁾为第i帧的三维人体模板的关节点坐标，即K⁽ⁱ⁾＝R_KV⁽ⁱ⁾＝R_KM(θ⁽ⁱ⁾)，

为

堆叠而成的矩阵，θ⁽ⁱ⁾为第i帧的图像的姿态参数，

为回归矩阵，其中，

为三维人体模板的顶点坐标，S为三维人体模板的顶点总数，J表示第J个关节点；

训练模块，用于构建初始神经辐射场网络，并根据预设的损失函数、所述三维人体模板动态序列和所述图像序列训练所述初始神经辐射场网络获取目标神经辐射场网络；

渲染模块，用于通过所述目标神经辐射场网络和所述图像序列，渲染指定视点下的图像。

8.一种计算机设备，其特征在于，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时，实现如权利要求1-6中任一所述的方法。

Images