CN113538644A - 人物动态视频生成方法、装置、电子设备以及存储介质 - Google Patents
人物动态视频生成方法、装置、电子设备以及存储介质 Download PDFInfo
- Publication number
- CN113538644A CN113538644A CN202110813685.1A CN202110813685A CN113538644A CN 113538644 A CN113538644 A CN 113538644A CN 202110813685 A CN202110813685 A CN 202110813685A CN 113538644 A CN113538644 A CN 113538644A
- Authority
- CN
- China
- Prior art keywords
- picture
- dynamic
- sampling
- point
- sampling points
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 55
- 238000005070 sampling Methods 0.000 claims abstract description 177
- 238000004590 computer program Methods 0.000 claims description 11
- 230000003628 erosive effect Effects 0.000 claims description 7
- 238000003780 insertion Methods 0.000 claims description 4
- 230000037431 insertion Effects 0.000 claims description 4
- 238000000638 solvent extraction Methods 0.000 claims 2
- 238000012545 processing Methods 0.000 abstract description 10
- 230000008569 process Effects 0.000 abstract description 9
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 15
- 230000036544 posture Effects 0.000 description 11
- 238000004891 communication Methods 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 7
- 230000008859 change Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 210000003423 ankle Anatomy 0.000 description 5
- 238000005260 corrosion Methods 0.000 description 4
- 230000007797 corrosion Effects 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 230000003321 amplification Effects 0.000 description 2
- 238000013475 authorization Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/80—2D [Two Dimensional] animation, e.g. using sprites
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/20—3D [Three Dimensional] animation
- G06T13/40—3D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/60—Rotation of whole images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/181—Segmentation; Edge detection involving edge growing; involving edge linking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Processing Or Creating Images (AREA)
Abstract
本公开提供了一种人物动态视频生成方法、装置、电子设备以及存储介质,本公开涉及人工智能领域,具体涉及计算机视觉和深度学习技术,具体可用于图像处理场景下。具体实现方案为:从包含人物图像的第一图片中,识别出人物轮廓区域;基于人物轮廓区域在第一图片中获取多个采样点,并通过各采样点将第一图片划分成多个三角形;对第一图片中的至少部分三角形进行变形,得到第二图片;获取第一图片和第二图片之间的至少一个中间图片,生成包括第一图片、第二图片和至少一个中间图片的人物动态视频。上述生成人物动态视频的过程基本不需要人力参与,既能节约成本又可以提高视频生成的效率。
Description
技术领域
本公开涉及人工智能领域,具体涉及计算机视觉和深度学习技术,具体可用于图像处理场景下。
背景技术
在一些应用场景中,需要基于一个包含人物图像的基础图片来生成一个能够表现人物姿态变化的人物动态视频,现有技术一般是通过图像处理软件(如PS)对基础图片中的人物图像进行变形,得到人物姿态不同的多个图片,将基础图片和基于基础图片得到的多个图片作为人物动态视频的多个视频帧。上述基础图片来生成人物动态视频的方式需要较多的人工参与,生成视频的效率较低。
发明内容
本公开提供了一种人物动态视频生成方法、装置、电子设备以及存储介质。
根据本公开的第一方面,提供了一种人物动态视频生成方法,包括:
从包含人物图像的第一图片中,识别出人物轮廓区域;
基于人物轮廓区域在第一图片中获取多个采样点,并通过各采样点将第一图片划分成多个三角形;
对第一图片中的至少部分三角形进行变形,得到第二图片;
获取第一图片和第二图片之间的至少一个中间图片,生成包括第一图片、第二图片和至少一个中间图片的人物动态视频。
根据本公开的第二方面,提供了一种人物动态视频生成装置,包括:
轮廓识别模块,用于从包含人物图像的第一图片中,识别出人物轮廓区域;
区域划分模块,用于基于人物轮廓区域在第一图片中获取多个采样点,并通过各采样点将第一图片划分成多个三角形;
图片获取模块,用于对第一图片中的至少部分三角形进行变形,得到第二图片;
视频生成模块,用于获取第一图片和第二图片之间的至少一个中间图片,生成包括第一图片、第二图片和至少一个中间图片的人物动态视频。
根据本公开的第三方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述的人物动态视频生成方法。
根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行上述的人物动态视频生成方法。
根据本公开的第五方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现上述的人物动态视频生成方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
本公开提供的技术方案带来的有益效果是:
在本公开的技术方案中,首先生成一个与第一图片中人物姿态不同的第二图片,再生成第一图片和第二图片之间的中间图片,即可得到人物动态视频,上述生成人物动态视频的过程基本不需要人力参与,既能节约成本又可以提高视频生成的效率。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1示出了本公开实施例提供的一种人物动态视频生成方法的流程示意图;
图2示出了本公开实施例提供的一种示例性的第一图片;
图3示出了本公开实施例提供的一种第一图片中识别出的人物轮廓区域的示意图;
图4示出了本公开实施例提供的一种人物动态视频生成方法的流程示意图;
图5示出了本公开实施例提供的部分人体关键点的示例性分布示意图;
图6示出了本公开实施例提供的一种确定动态点采样的方法的流程示意图;
图7示出了本公开实施例提供的一种第一图片中确定出的人物膨胀轮廓区域的示意图;
图8示出了本公开实施例提供的一种第一图片中确定出的人物腐蚀轮廓区域的示意图;
图9示出了本公开实施例提供的第一图片中三角形的示例性分布示意图;
图10示出了本公开实施例提供的一种人物动态视频生成装置的结构示意图;
图11示出了可以用来实施本公开实施例提供的人物动态视频生成方法的示例电子设备的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
在一些应用场景中,需要基于一个包含人物图像的基础图片来生成一个能够表现人物姿态变化的人物动态视频,现有技术一般是通过图像处理软件(如PS)对基础图片中的人物图像进行变形,得到人物姿态不同的多个图片,将基础图片和基于基础图片得到的多个图片作为人物动态视频的多个视频帧。上述基础图片来生成人物动态视频的方式需要较多的人工参与,生成视频的效率较低。
本公开实施例提供的人物动态视频生成方法、装置、电子设备以及存储介质,旨在解决现有技术的如上技术问题中的至少一个。
图1示出了本公开实施例提供的一种人物动态视频生成方法的流程示意图,如图1所示,该方法主要可以包括以下步骤:
S110:从包含人物图像的第一图片中,识别出人物轮廓区域。
图2示出了本公开实施例提供的一种示例性的第一图片,如图2所示,第一图片中的人物图像可以是真人图像。当然,第一图片中的人物图像也可以是创作出的虚拟人物图像。在此需要说明的是,当第一图片中的人物图像是真人图像时,需要获得相关授权(如图片中人物本人的授权),并且,本公开实施例的方法不需要获取图片中人物本人隐私信息,如虹膜、唇纹或指纹等。
可以理解,第一图片中包括背景区域和人物轮廓区域,该步骤需要从第一图片识别出第一图片中的人物轮廓区域。图3示出了本公开实施例提供的一种第一图片中识别出的人物轮廓区域的示意图,在图3中,黑色区域表示背景区域,白色区域表示人物轮廓区域。
S120:基于人物轮廓区域在第一图片中获取多个采样点,并通过各采样点将第一图片划分成多个三角形。
在该步骤中,可以按照预设的采点方式,基于人物轮廓区域在第一图片中获取多个采样点,多个采样点可以包括在人物轮廓区域内部的采样点和在人物轮廓区域外部的采样点;之后基于多个采样点,采用三角剖分算法将第一图片划分成多个三角形,当然也可以采用其他算法将第一图片划分成多个三角形,此处不再一一列举。
可选地,在公开实施例中,多个采样点包括固定采样点和动态采样点。在该步骤中,可以确定出人物轮廓区域对应的动态点采样范围,并在动态点采样范围内获取多个动态采样点,在动态点采样范围外获取多个固定采样点。其中,动态点采样范围至少包含人物轮廓区域,并且任一动态采样点不在人物轮廓区域的边缘上。
S130:对第一图片中的至少部分三角形进行变形,得到第二图片。
本公开实施例中的每个三角形的三个顶点均为采样点,在该步骤中,可以通过改变至少一个采样点的位置对至少部分三角形进行变形,将至少部分三角形变形后的第一图片定义为第二图片。可以理解,由于第二图片中的至少部分三角形与第一图片中的对应的三角形不同,因此第二图片中的人物姿态与第一图片中的人物姿态不同。
可选地,在该步骤中,可以从第一图片中识别出预设类型的人体关键点;将至少一个采样点基于至少一个类型的人体关键点旋转预设角度,以使第一图片中的至少部分三角形变形。
S140:获取第一图片和第二图片之间的至少一个中间图片,生成包括第一图片、第二图片和至少一个中间图片的人物动态视频。
如前文所述,第二图片中的人物姿态与第一图片中的人物姿态不同,可以通过第二图片中的人物姿态与第一图片中的人物姿态,来估算两次人物姿态的至少一个中间变化姿态,之后生成包含中间变化姿态的中间图片。
在该步骤中,在得到至少一个中间图片之后,可以将第一图片、第二图片和至少一个中间图片作为一个视频帧集合,得到人物动态视频。可以理解,在播放人物动态视频,可以依次展示第一图片、至少一个中间图片和第二图片,从而流畅地展示人物图像的姿态变化过程。
可选地,在该步骤中,可以基于第一图片和第二图片进行视频插帧,获取第一图片和第二图片之间的至少一个中间图片。在此需要说明的是,该步骤所使用的视频插帧算法可以根据实际需要而定,例如可以使用DAIN算法对第一图片和第二图片中人物的姿态变化过程补全,得到至少一个中间图片。通过视频插帧的方式可以快速地获取中间图片,以中间图片来补全第一图片和第二图片中人物的姿态变化过程,确保人物动态视频的连贯性。
本公开实施例提供的人物动态视频生成方法,首先生成一个与第一图片中人物姿态不同的第二图片,再生成第一图片和第二图片之间的中间图片,即可得到人物动态视频;上述生成人物动态视频的过程基本不需要人力参与,既能节约成本又可以提高视频生成的效率。
图4示出了本公开实施例提供的一种人物动态视频生成方法的流程示意图,如图3所示,该方法主要可以包括以下步骤:
S410:从包含人物图像的第一图片中,识别出人物轮廓区域。
这里,步骤S410的描述可以参考步骤S110的描述,此处不再赘述。
S420:确定出人物轮廓区域对应的动态点采样范围,并在动态点采样范围内获取多个动态采样点。
如前文所述,本公开实施例需要基于人物轮廓区域在第一图片中获取多个采样点,多个采样点包括固定采样点和动态采样点。在该步骤中,可以先确定出动态点采样范围,之后在动态点采样范围中获取动态采样点。其中,可以基于人物轮廓区域在第一图片中的位置范围来确定出对应的动态点采样范围,动态点采样范围至少包含人物轮廓区域。
在动态点采样范围中获取动态采样点时,应当确保任一动态采样点不在人物轮廓区域的边缘上。具体来说,如图3所示,人物轮廓区域的边缘为图3中黑色区域和白色区域的交界,任一动态采样点均不在该交界上。
在本公开实施例中,在动态点采样范围所获取的动态采样点的位置和数量可以根据实际的设计需要而定,本公开将在后续内容中对获取动态点采样点的示例性过程做进一步介绍。
S430:在动态点采样范围外获取多个固定采样点。
在本公开实施例中,在动态点采样范围外获取的固定采样点的位置和数量可以根据实际的设计需要而定,本公开实施例将在后续内容中对获取固定采样点的示例性过程做进一步介绍。
S440:通过各个固定采样点和动态采样点,将第一图片划分成多个三角形。
在该步骤中,基于多个固定采样点和动态采样点,采用三角剖分算法将第一图片划分成多个三角形,例如,可以将指定的固定采样点和动态采样点(例如两个固定采样点和一个动态采样点,或者一个固定采样点和两个动态采样点)作为三角形的顶点、以及将指定的3个动态采样点作为三角形的顶点。当然,本公开实施例也可以采用其他算法将第一图片划分成多个三角形,此处不再一一列举。
S450:从第一图片中识别出预设类型的人体关键点。
本公开实施例可以预先定义多个类型的人体关键点,如脚踝关键点、腰部关键点和颈部关键点等。图5示出了本公开实施例提供的部分人体关键点的示例性分布示意图,在图5中,每一个圆点代表一种类型的人体关键点。
本公开实施例中可以多个人体关键点中选择出至少一个类型的人体关键点,作为预设类型的人体关键点,例如,可以将脚踝关键点、腰部关键点和颈部关键点定义为预设类型的人体关键点。在步骤S450中,可以基于第一图片中的人物图像识别出预设类型的人体关键点。
S460:将至少一个采样点基于至少一个类型的人体关键点旋转预设角度,以使第一图片中的至少部分三角形变形,得到第二图片。
在本公开实施例中,以步骤S450所确定出的人体关键点作为旋转中心点,基于该旋转中心点对至少一个采样点旋转预设角度,从而通过改变至少一个采样点的位置对至少部分三角形进行变形,将至少部分三角形变形后的第一图片定义为第二图片。可以理解,由于第二图片中的至少部分三角形与第一图片中的对应的三角形不同,因此第二图片中的人物姿态与第一图片中的人物姿态不同。在本公开实施例中,步骤S450所确定出的人体关键点可以作为至少一个采样点的旋转中心,需要旋转的采样点及其对应的旋转角度可以根据实际的设计需要而定。以人体关键点作为至少一个采样点的旋转中心,符合人体运动的自然规律,可以使人体图像变形后的姿态更加自然。
在本公开实施例中,为了避免第二图片中的背景区域发生较大的变形,可以仅改变动态采样点的位置。具体来说,可以将至少一个动态采样点基于至少一个类型的人体关键点旋转预设角度,这样可以尽量避免包括位于背景区域中的三角形发生变形,从而避免第二图片中的背景区域发生较大的变形,保证图片的视觉效果。
以脚踝关键点(图中未示出)、腰部关键点和颈部关键点使预设类型的人体关键点为例,首先脚踝关键点作为旋转中心,对脚踝关键点以上的所有动态采样点旋转第一预设角度;之后以腰部关键点作为旋转中心,对腰部关键点以上的所有动态采样点旋转第二预设角度;最后以颈部关键点作为旋转中心,对颈部关键点以上的所有动态采样点旋转第三预设角度,最终可以得到第二图片。
S470:获取第一图片和第二图片之间的至少一个中间图片,生成包括第一图片、第二图片和至少一个中间图片的人物动态视频。
这里,步骤S470的描述可以参考步骤S140的描述,此处不再赘述。
图6示出了本公开实施例提供的一种确定动态点采样的方法的流程示意图,如图6所示,该方法主要可以包括以下步骤:
S610:对人物轮廓区域分别进行膨胀和腐蚀,确定出人物膨胀轮廓区域和人物腐蚀轮廓区域。
在本公开实施例中,对人物轮廓区域进行膨胀是指对人物轮廓区域进行等比放大,放大到得到的人物膨胀轮廓区域可以将人物轮廓区域包含在其内部;对人物轮廓区域进行腐蚀胀是指对人物轮廓区域进行等比缩小,缩小后得到的人物腐蚀轮廓区域可以被完全包括在人物轮廓区域的内部。
图7示出了本公开实施例提供的一种第一图片中确定出的人物膨胀轮廓区域的示意图,在图7中,黑色区域表示背景区域,白色区域表示人物膨胀轮廓区域。图8示出了本公开实施例提供的一种第一图片中确定出的人物腐蚀轮廓区域的示意图,在图8中,黑色区域表示背景区域,白色区域表示人物腐蚀轮廓区域。
可以理解,图7中的人物膨胀轮廓区域是对图3中的人物轮廓区域进行膨胀后得到的,并且人物膨胀轮廓区域可以将人物轮廓区域包含在其内部;图8中的人物腐蚀轮廓区域是对图3中的人物轮廓区域进行腐蚀后得到的,人物腐蚀轮廓区域可以完全被包括在人物轮廓区域的内部。
S620:在人物膨胀轮廓区域的边缘、人物腐蚀轮廓区域的边缘和人物轮廓区域的内部获取多个动态采样点。
如前文所述,人物膨胀轮廓区域可以将人物轮廓区域包含在其内部,人物腐蚀轮廓区域可以完全被包括在人物轮廓区域的内,因此,人物膨胀轮廓区域的边缘上的动态采样点均在人物轮廓区域的边缘的外侧,人物腐蚀轮廓区域的边缘上的动态采样点均在人物轮廓区域的边缘的内侧,人物轮廓区域的内部的动态采样点也均在人物轮廓区域的边缘的内侧,也就是说人物轮廓区域的边缘并不存在动态采样点。
在本公开实施例中,可以将人物膨胀轮廓区域作为动态点采样范围,因此,可以在人物膨胀轮廓区域的外部获取多个固定采样点,也就是说,人物轮廓区域的边缘并不存在固定采样点。在通过各采样点将第一图片划分成多个三角形时,对于人物膨胀轮廓区域外部的三角形,其顶点为固定采样点和动态采样点的组合。例如,该三角形的三个顶点为一个固定采样点和两个动态采样点,该三角形的三个顶点为两个固定采样点和一个动态采样点。
当然,为了进一步减少背景区域中的三角形的变形程度,在第一图片的边界上获取多个固定采样点,可以理解,以第一图片的边界上的固定采样点为顶点的三角形位于背景区域内且面积较大。图9示出了本公开实施例提供的第一图片中三角形的示例性分布示意图,在图9中,人物图像外侧的一圈采样点为人物膨胀轮廓区域的边缘上的动态采样点,第一图片的边缘上的8个采样点为固定采样点,以第一图片的边界上的固定采样点为顶点的三角形位于背景区域。当各动态采样点的位置变化程度相同时,位于背景区域内的三角形的变形程度相比于人物图像内部的三角形的变形程度更小,从而避免第二图片中的背景区域发生较大的变形,保证图片的视觉效果。
基于与上述的人物动态视频生成方法相同的原理,图10示出了本公开实施例提供的一种人物动态视频生成装置的结构示意图。如图10所示,人物动态视频生成装置1000包括轮廓识别模块1001、区域划分模块1002、图片获取模块1003和视频生成模块1004。
轮廓识别模块1001用于从包含人物图像的第一图片中,识别出人物轮廓区域。
区域划分模块1002用于基于人物轮廓区域在第一图片中获取多个采样点,并通过各采样点将第一图片划分成多个三角形。
图片获取模块1003用于对第一图片中的至少部分三角形进行变形,得到第二图片。
视频生成模块1004用于获取第一图片和第二图片之间的至少一个中间图片,生成包括第一图片、第二图片和至少一个中间图片的人物动态视频。
本公开实施例提供的人物动态视频生成装置,首先生成一个与第一图片中人物姿态不同的第二图片,再生成第一图片和第二图片之间的中间图片,即可得到人物动态视频,上述生成人物动态视频的过程基本不需要人力参与,既能节约成本又可以提高视频生成的效率。
在本公开实施例中,多个采样点包括固定采样点和动态采样点;区域划分模块1002在用于基于人物轮廓区域在第一图片中获取多个采样点时,具体用于:确定出人物轮廓区域对应的动态点采样范围,并在动态点采样范围内获取多个动态采样点;在动态点采样范围外获取多个固定采样点;
其中,动态点采样范围至少包含人物轮廓区域,并且任一动态采样点不在人物轮廓区域的边缘上。
在本公开实施例中,区域划分模块1002在用于确定出人物轮廓区域对应的动态点采样范围,并在动态点采样范围内获取多个动态采样点时,具体用于:对人物轮廓区域分别进行膨胀和腐蚀,确定出人物膨胀轮廓区域和人物腐蚀轮廓区域;
在人物膨胀轮廓区域的边缘、人物腐蚀轮廓区域的边缘和人物轮廓区域的内部获取多个动态采样点。
在本公开实施例中,区域划分模块1002在用于在动态点采样范围外获取多个固定采样点时,具体用于:在人物膨胀轮廓区域的外部获取多个固定采样点。
在本公开实施例中,区域划分模块1002在用于在动态点采样范围外获取多个固定采样点时,具体用于:在第一图片的边界上获取多个固定采样点。
在本公开实施例中,图片获取模块1003在用于对第一图片中的至少部分三角形进行变形,得到第二图片时,具体用于:
从第一图片中识别出预设类型的人体关键点;
将至少一个采样点基于至少一个类型的人体关键点旋转预设角度,以使第一图片中的至少部分三角形变形。
在本公开实施例中,多个采样点包括固定采样点和动态采样点,图片获取模块1003在用于将至少一个采样点基于至少一个类型的人体关键点旋转预设角度时,具体用于:将至少一个动态采样点基于至少一个类型的人体关键点旋转预设角度。
在本公开实施例中,视频生成模块1004在用于获取第一图片和第二图片之间的至少一个中间图片时,具体用于:
基于第一图片和第二图片进行视频插帧,获取第一图片和第二图片之间的至少一个中间图片。
可以理解的是,本公开实施例中的人物动态视频生成装置的上述各模块具有实现上述的人物动态视频生成方法相应步骤的功能。该功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。该硬件或软件包括一个或多个与上述功能相对应的模块。上述模块可以是软件和/或硬件,上述各模块可以单独实现,也可以多个模块集成实现。对于上述人物动态视频生成装置的各模块的功能描述具体可以参见上述的人物动态视频生成方法的对应描述,在此不再赘述。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图11示出了可以用来实施本公开实施例提供的人物动态视频生成方法的示例电子设备的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图11所示,电子设备1100包括计算单元1101,其可以根据存储在只读存储器(ROM)1102中的计算机程序或者从存储单元1108加载到随机访问存储器(RAM)1103中的计算机程序,来执行各种适当的动作和处理。在RAM 1103中,还可存储电子设备1100操作所需的各种程序和数据。计算单元1101、ROM 1102以及RAM 1103通过总线1104彼此相连。输入/输出(I/O)接口1105也连接至总线1104。
电子设备1100中的多个部件连接至I/O接口1105,包括:输入单元1106,例如键盘、鼠标等;输出单元1107,例如各种类型的显示器、扬声器等;存储单元1108,例如磁盘、光盘等;以及通信单元1109,例如网卡、调制解调器、无线通信收发机等。通信单元1109允许电子设备1100通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1101可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1101的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1101执行上文所描述的各个方法和处理,例如人物动态视频生成方法。例如,在一些实施例中,人物动态视频生成方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1108。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1102和/或通信单元1109而被载入和/或安装到电子设备1100上。当计算机程序加载到RAM 1103并由计算单元1101执行时,可以执行上文描述的人物动态视频生成方法的一个或多个步骤。备选地,在其他实施例中,计算单元1101可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行人物动态视频生成方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (19)
1.一种人物动态视频生成方法,包括:
从包含人物图像的第一图片中,识别出人物轮廓区域;
基于所述人物轮廓区域在所述第一图片中获取多个采样点,并通过各所述采样点将所述第一图片划分成多个三角形;
对所述第一图片中的至少部分所述三角形进行变形,得到第二图片;
获取所述第一图片和所述第二图片之间的至少一个中间图片,生成包括所述第一图片、所述第二图片和所述至少一个中间图片的人物动态视频。
2.根据权利要求1所述的方法,其中,所述多个采样点包括固定采样点和动态采样点;所述基于所述人物轮廓区域在所述第一图片中获取多个采样点,包括:
确定出所述人物轮廓区域对应的动态点采样范围,并在所述动态点采样范围内获取多个所述动态采样点;
在所述动态点采样范围外获取多个所述固定采样点;
其中,所述动态点采样范围至少包含所述人物轮廓区域,并且任一所述动态采样点不在所述人物轮廓区域的边缘上。
3.根据权利要求2所述的方法,其中,所述确定出所述人物轮廓区域对应的动态点采样范围,并在所述动态点采样范围内获取多个所述动态采样点,包括:
对所述人物轮廓区域分别进行膨胀和腐蚀,确定出人物膨胀轮廓区域和人物腐蚀轮廓区域;
在所述人物膨胀轮廓区域的边缘、所述人物腐蚀轮廓区域的边缘和所述人物轮廓区域的内部获取多个动态采样点。
4.根据权利要求3所述的方法,其中,所述在所述动态点采样范围外获取多个所述固定采样点,包括:在所述人物膨胀轮廓区域的外部获取多个所述固定采样点。
5.根据权利要求2所述的方法,其中,所述在所述动态点采样范围外获取多个所述固定采样点,包括:在所述第一图片的边界上获取多个所述固定采样点。
6.根据权利要求1-5中任一项所述的方法,其中,所述对所述第一图片中的至少部分所述三角形进行变形,得到第二图片,包括:
从所述第一图片中识别出预设类型的人体关键点;
将至少一个所述采样点基于至少一个类型的人体关键点旋转预设角度,以使所述第一图片中的至少部分所述三角形变形。
7.根据权利要求6所述的方法,其中,所述多个采样点包括固定采样点和动态采样点,所述将至少一个所述采样点基于至少一个类型的人体关键点旋转预设角度,包括:
所述将至少一个所述动态采样点基于至少一个类型的人体关键点旋转预设角度。
8.根据权利要求1所述的方法,其中,所述获取所述第一图片和所述第二图片之间的至少一个中间图片,包括:
基于所述第一图片和所述第二图片进行视频插帧,获取所述第一图片和所述第二图片之间的至少一个中间图片。
9.一种人物动态视频生成装置,包括:
轮廓识别模块,用于从包含人物图像的第一图片中,识别出人物轮廓区域;
区域划分模块,用于基于所述人物轮廓区域在所述第一图片中获取多个采样点,并通过各所述采样点将所述第一图片划分成多个三角形;
图片获取模块,用于对所述第一图片中的至少部分所述三角形进行变形,得到第二图片;
视频生成模块,用于获取所述第一图片和所述第二图片之间的至少一个中间图片,生成包括所述第一图片、所述第二图片和所述至少一个中间图片的人物动态视频。
10.根据权利要求9所述的装置,其中,所述多个采样点包括固定采样点和动态采样点;所述区域划分模块在用于基于所述人物轮廓区域在所述第一图片中获取多个采样点时,具体用于:
确定出所述人物轮廓区域对应的动态点采样范围,并在所述动态点采样范围内获取多个所述动态采样点;
在所述动态点采样范围外获取多个所述固定采样点;
其中,所述动态点采样范围至少包含所述人物轮廓区域,并且任一所述动态采样点不在所述人物轮廓区域的边缘上。
11.根据权利要求10所述的装置,其中,所述区域划分模块在用于确定出所述人物轮廓区域对应的动态点采样范围,并在所述动态点采样范围内获取多个所述动态采样点时,具体用于:
对所述人物轮廓区域分别进行膨胀和腐蚀,确定出人物膨胀轮廓区域和人物腐蚀轮廓区域;
在所述人物膨胀轮廓区域的边缘、所述人物腐蚀轮廓区域的边缘和所述人物轮廓区域的内部获取多个动态采样点。
12.根据权利要求11所述的装置,其中,所述区域划分模块在用于在所述动态点采样范围外获取多个所述固定采样点时,具体用于:在所述人物膨胀轮廓区域的外部获取多个所述固定采样点。
13.根据权利要求10所述的装置,其中,所述区域划分模块在用于在所述动态点采样范围外获取多个所述固定采样点时,具体用于:在所述第一图片的边界上获取多个所述固定采样点。
14.根据权利要求9-13中任一项所述的装置,其中,所述图片获取模块在用于对所述第一图片中的至少部分所述三角形进行变形,得到第二图片时,具体用于:
从所述第一图片中识别出预设类型的人体关键点;
将至少一个所述采样点基于至少一个类型的人体关键点旋转预设角度,以使所述第一图片中的至少部分所述三角形变形。
15.根据权利要求14所述的装置,其中,所述多个采样点包括固定采样点和动态采样点,所述图片获取模块在用于将至少一个所述采样点基于至少一个类型的人体关键点旋转预设角度时,具体用于:
所述将至少一个所述动态采样点基于至少一个类型的人体关键点旋转预设角度。
16.根据权利要求9所述的装置,其中,所述视频生成模块在用于获取所述第一图片和所述第二图片之间的至少一个中间图片时,具体用于:
基于所述第一图片和所述第二图片进行视频插帧,获取所述第一图片和所述第二图片之间的至少一个中间图片。
17.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-8中任一项所述的方法。
19.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-8中任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110813685.1A CN113538644B (zh) | 2021-07-19 | 2021-07-19 | 人物动态视频生成方法、装置、电子设备以及存储介质 |
US17/849,225 US20220327757A1 (en) | 2021-07-19 | 2022-06-24 | Method and apparatus for generating dynamic video of character, electronic device and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110813685.1A CN113538644B (zh) | 2021-07-19 | 2021-07-19 | 人物动态视频生成方法、装置、电子设备以及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113538644A true CN113538644A (zh) | 2021-10-22 |
CN113538644B CN113538644B (zh) | 2023-08-29 |
Family
ID=78100207
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110813685.1A Active CN113538644B (zh) | 2021-07-19 | 2021-07-19 | 人物动态视频生成方法、装置、电子设备以及存储介质 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20220327757A1 (zh) |
CN (1) | CN113538644B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105427364A (zh) * | 2015-11-06 | 2016-03-23 | 厦门大学 | 一种多点触控二维动画的制作方法 |
CN110049351A (zh) * | 2019-05-23 | 2019-07-23 | 北京百度网讯科技有限公司 | 视频流中人脸变形的方法和装置、电子设备、计算机可读介质 |
CN110910322A (zh) * | 2019-11-05 | 2020-03-24 | 北京奇艺世纪科技有限公司 | 图片处理方法、装置、电子设备及计算机可读存储介质 |
CN111127641A (zh) * | 2019-12-31 | 2020-05-08 | 中国人民解放军陆军工程大学 | 一种具有高逼真面部特征的三维人体参数化建模方法 |
CN111127603A (zh) * | 2020-01-06 | 2020-05-08 | 北京字节跳动网络技术有限公司 | 动画生成方法、装置、电子设备及计算机可读存储介质 |
WO2021073416A1 (zh) * | 2019-10-18 | 2021-04-22 | 平安科技(深圳)有限公司 | 基于神经网络生成虚拟人物视频的方法及相关设备 |
CN112989935A (zh) * | 2021-02-05 | 2021-06-18 | 北京百度网讯科技有限公司 | 一种视频生成方法、装置、设备以及存储介质 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11094137B2 (en) * | 2012-02-24 | 2021-08-17 | Matterport, Inc. | Employing three-dimensional (3D) data predicted from two-dimensional (2D) images using neural networks for 3D modeling applications and other applications |
US10667697B2 (en) * | 2015-06-14 | 2020-06-02 | Facense Ltd. | Identification of posture-related syncope using head-mounted sensors |
US10813559B2 (en) * | 2015-06-14 | 2020-10-27 | Facense Ltd. | Detecting respiratory tract infection based on changes in coughing sounds |
US10255712B2 (en) * | 2016-04-08 | 2019-04-09 | Adobe Inc. | Animation using keyframing and projected dynamics simulation |
US10469768B2 (en) * | 2017-10-13 | 2019-11-05 | Fyusion, Inc. | Skeleton-based effects and background replacement |
US11193513B2 (en) * | 2018-07-18 | 2021-12-07 | The Texas A&M University System | Efficient mechanical generation of cavitation in liquids |
US20210280322A1 (en) * | 2019-10-31 | 2021-09-09 | Facense Ltd. | Wearable-based certification of a premises as contagion-safe |
US11741618B2 (en) * | 2021-03-22 | 2023-08-29 | Everypoint, Inc. | Performing object modeling by combining visual data from images with motion data of the image acquisition device |
-
2021
- 2021-07-19 CN CN202110813685.1A patent/CN113538644B/zh active Active
-
2022
- 2022-06-24 US US17/849,225 patent/US20220327757A1/en not_active Abandoned
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105427364A (zh) * | 2015-11-06 | 2016-03-23 | 厦门大学 | 一种多点触控二维动画的制作方法 |
CN110049351A (zh) * | 2019-05-23 | 2019-07-23 | 北京百度网讯科技有限公司 | 视频流中人脸变形的方法和装置、电子设备、计算机可读介质 |
WO2021073416A1 (zh) * | 2019-10-18 | 2021-04-22 | 平安科技(深圳)有限公司 | 基于神经网络生成虚拟人物视频的方法及相关设备 |
CN110910322A (zh) * | 2019-11-05 | 2020-03-24 | 北京奇艺世纪科技有限公司 | 图片处理方法、装置、电子设备及计算机可读存储介质 |
CN111127641A (zh) * | 2019-12-31 | 2020-05-08 | 中国人民解放军陆军工程大学 | 一种具有高逼真面部特征的三维人体参数化建模方法 |
CN111127603A (zh) * | 2020-01-06 | 2020-05-08 | 北京字节跳动网络技术有限公司 | 动画生成方法、装置、电子设备及计算机可读存储介质 |
CN112989935A (zh) * | 2021-02-05 | 2021-06-18 | 北京百度网讯科技有限公司 | 一种视频生成方法、装置、设备以及存储介质 |
Non-Patent Citations (3)
Title |
---|
JI-HO CHO ET AL: "Depth image processing technique for representing human actors in 3DTV using single depth camera", 《 2007 3DTV CONFERENCE》 * |
戴振龙;朱海一;张申;贾珈;蔡莲红;: "基于MPEG-4的人脸表情图像变形研究", 中国图象图形学报, no. 05 * |
李桂;李腾;: "基于姿态引导的场景保留人物视频生成", 图学学报, no. 04 * |
Also Published As
Publication number | Publication date |
---|---|
CN113538644B (zh) | 2023-08-29 |
US20220327757A1 (en) | 2022-10-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112785674B (zh) | 纹理贴图的生成方法、渲染方法、装置、设备及存储介质 | |
CN114550177B (zh) | 图像处理的方法、文本识别方法及装置 | |
CN112652057B (zh) | 生成人体三维模型的方法、装置、设备以及存储介质 | |
CN110443230A (zh) | 人脸融合方法、装置以及电子设备 | |
CN113409430B (zh) | 可驱动三维人物生成方法、装置、电子设备及存储介质 | |
CN115018992B (zh) | 发型模型的生成方法、装置、电子设备及存储介质 | |
CN113657396B (zh) | 训练方法、译文展示方法、装置、电子设备以及存储介质 | |
CN115222879B (zh) | 一种模型减面处理方法、装置、电子设备及存储介质 | |
CN113393468A (zh) | 图像处理方法、模型训练方法、装置和电子设备 | |
CN114549728A (zh) | 图像处理模型的训练方法、图像处理方法、装置及介质 | |
CN113421335B (zh) | 图像处理方法、图像处理装置、电子设备和存储介质 | |
CN113962845B (zh) | 图像处理方法、图像处理装置、电子设备以及存储介质 | |
CN115359166B (zh) | 一种图像生成方法、装置、电子设备和介质 | |
CN113961746B (zh) | 视频生成方法、装置、电子设备及可读存储介质 | |
CN115222895B (zh) | 图像生成方法、装置、设备以及存储介质 | |
CN115423919B (zh) | 图像的渲染方法、装置、设备以及存储介质 | |
CN113538644B (zh) | 人物动态视频生成方法、装置、电子设备以及存储介质 | |
CN115965735A (zh) | 纹理贴图的生成方法和装置 | |
CN112528707A (zh) | 图像处理方法、装置、设备及存储介质 | |
CN115861510A (zh) | 对象渲染方法、装置、电子设备、存储介质及程序产品 | |
CN114972587A (zh) | 表情驱动方法、装置、电子设备及可读存储介质 | |
CN113610992B (zh) | 骨骼驱动系数确定方法、装置、电子设备及可读存储介质 | |
CN114820908B (zh) | 虚拟形象生成方法、装置、电子设备和存储介质 | |
CN113470131B (zh) | 海面仿真图像的生成方法、装置、电子设备和存储介质 | |
CN115953553B (zh) | 虚拟形象生成方法、装置、电子设备以及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |