CN114187392A - 虚拟偶像的生成方法、装置和电子设备 - Google Patents
虚拟偶像的生成方法、装置和电子设备 Download PDFInfo
- Publication number
- CN114187392A CN114187392A CN202111279831.3A CN202111279831A CN114187392A CN 114187392 A CN114187392 A CN 114187392A CN 202111279831 A CN202111279831 A CN 202111279831A CN 114187392 A CN114187392 A CN 114187392A
- Authority
- CN
- China
- Prior art keywords
- target
- virtual
- face
- determining
- fusion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 230000009471 action Effects 0.000 claims abstract description 123
- 239000000463 material Substances 0.000 claims abstract description 42
- 230000033001 locomotion Effects 0.000 claims description 81
- 230000004927 fusion Effects 0.000 claims description 80
- 238000004590 computer program Methods 0.000 claims description 16
- 238000005516 engineering process Methods 0.000 claims description 10
- 230000004044 response Effects 0.000 claims description 6
- 238000001514 detection method Methods 0.000 claims description 4
- 238000013473 artificial intelligence Methods 0.000 abstract description 2
- 238000013135 deep learning Methods 0.000 abstract 1
- 230000000875 corresponding effect Effects 0.000 description 47
- 238000010586 diagram Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 8
- 238000012545 processing Methods 0.000 description 7
- 230000003044 adaptive effect Effects 0.000 description 5
- 239000013598 vector Substances 0.000 description 5
- 238000013461 design Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000014509 gene expression Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000036541 health Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000006978 adaptation Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/20—3D [Three Dimensional] animation
- G06T13/40—3D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/757—Matching configurations of points or features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/803—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of input or preprocessed data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/174—Facial expression recognition
- G06V40/176—Dynamic expression
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Evolutionary Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Processing Or Creating Images (AREA)
- Image Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种虚拟偶像的生成方法、装置和电子设备,涉及计算机视觉和深度学习等人工智能技术领域。具体实现方案为:在获取虚拟偶像时,可以先获取目标对象的特征信息,并将该目标对象的特征信息作为虚拟偶像的生成依据,有针对性地从预设的人脸素材库中确定与特征信息匹配的目标虚拟人脸,以及从预设的动作视频库中,确定与特征信息匹配的目标动作视频;再将虚拟人脸与动作视频中的人脸图像进行融合,这样可以有针对地生成目标对象代言场景下的虚拟偶像,使得后续可以通过虚拟偶像代言目标对象。
Description
技术领域
本公开涉及图像处理技术领域,尤其涉及计算机视觉和深度学习等人工智能技术领域,具体涉及一种对虚拟偶像的生成方法、装置和电子设备。
背景技术
虚拟偶像,是通过绘画、动画等形式制作,在因特网等虚拟场景或现实场景进行活动,但本身并不以实体形式存在的人物形象。
在通过虚拟偶像替代真人进行活动时,以产品代言场景为例,如何生成该产品代言场景下的虚拟偶像,以通过虚拟偶像替代真人进行产品代言是本领域技术人员亟待解决的问题。
发明内容
本公开提供了一种虚拟偶像的生成方法、装置和电子设备,可以有针对性地生成目标对象代言场景下的虚拟偶像,这样后续可以通过虚拟偶像代言目标对象。
根据本公开的第一方面,提供了一种虚拟偶像的生成方法,该虚拟偶像的生成方法可以包括:
获取目标对象的特征信息。
从预设的人脸素材库中确定与所述特征信息匹配的目标虚拟人脸,以及从预设的动作视频库中,确定与所述特征信息匹配的目标动作视频。
将所述目标虚拟人脸与所述目标动作视频中的人脸图像进行融合,生成所述目标对象对应的虚拟偶像。
根据本公开的第二方面,提供了一种虚拟偶像的生成装置,该虚拟偶像的生成装置可以包括:
获取单元,用于获取目标对象的特征信息。
确定单元,用于从预设的人脸素材库中确定与所述特征信息匹配的目标虚拟人脸,以及从预设的动作视频库中,确定与所述特征信息匹配的目标动作视频。
融合单元,用于将所述目标虚拟人脸与所述目标动作视频中的人脸图像进行融合,生成所述目标对象对应的虚拟偶像。
根据本公开的第三方面,提供了一种电子设备,该电子设备可以包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述第一方面所述的虚拟偶像的生成方法。
根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行上述第一方面所述的虚拟偶像的生成方法。
根据本公开的第五方面,提供了一种计算机程序产品,所述计算机程序产品包括:计算机程序,所述计算机程序存储在可读存储介质中,电子设备的至少一个处理器可以从所述可读存储介质读取所述计算机程序,所述至少一个处理器执行所述计算机程序使得电子设备执行第一方面所述的虚拟偶像的生成方法。
根据本公开的技术方案,可以有针对性地生成目标对象代言场景下的虚拟偶像,这样后续可以通过虚拟偶像代言目标对象。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开第一实施例提供的虚拟偶像的生成方法的流程示意图;
图2是本公开实施例提供的多个具有真实偶像气质的虚拟人脸的示意图;
图3是根据本公开第三实施例提供的生成目标对象对应的虚拟偶像的方法的流程示意图;
图4是本公开实施例提供的一种人脸融合网络模型的示意图;
图5是本公开实施例提供的一种目标融合图像的示意图;
图6是根据本公开第四实施例提供的虚拟偶像的生成装置60的结构示意图;
图7是本公开实施例提供的一种电子设备的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
在本公开的实施例中,“至少一个”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,描述关联对象的访问关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况,其中A,B可以是单数或者复数。在本公开的文字描述中,字符“/”一般表示前后关联对象是一种“或”的关系。此外,在本公开实施例中,“第一”、“第二”、“第三”、“第四”、“第五”以及“第六”只是为了区分不同对象的内容而已,并无其它特殊含义。
本公开实施例提供的技术方案可以应用于产品代言、产品直播、甚至于影视演出等场景中。以应用于产品代言场景为例,在通过虚拟偶像进行产品代言时,需要先生成虚拟偶像。其中,虚拟偶像,是通过绘画、动画等形式制作,在因特网等虚拟场景或现实场景进行活动,但本身并不以实体形式存在的人物形象。
现有技术中,在生成虚拟偶像时,通常是先采用3D建模技术,设计3D虚拟形象;并采用采用专业的动捕设备,光学捕捉真人的动作和表情;光学捕捉到的动作和表情映射到3D虚拟形象上,从而驱动虚拟偶像,以通过虚拟偶像进行产品代言。
但是,采用现有的虚拟偶像生成方法,采用3D建模技术设计3D虚拟形象时,其设计比较复杂,且拟人性较差;此外,采用光学捕捉真人的动作和表情时,惯性捕捉精度差,且易受地磁干扰。
为了可以较好地生成虚拟偶像,可以考虑基于需要代言的目标对象的特征信息,有针对性地选择与特征信息匹配的虚拟人脸,以及与特征信息匹配的动作视频;并采用人脸融合技术,将虚拟人脸与动作视频中的人脸图像进行融合,这样可以有针对地生成目标对象代言场景下的虚拟偶像,使得后续可以通过虚拟偶像代言目标对象;并且,在通过虚拟偶像代言目标对象时,采用人脸融合技术生成虚拟偶像,还可以有效解决现有技术中生成虚拟偶像时存在的3D虚拟形象设计比较复杂,拟人性较差,以及惯性捕捉精度差,且易受地磁干扰的问题。
基于上述技术构思,本公开实施例提供了一种虚拟偶像的生成方法,下面,将通过具体的实施例对本公开提供的虚拟偶像的生成方法进行详细地说明。可以理解的是,下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不再赘述。
实施例一
图1是根据本公开第一实施例提供的虚拟偶像的生成方法的流程示意图,该虚拟偶像的生成方法可以由软件和/或硬件装置执行,例如,该硬件装置可以为终端或者服务器。示例的,请参见图1所示,该虚拟偶像的生成方法可以包括:
S101、获取目标对象的特征信息。
示例的,特征信息可以包括目标对象的适应人群、目标对象的类型等信息,具体可以根据实际需要进行设置。例如,当目标对象为儿童运动鞋时,特征信息包括适应人群为儿童,类型为运动类等。当目标对象为老年产品时,特征信息可以包括适应人群为老年人,类型为保健类等。
示例的,在获取目标对象的特征信息时,可以直接接收用户输入的目标对象的特征信息,也可以接收其它电子设备发送的目标对象的特征信息,也可以从本地存储中获取目标对象的特征信息,也可以通过其它方法获取目标对象的特征信息,具体可以根据实际需要进行设置,在此,本公开实施例只是上述三种方法为例进行说明,但并不代表本公开实施例仅局限于此。
在获取到目标对象的特征信息后,为了有针对性地生成目标对象代言场景下的虚拟偶像,可以将该目标对象的特征信息作为生成依据,从预设的人脸素材库中确定与特征信息匹配的目标虚拟人脸,以及从预设的动作视频库中,确定与特征信息匹配的目标动作视频,从而基于目标虚拟人脸和目标动作视频生成目标对象代言场景下的虚拟偶像,即执行下述S102和S103:
S102、从预设的人脸素材库中确定与特征信息匹配的目标虚拟人脸,以及从预设的动作视频库中,确定与特征信息匹配的目标动作视频。
其中,人脸素材库中包括多个虚拟人脸。
可以理解的是,从预设的人脸素材库中确定与特征信息匹配的目标虚拟人脸之前,需要预先建立预设的人脸素材库。示例的,在预先建立人脸素材库时,可以通过人脸生成网络模型创建多个有真实偶像气质的虚拟人脸,并基于该多个有真实偶像气质的虚拟人脸建立预设的人脸素材库。需要说明的是,在获取到新的虚拟人脸时,还可以采用该新的虚拟人脸对预设的人脸素材库进行更新。
示例的,人脸生成网络模型可以采取stylegan2模型,也可以其它具有类似功能的网络模型,具体可以根据实际需要进行设置,本公开实施例只是以人脸生成网络模型为stylegan2模型为例进行说明,但并不代表本公开实施例仅局限于此。
以人脸生成网络模型为stylegan2模型为例,在通过stylegan2模型创建多个美观的虚拟人脸时,可以先收集大量的真实偶像图像,并采用该大量的真实偶像图像对初始stylegan2模型进行训练,得到优化后的stylegan2模型;从而通过优化后的stylegan2模型生成多个具有真实偶像气质的虚拟人脸,示例的,可参见图2所示,图2是本公开实施例提供的多个具有真实偶像气质的虚拟人脸的示意图,在获取到多个具有真实偶像气质的虚拟人脸后,可以将该多个具有真实偶像气质的虚拟人脸作为人脸素材库中的虚拟人脸,从而建立预设的人脸素材库。
其中,动作视频库中包括多个动作视频,该动作视频是指用户的肢体动作视频。
可以理解的是,从预设的动作视频库中,确定与特征信息匹配的目标动作视频之前,需要预先建立预设的动作视频库。示例的,在预先建立预设的动作视频库时,可以采用摄像设备,例如摄像机等录制大量用户的动作视频,并基于该录制的大量用户的肢体动作建立预设的动作视频库。需要说明的是,在获取到新的动作视频时,还可以采用该新的动作视频对预设的动作视频库进行更新。
在将目标对象的特征信息作为生成依据,从预设的人脸素材库中确定与特征信息匹配的目标虚拟人脸,以及从预设的动作视频库中,确定与特征信息匹配的目标动作视频后,就可以执行下述S103:
S103、将目标虚拟人脸与目标动作视频中的人脸图像进行融合,生成目标对象对应的虚拟偶像。
其中,目标动作视频中的人脸图像可以理解为真实的人脸图像,即目标动作视频中的用户的人脸图像。
示例的,将目标虚拟人脸与目标动作视频中的人脸图像进行融合时,可以采用人脸融合技术,将目标虚拟人脸与目标动作视频中的人脸图像进行融合,从而生成虚拟偶像。
可以看出,本公开实施例中,在获取虚拟偶像时,可以先获取目标对象的特征信息,并将该目标对象的特征信息作为虚拟偶像的生成依据,有针对性地从预设的人脸素材库中确定与特征信息匹配的目标虚拟人脸,以及从预设的动作视频库中,确定与特征信息匹配的目标动作视频;再将虚拟人脸与动作视频中的人脸图像进行融合,这样可以有针对地生成目标对象代言场景下的虚拟偶像,使得后续可以通过虚拟偶像代言目标对象。
基于上述图1所示的实施例,为了便于理解在上述实施例一所示的S102中,如何从预设的人脸素材库中确定与特征信息匹配的目标虚拟人脸,以及从预设的动作视频库中,确定与特征信息匹配的目标动作视频,下面,将通过下述实施例二进行详细描述。
实施例二
从预设的人脸素材库中确定与特征信息匹配的目标虚拟人脸时,示例的,可以先确定特征信息对应的目标虚拟人脸类型,并根据目标虚拟人脸类型,从预设的人脸素材库中确定目标虚拟人脸。
示例的,虚拟人脸类型可以青春类型、活泼类型、大方类型、庄重类型、美丽类型、帅气类型、阳光类型等,具体可以根据实际需要进行设置,在此,本公开实施例只是以这几种类型为例进行说明,但并不代表本公开实施例仅局限于此。
示例的,当目标对象为儿童运动鞋,特征信息包括适应人群为儿童,类型为运动类时,对应的目标虚拟人脸类型可以为青春类型,和/或活泼类型等;当目标对象为老年产品时,特征信息包括适应人群为老年人,类型为保健类时,对应的目标虚拟人脸类型可以为大方类型,和/或庄重类型等。
在确定出特征信息对应的目标虚拟人脸类型后,就可以根据目标虚拟人脸类型,从预设的人脸素材库中确定目标虚拟人脸。示例的,人脸素材库中包括多个虚拟人脸之外,还可以包括各虚拟人脸对应的虚拟人脸类型,且各虚拟人脸类型可以标注在对应的虚拟人脸上。
示例的,根据目标虚拟人脸类型,从预设的人脸素材库中确定目标虚拟人脸时,可以包括两种情况,一种情况为:根据目标虚拟人脸类型,从预设的人脸素材库中,确定目标虚拟人脸类型对应的虚拟人脸,且虚拟人脸的数量为一个时,可以直接将该虚拟人脸确定为目标虚拟人脸。
另一种情况为:根据目标虚拟人脸类型,从预设的人脸素材库中,确定目标虚拟人脸类型对应的虚拟人脸,且虚拟人脸的数量为多个,即根据目标虚拟人脸类型,确定出多个虚拟人脸,则需要进一步从目标虚拟人脸类型对应的多个虚拟人脸中选择一个虚拟人脸,将其确定为目标虚拟人脸。
示例的,从目标虚拟人脸类型对应的多个虚拟人脸中确定目标虚拟人脸时,可以包括下述至少三种可能的实现方式:
在一种可能的实现方式中,可以从目标虚拟人脸类型对应的多个虚拟人脸中,随机选择一个虚拟人脸,并将其确定为目标虚拟人脸。
在另一种可能的实现方式中,可以根据虚拟人脸的历史被选频率,从目标虚拟人脸类型对应的多个虚拟人脸中,确定历史被选频率最高的虚拟人脸,并将其确定为目标虚拟人脸。
在又一种可能的实现中,从目标虚拟人脸类型对应的多个虚拟人脸中确定目标虚拟人脸时,可以向用户显示该目标虚拟人脸类型对应的多个虚拟人脸,使得用户可以根据需求在显示的多个虚拟人脸中,选择需要的虚拟人脸;响应于用户在多个虚拟人脸中的选择指令,从多个虚拟人脸中确定目标虚拟人脸。
可以看出,相比于前两种可能的实现方式,通过向用户显示多个虚拟人脸,并响应于在多个虚拟人脸中的选择指令,从多个虚拟人脸中确定目标虚拟人脸的实现方式,充分考虑了用户的需求,使得选择的目标虚拟人脸更加符合用户的需求。
需要说明的是,本公开实施例中,从目标虚拟人脸类型对应的多个虚拟人脸中确定目标虚拟人脸时,只是以上述三种可能的实现方式为例进行说明,具体可以根据实际需要进行设置。
可以看出,本公开实施例中,从预设的人脸素材库中确定与特征信息匹配的目标虚拟人脸时,可以先确定特征信息对应的目标虚拟人脸类型,并根据目标虚拟人脸类型,有针对性地从预设的人脸素材库中确定目标虚拟人脸,这样确定出的目标虚拟人脸更加符合目标对象的特征信息,后续基于目标虚拟人脸可以有针对地生成目标对象代言场景下的虚拟偶像,使得后续可以通过虚拟偶像代言目标对象。
在生成虚拟偶像时,除了上述需要从预设的人脸素材库中确定与特征信息匹配的目标虚拟人脸之外,还需要从预设的动作视频库中,确定与特征信息匹配的目标动作视频。下面,将详细描述如何从预设的动作视频库中,确定与特征信息匹配的目标动作视频。
从预设的动作视频库中,确定与特征信息匹配的目标动作视频时,示例的,可以先确定特征信息对应的目标服饰类型;并根据目标服饰类型,从预设的动作视频库中确定目标动作视频。
示例的,服饰类型可以运动装类型、休闲装类型、正装类型等,具体可以根据实际需要进行设置,在此,本公开实施例只是以这几种类型为例进行说明,但并不代表本公开实施例仅局限于此。
示例的,当目标对象为儿童运动鞋,特征信息包括适应人群为儿童,类型为运动类时,对应的目标服饰类型可以为运动装类型;当目标对象为老年产品时,特征信息包括适应人群为老年人,类型为保健类时,对应的目标服饰类型可以休闲装类型。
在确定出特征信息对应的目标服饰类型后,就可以根据目标服饰类型,从预设的动作视频库中确定目标动作视频。示例的,动作视频库中包括多个动作视频之外,还可以包括各动作视频对应的服饰类型,且各服饰类型可以标注在对应的动作视频上。
示例的,根据目标服饰类型,从预设的动作视频库中确定目标动作视频时,可以包括两种情况,一种情况为:根据目标服饰类型,从预设的动作视频库中,确定目标动作视频类型对应的动作视频,且动作视频的数量为一个时,可以直接将该动作视频确定为目标动作视频。
另一种情况为:根据目标动作视频类型,从预设的动作视频库中,确定目标动作视频类型对应的动作视频,且动作视频的数量为多个,即根据目标动作视频类型,确定出多个动作视频,则需要进一步从目标动作视频类型对应的多个动作视频中选择一个动作视频,将其确定为目标动作视频。
示例的,从目标动作视频类型对应的多个动作视频中确定目标动作视频时,可以包括下述至少三种可能的实现方式:
在一种可能的实现方式中,可以从目标动作视频类型对应的多个动作视频中,随机选择一个动作视频,并将其确定为目标动作视频。
在另一种可能的实现方式中,可以根据动作视频的历史被选频率,从目标动作视频类型对应的多个动作视频中,确定历史被选频率最高的动作视频,并将其确定为目标动作视频。
在又一种可能的实现中,从目标动作视频类型对应的多个动作视频中确定目标动作视频时,可以向用户显示该目标动作视频类型对应的多个动作视频,使得用户可以根据需求在显示的多个动作视频中,选择需要的动作视频;响应于用户在多个动作视频中的选择指令,从多个动作视频中确定目标动作视频。
可以看出,相比于前两种可能的实现方式,通过向用户显示多个动作视频,并响应于在多个动作视频中的选择指令,从多个动作视频中确定目标动作视频的实现方式,充分考虑了用户的需求,使得选择的目标动作视频更加符合用户的需求。
需要说明的是,本公开实施例中,从目标动作视频类型对应的多个动作视频中确定目标动作视频时,只是以上述三种可能的实现方式为例进行说明,具体可以根据实际需要进行设置。
可以看出,本公开实施例中,从预设的动作视频库中确定与特征信息匹配的目标动作视频时,可以先确定特征信息对应的目标动作视频类型,并根据目标动作视频类型,有针对性地从预设的动作视频库中确定目标动作视频,这样确定出的目标动作视频更加符合目标对象的特征信息,后续基于目标动作视频可以有针对地生成目标对象代言场景下的虚拟偶像,使得后续可以通过虚拟偶像代言目标对象。
基于上述任一项实施例,在从预设的人脸素材库中确定出与特征信息匹配的目标虚拟人脸,以及从预设的动作视频库中,确定出与特征信息匹配的目标动作视频,就可以将目标虚拟人脸与目标动作视频中的人脸图像进行融合,生成目标对象对应的虚拟偶像。为了便于理解在本公开实施例中,如何将目标虚拟人脸与目标动作视频中的人脸图像进行融合,生成目标对象对应的虚拟偶像,下面,将通过下述图3所示的实施例三进行详细描述。
实施例三
图3是根据本公开第三实施例提供的生成目标对象对应的虚拟偶像的方法的流程示意图,该生成目标对象对应的虚拟偶像的方法同样可以由软件和/或硬件装置执行。示例的,请参见图3所示,该生成目标对象对应的虚拟偶像的方法可以包括:
S301、将目标虚拟人脸与人脸图像进行融合,得到目标融合图像。
示例的,将目标虚拟人脸与人脸图像进行融合时,可以获取人脸融合网络模型;并将目标虚拟人脸和人脸图像输入至人脸融合网络模型中,通过人脸融合网络模型将目标虚拟人脸与人脸图像进行融合,从而得到目标融合图像。
示例的,采用人脸融合网络模型将目标虚拟人脸与人脸图像进行融合时,可参见图4所示,图4是本公开实施例提供的一种人脸融合网络模型的示意图,可以将目标虚拟人脸和人脸图像输入至人脸融合网络模型中,通过人脸融合网络模型分别提取目标虚拟人脸和人脸图像各自的特征向量;其中,目标虚拟人脸的特征向量可以记为Xt,用于提供目标融合图像所需的背景信息和表情信息;人脸图像的特征向量可以记为Xs,用于提供目标融合图像所需的身份信息;再通过人脸融合网络模型中的AAD生成器,将目标虚拟人脸的特征向量Xt和人脸图像的特征向量Xs进行融合,得到融合后的目标融合图像。
示例的,可参见图5所示,图5是本公开实施例提供的一种目标融合图像的示意图,可以看出,采用人脸融合网络模型将目标虚拟人脸与人脸图像进行融合,得到的目标融合图像,相对于目标虚拟人脸和人脸图像,具有较好地的高相似度、高清晰度以及时序稳定性。
在将目标虚拟人脸与人脸图像进行融合,得到目标融合图像后,就可以采用目标融合图像替换目标动作视频中的人脸图像,得到新的动作视频,即执行下述S302:
S302、采用目标融合图像替换目标动作视频中的人脸图像,得到新的动作视频。
其中,新的动作视频中的人脸图像为融合得到的目标融合图像,动作仍为目标动作视频中的动作。
S303、基于新的动作视频生成虚拟偶像。
示例的,基于新的动作视频生成虚拟偶像时,可以采用关键点检测技术,提取新的动作视频中的关键点;其中,关键点包括脸部关键点、手部关键点以及肢体关键点;并基于脸部关键点、手部关键点以及肢体关键点,构建虚拟偶像,这样构建得到的虚拟偶像为一个可以执行该新的动作视频的动态虚拟偶像。
可以看出,本公开实施例中,在将目标虚拟人脸与目标动作视频中的人脸图像进行融合,生成目标对象对应的虚拟偶像时,可以先将目标虚拟人脸与人脸图像进行融合,得到目标融合图像;采用目标融合图像替换目标动作视频中的人脸图像,得到新的动作视频;再基于新的动作视频生成动态虚拟偶像,这样基于目标虚拟人脸和目标动作视频,可以有针对地生成目标对象代言场景下的虚拟偶像,使得后续可以通过虚拟偶像代言目标对象。
基于上述任一实施例,在生成目标对象代言场景下的虚拟偶像之后,为了使得该虚拟偶像可以进行目标对象代言,还可以进一步通过摄像设备采集用户代言目标对象时执行的目标动作,并驱动虚拟偶像执行目标动作,从而使得该虚拟偶像可以执行该目标动作,实现通过该虚拟偶像实现对目标对象的代言。
实施例四
图6是根据本公开第四实施例提供的虚拟偶像的生成装置60的结构示意图,示例的,请参见图6所示,该虚拟偶像的生成装置60可以包括:
获取单元601,用于获取目标对象的特征信息。
确定单元602,用于从预设的人脸素材库中确定与特征信息匹配的目标虚拟人脸,以及从预设的动作视频库中,确定与特征信息匹配的目标动作视频。
融合单元603,用于将目标虚拟人脸与目标动作视频中的人脸图像进行融合,生成目标对象对应的虚拟偶像。
可选的,融合单元603包括第一融合模块、第二融合模块以及第三融合模块。
第一融合模块,用于将目标虚拟人脸与人脸图像进行融合,得到目标融合图像。
第二融合模块,用于采用目标融合图像替换目标动作视频中的人脸图像,得到新的动作视频。
第三融合模块,用于基于新的动作视频生成虚拟偶像。
可选的,第三融合模块包括第一融合子模块和第二融合子模块。
第一融合子模块,用于采用关键点检测技术,提取新的动作视频中的关键点;其中,关键点包括脸部关键点、手部关键点以及肢体关键点。
第二融合子模块,用于基于脸部关键点、手部关键点以及肢体关键点,构建虚拟偶像。
可选的,第一融合模块包括第三融合子模块和第四融合子模块。
第三融合子模块,用于获取人脸融合网络模型。
第四融合子模块,用于将目标虚拟人脸和人脸图像输入至人脸融合网络模型中,得到目标融合图像。
可选的,该虚拟偶像的生成装置60还包括采集单元和驱动单元。
采集单元,用于通过摄像设备采集用户代言目标对象时执行的目标动作。
驱动单元,用于驱动虚拟偶像执行目标动作。
可选的,确定单元602包括第一确定模块和第二确定模块。
第一确定模块,用于确定特征信息对应的目标虚拟人脸类型。
第二确定模块,用于根据目标虚拟人脸类型,从预设的人脸素材库中确定目标虚拟人脸。
可选的,人脸素材库中包括多个虚拟人脸,且各虚拟人脸标注有虚拟人脸类型;第二确定模块包括第一确定子模块和第二确定子模块。
第一确定子模块,用于从预设的人脸素材库中,确定并显示目标虚拟人脸类型对应的多个虚拟人脸。
第二确定子模块,用于响应于在多个虚拟人脸中的选择指令,从多个虚拟人脸中确定目标虚拟人脸。
可选的,确定单元602还包括第三确定模块和第四确定模块。
第三确定模块,用于确定特征信息对应的目标服饰类型。
第四确定模块,用于根据目标服饰类型,从预设的动作视频库中确定目标动作视频。
可选的,动作视频库中包括多个动作视频,各动作视频的服饰标注有服饰类型;第四确定模块包括第三确定子模块和第四确定子模块。
第三确定子模块,用于从预设的动作视频库中,确定并显示目标服饰类型对应的多个动作视频。
第四确定子模块,用于响应于在多个动作视频中的选择指令,从多个动作视频中确定目标动作视频。
本公开实施例提供的虚拟偶像的生成装置60,可以执行上述任一实施例所示的虚拟偶像的生成方法的技术方案,其实现原理以及有益效果与虚拟偶像的生成方法的实现原理及有益效果类似,可参见虚拟偶像的生成方法的实现原理及有益效果,此处不再进行赘述。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
根据本公开的实施例,本公开还提供了一种计算机程序产品,计算机程序产品包括:计算机程序,计算机程序存储在可读存储介质中,电子设备的至少一个处理器可以从可读存储介质读取计算机程序,至少一个处理器执行计算机程序使得电子设备执行上述任一实施例提供的方案。
图7是本公开实施例提供的一种电子设备70的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图7所示,设备70包括计算单元701,其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序,来执行各种适当的动作和处理。在RAM 703中,还可存储设备70操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
设备70中的多个部件连接至I/O接口705,包括:输入单元706,例如键盘、鼠标等;输出单元707,例如各种类型的显示器、扬声器等;存储单元708,例如磁盘、光盘等;以及通信单元709,例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备70通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理,例如虚拟偶像的生成方法。例如,在一些实施例中,虚拟偶像的生成方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元708。在一些实施例中,计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备70上。当计算机程序加载到RAM 703并由计算单元701执行时,可以执行上文描述的虚拟偶像的生成方法的一个或多个步骤。备选地,在其他实施例中,计算单元701可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行虚拟偶像的生成方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (21)
1.一种虚拟偶像的生成方法,包括:
获取目标对象的特征信息;
从预设的人脸素材库中确定与所述特征信息匹配的目标虚拟人脸,以及从预设的动作视频库中,确定与所述特征信息匹配的目标动作视频;
将所述目标虚拟人脸与所述目标动作视频中的人脸图像进行融合,生成所述目标对象对应的虚拟偶像。
2.根据权利要求1所述的方法,其中,所述将所述目标虚拟人脸与所述目标动作视频中的人脸图像进行融合,生成所述目标对象对应的虚拟偶像,包括:
将所述目标虚拟人脸与所述人脸图像进行融合,得到目标融合图像;
采用所述目标融合图像替换所述目标动作视频中的人脸图像,得到新的动作视频;
基于所述新的动作视频生成所述虚拟偶像。
3.根据权利要求2所述的方法,其中,所述基于所述新的动作视频生成所述虚拟偶像,包括:
采用关键点检测技术,提取所述新的动作视频中的关键点;其中,所述关键点包括脸部关键点、手部关键点以及肢体关键点;
基于所述脸部关键点、手部关键点以及肢体关键点,构建所述虚拟偶像。
4.根据权利要求2所述的方法,其中,所述将所述目标虚拟人脸与所述人脸图像进行融合,得到目标融合图像,包括:
获取人脸融合网络模型;
将所述目标虚拟人脸和所述人脸图像输入至所述人脸融合网络模型中,得到所述目标融合图像。
5.根据权利要求1-4任一项所述的方法,所述方法还包括:
通过摄像设备采集用户代言所述目标对象时执行的目标动作;
驱动所述虚拟偶像执行所述目标作动。
6.根据权利要求1-5任一项所述的方法,其中,所述从预设的人脸素材库中确定与所述特征信息匹配的目标虚拟人脸,包括:
确定所述特征信息对应的目标虚拟人脸类型;
根据所述目标虚拟人脸类型,从所述预设的人脸素材库中确定所述目标虚拟人脸。
7.根据权利要求6所述的方法,其中,所述人脸素材库中包括多个虚拟人脸,且各虚拟人脸标注有虚拟人脸类型;
所述根据所述目标虚拟人脸类型,从所述预设的人脸素材库中确定所述目标虚拟人脸,包括:
从所述预设的人脸素材库中,确定并显示所述目标虚拟人脸类型对应的多个虚拟人脸;
响应于在所述多个虚拟人脸中的选择指令,从所述多个虚拟人脸中确定所述目标虚拟人脸。
8.根据权利要求1-7任一项所述的方法,其中,所述从预设的动作视频库中,确定与所述特征信息匹配的目标动作视频,包括:
确定所述特征信息对应的目标服饰类型;
根据所述目标服饰类型,从所述预设的动作视频库中确定所述目标动作视频。
9.根据权利要求8所述的方法,其中,所述动作视频库中包括多个动作视频,各动作视频的服饰标注有服饰类型;
根据所述目标服饰类型,从所述预设的动作视频库中确定所述目标动作视频,包括:
从所述预设的动作视频库中,确定并显示所述目标服饰类型对应的多个动作视频;
响应于在所述多个动作视频中的选择指令,从所述多个动作视频中确定所述目标动作视频。
10.一种虚拟偶像的生成装置,包括:
获取单元,用于获取目标对象的特征信息;
确定单元,用于从预设的人脸素材库中确定与所述特征信息匹配的目标虚拟人脸,以及从预设的动作视频库中,确定与所述特征信息匹配的目标动作视频;
融合单元,用于将所述目标虚拟人脸与所述目标动作视频中的人脸图像进行融合,生成所述目标对象对应的虚拟偶像。
11.根据权利要求10所述的装置,其中,所述融合单元包括第一融合模块、第二融合模块以及第三融合模块;
所述第一融合模块,用于将所述目标虚拟人脸与所述人脸图像进行融合,得到目标融合图像;
所述第二融合模块,用于采用所述目标融合图像替换所述目标动作视频中的人脸图像,得到新的动作视频;
所述第三融合模块,用于基于所述新的动作视频生成所述虚拟偶像。
12.根据权利要求11所述的装置,其中,所述第三融合模块包括第一融合子模块和第二融合子模块;
所述第一融合子模块,用于采用关键点检测技术,提取所述新的动作视频中的关键点;其中,所述关键点包括脸部关键点、手部关键点以及肢体关键点;
所述第二融合子模块,用于基于所述脸部关键点、手部关键点以及肢体关键点,构建所述虚拟偶像。
13.根据权利要求11所述的装置,其中,所述第一融合模块包括第三融合子模块和第四融合子模块;
所述第三融合子模块,用于获取人脸融合网络模型;
所述第四融合子模块,用于将所述目标虚拟人脸和所述人脸图像输入至所述人脸融合网络模型中,得到所述目标融合图像。
14.根据权利要求10-13任一项所述的装置,所述装置还包括采集单元和驱动单元;
所述采集单元,用于通过摄像设备采集用户代言所述目标对象时执行的目标动作;
所述驱动单元,用于驱动所述虚拟偶像执行所述目标作动。
15.根据权利要求10-14任一项所述的装置,其中,所述确定单元包括第一确定模块和第二确定模块;
所述第一确定模块,用于确定所述特征信息对应的目标虚拟人脸类型;
所述第二确定模块,用于根据所述目标虚拟人脸类型,从所述预设的人脸素材库中确定所述目标虚拟人脸。
16.根据权利要求15所述的装置,其中,所述人脸素材库中包括多个虚拟人脸,且各虚拟人脸标注有虚拟人脸类型;所述第二确定模块包括第一确定子模块和第二确定子模块;
所述第一确定子模块,用于从所述预设的人脸素材库中,确定并显示所述目标虚拟人脸类型对应的多个虚拟人脸;
所述第二确定子模块,用于响应于在所述多个虚拟人脸中的选择指令,从所述多个虚拟人脸中确定所述目标虚拟人脸。
17.根据权利要求10-16任一项所述的装置,其中,所述确定单元还包括第三确定模块和第四确定模块;
所述第三确定模块,用于确定所述特征信息对应的目标服饰类型;
所述第四确定模块,用于根据所述目标服饰类型,从所述预设的动作视频库中确定所述目标动作视频。
18.根据权利要求17所述的装置,其中,所述动作视频库中包括多个动作视频,各动作视频的服饰标注有服饰类型;所述第四确定模块包括第三确定子模块和第四确定子模块;
所述第三确定子模块,用于从所述预设的动作视频库中,确定并显示所述目标服饰类型对应的多个动作视频;
所述第四确定子模块,用于响应于在所述多个动作视频中的选择指令,从所述多个动作视频中确定所述目标动作视频。
19.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-9中任一项所述的虚拟偶像的生成方法。
20.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行权利要求1-9中任一项所述的虚拟偶像的生成方法。
21.一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现权利要求1-9中任一项所述的虚拟偶像的生成方法的步骤。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111279831.3A CN114187392B (zh) | 2021-10-29 | 2021-10-29 | 虚拟偶像的生成方法、装置和电子设备 |
EP22197903.2A EP4092636A3 (en) | 2021-10-29 | 2022-09-27 | Method and apparatus of generating virtual idol, and electronic device |
JP2022162287A JP2022185096A (ja) | 2021-10-29 | 2022-10-07 | 仮想アイドルの生成方法、装置及び電子機器 |
US17/964,028 US20230290029A1 (en) | 2021-10-29 | 2022-10-11 | Generation of virtual idol |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111279831.3A CN114187392B (zh) | 2021-10-29 | 2021-10-29 | 虚拟偶像的生成方法、装置和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114187392A true CN114187392A (zh) | 2022-03-15 |
CN114187392B CN114187392B (zh) | 2024-04-19 |
Family
ID=80601746
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111279831.3A Active CN114187392B (zh) | 2021-10-29 | 2021-10-29 | 虚拟偶像的生成方法、装置和电子设备 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20230290029A1 (zh) |
EP (1) | EP4092636A3 (zh) |
JP (1) | JP2022185096A (zh) |
CN (1) | CN114187392B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115082602A (zh) * | 2022-06-15 | 2022-09-20 | 北京百度网讯科技有限公司 | 生成数字人的方法、模型的训练方法、装置、设备和介质 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116030167B (zh) * | 2023-02-24 | 2023-06-30 | 北京红棉小冰科技有限公司 | 虚拟人物的驱动方法、装置、电子设备及可读存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005092657A (ja) * | 2003-09-19 | 2005-04-07 | Hitachi Ltd | 画像表示装置および画像表示方法 |
US20180122114A1 (en) * | 2016-08-19 | 2018-05-03 | Beijing Sensetime Technology Development Co., Ltd. | Method and apparatus for processing video image and electronic device |
CN111598818A (zh) * | 2020-04-17 | 2020-08-28 | 北京百度网讯科技有限公司 | 人脸融合模型训练方法、装置及电子设备 |
CN111696029A (zh) * | 2020-05-22 | 2020-09-22 | 平安普惠企业管理有限公司 | 虚拟形象视频生成方法、装置、计算机设备及存储介质 |
CN112004163A (zh) * | 2020-08-31 | 2020-11-27 | 北京市商汤科技开发有限公司 | 视频生成方法及装置、电子设备和存储介质 |
CN112423022A (zh) * | 2020-11-20 | 2021-02-26 | 北京字节跳动网络技术有限公司 | 视频生成及显示方法、装置、设备、介质 |
CN113240778A (zh) * | 2021-04-26 | 2021-08-10 | 北京百度网讯科技有限公司 | 虚拟形象的生成方法、装置、电子设备和存储介质 |
CN113362263A (zh) * | 2021-05-27 | 2021-09-07 | 百度在线网络技术(北京)有限公司 | 变换虚拟偶像的形象的方法、设备、介质及程序产品 |
CN113395569A (zh) * | 2021-05-29 | 2021-09-14 | 北京优幕科技有限责任公司 | 视频生成方法及装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11149285A (ja) * | 1997-11-17 | 1999-06-02 | Matsushita Electric Ind Co Ltd | 映像音響システム |
JP2002133280A (ja) * | 2000-10-26 | 2002-05-10 | Matsushita Electric Works Ltd | ヘアーセットのアドバイスシステム |
KR102661019B1 (ko) * | 2018-02-23 | 2024-04-26 | 삼성전자주식회사 | 얼굴에 대응하는 3차원 아바타를 이용하여 얼굴의 움직임이 반영된 3차원 아바타를 포함하는 이미지를 생성하는 전자 장치 및 그 동작 방법 |
KR102664688B1 (ko) * | 2019-02-19 | 2024-05-10 | 삼성전자 주식회사 | 가상 캐릭터 기반 촬영 모드를 제공하는 전자 장치 및 이의 동작 방법 |
CN112017141B (zh) * | 2020-09-14 | 2024-06-04 | 北京百度网讯科技有限公司 | 视频数据处理方法和装置 |
-
2021
- 2021-10-29 CN CN202111279831.3A patent/CN114187392B/zh active Active
-
2022
- 2022-09-27 EP EP22197903.2A patent/EP4092636A3/en not_active Withdrawn
- 2022-10-07 JP JP2022162287A patent/JP2022185096A/ja active Pending
- 2022-10-11 US US17/964,028 patent/US20230290029A1/en active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005092657A (ja) * | 2003-09-19 | 2005-04-07 | Hitachi Ltd | 画像表示装置および画像表示方法 |
US20180122114A1 (en) * | 2016-08-19 | 2018-05-03 | Beijing Sensetime Technology Development Co., Ltd. | Method and apparatus for processing video image and electronic device |
CN111598818A (zh) * | 2020-04-17 | 2020-08-28 | 北京百度网讯科技有限公司 | 人脸融合模型训练方法、装置及电子设备 |
CN111696029A (zh) * | 2020-05-22 | 2020-09-22 | 平安普惠企业管理有限公司 | 虚拟形象视频生成方法、装置、计算机设备及存储介质 |
CN112004163A (zh) * | 2020-08-31 | 2020-11-27 | 北京市商汤科技开发有限公司 | 视频生成方法及装置、电子设备和存储介质 |
CN112423022A (zh) * | 2020-11-20 | 2021-02-26 | 北京字节跳动网络技术有限公司 | 视频生成及显示方法、装置、设备、介质 |
CN113240778A (zh) * | 2021-04-26 | 2021-08-10 | 北京百度网讯科技有限公司 | 虚拟形象的生成方法、装置、电子设备和存储介质 |
CN113362263A (zh) * | 2021-05-27 | 2021-09-07 | 百度在线网络技术(北京)有限公司 | 变换虚拟偶像的形象的方法、设备、介质及程序产品 |
CN113395569A (zh) * | 2021-05-29 | 2021-09-14 | 北京优幕科技有限责任公司 | 视频生成方法及装置 |
Non-Patent Citations (1)
Title |
---|
DIGVIJAY YADAV 等: "Deepfake: A Survey on Facial Forgery Technique Using Generative Adversarial Network", 《2019 INTERNATIONAL CONFERENCE ON INTELLIGENT COMPUTING AND CONTROL SYSTEMS (ICCS)》, pages 1 - 6 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115082602A (zh) * | 2022-06-15 | 2022-09-20 | 北京百度网讯科技有限公司 | 生成数字人的方法、模型的训练方法、装置、设备和介质 |
CN115082602B (zh) * | 2022-06-15 | 2023-06-09 | 北京百度网讯科技有限公司 | 生成数字人的方法、模型的训练方法、装置、设备和介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114187392B (zh) | 2024-04-19 |
US20230290029A1 (en) | 2023-09-14 |
JP2022185096A (ja) | 2022-12-13 |
EP4092636A3 (en) | 2023-04-19 |
EP4092636A2 (en) | 2022-11-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113420719B (zh) | 生成动作捕捉数据的方法、装置、电子设备以及存储介质 | |
CN111860167B (zh) | 人脸融合模型获取及人脸融合方法、装置及存储介质 | |
CN111654746B (zh) | 视频的插帧方法、装置、电子设备和存储介质 | |
JP6986187B2 (ja) | 人物識別方法、装置、電子デバイス、記憶媒体、及びプログラム | |
CN112527115B (zh) | 用户形象生成方法、相关装置及计算机程序产品 | |
CN112102448B (zh) | 虚拟对象图像显示方法、装置、电子设备和存储介质 | |
CN114187392B (zh) | 虚拟偶像的生成方法、装置和电子设备 | |
CN112308770B (zh) | 人像转换模型生成方法及人像转换方法 | |
CN112562045B (zh) | 生成模型和生成3d动画的方法、装置、设备和存储介质 | |
CN112784765A (zh) | 用于识别动作的方法、装置、设备以及存储介质 | |
CN113407850A (zh) | 一种虚拟形象的确定和获取方法、装置以及电子设备 | |
CN114245155A (zh) | 直播方法、装置及电子设备 | |
CN113365146A (zh) | 用于处理视频的方法、装置、设备、介质和产品 | |
CN112507833A (zh) | 人脸识别及模型训练的方法、装置、设备和存储介质 | |
WO2023024653A1 (zh) | 图像处理方法、图像处理装置、电子设备以及存储介质 | |
CN114222076B (zh) | 一种换脸视频生成方法、装置、设备以及存储介质 | |
CN116030185A (zh) | 三维发丝生成方法和模型的训练方法 | |
CN112714337A (zh) | 视频处理方法、装置、电子设备和存储介质 | |
CN112017140A (zh) | 用于处理人物形象数据的方法和装置 | |
CN113327309B (zh) | 视频播放方法和装置 | |
CN113327311B (zh) | 基于虚拟角色的显示方法、装置、设备、存储介质 | |
CN114648601A (zh) | 虚拟形象的生成方法、电子设备、程序产品及用户终端 | |
CN114638919A (zh) | 虚拟形象的生成方法、电子设备、程序产品及用户终端 | |
CN113240780A (zh) | 生成动画的方法和装置 | |
CN113780045A (zh) | 用于训练距离预测模型的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |