CN115623281A - 视频处理方法及设备 - Google Patents
视频处理方法及设备 Download PDFInfo
- Publication number
- CN115623281A CN115623281A CN202211216560.1A CN202211216560A CN115623281A CN 115623281 A CN115623281 A CN 115623281A CN 202211216560 A CN202211216560 A CN 202211216560A CN 115623281 A CN115623281 A CN 115623281A
- Authority
- CN
- China
- Prior art keywords
- segmentation
- special effect
- segmentation information
- video image
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 29
- 230000011218 segmentation Effects 0.000 claims abstract description 377
- 230000000694 effects Effects 0.000 claims abstract description 295
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 24
- 238000000034 method Methods 0.000 claims abstract description 23
- 238000012545 processing Methods 0.000 claims description 33
- 238000004590 computer program Methods 0.000 claims description 14
- 238000005192 partition Methods 0.000 claims description 8
- 230000008439 repair process Effects 0.000 claims description 8
- 238000010586 diagram Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 241001465754 Metazoa Species 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 230000007704 transition Effects 0.000 description 3
- 238000013475 authorization Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000000638 solvent extraction Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000037308 hair color Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/44012—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving rendering scenes according to scene graphs, e.g. MPEG-4 scene graphs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
- G06T5/75—Unsharp masking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/7715—Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
- H04N21/47205—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for manipulating displayed content, e.g. interacting with MPEG-4 objects, editing locally
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本公开实施例提供一种视频处理方法及设备,该方法包括:根获取待处理视频;根据接收到的操作指令,确定所述待处理视频的第一视频图像;根据所述第一视频图像确定第一分割信息和第二分割信息;其中,所述第一分割信息为与第一视频图像对应的分割信息,所述第二分割信息为第一视频图像应用操作指令指示的预设特效后对应的分割信息;基于所述第一分割信息和第二分割信息,确定第一视频图像应用预设特效后的待修复区域;对所述待修复区域使用预设修复算法进行修复,得到目标视频。进而缩短了对单个视频图像应用特效的时间,可以提高对视频应用特效的效率,从而改善将特效应用在视频时视频图像显示不连贯的现象。
Description
技术领域
本公开实施例涉及图像处理技术领域,尤其涉及一种视频处理方法及设备。
背景技术
随着互联网技术的发展,用户可以通过互联网发布视频信息或者浏览视频信息。为了使所发布的视频或显示的视频具有多样化和趣味性,用户可以在所视频中添加各种效果,例如对视频图像帧中的用户的面部或头部添加特效等。
发明人发现,在一些设备上对发布的视频或所浏览的视频添加特效时,由于这些设备(例如移动终端)计算能力的限制,会导致在视频中添加特效后视频显示效果不佳的问题,不能实现终端实时处理的需求。
发明内容
本公开实施例提供一种视频处理方法及设备,以克服使用由于设备计算能力的限制,导致在视频中添加特效后视频显示效果不佳的问题。
第一方面,本公开实施例提供一种视频处理方法,包括:获取待处理视频;根据接收到的操作指令,确定所述待处理视频的第一视频图像;根据所述第一视频图像确定第一分割信息和第二分割信息;其中,所述第一分割信息为与第一视频图像对应的分割信息,所述第二分割信息为第一视频图像应用操作指令指示的预设特效后对应的分割信息;基于所述第一分割信息和第二分割信息,确定第一视频图像应用预设特效后的待修复区域;对所述待修复区域使用预设修复算法进行修复,得到目标视频。
第二方面,本公开实施例提供一种视频处理设备,包括:获取单元,用于获取待处理视频;第一确定单元,用于根据接收到的操作指令,确定所述待处理视频的第一视频图像;第二确定单元,用于根据所述第一视频图像确定第一分割信息和第二分割信息;其中,所述第一分割信息为与第一视频图像对应的分割信息,所述第二分割信息为第一视频图像应用操作指令指示的预设特效后对应的分割信息;第三确定单元,用于基于所述第一分割信息和第二分割信息,确定第一视频图像应用预设特效后的待修复区域;修复单元,用于对所述待修复区域使用预设修复算法进行修复,得到目标视频。
第三方面,本公开实施例提供一种电子设备,包括:处理器和存储器;所述存储器存储计算机执行指令;所述处理器执行所述存储器存储的计算机执行指令,使得所述至少一个处理器执行如上第一方面以及第一方面各种可能的设计所述的视频处理方法
第四方面,本公开实施例提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现如上第一方面以及第一方面各种可能的设计所述的视频处理方法。
第五方面,本公开实施例提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如上第一方面以及第一方面各种可能的设计所述的视频处理方法。
本实施例提供的视频处理方法及设备,根据待处理视频的第一视频图像确定第一分割信息和第二分割信息,所述第一分割信息为与第一视频图像对应的分割信息,所述第二分割信息为第一视频图像应用操作指令指示的预设特效后对应的分割信息;然后由上述第二分割信息和第二分割信息确定待修复区域,最后对待修复区域进行后处理。由于上述方案是根据第一视频图像确定第一分割信息和第二分割信息,相比于相关技术中先由第一视频图像确定第一分割信息,然后再由第一分割信息与预设特效确定第二分割信息的方案,本方案根据第一视频图像确定第一分割信息和第二分割信息,无需先确定第一分割信息,再根据第一分割信息与预设特效确定第二分割信息,因此本方案缩短了确定第一分割信息和第二分割信息所需的总时间,进而缩短了对单个视频图像应用特效的时间,可以提高对视频应用特效的效率,从而改善将特效应用在视频时视频图像显示不连贯的现象。
附图说明
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1A和图1B为相关技术中为视频添加特效的一个示意性场景图;
图2为本公开实施例提供的视频处理方法流程示意图一;
图3为本公开实施例提供的视频处理方法流程示意图二;
图4为本公开提供的视频处理方法的一个应用场景的示例图;
图5为本公开实施例提供的视频处理设备的结构框图;
图6为本公开实施例提供的视频处理设备的硬件结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
可以理解的是,在使用本公开各实施例公开的技术方案之前,均应当依据相关法律法规通过恰当的方式对本公开所涉及个人信息的类型、使用范围、使用场景等告知用户并获得用户的授权。
例如,在响应于接收到用户的主动请求时,向用户发送提示信息,以明确地提示用户,其请求执行的操作将需要获取和使用到用户的个人信息。从而,使得用户可以根据提示信息来自主地选择是否向执行本公开技术方案的操作的电子设备、应用程序、服务器或存储介质等软件或硬件提供个人信息。
作为一种可选的但非限定性的实现方式,响应于接收到用户的主动请求,向用户发送提示信息的方式例如可以是弹窗的方式,弹窗中可以以文字的方式呈现提示信息。此外,弹窗中还可以承载供用户选择“同意”或者“不同意”向电子设备提供个人信息的选择控件。
可以理解的是,上述通知和获取用户授权过程仅是示意性的,不对本公开的实现方式构成限定,其它满足相关法律法规的方式也可应用于本公开的实现方式中。
可以理解的是,本技术方案所涉及的数据(包括但不限于数据本身、数据的获取或使用)应当遵循相应法律法规及相关规定的要求。
图1A和图1B示出了相关技术中为视频添加特效的一个示意性场景图。如图1A所示,相关技术中通常使用移动终端101加服务端102的架构来提供图像特效服务。在移动终端101显示视频流或发布视频流时,用户可以向移动终端101发出操作指令。该操作指令用于为视频流中视频图像11、12、13添加特效。移动终端101在接收到操作指令后,可以向服务端102发送特效请求。上述特效请求中可以包括用户选择的特效信息以及待添加特效的视频图像11、12、13。服务端102接收到上述特效请求之后,可以执行为视频图像添加特效的操作,并将特效结果(添加了特效的视频图像11’、12’、13’)发送给移动终端101显示。
在一些应用场景中,如图1B所示,服务端可以对接收到的视频图像11进行图像特征提取,提取视频图像11的图像特征。在得到图像特征后,执行对视频图像中目标部位分割操作。在执行目标部位分割时,分割出待应用特效的视频图像11中目标部位的分割结果。然后再将预设特效叠加在目标部位,并对叠加了预设特效的目标部位进行分割,得到应用预设特效后的目标部位的分割结果。在这些应用场景中,服务端是先得到应用特效前的目标部位的分割结果,再对目标部位的分割结果叠加预设特效,进而得到应用预设特效后的目标部位的分割结果。
在得到应用特效前后的目标部位的分割结果后,可以根据应用特效前的目标部位的分割结果和应用特效后的目标部位的分割结果,来确定应用特效后的待修复区域。该待修复区域可以为由应用特效前目标部位分割结果中,未被特效覆盖的区域。
在得到该待修复区域之后,可以对该待修复区域根据原视频图像中该待修复区域附近像素的像素值对该待修复区域的像素进行修复。作为一种实现方式,可以对该待修复区域做平滑过渡处理。
在上述应用场景中,由于服务端102的计算能力较强,确定应用特效前的分割结果和特效应用后的分割结果得到的时间差很小。
随着实时性的要求越来越高以及移动终端技术的发展,由移动终端实现为视频图像添加特效成为可能。但是由于移动终端的计算能力的限制,将上述应用场景中服务端运行的方案直接应用到移动终端时,会对用户带来不良体验。
上述应用场景中的方案需要先通过分割算法对待应用特效的视频图像中目标部位进行分割,得到应用特效前的目标部位的分割结果,然后再对分割结果叠加特效,得到应用了特效的目标部位的分割结果,接着再根据应用特效前的目标部位的分割结果和应用了特效的目标部位的分割结果,确定待修复区域,最后对待修复区域利用平滑过渡等方式进行修复。上述过程中对于特效应用前后的目标部位的分割结果以串行方式执行,对于移动端而言,得到应用特效前后的目标部位的分割结果会出现时间差。由于上述时间差的存在,对于视频流这种需要连续对多帧视频图像应用特效的场景,将会导致应用特效的视频图像显示不连贯的现象。
为了改善在计算能力较弱的移动终端中对于特效应用前后的目标部位的分割结果以串行方式执行,得到应用特效前后的目标部位的分割结果出现时间差,引起的应用了特效的视频图像显示不连贯的问题,本公开采用并行处理方案来确定应用特效前后的目标部位的分割结果。
请参考图2,图2为本公开实施例提供的视频处理方法流程示意图一。本实施例的方法可以应用在终端设备中,该视频处理方法包括:
S201:获取待处理视频。
上述待处理视频可以为待发布的视频,也可以为待显示的视频。视频可以包括多个视频图像帧。在实时发布的应用场景中,待处理视频可以包括实时采集的多个视频图像帧。视频图像帧中可以包括目标对象的原始图像。目标对象可以包括人、动物、植物、建筑物、自然风景等。
S202:根据接收到的操作指令,确定待处理视频的第一视频图像。
S203:根据第一视频图像确定第一分割信息和第二分割信息;其中,第一分割信息为与第一视频图像对应的分割信息,第二分割信息为第一视频图像应用操作指令指示的预设特效后对应的分割信息。
上述第一视频图像包括目标对象的图像。
在一些应用场景中,上述第一视频图像可以是对待处理视频的视频流中的视频图像帧进行预处理得到图像。例如对从视频图像帧进行截取、对齐等预处理后得到的图像。
在一些应用场景中,上述第一视频图像可以是待处理视频中的一帧原始视频图像。
用户可以对待处理视频发出操作指令。该操作操作指令可以用于指示对待处理视频中的第一视频图像应用预设特效。具体地,该操作指令可以指示对目标对象的目标部位应用预设特效。
以目标对象为人为例,这里的目标部位如可以包括头发、面部、着装部位等。
以目标对象为动物为例,这里的目标部位例如可以包括面部、毛发等。
作为一种实现方式,在待处理视频的显示页面中可以设置特效控件,特效控件可以包括至少一个特效选择项。用户可以通过对特效控件中的特效效果选择项执行触发操作,从而发出操作指令。
上述操作指令可以是对目标对象的目标部位应用预设特效,这里的预设特效可以包括但不限于:发型特效、服装特效等。上述操作命令例如可以是
上述预设特效可以为用户通过对至少一个特效选择项执行触发操作所确定的特效。上述服装特效可以为对目标对象的部分服装进行虚拟更换,虚拟更换至特效服装。
在一些可选的实现方式中,上述操作指令为发型操作指令,操作指令为发型操作指令,发型操作指令指示对目标对象应用发型特效。第一视频图像中应用发型特效前的目标对象具有第一发型;发型特效指示的发型特效为第二发型。
在一些应用场景中,上述第一发型可以是长发发型,上述第二发型可以是短发发型。
具体地,可以首先提取应用特效前第一视频图像的图像特征,然后根据图像特征同时确定第一分割信息和第二分割信息。
在一些应用场景中,对于待处理视频,可以实时逐帧提取应用预设特效前第一视频图像的图像特征。在这些应用场景中,对于每一视频图像帧,可以从该视频图像帧中确定该视频图像帧的第一视频图像,从而提取该视频图像帧的第一视频图像的图像特征。
在另外一些应用场景中,可以预先提取待处理视频应用预设特效前多个第一视频图像的图像特征,并对上述图像特征进行存储。在用户对待处理视频发出操作指令时,可以从所存储的图像特征中依次提取各第一视频图像的图像特征。
在得到了第一视频图像的图像特征之后,可以同时根据第一视频图像的图像特征确定第一分割信息和第二分割信息。
具体地,可以将上述第一视频图像的图像特征分别输入到第一处理模块和第二处理模块。第一处理模块用于根据上述图像特征确定第一分割信息。第二处理模块用于根据上述图像特征确定第二分割信息。
上述图像特征包括但不限于颜色特征、纹理特征、边缘特征等。第一处理模块可以根据上述颜色特征、纹理特征、边缘特征确定应用预设特效前目标部位的第一分割信息。
第二处理模块可以确定对第一视频图像应用上述预设特效对应的特效区域,然后由上述图像特征和上述特效区域确定出应用特效后第一视频图像对应的第二分割信息。
以长发转换为短发的发型转换为例进行说明,第一视频图像中包括具有长发的目标对象的图像。特效指令指示将目标对象的长发转换为目标短发发型。可以对第一视频图像进行特征提取,从而得到第一视频图像的第一图像特征。第一处理模块可以根据上述图像特征来确定第一分割信息。第二处理模块可以在第一视频图像中确定上述特效指令指示的预设特效的特效区域,并使用该预设特效对应的特征和上述图像特征确定第二分割信息。
步骤S204:基于第一分割信息和第二分割信息,确定第一视频图像应用预设特效后的待修复区域。
可以根据上述第一分割信息和第二分割信息之间的差异,来取得应用特效后第一视频图像中的待修复区域。
以应用预设特效前,目标部位在第一视频图像中的覆盖区域为第一区域;应用预设特效后,目标部位在第一视频图像中的覆盖区域为第二区域;在一些应用场景中,上述待修复区域为第一区域与第二区域的交叠区域之外的区域。在另外一些应用场景中,上述待修复区域为第一区域中未被第二区域覆盖的区域。
步骤S205:对待修复区域使用预设特效修复算法进行修复,得到目标视频。
根据对待修复区域使用预设特效修复算法进行修复,得到目标视频图像,进而得到目标视频。
上述步骤S205可以包括:
首先,根据第一分割信息确定与待修复区域相关的相关区域;
其次,根据上述相关区域,对待修复区域使用预设修复算法进行修复。
在得到待修复区域后,可以在第一视频图像中的第一分割信息中确定待修复区域相关的相关区域。这里的相关区域例如是与待修复区域相邻或相接的区域,或者与待修复区域的相邻区域为同一语义的区域。
以预设特效为应用短发为例,应用特效前第一视频图像的第一分割信息包括长发区域、上衣区域、面部区域等。在第一分割信息中,上衣区域与原长发区域相邻。在应用特效后,上述第一视频图像中的头部应用了短发。上述待修复区域可以为原长发区域中未被预设特效对应的短发区域覆盖的区域。上述相关区域可以为与上述待修复区域相邻的上衣区域。在一些应用场景中,上述相关区域还可以包括第一视频图像中与待修复区域相邻的背景区域。
在确定出其他区域之后,可以根据第一视频图像中相关区域像素的像素值以及待修复区域的像素值,来对待修复区域像素的像素值进行修复。
例如,可以根据待修复区域的相关区域的像素的颜色和纹理等,设置待修复区域像素的颜色和纹理。例如将待修复区域的颜色、纹理等与上述相关区域像素的颜色、纹理设置为相同或者相似等。
又例如,使用第一视频图像中相关区域像素的像素值,对待修复区域进行平滑过渡处理,实现对待修复区域的像素修复。
作为一种实现方式,上述对待修复区域进行修复可以包括对上述待修复区域进行模糊化处理。
上述模糊化处理包括将待修复区域的颜色与相关区域的颜色进行渐变处理。上述模糊化处理可以使用各种模糊算法,例如blur、impainting算法等。
在一些应用场景中,可以将应用了预设特效后的第一视频图像补充到被裁剪了第一视频图像的视频图像帧中,从而得到目标视频图像。
本实施例提供的视频处理方法,首先根据待处理视频中的第一视频图像来确定第一分割信息和第二分割信息,其中,第一分割信息为与第一视频图像对应的分割信息,第二分割信息为第一视频图像应用操作指令指示的预设特效后对应的分割信息;然后由上述第二分割信息和第二分割信息确定待修复区域,最后对待修复区域进行后处理。由于上述方案是根据第一视频图像确定第一分割信息和第二分割信息,相比于相关技术中先由第一视频图像确定第一分割信息,然后再由第一分割信息与预设特效确定第二分割信息的方案,本方案根据第一视频图像确定第一分割信息和第二分割信息,无需先确定第一分割信息,再根据第一分割信息与预设特效确定第二分割信息,因此本方案缩短了确定第一分割信息和第二分割信息所需的总时间,进而缩短了对单个视频图像应用特效的时间,可以提高对视频应用特效的效率,从而改善将特效应用在视频时视频图像显示不连贯的现象。
在一些可选的实现方式中,第一分割信息包括第一视频图像中目标对象的目标部位的分割信息、目标对象的多个部位的分割信息;其中,目标部位待应用预设特效;第二分割信息为应用预设特效后目标部位的分割信息、目标对象的多个部位的分割信息。
在一些应用场景中,第一分割信息包括第一视频图像中目标对象的目标部位的分割信息;第二分割信息包括应用预设特效后目标部位的分割信息。
上述目标部位待应用预设特效。也即目标部位为待应用预设特效的目标对象的部位。
这里的目标对象是第一视频图像中的目标对象。上述目标对象可以是人物、动物、风景等。上述目标部位可以是目标对象的一个或多个部位。以目标对象为人物为例,上述目标部位可以是人物的头发、脸、四肢、躯干等。
在这些可选的实现方式中,可以使用图像分割方法从第一视频图像的图像特征中确定出上述目标部位的图像特征。然后根据目标部位的图像特征确定第一分割信息。
第一分割信息为应用预设特效前目标对象的目标部位的分割信息。
实践中,上述第一分割信息可以包括目标部位的掩膜。具体地,可以对图像特征应用图像检测算法,从图像特征中检测出目标部位。再确定目标部位对应的最大区域,从而得到目标部位的轮廓。最后根据上述目标部位的轮廓以及目标部位的区域确定出目标部位的掩膜。
对应地,第二分割信息可以包括应用预设特效后目标部位的分割信息。第二分割信息可以是预设特效覆盖区域对应的掩膜。具体地确定第一分割信息第二分割信息的过程可以参考上述相关说明。
使用目标部位的掩膜作为第一分割信息,并同样使用应用特效后目标部位的掩膜(这里的应用预设特效后目标部位的掩膜可以是预设特效覆盖区域对应的掩膜)作为第二分割信息,可以降低由第一分割信息和第二分割信息确定待修复区域的计算量。
在这些场景中,由于同时输出目标部位的第一分割信息和预设特效覆盖区域的第二分割信息,由第一分割信息和第二分割信息来确定差异信息,该方案可以仅由目标部位的区域和预设特效覆盖区域来确定待修复区域,从而可以减少确定待修复区域所需的时间,可以进一步提高在移动终端对视频应用特效的效率。
在另外一些应用场景中,上述第一分割信息还包括目标对象的多个部位的分割信息;上述第二分割信息还包括应用上述预设特效后目标对象的多个部位的分割信息。
第一分割信息可以包括应用预设特效前目标对象多个部位的分割信息。
在确定了第一视频图像的图像特征之后,可以将上述图像特征输入到第三处理模块和第四处理模块。第三处理模块可以利用各种解析算法来确定目标对象的多个部位的分割信息。以目标对象为人物为例,上述第一分割信息包括头发区域、面部区域、着装区域、四肢区域等。可以理解的是,这里的第一分割信息、第二分割信息中所需包括的目标对象的多个部位可以根据具体的应用场景设定。
相应地,上述第四处理模块可以确定预设特效所覆盖的区域,并进一步利用各种解析算法来确定第一视频图像应用预设特效后目标对象的多个部位的分割信息。
在这些可选的实现方式中,由于分割信息中包括了目标对象的多个部位的分割结果,可以根据上述应用预设特效前后目标对象多个组成部分的分割结果,对应用预设特效前后的目标部位的分割结果进行监督,从而可以提高所确定上述待修复区域的准确性以及稳定性。
请参考图3,其示出了本公开提供的视频处理方法流程示意图二。本实施例的方法可以应用在终端设备,该视频处理方法包括:
S301:获取待处理视频。
S302:根据接收到的操作指令,确定待处理视频的第一视频图像。
步骤S301和S302的具体实施可以与图2所示示例的步骤S201和步骤S202的具体实施相同或相似,此处不赘述。
S303:将第一视频图像输入到特效模型,由特效模型的多个输出通道分别输出第一分割信息、第二分割信息。
上述特效模型可以包括各种类型的模型,包括但不限于神经网络模型、深度学习模型等。
通常,图像的图像数据可以包括多个像素分别对应的像素数据,每一个像素数据可以包括R(Red,红)通道、G(Green,绿)通道、B(Blue,蓝)通道、透明度通道的图像数据。
本实施例中可以将第一视频图像的R、G、B三通道的图像数据输入到上述特效模型。相比于将R通道、G通道、B通道和透明度通道这四个通道的图像数据作为模型的输入而言,使用R、G、B三通道的图像数据作为模型的输入,可以减少特效模型处理的数据量。
该特效模型可以根据输入的视频图像,由多个输出通道输出第一分割信息和第二分割信息以及应用特效后的目标视频图像。
作为一种实现方式,该特效模型可以为多任务模型。上述特效模型可以包括共享层和分支网络层。共享层可以包括多个卷积单元,用于对输入的第一视频图像进行卷积运算得到共享的图像特征。上述共享层可以与分支网络层的多个子网络分别连接。共享层可以将其输出的图像特征同时输入到多个子网络。
分支网络层包括多个子网络。每一子网络可以具有独立的网络参数。不同子网络用于根据图像特征完成不同的任务。
上述子网络可以包括生成式对抗网络(Gan网络)。
子网络可以包括卷积核、全连接层等。不同子网络的网络参数不同。
第一分割信息为第一视频图像中应用预设特效前目标对象的目标部位的分割结果;其中,目标部位待应用预设特效;第二分割信息为应用特效后目标对象的目标部位的分割结果。
分支网络层可以包括第一分割子网络和第二分割子网络。
上述步骤S303包括:利用第一分割子网络对第一视频图像的图像特征执行提取目标部位的第一分割任务操作,由第一分割子网络的输出通道输出应用预设特效前目标部位的分割结果;利用第二分割子网络根据第一视频图像的图像特征、预设特效的特征,执行提取应用预设特效后目标部位的第二分割任务操作,由第二分割子网络的输出通道输出应用预设特效后的目标部位的分割结果。
第一分割任务操作包括通过图像特征从第一视频图像中分割出目标部位。第一分割任务操作结果例如可以包括目标部位的掩膜。
第二分割任务操作包括将预设特效的特征应用到第一视频的图像特征,然后对应用了预设特效的特征的第一视频图像的图像特征进行分割,分割出应用预设特效后的目标部位的分割结果(预设特效的覆盖区域)。第二分割任务操作结果例如可以包括预设特效覆盖区域的掩膜。
以目标部位为服装为例,上述第一分割信息中应用服装特效前的目标部位的分割结果包括应用服装特效前第一视频图像中用户着装区域对应的掩膜。第二分割信息中应用预设特效后的目标部位的分割结果,包括将特效服装应用到第一视频图像中的目标对像后,特效服装覆盖区域对应的掩膜。
S304:基于第一分割信息和第二分割信息,确定第一视频图像应用预设特效后的待修复区域。
S305:对待修复区域使用预设特效修复算法进行修复,得到目标视频。
上述步骤S303和步骤S304的具体实施可以分别与图1所示实施例的步骤S203和步骤S204相同或相似,此处不赘述。
本实施提供的视频处理方法,通过利用特效模型并行输出第一分割信息和第二分割信息,第一分割信息为与第一视频图像对应的分割信息,第二分割信息为第一视频图像应用操作指令指示的预设特效后对应的分割信息,一方面可以简化图像处理的过程;另外一方面由特效模型并行输出第一分割信息和第二分割信息,进而由第一分割信息和第二分割信息确定待修复区域,缩短了确定第一分割信息和第二分割信息所需的总体时间,提高了对视频应用特效的效率,可以改善对视频应用特效引起的视频图像显示不连贯的现象。此外,上述第一分割信息与第二分割信息是由同一次得到的图像特征得到,因此,由第一分割信息和第二分割信息所确定的待修复区域的精度较高,进而可以提高预设特效在视频图像中应用的精确度。
在本实施例的一些可选的实现方式中,第一分割信息为第一视频图像中应用预设特效前目标对象的多个部位的分割信息;第二分割信息为应用预设特效后目标对象的多个部位的分割信息;特效模型包括第三分割子网络和第四分割子网络。
在这些实现方式中,上述步骤S302包括:
利用第三分割子网络对第一视频图像的图像特征执行分割目标对象多个部位的第三分割任务操作,由第三分割子网络的输出通道输出第一视频图像中目标对象的多个部位的分割信息;
利用第四分割子网络对第一视频图像的图像特征、预设特效的特征执行分割应用预设特效后目标对象的多个部位的第四分割任务操作,由第四分割子网络的输出通道输出应用预设特效后目标对象的多个部位的分割信息。
在这些可选的实现方式中,上述特效模型的分支网络层包括第三分割子网络和第四分割子网络。
第三分割子网络和第四分割子网络可以包括卷积核和全连接层。第三分割子网络和第四分割子网络可以包括不同的网络参数。
特效模型的共享层可以对输入的第一视频图像进行特征提取操作,确定出第一视频图像的图像特征。共享层的输出端与第三分割子网络和第四分割子网络分别连接。共享层可以将第一视频图像的图像特征通过输出端传输到第三分割子网络和第四分割子网络。第三分割子网络和第四分割子网络可以并行对图像特征执行各自的任务操作。第三分割子网络和第四分割子网络所对应的任务操作可以为语义分割操作。
这里的第三分割子网络可以对输入到其中的应用预设特效前的第一视频图像的图像特征执行语义分割操作,从而得到应用预设特效前目标对象的多个部位的分割信息。
第四分割子网络可以对第一视频图像的图像特征应用预设特效的特征,并对应用了预设特效的特征的第一视频图像的图像特征执行语义分割操作,从而得到应用预设特效后目标对象的多个成部位的分割信息。
目标对象的多个部位的分割信息可以包括多个部位分别对应的位置信息和颜色信息。
在这些可选的实现方式中,通过第三分割子网络对输入到其中的应用预设特效前的第一视频图像的图像特征执行语义分割操作,得到应用预设特效前的目标对象的多个部位的分割结果;第四分割子网络对输入到其中的应用预设特效后的第一视频图像的图像特征以及预设特效的特征执行语义分割操作,得到应用预设特效后的目标对象的多个部位的分割结果。进而根据应用预设特效前目标对象的多个部位的分割结果和应用预设特效后目标对象的多个部位的分割结果,来确定第一视频图像中应用预设特效后的待修复区域是否准确。
在一些应用场景中,特效模型的分支网络层可以同时包括上述第一分割子网络、第二分割子网络、第三分割子网络和第四分割子网络,在这些应用场景中,可以由第一分割子网络和第二分割子网络输出的分割结果来确定待修复区域,由第三分割子网络和第四分割子网络输出的分割结果来对所确定的上述待修复区域进行监督,从而可以较为快速的判断出待修复区域的准确度。
请参考图4,其示出了本公开提供的视频处理方法的一个应用场景示意图。
移动终端401中可以运行特效模型。用户可以向移动终端401发出操作指令,以对移动终端中播放或发布的视频流中的视频图像应用预设特效。如图4所示,操作指令指示用于将图像中用户的长发发型转为短发发型。根据上述操作指令,可以对视频流的图像帧进行处理,得到第一视频图像42。第一视频图像中包括用户的长发发型。
将第一视频图像42的图像数据(例如R、G、B三通道图像数据)以及目标短发发型的信息输入到特效模型。特效模型可以包括共享层,共享层用于对输入的第一视频图像帧提取图像特征。特效模型还可以包括多个子网络。每一个子网络可以对应至少一个通道的输出。共享层的输出与多个子网络的输入分别连接。共享层可以把第一视频图像的图像特征分别输入到多个子网络。每个子网络可以执行该网络对应的任务。每一个子网络的输出通道可以输出该子网络执行任务操作的结果。
特效模型可以包括第一图像生成子网络、第二图像生成子网络、第一分割子网络、第二分割子网络、第三分割子网络和第四分割子网络。第一图像生成子网络执行应用短发形状的特效应用任务,第二图像生成子网络执行应用短发发型和目标发型颜色的特效应用任务。第一分割子网络执行提取长发掩膜的第一分割任务操作,第二分割子网络执行提取短发掩膜的第二分割任务操作。第三分割子网络执行分割应用特效前用户图像的多个部位的第三分割任务操作,第四分割子网络执行分割应用特效后用户图像的多个部位的第四分割任务操作。
由特效模型多个通道分别输出短发发型应用效果数据425(R、G、B三通道数据),短发发型和短发颜色应用效果数据(R、G、B三通道数据)426;用户的长发掩膜数据421,应用了短发后的用户的短发掩膜数据422(单通道数据);第一图像中具有长发的用户的多个部位的分割结果数据423(每一部位可以对应一个通道),应用了短发的用户的多个部位的分割结果数据424(每一部位可以对应一个通道)。
由于特效模型可以同时输出长发掩膜数据和应用了短发效果的短发掩膜数据,从而可以快速且准确的确定第一视频图像42中长发区域中未被短发区域覆盖的区域,将该区域确定为待修复区域。以供后续对该待修复区域进行修复处理,使得应用特效后的目标视频图像显示较为自然。
对应于上文实施例的视频处理方法,图5为本公开实施例提供的视频处理设备的结构框图。为了便于说明,仅示出了与本公开实施例相关的部分。参照图5,设备50包括:获取单元501、第一确定单元502、第二确定单元503、第三确定单元504和修复单元505。
其中,获取单元501,用于获取待处理视频;
第一确定单元502,用于根据接收到的操作指令,确定待处理视频的第一视频图像;
第二确定单元503,用于根据第一视频图像确定第一分割信息和第二分割信息;其中,第一分割信息为与第一视频图像对应的分割信息,第二分割信息为第一视频图像应用操作指令指示的预设特效后对应的分割信息;
第三确定单元504,用于基于第一分割信息和第二分割信息,确定第一视频图像应用预设特效后的待修复区域;
修复单元505,用于对待修复区域使用预设修复算法进行修复,得到目标视频。
在本公开的一个实施例中,第一分割信息包括第一视频图像中目标对象的目标部位的分割信息、目标对象的多个部位的分割信息;其中,目标部位待应用预设特效;第二分割信息为应用预设特效后目标部位的分割信息、目标对象的多个部位的分割信息。
在本公开的一个实施例中,第二确定单元503,具体用于:将第一视频图像输入到特效模型,由特效模型的多个输出通道分别输出第一分割信息、第二分割信息以及应用预设特效后的目标视频图像。
在本公开的一个实施例中,特效模型包括第一分割子网络和第二分割子网络;第二确定单元503,具体用于:利用第一分割子网络对第一视频图像的图像特征执行提取目标部位的第一分割任务操作,由第一分割子网络的输出通道输出应用预设特效前目标部位的分割结果;利用第二分割子网络根据第一视频图像的图像特征、预设特效的特征,执行提取应用特效后目标部位的第二分割任务操作,由第二分割子网络的输出通道输出应用预设特效后的目标部位的分割结果。
在本公开的一个实施例中,第一分割信息还包括第一视频图像中应用预设特效前目标对象的多个部位的分割信息;第二分割信息还包括应用预设特效后目标对象的多个部位的分割信息;以及第二确定单元503,具体用于:
利用第三分割子网络对第一视频图像的图像特征执行分割目标对象多个部位的第三分割任务操作,由第三分割子网络的输出通道输出第一视频图像中目标对象的多个部位的分割信息;
利用第四分割子网络对第一视频图像的图像特征、预设特效的特征执行分割应用预设特效后目标对象的多个部位的第四分割任务操作,由第四分割子网络的输出通道输出应用预设特效后目标对象的多个部位的分割信息。
在本公开的一个实施例中,修复单元505,具体用于:根据第一分割信息确定与待修复区域相关的相关区域;根据相关区域,对待修复区域使用预设修复算法进行修复。
在本公开的一个实施例中,操作指令指示的预设特效包括:发型特效、服装特效。
为了实现上述实施例,本公开实施例还提供了一种电子设备。
参考图6,其示出了适于用来实现本公开实施例的电子设备600的结构示意图,该电子设备600可以为头戴式AR装置、终端设备或服务器。其中,终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、个人数字助理(Personal DigitalAssistant,简称PDA)、平板电脑(Portable Android Device,简称PAD)、便携式多媒体播放器(Portable Media Player,简称PMP)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(Read Only Memory,简称ROM)602中的程序或者从存储装置608加载到随机访问存储器(Random Access Memory,简称RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(Liquid CrystalDisplay,简称LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置608;以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从ROM602被安装。在该计算机程序被处理装置601执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备执行上述实施例所示的方法。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LocalArea Network,简称LAN)或广域网(Wide Area Network,简称WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定,例如,获取单元还可以被描述为“获取待处理视频的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
第一方面,根据本公开的一个或多个实施例,提供了一种视频处理方法,包括:
获取待处理视频;
根据接收到的操作指令,确定待处理视频的第一视频图像;
根据第一视频图像确定第一分割信息和第二分割信息;其中,第一分割信息为与第一视频图像对应的分割信息,第二分割信息为第一视频图像应用操作指令指示的预设特效后对应的分割信息;
基于第一分割信息和第二分割信息,确定第一视频图像应用预设特效后的待修复区域;
对待修复区域使用预设修复算法进行修复,得到目标视频。
根据本公开的一个或多个实施例,第一分割信息包括第一视频图像中目标对象的目标部位的分割信息、目标对象的多个部位的分割信息;其中,目标部位待应用预设特效;第二分割信息为应用预设特效后目标部位的分割信息、目标对象的多个部位的分割信息。
根据本公开的一个或多个实施例,根据第一视频图像确定第一分割信息和第二分割信息,包括:
将第一视频图像输入到特效模型,由特效模型的多个输出通道分别输出第一分割信息、第二分割信息以及应用预设特效后的第一视频图像。
根据本公开的一个或多个实施例,特效模型包括第一分割子网络和第二分割子网络;将第一视频图像输入到特效模型,由特效模型的多个输出通道分别输出第一分割信息、第二分割信息以及应用预设特效后的第一视频图像,包括:
利用第一分割子网络对第一视频图像的图像特征执行提取目标部位的第一分割任务操作,由第一分割子网络的输出通道输出应用预设特效前目标部位的分割结果;
利用第二分割子网络根据第一视频图像的图像特征、预设特效的特征,执行提取应用特效后目标部位的第二分割任务操作,由第二分割子网络的输出通道输出应用预设特效后目标部位的分割结果。
根据本公开的一个或多个实施例,特效模型包括第三分割子网络和第四分割子网络,将第一视频图像输入到特效模型,由特效模型的多个输出通道分别输出第一分割信息、第二分割信息以及应用预设特效后的第一视频图像,包括:
利用第三分割子网络对第一视频图像的图像特征执行分割目标对象多个部位的第三分割任务操作,由第三分割子网络的输出通道输出第一视频图像中目标对象的多个部位的分割信息;
利用第四分割子网络对第一视频图像的图像特征、预设特效的特征执行分割应用预设特效后目标对象的多个部位的第四分割任务操作,由第四分割子网络的输出通道输出应用预设特效后目标对象的多个部位的分割信息。
根据本公开的一个或多个实施例,对待修复区域使用预设修复算法进行修复,得到目标视频,包括:
根据第一分割信息确定与待修复区域相关的相关区域;
根据相关区域,对待修复区域使用预设修复算法进行修复。
根据本公开的一个或多个实施例,操作指令指示的预设特效包括:发型特效、服装特效。
第二方面,根据本公开的一个或多个实施例,提供了一种视频处理设备,包括:
获取单元,用于获取待处理视频;
第一确定单元,用于根据接收到的操作指令,确定待处理视频的第一视频图像;
第二确定单元,用于根据第一视频图像确定第一分割信息和第二分割信息;其中,第一分割信息为与第一视频图像对应的分割信息,第二分割信息为第一视频图像应用操作指令指示的预设特效后对应的分割信息;
第三确定单元,用于基于第一分割信息和第二分割信息,确定第一视频图像应用预设特效后的待修复区域;
修复单元,用于对待修复区域使用预设修复算法进行修复,得到目标视频。
根据本公开的一个或多个实施例,第一分割信息包括第一视频图像中目标对象的目标部位的分割信息、目标对象的多个部位的分割信息;其中,目标部位待应用预设特效;第二分割信息为应用预设特效后目标部位的分割信息、目标对象的多个部位的分割信息。
根据本公开的一个或多个实施例,第三确定单元,具体用于:将第一视频图像输入到特效模型,由特效模型的多个输出通道分别输出第一分割信息、第二分割信息以及应用预设特效后的第一视频图像
根据本公开的一个或多个实施例,述特效模型包括第一分割子网络和第二分割子网络;第三确定单元,具体用于:
利用第一分割子网络对第一视频图像的图像特征执行提取目标部位的第一分割任务操作,由第一分割子网络的输出通道输出应用预设特效前目标部位的分割结果;
利用第二分割子网络根据第一视频图像的图像特征、预设特效的特征,执行提取应用特效后目标部位的第二分割任务操作,由第二分割子网络的输出通道输出应用预设特效后目标部位的分割结果。
根据本公开的一个或多个实施例,第一分割信息包括应用预设特效前目标对象的多个部位的分割信息,第二分割信息包括应用预设特效后目标对象多个部位的分割信息;特效模型包括第三分割子网络和第四分割子网络,第三确定单元,具体用于:利用第三分割子网络对第一视频图像的图像特征执行分割目标对象多个部位的第三分割任务操作,由第三分割子网络的输出通道输出第一视频图像中目标对象的多个部位的分割信息;
利用第四分割子网络对第一视频图像的图像特征、预设特效的特征执行分割应用预设特效后目标对象的多个部位的第四分割任务操作,由第四分割子网络的输出通道输出应用预设特效后目标对象的多个部位的分割信息。
根据本公开的一个或多个实施例,修复单元,具体用于:根据第一分割信息确定与待修复区域相关的相关区域;根据相关区域,对待修复区域使用预设修复算法进行修复。
根据本公开的一个或多个实施例,操作指令指示的预设特效包括:发型特效、服装特效。
第三方面,根据本公开的一个或多个实施例,提供了一种电子设备,包括:至少一个处理器和存储器;
存储器存储计算机执行指令;
至少一个处理器执行存储器存储的计算机执行指令,使得至少一个处理器执行如上第一方面以及第一方面各种可能的设计的图像处理方法。
第四方面,根据本公开的一个或多个实施例,提供了一种计算机可读存储介质,计算机可读存储介质中存储有计算机执行指令,当处理器执行计算机执行指令时,实现如上第一方面以及第一方面各种可能的设计的图像处理方法。
第五方面,根据本公开的一个或多个实施例,提供了一种计算机程序产品,包括计算机程序,计算机程序被处理器执行时实现如上第一方面以及第一方面各种可能的设计的图像处理方法
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (11)
1.一种视频处理方法,其特征在于,包括:
获取待处理视频;
根据接收到的操作指令,确定所述待处理视频的第一视频图像;
根据所述第一视频图像确定第一分割信息和第二分割信息;其中,所述第一分割信息为与第一视频图像对应的分割信息,所述第二分割信息为第一视频图像应用操作指令指示的预设特效后对应的分割信息;
基于所述第一分割信息和第二分割信息,确定第一视频图像应用预设特效后的待修复区域;
对所述待修复区域使用预设修复算法进行修复,得到目标视频。
2.根据权利要求1所述的方法,其特征在于,
所述第一分割信息包括第一视频图像中目标对象的目标部位的分割信息、目标对象的多个部位的分割信息;其中,所述目标部位待应用所述预设特效;第二分割信息为应用预设特效后所述目标部位的分割信息、目标对象的多个部位的分割信息。
3.根据权利要求1所述的方法,其特征在于,所述根据所述第一视频图像确定第一分割信息和第二分割信息,包括:
将所述第一视频图像输入到特效模型,由所述特效模型的多个输出通道分别输出第一分割信息、第二分割信息。
4.根据权利要求3所述的方法,其特征在于,所述特效模型包括第一分割子网络和第二分割子网络;
利用所述第一分割子网络对第一视频图像的图像特征执行提取目标部位的第一分割任务操作,由第一分割子网络的输出通道输出应用预设特效前目标部位的分割结果;
利用所述第二分割子网络根据第一视频图像的图像特征、预设特效的特征,执行提取应用特效后目标部位的第二分割任务操作,由所述第二分割子网络的输出通道输出应用预设特效后目标部位的分割结果。
5.根据权利要求3或4所述的方法,其特征在于,所述特效模型包括第三分割子网络和第四分割子网络,
利用所述第三分割子网络对第一视频图像的图像特征执行分割目标对象多个部位的第三分割任务操作,由第三分割子网络的输出通道输出第一视频图像中所述目标对象的多个部位的分割信息;
利用所述第四分割子网络对第一视频图像的图像特征、预设特效的特征执行分割应用预设特效后目标对象的多个部位的第四分割任务操作,由所述第四分割子网络的输出通道输出应用预设特效后目标对象的多个部位的分割信息。
6.根据权利要求1所述的方法,其特征在于,所述对所述待修复区域使用预设修复算法进行修复,得到目标视频,包括:
根据第一分割信息确定与所述待修复区域相关的相关区域;
根据所述相关区域,对所述待修复区域使用预设修复算法进行修复。
7.根据权利要求1至4中任一项所述的方法,其特征在于,
所述操作指令指示的预设特效包括:发型特效、服装特效。
8.一种视频处理设备,包括:
获取单元,用于获取待处理视频;
第一确定单元,用于根据接收到的操作指令,确定所述待处理视频的第一视频图像;
第二确定单元,用于根据所述第一视频图像确定第一分割信息和第二分割信息;其中,所述第一分割信息为与第一视频图像对应的分割信息,所述第二分割信息为第一视频图像应用操作指令指示的预设特效后对应的分割信息;
第三确定单元,用于基于所述第一分割信息和第二分割信息,确定应用预设特效后的第一视频图像的待修复区域;
修复单元,用于对所述待修复区域使用预设修复算法进行修复,得到目标视频。
9.一种电子设备,其特征在于,包括:处理器和存储器;
所述存储器存储计算机执行指令;
所述处理器执行所述存储器存储的计算机执行指令,使得所述处理器执行如权利要求1至7任一项所述的视频处理方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现如权利要求1至7任一项所述的视频处理方法。
11.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的视频处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211216560.1A CN115623281A (zh) | 2022-09-30 | 2022-09-30 | 视频处理方法及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211216560.1A CN115623281A (zh) | 2022-09-30 | 2022-09-30 | 视频处理方法及设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115623281A true CN115623281A (zh) | 2023-01-17 |
Family
ID=84860746
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211216560.1A Pending CN115623281A (zh) | 2022-09-30 | 2022-09-30 | 视频处理方法及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115623281A (zh) |
-
2022
- 2022-09-30 CN CN202211216560.1A patent/CN115623281A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111369427B (zh) | 图像处理方法、装置、可读介质和电子设备 | |
CN110062176B (zh) | 生成视频的方法、装置、电子设备和计算机可读存储介质 | |
CN111243049B (zh) | 人脸图像的处理方法、装置、可读介质和电子设备 | |
US20230005194A1 (en) | Image processing method and apparatus, readable medium and electronic device | |
CN110288549B (zh) | 视频修复方法、装置及电子设备 | |
CN110516678B (zh) | 图像处理方法和装置 | |
CN110298851B (zh) | 人体分割神经网络的训练方法及设备 | |
CN111803952A (zh) | 地形图编辑方法、装置、电子设备及计算机可读介质 | |
CN113689372A (zh) | 图像处理方法、设备、存储介质及程序产品 | |
CN110211017B (zh) | 图像处理方法、装置及电子设备 | |
CN111327762A (zh) | 操作轨迹的显示方法、装置、电子设备及存储介质 | |
CN113902636A (zh) | 图像去模糊方法及装置、计算机可读介质和电子设备 | |
CN113673446A (zh) | 图像识别方法、装置、电子设备和计算机可读介质 | |
CN112258622A (zh) | 图像处理方法、装置、可读介质及电子设备 | |
CN112418054A (zh) | 图像处理方法、装置、电子设备和计算机可读介质 | |
CN110636331A (zh) | 用于处理视频的方法和装置 | |
CN110689478A (zh) | 图像风格化处理方法、装置、电子设备及可读介质 | |
CN115623281A (zh) | 视频处理方法及设备 | |
CN114399696A (zh) | 一种目标检测方法、装置、存储介质及电子设备 | |
CN114422698A (zh) | 视频生成方法、装置、设备及存储介质 | |
CN114037716A (zh) | 图像分割方法、装置、设备及存储介质 | |
CN110807728B (zh) | 对象的显示方法、装置、电子设备及计算机可读存储介质 | |
CN110084835B (zh) | 用于处理视频的方法和装置 | |
CN115249215A (zh) | 图像处理方法、装置、电子设备以及可读存储介质 | |
CN112418233A (zh) | 图像处理方法、装置、可读介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |