CN114286126A - 视频处理方法及装置 - Google Patents
视频处理方法及装置 Download PDFInfo
- Publication number
- CN114286126A CN114286126A CN202011040452.4A CN202011040452A CN114286126A CN 114286126 A CN114286126 A CN 114286126A CN 202011040452 A CN202011040452 A CN 202011040452A CN 114286126 A CN114286126 A CN 114286126A
- Authority
- CN
- China
- Prior art keywords
- image
- video
- processing
- processed
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 76
- 238000012545 processing Methods 0.000 claims abstract description 286
- 238000006243 chemical reaction Methods 0.000 claims abstract description 87
- 238000000034 method Methods 0.000 claims description 48
- 238000011084 recovery Methods 0.000 claims description 16
- 238000003860 storage Methods 0.000 claims description 8
- 230000001629 suppression Effects 0.000 claims description 6
- 238000013135 deep learning Methods 0.000 claims description 5
- 230000002708 enhancing effect Effects 0.000 claims description 5
- 230000000694 effects Effects 0.000 abstract description 17
- 238000010586 diagram Methods 0.000 description 20
- 230000008859 change Effects 0.000 description 8
- 239000003086 colorant Substances 0.000 description 7
- 238000013136 deep learning model Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 238000001514 detection method Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 238000003780 insertion Methods 0.000 description 5
- 230000037431 insertion Effects 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 238000011161 development Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000013526 transfer learning Methods 0.000 description 3
- 230000007704 transition Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000001965 increasing effect Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000008439 repair process Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000002401 inhibitory effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 238000011895 specific detection Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
- 230000002087 whitening effect Effects 0.000 description 1
Images
Abstract
本说明书提供视频处理方法及装置,其中所述视频处理方法包括:将接收到的待处理视频解码为待处理图像;对所述待处理图像进行插帧处理,获得初始图像;对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;对所述目标图像进行编码,生成目标视频,本说明书提供的视频处理方法,对待处理视频使用插帧、超分辨率、和色彩转换处理,实现了将标清或高清视频到超高清视频的转换和生成,转换成本较低、生成的视频效果更好,极大提高了视频质量,提高了用户的观看体验。
Description
技术领域
本说明书涉及计算机技术领域,特别涉及视频处理方法及装置。
背景技术
随着超高清视频的流行和国家超高清视频发展政策的鼓励,视频生产采集设备、网络覆盖和传输能力、家庭播放终端的超高清覆盖规模越来越高,为超高清产业的发展奠定了基础。随着硬件和软件各方面技术的高速发展,超高清分辨率等技术也进入用户家中,满足用户不断提升的收视体验,然而,目前仍然有海量的高清或标清的标准视频,如老电影、老视频等,标准视频的清晰度已经无法满足用户日益增长的收视体验,对标准视频重新拍摄就会造成时间以及资源的浪费。
因此,亟需一种可以将现有的标准视频转换为超高清视频的视频处理方法。
发明内容
有鉴于此,本说明书实施例提供了视频处理方法。本说明书一个或者多个实施例同时涉及视频处理装置、计算设备以及计算机可读存储介质,以解决现有技术中存在的技术缺陷。
根据本说明书实施例的第一方面,提供了一种视频处理方法,包括:
将接收到的待处理视频解码为待处理图像;
对所述待处理图像进行插帧处理,获得初始图像;
对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
对所述目标图像进行编码,生成目标视频。
根据本说明书实施例的第二方面,提供了一种视频处理方法,包括:
基于用户的调用请求为用户展示视频输入界面;
接收所述用户基于所述视频输入界面输入的待处理视频;
将所述待处理视频解码为待处理图像;
对所述待处理图像进行插帧处理,获得初始图像;
对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
对所述目标图像进行编码,生成目标视频,并将所述目标视频返回给所述用户。
根据本说明书实施例的第三方面,提供了一种视频处理方法,包括:
接收用户发送的调用请求,其中,所述调用请求中携带有待处理视频;
将所述待处理视频解码为待处理图像;
对所述待处理图像进行插帧处理,获得初始图像;
对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
对所述目标图像进行编码,生成目标视频,并将所述目标视频返回给所述用户。
根据本说明书实施例的第四方面,提供了一种视频处理装置,包括:
解码模块,被配置为将接收到的待处理视频解码为待处理图像;
插帧模块,被配置为对所述待处理图像进行插帧处理,获得初始图像;
分辨率处理模块,被配置为对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
色彩转化模块,被配置为对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
编码模块,被配置为对所述目标图像进行编码,生成目标视频。
根据本说明书实施例的第五方面,提供了一种视频处理装置,包括:
展示模块,被配置为基于用户的调用请求为用户展示视频输入界面;
接收模块,被配置为接收所述用户基于所述视频输入界面输入的待处理视频;
解码模块,被配置为将所述待处理视频解码为待处理图像;
插帧模块,被配置为对所述待处理图像进行插帧处理,获得初始图像;
分辨率处理模块,被配置为对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
色彩转化模块,被配置为对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
编码模块,被配置为对所述目标图像进行编码,生成目标视频,并将所述目标视频返回给所述用户。
根据本说明书实施例的第六方面,提供了一种视频处理装置,包括:
接收模块,被配置为接收用户发送的调用请求,其中,所述调用请求中携带有待处理视频;
解码模块,被配置为将所述待处理视频解码为待处理图像;
插帧模块,被配置为对所述待处理图像进行插帧处理,获得初始图像;
分辨率处理模块,被配置为对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
色彩转化模块,被配置为对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
编码模块,被配置为对所述目标图像进行编码,生成目标视频,并将所述目标视频返回给所述用户。
根据本说明书实施例的第七方面,提供了一种计算设备,包括:
存储器和处理器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令,其中,所述处理器执行所述计算机可执行指令时实现任意所述视频处理方法的步骤。
根据本说明书实施例的第八方面,提供了一种计算机可读存储介质,其存储有计算机可执行指令,该指令被处理器执行时实现任意所述视频处理方法的步骤。
本说明书提供的视频处理方法,将接收到的待处理视频解码为待处理图像;对所述待处理图像进行插帧处理,获得初始图像;对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;对所述目标图像进行编码,生成目标视频,本说明书提供的视频处理方法,对待处理视频使用插帧、超分辨率、和色彩转换处理,实现了将标清或高清视频到超高清视频的转换和生成,转换成本较低、生成的视频效果更好,极大提高了视频质量,提高了用户的观看体验。
其次,在视频插帧处理时,采用智能分析加动态补偿技术智能插帧,对于视频画面的动态未定、转场镜头抖动等问题有明显改善,且对剧烈运动和画幅变化场景有较好的提升效果。
再次,采用通用超分辨率处理和人脸超分辨率处理结合的方法,同时提升图像中自然场景和人物场景的观感,提升视频分辨率的同时极大提升视频质量。
最后,通过预先训练的模型对图像进行色彩转化,避免了手动调整参数的繁琐和低效,提高了视频转换效率。
附图说明
图1是本说明书一实施例提供的一种视频处理方法的具体应用场景的示意图;
图2是本说明书一个实施例提供的一种视频处理方法的架构示意图;
图3是本说明书一实施例提供的第一种视频处理方法的流程图;
图4是本说明书一实施例提供的第一种视频处理方法中多尺度插帧方法的示意图;
图5是本说明书一实施例提供的第一种视频处理方法中超分辨率方法的示意图;
图6是本说明书一实施例提供的第一种视频处理方法中色彩转化处理的示意图;
图7是本说明书一实施例提供的应用于将表情视频转换为高清视频的视频处理方法的流程图;
图8是本说明书一实施例提供的第二种视频处理方法的流程图;
图9是本说明书一实施例提供的第三种视频处理方法的流程图;
图10是本说明书一实施例提供的第一种视频处理装置的结构示意图;
图11是本说明书一实施例提供的第二种视频处理装置的结构示意图;
图12是本说明书一实施例提供的第三种视频处理装置的结构示意图;
图13是本说明书一实施例提供的一种计算设备的结构框图。
具体实施方式
在下面的描述中阐述了很多具体细节以便于充分理解本说明书。但是本说明书能够以很多不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本说明书内涵的情况下做类似推广,因此本说明书不受下面公开的具体实施的限制。
在本说明书一个或多个实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本说明书一个或多个实施例。在本说明书一个或多个实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本说明书一个或多个实施例中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本说明书一个或多个实施例中可能采用术语第一、第二等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本说明书一个或多个实施例范围的情况下,第一也可以被称为第二,类似地,第二也可以被称为第一。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
首先,对本说明书一个或多个实施例涉及的名词术语进行解释。
视频超分辨率:指对给定低分辨率视频进行处理,提高视频分辨率,优化画面细节、纹理和锐度等,抑制画面噪声等现象,提升视频画面质量的一种任务。
视频插帧:指对给定低帧率视频进行处理,提升视频帧率,同时避免和优化片源中存在的平移卡顿、镜头抖动等由于帧率低造成的画面质量问题,视频帧率提升是一种将低帧率视频转换为高帧率视频的视频后处理方法,在相邻两视频帧之间插入内插视频帧,以达到增加帧率的目的。例如,将视频帧率从30fps(Framesper Second,帧每秒)提升至60fps。为了使得视频插帧之后得到的高帧率视频能够给用户带来较好的观看体验。
HDR:(英文全称:High-Dynamic Range,中文全称:高动态范围图像,简称:HDR),是用来实现比普通数位图像技术更大曝光动态范围(即更大的明暗差别)的一组技术。
超高清视频:指符合超高清视频质量标准,即分辨率达到3840*2160,帧率达到50fps,色彩深度为10bit,色域为BT.2020,高动态色彩范围(High-Dynamic Range,HDR)的视频。
在本说明书中,提供了视频处理方法,本说明书同时涉及视频处理装置,一种计算设备,以及一种计算机可读存储介质,在下面的实施例中逐一进行详细说明。
参见图1和图2,图1示出了本说明书一个实施例提供的一种视频处理方法的具体应用场景的示意图,图2示出了本说明书一个实施例提供的一种视频处理方法的架构示意图。
图1的应用场景中包括终端102和服务器104,具体的,用户通过终端102将待处理视频发送给服务器,服务器在接收到待处理视频后,首先对待处理视频进行解码,获得若干张待处理图像,再对待处理图像进行插帧处理,获得初始图像,再对每张初始图像做分辨率处理,获得与每张初始图像对应的候选图像,再对每张候选图像进行色彩转化处理,获得与每张候选图像对应的目标图像,最后对所有的目标图像进行编码,将其编码形成与待处理视频对应的目标视频,在本实施例中,待处理视频可以是标清视频或高清视频,目标视频为超高清视频。
图2示出的视频处理的架构示意图中,首先对待处理视频进行视频插帧处理,再对视频插帧处理完成后的视频进行分辨率处理和噪声模糊抑制,再对处理完成后的视频进行色域转换和HDR调色处理,获得最终的目标视频。
参见图3,图3示出了根据本说明书一实施例提供的第一种视频处理方法的流程图,具体包括以下步骤:
步骤302:将接收到的待处理视频解码为待处理图像。
具体的,接收到待处理视频后,对待处理视频进行解码,获得所述待处理视频中的每个待处理视频帧,待处理图像即为所述待处理视频经过解码操作后获得的每个待处理视频帧,待处理视频可以是标清视频或高清视频。
在本说明书提供的一具体实施方式中,以待处理视频A为高清视频为例解释说明,将接收到的待处理视频A进行解码,获得待处理视频A对应的若干个待处理图像。
步骤304:对所述待处理图像进行插帧处理,获得初始图像。
每秒传输帧数(Frames Per Second,FPS)为图像领域中的定义,通俗来讲就是动画或视频的画面数,25FPS即表示每秒播放25帧画面,30FPS即表示每秒播放30帧画面,FPS也可以理解为帧率(赫兹),高FPS可以得到更流畅、更逼真的动画。
在本说明书中的待处理视频包括但不限于标清视频或高清视频,通常情况下待处理视频的帧率为25FPS或30FPS,超高清视频的帧率在50FPS以上,因此,如果想将标清视频或高清视频转换为超高清视频,则首先需要将视频的帧率提高到超高清视频的标准之上,如将待处理视频的帧率从25FPS提升为50FPS,或将待处理视频的帧率从30FPS提升至60FPS。
在待处理图像中插入新的视频帧的操作称之为插帧,经过插帧处理后的图像为初始图像,帧率为25FPS的待处理视频经过插帧处理后会获得帧率为50FPS的视频;帧率为30FPS的待处理视频经过插帧处理后会获得帧率为60FPS的视频。
可选的,对所述待处理图像进行插帧处理,获得初始图像,包括:
获取待处理视频的原始帧数,并确定所述待处理视频的目标帧数;
根据所述目标帧数和所述原始帧数确定插帧数量;
基于预设的插帧法对所述待处理图像进行处理,生成与所述插帧数量对应的插值帧;
将所述插值帧插入到所述待处理图像中,获得初始图像。
具体应用时,待处理视频的原始帧数,为待处理视频原始的一秒处理的视频帧的数量,如对于25FPS的待处理视频,则待处理视频帧的原始处理能力为一秒处理25帧,待处理视频的目标帧率则为待处理视频经过处理后一秒处理的视频帧的数量,如帧率为50FPS,则目标帧数为一秒处理50帧。
根据目标帧数和原始帧数可以确定在所述待处理视频中每秒插入的视频帧的插帧数量,如目标帧数为一秒处理50帧,原始帧数为一秒处理25帧,则需要在待处理图像中每一秒插入25帧视频帧,或者目标帧数为一秒处理50帧,原始帧数为一秒处理30帧,则需要在待处理图像中每一秒插入20帧视频帧。
在确定需要插入的视频帧的插帧数量后,根据预设的插帧方法对所述待处理图像进行处理,生成与所述插帧数量对应的插值帧,预设的插帧方法可以为光流插帧法、多尺度插帧法等等,再将生成的插值帧依次插入到待处理图像中,获得若干个初始图像。
可选的,在本说明书提供的另一实施例中,对所述待处理图像进行插帧处理,包括:将所述待处理图像输入至预先训练好的基于深度学习的多尺度插帧模型中进行插帧处理。
对待处理图像进行插帧处理,还可以通过预先训练好的基于深度学习的多尺度插帧模型实现,将待处理图像输入至多尺度插帧模型中,多尺度插帧模型基于待处理图像前后段落的光流进行综合计算,得到符合预期的插值帧,并将插值帧输入到待处理图像中,从而输出初始图像,通过预先训练好的多尺度插帧模型可以快速准确的处理大批量的待处理图像,提高工作效率。
在本说明书提供的一具体实施方式中,以待处理视频A的视频帧率为25FPS为例解释说明,现在需要将待处理视频A转换为超高清视频,超高清视频的视频帧率为50FPS,则首先将待处理视频A对应的待处理图像输入至预先训练好的多尺度插帧模型中进行插帧处理,将每秒播放25个视频帧变为每秒播放50个视频帧,获得多尺度插帧模型输出初始图像。
在实际应用中,通常是在待处理图像的相邻两个视频帧之间插入生成的插值帧,新生成的插值帧通常是根据相邻两个视频帧生成的,但是在视频中经常还会出现转场、大幅运动等视频帧,如果插值帧与前一帧和后一帧不连贯,最终生成的视频整体的播放过程中就会出现画面跳动、画面不和谐的情况,因此,还需要对生成的插值帧进行插值帧瑕疵检测的操作,因此在基于预设的插帧法对所述待处理图像进行处理,生成与所述插帧数量对应的插值帧之后,所述方法还包括:
对每个插值帧的质量进行打分,获得所述每个插值帧对应的插值帧质量得分;
判断目标插值帧的插值帧质量得分是否小于预设阈值,其中,所述目标插值帧属于所述每个插值帧中的任意一个;
若是,用所述目标插值帧的前一帧或后一帧替换所述目标插值帧;
若否,则保留所述目标插值帧。
对每个插值帧的质量进行打分可以根据上述多尺度插帧方法生成插值帧的基础上,利用多尺度机制产生的权值掩码,对插值帧进行打分,获得每个插值帧的插值帧质量得分。之后判断每个插值帧的插值帧质量得分与预设阈值的关系,目标插值帧为执行插值帧质量得分与预设阈值比较的插值帧,在目标插值帧的插值帧质量得分小于预设阈值的情况下,则说明目标插值帧不合格,则用目标插值帧的前一视频帧或后一视频帧替换所述目标视频帧,需要注意的是,由于在待处理图像中进行插帧处理,是在待处理图像的原始相邻的两个视频帧之间插帧,即目标插值帧的前一帧或后一帧均为待处理图像的中的图像;在目标插值帧的插值帧质量得分大于或等于预设阈值的情况下,说明目标插值帧的质量合格,则保留所述目标插值帧。
参见图4,图4示出了本说明书一实施例提供的第一种视频处理方法中多尺度插帧方法的示意图。
待处理视频按照原始帧率和目标帧率的转换比例进行整体插帧,使初始待处理视频的帧率达到目标帧率,通过多尺度插帧方法对待处理视频前后段落的光流进行综合计算,获得符合预期的插值帧。
在多尺度插帧的同时,利用多尺度机制产生的权值掩码对插值帧进行瑕疵检测和输出质量判断,保留插值帧的插值帧质量分值大于或等于预设阈值的插值帧进行多尺度融合,对于插值帧质量分值小于预设阈值的插值帧,使用插值帧的上一帧或下一帧替代插值帧,以此过滤转场、大幅运动等易出错的插值帧场景,保证插值帧的质量,提高用户的观看体验。
步骤306:对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像。
对初始图像进行分辨率处理包括:获取用户需求,基于所述用户需求对所述初始图像进行超分辨率处理和/或分辨率模糊处理。
分辨率模糊处理是指对初始图像或初始图像中的部分内容进行模糊处理。
超分辨率处理即通过软件或硬件的方法提高原有图像的分辨率,将低分辨率的图像处理为高分辨率的图像,如将分辨率为1920*1080的图像放大为分辨率为4096*2160的图像。
在实际应用中,对初始图像进行分辨率处理不仅仅局限于将初始图像的分辨率提高,有时还会根据用户的需求对初始图像的分辨率进行模糊处理,视频中经常会有一些打码处理的内容,比如新闻视频中保护当事人隐私,比如在视频直播场景中对某些标识或产品进行打码等等,在对初始图像的整体进行超分辨率的同时,还需要根据用户需求对初始图像中特定的部分内容进行打码模糊处理,进而起到保护隐私,避免侵权纠纷的作用。
标清视频或高清视频的分辨率一般为1280*720或1920*1080,超高清视频的分辨率至少应为3840*2160,因此为了提高视频质量,需要将视频中每个视频帧的分辨率均提升到目标分辨率。
对初始图像进行通用超分辨率处理,得到初始图像对应的候选图像,这里的候选图像即为初始图像经过超分辨率处理后获得的图像,如一张初始图像的分辨率为1280*720,对其经过超分辨率处理后获得的图像的分辨率为3840*2160,则新生成的图像即为候选图像,候选图像的分辨率为3840*2160。
可选的,在本说明书提供的另一实施例中,对所述初始图像进行超分辨率处理,包括:
将所述初始图像输入至预先训练好的超分辨率模型中进行超分辨率处理。
在实际应用中,可以预先训练好一个通用的超分辨率模型对图像进行超分辨率处理,通过预先训练好的超分辨率模型可以快速准确的处理大批量的图像,提高工作效率,对每个初始图像进行通用超分辨率处理,对初始图像进行视觉质量增强,还原和修复更多视觉细节,超分辨率模型采用迁移学习中的领域自适应方法,解决模拟数据与真实数据混合训练时的领域差异带来的影响,训练出的超分辨率模型可以更好的处理图像。
可选的,对所述初始图像进行超分辨率处理,包括:
检测所述初始图像中是否有人脸;
在所述初始图像中未检测到人脸的情况下,对所述初始图像进行第一超分辨率处理;
在所述初始图像中检测到人脸的情况下,对所述初始图像进行第一超分辨率处理,得到初始子图像,再对所述初始子图像中的人脸区域进行第二超分辨率处理。
为了提高用户的视觉体验,在对初始图像进行超分辨率处理时,还可以对初始图像中的人脸区域重点进行超分辨率处理,具体包括检测初始图像中是否包括人脸,具体的检测方式可以用目标检测模型,在本说明书中不对检测方式做限定。
当初始图像中未检测到人脸的情况下,则对初始图像进行第一超分辨率处理,这里的第一超分辨率处理即为上述的通用超分辨率处理,经过超分辨率处理后获得的图像即为候选图像。
当初始图像中检测到人脸的情况下,先对初始图像进行第一超分辨率处理(通用超分辨率处理),获得初始子图像,这里的初始子图像与上述为检测到人脸的情况中的候选图像相同,在初始子图像的基础上,对初始子图像中的人脸局域进行第二超分辨率处理,第二超分辨率处理即人脸超分辨率处理,重点对初始子图像中人像头部区域进行视觉增强和修复更多细节,获得候选图像,具体的人脸超分辨率处理可以通过基于迁移学习的人脸色彩增强方法,修复出高清的人脸细节,进一步提高候选图像的画面质量。
可选的,在得到所述初始图像对应的候选图像之后,所述方法还包括:
对所述候选图像进行噪声抑制和去模糊处理,获得处理完成后的候选图像。
图像噪声是指存在与图像中的不必要的或多余的干扰信息,图像噪声的存在严重影响了图像的质量,因此需要对候选图像中的噪声进行去噪处理,但去噪处理的同时又会带来边缘模糊的问题,因此需要同时对候选图像进行噪声控制和去模糊处理,在去噪的同时保持边缘的清晰。
参见图5,图5示出了本说明书一实施例提供的第一种视频处理方法中超分辨率方法的示意图。
在获得初始图像后,可以对每个初始图像使用通用超分辨率处理,通用超分辨率采用迁移学习中的领域自适应方法,解决模拟数据与真实数据混合训练时的领域差异带来的影响,通用超分辨率的处理也可以用预先训练好的通用超分辨率模型进行处理,通用超分辨率处理不区分初始图像的类型,初始图像为初始待处理视频经过解码后获得的所有的初始图像。
在对初始图像进行通用超分之后,为了进一步提升视频质量,还可以继续对视频中的人脸区域进行进一步超分辨率处理,在此称之为人像超分处理,具体为检测经过通用超分辨率处理后的初始图像中是否包括人脸图像,对于包括人脸图像的初始图像,再进行一次人像超分处理,重点对视频中人像头部区域进行视觉质量增强,修复更多细节,具体的人像超分辨率可以采用迁移学习的方式修复出高清人脸细节。
步骤308:对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像。
在获得候选图像之后,还需要对候选图像进行色彩转化处理,使得候选图像的视觉效果更好。
具体的,对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像,包括:
对所述候选图像进行色域转换、色彩增强和过曝恢复处理,得到候选图像对应的目标图像。
视频的色域实际是数字视频的标准,表示的是色彩空间,标清视频或高清视频的色域一般为BT.709,超高清视频的色域为BT.2020,超高清视频的色域与标清视频或高清视频的色域相比有更宽广的色彩空间,图像的画面色彩更加丰富,为了将标清视频或高清视频转换为超高清视频,还需要将色域进行转换。
色彩增强的目的是解决图片或视频过暗、过曝以及色彩灰暗的问题。
过曝是指由于各种原因导致的图像中亮度过高图像泛白的情况,当照片曝光时间过长或面积过大就会产生过曝,而过曝则会导致照片的美观性较差,还会造成图像的细节丢失,因此需要对图像进行过曝恢复的处理,恢复图像本身的色彩。
具体的,对所述候选图像进行色域转换、色彩增强和过曝恢复处理,得到候选图像对应的目标图像,包括:
通过预设的色域转换方法将所述候选图像的色域转换为目标色域,获得第一候选图像;
对所述第一候选图像的画面饱和度、亮度和色偏进行修复与增强,获得第二候选图像;
对所述第二候选图像的过曝区域进行补全画面内容和提升细节亮度的操作,获得目标图像。
在实际应用中,是将待处理视频转换为超高清视频,超高清视频的色域标准为BT.2020,因此需要将待处理视频中每个图像的色域都转换为超高清视频的色域范围,具体可以利用标准曲线映射的方法,将候选图像的色域转换到目标色域,获得色域转换完成的第一候选图像,如将候选图像的色域由BT.709转换到BT.2020,则色域为BT.2020的图像为第一候选图像。
在获得第一候选图像后,采用检测和调色的方法,对第一候选图像进行颜色剖析,获得第一图像的画面饱和度、亮度、色偏等参数,再对这些参数进行调整,实现对第一候选图像的修复与增强,进而实现色彩增强,获得第一候选图像对应的第二候选图像。
在获得第二候选图像之后,图像中还是会存在亮度过高、图像泛白等过曝情况,还需要对第二候选图像中的过曝区域进行修复,对过曝区域进行补全画面内容和提升细节亮度的操作,进而获得目标图像,目标图像即为候选图像经过色域转换、色彩增强和过曝恢复处理后的最终图像。
在本说明书提供的另一具体实施方式中,对所述候选图像进行色域转换、色彩增强和过曝恢复处理,得到候选图像对应的目标图像,包括:
将所述候选图像输入至预先训练好的色域转换模型中进行处理,获得第一候选图像;
将所述第一候选图像输入至预先训练好的色彩增强模型中进行处理,获得第二候选图像;
将所述第二候选图像输入至预先训练好的过曝恢复模型中进行处理,获得目标图像。
在实际应用中,对候选图像进行色域转换、色彩增强和过曝恢复的操作均可以通过预先训练的色域转换模型、色彩增强模型和过曝恢复模型实现,将候选图像依次输入至色域转换模型、色彩增强模型和过曝恢复模型中进行处理,获得候选图像对应的目标图像。
参见图6,图6示出了本说明书一实施例提供的第一种视频处理方法中色彩转化处理的示意图。
在获取候选图像之后,还需要对候选图像进行色彩转化处理,具体的包括色域转化、色彩增强和过曝恢复,获得候选图像对应的目标图像。
对于经过超分辨率处理后的候选图像,可以采用标准曲线映射的方法,将候选图像由BT.709(高清视频的国际标准)的色域转换到BT.2020的(超高清视频的国际标准)色域。
在对候选图像经过色域转换的基础上,采用检测加调色的方法,对转换后的图像做色彩剖析,针对画面饱和度、亮度与色偏进行增强与修复,实现色彩增强。
在对候选图像经过色域转换和色彩增强的技术上,可以通过预先训练的基于深度学习的过曝修复模型修复候选图像中的过曝区域,补全画面内容,提升候选图像中的亮部细节。
步骤310:对所述目标图像进行编码,生成目标视频。
目标视频即为待处理视频经过处理后获得的超高清视频,目标图像即为组成目标视频的若干个视频帧,在获得若干个目标图像之后,对目标图像进行编码以生成目标视频,其中,具体的编码过程可以采用现有技术中任意一种方式进行编码,本说明书实施例对此不做任何限定。
本说明书提供的视频处理方法,首先将待处理视频解码为待处理图像,再对待处理图像执行插帧处理,获得初始图像,经过插帧处理后获得视频帧率符合超高清视频标准的初始待处理视频,对于视频画面的动态稳定、专场镜头抖动等问题有明显改善,对插值帧的质量检测可以保证对剧烈运动和画幅变化场景有较好的提升效果,再对初始图像进行超分辨率处理,还原视频帧的更多细节,对于有人像的视频帧进一步采用人脸超分变率处理,进一步提高人像的细节,同时对视频帧去噪处理、修复模糊、使得画面更加锐利,最后对视频帧进行色彩转化处理,实现了色域的变换与提升、还原更真实自然的色彩的同时修复画面过曝和欠曝细节,进一步提升了视频质量,并且引入深度学习模型,可以进一步提高视频处理的速度,节省了人工处理的时间,提高了效率,同时也提升了视频处理的效果,提升了用户体验。
下述结合附图7,以本说明书提供的第一种视频处理方法在将标清视频转换为超高清视频中的应用为例,对所述第一种视频处理方法进行进一步说明。其中,图7示出了本说明书一实施例提供的应用于将标清视频转换为超高清视频的视频处理方法的流程图,具体包括以下步骤:
步骤702:接收待处理视频。
在本说明书提供的实施例中,接收分辨率为1920*1080、帧率为30fps、色域为BT.709的高清视频M,要将高清视频M转换为超高清视频,超高清视频的分辨率为3840*2160、帧率为50fps,色域为BT.2020。
步骤704:将所述初始待处理视频解码为初始图像。
在本说明书提供的实施例中,将所述初始待处理视频M进行解码,获得若干个待处理图像{P11、P12、P13、……P1n}。
步骤706:获取所述待处理视频的原始帧数,并确定所述待处理视频的目标帧数。
在本说明书提供的实施例中,待处理视频M的原始帧数为每秒30帧,目标帧数为每秒50帧。
步骤708:根据所述目标帧数和所述原始帧数确定插帧数量。
在本说明书提供的实施例中,根据目标帧数和原始帧数确定每秒插帧数量为20帧。
步骤710:基于预设的插帧法对所述待处理图像进行处理,生成与所述插帧数量对应的插值帧。
在本说明书提供的实施例中,将所述待处理图像{P11、P12、P13、……P1n}输入至预先训练好的多尺度插帧模型中进行处理,生成对应数量的插值帧。
步骤712:将所述插值帧插入到所述待处理图像中,获得初始图像。
在本说明书提供的实施例中,将生成的插值帧插入到所述待处理图像{P11、P12、P13、……P1n}中,获得初始图像{P21、P22、P23、……P2n}。
步骤714:将所述初始图像输入至预先训练好的超分辨率模型中进行超分辨率处理,得到所述初始图像对应的候选子图像。
在本说明书提供的实施例中,初始图像{P21、P22、P23、……P2n}的分辨率为1920*1080,将初始图像{P21、P22、P23、……P2n}输入至预先训练好的超分辨率模型中进行超分辨率处理,获得初始图像对应的候选子图像{P31、P32、P33、……P3n},候选子图像的图像分辨率为3840*2160。
步骤716:对所述候选子图像进行噪声抑制和去模糊处理,获得处理完成后的候选图像。
在本说明书提供的实施例中,对候选子图像{P31、P32、P33、……P3n}进行噪声抑制和去模糊处理,获得处理完成后的候选图像{P41、P42、P43、……P4n}。
步骤718:通过预设的色域转换方法将所述候选图像的色域转换为目标色域,获得第一候选图像。
在本说明书提供的实施例中,将候选图像{P41、P42、P43、……P4n}的色域为BT.709,通过标准曲线映射方式,对候选图像{P41、P42、P43、……P4n}中的图像进行色域转换,获得第一候选图像{P51、P52、P53、……P5n},第一候选图像{P51、P52、P53、……P5n}的色域为BT.2020。
步骤720:对所述第一候选图像的画面饱和度、亮度和色偏进行修复与增强,获得第二候选图像。
在本说明书提供的实施例中,对第一候选图像{P51、P52、P53、……P5n}的画面饱和度、亮度和色彩进行修复与增强,获得第二候选图像{P61、P62、P63、……P6n}。
步骤722:对所述第二候选图像的过曝区域进行补全画面内容和提升细节亮度的操作,获得目标图像。
在本说明书提供的实施例中,对所述第二候选图像{P61、P62、P63、……P6n}中过曝区域进行补全画面内容和提升细节亮度,获得目标图像{P71、P72、P73、……P7n}。
步骤724:对所述目标图像进行编码,生成目标视频。
在本说明书提供的实施例中,对目标图像{P71、P72、P73、……P7n}进行编码,获得超高清视频,超高清视频的分辨率为3840*2160、帧率为50fps,色域为BT.2020。
本说明书提供的视频处理方法,首先将待处理视频解码为待处理图像,再对待处理图像执行插帧处理,获得初始图像,经过插帧处理后获得视频帧率符合超高清视频标准的初始待处理视频,对于视频画面的动态稳定、专场镜头抖动等问题有明显改善,对插值帧的质量检测可以保证对剧烈运动和画幅变化场景有较好的提升效果,再对初始图像进行超分辨率处理,还原视频帧的更多细节,对于有人像的视频帧进一步采用人脸超分变率处理,进一步提高人像的细节,同时对视频帧去噪处理、修复模糊、使得画面更加锐利,最后对视频帧进行色彩转化处理,实现了色域的变换与提升、还原更真实自然的色彩的同时修复画面过曝和欠曝细节,进一步提升了视频质量,并且引入深度学习模型,可以进一步提高视频处理的速度,节省了人工处理的时间,提高了效率,同时也提升了视频处理的效果,提升了用户体验。
参见图8,图8示出了本说明书一实施例提供的第二种视频处理方法的流程图,具体包括以下步骤:
步骤802:基于用户的调用请求为用户展示视频输入界面。
步骤804:接收所述用户基于所述视频输入界面输入的待处理视频。
步骤806:将所述待处理视频解码为待处理图像。
步骤808:对所述待处理图像进行插帧处理,获得初始图像。
步骤810:对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像。
步骤812:对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像。
步骤814:对所述目标图像进行编码,生成目标视频,并将所述目标视频返回给所述用户。
需要说明的是,本说明书实施例提供的第二种视频处理方法中与上述第一种视频处理方法的实施例相对应的部分,可以参见上述第一种视频处理方法的实施例中的详细描述,在此不再赘述。
本说明书提供的视频处理方法,首先将待处理视频解码为待处理图像,再对待处理图像执行插帧处理,获得初始图像,经过插帧处理后获得视频帧率符合超高清视频标准的初始待处理视频,对于视频画面的动态稳定、专场镜头抖动等问题有明显改善,对插值帧的质量检测可以保证对剧烈运动和画幅变化场景有较好的提升效果,再对初始图像进行超分辨率处理,还原视频帧的更多细节,对于有人像的视频帧进一步采用人脸超分变率处理,进一步提高人像的细节,同时对视频帧去噪处理、修复模糊、使得画面更加锐利,最后对视频帧进行色彩转化处理,实现了色域的变换与提升、还原更真实自然的色彩的同时修复画面过曝和欠曝细节,进一步提升了视频质量,并且引入深度学习模型,可以进一步提高视频处理的速度,节省了人工处理的时间,提高了效率,同时也提升了视频处理的效果,提升了用户体验。
参见图9,图9示出了本说明书一实施例提供的第三种视频处理方法的流程图,具体包括以下步骤:
步骤902:接收用户发送的调用请求,其中,所述调用请求中携带有待处理视频。
步骤904:将所述待处理视频解码为待处理图像。
步骤906:对所述待处理图像进行插帧处理,获得初始图像。
步骤908:对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像。
步骤910:对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像。
步骤912:对所述目标图像进行编码,生成目标视频,并将所述目标视频返回给所述用户。
需要说明的是,本说明书实施例提供的第二种视频处理方法中与上述第一种视频处理方法的实施例相对应的部分,可以参见上述第一种视频处理方法的实施例中的详细描述,在此不再赘述。
本说明书提供的视频处理方法,首先将待处理视频解码为待处理图像,再对待处理图像执行插帧处理,获得初始图像,经过插帧处理后获得视频帧率符合超高清视频标准的初始待处理视频,对于视频画面的动态稳定、专场镜头抖动等问题有明显改善,对插值帧的质量检测可以保证对剧烈运动和画幅变化场景有较好的提升效果,再对初始图像进行超分辨率处理,还原视频帧的更多细节,对于有人像的视频帧进一步采用人脸超分变率处理,进一步提高人像的细节,同时对视频帧去噪处理、修复模糊、使得画面更加锐利,最后对视频帧进行色彩转化处理,实现了色域的变换与提升、还原更真实自然的色彩的同时修复画面过曝和欠曝细节,进一步提升了视频质量,并且引入深度学习模型,可以进一步提高视频处理的速度,节省了人工处理的时间,提高了效率,同时也提升了视频处理的效果,提升了用户体验。
与上述第一种视频处理方法实施例相对应,本说明书还提供了第一种视频处理装置实施例,图10示出了本说明书一实施例提供的一种视频处理装置的结构示意图。如图10所示,该装置包括:
解码模块1002,被配置为将接收到的待处理视频解码为待处理图像。
插帧模块1004,被配置为对所述待处理图像进行插帧处理,获得初始图像。
分辨率处理模块1006,被配置为对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像。
色彩转化模块1008,被配置为对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像。
编码模块1010,被配置为对所述目标图像进行编码,生成目标视频。
可选的,所述插帧模块1004,进一步被配置为:
获取待处理视频的原始帧数,并确定所述待处理视频的目标帧数;
根据所述目标帧数和所述原始帧数确定插帧数量;
基于预设的插帧法对所述待处理图像进行处理,生成与所述插帧数量对应的插值帧;
将所述插值帧插入到所述待处理图像中,获得初始图像。
可选的,所述插帧模块1004,进一步被配置为:
对每个插值帧的质量进行打分,获得所述每个插值帧对应的插值帧质量得分;
判断目标插值帧的插值帧质量得分是否小于预设阈值,其中,所述目标插值帧属于所述每个插值帧中的任意一个;
若是,用所述目标插值帧的前一帧或后一帧替换所述目标插值帧;
若否,则保留所述目标插值帧。
可选的,所述分辨率处理模块1006,进一步被配置为:
获取用户需求;
基于所述用户需求对所述初始图像进行超分辨率处理和/或分辨率模糊处理。
可选的,所述分辨率处理模块1006,进一步被配置为:
检测所述初始图像中是否有人脸;
在所述初始图像中未检测到人脸的情况下,对所述初始图像进行第一超分辨率处理;
在所述初始图像中检测到人脸的情况下,对所述初始图像进行第一超分辨率处理,得到初始子图像,再对所述初始子图像中的人脸区域进行第二超分辨率处理。
可选的,所述分辨率处理模块1006,进一步被配置为:
对所述候选图像进行噪声抑制和去模糊处理,获得处理完成后的候选图像。
可选的,所述色彩转化模块1008,进一步被配置为:
对所述候选图像进行色域转换、色彩增强和过曝恢复处理,得到候选图像对应的目标图像。
可选的,所述色彩转化模块1008,进一步被配置为:
通过预设的色域转换方法将所述候选图像的色域转换为目标色域,获得第一候选图像;
对所述第一候选图像的画面饱和度、亮度和色偏进行修复与增强,获得第二候选图像;
对所述第二候选图像的过曝区域进行补全画面内容和提升细节亮度的操作,获得目标图像。
可选的,所述色彩转化模块1008,进一步被配置为:
将所述候选图像输入至预先训练好的色域转换模型中进行处理,获得第一候选图像;
将所述第一候选图像输入至预先训练好的色彩增强模型中进行处理,获得第二候选图像;
将所述第二候选图像输入至预先训练好的过曝恢复模型中进行处理,获得目标图像。
可选的,所述插帧模块1004,进一步被配置为:
将所述待处理图像输入至预先训练好的基于深度学习的多尺度插帧模型中进行插帧处理。
可选的,所述分辨率处理模块1006,进一步被配置为:
将所述初始图像输入至预先训练好的超分辨率模型中进行超分辨率处理。
本说明书提供的视频处理装置,首先将待处理视频解码为待处理图像,再对待处理图像执行插帧处理,获得初始图像,经过插帧处理后获得视频帧率符合超高清视频标准的初始待处理视频,对于视频画面的动态稳定、专场镜头抖动等问题有明显改善,对插值帧的质量检测可以保证对剧烈运动和画幅变化场景有较好的提升效果,再对初始图像进行超分辨率处理,还原视频帧的更多细节,对于有人像的视频帧进一步采用人脸超分变率处理,进一步提高人像的细节,同时对视频帧去噪处理、修复模糊、使得画面更加锐利,最后对视频帧进行色彩转化处理,实现了色域的变换与提升、还原更真实自然的色彩的同时修复画面过曝和欠曝细节,进一步提升了视频质量,并且引入深度学习模型,可以进一步提高视频处理的速度,节省了人工处理的时间,提高了效率,同时也提升了视频处理的效果,提升了用户体验。
上述为本实施例的第一种视频处理装置的示意性方案。需要说明的是,该视频处理装置的技术方案与上述的第一种视频处理方法的技术方案属于同一构思,第一种视频处理装置的技术方案未详细描述的细节内容,均可以参见上述第一种视频处理方法的技术方案的描述。
与上述第二种视频处理方法实施例相对应,本说明书还提供了第二种视频处理装置实施例,图11示出了本说明书一实施例提供的第二种视频处理装置的结构示意图。如图11所示,该装置包括:
展示模块1102,被配置为基于用户的调用请求为用户展示视频输入界面;
接收模块1104,被配置为接收所述用户基于所述视频输入界面输入的待处理视频;
解码模块1106,被配置为将所述待处理视频解码为待处理图像;
插帧模块1108,被配置为对所述待处理图像进行插帧处理,获得初始图像;
分辨率处理模块1110,被配置为对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
色彩转化模块1112,被配置为对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
编码模块1114,被配置为对所述目标图像进行编码,生成目标视频,并将所述目标视频返回给所述用户。
本说明书提供的视频处理装置,首先将待处理视频解码为待处理图像,再对待处理图像执行插帧处理,获得初始图像,经过插帧处理后获得视频帧率符合超高清视频标准的初始待处理视频,对于视频画面的动态稳定、专场镜头抖动等问题有明显改善,对插值帧的质量检测可以保证对剧烈运动和画幅变化场景有较好的提升效果,再对初始图像进行超分辨率处理,还原视频帧的更多细节,对于有人像的视频帧进一步采用人脸超分变率处理,进一步提高人像的细节,同时对视频帧去噪处理、修复模糊、使得画面更加锐利,最后对视频帧进行色彩转化处理,实现了色域的变换与提升、还原更真实自然的色彩的同时修复画面过曝和欠曝细节,进一步提升了视频质量,并且引入深度学习模型,可以进一步提高视频处理的速度,节省了人工处理的时间,提高了效率,同时也提升了视频处理的效果,提升了用户体验。
上述为本实施例的第二种视频处理装置的示意性方案。需要说明的是,该视频处理装置的技术方案与上述的第二种视频处理方法的技术方案属于同一构思,第二种视频处理装置的技术方案未详细描述的细节内容,均可以参见上述第二种视频处理方法的技术方案的描述。
与上述第三种视频处理方法实施例相对应,本说明书还提供了第三种视频处理装置实施例,图12示出了本说明书一实施例提供的第三种视频处理装置的结构示意图。如图12所示,该装置包括:
接收模块1202,被配置为接收用户发送的调用请求,其中,所述调用请求中携带有待处理视频;
解码模块1204,被配置为将所述待处理视频解码为待处理图像;
插帧模块1206,被配置为对所述待处理图像进行插帧处理,获得初始图像;
分辨率处理模块1208,被配置为对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
色彩转化模块1210,被配置为对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
编码模块1212,被配置为对所述目标图像进行编码,生成目标视频,并将所述目标视频返回给所述用户。
本说明书提供的视频处理装置,首先将待处理视频解码为待处理图像,再对待处理图像执行插帧处理,获得初始图像,经过插帧处理后获得视频帧率符合超高清视频标准的初始待处理视频,对于视频画面的动态稳定、专场镜头抖动等问题有明显改善,对插值帧的质量检测可以保证对剧烈运动和画幅变化场景有较好的提升效果,再对初始图像进行超分辨率处理,还原视频帧的更多细节,对于有人像的视频帧进一步采用人脸超分变率处理,进一步提高人像的细节,同时对视频帧去噪处理、修复模糊、使得画面更加锐利,最后对视频帧进行色彩转化处理,实现了色域的变换与提升、还原更真实自然的色彩的同时修复画面过曝和欠曝细节,进一步提升了视频质量,并且引入深度学习模型,可以进一步提高视频处理的速度,节省了人工处理的时间,提高了效率,同时也提升了视频处理的效果,提升了用户体验。
上述为本实施例的第三种视频处理装置的示意性方案。需要说明的是,该视频处理装置的技术方案与上述的第三种视频处理方法的技术方案属于同一构思,第三种视频处理装置的技术方案未详细描述的细节内容,均可以参见上述第三种视频处理方法的技术方案的描述。
图13示出了根据本说明书一实施例提供的一种计算设备1300的结构框图。该计算设备1300的部件包括但不限于存储器1310和处理器1320。处理器1320与存储器1310通过总线1330相连接,数据库1350用于保存数据。
计算设备1300还包括接入设备1340,接入设备1340使得计算设备1300能够经由一个或多个网络1360通信。这些网络的示例包括公用交换电话网(PSTN)、局域网(LAN)、广域网(WAN)、个域网(PAN)或诸如因特网的通信网络的组合。接入设备1340可以包括有线或无线的任何类型的网络接口(例如,网络接口卡(NIC))中的一个或多个,诸如IEEE802.11无线局域网(WLAN)无线接口、全球微波互联接入(Wi-MAX)接口、以太网接口、通用串行总线(USB)接口、蜂窝网络接口、蓝牙接口、近场通信(NFC)接口,等等。
在本说明书的一个实施例中,计算设备1300的上述部件以及图13中未示出的其他部件也可以彼此相连接,例如通过总线。应当理解,图13所示的计算设备结构框图仅仅是出于示例的目的,而不是对本说明书范围的限制。本领域技术人员可以根据需要,增添或替换其他部件。
计算设备1300可以是任何类型的静止或移动计算设备,包括移动计算机或移动计算设备(例如,平板计算机、个人数字助理、膝上型计算机、笔记本计算机、上网本等)、移动电话(例如,智能手机)、可佩戴的计算设备(例如,智能手表、智能眼镜等)或其他类型的移动设备,或者诸如台式计算机或PC的静止计算设备。计算设备1300还可以是移动式或静止式的服务器。
其中,处理器1320用于执行所述计算机可执行指令,其中,所述处理器执行所述计算机可执行指令时实现上述任意一项所述视频处理方法的步骤。
上述为本实施例的一种计算设备的示意性方案。需要说明的是,该计算设备的技术方案与上述的视频处理方法的技术方案属于同一构思,计算设备的技术方案未详细描述的细节内容,均可以参见上述视频处理方法的技术方案的描述。
本说明书一实施例还提供一种计算机可读存储介质,其存储有计算机指令,该指令被处理器执行时实现上述任意一项所述视频处理方法的步骤。
上述为本实施例的一种计算机可读存储介质的示意性方案。需要说明的是,该存储介质的技术方案与上述的视频处理方法的技术方案属于同一构思,存储介质的技术方案未详细描述的细节内容,均可以参见上述视频处理方法的技术方案的描述。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
所述计算机指令包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
需要说明的是,对于前述的各方法实施例,为了简便描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本说明书并不受所描述的动作顺序的限制,因为依据本说明书,某些步骤可以采用其它顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定都是本说明书所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其它实施例的相关描述。
以上公开的本说明书优选实施例只是用于帮助阐述本说明书。可选实施例并没有详尽叙述所有的细节,也不限制该发明仅为所述的具体实施方式。显然,根据本说明书的内容,可作很多的修改和变化。本说明书选取并具体描述这些实施例,是为了更好地解释本说明书的原理和实际应用,从而使所属技术领域技术人员能很好地理解和利用本说明书。本说明书仅受权利要求书及其全部范围和等效物的限制。
Claims (18)
1.一种视频处理方法,包括:
将接收到的待处理视频解码为待处理图像;
对所述待处理图像进行插帧处理,获得初始图像;
对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
对所述目标图像进行编码,生成目标视频。
2.如权利要求1所述的视频处理方法,对所述待处理图像进行插帧处理,获得初始图像,包括:
获取待处理视频的原始帧数,并确定所述待处理视频的目标帧数;
根据所述目标帧数和所述原始帧数确定插帧数量;
基于预设的插帧法对所述待处理图像进行处理,生成与所述插帧数量对应的插值帧;
将所述插值帧插入到所述待处理图像中,获得初始图像。
3.如权利要求2所述的视频处理方法,在基于预设的插帧法对所述待处理图像进行处理,生成与所述插帧数量对应的插值帧之后,所述方法还包括:
对每个插值帧的质量进行打分,获得所述每个插值帧对应的插值帧质量得分;
判断目标插值帧的插值帧质量得分是否小于预设阈值,其中,所述目标插值帧属于所述每个插值帧中的任意一个;
若是,用所述目标插值帧的前一帧或后一帧替换所述目标插值帧;
若否,则保留所述目标插值帧。
4.如权利要求1所述的视频处理方法,对所述初始图像进行分辨率处理,包括:
获取用户需求;
基于所述用户需求对所述初始图像进行超分辨率处理和/或分辨率模糊处理。
5.如权利要求4所述的视频处理方法,对所述初始图像进行超分辨率处理,包括:
检测所述初始图像中是否有人脸;
在所述初始图像中未检测到人脸的情况下,对所述初始图像进行第一超分辨率处理;
在所述初始图像中检测到人脸的情况下,对所述初始图像进行第一超分辨率处理,得到初始子图像,再对所述初始子图像中的人脸区域进行第二超分辨率处理。
6.如权利要求5所述的视频处理方法,在得到所述初始图像对应的候选图像之后,所述方法还包括:
对所述候选图像进行噪声抑制和去模糊处理,获得处理完成后的候选图像。
7.如权利要求1所述的视频处理方法,对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像,包括:
对所述候选图像进行色域转换、色彩增强和过曝恢复处理,得到候选图像对应的目标图像。
8.如权利要求7所述的视频处理方法,对所述候选图像进行色域转换、色彩增强和过曝恢复处理,得到候选图像对应的目标图像,包括:
通过预设的色域转换方法将所述候选图像的色域转换为目标色域,获得第一候选图像;
对所述第一候选图像的画面饱和度、亮度和色偏进行修复与增强,获得第二候选图像;
对所述第二候选图像的过曝区域进行补全画面内容和提升细节亮度的操作,获得目标图像。
9.如权利要求7所述的视频处理方法,对所述候选图像进行色域转换、色彩增强和过曝恢复处理,得到候选图像对应的目标图像,包括:
将所述候选图像输入至预先训练好的色域转换模型中进行处理,获得第一候选图像;
将所述第一候选图像输入至预先训练好的色彩增强模型中进行处理,获得第二候选图像;
将所述第二候选图像输入至预先训练好的过曝恢复模型中进行处理,获得目标图像。
10.如权利要求1所述的视频处理方法,对所述待处理图像进行插帧处理,包括:
将所述待处理图像输入至预先训练好的基于深度学习的多尺度插帧模型中进行插帧处理。
11.如权利要求4所述的视频处理方法,对所述初始图像进行超分辨率处理,包括:
将所述初始图像输入至预先训练好的超分辨率模型中进行超分辨率处理。
12.一种视频处理方法,包括:
基于用户的调用请求为用户展示视频输入界面;
接收所述用户基于所述视频输入界面输入的待处理视频;
将所述待处理视频解码为待处理图像;
对所述待处理图像进行插帧处理,获得初始图像;
对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
对所述目标图像进行编码,生成目标视频,并将所述目标视频返回给所述用户。
13.一种视频处理方法,包括:
接收用户发送的调用请求,其中,所述调用请求中携带有待处理视频;
将所述待处理视频解码为待处理图像;
对所述待处理图像进行插帧处理,获得初始图像;
对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
对所述目标图像进行编码,生成目标视频,并将所述目标视频返回给所述用户。
14.一种视频处理装置,包括:
解码模块,被配置为将接收到的待处理视频解码为待处理图像;
插帧模块,被配置为对所述待处理图像进行插帧处理,获得初始图像;
分辨率处理模块,被配置为对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
色彩转化模块,被配置为对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
编码模块,被配置为对所述目标图像进行编码,生成目标视频。
15.一种视频处理装置,包括:
展示模块,被配置为基于用户的调用请求为用户展示视频输入界面;
接收模块,被配置为接收所述用户基于所述视频输入界面输入的待处理视频;
解码模块,被配置为将所述待处理视频解码为待处理图像;
插帧模块,被配置为对所述待处理图像进行插帧处理,获得初始图像;
分辨率处理模块,被配置为对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
色彩转化模块,被配置为对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
编码模块,被配置为对所述目标图像进行编码,生成目标视频,并将所述目标视频返回给所述用户。
16.一种视频处理装置,包括:
接收模块,被配置为接收用户发送的调用请求,其中,所述调用请求中携带有待处理视频;
解码模块,被配置为将所述待处理视频解码为待处理图像;
插帧模块,被配置为对所述待处理图像进行插帧处理,获得初始图像;
分辨率处理模块,被配置为对所述初始图像进行分辨率处理,得到所述初始图像对应的候选图像;
色彩转化模块,被配置为对所述候选图像进行色彩转化处理,得到所述候选图像对应的目标图像;
编码模块,被配置为对所述目标图像进行编码,生成目标视频,并将所述目标视频返回给所述用户。
17.一种计算设备,包括:
存储器和处理器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令,其中,所述处理器执行所述计算机可执行指令时实现权利要求1-11或12或13任意一项所述视频处理方法的步骤。
18.一种计算机可读存储介质,其存储有计算机指令,该指令被处理器执行时实现权利要求1-11或12或13任意一项所述视频处理方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011040452.4A CN114286126A (zh) | 2020-09-28 | 2020-09-28 | 视频处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011040452.4A CN114286126A (zh) | 2020-09-28 | 2020-09-28 | 视频处理方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114286126A true CN114286126A (zh) | 2022-04-05 |
Family
ID=80867967
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011040452.4A Pending CN114286126A (zh) | 2020-09-28 | 2020-09-28 | 视频处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114286126A (zh) |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6594313B1 (en) * | 1998-12-23 | 2003-07-15 | Intel Corporation | Increased video playback framerate in low bit-rate video applications |
US20100027664A1 (en) * | 2008-08-04 | 2010-02-04 | Kabushiki Kaisha Toshiba | Image Processing Apparatus and Image Processing Method |
US20100026695A1 (en) * | 2008-08-04 | 2010-02-04 | Kabushiki Kaisha Toshiba | Image Processing Apparatus and Image Processing Method |
US20100201719A1 (en) * | 2009-02-06 | 2010-08-12 | Semiconductor Energy Laboratory Co., Ltd. | Method for driving display device |
CN103297862A (zh) * | 2012-02-29 | 2013-09-11 | 三星电子株式会社 | 在终端中使用关键帧显示内容的设备和方法 |
CN106791865A (zh) * | 2017-01-20 | 2017-05-31 | 杭州当虹科技有限公司 | 基于高动态范围视频的自适应格式转换的方法 |
CN108961186A (zh) * | 2018-06-29 | 2018-12-07 | 赵岩 | 一种基于深度学习的老旧影片修复重制方法 |
CN109348309A (zh) * | 2018-05-04 | 2019-02-15 | 上海交通大学 | 一种适用于帧率上变换的分布式视频转码方法 |
CN111277780A (zh) * | 2018-12-04 | 2020-06-12 | 阿里巴巴集团控股有限公司 | 一种改善插帧效果的方法和装置 |
CN111489293A (zh) * | 2020-03-04 | 2020-08-04 | 北京思朗科技有限责任公司 | 图像的超分辨率重建方法及装置 |
CN111641828A (zh) * | 2020-05-16 | 2020-09-08 | Oppo广东移动通信有限公司 | 视频处理方法及装置、存储介质和电子设备 |
CN111654723A (zh) * | 2020-05-14 | 2020-09-11 | 北京百度网讯科技有限公司 | 视频质量提升方法、装置、电子设备和存储介质 |
-
2020
- 2020-09-28 CN CN202011040452.4A patent/CN114286126A/zh active Pending
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6594313B1 (en) * | 1998-12-23 | 2003-07-15 | Intel Corporation | Increased video playback framerate in low bit-rate video applications |
US20100027664A1 (en) * | 2008-08-04 | 2010-02-04 | Kabushiki Kaisha Toshiba | Image Processing Apparatus and Image Processing Method |
US20100026695A1 (en) * | 2008-08-04 | 2010-02-04 | Kabushiki Kaisha Toshiba | Image Processing Apparatus and Image Processing Method |
US20100201719A1 (en) * | 2009-02-06 | 2010-08-12 | Semiconductor Energy Laboratory Co., Ltd. | Method for driving display device |
CN103297862A (zh) * | 2012-02-29 | 2013-09-11 | 三星电子株式会社 | 在终端中使用关键帧显示内容的设备和方法 |
CN106791865A (zh) * | 2017-01-20 | 2017-05-31 | 杭州当虹科技有限公司 | 基于高动态范围视频的自适应格式转换的方法 |
CN109348309A (zh) * | 2018-05-04 | 2019-02-15 | 上海交通大学 | 一种适用于帧率上变换的分布式视频转码方法 |
CN108961186A (zh) * | 2018-06-29 | 2018-12-07 | 赵岩 | 一种基于深度学习的老旧影片修复重制方法 |
CN111277780A (zh) * | 2018-12-04 | 2020-06-12 | 阿里巴巴集团控股有限公司 | 一种改善插帧效果的方法和装置 |
CN111489293A (zh) * | 2020-03-04 | 2020-08-04 | 北京思朗科技有限责任公司 | 图像的超分辨率重建方法及装置 |
CN111654723A (zh) * | 2020-05-14 | 2020-09-11 | 北京百度网讯科技有限公司 | 视频质量提升方法、装置、电子设备和存储介质 |
CN111641828A (zh) * | 2020-05-16 | 2020-09-08 | Oppo广东移动通信有限公司 | 视频处理方法及装置、存储介质和电子设备 |
Non-Patent Citations (3)
Title |
---|
HOANG VAN XIEM: "Statistical search range adaptation solution for effective frame rate up-conversion", IET IMAGE PROCESSING, 1 January 2018 (2018-01-01) * |
苏姗: "结合空时域下采样与重建的H.264/AVC压缩性能优化", 电讯技术, 6 September 2018 (2018-09-06) * |
郭强;: "高质量视频处理对接标清节目和高清电视", 集成电路应用, no. 08, 10 August 2010 (2010-08-10), pages 6 - 7 * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9501818B2 (en) | Local multiscale tone-mapping operator | |
WO2022141819A1 (zh) | 视频插帧方法、装置、计算机设备及存储介质 | |
CN108235055B (zh) | Ar场景中透明视频实现方法及设备 | |
WO2020107989A1 (zh) | 视频处理方法、装置、电子设备以及存储介质 | |
KR20120107429A (ko) | 구역 기반의 톤 매핑 | |
CN110717868B (zh) | 视频高动态范围反色调映射模型构建、映射方法及装置 | |
JP2018524852A (ja) | 画素の前処理および符号化 | |
WO2023010754A1 (zh) | 一种图像处理方法、装置、终端设备及存储介质 | |
JP7359521B2 (ja) | 画像処理方法および装置 | |
CN111429357B (zh) | 训练数据确定方法、视频处理方法、装置、设备及介质 | |
CN111784570A (zh) | 一种视频图像超分辨率重建方法及设备 | |
EP4036841A1 (en) | Image processing method and apparatus | |
CN111105376A (zh) | 基于双分支神经网络的单曝光高动态范围图像生成方法 | |
CN114143555A (zh) | 静态视频识别 | |
CN110689498B (zh) | 一种基于对非关注点部分分级模糊的高清视频优化方法 | |
JP2020524446A (ja) | 効率的なエンド・ツー・エンドシングルレイヤー逆ディスプレイマネジメント符号化 | |
CN111738951A (zh) | 图像处理方法及装置 | |
CN111429371A (zh) | 图像处理方法、装置及终端设备 | |
Dar et al. | Optimized pre-compensating compression | |
Chung et al. | Effective content-aware chroma reconstruction method for screen content images | |
WO2023202447A1 (zh) | 画质提升模型的训练方法和视频会议系统画质的提升方法 | |
CN111147924B (zh) | 一种视频增强处理方法及系统 | |
CN110443754B (zh) | 一种数字图像分辨率提升的方法 | |
Agarwal et al. | Compressing video calls using synthetic talking heads | |
CN114286126A (zh) | 视频处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |