CN114640796B - 视频处理方法、装置、电子设备及存储介质 - Google Patents

视频处理方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN114640796B
CN114640796B CN202210303579.3A CN202210303579A CN114640796B CN 114640796 B CN114640796 B CN 114640796B CN 202210303579 A CN202210303579 A CN 202210303579A CN 114640796 B CN114640796 B CN 114640796B
Authority
CN
China
Prior art keywords
operator
antialiasing
processed
video frame
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210303579.3A
Other languages
English (en)
Other versions
CN114640796A (zh
Inventor
杨定东
雷凯翔
尹淳骥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Zitiao Network Technology Co Ltd
Original Assignee
Beijing Zitiao Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Zitiao Network Technology Co Ltd filed Critical Beijing Zitiao Network Technology Co Ltd
Priority to CN202210303579.3A priority Critical patent/CN114640796B/zh
Publication of CN114640796A publication Critical patent/CN114640796A/zh
Priority to PCT/CN2023/080197 priority patent/WO2023179360A1/zh
Application granted granted Critical
Publication of CN114640796B publication Critical patent/CN114640796B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265—Mixing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23424—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving splicing one content stream with another content stream, e.g. for inserting or substituting an advertisement
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Abstract

本公开实施例提供了一种视频处理方法、装置、电子设备及存储介质，该方法包括：获取待处理视频帧；将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子；通过对各目标视频帧拼接处理，得到目标视频。本公开实施例的技术方案，在原视频相邻几帧图像出现较大改变时，可以有效避免输出的视频画面发生“抖动”，在解决画面“抖动”问题的同时，也不会降低图像的质量以及清晰度，提高了用户的使用体验。

Description

视频处理方法、装置、电子设备及存储介质
技术领域
本公开实施例涉及图像处理技术领域，尤其涉及一种视频处理方法、装置、电子设备及存储介质。
背景技术
随着网络技术的不断发展，越来越多的应用程序进入了用户的生活，尤其是一系列可以拍摄短视频的软件，深受用户的喜爱。
现有技术中，应用软件可以向用户提供视频处理的功能，可以理解为，将预先构建的多种模型集成到应用中，基于这些模型对视频进行处理后，即可得到相对应的处理结果，例如，使视频画面呈现出特定的风格、颜色等。
然而，应用对视频进行处理时，如果相邻几帧画面出现较大的改变(如，画面发生略微位移、旋转)，模型输出的处理后的视频帧即会发生较大的变化，从而使处理后的视频呈现出“抖动”的视觉效果，进一步的，利用现有的处理方式不仅无法彻底解决画面抖动的问题，还会降低图像的质量和清晰度，影响了用户的使用体验。
发明内容
本公开提供一种视频处理方法、装置、电子设备及存储介质，在原视频相邻几帧图像出现较大改变时，可以有效避免所输出的视频画面发生“抖动”，在解决画面“抖动”问题的同时，也不会降低图像的质量以及清晰度，提高了用户的使用体验。
第一方面，本公开实施例提供了一种视频处理方法，包括：
获取待处理视频帧；
将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子；
通过对各目标视频帧拼接处理，得到目标视频。
第二方面，本公开实施例还提供了一种视频处理装置，包括：
待处理视频帧获取模块，用于获取待处理视频帧；
目标视频帧确定模块，用于将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子；
目标视频生成模块，用于通过对各目标视频帧拼接处理，得到目标视频。
第三方面，本公开实施例还提供了一种电子设备，所述电子设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本公开实施例任一所述的视频处理方法。
第四方面，本公开实施例还提供了一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如本公开实施例任一所述的视频处理方法。
本公开实施例的技术方案，获取待处理视频帧，再将待处理视频帧输入至包括抗混叠算子的图像处理模型中，从而得到与待处理视频帧相对应的目标视频帧，其中，抗混叠算子包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子，进一步的，通过对各目标视频帧拼接处理，即可得到目标视频，在原视频相邻几帧图像出现较大改变时，可以有效避免所输出的视频画面发生“抖动”，在解决画面“抖动”问题的同时，也不会降低图像的质量以及清晰度，提高了用户的使用体验。
附图说明
结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。
图1为本公开实施例一所提供的一种视频处理方法流程示意图；
图2为本公开实施例一所提供的抗混叠算子的结构示意图；
图3为本公开实施例二所提供的一种视频处理方法流程示意图；
图4为本公开实施例三所提供的一种视频处理装置结构示意图；
图5为本公开实施例四所提供的一种电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
实施例一
图1为本公开实施例一所提供的一种视频处理方法流程示意图，本公开实施例适用于基于包括抗混叠算子的图像处理模型对所获取的待处理视频帧进行处理，从而避免输出的视频出现“抖动”的情形，该方法可以由视频处理装置来执行，该装置可以通过软件和/或硬件的形式实现，可选的，通过电子设备来实现，该电子设备可以是移动终端、PC端或服务器等。
在介绍本技术方案之前，在此先对本公开实施例的应用场景进行说明。在应用基于待处理视频生成相应的目标视频时，通常采用的解决方式有三种，第一种实施方式为将多个视频帧同时输入至神经网络中，进行训练(train)和预测(inference)。由于需要存储前几帧的图像数据，此方法会严重增加预测时的资源开销和延迟，无法实时应用在移动端，且图像抖动会仍然存在；第二种实施方式主要是对输入图像进行模糊处理，此方法不仅无法解决抖动，还会让输出的图片变模糊，大幅度降低输出图片的清晰度，对于输出图片质感效果等折损严重。第三种实施方式主要是在训练pix2pix网络时，对于输入数据和输出数据进行增强，以模仿抖动，希望以此来让网络适应输入图片的抖动，然而，从实际得到的图片来看，画面中仍存在大量抖动的问题。基于上述可知，现有的数据处理方式依然存在输出图像抖动严重的问题，此时，基于本公开实施例的技术方案，即可基于包括抗混叠算子的图像处理模型对所获取的待处理视频帧进行处理，从而避免输出的视频出现“抖动”的情形。
如图1所示，所述方法包括：
S110、获取待处理视频帧。
首先需要说明的是，执行本公开实施例提供的视频处理方法的装置，可以集成在支持视频处理功能的应用软件中，且该软件可以安装至电子设备中，可选的，电子设备可以是移动终端或者PC端等。应用软件可以是对图像/视频处理的一类软件，其具体的应用软件在此不再一一赘述，只要可以实现图像/视频处理即可。还可以是专门研发的应用程序，来实现视频处理并将输出的视频进行展示的软件中，亦或是集成在相应的页面中，用户可以通过PC端中集成的页面来实现对特效视频的处理。
在本实施例中，用户可以基于移动终端的摄像装置实时拍摄视频，或者，基于应用内预先开发的控件主动上传视频，因此可以理解，应用所获取的实时拍摄的视频或用户主动上传的视频即是待处理视频。进一步的，基于预先编写的程序对待处理视频进行解析，即可得到多个待处理视频帧。本领域技术人员应当理解，在用户拍摄视频的过程中，如果摄像装置的拍摄角度在短时间内发生位移或旋转，经过传统的图像处理模型对该视频进行处理后，相应的几个视频画面便会呈现出“抖动”的感觉，所得到图像的质量以及清晰度都无法令人满意。
S120、将待处理视频帧输入至图像处理模型中，以得到与待处理视频帧相对应的目标视频帧。
首先需要说明的是，当将待处理视频帧经过卷积层进行处理时，现有技术所采用的方案会导致图像的频谱扩大，从而导致最终输出的视频出现“抖动”的视觉效果。而本公开实施例的处理过程可以理解为，先确定出抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子，进而基于这些映射确定出抗混叠算子，最后，将抗混叠算子集成至图像处理模型中并对模型进行训练，待模型训练完毕后，即可利用该模型对输入的图像进行处理，在这一过程中，包含抗混叠算子的图像处理模型不会导致图像的频谱扩大，从而保证所输出图像的质量以及清晰度。
在本实施例中，应用获取到多个待处理视频帧后，即可将各待处理视频帧输入至图像处理模型中。其中，图像处理模型可以是预先训练好的神经网络模型，例如，带宽严格的神经网络，为了清楚地介绍本公开的图像处理过程，下面先对本公开实施例引入的带宽严格的像素到像素的神经网络进行说明。
在本实施例中，像素到像素的网络pixel2pixel可以简称为pix2pix，该技术是一种风格转换和图像生成技术，可以理解为，将一幅图像输入至该神经网络后，神经网络也会相应地输出一幅图像，同时，模型所输出的图像可以满足用户的期望，例如，将输入的图像中的真实人物改变为卡通漫画风格，或某种绘画风格，或改变图像的颜色以及亮度等。
进一步的，为了解决输出的视频画面可能出现“抖动”的问题，图像处理模型中至少包括对待处理视频帧处理的抗混叠算子，抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子。其中，算子即是模型中一个函数空间到另一函数空间上的映射，可以理解，对模型中的任何函数进行某一项操作都可以认为是一个算子。在本实施例中，抗混叠上采样算子即是与采集模拟信号的样本这一操作对应的算子，基于抗混叠上采样算子，可以将时间上、幅值上都连续的信号，在采样脉冲的作用下，转换成时间、幅值上离散的信号，因此，上采样的过程又称为波形的离散化过程；抗混叠下采样算子即是与对一个样值序列间隔几个样值取样一次并得到新序列这一操作对应的算子，可以理解为一个抽取的过程；抗混叠非线性算子又称为非线性映射，即不满足线性条件的算子。
在本实施例中，带宽严格即表示模型中的算子在频谱上具有严格的带宽限制，也即是说，以s表示作为输入的待处理视频帧的采样频率时，不会引入超过采样频率一半(s/2)的频率；相应的，抗混叠表示是和上述带宽要求等价，也即是说，只有连续信号的频率都不超过采样频率的一半，采样信号才能被还原成真实信号，实现抗混叠，反之即产生混叠。
基于此，可以将抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子拼接整合得到抗混叠算子，并将抗混叠算子引入本公开实施例的图像处理模型中。在基于该图像处理模型生成目标视频帧的过程中，可选的，在基于图像处理模型对待处理视频帧进行处理时，基于抗混叠算子中的抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子依次对待处理视频帧进行处理，以得到目标效果的目标视频帧。
结合图2可知，当待处理视频帧进行处理时，可以先将其对应的张量信息输入给抗混叠上采样算子进行处理，再将抗混叠上采样算子的处理结果输入给抗混叠非线性算子进行处理，最后将抗混叠非线性算子的处理结果输入给抗混叠下采样算子进行处理，即可得到与待处理视频帧相应的目标视频帧，这一过程即是基于包含有抗混叠算子的图像处理模型对待处理视频帧进行处理的过程。同时需要说明的是，抗混叠算子前后所连接的网络层可以包含多种类型，本公开实施例对此不做具体的限定。
具体来说，在检测到对待处理视频帧进行处理时，将与待处理视频帧相对应的当前张量信息作为抗混叠上采样算子的输入，基于抗混叠上采样算子对所述当前张量信息插值处理，得到第一预处理张量；基于抗混叠非线性算子对第一预处理张量所对应的信号频谱扩大至少两倍，得到与第一预处理图像相对应的目标信号频谱；基于抗混叠下采样算子对目标信号频谱进行下采样处理，并控制下采样频率为原始采样频率的预设数值。
其中，采样频率即是当前图像(即当前运算结果)的大小，例如，当一个正方形边长为L时，应用即可确定出采样频率为L，相应的，截止频率即是图像中包含的信息所能够达到的频率，继续以上述正方形为例，在本实施例带宽严格限制不发生混叠的情况下，截止频率应当小于L/2。张量是一个定义在一些向量空间和一些对偶空间的笛卡尔积上的多重线性映射，其中每个分量都是坐标的函数，在进行坐标变换时，这些分量也会按照某些规则做线性变换。因此，对于本公开实施例中的各待处理视频帧来说，张量作为一种几何实体，可以包括标量、向量和现行算子，且可以用坐标系统来表达。下面以应用对当前时刻对应的一个待处理视频帧的处理过程为例进行说明。
在本实施例中，当应用确定出当前时刻待处理视频帧的张量信息后，即可将其输入图像处理模型中，由抗混叠上采样算子对其进行处理，从而得到第一预处理张量。可选的，在空间维度上对当前张量信息插零处理，得到待处理张量信息；基于插值函数构建的卷积核对待处理张量信息插值处理，得到第一预处理张量。例如，基于抗混叠上采样算子，可以在空间维度上间隔插入0，再利用理想的插值函数执行插值操作，其中，插值函数即是最后使用sinc函数构造卷积核对插0操作后的张量信息进行卷积处理，即可得到第一预处理张量。
进一步的，可以将第一预处理张量作为输入，由图像处理模型中的抗混叠非线性算子进行处理，从而得到与第一预处理张量对应的目标信号频谱。其中，目标信号频谱为目标信号频率谱密度的简称，可以理解为频率的分布曲线。具体来说，由于基于图像处理模型中的抗混叠非线性算子，至少可以对第一预处理张量所对应的信号频谱扩大至少两倍，因此可以使用上采样两倍的算子，在进行逐元素的非线性操作，最后经过下采样处理使图像恢复为原尺寸。
最后，在得到目标信号频谱后，即可将目标信号频谱作为输入，由抗混叠下采样算子对其进行下采样处理，并控制下采样频率为原始采样频率的预设数值，其中，原始采样频率与当前张量的采样频率相一致；预设数值与信号频谱的扩大倍数相对应。具体来说，由于抗混叠下采样算子会使采样频率下降两倍，因此在本实施例中，还需要在图像处理模型中引入带宽为原采样频率四分之一的算子，同时，为了保持旋转不变性，可以预先利用jinc函数来构造与下采样算子对应的卷积核。可以理解为，在所输入的原尺寸的图像上进行卷积后，在空间维度间隔剔除对应的特征即实现了带宽限制的下采样。
在本实施例中，基于图像处理模型中的多个算子对待处理视频帧对应的张量信息进行处理后，即可得到相对应的目标视频帧。可以理解，本公开实施例的处理方式至少可以使图像呈现出特定的目标效果，具体的，目标效果与未抖动效果相一致。例如，当待处理视频帧中连续多帧的画面发生较大变化时，图像处理模型输出的相应的多个连续视频帧则不会呈现出“抖动”的视觉效果，即，与未抖动效果一致。
需要说明的是，虽然上述说明为针对于一个待处理视频帧的处理过程，但本领域技术人员应当理解，对于待处理视频帧中其他待处理视频帧来说，同样可以按照本公开实施例的上述方式将其一一输入至图像处理模型中进行处理，从而得到相应的多个目标视频帧，本公开实施例在此不再赘述。
S130、通过对各目标视频帧拼接处理，得到目标视频。
在本实施例中，由于各目标视频帧携带有相应的待处理视频帧相一致的时间戳，因此，在图像处理模型对各待处理视频帧进行处理，并输出相应的目标视频帧之后，应用即可按照各目标视频帧对应的时间戳，对多个图像进行拼接，从而得到目标视频，可以理解，通过将多帧画面进行拼接并生成目标视频，可以使处理后的画面以非抖动、连贯的形式展示出来。
本领域技术人员应当理解，在应用确定出目标视频后，既可以直接播放该视频，以将处理后的视频画面展示于显示界面上，也可以按照预设路径将目标视频存储至特定的空间内，本公开实施例对此不做具体的限定。
本公开实施例的技术方案，获取待处理视频帧，再将待处理视频帧输入至包括抗混叠算子的图像处理模型中，从而得到与待处理视频帧相对应的目标视频帧，其中，抗混叠算子包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子，进一步的，通过对各目标视频帧拼接处理，即可得到目标视频，在原视频相邻几帧图像出现较大改变时，可以有效避免所输出的视频画面发生“抖动”，在解决画面“抖动”问题的同时，也不会降低图像的质量以及清晰度，提高了用户的使用体验。
实施例二
图3为本公开实施例二所提供的一种视频处理方法流程示意图，在前述实施例的基础上，通过对抗混叠算子中的抗混叠上采样算子进行优化，将得到的目标抗混叠算子部署至待训练图像处理模型中，并对模型进行训练，不仅在视频处理过程中避免了“抖动”的发生，还减少了计算资源的开销，便于将模型部署于移动端；同时，从频率的角度对神经网络算子进行低通改造，降低了卷积核的个数，使构建的模型更具普适性。其具体的实施方式可以参见本实施例的技术方案。其中，与上述实施例相同或者相应的技术术语在此不再赘述。
如图3所示，该方法具体包括如下步骤：
S210、获取待处理视频帧。
S220、确定抗混叠算子中抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子，并将所述抗混叠算子部署至待训练图像处理模型中，以基于训练样本集中的各训练样本对所述待训练图像处理模型训练处理，得到所述图像处理模型。
在本实施例中，在基于图像处理模型对各待处理视频帧进行处理之前，应用首先需要确定出预先构建的抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子，将这些算子按照工作人员预先设计的架构进行拼接后，即可得到抗混叠算子，并将其部署至图像训练模型中，下面这一过程进行说明。
可选的，对抗混叠算子中的抗混叠上采样算子进行优化，并保持抗混叠非线性算子和抗混叠下采样算子不变，得到目标抗混叠算子，并将目标抗混叠算子部署在待训练图像处理模型中。
具体来说，在确定目标抗混叠算子的过程中，可以基于原始采样频率、抗混叠下采样算子所对应的截止频率、与滤波器所对应的滤波频率、插值函数以及预设窗的宽度，确定待使用卷积核；通过对待使用卷积核分离处理，确定两个待应用卷积核；基于两个待应用卷积核，确定抗混叠上采样算子。
在本实施例中，除待处理视频帧对应的原始采样频率之外，应用还需要确定出滤波器频谱图的形状，具体的，需要确定滤波器对应的w_c以及w_s两个参数，其中，w_c为截止频率，即滤波器允许有效通过的频率，w_s则确定了过渡带transition band的长度，可以理解，过渡带的长度标志着滤波器的性能以及精确度，其长度越小则表明滤波器性能越好。在实际的设计滤波器的过程中，还需要预先部署一个窗口，例如，凯赛窗kaiser window，其窗的宽度可以以N来表示。本领域技术人员应当理解，凯赛窗是一种局部优化的具有较强能力的窗函数，它是采用修正的零阶贝塞尔函数实现的，本公开实施例对此不再赘述。
进一步的，基于上述多个参数，应用即可确定出待使用卷积核。本领域技术人员应当理解，卷积核即是图像处理过程中，给定输入图像，输入图像中一个小区域中像素加权求和后成为输出图像中的每个对应像素，其中的权值由一个函数定义，这个函数即是卷积核。基于此可以理解，在本实施例中，待使用卷积核可以是一个或多个，至少用于对待处理视频帧对应的张量进行处理，在待使用卷积核中还包括多个待使用值。
在本实施例中，如果仅部署单一的上采样过程，在空间维度上间隔内插入0后，再利用x、y两个方向可分离的卷积(1×N′,N′×1,N′＝N*2)进行卷积。若记输入的张量tensor为x，计算量则为x.nelement()*4*(N′+N′)，然而，如果1×N′,N′×1没有优化，则不利于数据的存储与访问，模型实际的运行速度较慢。因此，在本实施例中，可以把待使用卷积核拆分成两个待应用卷积核，再基于这两个待应用卷积核确定抗混叠上采样算子。例如，应用可以把待使用卷积核拆分成s1＝[k1,k3,k5,k7,…,kN′-1]，s2＝[k2,k4,k6,k8,…,kN′]，从而得到两个待应用卷积核。
进一步的，通过对两个待应用卷积核组合处理，得到至少四个待部署卷积核，并将所述至少四个待部署卷积和作为所述抗混叠上采样算子。继续以上述示例进行说明，当得到s1、s2两个待应用卷积核后，即可基于这两个卷积核构造出4个N×N的卷积核，从而实现在原始尺寸的待处理视频帧上做N×N卷积，同时，在这一过程中不用在空间维度上的间隔内插入0。可以理解为，基于抗混叠上采样算子中的至少四个待部署卷积核对与待处理视频帧相对应的当前张量信息进行处理，即可得到第一预处理张量，例如，把结果concat处理，并执行PixelShuffle方法，即可完成确定抗混叠上采样算子并得到相应的第一预处理张量的操作。本领域技术人员应当理解，PixelShuffle方法可以对缩小后的特征图进行有效的放大，可以替代插值或解卷积的方法实现upscale。
可以理解为，对待处理视频帧进行处理时，基于图像处理模型中的四个待部署卷积核，即可实现本公开实施例中的上采样过程，进而将处理结果输入给抗混叠非线性算子，并根据本公开实施例一的方式执行后续图像处理过程。
最后，基于训练样本集对待训练图像处理模型进行训练，得到图像处理模型，以将图像处理模型部署至算力小于预设算力阈值的终端设备。具体的，训练样本集可以是包含输入以及相应输出的图片数据，对待训练图像处理模型进行训练的过程中，可以基于该模型对应的损失函数对图片数据进行损失处理，以根据得到的各损失值对待训练图像处理模型中的模型参数进行修正，同时，将损失函数收敛作为训练目标，即可得到训练完成的图像处理模型。
具体的，待训练图像处理模型在对训练集中的多个作为输入的图像进行处理，并得到相应的输出后，可以基于输出以及训练集中作为输出的图像，确定出对应的多个损失值，利用多个损失值以及损失函数对模型参数进行修正时，可以将损失函数的训练误差，即损失参数作为检测损失函数当前是否达到收敛的条件，比如训练误差是否小于预设误差或误差变化趋势是否趋于稳定，或者当前的迭代次数是否等于预设次数。若检测达到收敛条件，比如损失函数的训练误差小于预设误差，或者误差变化趋势趋于稳定，表明该待训练图像处理模型训练完成，此时可以停止迭代训练。若检测到当前未达到收敛条件，可以进一步获取其他训练集对模型继续进行训练，直至损失函数的训练误差在预设范围之内。当损失函数的训练误差达到收敛时，即可将训练完成的待训练图像处理模型作为待使用图像处理模型并部署至应用中。
S230、基于目标抗混叠算子中的抗混叠非线性算子和抗混叠下采样算子依次对第一预处理张量进行处理，得到目标视频帧。
S240、通过对各目标视频帧拼接处理，得到目标视频。
本实施例的技术方案，通过对抗混叠算子中的抗混叠上采样算子进行优化，将得到的目标抗混叠算子部署至待训练图像处理模型中，并对模型进行训练，不仅在视频处理过程中避免了“抖动”的发生，还减少了计算资源的开销，便于将模型部署于移动端；同时，从频率的角度对神经网络算子进行低通改造，降低了卷积核的个数，使构建的模型更具普适性。
实施例三
图4为本公开实施例三所提供的一种视频处理装置结构示意图，如图4所示，包括：待处理视频帧获取模块310、目标视频帧确定模块320以及目标视频生成模块330。
待处理视频帧获取模块310，用于获取待处理视频帧。
目标视频帧确定模块320，用于将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子。
目标视频生成模块330，用于通过对各目标视频帧拼接处理，得到目标视频。
可选的，目标视频帧确定模块320，还用于在基于所述图像处理模型对所述待处理视频帧非线性处理时，基于所述抗混叠算子中的抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子依次对所述待处理视频帧进行处理，以得到目标效果的目标视频帧；其中，所述目标效果与未抖动效果相一致。
在上述各技术方案的基础上，目标视频帧确定模块320包括第一预处理张量确定单元、目标信号频谱确定单元以及下采样处理单元。
第一预处理张量确定单元，用于在检测到对待处理视频帧非线性处理时，将与所述待处理视频帧相对应的当前张量信息作为所述抗混叠上采样算子的输入，基于所述抗混叠上采样算子对所述当前张量信息插值处理，得到第一预处理张量。
目标信号频谱确定单元，用于基于所述抗混叠非线性算子对所述第一预处理张量所对应的信号频谱扩大至少两倍，得到与所述第一预处理图像相对应的目标信号频谱。
下采样处理单元，用于基于所述抗混叠下采样算子对所述目标信号频谱进行下采样处理，并控制下采样频率为原始采样频率的预设数值；其中，所述原始采样频率与所述当前张量的采样频率相一致；所述预设数值与所述信号频谱的扩大倍数相对应。
可选的，第一预处理张量确定单元，还用于在空间维度上对所述当前张量信息插零处理，得到待处理张量信息；基于插值函数构建的卷积核对所述待处理张量信息插值处理，得到所述第一预处理张量。
在上述各技术方案的基础上，视频处理装置还包括模型训练模块。
模型训练模块，用于确定抗混叠算子中抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子，并将所述抗混叠算子部署至待训练图像处理模型中，以基于训练样本集中的各训练样本对所述待训练图像处理模型训练处理，得到所述图像处理模型。
在上述各技术方案的基础上，视频处理装置还包括目标抗混叠算子确定模块以及图像处理模型确定模块。
目标抗混叠算子确定模块，用于对所述抗混叠算子中的抗混叠上采样算子进行优化，并保持线性算子和抗混叠下采样算子不变，得到目标抗混叠算子，并将所述目标抗混叠算子部署在所述待训练图像处理模型中。
图像处理模型确定模块，用于基于训练样本集对所述待训练图像处理模型进行训练，得到所述图像处理模型，以将所述图像处理模型部署至算力小于预设算力阈值的终端设备。
在上述各技术方案的基础上，目标抗混叠算子确定模块包括待使用卷积核确定单元、待应用卷积核确定单元以及抗混叠上采样算子确定单元。
待使用卷积核确定单元，用于基于原始采样频率、所述抗混叠下采样算子所对应的截止频率、与滤波器所对应的滤波频率、插值函数以及预设窗的宽度，确定待使用卷积核；其中，所述待使用卷积核中包括多个待使用值。
待应用卷积核确定单元，用于通过对所述待使用卷积核分离处理，确定两个待应用卷积核。
抗混叠上采样算子确定单元，用于基于两个待应用卷积核，确定所述抗混叠上采样算子。
可选的，抗混叠上采样算子确定单元，还用于通过对两个待应用卷积核组合处理，得到至少四个待部署卷积核，并将所述至少四个待部署卷积和作为所述抗混叠上采样算子。
可选的，目标视频帧确定模块320，还用于基于所述抗混叠上采样算子中的至少四个待部署卷积核对与所述待处理视频帧相对应的当前张量信息进行处理，得到第一预处理张量，以基于所述目标抗混叠算子中的抗混叠非线性算子和抗混叠下采样算子依次对所述第一预处理张量进行处理。
本实施例所提供的技术方案，获取待处理视频帧，再将待处理视频帧输入至包括抗混叠算子的图像处理模型中，从而得到与待处理视频帧相对应的目标视频帧，其中，抗混叠算子包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子，进一步的，通过对各目标视频帧拼接处理，即可得到目标视频，在原视频相邻几帧图像出现较大改变时，可以有效避免所输出的视频画面发生“抖动”，在解决画面“抖动”问题的同时，也不会降低图像的质量以及清晰度，提高了用户的使用体验。
本公开实施例所提供的视频处理装置可执行本公开任意实施例所提供的视频处理方法，具备执行方法相应的功能模块和有益效果。
值得注意的是，上述装置所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本公开实施例的保护范围。
实施例四
图5为本公开实施例四所提供的一种电子设备的结构示意图。下面参考图5，其示出了适于用来实现本公开实施例的电子设备(例如图5中的终端设备或服务器)400的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图5示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示，电子设备400可以包括处理装置(例如中央处理器、图案处理器等)401，其可以根据存储在只读存储器(ROM)402中的程序或者从存储装置406加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中，还存储有电子设备400操作所需的各种程序和数据。处理装置401、ROM 402以及RAM403通过总线404彼此相连。编辑/输出(I/O)接口405也连接至总线404。
通常，以下装置可以连接至I/O接口405：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的编辑装置406；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置407；包括例如磁带、硬盘等的存储装置408；以及通信装置409。通信装置409可以允许电子设备400与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备400，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置409从网络上被下载和安装，或者从存储装置406被安装，或者从ROM 402被安装。在该计算机程序被处理装置401执行时，执行本公开实施例的方法中限定的上述功能。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
本公开实施例提供的电子设备与上述实施例提供的视频处理方法属于同一发明构思，未在本实施例中详尽描述的技术细节可参见上述实施例，并且本实施例与上述实施例具有相同的有益效果。
实施例五
本公开实施例提供了一种计算机存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述实施例所提供的视频处理方法。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：
获取待处理视频帧；
将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子；
通过对各目标视频帧拼接处理，得到目标视频。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例，【示例一】提供了一种视频处理方法，该方法包括：
获取待处理视频帧；
将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子；
通过对各目标视频帧拼接处理，得到目标视频。
根据本公开的一个或多个实施例，【示例二】提供了一种视频处理方法，该方法，还包括：
可选的，在基于所述图像处理模型对所述待处理视频帧非线性处理时，基于所述抗混叠算子中的抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子依次对所述待处理视频帧进行处理，以得到目标效果的目标视频帧；
其中，所述目标效果与未抖动效果相一致。
根据本公开的一个或多个实施例，【示例三】提供了一种视频处理方法，该方法，还包括：
可选的，在检测到对待处理视频帧非线性处理时，将与所述待处理视频帧相对应的当前张量信息作为所述抗混叠上采样算子的输入，基于所述抗混叠上采样算子对所述当前张量信息插值处理，得到第一预处理张量；
基于所述抗混叠非线性算子对所述第一预处理张量所对应的信号频谱扩大至少两倍，得到与所述第一预处理图像相对应的目标信号频谱；
基于所述抗混叠下采样算子对所述目标信号频谱进行下采样处理，并控制下采样频率为原始采样频率的预设数值；
其中，所述原始采样频率与所述当前张量的采样频率相一致；所述预设数值与所述信号频谱的扩大倍数相对应。
根据本公开的一个或多个实施例，【示例四】提供了一种视频处理方法，该方法，还包括：
可选的，在空间维度上对所述当前张量信息插零处理，得到待处理张量信息；
基于插值函数构建的卷积核对所述待处理张量信息插值处理，得到所述第一预处理张量。
根据本公开的一个或多个实施例，【示例五】提供了一种视频处理方法，该方法，还包括：
可选的，确定抗混叠算子中抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子，并将所述抗混叠算子部署至待训练图像处理模型中，以基于训练样本集中的各训练样本对所述待训练图像处理模型训练处理，得到所述图像处理模型。
根据本公开的一个或多个实施例，【示例六】提供了一种视频处理方法，该方法，还包括：
可选的，对所述抗混叠算子中的抗混叠上采样算子进行优化，并保持线性算子和抗混叠下采样算子不变，得到目标抗混叠算子，并将所述目标抗混叠算子部署在所述待训练图像处理模型中；
基于训练样本集对所述待训练图像处理模型进行训练，得到所述图像处理模型，以将所述图像处理模型部署至算力小于预设算力阈值的终端设备。
根据本公开的一个或多个实施例，【示例七】提供了一种视频处理方法，该方法，还包括：
可选的，基于原始采样频率、所述抗混叠下采样算子所对应的截止频率、与滤波器所对应的滤波频率、插值函数以及预设窗的宽度，确定待使用卷积核；其中，所述待使用卷积核中包括多个待使用值；
通过对所述待使用卷积核分离处理，确定两个待应用卷积核；
基于两个待应用卷积核，确定所述抗混叠上采样算子。
根据本公开的一个或多个实施例，【示例八】提供了一种视频处理方法，该方法，还包括：
可选的，通过对两个待应用卷积核组合处理，得到至少四个待部署卷积核，并将所述至少四个待部署卷积和作为所述抗混叠上采样算子。
根据本公开的一个或多个实施例，【示例九】提供了一种视频处理方法，该方法，还包括：
可选的，基于所述抗混叠上采样算子中的至少四个待部署卷积核对与所述待处理视频帧相对应的当前张量信息进行处理，得到第一预处理张量，以基于所述目标抗混叠算子中的抗混叠非线性算子和抗混叠下采样算子依次对所述第一预处理张量进行处理。
根据本公开的一个或多个实施例，【示例十】提供了一种视频处理装置，该装置包括：
待处理视频帧获取模块，用于获取待处理视频帧；
目标视频帧确定模块，用于将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子；
目标视频生成模块，用于通过对各目标视频帧拼接处理，得到目标视频。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (10)

1.一种视频处理方法，其特征在于，包括：
获取待处理视频帧；
将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子；
通过对各目标视频帧拼接处理，得到目标视频；
确定抗混叠算子中抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子，并将所述抗混叠算子部署至待训练图像处理模型中，以基于训练样本集中的各训练样本对所述待训练图像处理模型训练处理，得到所述图像处理模型；
对所述抗混叠算子中的抗混叠上采样算子进行优化，并保持线性算子和抗混叠下采样算子不变，得到目标抗混叠算子，并将所述目标抗混叠算子部署在所述待训练图像处理模型中；
基于训练样本集对所述待训练图像处理模型进行训练，得到所述图像处理模型，以将所述图像处理模型部署至算力小于预设算力阈值的终端设备。
2.根据权利要求1所述的方法，其特征在于，所述将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧，包括：
在基于所述图像处理模型对所述待处理视频帧非线性处理时，基于所述抗混叠算子中的抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子依次对所述待处理视频帧进行处理，以得到目标效果的目标视频帧；
其中，所述目标效果与未抖动效果相一致。
3.根据权利要求2所述的方法，其特征在于，所述基于所述抗混叠算子中的抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子依次对所述待处理视频帧进行处理，包括：
在检测到对待处理视频帧非线性处理时，将与所述待处理视频帧相对应的当前张量信息作为所述抗混叠上采样算子的输入，基于所述抗混叠上采样算子对所述当前张量信息插值处理，得到第一预处理张量；
基于所述抗混叠非线性算子对所述第一预处理张量所对应的信号频谱扩大至少两倍，得到与所述第一预处理图像相对应的目标信号频谱；
基于所述抗混叠下采样算子对所述目标信号频谱进行下采样处理，并控制下采样频率为原始采样频率的预设数值；
其中，所述原始采样频率与所述当前张量的采样频率相一致；所述预设数值与所述信号频谱的扩大倍数相对应。
4.根据权利要求3所述的方法，其特征在于，所述基于所述抗混叠上采样算子对所述当前张量信息插值处理，得到第一预处理张量，包括：
在空间维度上对所述当前张量信息插零处理，得到待处理张量信息；
基于插值函数构建的卷积核对所述待处理张量信息插值处理，得到所述第一预处理张量。
5.根据权利要求1所述的方法，其特征在于，所述对所述抗混叠算子中的抗混叠上采样算子进行优化，得到目标抗混叠算子，包括：
基于原始采样频率、所述抗混叠下采样算子所对应的截止频率、与滤波器所对应的滤波频率、插值函数以及预设窗的宽度，确定待使用卷积核；其中，所述待使用卷积核中包括多个待使用值；
通过对所述待使用卷积核分离处理，确定两个待应用卷积核；
基于两个待应用卷积核，确定所述抗混叠上采样算子。
6.根据权利要求5所述的方法，其特征在于，所述基于两个待应用卷积核，确定所述抗混叠上采样算子，包括：
通过对两个待应用卷积核组合处理，得到至少四个待部署卷积核，并将所述至少四个待部署卷积和作为所述抗混叠上采样算子。
7.根据权利要求6所述的方法，其特征在于，基于抗混叠上采样算子对待处理视频帧进行处理，包括：
基于所述抗混叠上采样算子中的至少四个待部署卷积核对与所述待处理视频帧相对应的当前张量信息进行处理，得到第一预处理张量，以基于所述目标抗混叠算子中的抗混叠非线性算子和抗混叠下采样算子依次对所述第一预处理张量进行处理。
8.一种视频处理装置，其特征在于，包括：
待处理视频帧获取模块，用于获取待处理视频帧；
目标视频帧确定模块，用于将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子；
目标视频生成模块，用于通过对各目标视频帧拼接处理，得到目标视频；
模型训练模块，用于确定抗混叠算子中抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子，并将所述抗混叠算子部署至待训练图像处理模型中，以基于训练样本集中的各训练样本对所述待训练图像处理模型训练处理，得到所述图像处理模型；
目标抗混叠算子确定模块，用于对所述抗混叠算子中的抗混叠上采样算子进行优化，并保持线性算子和抗混叠下采样算子不变，得到目标抗混叠算子，并将所述目标抗混叠算子部署在所述待训练图像处理模型中；
图像处理模型确定模块，用于基于训练样本集对所述待训练图像处理模型进行训练，得到所述图像处理模型，以将所述图像处理模型部署至算力小于预设算力阈值的终端设备。
9.一种电子设备，其特征在于，所述电子设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的视频处理方法。
10.一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-7中任一所述的视频处理方法。
CN202210303579.3A 2022-03-24 2022-03-24 视频处理方法、装置、电子设备及存储介质 Active CN114640796B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202210303579.3A CN114640796B (zh) 2022-03-24 2022-03-24 视频处理方法、装置、电子设备及存储介质
PCT/CN2023/080197 WO2023179360A1 (zh) 2022-03-24 2023-03-08 视频处理方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210303579.3A CN114640796B (zh) 2022-03-24 2022-03-24 视频处理方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN114640796A CN114640796A (zh) 2022-06-17
CN114640796B true CN114640796B (zh) 2024-02-09

Family

ID=81949960

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210303579.3A Active CN114640796B (zh) 2022-03-24 2022-03-24 视频处理方法、装置、电子设备及存储介质

Country Status (2)

Country Link
CN (1) CN114640796B (zh)
WO (1) WO2023179360A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114640796B (zh) * 2022-03-24 2024-02-09 北京字跳网络技术有限公司 视频处理方法、装置、电子设备及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0506429A2 (en) * 1991-03-29 1992-09-30 The Grass Valley Group, Inc. Video image mapping system
JPH09289437A (ja) * 1996-04-22 1997-11-04 Sony Corp デジタルリミッタ装置
CA2522856A1 (en) * 2000-06-09 2001-12-13 General Instrument Corporation Video size conversion and transcoding from mpeg-2 to mpeg-4
EP1431920A1 (en) * 2002-12-20 2004-06-23 Telefonaktiebolaget LM Ericsson (publ) Low-cost supersampling rasterization
WO2014173970A1 (en) * 2013-04-26 2014-10-30 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Upsampling and signal enhancement
CN112769441A (zh) * 2020-12-26 2021-05-07 南京理工大学 基于随机近端梯度张量分解的vdes接收碰撞信号分离方法
CN113221977A (zh) * 2021-04-26 2021-08-06 中国科学院大学 一种基于抗混叠语义重构的小样本语义分割方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20010055320A1 (en) * 1994-12-15 2001-12-27 Pierzga Wayne Francis Multiplex communication
US20020145610A1 (en) * 1999-07-16 2002-10-10 Steve Barilovits Video processing engine overlay filter scaler
US10797739B1 (en) * 2019-03-11 2020-10-06 Samsung Electronics Co., Ltd. Nonlinear self-interference cancellation with sampling rate mismatch
CN109862208B (zh) * 2019-03-19 2021-07-02 深圳市商汤科技有限公司 视频处理方法、装置、计算机存储介质以及终端设备
CN111182254B (zh) * 2020-01-03 2022-06-24 北京百度网讯科技有限公司 一种视频处理方法、装置、设备及存储介质
CN112541878A (zh) * 2020-12-24 2021-03-23 北京百度网讯科技有限公司 建立图像增强模型与图像增强的方法、装置
CN113034648A (zh) * 2021-04-30 2021-06-25 北京字节跳动网络技术有限公司 图像处理方法、装置、设备和存储介质
CN114640796B (zh) * 2022-03-24 2024-02-09 北京字跳网络技术有限公司 视频处理方法、装置、电子设备及存储介质

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0506429A2 (en) * 1991-03-29 1992-09-30 The Grass Valley Group, Inc. Video image mapping system
JPH09289437A (ja) * 1996-04-22 1997-11-04 Sony Corp デジタルリミッタ装置
CA2522856A1 (en) * 2000-06-09 2001-12-13 General Instrument Corporation Video size conversion and transcoding from mpeg-2 to mpeg-4
EP1431920A1 (en) * 2002-12-20 2004-06-23 Telefonaktiebolaget LM Ericsson (publ) Low-cost supersampling rasterization
WO2014173970A1 (en) * 2013-04-26 2014-10-30 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Upsampling and signal enhancement
CN112769441A (zh) * 2020-12-26 2021-05-07 南京理工大学 基于随机近端梯度张量分解的vdes接收碰撞信号分离方法
CN113221977A (zh) * 2021-04-26 2021-08-06 中国科学院大学 一种基于抗混叠语义重构的小样本语义分割方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Design of High-speed Active Anti-aliasing Filter for Video Application;Lin Xiangjin;2007 8th International Conference on Electronic Measurement and Instruments;全文 *
一种抗混叠移不变的Contourlet变换;黄小霞;宁波大学学报;全文 *
使用差分放大器驱动模数转换器;Loren Siebert;;电子产品世界(第11期);全文 *

Also Published As

Publication number Publication date
CN114640796A (zh) 2022-06-17
WO2023179360A1 (zh) 2023-09-28

Similar Documents

Publication Publication Date Title
CN110136066B (zh) 面向视频的超分辨率方法、装置、设备和存储介质
WO2022166872A1 (zh) 一种特效展示方法、装置、设备及介质
CN110163237A (zh) 模型训练及图像处理方法、装置、介质、电子设备
CN110728622B (zh) 鱼眼图像处理方法、装置、电子设备及计算机可读介质
CN110298851B (zh) 人体分割神经网络的训练方法及设备
CN115375536A (zh) 图像处理方法及设备
CN114519667A (zh) 一种图像超分辨率重建方法及系统
CN114640796B (zh) 视频处理方法、装置、电子设备及存储介质
CN111935425A (zh) 视频降噪方法、装置、电子设备及计算机可读介质
CN111369475B (zh) 用于处理视频的方法和装置
CN110070482B (zh) 图像处理方法、装置和计算机可读存储介质
CN110069641B (zh) 图像处理方法、装置和电子设备
CN111783632A (zh) 针对视频流的人脸检测方法、装置、电子设备及存储介质
CN111798385B (zh) 图像处理方法及装置、计算机可读介质和电子设备
CN114066722B (zh) 用于获取图像的方法、装置和电子设备
CN113222144B (zh) 图像修复模型的训练方法及图像修复方法、装置及设备
CN114866706A (zh) 图像处理方法、装置、电子设备及存储介质
CN111696041B (zh) 图像处理方法、装置及电子设备
CN113066166A (zh) 图像处理方法、装置和电子设备
CN110599437A (zh) 用于处理视频的方法和装置
CN115761248B (zh) 图像处理方法、装置、设备及存储介质
CN111738958B (zh) 图片修复方法、装置、电子设备及计算机可读介质
CN115841151B (zh) 模型训练方法、装置、电子设备和计算机可读介质
CN112214187B (zh) 水波纹图像实现方法及装置
CN112651909B (zh) 图像合成方法、装置、电子设备及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant