CN114640796A - 视频处理方法、装置、电子设备及存储介质 - Google Patents

视频处理方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN114640796A
CN114640796A CN202210303579.3A CN202210303579A CN114640796A CN 114640796 A CN114640796 A CN 114640796A CN 202210303579 A CN202210303579 A CN 202210303579A CN 114640796 A CN114640796 A CN 114640796A
Authority
CN
China
Prior art keywords
operator
aliasing
video frame
processed
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210303579.3A
Other languages
English (en)
Other versions
CN114640796B (zh
Inventor
杨定东
雷凯翔
尹淳骥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Zitiao Network Technology Co Ltd
Original Assignee
Beijing Zitiao Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Zitiao Network Technology Co Ltd filed Critical Beijing Zitiao Network Technology Co Ltd
Priority to CN202210303579.3A priority Critical patent/CN114640796B/zh
Publication of CN114640796A publication Critical patent/CN114640796A/zh
Priority to PCT/CN2023/080197 priority patent/WO2023179360A1/zh
Application granted granted Critical
Publication of CN114640796B publication Critical patent/CN114640796B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265—Mixing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23424—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving splicing one content stream with another content stream, e.g. for inserting or substituting an advertisement
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Image Processing (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

本公开实施例提供了一种视频处理方法、装置、电子设备及存储介质，该方法包括：获取待处理视频帧；将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子；通过对各目标视频帧拼接处理，得到目标视频。本公开实施例的技术方案，在原视频相邻几帧图像出现较大改变时，可以有效避免输出的视频画面发生“抖动”，在解决画面“抖动”问题的同时，也不会降低图像的质量以及清晰度，提高了用户的使用体验。

Description

视频处理方法、装置、电子设备及存储介质
技术领域
本公开实施例涉及图像处理技术领域，尤其涉及一种视频处理方法、装置、 电子设备及存储介质。
背景技术
随着网络技术的不断发展，越来越多的应用程序进入了用户的生活，尤其 是一系列可以拍摄短视频的软件，深受用户的喜爱。
现有技术中，应用软件可以向用户提供视频处理的功能，可以理解为，将 预先构建的多种模型集成到应用中，基于这些模型对视频进行处理后，即可得 到相对应的处理结果，例如，使视频画面呈现出特定的风格、颜色等。
然而，应用对视频进行处理时，如果相邻几帧画面出现较大的改变(如， 画面发生略微位移、旋转)，模型输出的处理后的视频帧即会发生较大的变化， 从而使处理后的视频呈现出“抖动”的视觉效果，进一步的，利用现有的处理 方式不仅无法彻底解决画面抖动的问题，还会降低图像的质量和清晰度，影响 了用户的使用体验。
发明内容
本公开提供一种视频处理方法、装置、电子设备及存储介质，在原视频相 邻几帧图像出现较大改变时，可以有效避免所输出的视频画面发生“抖动”， 在解决画面“抖动”问题的同时，也不会降低图像的质量以及清晰度，提高了 用户的使用体验。
第一方面，本公开实施例提供了一种视频处理方法，包括：
获取待处理视频帧；
将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧 相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的 抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以 及抗混叠下采样算子；
通过对各目标视频帧拼接处理，得到目标视频。
第二方面，本公开实施例还提供了一种视频处理装置，包括：
待处理视频帧获取模块，用于获取待处理视频帧；
目标视频帧确定模块，用于将所述待处理视频帧输入至图像处理模型中， 以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中 包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样 算子、抗混叠非线性算子以及抗混叠下采样算子；
目标视频生成模块，用于通过对各目标视频帧拼接处理，得到目标视频。
第三方面，本公开实施例还提供了一种电子设备，所述电子设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多 个处理器实现如本公开实施例任一所述的视频处理方法。
第四方面，本公开实施例还提供了一种包含计算机可执行指令的存储介质， 所述计算机可执行指令在由计算机处理器执行时用于执行如本公开实施例任一 所述的视频处理方法。
本公开实施例的技术方案，获取待处理视频帧，再将待处理视频帧输入至 包括抗混叠算子的图像处理模型中，从而得到与待处理视频帧相对应的目标视 频帧，其中，抗混叠算子包括抗混叠上采样算子、抗混叠非线性算子以及抗混 叠下采样算子，进一步的，通过对各目标视频帧拼接处理，即可得到目标视频， 在原视频相邻几帧图像出现较大改变时，可以有效避免所输出的视频画面发生 “抖动”，在解决画面“抖动”问题的同时，也不会降低图像的质量以及清晰 度，提高了用户的使用体验。
附图说明
结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、 优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或 相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。
图1为本公开实施例一所提供的一种视频处理方法流程示意图；
图2为本公开实施例一所提供的抗混叠算子的结构示意图；
图3为本公开实施例二所提供的一种视频处理方法流程示意图；
图4为本公开实施例三所提供的一种视频处理装置结构示意图；
图5为本公开实施例四所提供的一种电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开 的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不 应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和 完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用， 并非用于限制本公开的保护范围。
应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序 执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执 行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语 “基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语 “另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些 实施例”。其他术语的相关定义将在下文描述中给出。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、 模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺 序或者相互依存关系。需要注意，本公开中提及的“一个”、“多个”的修饰是示 意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出， 否则应该理解为“一个或多个”。
实施例一
图1为本公开实施例一所提供的一种视频处理方法流程示意图，本公开实 施例适用于基于包括抗混叠算子的图像处理模型对所获取的待处理视频帧进行 处理，从而避免输出的视频出现“抖动”的情形，该方法可以由视频处理装置 来执行，该装置可以通过软件和/或硬件的形式实现，可选的，通过电子设备 来实现，该电子设备可以是移动终端、PC端或服务器等。
在介绍本技术方案之前，在此先对本公开实施例的应用场景进行说明。在 应用基于待处理视频生成相应的目标视频时，通常采用的解决方式有三种，第 一种实施方式为将多个视频帧同时输入至神经网络中，进行训练(train)和预 测(inference)。由于需要存储前几帧的图像数据，此方法会严重增加预测时 的资源开销和延迟，无法实时应用在移动端，且图像抖动会仍然存在；第二种 实施方式主要是对输入图像进行模糊处理，此方法不仅无法解决抖动，还会让 输出的图片变模糊，大幅度降低输出图片的清晰度，对于输出图片质感效果等 折损严重。第三种实施方式主要是在训练pix2pix网络时，对于输入数据和输 出数据进行增强，以模仿抖动，希望以此来让网络适应输入图片的抖动，然而， 从实际得到的图片来看，画面中仍存在大量抖动的问题。基于上述可知，现有 的数据处理方式依然存在输出图像抖动严重的问题，此时，基于本公开实施例 的技术方案，即可基于包括抗混叠算子的图像处理模型对所获取的待处理视频 帧进行处理，从而避免输出的视频出现“抖动”的情形。
如图1所示，所述方法包括：
S110、获取待处理视频帧。
首先需要说明的是，执行本公开实施例提供的视频处理方法的装置，可以 集成在支持视频处理功能的应用软件中，且该软件可以安装至电子设备中，可 选的，电子设备可以是移动终端或者PC端等。应用软件可以是对图像/视频处 理的一类软件，其具体的应用软件在此不再一一赘述，只要可以实现图像/视 频处理即可。还可以是专门研发的应用程序，来实现视频处理并将输出的视频 进行展示的软件中，亦或是集成在相应的页面中，用户可以通过PC端中集成 的页面来实现对特效视频的处理。
在本实施例中，用户可以基于移动终端的摄像装置实时拍摄视频，或者， 基于应用内预先开发的控件主动上传视频，因此可以理解，应用所获取的实时 拍摄的视频或用户主动上传的视频即是待处理视频。进一步的，基于预先编写 的程序对待处理视频进行解析，即可得到多个待处理视频帧。本领域技术人员 应当理解，在用户拍摄视频的过程中，如果摄像装置的拍摄角度在短时间内发 生位移或旋转，经过传统的图像处理模型对该视频进行处理后，相应的几个视 频画面便会呈现出“抖动”的感觉，所得到图像的质量以及清晰度都无法令人 满意。
S120、将待处理视频帧输入至图像处理模型中，以得到与待处理视频帧相 对应的目标视频帧。
首先需要说明的是，当将待处理视频帧经过卷积层进行处理时，现有技术 所采用的方案会导致图像的频谱扩大，从而导致最终输出的视频出现“抖动” 的视觉效果。而本公开实施例的处理过程可以理解为，先确定出抗混叠上采样 算子、抗混叠非线性算子以及抗混叠下采样算子，进而基于这些映射确定出抗 混叠算子，最后，将抗混叠算子集成至图像处理模型中并对模型进行训练，待 模型训练完毕后，即可利用该模型对输入的图像进行处理，在这一过程中，包 含抗混叠算子的图像处理模型不会导致图像的频谱扩大，从而保证所输出图像 的质量以及清晰度。
在本实施例中，应用获取到多个待处理视频帧后，即可将各待处理视频帧 输入至图像处理模型中。其中，图像处理模型可以是预先训练好的神经网络模 型，例如，带宽严格的神经网络，为了清楚地介绍本公开的图像处理过程，下 面先对本公开实施例引入的带宽严格的像素到像素的神经网络进行说明。
在本实施例中，像素到像素的网络pixel2pixel可以简称为pix2pix，该技 术是一种风格转换和图像生成技术，可以理解为，将一幅图像输入至该神经网 络后，神经网络也会相应地输出一幅图像，同时，模型所输出的图像可以满足 用户的期望，例如，将输入的图像中的真实人物改变为卡通漫画风格，或某种 绘画风格，或改变图像的颜色以及亮度等。
进一步的，为了解决输出的视频画面可能出现“抖动”的问题，图像处理 模型中至少包括对待处理视频帧处理的抗混叠算子，抗混叠算子中包括抗混叠 上采样算子、抗混叠非线性算子以及抗混叠下采样算子。其中，算子即是模型 中一个函数空间到另一函数空间上的映射，可以理解，对模型中的任何函数进 行某一项操作都可以认为是一个算子。在本实施例中，抗混叠上采样算子即是 与采集模拟信号的样本这一操作对应的算子，基于抗混叠上采样算子，可以将 时间上、幅值上都连续的信号，在采样脉冲的作用下，转换成时间、幅值上离 散的信号，因此，上采样的过程又称为波形的离散化过程；抗混叠下采样算子 即是与对一个样值序列间隔几个样值取样一次并得到新序列这一操作对应的算 子，可以理解为一个抽取的过程；抗混叠非线性算子又称为非线性映射，即不 满足线性条件的算子。
在本实施例中，带宽严格即表示模型中的算子在频谱上具有严格的带宽限 制，也即是说，以s表示作为输入的待处理视频帧的采样频率时，不会引入超 过采样频率一半(s/2)的频率；相应的，抗混叠表示是和上述带宽要求等价， 也即是说，只有连续信号的频率都不超过采样频率的一半，采样信号才能被还 原成真实信号，实现抗混叠，反之即产生混叠。
基于此，可以将抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样 算子拼接整合得到抗混叠算子，并将抗混叠算子引入本公开实施例的图像处理 模型中。在基于该图像处理模型生成目标视频帧的过程中，可选的，在基于图 像处理模型对待处理视频帧进行处理时，基于抗混叠算子中的抗混叠上采样算 子、抗混叠非线性算子以及抗混叠下采样算子依次对待处理视频帧进行处理， 以得到目标效果的目标视频帧。
结合图2可知，当待处理视频帧进行处理时，可以先将其对应的张量信息 输入给抗混叠上采样算子进行处理，再将抗混叠上采样算子的处理结果输入给 抗混叠非线性算子进行处理，最后将抗混叠非线性算子的处理结果输入给抗混 叠下采样算子进行处理，即可得到与待处理视频帧相应的目标视频帧，这一过 程即是基于包含有抗混叠算子的图像处理模型对待处理视频帧进行处理的过程。 同时需要说明的是，抗混叠算子前后所连接的网络层可以包含多种类型，本公 开实施例对此不做具体的限定。
具体来说，在检测到对待处理视频帧进行处理时，将与待处理视频帧相对 应的当前张量信息作为抗混叠上采样算子的输入，基于抗混叠上采样算子对所 述当前张量信息插值处理，得到第一预处理张量；基于抗混叠非线性算子对第 一预处理张量所对应的信号频谱扩大至少两倍，得到与第一预处理图像相对应 的目标信号频谱；基于抗混叠下采样算子对目标信号频谱进行下采样处理，并 控制下采样频率为原始采样频率的预设数值。
其中，采样频率即是当前图像(即当前运算结果)的大小，例如，当一个 正方形边长为L时，应用即可确定出采样频率为L，相应的，截止频率即是图 像中包含的信息所能够达到的频率，继续以上述正方形为例，在本实施例带宽 严格限制不发生混叠的情况下，截止频率应当小于L/2。张量是一个定义在一 些向量空间和一些对偶空间的笛卡尔积上的多重线性映射，其中每个分量都是 坐标的函数，在进行坐标变换时，这些分量也会按照某些规则做线性变换。因 此，对于本公开实施例中的各待处理视频帧来说，张量作为一种几何实体，可 以包括标量、向量和现行算子，且可以用坐标系统来表达。下面以应用对当前 时刻对应的一个待处理视频帧的处理过程为例进行说明。
在本实施例中，当应用确定出当前时刻待处理视频帧的张量信息后，即可 将其输入图像处理模型中，由抗混叠上采样算子对其进行处理，从而得到第一 预处理张量。可选的，在空间维度上对当前张量信息插零处理，得到待处理张 量信息；基于插值函数构建的卷积核对待处理张量信息插值处理，得到第一预 处理张量。例如，基于抗混叠上采样算子，可以在空间维度上间隔插入0，再 利用理想的插值函数执行插值操作，其中，插值函数即是
Figure BDA0003563862310000091
最 后使用sinc函数构造卷积核对插0操作后的张量信息进行卷积处理，即可得到 第一预处理张量。
进一步的，可以将第一预处理张量作为输入，由图像处理模型中的抗混叠 非线性算子进行处理，从而得到与第一预处理张量对应的目标信号频谱。其中， 目标信号频谱为目标信号频率谱密度的简称，可以理解为频率的分布曲线。具 体来说，由于基于图像处理模型中的抗混叠非线性算子，至少可以对第一预处 理张量所对应的信号频谱扩大至少两倍，因此可以使用上采样两倍的算子，在 进行逐元素的非线性操作，最后经过下采样处理使图像恢复为原尺寸。
最后，在得到目标信号频谱后，即可将目标信号频谱作为输入，由抗混叠 下采样算子对其进行下采样处理，并控制下采样频率为原始采样频率的预设数 值，其中，原始采样频率与当前张量的采样频率相一致；预设数值与信号频谱 的扩大倍数相对应。具体来说，由于抗混叠下采样算子会使采样频率下降两倍， 因此在本实施例中，还需要在图像处理模型中引入带宽为原采样频率四分之一 的算子，同时，为了保持旋转不变性，可以预先利用jinc函数来构造与下采样 算子对应的卷积核。可以理解为，在所输入的原尺寸的图像上进行卷积后，在 空间维度间隔剔除对应的特征即实现了带宽限制的下采样。
在本实施例中，基于图像处理模型中的多个算子对待处理视频帧对应的张 量信息进行处理后，即可得到相对应的目标视频帧。可以理解，本公开实施例 的处理方式至少可以使图像呈现出特定的目标效果，具体的，目标效果与未抖 动效果相一致。例如，当待处理视频帧中连续多帧的画面发生较大变化时，图 像处理模型输出的相应的多个连续视频帧则不会呈现出“抖动”的视觉效果， 即，与未抖动效果一致。
需要说明的是，虽然上述说明为针对于一个待处理视频帧的处理过程，但 本领域技术人员应当理解，对于待处理视频帧中其他待处理视频帧来说，同样 可以按照本公开实施例的上述方式将其一一输入至图像处理模型中进行处理， 从而得到相应的多个目标视频帧，本公开实施例在此不再赘述。
S130、通过对各目标视频帧拼接处理，得到目标视频。
在本实施例中，由于各目标视频帧携带有相应的待处理视频帧相一致的时 间戳，因此，在图像处理模型对各待处理视频帧进行处理，并输出相应的目标 视频帧之后，应用即可按照各目标视频帧对应的时间戳，对多个图像进行拼接， 从而得到目标视频，可以理解，通过将多帧画面进行拼接并生成目标视频，可 以使处理后的画面以非抖动、连贯的形式展示出来。
本领域技术人员应当理解，在应用确定出目标视频后，既可以直接播放该 视频，以将处理后的视频画面展示于显示界面上，也可以按照预设路径将目标 视频存储至特定的空间内，本公开实施例对此不做具体的限定。
本公开实施例的技术方案，获取待处理视频帧，再将待处理视频帧输入至 包括抗混叠算子的图像处理模型中，从而得到与待处理视频帧相对应的目标视 频帧，其中，抗混叠算子包括抗混叠上采样算子、抗混叠非线性算子以及抗混 叠下采样算子，进一步的，通过对各目标视频帧拼接处理，即可得到目标视频， 在原视频相邻几帧图像出现较大改变时，可以有效避免所输出的视频画面发生 “抖动”，在解决画面“抖动”问题的同时，也不会降低图像的质量以及清晰 度，提高了用户的使用体验。
实施例二
图3为本公开实施例二所提供的一种视频处理方法流程示意图，在前述实 施例的基础上，通过对抗混叠算子中的抗混叠上采样算子进行优化，将得到的 目标抗混叠算子部署至待训练图像处理模型中，并对模型进行训练，不仅在视 频处理过程中避免了“抖动”的发生，还减少了计算资源的开销，便于将模型 部署于移动端；同时，从频率的角度对神经网络算子进行低通改造，降低了卷 积核的个数，使构建的模型更具普适性。其具体的实施方式可以参见本实施例 的技术方案。其中，与上述实施例相同或者相应的技术术语在此不再赘述。
如图3所示，该方法具体包括如下步骤：
S210、获取待处理视频帧。
S220、确定抗混叠算子中抗混叠上采样算子、抗混叠非线性算子以及抗混 叠下采样算子，并将所述抗混叠算子部署至待训练图像处理模型中，以基于训 练样本集中的各训练样本对所述待训练图像处理模型训练处理，得到所述图像 处理模型。
在本实施例中，在基于图像处理模型对各待处理视频帧进行处理之前，应 用首先需要确定出预先构建的抗混叠上采样算子、抗混叠非线性算子以及抗混 叠下采样算子，将这些算子按照工作人员预先设计的架构进行拼接后，即可得 到抗混叠算子，并将其部署至图像训练模型中，下面这一过程进行说明。
可选的，对抗混叠算子中的抗混叠上采样算子进行优化，并保持抗混叠非 线性算子和抗混叠下采样算子不变，得到目标抗混叠算子，并将目标抗混叠算 子部署在待训练图像处理模型中。
具体来说，在确定目标抗混叠算子的过程中，可以基于原始采样频率、抗 混叠下采样算子所对应的截止频率、与滤波器所对应的滤波频率、插值函数以 及预设窗的宽度，确定待使用卷积核；通过对待使用卷积核分离处理，确定两 个待应用卷积核；基于两个待应用卷积核，确定抗混叠上采样算子。
在本实施例中，除待处理视频帧对应的原始采样频率之外，应用还需要确 定出滤波器频谱图的形状，具体的，需要确定滤波器对应的w_c以及w_s两个 参数，其中，w_c为截止频率，即滤波器允许有效通过的频率，w_s则确定了 过渡带transition band的长度，可以理解，过渡带的长度标志着滤波器的性能 以及精确度，其长度越小则表明滤波器性能越好。在实际的设计滤波器的过程 中，还需要预先部署一个窗口，例如，凯赛窗kaiserwindow，其窗的宽度可以 以N来表示。本领域技术人员应当理解，凯赛窗是一种局部优化的具有较强能 力的窗函数，它是采用修正的零阶贝塞尔函数实现的，本公开实施例对此不再赘述。
进一步的，基于上述多个参数，应用即可确定出待使用卷积核。本领域技 术人员应当理解，卷积核即是图像处理过程中，给定输入图像，输入图像中一 个小区域中像素加权求和后成为输出图像中的每个对应像素，其中的权值由一 个函数定义，这个函数即是卷积核。基于此可以理解，在本实施例中，待使用 卷积核可以是一个或多个，至少用于对待处理视频帧对应的张量进行处理，在 待使用卷积核中还包括多个待使用值。
在本实施例中，如果仅部署单一的上采样过程，在空间维度上间隔内插入 0后，再利用x、y两个方向可分离的卷积(1×N′,N′×1,N′＝N*2)进行卷 积。若记输入的张量tensor为x，计算量则为x.nelement()*4*(N′+N′)，然 而，如果1×N′,N′×1没有优化，则不利于数据的存储与访问，模型实际的运 行速度较慢。因此，在本实施例中，可以把待使用卷积核拆分成两个待应用卷 积核，再基于这两个待应用卷积核确定抗混叠上采样算子。例如，应用可以把 待使用卷积核拆分成s1＝[k1,k3,k5,k7,…,kN′-1]，s2＝[k2,k4,k6,k8,…,kN′]， 从而得到两个待应用卷积核。
进一步的，通过对两个待应用卷积核组合处理，得到至少四个待部署卷积 核，并将所述至少四个待部署卷积和作为所述抗混叠上采样算子。继续以上述 示例进行说明，当得到s1、s2两个待应用卷积核后，即可基于这两个卷积核构 造出4个N×N的卷积核，从而实现在原始尺寸的待处理视频帧上做N×N卷 积，同时，在这一过程中不用在空间维度上的间隔内插入0。可以理解为，基 于抗混叠上采样算子中的至少四个待部署卷积核对与待处理视频帧相对应的当 前张量信息进行处理，即可得到第一预处理张量，例如，把结果concat处理， 并执行PixelShuffle方法，即可完成确定抗混叠上采样算子并得到相应的第一 预处理张量的操作。本领域技术人员应当理解，PixelShuffle方法可以对缩小后 的特征图进行有效的放大，可以替代插值或解卷积的方法实现upscale。
可以理解为，对待处理视频帧进行处理时，基于图像处理模型中的四个待 部署卷积核，即可实现本公开实施例中的上采样过程，进而将处理结果输入给 抗混叠非线性算子，并根据本公开实施例一的方式执行后续图像处理过程。
最后，基于训练样本集对待训练图像处理模型进行训练，得到图像处理模 型，以将图像处理模型部署至算力小于预设算力阈值的终端设备。具体的，训 练样本集可以是包含输入以及相应输出的图片数据，对待训练图像处理模型进 行训练的过程中，可以基于该模型对应的损失函数对图片数据进行损失处理， 以根据得到的各损失值对待训练图像处理模型中的模型参数进行修正，同时， 将损失函数收敛作为训练目标，即可得到训练完成的图像处理模型。
具体的，待训练图像处理模型在对训练集中的多个作为输入的图像进行处 理，并得到相应的输出后，可以基于输出以及训练集中作为输出的图像，确定 出对应的多个损失值，利用多个损失值以及损失函数对模型参数进行修正时， 可以将损失函数的训练误差，即损失参数作为检测损失函数当前是否达到收敛 的条件，比如训练误差是否小于预设误差或误差变化趋势是否趋于稳定，或者 当前的迭代次数是否等于预设次数。若检测达到收敛条件，比如损失函数的训 练误差小于预设误差，或者误差变化趋势趋于稳定，表明该待训练图像处理模 型训练完成，此时可以停止迭代训练。若检测到当前未达到收敛条件，可以进 一步获取其他训练集对模型继续进行训练，直至损失函数的训练误差在预设范 围之内。当损失函数的训练误差达到收敛时，即可将训练完成的待训练图像处 理模型作为待使用图像处理模型并部署至应用中。
S230、基于目标抗混叠算子中的抗混叠非线性算子和抗混叠下采样算子依 次对第一预处理张量进行处理，得到目标视频帧。
S240、通过对各目标视频帧拼接处理，得到目标视频。
本实施例的技术方案，通过对抗混叠算子中的抗混叠上采样算子进行优化， 将得到的目标抗混叠算子部署至待训练图像处理模型中，并对模型进行训练， 不仅在视频处理过程中避免了“抖动”的发生，还减少了计算资源的开销，便 于将模型部署于移动端；同时，从频率的角度对神经网络算子进行低通改造， 降低了卷积核的个数，使构建的模型更具普适性。
实施例三
图4为本公开实施例三所提供的一种视频处理装置结构示意图，如图4所 示，包括：待处理视频帧获取模块310、目标视频帧确定模块320以及目标视 频生成模块330。
待处理视频帧获取模块310，用于获取待处理视频帧。
目标视频帧确定模块320，用于将所述待处理视频帧输入至图像处理模型 中，以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模 型中包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上 采样算子、抗混叠非线性算子以及抗混叠下采样算子。
目标视频生成模块330，用于通过对各目标视频帧拼接处理，得到目标视 频。
可选的，目标视频帧确定模块320，还用于在基于所述图像处理模型对所 述待处理视频帧非线性处理时，基于所述抗混叠算子中的抗混叠上采样算子、 抗混叠非线性算子以及抗混叠下采样算子依次对所述待处理视频帧进行处理， 以得到目标效果的目标视频帧；其中，所述目标效果与未抖动效果相一致。
在上述各技术方案的基础上，目标视频帧确定模块320包括第一预处理张 量确定单元、目标信号频谱确定单元以及下采样处理单元。
第一预处理张量确定单元，用于在检测到对待处理视频帧非线性处理时， 将与所述待处理视频帧相对应的当前张量信息作为所述抗混叠上采样算子的输 入，基于所述抗混叠上采样算子对所述当前张量信息插值处理，得到第一预处 理张量。
目标信号频谱确定单元，用于基于所述抗混叠非线性算子对所述第一预处 理张量所对应的信号频谱扩大至少两倍，得到与所述第一预处理图像相对应的 目标信号频谱。
下采样处理单元，用于基于所述抗混叠下采样算子对所述目标信号频谱进 行下采样处理，并控制下采样频率为原始采样频率的预设数值；其中，所述原 始采样频率与所述当前张量的采样频率相一致；所述预设数值与所述信号频谱 的扩大倍数相对应。
可选的，第一预处理张量确定单元，还用于在空间维度上对所述当前张量 信息插零处理，得到待处理张量信息；基于插值函数构建的卷积核对所述待处 理张量信息插值处理，得到所述第一预处理张量。
在上述各技术方案的基础上，视频处理装置还包括模型训练模块。
模型训练模块，用于确定抗混叠算子中抗混叠上采样算子、抗混叠非线性 算子以及抗混叠下采样算子，并将所述抗混叠算子部署至待训练图像处理模型 中，以基于训练样本集中的各训练样本对所述待训练图像处理模型训练处理， 得到所述图像处理模型。
在上述各技术方案的基础上，视频处理装置还包括目标抗混叠算子确定模 块以及图像处理模型确定模块。
目标抗混叠算子确定模块，用于对所述抗混叠算子中的抗混叠上采样算子 进行优化，并保持线性算子和抗混叠下采样算子不变，得到目标抗混叠算子， 并将所述目标抗混叠算子部署在所述待训练图像处理模型中。
图像处理模型确定模块，用于基于训练样本集对所述待训练图像处理模型 进行训练，得到所述图像处理模型，以将所述图像处理模型部署至算力小于预 设算力阈值的终端设备。
在上述各技术方案的基础上，目标抗混叠算子确定模块包括待使用卷积核 确定单元、待应用卷积核确定单元以及抗混叠上采样算子确定单元。
待使用卷积核确定单元，用于基于原始采样频率、所述抗混叠下采样算子 所对应的截止频率、与滤波器所对应的滤波频率、插值函数以及预设窗的宽度， 确定待使用卷积核；其中，所述待使用卷积核中包括多个待使用值。
待应用卷积核确定单元，用于通过对所述待使用卷积核分离处理，确定两 个待应用卷积核。
抗混叠上采样算子确定单元，用于基于两个待应用卷积核，确定所述抗混 叠上采样算子。
可选的，抗混叠上采样算子确定单元，还用于通过对两个待应用卷积核组 合处理，得到至少四个待部署卷积核，并将所述至少四个待部署卷积和作为所 述抗混叠上采样算子。
可选的，目标视频帧确定模块320，还用于基于所述抗混叠上采样算子中 的至少四个待部署卷积核对与所述待处理视频帧相对应的当前张量信息进行处 理，得到第一预处理张量，以基于所述目标抗混叠算子中的抗混叠非线性算子 和抗混叠下采样算子依次对所述第一预处理张量进行处理。
本实施例所提供的技术方案，获取待处理视频帧，再将待处理视频帧输入 至包括抗混叠算子的图像处理模型中，从而得到与待处理视频帧相对应的目标 视频帧，其中，抗混叠算子包括抗混叠上采样算子、抗混叠非线性算子以及抗 混叠下采样算子，进一步的，通过对各目标视频帧拼接处理，即可得到目标视 频，在原视频相邻几帧图像出现较大改变时，可以有效避免所输出的视频画面 发生“抖动”，在解决画面“抖动”问题的同时，也不会降低图像的质量以及 清晰度，提高了用户的使用体验。
本公开实施例所提供的视频处理装置可执行本公开任意实施例所提供的视 频处理方法，具备执行方法相应的功能模块和有益效果。
值得注意的是，上述装置所包括的各个单元和模块只是按照功能逻辑进行 划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各 功能单元的具体名称也只是为了便于相互区分，并不用于限制本公开实施例的 保护范围。
实施例四
图5为本公开实施例四所提供的一种电子设备的结构示意图。下面参考图 5，其示出了适于用来实现本公开实施例的电子设备(例如图5中的终端设备 或服务器)400的结构示意图。本公开实施例中的终端设备可以包括但不限于 诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD (平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端) 等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图5示出的 电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示，电子设备400可以包括处理装置(例如中央处理器、图案处 理器等)401，其可以根据存储在只读存储器(ROM)402中的程序或者从存 储装置406加载到随机访问存储器(RAM)403中的程序而执行各种适当的动 作和处理。在RAM 403中，还存储有电子设备400操作所需的各种程序和数 据。处理装置401、ROM 402以及RAM403通过总线404彼此相连。编辑/输 出(I/O)接口405也连接至总线404。
通常，以下装置可以连接至I/O接口405：包括例如触摸屏、触摸板、键 盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的编辑装置406；包括例如 液晶显示器(LCD)、扬声器、振动器等的输出装置407；包括例如磁带、硬 盘等的存储装置408；以及通信装置409。通信装置409可以允许电子设备400 与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的 电子设备400，但是应理解的是，并不要求实施或具备所有示出的装置。可以 替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为 计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承 载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程 图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装 置409从网络上被下载和安装，或者从存储装置406被安装，或者从ROM 402 被安装。在该计算机程序被处理装置401执行时，执行本公开实施例的方法中 限定的上述功能。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说 明性的目的，而并不是用于对这些消息或信息的范围进行限制。
本公开实施例提供的电子设备与上述实施例提供的视频处理方法属于同一 发明构思，未在本实施例中详尽描述的技术细节可参见上述实施例，并且本实 施例与上述实施例具有相同的有益效果。
实施例五
本公开实施例提供了一种计算机存储介质，其上存储有计算机程序，该程 序被处理器执行时实现上述实施例所提供的视频处理方法。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质 或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例 如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装 置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包 括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机 访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器 (EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储 器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存 储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、 装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可 以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读 的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、 光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存 储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计 算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于： 电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协 议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络) 互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例 如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已 知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在， 而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序 被该电子设备执行时，使得该电子设备：
获取待处理视频帧；
将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧 相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的 抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以 及抗混叠下采样算子；
通过对各目标视频帧拼接处理，得到目标视频。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的 计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言— 诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言 或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在 用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在 远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算 机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广 域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因 特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计 算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图 中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、 或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应 当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图 中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执 行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的 是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合， 可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专 用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以 通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本 身的限定，例如，第一获取单元还可以被描述为“获取至少两个网际协议地址 的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。 例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门 阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统 (SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存 储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地 使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机 器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或 半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质 的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、 随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光 学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例，【示例一】提供了一种视频处理方法， 该方法包括：
获取待处理视频帧；
将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧 相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的 抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以 及抗混叠下采样算子；
通过对各目标视频帧拼接处理，得到目标视频。
根据本公开的一个或多个实施例，【示例二】提供了一种视频处理方法， 该方法，还包括：
可选的，在基于所述图像处理模型对所述待处理视频帧非线性处理时，基 于所述抗混叠算子中的抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采 样算子依次对所述待处理视频帧进行处理，以得到目标效果的目标视频帧；
其中，所述目标效果与未抖动效果相一致。
根据本公开的一个或多个实施例，【示例三】提供了一种视频处理方法， 该方法，还包括：
可选的，在检测到对待处理视频帧非线性处理时，将与所述待处理视频帧 相对应的当前张量信息作为所述抗混叠上采样算子的输入，基于所述抗混叠上 采样算子对所述当前张量信息插值处理，得到第一预处理张量；
基于所述抗混叠非线性算子对所述第一预处理张量所对应的信号频谱扩大 至少两倍，得到与所述第一预处理图像相对应的目标信号频谱；
基于所述抗混叠下采样算子对所述目标信号频谱进行下采样处理，并控制 下采样频率为原始采样频率的预设数值；
其中，所述原始采样频率与所述当前张量的采样频率相一致；所述预设数 值与所述信号频谱的扩大倍数相对应。
根据本公开的一个或多个实施例，【示例四】提供了一种视频处理方法， 该方法，还包括：
可选的，在空间维度上对所述当前张量信息插零处理，得到待处理张量信 息；
基于插值函数构建的卷积核对所述待处理张量信息插值处理，得到所述第 一预处理张量。
根据本公开的一个或多个实施例，【示例五】提供了一种视频处理方法， 该方法，还包括：
可选的，确定抗混叠算子中抗混叠上采样算子、抗混叠非线性算子以及抗 混叠下采样算子，并将所述抗混叠算子部署至待训练图像处理模型中，以基于 训练样本集中的各训练样本对所述待训练图像处理模型训练处理，得到所述图 像处理模型。
根据本公开的一个或多个实施例，【示例六】提供了一种视频处理方法， 该方法，还包括：
可选的，对所述抗混叠算子中的抗混叠上采样算子进行优化，并保持线性 算子和抗混叠下采样算子不变，得到目标抗混叠算子，并将所述目标抗混叠算 子部署在所述待训练图像处理模型中；
基于训练样本集对所述待训练图像处理模型进行训练，得到所述图像处理 模型，以将所述图像处理模型部署至算力小于预设算力阈值的终端设备。
根据本公开的一个或多个实施例，【示例七】提供了一种视频处理方法， 该方法，还包括：
可选的，基于原始采样频率、所述抗混叠下采样算子所对应的截止频率、 与滤波器所对应的滤波频率、插值函数以及预设窗的宽度，确定待使用卷积核； 其中，所述待使用卷积核中包括多个待使用值；
通过对所述待使用卷积核分离处理，确定两个待应用卷积核；
基于两个待应用卷积核，确定所述抗混叠上采样算子。
根据本公开的一个或多个实施例，【示例八】提供了一种视频处理方法， 该方法，还包括：
可选的，通过对两个待应用卷积核组合处理，得到至少四个待部署卷积核， 并将所述至少四个待部署卷积和作为所述抗混叠上采样算子。
根据本公开的一个或多个实施例，【示例九】提供了一种视频处理方法， 该方法，还包括：
可选的，基于所述抗混叠上采样算子中的至少四个待部署卷积核对与所述 待处理视频帧相对应的当前张量信息进行处理，得到第一预处理张量，以基于 所述目标抗混叠算子中的抗混叠非线性算子和抗混叠下采样算子依次对所述第 一预处理张量进行处理。
根据本公开的一个或多个实施例，【示例十】提供了一种视频处理装置， 该装置包括：
待处理视频帧获取模块，用于获取待处理视频帧；
目标视频帧确定模块，用于将所述待处理视频帧输入至图像处理模型中， 以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中 包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样 算子、抗混叠非线性算子以及抗混叠下采样算子；
目标视频生成模块，用于通过对各目标视频帧拼接处理，得到目标视频。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域 技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特 定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上 述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征 与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成 的技术方案。
此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操 作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并 行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节， 但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中 描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的 上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多 个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题， 但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征 或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形 式。

Claims (12)

1.一种视频处理方法，其特征在于，包括：
获取待处理视频帧；
将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子；
通过对各目标视频帧拼接处理，得到目标视频。
2.根据权利要求1所述的方法，其特征在于，所述将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧，包括：
在基于所述图像处理模型对所述待处理视频帧非线性处理时，基于所述抗混叠算子中的抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子依次对所述待处理视频帧进行处理，以得到目标效果的目标视频帧；
其中，所述目标效果与未抖动效果相一致。
3.根据权利要求2所述的方法，其特征在于，所述基于所述抗混叠算子中的抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子依次对所述待处理视频帧进行处理，包括：
在检测到对待处理视频帧非线性处理时，将与所述待处理视频帧相对应的当前张量信息作为所述抗混叠上采样算子的输入，基于所述抗混叠上采样算子对所述当前张量信息插值处理，得到第一预处理张量；
基于所述抗混叠非线性算子对所述第一预处理张量所对应的信号频谱扩大至少两倍，得到与所述第一预处理图像相对应的目标信号频谱；
基于所述抗混叠下采样算子对所述目标信号频谱进行下采样处理，并控制下采样频率为原始采样频率的预设数值；
其中，所述原始采样频率与所述当前张量的采样频率相一致；所述预设数值与所述信号频谱的扩大倍数相对应。
4.根据权利要求3所述的方法，其特征在于，所述基于所述抗混叠上采样算子对所述当前张量信息插值处理，得到第一预处理张量，包括：
在空间维度上对所述当前张量信息插零处理，得到待处理张量信息；
基于插值函数构建的卷积核对所述待处理张量信息插值处理，得到所述第一预处理张量。
5.根据权利要求1所述的方法，其特征在于，还包括：
确定抗混叠算子中抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子，并将所述抗混叠算子部署至待训练图像处理模型中，以基于训练样本集中的各训练样本对所述待训练图像处理模型训练处理，得到所述图像处理模型。
6.根据权利要求5所述的方法，其特征在于，还包括：
对所述抗混叠算子中的抗混叠上采样算子进行优化，并保持线性算子和抗混叠下采样算子不变，得到目标抗混叠算子，并将所述目标抗混叠算子部署在所述待训练图像处理模型中；
基于训练样本集对所述待训练图像处理模型进行训练，得到所述图像处理模型，以将所述图像处理模型部署至算力小于预设算力阈值的终端设备。
7.根据权利要求6所述的方法，其特征在于，所述对所述抗混叠算子中的抗混叠上采样算子进行优化，得到目标抗混叠算子，包括：
基于原始采样频率、所述抗混叠下采样算子所对应的截止频率、与滤波器所对应的滤波频率、插值函数以及预设窗的宽度，确定待使用卷积核；其中，所述待使用卷积核中包括多个待使用值；
通过对所述待使用卷积核分离处理，确定两个待应用卷积核；
基于两个待应用卷积核，确定所述抗混叠上采样算子。
8.根据权利要求7所述的方法，其特征在于，所述基于两个待应用卷积核，确定所述抗混叠上采样算子，包括：
通过对两个待应用卷积核组合处理，得到至少四个待部署卷积核，并将所述至少四个待部署卷积和作为所述抗混叠上采样算子。
9.根据权利要求8所述的方法，其特征在于，基于抗混叠上采样算子对待处理视频帧进行处理，包括：
基于所述抗混叠上采样算子中的至少四个待部署卷积核对与所述待处理视频帧相对应的当前张量信息进行处理，得到第一预处理张量，以基于所述目标抗混叠算子中的抗混叠非线性算子和抗混叠下采样算子依次对所述第一预处理张量进行处理。
10.一种视频处理装置，其特征在于，包括：
待处理视频帧获取模块，用于获取待处理视频帧；
目标视频帧确定模块，用于将所述待处理视频帧输入至图像处理模型中，以得到与所述待处理视频帧相对应的目标视频帧；其中，所述图像处理模型中包括对待处理视频帧处理的抗混叠算子，所述抗混叠算子中包括抗混叠上采样算子、抗混叠非线性算子以及抗混叠下采样算子；
目标视频生成模块，用于通过对各目标视频帧拼接处理，得到目标视频。
11.一种电子设备，其特征在于，所述电子设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-9中任一所述的视频处理方法。
12.一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-9中任一所述的视频处理方法。
CN202210303579.3A 2022-03-24 2022-03-24 视频处理方法、装置、电子设备及存储介质 Active CN114640796B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202210303579.3A CN114640796B (zh) 2022-03-24 2022-03-24 视频处理方法、装置、电子设备及存储介质
PCT/CN2023/080197 WO2023179360A1 (zh) 2022-03-24 2023-03-08 视频处理方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210303579.3A CN114640796B (zh) 2022-03-24 2022-03-24 视频处理方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN114640796A true CN114640796A (zh) 2022-06-17
CN114640796B CN114640796B (zh) 2024-02-09

Family

ID=81949960

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210303579.3A Active CN114640796B (zh) 2022-03-24 2022-03-24 视频处理方法、装置、电子设备及存储介质

Country Status (2)

Country Link
CN (1) CN114640796B (zh)
WO (1) WO2023179360A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023179360A1 (zh) * 2022-03-24 2023-09-28 北京字跳网络技术有限公司 视频处理方法、装置、电子设备及存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0506429A2 (en) * 1991-03-29 1992-09-30 The Grass Valley Group, Inc. Video image mapping system
JPH09289437A (ja) * 1996-04-22 1997-11-04 Sony Corp デジタルリミッタ装置
CA2522856A1 (en) * 2000-06-09 2001-12-13 General Instrument Corporation Video size conversion and transcoding from mpeg-2 to mpeg-4
US20020114270A1 (en) * 1994-12-15 2002-08-22 Inmarsat Ltd Multiplex communication
US20020145610A1 (en) * 1999-07-16 2002-10-10 Steve Barilovits Video processing engine overlay filter scaler
EP1431920A1 (en) * 2002-12-20 2004-06-23 Telefonaktiebolaget LM Ericsson (publ) Low-cost supersampling rasterization
WO2014173970A1 (en) * 2013-04-26 2014-10-30 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Upsampling and signal enhancement
US20200295793A1 (en) * 2019-03-11 2020-09-17 Samsung Electronics Co., Ltd. Nonlinear self-interference cancellation with sampling rate mismatch
CN112769441A (zh) * 2020-12-26 2021-05-07 南京理工大学 基于随机近端梯度张量分解的vdes接收碰撞信号分离方法
CN113221977A (zh) * 2021-04-26 2021-08-06 中国科学院大学 一种基于抗混叠语义重构的小样本语义分割方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109862208B (zh) * 2019-03-19 2021-07-02 深圳市商汤科技有限公司 视频处理方法、装置、计算机存储介质以及终端设备
CN111182254B (zh) * 2020-01-03 2022-06-24 北京百度网讯科技有限公司 一种视频处理方法、装置、设备及存储介质
CN112541878A (zh) * 2020-12-24 2021-03-23 北京百度网讯科技有限公司 建立图像增强模型与图像增强的方法、装置
CN113034648A (zh) * 2021-04-30 2021-06-25 北京字节跳动网络技术有限公司 图像处理方法、装置、设备和存储介质
CN114640796B (zh) * 2022-03-24 2024-02-09 北京字跳网络技术有限公司 视频处理方法、装置、电子设备及存储介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0506429A2 (en) * 1991-03-29 1992-09-30 The Grass Valley Group, Inc. Video image mapping system
US20020114270A1 (en) * 1994-12-15 2002-08-22 Inmarsat Ltd Multiplex communication
JPH09289437A (ja) * 1996-04-22 1997-11-04 Sony Corp デジタルリミッタ装置
US20020145610A1 (en) * 1999-07-16 2002-10-10 Steve Barilovits Video processing engine overlay filter scaler
CA2522856A1 (en) * 2000-06-09 2001-12-13 General Instrument Corporation Video size conversion and transcoding from mpeg-2 to mpeg-4
EP1431920A1 (en) * 2002-12-20 2004-06-23 Telefonaktiebolaget LM Ericsson (publ) Low-cost supersampling rasterization
WO2014173970A1 (en) * 2013-04-26 2014-10-30 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Upsampling and signal enhancement
US20200295793A1 (en) * 2019-03-11 2020-09-17 Samsung Electronics Co., Ltd. Nonlinear self-interference cancellation with sampling rate mismatch
CN112769441A (zh) * 2020-12-26 2021-05-07 南京理工大学 基于随机近端梯度张量分解的vdes接收碰撞信号分离方法
CN113221977A (zh) * 2021-04-26 2021-08-06 中国科学院大学 一种基于抗混叠语义重构的小样本语义分割方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
LIN XIANGJIN: "Design of High-speed Active Anti-aliasing Filter for Video Application", 2007 8TH INTERNATIONAL CONFERENCE ON ELECTRONIC MEASUREMENT AND INSTRUMENTS *
LOREN SIEBERT;: "使用差分放大器驱动模数转换器", 电子产品世界, no. 11 *
黄小霞: "一种抗混叠移不变的Contourlet变换", 宁波大学学报 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023179360A1 (zh) * 2022-03-24 2023-09-28 北京字跳网络技术有限公司 视频处理方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
WO2023179360A1 (zh) 2023-09-28
CN114640796B (zh) 2024-02-09

Similar Documents

Publication Publication Date Title
CN110163237B (zh) 模型训练及图像处理方法、装置、介质、电子设备
CN112419151B (zh) 图像退化处理方法、装置、存储介质及电子设备
CN112929582A (zh) 一种特效展示方法、装置、设备及介质
JP2005018521A (ja) 信号処理装置および信号処理方法、並びにプログラムおよび記録媒体
CN110298851B (zh) 人体分割神经网络的训练方法及设备
US11538136B2 (en) System and method to process images of a video stream
CN113327318A (zh) 图像显示方法、装置、电子设备和计算机可读介质
WO2023179360A1 (zh) 视频处理方法、装置、电子设备及存储介质
CN110636331B (zh) 用于处理视频的方法和装置
CN110070482B (zh) 图像处理方法、装置和计算机可读存储介质
CN111369475A (zh) 用于处理视频的方法和装置
CN113222144B (zh) 图像修复模型的训练方法及图像修复方法、装置及设备
CN114066722B (zh) 用于获取图像的方法、装置和电子设备
CN111798385B (zh) 图像处理方法及装置、计算机可读介质和电子设备
CN114170341A (zh) 一种图像处理方法、装置、设备及介质
CN112070888B (zh) 图像生成方法、装置、设备和计算机可读介质
CN114866706A (zh) 图像处理方法、装置、电子设备及存储介质
JP2005018533A (ja) 信号処理装置および信号処理方法、並びにプログラムおよび記録媒体
CN114757843A (zh) 图像处理方法、装置、电子设备及存储介质
CN111696041B (zh) 图像处理方法、装置及电子设备
CN112488947A (zh) 模型训练和图像处理方法、装置、设备和计算机可读介质
CN111738958B (zh) 图片修复方法、装置、电子设备及计算机可读介质
CN115841151B (zh) 模型训练方法、装置、电子设备和计算机可读介质
CN112214187B (zh) 水波纹图像实现方法及装置
CN117635424A (zh) 一种图像处理方法、装置、设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant