CN114240787A - 压缩图像修复方法及装置、电子设备和存储介质 - Google Patents

压缩图像修复方法及装置、电子设备和存储介质 Download PDF

Info

Publication number
CN114240787A
CN114240787A CN202111565590.9A CN202111565590A CN114240787A CN 114240787 A CN114240787 A CN 114240787A CN 202111565590 A CN202111565590 A CN 202111565590A CN 114240787 A CN114240787 A CN 114240787A
Authority
CN
China
Prior art keywords
video frame
image
compressed
determining
original
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111565590.9A
Other languages
English (en)
Inventor
许通达
袁涛
邵一璠
王岩
秦红伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Sensetime Technology Development Co Ltd
Original Assignee
Beijing Sensetime Technology Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Sensetime Technology Development Co Ltd filed Critical Beijing Sensetime Technology Development Co Ltd
Priority to CN202111565590.9A priority Critical patent/CN114240787A/zh
Publication of CN114240787A publication Critical patent/CN114240787A/zh
Priority to PCT/CN2022/100470 priority patent/WO2023115859A1/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/77—Retouching; Inpainting; Scratch removal
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/70—Denoising; Smoothing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本公开涉及一种压缩图像修复方法及装置、电子设备和存储介质，通过预设的非盲修复算法对压缩图像进行修复得到预修复图像，再将压缩图像输入训练得到的损失检测模型中得到对应的损失分布图像。根据压缩图像、预修复图像和损失分布图像确定原始图像。其中，损失检测模型训练过程中，输入样本为压缩视频帧，标注样本根据对应压缩视频帧与原始视频帧的残差视频帧确定。本公开通过训练得到的损失检测模型直接压缩图像进行损失标定，再通过模型输出的损失对初步修复后的图像进行修正，提升了压缩图像的修复质量。同时，本公开通过一个损失检测模型即可实现不同的压缩图像进行损失标定，减少了存储和传输成本。

Description

压缩图像修复方法及装置、电子设备和存储介质
技术领域
本公开涉及计算机技术领域，尤其涉及一种压缩图像修复方法及装置、电子设备和存储介质。
背景技术
在视频编码过程中，会对视频中每一帧图像帧进行压缩以减小视频体积。在还原压缩视频时，由于其中每一视频帧的损失难以标定，相关技术对压缩视频帧的修复方式在未标定视频帧损失的情况下进行盲降噪，复杂度过高且降噪效果差。
发明内容
本公开提出了一种压缩图像修复方法及装置、电子设备和存储介质，旨在修复压缩图像时先进行损失标定，并直接根据标定的损失进行降噪，提高修复图像的效果。
根据本公开的第一方面，提供了一种压缩图像修复方法，包括：
通过预设的非盲修复算法对压缩图像进行修复，得到预修复图像；
将所述压缩图像输入训练得到的损失检测模型中，得到对应的损失分布图像；
根据所述压缩图像、所述预修复图像和所述损失分布图像确定原始图像，
其中，所述损失检测模型通过将原始视频帧对应的压缩视频帧作为输入样本，所述压缩视频帧对应的标注分布图像作为标注样本训练得到，每个所述标注分布图像通过对应的所述压缩视频帧，和所述压缩视频帧对应的原始视频帧的残差视频帧确定。
在一种可能的实现方式中，所述根据所述压缩图像、所述预修复图像和所述损失分布图像确定原始图像包括：
基于所述损失分布图像，对所述压缩图像和所述预修复图像进行透明度混合得到原始图像。
在一种可能的实现方式中，所述损失检测模型的训练过程包括：
确定至少一个原始视频帧，以及每个所述原始视频帧对应的压缩视频帧；
根据每个所述原始视频帧和对应的所述压缩视频帧，确定每个所述压缩视频帧的残差视频帧；
根据每个所述残差视频帧确定标注分布图像；
将每个所述压缩视频帧作为输入样本，每个所述压缩视频帧对应的标注分布图像作为标注样本训练得到损失检测模型。
在一种可能的实现方式中，所述确定至少一个原始视频帧，以及每个所述原始视频帧对应的压缩视频帧包括：
确定至少一个原始视频，以及每个所述原始视频对应的压缩视频；
从各所述原始视频中随机抽取至少一个视频帧作为原始视频帧，并在对应的压缩视频中抽取所述原始视频帧对应的压缩视频帧。
在一种可能的实现方式中，所述确定至少一个原始视频，以及每个所述原始视频对应的压缩视频包括：
确定至少一个原始视频；
对于每个所述原始视频，随机选取对应的编码器和编码力度；
根据对应的编码器和编码力度，对每个所述原始视频进行视频编码得到压缩视频。
在一种可能的实现方式中，所述根据每个所述原始视频帧和对应的所述压缩视频帧，确定每个所述压缩视频帧的残差视频帧包括：
对每个所述原始视频帧和对应的所述压缩视频帧进行预处理；
计算预处理后每个所述原始视频帧和对应的所述压缩视频帧的差，得到每个所述压缩视频帧的残差视频帧。
在一种可能的实现方式中，所述对每个所述原始视频帧和对应的所述压缩视频帧进行预处理包括：
对每个所述原始视频帧和对应的所述压缩视频帧进行高通滤波。
在一种可能的实现方式中，所述根据每个所述残差视频帧确定标注分布图像包括：
对于每个所述残差视频帧，分别执行以下步骤：
确定所述残差视频帧中每个像素位置对应的像素区域；
确定每个所述像素区域对应的像素位置的特征值；
根据每个所述像素位置的特征值确定标注分布图像。
在一种可能的实现方式中，所述确定所述残差视频帧中每个像素位置对应的像素区域包括：
确定预设尺寸的图像框；
确定每个所述像素位置对应的像素区域为所述像素位置在所述图像框中心位置时，所述图像框中包括的残差视频帧区域。
在一种可能的实现方式中，每个所述像素位置对应的像素区域可以通过滑动所述图像框的方式获取。
在一种可能的实现方式中，所述确定每个所述像素区域对应的像素位置的特征值包括：
对于每个所述像素区域，计算其中包括的各像素的平方均值得到特征值。
在一种可能的实现方式中，所述根据每个所述像素位置的特征值确定标注分布图像包括：
将每个所述特征值存入对应的所述像素位置，得到标注分布图像。
根据本公开的第二方面，提供了一种压缩图像修复装置，包括：
图像修复模块，用于通过预设的非盲修复算法对压缩图像进行修复，得到预修复图像；
损失确定模块，用于将所述压缩图像输入训练得到的损失检测模型中，得到对应的损失分布图像；
原始图像确定模块，用于根据所述压缩图像、所述预修复图像和所述损失分布图像确定原始图像，
其中，所述损失检测模型通过将原始视频帧对应的压缩视频帧作为输入样本，所述压缩视频帧对应的标注分布图像作为标注样本训练得到，每个所述标注分布图像通过对应的所述压缩视频帧，和所述压缩视频帧对应的原始视频帧的残差视频帧确定。
在一种可能的实现方式中，所述原始图像确定模块包括：
图像融合子模块，用于基于所述损失分布图像，对所述压缩图像和所述预修复图像进行透明度混合得到原始图像。
在一种可能的实现方式中，所述损失检测模型的训练过程包括：
确定至少一个原始视频帧，以及每个所述原始视频帧对应的压缩视频帧；
根据每个所述原始视频帧和对应的所述压缩视频帧，确定每个所述压缩视频帧的残差视频帧；
根据每个所述残差视频帧确定标注分布图像；
将每个所述压缩视频帧作为输入样本，每个所述压缩视频帧对应的标注分布图像作为标注样本训练得到损失检测模型。
在一种可能的实现方式中，所述确定至少一个原始视频帧，以及每个所述原始视频帧对应的压缩视频帧包括：
确定至少一个原始视频，以及每个所述原始视频对应的压缩视频；
从各所述原始视频中随机抽取至少一个视频帧作为原始视频帧，并在对应的压缩视频中抽取所述原始视频帧对应的压缩视频帧。
在一种可能的实现方式中，所述确定至少一个原始视频，以及每个所述原始视频对应的压缩视频包括：
确定至少一个原始视频；
对于每个所述原始视频，随机选取对应的编码器和编码力度；
根据对应的编码器和编码力度，对每个所述原始视频进行视频编码得到压缩视频。
在一种可能的实现方式中，所述根据每个所述原始视频帧和对应的所述压缩视频帧，确定每个所述压缩视频帧的残差视频帧包括：
对每个所述原始视频帧和对应的所述压缩视频帧进行预处理；
计算预处理后每个所述原始视频帧和对应的所述压缩视频帧的差，得到每个所述压缩视频帧的残差视频帧。
在一种可能的实现方式中，所述对每个所述原始视频帧和对应的所述压缩视频帧进行预处理包括：
对每个所述原始视频帧和对应的所述压缩视频帧进行高通滤波。
在一种可能的实现方式中，所述根据每个所述残差视频帧确定标注分布图像包括：
对于每个所述残差视频帧，分别执行以下步骤：
确定所述残差视频帧中每个像素位置对应的像素区域；
确定每个所述像素区域对应的像素位置的特征值；
根据每个所述像素位置的特征值确定标注分布图像。
在一种可能的实现方式中，所述确定所述残差视频帧中每个像素位置对应的像素区域包括：
确定预设尺寸的图像框；
确定每个所述像素位置对应的像素区域为所述像素位置在所述图像框中心位置时，所述图像框中包括的残差视频帧区域。
在一种可能的实现方式中，每个所述像素位置对应的像素区域可以通过滑动所述图像框的方式获取。
在一种可能的实现方式中，所述确定每个所述像素区域对应的像素位置的特征值包括：
对于每个所述像素区域，计算其中包括的各像素的平方均值得到特征值。
在一种可能的实现方式中，所述根据每个所述像素位置的特征值确定标注分布图像包括：
将每个所述特征值存入对应的所述像素位置，得到标注分布图像。
根据本公开的第三方面，提供了一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为调用所述存储器存储的指令，以执行上述方法。
根据本公开的第四方面，提供了一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现上述方法。
在本公开实施例中，通过预设的非盲修复算法对压缩图像进行修复得到预修复图像，再将压缩图像输入训练得到的损失检测模型中得到对应的损失分布图像。根据压缩图像、预修复图像和损失分布图像确定原始图像。其中，损失检测模型训练过程中，输入样本为压缩视频帧，标注样本根据对应的压缩视频帧与原始视频帧的残差视频帧确定。本公开通过训练得到的损失检测模型直接压缩图像进行损失标定，再通过模型输出的损失对初步修复后的图像进行修正，提升了压缩图像的修复质量。同时，本公开通过一个损失检测模型即可实现不同的压缩图像进行损失标定，减少了存储和传输成本。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，而非限制本公开。根据下面参考附图对示例性实施例的详细说明，本公开的其它特征及方面将变得清楚。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，这些附图示出了符合本公开的实施例，并与说明书一起用于说明本公开的技术方案。
图1示出根据本公开实施例的一种压缩图像修复方法的流程图；
图2示出根据本公开实施例的一种确定损失分布图像过程的示意图；
图3示出根据本公开实施例的一种训练损失检测模型过程的流程图；
图4示出根据本公开实施例的一种视频帧预处理过程的示意图；
图5示出根据本公开实施例的一种像素位置对应像素区域的示意图；
图6示出根据本公开实施例的一种确定像素区域过程的示意图；
图7示出根据本公开实施例的一种确定原始图像的示意图；
图8示出根据本公开实施例的一种压缩图像修复装置的示意图；
图9示出根据本公开实施例的一种电子设备的示意图；
图10示出根据本公开实施例的另一种电子设备的示意图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面，但是除非特别指出，不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合，例如，包括A、B、C中的至少一种，可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。
另外，为了更好地说明本公开，在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解，没有某些具体细节，本公开同样可以实施。在一些实例中，对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述，以便于凸显本公开的主旨。
图1示出根据本公开实施例的一种压缩图像修复方法的流程图。在一种可能的实现方式中，本公开实施例的压缩图像修复方法可以通过终端设备或服务器等电子设备执行。其中，终端设备可以为用户设备(User Equipment，UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字助理(Personal Digital Assistant，PDA)、手持设备、计算设备、车载设备、可穿戴设备等移动或固定终端。服务器可以为单独的服务器或者多个服务器组成的服务器集群。任意电子设备执均可以通过处理器调用存储器中存储的计算机可读指令的方式来实现该压缩图像修复方法。
本公开实施例可以应用于对任意压缩图像进行修复的场景，例如在对单张图像压缩后的图像修复，或者对视频压缩后依次对其中每一视频帧进行图像修复的场景。进一步地，本公开实施例还可以用于还原其他无损失分布标定的损失图像。
如图1所示，本公开实施例的压缩图像修复方法可以包括以下步骤S10-S30。
步骤S10、通过预设的非盲修复算法对压缩图像进行修复，得到预修复图像。
在一种可能的实现方式中，压缩图像为未进行损失分布标定的损失图像，可以为单张图像压缩后得到的压缩图像，或者是视频在经过编码压缩后得到的压缩视频中的任意视频帧。其中，未进行损失分布标定即预先不清楚压缩图像的损失分布。在获取压缩图像后，先通过预设的非盲修复算法对压缩图像进行修复，得到预先修复图像。可选地，预设的非盲修复算法可以为任意非盲修复算法，例如通过将压缩图像输入DnCNN(DenoisingConvolutional Neural Network，前馈去噪卷积神经网络)或CBDNeT(ConvolutionalBlind Denoising Network，卷积盲去噪神经网络)等方式进行图像降噪。
可选地，非盲修复算法是在压缩图像损失分布已知的情况下进行图像修复，而本公开实施例的压缩图像损失未知，为了避免压缩图像中部分区域在修复过程中遗漏，对压缩图像中全部区域均进行修复，即对需要修复和不需要修复的区域均进行修复。因此，预修复图像为一个对压缩图像全部像素位置进行修复得到的错误图像。
步骤S20、将所述压缩图像输入训练得到的损失检测模型中，得到对应的损失分布图像。
在一种可能的实现方式中，可以通过将压缩图像输入损失检测模型中，对压缩图像的损失分布进行预测，得到损失分布图像。其中，损失分布图像与压缩图像尺寸相同，损失分布图像中每个像素位置的像素表征压缩图像中对应像素位置的像素损失强度。损失检测模型通过将原始视频帧对应的压缩视频帧作为输入样本，压缩视频帧对应的标注分布图像作为标注样本训练得到。可选地，每个标注分布图像可以通过对应的压缩视频帧，和压缩视频帧对应的原始视频帧的残差视频帧确定。
图2示出根据本公开实施例的一种确定损失分布图像过程的示意图。如图2所示，在确定未标定损失分布的压缩图像20后，可以将压缩图像20输入损失检测模型21，由损失检测模型21对压缩图像20自动进行损失标定后，直接输出损失分布图像22。上述损失检测模型能够准确、快速的实现压缩图像20的损失分布标定。
图3示出根据本公开实施例的一种训练损失检测模型过程的流程图。如图3所示，在本公开实施例中，损失检测模型的训练过程还可以包括以下步骤S21-S24。
步骤S21、确定至少一个原始视频帧，以及每个所述原始视频帧对应的压缩视频帧。
在一种可能的实现方式中，原始视频帧为未通过视频编码等方式压缩的图像，可以在未压缩的原始视频中随机提取得到。每个原始视频帧具有一个对应的压缩视频帧，可以通过在压缩原始视频后得到的压缩视频中提取得到。其中，原始视频帧在原始视频中的位置与对应的压缩视频帧在压缩视频中的位置相同。例如，当原始视频帧为原始视频中的第i帧时，压缩视频帧为将原始视频压缩处理后得到的压缩视频中的第i帧。
可选地，本公开实施例确定至少一个原始视频帧，以及每个原始视频帧对应的压缩视频帧的过程可以包括确定至少一个原始视频，以及每个原始视频对应的压缩视频。从各原始视频中随机抽取至少一个视频帧作为原始视频帧，并在对应的压缩视频中抽取原始视频帧对应的压缩视频帧。其中，压缩视频中对应的压缩视频帧为压缩视频中原始视频帧所在位置的视频帧。原始视频和对应压缩视频的确定方式可以为先确定至少一个未压缩的原始视频，对于每个原始视频，随机选取对应的编码器和编码力度。进一步地，基于每个原始视频对应的编码器和编码力度，对每个原始视频进行视频编码得到对应的压缩视频。也就是说，通过对应的编码器以对应的编码力度对原始视频进行编码，得到原始视频对应的压缩视频。
步骤S22、根据每个所述原始视频帧和对应的所述压缩视频帧，确定每个所述压缩视频帧的残差视频帧。
在一种可能的实现方式中，在确定多个原始视频帧，以及每个原始视频帧对应的压缩视频帧后，可以根据每个原始视频帧和对应的压缩视频帧，确定每个压缩视频帧的残差视频帧。可选地，残差视频帧的确定方式可以为直接计算每个原始视频帧和压缩视频帧的差。例如，当原始视频帧表示为矩阵X，压缩视频帧表示为矩阵Y时，残差视频帧可以通过矩阵X-Y表示。
可选地，对于一些特殊的应用场景，还可以先对每个原始视频帧和对应的压缩视频帧进行预处理。再计算预处理后每个原始视频帧和对应的压缩视频帧的差，得到每个压缩视频帧的残差视频帧。例如，由于低频信号噪声对人眼视觉的影响较小，且视频编码过程中主要对高频信号进行编码，在压缩视频帧为对原始视频进行视频编码的得到的压缩视频中视频帧时，预处理过程可以为对每个原始视频帧和对应的压缩视频帧进行高通滤波。该滤波过程能够去除原始视频帧和压缩视频帧中的低频信号，保留对人眼视觉影像较大的高频信号，简化了计算量的同时保证提取得到残差视频帧的准确性。
进一步地，对原始视频帧和压缩视频帧进行高通滤波的方式可以相同或不同。任意视频帧的滤波方式可以为直接将视频帧输入高通滤波器，以去除其中包括的低频信号得到处理后的视频帧。或者，还可以将视频帧输入低通滤波器得到去除高频信号的低通视频帧，再由输入的视频帧减去低通视频帧完成预处理过程。
图4示出根据本公开实施例的一种视频帧预处理过程的示意图。如图4所示，对于原始视频帧X，可以直接输入高通滤波器，输出出去低频信号的原始视频帧X’以完成预处理。或者，还可以将原始视频帧X输入低通滤波器40得到低通视频帧Z。进一步地，通过原始视频帧X减去低通视频帧Z得到预处理后的原始视频帧X’，完成处理过程。可选地，低通滤波器40可以为尺寸预设的均值低通滤波器，例如4×4。压缩视频帧的预处理方式与原始视频帧的预处理方式相同，也可以通过图4所示的方法得到处理后的压缩视频帧。
步骤S23、根据每个所述残差视频帧确定标注分布图像。
在一种可能的实现方式中，可以在确定每个压缩视频帧对应的残差视频帧后，根据对应的残差视频帧确定每个压缩视频的标注分布图像。其中，对于每个残差视频帧，确定标注分布图像的方式可以包括：确定残差视频帧中每个像素位置对应的像素区域。确定每个所述像素区域对应的像素位置的特征值。根据每个像素位置的特征值确定标注分布图像。可选地，残差视频帧中每个像素位置对应的像素区域尺寸相同，可以预先设定，例如可以为3×3，每个像素位置在所述像素区域中的特定位置。例如，可以确定每个像素位置对应的像素区域为以所述像素位置为左上角，且尺寸预设的区域。或者，还可以确定每个像素位置对应的像素区域为以所述像素位置为中心位置，且尺寸预设的区域。
可选地，在预先设定像素位置为对应像素区域的中间位置时，确定残差视频帧中每个像素位置对应的像素区域可以为确定预设尺寸的图像框，确定每个像素位置对应的像素区域为像素位置在图像框中心位置时，图像框中包括的残差视频帧区域。
图5示出根据本公开实施例的一种像素位置对应像素区域的示意图。如图5所示，在确定残差视频帧50后，通过预设尺寸的图像框51在残差视频帧50中确定每个像素位置对应的像素区域。其中，在确定每个像素位置在对应像素区域的中间位置的情况下，预设尺寸的长和宽都设定为奇数，例如图像框51的尺寸可以为3×3。在确定每个像素位置在对应像素区域的左上角、右下角等特定边缘位置的情况下，预设尺寸的长和宽可以为奇数或偶数，例如图像框51的尺寸可以为3×3或4×4。
以确定每个像素位置在对应像素区域的中间位置为例进行说明。在需要确定像素值为111的像素位置对应的像素区域时，可以将预设尺寸的图像框51移动至正中间位置为像素值为111的位置，并将此时图像框51中区域作为该像素值为111的像素位置对应的像素区域。可选地，当需要确定对应像素区域的像素位置位于残差视频帧边缘，使像素位置在图像框51中心时图像框51中存储存在空白位置时，可以通过复制残差视频帧50边缘的方式填充图像框51内空白区域。
进一步地，每个像素位置对应的像素区域可以通过滑动图像框的方式获取。也就是说，还可以通过固定尺寸的图像框以预设步长1在残差视频帧上滑动，得到每个像素位置对应的像素区域。
图6示出根据本公开实施例的一种确定像素区域过程的示意图，如图6所示，在确定残差视频帧50后，通过预设尺寸的图像框51在残差视频帧50中滑动确定每个像素位置对应的像素区域。其中，由于在需要确定对应像素区域的像素位置位于残差视频帧50边缘时，会使像素位置在图像框51中心时图像框51中存在空白位置，可以先根据图像框51的尺寸复制残差视频帧50边缘，得到扩张图像52，以保证残差视频帧50中每个像素位置都能完整的获取到对应的像素区域。例如，当图像框51的尺寸为3×3时，可以将残差视频帧50的边缘分别复制一次得到扩张图像52，当图像框51的尺寸为5×5时，可以将残差视频帧50的边缘分别复制两次得到扩张图像52。
在得到扩张图像52后，可以从扩张图像52的预设位置，例如左上角、右上角开始以预设步长1滑动图像框51，以确定每一次滑动后图像框51正中心的像素位置对应的像素区域。
在一种可能的实现方式中，对于每个压缩视频帧对应的残差视频帧，在通过上述方式确定其中每个像素位置的像素区域后，可以根据其中全部像素值计算得到该像素位置的特征值。可选地，对于每个像素区域，可以通过计算其中包括的各像素的平方均值得到特征值。以压缩视频帧中噪声来源为0均值的高斯噪声，且临近像素噪声分布平滑的情况为例进行说明。由于每个像素区域中的平方均值是噪声分布方差的最大似然估计，可以将像素区域中的平方均值作为特征值。例如，当像素位置i对应的像素区域尺寸为3×3时，分别计算像素位置i以及周围八个相邻像素位置中像素位置的平方，再除以9得到像素位置i的特征值。或者，还可以采用其他计算方式计算每个像素区域中像素值，得到像素区域中间像素位置对应的特征值。
可选地，在确定当前残差视频帧中每个像素位置的特征值后，可以将每个特征值存入对应的像素位置，得到标注分布图像。例如先创建一个尺寸与残差视频帧相同的空白图像，将残差视频帧中每个像素位置对应的特征值写入该空白图像的对应像素位置，得到标注分布图像。
S24、将每个所述压缩视频帧作为输入样本，每个所述压缩视频帧对应的标注分布图像作为标注样本训练得到损失检测模型。
在一种可能的实现方式中，在通过上述步骤确定每个压缩视频帧对应的标注分布图像后，可以根据每个压缩视频帧和对应的标注分布图像创建用于训练信息检测模型的训练集。进一步地，获取训练集中的压缩视频帧作为损失检测模型的输入样本，并将压缩视频帧对应的标注分布图像作为输入样本的标注样本，与损失检测模型的输出进行对比得到模型损失，以调节损失检测模型的参数，最终得到训练好的损失检测模型。
在本公开实施例中，上述训练损失检测模型的方法能够通过原始视频帧和压缩视频帧的残差视频帧，准确的得到原始视频帧压缩过程中的损失分布，并训练得到能够准确预测压缩视频帧损失分布的损失检测模型。因此，压缩图像在输入损失检测模型后，损失检测模型能够准确的检测到压缩图像的损失分布，并输出表征压缩图像损失分布的损失分布图像。
步骤S30、根据所述压缩图像、所述预修复图像和所述损失分布图像确定原始图像。
在一种可能的实现方式中，在确定压缩图像，对压缩图像盲修复得到的预修复图像，以及表征压缩图像损失分布的损失分布图像后，根据上述三种图像确定原始图像。其中，压缩图像在压缩过程中不同像素位置的损失强度不同，即不同位置像素需要不同的修复力度进行修复，例如对于不存在损失的像素不需要进行修复，较小损失的像素需要较轻力度的修复，损失较大的像素需要较大力度的修复。而预修复图像为通过任意非盲修复算法修复压缩图像后得到的图像，其中每个像素均被相同的修复力度进行修复。因此，需要通过表征压缩图像损失分布，即不同像素位置损失情况的损失分布图像调整压缩图像和预修复图像后合并，得到原始图像。
可选地，原始图像的确定方式可以为基于损失分布图像，对所述压缩图像和所述预修复图像进行透明度混合得到原始图像。透明度混合的方式可以为计算压缩图像和预修复图像的加权和，得到原始图像。其中，可以将损分布图像作为预修复图像的权重，再通过与损失分布图像尺寸相同且其中每个像素值均为1的矩阵减去损失分布图像，得到逆顺序分布图像，将逆损失分布图像作为压缩图像的权重，计算预修复图像和压缩图像的加权和得到原始图像。可选地，损失分布图像中每个像素值的取值范围为[0,1]。例如，当损失分布图像表征为矩阵N，压缩图像表征为矩阵P，预修复图像表征为矩阵Q时，原始图像可以为Q×N+P×(1-N)。
图7示出根据本公开实施例的一种确定原始图像的示意图。如图7所示，在确定压缩图像71、对应的预修复图像70以及对应的损失分布图像72后，通过损失分布图像72确定逆损失分布图像73。进一步地，将损失分布图像72作为预修复图像70的权重，逆损失分布图像73作为压缩图像71的权重，对预修复图像70和压缩图像71进行透明度融合，得到原始图像74。也就是说计算损失分布图像72和预修复图像70的乘积，以及预修复图像70和压缩图像71的乘积，将两个乘积相加得到原始图像74。
本公开实施例先通过预设的非盲修复算法对损失图像进行初步修正，再通过训练得到的损失检测模型直接压缩图像进行损失分布标定，最终基于损失检测模型标定的损失分布对初步修复后的图像进行修正，提升了压缩图像的修复质量。同时，本公开通过一个损失检测模型即可实现不同的压缩图像进行损失分布标定，减少了存储和传输成本。
可以理解，本公开提及的上述各个方法实施例，在不违背原理逻辑的情况下，均可以彼此相互结合形成结合后的实施例，限于篇幅，本公开不再赘述。本领域技术人员可以理解，在具体实施方式的上述方法中，各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
此外，本公开还提供了压缩图像修复装置、电子设备、计算机可读存储介质、程序，上述均可用来实现本公开提供的任一种压缩图像修复方法，相应技术方案和描述和参见方法部分的相应记载，不再赘述。
图8示出根据本公开实施例的一种压缩图像修复装置的示意图。如图8所示，本公开实施例的压缩图像修复装置可以包括图像修复模块80、损失确定模块81和原始图像确定模块82。
图像修复模块80，用于通过预设的非盲修复算法对压缩图像进行修复，得到预修复图像；
损失确定模块81，用于将所述压缩图像输入训练得到的损失检测模型中，得到对应的损失分布图像；
原始图像确定模块82，用于根据所述压缩图像、所述预修复图像和所述损失分布图像确定原始图像，
其中，所述损失检测模型通过将原始视频帧对应的压缩视频帧作为输入样本，所述压缩视频帧对应的标注分布图像作为标注样本训练得到，每个所述标注分布图像通过对应的所述压缩视频帧，和所述压缩视频帧对应的原始视频帧的残差视频帧确定。
在一种可能的实现方式中，所述原始图像确定模块82包括：
图像融合子模块，用于基于所述损失分布图像，对所述压缩图像和所述预修复图像进行透明度混合得到原始图像。
在一种可能的实现方式中，所述损失检测模型的训练过程包括：
确定至少一个原始视频帧，以及每个所述原始视频帧对应的压缩视频帧；
根据每个所述原始视频帧和对应的所述压缩视频帧，确定每个所述压缩视频帧的残差视频帧；
根据每个所述残差视频帧确定标注分布图像；
将每个所述压缩视频帧作为输入样本，每个所述压缩视频帧对应的标注分布图像作为标注样本训练得到损失检测模型。
在一种可能的实现方式中，所述确定至少一个原始视频帧，以及每个所述原始视频帧对应的压缩视频帧包括：
确定至少一个原始视频，以及每个所述原始视频对应的压缩视频；
从各所述原始视频中随机抽取至少一个视频帧作为原始视频帧，并在对应的压缩视频中抽取所述原始视频帧对应的压缩视频帧。
在一种可能的实现方式中，所述确定至少一个原始视频，以及每个所述原始视频对应的压缩视频包括：
确定至少一个原始视频；
对于每个所述原始视频，随机选取对应的编码器和编码力度；
根据对应的编码器和编码力度，对每个所述原始视频进行视频编码得到压缩视频。
在一种可能的实现方式中，所述根据每个所述原始视频帧和对应的所述压缩视频帧，确定每个所述压缩视频帧的残差视频帧包括：
对每个所述原始视频帧和对应的所述压缩视频帧进行预处理；
计算预处理后每个所述原始视频帧和对应的所述压缩视频帧的差，得到每个所述压缩视频帧的残差视频帧。
在一种可能的实现方式中，所述对每个所述原始视频帧和对应的所述压缩视频帧进行预处理包括：
对每个所述原始视频帧和对应的所述压缩视频帧进行高通滤波。
在一种可能的实现方式中，所述根据每个所述残差视频帧确定标注分布图像包括：
对于每个所述残差视频帧，分别执行以下步骤：
确定所述残差视频帧中每个像素位置对应的像素区域；
确定每个所述像素区域对应的像素位置的特征值；
根据每个所述像素位置的特征值确定标注分布图像。
在一种可能的实现方式中，所述确定所述残差视频帧中每个像素位置对应的像素区域包括：
确定预设尺寸的图像框；
确定每个所述像素位置对应的像素区域为所述像素位置在所述图像框中心位置时，所述图像框中包括的残差视频帧区域。
在一种可能的实现方式中，每个所述像素位置对应的像素区域可以通过滑动所述图像框的方式获取。
在一种可能的实现方式中，所述确定每个所述像素区域对应的像素位置的特征值包括：
对于每个所述像素区域，计算其中包括的各像素的平方均值得到特征值。
在一种可能的实现方式中，所述根据每个所述像素位置的特征值确定标注分布图像包括：
将每个所述特征值存入对应的所述像素位置，得到标注分布图像。
在一些实施例中，本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法，其具体实现可以参照上文方法实施例的描述，为了简洁，这里不再赘述。
本公开实施例还提出一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是易失性或非易失性计算机可读存储介质。
本公开实施例还提出一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为调用所述存储器存储的指令，以执行上述方法。
本公开实施例还提供了一种计算机程序产品，包括计算机可读代码，或者承载有计算机可读代码的非易失性计算机可读存储介质，当所述计算机可读代码在电子设备的处理器中运行时，所述电子设备中的处理器执行上述方法。
电子设备可以被提供为终端、服务器或其它形态的设备。
图9示出根据本公开实施例的一种电子设备800的示意图。例如，电子设备800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等终端。
参照图9，电子设备800可以包括以下一个或多个组件：处理组件802，存储器804，电源组件806，多媒体组件808，音频组件810，输入/输出(I/O)接口812，传感器组件814，以及通信组件816。
处理组件802通常控制电子设备800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理组件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统，一个或多个电源，及其他与为电子设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当电子设备800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器，用于为电子设备800提供各个方面的状态评估。例如，传感器组件814可以检测到电子设备800的打开/关闭状态，组件的相对定位，例如所述组件为电子设备800的显示器和小键盘，传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变，用户与电子设备800接触的存在或不存在，电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如互补金属氧化物半导体(CMOS)或电荷耦合装置(CCD)图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络，如无线网络(WiFi)，第二代移动通信技术(2G)或第三代移动通信技术(3G)，或它们的组合。在一个示例性实施例中，通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种非易失性计算机可读存储介质，例如包括计算机程序指令的存储器804，上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。
图10示出根据本公开实施例的另一种电子设备1900的示意图。例如，电子设备1900可以被提供为一服务器。参照图10，电子设备1900包括处理组件1922，其进一步包括一个或多个处理器，以及由存储器1932所代表的存储器资源，用于存储可由处理组件1922的执行的指令，例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件1922被配置为执行指令，以执行上述方法。
电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理，一个有线或无线网络接口1950被配置为将电子设备1900连接到网络，和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统，例如微软服务器操作系统(Windows ServerTM)，苹果公司推出的基于图形用户界面操作系统(Mac OSXTM)，多用户多进程的计算机操作系统(UnixTM),自由和开放原代码的类Unix操作系统(LinuxTM)，开放原代码的类Unix操作系统(FreeBSDTM)或类似。
在示例性实施例中，还提供了一种非易失性计算机可读存储介质，例如包括计算机程序指令的存储器1932，上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是(但不限于)电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等，以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)，该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中，所述计算机程序产品具体体现为计算机存储介质，在另一个可选实施例中，计算机程序产品具体体现为软件产品，例如软件开发包(Software Development Kit，SDK)等等。
以上已经描述了本公开的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

Claims (15)

1.一种压缩图像修复方法，其特征在于，所述方法包括：
通过预设的非盲修复算法对压缩图像进行修复，得到预修复图像；
将所述压缩图像输入训练得到的损失检测模型中，得到对应的损失分布图像；
根据所述压缩图像、所述预修复图像和所述损失分布图像确定原始图像，
其中，所述损失检测模型通过将原始视频帧对应的压缩视频帧作为输入样本，所述压缩视频帧对应的标注分布图像作为标注样本训练得到，每个所述标注分布图像通过对应的所述压缩视频帧，和所述压缩视频帧对应的原始视频帧的残差视频帧确定。
2.根据权利要求1所述的方法，其特征在于，所述根据所述压缩图像、所述预修复图像和所述损失分布图像确定原始图像包括：
基于所述损失分布图像，对所述压缩图像和所述预修复图像进行透明度混合得到原始图像。
3.根据权利要求1或2所述的方法，其特征在于，所述损失检测模型的训练过程包括：
确定至少一个原始视频帧，以及每个所述原始视频帧对应的压缩视频帧；
根据每个所述原始视频帧和对应的所述压缩视频帧，确定每个所述压缩视频帧的残差视频帧；
根据每个所述残差视频帧确定标注分布图像；
将每个所述压缩视频帧作为输入样本，每个所述压缩视频帧对应的标注分布图像作为标注样本训练得到损失检测模型。
4.根据权利要求3所述的方法，其特征在于，所述确定至少一个原始视频帧，以及每个所述原始视频帧对应的压缩视频帧包括：
确定至少一个原始视频，以及每个所述原始视频对应的压缩视频；
从各所述原始视频中随机抽取至少一个视频帧作为原始视频帧，并在对应的压缩视频中抽取所述原始视频帧对应的压缩视频帧。
5.根据权利要求4所述的方法，其特征在于，所述确定至少一个原始视频，以及每个所述原始视频对应的压缩视频包括：
确定至少一个原始视频；
对于每个所述原始视频，随机选取对应的编码器和编码力度；
根据对应的编码器和编码力度，对每个所述原始视频进行视频编码得到压缩视频。
6.根据权利要求3-5中任意一项所述的方法，其特征在于，所述根据每个所述原始视频帧和对应的所述压缩视频帧，确定每个所述压缩视频帧的残差视频帧包括：
对每个所述原始视频帧和对应的所述压缩视频帧进行预处理；
计算预处理后每个所述原始视频帧和对应的所述压缩视频帧的差，得到每个所述压缩视频帧的残差视频帧。
7.根据权利要求6所述的方法，其特征在于，所述对每个所述原始视频帧和对应的所述压缩视频帧进行预处理包括：
对每个所述原始视频帧和对应的所述压缩视频帧进行高通滤波。
8.根据权利要求3-7中任意一项所述的方法，其特征在于，所述根据每个所述残差视频帧确定标注分布图像包括：
对于每个所述残差视频帧，分别执行以下步骤：
确定所述残差视频帧中每个像素位置对应的像素区域；
确定每个所述像素区域对应的像素位置的特征值；
根据每个所述像素位置的特征值确定标注分布图像。
9.根据权利要求8所述的方法，其特征在于，所述确定所述残差视频帧中每个像素位置对应的像素区域包括：
确定预设尺寸的图像框；
确定每个所述像素位置对应的像素区域为所述像素位置在所述图像框中心位置时，所述图像框中包括的残差视频帧区域。
10.根据权利要求9所述的方法，其特征在于，每个所述像素位置对应的像素区域可以通过滑动所述图像框的方式获取。
11.根据权利要求8-10中任意一项所述的方法，其特征在于，所述确定每个所述像素区域对应的像素位置的特征值包括：
对于每个所述像素区域，计算其中包括的各像素的平方均值得到特征值。
12.根据权利要求8-11中任意一项所述的方法，其特征在于，所述根据每个所述像素位置的特征值确定标注分布图像包括：
将每个所述特征值存入对应的所述像素位置，得到标注分布图像。
13.一种压缩图像修复装置，其特征在于，所述装置包括：
图像修复模块，用于通过预设的非盲修复算法对压缩图像进行修复，得到预修复图像；
损失确定模块，用于将所述压缩图像输入训练得到的损失检测模型中，得到对应的损失分布图像；
原始图像确定模块，用于根据所述压缩图像、所述预修复图像和所述损失分布图像确定原始图像，
其中，所述损失检测模型通过将原始视频帧对应的压缩视频帧作为输入样本，所述压缩视频帧对应的标注分布图像作为标注样本训练得到，每个所述标注分布图像通过对应的所述压缩视频帧，和所述压缩视频帧对应的原始视频帧的残差视频帧确定。
14.一种电子设备，其特征在于，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为调用所述存储器存储的指令，以执行权利要求1至12中任意一项所述的方法。
15.一种计算机可读存储介质，其上存储有计算机程序指令，其特征在于，所述计算机程序指令被处理器执行时实现权利要求1至12中任意一项所述的方法。
CN202111565590.9A 2021-12-20 2021-12-20 压缩图像修复方法及装置、电子设备和存储介质 Pending CN114240787A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202111565590.9A CN114240787A (zh) 2021-12-20 2021-12-20 压缩图像修复方法及装置、电子设备和存储介质
PCT/CN2022/100470 WO2023115859A1 (zh) 2021-12-20 2022-06-22 压缩图像修复方法及装置、电子设备、存储介质和程序产品

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111565590.9A CN114240787A (zh) 2021-12-20 2021-12-20 压缩图像修复方法及装置、电子设备和存储介质

Publications (1)

Publication Number Publication Date
CN114240787A true CN114240787A (zh) 2022-03-25

Family

ID=80759652

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111565590.9A Pending CN114240787A (zh) 2021-12-20 2021-12-20 压缩图像修复方法及装置、电子设备和存储介质

Country Status (2)

Country Link
CN (1) CN114240787A (zh)
WO (1) WO2023115859A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023115859A1 (zh) * 2021-12-20 2023-06-29 上海商汤智能科技有限公司 压缩图像修复方法及装置、电子设备、存储介质和程序产品

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103593834B (zh) * 2013-12-03 2017-06-13 厦门美图网科技有限公司 一种智能添加景深的图像增强方法
CN106056552A (zh) * 2016-05-31 2016-10-26 努比亚技术有限公司 一种图像处理方法及移动终端
US11295439B2 (en) * 2019-10-16 2022-04-05 International Business Machines Corporation Image recovery
CN110677649B (zh) * 2019-10-16 2021-09-28 腾讯科技（深圳）有限公司 基于机器学习的去伪影方法、去伪影模型训练方法及装置
CN111988621A (zh) * 2020-06-19 2020-11-24 新加坡依图有限责任公司(私有) 视频处理器训练方法、装置、视频处理装置及视频处理方法
CN114240787A (zh) * 2021-12-20 2022-03-25 北京市商汤科技开发有限公司 压缩图像修复方法及装置、电子设备和存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023115859A1 (zh) * 2021-12-20 2023-06-29 上海商汤智能科技有限公司 压缩图像修复方法及装置、电子设备、存储介质和程序产品

Also Published As

Publication number Publication date
WO2023115859A1 (zh) 2023-06-29

Similar Documents

Publication Publication Date Title
US11544820B2 (en) Video repair method and apparatus, and storage medium
CN110378976B (zh) 图像处理方法及装置、电子设备和存储介质
CN111553864B (zh) 图像修复方法及装置、电子设备和存储介质
CN110060215B (zh) 图像处理方法及装置、电子设备和存储介质
CN109859144B (zh) 图像处理方法及装置、电子设备和存储介质
CN111445414B (zh) 图像处理方法及装置、电子设备和存储介质
CN110619610B (zh) 图像处理方法及装置
CN111340731A (zh) 图像处理方法及装置、电子设备和存储介质
CN111369482B (zh) 图像处理方法及装置、电子设备和存储介质
CN113689361B (zh) 图像处理方法及装置、电子设备和存储介质
CN113139947A (zh) 图像处理方法及装置、电子设备和存储介质
CN111583142A (zh) 图像降噪方法及装置、电子设备和存储介质
CN109903252B (zh) 图像处理方法及装置、电子设备和存储介质
CN109840890B (zh) 图像处理方法及装置、电子设备和存储介质
CN113660531B (zh) 视频处理方法及装置、电子设备和存储介质
CN114240787A (zh) 压缩图像修复方法及装置、电子设备和存储介质
CN110675355B (zh) 图像重建方法及装置、电子设备和存储介质
CN109068138B (zh) 视频图像的处理方法及装置、电子设备和存储介质
CN112837237A (zh) 视频修复方法及装置、电子设备和存储介质
CN109816620B (zh) 图像处理方法及装置、电子设备和存储介质
CN110333903B (zh) 页面加载时长的确定方法及装置
CN110826463A (zh) 人脸识别方法及装置、电子设备和存储介质
CN113689362B (zh) 图像处理方法及装置、电子设备和存储介质
CN112651880B (zh) 视频数据处理方法及装置、电子设备和存储介质
CN115457024A (zh) 冷冻电镜图像处理方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40065693

Country of ref document: HK