CN111182313B - 一种面向通用空域错误隐藏的自适应混合填充方法 - Google Patents

一种面向通用空域错误隐藏的自适应混合填充方法 Download PDF

Info

Publication number
CN111182313B
CN111182313B CN201911323406.2A CN201911323406A CN111182313B CN 111182313 B CN111182313 B CN 111182313B CN 201911323406 A CN201911323406 A CN 201911323406A CN 111182313 B CN111182313 B CN 111182313B
Authority
CN
China
Prior art keywords
pixel
pixels
block
gradient
current
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911323406.2A
Other languages
English (en)
Other versions
CN111182313A (zh
Inventor
刘浩
应晓清
黄震
魏国林
廖荣生
陈根龙
李晓丽
王凯巡
时庭庭
沈港
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Donghua University
Original Assignee
Donghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Donghua University filed Critical Donghua University
Priority to CN201911323406.2A priority Critical patent/CN111182313B/zh
Publication of CN111182313A publication Critical patent/CN111182313A/zh
Application granted granted Critical
Publication of CN111182313B publication Critical patent/CN111182313B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • H04N19/895Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

现有的空域错误隐藏方法常以高复杂度的迭代逼近机制换取恢复质量的轻微提升,并且一些方法只适合于特定的丢失模式。为此,本发明提出了一种自适应混合填充(AHF)的空域错误隐藏方法,以便更好地平衡计算复杂度与恢复质量等性能指标,且能处理多种的丢失模式。对于当前受损块的错误隐藏,AHF方法首先通过各向同性梯度检测器统计延拓区域的邻域梯度特征,根据收缩填充次序执行局部预测过程,从外层素组到内层素组逐一地恢复受损块的各个素组;当预测相关性够低时,AHF方法转而执行非局部片匹配过程,利用相似片对同样位置的未隐藏像素进行填充。所提AHF方法适用于各种丢失模式,在通用性、计算复杂度和恢复质量之间取得了具有竞争力的综合性能。

Description

一种面向通用空域错误隐藏的自适应混合填充方法
技术领域
本发明涉及一种利用空域相关性对图像的受损块进行错误隐藏的方法,属于图像通信技术领域。
背景技术
图像通信通常按照光栅扫描顺序进行分块编解码,在传输中存在块丢失现象。信宿端的错误隐藏不需要对信源端进行任何修改,在恢复像素的过程中不需要信源端的参与,错误隐藏属于图像通信的一类实时后处理技术,由于没有增加编码冗余或改变码流结构而受到广泛关注。大多数自然图像具有较强的空域相关性,空域错误隐藏方法需要仅通过空域信息来高效地预测丢失像素,提高可视质量。
在空域错误隐藏方法中,低复杂度的线性插值机制利用已正确接收或已隐藏的邻域像素来进行加权预测,具有运行速度快与通用性好的优点,但当块间的内容变化较大时,候选像素与权重具有不稳定性,难以取得良好的恢复质量。在图像的边缘部分和纹理区域往往存在周期性的相似结构信息,并且这些相似片在空间位置上的分布呈现出较强的非局部自相似性,可用于提升恢复质量。在空域错误隐藏中,每个受损块相对较小但序号明确,恢复目标是在较低的复杂度约束下使重建误差达到可接受的程度。近年来,代表性的空域错误隐藏方法均采用了耗时的迭代逼近机制,容易导致大量无效的重复操作,极大地增加了计算复杂度,却仅取得少量的质量增益;此外,一些空域错误隐藏方法专门针对特定的丢失模式进行模型训练或算法优化,难以适用于各种各样的丢失模式。因此,有必要在通用性、计算复杂度和恢复质量之间寻求更具竞争力的空域错误隐藏方法。
发明内容
本发明要解决的技术问题是:在空域错误隐藏中如何提升通用性、计算复杂度和恢复质量等综合性能。
为了解决上述技术问题,本发明的技术方案是提供了一种面向通用空域错误隐藏的自适应混合填充方法,其特征在于,整幅图像按照光栅扫描顺序逐块执行错误隐藏,包括以下步骤:
步骤1、当前受损块C对应着互不重叠的延拓区域A和非局部区域B,延拓区域A含有3×3个块,当前受损块C是位于延拓区域A中心的块,延拓区域A的其它块分别属于正确接收的无错块E、执行错误隐藏后的已隐藏块R或还未进行错误隐藏的后续受损块S,通过各向同性梯度检测器在延拓区域A的无错块E和已隐藏块R中统计邻域梯度特征;
步骤2、根据收缩填充次序执行局部预测过程,从外层素组到内层素组逐一地恢复受损块的各个素组,同时计算当前素组的预测相关性,其中,一个素组是当前受损块C中一些像素的组合,根据收缩填充次序,若当前受损块C的像素均未进行错误隐藏,则具有最高邻域可用度的所有像素形成第1素组,按先验填充准则执行逐像素的错误隐藏;随后在完成第m-1个素组的错误隐藏后,在剩下的未隐藏像素中,具有最高邻域可用度的所有像素形成第m素组,这些像素按先验填充准则执行错误隐藏,m=2,3,…,M,M为素组总数,第1素组位于最外层,第M素组位于内层;设xm,n表示当前受损块C中第m素组的第n个像素,第m素组的所有像素均具有相等的邻域可用度,m表示素组序号,n表示同一素组中的像素序号,m越大表示该素组越晚被填充,n越大表示该像素在同一素组中越晚被填充;xm,n的邻域可用度是在xm,n的十六邻域像素中各像素的本体可用度之和,若像素被正确接收或已隐藏,该像素的本体可用度等于1,否则,该像素的本体可用度等于0;
步骤3、若预测相关性够低,转而执行步骤4;否则,转到步骤2,直到当前受损块C的所有像素均被隐藏;
步骤4、执行非局部片匹配过程,在非局部区域B中利用相似片对同样位置的未隐藏像素进行填充,从而完成当前受损块C的恢复,其中,未隐藏像素组成的像素区域位于当前受损块C的中部,当前片是指包围未隐藏像素的最小方阵。
优选地,步骤1中,统计邻域梯度特征时,逐一计算无错块E和已隐藏块R中每个像素对应的梯度幅值和梯度角度,分别累计8个方向的梯度幅值,针对位于坐标(i,j)的像素pi,j,梯度检测表示为:
Figure BDA0002327743160000021
式中gx(i,j)和gy(i,j)分别表示坐标(i,j)在x水平方向和y垂直方向的梯度分量;各向同性梯度检测器含有两个3×3像素的梯度掩模算子:
Figure BDA0002327743160000022
Figure BDA0002327743160000023
在获取中心像素pi,j的梯度分量gx(i,j)和gy(i,j)后,像素坐标(i,j)处的梯度幅值
Figure BDA0002327743160000031
对应的梯度角度θi,j=tan-1(gy(i,j)/gx(i,j)),θi,j被归入到8个方向中的某一个,每个方向的角度范围是成对的22.5°。
优选地,步骤2中,局部预测过程将对当前受损块C的像素逐一执行多方向预测,当前丢失像素对应着一个基本隐藏单元,该基本隐藏单元由一个丢失像素周围的十六邻域像素构成,存在8个等间隔角度的预测方向,基本隐藏单元8个方向上的可用像素用于估计当前丢失像素,设Lm,n表示在丢失像素xm,n的基本隐藏单元中可用像素的集合,
Figure BDA0002327743160000032
表示在丢失像素xm,n与它的可用像素pl所在方向上的梯度幅值,xm,n的主预测像素pm,n是指具有最大
Figure BDA0002327743160000033
值的像素,则局部预测过程通过邻域像素的加权叠加来恢复丢失像素
Figure BDA0002327743160000034
Figure BDA0002327743160000035
式中,δl是一个正比于梯度幅值
Figure BDA0002327743160000036
的加权系数,若所有δl·pl项都等于零,则采用相邻块中与之最近的可用像素直接进行估计。
优选地,步骤3中,丢失像素xm,n进行预测填充,若xm,n的主预测像素pm,n是正确接收的,那么xm,n的溯源像素qm,n就是pm,n;否则,pm,n是已隐藏的像素,它对应的主预测像素是zm ,n;若像素zm,n是正确接收的,则xm,n的溯源像素qm,n就是zm,n;否则,继续以此类推,直到新的主预测像素已是当前受损块C外围的像素,该像素就是最终的qm,n;第m素组的所有像素构成素组向量X(m)={xm,1,…xm,n,…},素组向量X(m)的所有溯源像素构成溯源向量,即X(m)对应着一个同维的溯源向量Q(m)={qm,1,…,qm,n,…},在完成当前素组的局部预测后,计算第m素组的预测相关性
Figure BDA0002327743160000037
执行完第m素组的局部预测,立即计算预测相关性γm,若γm小于相关阈值T,剩余的未隐藏像素将切换到非局部片匹配过程;否则,继续执行局部预测过程。
优选地,步骤4中,所述当前片是在最外围的未隐藏像素上再加上一圈像素,且当前片的最大尺寸受限于块尺寸。
优选地,步骤4中,所述非局部片匹配过程是在对应的非局部区域B中搜索与当前片具有最小均方误差的相似片,然后利用相似片对当前片中同样位置的未隐藏像素进行填充。
在现有的空域错误隐藏方法中,快速的线性插值方法在处理多种丢失模式时效果不甚理想,而恢复质量高的迭代类方法又难以满足实时性需求。本发明所提的自适应混合填充方法通过引入自适应的邻域梯度特征学习与预测相关性判决机制,根据精细的收缩填充次序对丢失像素进行多方向插值或非局部片匹配,能够改进当前空域错误隐藏的综合性能。所提方法在各种丢失模式下均能够获得良好的综合性能,较好地平衡了通用性、计算复杂度和恢复质量等多项性能指标。
附图说明
图1(a)至图1(d)是四种典型的丢失模式,正确接收的块采用白色方块标记,受损块采用黑色方块标记;
图2是自适应混合填充方法的流程图;
图3是延拓区域A与非局部区域B的示意图,蓝色方框内的延拓区域A包含当前受损块C、无错块E、已隐藏块R、后续受损块S;
图4是各向同性梯度检测器的应用示例;
图5是一个素组内所有像素的先验填充准则,方框内的数字越小,表示该像素越早进行填充;
图6是基本隐藏单元,该单元含有当前丢失像素(灰色)周围的十六邻域像素,存在8个等间隔角度的预测方向(箭头);
图7是在8×8块中当前片的示例,一个小方格代表一个像素。
具体实施方式
下面结合附图,进一步阐述本发明。应理解,这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解,在阅读了本发明讲授的内容之后,本领域技术人员可以对本发明作各种改动或修改,这些等价形式同样落于本申请所附权利要求书所限定的范围。
在图像通信中,为了便于码流传输,多个块封装成一个包,一幅图像通常编码成若干独立的包,每个包可以单独恢复,当一幅图像出现了包丢失,信宿端根据受损块的位置,利用邻域的无错块或已隐藏块进行恢复。空域错误隐藏不同于图像去噪或对象移除等应用,图像通信的信宿端能够获取受损块在图像中的具体位置。在光栅扫描顺序下,一个丢失像素的重构不仅依赖于正确接收的像素,也依赖于已经隐藏处理过的像素。为了便于描述,“可用像素”表示正确接收的像素或者已经隐藏过的像素;如果某种块丢失情形在接收图像中重复出现,本发明称之为“规则”丢失。现有的错误隐藏方法均能很好地应对低丢失率的情形。根据受损块在图像中的整体分布情况,大致可将丢失模式归为四种典型类型:规则间隔丢失模式、规则连续丢失模式、随机突发丢失模式、随机行丢失模式。图1展示了四种具有代表性的丢失模式,图中每个方块代表8×8或16×16或其它像素尺寸,正确接收的块用白色标记,受损块用黑色标记。如图1(a)所示,规则间隔丢失模式是一种广为运用的丢失模式,受损块在图像中的分布比较离散,其8个相邻块都已经被正确接收,由于可用的邻域信息比较充分,许多错误隐藏方法都能对此种丢失模式进行有效的恢复。图1(b)给出了规则连续丢失模式的块分布情形,其中,当前受损块的4个相邻块被正确接收。图1(c)给出了随机突发丢失模式的示意图。图1(d)展示了随机行丢失模式的一个示例,受损块集中出现在图像中的某些整行,由于受损块水平方向的邻域信息已经损失,可资利用的相关信息较少,许多隐藏方法针对此丢失模式都达不到满意的效果。
整幅图像按照光栅扫描顺序执行逐块的错误隐藏。对于当前受损块,图2概况了自适应混合填充方法(以下简称AHF方法)的流程图。AHF方法首先通过各向同性梯度检测器统计当前受损块延拓区域的邻域梯度特征,根据收缩填充次序执行局部预测过程,从外层素组到内层素组逐一地恢复受损块的各个素组;同时计算当前素组的预测相关性,若预测相关性够低,AHF方法转而执行非局部片匹配过程,在非局部区域中利用相似片对同样位置的未隐藏像素进行填充。
从统计学的观点来看,错误隐藏问题可以等价为通过一个可用像素子集的信息来预测当前丢失像素子集。作为错误隐藏问题的一般性假设,空域错误隐藏方法通常假设合成的边缘在穿越受损块时是准直线的,因此局部预测过程利用多方向插值来恢复受损边缘。多方向插值逐一地估计受损块在不同方向上的像素相关性,对邻域像素值进行加权叠加。每个当前受损块对应着互不重叠的延拓区域A和非局部区域B。正如图3所示,蓝色方框里的延拓区域A含有3×3个块:当前受损块C位于中心,其它8个块分属于以下三种类型之一:正确接收的无错块E、执行错误隐藏后的已隐藏块R、还未进行错误隐藏的后续受损块S。现有的空域错误隐藏方法表明,根据邻域梯度特征对受损块进行自适应插值,可以较好地保持图像的结构和边缘信息。所提AHF方法首先在延拓区域A的无错块E和已隐藏块R中统计邻域梯度特征,学习延拓区域的梯度分布;基于无错块E和已隐藏块R,分别累计8个方向上的梯度幅值。pi,j表示位于坐标(i,j)的像素,梯度检测可以表示如下:
Figure BDA0002327743160000061
上式(1)中,gx(i,j)和gy(i,j)分别表示在坐标(i,j)的x水平方向和y垂直方向的梯度分量。现有的边缘检测主要采用Sobel或Canny算子。一般而言,像素之间距离越远,影响越小。对于各向同性梯度检测器,掩模位置的加权系数与到中心像素的距离成反比,这种特性通常被称为“各向同性”。各向同性梯度检测器含有两个3×3像素的梯度掩模算子:
Figure BDA0002327743160000062
Figure BDA0002327743160000063
图4的示例说明了如何利用各向同性梯度检测器来计算像素pi,j的水平梯度分量gx(i,j)和垂直梯度分量gy(i,j),其中,梯度掩模算子用于分析延拓区域的水平或垂直梯度分布。各个邻域像素对中心像素的影响效应并不相同,所以不同的掩模位置有着不同的加权系数。在获取中心像素pi,j的梯度分量gx(i,j)和gy(i,j)之后,坐标(i,j)处的梯度幅值可通过如下公式推导:
Figure BDA0002327743160000064
Figure BDA0002327743160000065
表示在像素坐标(i,j)处的梯度幅值,对应的梯度角度表示为:
θi,j=tan-1(gy(i,j)/gx(i,j)) (3)
研究表明,超过8个预测方向已难以提升错误隐藏的恢复质量。因此,梯度角度θi,j被归入到8个方向中的某一角度,每个方向的角度范围是成对的22.5°。在延拓区域的无错块E和已隐藏块R中,每个像素对应的梯度幅值和梯度角度分别通过式(2)和式(3)进行计算,并为8个预测方向累计梯度幅值。在获得延拓区域的梯度分布信息之后,局部预测过程将对当前受损块逐像素地执行多方向预测。
对于当前受损块中的不同像素,它们的填充先后次序会影响最终的恢复质量,因为已经隐藏过的像素可能导致错误扩散。当前许多恢复质量较好的错误隐藏方法采用了迭代逼近机制,然而每个像素的迭代重构是非常耗时的,迭代循环的次数往往超过100次。所提AHF方法预测每个丢失像素仅仅一次,这就要求更为精细的非迭代填充策略。在大多数情况下,正确接收的像素和已经完成错误隐藏的像素有着相似的利用价值。像素pi,j的本体可用度αi,j为:
Figure BDA0002327743160000071
如果某个像素已经被正确接收到,它的本体可用度被设置为1。对于一个丢失像素,它的本体可用度被初始化为0;在进行错误隐藏之后,它的本体可用度被设置为1。一般而言,一个丢失像素的恢复质量会随着它的十六邻域像素中可用像素的数量增加而提高。像素pi,j的邻域可用度βi,j被定义为在它的十六邻域像素Ui,j中各像素的本体可用度之和。
Figure BDA0002327743160000072
在AHF方法中,一个素组是若干像素的组合,它是收缩填充次序的基本单位。光栅扫描导致图像错误大致地从左上像素向右下像素进行扩散。图5给出了先验填充准则的示意图,每个方框内的数字表示一个素组内各像素的填充次序,即从1到8依次执行多方向预测。若当前受损块的像素均未进行错误隐藏,则具有最高邻域可用度的所有像素形成第1素组,按先验填充准则执行逐像素的错误隐藏。随后在剩下的未隐藏像素中,具有最高邻域可用度的所有像素形成第2素组,这些像素同样按先验填充准则执行错误隐藏。以此类推,逐一执行第3、第4……素组的错误隐藏。m表示素组序号,n表示同一素组中的像素序号。在完成第m素组的填充后,xm,n表示当前受损块中第m素组的第n个像素(m≥1,n≥1),第m素组的所有像素均具有相等的邻域可用度。m越大表示该素组越晚被填充,n越大表示该像素在同一素组中越晚被填充。在当前受损块内,位于外层的素组由于有着较高的邻域可用度,通常具有更高的优先级,因此一组接一组的素组重构呈现出从外层素组到内层素组的大致趋势,同一素组的丢失像素按先验填充准则逐个进行恢复,这种恢复次序被称为“收缩填充次序”。
延拓区域的像素相关性通常被建模为一个条件随机过程,空域错误隐藏可以采用最大后验准则来估计当前受损块的像素。对于当前受损块的延拓区域A,AHF方法利用无错块E和已隐藏块R的邻域梯度特征统计,对多方向预测的加权系数进行局部自适应的调整。如图6所示,AHF方法为每个丢失像素提供了一个基本隐藏单元,该单元由一个丢失像素周围的十六邻域像素构成,存在8个等间隔角度的预测方向,基本隐藏单元8个方向上的可用像素用于估计当前丢失像素。在恢复当前丢失像素时,可用像素的加权系数正比于当前丢失像素与该可用像素所在方向上的梯度幅值,当存在多个预测方向时,多方向预测按照各方向上的梯度比例进行联合加权,使隐藏区域具有与延拓区域类似的几何结构特征。
梯度检测获取了当前受损块延拓区域的梯度分布,丢失像素与邻域像素之间存在8个主要的预测方向。基于一个基本隐藏单元,每一丢失像素利用在8个方向的可用像素及其权重进行最大后验预测。Lm,n表示在丢失像素xm,n的基本隐藏单元中可用像素的集合,
Figure BDA0002327743160000081
表示在丢失像素xm,n与它的可用像素pl所在方向上的梯度幅值,AHF方法通过多方向邻域像素的加权叠加来恢复丢失像素:
Figure BDA0002327743160000082
式(6)中,δl是一个正比于梯度幅值
Figure BDA0002327743160000083
的加权系数。在Lm,n的所有像素中,xm , n的主预测像素pm,n是指具有最大
Figure BDA0002327743160000084
值的像素。局部预测过程通过基本隐藏单元的可用像素来预测丢失像素。在执行多方向预测时,若式(6)的所有δl·pl项都等于零,则采用相邻块中与之最近的可用像素直接进行估计。填充次序与丢失模式相关,收缩填充次序能够避免严重的块效应,在受损边缘之间生成较为平滑的过渡效果。
对于当前受损块,所提AHF方法根据邻域可用度依次自适应地选出第1、第2、…、第m素组。丢失像素xm,n通过式(6)进行预测填充,若xm,n的主预测像素pm,n是正确接收的,那么xm,n的溯源像素qm,n就是pm,n;否则,pm,n是已隐藏的像素,它对应的主预测像素是zm,n;若像素zm,n是正确接收的,则xm,n的溯源像素qm,n就是zm,n;否则,继续以此类推,直到新的主预测像素已是当前受损块外围的像素,该像素就是qm,n。第m素组的所有像素构成素组向量X(m)={xm,1,…xm,n,…},(n≥1)。素组向量X(m)的所有溯源像素构成溯源向量,即X(m)对应着一个同维的溯源向量Q(m)={qm,1,…,qm,n,…}。在完成当前素组的局部预测后,第m素组的预测相关性定义如下:
Figure BDA0002327743160000085
在同一受损块中,随着m的增大,局部的预测相关性减弱,γm通常会逐渐降低。一般γm小于T=0.5,表示相关性已经很弱,多方向预测的后续恢复容易陷入图像模糊。AHF方法执行完第m素组的局部预测,立即计算预测相关性γm,若γm小于相关阈值T,剩余的未隐藏像素将切换到非局部片匹配过程:此时,未隐藏像素组成的像素区域位于当前受损块的中部,当前片是指包围未隐藏像素的最小方阵,通常是在最外围的未隐藏像素上再加上一圈像素,且当前片的最大尺寸受限于块尺寸。图7给出了对尺寸为8×8像素的当前受损块进行非局部片匹配的一个例子,图中黑色部分表示未隐藏像素,当前片的尺寸是7×7像素,由图中黑色像素与斜线像素构成。片匹配需要在一定的非局部区域B中搜索与当前片具有最小均方误差的相似片,然后利用相似片对当前片中同样位置的未隐藏像素进行填充。

Claims (1)

1.一种面向通用空域错误隐藏的自适应混合填充方法,其特征在于,整幅图像按照光栅扫描顺序逐块执行错误隐藏,包括以下步骤:
步骤1、当前受损块C对应着互不重叠的延拓区域A和非局部区域B,延拓区域A含有3×3个块,当前受损块C是位于延拓区域A中心的块,延拓区域A的其它块分别属于正确接收的无错块E、执行错误隐藏后的已隐藏块R或还未进行错误隐藏的后续受损块S,通过各向同性梯度检测器在延拓区域A的无错块E和已隐藏块R中统计邻域梯度特征;
统计邻域梯度特征时,逐一计算无错块E和已隐藏块R中每个像素对应的梯度幅值和梯度角度,分别累计8个方向的梯度幅值,针对位于坐标(i,j)的像素pi,j,梯度检测表示为:
Figure FDA0003149127100000011
式中gx(i,j)和gy(i,j)分别表示坐标(i,j)在x水平方向和y垂直方向的梯度分量;各向同性梯度检测器含有两个3×3像素的梯度掩模算子:
Figure FDA0003149127100000012
Figure FDA0003149127100000013
在获取中心像素pi,j的梯度分量gx(i,j)和gy(i,j)后,像素坐标(i,j)处的梯度幅值
Figure FDA0003149127100000014
对应的梯度角度θi,j=tan-1(gy(i,j)/gx(i,j)),梯度角度θi,j被归入到8个方向中的某一个,每个方向的角度范围是成对的22.5°;
步骤2、根据收缩填充次序执行局部预测过程,从外层素组到内层素组逐一地恢复受损块的各个素组,同时计算当前素组的预测相关性,其中,一个素组是当前受损块C中一些像素的组合,根据收缩填充次序,若当前受损块C的像素均未进行错误隐藏,则具有最高邻域可用度的所有像素形成第1素组,按先验填充准则执行逐像素的错误隐藏;随后在完成第m-1个素组的错误隐藏后,在剩下的未隐藏像素中,具有最高邻域可用度的所有像素形成第m素组,这些像素按先验填充准则执行错误隐藏,m=2,3,...,M,M为素组总数,第1素组位于最外层,第M素组位于内层;设xm,n表示当前受损块C中第m素组的第n个像素,第m素组的所有像素均具有相等的邻域可用度,m表示素组序号,n表示同一素组中的像素序号,m越大表示该素组越晚被填充,n越大表示该像素在同一素组中越晚被填充;xm,n的邻域可用度是在xm,n的十六邻域像素中各像素的本体可用度之和,若像素被正确接收或已隐藏,该像素的本体可用度等于1,否则,该像素的本体可用度等于0;
局部预测过程将对当前受损块C的像素逐一执行多方向预测,当前丢失像素对应着一个基本隐藏单元,该基本隐藏单元由一个丢失像素周围的十六邻域像素构成,存在8个等间隔角度的预测方向,基本隐藏单元8个方向上的可用像素用于估计当前丢失像素,设Lm,n表示在丢失像素xm,n的基本隐藏单元中可用像素的集合,
Figure FDA0003149127100000021
表示在丢失像素xm,n与它的可用像素pl所在方向上的梯度幅值,xm,n的主预测像素pm,n是指具有最大
Figure FDA0003149127100000022
值的像素,则局部预测过程通过邻域像素的加权叠加来恢复丢失像素
Figure FDA0003149127100000023
式中,δl是一个正比于梯度幅值
Figure FDA0003149127100000024
的加权系数,若所有δl·pl项都等于零,则采用相邻块中与之最近的可用像素直接进行估计;
步骤3、若预测相关性够低,转而执行步骤4;否则,转到步骤2,直到当前受损块C的所有像素均被隐藏;
丢失像素xm,n进行预测填充,若xm,n的主预测像素pm,n是正确接收的,那么xm,n的溯源像素qm,n就是pm,n;否则,pm,n是已隐藏的像素,它对应的主预测像素是zm,n;若像素zm,n是正确接收的,则xm,n的溯源像素qm,n就是zm,n;否则,继续以此类推,直到新的主预测像素已是当前受损块C外围的像素,该像素就是最终的qm,n;第m素组的所有像素构成素组向量X(m)={xm ,1,...xm,n,...},素组向量X(m)的所有溯源像素构成溯源向量,即X(m)对应着一个同维的溯源向量Q(m)={qm,1,...,qm,n,...},在完成当前素组的局部预测后,计算第m素组的预测相关性
Figure FDA0003149127100000025
执行完第m素组的局部预测,立即计算预测相关性γm,若γm小于相关阈值T,剩余的未隐藏像素将切换到非局部片匹配过程;否则,继续执行局部预测过程;
步骤4、执行非局部片匹配过程,在非局部区域B中利用相似片对同样位置的未隐藏像素进行填充,从而完成当前受损块C的恢复,其中,未隐藏像素组成的像素区域位于当前受损块C的中部,当前片是指包围未隐藏像素的最小方阵;
未隐藏像素组成的像素区域位于当前受损块C的中部,当前片是指包围未隐藏像素的最小方阵,是在最外围的未隐藏像素上再加上一圈像素,且当前片的最大尺寸受限于块尺寸,所述非局部片匹配过程是在对应的非局部区域B中搜索与当前片具有最小均方误差的相似片,然后利用相似片对当前片中同样位置的未隐藏像素进行填充。
CN201911323406.2A 2019-12-20 2019-12-20 一种面向通用空域错误隐藏的自适应混合填充方法 Active CN111182313B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911323406.2A CN111182313B (zh) 2019-12-20 2019-12-20 一种面向通用空域错误隐藏的自适应混合填充方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911323406.2A CN111182313B (zh) 2019-12-20 2019-12-20 一种面向通用空域错误隐藏的自适应混合填充方法

Publications (2)

Publication Number Publication Date
CN111182313A CN111182313A (zh) 2020-05-19
CN111182313B true CN111182313B (zh) 2021-11-02

Family

ID=70650242

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911323406.2A Active CN111182313B (zh) 2019-12-20 2019-12-20 一种面向通用空域错误隐藏的自适应混合填充方法

Country Status (1)

Country Link
CN (1) CN111182313B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101931820A (zh) * 2009-06-26 2010-12-29 宏碁股份有限公司 空间性错误隐藏方法
CN103124356A (zh) * 2013-01-17 2013-05-29 浙江工业大学 基于方向信息的自适应空域差错掩盖方法
CN107241609A (zh) * 2017-07-21 2017-10-10 东华大学 基于梯度特征统计与非迭代收缩填充的空域错误隐藏方法
US9848209B2 (en) * 2008-04-02 2017-12-19 Microsoft Technology Licensing, Llc Adaptive error detection for MPEG-2 error concealment

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE60220047T2 (de) * 2001-05-29 2008-01-10 Koninklijke Philips Electronics N.V. Verfahren und einrichtung zum verbergen von fehlern
US7916796B2 (en) * 2005-10-19 2011-03-29 Freescale Semiconductor, Inc. Region clustering based error concealment for video data
CN103237226B (zh) * 2013-04-07 2016-08-03 宁波大学 一种立体视频宏块丢失错误隐藏方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9848209B2 (en) * 2008-04-02 2017-12-19 Microsoft Technology Licensing, Llc Adaptive error detection for MPEG-2 error concealment
CN101931820A (zh) * 2009-06-26 2010-12-29 宏碁股份有限公司 空间性错误隐藏方法
CN103124356A (zh) * 2013-01-17 2013-05-29 浙江工业大学 基于方向信息的自适应空域差错掩盖方法
CN107241609A (zh) * 2017-07-21 2017-10-10 东华大学 基于梯度特征统计与非迭代收缩填充的空域错误隐藏方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
Feature-Learning Shinkage Prediction for Spatial Error Concealment;hao liu;《COMPUTER ENGINEERING AND COMPUTER SCIENCE》;20170720;全文 *
Spatial Error Concealment With;Jing Liu;《IEEE》;20150331;全文 *
基于迭代自适应终止的马尔科夫错误隐藏算法;王冰,刘浩,李康达,孙晓帆,张鑫生;《计算机工程》;20180930;全文 *
立体图像和视频的自适应错误隐藏算法研究;张一章;《中国优秀硕士论文库》;20190215;全文 *

Also Published As

Publication number Publication date
CN111182313A (zh) 2020-05-19

Similar Documents

Publication Publication Date Title
Wang et al. Best neighborhood matching: An information loss restoration technique for block-based image coding systems
US8320470B2 (en) Method for spatial error concealment
US7860167B2 (en) Apparatus and method for adaptive 3D artifact reducing for encoded image signal
US7120308B2 (en) Iterated de-noising for image recovery
JP5490404B2 (ja) 画像復号装置
CN104935938A (zh) 一种混合视频编码标准中帧间预测方法
CN104504652A (zh) 一种快速有效保留边缘及方向特征的图像去噪方法
KR101418116B1 (ko) 프레임 보간 장치 및 그를 포함한 프레임 속도 상향 변환장치
CN111462019A (zh) 基于深度神经网络参数估计的图像去模糊方法及系统
KR20110108918A (ko) 부호화된 영상의 확대비 및 노이즈 강도 추정장치 및 방법
CN108257098A (zh) 基于最大后验概率译码和三维块匹配滤波的视频去噪方法
US8144775B2 (en) Method and device for generating candidate motion vectors from selected spatial and temporal motion vectors
CN113657252A (zh) 基于编码解码器的高效sar图像船舶目标检测方法
JP3669833B2 (ja) 2進画像の補間方法
Ye et al. Content based error detection and concealment for image transmission over wireless channel
CN111182313B (zh) 一种面向通用空域错误隐藏的自适应混合填充方法
CN104125470B (zh) 一种视频数据传输方法
US7260269B2 (en) Image recovery using thresholding and direct linear solvers
CN112837238A (zh) 图像处理方法及装置
CN107993196B (zh) 基于预测校验的图像插值方法及系统
Ng et al. A new fast motion estimation algorithm based on search window sub-sampling and object boundary pixel block matching
CN111510719B (zh) 一种视频的分布式压缩感知编解码方法
CN109377463B (zh) 一种提高小波去噪效果的图像预处理方法
JP4065287B2 (ja) 画像データのノイズ除去方法及びその装置
CN115086665A (zh) 误码掩盖方法、装置、系统、存储介质和计算机设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant