CN1248487C - 根据编码信息提供效用度量进行视频增强的装置和方法 - Google Patents

根据编码信息提供效用度量进行视频增强的装置和方法 Download PDF

Info

Publication number
CN1248487C
CN1248487C CNB018062849A CN01806284A CN1248487C CN 1248487 C CN1248487 C CN 1248487C CN B018062849 A CNB018062849 A CN B018062849A CN 01806284 A CN01806284 A CN 01806284A CN 1248487 C CN1248487 C CN 1248487C
Authority
CN
China
Prior art keywords
digital video
pixel
coding
effectiveness
effectiveness tolerance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CNB018062849A
Other languages
English (en)
Other versions
CN1416640A (zh
Inventor
L·波罗茨基
J·扬森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Funai Electric Co Ltd
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of CN1416640A publication Critical patent/CN1416640A/zh
Application granted granted Critical
Publication of CN1248487C publication Critical patent/CN1248487C/zh
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/205Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic
    • H04N5/208Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic for compensating for attenuation of high frequency components, e.g. crispening, aperture distortion correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/527Global motion vector estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Picture Signal Circuits (AREA)

Abstract

本发明揭示了一种用编码信息提高数字视频信号的质量的装置和方法,可以提高先前编码或经代码转换的数字视频图像的清晰度而不会增大编码不自然现象。本发明可以与在多媒体设备内的空间域清晰度增强算法配合使用。这种装置(135)包括一个标出可以用于表示一个图像序列的经编码的数字视频信号而不会增大编码不自然现象的图像清晰度增强量的极限的效用度量产生器(215)。效用度量产生器将效用度量用于一个清晰度增强算法。效用度量和清晰度增强算法是独立的,因此效用度量可以用于各种视频信号增强算法。

Description

根据编码信息提供效用度量 进行视频增强的装置和方法
技术领域
本发明旨在提供一种用编码信息提高数字视频信号的质量的装置和方法。本发明的装置和方法提高了经编码或代码转换的数字视频的清晰度而不会增大编码不自然现象。本发明可以与在多媒体设备内的空间域清晰度增强算法结合使用。
背景技术
本专利申请引用了2001年1月10日递交的临时专利申请No.60/260,843,并要求享受该临时专利申请的优先权和权益。
本专利申请与Boroczky等人2001年10月12日递交的也是转让给本发明的受让方的共同未决美国专利申请No.09/976340“编码视频清晰度增强的方法和设备”(“Method and Apparatus for SharpnessEnhancement for Coded Video”)有关。该相关专利申请所公开的内容在此通过提及结合到本发明中,就同对其进行全部引述一样。
诸如机顶盒、高档电视机、数字电视机、个人电视机、存储产品、个人数字助理(PDAs)、无线互联网设备之类的高质量多媒体设备的开发导致产生各种体系结构,为这些设备更为开放了新的特色功能。这些新产品和它们显示任何格式的视频数据的能力的开发已经导致对于视频处理和视频增强算法的新的要求和机遇。这些设备中大多数接收和/或存储MPEG-2格式的视频信号。将来,这些设备中有许多将也可以接收和/或存储MPEG-4格式的视频信号。这些MPEG源的图像质量可以是很不同的,从很好的到非常差的。
下一代存储设备,诸如基于蓝激光的数字视频刻录机之类,在某种程度上将具有高清晰度(HD)性能。数字视频刻录机(DVR)是一种可以有益地应用视频图像增强的新方法的设备的一个很好的例子。一个HD程序通常以每秒2千万个比特(20Mb/s)播放和按照MPEG-2视频标准编码。一个数字视频刻录机的存储容量在20GB至25GB范围内。这表示每个视盘的HD视频记录时间为两小时左右。
为了增加每个视盘的记录时间,可以定义一种长放(long play)模式。例如,在一种长放(LP)模式中,每秒2千万个比特(20Mb/s)的播放比特率可以以每秒1千万个比特(10Mb/s)存储比特率记录。这将提供每个视盘有4小时左右的记录时间。在一种扩展的长放(LP)模式中,每秒2千万个比特(20Mb/s)的播放比特率可以以每秒5百万个比特(5Mb/s)存储比特率记录。这将提供每个视盘有8小时左右的记录时间。
将一个高比特率的比特流变换为一个较低比特率的比特流的过程称为“比特率代码转换”(“bit rate transcoding”)。一种将一个高比特率的比特流代码转换成一个较低比特率的比特流的方法包括用一个MPEG-2解码器对高速率比特流解码后再以较低比特率对所得到的比特流编码。另一种对一个高比特率的比特流进行代码转换的方法是直接将这个比特流代码转换成一个较低比特率而不用完全解码后再对视频信号重新编码。这种方法称为直接比特率代码转换(DBT)。
MPEG-2代码转换的过程会由于信息损失而降低视频信号序列的图像质量(例如清晰度)。然而,最好是这样的图像质量牺牲不太大。这对长放(LP)模式来说特别重要。因此,对经代码转换的视频信号的后处理在改善能感觉的图像质量中起着重要的作用。
目前的清晰度增强算法大多数是对于象NTSC、PAL和SECAM那样的模拟视频信号传输标准开发和最佳化的。传统上,图像增强算法或者降低一个图像内的一些有害情况(例如,降低噪声)或者改善一个图像的一些有用特性(例如,增强清晰度)。对于新近出现的数字存储器设备、数字电视机、机顶盒和其他类似设备,可以对经MPEG编码或代码转换的视频信号执行这些传统的清晰度增强算法,但不是最佳的,因为这些信源的特性是不同的。在一个存储系统的自治视频处理链内,可以从MPEG流中得出可以确定编码源的质量的信息。这信息可以用来提高视频信号增强算法的性能。
由于图像质量还剩下一个对于高档视频产品的区别因子,因此新的执行图像增强的方法,特别是可自适应地配合这些数字信源使用的方法,将是有益的。在C.J.Tsai、P.Karunaratne、N.P.Galatsanos和A.K.Katsaggelos的论文“一种压缩视频增强算法”(“A CompressedVideo Enhancement Algorithm”,Proc.of IEEE,ICIP′99,Kobe,Japan,Oct.25-28,1999)中,作者提出了一种增强以低比特率编码的视频序列的迭代算法。对于MPEG源来说,图像质量的降低主要是由量化操作引起的。因此,作者所用的迭代梯度投影算法在它的代价函数中用了诸如量化步长、宏块类型和前向运动向量之类的编码信息。这种算法表明对于低比特率的视频信号是很有前途的。然而,它的主要缺点是计算量很大。
在B.Martins和S.Forchammer的论文“MPEG-2编码的视频信号的改进解码”(“Improved Decoding of MPEG-2 Coded Video”,Proc.of IBC 2000,pp.109-115,Amsterdam,The Netherlands,September 7-12,2000)中,作者揭示了一种改进对MPEG-2编码的视频信号的解码的新构思。具体地说,提出了一种将解隔行扫描和格式转换统一起来的方法,用于解码过程。这种技术导致图像质量大大高于用普通解码所得到的。然而,迄今为止,它的计算量使它不能在消费应用中实现。
这两篇论文揭示了利用MPEG编码信息的视频信号增强算法。然而,这两篇论文除了不切实际之外还将增强与代价函数结合在一起。代价函数确定在一个图像中哪些位置可以进行增强和增强到什么程度。这种代价和增强操作结合在一起的问题是只有一种算法可以与代价函数一起使用。
因此,所希望的是有一种增强视频信号装置和方法,可以有效地增强经编码和代码转换的视频信号源。
发明内容
本发明总的来说是提供一种用编码信息提高数字视频信号的质量的装置和方法。本发明包括一个计算每个像素各可以增强到什么程度而不会增大编码不自然现象的效用度量(usefulness metric)。
这种装置包括一个能确定可以用于表示一个图像序列的经编码的数字视频信号而不会增大编码不自然现象的图像清晰度增强量的极限的效用度量产生器。效用度量产生器将效用度量用于一个清晰度增强算法。效用度量和清晰度增强算法是独立的,因此效用度量可以用于各种视频信号增强算法。
本发明的主要目的是提供一种用效用度量调整对数字视频信号进行的视频信号增强算法的装置和方法。
本发明的另一个目的是提供一种与增强算法独立的效用度量,使得各种不同的视频信号增强算法都可以结合这种效用度量使用。
本发明的又一个目的是提供一种装置和方法,其中可以调整效用度量适应装置的限制,以保证在装置的性能与复杂性之间得到最佳折衷。
本发明的又一个目的是提供一种与经编码和代码转换的视频信号源最佳执行数字视频信号增强的装置和方法。
以上相当概括地勾画了本发明的特征和技术效益,使熟悉该技术领域的人员可以更好地理解以下对本发明的详细说明。本发明的其他特征和优点将在下面予以说明,它们形成了本发明的各从属权利要求项。熟悉该技术领域的人员可以理解,他们可以很容易以所揭示的构思和具体实施例为基础进行修改或者设计出其他的结构,实现本发明的同样目的。熟悉该技术领域的人员也可以认识到,这样的等效结构并不背离本发明的精神和范围。
在进行本发明的详细说明前,明确一下本专利文件所用的一些词或短语的定义是有益的:所谓“包括”及其派生词意味着不是限制性的含有;所谓“或”是包括在内的,意味着和/或;词组“与…关联”和“与之关联”及其派生词可以意味着包括、包括在…内、与…互联、含有、包含在…内、与…连接、可与…通信、配合、交叉、并置、贴近于、归属于、具有、具有…属性之类;所谓“控制器”、“处理器”或“装置”意味着任何设备、系统或它的控制至少一种操作使一个设备可以用硬件、固件或软件或者它们的某种组合实现的部分。应指出的是,与任何具体的控制器关联的功能可以是集中的,也可以是分布的,无论是本地还是远地。特别是,一个控制器可以包括一个或多个数据处理器和关联的输入输出设备和存储器,执行一个或多个应用程序和/或一个操作系统程序。本专利文件中提供了对一些词的定义。熟悉该技术领域的人员可以理解,在许多(即使不是大部分)情况下这样的定义适合于先前使用以及将来使用这样定义的词。
附图说明
为了更完全地理解本发明及其优点,下面将结合附图进行说明,在这些附图中同样的标号所标的是同样的对象,其中:
图1为包括本发明的装置和方法的典型数字电视机的方框图;
图2为例示包括本发明的效用度量产生器和编码增益控制块的自适应峰化单元的一个优选实施例的方框图;
图3为例示表示本发明的效用度量与量化参数的函数关系的示意图;
图4为例示包括本发明的效用度量产生器和编码增益控制块的自适应峰化单元的另一个优选实施例的方框图;以及
图5为例示本发明的操作方法的优选实施例的流程图。
具体实施方式
为了说明本发明的装置和方法的原理,下面所说明的图1至5和在本专利文件中提出的各实施例都是例示性的,不应该理解为对本发明的范围有所限制。本发明的装置和方法将描述为一种在一个数字电视机内增强视频信号的装置和方法。重要的是,应认识到本发明的装置和方法并不局限于数字电视机。熟悉该技术领域的人员很容易地理解,本发明的原理也可以成功地用于任何类型的数字视频系统,包括(但不限于)电视接收机、机顶盒、存储设备、计算机视频显示系统和任何类型的应用或处理数字视频信号的电子设备。所谓“数字视频系统”是指这些类型的设备。在下面的说明中,用数字电视机作为数字视频系统的例子进行说明。
图1为一个应用本发明的装置和方法的数字电视机100的方框图。数字电视机100包括电视接收机110和显示单元115。显示单元115可以是一个阴极射线管或平板显示器或者任何类型的显示视频图像的设备。电视接收机110包括接收电视信号的天线105。天线105接至高频头120。高频头120接至中频(IF)处理器125。IF处理器125接至MPEG解码器130。
如下面要充分说明的那样,本发明计算出提高视频信号质量的增强效用度量(UME)。MPEG解码器130的输出端接至后处理电路135。后处理电路135包括自适应峰化单元140,它包括本发明的效用度量(UME)。自适应峰化单元140可以配置在后处理电路135内的一个适当位置。后处理电路135的输出送至显示单元115。
自适应峰化单元140对它从MPEG解码器130接收到的视频信号进行处理。自适应峰化单元140用效用度量(UME)产生一个供自适应峰化处理用的编码增益。这个自适应峰化处理是例示性的,用来说明可以怎样使用本发明的效用度量(UME)。当然,本发明的装置和方法并不局限于自适应峰化处理。效用度量(UME)可以与多种类型的视频信号增强算法配合使用。
自适应峰化单元140以考虑视频信号内的编码信息的方式处理视频信号。自适应峰化单元140的输出是自适应峰化单元140从MPEG解码器130接收到的视频信号得到增强的亮度信号。由自适应峰化单元140确定的亮度信号提供了比现有技术的自适应峰化单元所提供的更为精确和视觉上更为明晰的视频图像。自适应峰化单元140将增强了的亮度信号传送给后处理电路135内的其他电路。后处理电路135能应用增强了的亮度信号来提高视频信号的质量。
后处理电路135能进行几种不同类型的视频信号处理。一些视频信号处理应用例如包括:(a)噪声电平自适应降噪算法,(b)噪声电平自适应清晰度增强,(c)噪声电平自适应亮度-色度分离,(d)噪声电平自适应运动检测,(e)噪声电平自适应运动估计和补偿,(f)噪声电平自适应上变频,(g)噪声电平自适应特征增强,以及(h)噪声电平自适应基于对象的算法。
图2为例示按照本发明的一个优选实施例设计的具有自适应峰化单元140的装置和方法。图2例示了本发明的效用度量(UME)可以怎样用于清晰度增强的自适应峰化算法。自适应峰化算法旨在增大输入亮度信号210的暂态的幅度。自适应峰化算法不总是为“事前”经编码/代码转换的视频信号源提供最佳的视频信号质量。这主要是因为没有考虑到MPEG源的特性。
在本发明中,用一个效用度量产生器215产生效用度量(UME)。效用度量(UME)标为标号220。UME 220考虑了MPEG源的特性。原来的算法用UME 220进行扩展后,显著地提高了算法的性能。
自适应峰化算法的原理在现有技术中是众所周知的。自适应峰化算法的一个例子是用了四个控制块。如图2所示,这四个控制块分别为反差控制块225、动态范围控制块230、限幅防止控制块235和自适应核化控制块240。反差控制块225产生增益信号“g1”。动态范围控制块230产生增益信号“g2”。限幅防止控制块235产生增益信号“g3”。自适应核化控制块240产生增益信号“g4”。
这四个基于像素的控制块考虑了视频信号的诸如对比度、动态范围和噪声电平之类的具体局部特性。然而,这四个控制块没有考虑涉及编码性能的信息。
本发明的装置提供了一个编码增益控制块245。编码增益控制块245用效用度量(UME)220来确定允许的峰化量。编码增益控制块245产生增益信号“gcoding”。动态增益控制块250选择这五个增益信号(g1,g2,g3,g4,gcoding)中最小的,产生一个最终增益信号“g”。乘法电路255将最终增益信号“g”与经2D峰化滤波器260滤波的高通信号相乘。加法器265将来自乘法电路255的乘积加到一个由亮度输入信号210表示的像素的原来的亮度值上。这样,就产生了得到增强的亮度输出信号270。
UME 220计算(按逐个像素或区域)一个像素或区域可以增强到什么程度而不增大编码不自然现象。UME 220根据比特流内存在的MPEG编码信息得出。比特流内存在的编码信息可以在解码过程期间提取。选择需用于UME 220的MPEG信息远非是微不足道的。UME 220必须提供视频信号的时空特性或图像质量的指示。
在解码期间可以(1)根据宏块(MB)量或(2)根据基于块的量直接得到的MPEG信息的最细颗粒度。然而,对于空间(像素)域视频信号增强来说,必须为一个图像上的每个像素计算UME,以便保证有最高的图像质量。
从MPEG信息中可以方便地提取的一个参数是量化参数,因为它存在于经编码的每个宏块(MB)内。量化参数越大,量化越粗,因此量化误差就越大。量化误差大导致编码不自然现象,因此在一个具有大量化参数的宏块(MB)内必须更多的抑制像素的增强。
另一个有用的信息项是对一个宏块(MB)或一个块编码所用的比特数。所用的比特数可以与在一个具体帧内一个宏块(MB)或块所用的平均比特量相比较。然而,这个量也高度取决于场景内容、比特率、帧类型(诸如I(帧内)、P(预测)、B(双向预测)帧之类)、运动估计和运动补偿。
也可以考虑在一个块内存在的DCT系数的分布。还可以用运动矢量来得到有关需增强的视频信号的时间特性的信息。众所周知,为MPEG编码估计和使用的运动矢量不一定表示视频信号内的真实运动。然而,即使运动矢量不可靠,运动矢量也可以有助于识别静态区域和用这些静态区域改进帧间增强的时间上的一致性。
(对一个宏块(MB)或一个块的)量化参数和所用比特数这两个是在MPEG编码的速率控制计算中广泛使用的。量化参数和所用比特数通常用来计算编码复杂度。
UME例1
“编码复杂度”定义为量化参数与对一个宏块(MB)或一个块编码的所用比特数的乘积。编码复杂度complMB/block因此表示为以下关系式:
complMB/block(k,h)=mquant(k,h)*bitsMB/block(k,h)(1)其中,“mquant”为量化参数,而“bitsMB/block”为用来对宏块(k,h)或块(k,h)编码所用的DCT系数的比特数。基本的假设是一个宏块(MB)或一个块的复杂度相对一个帧的平均复杂度越高,在这个宏块(MB)或在这个块内具有编码不自然现象的概率越大。因此,对于具有比较高的编码复杂度的块的像素应该抑制增强。
因此,像素(i,j)的UME定义为
UME(I,j)=1-complpixel(i,j)/2*complAVE(2)其中,complpixei(i,j)为像素(i,j)的编码复杂度,而complAVE为一个帧的编码复杂度。的值可以估计为:
compl AVE = ( 1 / NB ) Σ NB coding _ co mpl block . . . ( 3 )
其中,NB为一个帧内的块数,而coding_complblock为一个块的编码复杂度。
在本发明中,complpixel(i,j)是通过双线性内插从宏块(MB)或块的复杂度映射估计出来的。诸如高阶内插之类的其他内插法也是可行的。
宏块(MB)/块的复杂度映射具有遗传的块结构。为了降低复杂度映射的这个特性(对于UME来说是不合需要的),对这映射进行了空间低通滤波。低通滤波所用的滤波核为:
LP compl _ map = 1 1 1 1 1 1 1 1 1 . . . ( 4 )
其他类型的低通滤波也是可行的。
在本发明的一个优选实施例中,UME(i,j)的值的范围可以从值“0”至值“1”。UME(i,j)的值为“0”意味着对于一个特定的像素不允许清晰度增强,而值为“1”意味着这像素可以自由地增强而不会有增大任何编码不自然现象的危险。
为了体现较强的比特率从属性,关系式(2)可以通过加上一个直接与量化参数有关的项予以扩展。这对于以低比特率编码的视频信号特别有益。
UME例2
在这个例子中,假设在UME计算中将只利用量化参数。由于较大的量化参数值通常编码不自然现象较大,UME应该与量化参数mquant呈逆向关系。UME对MB(k,h)的一个可能的函数由以下关系式给出:
Figure C0180628400131
其中,变量a、b、c和函数f可以由试验确定。图3例示了关系式(5)的UMEMB(k,h)函数。用关系式(5)计算每个宏块(MB)的UMEMB(k,h),因为在编码过程中一个宏块(MB)分配有一个量化参数。因此,可以通过对宏块(MB)级UME映射的内插得到一个帧的每个像素的UMEMB(k,h)。
MPEG-2视频压缩标准允许对P(预测)和B(双向预测)帧内的一些宏块(MB)和块编码,而没有数据。这种宏块称为“跳过”宏块。跳过宏块(MB)可以在解码过程中用参考帧和最近的编码和非跳过的宏块(MB)得到的编码信息重建。此外,对于经完全运动补偿的宏块,在比特流内没有DCT数据或者在一个宏块(MB)内有一些块不编码。
对于跳过或者不编码的宏块(MB)和块,编码比特流不含有计算UME必需的编码信息。为了弥补这个缺点,UME可以例如用以下两种方法之一予以估计。
第一种方法是用邻近的非跳过或编码的宏块(MB)来估计跳过或非编码的宏块(MB)或块的UME。在一个优选实施例中,用了一个3×3的估计窗口。这个估计窗口的中心是跳过或不编码的宏块(MB)。如果在估计窗口内所有的宏块(MB)都是跳过或不编码宏块,于是将这个跳过或不编码的宏块(MB)的复杂度取为这个帧的平均复杂度的二分之一。这种方法很为适用,如果一个帧有较少的跳过宏块(MB)的话。如果这个帧具有低的比特率编码或具有一些静态的场景,这种估计方法就太粗了。
第二种方法是为跳过或不编码的宏块(MB)指定与为上一个使用运动补偿的帧的相应宏块(MB)指定的相同的UME。
因为UME是考虑了编码特性计算出来的,因此UME只阻止增大诸如呈块和振铃之类的编码不自然现象。因此,防止或减小可能由于施加过分的增强而引起的不编码原像的不自然现象由清晰度增强算法的其他部分处理。
UME可以与任何峰化算法相结合。或者,也可以将UME用于任何空间域清晰度增强算法。也可以只用编码信息与自适应峰化算法配合。还可以用体现与场景内容有关的信息的编码信息与自适应峰化算法配合。
图4例示了这样一个实施例。在图4中已经省去了图1中的四个控制块225、230、235和240。只剩下编码增益块245。诸如边缘信息之类的场景内容信息并入编码增益计算。与场景内容有关的信息用来对由于在计算UME 220中所作的假设和所用的内插而引起的计算UME 220的不确定性进行补偿。
在图4所示的实施例中,像素(i,j)的编码增益按照以下关系式确定为两项之和:
gcoding(i.j)=UME(i,j)+gedge(i,j)               (6)
UME(i,j)项定义如上,可以按关系式(2)或关系式(5)计算。gedge(i,j)项基于与边缘有关的像素信息,自适应地根据边缘检测的输出计算。一种典型的计算gedge(i,j)的方法涉及假设:(1)p(i,j)为一个在空间位置(i,j)处的边缘像素,以及(2)p(i,j)处在边缘中心或者p(i,j)是最接近边缘中心的像素。于是,gedge(i,j)项可以计算为:
Figure C0180628400151
其中,值c由试验确定。
注意,如果在编码增益计算中利用与边缘有关的项,边缘检测应排除呈块不自然现象的块边界以及在以低比特率编码的图像序列中可能出现的振铃的虚假边缘。
任何给定像素的编码增益的帧到帧的突然改变可以导致时间上不一致的清晰度增强,这是不合乎需要的。这种改变还可以加剧诸如蚊式噪声之类的时间上可察觉的令人讨厌的不自然现象。
为了弥补这种影响,用上一帧的增益对编码增益进行时间滤波。时间滤波可以是一个简单的时间无限脉冲响应(IIR)滤波或运动校正滤波。一种不用运动补偿的可行的IIR滤波由以下关系式给出:
gaincoding(i,j,)=k*(i,j,t)+(1-k)*gaincoding(i,j,t-1)  (8)其中,t表示当前帧,而k表示IIR的滤波系数。
UME可以根据关系式(2)的编码复杂度计算。为了减少计算量和降低存储要求,不是对增益映射滤波,而是用一个无限脉冲响应(IIR)滤波器在时间上对基于宏块(MB)或块的复杂度映射滤波。这个处理表示为以下关系式:
complMB/block(r,s,t)=k*complMB/block(r,s,t)+
                          scal*(1-k)*complMB/block(r,s,t-1)  (9)
其中,(r,s)为一个宏块(MB)或块的空间坐标,t表示当前帧,k为无限脉冲响应(IIR)滤波系数,而“scal”为考虑不同帧类型中的复杂度的比例项。比例项“scal”计算为帧“t”与“t-1”的平均MB或块复杂度之比,为
scal = [ compl MB / block ( r , s , t ) ] AVERAGE [ compl MB / block ( r , s , t - 1 ) ] AVERAGE . . . ( 10 )
空间滤波器的输出由加法器265加到原来的亮度信号的输入信号210上,从而产生增强了的亮度输出信号270。
本发明还可以应用于诸如在具有高清晰度(HD)能力和允许长放(LP)模式的视频存储应用中会出现的高清晰度(HD)和标准清晰度(SD)序列。这种视频序列大部分被从播放的MPEG-2比特流代码转换到一个较低的存储比特率。对于这种应用的长放(LP)模式,在代码转换期间还可以进行格式改变。标准清晰度(SD)或高清晰度(HD)的视频序列经编码、解码后再按照本发明用清晰度增强算法进行处理,从而对于一个经编码或者代码转换的视频序列来说与不利用编码信息的那些算法相比可以提供更为优良的视频质量。
图5为例示本发明的方法的优选实施例的流程图。这种计算对一个帧(帧“t”)进行处理的编码增益的方法总标为标号500。首先,获取编码信息(步骤505)。然后,得出帧“t”的复杂度映射(步骤510)。再确定跳过或不编码的宏块(MB)(如果有的话)的复杂度估计(步骤515)。
步骤520是用一个滤波器核为关系式(4)的低通滤波器对复杂度映射进行滤波的步骤。步骤525是用关系式(9)、关系式(10)和上一帧(帧“t-1”)的复杂度映射对复杂度映射进行时间滤波的步骤。步骤550是获取上一帧(帧“t-1”)的复杂度映射的步骤。帧“t-1”的复杂度映射信息由步骤525使用。步骤530是对经步骤525时间滤波的信号进行双线性内插的步骤。然后,计算出每个像素的编码增益(步骤535)。
从帧“t”获取信息(步骤560),用来检测在帧“t”的图像内的边缘(步骤555)步骤555的边缘检测结果用于步骤535计算每个像素的编码增益。
在步骤535计算出每个像素的编码增益后,将效用度量(UME)用于自适应峰化处理(步骤540)。步骤540的UME自适应峰化处理还利用在步骤560从帧“t”得到的信息。将步骤540的UME自适应峰化处理的结果作为一个得到增强的帧“t”显示(步骤545)。
上述方法可以总结如下。这种方法假设对于时间“t”可得到宏块(MB)或块级的复杂度映射。然后执行对跳过或不编码的宏块(MB)或块的复杂度的估计。为了减少复杂度映射的呈块结构,用关系式(4)的滤波核进行低通滤波。然后,用关系式(9)、关系式(10)和上一帧的复杂度映射对复杂度映射进行时间滤波。通过双线性内插从宏块(MB)或块的复杂度映射估计出每个像素的复杂度的值。利用每个像素的复杂度值和边缘检测处理的结果,为每个像素计算出一个编码增益。将用UME的自适应峰化用于一个帧的每个像素,从而产生得到增强的帧“t”。
如果将这种算法用于隔行扫描视频序列,可以将其中一些计算修改成适应隔行扫描视频的特性。由于对于隔行扫描视频序列来说MPEG流可以具有以场或帧结构成的图像,因此要改变复杂度计算。在以场结构的图像中,块可以含有只是来自一个场的数据,每个块都是场DCT编码的。因此,对于以场结构的图像可以照样应用对于逐行扫描视频的复杂度计算。
然而,在以帧结构的图像来说,这些块可以是帧或场DCT编码的。在帧DCT的情况下,一个块包括来自两个场的数据。因此,只能估计对于一个8×8的块的“场复杂度”。可以用一个宏块(MB)中的两个块计算一个块的“场复杂度”。从这些考虑中可以看到,在隔行扫描视频中块的复杂度计算比宏块(MB)的复杂度计算更为直接。
虽然就一些以数字电视机为例的实施例对本发明作了详细说明,但本发明并不不局限于所说明的这些实施例和它们的变型。可以理解,熟悉该技术领域的人员可以在不背离本发明的构思和范围的情况下在本发明中以最广的形式进行各种改变、替换、修改、和调整。

Claims (10)

1.一种在一个数字视频系统中增强一个先前编码的数字视频信号的图像质量的装置(140),所述装置(140)包括:
一个配置在所述数字视频系统(100)内的效用度量产生器(215),其能够使用编码信息来产生效用度量(220),该效用度量被用来确定一个能用于所述先前编码的数字视频信号(210)而不增大编码不自然现象的视频信号增强量。
2.如在权利要求1中所提出的装置(140),其中:所述数字视频系统(100)包括至少一个能将一个清晰度增强算法用于所述先前编码的数字视频信号(210)的清晰度增强单元;所述装置(140)还包括一个能用所述效用度量(220)确定所述至少一个清晰度增强单元对所述先前编码数字视频信号(210)所用的清晰度增强的允许量的编码增益控制块(245)。
3.如在权利要求2中所提出的装置(140),其中:所述至少一个清晰度增强单元是一个自适应峰化单元(260)。
4.如在权利要求3中所提出的装置(140),其中:所述效用度量(220)逐像素地计算出一个像素可以增强到什么程度而不增大编码不自然现象。
5.如在权利要求4中所提出的装置(140),其中:一个像素的编码增益由以下关系式确定:
gcoding(i.j)=UME(i,j)+gedge(i,j)
其中i和j为像素的坐标,gcoding为像素的编码增益,UME为效用度量(220),而gedge基于从一个图像得出的与边缘有关的信息。
6.如在权利要求5中所提出的装置(140),其中:对于gedge(i,j)的值设置为:(1)对于一个在空间位置(i,j)处的边缘像素p(i,j)等于按试验确定的值c,(2)对于一个在空间位置(i-1,j)处的像素p(i-1,j)和对于一个在空间位置(i+1,j)处的像素p(i+1,j)等于c的二分之一,(3)对于一个在空间位置(i-2,j)处的像素p(i-2,j)和对于一个在空间位置(i+2,j)处的像素p(i+2,j)等于c的四分之一,以及(4)对于所有的其他像素等于零。
7.如在权利要求1中所提出的装置(140),其中:所述效用度量产生器(215)只用编码信息产生所述效用度量(220)。
8.如在权利要求1中所提出的装置(140),其中:所述效用度量产生器(215)用编码信息和与场景内容有关的信息产生所述效用度量(220)。
9.一种数字视频系统(100),所述数字视频系统(100)包括一个在所述数字视频系统(100)内提高先前编码的数字视频信号的图像质量的装置(140),所述装置(140)包括一个配置在所述数字视频系统(100)内的效用度量产生器(215),其能使用编码信息来产生效用度量(220),该效用度量(220)被用来确定一个可以用于所述先前编码的数字视频信号(210)而不增大编码不自然现象的视频图像增强量。
10.一种在一个数字视频系统(100)内提高先前编码的数字视频信号(210)的图像质量的方法,所述方法包括下列步骤:
使用编码信息、在所述数字视频系统(100)的一个效用度量产生器内产生效用度量(220);以及
用所述效用度量(220)确定可以用于所述先前编码的数字视频信号(210)而不增大不自然现象的视频图像增强量。
CNB018062849A 2001-01-10 2001-12-13 根据编码信息提供效用度量进行视频增强的装置和方法 Expired - Fee Related CN1248487C (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US26084301P 2001-01-10 2001-01-10
US60/260,843 2001-01-10
US09/976,329 US7161633B2 (en) 2001-01-10 2001-10-12 Apparatus and method for providing a usefulness metric based on coding information for video enhancement
US09/976,329 2001-10-12

Publications (2)

Publication Number Publication Date
CN1416640A CN1416640A (zh) 2003-05-07
CN1248487C true CN1248487C (zh) 2006-03-29

Family

ID=26948212

Family Applications (1)

Application Number Title Priority Date Filing Date
CNB018062849A Expired - Fee Related CN1248487C (zh) 2001-01-10 2001-12-13 根据编码信息提供效用度量进行视频增强的装置和方法

Country Status (8)

Country Link
US (1) US7161633B2 (zh)
EP (1) EP1352515B1 (zh)
JP (1) JP2004518337A (zh)
KR (1) KR20030005219A (zh)
CN (1) CN1248487C (zh)
AT (1) ATE336859T1 (zh)
DE (1) DE60122382T2 (zh)
WO (1) WO2002056582A1 (zh)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006507775A (ja) * 2002-11-25 2006-03-02 サーノフ・コーポレーション 基準なしで圧縮ビデオシーケンスの品質を測定する方法及び装置
KR20050085554A (ko) * 2002-12-10 2005-08-29 코닌클리케 필립스 일렉트로닉스 엔.브이. 코딩된 디지털 영상에 대한 해상도 또는 선명도 향상과아티팩트 감소의 결합
US20070139564A1 (en) * 2004-02-27 2007-06-21 Koninklijke Philips Electronics N.V. System and method for global indication of mpeg impairments in compressed digital video
US20070159556A1 (en) * 2004-03-25 2007-07-12 Koninklijke Philips Electronics N.V. Luminance transient improvemet using video encoding metric for digital video processing
JP2007531450A (ja) * 2004-03-29 2007-11-01 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ デジタルビデオ信号処理方法、デジタルビデオ信号処理システム
US20050273657A1 (en) * 2004-04-01 2005-12-08 Hiroshi Ichiki Information processing apparatus and method, and recording medium and program for controlling the same
CN100473111C (zh) * 2004-05-25 2009-03-25 皇家飞利浦电子股份有限公司 增强视频信号锐度的方法和系统
CN1293745C (zh) * 2004-09-13 2007-01-03 西安交通大学 数字化电视后处理技术的视频图像自适应细节增强方法
US7653257B2 (en) * 2005-07-19 2010-01-26 Intel Corporation Enhancing video sequence sharpness by adaptive peaking
TWI401943B (zh) * 2007-05-14 2013-07-11 Novatek Microelectronics Corp 用於一影像處理系統之影像處理方法及其相關影像處理裝置
US20110075730A1 (en) * 2008-06-25 2011-03-31 Telefonaktiebolaget L M Ericsson (Publ) Row Evaluation Rate Control
US9113164B1 (en) * 2012-05-15 2015-08-18 Google Inc. Constant bit rate control using implicit quantization values
TW201438458A (zh) * 2013-03-22 2014-10-01 Novatek Microelectronics Corp 影像處理電路及其環狀假影消除方法
US11019349B2 (en) * 2017-01-20 2021-05-25 Snap Inc. Content-based client side video transcoding

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5031042A (en) * 1990-07-09 1991-07-09 Zenith Electronics Corporation Noise coring and peaking circuit
US5161015A (en) * 1990-12-31 1992-11-03 Zenith Electronics Corporation System for peaking a video signal with a control signal representative of the perceptual nature of blocks of video pixels
US5491514A (en) * 1993-01-28 1996-02-13 Matsushita Electric Industrial Co., Ltd. Coding apparatus, decoding apparatus, coding-decoding apparatus for video signals, and optical disks conforming thereto
PT932398E (pt) * 1996-06-28 2006-09-29 Ortho Mcneil Pharm Inc Utilizacao do topiramento ou dos seus derivados para a producao de um medicamento para o tratamento de disturbios bipolares maniaco- depressivos
DE19626985C1 (de) * 1996-07-04 1998-01-02 Siemens Ag Verfahren und Anordnung zur Reduktion von Codierungsartefakten von blockbasierten Bildcodierungsverfahren und objektbasierten Bildcodierungsverfahren
US6037986A (en) * 1996-07-16 2000-03-14 Divicom Inc. Video preprocessing method and apparatus with selective filtering based on motion detection
US6038256A (en) * 1996-12-31 2000-03-14 C-Cube Microsystems Inc. Statistical multiplexed video encoding using pre-encoding a priori statistics and a priori and a posteriori statistics
US6137904A (en) * 1997-04-04 2000-10-24 Sarnoff Corporation Method and apparatus for assessing the visibility of differences between two signal sequences
JP4186242B2 (ja) * 1997-12-26 2008-11-26 ソニー株式会社 画像信号処理装置及び画像信号処理方法
US6285801B1 (en) * 1998-05-29 2001-09-04 Stmicroelectronics, Inc. Non-linear adaptive image filter for filtering noise such as blocking artifacts
US6466624B1 (en) * 1998-10-28 2002-10-15 Pixonics, Llc Video decoder with bit stream based enhancements
JP2002535896A (ja) * 1999-01-15 2002-10-22 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 鮮明度を向上させる方法および装置
EP1129579A1 (en) * 1999-09-14 2001-09-05 Koninklijke Philips Electronics N.V. Method and device for identifying block artifacts in digital video pictures
EP1157543A1 (en) 1999-12-17 2001-11-28 Koninklijke Philips Electronics N.V. Signal peaking
US6810082B1 (en) * 1999-12-17 2004-10-26 Koninklijke Philips Electronics N.V. Chroma based adaptive signal peaking
US6636645B1 (en) * 2000-06-29 2003-10-21 Eastman Kodak Company Image processing method for reducing noise and blocking artifact in a digital image
US6950561B2 (en) * 2001-01-10 2005-09-27 Koninklijke Philips Electronics N.V. Method and system for sharpness enhancement for coded video

Also Published As

Publication number Publication date
DE60122382T2 (de) 2007-08-02
DE60122382D1 (de) 2006-09-28
EP1352515B1 (en) 2006-08-16
US7161633B2 (en) 2007-01-09
EP1352515A1 (en) 2003-10-15
KR20030005219A (ko) 2003-01-17
WO2002056582A1 (en) 2002-07-18
US20020131512A1 (en) 2002-09-19
CN1416640A (zh) 2003-05-07
ATE336859T1 (de) 2006-09-15
JP2004518337A (ja) 2004-06-17

Similar Documents

Publication Publication Date Title
CN1110961C (zh) 用于消除dct编码的振铃现象的滤波装置和方法
US7620261B2 (en) Edge adaptive filtering system for reducing artifacts and method
CN1156167C (zh) 运动图象编码方法和运动图象编码设备
CN1248487C (zh) 根据编码信息提供效用度量进行视频增强的装置和方法
CN1695381A (zh) 在数字视频信号的后处理中使用编码信息和局部空间特征的清晰度增强
CN1960495A (zh) 图像编码装置、方法及程序
CN1218560C (zh) 增强编码视频清晰度的方法和系统
CN1650328A (zh) 增强编码的数字视频的清晰度的系统和方法
US20060262983A1 (en) Method and apparatus for selecting intra prediction mode
US6873657B2 (en) Method of and system for improving temporal consistency in sharpness enhancement for a video signal
CN1723711A (zh) 用于数字视频处理的一元化量度(umdvp)
US8145006B2 (en) Image processing apparatus and image processing method capable of reducing an increase in coding distortion due to sharpening
US20100329357A1 (en) Decoding apparatus, decoding control apparatus, decoding method, and program
CN1320830C (zh) 噪声估计方法和设备、以及利用其编码视频的方法和设备
CN1650635A (zh) 对低速率应用的数字图像进行处理的方法
CN1771515A (zh) 空间图像变换
US20040091157A1 (en) Method for resizing an image using the inverse discrete cosine transform
CN1754389A (zh) 用于改进的编码模式选择的方法和装置
US20080199153A1 (en) Coding and Decoding Method and Device for Improving Video Error Concealment
JP4083159B2 (ja) デジタル動画像のモーションベクトル設定方法
US20040247189A1 (en) Method and device for compressing image data
CN1344112A (zh) 视频编码方法和视频编码设备
US20050259752A1 (en) Apparatus for and method of image processing and output, and computer product
JP2005197879A (ja) 映像信号符号化装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: IPG ELECTRONICS 503 CO., LTD.

Free format text: FORMER OWNER: ROYAL PHILIPS ELECTRONICS CO., LTD.

Effective date: 20090904

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20090904

Address after: British Channel Islands

Patentee after: Koninkl Philips Electronics NV

Address before: Holland Ian Deho Finn

Patentee before: Koninklike Philips Electronics N. V.

ASS Succession or assignment of patent right

Owner name: FUNAI ELECTRIC CO., LTD.

Free format text: FORMER OWNER: IPG ELECTRONICS 503 LIMITED

Effective date: 20120523

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20120523

Address after: Osaka Japan

Patentee after: Funai Electric Co., Ltd.

Address before: British Channel Islands

Patentee before: Koninkl Philips Electronics NV

CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20060329

Termination date: 20161213

CF01 Termination of patent right due to non-payment of annual fee