CN101601069B - 用于减轻图像中的伪影的系统和方法 - Google Patents

用于减轻图像中的伪影的系统和方法 Download PDF

Info

Publication number
CN101601069B
CN101601069B CN2007800499785A CN200780049978A CN101601069B CN 101601069 B CN101601069 B CN 101601069B CN 2007800499785 A CN2007800499785 A CN 2007800499785A CN 200780049978 A CN200780049978 A CN 200780049978A CN 101601069 B CN101601069 B CN 101601069B
Authority
CN
China
Prior art keywords
image
block
localized area
pixel
shadow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN2007800499785A
Other languages
English (en)
Other versions
CN101601069A (zh
Inventor
学明·亨瑞·古
郭菊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
International Digital Madison Patent Holding SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of CN101601069A publication Critical patent/CN101601069A/zh
Application granted granted Critical
Publication of CN101601069B publication Critical patent/CN101601069B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/41Bandwidth or redundancy reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

本公开的系统和方法提供了一种基于区域的误差扩散算法或函数,用于减轻图像中的伪影。该系统和方法利用关于图像中的所关注区域(ROI)的知识,并且将诸如抖动或误差扩散之类的效果应用到表现出伪影(例如,带化现象)的部分或区域。该系统和方法包括:在至少一个第一图像中限定一区域(204),该所限定区域具有至少一个伪影;跟踪所限定区域到至少一个第二图像(212);以及将误差扩散函数应用到所限定区域以掩蔽至少一个第一图像和至少一个第二图像中的至少一个伪影(514)。

Description

用于减轻图像中的伪影的系统和方法
本申请根据35U.S.C.§119要求2007年1月16日在美国提交的临时申请60/880650的优先权。
技术领域
本公开一般地涉及数字图像处理和显示系统,更具体而言涉及用于减轻图像中的伪影(artifact)的系统和方法。
背景技术
在数字图像或者诸如胶片中的一系列图像之类的图像的处理期间注意到了图像伪影。常见伪影现象是带化(banding),其中不同强度和颜色级别的条带被显示在图像的原始平滑线性转变区域上。诸如颜色校正、缩放、颜色空间转换以及压缩之类的处理可能引入带化效应。带化在动画素材中最为普通,在动画素材中图像是人造的并且具有高频分量和最低限度的噪声。任何具有有限带宽的处理都将不可避免地导致混叠、“环化”(ringing)或带化。
当前的技术水平是添加噪声(例如抖动(dithering)和误差扩散(error diffusion))来减轻图像中的伪影。噪声在某种程度上掩蔽了该现象,但却在图像的其他部分上引入了不合需要的噪声,并且向诸如压缩之类的其他处理引入了额外的负担。
在相关领域中,由于产生数字式采样的图像的高质量表示所需的数据文件较大,常见的做法是向该数据文件应用各种形式的压缩,以尝试减小数据文件的大小,而不会不利地影响感知到的图像质量。已经发展了各种公知的技术和标准来解决该需求。这些技术的代表是用于图像编码的联合图片专家组(JPEG)。与JPEG类似但添加了帧间编码以利用运动序列中连续帧的相似性的是运动图片专家组(MPEG)标准。基于小波变换已经开发了其他标准和专属系统。
在商业电影DVD/HD-DVD发行的过程中,从传统的胶片或者从计算机动画电影扫描的数字图像通常具有10比特数据并且在某些应用中具有最多达16比特数据。该数据需要被转换成8比特YUV格式以便进行压缩。由于比特深度精度的减小,带化伪影经常出现在具有平滑的颜色变化的图像区域或图像中。如上所述,抖动和误差扩散算法常被用于减轻带化伪影。在大多数抖动算法中,具有高空间频率的数字信号被添加到图像以掩蔽掉带化效应。然而,DVD/HD-DVD内的压缩是去除具有高空间频率的信号的有损压缩。因此,即使在压缩之前通过抖动过程掩蔽掉了带化,在压缩之后带化伪影也经常会出现。
用于抖动或颜色深度减小的传统方法是用于显示应用和打印服务的。由于抖动是处理链中的最后一步,因此所添加的高空间频率被很好地保留并且在颜色深度被减小时实现了掩蔽带化效应的目的。误差扩散是另一种常见的方法,其中量化误差被分布在邻居像素中以产生掩蔽效果并且保持整体图像强度。然而,这些方法没有考虑到诸如MPEG 1,2,4或H.264之类的往往会减小或者截断高频信号的有损压缩的影响。因此,大多数误差扩散方法将减小压缩过程中的比特率效率,这是因为压缩编码器将会使用若干个比特来表示所添加的量化误差,从而用来表示图像的比特较少。同时,带化伪影在压缩之后易于出现,因为掩蔽信号被减小或截断了。
因此,需要一种用于减轻图像中的伪影的技术,其中,在图像处理(有损压缩过程)之后,伪影仍然得到减轻或抑制。
发明内容
本公开的系统和方法提供了一种基于区域的误差扩散过程,用于减轻图像中的伪影。该系统和方法利用关于图像的所关注区域(ROI)的知识,并且将诸如抖动或误差扩散之类的效果应用到表现出伪影(例如,带化现象)的区域。本公开的系统和方法包括在场景的表现出该现象的第一帧上限定ROI,并且对于具有类似特性的若干个帧自动跟踪ROI。该系统和方法提供了ROI和图像的其余部分之间的平滑转变。另外,本公开提供了一种将关于ROI的信息(例如,元数据)从获取传送到处理再传送到分发的机制。
根据本发明的一个方面,提供了一种用于减轻至少一个图像中的伪影的方法。该方法包括:在至少一个第一图像中限定一区域,该所限定区域具有至少一个伪影;跟踪所限定区域到至少一个第二图像;以及将误差扩散函数应用到所限定区域以掩蔽至少一个第一图像和至少一个第二图像中的至少一个伪影。
在各种所描述的实施例中,限定一区域的步骤是通过绘出该区域来手工执行的或者是由检测函数自动执行的。
在另一方面中,应用步骤还包括选择至少一个图像的像素的区块(block)大小,判定至少一个区块是否在所限定区域内,向至少一个区块添加掩蔽信号,为至少一个图像中的至少一个区块确定量化误差,以及将量化误差分布到邻居区块。
在另一个方面中,添加掩蔽信号的步骤包括确定至少一个区块中的至少一个像素到所限定区域的边界的距离,以及基于所确定的距离来向关联到至少一个像素的掩蔽信号指派值。
在另一个方面中,跟踪步骤还包括为至少一个第一图像的所限定区域生成二进制掩码(binary mask)。以及将二进制掩码投影到至少一个第二图像以跟踪所限定区域。在另一个方面中,投影步骤还包括估计所限定区域从至少一个第一图像到至少一个第二图像的运动。在另一个方面中,生成步骤还包括将所限定区域变换成更大的区域以捕捉至少一个第一图像的待跟踪特征。
根据本公开的另一个方面,提供了一种用于减轻至少一个图像中的伪影的系统,该系统包括:跟踪模块,被配置用于跟踪至少一个第一图像中的所限定区域到至少一个第二图像,该所限定区域具有至少一个伪影;以及误差扩散模块,被配置用于将误差扩散函数应用到所限定区域以掩蔽至少一个第一图像和至少一个第二图像中的至少一个伪影。在一个实施例中,该系统还包括用户接口,该用户接口被配置用于在至少一个第一图像中限定该区域。
根据本公开的另一个方面,提供了一种可由机器读取的程序存储设备,其有形地包含着可由该机器运行来执行用于减轻图像中的伪影的方法步骤的指令程序,该方法包括:在至少一个第一图像中限定一区域,该所限定区域具有至少一个伪影;跟踪所限定区域到至少一个第二图像;以及将误差扩散函数应用到所限定区域以掩蔽至少一个第一图像和至少一个第二图像中的至少一个伪影。
附图说明
根据以下应当结合附图来阅读的对优选实施例的详细描述将描述或者清楚看到本公开的这些和其他方面、特征和优点。
在附图中,相似的标号在各幅图中指代类似的元件,其中:
图1是示出根据本公开一个方面的用于减轻图像中的伪影的系统的示例性图示;
图2是根据本公开一个方面的用于图像中的基于区域跟踪的示例性方法的流程图;
图3是具有所限定的待跟踪区域的图像;
图4示出了根据本公开的跟踪模型;以及
图5是根据本公开一个方面的用于减轻图像中的伪影的示例性方法的流程图。
应当理解,附图是用于说明本公开的概念的,而不一定是用于图示出本公开的唯一可能的配置。
具体实施方式
应当理解,图中所示的要素可利用各种形式的硬件、软件或其组合来实现。优选地,这些元件是在一个或多个适当编程的通用设备上利用硬件和软件的组合来实现的,所述通用设备可包括处理器、存储器和输入/输出接口。
本说明书例示了本公开的原理。因此将会明白,本领域的技术人员将能够设计出虽然在这里没有明确描述或示出但却实现了本公开的原理并被包括在其精神和范围内的各种布置。
这里记载的所有示例和条件性语言意图用于教导目的以帮助读者理解本公开的原理和发明人为推进技术而贡献的概念,并且应当被解释为并不限于这种具体记载的示例和条件。
另外,这里的所有记载本公开的原理、方面和实施例及其具体示例的陈述都意图涵盖其结构和功能等同物。此外,希望这种等同物包括当前已知的等同物以及未来开发的等同物,即,所开发的任何执行相同功能的要素,无论结构如何。
因此,例如,本领域的技术人员将会明白,这里给出的框图表示实现本公开的原理的示例性电路的概念视图。类似地,将会明白,任何流程图、状态转变图、伪代码等等都表示基本上可被表示在计算机可读介质中并且因此可由计算机或处理器来运行的各种过程,无论这里是否明确示出这种计算机或处理器。
附图中示出的各种要素的功能可通过使用专用硬件以及能够联系适当软件来运行软件的硬件来提供。当由处理器来提供时,这些功能可由单个专用处理器、由单个共享处理器或者多个单独的处理器(其中一些可被共享)来提供。另外,对术语“处理器”或“控制器”的明确使用不应当被解释为仅仅指能够运行软件的硬件,而是可以隐含地包括但不限于数字信号处理器(“DSP”)硬件、用于存储软件的只读存储器(“ROM”)、随机访问存储器(“RAM”)和非易失性存储装置。
还可包括其他传统的和/或定制的硬件。类似地,图中所示的任何开关只是概念性的。其功能可通过程序逻辑的操作、通过专用逻辑、通过程序控制和专用逻辑的交互或者甚至通过手工来执行,具体技术由实现者根据对上下文的更具体理解来选择。
在本申请的权利要求中,被表达为用于执行指定功能的装置的任何要素意图涵盖执行该功能的任何方式,例如包括:a)执行该功能的电路元件的组合,或者b)任何形式的软件,因此包括固件、微代码等等,这种软件与适当的电路相结合以用于运行该软件以执行该功能。这种权利要求所限定的公开内容存在于以下事实中,即,各种记载的装置所提供的功能按权利要求所要求的方式被组合且集合在一起。因此认为,任何能够提供这些功能的装置都等同于这里示出的那些。
带化现象可被分类成两个类别。在颜色比特减少或颜色量化的过程中,带化可能由于信号精度的减小而出现。在大多数情况下,可通过使用误差扩散算法来有效地去除这类误差。然而,诸如颜色校正、缩放和颜色空间转换之类的其他过程由于其有限的处理带宽而造成了带化伪影。这类带化无法通过误差扩散来有效地应对。需要一个掩蔽信号来掩蔽掉这些带化伪影。所添加的掩蔽信号的量与带化伪影的强度直接相关。由于带化伪影最可能出现在平滑的线性转变中,所以基于帧的方法将会向没有带化伪影的区域引入不必要的掩蔽信号,从而降低图像质量。本公开的系统和方法提供了一种基于ROI(即,基于所关注区域)的方法,其有效地去除了两种类别的带化,其中所添加的掩蔽信号的量可由人类操作者调节,以实现尽可能最佳的图像质量。
本公开的系统和方法提供了一种基于区域的误差扩散算法,用于减轻图像中的伪影。本公开提供了一种交互式系统,用于基于例如由人类操作者或者由自动检测算法或函数最初限定的所关注区域(ROI)来去除令人不快的带化现象。本公开还提供了一种基于ROI的误差扩散和条带掩蔽方案,其被设计为去除所跟踪区域中的带化,并且使对其他处理(例如,压缩过程)的副作用达到最低限度。为了使系统有效地在胶片/视频处理中实际应用,提供了一种基于区域的跟踪算法来在若干个随后的帧中跟踪ROI,从而减少人类操作者的工作。
现在参考附图,根据本公开实施例的示例性系统组件在图1中示出。扫描设备103可被提供来用于将胶片拷贝(film print)104(例如,相机原始负片)扫描成数字格式(例如,Cineon格式或SMPTE DPX文件)。扫描设备103可包括例如电视电影机(telecine)或任何将会从这种胶片生成视频输出的设备,例如具有视频输出的Arri LocProTM。或者,可以直接使用来自后期制作过程或数字影院106的文件(例如,已经是计算机可读形式的文件)。计算机可读文件的可能来源是AVIDTM编辑器、DPX文件、D5带,等等。
所扫描的胶片拷贝被输入到后处理设备102,例如计算机。该计算机实现在各种已知的计算机平台中的任何一种上,这些计算机平台具有诸如以下硬件:一个或多个中央处理单元(CPU)、存储器110(例如随机访问存储器(RAM)和/或只读存储器(ROM))以及(一个或多个)输入/输出(I/O)用户接口112(例如键盘、光标控制设备(例如,鼠标、操纵杆等等)和显示设备)。该计算机平台还包括操作系统和微指令代码。这里描述的各种过程和功能可以是经由操作系统运行的微指令代码的一部分或者软件应用程序的一部分(或其组合)。此外,各种其他外围设备可以通过诸如并行端口、串行端口或通用串行总线(USB)之类的各种接口和总线结构连接到该计算机平台。其他外围设备可包括另外的存储设备124和打印机128。打印机128可以用于打印胶片126的经修改版本,例如胶片的立体版本。
或者,已经是计算机可读形式的文件/胶片拷贝106(例如,数字影院,其例如可被存储在外部硬盘驱动器124上)可被直接输入到计算机102中。注意,这里使用的术语“胶片”可以指胶片拷贝或数字影院。
软件程序包括存储在存储器110中的用于减轻图像中的伪影的误差扩散模块114。误差扩散模块114包括噪声或信号生成器116,用于生成一信号来掩蔽图像中的伪影。噪声信号可以是白噪声、高斯噪声、利用不同截止频率的滤波器来调制的白噪声,等等。截断模块118被提供来确定图像的区块的量化误差。误差扩散模块114还包括被配置为将量化误差分布到邻居区块的误差分布模块120。
还提供了跟踪模块132,用于在一场景的若干个帧中跟踪ROI。跟踪模块132包括掩码生成器134,用于为一场景的每个图像或帧生成二进制掩码。二进制掩码是从图像中限定的ROI生成的,所述限定例如是利用绘在ROI周围的由用户输入的多边形或者利用自动检测算法或函数来进行的。二进制掩码是具有像素值1或0的图像。ROI内的所有像素具有值1,其他像素具有值0。跟踪模块132还包括跟踪模型136,用于在图像与图像之间(例如,在一场景的帧与帧之间)估计ROI的跟踪信息。
编码器122被提供来用于将输出图像编码成任何已知的压缩标准,例如MPEG 1,2,4、h.264,等等。
图2是根据本公开一个方面用于跟踪图像中的所关注区域(ROI)的示例性方法的流程图。首先,在步骤202,后处理设备102获取至少一个二维(2D)图像。如上所述,后处理设备102通过获得计算机可读格式的数字主视频文件来获取至少一个2D图像。可以通过利用数字视频相机捕捉视频图像的时间序列来获取数字视频文件。或者,可以利用传统的胶片型相机来捕捉视频序列。在此情形下,经由扫描设备103来扫描胶片。
应当明白,不论胶片被扫描还是已经为数字格式,胶片的数字文件都将包括关于帧的位置的指示或信息,例如帧号码、从胶片开始起的时间,等等。数字视频文件的每个帧将包括一个图像,例如I1、I2、……、In
在步骤204中,在至少一个图像中限定所关注区域R。在一个实施例中,操作者利用诸如用户接口112之类的交互式用户接口来限定具有带化伪影的区域。参考图3,通过在图像上描画出一个多边形区域来限定该区域。在另一个实施例中,由自动检测算法或函数来检测该区域。自动检测算法将与知识库相交互,该知识库是根据将会包括人类操作者所识别出的典型伪影的多个经过处理的胶片编制的。
返回图2,根据ROI的多边形,二进制掩码被生成并被用在用于跟踪ROI的系统中。二进制掩码是具有像素值1或0的图像。多边形内的所有像素具有值1,并且其他像素具有值0。二进制掩码可用于表示ROI,这相当于由多边形限定的ROI。然后在步骤206中读取该场景的下一帧。
带化伪影出现在平滑颜色分级区域中。然而,一般的ROI算法为了进行健壮且准确的跟踪,要求该区域中存在某处明显的特征。因此,提供了使用一种不同的跟踪区域的跟踪方案。在步骤208中,ROI R被增长或变换到更大的区域以捕捉该ROI的更显著特征以便跟踪。该更大的具有某些显著特征的区域被称为跟踪区域Rt。区域增长算法使用ROI的边界像素作为种子以及一种“分水岭”实现方式来增长区域。
为了估计跟踪信息,六参数跟踪模型136(例如,仿射运动模型)被用于跟踪该区域(步骤210)。首先将跟踪区域划分成16×16区块,并且通过利用亮度强度在下一帧中找出最佳区块匹配来获得每个区块的运动向量。所有区块的运动向量被用于估计跟踪模型中的六个参数,如图4所示。线性回归过程被用于找出使预测像素和实际像素之间的误差最小化的最佳参数。在步骤212中,利用六参数跟踪模型将ROI的二进制掩码投影到下一帧。在步骤214中,系统判定是否处理了该场景的最后一帧。如果否,系统则将返回到步骤206,直到处理了该场景的所有帧为止。一旦对于若干个帧可得到ROI,该过程就可以很容易地被自动应用到该场景的其余部分。
系统提供关于跟踪结果的实时反馈。在步骤216,操作者可评估该结果并且如果结果不令人满意可在步骤218修改ROI。例如,操作者可查看用户接口112的显示器中的ROI以判定ROI是否被正确跟踪。如果操作者不满意,则ROI可被修改并且跟踪过程可被重复。在步骤220中,每个图像或帧的ROI的二进制掩码被存储到二进制文件中,并被用作用于基于ROI的误差扩散和条带掩蔽的ROI,下文将对此进行描述。另外,ROI的二进制掩码被存储到二进制文件中并且可被传送到下一阶段。例如,如果下一阶段是MPEG4AVC编码,则ROI的信息可被编码器用于为ROI分配适当的比特。该元数据可被存储在存储设备124中并且与图像相关联,因此它可被用在其他过程中。
基于ROI的误差扩散和条带掩蔽方案的流程图在图5中示出。如上所述,在步骤502中获取至少一个待处理的图像。
在步骤504中,选择区块大小。图像可被划分成任何数目的区块。区块是包含在矩形区域中的若干个像素,例如Bm,n,其中m,n表示区块索引。所有区块可具有相同大小,例如2×2、3×3,等等。区块大小也可依据局部图像属性而变化。区块大小可由操作者经由用户接口112来选择,或者它可由图像大小来决定,以便对不同的图像大小保持恒定的比率。如下文将描述的,本公开的误差扩散方法工作在区块级。一旦区块大小被选择,区块大小就将对同一图像保持相同。
应当明白,区块大小可以从单个像素变化到任何任意大小,例如2×2、2×3、4×4。对不同区块大小的使用使得系统能够控制掩蔽信号的空间频率。如果接下来的过程是往往会去除高空间频率的有损压缩的话,这是很重要的。添加被适当控制的掩蔽信号将减轻压缩伪影并且避免在有损压缩之后带化重新出现。
一旦选择了区块大小之后,在步骤506就将从第一区块开始处理构成图像的所有区块。首先,在步骤508,系统将判定区块是否在所限定的所关注区域(ROI)中。如果区块不在ROI中,则在步骤516使用简单的量化方案来减小颜色比特深度,例如区块的最低有效位被去除并且量化误差不被补偿。在步骤516之后,系统在步骤518将转到图像中的下一区块。
如果区块在ROI中,那么在步骤510中,经由噪声生成器116向图像添加噪声信号,例如掩蔽信号。基于像素与区域边界的距离(例如,接近度)来向像素指派从0至255的级别。确定区块中的至少一个像素到所限定的区域的边界的距离,并且基于所确定的距离来指派与该至少一个像素相关联的掩蔽信号的值。这些级别被用于按比例减小掩蔽信号的强度,从而在区域边界区中形成平滑的转变。计算ROI中的像素颜色值的均值和方差。如果像素相对于均值的颜色差异是方差的三倍那么大,则表明存在一个不太可能是带化伪影的显著特征。为了保留该特征,向该像素指派级别0,这意味着不会向该像素添加噪声。其示例是有星星的蓝天的场景,如图3所示,其中带化伪影出现在蓝天中。操作者可以将蓝天选择为用于去带化处理的ROI。天空中的所有星星被适当地保留,因为它们的颜色值与ROI中的像素的平均值显著不同。
在步骤512中,为该区块确定量化误差。首先,经由截断模块118对图像中的每个区块执行截断函数。截断函数被用于通过将比特深度值除以恒定的量化因子Q来减小区块中的每个像素的比特深度,该量化因子Q是2的幂。一般来说,量化因子Q等于2X,其中X是要截断的比特的数目。例如,对于从10比特数据到8比特数据的截断,恒定的量化因子Q将为4,即Q=22。截断函数被定义如下:
I i , j ′ = I i , j + N i , j Q , I i , j ∈ B m , n - - - ( 1 )
其中Ii,j是区块内的像素值,Ni,j是噪声生成器116在截断之前添加的信号,Q是量化因子。I′i,j是被截断的像素值。在截断过程中,对于像素值要考虑舍入问题。例如,如果I′i,j等于1.75,即7(I′i,j+Ni,j)除以4(Q),则I′i,j将需要利用整数来表示。基于本领域中已知的不同舍入方案,I′i,j可以是2或1。
在式1内,Ni,j是噪声,例如白噪声,并且它减轻了结构伪影。一般来说,Ni,j具有随机的信号分布。经由用户接口112,操作者可以手工控制Ni,j的值范围。默认地,Ni,j的值范围是从0到Q-1。通过对于图像的所选区块内的每个像素使用相同的噪声,噪声样式的空间频率在区块内将会较低,这降低了整个图像中的噪声的整体空间频率。由于噪声的空间频率被降低,因此噪声(即掩蔽信号)将会从压缩过程中幸存并且在解压缩期间抑制伪影。
接下来,如以下式(2)所示为区块内的每个像素确定量化误差,并且所有量化误差的总和产生了区块量化误差Em,n,该区块量化误差Em,n基于误差扩散系数被分布到邻居区块中。
E m , n = Σ i , j ( I i , j - QI i , j ′ ) - - - ( 2 )
对于总的区块量化误差Em,n,由下式确定的一部分量化误差e将被分布到邻居区块:
e=c(m,n)*E                           (3)
其中c(m,n)是误差扩散系数。
在步骤514中,经由误差分布模块120将区块量化误差分布到邻居区块。每个区块内的误差分布函数被定义如下:
Ii,j=Ii,j+wi,je,Ii,j∈Bm,n      (4)
w i , j = 1 NM I i , j ∈ B m , n - - - ( 5 )
其中e是分布到区块Bm,n的总误差,N、M是区块的尺寸,wi,j是区块Bm,n的加权系数。在一个实施例中,如式(5)所示的均匀分布被用于计算加权系数。可以设计更复杂的函数来计算wi,j,例如,wi,j可被设定为与I(i,j)成比例。
区块Bm,n的大小决定了在误差扩散过程中能够控制的空间频率的量,并且被选择来实现最佳的掩蔽伪影的效果。然而,较大的区块大小往往会生成结构化的伪影,在误差扩散过程中这是不合需要的。这种结构化的伪影包括区块边界伪影,其中两个不同区块中的2个相邻像素将被不同地变换。式1中的Ni,j也被用于通过包括随机噪声来破坏潜在的结构化伪影。已经发现,2×2的示例性区块大小足以处理720×480像素(例如DVD分辨率)的图像,而不会有可见的区块伪影。应当明白,可以使用其他区块大小和图像大小,而不会产生可见的伪影。
在已在步骤516中或者通过步骤510至514来执行量化之后,系统在步骤518将进行到图像中的下一区块,直到图像中的所有区块都被处理为止。在已通过误差扩散函数来修改图像之后,可将图像保存在后处理设备的存储器中,例如保存在存储设备124中。一旦已经修改了特定胶片的所有图像,就可以根据任何传统的压缩标准(例如MPEG 1,2,4、h.264等等)经由编码器122来对图像进行编码。然而可将经过压缩的胶片130存储在存储设备(例如,存储设备124)中或将其传送到可移动的存储设备(例如,DVD)。
虽然这里已经示出并详细描述了结合了本公开的教导的实施例,但是本领域的技术人员可以很容易设计出仍结合这些教导的许多其他改变的实施例。在已经描述了用于减轻图像中的伪影的系统和方法的优选实施例(它们意图为例示性的而非限制性的)后,注意本领域的技术人员在考虑以上教导后可以进行修改和改变。因此,应当理解,在所公开的公开内容的特定实施例中可以进行处于所附权利要求所限定的公开范围和精神之内的变化。

Claims (24)

1.一种用于减轻至少一个图像中的伪影的方法,包括:
在至少一个第一图像中限定一区域(204),该所限定区域具有至少一个伪影;
跟踪所述所限定区域到至少一个第二图像(212);
向所述所限定区域中的像素的至少一个区块添加掩蔽信号(510);
为所述至少一个图像中的所述至少一个区块确定量化误差(512);以及
将所述量化误差分布到邻居区块(514)以掩蔽所述至少一个第一图像和至少一个第二图像中的所述至少一个伪影。
2.如权利要求1所述的方法,还包括:
选择所述至少一个图像的像素的区块大小(504);以及
判定至少一个区块是否在所述所限定区域内(508)。
3.如权利要求2所述的方法,还包括在所述分布步骤之后利用压缩函数来对所述至少一个第一图像和至少一个第二图像进行编码。
4.如权利要求3所述的方法,其中,所述压缩函数是有损的。
5.如权利要求2所述的方法,其中,所述添加掩蔽信号的步骤(510)包括:
确定所述至少一个区块中的至少一个像素到所述所限定区域的边界的距离;以及
基于所确定的距离来向关联到所述至少一个像素的掩蔽信号指派值。
6.如权利要求2所述的方法,其中,所述掩蔽信号是噪声信号。
7.如权利要求2所述的方法,其中,确定量化误差的步骤(512)还包括:
截断所述至少一个区块中的每个像素;
为每个像素确定量化误差;以及
对所述至少一个区块中的每个像素的量化误差求和。
8.如权利要求1所述的方法,其中,所述跟踪步骤还包括:
为所述至少一个第一图像的所述所限定区域生成二进制掩码;以及
将所述二进制掩码投影到所述至少一个第二图像以跟踪所述所限定区域(212)。
9.如权利要求8所述的方法,其中,所述投影步骤(212)还包括估计所述所限定区域从所述至少一个第一图像到所述至少一个第二图像的运动(210)。
10.如权利要求9所述的方法,其中,所述估计步骤(210)是利用仿射运动模型来执行的。
11.如权利要求8所述的方法,其中,所述生成步骤还包括将所述所限定区域变换成更大的区域以捕捉所述至少一个第一图像的待跟踪特征(208)。
12.如权利要求1所述的方法,其中,所述限定一区域的步骤(204)是通过绘出该区域来手工执行的或者是利用检测函数自动执行的。
13.一种用于减轻至少一个图像中的伪影的系统(100),该系统包括:
跟踪模块(132),被配置用于跟踪至少一个第一图像中的所限定区域到至少一个第二图像,该所限定区域具有至少一个伪影;
信号生成器(116),被配置用于生成将被应用到至少一个图像的掩蔽信号;以及
误差扩散模块(114),被配置用于向所述限定区域中的像素的至少一个区块添加所述掩蔽信号,为所述至少一个图像中的所述至少一个区块确定量化误差,将所述量化误差分布到所述至少一个图像中的邻居区块以掩蔽所述至少一个第一图像和至少一个第二图像中的所述至少一个伪影。
14.如权利要求13所述的系统(100),还包括用户接口(112),该用户接口被配置用于在所述至少一个第一图像中限定所述区域。
15.如权利要求13所述的系统(100),还包括编码器(122),该编码器被配置用于利用压缩函数来对所述至少一个第一图像和至少一个第二图像进行编码。
16.如权利要求13所述的系统(100),其中,所述误差扩散模块(114)还被配置为用于选择所述至少一个图像的像素的区块大小,以及判定至少一个区块是否在所述所限定区域内。
17.如权利要求16所述的系统(100),其中,所述信号生成器(116)被配置为生成噪声信号。
18.如权利要求16所述的系统(100),其中,所述误差扩散模块(114)还被配置用于:确定所述至少一个区块中的至少一个像素到所述所限定区域的边界的距离;以及基于所确定的距离来向关联到所述至少一个像素的掩蔽信号指派值。
19.如权利要求16所述的系统(100),其中,所述误差扩散模块(114)还包括截断模块(118),该截断模块被配置为截断所述至少一个区块中的每个像素,为每个像素确定量化误差,以及对所述至少一个区块中的每个像素的量化误差求和。
20.如权利要求13所述的系统(100),其中,所述跟踪模块(132)还包括掩码生成器(134),该掩码生成器被配置用于为所述至少一个第一图像的所述所限定区域生成二进制掩码;所述跟踪模块(132)还被配置用于将所述二进制掩码投影到所述至少一个第二图像以跟踪所述所限定区域。
21.如权利要求20所述的系统(100),其中,所述跟踪模块(132)还包括跟踪模型(136),该跟踪模型被配置为估计所述所限定区域从所述至少一个第一图像到所述至少一个第二图像的运动。
22.如权利要求21所述的系统(100),其中,所述跟踪模型(136)是仿射运动模型。
23.如权利要求20所述的系统(100),其中,所述跟踪模块(132)还被配置用于将所述所限定区域变换成更大的区域以捕捉所述至少一个第一图像的待跟踪特征。
24.一种用于减轻至少一个图像中的伪影的设备,该设备包括:
用于在至少一个第一图像中限定一区域(204)的装置,该所限定区域具有至少一个伪影;
用于跟踪所述所限定区域到至少一个第二图像(212)的装置;
用于向所述所限定区域中的像素的至少一个区块添加掩蔽信号(510)的装置;
用于为所述至少一个图像中的所述至少一个区块确定量化误差(512)的装置;以及
用于将所述量化误差分布到邻居区块(514)以掩蔽所述至少一个第一图像和至少一个第二图像中的所述至少一个伪影的装置。
CN2007800499785A 2007-01-16 2007-06-19 用于减轻图像中的伪影的系统和方法 Active CN101601069B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US88065007P 2007-01-16 2007-01-16
US60/880,650 2007-01-16
PCT/US2007/014244 WO2008088373A2 (en) 2007-01-16 2007-06-19 System and method for reducing artifacts in images

Publications (2)

Publication Number Publication Date
CN101601069A CN101601069A (zh) 2009-12-09
CN101601069B true CN101601069B (zh) 2012-07-18

Family

ID=39501590

Family Applications (3)

Application Number Title Priority Date Filing Date
CN201510571360.1A Pending CN105187844A (zh) 2007-01-16 2007-06-12 用于减轻图像中的伪影的系统和方法
CNA2007800499501A Pending CN101595734A (zh) 2007-01-16 2007-06-12 用于减轻图像中的伪影的系统和方法
CN2007800499785A Active CN101601069B (zh) 2007-01-16 2007-06-19 用于减轻图像中的伪影的系统和方法

Family Applications Before (2)

Application Number Title Priority Date Filing Date
CN201510571360.1A Pending CN105187844A (zh) 2007-01-16 2007-06-12 用于减轻图像中的伪影的系统和方法
CNA2007800499501A Pending CN101595734A (zh) 2007-01-16 2007-06-12 用于减轻图像中的伪影的系统和方法

Country Status (7)

Country Link
US (2) US8600184B2 (zh)
EP (2) EP2103134B1 (zh)
JP (3) JP5490544B2 (zh)
KR (3) KR101394766B1 (zh)
CN (3) CN105187844A (zh)
CA (2) CA2674310C (zh)
WO (2) WO2008088370A2 (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8472709B2 (en) 2007-06-29 2013-06-25 Thomson Licensing Apparatus and method for reducing artifacts in images
JP5739812B2 (ja) * 2008-10-10 2015-06-24 コーニンクレッカ フィリップス エヌ ヴェ 血管造影画像取得装置の作動方法、コリメータ制御ユニット、血管造影画像取得装置及びコンピュータソフトウェア
JP5676610B2 (ja) * 2009-08-12 2015-02-25 トムソン ライセンシングThomson Licensing 画像シーケンスの関心領域に基づくアーティファクト低減のためのシステム及び方法
KR101630281B1 (ko) * 2010-08-06 2016-06-15 한화테크윈 주식회사 영상 처리 장치
US20130009980A1 (en) * 2011-07-07 2013-01-10 Ati Technologies Ulc Viewing-focus oriented image processing
CN104854872B (zh) * 2012-12-13 2018-07-20 索尼公司 发送装置、传输方法、接收装置以及接收方法
CN104079934B (zh) * 2014-07-14 2017-02-15 武汉大学 一种实时视频通信中的感兴趣区域提取方法
US9911179B2 (en) 2014-07-18 2018-03-06 Dolby Laboratories Licensing Corporation Image decontouring in high dynamic range video processing
JP6512942B2 (ja) 2015-05-27 2019-05-15 キヤノン株式会社 画像処理装置および画像処理方法
US10475164B2 (en) 2017-09-12 2019-11-12 Qualcomm Incorporated Artifact detection in a contrast enhanced output image
US11790564B2 (en) * 2020-03-30 2023-10-17 Google Llc Encoders for improved image dithering
CN116569207A (zh) * 2020-12-12 2023-08-08 三星电子株式会社 用于管理图像的伪影的方法和电子装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0707410A2 (en) * 1994-10-11 1996-04-17 Seiko Epson Corporation Improved adaptive filtering and thresholding arrangement for reducing graininess of images
US6201612B1 (en) * 1997-03-26 2001-03-13 Oki Data Corporation Image processing method and apparatus employing block error diffusion
CN1622154A (zh) * 2003-11-26 2005-06-01 Lg电子株式会社 用于处理显示装置中的灰度的装置和方法

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10285390A (ja) * 1997-04-03 1998-10-23 Minolta Co Ltd 画像処理装置
JPH04269084A (ja) 1991-02-25 1992-09-25 Konica Corp 画像変換装置
JP3195142B2 (ja) * 1993-10-29 2001-08-06 キヤノン株式会社 画像処理方法及び装置
CN1154193A (zh) * 1995-05-15 1997-07-09 宝丽来公司 用于降低图象数据压缩噪声的方法和设备
JPH10155087A (ja) 1996-11-20 1998-06-09 Ricoh Co Ltd 画像処理装置
JP3976863B2 (ja) * 1997-12-24 2007-09-19 キヤノン株式会社 画像処理装置及び方法
JP2001163569A (ja) 1999-12-13 2001-06-19 Nisshin:Kk 機械設備の油切り体
GB2358098A (en) 2000-01-06 2001-07-11 Sharp Kk Method of segmenting a pixelled image
JP2001285640A (ja) 2000-03-31 2001-10-12 Fuji Photo Film Co Ltd 画像処理方法、画像処理装置および記録媒体
JP4659974B2 (ja) 2000-12-12 2011-03-30 株式会社東芝 超音波診断装置
JP2003015587A (ja) * 2001-06-28 2003-01-17 Mitsubishi Electric Corp ディスプレイ装置
JP3883056B2 (ja) * 2002-04-18 2007-02-21 セイコーエプソン株式会社 画像処理装置、画像処理方法、印刷装置、画像処理プログラムおよび画像処理プログラムを記録した媒体
EP1481541A1 (en) 2002-02-28 2004-12-01 Koninklijke Philips Electronics N.V. Noise filtering in images
US6764162B2 (en) * 2002-04-30 2004-07-20 Lexmark International, Inc. Shingle masks that reduce banding effect on ink jet printers
US7130474B2 (en) * 2002-09-27 2006-10-31 Eastman Kodak Company Method and system for generating digital image files for a limited display
US6757434B2 (en) 2002-11-12 2004-06-29 Nokia Corporation Region-of-interest tracking method and device for wavelet-based video coding
JP4143459B2 (ja) * 2003-03-31 2008-09-03 キヤノン株式会社 画像処理方法及び画像処理装置
JP4321121B2 (ja) 2003-05-30 2009-08-26 株式会社日立メディコ 診断画像における生体組織の動きの追跡方法及びその方法を用いた画像診断装置
JP2005024717A (ja) * 2003-06-30 2005-01-27 Fujitsu Hitachi Plasma Display Ltd ディスプレイ装置およびディスプレイの駆動方法
JP2005303979A (ja) * 2004-03-18 2005-10-27 Ricoh Co Ltd 画像処理装置、画像処理方法、およびその方法をコンピュータに実行させるプログラム
JP2005269577A (ja) * 2004-03-22 2005-09-29 Seiko Epson Corp 画像処理装置、印刷装置、画像処理方法およびプログラム
CN100361495C (zh) * 2004-06-23 2008-01-09 夏普株式会社 图像处理方法、图像处理装置、图像形成装置
JP4166733B2 (ja) 2004-07-09 2008-10-15 シャープ株式会社 画像処理方法および画像処理装置並びにそれを備えた画像形成装置、画像処理プログラム、記録媒体
JP2005063464A (ja) * 2004-11-16 2005-03-10 Toshiba Corp 映像領域追跡方法および装置
US8019175B2 (en) 2005-03-09 2011-09-13 Qualcomm Incorporated Region-of-interest processing for video telephony
CN1327809C (zh) * 2005-03-28 2007-07-25 南方医科大学 在t1加权磁共振成像中用propeller采样方式消除运动伪影的方法
JP2007101923A (ja) * 2005-10-05 2007-04-19 Fujitsu Hitachi Plasma Display Ltd デジタル表示装置及びその表示方法
WO2008088482A1 (en) * 2006-12-28 2008-07-24 Thomson Licensing Method and apparatus for automatic visual artifact analysis and artifact reduction
US8902985B2 (en) * 2009-06-22 2014-12-02 Panasonic Intellectual Property Corporation Of America Image coding method and image coding apparatus for determining coding conditions based on spatial-activity value

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0707410A2 (en) * 1994-10-11 1996-04-17 Seiko Epson Corporation Improved adaptive filtering and thresholding arrangement for reducing graininess of images
US6201612B1 (en) * 1997-03-26 2001-03-13 Oki Data Corporation Image processing method and apparatus employing block error diffusion
CN1622154A (zh) * 2003-11-26 2005-06-01 Lg电子株式会社 用于处理显示装置中的灰度的装置和方法

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
etc.Flat-Region Detection and False Contour Removal in the Digital TV Display.《IEEE INTERNATIONAL CONFERENCE ON AMSTERDAM》.2005,1338-1341.
etc.REGION-BASED AFFINE MOTION SEGMENTATION USING COLOR INFORMATION.《ACOUSTICS, SPEECH, AND SIGNAL PROCESSING, 1997. ICASSP-97》.1997,第4卷3005-3008.
P. Erhan Eren
P. Erhan Eren;etc.REGION-BASED AFFINE MOTION SEGMENTATION USING COLOR INFORMATION.《ACOUSTICS, SPEECH, AND SIGNAL PROCESSING, 1997. ICASSP-97》.1997,第4卷3005-3008. *
Wonseok Ahn
Wonseok Ahn;etc.Flat-Region Detection and False Contour Removal in the Digital TV Display.《IEEE INTERNATIONAL CONFERENCE ON AMSTERDAM》.2005,1338-1341. *

Also Published As

Publication number Publication date
KR20140019884A (ko) 2014-02-17
EP2104918B1 (en) 2018-12-19
CA2674310C (en) 2016-05-24
JP5490544B2 (ja) 2014-05-14
KR101545359B1 (ko) 2015-08-18
CA2674312C (en) 2016-04-12
KR101394766B1 (ko) 2014-05-16
CN101595734A (zh) 2009-12-02
WO2008088373A2 (en) 2008-07-24
WO2008088370A3 (en) 2008-10-02
US8600184B2 (en) 2013-12-03
JP5815003B2 (ja) 2015-11-17
WO2008088370A2 (en) 2008-07-24
KR20090104027A (ko) 2009-10-05
US8457439B2 (en) 2013-06-04
CA2674312A1 (en) 2008-07-24
JP2010516174A (ja) 2010-05-13
US20100119173A1 (en) 2010-05-13
KR20090110307A (ko) 2009-10-21
CN105187844A (zh) 2015-12-23
JP2014017882A (ja) 2014-01-30
JP5818404B2 (ja) 2015-11-18
EP2103134B1 (en) 2018-12-19
CA2674310A1 (en) 2008-07-24
WO2008088373A3 (en) 2008-10-02
JP2010516173A (ja) 2010-05-13
US20100046804A1 (en) 2010-02-25
CN101601069A (zh) 2009-12-09
EP2104918A2 (en) 2009-09-30
EP2103134A2 (en) 2009-09-23

Similar Documents

Publication Publication Date Title
CN101601069B (zh) 用于减轻图像中的伪影的系统和方法
KR101350853B1 (ko) 이미지들에서 아티팩트들을 감소시키기 위한 장치 및 방법
US20200357099A1 (en) Video inpainting with deep internal learning
CN1960495B (zh) 图像编码装置、图像编码方法和集成电路装置
US20060098737A1 (en) Segment-based motion estimation
JP2006211247A (ja) 画像処理装置およびその方法
KR101437626B1 (ko) 화상 시퀀스에서의 관심 영역 기반 아티팩트 저감 시스템 및 방법
US11636626B2 (en) Apparatus and method of using AI metadata related to image quality
CN101692710B (zh) 伪随机数发生器管理方法装置以及胶片颗粒模拟方法装置
JP2010068084A (ja) 画像処理装置及び画像処理方法
JP2004289284A (ja) 画像処理方法および画像処理装置ならびに画像処理プログラム
JP2004222142A (ja) 映像信号の圧縮方法および復号方法
JP2005130345A (ja) 映像信号および静止画像の符号化方法
JP2009284207A (ja) 画像処理装置および方法、プログラム、並びに学習装置および方法
JP2007116460A (ja) 符号化装置および方法、復号化装置および方法、プログラム、並びに記録媒体

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CP02 Change in the address of a patent holder
CP02 Change in the address of a patent holder

Address after: I Si Eli Murli Nor, France

Patentee after: THOMSON LICENSING

Address before: BLONY-BIYANGU CITY, FRANCE

Patentee before: THOMSON LICENSING

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20190307

Address after: Paris France

Patentee after: International Digital Madison Patent Holding Co.

Address before: I Si Eli Murli Nor, France

Patentee before: THOMSON LICENSING

Effective date of registration: 20190307

Address after: I Si Eli Murli Nor, France

Patentee after: THOMSON LICENSING

Address before: I Si Eli Murli Nor, France

Patentee before: THOMSON LICENSING