CN1985514A - 空间和snr图像压缩的方法 - Google Patents
空间和snr图像压缩的方法 Download PDFInfo
- Publication number
- CN1985514A CN1985514A CNA2005800238451A CN200580023845A CN1985514A CN 1985514 A CN1985514 A CN 1985514A CN A2005800238451 A CNA2005800238451 A CN A2005800238451A CN 200580023845 A CN200580023845 A CN 200580023845A CN 1985514 A CN1985514 A CN 1985514A
- Authority
- CN
- China
- Prior art keywords
- resolution
- data
- image
- coded data
- cohr
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
- H04N19/36—Scalability techniques involving formatting the layers as a function of picture distortion after decoding, e.g. signal-to-noise [SNR] scalability
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Processing (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
空间和SNR可伸缩图像压缩的通用方法包括:对输入图像(vi)进行高分辨率编码(202a)以获得高分辨率编码数据(coHR,LQ),作为基本数据;在所述高分辨率编码数据(coHR,LQ)的基础上衍生第一缩减表示图像(p1);在所述输入图像(vi)的基础上衍生第二缩减表示图像(p2);在比较第一缩减表示图像(p1)和第二缩减表示图像(p2)的基础上,较低分辨率编码(214)较低分辨率质量改善数据(coMR,MQ),该较低分辨率质量改善数据用于改善可从所述高分辨率编码数据(coHR,LQ)重构的图像的视觉质量。这能够支持对多分辨率、多质量用户的好的比特速率分布。
Description
技术领域
本发明涉及一种空间和SNR图像压缩的方法。
本发明还涉及一种空间和SNR图像解码的方法。
本发明还涉及相应的图像压缩设备。
本发明还涉及相应的图像解压缩设备。
本发明还涉及相应的图像数据接收器。
本发明还涉及包括这种图像数据接收器的图像显示设备。
本发明还涉及包括这种图像压缩设备的图像数据记录器。
本发明还涉及用于这种压缩或解码方法的软件。
背景技术
在视频压缩的现有技术中存在多种伸缩性技术。伸缩性后面的思想是在基本数据集中为了后续的传输、存储等对与视觉更相关的数据进行编码,并且根据用户的需求也可以编码一个或多个改进数据集。这可以用于,例如用户不想支付最高质量图像数据而可以满足于在基本数据集的基础上可获得的重构质量情况下的无线传输(例如,因为用户在预览或浏览内容)。特别是当用户的显示屏只能呈现基本质量时,这会很有意义。
这些改进数据集包括不在基本数据集中的(图像)信号信息。例如,影响图像的可视清晰度的两种技术是所谓的质量或SNR(信噪比)伸缩性以及所谓的空间伸缩性。在前者中表示图像内容的数值被粗略地取整。因为在最近的编码器中这个取整是在离散的余弦变换(DCT)系数上进行的,因而结果主要是图像清晰度的下降。
空间伸缩性后面的思想是在基本数据集中编码进用于较低分辨率、再次采样(通常是通过因子2)的图像的数据。这样做非常合理,因为通过对低分辨率(resolution)图像进行放大(up-scaling)可以获得更高分辨率(本文中所定义的分辨率近似于像素数量)的图像,得到的图像看上去不清晰,就像在SNR伸缩性策略中节省了比特一样。这种策略当前在标准清晰度(SD)电视和高清晰度(HD)电视之间的长转换(lengthy transition)中普遍使用。拥有HD电视的用户能够通过放大观看SD材料,或者订购真正的HD材料,其中清晰度改善数据在第二频道中传输。拥有SD电视的用户则只能订购基本的低分辨率频道。
空间和SNR伸缩性也可以组合,因为例如,SD用户可以订购低分辨率图像的低质量(SNR)版本以及该低分辨率图像的进一步质量提高层(SNR层),而HD用户可以订购低分辨率图像的低质量版本、放大它,还可以订购高质量图像的进一步质量提高层(即,包括差分信息的高分辨率图像)。
WO 03/036981中公开了这样的现有技术的用于动画图像的空间-SNR可伸缩图像编码器的一个典型例子,在本发明的图1中对此进行了示意性说明。通常对空间伸缩性来说,基本数据是低分辨率的,因此输入信号vi先被缩减然后被编码,然后在放大的基本数据的基础上为高分辨率用户编码高分辨率改善数据。
不利之处在于这种产生基本数据和改善数据的策略相当严格。这导致了,例如,对基本数据进行放大以用作高分辨率改善编码器(图1中的vLdec)的输入的过程会引入假象(如ringing),这必须由高分辨率高质量改善数据来弥补。因此所述比特最好不使用,因为在用于假象消除的改善层中需要许多比特,导致如下问题,为了拥有能够为不同用户最优服务的通用空间-SNR压缩策略,与非空间可伸缩的策略相比需要的比特数量增加。
发明内容
本发明的目的是提供一种空间-SNR压缩替代方案,其允许编码图像数据的更通用的分布,以便服务不同用户。
该目的是通过一种空间和SNR可伸缩图像压缩方法实现的,包括:
-对输入图像进行高(第一)分辨率编码获得高分辨率编码数据(coHR,LQ);
-在所述高分辨率编码数据(coHR,LQ)的基础上衍生第一缩减表示图像;
-在输入图像的基础上衍生第二缩减表示图像;
-在比较第一缩减表示图像和第二缩减表示图像的基础上发现,较低分辨率编码获得的较低分辨率质量改善数据(coMR,MQ),不能用于改善可以从高分辨率编码数据(coHR,LQ)重建的图像的视觉质量,因而(较低分辨率编码的)较低分辨率低于并且不等于(高分辨率编码的)高分辨率。
在当前压缩方法中总是提供高分辨率的“主要”信道,也就是说在编码器/压缩器中其被生成作为基本数据,并且因而在解压缩器中作为高分辨率基本数据。编码器中对高分辨率数据的缩减只是为了计算改善层,也就是说,基本数据以高分辨率发送/存储...,并且在用户方的解压缩器中只在需要低分辨率输出图像的情况下才进行缩减。
这与当前技术的空间-SNR可伸缩编码器相反,当前的编码器总是首先缩减高分辨率图像以编码基本数据,并且因而将它们的基本比特消耗在低分率上。换句话说,如果在当前技术的编码器中更多比特消耗在基本数据中,他们不需要去除(高分辨率)不清晰,因为高分辨率用户只接收基本数据,将需要放大它以获得高分辨率输出图像。对于人类观察者,这意味着许多额外消耗的比特贡献给了假象,而不是所需的高分辨率图像结构,而利用本发明的高分辨率基本数据(参看图2的coHR,LQ)可重建所需的高分辨率图像,并且消耗的比特数量是允许的。
除了基本数据,当前方法提供一个或多个用于较低分辨率的改善数据流,例如,通过图2所示的编码器214的编码器部分CD2,MR编码的较低分辨率数据coMR,MQ,并且在通用多方式中可以添加来自其它分辨率的改善数据,以提高例如通过增加适当放大的较低分辨率改善数据可获得的高分辨率输出图像的视觉质量。
注意得到的高分辨率流可以通过高分辨率改善数据,诸如coHR,HQ进一步改善,但是这是在通过低分辨率数据的改善之后的改善,也就是说只是为了补偿在依照本发明计算多分辨率/多SNR编码(图2中用虚线椭圆示意性示出了缺少在先高分辨率路径中的改善编码的情况)之后剩余的错误。
因而,如果在用户方需要例如高分辨率输出(例如HD或SD是主信道)-用户定购,例如编码的数据流coHR,LQ,coMR,MQ,coHR,HQ,并且采用来自解码器输出323的输出图像(参看图3)-然后因为主要图像内容是基于未缩放的高分辨率数据流coHR,LQ,任何高分辨率增强数据coHR,HQ应该最多只补偿低分辨率数据coMR,MQ的放大错误,因而可以在考虑包括放大和缩减的链中的视觉质量的情况下更合理地在coHR,LQ和coMR,MQ之间划分比特。
另外,对于低分辨率(例如SIF)用户,将不存在放大假象,因而可以调谐coHR,LQ和coMR,MQ以便给予用户任何合理的东西甚至是高质量图像。
一般,遵从例如特定的分布约束,对所述比特进行最优划分,以便低分辨率和高分辨率用户都对质量满意。第一供应商可能例如想主要为SD电视用户服务,但是还结合了用于SIF移动浏览者的层,优化整个链(先验的和固定的,或实时的),使得较低分辨率增强数据将依照定购的权重标准最优地对高分辨率图像和低分辨率图像起贡献。或者,第二供应商可能在SD电视的低分辨率中具有较大市场,同时还想在HD电视的高分辨率中占有一定市场,但是只用于较少数量的用户。
要强调的是,高分辨率不应该解释为一定是有限制的:尽管图2的例子中“主要”高分辨率信道是具有最高可用的分辨率的信道,但是利用本发明方法的互补方法可以产生更高的分辨率,例如利用当前的放大技术,有可能以类似于图1所示的方式利用增强数据来改变。在本发明中主/高分辨率信道定义为重要的适当使用的分辨率,可以如上所述利用来自较低分辨率的数据改善该分辨率,或者其贡献自己的数据给较低分辨率的重构图像。
图像应该理解为图像数据元素的任何优选连接集合,因而不是只有矩形图像,还有不规则形状的图像对象,并且可以是单个静止图像和图像序列(运动图像)。
在本发明的一个实施例中,衍生第一缩减表示图像包括:
-解码高分辨率的编码数据,获得高分辨率解码数据(voHR,LQ);
-缩减所述高分辨率解码数据,获得低质量的较低分辨率解码数据(voMR,LQ)作为缩减的表示图像;
-并且第二缩减表示图像的衍生是通过对非编码的输入图像进行缩减获得输入图像的较低分辨率版本作为第二缩减表示图像来完成;
-并且所述比较包括从输入图像的较低分辨率版本减去低质量的较低分辨率解码数据。
所述减法通常是基于像素(pixel-wise)的。
本领域的技术人员将发现,这样的缩减除了在解码信号上进行,还可以在编码域中进行。
在对上面两个适用于序列化输入图像的方法的实施方式的进一步改进中,高分辨率编码获得的高分辨率编码数据具有低于或等于预先指定的第一位速率(BRBase)的位速率。
如果在这个流中消耗很少位,即最小的可接受的数量,则是有利的,所述最小可接受数量是基于诸如以下条件确定的:
-如果改善数据没有被定购或者没有(正确)接收到,例如因为干扰的原因,则该基本数据仍然能够给予适当质量的图像,例如在所选供应商的用户的典型显示器上(例如平均尺寸的SD电视显示器),或者
-对于特定的发送信道技术,这可以是信道预算表,依照商业模式用户能够以合理的价格定购该表。
在对先前实施例的进一步的规定中,高分辨率编码的目的是获得的高分辨率编码数据具有在100到400k比特/秒之间的固定或最大第一比特速率(BRBase),并且优选最小比特速率为100比特/秒。依照经验验证,这样在大部分当前SD和SIF显示器上获得高质量序列。
在另一个详细描述的实施例中,高分辨率编码数据(coHR,LQ)和较低分辨率的质量改善编码数据(coMR,MQ)的比特速率的和小于或等于指定的第二比特速率(BRMR)。换句话说,供应商可以最好为两种用户,即高分辨率HR用户和较低分辨率用户说明针对特定的平均保证质量的预算。用户可以进一步决定定购进一步的改善流(如果提供了任何改善流的话)。
如果高分辨率编码和较低分辨率编码各具有它们的独立运动估计和运动补偿步骤,则对于图像序列压缩是有利的。
如同当前技术,SNR流可以完全在不同量化的基础上生成。但是,如图2中的用于不同分辨率和SNR级别的所有编码器(/解码器)模块可以是具有运动预测的完全编码器(如图1中的模块102),并且各具有它们的独立估计的运动向量(例如,用于第二改善的不同图像)。这具有的优点在于可以使用标准编码器(例如MPEG),标准编码器在例如软件中的压缩并行化中,或具有标准编码器库的处理器上(其中控制策略可以考虑处理负载),尤其通用。最后,应注意,显然不需要实际解码器,因为它们已经构成编码器的一部分,并且所需的重构的信号可以从编码器内部直接送到输出(例如,如同图1中的vLdec)。
解码空间和SNR可伸缩编码的图像的互补方法包括:
-接收高分辨率编码数据(coHR,LQ);
-进一步接收较低分辨率的质量改善编码数据(coMR,MQ),以便改善从所述高分辨率编码数据可重构的图像的视觉质量;
-在缩放(scale)到输出分辨率的高分辨率编码数据和较低分辨率的质量改善编码数据的基础上,构造输出分辨率小于或等于高分辨率的输出图像。
利用本发明的编码策略,用户能够以简单方式获得很多流,他可以定购这些流和解码这些流,并且由于与缩放转换器的不同组合能够从这些流衍生出适用于不同屏幕尺寸的不同的适当高质量图像的流形(例如在图3中,利用所需要的硬件,即只有3个解码器和两个缩放转换器,可以衍生出6个不同分辨率-质量的输出)。但是,对于所有输出图像,高分辨率低质量流编码数据(coHR,LQ)已提供,即被接收和解码。
该解码方法还提供了在用于供应商和订户的商业模式中的通用性,订户可以在计算费用之后定购具有可接收的质量的多个流组合中的任何组合。如果用户从第一流切换到第二流,例如通过从第一房间中的第一屏幕重定向到第二房间中的第二屏幕,这可以实时(on thefly)地完成。该重新设置也可以基于已经存储的流有利地完成(例如,当用户切换到较高分辨率的屏幕,并且较低分辨率改善数据coMR,MQ被进行不同的处理以便为高分辨率输出图像做出贡献的时候,该较低分辨率改善数据coMR,MQ得到另一个意义)。
供应商,例如再分配者,比如从卫星接收数据的电缆公司,可以使用通过以上任何方法编码的图像数据,在发送信道上发送数据的方法之中,该图像数据包括高分辨率编码数据(coHR,LQ)和用于改善在该高分辨率编码数据(coHR,LQ)的基础上重构的图像的视觉质量的相应的较低分辨率质量改善编码数据(coMR,MQ)。
公开了特别适合执行依照本发明的方法的空间和SNR可伸缩图像压缩设备,其包括:
-高分辨率编码器,用于将输入图像编码为高分辨率编码数据(coHR,LQ);
-第一缩减装置,用于在所述高分辨率编码数据的基础上衍生第一缩减表示图像;
-第二缩减装置,用于在输入图像的基础上衍生第二缩减表示图像;
-较低分辨率编码器,用于在来自所包含的比较器(用于比较第一缩减表示图像和第二缩减表示图像)的比较信号的基础上,获得可用于改善在该高分辨率编码数据的基础上重构的图像的视觉质量的较低分辨率质量改善数据(coMR,MQ),因而较低分辨率低于并且不等于高分辨率。
该设备通常可以是专用ASIC或单元,或是运行编码其性能的软件的处理器。
在一个实施例者,图像压缩设备:
-第一缩减装置,包括解码器和缩减器的系列处理链,该解码器用于将高分辨率编码数据(coHR,LQ)解码为高分辨率解码数据(voHR,LQ),该缩减器用于将高分辨率解码数据缩减为低质量较低分辨率解码数据(voMR,LQ)作为缩减的表示图像;
-第二缩减装置,包括非编码信号缩减单元,该单元用于将非编码输入图像缩减为输入图像的较低分辨率版本作为第二缩减表示图像;
-比较器,包括用于从输入图像的较低分辨率版本减去低质量较低分辨率解码数据的减法器,其获得比较信号。
该压缩设备对应于特定的空间和SNR可伸缩图像解压缩设备,该解压缩设备包括:
-用于接收高分辨率编码数据(coHR,LQ)的装置;
-用于接收用于改善可从该高分辨率编码数据(coHR,LQ)重构的图像的视觉质量的较低分辨率质量改善编码数据(coMR,MQ)的装置;
-至少一个用于将输入图像从其输入分辨率缩放到预定的输出分辨率的缩放装置;
-用于将两个输入图像加在一起的加法装置;
-用于解码编码的输入图像的至少一个解码装置;其中所述缩放、加法和解码装置以如下图像处理顺序连接:
-首先是用于解码高分辨率编码数据(coHR,LQ)以获得高分辨率解码数据(voHR,LQ)的高分辨率解码器,和用于解码较低分辨率质量改善编码数据(coMR,MQ)以获得较低分辨率质量改善解码数据(voMR,MQ)的较低分辨率解码器,接着是用于将所述高分辨率解码数据(voHR,LQ)缩减到预定的输出分辨率以获得基本图像的缩减器,和用于将所述较低分辨率质量改善解码数据(voMR,MQ)缩放到预定的输出分辨率以获得改善图像的缩放器(scaler),最后是用于将所述基本图像和改善图像相加以获得输出图像的加法器;或者
-首先是用于将高分辨率编码数据(coHR,LQ)缩减到预定的输出分辨率的第一缩放装置,和用于将较低分辨率质量改善编码数据(coMR,MQ)缩放到预定的输出分辨率的第二缩放装置,随后在加法器中将上述缩放装置的输出图像相加,最后在解码器中解码加法器的输出;或者
-首先是用于将高分辨率编码数据(coHR,LQ)缩减到预定的输出分辨率的第一缩放装置,和用于将较低分辨率质量改善编码数据(coMR,MQ)缩放到预定的输出分辨率的第二缩放装置,随后是用于解码相应的结果图像的第一和第二解码器,最后是用于将所得到的图像相加的加法器;
一些缩放器可以执行一缩放(即转换到相同的分辨率;实际上什么也不做)。
上述解压缩设备有利地包含在图像数据接收器中,该图像数据接收器还包括:
-用于接收解码的图像数据的连接;
-数据接收单元,用于通过所述连接接收期望的解码图像数据和调节该数据为标准编码的图像格式并且输出它。
上述图像数据接收器的一个实施例还包括处理器,该处理器用于确定一种解压缩模式,该解压缩模式表明要从哪个数据组合重构将通过输出端输出的输出图像,该组合至少包括高分辨率编码数据(coHR,LQ)和较低分辨率编码数据。数据编码的重新配置可以此方式(实时的)进行,例如,如果用户从他的移动设备上的第一屏幕切换到第二屏幕,或者从第一供应服务切换到第二服务。
该图像数据接收器有利地包含在图像显示设备中,例如,电视接收器,或诸如PDA或移动电话的移动通信设备,所述图像显示设备还包括诸如LCD或所连接的图像投影单元的显示器。
应用本发明方法的另一个有利设备是图像数据记录器,其包括空间和SNR可伸缩图像压缩设备,该压缩设备用于在将编码数据(coHR,LQ,coMR,MQ)写入存储器期间供应数据,该存储器例如该图像数据记录器中包括的可释放盘或固定硬盘或硬态存储器。这种类型的典型设备是DVD记录器或类似设备,另一个例子是具有所需的存储器访问硬件的个人计算机,并且该计算机的处理器运行编码了依照本发明的方法的软件。
附图说明
参考下文描述的实施方式和实施例,并且参照附图,依照本发明的所述图像压缩和解码方法、图像压缩和解压缩设备、图像数据接收器、图像显示设备和图像数据记录器的这些和其它特征将得以阐明并且变得显而易见,所述附图只作为用于示范更一般的概念的非限制性特定图示,并且图中的虚线用于表示可选的部件。
在附图中:
图1示意性示出了当前技术的空间-SNR视频压缩设备;
图2示意性示出了依照本发明的图像压缩设备的示范实施例;
图3示意性示出了依照本发明的互补的图像解压缩设备的实施例;
图4示意性示出了包括依照本发明的图像数据接收器的图像显示设备;
图5示意性示出了依照本发明的图像压缩设备的另一个示范实施例;
图6示意性示出了特别适合于低分辨率的使用的图像压缩设备的另一个示范实施例。
具体实施方式
图1示意性示出了从当前技术(例如WO 03/036981)已知的空间可伸缩(也是SNR可伸缩)编码器100的典型实施例。在当前技术中已知的适当图像保真操作(低通滤波,高斯模糊等)之后,在下采样器180中对输入图像信号vi下采样,获得输入信号vi的低分辨率版本viL,通常是半分辨率的。例如,如果输入图像信号vi是标准清晰度(SD)分辨率(例如720×576像素),那么低分辨率信号viL是SIF或CIF分辨率(在PAL中的360×288像素,实际上16可分的352×288)。该低分辨率信号viL由低分辨率编码器102(编码基本数据)编码。在该实施例中,DCT转换的表示cpoLR,FQ由第一和第二量化流生成器单元130和140编码为多个不同质量/SNR的(可伸缩)流(c′o和c″o;分辨率和质量指数下降)。【注意本文中使用的术语“流”不应该理解为狭义的:为了简化假定不同数据被流化在沿着从数据生产者到数据消费者的相同或不同信道的不同流中。但是,数据可以任何等价的技术表示方法来表示,例如对于静止图像,其可以驻留在存储器的一部分之中,等价于流。】在低分辨率信号vLdec的基础上,因为它是从量化的DCT转换的表示cpoLR,FQ(其可以在接收器/解码器一方从输出的非可伸缩的流nsoLR,FQ获得)解码的,改善信息由高分辨率编码器152编码,该高分辨率编码器编码要在解码器一方加到低分辨率信号上的高分辨率清晰度改善信号,这是由于对向下采样180的不清晰进行的图像保真过滤和像素dropping。这是如下完成的,通过将低分辨率信号vLdec放大(上采样)182到标准分辨率,并且利用减法器150将之与原始输入信号vi比较,获得剩余信号,该剩余信号在考虑到诸如发送路径的可用带宽等因素的情况下被编码到期望的准确度。加以必要的变更,该高分辨率差分信号也可以用不同的可伸缩SNR流编码(类似于130和140,未示出)。
低分辨率编码器102是在视频编码标准,诸如MPEG,H26x,AVC(高级视频编码)等,之中使用的标准类型。运动场景的图像在所谓的图像组(GOP)中编码,图像组起始于内部(I)图像,内部图像只基于在对应时刻的原始图像的数据编码(也就是说,仿佛该图像是静止图像,而不是运动场景的一部分)。GOP中接下来的图像是考虑了运动场景中的冗余信息来进行编码的。例如,背景结构可能简单显示出向左的运动转换,而前景的人可能在向右移动并轻微转动。在简化例子中,在连续图像中的大部分背景像素可以通过在要再产生的新图像中的偏移位置简单重画在先图像的背景像素而生成,不必须附加信息。因此,GOP中的一些图像是所谓的预测编码(P),该编码首先将所有对象(或是组成对象的实际像素块)移动到要再生成的图像中的期望位置。因为与原始图像之间总是存在差异(例如由于照明的变化,或者人的轻微转动),与原始图像的差异也需要被编码(并且作为校正在解码器一方被添加,以便获得基本上的原始图像内容),但是这比以内部方式编码图像需要的比特少的多。一旦已经与I图像比较在未来某位置生成了P图像,可以双向预测即时图像(B图像),例如,只从过去或未来,或者从两种预测的组合。
该行为在低分辨率编码器102中借助于开关106实现。在I图像设置中,原始图像首先在逐块的基础上由离散余弦变换器108转化为DCT(离散余弦变换)系数块。该转换是完全可逆的,因而在该操作之后并没有太大的压缩增益。因此以量化器110的形式引入量化。可以在DCT块上应用多个图像转换以减少信息量,这导致很难看出的与原始图像的差异。一个这样的转换的例子是转换系数的值可以舍入(round off),例如等于127的DC系数值(位于0到255之间)可以舍入为128。舍入到例如最近的2的倍数也可以实现为除以2(或者乘以缩放因子1/2)并且舍入到整数(并且在编码器一方乘以2以便重建)。该示例舍入使得每个系数节省1比特。
因而在已知的视频编码策略中,量化通常包括利用一个常数对所有系数的除法缩放,并且随后利用包含用于不同的DCT系数的不同舍入因子的固定矩阵进行量化(舍入)。基本原理是较高的频率系数可以更粗糙地量化,因为这仅在图像的清晰度上产生少量减小。该单因子缩放是控制比特速率的简单方式。从所述量化器形成的系数面临可变长度编码器112中进一步的比特削减。该可变长度编码器112利用了如下原理,即一些比特模式比其它比特模式有更高的出现可能性(例如,在嘈杂的小DCT系数值已经被量化为零时,多个连续的零值系数将出现),因而它们可以被映射到小的代码字,而不常出现的比特模式可以被映射到长代码字,导致所需的比特数目净减少。因而输出的编码流nsoLR,FQ(非SNR可伸缩的,即“完全”质量FQ)每个图像包含多个比特,其根据图像内容变化,诸如,例如当背景中存在大量运动时,包含许多用于构造背景的高频系数,或者在用于校正预测的P,B图像的差分图像中包含大量信息。但是,可能存在约束,例如发送信道的有限带宽,或解码器的有限处理能力,因而通常希望控制输出比特速率。控制器114可以容易地做到这一点,其采用缩放常数,例如将所有系数除以4,这样导致质量下降,但是每个系数节省了2个比特。注意在低分辨率编码器中没有示出缩放,因为它输出“完全”质量流。
典型的编码器不但包括这样的编码部分(虚线之上的CD),还包括解码部分,因为在预测/校正(P,B)模式中编码器需要知道解码器得到什么。因而,反向量化116取消量化(其产生与原始图像相比具有量化误差的主要不清晰的图像,其幅度取决于量化的粗糙程度),并且反向DCT118在量化的DCT系数的基础上重新生成视频图像。该重构的在时刻t-1的图像被连同新输入的原始图像viL(t)一起输入到运动估计器124,并且确定每个块的运动。这样的运动估计器一般使用“完全搜索块匹配”,但是也可以使用更高级的运动估计器,诸如3D循环搜索(参考例如WO 0188852)。利用得到的运动向量mv,通过运动补偿器126将重构的图像r运动补偿到新时刻t。该编码器处于对GOP的剩余部分(开关106到设置P,B)的预测模式,并且跟随的图像是P图像。因而减法器104输出运动补偿的/预测的图像P与新输入的图像viL(t)之间的差,并且该剩余图像现在通过上述单元链进行必要更正来处理。加法器120现在用于将由反向DCT 118输出的重构的剩余图像与在先的运动补偿预测p(t)相加,剩下的处理继续以进行必要更正。
SNR可伸缩性(在低分辨率数据的例子中)可以如下实现。第一量化流发生器单元130利用乘法器(或除法器)134以一个大的/粗糙的分割常数s1(例如等于16)来缩放所有的系数,在此之后执行量化136(利用矩阵Q2执行,该矩阵可以是与编码器102的编码器部分相同的标准矩阵,或特别预定的矩阵)和可变长度编码138。所输出的流是低质量的,并且当然是低(SIF)分辨率的。例如,在0到255之间的所有系数值可以舍入到最近的10的倍数,例如令127等于130。减法器139导出原始输入和粗糙量化的表示之间的差分信号,该信号具有小的范围(在该例中范围为10,差分为3),并且该差分信号由量化流发生器单元140编码,例如舍入到最近的2的倍数,也就是说以4代替3,得到很小的最终误差。
高分辨率编码器152被构建并且功能做了必要更改,只有此时输入剩余信号vdp,并且因而在那些剩余图像上进行运动估计、量化和预测等。
作为要通过与原始输入信号vi进行比较来导出剩余信号vdp的输入,解码图像vLdec由放大器(up-scaler)182使用当前技术的任何内插策略放大。该剩余信号vd被输入到减法器154的正输入端,减法器的输出端被连接到具有I和P,B状态的与离散余弦变换器158相连接的开关156,离散余弦变换器158的输出端被连接到速率可控量化器160,而速率可控量化器160的输出端被连接到可变长度编码器162和反向量化器166,反向量化器166的输出端被耦合到反向DCT168。IDCT168的输出端连接到一个加法器,该加法器用于根据开关172的位置不作任何操作或者将先前的剩余预测加到在预测当前剩余图像之后所重新生成的剩余,得到的信号r′被输入到运动估计器174和运动补偿器176,获得对当前剩余图像的预测作为减法器154的输入。在所示范的实施例中,所述输出只是非可伸缩的高分辨率流nsoHR,FQ,尽管以类似于低分辨率的方式也可以生成多个高分辨率SNR流。
图2示意性示出了依照本发明的空间和SNR可伸缩图像压缩设备200的一个实施例。
图像压缩设备200被安排接收输入图像信号vi,该输入图像信号可以是未压缩的,例如当该图像压缩设备是DVD记录器时依照PAL标准接收的模拟电视信号,或者当该图像压缩设备是照相机系统时来自(例如消费者)照相机CCD的信号,但是在代码转换器实施例中该输入信号vi也可以是压缩信号,在这种情况下编码器被安排首先执行解码到中间格式(通常是依照电视标准的波形信号)。术语“输入图像”和“信号”应广泛理解为对图形对象的任何表示,但是为了更清楚地解释图像压缩设备200的工作,假定如果需要解码则在将得到的未编码图像信号vi输入到图像压缩设备200之前进行解码。
高分辨率编码器202将输入图像vi的最重要的部分(例如在DCT编码器中,至少低频系数的最高有效位)编码为高分辨率编码数据coHR,LQ。在运动图像输入(视频信号输入vi)的情况下,该编码器202通常包括两个部分,即编码器部分202a和解码器部分202b。所描述的图像压缩设备200的示范实施例被设置为压缩与诸如MPEG2或高级视频编码(AVC)(后一个标准最近由Joint VideoTeam(JVT)的IS0/IEC MPEG&ITU-T VCEG(IS0/IEC JTC1/SC29/WG11和ITU-T SG16 Q.6)规定)兼容的视频,但是本领域技术人员可以很容易地修改该图像压缩设备200以使得它对于其它当前已知的或未来的图像压缩标准执行类似工作。
用于运动图像编码的高分辨率编码器202通常可以是图1所示的编码器模块102的结构,并且还在输出连接上产生高分辨率解码数据(voHR,LQ),例如还是依照模拟或数字波形电视标准。
高分辨率编码器202的控制器(参看图1的114)通常被预先设置(适应性的)以使得所输出的高分辨率编码数据coHR,LQ的比特速率基本上等于第一比特速率BRBase,例如等于保证最低(可接受)视觉质量并且例如在发送信道上可行的一个值。经验表明利用等于或低于300k比特/秒和等于100k比特/秒(对于720×576像素的SD分辨率)的第一比特速率,特别是后者利用改善数据改善了时,可以获得合理的图像。
输入图像vi(在合适的图像保真之后,在图2中未示出)由缩减器(down-scaler)204缩减(downscale)到较低分辨率(例如输入分辨率的一半,但是经过必要更改也可以应用其它的(非)分数分辨率),并且类似地高分辨率解码数据(voHR,LQ)由第二缩减器206缩减到相同的较低分辨率,获得低质量较低分辨率解码数据(voMR,LQ)。这两个信号构成依照该特定实施例的分别第二缩减表示图像p2和第一缩减表示图像p1的版本,对这两个图像的比较将引导改善数据编码。
缩减的输入图像viL(=p2)和低质量较低分辨率解码数据(voMR,LQ)被加以比较,为了简化起见通常由减法器210来完成(尽管可以使用更精细的比较器通过考虑视觉系统的知识来比较所述信号,并且例如提供附加数据给进一步的改善编码器,该改善编码器围绕特定的边缘编码更多改善数据,而在特定结构中编码更少数据),获得作为输出的差分信号vd。所述差分信号指示由高分辨率编码器202造成的但是在缩减的分辨率中的量化误差(当该差分图像被再次放大时,将会存在另外的放大/ringing误差,因而差分信号vd中的信息不完全等于在高分辨率编码202中丢失的信息,但是大致等于它)。该差分信号vd,是较低/SIF分辨率观看者要具有理想图像所需要的(与缩减的输入图像vi相同,该缩减可以依照固定的缩减策略,或利用按照需要适应特别针对的低分辨率显示器的优化缩减),该差分信号可以由较低分辨率编码器214编码为任意的质量/准确率(SNR),该较低分辨率编码器214被设置为输出较低分辨率质量改善编码数据(coMR,MQ)。该较低分辨率编码器214可以如图1中的模块102一般构造,也就是说它可以从先前的图像预测差分图像vd并且(DCT或其它)编码校正。或者,它也可以构造为没有运动估计部分(即没有102中的解码器部分),而“静态”差分图像vd(例如在DCT域中)可以量化为一个或多个改善数据流,例如较低分辨率编码器214包括类似于图1中的模块130的编码模块。
为总的数据流分配特定的第二比特速率BRBM使得较低分辨率(例如SIF)观看者能够拥有好的视觉质量的图像:所得到的较低分辨率编码器214的比特速率(预算)遵从简单的减法:
BREMR=BRMR-BRBase 【等式1】
如前所述,差分图像vd也不是对于由高分辨率编码器202造成的高分辨率格式中的误差的这样的坏的估计,因而任何较低分辨率改善数据(例如coMR,MQ)也可以在适当的放大之后为高分辨率用户的质量改善做出贡献。所述放大可以使用当前技术已知的任何内插策略,例如简单线性内插或空间像素域中的多像素加权或基于转换的放大。在接收器一方所述两个流coHR,LQ和coMR,MQ的组合已经可以导致可接收质量的图像,但是高分辨率用户通常想要更好的质量,因而所述压缩设备200可以典型包括进一步的高分辨率改善编码器240,该高分辨率改善编码器用于编码到特定的准确率/视觉质量(例如由信噪比SNR或心理视觉函数测量)或保持与输入图像vi的差分的比特速率,获得高分辨率改善编码数据coHR,HQ。该高分辨率改善编码数据coHR,HQ反过来可以用来为较低分辨率用户获得改善的较低分辨率图像。
编码器预测通过在加法器234(类似加法器236;注意在资源节省实施例中,技术人员能够组合一些加法器和/或放大器)中将较低分辨率改善数据(在放大之后)加到高分辨率基本数据,解码器能够重构什么。该总的重构信号(voHR,MQ)在减法器238中被与输入信号进行比较,减法器238获得的差分信号由高分辨率改善编码器240编码为另一个高分辨率改善数据,并且如果需要的话甚至由另一个改善编码器比如编码器244来编码。
如果这样的高分辨率改善编码数据coHR,HQ已知将由高分辨率用户和较低分辨率用户两者来使用,则内容供应商可以配置他的图像压缩设备200以使得改善不是针对在解压缩链(基于coHR,LQ和coMR,MQ)之后在高分辨率中仍然存在的误差的数学精确补偿改善,而是可以产生具有用于两种用户的平均性能(通常至少其比特速率,还有其它压缩设置可以被平均,诸如,运动向量所消耗的比特,高频系数通过可变量化矩阵的贡献等)的高分辨率改善流coHR,HQ。
在示范实施例中,进一步示出了可以添加多少分辨率和SNR改善层,技术人员可能实现多种组合。在该例子中,另一个改善编码器220被包含在所述较低(这里是中间)分辨率路径中,以便通过在加法器293(低分辨率处理路径中示出了类似结构的加法器295)中将已经编码的较低分辨率中间质量信号voMR,MQ加到来自编码器220的该另一个改善数据,来获得结果的中间分辨率高质量解码信号voMR,HQ。在该示范实施例中,所述中间分辨率高质量解码信号voMR,HQ构成了在甚至更低的分辨率(这里是低)上编码进一步数据的基础(用于改善所述分辨率中的任一个),通过利用比较器212比较已经编码的信号(通过缩减器222缩减的中间分辨率高质量解码信号voMR,HQ)和原始输入图像vi的类似缩减版本(由缩减器208缩减),并且在其基础上利用低分辨率改善编码器216和226编码进一步的改善数据。
或者,技术人员可以构造用于在缩减基本编码信号voMR,LQ的表示(206后的虚线箭头,和缩减器291)的基础上编码低分辨率改善信号的(固定或自适应的)编码方案。所述高分辨率信号还可以利用编码器244进一步改善,最终获得高分辨率超好质量信号,和它的所有相应编码版本。
发送信道280被示意性示出具有用于基本流的第一信道部分和用于改善流的第二信道部分。在图像数据记录器中,该发送信道可以是例如到存储器288的总线,所述存储器比如硬态存储器或基于硬盘的存储器。
图3示意性示出了示范的图像解压缩设备300。用于接收高分辨率编码数据coHR,LQ的装置330被包括在其中,装置330通常实现为连接到信道(例如电缆T.V.)的连接器,比如导线插座或者数字连接器的插头。类似地,存在用于接收较低分辨率质量改善编码数据(coMR,MQ)的装置332,并且还可以存在诸如用于高分辨率改善编码数据coHR,HQ的接收装置333的其它图像接收装置。所述三个编码的输入流分别由高分辨率解码器302、较低(本例中是中间)分辨率解码器308和高分辨率改善解码器310解码。具有该完全解码能力的用户(例如因为他使用标准软件编码器,该标准编码器可以被设置为并行编码图像的多个部分和若干改善层)可以在两个图像缩放器的帮助下已经达到6个不同的分辨率-质量级别。例如,如果用户想要预定的输出分辨率等于所述高分辨率的图像,他可以定购(在这种情况下改善流花费太高)或只将基本数据解码(利用资源受限设备,例如为移动设备节省电池)为高分辨率解码数据voHR,LQ。因此他访问输出端304(例如,IC的插头或在包含该解压缩设备300的独立设备的背面的电缆插座),在操作期间,也就是例如在该设备已经被配置为特定的解压缩配置之后,所述输出端304被至少逻辑连接到高分辨率解码器302。因而,在该输出端,用户访问的输出图像vo是信号的解码的低质量高分辨率版本voHR,LQ。所述解压缩设备包括缩减器306,用于接收该解码的信号作为输入并且缩减它。还可以存在用于访问低质量较低分辨率版本voMR,BRBase的第二输出端305,两个信号都要求基本等于BRBase的比特速率。加法器307提供将基本图像b*和改善图像e*的例子合并的第一可能性,也就是说加法器的第一输入端被连接以接收缩减的高分辨率解码数据voHR,LQ,并且其第二输入端被连接来接收由较低分辨率解码器308输出的解码的较低分辨率质量改善数据(voMR,MQ),并且其输出被连接到输出端322以提供较低分辨率改善信号voMR,BRMR。在所预定的输出分辨率不等于所接收的两个编码的分辨率中任何一个的情况下(例如在这两个分辨率之间或比它们都低),需要两个缩放器来获得所需的基本图像b*和改善图像e*,技术人员能够连接这两个缩放器。用户也可以在高分辨率高质量输出端320访问高分辨率信号。在这种情况下,如果所预定的输出分辨率等于高分辨率,则实际上不需要所述缩减器350,在可重配置的系统中该缩减器350实际上可以通过设置一个可用缩放器使得其缩放到相同的分辨率(即执行单位变换或者完全不执行变换)来实现,或者在便宜的固定系统中该缩放器可以在物理上实际不存在,因为它可以由例如电缆连接来简单替代。因而,该基本图像b是由高分辨率解码器302输出的解码的高分辨率图像,并且所述改善图像从放大器314的输出获得,所述放大器314的输入连接到较低分辨率解码器308的解码输出。类似的,通过解码高分辨率改善数据,在输出端313和323可以获得另外两个信号,输出端323给出最高质量信号voHR,BRBase+BREMR+BREHR。
应该注意,高分辨率基本数据coHR,LQ对于每个重构的信号都有贡献,甚至对于具有较低分辨率的信号也是如此,这个事实使得该解码器特殊。技术人员可以在进行必要变更后为更多的分辨率和/或SNR改善数据构造解码器。
在所述示范实施例中,所述重构,并且尤其是所需要的放大和缩减是在解码信号的基础上实现的,但是可以构造类似的解码器,其中缩放在(例如DCT)变换域中进行。因此,对于构建解压缩设备300有三种可能性:
-首先解码,然后缩放,然后相加;
-首先缩放,然后解码,然后相加;
-首先缩放,然后相加,然后对所得到的信号解码。
所述第二种变型通常被构造为用于将高分辨率编码数据(coHR,LQ)缩减到预定的输出分辨率的缩放装置,和用于将较低分辨率质量改善编码数据(coMR,MQ)缩放为预定输出分辨率的第二缩放装置,这些缩放装置通常包括在解码器自身当中,并且除了DC之外DCT系数被例如偏移,这可以与另一个过滤组合。所输出的被缩放的解码图像随后在加法器中被相加。
在最后一种变型中,所有处理可以在单个解码器中发生。
内容供应商可以(动态地)给不同的分辨率/SNR流分配不同的比特速率(如果该流不被编码/发送等,可以比特速率为零),接收端用户可以根据他的需要(例如,在家看电视和外出时使用便携式图像显示设备410)定购不同的流组合。为了帮助用户选择,供应商还可以提供关于从不同流可获得的质量的指示。
图4示意性示出了图像显示设备410,其中图像数据接收器400连接到显示器422,例如便携式设备的LCD显示器。图像数据接收器400具有用于接收解码的图像数据(也就是说例如coHR,LQ,coMR,MQ,coHR,HQ)的连接412,该连接接到所包括的数据接收单元416的输入。取决于连接412连接到的是哪个信道,数据接收单元416可以执行当前技术已知的若干处理步骤,例如:
-如果该信道是广播电视信道(例如通过天线访问),则数据接收单元416通常包含调谐器,该调谐器用于调谐到所希望的频道并且从发送频率向下转换到基带频率等,获得例如MPEG流作为输出;或者
-如果所述信道是通过电话连接412访问的网络接入,则数据接收单元416可以执行例如TCP/IP功能,包含预定的web地址等,也获得标准编码的图像格式(例如JPEG)作为输出。
所述被压缩的图像数据被输入到连接到数据接收单元416的输出端的可伸缩图像解压缩设备418(上面所述的300)。该图像解压缩设备418通过输出端421输出解码的图像。
该图像数据接收器400可以被构造为进一步包括处理器420,该处理器用于确定解压缩模式D,解压缩模式D表明从哪个数据组合重构要通过输出端421输出的输出图像,所述组合至少包括高分辨率编码数据(coHR,LQ)和较低分辨率编码数据(coMR,MQ)。例如用户可以通过用户接口装置424(例如键盘,但是也可以是其它已知装置,例如图形输入装置,诸如按钮的专用交互部件,或语音接口)输入条件数据(诸如他同意支付的带宽,或者从还表明所得到的质量差异的接口程序中进行对可用改善流的特定选择)。该处理器420还用于(重新)配置该图像解压缩设备418,例如在所需的解码器上切换和设置与所需的缩放器的连接。处理器还可以用于通过第二连接414(在物理上可以与连接412集成在一起,或者通过另一信道技术,例如频道(airway)广播输入对因特网输出)向供应商发送信号RS,表明例如需要发送其它哪些数据(例如在家庭网络系统中,后者是有利的)。指定处理器424的能力的程序可以通过代码输入装置430(例如硬盘驱动器或到远程服务器的网络连接)例如在硬盘上或其它计算机程序产品432上来提供。
因为在压缩一方缩放也可以在压缩的/转换域中实现,图5示意性示出了依照本发明的图像压缩设备的另一个实施例500。在图像压缩设备500中,量化的DCT系数被存储在存储器530中,编码器102的其余部分如上所述实现。假定输入信号vi已经被(无丢失)DCT转换(另外,这可以由额外的DCT转换器实现)。从解码器550获得解码的信号vi*。
所述缩放现在是由第一缩减器532和第二缩减器534在已DCT转换的数据上执行,分别获得第二缩减表示图像p2和第一缩减表示图像p1的特定实施例,并且比较在较低分辨率编码器实施例514中执行(例如在两个DCT系数集之间的差分基础上,并且考虑特定系数对视觉质量的重要性的启发)。技术人员可以对于上述的解压缩设备进行必要更改,实现图像压缩设备500的其它变型,首先在DCT域中进行缩放,然后解码和比较。
在图2的拓扑结构中,在两次中间分辨率改善之后采用已经编码的低分辨率的参考信号,这对于低分辨率用户来说并不是最优的,因为他必须定购许多中间分辨率的比特,而这些主要编码的清晰度会由于缩减而丢失。因此,图6中的方案将已经编码的数据更早馈送给低分辨率。利用该示范双分辨率编码器600,供应商可以有权利选择将低分辨率改善数据编码为(通过编码器216)用于改善从包括编码器202和214的链中得到的编码信号,或者用于改善从编码器202两次缩减的基本数据。此外,开关620在处理器630的控制下。处理器620用于根据例如带宽、质量、用户类型、用户切换到不同显示器(例如当用户在户外移动时,将较低分辨率版本转播到用户的便携式设备)等标准,在单个广播之间或之内切换开关。优选的,还向接收一方(例如存储设备)发送类型指示器F,这样接收端知道数据表示什么,和例如应该定购哪个高分辨率的改善数据。或者,低分辨率改善数据的两种类型可以同时编码。示意性示出的加法器293优选是考虑开关620的设置的特殊类型。例如,它可以将中间和低分辨率改善的平均贡献加到基本信号,并且对于开关620的高设置,它可以加上这两个改善。在对较低分辨率分支的馈送之后,可以关于进一步的改善编码器讨论不同分辨率分支。
所公开的计算组件实际上可以(完全或部分)实现为硬件(例如专用IC的部分)或在特殊数字信号处理器或通用处理器等之上运行的软件。
计算机程序产品应该理解为能够使处理器-通用或特殊目的处理器-在一系列加载步骤之后将命令放入处理器以便执行本发明的任何特殊功能的命令集合的任何物理实现。具体的,计算机程序产品可以实现为诸如磁盘或磁带的载体上的数据,存储器中存在的数据,在有线或无线网络连接上传输的数据,或纸上的程序代码。除了程序代码,该程序所需要的特征数据也可以实现为计算机程序产品。
应注意,上述实施例是为了举例说明而不是限制本发明。除了权利要求中所包含的本发明的元件的组合之外,元件的其它组合也是可行的。任何元件组合可以在单个的专用元件中实现。
权利要求中括号之间的任何参考符号不是为了限制本发明。术语“包括”不排除权利要求中没有列出的元件的存在。元件之前的术语“一个”不排除多个这种元件的存在。
Claims (16)
1.一种空间和SNR可伸缩图像压缩方法,包括:
- 对输入图像(vi)的高分辨率编码(202a),获得高分辨率编码数据(coHR,LQ);
- 在高分辨率编码数据(coHR,LQ)的基础上衍生第一缩减表示图像(p1);
- 在输入图像(vi)的基础上衍生第二缩减表示图像(p2);和
- 在比较所述第一缩减表示图像(p1)和第二缩减表示图像(p2)的基础上,进行较低分辨率编码(214),获得较低分辨率质量改善数据(coMR,MQ),该较低分辨率质量改善数据用于改善可从高分辨率编码数据(coHR,LQ)重建的图像的视觉质量,从而该较低分辨率低于并且不等于所述高分辨率。
2.权利要求1所述的空间和SNR可伸缩图像压缩方法,其中所述衍生第一缩减表示图像(p1)包括:
- 解码(202b)所述高分辨率编码数据,获得高分辨率解码数据(voHR,LQ);
- 缩减(206)所述高分辨率解码数据(voHR,LQ),获得低质量较低分辨率解码数据(voMR,LQ)作为缩减表示图像(p1);
其中衍生第二缩减表示图像(p2)通过缩减非编码的输入图像(vi)来完成,获得输入图像(vi)的较低分辨率版本(viL)作为第二缩减表示图像(p2);
其中所述比较包括从输入图像(vi)的较低分辨率版本(viL)减去低质量较低分辨率解码数据(voMR,LQ)。
3.权利要求1所述的方法,其中序列输入图像(vi)被压缩,其中所述高分辨率编码(202a)获得高分辨率编码数据(coHR,LQ),其比特速率低于或等于预先指定的第一比特速率(BRBase)。
4.权利要求3所述的方法,其中所述高分辨率编码获得高分辨率编码数据,该高分辨率编码数据具有的固定或最大比特速率(BRBase)在100到400k比特/秒之间。
5.权利要求3所述的方法,其中高分辨率编码数据(coHR,LQ)和较低分辨率质量改善编码数据(coMR,MQ)的比特速率的和小于或等于指定的第二比特速率(BRMR)。
6.权利要求1所述的方法,其中序列输入图像(vi)被压缩,其中高分辨率编码(202a)和较低分辨率编码(214)都具有它们独立的运动估计和运动补偿步骤。
7.一种解码空间和SNR可伸缩编码的图像数据的方法,包括:
- 接收高分辨率编码数据(coHR,LQ);
- 进一步接收用于改善可从高分辨率编码数据(coHR,LQ)重构的图像的视觉质量的较低分辨率质量改善编码数据(coMR,MQ);
- 在缩放到输出分辨率的高分辨率编码数据(coHR,LQ)和较低分辨率质量改善编码数据(coMR,MQ)的基础上,构造出输出分辨率小于或等于所述高分辨率的输出图像(vo)。
8.一种在发送路径上发送数据的方法,使用通过权利要求1所述方法编码的图像数据,其包括高分辨率编码数据(coHR,LQ)和相应的用于改善可基于高分辨率编码数据(coHR,LQ)重构的图像的视觉质量的较低分辨率质量改善编码数据(coMR,MQ)。
9.一种空间和SNR可伸缩图像压缩设备(200),包括:
- 高分辨率编码器(202a),用于将输入图像(vi)编码为高分辨率编码数据(coHR,LQ);
- 第一缩减装置(534,206),用于在高分辨率编码数据(coHR,LQ)的基础上衍生出第一缩减表示图像(p1);
- 第二缩减装置(532,204),用于在输入图像(vi)的基础上衍生出第二缩减表示图像(p2);
- 较低分辨率编码器(214),用于在来自所包括的用于比较第一缩减表示图像(p1)和第二缩减表示图像(p2)的比较器(210)的比较信号(vd)的基础上,获得较低分辨率质量改善数据(coMR,MQ),该较低分辨率质量改善数据用于改善可从高分辨率编码数据(coHR,LQ)重构的图像的视觉质量,从而所述较低分辨率低于并且不等于所述高分辨率。
10.权利要求9所述的空间和SNR可伸缩图像压缩设备(200),其中
- 所述第一缩减装置(534,206)包括解码器(202b)和缩减器(206)的序列化处理链,解码器(202b)用于将高分辨率编码数据(coHR,LQ)解码为高分辨率解码数据(voHR,LQ),并且缩减器(206)用于将高分辨率解码数据(voHR,LQ)缩减为低质量较低分辨率解码数据(voMR,LQ)作为缩减表示图像(p1);
- 所述第二缩减装置(532,204)包括非编码信号缩减单元,该单元用于将非编码的输入图像(vi)缩减为输入图像(vi)的较低分辨率版本(viL)作为第二缩减表示图像(p2);和
- 所述比较器(210)包括减法器,该减法器用于从输入图像(vi)的较低分辨率版本(viL)减去低质量较低分辨率解码数据(voMR,LQ),获得比较信号(vd)。
11.一种空间和SNR可伸缩图像解压缩设备(300),包括:
- 用于接收高分辨率编码数据(coHR,LQ)的装置(330);
- 用于接收较低分辨率质量改善编码数据(coMR,MQ)的装置(332),该较低分辨率质量改善编码数据用于改善可从该高分辨率编码数据(coHR,LQ)重建的图像的视觉质量;
- 至少一个缩放装置(306,314),用于将输入图像从其输入分辨率缩放到预定的输出分辨率;
- 加法装置(307,316),用于将两个输入图像加在一起;
- 至少一个解码装置(302,308),用于对编码的输入图像解码;
其中所述缩放、加法和解码装置以如下图像处理顺序相连:
- 首先是用于解码高分辨率编码数据(coHR,LQ)以获得高分辨率解码数据(voHR,LQ)的高分辨率解码器(302),和用于解码较低分辨率质量改善编码数据(coMR,MQ)以获得较低分辨率质量改善解码数据(voMR,MQ)的较低分辨率解码器(308),接着是用于将所述高分辨率解码数据(voHR,LQ)缩减到预定的输出分辨率以获得基本图像(b)的缩减器(306),和用于将所述较低分辨率质量改善解码数据(voMR,MQ)缩放到预定的输出分辨率以获得改善图像(e)的缩放器(314),最后是用于将所述基本图像(b)和改善图像(e)相加以获得输出图像(voHR,BRBase+BREMR,voMR,BRMR)的加法器(316,307);或者
- 首先是用于将高分辨率编码数据(coHR,LQ)缩减到预定的输出分辨率的第一缩放装置,和用于将较低分辨率质量改善编码数据(coMR,MQ)缩放到预定的输出分辨率的第二缩放装置,随后在加法器中将上述缩放装置的输出图像相加,最后在解码器中解码加法器的输出;或者
- 首先是用于将高分辨率编码数据(coHR,LQ)缩减到预定的输出分辨率的第一缩放装置,和用于将较低分辨率质量改善编码数据(coMR,MQ)缩放到预定的输出分辨率的第二缩放装置,随后是用于解码相应的结果图像的第一和第二解码器,最后是用于将所得到的图像相加的加法器。
12.一种图像数据接收器(400),包括:
- 用于接收解码的图像数据的连接(412);
- 数据接收单元(416),用于通过连接(412)接收期望的编码图像数据,并且用于将该数据调节为标准的编码图像格式并且输出它;
- 权利要求11所述的空间和SNR可伸缩图像解压缩设备(418),其被连接以在操作中接收标准编码的图像格式;和
- 用于输出可从图像解压缩设备(418)接收的解码的图像的输出端(421)。
13.权利要求12所述的图像数据接收器(400),还包括处理器(420),该处理器用于确定一种解压缩模式(D),该解压缩模式表明要从哪个数据组合重构将通过输出端(421)输出的输出图像,该组合至少包括高分辨率编码数据(coHR,LQ)和较低分辨率编码数据(coMR,MQ),并且用于配置图像解压缩设备(300)。
14.一种图像显示设备(410),包括权利要求13所述的图像数据接收器(400)和连接到该图像数据接收器(400)的显示器(422)。
15.一种图像数据记录器,包括权利要求9所述的空间和SNR可伸缩图像压缩设备(200),该设备(200)用于在操作期间给该图像数据记录器包括的存储器(288)提供编码数据(coHR,LQ,coMR,MQ)。
16.一种计算机程序产品(432),包括使处理器执行依照权利要求1到7中任一权利要求的方法的软件代码。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP04103309 | 2004-07-13 | ||
EP04103309.3 | 2004-07-13 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN1985514A true CN1985514A (zh) | 2007-06-20 |
CN100559859C CN100559859C (zh) | 2009-11-11 |
Family
ID=34978797
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB2005800238451A Expired - Fee Related CN100559859C (zh) | 2004-07-13 | 2005-07-06 | 空间和snr可伸缩图像压缩、解压缩的方法和设备 |
Country Status (11)
Country | Link |
---|---|
US (1) | US7889937B2 (zh) |
EP (1) | EP1769633B1 (zh) |
JP (1) | JP2008507180A (zh) |
KR (1) | KR20070037488A (zh) |
CN (1) | CN100559859C (zh) |
AT (1) | ATE431677T1 (zh) |
BR (1) | BRPI0513242A (zh) |
DE (1) | DE602005014485D1 (zh) |
RU (1) | RU2007105222A (zh) |
TW (1) | TW200627965A (zh) |
WO (1) | WO2006008681A1 (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102342105A (zh) * | 2009-03-03 | 2012-02-01 | 三星电子株式会社 | 用于对多层视频进行编码和解码的设备及方法 |
CN104160705A (zh) * | 2012-03-12 | 2014-11-19 | 杜比实验室特许公司 | 三维视觉动态范围编码 |
CN105580369A (zh) * | 2013-03-11 | 2016-05-11 | 杜比实验室特许公司 | 使用分层编码对多格式高动态范围视频进行分布 |
CN107624061A (zh) * | 2015-04-20 | 2018-01-23 | 康奈尔大学 | 具有维度数据缩减的机器视觉 |
CN109923863A (zh) * | 2016-07-20 | 2019-06-21 | 威诺瓦国际有限公司 | 解码设备,方法和计算机程序 |
CN110782393A (zh) * | 2019-10-10 | 2020-02-11 | 江南大学 | 一种基于可逆网络的图像分辨率压缩及重建方法 |
US10561841B2 (en) | 2010-02-26 | 2020-02-18 | Cornell University | Retina prosthesis |
US10769483B2 (en) | 2011-08-25 | 2020-09-08 | Cornell University | Retinal encoder for machine vision |
CN111699691A (zh) * | 2017-12-06 | 2020-09-22 | 威诺瓦国际有限公司 | 图像处理 |
CN112819909A (zh) * | 2021-01-28 | 2021-05-18 | 北京理工大学重庆创新中心 | 基于低分辨率先验光谱图像区域分割的自适应编码方法 |
Families Citing this family (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7580461B2 (en) * | 2004-02-27 | 2009-08-25 | Microsoft Corporation | Barbell lifting for wavelet coding |
US9332274B2 (en) * | 2006-07-07 | 2016-05-03 | Microsoft Technology Licensing, Llc | Spatially scalable video coding |
US7881511B2 (en) * | 2007-01-19 | 2011-02-01 | Korea Advanced Institute Of Science And Technology | Method for super-resolution reconstruction using focal underdetermined system solver algorithm |
GB2447245B (en) * | 2007-03-05 | 2011-12-28 | Snell & Wilcox Ltd | Video transmission |
US8644632B2 (en) * | 2007-06-27 | 2014-02-04 | Thomson Licensing | Enhancing image quality |
US20110149037A1 (en) * | 2008-08-26 | 2011-06-23 | Koninklijke Philips Electronics N.V. | Method and system for encoding a 3D video signal, encoder for encoding a 3-D video signal, encoded 3D video signal, method and system for decoding a 3D video signal, decoder for decoding a 3D video signal. |
US9185423B2 (en) | 2009-02-12 | 2015-11-10 | Zoran (France) S.A. | Frame buffer compression for video processing devices |
KR101557504B1 (ko) * | 2009-04-13 | 2015-10-07 | 삼성전자주식회사 | 채널 적응형 비디오 전송 방법, 이를 이용한 장치 및 이를 제공하는 시스템 |
US20120117585A1 (en) * | 2009-04-29 | 2012-05-10 | Eloy Technology, Llc | Method and system for applying content restrictions to renderers in identified network viewing areas |
EP2428042B1 (en) | 2009-05-05 | 2013-05-01 | Telefonaktiebolaget LM Ericsson (publ) | Scalable video coding method, encoder and computer program |
AU2010251852B2 (en) * | 2009-05-29 | 2016-04-14 | Mach7 Technologies Canada Inc. | Presentation and manipulation of high depth images in low depth image display systems |
WO2011099254A1 (ja) | 2010-02-15 | 2011-08-18 | パナソニック株式会社 | データ処理装置及びデータ符号化装置 |
MX2012009474A (es) * | 2010-02-24 | 2012-10-09 | Sharp Kk | Dispositivo de codificacion de imagen y dispositivo de decodificacion de imagen. |
WO2012014129A2 (en) * | 2010-07-26 | 2012-02-02 | Koninklijke Philips Electronics N.V. | Determining representative images for a video |
US9208239B2 (en) | 2010-09-29 | 2015-12-08 | Eloy Technology, Llc | Method and system for aggregating music in the cloud |
WO2014207500A1 (en) * | 2013-06-24 | 2014-12-31 | Nintendo European Research And Development | Brightness-compensating safe pixel art upscaler |
US8879858B1 (en) * | 2013-10-01 | 2014-11-04 | Gopro, Inc. | Multi-channel bit packing engine |
US10440367B1 (en) * | 2018-06-04 | 2019-10-08 | Fubotv Inc. | Systems and methods for adaptively encoding video stream |
KR20210078218A (ko) * | 2019-12-18 | 2021-06-28 | 삼성전자주식회사 | 전자장치 및 그 제어방법 |
KR20210113464A (ko) * | 2020-03-05 | 2021-09-16 | 삼성전자주식회사 | 이미징 장치 및 이를 포함하는 전자 기기 |
US11436703B2 (en) * | 2020-06-12 | 2022-09-06 | Samsung Electronics Co., Ltd. | Method and apparatus for adaptive artificial intelligence downscaling for upscaling during video telephone call |
CN111813574A (zh) * | 2020-07-02 | 2020-10-23 | Oppo(重庆)智能科技有限公司 | 图片压缩方法、装置、存储介质和电子设备 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE69517298T2 (de) | 1994-08-22 | 2001-01-04 | Koninklijke Philips Electronics N.V., Eindhoven | Verfahren zur aufzeichnung und darstellung von bildern auf einem aufzeichnungsträger in mindestens einem ersten und einem zweiten datenstrom |
JP3781797B2 (ja) * | 1995-01-23 | 2006-05-31 | ソニー株式会社 | ディジタル画像信号の階層符号化装置 |
CN1243635A (zh) * | 1997-01-10 | 2000-02-02 | 松下电器产业株式会社 | 图像处理方法、图像处理装置及数据记录媒体 |
JP3841246B2 (ja) * | 1998-07-24 | 2006-11-01 | Kddi株式会社 | ビデオ階層符号化装置 |
US6700933B1 (en) * | 2000-02-15 | 2004-03-02 | Microsoft Corporation | System and method with advance predicted bit-plane coding for progressive fine-granularity scalable (PFGS) video coding |
US6493387B1 (en) | 2000-04-10 | 2002-12-10 | Samsung Electronics Co., Ltd. | Moving picture coding/decoding method and apparatus having spatially scalable architecture and signal-to-noise ratio scalable architecture together |
CN1636394A (zh) * | 2000-10-11 | 2005-07-06 | 皇家菲利浦电子有限公司 | 细粒视频编码的空间可缩放性 |
US7463683B2 (en) * | 2000-10-11 | 2008-12-09 | Koninklijke Philips Electronics N.V. | Method and apparatus for decoding spatially scaled fine granular encoded video signals |
WO2002054774A2 (de) | 2001-01-08 | 2002-07-11 | Siemens Aktiengesellschaft | Optimale snr-skalierbare videocodierung |
US6959116B2 (en) * | 2001-09-18 | 2005-10-25 | Emc Corporation | Largest magnitude indices selection for (run, level) encoding of a block coded picture |
US6968091B2 (en) * | 2001-09-18 | 2005-11-22 | Emc Corporation | Insertion of noise for reduction in the number of bits for variable-length coding of (run, level) pairs |
WO2003036978A1 (en) | 2001-10-26 | 2003-05-01 | Koninklijke Philips Electronics N.V. | Method and apparatus for spatial scalable compression |
US20040001547A1 (en) | 2002-06-26 | 2004-01-01 | Debargha Mukherjee | Scalable robust video compression |
WO2005057935A2 (en) * | 2003-12-09 | 2005-06-23 | Koninklijke Philips Electronics, N.V. | Spatial and snr scalable video coding |
-
2005
- 2005-07-06 CN CNB2005800238451A patent/CN100559859C/zh not_active Expired - Fee Related
- 2005-07-06 WO PCT/IB2005/052248 patent/WO2006008681A1/en active Application Filing
- 2005-07-06 KR KR1020077000742A patent/KR20070037488A/ko not_active Application Discontinuation
- 2005-07-06 AT AT05760549T patent/ATE431677T1/de not_active IP Right Cessation
- 2005-07-06 DE DE602005014485T patent/DE602005014485D1/de active Active
- 2005-07-06 JP JP2007520941A patent/JP2008507180A/ja active Pending
- 2005-07-06 BR BRPI0513242-8A patent/BRPI0513242A/pt not_active IP Right Cessation
- 2005-07-06 RU RU2007105222/09A patent/RU2007105222A/ru not_active Application Discontinuation
- 2005-07-06 EP EP05760549A patent/EP1769633B1/en not_active Not-in-force
- 2005-07-06 US US11/571,994 patent/US7889937B2/en not_active Expired - Fee Related
- 2005-07-08 TW TW094123258A patent/TW200627965A/zh unknown
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9106928B2 (en) | 2009-03-03 | 2015-08-11 | Samsung Electronics Co., Ltd. | Apparatus and method for encoding and decoding multilayer videos |
CN102342105B (zh) * | 2009-03-03 | 2015-08-19 | 三星电子株式会社 | 用于对多层视频进行编码和解码的设备及方法 |
CN102342105A (zh) * | 2009-03-03 | 2012-02-01 | 三星电子株式会社 | 用于对多层视频进行编码和解码的设备及方法 |
US10561841B2 (en) | 2010-02-26 | 2020-02-18 | Cornell University | Retina prosthesis |
US10769483B2 (en) | 2011-08-25 | 2020-09-08 | Cornell University | Retinal encoder for machine vision |
CN104160705A (zh) * | 2012-03-12 | 2014-11-19 | 杜比实验室特许公司 | 三维视觉动态范围编码 |
CN104160705B (zh) * | 2012-03-12 | 2018-11-16 | 杜比实验室特许公司 | 三维视觉动态范围编码 |
CN105580369A (zh) * | 2013-03-11 | 2016-05-11 | 杜比实验室特许公司 | 使用分层编码对多格式高动态范围视频进行分布 |
CN105580369B (zh) * | 2013-03-11 | 2019-04-26 | 杜比实验室特许公司 | 使用分层编码对多格式高动态范围视频进行编解码的方法、装置及系统 |
US10515269B2 (en) | 2015-04-20 | 2019-12-24 | Cornell University | Machine vision with dimensional data reduction |
CN107624061A (zh) * | 2015-04-20 | 2018-01-23 | 康奈尔大学 | 具有维度数据缩减的机器视觉 |
CN107624061B (zh) * | 2015-04-20 | 2021-01-22 | 康奈尔大学 | 具有维度数据缩减的机器视觉 |
US11430263B2 (en) | 2015-04-20 | 2022-08-30 | Cornell University | Machine vision with dimensional data reduction |
CN109923863A (zh) * | 2016-07-20 | 2019-06-21 | 威诺瓦国际有限公司 | 解码设备,方法和计算机程序 |
CN109923863B (zh) * | 2016-07-20 | 2024-03-08 | 威诺瓦国际有限公司 | 解码设备,方法和计算机程序 |
CN111699691A (zh) * | 2017-12-06 | 2020-09-22 | 威诺瓦国际有限公司 | 图像处理 |
CN110782393A (zh) * | 2019-10-10 | 2020-02-11 | 江南大学 | 一种基于可逆网络的图像分辨率压缩及重建方法 |
CN112819909A (zh) * | 2021-01-28 | 2021-05-18 | 北京理工大学重庆创新中心 | 基于低分辨率先验光谱图像区域分割的自适应编码方法 |
Also Published As
Publication number | Publication date |
---|---|
KR20070037488A (ko) | 2007-04-04 |
CN100559859C (zh) | 2009-11-11 |
TW200627965A (en) | 2006-08-01 |
ATE431677T1 (de) | 2009-05-15 |
US20080095450A1 (en) | 2008-04-24 |
WO2006008681A1 (en) | 2006-01-26 |
JP2008507180A (ja) | 2008-03-06 |
EP1769633B1 (en) | 2009-05-13 |
RU2007105222A (ru) | 2008-08-20 |
DE602005014485D1 (de) | 2009-06-25 |
US7889937B2 (en) | 2011-02-15 |
BRPI0513242A (pt) | 2008-04-29 |
EP1769633A1 (en) | 2007-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN100559859C (zh) | 空间和snr可伸缩图像压缩、解压缩的方法和设备 | |
US6510177B1 (en) | System and method for layered video coding enhancement | |
CN1738435B (zh) | 空间域运动补偿时间滤波编码的视频的3d子带解码中的空间可伸缩性 | |
CN102265619B (zh) | 切换式内插滤波器中的偏移计算方法 | |
CN102084655B (zh) | 通过过滤器选择进行的视频编码 | |
CN1926874B (zh) | 对视频流传输业务进行视频编码、预解码和视频解码的方法和设备以及图像滤波方法 | |
CN1939066B (zh) | 用于复杂度可伸缩视频解码器的方法和设备 | |
Ostermann et al. | Video coding with H. 264/AVC: tools, performance, and complexity | |
US9734557B2 (en) | Method and apparatus for generating 3K-resolution display image for mobile terminal screen | |
JP5590133B2 (ja) | 動画像符号化装置、動画像符号化方法、動画像符号化用コンピュータプログラム、動画像復号装置及び動画像復号方法ならびに動画像復号用コンピュータプログラム | |
CN100586177C (zh) | 编码装置,编码方法,解码装置,解码方法 | |
EP0644695A2 (en) | Spatially scalable video encoding and decoding | |
NO342829B1 (no) | Datamaskinlesbart lagringsmedium og apparat for koding av et flertall av videobilder ved bruk av en rekkefølgeverdi | |
CN101194515A (zh) | 使用平滑预测基于多层的视频编码和解码方法以及视频编码器和解码器 | |
CN101185342A (zh) | 支持快速精细可分级的视频编码方法和装置 | |
CN101166275B (zh) | 信息处理设备、方法和程序 | |
CN1751519A (zh) | 视频编码 | |
US20060159173A1 (en) | Video coding in an overcomplete wavelet domain | |
CN1726644B (zh) | 用于产生压缩数据的多种描述的设备和方法 | |
Tsunashima et al. | A scalable motion-compensated subband image coder | |
CN101395924A (zh) | 利用有损内嵌压缩进行差异编码 | |
CN115866297A (zh) | 视频处理方法、装置、设备及存储介质 | |
JP2006180173A (ja) | 動画像符号化装置、動画像符号化方法、動画像復号化装置及び動画像復号化方法 | |
Apostolopoulos et al. | Video compression for digital advanced television systems | |
JP4870143B2 (ja) | 動画像符号化装置、動画像符号化方法、動画像復号装置、動画像復号方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
C17 | Cessation of patent right | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20091111 Termination date: 20120706 |