CN104106079A - 图像处理系统和方法 - Google Patents

图像处理系统和方法 Download PDF

Info

Publication number
CN104106079A
CN104106079A CN201280053731.1A CN201280053731A CN104106079A CN 104106079 A CN104106079 A CN 104106079A CN 201280053731 A CN201280053731 A CN 201280053731A CN 104106079 A CN104106079 A CN 104106079A
Authority
CN
China
Prior art keywords
pixel
group
image
array
dimensional array
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201280053731.1A
Other languages
English (en)
Inventor
肖恩·L·凯利
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
PANAMORPH Inc
Original Assignee
PANAMORPH Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by PANAMORPH Inc filed Critical PANAMORPH Inc
Publication of CN104106079A publication Critical patent/CN104106079A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4092Image resolution transcoding, e.g. by using client-server architectures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)
  • Television Systems (AREA)

Abstract

被组织为每个都具有多个像素的多个第一核心阵列的相对较高分辨率数字化图像被转换为相对较低分辨率图像的对应相对较小第二核心阵列和剩余像素的关联集合。从第一核心阵列的原始像素的线性内插,生成第二核心阵列的下采样像素。关联内插系数将摄动(perturbation)插入到关于第一和第二核心阵列的中心对称的下采样像素的位置。第二核心阵列的下采样像素可以与剩余像素的关联集合重新组合,以在不丢失关联信息的情况下,基本重构相对较高分辨率数字化图像,或者直接用于重构其近似,其中关联编码和解码处理适于减小由随后图像压缩导致的图像重构误差的敏感性。

Description

图像处理系统和方法
相关申请的交叉引用
本申请要求以下在先美国临时申请的益处:于2011年9月9日提交的美国临时申请序列号No.61/532,589,于2011年12月19日提交的美国临时申请序列号No.61/577,638,于2012年1月24日提交的美国临时申请序列号No.61/590,053,于2012年2月21日提交的美国临时申请序列号No.61/601,080,以及于2012年6月12日提交的美国临时申请序列号No.61/658,903,每个都通过引用的方式整体合并于此。
附图说明
图1图示用于生成、发射和显示编码图像的系统的第一方面的框图;
图2图示对图像编码以便提供用于在传统显示器上显示并且用于转换到用于在不同显示器上以不同格式显示的不同显示格式的处理的流程图;
图3a至图3d图示对相对较低细节的图像操作的提供用于将第一相对较低分辨率显示格式转换为第二相对较高分辨率显示格式的一维图像编码处理的第一和第二实施例;
图4a至图4d图示对相对较高细节操作的提供用于将第一相对较低分辨率显示格式转换为第二相对较高分辨率显示格式的一维图像编码处理的第一和第二实施例;
图5图示相对较高分辨率显示格式的未修改图像;
图6图示基于图5中所示的图像的根据图3b和图4b中所示的处理的第一实施例的修改图像;
图7图示图像编码处理的第一方面;
图8图示图像编码处理的第二方面;
图9图示显示根据图2中所示的处理被编码的图像的处理的流程图;
图10图示用于生成、发射和显示编码图像的系统的第二方面的框图;
图11图示包括根据图像编码处理的第三方面被组织为多个第一核心阵列的多个像素的相对较高分辨率数字化图像;
图12图示根据图像编码处理的第三方面的编码图像的第一实施例;
图13图示包括第一和第二组像素的根据图像编码处理的第三方面的编码图像的第二实施例;
图14a图示根据图像编码处理的第三方面的编码图像的第三实施例的相对较低分辨率数字化图像的第一组像素的第一实施例;
图14b图示可以与图14a中所示的相对较低分辨率数字化图像组合以便基本重构图11中所示的原始相对较高分辨率数字化图像的编码图像的第三实施例的扩展数据的第一实施例;
图15a图示根据图像编码处理的第三方面的一维编码处理的第一实施例;
图15b图示根据图像编码处理的第三方面的一维编码处理的第一实施例的第二方面;
图16图示根据图像编码处理的第三方面的一维编码处理的第二实施例;
图17a图示根据图像编码处理的第三方面的二维编码处理的第一实施例;
图17b图示与图17a中所示的二维编码处理的第一实施例关联的内插等式的集合;
图18a图示根据图像编码处理的第三方面的一维解码处理的第一实施例,用于对根据图15a中所示的一维编码处理的第一实施例编码的图像解码;
图18b图示根据图像编码处理的第三方面的一维解码处理的第二实施例,用于对根据图16中所示的一维编码处理的第二实施例编码的图像解码;
图18c图示与图18a和图18b中所示的一维解码处理的第一和第二实施例关联的等式的集合;
图19a图示根据图像编码处理的第三方面的二维解码处理的第一实施例,用于对根据图17a中所示的一维编码处理的第一实施例编码的图像解码;
图19b图示与图19a中所示的二维解码处理的第一实施例关联的等式的集合;
图20图示包括第一组和第二组像素的根据图像编码处理的第三方面的编码图像的第四实施例;
图21a图示可以与图21b中所示的相对较低分辨率数字化图像和图21c中所示的扩展数据的第二部分组合以便基本重构图11中所示的原始相对较高分辨率数字化图像的编码图像的第五实施例的扩展数据的第二实施例的第一部分;
图21b图示根据图像编码处理的第三方面的编码图像的第五实施例的相对较低分辨率数字化图像的第一组像素的第二实施例;
图21c图示可以与图21b中所示的相对较低分辨率数字化图像和图21a中所示的扩展数据的第一部分组合以便基本重构图11中所示的原始相对较高分辨率数字化图像的编码图像的第五实施例的扩展数据的第二实施例的第二部分;
图22a图示根据图像编码处理的第三方面的一维编码处理的第三实施例;
图22b图示根据图像编码处理的第三方面的一维编码处理的第三实施例的第二方面;
图23图示根据图像编码处理的第三方面的一维编码处理的第四实施例;
图24a图示根据图像编码处理的第三方面的二维编码处理的第二实施例;
图24b图示根据图24a中所示的图像编码处理的第三方面的二维编码处理的第二实施例的详情;
图24c图示与图24a中所示的二维编码处理的第二实施例关联的内插等式的集合;
图25a图示根据图像编码处理的第三方面的一维解码处理的第三实施例,用于对根据图22a中所示的一维编码处理的第三实施例编码的图像解码;
图25b图示根据图像编码处理的第三方面的一维解码处理的第四实施例,用于对根据图23中所示的一维编码处理的第四实施例编码的图像解码;
图25c图示与图25a和图25b中所示的一维解码处理的第三和第四实施例关联的等式;
图26图示根据图像编码处理的第三方面的二维解码处理的第二实施例,用于对根据图24a中所示的一维解码处理的第一实施例编码的图像解码;
图27图示包括第一组和第二组像素的根据图像编码处理的第三方面的编码图像的第六实施例;
图28a图示根据图像编码处理的第三方面的编码图像的第七实施例的相对较低分辨率数字化图像的第一组像素的第三实施例;
图28b图示可以与图28a中所示的编码图像的第七实施例的相对较低分辨率数字化图像组合以便基本重构图11中所示的原始相对较高分辨率数字化图像的扩展数据的第三实施例;
图29图示根据图像编码处理的第三方面的二维编码处理的第三实施例;
图30a-d图示用于确定与图29中所示的二维编码处理的第三实施例关联的内插等式的集合的第一中间处理的第一至第四部分;
图31图示用于确定与图29中所示的二维编码处理的第三实施例关联的内插等式的集合的第二中间处理;
图32图示图像编码处理的实例;
图33图示根据关联扩展数据(ED)内容与关联编码HD(EHD)内容交织的第二方面而格式化的编码图像的实例;
图34图示根据第三方面格式化的编码图像的实例;
图35a图示根据图像编码处理的第三方面的一维编码处理的第五实施例;
图35b图示根据图像编码处理的第三方面的一维编码处理的第六实施例;
图35c图示与图35a和图35b中所示的一维编码处理的第五和第六实施例关联的等式的集合;
图36a图示根据图像编码处理的第三方面的一维解码处理的第五实施例,用于对根据图35a中所示的一维编码处理的第五实施例编码的图像解码;
图36b图示根据图像编码处理的第三方面的一维解码处理的第六实施例,用于对根据图35b中所示的一维编码处理的第六实施例编码的图像解码;
图37a图示沿着关联相对低分辨率和相对高分辨率图像的行维度应用的一维解码处理的第五方面;以及
图37b图示沿着关联相对低分辨率和相对高分辨率图像的列维度应用的一维解码处理的第五方面。
具体实施方式
参考图1,图像编码器10提供用于将相对较高分辨率数字化图像12重新格式化为可以在具有多种不同显示格式的多种显示器16上显示的编码图像14,包括在具有相对较低分辨率显示格式18的传统显示器16.1上显示,而不要求编码图像14被解码以便被显示在传统显示器16.1上。
例如,根据用于生成、发射并且显示编码图像20.1的系统的第一方面,最初通过相机22捕捉相对较高分辨率数字化图像12,相机22结合关联相机镜头24和例如CCD成像传感器的光电探测器的阵列,关联相机镜头24提供用于将正被成像的关联场景28的原始图像26聚焦到例如薄膜(例如,35毫米薄膜30’)的用于记录影片的成像介质30或者例如成像传感器32上。
图像的纵横比通过图像的宽度与高度的比率给出。在用于生成并且显示图像的系统中使用广泛范围的纵横比,并且不同纵横比可以用于这样的系统的不同元件。例如,基于由Thomas Edison最初建立的标准,35毫米薄膜30’的纵横比通常为1.33:1或者4:3的比率。在用于模拟电视的美国国家电视系统委员会(NTSC)标准中使用该相同1.33:1纵横比。然而,较宽纵横比通常被认为在审美上更加令人愉悦。例如,很多主要电影都以约2.37:1的图像纵横比创建。当记录具有与成像介质30或成像传感器32的纵横比不同的纵横比的图像时,变形镜头34可以与相机镜头24协同被使用,以便在一个方向或另一方向上收缩或扩展原始图像26,以便使用成像介质30或成像传感器32的基本所有有效部分,以便提供用于更好图像分辨率和更好关联总体信噪比。然后,通过当其重构时使用互补变形放大率,可以恢复被变形记录的原始图像26的原生纵横比。记录在成像介质30上的原始图像26可以利用数字化器36被数字化,以与通过对应成像传感器32以其他方式直接产生相比产生相对较高分辨率数字化图像12。
最终显示编码图像14的显示器16、16.1展现通常由关联纵横比和关联分辨率表征的多种格式,关联分辨率通常被表示为关联二维显示区域的像素尺寸,例如,W x H,其中,W是显示器16、16.1的宽度上的像素37的数目,并且H是显示器16、16.1的高度上的像素的数目。例如,显示器16、16.1的一个集合使用约2.37:1的纵横比——还通常近似地称为21:9,按照增加像素37的总数的顺序,具有为1920x810和2560x1080的关联显示分辨率。作为另一个实例,显示器16、16.1的另一集合使用具有关联显示分辨率的约1.78:1的纵横比——还通常近似地称为16:9,按照增加像素37的总数的顺序,具有为1920x1080、2560x1440、以及3840x2160的关联显示分辨率。例如,BLU-RAY DISCTM视频支持16:9的纵横比,分辨率为1920x1080、变形1920x1080、1280x720、变形720x480、以及变形720x576。
为了在具有相对较低纵横比的显示器16、16.1上显示具有相对较高纵横比的图像而不失真,通常在不存在图像的显示器16、16.1的顶部和底部处添加黑色横条。例如,当具有2.37:1的纵横比的主要电影被传送到高清晰度光盘(诸如,BLU-RAY DISCTM视频)时,黑横条被添加至视频图像的顶部和底部,使得总区域为16:9的格式(或者1.78:1)。该格式对于在也具有16:9纵横比的显示器16、16.1上显示“信箱”格式的图像是理想的。可替换地,当这样的影片被示出到具有2.37:1纵横比的显示器的整个宽度时,视频图像可以被电子地拉伸,以适于显示器16、16.1的整个垂直范围,由此去除黑条,以便以其合适格式示出影片。作为第二可选方案,—些用户发现黑宽银幕条太令人讨厌,以致甚至在16:9纵横比显示器16、16.1上,即使图像的左侧和右侧现在通过显示器16、16.1的宽度被截除,它们也将在两个方向上电子地拉伸图像,以克服黑条,而不另外使图像的纵横比失真。然而,在图像的电子垂直拉伸简单地为数学按比例增加或者原始像素值的每列到像素值的较长(较高)列的内插的一些形式的情况下,其不另外将细节添加到所显示图像。然而,如果在原始相对较高分辨率数字化图像12中存在足够细节,并且如果关联显示器16能够显示与其关联的附加像素37,则如下所述,编码图像14提供用于例如以可以在关联显示器16上呈现的形式重构相对较高分辨率数字化图像12,以便提供用于垂直扩展编码图像14,以便利用显示器16的全分辨率。
可替换地,传统显示器16.1的水平和垂直像素分辨率可能低于相对较高分辨率数字化图像12的分辨率,在该情况下,编码图像14被格式化用于到传统显示器16.1的输入,而不要求进一步图像处理。例如,原始图像分辨率的3840x2160像素可以被编码为编码图像14,其中,构成关联相对较低分辨率图像38的中心1920x1080个像素表示适用于到传统显示器16.1的立即输入而不要求任何解码的全3840x2160相对较高分辨率数字化图像12的较低分辨率表示,而剩余信息保留在编码图像14中,使得全3840x2160相对较高分辨率数字化图像12可以通过适当地解码编码图像14而被重构用于到3840x2160显示器的输入。在该情况下,1920x1080显示器16、16.1仅需要直接显示该相对较低分辨率图像38,而不解码,而3840x2160显示器16可以采用关联解码处理以显示全分辨率3840x2160相对较高分辨率数字化图像12。
通过传统手段,将编码图像14发射到关联显示器16、16.1。例如,当通常被用于格式化用于传输到关联显示器系统的常规图像时,编码图像14经历标准图像格式化40,例如,压缩和编码。例如,可以将编码图像14转换为多种格式中的任一种,包括但不限于用于运动图像专家组(MPEG)的MPEG-1、MPEG-2、MPEG-3、或MPEG-4标准或者电影与电视工程师协会(SMPTE)的多种标准。然后,格式化的编码图像14’作为图像信号41(而且更通常称为图像表示41)通过关联图像传输介质42(例如,无线地,通过例如电缆或DSL的导电传输线,通过DVD或BLU-RAY DISCTM,或者通过互联网流送)被发射到根据关联压缩和编码标准从格式化的编码图像14’提取编码图像14的关联接收器或播放器44,并且然后将编码图像14直接输入到传统显示器16.1,或者利用使用关联图像解码处理46’的图像解码器46解码编码图像14,图像解码器46例如可以被嵌入接收器或播放器44中或者关联显示器16中。
参考图2,由图像编码器10执行的编码处理200开始于步骤202,输入相对较高分辨率数字化图像12。然后,在步骤204中,如果相对较高分辨率数字化图像12的原生纵横比约为21:9,其包括超过2.30:1的任何原生纵横比,则在步骤206中,如果相对较高分辨率数字化图像12最初不被变形拍摄,则通过内插像素37的每列,将相对较高分辨率数字化图像12垂直拉伸33%,以便添加33%以上的像素37,如以下更完全描述的。然后,或者另外从步骤204,在步骤208中,例如通过内插来自步骤204的原始相对较高分辨率数字化图像12,或者通过内插来自步骤206的垂直拉伸图像48,将图像转换为2560x1440格式。然后,如接下来描述的,在步骤210中,根据一维编码处理300,所得到的2560x1440中间图像50被相继地编码,首先被垂直地编码,以便形成2560x1080相对较低分辨率图像38’,并且然后被水平地编码,以便形成1920x1080相对较低分辨率图像38”,得到关联2560x1440编码图像14,14A
参考图3a-d、图4a-d、图5和图6,使用具有16行乘28列(1.75:1)个像素37(总计448个像素37)的简化初始图像空间,图示了一维编码处理300。而且,考虑该图像空间中的第一格式的期望图像仅使用中心12行像素37(每个28个像素宽)(2.33:1)。现在考虑第二格式的期望图像是使用全16行像素37(再次为每个28个像素宽)(1.75:1)的垂直拉伸图像。根据一维编码处理300,将从最高分辨率内容构造初始图像,例如,如图5中所示,在该情况下,最高分辨率内容应该是使用所有16行像素37的第二格式。
因为该实例涉及仅在垂直方向上不同的两个不同图像,由于相同处理可以独立地应用至任何其他列,所以通过检验任意列像素值,足以说明在该情况下的一维编码处理300的原理。现在参考图3a至图3d,图3a中示出16个像素强度值的任意示例性初始图像列。由于期望相对较低分辨率编码图像14、14.1包括12个值,根据第一实施例,一维编码处理300.1去除初始图像的每四个顺次像素37中的一个(在本实例中为每四个像素37中的第三个)。然后,剩余像素值被向内移位,以填塞(pack in)所得到的空缺像素值,在图像的边缘处留下新像素37空缺,但是还得到像素37的中心序列,即,表示初始图像的较低分辨率近似的相对较低分辨率图像38。然后,将被去除的像素值重指配给这些边缘空缺。由于被去除的初始图像像素值的数目等于通过将初始值朝向列的中心移位产生的边缘空缺,所以在图3b中示出的所得到的值的重分发不丢失实际图像信息。
根据一维编码处理300.1的第一实施例,图3b的编码图像14、14.1表示初始图像的编码表示,其中,第一区域(在该情况下为像素值3至14)表示初始图像的较低分辨率表示,而第二区域(在该情况下,包括由边缘像素值1、2、15和16限定的两个分离子区域)表示可以用于重构初始图像的信息。从而,例如,在没有任何进一步处理的情况下,可以显示相对较低分辨率图像区域,即,关联相对较低分辨率图像38,同时还抑制或消隐(blanking)其他区域的显示,所以那些值不在外围干扰(distract),或者可以通过反转编码处理以便解码编码图像14来恢复初始较高分辨率图像。
参考图3c,根据一维编码处理300.2的第二实施例,除了简单地去除并且将每四个序列图像像素37中的第三个重分发到图像的边缘,可以对每四个序列图像像素37的第二和第三个值平均化,以形成新像素值,代替四个序列像素37中的第二个。因此,所得到的相对较低分辨率编码图像14、14.2包括用于初始图像的每个初始序列四个像素值的三个像素值,使得编码图像14、14.2中的每个这样的三个像素37的中心像素值是初始图像的初始四个像素37序列的中心两个值的平均值。从而,在代码化后图像中存在不直接表示初始高分辨率图像的值的一些像素值。例如,初始图像中的“B”的值不直接包括在图3c的编码图像中。然而,在编码图像中存在的(B+C)/2的值和C的值可以用于用代数方法确定B的值。通常,一维编码处理300.2提供用于创建图像的编码表示,其中,第一区域表示初始图像的较低分辨率表示;第二区域或子区域的集表示可以结合较低分辨率表示和编码算法的知识使用,以用代数方法重构初始图像的附加信息,以便提供用于初始图像的原始像素值的数学重分发,以创建具有相同数目的像素值的新编码图像作为初始图像;其中,新编码图像包含一区域,该区域在编码图像内并且具有比编码图像更少的值;其中,该区域中的重分发值最准确地接近初始图像的所理解或实际内容;并且其中,可以使用逆处理来应用贯穿编码图像的重分发值,以恢复初始图像的原始像素值。在数学意义上,初始图像值到具有表示初始图像的较低分辨率近似的区域的新编码图像的重分发理想地提供足以在数学上确定初始图像的所有值的等式和重分发值的完整系统。
一维编码处理300可以沿着图像的不同方向——高度和宽度——独立地被执行,并且可以在连续地或隔行地针对编码的方向(即,H、V、V或V、H、V等)的方向上多次被执行。
注意,当期望时,通过改变算法,可以在多个序列阶段中执行编码处理,在逐渐降低的分辨率图像区域周围同时产生增加数目的像素值的同时,每个编码处理都产生先前阶段的初始图像的较小较低分辨率近似。然后,通过以逆序列应用每个阶段的合适逆操作,重构初始图像。
在一个或两个方向上执行的一维编码处理300提供编码图像14内的相对较低分辨率相对较低分辨率图像38,其在理想地屏蔽或者另外不显示用于最大美学价值的外围像素值的同时被显示,而没有附加处理。根据图像采样领域中的已知算法,所得到的相对较低分辨率相对较低分辨率图像38尽可能代表较高分辨率图像。然而,更复杂的算法关于涉及重构图像的电子处理的增加可能展现递减改进。
考虑编码图像14.1、14.2的低分辨率图像值的连线与初始高分辨率图像值的对应连线之间的图3d中所示的图像保真度的比较。低分辨率图像线已被拉伸,以使它们覆盖在高分辨率图像线之上。甚至编码图像14、14.2中的像素37平均化的适度增强实现太接近初始图像的近似,以致不清楚任何附加改进在不存在非常多细节的很多应用中都是明显的。另一方面,参考图4a至图4d,如所期望的,用于相对高细节的图像的第一300.1和第二300.2一维编码处理的分析说明高详细图像很难利用比初始图像更少的像素37表示,这是因为简单地在低分辨率图像中不存在足够像素37,以示出邻近高分辨率图像像素37之间的值的急剧改变。从而,只要使用较少像素37,图像细节的减少是不可避免的。
再次参考图2,在步骤210之后,在步骤212中,如果相对较高分辨率数字化图像12的原生纵横比约为21:9,其包括超过2.30:1的任何原生纵横比,则在步骤214中,在垂直方向上再次对来自步骤210的2560x1440编码图像14、14A编码,以便形成1920x810相对较低分辨率图像38”’,得到关联2560x1440编码图像14、14B。然后,在步骤216中,如果从步骤212看,相对较高分辨率数字化图像12的原生纵横比约为21:9,则来自步骤214的相对较低分辨率图像38”’被分发为编码HD(EHD)内容,并且关联编码图像14、14B中的附近剩余值被分发为扩展数据(ED)内容。另外,来自步骤210的相对较低分辨率图像38”被分发为编码HD(EHD)内容,并且在关联编码图像14、14A中的附近剩余值被分发为扩展数据(ED)内容。
图7图示了使用上述编码处理200编码的非变形相对较高分辨率数字化图像12的实例。将编码处理200平均地应用至相对较高分辨率数字化图像12的所有维度得到具有较低分辨率但是相同比例的初始图像尺寸的区域。例如,考虑初始图像具有2560水平x1440个垂直像素37,并且其中,原始内容具有16:9(或1.78:1)的原生纵横比。在两个方向上应用编码处理200以产生等于初始图像的75%的分辨率得到在1920x1080个像素37(1.78:1)的编码图像内的较低分辨率图像。从而,这样的内容可以通过简单地仅显示全2560x1440(1.78:1)编码图像的中心1920x1080部分(1.78:1),通过原生1920x1080显示器16、16.1直接示出。可替换地,诸如具有至少2560x1440个像素37(1.78:1)的较高分辨率显示器16可以将逆或解码算法应用至编码图像,以重构全分辨率初始图像。
图8图示了相对较高分辨率数字化图像12的实例,相对较高分辨率数字化图像12使用上述编码处理200但是例如变形地被编码,使得所得到的编码图像14被缩放用于通过例如变形投影系统的变形显示器16操作。在编码处理200被应用至多维图像的少于或不等于所有维度的特定情况下,较低分辨率图像将变为初始图像的变形表示。换句话说,所应用的编码算法的每个方向上的较低分辨率图像的比例将通常不同于初始图像的相对比例。例如,当传输流或存储介质的对应纵横比较小时,这可以对于具有约2.37:1的纵横比的很多电影的视频显示有用,一个实例是使用BLU-RAY DISCTM(BD)的2.37:1纵横比影片的存储和回放。BLU-RAY DISCTM(BD)的原始分辨率是1920水平x1080个垂直像素37(具有1.78:1的纵横比)。当使用全1920个水平像素37时,2.37:1纵横比影片仅使用1080行像素37的中心810行,通常将剩余135行像素37留在处于黑或零值处的图像之上和之下。从而,具有约2.37:1的原生纵横比的相对较高分辨率数字化图像12首先被产生或者随后被修改,使得内容的垂直尺寸相对于水平尺寸被变形拉伸33.3%。然后,因为由于33.33%垂直拉伸,导致其现在将要求全1080行像素37包含图像的垂直尺寸(1.3333x810=1080),所以该变形高分辨率源材料被变换为总分辨率1920x1080个像素37(1.78:1)。然后,该图像变为图2中所示的编码处理200的初始图像,其中,全1080行的图像信息重分发给编码图像的中心810行,以在该中心图像之上和之下的剩余135行像素37被用于存储编码处理的剩余像素值的同时,创建初始图像的较低分辨率近似。有效地,较低分辨率图像的垂直分辨率与初始图像的垂直分辨率的比率是75%(810/1080)、或者垂直拉伸多倍(133.33%)的准确倒数。
可以在标准1920x1080显示设备上播放所得到的1920x1080编码图像。由于在创建初始图像之前,首先将源内容垂直拉伸33%,并且由于编码图像的较低分辨率区域被垂直地缩放倒数量,所以较低分辨率图像的视觉结果具有2.37:1的最终纵横比。在实施例的一个集合中,消隐或者关闭相对较低分辨率图像38之上和之下的135行像素37的到显示器16.1的简单指令有效地提供基本类似于由包括BLU-RAY DISCTM的常规传输和存储介质提供的2.37:1影片的1920x810图像的质量的1920x810个像素37的图像。然而,在该情况下,可以使用编码算法的逆处理,采用与剩余270行内的附加值组合的1920x810图像内的编码值,以恢复全1920x1080变形图像,其中用于可以利用图像质量的该改进的那些显示系统的垂直分辨率(33.33%)明显增加。特别是,这样的显示系统可以包括装配有将1920x1080(1.78:1)解码后图像在光学上重新格式化为2.37:1纵横比的变形镜头的1920x1080(1.78:1)投影仪。这样的显示系统可以进一步包括具有2560水平x1080(2.37:1)垂直像素37的投影仪,其中,初始图像的1920列像素37被电子拉伸以填充显示器的2560个水平列像素37,从而将图像水平低拉伸133.33%以再次呈现具有原始内容的2.37:1视觉纵横比的最终图像。
参考图9,图示了提供用于从对应编码图像14重构相对较高分辨率数字化图像12的关联纵横比依赖解码处理900的流程图。然而,当例如在传统显示器16.1上仅观看相对较低分辨率相对较低分辨率图像38时,编码图像14不需要并且不被解码。通过合适消隐选择,编码图像因此与不提供解码处理的显示设备完全兼容。然而,如果全分辨率的编码图像14将被观看,则较低分辨率相对较低分辨率图像38值使用图9中所示的解码处理900,与相对较低分辨率图像38的区域之外的剩余编码值组合,图9中所示的解码处理900是图2中所示的编码处理200的逆。该解码处理900本质上是用于每个初始图像值的代数或数学解答,其可以包括诸如加法、减法、直接替换、或者乘以或除以因数2的操作,在通常数字表示的图像的情况下,特别是通过数字逻辑,其所有执行都非常简单。如同编码处理200一样,解码处理900依赖于相对较高分辨率数字化图像12的纵横比。例如,第一解码处理900.1被图示用于16:9纵横比,并且第二解码处理900.2被图示用于2.37:1纵横比,与上述编码处理200中的对应描绘一致。
解码处理900可以容易地合并到多种设备的图像处理硬件组件和/或软件中,包括但不限于显示器、机顶盒、BLU-RAY DISCTM和类似媒体播放器、计算机系统、游戏控制台、专用图像处理器、视频分发和存储系统、甚至手持设备。而且,这样的设备可以进一步包括接收和/或存储初始图像的一个或多个分离片段的能力,其之一包括相对较低分辨率图像38,并且其中,这样的片段可能在不同时间和/或通过不同通信方法到达,并且然后同步地重新组合这些片段并且利用足够数据应用合适解码算法,并因此重新创建初始高分辨率图像。这样的片段可以每个例如通过分离光盘(诸如,BLU-RAY DISCTM)或流送内容到达。在相对较低分辨率图像38驻留一个光盘上并且编码图像的剩余编码值到达第二光盘的情况下,同步双光盘播放器提供用于同步地读取两个盘,以解码相应编码值,并且因此实时地重构相对较高分辨率初始图像,而不需要存储任何片段。
参考图10,编码处理200提供用于产生表示初始图像的较低分辨率近似(即,编码HD(EHD)内容)的重分发值的区域、以及可以随后与对应编码HD(EHD)内容一起使用以重构或解码初始图像的附加编码值(即,扩展数据(ED)内容)。在显示分辨率或者图像的传输或运送限于该较低分辨率近似的一些应用中,可能期望将编码图像14分为较低分辨率区域值(即,编码HD(EHD)内容)和编码值的剩余集合(即,扩展数据(ED)内容),其每个都被分离地发射作为分离图像信号41.1、41.2,直到解码被调用为止,这是因为它们完全相互独立。只要较低分辨率图像及其对应剩余编码值在随后时间可以被同步,以提供编码图像值的完整集合,则所得到的重构初始图像将相同,而不管编码HD(EHD)内容和编码HD(EHD)内容是被发送作为分离图像信号41.1、41.2还是被组合为例如每个图像帧内的单个合成图像信号41中的编码图像14。
从而,根据用于生成、发射和显示编码图像20.2的系统的该第二方面的一个实例,具有原生纵横比16:9的相对较高分辨率数字化图像12被变换(transfer)为2560列x1440行像素37(1.78:1)的初始图像。然后,编码处理被应用至图像的尺寸,以创建1920列x1080行像素37(1.78:1)的集中的较低分辨率图像。因为本实例在两个方向上应用相同75%缩放比例,所以较低分辨率图像保持初始图像的相同纵横比。相对较低分辨率图像38(即,编码HD(EHD)内容)可以通过诸如使用用于存储的BLU-RAY DISCTM和用于显示的1920x1080(1.78:1)TV的HDTV的常规手段进一步被通信并且显示,而没有附加编码值(即,扩展数据(ED)内容)。在该情况下,围绕编码的较高分辨率图像中的相对较低分辨率图像38的附加编码值(即,扩展数据(ED)内容)可以通过分离装置被通信。在该情况下,与在相对较低分辨率图像38(即,编码HD(EHD)内容)中相比,存在表示附加编码图像(即,扩展数据(ED)内容)的较少像素值。因此,还可以通过HDTV的常规手段,诸如,使用第二BLU-RAY DISCTM或使用流送技术,通信全部附加信息。从而,能够呈现诸如2560x1440(1.78:1)个像素37的较高分辨率的显示器可以附带电子处理能力,该电子处理能力接收两套通信以重建全编码图像14并且随后解码该图像以创建2560x1440(1.78:1)初始相对高分辨率图像。
一维编码处理300提供用于在多个维度中独立地编码和/或解码。例如,一旦接收相对较低分辨率1920x1080(1.78:1)图像38加上足够剩余编码值(即,扩展数据(ED)内容),则可以仅在水平方向上对替代显示分辨率解码,以便产生可以在相同分辨率的显示器16上示出的2560x1080(2.37:1)的相对较高分辨率图像。当然,在该情况下,内容将被水平地拉伸。然而,对于一些用户,该较宽纵横比具有补偿图像失真的事实的值。
根据另一方面,编码图像14的相对较低分辨率图像38首先被发送,并且编码图像的剩余像素值(即,扩展数据(ED)内容)之后立即被发送。然而,在该实施例中,接收显示器可以允许该处理继续,当它们进入时解码两个信息分组,或者由于带宽限制或者由于用户指示显示器停止处理信息以重构初始图像,造成显示器16(或者随附设备)可以在任何时间引导发送设备排除附加信息分组。在很多情况下,特别是依赖无线通信,那些通信的带宽可以改变。从而,这提供用于至少相对较低分辨率图像38在低带宽可用性期间被通信和显示,但是当带宽可用性较高时和/或当用户期望较高分辨率图像时,被切换至较高分辨率初始图像。
图像编码器10提供可以被示出为初始图像的低分辨率表示或者通过合适解码被示出为较高分辨率初始图像本身的编码图像。如果在不解码的情况下,显示相对较低分辨率图像区域之外的扩展数据(ED)内容的原始像素值,则那些显示值通常将表现为视觉噪声。从而,这些像素值应该通过显示器16、16.1或者通过中间设备被抑制。执行这样的抑制的简单方法是允许用户具有有效地调节显示器16、16.1上的黑图像的范围,直到仅示出相对较低分辨率图像38为止的能力。通过诸如视频的典型内容,相对较低分辨率图像38的大小对于全部内容是常数,所以这样的黑条的范围仅在观看体验的开始需要被调节。然而,相对较低分辨率图像38的大小和纵横比可以被编码在通常位于内容开始处的信息帧内。因此,显示器16、16.1或中间设备可以解释该基本信息,并且自动地关闭相对较低分辨率图像区域之外的像素37。
例如,通过转换具有原生纵横比2.37:1的影片形成而不通过33.33%垂直(变形)拉伸产生的1920列x1080行像素37(1.78:1)的初始图像采用全分辨率1920x1080(1.78:1)。现在通过仅在垂直方向上应用编码算法以产生1920列x810行像素37(2.38:1)的较低分辨率图像,将135行像素37留在较低分辨率图像之上和之下用于重分发的像素值,以支持较高分辨率初始图像的随后重构,产生编码图像14。由于整个编码图像为HDTV的标准分辨率,所以其可以简单地在标准1920x1080(1.78:1)HDTV显示器16、16.1上示出。然而,如果编码图像的所有像素值均被示出,则在将表现为噪声的较低分辨率图像之上和之下将存在135行。因此,当基于由内容提供的初始信息,由用户选择或者由显示器16、16.1或中间设备自动选择设定值时,HDTV显示器16、16.1或者一些中间设备允许较低分辨率图像之上和之下的135行被关闭。
再次注意,由于以上实例考虑在编码之前被变形拉伸的2.37:1内容,所以当被显示在1920x1080(1.78:1)显示器16、16.1上时,编码图像14的相对较低分辨率图像38(即,在总计1080行中的810个中心行内)将具有合适2.37:1纵横比。应用至相对较低分辨率图像38之上和之下的135行的消隐处理仅有效地创建示出原生2.37:1内容的常规HDTV的标准“信箱”外观。
当与解码处理900结合使用时,通过使单个内容源能够支持不进行编码的1920x1080像素成像和相对较高分辨率成像,上述编码处理200和关联解码处理900可以帮助建立用于具有比1920x1080像素37的HDTV分辨率更高的分辨率的显示器16的市场,以便提供用于开发可以支持较高分辨率显示器16的市场开发的内容基础。
虽然在关联编码图像14中心处已经图示了相对较低分辨率图像38,但是应该理解,相对较低分辨率图像38可以位于关联编码图像14内的任何位置。而且,可以存在诸如立体三维成像的特定应用,对于特定应用,可以存在与共有编码图像14关联的多个相对较低分辨率图像38。
参考图11,根据图像编码处理的第三方面,相对较高分辨率数字化图像12包括布置在第一二维阵列102中的第一多个100均匀间隔像素37,相对较高分辨率数字化图像12的宽度沿着第一二维阵列102的第一维度104,并且相对较高分辨率数字化图像12的高度沿着第一二维阵列102的第二维度106。第一多个像素100、37被组织在第一二维阵列102内作为第一核心阵列110的第二二维阵列108,每个第一核心阵列110包括均匀间隔像素37的一维或二维阵列,其中所有第一核心阵列110都具有相同大小和维度。
参考图12,根据图像编码处理的第三方面,将第一多个像素100、37转换为编码图像14.3的第一实施例,其在包括第一组112第二多个像素114和第二组116第三多个像素118的第三二维阵列111内被编码。根据实施例的一个集合,第一组112第二多个像素114是相连的并且布置在第四二维阵列120中,以便提供用于显示相对于第一二维阵列102中的第一多个像素100、37具有相对较低分辨率的数字化图像的表示,并且第一组112第二多个像素114和第二组116第三多个像素118一起提供用于从其重构数字化图像的第一二维阵列102,基本不丢失关联信息。第二多个像素114被组织在第四二维阵列120内作为数目等于第一核心阵列110的数目并且与其是一对一对应关系的第二核心阵列124的第五二维阵列122,其中,每个第二核心阵列124的维数(即,一维或二维)与对应第一核心阵列110的维数相同,并且每个第二核心阵列124的大小小于对应第一核心阵列110的大小。
例如,参考图13,在一个实施例中,根据图像编码处理的第三方面的编码图像14.4的第二实施例被编码在第三二维阵列111、111.1内,第三二维阵列111、111.1包括通过例如图15a-b、图16或图17a-b中所示的关联3比2编码处理126从第一多个像素100、37变换的相应第一组112、112.1相应第二多个像素114、114.1和第二组116、116.1相应第三多个像素118、118.1,在一个实施例中,由此原始相对较高分辨率数字化图像12的每个对应第一核心阵列110、110.3包括九个像素37的3乘3阵列,并且第一组112、112.1第二多个像素114的每个对应第二核心阵列124,124.3包括四个下采样像素37’的对应2乘2阵列,使得沿着第一维度104和第二维度106中的每个,第一多个像素100、37的每三个像素37被转换为第二多个像素114、114.1的对应两个下采样像素37’。从合成编码图像14.4生成的图像信号41提供用于单独显示来自第一组112、112.1第二多个像素114、114.1的相对较低分辨率图像38,并且提供用于组合显示来自第一组112、112.1第二多个像素114、114.1和第二组116、116.1第三多个像素118、118.1的相对较高分辨率数字化图像12。
可替换地,参考图14a和图14b,根据图像编码处理的第三方面的编码图像14.5的第三实施例中的第一组112、112.1第二多个像素114、114.1和第二组116、116.1第三多个像素118、118.1可以分别被布置用于作为相应分离图像信号41.1、41.2传输,相应分离图像信号41.1、41.2提供用于单独显示来自第一组112、112.1第二多个像素114、114.1的相对较低分辨率图像,并且提供用于通过组合来自分离图像信号41.1、41.2的第一组112、112.1第二多个像素114、114.1和第二组116、116.1第三多个像素118、118.1来显示相对较高分辨率数字化图像12。
根据图像编码处理的第三方面,第一核心阵列110和第二核心阵列124的相应中心128、130的位置对应于相对较高分辨率数字化图像12的相同区域,以便相对于关联数字化图像相互基本对准。将每个第一核心阵列110转换为对应第二核心阵列124的操作针对其对应中心128、130对称,并且对于对应第一核心阵列110和第二核心阵列124的每个集合相同,其提供使用相对简单和快速的关联数据处理算法。将每个第一核心阵列110转换为对应第二核心阵列124的一个或多个操作用被公式表示为关联内插,其中,变换后的像素在第二核心阵列124中的位置在位置上被对称地移位了相对小摄动(perturbation)δ,针对第二核心阵列124的中心130对称,其中在每个第二核心阵列124内具有基本零总净值移位,以便减小可能另外造成在所得到的关联图像中的关联显著采样伪影的底层采样处理的基础空间频率的影响,并且使得每个第二核心阵列124出现在所得到的相对较低分辨率图像38中以与相对较高分辨率数字化图像12的对应第一核心阵列110的对应中心128对准,以便提供用于原始图像的相对较好宏观表示。从而,每个第一核心阵列110和第二核心阵列124可以在宏观上被认为是底层数字化图像的有效较大像素,使得每个第二核心阵列124的最佳下采样表示独立于其他地提供用于整个相对相对较低分辨率图像38的对应最佳聚合表示。
根据图像编码处理的第三方面,从第一核心阵列110的对应关联相对邻近像素37的线性空间内插,生成第二核心阵列124的每个下采样像素37’的值,但是具有相对于用于关联原始37和下采样37’像素的实际相对空间位置的对应值修改的关联内插系数。更特别地,假设关联下采样像素37’在空间中相对于对应标称几何位置移位了相对小摄动δ,来计算关联内插系数。从而,所得到的内插处理将故意误差引入对应标称位置处的下采样像素37’的值中,或者用于对应值的下采样像素37’的位置中。而且,空间移位的方向对于第二核心阵列124的不同下采样像素37’而变化,使得在每个第二核心阵列124内存在所有几何位置的基本零净值总空间移位。第二核心阵列124内的下采样像素37’的空间移位的该变化提供用于有效地减小几何下采样像素位置的规则间隔阵列的关联基础空间频率的影响,其中,采样伪影另外通常从具有原始图像的空间频率的这些基础采样空间频率的交互作用得到。从而,上述空间移位有效地提供用于牺牲位置采样误差的增加,用于更显著采样伪影的减少的益处。
例如,对于原始像素37,通过在几何上跨过由值B1指定的一个下采样像素37’的值A1和A2指定,下采样像素B1分别与像素A1和A2分离距离d1和d2,然后下采样像素37’的值B1由值A1和A2的以下线性内插给出:
B 1 = α · A 1 + β · A 2 α + β - - - ( 1 )
其中
α=d2+δ   (2)
β=d1-δ (3)
并且摄动δ是下采样像素B1从对应编码图像14中的对应采样点的标称均匀间隔位置的有效移位。如果摄动δ的值被设置为零,则下采样像素B1的值由下采样像素B1的标称位置处的值A1和A2的常规空间线性内插给出。等式(1)-(3)的修改内插方法可以被解释为a)从采样位置从规则间隔的下采样图像像素阵列中的对应下采样像素37’的对应几何位置的有效偏移量得到,b)从应用至不规则间隔的下采样图像像素阵列的几何位置的常规线性内插得到,或者c)使用通过有效地改变它们的值的一些类型的偏置修改的关联系数,从应用至规则间隔的下采样图像像素阵列的常规线性内插得到。
而且,当被应用至第一核心阵列110中的不同对像素37的内插时,摄动δ的量和方向针对第一核心阵列110和第二核心阵列124的中心128、130对称,使得在第二核心阵列124内,下采样像素37’的位置处的所有所得到的有效移位的总和基本为零。可以根据经验确定关联内插系数α、β的特定值,使得所得到的编码图像14提供最佳主观表象,其中,所得到的关联内插系数α、β的集合将具有用于关联摄动δ的底层关联对应值。
通常,下采样率R是沿着第一核心阵列110中的单个维度104、106的像素37的数目与沿着第二核心阵列124中的相同维度104、106的下采样像素37’的对应数目的比率。下采样率R或者多个下采样率R的乘积将取决于原始相对较高分辨率数字化图像12关于将被用于显示下采样像素37’的关联第二二维阵列108的所得到的对应相对较低分辨率图像38的关联显示器16、16.1的相对较低分辨率显示格式18的配置。而且,每个下采样率R具有最佳内插系数α、β的对应特定集合,每个最佳内插系数都可以根据经验被确定用于最佳主观表象,并且其对于不同下采样率R可以不同。
例如,标准显示分辨率被频繁地用于视频和计算机显示器16、16.1。例如,四倍高清(“QFHD”)的视频分辨率是3840x2160个像素37。在一个实施例中,一些高分辨率计算机监视器的分辨率是2560x1600个像素37、37’。从而,应用至QFHD图像的3比2的下采样率将产生具有将填充这样的计算机显示器16、16.1的宽度的2560x1440个像素37’的相对较低分辨率图像38。对该中间图像操作的4比3的第二下采样率R将导致1920x1080个像素37、37’的标准全高清(“HD”)相对较低分辨率图像38’。等效地,2560x1440中间图像在每个维度中包含QFHD图像的2/3分辨率,并且1920x1080HD图像在每个维度中包含中间图像的3/4分辨率。因此,相对于QFHD原始图像,HD图像在每个维度中具有等于这些比率的乘积的分辨率或者1/2分辨率。在一个维度中应用的4比3下采样率R对于用于视频应用的变形成像也有用。应该理解,在此描述的3比2和4比3下采样率R是用于说明目的的实例,并且这些特定实例应该不另外被认为是限制性的。
例如,参考图15a,根据第三方面的一维编码处理132.1的第一实施例提供用于3比2的下采样率R,其中,关联第一核心阵列110、110.1被图示为被转换为具有两个下采样像素37’:B1、B2的对应行的第二核心阵列124、124.1的三个序列像素37.A1、A2、A3的行,其中剩余像素37之一,例如,A2,被存储在第二组116、116.1第三多个像素118、118.1中。例如,一维编码处理132.1的第一实施例可应用至包含沿着关联第二维度106的3N个像素37、37’的相对较高分辨率数字化图像12或者相对较低分辨率图像38,其中,N是正整数。所得到的下采样像素37’:B1、B2从等式(1)给出为:
B 1 = α · A 1 + β · A 2 α + β - - - ( 4 )
B 2 = α · A 3 + β · A 2 α + β - - - ( 5 )
像素A1和A3位于第一核心阵列110、110.1的对应第一边缘134.1和第二边缘134.2上,像素A2位于第一核心阵列110、110.1的中心128处,并且下采样像素B1、B2位于第二核心阵列124、124.1的对应第一边缘136.1和第二边缘136.2上,其中,下采样像素B1被内插在对应像素A1和A2之间,并且下采样像素B2被内插在对应像素A3和A2之间。用于内插系数α、β的值α=2和β=1看起来提供用于所得到的相对较低分辨率图像38的最佳主观表象,并且提供用于相对快关联数据处理,以下更完整地描述后者。
参考图15a,根据一种解释,下采样像素B1位于像素A1和A2之间的中间,并且下采样像素B2位于像素A3和A2之间的中间,使得对于像素37:A1、A2、A3,每个都分离一个单位,并且对于用于内插系数α、β的值α=2和β=1,内插系数α、β可以如下表示:
α=γ·(d2+δ)=2   (6)
β=γ·(d1-δ)=1   (7)
使得对于关联距离d1和d2,每个都具有1/2的值,d1=d2=1/2,γ=3并且δ=1/6。从而,对于最佳主观表象,下采样像素B1、B2的值被内插为就像每个都从其相应标称位置远离第一核心阵列110、110.1的中心128移位距离1/6到对应移位位置B1*、B2*。
可替换地,参考图15b,根据另一种解释,下采样像素B1、B2在所得到的第一组112、112.1第二多个像素114、114.1的相对较低分辨率图像38内均匀地隔开,使得对于像素37:A1、A2、A3,每个均分离一个单位,数目为2/3的所得到的下采样像素B1、B2然后均分离3/2或1.5个单位,使得下采样像素B1、B2的标称位置均被定位成离第一核心阵列110的中心1283/4个单位,使得d1=1/4并且d2=3/4,从等式(6)和(7)看出,对于用于最佳主观表象的α=2和β=1,γ=3并且δ=-1/12。从而,对于最佳主观表象,下采样像素B1、B2的值被内插为就像每个均从其相应标称位置朝向第一核心阵列110、110.1的中心128移位距离1/12到对应移位位置B1*、B2*,其与图15a中所示的相同,每个都在离第一核心阵列110、110.1的中心128距离3/4-1/12=1/2+1/6=2/3处。
对于用于内插系数α、β的值α=2和β=1,下采样像素B1、B2的值由以下给出:
B 1 = 2 A 1 + A 2 3 - - - ( 8 )
B 2 = 2 A 3 + A 2 3 - - - ( 9 )
等式(8)和(9)可以通过使用二进制移位操作来执行关联乘法和除法,通过相对快数据处理算法被实现,假设关联相对较高分辨率数字化图像12和相对较低分辨率图像38每个包括用于关联像素37和下采样像素37’的数字值,其被提供用于利用用于关联内插系数α、β的合适值。
例如,二进制值X乘以2的n次幂(即,2n)的乘法等效于将二进制值左移位n比特,其在此通过X<<n表示。类似地,二进制值Y除以2的n次幂(即,2n)的除法等效于将二进制值右移位n比特,其在此通过Y>>n表示。
值(2n-1)的除法可以基于几何级数使用以下公式近似:
1 x - 1 = &Sigma; i = 1 &infin; ( 1 x ) i , - - - ( 10.1 )
或者,对于x=2n-1,
1 2 n - 1 = &Sigma; i = 1 &infin; ( 1 2 n ) i . - - - ( 10.2 )
从而,
X 2 n - 1 = X &CenterDot; &Sigma; i = 1 &infin; ( 1 2 n ) i = &Sigma; i = 1 &infin; ( X > > n i ) - - - ( 11.1 )
使得,对于X除以3=22-1的除法,在n=2的情况下等式(11.1)变为:
X 3 = &Sigma; i = 1 &infin; ( X > > 2 i ) . - - - ( 11.1 )
从而,使用二进制移位操作用于根据3比2的下采样率R的像素37:A1、A2、A3的一维内插的相对快算法实现,以便使用用于所得到的相对较低分辨率图像38的最佳主观质量的内插系数α、β的值α=2和β=1来生成对应下采样像素37’:B1、B2,然后等式(8)和(9)由以下近似:
B 1 = &Sigma; i = 1 p ( A 1 < < 1 + A 2 ) > > 2 i - - - ( 12 )
B 2 = &Sigma; i = 1 p ( A 3 < < 1 + A 2 ) > > 2 i - - - ( 13 )
其中,p等于像素37、37’的值的数字表示中的比特数的一半。
参考图16,根据第三方面的一维编码处理132.2的第二实施例提供用于3比2的下采样率R,其中,关联第一核心阵列110、110.2被图示为被转换为两个下采样像素37’:B1、B2的对应列的第二核心阵列124、124.2的三个序列像素37:A1、A2、A3的列,其中剩余像素37之一(例如A2)被存储在第二组116、116.1第三多个像素118、118.1中。另外,上述关联内插等式(4)-(9)、(12)和(13)与图15a和图15b中所示的一维编码处理132.1的第一实施例相同。例如,一维编码处理132.2的第二实施例可被应用至包含沿着关联第一维度104的3M个像素37、37’的相对较高分辨率数字化图像12或者相对较低分辨率图像38,其中,M是正整数。
第一一维编码处理132.1和第二一维编码处理132.2可以按照任一顺序被依序地执行,以提供用于将每个3乘3第一核心阵列110、110.3转换为对应2乘2第二核心阵列124、124.3。
可替换地,参考图17a,根据图像编码处理的第三方面的二维编码处理138.1的第一实施例提供用于根据图17b中所示的内插等式,将每个3乘3第一核心阵列110、110.3直接转换为对应2乘2第二核心阵列124、124.3,其中,响应于第一核心阵列110、110.3的对应拐角像素37.1:A11、A13、A31、A33并且还响应于第一核心阵列110、110.3的剩余相对中心像素37.2的一部分:A12、A21、A32、A23、A22,计算下采样像素37’:B11、B12、B21、B22,其中,相对中心像素37.2:A12、A21、A32、A23、A22然后被存储在第二组116、116.1第三多个像素118、118.1中。例如,二维编码处理138.1的第一实施例可应用至包含沿着关联第二维度106的3N个像素37、37’和沿着关联第一维度104的3M个像素37、37’的相对较高分辨率数字化图像12或相对较低分辨率图像38,其中,N和M是正整数。在替代实施例中,以增加存储器使用为代价,图17b中所示的等式的加括号([...])部分还可以被存储在第二组116、116.1第三多个像素118、118.1中,以便促进关联解码处理。
参考图18a,一维解码处理140.1的第一实施例提供用于解码根据图15a中所示的一维编码处理132.1的第一实施例编码的第一组112、112.1第二多个像素114、114.1和第二组116、116.1第三多个像素118、118.1,以便在基本不丢失关联图像内容的情况下,从其重构对应的相对较高分辨率数字化图像12,其中,对于每个第二核心阵列124、124.1,两个先前下采样像素37’:B1、B2的对应行根据图18c中所示的解码等式与对应的分离存储像素37:A2重新组合,以便重新生成剩余原始像素37:A1、A3,以便形成所得到的对应第一核心阵列110、110.2的三个像素37:A1、A2、A3的对应行。
类似地,参考图18b,一维解码处理140.2的第二实施例提供用于解码根据图16中所示的一维编码处理132.2的第二实施例编码的第一组112、112.1第二多个像素114、114.1和第二组116、116.1第三多个像素118、118.1,以便在基本不丢失关联图像内容的情况下,重构对应的相对较高分辨率数字化图像12,其中,对于每个第二核心阵列124、124.2,两个先前下采样像素37’:B1、B2的对应列根据图18c中所示的解码等式与对应的分离存储像素37:A2重新组合,以便重新生成剩余原始像素37:A1、A3,以便形成所得到的对应第一核心阵列110、110.2的三个像素37:A1、A2、A3的对应列。
如果第一一维编码处理132.1和第二一维编码处理132.2以给定顺序被依序地执行,以提供用于将每个3乘3第一核心阵列110、110.3转换为对应2乘2第二核心阵列124、124.3,然后组合第二组116、116.1第三多个像素118、118.1对每个第二核心阵列124、124.3解码,以便通过以对应编码处理132.1、132.2的逆顺序执行的关联第二一维解码处理140.2和第一一维解码处理140.1形成对应第一核心阵列110、110.3,使得已被执行的最后的一维编码处理132.2、132.1首先被解码,并且已被执行的第一个一维编码处理132.1、132.2最后被解码。
对于用于在关联第一一维编码处理132.1或第二一维编码处理132.2中使用的内插系数α、β的值α=2和β=1,并且对于作为剩余数据被存储在第二组116、116.1第三多个像素118、118.1中的像素37:A2,对应第一一维解码处理140.1或第二一维解码处理140.2的所得到的等式变为:
A 1 = 3 &CenterDot; B 1 - A 2 2 , 以及(14)
A 3 = 3 &CenterDot; B 2 - A 2 2 - - - ( 15 )
其可以使用用于关联乘法和除法的二进制移位操作如下被实现:
A1=(B1<<1+B1-A2)>>1,以及(16)
A3=(B2<<1+B2-A2)>>1   (17)
参考图19a,二维解码处理142.1的第一实施例提供用于使用图19b中所示的等式,对根据图17a中所示的二维编码处理138.1的第一实施例编码的图像解码,以结合第一核心阵列110、110.3的分离存储的相对中心像素37.2:A12、A21、A32、A23、A22,分别从对应拐角下采样像素37.1’:B11、B12、B21、B22的值重构第一核心阵列110、110.3的像素37:A11、A13、A31、A33的值,后者被直接用于重构第一核心阵列110、110.3的对应中心像素37.2:A12、A21、A32、A23、A22,由此在基本不丢失的情况下,完整地重构对应第一核心阵列110、110.3。
参考图20,在一个实施例中,根据图像编码处理的第三方面的编码图像14.6的第四实施例在第三二维阵列111、111.2中被编码,第三二维阵列111、111.2包括通过例如图22a-b、图23或图24a-c中所示的关联4比3编码处理144,从先前编码的第一组112、112.1第二多个像素114、114.1(分别在图13或图14a中所示的编码图像14.4、14.5的第二或第三实施例的后者)进一步转换的相应第一组112、112.2相应第二114、114.2和组第二116、116.2第三多个像素118、118.2,由此每个对应第一核心阵列110、110.6包括十六个像素37的4乘4阵列,并且每个对应第二核心阵列124、124.6包括九个像素37的对应3乘3阵列,使得沿着第一维度104和第二维度106中的每个,先前编码的编码图像14.4、14.5的第二多个像素114、114.1的每四个下采样像素37’被转换为所得到的第二多个像素114、114.2的对应三个下采样像素37’。从合成编码图像14.6生成的图像信号41提供用于单独显示来自第一组112、112.2第二多个像素114、114.2的相对较低分辨率图像,并且提供用于显示来自第一组112、112.2第二多个像素114、114.2和第二组116、116.2第三多个像素118、118.2、以及图13或图14a中所示的编码图像14.4、14.5的先前编码的第二组116、116.1第三多个像素118、118.1的组合的相对较高分辨率数字化图像12。
可替换地,参考图21a和图21b,根据编码图像14.7的第五实施例,第一组112、112.2第二多个像素114、114.2、第二组116、116.2第三多个像素118、118.2、以及图13或图14a中所示的编码图像14.4、14.5的先前编码的第二组116、116.1第三多个像素118、118.1可以分别被布置用于作为相应分离图像信号41.1、41.2’、41.2”传输,相应分离图像信号41.1、41.2’、41.2”提供用于单独显示来自第一组112、112.2第二多个像素114、114.2的相对较低分辨率图像,并且提供用于通过重新组合来自分离图像信号41.1、41.2’、41.2’的第一组112、112.2第二多个像素114、114.2和第二组116、116.1、116.2第三多个像素118、118.1、118.2,显示相对较高分辨率数字化图像12。
从而,图20和图21a-c中所示的编码图像14.6、14.7从以下处理得到:对第一二维阵列102的整个相对较高分辨率数字化图像12操作的初始3比2编码处理126,以便生成所得到的先前编码的第一组112、112.1对应第二多个像素114、114.1和组第二116、116.1第三多个像素118、118.1;之后为仅对先前编码的第一组112、112.1第二多个像素114、114.1操作而不影响关联先前编码的第二组116、116.1第三多个像素118、118.1的4比3编码处理144,以便从其生成第一组112、112.2第二多个像素114、114.2和第二组116、116.2第三多个像素118、118.2。所得到的编码图像14.6、14.7按照逆顺序被解码,即,通过首先结合第二组116、116.2第三多个像素118、118.2解码第一组112、112.2第二多个像素114、114.2,以便重构先前编码的第一组112、112.1第二多个像素114、114.1,并且然后结合对应先前编码的第二组116、116.1第三多个像素118、118.1解码重构后的先前编码的第一组112、112.1第二多个像素114、114.1,以便重构原始相对较高分辨率数字化图像12。系列地应用3比2和4比3编码处理126、114的结果在于,沿着每个维度104、106的下采样像素37’的数目是原始像素37的对应数目的一半,使得下采样像素37’的总数是原始像素37的总数的四分之一。
可替换地,4比3编码处理144可以单独地或者继之以3比2编码处理126,对第一二维阵列102的相对较高分辨率数字化图像12直接操作。
例如,参考图22a,根据第三方面的一维编码处理132.3的第三实施例提供用于4比3的下采样率R,其中,关联第一核心阵列110、110.4被图示为四个序列像素37:A1、A2、A3、A4的行,四个序列像素37:A1、A2、A3、A4被转换为具有三个下采样像素37’:B1、B2、B3的对应行的第二核心阵列124、124.4,其中剩余像素37中的一个(例如,A1、A2、A3或A4)被存储在第二组116第三多个像素118中。例如,一维编码处理132.3的第三实施例可应用至相对较高分辨率数字化图像12或者相对较低分辨率图像38,每个均包含沿着关联第二维度106的4N个像素37、37’,其中,N是正整数。所得到的下采样像素37’:B1、B2、B3由以下给出:
B 1 = &alpha; &CenterDot; A 1 + &beta; &CenterDot; A 2 &alpha; + &beta; - - - ( 18 )
B 2 = &alpha; &CenterDot; A 2 + &beta; &CenterDot; A 3 &alpha; + &beta; - - - ( 19 )
B 3 = &alpha; &CenterDot; A 4 + &beta; &CenterDot; A 3 &alpha; + &beta; - - - ( 20 )
其中,等式(18)和(20)基于等式(1),并且提供用于合并针对第一核心阵列110、110.4和第二核心阵列124、124.4的相应中心128、130的对称移位(即,摄动δ)的相应内插。
像素A1和A4位于第一核心阵列110、110.4的对应第一边缘134.1和第二边缘134.2上,像素A2和A3跨在第一核心阵列110、110.1的中心128上,下采样像素B1、B3位于第二核心阵列124、124.4的对应第一边缘136.1和第二边缘136.2上,并且下采样像素B2位于第二核心阵列124、124.4的中心130处,其中,下采样像素B1被内插在对应像素A1和A2之间,下采样像素B3被内插在对应像素A4和A3之间,并且下采样像素B2是像素A2和A3的平均值。
用于内插系数α、β的值α=3和β=1看起来使用用于乘法和除法的二进制移位技术,结合相对快关联数据处理,提供用于所得到的相对较低分辨率图像38的最佳主观表象,如以下更完全地描述的。
参考图22a,根据一种解释,下采样像素B1位于像素A1和A2之间的中间,并且下采样像素B3位于像素A4和A3之间的中间,使得对于每个均分离一个单位的像素37:A1、A2、A3、A4,并且对于内插系数α、β的值α=3和β=1,内插系数α、β可以如下表示:
α=γ·(d2+δ)3   (21)
β=γ·(d1-δ)=1   (22)
使得对于关联距离d1和d2,每个均具有值1/2,d1=d2=1/2,γ=4并且δ=1/4。从而,对于最佳主观表象,下采样像素B1、B3的值被内插为就像每个均从其相应标称位置远离第一核心阵列110、110.4的中心128移位1/4距离到对应移位位置B1*、B3*。
可替换地,参考图22b,根据另一种解释,下采样像素B1、B2、B3在所得到的第一组112第二多个像素114的相对较低分辨率图像38内均匀地间隔,使得对于每个均隔开一个单位的像素37:A1、A2、A3、A4,数目为3/4的所得到的下采样像素B1、B2、B3然后每个均隔开4/3个单位,使得下采样像素Bs位于第一核心阵列110的中心128处,下采样像素B1和B3均被定位成离第一核心阵列110的中心1284/3个单位,使得d1=1/6并且d2=5/6,从等式(6)和(7)看,对于用于最佳主观表象的α=3和β=1,γ=4并且δ=-1/12,与图15b中所示的3比2一维编码处理132.1具有相同的摄动δ。从而,对于最佳主观表象,下采样像素B1、B3的值被内插就像每个都从其相应标称位置朝向第一核心阵列110、110.4的中心128移位距离1/12到对应移位位置B1*、B3*,其与图22a中所示的相同,每个都在离第一核心阵列110、110.4的中心128距离4/3-1/12=1+1/4=5/4处。
内插等式(18)-(20)可以通过使用二进制移位操作执行关联乘法和除法,以相对快数据处理算法被实现,假设关联相对较高分辨率数字化图像12和相对较低分辨率图像38每个均包括用于关联像素37和下采样像素37’的数字值,二进制移位操作被提供用于利用用于关联内插系数α、β的合适值,例如,通过选择内插系数α、β的值,对于其,a)总和(α+β)是提供用于最佳主观图像质量的最小总和,b)α和β是非负整数,以及c)总和(α+β)=2m,其中,m是非负整数。而且,通过选择用于提供用于在采样位置上的关联有效移位的关联摄动δ的值,使得所得到的关联内插系数α、β变为支持通过相对较快二进制运算而不是相对较慢但是更普通的浮点运算实现关联内插操作的简分数,便于关联数据处理操作。虽然便于计算效率的移位调节可能在给定像素值的几何位置中创建附加误差,但是假设这样的误差在视觉上不显著,得到采样伪影的关联减少。然而,应该理解,内插等式通常可以通过任何一种运算来实现,例如,浮点运算、整数运算、二进制运算、或其组合。
内插系数α、β的以下组合是(α+β)=2m的值的实例:
&alpha; &beta; ( &alpha; + &beta; ) 1 0 1 3 1 4 5 3 8 7 1 8
提供用于最佳所得到的图像质量的特定内插系数α、β的选择可以是主观的。通常,原始图像的最佳现实表示是在一个极端的高清晰度而且装饰精美的图像和在另一个极端的感觉模糊而且没有装饰的图像之间的折衷。等式(18)-(20)使用用于内插系数α、β的上述值,被应用至多种数字测试图像,以便确定哪个集合的值被提供用于最佳主观图像质量。例如,对于第一集合的内插系数α、β,α=1和β=0,所得到的下采样图像在曲线中展现相对高清晰度但是明显残留粗糙度。对于第二集合的内插系数α、β,α=3和β=1,所得到的下采样图像展现基本减少的伪影,清晰度仅稍微减小。而且,使用第二集合的内插系数α、β(α=3和β=1)的结果在视觉上类似于远远更复杂的内插方法。利用用于内插系数α、β的附加集合的值的实验最多仅产生视觉质量的非常相对小改进,其不被认为充分明显,以证明重构误差的假定增加。
使用用于内插系数α、β的值α=3并且β=1,所得到的用于下采样像素B1、B2、B3的值的等式由以下给出:
B 1 = 3 A 1 + A 2 4 - - - ( 23 )
B 2 = A 2 + A 3 2 - - - ( 19 )
B 3 = 3 A 4 + A 3 4 - - - ( 24 )
通过使用二进制移位操作执行关联乘法和除法,在相对快数据处理算法中实现等式(19)、(23)和(24),假设关联相对较高分辨率数字化图像12和相对较低分辨率图像38每一个包括用于关联像素37和下采样像素37’的数字值,其被提供用于利用用于关联内插系数α、β的合适值。据此,根据4比3的下采样率R提供用于像素37:A1、A2、A3、A4的一维内插,以便使用用于所得到的相对较低分辨率图像38的最佳主观质量的内插系数α、β的值α=3和β=1,生成对应下采样像素37’:B1、B2、B3的等式(19)、(23)和(24)的相对快算法实现通过以下近似:
B1=(A1+A1<<1+A2)>>2(25)
2=(A1+A3)>>1(26)
B3=(A4+A4<<1+A3)>>2(27)
参考图23,根据第三方面的一维编码处理132.4的第四实施例提供用于4比3的下采样率,其中,关联第一核心阵列110、110.5被图示为被转换为具有三个下采样像素37’:B1、B2、B3的对应列的第二核心阵列124、124.5的四个序列像素37:A1、A2、A3、A4的列,其中剩余像素37之一(例如,A1、A2、A3或A4)被存储在第二组116第三多个像素118中。另外,上述关联内插等式(18)-(20)和(23)-(27)对于图22a和图22b中所示的一维编码处理132.3的第三实施例相同。例如,一维编码处理132.4的第四实施例可以被应用至相对较高分辨率数字化图像12或者相对较低分辨率图像38,每个包含沿着关联第二维度106的4M个像素37、37’,其中,M是正整数。
第三一维编码处理132.3和第四一维编码处理132.4可以按照任一顺序被依序地执行,以便提供用于将每个4乘4第一核心阵列110、110.6转换为对应3乘3第二核心阵列124、124.6。
可替换地,参考图24a,根据图像编码处理的第三方面的二维编码处理138.2的第二实施例提供用于根据图24c中所示的内插等式,将每个4乘4第一核心阵列110、110.6直接转换为对应3乘3第二核心阵列124、124.6,其中,响应于第一核心阵列110、110.6的对应拐角像素37.1:A11、A14、A41、A44并且还响应于第一核心阵列110、110.6的剩余相对中心像素37.2的一部分:A22、A32、A22、A23和边缘像素37.3:A12、A13、A21、A31、A42、A43、A24、A34,分别计算下采样像素37’:B11、B14、B31、B33,其中,然后将那些相对中心37.2和边缘37.3像素的一部分存储在如图24b中所示的第二组116、116.2第三多个像素118、118.2中。例如,二维编码处理138.2的第二实施例可以被应用至相对较高分辨率数字化图像12或者相对较低分辨率图像38,包含沿着关联第二维度106的4N个像素37、37’、以及沿着关联第一维度104的4M个像素37、37’,其中,N和M是正整数。
参考图25a,一维解码处理140.3的第三实施例提供用于解码根据图22a中所示的一维编码处理132.2的第三实施例编码的第一组112、112.2第二114、114.2多个像素和第二组116、116.2第三多个像素118、118.2,以便在基本不丢失关联图像内容的情况下,从其重构对应相对较高分辨率数字化图像12,其中,对于每个第二核心阵列124、124.4,三个先前下采样像素37’:B1、B2、B3的对应行根据图25c中所示的解码等式与对应分离存储的像素37:A1重新组合,以便重新生成剩余原始像素37:A2、A3、A4,以便形成所得到的对应第一核心阵列110、110.4的四个像素37:A1、A2、A3、A4的对应行。
类似地,参考图25b,一维解码处理140.4的第四实施例提供用于解码根据图23中所示的一维编码处理132.4的第四实施例编码的第一组112、112.2第二多个像素114、114.2和第二组116、116.2第三多个像素118、118.2,以便在基本不丢失关联图像内容的情况下,重构对应相对较高分辨率数字化图像12,其中,对于每个第二核心阵列124、124.5,三个先前下采样像素37’:B1、B2、B3的对应列根据图25c中所示的解码等式与对应分离存储像素37:A1重新组合,以便重新生成剩余原始像素37:A2、A3、A4,以便形成所得到的对应第一核心阵列110、110.5的四个像素37:A1、A2、A3、A4的对应列。
如果第三一维编码处理132.3和第四一维编码处理132.4以给定顺序被依序地执行,以提供用于将每个4乘4第一核心阵列110、110.6转换为对应3乘3第二核心阵列124、124.6,然后每个第二核心阵列124、124.6都结合第二组116、116.2第三多个像素118、118.2被解码,以便通过以对应编码处理132.3、132.4的逆序执行的关联第四一维解码处理140.4和第三一维解码处理140.3形成对应第一核心阵列110、110.6,使得已被执行的最后一维编码处理132.4、132.3首先被解码,并且已被执行的第一一维编码处理132.3、132.4最后被解码。
对于在关联第三一维编码处理132.3或第四一维编码处理132.4中使用的内插系数α、β的值α=3并且β=1,并且对于作为剩余数据已被存储在第二组116、116.2第三多个像素118、118.2中的像素37:A1,所得到的对应第三一维解码处理140.3或第四一维解码处理140.4的等式变为:
A2=4B1-3A1(28)
A3=2B2-A2(29)
A 4 = 4 B 3 - A 3 3 - - - ( 30 )
其可以使用用于关联乘法和除法的二进制移位操作如下被实现:
A2=B1<<2-A1<<1-A1(31)
A3=B2<<1-A2(32)
A 4 = &Sigma; i = 1 p ( B 3 < < 2 - A 3 ) > > 2 i - - - ( 33 )
其中,关于上述等式(12)和(13),p等于像素37、37’的值的数字表示的比特数的一半。
将像素37:A1而不是像素37:A2作为剩余数据存储在第二组116、116.2第三多个像素118、118.2中的选择提供用于改进的准确度,这是因为另外,如果像素37:A2已被保存为剩余数据,则像素37:A1由以下给出:
A 1 = 4 B 1 - A 2 3 - - - ( 34 )
对此,结果可能是具有关联截断误差的小数。
参考图26,二维解码处理142.2的第二实施例提供用于解码根据图24a中所示的二维编码处理138.2的第二实施例编码的图像,以从下采样像素37’的值重构第一核心阵列110、110.6的像素37的值,以便在基本不丢失的情况下,完整地重构对应的第一核心阵列110、110.6,例如,如下:
首先,使用从图24c中所示的等式推导的等式,结合如图24b中限定的所存储像素37:γ5、γ6、γ7,从中心下采样像素37.2’:B22确定中心像素37.2:A22、A32、A33、A23的值。
然后,使用从图24c中所示的那些推导的等式,以下操作以任何顺序被执行:
结合如图24b中限定的所存储像素37:γ1和先前确定的中心像素37.2:A22和A23,从对应边缘下采样像素37.3’确定边缘像素37.3:A12和A13
结合如图24b中限定的所存储像素37:γ2和先前确定的中心像素37.2:A22和A32,从对应边缘下采样像素37.3’:B21确定边缘像素37.3:A21和A31
结合如图24b中限定的所存储像素37:γ3和先前确定的中心像素37.2:A32和A33,从对应边缘下采样像素37.3’:B32确定边缘像素37.3:A42和A43;以及
结合如图24b中限定的所存储像素37:γ4和先前确定的中心像素37.2:A23和A33,从对应下采样像素37.3’确定边缘像素37.3:A24和A34
最终,使用从图24c中所示的那些推导的等式,结合先前确定的关联边缘37.3和中心37.2像素,从对应相应拐角下采样像素37.1’:B11、B31、B33、B13分别确定拐角像素37.1:A11、A41、A44、A14的值。
参考图27,在一个实施例中,根据图像编码处理的第三方面的编码图像14.8的第六实施例在第三二维阵列111、111.3内被编码,第三二维阵列111、111.3包括通过例如图29至图31中所示的关联6比3编码处理146从第一多个像素100、37转换的相应第一组112、112.3相应第二多个像素114、114.3和第二组116、116.3第三多个像素118、118.3,由此原始相对较高分辨率数字化图像12的每个对应第一核心阵列110、110.7包括三十六个像素37的6乘6阵列,并且第一组112、112.3第二多个像素114、114.3的每个对应第二核心阵列124、124.7包括九个下采样像素37’的对应3乘3阵列,使得沿着第一维度104和第二维度106中的每个,第一多个像素100、37中的每六个像素37被转换为第二多个像素114、114.3中的对应三个像素37。从合成编码图像14.8生成的图像信号41提供用于单独显示来自第一组112、112.3第二多个像素114、114.3的相对较低分辨率图像38,并且提供用于显示来自第一组112、112.3第二多个像素114、114.3和第二组116、116.3第三多个像素118、118.3的组合的相对较高分辨率数字化图像12。
可替换地,参考图28a和图28b,根据图像编码处理的第三方面的编码图像14.9的第七实施例中的第一组112、112.3第二多个像素114、114.3和第二组116、116.3第三多个像素118、118.3可以分别被布置用于作为相应分离图像信号41.1、41.2传输,相应分离图像信号41.1、41.2提供用于单独显示来自第一组112、112.3第二多个像素114、114.3的相对较低分辨率图像,并且提供用于通过重新组合来自分离图像信号41.1、41.2的第一组112、112.3第二多个像素114、114.3和第二组116、116.3第三多个像素118、118.3,显示相对较高分辨率数字化图像12。
参考图29,根据图像编码处理的第三方面的二维编码处理138.3的第三实施例提供用于将每个6乘6第一核心阵列110、110.7直接转换为对应3乘3第二核心阵列124、124.7,其中,下采样像素37’:D11、D12、D13、D21、D22、D23、D31、D32、D33每个根据从图30a-d中所示的3比2编码处理126.1、126.2、126.3、126.4的组合推导的对应内插等式被计算,3比2编码处理126.1、126.2、126.3、126.4中的每个作用于第一核心阵列110、110.7的对应相应3乘3象限148.1、148.2、148.3、148.4,以便分别提供用于生成相应对应2乘2中间核心阵列150.1、150.2、150.3、150.4,其每个都构成对应4乘4中间核心阵列152的不同对应象限152.1、152.2、152.3、152.4,如图31中所示,对应4乘4中间核心阵列然后使用4比3编码处理144被转换为所得到的3乘3第二核心阵列124、124.7,其中,每个3比2编码处理126.1、126.2、126.3、126.4都根据图17b中所示的等式操作,4比3编码处理144根据图24c中所示的等式操作,并且对应第二组116、116.3第三多个像素118、118.3根据图17a和图24a-b中所示的3比2编码处理126.1、126.2、126.3、126.4和4比3编码处理144被填充,并且如上所述。
根据二维编码处理138.3的第三实施例,对应第二组116、116.3第三多个像素118、118.3包括如图29中所示的原始像素值(C12-C25)和所计算的像素值(γ17)的组合。然而,应该理解,通常对于包含q个像素37的第一核心阵列110和包含r个像素37的第二核心阵列124,第二组116、116.3第三多个像素118、118.3可以包含q-r个原始像素值,而不是图29和图31中所示的原始和所计算的像素值的组合,类似于图24b中所示的实施例的第二组116第三多个像素118如何包含所有原始像素值。例如,在一个这样的实施例中,γ1可以包含原始像素C13或C14,γ2可以包含原始像素C31或C41,γ3可以包含原始像素C63或C64,γ4可以包含原始像素C36或C46,并且集合{γ5、γ6、γ7}可以包含四个原始像素C33、C34、C43或C44中的任何三个,使得第二组116、116.3第三多个像素118、118.3然后排他地包含原始像素值,其可以提供用于更快处理,其中,然后根据被公式化以适应第一组112、112.3第二多个像素114、114.3和第二组116、116.3第三多个像素118、118.3的该结构的等式的关联集合,结合第二组116、116.3第三多个像素118、118.3的原始像素值,从未被合并到第二组116、116.3第三多个像素118、118.3中的6乘6第一核心阵列110、110.7的剩余原始像素值计算3乘3第二核心阵列124、124.7的下采样像素37’。
从而,通常,上述一维编码处理132和二维编码处理138提供用于快速地下采样包含相对较高分辨率数字化图像12的第一多个像素100、37,以便生成包含相对较低分辨率图像38的第一组112第二多个像素114和第二组116第三多个像素118,其中,第一组112第二多个像素114单独提供用于显示原始图像的相对高质量较低分辨率表示,并且结合第二组116第三多个像素118,使用对应一维解码处理140或二维解码处理142,提供用于相对快地重构原始相对较高分辨率数字化图像12,而基本不丢失关联视觉细节。通过在编码和解码处理期间使用利用整数代数运算实现的线性内插,上述一维编码处理132和二维编码处理138提供用于相对快操作。在实施例的一个集合中,使用二进制移位操作实现关联乘法和除法,其中,可以提供用于更快关联数据处理。
针对构成数字化图像的每个关联核心阵列110、124的中心128、130对称的采样移位(即,摄动δ)提供用于在每个核心阵列110、124内的净零移位,并且提供用于将通过给定下采样率R应用的关联线性内插处理。假设在原始相对较高分辨率数字化图像12中存在足够数目的像素37,可以顺序地应用使用多种关联下采样率R的多个关联编码处理132、138,以便有效地产生其值等于所有单独下采样率R的乘积的新下采样率R。而且,如果原始相对较高分辨率数字化图像12不具有足够数目的像素37用于整数个关联第一核心阵列110,则当必要时,可以用零值像素37填塞相对较高分辨率数字化图像12,以适应整数个关联第一核心阵列110,之后适当地截断所得到的下采样相对较低分辨率图像38的第二核心阵列124中的零值。应该理解,因此可以在在此所示的特定实例以外的应用中,发现创建用于原始和下采样图像的特定分辨率的关联优化编码算法的方法、以及算法本身。
再次参考图1,标准图像格式化40的关联处理(例如,图像压缩或者通过CODEC的编码)可能将伪影引入到相对于关联编码图像14的格式化编码图像14’。例如,关联图像压缩处理可以响应于对应图像像素37的值的时间或空间的改变,对所谓的运动向量操作。对于包含在编码图像14的分离区域中的分离第一组112相应第二多个像素114和第二组116第三多个像素118中的编码HD(EHD)内容和扩展数据(ED)内容的组合(以便提供用于在传统显示器16.1上以相对较低分辨率显示格式18单独显示编码HD(EHD)内容,或者在关联相对较高分辨率显示器16上在相对较高分辨率数字化图像12中一起显示编码HD(EHD)内容和扩展数据(ED)内容的解码后组合)的编码图像14,扩展数据(ED)内容包含原始相对较高分辨率数字化图像12的相对全异部分的组合,并且因此通过标准图像格式化40的关联处理,例如,通过关联图像压缩处理,相对更容易失真。
以下关于适用于使用来自BLU-RAY DISCTM光盘的关联图像信号41的关联变形投影系统的原生使用的图32中所示的抽象编码图像14、14.10和关联处理的实例描述了用于减轻这样的失真的处理。更特别地,通过按照因子4/3垂直地拉伸3202原始相对较高分辨率数字化图像12’,并且然后垂直地3204和水平地3206内插(例如,采样)所得到的垂直拉伸2560x1440相对较高分辨率数字化图像12”以便形成1920x1080相对较高分辨率数字化图像12(即,以便用内插像素37填充关联1920x1080阵列),具有2.37:1纵横比(水平/垂直)的包括2560x1080个像素37的原始2560x1080相对较高分辨率数字化图像12’被转换为包括具有1.78:1纵横比(BLU-RAY DISCTM光盘的标准分辨率)的包括1920x1080个像素37的垂直拉伸1920x1080相对较高分辨率数字化图像12。这样的“变形”内容可以通过采用变形镜头以适当地显示原始内容2.37:1内容的1920x1080投影系统、或者通过较宽格式的2560x1080显示器16使用,较宽格式的2560x1080显示器16可以采用该全垂直分辨率,同时电子地拉伸水平尺寸,以类似地提供合适最终纵横比。然后,1920x1080相对较高分辨率数字化图像12可以使用4比3编码处理144被垂直编码3208,以便生成包括编码HD(内容)的1920x810阵列中的第一组112第二多个像素114的编码图像14、14.10,并且扩展数据(ED)内容的像素37的剩余270行中的第二组116第三多个像素118位于编码图像14、14.10中的编码HD(EHD)内容之上和之下。因为1920x1080相对较高分辨率数字化图像12从其原生纵横比按照因子4/3被垂直地拉伸,并且因为相对较低分辨率显示格式18的编码图像14、14.10的编码HD(EHD)内容被垂直地按比例缩放倒数量,所以所得到的相对较低分辨率显示格式18的编码HD(EHD)内容的下采样图像展现原始2.37:1纵横比,并且可以通过在该编码HD(EHD)内容之上和之下简单地添加像素值的黑条,在常规HDTV显示器16上显示为常见的“信箱”图像。
编码HD(EHD)内容和扩展数据(ED)内容可以以多种格式在共有关联编码图像14、14.10(即,包括第三二维阵列111)内被合并在一起。例如,根据格式化关联编码图像14、14.10内的编码HD(EHD)内容和扩展数据(ED)内容的第一方面的实施例的一个集合,编码HD(EHD)内容在编码图像14、14.10内被合并为像素37的单个相连二维阵列,即,第五二维阵列122,并且扩展数据(ED)内容被存储在编码图像14、14.10的像素的一个或多个互补区域中。从而,关于图32中所示的以上实例,编码HD(EHD)以相对较低分辨率显示格式18由像素37的810行构成,其中扩展数据(ED)内容的像素37的135行在相对中心编码HD(EHD)内容之上和之下扩展。从而,格式化的第一方面提供用于在通过简单地取消关联扩展数据(ED)内容的像素37形成的黑条之上和之下包围的所得到的“信箱”相对较低分辨率图像38。然而,当相对较高分辨率数字化图像12随后通过解码从关联格式化的编码图像14’重构的编码图像14、14.10被重构时,根据第一方面被格式化但是随后通过例如标准图像格式化40(使用已知压缩方案,以便生成适用于作为关联图像信号41传输的格式化的编码图像14’)被处理的1920x1080编码图像14、14.10可能很容易出错。更特别地,扩展数据(ED)内容的每个邻近行表示与来自原始1920x1080相对较高分辨率数字化图像12的每组四行关联的信息,与针对邻近像素37相比,后者通常可以展现针对每四个像素37的更大变化,与在编码HD(EHD)内容的相对较高分辨率图像38中相比,通常导致扩展数据(ED)内容中的行与行的较大变化,其中,扩展数据(ED)内容的邻近行对应于相对较高分辨率数字化图像12的每四行。假设标准图像格式化40压缩方案通过平滑改变图像内容而不是由编码图像14、14.10的扩展数据(ED)内容部分展现的相对急剧变化最好地执行。该问题通过影响扩展数据(ED)内容的像素37的邻近行的任何误差均导致与对应编码HD(EHD)内容关联的所重构的相对较高分辨率数字化图像12的三个其他对应关联行中的对应误差的事实加剧,由此在此产生视觉伪影。
参考图33,根据格式化关联编码图像14、14.10’内的编码HD(EHD)内容和扩展数据(ED)内容的第二方面,扩展数据(ED)内容与关联编码HD(EHD)内容交织。例如,参考图32,对于1920x1080相对较高分辨率数字化图像12,所得到的编码HD(EHD)内容包括用于关联扩展数据(ED)内容的每一行像素37的三行下采样像素37。例如,对于像素37的给定列,如果1920x1080相对较高分辨率数字化图像12的原始四个像素37的每个集合的第三个像素37移动到扩展数据(ED)内容,并且剩余第一、第二和第四个像素37对应于编码HD(EHD)内容。例如,扩展数据(ED)内容与编码HD(EHD)内容交织,其中与相对较高分辨率数字化图像12中的一组四行中的第三行相对应的扩展数据(ED)内容的每行在与相对较高分辨率数字化图像12的对应第二和第四行相对应的编码HD(EHD)内容的对应行之间交织。相对于根据第一方面的上述非交织格式格式化的扩展数据(ED)内容,所得到的交织图像154基本展现较少行到行变化。而且,从例如压缩的标准图像格式化40得到的任何误差都基本仅影响像素37的相对直接邻近行,而不是如从格式化的第一方面得到的像素37的相对更远行。从而,利用扩展数据(ED)内容与编码HD(EHD)内容交织,格式化的第二方面相对不太容易受由随后标准图像格式化40压缩处理导致的误差影响,并且还可以提供用于通过解码编码图像14、14.10’重构的相对较高分辨率数字化图像12中的相对较少伪影。然而,在首先不通过预处理编码图像14、14.10’被恢复的情况下,合并在交织图像154中的相对较低分辨率图像38内容不能直接显示在传统显示器16.1上。更特别地,为了单独显示相对较低分辨率图像38,交织图像154的每个第三行首先需要被丢弃或忽略,并且黑条需要被添加在所得到的剩余相对较低分辨率图像38之上和之下,以便提供用于相对较低分辨率图像38的关联“信箱”格式。从而,为了以“信箱”格式显示相对较低分辨率图像38,第二方面的交织格式要求附加但是计算简单的处理步骤,其不能另外被要求用于根据格式化的第一方面的非交织格式。
通过根据第一方面格式化的编码图像14的标准图像格式化40的处理导致的相对较高分辨率数字化图像12的重构中的上述误差还可以通过关联编码126、132、138、144、146或解码140处理的合适配置被减轻,以便减小所得到的相对较高分辨率数字化图像12的重构像素37的值对通过标准图像格式化40的处理并且通过关联逆处理导致的在关联格式化的编码图像14’中和从其重构的编码图像14中的误差的敏感度。
例如,以下实例说明与4比3编码处理144和关联解码处理140关联的等式的特定公式化对所得到的相对较高分辨率数字化图像12的重构像素37的值对通过标准图像格式化40的关联处理(例如,压缩)或者通过关联逆处理导致的关联扩展数据(ED)内容中的误差的敏感度的影响。
从等式(19)、(23)和(24)看,第二核心阵列124的值Bi由第一核心阵列110的对应值Ai给出如下,用于一维编码处理132:
B 1 = 3 A 1 + A 2 4 , - - - ( 23 )
B 2 = A 2 + A 3 2 , 以及(19)
B 3 = 3 A 4 + A 2 4 . - - - ( 24 )
根据一维解码处理140’的第一方面,A1或A4(例如A1)被存储在扩展数据(ED)内容中,并且所得到的第一核心阵列110的对应重构值Ai结合第二核心阵列124的值Bi被给出为A1的值的函数:
A24B1-3A1,   (28)
A3=2B2-A2=2B2-4B1+3A1,以及   (29.1)
A 4 = 4 B 3 - A 3 3 = 4 B 3 - 2 B 2 + 4 B 1 - 3 A 1 3 = 4 B 3 - 2 B 2 + 4 B 1 3 - A 1 - - - ( 30.1 )
从而,如果在从编码图像14生成格式化的编码图像14’中的标准图像格式化40的处理或者在从格式化的编码图像14’生成编码图像14中的逆处理造成A1的值的误差ε,则A1的重构值由以下给出:
A &OverBar; 1 = A 1 + &epsiv; - - - ( 35 )
从而,通过将用于A1的值带入等式(28)、(29.1)和(30.1),由以下给出重构的与Ai值之间的差,即,所得到的重构的相对较高分辨率数字化图像12中的误差:
A &OverBar; 1 - A 1 = &epsiv; , - - - ( 36.1 )
A &OverBar; 2 - A 2 = - 3 &epsiv; , - - - ( 36.2 )
A &OverBar; 3 - A 3 = 3 &epsiv; , 以及(36.3)
A &OverBar; 4 - A 4 = - &epsiv; . - - - ( 36.4 )
从而,重构像素37中的最大误差小于或等于存储在扩展数据(ED)内容中的每组四个像素37中的像素37的值A1的误差ε的三倍。
根据一维解码处理140’的第二方面,A2或A3(例如,A2)被存储在扩展数据(ED)内容中,并且所得到的第一核心阵列110的对应重构值Ai结合第二核心阵列124的值Bi被给出为A2的值的函数:
A 1 = 4 B 1 - A 2 3 = 4 B 1 3 - A 2 3 , - - - ( 34.1 )
A3=2B2-A2,以及(29)
A 4 = 4 B 3 - A 3 3 = 4 B 3 - 2 B 2 + A 2 3 = 4 B 3 - 2 B 2 3 + A 2 3 - - - ( 30.2 )
从而,如果在从编码图像14生成格式化的编码图像14’中的标准图像格式化40的处理或者在从格式化的编码图像14’生成编码图像14中的逆处理造成A2的值的误差ε,则A2的重构值由以下给出:
A &OverBar; 2 = A 2 + &epsiv; - - - ( 37 )
从而,通过将用于A2的值代入等式(34)、(29)和(30.2),由以下给出重构的和实际Ai值之间的差,即,所得到的重构的相对较高分辨率数字化图像12中的误差:
A &OverBar; 2 - A 2 = &epsiv; , - - - ( 38.1 )
A &OverBar; 1 - A 1 = - &epsiv; 3 , - - - ( 38.2 )
A &OverBar; 3 - A 3 = &epsiv; , 以及(38.3)
A &OverBar; 4 - A 4 = - &epsiv; 3 . - - - ( 38.4 )
从而,被重构像素37中的最大误差小于或等于存储在扩展数据(ED)内容中的每组四个像素37中的像素的值A2的误差ε。
通常,扩展数据(ED)内容不限于相对较高分辨率数字化图像12的原始像素37的存储值,而是可以包含例如从与编码HD(EHD)内容充分结合以用代数方法重构相对较高分辨率数字化图像12的原始像素37的原始像素37的值的组合推导的相对较高分辨率数字化图像12的原始像素37的值。例如,编码HD(EHD)内容可以基于对下采样和重构图像具有最小影响的两个原始像素值的差。例如,根据一维解码处理140”’的第三方面,两个相对中心像素37的A2和A3之间的差例如
C=A2-A3(39)
被存储在扩展数据(ED)内容中,并且所得到的第一核心阵列110的对应重构值Ai结合第二核心阵列的值Bi被给出为值C的函数如下:
A 2 = B 2 + C 2 , - - - ( 40 )
(通过同时分别解答来自等式(39)和(29)的A2-A3=C和A2+A3=2B2得到)
A 3 = 2 B 2 - + A 2 = B 2 - C 2 , - - - ( 29.2 )
A 1 = 4 B 1 - A 2 3 = 4 B 1 - B 2 3 - C 6 , - - - ( 40 ) 以及(34.2)
A 4 = 4 B 3 - A 3 3 = 4 B 3 - B 2 3 + C 6 . - - - ( 30.3 )
从而,如果在从编码图像14生成格式化的编码图像14’中的标准图像格式化40的处理或者在从格式化的编码图像14’生成编码图像14的逆处理造成C的值的误差ε,则C的重构值由以下给出:
C &OverBar; = C + &epsiv; - - - ( 41 )
从而,通过将用于C的值代入等式(29.2)、(34.2)和(30.3)中,然后由以下给出重构的和实际Ai值之间的差,即,所得到的重构的相对较高分辨率数字化图像12中的误差:
A &OverBar; 1 - A 1 - &epsiv; 6 , - - - ( 42.1 )
A &OverBar; 2 - A 2 - &epsiv; 2 , - - - ( 42.2 )
A &OverBar; 3 - A 3 - &epsiv; 2 , 以及(42.3)
A &OverBar; 4 - A 4 - &epsiv; 6 . - - - ( 42.4 )
从而,被重构像素37中的最大误差小于或等于存储在扩展数据(ED)内容中的每组四个像素37的C的值的误差ε的一半。
从而,在从上述三个下采样像素37’的对应值重构四个原始像素37的值时,存储在扩展数据(ED)内容中的值适于对结合扩展数据(ED)内容从编码HD(EHD)内容重构的相对较高分辨率数字化图像12的对应关联像素37具有相对较小影响。从而,对对应重构值具有较小贡献的存储在扩展数据(ED)内容中的值的任何误差或噪声将导致在所得到的重构的相对较高分辨率数字化图像12中的对应较低误差或噪声。
虽然已经针对4比3编码处理144说明了一维解码处理140’、140”、140”’的以上第一至第三方面,但是应该理解,类似分析可以通过其他编码处理应用,例如,以上描述的3比2编码处理126或6比3编码处理146。通常,对于编码和解码处理的任何组合,通过标准图像格式化40的处理造成的相对较高分辨率数字化图像12的重构中的误差或噪声可以通过调整解码处理和可能的关联编码处理而被减少,以最小化以下成本函数:
&Omega; = &Sigma; i = 1 N ( A &OverBar; i - A i ) 2 - - - ( 43 )
应该理解,代数运算不必须限于上述一维解码处理140’、140”、140”’的第一至第三方面的那些。
而且,关联编码处理还可以被考虑用于最小化或减小特别存储的原始数据值对所得到的相对较高分辨率数字化图像12的重构中的误差或噪声的贡献的操纵。然而,这样的更改可能导致关联相对较低分辨率图像38的保真度的折衷。
对于存储在扩展数据(ED)内容中的值是相对较高分辨率数字化图像12的原始像素37的值的代数运算的解码处理,存储在扩展数据(ED)内容中的所得到的值具有与编码图像14的其他像素37类似的幅度是有益的,以便减轻可能由在从编码图像14生成格式化的编码图像14’中的标准图像格式化40的处理或者在从格式化的编码图像14’生成编码图像14中的逆处理导致的上述失真。例如,因为相对较高分辨率数字化图像12中的像素37的所有值都是非负的,所以如果存储在扩展数据(ED)内容中的所得到的值也是非负的,则上述失真可以被减轻到至少某个程度。例如,与一维解码处理140”’的第三方面协作,这可以通过将非负值C’存储在扩展数据(ED)内容中而不是仅存储值C来实现,其中,C’由以下给出:
C &prime; = C + &gamma; 2 , - - - ( 44 )
其中,γ是像素37的最大值(例如,用于像素值的单色的8比特表示的255)。
从而,通过适当地公式化关联解码处理,对通过在从编码图像14生成格式化的编码图像14’中的标准图像格式化40的处理或者在从格式化的编码图像14’生成编码图像14中的逆处理造成的误差ε的敏感度减小提供了用于所得到的重构的相对较高分辨率数字化图像12中的实质改进,因为对压缩误差和关联噪声的基本较小敏感度,当使用格式化关联编码图像14、14.10内的编码HD(EHD)内容和扩展数据(ED)内容的第一方面时,其足以实现可接受结果。这是因为存储在扩展数据(ED)内容中的关联值是原始相对较高分辨率数字化图像12中的邻近像素37的值的差,使得扩展数据(ED)内容的邻近对应像素值之间的强度或颜色的变化相对小,并且因此在标准图像格式化40的处理期间,对来自图像压缩的关联误差相对不太敏感。而且,在从编码图像14生成格式化的编码图像14’中的标准图像格式化40的处理或者在从格式化的编码图像14’生成编码图像14中的逆处理期间的图像压缩和解压缩得到的任何误差都将影响重构的相对较高分辨率数字化图像12中的邻近像素37之间的对应差,而不是直接影响像素37的值,其基本减小这样的误差的可见性。
参考图34,根据格式化关联编码图像14、14.10’内的编码HD(EHD)内容和扩展数据(ED)内容的第一方面,可以通过对扩展数据(ED)内容中的像素37排序,使得它们的顺序反映编码HD(EHD)内容的关联对应区域的顺序,进一步使得关联重构的相对较高分辨率数字化图像12对与标准图像格式化40的处理关联的误差相对不太敏感,以便呈现从一个像素37到另一个像素的相对更平滑过渡。例如,对于以上关于图32描述的4比3编码处理144,通过来自在图34中被识别为“A”至“I”的原始相对较高分辨率数字化图像12的一部分并且随后从顶部到底部在关联编码HD(EHD)内容中被依序排序的原始四行区域,用于大致与相对较高分辨率数字化图像12的上半部分相对应的区域“A”至“D”的关联扩展数据(ED)内容位于编码HD(EHD)内容之上,但是为逆序,使得用于区域“A”的扩展数据(ED)内容邻近用于区域“A”的编码HD(EHD)内容,并且用于大致与相对较高分辨率数字化图像12的下半部分相对应的区域“I”至“E”的关联扩展数据(ED)内容位于编码HD(EHD)内容之下,也为逆序,使得用于区域“I”的扩展数据(ED)内容邻近用于区域“I”的编码HD(EHD)内容。这提供用于促进编码图像14的编码HD(EHD)内容和关联编码HD(EHD)内容之间的相对更平滑过渡,以便例如在对应关联压缩和解压缩处理期间,促进与在从编码图像14生成格式化的编码图像14’中的标准图像格式化40的处理或者在从格式化的编码图像14’生成编码图像14中的逆处理关联的误差的减小。
根据关联解码处理的第四方面,编码HD(EHD)内容可以被直接解码,以提供相对较高分辨率数字化图像12的近似,而不需要关联扩展数据(ED)内容,由此扩展数据(ED)内容的数据作为代替从编码HD(EHD)内容的关联数据估计,以便提供用于在与由编码HD(EHD)内容单独提供的相对较低分辨率图像38的分辨率相比具有相对较高分辨率的显示器16上显示所得到的相对较高分辨率数字化图像12的近似。
例如,提供用于生成关联编码HD(EHD)内容的例如图15a-b和图16中所示的一维3比2编码处理126的等式(8)和(9)可以如下表示为向量矩阵形式:
B &OverBar; = B 1 A 2 B 2 = 2 3 1 3 0 0 1 0 0 1 3 2 3 &CenterDot; A 1 A 2 A 3 = E &OverBar; &CenterDot; A &OverBar; - - - ( 45 )
其中,是包含第一组112第二多个像素(B1、B2)和第二组116第三多个像素118(A2)的对应部分的合成的向量,是相对较高分辨率数字化图像12的对应原始像素37值的向量,并且是提供用于实现关联3比2编码处理126的关联变换矩阵。
图18a-b中所示的对应关联一维解码处理140.1、1402的等式(14)
和(15)可以表示为向量矩阵形式,如下:
A &OverBar; = A 1 A 2 A 3 = 3 2 - 1 2 0 0 1 0 0 - 1 2 3 2 &CenterDot; B 1 A 2 B 2 = D &OverBar; &CenterDot; B &OverBar; - - - ( 46 )
其中,是提供用于实现关联一维解码处理140.1、140.2的关联变换矩阵。
将等式(45)代入等式(46),如果剩余像素37值(A2)被保存并且使用,则关联一维解码处理140.1、140.2提供用于准确地重构所有像素,如下:
A &OverBar; = D &OverBar; &CenterDot; B &OverBar; = D &OverBar; &CenterDot; E &OverBar; &CenterDot; A &OverBar; - - - ( 47.1 )
或者
A &OverBar; = 3 2 - 1 2 0 0 1 0 0 - 1 2 3 2 &CenterDot; 2 3 1 3 0 0 1 0 0 1 3 2 3 &CenterDot; A &OverBar; = 1 0 0 0 1 0 0 0 1 &CenterDot; A &OverBar; = I &OverBar; &CenterDot; A &OverBar; = A &OverBar; . - - - ( 47.2 )
然而,为了根据关联解码处理的第四方面解码的目的,于3比2编码处理126的剩余像素37相对应的值(A2)可以例如通过近似函数f(B1,B2)从第二多个像素114(B1、B2)的值近似,以便提供用于重构用于在与由第二多个像素114(B1、B2)的编码HD(EHD)内容提供的相对较低分辨率图像38的分辨率相比,具有相对较高分辨率的显示器16上单独显示的相对较高分辨率数字化图像的近似,而不要求对应原始第二组116第三多个像素118(A2)。从而,使用用于剩余像素37值(A2)的该近似f(B1,B2),用于一维解码处理140.1、140.2的相对较高分辨率数字化图像12的对应像素37(A1、A2、A3)的对应近似然后由以下给出:
A &prime; &OverBar; = A 1 &prime; A 2 &prime; &prime; A 3 &prime; = 3 2 - 1 2 0 0 1 0 0 - 1 2 3 2 &CenterDot; B 1 f ( B 1 , B 2 ) B 2 - - - ( 48 )
其中,是所得到的包含相对较高分辨率数字化图像12的像素37(A1、A2、A3)的近似的向量。
例如,在一个实施例中,与剩余像素37相对应的值(A2)通过第二多个像素114(B1、B2)的附近值的平均值或f(B1,B2)=(B1+B2)/2近似,使得等式(48)变为:
A &prime; &OverBar; = A 1 &prime; A 2 &prime; &prime; A 3 &prime; = 5 4 - 1 4 1 2 1 2 - 1 4 5 4 &CenterDot; B 1 B 2 D &prime; &OverBar; &CenterDot; B &prime; &OverBar; . - - - ( 49 )
从等式(45)看,单独包含第一组112第二多个像素114(B1、B2)的向量由以下给出:
B &prime; &OverBar; = 2 3 1 3 0 0 1 3 2 3 &CenterDot; A 1 A 2 A 3 = E &prime; &OverBar; &CenterDot; A &OverBar; - - - ( 50 )
其中,是提供用于实现关联3比2编码处理126的关联变换矩阵。
然后,相对较高分辨率数字化图像12的像素37(A1’、A2’、A3’)的近似通过将等式(50)代入等式(49)被给出如下:
A &prime; &OverBar; = D &prime; &OverBar; &CenterDot; B &prime; &OverBar; = D &prime; &OverBar; &CenterDot; E &prime; &OverBar; &CenterDot; A &OverBar; - - - ( 51.1 )
或者,
A &OverBar; &prime; = 5 4 - 1 4 1 2 1 2 - 1 4 4 5 &CenterDot; 2 3 1 3 0 0 1 3 2 3 &CenterDot; A 1 A 2 A 3 = 5 6 1 3 - 1 6 1 3 1 3 1 3 - 1 6 1 3 5 6 &CenterDot; A &OverBar; = G &OverBar; &CenterDot; A &OverBar; - - - ( 51.2 )
其中,如果近似是准确的,则矩阵等于单位矩阵
然后,相对较高分辨率数字化图像12的像素37的近似(A1’、A2’、A3’)和实际(A1、A2、A3)值之间的差由以下给出:
A &prime; &OverBar; - A &OverBar; = [ G &OverBar; - I &OverBar; ] &CenterDot; A &OverBar; , - - - ( 52 )
并且,近似(A1’、A2’、A3’)和实际(A1、A2、A3)值之间的差的平方的关联总和由误差测量Q给出如下:
Q = Trace ( A &OverBar; T &CenterDot; [ G &OverBar; - I ] &OverBar; T &CenterDot; [ G &OverBar; - I &OverBar; ] &CenterDot; A &OverBar; ) , - - - ( 53 )
对于像素37值(A1、A2、A3)的给定集合,其提供近似的质量或保真度的测量,并且如果可以,其可以用于在可能近似函数f(B1,B2)当中选择,以便提供改进近似的质量或保真度。
作为关联解码处理的第四方面的第二实例,提供用于生成关联编码HD(EHD)内容的例如如图22a-b和图23中所示的一维4比3编码处理144的等式(23)、(19)和(24)可以如下表示为向量矩阵形式:
B &OverBar; = B 1 A 2 B 2 B 3 = 3 4 1 4 0 0 0 1 0 0 0 1 2 1 2 0 0 0 1 4 3 4 &CenterDot; A 1 A 2 A 3 A 4 = E &OverBar; &CenterDot; A &OverBar; . - - - ( 54 )
其中,是第一组112第二多个像素114(B1、B2、B3)和第二组116第三多个像素118(A2)的对应部分的合成,是相对较高分辨率数字化图像12的对应原始像素37值的向量,并且是提供用于实现关联4比3编码处理144的关联变换矩阵。
图25a-b中所示的对应关联一维解码处理140.3、140.4的等式(34.1)、(29)和(30.2)可以以向量矩阵形式表示如下:
A &OverBar; = A 1 A 2 A 3 A 4 = 4 3 - 1 3 0 0 0 1 0 0 0 - 1 2 0 0 1 3 - 2 3 4 3 &CenterDot; B 1 A 2 B 2 B 3 = D &OverBar; &CenterDot; B &OverBar; . - - - ( 55 )
其中,是用于实现关联一维解码处理140.3、140.4的关联变换矩阵。
将等式(54)代入等式(55),如果剩余像素37值(A2)被保存并且使用,则关联一维解码处理140.3、140.4提供用于准确地重构所有像素,如下:
A &OverBar; = D &OverBar; &CenterDot; B &OverBar; = D &OverBar; &CenterDot; E &OverBar; &CenterDot; A &OverBar; - - - ( 56.1 )
或者,
A &OverBar; = 4 3 - 1 3 0 0 0 1 0 0 0 - 1 2 0 0 1 3 - 2 3 4 3 &CenterDot; 3 4 1 4 0 0 0 1 0 0 0 1 2 1 2 0 0 0 1 4 3 4 &CenterDot; A &OverBar; = 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 &CenterDot; A &OverBar; = I &OverBar; &CenterDot; A &OverBar; = A &OverBar; - - - ( 56.2 )
然而,为了根据关联解码处理的第四方面解码的目的,与3比2编码处理126的剩余像素37相对应的值(A2)可以例如通过近似函数f(B1,B2,B3)从第二多个像素114(B1、B2)的值近似,以便提供用于重构用于在与由第二多个像素114(B1、B2、B3)的编码HD(EHD)内容提供的相对较低分辨率图像38的分辨率相比,具有相对较高分辨率的显示器16上单独显示的相对较高分辨率数字化图像12的近似,而不要求对应原始第二组116第三多个像素118(A2)。从而,使用用于剩余像素37值(A2)的该近似,用于一维解码处理140.1、140.2的相对较高分辨率数字化图像12的对应像素37(A1、A2、A3、A4)的对应近似然后通过以下给出:
A &prime; &OverBar; = A 1 &prime; A 2 &prime; A 3 &prime; A 4 &prime; = 4 3 - 1 3 0 0 0 1 0 0 0 - 1 2 0 0 1 3 - 2 3 4 3 &CenterDot; B 1 f ( B 1 , B 2 , B 3 ) B 2 B 3 - - - ( 57 )
其中,是所得到的包含相对较高分辨率数字化图像12的像素37(A1、A2、A3、A4)的近似的向量。
例如,在一个实施例中,与剩余像素37相对应的值(A2)通过第二多个像素114(B1、B2)的周围值的平均值或者f(B1,B2)=(B1+B2)/2近似,使得等式(57)变为:
A &prime; &OverBar; = A 1 &prime; A 2 &prime; A 3 &prime; A 4 &prime; = 7 6 - 1 6 0 1 2 1 2 0 - 1 2 3 2 0 1 6 - 1 2 4 3 B 1 B 2 B 3 = D &prime; &OverBar; &CenterDot; B &prime; &OverBar; - - - ( 58 )
从等式(54)看,单独包含第一组112第二多个像素114(B1、B2、B3)的向量由以下给出:
B &prime; &OverBar; = 3 4 1 4 0 0 0 1 2 1 2 0 0 0 1 4 3 4 &CenterDot; A 1 A 2 A 3 A 4 = E &prime; &OverBar; &CenterDot; A &OverBar; - - - ( 59 )
其中,是提供用于实现关联4比3编码处理144的关联变换矩阵。
然后,相对较高分辨率数字化图像12的像素37(A1’、A2’、A3’、A4’)的近似通过将等式(59)代入等式(58)给出如下:
A &prime; &OverBar; = D &OverBar; &prime; &CenterDot; B &prime; &OverBar; = D &OverBar; &prime; &CenterDot; E &prime; &OverBar; &CenterDot; A &OverBar; - - - ( 60.1 )
或者,
A &prime; &OverBar; = 7 6 - 1 6 0 1 2 1 2 0 - 1 2 3 2 0 1 6 - 1 2 4 3 &CenterDot; 3 4 1 4 0 0 0 1 2 1 2 0 0 0 1 4 3 4 &CenterDot; A 1 A 2 A 3 A 4 = 7 8 5 24 - 1 12 0 3 8 3 8 1 4 0 - 3 8 5 8 3 4 0 1 8 - 5 24 1 12 1 &CenterDot; A &OverBar; = G &OverBar; &CenterDot; A &OverBar; - - - ( 60.2 )
其中,如果近似是准确的,则矩阵将等于单位矩阵
然后,相对较高分辨率数字化图像12的像素37的近似(A1’、A2’、A3’、A4’)和实际(A1、A2、A3、A4)之间的差由以下给出:
A &prime; &OverBar; - A &OverBar; = [ G &OverBar; - I &OverBar; ] &CenterDot; A &OverBar; , - - - ( 61 )
并且,近似(A1’、A2’、A3’、A4’)和实际(A1、A2、A3、A4)像素37值之间的差的平方的关联总和通过误差测量Q给出如下:
Q = Trace ( A &OverBar; T &CenterDot; [ G &OverBar; - I &OverBar; ] T &CenterDot; [ G &OverBar; - I &OverBar; ] &CenterDot; A &OverBar; ) , - - - ( 62 )
对于像素37值(A1、A2、A3、A4)的给定集合,其提供近似的质量或保真度的测量,并且如果可以,其可以用于在可能近似函数f(B1,B2,B3)当中选择,以便提供改进近似的质量或保真度。
类似地,解码处理的第四方面可以应用至二维解码处理142.1、142.2,其中,例如,关联近似函数f()通常可能取决于来自关联第一组112第二多个像素114的邻近行、邻近列、或者邻近行和邻近列两者的值。例如,对于图17a中所示的第二核心阵列124、124.3,像素37(A22)的对应值可以通过像素37(B11、B12、B21、B23)的值的平均值近似。从而,关联近似函数f()的形式不受限制,尽管邻近值的平均化相对简单,并且可以以在计算上有效的方式被容易地实现。
上述编码和解码处理可以适用于例如使用整数算术运算而不是浮点运算或者使用用于通过幂为2的乘法或除法的相对较快二进制移位操作的相对快计算。通过除法运算,非整数结果可能需要通过整数结果近似,其通过简单地截断所得到的值以排除任何余数最有效地实现。然而,当被截断的值的幅度更接近下一个较高整数值时,截断不像舍入那样准确。更准确方法可以是将初始值舍入到最接近整数。然而,舍入是本质上是更复杂的处理,并且计算上比截断更加昂贵,因此不太理想。所得到的商截断误差的影响在除法运算中通过先验增加被除数除以结果的值足以相对接近已通过舍入实现的对应结果的量的值被减轻。例如,当将整数除以值4时,仅存在四个可能余数,如下:0.0、0.25、0.50和0.75。该余数的截断导致关联截断误差。假设每个余数都具有相等可能性,则对应平均截断误差将是0.375。平均截断误差可以通过将除数的一半的值相加到被除数被减小。例如,对于具有值4的除数,值2到被除数的相加导致可能净截断误差为0.0、0.25、0.50、以及0.25,导致平均截断误差为0.25。类似地,对于具有值3的除数,值1到被除数的相加类似地减小关联平均截断误差。
而且,如果代数运算将导致具有小于零或者大于最大像素值的值的像素值,例如,用于由8比特表示的像素颜色的255,则这样的值可以用对应限幅值代替,例如,如果该值低于零,则用零代替,或者如果该值大于255,则用255代替。
如果截断的累积效果和其他计算误差仍然最终影响所得到的图像的保真度,则类似于以上那些的附加修改可以被预期,以改进实验结果。
参考图35a和图35b,根据第三方面的一维编码处理132.5、132.6的相应第五和第六实施例提供用于4比3的下采样率R,其中,关联第一核心阵列110、110.5被图示为被转换为如图35a中所示的具有三个下采样像素37’:B1、B2、B3的对应行的第二核心阵列124、124.5的四个顺次像素37:A1、A2、A3、A4的行,或者关联第一核心阵列110、110.6被示出为被转换为如图35b中所示的具有三个下采样像素37’:B1、B2、B3的对应列的四个顺次像素37:A1、A2、A3、A4的列,并且响应于原始像素37中的两个:A2、A3之间的差的对应额外数据像素γ被存储在第二组116第三多个像素118中,以便提供用于结合对应额外数据像素γ的值,响应于下采样像素37’:B1、B2、B3的值,重构原始四个顺次像素37:A1、A2、A3、A4的值,其中,对应额外数据像素γ的下采样像素37’:B1、B2、B3的值由以下给出:
B1=(4A1+A2)/5,   (63)
B2=(A2+A3)/2,   (64)
B3=(4A4+A3)/5,以及   (65)
γ=(A3-A2+μ)/2.   (66)
或者通常关于等式(63)和(65):
B1=(αA1+βA2)/(α+β),   (63.1)
B3=(αA4+βA3)/(α+β),以及   (65.1)
其中,μ是像素37的最大值(例如,如果像素值的单个颜色由8比特表示,则为255)。可替换地,参考图35c,将认识到,等式(63)-(65)利用α=4和β=1从等式(18)-(20)给出。
可替换地,等式(63)-(66)可以以向量矩阵形式被表示为:
[ B &OverBar; | &gamma; ] = B 1 B 2 B 3 &gamma; = 4 5 1 5 0 0 0 1 2 1 2 0 0 0 1 5 4 5 0 - 1 2 1 2 0 &CenterDot; A 1 A 2 A 3 A 4 + 0 0 0 &mu; 2 = E &OverBar; &CenterDot; A &OverBar; + H &prime; &OverBar; - - - ( 67 )
第二核心阵列124、124.5、124.5和对应关联额外数据像素γ分别被存储在对应第一组112、112.2第二多个像素114、114.2和第二组116、116.2第三多个像素118、118.2中,如以上更完全描述的。
从而,在一个维度中具有4N个像素37的原始相对较高分辨率数字化图像12被看作具有N个单元,即,每个都具有四个像素37的第一核心阵列110、110.4、110.5,其中,N是正整数,并且在相同维度中具有3N个像素的相对较低分辨率图像38被看作具有N个单元,即,每个都具有三个像素的第二核心阵列124、124.5、124.6。任何原始图像单元110、110.5、110.6的序列位置都与下采样图像单元124、124.5、124.6的相同序列位置对应,其中,原始图像的给定单元A(110、110.5、110.6)的四个像素37值被依序地识别为A1、A2、A3和A4,并且下采样相对较低分辨率图像38的单元(124、124.5、124.6)的三个下采样像素37’值被依序地识别为B1、B2和B3。从而,A1在与同一侧上的边缘像素B1相对应的单元A(110、110.5、110.6)的一侧或者“边缘”上。类似地,A4和B3是在它们相应单元A、B的相对侧上的对应边缘像素37、37’。
参考图36a和图36b,关联一维解码处理140.5、140.6的对应相应第五和第六实施例提供用于解码根据分别在图35a和图35b中所示的一维编码处理132.5、132.6的对应第五和第六实施例编码的第一组112、112.2第二多个像素114、114.2和第二组116、116.2第三多个像素118、118.2,以在基本不丢失关联图像内容的情况下,从其重构对应相对较高分辨率数字化图像12,其中,对于每个第二核心阵列124、124.5、124.6,三个先前下采样像素37’:B1、B2、B3的对应行或列根据以下解码等式分别与对应额外数据像素γ重新组合,以便重新生成剩余原始像素37:A2、A3、A4,以便分别形成所得到的对应第一核心阵列110、110.5、110.6的四个像素37:A1、A2、A3、A4的对应行或列,即:
A2=B2-γ+μ/2,   (68)
A1=(5B1-A2)/4,   (69)
A3=2B2-A2,以及   (70)
A4=(5B3-A3)/4.   (71)
或者关于等式(69)和(71),通常:
A1=((α+β)B1-βA2)/α,   (69.1)
A4=((α+β)B3-βA3)/α.   (71.1)
可替换地,等式(68)-(71)可以以向量矩阵形式被表示为下采样像素37’:B1、B2、B3和额外数据像素γ的函数:
A &OverBar; = A 1 A 2 A 3 A 4 = 5 4 - 1 4 0 1 4 0 1 0 - 1 0 1 0 1 0 - 1 4 5 4 - 1 4 &CenterDot; B 1 B 2 B 3 &gamma; + - &mu; 8 &mu; 2 - &mu; 2 &mu; 8 = D &OverBar; &CenterDot; B &OverBar; + H &prime; &OverBar; - - - ( 72 )
等式(68)-(71)或等式(72)的公式化有利地提供用于重构像素37:A1、A2、A3、A4对关联下采样像素值37’:B1、B2、B3比对关联额外数据像素γ的值更大(即,被更重加权)的依赖性,由此如果额外数据像素γ是不正确的或者必须被估计,则提供用于重构的相对较高分辨率数字化图像12的增加保真度。
而且,等式(68)-(71)或等式(72)可以有利地被重新公式化,以便提供用于使用相对快二进制运算的估计。重新公式化的等式可以通过附加值被修改,以便最小化关联截断误差的效果,并且与最小化关联算法内的每个关联操作的误差相反,被优化以减少或最小化关联集合全局误差。而且,重新公式化的等式可以被调整,以减小或最小化例如关联重构算法的相对计算复杂性,以便减小或最小化重构期间的操作的数目。例如,等式(63)-(66)和等式(68)-(71)可以如下被重写,以利用二进制运算,而同时最小化集合截断误差并且最小化关联重构处理的计算复杂性:
B1=(A1<<2+A2+2)/5   (73)
B2=(A2+A3)>>1   (74)
B3=(A4<<2+A3+2)/5   (75)
γ=(A3-A2+μ)>>1   (76)
A2=B2-γ+half_u   (77)
A1=(B1<<2+B1-A2)>>2   (78)
A3=B3<<1-A2   (79)
A4=(B3<<2+B3-A3)>>2   (80)其中,half_μ是μ/2的整数值,符号“<<”指示在前值的二进制形式左移位在符号的右侧指示的比特数,并且符号“>>”指示类似操作但是右移位所指示的比特数。
例如,X>>2意味着将X的二进制表示两次向右移位,其排除了截断的影响,等效于X除以4。应该理解,单独地,等式(73)-(80)可能导致对应关联独立截断误差。从而,在一个实施例中,如果所计算的值超过该范围,则每个关联计算值均被设置成可接受值范围的最接近极限。例如,如果发现A3小于零,并且可接受范围是零到某个正整数,则A2将被设置为零。
从而,使用可以相对快地被估计的相对简单二进制运算,等式(73)-(76)提供用于实现关联一维编码处理132.5、132.6,并且等式(77)-(80)提供用于实现对应关联一维解码处理140.5、140.6。
例如,在实施例的一个集合中,在可能的情况下,当生成用于质量分布的图像内容,例如,创建例如BLU-RAY DISCTM的光学视频盘时,甚至以例如如通过用于一维编码处理的一维编码处理132.5、132.6具体化的关联编码处理的较大相对复杂性为代价,例如如通过用于一维重构处理的一维解码处理140.5、140.6具体化的重构处理的计算复杂性被最小化。在这样的应用中,关联下采样处理(即,图像编码处理)不一定必须快,或者可以通过相对快处理装置执行。然而,用于回放这样的内容的所得到的图像编码产品通常要求使用相对简单或不太强大的计算资源的实时重构处理,该计算资源受益于所实现的任何算法的减低计算复杂性,由此例如将与诸如BLU-RAY播放器的回放组件中的解码或重构操作关联。
观察到,相对于原始相对较高分辨率数字化图像12,根据等式(73)-(76)被下采样的相对较低分辨率图像38导致关联混叠伪影的相对较少增加。然而,这些伪影对于图像测试图案是相对不重要的并且在实际成像中在视觉上是不显著的。
关联解码处理的上述第四方面提供用于直接解码关联编码HD(EHD)内容,而不需要关联扩展数据(ED)内容。例如,等式(57)提供用于响应于关联下采样像素37’:B1、B2、B3的值估计四个顺次像素37:A1、A2、A3、A4,而不需要用于对应额外数据像素γ的值。然而,根据由与第四方面相同的变换等式管理的第五实施例,关联解码处理可以被用于上采样原始相对较低分辨率图像38,以便形成适用于在对应相对较高分辨率显示器16上显示的对应近似相对较高分辨率数字化图像12。
根据另一个实例,关联解码处理的第四和第五方面可以被调整,
以便取决于两个像素37、37’之间的差、或等效地斜率的估计,以便提供用于进一步减小或最小化关联重构误差。
更特别地,根据一个实施例,分别将等式(66)代入等式(68),或者将等式(76)代入等式(77),给出:
A2=B2-(A3-A2)/2,或者   (81.1)
A2=B2-(A3-A2)>>1.   (81.2)
从而,需要重构A2的仅有的额外数据是A3和A2之间的差,或者等效地,那两个像素37值之间的斜率。而且,A2的值最初对B2的值敏感,因为在计算A2的值时,B2的值被归一化加权,然而A3和A2之间的对应斜率被半加权。从而,如果可以估计A3和A3之间的斜率,期望等式(81.1和81.2)提供比通过将A2估计为例如在等式(57)中的B1和B3的加权平均值提供的更准确的A3的估计。
例如,根据一个实施例,将A3和A3之间的斜率估计为最接近那些点的已知斜率的加权平均值。更特别地,通过值B3和B3确定的斜率在采样空间中在相对接近A3的一侧的位置处,并且由值B2和B1确定的斜率在采样空间中在相对接近A3的相反侧的位置处。从而,在一个实施例中,A3和A3之间的斜率通过以上两个斜率的平均值被估计,即,通过值B3和B2确定的斜率与通过值B2和B1确定的斜率平均化,其在数学上解析为B3和B1之间的差的一半,即,(B3-B1)/2。而且,因为像素位置B3和B1之间的距离与像素位置A2和A3之间的距离不相同,所以乘法器α可以适于按比例缩放该距离,以提供A3和A2之间的斜率的更准确估计,例如,以便提供用于A3的以下估计。
A2=B2-α(B3-B1)>>2   (82)
乘法器α的值可以被直接或根据经验确定。例如,乘法器α可以根据经验被确定,以便提供用于给定重构图像或者重构图像的给定集合中的最佳主观视觉保真度,同时还提供用于使用相对简单的二进制运算实现等式(82)。例如,在一个实施例中,乘法器α的值根据经验被确定为5/4,由此提供用于等式(82)通过以下相对简单的二进制运算实现:
A2=B2-((B3-B1)<<2+B3-B1)>>4   (83)
作为使用单一经验结果的替代,乘法器α的值可以通过根据经验确定的合理极限之间的范围表示,以提供用于特定用户可以在该范围内选择乘法器α的值,它们可能被认为提供主观上最佳的图像重构。例如,用于乘法器α的相对较小值5/32产生较模糊但是较少数字外观,而用于乘法器α的相对较大值11/32产生更清楚但是更数字从而不太自然的外观。因此,等式(82)可以被重写,以提供乘法器α的窄范围,而同时提供用于相对简单的二进制运算,如下:
A2=B2-[(B3-B1)<<3+D1*((B3-B1)<<1)+D2*(B3-B1)]>>5   (84)其中,根据用户偏好,参数D1和D2可以采用-1、0或1中的任何值,
其有效地提供用于等式(82)中的乘法器α的七个不同值。
从而,等式(77)-(84)提供用于例如使用可以相对快地被估计的相对简单二进制运算,使用相对最小量估计,实现对应关联一维解码处理140.5、140.6,由此一个所估计的数据值(额外数据像素γ)被用于确定四个相对高分辨率像素37值(A1、A2、A3、A4),并且由此一个所估计的数据值(额外数据像素γ)对所估计的像素37值(A1、A2、A3、A4)具有相对低影响,使得所得到的相对较高分辨率数字化图像12的表示可能具有缺陷,但是具有相对高保真度,并且相对于常规按比例缩放方法,可以相对快地被计算。
参考图37a和37b,根据关联解码处理的第五方面,在给定方向上具有3N个像素值的任何原始相对较低分辨率图像38”’’可以被视为到通过上述下采样算法产生的相对较低分辨率图像38的近似。从而,关联解码处理的第五方面提供用于上采样原始相对较低分辨率图像38”’’并且生成对应相对较高分辨率数字化图像12”’’,例如,其适用于对应相对高分辨率显示器16使用。从而,在给定维度上具有3N个像素的原始相对较低分辨率图像38”’’根据以下先前开发的等式,被重构为在相同维度上具有4N个像素的对应相对较高分辨率数字化图像12”’:
A2=B2-[(B3-B1)<<3+D1*((B3-B1)<<1)+D2*(B3-B1)]>>5   (84)
A1=(B1<<2+B1-A2)>>2   (78)
A3=B2<<1-A2   (79)
A4=(B3<<2+B3-A3)>>2   (80)
应该理解,每个像素37、37’将通常包括独立图像属性值的向量,在此称为像素向量,例如,用于颜色渲染的关联红色、绿色和蓝色子像素的关联值,并且对给定像素的上述代数运算(例如,乘法、除法、二进制移位、加法、乘法)将对关联像素向量或关联子像素的每个元素分离执行。
还应该理解,第一组112第二多个像素114可以被使用,而不需要第二组116第三多个像素118的分离存储和/或传输,以便提供用于显示相对较低分辨率图像38的替代系统和方法,例如,下采样相对较高分辨率数字化图像12的替代方法。
虽然已经在以上详细说明中详细地描述并且在附图中示出了特定实施例,但是本领域普通技术人员将想到,对那些详情的多种修改和替代可以根据本公开的整体教导被开发。应该理解,在此对术语“或者”的任何参考都旨在意味着“包含性或者”或者所谓的“逻辑OR”,其中,当被用作逻辑陈述时,如果A或B是真,或者如果A和B是真,则表述“A或B”是真,并且当被用作元件的列表时,表述“A、B或C”旨在包括在表述中阐述的元件的所有组合,例如,如果附加元件被列出,则包括选自由A、B、C、(A、B)、(A、C)、(B、C)和(A、B、C)构成的组中的任何元素等等。而且,还应该理解,除非另外阐述、暗示或物理上不可能,不定冠词“一个(a)”或“一个(an)”、以及对应关联定冠词“该(the)”或“所述(said)”均旨在意味着一个或多个。而且,应该理解,表述“A和B中的至少一个等”、“A或B中的至少一个等”、“选自A和B等”以及“选自A或B等”均旨在意味着单独阐述的任何元件或者两个以上元件的任何组合,例如,来自由“A”、“B”和“A和B一起”等构成的组的任何元素。而且,应该理解,表述“A和B之一等”和“A或B之一等”每个均旨在意味着单独阐述的元件,例如,单独A或单独B等,而不是A和B一起。而且,还应该理解,除非另外指出或者除非物理上不可能,上述实施例和方面可以与另一个结合使用,并且不相互排他。从而,所公开的特定布置关于本发明的范围仅是示意性的,并且不是限制性的,其将给出所附权利要求的全部范围、以及其任何和所有等价物。

Claims (85)

1.一种生成图像表示的方法,包括:
a.接收或生成数字化图像,其中,所述数字化图像包括布置在第一二维阵列中的第一多个像素,所述数字化图像的宽度沿着所述第一二维阵列的第一维度,并且所述数字化图像的高度沿着所述第一二维阵列的第二维度;
b.从所述数字化图像的所述第一多个像素形成第一组的第二多个像素和第二组的第三多个像素,其中,所述第一组的所述第二多个像素提供用于显示相对于所述第一二维阵列中所述第一多个像素的所述数字化图像的分辨率具有相对较低分辨率的所述数字化图像的表示,所述第二多个像素的计数的值小于所述第一多个像素的计数的值,从所述第一多个像素中的至少两个像素的代数组合,形成所述第一组的所述第二多个像素中的至少一个像素,以及,所述第一组和第二组的所述第二多个像素和第三多个像素一起提供用于基本在不丢失关联信息的情况下,从其重构所述数字化图像的所述第一二维阵列,以及
c.从所述第一组的所述第二多个像素或所述第二组的所述第三多个像素中的至少一个,生成至少一个图像表示。
2.根据权利要求1所述的生成图像表示的方法,进一步包括:在形成所述第一组像素和第二组像素的操作之前,沿着所述第一维度或第二维度之一拉伸所述数字化图像以增加所述第一多个像素的数目,以便增加下述之一:所述数字化图像的所述像素的行数、或者所述数字化图像的所述像素的列数。
3.根据权利要求2所述的生成图像表示的方法,其中,拉伸所述数字化图像的操作包括:通过在所述数字化图像的至少一对相邻行之间内插,来增加所述数字化图像的所述行数。
4.根据权利要求1所述的生成图像表示的方法,其中,所述第一多个的计数的数目等于所述第二和第三多个的计数的总和。
5.根据权利要求1所述的生成图像表示的方法,其中,相对于所述第一二维阵列中的所述第一多个像素的所述数字化图像的所述分辨率具有所述相对较低分辨率的所述数字化图像的所述表示包括第四二维阵列,并且所述第四二维阵列的第一维度和所述第四二维阵列的第二维度中的至少一个小于所述第一二维阵列的对应所述第一维度和所述第一二维阵列的所述第二维度。
6.根据权利要求5所述的生成图像表示的方法,其中,所述第四二维阵列的所述第一维度和所述第四二维阵列的所述第二维度都小于所述第一二维阵列的所述对应所述第一维度和所述第一二维阵列的所述第二维度。
7.根据权利要求6所述的生成图像表示的方法,其中,利用所述第一组的所述第二多个像素的所述数字化图像的所述表示的纵横比与所述数字化图像的纵横比相同。
8.根据权利要求5所述的生成图像表示的方法,其中,利用所述第一组的所述第二多个像素的所述数字化图像的所述表示的纵横比不同于所述数字化图像的纵横比。
9.根据权利要求1所述的生成图像表示的方法,其中,所述第一多个像素中的每个像素包括关联图像属性值的向量,并且所述第一组的所述第二多个像素包括多个像素,针对所述多个像素,响应于所述第二组的所述第三多个像素的对应像素和所述第一多个像素的对应像素的对应所述图像属性值,用代数方法确定所述关联图像属性值。
10.根据权利要求9所述的生成图像表示的方法,其中,所述关联图像属性值的所述代数确定包括:确定所述第二组的所述第三多个像素的所述对应像素和所述第一多个像素的所述对应像素的所述对应图像属性值的平均值。
11.根据权利要求1所述的生成图像表示的方法,其中,所述第一组的所述第二多个像素和所述第二组的所述第三多个像素每个包括:针对所述第一二维阵列的所述第一维度或第二维度中至少一个的所述数字化图像的所述第一多个像素的相应子采样。
12.根据权利要求11所述的生成图像表示的方法,其中,从针对所述第一二维阵列的所述第一维度或第二维度中的一个的所述数字化图像的所述第一多个像素的相应子采样、随后是针对所述第一维度或第二维度中的另一个的相应子采样,来形成所述第一组的所述第二多个像素和所述第二组的所述第三多个像素。
13.根据权利要求1所述的生成图像表示的方法,其中,所述第一二维阵列的所述第一多个像素被组织为多个第一核心阵列的对应第二二维阵列,第四二维阵列的所述第一组的所述第二多个像素被组织为多个第二核心阵列的第五二维阵列,所述多个第一核心阵列与所述多个第二核心阵列是一对一对应关系,所述多个第一核心阵列中的每个第一核心阵列在尺寸和维数上相等,所述多个第二核心阵列中的每个第二核心阵列在尺寸和维数上相等,并且每个所述第一核心阵列的维数相等,每个所述第一核心阵列的尺寸大于每个对应所述第二核心阵列的尺寸,响应于相对于所述第一核心阵列和第二核心阵列的元素的代数运算的类似集合,从所述对应第一核心阵列形成每个所述第二核心阵列,并且对于每个所述第一核心阵列和第二核心阵列,所述第二组的所述第三多个像素的对应部分包含与所述第二核心阵列相组合以提供用于重构所述第一核心阵列的对应值,用于所述多个所述第一核心阵列和第二核心阵列的每个所述第一核心阵列和第二核心阵列。
14.根据权利要求13所述的生成图像表示的方法,其中,所述代数运算选下述组,该组包括:左二进制移位、右二进制移位、加法和减法。
15.根据权利要求13所述的生成图像表示的方法,进一步包括:将常数相加到所述第二核心阵列的值或者相加到所述第二组的所述第三多个像素的元素,使得对应得到的值是非负的。
16.根据权利要求13所述的生成图像表示的方法,进一步包括:截去小于下界值或超过上界值的所述第二核心阵列的值或者所述第二组的所述第三多个像素的值。
17.根据权利要求13所述的生成图像表示的方法,其中,在针对所述第一二维阵列和第四二维阵列中每个的行或列空间之一中,所述维数是线性的。
18.根据权利要求17所述的生成图形表示的方法,其中,每个第一核心阵列包括行或列空间中的三个像素的线性阵列,并且每个第二核心阵列包括相同所述行或列空间中的两个像素的对应线性阵列。
19.根据权利要求18所述的生成图像表示的方法,其中,所述第二核心阵列的每个元素B通过量:(α·AEDGE+β·ACENTER)/(α+β)给出,其中,AEDGE是与所述第二核心阵列的所述元素B相对应的所述第一核心阵列的对应边缘像素,ACENTER是所述第一核心阵列的相对中心像素,并且如果被存储,则所述相对中心像素被存储在所述第二组的所述第三多个像素中。
20.根据权利要求19所述的生成图像表示的方法,其中,所述α和β的值通过(2,1)的组合(α,β)给出。
21.根据权利要求17所述的生成图像表示的方法,其中,每个第一核心阵列包括行或列空间中的四个像素的线性阵列,并且每个第二核心阵列包括相同的所述行或列空间中的三个像素的对应线性阵列。
22.根据权利要求21所述的生成图像表示的方法,其中,所述第二核心阵列的每个边缘元素B通过量:(α·AEDGE+β·AADJACENT)/(α+β)给出,其中,AEDGE是与所述第二核心阵列的所述边缘元素B相对应的所述第一核心阵列的对应边缘像素,AADJACENT是与像素AEDGE邻近的所述第一核心阵列的相对中心像素,通过所述第一核心阵列的所述相对中心像素的平均值来给出所述第二核心阵列的中心元素B,并且如果被存储,则所述第一核心阵列的任何一个元素或者从其计算的量被存储在所述第二组的所述第三多个像素中。
23.根据权利要求22所述的生成图像表示的方法,其中,α和β的值选自下述组合(α,β)的组,该组包括:(1,0)、(3,1)、(4,1)、(5,3)和(7,1)。
24.根据权利要求22所述的生成图像表示的方法,其中,从其计算的所述量包括第二量的一半,其中,所述第二量是所述第一核心阵列的所述中心像素之间的差加上常数。
25.根据权利要求13所述的生成图像表示的方法,其中,所述维数是具有相等行和列维度的二维。
26.根据权利要求25所述的生成图像表示的方法,其中,每个第一核心阵列包括九个像素的三乘三阵列,并且每个第二核心阵列包括四个像素的二乘二阵列。
27.根据权利要求25所述的生成图像表示的方法,其中,每个第一核心阵列包括十六个像素的四乘四阵列,并且每个第二核心阵列包括九个像素的三乘三阵列。
28.根据权利要求25所述的生成图像表示的方法,其中,每个第一核心阵列包括三十六个像素的六乘六阵列,并且每个第二核心阵列包括九个像素的三乘三阵列。
29.根据权利要求1所述的生成图像表示的方法,其中,所述第一组的所述第二多个像素是相连的并且布置在相连的第四二维阵列中,以便提供用于直接显示相对于所述第一二维阵列中的所述第一多个像素的所述数字化图像的分辨率具有所述相对较低分辨率的所述数字化图像的表示。
30.根据权利要求1所述的生成图像表示的方法,其中,所述第二组的所述第三多个像素与像素的第三二维阵列内所述第一组的所述第二多个像素交织。
31.根据权利要求30所述的生成图像表示的方法,其中,像素的所述第三二维阵列在尺寸和维度上等于所述第一二维阵列。
32.根据权利要求13所述的生成图像表示的方法,其中,所述第二组的所述第三多个像素与像素的第三二维阵列内所述第一组的所述第二多个像素交织,并且所述第三多个像素的元素与对于每个共有的共有所述第二核心阵列内的所述第二多个像素的对应元素交织。
33.根据权利要求13所述的生成图像表示的方法,其中,在所述第二核心阵列内,在对于所述多个第二核心阵列的所有第二核心阵列是一致的相对位置处,所述第三多个像素的所述元素交织。
34.根据权利要求1所述的生成图像表示的方法,其中,所述第一组的和第二组的所述第二多个像素和第三多个像素布置在像素的第三二维阵列中,并且所述第一组的所述第二多个像素在像素的所述第三二维阵列内是相连的。
35.根据权利要求34所述的生成图像表示的方法,其中,所述第一组的所述第二多个像素由像素的所述第三二维阵列内的所述第二组的所述第三多个像素的像素围绕。
36.根据权利要求13所述的生成图像表示的方法,其中,所述第一组的和第二组的所述第二多个像素和第三多个像素布置在像素的第三二维阵列中,所述第一组的所述第二多个像素在像素的所述第三二维阵列内是相连的,所述第一组的所述第二多个像素由像素的所述第三二维阵列内的所述第二组的所述第三多个像素中的像素围绕,并且所述第三多个像素中的所述像素按照相对于第一组的所述第二多个像素内的对应第二核心阵列的排序的镜像顺序排序。
37.根据权利要求1所述的生成图像表示的方法,在开始权利要求1的步骤c之前,多次递归地重复权利要求1的步骤b,其中,对于权利要求1的步骤b的每次随后发生,作为代替,权利要求1的步骤b的所述随后发生中的所述第一多个像素是指来自步骤b的先前发生的所述第一组的所述第二多个像素,来自步骤b的所述先前发生的所述第二组的所述第三多个像素被节省,来自步骤b的所述先前发生的所述第一组的所述第二多个像素被来自所述步骤b的所述随后发生的所述第一组的和第二组的所述第二多个像素和第三多个像素代替,并且从自权利要求1的步骤b的最后发生而生成的最后所述第一组的所述第二多个像素的组合、与从权利要求1的步骤b的每次发生而生成的每个所述第二组的所述第二多个像素一起,生成所述至少一个图像表不。
38.根据权利要求37所述的生成图像表示的方法,其中,权利要求1的步骤b的至少一次发生仅针对组织所述第一多个像素所利用的所述第一二维阵列的水平或垂直的两个维度中的一个进行操作。
39.根据权利要求37所述的生成图像表示的方法,其中,权利要求1的步骤b的不同发生针对组织所述第一多个像素所利用的所述第一二维阵列的水平和垂直的不同维度进行操作。
40.根据权利要求37所述的生成图像表示的方法,其中,权利要求1的步骤b的至少一次发生针对组织所述第一多个像素所利用的所述第一二维阵列的水平和垂直的两个维度同时进行操作。
41.根据权利要求37所述的生成图像表示的方法,其中,所述数字化图像具有约2.37:1的纵横比,在权利要求1的步骤b的第一次发生之前,所述数字化图像具有第一分辨率,被垂直拉伸以便具有约1.78:1的纵横比,并且被垂直地和水平地内插,以便将所述数字图像转换为相对较低第二分辨率,在权利要求1的步骤b的至少一次发生期间,所述数字化图像被编码,以便生成具有约1.78:1的纵横比的所述第四二维阵列中的对应第一组的所述第二多个像素,并且作为权利要求1的步骤b的至少一次随后发生的结果,在具有约2.37:1的纵横比的所述第四二维阵列中,生成所述最后所述第一组的所述第二多个像素。
42.根据权利要求41所述的生成图像表示的方法,其中,第四二维阵列中的所述最后所述第一组的所述第二多个像素具有1920列的所述第一维度和810行的所述第二维度。
43.根据权利要求42所述的生成图像表示的方法,其中,在垂直拉伸的所述操作之前,所述数字化图像的所述第一二维阵列的所述第一维度包括4000列的所述第一维度和1688行的所述第二维度。
44.根据权利要求34所述生成图像表示的方法,进一步包括:将像素的所述第三二维阵列编码为适用于在图像传输介质上传输或者在存储介质中存储中至少一个的所述至少一个图像表示。
45.根据权利要求44所述的生成图像表示的方法,其中,将像素的所述第三二维阵列编码为适用于在图像传输介质上传输的所述至少一个图像表示的操作包括:随着时间压缩像素的所述第三二维阵列。
46.根据权利要求1所述的生成图像表示的方法,进一步包括:将所述第一组的所述第二多个像素和所述第二组的所述第三多个像素分离地编码为适合于下述中至少一个的分离对应第一图像表示和第二图像表示:在共有图像传输介质或者对应分离图像传输媒体上分离传输、或者在存储介质上存储。
47.根据权利要求46所述的生成图像表示的方法,其中,将所述第一组的所述第二多个像素编码为所述第一图像表示的操作包括:随着时间压缩所述第二多个像素,并且将所述第二组的所述第三多个像素编码为所述第二图像表示的操作包括:随着时间压缩所述第三多个像素。
48.根据权利要求1所述的生成图像表示的方法,进一步包括:提供用于将所述至少一个图像表示发射到接收器或播放器。
49.根据权利要去48所述的生成图像表示的方法,其中,在分离通信信道或媒体上发射所述第一组的和第二组的所述第二多个像素和第三多个像素。
50.根据权利要求49所述的生成图像表示的方法,其中,从下述组中选择所述分离通信信道或媒体,该组包括:无线信道、电缆信道、互联网、以及可移除存储设备。
51.根据权利要求50所述的生成图像表示的方法,其中,从光盘、DVD盘、蓝光盘、以及闪速存储器设备中选择所述可移除存储设备。
52.根据权利要求50所述的生成图像表示的方法,其中,所述第二组的所述第三多个像素的所述传输对响应于所述接收器或播放器或响应于所述通信信道的传输容量的信号进行响应。
53.一种处理图像表示的方法,包括:
a.接收第一组的第二多个像素,或者从第一图像表示提取所述第一组的所述第二多个像素,其中,所述第一组的所述第二多个像素包括表示其第一分辨率的数字化图像的像素的第四二维阵列,所述数字化图像的宽度沿着像素的所述第四二维阵列的第一维度,所述数字化图像的高度沿着像素的所述第四二维阵列的第二维度,以及
b.显示像素的第一二维阵列,其中,像素的所述第一二维阵列表示其第二分辨率的所述数字化图像,所述第二分辨率比所述第一分辨率相对更高,并且显示像素的所述第一二维阵列的所述操作包括:响应于所述第一组的所述第二多个像素中的至少一个对应像素和选自由第二组的第三多个像素中的对应像素构成的组中的至少一个像素的代数组合、以及像素的所述第一二维阵列中的对应至少一个像素的估计,来确定像素的所述第一二维阵列的至少一个像素,其中,如果被使用,则所述第二组的所述第三多个像素中的所述对应像素从所述第一图像表示或第二图像表示被接收或者提取,并且如果被使用,则像素的所述第一二维阵中的所述对应至少一个像素的所述估计响应于所述第一组的所述第二多个像素中的对应像素,并且响应于所述第一组的所述第二多个像素中的不同对应像素之间的差。
54.根据权利要求53所述的处理图像表示的方法,进一步包括:在显示像素的所述第一二维阵列的所述操作之前,从所述第一组的和第二组的所述第二多个像素和第三多个像素重构像素的所述第一二维阵列,其中,重构像素的所述第一二维阵列的所述操作包括:在响应于所述第一组的所述第二多个像素的对应行或列的像素或者响应于来自所述第二组的所述第三多个像素的像素的所述行或列而确定的像素的所述第一二维阵列的像素之间,在其中插入来自所述第二组的所述第三多个像素中的像素的行或列。
55.根据权利要求53所述的处理图像表示的方法,其中,重构像素的所述第一二维阵列的所述操作包括:确定像素的所述第一二维阵列中的像素的至少一行或列是响应于所述第一组的所述第二多个像素中的像素的对应行或列和所述第二组的所述第三多个像素中的像素的对应行或列的代数组合。
56.根据权利要求53所述的处理图像表示的方法,进一步包括:在显示像素的所述第一二维阵列的所述操作之前,沿着所述高度或所述宽度,电子地拉伸像素的所述第一二维阵列。
57.根据权利要求53所述的处理图像表示的方法,进一步包括:解码所述第一图像表示,以便生成像素的第三二维阵列,其中,像素的所述第三二维阵列包括所述第一组的所述第二多个像素和所述第二组的所述第三多个像素,并且所述第一组的所述第二多个像素在像素的所述第三二维阵列内是相连的。
58.根据权利要求53所述的处理图像表示的方法,进一步包括:
a.解码所述第一图像表示,以便生成所述第一组的所述第二多个像素;
b.解码所述第二图像表示,以便生成所述第二组的所述第三多个像素;以及
c.同步地组合所述第一组的和第二组的所述第二多个像素和第三多个像素,以便提供用于显示像素的所述第一二维阵列。
59.根据权利要求53所述的处理图像表示的方法,其中,像素的所述第一二维阵列的第一多个像素被组织为多个第一核心阵列的对应第二二维阵列,像素的所述第四二维阵列的所述第一组的所述第二多个像素被组织为多个第二核心阵列中的第五二维阵列,所述多个第一核心阵列与所述多个第二核心阵列是一对一对应关系,所述多个第一核心阵列中的每个第一核心阵列在尺寸和维数上相等,所述多个第二核心阵列中的每个第二核心阵列在尺寸和维数上相等并且在维数上等于每个所述第一核心阵列,每个所述第一核心阵列的尺寸大于每个对应所述第二核心阵列的尺寸,并且响应于相对于用于不同的所述第一核心阵列和第二核心阵列的所述第一核心阵列和第二核心阵列的元素的代数运算的类似集合,从所述对应第二核心阵列和所述第二组的所述第三多个像素的一个或多个对应值,形成每个所述第一核心阵列。
60.根据权利要求59所述的处理图像表示的方法,其中,所述代数运算选自下述组,该组包括:左二进制移位、右二进制移位、加法和减法。
61.根据权利要求59所述的处理图像表示的方法,其中,所述维数在像素的所述第一二维阵列和第四二维阵列中每个的行或列空间之一中是线性的。
62.根据权利要求61所述的处理图像表示的方法,其中,每个所述第一核心阵列包括行或列空间中的三个像素的线性阵列,并且每个第二核心阵列包括相同的所述行或列空间中的两个像素的对应线性阵列。
63.根据权利要求62所述的处理图像表示的方法,其中,所述第一核心阵列的每个元素AEDGE通过以下量给出:((α+β)·Bβ·ACENTER)/α,其中,AEDGE是与所述第二核心阵列的所述元素B相对应的所述第一核心阵列的对应边缘像素,ACENTER是所述第一核心阵列的相对中心像素,并且如果被存储,则所述相对中心像素被存储在所述第二组的所述第三多个像素中。
64.根据权利要求63所述的处理图像表示的方法,其中,α和β的值通过(2,1)的组合(α,β)给出。
65.根据权利要求61所述的处理图像表示的方法,其中,每个第一核心阵列包括行或列空间中的四个像素的线性阵列,并且每个第二核心阵列包括相同的所述行或列空间中的三个像素的对应线性阵列。
66.根据权利要求65所述的处理图像表示的方法,其中,对于被连续地指定为A1、A2、A3和A4的所述第一核心阵列的所述四个像素,对于被连续地指定为B1、B2和B3的所述第二核心阵列的所述对应三个像素,以及对于可存储在所述第二组的所述第三多个像素中并且被指定为Ax的所述A1或所述A2之一,A2或所述A1中的另一个通过量((α+β)·B1-α·AX)/β给出,所述A3通过量2·B2-A2给出,并且所述A4通过量((α-β)·B3-βA3)/α给出。
67.根据权利要求66所述的处理图像表示的方法,其中,α和β的值选自下述组合(α,β)的组,该组包括:(1,0)、(3,1)、(4,1)、(5,3)和(7,1)。
68.根据权利要求65所述的处理图像表示的方法,其中,对于被连续地指定为A1、A2、A3和A4的所述第一核心阵列的所述四个像素,对于被连续地指定为B1、B2和B3的所述第二核心阵列的所述对应三个像素,以及对于可存储在所述第二组的所述第三多个像素中并且被指定为γ的量(A3A2+μ)/2,其中,mu是常数,所述A2通过量B2γ+μ/2给出,所述A3通过量2·B2A2给出,并且所述A1通过量((α+β)·B1-β·A2)α给出,并且所述A4通过量((α+β)·B3-β·A3)/α给出。
69.根据权利要求68所述的处理图像表示的方法,其中,α和β的值选自下述组合(α,β)的组,该组包括:(1,0)、(3,1)、(4,1)、(5,3)和(7,1)。
70.根据权利要求65所述的处理图像表示的方法,其中,对于被连续地指定为A1、A2、A3和A4的所述第一核心阵列的所述四个像素,对于被连续地指定为B1、B2和B3的所述第二核心阵列的所述对应三个像素,像素的所述第一二维阵列的所述对应至少一个像素的所述估计包括所述A2的估计,其中,所述A2的所述估计通过量B2-(B3-B1)·K给出,其中,K是常数,所述A3通过量2·B2-A2给出,并且所述A1通过量((α+β)·B1β·A2)/α给出,并且所述A4通过量((α+β)·B3-β·A3)/α给出。
71.根据权利要求70所述的处理图像表示的方法,其中,所述K是响应于控制所述图像的外观的一个或多个用户可设置参数。
72.根据权利要求70所述的处理图像表示的方法,其中,α和β的值选自下述组合(α,β)的组,该组包括:(1,0)、(3,1)、(4,1)、(5,3)和(7,1)。
73.根据权利要求59所述的处理图像表示的方法,其中,所述维数是具有相等行和列维度的二维。
74.根据权利要求73所述的处理图像表示的方法,其中,每个所述第一核心阵列包括九个像素的三乘三阵列,并且每个所述第二核心阵列包括四个像素的二乘二阵列。
75.根据权利要求73所述的处理图像表示的方法,其中,每个所述第一核心阵列包括十六个像素的四乘四阵列,并且每个所述第二核心阵列包括九个像素的三乘三阵列。
76.根据权利要求73所述的处理图像表示的方法,其中,每个所述第一核心阵列包括三十六个像素的六乘六阵列,并且每个所述第二核心阵列包括九个像素的三乘三阵列。
77.根据权利要求53所述的处理图像表示的方法,其中,所述第一组的所述第二多个像素是相连的并且布置在像素的相连第四二维阵列中,以便提供用于直接显示所述数字化图像的表示,所述数字化图像相对于像素的所述第一二维阵列中的第一多个像素的所述数字化图像的分辨率具有相对较低分辨率。
78.根据权利要求53所述的处理图像表示的方法,其中,所述第二组的所述第三多个像素与像素的第三二维阵列内的所述第一组的所述第二多个像素交织。
79.根据权利要求78所述的处理图像表示的方法,其中,像素的所述第三二维阵列在尺寸和维度上等于像素的所述第一二维阵列。
80.根据权利要求59所述的处理图像表示的方法,其中,所述第二组的所述第三多个像素与像素的第三二维阵列内的所述第一组的所述第二多个像素交织,并且所述第三多个像素的元素与对于每个共有的共有所述第二核心阵列内的所述第二多个像素的对应元素交织。
81.根据权利要求80所述的处理图像表示的方法,其中,在所述第二核心阵列内,在对于所述多个第二核心阵列的所有第二核心阵列是一致的相对位置处,所述第三多个像素的所述元素交织。
82.根据权利要求53所述的处理图像表示的方法,其中,在显示像素的所述第一二维阵列的所述操作之前,进一步包括:一次或多次相继地重复确定像素的所述第一二维阵列的所述至少一个像素的操作,其中,从确定像素的所述第一二维阵列的所述至少一个像素的所述操作的先前发生而得到的像素的每个所述第一二维阵列被用作用于确定像素的所述第一二维阵列的所述至少一个像素的所述操作的下一次发生的所述第一组的所述第二多个像素,并且所述第二组的所述第三多个像素的像素的不同子集被用于确定像素的所述第一二维阵列的所述至少一个像素的所述操作的每次相继发生。
83.根据权利要求82所述的处理图像表示的方法,其中,确定像素的所述第一二维阵列的所述至少一个像素的所述操作的至少一次发生仅针对组织所述第二多个像素所利用的像素的所述第四二维阵列的水平或垂直的两个维度中的一个进行操作。
84.根据权利要求82所述的处理图像表示的方法,其中,确定像素的所述第一二维阵列的所述至少一个像素的所述操作的不同发生针对组织所述第二多个像素所利用的像素的所述第四二维阵列的水平和垂直的不同维度进行操作。
85.根据权利要求82所述的处理图像表示的方法,其中,确定像素的所述第一二维阵列的所述至少一个像素的所述操作的至少一次发生针对像素的所述第一二维阵列的水平和垂直的两个维度同时进行操作。
CN201280053731.1A 2011-09-09 2012-09-10 图像处理系统和方法 Pending CN104106079A (zh)

Applications Claiming Priority (11)

Application Number Priority Date Filing Date Title
US201161532589P 2011-09-09 2011-09-09
US61/532,589 2011-09-09
US201161577638P 2011-12-19 2011-12-19
US61/577,638 2011-12-19
US201261590053P 2012-01-24 2012-01-24
US61/590,053 2012-01-24
US201261601080P 2012-02-21 2012-02-21
US61/601,080 2012-02-21
US201261658903P 2012-06-12 2012-06-12
US61/658,903 2012-06-12
PCT/US2012/054532 WO2013036972A1 (en) 2011-09-09 2012-09-10 Image processing system and method

Publications (1)

Publication Number Publication Date
CN104106079A true CN104106079A (zh) 2014-10-15

Family

ID=47832654

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201280053731.1A Pending CN104106079A (zh) 2011-09-09 2012-09-10 图像处理系统和方法

Country Status (6)

Country Link
US (2) US8855195B1 (zh)
EP (1) EP2754096A4 (zh)
JP (1) JP2014531807A (zh)
KR (1) KR20140063774A (zh)
CN (1) CN104106079A (zh)
WO (1) WO2013036972A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108763612A (zh) * 2018-04-02 2018-11-06 复旦大学 一种神经网络的池化层加速运算的方法与电路
CN111309427A (zh) * 2020-02-24 2020-06-19 深圳市优必选科技股份有限公司 界面渲染方法、装置、计算机可读存储介质及终端设备
CN113689330A (zh) * 2021-07-13 2021-11-23 中国空间技术研究院 图像重构方法及装置、图像压缩方法及装置

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103947206B (zh) * 2011-10-14 2018-01-23 超威半导体公司 基于区域的图像压缩的方法和装置
CN104604242B (zh) 2012-09-07 2018-06-05 索尼公司 发送设备、发送方法、接收设备和接收方法
US11350015B2 (en) 2014-01-06 2022-05-31 Panamorph, Inc. Image processing system and method
US10073044B2 (en) * 2014-05-16 2018-09-11 Ncr Corporation Scanner automatic dirty/clean window detection
KR102192392B1 (ko) * 2018-03-26 2020-12-17 아주대학교산학협력단 저 해상도 이미지 보정을 위한 잔차 네트워크 시스템
US11297203B2 (en) 2018-05-09 2022-04-05 Panamorph, Inc. Image processing system and method
WO2019217756A1 (en) * 2018-05-09 2019-11-14 Hifipix, Inc. Image processing system and method
US20210058629A1 (en) 2018-05-09 2021-02-25 Hfipix, Inc. Image processing system and method
US11620775B2 (en) 2020-03-30 2023-04-04 Panamorph, Inc. Method of displaying a composite image on an image display
CN111598965B (zh) * 2020-05-18 2023-07-14 南京超维景生物科技有限公司 超声造影图像的超分辨重建预处理方法和超分辨重建方法
CN114040197B (zh) * 2021-11-29 2023-07-28 北京字节跳动网络技术有限公司 视频检测方法、装置、设备及存储介质
US11838513B2 (en) * 2022-01-14 2023-12-05 Meta Platforms Technologies, Llc Progressive transmission of detailed image data via video compression of successive subsampled frames

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1093858A (zh) * 1993-04-03 1994-10-19 汤姆森消费电子有限公司 用于宽屏电视的水平画面摄取
US6025882A (en) * 1987-07-27 2000-02-15 Geshwind; David Michael Methods and devices for incorporating additional information such as HDTV side strips into the blanking intervals of a previous frame
CN1516457A (zh) * 1996-05-09 2004-07-28 ���µ�����ҵ��ʽ���� 多媒体光盘,再生装置及再生方法
US20060158555A1 (en) * 2005-01-19 2006-07-20 Samsung Electronics Co., Ltd. Apparatus and method for extracting aspect ratio of received broadcast content
US20090003450A1 (en) * 2007-06-26 2009-01-01 Masaru Takahashi Image Decoder
EP2262230A1 (en) * 2009-06-08 2010-12-15 Koninklijke Philips Electronics N.V. Device and method for processing video data
US20110043526A1 (en) * 2008-04-21 2011-02-24 Sharp Kabushiki Kaisha Image processing device, display device, image processing method, program, and storage medium
US20110194024A1 (en) * 2010-02-08 2011-08-11 Nikolce Stefanoski Content adaptive and art directable scalable video coding

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2115976C (en) 1993-02-23 2002-08-06 Saiprasad V. Naimpally Digital high definition television video recorder with trick-play features
US5477397A (en) 1993-02-23 1995-12-19 Matsushita Electric Corporation Of America Digital high definition television receiver with features that facilitate trick-play modes on a digital VCR
US5444491A (en) 1993-02-26 1995-08-22 Massachusetts Institute Of Technology Television system with multiple transmission formats
US5621660A (en) 1995-04-18 1997-04-15 Sun Microsystems, Inc. Software-based encoder for a software-implemented end-to-end scalable video delivery system
US6788347B1 (en) 1997-03-12 2004-09-07 Matsushita Electric Industrial Co., Ltd. HDTV downconversion system
US6539120B1 (en) 1997-03-12 2003-03-25 Matsushita Electric Industrial Co., Ltd. MPEG decoder providing multiple standard output signals
CN1170438C (zh) 1997-03-12 2004-10-06 松下电器产业株式会社 数字视频信号下变换系统的运动补偿处理器及上升抽样方法
US6249549B1 (en) 1998-10-09 2001-06-19 Matsushita Electric Industrial Co., Ltd. Down conversion system using a pre-decimation filter
US6510177B1 (en) 2000-03-24 2003-01-21 Microsoft Corporation System and method for layered video coding enhancement
JP4915026B2 (ja) 2000-05-17 2012-04-11 ソニー株式会社 映像処理装置および映像処理方法、並びに記録媒体
US6791578B1 (en) 2000-05-30 2004-09-14 Apple Computer, Inc. 16:9 aspect ratio and anamorphic image processing
US6925249B1 (en) 2000-07-28 2005-08-02 Microsoft Corporation System and method for storing compressed data onto a storage medium
US6683980B1 (en) 2000-07-28 2004-01-27 Microsoft Corporation System and method for compressing data
US7599434B2 (en) 2001-09-26 2009-10-06 Reynolds Jodie L System and method for compressing portions of a media signal using different codecs
US7295608B2 (en) 2001-09-26 2007-11-13 Jodie Lynn Reynolds System and method for communicating media signals
US6990150B2 (en) 2002-05-14 2006-01-24 Enseo, Inc. System and method for using a High-Definition MPEG decoder to extract multiple Standard Definition frames from a High-Definition frame
WO2003102868A2 (en) 2002-05-29 2003-12-11 Pixonics, Inc. Classifying image areas of a video signal
GB0228281D0 (en) 2002-12-04 2003-01-08 Imec Inter Uni Micro Electr Coding of motion vectors produced by wavelet-domain motion estimation
US7392195B2 (en) 2004-03-25 2008-06-24 Dts, Inc. Lossless multi-channel audio codec
US7930184B2 (en) 2004-08-04 2011-04-19 Dts, Inc. Multi-channel audio coding/decoding of random access points and transients
US8155703B2 (en) 2004-10-01 2012-04-10 Broadcom Corporation Wireless device having a configurable camera interface to support digital image processing
US8175168B2 (en) 2005-03-18 2012-05-08 Sharp Laboratories Of America, Inc. Methods and systems for picture up-sampling
US7961963B2 (en) 2005-03-18 2011-06-14 Sharp Laboratories Of America, Inc. Methods and systems for extended spatial scalability with picture-level adaptation
US7667707B1 (en) 2005-05-05 2010-02-23 Digital Display Innovations, Llc Computer system for supporting multiple remote displays
US8289370B2 (en) 2005-07-20 2012-10-16 Vidyo, Inc. System and method for scalable and low-delay videoconferencing using scalable video coding
KR20070012201A (ko) 2005-07-21 2007-01-25 엘지전자 주식회사 영상 신호의 인코딩 및 디코딩 방법
US7956930B2 (en) 2006-01-06 2011-06-07 Microsoft Corporation Resampling and picture resizing operations for multi-resolution video coding and decoding
US9332274B2 (en) 2006-07-07 2016-05-03 Microsoft Technology Licensing, Llc Spatially scalable video coding
JP2008178075A (ja) 2006-12-18 2008-07-31 Sony Corp 表示制御装置、表示制御方法、及びプログラム
US8107571B2 (en) 2007-03-20 2012-01-31 Microsoft Corporation Parameterized filters and signaling techniques
EP2206311B1 (de) 2007-10-23 2016-11-23 Deutsche Telekom AG Verfahren und system zur bandbreite-optimierten übertragung von hdtv-datenströmen über ein ip-basiertes verteilernetz
US9571856B2 (en) 2008-08-25 2017-02-14 Microsoft Technology Licensing, Llc Conversion operations in scalable video encoding and decoding

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6025882A (en) * 1987-07-27 2000-02-15 Geshwind; David Michael Methods and devices for incorporating additional information such as HDTV side strips into the blanking intervals of a previous frame
CN1093858A (zh) * 1993-04-03 1994-10-19 汤姆森消费电子有限公司 用于宽屏电视的水平画面摄取
CN1516457A (zh) * 1996-05-09 2004-07-28 ���µ�����ҵ��ʽ���� 多媒体光盘,再生装置及再生方法
US20060158555A1 (en) * 2005-01-19 2006-07-20 Samsung Electronics Co., Ltd. Apparatus and method for extracting aspect ratio of received broadcast content
US20090003450A1 (en) * 2007-06-26 2009-01-01 Masaru Takahashi Image Decoder
US20110043526A1 (en) * 2008-04-21 2011-02-24 Sharp Kabushiki Kaisha Image processing device, display device, image processing method, program, and storage medium
EP2262230A1 (en) * 2009-06-08 2010-12-15 Koninklijke Philips Electronics N.V. Device and method for processing video data
US20110194024A1 (en) * 2010-02-08 2011-08-11 Nikolce Stefanoski Content adaptive and art directable scalable video coding

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108763612A (zh) * 2018-04-02 2018-11-06 复旦大学 一种神经网络的池化层加速运算的方法与电路
CN111309427A (zh) * 2020-02-24 2020-06-19 深圳市优必选科技股份有限公司 界面渲染方法、装置、计算机可读存储介质及终端设备
CN113689330A (zh) * 2021-07-13 2021-11-23 中国空间技术研究院 图像重构方法及装置、图像压缩方法及装置

Also Published As

Publication number Publication date
JP2014531807A (ja) 2014-11-27
US20140286588A1 (en) 2014-09-25
KR20140063774A (ko) 2014-05-27
US20140184636A1 (en) 2014-07-03
US8855195B1 (en) 2014-10-07
WO2013036972A1 (en) 2013-03-14
EP2754096A4 (en) 2015-08-05
US8798136B2 (en) 2014-08-05
EP2754096A1 (en) 2014-07-16

Similar Documents

Publication Publication Date Title
CN104106079A (zh) 图像处理系统和方法
KR101840308B1 (ko) 3차원 콘텐츠에 관한 영상들을 조합하기 위한 방법
CN102227735B (zh) 用于立体复合的胶片和视频应用的解复用
CN103562958B (zh) 尺度无关图
KR101788584B1 (ko) 스테레오스코픽 이미지들을 생성하고, 송신하고, 수신하기 위한 방법 및 관련 디바이스들
US11425363B2 (en) System and method for generating light field images
CN103262532A (zh) 用于经采样复用的图像和视频数据的增强方法
CN104272739A (zh) 用于不同颜色取样格式的基于模式的系数扫描和对角变换
EP2850831A1 (en) Encoding and decoding based on blending of sequences of samples along time
CN1435054A (zh) 用于进行视频图像解码的方法和装置
JP6019520B2 (ja) 立体画像を生成、送信、および、受信するための方法、および関連するデバイス
CN103609111A (zh) 用于使用预滤波的层间预测的视频编码的方法和设备,以及用于使用后滤波的层间预测的视频解码的方法和设备
US20230262208A1 (en) System and method for generating light field images
EP4277272A1 (en) Apparatuses, methods, computer programs and computer-readable media
US20120050465A1 (en) Image processing apparatus and method using 3D image format
JP2014517606A (ja) 立体画像を生成、送信、受信する方法、および関連する装置
US20140204175A1 (en) Image conversion method and module for naked-eye 3d display
US9781404B2 (en) 3D video transmission on a legacy transport infrastructure
WO2014164798A1 (en) Image processing system and method
US8526714B2 (en) Method and system for reconstructing a stereoscopic image stream from quincunx sampled frames

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20141015