CN107209929B - 用于对高动态范围图像进行处理的方法和装置 - Google Patents

用于对高动态范围图像进行处理的方法和装置 Download PDF

Info

Publication number
CN107209929B
CN107209929B CN201680008856.0A CN201680008856A CN107209929B CN 107209929 B CN107209929 B CN 107209929B CN 201680008856 A CN201680008856 A CN 201680008856A CN 107209929 B CN107209929 B CN 107209929B
Authority
CN
China
Prior art keywords
image
modulation value
level
mid
sdr
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201680008856.0A
Other languages
English (en)
Other versions
CN107209929A (zh
Inventor
塞巴斯蒂安·拉塞尔
法布里斯·勒林内克
菲利普·博尔德斯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
InterDigital Madison Patent Holdings SAS
Original Assignee
InterDigital Madison Patent Holdings SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by InterDigital Madison Patent Holdings SAS filed Critical InterDigital Madison Patent Holdings SAS
Publication of CN107209929A publication Critical patent/CN107209929A/zh
Application granted granted Critical
Publication of CN107209929B publication Critical patent/CN107209929B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Picture Signal Circuits (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

可以使用SDR图像和调制值来表示输入HDR图像。为了使SDR图像能够被查看并且代表HDR图像,提出了一种用来计算调制值的中间色调优化技术。具体地,在导出调制值时使用两个条件:(1)黑色并不过于激进地向下截断至零;以及(2)将用来表示HDR图像的中间色调范围的SDR图像中的码字数量最大化。可以进一步对调制值进行截断,以避免非常暗的图像和非常亮的图像超出范围。时间稳定化也可用来对SDR视频中的发光度的时间变化进行平滑。在确定了调制值之后,可以基于HDR图像和调制值获得SDR图像。

Description

用于对高动态范围图像进行处理的方法和装置
技术领域
本发明涉及用于对高动态范围图像进行处理的方法和装置,更具体地,涉及用于将图像从一个动态范围转换到另一个动态范围的方法和装置。
背景技术
本部分旨在向读者介绍本领域中可能与以下描述和/或要求保护的本发明的各方面相关的各种方案。相信本讨论有助于向读者提供背景信息,以便于更好地理解本发明的各个方面。因此,应当理解:这些陈述应按这种方式解读,而不是作为对现有技术的承认。
画面中光亮度的动态范围可被定义为图像的最高光亮度值与图像的最低光亮度值之间的比率:
r=亮/暗,
其中,“亮”标示图像的最高光亮度值,“暗”标示图像的最低光亮度值。动态范围“r”一般地表示为等于2的幂的数,称为f-制光圈(f-stop)或等同的光圈。例如,比率1000大约是10倍f-制光圈,其是标准非HDR视频(也称为SDR(标准动态范围)视频或等同地称为LDR(低动态范围)视频的典型动态范围。
图像的动态范围可以非常大,并且可远在能够由标准图像格式(比如广播或PC成像中使用的8-10比特伽马化格式)表示的范围之外。本文中,术语“伽马化格式”指的是非线性域中表示的图像格式。例如,通过使用非线性函数(其可以是幂函数、对数或OETF(光电子传递函数),比如ITU-R推荐BT.709/BT.2020中所定义的)将线性分量(比如但不限于RGB和Y)变换到伽马化的域中。
不同的图像可通过不同的格式表示,并具有不同的动态范围。例如,我们考虑图像I,其光亮度由元素Y以尼特为单位线性表示。Y的值可以对应于所捕获的场景在所谓的“场景参考”格式中的真实发光度(即在文档格式中,Y=1对应于所捕获的场景中的1尼特的光亮度,Y=x对应于x尼特)。Y的范围可以覆盖例如由相机捕获的图像场景的所有可能光亮度范围。通过改变相机的光学器件(滤光器、光圈)和/或传感器(曝光时间、ISO),场景的范围可以非常大。非常暗的场景(比如,望远镜观测)(例如使用长曝光时间)或非常亮的场景(比如,日落)(例如,使用非常小的光圈和强滤光器)都是可能的,这导致非常暗和非常亮的画面。从而,动态范围可能大大超过15倍f制光圈。
元素Y的值还可用来表示由其上的图像已经以所谓的“场景参考”格式进行了后期制作的显示器提供的发光度(即在文档格式中,Y=1对应于由用于分级的显示器渲染的1尼特的光亮度,Y=x对应于x尼特)。通过“显示器参考”格式提供的动态范围通常比“场景参考”格式的动态范围要小得多。这导致相关画面具有更为有限的动态范围和峰值光亮度。例如,如在某个面向受限广播的规范中所规定的,这些图像的动态范围可以是15倍f-制光圈并且这些图像的峰值光亮度可以是1000尼特。
通常,高动态范围的图像或视频被称为高动态范围(HDR)图像或视频。HDR视频应用支持的确切动态范围可发生改变。例如,SMPTE(运动画面和电视工程师协会)定义了感知量化器EOTF(电光传递函数),还称为PQEOTF(在SMPTE ST.2084中定义)非线性传递曲线,优选地编码于12个比特上,其可对从0.005到10000尼特(尼特指坎德拉每平方米或cd/m2,是光强单位)的范围上的光亮度进行编码,这导致两百万的比率或大约21倍f制光圈。实际上,预计HDR在家庭中的最早部署会是电视机(其不会提供远大于1000尼特的峰值亮度以及15倍f制光圈的动态范围),优选地,如果可能的话,以10比特的数据格式。这一受限HDR还被称为扩展动态范围(EDR)。通常,SDR视频的比特深度是8或10比特,HDR视频的比特深度是10比特或更多。例如,SDR视频可以是4:2:0Y’CbCr的10比特视频,HDR视频可以是PQ OETF Y’CbCr的12比特视频。
在本申请中,为了标注方便,将HDR视频归类为“EDR视频”和“严格HDR”视频,其中,“EDR视频”指的是动态范围在10到15倍f制光圈之间的视频,“严格HDR”视频指的是高于15倍f制光圈的视频,如表1所示。
表1
Figure BDA0001370336970000031
为了使HDR图像在诸如电视机或计算机监视器的SDR设备上显示,应该将图像转换成在SDR设备上可查看的(即,以与显示设备兼容的格式,并且保持HDR视频的总体感知亮度和色彩)。通过R来标示光亮度Y应该被映射到的数据范围,例如,根据ITU-R BT.709或BT.2020定义的标准EOTF,针对8比特SDR格式,R=[0,255],或者针对10比特SDR格式,R=[0,1023]。
以下“绝对”映射函数可用于进行转换:
π:线性域→R,
其将值从线性域映射到数据范围R。这里,“绝对”应被理解为映射值与唯一输入值相对应,即映射函数不适于所述内容。这一“绝对”映射(将光亮度Y从线性域映射到数据范围R)并不总是很好地起到作用。例如,其可以将非常暗的场景一致地映射为零,将非常亮的场景映射到输出设备所支持的数据范围的上界(例如255或1023)。
发明内容
根据本原理的一个方面,提出了一种用于将第一图像转换为第二图像的方法,其中,所述第一图像是HDR(高动态范围)图像,所述第二图像是SDR(标准动态范围)图像,所述方法包括:确定所述第一图像的中间色调级别;根据映射函数和所述第一图像的中间色调级别,确定调制值;以及根据所述调制值和所述映射函数,将所述第一图像转换成所述第二图像,其中,所述转换包括基于所述调制值缩减所述第一图像,以及基于所述映射函数将经缩放的第一图像转换为所述第二图像。
所述中间色调级别可以是基于黑色级别和白色级别确定的。例如,所述中间色调级别可以被确定为所述黑色级别和所述白色级别的(1)几何均值和(2)对数均值之一。所述黑色级别和所述白色级别可以是基于直方图确定的,以及所述调制值可以被确定为使得对所述第一图像的转换在所述第二图像中保留所述第一图像的黑色区域中的信息。所述第二图像中与所述第一图像中的黑色级别相对应的码字可以超出阈值。
当所述第一图像是视频中包括的多个图像之一时,可以针对所述多个图像中的每一个图像执行对调制值的确定,其中,针对所述多个图像的调制值是时间平滑的。
对调制值的确定可以充分地最大化所述第二图像中用于表示所述第一图像中的中间色调级别附近的范围的码字的数量。对调制值的确定可以基于所述映射函数的最陡斜率。
可以用公式将所述映射函数表示为gBa(z)=MSDR f(z)/f(P/Ba),其中,P是所述第一图像的动态范围的上界,Ba是所述调制值,MSDR是所述第二图像的数据范围的上界,以及f()是函数。所述f()函数可以是Slog函数。
根据本原理的另一方面,提出了一种用于将第一图像转换为第二图像的装置,其中,所述第一图像是HDR(高动态范围)图像,所述第二图像是SDR(标准动态范围)图像,所述装置包括:通信接口,被配置为访问所述第一图像;以及一个或多个处理器,被配置为:确定所述第一图像的中间色调级别;根据映射函数和所述第一图像的中间色调级别,确定调制值;以及根据所述调制值和所述映射函数,将所述第一图像转换成所述第二图像,其中,所述处理器被配置为基于所述调制值缩减所述第一图像,以及基于所述映射函数将经缩放的第一图像转换为所述第二图像。
本原理还提供了一种存储有指令的非瞬时计算机可读存储介质,所述指令用于根据上文描述的方法将第一图像转换为第二图像。
附图说明
图1是示出了根据本原理实施例的用于将HDR图像转换成SDR图像的示例性方法的流程图。
图2示出了根据本原理实施例的用于将HDR光亮度映射为SDR光亮度的功能的图示。
图3是使用直方图示出了图像的黑色级别、白色级别和中间色调的图示。
图4是根据本原理实施例的示出了黑色级别被映射到超出阈值的码字的图示。
图5是根据本原理实施例的示出了用来对中间色调范围进行编码的码字数量被最大化的图示。
图6A是示出了示例性RGB HDR图像的图示,图6B是示出了相应光照度图的图示。
图7示出了示例性SDR/HDR分配工作流。
图8示出了可以实现本原理的示例性实施例的各个方面的示例性系统的框图。
图9示出了可用于一个或多个实现的视频处理系统的示例的框图。
图10示出了可用于一个或多个实现的视频处理系统的另一示例的框图。
具体实施方式
本原理涉及用于将输入图像I的动态范围改变为与图像格式的表示兼容的另一范围(通常支持比输入图像更小的动态范围)的方法和装置。在以下讨论中,假定输入图像是HDR图像,并且处于低动态范围的输出图像是SDR图像。更一般地,本原理可以适用于任何动态范围之间的转换。本申请中,术语“图像”、“帧”和“画面”是可互换的,以标识通常包含针对多个分量的值的样本阵列。
图1示出了根据本原理的用于将HDR图像转换成SDR图像的示例性方法100。方法100开始于步骤105。在步骤110处,确定针对整个HDR图像I的单个调制值Ba。在一个实施例中,调制值Ba表示图像I的中间色调值,以使得归一化光亮度Y(即Y/Ba)基本以值1为中心。
在步骤120处,根据调制值将输入HDR图像I转换为SDR图像。在一个实施例中,范围的改变可以表达为:
πBa:[0,P]→R, (1)
其中,P是输入HDR格式所允许的像素的最大亮度(例如1000尼特)。该映射πBa可以分解如下:
Figure BDA0001370336970000061
也就是说,HDR图像的光亮度Y首先通过Ba归一化,然后使用例如函数g()映射到由R表示的范围,其中g()是可能依赖于Ba的函数,即g()=gBa(),函数g()可以将1映射到数据范围R的中间值。然后,在步骤130处对映射的图像进行处理,例如编码和发送。方法100在步骤199结束。
当确定调制值时,假定函数g()是预先确定的。在下文中,描述可用于范围转换的示例性函数g()。
用于范围转换的函数gBa()
本申请中,将SDR数据范围R内的每个可能值称为码字,将最大码字值称为MSDR。例如,如果输出图像表示为10比特,R=[0,1023],则码字是0、1、2、…、1023,并且MSDR=1023。
在图像转换期间,预计峰值亮度P被映射到最大码字值,以便完全获益于SDR范围,即,得到
πBa(P)=MSDR针对所有Ba (3)
在优选实施例中,g可被定义为
gBa(z)=MSDR f(z)/f(P/Ba)=f(z)/N(Ba) (4)
其中,f()是函数,N(Ba)是取决于Ba的归一化项,
N(Ba)=f(P/Ba)/MSDR。 (5)
由于得到了以下等式,因此这确保了满足峰值光亮度条件:
πBa(P)=gBa(P/Ba)=MSDR f(P/Ba)/f(P/Ba)=MSDR。 (6)
在一个实施例中,函数f()可以是如下定义的Slog函数:
f(z)=aln(b+z)+c (7)
其中,Slog函数f()的参数a、b和c可确定为使得:
f(0)=0,
f(1)=1,以及
1处的导数与伽马函数的导数相同,即f’(1)=γ。
通过使用这三个条件,可以得到作为γ的函数的三个参数a、b和c,即a(γ)、b(γ)和c(γ)。表2中示出了a、b和c的一些示例性值。
表2
γ a b c
1/2.0 0.6275 0.2550 0.8575
1/2.4 0.4742 0.1382 0.9386
1/2.8 0.3861 0.0811 0.9699
大规模测试表明,当P=5000尼特且SDR图像以10比特格式表示(即MSDR=1023)时,接近1/2.5的值γ为映射图像πBa(I)提供良好的图像质量。从而,可将参数a、b和c设置为a=0.4495、b=0.1212以及c=0.9485。图2中示出了相应的函数πBa。从图2可见,映射曲线适应于调制值Ba,该调制值Ba通常随着HDR图像总体上变得更亮而增加。对于较大的调制值,由于映射曲线在峰值光亮度附近的导数较大,所以映射曲线在亮的区域保留更多的细节,而对于较小的调制值,由于映射曲线针对Y的非常小的值缓慢的降至零,所以映射曲线在最暗的区域保留更多的细节。
在下文中,讨论确定调制值的不同方法。
通过中间色调优化确定Ba
在一个实施例中,针对整个图像,HDR图像的像素被归类成取决于其线性光亮度Y的直方图,如图3中的示例性直方图所示。如图3所示,直方图的最右侧处于峰值光亮度P。该峰值光亮度假定由系统级别基于例如图像格式提供,并且不逐帧变化。
将白色级别W定义为对应于直方图的最后百分之几的光亮度级别,将黑色级别B定义为对应于直方图的前百分之几的光亮度级别,并且将中间色调级别定义为黑色级别和白色级别的几何均值(或对数均值):
Figure BDA0001370336970000081
作为结果,三个级别W、B和M取决于图像的内容。
一般地,对调制值和映射函数的选择应该保留非常暗的级别处的信息并且还保留中间色调范围内(即,中间色调值附近)的细节。从而,在导出调制值时使用两个条件:(1)黑色并不过于激进地向下截断(clip)至零;以及(2)将用来表示HDR的中间色调范围的SDR图像中的码字数量最大化。
考虑第一条件,即不该将黑色过于激进地向下截断至零,针对黑色级别设置下界,即:
πBa(B)≥ε (9)
其中,ε是参数。在图4中,使用示例性函数πBa来说明将映射函数πBa(B)设置为ε。不等式(9)不确定具体的调制值Ba。反而,其提供Ba的可接受值的范围。
针对第二条件,即用来对中间色调范围进行编码的码字数量应该被最大化,如图5所示,在中间色调级别M处为πBa选择最陡的斜率。
结合两个条件,可以通过解出以下最大化问题来唯一地确定调制值:
Figure BDA0001370336970000082
为了在给定函数g()的情况下解出优化问题(10),可以在可接受Ba值范围内执行对Ba的系统蛮力搜索,以针对每一帧计算值Ba。函数g()可以是式(6)中描述的函数,并且本原理可以适用于其他形式的函数g()。在式(10)中,针对光亮度Y使用对数尺度,这是因为它与线性域相比可以更好地表示人类光亮度感知。在一个变形中,为了简单,可以基于Y而不是ln Y来确定斜率。
本文中,讨论基于中间色调优化来确定调制值。在其他实施例中,可使用不同的方法来计算调制值,例如但不限于,使用图像I的光亮度的平均值、中值、最小值或最大值。这些运算可在线性光亮度域中执行,或在非线性域中执行,比如ln(I)或Iγ,其中γ<1。
为了进一步改善映射曲线,可对Ba值施加一些界限,以避免在非常暗的帧(Ba过低)和非常亮的帧(Ba过高)中超出范围(over-shooting)。例如,为了确定衰减背光Baatt,可以将Ba的值设置为:
Figure BDA0001370336970000091
其中,视觉确定的值Bamin=2尼特,Bamax=50尼特,Bamid=5尼特,以及衰减因子σ=0.5。这可提供与视觉最佳调制值更接近的调制值,如表3所示,其中,每个序列的第一图像用于测试。
通过试验,获得了优化压缩视频的视觉质量的调制值的区间,并且分别使用“低”和“高”来指代区间的下界和上界。从表3可见,区间随视频序列而变化。
表3
Figure BDA0001370336970000092
根据试验,还观察到调制值影响压缩性能,但并不是非常敏感。具体地,如果调制值接近[低,高]区间,则压缩性能接近于视觉最佳。本文中,从表3可见,衰减的调制值要么落入[低,高]区间,要么接近所述区间。从而,根据本原理确定的调制值是最佳的或接近于视觉最佳的调制值。
根据表3,还可看出的是,调制值通常能够反映总体亮度级别,并且提供输入图像的总体亮度表现(impression)。例如,输入的HDR图像越亮,单个调制值就可以越高。视频序列“Balloon”和“Market”包括具有日落的非常亮的场景或在夏日正午拍摄的场景,从而,它们的调制值高于其他序列,比如“Cathedrale”和“FireEater”,这些序列包括在教堂内或夜晚拍摄的非常暗的场景。
Ba的时间稳定化
在视频序列中,可针对每一帧计算值Ba。为了避免场景随着快速的亮度变化而出现时间上的不一致性,需要进行时间稳定化。快速改变的视频(比如,示出了爆炸或烟火的场景)可以使得调制值非常快速地逐帧变化,并且引起烦人的照明效果。例如,假定具有静态背景和前景突发闪光(例如爆炸或烟火)的场景。由于闪光的原因,白色W将增加,并且M然后Ba也增加。从图2可见,当Ba较高时,映射曲线更多地抑制暗处,这可引起得到的SDR画面中背景没有预计到地突然变暗。为了防止得到的SDR视频中的发光度出现这种非自然且烦人的时间变化,提出时间稳定化,以平滑SDR视频的总体发光度变化。
可以使用指数稳定化方法。令Ban为在帧n处确定的调制值,Bat,n为时间稳定化后的调制值。可以使用以下方案:
Bat,n=λBan+(1-λ)Bat,n-1 (12)
其中,λ适应于帧速率。可以将其他时间平滑滤波器用于对调制值进行稳定化。
在上文中,讨论了使用单个调制值将HDR图像转换为SDR图像。在另一实施例中,可以使用光照度图将HDR图像转换为SDR图像,光照度图可表示HDR内容的背光。
这里,术语“背光”通过从由彩色面板(例如LCD面板)以及后部照明装置(如LED阵列)制造的电视机类推使用。后部装置(通常产生白光)用来对彩色面板进行照明,以向电视机提供更高的亮度。作为结果,电视机的光亮度是后部照明器的光亮度与彩色面板的光亮度的乘积。该后部照明器通常被称为“背光”。
给定了光照度图,通过将HDR帧除以光照度图得到残余帧(即,SDR帧)。回到所述类推,其中HDR等于SDR乘以背光,SDR帧可被理解为(SDR)彩色面板的响应。光照度图(其可被表示为二维阵列Bamap(x,y))与HDR图像相比具有较低的分辨率。可通过将HDR像素与它们的共址背光像素逐像素地相除来获得SDR帧,这可能在对Bamap(x,y)的上采样以匹配HDR图像分辨率之后。
SDR帧和光照度图可以具有彼此不同的格式,例如光照度图可以是单色的,SDR帧可以使用Y’CbCr或RGB格式。此外,每个分量可以具有不同的格式(例如Y’CbCr、YUV、RGB以及XYZ)。
图6A示出了示例性RGB HDR图像,图6B示出了相应光照度图。从图6A和6B可见,光照度图一般反映比图像本身具有更高的空间平滑度的HDR图像的亮度级别。虽然单个调制值提供HDR图像的总体亮度表现,但是光照度图则以更精细的粒度追踪HDR图像的亮度。从而,将光照度图中的一个样本称为局部背光值或局部调制值。在本申请中,还将单个调制值和光照度图两者称为光照度信息。
从HDR图像到SDR图像的转换(例如,基于单个调制值或上述光照度图)可用于不同的应用,例如但不限于,色调映射、在将HDR映射到SDR之后使用SDR编解码器进行的压缩以及随后压缩SDR、与SDR格式兼容的HDR分发。
图7示出了在提供与SDR解码器的后向兼容性的同时发送HDR视频的示例性SDR/HDR分发工作流700。在工作流700中,对HDR帧进行处理,以获得相应的SDR帧和光照度信息(710),例如,单个调制值和/或光照度图。接下来,光照度信息和SDR帧两者都被编码(720)成比特流,例如但不限于使用H.264/AVC或H.265/HEVC编码器。
在解码侧,针对后向兼容性可以使用SDR解码器(730)对SDR帧进行解码,其提供经解码的SDR视频作为输出。备选地,SDR帧和光照度信息两者都可使用HDR解码器(740)进行解码。通过使用经解码的SDR帧和光照度信息,可使用例如映射πBa的逆过程,将SDR帧映射为经解码的HDR帧(750)。从SDR到HDR的映射(750)还可由HDR解码器(740)执行。
在上文中,在不同的操作中讨论了各个数值。这些数值用于示例性目的,并且可以基于应用进行调整。例如,当以上将SDR视频主要作为10比特视频进行讨论时,SDR视频还可采用其他的动态范围或比特深度。参数(例如a、b和c)的值或用来确定黑色级别和白色级别的百分数也可基于用户需求或系统配置进行调整。此外,当讨论单个调制值用于整个帧时,还可具有针对画面区域(例如,当画面具有非常高的分辨率时是切片或块)的调制值。
图8示出了可以实现本原理的示例性实施例的各个方面的示例性系统的框图。系统800可实现为包括如下描述的各组件的设备,并且被配置为执行如上所述的过程。设备的示例包括但不限于个人计算机、膝上型计算机、智能电话、平板计算机、数字多媒体机顶盒、数字电视接收机、个人视频记录系统、连接的家用电器以及服务器。系统800可以与其他类似系统通信耦合,并且经由如图8所示并且为本领域技术人员所知的通信信道与显示器通信耦合,以实现上述示例性视频系统。
系统800可包括至少一个处理器810,处理器810被配置为执行加载到其中的指令,以用于实现如上所述的各个过程。处理器810可包括嵌入式存储器、输入输出接口和本领域熟知的各个其他电路。系统800还可包括至少一个存储器820(例如,易失性存储器设备、非易失性存储器设备)。系统800可以附加地包括存储设备840,该存储设备840可以包括非易失性存储器,其包括但不限于EEPROM、ROM、PROM、RAM、DRAM、SRAM、闪存、磁盘驱动器和/或光盘驱动器。作为非限制性示例,存储设备840可包括内部存储设备、附加存储设备和/或网络可访问存储设备。系统800还可包括编码器/解码器模块830,其被配置为处理数据以提供编码视频或解码视频。
编码器/解码器模块830表示可包括在设备中以执行编码和/或解码功能的模块。如已知的,设备可包括编码和解码模块中的一个或两个。此外,编码器/解码器模块830可实现为系统800的分离元件或可以作为本领域技术人员已知的软硬件组合并入处理器810中。
将要加载到处理器810上以执行上述各种过程的程序代码可存储在存储设备840中,并可随后加载到存储器820上以用于由处理器810执行。根据本公开的示例性实施例,处理器810、存储器820、存储设备840和编码器/解码器模块830中的一个或多个可以在执行上述过程期间存储各个项目中的一个或多个,其包括但不限于,调制值、SDR视频、HDR视频、等式、公式、矩阵、变量、运算和操作逻辑。
系统800还可包括通信接口850,其使得能够经由通信信道860与其他设备进行通信。通信接口850可包括但不限于收发信机,其被配置为通过通信信道860发送和接收数据。通信接口可包括但不限于调制解调器或网卡,并且通信信道可实现于有线和/或无线介质内。系统800的各个组件可使用各个合适连接(包括但不限于,内部总线、电线和印刷电路板)彼此相连或通信耦合。
根据本公开的示例性实施例可以由处理器810实现的计算机软件、硬件或软硬件组合实现。作为非限制性示例,根据本原理的示例性实施例可由一个或多个集成电路实现。存储器820可以具有适合技术环境的任何类型,并且可以使用任何合适数据存储技术实现,比如,作为非限制性示例,光学存储器设备、磁存储器设备、基于半导体的存储器设备、固定存储器和可移除存储器。作为非限制性示例,处理器810可以具有适合技术环境的任何类型,并且可以包括微处理器、通用计算机、专用计算机和基于多核架构的处理器中的一个或多个。
参考图9,示出了可应用上述特征和原理的数据传输系统900。数据传输系统900可以是例如用于使用诸如卫星、电缆、电话线或地面广播的各种媒体中的任一种传输信号的头端或传输系统。数据传输系统900也可用于提供用于存储的信号。传输可以通过因特网或某个其他网络来提供。数据传输系统900能够生成和传送例如视频内容和其他内容。
数据传输系统900从处理器901接收经处理的数据和其他信息。在一个实现中,通过例如使用方法100,处理器901使用单个调制值和表示HDR画面的SDR画面来生成HDR视频和/或表示HDR画面。处理器901还可以向900提供指示例如在映射曲线中使用的函数或常数值的元数据。
数据传输系统或装置900包括编码器902和能够发送编码信号的发射机904。编码器902从处理器901接收数据信息。编码器902产生编码信号。
编码器902可以包括子模块,其包括例如用于接收各种信息并将其组装成用于存储或传输的结构化格式的组装单元。各种信息可以包括例如编码或未编码的视频以及编码或未编码的元素。在一些实现中,编码器902包括处理器901,因此执行处理器901的操作。
发射机904从编码器902接收编码信号,并在一个或多个输出信号中发送编码信号。发射机904可以例如适于发送具有表示编码画面的一个或多个比特流的程序信号和/或与其相关的信息。典型的发射机执行诸如以下功能中的一个或多个:例如,提供纠错编码、交织信号中的数据、随机化信号中的能量以及使用调制器906将信号调制到一个或多个载波上。发射机904可以包括天线(未示出)或与之连接。此外,发射机904的实现可以限于调制器906。
数据传输系统900还可通信耦合到存储单元908。在一个实现中,存储单元908耦合到编码器902,并且存储来自编码器902的编码比特流。在另一实现中,存储单元908耦合到发射机904,并且存储来自发射机904的比特流。来自发射机904的比特流可以包括例如已经由发射机904进一步处理的一个或多个编码比特流。存储单元908在不同的实现中是标准DVD、蓝光盘、硬盘驱动器或某个其他存储设备中的一个或多个。
参考图10,示出了可以应用上述特征和原理的数据接收系统1000。数据接收系统1000可以被配置为通过诸如存储设备、卫星、电缆、电话线或地面广播的各种媒体接收信号。信号可以通过因特网或某些其它网络接收。
数据接收系统1000可以是例如手机、计算机、机顶盒、电视机或接收编码视频并且提供例如解码视频信号以用于显示(例如,向用户显示)、处理或存储的其他设备。因此,数据接收系统1000可以将其输出提供给例如电视屏幕、计算机监视器、计算机(用于存储、处理或显示)或某个其他存储、处理或显示设备。
数据接收系统1000能够接收和处理数据信息。数据接收系统或装置1000包括用于接收编码信号(例如本申请的实现中描述的信号)的接收机1002。接收机1002可以接收例如提供HDR和SDR视频中的一个或多个的信号,或从图9的数据传输系统900输出的信号。
接收机1002可以例如适于接收具有代表编码的HDR画面的多个比特流的节目信号。典型的接收机执行诸如以下功能中的一个或多个:例如,接收调制和编码的数据信号,使用解调器1004解调来自一个或多个载波的数据信号,对信号中的能量进行去随机化,对信号中的数据进行解交织,以及对信号进行纠错解码。接收机1002可以包括天线(未示出)或与其连接。接收机1002的实现可以限于解调器1004。
数据接收系统1000包括解码器1006。接收机1002将接收的信号提供给解码器1006。由接收机1002提供给解码器1006的信号可以包括一个或多个编码比特流。解码器1006输出解码信号,例如包括视频信息的解码视频信号。
数据接收系统或装置1000也通信耦合到存储单元1007。在一个实现中,存储单元1007耦合到接收机1002,并且接收机1002从存储单元1007访问比特流。在另一实现中,存储单元1007耦合到解码器1006,并且解码器1006从存储单元1007访问比特流。从存储单元1007访问的比特流在不同实现中包括一个或多个编码比特流。存储单元1007在不同的实现中是标准DVD、蓝光盘、硬盘驱动器或某个其他存储设备中的一个或多个。
在一个实现中,来自解码器1006的输出数据被提供给处理器1008。在一个实现中,处理器1008是被配置为执行SDR到HDR映射的处理器。在一些实现中,解码器1006包括处理器1008,因此执行处理器1008的操作。在其他实现中,处理器1008是下游设备的一部分,例如机顶盒或电视机。
可以例如用方法或过程、装置、软件程序、数据流或信号来实现本文所描述的实现。即使仅在单个实现形式的上下文中进行讨论(例如,仅讨论方法),所讨论特征的实现还可以以其他形式(如装置或程序)来实现。装置可以实现为例如适当的硬件、软件和固件。所述方法可以被实现于诸如处理器的装置中,所述处理器一般地是指处理设备,包括例如计算机、微处理器、集成电路或可编程逻辑器件。处理器还包括通信设备(例如计算机、蜂窝电话、便携/个人数字助理(″PDA″))以及促进终端用户之间的信息通信的其他设备。
对本原理的“一种实施例”或“一个实施例”或“一种实现”或“一个实现”以及其它变形的提及,意思是结合所述实施例描述的具体特征、结构、特性等包括在本原理的至少一个实施例中。从而,说明书通篇各处出现的短语“在一种实施例中”或“在一个实施例中”或“在一种实现中”或“在一个实现中”以及任何其它变形不必都指代相同的实施例。
此外,本申请或其权利要求可提及“确定”各种信息。确定信息可以包括以下一项或多项,例如,估计信息、计算信息、预测信息或从存储器取回信息。
此外,本申请或其权利要求可提及“访问”各种信息。访问信息可以包括以下一项或多项,例如,接收信息、取回信息(如从存储器)、存储信息、处理信息、发送信息、移动信息、拷贝信息、擦除信息、计算信息、确定信息、预测信息或估计信息。
此外,本申请或其权利要求可提及“接收”各种信息。接收和“访问”一样是广义术语。接收信息可以包括以下一项或多项,例如,访问信息或取回信息(如从存储器)。此外,“接收”通常以某种方式在诸如以下各项的操作期间涉及:存储信息、处理信息、发送信息、移动信息、拷贝信息、擦除信息、计算信息、确定信息、预测信息或估计信息。
本领域技术人员应清楚,实现可以产生被格式化为携带例如可以存储或传输的信息的多种信号。信息可以包括例如用于执行方法的指令、或通过描述的实现之一所产生的数据。例如,信号可以被格式化为承载所述实施例的比特流。这种信号可被格式化为例如电磁波(例如使用频谱的射频部分)或基带信号。格式化可以包括例如对数据流进行编码或者使用已编码数据流对载波进行调制。信号携带的信息可以是例如模拟或数字信息。可以通过公知的多种不同的有线或无线链路来传输该信号。信号可以存储在处理器可读介质上。

Claims (20)

1.一种用于将第一图像转换为第二图像的方法,包括:
确定所述第一图像的中间色调级别;
根据映射函数和所述第一图像的中间色调级别,确定(110)调制值;以及
根据所述调制值和所述映射函数,将所述第一图像转换(120)成所述第二图像,其中,所述转换包括:基于所述调制值缩减所述第一图像,以及基于所述映射函数将经缩放的第一图像转换为所述第二图像,
其中,所述调制值被确定为使得所述第一图像的转换在所述第二图像中保留所述第一图像的暗区域中的信息和所述第一图像的所述中间色调级别附近的范围内的细节。
2.根据权利要求1所述的方法,其中,所述中间色调级别是基于黑色级别和白色级别确定的。
3.根据权利要求2所述的方法,其中,所述中间色调级别被确定为所述黑色级别和所述白色级别的(1)几何均值和(2)对数均值之一。
4.根据权利要求2所述的方法,其中,所述黑色级别和所述白色级别是基于直方图确定的。
5.根据权利要求2所述的方法,其中,所述暗区域是黑色区域。
6.根据权利要求5所述的方法,其中,所述第二图像的数据范围中与所述第一图像中的黑色级别相对应的码字超出阈值。
7.根据权利要求1所述的方法,其中,所述第一图像是视频中包括的多个图像之一,其中,针对所述多个图像中的每一个图像执行所述确定调制值的操作,其中对于所述多个图像的调制值进行时间平滑。
8.根据权利要求1所述的方法,其中,所述确定调制值的操作充分地最大化所述第二图像的数据范围中用于表示所述第一图像中的中间色调级别附近的范围的码字的数量。
9.根据权利要求8所述的方法,其中,所述确定调制值的操作基于所述映射函数的最陡斜率。
10.根据权利要求1所述的方法,其中,用公式将所述映射函数表示为gBa(z)=MSDRf(z)/f(P/Ba),其中,P是所述第一图像的动态范围的上界,Ba是所述调制值,MSDR是所述第二图像的数据范围的上界,以及f()是函数。
11.根据权利要求10所述的方法,其中,f()函数是Slog函数。
12.一种用于将第一图像转换为第二图像的装置(800),包括:
通信接口(850),被配置为访问所述第一图像;以及
一个或多个处理器(810),被配置为:
确定所述第一图像的中间色调级别;
根据映射函数和所述第一图像的中间色调级别,确定调制值;以及
根据所述调制值和所述映射函数,将所述第一图像转换成所述第二图像,其中,所述处理器被配置为基于所述调制值缩减所述第一图像,以及基于所述映射函数将经缩放的第一图像转换为所述第二图像,
其中,所述调制值被确定为使得所述第一图像的转换在所述第二图像中保留所述第一图像的暗区域中的信息和所述第一图像的所述中间色调级别附近的范围内的细节。
13.根据权利要求12所述的装置,其中,所述中间色调级别是基于黑色级别和白色级别确定的。
14.根据权利要求12所述的装置,其中,所述调制值被确定为充分地最大化所述第二图像的数据范围中用于表示所述第一图像中的中间色调级别附近的范围的码字的数量。
15.根据权利要求13所述的装置,其中,所述中间色调级别被确定为所述黑色级别和所述白色级别的(1)几何均值和(2)对数均值之一。
16.根据权利要求13所述的装置,其中,所述黑色级别和所述白色级别是基于直方图确定的。
17.根据权利要求13所述的装置,其中,所述暗区域是黑色区域。
18.根据权利要求17所述的装置,其中,所述第二图像的数据范围中与所述第一图像中的黑色级别相对应的码字超出阈值。
19.根据权利要求12所述的装置,其中,所述第一图像是视频中包括的多个图像之一,并且所述一个或多个处理器被配置为:针对所述多个图像中的每一个图像确定调制值,其中针对所述多个图像的调制值是时间平滑的。
20.一种存储有指令的非瞬时计算机可读存储介质,所述指令当被执行时实现用于将第一图像转换为第二图像的方法,所述方法包括:
确定所述第一图像的中间色调级别;
根据映射函数和所述第一图像的中间色调级别,确定调制值;以及
根据所述调制值和所述映射函数,将所述第一图像转换成所述第二图像,其中,所述转换包括基于所述调制值缩减所述第一图像,以及基于所述映射函数将经缩放的第一图像转换为所述第二图像,
其中,所述调制值被确定为使得所述第一图像的转换在所述第二图像中保留所述第一图像的暗区域中的信息和所述第一图像的所述中间色调级别附近的范围内的细节。
CN201680008856.0A 2015-02-06 2016-01-26 用于对高动态范围图像进行处理的方法和装置 Active CN107209929B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP15305183.4A EP3054418A1 (en) 2015-02-06 2015-02-06 Method and apparatus for processing high dynamic range images
EP15305183.4 2015-02-06
PCT/EP2016/051596 WO2016124451A1 (en) 2015-02-06 2016-01-26 Method and apparatus for processing high dynamic range images

Publications (2)

Publication Number Publication Date
CN107209929A CN107209929A (zh) 2017-09-26
CN107209929B true CN107209929B (zh) 2021-05-25

Family

ID=52596899

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680008856.0A Active CN107209929B (zh) 2015-02-06 2016-01-26 用于对高动态范围图像进行处理的方法和装置

Country Status (6)

Country Link
US (1) US10360666B2 (zh)
EP (2) EP3054418A1 (zh)
JP (1) JP2018512637A (zh)
KR (1) KR20170115540A (zh)
CN (1) CN107209929B (zh)
WO (1) WO2016124451A1 (zh)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11182882B2 (en) 2015-07-16 2021-11-23 Interdigital Madison Patent Holdings, Sas Method and device for tone-mapping a picture by using a parametric tone-adjustment function
WO2018035691A1 (zh) * 2016-08-22 2018-03-01 华为技术有限公司 用于图像处理的方法和装置
US10218952B2 (en) 2016-11-28 2019-02-26 Microsoft Technology Licensing, Llc Architecture for rendering high dynamic range video on enhanced dynamic range display devices
GB2558234B (en) * 2016-12-22 2020-05-13 Apical Ltd Image processing
US10176561B2 (en) 2017-01-27 2019-01-08 Microsoft Technology Licensing, Llc Content-adaptive adjustments to tone mapping operations for high dynamic range content
US10104334B2 (en) 2017-01-27 2018-10-16 Microsoft Technology Licensing, Llc Content-adaptive adjustment of display device brightness levels when rendering high dynamic range content
CN107277399B (zh) * 2017-06-09 2020-10-20 深圳Tcl新技术有限公司 电视终端及hdr图像转为sdr的方法和计算机可读存储介质
EP3639238B1 (en) * 2017-06-16 2022-06-15 Dolby Laboratories Licensing Corporation Efficient end-to-end single layer inverse display management coding
TWI650998B (zh) 2017-12-15 2019-02-11 晨星半導體股份有限公司 應用在機上盒的格式轉換電路及相關的方法
WO2020041882A1 (en) * 2018-08-29 2020-03-05 Uti Limited Partnership Neural network trained system for producing low dynamic range images from wide dynamic range images
WO2020068666A1 (en) * 2018-09-24 2020-04-02 Dolby Laboratories Licensing Corporation Image denoising in sdr to hdr image conversion
US10957024B2 (en) 2018-10-30 2021-03-23 Microsoft Technology Licensing, Llc Real time tone mapping of high dynamic range image data at time of playback on a lower dynamic range display
JP2020141334A (ja) * 2019-02-28 2020-09-03 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
EP3734588B1 (en) * 2019-04-30 2022-12-07 Dolby Laboratories Licensing Corp. Color appearance preservation in video codecs
US11182884B2 (en) * 2019-07-30 2021-11-23 Nvidia Corporation Enhanced high-dynamic-range imaging and tone mapping
KR102564447B1 (ko) * 2021-11-30 2023-08-08 엘지전자 주식회사 디스플레이 장치

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101707666A (zh) * 2009-11-26 2010-05-12 北京中星微电子有限公司 一种高动态范围的调整方法和装置
CN102509279A (zh) * 2011-11-02 2012-06-20 北京工业大学 根部欠照明舌图像的自适应暗部细节复现方法
CN103430527A (zh) * 2011-03-15 2013-12-04 杜比实验室特许公司 用于图像数据变换的方法和装置
CN103916669A (zh) * 2014-04-11 2014-07-09 浙江宇视科技有限公司 高动态范围图像压缩方法及装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3528461A1 (de) 1985-08-08 1987-02-19 Basf Ag Verfahren zur herstellung von vinylesterharzen
US7113649B2 (en) * 2002-06-24 2006-09-26 Eastman Kodak Company Enhancing the tonal characteristics of digital images
US7158686B2 (en) * 2002-09-19 2007-01-02 Eastman Kodak Company Enhancing the tonal characteristics of digital images using inflection points in a tone scale function
JP4214457B2 (ja) * 2003-01-09 2009-01-28 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
US20050117799A1 (en) * 2003-12-01 2005-06-02 Chiou-Shann Fuh Method and apparatus for transforming a high dynamic range image into a low dynamic range image
JP4687320B2 (ja) * 2005-08-11 2011-05-25 ソニー株式会社 画像処理装置および方法、記録媒体、並びに、プログラム
US7636496B2 (en) * 2006-05-17 2009-12-22 Xerox Corporation Histogram adjustment for high dynamic range image mapping
US7639893B2 (en) * 2006-05-17 2009-12-29 Xerox Corporation Histogram adjustment for high dynamic range image mapping
CN101082992A (zh) * 2007-07-06 2007-12-05 浙江大学 实时高动态范围图像的绘制和显示方法
US8330768B2 (en) * 2007-07-27 2012-12-11 Sharp Laboratories Of America, Inc. Apparatus and method for rendering high dynamic range images for standard dynamic range display
US9830691B2 (en) * 2007-08-03 2017-11-28 The University Of Akron Method for real-time implementable local tone mapping for high dynamic range images
ES2389458T3 (es) * 2008-07-10 2012-10-26 The University Of Warwick Métodos y dispositivos para la compresión de datos de vídeo HDR
US8891863B2 (en) * 2011-06-13 2014-11-18 Dolby Laboratories Licensing Corporation High dynamic range, backwards-compatible, digital cinema
EP2819414A3 (en) 2013-06-28 2015-02-25 Samsung Electronics Co., Ltd Image processing device and image processing method
EP3051488A1 (en) * 2015-01-30 2016-08-03 Thomson Licensing A method and apparatus for inverse-tone mapping a picture
US10218952B2 (en) * 2016-11-28 2019-02-26 Microsoft Technology Licensing, Llc Architecture for rendering high dynamic range video on enhanced dynamic range display devices
US20180152686A1 (en) * 2016-11-28 2018-05-31 Microsoft Technology Licensing, Llc Tone mapping functions for rendering high dynamic range video on enhanced dynamic range display devices

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101707666A (zh) * 2009-11-26 2010-05-12 北京中星微电子有限公司 一种高动态范围的调整方法和装置
CN103430527A (zh) * 2011-03-15 2013-12-04 杜比实验室特许公司 用于图像数据变换的方法和装置
CN102509279A (zh) * 2011-11-02 2012-06-20 北京工业大学 根部欠照明舌图像的自适应暗部细节复现方法
CN103916669A (zh) * 2014-04-11 2014-07-09 浙江宇视科技有限公司 高动态范围图像压缩方法及装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Evaluation of tone mapping operators using a High Dynamic Range display;Patrick Ledda 等;《SIGGRAPH "05: ACM SIGGRAPH 2005 Papers》;20050731;1-9 *
高动态范围图像和色阶映射算子;杨克虎 等;《自动化学报》;20090215;第35卷(第2期);113-122 *

Also Published As

Publication number Publication date
CN107209929A (zh) 2017-09-26
EP3054418A1 (en) 2016-08-10
EP3254259A1 (en) 2017-12-13
KR20170115540A (ko) 2017-10-17
EP3254259B1 (en) 2022-06-22
US10360666B2 (en) 2019-07-23
WO2016124451A1 (en) 2016-08-11
US20190156467A1 (en) 2019-05-23
JP2018512637A (ja) 2018-05-17

Similar Documents

Publication Publication Date Title
CN107209929B (zh) 用于对高动态范围图像进行处理的方法和装置
EP3220350B1 (en) Methods, apparatus, and systems for extended high dynamic range hdr to hdr tone mapping
US10356444B2 (en) Method and apparatus for encoding and decoding high dynamic range (HDR) videos
TWI727968B (zh) 用於視訊編碼及解碼中量化之方法及設備
US20180005357A1 (en) Method and device for mapping a hdr picture to a sdr picture and corresponding sdr to hdr mapping method and device
CN107258082B (zh) 用于编码颜色映射信息和基于颜色映射信息处理图像的方法及装置
JP6948309B2 (ja) パラメトリック・トーン調整関数を使用してピクチャをトーン・マッピングする方法およびデバイス
EP3051486A1 (en) Method and apparatus for encoding and decoding high dynamic range (HDR) videos
EP3054417A1 (en) Method and apparatus for encoding and decoding high dynamic range images
EP3051487A1 (en) Method and device for mapping a HDR picture to a SDR picture and corresponding SDR to HDR mapping method and device
KR20160125382A (ko) 이미지/비디오 신호에 관련된 비트 스트림을 생성하기 위한 방법, 특정 정보 데이터를 포함하는 비트 스트림, 그와 같은 특정 정보 데이터를 획득하기 위한 방법
EP3121787A1 (en) A method and device for tone-mapping a picture by using a parametric tone-adjustment function

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20191106

Address after: Delaware, USA

Applicant after: Interactive Digital VC Holding Company

Address before: Icelemulino, France

Applicant before: Thomson Licensing Company

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20201221

Address after: Fa Guobali

Applicant after: Interactive Digital Madison Patent Holdings

Address before: Delaware, USA

Applicant before: Interactive Digital VC Holdings

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant