CN108431886A - 针对特定显示器优化高动态范围图像 - Google Patents

针对特定显示器优化高动态范围图像 Download PDF

Info

Publication number
CN108431886A
CN108431886A CN201680075178.XA CN201680075178A CN108431886A CN 108431886 A CN108431886 A CN 108431886A CN 201680075178 A CN201680075178 A CN 201680075178A CN 108431886 A CN108431886 A CN 108431886A
Authority
CN
China
Prior art keywords
image
color
brightness
briliancy
hdr
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201680075178.XA
Other languages
English (en)
Other versions
CN108431886B (zh
Inventor
M·J·W·默滕斯
R·尼吉兰德
J·G·R·范穆里科
J·Y·齐克拉尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of CN108431886A publication Critical patent/CN108431886A/zh
Application granted granted Critical
Publication of CN108431886B publication Critical patent/CN108431886B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/625Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/10Intensity circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0271Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping
    • G09G2320/0276Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping for the purpose of adaptation to the characteristics of a display device, i.e. gamma correction
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0673Adjustment of display parameters for control of gamma adjustment, e.g. selecting another gamma curve
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/06Colour space transformation
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/04Exchange of auxiliary data, i.e. other than image data, between monitor and graphics controller

Abstract

一种实现针对可能需要示出HDR图像的各种显示器的一系列良好外观的HDR分级的实用和快速的生成,我们描述了一种计算输出图像(IM_MDR)的像素的所得的色彩(R2,G2,B2)的色彩变换装置(201),所述输出图像针对具有显示峰值亮度(PB_D)的显示器从输入图像(Im_in)的像素的输入色彩(R,G,B)开始,所述输入图像具有对应于与所述显示峰值亮度不同的第一图像峰值亮度(PB_IM1)的最大亮度代码,其特征在于:所述色彩变换装置包括:‑色彩变换确定单元(102;2501),其被布置成确定如在经由元数据输入部(116)接收的包括至少一个色调映射函数(CC)的色彩处理规范数据(MET_1)中定义的色彩变换(TMF;g),所述色彩变换指定如何将所述输入图像的像素的辉度转换成针对第二图像(Im_RHDR)的那些像素的辉度,所述第二图像具有对应于其最大亮度代码的第二图像峰值亮度(PB_IM2),所述第二图像峰值亮度不同于所述显示峰值亮度(PB_D)和所述第一图像峰值亮度(PB_IM1),并且其中,所述第一图像峰值亮度除以所述第二图像峰值亮度大于2或小于1/2;‑缩放因子确定单元(200;2603),其被布置成确定所得的公共乘法因子(gt;Ls),所述单元被布置成沿着方向(DIR)来应用确定,沿着度量确定对应于显示峰值亮度(PB_D)的位置M_PB_U;并且被布置成基于所述位置来确定所得的公共乘法因子(gt;Ls);并且其中,所述色彩变换装置(201)还包括‑缩放乘法器(114),其被布置成将所述输入色彩的RGB色彩表示的三个色彩分量中的每个色彩分量与所得的公共乘法因子(gt)相乘。

Description

针对特定显示器优化高动态范围图像
技术领域
本发明涉及用于在高动态范围场景(HDR)图像、特别是在包括若干相继HDR图像的视频的输入编码中优化像素的色彩、并且特别是优化其辉度(luminance)的方法和装置,用于获得由生成图像内容的色彩分级者(grader)所期望的、针对具有特定显示峰值亮度的显示器的正确艺术外观,当在峰值亮度不等于与对HDR图像的分级相对应的参考显示器的峰值亮度的任何实际显示器(PB_D)上绘制经优化的图像时,该外观对应于针对参考显示器、例如高峰值亮度(PB)主显示器而分级的HDR图像的参考HDR外观。读者将理解,对应的外观未必意指对于查看者而言完全相同的外观,因为较低峰值亮度(或动态范围)的显示器不能够始终实际绘制在较高峰值亮度的显示器上能绘制的所有图像外观,而是在至少一些对象像素的色彩中将存在一些折损,以下技术允许分级者做出这样的色彩调节。但是经编码的预期图像与实际绘制的图像将看起来充分相似。描述了指定这样外观的编码侧方法和装置两者,以及被布置成计算并绘制经优化的外观的接收侧装置,诸如,例如显示器或电视机,以及传输被用于控制通过色彩变换进行优化的信息的方法和技术。
背景技术
近来,数家公司已开始研究并发布了(参见WO2007082562[Max Planck],具有残余层的双图像方法,以及WO2005104035[Dolby Laboratories],教导了有些相似的方法,其中,能够形成比例图像(ratio image),用于提升对HDR场景的低动态范围(LDR)重新分级)其能够如何对至少一幅静止图片或者若干时间上相继的所谓高动态范围图像的视频进行编码,该HDR图像的特征在于:其通常编码或者能够编码至少1000nit的至少一些对象辉度,但是同样还有例如低于0.1nit的暗辉度,并且具有充分高质量以在所谓的HDR显示器上进行绘制,所述HDR显示器的峰值亮度(显示白色的辉度,即,最亮的能绘制的色彩)通常高于800nit,或者甚至高于1000nit,并且潜在地例如为2000nit或5000nit或者甚至10000nit。当然,例如影像的这些图像可以并且也必须能在峰值亮度通常为100nit左右的LDR显示器上显示,例如,当查看者希望继续在其便携式显示器上观看影像时,并且通常,在LDR与HDR图像编码中需要通常有些不同的对象辉度和/或色彩(例如,在HDR分级中的对象的[0,1]范围上的相对辉度可能需要在LDR分级的图像中低得多,因为其将以亮得多的背景被显示)。毋庸赘言,同样地,与静止图像编码相比,视频编码可能具有额外的要求,例如,以允许便宜、实时的处理等。
因此,通常,内容生成器制作HDR图像版本或外观,这通常是主分级(开始点,从开始点能够生成进一步的分级,其是当需要在具有不同峰值亮度能力的显示器上绘制时的相同场景的外观,并且其通常是通过在直接来自相机美观艺术色彩的图像中给出各种对象来完成的,以传达例如某种氛围)。即,利用“分级”,我们指示图像已经被人类色彩分级者定制,使得对于给定的期望绘制情形而言,对象的色彩对于分级者而言是艺术上正确的(例如,他可能做出暗的底层,其中,在阴影中的对象几乎不可见,而在天花板上还有发出亮光的单个灯,并且那些各种被绘制的辉度可能需要被智能地协调,从而为查看者赋予最优体验),并且下文给定我们对HDR编码限制,我们将教导用于实现这样的分级过程的技术部件,获得也被称为分级的经分级的图像。并且然后,分级者通常还生成旧版LDR图像(也被称为标准SDR图像),其能够被用于服务旧版LDR显示器,这可能仍然在很远的将来才能实现的领域中。备选地,能够将这些作为单独的图像通信例如在如因特网的视频通信网络或DVB-T信道上传输。或者,WO2007082562和WO2005104035教导了能缩放的编码方法,其中,能在接收侧根据LDR图像来重建HDR图像,在其上进行一些色调映射,并且残余HDR图像变得充分接近原始HDR(但是仅有具有那些特定像素色彩和对象辉度的HDR图像能根据基础层LDR图像来重建)。然后,可以将这样的能缩放的编码共同存储在存储器产品上,所述存储器产品如是例如固态存储棒,并且然后,接收侧装置,例如电视机或机顶盒(STB),能够确定哪个是针对其连接的电视机的最适当的版本。
即,在存储器的一个扇区中存储基本LDR图像,并且在另一扇区中存储HDR图像,或者校正图像,诸如辉度提升图像,根据所述辉度提升图像能够从对应的HDR图像开始在相同时刻计算HDR图像。例如,对于高达700nit的电视机而言,计算要在电视机上绘制的最终图像的任何单元都可以使用LDR分级的图像,并且在700nit之上,其可以使用HDR图像(例如,通过轮询连接哪个PB的哪个显示器,或者获知显示器是否自身做出最佳图像选择)。
尽管这允许针对两种具体绘制情形、例如5000nit电视机和LDR电视机(标准具有100nit的PB)进行对HDR场景的两种艺术完美的参考分级,但是关于能够如何处理峰值亮度为与两种艺术分级图像相对应的峰值亮度之间的中间电视机,做出和发布的研究很少,所述艺术分级图像能够在图像数据接收侧被检索或确定(编码的对应峰值亮度被定义为在输入最大代码、例如针对10比特的1023时要在参考显示器上绘制的辉度,例如,针对5000nit的分级的外观为5000nit),无疑这也将很快在例如1800nit电视的市场上应用。例如,内容生成器可能花费相当多的时间来制作其影像的1000nit主HDR分级,因为,例如1000nit可能是针对其使用的该特定HDR视频编码标准的协议内容峰值亮度PB_C(即,能够定义的最亮像素色彩,其将是白色消色差色彩),并且其将在导出对应的LDR图像组时花费更多或更少的时间(或者也被称为自从最近的标准动态范围SDR,因为其是例如根据rec.709制作LDR旧版视频的通常方式),具有各自的对比度外观的相关亮度。但是,这意味着仅在查看者具有恰好具体为1000nit的PB_D HDR显示器或旧版SDR显示器的情况下,才有看起来好的视频。但是既没有预期所有人都将具有相同显示峰值亮度PB_D的完全相同种类的显示器,也没有预期将来所有视频都将利用完全相同的内容或编码峰值亮度PB_C来编码(即,在市场向着PB_C=5000nit的基于因特网的传输发展时,购买针对BD内容的最优显示器的一些人可能仍然具有次优的显示器),并且然后,仍然有查看环境的影响,特别是其平均亮度和照度。因此,尽管对HDR编码的所有尝试都基本集中于通过通信手段来获得内容,并且能够在接收侧在所有HDR图像处进行解码,但是申请人想到了,任何实用HDR处理系统都需要具有更多能力。申请人已经做过试验,试验表明,为了使任何中间或甚至范围外的显示器具有真实良好、有说服力的艺术外观(例如,获得50nit的外观,这低于通常为100nit的最低分级),对于该中间峰值亮度显示器而言,HDR和LDR图像都不是实际良好的(下文我们将称为中间动态范围(MDR)显示器)。具有什么种类的MDR显示器甚至取决于被接收或请求的HDR图像的PB_C。同样地,可能消费者在客厅中有实际的电视机或其他显示器,其比作为针对所接收的HDR图像分级的最优期望显示器的参考显示器的峰值亮度更亮,即,例如,10000nit相比于5000nit,那么可能希望针对这些更高亮度显示器也具有改善的分级,尽管内容生成器认为其仅需要在HDR场景上指定其外观,用于显示高达5000nit的PB。例如,申请人发现,在关键场景中,当使用HDR图像时,例如,由于针对较低峰值亮度显示器绘制的该HDR图像的不适当高的对比度,黑暗中的人的脸可能变得过暗,然而,LDR图像在许多地方过亮,剧烈改变了例如夜间场景的氛围。图14示出了希望能够实现的典型HDR场景图像处理的范例。1401示出了原始场景,或者至少示出了在主HDR分级中其已经被近似地如何(因为通常,将不会对太阳编码为要在其初始10亿nit亮度的显示器上绘制,而是例如5000nit像素)。我们看到的是有一些室内物体的场景,这将是相对较暗的,但是通常实际上不是暗的,例如,在1nit与200nit之间,并且通过窗户看到一些被阳光照耀的室外物体,如房屋,在实际生活中,其辉度可能为数千nit,但是对于夜间室内电视观看而言,最好以例如大约1000nit来绘制。在第一分级中,我们将其称为HDR分级,仅在本范例中第一图像的峰值亮度PB_IM1对应于例如5000nit的HDR峰值亮度PB_H,将发现在相对辉度轴上将室内物体定位为相对低的是有用的(因此,在绝对辉度轴上,将以大约30nit的辉度对其进行绘制),并且取决于分级者针对例如影像或广播等中对该镜头的偏好,外部物体将在辉度范围中间附近或之上的某处(在实况广播的情况下,分级可以简单地是在播出之前例如使用HDR外观与LDR外观之间的大致固定的映射仅仅调谐非常少的参数,但是添加例如单个参数gpm,以用于实现显示调谐)。哪些实际编码对应于期望的辉度不仅取决于编码的PB,而且也取决于所使用的代码分配函数的形状,该函数有时也被称为光电转换或传递函数(OECF;也被称为OETF),并且对于HDR编码而言,其通常具有陡峭形状,比LDR的伽玛1/2.2函数更陡峭(本领域技术人员将理解,能够在任意表示中来表达所述技术,因此,为了简单起见,下文我们以辉度表示来阐述我们的概念,步骤中的至少一些步骤可以加以必要的修改而应用于辉度,即,辉度的10比特编码)。
需要对应的LDR外观(在该范例中,被称为IM_GRAD_LXDR),对此,当然必须将更大辉度动态范围的所有各种物体压缩到更小动态范围,对应于100nit的PB。分级者将定义色彩变换策略,通常为简单函数,以至少在未来几年中保持视频通信集成电路是简单的,这定义了如何重新定位所有物体的辉度(例如,能够看出,将需要将房屋定位成接近辉度范围和对应编码范围的最大值,以与室内相比,保持其看起来足够亮,对于特定实施例而言,这例如可以利用软剪切色调映射来完成)。这是在内容生成侧在分级装置1402上所指定的内容,并且内容使用装置可能需要基于其在某种图像通信介质(1403)上接收的分级的外观的信息(S_im)来确定各种物体应当具有哪种最优亮度,以在峰值亮度不等于与通常两种接收的艺术分级(或者那些图像的至少数据)相对应的任何分级的峰值亮度的实际显示器上显示。在该范例中,这可能涉及各种策略。例如,暗的室内物体能在任何PB的显示器上良好绘制,即使为100nit,因此,色彩优化可以针对期望的任何PB将其保持在30nit或附近。在任何连接或要连接的显示器上,房屋可能需要得到某种要绘制的LDR与HDR分级之间的辉度,并且太阳可以被给予最亮可能的色彩(即,PB)。
现在,希望强调并且稍后变得明确的是,我们开发了一种策略,该策略能够令人惊奇地将HDR场景(这是我们引入场景一词的原因)实际编码为LDR图像(+色彩变换元数据),因此,尽管为了理解简单,可以利用Im_1、即要被传输到接收侧的图像为HDR图像(其应当被重新分级为LDR图像)的情形,来阐明各种我们概念和技术元结构,但是在Im_1实际为LDR分级的情况下(能够在接收侧被重新分级为HDR图像,或者任何中间动态范围图像MDR,或者所传输的LDR和HDR分级范围外部的任何图像),相同原理也可以使用并且要用于其他重要的市场情形中。
图29示意性总结了根据申请人先前发明的编码系统在现在将进一步构建于其上的方向上通常看起来像什么。
存在HDR原始图像的一些图像源2901,其例如可以是用于工作中视频节目拍摄的相机,但是我们假设精力集中于例如数据存储器,其生成色彩分级之前的影像,即,像素的所有色彩、并且特别是亮度已经做成最优以用于例如由人类色彩分级者在例如5000nitPB_D的参考显示器上绘制。然后,在本范例中,对该数据的编码可以意指以下内容(但是我们希望强调的是,我们也能够编码为一些HDR图像,并且特别是调谐以获得针对MDR显示器的最优图像也可以仅基于向下分级接收的HDR图像、基于一种哲学而工作,所述哲学即在涉及相同场景上的两种不同动态范围外观的色彩变换函数中具有非常重要的内容特异性信息,通常为一些相当有能力的、即(一幅或多幅)高PB_C HDR图像和(一幅或多幅)SDR图像)。编码器2921首先包括色彩变换单元2902,色彩变换单元2902被布置成将主HDR图像变换成适当的SDR图像。适当通常意指所述外观将密切近似于HDR外观,同时保持足够的色彩信息,以能够在接收侧根据接收到的SDR图像重建5000nit的HDR外观图像。在实践中,那将意味着,人类分级者或者某种智能算法在分析HDR图像细节之后、例如在分析其HDR辉度具有特定值的像素类的量以及可能位置之后,将选择适当的降级曲线,对此,在最简单的系统中,将仅有一条例如CC曲线,或者另一条仅一个加以必要的修改的某种粗降级曲线Fcrs。这使得编码器能够制作SDR图像Im_LDR,这是恰好正常的SDR图像(尽管当与涉及该SDR外观到原始主HDR外观的函数相耦合时,其包含HDR图像的精确正确的信息,即,以能够重建(一幅或多幅)HDR图像)。由于这些仅仅是SDR图像,所以其不仅能够很好地绘制于(即,100nit的PB_D的)旧版显示器上,而且其也能够经由正常SDR视频编码技术对其进行编码,并且这是非常有用的,因为在该领域(例如,卫星中)中已经有十亿美元的硬件部署,然后,其不需要被改变。因此,我们已经智能地将HDR的信息解耦到用于功能编码的函数中,但是为了使本发明允许第二种重要的应用,亦即智能内容优化的能力,以将图像重新分级到在具有任何PB_D的MDR显示器上获得对应外观所需的任何内容。这避免了分级者实际制造所有这样的(一个或多个)第三外观的需求,然而,其将仍然根据其艺术视觉、即该内容的特定需求而生成,因为我们能够使用其色彩变换函数F_ct的形状(特别是辉度变换函数,因为HDR至MDR转换主要涉及针对所有图像对象获得正确的亮度,因此,本应用将主要聚焦于该方面),无论其是什么,当偏离最优MDR图像时,其也与作为元数据的SDR像素化图像一起被传输。因此,重新分级的SDR图像(Im_LDR)进入视频编码单元2903,为了阐述简单,我们假设其为标准化的HEVC编码器,但是技术人员理解,其能够是为传输选定动态范围的、在本范例中为SDR的图像而设计的任何其他编码器。这产生了编码的SDR图像Im_COD以及对应的例如SEI图像SEI(F_ct),包括变换函数所需的所有数据,然而,其被设计成被传输(例如,在各实施例中,参数公式化,或LUT,这允许对偏离显示最优MDR图像做出不同的处理,但是能够针对任意变型而设计适当的实施例)。格式化器2904将任意内容格式化为所需的信号格式,例如要通过卫星信道传输的ATSC,或者某种适合因特网的格式等。因此,传输介质2905能够是任何介质,来自线缆网络,或者某种专用通信网络,或者某种封装的存储器状蓝光盘等。在任何接收侧,无论接收装置是机顶盒或显示器或计算机或专业影像影院接收器等,接收装置将包含去格式化器2906,去格式化器2906重新生成经信号解码的编码视频。视频解码器2920将加以必要的修改包括视频解码单元2907,例如HEVC解码器,其还包括被布置成从元数据收集函数F_ct的功能数据读取器(2911),并且被构造并且以适当格式对其进行呈现以供进一步使用,根据下文各种可能算法或者其等价算法,在这种应用中,是对MDR图像的优化确定。然后,色彩变换单元2908将处于正常HDR解码,恰好生成(一幅或多幅)原始主HDR图像的重建Im_RHDR,无论其是什么,例如,1000nit或5000nit的PB_C所定义的。现在,然而,在我们的以下实施例中,色彩变换单元2908还可能针对具有的任何显示器图像进行最优地重新分级(例如,STB中表示用户购买了3000nit TV 2910的用户输入,或者如果该解码器已经被包括在TV中,TV当然将知道其自己的能力)。已经示意性指示了包括色彩调谐单元2902,这将获得关于查看状况的所有细节的信息(特别是要供应图像的显示器的PB_D),并且然后,使用下文所阐述的方法中的任意方法来最优地调谐色彩以达到MDR图像Im3000nit。尽管这可能看起来像可能希望做的某事,但是实际能够以合理的方式这样做是一项复杂的任务。
申请人已经一般性地教导了基于WO2011/107905和WO2012/127401中可用的接收的分级图像生成各种额外分级(需要其以使接收到的HDR场景图像外观最优,无论所连接的显示器的峰值亮度如何,并且例如对于图像的至少一部分不过暗或过亮)的概念,WO2011/107905和WO2012/127401教导了显示调谐中所需的、所有的或者至少更大类别的实际实施例所需的主要概念。然而,对于简单的编码变化而言仍然有问题,其符合例如IC复杂性、分级者工作容量等的实际限制等,发明人可以在针对这样的实际HDR图像处理固定某些基础原理之后这样做。对应地,如何提供匹配的简单技术仍然是个问题,所述技术允许内容生成器针对接收侧的至少一个实际存在的显示器,以及基于其上的显示调谐的各种需求,来对艺术地优化的分级进行调节。
除了本说明书中在哪里具体陈述以及陈述到何种程度之外,上文关于现有技术甚至申请人对现有技术解释某内容的特定信任或解释的任何论述并非意在不利地指定任何限制的任何细节,该限制必须或可能不在本发明实施例的任何实施例中。同样地,未明确说出的任何内容并非意在作为关于哪些特征或变化可能是或者可能不是从表面上看来是现有知识推理出任何具体实施例的任何具体意见,或者关于明显性的任何暗示性表述等。应当清楚的是,增加一些教导仅仅是出于特定目的,即,在某些方面闪亮一些特定的光,对于下文的歧管实施例而言可能对其感兴趣,并且给定教导的整体性以及能够根据其很好理解的内容,以上中的一些范例可以仅涉及一些特定的有利实施例。
发明内容
具体地,我们已经开发了一种非常有用的辉度映射技术(至少辉度映射,因为给定的已有的许多因素和实施例变体,为了解释简单,我们现在忽略了红度和蓝度的色度尺度),其基于利用单个公共乘法器(multiplier)对三个色彩分量的乘法,所述公共乘法器经过优化,使得其包含用于生成任何HDR场景的MDR图像的最优外观所需的所有智能,所述HDR场景需要在特定显示峰值亮度PB_D的任何实际可用的显示器上绘制该场景的外观(技术人员理解,在服务器上能够进行同样的计算,以稍晚为特定的PB_D显示器服务,即,该显示器实际上未物理地连接到色彩或辉度计算装置)。如果处理线性RGB色彩信号,还处理优选对于视频而言通常为Y’CbCr分量的那些的非线性幂(power),可以通过与提升那些色彩的辉度相似的方式来对其进行提升(通过将所述分量与单个所得的乘法器gt相乘)。即,内容生成器然后能够根据其期望来指定辉度映射策略,在实施例中,其可以由各种映射子策略形成,例如,一般的亮度提升、细调谐任意形状的函数(CC)等。然后,可以实际将这种期望计算为各种乘法策略。无需赘言,并且对于我们的本技术必然的是,在最基本的变体中,仅需要一个这样的函数规范,在一些实施例中,甚至不需要针对输入图像的所有可能辉度,并且其中,在解释中我们称其为CC,其也可以是某个其他函数。在任何情况下,无论生成器希望指定其辉度映射的复杂度如何,其能够被视为导致最终乘法的各种乘法,这将能被实现为最终辉度优化,能够将其视为归一化的色彩分量。基于该原理,我们提出了各种可能的实际实施例,然后,其将辉度处理与色彩处理相分离。
因为视频编码工程师并不通常知道或标准使用,在分成MDR图像优化的细节之前,为了确保读者获得背景想法和原理,我们在图16中阐述了该原理。假设这里有反曲(sigmoidal)函数,以将任何可能的输入辉度Y_in(其对应于接收到的并且要处理的输入图像Im_in的辉度代码,例如950)变换成输出辉度值,为了简单起见,也假设是0.0与1.0之间的归一化的值。然后,也能够将该函数写成乘法,其能够与单位变换(即,对角线)相比而被导出。如果要将例如HDR Im_in变换成自身,则将应用该单位变换。如果希望将HDR相对辉度变换成LDR相对辉度(或者简称辉度),能够应用所述反曲函数。但是我们能够等价地将该Y_in值乘以右侧曲线的g因子。这样的乘法策略使得HDR技术相对更简单,例如,级联各种期望的变换,但是同样作为本申请的主题,显示调谐情形,以实现最优外观的图像,对于任何实际连接的显示器,很大程度上对应于主HDR外观。
作为实际HDR(并且实际上同时为LDR分级外观,能用于在旧版LDR显示器上直接显示)图像,并且特别是视频编码方法,申请人发明了一种系统,其存储(或发送)HDR和LDR图像对中的仅一幅作为主要图像,其是唯一实际发送的像素色彩数据(另一幅图像通过参数方式作为色彩处理函数规范被发送,以根据实际接收到的(一幅或多幅)图像导出另一幅图像,并且其在从技术上被正确导出时然后能够进一步实际根据经典压缩技术(被读取,用于快速理解,例如放在AVC 8比特或HEVC 10比特辉度容器中,并且执行DCT压缩等,如同其不是HDR场景的HDR图像,而是其某种愚蠢的SDR表示)被编码),即,包含HDR场景的所捕获对象的像素色彩纹理,即,其包含所有对象形状的几何组成以及那些形状中的纹理的某种编码化(codification),并且允许任何期望的绘制或对应色彩调节,以重建图像的几何方面。因此,实际上,至于在任意接收侧能够建立什么,我们的HDR场景图像编码化,除了实际传输的图像之外,还包含至少一个(通常,考虑分级成本,常常恰好为一个)另外的分级(例如,传输SDR 100nit PB_C图像,但是共同传输的色彩通信函数允许重建恰好一个另外的分级,例如,5000nit PB_C主HDR图像的重建),其通常不被编码为第二图像,而是(通常是受限的,因为解码IC需要理解和实施所有色彩变化)一组函数变换,用于主图像的像素色彩。因此,如果主图像(Im_in)将是HDR图像(例如,参考5000nit的峰值亮度),色彩变换函数(或算法)将能根据其计算LDR图像(通常,作为100nit的标准化的SDR)。技术人员现在将知道,如何能够容易地利用所需那样少的比特来编码化这样的变换,例如,具有线性第一部分并且然后是朝向(1.0,1.0)的弯折部分的函数能够由实数值或者其他参数来编码,所述参数给出斜率(黑色斜率)以及线性部分的停止点,以及定义上部的形状所需的任何参数。若干种实际变体将发送主HDR图像的SDR重新分级作为独有传输的(一幅或多幅)图像,因为这对于所有如下那些状况都是有用的:其中,已经部署的SDR显示器需要其能够直接绘制的图像,无需做进一步色彩变换(因为HDR显示器或者为其准备图像的装置将需要在该实施例中那样做)。
图1给出了这样的色彩变换和(至少一个)另外的分级的对应基于变换的编码的典型而非限制性的仅仅例示性可能实施例,本领域读者应当理解,其不是能够使用以下新颖实施例的仅有系统。具体地,在我们阐述可以在线性色彩表示(特别是f(Max)或f(Y),其中,Y是计数器中的辉度,并且Max和Y是g的计数器中的值;并且乘法器对线性RGB分量做乘法)中有利地应用的一些原理的情况下,也能够在非线性色彩空间中应用所述原理(既有导致计算g的部分和/或乘法,其可以使例如色彩分量R’、G’和B’相乘,其中,虚线指示其是幂为1/N的幂律,其中,N是线性部分的实数或整数,例如,R’=sqrt(R))。
在本范例中假设HDR图像被编码为纹理图像(并且被接收为Im_in),并且LDR分级能够根据其在任何视频接收侧通过向其像素色彩应用色彩变换来构造。然而,例如,当基于主图像来重建HDR图像时,所述主图像是LDR图像,其适合在LDR显示器上直接绘制,即,给定LDR显示器的峰值亮度极限,当在图像中针对各种对象示出适当亮度和对比度的LDR显示器上绘制时,应用同样的技术推理。在那种情况下,色彩变换将根据LDR图像来定义HDR图像。需要注意,在一些实施例中(尽管不是必要的),可以在编码器和解码器处反转处理单元的次序,例如,当编码器减小动态范围并且将主图像编码为LDR图像时,那么当在解码器侧根据对应的LDR主图像重建HDR分级时,可以反转辉度(或亮度)处理的次序,即,首先应用自定义曲线,然后,在反方向上应用对单元110的曝光调节,等等。
假设出于解释的目的,现在色彩变换装置201是任何接收装置(其可以是电视机、计算机、移动电话、剧院内数字影院服务器、安全系统控制间的观看亭等)的部分,但是在任何编码或转码装置中的编码侧,可以有相同的技术部件来检查什么是可行的并且能够被编码以用于传输。经由输入部103接收图像信号,或者更典型为视频信号S_im,输入部103能连接到各种图像源,如,例如BD读取器、天线、因特网连接等。视频信号S_im一方面包括具有输入色彩的像素的图像Im_in(或者针对不同时刻的若干图像的视频),并且另一方面包括元数据MET,元数据MET可以包括各种数据,但是尤其是用于在接收侧独有地构建色彩映射函数的数据,可能的一些描述性数据涉及例如输入图像要针对什么峰值亮度被分级,以及实现各种以下实施例所需要的任何内容。对视频图像的编码通常能够以如MPEG的编码策略进行,例如,在现有的MPEG-HEVC中进行,即,对YCbCr像素色彩的基于DCT的编码,因为通过基于色彩变换的重新分级技术进行的我们的动态范围外观编码基本上不知道在压缩的负责对图像进行适当格式化以用于存储或传输的部分中实际使用的压缩策略。因此,尽管本发明的各实施例可以在各种其他输入色彩定义上工作,例如有利地为Yuv,但是在本范例中,第一色彩变换器104被布置成将YCbCr表示变换成线性RGB表示(在本实施例中,如下文所示的,能够利用相同的发明原理构思直接工作于YCbCr或YUV分量上的实施例)。第二色彩变换器105可以进行从第一RGB表示至第二RGB表示的映射。这是因为,色彩分级者可以进行分级并且观测在第一色彩空间、例如在Rec.709中发生了什么,而根据第二色彩空间对图像数据进行编码。例如,可以使用数字影院促进会P3的主要原理:红=(0.68,0.32),绿=(0.265,0.69),蓝=(0.15,0.06),白=(0.314,0.351)。或者,可以在新近的Rec.2020色彩格式中进行编码等。例如,能够以在Rec.2020色彩空间中定义的色彩表示来发送图像,但是分级者已经在DCI-P3色彩空间中进行其色彩分级,这意味着,接收器将首先转换到P3色彩空间,之后进行所有色彩变换,例如,以根据HDR图像获得LDR分级,或者反之亦然。由于分级者已经在其分级色彩空间中将其HDR图像重新分级成LDR图像(假设所有值都归一化到[0,1]),如前所述,所述分级色彩空间为例如Rec.709,之后在接收端对所述分级进行数学重新计算,第二色彩变换器105变换到该Rec.709色彩空间(技术人员知道,可以应用各种变换策略,例如可以在一些情况下使用相对色度映射,或者可能已经使用能够被反转的一些饱和度压缩策略,等等)。然后,通常,所述元数据应用色彩优化策略,我们在该简单、实际的实施例中假设其是由色彩饱和度处理器106执行的。可能存在各种理由分级者应用特定饱和度策略(例如,以特定方式对亮色彩去饱和,以使其在RGB色域中适配在更高亮度位置处,或者增加由于HDR至LDR映射而变得更暗的色彩的色彩丰富度等)。例如,分级者可能发现,例如夜晚场景中天空的暗蓝色被少量去饱和,并且因此,其可能已经在线性HDR图像中预先提高了其饱和度,之后进行辉度优化变换以获得LDR外观(这是特别令人感兴趣的,因为我们的典型实施例进行的辉度变换不改变色彩的色度,即,纯粹影响色彩的辉度方面)。在简化范例实施例中,假设饱和度是针对色彩的简单缩放(即,无论其色调、辉度或初始饱和度如何都相同),其中值s是从传输和接收的元数据MET读取的。在更简单的实施例中,我们将仅聚焦于色彩变换的辉度方面,使色彩处理为该单个预处理步骤,但是技术人员理解,其他饱和度策略是可能的,并且可以与辉度处理进行智能协调。色彩现在具有其正确的(R,G,B)值,以用于进行纯粹的辉度-方向处理。
如在图1中所示的,这样的色彩变换实施例的关键性质在于:能够进行对色彩的纯粹缩放(即,仅改变色彩的与辉度相关的色彩性质,即,度量色彩矢量的长度的任何度量,而保持所述色彩分量确定色彩色度的比率,其中,色彩变换的数学性质当然能够以各种方式来体现,例如,在如所示的线性RGB分量上),我们能够如前所述地将色彩变换类似地在三个色彩分量上重新编制为公共多缩放变换(利用实数g,例如0.753,或者能够被变换成实数的其任何编码化,例如INT(1000*g))。这定义了我们的HDR至LDR映射(或者类似地,我们的LDR至HDR映射,或者第一动态范围的任何第一分级的图像至显著不同的第二动态范围的映射,这两者在其关联的参考显示器的其关联的峰值亮度方面不同,即,辉度对应于N比特编码化中的最大代码,通常至少为4倍,即2级,或者至少1.5或2倍,并且可能有更多级),至少其中关注图像对象的辉度方面,这是动态范围转换的主要关注点。
在图1的阐述性的(仅为)范例中,如下地进行处理。最大值计算器107针对每个像素色彩计算RGB分量的哪一个是最高的,例如,红色分量为0.7(我们将称为Rmax)。这将是色彩矢量的长度的度量,即,辉度相关的实施例。辉度映射器102对最大分量应用变换的序列,在元数据MET中接收这些变换的编码化,其最终相当于总辉度函数变换。这种变换对HDR图像的归一化为1的亮度应当如何全部改变进行编码,以得到LDR图像,其具有艺术上正确的分级的LDR外观。例如,通常,应用以下变换,在编码/内容生成侧上的分级者将其指定为给出良好的LDR外观,其方式是对其分级软件进行分级,并且当对LDR外观满意时点击保存按钮。首先,增益乘法器108将最大分量(例如Rmax)乘以接收到的增益因子(gai),获得Rmax_1,这针对每个像素是在0与1之间的不同的值(例如,在一些实施例中,分级者可以将HDR辉度的70%水平设置到LDR辉度的100%水平,或者某个其他期望分级)。注意,处理实际是对三个色彩分量中的最大值进行的,而不是例如对色彩的辉度进行的,尽管辉度变换行为可能已经被传输。然后,幂函数应用单元109将当前结果Rmax_1提升到幂gam,该数字gam再次是从接收到的元数据读取的,获得结果Rmax_2。然后,曝光调节单元110例如通过应用以下方程来应用全局曝光修改变换:
Rmax_3=ln((lg-1)*Rmax_2+1)/ln(lg),其中,lg再次是接收到的分级者优化的数字,并且ln是底数为2.71的Neperian对数,获得Rmax_4。然后,由辉度映射器111应用自定义曲线,获得Rmax_4=CC(Rmax_3)。即,该曲线可以被作为例如若干(例如,6)个特性点(输入亮度/输出亮度坐标对)来发送,在其间能够在接收侧通过某种传输或预先达成一致的内插策略(例如,线性内插)来计算中间点,并且然后应用该函数:例如,如果Rmax_3=0.7,具体的传输函数对于该值得到Rmax_4=0.78。最后,显示变换成形器112根据所使用的典型LDR显示器的伽马值(gamma)、即典型的Rec.709的逆伽马值进行变换(这最后一种显示变换成形器还可以是任选的,用于获得线性坐标输入的显示器)。技术人员理解,如何通过等价策略,例如通过形成单个LUT来使这些方程能够是相等的,以应用到max(R,G,B)在[0,1]中的所有可能输入值。应当理解,能够跳过单元中的一些单元,例如,可以将增益gai设定为1.0,这将其有效地去除,因为其结果具有身份处理。当然,也能够使用其他变换函数,例如,仅应用自定义曲线,但是我们的研究发现,范例似乎是分级者有效得到良好LDR外观的务实方式。对于我们的以下实施例而言重要的是,能够根据需要来构建任何辉度处理策略,在本文中描述的一个仅仅是实践中非常好的一个。
然后,最后,通过将所有这些变换的结果、即例如f(Rmax)除以输入的RGB分量自身的最大值、即例如Rmax,来计算公共乘法因子g。计算该因子g以能够将辉度变换呈现为乘法策略。最后,为了获得期望的输出色彩以及其相当期望的LDR亮度,缩放乘法器114将输入的RGB值,或者在本范例中为从(任选)饱和度处理(色彩饱和度处理器106)获得的值,与公共乘法因子g相乘,以得到针对所有图像对象、或者实际上这些对象中所有图像像素的正确的辉度调节的色彩。即,在本范例中,这从S_im中输入的HDR图像开始,获得LDR分级外观作为线性RGG图像,其像素色彩(R2,G2,B2)通过图像输出部115被输出。当然,技术人员理解,针对LDR图像具有正确的色度外观之后,仍然能够根据进一步使用的任何原理对其色彩进行编码,其能够是图像自身(例如,一种应用将是通过总线从计算IC向LCD阀驱动器发送信号,而另一种应用能够是通过HDMI连接直接或利用另外的显示器供应商特有的细调处理向要进行绘制的电视发送图像,由此与传输的视频信号一起包括潜在的一些另外的元数据,以用于引导精细调谐)。
现在,读者应当清楚地理解我们的HDR编码和使用技术的重要的另外的原理。至此,利用图1,我们仅仅解释了能够如何对HDR场景的不同动态范围的两个外观进行编码(即,所有对象亮度被对应地协调),即,如何对由内容生成器分级的两幅原始图像进行编码。我们为什么要那样做?如果在各个内容查看者的场所处,仅有一个(100nit)的LDR显示器,并且特别是仅有一种(例如,5000nit)的HDR显示器,每件事情将是简单的。LDR显示器然后将显示LDR分级,并且无论是什么,HDR显示器将显示“HDR分级”。这对于适度偏离其接收以用于绘制的图像的峰值亮度的显示峰值亮度效果良好,但是将可能不针对大的偏离给出良好的结果。具体地,所述图像将是需要显示的1000nit的显示,100nit的显示,或者5000nit的显示。现在,可以利用与图1完全相同的技术对至少一幅、更多幅图像进行非常良好的分级,例如,确定色彩变换函数,以用于实际计算针对大约1000nit的PB_D显示器的最佳外观分级。可能在大约500nit或2500nit处的外观将仍然是不适当的,至少对于一些关键HDR场景(例如,黑暗中的怪物可能变得过暗,无法仍然被看到,或者相反,其可能变得不现实地明亮,或者灰色雾中的另一怪物可能变得过低,从而变得不可见等)。在许多情形中(并且特别是实时广播应用),分级者可能不关心利用MET_TR2中的第二色彩变换函数做出第三分级,甚至可能也不希望花费太多时间详细生成分级的第二外观(例如,来自主HDR的LDR)。因此,我们引入了这样的原理,即:一方面,从查看两个分级获知关于HDR场景的实际语意的非常多的信息,这两个分级通常在峰值亮度标度的极端末端处,只要关注典型的设想到的使用情况。例如,看到了,与LDR场景相比,其中,没有许多可用代码高于充分绘制场景的其余部分,爆炸在HDR场景中被亮度提升(或者反之亦然,能够看到,与HDR图像中其明亮印象版本相比,爆炸在LDR中被暗淡化)所需的那些。那未必告知应当如何针对特定的PB_D来提升该爆炸,例如,所述提升是否应当立即积极开始,或者仅针对高质量HDR显示器、例如高于2000nit PB开始,但是至少一个知道对于中等分级(MDR)将需要提升爆炸火球。现在,技术方面需要的内容取决于状况,诸如HDR场景的类型的复杂性,以及特定的用户,平衡到应用领域中普通的情况的关键性、可付出时间和成本等。该原理是:接收侧,例如机顶盒或TV IC能够自身导出其他所需的分级(在接收到的两个分级之间,或者甚至在该范围外部),通常具有来自生成侧的一些另外的引导,具有本质上与被用于生成实际第二原始分级的色彩变换不同的元数据,即,作为由分级者指定和签名的原始艺术材料。因为对于这种所谓的显示调谐的物理和技术要求,相位也将不同。注意,尽管我们将描述生成器实际根据其特定期望来传输对于当前HDR场景而言最优的参数的版本,但是我们也教导了,相同的原理能够单独应用于接收侧,例如,其中,接收装置进行图像分析以实现适当的例如gpr或grpm显示调谐参数值。对于某些场景,各种图像对象的最终绘制辉度是什么不是那样关键,例如,房间中的灯可能在现实生活中也仅仅稍微更亮,并且因此通过窗口看到的外部世界的光很可能相对更亮或更暗。在这样的情况下,装置或分级者可以利用非常简单的技术工具决定调谐外观以与利用参考算法得到的结果相比仅仅稍微更亮(例如,某个范围上的3个单位步阶),至少对于辉度范围的某个部分如此。对于某些更关键场景而言,分级者或显示器制造商例如自动地改善图像,或者赋予用户更智能的影响外观的用户界面控制,可能希望对HDR场景的各个部分有更精确的控制(特别是各种亮度范围,但是在一些情形中,可能例如有信息允许识别特定对象,在这种情况下,能够执行取决于对象的显示调谐),对于可能显示峰值亮度的范围的各种子范围,被调谐的每项内容当然具有针对这些种类技术的典型硬件约束。
因此,仅仅对所拍摄场景的甚至两种可能动态范围分级图像进行编码和解码不是能够完全正确地处理HDR图像使用的足够的技术,已经学习到了人们希望以过于简单的方案快速进入市场而造成的残酷教训,因此,我们还需要利用编码原理协调的显示调谐方法,并且特别是给出视频处理、尤其是现在的HDR视频处理的通常需求、限制和期望的范式。
因此,在因为这一非常新近的HDR图像、特别是视频编码非常新而需要长的介绍之后,并且尤其是申请人的技术方法中的一些甚至不被人知,更不用说公知了,现在概述当前因素、部件、实施例以及新发明的显示调谐思路的细节。下文阐述的发明解决了关于各种优化调谐需求的实际然而强大的问题,对于这样常见的缩放(乘法)处理,其定义至少两个分级图像的色度外观,用于获得针对实际显示器的中间分级(中间动态范围MDR(半)自动重新分级的外观)的方法,所述实际显示器要连接并且被供应以优化图像以用于绘制,其能够在任何接收侧通过让色彩变换装置(201)计算输出图像(IM_MDR)的像素的所得的色彩(R2,G2,B2)来计算,该输出图像针对具有显示峰值亮度(PB_D)的显示器,从输入图像(Im_in)的像素的输入色彩(R,G,B)开始被调谐,所述输入图像具有与第一图像峰值亮度(PB_IM1)相对应的最大亮度代码,所述第一图像峰值亮度不同于显示峰值亮度(PB_D),其特征在于,所述色彩变换装置包括:
-色彩变换确定单元(4201,102;2501),其被布置成根据经由元数据输入部(116)接收到的包括至少一个辉度映射函数(CC)的色彩处理规范数据(MET_1)来确定色彩变换(TMF),所述色彩处理规范数据指定如何将输入图像(Im_in)的像素的辉度转换成针对第二图像(Im_RHDR)的那些像素的辉度,所述第二图像具有与其最大亮度代码相对应的第二图像峰值亮度(PB_IM2),所述第二图像峰值亮度与所述显示峰值亮度(PB_D)和所述第一图像峰值亮度(PB_IM1)是不同的,并且由此,所述第一图像峰值亮度除以所述第二图像峰值亮度大于2或小于1/2;
-缩放因子确定单元(4205,200;1310),其被布置成确定所得的公共乘法因子(gt;Ls),所述单元被布置成通过以下操作来确定该所得的公共乘法因子:首先,沿着预定方向(DIR)建立预建立的度量(1850,METR),所述预定方向从与跨所述输入图像辉度的方向正交的垂直方向具有非零逆时针角度,所述预建立的度量用于在所述度量上定位显示峰值亮度以及与所述显示峰值亮度(PB_D)的值相对应的位置(M_PB_D),所述度量在表示身份变换函数的对角线的位置开始;并且其次:建立第二色彩变换(1803;F_M),其用于确定所述输出图像(IM_MDR)的像素的所得的色彩(R2,G2,B2)的至少辉度,所述第二色彩变换基于所述色彩变换(TMF)和所述位置(M_PB_D);以及再次:基于所述第二色彩变换(1803;F_M)来确定所得的公共乘法因子(gt;Ls);并且其中,所述色彩变换装置(201)还包括:
-缩放乘法器(114),其被布置成将所述输入色彩的色彩表示的三个色彩分量中的每个色彩分量与所得的公共乘法因子(gt)相乘,以获得所得的色彩(R2,G2,B2)。
研究各种下文所阐述的可能的技术人员将更清楚的是,我们已经希望强调不应当被限制性地阅读的一些因素,以掌握核心概念。首先,尽管所有附加的显示器最终与RGB色彩分量一起工作,但是在其他色彩表示中,可以实际等价地执行色彩计算。必须确定或建立的初始色彩变换是两个共同传输的代表性的不同动态范围分级图像之间的一种映射,例如SDR至HDR 5000nit。这已经允许各实施例中的变体,因为一些更简单的变体可以将这种所需的变换作为一个单一辉度或色调映射函数(CC)来发送,但是其他实施例可以传输总体所需的色彩变换,甚至是其辉度变换部分,作为色彩变换的序列,例如,在生成侧,优选从主HDR最佳地导出SDR的人类色彩分级者首先对图像的若干区域进行了某种粗的重新加亮,并且然后,针对图像中的某些对象设计了细调(这些差异辉度改变也能够在这样的备选实施例中经由CC曲线形状被传输)。需要实际计算的是(一个或多个)最终的最优函数,其用于根据接收到的SDR图像来计算MDR(例如,对于1650nit的PB_D)图像,而不是HDR。
同样地,在各实施例中以各种方式这样做,例如,一些实施例可以针对输入图像中任何可能的SDR辉度(或亮度)来计算最终辉度映射函数,在色彩计算部分中加载该函数,例如,作为要使用的gt值的表格,并且然后,逐像素地处理色彩变换。但是备选地,能够在像素进入时在操作中进行对任何部分函数计算的确定,但是技术人员理解必须如何针对该特定图像或图像场景建立(一个或多个)期望的重新分级函数的形状,首先根据由内容生成器设计的内容,并且由此针对当前连接的或要服务的显示器的限制协调所需的内容。
因此,我们能够定义不同的外观图像,以用于驱动某种PB_D显示器,其能够具有许多值,并且其不对应于接收到的图像的PB(也不对应于通过直接向输入图像应用所接收到的色彩变换能根据其导出的其他分级图像的峰值亮度,根据视频情况下的时刻,所述函数是如何单独导出该另一对两幅图像的规范),基于该接收到的图像和适当地定义的色彩变换(为了理解,读者可以无限制地假设由人类色彩分级者来设计),其至少包括辉度变换(其也可以实际被定义和接收为元数据和/或在进行作为辉度变换的计算时应用,因为辉度变换能够被唯一地转换成等价的辉度变换)。任何接收器侧都能够至少部分地决定这样的函数的形状,因为该形状将至少被一个接收侧绘制性质、如例如PB_D来调谐,但是优选地,其还由内容生成器来定义,这通常可以通过使用定义LDR图像与HDR图像之间的关系的色彩变换函数来进行。因为理想地,显示调谐还应当考虑任何特定的HDR场景或图像的特定要求(这能够在类型以及对各种图像对象的辉度绘制的取决于语意对象类型的需求上有很大变化),这是当前实施例关联到已经针对图像的二元组能够应对的编码而定义的函数。这种色彩变换然后能够最终被实际应用对红、绿和蓝色彩分量的乘法策略(原始的或辉度缩放的,例如,在被归一化到最大值1.0的表示中),无论是线性还是非线性(或者甚至在其他实施例中,对Y’CbCr或其他色彩表示)。
所需的函数(或者实际上其对应的乘法gt因子)之间的关系,即,该函数从身份变换或无处理开始的偏离形状(在边界情况下,当理论上将根据接收到的SDR分级来计算SDR分级时,或者根据HDR来计算HDR时,将SDR亮度映射到y轴上其自己的对角线函数,实际上当然不会这样做,但是对于根据我们的各种原理的任何技术设计也应当是正确的,即,理解和编制该技术的良好方式)将通过建立通常的度量来确定。该度量能够被视为外部情况函数的“拉伸”,亦即,如果希望根据接收到的SDR图像来计算HDR 5000nit图像(在图18中针对简单情形图示了这种情况)。当然,更复杂的情况可以做这样的事情,例如在各种可能输入图像亮度上使用变化的度量(例如,能够利用如在图6中的实施例来这样做)和/或能够将函数的形状从接收的形状进行改变,例如,对于显示调谐,可以改变最暗像素的表现,这能够例如通过引入额外的偏差或引导函数等来实现。但是,核心方面在于,能够建立度量,并且显示器的PB_D值然后能够被计算到该度量上针对任何输入亮度或辉度的位置。研究者的研究也表明,有利的是能够选择针对度量的各种方向,例如,与对角线正交的方向在从HDR映射至SDR时对所需的亮度具有良好的控制影响,或者利用逆函数反之亦然。结果,技术人员能够根据我们的教导理解,在辉度或亮度的曲线图上针对每个可能的输入亮度(例如,归一化或未归一化的,即,x轴上的实际输入SDR(或者在图18中的HDR)辉度,亦即y轴上的某个辉度,其能够是任何所需MDR辉度,例如在拉伸直到HDR图像的最大值的轴上,即,PB_C=5000nit)定位一组M_PB_D(患者,在其他实施例中,M_PB_U)点的能力,建立了最终最优的函数(因为其在给定显示器绘制的限制和实际计算限制的情况下生成了针对HDR图像的对应的外观图像,所述限制例如由任何TV或STB制造商能负担的IC的复杂性来选取),用于根据输入亮度来计算MDR图像亮度(要注意,也能够计算两个共同传输的分级之间范围外部的MDR图像)。
在有用的实施例中,所述方向(DIR)位于对应于输入和输出辉度或亮度曲线图的垂直度量的90度与对应于对角线度量的135度之间。
在有用的实施例中,所述度量的两个外点(PBE,PBEH)分别对应于接收到的输入图像(im_in)的峰值亮度(PB_H)、色彩变换函数共同编码的图像的另一峰值亮度(PB_L),能通过向所述输入图像应用在元数据中接收到的包括至少一个色调映射函数(CC)的色彩变换函数来根据所述输入图像重建所述共同编码的图像,并且其中,所述装置计算针对显示峰值亮度(PB_D)落在峰值亮度(PB_L到PB_H)的该范围之内的显示器的输出图像(IM_MDR)。
在有用的实施例中,所述度量基于所述显示峰值亮度的对数表示。已经在简单实施例中能够通过简单获得良好的方式这样优化各种图像对象的动态范围和辉度外观,例如,通过以下方程1的上部方程的值gp,其对应于在度量上确定取决于PB_D的位置的实施例,以及接下来正确地确定的针对MDR与SDR(或者通常MDR与HDR)图像偏差的函数的形状。但是,当然,在更复杂的实施例中,如上所述,度量上对应于所需的辉度变换函数的位置可以更复杂地变化,例如,基于所传输的如由内容生成器确定的指定期望重新分级行为的参数,或者环境参数,如例如周围照明测量值、估计值或等价值(例如,由查看者输入,关于在这样的照明下他能够舒适看到什么)等,但是然后,偏差仍然通常从两个传输的LDR和HDR分级图像的PB_C值之间的实际可用PB_D值的对数量化开始。
有用实施例使缩放因子确定单元(200)还被布置成根据先前在生成所述输入图像(Im_in)时所确定的第二色彩处理规范数据(MET_2)获得调谐参数(gpr;gpm),并且被布置成计算与所述度量上针对所述显示峰值亮度(PB_D)的位置之外的不同的位置相对应的所得的公共乘法因子(gtu),所述不同的位置基于所述调谐参数的值。重要的是,读者花费一些时间对这做出反映并理解其。有第一种机制允许内容生成侧确定HDR图像分级与LDR图像分级、即那些发送侧生成的与接收侧能建立的图像(例如,100和5000nit PB_C)之间的函数映射的精确形状。这允许根据每个特定的HDR应用所需要的质量水平来确定应当如何将HDR图像对象辉度映射到SDR辉度,这可能已经不是简单任务了。例如,如果已经在夜间期间对商店橱窗进行明亮的照明,并且旁边在暗处是一些自行车,则分级者可以使用(如利用图1所介绍的)一个或多个辉度映射函数以或多或少精确地确定暗的自行车应当具有什么辉度(因此,其在典型的SDR图像绘制中恰好可见,并且不是过亮而破坏观感,也不会在黑色中淹没)。另一方面,对于商店橱窗中聚光灯下的明亮对象,选择最优亮度也可能不是无足轻重的任务,这同时利用图像的暗部分生成良好的亮度差异、以及针对窗口后方对象的良好的区域内对比度和色彩(尽管读者不应当忘记当通过选择Im_RHDR的可重建性的那些函数而发送这样的SDR分级图像时也做出保证)。因此,那已经是即使当仅生成两个分级图像(例如,100nit和1000nit)时该技术应当能够充分好地处理的任务。我们用于导出MDR图像的范式方案背后的思想在于:在那些色彩变换函数中没有这么多重要的信息,能够由接收侧算法将这用于生成良好的对应的MDR图像。但是根据图像,并且特别是HDR场景的复杂性,当进入这样的自动MDR生成算法时,与该可能真正完美分级的一对代表性LDR和HDR图像相比可能失去了某些精确度。因此,在内容生成器的情况下(即,通常,色彩分级者希望),其能够根据其期望来发送第二组元数据,以更精确地控制导出(一个或多个)MDR变换函数的实际方式,例如,如何构建度量和计算度量上的取决于PB_D的点,例如,如结合图6所例示的。因此,我们强调:第一色彩变换函数元数据(用于根据接收到的SDR图像Im_in来计算例如主HDR重建Im_RHDR)指定重新分级应当如何从两个分隔很远的示范性分级开始粗略地并且全局性地工作(HDR PB_C例如通常比SDR分级的100nit至少高10×,但是优选更高,至少对于高质量HDR场景是这样),但是第二组元数据(MET_2)允许针对分级者可能发生的各种绘制限制的实际显示调谐表现的另外的规范。分级者能够以各种方式这样做,例如,通过获知应当仔细应对某些关键阴影区域,因为那里发生重要的动作,并且对于大部分绘制情形快速明亮,或者备选地可以对一些明亮区域进行强(软)剪切等,或者分级者例如可以在某种典型的MDR参考显示器(例如,对于1000nit HDR编码的500nit)上观察该行为。
在有用的实施例中,所述缩放因子确定单元(200)被布置成通过应用单调函数来确定所述不同的位置,所述单调函数根据至少一个输入参数(gpr)给出所述度量上的归一化的位置作为输出,所述单调函数可以由所述色彩变换自主地确定,或者基于规范元数据来确定,所述规范元数据规定要使用先前在生成所述输入图像(Im_in)时所确定的哪种函数形状。可能有用的是将定位行为确定为某种函数。这允许沿着度量的某些相似的表现,在希望那样的情况下,尽管那些度量的长度沿着函数、即可能的输入亮度而变化。例如,其允许假定高于某个阈值、例如90%的PB_C_HDR(即,例如,4500nit)的所有显示器都被认为与PB_D=5000nit的HDR参考显示器相同,并且绘制尽可能接近主HDR分级的MDR图像。这样的函数可以由接收装置自身建立(作为固有行为,例如,能够被选择的某些影像绘制模式的固有行为),或者能够从生成侧传输关于函数的某种信息,例如,整个单调函数自身。我们强调:该函数是沿度量定位M_PB_D点的函数,即,取决于PB_D但是仍然比例如对数计算将规定的更接近于SDR至主HDR映射函数(例如,如在图15中所图示的),并且该函数不应当与用于根据SDR图像计算HDR图像的函数、即(一个或多个)辉度变换函数相混淆。
有用实施例包括图像分析单元(1110),所述图像分析单元被布置成分析所述输入图像(Im_in)中的对象的色彩,并且根据其来确定针对控制所述输出图像(IM_MDR)的计算的参数的至少一个参数,例如,调谐参数(gpm),或方向(DIR),或所述单调函数的形状,所述单调函数给出所述度量上的归一化的位置作为输出,以在计算所得的公共乘法因子(gt)时使用。一些实施例能够很好地利用在内容生成侧所生成的辉度变换函数中的知识,然而很大程度上自己确定显示调谐。其然后能够例如评估图像中是哪种黑暗,平均和亮区域,并且例如确定方向DIR,其影响如何改变平均中间亮度区域(例如,其输出的亮度和对比度)与高亮的处理、例如压缩(可以针对上述商店橱窗以不同方式这样做,其包含查看者应当识别的有意义物品,特别是如果有重要的商品,如例如窗口上雕刻或喷砂的商品名,即,对比度低但仍然需要在所有MDR显示器上能识别,相比于例如某些灯,其可能恰好也被剪切成针对大部分用户的单个白色)。
所述装置的另一有用实施例包括剪切量确定单元(3710),所述剪切量确定单元被布置成针对所述输入图像(Im_in)的最亮灰度的子范围来确定要硬剪切到所述显示峰值亮度(PB_D)的最小量,其中,针对所述子范围之内的所述输入图像的灰度来确定所得的公共乘法因子(gt)的计算,以将所述输入辉度映射到所述显示峰值亮度(PB_D)。在内容生成器或TV制造商希望或允许某种最小量的剪切的情况下(对于小的子范围,例如,最亮的3%亮度的最亮10%辉度),该单元3710能够指定这种情况。实现该目的的一个实施例能够是经由某种辅助函数F_ALT,指导计算要采用的、如由辉度函数确定单元(3712)确定的最终辉度映射函数(F*)。这样的方法的范例能够是使用函数F_ALT,该函数为剪切函数,即,不论输入亮度如何都给出PB_D的输出结果(例如,对于能够绘制最大1500nit的白色的显示器为1500nit)的函数,并且这仅仅是函数生成器3711能够生成的备选函数之一。
以下实施例也是感兴趣的。辉度函数确定单元3712然后能够确定例如要在LUT中加载的最终函数,该LUT直接根据SDR输入图像亮度来计算MDR亮度(即,在该示范性拓扑的单元2501中负载),所得的函数是硬切换或者向着硬剪切交替调谐策略逐渐淡出(参见在图38中所图示的可能性的阐述性范例)。
又一感兴趣实施例,尤其是对进行取决于周围照明的调谐感兴趣,具有黑色水平估计单元(3702)以建立对黑色水平的估计,其中,所得的公共乘法因子(gt)的计算取决于所述黑色水平。这能够是最优函数确定单元(3701)中的另一个单元,其例如可以是与IC中的核心色彩变换部分相对应的工作的软件(这样允许经由固件升级,例如,以允许新的或更好的调谐策略,或者根据内容递送通道或订阅等的各种水平的质量)。黑色水平估计值,通常指示实际可用MDR显示器上、即在MDR图像中的亮度水平,低于该水平,图像细节将不可见或几乎不可见,实际能够以各种方式来确定,例如,通过经由如遥控器的用户接口向查看者询问实际上效果良好的值,即用于获得水平估计的某些输入部3755,这也可以被连接到照明计或相机等。
还感兴趣的是在控制用于多步调谐的调谐行为的方向上改变实施例,例如,在实施例中,计算所得的公共乘法因子(gt)基于粗辉度映射函数(Fcrs)和细辉度映射函数(CC),其特征在于:首先至少基于显示峰值亮度(PB_D)确定经优化的粗映射函数(FCrs_opt),以用于确定与实际显示绘制状况相对应的辉度的最优子范围,并且将该粗映射应用于所述输入图像,获得粗亮度(Y’CG),并且然后,基于细辉度映射函数(CC)和至少显示峰值亮度(PB_D)来优化细映射函数,并且将该细映射函数应用于所述粗亮度。这允许例如沿着具有不同方向(DIR)的度量(1850)来确定与所述显示峰值亮度相对应的粗和细的亮度映射,其中,优选地,沿对角线执行粗映射,并且垂直地进行细映射。当然,另外的实施例然后能够进一步细调和控制针对各种MDR显示器的这些至少两个子步骤调谐的方式,方式是接收指定其的第二元数据MET_2(例如,(一个或多个)gpm值或者相似的元数据)。
对于针对观看环境的另外的性质、即超过仅仅显示特性而调整的实施例,有利的是首先根据具有固定辉度水平的参考观看状况来建立辉度映射函数,并且接下来针对黑色水平的值来调节该函数,例如在单元3701中根据该调节的函数来计算所得的公共乘法因子(gt)。
所有这些调谐单元或装置能够物理地实现于解码器之后(即,其例如导出与主HDR分级密切对应的Im_RHDR),或者与其集成,即,根据SDR图像立即导出MDR图像(然后,能够在以软件计算要在核心色彩变换引擎中使用的最优函数时使用HDR图像)。
其他感兴趣实施例和变体例如如下。
计算输出图像的所得的色彩所需的所得的公共乘法因子(gt)的计算的示范性实施例包括首先计算以下项的比值(gp):显示器、特别是要在其上绘制(一幅或多幅)图像的所连接的显示器的峰值亮度(PB_D)与对应于输入图像的参考峰值亮度(PB_IM1,例如PB_H)的比值的对数,除以参考峰值亮度(PB_H)与对应于图像(Im_LDR)的峰值亮度(PB_IM2,例如为LDR分级的PB_L)的比值的对数,所述图像(Im_LDR)的辉度动态范围至少与输入图像的辉度动态范围相差1.5倍,所述输入图像通常为HDR场景的第二接收的分级。之后,所述色彩变换装置计算所得的公共乘法因子(gt)作为提升到为比值(gp)的幂的初始公共乘法因子g(其根据被用于在第一与第二分级之间转换的所有部分色彩变换的总体来确定,其通常可以是HDR和LDR外观图像)。
能够有其他这样的度量,但是所述度量不能够仅仅是以下任何内容:其应当是在被用于精确或近似定位显示器的中间峰值亮度(PB_D)应当落在PB_H与PB_L之间哪里时,使得当在PB_D显示器上绘制时MDR外观是令人满意的(并且特别是,如果在对[PB_IM1,PB_IM2]范围外部的外观进行外插时度量给出良好结果,则其也是有用的)。
因此,所述装置或方法首先确定哪个是两个编码/接收的外观图像(Im_in和IM_GRAD_LXDR,其中,IM_GRAD_LXDR可以是HDR或LDR图像,并且另一图像然后具有相当不同的动态范围)之间的色彩变换,该色彩变换在各实施例中可以实际被表示并传输到进行计算的单元,如例如作为函数(归一化的输入与输出辉度之间)或者一个或一组乘法因子g。
在许多实施例中,可以通过该方法计算MDR输出图像的恰好所有色彩,但是在其他实施例中,仅重新计算像素中的一些像素。例如,所述方法可以从例如LDR图像复制一些场景,或者一些文本或图形要素,并且仅提升与火球或向室外看的窗户相对应的那些像素等。在这样的情况下,函数也可以仅在可能辉度的范围的一部分上来定义等。
最后,无论从例如HDR图像导出MDR图像需要色彩处理的什么计算,所述装置都会将此转换成一组乘法值,以用于与输入色彩相乘,这通常可以在线性RGB色彩表示中(或者类似地,例如可以与Lu’v’表示的L分量相乘,其中,u’和v’是CIE 1976色度坐标,但是那些细节对于理解显示调谐的各实施例是无关的)。
因此,所述装置首先需要能力度量确定单元(1303),以确定需要哪些度量来在PB_IM1与PB_IM2值之间定位PB_D值。该度量通常是非线性的,并且具有调谐参数中的一些,在一些有利情形中,所述装置在内容分级者的指导下能够进一步影响非线性的形式。这尤其是因为显示调谐不仅仅是基于显示物理的调整,甚至在非线性人类视觉的外观下,而且尤其因为从(尤其是非常高DR)HDR至LDR的移动,可能需要进行复杂的优化以将所有对象亮度压缩在一起,并且仍然得到良好的协调外观(在第二图像也是HDR图像或者至少具有充分高PB的MDR的情况下,事情可能更简单)。尽管如此,我们理想地希望我们的系统实施例合理地简单,以利用数个参数更快得到至少大部分外观调谐控制,这是HDR内容的类别所需的。
能力度量确定单元(1303)可以做与仅仅用预先固定的度量一样简单的某些事情(其例如在IC中被硬编码),或者在其他实施例中,其可以根据度量类型指示符(COD_METR)来确定所需的外观,所述指示符是经由在预先达成一致的元数据字段中的接收到的信号S_im从内容生成器接收的。由于可以对各种HDR场景做出不同的处理,分级者例如可以传输,在阳光明媚的室外动作的影像中,对于第一场景,要使用的度量是对数比值(并且可能是垂直方向的方向,与输入亮度的轴正交,参见下文),但是然后,当下一场景变为夜晚场景时,得到有些更亮的外观,内容生成器可以指示所述显示调谐应当利用基于OETF的度量这样做(并且例如,在与身份对角线正交的方向上,或者换言之,从输入辉度轴偏转135度)。或者,根据内容是否应当是实时重新分级的MDR(患者,例如,为稍晚查看者处理并且存储在查看者场所处的HDD上),在例如STB中的色彩变换装置可以进行一些计算,查看图像统计结果,并且考虑度量应当被改变一点,或者应当改变PB_D,如同期望的显示器恰好稍暗,导致有些更亮的图像,或者显示调谐的影响参数的任何改变,直到由人或自动图像质量分析算法判断MDR外观令人满意为止。接收侧装置能力度量确定单元例如可以根据影像的各组图像的统计分析结果来构建其自己的度量,但是通常,其将紧紧选取一组预编程的选项。
然后,所得的乘法器确定单元(1310)将通常如以下范例阐述那样,在辉度变换地图上定位度量(或者实际在其计算中进行某种等价操作),确定显示峰值亮度落在编码的图像之间的哪里(即,是否需要更像HDR还是更像LDR的MDR图像,至少对于像素色彩的一些子范围,或者输入图像Im_in的像素的某个子集),并且然后,通过查看总辉度变换函数的形状,针对每个可能的输入辉度,确定哪个所得的公共乘法因子gt被需要用以计算对应的输出辉度或者在针对MDR图像中的对应像素的因子输出色彩中。
因此,并非使用初始公共乘法因子(g),其根据分级者关于其希望两个动态范围外观看起来什么样的艺术期望对针对图像对象的辉度映射进行编码化,方式是使用我们的技术的色彩变换函数参数从所拍摄场景的第一动态范围外观(例如,5000nit HDR作为主图像)变换到第二外观,例如LDR(用于驱动100nit旧版显示器),并且参考图1阐述,因此其恰好根据第一参考分级的图像获得了第二艺术参考分级,计算新的所得的公共乘法因子(gt),其表征给出MDR图像的重新分级的适当亮度缩放或显示调谐的版本。例如,所述装置或方法可以根据HDR主图像降级(如上所述,能够利用公共因子将其编制为对RGB像素色彩的单次乘法动作)。这产生了中间分级图像(MDR),对于中间峰值亮度、例如1250nit的能连接的显示器,其具有适当的外观,即,所拍摄图像中的所有HDR场景对象都被以合理亮度绘制在该显示器上(对于内容的生成器而言将是期望的,并且愉悦地观看,无论他们是在凉爽的阴影区域、梦幻池塘、警察审讯的罪犯被照亮的面部等),并且在任何给定的显示器上,并且可能考虑其他因素,如观看环境等。在实施例中,除了图像对象的像素色彩的亮度之外,还可以通过应用例如所需去饱和的适当缩放的版本以在LDR分级中生成亮色彩对象,来根据需要优化像素色彩的色彩丰富度。用于获得针对峰值亮度相当不同的显示器的正确分级的图像的主要要求在于针对每个显示器正确地优化各个对象的至少辉度。否则,查看者例如可以看到图像的过暗并且可能甚至不足以能区分的一些部分。或者,一些对象可能具有错误的对比度,例如,具有过小的对比度。但是,因为我们已经发现了将辉度变换编制为利用g因子的乘法的方法,能够将相同的概念也应用于色彩饱和处理。并且色彩饱和变换在需要在针对辉度动态范围相当不同的显示器的图像之间转换时也是有用的处理,因为,例如,分级者可能希望当在低峰值亮度、例如在100nit与600nit之间的显示器上被绘制时增加针对场景的最暗部分的色彩丰富度。
gt的计算是在接收侧进行的,但是通常也可以在生成侧进行,以验证接收器将做什么。即使在一些实施例中,生成侧可以无视gt值的任何接收侧计算,并且直接针对例如影像的一个或多个画面指定gt值,但我们将聚焦于阐述中更简单的计算实施例。
可以在“天然”外观与重新调节的外观之间做出区分,或者更精确地讲,“天然”外观是针对各种峰值亮度(和/或动态范围)的相关联的显示器的一系列外观,重新调节的外观已经根据某些原理被进一步调谐。在接收侧进行重新调谐能够存在各种原因,对此,显示器的观看参数、环境、查看者调整等最终确定外观应当是什么样,但是通常,在HDR图像或视频处理链路中,要绘制(一幅或多幅)图像的显示器的至少峰值亮度是最重要的。另一方面,图像生成到消费链路中的若干方法可能知道最优外观将是什么样子(例如,最终消费者可能对主题或需求具有特殊观点)。可以假设我们能够用以阐述性实施例的一些系统将允许内容生成器保持在经显示的内容的任何接收端显示器上最终最优的“自然”外观,如果他希望这样的话。我们的最简单的实施例允许这样做,因为外观的主要部分已经在色彩变换规范中被编码,所述规范是在与图像相关联的第一元数据MET_1中传输的(例如,在同一张光盘或包含图像的介质上,或者经由相同的图像通信连接),并且如果然后简单地将此调节到接收显示器的特定峰值亮度,那么被成像场景上的分级者视图的大部分将仍然存在并且能在最终绘制的外观上感知。事实上,如果色彩变换装置仅照原样应用度量,即,不利用像gpr那样的外观可变性定义参数进一步细调,并且然后基于接收到的色彩变换来确定HDR至MDR色彩变换函数(该TMF确定了从例如HDR至LDR的映射),那么单独由如在HDR-LDR变换函数中被编码的分级中的差异来确定MDR。
然而,其他各方也可能对外观有影响,并且这可以利用我们的各种实施例的完全相同的技术部件来确定,典型为对天然外观的重新确定。例如,装置制造商,例如电视机制造商,也可以具有关于特定类型的HDR场景绘制(或者与之对应的MDR绘制)应当什么样的大量知识和/或优选观点。例如,他可能希望使暗的地下室稍微更亮,或者甚至可能更暗,因为他希望强调其显示器的高于平均值的暗绘制能力。或者,他可能希望比平均值更饱和或者相反较不饱和的外观。或者,他可以对其他显示器硬件特性或卖家偏好那样的卖家典型色彩外观进行色彩处理等。在过去,那将在由电视机对其进行分析之后在接收到的图像上完全盲目地进行,或者仅利用固定函数进行,该函数始终给出例如增大的饱和度的合理结果,无论生成器希望同一被成像场景在各种绘制情形之间应当如何改变外观(因此,色彩可能变得过度饱和而不是很好地上色),但是利用我们的当前的方法,能够利用艺术生成器关于场景的考虑来协调装置制造商的进一步处理(如在其色彩变换中被编码的那样,以从如在所传输的第一外观图像中被编码的外观,例如5000nit HDR,到第二参考外观,例如100nitLDR)。具体地,从HDR场景的至少一个更多动态范围分级的该函数重新规范,所述装置制造商(例如,电视机制造商)具有多得多的相关语义信息,因为人类分级者基于场景以及其(一幅或多幅)图像的智能细节,基于接收装置能够对哪些进行更智能的最优重新分级计算,来做出其选择。甚至一般还有第三方,其可能通过我们的新的外观重新分级技术对图像的最终外观提供影响。如果查看者认为例如当前所述图像部分地过暗,因为他的妻子正在他旁边读书,查看者可以经由其遥控器1122对外观进行细调,例如,通常稍微细调(甚至可能大的步阶,例如高达3级改变,但是那样仅对辉度范围的一部分,例如,10%的最暗色彩)。
因此,我们的色彩变换装置主要依赖于分级者指定什么作为其色彩变换函数(在元数据MET中,更精确地,与所传输的图像Im_in相关联的MET_1中),并且哪些在IC中实现简单,以及哪些可能不需要来自分级者的额外的分级关注。在一些实施例中,他唯一的动作不需要多于他(快速地)检查这样的经显示调谐的MDR视频,例如,太阳烧焦明亮行星的科幻影像,或者具有各种光反射效果的TV节目在由分级者选取的中等峰值亮度显示器上是否看起来良好,例如,1000nit对于5000HDR/100LDR编码是良好的中等(MDR)显示器,因为其低于5000大约2级,并且高于LDR大约3级,并且甚至如果分级者纯粹依赖于接收端以进一步调谐其天然外观,则可以省去该检查(即,他仅指定其色彩变换以仅在其主外观、例如LDR100nit之外对一个另外的参考外观进行分级,并且然后,由电器制造商、例如运行于计算机上的色彩改善软件等负责进一步重新分级)。
在他对应当在接收侧优选如何进行重新分级确实做出某种验证或者或多或少的特定规范的情况下,分级者然后接受由他当前选择的、给出满意MDR图像的另外的分级优化方法(或自动建议),方式是例如在蓝光盘或中间服务器上存储色彩变换函数和主图像,连同在接收侧应用针对特定能连接的显示器被调谐的分级优化方法所需要的任何信息(在更简单的实施例中,其将是用于根据主图像对第二图像进行分级的唯一函数,即,用于计算公共乘法因子(g)或者与之对应的辉度映射函数TMF的数据,但是在更高级的实施例中,将有指定更精确优化策略的额外参数)。所述接收侧然后能够针对例如1250nit峰值亮度自主确定第三分级,并且例如,当色彩变换装置经由因特网被并入专业视频供应服务器中时,存储该(一幅或多幅)第三分级图像,以在客户或者一组或一类客户需要时使用。
所述色彩变换装置获得针对要被供应经优化的MDR图像的显示器的峰值亮度的值PB_D,例如,如果仅连接单个显示器(例如,所述装置被并入电视机中),则PB_D可以是存储在某个IC存储器部分中的固定数字。如果该装置为例如STB,那么其可以从连接的TV轮询PB_D。所述色彩变换装置然后评估该PB_D如何关联到与两个分级HDR和LDR图像相对应的峰值亮度,即,生成这些分级以看起来最优的对应参考显示器的PB。该关系例如可以被计算为对数比gp,或者等价地,相对差异。该比值被用于获得最优的良好外观的中等(半)自动重新分级策略。因此,根据状况或分级者针对任何HDR图像或视频需要什么,能够将我们的本发明的原理既可以仅用于辉度变换路径,或者仅用于色彩饱和度处理路径,或者通过将相同的适当的取决于显示器的调节原理应用两次但是利用不同的色彩变换规范,而应用于这两者。
有利地,所述色彩变换装置(201)包括显示数据输入部(117),其被布置成从连接的显示器接收显示器的峰值亮度(PB_D),使得其能够可能通过在观看视频时在操作中进行计算而针对接收侧的任何可用和/或连接的显示器来确定正确的分级。本实施例还可以存在于显示器、例如电视机自身内部,因此,该显示器能够根据我们的HDR编码的数据来确定其自己的优化的分级(例如,PB_D被存储在存储器中)。以这样的方式,我们的HDR编码技术实际上对HDR场景上的一束外观进行编码,其能够被链接到例如多视图系统能够如何对场景上不同角度的视图进行编码,但是现在色彩空间中发生了非常不同的差异。相反的实施例可以存在于例如专业视频服务器中,其针对具有特定PB_D类值附近的峰值亮度的各种类型的显示器预先计算若干分级,稍晚供应给消费者,或者针对其外观由另外的色彩分级者进行细调等。
各实施例可以确定显示调谐的另外的变量,例如,所述色彩变换装置(201)还可以包括方向确定单元(1304),所述方向确定单元被布置成确定相对于输入色彩的亮度轴的方向(DIR);并且具有缩放因子确定单元(200),所述缩放因子确定单元包括方向内插单元(1312),所述方向内插单元被布置成通过沿着方向(DIR)来定位度量,根据输入图像(Im_in)的像素辉度来确定针对输出图像(IM_MDR)的像素的辉度。作为一个有用的范例,我们的技术能够在水平方向上进行内插,即,在辉度的地图上确定变换,所述变换输出与x轴上的输入辉度相对应的输出辉度。我们的进一步的研究表明,可能有用的是旋转内插方向,以用于确定应当在哪里定位与PB_D相对应的中间MDR,以及应当如何对其进行色彩处理,因为各种辉度变换具有各种定义和行为,并且这样的不同调谐可以在辉度的至少一些子范围中生成例如更亮的外观(例如,一些函数可以利用在具有各种辉度变换行为的段之间的节点来定义,所述辉度变换行为诸如是对暗灰色的拉伸,其具有固定的输入辉度位置,并且然后定向内插可以对做出改变)。具体地,我们发现从输入辉度轴的135度位置是感兴趣位置,因为然后与身份变换相比正交地调谐,并且例如然后可以初始将外插定义为相比于该对角线的大致对称镜像)。下文我们将展示然后如何沿着该方向DIR部署度量,并且技术人员然后应当理解能够如何从此通过进行几何操作来导出数学方程。
再次地,该方向例如可以通过接收侧装置自主地确定,例如,基于其HDR图像的类型的分类,或者可以将其作为从内容生成侧的方向指示符COD_DIR来传输。我们将展示有利的实施例,其能够通过应用由定向内插单元1312所执行的包含辉度变换函数的地图的旋转来进行计算。
公共乘法器确定单元(1311)然后将转换所需的色彩变换以获得应用对输入色彩的乘法的各种所需gt因子中的DMR外观。
有利地,所述色彩变换装置(201)使其缩放因子确定单元(200)还被布置成根据第二色彩处理规范数据(MET_2)获得调谐参数(gpr;gpm),并且被布置成计算与所述度量上针对所述显示峰值亮度(PB_D)的位置之外的不同的位置相对应的所得的公共乘法因子(gt),所述不同的位置基于所述调谐参数的值。如上所述,所述度量确定什么应当是大致合理的MDR外观,如果其未从例如内容生成器接收任何其他内容或者另外的图像分析和一般卖家特有的HDR技巧,即,然后MDR外观对于许多种类的HDR场景已经大致良好,尤其是因为其已经基于接收到的色彩变换函数(例如,自定义曲线CC)被最优地确定,其确定了HDR场景的各种分级应当如何改变,至少从第一PB范围端点(例如,PB_H)到第二(PB_IM2,例如,然后为PB_L)端点。然而,可能需要对一些图像或者甚至对应于某种区域或物体、如暗的地下室的一些图像的一些部分的LDR外观进行更快、更积极的改变,并且根据PB_D与针对其他状况的PB_IM1的偏离比“平均”(如通过仅仅使用度量和方向来确定的)改变较不积极。这应当由分级者以尽可能容易的方式来指定。在我们的技术的最简单的实施例中,分级者能够使用单个参数(gpr)来指示要使用的对应于MDR计算点的M_PB_U点有多少应当比通过在度量上放置PB_D而由接收侧装置“盲目”计算时更接近例如度量上的PB_H。
例如,在一些实施例中,缩放因子确定单元(200)被布置成通过应用单调函数来确定不同的位置,所述单调函数根据位于最小值、例如针对外插的负mn_gpr或0与最大值(mx_gpr)之间的至少一个输入参数(gpr)给出度量上的归一化的位置作为输出,并且当然,也取决于与显示器状况相关的某个输入值,即PB_D(gpr例如可以是在图15的线性曲线附近弯折的曲线的曲率的度量等)。在直接确定度量上的位置的情况下,输入值可以是PB_D自身,或者可以是该PB_D的某种函数,例如,所使用的度量。该gpr值能够由分级者设置,例如,通过旋钮1510设置,或者通过在接收端处的人工智能图像分析来计算。由于能够将获得MDR外观所需的变化编制(至少对于内插而言,并且这可以在需要外插时进行对应调整)为色彩变换,所述色彩变换是在理论上计算HDR分级时的身份,或者一般地,从自身接收的主分级,以及该范围的另一极端,即,能够通过应用所传输的辉度变换(即,“完整”地)来获得例如100nit LDR外观,能够将这视为在根本不、即乘以1.0或者到完整程度、即乘以对应于所接收的元数据的g倍之间应用乘法变化,所接收的元数据用于根据所接收到的HDR图像来计算LDR外观。从此,对于针对各种输入辉度的任何实际乘法值,能够定义如在图15中示范的连续函数,根据表征显示情形的输入以及表征希望的重新分级种类的至少一个grp值,这将所述色彩变换应用于最全的范围(m_MT_norm=1)或者根本不应用,或者其间的任何内容。
在具有缩放因子确定单元(200)使用基于对数的度量并且通过将g值提升到计算的正确比值来计算gt因子的色彩变换装置(201)的实施例的情况下,技术人员能够理解,校正该比值可能是有利的。实际上这能够通过以下操作进行:例如从色彩处理规范数据(MET)获得调谐参数(gpm),并且然后计算调谐的幂值(gpp),即源自PB_D所对应的对数度量计算,提升到作为调谐参数(gpm)的幂,并且然后,计算公共乘法因子(gtu)的另一调谐版本,即提升到等于调谐的幂值(gpp)的初始公共乘法因子(g),该gtu将通常由缩放乘法器(114)用于与(例如)线性RGB输入色彩相乘。无需赘言,但是我们将使技术人员完全明了,尽管本幂值gpm看起来像伽马值,但是其与显示器或一般图像加亮所知的伽马绝对没有关系,因为取决于HDR场景的特性,并且例如获得合理LDR分级必所需的艺术优化的类型,这现在是针对向其他分级的外观所需的调谐的积极性的控制参数,该其他分级的外观针对与一些PB_D相对应的一些所需MDR图像色彩。事实仅仅是幂函数是设计如在图15中所阐述的类型的行为的实际方式,并且一些数学函数被全面部署的事实仅仅是数学巧合。
优选地,我们还提供了一种技术方案,其允许内容生成器甚至更进一步说明中间分级看起来如何。一方面,我们为方案引入了约束,即分级者不应当被过多额外分级干扰,因为分级时间成本很高,并且例如,一些生产可能已经在过往生产之前在预算上方运行,并且分级者已经在生成主HDR分级上花费了相当多时间(然而,如果几乎没有任何人能够在其实际显示器上看到,有意义的是不完全忽略最终的绘制问题),并且然后,是与其相关联的LDR外观(或者来自例如影院版本的LDR外观,并且然后是针对HDR电视观看的对应HDR外观,或者其他工作流备选方案)。另一方面,尽管当已经在针对各种PB_D值的所需中间分级范围的任一侧上放置了分级复杂性的一些(再次注意,本发明以及其实施例不限于该阐述性通常情形,因为各种技术也可以有效,以例如从主5000nit分级升级到例如20000nit,从用于降级并适当地改变其的相同函数开始,或者利用在元数据中发送的用于升级的额外函数等),即,当已经具有HDR和LDR分级时,中间分级的确定可以更简单。然而,表面上并且通常地,对中间分级的确定仍然可能相对复杂,特别是如果在MDR分级的峰值亮度与任一端的原始分级、LDR与HDR之间有大量级别时。因此,理想地,分级者应当彻底地生成第三MDR分级,或者至少充分彻底地生成,其可以利用我们的更高级的实施例这样做。然而,我们提供了若干简单的解决方案,其可以替代地、单独地或者如果需要加以小的额外细调或本地细调来使用,所述小的额外细调例如是用于中间分级图像生成的全局辉度映射的部分(或者作为从我们的以上利用另外的函数的优化方法得到的图像的后期校正),所述本地细调的是关键但不简单导致我们的简单实施例正确分级的结果的一些对象等。
在本实施例中,分级者能够通过仅指定也是在元数据MET中传输的一个另外的调谐参数gpm或gpr来快速生成中间MDR,并且指定中间分级看起来有多像LDR或HDR分级,或者换言之,当通过期望的连接的显示器的各种中间峰值亮度时,中间MDR分级有多快地从HDR外观变为LDR外观,或者在另一方向上反之(例如,当显示器的峰值亮度保持增大时,特定的暗的对象会保持多亮)。
当然,除了1参数细调函数之外(以在从起始点,例如,PB_H去除PB_D时,更快或更慢地前进到其他分级),可以定义另外的参数,指定取决于场景的或多或少积极的显示调谐应当如何发生,例如,如图15的gptt那样。原则上,在我们的技术框架中,能够定义外观应当如何在HDR与LDR外观之间针对各种中间PB_D位置而移动的任意复杂规范,如从纯粹的基于度量的方法偏离的那样。
有利地,色彩变换装置(201)的另外的实施例将缩放因子确定单元(200)进一步布置成获得至少一个辉度值(Lt),所述辉度值将输入图像的像素色彩的辉度(或对应的亮度)的第一范围与辉度的第二范围划界,并且其中,所述缩放因子确定单元(200)被布置成计算调谐的公共乘法因子(gtu)——即,所得的公共乘法因子gt的更具体地确定的实施例——针对第一和第二亮度范围中的至少一个。当说到亮度时,表示辉度或任何其他像素亮度度量的任意编码化(与色彩矢量的长度相关),所述值能够被等价地计算成彼此。例如,在一些实际实施例中,可能有利的是使该Lt值为值分界器,其中,值被定义为max(R,G,B),即,输入色彩的色彩分量中的最高的一个。即,当为最高色彩分量时,例如红色的一个比例如0.3更高时,将所述色彩分类在第一区域中,否则分类在第二区域中。
利用该实施例,分级者能够选择主图像的辉度范围的特定感兴趣子范围(并且因此,经由色彩变换,还有能导出的图像,例如LDR图像),并且以不同的方式对其进行处理。在以上论述中,我们主要集中于应当多快地从HDR分级移动到LDR分级(或者如果主图像Im_in为LDR图像,反之亦然),以及在一些实际实施例中,能够如何通过甚至1个单一控制参数gpr或grpm从技术上实现该目的。这种调整然后将通常针对输入图像中的所有像素色彩被这样做,即,无论其原始亮度如何,我们假设其能够被相似地显示调谐,因为方法中的差异已经大多被编码于辉度变换的形状中,以在分级者的原始HDR与LDR外观之间分级。然而,HDR场景中可能有各种语意部分,例如,集市的相对更暗区域中的彩色衣服和通过集市的入口看到的明亮外部,并且通常,可能存在涉及以映射例如相对小的DLR辉度范围中的各个部分的各种优化,同时仍然生成艺术上有说服力的图像。或者,暗的区域在夜晚场景中可能是非常关键的,并且分级者可能希望使其保持明亮,方式是通过使辉度的子范围保持接近LDR外观,高达相对高的峰值亮度,如例如800nit,同时在上部区域保持良好的HDR对比度,例如房屋的接近灯柱的部分,或者洞穴中被通过洞顶的裂缝落下的阳光照明的部分,或者彩色的背光照明商业灯箱等。因此,在我们的更高级的实施例中,分级者可能希望指定调谐,特别是MDR分级如何针对后续PB_D步阶积极地向着第二图像分级移动,针对场景的不同部分、特别是图像像素辉度的图像的部分以不同的方式,并且因此,仍然有利的是具有一种机制,其允许分级者进一步指定其对该方面的期望控制。
分级者通常针对至少一个区域分界亮度值(Lt)的任一侧指定不同的gpm值,并且如果沿该范围指定另外的区域,则指定更多值(例如,暗、中等和明亮和超亮)。两个区域之一可以使用默认值,例如,gpm=1,这意味着使用我们的第一实施例的策略,这意味着在一些实施例中,分级者仅需要针对辉度在Lt的任一侧的两个区域之一指定一个特定的gpm值。但是他也可以针对这两侧都指定并发送专用的gpm值:gpm_1和gpm_2。
色彩变换装置(201)的另外的实施例具有缩放因子确定单元(200),所述缩放因子确定单元还被布置成确定位于至少一个亮度值(Lt)附近的平滑亮度范围,并且被布置成在至少一个亮度值(Lt)的任一侧确定的其值之间内插调谐的公共乘法因子(gtu)。为了保证平滑的过渡行为,这可能并非是针对每个HDR场景和MDR计算情形所需的,并且针对中等分级的任何对象没有不适当的像素亮度(对于特定梯度,例如在天空中或者被照亮的球形物体而言,这可能是特别关键的),本实施例允许分级者指定过渡区域。他能够根据内插策略在Lt的任一侧差异多大、即针对例如低亮度的gpm_1与针对高亮度的gpm_2相差多少(通常,针对任一方的良好值可以在1.5与1/1.5之间)而指定所述内插,特别确定内插区域的宽度为另外的参数I_W等,以及其是否应当例如对称地位于Lt附近或者不对称地仅应用于Lt以上的辉度(备选地,接收装置可以自主地确定内插策略,通过使用(一条或多条)所得的曲线上的细节,所述细节诸如是其应当单调增大,或者在特定瞬间或者在特定区间上对偏差的期望约束,即,其将提出至少一个策略,直到满足约束为止等)。同样地,在一些实施例中,他可以通过发送(一个或多个)函数以针对元数据内的主图像中的每个可能辉度计算所需的gpm值来指定一些期望的内插策略,但是默认地,这将是针对内插区域的任一侧而发送的gpp值之间的线性内插。
现在,已经给出了色彩变换装置的一些阐述性实施例,能够利用本发明的原理来设计,在下文中,我们描述了一些另外的装置变体,其中,能够在各种应用情形中包括该基本色彩计算装置,例如,在消费者侧、在内容生成器侧、在内容传输公司侧的装置,例如,在线缆头端或卫星中,或者通过用于对例如消费者的视频、例如婚礼或假期视频等进行重新分级的基于因特网服务。
在编码器侧,能够在一种用于生成对高动态范围图像(Im_src)的编码的系统中使用我们的实施例,所述系统包括:
-输入部,其用于接收高动态范围图像(Im_src);
-图像转换器(303),其被布置成将所述高动态范围图像(Im_src)转换成高动态范围图像(Im_src)的主分级(M_XDR);
-根据以上色彩变换装置权利要求中的任一项所述的色彩变换装置(201),其被布置成从作为主分级(M_XDR)的输入图像(Im_in)像素的输入色彩开始,通过应用色彩变换(TMF;g),来计算第二分级的图像(M_X2DR)的像素的所得的色彩;
-所述色彩变换装置被布置成获得至少一个参数(gpm)并且使用所述参数和所述色彩变换来计算与峰值亮度相对应的第二图像(IM_MDR),所述峰值亮度与对应于主分级(M_XDR)的峰值亮度以及对应于第二分级的图像(M_X2DR)的峰值亮度不同;
-信号格式化单元(310),其被布置成将第二分级的图像(M_X2DR)与主分级(M_XDR)一起转换成格式化的高动态范围图像(SF_X2DR),其适合于图像存储和/或传输,并且包括所述主分级(M_XDR)的像素色彩数据、对所述色彩变换进行编码的元数据、以及所述至少一个参数(gpm);以及
-图像输出部(320),其用于输出经格式化的高动态范围图像(SF_X2DR)。
通常,各部件将对接收侧的那些进行镜像,但是现在人类分级者(或者自动重新分级人工智能系统)具有另外的技术部件,以确定接收器应当做什么,根据分级者的期望来生成最完美的中间分级。
在此,分级者通常从原始HDR材料(Im_src)开始,可以说成直接从如RED相机的HDR相机开始,或者甚至从经由射束分裂器由同一场景图像供应的两个不同曝光的相机的系统开始。分级者通常希望如结合图14的范例所解释的那样生成其的主HDR分级,他希望在图14的左侧的5000nit辉度轴上定位各图像对象的辉度以及其对应的亮度代码。他还希望制作与该同一主HDR图像外观相对应的LDR分级。继续主图像(Im_in)的特定范例,该主图像实际是作为通常被压缩或未压缩的DCT来传输的,即HDR图像,在那种情形中,从第一分级输出的分级的图像M_XDR将是HDR图像,那么该HDR图像将与色彩处理函数元数据一起被添加到图像信号,并且例如被写到BD或另一种物理存储器(321)、或者任何其他图像通信模块中。在那种情形中,分级者将根据主HDR分级来生成至少一个辉度映射函数(例如,CC),以获得M_X2DR,在这种情况下为LDR图像,即,其代码将被映射到100nit的PB_L的图像。
然而,我们还具有一版本以及对应的显示调谐实施例,我们称其为模式2,其中,HDR场景的“HDR图像”被实际编码为LDR 100nit图像。在这种情况下,源自确定主图像的初始分级的M_XDR可以是LDR图像。并且,在这种模式中,分级者指定的函数(CC等)将该LDR图像映射到HDR图像,这通常为期望的主HDR外观图像的非常接近、近乎相同的近似。在这种模式2中,被存储在图像或视频信号S_im中的Im_in将是LDR图像,并且辉度变换(以及饱和度变换)函数将是升级函数,以在接收侧导出HDR图像,并且同样地,M_X2DR将是HDR图像。在任何情况下,分级者通常将检查三个典型显示器上的三幅图像的外观,所述三幅图像即其原始LDR和HDR外观图像以及DMR图像,所述典型显示器具有与那些图像相对应的适当选取的显示峰值亮度。
因此,根据我们的HDR技术的格式化的高动态范围图像SF_X2DR确实在场景上对HDR外观进行编码,无论其是否实际包含HDR或LDR主图像。
该系统通常还将输出至少一个调谐参数(gpm)。
根据分级者希望花费更多还是更少的时间,可能涉及各种迭代中的一种。对于实时传输而言,分级者例如可以仅观看外观(对此,HDR和LDR分级然后通常还将涉及数个操作,例如,基于恰在开始展示以生成主分级之前的场景特性的单个对数样或S曲线变换设置,并且第二个操作从HDR主分级获得第二从属分级,例如LDR)在三个参考显示器上是否具有充分合理的质量,并且偶尔可以大致调谐拨盘,其例如改变gpm参数。但是当涉及离线重新主分级时,分级者可能投入大量时间得到对数个分级的编码,例如,HDR与LDR之间的2个额外的MDR分级,以及任一侧一个(超级HDR UHDR,以及亚LDR SLDR)等,其中的一些由显示调谐实施例实现,或者其中的一些由原始动态范围外观图像共同编码实施例实现,通过元数据中的完全色彩变换,并且然后在其顶部上进行显示调谐,以用于获得在超过两个原始传输的分级之间的中间PB_D位置。尤其地,对于一些更常见的程序而言,在图像传输链中间的公司中,例如,在针对各种类别的接收器的重新主分级动作中,在进一步销售、发送、优化现有内容等方面有业务的公司中,可能有额外的分级预算,以供人类分级者投入更多时间生成若干个更高级的重新分级情形,以及那些各种色彩变换的数学参数。
读者理解,所有装置变体或组合也能够被实现为一种图像处理方法,例如,一种计算输出图像(IM_MDR)的像素的所得的色彩(R2,G2,B2)的方法,所述输出图像针对具有显示峰值亮度(PB_D)的显示器从输入图像(Im_in)的像素的输入色彩(R,G,B)开始被调谐,所述输入图像(Im_in)具有对应于与所述显示峰值亮度(PB_D)不同的第一图像峰值亮度(PB_IM1)的最大亮度代码,其特征在于所述方法包括:
-根据经由元数据输入部(116)接收到的包括至少一个色调映射函数(CC)的色彩处理规范数据(MET_1)来确定色彩变换(TMF),所述色彩变换指定如何将所述输入图像(Im_in)的像素的辉度转换成针对第二图像(Im_RHDR)的那些像素的辉度,所述第二图像具有对应于其最大亮度代码的第二图像峰值亮度(PB_IM2),所述第二图像峰值亮度不同于所述显示峰值亮度(PB_D)和所述第一图像峰值亮度(PB_IM1),并且其中,所述第一图像峰值亮度除以所述第二图像峰值亮度大于2或小于1/2;
-通过以下操作来确定所得的公共乘法因子(gt;Ls):首先,沿着方向(DIR)来建立位置(M_PB_D),所述位置与所建立的度量(1850)上的显示峰值亮度(PB_D)的值相对应,其将显示峰值亮度映射到至少辉度变换函数上,该度量开始于身份变换函数的位置处,
并且接下来基于所建立的位置以及与其相对应的至少辉度变换函数来计算所得的公共乘法因子(gt;Ls),所述辉度变换函数被编制为所得的公共乘法因子(gt;Ls);并且
-将所述输入色彩的色彩表示的三个色彩分量中的每个色彩分量与所得的公共乘法因子(gt)相乘。
通常,如果所述方法也根据所述辉度变换的形状来确定位置(M_PB_D)以将输入图像变换到第二图像(IM_HDR)中,则其可能是有用的,所述第二图像包括经由元数据接收的至少一个色调映射函数(CC)。
有用的还有一种从输入图像(Im_in)的像素的输入色彩开始计算像素的所得的色彩的方法,其特征在于所述方法包括:
-基于经由元数据输入部(116)接收到的色彩处理规范数据(MET)来确定初始公共乘法因子(g),
-通过以下操作来确定所得的公共乘法因子(gt):首先计算对数比值(gp),第一是显示器的峰值亮度(PB_D)与对应于输入图像的参考峰值亮度(PB_H)之间的比值,并且第二是参考峰值亮度(PB_H)与从色彩处理规范数据(MET)获得的并且与图像(Im_LDR)相对应的峰值亮度(PB_L)的比值,当向输入图像的像素色彩应用色彩处理规范数据时得到所述图像,并且接下来计算所得的公共乘法因子(gt),作为被提升到为比值(gp)的幂的初始公共乘法因子(g),并且
-输入色彩的线性RGB色彩表示与作为所得的公共乘法因子(gt)的乘法因子相乘。
有用的还有一种根据权利要求7所述的计算像素的所得的色彩的方法,包括从连接的显示器接收显示器的峰值亮度(PB_D)的步骤。
有用的还有一种计算像素的所得的色彩的方法,包括:从色彩处理规范数据(MET)获得调谐参数(gpm);计算作为比值(gp)的经调谐的幂值(gpp),其被提升到作为调谐参数(gpm)的幂;确定作为初始公共乘法因子(g)的经调谐的公共乘法因子(gtu),其被提升到等于经调谐的幂值(gpp)的幂;并且将输入色彩的线性RGB色彩表示与作为经调谐的公共乘法因子(gtu)的乘法因子相乘。
有用的还有一种计算像素的所得的色彩的方法,包括:获得将输入图像的像素色彩的亮度的第一范围与亮度的第二范围分界的至少一个亮度值(Lt);并且针对亮度的第一范围和第二范围中的至少一个来计算经调谐的公共乘法因子(gtu)。另一个子范围然后例如可以使用从对数比值确定的默认gt参数,所述对数比值指定上文针对最宽泛的实施例所提到的PB_D、PB_H和PB_L的亮度关系。所述方法或装置的一些实施例可以使用根据当前状况预先固定或者可以选择其中的任何一些的实施例,这将通常利用元数据中的另外的表征代码来编码。
有用的还有一种计算像素的所得的色彩的方法,包括:确定位于至少一个亮度值(Lt)附近的亮度的过渡范围;并且在至少一个亮度值(Lt)的任一侧确定的其值之间内插经调谐的公共乘法因子(gtu)。
技术人员将认识到,所有实施例能够被实现为许多其他变体、方法、信号,无论通过网络连接发送或者被存储在某种存储器产品、计算机程序中以及各种组合和修改中等。
例如,在一些实施例中,内容生成侧能够基于分级者如何确定各动态范围的分级应当看起来什么样、通过将此作为经编码的高动态范围图像信号(S_im)来发送而控制任何接收侧显示器应当如何绘制(中间)外观,包括:
-像素色彩数据,其对作为主分级(M_XDR)的主图像进行编码;
-元数据(MET),其包括指定色彩变换以根据主分级(M_XDR)计算第二分级的图像(M_X2DR)的参数,其特征在于:所述经编码的高动态范围图像信号(S_im)还包括调谐参数(gpm),所述调谐参数被用于通过以下操作从主分级(M_XDR)的像素的输入色彩开始来计算像素的所得的色彩:
-基于色彩变换来确定初始公共乘法因子(g);
-计算对数比值(gp),第一是显示器的峰值亮度(PB_D)与对应于输入图像的参考峰值亮度(PB_H)之间的比值,并且第二是参考峰值亮度(PB_H)与从元数据(MET)获得的并且对应于图像(Im_LDR)的峰值亮度(PB_L)的比值,在向输入图像的像素色彩应用色彩处理规范数据时得到所述图像;
-计算作为比值的经调谐的幂值(gpp),其提升到作为调谐参数(gpm)的幂;
-确定作为初始公共乘法因子(g)的经调谐的公共乘法因子(gtu),其被提升到等于经调谐的幂值(gpp)的幂;并且
-将主分级(M_XDR)的输入色彩的线性RGB色彩表示与作为经调谐的公共乘法因子(gtu)的乘法因子相乘。该信号可以包括进一步指定元数据以使得任何接收侧装置能够应用我们的实施例中的任何实施例,诸如,例如一个或多个辉度分界器Lt等。
有用的还有一种用于生成高动态范围图像的编码的系统,包括:用户接口(330),其允许人类分级者指定至少一个参数(gpm);以及图像输出部(311),其用于连接具有显示峰值亮度(PB_D)的显示器(313)。
有用的还有一种用于确定要绘制的色彩的系统(1130),包括:色彩变换装置(201);以及用户接口(1120),其用于输入至少一个用户指定的参数,所述参数改变以下中的至少一个:要由色彩变换装置使用的度量、调谐参数(gpr;gpm)或显示峰值亮度(PB_D)。
有用的还有一种计算输出图像(IM_MDR)的像素的所得的色彩(R2,G2,B2)的方法,针对具有显示峰值亮度(PB_D)的显示器,从输入图像(Im_in)的像素的线性三分量输入色彩(R,G,B)开始,所述输入图像(Im_in)具有对应于与所述显示峰值亮度不同的第一图像峰值亮度(PB_IM1)的最大亮度代码,包括:
-根据包括至少一个色调映射函数(CC)的色彩处理规范数据(MET_1)来确定色彩变换(TMF;g),所述色彩变换指定具有与其最大亮度代码相对应的第二图像峰值亮度(PB_IM2)的图像(IM_GRAD_LXDR)的至少一些像素色彩的计算,所述第二图像峰值亮度不同于所述显示峰值亮度(PB_D)和所述第一图像峰值亮度(PB_IM1),并且由此,所述第一图像峰值亮度除以所述第二图像峰值亮度大于2或小于1/2;
-通过执行以下操作来确定所得的公共乘法因子(gt):
-确定用于在所述第一图像峰值亮度(PB_IM1)与所述第二图像峰值亮度(PB_IM2)之间以及在该范围外部定位显示峰值亮度的位置的度量;并且
-根据所述显示峰值亮度(PB_D)、度量、以及色彩变换来确定所得的公共乘法因子(gt);并且
-所述方法还包括将线性三分量输入色彩(R,G,B)与所得的公共乘法因子(gt)相乘以获得所得的色彩(R2,G2,B2)。
有用的还有一种方法,还包括相对于输入色彩(R,G,B)的辉度的轴来确定方向(DIR),其中,确定所得的公共乘法因子(gt)包括:通过沿着所述方向(DIR)定位所述度量根据所述输入图像(Im_in)的像素的辉度来确定针对输出图像(IM_MDR)的像素的亮度。
有用的还有一种方法还包括根据第二色彩处理规范数据(MET_2)来获得调谐参数(gpr;gpm),并且计算与所述度量上针对所述显示峰值亮度(PB_D)的位置之外的不同的位置相对应的所得的公共乘法因子(gt),所述不同的位置基于所述调谐参数的值。
有用的还有一种方法,包括:获得将所述输入图像的像素色彩的辉度的第一范围与辉度的第二范围分界的至少一个辉度值(Lt,Ltr1);并且针对辉度的第一和第二范围中的至少一个来计算所得的公共乘法因子(gt)。
为了能够从生成艺术上适当的外观的生成侧向那些图像的任何使用地点传输所需的信息,有用的是具有高动态范围图像信号(S_im)的技术规范,包括:
-像素色彩数据,其对作为高动态范围场景的主分级(M_XDR)的主图像进行编码;
-元数据(MET),其包括指定色彩变换的参数,以根据主分级(M_XDR)来计算第二分级的图像(M_X2DR);其特征在于:该编码的高动态范围图像信号(S_im)还包括调谐参数(gpm),所述调谐参数要被用于从主分级(M_XDR)的像素的输入色彩开始、通过确定所得的公共乘法因子(gt)来计算像素的所得的色彩,所得的公共乘法因子(gt)是基于色彩变换和调谐参数以及针对要被供应以包括具有所得的色彩的像素的图像的显示器的显示峰值亮度(PB_D)来确定的。
该信号可以在任何信号通信技术上行进,或者驻留在任何存储器产品中,包括像素色彩数据、元数据(MET)和调谐参数(gpm)。
尽管一些实施例允许分级者对针对任何绘制状况的任何重新分级具有更大或更小程度的控制,通常至少涉及不等于与所传输的(一幅或多幅)图像相关联的参考显示器的特定显示峰值亮度,其他实施例(不论分级者是否希望传输任何重新分级规范,即除了将传输的图像重新分级成仅通过参数方式传输的另外的动态范围外观的其色彩变换之外的任何内容,例如,从HDR至LDR)允许接收装置自己进一步对针对期望的绘制特性的外观重新分级,诸如MDR 1500nit显示器,特别是借助于色彩变换装置(201)的实施例,其包括图像分级单元(1110),所述图像分级单元被布置成分析输入图像(Im_in)中的对象的色彩,并且根据其确定针对(一个或多个)调谐参数(gpm或gpr等)中的至少一个的值,或者要用于计算所得的公共乘法因子(gt)的显示器的峰值亮度(PB_D)、或度量、或方向、或者根据我们的实施例中的任何实施例的允许最终乘法参数g_fin的规范的参数中的任何参数或组合,以获得最终重新分级的图像(R,G,B)_radj的色彩。
具体地,还可能有用的是,如果装置有手段允许最终查看者(例如,在家的电视机观看者)对外观具有影响,例如,通过自己重新指定grp参数,例如,通过在任一方向上给予其小的偏移,例如,gpr_v=gpr+k*0.1,其中k是从{-3,-2,….,3}中选择的,或者一般地,gpr+k*N,N为小步长。这使得能够稍微改变外观,但是与内容分级者已经指定为与该场景相关的内容协调,当重新分级时,即,根据他在对应于(一幅或多幅)(视频)图像的元数据中传输的HDR-LDR色彩变换函数。
任何方法或装置技术都可以实现于软件中,通过在软件中编码的所有对应所需步骤实现本发明,所述软件用于指示处理器执行所述步骤,所述软件在某种存储器上并其能从存储器加载。
附图说明
根据本发明的方法和装置的这些和其他方面将根据附图下文所描述的实施方式和实施例而显而易见并参考其加以阐述,读者要理解,其仅仅充当示范能够以其他方式实现的更一般概念的非限制性具体示范性例示,并且其中,使用虚线指示部件为任选的,非虚线部件未必是必要的。也能够使用虚线指示被解释为必要的元件被隐藏在物体内部,或者用于无形事物,诸如,例如对象/区域的选择(以及在显示器上可以如何对其加以显示)。技术人员应当清楚,给定可以做出的主题和各种备选实现的复杂性,为了教导简洁,在一些图像中仅展示了一些部件,但是那些部件可以加以必要的修改被添加到其他各种实施例。还应当清楚,一些附图在任意更高抽象水平,例如,在技术框架水平上描述了实施例的各方面。
在附图中:
图1示意性图示了一种示范性装置,其用于根据输入主分级(为了理解简单起见,其例如可以是HDR主分级)生成不同动态范围的次级(来自生成器的原始外观,指定如果在参考显示器上绘制时场景应当看起来什么样,所述参考显示器符合特定具体能力,如特定峰值亮度)分级,在该装置上,申请人希望利用本申请中的额外的技术部件进行改进,以容易地允许生成进一步的分级,即,针对其他动态范围的正确外观;
图2示意性图示了示范性核心计算部分,其使得能够根据指定两个初始分级的信息生成至少一个另外的分级(我们将其称为MDR分级),所述两个初始分级可以经由某种图像通信模块从内容生成侧接收,或者在同一侧被生成,至少一个是HDR分级。
图3示意性图示了一种用于计算另外的分级的这样的计算系统,当实现于用于阐述本发明的一些方面的示范性系统中时,所述系统允许分级者指定这样的至少三个分级,并且对针对其的信息进行编码,使得能够在接收侧例如由消费电视机或计算机系统重建所述三个分级。
图4示意性图示了使用简单实施例生成三个示范性中间分级(在原始LDR与内容生成器的色彩分级者所生成的HDR分级之间)的结果,被表示为(相对的,即,归一化到1.0)辉度映射曲线,所述曲线用于将输入的HR分级辉度Y_HDR映射到针对期望的第三MDR分级的输出的辉度Y_L,基于辉度映射曲线,用于根据主分级生成第二分级,本范例中,所述第二分级为针对100nit显示器的LDR分级;
图5示意性图示了更先进的实施例,其允许进一步调谐中间分级曲线的形状,特别是其是否沿着可能要绘制辉度的轴的对应辉度分布特性,更像HDR分级,或者更像LDR分级;
图6示意性图示了更复杂的实施例,其允许至少两个亮度子区域中的曲线的更精确的规范,即,其允许根据应当计算最优MDR外观图像的对象的亮度,以不同的方式指定重新分级行为;
图7示意性图示了我们的实施例能够如何针对任何期望的、例如具有特定峰值亮度外观的可连接的显示器生成第三分级,所述第三分级更像HDR,或者更像LDR分级,至少在辉度的一些子范围中;
图8示意性图示了实施例还能够如何针对中间峰值亮度的显示器找到DMR分级的像素色彩的适当中间色彩饱和,从输入的分级的图像开始(除了像素色彩的辉度之外,可以针对所有外观保持色度完全相同,但是在一些实施例中,将希望还至少调谐色彩饱和度,通常使色调不变);
图9示意性图示了将我们的实施例应用于特定外观关系作为由分级者指定的HDR与LDR之间色调映射的另一范例;
图10示意性图示了利用我们的针对具有中间峰值亮度的若干显示器的特定重新分级的实施例的可能的另一范例,其组合了朝向针对具有在第一辉度子范围之内的辉度的像素的第一区域的LDR外观的快速移动,以及针对具有在第二辉度子范围之内的辉度的像素的第二区域的更平滑变化;
图11仅仅示意性图示了本技术的可能应用中的一些作为阐述范例,接收器的一些可能实施例能够根据我们的原理确定其自己期望的重新分级规范(并且特别是该幅图还示范了在那些装置的一些中接收侧用户如何能够针对至少一种设想到的绘制情形影响至少一幅MDR图像的外观);
图12示意性图示了快速调谐重新分级外观的大致对比度的示范性处理;
图13在高级部件层级上示意性图示了典型的显示调谐装置导出MDR图像将包括什么;
图14示出了例如影像的可能HDR场景的范例,以向读者阐述我们的HDR技术链和问题处理的一些所需的基本概念;
图15示出了如何能够通过例如人类色彩分级者从内容生成侧、即通常在实际查看(一幅或多幅)图像之前的一些时间进一步影响所计算出的MDR图像外观的一个可能实施例;
图16通过范例解释了我们如何能够在我们的框架中将所需的色彩处理看做乘法数学公式;
图17示出了例如根据HDR场景的特征,可能具有以各种方式生成重新分级的或显示调谐的DMR图像的可能性的阐述(例如,色彩分级者为(一幅或多幅)HDR场景图像生成艺术上分级的内容的期望);
图18示出了相同的范例,但是现在在对应于HDR场景上的接收到的HDR和LDR图像外观的LDR分级的数学坐标系中查看,并且在本范例中,示出了可能的定向MDR辉度变换函数确定;
图19对应地示出了如何能够在旋转标度上编制这样的特定MDR推导实施例,并且解释了发明人决定的所追求的技术结果和方案;
图20解释了如何能够看到能够与本发明一起使用的一种可能度量的含义;
图21阐述了在MDR生成过程中如何能够考虑以参数方式定义的HDR至LDR或者LDR至HDR色彩处理函数的参数,以及如何能够盲目或被引导地在需要时改变那些参数,例如,特定亮度分界点的位置,以及然后如何在这样的技术编制中遵循MDR色彩的计算;
图22示出了例如由色彩分级者指定MDR外观生成色度行为的另一种可能性,色彩分级者能够将该信息传送到任何或若干个接收站点;
图23是曲线图,其示出了如何能够在经归一化的表示之间进行缩放,该缩放将1.0相对辉度参考到绝对辉度的不同值(通常,要计算重新分级的显示器的PB_D);
图24示出了如何能够将我们实施例中的一些转换成产生相同输出色彩的等价的其他实施例的阐述;
图25示意性示出了示范性实施例,其显示了当获得SDR图像作为输入时基于该输入图像的像素色彩的亮度Y’i进行的调整,其中计算在非线性色彩表示中,其中,其他实施例示出了还能够在线性RGB色彩表示中实现计算;
图26示意性示出了当在这样设计的系统中结合我们的技术时的另外的实施例;
图27示意性示出了当在这样设计的系统中结合我们的技术时的另一另外的实施例;
图28示意性示出了当在这样设计的系统中结合我们的技术时的另一另外的实施例;
图29示意性示出了具有编码器、传输介质、和解码器的HDR图像或视频通信系统的通常链路,所述传输介质诸如例如是有线电视或因特网,其中,能够使用和集成我们的实施例;
图30示意性阐述了能够以各种方式将显示调谐与解码进行集成,例如,当由另一连接的外部单元计算复杂的重新分级策略时,一些是有用的;
图31示出了计算模型,例如,核心解码器外部的单元可以应用计算要在核心HDR解码器单元中加载的函数;
图32示意性阐述了在双粗-细重新分级实施例中,当从第一亮度表示移动到第二个时能够如何调谐;
图33示意性阐述了针对能够绘制非常深黑色的系统的可能调谐的一些基本原理;
图34示意性阐述了一个典型范例,其用于在用户界面输入模块的影响下对外观/分级进行加亮,以供查看者传输其关于(一幅或多幅)所绘制图像的亮度或清晰度的偏好;
图35示意性阐述了显示调谐的一些必要项,即,如果具有所有可能的PB_D值的连续可用显示,则将场景的各种对象/区域辉度映射到MDR辉度轴上的位置和范围;
图36示意性阐述了另一场景的另一范例,其中所有区域如何针对可能的显示的各种PB_D值集合映射的拓扑不同的期望的行为;
图37示意性阐述了外部单元为了确定期望的辉度/色彩重新分级函数的形状能够做什么的一些可能性,例如,关于(一幅或多幅)图像中最暗或最亮的可能像素的行为;
图38示意性图示了一种调谐方法,其保持MDR外观更接近HDR分级的外观(即,用于更多辉度),代价是如在装置中预先配置的或者基于至少图像性质计算的某种最小允许的量的剪切;
图39示意性阐述了装置如何可以为其使用度量编制,这将允许内容生成器传输期望的调谐全局行为;
图40示意性示出了另一实际的调谐实施例;
图41示意性传输了典型的调谐方法将如何工作,以处理非参考周围照明,即,与(一幅或多幅)编码的图像被分级的预期照明相当不同;
图42示意性示出了下文教导的实施例的若干实施例(尽管并非全部)的技术功能的核心方面;
图43示意性示出了基于内容的MDR动态范围与实际MDR显示动态范围的技术视觉,我们的技术实施例的一些将从其继续;并且
图44示意性示出了在将(一幅或多幅)HDR图像作为(一幅或多幅)SDR图像来传输并且需要扩展到比(一幅或多幅)SDR图像更高的动态范围的(一幅或多幅)适当的MDR图像的情况下的可能的实施例黑色水平调节的一些数值范例。
具体实施方式
在LDR或SDR视频编码时代(SDR为标准动态范围,亦即,旧版编码的视频,其中编码峰值亮度在定义上为PB_C=100nit,以及ITU-R BT.709(Rec.709)EOTF,其用于将亮度代码与辉度相关联,或者将非线性RGB分量与线性RGB分量相关联),视频处理在技术上相对简单。事实上,没有实际提到编码峰值亮度(或者最亮的白色,编解码器将其表示为电视机或显示器绘制图像需要做出的nit的量)。该概念不存在并且不必要,因为能够通过其未如在MPEG编码中所使用的那样在例如NTSC或PAL模拟视频编码或Rec.709数字视频编码中被规定而进行验证。定义白色的色度(即,黄度)(x=0.3127;y=0.3290),但是不定义辉度值。这是因为,此时有很大不同的哲学,亦即,相对绘制范式,这涉及以显示器能够生成的任何显示峰值亮度PB_D来绘制最大代码(例如,R=G=B=255)。如果你恰好购买了80nit的TV,你将具有稍微暗淡的图像,具有80nit的白色,如果你购买了高端的200nit PB_D的显示器,你将看到相同的白色更亮。这实际上不关心被编码的哪种白色在该SDR时代效果良好,因为一方面,人类视觉在很大程度上是相对的(只要有比所选取的白色更黄的色彩,查看者将看到其是黄色,并且如果你具有白色的辉度的18%的区域,无论在你的TV上是什么,你将看到那些是中等灰色),并且第二,因为在80nit与200nit的PB_D显示器之间没有这样大的差异。如果已经利用不感兴趣的相对技术处理了白色,则完全忽略黑色(如果未提到任何其他内容,通常假设黑色为零,或者与零一样好,但是希望对细节仅需放大的任何人意识到不仅各种显示器产生不同黑色,因为例如LCD不像OLED那样通过关闭像素泄露背光,但是更重要的是,感知的黑色受到查看环境照明的影响)。
在HDR时代中的所有这种改变,尤其是如果有欲望能够示出几乎任何内容、即高动态范围图像时,并且同样地,在各种状况中,诸如,例如消费者阁楼的暗的家庭影院房间中或者白天观看。
可以总结出,即,当在2014年对SMPTE ST.2084 HDR EOTF进行标准化时,开始了HDR时代(申请人指定了相似的亮度代码分配函数,其是下文的方程6)。该高度陡峭的函数形状允许对高得多的动态范围像素辉度的HDR图像进行编码,即,与Rec.709的OETF可能能够编码的最大1000:1动态范围相比,与白色相比暗色深得多。因此,开发了通过利用这种2084 EOTF计算对应亮度对(单独)HDR图像辉度进行直观编码,被称为HDR10。
然而,并非每个人都意识到但是被申请人意识到的问题是:这是绝对编码。这意味着,现在与最大代码(例如,在10比特中,R=G=B=2^10-1=1023)相关联,辉度例如为1000nit。这意味着,不仅不能够对场景中1000nit以上的任何内容进行编码,除非同意以低于1000nit的代表性辉度对其进行编码,但是同样地,最大编码应当始终在任何显示器上被绘制为1000nit,并且以下的代码(例如,R=G=B=1000)应当绘制为由2084 EOTF的形状所确定的固定辉度。
这样具有优点和缺点。主要优点在于:为了生成图像自身,现在具有图像的独有的定义,即,显示器应当将什么绘制为像素辉度。直到2014年,任何生成内容的艺术家都绝对没有(现在回头看可能是惊讶地)任何方式获知他生成的图像将是什么,即,任何消费者将如何看其。如果设计了完美照明的观察室,并且生成器制作了良好外观的图像(例如,有云,其需要具有特定的填充雷电的黑暗,他检查其生成侧色彩分级参考监视器),然后,可能有希望的是,如果在该房间中放置了100nit的SDR显示器,并且从绘制的图像(即,相对具有在显示峰值亮度PB_D下绘制的编码峰值亮度PB_C的编码的白色),将看到美丽的暴风雨乌云,如所期望那样。然而,如果购买了新的1000nit PB_D HDR显示器,则那些乌云可能看起来非常亮,可能几乎闪光,当然有非常不同的艺术外观。然而,对于2084 EOTF,内容生成艺术家可以设计其图像具有适当的HDR代码,使得在任何显示器上,云彩都决定不会比例如80nit更亮。
然而,尽管简单且低级,并且现在逐步证明在市场上不充分,但是相对绘制技术的生成器并非全错。对于尤其关于人视觉以及观看环境和显示性质变化的各种上述原因,过于严格地坚持绝对范式也是不正确的并且是不充分的。因此,需要某些等价物能够进行某种“相对”,并且根据需要以适当的方式(给定始终存在的实际限制,如IC复杂性或艺术家的可用时间,如实际可实现的那样),这就是申请人所开发的作为显示调谐的内容。下文将描述各种实施例和部件,为此,技术人员应当根据我们示范的方式容易理解哪些仅仅例示性部件而容易地补充或者与所描述的其他变体或等价物重新组合。
在划分成各实施例的深度技术细节之前,读者可能首先希望熟悉本概念背后的技术(和艺术)需求,并且确认其很好地理解仅仅图像编码与HDR编码技术周围共同设计的显示优化策略之间的差异。
至此,他可以通过研究图14和以下随附的文本开始,并且思考以下事实:如果某些内容生成器已经努力针对两种不同的显示器(例如,分别为5000nit和100nit的PB_D)制成仅两种优化分级的图像,能够如何自动地导出针对例如700nit或1800nit PB_D显示器的最优图像,因为在若干种应用中,不希望人类分级者花费过多时间对同一HDR场景的若干版本的图像进行分级,尤其是如果编码技术被设计成仅传输针对任何HDR场景的两个不同动态范围外观的图像。鉴于图像的可能复杂性,以及艺术需求,这不是无足轻重的任务,其需要充分量的技术以能够应对需求。利用图35和图36图示了针对在任何接收侧、跨各种可能的PB_D显示器的谱的最优外观图像需要什么的仅两种可能性,并且那仅仅是当在合理固定的观看环境中具有各种PB_D显示器时的要求,但是在那之上,通常可以有第二优化轮次,其用于优化所表征的可用观看环境,例如,典型的前方反射,其根据环境照明的量来生成可变最小可感知的黑色。这些各种因素将在下文详述,利用各种备选、补充或额外的部件,以用于应对系统从较简单(例如,未修改的相机和移动电话IC)到更专业但更复杂和昂贵的(例如,在专业影院联盟中)所需的内容。
图2示出了我们的新颖的色彩变换装置的可能实施例的示范性阐述,现在,我们假设所述装置被包括在某些接收侧装置(例如,电视或计算机等)中。假设辉度映射部分与图1中的相同(尽管如上所述,也能够在各种非线性色彩表示中表达所述原理),只是这里我们还公开了进行各种空间局部化映射的潜在实施例选项。还可以传输和接收另外的元数据,这允许分割单元222区分第一类型的像素与第二类型的像素。例如,通过小的侧窗看到的天空的部分可能得到与通过大的主窗看到的相同天空有些不同的辉度映射。即,在空间位置(x,y)_1处或附近,像素具有色彩(Y_sky,u’_sky,v’_sky),即,特别是具有在例如比阈值辉度更亮的范围之内的Y_sky值的辉度,其中,x和y是空间像素坐标,并且Y是辉度,u’和v’是蓝天像素的CIE 1976uv坐标,获得到与具有甚至相同输入(Y_sky,u_sky,v_sky)色彩但是驻留在不同空间位置(x,y)_2处的像素不同的另一Y_sky_out_2的另一种变换。如果分割单元刚刚对像素分类,并且加载不同的映射参数以用于根据像素被分类为第一还是第二识别区域而总计成初始公共增益因子,处理的其余部分能够与图1解释的相同(例如,能够为预先计算的LUT等使用两个平行计算路径)。读者应当理解,用于从所传输的图像(例如HDR)获得第二原始分级的图像(例如,LDR)的处理不需要与用于确定显示调谐的MDR图像的本地处理相同,这并非简单意指函数和参数的精确值当然可以不同,而是导致影响中的高级变换形状的理论基础可以不同,但是至少如果在元数据中接收到允许分割特定像素集合的信息,该像素通常在语意上特殊的图像对象中,就还可以适应于那些区域或对象而单独地进行显示调谐,例如,在显示器的PB_D已经允许进行某种HDR效应绘制的情况下,朝向HDR外观更快地提升火球,即,比场景的其余部分更快,能够在各种可能的中间PB_D值上更渐进地调谐所述其余部分。再次地,各种参数gai、cc等被从元数据中读取并且被发送到各个单元,以用于进行色彩计算(特别是辉度改变计算),但是现在,例如第二区域获得其自己的大致形状的辉度映射曲线cc_2,而主区域(通过窗口看到的天空的更大部分,并且例如,房间内部的所有像素)利用曲线cc得到变换。PB_H和PB_L被有利地存储为指定两个分级的元数据(特别是分级的代码精确表示什么,或者换言之,那些分级是针对哪些参考绘制条件作出的),并且还从元数据中读取并且发送到缩放因子确定单元200,缩放因子确定单元200被布置成基于PB_L和PB_H以及PB_D(无论PB_D值来自哪里)的值来计算所得的公共乘法因子(gt)(例如,通常,连接的显示器经由数据输入部117传输其峰值亮度)。图2阐述了显示器PB_D自适应调谐的一些基本性质,其方式是计算与将仅仅对HDR/SDR图像对中的其实际传输的一个之外的另一个进行解码所采用的不同的gt参数(在传输HDR场景的HDR图像的情况下,那么其能够通过使用某种身份变换从自身在概念上来计算,并且能够通过应用至少一些函数来计算SDR图像,所述函数将任何发生的HDR辉度或亮度映射到内容生成器将偏好的对应的SDR辉度或亮度,并且在将SDR图像作为针对原始HDR场景的任何HDR外观图像的唯一图像像素数据来传输的情况下,那么身份变换将把SDR映射至SDR,并且一些最优地确定于生成侧,并且所传输的函数将映射到该对的对应HDR图像)。尽管通过与子变换链(GAM、LG、CC……)一起工作的这种操作开始阐述,经由乘法器114对线性RGB分量相乘地工作,以及通过与gt或gtu的相除来实际计算的函数,gt或gtu是通过被应用于max(R,G,B)的除法函数来定义的,其然后除以输入像素的辉度,读者应当理解,在实施例的原理之内,能够对那些部件做出改变。例如,加以必要的修改,可以直接缩放Y’CbCr值,或者可以使用部分102中的单个LUT,并且可以在其被处理而非计算max(R,G,B)时将该LUT直接应用于输入像素的亮度值。比这些详细变化更相关的是,可以对应当如何强地调谐外观而做出改变,以这种方式,根据该度量,即,其将如何随着可用显示器的可能PB_D值而变化,根据特定具体装置内置的或传输的内容生成器或装置制造商、或者甚至当使用其STB或TV用户接口等时的查看者的期望,这将是实施例的调谐属性。
高级实施例允许内容生成器指定并发送确定分级优化的另外的参数,亦即,调谐参数(gpm),其将通常为实数,例如1.253(或者其修改,例如,与1000相乘并且四舍五入到最接近的整数等)。通常,高达1.5以及低至0.6的值对于工作于对数度量的修改上的实施例将是足够的,其方式是改变如下文所示的确定gt值的幂,但是通常,色彩分级者的软件将具有合理极限,超过所述极限,重新分级行为变得过于极端(不预期对于300nit的显示器,应当立即实施该外观,即,利用高质量HDR图像的该外观的归一化的辉度对其进行驱动,因为这样的显示器不能够忠实地绘制该图像,分级者将把这视为例如为道路的过暗的区域,因此,无论实践中极限为何,他都不希望选择这样高的值)。
图4给出了HDR图像的我们的显示优化的非常简单的实施例的范例。我们假设需要将作为输入的HDR图像(即,主图像为1600nit分级)的输入辉度Y_HDR映射到针对任何期望的分级的输出辉度(在这幅图中被称为Y_L)。例如,曲线405给出了用于辉度映射的总策略(其对应于图1中的执行其辉度变换的所有单元,即,所得的辉度是从链的开始处的输入辉度开始的;注意,在针对各种情形的各实施例的任何实施例中,具有这样的链的原因在于,研究发现,在实践中有用的是让HDR图像处理具有能够进行的各种分量变换,并且同样地,在显示调谐中,可以特定利用任何这样的特定部分重新分级信息),用于为100nit显示器生成令人愉悦的图像。
在本范例中看到可能策略中的典型的一个策略,在其中提升了更暗辉度(相对地,在归一化的标度上),使得在暗的100nit显示器上的那些区域将有充分高的可见性,因为在HDR原理分级中这些区域被分级为超暗,因为其是针对亮的、例如1600nit显示器分级的。然后,剩余的明亮辉度分布在仍然可用的上范围内(在本范例中,高于所绘制的输出峰值亮度的50%,可以注意到这一点,因为人类视觉的非线性性质并没有那样大,但是这仅仅是阐述),在本范例中,以线性方式,但是当然分级者可以针对更高输入辉度而使用例如S曲线或软夹持曲线,以在图像的一些区域中生成例如更大的对比度等。HDR图像当被转换成自身时(不需要实际这样做,而是到不具有PB_H峰值亮度的图像的所有实际色彩变换的理论端点)等价于斜率45度的身份变换,因此,我们在图中绘制了那种情况,以能够示出保持接近HDR外观的分级。能够从所述曲线、例如提升b(0.2)图中读取针对每个输入辉度Y_HDR的公共乘法因子,作为g乘法器,值Y_HDR=0.2到期望的Y_LDR=0.6,这对应于针对该输入辉度的为3的公共乘法因子g。现在,如果希望获得针对800nit峰值亮度监视器(曲线402)的最优分级,因为这相对接近1600nit监视器(对此而言,在本范例中所接收到的HDR分级将看起来最优)的心理视觉性质,并且仍然能够示出相对高动态范围的内容,将计算800nit重新分级(MDR_800),这相对接近身份变换,即,所得的公共乘法因子gt在此为b800(0.2),应当接近1,并且对于所有其他输入辉度情况类似。针对400nit(曲线403)和200nit(曲线404)预期或连接的显示器的峰值亮度PB_D的最优重新分级应当具有逐渐更接近LDR映射(曲线405)的曲线和公共乘法因子。
我们的实施例用于导出任何中间分级的方程为:
gp=LOG(PB_H/PB_D;2.71)/LOG(PB_H/PB_L;2.71)
gt=POWER(g,gp) [方程1]
有用的是像这样改变例如乘法显示调谐策略,因为这能够对更好的视觉期望进行建模。技术人员读者能够验证,这允许针对任何输入的Y_HDR来计算所需的输出Y_L,因为一方面能够基于接收侧或图像使用侧的固定比例gp(取决于需要在其上进行绘制的显示器,假设在当下将通常为消费者住址处的单个),并且另一方面能够基于初始g,来确定所得的公共乘法因子,初始g能根据输入Y_HDR以及用于色彩变换函数的元数据来计算,即,基于其被接收时的LDR与HDR外观。如通过填入值能够验证的,gp在log(1)=0(如果PB_D=PB_H)与1(如果PB_D=PB_L)之间变化,即,如果PB_D=PB_L,则这将使用完整的g值,并且如果PB_D=PB_H,则通过将RGB值乘以1来执行身份变换。
我们希望在此停止一刻,使得读者已经设想到并且根据该第一简单实施例理解当前通常正在进行什么,并且将不会与绝对不同的内容混淆。一方面我们有将像素的输入辉度(相乘地)映射到输出辉度的行为。并且已经从内容生成器、特别是其色彩分级者接收到该行为,因为通常,任何接收器都将接收所有需要的信息,以用于确定两个分级的图像(通常,相同HDR场景上的HDR和LDR外观)。因此,接收器能够知道这些图像之间任何形式的变换,但是特别是输入辉度乘法的形式,同时保持色彩的色度恒定(实际上,他通常已经得到这些函数,因此在针对任何其他应用的任何接收器中使用其将是容易的)。另一方面,由于分级可能至少对于在不具有与两个分级相关联的PB相同峰值亮度的显示器上进行绘制不是完全最优的,接收器可能额外需要根据所有该信息来计算新的最优MDR中间重新分级。这还可能涉及能够确定乘法因子的度量,并且辉度变换函数可以类似地被变换成乘法gt值等,但是初始分级编码与计算显示调谐的MDR图像的那两个因子尽管通常是相关的,但是有时在更小程度上绝对不同,因此,非常不同的技术设计哲学可能导致非常不同的方案(即使一些部件具有相同名称,如一些实施例中的伽马值)。可以将显示调谐视为对分级对的某种精细调谐,尽管重新分级需要多精细和多容易取决于状况,但是其背后的设计观点之一在于:不应当以针对同一HDR场景实际生成无限量的原始分级来干扰分级者(即,将希望内容生成器存在于消费者的每个不同的TV中,以应用在操作期间生成艺术上最美观的经定制图像,但是以尽可能自动化的方式,分级者需要的可能的额外工作尽可能少,这再次取决于情形以及其期望,即,然而,对于各实施例而言,在非常复杂的图像处理领域中,以及那些图像的消费者的高度非线性视觉系统中,至少提供所需控制的一些以获得正确的外观)。
在实践中,当然,这些gp和gt值不需要在所有时间都计算,但是通常,由于分级可能改变,例如,N幅图像中的每张图像,可以恰好在需要其对输入图像进行重新分级之前构造LUT,这如在图4中那样应用所需的映射函数,例如,针对连接的400nit的显示器(并且至少恰好及时,例如提前5幅图像,来接收元数据)。
在那种情况下,单元200将查找所需的所得的公共乘法因子gt,即,例如b800(0.75)。
在主图像为LDR图像时,这需要被升级到例如6000nit的HDR,或者针对其之间峰值亮度的任何重新分级的图像,在实施例中使用稍微不同的类似方程:
gp=LOG(PB_D/PB_L;2.71)/LOG(PB_H/PB_L;2.71)
gt=POWER(g,gp) [方程2]
缩放乘法器114现在如在图1中那样类似地工作,但是将三个RGB色彩分量与gt而不是g相乘,产生期望的色彩外观。
然而,可能分级者希望复杂的场景或视频图像图片,不同的重新分级策略,例如,保持更长时间的策略(即,对于超过LDR 100nit的更大显示峰值亮度)接近LDR函数形状。他需要以非常简单的方式指定这种情况,以便使用不太昂贵的分级时间,理想地,他例如仅确定单个参数,亦即,调谐参数gpm。
因此,我们的缩放因子确定单元200的更高级的实施例应用以下方程:
gpp=POWER(gp,gpm)
gtu=POWER(g,gpp) [方程3]
如果gpm低于1,那么更低峰值亮度重新分级的行为在其外观上更像LDR(和映射曲线),并且反之亦然,对于高于1的gpm,其的行为更像HDR,因此内容生成器或分级者选取更高的gpm。
在图5中图示了该表现。应当再次指出,gpm在沿着x轴的(经典)功率感测方向上无效(因为曲线的形状,其表示分级、即针对场景的所有对象辉度之间的关系,不应当显著变化,然而,在生理视觉上允许某部分的小的变化、如轻微增加,因为这些对应于主要期望的辉度/对比度外观修改,小变换的其余部分被大脑中视觉解释的调整所接受),但是根据Y_HDR值、因此在所谓的Y_L轴的方向上起效。事实上,gpm所做的是向LDR分级函数拉伸或压缩曲线系列,或者反之亦然,HDR单位映射函数,即,确定“所需的重新分级外观改变的力度”。
在图5中,选取了gpm的值等于1.3,并且看到了,辉度映射或公共乘法因子的所得的曲线(503)(现在被称为调谐的公共乘法因子gtu)已经变得更类似于HDR身份变换曲线。类似地,利用例如0.8的因子,所得的曲线将位于曲线403上方,即,更接近LDR外观曲线405。那可能是有用的,例如,如果在该场景中有重要的暗的物体,例如,面部,如果长时间保持其充分明亮是明智的,即,直到指出绘制显示器充分明亮,例如高于800nit为止。
然而,这仍然是全局调谐(因为以简单相关的方式处理所有亮度Y_HDR,仅由HDR至LDR辉度变换函数和gpm参数的形状来确定)。我们的策略的更大影响可能来自以下实施例:其允许针对输入辉度的不同子区域进行不同的调谐(并且因此,通过还映射输出辉度)。例如,如果调谐曲线403,使得其对于更暗的辉度变得更亮(更像LDR),则对于更亮的辉度必然变得更亮(因为为了保持外观,对于任何重新分级,这些应当具有高于图像的暗区域的那些区域的输出辉度),并且这可能不适当地亮。例如,亮的外部区域可能失去过多的对比度,并且分级者可以感知到其针对某些关键场景令人讨厌的褪色。即,他将使场景的较暗的部分更亮,并且因此,对比度更高和可见,然而,同时保持上部区域例如接近HDR外观。
在图7中以另一种方式示出了期望的表现。在此,我们示出了LDR分级的图像对对应于PB_L与PB_H之间的任何预期的显示峰值亮度的任何中间MDR分级的外观贡献有多大。方程1的默认行为是曲线701。能够看出,能够沿着针对MDR分级中的各种中间峰值亮度的变化路径的任意分级赋予更大的权重。例如,曲线702示出了MDR分级保持接近LDR分级直到相对亮的中间峰值亮度PB_D的状况,并且仅对于最亮的显示器,开始示出HDR外观(在下文中,解释基于所使用的度量,这将对应于标签标记针对各个PB_D值落在哪里,即,例如是否高达(PB_H+PB_L)/2的那些值将全部紧密落在一起,即,接近LDR分级位置PB_L)。是否选择以及到什么程度地选择这样的曲线将取决于HDR与LDR分级之间的关系,即对这两者之间进行色彩变换的函数。分级者可能已经完成各种内容,诸如,例如使LDR分级中的较暗部分更亮,对较亮部分进行软剪切,增大某些中间部分的对比度,在彩色油漆玻璃窗上进行某种特定饱和处理等,但是例如如果有关键的暗区域,可以由分级者选择如702的曲线,并且在S_im中或者与之关联地向各种接收器发送其gpm值。另一方面,曲线703是快速引入大比例HDR外观的曲线,即使对于较暗的连接的显示器。
在图6的范例中,分级者指示对(亮度或)辉度值(Lt)进行分界的优化方案,在本范例中等于0.43。在该值Lt以下,他已经指定了第一gpm值,例如,gpm_1=0.3,即,对于具有辉度Y_HDR<=Lt的所有输入色彩,都如在图5中所解释地那样利用该gpm_1值来计算所得的曲线。在Lt以上,分级者希望进入新的重新分级领域,并且在该范例中,对于更亮的色彩,他希望具有HDR外观。他确定大于1的值,在本范例中,gpm_2=2.0,使得更亮的像素获得相当强的HDR样外观,比通常必要的更强,但是对于本范例而言。在范例中,并非针对高于Lt的Y_HDR值立即使用gpm_2=2.0,他指定内插以生成平滑的过渡区域。这能够以各种方式来指定,在阐述范例中,以简单的方式,通过指定过渡区域的上部亮度,Lt2=0.72。在0.72以上,将在本范例中通过使用gpm_2=2.0或gpp_R=0.25来确定用于例如生成曲线的LUT的被调谐的公共乘法因子gtu。在过渡区域中,将使用内插策略,例如,通过首先计算过渡的任一侧上的幂值来实现,这将稍后用于分别为暗和亮的输入辉度来确定公共乘法因子,并且然后,在过渡区域中通过计算例如以下项来对这些进行内插:
gpp_L=POWER(gp,gpm_1)
gpp_R=POWER(gp,gpm_2)
gpp_i=gpp_L+(Y_HDR-Lt)*(gpp_R-gpp_L)/(Lt2-Lt) [方程4]
当然,如果分级者希望这样,可以使用其他内插策略。
该gpp_i值然后将被用于类似于图3所解释地确定针对过渡范围中的每个输入辉度的gtu值(即,gtu=POWER(g,gpp_i)),而在过渡的另一侧,在g上的幂函数中使用各自的gpp_L或gpp_R值,并且利用该公式,能够根据曲线403来计算如603的所得的曲线,这将来自结合图4所解释的方法,或者在实践中,所得的曲线将被直接地计算。对应于800nit的显示器,更简单曲线402的等价曲线现在将是曲线602,实际看出其行为对于较暗的像素更像LDR,而对于较亮的像素则极像HDR。应当清楚的是,对于这样的实施例,单元200将产生针对gt的gtu等价值,并且否则对于各实施例的可能性,每一项可以是相似的。在本范例中,我们已经内插了gtu值以用于公共乘法,方式实际是内插定义其的gpp值,但是备选实施例还可以内插在过渡区域自身的任一侧获得的gtu值。通常,编码器将指定使用哪种方法。例如,他可以指示,解码器应当在[Lt1,Lt2]区间的任一侧计算gtu值,然后,在该区间中的缺失点处线性内插该曲线,并且将此存储为最终的LUT,以用于对当前图像进行辉度处理。
对于这些实施例而言,分级者因此能够简单地定义相当高级外观的重新分级策略,以用于针对任何更复杂HDR场景编码领域中的各种可能显示器。在简单的情况下,他希望仅对一个gpm值进行编码,因为例如默认地,上值gpm_2可以被任何接收器针对这样的情形理解为固定值1.0。或者,不打扰分级者,但是要确信的是,没有任何顺应性较低的接收器误解分级者的意图,在分级者例如仅设置较低gpm_1值和阈值Lt时,那么编码器默认填入gpm_2=1.0。在分级者仅针对高于Lt的亮度指定gpm_2幂值的情况下,编码器默认为gpm_1填入1.0。通常,编码器还可以自动地确定其认为应当看起来良好的内插策略(产生至少一个单调增长的MDR分级曲线),并且分级者可以通过不做任何事情来接收元数据中的该策略的编码(例如,作为Lt2值),或者替代地重新指定更美观的内插策略(如果需要的话,分级者还可以精细调节Lt任一侧上的gpm值)。通常,根据我们的新颖的原理,可以使用对HDR与LDR分级之间的分级差异进行编码化的每个公共乘法因子来确定经优化的重新分级,其方式是针对每个输入的Y_HDR定义适当的幂值GP,该幂值GP能够由以任何方式被编码化为元数据的任何曲线来指定,例如,对于当前图像中感兴趣亮度区域具有三个Lt点的曲线,例如,并非在任一侧上具有固定的gpm或gpp值,例如,在Lt2与Lt3等之间的输入辉度的子范围上的线性或抛物线演化,并且然后针对任何Y_HDR使用gtu=POWER(g,GT)作为输入来计算重新分级的图像,并且将该gtu应用于当前处理的像素色彩的任何线性色彩编码。
因此,如结合图2所解释的,获得各种元数据的任何接收器能够如由内容生成侧所指定的那样实施显示调谐优化的期望实施例。总之,需要具有像素色彩的至少一幅分级的图像作为实际编码和发送的图像并且作为起始点,例如,2000nit分级(其实际被发送和接收,例如,通常经MPEG压缩,我们将其称为主图像)。然后,将有确定至少一个另外的分级(例如,如果主图像为例如HDR 2000或5000nit,则为LDR)的函数的定义,如分级者使用各种可能的全局或局部函数所定义的那样精确(我们已经大部分解释了亮度处理方面,这是辉度动态范围重新分级的主要方面——即,针对具有不同动态范围能力的显示器确定场景的另一外观,所述能力至少包括峰值亮度,但是通常还可以涉及色彩变换,如对至少一些图像对象的饱和度处理,并且甚至可能是色调改变)。例如,可以经由至少任意Y_HDR至Y_L的映射来传输这种变换,该映射被定义为定制曲线cc,例如,定义如何将2000nit分级变换成对500或10000nit峰值亮度(参考或目标)显示器或者其附近值理论上最优的分级。然后,如果需要对所接收的HDR图像进行变换,例如,因为在接收侧存在有些不同的峰值亮度显示器,或者例如因为用户使用其遥控器来控制低于理论最大值10000nit的最大亮度(类似于生成一种新的显示器),关于例如针对8000nit如何生成新的重新分级,可能有若干种复杂的实施例。更简单的版本可以是大致自动的,并且在特定程度上,忽略HDR场景的特定图像的比色和语意细节,并且更精确地,分级者对其具有什么或将具有什么、即他将如何看待各种对象沿着辉度轴的相对亮度、高达可用峰值亮度的分布上发生的更低亮度的改变。各种图像对象亮度的这种分布将确定场景的所谓外观(例如,其是阴郁大部分黑暗的夜晚场景,然而仍然传达了房屋的形状的充分概况),尤其是由于对象间对比度的效果(例如,涂漆的玻璃窗是彩色的,但是仍然比教堂内部充分明亮),并且通常,将涉及一些必需的优化,因为即使用于绘制特定被成像场景的显示器上有充分大的动态范围,通常也是应对一系列外观的艺术确定,而不是对象辉度沿着辉度轴的精确分布,如在原始拍摄的场景自身中那样(即,例如,分级者可以选择使外部阳光仅比内部明亮数个级别,以获得对室外效应的充分模拟,而不是例如5级)。还要指出,现有技术是生成适当的外观,并且人类视觉是高度复杂的,因此希望具有一项技术,其同时相当简单(否则将不会被采用),又充分强大从而以充分的方式应对至少大部分情形(否则内容生成器不能令人满意地对其加以使用),并且这是发明人应当致力于的事情。如上文所教导的,分级者能够使用不同的参数来教导重新分级应当如何取决于期望的显示器的峰值亮度所在的区间的至少一侧上的分级,即,分级曲线如何变换到彼此。利用一个或多个参数,分级者对接收器将如何计算各种可能需要的重新分级而进行快速且强大的控制。接收器将仅对主图像的输入色彩应用数学算法。尽管我们教导了作用于线性RGB像素色彩的实践上简单的实施例,但是技术人员理解,我们的原理还能够等价地应用于例如Yu’v’色彩表示,其中,例如,uv分量保持恒定,并且Y根据需要被变换,或者通过使用Y相关,如值V=max(R,G,B),这两者都是能够被类似地相乘地缩放等的线性色彩系数的线性组合。只要能够应用缩放原理,就需要指示色彩亮度的某种分量,并且然后能够线性或非线性色彩分量进行缩放(做乘法)(因为能够在幂律外部设置相同的缩放因子,例如幂(g*L;N)=幂(g;N)*幂(L;N)),因此,如果知道例如辉度如何缩放,则也知道亮度如何缩放,并且反之亦然;并且如果利用其他亮度相关和/或色彩空间进行期望的表达,则情况相同。还要指出,我们阐述了基于期望的显示器的PB_D的实施例的基础,对于例如关注HDR效应状况改进的更复杂处理、如例如本地对比度提升等的电视供应商,他能够加以必要的修改协调所得的显示调谐中的这种处理与来自内容生成器的信息,例如,辉度映射函数、对象分割信息等的本地梯度。
图3示出了在图像或视频生成和编码侧所应用的我们的技术的范例,例如,在影像工作室的生产后期房间中,或者广播器的生产房间,或者甚至其最简单形式为实况电视制作车等。数据服务器301具有存储装置,所述存储装置用于经由输入部302供应起始图像Im_src(其通常为HDR图像,即,至少具有高亮度、例如高于1000nit的要绘制的辉度的对象,并且还常常具有暗的对象,尽管在一些实施例中,原始的可以是某种更低动态范围的图像,其中,分级者仍然需要通过利用计算机图形数学计算火球来生成HDR效应,该火球可以被表示为一幅或多幅小的图像)或视频序列。并非作为限制,可以假设这是例如原始相机素材。图像转换器303被布置成将该原始数据转换成例如5000nit的HDR主图像,其能绘制的亮度与色彩编码之间的关系(包括亮度,以及对色彩的色度方面进行编码化的两个其他的分量)由预选定的、通常固定但可能可变的电光传递函数(EOTF)来确定。通常,内容生成器可以通过参考显示器的方式来定义图像,即,定义应当如何在5000nit参考显示器上对其加以显示,并且从来自相机的场景辉度或等价色彩坐标进行的转换通常将涉及艺术分级,我们称其为主分级M_XDR(例如,20000nit的灯可以被编码为在应用EOTF之后绘制5000nit的代码,并且这样的因子作为相机的相对曝光设置,并且然后也不再必然重要)。之后,图像转换器303包括色彩变换单元304,色彩变换单元304被布置成执行希望制作良好的主分级的任何色彩变换集合。这些变换的参数不需要被存储,因为该系统从那向前进行,即,也在接收侧进行解码,能够纯粹从该主分级开始(这将通常被存储在图像信号S_im中,所述图像信号S_im可以例如根据如MPEG_HEVC的常规视频编码技术对其进行格式化,即,主分级是被存储为DCT变换的YCbCr分量图像集的主图像,并且元数据例如作为SEI消息),但是一些实施例也可以存储来自该主分级的一些元数据。第二,根据我们的发明,分级者还将对第二动态范围外观IM_GRAD_LDR、例如针对100nit显示器的LDR进行分级,因为该信息是稍晚实际显示优化所需的。用于这种映射的函数不需要被存储,即,色彩变换单元304将在S_im的元数据中写入对应的参数(例如,gai,cc)。所需的来自分级者的输入能够经由被连接到色彩规范用户接口模块330的数据输入部332、例如键盘被输入,其可以是用于色彩分级的专用控制台等。在示范性实施例中,假设HDR主分级M_XDR被作为主图像与降级函数一起被存储或发送,允许在接收侧计算LDR分级,但是备选地,也可以将次级分级的LDR分级作为主图像来存储/发送,连同用于在接收侧至少重建HDR主分级的足够密切近似的升级函数一起,或者可以使用中间分级作为主图像,利用函数以获得在编码侧生成的LDR和HDR分级等。
主图像在单元104、105、106、102等中的处理再次类似于参考图2所解释的内容,因为编码器需要针对分级者模拟在解码侧将实际发生的事情。然而,现在通常,各个色彩处理单元的参数(gai,cc等)的值是由分级人类分级者通过适当调谐来输入的,但是其他实施例也可以从类似于图1所发生那样从元数据中对其进行读取,例如,如果某些分级者可能在另一时间利用另一色彩变换单元进行降级。例如,他可能已经使用了具有其他数学变换的色彩转换程序,所述其他数学变换定义第二分级,并且中间转换单元可以将那些色彩处理转换成近似等同的外观结果处理,利用我们的实施例中的任何实施例的组合的色彩处理子单元的任何子单元进行HDR至LDR转换,或者其他动态范围转换。缩放因子确定单元200初始通常可以被预加载等于1的单个gpm。在那种情况下,模拟应用于方程1或方程2,以生成MDR分级。分级者例如可以并行地(或者顺序地以不同方式调整其视觉等)查看三个显示器,其方式是在显示器输出部311上输出相关的图像,亦即,示出HDR分级的HDR显示器312,在这种情况下,其是主图像,也被称为主分级,LDR显示器314示出100nit的LDR分级,并且通常为100nit的参考监视器,并且经适当选取的MDR显示器313用于示出根据我们的实施例的任何选定的一个实施例的经重新分级的最优中间分级。该MDR显示器313例如可以通过对数方式在典型可用的两个分级LDR和HDR的中间附近加以选取。如果分级者例如工作于针对HDR分级通常标准地使用2000nit峰值亮度的格式中,则他可以选取峰值亮度为400nit(4×100,适当地,2000/4)的MDR显示器。由于优化近似为二阶外观调节,所以是否在例如500或600nit MDR显示器上进行检查并不关键。同样地,分级者可以选取在生成内容时使用例如常用的显示器。如果本领域中的大部分显示器具有大约800nit的峰值亮度,则分级者可以选取这样的800nit MDR显示器(甚至其可以是将来的分级5000nit主控器,其中,将有更好的显示器,但是当然,他将希望其影像在当前的800nit显示器上当前也看起来很好)。通常,有利的是在针对MDR显示器的中点附近某处,因为在那里预计需要重新分级的最大量。但是分级者例如还可以选取第二LDR显示器以用于检查任何LDR状外观的关键性,也在能够提供有些更多对比度外观的显示器上,因此在那种情况下,MDR显示器例如可以是100nit以上仅仅1或1.5级。在分级者对外观满意的情况下,他可以按动“完成”按钮。在本范例中,这可以例如存储信号S_im(即,用于降级的主图像和元数据),并且在先前的范例中,gpm值为1.0,但是在更高级的实施例中,经由图像输出部320在存储产品321、如例如蓝光盘(BD)上输出更高级的MDR分级优化数据。技术人员应当理解,类似地,可以在服务器上例如存储所述数据,以供将来通过例如因特网供应或者被实时广播等。在更高级的实施例中,分级者可以使用对MDR分级的计算,例如应用函数503作为起点。分级者然后可以进一步分级以获得准确的第三外观,对该简单的重新分级原理做出改进(即,分级者将再次使用原始分级编码技术的至少一些工具,但是可以从经过显示调谐的MDR重新分级而不是主分级开始,以到达第三原始分级,以及一组色彩变换函数,以被传输到某个接收器)。例如,他可以确定拍摄图像的区域,并且向其应用进一步的定制曲线,以特异性地处理这些子区域/对象。例如,如果暗处的面孔很关键,能够使用这种方法,简单的重新分级函数使其合理,使得能够很好地感知到如眼睛和面部表情的每样内容,但是现在对相当关键的分级者尚不满意(在所有努力的领域中,一些人可能较不关键,而其他人甚至高度关键)。在关注周边的情况下,所选取的简单重新分级函数可能针对例如500nit得到良好的MDR分级,例如,暗的街道,因为那些内容并未被视为那样关键,但是分级者可能希望使面部更健康,并且应用某些另外的函数。然后,还能够将针对该第三(部分)分级的元数据存储为蓝光盘上的一个或多个函数,或者被作为额外的元数据来发送等。以所需格式对所有数据格式化可能涉及一个或多个信号格式化单元310。例如,为了驱动显示器,可以使用另一种编码,遵循显示连接的有限带宽,而不是例如在BD上存储,在这种情况下,可以根据任何HDR编码方案对经格式化的高动态范围图像SF_X2DR进行编码,但是优选地,根据这样的方案:其中,由元数据补充主图像,所述元数据对色彩变换进行编码化,以用于根据主图像来计算第二动态范围图像,这两幅图像用于以充分不同的动态范围、即通常至少2倍加以显示。在范例中,我们已经假设了辉度处理流水线(实现为102)包含映射到典型的LDR格式(如由单元112所执行的反转709),但是MDR显示器可以具有格式化单元310可以关心的另一种源格式等。这不是我们的新颖教导的主要部分,本领域技术人员应当对此清楚,并且将不再进一步阐述。
图8描述了优化原理能够如何工作以获得像素色彩的正确色彩饱和度,以用于驱动中间峰值亮度的MDR显示器,类似于上文所解释的辉度处理。在一些实施例中,可能优选进行优化的辉度和饱和度缩放两者,但是其他实施例可能仅使用辉度缩放。输入色彩具有输入饱和度,或者更精确地讲,色度C_in,这被称为零值,即白色。饱和度有若干种定义,例如,如在HVC中归一化到[0,1]的饱和度,或者如在CIE 1976uv中的其他饱和度,但是其全都具有这样的性质:色彩的饱和度由开始于如D65的预定白色、并且延伸一定距离的矢量来定义。假设在HDR输入图像中具有饱和度为Cs的像素,并且其将被增大到值Cf。这能够由乘法因子s来定义,这是类似于我们的上文所描述的初始公共乘法因子g的因子。如果LDR比HDR图像更饱和(例如,可能因为显示器的较低的峰值亮度能力造成的所绘制图像区域辉度的每次减小都对应于由分级者指定的饱和度处理必须要应对校正的色度减小),有用的是也增大MDR分级的饱和度,但是增大更少的程度,亦即增大倍数st,st是gt的实施例。具有饱和度处理能力的装置通常将具有色彩饱和度处理器106,色彩饱和度处理器106不是使用固定饱和度乘法器s的简单处理器,而是被布置成提供适当地缩放的饱和度。所述饱和度处理可以在所有辉度上固定,这可以利用单个乘法值s进行,但是仍然需要显示优化到针对每个连接的MDR显示器的最优值,但是通常,针对动态范围转换而言,可能希望更精密的饱和度处理。例如,饱和度可以根据辉度或值减去辉度和/或输入饱和度而改变等。然而,重要的是,针对每个输入像素所需的饱和度重新分级(即,介于HDR与LDR图像之间)由分级者指定并且在元数据MET中被传输,能够在接收器处确定并且然后适当缩放。通常,色彩饱和度处理器106将具有某种查找表机制,以确定s。例如,如果输入色彩(Ri,Gi,Bi)=(0.2,0.3,0.7),则LUT产生例如s=1.1,或者在去饱和的情况下,例如,s=0.5,并且针对另一种输入色彩,可以有相同或不同的s值。色彩饱和度处理器106然后包括用于计算所得的饱和度乘法因子(st)的单元,所述饱和度乘法因子是所得的公共乘法因子gt的实施例,其类似于单元200,并且计算:st=POWER(s,sp)。比值sp的饱和度可以与亮度处理稍微不同,但是通常,将取决于PB_D、PB_H与PB_L之间的关系,并且常常不需要使其与如何计算gp不同(但是当然,可以针对饱和度和亮度处理使用不同的gpm值,使得MDR外观的亮度更像LDR外观,例如,仍然使饱和度外观更像HDR图像的外观等)。如在图8中看到的,还可以有意义的是使用由例如饱和度分界器Lts(其实际可以是任何分界信息,允许针对不同饱和度处理在两个或更多个不同类别中对像素色彩进行分类)所定义的不同饱和度区域,例如,用于指定去饱和区域,以用于应对低峰值亮度的重新分级中的高亮度,以及用于提升更暗色彩的色彩性的区域等。
有利的是通常如下执行饱和度处理:
Ro=st*(Rin-Y)+Y
Go=st*(Gin-Y)+Y
Bo=st*(Bin-Y)+Y [方程5]
其中,Ri、Gi、Bi是线性输入色彩分量,Ro、Go、Bo是在饱和度处理之后所得的输出色彩分量,并且Y是线性辉度,即,线性组合a*Ri+b*Gi+c*Bi,具有预定常数a、b和c,但是可以使用其他等效处理。
图9给出了另外的范例,关于能够如何已经遵循分级者的期望的有时复杂的根据场景优化的细节,即使对于我们的实施例的最简单的一个,其仅存在于接收装置中简单的重新分级计算中,并且分级者对此例如不关心而做进一步检查。针对本范例,我们使用取决于方程1的缩放的对数预期来绘制显示峰值亮度。我们看到,这种方法已经能够非常好地设置场景中需要其的所需亮度和对比度。例如,在本范例中,稍微高于最大值(即,白色)的60%(线性)的区域——假设将其定义于HDR图像上——可能通常需要在这种绘制中进行某种加亮。另一方面,在本范例中,在50%附近还有关键图像区域,例如,这可以是被相对较亮照明的场景的部分中的演员面部。另一方面,在图像的较暗区域中,在本范例中,似乎没有过多高度感兴趣的对象,因为LDR外观能够对那些更暗的区域提供强的软剪切。这可以是这样的场景:其中,在例如阳光照耀的景观外部发生了许多事情,并且我们能够在艺术上决定对其中一些进行某种暗化,例如,可以是通过小门看到的谷仓或寺庙内部,并且因此,其中,其并不是那么相关(因为区域的尺寸小,即使在HDR显示器上的HDR绘制中,该视觉系统也可以快速地将此作为“不感兴趣的黑色”而抛弃,并且因此,利用相同的分级哲学,分级者可以决定使其在LDR中也近似为看起来为黑色(注意,我们的方法应当能够更精确地工作,以及较不关键的分级变体,并且通常,对于更容易和更困难的HDR场景,前者例如是准确平均亮度在任何MDR绘制中根本不那么重要的图像的两个空间区域,并且后者例如具有非常精确的绘制要求,例如,雾中部分隐藏的怪物))。重要的性质在于,即使对于我们的实施例中的最简单的一个,对于所有中间动态范围(MDR),我们能够很好地获得近似良好的亮度外观以及所有对应的能确定的对比度(即,介于选定的感兴趣像素1和2的辉度之间,或者感兴趣区域1和2的平均辉度,例如,通过房间的窗户看到的暗的角落或外部一部分)。在该图9中,曲线909是用于将5000nit HDR外观变换成100nit LDR外观的辉度变换,变换至不变的自己的HDR当然对应于对角线,并且其他曲线是重新分级到各种MDR分级所需的变换,用于为5000nit与100nit之间的各种峰值亮度的显示器供应经优化的外观图像。
图10示出了由我们的实施例允许的另一更高级的范例(无论其(部分)由人类分级者在内容生成侧来控制,还是由特定接收器、例如HDR电视机自动地进行重新分级)。本范例示出了,如果有以简单的方式确定为单个辉度分界器Lrc的关于各种图像区域的更多语义信息,能够如何智能地重新分级(例如,由分级者并传输,或者由仅驻留在接收器中的图像分析单元)。在该范例中,更亮的区域可能是非常关键的,并且更暗的区域可能难以同时优化(即,对一幅图像中的可能像素辉度的整个暗范围维持例如充分大的对比度,而同时需要针对较低MDR图像的辉度范围的充分大的部分从而以充分的视觉质量来绘制更亮的图像区域),即,可以快速地以特定方式决定降低其质量。快速意指即使对于接近HDR PB的MDR峰值亮度(PB)、例如如果PB_H=2800nit并且PB_MDR为2500nit,也根据具有类似于LDR 100nit外观的策略完全或大部分映射较低的范围。然而,更亮的区域能够比2800nit与100nit之间的各种MDR PB更缓慢地向LDR外观调谐。这种策略可以既至少部分地由分级者确定,或者作为初始引导策略,也可以由接收器自己确定(例如,通过否决分级者指定的任何内容,例如,他可能为该图像的更暗和更亮区域都指定了朝向LDR外观的平滑重新分级)。
在已经利用涉及人类分级者、即允许其通过那些HDR图像通信系统实施例对其图像进行最终绘制的实施例情形阐述了以上范例的情况下,备选地,还可以将计算机算法用作自动分级者。这可以发生于生成侧,其中,所述算法能够非实时地进行非常智能的图像分析,例如,识别区域、特定种类的纹理、或甚至识别如人、特定动物、太阳下在其金属上具有镜面反射的车辆等对象的类别,并且基于分级者将通常希望如何对这些种类的场景以及其对象进行分级的统计学信息。然而,自动分级单元也可以驻留在接收器中,并且应用对由例如电视机制造商多年来开发(并且可能构成其签名外观)的图像质量知识进行编码化的图像增强处理。新的方案现在是在我们当前的HDR重新分级技术中并入的方案。图11利用接收器的色彩变换单元1130的示范性实施例对此进行了阐述,例如,所述单元被并入在电视机或机顶盒或者在超市或室外事件中供应商用显示器的计算机等中。
在本范例中,经由图像通信网络1101(例如,经由因特网连接的视频服务器,或者通过移动电话网络等广播或多播的电视服务)接收视频的图像以及要进行天然色彩重新分级的元数据(例如,来自5000nit HDR作为输入图像Im_in,到100nit LDR,其方式为结合图1所解释的对数缩放,参数lg被生成侧人类分级者选择为针对这种场景最优的,并且参数P_CC也定义例如定制色调映射曲线的多线性形状)。缩放因子确定单元1102然后应用被指定为最优的色调映射规范以将期望范围的一端(尽管在原则上也可以将同样的原理用于范围边界外部某处)、例如HDR的外观映射到另一范围末端参考外观,例如100nit LDR,并且因此确定初始缩放因子g_nat,以进行线性(或者可能甚至非线性的)RGB缩放。第二缩放因子确定单元1103确定最终的缩放因子g_fin以用于当前状况中,但是现在,在本实施例中,该因子可以通过接收装置图像增强知识来确定。因此,包括图像分析单元1110,其可以包括各种图像分析单元(其通常是例如各种图像分析软件部件,或者其硬件实现)。在该简单的阐述范例中,我们描述了直方图分析单元1112和对象识别单元1112。直方图分析单元1112可以被布置成分析(一幅或多幅)图像的亮度分布,并且确定存在例如大量暗的像素,或者可能语义上重要的像素是暗的(因为所述单元能够一起工作)。然后,可以确定例如暗区域的分界器和预期的加亮策略。对象识别单元1112可以包括例如面部检测器,其能够检测具有各种亮度的面部,因为演员站在场景的各种不同地照明的部分中。根据所有这种知识,策略参数确定单元1113根据我们公开的各种实施例的哪些实施例驻留在第二缩放因子确定单元1103中来确定对应的参数(注意,该功能的一些可能驻留在某些装置或系统的其他部件中,但是我们在功能上对其进行了描述)。例如,策略参数确定单元1113沟通其希望例如比分级者天然的方法(其可以简单到应用我们的方程一,没有来自人类分级者的任何特定重新分级信息或者更高级的策略,其可以被部分遵循或者大部分被否决)加亮场景、并且特别是较暗色彩的逻辑方式能够通过指定新的gpm值来完成(当然,在一些实施例中,所述装置也可以定义针对定义原始HDR与LDR分级之间的映射的函数来定义新的值,例如,底部部分斜率,但是一些实施例可以考虑来自内容提供商的郑重信息,其也不需要被修改,因为其专门外观能够被实现为后处理;如果需要任何功能性形状调整,那么能够仅针对MDR计算部分至少实施这种调整,例如,替代图19中所描述的纯粹相乘的缩放,电视机可以针对最暗的值向所得的MDR辉度映射函数应用弯折,或者任何备选函数重新定义,例如,与由电视所确定的特定固定或取决于图像的函数的校正值相乘)。如果图像分析单元1110已经确定——例如,利用其对最暗区域中的演员的直方图分析和识别——根据接收器制造商,最暗的部分是天然过暗的,而无法在例如连接的1100nit显示器上绘制,可以向着LDR外观稍微提升gpm(因为向着LDR移动通常可能具有大致的并且现在取决于场景而对应于加亮的行为)。亮度分界器Ltr1可以被传送,以仅对HDR辉度的最暗子范围进行该策略。存在其他方式,其中,图像分析单元1110能够传输其对所需要的重新分级的期望,作为第二元数据MET_2。例如,其可以假定连接的显示器不是1100nit,而是传输例如1300或900的PBF值,并且类似于对数比例计算中的PB_D那样使用该值。或者,其可能已经传输对数比值,并且令单元1103向其应用gpm值等。或者,其可以调节PB_H和PB_L值。因此,能够在MET_2中向单元1103传输用于计算最终g_fin的值与由图像分析单元1110所确定的正确值的任何所需的组合。除了纯粹地分析图像Im_in之外,可能非常有利的是查看分级者在色彩变换函数的形状中放入了什么智能性。至此,可以在一些实施例中包括色调映射分析单元1114,其被布置成分析第一与第二参考外观、即通常的HDR与LDR之间的总色调映射的函数形状。例如,该单元可以拟合三个区域,并且检查对更亮的色彩进行了什么(例如,软剪切)处理,对中等范围色彩进行了哪些处理(例如,对比度提升),以及对暗区域进行了哪些处理。例如,如果在色调映射中发现了快速弯折,如在图9的范例中50%左右的强斜变部分那样,那么色调映射分析单元1114可以在其中确定分界点Ltr1。该信息然后能够由单元1113用于针对那些中间色调确定智能重新分级,根据接收器制造商的偏好来优化对比度,然而考虑关于分级者的分级规范中存在的关于场景的语义知识,并且至少在某种程度上保持各实施例与分级者的这种重新分级意图一致,因为这些实施例在g_nat中编码化的原始重新分级意图上应用重新分级。
注意,在该更简单的范例中,假设没有另外的元数据参数指示来自分级者的重新分级的特定期望(例如,gpm值),然而,如果分级者在输入信号S_im中指定这样的元数据,也可以将其传送到单元1110。该单元然后可以认真对待这种期望,例如,通过在小容限、例如5%或10%之内或者仅在辉度范围的有限子范围内改变gpm值,例如,仅改变10%最暗色彩的外观,同时保持内容生成分级者对更亮色彩的原始期望,或者备选地甚至完全忽略分级者的gpm值,并且针对单元1103确定其自己的gpm值。
一些更高级的实施例还可以允许查看者具有例如最终的外观。通常,经由通往遥控器1122的输入连接1121,并且经由用户接口1120,他可以给出一些简单的重新分级命令。例如,他可以具有5点标度以加亮图像。这可以作为信号b_rel={-2,-1,0,1,2}而被传输,其能够由单元1113转换成例如10%最暗色彩上的若干级别的亮度增加,并且最终转换成一个或多个gpm值,并且可能由一个或多个分界器(Ltr1,Ltr2)进行对应的加亮,这将为查看者生成适当的外观。任何这样的链接都能够由各种接收器实施例做出,例如,-1可以对应于PB_D的10%的增大,被作为PBF值发送等。
上文已经阐述了,利用本实施例,我们能够如何确定重新分级,所述重新分级与亮度的重要视觉参数相关,并且结合图12,我们将简化地阐述以下范例,即,能够如何通过图像语义方式确定利用我们的各种实施例绘制外观的最终MDR的各种对比度改变。动态范围或相当大的对比度比值是简单概念:图像中最暗的色彩与最亮的色彩进行对比。生理视觉相关的对比度是更复杂的参数。再者,其能够利用上文所描述的图像自适应实施例相对简单地确定。通常,能够从两个因子粗略地估计场景中的最终对比度:对象内对比度和对象间对比度,对象内对比度确定对象纹理有多可见(例如,面部表情或该面部的粗糙度,或木质表面的粒度),并且特别在涉及高对比度图像时涉及对象间对比度。在许多HDR场景中,可能仅有数个、常常仅两个不同地照明的区域。例如,室内平均辉度相比于室外。或者,平均夜间街道辉度相比于一些灯的辉度。在HDR中,可能有各种这样的平均辉度子区域,因为例如5000nit的辉度范围的显示器是足够大的。例如,可能有若干种不同的白色,例如,室内纸张白、接近灯的白色、以及甚至灯自身的更亮的白色,并且可能甚至更亮的灯。在LDR中,并非所有这些不同亮度的区域都可以被忠实地映射。实际上,旧版LDR编码很适合对相对于白色的所有色彩进行编码,或者对类似的相关18%的中间灰色进行编码(无论结束深度如何,能够一方面带来噪声和/或代码量化,但是另一方面,经调整的视觉系统将视为黑色,例如,线性低于5%的白色),但是并不针对这样许多不同地照明的区域。对于一些图像而言,分级者对于LDR外观可能必须选择将所有不同的白色区域剪切成相同的LDR白色(R=G-B=255),而不是冒着一些灯可能看起来灰色的风险。因此,例如,针对100nit LDR监视器上的室内像素的平均亮度外观与感知到室外更亮多少(其中,该室外也可能需要高度饱和而不是更亮但暗淡)之间的平衡,即,针对那两个区域的对象内对比度,可以是取决于经处理的图像的关键的一幅。
图12解释了接收器可以如何对这样的区域中的各对比度进行平衡,并且因此,如何对所绘制图像的总对比度外观进行平衡。曲线1201指定分级者如何指定色调映射以获得100nit的LDR图像。我们看到了针对最亮色彩进行软剪切的区域,大量似乎在进行的中间范围区域,即,其中,可能有若干关键对象(例如,3个被不同地照明的演员),因为在色调映射曲线的该部分中有若干关键弯折点,以及针对更暗色彩的优选映射。如果图像分析单元1110针对这些重要的子区域确定了两个分界器Ltr1和Ltr2,则现在能够提出各种对比度平衡方法。例如,其能够确定,对于更亮的色彩,曲线1210给出更佳的对比度。那可能改变例如该阳光照耀的外部区域的外观,因为现在该子区域的最暗像素对于1200nit MDR图像可能比对1200nit MDR的天然重新分级所提出的更暗,但是对于接收器制造商那也可能是期望的。在本范例中,已经选择了接收器以在很大程度上忽略针对中间范围的分级的细节(这对于最终绘制的外观的质量可能是明智的或可能是不明智的,但是取决于可能完成或未完成的应用情形),但是仍然有一些适应性,因为由接收器所提出的色调映射曲线的斜率在中等范围部分1211中途变化。在本范例中,针对最暗像素的对比度比值针对接收器提出的MDR外观与针对分级者提出的LDR外观是相同的,然而,对比度是不同地分布的,因为下部1212的曲线形状与分级者的意图非常不同(在本范例中,因为理想地,接收器可能希望至少很大程度上遵循初始形状)。利用这些技术,根据接收器在其分析进入图像Im_in之后期望什么,能够优化各种对象间和对象内对比度。例如,曲线1210的上部(无论这是由分级者提出的针对1200nit MDR的结果,或者已经来自单元1110的第一确定)可能对比度不够,即,外部看起来过于平淡。然后,可以确定另一亮部分的部分曲线1220,其具有更大对比度比值和更大的对比度。这可能意指中间部分可能需要较少的对比度,尽管当然也可以提出将不同Y_HDR值映射到相同Y_L值的策略。以这种方式,能够优化第二对象内对比度C_intR2和第三对象内对比度C_intR3两者。但是这也将确定对象间对比度,如第一对象间对比度C_gl(例如,在更亮与更暗子区域的中点辉度之间定义,或者由像素出现率进行加权等),相反,也能够主要由自身进行优化,可能牺牲一些对象内对比度,例如C_intR3。
图13示出了用于计算色调映射的一般实施例。信号去格式化器1301获得所有必要的信息。COD_DIR和COD_METR指定哪些内插方向(DIR)和度量来计算要使用的中间显示峰值亮度的位置(例如,如由分级者在内容生成侧所指定的),并且我们将假设那些是135度,以及将在下文更详细解释的基于OEFT的度量。在不允许变化的一些实施例中,可以将其预先构建到电路布局中,例如,在仅执行垂直调谐的装置实施例中。色调映射确定单元1302经由元数据输入116获得所有信息,以在输入图像的辉度(例如,HDR图像)与对应的第二分级(LDR)之间构建最终的色调映射。因为我们的方法的第二部分是我们需要在HDR场景的两种典型外观、通常为HDR与例如100nit的LDR外观之间建立色彩变换函数。经由输入部1308,能够以适当的形式(TMF)供应这种辉度映射函数,或者在其他实施例中,供应一组g乘法器,但是我们这里将假设,传输输入的HDR与分级的LDR输出辉度之间的函数形状,即,我们将假设这仅仅是函数,我们将其解释为辉度之间的图形映射,但是可以在技术中被传输,例如作为LUT。该TMF将是针对缩放因子确定单元(200)的输入,该单元将进行获得MDR图像所需的变换的计算,并且针对每个像素色彩呈现这种计算,以将其处理为用于相乘的适当gt因子(例如,1.53或0.872等)。
在能够详细解释之前,我们将首先给予读者正在发生什么的某种进一步的理解。
图17以相当简单的分级范例示出了我们希望利用显示调谐实现的内容。我们已经示出了数学运算作为绝对(参考5000nit)辉度轴上的绝对视图,然而,要注意,其已经根据我们的光电传递函数(P-OETF)被从感知上均一化。因此,在这种表示中,在代码空间中我们是线性的,不是像其他曲线中的相对辉度空间。读者能够大致认为如同对数轴,但是在本范例中5000nit的参考显示器的相对[0.0,1.0]辉度坐标与实际对应输出之间的精确映射是由(Philips EOTF)来确定的:
Y=Lm*power((rho^v-1)/(rho-1);gam) [方程6]
在本方程中,v是相对亮度(读者可以将其与LDR信号的亮度进行比较,即,例如,[0,255]图像值除以255),我们假设这是实值数,rho是常数,例如为33,gam是常数,为2.4,Lm在这种情形中为图像编码的PB,亦即5000,并且^和幂指示幂函数。注意,在希望定义EOTF的情况下,其结束于另外的例如更高的PH_H值(或者在该方程中,更高的Lm,例如10000),那么必须要通过下式来计算另一rho值:
rho_2=(33-1)*(PB_H/5000)^(1/gam)+1 [方程7]
因此,例如在图17的x轴上的[0.0,1.0]中的等距值通过利用以上方程的计算而被转换成实际辉度。该函数具有如下性质:v值在HDR显示器辉度的典型范围上对于非线性的人眼更为均匀,即,可以从概念上将此视为生理光度近似。
我们的Philips HDR OETF(P-OETF)被定义为该函数的逆函数:
v=1/log(rho)*log(1+(rho-1)*(Y/Lm)^1/gam) [方程8]
现在,如果希望针对例如100nit的显示器进行分级,读者可以从概念上将此视为如同在5000nit的显示器上显示那样,但是不产生高于100nit的任何亮度(在5000nit显示器上是可能的,但是在100nit显示器上是不可能的)。用于实现LDR外观(原始分级)图像的可能(质量相当差,但对于解释目的而言是好的)辉度变换是曲线1702。基本上,我们利用该曲线绘制(作为Im_in的所接收HDR图像的)高达100nit的所有像素辉度,所述辉度恰好与我们在其对应的参考显示器上绘制输入图像时相同,对此而言,通常,在其上对其分级,即,5000nit的显示器。但是,所有更高的辉度,我们恰好剪切到100。
如果我们要(理论上)应用辉度变换以从已经从色彩分级者接收的恰好5000nit的Im_in获得5000nit的重新分级,那么当然将通常应用身份变换1701。现在,如果希望针对例如5000nit MDR显示器来确定中等重新分级,会发生什么情况?
当然,我们可以剪切高于500的所有辉度,但是那将可能不是我们可以为该显示器做出的最好的重新分级,即使我们具有由内容生成器定义的这样差的剪切HDR至LDR辉度变换。我们具有HDR Im_in中的所有最亮对象纹理的信息,因此对于更高的PB_D显示器,即,如果我们具有该能力,我们将希望展示该信息中的一些,与5000nit绘制相比较处于质量降低的版本(即,亮度提升较小,对比度印象较低,根据HDR场景和图像是什么而较不闪烁和闪耀)。一种选项将是计算曲线1711,如果认为完美绘制了高达100nit的所有对象(并且这“意外”是感兴趣的分界点,低于该分界点,应当在所有实际显示器上以相同辉度绘制对象)。但是我们还可以应用另一种策略(这将对应于利用用于重新分级积极性(gpm,gpr)的另一度量和/或内插方向和/或细调函数),这偏移停下来进行等辉度映射的点,并且开始在最亮HDR对象中压缩到L_kn。这将产生MDR辉度映射曲线1703,用于针对PB_D=500nit的实际显示器生成MDR分级。
读者将理解我们希望哪种情形,我们希望将L_kn偏移到100nit以上多远,将取决于(一幅或多幅)图像中有什么。如果在外部没有过多兴趣,如广播常常发生的那样,对此,通过窗口看到的内容通常当前已经被严重地剪切或软剪切,可能在针对那些室外对象的较低量的能绘制辉度(范围R_sm)下生活。如果室内对象辉度未精确结束于100nit(其当然可能取决于分级者所做的仔细分级),这可能尤其是真实的,但是例如他需要(在该极端范例中,硬剪切)对桌子上例如一些反射物体的较亮部分的一些进行剪切。由于这可能是查看者正在专注观看的场景的主要部分,确实有意义的是还通过在等辉度(对角)部分中包括其而为那些对象赋予美丽的辉度和纹理对比度,直到其最大辉度,或者至少接近其,代价是通过窗口看到的太阳照射的房屋的色彩的质量,如在图14中所示的那样。如果不知道关于图像的任何额外信息,这可能尤其为真(当然,如果分级者指定使用COD_METR和COD_DIR,这已经稍微转换了所具有的某种状况,但是假设在更简单的显示调谐策略中,分级者仅生成TMF,并且接收装置必须自主地确定每个别的内容,但是这应当仍然针对MDR图像给出尽可能合理的视觉质量),从那之后,可以假设可能将有高于低质量100nit值的一对感兴趣辉度,因为这是HDR场景,因此,也可能通过使L_kn点稍高于偶然100nit而划分错误(分级者可能已经在其HDR主分级中关注过室内辉度,即,令人满意地对其照明,并且由于不容易使其恰好适配LDR/HDR框架,使室内分级到适当的辉度,但是并非始终确认他将把室内对象恰好放置在已经在主HDR分级中的LDR子范围中)。
然而,在备选情形中,分级者知道所有更暗的像素区域落在100nit部分中,并且在高于100nit部分中某处有重要的纹理,其需要最大对比度或最大量的可能能使用的亮度代码和辉度(对于任意辉度映射函数),分级者可能希望为所有MDR重新分级将L_kn点保持在100nit处。因此,读者理解,如果希望,能够使显示调谐(也被称为可调谐性)简单,但是可能喜欢某种额外的技术手段,用于仍然以可能需要确定所有因子和参数的分级者的尽可能简单的方式允许HDR场景的复杂性以及也在更困难情况下的图像。
现在,如果我们希望看到在特定显示器的参考帧中发生了什么,例如,PB_D=500nit的显示器,我们能够从图17的地图中仅切割掉延伸到直达Y_out=500nit的部分。这种表示的最大值大于能够在500nit显示器上绘制的最大值,即,应当通过为其绘制最大亮度代码v=1.0而这样做。因此,忽略nit标签,为了使地图清晰,在图17中能够将重新分级规范视为亮度代码空间中的规范(尽管在输入轴上,能够很好地读取等距亮度代码,当然在这种表示中的y轴上,v=1.0将针对具有不同PB_D的不同显示器落在不同高度处(读者能够为了其理解而假设这些不同的显示器全都在5000nit显示器上进行仿真,因此,其必须根据所仿真的显示器的PB_D能力而停止在特定亮度vx下的绘制)。
图18示出了相同的示范性变换,但是现在在轴系统上,从所述轴系统我们能够开始导出所需的HDR至MDR辉度变换函数,其开始于在与视频信号S_im相关联的元数据中接收到的HDR至LDR色彩变换规范。水平轴是相同的,因为这些是我们的5000nit Im_in的可能像素辉度。垂直轴应当确定重新分级的MDR像素色彩的相对辉度,再次在具有我们的P-OETF的可感知均匀化标度上,即,在零与值L1之间(或者换言之,其对应的亮度代码)。对于100nit的分级而言,该L1值,其对应于最大亮度代码,例如,10比特的1023或者12比特的4095,这将是100nit。我们再次看到,对于高达100nit的HDR辉度,根据分级者,应当在恰好与5000nit图像规定的相同辉度的100nit LDR显示器上对其进行绘制,并且高于该值,LDR分级将每项内容都剪切到PB_L=100nit。
我们还看到,例如,在这种表示中,为了针对LDR显示器上的暗灰色获得与在HDR显示器上那样相同的绘制亮度,将需要提高LDR图片的亮度(在该图中,也能够在对应于v=1.0的L1与0之间均匀地读取),即,我们需要与相对HDR值相比较将暗斜率或增益增加角度b(在此,在“错误的”100nit轴上示出了对角线,因为其将需要结束于5000nit处的轴,以获知什么对应于输入图像或者通过进行身份变换理论上计算出的输出图像的最大亮度)。现在,我们如何导出针对最小值与最大值之间的相对驱动所需的MDR映射曲线1803(最小亮度与最大亮度现在针对该PB_D=500nit的显示器分别对应于0和500nit,其现在被示为曲线图右侧上的Y_out_MDR),即,针对Im_in的任何Y_in的该Y-out_MDR?我们绘制了正交于对角线的线(HDR5000至HDR5000映射1701),并且在其上放置度量(1850)。该度量将具有没有亮度改变或“0”与“完全”改变(或“1”)之间的值,产生LDR分级。现在,能够在该度量上定位与任何PB_D相对应的位置M_PB_D(参见下文的计算范例)。在我们希望外观看起来(针对具有PB_D的这种实际显示器,但是特别关键的场景,其需要在从PB_L=100nit向上移动PB_D时更长时间看起来像LDR)更像LDR时,我们利用例如下文所描述的实施例来确定另一点M_PB_U。能够看到“中途”点对应于其PB_D(非线性)大约在PB_H与PB_L参考显示器之间的中途的显示器,如同其外观,即其HDR能力那样。现在假设弯折点PBE实际不像在本范例中那样简单,其中,剪切因为有限的PB_L 100nit值而开始,而是分级中的特殊关键点(其可能已经由至少一个参数(元数据中的参数,其指定来自分级者的LDR和HDR原始分级的色彩变换关系)传输,例如,其相对位置在Y_in轴上介于0.0与1.0之间,并且其高度在Y_out_LDR轴上)。现在我们看到,在这一旋转内插版本中,该语义上重要的点不需要像垂直内插实施例那样保持在相同的Y_in位置处,而是能够在偏移dp内偏移,这使得对于一些情形而言这种特定方式的显示调谐是优雅的(其例如也针对HDR至LDR函数是有用的,该函数将HDR亮度L_Hb以下的黑色剪切到LDR分级中的0)。
在图19中,我们示出了能够如何导出完整MDR辉度变换函数1803,以用于在旋转框架中从定义LDR分级的函数(1802)获得MDR图像。本领域技术人员应当明白定向内插单元(1312)能够如何计算与Y-in坐标相对应的新延伸x坐标rc,以及能够如何旋转函数。可以将这种函数保持在例如瞬态存储器中。现在,需要确定乘法缩放值S,例如,0.63(下文将给出定义),并且那将给出MDR曲线的所需点。已经作为范例示出了弯折点如何移动到新的位置(如果在那里放置度量,则为M_PB_D),但是无论函数的形状如何,所有其他点将通过相同的乘法原理来改变。因此,如果获取延伸坐标rc并且对应的LDR辉度映射函数为FR_L(rc),那么针对HDR至MDR色彩变换函数的所需值将被确定为FR_M(rc)=S*FR_L(rc)。之后,能够再次旋转该曲线,使得我们得到在图18框架中的值,并且这些值再次可以被放入在存储器中。针对每个像素的处理实际需要的将是增益值,因此,缩放因子确定单元(200)的实施例将通常存储针对所有可能Y_in值的gt值的LUT(或者实际上,在我们的优选实施例中,使用RGBmax值,但是其类似地在0.0与1.0之间变化)。
能够通过将为要服务的PB_D显示器所计算的MDR辉度变换函数与针对所有输入值的对角线的高度进行比较来完成对这些gt值的计算,并且然后,通过那两者相除来获得乘法值,如在图16所示的。
现在,图20示出了如何定义用于获得缩放因子S的良好执行的度量。
假设希望针对例如PB_D=500nit的显示器导出MDR图像(以及在具有输入图像辉度或量度值时确定所需的亮度值的函数)。需要对驱动值进行缩放,以使所有对象辉度相对于针对LDR的驱动曲线是正确的。因此,我们参考该SDR辉度映射函数2002的通常始终为(因为这是旧版标准化值,但是将来事物可能变化,我们的技术原理将保持相同)100nit的框架中的每项内容。假设现在希望例如针对所有三种显示器(HDR、LDR和MDR)保持较暗的亮度看起来相同,那么必须将点P1或P2向下朝着对应于HDR分级的对角线或朝着水平输入轴移动多少,以获得MDR曲线上正确的点P3。
因为需要在右侧的500nit轴上读取该MDR曲线,将介绍以下数学方程:
A=P_OETF(Lm/PB_L,PB_L)
B=P_OETF(Lm/PB_D,PB_D) [方程9]
这些是我们上文定义的对数HDR OETF函数,但是现在结束于5000nit处,不过在逗号之后的第二值处,例如PB_L=100nit(通常地)。即,这样生成具有延伸坐标的感知轴,其针对例如100nit而停止在1.0处,这是该图的y轴。在这种情形中,Lm是Im_in的5000nit值,但是对于其他主HDR编码可能是不同的。
图23示出了另一种方式中的基本转换缩放因子(A,B)的物理含义。还能够将P_OETF看做重新归一化的函数,其不结束于1,而是到达例如5.0(并且然后,稍晚,由于这仅仅是最大值的乘法,如果需要比值,则可以在归一化到1的版本中实现相同效果)。因此我们需要变换HDR至LDR分级辉度映射曲线2303,以获得适当的MDR曲线。那应当不是曲线2304,因为那仅仅是向较亮的PB_D显示器应用LDR分级,这将给出太亮的外观。对图像中的较暗辉度进行缩放以获得等外观(即,对于任何MDR显示器亦即HDR和LDR参考显示器上那些例如10%最暗色彩,使其具有相同的绘制辉度)将针对感知轴获得相同的拉伸因子,达到新的归一化版本(即,对应于例如500nit的1.0),如从白色(1.0)确定该值那样。在此,现在示出了不在归一化到1.0的相对轴系统中的我们的色彩变换的行为,而是5000nit参考辉度轴上的绝对值。为了自然地(仅仅应用LDR曲线,不考虑更高的PB_D)变换100nit辉度(例如,白色)——纯粹相对于轴重新归一化,因此,既不考虑由分级者指定的辉度变换曲线的任何细节,也不考虑关于对辉度的内插的任何控制参数,如gpr——必须将色彩2301提升到其5000nit等价值(即,不考虑智能重新分级的适当应对动作)。
即,必须在P-OETF感知的y轴上确定利用多大量来拉伸矢量。如果一百nit对应于1.0,那么将通过乘以例如1.7找到值2302。如果正在读取曲线的500nit所指代的表示上的点,即,500nit对应于最大可能亮度(1.0)的点,能够做同样的事情。如果将该辉度变换到5000nit表示的版本,那么得到B因子,例如1.3。现在,我们实际感兴趣的是如何将针对LDR分级、即在100nit系统中所确定的色彩2305(例如,输入的500nit的HDR辉度应当是被绘制为30nit的LDR)变换到500nit显示器的参考系统中。例如,如果不是要改变由变换得到的值,那么那些在新参考系中对于500nit将意味着什么(图18中为右侧的轴,Y_out_MDR)?
能够看出,将y值2305与S^-1相乘以获得值2306对应于将其与A/B相乘。但是这将不给出等外观,因为那样每项内容都恰好在线性标度上变成5×更亮,并且在感知标度上为X倍。因此,为了保持等外观约束,应当将该值2305与S=B/A相乘(以在从LDR驱动曲线开始时,具有正确缩放的MDR驱动曲线,但是现在在轴系统中参考,其中,500nit是1.0最大亮度或相对辉度,这样不产生虚线曲线2304,但是曲线2303将是期望的MDR分级曲线,但是现在在500轴而不是在其原始100nit y轴中进行解释)。由于所有这些都是相对乘法操作,能够进行所述操作,假定所有操作都发生在1.0对应于100nit的轴系统中,但如果需要实际绘制的辉度,则将在Y_out_MDR轴上对其进行读取。
因此,当向x轴垂直地缩放时,将获得缩放因子S=B/A。
重要的是,无论PB_D值为何,都能够定义缩放因子(甚至在需要时可以外插),并且因此,能够做出度量。
如果我们的目标显示器将是PB_D=PB_H=5000(=Lm),将需要达到HDR分级的P4点(身份变换),即,当从乘法视点看其时,将需要针对该输入通过缩放S=C/A而缩放LDR值(x轴上的HDR Im_in辉度50),针对该分级,也是左侧LDR y轴上的A=50nit,其中,C=P_OETF(Lm/PB_H,5000)。能够看到,因为这会针对光学辉度输入(归一化的)1.0产生v值,并且假设该对角线HDR分级使得所有亮度给出相等的亮度输出(即,对于在针对HDR分级输入和输出的5000nit时为亮度1.0,将对应地获得针对线上的所有其他点的正确值,即,也针对该例如50nit,其恰好是要进行色彩变换的输入点处的HDR_5000nit标度[未示出]的矢量尺寸)。
现在能够从数学上证明,如果希望沿对角线、更具体而言以135度,进行内插,则缩放函数变为SS=[(B-1)/(B+1)/(A-1)/(A+1)]。
还能够将此与线上在HDR辉度点P4与LDR辉度点P1之间的度量位置相关联,如在图18中所做的那样。这将对应于度量偏移,或者通常为延伸坐标MS,在垂直实施例中,能够表述为Y_MDR=Y_HDR+MS*(Y_LDR-Y_HDR)。同样地,在一般状况中,这样的坐标MS将在针对PB_D=PB_H的MS=0于1.0之间,前者即在需要与HDR分级相同的MDR分级时,后者是在需要LDR分级时。
就像该简单阐述那样,读者能够理解,如果具有从作为输入的HDR分级定义LDR分级的一般TMF函数2001,则同样的变换方案将是适用的。
因此,在图13的我们的构造示意图中,定向内插单元(1312)将旋转(进行对应的数学运算,例如,获得针对图19的输入轴的旋转值的LUT)接收到的函数,确定适当的缩放因子SS,计算与如上文所解释的旋转框架中的MDR重新分级相对于的函数,并且重新旋转到Y_in轴为水平的框架。因此,例如在LUT中具有针对输入值Y_in的函数值Y_out_MDR。然后,公共乘法器确定单元(1311)将该函数转换成对应组的gt乘法器(的LUT),因为我们的典型色彩变换框架将与如所解释的那些一起工作。
到现在为止,已经描述了不知道如何定义色彩变换函数并且特别是已经被参数化的实施例。以上处理能够对任何函数值工作,并且我们对其进行了解释,如同其是纯粹的LUT那样。
然而,在分级者定义函数的方式中可能有令人感兴趣的语义信息。例如,他可以定义多段辉度处理函数,较低段用于处理较暗的色彩,例如,室内色彩,并且第二较高段指定应当对较亮的段、例如室外色彩如何处理。可以将该辉度变换行为例如通过参数Lt被传输到接收器,该参数然后也是外部辉度与内部辉度之间的分界器。许多备选的参数哲学是可能的。可能需要至少针对一些类型的HDR图像,至少在一些MDR分级中偏移该阈值的辉度位置(例如,并非希望保持室内色彩在所有显示器上看起来相同,分级者可以决定使用HDR显示器的一些更高的能力,例如高于1500nit,以稍微加亮那些室内色彩)。沿着x轴和沿着y轴的偏移两者都可以是有利的。这全部取决于图像中存在什么色彩,以及分级者希望哪种外观对比度等。
将给出一个感兴趣的范例,用于阐述可能的参数实施例。
图21示出了我们在基本工具套件中放入的感兴趣HDR至LDR辉度变换策略的范例,其定义了我们的HDR外观捆绑编码技术(这将对应于单元111的定制曲线的特定实施例,而不是作为LUT来传输,我们将该函数作为5个参数传输;其中,图21的映射曲线能够利用3个参数来描述:开始于0.0的针对最暗图像色彩的升速斜率[浅增益控制];高亮的降速斜率,即上方线性部分向下转向的角度,以及之间抛物线段的宽度或半宽度:能够唯一地确定线性部分交叉的中点midx,并且然后,抛物线段能够从中点-宽度/2延伸到中点+宽度/2)。现在,在该曲线图上示出了归一化(例如,10比特)亮度,并且与其相对的是对应的辉度,顶部是针对5000nit HDR输入图像,并且紧右侧是MDR 500nit输出图像的辉度,这能够从HDR输入图像计算得到,现在去除了100nit的细节(上文使用其容易地解释我们的概念)。
分级者再次指定HDR至LDR(即,100nit)曲线2100,但是现在利用该具体函数编制。其包含暗增益(斜率dg),其确定最暗的色彩在LDR分级图像上看起来有多亮。这是重要的,因为如果在HDR场景中,有非常亮的对象,如灯,其仍然以HDR亮度被忠实地拍摄,同一场景的阴影区域可能在归一化轴上落在非常深处,并且因此可能需要在LDR分级中被相当大地提升,以仍然能够看到那里发生了什么。暗区域结束于点2101处。对于最亮的色彩,有着类似的具有高亮增益hg的线性段。在那之间,存在抛物线段,其宽度对应于线性部分的端点。这能够控制其间灰色对象的对比度。
现在,我们看到通过参数方式传输的特殊点已经在MDR辉度变换曲线2103上改变了位置。能够使用方向DIR、特别是度量来计算这些变化的位置。
midx=(1-hg)/(dg-hg)
然后,利用坐标newMidx和newMidY来计算新的中点Pm2:
x0=midx;x1=dg*midx;y0=dg*midx;y1=midx
m=(y1-y0)/(x1-x0)
b=(x1*y0-x0*y1)/(x1-x0)
newMidx=((x1-x0)/2)*(1-SS)+x0
newMidy=m*newMidx+b
根据这能够计算抛物线段的新宽度,并且因此计算线性段的两个终点:
newWidth=(1-P_OETF(SS,PB_H))*old_width
其中,old_width是由分级者所确定的该曲线的参数,亦即,抛物线段的宽度,即从线性段的延续在所谓中点汇合处向两侧不对称或对称地投射的宽度。然后,当然,也能够重新计算新的暗增益和高亮增益:
newGg=newMidy/newMidx
nwHg=max((newMidy-1)/(newMidx-1),0)
读者能够理解,能够针对感兴趣点,或者针对其他情形的辉度变换函数的其他参数,来设计重新计算策略。从该范例带来的感兴趣内容在于,接收侧装置能够为最终曲线计算新参数以应用于从重建的HDR(或者甚至从SDR直接)获得MDR,并且这取决于建立的缩放因子SS,其自身不仅取决于在接收侧具有什么PB_D值,因此取决于针对其的最优外观图像有多少对应于各自的HDR和SDR外观,而且也取决于针对曲线确定而选择的角度(例如,从垂直开始向左转45度)。因此,我们的实施例中的一些通过重新计算定义参数的辉度映射函数并且根据取向度量原理而工作。
知道了如何进行基本计算(其能够应用的简单实施例对图像细节和分级者的期望很大程度上不明了,但是仍然需要为(一个或读个)可用的显示器产生合理的MDR重新分级的图像),现在将给出若干更详细阐述的实施例,描述分级者能够如何对其做出改变,方式是结合适于当前HDR场景的特性的更多几个技术控制参数。
图22示出了能够如何针对特定HDR场景或图像立即对哪些MS值将对应于哪些可用的PB_D进行编码。根据上文应当理解,针对我们的MDR辉度映射(或者通常的色彩变换)推导,首先需要在度量上定位(即,在0.0与1.0之间,或者甚至在该外插范围外部)点M_PB_U,能够利用归一化坐标MS这样做。然后,根据这个值,能够将用于执行HDR至LDR(或者在其他情形中,如在模式2中,LDR至HDR)色彩变换的任何形状的辉度映射函数转换成计算MDR图像所需的函数。现在,如果具有明确的度量位置确定函数(2201),例如,被传输为LUT,或者简单的方程,在原则上甚至不需要基本度量定义。如果分级者能够以简单的方式确定这样的函数可能是有利的,例如,可以使用分级者能够通过例如转动旋钮而改变幂的幂律。然后,将在其MDR显示器上立即看到图像的总体外观如何改变,或者聚焦于关键区域,如例如黑暗中的怪物,他希望在合理程度上使怪物可见,以确保在查看者住处的所有其他实际显示器上类似地合理可见。
但是,当具有良好度量时,也能够设计如图15所示的精细调谐变化。在此,m_MT_norm_in是针对我们特别选定的度量的MS值,即,其将再次在0.0与1.0之间延伸。因此,我们能够计算针对PB_D峰值亮度的特定显示器的值。如果分级者不指定任何内容,作为输出的所得m_MT_norm将相同,并且如在上文所解释的实施例的任何实施例中的标准自动显示调谐将适用。然而,分级者能够指定从该形状偏离的函数,优选平滑地偏离,并且结束于0.0和1.0坐标。例如,他可以设计幂函数,其幂参数gpr确定了即使对于非常高PB_D的显示器(即,m_MT_norm_in接近0)或其者他附近方式(如偏移dgr的所得M_PB_U点的位置看到的),MDR重新分级应当看起来多像所示的LDR分级。他甚至能够针对复杂函数编制,其可以针对高于特定峰值亮度的显示器具有例如不同的行为,该行为可以由第二参数gptt、甚至更多参数来编码化,例如,定义曲线的线性下部等。
因此,读者理解,我们的技术能够采用若干种度量(例如,若干种相对类似的OETF定义,其粗略对应于等亮度步阶,或者对分级的这样的亮度行为进行建模的其他的函数),并且还有若干内插方向以及若干种来确定其的方式。例如,在简单装置中,其可以被固定在硬件中,并且通过在例如处理器上执行计算来这样确定,并且更复杂的实施例例如可以在MDR计算策略之间切换,例如,根据影像中的每幅图片(或者甚至针对图像的部分,例如,可以利用一种度量或甚至一个方向内插更低亮度,更高亮度利用另一度量,并取决于对所有内插色彩投影不那样严格的场景),例如,在从内容生成侧接收的来自人类分级者的所传输的控制原理下,通常作为一个或一对容易的参数,其对MDR图像的外观确实具有主要影响。
图24示出了能够如何通过比色方式,以两种方式表示任何从第一像素辉度或在本范例中为亮度(由某线性方程从线性亮度定义,线性亮度分别来自非线性R’G’B’色彩分量,其经由某种非线性光电传递函数OETF与线性加性红、绿和蓝色分量相关,即,R’=OETF(R),G’=OETF(G),B=OETF(B),OETF例如是Rec.709中定义的SDR OETF)、例如HDR亮度Y’i,到第二亮度的任何映射(在同一色域中,例如,归一化到1.0),第二亮度例如是对应LDR分级图像的亮度Y’o。首先,如上文所解释的,能够应用具有取决于色彩(在本地处理甚至取决于像素的情况下)的g缩放乘法值的乘法函数。这可以通过等价地对HDR色彩的非线性红色、绿色和蓝色分量获得LDR色彩做乘法来实现(或者反之亦然,因为该方法能够工作于其他方向中,例如,从LDR分级导出HDR分级,对于模式ii HDR编码系统,这是典型的,该系统通过传输一组旧版SDR 100nit图像而对场景的HDR外观进行编码)。然而,也可以从任何参考缩放亮度(或辉度)值Y’n开始,所述亮度值被称为某个水平,并且将该值(或者等价地,其R’G’B’或RGB色彩分量)缩放某一缩放辉度值Ls。在Y’n是LDR亮度Y’i自身时,再次具有以上乘法关系,例如如在图1中所例示的(那么,原则上如何计算g因子不重要,即,基于哪个计算系列来获得例如f(Max)/Max值或F(Y’)/Y’值等不重要)。
如所述的,我们的显示调谐原理可以广泛适用,并且能够实现于各种装置电路形式中,尤其是实现于各种色彩空间中。下文我们给出基于由HDR解码器接收到的SDR(即,100nit PB LDR)输入图像的非线性亮度的一些实施例。
在图25中,分裂器对来自像素色彩(Y’UV,其通常为在例如HEVC的MPEG型编解码中所使用的YCbCr表示,)的亮度分量进行分裂。上方处理轨迹可以由任选的色彩处理器2503对输入色彩进行所有种类的色彩处理,但是其包含色彩转换器2504以将色彩转换成非线性R’G’B’(即,Rec.709OETF定义的色彩分量三元组,或者平方根定义的非线性色彩分量三元组)。为了阐述本发明,我们将假设色彩处理器将基于那些像素色彩的辉度,仅对要处理的运行像素色彩进行饱和度修改,如在WO 2014/128586的图15A中所教导。可以有函数确定单元2526,其使用算法来确定饱和度函数s(Y’),其中,s为用于对色度分量Cb=B’-Y’和Cr=R’-Y’做乘法的取决于亮度的乘法器(或者类似地使用备选饱和度处理定义),使得MDR范围上没有过多色彩被色彩剪切,但是对于本申请而言,仅假设有这样的函数s(Y’),其然后将被色彩处理器2503用于对起始图像中的各种色彩进行饱和或去饱和(即,在本示范性实施例中,SDR图像被用作起始图像,但加以必要的修改,备选实施例可以通过从HDR图像、例如Im_RHDR开始来导出MDR图像)。然后,在亮度转换器2501中,应用由接收的函数定义元数据所定义的函数,即,该部分类似于例如图1中的上述实施例,处理路径在来自任选的SAT单元106的输入(R,G,B)与通往乘法器的g因子输出之间。再次利用适当的g对该输入色彩做乘法(或者在各种实施例中,称为例如gt),但是这里g被称为Ls。经缩放的R’s、G’s、B’s可以仅仅是LDR图像(即,HDR/LDR对的分级LDR外观的图像,这是在本实施例中接收的内容)非线性色彩分量(例如,R’s=sqrt(R_linear_LDR),其中,R_linear_LDR是用于混合以在100nit PB显示器上产生正确绘制的图像所需的红色线性色彩分量)。R’s等通常可以是sqrt(R)/Sqrt(Y)分量,Y为某种特性辉度,或者HDR与LDR辉度或亮度值之间的因子。输出非线性色彩分量R’o、G’o、B’o是定义HDR外观图像的分量,例如,通常,在本实施例中,也利用Rec.709逆BT1886来定义,或者是针对该色彩分量定义的所使用的非线性的平方根定义。这意味着,然后可以通常以与辉度(其被通用地定义并且在线性光子计数空间中)相比的平方根非线性方式看到(即,被定义)Ls。还可以有色彩格式化器2506应用的另外的色彩格式化变化,产生适合传输到显示器的色彩表示Rd、Gd、Bd(例如,在HDMI连接上)。例如,一些显示器可能具有接受线性RGB的模式,在这种情况下,色彩格式化器2506将对三个分量R’o、G’o、B’o应用平方幂操作。但是其他显示器可以具有其他HDR图像通信格式,例如,以在连接器所允许的极限中压缩所述信息,并且然后,由2506应用该最终的编码化。在所连接显示器2510内部,可以由色彩增强器2511应用另外的色彩优化。这能够具有以下:在图像预调节的条件下,我们的显示调谐实施例(或者,尤其是如果我们的单元是HDR图像编码器的直接部分,立即解码到某种适当的中等介质动态范围格式,即,对于不等于共同编码对的HDR图像的PB、也不等于LDR图像PB的显示峰值亮度)仅应用于基于绘制显示器的峰值亮度的特性的显示调谐和/或仅应用显示调谐到例如辉度的亮度的95%,或者例如亮度的80%,并且将最暗色彩的实测和表征的绘制环境优化留给电视制造商的专用算法。电视能够包括例如相机,其通过应用面部检测来查看查看者的附近,并且然后表征多大量的光直接在他身上闪耀(以及可能还在什么角度,例如,沙发上方数个点),以及哪个是一般周围照明,即,墙壁的直接+间接照明,为观看室建立一般暗度水平等。这些参数然后未必在我们的预调节显示调谐算法中被输入(尽管可以使用该信息来决定对最暗色彩的适当调谐),被用于电视内部,以用于优化最暗色彩,例如,使其被色彩增强器2511加亮一些。任选地,一些实施例可能具有条件式预加法器(2555),这允许为对色彩处理做乘法进行更通用的调谐,尤其是当针对需要最暗图像色彩的加亮版本的明亮照明观看环境进行优化时。例如,该预加法器使用固定或预先计算的YT阈值,并且增加固定或预先计算的k值,并且类似实施例可以对三个RGB分量这样做。
能够根据该原理做出各种实施例。
例如,可能有用的是对优化的取决于显示器的外观进行计算,并且其具有线性化色域中的对应gt或Ls。例如,在图26的实施例中,在亮度的感知均匀的表示中定义从LDR升级到HDR的特定(例如,由色彩分级者所定义的)辉度映射函数(这允许分级者对所有图像对象的外观和亮度进行更快、更相关的控制)。因此,图25的框2501在本实施例中按照相继次序包括:平方幂单元2601,或者作为备选,BT1886标准显示器EOTF函数应用,然后是将从应用变换得到的“亮度”值Li(然后至少在非常好的近似上,将是辉度)转换成感知上更均匀的亮度值P的函数,如均匀化单元2602所执行的(其可以应用例如由Philips:方程8所定义的OETF)。辉度映射单元2801根据内容生成器的需要而应用任何映射,并且能根据在元数据中接收到的其编码化来重建。例如,其可以根据LDR外观,通过提升中间区域中的辉度,并且抹平最亮辉度中的一些,来生成该示范性HDR外观。其仍然在感知域中生成HDR(或MDR)外观辉度Pho,这能够被线性化器2604转换成当前处理的像素的线性亮HDR亮度值LL。在本实施例中,表示转换器2605通过应用平方根对其进行转换,获得:Ls=sqrt(LL)。辉度映射单元2801可以是上述各种形式或其他形式,即,其可以获取MS值(无论例如由STB基于绘制时建立的条件来确定,或者由内容生成器指定,或者那两者的任意混合,即,MS=FUNCT(MS_1,MS_2),其中,MS_1和MS_2分别是生成器指定和接收器指定的值[或者任何其他等价变体,例如,MS=MS_1+Delta_MS等]),并且确定某种适当的新辉度映射函数,以用于将LDR映射到具有显示峰值亮度的MDR而非映射到例如5000nit的HDR(如2603内部的虚线和实线曲线分别表示)。
图27描述了另一实施例,其中,大部分框如在图26中那样,但是现在计算线性光HDR辉度和SDR输入亮度Y’I的显式除法,并且针对该特定实施例,将这种除法被提升到幂MS,其中,0<=MS<=1,并且MS再次是根据任何自动、人定义的或者半自动方法来指定的。
图28是用于某些其他、例如复杂显示调谐实施例的有用实施例。现在,被实现为辉度转换器2501的辉度变换单元首先使用辉度映射单元2801将LDR图像辉度转换成HDR图像亮度LLH(在感知域中,但是可以在线性或sqrt域中做同样的事情),并且然后,由显示辉度重新映射器2802应用(例如,从PB_HDR=5000nit降级到PB_D=2800nit)显示调谐辉度映射,这产生正确的显示调节的辉度LLDA。这样的实施例例如允许连接的显示器经由输入部2888向2802中加载其确定的辉度映射函数F(LLH)(无论该单元2802处于单独的STB中还是形成电视中的HDR解码器的部分),而不是仅仅输入MS值,使显示辉度重新映射器2802计算对应的辉度映射函数。然后,还能够使用不与(一个或多个)重新分级函数的形状紧密相关的映射函数,在(一幅或多幅)接收的LDR图像与(一幅或多幅)主HDR图像之间进行转换,等等。
图30阐述了能够以若干种方式执行通过生成最优MDR图像实现的我们的显示优化。例如,在图30A中,示出了可以在对(假设接收为SDR)接收的图像解码成HDR版本(为了理解简单,假设是对主HDR图像的重建,例如,PB_C=5000nit)Im_HDR之后,将此用作后验图像处理。从此开始,显示调谐降级到所需的Im_MDR,例如,针对700nit或1500nit PB_D的显示器。在这样的拓扑中,两个单元解码器3001和色彩调谐器3002可以实际上被包括在不同装置中,例如,解码器可以被包括在STB或计算机中,而色彩调谐器可以存在于电视中(在这种情况下,尽管其得到重建的HDR图像,但是其仍然得到函数F_ct),或者其可以在同一装置中,或者甚至一个或多个单元可以存在于例如联网的计算机上,联网的计算机利用预先优化的内容为用户服务。
然而,另一种拓扑(在图30B所示的)是这样的:立即考虑映射到MDR,即,当输入Im_SDR时,不需要立即导出HDR图像,但是可以立即从SDR图像导出例如700nit的图像。所述映射是首先到例如5000nit、并且然后到700nit的所有映射的组合,并且能够由软件优化单元3012预先计算。尤其是如果所有映射仅具有其相乘的缩放,则到达要用于每个像素亮度的最终乘法器的所有这些乘法器的组合被相对简单直接地执行。这种所需的变换能够在接收函数F_ct之后预先计算,并且作为LUT(Y’_out=LUT(Y’_in))被传输和加载在解码器3010中,以用于图片的下几张图像上,或者换言之,直到接收新函数的时刻对于下几张图像有效(一些实施例可以仅为场景中的N幅图像发送一组函数,但是其他实施例可以为视频的每幅相继图像接收新函数)。在软件优化单元3012需要做更复杂的处理的情况下(例如,包括图像内容分析),在1幅或数幅图像中可能存在延迟3011,因为通常还可以传输色彩LUT(CLUT),以供色彩处理器2503处理,但是其他实施例可能没有这种延迟。这样的拓扑优点在于,仅需要1组硬件,并且最优显示调谐立即在(现在可变,而不是像正常解码范式所指定的那样是固定的)解码步骤中被考虑。因此,假设使用这种有用的拓扑,我们将进行稍多的阐述(技术人员读者理解如何将各种教导的部件应用于所有变体)。
图31示出了进行调谐以获得MDR图像以及其辉度Y-MDRL(或者,等价地,在类似实施例中为亮度)的实际非常有用的方式。
SDR辉度Y_SDRin被感知化器3102例如通过以下函数映射到感知上更均匀的亮度表示:
Y’U=log(1+[rho(Y_SDRin)-1]*power(Y_SDRin;1/2.4))/log(rho(Y_SDRin))[方程10],
其中,rho是恒定的,其取决于用于任何图像的编解码器的峰值亮度(在这种情况下,SDR的PB_C=100nit),这是根据下式针对Y_SDRin和归一化到1.0的Y’U确定的:
rho(PB_C)=1+(33-1)*power(PB_C/10000;1/2.4)。
由于仅仅为原理,也能够使用其他亮度均匀化器,目的是该亮度Y’U中的相等步阶更密切地对应于视觉上相等的亮度步阶。
这种算法中的其余部分将在该域中工作,这是由线性化器3105撤销的,其重新转换成像素色彩的线性辉度表示。
在本实施例中重要的是调谐的两步方法。我们能够利用降级子部分3110对其最好地解释,因为该示意图对应于首先由升级子部分3100将DSR转换成HDR(例如,落在高达PB_C=5000或1000nit范围上的YHL HDR辉度)并且然后通过降级将HDR转换成所需的MDR辉度(Y_MDRL)的示范性变换。再次地,所有操作将在感知均匀的亮度域中执行(即,将变换均匀的相对HDR亮度Y’H)。可以有第一任选增益映射3111,其映射图像中实际的特定最大亮度(例如,尽管PB_C可以是5000nit,但是这样高的亮度可能被认为对于当前图像场景而言过亮,因此分级者可能已经将内容分级达例如2000nit的极限,然而,给定SDR的显著减小的动态范围,使得有意义的是将此映射到针对100nit的最大可能值,即,对应于100nit PB_C的代码1023,然而,对于例如将一个HDR编码为另一HDR的系统而言,可能没有这样的增益映射;类似地,一些实施例可以进行一些黑色映射,将HDR亮度Y’H的一些黑色映射到归一化HDR亮度Y’HN的一些黑色)。但是重要的是,在这些归一化HDR亮度Y’HN上,其将仍然具有典型HDR图像的亮度分布外观,粗的亮度映射单元3112可以应用粗略映射。这种映射粗略地管理一些子范围的映射,在其上稍晚映射各种图像对象的实际期望最优亮度。例如,我们发现效果良好的一种实际变体是在图像中分配用于放置所有暗亮度(SD)的子范围和用于放置最亮可能亮度(SB)的子范围的变体,在此之间,然后能够容易地设计中间范围,例如,在我们的实施例之一中,为抛物线连接段(例如,基于中点和某个宽度来定义,例如,在中点处,针对最暗和最亮亮度的线性斜变段汇合)。
无论分级者希望对落在这一例如暗的子范围中的实际对象独立地做什么,例如,稍微加亮最暗的对象,调谐算法能够利用两步方法明确地控制最暗的色彩应当在哪里,即,在每种观看情形中,其应当跨哪个子范围(即,显示器有多亮,其PB_D,将影响这些暗处可能有多暗,和/或观看环境亮度还影响图像的尤其暗区域的可见度)。分级者(或生成侧的自动分级算法)然后能够在这些可调谐范围上自动正确地定位(假设如参考图32所解释地应对调谐),确定其精细分级,例如,面部是否应当变得稍微更亮,或者相反,或者阳光照耀中的白色座椅是否应当稍微更闪耀等。精细分级单元3113负责粗略亮度Y’CG的这种最终调谐,产生精细分级的亮度Y’FG,之后线性化器3114转换成被最优重新分级的线性输出亮度Y_MDRL。技术人员应当记得,这些函数最初是在生成侧针对从例如5000nit的主HDR到SDR(100nit)降级的状况生成的,而不是像现在那样降级到例如3000nit或700nit,因此,其必须被正确地修改,这是最优调谐算法所做的工作。所有这些单元都将在上子部分利用相同的函数进行镜像,但是当然被不同地调谐。即,现在在按照相反次序进入感知域之后,第一精细分级单元3102将均匀亮度Y’U转换成重新分级亮度Y’RG(这仍然在SDR动态范围外观中,但所述对象中的一些对象具有不同的亮度),然后,粗略分级单元3103将应用至少三个子范围的粗略分配函数(这实现了,现在对象亮度已经从SDR动态范围外观变换成HDR外观),并且然后,任选地,可能有缩放器3104的一些白色缩放,其将归一化HDR亮度Y’HN(即,1.0)的最大值映射到最终HDR亮度Y’H的某个更低位置,例如,5000nit PB_C表示上对应于2000nit的亮度(假设使用任何代码分配函数,在本实施例中,假设是上文的方程[10])。
如所述的,这些单元可能实际上并非这样存在于接收装置中,因为其是概念性部分,软件可以使用其确定辉度LUT(LLUT)以在实际唯一辉度映射单元中预加载,但是其阐述了调谐能够如何有利地工作。
图32稍微更详细描述这种情况。图32a示出了如果他在生成侧有例如600nit MDR状况可用则分级者会希望发生什么。但是,由于PB_D可以是任何内容,他将始终没有那种状况。再者,有意义的工作假设是,如果他希望加亮例如车中座椅的像素,即使其先前已经被粗略映射预先加亮,他也希望加亮那些相同的像素。因此,分级者将希望做的是精细调谐在MDR、例如600nit轴上定义其辉度、即例如像素具有中间辉度Y_im的对象的辉度。然而,接收器既未获得最优的HDR至MDR映射曲线3203,也未获得像素3303的改变的位置。其一开始确实具有的是HDR至SDR曲线3201,以及分级者在生成侧像素3304处、即某些SDR像素处(在辉度范围的0-100nit部分上定义)希望如何精细调谐的规范。但是,实际应当发生作为第二精细分级的是图32b的CC曲线所示的内容。但是,如所述的,在接收侧装置已经定义了最优粗略分级曲线3202之后,仍然仅可用的是在SDR和HDR轴系统上定义的精细分级曲线。但是,我们能够忽略感知化,并且然后是在所有这些中的稳定因素,与600nit PB_D范围上的初始SDR亮度Y_inL(这里再次假设在本阐述中,将HDR作为SDR图像来传输和接收,其需要被重新分级到MDR)和中间对应粗略辉度两者相对应,亦即,Y_im是HDR辉度Y_HDR。针对任何Y_HDR的辉度Y_im与Y_in之间的关系是粗略映射。因此,如在图32中对应于需要内插LUT的软件优化器3012的所示,通过使用粗略映射来确定SDR援引的LUT中哪个条目、亦即Y_in对应于所需的MDR援引的辉度Y_im。在那样做之后,能够在对最终LLUT的计算中使用该LUT。
图33示出了阐述性实施例,其能够被用于优化MDR图像的最暗部分,特别是如果具有能够绘制非常暗像素的显示器,尤其是当在暗环境中观看时。这里假设,将5000nit PB_CHDR图像(其包含高达非常暗辉度(例如,0.001nit或更低)的图像数据)作为SDR图像来传输。从纯粹基于信息的角度看,需要在SDR中编码最低亮度,即,为其赋予暗绘制,但是具有线性映射曲线,其具有充分大的斜率,因为现在其必然最先充当针对最暗HDR辉度的代码分配函数(而不是专门最优的LDR分级)。能够假设这是要合理地转换成在正常电视观看环境(例如,光线暗淡的晚间)中具有例如0.1nit的最小最暗像素绘制的SDR旧版装置,即,这是代码“0”将对应的内容。但是,这种线性分级对于具有更好的绘制暗亮度能力的装置将不是最优的。因此,调谐能够应用另一种调谐函数,其给出暗区域的更好外观,直到最暗处的末端(去在例如HDR范围中被称为阈值Thr_DH,或者SDR范围被称为Thr_DS)。例如,其能够使用根据接收器知道系统能够绘制多暗而带来一些额外的对比度(当以绝对暗度驱动时,作为显示器的DB_D最暗黑色和周围照明两者的函数,周围照明影响显示器前面板反射和查看者视觉调整,并且需要看到特定深度的黑色)。例如,简单函数能够是伽玛函数拉伸,但是能够使用更高级的函数,例如,在确定在高达Thr_DH的最暗子范围中有哪些语意子区域或对象之后。在一些实施例中,在最简单变体之外,可能还有关于图像或者关于生成图像的任何别的内容的其他信息。例如,在人要对内容进行色彩分级的显示器的最暗黑水平指示其显示的哪些辉度仍然能够充分不同地绘制(考虑其泄露光或前板反射)或者通常哪些最暗辉度仍然将被分级者视为不同的情况下,当决定将使用哪种显示调谐或者通常绘制侧色彩优化时,这种信息对于任何接收装置而言也是有用的。例如,如果查看者在黑暗的观看房间中具有OLED,估计其对于最暗色彩比例如内容生成器的LCD参考显示器具有更好的绘制能力(如被传输的最暗黑色水平值所指示的),那么接收侧调谐色彩处理装置实施例能够决定仅在特定程度内应用拉伸函数,因为正在生成伪暗辉度,生成艺术家实际不能自己看到伪暗辉度(但是高达能够进行的特定量,例如,当绘制状况需要额外的对比度以获得更好外观时)。因此,在该实施例中,所得的公共乘法因子的确定,以及在各实施例中形成其依据的最优调节函数形状的所有计算,也将取决于生成显示器的所传输的最暗黑水平的值。
再者,即使构建为用户做每件事情的强大的自动接收侧调谐系统,查看者可能仍希望对系统有某种控制,以赋予其偏好。然而,查看者不是专业人员色彩分级者,因此,即使他有时间和期望,而不是希望看影像,我们仍不应当干扰他进行这些复杂的色彩色度问题。这是我们的系统非常有用的地方,因为其已经在显示器中实施了创造性艺术家的方法,并且查看者然后仅需要根据其偏好做一些快速(和可感测的)精细调谐。那是在图34中示范性示出的内容,在用户发现HDR图片对于他的喜好而言有点过暗的情况下(类似地,一些用户发现HDR过亮,并且然后能够进行类似的处理,但是那人将大部分在最亮像素上工作,或者可以是平均亮的那些像素而不是暗的那些像素上工作)。如果查看者认为特定场景或影像的图像太暗,例如,因为他正在相当明亮的环境中观看,那么这可能是因为最暗的区域太难看到。因此,并不是进行全局亮度增大,这将再次损伤HDR外观,这是不希望的情况,我们将其新的亮度按钮仅耦合到最暗的范围。在以上三个子区域的粗略分级中,暗处的最低区域通常由上辉度阈值定义和传输,为此,已经在此在这次为1000nit的HDR范围上示出了HDR值Thr_BKS。如果针对700nit MDR显示器的初始优化映射曲线3401是基于色彩变换函数F_ct中传输的仅仅分级者的期望和观看状况(至少PB_D)而自动确定的曲线,那么用户能够通过能够在数个加亮步骤中升高暗处的曲线子部分来调谐其自己的曲线,并且中段然后也移动,以与针对亮处的未改变斜率相链接。
图35示出了调谐规程的仅一个范例,这是分级者希望在峰值亮度介于例如5000nit与100nit之间的所有显示器的谱上看到的内容。
参见空间站的范例,内部具有暗辉度(辉度子范围SL),在所有显示器上这被绘制为相同,因为高达60nit的范围SL适配在SDR范围中。外部看到的明亮地球(子范围BE)应当具有亮得多的辉度,但是SDR上没有太多净空。仍然不应当仅仅向更亮的HDR显示器或者在这将恼人地明亮的一些显示器上无限地拉伸该40nit的范围。因此,在针对从某种MDRx显示器向上的那些明亮处(PB_Cx=600nit)的映射函数中应当有某种弯折。接收侧能够估计在重建的HDR图像处观看,并且显然,生成器不希望那些区域高于600nit,尽管有高达1000nit的空间可用。所述调谐然后能够在要求、例如时间一致性与针对更亮场景的稍晚净空需求之间进行优化,但是在该范例中,其为具有高于600nit的PB_C的所有显示器保持上限相同,并且决定使用所有可用范围的600nit显示器,以在子区域Be2中将星球外部的亮度绘制成尽可能亮,并且压缩到例如针对更低PB_D的Be3。
图36图示了针对典型挑战性HDR场景图像希望的显示调谐的另一种可能的范例。查看者正在正常照明的房间中观看(像素辉度在MIDRM子范围中),在地面中间,从前景暗室(DRK),其中,所有灯都被关闭。透过窗户向外部看到明亮、可能是阳光照耀的外部世界(子范围OUTS)。当进行物理辉度测量时,可以发现,中间房间中的“正常”辉度通常为外部的大约1/100th,因为考虑到几何因素,如窗口尺寸和街道另一侧处的建筑物的接近程度等,本地照明可能通常为室外照明的1/100th(当然根据其为何,以及中间房间是否唯一由外部光照明)。暗的阴影部分例如可以有10倍更暗。因此,已经有了照明比1000:1,并且假设典型的物体反射率在90%与1%之间,这意味着在场景中能够预期100000:1的辉度比(尚未考虑太阳在金属物体上的镜面反射)。当然,在主HDR分级中,可能不会发现被编码为例如10000nit的太阳照耀的室外物体,因为图像通常是在更暗环境中观看的,并且直接在小的显示器矩形上并且在影像的时间线上不太显眼(例如,能够决定从场景中过亮的物体移走视线,但是要舒适地看影像,并且大部分看的是演员,而不被例如外部明亮的商业TL灯牌分神或烦恼)。因此,根据生成主HDR图像的艺术家,图像中的对象像素针对其辉度具有稍微不同的值。在本范例中,假设对1000nit的图像进行编码,并且对于更低的PB_D以及也有更高的PB_D需要调谐(通常,可以遵循本文无需阐述的艺术上的其他原理,但是在技术上,可以使用类似的技术部件实现某种升级显示调谐)。从这种调谐规程和从连续可能PB_D显示器谱连接示范性显示器的连接线的各种角度看出,该图像可能需要精细得多的显示调谐。例如,对于这样高复杂性的HDR图像,可能需要比仅仅非线性压缩策略关键得多的选择以通过过小的SDR动态范围的方式适配某种合理外观图像。例如,如果计算另外的图像不需要SDR图像,则可以决定将辉度子区域(也称为区块)的一些进行硬剪切,即,将接收到的COD_HDR图像所有1000nit的辉度映射到单个辉度值或非常少的值。如上文所提到的,在我们的各种实施例中,各种播放器能够决定。例如,电视能够在其预编程的智能启发式算法中决定这样做,进行HDR到SDR计算。或者,所述内容分级者可以指示其希望保持较暗区域(因为在暗室中稍晚可能发生感兴趣的某事),但是牺牲外部,其方式是使窗口均匀白色(他将通常通过HDR至LDR降级函数的形状来传输,但是也可以利用额外元数据来传输,例如,如图6所阐述的,方式是发送一些参数,所述参数规定或引导能够或应当如何调谐各个辉度子区域)。但是重要的是要理解,实现这样行为的调谐算法不能够简单地通过向SDR像素辉度应用简单辉度映射函数形状而工作,因为那样SDR图像中的单个白色辉度(通过窗口看到的外部像素)将不扩展到例如400nit MDR调谐图像中的一组各种辉度。同样地,可以看出,可以根据针对400nit与5000nit(并且可能更高)之间的所有显示器的等辉度规程来调谐暗区域,然而,对于比具有PB_D=400nit的那些较小的动态范围,需要暗化无光照房间(DRK)的像素。尤其是当被自然光照时,HDR图像会是相当复杂的。例如,考虑警车通过黑暗的夜间森林追踪。车的头灯能够以复杂图案照射树木,并且在其顶部将是警车的红色和/或蓝色警报灯。尤其进一步在森林中,会有非常暗的隐蔽处,尤其是如何不在满月的情况下。尤其是当调节图像对象的色彩/辉度以在任何特定显示器上获得看起来更优化的图像(理想地,类似于其参考显示器上的主分级外观)时,那么可能远不是无关紧要的,需要一组很好的技术方案以对其进行处理,尤其是实用地对其进行处理。什么也不做通常导致图像的一些部分看起来令人恼火地暗淡,和/或其他部分过亮,后者例如在实用过于简单的应对处理时。在那之上,原则上将喜欢能够应对图像生成的许多实际变体的方案,并且使用例如在比色上设计很好的工作室拍摄、小团队进行的现场生产、要在BD上分布的大型好莱坞影像、消费内容等。
图37示出了更复杂的显示调谐变体能够如何进行更复杂的计算,例如,考虑到关于图像中可能最亮的像素的特定期望,或者相反,最暗的像素,特别是在更亮观看环境中观看时可能变得难以观看的情况下(例如,您正在看电视,但是您的配偶希望在同一房间中读书,即,打开一定量的灯,并且该调谐能够应对观看房间中存在的灯的组合的任何打开配置)。可行的是通过离线地确定适当函数,并且在核心计算单元中加载所需的、例如(一个或多个)SDR至MDR 1650nit辉度变换函数来构造更高级的调谐技术,所述核心计算单元然后根据其导出乘法器gt。进行所有各种确定的最优函数确定单元3701可以作为软件运行,并且分析接收到的SDR至HDR函数、图像的特性(尽管如果在重新分级辉度映射函数形状中最优地使用信息时可能不需要)、绘制环境的特定细节、在第二元数据中传输的内容生成器的进一步需求或者装置制造商的选择或者查看者的希望。所有这些能够获得不同的最优函数F*,其已经被变换成所需的MDR输出范围,或者在主HDR范围上编制并且仍然能够在色彩处理内核中进行调谐,色彩处理内核由单元3701右方的单元示范。
在图38中,给出了能够如何使用辅助函数、例如通过控制最终SDR至MDR辉度映射函数的仅部分、即针对输入亮度的子范围的形状来重新确定所述调谐的范例。示出了与图17的那种不同的调谐,其中,尽管在该范例中HDR至SDR映射需要对该范例进行相当大量的剪切,但是MDR重新分级或调谐的图像没有任何地方展现出硬剪切。然而,从HDR图像(无论是被传输的或重建为Im_RHDR)1703导出MDR图像的这样的示范性曲线未示出软剪切的长尾,这对应于很快离开HDR曲线,即,对角线。对于某些种类的调谐而言可能希望长时间停留在对角线上,即,使辉度与HDR图像的那些相同。对于暗辉度,例如,低于40nit,能够理解,在一些情形中,可能有用的是在任何PB_D显示器上、即在SDR显示器或任何HDR显示器上以相同输出辉度绘制那些图像。有时会希望将该要求保持甚至高达非常高的HDR辉度,即,导出调谐的曲线3801(其中,在本范例中,HDR图像形成输入图像,供色彩变换以获得取决于适当PB_D的MDR图像作为输出图像)。当然,4700nit的图像永远不能够包含与5000nit PB_C图像恰好全部相同的辉度,因此,在有些时刻,必须要离开辉度-身份变换曲线(即,对角线),并且开始某种软或硬剪切。在本范例中,有一定范围的RLB能够被选择用于硬剪切,并且过渡范围RT用于软剪切,其能够由装置选择为小的(通过其自己的内部计算规则或者在内容生成器和/或查看者的输入的指导下),因此,MDR分级者尽可能可行地查看HDR外观图像,即,如同购买5000nit显示器而非4500nit显示器那样。这可以被内容生成器意识到,尽管可能较少被装置制造商意识到,并且在最高辉度例如是金属反射高亮等的情况下效果相当好。
图39图示了能够如何由度量定位函数(例如,由希望指示装置根据这样的行为进行调谐的内容生成器)指示这种情况。在水平轴上给出了可能的PB_D值,以及阈值TPERF,在阈值以上,显示器应当根据生成的主HDR分级像参考显示器那样表现(即,如同PB_D=PB_C=例如5000nit)。在y轴上是度量上的距离,在这种情况下,其被指示为与SDR分级的差异(或者与HDR主分级的接近度)。当然,对于SDR显示器而言,该距离应当为0,即这样的显示器应当被供应SDR图像。当装置看到其应当如高于TPERF的HDR显示器那样表现时,其能够决定策略以将尽可能多的MDR辉度保持等于HDR辉度(将在对SDR输入亮度进行色彩处理时获得),然后,决定一些需要的(软)剪切策略,例如,如结合图38所阐述的。或者,甚至可以对低于TPERT的辉度进行一些小压缩,从而为最亮像素的软剪切留出稍多空间(例如,不能够在4700PB_D显示器上绘制的辉度4700-5000nit),这被稍微偏离对角线的更粗曲线示出。
图40图示了另一范例,其允许在垂直方向上进行计算上简单的显示调谐。同时其示出了,针对非常有用的详细实施例的一些任选(虚线)框,作为一般原理,调整单元4025为最感兴趣的一个。
假设(并非限制)Y’CbCr SDR图像经由输入部4001进入。上部分是根据申请人的通用实践方法的辉度处理链。首先,利用标准化的BT.1886EOTF(这是原型SDR显示器的定义,并且采用零黑色偏移,因此,该方程近似为平方幂)对SDR亮度Y’_SDR进行线性化。然后,感知化器4003将从先前的线性化器4002输出的线性辉度变换成视觉上更均匀的亮度Y’P。尽管其他方程能够是可能的,但是我们假设使用我们的Philips HDR OETF(以上方程8),参数如所指那样,例如,rho等于5.7,对于SDR显示器这是适当的值,即,针对100nit的PB_C的归一化值。非常有用的是,在这样的色彩表示中进行显示调谐,尽管不是必要的,并且甚至可以丢弃线性化器,并且直接对(近似平方根)SDR亮度进行计算。然后,定制曲线单元4004应用一些重新分级曲线。在一般实施例中,这将进行所需的所有LDR至HDR分级,但是在存在所有虚线单元的具体实施例中,该单元能够加载来自进行精细分级的元数据的曲线(从SDR归一化表示到仍然归一化的SDR的输出)。粗重新分级单元4005应用函数Fcrs以将单元4004生成的亮度的至少三个子范围移动到现在为HDR范围的适当的HDR位置(相对位置,即,与5000nit的PB_C相比,因为计算仍然对归一化到最大值1.0的表示有效)。在具体范例中,该函数的形状由SSL参数来确定,该参数确定针对黑色的函数的线性部分的斜率,即,开始于0,HSL类似地确定最亮亮度的斜率的陡峭度,并且MIDW确定例如抛物线形状的那两个子范围之间的过渡区域的宽度。最后,在一些状况下,可以有范围调整单元4006,其可以将最大值1.0映射到某种HDR相对值dW,例如0.7,并且类似地,可以将0值映射到dB,例如0.0001。这样最终产生了HDR归一化亮度Y’CH,其具有适当的分级(在感知亮度域中)。感知亮度Y’P被乘以常数1/kb,并且Y’P/kb和Y’CH的最小值被用作最终HDR亮度Y’FH,具有正确的亮度外观。
然后,由线性化器4009将这些归一化亮度线性化成归一化HDR辉度,因为在单元4003中使用Philips OETF,这将是对应的Philips OETF,如由以上方程6所给出的那样。rho_H参数现在将取决于系统要重建哪种类型的HDR图像,并且其将通常落在13.2(针对1000nit PB_C HDR)与33(针对5000nit HDR)之间,但是当然也可以具有其他值。
最后,通常,通过亮度计算单元4010应用BT.1886EOTF的逆函数,线性HDR辉度被转换回到平方根格式,以符合输入格式Y’_SDR(原则上,该标准仅规定显示器以及其参考EOTF,但是技术人员能够想象出如何通过跨对角线进行镜像处理来确定逆函数形状)。
现在,调整单元4025通过应用以下计算来缩放到适当的相对辉度。
首先是从HDR外观作为起始点,计算对应于要重新分级的图像的MDR显示器的PB_D的gp值,类似于上文所描述的内容。因此,通常,另一单元计算gp=log(PB_D/100)/log(PB_C/100),其中,PB_C是重建HDR图像的峰值亮度,当然其对应于HDR编解类型,即,生成侧为HDR/SDR对的HDR图像选择为有用PB_C值的类型(可以通过特定标准的协议确定,例如,蓝光盘将希望使用1000nit PB_C,或者应用的典型需求,即,将出现的图像的种类,例如,对于可能具有高亮但是通常相对均匀照明而不是舞厅照明的新节目——即,没有暗洞或激光剑——可能认为1000nit应当足够了,并且高于此的任何内容都能够被硬剪切到这种白色)。
调整单元4025将乘法应用于输入SDR亮度、即F_tot(Y’_SDR)的总辉度变换函数,其首先被提升到幂gp,由此将亮度提升到幂(1-gp)。
因此,换言之,其计算适当分级的MDR亮度Y’M=power(Y’GH;gp)*power(Y’_SDR;1-gp)。类似于上文所描述的内容,可以将各种更高级技术和实施例转换成该种类的公式,以及将这种最终乘法缩放转换成其他亮度域。
最终,任选地,根据BT.1886形状的函数定义的非线性MDR亮度可以被单元4033转换成另一种亮度格式,例如,辉度的精确平方根版本,该格式就是申请人使用的实施例定义(因此是任选的)。
适当地分级的MDR亮度L’M被用于利用三个归一化非线性RGB值R’等(由乘法器4032)做乘法(从色彩矩阵器4031输出),如上文参考图25所阐述的,产生最终的正确MDRRGB值(RGB_MDR),其可以被直接发送到该对应的PB_D的显示器。
如果通过在饱和度单元4030中的饱和度调节来进行对应的色度处理,显示调谐的这种当前方式非常有用,这通常可以通过将Cb和Cr与取决于输入亮度的因子Sat(Y’_SDR)相乘来执行。针对那些函数的通常良好的选择可以是从Sat(Y’_SDR)=k/Y’_SDR偏离,其中,k是常数,对于更高的Y’_SDR值,比该逆线性函数更小的Sat值,以生成去饱和。这根据所有优化方面给出了很好重新分级的MDR图像(因为当然能够始终不在任何MDR显示器上完美地绘制主HDR图像,尤其是如果其具有例如PB_D=500nit)。
在图41中,阐述了如果有高于平均周围照明时,调谐通常将如何工作的范例。如果周围光变得充分高,与显示器周围的明亮对象相比,显示器上一度被看成淡灰色块的内容——在正常电视或计算机观看照明下——可能会绘制暗灰获知甚至黑色。
在图41b中,现在利用已经针对例如PB_D=1200nit的MDR显示器最优地重新分级的图像开始(原始主HDR图像可能已经包含图像内容,即,高达5000nit的明亮对象,但是已经利用上述策略的任何策略在MDR辉度范围上计算了针对这些对象的对应辉度)。现在,假设周围光照水平提高,那么有意义的是需要再次加亮各种对象辉度(沿对角线)。根据实际图像内容,这当然将最优地是不同的。例如,典型但未必排他或穷举种类的问题在于,查看者在感知图像的最暗区域中到底存在什么时有困难。现在,从理论上讲,可能认为如果周围光被提升例如2倍,那么如果将所有显示器绘制的辉度(因此,还有MDR驱动图像作为输入)线性地提升相同倍数2(如果那甚至已经可能,例如,因为LCD显示器的背光有限),那么将获得相等外观状况。如果人的视觉被完美调整,这可能是真实的,但是在实践中,未必是针对这样的周围应对的加亮的最佳方式,以仍然确保针对任何图像内容/观看限制的组合都是最佳的外观绘制。图41a阐述了原理中的一些原理。如果图像像素的代表性平均辉度(AVGIM)与周围物体的代表性平均辉度(AVGSURR)相同,图像绘制在理论上看起来将最优,所述辉度按照其次序根据周围照明水平而通过物体反射获得。例如,当绘制夜晚场景时,该夜晚场景具有昏暗的房屋墙壁,通过墙壁,警官向着查看者行走,带着闪光灯,如果场景继续进行到周围区域和与在图像中具有近似相同对象辉度的对象,其会看起来非常真实,如同其是房屋的延续那样。应当强调的是,HDR已经改变了所有规则,HDR图像的平均辉度通常绝不等于0.18*PB_C,如其在SDR视频时代中那样。这不仅仅因为PB_C能够是任何内容,并且针对编码对象的可能性的更亮最大值通常将导致较低平均值,但是同样地,因为HDR场景能够包含任何内容,但是常常具有良好的外观,因为其可能具有比平均值亮得多的小高亮处(与AVGIM具有任意关系,当然并非始终5×更亮)。当然,读者将理解,这种模型不是完美的,不去仅在周围照明随着图像内容动态改变时才能够存在,但是这可能并非始终是优选的。因此,通常,当绘制夜晚场景时,显示器绘制可能比周围更暗,并且当绘制日间场景时可能相当更亮(导致显示器的光箱外观,但是查看者主要集中于显示器上,即,基于显示器色彩而不是周围色彩调整更大程度)。针对HDR图像而言,那些差异可能相当显著,因此,对最优体验可能有用的是在要绘制围绕光的夜晚场景时,有时协调灯光至少暗淡到某种程度,以确保图像的暗区域看起来不会过黑,但是通常,不能保证任何绘制系统都将那样做。
然而,有了准确地集中于通常“平均”辉度的主要区域而不仅仅是提升峰值亮度和共同非线性以下的每项内容的全局因素的显示调谐方法,仍然是一种期望的方式,以针对不同环境最优地处理外观调节。
图41b在曲线图4110中示意性图示了这样的辉度变换,因此能够在(例如,PB_D=1200nit的)归一化的MDR辉度L_MDR范围中表征,输出辉度L*_MDR跨相同的范围(这将对应于能够作为驱动色彩向MDR显示器发送的内容)。
再次可以通过各种方式并且以各种程度的代表性准确度获得代表性图像平均AVGIM(例如,其可以在第三元数据中共同传输,或者通过接收侧装置根据采样的一组MDR图像辉度、例如启发式地估计)。在图示的方法中,将该平均值提高量dAV。应当指出的第一件事情是:针对2×增大的照明,这不需要是2×,相反,应当考虑针对最亮对象需要多少范围(即,高于平均辉度4111的区域的最大AM的辉度)。各种实际视觉效应布置该选择。一方面,如前所述,在实践中,显示器上的绘制不需要与周围的平均辉度恰好(均等)协调。因此,将通过在建立的偏移值dAV上方对其进行偏移来提升平均辉度AVGIM(相当于基于该关键位置的提升对最终辉度变换曲线4112的简单控制),从而对其进行加亮,但是可能对于理论上完美的乘法视觉调整不够。例如,如果显示器与周围相比已经高于平均亮度,将该平均值提升对应于L*_MDR值(其仅为1.5xAVGIM)的dAV将使其为仍然有点亮并且色彩丰富的绘制,即使稍微小些,但是可能对于环境而言是相当好的(对于许多图像而言,对暗区域的加亮可能是关于可见度的关键问题,然而,对平均色彩的加亮针对任何周围状况为绘制赋予了良好的明亮、清晰和色彩丰富的外观)。此外,该算法可以使用关于这个主要区域中对比度需要什么的启发式推断。再次地,来自生成侧的某种规范元数据可能指示期望什么,但是启发式自动接收器侧算法根据可用的计算能力可以为图像使用某种场景分析,并且基于以下这样的方面确定所述区域的复杂性:平均区域4111中的直方图子模式的量,本地度量,诸如纹理代表值,或者甚至对象的几何图案的快速分割和查看等,或者图像质量度量,诸如频带估计或压缩错误估计。该算法可以用此计算应当在输出辉度轴L*_MDR上的哪里映射最小Am,或者在这种情况下,所述算法决定能通过与所有平均区域辉度的线性偏移相比将F(AM)降低到输出辉度MXA而允许有某种对比度减小(以平衡对高于AM的最亮图像对象的需求)。同样地,明亮的像素遵循某种重要的生理视觉效应。应当仔细,不要像某些伽马函数那样仅偏移或弯折任意函数,因为那样可能严重破坏动态范围外观,这是由内容生成器和取决于PB_D的调谐先前这样仔细地生成的。需要更亮的像素以生成某些闪耀。当然,再次可能有某些不可避免的动态范围减小,因为仅仅有这样多的周围光,并且显示器即使具有比100nit高的PB_D,也开始运行到其最大值。然而,现在给定所有绘制侧限制,这并不意味着不能尽可能仔细地进行这种优化以尽可能保持在主HDR分级中生成的艺术家原始期望的外观。最优解将再次取决于内容。例如,如果在高于AM的整个亮度范围上,对于该图像而言仅有一些小灯被看做灯泡,或者一些小的金属反射区域,将更可能在本地区域的平均值除以AVGIM的更低绝对比值下对其进行绘制,同时仍然给出良好闪耀的生理外观。然而,当通过窗户(在这种情况下,室内形成平均亮度的区域)看到阳光照耀的建筑物的明亮景色时,需要更仔细地压缩高于平衡计算的MXA的该区域,使得该区域不失去过多对比度和色彩丰富度,尤其是如果也在外部的影像中发生某种重要事情的时候。在本范例中,已经将最暗的像素升高到黑色水平估计BKEst。通常,一种算法将实现这些至少三个区域的平衡的重新分配,并且更高级的算法甚至可以将这些区域的至少一个中的函数4112的形状调谐变为非线性。
如所教导的,进行显示调谐的非常有用的方式由一种方法或装置构成,所述方法或装置用于为具有峰值亮度(PB_D)的显示器计算MDR图像的所得的色彩,所述峰值亮度不等于所接收到的图像或者能根据其通过对其应用共同接收的色彩映射函数F_ct而计算的图像的峰值亮度(PB_IM1),所述函数至少包括辉度映射函数,所述辉度映射函数包括粗辉度映射函数(Fcrs)和精细辉度映射函数(CC),其特征在于:首先基于至少PB_D来确定优化的粗映射函数(FCrs_opt),用于在给定实际显示绘制状况的情况下确定辉度的最优子范围,并且将该粗映射应用于输入图像,获得粗亮度(Y’CG),并且然后,基于精细辉度映射函数(CC)和至少PB_D来优化精细映射函数,并且将此应用于粗亮度。所述粗映射允许根据图像的需求生成子范围的好版本,然后能够将其用于对其之内的对象进行精细分级。例如,从第一数学原理来讲,阴天家中连同外部景色的场景看起来类似于光照明亮内部有物品的商店橱窗的夜晚场景,以及相邻几乎无光照的停放一些自行车的街巷的黑暗区域。尽管自行车可能几乎不可见,并且可能有艺术意图,但两幅图像都包含较亮和较暗区域。然而,白天有光照的内部理想地比任何夜晚场景以更亮辉度被绘制。同样地,由于夜晚场景将通常不被看做明暗对比强烈,可能不需要亮度的大的子区域,即使那里发生某些动作,而另一方面,家庭内部可能需要针对许多MDR显示器有可用范围辉度的相当大的子区域。粗辉度初始映射机制不仅大致允许哪里放置所需的子范围、即具有哪些起始或平均MDR辉度而且每个子范围将具有哪种程度、即量的DMR辉度。能够以各种方式确定两种优化的映射,例如,能够在对角方向上利用最优确定的缩放因子来拉伸生成良好光亮版本的粗映射,并且在垂直方向上拉伸精细映射。但是其他变体也是可能的,例如,针对输入辉度的最暗部分或要被转换成MDR图像的输入图像的亮度,来改变粗拉伸方向。
因为我们的新颖的技术概念能够被实现为各种变体和许多形式(例如,解码中的1步直接计算相对于后处理,不同度量,以及沿度量的调节、不同的色彩表示等),已经增加图42以更简单地阐述(重新总结)我们的实施例中的一些实施例的核心概念。上部涉及纯粹视频编码,并且将仅用于介绍生成侧编制HDR场景图像的可能性(并且特别是在需要重新分级到不同辉度时的需求,以获得针对具有给定HDR能力的显示器的最优对象亮度,特别是其显示峰值亮度PB_D),例如,通过人类分级者指定色调或辉度变换函数TMF,其映射HDR主分级图像(M_HDR)的相对HDR辉度,与对应的SDR图像(RG_SDR)的相对SDR辉度。如何确定该函数,其形状如何,甚至如何在传送给接收器的元数据(MET)中对其进行表示,对于阐述本教导而言都不是必需的。通常要做的第一件事(在各种可能实施例实现中通过各种方式)是在接收侧重新建立这种函数(其在SDR与HDR之间映射,例如,编码PB_C=1000nit表示)TMF。这是因为其形状高度重要,因为其确定了(根据例如人类分级者)应当如何对图像对象辉度“重新洗牌”。因此,对于为特定显示器确定重新分级的任何算法而言这将是重要的引导因子。在许多实施例中,我们将这种例如HDR至SDR重新分级函数视为在已经传输HDR图像的情况下可能重新分级的极端情况(并且对于SDR传输实施例而言,反之亦然)。然后,在输入图像辉度(x轴)与输出辉度(原则上,可以是任何表示,例如,输入亮度如何与其他源生成侧分级图像或特定显示器所需的图像的亮度相关)之间在关系曲线中确定内插方向。一些实施例能够具有例如由数据读取单元向缩放因子确定单元(4205)指定、即输入的方向,所述数据读取单元从与图像信息一起传输的元数据(DCT系数等)读取所述方向,或者,在一些实施例中,能够在装置上对其进行设置,例如,工厂默认45度等。对45度尤其感兴趣,因为当任何表示将第一图像表示(例如,SDR in)的最大辉度映射到第二图像表示(例如,500nit显示器优化图像的PB_C)时,这种方法对对角线的最低表现打折扣。第二,沿着该方向,能够定位度量,通常端点之一位于曲线图的对角线上(例如,参见图21),亦即,作为所传输的输入图像Im_in的该图像。所述方向将确定从输入图像到任何经显示优化的图像的所需辉度辉度函数的中间版本如何发生的数学机制,并且特别是经由度量。具有度量允许在所需或期望程度上对中间重新分级表现做出精确的确定,与例如更粗或一般的方法相反。如所示的,有各种方式获得等价度量,但是当然该单元将具有预设或接收的度量,这对于所需的良好或合理质量的显示优化表现是敏感的。还示出了,可以调谐度量或度量上的位置。读者需要在该总结简化论述中理解的唯一内容在于:可以沿方向DIR在其需要的任何地方定位某种度量,例如,开始于对角线的每个点(其对应于特定输入辉度)。当然,备选实施例可以选择沿对角线仅确定若干点,用于确定要使用的重新分级函数(F_M)的对应点的位置,用于计算PB_D优化的输出图像,并且然后例如通过线性连接来确定其他点等。这样的不同实施例的原理是相同的。因此,如下方示意图所示的,通常,其他端点结束于元数据中传输的曲线TMF上(即,例如,根据接收到的HDR输入图像计算SDR分级图像所需的函数,其对应于代表身份变换的对角线)。因此,读者能够理解,如果能够定位度量METR的若干这样缩放的版本,其位置对应于至少在HDR、例如对角线上的1000nit位置与TMF上的100nit SDR位置之间的各种可能峰值亮度,即,我们针对例如200、400、600、800nit PB_D位置绘制了线段,那么在对角线的每个位置处,也能够确定度量上的位置(M_PB_D),其对应于接收侧的实际可用显示器,并且为此,必须计算具有良好重新分级的图像对象和/或像素辉度的适当输出图像。从概念上讲,读者能够理解,可以通过连接度量上的所有位置,来获得最终所需函数F_M的确定,即,不是根据接收到的HDR图像(作为该装置的输入图像)而是根据针对PB_D显示器的MDR图像来计算SDR分级。但是,当然,在实践中,这样的表现可以通过各种方式在装置中被数学化,例如,作为直接计算某种特定函数的新的一个或多个所需参数的方程,分级者使用所述特定函数将SDR和HDR分级链接为编码和传输的视频(例如,对于函数TMF,其在感知均匀空间中在亮度范围的亮和暗末端分别连接两个线性段与抛物线段,对于F_M函数,确定线性部分的斜率以及抛物线部分的位置的参数可能需要重新计算,并且这样的计算例如可以被实现为运行于装置、例如STB或TV中的处理器上的软件代码,只要其实现解释的一般表现即可)。最终,优选并且有利地利用参考图16进一步解释的技术将函数变换成乘法值。
还示出了对角线延伸坐标vLin如何经由几何投影P与输入辉度对应,并且对于输出辉度的旋转y轴而言,会同样这样讲。因此,通常,该调谐方法将通过连接所定位的度量上的点与对应的M_PB_D来确定函数F_M,但是会有从其偏离的变体,但是通常,所述定位将取决于所识别的M_PB_D位置,以及TMF函数的形状。例如,通常简单但强大的实施例来对度量进行缩放,例如利用简单的对应于PB_D的等步长(例如,每100nit的步长)的“滴答”的单次预建立所建立的那样,使得两个图像分级的其他PB_C遵守该TMF函数,该TMF函数表示辉度变换(即,例如,用于根据HDR图像计算100nit度量端点SDR图像辉度的SDR曲线,以及该曲线将如何位于对角线外部,例如,当将对角线旋转到水平方向时其上方的塔)。
图43阐述了根据的绘制系统(即,观看环境中的显示器)的黑色能力的需求而可用于调整重新分级的图像的另一种技术发现,并且取决于这样的因素(例如,显示器制造商能够在电视内部的内部处理中使用其,或向预处理STB或计算机等传输数据等),特别是在将LCD像素完全关闭驱动时,作为典型背光泄露的这样的因素,或者对应于观看室照明的特定量等的显示器前面板上的面纱等。读者应当理解,对于分级,存在可以被视为理论状况的情况。假设主分级是在特定生成侧HDR显示器上进行的(这将变为针对所传输的主HDR图像的参考显示器)。具体地,如果分级显示器不能够绘制比其PB_ref_grad=5000nit更亮的辉度,那么将能预期,尽管特定HDR图像可能包含更小辉度的像素,但是图像中任何内容将不高于5000nit。类似地,如果生成分级者不能够忠实地看到低于例如0.01nit的任何辉度,则能够预期在编码图像中将不存在任何低于0.01的内容,或者至少在精确含义上是这样的。现在,一些实施例可能针对比艺术家生成内容的参考监视器更黑的显示器导出次级调谐分级,但是在此将集中于更典型的情形,即另一种方式:接收侧查看者具有黑色表现更差的显示器。如果分级者利用其函数指定最亮的辉度将如何在主HDR图像M_HDR以及其SDR对应分级I_SDR之间映射,那么他还为最亮像素应当在I_MDR图像中是什么样而指定理想的期望的表现,例如,映射到其PB_C=700nit。如上文所解释的,对于低于峰值亮度的所有灰色,将存在类似的能调谐关系,并且在此现在能够集中于最黑的黑色。如果分级者指定最黑的内容黑色如何映射到SDR黑色(通常为0.1nit),他还会说出我们将如何预期该黑色针对MDR重新分级的图像而拉伸。亦即,能够计算虚拟(内容)黑色Bvirt。如果我们具有能够绘制不可思议黑色的理想显示器,这是预期MDR重新分级的图像要产生的效果。然而,如上所述,由于各种原因,所述显示器可能仅能够绘制实际黑色Bactl和/或查看者可能能够仅充分好地分辨高达这样的黑色的图像内容。这将希望向着并且围绕该实际黑色对至少最暗图像色彩做出进一步显示调谐。
这样做的一种良好方法是根据以下方法稍微扩展所需的偏移:
出于阐述的目的,我们将阐述:在精细分级步骤(仅仅作为示范,或者在另一个实施例中应用单独辉度映射函数之后)发生黑色水平调整,即,例如在图26中在单元2603与线性化单元2604之间有BLA单元。首先,BLA单元例如利用以下计算来确定虚拟黑色水平Bvirt:
Bvirt=B_SDR+(B_src-B_SDR)*(PB_D-PB_L)/(PB_src-PB_L)
其中,在本范例中,PB_src是HDR源内容的峰值亮度,即,例如1000nit或5000nit,并且SDR峰值亮度PB_L通常为100nit。
然后确定δ(delta)。
Delta=Bvirt-Bactl
(Bactl能够通过各种方式来确定,例如,制造商能够在其工厂中确定其并对其进行存储,或者能够在观看视频内容之前在观看位置确定其,等等)。
这被转换成均匀化亮度空间中的δ:
Del_PU=-P_OETF(abs(Delta)/PB_D;PB_D),
P_OETF为上文在图8中给出的相对于均匀化亮度代码分配函数的相对辉度。
那么,能够例如根据下式,进行对各种可能输入辉度的实际偏移,即经历先前的处理并且从单元2603得到:
LL=P_EOTF(Pho*(1+Del_PU)-Del_PU;PB_D), [方程11],
EOTF为Philips OETF的逆函数,如上文所描述的(方程6)。
备选地,若干种其他实施例是可能的,例如,仅在最暗色彩的区域中进行BLA,低于例如传输或接收器确定的黑色范围上限BK_D_U:
LL=P_EOTF[max(Pho*(1+{Del_PU/max(BK_D_U,abs(Del_PU))},Pho)-Del_PU;PB_D],等等。
参考图44图示了这种调谐如何能够工作的范例。在此,我们给出了能够如何通过函数将SDR图像转换成HDR或者至少更高DR(MDR)图像的范例,所述函数与更亮部分相比将图像的较暗部分调暗。要应用的标准函数会是函数4401,其将非常好地通过(0.0;0.0)。利用如例如以上方程11的方程,能够做出最终曲线,其针对最黑的输入具有偏移(即,在本实施例中,这些将是原始对应于主HDR辉度的SDR编码辉度),并且需要针对具有相对差的黑色绘制的显示器需要被变换成适当(充分可见)MDR辉度。这给出了函数4402。还示出了,所述算法可以通过稍微重新定义所述函数来在其他方向上工作(函数4403),但是也可以在当前技术框架和哲学中应用其他方法以生成超好的黑色。
读者应当理解,这种黑色调节表现能够在无需显示调谐备选的其余部分的过多细节的情况下、即在无需定向取向的度量原理的情况下工作。一般将涉及的是在未考虑黑色的情况下对MDR图像的某种初始优化,即,利用粗分级进行优化,大部分仔细考虑更亮像素限制,并且然后在黑色优化单元中进行黑色优化轮次。
在本文中所公开的算法组成可以(完全或部分地)在实践中实现为硬件(例如,专用IC的部分)或者运行于专用数字信号处理器或一般处理器等上的软件。存储器产品例如可以是便携式存储器,诸如蓝光盘或固态存储棒,但是也可以是异地服务器中的存储器,从该异地服务器能够将视频或图像下载到使用视频或图像的远程位置。
技术人员根据我们的表示应当理解哪些部件可以是任选的改进并且能够结合其他部件实现,以及方法的(任选)步骤如何对应于装置的相应模块,并且反之亦然。在本申请中的“装置”一词是以其最宽泛意义被使用的,亦即,能够实现特定目标的一组模块,并且因此能够是IC(的小电路部分)或者专用电器(诸如具有显示器的电器),或者联网系统的部分等。“布置”也意在用于最宽的意义,因此,可以包括单个装置、装置的部分、协作装置(的部分)的集合等。
所述计算机程序产品表示应当被理解为涵盖命令集的若干种任何物理实现,所述命令在一系列加载步骤(可以包括中间转换步骤,诸如转换成中间语言和最终处理器语言)之后使得一般或专用处理器能够向处理器中输入命令,并且执行本发明特性功能的任何功能。具体地,所述计算机程序产品可以被实现为在诸如磁盘或磁带的载体上的数据、存储器中存在的数据、经由有线或无线网络行进的数据或者纸上的程序代码。除了程序代码之外,程序所需的特性数据也可以被实现为计算机程序产品。
针对所述方法的操作所需的步骤中的一些步骤可以容易存在于处理器的功能中而不是在计算机程序产品中所描述的,诸如数据输入和输出步骤。
应该指出,上文所提到的实施例例示而不是限制本发明。在技术人员能够容易将所给出范例映射到权利要求的其他领域的情况下,为了简洁起见,未深入提到所有这些选项。除了权利要求中组合的本发明要素的组合之外,要素的其他组合也是可能的。要素的任意组合可以实现于单个专用要素中。
权利要求中括号之间的任何附图标记都并非意在限制权利要求。“包括”一词不排除存在权利要求中未列出的要素或方面。要素前的单词“一”或“一个”不排除存在多个这样的要素。

Claims (21)

1.一种计算输出图像(IM_MDR)的像素的所得的色彩(R2,G2,B2)的色彩变换装置(201),所述输出图像针对具有显示峰值亮度(PB_D)的显示器从输入图像(Im_in)的像素的输入色彩(R,G,B)开始被调谐,所述输入图像具有对应于与所述显示峰值亮度(PB_D)不同的第一图像峰值亮度(PB_IM1)的最大亮度代码,其特征在于所述色彩变换装置包括:
-色彩变换确定单元(4201,102;2501),其被布置成根据经由元数据输入部(116)接收到的包括至少一个辉度映射函数(CC)的色彩处理规范数据(MET_1)来确定色彩变换(TMF),所述色彩处理规范数据指定如何将所述输入图像(Im_in)的像素的辉度转换成针对第二图像(Im_RHDR)的那些像素的辉度,所述第二图像具有对应于其最大亮度代码的第二图像峰值亮度(PB_IM2),所述第二图像峰值亮度不同于所述显示峰值亮度(PB_D)和所述第一图像峰值亮度(PB_IM1),并且其中,所述第一图像峰值亮度除以所述第二图像峰值亮度大于2或小于1/2;
-缩放因子确定单元(4205,200;1310),其被布置成确定所得的公共乘法因子(gt;Ls),所述单元被布置成通过以下操作来确定该所得的公共乘法因子:首先沿着预定方向(DIR)建立预建立的度量(1850,METR),所述预定方向从与跨输入图像辉度的方向正交的垂直方向具有非零逆时针角度,所述预建立的度量用于在所述度量上定位显示峰值亮度以及与所述显示峰值亮度(PB_D)的值相对应的位置(M_PB_D),所述度量在表示身份变换函数的对角线的位置处开始;并且其次:建立第二色彩变换(1803;F_M),用于确定所述输出图像(IM_MDR)的像素的所得的色彩(R2,G2,B2)的至少辉度,所述第二色彩变换基于所述色彩变换(TMF)和所述位置(M_PB_D);并且再次:基于所述第二色彩变换(1803;F_M)来确定所得的公共乘法因子(gt;Ls);并且其中,所述色彩变换装置(201)还包括:
-缩放乘法器(114),其被布置成将所述输入色彩的色彩表示的三个色彩分量中的每个色彩分量与所得的公共乘法因子(gt)相乘,以获得所得的色彩(R2,G2,B2)。
2.根据权利要求1所述的色彩变换装置(201),其中,所述方向(DIR)是从所述垂直方向逆时针45度。
3.根据前述权利要求中的一项所述的色彩变换装置(201),其中,所述度量的两个外点(PBEH,PBE)分别对应于接收到的输入图像(im_in)的峰值亮度(PB_H)、由色彩变换函数共同编码的图像的另一峰值亮度(PB_L),能通过向所述输入图像应用在元数据中接收到的包括至少一个色调映射函数(CC)的色彩变换函数而根据所述输入图像重建所述共同编码的图像,并且其中,所述装置针对显示峰值亮度(PB_D)落在峰值亮度的范围(PB_L至PB_H)之内的显示器计算输出图像(IM_MDR)。
4.根据前述权利要求中的一项所述的色彩变换装置(201),其中,所述度量基于所述显示峰值亮度的对数表示。
5.根据前述权利要求中的一项所述的色彩变换装置(201),其中,所述度量是在感知均匀的色彩表示中定义的,所述感知均匀的色彩表示诸如是亮度表示,所述亮度表示能够通过应用函数Y=log10(1+(rho(PB)-1)*power(L;1/2.4))/log10(rho(PB)来获得,其中,Y是感知均匀的亮度值,L是辉度,PB是峰值亮度常数,并且rho是由方程rho(PB)=1+32*power(PB/10000;1/(2.4))而确定的曲线成形参数。
6.根据前述权利要求中的一项所述的色彩变换装置(201),其中,所述缩放因子确定单元(200)还被布置成根据先前在生成所述输入图像(Im_in)时确定的第二色彩处理规范数据(MET_2)来获得调谐参数(gpr;gpm),并且被布置成计算与所述度量上针对所述显示峰值亮度(PB_D)的位置之外的不同的位置相对应的所得的公共乘法因子(gtu),所述不同的位置基于所述调谐参数的值。
7.根据前述权利要求中的一项所述的色彩变换装置(201),其中,所述缩放因子确定单元(200)被布置成通过应用单调函数来确定所述不同的位置,所述单调函数根据至少一个输入参数(gpr)给出所述度量上的归一化的位置作为输出,所述单调函数能够由所述色彩变换装置自主地确定,或者基于规范元数据来确定,所述规范元数据规定要使用先前在生成所述输入图像(Im_in)时确定的哪种函数形状。
8.根据前述权利要求中的一项所述的色彩变换装置(201),其中,所述缩放乘法器(114)对三个非线性色彩分量做乘法,所述三个非线性色彩分量被定义为其各自的线性色彩分量的幂函数,例如Y’CbCr色彩分量的幂函数。
9.根据前述权利要求中的一项所述的色彩变换装置(201),包括图像分析单元(1110),所述图像分析单元被布置成分析所述输入图像(Im_in)中的对象的色彩,并且根据所述色彩来确定针对控制所述输出图像(IM_MDR)的所述计算的所述参数的至少一个参数,例如,所述调谐参数(gpm),或所述方向(DIR),或所述单调函数的形状,所述单调函数给出所述度量上的归一化的位置作为输出,以在所得的公共乘法因子(gt)的计算中使用。
10.根据前述权利要求中的一项所述的色彩变换装置(201),包括剪切量确定单元(3710),所述剪切量确定单元被布置成针对所述输入图像(Im_in)的最亮辉度的子范围来确定硬剪切到所述显示峰值亮度(PB_D)的最小量,其中,针对所述子范围之内的所述输入图像的辉度来确定所得的公共乘法因子(gt)的所述计算,以将所述输入辉度映射到所述显示峰值亮度(PB_D)。
11.根据前述权利要求中的一项所述的色彩变换装置(201),其中,计算所得的公共乘法因子(gt)基于粗辉度映射函数(Fcrs)和细辉度映射函数(CC),其特征在于:首先至少基于所述显示峰值亮度(PB_D)来确定显示最优的粗映射函数(FCrs_opt),用于确定与实际显示绘制状况相对应的所述辉度的最优子范围,并且该粗映射被应用于所述输入图像,获得粗亮度(Y’CG),并且然后,基于所述细辉度映射函数(CC)和至少所述显示峰值亮度(PB_D)来优化细映射函数,并且该细映射函数被应用于所述粗亮度。
12.根据权利要求11所述的色彩变换装置(201),其中,与所述显示峰值亮度相对应的所述粗辉度映射和所述细辉度映射是沿着具有不同方向(DIR)的度量(1850)来确定的,其中,优选地,所述粗映射是对角线地执行的,并且所述细映射是垂直地执行的。
13.根据前述权利要求中的一项所述的色彩变换装置(201),包括黑色水平估计单元(3702)以建立对显示器的黑色水平的估计,其中,所得的公共乘法因子(gt)的所述计算取决于所述黑色水平。
14.根据权利要求13所述的色彩变换装置(201),其中,首先根据具有固定照明水平的参考观看状况来建立辉度映射函数,并且接下来针对所述黑色水平的值来调节该函数,根据经调节的函数来计算所得的公共乘法因子(gt)。
15.一种HDR图像解码器,包括根据前述权利要求中的一项所述的色彩变换装置(201)。
16.一种计算输出图像(IM_MDR)的像素的所得的色彩(R2,G2,B2)的方法,所述输出图像针对具有显示峰值亮度(PB_D)的显示器从输入图像(Im_in)的像素的输入色彩(R,G,B)开始被调谐,所述输入图像具有对应于与所述显示峰值亮度(PB_D)不同的第一图像峰值亮度(PB_IM1)的最大亮度代码,其特征在于所述方法包括:
-根据经由元数据输入部(116)接收到的包括至少一个辉度映射函数(CC)的色彩处理规范数据(MET_1)来确定色彩变换(TMF),所述色彩处理规范数据(MET_1)指定如何将所述输入图像(Im_in)的像素的辉度转换成针对第二图像(Im_RHDR)的那些像素的辉度,所述第二图像具有与其最大亮度代码相对应的第二图像峰值亮度(PB_IM2),所述第二图像峰值亮度不同于所述显示峰值亮度(PB_D)和所述第一图像峰值亮度(PB_IM1),并且其中,所述第一图像峰值亮度除以所述第二图像峰值亮度大于2或小于1/2;
-通过以下操作来确定所得的公共乘法因子(gt;Ls):a)沿着预定方向(DIR)建立预建立的度量(1850,METR)以及在该度量上与所述显示峰值亮度(PB_D)的值相对应的位置(M_PB_D),所述预定方向从与跨输入图像辉度的方向正交的垂直方向具有非零逆时针角度,所述度量在输入辉度轴与输出辉度轴之间的对角线的位置处开始,
b)建立第二色彩变换(1803;F_M),用于确定所述输出图像(IM_MDR)的像素的所得的色彩(R2,G2,B2)的至少辉度,所述第二色彩变换基于所述色彩变换(TMF)和所述位置(M_PB_D),并且c)基于所述第二色彩变换(1803;F_M)来计算所得的公共乘法因子(gt;Ls);并且
-将所述输入色彩的色彩表示的三个色彩分量中的每个色彩分量与所得的公共乘法因子(gt)相乘,以获得所得的色彩(R2,G2,B2)。
17.根据权利要求16所述的方法,其中,所述方向(DIR)是从所述垂直方向逆时针45度。
18.根据权利要求16所述的方法,其中,所述度量基于所述显示峰值亮度的对数表示。
19.根据权利要求16所述的方法,其中,所述位置(M_PB_D)的计算取决于计算等于((B-1)/(B+1))/((A-1)/(A+1))的缩放因子(SS),其中,A是预定对数函数的输出值,所述预定对数函数的形状由所述第二图像的峰值亮度来确定,当使用相对辉度作为输入时,所述输出值等于所述第一图像峰值亮度除以所述第二图像峰值亮度的值,并且其中,B是所述预定对数函数的输出值,所述预定对数函数的形状由所述显示器的所述峰值亮度来确定,当使用相对辉度作为输入时,所述输出值等于所述第一图像峰值亮度除以所述显示峰值亮度的值。
20.根据权利要求16所述的方法,其中,针对至少一些输入辉度来确定第二位置(M_PB_D2),所述第二位置不等于所述位置(M_PB_D)。
21.一种包括代码的计算机程序存储器,所述代码当被运行时应用以上方法权利要求中的任一项权利要求的所有步骤或者针对以上装置权利要求中的任一项权利要求的对应方法步骤。
CN201680075178.XA 2015-12-21 2016-12-21 针对特定显示器优化高动态范围图像 Active CN108431886B (zh)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
EP15201561 2015-12-21
EP15201561.6 2015-12-21
EP16167548.3 2016-04-28
EP16167548 2016-04-28
EP16170354.1 2016-05-19
EP16170354 2016-05-19
PCT/EP2016/082107 WO2017108906A1 (en) 2015-12-21 2016-12-21 Optimizing high dynamic range images for particular displays

Publications (2)

Publication Number Publication Date
CN108431886A true CN108431886A (zh) 2018-08-21
CN108431886B CN108431886B (zh) 2021-07-20

Family

ID=57755279

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680075178.XA Active CN108431886B (zh) 2015-12-21 2016-12-21 针对特定显示器优化高动态范围图像

Country Status (10)

Country Link
US (1) US10863201B2 (zh)
EP (1) EP3394850B1 (zh)
JP (1) JP6871945B2 (zh)
CN (1) CN108431886B (zh)
ES (1) ES2808177T3 (zh)
MX (1) MX2018007486A (zh)
PT (1) PT3394850T (zh)
RU (1) RU2721762C2 (zh)
WO (1) WO2017108906A1 (zh)
ZA (1) ZA201804899B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109274985A (zh) * 2018-10-12 2019-01-25 腾讯科技(深圳)有限公司 视频转码方法、装置、计算机设备和存储介质
WO2021073209A1 (zh) * 2019-10-18 2021-04-22 华为技术有限公司 处理高动态范围图像的方法和装置
CN113112429A (zh) * 2021-04-27 2021-07-13 大连海事大学 一种用于复杂光照条件下有雾图像的通用增强框架
CN113191986A (zh) * 2021-05-28 2021-07-30 浙江大华技术股份有限公司 一种图像处理方法及装置
CN113228670A (zh) * 2018-12-21 2021-08-06 交互数字Vc控股公司 对图像进行解码
CN116939255A (zh) * 2023-09-15 2023-10-24 苏州华兴源创科技股份有限公司 视频图像的显示方法、装置、存储介质

Families Citing this family (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015190044A1 (ja) * 2014-06-10 2015-12-17 パナソニックIpマネジメント株式会社 表示システム、表示方法および表示装置
CN107211130B (zh) * 2015-01-30 2020-07-24 交互数字Vc控股公司 对彩色画面进行编码和解码的方法和装置
US10880557B2 (en) 2015-06-05 2020-12-29 Fastvdo Llc High dynamic range image/video coding
JP6320440B2 (ja) 2015-08-04 2018-05-09 ドルビー ラボラトリーズ ライセンシング コーポレイション ハイダイナミックレンジ信号のための信号再構成
US10542296B2 (en) * 2016-05-10 2020-01-21 Dolby Laboratories Licensing Corporation Chroma reshaping of HDR video signals
EP4013026A1 (en) * 2016-06-27 2022-06-15 Sony Group Corporation Signal processing device, signal processing method, camera system, video system, and server
JPWO2018021261A1 (ja) * 2016-07-27 2019-05-16 パナソニックIpマネジメント株式会社 画像処理装置、再生装置、画像処理方法、および、再生方法
US10834400B1 (en) * 2016-08-19 2020-11-10 Fastvdo Llc Enhancements of the AV1 video codec
DK3559901T3 (da) * 2017-02-15 2020-08-31 Dolby Laboratories Licensing Corp Tonekurveafbildning for billeder med højt dynamikområde
EP3399497A1 (en) 2017-05-05 2018-11-07 Koninklijke Philips N.V. Optimizing decoded high dynamic range image saturation
US10778978B2 (en) * 2017-08-21 2020-09-15 Qualcomm Incorporated System and method of cross-component dynamic range adjustment (CC-DRA) in video coding
EP3451677A1 (en) * 2017-09-05 2019-03-06 Koninklijke Philips N.V. Graphics-safe hdr image luminance re-grading
US10856040B2 (en) * 2017-10-31 2020-12-01 Avago Technologies International Sales Pte. Limited Video rendering system
JP7074461B2 (ja) * 2017-11-22 2022-05-24 インターデジタル ヴイシー ホールディングス, インコーポレイテッド ディスプレイ適合hdr画像を再構成する方法およびデバイス
US10600163B2 (en) 2017-11-22 2020-03-24 Interdigital Vc Holdings, Inc. Method and device for reconstructing a display adapted HDR image
EP3537697A1 (en) 2018-03-06 2019-09-11 Koninklijke Philips N.V. Versatile dynamic range conversion processing
US10546554B2 (en) * 2018-03-26 2020-01-28 Dell Products, Lp System and method for adaptive tone mapping for high dynamic ratio digital images
US10917583B2 (en) 2018-04-27 2021-02-09 Apple Inc. Standard and high dynamic range display systems and methods for high dynamic range displays
KR20200032584A (ko) * 2018-09-18 2020-03-26 엘지전자 주식회사 영상표시장치
US11158286B2 (en) * 2018-10-05 2021-10-26 Disney Enterprises, Inc. Machine learning color science conversion
WO2020175231A1 (ja) * 2019-02-28 2020-09-03 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
US10992902B2 (en) 2019-03-21 2021-04-27 Disney Enterprises, Inc. Aspect ratio conversion with machine learning
CN110021256B (zh) * 2019-04-02 2021-11-23 Oppo广东移动通信有限公司 显示亮度调整方法及相关产品
US11803948B2 (en) * 2019-04-23 2023-10-31 Dolby Laboratories Licensing Corporation Display management for high dynamic range images
US11405582B2 (en) * 2019-06-28 2022-08-02 Meta Platforms, Inc. Preprocessing of high-dynamic-range video using a hybrid lookup table scheme
EP3764346A1 (en) * 2019-07-09 2021-01-13 Koninklijke Philips N.V. Adjustment of display optimization behaviour for hdr images
US11127124B2 (en) * 2019-10-28 2021-09-21 Adobe Inc. Evenly spaced curve sampling technique for digital visual content transformation
KR20220088420A (ko) * 2019-11-01 2022-06-27 엘지전자 주식회사 신호처리장치 및 이를 구비하는 영상표시장치
EP3873096A1 (en) * 2020-02-25 2021-09-01 Koninklijke Philips N.V. Improved hdr color processing for saturated colors
US11082473B1 (en) * 2020-03-15 2021-08-03 Tfi Digital Media Limited Method for complexity reduction in video coding by coding parameters reuse
JP2021153236A (ja) * 2020-03-24 2021-09-30 キヤノン株式会社 表示装置および表示方法
CN113628106A (zh) * 2020-05-08 2021-11-09 华为技术有限公司 图像动态范围处理方法和装置
KR20220016713A (ko) * 2020-08-03 2022-02-10 삼성전자주식회사 조도 측정 방법 및 장치
WO2022039930A1 (en) 2020-08-17 2022-02-24 Dolby Laboratories Licensing Corporation Picture metadata for high dynamic range video
KR20220028698A (ko) * 2020-08-31 2022-03-08 삼성전자주식회사 고해상도 디스플레이를 위한 영상 처리 장치, 영상 처리 방법 및 이를 포함하는 어플리케이션 프로세서
CN112767508B (zh) * 2021-01-18 2023-12-26 赛诺联合医疗科技(北京)有限公司 针对呼吸门控图像的伪彩显示方法、系统、设备以及介质
US11418725B1 (en) 2021-11-29 2022-08-16 Unity Technologies Sf Increasing dynamic range of a virtual production display
WO2023094871A1 (en) * 2021-11-29 2023-06-01 Weta Digital Limited Increasing dynamic range of a virtual production display
EP4220539A1 (en) 2022-01-27 2023-08-02 Koninklijke Philips N.V. Automatic luminance adjustment for hdr video coding

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101082992A (zh) * 2007-07-06 2007-12-05 浙江大学 实时高动态范围图像的绘制和显示方法
KR20110048811A (ko) * 2009-11-03 2011-05-12 중앙대학교 산학협력단 입력 영상의 동적 범위를 변환하는 방법 및 장치
WO2012127401A1 (en) * 2011-03-24 2012-09-27 Koninklijke Philips Electronics N.V. Apparatuses and methods for analyzing image gradings
CN102959957A (zh) * 2010-07-06 2013-03-06 皇家飞利浦电子股份有限公司 在多视图视频编码中从低动态范围图像生成高动态范围图像
CN103327323A (zh) * 2012-03-14 2013-09-25 杜比实验室特许公司 高比特深度视频到低比特深度显示器的高效色调映射
WO2015007505A1 (en) * 2013-07-18 2015-01-22 Koninklijke Philips N.V. Methods and apparatuses for creating code mapping functions for encoding an hdr image, and methods and apparatuses for use of such encoded images
CN104364820A (zh) * 2012-10-08 2015-02-18 皇家飞利浦有限公司 具有颜色约束的亮度改变图像处理
US20150117791A1 (en) * 2012-03-26 2015-04-30 Koninklijke Philips N.V. Brightness region-based apparatuses and methods for hdr image encoding and decoding

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8218625B2 (en) 2004-04-23 2012-07-10 Dolby Laboratories Licensing Corporation Encoding, decoding and representing high dynamic range images
WO2007082562A2 (en) 2006-01-23 2007-07-26 MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. High dynamic range codecs
US8014445B2 (en) * 2006-02-24 2011-09-06 Sharp Laboratories Of America, Inc. Methods and systems for high dynamic range video coding
US8135230B2 (en) * 2007-07-30 2012-03-13 Dolby Laboratories Licensing Corporation Enhancing dynamic ranges of images
US8363131B2 (en) * 2009-01-15 2013-01-29 Aptina Imaging Corporation Apparatus and method for local contrast enhanced tone mapping
US8831340B2 (en) * 2010-01-27 2014-09-09 Adobe Systems Incorporated Methods and apparatus for tone mapping high dynamic range images
US8594426B2 (en) * 2011-02-04 2013-11-26 Apple Inc. Color matching using color segmentation
CN103493489B (zh) * 2011-04-14 2016-10-19 杜比实验室特许公司 基于原色分级模型的图像预测
US8988552B2 (en) * 2011-09-26 2015-03-24 Dolby Laboratories Licensing Corporation Image formats and related methods and apparatuses
EP2603000B1 (en) * 2011-12-08 2017-11-01 Dolby Laboratories Licensing Corporation Guided prediction-filtering in layered vdr image coding
EP2989793B1 (en) * 2013-11-13 2017-04-05 Dolby Laboratories Licensing Corporation Workflow for content creation and guided display management of enhanced dynamic range video
EP3231174B1 (en) * 2014-12-11 2020-08-26 Koninklijke Philips N.V. Optimizing high dynamic range images for particular displays

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101082992A (zh) * 2007-07-06 2007-12-05 浙江大学 实时高动态范围图像的绘制和显示方法
KR20110048811A (ko) * 2009-11-03 2011-05-12 중앙대학교 산학협력단 입력 영상의 동적 범위를 변환하는 방법 및 장치
CN102959957A (zh) * 2010-07-06 2013-03-06 皇家飞利浦电子股份有限公司 在多视图视频编码中从低动态范围图像生成高动态范围图像
WO2012127401A1 (en) * 2011-03-24 2012-09-27 Koninklijke Philips Electronics N.V. Apparatuses and methods for analyzing image gradings
CN103327323A (zh) * 2012-03-14 2013-09-25 杜比实验室特许公司 高比特深度视频到低比特深度显示器的高效色调映射
US20150117791A1 (en) * 2012-03-26 2015-04-30 Koninklijke Philips N.V. Brightness region-based apparatuses and methods for hdr image encoding and decoding
CN104364820A (zh) * 2012-10-08 2015-02-18 皇家飞利浦有限公司 具有颜色约束的亮度改变图像处理
WO2015007505A1 (en) * 2013-07-18 2015-01-22 Koninklijke Philips N.V. Methods and apparatuses for creating code mapping functions for encoding an hdr image, and methods and apparatuses for use of such encoded images

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109274985A (zh) * 2018-10-12 2019-01-25 腾讯科技(深圳)有限公司 视频转码方法、装置、计算机设备和存储介质
CN113228670A (zh) * 2018-12-21 2021-08-06 交互数字Vc控股公司 对图像进行解码
WO2021073209A1 (zh) * 2019-10-18 2021-04-22 华为技术有限公司 处理高动态范围图像的方法和装置
US11875487B2 (en) 2019-10-18 2024-01-16 Huawei Technologies Co., Ltd. High dynamic range image processing method and apparatus
CN113112429A (zh) * 2021-04-27 2021-07-13 大连海事大学 一种用于复杂光照条件下有雾图像的通用增强框架
CN113112429B (zh) * 2021-04-27 2024-04-16 大连海事大学 一种用于复杂光照条件下有雾图像的通用增强框架
CN113191986A (zh) * 2021-05-28 2021-07-30 浙江大华技术股份有限公司 一种图像处理方法及装置
CN113191986B (zh) * 2021-05-28 2022-09-30 浙江大华技术股份有限公司 一种图像处理方法及装置
CN116939255A (zh) * 2023-09-15 2023-10-24 苏州华兴源创科技股份有限公司 视频图像的显示方法、装置、存储介质
CN116939255B (zh) * 2023-09-15 2023-12-01 苏州华兴源创科技股份有限公司 视频图像的显示方法、装置、存储介质

Also Published As

Publication number Publication date
CN108431886B (zh) 2021-07-20
MX2018007486A (es) 2018-09-05
BR112018012456A2 (pt) 2018-12-11
JP2019502221A (ja) 2019-01-24
RU2018126764A (ru) 2020-01-23
ZA201804899B (en) 2020-05-27
RU2721762C2 (ru) 2020-05-22
RU2018126764A3 (zh) 2020-03-23
WO2017108906A1 (en) 2017-06-29
EP3394850B1 (en) 2020-05-13
PT3394850T (pt) 2020-08-14
ES2808177T3 (es) 2021-02-25
EP3394850A1 (en) 2018-10-31
US20190052908A1 (en) 2019-02-14
JP6871945B2 (ja) 2021-05-19
US10863201B2 (en) 2020-12-08

Similar Documents

Publication Publication Date Title
CN108431886A (zh) 针对特定显示器优化高动态范围图像
US11195492B2 (en) Optimizing high dynamic range images for particular displays
CN107111980B (zh) 针对特定显示器优化高动态范围图像
CN104995903B (zh) 改进的hdr图像编码和解码方法及设备
CN107005720B (zh) 用于编码hdr图像的方法和装置
CN105393525B (zh) 创建用于对hdr图像编码的代码映射函数的方法和装置以及使用这样的编码图像的方法和装置
CN103430212B (zh) 用于分析图像分级的设备和方法
CN107211079A (zh) 用于图像和视频的动态范围编码
CN108781246B (zh) 用于动态范围映射的饱和度处理指定
CN108521859A (zh) 处理多个hdr图像源
CN109219961A (zh) 对hdr视频进行编码和解码
CN108182672A (zh) 用于对hdr图像进行编码的方法和装置以及用于使用这样的编码图像的方法和装置
CN107258078B (zh) 简单但通用的动态范围编码
JP2020520145A (ja) 復号された高ダイナミックレンジ画像の彩度を最適化すること
KR20180008757A (ko) 위치 기반 디스플레이 특성의 환경 적응을 갖춘 전자 디스플레이
US11741873B2 (en) Adjustment of display optimization behaviour for HDR images
KR20200145843A (ko) Hdr 이미지 인코딩 방법 및 장치

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant